Modele bazowe

Definicja robocza

Model bazowy (foundation model) to model uczony na szerokich danych, zwykle przez samonadzór na ogromną skalę, który nie jest budowany pod jedno zadanie, lecz stanowi punkt wyjścia do adaptacji — przez dostrajanie, prompt albo dobudowanie warstw — do wielu zadań docelowych. Termin opisuje rolę w ekosystemie, a nie architekturę ani rozmiar: ten sam model może być bazowy dla setek aplikacji, a wyspecjalizowany model o podobnej wielkości bazowy nie jest. W użyciu potocznym „model bazowy” bywa synonimem dużego modelu językowego; w ujęciu technicznym obejmuje także modele obrazu, kodu, białek i dane wielomodalne, a w ujęciu regulacyjnym (AI Act) występuje jako „model AI ogólnego przeznaczenia”.

Geneza i rodowód

Termin wprowadził w sierpniu 2021 r. raport „On the Opportunities and Risks of Foundation Models”, podpisany przez 114 autorów ze Stanfordu i wydany przez nowo powołane Center for Research on Foundation Models (CRFM) przy Stanford HAI. Raport nie opisywał nowej techniki: BERT (2018) i GPT-3 (2020) już istniały, a praktyka „najpierw pretrening, potem dostrajanie” była standardem przetwarzania języka. Nowe było nazwanie dwóch zjawisk: emergencji (zdolności pojawiają się ze skali, nie z projektu) i homogenizacji (coraz więcej systemów dziedziczy wady i zalety tych samych kilku modeli). Autorzy odrzucili dostępne nazwy: „duży model językowy” był za wąski, „model samonadzorowany” zbyt techniczny, „model wstępnie wytrenowany” sugerował, że istota tkwi w tym, co dzieje się później. Wybrali „foundation”, nie „foundational”, bo chcieli oddać stan „niedokończony, lecz ważny”, a nie sugerować, że modele dostarczają zasad. Nazwa została szybko przechwycona przez obieg polityczny: amerykański dekret wykonawczy 14110 z 30 października 2023 r. zdefiniował foundation model z progiem parametrów, a unijny AI Act z 2024 r. wybrał własny termin i kryterium ogólności wyników zamiast rozmiaru.

Rodowód środkowoeuropejski

Raport CRFM, prowadząc linię rozwoju samonadzorowanego uczenia, cofa się „do osadzeń słów” i w tym miejscu cytuje pracę Tomáša Mikolova i współautorów z 2013 r., znaną jako word2vec. Mikolov ukształtował się w Brnie: na Wydziale Informatyki Vysoké učení technické obronił 2 października 2012 r. doktorat „Statistical Language Models Based on Neural Networks” (promotor Jan Černocký), a dwa lata wcześniej, z zespołem brneńskim i Sanjeevem Khudanpurem, przedstawił na Interspeech 2010 model językowy oparty na sieci rekurencyjnej, który przechowuje w stanie wewnętrznym informację o wcześniejszych słowach. Word2vec powstał już w Google, więc do regionu należy formacja i pierwsza linia prac, nie sam cytowany artykuł. Związek jest wąski i tak go zapisujemy: autorzy raportu wskazują jedno ogniwo łańcucha, który doprowadził do modeli bazowych, i to ogniwo wyszło z brneńskiej szkoły modelowania języka. Dla samego terminu, dla pojęć emergencji i homogenizacji ani dla autorów raportu nie znaleźliśmy związku z regionem.

Dlaczego teraz

Między 2020 a 2026 r. jeden model przestał być narzędziem badawczym, a stał się infrastrukturą. GPT-3 (maj 2020) pokazał adaptację przez prompt; raport CRFM (sierpień 2021) nazwał to zjawisko; ChatGPT (listopad 2022) przeniósł je do setek milionów użytkowników. W ślad poszła regulacja: dekret 14110 (październik 2023, później uchylony) i AI Act, którego art. 51 domniemywa „ryzyko systemowe” modelu ogólnego przeznaczenia przy ponad 10^25 operacji zmiennoprzecinkowych użytych do treningu — pierwszy w prawie europejskim próg zdefiniowany przez koszt obliczeń. Równolegle wybuchł spór o otwartość: publikacja wag Llamy (2023) i DeepSeek (2025) podważyła tezę, że bazę będzie dostarczać kilka firm. W Polsce powstały własne projekty modeli bazowych dla języka polskiego, co przeniosło pytanie „czyj fundament?” z poziomu metafory na poziom budżetu państwa.

Siła wyjaśniająca

Pojęcie pozwala zobaczyć zależności, które znikają, gdy patrzymy na pojedyncze aplikacje. Po pierwsze, dziedziczenie wad: błąd lub uprzedzenie w jednym modelu rozlewa się na wszystkie systemy zbudowane na nim — dlatego audyt czatbota banku bez audytu modelu, na którym stoi, jest fikcją. Po drugie, ekonomia platformy: koszt treningu ponosi raz jeden podmiot, a tysiące firm płacą za dostęp, co tworzy strukturę rynku znaną z systemów operacyjnych i chmury, z tymi samymi pytaniami o rentę i wyjście. Po trzecie, rozdział odpowiedzialności: gdy dostawca bazy, firma dostrajająca i wdrażający to trzy różne podmioty, pojęcie wyznacza miejsca, w których prawo musi przypisać obowiązki — właśnie na tej mapie oparł się łańcuch „dostawca modelu ogólnego przeznaczenia – dostawca systemu AI” w AI Act.

Osie sporu

Niedoceniany kąt

Rzadko zauważa się, że pojęcie przeniosło ciężar z algorytmu na artefakt. Przez dekady przedmiotem nauki o uczeniu maszynowym były metody: można było je opisać w artykule i powtórzyć w innym laboratorium. Model bazowy jest konkretnym obiektem — zbiorem wag wytrenowanym raz, za setki milionów dolarów, na danych, których nikt nie opublikuje — i to on, nie metoda, staje się jednostką cytowania, regulacji i rynku. Nauka o AI upodabnia się przez to do nauk zależnych od wielkich instrumentów, jak fizyka cząstek czy astronomia: istnieje kilka „teleskopów”, dostęp do nich jest reglamentowany, a większość badaczy pracuje na ich wynikach. Pytanie o replikowalność, które raport CRFM stawia mimochodem, jest w istocie pytaniem o to, czy dziedzina pozostanie nauką w dotychczasowym sensie.

W przekładzie

Polski termin nie jest ustalony. „Model bazowy” oddaje funkcję (baza do adaptacji), ale gubi metaforę budowlaną i koliduje z technicznym użyciem base model na oznaczenie wersji przed dostrojeniem instrukcjami. „Model fundamentowy” zachowuje metaforę, lecz brzmi jak z budownictwa, a „model fundacyjny” myli z fundacją jako instytucją. Prawo unijne obchodzi problem, używając „modelu AI ogólnego przeznaczenia”, co jest poprawne, ale ciężkie i pomija element niedokończenia, na którym zależało autorom. Wybieramy „model bazowy” jako najczęstszy w polskiej praktyce, z zastrzeżeniem, że w tekstach technicznych trzeba odróżniać go od base model.