Podatek wyrównawczy

Definicja robocza

Podatek wyrównawczy (alignment tax) to różnica między tym, co system sztucznej inteligencji potrafiłby, gdyby budować go bez względu na dopasowanie do intencji ludzi, a tym, co potrafi wersja, na której dopasowaniu nam zależy. Mierzy się go w utraconej sprawności, dodatkowych obliczeniach, czasie zespołu i opóźnieniu wdrożenia; pieniądze są tylko jedną z walut. W wersji potocznej to „koszt bezpieczeństwa”, który firma ponosi albo omija; w wersji technicznej to mierzalna regresja na testach po treningu dopasowującym, na przykład spadek wyników na publicznych zbiorach po uczeniu ze wzmocnieniem z informacji zwrotnej od ludzi (RLHF). Pojęcie jest użyteczne, bo przesuwa pytanie z „czy umiemy zbudować bezpieczny system” na „czy ktokolwiek, kto konkuruje, zechce go wdrożyć”.

Geneza i rodowód

Termin wszedł do obiegu za sprawą Paula Christiano, wówczas badacza w OpenAI, w wystąpieniu „Current work in AI alignment” na konferencji EA Global w San Francisco w 2019 r.; transkrypt ukazał się na forum Effective Altruism 3 kwietnia 2020 r. Christiano zaznacza w nim, że sam język „podatku” zawdzięcza Eliezerowi Yudkowsky’emu, ale to on nadał mu formę rachunku: wyobraźmy sobie, że ktoś rozsądny chce wdrożyć dopasowany system, i zapytajmy, ile za to zapłaci. Stąd dwie strategie — obniżanie podatku przez badania techniczne i opłacanie go przez koordynację, regulację albo przewagę zasobów — oraz dwa bieguny: świat bez podatku, w którym nikt nie ma powodu wdrażać systemów niedopasowanych, i świat z podatkiem nieskończonym, w którym dopasowanego systemu nie da się zbudować wcale. W latach 2021–2022 pojęcie przeszło z filozofii strategii do empirii: zespół Anthropic (Askell i in., 2021; Bai i in., 2022) i zespół InstructGPT w OpenAI (Ouyang i in., 2022) zaczęli mierzyć „podatki i bonusy” dopasowania jako różnice wyników na testach przed treningiem dopasowującym i po nim. Od 2023 r. termin krąży też w inżynierii produktowej, gdzie oznacza po prostu koszt zabezpieczeń w produkcie, co rozmywa pierwotny sens: Christiano pytał o decyzję wdrożeniową na granicy możliwości, nie o irytację użytkownika odmową czatbota.

Rodowód środkowoeuropejski

Nie znaleźliśmy udokumentowanego związku tego pojęcia z myślą lub doświadczeniem Europy Środkowej.

Dlaczego teraz

Pojęcie stało się potrzebne, gdy dopasowanie przestało być tematem seminaryjnym, a stało się kosztem w budżecie. Artykuł o InstructGPT (marzec 2022) pokazał regresje na zbiorach SQuAD, DROP, HellaSwag i w tłumaczeniu WMT po treningu RLHF, nazwał je wprost podatkiem wyrównawczym i opisał metodę jego zbijania, czyli domieszkę danych z pretreningu do aktualizacji PPO. Anthropic w tym samym roku ogłosił, że powyżej około 10 mld parametrów dopasowanie jest „zasadniczo bezkosztowe”, a potem seria prac (m.in. Lin i in., 2023–2024) odpowiedziała, że podatek nie zniknął, tylko przybrał postać zapominania zdolności z pretreningu. Równolegle wyścig po ChatGPT (listopad 2022) uczynił z decyzji „ile bezpieczeństwa wdrożyć” decyzję rynkową podejmowaną co kwartał, a unijny AI Act (2024) i brytyjskie oraz amerykańskie instytuty bezpieczeństwa AI zaczęły mówić językiem Christiano, nie nazywając go po imieniu: regulacja to zbiorowe opłacenie podatku, gdy badania nie zdołały go obniżyć. W 2025–2026 r. doszły modele rozumujące i agenty, w których koszt dopasowania przenosi się z wyników na testach na czas odpowiedzi, liczbę tokenów i zaufanie do narzędzi; miara podatku musiała się zmienić wraz z produktem.

Siła wyjaśniająca

Pojęcie pozwala oddzielić dwa pytania, które w debacie o bezpieczeństwie AI zlewają się w jedno: czy potrafimy zbudować dopasowany system i czy ktoś go wybierze, mając pod ręką sprawniejszy niedopasowany. Po pierwsze, tłumaczy, dlaczego laboratoria publikują wyniki pokazujące „zerowy koszt” dopasowania z takim zapałem: zerowy podatek zdejmuje z nich zarzut, że bezpieczeństwo szkodzi konkurencyjności, i unieważnia argument za regulacją. Po drugie, wyjaśnia logikę wyścigu: jeśli podatek jest dodatni, każdy uczestnik ma pokusę, by zapłacić go mniej niż rywale, a dopasowanie staje się dobrem publicznym, które rynek zaniża. Po trzecie, wskazuje, gdzie szukać dźwigni: badania obniżające podatek (lepsze metody treningu, tańsze oceny) i mechanizmy jego opłacania (normy branżowe, regulacja, subsydia) są komplementarne, a nie konkurencyjne, co zmienia spór „technika czy polityka” w pytanie o proporcje.

Osie sporu

Niedoceniany kąt

Najciekawsze w rachunku Christiano jest to, że podatek płaci się w walucie, której nie widać w tabelach wyników: w czasie. Dopasowanie wymaga ocen ludzkich, red teamingu i iteracji, a w wyścigu o pierwszeństwo kilka tygodni opóźnienia bywa droższe niż kilka punktów procentowych na teście. Dlatego laboratoria mogą uczciwie raportować „zerowy podatek” w sprawności i jednocześnie płacić wysoki podatek w kalendarzu, a presja, by go obniżyć, przenosi się na skracanie ocen, nie na pogarszanie modelu. Drugi pomijany kąt to podatek po stronie użytkownika: koszt odmów, nadmiernej ostrożności i spowolnionych odpowiedzi nie trafia do bilansu laboratorium, lecz do bilansu klientów, którzy w odpowiedzi szukają modeli otwartych bez zabezpieczeń. Podatek nie znika; zmienia podatnika.

W przekładzie

Polski termin nie jest ustalony. „Podatek wyrównawczy” oddaje sens dopasowania jako wyrównania celów systemu z intencją ludzi, ale koliduje z nazwą znaną z prawa podatkowego (podatek wyrównawczy w PRL, obecnie globalny podatek wyrównawczy OECD), więc bez kontekstu brzmi jak hasło z urzędu skarbowego. „Podatek od dopasowania” jest przejrzystszy, lecz ciężki, a „podatek bezpieczeństwa” (kalka safety tax) zawęża pojęcie do jednego celu dopasowania. Zostajemy przy „podatku wyrównawczym” jako nazwie hasła, z zaleceniem, by w tekstach ciągłych przy pierwszym użyciu podawać termin angielski.