Moloch / koordynacja

Definicja robocza

Moloch to nazwa dla sytuacji, w której wielu aktorów konkuruje o ograniczoną nagrodę, a każdy z nich osobno postępuje racjonalnie, lecz łączny wynik niszczy to, na czym wszystkim zależało. Techniczna wersja pojęcia to pułapka wielobiegunowa (multipolar trap): układ, z którego nikt nie może wyjść samodzielnie, bo kto pierwszy zwolni, przegrywa, a kto „poświęci” dodatkową wartość (czas, bezpieczeństwo, uczciwość, dzieciństwo), zyskuje przewagę. Potoczna wersja, popularna w internecie, traktuje Molocha jak złowrogiego bożka albo wygodny skrót na wszystko, co się nie podoba; wersja analityczna wskazuje konkretną strukturę wypłat i pyta, kto i jak mógłby ją zmienić. Słowo „koordynacja” w nazwie wskazuje na lekarstwo: jedyne wyjście z pułapki to wspólne, wiarygodne zobowiązanie, że nikt nie będzie się ścigał.

Geneza i rodowód

Nazwę dał poemat Allena Ginsberga „Howl” (wydany w 1956 r. przez City Lights), którego druga część wylicza, czym jest Moloch: fabryki, pieniądze, więzienia, bezosobowy mechanizm miasta, który pożera własne dzieci. Pojęcie w dzisiejszym sensie sformułował psychiatra i bloger Scott Alexander w eseju „Meditations on Moloch” na blogu Slate Star Codex (30 lipca 2014). Alexander pyta, kim właściwie jest ten Moloch, skoro nikt go nie chciał, i odpowiada: nikim, to brak koordynacji. Następnie zestawia czternaście przykładów, od dylematu więźnia i aukcji dolara przez pułapkę malthusjańską, wyścig zbrojeń, raka i „wyścig na dno” w regulacjach aż po edukację, naukę i Kongres, pokazując w każdym tę samą strukturę: konkurencja zmusza do poświęcania wartości, które nie dają przewagi. Za tym stoi starsza tradycja: teoria gier (dylemat więźnia z lat 50.), „The Tragedy of the Commons” Garretta Hardina (1968), analiza problemów koordynacji u Thomasa Schellinga oraz „Superintelligence” Nicka Bostroma (2014), którą esej cytuje jako źródło scenariuszy wielobiegunowych. Pojęcie zostało przechwycone przez dwa obiegi: środowisko racjonalistów i ludzi od bezpieczeństwa AI, gdzie stało się skrótem na wyścig laboratoriów, oraz publicystykę internetową, w której „Moloch” bywa po prostu nazwą kapitalizmu albo nowoczesności, co gubi pierwotne zastrzeżenie, że problem dotyczy każdej konkurencji bez koordynatora, także między państwami, uczelniami i komórkami.

Rodowód środkowoeuropejski

Nie znaleźliśmy udokumentowanego związku tego pojęcia z myślą lub doświadczeniem Europy Środkowej.

Dlaczego teraz

Po 2018 r. Moloch przestał być figurą z eseju i stał się nazwą zjawiska, które wszyscy widzą w tych samych miejscach. Wyścig o modele językowe po premierze ChatGPT (listopad 2022) jest najczęściej przywoływanym przykładem: list otwarty Future of Life Institute z marca 2023 r. wzywał do półrocznej pauzy w treningu systemów silniejszych od GPT-4 i nikt pauzy nie zrobił, bo nikt nie wierzył, że zrobią ją inni. Drugi obszar to platformy: dyskusja o „ekonomii uwagi” po 2018 r. opisuje redakcje, twórców i polityków, którzy nie mogą wyjść z logiki zasięgu, bo wyjdą tylko oni. Trzeci to klimat: kolejne konferencje COP pokazują, że nawet przy wspólnej wiedzy o kosztach każde państwo ma powód, by zwlekać, dopóki zwlekają inni. Pojęcie okazało się potrzebne, bo pozwala nazwać wspólny mianownik tych sporów bez wskazywania winnych: nie ma złoczyńcy, jest struktura.

Siła wyjaśniająca

Moloch pozwala zobaczyć, że wiele zjawisk, które tłumaczymy chciwością albo głupotą, jest skutkiem układu wypłat, a nie charakteru uczestników. Trzy przykłady. Po pierwsze, inflacja wymagań w rekrutacji: uczelnie i pracodawcy żądają coraz więcej nie dlatego, że potrzebują, lecz dlatego, że kandydaci dostarczają, a każdy, kto przestanie, trafia na koniec kolejki; wynik to lata życia spalone na sygnalizację. Po drugie, kryzys replikacji w nauce: badacz, który publikuje ostrożnie i rzadko, przegrywa z tym, kto publikuje dużo i efektownie, więc system nagradza nadprodukcję słabych wyników, choć żaden pojedynczy naukowiec tego nie chce. Po trzecie, wyścig laboratoriów AI: każdy zarząd może szczerze obawiać się ryzyka i mimo to przyspieszać, bo zwolnienie oznacza oddanie pola konkurentowi, który być może dba o bezpieczeństwo mniej. We wszystkich trzech przypadkach pojęcie przesuwa pytanie z „kto jest winny” na „kto mógłby wiarygodnie zobowiązać wszystkich naraz”, a to otwiera repertuar odpowiedzi: regulacja, kartel, norma, instytucja, technologia weryfikacji.

Osie sporu

Niedoceniany kąt

Esej Alexandra jest w gruncie rzeczy argumentem za centralizacją władzy, co jego czytelnicy, zwykle libertariańscy z temperamentu, rzadko zauważają. Jeśli jedynym wyjściem z pułapki wielobiegunowej jest wiarygodne zobowiązanie wszystkich naraz, to logiczną odpowiedzią jest koordynator, który stoi ponad grą: państwo, monopol, hegemon albo, w wersji końcowej, „ogrodnik” kontrolujący superinteligencję. Tymczasem koordynator sam jest wynikiem wyścigu o to, kto nim zostanie, i nie ma powodu, by zwycięzca tego wyścigu dbał o wartości, które miał chronić. Pojęcie najwięcej daje, gdy stosuje się je rekurencyjnie: pytanie nie brzmi „jak pokonać Molocha”, lecz „jak zbudować koordynatora, którego wyłonienie nie będzie kolejną pułapką”. To przenosi dyskusję z teorii gier w stronę historii instytucji, gdzie wiadomo, że trwałe koordynacje powstawały zwykle oddolnie i powoli, a nie przez jedno zwycięstwo.

W przekładzie

Polski termin jest nieustalony. „Moloch” funkcjonuje w polszczyźnie od dawna jako nazwa biurokratycznej albo przemysłowej machiny, co dobrze pasuje do Ginsberga, ale gubi techniczne znaczenie pułapki bez winnego. „Pułapka wielobiegunowa” jest kalką z multipolar trap i brzmi jak termin z geopolityki. „Problem koordynacji” jest precyzyjny, ale obejmuje też niewinne sytuacje, w których strony chcą tego samego i tylko nie wiedzą, jak się umówić. Wybieramy złożenie z listy, „Moloch / koordynacja”: pierwsza część nazywa chorobę, druga lekarstwo, a w tekście używamy „pułapki wielobiegunowej” tam, gdzie potrzebna jest precyzja.