Ryzyko egzystencjalne

Definicja robocza

Ryzyko egzystencjalne (existential risk) to ryzyko zdarzenia, które albo unicestwiłoby inteligentne życie pochodzące z Ziemi, albo trwale i drastycznie ograniczyło jego potencjał rozwoju. Definicja ma dwa człony i drugi jest ważniejszy, niż się wydaje: w jej zakres wchodzi nie tylko wymarcie, lecz także nieodwracalny kolaps cywilizacji lub utrwalona na zawsze tyrania, po której nikt nie byłby w stanie odbudować przyszłości. Pojęcie odróżnia się od ryzyka katastrofalnego (pandemia, wojna, kryzys klimatyczny z setkami milionów ofiar) kryterium nieodwracalności: katastrofa, po której ludzkość się podnosi, nie jest egzystencjalna. W użyciu potocznym termin oznacza po prostu „coś bardzo groźnego”, co odbiera mu całą siłę analityczną.

Geneza i rodowód

Termin i pojęcie wprowadził Nick Bostrom w artykule Existential Risks: Analyzing Human Extinction Scenarios and Related Hazards („Journal of Evolution and Technology” 2002; pierwsza wersja 2001), gdzie zaproponował typologię (wybuchy, skurczenia, wrzaski, skomlenia; bangs, crunches, shrieks, whimpers) i pierwszą listę źródeł: od nanotechnologii i niedopasowanej superinteligencji po pomyłki w eksperymentach fizycznych. Dojrzałą postać argument przyjął w Existential Risk Prevention as Global Priority („Global Policy” 2013), który rozwija sformułowaną już w artykule z 2002 r. regułę maxipok: maksymalizuj prawdopodobieństwo wyniku „w porządku”, czyli takiego, który unika katastrofy egzystencjalnej. Tło stanowiła wcześniejsza literatura o wymarciu: Jonathan Schell (The Fate of the Earth, 1982), John Leslie (The End of the World, 1996), Martin Rees (Our Final Hour, 2003) i powstała w kręgu oksfordzkiego Future of Humanity Institute (2005–2024) szkoła transhumanistyczno-utylitarystyczna. Filozoficznie pojęcie dziedziczy po argumencie Dereka Parfita z Reasons and Persons (1984), że różnica między śmiercią 99% ludzkości a 100% jest większa niż między 0% a 99%. W latach 2020. pojęcie przechwyciły dwa obiegi: branża AI, w której „ryzyko egzystencjalne” stało się zarazem ostrzeżeniem i argumentem sprzedażowym, oraz krytyka, która pod akronimem TESCREAL zbiera je w jedną ideologię wraz z longtermizmem i transhumanizmem.

Rodowód środkowoeuropejski

John von Neumann wcześniej sformułował podobną myśl. W eseju Can We Survive Technology? („Fortune”, czerwiec 1955) matematyk, ukształtowany w Budapeszcie (luterańskie gimnazjum Fasori, doktorat z matematyki na tamtejszym uniwersytecie w 1926 r., równolegle ze studiami chemicznymi w Zurychu), postawił pytanie dokładnie w tej skali, w której później zadaje je literatura ryzyka egzystencjalnego: technologia osiągnęła rozmiar planety, skuteczność broni ofensywnej unieważnia wszelkie realistyczne skale obrony, a skończone rozmiary Ziemi po raz pierwszy stają się krytycznym ograniczeniem. Nie ma dowodu wpływu tego tekstu na Bostroma. W artykule z 2002 r. von Neumann pojawia się tylko w przypisie, jako autor relacjonowanej opinii, że wojna nuklearna jest pewna i zginą w niej wszyscy. Budapeszteńskie korzenie wyjaśniają formację autora, nie treść eseju, który powstał już w Stanach Zjednoczonych, w kręgu amerykańskiej strategii nuklearnej.

Dlaczego teraz

Ciężar pojęcia przesunął się w latach 2018–2026 z filozofii do polityki. Książka Toby’ego Orda The Precipice (marzec 2020) ukazała się w tygodniach, gdy pandemia COVID-19 pokazała, jak słabo świat radzi sobie nawet z ryzykiem katastrofalnym, nie mówiąc o egzystencjalnym; Ord podał jawne szacunki (łączne ryzyko 1 do 6 w tym stuleciu, 1 do 10 dla niedopasowanej AI). Sekretarz generalny ONZ włączył „ryzyka egzystencjalne” do raportu Our Common Agenda (2021), a Pakt dla Przyszłości przyjęty na Szczycie Przyszłości (wrzesień 2024) ustanowił język międzypokoleniowej odpowiedzialności. Po premierze GPT-4 (marzec 2023) oświadczenie Center for AI Safety (maj 2023), podpisane przez szefów OpenAI, Google DeepMind i Anthropic, zrównało „ryzyko wymarcia z powodu AI” z pandemiami i wojną nuklearną, a deklaracja z Bletchley (listopad 2023) wpisała do dokumentu międzyrządowego ostrzeżenie przed poważnymi, a nawet katastrofalnymi szkodami ze strony najbardziej zaawansowanych modeli, choć bez słowa o wymarciu. Równolegle Zegar Zagłady „Bulletin of the Atomic Scientists” przestawiono na 90 sekund przed północą (styczeń 2023), potem na 89 (styczeń 2025) i na 85 (styczeń 2026). Upadek FTX (listopad 2022), jednego z głównych sponsorów longtermistycznych instytucji, oraz zamknięcie Future of Humanity Institute (kwiecień 2024) otworzyły zaś drugą falę: pytanie, czyim interesom służy rama ryzyka egzystencjalnego.

Siła wyjaśniająca

Pojęcie wymusza rozróżnienie, którego język potoczny nie robi: między wielkością szkody a jej odwracalnością. Po pierwsze, pozwala uporządkować priorytety według iloczynu prawdopodobieństwa i nieodwracalności, a nie samej liczby ofiar: dlatego w rachunku Orda asteroida (dobrze zbadana, bardzo mało prawdopodobna) waży mniej niż zaprojektowany patogen. Po drugie, tłumaczy, dlaczego mechanizmy rynku i polityki systematycznie niedoinwestowują ochronę przed katastrofą: korzyść z przetrwania przypada w większości ludziom jeszcze nienarodzonym, którzy nie głosują i nie płacą, więc bezpieczeństwo egzystencjalne jest dobrem publicznym w skali międzypokoleniowej. Po trzecie, odsłania asymetrię poznawczą: ryzyka egzystencjalnego nie da się poznać metodą prób i błędów, bo pierwszy błąd jest ostatnim, więc dowody zawsze będą pośrednie i sporne. Ta asymetria wyjaśnia zarówno upór badaczy, jak i irytację krytyków, którzy żądają danych tam, gdzie z definicji ich być nie może.

Osie sporu

Niedoceniany kąt

Najmniej przedyskutowany jest drugi człon definicji: „trwałe i drastyczne ograniczenie potencjału”. Wymarcie da się przynajmniej wyobrazić, ale kto rozstrzyga, które przyszłości są „ograniczeniem potencjału”, a które po prostu inną drogą? Jeśli ludzkość świadomie zrezygnowałaby z kolonizacji kosmosu albo z przebudowy własnej biologii, to w rachunku Bostroma byłaby to katastrofa egzystencjalna, a w rachunku wielu tradycji etycznych — mądrość. Pojęcie przemyca więc rozbudowaną teorię dobra pod pozorem neutralnej definicji zagrożenia. Ta obserwacja pokazuje też, dlaczego von Neumann i Jonas są dziś użyteczniejsi niż wielu współczesnych: obaj pytali o przetrwanie bez zakładania, jak ma wyglądać udana przyszłość, a Jonas wprost uczynił z niepewności metodę, nakazując w sprawach nieodwracalnych dawać pierwszeństwo złej prognozie przed dobrą.

W przekładzie

Polski termin nie jest ustalony. „Ryzyko egzystencjalne” jest kalką, która w polszczyźnie zderza się z „egzystencjalnym” w sensie Kierkegaarda i Sartre’a (lęk egzystencjalny, pytania egzystencjalne), więc laik słyszy w nim raczej kryzys sensu niż unicestwienie gatunku. Alternatywy mają własne koszty: „ryzyko wymarcia” gubi drugi człon definicji (nieodwracalny kolaps bez wymarcia), „ryzyko globalnej katastrofy” zaciera kluczowe rozróżnienie od ryzyk katastrofalnych, „ryzyko ostateczne” brzmi dobrze, ale nie ma żadnego obiegu. Pozostajemy przy „ryzyku egzystencjalnym”, bo tak funkcjonuje w przekładach i dokumentach, z zastrzeżeniem, że przy pierwszym użyciu trzeba podać definicję, a w kontekstach potocznych lepiej mówić wprost o „ryzyku unicestwienia lub nieodwracalnego kolapsu ludzkości”.