Info-hazards

Definicja robocza

Zagrożenie informacyjne (information hazard) to ryzyko, które powstaje przez samo rozpowszechnienie prawdziwej informacji: wiedza może wyrządzić szkodę bezpośrednio albo umożliwić komuś jej wyrządzenie. Operacyjnie: pytamy nie „czy to prawda?”, lecz „kto, dowiedziawszy się tego, zyska zdolność lub motyw do szkodzenia i jak duży?”. Wersja techniczna u Bostroma jest typologią kilkudziesięciu odmian ryzyka, od sekwencji genomu patogenu po skutki psychologiczne u odbiorcy; wersja potoczna, żargonowe „infohazard” z forów racjonalistycznych, oznacza każdą myśl, której lepiej nie znać, i bywa używana pół żartem. Pojęcie wyłącza informacje fałszywe: dezinformacja to osobny problem.

Geneza i rodowód

Termin i typologię sformułował Nick Bostrom w artykule „Information Hazards: A Typology of Potential Harms from Knowledge” („Review of Contemporary Philosophy”, t. 10, 2011, s. 44–79), napisanym w Oksfordzie w ramach programu badań nad ryzykiem egzystencjalnym. Punktem wyjścia jest obserwacja, że kultura naukowa ma domyślne nastawienie na rzecz jawności, a wyjątki (tajemnica wojskowa, anonimowość pacjentów, ślepa próba) traktuje jako przypadki szczególne, bez wspólnego języka. Bostrom rozróżnia tryby przekazu (dane, idea, zwrócenie uwagi, szablon, sygnał, ewokacja) i obszary szkody (przewaga przeciwnika, rynki i organizacje, psychika, systemy informatyczne, rozwój technologii). Dziedziczy po debacie fizyków o tajności w latach 1939–1945 i sporach o publikację badań dual-use w biologii po 2001 r., ale dopiero on nadaje temu postać katalogu. W drugiej dekadzie XXI w. pojęcie zostało przechwycone przez obieg internetowy, gdzie „infohazard” oznacza raczej memetyczną klątwę niż ryzyko do oszacowania; obie wersje trzeba czytać osobno.

Rodowód środkowoeuropejski

Leó Szilárd zastosował w praktyce rozróżnienie, które Bostrom nazwał później hazardem idei i hazardem danych, kilkadziesiąt lat przed powstaniem terminu. Szilárd rozpoczął studia inżynierskie na Politechnice w Budapeszcie w 1916 r., przerwał je na służbę w armii austro-węgierskiej i w grudniu 1919 r. wyjechał do Berlina, gdzie przeszedł na fizykę. Pomysł reakcji łańcuchowej przyszedł mu do głowy w Londynie w 1933 r.; patent zgłoszony w 1934 r. przekazał brytyjskiej Admiralicji, aby nie został opublikowany, i jego treść ujrzała światło dzienne dopiero w 1949 r. W 1939 r., po odkryciu rozszczepienia, namawiał Enrica Fermiego w Nowym Jorku i Frédérica Joliota w Paryżu, by nie ogłaszali wyników o neutronach wtórnych; Fermi niechętnie się zgodził, Joliot odmówił i jego zespół opublikował dane w „Nature” w kwietniu 1939 r. Bostrom wspomina o Szilárdzie jednym zdaniem w przypisie, jako dowód, że naiwność fizyków była do uniknięcia „co najmniej od 1933 r.”, i odsyła do Rhodesa. To nie jest wpływ na typologię, lecz wcześniejsza, udokumentowana praktyka tego samego rozumowania. Reguła formacji jest tu spełniona słabo: Budapeszt dał Szilárdowi wykształcenie inżynierskie, ale nie fizykę i nie samą ideę. Zapisujemy związek jako antycypację do rozstrzygnięcia przez redakcję.

Dlaczego teraz

W lutym 2019 r. OpenAI odmówiło publikacji pełnej wersji GPT-2, powołując się na ryzyko nadużyć, a w raporcie „Release Strategies and the Social Impacts of Language Models” (sierpień 2019 r., wersja rozszerzona w listopadzie) uzasadniło etapowe udostępnianie modeli; od tego momentu rachunek zagrożeń informacyjnych stał się rutyną laboratoriów AI, od kart systemowych po klauzule o wiedzy biologicznej i chemicznej w politykach odpowiedzialnego skalowania. W tym samym roku ukazał się artykuł Lewisa i współautorów w „Risk Analysis” o zagrożeniach informacyjnych w biotechnologii, pisany po sporach o publikację badań nad przenoszeniem wirusa H5N1 (2011–2012) i po pracach nad syntezą wirusa ospy końskiej (2017). Pandemia 2020 r. i debata o pochodzeniu SARS-CoV-2 pokazały, że sama dyskusja o tym, co możliwe w laboratorium, jest hazardem uwagi. Równolegle generatywne modele obniżyły koszt przejścia od idei do danych: to, co w 2011 r. było różnicą między „wiedzieć, że się da” a „mieć przepis”, w 2025 r. jest różnicą jednego dobrze sformułowanego zapytania.

Siła wyjaśniająca

Pojęcie pozwala zobaczyć, że „prawda” i „bezpieczne” to dwie osie, nie jedna, i że instytucje nauki mierzą tylko pierwszą. Trzy zastosowania. Po pierwsze, hazard uwagi wyjaśnia, dlaczego szczegółowe raporty o lukach bezpieczeństwa (w sieciach, w biosecurity, w ochronie infrastruktury) mogą szkodzić nawet wtedy, gdy wszystkie fakty są już w literaturze: przeciwnik nie potrzebuje nowych danych, tylko wskazania, gdzie szukać. Po drugie, rozróżnienie hazardu idei i danych tłumaczy, dlaczego udowodnienie, że coś jest możliwe (test jądrowy, demonstracja ataku), bywa groźniejsze niż sam przepis: skraca cudzy proces poszukiwań. Po trzecie, kategoria hazardów psychologicznych (wiedza o własnej diagnozie, o prawdopodobieństwie katastrofy, o cudzej opinii) pokazuje, że prawo do niewiedzy w medycynie i tajność głosowania należą do tej samej rodziny decyzji co utajnianie sekwencji patogenów.

Osie sporu

Niedoceniany kąt

Najmniej omawianą częścią typologii jest hazard uwagi, bo podważa on sam akt pisania o zagrożeniach. Każdy raport o ryzyku biologicznym, każda lista słabości modelu, każdy briefing taki jak ten sortuje dla przeciwnika przestrzeń możliwości według skuteczności. Z tego wynika paradoks, który Bostrom zauważa, ale go nie rozwiązuje: im lepsza nasza obrona, tym bardziej jej dokumentacja jest mapą ataku. W praktyce prowadzi to do kultury ezoterycznej, w której najważniejsze oceny ryzyka krążą w wąskich kręgach, a publiczna debata dostaje wersję rozmytą. To ma koszt epistemiczny, który wraca jak bumerang: społeczeństwo, które nie zna argumentów, nie potrafi ocenić, czy tajność jest uzasadniona, i reaguje albo paniką, albo lekceważeniem.

W przekładzie

Polski termin nie jest ustalony. „Hazard informacyjny” jest kalką, w której „hazard” znaczy po polsku grę losową, nie ryzyko, więc myli. „Niebezpieczna wiedza” jest naturalna, ale gubi to, że chodzi o ryzyko wynikające z rozpowszechnienia, nie z samej treści. „Zagrożenie informacyjne” jest poprawne i używane w bezpieczeństwie, choć tam oznacza raczej ataki informacyjne i dezinformację, czyli dokładnie to, co Bostrom wyłącza. Wybieramy „zagrożenie informacyjne” z angielskim terminem w nawiasie przy pierwszym użyciu i zachowujemy „info-hazards” jako nazwę hasła, bo pod nią pojęcie krąży.