Etyka technologii

Definicja robocza

Etyka technologii (ethics of technology) to systematyczny namysł nad tym, jakie obowiązki ciążą na ludziach i instytucjach projektujących, wdrażających i używających artefaktów technicznych oraz jakie dobra i krzywdy te artefakty rozdzielają, zanim jeszcze ktokolwiek ich użyje. W wersji technicznej jest subdyscypliną filozofii z własnymi szkołami: etyką odpowiedzialności Jonasa, etyką informacji Floridiego, etyką projektowania wrażliwego na wartości, krytyką rasową i feministyczną Noble i Benjamin. W wersji potocznej oznacza korporacyjne kodeksy „odpowiedzialnej AI” i stanowiska chief ethics officer, które z filozofią mają wspólną głównie nazwę. Pojęcie operacyjne brzmi: technologia nie jest neutralnym narzędziem, lecz zastygłą decyzją o tym, kto co może, i tę decyzję można oceniać moralnie jak każdą inną.

Geneza i rodowód

Jako osobna dziedzina etyka technologii ukształtowała się dopiero w XX wieku, późno w stosunku do wieku maszyn, bo długo panował pogląd instrumentalny: narzędzie jest moralnie obojętne, odpowiada użytkownik. Przełom nastąpił w dwóch falach. Pierwsza, powojenna, wyrosła ze strachu przed bombą i inżynierią biologiczną: Hans Jonas w Das Prinzip Verantwortung (1979) uznał, że skala techniki unieważnia etykę sąsiedzką i wymaga nowego imperatywu, odpowiedzialności za trwanie ludzkiego życia, a Langdon Winner w Do Artifacts Have Politics? (1980) pokazał, że same konstrukcje mogą utrwalać hierarchie. Druga fala, od lat 90., przeniosła ciężar na informację i obliczenia: Luciano Floridi od 1999 r. buduje etykę informacji, w której przedmiotem troski jest cała infosfera, a nurt value sensitive design (Friedman) uczy wpisywać wartości w specyfikacje. W latach 2018–2019 Safiya Umoja Noble i Ruha Benjamin przesunęły dyskusję z abstrakcyjnych zasad na konkretne krzywdy rasowe i płciowe wyrządzane przez wyszukiwarki i systemy oceny ryzyka. Równolegle pojęcie przechwyciły działy PR wielkich firm: po 2016 r. powstały dziesiątki „zasad etycznej AI”, co krytycy nazwali ethics washing. Linia dziedziczenia biegnie więc od Jonasa przez Winnera i Floridiego do krytyki algorytmicznej, z bocznym odgałęzieniem korporacyjnym, które często używa słownika pierwszych bez ich wniosków.

Rodowód środkowoeuropejski

Lem wcześniej niż Hans Jonas sformułował podobną myśl o moralnych skutkach techniki. W Summie technologiae, wydanej przez Wydawnictwo Literackie w Krakowie w 1964 r., Stanisław Lem — ukształtowany przez studia medyczne we Lwowie od 1940 r. i w powojennym Krakowie, gdzie w latach 1948–1950 pracował jako asystent naukowy na Uniwersytecie Jagiellońskim — rozważał moralne i filozoficzne konsekwencje technologii wtedy jeszcze nieistniejących: maszyn o inteligencji przewyższającej ludzką (rozdział „Intelektronika”), sztucznie wytwarzanej rzeczywistości („Fantomologia”) oraz inżynierii, która miałaby poprawić ewolucję biologiczną („Paszkwil na ewolucję”). Lem nie budował teorii etycznej; stawiał scenariusze, w których tradycyjne pojęcia odpowiedzialności przestają wystarczać, czyli problem bliski temu, który Jonas zarysował w eseju „Technology and Responsibility” (1973) i rozwinął w Das Prinzip Verantwortung (1979). Podobieństwo dotyczy diagnozy, nie rozwiązań: Jonas odpowiada nakazem ostrożności, Lem raczej ironią wobec gatunku, który zdobywa władzę nad sobą, zanim zdąży ją zrozumieć. Nie znaleźliśmy dowodu, by Jonas znał tekst Lema, choć niemiecki przekład Summy wydał w 1976 r. Insel-Verlag, który trzy lata później opublikował Das Prinzip Verantwortung; pełny przekład angielski ukazał się dopiero w 2013 r.

Dlaczego teraz

Między 2018 a 2026 r. etyka technologii przestała być seminarium, a stała się przedmiotem sporu o władzę. W 2018 r. wybuchła afera Cambridge Analytica, a Noble opublikowała Algorithms of Oppression; w tym samym roku pracownicy Google wymusili wycofanie firmy z wojskowego Project Maven. W 2019 r. Google rozwiązało swoją radę etyczną po tygodniu istnienia, a Benjamin wydała Race After Technology. W grudniu 2020 r. Google zwolniło Timnit Gebru, współautorkę artykułu o ryzykach wielkich modeli językowych, co stało się symbolem granic etyki uprawianej wewnątrz korporacji. Rok 2023 przyniósł ChatGPT jako zjawisko masowe, list otwarty o „pauzie” w rozwoju AI i pierwsze procesy o prawa autorskie wobec modeli generatywnych. W 2024 r. Unia Europejska przyjęła AI Act, pierwszą poziomą regulację systemów AI, co przeniosło część pytań etycznych do języka zgodności regulacyjnej. Pojęcie jest potrzebne, bo w każdym z tych zdarzeń spór nie toczył się o to, czy technologia działa, lecz o to, komu wolno zdecydować, że ma działać.

Siła wyjaśniająca

Etyka technologii pozwala zobaczyć decyzje tam, gdzie język inżynierii widzi tylko parametry. Po pierwsze, w systemie oceny ryzyka recydywy typu COMPAS pytanie „jak zmniejszyć błąd” zasłania pytanie „jaki rodzaj błędu wolimy popełniać i wobec kogo”, a różne definicje sprawiedliwości statystycznej są matematycznie niewspółmierne, więc wybór między nimi jest moralny, nie techniczny. Po drugie, rama Winnera tłumaczy, dlaczego infrastruktura jest polityczna bez niczyjej złej woli: aplikacja do zamawiania przejazdów, która zakłada smartfon i kartę płatniczą, wyklucza część użytkowników równie skutecznie jak niski wiadukt. Po trzecie, Jonasowska asymetria między mocą działania a zdolnością przewidywania wyjaśnia, dlaczego zasada ostrożności i „red teaming” modeli nie są przejawem technofobii, lecz racjonalną odpowiedzią na nieodwracalność skutków. W każdym przypadku pojęcie przesuwa odpowiedzialność z abstrakcyjnego „użytkownika” na konkretnych projektantów, właścicieli i regulatorów.

Osie sporu

Niedoceniany kąt

Debata skupia się na szkodach, a pomija pytanie o to, czego technologia nie pozwala już zrobić inaczej. Jonas pisał o nieodwracalności skutków; rzadziej zauważa się nieodwracalność samych możliwości. Gdy powstaje działający system rozpoznawania twarzy, decyzja „nie używać” przestaje być domyślna i staje się kosztownym wyborem, który trzeba wciąż od nowa uzasadniać. Etyka technologii zajmuje się więc nie tylko tym, co artefakty robią, lecz tym, co robią z przestrzenią zaniechań: każda nowa zdolność przesuwa ciężar dowodu z tych, którzy chcą działać, na tych, którzy wolą nie działać. Z tej perspektywy najważniejsze decyzje etyczne zapadają na etapie finansowania badań, a nie wdrożenia, i to właśnie tam etyków prawie nie ma.

W przekładzie

Polski ma dwa terminy o różnym zapleczu. „Etyka techniki” kalkuje niemieckie Technikethik i obejmuje całość ludzkiego wytwarzania, od mostów po reaktory; w tej tradycji pisano o Jonasie w Polsce w latach 90. „Etyka technologii” to kalka z angielskiego technology ethics, która w ostatniej dekadzie zdominowała teksty o cyfryzacji i AI, choć polskie „technologia” znaczyło tradycyjnie raczej „nauka o technice” niż „technika”. Wybieramy „etykę technologii”, bo pod tym hasłem toczy się dzisiejsza debata, ale czytelnik powinien pamiętać, że Jonas i Winner mieścili się w szerszej „etyce techniki”, a zawężenie do oprogramowania jest już decyzją epoki.