Deepfake

Definicja robocza

Deepfake to nagranie wideo, dźwiękowe lub obraz wytworzone bądź zmienione przez model uczenia maszynowego tak, by przedstawiać konkretną, istniejącą osobę mówiącą lub robiącą coś, czego nie powiedziała ani nie zrobiła, w sposób nieodróżnialny lub trudno odróżnialny od zapisu rzeczywistości. Trzy elementy są konstytutywne: podmiana lub synteza tożsamości, zamiar uchodzenia za autentyk oraz zautomatyzowana technika (sieci GAN, autoenkodery, modele dyfuzyjne, klonowanie głosu). Potocznie słowo obejmuje każdą „fałszywkę z AI”; technicznie i prawnie (AI Act, art. 3 pkt 60) oznacza treść, która „fałszywie wydałaby się osobie autentyczna lub prawdziwa”. Manipulacje bez uczenia maszynowego (przycięcie, spowolnienie, zmiana podpisu) to tanie fałszerstwa (cheap fakes) i nie należą do kategorii, choć często są skuteczniejsze.

Geneza i rodowód

Nazwa jest młodsza niż technika. Automatyczne „reanimowanie” twarzy pod cudzą ścieżkę dźwiękową zademonstrował już system Video Rewrite (1997); przełomem były sieci generatywne przeciwstawne (generative adversarial networks, GAN) Iana Goodfellowa i współautorów z czerwca 2014 r. oraz prace Face2Face (2016) i „Synthesizing Obama” (2017). Słowo powstało na Reddicie: w grudniu 2017 r. Samantha Cole z Motherboard opisała anonimowego użytkownika o nicku „deepfakes”, który z ogólnodostępnych bibliotek (Keras, TensorFlow) i zdjęć z Google’a składał pornografię z twarzami aktorek. Pseudonim stał się nazwą gatunku. W ciągu następnych trzech lat pojęcie przejęły dwa inne obiegi: prawniczo-polityczny, zdefiniowany przez artykuł Bobby’ego Chesneya i Danielle Citron (szkic 2018, druk w „California Law Review” 2019), który rozszerzył termin na całe spektrum hiperrealistycznych fałszerstw i wprowadził „dywidendę kłamcy” (liar’s dividend), oraz publicystyczny, z Niną Schick (2020) ogłaszającą „infokalipsę”. Ta druga linia, nastawiona na scenariusze katastrofy wyborczej, zdominowała wyobraźnię, podczas gdy większość realnych szkód przez lata dotyczyła pornografii bez zgody, co ustaliły pierwsze pomiary firmy Deeptrace (później Sensity) z 2019 r. i co w 2024 r. przypomniała fala obrazów z Taylor Swift.

Rodowód środkowoeuropejski

Pojęcie nie pochodzi z regionu, ale jego najczęściej cytowany przypadek bojowy — tak. 16 marca 2022 r., trzy tygodnie po rosyjskiej inwazji, w ukraińskich serwisach i na prorosyjskich kanałach Telegrama pojawiło się nagranie, w którym syntetyczny Wołodymyr Zełenski oznajmia, że nie zdołał odzyskać Donbasu, uciekł z Kijowa i prosi żołnierzy o złożenie broni; tego samego dnia hakerzy wpisali zbliżony komunikat w pasek informacyjny telewizji Ukraina 24. Według analizy DFRLab Atlantic Council metadane pliku wskazywały, że powstał dwie godziny przed publikacją, a nagranie wzmacniano na kontrolowanym przez Kreml VK. Fałszerstwo było nieudolne — nienaturalnie wyglądająca głowa, nieprzekonujący głos i akcent — i Zełenski zdementował je w ciągu godzin własnym filmem, nazywając „dziecinną prowokacją”, a ukraińscy użytkownicy obrócili je w żart. Mimo to weszło do literatury jako pierwszy udokumentowany deepfake głowy państwa użyty w trwającej wojnie i jako potwierdzenie scenariusza, który Chesney i Citron rozpisali teoretycznie w 2019 r.: nie chodzi o to, by wszyscy uwierzyli, lecz by w kluczowej godzinie część odbiorców zawahała się. Ukraińska lekcja jest zresztą dwustronna: przypadek pokazał, że szybkie, wiarygodne dementi i wcześniejsze ostrzeżenia (władze ukraińskie od tygodni uprzedzały o możliwych zmanipulowanych nagraniach, a wywiad wojskowy na początku marca opublikował film o tym, jak deepfake’i mogą siać panikę) neutralizują deepfake skuteczniej niż detektory.

Dlaczego teraz

Trzy progi zostały przekroczone między 2018 a 2026 r. Techniczny: modele dyfuzyjne (2022) i klonowanie głosu z kilkusekundowej próbki (2023) zdjęły barierę kompetencji, więc deepfake przestał być projektem, a stał się funkcją w aplikacji. Polityczny: już we wrześniu 2023 r. na Słowacji w czasie ciszy wyborczej krążyło spreparowane audio z Michalem Šimečką, a rok 2024, z wyborami w kilkudziesięciu krajach, przyniósł sfałszowany telefon „Bidena” zniechęcający do głosowania w New Hampshire i falę syntetycznych nagrań w kampaniach w Indiach i Indonezji; zarazem obiecywana „apokalipsa wyborcza” nie nastąpiła, co samo stało się przedmiotem sporu. Prawny: Unia Europejska w AI Act (2024) nałożyła obowiązek ujawniania treści syntetycznych, stosowany od 2 sierpnia 2026 r. (art. 50 ust. 4); równolegle USA, Wielka Brytania i Korea Południowa kryminalizowały pornografię deepfake, podczas gdy polski kodeks karny (stan na wrzesień 2026 r.) wymienia wytworzone lub przetworzone wizerunki tylko w przepisie o treściach pornograficznych z udziałem małoletnich (art. 202 § 4b). Do tego doszła skala oszustw: przelew 25 mln dolarów po wideokonferencji z syntetycznym „dyrektorem finansowym” w Hongkongu (2024) pokazał, że deepfake jest przede wszystkim narzędziem przestępczości gospodarczej, nie tylko polityki.

Siła wyjaśniająca

Pojęcie ujawnia, że dowód audiowizualny nigdy nie był „surowym faktem”, lecz instytucją zaufania o określonym koszcie podrobienia. Trzy zastosowania. Po pierwsze, dywidenda kłamcy: polityk nagrany na gorącym uczynku mówi „to deepfake” i zyskuje tym więcej, im lepiej społeczeństwo jest wyedukowane o zagrożeniu; Chesney i Citron zauważają, że ta korzyść rośnie proporcjonalnie do sukcesu kampanii uświadamiających. Po drugie, asymetria szkody: deepfake w polityce działa głównie przez zwątpienie, a w życiu prywatnym — przez upokorzenie; ponad dziewięć dziesiątych wykrytych deepfake’ów to pornografia bez zgody, a ofiarami są w przytłaczającej większości kobiety, co czyni z „zagrożenia dla demokracji” wygodny parawan dla problemu przemocy. Po trzecie, ekonomia wykrywania: każdy publiczny detektor staje się funkcją straty dla następnego generatora, więc technologia sama z siebie nie wygra; przewagę dają procedury (znaki pochodzenia C2PA, szybkie dementi, zaufane źródła), a nie algorytmy.

Osie sporu

Niedoceniany kąt

Najtrwalszym skutkiem deepfake’ów może być nie fałszywe przekonanie, lecz prawdziwe, którego nie da się już udowodnić. Instytucje oparte na nagraniach — sądy, dziennikarstwo śledcze, dokumentacja zbrodni wojennych — przez dekady korzystały z taniego domniemania autentyczności. Jeśli to domniemanie pęknie, koszt dowodzenia wróci do ofiar i świadków, a przewagę zyskają ci, którzy kontrolują „kanały zaufane”: państwa, duże platformy, certyfikowane redakcje. Dywidenda kłamcy jest więc także dywidendą instytucji: sceptycyzm wobec obrazu wzmacnia tych, którzy mogą go autoryzować. Dyskusja o deepfake’ach jest w gruncie rzeczy dyskusją o tym, kto po końcu epoki „kamera nie kłamie” dostanie prawo mówienia, co jest prawdziwe.

W przekładzie

Polszczyzna przyjęła „deepfake” jako zapożyczenie nieodmienne lub odmieniane potocznie (deepfake’u, deepfake’i), i tak piszemy. Kalki „głębokie fałszerstwo” lub „głęboka podróbka” są poprawne, ale nikt ich nie używa, a „głęboki” gubi odniesienie do deep learning, które w oryginale jest jedyną treścią przymiotnika. „Fałszywka syntetyczna” dobrze oddaje sens, lecz obejmuje również treści bez podszywania się pod osobę. Zapożyczenie zostaje; warto jedynie konsekwentnie odróżniać je od szerszych „mediów syntetycznych” i węższych „tanich fałszerstw”.