Media syntetyczne

Definicja robocza

Media syntetyczne (synthetic media) to obrazy, dźwięki, wideo i teksty wytworzone lub istotnie przekształcone przez modele uczenia maszynowego, bez rejestrowania zdarzenia, które rzekomo przedstawiają. Pojęcie jest szersze niż deepfake: obejmuje zarówno fałszerstwa, jak i jawnie generowane treści użytkowe, reklamowe czy artystyczne. W użyciu technicznym termin opisuje sposób produkcji; w użyciu publicystycznym, od książki Niny Schick, oznacza stan, w którym zapis audiowizualny traci domyślną wartość dowodową, a ciężar uwierzytelnienia przesuwa się z materiału na jego pochodzenie. Analitycznie najważniejsze jest to drugie: pojęcie opisuje nie technologię, lecz zmianę reguł zaufania.

Geneza i rodowód

Termin krążył w środowisku badaczy uczenia maszynowego i mediów od ok. 2017 r., gdy sieci generatywne (GAN z 2014 r.) zaczęły dawać fotorealistyczne wyniki, a na Reddicie pojawiły się pierwsze deepfake’i. Pierwszą systematyczną ramę dał artykuł prawników Roberta Chesneya i Danielle Citron (preprint 2018, „California Law Review” 2019), który skatalogował szkody dla jednostek, demokracji i bezpieczeństwa oraz wprowadził pojęcie dywidendy kłamcy (liar’s dividend): im łatwiej fałszować, tym łatwiej winnemu nazwać prawdziwe nagranie fałszywką. Britt Paris i Joan Donovan (2019) odpowiedziały, że to „tanie fałszywki” bez AI robią większość szkód, a deepfake jest kontynuacją długiej historii manipulacji dowodem. Nina Schick (2020) spopularyzowała termin w wersji alarmistycznej, zapowiadając „infokalipsę”. Po 2022 r. pojęcie zostało częściowo przejęte przez przemysł: „media syntetyczne” stały się neutralną nazwą dla produktów firm generujących awatary, głosy i reklamy, co wypłukało z terminu ostrze, które miał u Chesneya i Citron.

Rodowód środkowoeuropejski

Stanisław Lem w „Summie technologiae” (1964) opisał fantomatykę: technikę dostarczania zmysłom bodźców nie do odróżnienia od naturalnych, i zapytał, czy „złudzenia doskonałe” są jeszcze złudzeniami. Z jego rozważań wynika sytuacja, w której podmiot nie może ufać nikomu, bo każda wiadomość od innych ludzi może być elementem działania maszyny. To wcześniejsze sformułowanie podobnego problemu, nie wpływ: fantomatyka dotyczy immersyjnego doświadczenia, dzisiejszej rzeczywistości wirtualnej, a nie artefaktów medialnych krążących w sieci, i nie znaleźliśmy śladu Lema w literaturze o mediach syntetycznych. Drugi związek jest zdarzeniowy. 28 września 2023 r., w czasie dwudniowej ciszy wyborczej na Słowacji, na Telegramie pojawiło się wygenerowane nagranie, w którym lider Progresywnej Słowacji Michal Šimečka i dziennikarka „Denníka N” Monika Tódová rzekomo omawiają kupowanie głosów Romów. Materiał udostępnili politycy Štefan Harabin i Peter Marček, krążył też w łańcuchowych e-mailach; AFP zaczęła go weryfikować po południu, Facebook oznaczył jako fałszywy, na Telegramie pozostał. Cisza wyborcza utrudniła publiczne dementi. Tekst opublikowany przez International Press Institute nazywa to jednym z pierwszych w Unii Europejskiej przypadków użycia AI do zmanipulowania wizerunku dziennikarki. W literaturze sprawa bywa nazywana „przypadkiem testowym” podatności wyborów na ingerencję AI, choć Lluis de Nadal i Peter Jančárik (2024) przekonują, że przypisywanie nagraniu wyniku głosowania pomija słowacki kontekst; wpływu nagrania na wynik nikt nie wykazał.

Dlaczego teraz

Trzy progi zostały przekroczone w latach 2022–2024. Po pierwsze, modele dyfuzyjne (DALL·E 2, Stable Diffusion, Midjourney, 2022) i klonowanie głosu z kilku sekund próbki sprowadziły koszt przekonującej syntezy niemal do zera. Po drugie, przypadki polityczne przestały być hipotetyczne: słowackie nagranie z września 2023 r., sfałszowane połączenia automatyczne z głosem Joe Bidena przed prawyborami w New Hampshire w styczniu 2024 r., fala deepfake’ów pornograficznych z wizerunkami znanych kobiet. Po trzecie, pojawiły się regulacje: unijny AI Act (2024) nakłada obowiązek oznaczania treści generowanych i deepfake’ów (art. 50), a koalicja C2PA i standard Content Credentials próbują przenieść uwierzytelnianie z detekcji fałszerstw na kryptograficzne poświadczanie pochodzenia. Jednocześnie badania detekcji przegrywają wyścig: eksperci cytowani w sprawie słowackiej przyznawali, że nie potrafią ustalić, jak nagranie powstało.

Siła wyjaśniająca

Pojęcie pozwala zobaczyć, że problemem nie jest pojedyncze fałszerstwo, lecz zmiana domyślnego statusu zapisu. Po pierwsze, wyjaśnia dywidendę kłamcy: po 2023 r. politycy i oskarżeni rutynowo tłumaczą autentyczne nagrania jako „wygenerowane przez AI”, a sądy muszą rozstrzygać, czy nagranie wymaga uwierzytelnienia łańcuchem pochodzenia. Po drugie, tłumaczy, dlaczego oznaczanie treści działa asymetrycznie: uczciwi nadawcy oznaczają, nieuczciwi nie, więc znak wodny nie chroni przed fałszerstwem, tylko przed nieporozumieniem. Po trzecie, pokazuje przesunięcie od medium do nadawcy: gdy obraz nic nie dowodzi, zaufanie przechodzi na instytucję, podpis kryptograficzny albo osobistą relację, co faworyzuje tych, którzy już mają wiarygodność, i marginalizuje świadków bez niej, np. obywatelskich dokumentalistów zbrodni wojennych.

Osie sporu

Niedoceniany kąt

Najtrwalszym skutkiem mediów syntetycznych może być nie wzrost wiary w fałsz, lecz spadek wiary w prawdę: erozja wartości dowodu działa na korzyść tych, którzy chcą uniknąć odpowiedzialności, bardziej niż tych, którzy chcą kogoś wrobić. Paris i Donovan przypominają, że nagranie nigdy nie dowodziło samo z siebie; dowodziło, bo instytucje — redakcje, sądy, archiwa — nauczyły się je uwierzytelniać. Skoro tak, odpowiedź na syntezę nie leży w detekcji, lecz w odbudowie tych instytucji i ich procedur, co jest zadaniem powolnym i nieatrakcyjnym politycznie. Pytanie o media syntetyczne jest więc pytaniem o to, kto obsługuje maszynę i komu z tego tytułu wierzymy.

W przekładzie

Polski termin nie jest ustalony. „Media syntetyczne” to kalka, która po polsku myli się z „mediami” jako instytucjami prasowymi; „treści syntetyczne” jest precyzyjniejsze, ale gubi nawiązanie do medium jako nośnika. „Treści generowane przez AI” jest najczytelniejsze, lecz zbyt szerokie i pomija element imitacji zapisu rzeczywistości. Przy tytule zostajemy przy „mediach syntetycznych”, bo jest najbliższy terminowi oryginalnemu (polski tekst AI Act, art. 50, mówi o „treściach deepfake” i treściach w postaci syntetycznych dźwięków, obrazów, wideo lub tekstu), a w tekście używamy wymiennie „treści syntetycznych”, gdy chodzi o pojedyncze artefakty.