Moderacja treści

Definicja robocza

Moderacja treści (content moderation) to ogół decyzji i mechanizmów, którymi operator serwisu rozstrzyga, które wypowiedzi użytkowników pozostają widoczne, dla kogo i w jakiej pozycji, a które zostają usunięte, oznaczone, przyciszone albo zmonetyzowane inaczej. Obejmuje reguły (regulaminy, „standardy społeczności”), ludzi, którzy je stosują, i oprogramowanie, które filtruje treść przed publikacją oraz po zgłoszeniu. W wersji potocznej termin oznacza „kasowanie wpisów” i bywa utożsamiany z cenzurą; w wersji technicznej, przyjętej w prawie i badaniach platform, jest formą zarządzania mową na skalę przemysłową, w której większość decyzji podejmują klasyfikatory, a pojedyncze usunięcie to tylko najbardziej widoczny z wielu dostępnych środków.

Geneza i rodowód

Pojęcie ma dwa źródła. Praktyczne sięga moderatorów list dyskusyjnych i forów z lat 80. i 90., którzy usuwali spam i banowali trolli jako wolontariusze. Teoretyczne sformułowanie dał James Grimmelmann w artykule The Virtues of Moderation (2015), który potraktował moderację jako zarządzanie dobrem wspólnym w duchu Elinor Ostrom i rozpisał jej gramatykę: czasowniki (wykluczanie, wycena, organizowanie, ustalanie norm) i przysłówki (automatycznie lub ręcznie, jawnie lub skrycie, ex ante lub ex post, centralnie lub rozproszenie). Trzy lata później ukazały się dwa teksty, które przeniosły pojęcie ze wspólnot na korporacje: Kate Klonick w The New Governors (2018) opisała na podstawie wywiadów, jak Facebook, Twitter i YouTube zbudowały własne, quasi-prawne systemy reguł, a Tarleton Gillespie w Custodians of the Internet (2018) postawił tezę, że moderacja jest istotą platformy, nie jej dodatkiem. Sarah T. Roberts dołożyła wymiar pracy: jej termin „komercyjna moderacja treści” nazywa przemysł outsourcowanych moderatorów, bez których „automatyczne” platformy nie działają. Od 2020 r. pojęcie zostało częściowo przechwycone przez język polityczny: w Stanach Zjednoczonych stało się synonimem „cenzury Big Techu”, w Unii Europejskiej terminem prawnym zdefiniowanym w akcie o usługach cyfrowych.

Rodowód środkowoeuropejski

Nie znaleźliśmy udokumentowanego związku tego pojęcia z myślą lub doświadczeniem Europy Środkowej.

Dlaczego teraz

Między 2018 a 2024 r. moderacja przeszła z zaplecza do centrum sporu politycznego. Niemiecka NetzDG (uchwalona 30 czerwca 2017 r., w pełni obowiązująca od stycznia 2018 r.) nałożyła na platformy obowiązek usuwania oczywiście nielegalnych treści w ciągu 24 godzin i stała się wzorem naśladowanym także przez Rosję. Meta powołała Radę Nadzorczą (Oversight Board), która 28 stycznia 2021 r. wydała pierwsze decyzje, a 5 maja 2021 r. utrzymała zawieszenie konta Donalda Trumpa; to jedyny przypadek sądu konstytucyjnego dla prywatnej firmy. Rozporządzenie (UE) 2022/2065, akt o usługach cyfrowych, weszło w życie 16 listopada 2022 r., a w pełni stosuje się od 17 lutego 2024 r.: po raz pierwszy prawo nakazuje platformom uzasadniać decyzje moderacyjne i udostępniać ścieżkę odwołania. Równolegle przejęcie Twittera przez Elona Muska (październik 2022 r.) i zwolnienia w zespołach zaufania i bezpieczeństwa pokazały, jak szybko można zdemontować aparat moderacji, a w styczniu 2025 r. Meta ogłosiła rezygnację z zewnętrznych weryfikatorów faktów w USA. W Polsce sprawa Społecznej Inicjatywy Narkopolityki przeciw Meta — pozew z 7 maja 2019 r. po usunięciu w 2018 r. stron o redukcji szkód, zabezpieczenie z 11 czerwca 2019 r. i wyrok Sądu Okręgowego w Warszawie z 13 marca 2024 r. nakazujący przywrócenie treści i przeprosiny — jest jednym z pierwszych w Europie orzeczeń uznających arbitralną blokadę za naruszenie dóbr osobistych.

Siła wyjaśniająca

Pojęcie pozwala zobaczyć, że „wolność słowa w sieci” nie jest stanem naturalnym, lecz produktem konkretnych decyzji projektowych. Po pierwsze, odsłania asymetrię skali: platforma rozpatrująca miliardy wpisów nie może ważyć każdego przypadku, więc o losie wypowiedzi decydują progi klasyfikatorów i kolejki zgłoszeń, a nie zasady — stąd Douek proponuje nadzór nad systemem zamiast nad pojedynczymi sprawami. Po drugie, rozdziela usunięcie od przyciszenia: użytkownik, którego wpis obniżono w rankingu, nie dostaje powiadomienia, a zatem spór o cenzurę toczy się w większości o decyzje, których nikt nie widzi. Po trzecie, ujawnia łańcuch pracy: za „automatycznym” usunięciem stoi zwykle człowiek w Manili lub Nairobi, który w kilka sekund ocenia obraz przemocy, a koszt psychiczny tej pracy nie pojawia się w żadnym sprawozdaniu platformy. Dzięki temu można odróżnić trzy osobne pytania, które publicystyka skleja w jedno: kto ustala reguły, kto je stosuje i kto ponosi koszt błędów.

Osie sporu

Niedoceniany kąt

Najmniej opisanym elementem moderacji nie jest usuwanie, lecz kształtowanie: reguły pisane są pod klasyfikator, więc to, co da się wykryć automatycznie, staje się tym, czego się zakazuje. Nagość jest łatwa do rozpoznania, nękanie ironią — nie, więc platformy od lat usuwają więcej piersi niż gróźb. Z tej samej przyczyny języki o małej liczbie użytkowników, w tym większość języków Europy Środkowej, są moderowane gorzej w obu kierunkach: więcej zostaje mowy nienawiści i więcej ginie wypowiedzi niewinnych, bo klasyfikatory trenowano na angielskim. Spór o „cenzurę Big Techu” toczy się w Waszyngtonie i Brukseli, podczas gdy rzeczywista jakość moderacji zależy od tego, czy firma zatrudnia kogokolwiek, kto czyta po słowacku.

W przekładzie

Polski termin nie jest ustalony. Akt o usługach cyfrowych w wersji polskiej używa „moderowania treści”, badacze i dziennikarze częściej piszą „moderacja treści”, a potocznie mówi się o „kasowaniu” i „banowaniu”. Kalka „moderacja” ma zaletę neutralności: nie przesądza, czy chodzi o cenzurę, czy o utrzymanie porządku, a właśnie o to toczy się spór. Wybieramy „moderację treści” jako termin ogólny, „moderowanie” zostawiamy kontekstom prawnym.