Wyjaśnialność (XAI)

Definicja robocza

Wyjaśnialność (explainable AI, XAI) to zdolność systemu uczącego się do dostarczenia człowiekowi powodów konkretnej decyzji albo opisu własnego działania w formie, którą adresat potrafi sprawdzić i wykorzystać: do zaufania, zakwestionowania lub poprawienia wyniku. Technicznie rozpada się na dwie strategie: modele z natury interpretowalne (reguły, modele liniowe, drzewa o ograniczonej głębokości) oraz wyjaśnienia post hoc dla czarnych skrzynek (ważność cech, lokalne przybliżenia, kontrfaktyczne „co musiałoby się zmienić”). W użyciu potocznym termin oznacza po prostu „AI, która mówi, dlaczego”; w użyciu technicznym jest to zestaw metod o jawnie różnych, często sprzecznych celach: debugowanie, audyt, zgodność z prawem, akceptacja użytkownika.

Geneza i rodowód

Pytanie, dlaczego program doszedł do wniosku, jest tak stare jak systemy ekspertowe lat 70. i 80., które generowały ślady reguł. Współczesna fala zaczęła się, gdy sieci głębokie zaczęły wygrywać z modelami przejrzystymi (po 2012 r.), a decyzje o kredytach, zwolnieniach warunkowych i diagnozach trafiły do modeli, których nikt nie potrafił odczytać. W 2015 r. DARPA sformułowała program Explainable Artificial Intelligence, prowadzony przez Davida Gunninga; czteroletnie badania ruszyły w 2017 r., a artykuł Gunninga i Davida Ahy w „AI Magazine” (2019) utrwalił akronim i program: wyjaśnialne modele, interfejsy wyjaśnień, psychologia wyjaśniania. Równolegle środowisko uczenia maszynowego wyprodukowało własny kanon: LIME (Ribeiro, Singh, Guestrin, 2016), SHAP (Lundberg i Lee, 2017), a także manifesty porządkujące pojęcie (Lipton 2016; Doshi-Velez i Kim 2017). Trzecia linia jest prawnicza: spór o to, czy RODO (stosowane od 2018 r.) zawiera „prawo do wyjaśnienia”, i propozycja wyjaśnień kontrfaktycznych Wachter, Mittelstadta i Russella (2017). Termin został częściowo przechwycony przez marketing: „wyjaśnialny” bywa etykietą każdego panelu z wykresem ważności cech, niezależnie od tego, czy ktokolwiek z niego korzysta.

Rodowód środkowoeuropejski

Najmocniejszy związek prowadzi do Wiednia. Sandra Wachter studiowała prawo na Uniwersytecie Wiedeńskim, pracowała jako radczyni prawna w austriackim Federalnym Ministerstwie Zdrowia, a doktorat (2015) przygotowała na Uniwersytecie Wiedeńskim, zanim trafiła do Oxford Internet Institute. Jej artykuł z 2017 r., pisany z Brentem Mittelstadtem i Chrisem Russellem, zaproponował wyjaśnienia kontrfaktyczne: zamiast opisywać wnętrze modelu, system podaje najmniejszą zmianę w danych, która odwróciłaby decyzję („kredyt zostałby przyznany, gdyby dochód był o 500 euro wyższy”). Formacja prawnicza, nie inżynierska, widać w samym pomyśle: wyjaśnienie mierzy się tym, czy pozwala zrozumieć, zakwestionować i zmienić wynik, a nie wiernością wobec algorytmu. Drugi związek to doświadczenie prawne, nie teoria. W 2019 r. Polska dopisała do Prawa bankowego art. 70a, dający klientowi prawo do pisemnego wyjaśnienia oceny zdolności kredytowej wraz z czynnikami i danymi, które na nią wpłynęły, niezależnie od tego, czy oceniał człowiek, czy algorytm. Przepis, o który zabiegała Fundacja Panoptykon, wykraczał poza RODO i o pięć lat wyprzedził art. 86 AI Act. Czy literatura XAI poza organizacjami cyfrowymi zauważyła ten przypadek, pozostaje do sprawdzenia.

Dlaczego teraz

Trzy ciągi zdarzeń zrobiły z wyjaśnialności wymóg, a nie ciekawostkę. Po pierwsze, regulacja: RODO (art. 22 i motyw 71) od maja 2018 r., a następnie AI Act (rozporządzenie 2024/1689), którego art. 86 daje osobie dotkniętej decyzją systemu wysokiego ryzyka prawo do „jasnego i merytorycznego wyjaśnienia” roli systemu i głównych elementów decyzji, ze stosowaniem od sierpnia 2026 r. Po drugie, skandale decyzji nieprzejrzystych: holenderska afera zasiłków (toeslagenaffaire), która w 2021 r. obaliła rząd, czy spory wokół algorytmów recydywy w USA uczyniły „dlaczego” pytaniem politycznym. Po trzecie, modele językowe od 2022 r. przesunęły problem: system potrafi wygenerować przekonujące uzasadnienie, które nie ma nic wspólnego z tym, jak obliczył odpowiedź. Badania nad interpretowalnością mechanistyczną (rozkładanie sieci na obwody i cechy) są odpowiedzią laboratoriów na to, że „wyjaśnienie” wypowiedziane przez model nie jest wyjaśnieniem modelu.

Siła wyjaśniająca

Pojęcie pozwala rozdzielić trzy rzeczy, które w publicystyce zlewają się w „przejrzystość”: wierność (czy wyjaśnienie opisuje faktyczny mechanizm), zrozumiałość (czy adresat potrafi je przetworzyć) i użyteczność (czy może na jego podstawie coś zrobić). Przykłady: model diagnostyczny, który na zdjęciach rentgenowskich rozpoznaje szpital, a nie chorobę — ważność cech ujawnia artefakt, którego sama dokładność nie pokazuje. Scoring kredytowy, w którym wyjaśnienie kontrfaktyczne daje klientowi ścieżkę działania, podczas gdy lista wag daje mu tylko poczucie, że został zmierzony. Asystent językowy, którego „rozumowanie krok po kroku” jest zrozumiałe i użyteczne, ale niewierne: obwód obliczeniowy robi co innego. Bez rozdzielenia tych trzech wymiarów każdy spór o XAI jest sporem o co innego.

Osie sporu

Niedoceniany kąt

Wyjaśnialność bywa traktowana jako problem interfejsu, a jest problemem władzy: kto ma prawo pytać, kogo obowiązuje odpowiedź i co z nią może zrobić. Polski art. 70a jest ciekawszy niż większość metod z arXiv właśnie dlatego, że zmienia relację, nie algorytm: bank musi wskazać czynniki, klient może poprawić błąd w danych. Z drugiej strony każda regulacja wyjaśnialności tworzy rynek wyjaśnień ozdobnych — raportów generowanych po to, by istniały. Rozstrzygające pytanie nie brzmi „czy model potrafi się wyjaśnić”, lecz „czy ktoś poniesie koszt, gdy wyjaśnienie okaże się fałszywe”. Dopóki odpowiedź jest przecząca, wyjaśnialność pozostaje gestem.

W przekładzie

Polszczyzna ma dwa terminy na dwa angielskie: „wyjaśnialność” (explainability) i „interpretowalność” (interpretability). W literaturze anglojęzycznej bywają one używane zamiennie, ale od Rudin i Liptona narasta rozróżnienie: interpretowalny jest model, który da się zrozumieć wprost; wyjaśnialny jest system, do którego dołączono wyjaśnienie. Kalka „wyjaśnialna AI” razi, lecz się przyjęła; „przejrzystość” jest szersza i obejmuje też dostęp do danych i kodu. Przyjmujemy „wyjaśnialność” jako termin główny, „interpretowalność” dla własności samego modelu.