Pracownicy mediów uważają walkę z dezinformacją za jedno z najważniejszych wyzwań w swojej pracy. Obywatele oczekują od nich już nie tylko dostarczania wiarygodnych i zweryfikowanych informacji, ale także ochrony społeczeństwa przed wpływem dezinformacji. Co więcej, transformacja strategii i technik dezinformacji zmieniła sposób przetwarzania informacji przez dziennikarzy, zmuszając ich do dostosowania się i przyjęcia nowych metod pracy.

W tym kontekście konsorcjum projektu PROMPT wykorzystuje metody oparte na sztucznej inteligencji do stworzenia arsenału narzędzi do wykrywania dezinformacji i kontekstualizacji dla dziennikarzy i aktywistów.

Co nowego może jednak wnieść kolejny projekt w tym zakresie, skoro istnieje już wiele badań, inicjatyw i organizacji zajmujących się weryfikacją faktów (choć niewiele aplikacji do wykrywania dezinformacji)?

Partnerzy PROMPT uznają, że dezinformacja jest zjawiskiem podlegającym ciągłym zmianom, w którym coraz większą rolę odgrywają nowe tematy, podmioty oraz techniki i metody. Badanie sztucznej inteligencji i dezinformacji oznacza zmierzenie się z ruchomym celem, który nadąża za tempem zmian technologicznych.

Najważniejszym, ale i najtrudniejszym zadaniem w badaniach nad dezinformacją jest rozszyfrowanie jej wpływu. Centralnym punktem projektu PROMPT jest hipoteza, że propagatorzy dezinformacji w coraz większym stopniu wykorzystują wzorce kulturowe, społeczne i językowe, aby osiągnąć większy wpływ. Musimy zrozumieć, w jaki sposób powstają i zmieniają się narracje, aby wywołać rezonans w określonych społecznościach. PROMPT wykorzystuje metody oparte na sztucznej inteligencji i duże modele językowe (LLM) do monitorowania narracji dezinformacyjnych, sposobu ich propagowania i transformacji w procesie przemieszczania się i przekształcania na platformach społecznościowych i w kontekstach lokalnych.

Proces ten nie jest pozbawiony wyzwań. Głównym zadaniem grupy naukowców z Wydziału Nauk Społecznych Uniwersytetu Rīga Stradiņš (Łotwa), we współpracy z opsci.ai, koordynatorem projektu PROMPT, było stworzenie książki kodowej – do wykrywania i dekonstrukcji głównych narracji dezinformacyjnych i związanych z nimi argumentów.

Co nowego zawiera książka kodowa PROMPT?

W oparciu o wcześniejsze badania nad dezinformacją, najlepsze praktyki stosowane przez praktyków oraz analizę „próbek” dezinformacji stworzyliśmy dokument zawierający 30 grup kodów i ponad 240 kodów. Opierając się na podejściu interdyscyplinarnym (media, komunikacja, badania semantyczne), opracowaliśmy system kodowania dezinformacji, który łączy różne elementy językowe, środki retoryczne, techniki manipulacji informacją, a także kody pomagające rozpoznać cel dezinformacji, intencje jej propagatorów i jej możliwe skutki.

W tym kontekście forma dezinformacji (sposób jej przedstawienia) jest równie ważna jak jej treść (to, o czym mówi).

Główna część dokumentu poświęcona jest analizie różnych kategorii językowych i retorycznych. Kierując się założeniem, że dystrybutorzy dezinformacji coraz częściej wykorzystują wzorce kulturowe, społeczne i językowe, aby osiągnąć większy efekt, skupiliśmy się na retoryce dezinformacji, stosując filtr multimodalny (tekst, zdjęcia, filmy) i wielojęzyczny (8 języków). Rozszyfrowaliśmy te praktyki, klasyfikując mechanizmy perswazji i techniki manipulacji informacją, środki leksykalne oraz różnorodną listę figur retorycznych. Aby przeanalizować głębsze warstwy dezinformacji, wykorzystaliśmy kategorie aksjologiczno-semantyczne w celu określenia i zdefiniowania wartości promowanych w postach w mediach społecznościowych.

Książka kodowa pomaga również określić, czy informacje mają na celu zasianie niezgody, szerzenie strachu i wywieranie wpływu na opinię publiczną poprzez użycie agresywnych słów, które wyrażają agresję lub wrogość (np. „wróg”, „zdrajca”, „najeźdźca”, „konflikt” lub „zagrożenie”), czy też promują dyskryminację określonych grup poprzez stosowanie stereotypowych słów, które utrwalają istniejące klisze – np. „kato-faszysta”, „królowa zasiłków” lub „leniwy imigrant”. Poczucie pilności danego zagadnienia, strachu lub paniki można wywołać za pomocą alarmistycznych słów, często używanych w celu wyolbrzymienia sytuacji lub wywołania silnej reakcji emocjonalnej, np. „katastrofalny”, „pilny”, „epidemia”, „tragiczny” lub „kryzys”. Jednak identyfikacja konkretnego słownictwa niekoniecznie potwierdza obecność dezinformacji; pomaga raczej sprawdzić, czy jest ono silnie skorelowane z treściami dezinformacyjnymi.

Po pierwszej fazie testów, zdając sobie sprawę z możliwości narzędzia do dogłębnej analizy, uzupełniliśmy również dokument o analizę powiązań między językiem używanym w postach w mediach społecznościowych a różnymi ideologiami politycznymi. Podejście to znacznie zwiększa zdolność narzędzia do uwzględniania szerszego kontekstu kultury politycznej w rozumieniu zjawiska dezinformacji.

Dzięki sztucznej inteligencji (LLM) wszystkie te kategorie będą wspierać arsenał narzędzi do analizy dezinformacji projektu PROMPT. Będzie ono w stanie wykrywać subtelne niuanse w języku informacji publicznej – niuanse, które mogą pozostać niezauważalne dla nieuzbrojonego oka, ale które mogą zasadniczo zmienić przekaz, zmieniając jego znaczenie i odgrywając kluczową rolę w kształtowaniu postrzegania i odbioru dezinformacji w przestrzeni cyfrowej.

Jak opracowaliśmy książkę kodową i czego nauczyliśmy się w trakcie tego procesu?

W tworzeniu i walidacji matrycy uczestniczyli wszyscy partnerzy PROMPT. Podczas trzech warsztatów technicznych partnerzy projektu zaproponowali i przeanalizowali przykłady dezinformacji oraz pomogli w poprawieniu matrycy.

Jedna z kluczowych lekcji: dokument tego typu powinien odzwierciedlać zarówno standardy przestrzegane przez dziennikarzy (kategorie dotyczące faktograficzności, typologii dezinformacji, weryfikowalności), jak i kategorie mniej zbadane w tej dziedzinie (atrybuty aksjologiczne i środki retoryczne). To pluralistyczne podejście ma kluczowe znaczenie dla wkładu PROMPT w badania naukowe. Przetestowaliśmy matrycę na próbie przypadków dezinformacji charakterystycznych dla poszczególnych krajów, w tym na obalonych twierdzeniach zaczerpniętych z pracy osób zajmujących się fact-checkingiem.

Macierz stanowi kompromis między teorią a praktyką, łącząc podejście oparte na literaturze przedmiotu z empiryczną analizą przykładów dezinformacji z sześciu krajów (Łotwy, Litwy, Estonii, Rumunii, Włoch i Francji). Uwzględnia ona specyfikę rozpowszechniania dezinformacji w tych krajach oraz wpływ, jaki mogą na to mieć unikalne cechy danego języka, struktura środowiska komunikacyjnego, a także lokalne dyskursy społeczno-polityczne i kulturowe.

Choć opracowanie macierzy PROMPT może stanowić duże wyzwanie, powinno ono pomóc w ujawnieniu i lepszym zrozumieniu mechanizmów dezinformacji, nie tylko retorycznych. Powinno ono dostarczyć dodatkowych narzędzi do wykrywania osób próbujących manipulować opinią publiczną, polaryzować przestrzeń cyfrową, a ostatecznie podważać instytucje demokratyczne.