Dezinformacja stanowi poważne wyzwanie dla specjalistów i użytkowników mediów, ale także dla procesów demokratycznych. Finansowany przez UE projekt „European Narrative Observatory” / PROMPT (Predictive Research On Misinformation and Narrative Propagation Trajectories) wykorzystuje duże modele językowe (LLM) do odkrywania narracji i wzorców dezinformacji online oraz rozszyfrowywania ich tła. Celem jest zapewnienie dziennikarzom narzędzi, które pozwolą im lepiej rozpoznawać dezinformację. W nadchodzących miesiącach Europejskie Obserwatorium Dziennikarstwa będzie regularnie publikować informacje na temat projektu i jego wyników. Martin Lestra i Jordan Ricker koordynują projekt we francuskim instytucie badawczym OPSCI. W wywiadzie dla EJO wyjaśniają, na czym polega projekt i jakie cele zespół realizuje z pomocą LLM.

EJO: O co chodzi w tym przedsięwzięciu?

ML & JR: PROMPT to „Europejskie Obserwatorium Narracji” finansowane przez Komisję Europejską, które ma na celu identyfikację i analizę pojawiania się narracji dezinformacyjnych przy użyciu sztucznej inteligencji w trzech obszarach uznanych za priorytetowe dla Komisji Europejskiej: wojna na Ukrainie, prawa i wolności LGBTQIA+ oraz wybory europejskie w 2024 roku.

Przez 18 miesięcy będziemy pracować nad rozszyfrowaniem źródeł tych narracji i ich powstawania zarówno offline, jak i online w 6 krajach (Francja, Łotwa, Litwa, Węgry, Włochy i Rumunia) i 8 językach (dodajemy angielski i rosyjski), ich roli w kształtowaniu umysłów ludzi i wartości emocjonalnych, które wspierają „udane” narracje dezinformacyjne. Opracujemy metodologię, aby lepiej zrozumieć, w jaki sposób powstają narracje i jak rozprzestrzeniają się na różnych platformach. Skupimy się na kluczowych węzłach informacyjnych we wpływowych mediach, platformach społecznościowych i Wikipedii. Ostatecznie zaoferujemy dziennikarzom i aktywistom nowe narzędzia do rozpoznawania, przewidywania i zwalczania narracji dezinformacyjnych.

PROMPT to projekt pilotażowy, co oznacza, że mobilizujemy najnowocześniejszą wiedzę specjalistyczną i technologię AI, aby podjąć próbę walki z dezinformacją. Mamy szczęście pracować w wielu dyscyplinach (matematyka, lingwistyka, socjologia, medioznawstwo itp.) z 11 wiodącymi podmiotami w 8 krajach UE, w szczególności z ekspertami medialnymi i dziennikarzami, takimi jak Erich-Brost Institute (Niemcy), Les Surligneurs (Francja), Re:Baltica (kraje bałtyckie) czy Asociatia Digital Bridge (Rumunia).

Co zainspirowało Was do rozwijania tego projektu?

Mamy jasny cel: wspierać zdrową demokratyczną debatę. Przez ostatnie 10 lat pracowaliśmy nad monitorowaniem opinii online, a przez ostatnie 20 lat nad komunikacją/retoryką. Widzimy, jak dezinformacja ewoluowała – i jak bardzo jest zniuansowana (nie chodzi tylko o „fałszywe” lub „prawdziwe” wiadomości). Współpracowaliśmy z dziennikarzami oraz aktywistami i widzimy, że istnieje niewykorzystany potencjał narzędzi AI do wspierania ich pracy.

Dwa główne czynniki napędzające projekt to czynniki technologiczne i społeczne. Technologiczny, ponieważ ostatnie postępy w dziedzinie sztucznej inteligencji, które od kilku lat integrujemy z naszą pracą nad analizą dużych ilości danych społecznych, umożliwiły nam znaczny skok wydajności, umożliwiając zaawansowane przetwarzanie wyrażeń online za pomocą LLM i ich automatyczną kategoryzację jakościową, „zwiększając” możliwości analityków.

Społeczne, ponieważ wierzymy, że tylko podejście obejmujące całe społeczeństwo pozwoli nam wygrać kolejne bitwy w wojnie z dezinformacją. Specjaliści zaangażowani w tę walkę czasami czują się osamotnieni lub rozbrojeni w obliczu wzrostu liczby operacji destabilizacyjnych. Naszą skromną ambicją jest zapewnienie im dodatkowej broni.

Co odróżnia ten projekt od innych (wcześniejszych) projektów dotyczących sztucznej inteligencji, raportowania medialnego i szkoleń?

PROMPT jest drugim Europejskim Obserwatorium Narracji. Opieramy się na pracach NODES (Narratives Observatory Combatting Disinformation in Europe Systemically), projektu, który koncentrował się przede wszystkim na tym, w jaki sposób społeczności dezinformacyjne online są ustrukturyzowane i współdziałają w innych interesujących nas tematach – migracji, zmianach klimatu i Covid-19.

Nasze badania opierają się na tej pracy, podejmując dodatkowe kroki, wykorzystując na przykład duże modele językowe w celu pogłębienia monitorowania powstawania i rozprzestrzeniania się narracji. W PROMPT nie chodzi tylko o zbudowanie najlepszego modelu i cudownego środka przeciw dezinformacji – jesteśmy sceptyczni wobec tego rodzaju wypowiedzi. Chodzi o stworzenie najbardziej użytecznego modelu.

Istnieje wiele wysiłków akademickich mających na celu opracowanie najnowocześniejszych metodologii analizy narracji. To, co jest również bardzo ważne, a czego często brakuje, to dodatkowy wysiłek, aby badania były operacyjne dla tych, którzy codziennie walczą z dezinformacją. Dobrymi przykładami w tej dziedzinie są projekty takie jak vera.ai, które pomagają projektować i testować narzędzia oparte na sztucznej inteligencji do wykrywania dezinformacji. Mając w zespole PROMPT fact-checkerów i Wikimedia France (a Wikipedia jest przecież bardzo dużą platformą internetową, która według UE stoi w obliczu ryzyka systemowego) jesteśmy przekonani, że możemy mieć duży wpływ na naszych odbiorców.

Uzupełniamy również prace innych organizacji zajmujących się sprawdzaniem faktów i umiejętnością korzystania z mediów, na przykład Europejskiego Obserwatorium Mediów Cyfrowych (EDMO – European Digital Media Observatory) lub członków European Fact-Checkers Standards Network. Cieszymy się również, że możemy korzystać z wiedzy Instytutu Ericha Brosta, który może zwiększyć nasz zasięg do kompleksowej ogólnoeuropejskiej sieci instytutów dziennikarstwa, obejmującej wszystkie państwa członkowskie.

W jaki sposób Europejskie Obserwatorium Narracji przyczynia się do zwalczania dezinformacji?

Aby odpowiedzieć na to pytanie, należy najpierw zrozumieć, dlaczego narracje mają znaczenie. Narracje dezinformacyjne niosą ze sobą istotne ryzyko i zagrożenia dla krajów UE. Rozpowszechnianie fałszywych i wprowadzających w błąd informacji na temat wojny na Ukrainie może potencjalnie osłabić poparcie społeczne dla krajowych i wspólnych działań UE wspierających Ukrainę. Fałszywe narracje wymierzone i atakujące społeczność LGBTQIA+ mogą spowodować znaczne szkody w integracji i równości tych grup, a także wpłynąć na stan ochrony praw człowieka. Narracje dezinformacyjne wokół wyborów mogą wprowadzać wyborców w błąd i podważać fundamenty naszych demokracji.

Podmioty zajmujące się dezinformacją, w tym te zasilane przez nieuczciwe państwa próbujące zdestabilizować nasze demokracje, pracują niestrudzenie, aby siać niezadowolenie i polaryzować debatę publiczną. Musimy się tym zająć, wykorzystując najlepsze techniki badania i pokazując jednoznaczne dowody potwierdzające te zjawiska. Poprzez nazywanie, ujawnianie, zawstydzanie, kontratakowanie i zwiększanie kosztów działań dezinformacyjnych, praca nad narracjami, taka jak PROMPT i inne, wnosi swój własny wkład w wysiłki na rzecz zwalczania dezinformacji online i offline.

Nadal istnieje wiele aspektów dezinformacji do zbadania: na przykład, w jaki sposób krąży ona na platformach społecznościowych z „uniwersalnymi” wzorcami retorycznymi lub z lokalnymi idiosynkrazjami językowymi i kulturowymi. Jest to jedno z kluczowych pytań, na które odpowie projekt PROMPT.

Jaka jest rola dużych modeli językowych w wykrywaniu fałszywych wiadomości w mediach i Internecie?

Dezinformacja to nie tylko „fałszywe” i „prawdziwe” wiadomości. Koncepcyjnie uważamy, że dezinformacja ma preferowane i powtarzające się sposoby prezentacji. Jednocześnie jednak język jest złożony, a struktury językowe i znaczenie mogą się różnić w zależności od języka i rodzaju dyskursu (na przykład agresywna, wyraźna mowa nienawiści w porównaniu z ukrytym humorem). Narzędzia LLM są bardzo dobre w wykrywaniu i analizowaniu na dużą skalę tych systematycznych cech i ich odmian.

Większość ludzi zna LLM jako narzędzia, które pomagają w pisaniu tekstu (lub kodu). Ale AI może nie tylko wykrywać dezinformację, ale także kontekstualizować ją dla dziennikarzy i weryfikatorów faktów w bardzo prostej formie. Innymi słowy, tak jak omawiasz najlepsze plany urodzinowe dla 4-latka z ChatGPT, z modelem, który zamierzamy opracować, możesz omówić cechy wprowadzającego w błąd / fałszywego twierdzenia, które wykryła sztuczna inteligencja: skąd pochodzi? Gdzie jeszcze widzieliśmy podobne twierdzenia? W jakich językach? Jakie uprzedzenia wykorzystuje to twierdzenie i jakiej retoryki używa do przekazywania dezinformacji?

Jest wiele rzeczy, które LLM może zrobić, ale ostatecznie musi to być przydatne dla tych, którzy są na pierwszej linii walki z dezinformacją. Właśnie dlatego dziennikarze i działacze społeczeństwa obywatelskiego są kluczowi i uczestniczą w tym projekcie.

Jakimi tematami zajmuje się projekt i dlaczego je wybraliście?

Komisja Europejska zdefiniowała te kwestie. Środek ciężkości przesuwa się od skupiania się w szczególności na Covid-19 do innych (i często powiązanych!) głównych kwestii. Nic dziwnego, że wśród nich jest wojna przeciwko Ukrainie. W Internecie dzieje się w tym zakresie tak wiele, że istnieje wiele danych i wiedzy, na których PROMPT może się oprzeć. Obserwujemy również intensywne rozprzestrzenianie się fałszywych, szkodliwych narracji związanych z tożsamością płciową i ekspresją płciową (dezinformacja oparta na płci), często postrzeganych w kontekście dyskryminujących lub pejoratywnych wypowiedzi wobec kobiet, homofobii i dyskryminacji społeczności LGBTQIA+. Badamy sposoby łagodzenia tych zagrożeń w celu zwiększania spójności społecznej, poziomu demokracji i ochrony podstawowych praw człowieka. Także wprowadzające w błąd narracje dotyczące wyborów mają oczywiście ogromny potencjalny wpływ na opinię publiczną, zachowania wyborców i procesy demokratyczne.

Jednak problemy to nie tylko lista tematów do opracowania w kontekście dezinformacji. Wiemy z naszych poprzednich badań, z innych projektów badawczych oraz z pracy dziennikarzy i weryfikatorów faktów, że konta udostępniające dezinformację jednego dnia publikują posty na temat Covid lub szczepionek, a następnego promują wersję Putina na temat tego, co dzieje się na Ukrainie. Albo że podobne narracje i twierdzenia pojawiają się przy kolejnych kampaniach wyborczych. Oznacza to, że PROMPT ma wiele do zaoferowania innym inicjatywom mającym na celu zwalczanie dezinformacji.

Więcej informacji na stronie projektu https://disinfo-prompt.eu/