Ostrzeżenia przed rozprzestrzenianiem się dezinformacji przez chatboty przed wyborami 3 listopada

W miarę zbliżania się wyborów do Kongresu w USA zaplanowanych na 3 listopada coraz więcej milionów wyborców sięga po chatboty oparte na sztucznej inteligencji, by uzyskać informacje wyborcze. Jednak ostatnie badania ostrzegają, że te narzędzia mogą nasilać rozprzestrzenianie się dezinformacji poprzez błędy w odpowiedziach, mylenie kandydatów i powielanie obcych kampanii propagandowych.

Badanie przeprowadzone przez start-up «Forum AI», specjalizujący się w ocenie modeli sztucznej inteligencji, wykazało, że około 40 proc. odpowiedzi chatbotów na pytania wyborcze zawierało co najmniej jeden błąd. Badanie przytoczyło przykłady praktyczne, w tym sytuację, w której model «Claude» firmy Anthropic błędnie przypisał kongresmanowi z Karoliny Północnej opis „były dyrektor okręgu szkolnego”, wynikającą z pomylenia postaci między kandydatami.

Badanie dodało, że błędy występowały częściej w pytaniach praktycznych dotyczących procedur głosowania niż w pytaniach o samych kandydatów. Na przykład model «Gemini 3.6 Flash» firmy Google odpowiedział, że 3 listopada jest ostatecznym terminem na złożenie wniosku o głosowanie korespondencyjne w stanie Pensylwania, podczas gdy badanie wskazało, że rzeczywisty termin upływał tydzień wcześniej.

Forum AI poinformowało także, że chatboty wielokrotnie przypisywały cytaty kandydatom, urzędnikom i obserwatorom, które w rzeczywistości od nich nie pochodziły, oraz często opierały się na internetowych źródłach określonych jako „niskiej jakości”, np. dyskusjach na forach internetowych.

Firma Anthropic nie odpowiedziała na prośbę Agencji France-Presse o komentarz. Google natomiast zapewnił, że koncentruje się na pomocy wyborcom w znajdowaniu wiarygodnych informacji i stosuje rygorystyczne mechanizmy kontroli jakości oraz polityki dotyczące produktów AI w tematyce wyborczej.

Pod koniec października służba weryfikacji faktów Agencji France-Presse obaliła wideo, które prawdopodobnie zostało zmodyfikowane za pomocą sztucznej inteligencji i które twierdziło, że pokazuje byłą uczennicę oskarżającą kandydata do Senatu z Teksasu, Jamesa Talarico, o niewłaściwe zachowanie seksualne. Służba weryfikacji uznała to oskarżenie za bezpodstawne i wskazała, że materiał nosi cechy kampanii dezinformacyjnej o rosyjskich naleciałościach.

Usługi związane ze sztuczną inteligencją, w tym „AI Overview” Google’a i inne modele, powtórzyły to samo oskarżenie, gdy zadawano im pytania serwisowi zajmującemu się monitorowaniem dezinformacji, podał opublikowany przez ten serwis raport. Inny raport wskazał, że użytkownicy chatbotów są narażeni na oszustwa pochodzące z zagranicznych operacji wpływu i innych złośliwych źródeł.

Następny test przeprowadzony przez zespół weryfikacji faktów AFP po opublikowaniu sprostowań wykazał, że niektóre narzędzia AI w kolejnych odpowiedziach oparły się na ekspertyzach specjalistów weryfikujących fakty, co świadczy o zmienności wyników pomiędzy testami. Google stwierdził, że problem naprawiono po zaktualizowaniu systemów, aby wyświetlały zaktualizowane raporty, a Microsoft wyjaśnił, że w momencie pierwszego pytania wiarygodne informacje były ograniczone i że „Copilot” zmienił odpowiedź po pojawieniu się nowszych danych, uznając zarzuty za sfabrykowane.

Obraz nie jest jednak w pełni optymistyczny. Ankieta przeprowadzona przez National Conference on Citizenship, organizację pozapartyjną, wykazała, że dwóch na pięciu Amerykanów korzystało z narzędzi AI przy poszukiwaniu informacji wyborczych, w tym danych o kandydatach i propozycjach poddanych pod głosowanie. Ankieta pokazała, że tylko 40 proc. ufa tym narzędziom w kwestiach proceduralnych dotyczących głosowania, podczas gdy 60 proc. ufa im w niewielkim stopniu lub wcale, jeśli chodzi o ich bezstronność wobec kandydatów.

Z drugiej strony badanie przeprowadzone przez Centrum Brennana ds. Sprawiedliwości wykazało, że wiodące modele chatbotów odpierały popularne teorie spiskowe dotyczące wyborów, takie jak twierdzenia o manipulacjach maszynami do głosowania, wykazywały empatię wobec sceptycznych użytkowników i odmawiały poparcia teorii spiskowych. Centrum uznało to za sygnał, że narzędzia te mimo powtarzających się błędów mogą odgrywać konstruktywną rolę w zwalczaniu dezinformacji wyborczej.