Varningar om spridning av vilseledande information via chattbotar inför valet den 3 november

Med bara dagar kvar till kongressvalet i USA den tredje november (november) vänder sig miljontals väljare till AI-drivna chattbotar för att få valinformation, men nya studier varnar för att dessa verktyg kan öka spridningen av desinformation genom felaktiga svar, förväxlingar mellan kandidater och efterapning av utländsk propaganda.

En studie från uppstartsbolaget Forum AI, som specialiserar sig på utvärdering av AI-modeller, visade att omkring 40 procent av chattbotarnas svar på valrelaterade frågor innehöll minst ett fel. Studien gav praktiska exempel, bland annat att modellen Claude från Anthropic felaktigt betecknade en kongressledamot från North Carolina som "tidigare chef för ett skoldistrikt", i ett fall av förväxling mellan kandidater.

Studien tillade att felen var vanligare i praktiska frågor om röstningsprocedurer än i frågor om själva kandidaterna. Till exempel svarade Googles modell Gemini 3.6 Flash att den 3 november var sista datum för att begära röstsedel per post i Pennsylvania, medan studien konstaterade att det verkliga datumet låg en vecka tidigare.

Forum AI uppgav också att chattbotar hundratals gånger tillskrev uttalanden till kandidater, tjänstemän och observatörer som de inte gjort, och upprepade gånger förlitade sig på onlinekällor som beskrevs som "låga i kvalitet", till exempel diskussioner i internetforum.

Anthropic svarade inte på AFP:s förfrågan om kommentar. Google å sin sida säger att företaget fokuserar på att hjälpa väljare hitta tillförlitlig information och tillämpar kvalitetskontroller och strikt policy för sina AI-produkter i fråga om valrelaterade ämnen.

I slutet av oktober avfärdade AFP:s faktagranskning en video som sannolikt redigerats med hjälp av artificiell intelligens och som påstod visa en före detta student till en kandidat till senaten från Texas, James Talarico, anklaga honom för sexuellt missbruk. Faktagranskningstjänsterna bedömde anklagelsen som obefogad och med drag av en rysk desinformationskampanj.

Tjänster kopplade till AI, bland dem Googles AI Overview och andra modeller, reproducerade enligt rapporter samma anklagelse när de fick frågor från en sajt som bevakar desinformation. En annan rapport påpekade att användare av chattbotar är utsatta för risken att bli vilseledda av utländska påverkansoperationer och andra illasinnade aktörer.

En senare undersökning av AFP:s faktagranskningsgrupp efter publiceringen av korrigeringar visade att vissa AI-verktyg senare baserade sina svar på specialiserade faktagranskare, vilket tyder på variation i resultaten mellan olika testtillfällen. Google uppgav att problemet åtgärdades efter att företaget uppdaterat sina system för att visa uppdaterade rapporter, medan Microsoft förklarade att tillförlitlig information var begränsad vid den första frågan och att Copilot ändrade ställning när nyare uppgifter blev tillgängliga och kallade anklagelsen fabricerad.

Det är dock inte entydigt positivt. En undersökning av National Conference on Citizenship, en opolitisk organisation, visade att två av fem amerikaner använt AI-verktyg för att söka valinformation, inklusive uppgifter om kandidater och förslag till omröstning. Enligt undersökningen litade bara 40 procent på dessa verktyg vad gäller praktisk information om röstning, medan 60 procent sade att de litade lite eller inte alls på deras neutralitet gentemot kandidater.

Å andra sidan fann forskning från Brennan Center for Justice att ledande chattbotmodeller bemötte vanliga konspirationsteorier om valet, som påståenden om manipulation av röstningsmaskiner, och att de visade empati med skeptiska användare och vägrade att stödja konspirationsteorier. Centret bedömde att detta tyder på att dessa verktyg trots sina upprepade fel kan spela en konstruktiv roll i kampen mot valrelaterad desinformation.