Waarschuwingen over verspreiding van misleidende informatie via chatbots voorafgaand aan de tussentijdse verkiezingen op 3 november

Met de tussentijdse verkiezingen in de Verenigde Staten gepland op 3 november wenden miljoenen kiezers zich tot op kunstmatige intelligentie gebaseerde chatbots voor verkiezingsinformatie, maar recente studies waarschuwen dat deze tools de verspreiding van misleidende informatie kunnen vergroten door fouten in antwoorden, verwarring tussen kandidaten en het kopiëren van buitenlandse propaganda.

Een studie van de start-up Forum AI, gespecialiseerd in het evalueren van AI-modellen, toonde aan dat ongeveer 40 procent van de antwoorden van chatbots op verkiezingsvragen minstens één fout bevatte. De studie gaf praktische voorbeelden: het model Claude van Anthropic schreef ten onrechte een afgevaardigde uit North Carolina de kwalificatie "voormalig directeur van een schooldistrict" toe, doordat twee personen door elkaar werden gehaald.

De studie stelde dat fouten vaker voorkwamen bij praktische vragen over stemprocedures dan bij vragen over de kandidaten zelf. Zo antwoordde het model Gemini 3.6 Flash van Google dat 3 november de uiterste datum was om in Pennsylvania per post een stembiljet aan te vragen, terwijl de studie wees op een daadwerkelijke deadline die een week eerder lag.

Forum AI zei ook dat chatbots honderden keren uitspraken toeschreven aan kandidaten, functionarissen en waarnemers die zij niet hadden gedaan, en herhaaldelijk vertrouwden op internetbronnen die zij als "laagwaardig" bestempelden, zoals discussies op online fora.

Anthropic reageerde niet op een verzoek van persbureau Agence France-Presse (AFP) om commentaar. Google zei op haar beurt dat zij zich richt op het helpen van kiezers bij het vinden van betrouwbare informatie en dat zij kwaliteitscontroles en strikte beleidsregels toepast op haar AI-producten voor verkiezingsthema's.

Eind oktober weerlegde de factcheckdienst van Agence France-Presse een video die mogelijk met behulp van AI was bewerkt en die naar verluidt een voormalige student van een kandidaat voor de Texaanse senaat, James Talarico, toonde die hem van seksueel wangedrag beschuldigde; de factchecks noemden de beschuldiging ongegrond en wezen op kenmerken van een Russische desinformatiecampagne.

Diensten gerelateerd aan AI, waaronder "AI Overview" van Google en andere modellen, reproduceerden volgens een rapport dezelfde beschuldiging toen er vragen over werden gesteld door een site die desinformatie volgt. Een ander rapport stelde dat gebruikers van chatbots het risico lopen te worden misleid door buitenlandse beïnvloedingsoperaties en andere kwaadaardige actoren.

Een latere test door het factcheckteam van AFP, na het publiceren van correcties, toonde aan dat sommige AI-tools hun antwoorden later baseerden op gespecialiseerde factcheckers, wat wijst op variatie in de uitkomsten tussen tests. Google zei dat het probleem was verholpen nadat het zijn systemen had bijgewerkt om actuele rapporten weer te geven, terwijl Microsoft verklaarde dat betrouwbare informatie aanvankelijk beperkt beschikbaar was en dat Copilot zijn standpunt wijzigde toen nieuwere gegevens beschikbaar kwamen en de bewering als verzonnen werd bestempeld.

Het plaatje is niet volledig positief. Een peiling van de National Conference on Citizenship, een niet-partijgebonden organisatie, liet zien dat twee op de vijf Amerikanen AI-tools hebben gebruikt om informatie over verkiezingen te zoeken, inclusief informatie over kandidaten en stemvoorstellen. De peiling meldde dat slechts 40 procent deze tools vertrouwt voor procedurele informatie over stemmen, terwijl 60 procent zei dat zij weinig tot geen vertrouwen hebben in de onpartijdigheid van die tools ten opzichte van kandidaten.

Tegelijkertijd concludeerde onderzoek van het Brennan Center for Justice dat toonaangevende chatbotmodellen veelvoorkomende samenzweringstheorieën over verkiezingen, zoals beweringen over manipulatie van stemmachines, tegengaan, dat zij empathie tonen tegenover sceptische gebruikers en dat zij weigerden samenzweringstheorieën te ondersteunen. Het centrum stelde dat dit erop wijst dat deze hulpmiddelen een constructieve rol kunnen spelen in het bestrijden van verkiezingsmisinformatie ondanks de herhaalde fouten.