Avertissements sur la diffusion de désinformation par les chatbots avant les élections du 3 novembre

À l'approche des élections de mi-mandat aux États-Unis prévues le 3 novembre, des millions d'électeurs recourent aux chatbots fondés sur l'intelligence artificielle pour obtenir des informations électorales, mais des études récentes avertissent que ces outils pourraient accroître la diffusion de désinformation par des erreurs dans leurs réponses, des confusions entre candidats et la reproduction de propagande étrangère.

Une étude de la start-up Forum AI, spécialisée dans l'évaluation des modèles d'IA, a montré qu'environ 40 % des réponses des chatbots à des questions électorales contenaient au moins une erreur. L'étude a donné des exemples concrets, notamment que le modèle Claude d'Anthropic a attribué par erreur à un représentant de Caroline du Nord la qualification « ancien directeur d'un district scolaire », par confusion entre des candidats.

L'étude a ajouté que les erreurs étaient plus fréquentes pour les questions pratiques liées aux procédures de vote que pour les erreurs concernant les candidats eux-mêmes. Par exemple, le modèle Gemini 3.6 Flash de Google a indiqué que le 3 novembre était la date limite pour demander un bulletin de vote par correspondance en Pennsylvanie, alors que l'étude a précisé que la date réelle était une semaine plus tôt.

Forum AI a aussi indiqué que les chatbots avaient attribué des propos à des candidats, responsables et observateurs des centaines de fois qui n'avaient pas été tenus par ces personnes, et qu'ils s'étaient appuyés à plusieurs reprises sur des sources en ligne qualifiées de « de faible qualité », comme des discussions sur des forums électroniques.

Anthropic n'a pas répondu à la demande de commentaire de l'Agence France-Presse. De son côté, Google a affirmé qu'elle se concentre sur l'aide aux électeurs pour trouver des informations fiables et applique des contrôles de qualité et des politiques strictes à ses produits d'IA sur les sujets électoraux.

Fin octobre, le service de vérification des faits de l'Agence France-Presse a démenti une vidéo vraisemblablement modifiée à l'aide de l'IA qui prétendait montrer un ancien étudiant d'un candidat au Sénat du Texas, James Talarico, l'accusant de mauvaise conduite sexuelle ; les services de vérification ont qualifié cette accusation de sans fondement et l'ont identifiée comme portant les traits d'une campagne de désinformation russe.

Des services liés à l'IA, dont AI Overview de Google et d'autres modèles, ont déclaré avoir reproduit la même accusation lorsqu'on leur a posé la question par un site spécialisé dans le repérage de la désinformation, selon un rapport publié par ce site. Un autre rapport a indiqué que les utilisateurs de chatbots étaient exposés au risque d'être trompés par des opérations d'influence étrangères et d'autres acteurs malveillants.

Mais un test ultérieur mené par l'équipe de vérification de l'AFP après la publication des corrections a montré que certains outils d'IA s'étaient ensuite fondés dans leurs réponses sur des vérificateurs de faits spécialisés, ce qui témoigne d'une variabilité de leurs sorties d'un test à l'autre. Google a déclaré que le problème avait été résolu après qu'elle eut mis à jour ses systèmes pour afficher des rapports mis à jour, tandis que Microsoft a expliqué que les informations fiables disponibles étaient limitées au moment de la première question et que Copilot a reflété la position opposée une fois des données plus récentes disponibles, considérant l'accusation comme fabriquée.

L'image n'est pas entièrement optimiste. Un sondage du National Conference on Citizenship, une organisation non partisane, a montré que deux Américains sur cinq ont utilisé des outils d'IA pour rechercher des informations électorales, notamment sur les candidats et les propositions soumises au vote. Le sondage a indiqué que seulement 40 % font confiance à ces outils pour des informations procédurales sur le vote, tandis que 60 % ont déclaré qu'ils leur faisaient peu confiance ou n'avaient aucune confiance quant à leur neutralité vis-à-vis des candidats.

En revanche, une étude du Brennan Center for Justice a conclu que les modèles de chatbots dominants ont repoussé des théories du complot répandues relatives aux élections, telles que les allégations de manipulation des machines de vote, et qu'ils ont fait preuve d'empathie envers des utilisateurs sceptiques et ont refusé d'appuyer les théories du complot. Le centre a estimé que cela indique que ces outils pourraient jouer un rôle constructif dans la lutte contre la désinformation électorale malgré les erreurs récurrentes.