11月3日選挙前、AIチャットボットの誤情報拡散を警告

11月3日に予定された米国の中間選挙を前に、何百万もの有権者が選挙情報を得るためにAI搭載のチャットボットに頼っているが、最近の研究はこれらのツールが回答の誤りや候補者の混同、外国のプロパガンダの再現を通じて誤情報を拡散する可能性を高めると警告している。

AIモデルの評価を専門とする新興企業「フォーラムAI」の研究は、選挙に関するチャットボットの回答のおよそ40％に少なくとも1件の誤りが含まれていることを示した。研究は具体例も挙げており、Anthropicのモデル「Claude」がノースカロライナ州選出のある下院議員を誤って「元学区長」と説明するなど、候補者を取り違えるケースを報告している。

研究はまた、誤りは候補者に関する質問よりも投票手続きに関する実務的な質問でより頻繁に起きていると指摘した。例えば、Googleのモデル「Gemini 3.6 フラッシュ」は、ペンシルベニア州の郵便投票申請の締め切りが11月3日だと答えたが、研究は実際の締め切りはそれより1週間前だったと指摘している。

フォーラムAIはまた、チャットボットが何百回も候補者や公職者、監視団体による発言だと誤って帰属させたり、しばしばインターネット上の『低品質』な情報源、例えば電子掲示板の議論などを繰り返し参照していると述べた。

Anthropicはフランス通信社（AFP）からのコメント要請に応じなかった。一方でGoogleは、有権者が信頼できる情報を見つけられるよう支援することに注力しており、選挙関連のAI製品には厳格な品質管理とポリシーを適用していると述べている。

10月下旬、フランス通信社のファクトチェックサービスは、AIで改変された可能性のある動画が、テキサス州の上院候補ジェームズ・タラリコの元学生を示し、性的暴行で非難していると主張する映像を論駁した。ファクトチェック両サービスはこの主張を根拠なしとし、ロシアによる誤情報キャンペーンの特徴があると判断した。

AI関連サービスの一部、例えばGoogleの「AIオーバービュー」や他のモデルは、ある誤情報監視サイトが質問を投げかけた際に同じ非難を再現したとそのサイトの報告が伝えている。別の報告は、チャットボットユーザーが外国の影響作戦やその他の悪意ある主体による欺瞞のリスクにさらされていると指摘している。

しかし、フランス通信社のファクトチェックチームが訂正を出した後に行った別のテストでは、一部のAIツールが回答で専門のファクトチェッカーの報告を参照していたことが示され、ツール間やテスト間で出力にばらつきがあることが明らかになった。Googleはシステムを更新して最新の報告を表示するようにしたことで問題が解決されたと述べ、マイクロソフトは当初質問が行われた時点では信頼できる情報が限られており、その後データが入手可能になると「Copilot」が見解を変えてその主張をでっち上げと判断したと説明した。

状況が必ずしも楽観的でないことを示す調査もある。非党派組織ナショナル・カンファレンス・オン・シチズンシップの調査は、米国人の5人に2人が候補者情報や投票にかかる提案などの選挙情報を探す際にAIツールを使用したと示した。調査では、投票手続きに関する情報についてのみ約40％がこれらのツールを信頼している一方で、候補者に対する中立性については60％がほとんど信頼していないか全く信頼していないと答えた。

これに対し、ブレナン司法センターの研究は、主要なチャットボットモデルが投票機器の不正操作といった広まった陰謀論に反論し、懐疑的な利用者に同情的な姿勢を示しつつ陰謀論の支持を拒否する傾向があったと結論づけた。センターは、こうしたツールが繰り返される誤りにもかかわらず、選挙に関する誤情報と戦う上で建設的な役割を果たす可能性を示していると評価している。