Предупреждения о распространении дезинформации через чат-ботов перед промежуточными выборами 3 ноября

По мере приближения промежуточных выборов в США, назначенных на 3 ноября, миллионы избирателей обращаются к чат-ботам, основанным на искусственном интеллекте, за избирательной информацией. Но недавние исследования предупреждают, что эти инструменты могут способствовать распространению дезинформации через ошибки в ответах, путаницу между кандидатами и копирование иностранных пропагандистских материалов.

Исследование стартапа «Forum AI», специализирующегося на оценке моделей ИИ, показало, что примерно 40 процентов ответов чат-ботов на избирательные вопросы содержали по крайней мере одну ошибку. В исследовании приведены практические примеры: модель «Claude» компании Anthropic ошибочно приписала представителю от Северной Каролины характеристику «бывший директор школьного округа», сведя в путаницу фигуры разных кандидатов.

В исследовании также отмечено, что ошибки чаще возникали при ответах на практические вопросы о процедуре голосования, чем при ответах о самих кандидатах. Так, например, модель «Gemini 3.6 Flash» компании Google ответила, что 3 ноября — последний срок для запроса бюллетеня по почте в Пенсильвании, тогда как исследование указывает, что фактический срок был на неделю раньше.

«Forum AI» также сообщила, что чат-боты сотни раз приписывали высказывания кандидатам, должностным лицам и наблюдателям, которые они не произносили, и неоднократно опирались на описанные как «низкого качества» интернет-источники, такие как обсуждения на форумах.

Anthropic не ответила на запрос агентства AFP с просьбой о комментарии. Google заявила, что сосредоточена на помощи избирателям в поиске надёжной информации и применяет контроль качества и строгие политики к своим продуктам ИИ по избирательным темам.

В конце октября служба проверки фактов агентства AFP опровергла видеоролик, который, по всей видимости, был отредактирован с помощью ИИ и утверждал, что он показывает бывшего ученика кандидата в сенаторы от Техаса Джеймса Таларико, обвиняющего его в сексуальном проступке. Службы проверки фактов назвали это обвинение безосновательным и с признаками российской дезинформационной кампании.

Сервисы, связанные с ИИ, в том числе «AI Overview» компании Google и другие модели, воспроизвели то же обвинение, когда на него задавали вопросы сайтами, отслеживающими дезинформацию, по данным опубликованного отчёта. В другом отчёте отмечалось, что пользователи чат-ботов подвержены риску быть введёнными в заблуждение иностранными операциями влияния и другими злонамеренными акторами.

Однако последующее тестирование, проведённое командой проверки фактов AFP после публикации опровержений, показало, что некоторые инструменты ИИ в последующих ответах опирались на материалы специализированных проверяющих факты, что указывает на вариативность их результатов между тестами. Google заявила, что проблему устранили, обновив системы для отображения актуальных отчётов, а Microsoft пояснила, что надёжная информация была ограничена во время первого запроса, и «Copilot» изменил ответ по мере появления более новых данных, признав утверждение сфабрикованным.

Полная картина далека от оптимизма. Опрос, проведённый непартийной организацией «National Conference on Citizenship», показал, что двое из пяти американцев использовали инструменты ИИ для поиска избирательной информации, включая сведения о кандидатах и вопросах, выносимых на голосование. В опросе отмечено, что лишь 40 процентов доверяют этим инструментам в вопросах процедурного характера о голосовании, тогда как 60 процентов заявили, что мало доверяют им или совсем не доверяют в вопросе их нейтральности по отношению к кандидатам.

В то же время исследование Центра Бреннана по вопросам правосудия показало, что ведущие модели чат-ботов противостояли распространённым теориям заговора об выборах, например утверждениям о манипуляциях с избирательными машинами, проявляли сочувствие к сомневающимся пользователям и отказывались поддерживать теории заговора. Центр воспринял это как сигнал о том, что эти инструменты, несмотря на повторяющиеся ошибки, могут играть конструктивную роль в борьбе с избирательной дезинформацией.