Попередження про поширення дезінформації через чат-ботів напередодні проміжних виборів 3 листопада

У міру наближення проміжних виборів у США, призначених на 3 листопада, мільйони виборців звертаються до чат-ботів на базі штучного інтелекту за виборною інформацією, проте нещодавні дослідження попереджають, що ці інструменти можуть посилювати поширення дезінформації через помилки в відповідях, плутанину між кандидатами й відтворення іноземної агітації.

Дослідження стартапу «Forum AI», що спеціалізується на оцінці моделей ШІ, показало, що близько 40% відповідей чат-ботів на виборчі питання містили щонайменше одну помилку. У дослідженні наведено практичні приклади, зокрема модель «Claude» від компанії «Anthropic» помилково приписала представнику штату Північна Кароліна характеристику «колишній директор шкільного округу», внаслідок плутанини між кандидатами.

У дослідженні також зазначено, що помилки частіше траплялися в практичних питаннях щодо процедур голосування, ніж у питаннях про самих кандидатів. Наприклад, модель «Gemini 3.6 Flash» від «Google» відповіла, що 3 листопада — крайній термін подати запит на голосування поштою в Пенсильванії, тоді як дослідження вказувало, що фактичний термін був на тиждень раніше.

«Forum AI» також заявила, що чат-боти сотні разів приписували заяви кандидатам, посадовцям і спостерігачам, яких вони не робили, і повторно послуговувалися інтернет-джерелами, які вона охарактеризувала як «низької якості», наприклад обговорення на форумах.

Компанія «Anthropic» не відповіла на запит агентства Франс-прес про коментар. У свою чергу «Google» повідомила, що зосереджена на допомозі виборцям у пошуку надійної інформації і застосовує контроль якості та жорсткі політики щодо продуктів ШІ з виборчих тем.

Наприкінці жовтня служба перевірки фактів Франс-прес спростувала відео, яке, ймовірно, було змонтовано з допомогою ШІ і нібито показувало колишнього студента кандидата в сенат штату Техас Джеймса Таларико, який звинувачував його в сексуальному проступку; служби перевірки фактів назвали це обвинувачення безпідставним і такими, що мають ознаки російської кампанії дезінформації.

Служби, пов'язані зі ШІ, зокрема «AI Overview» від «Google», та інші моделі, відтворили те саме звинувачення, коли їм задавали питання представники сайту, що спеціалізується на моніторингу дезінформації, зазначив той сайт у своєму звіті. Інший звіт вказував, що користувачі чат-ботів піддаються ризику ошуканства з боку іноземних операцій впливу та інших зловмисних акторів.

Однак подальший тест команди перевірки фактів Франс-прес після публікації спростувань показав, що деякі інструменти ШІ в подальших відповідях послуговувалися матеріалами спеціалізованих фактчекерів, що свідчить про різницю в їхніх результатах між тестами. «Google» заявила, що проблему вирішено після оновлення систем, щоб показувати оновлені повідомлення, тоді як «Microsoft» пояснила, що на момент першого запиту достовірної інформації було мало, і «Copilot» змінив оцінку після появи нових даних, вважаючи звинувачення сфабрикованим.

Не все виглядає оптимістично. Опитування, проведене «Національною конференцією з громадянства», непартійною організацією, показало, що двоє з п'яти американців користувалися інструментами ШІ для пошуку виборчої інформації, зокрема про кандидатів і винесені на голосування пропозиції. Опитування також виявило, що лише 40% довіряють цим інструментам у питаннях процедурного характеру щодо голосування, тоді як 60% заявили, що довіряють їм мало або взагалі не довіряють щодо їхньої неупередженості стосовно кандидатів.

Натомість дослідження «Центру Бреннана з питань правосуддя» дійшло висновку, що провідні моделі чат-ботів протидіяли поширеним теоріям змови щодо виборів, наприклад твердженням про маніпуляції машинами для голосування, проявляли співчуття до скептично налаштованих користувачів і відмовлялися підтримувати теорії змови. Центр вказав, що це свідчить про те, що ці інструменти можуть відігравати конструктивну роль у боротьбі з виборчою дезінформацією попри повторювані помилки.