هشدار درباره انتشار اطلاعات گمراه‌کننده توسط ربات‌های گفتگو پیش از انتخابات ۳ نوامبر

با نزدیک شدن انتخابات میان‌دوره‌ای ایالات متحده که در سوم نوامبر (۳ نوامبر) برگزار می‌شود، میلیون‌ها رأی‌دهنده برای دریافت اطلاعات انتخاباتی به ربات‌های گفتگو مبتنی بر هوش مصنوعی مراجعه می‌کنند، اما مطالعات تازه هشدار می‌دهند که این ابزارها ممکن است با اشتباه در پاسخ‌ها، خلط میان نام‌ها و بازتولید تبلیغات خارجی، به گسترش اطلاعات گمراه‌کننده کمک کنند.

مطالعه‌ای از شرکت نوپای «فوروم اِی‌آی» (Forum AI) که در ارزیابی مدل‌های هوش مصنوعی تخصص دارد نشان داد حدود ۴۰ درصد پاسخ‌های ربات‌های گفتگو به پرسش‌های انتخاباتی دست‌کم شامل یک خطا بوده است. این مطالعه نمونه‌هایی عملی ارائه کرد؛ از جمله اینکه مدل «کلود» متعلق به شرکت آنتروپیک (Anthropic) به‌اشتباه به یک نماینده کنگره از کارولینای شمالی عنوان «مدیر سابق یک منطقه آموزشی» نسبت داده و در نتیجه میان دو نامزد خلط ایجاد کرده بود.

مطالعه افزود که خطاها در پرسش‌های مربوط به روندهای عملی رأی‌گیری بیشتر از خطاهای مربوط به خود نامزدها تکرار شده‌اند. برای مثال، مدل «Gemini 3.6 Flash» متعلق به گوگل به اشتباه گفته بود سوم نوامبر مهلت نهایی درخواست رأی‌دهی پستی در پنسیلوانیا است، در حالی که مطالعه اشاره کرد مهلت واقعی دست‌کم یک هفته زودتر بوده است.

«فوروم اِی‌آی» همچنین گزارش داد که ربات‌های گفتگو صدها بار گفته‌هایی را به نامزدها، مقام‌ها و ناظران نسبت داده‌اند که اساساً از سوی آن افراد بیان نشده و بارها از منابع آنلاین «پایین‌رتبه» مانند مباحث انجمن‌های اینترنتی بهره برده‌اند.

آنتروپیک به درخواست اظهار نظر از خبرگزاری فرانسه پاسخی نداده است. گوگل هم اعلام کرده روی کمک به رأی‌دهندگان برای یافتن اطلاعات قابل‌اعتماد تمرکز دارد و کنترل‌های کیفیت و سیاست‌های سختگیرانه‌ای را در محصولات هوش مصنوعی‌اش درباره موضوعات انتخاباتی اعمال می‌کند.

اواخر اکتبر، تیم بررسی واقعیت خبرگزاری فرانسه وادعایی را درباره ویدیویی که احتمالاً با هوش مصنوعی دست‌کاری شده بود رد کرد؛ ویدئویی که ادعا می‌کرد دانشجوی سابق یک نامزد سنای تگزاس، جیمز تالاریكو، او را به آزار جنسی متهم کرده است. خدمات بررسی واقعیت این اتهام را بی‌اساس خواندند و گفتند نشانه‌هایی از یک کارزار گمراه‌کننده روسی در آن دیده می‌شود.

خدمات مرتبط با هوش مصنوعی از جمله «AI Overview» متعلق به گوگل و مدل‌های دیگری گزارش شده که وقتی از سوی یک سایت تخصصی رصد گمراهی رسانه‌ای پرسش شدند همان اتهام را بازتولید کردند، طبق گزارشی که آن سایت منتشر کرد. گزارش دیگری هم اشاره کرد کاربران ربات‌های گفتگو در معرض خطر فریب توسط عملیات تأثیرگذاری خارجی و سایر بازیگران مخرب قرار دارند.

اما آزمایشی که بعد از انتشار اصلاحیه‌ها توسط تیم بررسی واقعیت خبرگزاری فرانسه انجام شد نشان داد برخی ابزارهای هوش مصنوعی بعدها در پاسخ‌های‌شان از گزارش‌های مدققان واقعیت استفاده کرده‌اند، که نشان‌دهنده نوسان در خروجی‌های آن‌ها بین یک آزمایش و دیگری است. گوگل گفت مشکل پس از به‌روزرسانی سیستم‌هایش برای نمایش گزارش‌های اصلاح‌شده حل شده است و مایکروسافت هم توضیح داد در زمان پرسش اول اطلاعات قابل‌اعتماد محدود بود و «کاپی‌لوت» (Copilot) پس از در دسترس قرار گرفتن داده‌های جدید موضع خود را تغییر داده و ادعا را جعلی خواند.

این تصویر کاملاً امیدبخش نیست: نظرسنجی‌ای که توسط «کنفرانس ملی شهروندی» — سازمانی غیرحزبی — انجام شد نشان داد دو نفر از هر پنج آمریکایی از ابزارهای هوش مصنوعی در جست‌وجوی اطلاعات انتخاباتی مانند اطلاعات درباره نامزدها و پیشنهادهای رأی‌گیری استفاده کرده‌اند. این نظرسنجی همچنین نشان داد تنها ۴۰ درصد به این ابزارها درباره اطلاعات اجرایی مربوط به رأی‌گیری اعتماد دارند، در حالی که ۶۰ درصد گفتند نسبت به بی‌طرفی این ابزارها کم‌اعتماد یا کاملاً بی‌اعتمادند.

در مقابل، پژوهشی از «مرکز برنان برای عدالت» (Brennan Center for Justice) نتیجه‌گیری کرد مدل‌های پیشرو ربات‌های گفتگو با نظریه‌های توطئه رایج درباره انتخابات مانند ادعاهای دست‌کاری ماشین‌های رأی‌گیری مقابله کرده‌اند، با کاربران شکاک همدلی نشان داده و از تایید نظریه‌های توطئه خودداری کرده‌اند. این مرکز اعتقاد دارد این نشان می‌دهد این ابزارها با وجود خطاهای مکرر می‌توانند نقشی سازنده در مبارزه با گمراهی انتخاباتی ایفا کنند.