Peringatan soal penyebaran informasi menyesatkan lewat chatbot menjelang 3 November

Menjelang pemilu sela di Amerika Serikat yang dijadwalkan pada 3 November, jutaan pemilih beralih ke chatbot berbasis kecerdasan buatan untuk mencari informasi pemilu, namun studi terbaru memperingatkan alat-alat ini dapat memperburuk penyebaran informasi menyesatkan melalui kesalahan jawaban, pencampuran identitas calon, dan replikasi propaganda asing.

Sebuah studi oleh perusahaan rintisan "Forum AI" yang bergerak menilai model kecerdasan buatan menunjukkan sekitar 40 persen jawaban chatbot tentang pertanyaan pemilu mengandung setidaknya satu kesalahan. Studi itu memberi contoh praktis, termasuk bahwa model "Claude" milik Anthropic keliru menyebut seorang anggota DPR dari Carolina Utara sebagai "mantan kepala distrik sekolah", karena pencampuran identitas antar calon.

Studi menambahkan bahwa kesalahan lebih sering terjadi pada pertanyaan praktis terkait prosedur pemungutan suara dibandingkan kesalahan terkait calon itu sendiri. Misalnya, model "Gemini 3.6 Flash" milik Google menjawab bahwa 3 November adalah batas akhir untuk meminta surat suara melalui pos di Pennsylvania, padahal studi menunjuk bahwa batas waktu sebenarnya adalah satu minggu lebih awal.

Forum AI juga mengatakan bahwa chatbot berkali-kali mengatribusikan pernyataan kepada calon, pejabat, dan pengamat yang sebenarnya tidak mereka ucapkan, dan sering bergantung pada sumber daring yang digambarkan sebagai "bermutu rendah" seperti diskusi di forum elektronik.

Anthropic tidak menanggapi permintaan komentar dari Agence France-Presse. Sementara itu Google menegaskan bahwa mereka fokus membantu pemilih menemukan informasi yang dapat dipercaya dan menerapkan kontrol mutu serta kebijakan ketat pada produk AI mereka terkait topik pemilu.

Akhir Oktober, layanan pemeriksa fakta AFP membantah sebuah video yang diduga dimodifikasi menggunakan kecerdasan buatan dan mengklaim menunjukkan mantan mahasiswa dari calon Senat Texas, James Talarico, menuduhnya melakukan pelanggaran seksual; layanan pemeriksa fakta menyebut tuduhan itu tidak berdasar dan memiliki ciri-ciri kampanye disinformasi Rusia.

Layanan terkait AI, termasuk "AI Overview" milik Google dan model lain, dilaporkan telah mereproduksi tuduhan yang sama ketika ditanyai oleh sebuah situs yang mengkhususkan diri dalam memantau disinformasi, menurut laporan situs tersebut. Laporan lain menunjukkan pengguna chatbot berisiko ditipu oleh operasi pengaruh asing dan pelaku jahat lainnya.

Namun uji lanjutan yang dilakukan tim pemeriksa fakta AFP setelah publikasi koreksi menunjukkan bahwa beberapa alat AI kemudian mendasarkan jawaban mereka pada pemeriksa fakta spesialis, yang menunjukkan adanya variasi keluaran antara satu uji dan uji lain. Google mengatakan masalah ditangani setelah mereka memperbarui sistem untuk menampilkan laporan yang diperbarui, sementara Microsoft menjelaskan bahwa informasi tepercaya yang tersedia awalnya terbatas dan bahwa "Copilot" mengubah posisinya setelah data yang lebih baru tersedia dan menganggap klaim itu dibuat-buat.

Gambaran keseluruhan tidak sepenuhnya optimis. Sebuah survei oleh National Conference on Citizenship, sebuah organisasi nirlaba nonpartisan, menunjukkan dua dari lima orang Amerika telah menggunakan alat AI untuk mencari informasi pemilu, termasuk informasi tentang calon dan usulan yang akan dipilih. Survei itu melaporkan bahwa hanya 40 persen yang mempercayai alat-alat ini untuk informasi prosedural tentang pemungutan suara, sementara 60 persen mengatakan mereka sedikit mempercayai atau tidak mempercayainya sama sekali terkait netralitas terhadap calon.

Sebaliknya, penelitian oleh Brennan Center for Justice menyimpulkan bahwa model chatbot terkemuka menentang teori konspirasi populer tentang pemilu, seperti klaim manipulasi mesin pemungutan suara, menunjukkan empati terhadap pengguna yang skeptis dan menolak mendukung teori konspirasi. Pusat itu menilai hal tersebut menunjukkan alat-alat ini bisa berperan konstruktif dalam memerangi disinformasi pemilu meskipun terjadi kesalahan berulang.