Amaran tentang penyebaran maklumat mengelirukan melalui chatbot menjelang pilihan raya separuh penggal 3 November

Menjelang pilihan raya separuh penggal di Amerika Syarikat yang dijadualkan pada 3 November, berjuta-juta pengundi menggunakan chatbot berasaskan kecerdasan buatan untuk mendapatkan maklumat pilihan raya. Namun kajian terkini memberi amaran bahawa alat-alat ini mungkin memburukkan penyebaran maklumat mengelirukan melalui kesilapan dalam jawapan, kekeliruan antara calon, dan pemulihan bahan propaganda asing.

Satu kajian oleh syarikat permulaan 'Forum AI' yang mengkhusus dalam penilaian model kecerdasan buatan mendapati kira-kira 40% jawapan chatbot mengenai soalan pilihan raya mengandungi sekurang-kurangnya satu kesilapan. Kajian itu menyertakan contoh praktikal, termasuk model 'Claude' milik Anthropic yang secara salah menamakan seorang wakil rakyat dari Carolina Utara sebagai "bekas pengarah daerah pendidikan", menampakkan kekeliruan antara dua calon.

Kajian itu menambah bahawa kesilapan lebih kerap berlaku pada soalan prosedur berkaitan pengundian berbanding kesilapan berkaitan calon. Sebagai contoh, model 'Gemini 3.6 Flash' milik Google menjawab bahawa 3 November adalah tarikh akhir untuk memohon undi pos di Pennsylvania, sementara kajian itu menyatakan tarikh akhir sebenar adalah seminggu lebih awal.

Forum AI turut menyatakan bahawa chatbot itu menisbahkan beratus kali kenyataan kepada calon, pegawai dan pemerhati yang tidak pernah mengeluarkan kenyataan tersebut, dan berulang kali bergantung pada sumber dalam talian yang dianggapnya "bermutu rendah" seperti perbincangan dalam forum elektronik.

Anthropic tidak memberi respons kepada permintaan komen daripada Agensi Berita Perancis (AFP). Google pula mengesahkan mereka memfokuskan usaha membantu pengundi mencari maklumat yang boleh dipercayai dan menerapkan kawalan kualiti serta dasar ketat pada produk kecerdasan buatannya berkaitan isu pilihan raya.

Pada lewat Oktober, perkhidmatan pemeriksaan fakta AFP menolak sebuah video yang dipercayai diubah menggunakan kecerdasan buatan yang mendakwa ia menunjukkan seorang bekas pelajar calon Senat Texas, James Talarico, menuduhnya melakukan salah laku seksual; perkhidmatan pemeriksaan fakta menyifatkan tuduhan itu tidak berasas dan mempamerkan ciri-ciri kempen disinformasi Rusia.

Perkhidmatan berkaitan kecerdasan buatan, termasuk 'AI Overview' milik Google dan model lain, dikatakan menghasilkan semula tuduhan yang sama apabila ditanya oleh sebuah laman yang mengesan disinformasi, menurut laporan laman itu. Laporan lain menunjukkan pengguna chatbot terdedah kepada risiko penipuan daripada operasi pengaruh asing dan pelaku jahat lain.

Namun ujian susulan oleh pasukan pemeriksa fakta AFP selepas pembetulan diterbitkan menunjukkan beberapa alat kecerdasan buatan kemudian berpaut pada pemeriksa fakta pakar dalam jawapan mereka, menunjukkan perbezaan hasil antara satu ujian dengan ujian lain. Google berkata masalah itu diperbaiki selepas mengemas kini sistemnya untuk memaparkan laporan terkini, manakala Microsoft menjelaskan bahawa maklumat boleh dipercayai terhad ketika soalan pertama diajukan dan bahawa 'Copilot' membalikkan pendiriannya selepas data yang lebih baru tersedia dan menganggap dakwaan itu direka.

Gambaran keseluruhan tidaklah sepenuhnya optimistik. Satu tinjauan oleh 'National Conference on Citizenship', sebuah organisasi bukan partisan, mendapati dua daripada setiap lima rakyat Amerika menggunakan alat kecerdasan buatan untuk mencari maklumat pilihan raya termasuk maklumat tentang calon dan usul yang akan diundi. Tinjauan itu menyatakan hanya 40% mempercayai alat-alat ini untuk maklumat prosedur pengundian, manakala 60% berkata mereka sedikit mempercayai atau tidak mempercayainya langsung berkaitan dengan ketidakberpihakan terhadap calon.

Sebaliknya, kajian oleh Brennan Center for Justice mendapati model-model chatbot terkemuka menangkis teori konspirasi popular tentang pilihan raya, seperti dakwaan manipulasi mesin pengundian, menunjukkan empati kepada pengguna yang ragu dan enggan menyokong teori konspirasi. Pusat itu berpendapat perkara ini menunjukkan alat-alat tersebut mungkin memainkan peranan konstruktif dalam memerangi disinformasi pilihan raya walaupun terdapat kesilapan berulang.