Προειδοποιήσεις για διάδοση παραπληροφόρησης μέσω chatbots πριν τις ενδιάμεσες εκλογές της 3ης Νοεμβρίου

Καθώς πλησιάζουν οι ενδιάμεσες εκλογές στις Ηνωμένες Πολιτείες, προγραμματισμένες για την 3η Νοεμβρίου, εκατομμύρια ψηφοφόροι απευθύνονται σε chatbots βασισμένα στην τεχνητή νοημοσύνη για εκλογικές πληροφορίες. Ωστόσο, πρόσφατες μελέτες προειδοποιούν ότι αυτά τα εργαλεία μπορεί να αυξήσουν τη διάδοση παραπληροφόρησης μέσω λαθών στις απαντήσεις, συγχύσεων μεταξύ υποψηφίων και αναπαραγωγής ξένης προπαγάνδας.

Μια μελέτη της νεοφυούς εταιρείας Forum AI, που ειδικεύεται στην αξιολόγηση μοντέλων τεχνητής νοημοσύνης, έδειξε ότι περίπου το 40% των απαντήσεων των chatbots σε εκλογικές ερωτήσεις περιείχαν τουλάχιστον ένα σφάλμα. Η μελέτη παρέθεσε πρακτικά παραδείγματα, μεταξύ των οποίων ότι το μοντέλο Claude της Anthropic απέδωσε εσφαλμένα σε βουλευτή της Βόρειας Καρολίνα τον χαρακτηρισμό «πρώην διευθυντής σχολικής περιφέρειας», σε μια σύγχυση προσώπων μεταξύ υποψηφίων.

Η μελέτη πρόσθεσε ότι τα λάθη εμφανίζονταν πιο συχνά σε πρακτικές ερωτήσεις σχετικές με τις διαδικασίες ψήφου σε σύγκριση με τα ζητήματα που αφορούσαν τους ίδιους τους υποψηφίους. Για παράδειγμα, το μοντέλο Gemini 3.6 Flash της Google απάντησε ότι η 3η Νοεμβρίου ήταν η προθεσμία για αίτηση επιστολικής ψήφου στην Πενσυλβάνια, ενώ η μελέτη επισήμανε ότι η πραγματική προθεσμία ήταν μια εβδομάδα νωρίτερα.

Η Forum AI ανέφερε επίσης ότι τα chatbots απέδιδαν εκατοντάδες φορές λόγια σε υποψηφίους, αξιωματούχους και παρατηρητές που δεν είχαν πραγματικά εκφράσει αυτά τα λόγια, και βασίστηκαν επανειλημμένα σε «χαμηλής ποιότητας» πηγές στο διαδίκτυο, όπως συζητήσεις σε φόρουμ.

Η Anthropic δεν απάντησε στο αίτημα για σχόλιο από την Agence France‑Presse (AFP). Από την πλευρά της η Google δήλωσε ότι εστιάζει στο να βοηθά τους ψηφοφόρους να βρίσκουν αξιόπιστες πληροφορίες και εφαρμόζει ελέγχους ποιότητας και αυστηρές πολιτικές στα προϊόντα τεχνητής νοημοσύνης για εκλογικά θέματα.

Στα τέλη Οκτωβρίου, η υπηρεσία επαλήθευσης στοιχείων της Agence France‑Presse διέψευσε ένα βίντεο που φαίνεται πιθανόν να είχε επεξεργαστεί με τεχνητή νοημοσύνη και ισχυρίστηκε ότι δείχνει έναν πρώην μαθητή ενός υποψηφίου για την Γερουσία του Τέξας, τον James Talarico, κατηγορώντας τον για σεξουαλική κακοποίηση — μια κατηγορία που οι υπηρεσίες επαλήθευσης χαρακτήρισαν αβάσιμη και με χαρακτηριστικά ρωσικής εκστρατείας παραπληροφόρησης.

Υπηρεσίες σχετιζόμενες με τεχνητή νοημοσύνη, μεταξύ των οποίων το «AI Overview» της Google και άλλα μοντέλα, αναπαρήγαγαν την ίδια κατηγορία όταν ερωτήθηκαν από έναν ιστότοπο που ειδικεύεται στην παρακολούθηση παραπληροφόρησης, σύμφωνα με ρεπορτάζ του ιστότοπου. Ένα άλλο ρεπορτάζ υπογράμμισε ότι οι χρήστες των chatbots διατρέχουν τον κίνδυνο να εξαπατηθούν από ξένες επιχειρήσεις επιρροής και άλλους κακόβουλους παράγοντες.

Ωστόσο, μια μεταγενέστερη δοκιμή που πραγματοποίησε η ομάδα επαλήθευσης στοιχείων της AFP μετά τη δημοσίευση των διορθώσεων έδειξε ότι κάποια εργαλεία τεχνητής νοημοσύνης βασίστηκαν στις απαντήσεις τους σε επαγγελματίες επαληθευτές στοιχείων, γεγονός που υποδεικνύει μεταβλητότητα στα αποτελέσματά τους από δοκιμή σε δοκιμή. Η Google δήλωσε ότι το πρόβλημα επιλύθηκε αφού ενημέρωσε τα συστήματά της για να εμφανίζουν τις ανανεωμένες αναφορές, ενώ η Microsoft εξήγησε ότι οι αξιόπιστες πληροφορίες ήταν περιορισμένες κατά την πρώτη ερώτηση και ότι ο Copilot άλλαξε στάση αφού έγιναν διαθέσιμα νεότερα δεδομένα, χαρακτηρίζοντας τον ισχυρισμό ως κατασκευασμένο.

Η εικόνα δεν είναι απολύτως θετική: μια δημοσκόπηση του National Conference on Citizenship, μιας μη κομματικής οργάνωσης, έδειξε ότι δύο στους πέντε Αμερικανούς χρησιμοποίησαν εργαλεία τεχνητής νοημοσύνης για να αναζητήσουν εκλογικές πληροφορίες, περιλαμβανομένων στοιχείων για υποψηφίους και προτάσεις προς ψήφιση. Η έρευνα ανέφερε ότι μόνο το 40% εμπιστεύεται αυτά τα εργαλεία για διαδικαστικές πληροφορίες σχετικά με την ψήφο, ενώ το 60% δήλωσε ότι τα εμπιστεύεται λίγο ή καθόλου όσον αφορά την ουδετερότητά τους απέναντι στους υποψηφίους.

Αντίθετα, έρευνα του Brennan Center for Justice κατέληξε στο συμπέρασμα ότι τα κορυφαία μοντέλα chatbots αντιμετώπισαν θεωρίες συνωμοσίας περί εκλογών, όπως ισχυρισμούς για χειραγώγηση μηχανών ψηφοφορίας, έδειξαν συμπάθεια προς τους σκεπτικιστές χρήστες και αρνήθηκαν να στηρίξουν τις θεωρίες συνωμοσίας. Το κέντρο θεώρησε ότι αυτό υποδηλώνει πως αυτά τα εργαλεία μπορούν να παίξουν εποικοδομητικό ρόλο στον αγώνα κατά της εκλογικής παραπληροφόρησης παρά τα επαναλαμβανόμενα σφάλματα.