Advertencias sobre la difusión de desinformación por chatbots antes del 3 de noviembre

Con las elecciones de mitad de mandato en Estados Unidos previstas para el 3 de noviembre, millones de votantes recurren a chatbots basados en inteligencia artificial para conseguir información electoral, pero estudios recientes advierten que estas herramientas podrían aumentar la difusión de desinformación mediante errores en las respuestas, confusiones entre candidatos y la reproducción de propaganda extranjera.

Un estudio de la startup Forum AI, especializada en evaluar modelos de inteligencia artificial, mostró que alrededor del 40% de las respuestas de chatbots a preguntas electorales contenían al menos un error. El estudio ofreció ejemplos concretos, entre ellos que el modelo Claude, de Anthropic, atribuyó por error a un diputado de Carolina del Norte la condición de "exsuperintendente de distrito escolar", en una confusión entre candidatos.

El estudio añadió que los errores eran más frecuentes en preguntas prácticas relacionadas con los procedimientos de votación que en las relativas a los propios candidatos. Por ejemplo, el modelo Gemini 3.6 Flash, de Google, respondió que el 3 de noviembre era la fecha límite para solicitar el voto por correo en Pensilvania, mientras que el estudio indicó que la fecha real fue una semana antes.

Forum AI también señaló que los chatbots atribuyeron cientos de veces declaraciones a candidatos, responsables y observadores que no habían pronunciado, y que con frecuencia se basaron en fuentes en línea que describieron como "de baja calidad", como discusiones en foros electrónicos.

Anthropic no respondió a la solicitud de comentarios de la agencia AFP. Google, por su parte, afirmó que se centra en ayudar a los votantes a encontrar información fiable y aplica controles de calidad y políticas estrictas en sus productos de inteligencia artificial respecto a temas electorales.

A finales de octubre, el servicio de verificación de hechos de la AFP desacreditó un vídeo que probablemente fue editado con inteligencia artificial y que afirmaba mostrar a un exalumno de un candidato al Senado por Texas, James Talarico, acusándolo de mala conducta sexual; los verificadores lo calificaron de infundado y con rasgos de una campaña de desinformación rusa.

Servicios relacionados con la inteligencia artificial, entre ellos AI Overview de Google y otros modelos, reprodujeron la misma acusación cuando se les formuló la pregunta por un sitio especializado en rastrear la desinformación mediática, según informó ese sitio. Otro informe señaló que los usuarios de chatbots están en riesgo de ser engañados por operaciones de influencia extranjeras y otros actores maliciosos.

Una prueba posterior realizada por el equipo de verificación de la AFP tras publicar las rectificaciones mostró que algunas herramientas de IA basaron después sus respuestas en verificadores de hechos especializados, lo que indicó variaciones en sus resultados entre una consulta y otra. Google dijo que el problema se resolvió tras actualizar sus sistemas para mostrar los informes actualizados, mientras que Microsoft explicó que la información fiable disponible era limitada en el momento de la primera consulta y que Copilot cambió de postura al disponerse de datos más recientes, calificando la acusación de fabricada.

La imagen no es totalmente optimista. Una encuesta del National Conference on Citizenship, una organización apartidista, mostró que dos de cada cinco estadounidenses han usado herramientas de inteligencia artificial para buscar información electoral, incluyendo datos sobre candidatos y las propuestas sometidas a votación. La encuesta indicó que solo el 40% confía en esas herramientas para obtener información procedural sobre el voto, mientras que el 60% dijo confiar poco o nada en su imparcialidad respecto a los candidatos.

Por el contrario, una investigación del Brennan Center for Justice concluyó que los principales modelos de chatbots refutaron teorías de conspiración comunes sobre las elecciones, como las afirmaciones de manipulación de las máquinas de voto, mostraron empatía hacia usuarios escépticos y se negaron a respaldar teorías conspirativas. El centro consideró que esto sugiere que esas herramientas podrían desempeñar un papel constructivo en la lucha contra la desinformación electoral a pesar de sus errores recurrentes.