11월 3일 중간선거 앞 챗봇을 통한 오정보 확산 경고

11월 3일로 예정된 미국 중간선거가 다가오면서 수백만 유권자들이 인공지능 기반 챗봇을 통해 선거 정보를 얻고 있다. 하지만 최근 연구들은 이러한 도구들이 답변 오류, 후보자 혼동, 외국 선전물의 복제 등을 통해 허위정보의 확산을 부추길 수 있다고 경고한다.

신생 기업 '포럼 AI'가 인공지능 모델 평가를 위해 수행한 연구에 따르면 챗봇의 선거 관련 질문에 대한 답변 중 약 40%가 적어도 하나의 오류를 포함하고 있었다. 연구는 사례로 앤스로픽(Anthropic)의 모델 '클로드(Claude)'가 노스캐롤라이나 주 하원의원에게 '전 교육구장(مدير سابق لمنطقة تعليمية)'이라는 직함을 잘못 부여하는 등 후보자 간 인물 혼동을 일으킨 예를 들었다.

연구는 오류가 후보자 관련 질문보다 투표 절차와 관련된 실무적 질문에서 더 자주 발생했다고 덧붙였다. 예컨대 구글의 '제미나이 3.6 플래시(Gemini 3.6 Flash)' 모델은 펜실베이니아 주에서 우편투표 신청 마감일이 11월 3일이라고 답했으나, 연구에 따르면 실제 마감일은 그보다 일주일 앞섰다.

'포럼 AI'는 또한 챗봇들이 수백 차례에 걸쳐 후보자와 관료, 관측자들에게서 나온 적 없는 발언을 인용했고, 반복적으로 온라인 포럼 토론과 같은 '저품질' 인터넷 출처에 의존했다고 밝혔다.

앤스로픽은 프랑스통신(AFP)의 논평 요청에 응답하지 않았다. 구글은 유권자들이 신뢰할 수 있는 정보를 찾도록 돕는 데 집중하고 있으며 선거 관련 AI 제품에 대해 품질 관리와 엄격한 정책을 적용하고 있다고 밝혔다.

10월 하순, AFP의 팩트체크 서비스는 인공지능으로 조작되었을 가능성이 있는 동영상을 반박했다. 해당 영상은 텍사스 상원의원 후보 제임스 탈라리코(James Talarico)의 전 학생을 주장하는 인물이 그를 성적 비행으로 고발하는 장면을 담았다고 주장했지만, 팩트체크 서비스들은 이 주장이 근거 없으며 러시아의 선동 캠페인 징후를 띠고 있다고 밝혔다.

구글의 'AI Overview' 등 일부 인공지능 관련 서비스와 다른 모델들은 허위 주장과 동일한 내용을, 허위정보 감시 사이트가 질문했을 때 재생산했다고 해당 사이트의 보도가 전했다. 또 다른 보고서는 챗봇 사용자들이 외국의 영향 작전이나 다른 악의적 행위자들에 의해 오도될 위험에 노출되어 있다고 지적했다.

하지만 AFP 팩트체크팀이 정정보도가 나온 뒤 실시한 후속 테스트에서는 일부 인공지능 도구들이 이후 답변에서 전문 팩트체커의 조사 결과를 근거로 삼은 것으로 나타나 출력 결과가 테스트마다 달라짐을 보여줬다. 구글은 시스템을 업데이트해 최신 보고서를 표시하도록 한 뒤 문제가 해결됐다고 말했고, 마이크로소프트는 최초 질문 당시 신뢰할 수 있는 정보가 제한적이었다가 이후 더 최신 자료가 나옴에 따라 '코파일럿(Copilot)'이 해당 주장을 조작된 것으로 판단하도록 입장을 바꿨다고 설명했다.

사실 비관적 전망만 있는 것은 아니다. 비당파 단체인 전국 시민권 회의(National Conference on Citizenship)가 실시한 여론조사에 따르면 미국인의 5명 중 2명은 후보자 정보와 투표 안건 등 선거 정보를 찾는 데 인공지능 도구를 사용한 적이 있다. 조사에서는 절차적 투표 정보에 대해선 40%만이 이들 도구를 신뢰한다고 답했으며, 후보자에 대한 중립성 측면에서는 60%가 거의 신뢰하지 않거나 전혀 신뢰하지 않는다고 응답했다.

반면 브레넌 정의센터(Brennan Center for Justice)의 연구는 주요 챗봇 모델들이 투표기기 조작 주장과 같은 널리 퍼진 선거 음모론에 대응했고, 의심하는 이용자들에게 공감하면서 음모론을 지지하지 않는 태도를 보였다고 결론지었다. 센터는 이러한 점이 반복되는 오류에도 불구하고 이들 도구가 선거 허위정보 퇴치에 건설적인 역할을 할 수 있음을 시사한다고 평가했다.