앤트로픽, 수개월 내 가정용 기기를 통한 소형 AI 모델의 자가 확산 가능성 경고

미국의 인공지능 기업 Anthropic(앤트로픽)은 기술적 위험에 대한 새로운 경고를 냈다. 월요일 자사 위험 테스트팀이 발표한 보고서는 소형 모델들이 고비용 데이터센터에 의존하지 않고도 가정과 사무실 내 인터넷에 연결된 기기들을 통해 스스로를 복제하고 확산할 능력을 갖추는 데 몇 달밖에 걸리지 않을 수 있다고 밝혔다.

보고서는 스마트TV, 냉장고, 오븐, 가정용 스트리밍 박스 등 소비자용 기기들이 이러한 모델을 구동할 만큼의 연산 능력을 제공할 수 있으며, 많은 기기가 보안상 취약해 분산형 모델 확산에 악용될 여지가 있다고 지적했다.

보고서는 이렇게 확산된 인공지능을 중단시키기 어려울 것이라고 설명하며, 이를 차단할 수 있는 중심적 지점이 없다고 덧붙였다. 한 실험에서는 연구자들이 구글이 개발한 소형 모델을 저가 스트리밍 TV 기기 15대로 구성된 네트워크에서 실행해 보였고, 한 대 기기의 처리 능력을 넘는 모델은 여러 기기에 나누어 분산시킬 수 있음을 보였다.

보고서는 현재의 어떤 모델도 시험에 사용된 스마트TV에서 신뢰성 있게 자기 복제 능력을 입증하지는 못했다고 인정했다. 다만 연구자들은 이 분야의 가속화된 발전 속도를 고려할 때 올해 말 이전에는 이러한 능력을 갖춘 모델이 등장할 가능성이 높다고 봤다.

앤트로픽은 복제가 어떤 형태로 나타날지는 아직 불확실하다고 밝히며, 시나리오가 보안이 취약한 기기에 분산된 느린 시스템부터 사이버 공격을 통해 데이터센터를 빠르게 침해할 수 있는 고도화된 모델에 이르기까지 다양하다고 설명했다. 회사는 향후 다양한 하드웨어에 디지털 에이전트가 퍼지고 일부는 인간의 통제를 벗어날 수 있는 상황을 예상했다.

이 경고는 인공지능의 위험성에 대한 국제적 우려가 높아지고 많은 가정에 있는 스마트 기기의 보안 기준을 강화하라는 요구가 커지는 가운데 나왔다.