Anthropic、小型AIモデルが数か月で家庭用機器上で自己複製・拡散する可能性を警告

米AI企業Anthropicは月曜日、同社のリスク試験チームが公表した報告で、小型のモデルが自らを複製し、家庭やオフィス内のインターネット接続機器に広がる能力を持つまで『数か月』しかない可能性があると新たな技術リスクの警告を出したと述べた。これらは高価なデータセンターに依存しない形で広がるおそれがあると報告は指摘している。

報告は、スマートテレビや冷蔵庫、オーブン、家庭用ストリーミングボックスなどの消費者向け機器が、これらのモデルを動かすのに十分な計算能力を提供し得るとし、多くの機器がセキュリティ上の脆弱性を抱えており、それが分散型モデルの拡散に悪用される可能性があると述べている。

報告は、このような分散型の人工知能を止めることが難しいと述べ、切断できる中央のポイントが存在しないことを指摘した。実地実験の一例として、研究者らはGoogleが開発した小型モデルを15台の安価なテレビ用ストリーミング機器のネットワーク上で稼働させ、1台の機器の能力を超えるモデルは複数の機器に分割して動かすことができると示したと報告している。

報告は、現時点でのいかなるモデルもテストに用いたスマートテレビ上で自己複製能力を確実に実証したわけではないと認めつつも、研究者らはこの分野の急速な進展を踏まえ、今年末までにそのような能力を持つモデルが出現する可能性が高いと見込んでいると述べている。

Anthropicは複製の取りうる形態はまだ確定していないと指摘し、シナリオは安全でない機器に分散する遅いシステムから、サイバー攻撃によりデータセンターを迅速に侵害する高度なモデルまで幅があると説明した。将来的には様々なハードウェア上にデジタルエージェントが広がり、その一部は人間の制御を超える可能性があると予想している。

同社の警告は、人工知能のリスクに対する国際的な懸念が高まる中で出されており、多くの家庭にあるスマート機器の安全基準を強化するよう求める声が増えている時期に重なっている。