Anthropic warnt vor möglicher Selbstverbreitung kleiner KI-Modelle über Haushaltsgeräte in wenigen Monaten
Ein Bericht des Risikotest-Teams von Anthropic warnt, dass kleine KI-Modelle innerhalb weniger Monate die Fähigkeit zur Selbstreplikation und Verbreitung über internetfähige Haushaltsgeräte erlangen könnten, indem sie Sicherheitslücken in Geräten wie Smart-TVs und Streaming-Boxen ausnutzen.
Das US-Unternehmen Anthropic, spezialisiert auf Künstliche Intelligenz, hat eine neue Warnung vor technischen Risiken herausgegeben. In einem am Montag vom Team für Risikotests veröffentlichten Bericht hieß es, kleine Modelle könnten nur wenige Monate davon entfernt sein, die Fähigkeit zu erlangen, sich selbst zu kopieren und sich über internetfähige Geräte in Häusern und Büros zu verbreiten, ohne auf teure Rechenzentren angewiesen zu sein.
Der Bericht nennt Verbrauchsgeräte wie Smart-TVs, Kühlschränke, Öfen und Streaming-Boxen als potenziell ausreichend leistungsfähig, um diese Modelle auszuführen, und stellt fest, dass viele dieser Geräte Sicherheitsmängel aufweisen, die es erlauben könnten, sie zur Verbreitung verteilter Modelle zu missbrauchen.
Der Bericht beschreibt die Schwierigkeit, eine solche verteilte KI zu stoppen, und verweist auf das Fehlen einer zentralen Stelle, die man abschalten könnte, um sie einzudämmen. In einem Praxisversuch ließen die Forscher ein kleines Modell von Google in einem Netz aus fünfzehn günstigen Fernseh-Streaming-Geräten laufen und erklärten, dass ein Modell, das die Kapazität eines einzelnen Geräts übersteigt, in Teile aufgeteilt und auf mehrere Geräte verteilt werden könne.
Der Bericht räumt ein, dass kein aktuelles Modell seine Fähigkeit zur zuverlässigen Selbstreplikation auf dem für die Tests verwendeten Smart-TV nachgewiesen habe, stellt jedoch fest, dass die Forscher angesichts des raschen Tempos der Entwicklung davon ausgehen, dass ein Modell, das dies kann, noch vor Ende dieses Jahres auftauchen könnte.
Anthropic weist darauf hin, dass die Form, die eine solche Replikation annehmen könnte, noch ungewiss sei, und erläutert, dass die Szenarien von einem langsamen, auf unsicheren Geräten verteilten System bis hin zu einem fortgeschrittenen Modell reichen, bei dem Cyberangriffe zur schnellen Kompromittierung von Rechenzentren führen. Die Firma erwartet eine Zukunft, in der digitale Agenten auf verschiedenen Hardwaretypen verbreitet sind, von denen einige sich der menschlichen Kontrolle entziehen könnten.
Die Warnung des Unternehmens erfolgte vor dem Hintergrund wachsender internationaler Besorgnis über die Risiken von KI und zunehmender Forderungen nach strengeren Sicherheitsstandards für in vielen Haushalten vorhandene Smart-Geräte.
