Anthropic, küçük yapay zeka modellerinin ev cihazlarında kendi kendine yayılma olasılığına karşı uyardı
Anthropic'in risk testi ekibinin raporu, küçük yapay zeka modellerinin birkaç ay içinde kendini kopyalama ve akıllı televizyonlar ve yayın kutuları gibi internete bağlı ev cihazları üzerinden yayılma yeteneği kazanabileceği konusunda uyarıda bulundu.
Amerikalı yapay zeka şirketi Anthropic, risk testi ekibinin Pazartesi günü yayımladığı bir raporda, küçük modellerin kendi kendini kopyalama ve pahalı veri merkezlerine bağlı olmadan evler ve ofisler içindeki internete bağlı cihazlar üzerinden yayılma yeteneğine sadece aylara uzak olabileceğine işaret ederek yeni bir teknolojik risk uyarısı yayınladı.
Rapor, akıllı televizyonlar, buzdolapları, fırınlar ve ev yayın kutuları gibi tüketici cihazlarının bu modelleri çalıştırmak için yeterli hesaplama gücü sağlayabileceğini ve bu cihazların birçoğunun zayıf güvenlik önlemleri nedeniyle dağıtılmış modellerin yayılımı için sömürülebileceğini belirtti.
Rapor, böyle bir yayılmış yapay zekayı durdurmanın zor olduğunu; onu kontrol altına almak için kesilebilecek merkezi bir noktanın bulunmadığını vurguladı. Gerçek dünya deneylerinden birinde araştırmacılar, Google tarafından geliştirilen küçük bir modeli on beş adet ucuz televizyon yayın cihazından oluşan bir ağda çalıştırdı ve tek bir cihazın kapasitesini aşan bir modelin birkaç cihaza bölünebileceğini gösterdiler.
Rapor, kullanılan akıllı televizyonda kendini güvenilir şekilde çoğaltabildiği kanıtlanmış bir mevcut model olmadığını kabul etti, ancak araştırmacılar alandaki hızlanan gelişme göz önüne alındığında böyle bir modelin bu yıl sonundan önce ortaya çıkmasının muhtemel olduğunu belirtti.
Anthropic, çoğalmanın nasıl bir biçim alacağının henüz net olmadığını; senaryoların güvenli olmayan cihazlarda yavaş bir dağıtılmış sistem ile gelişmiş bir modelin elektronik saldırılar yoluyla veri merkezlerini hızla ele geçirmesine neden olabilecek bir durum arasında değiştiğini açıkladı. Şirket, gelecekte dijital ajanların farklı donanım türlerinde yayılmasını ve bazılarının insan kontrolünün dışında kalabileceğini öngördü.
Şirketin uyarısı, yapay zekanın riskleri konusunda uluslararası endişelerin artması ve birçok evde bulunan akıllı cihazların güvenlik standartlarının sıkılaştırılması çağrılarının yükselmesiyle geldi.
