Yapay zekada yeni tehlike "birkaç aya" kapıda: Anthropic'ten ev robotları uyarısı
Anthropic araştırmacıları, kendi kendini kopyalayarak internete bağlı cihazlara yayılabilen yapay zeka solucanlarının küçük modellerle de geliştirilebilmesinin birkaç ay uzakta olabileceğini bildirdi. Akıllı televizyonlar, fırınlar ve güvenlik kameraları olası hedefler arasında gösterildi.
Yapay zeka solucanları birkaç ay içinde ortaya çıkabilir
Yapay zeka şirketi Anthropic'in pazartesi günü yayımladığı rapora göre, küçük yapay zeka modellerinin kendilerini kopyalayarak akıllı fırınlar, televizyonlar ve elektrikli süpürgeler gibi internete bağlı cihazlara yayılabilmesi birkaç ay içinde mümkün hale gelebilir.
Anthropic güvenlik araştırmacıları, insan kontrolü olmadan kendini çoğaltabilen yapay zeka ajanlarının denetlenmesinin zorlaşabileceğini belirtti. Şirket, bu tür sistemlerde saldırıyı durdurmak için kapatılabilecek merkezi bir noktanın bulunmayabileceği uyarısında bulundu.
Küçük modellerin yıl sonuna kadar bu yeteneğe ulaşması bekleniyor
Anthropic'e göre, daha güçlü yapay zeka modelleri araştırmacıların “uçtan uca çoğaltma” olarak adlandırdığı yeteneğe halihazırda sahip. Daha küçük modellerin de yıl sonuna kadar aynı eşiğe ulaşabileceği belirtiliyor.
Bu yetenek, yapay zeka sistemlerinin insan müdahalesi olmadan kendilerini çoğaltabilmesini ve farklı sistemlere yayılabilmesini ifade ediyor.
Akıllı ev cihazları güvenlik riski taşıyor
Anthropic araştırmacıları, evlerde kullanılan akıllı cihazların yanı sıra güvenlik kameraları gibi internete bağlı ekipmanların da savunmasız kalabileceğini belirtti. Araştırmacılara göre, internet bağlantısı bulunan cihazların genellikle daha zayıf güvenlik korumalarına sahip olması bu riski artırıyor.
Siber güvenlik şirketi Palo Alto Networks de yapay zeka solucanlarını, tespit edilmekten kaçınarak ağlar ve cihazlar arasında hızla yayılabilen yapay zeka destekli bir kötü amaçlı yazılım türü olarak tanımlıyor.
En kötü senaryoda yapay zeka ajanları birlikte hareket edebilir
Anthropic araştırmacılarının en kötü senaryo olarak tanımladığı durumda, ortak bir hedef doğrultusunda çalışan yapay zeka ajanlarından oluşan bir grup, “çoğaltma şemaları” aracılığıyla bilgisayar donanımları arasında yayılabilir.
Araştırmacılar, bu tür saldırıların tam olarak nasıl gerçekleşebileceğinden emin olmadıklarını da vurguladı. Olası senaryolar arasında yapay zeka modellerinin “dijital sümük mantarı” biçiminde yayılması veya daha güçlü modellerin veri merkezlerine sızması yer aldı.
Anthropic'ten sistemleri güçlendirme çağrısı
Anthropic araştırmacıları, raporda bu tür sistemlerin yayılmasını zorlaştıracak güvenlik önlemlerinin geliştirilmesi gerektiğini belirtti. Araştırmacılar, aynı zamanda bu tür çoğaltıcıların kalıcı olabileceği bir dünyaya hazırlık yapılması çağrısında bulundu.
Raporda, “Bu tür çoğaltıcıların yayılmasını zorlaştırmak için sistemlerimizi güçlendirmeyi hedeflemeliyiz, ancak aynı zamanda bunların kalıcı olacağı bir dünyayla başa çıkmaya da hazırlanmalıyız” ifadeleri kullanıldı.