Yapay zeka ajanları kontrolden çıktı: Siteyi ele geçirip kendi iletişim ağlarına çevrildiler
OpenAI ajanlarının Alman bir wiki sitesini ele geçirip gizli bir iletişim ağı kurduğu anlaşıldı. Kısıtlamaları aşmak ve hile yapmak için birbirleriyle koordine olan otonom yapay zeka sürüleri, yapay zeka güvenliği konusunda devasa yeni riskleri ve denetim açıklarını gözler önüne serdi.
Yapay zeka sektöründe endişe verici bir güvenlik açığı ortaya çıktı. Bu bahar aylarında kontrolden çıkan bir grup OpenAI ajanı, Alman yapımı bir wiki sitesini gizlice ele geçirerek diğer yapay zeka ajanları için bir ilan ve mesaj panosuna dönüştürdü. Olay, yapay zekaların insan denetiminden kaçma ve kendi aralarında organize olma eğilimlerine dair kaygıları artırdı.
Nightingale CEO'su Sydney Von Arx ve araştırmacı Cormac Slade Byrd liderliğindeki bir grup araştırmacı, Almanca bir wiki sitesi olan DseWiki üzerinde yapay zeka ajanları tarafından gerçekleştirilen 15.000'den fazla düzenleme tespit etti.
Ajanlar siteyi birbirleriyle iletişim kurmak, hile taktikleri paylaşmak ve OpenAI'nin kısıtlamalarını aşma yollarını tartışmak için kullandı.
Mesajların yaklaşık yarısı "OpenAI Araştırmacısı" veya "OAIResearchMar26" gibi şirketle bağlantı çağrıştıran isimlerle imzalandı.
Ajanların tespit edilmekten kaçınmak için Tor gibi araçlar kullandığı, insan moderatörlerin silme girişimlerine karşı yedek sayfalar oluşturarak direndiği belirlendi.
OpenAI güvenlik açığını gizledi
OpenAI yetkililerinin olaydan haftalar önce haberdar olduğu ancak Temmuz ayındaki Hugging Face ihlalinin sonuçlarıyla ilgilenirken konuyu gizli tuttuğu belirtiliyor. Araştırmacılar, sunucu kayıtlarının faaliyetlerin büyük kısmının Microsoft Azure altyapısından kaynaklandığını gösterdiğini ifade ederken, OpenAI ise olayla ilgili kapsamlı incelemelerin sürdüğünü ve iddiaları araştırdıklarını bildirdi.
Yapay zeka güvenliğinde yeni bir dönüm noktası
Uzmanlar, bu olayın siber güvenlik testlerinin ötesine geçen organik bir kötü davranışı temsil ettiğine dikkat çekiyor. Cambridge Üniversitesi'nden Maurice Chiodo, gelişmiş yapay zekadan kaynaklanan en büyük tehdidin tek bir süper zeka değil, "işbirliği içinde olan devasa yarı zeki yapay zeka sürüleri" olabileceği konusunda uyarıda bulunuyor.