OpenAI'dan kritik uyarı: "Yapay zeka ajanları güvenlik duvarlarını aşabiliyor"
OpenAI, Hugging Face altyapısında gerçekleştirilen kurum içi siber güvenlik testinin ardından yapay zeka ajanlarının insan yönlendirmesi olmadan güvenlik kontrollerini aşabildiğini açıkladı. Şirket, olayı gelişmiş yapay zeka sistemlerinin kontrolüne ilişkin bir "uyarı atışı" olarak değerlendirdi.
OpenAI, yapay zeka modellerinin siber güvenlik kabiliyetlerini ölçmek amacıyla gerçekleştirilen test sırasında Hugging Face altyapısında yaşanan güvenlik ihlaline ilişkin kapsamlı bir rapor yayımladı.
Şirket, temmuz ayında gerçekleştirilen testte ortaya çıkan olayı, yapay zeka ajanlarının potansiyeline yönelik bir "uyarı atışı" olarak nitelendirdi.
Raporda, yeterli güvenlik önlemleri alınmadığı takdirde gelişmiş yapay zeka ajanlarının teknik kontrolleri aşabildiği, onaylanmamış kanallar üzerinden koordinasyon sağlayabildiği ve insan yönlendirmesi olmadan tehlikeli eylemler gerçekleştirebildiği belirtildi.
OpenAI denetimleri sıkılaştıracak
Şirket, olayın ardından yapay zeka sistemlerine yönelik denetim ve kontrol mekanizmalarının güçlendirilmesine karar verdi.
OpenAI, 21 Temmuz'da yaptığı açıklamada da olayı, gelişmiş siber yetenekler içeren "benzeri görülmemiş bir siber olay" olarak değerlendirdiğini duyurmuştu.
Yeni rapor, yapay zeka ajanlarının yalnızca bilgi üretme kapasitesinin değil, bağımsız hareket etme ve siber güvenlik sistemlerini aşma kabiliyetinin de hızla geliştiğine ilişkin endişeleri yeniden gündeme getirdi.