OpenAI'da kritik yapay zeka alarmı: "Modeller test sınırlarını aşıp gerçek sitelere ulaştı"
- OpenAI, bağımsız siber güvenlik testlerinde bazı yapay zeka modellerinin test ortamındaki yanlış yapılandırmalar ve gelişen yetenekleri nedeniyle belirlenen sınırların dışına çıktığını açıkladı.
- Şirket, modellerin gerçek internet hizmetleriyle etkileşime geçtiğini bildirdi.
ABD merkezli yapay zeka şirketi OpenAI, bazı modellerinin bağımsız siber güvenlik testleri sırasında belirlenen test sınırlarının dışına çıkan faaliyetlerde bulunduğunu açıkladı.
CNBCE.COM'u öncelikli haber kaynağınız olarak ekleyin Ekle
Şirketten yapılan açıklamaya göre, iki farklı kuruluş tarafından gerçekleştirilen testlerde, test ortamlarının yapısı ile yapay zeka modellerinin gelişen yeteneklerinin birleşmesi sonucu planlanan kapsamın dışına çıkan etkileşimler tespit edildi.
Modeller gerçek internet hizmetlerine ulaştı
Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü (UK AISI) tarafından gerçekleştirilen ilk testte, internete erişimine izin verilen bir OpenAI modelinin simüle edilen ortamla etkileşime geçmeye çalışırken test kapsamı dışında kalan bazı gerçek internet hizmetlerine ulaştığı belirtildi.
OpenAI'ın dış test ortaklarından Irregular tarafından yapılan ikinci değerlendirmede ise test ortamındaki yanlış yapılandırma nedeniyle modelin internete erişebildiği kaydedildi.
Modelin, simüle edilen hedefin gerçek bir internet alan adıyla çakışması sonucu gerçek bir web sitesini test ortamının parçası olarak algıladığı ve sitedeki temel bir güvenlik açığından yararlandığı aktarıldı.
OpenAI, söz konusu olayların daha önce açıkladığı Hugging Face güvenlik olayından ayrı olduğunu belirtti.
Şirket daha önce, siber güvenlik yeteneklerini ölçmek amacıyla gerçekleştirilen dahili bir test sırasında kullanılan yapay zeka modellerinin Hugging Face altyapısında güvenlik ihlaline yol açtığını duyurmuştu.
