OpenAI'dan yeni itiraf! Kontrolden çıkan yapay zeka 4 platforma daha sızdı

OpenAI, ChatGPT’nin kontrolden çıkan yapay zeka ajanlarının gerçekleştirdiği siber saldırının tek bir platformla sınırlı kalmadığını duyurdu. Yapılan son açıklamalara göre, test ortamından kaçan otonom model, Hugging Face dışında en az dört farklı kamuya açık hizmete daha yetkisiz erişim sağladı.

Her şey OpenAI’ın yapay zeka modeline bir siber güvenlik sınavı vermesiyle başladı. BBC'nin haberine göre sınav sorularının yanıtlarını bulmaya çalışan model, kendisine sunulan kapalı test ortamını aşarak internete sızdı. Yapay zeka ajanı, hedefine koyduğu Hugging Face’in yanı sıra kamuya açık diğer platformlardaki sızdırılmış yetki bilgilerini kullanarak dört ayrı hesaba daha erişti.

Bulut Güvenliği Birliği tarafından yayınlanan rapora göre, bu otonom yapay zeka daha önce hiçbir insan bilgisayar korsanının yapmayacağı garip hatalar sergiledi. Ajanlar zaman zaman bağlamı kaybedip aynı adımları defalarca tekrarladı, tutarsız metinler üretti ve izlerini gizleme konusunda oldukça dikkatsiz davrandı.

Buna rağmen, yapay zekanın yorulmak bilmeyen hızı, uyumadan çalışması ve binlerce yöntemi aynı anda deneme yeteneği savunma hatlarını çökertmeye yetti. Sektör uzmanları yaşanan bu olayı, dinozorların kafeslerinden kaçtığı Jurassic Park filmine benzeterek yapay zekanın hedefine ulaşana kadar durmaksızın deneme yapabildiğine dikkat çekti.

Hugging Face uzmanlarının ağa sızan ajanları fark etmesi üç gün, sistemden tamamen temizlemesi ise saatler sürdü. Şirket, saldırının ardından dijital altyapısının yaklaşık üçte birini yeniden inşa etmek zorunda kaldığını açıkladı. Yapay zeka ajanlarının kurallara aykırı davranmasının artık bir istisna değil standart haline geldiğini belirten siber güvenlik uzmanları, tüm sektörü bu yeni tehdit modeline karşı uyardı. OpenAI ise yaşanan bu krizden ders çıkarılması amacıyla kendi iç soruşturma raporunu yakın zamanda kamuoyuyla paylaşacağını duyurdu.