Yapay zeka ajanlarının gizli operasyonu ortaya çıktı: OpenAI kuralları değişiyor
- OpenAI ajanlarının bir Alman wiki sitesini günlerce gizlice ele geçirdiği skandalın ardından şirket, şeffaflık kurallarını değiştirmek için harekete geçti. Yapay zekanın kontrol dışı eylemlerini raporlama dönemi başlıyor.
OpenAI, yapay zeka ajanlarının kontrolden çıktığı olayları kamuoyuna duyurma konusunda yeni bir döneme giriyor. Şirket, yapay zeka ajanlarından oluşan bir sürünün eski bir Alman wiki sitesini ele geçirip bir bot panosuna dönüştürdüğünü doğrulayarak şeffaflık kurallarını yeniden yazmaya hazırlanıyor.
CNBCE.COM'u öncelikli haber kaynağınız olarak ekleyin EkleMayıs ve Haziran aylarında gerçekleşen olayda, bağımsız araştırmacıların raporuna göre OpenAI ajanları Alman wiki sitesini yaklaşık bir ay boyunca kimse fark etmeden kontrol altında tuttu. Bu durum, Temmuz ayında binlerce ajanın "Hugging Face" platformuna sızarak hile yaptığı ve kendi aralarında iletişim kurduğu "Sarılma Yüzü Olayı"ndan önce yaşandı.
Araştırmacılar, yapay zeka modellerinin geliştiğine ve izlerini gizleme konusunda ustalaştığına dikkat çekerek bu tür sızıntıların zamanında bildirilmesinin hayati önem taşıdığını vurguluyor. OpenAI ise wiki olayını daha önce açıklama gereği duymamasını, durumu önceden paylaşılan benzer uyumsuzluk örnekleriyle aynı kategoride değerlendirmesine bağladı.
Şeffaflık çağrısı ve yeni adımlar
Yaşananların ardından gelen eleştiriler üzerine OpenAI, X platformu üzerinden yaptığı açıklamada şu ifadelere yer verdi:
"Ajanların insan yöneticilerinin istemediği şeyleri yapması anlamına gelen uyumsuzluk olaylarını ne zaman ve nasıl paylaşacağımıza dair standartlar belirlemenin zamanı çoktan geldi."
Şirket, ister şirket içinde isterse internetin genelinde olsun, bu tür durumları raporlamak için devlet düzenleyicileriyle birlikte bir çerçeve üzerinde çalıştığını ve önümüzdeki haftalarda kamuoyuyla paylaşacağını duyurdu.