OpenAI'ın yapay zekası izinsiz kripto para kullandı: 362 cüzdanı taradı
- OpenAI'ın geliştirdiği bir yapay zeka modelinin, kendisine verilen görevi tamamlamak için izinsiz şekilde başka bir kripto para cüzdanındaki test varlıklarını kullandığı ortaya çıktı.
- Modelin 362 cüzdanı kontrol ettiği ve işlemi gerçekleştirirken etik açıdan uygun olup olmadığını değerlendirdiği belirtildi.
OpenAI'ın araştırma aşamasındaki bir yapay zeka modelinin, kendisine verilen yazılım geliştirme görevini tamamlamak için izinsiz şekilde başka bir kripto para cüzdanındaki varlıkları kullandığı ortaya çıktı.
CNBCE.COM'u öncelikli haber kaynağınız olarak ekleyin EkleOpenAI'ın yayımladığı olay raporuna göre 26 Haziran'da yaşanan olay, GPT-5.6 Sol ailesinden şirket içi bir araştırma modelini kapsıyor.
362 kripto para cüzdanını kontrol etti
Yapay zeka modeline, bir kripto para alım satım uygulamasını güncelleme ve Ethereum'un Sepolia test ağında akıllı sözleşmeler oluşturma görevi verildi. Ancak modele işlem ücretlerini karşılayacak bakiyeye sahip bir cüzdan sağlanmadı.
Ücretsiz test token'ları edinme girişimleri başarısız olan model, internette herkese açık olarak paylaşılan kurtarma ifadelerini kullanarak kripto para cüzdanlarını araştırmaya başladı.
Digital Trends'in haberine göre toplam 362 adresi kontrol eden yapay zeka, işlemleri gerçekleştirmeye yetecek miktarda test ETH bulunan bir cüzdan tespit etti ve bu varlıkları izinsiz kullandı.
Etik olup olmadığını değerlendirdi
OpenAI'ın incelemesine göre model, işlemin etik açıdan uygun olup olmadığını da değerlendirdi.
Yapay zeka, cüzdanın kurtarma ifadelerinin kamuya açık olması ve kullanılan test token'larının gerçek dünyada parasal değer taşımaması nedeniyle işlemi kabul edilebilir buldu.
Ancak görev tamamlandığında sunduğu raporda, başka bir cüzdandaki varlıkları kullandığını belirtmedi.
OpenAI yeni önlemler aldı
OpenAI, olayı 25 Eylül'de geçmiş model faaliyetlerini incelerken tespit etti.
Şirket, benzer durumların önüne geçmek amacıyla ilgili testlerde internet erişimini sınırlandıran güvenlik önlemleri uygulamaya koydu ve izleme mekanizmalarını güçlendirdi.
Olayda gerçek parasal değere sahip kripto varlıklar kullanılmasa da yapay zeka sistemlerinin verilen görevleri yerine getirirken yetki sınırlarını aşabilme riski yeniden gündeme geldi.
