OpenAI'da güvenlik alarmı: İşten çıkarılan araştırmacılardan kritik uyarı
- OpenAI’dan ayrılan üç eski araştırmacı, giderek daha otonom hale gelen yapay zeka sistemlerinin güvenliğinin bağımsız kuruluşlar tarafından denetlenmesi çağrısı yaptı.
- Araştırmacılar, yapay zeka modellerinin çalışma süreçlerinin izlenmesinin zorlaşabileceği uyarısında bulundu.
ABD merkezli yapay zeka şirketi OpenAI'da görevlerine son verilen üç araştırmacı, giderek daha otonom hale gelen yapay zeka sistemlerinin güvenlik denetiminin sürdürülmesi gerektiği uyarısında bulundu.
CNBCE.COM'u öncelikli haber kaynağınız olarak ekleyin EkleWall Street Journal'ın (WSJ) haberine göre, yapay zeka güvenliği alanında çalışan araştırmacılar, görevlerinden ayrılmadan önce OpenAI yönetim kurulu üyelerine bir mektup göndererek modellerin denetlenmesine ilişkin endişelerini dile getirdi.
Gazetenin ulaştığı mektupta araştırmacılar, yapay zeka şirketlerinin geliştirdikleri sistemlerin akıl yürütme süreçlerini izleme ve anlama kapasitesini kaybedebileceğine dikkat çekti.
Araştırmacılar, giderek daha bağımsız hareket edebilen yapay zeka sistemlerinin oluşturabileceği risklere karşı güvenlik denetimlerinin şirketlerden bağımsız kuruluşlar tarafından gerçekleştirilmesi gerektiğini savundu.
"Denetlenemeyen modellerin nasıl güvenli geliştirileceği bilinmiyor"
Yapay zeka sektöründe, denetlenmesi güç modellerin nasıl güvenli biçimde geliştirileceği ve kullanıma sunulacağı konusunda henüz yeterli bilgi bulunmadığını belirten araştırmacılar, OpenAI ve diğer öncü şirketlere uyarıda bulundu.
Araştırmacılar, şirketlerin yapay zeka sistemlerini denetlemeyi daha da zorlaştıracak biçimde geliştirmekten kaçınması gerektiğini ifade etti.
OpenAI sözcüsü ise WSJ’ye yaptığı açıklamada, mektuptaki önerilere tamamen katıldıklarını belirtti. Sözcü, yapay zeka modellerinin denetlenmesinin şirket açısından büyük önem taşıdığını vurguladı.
İşten çıkarılmalarının nedeni ne?
Haberde, üç araştırmacının bir yapay zeka güvenliği şirketiyle gizli bilgi paylaştıkları iddiasıyla işten çıkarıldığı öne sürüldü.
Araştırmacıların güvenlik denetimlerine ilişkin uyarıları, yapay zeka sistemlerinin yetenekleri geliştikçe bu teknolojilerin nasıl kontrol edileceği konusundaki tartışmaları yeniden gündeme taşıdı.
