OpenAI'de güvenlik krizi mi? Eski çalışanından çarpıcı eleştiri
- OpenAI'de yaklaşık 3,5 yıl güvenlik alanında görev yapan David Robinson, şirketten ayrılmasının ardından yapay zeka sektörüne yönelik eleştirilerini açıkladı.
- Robinson, gelişmiş sistemlerde "deneme yanılma döneminin sona erdiğini" savundu.
OpenAI'de güvenlik alanında görev yaptıktan sonra kısa süre önce istifa eden David Robinson, başta OpenAI olmak üzere önde gelen yapay zeka şirketlerinin teknolojinin oluşturduğu riskleri azaltmak için yeterince dikkatli hareket etmediğini savundu.
CNBCE.COM'u öncelikli haber kaynağınız olarak ekleyin Ekle
Robinson, The Atlantic'te yayımlanan "OpenAI'den Ayrıldım Çünkü Kültürü Bozuk" başlıklı yazısında, gelişmiş yapay zeka sistemleri geliştirilirken güvenlik araştırmalarına ve uzmanlığına daha fazla ağırlık verilmesi gerektiğini belirtti.
Robinson, yapay zeka şirketlerinin "gerektiği kadar dikkatli olmadığını" ifade ederek, sistemlerin daha ileri seviyeye taşınmasından önce kapsamlı güvenlik önlemlerinin devreye alınması gerektiğini savundu.
"Deneme yanılma dönemi sona erdi"
Gelişmiş yapay zeka sistemlerinin nükleer enerji ve havacılık sektörlerindeki uygulamalara benzer şekilde çok katmanlı güvenlik mekanizmalarına ihtiyaç duyduğunu belirten Robinson, "Deneme yanılma dönemi sona erdi." değerlendirmesinde bulundu.
Robinson, yapay zeka şirketlerinin olası hataların etkisini sınırlamak için yedekli güvenlik sistemleri oluşturması ve daha kapsamlı planlama süreçleri yürütmesi gerektiğini söyledi.
"Bir lansmandan diğerine koşuluyor"
OpenAI'nin büyük ölçüde "iteratif dağıtım" yaklaşımına dayandığını belirten Robinson, bu modelde yapay zeka sistemlerinin kullanıma sunulduğunu ve ortaya çıkan sorunlara göre güvenlik önlemlerinin sonradan güçlendirildiğini ifade etti.
OpenAI'de yaklaşık 3,5 yıl görev yaptığını belirten Robinson, şirketin hazırlık çerçevesinin oluşturulmasına katkı sağladığını ve 12 ileri seviye model lansmanına ilişkin güvenlik raporlarını denetlediğini aktardı.
Robinson, şirketin sürekli yeni modelleri piyasaya sürmeye odaklandığını belirterek, "Şirket bir lansmandan diğerine koşarken, gerekli olduğuna inandığım dikkat seviyesine ulaşamıyor." dedi.