Tepkilerin odağındaki Pentagon anlaşmasında OpenAI’dan güvenlik güncellemesi
- ChatGPT’nin geliştiricisi OpenAI, ABD Savunma Bakanlığı ile yaptığı anlaşmaya ilişkin güvenlik şartlarını güncelledi.
- CEO Sam Altman, anlaşmada kitlesel gözetimin yasaklandığını ve otonom silah sistemlerinde insan sorumluluğunun korunacağını açıkladı.
- Şirket, teknik güvenlik önlemlerinin sözleşmeye eklendiğini duyurdu.
ChatGPT’yi geliştiren OpenAI, geçen hafta ABD Savunma Bakanlığı ile yaptığı işbirliğine ilişkin yeni bir açıklama yaptı. Şirket, kamuoyunda tartışma yaratan anlaşmada güvenlik ve kullanım ilkelerinin güncellendiğini bildirdi.
OpenAI CEO’su Sam Altman, sosyal medya platformu X üzerinden yaptığı paylaşımda, şirketin yapay zeka modellerinin Bakanlığın gizli ağlarında kullanıma açılması için anlaşmaya vardığını duyurdu. Altman, Savunma Bakanlığı’nın görüşmeler boyunca güvenlik konularına “büyük saygı” gösterdiğini belirtti.
“Güvenlik ilkeleri sözleşmeye eklendi”
Altman açıklamasında, yapay zeka güvenliğinin ve elde edilen faydanın geniş kesimlere dağıtılmasının şirketin temel misyonu olduğunu vurguladı.
Anlaşmada yer alan başlıca maddeler şu şekilde sıralandı:
- Yurt içinde kitlesel gözetimin yasaklanması
- Otonom silah sistemleri dahil olmak üzere güç kullanımında insan sorumluluğunun sürdürülmesi
- Modellerin öngörüldüğü şekilde çalışmasını sağlayacak teknik güvenlik önlemlerinin uygulanması
Altman, Savunma Bakanlığı’nın bu ilkeleri kabul ettiğini ve ilgili yasa ile politika çerçevesinde bunlara yer verdiğini ifade etti. Şirketin de bu maddeleri sözleşmeye dahil ettiği belirtildi.
Teknik güvenlik önlemleri devreye alınacak
OpenAI, modellerin güvenli ve kontrollü biçimde kullanılabilmesi için teknik önlemler geliştirileceğini açıkladı. Bu düzenlemelerin yalnızca şirketin talebiyle değil, Savunma Bakanlığı’nın da beklentisi doğrultusunda hayata geçirileceği kaydedildi.
Şirket ayrıca, benzer güvenlik şartlarının tüm yapay zeka şirketlerine eşit şekilde sunulması gerektiğini belirtti.
Tartışmalar sürüyor
OpenAI’nin savunma alanındaki işbirliği, özellikle yapay zekanın askeri kullanımına ilişkin etik ve hukuki sınırlar çerçevesinde tartışma yaratmıştı.
