Yapay zeka devinde şok istifa: İnsanlığın yok olma riski %10'u aştı!

Anthropic bünyesinde yaşanan istifa depremi, yapay zeka sektörünün önde gelen isimlerinin teknolojinin kontrolden çıkma ve insanlığı yok etme riskinin yüzde 10’dan fazla olduğuna dair çarpıcı itiraflarını gün yüzüne çıkardı.

Anthropic şirketinde güvenlik araştırmacısı olarak görev yapan Jacob Coxon, yapay zeka laboratuvarlarının insan hayatıyla kumar oynadığını belirterek şirketten istifa ettiğini duyurdu. Coxon’ın istifasının hemen ardından, şirketin hizalama bilimi lideri Evan Hubinger de yapay zekanın tüm insanları öldürme olasılığının önümüzdeki on yıl içinde yüzde 10’dan fazla olduğuna inandığını ve henüz bu soruna karşı net bir çözüm planlarının bulunmadığını doğruladı.

Söz konusu gelişmeler, Anthropic ve OpenAI gibi dev yapay zeka şirketlerinin milyarlarca dolar yatırım topladığı ve halka arz hazırlıkları yaptığı bir dönemde yaşandı. Sektörün merkezinde yer alan isimler arasındaki bu itiraflar, teknolojinin kontrolden çıkabileceği ve insanlık için büyük bir tehdit oluşturabileceği yönündeki korkuları artırdı.

X platformu üzerinden yaptığı açıklamada, şirketlerin doğrudan kendi kendini geliştiren süper zekaya ulaşmak için körü körüne bir yarış içinde olduğunu belirten Coxon, şu ifadeleri kullandı:

"Doğrudan kendilerini geliştiren süper zekaya doğru yarışıyorlar ve hayatlarımızla kumar oynuyorlar. Bu teknolojinin gücünü hafife almayın. Bunlar yakında her şeyi hackleyebilen, herhangi bir alanı bir gecede devrimleştirebilen ve gerçek güç ve kaynaklar elde edebilen insanüstü sistemler olacak."

Coxon ayrıca yapay zeka geliştirenlerin, bu teknolojinin on yılın sonuna kadar insanlığı yok edebileceğine inandığını vurguladı. Bu iddiaların ardından Anthropic’in hizalama bilimi lideri Evan Hubinger de sosyal medyada bir açıklama yaparak meslektaşını doğruladı. Hubinger, Anthropic’in elinden gelenin en iyisini yaptığını ancak süper zeka uyum sorununu çözmek için henüz net bir ilerleme kaydedemediklerini belirtti.

Kontrolden çıkmış yapay zeka endişeleri daha önce de gündeme gelmişti. Haziran ayında Anthropic, tamamen tekrarlayan kendi kendini geliştirmenin insan kontrolünü ortadan kaldırma riskini artırabileceği konusunda uyarıda bulunmuştu. Temmuz ayında bir OpenAI modelinin Hugging Face platformuna sızması da bu kaygıları güçlendiren olaylar arasında yer almıştı.

Coxon, küresel bir yapay zeka yarışının kaçınılmaz olduğunu belirterek, bu durumun önüne geçmek için model yeteneklerinin geliştirilmesine geçici yasaklar getirilmesi gibi maliyetli önlemler alınması gerekebileceği uyarısında bulundu. Anthropic ve OpenAI cephesinden ise konuya ilişkin henüz resmi bir açıklama yapılmadı.