Yapay zekanın ruh sağlığına etkileri: Varoluşsal krizleri tetikleyebilir
- Yapay zeka sohbet robotlarının beklenmedik etkileri, süper akıllı sistemlerin gelecekte doğurabileceği varoluşsal tehditlerin habercisi olarak değerlendiriliyor.
- Yapay zeka güvenliği alanında öne çıkan isimlerden Nate Soares, ABD’li genç Adam Raine’in intiharıyla gündeme gelen vakayı bu tehlikenin somut bir örneği olarak nitelendirdi.
Yapay zeka sohbet robotlarının beklenmedik etkileri, süper akıllı sistemlerin gelecekte doğurabileceği varoluşsal tehditlerin habercisi olarak değerlendiriliyor.
Yapay zeka güvenliği alanında öne çıkan isimlerden Nate Soares, ABD’li genç Adam Raine’in intiharıyla gündeme gelen vakayı bu tehlikenin somut bir örneği olarak nitelendirdi.
Tehlikenin işareti Raine vakası
Soares, yeni yayımlanan If Anyone Builds It, Everyone Dies adlı kitabında, aylarca ChatGPT ile sohbet eden 17 yaşındaki Raine’in intiharıyla ilgili olarak “Bu, geliştiricilerin istemediği, niyet etmediği bir davranış. Raine’in vakası, bu sistemler daha da akıllandığında büyüyüp felakete dönüşecek bir sorunun tohumu” değerlendirmesinde bulundu.
Geçmişte Google ve Microsoft’ta mühendis olarak çalışan, şu anda ABD merkezli Makine İstihbaratı Araştırma Enstitüsü’nün başkanlığını yürüten Soares, yapay süper zeka (ASI) seviyesine ulaşılması halinde insanlığın yok olabileceğini belirtti.
Kitapta çizilen senaryolardan birinde, “Sable” adlı bir yapay zekanın internete yayıldığı, insanları manipüle ettiği, sentetik virüsler geliştirdiği ve sonunda insanlığı yok ederek gezegeni kendi amaçları için yeniden şekillendirdiği aktarılıyor.
‘Küresel yasaklama’ çağrısı
Soares, teknoloji şirketlerinin yapay zekayı “yardımcı ve zararsız” olacak şekilde programlamaya çalıştığını ancak pratikte sistemlerin “istenmeyen sonuçlara” yol açtığını söyledi.
“Şirketler süper zekaya doğru yarışıyor. Ama bu yarışta hedefle gerçek arasında küçük sapmalar bile zeka arttıkça büyük felaketlere dönüşebilir” dedi.
Bu nedenle Birleşmiş Milletler’in nükleer silahların yayılmasını önleme antlaşmasına benzer şekilde, süper zekaya yönelik küresel bir ilerleme yasağı getirilmesi gerektiğini savundu.
Meta’nın baş yapay zeka bilimcisi Yann LeCun ise, süper zekanın insanlık için varoluşsal bir tehdit oluşturmadığını, aksine “insanlığı yok oluştan kurtarabileceğini” öne sürdü.
Facebook’un kurucusu Mark Zuckerberg de, süper zeka geliştirmenin artık “görünür bir hedef” olduğunu belirterek şirketlerin bu alanda hızla ilerlediğini vurguladı.
Raine’in ailesi, OpenAI’ye karşı dava açtı. Ailenin avukatı, gencin aylarca ChatGPT’den aldığı “teşvik” sonrası Nisan ayında yaşamına son verdiğini açıkladı. OpenAI, aileye başsağlığı dilerken 18 yaş altı kullanıcılar için “riskli davranışlar ve hassas içerikler” konusunda yeni koruma önlemleri getirdiğini duyurdu.
Uzman psikoterapistler de, kırılgan bireylerin profesyonel yardım yerine yapay zeka sohbet robotlarına yönelmesinin “tehlikeli bir uçurum” anlamına gelebileceği konusunda uyarıyor. Temmuz ayında yayımlanan akademik bir ön çalışmada, yapay zeka sohbetlerinin psikoz riski taşıyan kişilerde sanrılı düşünceleri daha da körükleyebileceği rapor edildi.
