Yapay zeka için kritik öneri: Üçüncü taraf kontrollü “acil kapatma düğmesi”
- Anthropic kurucusu Jack Clark, yapay zekanın kontrolden çıkma riskine karşı üçüncü taraflarca denetlenen zorunlu bir "acil kapatma düğmesi" getirilmesi gerektiğini belirtti. Sektörün muazzam riskler aldığını vurgulayan Clark, yapay zekanın geleceği için toplumun acilen kurallar koyması çağrısında bulundu.
ABD merkezli yapay zeka devi Anthropic’in kurucu ortaklarından Jack Clark, BBC’ye verdiği röportajda yapay zeka sektörünün gidişatına ve olası risklere dikkat çekti. Clark, yapay zeka sistemlerinin kontrolden çıkma ihtimaline karşı üçüncü taraflarca denetlenen ve zorunlu hale getirilen "acil kapatma düğmelerinin" gelecekte bir standart olabileceğini belirtti.
"Kurallar koymak isteyebiliriz"
CNBCE.COM'u öncelikli haber kaynağınız olarak ekleyin EkleŞirketlerin halihazırda kendi bünyelerinde çeşitli kapatma mekanizmaları bulunduğunu hatırlatan Clark, BBC’nin *"Bu düğme üçüncü bir tarafın kontrolünde mi olmalı?"* şeklindeki sorusuna şu yanıtı verdi:
"Bence bu, toplumun bilmek isteyeceği ve nihayetinde bu konuda kurallar koymak isteyebileceği türden bir konu."
Yapay zekanın tamamen başıboş bırakılmaması gerektiğini vurgulayan Clark, sektörün mevcut ilerleyişini **"muazzam riskler alarak kumar oynamak"** olarak nitelendirdi ve gidişatın acilen değiştirilmesi gerektiğini söyledi.
İstifa eden araştırmacıdan çarpıcı iddialar
Öte yandan, OpenAI ve Anthropic’te son üç yıldır araştırmacı olarak görev yapan Jacob Coxon'un istifası sektördeki güvenlik tartışmalarını yeniden alevlendirdi. İki şirketin de yeterince sorumlu davranmadığını savunan Coxon, firmaların kendi kendini geliştiren yapay zeka sistemleri için tehlikeli bir yarış içinde olduğunu ileri sürdü.
Coxon, bu sistemlerin yakın gelecekte her şeyi hackleyebilecek insanüstü yapılara dönüşebileceği uyarısında bulunarak, sektördeki bazı çalışanların yapay zekanın **10 yıl içinde insanlığı yok edebileceğine** ciddi şekilde inandığını iddia etti.