Anthropic'ten çarpıcı itiraf: Yapay zeka biyolojik silah çalışmalarında kullanıldı
- Anthropic, yapay zeka modellerinin biyolojik silah geliştirilmesini destekleyebilecek şekilde kullanıldığı vakalar tespit edildiğini açıkladı.
- Şirket, ilgili hesapları engellerken gelecekte benzer kötüye kullanımları önlemek için yeni tedbirler alacağını duyurdu.
Yapay zeka şirketi Anthropic, kendi geliştirdiği yapay zeka modellerinin biyolojik silah geliştirilmesini destekleyebilecek şekilde kullanıldığı vakalar tespit edildiğini açıkladı.
CNBCE.COM'u öncelikli haber kaynağınız olarak ekleyin EkleŞirket, yapay zekanın kötüye kullanımının tespit edilmesi ve bu tür kullanımlara karşı önlem alınmasına yönelik yeni bir rapor yayımladı.
Raporda, yapay zeka modellerinin karşı karşıya olduğu en büyük risklerden birinin "biyolojik kötüye kullanım" olduğu belirtildi.
Anthropic, yapay zekanın mevcut patojenlerin daha tehlikeli hale getirilmesine veya yeni patojenlerin geliştirilmesine yardımcı olabilecek yeteneklere ulaşabileceği yönündeki endişelerin uzun süredir gündemde olduğunu vurguladı.
Yapay zeka modelleri biyolojik araştırmalarda kötüye kullanıldı
Raporda, Anthropic'e ait modellerin biyolojik silah geliştirilmesini destekleyebilecek şekilde kullanıldığı değerlendirilen çeşitli vakalara yer verildi.
Örneklerden birinde, desteklenmeyen bir bölgede çalışan bir araştırmacının Claude'u kuş gribinin memelilere adaptasyonuna yönelik deneyler planlamak için kullandığı belirtildi.
Bir başka vakada ise devlet destekli bir araştırmacının toksinleri bilgisayar ortamında yeniden tasarladığı ifade edildi.
Anthropic, riskli hesapları engelledi
Anthropic, söz konusu faaliyetlerin tespit edilmesinin ardından ilgili kullanıcıların hesaplarının engellendiğini ve benzer kullanımların gelecekte daha etkili şekilde önlenmesi için yeni önlemler üzerinde çalışıldığını bildirdi.
Anthropic: "Kötü niyet iddiasında bulunmuyoruz"
Raporda dikkat çeken bir diğer nokta ise söz konusu kişilerin "kötü niyetli" olduklarının iddia edilmemesi oldu.
Şirket, vakalarda temkinli yaklaşım benimsendiğini ve riskleri önlemek amacıyla harekete geçildiğini belirtti.
Anthropic, raporun yapay zeka sektöründe biyolojik risklere ilişkin daha geniş bir tartışma başlatmasını amaçladığını belirterek, bu risklere karşı en etkili yöntemlerin geliştirilmesi gerektiğine dikkat çekti.
Anthropic çalışanından istifa açıklaması
Öte yandan Anthropic çalışanı Jacob Coxon'un yapay zekanın "gerçek güç ve kaynaklar elde edebilecek insanüstü sistemlere" dönüşebileceği yönündeki değerlendirmeleri de daha önce gündem olmuştu.
Coxon, bu görüşlerini paylaşmasının ardından şirketten istifa ettiğini duyurmuş, söz konusu paylaşımı milyonlarca kez görüntülenerek geniş yankı uyandırmıştı.
