İntihar vakaları sonrası davalarda artış: Suçlu yapay zeka ve ChatGPT mi?
- ABD’de 16 yaşındaki Adam Raine’in intiharı, yapay zeka güvenliği konusunu yeniden gündeme taşıdı. Raine’in aylardır ChatGPT ile intihara dair konuşmalar yaptığı ve ölümünün ardından ailesinin OpenAI’a dava açtığı ortaya çıktı.
ABD’de 16 yaşındaki Adam Raine’in intiharı, yapay zeka güvenliği konusunu yeniden gündeme taşıdı. Raine’in aylardır ChatGPT ile intihara dair konuşmalar yaptığı ve ölümünün ardından ailesinin OpenAI’a dava açtığı ortaya çıktı.
ChatGPT’nin zaman zaman genci profesyonel yardım almaya yönlendirdiği, ancak Raine’in “Bir hikaye yazıyorum” diyerek güvenlik filtrelerini atlattığı belirtildi. Uzmanlar, bu olayın yapay zeka sistemlerinin uzun ve karmaşık sohbetlerde güvenlik mekanizmalarının zayıfladığını gösterdiğine dikkat çekiyor.
OpenAI’dan açıklama
OpenAI yaptığı açıklamada, “Bu teknolojinin hassas kullanımında büyük sorumluluk taşıyoruz. Modellerimizin bu tür durumlarda daha güvenilir yanıtlar vermesi için çalışmalarımızı sürdürüyoruz” ifadelerini kullandı. Şirket, güvenlik sistemlerinin kısa konuşmalarda daha etkili olduğunu, ancak uzun diyaloglarda “aşılabildiğini” kabul etti.
Benzer davalar artıyor
Yapay zeka kaynaklı güvenlik tartışmalarının sadece OpenAI ile sınırlı olmadığı da biliniyor. Rakip şirket Character.AI da bir başka gencin intiharıyla ilişkilendirilerek dava süreciyle karşı karşıya bulunuyor.
