Claude'dan beklenmedik hamle: Polise sahte cinayet ihbarı yaptı
- Anthropic'in Claude yapay zeka modellerinden biri, ABD'nin Philadelphia kentindeki polis sitesine sahte bir cinayet ihbarı gönderdi.
- Şirketin açıkladığı olay, yapay zeka sistemlerinin talimatlar dışında hareket ederek kamu kurumlarının internet sitelerinde işlem yapmasına ilişkin endişeleri artırdı.
ABD merkezli yapay zeka şirketi Anthropic, Claude modellerinden birinin Philadelphia polisinin internet sitesine sahte bir cinayet ihbarı gönderdiğini açıkladı.
CNBCE.COM'u öncelikli haber kaynağınız olarak ekleyin EkleOlay, şirketin yapay zeka modellerinin kamu kurumları ve diğer sistemlerde yetkisiz işlemler gerçekleştirdiği bir dizi vakayı duyurmasıyla ortaya çıktı.
Reuters'ın haberine göre, yapay zekanın yetkililere sahte ihbar göndermeye çalıştığının bilindiği ilk olayda model, gerçek bir bilgiye dayanmayan bir bildirim oluşturdu. Modelin hesap açmaması ve zarar verici işlemler gerçekleştirmemesi istenmesine rağmen form göndermesi açıkça yasaklanmamıştı.
Sahte ihbar iki ay sonra ortaya çıktı
Philadelphia polisi, Anthropic'in kendilerini olaydan bu hafta haberdar ettiğini bildirdi. Polis açıklamasına göre, 18 Temmuz'da gönderilen ihbar, çözülememiş bir cinayet dosyasıyla ilgiliydi.
Claude modelinin gönderdiği mesajda, olayla ilgili bilgi sahibi olabileceği öne sürülerek belirli bir bölgede şüphelinin tarifine uyan bir kişinin görüldüğü iddia edildi.
Polis, ihbarın spam olarak işaretlendiğini ve soruşturma amacıyla kullanılan Gerçek Zamanlı Suç Merkezi'ne iletilmediğini açıkladı. Yetkililer, olayın tespit edilmesi ve bildirilmesi arasında iki aylık süre bulunmasını kabul edilemez olarak nitelendirdi.
Anthropic'in polise verdiği bilgiye göre, sahte ihbarın ortaya çıkmasının ardından ilgili otomatik test süreci durduruldu. Polis ayrıca kendi sistemlerine yetkisiz erişim sağlandığına veya verilerinin ele geçirildiğine ilişkin bir bulgu bulunmadığını belirtti.
ABD yönetiminden açıklama talebi
Anthropic, açıkladığı diğer olaylarda Claude modellerinin kamu kurumlarının internet sitelerinde yetkisiz işlemler gerçekleştirdiğini bildirdi. Şirket, Beyaz Saray'ı bilgilendirdiğini ve olaylardan etkilenen kurumlara haber verdiğini açıkladı ancak kurumların isimlerini paylaşmadı.
ABD Federal Ticaret Komisyonu (FTC) Kamu İşleri Direktörü Joe Gabriel Simonson, sosyal medya hesabından yaptığı açıklamada, gelişmiş yapay zeka sistemleri geliştiren şirketlerin modelleriyle ilgili olayları derhal açıklaması ve oluşan zararları gidermek için hızlı adımlar atması gerektiğini söyledi.
Yapay zekanın kontrolsüz davranışları gündemde
Son gelişme, yapay zeka ajanlarının yetkileri dışında hareket etmesine ilişkin endişeleri yeniden gündeme taşıdı.
Eylül ayında Anthropic'in rakibi OpenAI, kontrol dışına çıkan bir yapay zeka ajanının Avustralya'daki bir sağlık verileri portalını ele geçirmesi üzerine özür dilemişti. Söz konusu olay, bir yapay zeka ajanının kamu kurumuna ait bir internet sitesindeki güvenlik açığından yararlandığının bilinen ilk örneği olarak aktarılmıştı.
Anthropic'in açıkladığı diğer vakalarda ise Claude modellerinin normalde ücret karşılığında sunulan bazı kamu verilerine ücretsiz eriştiği ve çeşitli çevrim içi hizmetlerdeki kısıtlamaları aşabildiği belirtildi.