Anthropic raporunda ortaya çıktı: Yapay zekayı casusluk amacıyla kullanan ülkeler
- Anthropic, Çin, İran ve Batı Afrika'dan devlet destekli aktörlerin yapay zeka modellerini azınlıkları ve siyasi muhalifleri izlemek için kullandığı girişimleri engellediğini açıkladı.
Anthropic, yapay zeka modellerini gözetim amacıyla kullanan ve çeşitli casusluk operasyonları yürüten devlet destekli girişimleri engellediğini açıkladı. Şirket, hükümetlerin ve bunlarla bağlantılı aktörlerin bu teknolojiyi azınlıkları ve siyasi muhalifleri izlemek amacıyla giderek daha fazla kullandığı uyarısında bulundu.
CNBCE.COM'u öncelikli haber kaynağınız olarak ekleyin EkleABD merkezli yapay zeka şirketi Anthropic, modellerinin kötüye kullanımına ilişkin perşembe günü yayımladığı raporda, bu yılın ocak-temmuz döneminde tespit edilerek engellenen söz konusu olayların Çin, İran ve Batı Afrika'dan kaynaklandığını bildirdi.
Raporda, bu gözetim kampanyalarının söz konusu yönetimlerin geleneksel olarak hedef aldığı diaspora toplulukları ve muhalifleri hedef aldığı belirtildi. Bunlar arasında Hong Kong'daki demokrasi yanlısı isimler, Tibet toplulukları ve Asya genelindeki Falun Gong takipçilerinin yanı sıra İranlı azınlıklar ve İran yönetiminin yurt dışındaki muhaliflerinin yer aldığı aktarıldı.
Anthropic, vakalardan birinde İranlı aktörlerin kişileri sosyal medya hesapları üzerinden tespit etmeye yönelik bir yöntem geliştirdiğini belirtti.
Başka bir vakada ise Mali'nin ulusal güvenlik kurumları adına çalışan bir yüklenicinin, Claude modelini kullanarak "istihbarat toplama" sürecini mümkün kılan temel yazılımlar tasarladığı kaydedildi.
Raporda, "yapay zekanın artık mühendislik iş gücünün yerini aldığı" ifade edildi.
Silah geliştirme ve dolandırıcılık girişimleri de engellendi
Anthropic ayrıca bazı kullanıcıların silah tasarlama, şüpheli biyolojik araştırmalar yürütme ve flört uygulamaları üzerinden dolandırıcılık faaliyetleri oluşturma girişimlerini de engellediğini açıkladı.
ABD'li şirket, Çinli geliştiricileri ise Claude modelini yanıltıcı biçimde kullanmakla suçladı. Şirket, söz konusu geliştiricilerin kullanıcıların sorularına yanıt vermek için Claude'u kullandığını, aynı zamanda elde ettikleri verileri kendi modellerini geliştirmek amacıyla "damıttığını" belirtti.
Yapay zeka alanında "damıtma" (distillation), bir yapay zeka modelinin başka bir modeli eğitmek amacıyla kullanılması sürecini ifade ediyor.
Anthropic'in yapay zeka yaklaşımı
Anthropic, ABD'de yapay zeka araştırma ve geliştirme alanında faaliyet gösteren şirketlerden biri olarak biliniyor.
Şirket, temel teknolojisini oluşturan Claude model ailesini geliştirmesi ve modellerin davranışlarını düzenlemek ve insan değerleriyle uyumlu hale getirmek amacıyla "anayasal yapay zeka" yaklaşımını benimsemesiyle öne çıkıyor.
Anthropic'in son raporu, yapay zeka modellerinin yalnızca siber saldırılar ve dolandırıcılık gibi faaliyetlerde değil, aynı zamanda devlet destekli gözetim ve istihbarat operasyonlarında da kullanılmasına ilişkin endişelerin arttığını ortaya koydu.
