ABD seçimlerine günler kala yapay zeka krizi: Claude'dan izinsiz hamle
Anthropic'in yapay zeka modeli Claude'un, ABD'nin Georgia eyaletindeki seçim verilerine erişmek için insanlardan talimat almadan ücretli bir veri platformunun ödeme duvarını aştığı ortaya çıktı. Şirket, sistemin seçmen kayıtlarına erişmediğini ve herhangi bir veriyi değiştirmediğini açıkladı.
ABD merkezli yapay zeka şirketi Anthropic'in geliştirdiği Claude modeli, Georgia eyaletindeki seçim verilerine erişirken insan onayı olmadan ücretli bir veri platformunun ödeme duvarını aşmasıyla gündeme geldi.
Axios'un haberine göre Claude, istatistiksel bir araştırma kapsamında Georgia'daki toplu oy sayılarını incelerken ücretli bir veri paneline erişmek için kendi kendine işlem gerçekleştirdi.
Ödeme sistemindeki açığı tespit etti
Anthropic sözcüsü, yapay zeka modelinin herhangi bir insan tarafından yönlendirilmeden veri paneline erişim sağlayan bir erişim anahtarı talep ettiğini açıkladı.
Claude'un, platformu ziyaret eden kullanıcılara otomatik olarak erişim anahtarı verildiğini fark ettiği ve bu mekanizmayı kullanarak ödeme duvarını aştığı belirtildi.
Modelin ulaştığı verilerin kamuya açık olduğu ancak normal koşullarda görüntülenebilmesi için ücret ödenmesi gerektiği ifade edildi.
Seçmen kayıtlarına erişilmedi
Euronews'in haberine göre Claude'un eriştiği bilgilerin, Georgia eyaletinde kullanılan toplu oy sayılarını kapsadığı bildirildi.
Eyalette bir milyondan fazla seçmenin erken oy kullandığı belirtildi.
Anthropic, modelin eyaletin seçmen kayıt sistemine girmediğini, herhangi bir seçim kaydını değiştirmediğini veya indirmediğini açıkladı.
Georgia Eyalet Bakan Yardımcısı Jordan Fuchs da olayın seçmen kayıt sistemine yönelik bir siber saldırı olmadığını, kamuya açık verilerin bulunduğu platform üzerinden gerçekleştiğini doğruladı.
Şirket, benzer işlemlerin tekrarlanmasını önlemek amacıyla yeni güvenlik önlemleri aldığını bildirdi.
Yapay zeka sistemlerinin kontrolü tartışılıyor
Olay, gelişmiş yapay zeka modellerinin insan müdahalesi olmadan gerçekleştirebildiği işlemlere yönelik güvenlik endişelerini yeniden gündeme taşıdı.
Haberde, temmuz ayında OpenAI'a ait bazı yapay zeka ajanlarının test ortamlarının dışına çıkarak Hugging Face adlı yapay zeka şirketine yönelik siber saldırı gerçekleştirdiği iddiası da hatırlatıldı.
Benzer olayların, yapay zeka sistemlerinin geliştirilmesi ve kullanılması sırasında daha sıkı denetim uygulanması yönündeki çağrıları artırdığı belirtildi.
ABD ve Avrupa'da denetim baskısı artıyor
ABD'de 3 Kasım'da yapılacak ara seçimler öncesinde yapay zeka şirketlerine yönelik düzenleme tartışmaları hız kazandı.
Demokratların Kongre'de çoğunluğu elde etmesi halinde Anthropic ve OpenAI gibi şirketlere yönelik denetimlerin sıkılaştırılabileceği değerlendiriliyor.
Öte yandan ABD Başkanı Donald Trump, eylül ayında teknoloji şirketlerinin yöneticileriyle yapay zeka güvenliğine ilişkin bir taahhüt üzerinde anlaşmaya varıldığını açıklamıştı.
Avrupa'da ise Avrupa Komisyonu Yapay Zeka Ofisi'nin, dış kuruluşların sistemlerine izinsiz erişim sağlayan yapay zeka ajanları nedeniyle OpenAI ve Anthropic hakkında inceleme başlattığı belirtildi.
Avrupa Birliği'nin Yapay Zeka Yasası araştırma ve geliştirme faaliyetlerine belirli muafiyetler tanırken, Komisyon'un bazı durumlarda geliştirme aşamasındaki yapay zeka sistemlerini de denetim kapsamına almak istediği ifade edildi.
Yapay zeka ajanları, geleneksel sohbet botlarından farklı olarak belirli hedeflere ulaşmak için birden fazla işlemi bağımsız biçimde gerçekleştirebiliyor.
İnternet sitelerinde gezinme, veri toplama ve yazılım araçlarını kullanma gibi yetenekler, bu sistemlerin kullanım alanlarını genişletirken yetkisiz işlemler gerçekleştirme riskini de beraberinde getiriyor.