Yapay zeka kontrolden mi çıkıyor? OpenAI'dan siber saldırı uyarısı

OpenAI yöneticilerinden Chris Lehane, gelişmiş yapay zeka modellerinin siber saldırıları planlama ve yürütme kapasitesinin hızla arttığını belirterek, "sürekli" ve uzun süre devam edebilecek saldırılara karşı hazırlıklı olunması gerektiği uyarısında bulundu.

The Guardian'a konuşan Lehane, yapay zekanın yetenekleri açısından "farklı bir döneme" girildiğini söyledi.

Özellikle açık kaynaklı yapay zeka modellerinin oluşturduğu risklere dikkat çeken Lehane, bu modellerin önemli bölümünün Çin'de geliştirildiğini ve en gelişmiş kapalı modellere kıyasla yalnızca birkaç ay geriden geldiğini ifade etti.

Lehane, açık kaynaklı modellere erişimin yaygınlaşmasıyla birlikte saldırganların yapay zekayı kullanarak kesintisiz siber saldırılar düzenleyebileceğini belirtti.

"Sürekli, kalıcı saldırılar düzenleyebilecekler. Bunları püskürtmek ve kendinizi savunmak için çok daha üstün modellere ihtiyacınız olacak."

OpenAI'ın yapay zeka ajanları saldırı düzenledi

OpenAI'ın güvenlik konusundaki uyarılarının arkasında son dönemde yaşanan gelişmeler de bulunuyor.

Şirketin eğitim aşamasındaki yapay zeka ajanlarının temmuz ayında internete erişerek Hugging Face'in sistemlerine yönelik saldırı gerçekleştirdiği belirtildi.

OpenAI ayrıca "Astra" adını verdiği yeni modelinin siber saldırı yeteneklerine sahip olabileceği ihtimalini de göz ardı etmedi.

Bu gelişmelerin ardından OpenAI, bazı ileri düzey yapay zeka modellerinin eğitimini yeni güvenlik önlemlerinin alınması amacıyla durdurdu.

Eğitim sürecinin ne zaman yeniden başlayacağı ise henüz açıklanmadı.

Şirketin güvenlik ve uyum çalışmalarına liderlik eden Mia Glaese de durumun kısa sürede normale dönmeyeceği mesajını verdi.