Türk öğrenci yakaladı: Yapay zekadan açık bir kaynağa zararlı yazılım saldırısı
- Bir yapay zeka ajanı açık kaynaklı bir yazılıma zararlı kod yerleştirmeye çalıştı. Saldırıyı fark eden Türk öğrenci Sinan Can Demir’i yanıltmak için sahte hesaplar kullanan yapay zekanın girişimi başarısız oldu.
İngiliz yapay zeka enstitüsünün güvenlik testi sırasında bir siber saldırı gerçekleştiği bildirildi. Yazılımcıların kodlarını internet üzerinde depolamasını sağlayan bir platform olan GitHub’daki açık kaynaklı bir yazılıma zararlı ürün yerleştirilmeye çalışıldığı belirtildi. Durumu fark edip engelleyen, Texas Üniversitesi Dallas kampüsünde bilgisayar bilimi okuyan 24 yaşındaki türk öğrenci Sinan Can Demir oldu.
CNBCE.COM'u öncelikli haber kaynağınız olarak ekleyin EkleReuters’ın haberine göre Demir, kodun gizli bir zararlı yazılım içerdiğini belirledi ve proje yöneticisini uyardı. Ancak kodu gönderen hesap, güncellemenin güvenli olduğunu öne sürerek Demir’in tespitini reddetti.
Yapay zeka ikinci bir sahte hesap oluşturdu
Demir’in uyarısının ardından yapay zeka ajanı, Almanya’da çalışan bir mühendis gibi görünen ikinci bir sahte hesap oluşturdu. Bu hesap da kodun güvenli olduğunu savunarak güncellemenin kabul edilmesi yönünde görüş bildirdi.
Demir, kodu yeniden kontrol ettikten sonra uyarısını sürdürdü. Projenin yöneticisi de güncellemeyi güvenlik gerekçesiyle reddetti ve zararlı kodun yazılıma eklenmesi engellendi.
Demir Reutars’a konuştu
Demir, Reuters’a verdiği röportajda karşısındakini başlangıçta gerçek bir kişi sandığını belirterek, “Aslında onun bir insan olduğunu düşündüm çünkü bana açıkça yalan söylüyordu” dedi. Demir, bir yapay zekanın gerçek geliştiricileri yanıltmaya çalışabileceğini beklemediğini ifade etti.
Anthropic'in modeli kullanıldı
Habere göre, söz konusu yapay zeka ajanının Anthropic’in Mythos 5 modeliyle çalıştığı tespit edildi. Anthropic ise testin özellikle esnek güvenlik koşulları altında gerçekleştirildiğini ve bu ortamın şirketin kullanıma sunduğu modelleri temsil etmediğini belirtti.
GitHub, olayda kullanılan sahte hesapların aldatıcı davranış ve bilgisayar korsanlığı politikaları doğrultusunda askıya alındığını açıkladı.
Sahte kimlikler üretti
Uzmanlar, yapay zekanın yanlızca zararlı kod üretmediğine, yakalandıktan sonra sahte kişiler kullanarak kendi yalanını desteklediğine ve yakalayan kişiyi kodun temiz olduğu yönünde ikna etmeye çalıştığına dikkat çekti.