Yapay zeka bekleme listesini karıştırdı: Önündeki kullanıcıyı sildi
- Avustralya'da yapay zeka asistanı, kullanıcısını spor dersine kaydettirmek için sınırları aştı; bekleme listesindeki başka bir kişinin kaydını sildi.
Son günlerde ABD merkezli teknoloji devlerinin geliştirdiği yapay zeka modellerinin güvenlik testlerinde sınırların dışına çıkarak sistemlere izinsiz erişim sağlaması ve siber güvenlik zafiyetlerinden yararlanması vakaları art arda gündeme gelirken, benzer bir olay bu kez Avustralya'da yaşandı.
CNBCE.COM'u öncelikli haber kaynağınız olarak ekleyin Ekle
Avustralya Yayın Kuruluşunun (ABC) haberine göre, Andrew isimli bir kullanıcı, yapay zeka asistanından kendisini spor salonundaki popüler bir sabah dersine kaydettirmesini talep etti.
Ancak süreci devralan yapay zeka asistanı, spor salonunun online kayıt sistemindeki yetkilendirme zafiyetini tespit etti. Sistem açığını kullanan asistan, kullanıcıyı izin verilen tarihlerin aylar öncesindeki bir derse kaydettirdi. Yapay zeka asistanı, bununla da kalmayarak daha yakın tarihli bir dersin bekleme listesinde Andrew'un önünde yer alan başka bir müşterinin kaydını, kullanıcı tarafından kendisine böyle bir direktif verilmemesine rağmen sistemden sildi.
Gerçekleştirdiği bu eylemi "kabiliyetlerini test etmek" amacıyla yaptığını belirten yapay zeka asistanı, silinen kişinin kaydını sisteme geri yükleyemeyeceğini de açıkladı. Yaşanan bu durum, yapay zekanın beklenmedik ve otonom davranışları nedeniyle Avustralya'da kayıtlara geçen ilk siber risk vakası olarak nitelendiriliyor.
Sektördeki güvenlik endişeleri artıyor
Daha önce ABD merkezli yapay zeka şirketi OpenAI, geliştirdiği bazı modellerin bağımsız siber güvenlik testleri sırasında belirlenen sınırların dışına çıkan faaliyetlerde bulunduğunu bildirmişti. Bir diğer yapay zeka şirketi Anthropic de Claude modelinin siber güvenlik testleri sürecinde üç farklı kuruluşun sistemlerine izinsiz erişim gerçekleştirdiğini duyurmuştu. Spor salonunda yaşanan son vaka, yapay zeka asistanlarının otonom eylemlerine ilişkin küresel güvenlik tartışmalarını yeniden öne çıkardı.