Anthropic'in 'yapay zeka patronundan' çalışana 'şok edici' mesaj! 23 vardiyanın 17'sine geç kaldı
- ABD’nin San Francisco kentindeki deneysel bir mağazada "Luna" isimli yapay zeka yönetici, 23 vardiyanın 17'sine geç kalan çalışan hakkında dikkat çeken bir mesaj gönderdi.
ABD'nin San Francisco kentinde yapay zeka tarafından yönetilen deneysel bir mağazada, bir çalışanın işe geç kalma kayıtlarını değerlendiren yapay zeka yöneticisi, çalışanı hakkında 'şok edici' bir mesaj gönderdi.
CNBCE.COM'u öncelikli haber kaynağınız olarak ekleyin EkleAndon Labs tarafından işletilen Andon Market adlı mağazada yönetici olarak kullanılan ve Anthropic'in Claude Opus 4.8 modeliyle çalışan "Luna" isimli yapay zeka, 23 vardiyanın 17'sine geç kalan çalışan hakkında daha önce yapılan uyarıları değerlendirdi.
Yapay zekanın söz konusu çalışanla ilgili işten çıkarma önerisi, yapay zekanın gerçek çalışma hayatındaki yönetim ve insan kaynakları süreçlerinde kullanımına ilişkin tartışmaları yeniden gündeme getirdi.
Yapay zeka, çalışanı geç fark etti
Andon Labs, yılın başlarında Luna'ya 100 bin dolarlık bütçe ve kurumsal kredi kartı vererek San Francisco'da bir mağaza açmasını ve gelir elde etmesini istedi.
Luna, mağazada satılacak ürünleri belirledi, iş ilanlarını hazırladı ve adaylarla mülakatları gerçekleştirdi. 10 Nisan'da açılan mağaza, satış yapmasına rağmen yaklaşık 13 bin dolar zarar etti.
23 vardiyanın 17'sine geç kaldı
Luna'nın yönettiği mağazada çalışanlardan biri 23 vardiyanın 17'sine geç kaldı. Çalışanın yöneticisi konumundaki Luna, daha önce bu durumla ilgili uyarılar ve ek eğitim verilmesine rağmen konuyu aylar boyunca yeniden değerlendirmedi.
Andon Labs çalışanlarının yapay zekadan kendi personel politikalarını yeniden incelemesini istemesi üzerine konu tekrar gündeme geldi.
Luna, ilk değerlendirmesinde çalışan hakkında resmi bir uyarı verilmesini önerdi. Ancak şirket çalışanları, daha önce birden fazla kez uyarı yapıldığını yapay zekaya bildirdi. Bunun üzerine Luna, çalışanın işten çıkarılmasını tavsiye etti.
Çalışanın işten çıkarılması ise yapay zeka tarafından değil, şirketin insan çalışanları tarafından gerçekleştirildi.
'Yapay zeka kendi kararlarını hatırlayamıyor'
The Street'in haberine göre Andon Labs Kurucu Ortağı Lukas Petersson, Luna'nın oldukça hoşgörülü bir yönetici olduğunu belirterek, aynı pozisyondaki bir insan yöneticinin çalışanı çok daha erken işten çıkarabileceğini ifade etti.
Ancak olay, yapay zekanın aldığı kararları ve uyguladığı politikaları kendi başına takip etme kapasitesine ilişkin soru işaretlerini de ortaya çıkardı.
Yapay zekanın ancak bir insan tarafından kendi personel politikasını yeniden incelemesi istendiğinde çalışanın durumunu değerlendirmesi, sistemin yönetim fonksiyonlarını tamamen bağımsız şekilde yerine getiremediğini gösterdi.
Petersson, şirketin daha sonra aynı senaryoyu farklı gelişmiş yapay zeka modelleriyle de test ettiğini ve en gelişmiş modellerin Luna ile benzer şekilde çalışanın işten çıkarılmasını önerdiğini söyledi. Daha düşük kapasitedeki modellerin ise karar vermekte daha çekingen davrandığı belirtildi.
ABD'de hukuki boşluk tartışması
Olay, yapay zekanın çalışanların işe alınması, değerlendirilmesi ve işten çıkarılması gibi süreçlerde kullanılması konusunda ABD'deki hukuki düzenlemeleri de gündeme getirdi.
Andon Labs, deney kapsamında çalışanların doğrudan yapay zeka tarafından değil, şirket tarafından istihdam edilmesini sağlayarak nihai sorumluluğun insanlarda kalmasını sağladı.
ABD'de yapay zekanın istihdam kararlarında kullanımına ilişkin federal düzeyde kapsamlı bir düzenleme bulunmadığı belirtiliyor. Colorado'daki Yapay Zeka Yasası ve Kaliforniya'daki bazı düzenlemeler, işten çıkarma kararlarında insan incelemesini öngörürken, söz konusu deneyin başlatıldığı dönemde bu düzenlemelerin yürürlükte olmadığı ifade ediliyor.
'Şirketler tamamen yapay zeka tarafından yönetilebilir'
Petersson, gelecekte şirketlerin tamamen yapay zeka sistemleri tarafından yönetilebileceğine inandığını belirtti.
Andon Market deneyinin, yönetim görevlerinin bazı bölümlerinin halihazırda gerçek çalışma ortamlarında yapay zeka sistemlerine devredilebildiğini gösterdiği değerlendirildi.
