Yapay zekaya 'baş başa terapi' yasağı: İhlale 10 bin dolara kadar para cezası

ABD’nin Illinois eyaleti, yapay zekanın lisanssız şekilde ruh sağlığı hizmeti sunmasını yasaklayan ülke çapındaki ilk yasal düzenlemeyi yürürlüğe soktu. Yeni yasa, yapay zekanın ruh sağlığı alanındaki rolüne sıkı sınırlar getirirken, dijital terapilere yönelik denetim eksikliğine karşı sert önlemler içeriyor.

Illinois Valisi JB Pritzker, imzaladığı 'Psikolojik Kaynaklar için Sağlık ve Denetim Yasası' (Yasa Tasarısı 1806) ile birlikte, yapay zekanın bağımsız olarak terapi uygulamasını ve hastalarla denetimsiz şekilde doğrudan etkileşim kurmasını yasakladı. Bu adım, eyaleti, yapay zekanın ruh sağlığı alanındaki kullanımını kapsamlı biçimde sınırlayan ilk bölge haline getirdi.

Yasa kapsamında, yapay zeka sistemlerinin lisanslı bir profesyonelin gözetimi olmaksızın terapi kararı alması, klinik planlar oluşturması ya da hastalarla doğrudan görüşme gerçekleştirmesi tamamen yasaklandı.

10 bin dolara kadar para cezası

Vali Pritzker’in imzasıyla derhal yürürlüğe giren yasa, Illinois Mali ve Mesleki Düzenleme Departmanı’na (IDFPR) önemli yetkiler tanıyor. Buna göre kurum, şüpheli ihlalleri soruşturabilecek ve doğrulanan her bir ihlal için 10.000 dolara kadar para cezası verebilecek. Bu hızlı uygulama mekanizması, yasa koyucuların özellikle savunmasız grupları koruma konusundaki aciliyetini yansıtıyor.

IDFPR Sekreteri Mario Treto Jr., yapay zeka destekli terapilerin geçmişte zararlı tavsiyeler verdiğine dair belgelenmiş vakalara dikkat çekerek, "Illinois halkı, internetten toplanan verilerle yanıt üreten algoritmalarla değil, gerçek profesyonellerden kaliteli sağlık hizmeti almayı hak ediyor" dedi.

Bunlar arasında, yapay zeka destekli bir terapistin, kurgusal bir eski bağımlıya "bu haftayı atlatmak için küçük bir doz metamfetamin" önerdiği bir örnek de yer alıyor.

Kullanım tamamen yasak değil ama...

Yeni yasa, yapay zekanın tamamen yasaklanmasını öngörmüyor; ancak kapsamı net şekilde tanımlıyor. Lisanslı ruh sağlığı uzmanları, yapay zekayı yalnızca hasta onayıyla ve idari görevlerde kullanabilecek: Randevu planlama, faturalandırma ve anonimleştirilmiş veri analizi gibi.

Terapi seanslarının yapay zeka ile kaydedilmesi veya transkript edilmesi durumunda ise yazılı ve açık hasta onayı zorunlu tutuluyor.

Ayrıca, yasa lisanssız kişilerin kendilerini terapist olarak tanıtmalarını önleyecek şekilde düzenlendi. CBS News Chicago'nun aktardığına göre, bu sayede “yırtıcı” dijital uygulamaların da önüne geçilmiş olacak.

Diğer eyaletlerde benzer yasalar yolda

Illinois’in bu kapsamlı hamlesi, ABD genelinde sağlıkta yapay zeka düzenlemelerinin yükselen bir trend haline geldiğini gösteriyor. Danışmanlık firması Manatt Health’e göre, bu yıl 34 eyalette toplam 250 yapay zeka odaklı sağlık yasa tasarısı sunuldu.

Mart ayında Utah, zihinsel sağlık sohbet robotlarını ele alan ilk eyalet olmuştu; ancak Utah yasası yasaklama yerine “açıklama gerekliliğini” vurgulayan daha esnek bir yaklaşım getirdi.

Illinois’in ardından bazı eyaletlerde daha net sınır çizen düzenlemeler geliyor:

• Kaliforniya, yapay zeka sohbet robotlarının lisanslı terapistleri taklit etmesini yasaklamaya hazırlanıyor.
• New Jersey, New York, Kuzey Carolina ve Teksas, AI terapilerinde lisanslama ve denetim gerektiren düzenlemeleri gündeme aldı.