ABD'de yapay zekaya yeni yasak: Çocuklara arkadaşlık yapamayacak

New York'tan yapay zeka sohbet botlarına yeni kısıtlama

ABD'nin New York eyaletinde, çocukların yapay zeka sohbet botlarıyla kurduğu ilişkileri düzenleyen yeni yasa 28 Ekim'de imzalandı.

The Straits Times'ın haberine göre düzenleme, tüketicilere sunulan yapay zeka modellerine yönelik en kapsamlı kısıtlamalardan biri olarak değerlendiriliyor.

Yeni yasaya göre, ChatGPT gibi sohbet botlarını işleten şirketlerin kullanıcıların yaşını doğrulaması ve 18 yaşın altındaki kullanıcılara sunulan bazı özellikleri kısıtlaması gerekecek.

Düzenleme kapsamında yapay zeka sistemleri, çocukların karşılarındaki sistemin bir insan olduğuna, canlı olduğuna veya insani duygular deneyimlediğine inanmasına yol açabilecek içerikler üretemeyecek.

Sohbet botlarının çocuklarla kişisel ya da profesyonel bir ilişki kurduğu veya bir otorite figürü olduğu izlenimini vermesi de yasaklanacak. Ayrıca yapay zeka tarafından üretilen içeriklerin kişisel görüş olarak sunulmasına da sınır getirilecek.

"Çocuklar sohbet botlarını arkadaşları gibi görmeyecek"

New York Valisi Kathy Hochul, yasanın imzalanması sırasında yaptığı açıklamada, çocukların yapay zeka sistemleriyle kurduğu ilişkilerin sınırlandırılacağını vurguladı.

Hochul, çocukların kendilerini arkadaşları, sevgilileri veya romantik partnerleri gibi gösteren sohbet botlarına erişiminin sona ereceğini belirtti.

Vali ayrıca sohbet botlarının çocukların duygusal ve fiziksel sağlıklarına ilişkin hassas bilgileri saklamasının da önüne geçileceğini ifade etti.

Teknoloji şirketlerinden tepki geldi

New York'taki teknoloji sektörünü temsil eden Tech, yasanın kapsamındaki bazı ifadelerin belirsiz olduğunu savundu.

Kuruluş, çocukların çevrim içi güvenliğinin sağlanmasının, onların öğrenmelerine ve kariyerlerine hazırlanmalarına yardımcı olan araçlardan uzaklaştırılması anlamına gelmemesi gerektiğini belirtti.

OpenAI ve Anthropic ise yasayla ilgili yorum talebine yanıt vermedi.

Çocuk güvenliği savunucularından destek

Çocukların medya ve teknoloji kullanımına ilişkin rehberler hazırlayan kâr amacı gütmeyen Common Sense Media ise düzenlemeyi destekledi.

Kuruluşun Üst Yöneticisi Jim Steyer, bazı yapay zeka sohbet botlarının çocuklar ve gençler açısından tehlikeli, hatta ölümcül olabilecek özellikler sunduğunu belirterek yasanın bu riskleri azaltacağını savundu.

ABD'de yapay zekâ denetimi genişliyor

New York'un yanı sıra California gibi ABD eyaletleri de yapay zeka sohbet botlarının kullanımına yönelik düzenlemeler getirdi.

Ancak New York'taki yasa, yapay zekanın çocuklarla kurduğu ilişkilerin sınırlandırılması konusunda kullandığı geniş kapsamlı ifadeler nedeniyle teknoloji sektöründe tartışma yarattı.

Düzenleme, çocukların dijital güvenliğini koruma hedefi ile yapay zeka araçlarına erişim ve ifade özgürlüğüne ilişkin kaygıları yeniden gündeme taşıdı.

Yapay zeka sohbet botlarının çocuklar üzerindeki etkisi, son dönemde ABD'de hukuki ve siyasi tartışmaların merkezine yerleşti.

Özellikle bazı sohbet botlarının kullanıcılarla duygusal yakınlık kurabilen yanıtlar üretmesi, çocukların bu sistemleri gerçek bir insan ilişkisi gibi algılayabileceği yönündeki endişeleri artırıyor.

Yeni düzenlemeler, şirketlerin yalnızca zararlı içerikleri değil, yapay zekanın kullanıcıya kendisini nasıl sunduğunu da dikkate almasını gerektiriyor.