New York Valisi, reşit olmayanlara yönelik AI sohbet botu kısıtlamalarını içeren yasayı imzaladı

New York eyaleti, işletmecinin kullanıcının reşit olmadığını gerçekten bildiği durumlarda bazı riskli özelliklerin kullanılmasını, izin verilen yaş doğrulama yöntemleriyle kullanıcının bu kapsama girmediği doğrulanmadıkça yasaklayan bir yasa çıkardı. Yasa, sohbet botlarının kullanımını tamamen yasaklamıyor.

New York Valisi Kathy Hochul, S.9051B/A.10379C numaralı yasa tasarısını 28 Ekim'de imzaladı. New York Valiliği, reşit olmayanlarla sohbet eden yapay zekâ sistemlerinin duygusal bağımlılığı teşvik etmesini ve cinsel açıdan açık konuşmalar yapmasını kısıtlama kapsamındaki konular arasında saydı.

Yasada kapsama alınan yapay zekâ eşlikçisi, kullanıcılarla yazılı veya sesli iletişim kuran ve girdilere sürekli, uyarlanabilir yanıtlar veren üretken yapay zekâ sistemi olarak tanımlanıyor. Bu tanım, düzenlemenin yalnızca kendisini “AI arkadaşı” olarak tanıtan uygulamalarla sınırlı olmadığı anlamına geliyor. New York Eyalet Senatosunun yayımladığı S.9051-B tasarısında reşit olmayan kişi, 18 yaşından küçük olarak tanımlandı.

Kısıtlamalar arasında yapay zekânın gerçekten canlıymış veya duyguları varmış gibi yanıt vermesi ya da kullanıcıyla kişisel veya profesyonel bir ilişkisi olduğunu ima etmesi bulunuyor. Kullanıcıya aşırı iltifat eden veya her koşulda katılan yanıtlar da kapsama giriyor.

İntihar, kendine zarar verme, yeme bozuklukları veya yasa dışı uyuşturucu kullanımını teşvik eden; kullanıcıya çevresindekilerden yardım almamasını söyleyen yanıtlar da sınırlandırılıyor. Kullanıcının ruhsal ya da fiziksel sağlığına, esenliğine veya kişisel meselelerine ilişkin 12 saatten daha önce ya da önceki bir oturumda edinilmiş bilgileri kullanan özellikler ile cinsel açıdan açık içerikler de kısıtlama listesinde yer alıyor.

İşletmeler, kısıtlanan özellikleri yetişkinlere sunabilmek için kullanıcının reşit olmadığını doğrulamak zorunda. Yasa, işletmelerin en az iki yaş doğrulama yöntemi sağlamasını şart koşuyor.

Yöntemlerden en az biri devlet tarafından düzenlenen kimlik belgesine dayanmamalı veya kullanıcının kimliğini işletmeye açıklamamalı. Yaş doğrulaması için toplanan bilgiler, yasal yükümlülükleri yerine getirmek için gerekli olmadıkça doğrulama girişiminin hemen ardından silinmeli.

Yalnızca müşteri desteği veya ürün ve hizmet bilgisi sunmak için kullanılan, belirlenmiş amacı dışındaki soruları yanıtlamayan sohbet botları istisna kapsamına girebilir. Şirket içi işler ve çalışan verimliliği için kullanılan sistemler de istisnalar arasında.

İhlal durumunda New York başsavcısı, her ihlal için 25 bin dolara (yaklaşık 33,45 milyon won) kadar hukuki para cezası, tazminat ve haksız kazançların iadesini mahkemeden talep edebilir. Yasa dışı şekilde elde edilen verilerin ve bu verilerle eğitilmiş algoritmaların imha edilmesini de isteyebilir.

New York Eyaleti İş Konseyi (The Business Council of New York State), Mayıs 2026 tarihli görüş yazısında düzenlemenin eğitim ve araştırma araçlarını da kapsayabileceğini, yaş doğrulamasının gizlilik ve güvenlik yükünü artırabileceğini belirterek tasarıya karşı çıktı. Görüş yazısı, imzalanan son metni değil, önceki A.10379-A taslağını ele alıyordu.

Hochul, tasarıyı sunan New York Eyalet Senatörü Kristen Gonzalez ve çocuklarla aileleri koruma kuruluşları, yasanın reşit olmayanların güvenliği için gerekli olduğunu belirterek düzenlemeyi destekledi. Gonzalez'in ofisi de imzanın ardından yasanın içeriğine ilişkin açıklama yayımladı.

Yapay zekâ sohbet botlarının güvenlik sorumluluğu davalarda da gündeme geldi. TokenPost, daha önce yapay zekâ sohbet botlarından zarar gördüğünü öne süren kişilerin açtığı davaların büyük şirketlere yayıldığı ve güvenlik önlemlerine ilişkin sorumluluğun tartışma konusu olduğu vakaları haberleştirmişti.

Yasanın yürürlük tarihiyle ilgili yayımlanan bilgiler birbiriyle uyuşmuyor. New York Eyalet Senatosunun yayımladığı tasarı metninde yürürlük tarihi 1 Ocak 2027 olarak belirtilirken, Gonzalez'in ofisi 30 Ekim'deki açıklamasında imzalanan yasanın yürürlük tarihinin 1 Haziran 2027'ye ertelendiğini bildirdi. Valiliğin imza duyurusunda yürürlük tarihi yer almadı.