New York Şehir Konseyi, yapay zekânın felaket risklerini ve bağımsız denetimi görüşüyor

New York Şehir Konseyi, OpenAI, Google, Meta ve Anthropic temsilcilerini dinleyerek yapay zekânın (AI) felaket boyutundaki risklerini ve güvenlik önlemlerini sorguladı. Bağımsız denetim ve zararların karşılanmasını içeren yasa tasarıları da ele alındı.

Konsey, 5 Ekim’de tüm üyelerin katıldığı “Committee of the Whole” oturumunu düzenledi. Konseyin resmi açıklamasında yaklaşık 40 üyenin katıldığı belirtilirken, OpenAI’dan Morgan Dwyer, Meta’dan Shane Cahill, Google’dan Alice Friend ve Anthropic’ten Logan Graham yeminli tanıklar olarak kaydedildi. Konsey Başkanı Julie Menin, şirketlerden en kötü felaket senaryolarında AI’ın yol açabileceği riskleri sayısal olarak açıklamalarını istedi.

Oturumda, şirketlerin risk açıklamalarının yasal sorumluluk kurallarıyla nasıl ilişkilendirileceği görüşüldü. Konseyin önceden duyurduğu yasa önerileri arasında AI sistemlerinin bağımsız denetimi, insanların sistemi durdurabilmesini sağlayan mekanizmalar, güvenlik kontrollerinin aşılması sonucu öngörülebilir zarar doğduğunda medeni hukuk kapsamında dava açma hakkı ve AI güvenlik olaylarının bildirilmesi yer aldı. Bunlar görüşülen öneriler; yürürlükteki kurallar veya kesinleşmiş sorumluluk standartları değil.

Bağımsız denetimi ele alan Introduction 2602, denetimden geçmemiş AI sistemlerini satan veya dağıtanlara her bir ihlal için 25.000 dolar para cezası verilmesini öngörüyor. Önerilen cezanın fiilen uygulandığına dair bilgi yok. Konseyin kamuya açık açıklamasında tasarının oylanıp oylanmadığı veya kabul edilip edilmediği de doğrulanmadı.

Konseyin resmi açıklamasında şirket temsilcilerinin güvenlik önlemlerine ilişkin açıklamalarının yanı sıra Anthropic’in eski araştırmacısı Jacob Coxon’ın risk uyarısı da yer aldı. Coxon, mevcut geliştirme çizgisi sürerse insanlığın AI üzerindeki kontrolünü kaybederek yok olma ihtimalinin daha yüksek olduğunu söyledi. Bu, Coxon’ın risk değerlendirmesiydi; oturumda ölçülmüş veya kesinleşmiş bir oran değildi.

Oturumda şirketlerin gönüllü güvenlik taahhütleri ile yasayla belirlenecek denetim, bildirim ve zararların karşılanmasına ilişkin standartlar birlikte ele alındı. Önerilen standartların kapsamı ve sorumluluk kuralları, yasama sürecinde görüşülecek.