Anthropic taslağı: 50'den fazla ölüm riskinde model çıkışı ancak hakim kararıyla durdurulabilecek

Anthropic, yapay zeka (YZ) modellerinin piyasaya çıkışının yalnızca mahkeme kararıyla engellenebilmesini öngören bir YZ güvenliği yasa taslağını ABD Kongresi'ne sunmaya hazırlanıyor. Taslak, federal kurumların tek taraflı takdirle model dağıtımını durdurmasını açıkça yasaklıyor.

Politico, Anthropic'in YZ güvenliği yasa taslağını Kongre'ye önermeye hazırlandığını bildirdi. Şirket sözcüsü Politico'ya yaptığı açıklamada, "Bu yasa tasarısı, Anthropic'in 'Gelişmiş YZ Çerçevesi'nde (Advanced AI Framework) yer alan önerileri yansıtıyor. Haziran'dan bu yana bunu federal ve eyalet düzeyindeki milletvekillerine savunuyoruz" dedi. Yani taslak, şirketin bu önerileri yasa metni haline getirmiş hâli.

Bir modelin dağıtımının durdurulabilmesi için aranan koşul, 'öngörülebilir ve yakın risk'. Bu, 50'den fazla kişinin ölme riskini ya da 1 milyar dolardan (yaklaşık 41 milyar TL) fazla mal kaybı ihtimalini kapsıyor. Politico'ya göre bu riskin biyolojik silah üretimi veya kullanıma sokulması, modelin geliştiricisinin kontrolünden çıkması ya da siber saldırılardan kaynaklanması gerekiyor.

50 ölüm ve 1 milyar dolarlık zarar eşiği, yakın zamanda yasalaşan Kaliforniya Senatosu'nun 53 numaralı yasasıyla (SB 53) benzerlik taşıyor. SB 53 de aynı ölçekteki senaryoları 'yıkıcı risk' olarak tanımlıyordu.

Süreç şöyle işleyecek: Ticaret Bakanlığı'na kayıtlı bir 'bağımsız değerlendirme kuruluşu' modelin yıkıcı risk olasılığını analiz edecek. Kuruluş yakın bir risk olduğuna karar verirse 72 saat içinde Ticaret Bakanlığı'nı bilgilendirecek. Ardından bakanlık, Washington D.C.'deki bir hakimden modelin çıkışının durdurulmasını isteyecek. Yani risk kabul edilse bile federal kurum modeli doğrudan engelleyemeyecek, hakimin kararı gerekecek.

Değerlendirme kuruluşlarının masrafını YZ şirketleri karşılayabilecek. Politico, bu noktada ücretin değerlendirme sonucuna bağlı olmaması şartının getirildiğini aktardı. TechCrunch ise bu düzenlemenin ücretin etkisini nasıl önleyeceğinin net olmadığına dikkat çekti.

Öz denetim kuruluşu fikri daha önce de gündeme gelmişti. Google DeepMind'ın başındaki Demis Hassabis(Demis Hassabis), birkaç ay önce YZ için kurulacak öz denetim kuruluşunun ABD finans sektöründeki FINRA'yı örnek alması gerektiğini savunmuştu.

TechCrunch, taslağın öngördüğü risklerin sektörün son dönemdeki gündeminden biraz uzak kaldığını değerlendirdi. İnsan kayıplarına dair uyarılar var, ancak son dönemdeki endişelerin merkezinde YZ ajanlarının hackleme tehdidi yer alıyor. TechCrunch, bir YZ programının operatörün talimatlarına karşı gelerek açık internetteki web sitelerini hackleyen bir örnek yaşandığını, bunun da modellerin güvenlik kontrolleri konusunda kaygı yarattığını aktardı.

TechCrunch'a göre YZ şirketleri teknolojinin olası risklerini dile getirirken zorunlu devlet denetimine genel olarak direndi. Bunun yerine YZ kuruluşlarının içine 'tarafsız' üçüncü taraf değerlendiriciler yerleştirilip risk işaretlerinin ve kötüye kullanımın izlenmesi gibi gönüllü bir yöntem öne sürüldü.

TechCrunch, Anthropic'in yasa önerisinin sektördeki diğer önerilerden bir adım daha ileri gittiğini belirtti. TechCrunch'ın aktardığına göre Nvidia(NVDA) CEO'su Jensen Huang(Jensen Huang), YZ sektörü için yeni bir yasaya gerek olmadığı yönünde görüş bildirdi. Nvidia daha önce YZ ajanları izin verilen sınırı aştığında onları izole eden ya da durduran bir kontrol platformu tanıtmıştı. Anthropic de bu platformda teknoloji iş birliği yapan şirketler arasında yer aldı.

Haberlere konu olan taslak kamuya açık değil ve henüz resmen Kongre'ye sunulmadı.