Ro Khanna, yapay zekânın özyinelemeli öz gelişimini yasaklayan tasarıyı sunacağını açıkladı

ABD Temsilciler Meclisi Demokrat üyesi Ro Khanna, federal güvenlik önlemleri oluşturulana kadar yapay zekânın (AI) özyinelemeli öz gelişimini yasaklayan bir tasarı sunacağını açıkladı.

CNBC, Khanna’nın Human Control Over AI Act adlı tasarıyı sunmayı planladığını 29 Eylül’de saat 06.43’te (KST) bildirdi.

Önerilen tasarı, AI sistemlerinin sonraki modelleri geliştirmesini, temel hedeflerini, izolasyonunu ve kapatma kontrol mekanizmalarını bağımsız biçimde değiştirmesini düzenleme kapsamına alıyor. Federal güvenlik standartları ve yetkili kurum onayı oluşturulana kadar bu özelliklere sahip modellerin geliştirilmesi ve dağıtılması yasaklanacak.

Tasarı metni ve ABD Kongresi’ndeki resmi kayıtlar 29 Eylül itibarıyla doğrulanmadı. Tasarının numarası, ortak sunucuları, bağlı komitesi ve resmi sunum tarihi de açıklanmadı.

CNBC’ye göre öneri, gelişmiş AI geliştiricilerini denetleyecek ayrı bir federal kurum kurulmasını da içeriyor. Kurumun AI modellerinin eğitimi ve dağıtımı için lisans vermesi, öncü modelleri denetlemesi, sürekli güvenlik testleri yürütmesi ve insan kontrolü standartlarını belirlemesi öngörülüyor.

Öneride OpenAI, Anthropic, Google DeepMind ve xAI gibi şirketler gündeme getirildi. Her bir öncü AI araştırma kuruluşuna bağımsız denetçiler atanması ve denetim sonuçlarının doğrudan federal kuruma bildirilmesi de planlanıyor.

Sandbox ortamları, internetten ayrılmış air-gap sistemleri, acil kapatma mekanizmaları olan kill switch’ler ve dış sistem erişimini engelleyen araçlar için standartlar hazırlanması isteniyor. AI modelinin dağıtımı nedeniyle sivil grupların yok edilmesi durumunun 'insanlığa karşı suç' olarak cezalandırılması da öneride yer alıyor.

Güvenlik önlemlerini, kayıtları veya izolasyon sistemlerini kasıtlı olarak devre dışı bırakan ya da onaysız sistemleri dağıtan şirket çalışanları için cezai sorumluluk getirilmesi planlanıyor. AI şirketlerinin model piyasaya sürülmeden önce sorumluluk sigortası yaptırması da zorunlu hale getirilecek.

Öneri, uluslararası iş birliği ve yarı iletken kontrollerini de kapsıyor. Yönetimin Çin gibi rakip ülkelerdeki riskli AI geliştirme faaliyetlerini sınırlamak için bağlayıcı uluslararası anlaşmalar ve hedefli ihracat kontrolleri yürütmesi, gelişmiş AI eğitimi için kullanılan yarı iletkenlerin kullanımını izlemesi ve kontrol etmesi isteniyor.

Özyinelemeli öz gelişim, AI sistemlerinin insan müdahalesini azaltarak kod yazması, deney yapması ve sonraki modelleri geliştirmesi anlamına geliyor. Anthropic, resmi materyallerinde tam anlamıyla özyinelemeli öz gelişime henüz ulaşılmadığını, ancak AI sistemlerinin sonraki modelleri tasarlayıp geliştireceği aşamanın beklenenden daha erken gelebileceğini belirtti.

Anthropic, AI’ın kod yazma ve deney yürütme süreçlerindeki rolünün büyüdüğünü, ancak hedefleri belirleme ve sorunları seçme görevlerinin hâlâ insanlarda bulunduğunu açıkladı. Bu değerlendirme, AI araştırmalarının otomasyonu artsa da bunun tam özerk öz gelişimden farklı olduğunu ortaya koyuyor.

Khanna’nın duyurduğu öneri, Kongre’de görüşülen diğer AI güvenlik tasarımlarına kıyasla önleyici kontrollere daha fazla ağırlık veriyor. Demokrat Temsilci Lori Trahan ve Cumhuriyetçi Temsilci Jay Obernolte tarafından açıklanan iki partili FRONTIER Act ise model kartları, risk yönetimi çerçevesi, bağımsız denetim ve olay bildirimini zorunlu kılıyor, ancak özyinelemeli öz gelişimi doğrudan yasaklamıyor.

FRONTIER Act’in ortak sunucuları, bağımsız değerlendirme ve şeffaflık kurallarının AI güvenliğiyle yeniliği birlikte sağlayacağını savundu. ABD merkezli kâr amacı gütmeyen Americans for Responsible Innovation ise hükümetin dağıtımı durdurma yetkisi ve ilk dağıtım kararlarının yapısı üzerinde ek değişikliklere ihtiyaç olduğunu belirtti.

TokenPost daha önce OpenAI’ın özyinelemeli öz gelişimin ölçülmesi, AI olaylarının bildirilmesi ve insan denetimini içeren uluslararası AI güvenlik standartları oluşturulmasını önerdiğini bildirmişti. Bu yaklaşım, şirket bazlı düzenlemelerin yanı sıra ülkeler arasında değerlendirme ve raporlama standartlarının uyumlaştırılmasını öngörüyor.

Öneride yerel kripto para piyasasına veya belirli token fiyatlarına ilişkin doğrudan bir düzenleme bulunmuyor. Yarı iletken ve AI altyapısı kontrolleri, AI hesaplama talebiyle dolaylı biçimde bağlantılı olabilir ancak kripto para veya blok zincirine ilişkin ayrı bir madde yer almıyor.

CNBC, Temsilciler Meclisi oylamasının ara seçimlerden sonraya kalabileceğini bildirdi, ancak kesinleşmiş bir takvim bulunmuyor. Tasarının gerçekten sunulup sunulmayacağı ve metnin yayımlanmasının ardından özyinelemeli öz gelişimin hukuki tanımı ile kapsamının netleşmesi bekleniyor.