Yapay zekâ için 'kill switch' çağrısı: Andrew Yang ilgili yasa tasarısını destekledi

Noble Mobile kurucusu Andrew Yang, yüksek kapasiteli yapay zekâ (AI) modellerine yasal sorumluluk ve kullanıma sunulmadan önce bekleme süresi getirilmesini, ayrıca riskli durumlarda sistemi durdurabilecek bir 'kill switch' mekanizması kurulmasını istedi.

Andrew Yang (Andrew Yang) Noble Mobile kurucusu, 17'sinde yayımlanan Decrypt röportajında "Korku gerçek, endişe gerçek ve gerekli adımlar da gerçek" diyerek ABD Kongresi'ni düzenleme yapmaya çağırdı. Yang, AI şirketlerinin Çin'le rekabet etmeleri gerektiği gerekçesiyle düzenlemelerin dışında tutulmaması gerektiğini söyledi.

Yang, CNN'e verdiği röportajda da AI şirketlerinin öz düzenlemesinin tek başına yeterli olmayacağını savundu. Elektrik şebekeleri, finansal sistemler ve ulusal güvenliğe yönelik kötüye kullanım ihtimaline karşı dış düzenlemelere ihtiyaç olduğunu belirtti.

Yang, "Çin'le rekabet ederken Amerikalıların hayatlarını ve çıkarlarını da koruyabiliriz" diyerek kill switch gibi güvenlik önlemlerini gündeme getirdi. Kill switch, riskli bir durumda AI sistemini sınırlamaya, geçici olarak durdurmaya veya tamamen kapatmaya yarayan teknik bir kontrol mekanizmasıdır.

Buradaki temel konu, tüm AI sistemlerini topluca durdurma yetkisi verilmesi değil, yüksek riskli modeller üzerinde insan müdahalesine olanak tanıyan asgari kontrol gücünün korunmasıdır. Dağıtık sunucular ve otonom ajanlar üzerinde çalışan AI sistemlerinin aynı anda durdurulup durdurulamayacağı ise ayrı bir tartışma başlığıdır.

ABD Kongresi'ne bu konuyla ilgili bir yasa tasarısı da sunuldu. Temsilciler Ted Lieu (Ted Lieu) ve Nathaniel Moran (Nathaniel Moran), 23 Temmuz'da AI Kill Switch Act adlı yasa tasarısını sundu.

H.R.9917, belirli koşulları karşılayan yüksek kapasiteli AI geliştiricilerinin modelleri sınırlayabilecek, durdurabilecek veya kapatabilecek teknik kapasiteyi korumasını öngörüyor. Tasarıda, felaket boyutunda zarara yol açabilecek AI sistemleri için İç Güvenlik Bakanı'nın acil önlem talimatı verebilmesine yönelik bir hüküm de yer alıyor.

H.R.9917 şu anda Temsilciler Meclisi İç Güvenlik Komitesi'ne sevk edilmiş durumda ve yasa tasarısı aşamasında bulunuyor. Tasarı henüz yasalaşmadı ve uygulama takvimi belirlenmedi.

Yang ayrıca, ismini açıklamadığı bir AI laboratuvarı yöneticisinden otonom bir AI botunun internete kendi kendini kopyalayan kod bıraktığı yönünde bilgi aldığını söyledi. Bazı AI şirketlerinin model eğitimi için 'sentetik internet' oluşturması gerektiğini de savundu.

Ancak söz konusu laboratuvarın veya yöneticisinin adı açıklanmadı. Kendi kendini kopyalayan kodun internet geneline yayıldığı iddiası da bağımsız olarak doğrulanmadı.

Kill switch fikrine yönelik itirazlar da bulunuyor. AI modelleri çok sayıda sunucuya ve otonom ajana dağıtılmış şekilde çalıştığında tüm sistemleri aynı anda durdurmanın zor olabileceği, hükümetlerin acil müdahale yetkisini hangi koşullarda kullanacağının da netleştirilmesi gerektiği belirtiliyor.

CNN röportajında, Birleşik Krallık hükümetinin benzer bir fikri reddettiği ve AI modellerine erişimi engellemenin riskleri tamamen önlemeye yetmeyebileceği yönündeki görüşlere de yer verildi. Buna karşılık, teknik sınırlardan bağımsız olarak insanların sistemi durdurmayı deneyebilmesini sağlayacak asgari bir kontrol mekanizmasına ihtiyaç olduğu da ifade edildi.

Bu tartışma, Andrew Yang'ın AI şirketlerinden kill switch ve sorumluluk kuralları talep ettiğine ilişkin TokenPost haberinin devamı niteliğinde. Önceki haberde olduğu gibi bu olayda da yasa tasarısının akıbeti ve gerçek uygulama kapsamı Kongre sürecine bağlı.

Dağıtık AI sistemlerinde kill switch'in çalışıp çalışamayacağına ilişkin teknik sınırlamalar, TokenPost'un ilgili analizinde de ele alındı. H.R.9917'nin bir sonraki aşaması, Temsilciler Meclisi İç Güvenlik Komitesi'nin incelemesi olacak.