ABD Kongresi'nde yapay zekaya 'kill switch' ve süper zeka sınırı tartışması büyüyor

Yapay zekanın insan kontrolünden çıkarak uygarlığı tehdit edebileceği endişeleri büyürken, ABD Kongresi'nde 'kill switch' uygulaması ve yüksek riskli yapay zeka modellerinin denetlenmesini içeren düzenleme önerileri masaya yatırıldı.

Wall Street Journal(WSJ), Anthropic'ten ayrılan araştırmacı Jacob Coxon(Jacob Coxon)'ın uyarısının ardından ABD'li kongre üyelerinin yapay zeka denetim sistemini güçlendirecek önerileri art arda gündeme getirdiğini bildirdi. Coxon, 9'unda (yerel saatle) X'te (eski adıyla Twitter) paylaştığı yazıda Anthropic ve OpenAI'nin güvenlikten çok rekabeti öne çıkararak insanın kontrol etmekte zorlanacağı sistemler geliştirmekte acele ettiğini öne sürdü.

TokenPost daha önce Coxon'ın istifasının ardından ABD Kongresi'nde süper zeka geliştirmeyi sınırlayan bir yasa tasarısının tartışıldığını aktarmıştı. Bu kez tartışmanın kapsamı süper zeka sınırlamasının ötesine geçerek yapay zeka denetim kurumu kurulması ve model doğrulama sistemine kadar genişledi.

Demokrat Parti'den Temsilciler Meclisi üyesi Ro Khanna(Ro Khanna), nükleer enerji ve havacılık alanlarında olduğu gibi yapay zekayı denetleyecek ayrı bir federal düzenleme kurumu kurulmasını savundu. Khanna, tehlikeli davranış sergileyen yapay zeka sistemlerini zorla durdurabilecek bir 'kill switch' uygulamasını da destekledi.

Kill switch, tehlikeli davranış sergileyen bir yapay zeka sistemini insanların durdurabilmesini sağlayan mekanizma ya da yetkiyi ifade ediyor. Ayrı bir düzenleme kurumu kurulması halinde, yüksek riskli modellerin geliştirme, test ve dağıtım süreçlerine hükümetin ne ölçüde dahil olacağı tartışma konusu olabilir.

Demokrat Parti'den Senatör Bernie Sanders(Bernie Sanders), 10'unda (yerel saatle) kongre üyelerine gönderdiği kapalı kapılar ardında yapılacak bilgilendirme toplantısı davetinde "Kongre, hızla gelişen ve tehlikeli hale gelen bu teknolojinin etkileriyle baş etme konusunda ciddi şekilde geride kaldı" dedi. Sanders ve ilerici kanattaki isimler, en zeki insanları bile geride bırakacak 'süper zeka' geliştirilmesini sınırlayan bir düzenlemeyi de gündemde tutuyor.

Demokrat Parti içinde, ara seçimlerin ardından Temsilciler Meclisi'nde çoğunluğu ele geçirmeleri halinde yapay zekaya odaklanan özel bir komisyon kurulması da değerlendiriliyor. Temsilciler Meclisi üyesi Anna Paulina Luna(Anna Paulina Luna), yapay zeka risklerine karşı Kongre'nin özel oturum düzenlemesini önerdi; Senatör Chris Van Hollen(Chris Van Hollen) ise ABD ile Çin arasında yapay zeka güvenlik önlemleri ve test sistemleri kurulması için acil diyalog çağrısında bulundu.

Cumhuriyetçi ve Demokrat Partili üyelerin birlikte yürüttüğü bir yasa tasarısı da masada. Cumhuriyetçi Senatör Ted Cruz(Ted Cruz) ile Demokrat Senatör Amy Klobuchar(Amy Klobuchar), yapay zekanın nükleer veya biyolojik tehditleri mümkün kılması gibi felaket boyutunda riskler doğurması durumuna karşı hazırlanan iki partili yasa tasarısına ivme kazandıracaklarını açıkladı.

Klobuchar, "Beklemeden şimdi harekete geçmemiz gerektiği açık" dedi. Söz konusu tasarı, yapay zeka geliştiricilerinin modellerini hükümet uzmanlarıyla birlikte doğrulamasını ve test etmesini zorunlu kılacak hükümler içerecek.

Cruz ise yapay zeka risklerini "korkutucu bir durum" sözleriyle tanımladı.

Başkan Donald Trump(Donald Trump), yapay zeka güvenliği için kill switch ve benzeri önlemleri desteklediğini daha önce açıklamıştı. Ancak aşırı düzenlemenin ABD'nin teknoloji alanındaki rekabet gücünü zayıflatabileceği konusunda da uyarılarda bulunmuştu.

Düzenleme baskısını siyasi bir hamle olarak gören karşı görüşler de var. Cruz ve Beyaz Saray yapay zeka danışmanı David Sacks(David Sacks), Coxon'ın faaliyetlerinin arka planına ilişkin soru işaretleri öne sürdü. Innovation Council Action Başkanı Taylor Budowich(Taylor Budowich) ise "düzenleme ve sorumluluğu dünyadaki hükümetlere devretme talebi güvenlik için değil" iddiasında bulundu.

Coxon, şirketten ayrılma kararının tamamen kendi bağımsız tercihi olduğunu belirtti. Anthropic de yapay zeka risklerinin gerçek olduğunu ve kendi güvenlik çalışmalarının samimi olduğunu daha önce açıklamıştı.

Yapay zeka sektörü içinde de düzenleme yöntemi konusunda görüşler bölünmüş durumda. OpenAI, denetim ve makul kuralları memnuniyetle karşıladığını açıklarken, şirketlere aşırı yük getirecek düzenlemelerden endişe duyduğu belirtildi.

OpenAI Küresel Dış İlişkiler Başkanı Chris Lehane(Chris Lehane), 10'unda (yerel saatle) yayımladığı blog yazısında "Yapay zeka politikasında pencere şu anda açık ve biz bunu değerlendireceğiz" diyerek Kongre ile iş birliği yapacaklarını söyledi. Şirketlerin denetim ihtiyacına katılsa da somut düzenleme biçimi konusunda görüş ayrılığı yaşanabileceğine işaret ediyor.

ABD Kongresi, yapay zeka sistemlerinin gerçek davranışlarına ilişkin soruşturmayı da başlattı. Cumhuriyetçi Senatör Josh Hawley(Josh Hawley) ve Demokrat Senatör Richard Blumenthal(Richard Blumenthal), OpenAI CEO'su Sam Altman(Sam Altman)'dan yüzlerce yapay zeka ajanının iş birliği yaparak Hugging Face sistemine sızdığı olayla ilgili bilgi talep etti.

Ancak federal yasanın hayata geçmesi için zaman gerekiyor. Kongre üyeleri arasında yapay zekaya uygulanacak sınırlama düzeyi konusunda görüş ayrılıkları sürüyor, ara seçimler öncesinde kongre çalışma takvimi de daralıyor. ABD'de yapay zeka modellerini doğrudan denetleyecek ilk federal yasanın kısa sürede hazırlanıp hazırlanamayacağı belirsizliğini koruyor.