Sacks-Amodei çatışması: Güçlü yapay zekaya 'izin sistemi' tartışması yeniden alevlendi

Eski Beyaz Saray Yapay Zeka ve Kripto Çarı ile Başkanlık Bilim ve Teknoloji Danışma Kurulu (PCAST) Eş Başkanı David Sacks(David Sacks) ile Anthropic(Anthropic) CEO'su Dario Amodei(Dario Amodei), sınır (frontier) yapay zeka düzenlemesinin kapsamı konusunda yeniden karşı karşıya geldi. Tartışmanın özünde, güvenlik düzenlemesinin gerekli asgari bir önlem mi yoksa büyük yapay zeka şirketlerine avantaj sağlayan bir izin sistemi mi olduğu sorusu yatıyor.

Amodei, ağustos ayının ortasında X üzerinden, düzenlemenin doğrudan düzenleyici yakalanmaya (regulatory capture) ve güç yoğunlaşmasına yol açacağı iddiasının fazla basitleştirilmiş olduğunu savundu. Sacks ise aynı tartışmada, Amodei'nin yaklaşımının aslında “yapay zeka için bir motorlu taşıtlar dairesi (DMV)” yaratacağını ve ABD yapay zeka sektörünün hızını düşürebileceğini öne sürdü.

Tartışmanın çıkış noktası, Anthropic'in haziran ayında yayımladığı politika belgesi. Anthropic, 'Policy on the AI Exponential' başlıklı belgede hükümetlerin tehlikeli sınır modellerinin dağıtımını durdurma veya kısıtlama yetkisine sahip olması gerektiğini önerdi.

Anthropic'in önerdiği kapsam; 10 üzeri 25 FLOP'u aşan modelleri, yapay zeka ile ilgili geliri 500 milyon doları (yaklaşık 707 milyar won) aşan şirketleri ve yapay zeka Ar-Ge harcaması 1 milyar doları (yaklaşık 1,414 trilyon won) aşan şirketleri kapsıyor. Gereklilikler arasında üçüncü taraf testleri, kamuya açık şeffaflık, bağımsız değerlendirme ve güvenlik sistemleri yer alıyor.

FLOP, yapay zeka modeli eğitiminde kullanılan işlem miktarını gösteren birim. Sınır yapay zeka, mevcut teknoloji seviyesinde en güçlü model grubunu ifade ediyor; performans arttıkça siber saldırı, biyolojik risk ve otonom karar alma gibi güvenlik sorunlarının da büyüyebileceği görüşü düzenleme tartışmasının temel dayanağını oluşturuyor.

Amodei, düzenlemenin her zaman yalnızca şirket gücünü artırmadığını savundu. Anthropic'in önerisinin, sınır yapay zeka şirketlerinin hızını düşürürken küçük rakiplere alan bırakmayı amaçlayan bir yapı olduğunu açıkladı.

Ayrıca yapay zekanın işlem kaynakları ve dağıtım altyapısı nedeniyle ekonomik gücü yoğunlaştırma eğiliminde olduğunu, ancak çözümün her koşulda merkezi bir düzenleme olması gerekmediğini belirtti. Güvenlik önlemlerinin dar bir kapsamda tutulması, ancak açık ağırlıklı (open-weight) modeller için de alan bırakılması gerektiği görüşünü savundu.

Sacks'ın karşı argümanı giriş engellerine odaklanıyor. Sacks, FAA, FDA ve FINRA tarzı inceleme sistemlerinin yapay zeka modelleri için test ve onay kuyrukları oluşturacağını, aynı kısıtlamalara tabi olmayan Çin karşısında ABD'nin dezavantajlı duruma düşebileceğini savundu.

Sacks'ın itirazı, güvenlik düzenlemesinin gerekliliğinden çok, kimin, hangi kritere göre ve ne kadar hızlı onay vereceği sorusuna odaklanıyor. İnceleme yetkisinin birikmesi durumunda, sonuçta yeni girişimcilerden çok sermaye ve hukuk kadrosu zaten hazır olan büyük şirketlerin avantajlı çıkabileceği görüşünde.

Amodei, açık ağırlıklı modellerin tamamen yasaklanması görüşünden uzak durdu. Axios(Axios), Amodei'nin açık ağırlıklı model yasağını hiçbir zaman desteklemediğini söylediğini 27 Temmuz'da aktardı.

Açık ağırlıklı modeller, model ağırlıklarının kamuya açıklandığı ve dış geliştiricilerin indirip kullanabildiği yapay zeka modelleri anlamına geliyor. Amodei, tehlikeli olmayan modellerin kamu malı niteliği taşıdığını düşünürken, daha güçlü modeller için çip kontrolü, damıtma (distillation) denetimi ve güvenlik testlerinin gerekli olduğu görüşünü dile getirdi.

Tartışma, Anthropic'in tek başına yürüttüğü bir politika tanıtımının ötesine geçiyor. Axios, 16 Temmuz'da Amodei, OpenAI(OpenAI) CEO'su Sam Altman(Sam Altman) ve Google DeepMind(Google DeepMind) CEO'su Demis Hassabis(Demis Hassabis)'in sınır yapay zeka düzenlemesinin gerekliliği konusunda belirli ölçüde görüş birliğine vardığını aktardı.

Ancak hükümetin doğrudan nihai karar yetkisine sahip olup olmayacağı, sektör öncülüğünde bir denetim kurumu mu kurulacağı yoksa uluslararası bir sertifikasyon sistemi mi oluşturulacağı konusunda görüşler ayrışıyor. Güvenlik değerlendirmesi ortak bir dil haline gelse bile, bu kurumsal tasarımın rekabeti koruyup korumayacağı ayrı bir mesele olarak değerlendiriliyor.

Okuyucular için önemli olan bir diğer nokta, yapay zeka düzenlemesinin kripto ve blok zinciri altyapısıyla kesiştiği alan. Yapay zeka tabanlı siber saldırı ve savunma yetenekleri borsalar, cüzdanlar ve finansal altyapı güvenliğiyle doğrudan bağlantılı; TokenPost daha önce ABD hükümeti ve büyük teknoloji şirketlerinin sınır yapay zeka güvenlik değerlendirme yöntemlerini nasıl koordine ettiğini aktarmıştı.

Bu tartışma basit bir 'düzenleme mi, yenilik mi' ikilemi değil. Amodei, güçlü modellere dar ama sıkı güvenlik önlemleri eklenmesi gerektiğini savunurken, Sacks bu önlemlerin birikmesi durumunda bir izin sistemine dönüşebileceğini düşünüyor.