Anthropic CEO'sundan yapay zekada yavaşlama, ABD-Çin güvenlik iş birliği önerisi

Anthropic CEO'su Dario Amodei(Dario Amodei), sınır ötesi yapay zeka (frontier AI) geliştirme hızının yavaşlatılmasını ve ABD ile Çin'in yüksek riskli yapay zeka kullanımını sınırlayan bir anlaşmayı hayata geçirmesini önerdi.

Amodei, 12 Eylül'de yayımladığı ‘We Must Pace the Frontier’ başlıklı denemesinde “sınır ötesi yapay zeka geliştirme hızının kontrol altına alınması gerekiyor” dedi. Amodei'nin bununla kastettiği geliştirmeyi tamamen durdurmak değil, güvenlik testleri için gerekli zamanı kazanmak.

Amodei, yapay zeka modellerinin yeteneklerindeki gelişimin güvenlik ve hizalama (alignment) araştırmalarını geride bırakabileceğine dikkat çekti. Özellikle bir yapay zeka ajan sürüsünün 6-12 ay içinde internetin tamamını ele geçirebileceği bir risk senaryosu ortaya koydu; ancak bunun gerçekleşmiş bir olay değil, Amodei'nin öne sürdüğü bir varsayım olduğunun altını çizdi.

Amodei'nin planı üç aşamadan oluşuyor: △bağımsız değerlendirme kurumlarının personelinin yapay zeka şirketlerine sürekli erişim sağlayarak güvenlik prosedürlerini ve olayları denetlemesi △demokratik ülkelerdeki yapay zeka şirketlerinin ortak güvenlik standartları ve geliştirme hızı sınırları belirlemesi △ABD başta olmak üzere demokratik ülkelerin, Çin dahil otoriter ülkelerle sınırlı kapsamlı bir güvenlik anlaşması yapması.

İlk aşamada, dış değerlendirme ekiplerinin yalnızca yapay zeka modellerini değil, eğitim sürecini ve operasyonel prosedürleri de denetlemesi öngörülüyor. Bu ekipler, olay yaşanıp yaşanmadığını ve güvenlik standartlarına uyulup uyulmadığını sürekli izleyecek.

İkinci aşama, bireysel şirketlerin gönüllü önlemleriyle yapay zeka geliştirme yarışının kontrol altına alınmasının zor olduğu düşüncesinden yola çıkıyor. Ortak standartlar oluşturulursa, şirketlerin güvenlik prosedürleri ve yüksek riskli modelleri piyasaya sürmeden önceki doğrulama süreçleri karşılaştırılabilecek.

Çin ile rekabet, önerinin temel değişkeni olarak sunuldu. Amodei, ileri seviye yarı iletkenlerin Çin'in yapay zeka kapasitesini belirleyen unsur olduğunu belirterek, ABD'nin yüksek performanslı yapay zeka çiplerinin ve yarı iletken üretim ekipmanlarının Çin'e ihracatını engellemesi, dolaylı tedarik yollarını ve yurt dışındaki veri merkezlerine uzaktan erişimi de denetlemesi gerektiğini söyledi.

Amodei, denemesinde bu önlemlerin ABD'nin yapay zekadaki üstünlüğünü koruyarak ileride müzakere alanını genişletebileceğini belirtti. Ayrıca önümüzdeki 3-5 yılın, yapay zekanın jeopolitik öneminin arttığı bir dönem olacağını öngördü.

Ülkeler arası iş birliği alanları arasında biyolojik silah geliştirmenin yasaklanması, yüksek riskli modellerin piyasaya sürülmeden önce test edilmesi ve kendi kendini geliştirme (self-improvement) hızının sınırlandırılması sayıldı. Amodei, kendi kendini geliştirme hızının sınırlandırılmasını 1970'lerde ABD ile Sovyetler Birliği arasında imzalanan Stratejik Silahların Sınırlandırılması Anlaşması'na (SALT) benzetti.

Buna karşılık, yapay zeka geliştirmenin genel hızını sınırlayan veya durduran bir anlaşmanın yakın gelecekte hayata geçirilmesinin zor olduğunu değerlendirdi. Gerekçe olarak ülke bazında doğrulamanın zorluğunu ve bazı ülkelerin anlaşmadan çekilme riskini gösterdi.

Sektörden bazı olumlu tepkiler geldi. OpenAI CEO'su Sam Altman(Sam Altman), dış değerlendiricilere erişim yetkisi verilmesi seçeneğini değerlendireceğini açıklarken, Elon Musk(Elon Musk) “Dario is right” (Dario haklı) diyerek tepki gösterdi.

AP, bu iki açıklamayı aktararak şirketlerin güvenliğin güçlendirilmesine olumlu yaklaştığını, ancak yapay zeka geliştirmenin genel hızını fiilen düşürme konusunda anlaşmaya varmadıklarını belirtti. Buna göre sektördeki tepki, ortak bir politikanın benimsenmesinden çok dış değerlendirme ve güvenlik prosedürlerinin güçlendirilmesiyle sınırlı kaldı.

Bu öneri, yapay zeka güvenliği tartışmasını yarı iletken ihracat kontrolü ve veri merkezi erişimi meselesine genişletmesi bakımından önceki tartışmalardan ayrılıyor. Yapay zeka modellerinin performans rekabeti ile bilgi işlem altyapısının güvence altına alınmasının birlikte ilerlediği bir yapıda, güvenlik standartları ve tedarik zinciri kontrolü aynı anda gündeme getirilmiş oldu.

Amodei'nin yapay zeka geliştirmeyi durdurmak yerine üç aşamalı bir güvenlik planı önerdiğine dair haber daha önce yayınımızda yer almıştı. Bu son deneme, buna ABD-Çin arasında sınırlı güvenlik iş birliği ve ileri seviye yarı iletken kontrolü fikrini ekleyerek konuyu uluslararası güvenlik boyutuna taşıdı.

Tartışmanın kapsamı yerel yapay zeka ve yarı iletken sektörüne de genişleyebilir. Ancak ABD ile Çin'in söz konusu anlaşmayı kabul ettiğine ya da somut bir uygulama takvimi belirlendiğine dair herhangi bir bilgi sunulmadı.