OpenAI ve Anthropic, yapay zekâ geliştirme hızını yavaşlatma konusunda hemfikir

OpenAI ve Anthropic, yapay zekâ (AI) modellerinin geliştirilme hızının ayarlanması ve bağımsız değerlendirme kuruluşlarınca güvenlik denetimi yapılması konusunda ortak görüş bildirdi. Meta ve NVIDIA ise şirketlerin kendi değerlendirmelerinin öncelikli olması gerektiğini savundu.

Anthropic CEO’su Dario Amodei, 12’sinde yayımladığı açık mektupta “AI modellerinin yeteneklerini geliştirme hızını yavaşlatmamız gerekiyor” dedi. Amodei, AI alanındaki ilerlemenin hızlandığını ve yapay zekânın yeni nesil AI sistemlerinin geliştirilmesine katkı sağlama kapasitesinin arttığını belirtti.

Amodei, geliştirme hızını ayarlamanın AI ilerlemesini durdurmak anlamına gelmediğini söyledi. Amaç, güvenlik araştırmaları ve kazalara müdahale sistemlerinin teknolojik ilerlemeye ayak uydurabilmesi için zaman kazanmak.

Amodei üç öneri sundu: △Bağımsız değerlendirme kuruluşlarına, şirketlerin iç risk değerlendirme ekiplerine benzer erişim yetkisi verilmesi △Demokratik ülkelerdeki AI şirketleri arasında ortak güvenlik standartları ve geliştirme hızı sınırlarının koordine edilmesi △ABD ve müttefiklerinin, Çin dahil diğer ülkelerle tehlikeli AI kullanımlarını sınırlama seçeneklerini görüşmesi.

Bağımsız değerlendirme kuruluşlarının, şirketlerin güvenlik taahhütlerini yerine getirip getirmediğini ve kaza bildirim sistemlerinin işleyip işlemediğini denetlemesi planlanıyor. Değerlendirme ekiplerine ofis ve ekipman sağlanması, ayrıca iç risk değerlendirme ekiplerine yakın erişim yetkisi verilmesi öneriliyor.

OpenAI CEO’su Sam Altman aynı gün X’te “Dario’nun öncü AI geliştirme hızını ayarlama görüşüne katılıyorum” dedi. Bağımsız değerlendirme kuruluşlarının şirketlere sürekli erişerek güvenlik önlemlerini ve kaza müdahale süreçlerini doğrulaması fikrini de destekleyen Altman, OpenAI’nin aynı yöntemi benimseyeceğini açıkladı.

TechCrunch, Altman’ın bağımsız değerlendirme kuruluşlarına sürekli erişim verilmesini desteklediğini bildirdi. AP ise Altman’ın hız ayarlamasının AI gelişimini durdurmak anlamına gelmediğini, güvenlik doğrulama ve izleme maliyetleri göze alınsa bile aşırı rekabetten kaçınılması gerektiğini söylediğini aktardı.

Sektördeki tepkiler farklılaştı. xAI kurucusu Elon Musk, “Dario haklı” derken Google DeepMind eş kurucusu Demis Hassabis, ayrıntıların ayarlanması gerektiğini ancak genel yönün doğru olduğunu söyledi.

Meta CEO’su Mark Zuckerberg ise her şirketin güvenli geliştirme hızını kendi belirlemesi gerektiğini savunarak ortak yavaşlama görüşmelerine mesafeli yaklaştı. Zuckerberg’in değerlendirmesi, şirketlerin model risklerinin ve güvenlik yönetim sistemlerinin farklı olduğu yönündeydi.

NVIDIA CEO’su Jensen Huang da ayrı bir düzenleme yerine şirketlerin güvenlik değerlendirmeleriyle inovasyon ve güvenliğin birlikte sağlanabileceğini savundu. Huang böylece geliştirme hızının tek tip biçimde sınırlandırılmasına temkinli yaklaştı.

The Guardian, şirketler arasında ortak standartların koordine edilmesinin antitröst düzenlemeleriyle çatışabileceği yönündeki endişeleri de aktardı. Rakip şirketlerin geliştirme hızını ve güvenlik standartlarını birlikte belirlemesinin rekabeti sınırlama olarak yorumlanabileceği belirtildi.

Bu tartışma, AI geliştirme hızı ve güvenliğin sağlanması konusundaki sektör görüş ayrılıklarını yeniden ortaya koydu. Amodei ortak hız ayarlaması ve bağımsız denetimi, Zuckerberg ile Huang ise şirket bazlı güvenlik yönetimi ve inovasyonun birlikte yürütülmesini vurguladı.

Bağımsız değerlendirme kuruluşlarına erişim yetkisinin gerçek bir sisteme dönüşmesi için denetim kapsamı, bilgi erişim düzeyi ve kaza bildirim yöntemleri üzerinde ek uzlaşma sağlanması gerekiyor. OpenAI ve Anthropic’in ortak güvenlik standartları ya da somut bir uygulama takvimi üzerinde anlaştığına dair henüz bir açıklama yapılmadı.

Yalnızca bu açıklamalara dayanarak iki şirketin geliştirme takvimlerinin veya ürün lansman planlarının değiştiği sonucuna varmak mümkün değil. Bundan sonraki süreçte şirketlerin bağımsız değerlendirme kuruluşlarını devreye alma ve güvenlik standartlarını koordine etme yönünde somut politikalar açıklayıp açıklamayacağı izlenecek.