Sam Altman, yapay zeka yarışının üç olası sonunu sıraladı: Tek şirket hâkimiyeti ‘korkunç’

OpenAI CEO’su Sam Altman, ileri düzey yapay zeka geliştirme yarışının nasıl sonuçlanabileceğine dair üç senaryo ortaya koydu: uluslararası bir denetim kurumu, en büyük laboratuvarların birleşmesi ve tek bir şirketin pazara hâkim olması. Altman, bunların sonuncusunu ‘korkunç’ (terrible) diye nitelendirdi.

Crypto Briefing’e göre bu sözler 19’unda (yerel saatle) duyuldu. Altman’ın açıklamaları OpenAI çalışanlarıyla yapılan bir iç tartışmada geldi. Yani şirketin yayımlanmış resmi bir politika belgesinden söz etmiyoruz.

İlk seçenek, nükleer teknolojiyi izleyen kurumları örnek alan uluslararası bir düzenleyici otorite. Bu yapı yapay zekanın gelişimini ve güvenliğini denetleyecek. Altman bu modeli en tanıdık seçenek olarak andı. Ancak işleyebilmesi için birçok ülkenin, stratejik varlık saydığı bir teknolojinin kuralları üzerinde anlaşması gerekiyor.

İkinci seçenekte öncü yapay zeka laboratuvarları tek çatı altında birleşiyor. Amaç, ürünü ilk çıkarma yarışı yerine güvenlik standartlarını ve uygulamalarını ortaklaşa belirlemek. Crypto Briefing, bu modelin koordinasyon sorununu çözse bile ‘devasa tek bir kurum’ ortaya çıkardığını, dolayısıyla yeni bir yoğunlaşma sorunu yarattığını vurguladı.

Üçüncü senaryo ise özyinelemeli kendini geliştirme (RSI, Recursive Self-Improvement) yeteneğine ilk ulaşan şirketin pazarı tek başına elinde tutması. RSI, bir yapay zekanın kendi tasarımını iyileştirmesini, artan yeteneğiyle de kendini yeniden geliştirmesini anlatıyor. Altman bu yolda bir şirketin rakiplerinin GPU’larını (grafik işlem birimi) bile devre dışı bırakabileceği uç ihtimalinden bahsetti. GPU, yapay zeka modellerinin eğitiminde ve dağıtımında kullanılan özel yarı iletkenler.

Altman daha önce kamuya açık konuşmalarda da iki riske dikkat çekmişti: insanların yapay zeka sistemlerini kontrol edememesi ve gücün az sayıda kurumda toplanması. Crypto Briefing’in aktardığına göre Altman, 14 Eylül’de bu iki sonucun da kabul edilemeyeceğini söyledi. OpenAI’ın duruşunu belirli bir şirketin ya da grubun değil, bütün insanlığın yanında yer almak olarak tanımlayan Altman, güçlendirilmiş güvenlik protokolleri ve yapay zeka sistemlerinin bağımsız değerlendirilmesi çağrısı da yaptı.

Bu tartışma, sektördeki ‘hız ayarı’ konuşmalarıyla da bağlantılı. Anthropic CEO’su Dario Amodei, güvenlik araştırmalarına ve risklere karşı önlem almaya zaman kazanmak için en gelişmiş yapay zeka modellerinin performans artışını yavaşlatmayı önermişti. Altman ve Elon Musk bu öneriye destek verdi. Crypto Briefing’e göre Altman, Eylül’de Amodei’nin ‘Pace the Frontier’ başlıklı yazısını desteklediğini belirtti. Yazı, sektör genelinde güvenlik uygulamalarının ve değerlendirmelerin koordine edilmesini savunuyor.

Üç senaryonun her biri farklı bir yönden yoğunlaşma sorunu taşıyor. Uluslararası denetim kurumu, ülkeler arası uzlaşma engelini aşmak zorunda. Laboratuvarların birleşmesi rekabeti azaltırken gücü tek noktada topluyor. Tek şirket hâkimiyeti ise Altman’ın uzun süredir çekindiği güç yoğunlaşması sorunuyla aynı nitelikte.