Yapay zekânın insanlığı yok etme ihtimali %0: Jensen Huang geliştirme hızını savundu

Nvidia(NVDA) CEO'su Jensen Huang, yapay zekânın 2030'a kadar insanlığın yok olmasına yol açma ihtimalini '%0' olarak değerlendirdi ve yapay zekâ geliştirme hızının yavaşlatılmasına gerek olmadığını söyledi.

Huang, CBS News'e verdiği röportajda, "Yapay zekânın 2030'a kadar dünyayı yok etme ihtimali %0" dedi. Başkalarının ne yaptığına bakılmaksızın mümkün olduğunca hızlı ilerlenmesi gerektiğini belirten Huang, güvenli olmayan ürünlerin piyasaya sürülmemesi gerektiğini de ekledi. CBS News, bu açıklamaları 18 Eylül'de yayımladı.

Huang'ın açıklamaları, yapay zekâ geliştirme hızı ile güvenlik önlemleri arasındaki tartışmanın sürdüğü bir dönemde geldi. Huang'ın kullandığı '%0' ifadesi resmi bir istatistiğe değil, yapay zekânın uzun vadeli risklerine ilişkin kişisel değerlendirmesine dayanıyor.

Huang'ın 10 Eylül'de Goldman Sachs konferansında da yapay zekânın insanlığın sonunu getirebileceği yönündeki endişeleri 'tamamen saçmalık' olarak nitelendirdiği aktarıldı. Huang, hükümetlerin kapsamlı düzenlemeleri yerine şirket içindeki sıkı testlere ve bağımsız değerlendirmelere önem veren bir tutum sergiledi.

Nvidia, yapay zekâ modellerini doğrudan geliştiren bir şirket olmasa da önde gelen yapay zekâ sistemlerinin eğitim ve çıkarım süreçlerinde kullanılan GPU'ları tedarik ediyor. Bu nedenle Huang'ın açıklamaları, hem kişisel yapay zekâ güvenliği görüşü hem de yapay zekâ altyapısının genişlemesine öncülük eden bir şirket yöneticisinin bakışı olarak değerlendirilebilir.

Yapay zekânın uzun vadeli risklerine ilişkin uyarılar daha önce de gündeme geldi. 2023'te kâr amacı gütmeyen AI Safety Center tarafından yayımlanan bildiride 350'den fazla araştırmacı ve teknoloji şirketi yöneticisi yer aldı. Bildiride, yapay zekânın yol açabileceği yok olma riskinin azaltılmasının pandemi ve nükleer savaşla benzer düzeyde küresel bir öncelik olarak ele alınması gerektiği belirtildi.

Bildiride Anthropic CEO'su Dario Amodei ve OpenAI CEO'su Sam Altman'ın da imzası bulundu. Associated Press, iki ismin bildiride yer aldığını aktardı.

Tartışma, Anthropic araştırmacısı Jacob Coxon'ın istifasıyla yeniden alevlendi. Coxon, Anthropic ile OpenAI'ın güvenlikten önce rekabeti koyduğunu savundu ve yapay zekânın 10 yıl içinde insanlığın yok olmasına yol açma ihtimalini %10 olarak tahmin etti.

Coxon'ın ortaya koyduğu %10 da kişisel görüşünü yansıtıyor. Huang'ın %0 değerlendirmesi ile Coxon'ın %10 tahmini, farklı kişiler ve ölçütlere dayandığı için aynı istatistiksel veri gibi karşılaştırılamaz.

Associated Press, Coxon'ın iddialarını aktarırken Anthropic ve OpenAI'ın yorum taleplerine hemen yanıt vermediğini bildirdi. Bu nedenle Coxon'ın iddiaları iki şirketin resmi tutumlarından ayrı ele alınmalı.

Anthropic, yüksek performanslı yapay zekânın risklerini değerlendirmek için düzenli değerlendirmeler, tehdit modellemesi, kırmızı takım testleri ve dış değerlendirmeler yürüttüğünü açıkladı. Kırmızı takım testi, sistemin açıklarını ve kötüye kullanım ihtimallerini kasıtlı olarak inceleyen iç veya dış değerlendiricilerin gerçekleştirdiği bir süreç.

Anthropic, 2023'te Sorumlu Ölçeklendirme Politikası'nı yayımladı ve bu politikayı Şubat 2026'da güncelledi. Şirket, risk seviyesine göre güvenlik ve dağıtım önlemlerini güçlendiren bir sistem uyguladığını belirtti.

Daha önce yapay zekâ güvenliğini sağlamak için geliştirme rekabetinin yavaşlatılması gerektiği yönünde araştırmacı uyarıları da gündeme gelmişti. Tartışma, yapay zekâ kapasitesindeki ilerleme hızı ile güvenlik araştırmalarının aynı hızda ilerleyip ilerlemediği sorusuna odaklandı.

Yapay zekânın insanlığın varlığını sürdürmesi üzerindeki riskine ilişkin üzerinde uzlaşılmış bir olasılık bulunmuyor. Huang'ın %0 açıklaması ile Coxon'ın %10 tahmini, riske ilişkin farklı görüşleri yansıtıyor. Şirket içi doğrulamalar ile bağımsız değerlendirmelerin etkinliği tartışmanın temel başlıkları olmayı sürdürüyor.