2030'da yapay zekânın dünyayı sona erdirme ihtimali yüzde 0

2030 yılına kadar yapay zekânın (AI) dünyayı sona erdirme ihtimalinin yüzde 0 olduğunu Nvidia($NVDA) CEO'su Jensen Huang söyledi. Huang, yapay zekâ kıyameti söylemiyle kamuoyunu korkutmanın bilimsel temelden yoksun ve sorumsuzca olduğunu belirtti.

Jensen Huang(Jensen Huang) Nvidia($NVDA) CEO'su, 18'inde (yerel saatle) CBS News'e verdiği röportajda “2030 dünyanın sonu olmayacak” derken, “Bunun gerçekleşme ihtimali yüzde 0” ifadelerini kullandı. Yapay zekâ güvenliğine yönelik endişeleri kabul eden Huang, kıyamet uyarılarının “bilime dayanmadığını” söyledi.

Huang, yapay zekâ risklerini vurgulayan sektör temsilcilerinin motivasyonları hakkında “Siyasi olabilir veya dikkat çekmek için yapılmış olabilir” dedi. “Motivasyonlarını bilmiyorum ancak insanları korkutmak gereksiz ve sorumsuzca” diye konuştu. Açıklamalar belirli bir kişi veya şirketin yasa dışı faaliyetlerine yönelik değildi ve böyle bir faaliyeti kanıtlamadı.

Geliştirme hızına ilişkin Huang, “Mümkün olduğunca hızlı ilerlemeliyiz ancak ihtiyaç duyulan hızdan daha hızlı olmamalıyız” dedi. Güvenliği zayıflatılmış ürünlerin piyasaya sürülmemesi ve yapay zekâ şirketlerinin güvenlik doğrulaması ile mühendisliğe daha fazla kaynak ayırması gerektiğini söyledi.

Düzenleme konusunda Huang, yeni yapay zekâya özel kurallar yerine mevcut ceza ve medeni hukuk düzenlemelerinin öncelikle uygulanması gerektiğini savundu. Güvenli olmayan ürünler veya siber güvenlik ihlalleri için mevcut yasaların kullanılabileceğini belirtti.

Huang'ın açıklamaları, yapay zekâ geliştirme hızının düşürülmesini savunan Anthropic(Anthropic) CEO'su Dario Amodei'nin görüşleriyle karşı karşıya geliyor. Amodei, yapay zekâ güvenlik önlemlerinin geliştirme hızına yetişebilmesi için sektör genelinde hızın ayarlanması gerektiğini söyledi.

Amodei'nin önerisi, geliştirmeyi derhal durdurmaktan çok risk işaretlerine karşı önlem alınabilmesi için zaman kazanılmasına odaklanıyor. Anthropic, öncü yapay zekâ şirketleri arasında ortak güvenlik standartları ve bağımsız değerlendirme yapılması gerektiğini savunuyor.

Anthropic, ilgili kapasitenin oluşturulması için bağımsız değerlendiricilerin şirket içinde görevlendirildiği ‘gömülü değerlendirme’ modelini uygulamaya koyacağını açıkladı. Değerlendiriciler model kırmızı takım testleri, hizalanma değerlendirmeleri ve güvenlik önlemlerinin doğrulanmasını gerçekleştirecek; model geliştirme ve dağıtım süreçlerine erişebilecek.

Anthropic ve Accenture, ilgili kapasitenin oluşturulması için gelecek beş yıl boyunca ayrı ayrı en az 1 milyar dolar (yaklaşık 1,386 trilyon won) yatırım yapmayı planlıyor. Bu adım, güvenlik tartışmalarını yalnızca ilke düzeyinde bırakmak yerine değerlendirme sistemleri ve insan kaynağı yatırımlarıyla somutlaştırmayı amaçlıyor.

Gömülü değerlendirme, dışarıdan gelen değerlendiricilerin şirket içindeki geliştirme süreçlerine erişerek modelin risklerini ve güvenlik önlemlerini incelemesi anlamına geliyor. Bu yöntem, geliştiren ve değerlendiren tarafların aynı olabilmesi nedeniyle ortaya çıkabilecek bağımsızlık sorununu tamamlayıcı bir rol üstleniyor.

Söz konusu tartışma, yapay zekâ modeli geliştirme hızı ile güvenlik doğrulaması konusundaki sektör çıkarlarıyla da bağlantılı. Nvidia, yapay zekâ modellerinin çalıştırılması için gereken GPU ve işlemcileri sağlayan başlıca yarı iletken şirketlerinden biri olduğu için geliştirme hızı ve bilgi işlem talebinin yönünden etkilenebilecek bir iş yapısına sahip.

Bununla birlikte Huang'ın açıklamalarının Nvidia'nın hisse fiyatı veya gelirleri üzerindeki etkisi doğrulanmadı. Yapay zekâ geliştirme hızına ilişkin tartışma yarı iletken talebi ve düzenleme ortamıyla bağlantılı olabilir ancak yalnızca bu açıklamalara dayanarak piyasa etkisi konusunda kesin bir sonuca varmak için yeterli dayanak sunulmadı.

Amodei'nin yavaşlama görüşü kapsamında yapay zekâ güvenlik önlemleri ve bağımsız değerlendirmeler hakkındaki tartışmalar sürüyor. Daha önce gündeme getirilen önerilerde de geliştirmeyi durdurmaktan çok hızın ayarlanması ve üçüncü taraf değerlendiricilerin sürece katılması öne çıkarılmıştı.

Yerli yapay zekâ ve yarı iletken sektörünün odaklanacağı konu, geliştirme rekabeti ile güvenlik doğrulamasının hangi düzeyde birlikte yürütüleceği olacak. Bu materyalde yerel düzenlemeler veya şirketlerin somut tepki takvimine ilişkin bilgi sunulmadı.

Kripto para piyasası veya blockchain projeleriyle doğrudan bir bağlantı da doğrulanmadı. Konunun merkezinde yapay zekâ modeli geliştirme hızı, güvenlik değerlendirmeleri, yarı iletken ve veri merkezi talebi ile düzenlemelerin uygulanma biçimi bulunuyor.