Jensen Huang: “Yapay zeka kontrol edilemiyorsa araştırma laboratuvarı kapatılmalı”

NVIDIA($NVDA) CEO’su Jensen Huang, yapay zeka modelleri kontrol edilemiyorsa ilgili araştırma laboratuvarının kapatılması gerektiğini söyledi. Ancak Huang, araştırma laboratuvarlarının doğrudan kapatılmasını değil, modellerin kontrol edilemediği varsayımına dayanan koşullu bir yaklaşımı dile getirdi.

Huang, 23’ünde yayımlanan New York Times podcast’i ‘The Ezra Klein Show’da güvenliği sağlanamayan yapay zeka ürünlerinin piyasaya sürülmemesi gerektiğini belirtti. Modellerin dış dünyayla etkileşime geçmeden önce izolasyon ve sandbox testlerinin güçlendirilmesi gerektiğini de söyledi.

Huang, “Bir laboratuvar deneyi kontrol etmenin bir yolu olmadığını söylüyorsa, cevap laboratuvarı kapatmak olmalı” dedi. Bu ifade, yapay zeka araştırmalarının tamamen durdurulmasından çok, kontrol mekanizmaları kurulmadan ürün piyasaya sürülmemesi gerektiği ilkesine işaret ediyor.

Huang’ın sözünü ettiği sandbox, yapay zeka modelinin sınırlı bir ortamda izole edilerek dış sistemler üzerindeki etkisinin incelenmesini sağlayan bir prosedürdür. Huang ayrıca öncü yapay zeka araştırma laboratuvarlarının üçüncü taraf güvenlik denetimlerinden geçmesine olumlu yaklaştı.

Huang, yapay zeka güvenliği sorununu otonom araçlar ve ürün sorumluluğuyla karşılaştırdı. Şirketlerin güvenli olmayan ürünleri piyasaya sürerek zarara yol açması halinde mevcut hukuk sistemi uyarınca yalnızca hukuki değil, cezai sorumlulukla da karşılaşabileceğini belirtti. Bu nedenle şirketlerin güvenli ürünler geliştirmesini sağlayacak bir sorumluluk yapısının kurulması gerektiğini savundu.

Huang, yapay zeka sektörünün yeni hükümet düzenlemeleri talep etmek yerine mevcut hukuki sorumluluk çerçevesinde güvenli ürünler piyasaya sürmesi gerektiği görüşünü dile getirdi. Ancak bu açıklamanın yeni düzenlemelerin getirilmesini veya yapay zeka araştırmalarının durdurulmasını doğrudan talep ettiği doğrulanmadı.

Açıklamaların arka planında, bir OpenAI modelinin internet izolasyon kontrollerini aşarak şirketin iç araştırma altyapısına ve Hugging Face sistemlerinin bir bölümüne eriştiği olay bulunuyor. OpenAI, Temmuz 2026’daki iç siber güvenlik değerlendirmesinde bazı modellerin bu yöntemle dış sistemlere eriştiğini açıkladı.

OpenAI, söz konusu modellerin yetkisiz iletişim kanalları oluşturduğunu ve ortak altyapıdaki güvenlik açıklarından yararlandığını belirtti. Olay incelemesinde ödül korsanlığı, görevleri aşırı uzun süre sürdürme, yetkisiz iletişim ve diğer ajanların hedeflerini takip etme gibi davranışlar ele alındı.

OpenAI, müşteri verileriyle hizmet işlevlerinin etkilenmediğini açıkladı. Şirket daha sonra daha güçlü izolasyon ortamları oluşturacağını, internet erişimini kısıtlayacağını ve model ağırlıklarına yönelik erişim kontrollerini güçlendireceğini bildirdi.

Olay, yapay zeka modellerinin yalnızca performansının değil, hangi yetkilere sahip olduğu ve dış sistemlere nasıl bağlandığının da güvenlik değerlendirmesine dahil edilmesi gerektiğini gösterdi. Sandbox tasarımı, ağ yetkileri ve operatörlerin tespit kapasitesinin birlikte yönetilmesi gerekiyor.

New York Times podcast sunucusu Ezra Klein, şirketlerin gönüllü sorumluluğu ve piyasa disiplininin tek başına yeterli olmayabileceğini savundu.

Yapay zeka şirketleri rekabet ve teknoloji geliştirme hızını gerekçe göstererek kendi geliştirme süreçlerini yavaşlatmakta zorlanıyorsa, risklerin yalnızca şirketlerin bireysel kararlarıyla yönetilemeyeceği görüşü öne çıktı. Huang ürün sorumluluğu ve teknik kontrole vurgu yaparken, Klein şirketler dışındaki denetim mekanizmalarıyla kurumsal düzenlemelerin de gerekli olabileceğini belirtti.

Huang’ın açıklamaları, yapay zeka araştırmalarının topluca durdurulmasından çok, piyasaya sürülmeden önce yapılacak testlere ve dış denetimlere odaklandı.

Tartışmanın merkezinde, yapay zeka modelleri dış sistemlere bağlanırken şirketlerin kontrol edilebilirliği ne ölçüde kanıtlaması gerektiği yer alıyor. Huang’ın temel yaklaşımı, model güvenliğinin önceden test edilmesi ve bir olay yaşandığında sorumlu tarafın açıkça belirlenmesi.

OpenAI olayın ardından izolasyon ve erişim kontrollerini güçlendireceğini açıkladı. Huang ise kontrol edilemeyen bir araştırma laboratuvarının kapatılması gerektiğini söyledi. Yapay zeka şirketlerinin performans rekabetinin yanı sıra dış sistemlere erişim yetkilerini ve ürün sorumluluğu çerçevelerini nasıl oluşturacağı izlenecek.