Jensen Huang: “Yalnızca gerçek zarar düzenlenmeli” — OpenAI bağımsız değerlendirme istiyor

NVIDIA(NVDA) kurucusu ve CEO’su Jensen Huang, yapay zekâ (AI) düzenlemelerinin varsayımsal risklere değil, gerçek zararlara odaklanması gerektiğini söyledi. OpenAI ve Anthropic ise bağımsız güvenlik değerlendirmeleri ile zorunlu güvenlik standartlarını savundu.

Jensen Huang(Jensen Huang) NVIDIA(NVDA) kurucusu ve CEO’su, 2 Eylül’de ABD’nin Kuzey Carolina eyaletindeki Chapel Hill’de düzenlenen G20 İnovasyon Bakanları Toplantısı’nda “Varsayımsal ve teorik zararları değil, gerçek ve somut zararları düzenlemeliyiz” dedi. Konuşmanın videosu ve dökümü de aynı görüşü doğruladı.

Huang, ülkelerin AI kullanımında geride kalmasının en büyük risk olduğunu vurguladı. AI geliştirme hızını yavaşlatabilecek kapsamlı ön düzenlemeler yerine, zararın tespit edildiği alanlara müdahale edilmesinin inovasyon ile güvenliği birlikte sağlayabileceğini savundu.

Bu yaklaşım, risk ortaya çıkmadan geniş kapsamlı kurallar getirmek yerine gerçek sorunların yaşandığı alanlara müdahale eden ‘hafif dokunuşlu düzenleme’ anlayışıyla açıklanabilir. Temel tartışma, düzenlemenin kapsamının önceden mi genişletileceği yoksa zarar ortaya çıktıktan sonra mı dar biçimde uygulanacağı noktasında yoğunlaşıyor.

Beyaz Saray, G20 İnovasyon Bakanları Toplantısı’nın ortak bildirisinde ‘inovasyonu destekleyen politika çerçevesi’ ile güvenilir teknolojilerin benimsenmesini temel ilkeler arasında sıraladı. Ortak bildiride gelişmekte olan teknolojilerin verimliliği artırma ve fırsatları genişletme potansiyeli ile AI standartları ve tedarik zinciri yatırımlarına ilişkin ilkeler yer aldı.

NVIDIA, AI modeli geliştiren şirketlere ve veri merkezi işletmecilerine grafik işlem birimleri ile hızlandırılmış bilgi işlem altyapısı sağlıyor. AI modellerinin piyasaya sunulması veya veri merkezlerinin kurulmasına yönelik düzenlemeler, müşterilerin yatırım takvimleriyle kesişebilir. Ancak Huang’ın açıklamalarından hareketle gerçek etkinin boyutu ve zamanlaması kesinleştirilemez.

AI düzenlemeleri tartışmasında ön düzenleme, henüz gerçekleşmemiş riskleri de yönetim kapsamına alıyor. Gerçek zarar odaklı düzenleme ise tespit edilen zarar ve hukuka aykırı eylemlere müdahaleye odaklanıyor.

OpenAI, 9 Eylül’de yetenek düzeyine göre uygulanacak ulusal zorunlu AI güvenlik düzenlemeleri için Kongre ile birlikte çalışacağını açıkladı. OpenAI’nin politika önerisi, bağımsız güvenlik değerlendirmeleri ile yüksek riskli alanlara yönelik koruma önlemlerini içeren ulusal zorunlu standartlar talep etti.

OpenAI’nin önerisi, AI modellerinin yetenekleri arttıkça güvenlik standartlarının da kademeli biçimde uygulanması gerektiği görüşüne dayanıyor. Bu yaklaşım, yalnızca risk gerçekleştiğinde müdahale edilmesinin yeterli olmayabileceğini savunuyor.

Dario Amodei(Dario Amodei) Anthropic ortak kurucusu ve CEO’su da en gelişmiş AI modellerine dış değerlendiricilerin sürekli erişebilmesi gerektiğini söyledi. AP’nin aktardığına göre Amodei, güvenlik önlemlerinin yetişebilmesi için AI geliştirme hızının yavaşlatılması gerektiğini belirtti.

Bağımsız değerlendirici, şirket içi incelemelerden ayrı olarak bir modelin güvenliğini denetleyen dış doğrulama kuruluşu veya uzmanıdır. OpenAI ve Anthropic, bu tür dış doğrulamalar ile kamu yetkilerini içeren güvenlik önlemlerini öne çıkarıyor.

Huang’ın açıklamaları AI sektöründeki inovasyon hızına ve piyasa özerkliğine ağırlık veriyor. OpenAI ve Anthropic ise yüksek riskli modellere önceden güvenlik standartları uygulanması ve bağımsız değerlendirme yapılması gerektiğini savunuyor.

NVIDIA daha önce AI veri merkezleri ile AI fabrikalarını imalat altyapısı olarak tanımlamıştı. Bu yaklaşım, AI düzenlemeleri tartışmasının model geliştirmenin ötesine geçerek bilgi işlem altyapısı ve tedarik zinciri yatırımlarıyla da bağlantılı hale gelmesinin arka planını oluşturuyor.

NVIDIA’nın katıldığı Open Secure AI Alliance’ın olay paylaşımı kılavuzu önerisi de AI güvenliğinin yalnızca şirketlerin kendi önlemlerine bırakılamayacağı görüşünü yansıtıyor. Ancak olay paylaşım sistemi ile model piyasaya sunulmadan önce bağımsız değerlendirme yapılması zorunluluğu, kapsamları farklı iki ayrı tartışma başlığı olarak öne çıkıyor.

Gündemdeki temel soru, AI düzenlemelerinde ölçütün ‘gerçekleşen zarar’ ile mi sınırlı tutulacağı, yoksa ‘gerçekleşmesi mümkün riskleri’ de kapsayıp kapsamayacağı.