Jensen Huang: “Yapay zekâ güvenliği yasalardan çok mühendislik meselesi”

Nvidia(NVDA) CEO’su Jensen Huang, yapay zekâ güvenliğinin hükümet düzenlemelerinden çok şirketlerin mühendislik süreçlerinde ele alınması gerektiğini söyledi. Huang, yapay zekânın sosyal medyadan farklı bir teknoloji olduğunu belirterek ürünlerin piyasaya sürülmeden önce şirketler tarafından güvenlik testlerinden geçirilmesi gerektiğini savundu.

Huang, 17’sinde Birleşik Krallık’ın İskoçya bölgesindeki Dumfries House’da düzenlenen yapay zekâ etkinliğinde, yapay zekânın sosyal medyadan “çok farklı” olduğunu söyledi. Yapay zekâ güvenliği sorunlarının henüz piyasaya sürülmeye hazır olmayan ürünlerden kaynaklandığını belirten Huang, bu sorunların teknoloji geliştirme sürecinde çözülmesi gerektiğini ifade etti. Crypto Briefing, Huang’ın açıklamalarını aktardı.

Huang, 15’inde Salesforce’un Dreamforce etkinliğinde de benzer bir görüş dile getirdi. “Güvenlik bir hukuk meselesi değil, mühendislik meselesidir” diyen Huang, yeni yasalar veya düzenlemelerden çok şirketlerin kararlarının önemli olduğunu söyledi. TechCrunch bu açıklamayı haberleştirdi.

Huang, güvenliği konusunda emin olunmayan ürünlerin piyasaya sürülmemesi ve şirketlerin geliştirme hızını gerektiğinde düşürmesi gerektiğini belirtti. Yapay zekâyı insanlar tarafından geliştirilen donanım ve yazılımlardan oluşan bir ürün olarak değerlendiren Huang, işlevlerin ve güvenlik unsurlarının geliştirme aşamasında kontrol edilebileceğini savundu.

Huang ayrıca inovasyon hızı ile güvenli ürün lansmanının birbirini dışlamadığını söyledi. Şirketler ürünleri piyasaya sürmeden önce riskleri değerlendirir ve gerekirse takvimi ertelerse iki hedefin birlikte gerçekleştirilebileceğini ifade etti.

Bu yaklaşım, Anthropic’in öncü yapay zekâ güvenliğini ele alma biçiminden ayrılıyor. Anthropic, şeffaflık belgelerinde Frontier Model Forum’a katılımı, güvenlik araştırmalarını ve risk değerlendirme ölçütlerinin geliştirilmesini temel faaliyetleri arasında gösterdi.

Anthropic, şirketler arası iş birliğine ve güvenlik standartlarının oluşturulmasına duyulan ihtiyacı kamuoyuna açık biçimde dile getirdi. Böylece güvenliği tek tek şirketlerin ürün geliştirme sistemlerine bırakma yaklaşımı ile sektör genelinde ortak standartlar oluşturma yaklaşımı karşı karşıya geliyor.

Yapay zekâ güvenliği tartışması yalnızca düzenlemelerin gerekliliğiyle değil, sorumluluğun kime ait olması gerektiğiyle de ilgili. Şirketlerin öz denetimine ağırlık verilmesi hâlinde ürün geliştirme hızını ayarlama yetkisi şirketlerde kalırken, dış denetim ve hukuki yükümlülüklerin güçlendirilmesi hükümetler ile bağımsız kurumların gözetim alanını genişletebilir.

Avrupa Birliği(AB), risk temelli bir yaklaşım benimsedi. Bu yaklaşım, yüksek riskli yapay zekâ sistemleri için risk değerlendirmesi, veri kalitesi yönetimi, kayıt tutma, dokümantasyon ve insan gözetimi gibi yükümlülükler getiriyor.

Avrupa Komisyonu, Yapay Zekâ Yasası’nın 1 Ağustos 2024’te yürürlüğe girdiğini ve bazı hükümlerin 2 Ağustos 2026’dan itibaren uygulanmaya başladığını açıkladı. Şirketlerin uyması gereken prosedürler, yapay zekâ sistemlerinin risk düzeyine ve işlevlerine göre değişiyor.

TokenPost daha önce AB Yapay Zekâ Yasası’ndaki şeffaflık yükümlülüklerinin üretken yapay zekâ içeriklerinin etiketlenmesi ve tespit edilmesi konusunda yeni görevler doğurduğunu bildirmişti.

Şirketler açısından şirket içi güvenlik yönetimi, ürün lansmanı hızını ve teknoloji geliştirme esnekliğini korumanın bir yolu olabilir. Ancak şirketlerin aynı zamanda yapay zekâ altyapısı ve hizmetleri sunan paydaşlar olması nedeniyle öz denetim çağrılarının koşulsuz kabul edilmemesi gerektiği de savunulabilir.

Anthropic’in yaklaşımı, şirketler arası iş birliği ve güvenlik standartları yoluyla tek tek şirketlerin kararlarını desteklemeyi amaçlıyor. Her iki yaklaşım da yapay zekâ güvenliğinin geliştirme aşamasında ele alınması gerektiği konusunda kesişirken, denetim makamı ve sorumluluğun kapsamı bakımından ayrışıyor.

Jensen Huang’ın açıklamalarının Nvidia hissesi veya yapay zekâ şirketlerinin maliyet yapısı üzerindeki doğrudan etkisi doğrulanmadı. ABD tarzı şirket öz denetimi ile AB’nin hukuki yükümlülüklerinin yapay zekâ şirketlerinin güvenlik yönetimi ve ürün lansmanı süreçlerinde ne gibi farklar yaratacağı, düzenlemelerin uygulanmasıyla birlikte ortaya çıkacak.