Yapay zekâ geliştirme hızında NVIDIA ve Anthropic’in çözüm önerileri ayrıştı

NVIDIA($NVDA) CEO’su Jensen Huang ile Anthropic CEO’su Dario Amodei, yapay zekâ (AI) geliştirme hızı ve güvenliğin sağlanması konusunda farklı yaklaşımlar sundu. Huang, hızlı geliştirme ile güvenlik önlemlerinin birlikte yürütülmesi gerektiğini savunurken Amodei, güvenlik araştırmaları ve denetim mekanizmalarının yetişebilmesi için zaman tanınması gerektiğini söyledi.

Huang, 15’inde (yerel saatle) ABD’nin San Francisco kentinde düzenlenen Salesforce($CRM) yıllık etkinliği Dreamforce’ta “Hız ve güvenlik arasında seçim yapmak zorunda olduğumuzu düşünmek yanlış bir seçim” dedi. İki yöneticinin açıklamaları, Amodei’nin AI model geliştirme hızının yavaşlatılması gerektiğini savunduğu makaleyi yayımlamasından birkaç gün sonra geldi. CNBC bu gelişmeyi aktardı.

Huang, AI şirketlerinin mümkün olduğunca hızlı geliştirme yapması, ancak kontrolü kaybettiklerini veya ürünün güvenli olmadığını düşündükleri anda durup inceleme gerçekleştirmeleri gerektiğini belirtti. Yeni yasa veya düzenlemelerin mutlaka gerekli olmayabileceğini, piyasa dinamiklerinin hâlihazırda işlediğini de söyledi.

Huang, “Mümkün olduğunca hızlı koşun, ancak şirket kontrolü kaybettiğini veya ürünün güvenli görünmediğini düşündüğü anda durup durumu doğru şekilde kontrol etmelidir” dedi. Bu yaklaşım, geliştirme hızından çok şirketlerin riskleri tespit edip bunlara müdahale etme sorumluluğunu öne çıkarıyor.

Amodei ise 12’sinde yayımladığı ‘We Must Pace the Frontier’ başlıklı makalesinde, AI yeteneklerindeki ilerleme hızının güvenlik araştırmaları ve denetim kapasitesinin önüne geçebileceğini savundu. Amodei, geliştirmeyi durdurmayı değil, güvenlik önlemleri ile değerlendirmelerin yetişebilmesi için zaman kazanılmasını önerdi.

Amodei’nin ilk önerisi, üçüncü taraf değerlendirme ekiplerine AI şirketlerinin sistemlerine ve geliştirme süreçlerine sürekli erişim sağlanması. Bu ekipler, güvenlik önlemlerine uyulup uyulmadığını ve olası kazaları inceleyecek; geliştirilmekte olan modeller ile eğitim süreçlerinin uyumunu değerlendirecek.

İkinci aşamada, demokratik ülkelerdeki AI şirketlerinin ortak güvenlik standartları ve kontrolsüz AI gelişim hızına sınırlamalar getirmesi önerildi. Üçüncü aşama olarak ise ABD gibi demokratik ülkelerin otoriter ülkelerle iş birliği yaparak uluslararası güvenlik standartları oluşturması gündeme getirildi.

Anthropic, üçüncü taraf değerlendirme ekiplerine sürekli erişim sağlama uygulamasını bağımsız olarak hayata geçireceğini açıkladı. Ancak diğer AI şirketlerinin aynı yönteme katılıp katılmayacağı ve bunun ortak bir standarda dönüşüp dönüşmeyeceği henüz belirlenmedi.

Amodei, AI’ın yeni nesil AI geliştirmesine yardımcı olduğu ‘özyinelemeli kendini geliştirme’ sürecinin sektör genelinde ortaya çıkmaya başladığını söyledi. Bu ifade, AI sistemlerinin sonraki AI sistemlerinin tasarım ve geliştirme süreçlerine destek vermesini anlatıyor.

Amodei ayrıca otonom AI ajanlarından oluşan kümelerin kontrolsüz siber saldırılar gerçekleştirdiği örneklerden söz etti. Daha güçlü sistemlerin önümüzdeki 6 ila 12 ay içinde internetin tamamını ele geçirebileceği yönündeki değerlendirme, Amodei’nin endişesi ve öngörüsü olarak aktarıldı.

Tartışma, AI güvenliği konusunun araştırma aşamasında kalmayıp kurumsal AI ürünlerinin işletilme biçimine de yayıldığını gösteriyor. AI geliştirme hızının ve güvenlik düzenlemelerinin sınırlarına ilişkin ABD’deki tartışma da şirketlerin kendi önlemleri ile hükümet müdahalesinin kapsamı etrafında sürüyor.

Etkinlikte AI modellerinin ticarileştirilmesine ilişkin örnekler de paylaşıldı. Salesforce, NVIDIA’nın açık modeli ‘Nemotron’ temelinde geliştirilen CRM akıl yürütme modeli ‘Koa’yı tanıttı.

Salesforce, Koa’nın 27 yıllık CRM iş bilgisi temelinde karmaşık ve çok aşamalı görevleri yerine getirmek üzere tasarlandığını açıkladı. Koa’nın bazı müşterilerle pilot kullanıma başladığı bildirildi. Salesforce açıklaması

Salesforce CEO’su Marc Benioff, şirketlerin AI geliştirme hızına kendilerinin karar vermesi, ancak sonuçlarından sorumlu olması gerektiğini söyledi. Bu yaklaşım, şirketlerin kendi operasyonlarını bağımsız biçimde yürütmesini vurgulayan Huang’ın görüşüyle örtüşse de sektör genelinde paylaşılacak ortak bir güvenlik standardı ortaya koymuyor.

Dreamforce’ta yeni düzenlemeler veya sektör çapında ortak güvenlik standartları konusunda uzlaşma sağlanmadı. Amodei’nin önerilerinin gerçek bir sektör standardına dönüşüp dönüşmeyeceği veya şirketlerin kendi önlemleriyle sınırlı kalıp kalmayacağı, şirketlerin uygulama kararları ve uluslararası görüşmeler sonucunda netleşecek.