AI geliştirme hızında görüş ayrılığı: Zuckerberg ve Huang paralel ilerleme, Amodei yavaşlama öneriyor

Meta (META) CEO'su Mark Zuckerberg ve NVIDIA (NVDA) kurucusu ve CEO'su Jensen Huang, yapay zeka (AI) sektörünün genel geliştirme hızının düşürülmesi fikrine karşı çıktı. Anthropic CEO'su Dario Amodei ise güvenlik araştırmalarının yetişebilmesi için sektör genelinde hızın birlikte ayarlanmasını önerdi.

Zuckerberg, 15 Eylül'de sosyal medya paylaşımında "Tüm laboratuvarların modelleri güvenli şekilde eğitmek için gerekli hızda ilerleme sorumluluğu ve teşviki var. Bunun için kendi önlemlerini alma kapasitesine de sahipler" dedi. Bu görüşe göre şirketler güvenlik standartlarını ve geliştirme hızını kendi koşullarına göre belirleyebilir.

Zuckerberg, kullanıcıların kendileriyle uyumlu olmayan veya taleplerini yerine getiremeyen AI ajanlarını seçmeyeceğini savundu. Güvenliği ve uyumu artırılmış ürünlerin kullanıcılar tarafından tercih edilmesinin, şirketlere güvenlik önlemlerini güçlendirmek için ekonomik teşvik sağladığını belirtti.

Hukuki sorumluluk ihtimali de şirketlerin güvenlik önlemleri almasını sağlayan bir unsur olarak gösterildi. AI ürünlerinin kullanıcılara zarar vermesi halinde şirketlerin sorumlu tutulabileceğini belirten Zuckerberg, bu nedenle sektör genelinde bir uzlaşma olmasa da şirketlerin güvenliği yönetebileceğini söyledi.

Zuckerberg, Meta'nın kişisel AI ajanı Muse'un lansmanını güvenlik ve emniyet incelemeleri nedeniyle birkaç ay ertelediğini açıkladı. Meta, 8 Eylül'de Muse'u tanıtırken ajanı özel bir sanal makinede çalıştırdığını ve ayrı bir Sentinel ajanının internet erişimini onayladığını belirtti.

Muse, e-posta gönderme veya alışveriş yapma gibi hassas işlemleri gerçekleştirmeden önce kullanıcı onayı alıyor. Kullanıcılar bağlanacak uygulamaları ve izin kapsamını belirleyebiliyor, ayrıca ajanın gerçekleştirdiği veya gerçekleştirmeyi planladığı işlemleri denetim kayıtlarından görebiliyor.

Meta, bu yılın sonunda yalnızca kullanıcıların şifreleme anahtarlarına sahip olacağı 'Gizli VM'yi (Confidential VM) de kullanıma sunmayı planlıyor. Bu uygulama, Zuckerberg'in şirket bazında güvenlik doğrulaması yaklaşımının ürün tasarımına yansıyan bir örneği olarak gösterildi.

Zuckerberg, sektör genelinde toplu bir yavaşlama yerine bağımsız değerlendiriciler ve danışma kurullarından yararlanılmasını iyi uygulama olarak sundu. Meta'nın AI biriminin bazı alanlarda bağımsız değerlendiriciler kullandığını belirten Zuckerberg, diğer şirketlerin de benzer bir yöntem uygulayabileceğini söyledi. Bu yaklaşım, Zuckerberg'in bağımsız değerlendirmeyi vurguladığı önceki açıklamasındaki şirket bazlı öz denetim fikrini genişletiyor.

Huang da geliştirme hızı ile güvenliği birbirinin alternatifi olarak görmedi. Huang, 15 Eylül'de Salesforce'un Dreamforce etkinliğinde "İnovasyon, hız ve güvenli ürün birbirinin alternatifi değil" dedi ve "Mümkün olduğunca hızlı ilerleyin" çağrısı yaptı.

Huang, şirketlerin kontrolü kaybettiğini veya ürünün güvenli olmadığını düşündüklerinde durup sorunu düzeltmeleri gerektiğini de söyledi. Bu yaklaşım, güvenliği geliştirme hızının karşıtı değil, mühendislik yoluyla çözülmesi gereken bir sorun olarak ele alıyor.

Amodei ise 12 Eylül'de kişisel internet sitesinde yayımladığı yazıda, AI modellerinin yeteneklerinin gelişme hızının yavaşlatılması ve güvenlik araştırmalarının yetişebilmesi için zaman kazanılması gerektiğini savundu. Amodei, tüm geliştirmelerin durdurulması yerine en ileri AI sistemlerinin hızının ayarlanmasını öngören üç aşamalı bir plan önerdi.

Amodei, şirketlerin kendi güvenlik önlemleriyle sektör genelinde doğrulanabilir bir koordinasyon sistemi arasında ayrım yaptı. Her şirketin kendi güvenlik mekanizmalarını kurmasının, rekabet baskısının yol açabileceği 'güvenlikte aşağı yönlü rekabeti' engellemekte yetersiz kalabileceğini belirtti.

Anthropic, bağımsız değerlendiricilere sistemlerine erişim sağlayacağını açıkladı. Ancak sektörün tamamının katıldığı ortak bir koordinasyon sisteminin kurulup kurulmadığı doğrulanmadı. Amodei, hükümetler ve şirketler arasındaki iş birliğiyle ortak güvenlik standartları ve dış denetim mekanizmaları oluşturulmasını önerdi.

Bu tartışma, AI geliştirme hızı ve güvenliği konusunda sektördeki görüş ayrılıklarını ortaya koyuyor. Zuckerberg şirket bazında güvenlik önlemleri ve piyasa rekabetini, Huang hız ile güvenliğin birlikte ilerlemesini, Amodei ise ortak hız ayarlaması ve dış denetimi öne çıkardı.

AI ajanlarının e-posta gönderme ve alışveriş yapma gibi gerçek dünyadaki işlemleri gerçekleştirmesiyle, yetkilendirme ve denetim kayıtlarının önemi de artıyor. Şirket bazlı güvenlik önlemleri ve AI ajanlarının kontrolü konusundaki tartışmalar sürerken, sektör genelinde ortak standartların oluşturulup oluşturulmayacağı merak ediliyor.