Zuckerberg, yapay zekâ sektöründe toplu yavaşlama yerine bağımsız değerlendirmeyi vurguladı

Meta (META) CEO’su Mark Zuckerberg, yapay zekâ geliştirme hızının sektör genelinde aynı anda düşürülmesi fikrine karşı çıkarak şirket bazlı güvenlik kontrolleri ve bağımsız değerlendirmelerin artırılması gerektiğini söyledi.

Zuckerberg, her yapay zekâ şirketinin modellerinin güvenliğini kendi değerlendirmesi ve ardından gerekli önlemleri belirlemesi gerektiğini belirtti. Güvenli olmayan modellerin kullanıcı ihtiyaçlarını karşılayamayarak rekabette geride kalabileceğini ifade etti.

Zuckerberg’in açıklamaları, gelişmiş yapay zekâ sistemlerinin geliştirme hızı ve dış değerlendirmeler etrafındaki tartışmaların sürdüğü dönemde geldi.

Zuckerberg, yapay zekâ ajanlarının kullanıcıların niyetlerini anlayıp talep edilen görevleri yerine getirme kapasitesinin ürün rekabetinde temel unsur olacağını söyledi. Bu süreçte ‘güven’ ve ‘uyum’un modeller ile ajanları birbirinden ayıran önemli ölçütler olabileceğini belirtti.

Uyum, yapay zekânın kullanıcı niyetleri ve güvenlik standartları doğrultusunda çalışacak şekilde düzenlenmesi anlamına geliyor. Zuckerberg, “Uyumu gerektiği gibi sağlayamayan araştırma laboratuvarlarının ürünleri, kullanıcı ihtiyaçlarını karşılayamadığı için piyasa rekabetinde geride kalabilir” dedi.

Zuckerberg, tüm şirketlerin aynı anda geliştirmeyi durdurmasını beklemek yerine her şirketin güvenlik sorunlarını tespit ettikten sonra gerekli adımları atmasının daha gerçekçi olduğunu savundu. Şirket bazlı kararlarla güvenlik ve geliştirme rekabetinin birlikte yönetilebileceğini söyledi.

Yapay zekâ şirketlerinin modellerin yol açabileceği zararlar ve sorumluluklarla karşı karşıya kaldığını belirten Zuckerberg, bu nedenle güvenlik önlemlerini güçlendirmek için yeterli teşvikin bulunduğunu ifade etti.

Ancak Meta’nın diğer yapay zekâ laboratuvarlarından aynı şekilde geliştirmeyi durdurmalarını istemediğini açıkladı. Şirketin kendi ürünlerinin risklerini değerlendirerek önlem aldığını, ancak bu yaklaşımı sektörün tamamına uygulamadığını belirtti.

Bu yaklaşım, Zuckerberg’in geliştirme hızını toplu biçimde düşürmek yerine bağımsız değerlendiriciler ve danışma kurullarından yararlanılması gerektiğine yönelik önceki açıklamalarıyla örtüşüyor. Zuckerberg, bağımsız değerlendiriciler ve danışma kurullarının kullanılmasını yapay zekâ sektöründe iyi uygulama örneği olarak nitelendirdi.

Meta Superintelligence Labs (MSL), çeşitli alanlarda dış değerlendiriciler ve danışma kurullarından yararlanıyor. Zuckerberg, daha büyük ve çeşitli bir üçüncü taraf değerlendirme ekosisteminin kurulmasının yapay zekâ güvenliğinin doğrulanmasına yardımcı olabileceğini söyledi.

Zuckerberg, Meta’nın bilgi işlem kaynaklarının ‘ezici çoğunluğunu’ kullanıcı hizmetlerine ayıracağına ve bunları rekabet için tekrarlanan öz geliştirme çalışmalarında kullanmayacağına söz verdiğini belirtti. Diğer yapay zekâ laboratuvarlarının da benzer bir yaklaşımı benimseyebileceğini ekledi.

Tartışmanın odağı, yapay zekâ geliştirmesinin durdurulup durdurulmayacağından güvenlik standartlarını kimin belirleyeceğine ve bunların nasıl doğrulanacağına kayıyor. Dış değerlendirmelerin artırılması konusunda görüş birliği bulunsa da değerlendiricilerin bağımsızlığı ve değerlendirme kriterlerinin nasıl oluşturulacağı şirketler ve sektör için çözülmesi gereken sorunlar arasında yer alıyor.

Zuckerberg, güvenli yapay zekânın geleceği için sektör genelinde toplu yavaşlamadan ziyade şirketlerin sorumluluk almasının ve ‘güç dengesinin’ önemli olduğunu vurguladı.