Zuckerberg: Yapay zeka güvenliğinde bağımsız değerlendirme, geliştirmeyi durdurmaktan önemli

Meta CEO’su Mark Zuckerberg(Mark Zuckerberg), yapay zeka(AI) güvenliği için geliştirme hızını genel olarak yavaşlatmak yerine bağımsız değerlendiriciler ve danışma kurullarından yararlanılması gerektiğini söyledi.

Zuckerberg, 15’inde X’te yaptığı açıklamada, “Bağımsız değerlendiriciler ve danışma kurulları istihdam etmek sektörün en iyi uygulamasıdır” dedi. Açıklama, AI modellerinin insanlar üzerindeki olası risklerini azaltma yöntemleri konusunda teknoloji şirketi yöneticileri arasındaki tartışmalar sürerken geldi.

Zuckerberg, Meta’nın kendi değerlendirmesiyle Muse AI aracının geliştirilmesini bir süre yavaşlattığını, ancak diğer şirketlerden aynı adımı atmalarını istemediğini belirtti. Bu yaklaşım, geliştirmeyi tüm sektörde durdurmak yerine her şirketin dış doğrulama mekanizmaları oluşturması gerektiği anlamına geliyor.

Meta, kişisel AI ajanı Muse’u 8’inde ABD’de kullanıma sundu. Muse, kullanıcıların talepleri doğrultusunda e-posta gönderme ve seyahat rezervasyonu yapma gibi görevleri yerine getiriyor. Sistem, kullanıcı verileriyle ajanı özel bir sanal makinede yönetmek üzere tasarlandı. Meta, hassas görevler gerçekleştirilmeden önce kullanıcı onayını kontrol ettiğini ve tamamlanan ya da planlanan görevlerin kaydını sunduğunu açıkladı. Meta’nın resmi tanıtımı

AI güvenliğinin doğrulanmasına ilişkin sektörde farklı yaklaşımlar bulunuyor. Anthropic CEO’su Dario Amodei(Dario Amodei), en gelişmiş modellerin geliştirme hızının yavaşlatılmasını ve bağımsız değerlendiricilere şirket içi düzeyde erişim yetkisi verilmesini önerdi. Anthropic’in bağımsız değerlendirici planı ile OpenAI CEO’su Sam Altman’ın(Sam Altman) bağımsız değerlendirici politikası da aynı tartışmanın parçası. İlgili açıklamalar AP tarafından aktarıldı. AP haberi

Zuckerberg’in açıklaması, AI güvenliği tartışmasının geliştirme hızının ayarlanması ile dış doğrulamanın güçlendirilmesi arasında bölündüğünü gösteriyor. Meta kendi geliştirme hızını değiştirebilirken, sektör genelinde kapsamlı bir durdurma uygulanmasına karşı çıkıyor.