Zuckerberg: “AI güvenliği şirketlerin sorumluluğu”… Ortak yavaşlama önerisine karşı çıktı

Meta($META) CEO’su Mark Zuckerberg(Mark Zuckerberg), yapay zekâ(AI) geliştirme sürecinin sektör genelinde birlikte yavaşlatılmasına gerek olmadığını söyledi. Zuckerberg’e göre her AI şirketi güvenliği sağlamak için gereken hızı kendisi belirlemeli ve gerekirse geliştirme sürecini kendi kararıyla yavaşlatmalı.

Zuckerberg, 16’sında sosyal medyada “Her araştırma laboratuvarı, modellerini güvenli şekilde eğitmek için gereken hızda ilerleme sorumluluğuna ve motivasyonuna sahip. Bunun için kendi önlemlerini alma kapasitesine de sahip” diye yazdı. Açıklamayı Associated Press(AP) aktardı.

Zuckerberg, Meta’nın güvenlik ve emniyet önlemlerini güçlendirmek amacıyla AI ajanı ‘Muse’un lansmanını birkaç ay ertelediğini belirtti. “Önce diğer şirketlerin bunu yapmasını isteyip sonra bizim de uyacağımızı söylemedik” dedi.

Zuckerberg, güvenlik önlemlerinin sektör çapında ortak bir uzlaşmadan çok şirketlerin kendi geliştirme süreçlerindeki değerlendirmelere dayanması gerektiğini savundu. Bu yaklaşım, şirketlerin ürün risklerini ayrı ayrı değerlendirerek lansman tarihlerini ayarlayabilmesi anlamına geliyor.

Zuckerberg, AI ajanlarının güvenilirliği ve hizalanmasının rekabet gücünde kilit rol oynayabileceğini söyledi. AI ajanları kullanıcı talimatlarına uymadığında veya kullanıcı aleyhine davrandığında, kullanıcıların bu ürünlerden uzaklaşabileceğini belirtti.

AI sistemlerinin zarara yol açması halinde şirketlerin hukuki sorumlulukla karşılaşabileceğini de güvenlik yatırımları için bir motivasyon olarak gösterdi. Zuckerberg’in yaklaşımına göre kullanıcı tercihi ve hukuki sorumluluk, şirketlerin kendi güvenlik önlemlerini geliştirmesini teşvik edebilir.

Zuckerberg, dış değerlendirmelere karşı olmadığını vurguladı. Bağımsız değerlendiriciler ve danışma kurullarından yararlanılmasını desteklediğini belirterek, Meta’nın süper zekâ araştırma birimi Meta Superintelligence Labs’in çeşitli alanlarda dış değerlendirmeler yürüttüğünü söyledi.

Geniş ölçekli ve farklı geçmişlere sahip değerlendiricilerden oluşan bir dış değerlendirme ekosistemine ihtiyaç olduğunu ifade etti. Ancak dış değerlendiricilere şirket içi çalışanlarla aynı düzeyde uzun vadeli erişim sağlanacağını taahhüt etmedi.

Zuckerberg’in yaklaşımı, Anthropic CEO’su Dario Amodei’nin(Dario Amodei) önerisinden ayrılıyor. Amodei, ileri AI modellerinin yeteneklerinin geliştirilme hızının güvenlik araştırmalarının takip edebileceği seviyeye indirilmesini ve dış değerlendiricilerin şirket içinde uzun süreli erişime sahip olmasını savunmuştu.

Daha önce TokenPost, AI geliştirme hızı ve güvenliği konusunda Zuckerberg ile Amodei arasındaki görüş ayrılığını aktarmıştı. Zuckerberg şirket bazlı güvenlik önlemleri ve rekabeti, Amodei ise sektör genelinde ortak hız ayarlaması ve dış doğrulamayı öne çıkarıyor.

İki isim arasındaki ayrışma, güvenlik önlemlerinin gerekliliğinden çok uygulanma biçiminde ortaya çıkıyor. Amodei ortak yavaşlama ve sürekli dış doğrulamayı vurgularken, Zuckerberg her şirketin bağımsız biçimde lansmanı erteleyebileceğini ve dış değerlendirmelerden yararlanabileceğini düşünüyor.

Zuckerberg ayrıca AI’ın bir sonraki nesil modelleri kendi kendine geliştirdiği yinelemeli öz geliştirmeye bilgi işlem kaynaklarının çoğunu ayırmak yerine, insan hedeflerini gerçekleştirmeye odaklanmasının güvenliği artırabileceğini söyledi. Böylece AI güvenliği tartışması, geliştirmeyi durdurup durdurmama meselesinden kaynak dağılımı ve doğrulama yöntemlerine doğru genişledi.

Önceki AI modellerinin az sayıda kurum veya AI sisteminde yoğunlaşması yerine bireylere geniş biçimde sunulması gerektiğini de savundu. Zuckerberg, insanlardan yana bir güç dengesinin korunmasının süper zekânın güvenli gelişimi açısından önemli olduğunu belirtti.

Elon Musk(Elon Musk), Zuckerberg’in paylaşımına “Cool” yanıtını verdi. Ancak Musk, Zuckerberg’in hangi görüşüne katıldığını açıklamadı.

Musk, ayrı bir etkinlikte OpenAI, Anthropic, xAI, Google ve Meta gibi önde gelen AI şirketlerinin lansman öncesinde birbirlerinin modellerini test etmesi gerektiğini savunmuştu. Şirketlerin bağımsız önlemleriyle sektör çapında karşılıklı doğrulamanın birlikte yürütülüp yürütülemeyeceği, tartışmanın bir sonraki başlığı olarak gündemde kalacak.