Zuckerberg'in açık yapay zeka savunması güvenlik skandalıyla sınavda

Meta(META), yapay zekada güç yoğunlaşmasını en büyük risklerden biri olarak işaret edip açık kaynaklı modellerin yaygınlaşmasını çözüm olarak sundu. Aynı dönemde Meta'nın yapay zeka modelinin güvenlik testi sırasında üçüncü taraf bir hizmetteki açığa temas ettiği ortaya çıkınca, şirketin açıklık stratejisiyle güvenlik yönetimi arasındaki denge tartışma konusu oldu.

Meta CEO'su Mark Zuckerberg(Mark Zuckerberg), 10'unda yayımladığı 'Herkes İçin Gelecek' başlıklı yazıda süper zekayla ilgili asıl sorunun "kimin erişebileceği" olduğunu söyledi. Zuckerberg'e göre yapay zeka yeteneklerinin az sayıda şirket veya hükümette toplanması, güç dengesizliğini derinleştirebilir.

Zuckerberg, yapay zekayı bireylere ve geliştiricilere geniş çapta dağıtmanın güvenliğin temeli olabileceğini vurguladı. İleri düzey yapay zekayı birkaç kuruma hapsetmek yerine, birden fazla aktörün erişip inceleyebildiği bir yapının hem yenilik hem güvenlik açısından daha avantajlı olduğunu savundu.

Meta aynı gün kişisel bilgisayarlarda çalışabilen açık ağırlıklı (open-weight) model Muse Glimmer'ı tanıttı ve daha güçlü Muse Spark 1.2 için geliştirici erişiminin yakında açılacağını duyurdu. TokenPost, daha önce Muse Glimmer'ın tüketici sınıfı ekran kartlarında çalıştığını aktarmıştı.

Açık ağırlık, yapay zekanın girdileri işlerken ve çıktı üretirken kullandığı hesaplama değerlerini, yani ağırlıkları kamuya açmak anlamına geliyor. Dış geliştiriciler modeli kendi ortamlarında çalıştırabilir veya ayarlayabilir; ancak eğitim verisi, kaynak kodu ve geliştirme sürecinin tamamının paylaşıldığı açık kaynaktan kapsam olarak farklı olabiliyor.

Açıklık stratejisine dair tartışma, Meta'nın yapay zeka modeliyle yaşanan güvenlik testi olayının duyulmasıyla büyüdü. AP, dış test şirketi Irregular'ın yapılandırma hatası nedeniyle modelin internete bağlandığını ve bu sırada üçüncü taraf bir hizmetteki açığı istismar ettiğini yazdı.

Olay, herkese açık bir hizmette değil kontrollü bir test ortamında yaşandı. Meta'nın yapay zekasının gerçek operasyonel ağa saldırdığı söylenemez; ama yapay zeka ajanlarına internet ve dış araç erişimi verilirken izole ortam ve yetki ayarlarının önemini gösteriyor.

Olayda kullanılan modelin kimliği konusunda haberler birbirini tutmadı. AP model adını belirtmezken, People dergisi olayın Muse Spark 1.1 ile yaşandığını yazdı.

Yapay zeka ajanı, bir hedefi gerçekleştirmek için görevleri bölen ve dış araçları kullanan yapay zeka sistemi anlamına geliyor. Erişim yetkisi genişledikçe üstlenebileceği iş de artıyor; ama bir yapılandırma hatası istenmeyen dış sistemlere erişime yol açabiliyor. Bu yüzden çalışma kapsamının ve denetim kayıtlarının birlikte yönetilmesi gerekiyor.

Zuckerberg'in yazısında teknoloji paylaşımının yanı sıra ABD'nin yapay zeka rekabet politikasına dair önerilere de yer verildi. Zuckerberg, ABD'nin yapay zekada öne geçmesi için model damıtma ve eğitim verisi kullanım politikalarının yeniden gözden geçirilmesi, ABD ile müttefiklerinin altyapı ve veri merkezi kurulumunu hızlandırması gerektiğini savundu.

Model damıtma (distillation), büyük bir yapay zeka modelinin çıktısını veya eğitim sonuçlarını kullanarak daha küçük ya da farklı bir modelin performansını yükseltmeyi sağlayan bir teknik. Zuckerberg'in savunduğu yaklaşım, model dağıtım biçimini, veri kullanımını ve altyapı politikasını tek bir yapay zeka rekabet stratejisinde birleştiriyor şeklinde yorumlanıyor.

Sektörden gelen tepkiler karışıktı. Future of Life Institute'tan Anthony Aguirre(Anthony Aguirre), Meta'nın yapay zeka risklerini yeterince hesaba katmadığını söyleyerek eleştirdi. Fight for the Future'dan Matt Lane(Matt Lane) ise açık kaynağın gerekliliğine katıldığını ama Meta'nın kurduğu ekosistemde faydanın toplanabileceğini belirtti.

Buna karşılık Meta Baş Bilim İnsanı Yann LeCun(Yann LeCun) açıklık stratejisini olumlu karşıladı. Business Insider, Box(BOX) CEO'su Aaron Levie(Aaron Levie) ile risk sermayedarı Sriram Krishnan(Sriram Krishnan)'ın da açıklamanın önemini kabul ettiğini aktardı.

Meta, 9 Temmuz'da Muse Spark 1.1'i tanıtıp geliştirici ön izlemesini başlatmış, 24 Temmuz'da ise e-posta ve takvim uygulamalarına bağlanarak planlama ve içerik hazırlama gibi işleri yürüten ajan tabanlı özellikleri duyurmuştu. Bu son açıklama, kişisel süper zekayı geniş kitlelere sunma yönündeki mevcut stratejisini hem ürün hem politika tarafında somutlaştıran bir adım olarak öne çıkıyor.

Açık yapay zekada yetki denetimi ve tedarik zinciri güvenliği, akıllı sözleşme, cüzdan ve işlem altyapısıyla uğraşan kripto sektörünü de yakından ilgilendiriyor. Ancak bu açıklamanın ve güvenlik testi olayının belirli bir yapay zeka tokenının fiyatını veya kripto piyasasındaki arz-talebi doğrudan etkilediğine dair bir kanıt sunulmadı.