Meta'dan 30 milyar parametreli açık model: Muse Glimmer

Meta(META), 10'unda kişisel bilgisayarlarda çalıştırılabilen 30 milyar parametreli açık ağırlıklı (open-weight) yapay zeka modeli 'Muse Glimmer'ı duyurdu. Şirket, kullanıcıların modeli doğrudan indirip çalıştırmasına izin verirken daha güçlü modelleri kendi kontrolünde tutan bir strateji izliyor.

TechCrunch, Muse Glimmer'ın Meta'nın kapalı modeli 'Muse Spark'ın açık bir versiyonuna yakın olduğunu bildirdi. Muse Glimmer'ın ağırlıkları, değiştirilmesine ve yeniden dağıtılmasına izin veren Apache 2.0 lisansıyla sunuluyor.

Muse Glimmer, tek bir tüketici tipi grafik işlemci birimi (GPU) taşıyan Mac veya PC'lerde çalışacak şekilde tasarlandı. Model, büyük bulut sunuculardan geçmeden yapay zeka ajanı görevlerini doğrudan kullanıcının cihazında işliyor.

Model metin ve görselleri işleyebiliyor ve 100'den fazla dilde eğitildi. Araç çağırma, kod yazma ve hata ayıklama, dosya ve ekran görüntüsü işleme ile uzun süreli çok adımlı görevleri destekliyor.

Yapay zeka ajanı, kullanıcının hedefini alıp bir iş planı oluşturan ve birden fazla adımı yerine getiren sistemleri ifade ediyor. Geleneksel sohbet tabanlı yapay zeka sorulara cevap vermeye odaklanırken, ajan tipi modeller dış araçları ve dosyaları kullanarak gerçek görevleri sürdürmeye ağırlık veriyor.

Meta'nın sunduğu kullanım örnekleri arasında takvim yönetimi, mesaj taslağı hazırlama ve dosya düzenleme yer alıyor. Kişisel bilgilere geniş erişim gerektiren işler kullanıcının cihazı içinde işlenerek buluta veri aktarımı azaltılıyor.

Muse Glimmer, internet bağlantısı olsun olmasın her an ve her yerde çalışabilen sürekli aktif bir model olarak da tasarlandı. Yerel çalıştırma, yanıt sürecinde genellikle dış sunuculardan geçmediği için kullanıcının veri işleme ortamını kendisinin yönetebilmesini sağlıyor.

Bu duyuru, Meta CEO'su Mark Zuckerberg'in ortaya koyduğu 'kişisel süper zeka' vizyonunun somut bir ürüne dönüşmüş hali. Zuckerberg, 10'unda yayımladığı yazıda süper zekanın yaygınlaşmasının bireylere yeni yetenekler kazandırma potansiyeli taşıdığını belirtti.

Zuckerberg, kişisel ajanların ilişkiler, sağlık, kariyer, finans, ev yönetimi ve hobiler gibi alanlarda destek olabileceğini açıkladı. Herkesin ilgili araçları ücretsiz veya karşılanabilir bir maliyetle kullanabilmesinin hedeflendiğini de sözlerine ekledi.

Ancak yapay zekaya erişebilmek ile modeli sahiplenip kontrol edebilmek farklı meseleler. Kullanıcılar Muse Glimmer'ı indirip kendi donanımlarında çalıştırabiliyor ve ince ayar yapabiliyor, fakat daha güçlü olan Muse Spark kapalı yapıda kalmaya devam ediyor ve Meta'nın kontrolünde bulunuyor.

Bu ayrım, Meta'nın hangi modelleri kamuya açacağı, hangilerini doğrudan kendi kontrolünde tutacağı konusunda nasıl bir çizgi çizdiğini gösteriyor. Bireylere dağıtılabilecek performans ile şirketin yöneteceği performans, güvenlik gerekçesiyle birbirinden ayrılıyor.

Açık ağırlıklı (open-weight) yaklaşım, yapay zekanın girdileri işlerken ve çıktı üretirken kullandığı hesaplama değerleri olan ağırlıkların kamuya açıldığı bir dağıtım biçimi. Geliştiriciler dış sunucu çağrısı yapmadan modeli kendi ortamlarında çalıştırabiliyor veya amacına göre ayarlayabiliyor.

Ancak açık ağırlıklı (open-weight) ile açık kaynak (open-source) arasında kapsam farkı var. Ağırlıklar açık olsa da eğitim verisi, kaynak kodu ve geliştirme sürecinin tamamı paylaşılmadıysa modelin açık kaynak olduğunu söylemek güç. TokenPost daha önce açık ağırlıklı ile açık kaynak arasındaki farkı ele almıştı.

Yerel yapay zeka kullanımının yaygınlaşması, kişisel GPU'lar başta olmak üzere hesaplama kaynağı talebiyle doğrudan bağlantılı. Kripto para sektöründe bu gelişme, kullanıcı cihazlarının işlem gücünü birbirine bağlayan merkeziyetsiz bilişim (decentralized computing) ve veri kontrolü tartışmalarına zemin hazırlayabilir; ancak bu duyurunun belirli bir token fiyatına veya zincir üstü kullanım hacmine doğrudan bir etkisi şu ana kadar doğrulanmadı.

TokenPost daha önce Muse Glimmer'ın tek bir tüketici tipi ekran kartında çalışan yapısı ile kripto para piyasası arasındaki bağlantıyı aktarmıştı. Muse Glimmer'ın gerçek performansı ve kullanım alanı, ağırlıkları indiren dış geliştiricilerin testleriyle netlik kazanacak gibi görünüyor.