Apple ve Meta’nın, Meta’nın Muse Spark Open modelini birden fazla Mac Studio’da çalıştırmayı kolaylaştırmak için iş birliği yaptığı bildirildi. Bu düzenekte geliştiriciler modeli bulut yerine kendi cihazlarında çalıştırabiliyor. Ancak Apple’ın daha önce açıkladığı dağıtık çıkarım performansı verilerinin bu modelde elde edildiği doğrulanmış değil.
CNBC, iki şirketin modeli 2 ila 4 Mac Studio’yu birbirine bağlayarak çalıştırmak üzere iş birliği yaptığını 15’inde (yerel saatle) bildirdi. Kodlama, video analizi ve ajan görevleri olası kullanım alanları arasında gösterildi.
Birden fazla Mac Studio’yu birbirine bağlama özelliğini daha önce Apple duyurmuştu. Şirket, ağustos ayındaki açıklamasında Thunderbolt 5 ve RDMA kullanarak yapay zekâ çıkarım görevlerinin birden fazla sisteme dağıtılabileceğini belirtmişti. Apple, dört sistemin bağlandığı bir düzenekte dağıtık yapay zekâ çıkarımının tek sisteme kıyasla üç kata kadar daha hızlı olabileceğini açıklamıştı.
Üç kata kadar hız verisi Apple’ın donanım yeteneklerine ilişkin açıklamasıdır. Bu veri, Muse Spark Open çalıştırılarak ölçülmüş bir performans sonucu olarak değerlendirilemez.
Yerel çalıştırma, model çıkarımının kullanıcının kendi donanımında yapılması anlamına geliyor. Apple, kendi çipleri için geliştirdiği makine öğrenimi çerçevesi MLX’i sunuyor. Şirket, modellerin Mac’te çalıştırılabildiğini ve görevlerin birden fazla sisteme dağıtılabildiğini daha önce açıklamıştı.
Modeli kendi donanımında çalıştırmak, buluta gönderilen veriyi ve tekrarlanan çıkarım maliyetlerini azaltma imkânı sağlayabilir. Ancak bu iş birliğiyle veri aktarımının veya maliyetlerin ne ölçüde azalacağı açıklanmadı.
Kurulum maliyeti ve performans, donanım yapılandırmasına göre değişebilir. CNBC’nin haberi birden fazla üst seviye Mac Studio kullanılan bir düzeni ele aldı. Gerekli bellek miktarını, donanımın toplam maliyetini, işlem hızını ve güç tüketimini karşılaştıran bağımsız test sonuçları ise paylaşılmadı.
Model adındaki “Open” ifadesinin kapsamı da henüz net değil. Meta, Muse Spark’ı nisanda duyururken bazı iş ortaklarına API üzerinden özel ön izleme sunduğunu ve gelecekte modelleri açık kaynaklı hâle getirmeyi umduğunu belirtmişti. Bu açıklama, haberde söz edilen Muse Spark Open’ın ağırlıklarının yayımlanıp yayımlanmayacağını veya ne zaman yayımlanacağını doğrulamıyor.
Açık ağırlıklı model, eğitilmiş ağırlıkları indirilerek kişinin kendi donanımında çalıştırabildiği modeli ifade ediyor. Ağırlıkların yayımlanması ile ticari kullanım izninin kapsamı ayrı konular. Haberdeki bilgiler, bu modelin lisans koşullarını doğrulamaya yetmiyor.
Meta’nın modeli ile Apple’ın çalıştırma ortamını bir araya getiren iş birliğinin destek koşulları ve ticarileşme takvimi açıklanmadı. Modelin gerçek kullanım alanı, ağırlıklar, lisans ve performans verileri yayımlandıktan sonra değerlendirilebilecek. Meta’nın uzun süreli görevleri ve bellek özelliklerini öne çıkardığı model örneği, önceki Muse model duyurusunda da yer almıştı.
Yorum 0