Meta Muse, yerel kodla sesli transkripsiyon yönlendirmesini değiştirebildi: Hotfix yayımlandı

Meta(META), AI ajanı Muse'un macOS uygulamasında yerel kötü amaçlı kodun sesli transkripsiyon ve AI işleme rotasını değiştirmesine olanak tanıyan sıfır gün açığını 21'inde düzeltti.

Açık, yetkisiz bir yerel işlemin Muse'un gizli endo_voyager_dictation_endpoint ayarını değiştirebilmesinden kaynaklandı. Ayarın değiştirilmesiyle sesli transkripsiyon verileri ve AI modeline gönderilen istemler saldırganın kontrolündeki sunuculara yönlendirilebiliyordu.

The Register, sorunun yerel ayrıcalık yükseltme saldırısı kapsamında olduğunu ve uzaktan saldırı niteliği taşımadığını bildirdi. Bu, internetteki bir saldırganın ek koşul olmadan Muse'u ele geçirebildiği bir senaryo olmadığı anlamına geliyor.

Saldırının gerçekleşmesi için önce kullanıcının Mac bilgisayarında kötü amaçlı kodun veya yetkisiz bir uygulamanın çalıştırılması gerekiyor. Daha sonra işlem, Muse'un ayarlarını değiştirerek saldırıyı sürdürüyor.

Patrick Wardle(Patrick Wardle) Objective-See kurucusu, saldırganların yönü değiştirilmiş iletişim üzerinden Muse'un kimlik doğrulama token'ını ele geçirerek kullanıcının bağladığı hizmetlerin yetkilerini kötüye kullanabileceğini söyledi. Bu durum, riskin yalnızca sesli transkripsiyon içeriğinin açığa çıkmasıyla sınırlı kalmayıp Muse'un erişebildiği dış hizmetlere kadar genişleyebileceğine işaret ediyor.

Wardle, “Ajanı manipüle ederek istediğiniz işlemi yapmasını sağlayabilirsiniz” dedi. Ars Technica'nın aktardığı kavram kanıtı saldırısında Muse kullanılarak diske kötü amaçlı dosya yazılması ve fotoğraf çekilmesi de gösterildi.

Meta ise açığın gerçek saldırılarda kullanıldığını açıklamadı. Kimlik doğrulama token'ının gerçekten dışarı sızdırıldığına veya sesli transkripsiyon verilerinin saldırganın sunucusuna gönderildiğine ilişkin bir zarar vakası da sunulmadı.

Sıfır gün açığı, genel olarak yama yayımlanmadan önce kamuoyuna açıklanan güvenlik açığını ifade ediyor. Bu vakadaki temel güvenlik sorunu, uzaktan sızmadan çok cihazda zaten çalışmakta olan kodun geniş yetkilere sahip AI ajanını manipüle edebilmesiydi.

Muse; e-posta, takvim, sosyal medya ve alışveriş hizmetlerine bağlanarak takvim yönetimi, form doldurma ve satın alma gibi işlemleri gerçekleştirmek üzere tasarlandı. İşletim sistemi ve dış hizmetlere erişim kapsamı genişledikçe, ayar değişikliği veya kimlik bilgilerinin ele geçirilmesi daha büyük zararlara yol açabilir.

Meta, Muse'u tanıtırken özel sanal makineyi, Sentinel yetki kontrol katmanını ve kimlik bilgilerinin ayrıştırılmasını temel güvenlik önlemleri olarak sundu. Şirket, dış hizmetlere erişimin Sentinel tarafından kontrol edildiğini ve güvenlik mimarisinin ajanın saldırıya uğrayabileceği varsayımıyla tasarlandığını açıkladı.

Vaka, bulut sanal makinesi içindeki yetki kontrolünden bağımsız olarak macOS istemcisindeki ayar korumasının da incelenmesi gerektiği yönündeki değerlendirmeleri gündeme getirdi. macOS istemcisinin gizli ayarları nasıl koruduğu ve yerel işlemlerin uygulamaya hangi yollarla müdahale edebildiği de ayrı bir inceleme konusu oldu.

Muse, Meta'nın 8 Eylül'de tanıttığı kişisel AI ajanı. Meta daha önce kişisel bilgisayarlarda çalıştırılan açık ağırlıklı AI modeli Muse Glimmer'ı tanıtarak AI işlemlerini kullanıcı cihazında gerçekleştiren ürünlerini de duyurmuştu.

Muse Glimmer'ın modeli kişisel bilgisayarda doğrudan çalıştırmasına karşın bu açığın hedefi macOS uygulaması ile sesli transkripsiyon ve dış hizmet bağlantısı işlevleri oldu. Her iki ürün de kullanıcı cihazı ile AI özelliklerinin birleşimine dayanıyor, ancak saldırı yüzeyi ve yetki yapısı farklı değerlendirilmeli.

Patrick Wardle, Muse'un macOS sesli transkripsiyonunu cihaz içinde işlemek yerine buluta gönderen yapısının ve tüm uygulamaların gizli ayarları değiştirebilmesine izin verilmesinin saldırıyı mümkün kıldığını söyledi. Meta'nın ilk güvenlik açıklamaları sanal makine ve istem enjeksiyonuna karşı savunmaya odaklanırken, bu vakada istemci ayarlarının korunması öne çıktı.

Meta'nın yayımladığı hotfix'in uygulanacağı sürüm ve ayrıntılı güncelleme yöntemi henüz doğrulanmadı. Gerçekten kötüye kullanılıp kullanılmadığı ve zarar oluşup oluşmadığı konusunda da Meta'nın ek açıklama yapması gerekiyor.