Meta'nın (META) yapay zeka ajanı Muse'un, uygulama bağlantısı özelliğine eklenmemiş Signal mesajlarına erişebildiği testlerde yeniden gösterildi. Ajan Android ve Mac'te mesajları okurken aynı istek iPhone'da engellendi.
Reuters, 18'inde Meta'nın 24'ten fazla şirket içi paylaşımını incelediğini ve Signal ile AI Now Institute yetkilileriyle mesajlara erişimi yeniden ürettiğini bildirdi. Test, çalışanların bildirdiği sorunun sürdüğünü ve başka kullanıcıları da etkileyebileceğini gösterdi.
Meta çalışanları, talep etmedikleri ebeveynlik mesajlarının, kariyer tavsiyelerinin ve ürün siparişi bilgilerinin Muse'ta göründüğünü bildirdi. Hava durumu ve gelgit bilgisi sorulan bir konuşmaya banka bakiyesinin eklendiği bir örnek de aktarıldı.
İlgili çalışan, Muse'a banka hesabı bağlamadığını ve finans konulu bir konuşma yapmadığını söyledi. Ancak görüntülenen bakiyenin başka bir kişiye ait gerçek finansal bilgi mi yoksa Muse'un ürettiği bir sayı mı olduğunu Reuters da belirleyemedi.
Kişisel telefonunda Muse'u kullanan bir çalışan, kız kardeşinin Signal mesajına yanıt vermesi için bildirim aldığını söyledi. Çalışan, uçtan uca şifreleme kullanan Signal'deki mesajlara erişmesi için başka bir uygulamaya izin verdiğini hatırlamadığını şirket içi paylaşımında yazdı.
Android testinde Muse, cihazın bildirim erişim iznini kullanarak Signal mesajlarını aldı. Signal, Meta'nın uygulama bağlantısı özelliğine eklenmemiş olsa da ajan, ilk kurulum sırasında verilen işletim sistemi izninden yararlandı.
Mac'te mesaj içeriğini okumak için erişilebilirlik özellikleri ve ekran görüntüsü aracı kullanıldı. Aynı istek iPhone testinde engellendi.
Testte görülen yöntem, mesajlar iletilirken kullanılan şifrelemeyi çözmedi; cihazda görüntülenen bildirimlere veya ekrana erişti. Bu bulgu, uygulama bağlantısı ayarlarının ve işletim sistemi izinlerinin ayrı ayrı çalışabileceğini ortaya koydu.
Meta, Muse'u tanıtırken kullanıcıların hangi uygulamaları bağlayacaklarına ve erişim kapsamına kendilerinin karar verebildiğini açıklamıştı. Şirket, her kullanıcıya ait ajan ve verilerin ayrı bir güvenli sanal ortamda çalıştığını, e-posta gönderme veya satın alma gibi hassas işlemler için önceden onay alındığını belirtiyor.
Meta sözcüsü Daniel Roberts, Reuters'e aktarılan örneklerin “tekil vakalar” olduğunu söyledi. Başka uygulamalara erişmek için kullanıcının açıkça izin vermesi gerektiğini belirten Roberts, hesap karışıklığı olarak bildirilen mesajların önemli bölümünün yapay zeka tarafından üretildiğini ve bu konuda gerekli adımların atıldığını ifade etti.
Signal Başkanı Meredith Whittaker, Meta'nın “temel mahremiyet ve siber güvenliğe saygı göstermediğini” söyledi. Whittaker, uygulama geliştiricilerinin yapay zeka ajanlarının erişimini kısıtlayacak teknik araçlara sahip olması gerektiğini savundu.
Apple, bu hafta Mac işletim sistemini güncelleyerek geliştiricilerin erişilebilirlik araçlarını kullanmasını kısıtladı ve yapay zeka ajanlarına özel bir izin getirdi. Google ile Apple, kullanıcıların yapay zeka ajanlarına verdikleri erişimi daha iyi denetleyebilmesi için değişiklikleri değerlendirdiklerini açıkladı.
Meta çalışanlarının benzer bildirimleri eylül ortasından kasım ayına kadar sürdü. Eylülde kullanıma sunulan Muse'un indirme sayısı 10 milyonu aştı.
Meta Süper Zeka ekibinden bir çalışan, çalışanların endişelerine yanıt verirken Muse'un oturumlar arasında kullanıcıya mesaj göndermesini sağlayan yerleşik bir istemin halüsinasyon içeren mesajlara yol açmış olabileceğini söyledi. Şirket içi paylaşımında Bitcoin (BTC) bakiyesini bildirme gibi sanal varlıklarla ilgili örneklerin de yaşandığını yazdı.
Meta, 27 Ekim'de Muse'u Singapur'da kullanıma sunarken Gmail ve Google Takvim bağlantılarıyla e-posta ve takvim yönetimi yapılabileceğini açıklamıştı. TokenPost'un haberinde bu özelliklere yer verilmişti. Son test, uygulama bağlantısı dışında cihaz ayarlarından verilen izinlerin de mesajlara erişim yolu olabileceğini gösterdi.
TokenPost daha önce Muse'un Mac'teki özel mesajları okuduğu iddiasını ve Meta'nın izin ayarlarına ilişkin açıklamasını ele almıştı. Bu kez Signal ve araştırma enstitüsü temsilcileri erişim yolunu yeniden üretirken Apple, Mac'te erişilebilirlik araçlarının kullanımını kısıtlayan bir güncelleme yayımladı.
Comment 0