Meta Muse, dış kaynak personelin arama yaptığı yapay zekâ özelliğini test etti

Meta’nın($META) kişisel yapay zekâ (AI) ajanı Muse, mağazaları ararken dış kaynak personelin kullanıcı adına görüşme yaptığı bir özelliği test etti. Şirket içi testlerde dış kaynak personelin arama başarı oranı yüzde 95-98 olarak ölçüldü.

Reuters, Meta’nın şirket içi paylaşımına dayanarak Muse’un ‘human agent calls’ özelliğini gizli olarak test ettiğini bildirdi. Mağaza çalışanlarının karşılarındaki kişinin yapay zekâ olduğunu fark ettiklerinde görüşmeyi sonlandırması üzerine, eğitilmiş dış kaynak personel aramaları gerçekleştirdi.

Muse, kullanıcının talebi doğrultusunda kuaför randevusu alma, ürün stoklarını sorma ve inşaat şirketlerinden fiyat teklifi alma gibi işlemler için telefon görüşmeleri yapan bir hizmet olarak tasarlandı. Meta, Muse’u 8 Eylül’de piyasaya sürerken e-posta gönderme, seyahat rezervasyonu yapma ve internetten alışveriş gibi çeşitli görevleri yerine getiren kişisel bir yapay zekâ ajanı olarak tanımladı.

Meta, Muse’u aylık 20 dolardan (yaklaşık 27.120 won) başlayan fiyatlarla sunuyor. Hizmet, özel sanal makine ‘Muse Secure VM’ üzerinde çalışıyor. Şirket, ‘Sentinel’ sisteminin internet erişimini ve hassas işlemleri kontrol ettiğini belirtti.

Meta, telefon özelliğini ağustos ayından itibaren çalışanları üzerinde test etti. Eylül ortasında, dış kaynak personelin çalışanlar adına arama yaptığı özelliği çalışanların yarısına açtı ve çalışanlara bu özellikten çıkma seçeneği sundu.

Ancak kullanıcıya ve aranan kişiye görüşmede bir insanın yer aldığı yeterince bildirilmedi. Şirket içi paylaşımda, kullanıcıların taleplerini dış kaynak personeline aktarabildiği ve görüşme tamamlandıktan sonra sonuçların kullanıcıya iletildiği belirtildi.

Bazı Meta çalışanları, kullanıcıların hassas bilgileri yapay zekâyla paylaştığını düşünürken bu bilgilerin gerçekte dış kaynak personel tarafından görülebilmesinden endişe etti. Bir çalışan, gereksiz bilgilerin dış kaynak personeline aktarılmasının ‘tek bir hataya’ bağlı olduğunu savundu.

Gerçek görüşmeler sırasında dış kaynak personelin ırkçı anlam taşıyan ifadeler kullandığına ilişkin vakalar da gündeme geldi. Bir çalışanın internet ve kablolu televizyon hizmeti sağlayıcısıyla ücret görüşmesi yapılmasını istemesinin ardından görüşme kaydını kontrol ettiği ve dış kaynak personelin söz konusu ifadelerini fark ettiği aktarıldı.

Bu vakalar, Meta’nın Muse’un lansmanı sırasında vurguladığı güvenlik açıklamalarıyla da örtüşüyor. Meta, hassas işlemlerden önce kullanıcı onayı alınacağını, faaliyetlerin denetim kaydına işleneceğini ve kullanıcıların bağlanacak uygulamalarla erişim izinlerini seçebileceğini açıklamıştı.

Meta Süperzekâ Laboratuvarı başkan yardımcısı, şirket içi paylaşımda uygun bilgilendirme yapılmadan dış kaynak görüşmelerinin test edilmesini ‘hata’ olarak nitelendirdi. Başkan yardımcısı, etkilenen çalışanlardan özür diledi ve ilgili dış kaynak personelinin gelecekte Meta projelerinde yer almayacağını söyledi.

Meta sözcüsü Daniel Roberts (Daniel Roberts), “Çalışanların geri bildirimlerini alarak, halka açık lansmandan önce güvenlik ve gizlilik önlemleri oluşturmak ve özelliği geliştirmek için bir test yaptık” dedi. Roberts, “Uygun bilgilendirme sağlanıp hazırlıklar tamamlanmadan özelliği piyasaya sürmeyeceğiz” diye konuştu. Reuters, Meta’nın şirket içi paylaşımına dayanarak dış kaynak personelin yer aldığı telefon özelliğini geri çektiğini ve testi durdurduğunu bildirdi.

Meta, mağazalarla yapılan görüşme özelliğini geliştirmeye devam etmeyi planlıyor. Özelliğin resmî olarak piyasaya sürülüp sürülmeyeceği ve nasıl sunulacağı henüz kararlaştırılmadı.

Muse, piyasaya sürülmesinden yaklaşık 10 gün sonra ABD App Store’daki ücretsiz uygulamalar sıralamasında birinci oldu. Piyasa araştırma şirketi Sensor Tower, indirme sayısının 2,5 milyonu aştığını hesapladı.

Meta, Muse’a Stripe’ın Link ödeme sistemini ekledikten sonra 21 Eylül’de Shopify’ın Shop Pay hizmetini de desteklemeye başladı. Şirket, 22 Eylül’de PayPal entegrasyonunu da devreye aldı. Hizmetin hızla genişlediği bir dönemde, telefon özelliğinde otomasyonun nasıl açıklanacağı ve insan müdahalesinin kapsamı ayrı bir tartışma konusu oldu.

Meta’nın Muse’u kullanıcıların e-posta göndermesine ve seyahat rezervasyonu yapmasına yardımcı olan bir ajana dönüştürdüğü daha önce TokenPost haberinde ele alınmıştı. Son test, yapay zekâ ajanlarının gerçek şirketlerle telefon görüşmesi yaptığı aşamada yalnızca işlev performansının değil, bilgilendirme ve kişisel verilerin işlenmesine ilişkin prosedürlerin de hazırlanması gerektiğini gösterdi.