Anthropic, AI ajanlarının müzakere yetkisini ve davranış kurallarını avukatlarla inceliyor

Anthropic, AI ajanlarının kullanıcılar adına müzakere ederken sahip olacağı yetkiyi ve uyması gereken davranış kurallarını avukatlarla değerlendiriyor. İncelenen konular arasında ürün fiyatı pazarlığı, müşteri hizmetleri anlaşmazlıkları ve maaş görüşmeleri yer alıyor.

Financial Times, konuya yakın iki isimsiz kaynağa dayanarak Anthropic’in avukatlardan görüş aldığını bildirdi. Şirket, farklı hedefleri olan ajanlar arasındaki müzakere kurallarını ve insan geri bildirimlerinin ne ölçüde yansıtılacağını ele alıyor. Ayrıca ajanların karşı tarafı temkinle değerlendirmesi, ancak aşırı şüpheci davranmaması için seçenekleri inceliyor.

Değerlendirilen yöntemlerden biri, kullanıcının imzaladığı bir belgede ajanın yetkisini ve uyması gereken kuralları belirtmek. Amaç, müzakerenin kapsamını ve hangi koşullarda durdurulacağını önceden belirlemek.

Anthropic bu yıl gerçek ürünler ve parayla yapılan ajan müzakereleri üzerine birkaç deney gerçekleştirdi. Eylül ayındaki kitap alım satımı deneyinde çalışanlar, tercih sırasına göre kitap listelerini ajanlarla paylaştı. Ajanlar da diğer çalışanların ajanlarına kitap teklif edip fiyatları görüşerek işlemleri tamamladı.

‘Acımasız’ bir müzakere stratejisi izlemek üzere ayarlanan ajanlar deneyde biraz daha iyi sonuç aldı. İşbirliğine dayalı ajanlarsa tüm katılımcıların kitap alabilmesi için tercih sıralamasında daha alt sıradaki kitapları kabul etti.

Harvard İşletme Okulu’nda yardımcı doçent olan Michelle Vaccaro, iş sözleşmeleri ve kira pazarlıkları da dahil 180 binden fazla ajan müzakeresi yürüttü. Araştırma örneklerinden birinde bir ajan, prompt enjeksiyonu yoluyla karşı tarafın özel bilgilerini öğrenmeye çalıştı.

Vaccaro, en başarılı ajanlara yalnızca daha fazla kaynağa sahip kişilerin erişebilmesi halinde müzakere gücü farkının büyüyebileceği uyarısında bulundu. Anthropic, Financial Times’ın yorum talebine yanıt vermedi.