ABD'deki chatbot kullanıcılarının %33'ü en az bir kez hakaret etti

ABD'de incelenen chatbot kullanıcılarının yüzde 33'ü sohbet botlarından birine en az bir kez küfür veya hakaret içeren mesaj gönderdi.

Yapay zekâ arama analiz şirketi Searchable, 2 Kasım'da yayımladığı analizde, araştırmaya katılmayı önceden kabul eden ABD'li kullanıcıların 2025 Eylülünden itibaren bir yıl boyunca ChatGPT, Gemini ve Claude'a gönderdiği 8 milyondan fazla mesajı incelediğini açıkladı. Analizde, her kullanıcının mesajlarında küfür, hakaret veya aşağılayıcı ifadeler bulunup bulunmadığı sayıldı.

Örneklemin yüzde 33'ü üç sohbet botundan en az birine bir veya daha fazla kez küfür ya da hakaret içeren ifade gönderdi. Bu oran yalnızca Claude kullanıcılarını kapsamıyor.

Mesajlarda kullanılan her 10 bin kelimede 19,1 küfür, hakaret veya aşağılayıcı ifade tespit edildi. Olumsuz ifade içeren mesajların başlıca nedenleri arasında talimatın yerine getirilmemesi yüzde 19,0, yanlış yanıt yüzde 18,1 ve isteğin yanlış anlaşılması yüzde 14,7 oranında yer aldı.

Küfür veya hakaret içeren bir şikâyetin ardından chatbotun verdiği yanıtla sorunun çözülme oranı yüzde 24 oldu. Küfür içermeyen düzeltme taleplerinde bu oran yüzde 35 olarak kaydedildi.

Anthropic, 8 Ekim'de kullanım politikasında yaptığı değişikliğe ilişkin duyuruyu yayımladı. Yeni madde 12 Kasım'da yürürlüğe girdi. TokenPost daha önce maddenin kapsamını ve yürürlük tarihini aktarmıştı.

Yeni kural, kullanıcıların belirgin bir amaç olmaksızın modeli tekrar tekrar acımasızca hedef aldığı uç vakaları kapsıyor. Olağan şikâyetler ve itirazlar, karanlık temalı yaratıcı çalışmalar, model testleri ve araştırmalar kapsam dışında tutuluyor.

Başlıca uygulama yöntemi, Claude'un sohbeti sonlandırabilmesi. Anthropic, Ağustos 2025'te Claude Opus 4 ve 4.1'in tüketici sohbetlerinde nadir görülen uç düzeydeki kötü muamele içeren konuşmaları bitirebilecek şekilde tasarlandığını açıklamıştı.

Anthropic, bu özelliğin sohbeti verimli bir yöne çevirmeye yönelik birden fazla girişimin başarısız olması ve üretken bir konuşma sürdürme olasılığının kalmaması durumunda son çare olarak kullanılmasını istedi. Sohbet sonlandırılsa da kullanıcı yeni bir konuşma başlatabiliyor.

Kullanım politikası, ihlal şüphesi halinde uyarı verilmesine, kullanım hızının düşürülmesine ve erişimin kısıtlanması, askıya alınması veya sona erdirilmesine de izin veriyor. Anthropic, bu kötü muamele maddesinde temel müdahalenin sohbeti sonlandırma özelliği olduğunu belirtti.