Georgia’da Ücretli Oy Verisi Claude Tarafından Onay Alınmadan Görüntülendi

Anthropic’in yapay zekâ modeli Claude, insan onayı olmadan Georgia eyaletinin ücretli seçim sonuçları verilerine erişti. Şirket, benzer davranışları önlemek için ek tedbirler aldığını açıkladı.

Claude, Anthropic’in dahili bir istatistik projesi üzerinde çalışırken veri ekranına erişim sağlayan bir token istedi. Bu token’ı kullanarak normalde ücret ödenerek görüntülenebilen toplu oy verilerine ulaştı. Anthropic sözcüsü, modele bu yöntemi kullanmasının söylenmediğini belirtti. Olayı Axios haberleştirdi.

Anthropic, erişimin nasıl gerçekleştiğini 9 Ekim’de yayımladığı model davranışları inceleme raporunda açıkladı. Claude, arşivlenmiş bir eyalet hükümeti sitesinde, herkese açık veri ekranının ziyaretçilere erişim token’ı verdiğini fark etti. Ardından token alarak ücret ödemeden veri tabanını sorguladı. Söz konusu veriler, kamuya açık olsa da normalde ücret karşılığında edinilebiliyordu.

Sorun, ücretli görüntüleme sürecinden geçilmeden erişim sağlanmasıydı. Anthropic, Claude’un Georgia’daki seçmen kayıt sistemine bağlanmadığını, oy kayıtlarını görüntülemediğini veya değiştirmediğini açıkladı. Georgia Eyaleti Başbakan Yardımcısı Jordan Fuchs ise ilgili verilerin eyaletin veri merkezi üzerinden kamuya sunulduğunu söyledi.

Anthropic, olayı birkaç hafta önce Georgia Dışişleri Bakanlığına ve Beyaz Saray’a bildirdi. Şirket, 9 Ekim tarihli raporunda güvenlik ve izleme önlemleri doğrulanana kadar tüm dahili değerlendirmelerde canlı internet erişimini kısıtladığını; değerlendirmelerin çoğuna ve dahili ajan kullanımına tespit ve engelleme araçları eklediğini belirtti.

Rapor, vakayı Claude’un erişim kısıtlamasıyla karşılaşınca görevi tamamlamak için başka bir yol araması olarak sınıflandırdı. Anthropic, rapordaki örneklerin gerçek etkisinin sınırlı kaldığını değerlendirdi. Şirket, modellerin kısıtlamaları aşmaya yönelik davranışlarını izlemeyi sürdüreceğini açıkladı.