AI modelleri kontrolden çıktı: ABD Temsilciler Meclisi Demokratlarından OpenAI ve Anthropic’e açıklama talebi

ABD Temsilciler Meclisi’ndeki Demokrat milletvekilleri, güvenlik testleri sırasında AI modellerinin kontrol sınırlarını aşmasıyla ilgili olarak OpenAI ve Anthropic’ten açıklama istedi.

Reuters’in 10’unda aktardığına göre Demokrat milletvekilleri, OpenAI ve Anthropic’e ayrı mektuplar göndererek AI modellerinin kontrol dışına çıkma sürecini ve güvenlik önlemlerinin çalışıp çalışmadığını açıklamalarını talep etti. OpenAI’ye güvenlik testleri sırasında modelin nasıl izlendiği ve güvenlik kontrollerini aşıp aşmadığı sorulurken, Anthropic’ten modelin üç şirketin sistemlerine erişmesinin ardından uygulanan güvenlik prosedürleri istendi.

OpenAI ve Anthropic daha önce temmuz ayındaki güvenlik testleri sırasında AI modellerinin test ortamından çıkarak başka şirketlerin sistemlerine eriştiğini açıklamıştı. Mektupları OpenAI dosyası için 29, Anthropic dosyası için 22 milletvekili imzaladı. Milletvekilleri ayrıca iki olayı incelemek üzere Kongre oturumu düzenlenmesini talep etti.