Haugen: Yapay zekâ geliştirmesini durdurmak yerine bağımsız güvenlik denetimi zorunlu olmalı

Frances Haugen, yapay zekâ (AI) geliştirmesini durdurmak yerine şirketlerin güvenlik uygulamalarının bağımsız değerlendiricilerce incelenmesinin yasayla zorunlu kılınmasını savundu. Gerekçe olarak, geliştirme hızının düşürülmesinin kurallara uymayan şirketlere avantaj sağlayabileceğini gösterdi.

Haugen, 8’inde yayımlanan Fortune röportajında Mark Zuckerberg’in AI hamlesini “ateşle oynamak” diye nitelendirdi. Haugen’e göre Meta, AI alanındaki öncü şirketleri yakalamak için düzenlemelere karşı çıkıyor. Zuckerberg’in “en azından öncü şirketlerle aynı seviyeye gelene kadar kısıtlama istemediğini” söyledi.

Haugen, AI geliştirmesini durdurmanın veya yasaklamanın bu teknolojiyi etkili biçimde denetlediğine dair bir örnek bulunmadığını düşünüyor. Geliştirme hızının düşürülmesi halinde bunu yapmayanların öne geçeceğini belirtiyor. Bunun yerine, bankalardaki dış denetimlere benzer şekilde bağımsız değerlendiricilerin AI şirketlerinin güvenlik uygulamalarını düzenli olarak incelemesini öneriyor.

Bağımsız değerlendiricilerle denetim, AI sektöründe de tartışılıyor. Anthropic, eylülde dış değerlendiricilerin çalışanlara benzer erişim yetkisiyle model geliştirme ve güvenlik önlemlerini incelemesini öngören bir iş birliği planı açıkladı. OpenAI da aynı ay, üçüncü taraf değerlendiricilerin eğitim, değerlendirme ve dağıtım süreçlerine kapsamlı erişim sağlamasına destek olacağını duyurdu. Değerlendiricilerin erişim kapsamı ve raporlama biçimi için ortak bir standart henüz oluşturulmadı.

Haugen, AI şirketleri Facebook’tan daha fazla araştırma materyali yayımlasa bile bu belgelerin şirket içinde neler yaşandığını anlamaya yetmeyeceğini söyledi. Önerdiği denetim, yalnızca belge yayımlamakla sınırlı kalmıyor; bağımsız değerlendiricilerin şirket içindeki güvenlik uygulamalarını inceleyip sorunları bildirebilmesini amaçlıyor.

Haugen, iç belgeleri yayımlamasının ardından Meta’nın kurum kültürünün değiştiği sonucuna varmak için bir dayanak bulamadığını da söyledi. Meta, röportaj yayımlanmadan önce Haugen’in iddialarına yanıt vermedi. Bu noktada Haugen’in değerlendirmesi ile şirketin resmî tutumunu birbirinden ayırmak gerekiyor.

Haugen, AI ile içerik denetiminin sınırlarına da dikkat çekti. Dilin bağlamının karmaşık olması nedeniyle gelişmiş AI sistemlerinin bile zararlı içeriklerin yalnızca bir bölümünü tespit edebileceğini düşünüyor. Görevinden ayrıldığı dönemde yaklaşık yüzde 5’inin tespit edildiğini, çok gelişmiş AI sistemlerinin bile yüzde 10 ila 20 düzeyinde kalabileceğini öne sürdü. Bu oranlar Haugen’in tahmini; bağımsız biçimde doğrulanmış performans sonuçları değil.

Meta ise ayrı bir açıklamada, 2026’nın ocak-haziran döneminde Facebook ve Instagram’da çocukların cinsel istismarıyla ilgili 33,2 milyon içeriğe işlem yaptığını ve bunların yüzde 97’den fazlasını kullanıcı bildirimi gelmeden sistemlerin tespit ettiğini belirtti. Bu, şirketin kendi verilerine dayanan bir açıklama. Haugen’in verdiği zararlı içerik tespit oranıyla aynı içerik kapsamına ve hesaplama yöntemine dayanıp dayanmadığı doğrulanmadığından iki veriyi doğrudan karşılaştırmak güç.

Haugen, 2021’de Facebook’un iç belgelerini yayımlayıp Kongre’de ifade verdi ve içerik denetimi ile gençlerin korunması konusundaki tartışmaları gündeme taşıdı. O dönemde TokenPost’un Instagram tasarımı ve gençlerin korunmasına ilişkin haberi de yayımlandı. Yeni film “The Social Reckoning” ise o dönemdeki ihbarı ve haberleri konu alıyor. Haugen’in son açıklamaları, Meta’nın AI faaliyetlerinin veya güvenlik performansının bağımsız biçimde doğrulandığı anlamına gelmiyor.