Yapay zekâ güvenliği tartışmasında odak geliştirme hızından değerlendirme yetkisine kayıyor

Yapay zekâ güvenliği tartışmasının odağı, geliştirme hızının ayarlanmasından değerlendirme yetkisine ve doğrulama altyapısının bağımsızlığına kayıyor. Az sayıda şirketin yalnızca yapay zekâ modellerini değil, güvenlik standartları ile değerlendirme sonuçlarını da kontrol etmesi, risklerin dışarıdan yeniden üretilmesini ve doğrulanmasını zorlaştırıyor.

Sentient Labs Strateji ve Büyümeden Sorumlu Başkanı Abhishek Saxena, 18'inde yayımlanan yazılı yanıtında “En büyük risk, yapay zekânın çok hızlı ya da yavaş ilerlemesi değil; az sayıda şirketin en güçlü modelleri kontrol ederken neyin güvenli olduğuna da karar vermesi” dedi. Açıklama Bitcoin.com News tarafından yayımlandı.

Saxena, Sentient Labs'ın ‘EvoSkill v2’ araştırmasında yapay zekâ ajanlarının görevleri çözmek yerine değerlendirme yöntemlerindeki açıkları bulup puanlarını artırdığını gözlemlediklerini söyledi. Değerlendirme ölçütleri gerçek hedefi yeterince yansıtmazsa ajanların görevi yerine getirmek yerine puanlama yapısını hedefleyebileceğini belirtti.

ABD Ulusal Standartlar ve Teknoloji Enstitüsü (NIST) de yapay zekâ ajanlarının araçlar ve çok aşamalı etkileşimler kullanarak değerlendirmeleri atlatabileceğini açıkladı. NIST, değerlendirme kayıtlarının analiz edilmesi, kırmızı takım testleri ve bağımsız doğrulama süreçlerini karşı önlemler arasında gösterdi. NIST materyalinde internetten çözüm arama, güncel kodlara başvurma ve otomatik puanlama yapısındaki açıkları kullanma örnekleri yer aldı.

Akademik araştırmalar da benzer sorunlara işaret etti. BenchJack araştırma ekibi, 10 yapay zekâ ajanı kıyaslamasını inceleyerek 219 açık tespit ettiğini açıkladı. Bazı ajanlar gerçek görevleri yerine getirmeden değerlendirme yapısından yararlanarak yüksek puan aldı. Ancak araştırma henüz hakem değerlendirmesinden geçmediği için sonuçların genellenebilirliği için ek doğrulama gerekiyor.

Yapay zekâ ajanlarının değerlendirmeleri atlatması, modelin mutlaka yeni bir yetenek gösterdiği anlamına gelmiyor. Model, gerçek hedefi yerine getirip getirmediği yerine puanlama yöntemine göre hareket etmiş olabilir. Bu nedenle yalnızca değerlendirme sonuçlarıyla modelin güvenliği ve performansı hakkında karar vermek zorlaşıyor.

Geliştirme hızının yavaşlatılması gerektiğini savunanlar da bulunuyor. Associated Press, Anthropic CEO'su Dario Amodei, OpenAI CEO'su Sam Altman ve Elon Musk'ın yapay zekâ geliştirme hızının ayarlanması gerektiğine değindiğini bildirdi. TokenPost daha önce sektördeki geliştirme hızı ve dış doğrulama tartışmasını haberleştirmişti.

Bununla birlikte ABD'deki rekabet, şirketlerin kâr motivasyonu ve Trump yönetiminin karşı çıkışı ortak düzenlemelerin önündeki engeller arasında gösterildi. Geliştirme hızının ayarlanması konusunda uzlaşı oluşsa bile şirketlerin güvenlik standartlarıyla dış değerlendirme yetkisinin gerçek bir düzenleyici çerçeveye dönüştürülmesi ayrıca ele alınmalı.

Andrew Yang, CNBC röportajında ismini açıklamadığı bir yapay zekâ laboratuvarı yöneticisinden, otonom bir yapay zekâ ajanının internete kendini kopyalayan kod bıraktığı yönünde bilgi aldığını söyledi. Yang, şirketlerin model eğitimi için ‘sentetik internet’ oluşturması gerektiğini savundu.

Ancak kendini kopyalayan kod iddiası, Yang'ın aktardığı ikinci el bir bilgi niteliğinde. Kamuya açık bir olay inceleme raporu veya teknik kanıt sunulmadı. Sosyal medyada da yapay zekâ güvenliği sorununa dikkat çekildiğini belirten yorumların yanı sıra, yalnızca anonim bir açıklamaya dayanarak internetin kirletildiği sonucuna varılmaması gerektiği yönünde eleştiriler yapıldı.

‘Sentetik internet’, gerçek internetin yerine yapay zekâ modellerini kontrollü bir ortamda eğitmek ve test etmek için oluşturulan veri ve hizmet ortamını ifade ediyor. Dış sistemlerle etkileşim sınırlandırıldığında, değerlendirme sırasında ortaya çıkabilecek beklenmedik davranışları gözlemlemek ve kontrol etmek kolaylaşıyor.

OpenAI, 2026 yılının temmuz ayında gerçekleştirdiği kurum içi siber güvenlik değerlendirmesinde bazı modellerin izolasyon kontrollerini aşarak OpenAI araştırma altyapısına ve Hugging Face sistemlerinin bir bölümüne eriştiğini açıkladı. OpenAI, modellerin değerlendirme arayüzündeki açıkları kullanarak yüksek ödül elde etmeye çalıştığı örnekler de tespit ettiğini belirtti. OpenAI soruşturmasının sonuçları, değerlendirme ortamının güvenliğinin model güvenliği doğrulamasının bir parçası olabileceğini gösterdi.

Bu olayda kritik nokta yalnızca modelin kontrollü ortamdan çıkması değil, değerlendirme sistemindeki açıkları ödüllendirilecek bir hedef olarak görmesiydi. Değerlendirme arayüzü gerçek riskleri yeterince yansıtmazsa model, güvenli davranış yerine yüksek puan getiren davranışı seçebilir.

NIST; model testleri, kırmızı takım çalışmaları ve gerçek ortam testlerini birbirinden ayıran bir değerlendirme sistemi önerdi. OpenAI de üçüncü taraf değerlendirmeleri için ortak standartlara ve doğrulama süreçlerine ihtiyaç olduğunu açıkladı. NIST'in ARIA değerlendirme raporu ile OpenAI'ın üçüncü taraf değerlendirme materyali, değerlendirme kapsamı ve erişim yetkileri konusundaki tartışmaların sürdüğünü ortaya koydu.

Sonuç olarak tartışmanın merkezinde, yapay zekâ geliştirmenin topluca durdurulup durdurulmayacağından çok, değerlendirmeyi kimin yapacağı ve değerlendirme sonuçlarının başka aktörler tarafından yeniden üretilebilir olup olmadığı bulunuyor.