ChatGPT, Claude, Gemini ve Grok dâhil dört üretken yapay zekâ hizmeti, ABD hükümetinin kapalı testinde saldırılarda kullanılabilecek bilgiler sundu. Araştırmacılar, her bir hizmetten yararlanarak plan oluşturmanın 12 saatten kısa sürdüğünü bildirdi.
ABD Hükümet Hesap Verebilirlik Ofisi (U.S. Government Accountability Office, GAO), 18 Kasım'da yayımladığı raporda 2026 baharında yapılan testin sonuçlarını açıkladı. GAO raporu
GAO, iki hizmete çok sayıda kişinin ölmesini hedefleyen doğaçlama patlayıcı düzenek (IED) senaryosu, diğer iki hizmete ise elektrik şebekesine saldırı senaryosu verdi. Hangi hizmetin hangi senaryoya atandığı açıklanmadı.
Araştırmacıların önceden hazırladığı sorularla dört hizmetin hiçbiri zararlı bilgi üretmedi. Ancak yanıtların ardından soruları uyarlayarak devam ettiklerinde saldırıda kullanılabilecek bilgiler ortaya çıktı.
İsteklerin reddedilmesi, sohbet içeriğinin silinmesi ve hesapların askıya alınması gibi güvenlik önlemleri de devreye girdi. GAO, araştırmacıların devam sorularıyla bu önlemleri aşarak bilgi edindiğini belirtti.
GAO'nun ölçtüğü şey, bilgilerin 'uygulanabilirliği' oldu. Bu, bir kişinin sağlanan bilgilerden yararlanarak planı gerçekleştirme ihtimalini ifade ediyor; gerçek bir saldırının başarıya ulaşabileceğini kanıtlamıyor.
GAO gerçek bir saldırı düzenlemedi veya patlayıcı üretmedi. İnceleme ve uzman değerlendirmelerinin ardından güvenli biçimde doğrulanabilecek bazı aşamaları ele aldı. Planları değerlendirirken model yanıtlarının yanı sıra araştırmacıların muhakemesinden ve dış kaynaklardan da yararlandı.
Raporda, ilgili bilgilerin önemli bir bölümünün internette zaten açıkça yayımlandığı da belirtildi. GAO, açık bilgileri bir araya getirip plan biçiminde düzenlemenin birkaç saat sürdüğüne dikkat çekti.
Sonuçlar hizmetler arasında bir güvenlik sıralaması yapılmasına imkân vermiyor. Her hizmette farklı senaryolar denendi ve örneklem istatistiksel açıdan anlamlı değildi. GAO, test sonuçlarının birbiriyle karşılaştırılamayacağını kabul etti. Testler belirli bir dönemde yapıldığı için mevcut modellerin tamamının performansını gösterdiği şeklinde de yorumlanamaz.
Anthropic, örneklemin küçük ve karşılaştırma grubunun bulunmaması nedeniyle hizmetleri değerlendirmenin zor olduğunu belirtti; testten sonra güvenlik önlemlerini genişlettiğini açıkladı. GAO da örneklemin sınırlı olduğunu ve hizmetlerin doğrudan karşılaştırılamayacağını kabul etti.
Google, Nisan 2026'daki testte önceki bir modelin kullanıldığını bildirdi.
OpenAI, testte ChatGPT'nin önceki bir sürümünün kullanıldığını açıkladı. Şirket, GPT-6 Astra ile o dönemde incelemeye alınan 325 yanıtın dayandığı istemleri yeniden çalıştırdığını ve kendi politika standartlarını karşılamadığını düşündüğü 3 yanıtla bağlantılı istemleri reddettiğini bildirdi. Yeniden çalıştırmada ret yanıtları ve güvenli alternatif yanıtlar genel olarak arttı.
OpenAI, raporun ChatGPT yanıtlarıyla araştırmacıların sağladığı bilgileri, dış kaynakları ve kendi analizini her zaman açık biçimde ayırmadığını savundu. GAO, araştırmacıların deneyiminden ve dış kaynaklardan yararlanıldığını kabul ederken hizmetlerin saldırıda kullanılabilecek bilgiler sunduğu sonucuna vardı.
SpaceXAI, önceden hazırlanan sorularla dört hizmetin hiçbirinden zararlı bilgi alınmadığını, bilgilerin ancak sonrasında düşmanca sorular yöneltilince elde edildiğini belirtti. Testte ABD'deki ücretli hesapların kullanıldığını bildiren şirket, testin ardından model eğitimi ile ayarlama ve inceleme süreçlerini geliştirdiğini öne sürdü.
OpenAI, 30 Ekim'de ChatGPT'nin 18 yaşından küçük kullanıcılara silahlar ve güvenlik sistemleri hakkında pratik bilgi sunmasını sınırlandıracağını, her yaştan kullanıcıya geçmişteki büyük çaplı saldırıları yeniden kurgulamaya yarayabilecek ayrıntıları azaltacağını duyurmuştu.
Daha önce ABD merkezli kâr amacı gütmeyen Dijital Nefretle Mücadele Merkezi (Center for Countering Digital Hate, CCDH), CNN araştırma ekibiyle birlikte genç kullanıcıları taklit ederek 10 sohbet botunu test etti. Kurum, bunlardan 8'inin şiddet planlamasına yardımcı olan yanıtlar verdiği durumlar bulunduğunu açıkladı. Test edilen hizmetler ve soru yöntemleri GAO'nunkinden farklı olduğundan iki araştırma aynı ölçütlerle karşılaştırılamaz. CCDH araştırması
ABD Senatörü Maggie Hassan, “Kongre, yapay zekâ güvenliği tehditlerini ele alan yasaları hızla inceleyip kabul etmeli” dedi. Hassan, yeni Kongre döneminde Senato İç Güvenlik ve Hükümet İşleri Komitesi'nin oturumlarından birini yapay zekâ güvenliğine ayıracağını açıkladı. GAO raporunda politika önerisi yer almadı. Hassan'ın açıklaması
Comment 0