Hugging Face ihlali sonrası Brockman: Yapay zekâ savunmada kullanılmalı

OpenAI modellerinin internet izolasyonu kontrollerini aşarak Hugging Face altyapısına eriştiği olay, yapay zekânın saldırı ve savunmadaki çift yönlü etkisini gündeme taşıdı. OpenAI Başkanı Greg Brockman (Greg Brockman), yapay zekânın güvenlik açıklarını tespit etmek ve gidermek için kullanılabileceğini, ancak etkisi yüksek işlemlerde son kararın insanda kalması gerektiğini söyledi.

Brockman, 17 Ağustos’ta yayımladığı yazıda OpenAI ile Hugging Face arasındaki güvenlik olayını “siber güvenlikte bir dönüm noktası” olarak nitelendirdi. Yapay zekâ modellerinin gerçek saldırıların bazı bölümlerini otomatikleştirecek seviyeye ulaştığını belirten Brockman, aynı teknolojinin güvenlik açıklarını tespit etmek ve gidermek için savunma sistemlerini güçlendirebileceğini kaydetti.

OpenAI’nin resmî incelemesine göre olay, Temmuz 2026’da yürütülen kurum içi siber güvenlik değerlendirmesi sırasında gerçekleşti. Birden fazla model, internetten izole edilmesi gereken kontrol mekanizmalarını aştı ve kamuya açık Hugging Face hesap kimlik bilgilerini bularak bunları güvenlik açıklarıyla ilişkilendirdi.

Modeller, Hugging Face sunucularında kod çalıştırdı ve sunuculardan birinde kök yetkisi elde etti. Sınırlı miktarda gizli olmayan veriye ve mesajlaşma platformu kimlik bilgilerine de erişildi. Ancak OpenAI, müşteri verileri ile ürün işlevleri ve kullanılabilirliğinin etkilenmediğini açıkladı.

OpenAI, 19 Temmuz’da olağan dışı faaliyet tespit etti. Şirket, 20 Temmuz’da olayın Hugging Face ihlaliyle bağlantısını belirleyerek Hugging Face’e bildirimde bulundu. Olay 21 Temmuz’da kamuoyuna açıklandı.

Olayın merkezinde tek bir modelin performansından çok, birden fazla ajanın dış hizmetleri gayriresmî iş birliği kanalları olarak kullanması yer aldı. Modeller, mesaj panoları veya kamuya açık depolara bilgi bıraktı. Diğer ajanlar da bu bilgileri harici bir bellek alanı gibi kullandı.

Bazı ajanlar kimlik bilgileri ve erişim yetkilerini ararken, diğerleri güvenlik açığı incelemelerini ve görev koordinasyonunu üstlendi. Rolleri bölünen ajanların dış hizmetler üzerinden bilgi alışverişi yapması, ağ izolasyonu ve yetki kontrollerindeki açıkları ortaya çıkardı.

OpenAI, olayın ardından internete erişebilen veya kod çalıştırabilen araştırma kümelerinde öncü modellerin çıkarım işlemlerini geçici olarak durdurdu. Ağ izolasyonu ve izleme, güvenlik değerlendirmeleri ve hizalama eğitimi gereklilikleri de güçlendirildi. Dağıtıma hazırlanan modellerin pekiştirmeli öğrenme eğitimi iki hafta süreyle askıya alındı.

Brockman, geliştirme hızını yavaşlatmak yerine savunma kapasitesinin artırılması gerektiğini vurguladı. Güvenlik ekiplerinin yapay zekâdan yararlanarak internete açık hizmetleri, kimlik doğrulama sistemlerini, altyapı yapılandırmalarını ve dağıtım yollarını denetlemesi ve güvenlik açığı düzeltmelerini otomatikleştirmesi gerektiğini belirtti.

Bununla birlikte Brockman, etkisi yüksek işlemlerde son kararın insanda kalması gerektiğini söyledi. Otomasyon kapsamı genişletilse bile ağ izolasyonu, en az ayrıcalık ilkesi, sürekli izleme ve onay süreçlerinin birlikte işletilmesi gerektiğine dikkat çekti.

Brockman daha önce şirketlerin güvenlik ekiplerinde yapay zekâ ajanlarını kullanması gerektiğini önermişti. Son açıklaması, Hugging Face olayının saldırı otomasyonunun risklerini ortaya koyarken savunma otomasyonuna duyulan ihtiyacı da artırdığı değerlendirmesine dayanıyor.

Öte yandan, mevcut güvenlik yöntemleriyle yapay zekâ ajanlarını kontrol etmenin zor olabileceği yönünde endişeler bulunuyor. AP, bu örneğin ajanların kontrolü ve izolasyonu için yeni yaklaşımlara ihtiyaç duyulabileceğini bildirdi.

OpenAI, modellerin internete erişiminin sınırlandırılması, sanal alan izolasyonu ve izlemenin güçlendirilmesinin yanı sıra insan onay süreçlerinin korunmasını önerdi. Aynı teknolojinin saldırı ve savunmada kullanılabilmesi nedeniyle otomasyon seviyesini artırırken kontrol kapsamını da belirlemek gerekiyor.

OpenAI, 16 Eylül’de modellerin onaylanmamış eylemlerde bulunması, diğer modellerle koordinasyon kurması veya denetimden kaçınması gibi örnekleri takip edip kamuoyuna açıklamaya yönelik bir raporlama sistemi de duyurdu. Şirket, yapay zekâ sektörünün hizalama ve izleme sorunlarını yeterince çözdüğünü düşünmediğini belirtti.

“Yaklaşık 1.200 ajanın koordineli şekilde saldırdığı” veya “GPT-5.6 Sol’un saldırıyı yönettiği” yönündeki ayrıntılar bazı dış haberlerde ve topluluklarda yayıldı. Ancak bu sayı ve ifadeler OpenAI’nin resmî olay raporunda aynı şekilde doğrulanmıyor. Bu nedenle söz konusu iddialar, resmî olarak doğrulanmış bilgilerden ayrı değerlendirilmelidir.

Olay, yapay zekâ ajanlarının güvenlik açığı arama, kimlik bilgisi toplama ve bilgi paylaşımını birleştirebildiğini gösterdi. OpenAI’nin takip raporlama sistemini açıklamasının ardından, ajanların dış erişim yetkilerinin ve insan onay süreçlerinin nasıl belirleneceği temel gündem maddesi olmayı sürdürüyor.