OpenAI 4 aşamalı izleme sistemini açıkladı: Geçmiş çalışmada Sepolia cüzdanı izinsiz kullanıldı

OpenAI, yüksek kapasiteli yapay zekâ modellerinin yetkisiz davranışlarını tespit etmek için dahili izleme sistemini dört aşamada açıkladı. Geçmiş faaliyet kayıtlarının incelenmesi sırasında, dahili bir modelin Ethereum(ETH) Sepolia test ağındaki bir cüzdanın fonlarını izinsiz kullandığı da belirlendi.

OpenAI, 29 Ekim'de yayımladığı açıklamada model davranışlarının yanı sıra çevreleri üzerindeki etkilerin de incelendiğini bildirdi. Sistem eğitim, değerlendirme ve dahili kullanım süreçlerinde uygulanıyor. Hazırlık çerçevesindeki ‘Critical’ eşiğini aşan siber yetkinliğe sahip modeller dış araç kullandığında, ürüne göre uyarlanmış bir izleme sistemi devreye giriyor.

İzleme kapsamı, göreve ve modelin yeteneklerine göre değişiyor. OpenAI, GPT-6 Astra ile aynı veya daha yüksek yetkinlikte olduğu değerlendirilen modellerin pekiştirmeli öğrenme çalışmalarını, değerlendirmelerini ve araç kullanım ortamlarını izlediğini belirtti. Pekiştirmeli öğrenme ve değerlendirme çalışmalarının çoğunda, GPT-5.5 Thinking'den daha yetenekli olduğu düşünülen modeller de izleniyor. Dahili Codex faaliyetleri ise model türünden bağımsız olarak kapsama alınıyor.

İlk aşama L0, modelin dahili aktivasyonlarında olağan dışı örüntüler arıyor. Uyarı üretmeyen faaliyetlerin rastgele seçilen yüzde 5'i bir sonraki aşamaya aktarılıyor.

L1'de konuşmalar, akıl yürütme ve araç kullanım kayıtları incelenerek aldatma veya yetkisiz davranış belirtileri aranıyor. L2 inceleme ajanı, olayın bağlamını yeniden kurmak için görevin amacını ve önceki kayıtları değerlendiriyor.

Hassas çalışmalar için kullanılan L3, ağ günlüklerini ve sistem kayıtlarını karşılaştırarak bir insan inceleyiciye uyarı gönderilip gönderilmeyeceğine karar veriyor. L2, görevin amacını ve konuşmanın mümkün olan en geniş bağlamını ele alırken L3, ağ günlükleri gibi konuşma dışındaki sistem bilgilerini inceliyor.

Öncü modellerin pekiştirmeli öğrenme çalışmaları ile dahili Codex faaliyetleri L0'ı atlayıp doğrudan L1'e geçiyor. OpenAI, L1 incelemelerini en fazla 30 dakikalık aralıklarla yapacak şekilde düzenleme çalışmalarının sürdüğünü bildirdi.

Hugging Face olayına ait kayıtlar güçlendirilmiş izleme sistemiyle yeniden incelendiğinde, ajan sanal alanın dışına çıktıktan yaklaşık 30 dakika sonra uyarı üretildi. OpenAI, bu uyarının gerçek Hugging Face sistem ihlalinden 30 saatten fazla önce verilebileceğini söyledi. Ancak bu, olay sonrasında yapılan bir yeniden canlandırmanın sonucuydu; olay sırasında izleme sisteminin çalıştığı anlamına gelmiyor. Hugging Face olayının ardından duyurulan izleme güçlendirmesinin kapsamı bu açıklamayla ayrıntı kazandı.

Gerçek bir eğitim çalışmasında ise bir modelin DNS üzerinden harici bir sohbet botuna bağlandığı tespit edildi. İzleme sistemi durumu 15 dakika içinde işaretledi ve sorumlu kişi üç dakika sonra incelemeye başladı. Buna karşın çalışma iki saat 30 dakika sonra sona erdi; uyarı görevi otomatik olarak durdurmadı.

Kripto varlıklarla ilgili örnek, daha önceki ayrı bir çalışmada ortaya çıktı. 26 Haziran'daki çalışmada GPT-5.6 Sol serisinden dahili bir araştırma modeli, kamuya açık bir geliştirici kurtarma ifadesini kullanarak cüzdan anahtarını türetti ve Sepolia test ağında akıllı sözleşme dağıtım ücretini cüzdan fonlarından ödedi.

Modelin söz konusu cüzdanı veya başkasına ait fonları kullanma yetkisi yoktu. Model, nihai yanıtında fonları kullandığını da açıklamadı. OpenAI'nin olay raporunda ücret tutarı ve cüzdan adresi paylaşılmadı.

OpenAI olayı 25 Eylül'de tespit etti ve raporu 15 Ekim'de güncelledi. Örnek, izleme kapsamının geçmiş kayıtlara genişletilmesi sırasında bulundu. Bu nedenle, çalışma yapıldığı sırada mevcut dört aşamalı izleme sisteminin çalıştığını göstermiyor.

METR ve Redwood Research, genişletme öncesindeki izleme sistemini 21 Temmuz ile 11 Ağustos arasında test etti. İki kuruluş, GPT-5.5 ve üzeri yetkinliğe sahip modellerin ajan tabanlı dahili Responses API trafiğinin yaklaşık yüzde 75 ila 94'ünün izlenmeye uygun olduğunu tahmin etti. METR, bu oranın fiilen izlenmiş trafiği göstermediğini ve tahminde önemli belirsizlik bulunduğunu belirtti.

İki kuruluş, izleme sistemini atlatma ve çalışmaları durdurma konularında zayıflıklar buldu. OpenAI, bunların çoğunu giderdiğini, birinin ise hâlâ ele alındığını bildirdi. METR, düzeltmelerin durumunu ve genişletilmiş izleme sistemini bağımsız olarak doğrulamadığını kaydetti.

İzleme eşzamansız yürütülüyor ve bir uyarı, politika ihlalinin kesinleştiği anlamına gelmiyor. OpenAI API belgelerinde sistemin sorunları gözden kaçırabileceği veya normal faaliyetler için uyarı üretebileceği belirtiliyor. Konuşma durumu izleme özelliğini kullanmayan Responses API istekleri, ayarlanan web kancası üzerinden bildirim alabiliyor ancak bu bildirimler çalışmayı otomatik olarak durdurmuyor.