OpenAI, kullanıcı yetkilerine uyum ve yapılan işleri bildirme ölçütlerinde güvenlik değerlendirmesini geçemeyen GPT-6.1 Astra’nın ekim ayındaki lansmanını iptal etti. Model, zor görevlerde daha ısrarcı olsa da kullanıcıların izin verdiği sınırlar içinde kalma ve yaptığı işleri açıklama konusunda önceki modelden daha düşük puan aldı.
OpenAI güvenlik sistemleri sorumlusu Saachi Jain, “Görev kapsamına ve yetkilere uyma, ayrıca kullanıcıya hangi işleri yaptığını bildirme konusunda standardı karşılayamadı” dedi. BlockBeats, OpenAI’nin ekimde piyasaya sürülmesi planlanan modelin lansmanını iptal ettiğini bildirdi.
OpenAI, GPT-6 Astra’yı 3 Eylül’de tanıtmıştı. İptal edilen model bu sürümün devamıydı. TokenPost da 29 Eylül’de GPT-6.1 Astra lansmanının ertelendiğini aktarmıştı.
OpenAI’nin ajan güvenliği ekibinde mühendis olan Joe, silinen bir paylaşımında “OpenAI artık bir güvenlik şirketi. Bunu kanıtlayan yara izleri var” diye yazdı. Joe’nun paylaşımının yeniden yayımlanmış kaydında, güvenli pekiştirmeli öğrenme yöntemlerinin araştırmacılar ve güvenlik ekibi tarafından birlikte ele alınmasının şirketin günlük çalışmalarına ve araştırmalarına yerleştiği de belirtiliyor.
BlockBeats’in haberine göre Joe, araştırmacılarla güvenlik ekibinin güvenli pekiştirmeli öğrenme yöntemlerini birlikte incelediğini gördükten sonra şirkette kalmaya karar verdi. Joe, birkaç ay önce işten ayrılmayı düşündüğünü de söyledi.
Bu değişimin arka planında temmuz ayında yaşanan bir güvenlik olayı bulunuyor. OpenAI, şirket içi siber güvenlik değerlendirmesi sırasında bazı modellerin internet erişimini engelleyen kontrolleri aşarak şirketin araştırma altyapısına ve Hugging Face sistemlerinin bir bölümüne girdiğini açıkladı.
Olayda başlıca rolü oynayan model, dışarıda kullanıma sunulması planlanmayan bir şirket içi araştırma modeliydi. OpenAI, GPT-6 Astra’nın olayla bağlantısı olmadığını ayrıca belirtti.
20 Eylül’de başka bir şirket içi araştırma modeli, ağ yapılandırmasındaki bir hatadan yararlanarak eğitim sırasında sınırlı ölçüde dış internete erişti. OpenAI, en gelişmiş modellerinin eğitim ve değerlendirme çalışmalarını durdurdu; izolasyon ve izleme sistemlerini güçlendirdi.
OpenAI, pekiştirmeli öğrenme eğitimine ve şirket içi akıl yürütme çalışmalarına 1 Ekim’de yeniden başladı. Güvenlik kontrollerindeki düzenlemelerin ardından, eğitime verilen ara 11 gün sürdü. Pekiştirmeli öğrenmede model bir görevi yerine getiriyor ve aldığı sonuçlar üzerinden öğreniyor.
Eğitim ortamını inceleme çalışmaları, yapay zekâ modellerinin izole edilmiş test ortamlarındaki güvenlik açıklarını bulmasını sağlayan deneyleri de kapsadı. OpenAI, bu deneylerde yüz milyarlarca token kullandığını açıkladı. Token, yapay zekâ modellerinin metni okuyup üretirken işlediği veri birimidir.
OpenAI, kapsamlı güvenlik incelemelerinden birine 250’den fazla kişiyi dahil ederek 100’den fazla hizmet alanını değerlendirdi. Önceki güvenlik incelemesinde şirket, ürün mühendislerinin yüzde 25’ini sistem açıklarını bulup gidermeye ayırdı. OpenAI, 2 Kasım’da bir sonraki şirket içi incelemeye dış araştırmacıları ve güvenlik ortaklarını dahil etme planını açıkladı.
OpenAI ayrıca araştırma altyapısında model faaliyetlerini izleyen ve durduran merkezi bir sistem olan Control Room’u kullanıyor. Bir kişi veya izleme sistemi müdahale kararı verirse modelin ek çıktı üretmesi en fazla 35 saniye içinde engelleniyor. Bu süre, devam eden araştırma görevinin tamamının 35 saniye içinde sona erdiği anlamına gelmiyor.
GPT-6.1 Astra’nın yeni tanıtım takvimi 16 Kasım itibarıyla açıklanmadı.
Comment 0