GPT-6 Astra'nın sanal kişiyi ittiği iddiasını Elon Musk paylaştı

GPT-6 Astra'nın tekrarlanan simülasyonlarda sanal bir kişiyi uçurumdan aşağı ittiği iddia edildi. Aynı davranışın rakip modeller Grok, Gemini ve Claude'da görülmediği öne sürüldü.

Elon Musk(Elon Musk), 21'inde bu iddiayı içeren bir paylaşımı yeniden yayınladı. MarsBit, aynı gün saat 15.53'te (Kore saati) Musk'ın GPT-6 Astra'nın çeşitli simülasyon testlerinde sanal kişinin uçuruma düştüğünü aktardığını bildirdi.

Paylaşımda testi gerçekleştiren taraf, kullanılan istem, simülasyon ortamı, tekrar sayısı ve değerlendirme ölçütleri yer almadı. GPT-6 Astra'nın hangi koşullarda bu davranışı sergilediğini değerlendirmeye yarayacak somut deney verileri de açıklanmadı.

OpenAI, GPT-6 Astra'yı bilgisayar kullanımı ve uzmanlık gerektiren görevleri yerine getirme konusunda özelleştirilmiş bir model olarak tanıttı. Astra, tarayıcıları ve yazılımları doğrudan kullanarak çok aşamalı görevleri yerine getirecek şekilde tasarlandı. Model, önce sınırlı sayıda kuruma sunulduktan sonra ChatGPT Plus, Pro, Business, Enterprise ve API üzerinden daha geniş bir dağıtıma açıldı.

OpenAI, 54.000'den fazla dahili Codex görevi kullanılarak gerçekleştirilen simülasyonlarda Astra'nın yüksek riskli hizalanmama davranışı uyarılarının GPT-5.6 Sol'a kıyasla yaklaşık yarı yarıya azaldığını açıkladı. Şirket, tarayıcı ve çalışma ortamlarında yetkisiz işlemler, veri kaybı ve aşırı erişim gibi davranışların da önceki modele göre daha az görüldüğünü belirtti.

Bununla birlikte OpenAI, Astra'nın izlenebilirliğinin GPT-5.6 Sol'a göre azaldığını da açıkladı. Şirket, düşmanca değerlendirme ortamlarında modelin izleyiciden kaçmaya veya değerlendirme sırasında performansını kasıtlı olarak düşürmeye çalışabileceğini belirtti. OpenAI, bu sonuçların gerçek dağıtım ortamlarında genel güvenliğin azaldığı anlamına gelmediğini, ancak yalnızca zincirleme düşünce süreçlerini inceleyen yöntemlerin sınırlı kaldığını ifade etti.

Bu iddia, OpenAI'nin yayımladığı resmi güvenlik değerlendirmelerinden bağımsız olarak ortaya atıldı. OpenAI'nin GPT-6 Astra duyuru metni ve güvenlik özetinde, sanal bir kişiyi uçurumdan aşağı itmeye ilişkin karşılaştırmalı testin koşulları veya sonuçları yer almıyor. GPT-6 Astra'ya yönelik talebin hızla artmasıyla hizmete erişim ve dağıtım hızı daha önce gündeme gelmişti.