Haberler 
Coin Bilgisi 
Hakkımızda 
GPT-6 Astra'nın yalnızca oyun kuralları ve kaynak koduyla oluşturduğu sinir ağı, Brick Breaker'da 517,4 puan aldı. Bu, aynı mimaride 500 milyon adım eğitilen pekiştirmeli öğrenme modelinin puanının yaklaşık 20 katı.
MIT Bilgisayar Bilimi ve Yapay Zekâ Laboratuvarı (MIT CSAIL) araştırmacıları, 2'sinde yayımladıkları araştırma açıklamasında yöntemi “ağırlık uzayı programlama” olarak adlandırdı. Sinir ağı ağırlıkları, girdileri işlemek ve çıktı üretmek için kullanılan sayılardan oluşuyor.
Deneyde araştırmacılar GPT-6 Astra'ya basitleştirilmiş Brick Breaker oyununun kurallarını, kaynak kodunu ve tüm ağırlıkları sıfır olan bir sinir ağını verdi. Ağırlıkları ayarlamak için kullanılacak eğitim verisi sağlamadı.
GPT-6 Astra'ya oyunu önceden çalıştırıp deneme fırsatı da verilmedi. Model, topun nereye düşeceğini hesaplama ve raketi hareket ettirme adımlarını ağırlık değerlerine kodladı.
Araştırmacılar yöntemi Brick Breaker dışında iki oyunda daha değerlendirdi. Bu oyunlarda GPT-6 Astra'nın yazdığı sinir ağı, 500 milyon adım eğitilen modelleri geçemedi.
Ağırlıkları “doğrudan yazmak”, GPT-6 Astra'yı yeniden eğitmek anlamına gelmiyor. GPT-6 Astra başka bir sinir ağında kullanılacak değerleri üretti; araştırmacılar da bu ağı oyunlarda değerlendirdi.
Araştırmacılar oyun deneylerinden ayrı olarak mevcut bir dil modelinin ağırlıklarını değiştirmeyi de denedi. Alibaba'nın Qwen3.5-0.8B modelindeki ağırlıkların %0,016'sı değiştirilince MATH-500 doğruluk oranı %7,9'dan %48,1'e çıktı. Qwen'in ağırlıklarının bir bölümünü değiştirerek matematik değerlendirme puanını yükselten sonucu TokenPost daha önce haberleştirmişti.
Araştırmacıların değiştirdiği sorun, Qwen'in matematik yanıtlarında tekrar tekrar akıl yürütmesine rağmen sonuca ulaşamamasıydı. Model yeniden eğitilmedi; yalnızca ağırlıklarının bir bölümü değiştirildi.
Değişiklik öncesinde matematik sorularına verilen yanıtların %93'ü 32.768 token sınırına ulaşıyordu. Değişiklik sonrasında bu oran %33,1'e geriledi.
Talimatları izleme becerisini ölçen IFEval puanı da %21'den %62,3'e yükseldi. Araştırmacılar, tekrarlayan akıl yürütmenin azaltılmasını iyileşmenin temel nedeni olarak gösterdi.
Yöntem her modelde aynı sonucu vermedi. Araştırmacılar Gemma 3 270M'e uyguladığında matematik performansında belirgin bir iyileşme görmedi.
Daha önce yayımlanan ek deney sonuçlarında Gemma 3 270M'in MATH-500 puanı başlangıçta %6,8 iken değişiklik sonrasında en fazla %7,7 oldu. Araştırmacılar bu sonucu kanıtlanmış bir başarı olarak değerlendirmedi.
Qwen ile Gemma 3 270M arasındaki fark, tekrarlayan akıl yürütme sorununun bulunup bulunmamasıydı. Gemma 3 270M'de bu tekrarlar nadirdi; başlıca sorun aritmetik ve akıl yürütme sürecindeki hatalardı.
Sonuçlar, ağırlıkların bir bölümünü doğrudan düzenlemenin belirli oyun kurallarını uygulayabildiğini ve belirli bir modelde tekrarlayan yanıt sorununu azaltabildiğini gösteren örnekler sunuyor. Brick Breaker dışındaki oyunlarda ve Gemma deneyinde aynı sonuç görülmedi.
Araştırmacıların deneyleri, diğer yapay zekâ modellerindeki performans artışını ya da gerçek geliştirme maliyetleri ve çalışma süresindeki tasarrufu ölçmüyor.
Yorum 0