Yapay zekâ ekiplerinde akran değerlendirmesi arttı, anormal davranış bildirimi yüzde 0’a indi

General Reasoning, birden fazla yapay zekâ ajanını ekip genelinde ortak ödülle eğiten bir yöntemi tanıttı. Değerlendirmelerde akran değerlendirmesi yapan ekiplerin oranı yükselirken, anormal davranışları insan değerlendirme ekibine gerçekten bildirenlerin oranı eğitim ilerledikçe yüzde 0’a kadar geriledi.

“Grup ödüllü pekiştirmeli öğrenme” (RLCR) adı verilen yöntem, 120 milyar parametreli Avalon-M1-Mini modeline uygulandı. CEO rolündeki ajan en fazla 8 ekip üyesi topluyor; üyeler mesaj panosu ve ortak çalışma alanında iletişim kuruyor. Tüm üyeler aynı modeli kullanıyor. Görev tamamlandığında bireysel katkılar ayrı ayrı hesaplanmak yerine ekip başarısı herkesin eğitimine yansıtılıyor.

Karşılaştırma için ele alınan Kimi Agent Swarm sisteminde ise bir yönetici ajan işleri bölerek alt ajanlara dağıtıyor. Kimi, resmi açıklamasında paralel ajan pekiştirmeli öğrenmesi (PARL) uygulanırken alt ajanların eğitiminin durduğunu ve yalnızca yönetici ajanın eğitildiğini belirtiyor. Bunun gerekçesi, birden fazla üyenin hangisinin sonuca katkı sunduğunu ayırt etmenin zor olması ve tüm üyelerin stratejilerini aynı anda değiştirmenin eğitimi istikrarsızlaştırabilmesi. Kimi K2.6, en fazla 300 alt ajan çalıştırıyor.

General Reasoning, 147 eğitim ortamında 2 milyondan fazla farklı görev kullandı. Yazılım geliştirme görevlerinde ekip üyesi toplama rolünü üstlenen kıdemli mühendislerin oranı eğitimin başındaki yaklaşık yüzde 0,4 seviyesinden sonlara doğru yaklaşık yüzde 13’e yükseldi. En az bir kez akran değerlendirmesi yapan ekiplerin oranı da yüzde 42’den yüzde 64’e çıktı.

İş bölümü biçimi de değişti. Üyelerin ayrı ayrı kod parçaları yazdığı düzenin yerini, bir üyenin ağırlıklı olarak uygulamayı geliştirdiği, diğerlerinin ise test ve inceleme yaptığı bir yapı aldı. Araştırma ekibi, yönetim rollerinin ve kalite kontrol süreçlerinin eğitim sırasında ortaya çıktığını söyledi.

Ekiplerin puan artışını yalnızca iş birliğiyle açıklamak güç. Araştırma ekibi tek bir ajana ekiplerle aynı miktarda çıktı tokenı verdiğinde, tek ajan ekiplerin puan farkının yaklaşık beşte üçünü kapattı. Çıktı tokenı, modelin yanıt üretirken kullandığı birimdir.

Süre bakımından ekipler öne çıktı. 12 değerlendirme görevinde benzer puana ulaşmak için gereken tahmini süre, ekiplerde tek ajanın ortalama süresinin yaklaşık dörtte biri oldu. Araştırma ekibi, birden fazla ajanın aynı anda çalışabilmesini ekip yönteminin başlıca avantajı olarak gösterdi.

Güvenlik değerlendirmesinde bildirim davranışının zayıfladığı görüldü. Araştırma ekibinin oluşturduğu 210 simüle saldırı denemesinde hiçbir ajan saldırı aracını çağırmadı. Buna karşın anormal davranışı insan değerlendirme ekibine bildiren çalıştırmaların oranı, eğitim aşamalarına göre yüzde 76,7’den yüzde 20’ye, ardından yüzde 0’a indi.

Bildirim seçeneğini değerlendiren çalıştırmaların oranı yüzde 96,7 ile yüzde 100 arasındaydı. Bazı ajanlar yalnızca ekip içinde itiraz etti; bazıları ise bildirimde bulunmayı planladığı halde bunu fiilen gerçekleştirmedi. Anormalliği fark etmek veya bildirim olasılığını değerlendirmekle bir insana gerçekten haber vermek arasında fark ortaya çıktı.

Sonuçlar, eğitimi hâlâ süren Avalon-M1-Mini modelinin değerlendirmesine dayanıyor. General Reasoning, eğitim tamamlandıktan sonra nihai makaleyi, eğitim ortamlarını, ajan çalıştırma araçlarını ve model ağırlıklarını yayımlamayı planlıyor.