Geliştirme değerlendirmesinde başarı 3/6'dan 6/6'ya çıktı: NVIDIA'nın yapay zekâ asistanı talimatı güncellendi

NVIDIA'nın yayımladığı bir uygulamada, kodlama ajanı sanal bir şirkete ait yapay zekâ asistanının mesaj gönderme talimatını değiştirdikten sonra geliştirme değerlendirmesindeki başarı 3/6'dan 6/6'ya çıktı.

NVIDIA ($NVDA), 4 Kasım'da teknoloji blogunda bir eğitim yayımladı. Eğitimde ajanın çalıştırma kayıtlarındaki sorunların değerlendirme maddelerine dönüştürülmesi, talimatların güncellenmesi ve sonuçların karşılaştırılması gösterildi. Bu, yeni bir ürün lansmanı değil; açık araçlarla hazırlanan bir uygulama örneği.

Uygulamadaki yapay zekâ asistanı, sanal bir şirketin işlerine yardımcı oluyordu. Proje durumunu içeren bir mesaj taslağı istenen asistan taslağı hazırladı, ancak kullanıcıdan onay almadan gönderme aracını çağırdı. NVIDIA, bu olayı içeren 42 ajan çalıştırma kaydını inceledi.

NeMo Compass, kayıtlı çalıştırma izlerinde tekrarlanan sorunları; olağan dışı davranışları, araç kullanımındaki problemleri ve ETHOS.md'de belirtilen davranış ölçütlerinden sapmaları buluyor. Bu uygulamada, kullanıcı onayı olmadan mesaj gönderilmesi sorun olarak belirlendi.

NeMo Eval Author, sorunu yeniden üretecek değerlendirme görevleri ve geçiş durumunu belirleyecek doğrulayıcılar hazırlamak için kullanıldı. Uygulamada Harbor üzerinde dört değerlendirme oluşturuldu.

Ardından kodlama ajanı, Hermes ajanının talimatları için bir değişiklik önerdi. Buna göre mesaj yazması veya hazırlaması istendiğinde asistan yalnızca taslak oluşturacak, mesajı gerçekten göndermeden önce kullanıcı onayı alacaktı.

Geliştirme kümesinde iki değerlendirme görevi vardı ve her görev üç kez çalıştırıldı. Başarı sayısı 3/6'dan 6/6'ya çıkarken araç çağrısı sayısı 10'dan 6'ya indi.

Ayrılmış test kümesinde de iki görev üçer kez çalıştırıldı. Başarı sayısı 4/6'dan 6/6'ya yükseldi; araç çağrısı sayısı 28'den 15'e düştü. Bu kümedeki değerlendirme materyalleri, değişikliği öneren kodlama ajanına gösterilmedi.

Her kümede yalnızca iki görev ve toplam altı çalıştırma bulunuyordu. NVIDIA, gerçek kullanımda çalışan ajanlar için daha geniş kapsamlı değerlendirme maddeleri gerektiğini belirtti. Bu sonuçlar, başka görevlerde veya ajanlarda aynı ölçüde iyileşme olacağını göstermiyor.

Ajan altyapısı, modelin konuşma durumunu korumasına, araç seçmesine ve görevin tamamlanıp tamamlanmadığına karar vermesine yardımcı olan yürütme yapısıdır. Uygulama, modeli yeniden eğitmek yerine çalıştırma kayıtlarındaki sorunları bulup değerlendirmeleri ve talimatları ayarlayarak sonuçları kontrol etme sürecini gösteriyor.

Salesforce araştırmacıları da daha önce model ağırlıklarını değiştirmeden ajan altyapısını ayarlayarak web görevlerindeki başarı oranını artıran bir örnek sunmuştu. NVIDIA'nın uygulaması ise çalıştırma kayıtlarındaki bir sorunu değerlendirme maddesine dönüştürmeye ve talimat değişikliğinin sonucunu yeniden ölçmeye odaklandı.

NVIDIA ayrı bir örnek olarak Dassault Systèmes'in LEO ajanını da tanıttı. Araç kapısı tasarlama iş akışında, QueryModel parametresinin options alanı dışında yer aldığı hatalı araç çağrılarının sayısı 142'den sıfıra indi.

NVIDIA'nın yaklaşık 12 saatlik uygulamasında, altı senaryonun toplam değerlendirme puanı göreli olarak yüzde 28 arttı; çalıştırma başına araç çağrısı yüzde 35 azaldı. Bu ölçümler Dassault Systèmes'in tüm ajanlarını değil, söz konusu tasarım iş akışının değerlendirme sonuçlarını kapsıyor.

NeMo Compass ve NeMo Eval Author'ın herkese açık depolarında her iki araç da Research preview olarak işaretlenmiş durumda. Compass deposu aracın gerçek kullanım için tasarlanmadığını belirtiyor. Eval Author deposu ise oluşturulan değerlendirme örneklerinin, puanlayıcıların ve kapsam analizlerinin kullanılmadan önce incelenmesini öneriyor.

NVIDIA, talimatlar değiştirildikten sonra çalıştırma kayıtları yeniden incelendiğinde kullanıcı onayı olmadan mesaj gönderme sorununun artık raporlanmadığını söyledi. Buna karşılık, bazı yanıtların aramayla getirilen kanıtlara bağlanmaması şeklinde yeni bir sorun ortaya çıktı.