OpenAI, Model Spec’i 5 değer etrafında yeniledi; model için “GPT” adını kullandı

OpenAI, yapay zekâ modellerinin davranış standartlarını belirleyen Model Spec’i beş değer etrafında yeniden düzenledi ve belgede modeller için kullanılan “assistant” ifadesini “GPT” olarak değiştirdi. Güncellenen metin, kullanıcı niyeti ile insan denetimi ve karar yetkisine ilişkin ölçütleri netleştirirken ayrıntılı üslup talimatlarının çoğunu çıkardı.

OpenAI, güncellenmiş Model Spec’i 29’unda resmî blogunda yayımladı. Belge, ChatGPT ve API’de kullanılan modellerin nasıl davranması gerektiğini açıklayan kamuya açık bir standart niteliği taşıyor.

Yeni metindeki beş değer; insan niyetine sadakat, zararı en aza indirme, dürüstlük ve şeffaflık, insan iradesi ve özen olarak sıralanıyor. OpenAI, açık talimatların yanıtı belirlemeye yetmediği durumlarda da modellerin insanların niyet ve değerlerini dikkate almasına yönelik ilkeleri bir araya getirdi.

Her değer, modelin karar verirken gözetmesi gereken ölçütleri açıklıyor. Zararı en aza indirme, güvenlik sınırlarına uymayı ve olası sonuçları değerlendirmeyi kapsıyor. Dürüstlük ve şeffaflık, modelin bildiklerini, bilmediklerini ve gerçekte yaptıklarını doğru biçimde aktarmasına odaklanıyor. İnsan iradesi ilkesi, insanların konuyu anlayıp kendi seçimlerini yapmalarına yardımcı olmayı; özen ilkesi ise yanıtların etkileyebileceği kişilerin koşullarını dikkate almayı öngörüyor.

İnsan niyetine sadakat, talimatları yalnızca kelimesi kelimesine uygulamak anlamına gelmiyor. İş tekliflerini karşılaştıran bir örnekte model, kullanıcının daha önce belirttiği “öngörülebilir çalışma saatleri” tercihini hesaba katabilir. Ancak bu varsayımı açıkça belirtmeli ve kullanıcının kolayca düzeltmesine imkân tanımalı. Kullanıcıyı sessizce belirli bir seçeneğe yönlendirmemeli veya onun yerine karar vermemeli.

Eklenen “bağlamı dikkatle değerlendir” ilkesi, konuşmalardan, hafızadan ve dosyalardan edinilen bilgilerin mevcut istekle ilgili olup olmadığının incelenmesini istiyor. Modelin bilginin kaynağını, kapsamını ve güncelliğini değerlendirmesi; gizliliğe ve kullanıcının denetim hakkına saygı göstermesi gerekiyor. Bu ölçüt, geçmiş konuşmaların bağlamından koparılarak mevcut talimat gibi ele alınmasını önlemeyi amaçlıyor.

İnsan denetimine ilişkin ilkeler de genişletildi. Modelin meşru denetim ve düzeltmelere uyması, davranışlarının, belirsizliklerinin ve hatalarının denetçiler tarafından anlaşılabilmesini sağlaması bekleniyor. Talimatlar çatıştığında OpenAI sınırları belirliyor; geliştiriciler bu sınırlar içinde uygulamaya, kullanıcılar da aynı çerçevede modele görev veriyor.

Buna karşılık yanıtların üslubunu ayrıntılı biçimde belirleyen talimatların çoğu kaldırıldı. Belgede ifade biçiminin dile, kültüre, kişisel tercihlere ve geri bildirimlere göre değişebileceği belirtiliyor. Kullanıcılar veya geliştiriciler belirli bir bakış açısı isteyebilir; ancak modelin, kullanıcının duymak isteyeceğini varsayarak bu bakış açısını kendiliğinden seçmemesi ilkesi korunuyor.

Model Spec’in rolü, kullanım politikalarından ve güvenlik protokollerinden farklı. OpenAI, Model Spec’in modelden beklenen davranışları açıkladığını; kullanım politikalarının ChatGPT ve API kullanıcılarına uygulanan kuralları, güvenlik protokollerinin ise riskleri test etme, izleme ve azaltma süreçlerini kapsadığını belirtiyor.

Belgede “assistant” yerine “GPT” kullanılması, modelin veya ChatGPT’nin ürün adının değiştiği ya da yeni bir modelin yayımlandığı anlamına gelmiyor. Güncellenen Model Spec, ürünlerde ve API’de kullanılan modellerden beklenen davranışları açıklıyor.

OpenAI, mevcut modellerin yeni ölçütleri henüz bütünüyle yansıtmadığını da belgede belirtiyor. Şirket, temel değerleri modellere kazandıracak eğitim yöntemleri üzerinde çalıştığını, ilgili sonuçları ve öğrendiklerini ilerideki güncellemelerde paylaşacağını bildirdi.