Haberler 
Coin Bilgisi 
Hakkımızda 
Cloudflare, 27B parametreli karar verme modeli KLEF ile 9B parametreli KLEF Flash’ı yayımladı ve Workers AI model barındırma hizmetine şirketlere özel uyarlama özelliği ekledi. Modeller serbest metin üretmek yerine seçeneklere göre olasılık döndürüyor; böylece AI ajanlarının talepleri sınıflandırmasına ve sonraki adımı seçmesine yardımcı oluyor.
Cloudflare, iki modeli 1 Ekim’de Workers AI’a ekledi ve ağırlıklarını Apache 2.0 lisansı altında yayımladı. Geliştiriciler modelleri Cloudflare üzerinden kullanabiliyor veya ağırlıkları indirerek kendi ortamlarında çalıştırabiliyor.
Metin ve yanıt üreten standart büyük dil modellerinden (LLM) farklı olarak KLEF modelleri, verilen durum ve sorular için önceden tanımlanmış yanıtların olasılıklarını hesaplıyor. Örneğin bir müşteri talebinin aciliyetini ya da hangi ekibe yönlendirilmesi gerektiğini belirleyebiliyor. Yanıt biçiminin sınırlı olması, ajanın sonucu yeniden yorumlama ihtiyacını azaltıyor. Tek bir istekte doğru-yanlış, seçenek seçimi ve puanlama türlerinde en fazla 64 soru yöneltilebiliyor.
Cloudflare’ın resmi belgelerine göre KLEF, 65.536 tokene kadar bağlamı işleyebiliyor ve metin, JSON, görsel ile video girdilerini kabul ediyor. KLEF Flash ise gecikmenin önemli olduğu görevleri hedefliyor. Her iki model de Typesafe’in Jev ve SystemOne API’leriyle uyumlu.
KLEF modelleri, sohbet odaklı LLM’lerin yerini almaktan çok ajan iş akışlarında sınıflandırma ve yönlendirme görevlerini üstlenmeye yönelik. Bir ajan, tanımlı seçenekler arasından sonraki eylemi seçebilir; ardından başka bir LLM açıklama veya takip işlemi oluşturabilir.
Cloudflare’ın yayımladığı şirket içi Decision Index değerlendirmesinde KLEF, BANKING77 sınıflandırma ölçütünde 94,2 macro-F1 puanı aldı; Jev’nin puanı 79,7 oldu. İstek gecikmesinin medyanı KLEF Flash’ta 38,8 milisaniye, KLEF’te 209,3 milisaniye, Jev’de ise 524,1 milisaniye olarak ölçüldü. Bu değerler Cloudflare’ın kendi değerlendirmesine dayanıyor.
Workers AI belgelerinde listelenen girdi fiyatı, 1 milyon token başına KLEF için 0,24 dolar (yaklaşık 325 won), KLEF Flash için 0,09 dolar (yaklaşık 122 won). Toplam işletme maliyetini karşılaştırırken kullanım miktarı, barındırma koşulları ve göreve göre gereken doğruluk düzeyi de hesaba katılmalı.
Cloudflare ayrıca KLEF’i müşteri işlerine göre uyarlamak için pekiştirmeli öğrenmeye dayalı bir ince ayar hizmeti duyurdu. Şirket, başlangıçta müşterilerle doğrudan çalışacağını, ilerleyen dönemde veri toplamadan ince ayar ve yeniden dağıtıma kadar destek sunan bir self servis platformu kurmayı planladığını açıkladı. Duyuru, şirketin kendi modellerini yayımlamasını ve kurumsal müşterilere özel uyarlama desteği sunmasını kapsıyor.
Yorum 0