Cloudflare’dan yapay zekâ karar modelleri: Clef’in medyan gecikmesi 209,3 milisaniye

Cloudflare, yapay zekâ ajanları için Clef ve Clef-flash adlı karar modellerini tanıttı. Modeller metin üretmek yerine seçeneklere göre olasılık döndürüyor; sınıflandırma ve görev yönlendirme için tasarlandı.

Cloudflare, 1 Ekim’de resmi blogunda iki modeli çıkarım platformu Workers AI’a eklediğini ve model ağırlıklarını Apache 2.0 lisansı altında yayımladığını duyurdu. Şirket ayrıca müşterilerin Clef’i kendi iş akışlarına göre ince ayarlamasını sağlayan bir pekiştirmeli öğrenme hizmeti sundu.

Karar modelleri girdileri önceden belirlenmiş kategorilere ayırıyor ve her seçenek için olasılık veriyor. Örneğin bir müşteri talebinin aciliyetini veya hangi ekibe yönlendirileceğini değerlendirerek biletleri sınıflandırabiliyor ya da ilgili kişiye aktarabiliyor. Bu yaklaşım, serbest biçimli yanıt üretip ardından yanıtı yorumlamak yerine belirli seçenekleri doğrudan değerlendiriyor.

Cloudflare’ın tehdit istihbaratı ekibi, Clef’i web sitesi alan adlarını sınıflandırmak için kullandı. Şirketin paylaştığı örnekte model, bir alan adının moda sitesi olma olasılığını yüzde 95, e-ticaret sitesi olma olasılığını yüzde 85 olarak değerlendirdi; kimlik avı sitesi olma olasılığını ise yüzde 1’in altında buldu. Siteyi yükleme, görüntüleme ve sınıflandırma işlemi 2,2 saniye sürdü. Aynı görevde genel amaçlı gpt-oss-120b modeli 4,7 saniyede tamamladı ve yalnızca iki sınıflandırma sonucu döndürdü.

Cloudflare’ın yayımladığı Jev Decision Index değerlendirmesinde Clef’in medyan gecikme süresi 209,3 milisaniye, Clef-flash’ınki 38,8 milisaniye oldu. Karşılaştırma ölçütü Jev ise 524,1 milisaniye kaydetti. Şirket, Clef’e görüntü sınıflandırmasını destekleyen bir görüntü kodlayıcı eklediğini ve bağlam uzunluğunu 64 bin tokene çıkardığını açıkladı. Bu değerler, şirketin yayımladığı kıyaslama sonuçlarıdır.

Yapay zekâ ajanlarının kimlik doğrulaması yapıp ödeme gerçekleştirmesini destekleyen altyapıyı tanıtmasının ardından Cloudflare, bu kez ajanların sınıflandırma ve karar görevlerinde kullanabileceği modelleri ve ince ayar araçlarını sundu. Şirket, bunların kurum içinde güven ve emniyet bildirimlerini inceleme, müşteri destek taleplerini sınıflandırma ve tarayıcıların meşru olup olmadığını belirleme gibi işlerde kullanılabileceğini belirtti.

Clef ve Clef-flash, seçeneklerin önceden tanımlandığı sınıflandırma görevlerine odaklanıyor. Ayrıntılı açıklama veya serbest metin üretimi gerektiren işler farklı bir kullanım alanı oluşturuyor. Cloudflare, ilk aşamada dağıtım mühendislerinin modelleri müşterilerin iş akışlarına göre uyarlamasını destekleyecek. Şirket, ilerleyen dönemde müşterilerin verileri toplayıp modelleri doğrudan ince ayarlayabileceği ve yeniden dağıtabileceği bir platforma genişlemeyi planlıyor.