Toast 1 duyuruldu: Mixedbread'in LLM arama ajanı

Mixedbread, büyük dil modellerinin (LLM) yanıt üretmeden önce ihtiyaç duyduğu veriyi bulup kaynak seçen bir arama ajanı olan Toast 1'i tanıttı. Ürün, GPT ve Claude gibi ana modellerin yanıt üretme görevini, arama ve kaynak seçme görevinden ayıran bir yapı sunuyor.

BlockBeats'e göre Mixedbread, Toast 1'i API üzerinden açtı; ürün başka ajanlara bağlanarak arama ve veri toplama işini üstlenebiliyor. Arama çerçevesi açık kaynak olarak paylaşıldı, ancak model ağırlıkları henüz yayımlanmadı.

Toast 1'in odağı yanıt üretmek değil, arama yapmak. Kullanıcının sorusunu işleyen ana model veriyi doğrudan aramak yerine, gereken belge ve kaynakları önce Toast 1 filtreliyor, sonucu ana modele aktarıyor. Bu yapı, üretken yapay zeka servislerinde maliyet ve yanıt kalitesinin büyük ölçüde arama aşamasına bağlı olmasını hedef alıyor.

Mixedbread, Toast 1'in arama kalitesinin öncü kapalı modellere yakın seyrettiğini, buna karşın hız ve fiyat tarafında rekabetçi kaldığını belirtti. Harvey hukuk bilgi tabanı testinde Toast 1 aramayı üstlendiğinde GPT-5.6 Sol'un yanıt puanı korundu, toplam maliyet ise yüzde 60'ın üzerinde geriledi.

Databricks OfficeQA Pro V2 değerlendirmesinde GPT-5.6 Sol ve Toast 1 kombinasyonu yüzde 70 skor elde etti. Aynı veride Claude Fable 5 ve Genie kombinasyonu yüzde 60'ta kaldı; Toast 1'li kombinasyonun maliyeti ise bu rakamın yarısının altında gerçekleşti.

Mixedbread'in resmi dokümantasyonu da arama odaklı ajanların kullanımını benzer şekilde açıklıyor. Şirket, Agentic Search dokümanında tek bir aramayla yanıtlanması zor soruların birden çok alt aramaya bölündüğünü, sonuçların yeniden değerlendirilip son adayların seçildiğini belirtiyor. Mixedbread, bu özelliğin standart aramaya göre daha yavaş ve maliyetli olabileceğini, ancak kalitenin öncelikli olduğu sorgularda 'uygun' bir seçenek sunduğunu ifade ediyor.

Bu çıkış, yapay zeka modelleri arasındaki rekabetin yanıt üretme becerisinden arama ve arama destekli üretim (RAG) altyapısına doğru genişlediğini gösteriyor. TokenPost'un daha önce aktardığı bir örnekte ajan tipi aramanın ürün keşfine uygulanması da benzer bir eğilime işaret ediyor; yapay zekanın koşul ve bağlamı yorumlayarak adayları daraltma biçimine ilgi sürüyor.

Büyük dil modelleri; kurumsal belgeler, hukuki metinler ve mali veriler gibi kaynağın doğrulanmasının kritik olduğu içeriklerle çalıştıkça, arama katmanının performansı ve maliyet yapısı hizmet kalitesini doğrudan etkiliyor. Ancak Toast 1'in model ağırlıkları henüz paylaşılmadığından, dış geliştiricilerin modeli kendi ortamlarında doğrudan test etmesi ya da değiştirmesi şimdilik sınırlı kalıyor.