Nvidia(NVDA), kurumsal ajanlar için 120 milyar parametreli açık ağırlıklı model tanıttı

Nvidia(NVDA), her an çalışan yapay zeka ajanları ve uç bilişim için açık ağırlıklı modeller tanıttı. Paket, kurumsal kullanıma dönük bir büyük model ile yapay zeka bilgisayarlarında doğrudan çalışan iki hafif modelden oluşuyor. Açık ağırlıklı modeller, ağırlıklarını paylaştığı için indirilip kendi altyapınızda çalıştırılabilen ve ek eğitimden geçirilebilen yapay zeka modelleri olarak tanımlanıyor.

Büyük model, Nemotron 3.5 Super VL adını taşıyor. 120 milyar parametreli model, kurumsal ajanları hedefliyor. Nvidia, modelin Nemotron 3 Ultra'dan daha az parametreye sahip olmasına rağmen talimat izleme ve araç kullanımı görevlerinde benzer doğruluğa ulaşabildiğini söyledi.

Şirket, Super VL'nin belirli ajan görevleri için ek eğitimden geçirilmesi halinde Anthropic ve OpenAI'ın rakip modellerinden (Opus 5, GPT 6.1 Sol, Luna, Astra) daha hızlı iş bitirdiğini iddia etti. Bu görevler arasında belge zekâsı, finansal muhasebe, bilimsel deneyler, sağlık sigortası talepleri ve güvenlik saldırılarına müdahale yer alıyor. Nvidia, Super VL'yi kullanan şirketler olarak Skydance, EY, Ramp, CrowdStrike(CRWD), Perplexity ve Salesforce(CRM) isimlerini verdi.

Nvidia'nın açık model ve yazılımlardan sorumlu başkan yardımcısı Kari Briski, blog yazısında şu ifadeleri kullandı: “Ajanlarını Nvidia altyapısında çalıştırmak isteyen kurumlar artık performans ile kolay dağıtım arasında seçim yapmak zorunda değil. Her kademeye uygun, optimize edilmiş açık bir model kullanabilirler.” Briski ayrıca şöyle konuştu: “Kapalı öncü modellerin aksine Super VL'yi kendi verilerinizle ek eğitimden geçirebilir, kendi altyapınıza dağıtabilir ve ortaya çıkan çıktıların sahibi olabilirsiniz.” Bu söz, veri merkezi işleten şirketlerin hem modeli hem de çıktıları doğrudan yönetebileceği anlamına geliyor.

Hafif modeller ise iki Bolt sürümünden oluşuyor. Modeller, RTX Spark çipli yeni yapay zeka bilgisayarlarında ve DGX Spark iş istasyonlarında yerel olarak çalışacak şekilde tasarlandı. Tüketicileri, geliştiricileri ve kurumsal bilgi çalışanlarını hedefleyen bilgisayarlar, Microsoft(MSFT) ve Dell gibi iş ortakları aracılığıyla piyasaya sunuluyor. Nvidia'nın daha önce Nemotron 3.5'i duyurduğunu da hatırlatalım.

Nemotron 3.5 Bolt 74B-A9B 24GB, 74 milyar parametreli yerel ajan modeli. Hız ile akıl yürütme arasında denge kurarak çok adımlı muhakeme, araç çağırma ve web tarama işlerini üstlenecek şekilde geliştirildi. En küçük model Bolt E4B ise sohbet odaklı ajanlar için hazırlandı. Briski, bilgisayar kullanıcılarının “gündelik projeleri buluta göndermeden devredebileceğini” söyledi.

TechCrunch, duyurunun arka planında iki noktaya dikkat çekti. Birincisi, Nvidia'nın hem müşterisi hem de yatırım yaptığı öncü yapay zeka şirketlerinin AWS'nin Trainium'u, Cerebras ve kendi geliştirdikleri çipler gibi Nvidia dışı seçeneklere yönelmesi. İkincisi ise gizlilik kaygısı taşıyan tüketicilerin aile, sağlık ve finans bilgilerine erişen ajanları kullanmaya çekinebilmesi. TechCrunch'a göre yerel çalışan modeller bu endişeyi hedefleyen bir yaklaşım.

Nvidia, Super VL ve Bolt 74B-A9B'nin şu an kullanılabildiğini, Bolt E4B'nin ise bu ay içinde çıkmasının planlandığını açıkladı.