Gizli bilgi işlem beta sürümü açıldı: Cohere, Azure ve H100 kullanıyor

Cohere, 22 Ekim'de kurumsal yapay zekâ hizmeti Model Vault'un gizli bilgi işlem özelliğini herkese açık beta sürümünde kullanıma sundu. Hizmet, hassas istekler işlenmeden önce müşteri tarafındaki programın işlem ortamını doğrulamasını sağlıyor.

Cohere, resmî duyurusunda Microsoft (MSFT) Azure altyapısını ve NVIDIA (NVDA) H100 GPU'larını kullandığını açıkladı. Sistem, istek işlenirken donanım ve yazılım yapılandırmasını denetliyor; böylece işlemlerin yalnızca onaylanmış güvenlik politikalarına uygun ortamlarda yürütülmesi hedefleniyor.

Müşteri tarafındaki program, istek gönderilmeden önce işlem ortamının donanım, ürün yazılımı ve yazılım yapılandırmasını politikayla karşılaştırıyor. Yapılandırma politikayı karşılamazsa program isteği göndermiyor.

İstek içeriğinin şifresi yalnızca doğrulanmış gizli yürütme ortamında çözülüyor. Cohere, çıkarım sırasında GPU belleğini koruduğunu ve CPU ile GPU arasındaki iletişimi de şifrelediğini belirtti.

Cohere'nin kullanım alanı olarak sıraladığı veriler arasında finansal bilgiler, klinik kayıtlar, hukuk belgeleri ve şirketlerin kendi kaynak kodları bulunuyor. Şirket, gizli bilgi işlemin uygulama güvenliği, mevzuata uyum veya verilerin saklanacağı bölgeye ilişkin gerekliliklerin yerini tutmadığını da vurguladı.

Bu açık beta, Cohere'nin NVIDIA'nın gizli bilgi işlem çözümünü Model Vault'a entegre etmeyi planladığını daha önce duyurduğumuz haberin ürün lansmanına dönüşmesi anlamına geliyor. Yeni özellikle mevcut Model Vault'un özel model çıkarım hizmeti, hassas işlerde kullanılabilecek şekilde genişletildi.

Cohere CEO'su Aidan Gomez, 5 Haziran 2025'te yayımlanan bir röportajda “Son sekiz yılda ne kadar az şeyin değiştiği şaşırtıcı” dedi. Gomez, ortak yazarlarından olduğu Transformer makalesindeki mimarinin o sırada eğitilen modele benzediğini anlatıyordu.

Gomez, Transformer'lar için çok sayıda altyapı kurulduğunu ve çiplerin de bu mimariye göre optimize edildiğini söyledi. Başka bir mimariye geçişin sistemlerin yeniden tasarlanmasını gerektirdiğini, bu nedenle önemli miktarda çalışma istediğini belirtti.

Gomez, durum uzayı modelleri (SSM) gibi alternatiflere yönelik araştırmalardan çıkan fikirlerin Transformer'lara da yansıdığını söyledi. Bu nedenle röportajdaki “sekiz yıl” ifadesi, mimarinin hiç değişmediği şeklinde yorumlanamaz.

Aynı röportajda Gomez, müşteri desteği ve sohbet botları gibi kurumsal kullanım alanlarını değerlendirdikten sonra Cohere'nin kurumsal yapay zekâ şirketine dönüştüğünü anlattı. Bu açıklama, şirketin iş tercihlerini özetliyor.

Gomez'in sözünü ettiği “Attention Is All You Need” başlıklı Transformer makalesi 12 Haziran 2017'de arXiv'de yayımlandı; yazarlar arasında Gomez de yer alıyor. Röportajdaki “sekiz yıl”, makalenin yayımlandığı dönem ile röportajın yapıldığı zaman arasındaki süreyi ifade ediyor.

Transformer alternatiflerine yönelik araştırmalar da sürüyor. Mart 2026'da yayımlanan Mamba-3 makalesi, durum uzayı modeli ailesinde iyileştirmeler sundu. Bu model ailesi, girdinin durumunu adım adım güncelleyerek bilgiyi işliyor.

Araştırmacılar, teoride daha az işlem gerektiren bir modelin gerçek donanımda verimsiz çalışabileceğine dikkat çekti. Çalışma alternatif tasarımları ele alıyor; Transformer'ların sektörde yerini başka modellere bıraktığını göstermiyor.

Cohere'nin talebi üzerine IDC'nin yürüttüğü ankete, Nisan-Mayıs 2026'da Kanada, ABD, Birleşik Krallık ve Almanya'da yapay zekâ satın alma kararlarından sorumlu direktör düzeyinde veya daha üst görevlerdeki 500'den fazla şirket yöneticisi katıldı. Katılımcılar veri sızıntısı ve mevzuata uyumu başlıca kaygılar, maliyet ve altyapıyı ise benimsemenin önündeki engeller olarak gösterdi.

Anket Cohere'nin talebiyle yürütüldüğünden sonuçları sektörün tamamını temsil eden bağımsız istatistikler olarak genellemek güç. Model Vault'un gizli bilgi işlem özelliği açık beta kapsamında sunuluyor; müşteriler şifrelenmiş kasalar oluşturup mevcut Cohere API'si üzerinden bağlantı kurabiliyor.