Mistral, OpenAI Responses biçimindeki API'sini ön izlemeye açtı: Sohbet geçmişini geliştiriciler yönetecek

Mistral AI, kendi modellerini OpenAI'nin Responses biçimi üzerinden çağırmaya yarayan API'yi herkese açık ön izlemeye açtı. Sohbet durumu sunucuda saklanmadığı için konuşma geçmişini geliştiricilerin yönettiği uygulamalar tutacak.

API'nin adresi “/v1/responses”. Mistral, resmî dokümantasyonunda metin üretimi, görsel ve belge girdisi, işlev çağrısı ve yanıt akışının desteklendiğini belirtiyor. Python ve TypeScript için resmî geliştirme araçları da sunuluyor.

Responses biçimiyle daha önce oluşturulmuş entegrasyonlar, Mistral modellerini çağırmak için kullanılabiliyor. Ancak istek biçiminin aynı olması, özelliklerin ve model desteğinin de tümüyle aynı olduğu anlamına gelmiyor.

Görseller URL veya base64 verisiyle gönderilebiliyor. Dosyalar ise HTTPS adresi, base64 verisi ya da yüklenen dosyanın kimliği üzerinden iletilebiliyor. Görsel işleme, yalnızca görme özelliğini destekleyen modellerde kullanılabiliyor.

Yanıtlar düz metin olarak alınabildiği gibi JSON veya JSON Schema biçiminde de yapılandırılabiliyor. Bu seçenek, belirli bir veri biçimindeki yanıtları işleyen uygulamalarda kullanılabilir.

Akış özelliği etkinleştirildiğinde uygulama, yanıtın tamamlanmasını beklemeden üretilen içeriği sırayla alabiliyor. İşlev çağrısı da destekleniyor; ancak işlevi model değil, geliştiricinin uygulaması çalıştırıyor.

Model harici bir işlevin kullanılmasını istediğinde uygulama, işlevi ve parametrelerini kontrol edip çalıştırıyor, ardından sonucu modele iletiyor. Mistral'ın dokümantasyonunda sipariş durumunu sorgulayan bir örnek yer alıyor.

API, istekler arasındaki sohbet durumunu saklamıyor. Konuşmayı sürdürmek için geliştiricilerin önceki mesajları ve model yanıtlarını kaydedip sonraki isteğe yeniden eklemesi gerekiyor.

Akıl yürütme ayarlarının kapsamı modele göre değişiyor. Mistral'ın dokümantasyonundaki örnekte “mistral-large-4” kullanılıyor; farklı bir model seçildiğinde o modelin desteklediği akıl yürütme yoğunluğunun belirtilmesi isteniyor.

Mistral daha önce Samsung Electronics öncülüğünde 3 milyar avroluk Series D yatırım turunu tamamlamıştı. Şirket, o dönemde sağlanan kaynağı yapay zekâ araştırma ve geliştirmesine, işlem kapasitesine, altyapıya ve ürün geliştirmeye ayırmayı planladığını açıklamıştı.