Açık kaynaklı AI modelleri token kullanımının üçte birine ulaştı, hesaplama talebi artabilir

Açık ağırlıklı (open-weight) yapay zeka modellerindeki maliyet avantajı, şirketlerin AI kullanım alanını genişletiyor. Ucuzlayan modellerin yüksek performanslı kapalı sistemlerin yerini doğrudan almak yerine, toplam kullanımı ve hesaplama talebini artırabileceği değerlendiriliyor.

Morgan Stanley(MS), 7 Temmuz'da yayınladığı 'Thoughts on the Market' söyleşisinde şirketlerin yüksek performanslı kapalı modellerle düşük maliyetli açık modelleri kullanım alanına göre ayırdığına dikkat çekti. Morgan Stanley Küresel Tema ve Sürdürülebilirlik Araştırmaları Başkanı Stephen Byrd(Stephen Byrd), "Hem sınır (frontier) modellerin hem de açık kaynaklı modellerin bir rolü var" dedi. Byrd'e göre basit ve tekrar eden işler için ucuz modeller yeterli olabilirken, hata düzeltme maliyeti yüksek kodlama ve karmaşık kurumsal işlerde yüksek performanslı modeller daha mantıklı olabiliyor.

AI kullanım maliyeti düşse bile talebin azalmayabileceğine dair gerekçe olarak 'Jevons paradoksu' gösterildi. Teknolojik verimliliğin artmasıyla birim maliyet düştüğünde toplam tüketimin aslında artabileceği fikrine dayanıyor. Byrd, model performansındaki iyileşme ile token ve hesaplama maliyetindeki düşüşün aynı anda gerçekleşmesiyle AI hesaplama talebinin arzı aşma olasılığının yüksek olduğunu belirtti.

Açık ağırlıklı model rekabeti Çin'in ötesinde küresel AI sektörüne yayılıyor. Moonshot AI, resmi GitHub deposunda Kimi K3'ü açık ağırlıklı, çok modlu (multimodal) bir ajan modeli olarak tanıttı. Kimi K3'ün toplam 2,8 trilyon parametreye, 104 milyar aktif parametreye ve 1 milyon token'lık bağlam penceresine sahip olduğu belirtildi; modelin tüm ağırlıklarının kamuya açık olduğu duyuruldu. Alibaba(BABA)'nın Qwen'i, Meta(META)'nın Llama'sı ve OpenAI'ın gpt-oss serisi de bu rekabete katılıyor.

OpenRouter, 2025 kullanım analizinde açık ağırlıklı modellerin yıl sonunda toplam token kullanımının yaklaşık üçte birine ulaştığını açıkladı. Ancak Morgan Stanley, kurumsal harcamalarda üst düzey kapalı modellerin payının hâlâ büyük olduğunu değerlendirdi. Tüm işleri düşük maliyetli modellere kaydırmak yerine, zorluk ve risk derecesine göre model ayırma yönteminin yaygınlaştığı yorumu yapılıyor.

AI kullanım maliyeti düşse bile toplam hesaplama ve elektrik talebinin artabileceği daha önce de gündeme gelmişti. Nvidia(NVDA) CEO'su Jensen Huang(Jensen Huang), geçtiğimiz Mart ayındaki Morgan Stanley söyleşisinde ajan tipi (agentic) AI'ın genel üretken komutlara kıyasla çok daha fazla token tüketebileceğini anlatmıştı. Şirketlerin AI çağrılarının artmasıyla GPU, bellek, elektrik ve veri merkezi talebinin birlikte yükselebileceği öngörülüyor.

Açık modellere yönelik değerlendirmeler ise ayrışıyor. Microsoft(MSFT)'un yayınladığı 'Open Weights and American AI Leadership' başlıklı açık mektubu, 3 Ağustos itibarıyla 270'in üzerinde şirket ve kurum imzaladı. Mektupta açık ağırlıklı modellerin girişimler, üniversiteler ve kamu kurumlarının erişimini artırarak rekabeti teşvik ettiği savunuldu. Öte yandan aynı mektupta, kamuya açılan ağırlıkların dağıtımdan sonra geri çekilmesinin zor olduğu ve türetilmiş modellerin takibinin güç olduğu yönündeki güvenlik riski de kabul edildi.

Kripto para piyasasıyla bağlantı, elektrik altyapısı üzerinden sınırlı düzeyde kuruluyor. Morgan Stanley söyleşisinde veri merkezi izinleri ve elektriğe erişimin AI altyapısındaki darboğaz noktaları arasında sayıldığı aktarıldı. Byrd, elektrik şebekesine erişim hakkına sahip Bitcoin(BTC) madencilik şirketlerinin bu talebi yakından izlediğini söyledi. AI veri merkezleri ile madencilik tesislerinin elektrik, arazi ve soğutma kaynaklarını paylaşma ihtimali bulunuyor; ancak bunun belirli bir token fiyatına veya madencilik şirketlerinin performansına bağlanabileceğine dair herhangi bir bulgu paylaşılmadı.