FLUX 3 görüntü düzenleme tek B200’de 4,45 kata kadar hızlandı

NVIDIA (NVDA), FLUX 3 Image Klein Base’in 2048×2048 çözünürlüklü görüntüleri düzenleme süresini tek bir B200 GPU’da 54,64 saniyeden 12,28 saniyeye düşürdü. Derlenmemiş BF16 çalıştırmasıyla karşılaştırılan ölçümde, bu koşullarda 4,45 kata kadar hız artışı sağlandı.

NVIDIA, 6’sında yayımladığı teknik blog yazısında aynı koşullarda metin tabanlı görüntü üretim süresinin de 22,36 saniyeden 6,46 saniyeye indiğini bildirdi. Bu, 3,46 katlık bir iyileşmeye karşılık geliyor.

Optimizasyonda derleme, düşük hassasiyetli NVFP4 işlemleri, PrimsTS GEMM matris işlem çekirdeği, Sol-Attention ve Cache-DiT birlikte kullanıldı. 4,45 katlık sonuç yalnızca NVFP4’ün etkisini yansıtmıyor; birden fazla optimizasyonun birleştirilmesiyle elde edildi.

NVIDIA’nın yalnızca NVFP4’ü karşılaştırdığı ölçümlerde BF16’ya kıyasla metin tabanlı üretimde en fazla 1,62 kat, görüntü düzenlemede ise en fazla 1,58 kat iyileşme raporlandı. Birleşik optimizasyonların sonucu ile NVFP4’ün tek başına karşılaştırması bu nedenle ayrı değerlendirilmelidir.

Performans artışı model ve donanıma göre değişti. 16 adımlı damıtılmış modelde toplam işlem süresi temelinde en fazla 2,34 kat iyileşme sağlandı. RTX PRO 6000 Blackwell Server Edition GPU’da ise farklı bir yapılandırmayla 1,73 ila 3,25 kat arasında artış kaydedildi.

Black Forest Labs, 15 Ekim’de 5,6 milyar parametreli FLUX 3 Image Klein modelinin ağırlıklarını yayımladı. Model, metin tabanlı görüntü üretimini ve mevcut görüntülerin düzenlenmesini destekliyor.

Model en fazla 10 referans görüntüyü girdi olarak alabiliyor. Black Forest Labs, Base sürümünü ince ayar ve araştırma için, damıtılmış sürümünü ise hızlı çıkarım için tanıttı.

NVIDIA’nın duyurusu yeni model ağırlıklarının yayımlanmasına değil, mevcut modeli Blackwell GPU’larda çalıştırırken çıkarım sürecini optimize etmeye odaklandı. Şirket optimizasyon ayarlarına ilişkin örneklerin yanı sıra çevrimdışı çalıştırma ve görüntü üretim sunucusu kurma yöntemlerini de paylaştı.

NVIDIA’nın açıkladığı gecikme sürelerine, girdi metnini genişleten prompt upsampling işlemi dahil edilmedi. Bu nedenle ölçülen süreler, upsampling içeren uçtan uca iş akışlarının tamamlanma süresinden farklı olabilir.

ComfyUI ekibi, ilk sürüm döneminde bazı iş akışlarında prompt upsampler’ın kapalı olduğunu veya bulunmadığını duyurdu. Base sürümündeki metin tabanlı üretim ve görüntü düzenleme iş akışlarının adım sayıları ayrı ayrı 25’ten 50’ye çıkarıldı.

ComfyUI ekibi, upsampling işleminin tek bir görüntüyü işleme süresini uzattığını açıkladı. Bu nedenle NVIDIA’nın bildirdiği gecikme süreleri ile gerçek iş akışlarındaki işlem süreleri farklılık gösterebilir.

Son optimizasyon örneğinde metin tabanlı üretim ve görüntü düzenleme için LPIPS değerleri sırasıyla 0,095 ve 0,045 oldu. NVIDIA, bu değerlerin her optimizasyon sonucuyla VANILLA temel çıktısı arasındaki algısal farkı gösterdiğini belirtti.

LPIPS değerinin düşük olması, çıktının VANILLA temel çıktısına daha çok benzediği anlamına geliyor. Ancak bu ölçüt tek başına görüntü kalitesinin genel olarak daha iyi olup olmadığını belirlemiyor.

TokenPost, daha önce FLUX.2-klein-9B’yi de içeren görüntü düzenleme deneylerini ele alan bir araştırmayı haberleştirmişti. O çalışmada düzenleme sonuçlarının kullanılabilirliği değerlendirilmişti; NVIDIA’nın bu ölçümüyse farklı bir model neslini ve performans göstergelerini kapsıyor.