Google, Gemini ile çip yerleşimini haftalardan saatlere indirdi

Google, Gemini'yi kullanarak kendi çiplerinin yerleşim tasarımı için gereken süreyi haftalardan saatlere düşürdüğünü açıkladı. Şirket, 8. nesil Tensor İşleme Birimi (TPU) sistemlerinden ikisini de tanıttı.

Google, 10'unda yayımladığı resmi duyuruda Gemini ve Google DeepMind'ın AlphaChip'ini yeni nesil donanım geliştirme çalışmalarında kullandığını belirtti. Tanıtılan sistemler TPU 8tx ve TPU 8i Max oldu.

Çip yerleşimi, milyarlarca transistörün silikon wafer üzerindeki konumunu belirleme aşaması. Google'ın haftalardan saatlere indiğini söylediği süre yalnızca bu aşamayı kapsıyor; şirket, yeni bir çip tasarlamanın kendisinin yıllar sürdüğünü de vurguladı.

İki ürün de yeni silikon çipler değil, mevcut TPU çipleri temel alınarak oluşturulmuş sistemler. Çip hesaplama yapan yarı iletkeni ifade ederken sistem; ağ ve depolama gibi bileşenleri de çiplerin çevresinde bir araya getiriyor.

Google, çiplerin çevresindeki bellek, ağ ve güvenlik bileşenlerini ayarlayarak belirli işlere uygun sistemler oluşturabildiğini söyledi. Şirkete göre bu yöntem, özelleştirilmiş sistemlerin yıllar yerine aylar içinde sunulmasını sağlayabilir.

Google, sıkı düzenlemelere tabi sektörlerdeki müşterilerin veri koruma özelliklerine, şirketlerin ise daha geniş bağlamı işleyebilen yapay zeka modellerine ihtiyaç duyduğunu belirtti. TPU 8tx güvenliğe, TPU 8i Max ise büyük miktarda bağlamın işlenmesine odaklanıyor.

TPU 8tx, hassas veriler için tasarlanmış gizli çıkarım sistemidir. TPU 8t ile aynı silikonu kullanıyor; verileri ve model ağırlıklarını çalışma sırasında koruyup yalıtmayı amaçlıyor.

Gizli işlem, veriler bilgisayarda kullanılırken de korunmalarına odaklanıyor. Veriler genellikle depolanırken veya ağ üzerinden aktarılırken şifreleniyor; ancak işleme sırasında bellekte erişime açılıyor.

Google, TPU 8tx'i hassas verileri ve şirketlerin kendi modellerini birlikte kullandığı düzenlemeye tabi sektörler ile kamu kurumlarına yönelik bir sistem olarak tanıttı. Sistem küçük ölçekli eğitim çalışmalarını da destekliyor.

TPU 8i Max, iki TPU 8i çipini tek bir pakette birleştiriyor. Google, TPU 8i'ye kıyasla hesaplama gücünü, çip içi bellek (SRAM) kapasitesini ve yüksek bant genişlikli bellek (HBM) bant genişliğini iki katına çıkardığını açıkladı.

Bellek kapasitesi ve bant genişliğindeki artış, yapay zeka modellerinin tek seferde işleyebileceği bağlamı genişletmeyi hedefliyor. Google; uzun belgeler, büyük kod tabanları ve saatler süren videolar gibi tek seferde çok miktarda bilginin işlenmesini gerektiren görevleri örnek gösterdi.

Google, nisan ayında düzenlenen Google Cloud Next etkinliğinde büyük ölçekli model eğitimi için TPU 8t'yi, gerçek zamanlı çıkarım içinse TPU 8i'yi duyurmuştu. Bu iki sistem, yeni tanıtılan 8tx ve 8i Max ile birlikte 8. nesil ürün ailesini oluşturuyor.

Google'ın önceki nesle kıyasla açıkladığı performans verileri, TPU 8t için eğitim performansında en fazla 2,7 kat artış ve TPU 8i için çıkarımda fiyat-performansın yüzde 80 iyileşmesi. Bu veriler yeni tanıtılan TPU 8tx ve TPU 8i Max'in performansını ifade etmiyor.

Google, bir yıl içinde dört TPU sistemi tanıtmasının ilk kez gerçekleştiğini söyledi. TokenPost, daha önce Google'ın gizli çıkarım ve uzun bağlam işlemesine yönelik iki TPU sistemi tanıttığını aktarmıştı.

TPU'lar Google'ın kendi modellerini eğitmesinin yanı sıra Google Cloud müşterileri ve kendi veri merkezlerini işleten müşteriler tarafından da kullanılabiliyor. Google, araştırma kurumları, alım satım şirketleri, perakendeciler ve üniversitelerin de aralarında bulunduğu yaklaşık 100 TPU müşterisi olduğunu açıkladı.