Google ve Amazon, PyTorch uygulamalarını kendi yapay zeka çiplerine taşıyor

Google ve Amazon, PyTorch tabanlı yapay zeka uygulamalarını kendi çiplerinde çalıştırmaya yarayan araçları art arda duyurdu. Mevcut uygulamalar yeniden yazılmadan Google TPU'ya ya da Amazon Trainium'a taşınabiliyor.

Google, 20'sinde TorchTPU'yu tanıttı. TechCrunch'ın aktardığına göre geliştiriciler, basit bir ayar değişikliğiyle mevcut PyTorch uygulamalarını TPU'ya geçirebiliyor; uygulamayı baştan yazmaya gerek kalmıyor. Google, Meta, Hugging Face, vLLM'in geliştiricisi Inferact ve SGLang'ın geliştiricisi RadixArk gibi ortaklarla çalışarak TorchTPU'nun bu araçlarla sorunsuz işlemesini sağladığını açıkladı.

TorchTPU, vLLM, SGLang ve Hugging Face ile birlikte kullanılabiliyor. Google ayrıca uygulamaların TPU'ya ve buluta taşınmasına, çıkan hataların giderilmesine yardımcı olan bir TPU ajan araç seti de sundu.

Amazon ise 19'unda, AI uygulamalarını yeniden yazmadan Trainium çipine ve AWS'ye taşımayı sağlayan TorchNeuron'u duyurdu. Şirket, Nvidia çiplerine bağlı işlevleri ayrıştıran kodu ana PyTorch projesine gönderdiğini belirtti.

PyTorch, yapay zeka modellerini oluşturmak, eğitmek ve çalıştırmak için kullanılan açık kaynaklı bir araç. TechCrunch, mevcut PyTorch uygulamalarını TPU'ya ya da Trainium'a taşırken yeniden yazım gerekmediğini aktardı. Yine de bu duyuruların tek başına geliştiricilerin Nvidia GPU'larından toplu halde ayrılacağı anlamına geldiğini söylemek mümkün değil.