--- title: Google e Meta lançam TorchTPU para PyTorch nativo em TPUs url: https://www.dataloco.com/pt-br/google-e-meta-lancam-torchtpu-para-pytorch-nativo-em-tpus published: 2026-10-28T17:26:32+00:00 language: pt-br section: Desenvolvedores source: https://www.infoq.com/news/2026/10/google-meta-torchtpu/?utm_campaign=infoq_content&utm_source=infoq&utm_medium=feed&utm_term=global organizations: Google, Meta, PyTorch, TPUs, AWS, Hugging Face publisher: Dataloco --- # Google e Meta lançam TorchTPU para PyTorch nativo em TPUs Na Conferência PyTorch América do Norte 2026, em San Jose, a Google e a Meta lançaram o TorchTPU, um backend nativo para PyTorch para as Unidades de Processamento de Tensores (TPUs) da Google. A Meta, que criou o PyTorch em 2016, planeja mover cargas de trabalho de modelos de linguagem grandes (LLMs) para as TPUs usando essa ferramenta, conforme anunciado pelo engenheiro de software da Meta, Zongwei Zhou, durante as palestras principais no dia 21 de outubro. O TorchTPU substitui o PyTorch/XLA, uma ponte de tensores preguiçosos de 2020 que, segundo o anúncio, exigia modificações intrusivas no código-fonte. O novo backend visa simplificar a portabilidade de modelos, tornando o processo tão simples quanto alterar model.to("cuda") para model.to("tpu"). Com o TorchTPU, as TPUs se juntam a GPUs e CPUs como opções nativas para PyTorch, conforme escrito pela Google Cloud em seu anúncio, coautorado por Bill Jia, vice-presidente de engenharia para Core ML/AI. Jia apresentou a palestra principal "Fungibilidade de Cargas de Trabalho na Era dos Agentes: Trazendo PyTorch Nativo para TPUs em Nuvem" com Zhou, após duas palestras que enquadraram a demanda. Mark Collier, diretor executivo da PyTorch Foundation, afirmou que a inferência superou o treinamento como a maior carga de trabalho em centros de dados, criando "uma incrível fome de tokens". Collier descreveu o objetivo da comunidade como software de código aberto para modelos que "rodam em qualquer chip em qualquer nuvem e se conectam a qualquer agente". Os slides da palestra principal da Fundação mostraram como esse mercado se move rapidamente: o modelo Flash da DeepSeek tornou-se 60% mais barato em 37 dias, e o Kimi K3 rodou 68% mais rápido no mesmo hardware em 33 dias. Mazin Gilbert, diretor executivo da Agentic AI Foundation, afirmou que o consumo de tokens de agentes superou o consumo humano em 6 de fevereiro de 2026. Desde então, cresceu 14 vezes, contra 2,8 vezes para humanos. "Isso é basicamente um taco de hóquei que está explodindo", disse Gilbert. Os praticantes devem verificar o escopo antes de reutilizar esses números, pois os dados públicos vêm de uma única plataforma, OpenRouter. Como o TorchTPU se conecta ao despachante de baixo nível do PyTorch, os palestrantes afirmaram que os modelos Hugging Face funcionaram com ele fora da caixa. Os motores de inferência vLLM e SGLang rodam nativamente, e o TorchTitan suporta modelos densos, de mistura de especialistas e de difusão para treinamento em escala. O Ray e o llm-d escalonam cargas de trabalho de TPU em hosts no Kubernetes. Quatro repositórios foram lançados como código aberto: TorchTPU, vLLM-TorchTPU, SGLang-TorchTPU e TorchTitan. Jia mostrou escalonamento quase linear além de 8.000 chips TPU, com a taxa de transferência por chip mantendo-se aproximadamente constante à medida que o cluster crescia. Os resultados publicados pela Google incluem uma execução do modelo Qwen3 235B de mistura de especialistas em 8.192 chips TPU v7x com 28% de utilização de FLOPs do modelo. O anúncio é franco ao afirmar que a alteração de uma linha é apenas um ponto de partida. Não é possível alcançar o desempenho máximo das TPUs com essa mudança simples, pois as formas, o particionamento e as operações do modelo podem estar inclinados para uma arquitetura de GPU; no entanto, o modelo deve rodar fora da caixa. A resposta da Google para essa lacuna de ajuste são mais agentes. Jia encerrou anunciando o conjunto de agentes TPU, agora em pré-visualização no GitHub, que se conecta a arneses de codificação para automatizar o onboarding, diagnósticos e ajuste de desempenho. Zhou afirmou que a equipe PyTorch da Meta co-desenvolveu o TorchTPU com a Google "para tornar a TPU um alvo nativo de primeira classe para o PyTorch", citando necessidades de produção para desempenho, confiabilidade e manutenibilidade. "Tudo isso é de código aberto e está disponível hoje, e é apenas o começo", disse Zhou. Jana van Greunen, diretora de engenharia do PyTorch na Meta, deu a motivação no anúncio da Google Cloud. Na Meta, o avanço da fronteira da IA requer uma escala de computação imensa e uma diversidade de hardware profunda. Não podemos ser limitados por uma única arquitetura de hardware. A Google não estava sozinha. A AWS colocou o TorchNeuron, um backend nativo para PyTorch para seus chips Trainium, em beta público em 20 de outubro, com .to('neuron') como a única alteração de código. Ambos os backends se registram através do PrivateUse1, o ponto de extensão do PyTorch para hardware personalizado. O TorchNeuron tem lacunas em sua primeira versão: The Next Web relatou que ainda não suporta formas de entrada dinâmicas e pula cerca de 22.000 testes do PyTorch. Em uma análise para Forkast, Blair Hayes argumentou que o bloqueio mudou, mas não desapareceu. Embora o ponto de extensão do PyTorch forneça uma linguagem comum para os desenvolvedores, as camadas de otimização e fornecimento permanecem firmemente sob o controle do fornecedor. No Hacker News, onde o tópico do lançamento do TorchTPU alcançou 379 pontos, o alívio misturou-se com dúvidas práticas. "Lembro-me dos dias em que você tinha que lutar com o XLA para fazer o PyTorch rodar em TPUs, parece que finalmente temos suporte de primeira parte!", escreveu um comentarista. Outros perguntaram onde poderiam comprar uma TPU. Um comentarista cuja empresa havia avaliado as TPUs locais da Google foi mais frio: "Nós as avaliamos, mas decidimos ficar com a Nvidia, pelo menos por mais uma geração.". A portabilidade também foi o discurso abaixo do centro de dados. Em uma sessão sobre a implantação de políticas de robôs com ExecuTorch, Anthony Shoumikhin e Jacob Szwejbka da Meta argumentaram que as políticas podem permanecer no PyTorch do treinamento ao dispositivo, sem nenhuma pilha de conversão. Os mesmos gráficos de quantização e operadores rodam em alvos do TensorRT no NVIDIA Jetson ao OpenVINO no Intel. As sessões de treinamento colocaram números no lado do custo. Apresentando o framework de aprendizado por reforço Miles, Yueming Yuan da RadixArk afirmou que a fusão de dois cálculos de log-probabilidade em um núcleo tornou essa etapa mais de 10 vezes mais rápida. Atualizações delta reduziram os dados movidos por sincronização de peso de 62 GB para menos de 1 GB em uma grande execução. Ferramentas abertas para treinamento de agentes com RL passaram por várias sessões. O SkyRL da Anyscale separa treinamento, inferência e ambientes e os orquestra com Ray. O OpenEnv da Hugging Face, que se juntou à Agentic AI Foundation em 22 de outubro, dá a cada ambiente de RL a mesma interface. Usando TRL e OpenEnv, Sergio Paniego Blanco da Hugging Face treinou um pequeno modelo Liquid AI através de quatro agentes de codificação, elevando sua pontuação em tarefas mantidas de 42% para 54%. ## This story in other languages - [Русский](https://www.dataloco.com/ru/google-i-meta-otkryli-isxodnyi-kod-torchtpu-dlia-nativnoi-podderzki-pytorch-na-tpu)