Amazon lança TorchNeuron para atrair apps de IA da Nvidia para o chip Trainium

A Amazon Web Services disponibilizou o TorchNeuron, uma ferramenta de desenvolvimento voltada a transferir aplicações de inteligência artificial baseadas na biblioteca PyTorch para os processadores Trainium, fabricados pela própria gigante da tecnologia. A solução busca diminuir a barreira de entrada para que fundadores e engenheiros utilizem o hardware proprietário da nuvem da Amazon, em um ataque direto à hegemonia estabelecida pela Nvidia no setor de semicondutores para modelos avançados.

Segundo dados divulgados pela companhia, cerca de 85% dos programas de inteligência artificial são estruturados em PyTorch, pacote de código aberto criado originalmente pelo Facebook e hoje sob gestão da Linux Foundation. Historicamente, a Nvidia investiu anos de engenharia para integrar sua plataforma CUDA ao ecossistema do PyTorch, tornando seus processadores gráficos a escolha padrão do mercado. O TorchNeuron atua como uma adaptação direta dessa base conhecida, permitindo a execução de cargas de trabalho no Trainium por meio da alteração de apenas uma linha de configuração, dispensando reescrita profunda de código.

A disputa contra as neoclouds e a estratégia de custo

A facilidade de adaptação não é exclusiva da Amazon, visto que o PyTorch já conta com suporte para chips gráficos da AMD e processadores da Apple via ajustes simples. A aposta da AWS concentra-se em atrair empresas novatas para toda a sua gama de serviços integrados de computação em nuvem, tentando frear o avanço de fornecedores especializados em infraestrutura de IA focados em hardware da Nvidia, como CoreWeave, Nebius e Firmus.

Você está construindo na AWS. Você não está apostando em um provedor de computação de propósito único e se desdobrando para construir todo o resto ao redor dele. Na AWS, a infraestrutura para ir do protótipo à produção já está lá, permitindo que o fundador se mova rápido e escale quando precisar.

A declaração é de Colin Brace, vice-presidente de software de tecnologia do Annapurna Labs, braço da Amazon responsável pela concepção e fabricação dos chips customizados. O executivo pontua que o Trainium opera tanto na fase de treinamento quanto no processo de inferência dos modelos, o que reduz custos operacionais totais de empresas de tecnologia mesmo quando valores isolados por processamento de tokens parecem menores em outros concorrentes.

O valor do Trainium está na relação preço-desempenho aliada ao fato de ser uma plataforma única para treinamento e inferência, o que melhora a economia em toda a carga de trabalho. Veja a Deepgram: eles migraram para o Trainium usando o suporte nativo do PyTorch e estão processando 70% mais áudio por dólar com precisão de nível de produção.

Tentativa de desvincular o PyTorch da arquitetura CUDA

Além do lançamento do novo utilitário voltado a clientes de sua nuvem, a Amazon decidiu atuar no projeto central do PyTorch. A empresa anunciou que está submetendo alterações de código diretamente ao repositório principal mantido pela Linux Foundation para desvincular o ecossistema de instruções exclusivas a determinados fabricantes, visando um ambiente agnóstico a processadores.

Caso a comunidade aceite as contribuições para retirar o acoplamento prévio existente em torno da infraestrutura CUDA da Nvidia, desenvolvedores terão caminhos mais abertos para testar alternativas de hardware de múltiplos competidores sem complexidades de configuração. Para a AWS, a manobra foca em eliminar amarras técnicas históricas que garantem a preferência quase compulsória pelo ecossistema da rival em escala global.

A verdadeira história é remover o aprisionamento tecnológico que impedia os desenvolvedores de terem uma escolha real.