GPUs Blackwell: Nvidia anuncia dobro de desempenho comparado a Hopper
A Nvidia divulgou hoje (13/11) os resultados de testes que realizou com seus chips gráficos baseados em Blackwell, sua futura geração de microarquitetura para seus produtos, e mostrou saltos de 2,2 vezes em aplicações de IA generativa.
NVIDIA pode mostrar GeForce RTX 50 Blackwell “em breve”
Aceleradores Blackwell para IA já estão esgotados pelos próximos 12 meses
O foco do evento de divulgação foi o uso profissional em plataformas de inteligência artificial, usando a metodologia do MLPerf Inference 4.1. Os ganhos foram no uso de Grandes Modelos de Linguagem (LLM), com aplicações como o Llama 2 70B e GPT-3 175B.
A comparação de performance foi feita com a geração anterior de chips para supercomputação, a microarquitetura Hopper. Os resultados do treinamento da Blackwell mostram novas melhorias sobre um envio anterior para o MLPerf Inference 4.1, no qual Blackwell forneceu até 4 vezes mais desempenho de inferência LLM em comparação com a geração Hopper.
Apresentação da tecnologia Nvidia Blackwell na GTC 2024
Aproveitando a precisão FP4 da arquitetura Blackwell, juntamente com o Sistema de Quantização NVIDIA QUASAR, a apresentação revelou um desempenho poderoso ao mesmo tempo em que atendia aos requisitos de precisão do benchmark.
Uma mudança importante da nova arquitetura são as memórias HBM3e de maior largura de banda, e graças a elas, com apenas 64 GPUs Blackwell foram executadas no benchmark GPT-3 LLM sem comprometer o desempenho por GPU. O mesmo benchmark executado usando o Hopper precisou de 256 GPUs para atingir o mesmo desempenho.
Otimização GPUs Blackwell
Apesar de ser conhecida como uma empresa de hardware, com a criação de chips gráficos tanto para componentes gamers quanto supercomputação, a parte de software tem uma ênfase importante na empresa.
De acordo com a Nvidia, além da performance da microarquitetura em si, otimizações são cruciais para atingir o alto desempenho. As GPUs NVIDIA Hopper mais do que triplicaram a escala e o desempenho no benchmark GPT-3 175B desde o ano passado. Além disso, a NVIDIA aumentou seu desempenho na mesma escala apresentada na rodada anterior em até 26% no benchmark de ajuste fino LoRA Llama 2 70B.
A Nvidia comemorou a popularidade da plataforma Hopper, com a plataforma NVIDIA Hopper continua a manter registros em escala em todos os benchmarks, incluindo um envio com 11.616 GPUs Hopper no benchmark GPT-3 175B.
E a Blackwell também vai bem. O CEO da NVIDIA, Jensen Huang, comentou recentemente numa reunião com investidores que as novas GPUs Blackwell da empresa já estão com suas encomendas esgotadas para os próximos 12 meses. O executivo se refere às versões profissionais para acelerar IA em servidores e data centers dos componentes.
Para os gamers ansiosos para ver o que essa plataforma pode oferecer em jogos, os rumores mais recentes apontam começo do ano que vem. Isso porque a expectativa é que a NVIDIA faça um anúncio oficial das RTX 50 na CES 2025, que acontece em janeiro.