Meta usa 100,000 GPUs NVIDIA H100 AI para Llama 4
Mark Zuckerberg apresentou uma atualização sobre o trabalho da Meta com o novo modelo Llama 4, que está sendo treinado em um cluster de GPUs NVIDIA H100. Em suas palavras, é “maior do que qualquer coisa” que ele já viu.
A Meta está desenvolvendo o Llama 4 e Zuckerberg informou investidores e analistas em uma conferência nesta semana que o lançamento inicial do novo modelo é esperado para o final deste ano. Zuckerberg disse: “Estamos treinando os modelos Llama 4 em um cluster que é maior do que 100.000 H100s”.
Elon Musk quer criar cluster para IA com 200 mil GPUs
Meta usará 350 mil GPUs NVIDIA H100 para inteligência artificial
Mark Zuckerberg acredita ser o melhor do mundo em Civilization,
Créditos: CNET/YouTube
Competição com Musk
Atualmente, a Meta está em uma corrida com a xAI de Elon Musk, que pretende dobrar o tamanho de seu cluster de supercomputador Colossus, que possui 100.000 GPUs NVIDIA Hopper e está sendo atualizado para 200.000 GPUs NVIDIA Hopper.
O novo supercomputador da Meta, com seus 100.000+ GPUs NVIDIA H100, custou mais de $2 bilhões apenas nos chips de GPU H100. Em uma conversa recente, o CEO da NVIDIA, Jensen Huang, falou com o CEO da Meta, Mark Zuckerberg. Quando Huang mencionou que a Meta agora possui mais de 600.000 GPUs NVIDIA H100, Zuckerberg respondeu que a Meta é uma “boa cliente” da NVIDIA.
Fonte: Toms Hardware.