Moore Threads diz que suas GPUs têm performance “excelente” rodando IA da DeepSeek
A empresa chinesa Moore Threads resolveu entrar no trem do hype da DeepSeek, promovendo a performance de suas próprias GPUs no modelo R1 de IA da sua conterrânea. A fabricante de placas de vídeo afirma que seus produtos têm desempenho “excelente” na IA da DeepSeek, mas prefere não informar os números.
Os testes teria sido feitos, especificamente, com o modelo DeepSeek-R1-Distill-Qwen-7B, nas placas MTT S80, voltada para uso doméstico, e MTT S4000, para servidores. A empresa usou o framework Ollama, permitindo rodar o LLM diretamente das GPUs, sem o uso da nuvem, criando uma situação ideal para testes. A Moore Threads afirma ainda que criou uma engine otimizada para inferência em suas placas.
Foto: Moore Threads
Segundo explica o Tom’s Hardware, o Ollama não tem suporte nativo para as placas da Moore Threads, mas a companhia diz que suas GPUs podem executar código feito para CUDA, permitindo usar a otimização do framework para a plataforma NVIDIA.
A empresa ressalta sua engine proprietária como um grande diferencial para a performance de suas placas na IA da DeepSeek. Se as informações sobre a performance forem verdadeiras, inferência pode ser um bom uso para as placas enquanto a Moore Threads ainda corre atrás de oferecer mais performance em games.
Sucesso da DeepSeek beneficia empresas chinesas
A baleia chinesa da IA tem puxado o barco de muitas companhias do país conforme nada na onda do hype causado pela sua chegada. Gigantes do país como Alibaba e Tencent começam a oferecer soluções de IA baseadas na DeepSeek por lá, enquanto especializadas em hardware promovem o desempenho de suas GPUs com a tecnologia.
Fonte: Programmatic Portugal
Enquanto a Moore Threads não quis falar de números, representantes da própria DeepSeek alegam que o acelerador Ascend 910C, da Huawei, consegue entregar 60% da inferência de uma H100 em seu modelo.
Notícias relacionadas:
DeepSeek afirma que Ascend 910C tem 60% do desempenho de uma H100 em inferência
Moore Threads agora permite conectar até 10.000 GPUs em um cluster para IA
Huawei supera expectativas com renda de US$ 118 bilhões, apesar de sanções dos EUA
Agora é aguardar para ver se eventualmente a Moore Threads vai oferecer dados mais concretos de suas placas – e quais outras empresas chinesas vão promover também seus serviços com IA da DeepSeek.
Via: Tom’s Hardware