AMD lança Gaia, plataforma de IA open source para LLM local em qualquer PC

A AMD disponibilizou nessa semana seu mais recente projeto voltado para IA, chamado Gaia. A plataforma traz um app para rodar LLM localmente em qualquer PC, permitindo o uso de IA generativa offline, o que pode ser mais seguro e até oferecer mais performance, dependendo do hardware do usuário.

A plataforma Gaia é open source, então usa o SDK Lemonade para sua inferência em LLM. Além disso, a AMD diz que seus modelos de IA podem se adaptar a diferentes propósitos, oferecendo uma experiência mais personalizada e precisa para cada usuário.

Usando um agente para RAG (Retrieval-Augmented Generation), a ferramenta consegue combinar LLM com uma base de conhecimento para ajudar a tecnologia a entender contextualmente os prompts. Segundo o Tom’s Hardware, a plataforma atualmente é formada por quatro agentes: Simple Prompt Completion, Chaty, Clip e Joker.

O Simple Prompt Completion testa e avalia os prompts, o Chaty é o chatbot da plataforma que interage com o usuário, enquanto o Clip serve para fazer buscas no YouTube e oferecer uma funcionalidade de perguntas e respostas. O Joker, como sugere o nome, gera piadas, para tentar dar mais personalidade ao robô.

Gaia funciona em qualquer hardware

Uma das partes mais interessantes do Gaia é que a plataforma pode ser usada em qualquer build e não exige processadores ou GPUs da AMD. Evidentemente, a capacidade do hardware vai impactar na performance final do programa, mas nada impede de instalar num PC com CPU Intel e GPU NVIDIA.

Notícias relacionadas:

• GAIADEX: modelo de linguagem da Razer movido por IA avalia o ciclo de vida de produtos
• NVIDIA, Alphabet e Google colaboram para promover agentes de IA e IA física
• Lenovo AI Stick oferece uma NPU externa de 32 TOPS, conectada por USB-C

A plataforma, no entanto, conta com uma versão alternativa de instalador híbrido (Hybrid), que vem com configurações otimizadas para componentes AMD. Dessa forma, essa opção pode ser melhor para quem usa CPUs Ryzen AI dotadas de NPU.

Os instaladores para o Gaia, tanto padrão como Hybrid, estão disponíveis para download gratuito nesta página do GitHub, onde interessados também encontram instruções para sua implementação.

Via: Tom’s Hardware