NVIDIA lança microsserviços NIM para proteger aplicações com agentes de IA

A NVIDIA lançou os novos microsserviços NIM, um conjunto de soluções avançadas projetadas para proteger e escalar agentes de IA generativa.

Integrados à plataforma NeMo Guardrails, essas ferramentas são voltadas para segurança, confiabilidade e controle em aplicações de IA em setores como varejo, saúde e automotivo.

O que são os NeMo Guardrails e como funcionam?

Os NeMo Guardrails são uma coleção de ferramentas e políticas que atuam como “barreiras de proteção” para agentes de IA. Eles asseguram que os modelos de IA se comportem de forma controlada e segura, limitando respostas inadequadas, enviesadas ou que fujam de contextos predefinidos.

No total, são três novos microsserviços:

Segurança de conteúdo: evita resultados prejudiciais ou não éticos.

Controle de tópicos: restringe a conversa a temas aprovados.

Proteção contra jailbreak: impede tentativas de burlar as restrições do sistema.

São eles que orquestram as interações de IA para atender às diretrizes da empresa e aumentar a confiança do usuário. Todos os recursos foram desenvolvidos para permitir que agentes de IA operem em grande escala, com baixa latência e eficiência mesmo em ambientes limitados.

Aqui estão alguns exemplos práticos de suas aplicações:

Atendimento ao cliente no varejo: imagine um assistente virtual em uma loja online ajudando clientes a encontrar produtos específicos. O Controle de tópicos evita que o assistente desvie a conversa para temas irrelevantes, enquanto a Segurança de conteúdo assegura respostas educadas e precisas.

Assistentes automotivos inteligentes: em um carro conectado, um assistente de voz pode informar rotas, controlar funções do veículo e responder a dúvidas do motorista. Com os guardrails, ele evita sugestões inadequadas, como rotas perigosas ou comandos fora de contexto, garantindo interações seguras e úteis.

Saúde e consultas médicas: um chatbot de suporte médico pode oferecer informações básicas sobre sintomas ou medicamentos. O NeMo Guardrails ajuda a limitar a conversa a informações gerais, orientando o paciente a buscar um profissional para casos mais complexos, evitando diagnósticos automáticos.

Prevenção de fraudes em bancos: um agente virtual em uma instituição financeira pode verificar transações e dar suporte aos clientes. A Detecção de jailbreak impede que criminosos manipulem o sistema para acessar informações confidenciais, protegendo a integridade dos dados.

Suporte técnico em tecnologia: no setor de TI, assistentes de IA podem solucionar problemas comuns de usuários. Os guardrails garantem que respostas sejam técnicas e úteis, evitando conteúdos irrelevantes ou inadequados.

Divulgação/NVIDIA

Casos de uso e parcerias

Grandes players, como Amdocs e Cerence AI, utilizam o NeMo Guardrails para criar assistentes confiáveis. No varejo, o AI Blueprint da NVIDIA ajuda empresas como a Lowe’s a capacitar equipes e melhorar a experiência dos clientes.

O ActiveScore, da ActiveFence, reforça a segurança de conteúdo em tempo real. A adoção também está avançando com o AI Blueprint, solução da NVIDIA para assistentes de compras no varejo, que integra os guardrails para reforçar a confiança no atendimento digital.

Estamos constantemente buscando formas de capacitar nossos funcionários para oferecer um atendimento melhor aos clientes. Com as implementações do NVIDIA NeMo Guardrails, garantimos que as respostas da IA sejam seguras, protegidas e confiáveis, estabelecendo limites para fornecer apenas conteúdo relevante e apropriado

Chandhu Nair, vice-presidente sênior de dados, IA e inovação da Lowe’s

Além disso, para acelerar ainda mais a adoção de proteções de IA no desenvolvimento e implantação de aplicações de IA no varejo, a NVIDIA anunciou recentemente na feira NRF que seu NVIDIA AI Blueprint para assistentes de compras no varejo incorpora os microsserviços NeMo Guardrails para criar interações mais confiáveis e controladas com os clientes durante as experiências de compras digitais.

Os líderes de consultoria Taskus, Tech Mahindra e Wipro também estão integrando o NeMo Guardrails em suas soluções para fornecer aos seus clientes corporativos aplicações de IA geradoras mais seguras, confiáveis e controladas.

O Hive, que fornece seus modelos de detecção de conteúdo gerados por IA para imagens, vídeo e conteúdo de áudio como microsserviços NIM, pode ser facilmente integrado e orquestrado em aplicações de IA usando o NeMo Guardrails.

A NVIDIA está trabalhando para fornecer aos parceiros corporativos maneiras de acelerar a aplicação da IA e tornar o serviço ainda mais rápido. Com menos tempo, estamos reduzindo os custos de produção e aumentando a eficiência para nossos clientes”

Marcio Aguiar, diretor da divisão Enterprise da NVIDIA para América Latina

Resumindo, líderes do setor estão utilizando os NeMo Guardrails para personalizar e proteger suas soluções de IA:

Amdocs: está aprimorando suas interações com clientes usando agentes de IA confiáveis.

Cerence AI: utiliza os guardrails em assistentes automotivos, garantindo interações seguras e conscientes.

Lowe’s: emprega a tecnologia para capacitar funcionários no atendimento ao cliente com IA generativa segura e precisa.

Divulgação/NVIDIA

Por que o NeMo Guardrails é útil?

Com a rápida expansão da IA em diferentes setores, problemas como alucinações de resposta, vazamento de dados e falta de contextualização têm se tornado desafiadores. O NeMo Guardrails traz ferramentas práticas para abordar essas questões, com suporte de código aberto para fácil integração.

Além disso, os desenvolvedores têm acesso ao Garak, uma solução de código-aberto que identifica vulnerabilidades em modelos LLM, como problemas de segurança ou cenários adversos. Documentação e tutoriais completos estão disponíveis para maximizar o uso dessas ferramentas (veja aqui e aqui).

Suporte e recursos adicionais

Saiba mais sobre o NeMo Guardrails neste link.

Explore o NeMo para desenvolvimento de IA personalizada (aqui).

Confira detalhes sobre o Aegis Content Safety Dataset, usado para treinar sistemas de moderação (link).

Descubra como a IA pode impulsionar a lucratividade no setor de telecomunicações (relatório).

Leia também:

NVIDIA anuncia Project G-Assist: assistente de IA local chega em fevereiro para PCs GeForce RTX
Jensen Huang diz que chips IA da NVIDIA avançam bem mais rápido que a Lei de Moore

DLSS 4: o que é e como funciona a nova geração de gráficos com IA da NVIDIA

Disponibilidade

As ferramentas NeMo Guardrails, os microsserviços NIM e o NVIDIA Garak já estão disponíveis a partir de hoje para desenvolvedores e empresas. Tutoriais práticos para começar a implementação podem ser encontrados na página oficial.

Fonte: NVIDIA