Security

Sua IA age. Quem está no controle?

Agentes de IA leem e-mails, usam ferramentas e acessam dados internos. O que acontece quando atacantes os redirecionam? Com AI Red Teaming e pentests, verificamos se conteúdos manipulados podem causar vazamentos de dados ou ações não autorizadas.

Conheça nossos testes

Testamos até onde um atacante consegue chegar.

AI Red Teaming

Tentamos desviar a sua IA por meio de entradas diretas e de documentos ou páginas web manipulados. Com isso, verificamos se é possível contornar regras de proteção, extrair dados confidenciais ou disparar ações indesejadas.

Testes de intrusão (pentests)

Testamos aplicações web, APIs e infraestrutura em busca de vulnerabilidades exploráveis. O foco está em login, permissões e acesso a dados, inclusive onde agentes de IA estão conectados aos seus sistemas existentes.

Agent Security Testing

Testamos acessos a ferramentas, conexões MCP e fluxos de trabalho de agentes em várias etapas. Um agente consegue ultrapassar suas permissões, contornar aprovações ou influenciar outros agentes? Seguimos o caminho do ataque até o possível impacto.

Uma mensagem manipulada. Acesso à sua empresa.

Um agente processa conteúdo de terceiros e, ao mesmo tempo, pode agir nos seus sistemas. Verificamos se atacantes podem explorar essa ligação.

Conteúdo de terceiros vira comando
Uma instrução em um e-mail, PDF ou resultado de busca tenta desviar o agente de sua tarefa. Testamos se ele trata esse conteúdo como dados ou segue os comandos injetados.
Ferramentas permitidas são usadas de forma indevida
Um agente pode ler dados, enviar mensagens ou alterar registros. Verificamos se essas funções legítimas podem ser usadas para vazar dados, fazer alterações não autorizadas ou acessar além da tarefa real.
Um ataque se propaga pelo fluxo de trabalho
Informações manipuladas podem parar na memória do agente ou ser repassadas a outros agentes. Testamos se o ataque afeta etapas posteriores e se permissões e aprovações humanas o contêm.

O que você tem em mãos após o teste.

  • Um teste com escopo bem definido

    Juntos definimos sistemas, acessos, objetivos de ataque e limites. Você sabe de antemão o que vamos testar, quais dados usaremos e como lidamos com descobertas críticas.

  • Caminhos de ataque rastreáveis

    Você recebe as etapas do ataque documentadas e evidências das vulnerabilidades encontradas. Mostramos qual acesso foi possível, quais dados são afetados e em que condições o ataque funciona.

  • Prioridades para a correção

    Avaliamos as descobertas por facilidade de exploração e dano potencial. Sua equipe recebe recomendações concretas, como permissões de ferramentas mais restritas, acessos a dados separados ou aprovações obrigatórias antes de ações críticas.

  • Reteste das correções

    Se desejar, atacamos novamente os pontos corrigidos. Assim você vê se as medidas fecham o caminho de ataque documentado ou se são necessários mais ajustes.

O que escrevemos sobre IA e segurança

O que você provavelmente quer saber

Um pentest busca vulnerabilidades exploráveis em uma aplicação ou infraestrutura delimitada. No AI Red Teaming perseguimos objetivos de ataque, como vazamento de dados ou ações não autorizadas, e testamos como o comportamento da IA pode ser influenciado para isso. Com agentes, as duas abordagens se complementam: uma entrada manipulada pode levar a uma vulnerabilidade técnica por meio de uma chamada de ferramenta.

Isso inclui prompt injection direta e indireta, uso indevido de ferramentas conectadas, descrições de ferramentas MCP manipuladas, vazamento de dados e o contorno de permissões ou aprovações. Em sistemas de várias etapas, também verificamos se conteúdos manipulados permanecem na memória ou são repassados entre agentes. A seleção depende da sua arquitetura e dos acessos realmente disponíveis.

As proteções de um modelo não cobrem automaticamente toda a sua aplicação. Quais dados um agente pode ler e quais ações pode executar também dependem das suas integrações, permissões e aprovações. Por isso testamos a interação entre modelo, ferramentas e sistemas conectados.

Combinamos antes com você o ambiente de teste, a janela de tempo e as ações permitidas. Ações críticas, como exclusões ou mensagens externas, são limitadas ou simuladas com dados de teste. Testes no sistema de produção só ocorrem no escopo expressamente acordado.

Sim. Também testamos agentes, aplicações de IA, aplicações web e APIs existentes, desenvolvidos pela sua equipe ou por outros fornecedores. Na conversa inicial, esclarecemos arquitetura, acessos e objetivos do teste.

Antes da entrada em produção e sempre que as possibilidades de ataque mudarem de forma significativa: por exemplo, com novas ferramentas, fontes de dados adicionais, mais permissões ou troca de modelo. Um teste avalia o escopo combinado no momento da verificação. Em caso de mudanças, os caminhos de ataque afetados devem ser testados novamente.