Pentest
O que é Pentest e por que sua empresa precisa de um?
Entenda como funciona um teste de invasão, o que ele avalia e por que esperar um incidente para agir pode custar milhões à sua organização.
Teste a IA que você colocou para falar com o cliente
Chatbots, assistentes e agentes sobre modelos de linguagem abrem riscos que um pentest comum não cobre. Testamos o que acontece quando alguém manipula o prompt, tenta extrair dados ou faz a IA usar as ferramentas conectadas contra você.
- Execução
- 1 a 3 semanas
- Referência
- OWASP LLM Top 10
- Reteste
- Incluso
O que está incluso
- Prompt injection direto e indireto
- Jailbreak e quebra das regras do sistema
- Vazamento do prompt de sistema e de dados sensíveis
- Abuso das ferramentas e integrações do agente
- Teste do RAG e das fontes de conhecimento
- Relatório técnico, executivo e reteste
O teste em detalhe
Quem cuida da segurança e quem aprova o orçamento procuram coisas diferentes. Escolha a sua leitura.
- Prompt injection
- Direto, no que o usuário digita, e indireto, escondido em um documento, site ou e-mail que o modelo vai ler. Medimos o que a instrução injetada consegue fazer.
- Jailbreak e guardrails
- Testamos se dá para contornar as regras do sistema e levar o modelo a produzir o que ele deveria recusar.
- Vazamento
- Extração do prompt de sistema, de dados de outros usuários e de informação sensível que o modelo não deveria revelar.
- Agentes e ferramentas
- Quando a IA executa ações (consulta banco, chama API, manda e-mail), testamos se ela pode ser induzida a usar isso de forma indevida.
- Risco novo, exposição real
- Uma IA que fala com o cliente é uma nova porta de entrada. Ela pode vazar dados, dar desconto indevido ou falar em nome da empresa coisas que você não autorizou.
- Impacto provável
- Mostramos o que um usuário mal-intencionado extrairia ou faria pela IA, em linguagem de negócio.
- Governança de IA
- O teste apoia a adequação à LGPD e a frameworks de IA como o NIST AI RMF e o uso do MITRE ATLAS.
- Investimento
- Proposta com preço fechado. Contrato e NDA assinados antes de qualquer teste.
Por que testar a sua IA
A linguagem natural é a nova superfície
Em um sistema de IA, a entrada do usuário é instrução, não só dado. Isso cria uma classe de ataque que validação de formulário e firewall não cobrem.
O agente age no seu nome
Quando a IA consulta bancos, chama APIs ou manda mensagens, uma instrução injetada deixa de ser conversa e vira ação dentro dos seus sistemas.
O RAG lê o que o atacante planta
Se a IA busca contexto em documentos, um texto preparado dentro de um desses documentos pode sequestrar a resposta. É o prompt injection indireto.
A marca fala pela IA
O que o seu chatbot diz é dito pela sua empresa. Fazer o modelo prometer um reembolso, ofender um cliente ou revelar um preço errado é um problema de negócio, não só técnico.
O que você recebe
- Relatório técnico
- Cada falha com o prompt usado, a resposta obtida, a severidade e a recomendação de mitigação (guardrail, filtro, limite de permissão).
- Mapa de riscos do OWASP LLM Top 10
- O que foi testado e o que foi encontrado em cada categoria de risco de aplicações com LLM.
- Relatório executivo
- O risco da sua IA em linguagem de negócio, com o que corrigir primeiro antes de ampliar o uso.
- Reteste e encerramento
- Depois dos ajustes, testamos de novo os mesmos pontos e emitimos o documento com o status final.
Riscos que cobrimos no OWASP LLM Top 10
As categorias de risco de aplicações com LLM e como cada uma entra no teste.
| Risco | O que é | Como testamos |
|---|---|---|
| Prompt injection | Instrução do usuário sobrepõe as regras do sistema | Direto no chat e indireto em documentos lidos pelo RAG |
| Vazamento de informação | O modelo revela dados sensíveis ou de outros usuários | Tentativas de extrair dados pessoais e segredos do contexto |
| Cadeia de suprimentos | Plugins, modelos e dependências comprometidos | Revisão das integrações e das permissões de cada ferramenta |
| Envenenamento de dados | Dados de treino ou de contexto manipulados | Teste de conteúdo plantado nas fontes do RAG |
| Uso indevido de agentes | A IA executa ações além do que deveria | Indução a chamar ferramentas de forma abusiva |
| Vazamento do prompt de sistema | As instruções internas são extraídas | Técnicas para revelar o prompt e as regras ocultas |
Um exemplo do que encontramos em uma IA
Achados típicos de um pentest em IA, do prompt injection ao abuso de agente.
Relatório de pentest em IA5 achados
- #01Crítico
Prompt injection indireto via documento
Texto escondido em um PDF enviado ao chat faz o assistente ignorar as regras e expor o prompt de sistema.
- #02Crítico
Agente induzido a consultar outro cliente
Instrução manipulada leva o agente a buscar e revelar dados de uma conta diferente da do usuário.
- #03Alto
Jailbreak contorna os guardrails
Sequência de mensagens faz o modelo produzir conteúdo que ele deveria recusar.
- #04Alto
Desconto não autorizado pelo chatbot
O cliente convence o assistente de vendas a conceder um desconto fora da política.
- #05Médio
Prompt de sistema recuperável
Com a pergunta certa, o modelo entrega as próprias instruções internas.
Reteste: 5 de 5 mitigados
Para quem é
- Empresas com chatbot ou assistente de atendimento
- Produtos que embutiram um copiloto de IA
- Agentes que executam ações em sistemas internos
- Buscas e suporte com RAG sobre base de documentos
- Quem vai expor uma IA ao público e quer testar antes
Etapas
- 1
Escopo
Mapeamos a arquitetura: modelo, prompts, ferramentas, fontes de dados e o que seria um abuso. Contrato e NDA antes de começar.
- 2
Ataque
Prompt injection, jailbreak, extração de dados e abuso de ferramentas, cada achado confirmado com evidência.
- 3
Relatórios
Entrega dos relatórios e do mapa de riscos, com reunião para discutir as mitigações.
- 4
Reteste
A sua equipe ajusta os guardrails e a gente testa de novo os mesmos pontos.
Outros tipos de pentest
Dúvidas sobre o pentest em IA
Se a sua dúvida não estiver aqui, pergunte direto para a equipe.
Enviar uma perguntaO que é prompt injection?
É quando alguém insere uma instrução que o modelo passa a obedecer no lugar das suas regras. Pode ser direto, no que o usuário digita, ou indireto, escondido em um documento, site ou e-mail que a IA vai ler.
Vocês testam a IA ou o modelo que usamos?
Testamos a sua aplicação de IA: os prompts, os guardrails, o RAG, as ferramentas e as integrações em volta do modelo. Não auditamos o modelo base de terceiros como GPT ou Claude, mas sim como você o usa.
Que referências vocês seguem?
O OWASP Top 10 para aplicações com LLM guia as categorias de risco, e o MITRE ATLAS mapeia as técnicas de ataque contra sistemas de IA. O teste também apoia a adequação ao NIST AI RMF e à LGPD.
O teste gasta muitos tokens ou custa caro de API?
Combinamos antes um limite de uso com você. A maior parte do teste é manual e dirigida, não um bombardeio automático de requisições.
Serve para um agente que executa ações?
Sim, e é onde o risco é maior. Quando a IA chama APIs ou mexe em sistemas, testamos se ela pode ser induzida a fazer isso de forma indevida, e qual seria o estrago.
Artigos relacionados
Red Team
MITRE ATT&CK: o framework que mapeia como atacantes reais operam
Entenda o que é o MITRE ATT&CK, como ele organiza técnicas de ataque e por que red teams e blue teams usam o mesmo framework para falar a mesma língua.
Pentest
As 10 vulnerabilidades mais encontradas em pentests no Brasil
Um panorama das falhas que mais aparecem em testes de invasão reais e o que sua equipe pode fazer para corrigi-las antes do próximo teste.
Peça um pentest em IA
Conte como a sua IA funciona e o que ela acessa. Em até 24h úteis você recebe escopo, prazo e preço fechados.
Fale com nosso time
Prefere conversar antes? Agende uma reunião ou escreva para info@xpsecsecurity.io.