Por que a proteção em tempo de execução, do prompt à ação, é essencial
A Detecção e Resposta de IA (AI-DR), também chamada de segurança de IA em tempo de execução, está se tornando rapidamente indispensável. Injeção de prompt, jailbreaks e vazamento de dados são ameaças reais, e o prompt é frequentemente onde os ataques começam.
Mas o prompt é apenas o primeiro passo. Em uma empresa que utiliza agentes, uma única instrução pode desencadear atividades muito além do LLM, chegando até seus sistemas de negócios e dados. É por isso que a Salt trata a AI-DR como uma camada essencial da AG-DR (Detecção e Resposta Agêntica): proteção em tempo de execução para todo o caminho agêntico, do prompt à ação.
O prompt agora é uma porta de entrada para o negócio
Um usuário, um serviço ou um invasor envia um comando para um orquestrador de agentes. O orquestrador chama um LLM, acessa servidores MCP para obter as ferramentas necessárias, e essas ferramentas chamam APIs que executam seus sistemas de negócios. No final da cadeia estão seus dados: clientes, dinheiro e registros. Cada um desses saltos representa sua própria superfície de ataque. Com a sofisticação dos ataques baseados em agentes que vemos hoje, você não pode presumir que o invasor ficará apenas na porta da frente, limitado ao prompt.
Por que a AI-DR é importante e por que ela não é suficiente sozinha
À primeira vista, a detecção em tempo de execução de LLMs parece ser o básico hoje em dia. Veja o que construímos e como expandimos isso para todo o caminho agêntico. Capacidades de AI-DR da Salt detectam:
- Injeção direta de prompt, onde a instrução maliciosa chega na própria solicitação
- Injeção indireta de prompt, onde ela está oculta em um documento, e-mail ou resposta de ferramenta que o modelo lê
- Tentativas de jailbreak para forçar o modelo a ultrapassar suas restrições
- Comportamento inseguro do modelo, como ignorar instruções ou operar fora da configuração do prompt do sistema
- Exposição de dados sensíveis, para evitar o vazamento de dados através do modelo
As respostas funcionam de três maneiras: de forma assíncrona, fora de banda ou em linha em tempo real por meio de uma integração de gateway de IA ou instrumentação de aplicação.
Mas proteger apenas o prompt do LLM deixa o caminho de ação da IA desprotegido. Considere um ataque de várias fases:
- Um invasor manipula um agente de faturamento no chat de suporte, formulando solicitações para fazê-lo falar sobre como realiza seu trabalho.
- O agente revela uma ferramenta de reembolso em um servidor MCP exposto, juntamente com detalhes da API por trás dele.
- O invasor abandona o agente completamente e chama essa API diretamente, onde nenhum controle na camada de prompt está monitorando.
- Reembolsos não autorizados ocorrem. O que começou como um prompt malicioso agora é um ataque a um sistema de pagamento.
Uma ferramenta que vê apenas o prompt detecta, na melhor das hipóteses, o primeiro passo. O restante da campanha acontece onde ela não consegue ver.
AG-DR: proteção em tempo de execução para todo o ecossistema de agentes
O AG-DR protege prompts de LLM e todas as conexões ao longo do caminho completo do agente: interfaces de agente, LLMs, servidores MCP, APIs e ações de agente. Ele se integra ao AG-SPM, que descobre e governa a postura dos seus agentes de IA e dos LLMs, MCPs e APIs dos quais eles dependem. Juntos, eles permitem que você responda a ambos os conjuntos de perguntas: o que existe e o que está em risco, e se algo disso está sob ataque neste momento.
Combinar a proteção em tempo de execução em uma única plataforma significa:
- Visibilidade total do caminho. Veja um ataque desde o prompt até o MCP, a API e os dados, correlacionados a um único invasor.
- Correlação entre prompt e API. Conecte uma injeção de prompt à chamada de MCP e ao exploit de API que ela desencadeou, tudo no mesmo gráfico.
- Contexto de postura. A Salt enxerga o contexto a jusante que provedores de segurança focados apenas em LLM não conseguem ver.
- Descoberta de LLMs sombra. A maioria das ferramentas exige que você declare onde o tráfego de LLM está. A Salt encontra o uso que você desconhecia.
- Uma única plataforma, não dois fornecedores. Você não precisa comprar uma ferramenta de AI-DR independente e uma plataforma de segurança de agentes para depois ter que integrá-las por conta própria.
Proteja o caminho, não apenas o prompt
Por trás de toda transformação de IA existe um sistema nervoso de APIs, e a Salt tem se dedicado a isso há anos. Sua transformação de IA precisa de proteção em cada conexão do seu ecossistema de agentes, funcionando como um todo.
Veja sua superfície de ataque e como protegê-la. Solicite uma demonstração.