Por qué la protección en tiempo de ejecución, desde el prompt hasta la acción, es fundamental
La Detección y Respuesta de IA (AI-DR), también conocida como seguridad de IA en tiempo de ejecución, se está convirtiendo rápidamente en un requisito indispensable. La inyección de prompts, los jailbreaks y la fuga de datos son amenazas reales, y el prompt suele ser el punto donde comienzan los ataques.
Pero el prompt es solo el primer paso. En una empresa agéntica, una sola instrucción puede desencadenar actividades que van mucho más allá del LLM, llegando hasta sus sistemas empresariales y sus datos. Por eso, Salt considera la AI-DR como una capa esencial de la AG-DR (Detección y Respuesta Agéntica): protección en tiempo de ejecución para todo el flujo agéntico, desde el prompt hasta la acción.
El prompt es ahora una vía de acceso a la empresa
Un usuario, un servicio o un atacante envía un comando a un orquestador de agentes. El orquestador llama a un LLM, contacta a servidores MCP para obtener las herramientas necesarias, y esas herramientas invocan las API que ejecutan sus sistemas empresariales. Al final de la cadena se encuentran sus datos: clientes, dinero y registros. Cada uno de esos pasos constituye su propia superficie de ataque. Dada la sofisticación de los ataques basados en agentes que vemos hoy en día, no puede asumir que el atacante se quedará simplemente en la puerta de entrada o limitado al prompt.
Por qué la AI-DR es importante y por qué no es suficiente por sí sola
A simple vista, la detección en tiempo de ejecución para LLM parece ser ahora un requisito básico. A continuación, le mostramos lo que hemos desarrollado y cómo lo hemos ampliado a todo el flujo agéntico. Capacidades de AI-DR de Salt detectan:
- Inyección directa de prompts, donde la instrucción maliciosa llega en la propia solicitud
- Inyección indirecta de prompts, donde se oculta en un documento, correo electrónico o respuesta de una herramienta que el modelo lee
- Intentos de jailbreak para forzar al modelo a superar sus restricciones
- Comportamiento inseguro del modelo, como ignorar instrucciones o funcionar fuera de la configuración de su prompt del sistema
- Exposición de datos confidenciales, para evitar la fuga de datos a través del modelo
Las respuestas funcionan de tres maneras: de forma asíncrona, fuera de banda o en línea en tiempo real mediante una integración de puerta de enlace de IA o instrumentación de aplicaciones.
Pero proteger solo el prompt del LLM deja desprotegida la ruta de acción de la IA. Considere un ataque de varias fases:
- Un atacante manipula a un agente de facturación en el chat de soporte, formulando solicitudes para que revele cómo realiza su trabajo.
- El agente revela una herramienta de reembolso en un servidor MCP expuesto, junto con detalles de la API que lo respalda.
- El atacante abandona al agente por completo y llama a esa API directamente, donde no hay control a nivel de prompt que lo supervise.
- Se producen reembolsos no autorizados. Lo que comenzó como un prompt malicioso es ahora un ataque a un sistema de pago.
Una herramienta que solo analiza el prompt detecta, en el mejor de los casos, el primer paso. El resto de la campaña ocurre donde no puede ver.
AG-DR: protección en tiempo real para todo el ecosistema de agentes
AG-DR protege los prompts de LLM y cada conexión a lo largo de toda la ruta del agente: interfaces de agente, LLMs, servidores MCP, APIs y acciones del agente. Se combina con AG-SPM, que descubre y gobierna la postura de sus agentes de IA y los LLMs, MCPs y APIs de los que dependen. Juntos, le permiten responder a ambos conjuntos de preguntas: qué existe y qué está en riesgo, y si algo de ello está siendo atacado en este momento.
Combinar la protección en tiempo real en una sola plataforma significa:
- Visibilidad completa de la ruta. Vea un ataque desde el prompt hasta el MCP, la API y los datos, correlacionado con un único atacante.
- Correlación entre prompt y API. Conecte una inyección de prompt con la llamada MCP y el exploit de API que desencadenó, todo en el mismo gráfico.
- Contexto de postura. Salt observa el contexto descendente que los proveedores de seguridad exclusivos para LLM no pueden ver.
- Detección de LLMs en la sombra. La mayoría de las herramientas requieren que usted declare dónde está el tráfico de LLM. Salt encuentra el uso del que usted no tenía conocimiento.
- Una sola plataforma, no dos proveedores. No necesita comprar una herramienta de AI-DR independiente y una plataforma de seguridad para agentes para luego tener que integrarlas usted mismo.
Proteja el camino, no solo el prompt
Detrás de cada transformación de IA hay un sistema nervioso de API, y Salt lleva años centrándose en ello. Su transformación de IA necesita protección en cada conexión de su ecosistema de agentes, funcionando como un todo.
Visualice su superficie de ataque y descubra cómo protegerla. Solicitar una demostración.