Glosario de seguridad de la IA agéntica

El OWASP Top 10 es un marco reconocido a nivel mundial que identifica los riesgos de seguridad más críticos para las aplicaciones web. El "OWASP API Security Top 10" destaca específicamente las vulnerabilidades más comunes encontradas en arquitecturas basadas en API, como la Autorización a Nivel de Objeto Rota (BOLA) y la Mala Configuración de Seguridad, que representan la gran mayoría de los intentos de ataque modernos a las API.

El protocolo Agente a Agente (A2A) es un estándar abierto diseñado para la interoperabilidad entre diferentes agentes autónomos. Permite a los agentes especializados descubrirse entre sí, delegar tareas y colaborar en flujos de trabajo complejos utilizando un marco de comunicación y seguridad estandarizado, a menudo aprovechando OAuth y firmas digitales para la integridad de los mensajes.

El Protocolo de Contexto de Modelo (MCP) es un estándar de la industria emergente que proporciona una manera universal para que los agentes de IA se conecten a herramientas, datos y contexto. Funciona como las "manos" del agente, permitiendo que un Modelo de Lenguaje Grande (LLM) acceda a sistemas empresariales y ejecute llamadas a la API para realizar tareas específicas con el fin de alcanzar objetivos asignados.

Relleno de credenciales es un ciberataque automatizado en el que los actores de amenazas utilizan grandes listas de nombres de usuario y contraseñas robados para intentar iniciar sesión en servicios no relacionados. Este método explota la práctica común de reutilización de contraseñas, empleando bots para probar miles de credenciales por minuto para lograr tomas de control de cuentas fraudulentas en múltiples plataformas.

El umbral de complejidad es el punto de inflexión en el que un sistema de IA se vuelve tan intrincado que su comportamiento ya no puede ser completamente predicho o rastreado por sus creadores humanos. Superar este umbral puede dar lugar a "capacidades emergentes", lo que hace esencial que los equipos de seguridad implementen una auditoría conductual continua y un análisis de intenciones para mantener el control.

Human in the loop (HITL) es un mecanismo de supervisión que exige que un sistema de IA se detenga y obtenga la aprobación humana antes de tomar acciones de alto riesgo. Esto garantiza que, incluso cuando la IA opera a la velocidad de una máquina, las decisiones críticas sigan alineadas con la intención humana, las políticas de seguridad corporativas y los mandatos de cumplimiento normativo.

La conciencia contextual es la capacidad de un sistema de seguridad para analizar inteligentemente una solicitud evaluando el "contexto" circundante. Esto incluye identificar al usuario o agente, la línea de base de comportamiento normal y el impacto potencial en el negocio, lo que permite al sistema diferenciar entre una anomalía benigna y una intención maliciosa de exfiltrar datos.

La dispersión de API es la proliferación no gestionada y no documentada de API a través de diversas implementaciones de IA, entornos de nube, microservicios e integraciones de terceros. Esta falta de supervisión centralizada crea una enorme brecha de visibilidad, lo que dificulta que los equipos de seguridad mantengan un inventario preciso o sepan qué API están accediendo a datos sensibles.

Gestión de Información y Eventos de Seguridad (SIEM) es una solución de software que proporciona un centro de mando centralizado para las operaciones de seguridad. Recopila y analiza datos de registro de todo un entorno de TI para ayudar a los equipos de seguridad a identificar patrones de actividad sospechosa y correlacionar eventos dispares en inteligencia de amenazas procesable.

Gestión de la Postura de las API es el proceso proactivo de analizar continuamente el panorama de API de una organización para identificar vulnerabilidades antes de que sean explotadas. Esto incluye la detección de configuraciones de seguridad incorrectas, permisos excesivos, credenciales expuestas y desviaciones de los estándares de seguridad corporativos o regulatorios.

La Gestión de la Postura de Seguridad de Aplicaciones (ASPM) es un marco para orquestar y gestionar la seguridad de las aplicaciones a lo largo de todo su ciclo de vida. Unifica los hallazgos de diversas herramientas de prueba con los datos de configuración de producción para priorizar los riesgos y asegurar que los estándares de seguridad se apliquen de manera consistente desde el desarrollo hasta la producción.

IA gobernanza es un marco estratégico de reglas y controles diseñado para garantizar que los sistemas de IA se utilicen de forma responsable, ética y segura. Implica cumplir con los requisitos normativos, como la Ley de IA de la UE, utilizando la capa de API como plano de control principal para gestionar la integridad de los datos, la solidez del sistema y la auditabilidad de las interacciones autónomas.

IA agéntica se refiere a agentes de IA autónomos que actúan como "empleados digitales", utilizando Modelos de Lenguaje Grandes (LLM) para el razonamiento e Interfaces de Programación de Aplicaciones (API) para la ejecución. A diferencia de los chatbots simples, la IA agéntica puede improvisar sus propios flujos de trabajo y utilizar herramientas empresariales para lograr objetivos complejos a la velocidad de una máquina, lo que requiere un nuevo paradigma de seguridad centrado en la "capa de acción" donde estos agentes interactúan con los datos.

La IA multimodal se refiere a modelos de aprendizaje automático capaces de procesar e integrar simultáneamente múltiples tipos de datos de entrada, incluyendo texto, imágenes, audio y video. Esto permite a los sistemas de IA interpretar el contexto de manera más efectiva y generar resultados más matizados al razonar a partir de diversas fuentes de evidencia.

La OpenAPI Specification (OAS) es el estándar mundial para describir formalmente las API RESTful. Proporciona una interfaz independiente del lenguaje que permite tanto a humanos como a ordenadores descubrir y comprender las capacidades de un servicio, incluyendo sus puntos finales y métodos de autenticación, sin necesidad de acceder al código fuente subyacente.

La orquestación de IA es la gestión coordinada de múltiples modelos de IA, agentes autónomos y fuentes de datos empresariales para automatizar flujos de trabajo sofisticados. Gestiona la secuenciación, el manejo de fallos y el uso de recursos de los sistemas de IA, asegurando que el razonamiento se traduzca en una ejecución autorizada y conforme a la normativa en toda la empresa.

En el contexto de la ciberseguridad, la postura de API es el estado proactivo del endurecimiento del entorno de API de una organización. Se centra en la fase de "Gobierno" de la seguridad, asegurando que los activos digitales estén configurados según los estándares establecidos, que los permisos estén limitados al mínimo privilegio necesario y que cualquier "desviación" de la línea base de seguridad sea subsanada.

La postura de seguridad se refiere a la solidez y preparación general del estado de seguridad colectivo de una organización. Abarca la configuración de la infraestructura digital, la eficacia de los controles defensivos y la capacidad para detectar, responder y recuperarse de las amenazas en toda la superficie de ataque de la empresa.

Seguridad de API es un ámbito dedicado de la ciberseguridad centrado en descubrir, gobernar y proteger todo el ecosistema de API de una organización. Va más allá de los controles básicos de pasarela para abordar ataques complejos de "lógica de negocio", identificando cuándo un usuario autenticado o un agente de IA utiliza llamadas de API legítimas para realizar acciones no autorizadas o maliciosas.

Seguridad de MCP implica asegurar el punto de conexión entre modelos de IA y herramientas empresariales proporcionado por el Protocolo de Contexto del Modelo. Aquí se requiere seguridad especializada para evitar el "salto de línea", donde se utiliza la inyección de prompts para engañar a un agente y que llame a herramientas no autorizadas, y para asegurar que los agentes no puedan abusar de su conectividad para exfiltrar datos sensibles.

La superficie de ataque es la suma total de todos los puntos de entrada, vulnerabilidades y activos que un usuario no autorizado podría explotar para acceder o exfiltrar datos. En los entornos empresariales modernos, la proliferación de servicios en la nube, API y agentes de IA autónomos ha expandido significativamente esta superficie, a menudo más allá del alcance de las herramientas de seguridad perimetral tradicionales.

Toma de control de cuenta (ATO) es un tipo de robo de identidad en el que un usuario no autorizado obtiene el control total de la cuenta de un usuario legítimo. Esto se logra típicamente a través de métodos automatizados como el 'credential stuffing' o explotando vulnerabilidades en la autenticación de API, lo que permite al atacante robar datos sensibles o realizar transacciones fraudulentas haciéndose pasar por la víctima.

Salt Security es el pionero y líder en seguridad de API, ofreciendo una plataforma dedicada para proteger todo el ecosistema de API y la "Agentic AI Action Layer". Salt proporciona descubrimiento panorámico, gobernanza proactiva de la postura y protección contra amenazas basada en la intención para ayudar a las organizaciones a asegurar sus innovaciones más críticas a lo largo de todo el ciclo de vida de las API.

Shadow MCP se refiere a servidores de Protocolo de Contexto de Modelo (MCP) no autorizados u olvidados que se implementan sin el conocimiento del equipo de seguridad. Estos servidores a menudo existen en repositorios de desarrolladores privados o prototipos internos, creando "manos ocultas" que pueden permitir a los agentes de IA eludir la gobernanza de seguridad formal y acceder a datos sensibles.

Una API en la sombra es un punto final no documentado o no gestionado que opera fuera del conocimiento y la supervisión del equipo de seguridad. A menudo creadas por desarrolladores para pruebas rápidas o por integraciones de terceros, las API en la sombra crean una "puerta trasera" para los atacantes porque carecen de la monitorización y las protecciones aplicadas a las API gestionadas.

Una clave API es una cadena de caracteres única que se utiliza para identificar y autenticar una aplicación o un usuario que realiza la llamada a una API.

Aunque son comunes para la identificación básica, depender de claves API estáticas como único método de autenticación es un riesgo de seguridad considerable, ya que a menudo quedan expuestas en el código del lado del cliente o son interceptadas en tránsito si no se gestionan adecuadamente.

Una Interfaz de Programación de Aplicaciones (API) es un conjunto estandarizado de reglas que permiten que diferentes aplicaciones de software se comuniquen y compartan datos. Las API sirven como los pilares de la arquitectura digital moderna, actuando como los conductos principales que conectan las experiencias de usuario front-end con los servicios y datos back-end.

Una pasarela API es un punto de mediación que se sitúa entre un cliente y un conjunto de servicios de backend. Actúa como un controlador de tráfico, realizando tareas operativas esenciales como el enrutamiento de solicitudes, la aplicación de límites de velocidad y el manejo de la autenticación básica para asegurar que las solicitudes se ajusten a esquemas definidos antes de que lleguen a la infraestructura interna.

Una Red de Distribución de Contenidos (CDN) es una red de servidores proxy distribuida geográficamente, diseñada para almacenar en caché y servir contenido web más cerca de los usuarios finales. Al reducir la distancia física que deben recorrer los datos, las CDN mejoran el rendimiento y la disponibilidad de los sitios web, al tiempo que ofrecen una primera línea de defensa contra amenazas volumétricas como los ataques DDoS.

Una vulnerabilidad de API es un fallo en el diseño, la implementación o la configuración de una API que puede ser explotado por un atacante. Muchas vulnerabilidades de API tienen su origen en una "lógica defectuosa", donde la API funciona correctamente según su código, pero permite el acceso no autorizado a datos debido a una autorización o gestión de recursos deficiente.

Un endpoint de API es una ubicación específica, normalmente una URL única, donde una API recibe solicitudes de recursos o servicios. Representa la "puerta" digital a la que una aplicación debe llamar para acceder a una función específica, como recuperar un perfil de usuario, procesar un pago o conectar un agente de IA a una base de datos.

Un firewall es un dispositivo de seguridad de red que monitorea y filtra el tráfico entrante y saliente basándose en un conjunto definido de reglas de seguridad. Actúa como una barrera entre una red interna de confianza y entornos externos no confiables, como internet, centrándose principalmente en bloquear el acceso no autorizado a nivel de red basándose en direcciones IP y tipos de protocolo.

Un flujo de trabajo agéntico es una serie de pasos o tareas que un agente de IA improvisa de forma autónoma para lograr un objetivo determinado. A diferencia de los flujos de trabajo de software tradicionales, que siguen rutas estáticas y predefinidas, los flujos de trabajo agénticos son dinámicos y a velocidad de máquina, lo que a menudo los hace invisibles para las herramientas de monitoreo de seguridad heredadas que esperan patrones de tráfico predecibles.

Un sistema multiagente (MAS) es un entorno donde múltiples agentes de IA autónomos colaboran e interactúan para resolver problemas complejos. Al asignar tareas especializadas a diferentes agentes, como uno para la recuperación de datos y otro para el análisis, las arquitecturas MAS ofrecen mayor resiliencia y especialización que los modelos de agente único.