Glossaire de la sécurité de l'IA agentique

La connaissance contextuelle est la capacité d'un système de sécurité à analyser intelligemment une requête en évaluant le « contexte » environnant. Cela inclut l'identification de l'utilisateur ou de l'agent, la ligne de base comportementale normale et l'impact commercial potentiel, permettant au système de faire la distinction entre une anomalie bénigne et une intention malveillante d'exfiltrer des données.

Gestion de la posture API est le processus proactif d'analyse continue du paysage API d'une organisation afin d'identifier les vulnérabilités avant qu'elles ne soient exploitées. Cela inclut la détection des erreurs de configuration de sécurité, des permissions excessives, des identifiants exposés et des écarts par rapport aux normes de sécurité d'entreprise ou réglementaires.

La gestion de la posture de sécurité des applications (ASPM) est un cadre permettant d'orchestrer et de gérer la sécurité des applications tout au long de leur cycle de vie. Elle unifie les résultats issus de divers outils de test avec les données de configuration de production afin de prioriser les risques et de garantir que les normes de sécurité sont appliquées de manière cohérente, du développement à la production.

Gestion des informations et des événements de sécurité (SIEM) est une solution logicielle qui offre un centre de commande centralisé pour les opérations de sécurité. Elle collecte et analyse les données de journalisation de l'ensemble d'un parc informatique pour aider les équipes de sécurité à identifier les schémas d'activités suspectes et à corréler des événements disparates en renseignements exploitables sur les menaces.

AI gouvernance est un cadre stratégique de règles et de contrôles conçu pour garantir que les systèmes d'IA sont utilisés de manière responsable, éthique et sécurisée. Il implique de satisfaire aux exigences réglementaires, telles que l'EU AI Act, en utilisant la couche API comme plan de contrôle principal pour gérer l'intégrité des données, la robustesse des systèmes et l'auditabilité des interactions autonomes.

Une API fantôme est un point d'accès non documenté ou non géré qui fonctionne en dehors de la connaissance et de la supervision de l'équipe de sécurité. Souvent créées par des développeurs pour des tests rapides ou par des intégrations tierces, les API fantômes créent une « porte dérobée » pour les attaquants, car elles ne bénéficient pas de la surveillance et des protections appliquées aux API gérées.

Dans un contexte de cybersécurité, la posture API est l'état proactif de durcissement de l'environnement API d'une organisation. Elle se concentre sur la phase de « Gouvernance » de la sécurité, garantissant que les actifs numériques sont configurés conformément aux normes établies, que les autorisations sont limitées au principe du moindre privilège nécessaire, et que toute « dérive » par rapport à la base de référence de sécurité est corrigée.

La posture de sécurité désigne la force et la préparation globales du dispositif de sécurité d'une organisation. Elle englobe la configuration de l'infrastructure numérique, l'efficacité des contrôles défensifs, et la capacité à détecter, à réagir et à se remettre des menaces sur l'ensemble de la surface d'attaque de l'entreprise.

Prise de contrôle de compte (ATO) est un type de vol d'identité où un utilisateur non autorisé prend le contrôle total du compte d'un utilisateur légitime. Ceci est généralement réalisé par des méthodes automatisées comme le bourrage d'identifiants (credential stuffing) ou en exploitant des failles d'authentification d'API, permettant à l'attaquant de voler des données sensibles ou d'effectuer des transactions frauduleuses au nom de la victime.

La prolifération anarchique des API désigne la multiplication non gérée et non documentée des API à travers divers déploiements d'IA, environnements cloud, microservices et intégrations tierces. Ce manque de supervision centralisée crée un énorme déficit de visibilité, rendant difficile pour les équipes de sécurité de maintenir un inventaire précis ou de savoir quelles API accèdent à des données sensibles.

Sécurité des API est un domaine dédié de la cybersécurité axé sur la découverte, la gouvernance et la protection de l'ensemble de l'écosystème d'API d'une organisation. Il va au-delà des contrôles de passerelle de base pour faire face aux attaques complexes de "logique métier", en identifiant les cas où un utilisateur authentifié ou un agent d'IA utilise des appels d'API légitimes pour effectuer des actions non autorisées ou malveillantes.

La Spécification OpenAPI (OAS) est la norme mondiale pour la description formelle des API RESTful. Elle fournit une interface indépendante du langage qui permet aux humains comme aux ordinateurs de découvrir et de comprendre les capacités d'un service, y compris ses points d'accès (endpoints) et ses méthodes d'authentification, sans avoir besoin d'accéder au code source sous-jacent.

Bourrage d'identifiants est une cyberattaque automatisée où des acteurs malveillants utilisent de longues listes de noms d'utilisateur et de mots de passe volés pour tenter de se connecter à des services non liés. Cette méthode exploite la pratique courante de la réutilisation des mots de passe, en employant des robots pour tester des milliers d'identifiants par minute afin de réaliser des prises de contrôle de comptes frauduleuses sur plusieurs plateformes.

Le protocole de contexte de modèle (MCP) est une norme industrielle émergente qui offre un moyen universel aux agents d'IA de se connecter à des outils, des données et du contexte. Il fonctionne comme les « mains » de l'agent, permettant à un grand modèle linguistique (LLM) d'accéder aux systèmes d'entreprise et d'exécuter des appels d'API pour effectuer des tâches spécifiques en vue d'atteindre des objectifs assignés.

Le protocole Agent-to-Agent (A2A) est une norme ouverte conçue pour l'interopérabilité entre différents agents autonomes. Il permet aux agents spécialisés de se découvrir mutuellement, de déléguer des tâches et de collaborer sur des flux de travail complexes en utilisant un cadre de communication et de sécurité standardisé, tirant souvent parti d'OAuth et des signatures numériques pour l'intégrité des messages.

Salt Security est le chef de file et le pionnier de la sécurité des API, offrant une plateforme dédiée pour sécuriser l'ensemble de l'écosystème API et la « couche d'action d'IA agentique ». Salt propose une découverte panoramique, une gouvernance proactive de la posture et une protection contre les menaces basée sur l'intention afin d'aider les organisations à sécuriser leurs innovations les plus critiques tout au long du cycle de vie complet des API.

Le seuil de complexité est le point de basculement où un système d'IA devient si complexe que son comportement ne peut plus être entièrement prédit ou retracé par ses créateurs humains. Franchir ce seuil peut entraîner des « capacités émergentes », ce qui rend essentiel pour les équipes de sécurité de mettre en œuvre un audit comportemental continu et une analyse des intentions afin de maintenir le contrôle.

L'humain dans la boucle (HITL) est un mécanisme de supervision où un système d'IA est tenu de s'interrompre et d'obtenir l'approbation humaine avant d'entreprendre des actions à haut risque. Cela garantit que même lorsque l'IA fonctionne à la vitesse de la machine, les décisions critiques restent alignées avec l'intention humaine, les politiques de sécurité de l'entreprise et les exigences de conformité réglementaire.

IA Agentique désigne des agents d'IA autonomes qui agissent comme des "employés numériques", utilisant des Modèles de Langage Étendus (LLM) pour le raisonnement et des Interfaces de Programmation d'Applications (API) pour l'exécution. Contrairement aux chatbots simples, l'IA agentique peut improviser ses propres flux de travail et utiliser des outils d'entreprise pour atteindre des objectifs complexes à la vitesse de la machine, nécessitant un nouveau paradigme de sécurité axé sur la "couche d'action" où ces agents interagissent avec les données.

L'IA multimodale désigne des modèles d'apprentissage automatique capables de traiter et d'intégrer simultanément plusieurs types de données d'entrée, notamment du texte, des images, de l'audio et de la vidéo. Elle permet aux systèmes d'IA d'interpréter le contexte plus efficacement et de générer des résultats plus nuancés en s'appuyant sur diverses sources de preuves.

L'orchestration de l'IA est la gestion coordonnée de plusieurs modèles d'IA, d'agents autonomes et de sources de données d'entreprise pour automatiser des flux de travail sophistiqués. Elle gère le séquençage, la gestion des défaillances et l'utilisation des ressources des systèmes d'IA, garantissant que le raisonnement se traduit par une exécution autorisée et conforme à l'échelle de l'entreprise.

L'OWASP Top 10 est un cadre mondialement reconnu qui identifie les risques de sécurité les plus critiques pour les applications web. Le OWASP API Security Top 10 met spécifiquement en évidence les failles les plus courantes trouvées dans les architectures basées sur les API, telles que l'autorisation au niveau de l'objet brisée (BOLA) et la mauvaise configuration de sécurité, qui représentent la grande majorité des tentatives d'attaque modernes contre les API.

Sécurité MCP implique de sécuriser le point de connexion entre les modèles d'IA et les outils d'entreprise fournis par le protocole de contexte de modèle. Une sécurité spécialisée est nécessaire ici pour empêcher le « saut de ligne », où l'injection de prompt est utilisée pour tromper un agent afin qu'il appelle des outils non autorisés, et pour garantir que les agents ne peuvent pas abuser de leur connectivité pour exfiltrer des données sensibles.

Les MCP fantômes désignent des serveurs de protocole de contexte de modèle (MCP) non autorisés ou oubliés qui sont déployés à l'insu de l'équipe de sécurité. Ces serveurs se trouvent souvent dans des dépôts de développeurs privés ou des prototypes internes, créant des « portes dérobées » qui peuvent permettre aux agents d'IA de contourner la gouvernance de sécurité formelle et d'accéder à des données sensibles.

Une clé API est une chaîne de caractères unique utilisée pour identifier et authentifier une application ou un utilisateur appelant auprès d'une API.

Bien que courantes pour une identification de base, s'appuyer sur des clés API statiques comme seule méthode d'authentification constitue un risque de sécurité important, car elles sont souvent exposées dans le code côté client ou interceptées lors de leur transmission si elles ne sont pas gérées correctement.

Une interface de programmation d'applications (API) est un ensemble de règles normalisées qui permettent à différentes applications logicielles de communiquer et de partager des données. Les API constituent les éléments fondamentaux de l'architecture numérique moderne, servant de principaux canaux qui relient les expériences utilisateur front-end aux services et données back-end.

Une passerelle API est un point de médiation qui se situe entre un client et un ensemble de services backend. Elle fait office de gestionnaire de trafic, effectuant des tâches opérationnelles essentielles telles que le routage des requêtes, l'application de limites de débit et la gestion de l'authentification de base, afin de garantir que les requêtes sont conformes aux schémas définis avant qu'elles n'atteignent l'infrastructure interne.

La surface d'attaque est la somme totale de tous les points d'entrée, vulnérabilités et actifs qu'un utilisateur non autorisé pourrait exploiter pour accéder à des données ou les exfiltrer. Dans les environnements d'entreprise modernes, la prolifération des services cloud, des API et des agents d'IA autonomes a considérablement étendu cette surface, souvent au-delà de la portée des outils de sécurité périmétrique traditionnels.

Une vulnérabilité d'API est une faille dans la conception, l'implémentation ou la configuration d'une API qui peut être exploitée par un adversaire. De nombreuses vulnérabilités d'API sont dues à une « logique défaillante », où l'API fonctionne correctement selon son code mais permet un accès non autorisé aux données en raison d'une autorisation ou d'une gestion des ressources défectueuse.

Un workflow agentique est une série d'étapes ou de tâches qu'un agent IA improvise de manière autonome pour atteindre un objectif donné. Contrairement aux workflows logiciels traditionnels, qui suivent des chemins statiques et prédéfinis, les workflows agentiques sont dynamiques et s'exécutent à la vitesse de la machine, les rendant souvent invisibles aux outils de surveillance de sécurité hérités qui s'attendent à des modèles de trafic prévisibles.

Un pare-feu est un dispositif de sécurité réseau qui surveille et filtre le trafic entrant et sortant en fonction d'un ensemble de règles de sécurité définies. Il agit comme une barrière entre un réseau interne de confiance et des environnements externes non fiables, tels que l'internet, se concentrant principalement sur le blocage des accès non autorisés au niveau de la couche réseau en fonction des adresses IP et des types de protocole.

Un point de terminaison d'API est un emplacement spécifique, généralement une URL unique, où une API reçoit des requêtes pour des ressources ou des services. Il représente la « porte » numérique à laquelle une application doit frapper pour accéder à une fonction spécifique, telle que la récupération d'un profil utilisateur, le traitement d'un paiement ou la connexion d'un agent IA à une base de données.

Un réseau de diffusion de contenu (CDN) est un réseau de serveurs proxy géographiquement distribué, conçu pour mettre en cache et diffuser du contenu web plus près des utilisateurs finaux. En réduisant la distance physique que les données doivent parcourir, les CDN améliorent les performances et la disponibilité des sites web tout en offrant une première ligne de défense contre les menaces volumétriques telles que les attaques DDoS.

Un système multi-agents (SMA) est un environnement où plusieurs agents d'IA autonomes collaborent et interagissent pour résoudre des problèmes complexes. En attribuant des tâches spécialisées à différents agents, par exemple un pour la récupération de données et un autre pour l'analyse, les architectures SMA offrent une résilience et une spécialisation accrues par rapport aux modèles à agent unique.