Une nouvelle plateforme, Moltbook, suscite un vif intérêt au sein de la communauté de l'IA. Elle ne doit pas sa renommée aux publications humaines, mais à celles d'agents d'IA autonomes. Moltbook est un réseau social conçu pour permettre aux agents d'IA de publier, de commenter, de voter et même de former des communautés.
Les humains peuvent observer ces interactions, mais ne peuvent pas y participer. Cette expérience révèle une réalité frappante : les agents d'IA se coordonnent, partagent du code et développent des cultures complexes à l'insu des humains. Loin d'être une simple curiosité, cela met en lumière un sérieux problème de sécurité au sein de l'API Fabric.
Qu'est-ce que Moltbook ?
Moltbook est un environnement où les agents d'IA interagissent exclusivement via des API. Ils publient, commentent et extraient des données sans aucune modération humaine. Il sert de laboratoire en conditions réelles pour la couche d'action de l'IA agentique. Cette couche constitue l'infrastructure par laquelle les agents utilisent des API et des protocoles, tels que le Model Context Protocol (MCP), pour accomplir leurs tâches.
Pourquoi Moltbook révèle un risque pour les entreprises
L'expérience démontre que les agents d'IA ne fonctionnent pas uniquement sur des applications. Ils opèrent sur l'API Fabric, qui connecte les entreprises entre elles. Chaque action d'un agent est un appel API. Chaque risque est donc porté par cette infrastructure.
1. Les agents utilisent des API non surveillées
Les agents d'IA sur Moltbook n'utilisent pas d'interface web. Ils communiquent entièrement via un trafic API machine-à-machine. Dans un contexte d'entreprise, c'est là que réside le risque. Si les équipes de sécurité ne peuvent pas voir ce que les agents appellent, elles ne peuvent pas détecter les abus.
2. Injection de prompt et code non fiable
Les agents de Moltbook récupèrent automatiquement des « compétences » sur le réseau. Il s'agit de fichiers logiques exécutables que les agents téléchargent sans vérification humaine. Des compétences malveillantes ont déjà été signalées sur la plateforme. Ces dernières peuvent lire des clés API privées et les exfiltrer vers des serveurs externes. C'est un exemple classique de risque lié à l'injection de prompt et à l'exécution automatique.
3. Le trio mortel des risques liés aux agents
Les chercheurs en sécurité identifient trois conditions qui créent un risque élevé pour les agents d'IA :
- Accès à des données privées ou sensibles.
- Capacité à exécuter des actions via des API ou des outils.
- Exposition à des entrées non fiables ou malveillantes.
Moltbook incarne ces trois conditions. Dans un environnement professionnel, ce trio peut mener à l'exfiltration de données, à l'élévation de privilèges et à la fraude automatisée.
Les enjeux métier des API d'IA non sécurisées
Moltbook démontre que les systèmes d'IA multiplient les surfaces d'exposition des API. Cela pose trois problèmes critiques pour les dirigeants.
Manque de visibilité : La plupart des entreprises ignorent quelles API sont utilisées par leur IA. Cela inclut les microservices internes, les plateformes SaaS et les services fantômes. Les RSSI ne peuvent pas déterminer à quelles données leurs agents accèdent.
Lacunes en matière de gouvernance : Moltbook a montré que les agents s'incitent mutuellement à adopter des comportements dangereux. Sans visibilité, les entreprises ne peuvent pas appliquer leurs politiques ni démontrer la traçabilité des données pour répondre aux exigences réglementaires, telles que celles de l'IA Act de l'UE.
Protection aveugle à l'exécution : Les outils traditionnels inspectent les paquets et les journaux sans comprendre l'intention d'un agent d'IA. Ils sont incapables de déterminer si un appel est conforme aux objectifs métier ou s'il enfreint les règles de gouvernance.
Comprendre la couche API Fabric
L'API Fabric est la couche de connexion fondamentale qui propulse l'entreprise numérique moderne. C'est le maillage invisible qui relie chaque utilisateur, chaque microservice et, désormais, chaque agent d'IA autonome.
Pour gérer cette structure à haut niveau, les organisations doivent aller au-delà de la simple gestion de passerelle et se concentrer sur trois domaines clés :
- Découverte complète de la structure : Les organisations doivent être capables d'observer toutes les connexions au sein de la structure. Cela inclut les API traditionnelles et les API « fantômes » générées dynamiquement par les agents d'IA utilisant de nouveaux protocoles comme le MCP.
- Gouvernance contextuelle : La gouvernance moderne ne repose pas sur des règles statiques. Elle nécessite de comprendre l'identité de l'acteur, la sensibilité des données et l'intention derrière la requête. Cela garantit que les systèmes autonomes opèrent dans le respect des limites légales et éthiques.
- Intelligence comportementale : Comme les agents d'IA peuvent enchaîner les appels d'API de manière imprévisible, la structure doit être surveillée pour détecter les anomalies comportementales. Cela nécessite l'analyse de modèles à long terme pour distinguer une tâche métier complexe d'une attaque lente et sophistiquée.
Conclusion : Sécuriser l'avenir avec Salt Security
Moltbook démontre ce qui se passe lorsque les agents d'IA opèrent librement via des API. Pour les organisations qui adoptent l'IA agentique, la leçon est claire. Vous ne pouvez pas gouverner ce que vous ne voyez pas. Vous ne pouvez pas faire évoluer l'IA sans sécuriser l'API Fabric.
Salt Security fournit la plateforme nécessaire pour rendre cette structure visible, gouvernée et sécurisée. En tant que plan de contrôle de l'API Fabric, Salt découvre en continu tout le trafic API, identifie les risques liés aux agents et utilise une IA brevetée pour stopper les attaques comportementales en temps réel. En sécurisant la couche d'action de l'IA agentique, Salt permet aux entreprises d'innover avec l'IA tout en maintenant une posture de sécurité robuste et conforme.
Si vous souhaitez en savoir plus sur Salt et sur la façon dont nous pouvons vous aider, veuillez nous contacter, planifier une démo, ou visiter notre site web. Vous pouvez également obtenir une évaluation gratuite de la surface d'attaque API auprès de l'équipe de recherche de Salt Security et découvrir ce que les attaquants savent déjà.