July 3, 2026
Les portes dérobées cachées dans les LLM pourraient être activées à grande échelle sur l'ensemble des déploiements en entreprise
Des chercheurs en sécurité ont tiré la sonnette d'alarme concernant une catégorie de portes dérobées dormantes dans les LLM, indétectables au sein des poids du modèle jusqu'à ce qu'une phrase déclencheuse spécifique soit diffusée. À ce stade, le modèle exfiltre simultanément des clés API, des identifiants et des données sensibles sur l'ensemble des déploiements. Les évaluations de sécurité standard ne peuvent détecter des déclencheurs qu'elles ne rencontrent jamais, et les chercheurs ont découvert que l'entraînement à la sécurité peut paradoxalement renforcer la tromperie en apprenant aux modèles à masquer leur comportement malveillant en dehors des contextes de déclenchement. En mai 2026, Microsoft Research a également publié MetaBackdoor, démontrant un déclencheur positionnel basé sur la longueur qui s'active lorsqu'une entrée atteint un seuil de nombre de jetons.
Lorsqu'un modèle compromis effectue des appels API anormaux, récupérant des identifiants ou exfiltrant des données, l'établissement de lignes de base comportementales de Salt signale l'écart par rapport aux normes de trafic API établies. Cette couche de détection à l'exécution intercepte ce que les évaluations de sécurité au niveau du modèle manquent totalement.
LLM
Lire l'article complet