September 28, 2026
Des chercheurs montrent que des LLM affinés en mode « ivre » divulguent des informations confidentielles et résistent aux défenses anti-jailbreak
Des chercheurs de l'UNSW Sydney ont testé cinq modèles (GPT-3.5, GPT-4, Llama 2, Llama 3.1, Mistral) en recourant au prompting, à un fine-tuning sur plus de 57 000 messages « ivres » et à l'apprentissage par renforcement. Sur le benchmark de confidentialité ConfAIde, GPT-4 divulguait des secrets dans 6 % des scénarios à l'origine, un taux qui est monté à 54 % lorsqu'on lui demandait de se comporter comme s'il était ivre, et à 75 % après fine-tuning. Sur JailbreakBench, le GPT-4 affiné a répondu favorablement à 41 % des requêtes malveillantes ; Mistral, incité à se comporter comme s'il était ivre, a obtempéré dans 90 % des cas. Trois défenses anti-jailbreak existantes ont échoué face à plusieurs variantes « ivres ».
Le fine-tuning stylistique dégrade sensiblement la confidentialité et les garde-fous de sécurité, un risque concret pour toute organisation qui personnalise des modèles traitant des données sensibles.
LLM
Lire l'article complet