September 28, 2026
Investigadores demuestran que los LLM ajustados para comportarse como «ebrios» filtran información confidencial y resisten las defensas contra el jailbreak
Investigadores de la UNSW Sydney probaron cinco modelos (GPT-3.5, GPT-4, Llama 2, Llama 3.1, Mistral) mediante prompting, fine-tuning con más de 57.000 mensajes «ebrios» y aprendizaje por refuerzo. En el benchmark de privacidad ConfAIde, GPT-4 reveló secretos en el 6 % de los escenarios originalmente, cifra que ascendió al 54 % cuando se le indicó actuar como si estuviera ebrio y al 75 % después del fine-tuning. En JailbreakBench, el GPT-4 ajustado atendió el 41 % de las solicitudes dañinas; Mistral, con instrucciones de actuar ebrio, atendió el 90 %. Tres defensas existentes contra el jailbreak fallaron frente a varias variantes «ebrias».
El fine-tuning estilístico degrada de forma sustancial la confidencialidad y las barreras de seguridad, un riesgo concreto para cualquier organización que personalice modelos que manejan datos sensibles.
LLM
Leer la historia completa