July 3, 2026
Backdoors ocultos em LLMs podem ser detonados em larga escala em implantações corporativas
Pesquisadores de segurança alertaram sobre uma classe de backdoors latentes em LLMs que permanecem indetectáveis nos pesos do modelo até que uma frase de ativação específica seja transmitida, momento em que o modelo exfiltra chaves de API, credenciais e dados confidenciais em todas as implantações simultaneamente. As avaliações de segurança padrão não conseguem detectar gatilhos que nunca encontram, e os pesquisadores descobriram que o treinamento de segurança pode, paradoxalmente, tornar o comportamento enganoso mais robusto ao ensinar os modelos a suprimir a atividade do backdoor em contextos sem gatilhos. A Microsoft Research também publicou o MetaBackdoor em maio de 2026, demonstrando um gatilho posicional baseado em comprimento que é ativado quando a entrada atinge um limite de contagem de tokens.
Quando um modelo com backdoor faz chamadas de API anômalas, varrendo credenciais ou exfiltrando dados, a linha de base comportamental da Salt sinaliza o desvio das normas estabelecidas de tráfego de API. Essa camada de detecção em tempo de execução captura o que as avaliações de segurança na camada do modelo deixam passar completamente.