Salt Security Descobre Falhas de Segurança em Extensões do ChatGPT que Permitiam Acesso a Sites de Terceiros e Dados Confidenciais - Problemas Foram Corrigidos

Pesquisadores da Salt Labs identificaram a funcionalidade de plugins, agora conhecida como GPTs, como um novo vetor de ataque onde vulnerabilidades poderiam ter concedido acesso a contas de terceiros de usuários, incluindo repositórios GitHub.

PALO ALTO, Calif. – 13 de março de 2024 – Salt Security, a empresa líder em segurança de API, divulgou hoje uma nova pesquisa de ameaças da Salt Labs destacando falhas de segurança críticas em plugins do ChatGPT, evidenciando um novo risco para as empresas. Os plugins concedem aos chatbots de IA, como o ChatGPT, acesso e permissões para realizar tarefas em nome dos usuários em sites de terceiros. Por exemplo, fazer commit de código em repositórios GitHub ou recuperar dados dos Google Drives de uma organização. Essas falhas de segurança introduzem um novo vetor de ataque e podem permitir que agentes mal-intencionados:

• Obter controle da conta de uma organização em sites de terceiros
• Permitir acesso a Informações de Identificação Pessoal (PII) e outros dados sensíveis de usuários armazenados em aplicativos de terceiros

Os plugins do ChatGPT estendem as capacidades do modelo, permitindo que o chatbot interaja com serviços externos. A integração desses plugins de terceiros aprimora significativamente a aplicabilidade do ChatGPT em vários domínios, desde desenvolvimento de software e gerenciamento de dados, até ambientes educacionais e de negócios. Quando as organizações utilizam esses plugins, isso subsequentemente concede ao ChatGPT permissão para enviar dados sensíveis de uma organização para um site de terceiros e permitir o acesso a contas externas privadas. Notavelmente, em novembro de 2023, o ChatGPT introduziu um novo recurso, os GPTs, um conceito semelhante aos plugins. Os GPTs são versões personalizadas do ChatGPT que qualquer desenvolvedor pode publicar e contêm uma opção chamada “Action” que os conecta com o mundo exterior. Os GPTs representam riscos de segurança semelhantes aos plugins.

A equipe da Salt Labs descobriu três tipos diferentes de vulnerabilidades em plugins do ChatGPT.

A primeira delas foi observada no próprio ChatGPT quando os usuários instalam novos plugins. Durante esse processo, o ChatGPT redireciona o usuário para o site do plugin para receber um código a ser aprovado por esse indivíduo. Quando o ChatGPT recebe o código aprovado de um usuário, ele instala automaticamente o plugin e pode interagir com ele em nome do usuário. Pesquisadores da Salt Labs descobriram que um invasor poderia explorar essa função para, em vez disso, entregar aos usuários uma aprovação de código com um novo plugin malicioso, permitindo que um invasor instalasse automaticamente suas credenciais na conta de uma vítima. Qualquer mensagem que o usuário escreva no ChatGPT pode ser encaminhada para um plugin, o que significa que um invasor teria acesso a uma série de informações proprietárias.

A segunda vulnerabilidade foi descoberta no PluginLab (pluginlab.ai), um framework que desenvolvedores e empresas usam para criar plugins para o ChatGPT. Durante a instalação, pesquisadores da Salt Labs descobriram que o PluginLab não autenticava corretamente as contas de usuário, o que teria permitido a um potencial invasor inserir outro ID de usuário e obter um código que representa a vítima, levando à tomada de controle da conta no plugin. Um dos plugins afetados é o “AskTheCode”, que integra o ChatGPT e o GitHub, o que significa que, ao utilizar a vulnerabilidade, um invasor pode obter acesso à conta GitHub de uma vítima.

A terceira e última vulnerabilidade descoberta em vários plugins foi a manipulação de redirecionamento OAuth (Open Authorization). Semelhante ao pluginlab.ai, trata-se de uma tomada de controle de conta no próprio plugin do ChatGPT. Nesta vulnerabilidade, um invasor poderia enviar um link para a vítima. Vários plugins não validam as URLs, o que significa que um invasor pode inserir uma URL maliciosa e roubar credenciais de usuário. Assim como no caso do pluginlab.ai, um invasor teria então as credenciais (código) da vítima e poderia assumir o controle de sua conta da mesma forma.

Após a descoberta das vulnerabilidades, os pesquisadores da Salt Labs seguiram as práticas de divulgação coordenada com a OpenAI e fornecedores terceirizados, e todos os problemas foram rapidamente corrigidos, sem evidências de que essas falhas tivessem sido exploradas em campo.

"Ferramentas de IA generativa como o ChatGPT cativaram rapidamente a atenção de milhões em todo o mundo, ostentando o potencial de melhorar drasticamente a eficiência tanto nas operações de negócios quanto na vida humana diária", disse Yaniv Balmas, Vice-Presidente de Pesquisa da Salt Security. "À medida que mais organizações utilizam esse tipo de tecnologia, os invasores também estão redirecionando seus esforços, encontrando maneiras de explorar essas ferramentas e, consequentemente, obter acesso a dados sensíveis. Nossas recentes descobertas de vulnerabilidades no ChatGPT ilustram a importância de proteger os plugins dentro de tal tecnologia para garantir que os invasores não possam acessar ativos críticos de negócios e executar tomadas de controle de contas."

De acordo com o Relatório Salt Security State of API Security, Q1 2023, houve um aumento de 400% no número de invasores únicos visando clientes da Salt. A Plataforma de Proteção de API Salt Security permite que as empresas identifiquem riscos e vulnerabilidades em APIs antes que sejam explorados por invasores, incluindo aqueles listados no OWASP API Security Top 10. A plataforma protege as APIs em todo o seu ciclo de vida — fases de construção, implantação e tempo de execução — utilizando big data em escala de nuvem combinado com IA e ML para estabelecer uma linha de base para milhões de usuários e APIs. Ao fornecer insights baseados em contexto em todo o ciclo de vida da API, a Salt permite que os usuários detectem a atividade de reconhecimento de agentes mal-intencionados e os bloqueiem antes que atinjam seu objetivo.

Baixe o relatório completo, incluindo como a Salt Labs conduziu esta pesquisa e as etapas para mitigação. Para saber mais sobre a Salt Security, solicite uma demonstração.