Salt Security découvre des failles de sécurité dans les extensions ChatGPT qui permettaient l'accès à des sites web tiers et à des données sensibles – Les failles ont été corrigées

Les chercheurs de Salt Labs ont identifié la fonctionnalité des plugins, désormais appelés GPTs, comme un nouveau vecteur d'attaque où des vulnérabilités auraient pu donner accès aux comptes tiers des utilisateurs, y compris les dépôts GitHub.

PALO ALTO, Californie – 13 mars 2024 – Salt Security, la principale entreprise de sécurité des API, a publié aujourd'hui de nouvelles recherches sur les menaces de la part de Salt Labs mettant en évidence des failles de sécurité critiques au sein des plugins ChatGPT, soulignant un nouveau risque pour les entreprises. Les plugins donnent aux chatbots IA comme ChatGPT l'accès et les autorisations nécessaires pour effectuer des tâches au nom des utilisateurs sur des sites web tiers. Par exemple, la validation de code dans des dépôts GitHub ou la récupération de données depuis les Google Drives d'une organisation. Ces failles de sécurité introduisent un nouveau vecteur d'attaque et pourraient permettre à des acteurs malveillants de :

• Prendre le contrôle du compte d'une organisation sur des sites web tiers
• Permettre l'accès aux informations personnelles identifiables (IPI) et à d'autres données utilisateur sensibles stockées dans des applications tierces

Les plugins ChatGPT étendent les capacités du modèle, permettant au chatbot d'interagir avec des services externes. L'intégration de ces plugins tiers améliore considérablement l'applicabilité de ChatGPT dans divers domaines, du développement logiciel et de la gestion de données aux environnements éducatifs et commerciaux. Lorsque les organisations exploitent de tels plugins, cela donne ensuite à ChatGPT la permission d'envoyer les données sensibles d'une organisation à un site web tiers et d'accéder à des comptes externes privés. Il est à noter qu'en novembre 2023, ChatGPT a introduit une nouvelle fonctionnalité, les GPTs, un concept similaire aux plugins. Les GPTs sont des versions personnalisées de ChatGPT que tout développeur peut publier, et contiennent une option appelée « Action » qui les connecte au monde extérieur. Les GPTs présentent des risques de sécurité similaires à ceux des plugins.

L'équipe de Salt Labs a découvert trois types différents de vulnérabilités au sein des plugins ChatGPT.

La première a été observée au sein même de ChatGPT lorsque les utilisateurs installent de nouveaux plugins. Au cours de ce processus, ChatGPT redirige un utilisateur vers le site web du plugin pour recevoir un code à approuver par cet individu. Lorsque ChatGPT reçoit le code approuvé d'un utilisateur, il installe automatiquement le plugin et peut interagir avec ce plugin au nom de l'utilisateur. Les chercheurs de Salt Labs ont découvert qu'un attaquant pouvait exploiter cette fonction pour, au lieu de cela, fournir aux utilisateurs une approbation de code avec un nouveau plugin malveillant, permettant à un attaquant d'installer automatiquement ses identifiants sur le compte d'une victime. Tout message que l'utilisateur écrit dans ChatGPT peut être transmis à un plugin, ce qui signifie qu'un attaquant aurait accès à une multitude d'informations propriétaires.

La deuxième vulnérabilité a été découverte au sein de PluginLab (pluginlab.ai), un framework que les développeurs et les entreprises utilisent pour créer des plugins pour ChatGPT. Lors de l'installation, les chercheurs de Salt Labs ont découvert que PluginLab n'authentifiait pas correctement les comptes utilisateurs, ce qui aurait permis à un attaquant potentiel d'insérer un autre identifiant utilisateur et d'obtenir un code représentant la victime, conduisant à une prise de contrôle de compte sur le plugin. L'un des plugins affectés est « AskTheCode », qui intègre ChatGPT et GitHub, ce qui signifie qu'en exploitant la vulnérabilité, un attaquant peut obtenir l'accès au compte GitHub d'une victime.

La troisième et dernière vulnérabilité découverte au sein de plusieurs plugins était la manipulation de la redirection OAuth (Open Authorization). Similaire à pluginlab.ai, il s'agit d'une prise de contrôle de compte sur le plugin ChatGPT lui-même. Dans cette vulnérabilité, un attaquant pourrait envoyer un lien à la victime. Plusieurs plugins ne valident pas les URL, ce qui signifie qu'un attaquant peut insérer une URL malveillante et voler les identifiants de l'utilisateur. Comme dans le cas de pluginlab.ai, un attaquant aurait alors les identifiants (code) de la victime et pourrait prendre le contrôle de son compte de la même manière.

Après avoir découvert les vulnérabilités, les chercheurs de Salt Labs ont suivi les pratiques de divulgation coordonnée avec OpenAI et les fournisseurs tiers, et tous les problèmes ont été rapidement corrigés, sans aucune preuve que ces failles aient été exploitées dans la nature.

« Les outils d'IA générative comme ChatGPT ont rapidement captivé l'attention de millions de personnes à travers le monde, se vantant du potentiel d'améliorer considérablement l'efficacité des opérations commerciales et de la vie humaine quotidienne », a déclaré Yaniv Balmas, vice-président de la recherche chez Salt Security. « À mesure que de plus en plus d'organisations exploitent ce type de technologie, les attaquants réorientent également leurs efforts, trouvant des moyens d'exploiter ces outils et d'accéder ensuite à des données sensibles. Nos récentes découvertes de vulnérabilités au sein de ChatGPT illustrent l'importance de protéger les plugins au sein de cette technologie pour garantir que les attaquants ne puissent pas accéder aux actifs commerciaux critiques et effectuer des prises de contrôle de compte. »

Selon le Rapport sur l'état de la sécurité des API de Salt Security, T1 2023, il y a eu une augmentation de 400 % du nombre d'attaquants uniques ciblant les clients de Salt. La Salt Security API Protection Platform permet aux entreprises d'identifier les risques et les vulnérabilités dans les API avant qu'elles ne soient exploitées par des attaquants, y compris celles énumérées dans le OWASP API Security Top 10. La plateforme protège les API tout au long de leur cycle de vie complet — phases de conception, de déploiement et d'exécution — en utilisant des mégadonnées à l'échelle du cloud combinées à l'IA et au ML pour établir une base de référence pour des millions d'utilisateurs et d'API. En fournissant des informations contextuelles tout au long du cycle de vie des API, Salt permet aux utilisateurs de détecter les activités de reconnaissance des acteurs malveillants et de les bloquer avant qu'ils n'atteignent leur objectif.

Télécharger le rapport complet, notamment la manière dont Salt Labs a mené cette recherche et les étapes d'atténuation. Pour en savoir plus sur Salt Security, demander une démo.