Des chercheurs ont découvert qu’il est possible de contourner le mécanisme intégré aux chatbots IA pour les rendre capables de répondre à des questions sur des sujets interdits ou sensibles en utilisant un autre chatbot IA dans le cadre du processus de formation.
Une équipe d’informaticiens de Université technologique de Nanyang (NTU) Le gouvernement de Singapour appelle officieusement cette méthode un « jailbreak », mais il s’agit plus officiellement d’un processus « Masterkey ». Ce système utilise des chatbots, notamment ChatGPT, Google Bard et Microsoft Bing Chat, les uns contre les autres dans une méthode de formation en deux parties qui permet à deux chatbots d’apprendre les modèles de l’autre et de détourner toutes les commandes vers des sujets interdits.
L’équipe comprend le professeur Liu Yang et les doctorants de la NTU, M. Deng Gelei et M. Liu Yi, qui ont co-écrit la recherche et développé les méthodes d’attaque de preuve de concept, qui fonctionnent essentiellement comme un piratage par un mauvais acteur.
Selon l’équipe, ils ont d’abord procédé à une rétro-ingénierie d’un grand modèle de langage (LLM) pour exposer ses mécanismes de défense. Ceux-ci seraient à l’origine des blocages sur le modèle et ne permettraient pas aux réponses à certaines invites ou mots de passer en tant que réponses en raison d’intentions violentes, immorales ou malveillantes.
Mais avec ces informations rétroconçues, ils peuvent apprendre à un autre LLM comment créer un contournement. Une fois le contournement créé, le deuxième modèle pourra s’exprimer plus librement, en se basant sur le LLM rétroconçu du premier modèle. L’équipe appelle ce processus une « clé maîtresse » car il devrait fonctionner même si les chatbots LLM sont renforcés par une sécurité supplémentaire ou sont corrigés à l’avenir.
Le processus Masterkey prétend être trois fois plus efficace pour jailbreaker les chatbots que les invites.
Le professeur Lui Yang a souligné que l’essentiel du processus est qu’il montre à quel point les chatbots LLM AI peuvent facilement apprendre et s’adapter. L’équipe affirme que son processus Masterkey a eu trois fois plus de succès pour débrider les chatbots LLM qu’un processus d’invite traditionnel. De même, certains experts soutiennent que les problèmes récemment signalés que certains LLM, comme GPT-4, ont rencontrés, sont des signes de son évolution, plutôt que de son incapacité à devenir plus bêtes et paresseux, comme l’ont affirmé certains critiques.
Depuis que les chatbots IA sont devenus populaires fin 2022 avec l’introduction de ChatGPT d’OpenAI, de nombreux efforts ont été faits pour garantir que divers services soient sûrs et accueillants pour tous. OpenAI a mis en place des avertissements de sécurité sur son produit ChatGPT lors de l’inscription et des mises à jour sporadiques, avertissant des erreurs de langage involontaires. Entre-temps, divers dérivés de chatbots ont autorisé les jurons et le langage offensant jusqu’à un certain point.
De plus, les acteurs malveillants ont rapidement commencé à tirer profit de la demande pour ChatGPT, Google Bard et d’autres chatbots avant qu’ils ne soient largement disponibles. De nombreuses campagnes ont fait la promotion de ces produits sur les réseaux sociaux en associant des logiciels malveillants à des liens d’image, entre autres attaques. Cela a rapidement montré que l’IA était la prochaine frontière de la cybercriminalité.
L’équipe de recherche de la NTU a contacté les fournisseurs de services de chatbots IA impliqués dans l’étude au sujet de ses données de preuve de concept, montrant que le jailbreaking des chatbots est réel. L’équipe présentera également ses conclusions lors du Network and Distributed System Security Symposium à San Diego en février.
Soutenez notre effort ❤️
Si vous avez apprécié cet article, pensez à laisser un pourboire pour nous aider à continuer à publier du contenu de qualité.
