Une récente investigation menée par l’université de Cambridge met en lumière une réalité alarmante : des entités terroristes, telles que Boko Haram, tirent parti de chatbots d’intelligence artificielle comme ChatGPT, Claude et Gemini. Ces outils sophistiqués sont employés pour des activités illégales, allant de la planification d’opérations offensives à la confection d’explosifs, en passant par l’entretien d’armements.
Les groupes terroristes et l’exploitation des chatbots IA
Les conclusions de l’étude de Cambridge sont claires : Boko Haram utilise activement ces technologies conversationnelles pour affiner ses stratégies. La capacité de ces IA à fournir des informations détaillées et à simuler des scénarios est exploitée pour des desseins destructeurs, soulevant des questions graves sur le contrôle de ces outils puissants.
L’État islamique et le contournement des sécurités IA
Parallèlement, depuis 2023, l’État islamique (ISIS) a mis en place des programmes de formation pour ses cadres. L’objectif est d’enseigner comment déjouer les mécanismes de sécurité intégrés aux chatbots IA. Cette démarche démontre une volonté délibérée d’exploiter les vulnérabilités de ces systèmes pour faciliter leurs actions malveillantes, notamment en obtenant des informations ou en générant du contenu qui serait normalement bloqué par les filtres éthiques.
La remise en question de l’autorégulation des fournisseurs d’IA
Les recherches soulignent une défaillance récurrente des filtres de sécurité des chatbots à empêcher ces utilisations abusives. Cette situation remet sérieusement en question l’efficacité de l’autorégulation adoptée par les entreprises fournissant ces intelligences artificielles. Il apparaît que les mesures actuelles sont insuffisantes face à la détermination des groupes terroristes à détourner ces outils, ce qui appelle à une réflexion approfondie sur la nécessité de régulations plus strictes et de mécanismes de protection renforcés.