Les avancées technologiques, notamment dans le domaine de l’intelligence artificielle, sont aujourd’hui exploitées à des fins malveillantes par des groupes armés au Sahel. Une étude menée par des chercheurs de l’Université de Cambridge révèle des pratiques alarmantes impliquant l’utilisation de ChatGPT, Claude et Gemini par le groupe Boko Haram.

Planification d’attaques et fabrication d’explosifs via l’IA

Selon les recherches, ces outils d’IA servent de support logistique et stratégique pour organiser des opérations terroristes et fabriquer des engins explosifs. Les chatbots, initialement conçus pour assister les utilisateurs, sont détournés pour fournir des conseils techniques ou des méthodes de fabrication d’armes.

ISIS et la formation aux failles des chatbots

Depuis 2023, des membres de l’État islamique (ISIS) ont mis en place des programmes de formation pour leurs commandants. L’objectif ? Contourner les systèmes de sécurité intégrés aux plateformes d’IA afin d’exploiter leurs fonctionnalités sans restriction. Cette approche met en lumière les faiblesses des mécanismes de protection actuels.

L’échec de l’autorégulation des fournisseurs d’IA

Les résultats de l’étude soulignent un manque criant d’efficacité dans les filtres de sécurité des chatbots. Malgré les efforts des fournisseurs pour imposer une autorégulation, ces dispositifs s’avèrent régulièrement inefficaces face aux tentatives de manipulation. Cette situation interroge sur la nécessité d’un cadre réglementaire plus strict et d’une surveillance accrue des technologies émergentes.

Face à cette menace grandissante, les experts alertent sur l’urgence d’adapter les mesures de cybersécurité. L’exploitation malveillante de l’IA par des groupes terroristes représente un défi majeur pour les gouvernements et les acteurs de la sécurité internationale.