l’IA au secours de la cryptographie : quand mythos preview perce les failles de HAWK et AES

Une récente publication d’Anthropic révèle comment l’intelligence artificielle, via sa préversion interne Mythos Preview, a mis en lumière des vulnérabilités dans deux algorithmes cryptographiques clés : le schéma de signature post-quantique HAWK et une version réduite d’AES. Si ces découvertes n’affectent pas l’usage actuel de ces technologies, elles soulèvent des questions sur l’avenir de la cybersécurité.

Illustration : Flock

Les faiblesses cryptographiques, même théoriques, méritent une attention particulière. C’est le cas des récentes analyses menées par l’équipe Frontier Red Team d’Anthropic, qui ont révélé des vulnérabilités dans deux algorithmes emblématiques de la cybersécurité moderne.

HAWK, un schéma post-quantique en difficulté

HAWK, candidat sérieux pour les algorithmes de signature post-quantique, a subi un revers majeur. L’IA Mythos Preview a permis de réduire de moitié la résistance effective de l’algorithme en exploitant une symétrie géométrique dans le problème d’isomorphisme de réseaux euclidien modulaire. Résultat : sur HAWK-256, la complexité du recouvrement de la clé est passée de 2⁶⁴ à 2³⁸ opérations, rendant l’attaque réalisable en seulement 3 heures et 42 minutes sur un serveur standard.

Cette faille a conduit les concepteurs à retirer HAWK du processus de sélection du NIST, rendant caduc son intérêt pratique. Pour restaurer une sécurité acceptable, il aurait fallu doubler la taille des clés et des signatures, compromettant ainsi sa légèreté calculatoire, l’un de ses principaux atouts.

Une attaque qui s’appuie sur des travaux antérieurs

Les chercheurs ont amélioré une attaque connue contre HAWK en y intégrant une découverte mathématique : l’exploitation d’un automorphisme réduisant la dimension du réseau de moitié. Cette optimisation a permis de passer d’une complexité théorique à une attaque concrète et efficace.

AES : une version simplifiée prise pour cible

AES, l’algorithme de chiffrement le plus répandu au monde, n’est pas en reste. Une version réduite à 7 tours (au lieu de 10) a été compromise grâce à une technique innovante appelée « Pont de Möbius ». Cette méthode, intégrée dans une attaque par rencontre au milieu, élimine une étape de recherche exhaustive, accélérant l’exécution d’un facteur 200 à 800.

Bien que cette vulnérabilité soit strictement académique et limitée à cette version affaiblie, elle illustre la capacité de l’IA à découvrir des failles insoupçonnées dans des algorithmes pourtant bien étudiés.

Des conséquences limitées, mais une réflexion nécessaire

Ces découvertes n’impactent pas les systèmes cryptographiques actuels. HAWK n’était pas déployé, et AES reste robuste dans sa version standard. Cependant, elles soulignent plusieurs enjeux :

• L’efficacité des LLM dans la recherche de vulnérabilités : Mythos Preview a généré environ un milliard de jetons en plusieurs jours pour concevoir une nouvelle méthode d’attaque, démontrant le potentiel de l’IA dans ce domaine.
• Le coût des découvertes : L’opération aurait coûté près de 100 000 dollars via les outils commerciaux d’Anthropic, posant la question de l’accessibilité de ces techniques.
• La vérification des résultats : Les découvertes ont fait l’objet d’une validation rigoureuse par des chercheurs humains pendant un mois, soulignant l’importance du contrôle qualité.

Le futur de la cryptographie à l’épreuve de l’IA

Ces travaux révèlent un changement de paradigme dans la recherche de vulnérabilités : le goulot d’étranglement n’est plus la détection des failles, mais leur validation par des experts humains. Avec l’essor des LLM, la communauté de la cybersécurité doit s’adapter pour gérer l’afflux de résultats.

Les équipes de recherche explorent désormais d’autres algorithmes, ouvrant la voie à de nouvelles découvertes. Si ces travaux restent pour l’instant préliminaires, ils annoncent une ère où l’IA jouera un rôle central dans l’évaluation de la sécurité des systèmes cryptographiques.

En attendant, les recommandations de l’ANSSI restent claires : pour une sécurité post-quantique, privilégier des clés de 192 bits ou plus, sans impact significatif sur les performances.