L’IA générative, nouveau facteur d’échelle du cybercrime

L’intelligence artificielle générative n’a pas encore fait basculer la cybercriminalité dans l’ère de l’automatisation totale. C’est l’un des constats posés par l’Anssi (Agence nationale de sécurité des systèmes d’information) dans sa synthèse consacrée à « l’IA générative face aux attaques informatiques ». L’agence indique ne pas avoir observé, à ce stade, de campagnes visant des acteurs français conduites de bout en bout par des systèmes d’IA. Autrement dit, il n’existe pas encore de « machine pirate » capable de choisir seule ses cibles, de concevoir son attaque, de l’exécuter et d’en exploiter les résultats sans intervention humaine. Pour autant, s’arrêter à cette conclusion serait manquer l’essentiel : l’IA est déjà en train de transformer en profondeur la manière dont les attaquants travaillent. 

Dans les faits, ces technologies jouent un rôle d’accélérateur. Elles permettent de réduire les coûts, de gagner du temps et d’augmenter considérablement le volume des opérations menées. Là où certaines tâches demandaient auparavant des heures de travail et un certain niveau d’expertise, quelques requêtes bien formulées suffisent désormais à produire des textes crédibles, des scripts fonctionnels ou des supports visuels convaincants. L’Anssi souligne que cet effet est particulièrement sensible dans les environnements les moins sécurisés, où la montée en gamme des outils des attaquants peut avoir un impact disproportionné. 

Cette évolution s’inscrit dans une logique bien connue des professionnels de la cybersécurité : celle de l’industrialisation. Comme hier avec les kits d’exploitation, les plateformes de phishing clés en main ou les services de rançongiciel en mode « as a service », l’IA générative devient une brique supplémentaire dans une chaîne de valeur criminelle de plus en plus structurée. Elle n’invente pas de toutes pièces de nouveaux scénarios d’attaque, mais elle en améliore l’efficacité, la rapidité et la capacité de diffusion. En ce sens, l’agence parle d’un usage « dual » de ces technologies : utiles aux défenseurs pour renforcer la sécurité, mais tout aussi précieuses pour ceux qui cherchent à la contourner. 

Cette ambiguïté est au cœur du débat actuel. D’un côté, les directions informatiques voient dans les grands modèles de langage un moyen d’automatiser certaines tâches, d’aider à l’analyse de logs ou d’améliorer la détection d’incidents. De l’autre, les attaquants y trouvent un formidable levier de productivité. Le risque n’est donc pas une rupture brutale, mais une montée en puissance progressive, difficile à percevoir au quotidien, et pourtant structurante sur le moyen terme : celle d’un cybercrime plus rapide, plus flexible et plus difficile à suivre à la même cadence par les équipes de défense. 

Phishing, deepfakes, faux sites : l’industrialisation de l’ingénierie sociale 

Le premier domaine où l’impact est déjà très concret est celui de la production de contenus. L’Anssi décrit comment les services d’IA générative sont utilisés pour alimenter les phases de reconnaissance, d’ingénierie sociale et de préparation des campagnes. Des groupes liés à plusieurs États ont eu recours à ces outils pour générer des messages d’hameçonnage, créer de faux profils d’entreprises ou d’employés sur les réseaux sociaux, et produire des sites web à l’apparence parfaitement légitime. Ces pages servent ensuite à héberger des charges malveillantes ou à collecter des informations sur les victimes potentielles. 

Ce qui change, ce n’est pas tant la nature des attaques que leur échelle et leur qualité moyenne. Là où les campagnes de phishing se trahissaient autrefois par des fautes grossières ou des tournures maladroites, l’IA permet désormais de produire des messages bien rédigés, contextualisés et déclinables dans plusieurs langues en quelques minutes. La barrière linguistique tombe, tout comme celle du temps de production. Pour des organisations déjà sous pression, cette banalisation de contenus crédibles augmente mécaniquement le taux de réussite potentiel des attaques. 

À cela s’ajoute la démocratisation des deepfakes. Vidéos ou enregistrements audio truqués, générés ou modifiés par IA, sont aujourd’hui accessibles pour des sommes dérisoires. Ils renforcent la crédibilité des tentatives d’usurpation d’identité, que ce soit pour piéger un collaborateur, contourner un contrôle interne ou appuyer une fraude. Là encore, la technologie ne crée pas un risque totalement nouveau, mais elle en change l’échelle et la facilité d’accès. L’ingénierie sociale, déjà maillon faible de nombreux dispositifs de sécurité, entre ainsi dans une phase d’industrialisation accélérée. 

Cette évolution pose un défi particulier aux entreprises : celui de la confiance dans les échanges numériques. Quand un mail, une voix ou une vidéo peuvent être produits en quelques instants avec un niveau de réalisme élevé, les procédures de vérification doivent être repensées. Le facteur humain, longtemps considéré comme le point faible, devient aussi un terrain où l’IA renforce l’asymétrie entre attaquants et défenseurs. 

Du code plus vite, pas forcément plus intelligent 

L’autre champ d’application majeur concerne le développement de l’outillage offensif. L’Agence relève que de nombreux groupes cybercriminels utilisent désormais l’IA générative pour écrire ou adapter du code malveillant. Des scripts peuvent être générés pour automatiser certaines étapes d’une compromission, et des variantes polymorphes sont capables de se réécrire régulièrement afin d’échapper aux outils de détection. Des prototypes de rançongiciels vont même jusqu’à utiliser des requêtes dynamiques pour produire des charges à l’exécution. 

Pour autant, l’agence appelle à la prudence face aux discours les plus alarmistes. La découverte de vulnérabilités critiques et l’écriture d’exploits fiables restent aujourd’hui largement dépendantes de l’expertise humaine. Les modèles actuels demeurent instables, limités par la taille des codes qu’ils peuvent analyser et encore peu performants pour identifier des failles inédites à grande échelle. Aucun cas avéré d’exploitation de vulnérabilité « zero-day » découverte uniquement grâce à une IA générative n’a, à ce jour, été observé. 

Autrement dit, l’IA ne remplace pas les développeurs de malwares expérimentés, mais elle accélère leur travail. Elle facilite la production, la modification et l’adaptation de code existant. Elle réduit le temps nécessaire pour passer de l’idée à un outil opérationnel. Là encore, l’effet principal est un effet de cadence et de volume, plus qu’une rupture technologique radicale. Pour les équipes de sécurité, cela signifie des menaces qui évoluent plus vite, se renouvellent plus fréquemment et demandent un effort constant d’adaptation des mécanismes de détection. 

Cette dynamique profite aussi, paradoxalement, aux défenseurs. Les mêmes outils sont utilisés pour auditer du code, rechercher des vulnérabilités ou améliorer les processus de test. Mais comme souvent en cybersécurité, l’avantage va à celui qui exploite le plus vite et le plus massivement les gains de productivité. Et sur ce terrain, les attaquants ont montré depuis longtemps leur capacité à industrialiser sans attendre. 

Quand l’IA devient elle-même une cible stratégique 

Le basculement le plus structurant est peut-être ailleurs : dans le fait que les systèmes d’IA deviennent eux-mêmes des cibles. L’Anssi décrit plusieurs scénarios d’attaque possibles, depuis l’empoisonnement des données d’entraînement jusqu’à l’insertion de portes dérobées dans des modèles open source, en passant par l’exploitation de failles dans les outils qui connectent les grands modèles de langage à des systèmes externes. Ces attaques rappellent celles de la chaîne d’approvisionnement logicielle, mais appliquées à un nouvel objet critique du système d’information. 

La pratique du « slopsquatting » en est une illustration parlante : des attaquants récupèrent des noms de bibliothèques « inventés » par des IA et diffusent sous ces appellations des paquets malveillants. En exploitant les hallucinations des modèles, ils introduisent ainsi du code piégé dans des environnements de développement. Plus largement, chaque intégration d’un modèle d’IA dans un processus métier étend la surface d’attaque potentielle, surtout lorsque ces systèmes sont connectés à des données sensibles ou à des outils opérationnels. 

À cela s’ajoute un risque plus quotidien, mais déjà massif : celui des usages internes. Des dizaines de milliers de comptes de services d’IA ont été compromis ces dernières années via des malwares de type infostealer, et les fuites de données involontaires restent une préoccupation majeure. Entre la tentation de soumettre un document sensible à un outil externe pour « gagner du temps » et la réalité des compromissions de comptes, l’IA devient un nouveau point de fragilité du système d’information. 

La conclusion de l’ANSSI est limpide : l’IA générative doit être traitée comme une brique critique du SI, avec ses dépendances, ses risques et ses exigences de gouvernance. Ni fétichisée, ni diabolisée, mais intégrée aux politiques de sécurité, cloisonnée quand il le faut et surveillée comme n’importe quel composant stratégique. Car si elle n’a pas encore enfanté de cyberattaques autonomes, elle a déjà commencé à redessiner, en profondeur, le paysage des menaces.