Intelligence artificielle et applications possibles pour la cybersécurité

L’intelligence artificielle, est destinée à jouer un rôle très pertinent dans la cybersécurité, en introduisant de nouvelles menaces mais aussi de nouveaux outils et stratégies de défense. Les changements apportés par l’intelligence artificielle à la cybersécurité nécessiteront de nouvelles compétences mais aussi une gouvernance dédiée.

Qu’est-ce que l’intelligence artificielle ?

L’intelligence artificielle est une branche de l’informatique qui vise à permettre aux machines d’effectuer des tâches qui requièrent normalement des facultés humaines, telles que la capacité de voir et de s’orienter dans le temps et l’espace, de prendre des décisions et, aussi surprenant que cela puisse paraître, d’apprendre et d’améliorer leurs performances de manière autonome.
Les modalités et techniques par lesquelles cet objectif ambitieux est poursuivi sont diverses : nombre des progrès récents de l’intelligence artificielle sont dus à un ensemble de connaissances connu sous le nom d’apprentissage machine. A titre d’exemple, à l’apprentissage machine appartiennent des mécanismes qui, au moyen d’algorithmes, de puissance de calcul et de données, permettent à une machine d’améliorer de manière autonome ses propres performances par rapport à l’exécution d’une tâche donnée.
Les applications pratiques peuvent être multiples ; dans cet article, nous nous consacrons aux aspects de l’intelligence artificielle inhérents à la cybersécurité.
Les risques d’une diffusion croissante
La communauté du développement de l’intelligence artificielle a toujours eu une approche ouverte, encline à partager non seulement les résultats des études réalisées, mais aussi les codes sources, les tutoriels et les ensembles de données.
La disponibilité croissante de puissance de calcul bon marché, par exemple, par les fournisseurs de cloud computing à la demande, a fait le reste, permettant la diffusion rapide de la recherche et du développement de solutions basées sur l’intelligence artificielle ; on parle, à cet égard, de démocratisation de l’intelligence artificielle.
Cette diffusion a toutefois généré de nouvelles menaces pour la sécurité de l’information de la part de sujets compétents dans les nouvelles technologies et déterminés à en faire un usage malveillant.
Cette évolution a correspondu à une contraction du partage des ensembles de données et des « modèles formés« , c’est-à-dire des instruments qui peuvent être facilement utilisés à des fins malveillantes ; cela a été le cas des applications de l’intelligence artificielle dans des domaines particulièrement sensibles, tels que les ensembles de données sur la génomique et les données biométriques de la population.
Intelligence artificielle et cybermenaces
Ces erreurs entraînent des vulnérabilités qui peuvent être exploitées par des techniques « d’empoisonnement des données » ou de « data poisoning » : l’insertion (injection) intentionnelle de données qui exploite les vulnérabilités et conduit à des « erreurs de jugement » dans l’algorithme.
Les « exemples contradictoires » sont les entrées de données conçues dans l’intention spécifique d’induire en erreur un modèle ou une application d’apprentissage machine.
« L’intelligence artificielle peut : étendre les cybermenaces (quantité) ; modifier le caractère typique de ces menaces (qualité) ; et introduire des menaces nouvelles et inconnues (quantité et qualité). L’intelligence artificielle pourrait élargir l’ensemble des acteurs capables d’exercer des activités cybernétiques malveillantes, la vitesse à laquelle ces acteurs peuvent exercer ces activités et l’ensemble des cibles plausibles ».
Fondamentalement, les caractéristiques d’évolutivité, d’adaptabilité et d’efficacité de l’intelligence artificielle et des solutions qui en découlent, ainsi que l’accessibilité de la recherche et du développement sur le sujet, élargissent le nombre d’acteurs malveillants potentiels et leur permettent d’être particulièrement efficaces dans leurs intentions.
L’adaptabilité de l’intelligence artificielle la rend particulièrement efficace tant dans la phase offensive que dans la phase défensive : il est donc légitime d’attendre, dans les prochaines années, le développement et l’adoption d’instruments de sécurité informatique basés sur l’intelligence artificielle pour la protection de l’environnement.