Le collectif Confiance.ai réunissant 13 industriels et académiques français développera une plateforme pour l’intégration de l’intelligence artificielle dans les systèmes critiques, comme la voiture autonome.

En mars 2019, Emmanuel Macron fixait les grandes lignes de la stratégie française en matière d’intelligence artificielle. Pour le président, il s’agissait de réunir les conditions permettant à la France d’occuper une place centrale dans ce secteur à l’échelle internationale. Parmi celles-ci, une collaboration entre entreprises privées et recherche académique.

Cette combinaison est justement au cœur du collectif Confiance.ai, qui réunit 13 industriels et centres de recherche, parmi lesquels le CEA, l’Inria, l’IRT Saint Exupéry et l’IRT SystemX. Et leur champ d’intervention est celui de l’intelligence artificielle de confiance dans le secteur de l’industrie dans le cadre du plan #AIforHumanity.

Les clés de la confiance pour de l’IA dans les systèmes critiques

La mission de ce collectif s’inscrit parmi les « Grands Défis » des programmes publics d’investissement. Le collectif, doté d’un budget de 45 millions d’euros sur la période 2021-2024, a donc en charge le Grand Défi « Sécuriser, fiabiliser et certifier des systèmes fondés sur l’intelligence artificielle. »

De manière très concrète, industriels et chercheurs ont pour objectif de concevoir les outils permettant d’industrialiser l’exploitation de l’IA dans les systèmes critiques, et donc de créer les conditions de la confiance.

Ces systèmes englobent notamment les applications de l’IA pour le véhicule autonome, l’aéronautique de dernière génération, l’industrie 4.0, l’énergie ou la défense. Y participent ainsi Airbus, Naval Group, Thales, Valeo, Safran, Air Liquide, Renault et des intégrateurs technologiques comme Atos et Sopra Steria. 

Le programme de recherche français vise à « créer  une plateforme  d’outils  logiciels » pour l’intégration  d’IA  dans  des produits  ou  services critiques. Cette appellation désigne les usages les plus sensibles.

Une plateforme d’outils logiciels souveraine et ouverte

En effet, l’automatisation de ces systèmes grâce au recours à l’intelligence artificielle doit répondre à des exigences de fiabilité très élevées. Accidents, pannes ou erreurs « pourraient avoir des conséquences graves sur les personnes et les biens ».

Un cas d’application de cette IA de confiance, c’est la voiture autonome. Cédric O, secrétaire d’Etat en charge du numérique et Géraldine Leveau, secrétaire générale adjointe pour l’investissement, ont ainsi testé une voiture Drive4U de l’équipementier Valeo (niveau 4 d’autonomie).

« Doté d’intelligence artificielle (IA), le véhicule peut traiter en temps réel toutes les informations recueillies par ses capteurs et prendre des décisions, sans jamais compromettre la sécurité de ses passagers ou celle des autres usagers de la route », décrit par son concepteur.

Le programme de recherche Confiance.ai doit donc garantir un cadre de confiance et de fiabilité technique, mais aussi répondre à des enjeux de souveraineté. En clair, ces solutions d’IA doivent être maitrisées par des acteurs hexagonaux.

« Ces développements technologiques sont un prérequis à une IA de confiance, éthique et responsable en  France  et  en  Europe […] Il se propose ainsi d’apporter un ‘cadre’ technique à la proposition de réglementation européenne sur l’IA », explique Julien Chiaroni, directeur du Grand Défi IA de confiance au secrétariat général pour l’investissement.

Les startups de l’IA appelées à collaborer avec les industriels

Pour cela, le collectif concevra d’ici 2024 une plateforme  « d’outils  logiciels  souveraine, ouverte,   interopérable et pérenne permettant l’intégration de l’IA dans des produits et services critiques de manière sûre, fiable et sécurisé. »

Ces outils, mais aussi des méthodes à élaborer, interviendront dans les différentes phases de conception des solutions embarquant de l’intelligence artificielle, de la conception jusqu’au déploiement et à la maintenance.

Les premiers secteurs concernés par ces développements sont d’ores et déjà identifiés. Il s’agit de l’automobile, l’aéronautique, l’énergie, le numérique, l’industrie 4.0, la défense et le maritime. Parmi les usages envisagés, le contrôle industriel en ligne, la mobilité autonome et les systèmes d’aide à la décision.

Et si le collectif contre déjà 13 membres, il s’ouvre aux contributions de startups et de PME innovantes. Confiance.ai lance en effet un appel à manifestation d’intérêt à destination de ces entreprises. Les candidats sélectionnés participeront à un ou plusieurs projets du programme et pourront ainsi tester leurs technologies.

Parmi les domaines d’expertise recherchés en IA figurent la reconnaissance d’image, la reconnaissance vocale, le traitement du langage naturel, le traitement de séries temporelles, la supervision et l’optimisation de processus, et l’intégration sur cible embarquée. Les startups ont jusqu’au 3 septembre pour postuler. Le lancement des travaux est prévu pour le 4^e trimestre 2021.