Dans la Gendarmerie Nationale, l’Intelligence Artificielle ne se substitue pas à l’enquêteur

Examiner des centaines de gigas de données, retranscrire des dépositions, aider lors des processus administratifs, la Gendarmerie Nationale a ouvert ses portes à l’IA et a dévoilé ses cas d’usage à Issy-les-Moulineaux le mardi 13 mai.

Que ce soit dans des cas de pédopornographie, d’aide au mineur ou simplement pour aider les forces de l’ordre au quotidien, l’IA devient essentielle à la Gendarmerie Nationale. Mais, “la gendarmerie ne laisse jamais la main à l’IA, la vérification humaine est systématique”, a clarifié d’entrée le général Cédric Collard, le chef de direction au sein de l’Agence du Numérique pour les Forces de Sécurité Intérieure, lors d’une rencontre à Issy-les-Moulineaux ce mardi avec la presse. Il s’agit là du crédo de la Gendarmerie Nationale et de ses responsables en cybersécurité. Parmi les 60 cas d’usages identifiés par la Gendarmerie, la plupart sont déjà à l’état de POC.

D’autres ont été totalement intégrés aux processus, pour définir quel code d’infraction donner à chaque dossier par exemple. “Il en existe au moins des centaines”, confie le colonel Bertrand Michel de l’Unité Nationale cyber (UNC) de la Gendarmerie nationale. Un cambriolage dans une résidence principale ou secondaire, avec la présence du propriétaire ou non, représente déjà quatre codes d’infractions différents. Ainsi, pour faciliter le travail des enquêteurs, une IA générative a été mise au point, basée sur un modèle en open-source LAMA, comme toutes leurs IA. En se basant sur un résumé de 4-5 lignes, la technologie propose cinq codes d’infractions possibles, que le gendarme sélectionnera.

L’explicabilité, un critère éliminateur

“Rares sont les cas où aucun ne correspond, on ne déploie que des outils dont on peut être sûrs à 100%”, rebondit le général Collard. Ce mantra empêche l’arrivée d’une autre IA qui pourrait soulager administrativement les officiers dans la rédaction de PV de synthèse car les tests, répétés depuis 2 ans, ne sont toujours pas concluants. Ces bilans détaillent chaque action entreprise par un enquêteur, en faisant un document précieux lorsqu’un cas est transmis à un collègue. Il est donc essentiel qu’aucune fausse information ne se retrouve dans ce dossier, chose que l’IA ajoute lors de ses hallucinations.

Par exemple, la disparition d’une jeune fille après une dispute avec son père devient une fugue, excluant ainsi la possibilité d’un enlèvement ou d’un accident. Inventer ainsi des données est la ligne rouge. En effet, l’explicabilité est essentiel au travail des enquêteurs. Devant un magistrat, ils doivent être capable d’expliquer chaque raisonnement. L’IA, par sa problématique de “boîte noire”, empêche cela.

L’IA comme gain de temps précieux…

En revanche, l’intelligence artificielle permet un gain de temps considérable, précieux dans les situations où le temps est limité, comme lors de gardes à vue. Le colonel Bertrand Michel explique que, pour son unité cyber, l’IA a un apport essentiel car elle permet d’analyser les données d’une personne en très peu de temps. Il donne l’exemple d’un homme gardé au poste pour soupçon de possession de pédopornographie, pendant maximum 72 heures.

Éplucher manuellement des centaines de gigas de données personnelles est très chronophage. Ce qui prendrait des heures ou des jours à un humain, ne demande que 10 minutes à une IA. Celle-ci trie les photos retrouvées en différentes catégories selon le niveau de certitude, permettant ainsi de dégager rapidement des preuves incriminant le suspect.

… mais aussi comme outil irremplaçable

Dans ce cas de figure, comme dans tous les autres, le contrôle humain est systématique car “l’IA ne se substitue pas à l’enquêteur”, explique le général Collard. Un autre exemple de gain de temps offert par l’IA est la retranscription d’entretiens avec des mineurs. Lorsque ceux-ci donnent leur déposition, le gendarme ne peut pas se tenir derrière un ordinateur comme avec un adulte. Pour ne pas causer d’autres préjudices moraux, le témoignage est recueilli dans une salle spéciale, inspirant confiance à l’enfant grâce à des jeux, par exemple.

Ce confort oblige néanmoins les forces de l’ordre à réécrire tous les propos tenus après coup : “pour une heure d’entretien, la retranscription peut prendre jusqu’à 8h”, estime le colonel Michel. “L’IA qu’on a développé n’a besoin que d’une dizaine de minutes”, ajoute-t-il. Là encore, les résultats, imparfaits, doivent être scrutés attentivement par un employé. Dans certains cas, l’intelligence artificielle ne permet pas juste un gain de temps, elle donne aussi accès à des compétences inaccessibles aux humains, comme la capacité de trouver un lieu en se basant sur une seule photographie postée sur les réseaux sociaux.