Pas de numérique responsable sans une éthique de l’IA… 

L’intelligence artificielle est partout aujourd’hui dans notre vie quotidienne, que ce soit au niveau personnel ou professionnel. Un atout indéniable qui a aussi son revers : ces « nouvelles » technologies peuvent présenter des risques en termes de droits humains.

Tout le monde a encore à l’esprit le scandale de la société Cambridge Analytica en 2016, qui avait utilisé l’IA pour manipuler bon nombre d’électeurs sur les réseaux sociaux lors de l’élection américaine ou, plus récemment encore, le licenciement de Timnit Gebru, responsable du département de l’éthique de l’IA chez Google, qui semblerait avoir été licenciée après avoir critiqué son employeur dans un article sur les biais discriminatoires en IA.

Aussi, après la résolution du Parlement européen du 20 octobre 2020 fixant un cadre pour les aspects éthiques de l’intelligence artificielle, l’Union européenne a entrepris d’élaborer une législation plus contraignante. L’éthique de l’IA devient un sujet incontournable pour les entreprises dont toutes doivent se saisir.

Depuis ses « Lignes directrices en matière d’éthique pour une IA digne de confiance » d’avril 2019 et son « Livre blanc Intelligence artificielle. Une approche européenne axée sur l’excellence et la confiance » de février 2020, l’Union européenne incite les entreprises à autoévaluer d’un point de vue éthique leurs outils, produits et systèmes d’IA de façon à pouvoir protéger les personnes (salariés, fournisseurs, clients utilisateurs, …). La règlementation en cours d’adoption pourrait même les contraindre à réaliser cette auto-évaluation. Il s’agira pour elles de vérifier que leur IA respecte les principes éthiques et les droits humains, et de s’assurer qu’elle est robuste sur le plan technique.