Cet article a publié originellement sur mydatacompany.fr

Aux côtés de l’association Arborus, Orange a rédigé une charte portant sur l’intelligence artificielle. Destinée aux entreprises, la charte pour une intelligence artificielle inclusive repose sur 7 engagements. Leur objectif : lutter contre les biais et stéréotypes.

Les entreprises, notamment les multinationales du numérique, sont nombreuses à développer les usages de l’intelligence artificielle. La défiance des salariés et clients pourrait cependant constituer un frein à cette adoption.

L’assureur Malakoff Médéric Humanis a ainsi défini et mis en œuvre une charte éthique pour encadrer son recours à l’IA. La Poste prépare elle aussi une charte sur l’intelligence artificielle. Elle pourrait aussi décider d’adopter la charte tout juste finalisée par Orange et Arborus.

 

Algorithmes pensés, crées et gérés par des hommes caucasiens

Présentée comme la première charte internationale pour une IA inclusive, elle compte déjà plusieurs multinationales signataires. C’est le cas notamment de L’Oréal, de Sodexo, EDF, Metro ou encore Danone.

Cette charte vise donc à encadrer l’utilisation de l’IA de principes éthiques destinés à lutter contre les biais et stéréotypes. C’est pour des raisons de biais qu’Amazon a ainsi renoncé en 2018 à un projet de chatbot pour le recrutement. En cause : une sélection jugée discriminatoire des candidats.

« Si les algorithmes, ainsi que le choix des données utilisées pour nourrir ces algorithmes, ne sont pensés, crées et gérés que par des hommes caucasiens, les machines ne feront que traduire et amplifier une vision particulière et donc biaisée de la société. C’est pourquoi il faut être particulièrement vigilant à identifier et maîtriser ces biais » prévient Delphine Pouponneau, directrice de la Diversité et Inclusion chez Orange.

La charte pour une IA inclusive vise donc à définir des engagements en faveur de la diversité, y compris au sein des équipes en charge de l’IA dans les entreprises. Elle comprend également le respect de principes autour de l’identification des biais.

Féminisation des métiers et sensibilisation des utilisateurs

Concrètement, Orange précise ainsi qu’il s’efforcera par exemple de féminiser les métiers en contact avec l’intelligence artificielle. Cela s’effectuera au travers du recrutement et de la formation interne. L’opérateur vise 30% de femmes parmi ces postes techniques d’ici 2025. Il est vrai qu’un métier comme celui de Data Scientist demeure très majoritairement masculin.

En tout, la charte comprend 7 engagements. Selon Orange, ceux-ci répondent à trois enjeux principaux. Le premier consiste donc à accroître la place dans femmes dans les métiers de l’IA. L’entreprise rappelle que seuls 12% des chercheurs en IA sont des chercheuses.

L’IA inclusive repose aussi sur des mesures opérationnelles et en particulier la formation, au-delà des techniciens. L’objectif annoncé est ainsi de « donner à chaque maillon de la chaîne les moyens de détecter ou d’alerter sur des potentiels biais. »

Troisième et dernier enjeu : la mise en mettre en place d’un processus d’amélioration continue pour la qualité des données utilisées, afin d’évaluer et de réagir à toutes formes de discrimination. Cette Charte se veut une première étape avant l’élaboration d’un label international GEEIS-AI.