Au bug bounty s’ajoute à présent, à l’initiative de Twitter, le bias bounty, un concours récompensant la découverte de biais dans les algorithmes de machine learning.

Les biais dans les algorithmes d’IA sont une réalité. Plusieurs exemples dans l’actualité le démontrent. En 2014, Amazon développait un algorithme pour procéder à l’automatisation du tri des CV. Problème : celui-ci se révélait sexiste, discriminant ainsi les femmes.

A lire aussi : Le Crédit Agricole explore l’informatique quantique au service des algorithmes

Plus récemment, c’est Twitter qui a été confronté à la réalité des biais en intelligence artificielle. La firme reconnaissait en mai l’existence d’un biais dans un algorithme permettant de recadrer des images.

La lutte contre les biais : une affaire collective

Les personnes discriminées étaient cette fois les noirs et les femmes. Twitter partageait à cette occasion sa méthode permettant d’identifier des biais. Le réseau social veut aller plus loin à présent en s’ouvrant à la communauté.

A l’image de ce que proposent déjà les géants du numérique en matière de détection des failles de sécurité, Twitter annonce le lancement d’un concours. Un bug bounty est un programme rémunérant des chercheurs externes pour la découverte de vulnérabilités.

Le « bias bounty » conserve les mêmes principes pour les appliquer cette fois à la traque des biais au sein des algorithmes de machine learning. Cette première, qui se tiendra dans le cadre du DEF CON AI Village 2021, récompensera donc des tiers.

Il n’est toutefois pas demandé aux participants de passer en revue les services de Twitter en quête de biais. Ceux-ci devront s’appuyer sur le modèle d’IA de Twitter pour le recadrage d’image pour élaborer leur propre méthode de détection des biais.

3500 dollars pour les gagnants du concours

L’objectif pour les chercheurs en IA avec ce défi est donc de démontrer les dommages algorithmiques causés par le modèle de saillance et de recadrage de Twitter. Charge à eux de décrire le préjudice détecté et de préciser les méthodes utilisées pour évaluer son impact potentiel.

Les préjudices volontaires ou involontaires découlant du modèle de machine learning peuvent être de différentes natures. Il peut s’agir de dénigrement, de stéréotypes ou de sous-représentation, par exemple. 

Et comme pour un bug bounty classique, Twitter s’associe à la plateforme HackerOne. Les équipes gagnantes pourront recevoir jusqu’à 3500 dollars, en cash. Les noms des vainqueurs seront communiqués le 9 août.