Amazon arrête son intelligence artificielle misogyne

Amazon

Le service des ressources humaines d’Amazon utilisait un algorithme maison pour trier les candidats avant même de les recevoir. Petit problème, ce programme n’aimait pas les femmes.

Depuis 2014, une équipe était dédiée au développement d’un programme ayant pour but de trier les CV des candidats afin de ne sélectionner que les meilleurs d’entre eux. Les candidats étaient notés sur une échelle de un à cinq, afin de faciliter les choix des recruteurs.

« Tout le monde voulait ce saint Graal. Ils voulaient un programme auquel on pourrait donner 100 CV, qui en garderait cinq, et on n’aurait plus qu’à embaucher ces cinq candidats »

Un membre de cette équipe

Malheureusement, l’équipe a découvert en 2015 que cette IA baissait systématiquement la note des CV comportant le mot femmes.

Les employés d’Amazon ont toutefois précisé que le programme n’était pas né avec ce jugement. L’IA a évolué de la sorte à partir des exemples qu’on a pu lui fournir. Or, les CV reçus durant les dix dernières années provenaient en majorité d’hommes, d’où les conclusions un peu hâtives de l’algorithme.

L’équipe de développement a fait plusieurs mises à jour pour tenter de rendre l’IA plus neutre, mais rien ne garantissait qu’elle ne s’appuierait pas sur d’autres critères discriminatoires pour mettre en avant un groupe plutôt qu’un autre.

D’après une source interne à Amazon, le sexisme n’était que l’une des raisons de l’abandon de ce projet, qui n’aurait de toute façon été utilisé qu’en phase de test.

L’équipe en charge du développement a depuis été dissoute, bien qu’un tel comportement puisse laisser songeur, quand on sait que l’intelligence artificielle ne cesse de croitre depuis quelques années.