-
Par rsfrontieres le 19 Juillet 2021 à 10:51
Aurélie Jean – Quand Amazon utilise des algorithmes pour licencier
CHRONIQUE. Après le scandale de 2018, le géant du Web récidive avec un algorithme de licenciement. Mais sur quels critères cet outil remplace-t-il l’humain ?
Par Aurélie Jean
Publié le 18/07/2021 à 10h00Ces dernières années ont été rythmées par de nombreux incidents algorithmiques. Après l’algorithme d’estimation de ligne de crédit d’Apple en 2018 – développé par la banque Goldman Sachs – qui discriminait les femmes, et celui de reconnaissance faciale en 2016 qui ne reconnaissait pas les peaux noires, voici en 2021 un nouvel algorithme qui fait parler de lui : inventé par Amazon, il lui permet de licencier.
Vous avez bien lu. Amazon a développé un algorithme capable d’identifier les chauffeurs-livreurs en sous-performance dont l’entreprise au large sourire orange doit se séparer. Cet algorithme va même jusqu’à annoncer par un simple e-mail la triste nouvelle aux collaborateurs concernés. Force est de reconnaître les limites et les menaces d’une telle approche qui fait abstraction des humains au profit d’une logique analytico-numérique implacable. Le pire est qu’alors qu’on pourrait croire que les dirigeants d’Amazon apprennent à l’instar de leurs outils, il n’en est rien : la réalité est tout autre.
En 2018, les candidatures féminines écartées
Car, peut-être, vous souvenez-vous de l’algorithme de recrutement développé et utilisé par Amazon pour sélectionner les meilleurs CV pour des postes d’ingénieurs en informatique. Nous sommes en octobre 2018 ; l’entreprise américaine découvre que son algorithme, basé sur ses embauches passées, majoritairement des hommes, écarte systématiquement les candidatures féminines. Un biais qui sera fatal pour la réputation d’Amazon, perçu comme sexiste par de nombreux médias et citoyens. En réalité, il ne fallait y voir aucun sexisme de la part d’Amazon, mais plutôt un défaut de bonnes pratiques dans le choix des données ou encore dans les tests réalisés sur l’algorithme avant de l’utiliser massivement.
De ce scandale de recrutement algorithmisé, qui a pourtant presque trois ans, le géant du commerce en ligne n’a tiré aucune leçon et a même réitéré son erreur. Avec le cas de Normandin, un vétéran américain de 63 ans, livreur chez Amazon, récemment licencié par la machine, sans en comprendre les raisons. L’algorithme aurait calculé une telle décision à partir de l’analyse quotidienne du travail de Normandin.
À LIRE AUSSIAurélie Jean – Algorithmes et statistiques ne font pas forcément bon ménage
Les risques techniques liés à un algorithme de licenciement sont gigantesques. Les biais dans les données ou dans les critères explicites du modèle peuvent stigmatiser certaines populations sur l’âge, le genre ou encore l’ethnicité. Par exemple, un livreur en fin de carrière aura beaucoup d’expérience, mais sera sûrement moins bien efficace qu’un jeune qui démarre.
Les dangers du tout analytique
Parlons justement de performance. Même si on ne connaît pas la logique de cet algorithme, on est en droit de se poser la question suivante : quelles métriques et quels critères considérer pour parler d’efficacité ? Les résultats financiers en lien avec l’activité du livreur ne peuvent pas être la seule mesure de production. Paradoxalement, il existe des entreprises largement bénéficiaires et en pleine croissance, qui gèrent très mal leurs employés. Ce qui est préjudiciable à long terme pour leur santé économique.
Mais admettons qu’un algorithme, bien entraîné, bien pensé, soit capable d’identifier sans aucune erreur les personnes à licencier, il ne faudrait pas l’utiliser. Pourquoi ? Car il y a des moments de vie et des décisions qui doivent rester entre les mains des hommes et des femmes, même éclairés par les algorithmes. Au risque de voir notre société devenir uniquement analytique. C’est une certitude, les chiffres doivent continuer à éclairer notre civilisation… sans l’assombrir.
-
Par rsfrontieres le 17 Juillet 2021 à 12:03
« Je ressens un trouble. Suis-je communiste ? »
DANS LE DOUTE. Cette semaine, notre chroniqueur songe à rejoindre la lutte. Mais sa fille ne le supporterait probablement pas.
Pendant la campagne des régionales, mon coin de rue a été inexplicablement ciblé par les militants de Lutte ouvrière. Ils étaient partout. A la sortie du métro comme du Monoprix. Les poubelles étaient pleines de tracts hostiles au patronat. Je m’expliquais mal cette invasion trotskiste. La direction du parti, pour une raison qui m’échappe, a dû identifier mon quartier comme le tremplin de l’élan révolutionnaire. Ou le point de rupture de l’édifice capitaliste. « Que cette rue cède, et le reste s’effondrera », a dû dire un cadre du mouvement lors d’une réunion clandestine.
Il y a un style Lutte ouvrière, que ma fille de 3 ans a immédiatement repéré. Elle a compris que les trotskistes du métro et les trotskistes du supermarché appartenaient à un même groupe. Peut-être à la dominante caca d’oie de leurs vêtements. Ou à leur manière de tenir le trottoir, prudente et obstinée, co
Suivre le flux RSS des articles de cette rubrique