Les oracles, eux aussi, se numérisent. L’avenir était connu par la vision dans les récits mythologiques. Il est désormais révélé par des algorithmes capables de restituer des lois statistiques censées se réitérer dans le futur. L’« intelligence artificielle » (IA) ne repose plus en effet sur la programmation d’une machine à partir de certaines règles.

Dès lors qu’elle est alimentée par une quantité énorme de données, la machine est désormais capable d’apprendre par elle-même les règles les plus efficaces (machine learning) et elle peut aussi lier en réseau des neurones artificiels (deep learning).

Le foyer de ces nouvelles techniques est sans surprise la Californie, point d’intersection des fantasmes hollywoodiens et de la technomania de la Silicon Valley. Le film Minority Report (2002) pourrait, grâce à elles, sortir du domaine de la fiction. Il deviendrait alors possible d’arrêter un individu pour un crime pas encore commis.

Opportunité ou menace ?

Malgré ce qu’indique le sous-titre, Les nouveaux oracles (CNRS éditions) ne se contente pas d’explorer « comment les algorithmes président le crime ». Au-delà du constat, Vincent Berthet, docteur en sciences cognitives, et Léo Amsellem, politiste, questionnent avec pédagogie le « pourquoi ? » et le « pour quoi ? » des nouvelles techniques prédictives.

Ils cherchent dans ces pages à échapper à deux écueils récurrents : la fascination pour la toute-puissance supposée de techniques dont l’essor libérerait l’humanité de tous maux et de tout risque ou, à l’inverse, le rejet en bloc de techniques jugées fatalement dangereuses et inefficaces. Leur plume semble toutefois les trahir, par exemple lorsqu’ils choisissent de voir dans les changements actuels une « opportunité plutôt qu’une menace » ou quand ils achèvent leur ouvrage sur une étonnante envolée lyrique.

Efficacité relative

Les algorithmes prédictifs, dans l’ensemble, seraient plutôt plus efficaces que les experts dans l’anticipation des crimes, d’où leur succès mondial. Les États-Unis, en tête, les utilisent pour estimer le risque de récidive des détenus, voire pour déterminer leur peine, ou pour lutter contre la délinquance et le terrorisme. Plus de sécurité avec moins de coûts : telle semble l’équation gagnante des algorithmes prédictifs.

Le bilan n’en est pas moins mitigé. Les algorithmes trop complexes sont souvent privilégiés, à tort, par rapport à des versions plus simples. Les prédictions par IA peuvent, d’autre part, être biaisés de bien des façons : contraintes budgétaires, données de mauvaise qualité ou manque de données pour vérifier les prédictions, confusion entre les rapports de cause à conséquence et les simples corrélations. Elles peuvent aussi s’avérer dangereuses pour les libertés fondamentales : captation de données à des fins électorales, surveillance des communications mondiales par les États-Unis, reconnaissance faciale en Chine pour contrôler la population et opprimer les Ouïghours.

À LIRE AUSSI :Cédric Durand : "Les algorithmes des Gafam prennent la place tenue autrefois par les terres seigneuriales"

Ces travers sont parfaitement dépassables selon les auteurs : les nouvelles techniques pourraient être efficaces, éthiques et respectueuses des libertés, le tout sans supprimer de professions. Les citoyens et leurs gouvernements devraient, pour ce faire, créer des algorithmes nationaux ou européens et appliquer des contrôles proportionnés aux nouvelles techniques. Ainsi la France pourrait-elle échapper à sa dépendance actuelle à des entreprises étrangères, comme la fameuse société Palantir, financée par la CIA.

Les auteurs semblent par conséquent faire de l’innovation et de la régulation des panacées. Cela est sans doute la contrepartie inévitable du manque principal de ce livre : avoir laissé à la marge la question de l’organisation économique dans laquelle ces techniques sont nées.

* Vincent Berthet et Leo Amsellem, Les nouveaux oracles : Comment les algorithmes prédisent le crime, CNRS éditions, 250 p