La vidéo relève du rêve de démiurge, le péché mignon des tycoons de la Silicon Valley, mais vu d’ici, tend clairement vers le cauchemar. Pull noir convoquant feu Steve Jobs, regard écarquillé, bras ouverts dans la gestuelle de l’enthousiasme, Mark Zuckerberg dessine un futur confiné où nos relations sociales ressembleraient à un jeu vidéo passablement kitsch, et semble bien y croire. Jeudi 25 octobre, le patron du plus gros réseau social de la planète présentait en conférence son nouveau grand projet, son univers virtuel, le «metaverse». Au passage, l’empire change de nom : le groupe qui possède Facebook, WhatsApp, Instagram mais aussi les casques de réalité virtuelle Oculus s’appellera désormais Meta. Soit, en grec ancien, «après», «au-delà». Au-delà du monde physique, donc, mais aussi certainement, dans les rêves de «Zuck», au-delà d’une séquence de mises en cause, critiques, auditions parlementaires voire plaintes en justice, dont la longueur se compte désormais en années, et qui culmine depuis plusieurs semaines avec les «Facebook Files», ces documents internes exfiltrés par l’ingénieure Frances Haugen. Ce lundi, celle-ci est auditionnée au Parlement européen, qui planche sur un projet de régulation des plateformes.

En septembre 2017, déjà, le New York Times résumait les déboires de la firme de Menlo Park en une formule frappante : «Le moment Frankenstein de Facebook.» Et le moment dure. A cet égard, la campagne présidentielle américaine de 2016 et ses suites ont été un tournant. Avant, le modèle économique du réseau social préoccupait déjà, et de longue date, les internautes soucieux de vie privée – convaincus, selon la formule consacrée, que «quand c’est gratuit, c’est vous le produit» – tandis que les autorités de plusieurs pays l’exhortaient à mieux lutter contre la propagande jihadiste, et que des associations de lutte contre le racisme, l’antisémitisme ou l’homophobie dénonçaient les faiblesses de la modération en matière de propos haineux. Mais avec la découverte des achats de publicités ciblées par l’Internet Research Agency, une agence de propagande russe établie à Saint-Pétersbourg, la critique de Facebook – son business, l’opacité de ses algorithmes, son manque de réactivité face à la prolifération des «fake news» et aux campagnes d’influence – change de dimension, notamment parce que l’entreprise est étrillée sur son propre sol.

Appels à la violence, partage de données avec des tiers, conditions de travail…

Depuis, chaque année apporte son lot de révélations, et de nouveaux scandales succèdent aux annonces de changements faites par la plateforme. A l’automne 2017, le site américain d’investigation ProPublica dévoile comment le réseau social, en convertissant automatiquement en catégories publicitaires les «intérêts» de ses utilisateurs, permet de cibler des racistes et des antisémites. Au printemps 2018, Menlo Park est secoué par le scandale Cambridge Analytica, cette sulfureuse firme de «marketing» politique accusée d’avoir siphonné les données de 87 millions d’utilisateurs de Facebook pour tenter de les influencer par des messages pro-Trump et pro-Brexit. A la même époque, la plateforme est accusée d’avoir laissé proliférer les appels à la violence à l’encontre des Rohingyas, minorité musulmane de Birmanie victime de nettoyage ethnique. Suivront des mises en cause sur le partage de données avec des tiers, les conditions de travail des modérateurs, des polémiques sur la circulation des contenus antivax… Jusqu’aux «Facebook Files», donc, remis par Haugen à l’organisme américain de contrôle des marchés financiers, la SEC, et obtenus par plusieurs médias.

«Facebook sait qu’Instagram est toxique pour les adolescentes, selon des documents de l’entreprise», écrit le Wall Street Journal le 14 septembre ; c’est ce dossier-là qui, plus que tout autre, semble avoir mis le feu aux poudres au Capitole. Le 4 octobre, Haugen sort de l’ombre et accuse le groupe de faire primer «le profit sur la sûreté» de ses utilisateurs. Les cas de dysfonctionnements, dont certains particulièrement alarmants, s’additionnent dans la presse : gestion discrétionnaire des profils «VIP», effets pervers des algorithmes de recommandation, lacunes de la modération dans les pays non occidentaux, comme en Inde où les discours de haine contre la minorité musulmane ont fait florès en 2020. L’entreprise a beau riposter, accuser la lanceuse d’alerte de «déformer» des documents «sortis de leur contexte», les parlementaires s’emparent du sujet, à Washington et ailleurs. Difficile de ne pas voir dans l’abandon de la reconnaissance faciale récemment annoncé par le réseau social une nouvelle tentative d’éteindre l’incendie.

Prédation des données, logiques de viralité, effets de polarisation

La séquence semble rejouer, crescendo, celles qui avaient suivi la campagne américaine de 2016 et surtout l’explosion de l’affaire Cambridge Analytica. Frances Haugen vole d’une audition à l’autre – après Washington puis Londres, aujourd’hui le Parlement européen, mercredi l’Assemblée et le Sénat français. Les mêmes mots reviennent dans la conversation publique : «régulation», «obligations» voire «démantèlement». Et pour cause : depuis cinq ans, c’est peu ou prou la même histoire qui se réécrit. Soit la mise en lumière et la prise de conscience, à une large échelle, des problèmes politiques et sociaux posés par une plateforme rassemblant chaque jour près de deux milliards d’internautes, et qui est tout à la fois un lieu de la conversation publique et semi-privée, un espace de création et d’entretien de liens sociaux, mais aussi et d’abord une entreprise attachée à maximiser l’«engagement» de ses utilisateurs pour attirer la publicité. Au prix de la prédation des données, des logiques de viralité, des effets de polarisation.

Au point que les ingénieurs de Facebook ne semblent pas toujours capables d’anticiper les effets de changements des algorithmes, écrivait le Monde la semaine dernière. On aurait tort pourtant de voir dans le long «moment Frankenstein» de la firme de Menlo Park l’histoire d’une créature échappant à son créateur : le business model, l’architecture technique, les arbitrages budgétaires sont autant de choix, parfaitement conscients. C’est aux législateurs, aux régulateurs, que le groupe et ses outils échappent encore largement, la norme cavalant derrière la technologie et ses effets de bord. Sans compter que, tout empêtré qu’il soit dans l’une des pires séquences médiatiques de son histoire, le groupe désormais connu sous le nom de Meta continue à dégager de confortables bénéfices – 9,2 milliards de dollars (7,9 milliards d’euros) au troisième trimestre 2021… Les «Facebook Files» changeront-ils la donne ? Au moins auront-ils remis en haut de l’agenda politique l’urgence d’appréhender les effets systémiques des plateformes dites «sociales» en général, et de Facebook en particulier.