Imaginez que vous soyez dans le wagon restaurant d’un train de luxe filant vers Paris, la nourriture et le service sont impeccables, le paysage magnifique défile à toute allure, vous êtes sur des rails qui mènent droit à votre destination, vous avez l’esprit léger, c’est le bonheur. Il faut dire que « le système » est bien fait : vous avez fait un choix, celui d’aller passer quelques jours de vacances dans la ville lumière, vous avez pris vos réservations et depuis tout s’enchaîne exactement comme vous l’aviez décidé, vous jouissez d’un parfait confort… jusqu’à l’accident ! Une personne a traversé la voie ou a peut-être voulu se suicider. Le train s’est arrêté. Il va y avoir une ou deux heures de retard. C’est la procédure. Quelles que soient les circonstances et quoi qu’il soit advenu du malheureux heurté par le train, un certain nombre d’actes doivent obligatoirement être réalisés avant que le train reparte.

Car « l’accident de personne » ne relève pas de la rubriques des chiens écrasés. On ne se contente pas d’écarter le corps ou de passer dessus. Il s’agit d’une personne humaine et c’est l’éthique d’une société qui trouve à se refléter dans le code de procédure censé régler l’épisode. Des décisions ont été prises à l’avance et chacun à sa place sait ce qu’il a à faire : s’y conformer [1]. C’est clair, net, efficace parce qu’on n’a pas le choix !

Choisir c’est coûteux car il faut rassembler l’information, confronter les options puis décider laquelle est la meilleure. Il y a toujours un certain avantage à être dispensé de cette tâche. Les chercheurs ont ainsi découvert un paradoxe du choix lié au fait qu’avoir le choix c’est avoir la liberté mais comme choisir nécessite un effort, sans même parler d’une responsabilité, la plupart d’entre nous préférons les situations où l’on a déjà choisi pour nous.

C’est tellement banal que nous n’y prêtons pas attention. Nous appelons ça « déléguer ». Par exemple, les riches délèguent tout le processus décisionnel inhérent à la bonne tenue de leur maison à un(e) gouvernant(e), terme qui dit bien de quelle fonction il s’agit. La chose est aussi banale parce qu’il existe depuis longtemps des automatismes qui font des choix auparavant dévolus à l’humain comme, par exemple, le changement de vitesses à réaliser ou non suivant le régime du moteur et l’allure du véhicule.

Justement la question qui s’est posée dernièrement est de savoir jusqu’à quel point nous pourrions déléguer à une IA les choix inhérents à la conduite d’une voiture. Est-il envisageable, souhaitable ou, peut-être, inacceptable de s’installer dans une voiture autonome — que, pour faire simple, j’appellerai ici une auto [2] — comme on prendrait place dans un train, dans une parfaite insouciance et une totale confiance, sachant que toutes les décisions ont déjà été prises par le constructeur en lien avec les autorités, de sorte que tout va pouvoir « rouler comme sur des rails » ?

Etrangement, la réponse est non. Cela ne pourra jamais arriver. Non pas que cela soit techniquement impossible. Nous n’en sommes pas loin. Mais la confiance totale et donc l’insouciance parfaite nous ne l’aurons jamais car contrairement au train conçu pour rouler seul sur sa ligne, la route est partagée avec d’autres usagers avec lesquels des interactions imprévues peuvent avoir lieu. Rien de nouveau sous le soleil me direz-vous parce que des pertes de contrôles et des accidents sont toujours à envisager lorsqu’on prend le volant sauf que là, pour le coup, le volant, vous ne l’aurez pas. Dans l’auto, ce sera un pilote automatique qui choisira la réaction la plus appropriée.

Certains diront : « tant mieux parce que j’aime bien ma femme — mon père, mon frère, ma tante ou toute autre personne susceptible de tenir le volant — mais je n’ai pas vraiment confiance dans la sûreté de sa conduite ». Oui, on doit reconnaître qu’un pilote automatique choisirait certainement les meilleures trajectoires, avec des freinages ou des accélérations optimaux et saurait ainsi mieux éviter une catastrophe que, par exemple, mon vieux papi qui avait l’habitude de s’endormir volant et d’aller — heureusement tout seul — à l’accident. Le problème n’est pas là car nous sommes dans cette branche de la physique qu’on appelle la dynamique. C’est un domaine parfaitement calculable et programmable. Il est assuré que, si ce n’est déjà fait, l’IA surclassera les humains en matière de conduite du matériel roulant.

Non, le véritable problème, celui que je soumets à votre sagacité afin que nous en débattions dans le cadre de ce remue-méninge ou café-psy du vendredi, vient de ce qu’on pourrait appeler « l’éthique embarquée  » que je simplifie un peu afin de la prendre ici au sens littéral du terme et signifier qu’elle est proprement embarquée dans l’auto avec les processeurs, l’IA et les passagers. [3]

 C’est un problème des plus graves car des choix touchant à la personne humaine se trouvent d’une manière ou d’une autre engrammés dans l’IA et ne venez pas me dire que ça vous fait une belle jambe car ces choix vous concernent directement, vous qui prenez place dans l’auto sans savoir exactement quel est votre statut dans la hiérarchie des valeurs qui va en déterminer la conduite au moment fatal, celui-ci qui pourrait amener à rencontrer, justement, votre destin.

Très concrètement, et très simplement aussi, quand votre conjoint est au volant vous savez que cet être que vous aimez et qui vous aime fera TOUT ce qui est en son possible pour vous éviter des dommages corporels ou, pire, de mourir. Vous êtes sûr d’être tout en haut de la hiérarchie des valeurs alors qu’avec une éthique embarquée c’est une autre paire de manche.

Par exemple, supposons qu’en roulant dans la montagne les circonstances fassent que, tout soudain, le choix se limite à :

1. Rester sur la route en sachant que le freinage optimal n’empêchera pas le véhicule de « rentrer » dans un groupe de personnes qui, pour certaines d’entre elles, seront blessées et, probablement, tuées.
2. Lancer le véhicule dans le vide et sacrifier tous les passagers.

Que pensez-vous que fera l’éthique embarquée ? Elle calculera ce qui est le plus avantageux au regard de ses règles éthiques et il n’est pas exclu qu’elle choisisse de sacrifier les passagers et de lancer le véhicule dans le vide pour éviter un carnage.

Il n’est pas exclu qu’un humain fasse le même choix si, comme le héros de Gran Torino, le conducteur est un homme seul, vieux, gravement malade et qu’il se trouve face à un groupe d’enfants en colonie de vacances. Mais si toute sa famille est à bord, ne se dira-t-il pas « je fais de mon mieux pour freiner et à la grâce de Dieu ? ». Ne prendra-t-il pas cette décision avec l’archi-conviction de faire le meilleur choix possible étant donné qu’il n’a pas la capacité de calculer l’intensité du choc et le nombre probable d’enfants qui y laisseront la vie ? N’est-il pas grosso modo assuré que l’option « sacrifier ma famille » est exclue pour l’immense majorité des conducteurs actuels ?

N’est-il pas alors évident qu’une fois compris ce qu’implique le fait de s’en remettre à une éthique embarquée la plupart des humains normalement constitués voudront savoir ce qu’elle a dans le ventre ? Pour dire les choses brutalement, ne voudront-ils pas savoir ce que les « réglages » de l’équation auront décidé par avance, en fonction des paramètres de la situation, à savoir : qui doit mourir et qui doit survivre autant que possible — et peut-être « à tout prix » si l’option est envisageable ?

Bien sûr, il s’en trouvera toujours un bon nombre pour déclarer qu’ils ne veulent pas savoir et qui choisiront de faire confiance aux autorités pour décider dans l’intérêt général, exactement comme pour la dernière pandémie. Mais ceux qui ont un brin de jugeotte voudront avoir leur mot à dire, ils revendiqueront une liberté de choix quant à l’éthique embarquée. Mais rappelons-nous que tout choix est coûteux...

Supposons qu’en fonction des modèles, trois possibilités vous soient offertes :

1. L’option égoïste serait celle d’une « éthique embarquée » donnant la priorité aux occupants de la voiture autonome.
2. L’option altruiste serait celle d’une éthique embarquée donnant systématiquement la priorité aux usagers de la route
3. L’option équilibrée consisterait à répartir équitablement les risques entre occupants de la voiture et usagers de la route sur un mode validé par les éthiciens industriels et gouvernementaux.

Cela va de soi, les modèles de luxe offriraient les trois options et le choix serait modifiable à tout instant, même en cours de route.

Quel modèle choisiriez-vous ? Pas facile n’est-ce pas ? Car nous voilà confronté à des questions de vie ou de mort, des questions de morale qui engage tout notre être, l’idée que nous nous faisons de nous-mêmes, notre identité au plus profond.

Une chose me paraît sûre : même si le pouvoir prétendrait connaître les bonnes réponses mieux que les individus eux-mêmes, je vois mal comment ces choix éthiques embarqués pourraient être imposés aux utilisateurs de l’auto sans qu’ils aient leur mot à dire dès lors que ce qui est en jeu, c’est la vie et la mort de leur famille et d’eux-mêmes.

Autrement dit, je crois que, de très loin, la meilleure option ici est celle qui consiste à laisser le choix aux individus. Mais, vous vous en doutez, ce n’est probablement pas la manière de voir des autorités qui, j’en suis convaincu, chercheront, dans l’intérêt de tous, à nous imposer une éthique normée ISO comme elles nous imposent leur éthique libérale, progressiste, mondialiste etc.

Si cela devait être le cas, je refuserais d’acheter ou de monter dans une auto. Et vous, comment voyez-vous les choses ?