L'algorithme qui tue

Dans un article publié par la prestigieuse revue Science, trois chercheurs en sciences comportementales posent une question morale fondamentale liée à l’émergence des voitures autonomes : dans la situation (certes improbable) où la voiture doive choisir entre tuer plusieurs piétons ou tuer son passager en les évitant, quelle décision l’algorithme devra-t-il prendre ? Faut-il imposer le sacrifice des passagers au nom de la vie des autres ? Question d’autant plus complexe que, contrairement à un accident classique, le conducteur-passager n’aurait rien à se reprocher…
 
Voilà qui rappelle le célèbre paradoxe de David Hume dans le Traité de la Nature Humaine (II, III, 3) : « Il n'est pas contraire à la raison de préférer la destruction du monde entier à une égratignure de mon doigt. » Nos passions, fondées dans nos expériences de nous-même et du monde, gouvernent nos préférences morales. Peut-on demander à un être vivant de se sacrifier, sans entrer en contradiction avec la vie elle-même, qui nous enjoint d’augmenter nos plaisirs et de minimiser nos peines ? Loin de s’imposer à l’homme comme une source de connaissance supérieure, « la raison est et ne doit qu’être l’esclave des passions ». Pour un empiriciste tel que Hume, être raisonnable, c’est simplement choisir les moyens appropriés à nos fins. Autrement dit, s’assurer que l’algorithme nous épargnera… Les 2000 participants à l’étude de Science ne semblent d’ailleurs pas penser autre chose, puisque 70% d’entre eux assurent qu’ils préféreraient acheter une voiture programmée pour tuer les piétons.

Pour justifier d’un choix contraire, les auteurs de l’étude se réfèrent à la doctrine « utilitariste ». En effet, le père fondateur de l’utilitarisme, Jeremy Bentham, formulait en ces termes les principes de l’éthique : « l’art d’orienter les actions des hommes de manière à produire la plus grande quantité possible de bonheur ». En partant des mêmes présupposés que Hume, à savoir la maximisation individuelle des plaisirs comme source de toute action, Bentham en tire des conclusions opposées pour le groupe. Le « calcul hédonique » devrait nous forcer à accepter le sacrifice d’un membre du groupe afin de minimiser la peine des autres. On pourrait même imaginer que le calcul prenne en compte l’âge et la fonction sociale des individus pour affiner le choix des victimes… Les voitures autonomes britanniques viseront-elles les retraités ayant voté Brexit ?
 
Une alternative nous est peut-être offerte par Hume lui-même. En effet, juste après sa phrase sur l’égratignure, il ajoute : « Il n'est pas contraire à la raison que je choisisse de me ruiner complètement pour prévenir le moindre malaise d'un indien ou d'une personne complètement inconnue. » Si les passions règnent en maîtres sur nos actions, elles peuvent aussi bien susciter la générosité que l’égoïsme ! Pourquoi faudrait-il définir un seul algorithme ? Chacun ne devrait-il pas avoir la possibilité de définir de manière transparente ses propres paramètres ? La pression sociale ne serait-elle pas une meilleure alliée que la loi pour produire la morale ?
 
Ne reste plus qu’à espérer que, pour résoudre ces questions complexes, la philosophie morale ne soit pas remplacée par un robot pensant…