tableau de bord digital pour voiture autonome
Actualités

La voiture autonome est-elle immorale ?

La voiture autonome, du rêve à la réalité

voiture autonome k2000Plus jeune, nous rêvions que la fiction devienne réalité. Dans « l’Âge de Cristal », nous admirions ce véhicule qui glissait sur la route, équipé d’un moteur électrique qui fonctionnait à l’énergie solaire. Elle n’était pas encore sans chauffeur, mais un androïd la conduisait. Les voitures ont-elles une âme, une personnalité ? « La Coccinelle » tente de nous convaincre que oui. Mais, loin du rêve, il y en a une qui nous a effrayé, la dénommée « Christine » qui ne vous donne plus le contrôle pour le meilleur et surtout le pire. Mais finalement, celle que nous préférons tous est sans aucun doute LA voiture autonome KITT de la série K2000. Elle est celle qui se rapproche le plus de la réalité que nous connaissons aujourd’hui. Le rêve des gosses qui ont grandis dans les années 70 et 80 est devenu une réalité. Une réalité qui suscite pourtant de nombreuses questions car si la technologie permet de s’affranchir de certaines contraintes physiques et intellectuelles, elle n’est toujours pas douée d’intelligence et de sensibilité comme nous en sommes pourvus, nous, les humains. Et alors que nous abandonnons de plus en plus et toujours plus vite notre capacité à agir et penser par nous-même, au bénéfice du contrôle et de la rapidité de la « machine », nos lois, nos mœurs, l’organisation de la société et notre mode de vie peinent à s’adapter au même rythme que la technologie. Y arriverons-nous seulement un jour ? Oui ou non, pourrons-nous seulement échapper à la soumission que nous devrons à ceux qui la contrôlent ?

Si je ne parais pas très optimiste sur notre avenir face à cette technologie et ses débouchés, ce n’est pas la conséquence des (r)évolutions qu’elle occasionne dans nos activités de tous les jours et leurs impacts sur les activités professionnelles qui va jusqu’à nous menacer de précarité et jusqu’à faire disparaître des emplois. Une menace qui ne concerne plus seulement les « petits boulots » ou les personnes « sans qualifications » mais aussi des catégories sociaux-professionnelles que l’on pensait jusqu’à maintenant à l’abri. Sur ce point, on voit bien à quel point les politiciens rencontres des difficultés pour nous protéger de la conséquence qu’elle engendre : le capitalisme ultra-libéral qui emploi la technologie à son seul profit avec le soutien des politiciens qui, pour certains d’entre-eux, ont des intérêts à ce que ce capitalisme-là prend le dessus.

Non ! ce n’est rien de tout ça qui m’effraie le plus !

Ce qui m’inquiète, c’est qu’un jour prochain, nous perdions notre libre arbitre. Que nous soyons contraint de nous en remettre exclusivement et par obligation, à des programmes, à des algorithmes. Et là, ce n’est plus de la science-fiction des séries télés des années 70 et 80 que nous n’espérions même pas connaître de notre vivant. Nous ne sommes pas encore en 2020 que tout cela est déjà présent dans notre quotidien à des niveaux plus ou moins avancés et sans que nous ayons simplement conscience que la vision de Georges Orwell dans « 1984 » c’est aujourd’hui une réalité qui est en train de nous dévorer tout cru.

Après le drame survenu à Tempe, une ville de l’Arizona dans l’ouest des États-Unis, au mois de mars, j’ai creusé un peu le sujet. Car depuis un moment déjà je me posais des questions sur ce qu’induirait un accident impliquant un véhicule à conduite autonome en termes de responsabilités pour les personnes et le constructeur de la voiture et sur les choix éthiques que nous serons amenés à faire en programmant ces machines.

Mais revenons tout d’abord sur ce qui s’est passé à Tempe le 18 mars.

voiture autonome uber accidentéeAlors qu’une voiture autonome de la marque Uber circulait de nuit à une vitesse de 65 km/h avec un chauffeur prêt à reprendre la main en cas de soucis, une dame âgée d’une cinquantaine d’année à surgit de l’ombre avec un vélo poussé à la main. Sa traversée d’une route à quatre voies en dehors d’un passage protégé n’a pu être anticipée par le véhicule qui n’a pas ralenti ni avant, ni après l’impact et qui l’a mortellement percuté. Les limites de cette technologie seraient-elles atteintes ? Apparemment il reste beaucoup de travail pour les chercheurs à enseigner aux algorithmes l’imprévisibilité de l’espèce humaine.

Pour Missy Cummings, chercheuse spécialisée en robotique interrogée par le Washington Post, les capteurs des véhicules autonomes sont encore imparfaits et le logiciel auxquel ils sont raccordés ne fonctionnent pas selon un modèle de « déductions », ce dernier n’est pas encore capable «de « prévoir » l’apparition d’une personne. Contrairement à un humain qui est capable de le faire quand par exemple, il est derrière le volant et aperçoit des enfants jouer au ballon sur un trottoir. Généralement, il va ralentir en prévision que l’un d’eux se mette à courir derrière le ballon échappé sur la route.

Selon les propos de Timothy Carone, rapportés par le journal Marianne, le spécialiste des systèmes autonomes qui fût interrogé par le Washington Post s’attend à ce que d’autres accidents mortels mettant en cause des véhicules autonomes se produisent. Car les tests routiers sont le seul moyen pour les systèmes d’apprendre et de s’améliorer. Il ajoute même que si dans les premiers temps, cela va être difficile de l’accepter… A terme, nous verrons la courbe (des accidents) commencer à descendre. Nous devons en passer par là et ces véhicules finiront par sauver de nombreuses vies.

En attendant la fin de l’enquête, la société Uber a suspendu tous les tests encours à travers le monde.

Si l’on est pragmatique, on peut bien admettre que le risque ZERO n’existe pas. Et que l’on ne pourra pas éviter TOUS les accidents. En éviter bien plus que nous, les humains, sommes capables de le faire c’est déjà bien et justifie une telle course au progrès. Le véritable problème dans cette affaire, c’est l’éthique selon laquelle seront résolus les cas où l’accident « mortel » ne peut être évité. A un moment ou un autre, le logiciel de la voiture va devoir faire un choix entre la vie du conducteur et celle du piéton. Le logiciel a besoin d’une réponse et cette réponse c’est celle que les constructeurs auront implémentée dans les algorithmes. Mais est-ce au constructeur de prendre cette responsabilité ? En 2016, Mercedes donnait sa préférence à la sécurité de ses passagers avant de faire machine arrière pour répondre à une pluie de critiques qui s’est mise à lui tomber dessus : Il n’est pas question qu’une entreprise, un constructeur établisse une échelle de valeur entre ses clients et les autres !

Voiture autonome et détection d'obstacleQue la réponse du logiciel face à une situation tragique provienne d’une entreprise privée, publique, d’une nouvelle norme discutée par des médecins, des philosophes, des psychologues et de biens d’autres encore, le problème : c’est qu’il n’y a pas de bonne réponse si elle est prise à l’avance, à votre place.

Une étude publiée en juin 2016 dans la revue « Science » a fournit les résultats d’une enquête menée par trois scientifiques auprès de 6000 américains. Et ce que montre ce sondage est assez intéressant car, lorsqu’une voiture autonome ne peut pas sauver tout le monde, la plupart des sondés pensent que moralement, elle doit sauver le plus grand nombre de personnes. Toutefois, l’un des co-auteur de cette étude, Jean-François Bonnefons qui est par ailleurs un spécialiste de psychologie cognitive à la Toulouse Scholl of Economics, constate que si la majorité est d’accord pour envoyer la voiture dans le décor si c’est pour sauver plus de piétons qu’il n’y a de passagers dans la voiture. Eh bien, cette même majorité refuserait d’acheter une telle voiture.

L’étude est d’ailleurs allée encore plus loin. Par exemple, lorsqu’un scénario suggère qu’il y a un jeune enfant à bord de la voiture qui va se crasher pour sauver 3 piétons… Les personnes interrogées deviennent plus hésitantes.

Jean-François Bonnefons explique alors qu’à partir de là, l’étude a poursuivi son objectif en mettant à l’épreuve les sondés face à des scénarios toujours plus complexes : présence d’une femme enceinte ou une personne âgée parmi les victimes potentielles. Les scénarios sont si nombreux que les scientifiques ont mis en ligne un site – Moral Machine – qui a pour but de vous placer face à une multitude de situations impliquant des poussettes, des criminels, des animaux, des personnes âgées, des femmes enceintes, des personnes sans domicile fixe… Le site a rencontré un tel succès que près de 40 millions de personnes à travers le monde ont participés à ces tests et du même coup, il m’est en lumière que les différences culturelles peuvent produire des résultats différents d’une région à l’autre du monde. Ce qui ajoute encore de la complexité dans la programmation de l’intelligence qui sera embarqué dans les voitures pour satisfaire les acheteurs potentiels quelle que soit leur origine.

L’Allemagne a, pour sa part, créée une commission d’éthique chargée de proposer des règles de « conduite » pour ses voitures autonomes. La proposition qui tient le plus la route, si on peut s’exprimer ainsi, serait de considérer toutes les vies sur un pied d’égalité, quel que soit l’âge, le sexe, la culture, la religion, la santé…

Mais saurons-nous résister à la tentation d’établir un classement « morbide » dans les options disponibles face à un danger imminent ? Rien est moins sûr !

Tenez, par exemple, est-ce que vous connaissez la série TV « Person of Interest » ? Dans cette série un mystérieux milliardaire Harold Finch a conçu pour le gouvernement américain un système de surveillance de masse capable de prédire les actes terroristes dans le monde, en s’appuyant sur de nombreuses données comme les enregistrements des caméras de surveillance et des appels téléphoniques, les antécédents judiciaires, la reconnaissance faciale… Cette machine repérait aussi les crimes entre les citoyens ordinaires. Une science-fiction là encore rejointe par la réalité depuis les révélations d’Edward Snowden sur la surveillance globale mise en place par les États-Unis et qui soulève encore de nombreuses questions quant au respect de la vie privée.

La Chine, moins soucieuse du respect de la vie privée de ses citoyens, s’engage depuis 2014 dans toutes les dérives d’un tel concept. Elle se sert déjà du « Big Data » pour surveiller et évaluer ses citoyens, à travers un système de crédit social. Tous les déplacements, transactions, appels téléphoniques, faits et gestes des citoyens sont ou seront collectés sous la forme de données pour attribuer une note à chaque individu. En fonction de cette note, les citoyens seront récompensés ou punis en ayant accès à plus ou moins de privilèges dans la société. Ceux qui seront les plus mal notés se verront affliger des sanctions, comme de se voir refuser un prêt bancaire, un trajet en avion ou en train… Ce système permettra à la Chine d’embrasser pleinement ses idéaux basés sur l’obéissance et la discipline. Et pour atteindre pleinement cet objectif, près de 170 millions de caméras « intelligentes à reconnaissance faciale » ont déjà été installées et près de 600 millions d’autres devraient l’être d’ici 2020, année ou le système sera complétement opérationnel.

Vous voyez où je veux en venir ?

intelligence artificielle et contrôle de la populationIl suffit que quelqu’un commence à le faire et obtient des résultats intéressant sur le contrôle de sa population pour que d’autres pays soient tentés de suivre. Du même coup, comment être sûr alors qu’en cas de collision avec une voiture autonome, que cette évolution technologique ne s’accompagne pas d’une évolution de l’éthique qui déboucherait sur un choix d’accorder une chance de survie à un accident aux personnes qui le méritent, qui ont un meilleur potentiel pour l’avenir de leur pays pour l’économie, pour le fonctionnement de l’entreprise pour laquelle ils travaillent. Pourquoi pas aussi en fonction du coût qu’ils représentent pour la collectivité : santé, assurances…

Peut-on être vraiment sûr que le futur de l’automobile ne deviendra pas un moyen de réguler certaines catégories sociales de la population. Ou un autre moyen pour la justice de gagner du temps en veines procédures pour éliminer les éléments « gênants » ?

Vous trouvez que je vais un peu loin ?

Pourtant en 1949, lorsque George Orwell publie « 1984 », les lecteurs ne pouvaient s’imaginer que cette science-fiction deviendrait une réalité moins d’un siècle plus tard.

En attendant de vérifier mes sombres prédictions et surtout en espérant que je me trompe, revenons à un usage candide et malgré tout pas sans risque d’un accident, aussi rare soit-il, impliquant un véhicule autonome.

Quid de la responsabilité juridique ?

En France, les véhicules autonomes ne sont pas autorisés à rouler en milieu urbain sans une personne derrière le volant qui est tenu de reprendre le contrôle du véhicule en cas de problème, et être tenu pour responsable de l’accident. Mais autonome ou pas, un véhicule impliqué dans un accident de la route débouche sur une indemnisation quasi automatique de la victime par l’assurance du conducteur, indépendamment de la question de la responsabilité.

L’indemnisation des victimes d’accident n’est donc pas remise en cause par l’implication de véhicules autonomes dans la scène d’accident. Mais pour définir un responsable, c’est plus compliqué car selon Majda Benkirane, avocate au barreau de Paris en droit du dommage corporel : le conducteur d’une voiture est responsable d’un accident causé par son véhicule, sauf s’il peut démontrer qu’il y a eu défectuosité engageant la responsabilité du constructeur. Dans le cas de la voiture autonome, si son fonctionnement a conduit à blesser ou tuer un tiers sans que le conducteur n’intervienne comme dans l’épisode tragique rencontré par la société UBER, la loi Française n’a pour l’heure pas encore tranchée. Aux Etats-Unis, la Floride, le Nevada et Columbia ont décidés d’engager la responsabilité du concepteur du système autonome et non le constructeur du véhicule.

Maitre Benkirane suggère quant à elle d’appliquer ce qui se fait déjà pour les hôpitaux. Les hôpitaux sont toujours tenus pour responsables « sans faute » en cas d’infection nosocomiale des patients.

L’Allemagne, souvent prise pour exemple, a pour sa part imposée la présence de boites noires dans ces voitures afin de pouvoir déterminer si un conducteur et intervenu ou non, et si le système de conduite lui a demandé d’intervenir. Il est alors plus facile d’établir clairement les responsabilités.

Comme vous le voyez, la conduite autonome suscite encore beaucoup de questions et aussi beaucoup d’inquiétudes.

Quand on pense que l’on peut être sanctionné pour usage du téléphone au volant parce que cela réduit l’attention et allonge les temps de réaction dans les manœuvres d’urgence… Tandis qu’il faudrait accepter d’être passif derrière le volant, se perdre dans ses pensées ou dans la contemplation du paysage qui défile devant soi et faire preuve d’une soudaine réactivité en cas d’alerte du système de conduite qui vous demande de reprendre en main la voiture face à un danger… On se demande, si tout cela est bien raisonnable ?

Click to comment

Leave a Reply

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

To Top