Il est temps de réfléchir aux effets induits par les systèmes autonomes

Par 24 août 2009
Mots-clés : Smart city, Europe

Robots, véhicules autonomes, téléphones et maisons intelligentes ne sont plus de la science-fiction. Il est temps de se pencher sérieusement sur les aspects légaux et sociaux de leur utilisation.

Les objets ou systèmes autonomes se multiplient. Pour autant, les conséquences d'un usage massif dans de nombreux domaines n'ont pas été vraiment étudiées. Il est temps, estime l'Académie royale d'ingénierie au Royaume-Uni dans un rapport repéré par The New Scientist. Celle-ci rappelle que les systèmes autonomes sont déjà une réalité, si l'on considère certaines des catégories qui la composent : ascenseurs (systèmes automatiques), robots automobiles (systèmes supervisés), voitures (systèmes contrôlés). Etant relativement anciens dans nos sociétés, celles-ci n'ont été récemment remises en cause dans leurs fonctionnements.
Quelle responsabilité pour un véhicule sans conducteur
Mais la mise au point de voitures de plus en plus (voir totalement) autonomes, de maisons intelligentes ou de compagnons artificiels doit forcer les pouvoir publics à légiférer ou à consulter leurs citoyens. Si l'on prend le premier exemple traité, à savoir l'intelligence croissante des véhicules, les gouvernements doivent penser à des modifications dans les législations. En effet, qui est à blâmer en cas d'accident si le conducteur a déporté sa responsabilité sur un système autonome, géré de façon centralisé ou en mode collaboratif. Dans le second cas, la maison intelligente, les questions éthiques et sociales sont nombreuses.
Des compagnons virtuels manipulateurs
Ainsi, pour l'Académie royale, il n'est pas encore décidé de ce que l'on pourrait faire - et qui pourrait le faire - de la montagne de données issues des patients supervisés à distance, ou quelle réaction avoir si une seule entreprise contrôle les technologies liées à la télémédecine. Sans compter qu'il est possible d'imaginer des compagnons virtuels déviés de leurs objectifs et manipulant les personnes les plus faibles. L'institution anglaise rappelle enfin que la plupart des éthiques en cours dans le développement informatique partent du principe que les utilisateurs sont conscients et très au fait des technologies.

Mentions légales © L’Atelier BNP Paribas