Intervention de Jean-Yves Le Déaut

Le 10 décembre 2015, l'Office parlementaire a organisé une audition publique ouverte à la presse sur le thème : « Les robots et la loi », à la suite d'une saisine formulée, en application de l'article 6 ter de l'ordonnance du 17 novembre 1958 relative au fonctionnement des assemblées parlementaires, par M. Jean-Jacques Urvoas, président de la commission des lois de l'Assemblée nationale. En effet, l'accélération du développement des nouvelles applications de la robotique, dans des secteurs aussi variés que la défense, la médecine, les transports et l'assistance aux personnes, pose avec une particulière acuité la question des implications de ces innovations en termes de droits et de sécurité des personnes.

Cette audition, préparée en liaison avec l'INRIA, par l'entremise de M. Claude Kirchner, conseiller du président et directeur de recherche, représentait une opportunité d'aborder le sujet des robots qui n'avait jusqu'alors pas été traité en tant que tel dans le cadre de l'Office. L'étude qui vient d'être évoquée en constitue une suite logique.

Avant d'aborder l'objet même de la saisine, il s'avérait, par conséquent, nécessaire de préciser le périmètre de la robotique et les effets prévisibles d'une plus large diffusion de celle-ci sur la société. De ce fait, cette audition comportait d'abord deux tables rondes destinées, d'une part, à décrire l'état de l'art et les perspectives de la recherche en robotique, et, d'autre part, à mieux cerner les impacts sociétaux, économiques et éthiques de la diffusion des robots dans la société. Sur cette base, la troisième et dernière table ronde a traité des dispositions d'ordre juridiques nécessaires pour encadrer et accompagner le développement de la robotique.

Une première interrogation concernait la définition du champ de la robotique. J'ai moi-même évoqué, en introduction de cette audition, un rapport de 2010 sur les apports des sciences et techniques à l'évolution des marchés financiers. Ce rapport a mis en lumière le rôle croissant de logiciels financiers, communément qualifiés de robots de trading à haute fréquence. Toutefois, les membres de l'OPECST et les intervenants se sont accordés, après l'intervention de M. Raja Chatila, directeur de l'Institut des systèmes intelligents et de robotique, sur une définition limitant la notion de robot aux seules machines matérielles, dotées de capteurs permettant de percevoir l'environnement, d'effecteurs permettant d'agir sur cet environnement, ainsi que d'un ordinateur leur donnant une certaine capacité de décision.

Une deuxième clarification nécessaire portait sur l'état de l'art de la robotique et ses développements à venir prévisibles. L'évolution de la robotique depuis un quart de siècle résulte de la convergence de toute une série de progrès, intervenus parallèlement dans les sciences et les technologies du numérique : en matière de conception des logiciels, d'apprentissage automatique – en anglais machine learning –, de vitesse des processeurs, de miniaturisation des capteurs et des effecteurs, de réduction des coûts et des délais de développement, etc. Ces progrès ont permis d'améliorer les performances des robots, en termes de perception et de modélisation de leur environnement, de locomotion et de manipulation des objets. À côté de recherches menées sur un plan technologique, M. Pierre-Yves Oudeyer, directeur de recherche à l'Inria, a insisté sur l'importance de l'interaction entre les spécialistes des sciences et technologies robotiques, les juristes, les philosophes, et, en particulier les chercheurs en sciences humaines et sociales.

La capacité des robots à interagir avec les humains et avec leur environnement s'est ainsi trouvée notablement améliorée. Les robots de nouvelle génération étant désormais à même d'investir la plupart des espaces publics et privés, les applications envisageables s'avèrent extrêmement étendues. Elles vont de l'exécution de tâches domestiques, comme tondre une pelouse ou nettoyer le sol, à des missions de sécurité civile, en passant par l'assistance aux personnes handicapées. Pour autant, comme l'ont indiqué les chercheurs présents à l'audition, les robots les plus avancés demeurent très éloignés de l'image véhiculée par la littérature et le cinéma de science-fiction. Leur appréhension de l'environnement reste rudimentaire, leurs gestes encore maladroits et leur capacité d'adaptation embryonnaire.

En dépit les déclarations très médiatisées de plusieurs entrepreneurs américains célèbres, la perspective de robots égalant l'intelligence humaine, a fortiori capables de se faire passer pour des humains, semble à ce jour illusoire. Il existe toujours un fossé, heureusement infranchissable, entre la science-fiction et la réalité de la science. Si une machine gagne aux échecs contre une personne humaine, c'est parce que les chercheurs sont parvenus à compiler dans l'ordinateur qui la commande la somme des intelligences consacrées au jeu d'échec depuis des décennies.

Malgré ces limitations, les avancées déjà réalisées devraient permettre le développement rapide de nouvelles applications de la robotique dans certains secteurs : bien entendu, dans les usines mais aussi les transports, avec le véhicule connecté, l'éducation ou encore l'aide aux personnes et aux soins. Par exemple, les premiers véhicules entièrement automatisés pourraient apparaître sur les routes dans un délai de cinq à dix ans seulement. Comme l'a indiqué au cours de cette audition M. Renaud Champion, représentant du groupe Syrobo du Symop, les évaluations de l'impact économique de la robotique dans les prochaines années divergent considérablement mais l'une des plus prudentes, celle de la Commission européenne, estime ce nouveau marché à un peu plus de quinze milliards d'euros.

La recherche et l'innovation représentent bien évidemment deux atouts majeurs pour conquérir ce nouveau marché. En dehors du maintien des dispositifs déjà en place, plusieurs pistes transverses ont été esquissées pour les renforcer, par exemple l'organisation de défis destinés à impliquer les potentiels utilisateurs finaux de ces technologies, ou l'accompagnement à plus long terme des jeunes entreprises innovantes (JEI). Par ailleurs, M. Guillaume Devauchelle, vice-président de l'innovation du groupe Valéo, a souligné le besoin d'une adaptation transitoire et limitée de la réglementation, notamment du code de la route, pour faciliter l'expérimentation en grandeur réelle de nouveaux usages, expérimentation indispensable à l'émergence des innovations dans le domaine du numérique.

Toutefois, l'impact d'une large diffusion de la robotique dans la société ne se limitera pas à de nouvelles opportunités d'innovation et de développement de marchés. Elle pourrait également apporter des solutions à des problèmes de société tels que la dépendance des personnes âgées – par l'intermédiaire de l'assistance aux personnes et aux soins –, la réduction de la population active – par l'automatisation d'un nombre croissant de tâches aussi bien matérielles qu'intellectuelles – ou les questions posées par le changement climatique, en modifiant radicalement l'organisation du transport routier. Le marché du travail sera, lui aussi, nécessairement profondément transformé par l'arrivée des robots. Certains métiers pourraient disparaître, par exemple dans les transports, alors que d'autres, liés au surcroit d'activité généré par ce nouveau marché, viendraient s'y substituer. La réussite de cette transition implique de la préparer, pour mieux identifier les risques et les opportunités.

S'agissant des enjeux éthiques de la robotique, ceux-ci ont été évoqués tout au long des trois tables rondes. Au travers de sa commission de réflexion sur l'éthique de la recherche (CERNA), l'alliance des sciences et technologies du numérique, Allistene, a publié fin 2014 un rapport sur l'éthique de la recherche en robotique, proposant des recommandations destinées aux chercheurs. Par ailleurs, la CERNA incite les écoles d'ingénieurs et les masters d'universités à inclure dans les programmes de formation des modules courts sur les questions éthiques ainsi que sur les relations entre science et société. Cette approche apparaît particulièrement pertinente puisque c'est au stade de la conception des robots que la prise en compte des questions éthiques s'avère la plus efficace.

Plusieurs intervenants ont insisté sur les risques de dérives liés à l'interaction affective des hommes avec les robots. M. Serges Tisseron, chercheur associé au Centre de recherches psychanalyse, médecine et société (CRPMS), a mis en évidence la propension naturelle des êtres humains à attribuer des intentions et des émotions, voire également des sensations à toutes choses animées. Le développement de l'empathie artificielle, visant à donner aux robots la capacité d'interpréter les sentiments humains et à y répondre par des réactions apparemment adaptées, pourrait encore aggraver cette dérive. Certains fabricants de robots semblent jouer sur cette ambiguïté pour faciliter l'acceptation sociale des robots. Cette démarche apparaît dangereuse et pourrait conduire, à terme, à un rejet de la robotique. Une piste plus appropriée pour assurer une meilleure acceptabilité sociale des robots a été suggérée : celle de la co-conception qui consiste à associer très en amont les futurs utilisateurs au développement des nouveaux produits.

La présence croissante des robots dans la société pose également la question du respect de la vie privée dans un monde où la captation des données – comme cela vient d'être évoqué avec la CNIL – deviendrait permanente et multiforme, ainsi que du contrôle de l'usage de ces données; c'est une question transverse puisqu'elle concerne aussi les objets connectés. Des millions de capteurs, de caméras et de scanners vont générer des flux, dont on n'imagine pas aujourd'hui le volume et tous les usages. Par exemple, comme l'a mis en lumière M. Jean-Pierre Merlet, responsable scientifique du projet HEPHAISTOS, les robots utilisés à domicile pour l'assistance à la personne produiront en permanence un très grand nombre de données sensorielles, dont pourront être extraits des indicateurs médicaux et comportementaux. D'où des interrogations sur l'identité des propriétaires des données, l'accès à celles-ci et la nature de leur protection.

Comme pour d'autres technologies, un renforcement de la culture scientifique et technique des citoyens apparaît aujourd'hui nécessaire pour préserver la capacité de la société à intégrer les innovations dans le respect des libertés publiques. L'apprentissage d'un langage de programmation et la possibilité de s'initier à la logique de construction des robots en utilisant des « briques » élémentaires pourraient permettre une meilleure appropriation de ces nouvelles technologies. Par ailleurs, l'utilisation des robots eux-mêmes à des fins pédagogiques pourrait constituer une piste pour renforcer, dès le plus jeune âge, la capacité à maîtriser les outils du numérique.

La dernière table ronde a mis en évidence deux approches opposées pour l'encadrement législatif du développement de la robotique. La première approche considère le robot comme un objet radicalement nouveau, nécessitant la création d'un cadre juridique spécifique, tout comme cela avait été proposé au début de son développement pour l'Internet. Un tel cadre viserait notamment à mieux prendre en compte, sur le plan juridique, l'autonomie de décision des robots. Toutefois, les robots actuels ne sont pas dotés d'une telle autonomie et rien n'indique qu'ils pourront l'être à l'avenir. Qui plus est, la diversité des applications de la robotique – qui a conduit l'un des intervenants à la qualifier de « caméléon juridique » – soumettra les robots à des contraintes légales elles-mêmes très diversifiées qu'il serait difficile de toutes intégrer.

La deuxième approche conduit, au contraire, à considérer que la législation existante permettra, éventuellement au prix d'aménagements limités, de prendre en compte les conséquences de l'intrusion de la robotique dans ses divers domaines d'application. Ce point de vue a été notamment défendu par M. Stéphane Pénet, directeur des assurances de biens et de responsabilité de la Fédération française des sociétés d'assurance (FFSA), qui a montré dans quelles conditions les dispositions existantes pourraient permettre d'assurer les futurs véhicules autonomes, en imposant des contraintes réglementaires complémentaires, en termes de normalisation des produits, de formation des utilisateurs et de traçabilité des accidents et des incidents. De telles réflexions pourraient être menées, domaine par domaine, dès lors que la perspective de déploiement de solutions robotique se précise.

À cet égard, l'autonomie de décision du robot, même si elle reste limitée, posera dans de nombreuses applications de nouvelles difficultés pour l'identification des responsabilités des différents acteurs concernés : concepteur, fabricant, vendeur, opérateur, utilisateur ou bénéficiaire. Comme l'a souligné M. Thierry Daubs, maître de conférences à l'université de Rennes, une personne physique ou morale devra nécessairement être responsable d'un robot, pour en couvrir, le cas échéant, les dommages. Il conviendra, pour chaque application, de trouver un équilibre de répartition de responsabilités adapté.

En conclusion, l'audition publique du 10 décembre 2015 a permis de mieux cerner les contours des technologies robotiques, de comprendre les circonstances de leur émergence et les potentialités des développements en cours. La capacité de cette nouvelle génération de robots à interagir avec les hommes et leur environnement leur ouvre un champ considérable d'applications.

Dans les prochaines années, tout au plus dix ans, plusieurs secteurs vont être profondément affectés par l'introduction de solutions robotiques inédites. Leurs impacts sur l'économie et l'ensemble de la société nécessite de préparer la transition vers cette situation.

À cette fin, l'Office parlementaire propose les orientations suivantes :

1. À la suite de cette audition publique, qui répond à une demande de la commission des Lois de l'Assemblée nationale, l'Office parlementaire engagera une étude approfondie sur la question de l'intelligence artificielle, dont elle vient d'être saisie par la commission des Affaires économiques du Sénat.

2. L'Office parlementaire estime que la multiplicité des applications des robots devrait conduire à adapter, au cas par cas, la législation existante, en fonction des problèmes spécifiques posés, plutôt que de tenter de légiférer de manière globale. Pour les applications les plus matures, telles que les véhicules autonomes, il convient d'identifier dès à présent, en lien avec les chercheurs et les organisations professionnelles, les adaptations nécessaires des codes et règlements.

3. Il est également souhaitable d'engager une réflexion sur la façon dont il serait possible d'autoriser, dans des délais réduits, en dérogeant exceptionnellement à la réglementation en vigueur, avec une ampleur et une durée limitée, certaines expérimentations en matière de robotique, et plus généralement de technologies numériques, pour prendre en compte les cycles d'innovation extrêmement brefs dans ce domaine. Le droit à l'expérimentation devrait être reconnu. Par exemple, dans le domaine des équipements biomédicaux, tous les fabricants sont contraints de réaliser leurs tests aux États-Unis car ce droit à l'expérimentation n'existe pas en France.

4. Le respect de la vie privée et de la protection des personnes, doivent être garanti. La question de la protection et de la propriété des données collectées, partout et en permanence, par les robots, doit être régie par des systèmes ouverts, permettant de préserver les droits de chacun des acteurs concernés, et la confidentialité des données.

5. Un effort particulier doit être engagé pour assurer le meilleur niveau de représentation des scientifiques et industriels français au sein des comités en charge de la normalisation des technologies du numérique, notamment celles contribuant au développement de la robotique, ainsi qu'au sein des instances de révision des traités internationaux impactant ces technologies. L'instance à mettre en place pour assurer cette vigilance reste à définir mais elle devra nécessairement s'appuyer sur un consortium des industriels du secteur. De façon générale, les liens sont plus ténus entre diplomates et chercheurs en France et en Europe, qu'aux États-Unis, où les experts sont beaucoup plus présents dans les négociations internationales.

6. Une réflexion approfondie sur l'éthique de la robotique doit être lancée sur des questions telles que la prise de décision autonome, l'effacement des frontières entre l'humain et la machine, la réversibilité de l'augmentation, etc. À cette fin, les attributions du comité consultatif national d'éthique (CCNE) pourraient être étendues au domaine des sciences du numérique, d'autant que leurs interactions, sur le plan éthique, avec les sciences de la vie et de la santé ne pourront que se renforcer dans les années à venir.

7. L'Office parlementaire préconise un soutien renforcé aux différentes disciplines concernées par le développement de la robotique. En 2015, l'Office avait demandé un soutien aux technologies de détection vidéo et audio des drones. Il insiste aujourd'hui sur l'effort particulier à accorder dans les domaines de la robotique industrielle, dans le cadre des programmées liés à l'usine du futur, des véhicule autonomes connectés, et de la robotique chirurgicale, notamment pour les programmes de formation des chirurgiens par des méthodes de simulation, proches de celles utilisées dans l'aviation.

8. Les convergences entre les disciplines doivent être soutenues par des programmes spécifiques de l'ANR, tout particulièrement les convergences entre la robotique et les sciences humaines et sociales. Les programmes des formations universitaires, scientifiques et technologiques, doivent intégrer des modules courts sur les questions d'éthique ainsi que de relations entre science et société, afin que les futurs ingénieurs et chercheurs disposent de moyens et d'instruments adaptés et soient formés à réfléchir par eux-mêmes sur ces sujets.

Voilà, mes chers collègues, les conclusions qui se sont imposées à la suite de cette audition.