Intervention de Daniel Kaplan

Cette commission se crée dans un moment où, au blues démocratique que vous connaissez, s'ajoute ce que Bernard Stiegler nomme un « blues du net ». Le numérique, dont on attendait beaucoup notamment sur le front des droits et des libertés, déçoit, quand il ne se situe pas carrément du côté du problème.

Le monde numérisé, interconnecté, n'est pas de manière évidente plus éclairé, plus prospère, plus sûr, plus ouvert, plus égalitaire ni même plus libre que le monde d'avant. Sur plusieurs points, c'est même le contraire. Le numérique est-il cependant responsable de cette situation ? Pas nécessairement, mais il nous faut tout de même constater plusieurs choses.

1. Le numérique est aussi l'outil des puissants, à travers la surveillance de masse mais aussi l'émergence de nouvelles formes d'aliénation dans le travail, dans la consommation, etc. S'il peut être un outil de symétrisation des forces, il peut aussi jouer le rôle contraire.

2. Les grands acteurs du numérique ne se montrent pas aujourd'hui à la hauteur de la responsabilité que leur confèrent leur puissance et leur rôle transformateur, par exemple en matière de fiscalité, de protection de la vie privée, de conditions de travail… Partout dans le monde, ils sont désormais placés face à leurs responsabilités dans ces domaines, et d'autres, ce qui est nouveau.

3. « Le numérique », ce n'est pas seulement une nébuleuse de pratiques, d'outils et de services : c'est aussi l'informatique, les systèmes d'information, les grands dispositifs d'automatisation. Toute l'histoire de l'informatique est marquée par cette tension entre ordre et désordre, optimisation et déstabilisation de l'existant.

Il y a eu un moment historique où la représentation qui était donnée du numérique était essentiellement centrée sur sa dimension libératrice, décloisonnante, collaborative, capacitante (empowerment). Si cette dimension reste présente, on assiste à la remontée en puissance d'une autre dimension, la dimension de formalisation, d'automatisation, de contrôle et de surveillance qui est aussi une face du numérique. Aujourd'hui l'équilibre entre ces deux aspects est un peu en balance. Pas seulement du fait des États et des agences de renseignement. On voit ainsi resurgir des propositions qui tendent à organiser en un seul grand système (forcément assez centralisé, assez homogène) des villes entières (smart city), des grands réseaux de distribution (smart grid), des secteurs économiques tout entiers, etc.

Ayons donc en tête que le sujet des « Droits et des libertés à l'ère numérique » ne concerne pas seulement ce qu'il se passe sur l'internet, mais aussi ce qu'il se passe à l'intérieur des systèmes informatisés. On y reviendra.

Après ce préambule, je développerai deux points : je vous propose de décrire le grand mouvement de "numérisation du monde" qui aura nécessairement une influence sur vos travaux ; puis de tirer toutes les conséquences de ce qui précède pour vous inviter à dépasser une approche exclusivement centrée sur la protection en lui ajoutant une démarche qui vise à développer les capacités d'agir des individus et des collectifs.

Le premier phénomène émergent que je vous propose de décrire est la « numérisation du monde ».

La numérisation du monde n'est pas une dématérialisation ou une virtualisation de ce dernier, bien au contraire. Elle décrit plutôt le fait que le numérique impose de nouveaux modes de fonctionnement à un nombre croissant de domaines qui n'ont a priori rien à voir avec lui. Le secteur du tourisme est organisé dans une large mesure par booking. La relation entre un patient et un médecin est aujourd'hui très largement structurée par ce que le patient a discuté sur Doctissimo et le sera plus encore demain par les outils proposés par Apple et Samsung ainsi que l'énorme écosystème d'applications et de bases de données qu'ils vont générer. L'expérience quotidienne de l'éducation est transformée par Wikipedia, Sésamath etc. De même pour la musique avec Itunes, la mobilité avec Blablacar et Über, etc. Le numérique a débordé de son lit ; c'est à partir du numérique que les acteurs qui souhaitent réorganiser à leur profit d'autres secteurs, d'autres pratiques, vont entreprendre leur conquête. Cela vaut y compris pour les secteurs qui paraissent les moins « numérisables », ceux que l'on pensait protégés par leur technicité, la part dominante qu'y joue la production matérielle, leur importance sociale ou politique, etc. Si on les regarde de près, par exemple, les défis auxquels font face les grands acteurs du secteur spatial ressemblent beaucoup à ceux qui ont tant déstabilisé l'industrie musicale il y a une dizaine d'années…

La numérisation du monde recouvre à mes yeux deux aspects principaux : l'augmentation et l'interconnexion des objets, des espaces et des corps ; et le rôle central joué par les données et les algorithmes.

Les objets, les espaces et les corps sont de plus en plus équipés de puces qui les identifient, les localisent, captent, reçoivent et émettent de l'information. Les objets sont décrits numériquement, dès le moment de leur conception : un objet industriel est d'abord un ensemble de fichiers et d'instructions. Il est doté d'une aura numérique : des traces, une mémoire de sa conception, de son usage, de sa circulation. Son existence est hybride, à la fois physique et numérique. Il existe accompagné d'une couche de services, qui, y compris pour des produits comme l'automobile, est au moins aussi importante que l'objet lui-même du point du vue du modèle économique.

Le premier usage auquel on pense pour ces nouvelles caractéristiques des objets et des lieux consiste à en améliorer la gestion, la sécurité et l'efficience. Pour simplifier, on industrialise les processus existants, on étend sans cesse le domaine de l'automatisation. Ce qui pose toute une série de questions assez bien connues mais néanmoins toujours importantes, notamment en matière d'automatisation, de transparence, de consentement à des traitements automatisés, d'anonymat, etc.

Mais cette « augmentation » numérique des objets, des lieux et (de manière croissante) des corps ne fait pas qu'automatiser l'existant : elle le décode, le décompose, le désorganise pour ensuite le recoder, le recomposer et le réorganiser de toutes sortes de manières nouvelles, et souvent concurrentes les unes des autres. Elle produit des nouveaux concepts, des nouvelles combinaisons, des nouveaux champs d'action. Ce qui fait sans cesse émerger des questions, y compris de droit, qui sont nouvelles ou inhabituelles : que signifie, par exemple, devenir taxi à ses moments perdus ? Imprimer chez soi une pièce de rechange ? Reprogrammer un objet et lui donner d'autres fonctions ? Il fait émerger de nouveaux conflits d'usage, comme la question de l'accès aux données des capteurs (ou aux capacités des « actionneurs ») installés dans l'espace public – notez que parmi ces « capteurs », il y a par exemple des caméras.

Toutes ces questions vont se poser et se posent déjà dans un certain nombre de cas. On devra donc traiter des conflits qui existent aujourd'hui dans des champs que l'on pensait circonscrits mais qui ne le sont probablement pas : le conflit entre l'émancipation des utilisateurs auxquels tout cela peut donner du pouvoir, les logiques économiques et le pouvoir des acteurs économiques et enfin, les logiques collectives des institutions. Par exemple, le champ de la santé est évidemment un champ dans lequel ces bouleversements vont être absolument massifs. Le fait que les gens soient en train de s'équiper d'objets et d'outils de mesure d'un certain nombre de signaux vitaux, vendus comme des produits de consommation auxquels s'associent des logiciels et des communautés, est probablement un facteur de transformation absolument massif.

Seconde caractéristique essentielle de la « numérisation du monde », les données et le logiciel y jouent un rôle central. Dans une activité numérisée, tout ce qui était contenu et information devient donnée, et par conséquent sujet à être traité de manière automatisée ; et tout ce qui peut être détaché de son infrastructure matérielle a tendance à devenir du logiciel, l'exemple paradigmatique étant évidemment le smartphone qui embarque un appareil photo, un walkman, une boussole, une console de jeux et toute une série d'autres objets qui possédaient tous, avant, une matérialité propre.

Or, là où les données et les logiciels dominent, tout peut se dégrouper et se recombiner de manière dynamique et diverse, tout le temps. Tout peut également être réutilisé, copié, modifié à peu près tout le temps. Tout tend également à laisser des traces, à nourrir une mémoire immédiate et longue de plus en plus massive et par conséquent de moins en moins intelligible par des humains.

De nouvelles capacités émergent, pas toujours aussi efficacement que ce que prétendent les professionnels, mais tout de même. Il y a l'individualisation de masse, à l'oeuvre aujourd'hui dans le commerce mais qui se développe de plus en plus (ou au moins, se propose) dans la gestion des risques, la santé, l'éducation. Il y a la tentation de tout mesurer pour tout prévoir, tout détecter à l'avance, tout prévenir ou anticiper : tentation à laquelle il est extrêmement difficile de résister car, si on peut le faire, alors est-il encore possible de ne pas le faire ? Cette question s'est posée en matière de prédisposition psychiatrique et médicale. Elle se posera pour toute une série d'autres risques. Le numérique permet (ou promet) enfin l'émergence de nouvelles connaissances par la détection de corrélations auparavant inimaginables, ce que l'on nomme aujourd'hui « big data »…

Face au rôle de plus en plus central joué par les données et les logiciels, votre commission va devoir aborder la question de la transparence, du droit d'accès et d'usage, de l'auditabilité et de l'intelligibilité des données, des programmes et des « décisions algorithmiques » qu'Antoinette Rouvroy décrit si bien.

La numérisation s'accompagne enfin assez naturellement d'un effet de concentration ou de polarisation extrêmement rapide sur les marchés. Ce qui introduit la seconde grande question que je souhaitais aborder avec vous : celle du pouvoir.

Si l'information c'est du pouvoir, alors tout ce qui en modifie les conditions de production, de circulation et d'exploitation, déplace du pouvoir. Ce qui, du point de vue des sujets de votre commission, impose de s'intéresser à trois sujets : le développement des capacités (empowerment) des citoyens, seuls ou en collectifs ; la diversité et la pluralité des acteurs ; et la question démocratique de ce que l'on peut construire ensemble.

On a longtemps cru que le numérique permettrait automatiquement aux individus de gagner en capacité, de s'émanciper, voire de prendre le pouvoir face à des acteurs politiques et économiques inéluctablement dépassés. On a aussi pu croire que cette émancipation produirait à elle seule un nouvel élan démocratique, renforcerait la cohésion de nos sociétés, faciliterait la compréhension entre les communautés comme entre les peuples. On sait aujourd'hui que ce n'était pas si simple, d'où le « blues » que j'évoquais. Evidemment, certains l'avaient annoncé depuis longtemps. Mais le défi face auquel votre commission doit faire face est le suivant : si vous ne travaillez pas de manière active à faire de la promesse décentralisatrice du numérique une réalité, vous le laisserez produire une société beaucoup plus inégalitaire, beaucoup plus conflictuelle qu'aujourd'hui, une société dans laquelle, ni les acteurs publics, ni les « communautés », ni les entreprises locales n'auront la capacité de disputer une parcelle de pouvoir à un tout petit nombre de grandes entreprises en concurrence les unes avec les autres.

Aussi, vous ne pourrez pas concentrer tout votre travail sur la question des droits et des devoirs, de leur protection et de leurs limites : le droit peut aussi distribuer des capacités d'action et favoriser l'émergence d'alternatives et nous en avons besoin. Je développerai trois exemples possibles d'une telle approche.

Dans son récent rapport sur la « neutralité des plateformes », le Conseil national du numérique a (trop brièvement) développé l'idée d'une « neutralité active », c'est-à-dire d'une politique publique qui chercherait délibérément à encourager sans cesse le développement d'alternatives aux plateformes dominantes. Comment le droit peut-il contribuer à construire une multiplicité d'acteurs, de contre-pouvoirs ou d'alternatives ? Par exemple en encourageant et en protégeant les biens communs (données publiques, bases de données, connaissances, logiciels et contenus "libres"…) ou encore, en n'appliquant pas les mêmes règles de concurrence aux entreprises et aux initiatives citoyennes.

La capacitation (empowerment) des individus et des groupes qu'ils constituent est un autre enjeu. Bien sûr, elle passe par des politiques éducatives et culturelles qui ne sont pas du ressort de votre commission. Mais elle passe aussi par le respect du pluralisme et plus encore, par le fait de préserver, voire agrandir sans cesse l'espace dans lequel peut se déployer leur initiative, celui où ils se sentent « autorisés » à s'exprimer, à débattre, à agir, à traiter par eux-mêmes (seuls ou ensemble) les problèmes qui les concernent, à expérimenter des alternatives, etc. Pourrait-on inventer un droit de l'empowerment ?

La Fing, que je dirige, vient par exemple de conclure une expérimentation dans laquelle nous explorions ce que les individus pourraient gagner si, demain, les organisations leur restituaient les données personnelles dont elles disposent sur eux. Que pourrait-on gagner en utilisant ses propres données personnelles à ses propres fins et sous son contrôle ? Des connaissances, des capacités d'analyse et d'action, un nouveau pouvoir dans la relation avec les entreprises et les administrations… Cette approche, qui s'inscrit dans un projet que nous appelons MesInfos, ne s'oppose pas à la protection des données personnelles : elle en rend effectif un des principes, le droit d'accès et de rectification, et elle l'étend au-delà de sa fonction initiale de contrôle.

Enfin, dans la mesure où le numérique transforme les jeux de pouvoir, les manières d'échanger, de partager et de débattre, il me semble que la question de la production démocratique est essentielle, en particulier dans le cadre d'une commission parlementaire. Comment peut-on contribuer à la reconstruction d'un espace public légitime, dans lequel se discute ce que l'on veut accomplir ensemble, alors même que ces conversations, quand elles existent, ont largement déserté les espaces institutionnels et même les grands médias ? Comment tenir compte de la volonté manifeste des citoyens de prendre part, non plus seulement à la discussion, mais à l'action elle-même ? Comment passer de la « démocratie participative » telle qu'on la connaît (parfois) à des formes de co-élaboration, de co-conception et de co-production, voire parfois de dévolution ?

Ainsi, dans la société numérique d'aujourd'hui, on ne peut se contenter de protéger. Il faut s'interroger sur ce que les individus peuvent être mis en capacité de faire et sur ce qu'une société peut décider de rendre possible.