Intervention de Christian Paul

J’appelle l’attention de notre assemblée sur la question des algorithmes. Nous la retrouverons au moment de l’examen de l’article 4, puis quand il s’agira d’évoquer la loyauté des plateformes privées et la transparence de leurs algorithmes. En l’occurrence, à l’article 2, il s’agit des algorithmes publics.

Dans le champ du numérique, c’est l’une des questions essentielles de cette décennie. En effet, l’on parle de plus en plus de régulation par les algorithmes. On parle même de « gouvernement des algorithmes » pour montrer la place que prennent ces traitements automatisés dans les décisions des pouvoirs publics. Ce sont en effet des algorithmes qui calculent nos impôts, les allocations familiales ou l’affectation de nos enfants dans telle école ou telle université. Il est donc très important que le recours à ces algorithmes ne dissimule pas les éléments constitutifs des décisions derrière un écran opaque, ce qui risquerait de laisser place à l’arbitraire.

Cet article 2 propose des dispositions en ce sens. Nous sommes plusieurs à vouloir aller plus loin, par voie d’amendement. Il ne suffit pas, dans cette affaire, que les algorithmes soient communiqués à ceux qui sont directement concernés par la décision ; il faut que la publication soit beaucoup plus systématique et surtout préalable, afin que des experts citoyens puissent les analyser.

C’est une question éminemment politique, en dépit de son caractère apparemment technique. Des inquiétudes se font jour, pour des raisons objectives et fondées, à propos des techniques d’optimisation des politiques publiques, notamment les analyses prédictives.

Je n’entends pas diaboliser les algorithmes. Je pense néanmoins que nous devons nous pencher très sérieusement sur cette question, afin de créer les conditions d’une réelle transparence. Il s’agit de choix éthiques et politiques essentiels pour la civilisation numérique. Je vous invite donc à examiner très attentivement les articles 2 et 4 de ce projet de loi, et les amendements que nous proposerons, car ils recouvrent des choix essentiels.