Mise en place d’une autorité de contrôle des algorithmes

Intervention de Gregor Freches sur la mise en place d’une autorité de contrôle des algorithmes : nous nous réjouissons que le secrétaire d’État à la digitalisation Mathieu Michel soit à la réflexion d’un projet ambitieux de création d’une autorité indispensable pour notre liberté et notre sécurité.

Discours de Gregor Freches lors de la séance plénière du 10 février

Chers collègues,

Précisons-le d’emblée : après avoir cosigné sans difficulté la proposition de résolution relative à la mise en place d’une autorité de contrôle des algorithmes, nous approuverons sans réserve ce texte dans quelques minutes, lorsqu’il sera soumis au vote de notre assemblée.

La problématique des algorithmes est, en effet, fondamentale. Omniprésents dans nos vies, les algorithmes présentent de nombreux avantages… mais aussi une foultitude d’inconvénients, et non des moindres.

Les deux illustrations mentionnées dans la proposition de résolution sont suffisamment éloquentes. Pensons, par exemple, aux algorithmes utilisés dans certains hôpitaux des Etats-Unis qui amènent ceux-ci à discriminer les personnes de couleur. Ou encore à la predictive policing des Pays-Bas, qui avait le même effet néfaste.

Comment également ne pas s’inquiéter des biais produits par les réseaux sociaux ? En tentant de garder l’Internaute, ils tendent à lui proposer des contenus qu’il apprécie, resserrant toujours davantage le spectre de ce à quoi il aura droit. Les réseaux sociaux s’assimilent du même coup à de véritables « bulles de filtres » ou « chambres d’échos », pour reprendre les expressions consacrées.

On conçoit facilement les conséquences que cela suppose lorsqu’il s’agit, par exemple, d’un site de vente en ligne où les articles mis en avant seront supposés correspondre aux préférences habituelles de l’acheteur.

Mais que penser quand de tels algorithmes influencent la manière de s’informer sur le monde, sur l’actualité, sur la politique et sur tant d’autres choses ? A force de ne recevoir que des contenus qu’on apprécie ou avec lesquels on est d’accord, on se trouve rapidement aux prises avec une information biaisée, incomplète, sans nuance voire polarisée. Il en va de même avec les opinions politiques. A moins d’avoir réussi à garder un esprit critique, curieux et désireux d’aller voir plus que les contenus de base…
Cette prédominance des algorithmes et de leurs travers potentiels lorsqu’ils sont alimentés par les stéréotypes et préjugés représente un double danger manifeste : pour le droit à l’information et pour la viabilité de nos démocraties.

Si rien ne change, si les pouvoirs publics ne prennent pas davantage leurs responsabilités, je n’ose imaginer vers quel état évoluera la société dans laquelle nous vivons.
Je vous laisse par ailleurs imaginer ce qu’il pourrait advenir si ces algorithmes étaient piratés par des personnes ou organisations malveillantes.

Mesdames les Sénatrices,
Messieurs les Sénateurs,

Pour toutes ces raisons, mettre en place une autorité de contrôle des algorithmes indépendant est, à nos yeux, primordial. Et nous nous réjouissons que le Secrétaire d’Etat à la Digitalisation partage pleinement cette ambition.

Reste que, outre la création d’une telle structure, il nous semble également important et nécessaire de davantage former et informer nos concitoyens, jeunes ou moins jeunes. Il convient que tout un chacun soit bien conscient des modes de fonctionnement inhérents à Internet et ce, qu’ils soient ou non passés au crible d’une autorité de contrôle.
Je vous remercie de votre attention.