Déclaration de M. Cédric O, secrétaire d'Etat à la transition numérique et aux communications électroniques, sur la haine en ligne, au Sénat le 19 novembre 2020.

Intervenant(s) :

  • Cédric O - Secrétaire d'Etat à la transition numérique et aux communications électroniques

Circonstance : Débat organisé au Sénat à la demande du groupe Les Indépendants - République et Territoires

Prononcé le

Temps de lecture > 30 minutes

Texte intégral

Mme la présidente. L'ordre du jour appelle le débat, organisé à la demande du groupe Les Indépendants – République et Territoires, sur le thème : "Contenus haineux sur internet : en ligne ou hors ligne, la loi doit être la même."

Nous allons procéder au débat sous la forme d'une série de questions-réponses, dont les modalités ont été fixées par la conférence des présidents.

Je rappelle que l'auteur de la demande du débat dispose d'un temps de parole de huit minutes, puis le Gouvernement répond pour une durée équivalente.

À l'issue du débat, l'auteur de la demande dispose d'un droit de conclusion pour une durée de cinq minutes.

(…)

Mme la présidente. La parole est à M. le secrétaire d'État.

M. Cédric O, secrétaire d'État auprès du ministre de l'économie, des finances et de la relance et de la ministre de la cohésion des territoires et des relations avec les collectivités territoriales, chargé de la transition numérique et des communications électroniques. Monsieur le président Malhuret, je commencerai, en m'écartant du discours que j'avais préparé, par partager quelques réflexions sur un sujet qui nous a déjà beaucoup occupés lors de l'examen de la proposition de loi Avia, tant il est absolument essentiel – je suis complètement d'accord avec vous sur ce point.

Ce qui est en jeu à travers la régulation d'internet, c'est ni plus ni moins la pertinence de l'action publique et la persistance de la foi de nos concitoyens en la réalité et en l'efficacité de l'action de l'État s'agissant de l'une de ses missions principales, la protection des individus.

Aujourd'hui, en théorie, ce qui est interdit hors ligne est interdit en ligne, mais, dans les faits, compte tenu des spécificités techniques du fonctionnement et de la régulation d'internet, ce n'est pas le cas.

Avant d'évoquer la régulation des grandes plateformes, enjeu absolument central dans ce débat, je voudrais que l'on n'oublie pas le plus important : aucune démocratie n'est capable aujourd'hui de contrôler et de réguler efficacement ce qui se passe sur internet, et ce en raison de trois facteurs inhérents à ses contenus : la viralité, la massification et la persistance.

Imaginons que les plateformes soient capables de réguler efficacement les contenus problématiques ou haineux. Ce serait bienvenu, mais combien d'infractions en ligne sont-elles commises chaque jour en France aujourd'hui ? Leur nombre est difficile à estimer, mais disons qu'on peut l'évaluer à plusieurs milliers, voire à plusieurs dizaines de milliers. Voilà ce qui se passe aujourd'hui en ligne en France.

L'ensemble de ces infractions sont commises quasiment en toute impunité. Tout le monde s'accorde sur ce point aujourd'hui : si vous insultez quelqu'un, si vous le menacez de mort, vous ne risquez quasiment rien, même si certaines situations peuvent permettre l'identification et l'appréhension des coupables.

Imaginons, disais-je, que nous soyons capables de réguler efficacement les contenus problématiques et haineux : comment faire ensuite pour juger rapidement et sanctionner efficacement plusieurs milliers, voire des dizaines de milliers de personnes par jour ?

Cette question continuera de se poser : demain, même si l'on parvient à réguler efficacement la haine en ligne, même si les plateformes suppriment réellement toutes les injures et les menaces de mort, cela signifiera simplement que l'on aura mis la poussière sous le tapis. On aura supprimé les contenus haineux et les menaces de mort sans pour autant avoir réglé le problème principal, c'est-à-dire l'impunité des contrevenants.

Le problème fondamental que nos démocraties doivent régler, pour que les Chinois et un certain nombre de régimes ayant un rapport un peu différent à la liberté, ne soient pas les seuls capables de réguler les contenus en ligne, c'est l'efficacité de la chaîne police – justice – sanctions.

Hélas, nous risquons de rester durablement confrontés à ce problème. On risque en effet de progresser en ce qui concerne le retrait des contenus problématiques – je reviendrai tout à l'heure sur les textes européens –, mais on aboutira à un paradoxe extrêmement intéressant d'un point de vue ontologique : les contenus les plus faciles à retirer sont les contenus terroristes – une vidéo de décapitation est en effet très bien détectée par les algorithmes –, alors que les contenus gris, c'est-à-dire les insultes et les menaces de mort, proférées avec une faute d'orthographe afin de les rendre indétectables de façon automatique, ou en tout cas plus difficilement détectables, resteront en ligne et feront l'objet d'une plainte.

On aboutira donc à une aberration : les personnes présentées devant un juge seront celles qui auront proféré des menaces de mort, tandis que les individus qui auront publié des photos de décapitation – et donc fait bien pire – y échapperont parce qu'il est beaucoup plus facile de détecter ce type de contenus.

Nous sommes donc au coeur du texte auquel travaillent actuellement Gérald Darmanin et Éric Dupond-Moretti : comment faire pour que la sanction ait valeur d'exemple et pour qu'elle soit réellement appliquée ? Lorsqu'un individu contrevient en ligne à la loi, comment faire pour qu'il soit véritablement sanctionné ? C'est pour répondre à ces questions que nous proposons la spécialisation du parquet et que nous améliorons les procédures permettant de porter plainte en ligne. Il existe donc un certain nombre de sujets techniques sur lesquels nous devons avancer.

Je le disais, internet se caractérise par sa massification et sa viralité. Les plateformes ont une responsabilité en ce qu'elles accélèrent la diffusion des contenus et créent des effets de silo : ainsi, plus vous êtes complotiste, plus vous regardez des vidéos complotistes, plus vous aimez tel ou tel contenu, plus on vous propose des vidéos ayant un rapport avec ce contenu. C'est pourquoi on doit imposer aux plateformes un certain nombre d'obligations relatives à la viralité et à l'« éditorialisation » – je suis prudent en employant ce terme – des sujets.

Il n'empêche, nous continuerons de nous heurter à certaines difficultés : ainsi, les boucles WhatsApp relèvent de la correspondance privée parce qu'on n'y trouve aucun contenu éditorialisé. Pour faire un parallèle avec une autre époque, c'est comme si vous envoyiez des milliers de courriers à des personnes que vous connaissez, ou que vous ne connaissez pas d'ailleurs, tout en bénéficiant du secret de la correspondance privée. Personne n'a jamais demandé à La Poste d'ouvrir l'ensemble des courriers pour vérifier qu'ils ne posaient aucun problème. Voilà un autre sujet sur lequel il nous faudra nous pencher, car il soulève beaucoup d'interrogations.

En attendant et en tout état de cause, on doit imposer aux grandes plateformes des obligations de moyens. Il faut les obliger à respecter un niveau minimum de modération, évalué en fonction du nombre de modérateurs et de la transparence de la modération, et à améliorer leurs règles en la matière, sous la supervision de la puissance publique. Enfin, nous devons comprendre leur manière de fonctionner.

Cette question doit d'abord être réglée à l'échelon européen, parce qu'il s'agit du bon niveau de régulation : c'est du reste l'objet du prochain texte qui sera présenté par les commissaires européens Thierry Breton et Margrethe Vestager au début du mois de décembre.

La France et l'Allemagne ont été extrêmement actives sur ce dossier. Je pense que l'une des principales difficultés à surmonter tient aux différences de conception entre les États européens sur la question des contenus illégaux : une partie des pays nordiques et des pays de l'Est ont en effet une vision différente de la nôtre et de celle des pays méditerranéens sur l'endroit où placer le curseur entre liberté d'expression et protection des concitoyens.

Cela étant, je pense qu'un accord est possible si l'on parvient à un compromis européen sur l'obligation de moyens, tout en laissant la définition des contenus licites ou illicites à l'appréciation de chaque État, à l'échelon national. Cet équilibre permettrait de tenir compte de la différence de perception et de culture de chaque pays sur le sujet.

Je ne serai pas beaucoup plus long. Ce débat est extrêmement intéressant, et je viens de partager avec vous un certain nombre d'idées fortes ou, en tout cas, d'interrogations que la puissance publique se pose elle-même. Cela ne l'empêche pas d'avancer, en se tenant parfois sur une ligne de crête afin d'éviter la censure du juge constitutionnel, comme vous l'avez constaté dernièrement.

Quoi qu'il en soit, je crois profondément qu'il faut considérer que ces questions sont très principielles si l'on veut que les démocraties libérales et les pays qui ont une conception un peu différente du contrôle ne soient pas les seuls capables de réguler efficacement internet.

Il ne faut pas se tromper, si l'on n'est pas capable de réguler efficacement internet et de protéger nos concitoyens, ces derniers finiront par opter pour des solutions plus radicales. (Applaudissements sur les travées du groupe INDEP. – M. Julien Bargeton applaudit également.)


- Débat interactif -

Mme la présidente. Nous allons maintenant procéder au débat interactif.

Je rappelle que chaque orateur dispose de deux minutes au maximum pour présenter sa question, suivie d'une réponse du Gouvernement pour une durée équivalente.

Dans le cas où l'auteur de la question souhaite répliquer, il dispose de trente secondes supplémentaires, à la condition que le temps initial de deux minutes n'ait pas été dépassé.

Dans le débat interactif, la parole est à Mme Nathalie Goulet.

Mme Nathalie Goulet. La loi doit-elle être la même en ligne et hors ligne ? La réponse est : oui !

Monsieur le secrétaire d'État, le temps presse. Aujourd'hui, les chasses en meute, que le président Malhuret et vous-même avez décrites, perturbent et poussent certains à commettre des actes d'une violence inouïe – on l'a encore vu récemment.

Réguler, c'est bien ; interdire ou supprimer des contenus, c'est bien aussi. Mais il existe aujourd'hui des entités identifiées comme propageant la haine. Je pense aux associations ou aux mouvements comme les Frères musulmans, qui multiplient les applications. Ceux-là, on les connaît, et ils sont faciles à identifier.

Ne pourrait-on pas déjà surveiller ab initio ces personnes parfaitement identifiées, qui portent des discours véritablement antisémites, et tenter de faire interdire les applications qui diffusent des discours de haine, monsieur le secrétaire d'État ? J'ai saisi le Gouvernement de ce sujet à propos de l'application Euro Fatwa, que l'on n'a pourtant absolument pas tenté de réguler ni même d'interdire.

Alors, je sais bien qu'interdire internet, c'est comme arrêter le vent : c'est extrêmement compliqué. Mais il faut agir contre ce type d'organisations, comme Islamic Relief Worldwide ou tous les satellites des Frères musulmans qui, je le répète, chassent en meute et propagent des discours antisémites aujourd'hui.

Mme la présidente. La parole est à M. le secrétaire d'État.

M. Cédric O, secrétaire d'État auprès du ministre de l'économie, des finances et de la relance et de la ministre de la cohésion des territoires et des relations avec les collectivités territoriales, chargé de la transition numérique et des communications électroniques. Madame la sénatrice, vous abordez deux sujets un peu différents.

D'une part, vous évoquez la violence grand public et une certaine dérive de notre société, laquelle se caractérise par davantage de violence. C'est l'exemple du quidam, du citoyen lambda qui, parce qu'il est sur internet et qu'il agit en partie anonymement, insulte son voisin. On sait à peu près gérer cette problématique, du moins, on espère que l'on saura la gérer grâce à l'amélioration incrémentale des régulations.

En revanche, ce que la démocratie a du mal à gérer, pas parce que c'est internet, mais parce que cela touche au problème plus profond de la liberté d'expression, ou plus exactement de l'équilibre entre régulation et liberté d'expression, ce sont les « professionnels de la haine », comme je les appelle.

Vous venez d'en citer quelques-uns, issus d'une tendance bien particulière, mais si l'on prend les déclarations d'Alain Soral ou celles qu'on lit sur le site "Démocratie participative", on constate que tous ces individus sont des spécialistes de ce qui peut être diffusé légalement et de ce qui ne peut pas l'être.

Ce n'est pas sans lien avec la problématique de la désinformation et des fausses informations. Si l'on prend à la lettre nombre de ces déclarations, en faisant abstraction de l'imaginaire et des contiguïtés qu'elles permettent d'établir, on s'aperçoit qu'elles sont parfaitement légales.

Il faudra parvenir à gérer ces spécialistes de la haine, car, on le voit bien malheureusement, même la multiplication des condamnations ne les empêche pas de nuire.

Cela étant, un certain nombre de décisions ont tout de même été prises dernièrement par le ministre de l'intérieur à l'égard d'un certain radicalisme ou extrémisme musulman. On verra d'ailleurs jusqu'où celles-ci iront en termes de légalité.

En réalité, le défi posé par les professionnels de la haine dépasse largement internet et n'est pas propre au numérique : il fait écho à la capacité de nos démocraties à trouver le bon équilibre entre la liberté d'expression et l'interdiction d'un certain nombre de pratiques et de déclarations.

Mme la présidente. La parole est à Mme Nathalie Goulet, pour la réplique.

Mme Nathalie Goulet. Il n'y a pas de liberté pour les ennemis de la liberté, qu'il s'agisse d'extrémistes de droite ou de gauche, de suprémacistes blancs ou d'islamistes radicaux.

Je sais bien que le Gouvernement prépare un texte sur les séparatismes – je ne sais pas exactement quel sera son intitulé final –, monsieur le secrétaire d'État, mais il faut agir dès à présent contre les collectes de fonds en ligne permettant de financer des actions dont on sait qu'elles seront violentes ou antisémites, qu'elles provoqueront encore plus de haine. Islamic Relief Worldwide, par exemple, ce sont 60 millions de livres sterling collectées !

On dispose de moyens, alors traquons les collectes en ligne et la haine en ligne. Et il faut les traquer ab initio, car une fois que les messages ont été envoyés, c'est trop tard – vous le savez très bien. Aujourd'hui, nous jouons au football en suivant les règles du basket. Selon moi, il faut faire plus et faire mieux.

Mme la présidente. La parole est à M. Jérôme Durain.

M. Jérôme Durain. Monsieur le secrétaire d'État, vous me permettrez de vous interroger sur ce qui s'apparente, selon moi, à un angle mort de nos discussions à propos de la haine en ligne. Ce que j'évoque est sans doute un peu à côté du sujet, mais on parle beaucoup des réseaux sociaux comme lieux de diffusion de cette haine. Quand j'entends nos collègues parler des réseaux sociaux, je crois comprendre qu'il s'agit de Twitter, Facebook, éventuellement de Snapchat et de TikTok.

Pour ma part, je trouve que nous devrions regarder de façon plus attentive d'autres lieux où se diffuse la haine en ligne. Je pense, par exemple, aux plateformes de diffusion de vidéos, comme YouTube ou Twitch, notamment parce qu'elles diffusent des contenus en direct.

On voit de tout sur Twitch, le meilleur, comme ces streamers qui se mobilisent pour recueillir des dons en faveur d'oeuvres caritatives, et le pire, comme les campagnes de harcèlement pour lesquelles je ne ferai pas de publicité. En réalité, ces plateformes ont leurs propres standards de modération, comme Twitter et Facebook : stricts sur certains points, moins sur d'autres, suivant en cela les standards culturels américains.

Quelle est la politique du Gouvernement concernant ces médias spécifiques ? Quelle est l'ambition du Gouvernement les concertant ?

Il existe en effet plusieurs possibilités.

Certains éditeurs japonais, comme Nintendo, ont empêché toute communication libre entre joueurs. Cela peut paraître dommage, car nombreux sont les joueurs – on l'a vu pendant le confinement – qui viennent chercher le contact et le réconfort lors de parties de jeux vidéo en ligne.

Au contraire, faut-il être permissif, comme les éditeurs qui laissent tout passer et prospérer des pseudonymes nazis et des insultes raciales ? Évidemment non !

Ces questions me semblent appeler une réaction du Gouvernement, car l'enjeu, c'est la jeunesse et le rapport qu'entretient cette population particulière avec la haine en ligne.

Mme la présidente. La parole est à M. le secrétaire d'État.

M. Cédric O, secrétaire d'État auprès du ministre de l'économie, des finances et de la relance et de la ministre de la cohésion des territoires et des relations avec les collectivités territoriales, chargé de la transition numérique et des communications électroniques. Monsieur le sénateur, je tiens d'abord à vous rassurer sur un point : le Digital Services Act, qui doit être présenté par la Commission début décembre et qui s'inscrit dans la lignée de la deuxième partie de la loi Avia – celle-ci n'a pas été censurée sur le fond, mais par voie de conséquence, compte tenu des difficultés que nous avons rencontrées avec l'article 1er, lequel a d'ailleurs fait l'objet d'un débat ici même –, n'est pas limité aux réseaux sociaux.

Le Digital Services Act cible tous les sites : réseaux sociaux, plateformes de vidéos en ligne diffusant ou accélérant la diffusion de contenus. La seule limite concerne les empreintes : on veut se concentrer sur les très grosses plateformes sur lesquelles il y a beaucoup de monde parce que c'est là que le danger est le plus grand, qu'il y a le plus de viralité et qu'il convient d'intervenir.

On verra la version finale de ce texte européen, mais il est censé, en tout cas au vu des premières présentations qui en ont été faites, être complètement transversal. Il n'y aura pas d'angle mort.

Ensuite, ma conviction profonde est que la solution au problème, c'est la peur du gendarme, pardonnez-moi de le dire ainsi. Il faut certes supprimer les contenus haineux, et c'est urgent, mais la réalité, c'est que ce qui retient les gens d'en insulter d'autres ou de leur taper dessus dans la rue, c'est de savoir que, s'ils exagèrent, ils finiront au commissariat. Si, pour une partie d'entre eux, ils ne fraudent pas dans le métro, c'est parce qu'ils ont peur de se faire attraper par les contrôleurs.

Aujourd'hui, cette peur n'existe pas sur internet : vous savez que vous n'avez quasiment aucun risque de vous faire attraper. On en revient à la première partie de mon intervention, c'est-à-dire la réponse à la question sur laquelle on devra travailler, sachant que les solutions ne sont pas simples à trouver : comment faire pour que les gens aient un peu peur non pas de voir leur contenu supprimé – ils savent que rien ne peut leur arriver –, mais du gendarme, de la police et de la justice ?

Mme la présidente. La parole est à M. Jérôme Durain, pour la réplique.

M. Jérôme Durain. Monsieur le secrétaire d'État, je ne suis pas tout à fait d'accord avec vous s'agissant de la peur du gendarme.

Je ne blâme pas les contenus diffusés sur Twitch en tant que tels. L'outil n'est pas en cause. Ayant moi-même participé hier à une émission diffusée sur cette plateforme, je peux témoigner que tout s'y passe très bien et que les contenus y sont bien régulés. Il reste que, au-delà des rapports qu'entretient la jeunesse avec ces plateformes de jeux vidéo, se pose la question de l'éducation, de l'acculturation et des codes.

On voit que nos référentiels institutionnels ont du mal à passer le cap de ces plateformes et que l'on ne parle pas la même langue. L'éducation de la jeunesse, les pratiques, les régulations, la dimension pédagogique sont importantes : il faut certes le gendarme, mais il faut aussi l'instituteur, l'enseignant et le philosophe. (M. le secrétaire d'État marque son approbation.)

Mme la présidente. La parole est à M. Christophe-André Frassa.

M. Christophe-André Frassa. Monsieur le secrétaire d'État, oui, il faut lutter contre la haine sur internet, de la même manière qu'on lutte contre la haine dans l'espace public physique. C'est d'ailleurs ce que nous avons tenté de faire dans la proposition de loi Avia, dont nous avons eu l'occasion de débattre avec vous, monsieur le secrétaire d'État, et dont j'étais le rapporteur ici au Sénat.

Cependant, et vous en conviendrez, je l'espère, ce n'est pas tant aux plateformes qu'il faut s'en prendre qu'aux auteurs de propos haineux, à ceux qui sont à la source des discours de haine.

Or, un an après l'examen de la loi visant à lutter contre les contenus haineux sur internet, les moyens ne sont à l'évidence pas là. Comment comprendre, monsieur le secrétaire d'État, qu'aujourd'hui encore, seul un nombre extrêmement réduit de services d'enquête et de poursuite, tous situés à Paris, soient effectivement en mesure de lutter contre la haine en ligne ? Comment comprendre que la plateforme Pharos – plateforme d'harmonisation, d'analyse, de recoupement et d'orientation des signalements –, dont l'actualité la plus tragique nous a rappelé l'existence, soit à ce point sous-dotée ?

Si nous peinons à lutter contre les contenus à caractère terroriste, comment imaginer pouvoir lutter efficacement contre les contenus antisémites et homophobes ? Nous avions fait un certain nombre de propositions constructives, au premier rang desquelles une meilleure régulation des plateformes par l'instauration d'obligations de moyens, sous la supervision d'un régulateur.

Quoi qu'il en soit, le Conseil constitutionnel a eu raison de la loi de Mme Avia.

Au-delà de l'incrimination pénale qui est annoncée, monsieur le secrétaire d'État, que comptez-vous proposer dans le futur projet de loi de lutte contre le séparatisme pour renforcer la lutte contre la haine en ligne ?

Mme la présidente. La parole est à M. le secrétaire d'État.

M. Cédric O, secrétaire d'État auprès du ministre de l'économie, des finances et de la relance et de la ministre de la cohésion des territoires et des relations avec les collectivités territoriales, chargé de la transition numérique et des communications électroniques. Monsieur le sénateur, nous débattons en effet d'un sujet sur lequel nous avons eu l'occasion de travailler, vous et moi, pendant de longues heures.

D'abord, je rappelle que c'est justement cette obligation de moyens, sur laquelle – je crois – nous étions d'accord, qui a été censurée par le Conseil constitutionnel, non au fond, mais par voie de conséquence. C'est cette question qui au coeur des discussions européennes dans le cadre du futur Digital Services Act.

Comme j'ai déjà eu l'occasion de le dire publiquement, la volonté du Gouvernement est de pouvoir, probablement dans le cadre du prochain projet de loi visant à lutter contre le séparatisme, traduire un peu par anticipation le champ de la régulation qui figurera dans la proposition européenne, compte tenu de l'urgence qu'il y a à agir et à définir cette obligation de moyens. Je me montre prudent sur le sujet, car je ne sais pas exactement à quoi aboutira cette régulation européenne du numérique, mais je ne doute pas que nous aurons de nouveaux débats à ce sujet.

Concernant les moyens mis sur la table pour la justice, on ne peut pas dire que rien n'a changé.

Je rappelle que la plateforme Pharos ou qu'une meilleure régulation d'internet n'aurait malheureusement pas pu empêcher le crime de Conflans-Sainte-Honorine : en effet, tout ce qu'a fait le père de la jeune fille qui s'estimait offensée est légal. On peut lui reprocher ses actes sur un plan moral, mais le fait est qu'il n'a rien fait d'illégal. De plus, compte tenu de la chronologie, le crime aurait tout de même eu lieu. (M. David Assouline proteste.) En revanche, le déferlement de haine qui a suivi le crime aurait pu être signalé grâce à Pharos.

Le Gouvernement agit. Tout d'abord, nous augmentons les moyens dédiés à Pharos ; ensuite, Éric Dupond-Moretti a prévu d'engager une spécialisation du parquet parce qu'on a besoin de magistrats spécialistes du sujet ; enfin, un nouvel outil de recueil des plaintes en ligne doit, sauf erreur de ma part, entrer en service l'année prochaine : un tel instrument est absolument indispensable…

Mme la présidente. Il faut conclure, monsieur le secrétaire d'État.

M. Cédric O, secrétaire d'État. … afin d'assurer l'opérationnalité de la réponse judiciaire.

Mme la présidente. La parole est à M. Christophe-André Frassa, pour la réplique.

M. Christophe-André Frassa. Monsieur le secrétaire d'État, je comprends bien votre réponse, mais je pense que les deux choses doivent aller de pair.

On doit certes renforcer les moyens de Pharos, surtout en province, car on ne peut pas avoir uniquement un service centralisé à Paris. Il faut augmenter les moyens de la gendarmerie dans les territoires, partout en France.

Mais la réponse ne peut pas non plus être uniquement pénale : il faut aussi responsabiliser les plateformes et renforcer le rôle du Conseil supérieur de l'audiovisuel (CSA) pour qu'il ait les moyens de vérifier que la réglementation est appliquée et que la régulation est effective.

Mme la présidente. La parole est à Mme Vanina Paoli-Gagin.

Mme Vanina Paoli-Gagin. Monsieur le secrétaire d'État, comme il y a un bon usage du monde, il doit y avoir un bon usage de la liberté d'expression en démocratie, tant celle-ci nous est précieuse et tant nous y sommes attachés.

Cette liberté, cependant, ne doit pas être absolue, et les abus doivent être sanctionnés. On a parlé de responsabilisation des plateformes, du rôle de l'État, mais peut-être convient-il de responsabiliser en premier lieu les usagers ? Si les réseaux sociaux sont des espaces propices à l'exercice de la liberté d'expression, ils ne sont heureusement pas les seuls.

Ces plateformes sont, je le rappelle, des espaces régis par des acteurs privés qui ont, comme le disait le président Malhuret, des business models, qui font des usagers leurs produits et qui ont leur propre vision de la liberté d'expression. Je vous rappelle que celle-ci n'est pas nécessairement la même que celle de la loi, comme l'a illustré la publication du tableau L'Origine du monde, qui a été censurée par Facebook, puritanisme américain oblige.

D'autres contenus, comme les menaces ou les injures, vont, eux, au-delà des limites fixées. Ils ne sont pourtant pas censurés efficacement. Je pense que nous sommes tous d'accord pour dire que ces abus doivent être punis, quel que soit le moyen par lequel ils ont été commis.

À cet égard, monsieur le secrétaire d'État, ne serait-il pas judicieux, à titre préventif et à des fins d'autorégulation, de ne permettre aux usagers d'accéder aux réseaux qu'une fois leur identité enregistrée, d'une part, et d'ajouter aux sanctions déjà prévues par la loi des interdictions temporaires d'accéder à ces réseaux, d'autre part ?

Un tel système existe bien pour les hooligans et les supporters interdits de stade, ainsi que pour les personnes « addicts » aux jeux dans les casinos et pour les casinos en ligne. On comprend donc mal pourquoi on ne pourrait pas transposer ce système à ce qui nous préoccupe aujourd'hui.

Sans empêcher le pseudonymat, une telle levée de l'anonymat, couplée à ce type de sanctions, pourrait avoir selon nous un fort pouvoir pédagogique : elle permettrait de responsabiliser les individus, qui ne doivent plus impunément se comporter comme des chauffards sur ces autoroutes de l'information.

Pensez-vous, monsieur le secrétaire d'État, que la mise en place d'un tel dispositif d'obligations et de sanctions s'appliquant aux infractions commises sur les réseaux sociaux soit possible et pertinente ?

Mme la présidente. La parole est à M. le secrétaire d'État.

M. Cédric O, secrétaire d'État auprès du ministre de l'économie, des finances et de la relance et de la ministre de la cohésion des territoires et des relations avec les collectivités territoriales, chargé de la transition numérique et des communications électroniques. Je n'aurai pas assez de deux minutes pour répondre à toutes ces questions…

J'ai eu l'occasion, à plusieurs reprises, de me prononcer contre la fin du pseudonymat et l'obligation d'identification sur internet, et ce pour différentes raisons.

Premièrement, je ne suis pas enthousiaste à l'idée qu'il faille donner sa véritable identité aux réseaux sociaux. On ne peut pas, d'un côté, évoquer des problèmes de respect de la vie privée et, de l'autre, obliger les internautes à donner leur véritable identité, ainsi qu'un certain nombre d'informations personnelles – et c'est bien ce dont on parle in fine.

Deuxièmement, au-delà de la question du caractère désirable d'un tel dispositif d'identification et de ses effets de bord, il me semble illusoire de penser que le Conseil constitutionnel ou la Cour de justice de l'Union européenne nous laisseraient un jour imposer une telle obligation. Nous pouvons en débattre durant des heures, nous ne ferions que démontrer notre incapacité législative à mettre en place un tel système.

Troisièmement, un tel dispositif est techniquement infaisable. Il me faudrait deux secondes pour me localiser en Allemagne – je pourrais vous montrer comme le faire sur mon téléphone, madame la sénatrice Paoli-Gagin –, puis vous insulter ou vous injurier sur Facebook sans avoir besoin de m'identifier, ce pays n'ayant pas instauré d'obligation à cet égard. Donc, même sur un plan technique, un tel dispositif ne fonctionne pas.

En résumé, je ne vois pas en quoi ce système pourrait être désirable. Il ne fonctionne ni techniquement ni juridiquement.

Au fond, aujourd'hui, 99% des personnes qui commettent des infractions sur internet ne sont pas anonymes : elles utilisent un pseudonyme et on sait les retrouver. Le problème – je reviens à un point que j'ai déjà évoqué –, c'est que nous sommes dans l'incapacité de gérer la massification et la viralité.

La question est donc bien de faire en sorte que nous sachions retrouver et sanctionner toute personne contrevenant à la loi, où qu'elle soit, éventuellement en lui appliquant des peines comme celles que vous avez évoquées – sur le fond, je ne vois pas beaucoup de raison d'y être opposé, même si ce débat mériterait probablement qu'on lui consacre plus que quelques minutes.

Au-delà de l'identification, il s'agit d'être efficace dans la chaîne police-justice.

Mme la présidente. La parole est à M. Thomas Dossus.

M. Thomas Dossus. Ce débat sur les propos haineux est d'une importance capitale dans les temps que nous vivons. La nouvelle campagne de harcèlement que la jeune Mila a récemment vécue doit nous conduire à nous interroger sur notre capacité à juguler ces vagues massives de haine qui s'expriment en ligne, avec un sentiment d'impunité insupportable.

Comment est-on passé de l'internet émancipateur des origines à ces réseaux d'oppression organisée et au harcèlement de masse ?

On doit s'interroger sur les mécanismes principalement économiques qui ont conduit au succès des discours haineux sur certaines plateformes. On doit se demander à qui profite la haine. Si l'on s'affranchit de ce regard économique, on ne parviendra pas à apporter de réponse judiciaire adaptée et, cela a été dit, on ne fera qu'écoper la mer à la petite cuillère.

Si la loi doit être la même pour sanctionner l'expression des propos haineux en ligne ou hors ligne, on doit nécessairement s'interroger sur la massification de ce type de propos sur les grandes plateformes commerciales et sur la réponse judiciaire qu'il convient d'y apporter, tant leur nombre est démultiplié.

Aujourd'hui, les grandes plateformes, qui disposent d'une masse croissante d'utilisateurs et d'utilisatrices, se livrent à une compétition économique autour de la captation de notre attention. Pour cela, elles emploient chacune des mécaniques commerciales qui privilégient la diffusion des publications suscitant le plus d'engagement et enferment les utilisateurs dans des réseaux de plus en plus polarisés. Les propagateurs de haine l'ont bien compris et s'appuient sur ces mécaniques pour diffuser leurs messages.

Face à ces plateformes, qui comptent des milliards d'utilisateurs et dont les modèles économiques valorisent les discours choquants, l'enjeu pour nos sociétés de liberté est d'être capables à la fois de réguler fortement ces mécaniques économiques favorisant les campagnes haineuses et de nous donner les moyens de briser le sentiment d'impunité.

L'accélération des phénomènes de viralité, encouragés par les algorithmes des grandes plateformes, provoque des drames. Envisagez-vous d'exiger de la transparence sur ces algorithmes, afin de réguler ces modèles économiques toxiques ? Quelle est la contribution de la France aux discussions européennes sur le sujet ?

Mme la présidente. La parole est à M. le secrétaire d'État.

M. Cédric O, secrétaire d'État auprès du ministre de l'économie, des finances et de la relance et de la ministre de la cohésion des territoires et des relations avec les collectivités territoriales, chargé de la transition numérique et des communications électroniques. La contribution de la France a été absolument essentielle, que ce soit sur la partie relative au contenu ou sur la partie relative à la concurrence, qui sera présentée au début du mois de décembre.

Moi-même, l'ensemble du gouvernement français, mais aussi de l'administration française – des groupes de travail inter-administrations ont été organisés – avons travaillé étroitement avec nos partenaires de l'Union européenne, notamment les Pays-Bas sur la concurrence ou l'Allemagne sur les contenus. Et nous avons vraiment fait partie de ceux qui ont poussé à la régulation des contenus et des grandes plateformes. Nous verrons quel en sera le résultat, mais nous avons été extrêmement actifs.

Parmi les sujets que nous poussons en vue de l'établissement du Digital Services Act, il y a bien sûr les obligations de moyens concernant la modération, mais aussi, et c'est d'après moi l'élément premier, la transparence.

À l'heure actuelle, en tant que secrétaire d'État au numérique, je ne sais pas combien Twitter compte de modérateurs en langue française, ou encore comment ses algorithmes mettent en avant un certain nombre de contenus ou pas. Certaines plateformes, comme Facebook, sont plus transparentes, mais je ne suis pas en mesure de vérifier la réalité de leurs dires. Cela pose un réel problème démocratique. La question de la transparence m'apparaît donc comme un préalable à celle de la régulation.

Je veux par ailleurs revenir sur un sujet qu'a évoqué le sénateur Jérôme Durain, car je ne l'ai pas fait moi-même alors qu'il est absolument essentiel : il s'agit de l'éducation et de la formation.

J'en profite pour rappeler l'annonce que j'ai faite, voilà deux jours, du déploiement de 4 000 conseillers numériques sur tout le territoire, pour donner plus d'autonomie aux Français dans leur utilisation des outils numériques.

En effet, tous ces problèmes trouvent leur origine dans le fait que les gens ne comprennent pas bien ce qui se passe sur internet, ne serait-ce que parce qu'un Français sur six n'utilise jamais un ordinateur et qu'un sur trois manque de compétences de base.

Certes, il faut apprendre aux gens à déclarer leurs impôts en ligne, à garder le contact avec leurs proches sur un réseau social, à rédiger un curriculum vitae. Mais très vite derrière, en matière de médiation numérique, on en arrive aux questions des données, des fausses informations, de la haine en ligne ou encore de la parentalité à l'heure des écrans.

Jérôme Durain a donc eu parfaitement raison de le souligner : l'éducation et la formation à la grammaire du numérique sont des sujets importants.

Mme la présidente. La parole est à M. Thomas Dossus, pour la réplique.

M. Thomas Dossus. Il est un peu étrange, monsieur le secrétaire d'État, de vous entendre dire que vous ignorez tout des algorithmes utilisés par les grandes plateformes ou que vous n'y avez pas accès. Si vous voulez une régulation, vous ne pourrez pas vous dispenser d'exiger l'ouverture de ces boîtes noires. (Applaudissements sur les travées du groupe GEST. – M. David Assouline applaudit également.)

Mme la présidente. La parole est à M. Julien Bargeton.

M. Julien Bargeton. Je tiens tout d'abord à remercier le groupe Les Indépendants – République et Territoires d'avoir demandé l'inscription de ce débat à l'ordre du jour de nos travaux, notamment son président, Claude Malhuret, qui est engagé depuis longtemps dans la lutte contre la haine en ligne.

L'intitulé de ce débat est révélateur à lui seul de la complexité du sujet.

Nous nous accorderons tous sur l'idée que notre pacte social ne peut souffrir d'atteintes sur internet, lesquelles seraient tolérées au motif qu'elles sont virtuelles. Les conditions dans lesquelles vit aujourd'hui l'adolescente Mila, que nous devons tous entourer de notre protection, montrent bien, si cela était encore nécessaire, que la menace n'est pas seulement en puissance, pour reprendre le sens étymologique du mot « virtuel ». Les conséquences de la haine en ligne sur les vies de nos concitoyens sont concrètes et souvent destructrices.

Partant de ce constat nécessaire, la tâche n'est pas aisée, justement parce qu'internet a ses mécanismes propres, qui ne sont pas réductibles aux échanges hors ligne et qui sont assortis de régimes juridiques complexes. Je pense notamment à la dichotomie, qui pose parfois question, entre éditeurs de contenus et hébergeurs, ces derniers répondant d'une responsabilité allégée.

Ainsi l'enjeu est non pas tant d'appliquer les mêmes lois en ligne et hors ligne que de bien adapter notre législation à l'espace numérique, afin d'y garantir le respect de nos droits et la même protection pour tous les citoyens.

À cet égard, la Commission européenne doit présenter d'ici à la fin de l'année son Digital Services Act afin, notamment, de renforcer la régulation des plateformes. La nécessité d'instaurer un axe de lutte contre les contenus haineux a d'ailleurs été rappelée par la France et l'Autriche dans une déclaration commune.

Plusieurs pistes ont pu être utilement évoquées sur le sujet au cours des dernières semaines. Je pense au renforcement de la diligence et des obligations de moyens des plateformes, ou encore à la transparence sur la modération des contenus, s'agissant plus particulièrement des algorithmes utilisés parfois par les opérateurs. Vous venez d'ailleurs d'évoquer cette transparence, monsieur le secrétaire d'État. Pouvez-vous nous en dire davantage ?

Pouvez-vous également nous dire quelles solutions doivent être privilégiées pour renforcer la régulation des grandes plateformes, sans leur abandonner les modalités de protection de notre bien le plus précieux, à savoir le lien social ?

Mme la présidente. La parole est à M. le secrétaire d'État.

M. Cédric O, secrétaire d'État auprès du ministre de l'économie, des finances et de la relance et de la ministre de la cohésion des territoires et des relations avec les collectivités territoriales, chargé de la transition numérique et des communications électroniques. Pour vous expliquer ce que nous cherchons à faire, mesdames, messieurs les sénateurs, je ferai un parallèle avec le secteur bancaire.

Aujourd'hui, si vous effectuez un virement frauduleux depuis votre compte en banque à une personne physique ou à une entreprise, votre banque ne peut pas en être tenue pour responsable. En revanche, il est de sa responsabilité de se doter en interne de moyens efficaces de détecter ce type de virements et de les signaler aux autorités pour lutter contre les phénomènes de corruption. Si la banque n'est pas efficace, le régulateur tape extrêmement fort.

Considérons à cet égard le travail de l'Autorité de contrôle prudentiel et de résolution, l'ACPR, ou des équipes de contrôle interne. La première, je le dis de mémoire, doit compter entre 800 et 1 000 agents. Quant au contrôle interne d'une banque, il fait intervenir plusieurs milliers de salariés. Sur la place de Paris, ce sont donc plusieurs dizaines de milliers de personnes qui participent à ce contrôle interne. Je précise que l'ACPR a pour rôle de contrôler non pas les virements individuels, mais le contrôle interne. Si la banque ne joue pas le jeu, elle risque une sanction très importante, le montant des amendes pouvant atteindre plusieurs milliards.

C'est exactement cette logique que nous voulons appliquer aux réseaux sociaux.

Nous voulons comprendre combien de personnes assurent le contrôle, selon quels mécanismes, comment la partie algorithmique fonctionne, en parfaite transparence vis-à-vis du régulateur. S'il est avéré – souvent, d'ailleurs, dans le cadre d'un débat contradictoire devant la justice – que tel réseau ne remplit pas correctement ses obligations, en tout cas pas à la hauteur de ce qu'il représente en termes d'enjeux pour la démocratie et la société française ou européenne, il faut pouvoir lui appliquer des sanctions extrêmement fortes.

Cette logique existe dans d'autres secteurs, comme celui des télécommunications. C'est celle que nous voulons mettre en oeuvre, car, à mes yeux, c'est la seule manière de poser une limite par le biais d'un dispositif pleinement opérationnel.

Mme la présidente. La parole est à M. Éric Gold.

M. Éric Gold. L'élection américaine est une illustration des profondes fractures que connaissent les démocraties, fractures permettant au populisme de prospérer : rôle croissant des réseaux sociaux et multiplication des fake news, affaiblissement du lien collectif au profit d'une forme d'individualisme, voire de communautarisme. Ces défis concernent également l'Europe, qui subit, elle aussi, une perte collective de repères et de confiance, sapant les fondements démocratiques.

En France, la même démagogie, le même complotisme et le même cynisme se répandent. Les réseaux sociaux en sont un formidable vecteur, avec leur lot toujours plus important de menaces et d'intimidations, lancées derrière un écran, sous couvert d'anonymat et avec un fort sentiment d'impunité.

C'est ainsi que l'on retrouve jetés en pâture tous les amalgames possibles, sans le moindre discernement et le moindre contrôle. Les petits paysans sont comparés à des assassins qui empoisonnent, les migrants à des terroristes, et toutes les règles élémentaires sont systématiquement remises en cause.

Le projet de loi confortant les principes républicains, présenté cette semaine, contient certaines dispositions relatives à la haine en ligne permettant d'élargir le champ d'action de la justice.

Mais aucune loi n'empêchera jamais ces discussions de comptoir sur internet, qui peuvent mener à la violence, sans le filtre de la conversation et du débat éclairé. Seule l'éducation en limitera les effets. C'est pourquoi l'investissement de l'État dans la lutte contre l'illectronisme pourrait être l'occasion de renforcer la sensibilisation des plus jeunes à ces sujets, conformément aux recommandations de la mission d'information créée, à la demande de mon groupe du RDSE, sur la lutte contre l'illectronisme.

Cela ne doit surtout pas nous faire oublier la responsabilité des réseaux sociaux et leur modération à géométrie très variable. Comment l'État peut-il agir pour que ces réseaux sociaux et les forums renforcent l'efficacité de leur modération ? Entend-il investir davantage dans l'intelligence artificielle pour une modération plus opérationnelle dans ce domaine, mais aussi pour repérer efficacement les auteurs de discours appelant une sanction ?

Mme la présidente. La parole est à M. le secrétaire d'État.

M. Cédric O, secrétaire d'État auprès du ministre de l'économie, des finances et de la relance et de la ministre de la cohésion des territoires et des relations avec les collectivités territoriales, chargé de la transition numérique et des communications électroniques. Ayant eu l'occasion d'expliciter de quelle manière nous souhaitons aborder la régulation de la modération, peut-être puis-je profiter de votre question, monsieur le sénateur Gold, pour évoquer un autre sujet, qui est central pour moi : la compétence et la capacité de l'État.

Aujourd'hui, les développeurs et les spécialistes de l'intelligence artificielle des GAFA sont les meilleurs du monde et sont payés plusieurs millions d'euros par an. La compétence disponible au sein de l'État pour ouvrir ou contrôler les boîtes noires, bien qu'elle ne soit pas nulle et que nous la développions, est, elle, relativement limitée.

Par conséquent, se pose la question de la capacité de l'État à se doter de moyens, pas seulement législatifs, et à proposer des conditions attractives aux gens de même niveau que les spécialistes des GAFA afin d'être en mesure de les recruter. Sans cela, tout ce dont nous discuterons ou que nous voterons sera complètement vain.

Nous avons commencé à travailler sur ce sujet en créant le pôle d'expertise de la régulation numérique.

Cette structure rassemble des spécialistes du big data et de l'intelligence artificielle au sein de l'administration. Elle est à la disposition de toutes les autorités indépendantes et de toutes les entités administratives, car la compréhension des algorithmes est un problème que rencontrent toutes les administrations – que ce soit la Direction de la législation et de la codification, l'Autorité de régulation des communications électroniques, des postes et de la distribution de la presse, la Commission nationale de l'informatique et des libertés, le Conseil supérieur de l'audiovisuel, la Direction générale de la concurrence, de la consommation et de la répression des fraudes ou encore la Direction générale des entreprises. Ces compétences sont rares et chères.

À l'heure actuelle, le pôle compte une petite dizaine de personnes, mais il va monter en compétences. Notre idée consiste bien à en faire un pôle d'expertise, dans lequel les différentes institutions pourront venir piocher. Nous avons besoin de lois, mais aussi des capacités de les appliquer réellement, sur le terrain et en ligne.

Mme la présidente. La parole est à M. Éric Gold, pour la réplique.

M. Éric Gold. Comme vous l'avez rappelé, monsieur le secrétaire d'État, le rôle des modérateurs est surtout de mettre les horreurs sous le tapis, il n'est pas d'agir contre leurs auteurs. Certes, il faut faire de la formation, mais l'intelligence artificielle doit aussi permettre de repérer, à la source, les causes de départ de discours haineux, qui donneront lieu, ensuite, à tous les abus sanctionnables.

Enfin, je prends note avec enthousiasme de la création du pôle d'expertise.

Mme la présidente. La parole est à M. Jérémy Bacchi.

M. Jérémy Bacchi. Le sordide assassinat de Samuel Paty, le mois dernier, a relancé le débat sur la régulation des contenus en ligne. Le Gouvernement travaillerait d'ailleurs sur un dispositif juridique de lutte contre la haine sur les réseaux sociaux, à la suite de la censure de l'essentiel des dispositions de la loi Avia par le Conseil constitutionnel.

Nous considérons, pour notre part, que la loi ne peut pas être la même hors ligne et en ligne. Même si, de toute évidence, ses grands principes doivent partout prévaloir, elle doit être adaptée à ce support immatériel et protéiforme. En effet, internet, qui est aujourd'hui dominé par les grandes plateformes, les Gafam (Google, Apple, Facebook, Amazon, Microsoft), dont le modèle repose sur l'économie de l'attention ou, plus communément, sur le « buzz », tend à valoriser la diffusion des contenus les plus clivants.

Aussi, nous considérons que l'interopérabilité donnerait aux victimes de contenus haineux la possibilité de se réfugier sur d'autres plateformes, ayant des politiques de modération différentes, tout en continuant à échanger avec les contacts qu'elles avaient noués jusqu'alors.

Bien sûr, internet n'est autre que la continuité du monde qui nous entoure. Les propos haineux ne naissent pas sur internet, mais les géants de la toile, par leur modèle économique, favorisent leur diffusion et leur viralité. Il est donc nécessaire de penser un autre modèle d'interaction pour s'extirper de ces plateformes toutes-puissantes.

C'est pourquoi, en décembre dernier, notre groupe proposait, dans un amendement à la proposition de loi Avia, d'obliger les opérateurs – et non de les encourager – à mettre en oeuvre des standards techniques communs d'interopérabilité. Nous sommes convaincus que cela permettrait d'enrayer la diffusion de contenus haineux sur internet, ou tout au moins de les limiter fortement.

Monsieur le secrétaire d'État, quelle est votre position sur ce sujet précis et que pensez-vous de cette proposition ?

Mme la présidente. La parole est à M. le secrétaire d'État.

M. Cédric O, secrétaire d'État auprès du ministre de l'économie, des finances et de la relance et de la ministre de la cohésion des territoires et des relations avec les collectivités territoriales, chargé de la transition numérique et des communications électroniques. Nous avons déjà eu l'occasion d'aborder ce sujet, monsieur le sénateur Bacchi, notamment avec votre collègue Pierre Ouzoulias, et je veux, sans esprit polémique, préciser clairement notre position.

L'interopérabilité est une solution à la domination économique des plateformes. Elle fait partie des remèdes qui pourront être envisagés en cas de situation de monopole ou d'oligopole d'une plateforme. Dans un tel cas, celle-ci étant devenue une infrastructure essentielle, il faudra faire en sorte de réinsuffler de la compétition en desserrant son empreinte sur le secteur qu'elle domine.

Sur la question des contenus haineux, je ne suis pas d'accord, sur le principe, avec votre proposition.

Concrètement, vous envisagez, pour régler le problème, de dire à une personne ayant été insultée ou menacée de mort sur Facebook : "Attendez, on va mettre en place l'interopérabilité entre Facebook et un autre réseau social et vous pourrez quitter l'un pour aller sur l'autre."

D'une part, si une personne entend en harceler une autre, elle pourra la suivre sur l'autre réseau social sans problème. On ne fera donc que déplacer le problème. D'autre part, c'est contestable sur le principe : la réponse à la haine en ligne ne peut être de permettre à la victime de quitter le réseau social.

Mettre en oeuvre l'interopérabilité pour répondre aux problèmes que pose la haine en ligne, c'est dire à la victime qu'on ne sait pas régler son problème, qu'on ne peut pas s'en prendre à ceux qui l'offensent, mais qu'on va lui permettre d'aller sur un autre réseau. Ce ne peut pas être la réponse de l'État ; sinon, c'est la pertinence même de son action qui sera remise en question par nos concitoyens.

Je le dis sans aucun esprit polémique, vraiment, l'interopérabilité, dans ce cas, pose une difficulté de principe.

Mme la présidente. La parole est à M. Jérémy Bacchi, pour la réplique.

M. Jérémy Bacchi. Peut-être me suis-je mal fait comprendre, auquel cas je m'en excuse.

Nous ne considérons pas l'interopérabilité comme l'unique moyen à mettre en oeuvre, mais nous estimons qu'il faut permettre aux victimes de harcèlement, si elles le souhaitent, de changer de plateforme. Mais, évidemment, l'interopérabilité ne viendrait pas en substitution de tout l'arsenal à déployer pour limiter et condamner les harcèlements en ligne.

Mme la présidente. La parole est à Mme Catherine Morin-Desailly.

Mme Catherine Morin-Desailly. Oui, en ligne et hors ligne, la réponse doit être la même. Encore faut-il que la justice ait les moyens de lutter contre ce qui relève de la cybercriminalité. Aujourd'hui, elle ne dispose que de trois personnes pour cela. (M. le secrétaire d'État fait un signe de dénégation.)

Cela étant, force est de constater l'inefficacité des dispositions issues de la loi relative à la lutte contre la manipulation de l'information ou encore de la loi visant à lutter contre les contenus haineux sur internet, texte copieusement censuré par le Conseil constitutionnel. Je n'en suis pas étonnée, le Sénat avait indiqué à plusieurs reprises que les dispositions proposées, au mieux, faisaient le jeu des plateformes et, au pire, portaient atteinte à nos libertés fondamentales.

Au-delà du bon vouloir des plateformes, internet exige une véritable régulation et, donc, une réponse globale, structurelle et européenne. Le scandale Cambridge Analytica nous avait déjà avertis sur la perméabilité et la vulnérabilité des démocraties face aux Gafam.

La multiplication des appels à la haine et surtout leur viralité nous imposent d'ouvrir les yeux sur leurs conséquences dramatiques pour notre sécurité nationale : l'influence des algorithmes utilisés par YouTube ou Facebook sur la radicalisation en ligne n'est plus un secret, le modèle de l'économie de l'attention favorisant toujours plus les contenus violents, extrémistes et haineux.

Dans son ouvrage L'Âge du capitalisme de surveillance, l'universitaire américaine Shoshana Zuboff dénonce le détournement de nos données personnelles à des fins de manipulation des comportements et de radicalisation des opinions publiques.

Avec le Digital Services Act, la Commission européenne a enfin prévu la révision de la directive e-commerce, révision en passe d'aboutir, je l'espère, à de véritables statuts des plateformes, ainsi qu'à leur redevabilité, comme je le préconise depuis deux ans.

Monsieur le secrétaire d'État, aujourd'hui, face à ces sociétés oligopolistiques qui refusent de faire évoluer leur modèle contesté, que ferez-vous pour favoriser le développement d'acteurs européens, dont le modèle, lui, sera conforme à nos valeurs ?

Mme la présidente. La parole est à M. le secrétaire d'État.

M. Cédric O, secrétaire d'État auprès du ministre de l'économie, des finances et de la relance et de la ministre de la cohésion des territoires et des relations avec les collectivités territoriales, chargé de la transition numérique et des communications électroniques. Les travaux de Shoshana Zuboff, avec qui j'ai eu l'occasion de discuter plusieurs heures cet été, sont extrêmement intéressants. Ils ne portent pas directement le sujet de la haine en ligne ; ce sont des travaux de fond sur la puissance de certaines grandes plateformes sur internet, liée au phénomène de gratuité – auquel, en tant que consommateurs en tout cas, nous sommes assez « addicts », pour utiliser ce mot bien français –, et sur leurs modèles d'affaires reposant sur une publicité ciblée, grâce à la connaissance extrêmement fine de la personnalité de chacun.

Cette question est particulièrement complexe à résoudre sur un plan légal et ces pratiques difficiles à contrer. La preuve en est qu'aucune démocratie, qu'aucun pays européen n'a encore trouvé la parade. Au début du mois de décembre, l'Europe va proposer une régulation, dont j'espère qu'elle sera la plus innovante possible, pour desserrer l'empreinte oligopolistique de ces acteurs. Mais, compte tenu de sa complexité juridique et de son caractère essentiel, c'est un sujet dont nous allons discuter encore pendant longtemps.

Par ailleurs, madame la sénatrice Morin-Desailly, je vous rejoins sur la nécessité de faire émerger nos propres champions.

À cet égard, nos résultats sont parlants. D'ailleurs, si vous interrogez les patrons des start-up françaises pour savoir ce qu'ils pensent de l'action du Gouvernement – je vous invite évidemment à le faire en dehors de la présence du secrétaire d'État ! –, ils seront unanimes à saluer cette action ou, en tout cas, à considérer que les choses évoluent dans le bon sens. Ainsi, je le rappelle, les montants investis dans les start-up françaises ont doublé en deux ans et, pour la première fois de l'histoire, la France devrait se placer devant l'Allemagne cette année, au regard de la taille de son écosystème.

Si nous réalisons autant d'efforts en faveur des start-up, ce qui nous vaut quelques moqueries, c'est justement parce que nous voulons avoir nos propres géants du numérique, dont les valeurs seront, en effet, plus proches des nôtres.

Mme la présidente. La parole est à Mme Catherine Morin-Desailly, pour la réplique.

Mme Catherine Morin-Desailly. Je vous pose cette question, monsieur le secrétaire d'État, car j'ai été surprise de constater dans vos tweets ce que j'appellerai une « continuité de complaisance » un peu surprenante à l'égard des géants du numérique. C'est le cas quand vous dites faire confiance au PDG de Microsoft pour régler nos questions de souveraineté ou encore quand vous accusez les Français de fantasmer sur le pouvoir d'Amazon dans la crise sanitaire que nous traversons.

Je remarque tout de même, et j'aurais aimé vous entendre sur ce point, que les Américains parlent désormais de démanteler ces plateformes, tant leur pouvoir est contesté aujourd'hui. Thierry Breton a le courage de le faire aussi. Google a d'ailleurs été obligé de lui présenter des excuses pour avoir, dans un document interne, envisagé de l'attaquer afin de contrer la stratégie de la Commission européenne. Vous avouerez, monsieur le secrétaire d'État, que c'est assez troublant.

J'aurais donc aimé vous entendre sur ces questions, mais nous aurons l'occasion d'en reparler…

Mme la présidente. La parole est à M. David Assouline.

M. David Assouline. Monsieur le secrétaire d'État, vous avez commencé par décrire l'énormité de ce qui est face à nous, concluant sur notre impuissance. Il y a tant de contenus haineux, de contenus qui contreviennent à la loi que la question est politique, avez-vous indiqué. Il s'agit de trouver un équilibre entre les sanctions possibles et la préservation de la liberté d'expression.

Justement, internet est un reflet et un accélérateur de la haine actuellement vendue dans la société. Ainsi l'on a pu voir l'audimat d'une chaîne de télévision devenue confidentielle – soit un secteur régulé par le CSA – remonter de manière très importante grâce à la présence de M. Éric Zemmour,…

M. François Bonhomme. Cela n'a rien à voir !

M. David Assouline. … qui propage la haine tous les soirs, et c'est vendeur. Dès lors, oui, il y a un problème !

Ce qu'il faudrait, c'est créer des consensus contre la haine et contre tous ceux qui en font commerce. Et pour créer des consensus, il faut arrêter d'utiliser la lutte contre la haine, contre le racisme, contre l'incitation à la violence ou au terrorisme – précisément ce qui pourrait faire consensus – pour proposer des solutions limitant nos libertés.

Qu'en pensez-vous, monsieur le secrétaire d'État ?

Mme la présidente. La parole est à M. le secrétaire d'État.

M. Cédric O, secrétaire d'État auprès du ministre de l'économie, des finances et de la relance et de la ministre de la cohésion des territoires et des relations avec les collectivités territoriales, chargé de la transition numérique et des communications électroniques. Comme vous l'aurez constaté depuis le début de ce débat, et pour rebondir sur ce que vous venez de dire, monsieur le sénateur Assouline, j'essaie de répondre de la manière la plus claire, la plus honnête, la moins polémique, peut-être la moins politique possible aux différentes questions, tant il est difficile de trouver une ligne de crête sur un sujet tel que celui qui nous occupe.

Je voudrais juste corriger un point : je n'ai pas dit que nous ne pouvions pas lutter contre tous les contenus haineux ; j'ai dit que nous ne pouvions pas le faire tel que nous fonctionnons aujourd'hui. S'il faut traiter des milliers de contenus par jour, ce ne peut être dans la temporalité qui est la nôtre aujourd'hui et avec les équipes dont nous disposons.

Saura-t-on trouver des solutions, dont certaines, d'ailleurs, pourront être automatiques ou semi-automatiques ? Ce sont des questions que doivent se poser les justices des pays développés, et elles sont très sensibles en termes de préservation des droits. Quoi qu'il en soit, aujourd'hui, on n'y est pas.

Par ailleurs, les questions que vous évoquez relèvent plutôt du droit de la presse et de la loi de 1881 sur la liberté de la presse – je dois toujours veiller à être extrêmement précis et prudent sur ces sujets tant ils sont sensibles, particulièrement dans la période actuelle, marquée par des débats sur lesquels je ne reviendrai pas.

Je reconnais que le fait de traiter des cas de haine en ligne comme des cas de diffamation au sens de la loi de 1881 peut poser question. Comment fait-on pour distinguer clairement ce qui, de toute évidence, ne relève pas du journalisme de ce qui est de cet ordre ? Je n'ai pas la réponse à cette question complexe, qui dépasse néanmoins quelque peu le sujet des plateformes.

Ce sur quoi je peux vous rejoindre, monsieur le sénateur, c'est sur le fait qu'il très difficile de traiter tous ces sujets dans une atmosphère de tensions extrêmes, que celles-ci soient liées à des campagnes politiques ou qu'elles soient présentes dans la société. Mais il faut absolument essayer d'y arriver, faute de quoi je n'ai pas de doute sur la fin de l'histoire…

Mme la présidente. La parole est à M. David Assouline, pour la réplique.

M. David Assouline. Il faut des moyens, monsieur le secrétaire d'État. Je ne pense pas non plus que l'on ne puisse rien faire. On ne peut pas tout régler, certes, mais on apprend en avançant. En revanche, ce n'est pas possible de continuer avec aussi peu de moyens pour Pharos ou pour la justice – Catherine Morin-Desailly l'a dit, il y a trois magistrats pour traiter toute la cybercriminalité, même pas uniquement la haine en ligne. Si les signalements à Pharos n'ont aucune suite judiciaire, cela ne peut pas fonctionner.

Il faut des moyens, monsieur le secrétaire d'État, et appliquer dans le monde numérique la loi qui existe dans le monde physique.

M. François Bonhomme. Pourquoi ne l'avez-vous donc pas fait ?

Mme la présidente. La parole est à Mme Laure Darcos.

Mme Laure Darcos. Monsieur le secrétaire d'État, mes chers collègues, internet est un formidable vecteur de communication, mais le rôle des réseaux sociaux, en particulier, fait débat : on y côtoie le meilleur comme le pire.

Il faut se réjouir quand ils permettent de donner corps à des initiatives solidaires ; en revanche, il faut les dénoncer et agir lorsqu'ils sont utilisés pour dégrader l'image d'un élu, d'un journaliste ou bien d'une personnalité, ou encore pour véhiculer certaines idéologies ou les thèses les plus abjectes.

Il ne s'agit – hélas ! – que de la partie émergée de l'iceberg. Tous les jours, des utilisateurs sont victimes d'un harcèlement devenu ordinaire qui expose leur vie, leurs photos, leur identité, leur adresse ou leur profession à la connaissance de tous. L'ignominie du meurtre de Samuel Paty doit nous faire réfléchir sur les dérives inacceptables d'internet et sur la nécessité de le réguler.

Des solutions existent, mais une prise de conscience et une action collective à l'échelle européenne sont nécessaires, comme le souligne très justement mon ami Geoffroy Didier, député au Parlement européen.

Cela peut consister à imposer aux futurs utilisateurs des réseaux sociaux la présentation du scan d'une pièce d'identité lors de la création du compte. La fin de l'anonymat complet sur internet ne doit pas être un sujet tabou, et cela n'a rien à voir avec une quelconque remise en cause du droit à la vie privée.

Pourquoi ne pas contraindre également chaque réseau social à afficher sur sa page d'accueil un lien vers le site gouvernemental de pré-plainte en ligne, afin de permettre aux victimes de harcèlement, d'insultes ou de menaces d'exercer pleinement leurs droits ? Simplifions les démarches pour une efficacité accrue contre les violences illégitimes !

Enfin, il serait judicieux de faire évoluer la nature juridique des plateformes, qui ne doivent plus s'abriter derrière leur statut d'hébergeur pour s'exonérer de toute responsabilité lorsqu'elles assurent la diffusion de messages contraires aux valeurs et à la dignité humaine. Utilisons le levier du droit !

Ma question est la suivante, monsieur le secrétaire d'État : êtes-vous prêt à vous engager sur ces mesures de bon sens, qui ne restreignent pas la liberté d'expression, mais permettent d'en limiter les excès ? Êtes-vous prêt à mener ce combat avec nos partenaires européens ?

Notre réponse n'a que trop tardé ; il nous faut protéger les victimes et mettre un terme avec la plus grande énergie aux dérives d'internet.

Je remercie le président Malhuret d'avoir suscité ce débat.

M. Emmanuel Capus. Excellent !

Mme la présidente. La parole est à M. le secrétaire d'État.

M. Cédric O, secrétaire d'État auprès du ministre de l'économie, des finances et de la relance et de la ministre de la cohésion des territoires et des relations avec les collectivités territoriales, chargé de la transition numérique et des communications électroniques. Madame la sénatrice Darcos, ayant eu l'occasion de répondre sur la question de l'anonymat, je propose de me livrer devant vous à une courte démonstration. (M. le secrétaire d'État se saisit de son téléphone portable en exposant à la vue de tous son écran.)

J'ouvre une certaine application – qui ne coûte rien – et choisis d'être localisé en Allemagne – peu importe le serveur. Voilà ! Cela m'a pris trois secondes ! Je veux vous montrer ainsi que jamais vous ne pourrez m'obliger à m'identifier parce que les Allemands ne demandent pas d'identification sur Facebook.

Cet outil s'appelle un VPN, et son utilisation requiert quelques secondes.

Mme Laure Darcos. C'est pourquoi il faut agir au niveau européen !

M. Cédric O, secrétaire d'État. L'Europe ne demandera jamais l'identification obligatoire ! Jamais !

M. François Bonhomme. Quel aveu d'impuissance !

M. Cédric O, secrétaire d'État. Monsieur le sénateur, la plupart du temps, les gens ne s'identifient pas et, de toute façon, il est toujours possible de les retrouver ! Par conséquent, la question n'est pas de savoir s'il faut rendre obligatoire cette identification : non seulement cela ne marchera pas, mais encore il faudrait passer des heures à se battre avec la Commission nationale de l'informatique et des libertés (CNIL). Je ne vous dirai même pas si j'estime que, sur le fond, c'est bien ou non : je vous dis simplement que cela ne servirait à rien !

On va s'engueuler pendant des heures pour en débattre, inutilement, car tous ceux qui voudront contourner l'obligation le pourront.

Le fond du sujet, c'est d'être capable de traiter la massification. J'entendais le propos de la présidente Morin-Desailly sur Pharos : ce sont non pas trois personnes qui y sont affectées, mais quarante au total.

M. David Assouline. On parle de la justice !

M. Cédric O, secrétaire d'État. Il en est de même, monsieur le sénateur : dans les juridictions, ce ne sont pas seulement trois personnes !

Le fond du sujet – et, là, vous avez raison –, c'est de faire en sorte qu'on sache traiter les choses dans leur viralité. Même si tout le monde devait s'identifier, le problème subsisterait. Parce que, quand des policiers débarquent chez quelqu'un qui, sous son vrai nom, son vrai prénom, a insulté ou menacé de mort les enfants de M. Untel ou de Mme Unetelle et lui expliquent qu'il n'a pas le droit de faire ce qu'il a fait, cette personne ne comprend pas, tombe de sa chaise en expliquant que ce n'est pas grave, puisque ces propos sont circonscrits à internet.

Mme la présidente. Veuillez conclure, monsieur le secrétaire d'État.

M. Cédric O, secrétaire d'État. Le fond du sujet, c'est de faire en sorte que la chaîne police-justice fonctionne. Et ce n'est pas seulement une question de moyens.

M. François Bonhomme. Ce n'est pas gagné !

Mme la présidente. La parole est à M. Franck Montaugé.

M. Franck Montaugé. Madame la présidente, monsieur le secrétaire d'État, mes chers collègues, le projet de loi confortant les principes républicains va donc nous permettre de reprendre la loi Avia.

Tout d'abord, je voudrais exprimer un point d'incompréhension ou d'incohérence.

Sur la haine en ligne, vous voulez agir sans attendre l'Europe, ou, plus précisément, dans l'attente de sa première copie, qui sera présentée par la Commission européenne le 9 décembre prochain. Mais, sur l'encadrement économique, qui est au coeur du modèle numérique, vous vous êtes opposé aux propositions du Sénat. Pouvez-vous nous expliquer cette volte-face doctrinale ?

S'agissant du sujet qui nous occupe aujourd'hui, je m'interroge sur plusieurs points quant à la méthode suivie.

Je comprends que vous souhaitez réintroduire, par amendements, les dispositions de la loi Avia dans un second temps. Pourquoi en passer par cette voie, alors qu'un réexamen par le Conseil d'État n'aurait sans doute pas fait de mal, au regard de l'histoire légistique problématique de ce texte ?

Deuxième question : vous engagez-vous à reprendre les avancées votées par le Sénat lors de l'examen de la loi ? Notre Haute Assemblée avait attiré l'attention sur le fait qu'il n'y avait pas que l'outil du retrait pour lutter contre les contenus haineux et qu'il convenait que les plateformes proportionnent leur action aux risques encourus.

Le Sénat avait notamment insisté, à juste titre, sur le fait que la réduction de la visibilité d'un contenu et de sa viralité peut être un moyen tout aussi pertinent et davantage proportionné. Ces avancées figureront-elles dans votre projet ?

Dernière question : le texte européen sur le retrait de contenus terroristes en une heure semble enlisé. Pensez-vous légiférer également sur ce point à cette occasion ?

Mme la présidente. La parole est à M. le secrétaire d'État.

M. Cédric O, secrétaire d'État auprès du ministre de l'économie, des finances et de la relance et de la ministre de la cohésion des territoires et des relations avec les collectivités territoriales, chargé de la transition numérique et des communications électroniques. Monsieur le sénateur Montaugé, nous avons eu l'occasion, avant-hier, d'évoquer dans cet hémicycle la proposition de loi de Sophie Primas : entre la Haute Assemblée et le Gouvernement subsiste une divergence quant au timing. Car, sur le fond, nous sommes d'accord – je n'entrerai pas une nouvelle fois dans le détail de ce débat qui nous a beaucoup occupés. En revanche, le Gouvernement estime qu'il est nécessaire d'attendre que le texte européen en la matière soit rendu public, au début du mois de décembre. Ce texte, nous l'espérons, prendra la forme d'un règlement, de telle sorte qu'il puisse être appliqué rapidement et uniformément sur l'ensemble du territoire européen. Le niveau européen est le bon niveau pour réguler.

S'agissant de la loi Avia, nous sommes confrontés à la même difficulté, et pour la même raison. Conformément, d'ailleurs, à ce que le Sénat nous avait alors demandé, nous attendons la présentation du Digital Services Act, le texte européen qui doit traiter la question des contenus haineux, pour l'introduire ensuite par voie d'amendement dans la loi française.

La difficulté à laquelle nous sommes confrontés, c'est que ces dispositions mériteraient en effet d'être préalablement soumises au Conseil d'État. Nous espérons donc avoir le temps d'opérer une saisine rectificative, le cas échéant, mais le problème, c'est que nous sommes dépendants du calendrier européen.

Nous sommes bien conscients qu'il s'agit là d'un sujet sensible sur les plans juridique et politique, quand bien même ces dispositions seraient totalement conformes au futur texte européen. Bien sûr, il serait préférable d'avoir l'avis du Conseil d'État, même si, je le rappelle s'agissant de la loi Avia, celui-ci s'est fait déjuger par le Conseil constitutionnel, y compris sur l'article 1er.

J'aurai l'occasion de répondre à votre dernière question ultérieurement, au sein de cet hémicycle ou bien lors d'un entretien en particulier.

Mme la présidente. La parole est à M. Franck Montaugé, pour la réplique.

M. Franck Montaugé. Monsieur le secrétaire d'État, je vous remercie de ces éléments de réponse. Il était en effet difficile de répondre, dans le temps imparti, à toutes les questions que je vous ai posées.

Je partage votre souhait d'agir vite et d'agir efficacement sur ce sujet majeur. Il s'agit là d'un véritable fléau, que facilite le "pseudonymat" généralisé, qui permet aux malfaiteurs de se réfugier derrière leurs écrans.

Je partage aussi votre constat selon lequel la solution passe par une plus grande responsabilisation des plateformes, attendue depuis si longtemps. C'est ainsi qu'a été évoquée notamment la possible évolution de leur statut vers un statut d'éditeur.

Les réseaux sociaux ont affecté profondément notre vie sociale et démocratique. Je souhaite que la lutte contre la haine en ligne participe d'un renforcement du pacte républicain, largement fragilisé aujourd'hui.

Mme la présidente. La parole est à M. Jean-Pierre Grand.

M. Jean-Pierre Grand. Les contenus haineux diffusés sur internet visent de plus en plus les membres des forces de l'ordre, qu'ils soient fonctionnaires de police nationale, gendarmes ou encore policiers municipaux.

Ces appels à la haine ont souvent comme support des images de ces agents filmés dans le cadre d'opérations de maintien de l'ordre. Nombre d'entre elles sont diffusées sur les réseaux sociaux, rendant ces agents facilement identifiables, les transformant, ainsi que leurs familles, en cibles potentielles.

Ils ne bénéficient pas de protection particulière en matière de droit à l'image lorsqu'ils agissent dans le cadre d'une opération de police : la liberté de l'information, qu'elle soit le fait de la presse ou d'un particulier, prime le respect du droit à l'image ou à la vie privée.

Ils ne peuvent donc s'opposer à l'enregistrement de leur image et, surtout, à son éventuelle diffusion malveillante. Aucune contrainte légale ne permet aux policiers de demander le floutage de leur visage avant la diffusion des images afin de garantir leur anonymat, floutage gage de leur efficacité, mais aussi de leur sécurité.

Monsieur le secrétaire d'État, ce sujet me tient à coeur, je suis intervenu à plusieurs reprises ici même pour l'évoquer et ai déposé un amendement. L'Assemblée nationale examine en ce moment un texte, dont l'article 24, particulièrement commenté, prévoit enfin des mesures tant attendues par les membres de nos forces de l'ordre, visant à sanctionner la diffusion de leur image, en l'absence de leur accord et dans le but de porter atteinte à leur intégrité physique et psychique.

Monsieur le secrétaire d'État, ma question est simple : l'Assemblée nationale achèvera bientôt l'examen de ce texte ; le Gouvernement va-t-il tenir le cap et compte-t-il réellement inscrire à l'ordre du jour de nos débats l'examen de ce projet de loi au cours du mois de janvier afin que nous puissions en débattre et, surtout, le voter, en particulier son article 24, qui nous plaît bien.

Mme la présidente. La parole est à M. le secrétaire d'État.

M. Cédric O, secrétaire d'État auprès du ministre de l'économie, des finances et de la relance et de la ministre de la cohésion des territoires et des relations avec les collectivités territoriales, chargé de la transition numérique et des communications électroniques. Monsieur le sénateur, votre question s'adressant plutôt à Gérald Darmanin, je ne suis pas capable de vous indiquer la date à laquelle ce texte sera inscrit à l'ordre du jour des travaux du Sénat. Quand le Gouvernement soumet à l'examen des députés un texte, en particulier un texte qui porte sur un sujet certes polémique, mais important sur le plan politique, sa volonté, c'est bien d'aller au bout. Il ne le fait probablement pas pour la galerie !

Je vous confirme donc que, en toute logique, le Gouvernement agira aussi vite que possible.

J'en profite pour évoquer un élément qui fait débat, à savoir la question de l'intentionnalité. On le voit, une partie des problèmes que l'on rencontre sur internet sont le fait de personnes « spécialisées » dans la haine en ligne ou malintentionnées et qui  "jouent" avec les règles en vigueur.

Cette remarque me permet de faire le lien avec la question de la divulgation des identités personnelles qu'a évoquée le Premier ministre, non sans faire l'objet de quelques moqueries sur les réseaux sociaux : il est déjà possible de sanctionner quelqu'un qui aurait diffusé, avec de mauvaises intentions, l'identité ou l'adresse d'un tiers ; mais on ne peut comparer ce type de comportement avec celui d'un hacker qui volerait les bases de données d'une entreprise pour les publier sur internet ou qui révélerait l'identité et l'adresse d'Untel ou d'Unetelle, donnerait le nom de l'école de ses enfants, en disant que cette personne s'est exprimée contre telle religion, contre telle personne ou qu'elle a émis telle opinion politique, dans l'intention de lui nuire.

C'est aussi ce qui est au coeur du débat sur la diffusion d'images montrant des policiers.

Sans entrer dans le débat, je peux quand même indiquer qu'il faut trouver un équilibre entre contrôle, liberté de la presse et capacité à protéger ceux que nous voulons précisément protéger. Je comprends, sinon l'opposition, du moins les réticences d'une partie de la population ou d'une partie des tenants du débat public face à cette disposition. Il n'en demeure pas moins que la question reste entière. Il leur faut donc proposer d'autres solutions.

Mme la présidente. La parole est à M. Marc Laménie.

M. Marc Laménie. Tout d'abord, je remercie le groupe Les Indépendants – République et Territoires et son président Claude Malhuret d'avoir inscrit à l'ordre du jour ces sujets de société particulièrement sensibles dont je ne suis pas du tout un spécialiste, n'étant pas présent sur les réseaux sociaux : je possède simplement un tout petit téléphone portable. Je peux donc témoigner avec une autre vision des choses.

Malheureusement, comme l'ont indiqué les collègues qui sont intervenus avant moi, nombre de personnes sont victimes de ces agissements problématiques, notamment les forces de sécurité, les sapeurs-pompiers, les policiers, les militaires, les gendarmes, sans oublier les personnes fragiles, en particulier les jeunes.

Nous avons également évoqué ce sujet au sein de la délégation aux droits des femmes.

Monsieur le secrétaire d'État, comment lutter contre ce phénomène et protéger ceux qui en sont victimes ? Même si la justice doit agir, je pense plutôt aux actions de sensibilisation et de prévention que doit mener l'éducation nationale.

Mme la présidente. La parole est à M. le secrétaire d'État.

M. Cédric O, secrétaire d'État auprès du ministre de l'économie, des finances et de la relance et de la ministre de la cohésion des territoires et des relations avec les collectivités territoriales, chargé de la transition numérique et des communications électroniques. Monsieur le sénateur, avec votre question, vous êtes loin d'être hors sujet ; vous y êtes pleinement !

Votre situation est celle de nombre de Françaises et de Français qui ne sont pas forcément des adeptes des réseaux sociaux,…

M. François Bonhomme. Ça va arriver !

M. Cédric O, secrétaire d'État. … qui les utilisent plus ou moins et qui se demandent comment une telle folie a pu arriver.

D'abord, et nous devons tous en avoir conscience et l'accepter – ce qui est difficile sur le plan politique – : il n'existe pas de solution simple dans ce domaine ni de solution "packagée". Autrement dit, il va falloir continuer à mener des expérimentations qui fonctionneront plus ou moins bien.

Le fond du sujet, pour rebondir sur votre propos, c'est bien la formation des gens, leur éducation. Une partie de la population ne comprend plus le monde dans lequel elle évolue, ne comprend plus la manière dont ce monde fonctionne. Oui, il faut mettre le paquet sur l'éducation !

En la matière, nous sommes un peu en retard, même si tout dépend de la façon dont on voit les choses. En effet, la France est le premier pays de l'OCDE à avoir généralisé la formation au numérique, aux codes et à l'ensemble de l'environnement numérique dès la seconde, et ce à hauteur d'une heure et demie par semaine.

Par ailleurs – et je le dis à dessein devant le Sénat –, il appartient aux collectivités de demander à pouvoir disposer de médiateurs numériques, qui seront déployés partout en France et financés à 100% sur deux ans ou à 70 % sur trois ans. Passez le message, mesdames, messieurs les sénateurs ! L'objectif est d'en déployer 4 000 sur tout le territoire, ce qui n'est pas négligeable.

Vous avez raison, monsieur le sénateur, nous ne nous pourrons faire l'économie d'un effort afin que la population française progresse dans sa compréhension d'internet, du numérique, de son mode de fonctionnement. D'ailleurs, cela ne concerne pas uniquement les personnes âgées : on croise beaucoup de jeunes dans les sessions de formation sur au numérique, qui, s'ils sont très forts pour se servir de leur téléphone portable, le sont largement moins quand il s'agit de rédiger un CV ou d'actualiser leur situation sur le site de Pôle emploi.

M. François Bonhomme. On va s'inscrire, alors ! (Sourires.)

Mme la présidente. La parole est à M. Marc Laménie, pour la réplique.

M. Marc Laménie. Monsieur le secrétaire d'État, je vous remercie beaucoup de vos explications. Vous êtes très compétent dans ce domaine, et c'est important. Les actions à mener dans ce domaine sont nombreuses. Il faut privilégier les fondamentaux que sont la lecture et l'écrit.

M. François Bonhomme. Ah !

Mme la présidente. La parole est à Mme Brigitte Lherbier.

Mme Brigitte Lherbier. Monsieur le secrétaire d'État, si les divergences d'opinions sont nécessaires pour faire vivre notre démocratie, les discours de haine, l'expression de propos discriminatoires ou les appels à la violence doivent naturellement être sanctionnés. De tels propos nuisent en effet à l'essence même de notre État de droit et au débat républicain.

Certains, dans l'hémicycle ou sur les bancs des ministres, en ont déjà été la cible.

J'ai eu l'occasion de travailler avec l'association Point de contact, reconnue pour son expertise dans la lutte contre les contenus pédopornographiques et terroristes. Cette association avait été présentée par le général de gendarmerie Watin-Augouard, fondateur du forum international de cybercriminalité, qui se tient tous les ans à Lille. Créée en 1998, Point de contact est une plateforme de signalement de contenus illicites et haineux à destination du grand public.

Après avoir trié et qualifié juridiquement les contenus signalés, cette association permet de transmettre à la plateforme Pharos du ministère de l'intérieur les alertes repérées pour que les autorités puissent ouvrir des enquêtes et engager d'éventuelles poursuites judiciaires.

Les membres de structures comme celles-ci sont durement exposés, physiquement et psychologiquement, à la haine et à la violence qui se déchaînent sans filtre sur internet – sans parler des images insoutenables qu'elles sont parfois amenées à visionner.

Ces organismes mettent notamment à la disposition de leurs employés des psychologues pour les suivre. D'ailleurs, de nombreux professionnels de la modération de contenus demandent que leur profession soit reconnue par la médecine du travail comme étant de grande pénibilité.

Monsieur le secrétaire d'État, que pensez-vous de cette demande légitime ? Il faut aider ces structures, surchargées et en sous-effectifs, qui manquent de moyens. Car elles peuvent faire beaucoup dans cette lutte contre la haine.

Mme la présidente. La parole est à M. le secrétaire d'État.

M. Cédric O, secrétaire d'État auprès du ministre de l'économie, des finances et de la relance et de la ministre de la cohésion des territoires et des relations avec les collectivités territoriales, chargé de la transition numérique et des communications électroniques. Madame la sénatrice, puisque vous la citez, je vous indique que l'association Point de contact fait partie du groupe de contact permanent où siègent le ministère de l'intérieur, les plateformes et un certain nombre d'associations, d'ONG ou d'intervenants oeuvrant dans ce domaine.

Nous sommes là face à un sujet de société, qui ne concerne pas seulement le Gouvernement et les institutions. Si nous voulons faire progresser notre société, réussir à faire reculer la haine en ligne, expliquer aux jeunes et aux moins jeunes ce qu'il est possible de faire sur internet et ce qu'il n'est pas possible d'y faire – ce qui n'est pas tout à fait évident –, nous avons besoin de tout le monde : les associations, les éducateurs de terrain, les professeurs, les policiers, les juges, etc. Les médias ont également un rôle indispensable à jouer.

Vous évoquez le rôle des modérateurs, qui font un travail extrêmement pénible. Vous avez raison : il faut réaliser ce en quoi consiste la journée de travail d'un modérateur, qu'il exerce dans les médias ou qu'il soit chargé d'expurger les contenus haineux.

Pour ma part, j'ai vu et revu, pour des raisons professionnelles, les images des attentats survenus au Niger ou celles de la décapitation de Samuel Paty. À mon humble niveau, ces images sont difficiles à voir, mais j'y étais obligé, devant rapidement alerter le patron de Twitter et celui de Facebook pour qu'ils les fassent retirer.

Ces images, je les ai vues une fois au cours de ma journée – sauf celles des attentats du Niger, que j'ai dû visionner à plusieurs reprises, étant en vacances à ce moment-là. Ces modérateurs, eux, ont le nez en permanence sur ces poubelles de notre société qu'ils sont chargés de vider.

Oui, c'est un métier extrêmement pénible. Pour autant, je serai très honnête avec vous : je ne sais que répondre spécifiquement à la question que vous me posez d'une reconnaissance de la pénibilité de leur travail, ne connaissant pas exactement le cadre juridique dans lequel il s'exerce. Mais il serait logique, en effet, de reconnaître son caractère difficile et pénible.

Mme la présidente. La parole est à Mme Brigitte Lherbier, pour la réplique.

Mme Brigitte Lherbier. Monsieur le secrétaire d'État, c'était pour moi l'occasion de mettre en avant le travail très important que font ces associations au regard du sujet dont nous débattons aujourd'hui.

Mme la présidente. La parole est à M. Guillaume Chevrollier.

M. Guillaume Chevrollier. Je salue l'initiative qui a été prise d'organiser ce débat intitulé : « Contenus haineux sur internet : en ligne ou hors ligne, la loi doit être la même. »

En effet, préserver la liberté d'expression, lutter contre les contenus haineux sans censurer : il est bien difficile de cerner cette limite par la loi dans un monde complexe, vous l'avez dit, monsieur le secrétaire d'État.

Nous devons protéger à tout prix cette liberté d'expression qui est garantie par la Constitution et qui pourtant recule partout en France.

Je le dis fermement : notre liberté d'expression n'est pas négociable. Mais la liberté d'expression n'est pas la seule valeur de notre société : il y a aussi le respect, la décence, le bien commun.

Nous devons aussi refuser et combattre cette augmentation et cette banalisation de la violence, décuplées par la puissance des réseaux sociaux qui, parfois, attisent et prêchent la haine.

Nous devons aussi nous pencher sur les raisons de cette augmentation de la violence. Il y a aujourd'hui un problème d'éducation à cette liberté d'expression, à ses excès, mais aussi un vrai problème moral.

Cette liberté d'expression n'est pas toujours bien comprise et bascule parfois dans la calomnie, l'injure, et produit ainsi de la violence.

La liberté d'expression, c'est la contradiction, le débat, la recherche de la vérité. À l'époque des attentats de 2015, le philosophe Régis Debray avait une formule que je trouve intéressante : « Le désert des valeurs fait sortir les couteaux. »

Dans un monde si relativiste, où l'on déconstruit les notions d'autorité, de respect et où il n'y a plus de vérité, mais des vérités, comment s'étonner de cette montée de la violence ?

Je suis également frappé que, aujourd'hui, en France, pays démocratique, on ne puisse plus dire certaines choses ni engager certains débats.

La censure n'est pas la solution, et je suis opposé à ce que les GAFA régulent notre liberté d'expression. Ne créons pas une police de la pensée. J'ajoute que la notion de "contenu haineux" n'est pas définissable et ne peut faire l'objet d'aucune définition juridique. Néanmoins, il me semble qu'il y a un vrai travail à faire en amont pour éduquer à l'esprit critique, à la raison, au débat dans le respect : on combat un adversaire non pas en le bâillonnement juridiquement, mais avec des arguments.

Il faudrait pouvoir faire davantage de prévention et d'éducation sur une utilisation civique et responsable des réseaux sociaux.

Mme la présidente. Veuillez poser votre question !

M. Guillaume Chevrollier. Monsieur le secrétaire d'État, comment créer, selon vous, les conditions d'un débat serein en France ?

Mme la présidente. La parole est à M. le secrétaire d'État.

M. Cédric O, secrétaire d'État auprès du ministre de l'économie, des finances et de la relance et de la ministre de la cohésion des territoires et des relations avec les collectivités territoriales, chargé de la transition numérique et des communications électroniques. Monsieur le sénateur, puisque je réponds à la dernière question, je veux remercier le groupe Les Indépendants et l'ensemble du Sénat d'avoir pris l'initiative d'organiser ce débat intéressant qui, je le pense, nous a permis d'avancer, hors de toute polémique politique. Nous avons besoin de davantage d'échanges de ce type, dans un cadre apaisé, pour que nous puissions trouver des solutions.

Monsieur le sénateur, vous évoquez un sujet encore plus complexe que la haine en ligne : celui de la désinformation et de sa propagation. Car ces contenus ne sont pas illégaux, ou presque jamais. Par exemple, il est difficile de dire du film Hold-up, dont j'ai demandé une analyse juridique, qu'il se situe dans l'illégalité. Tout au plus pourrait-on envisager la qualification de mise en danger de la vie d'autrui. Et encore, ce serait compliqué à prouver.

Pourtant, on mesure l'impact désastreux que peuvent avoir de tels films, vus et crus par nombre de nos concitoyens, sur le débat public, sur notre démocratie et sur la sécurité sanitaire d'une partie de nos concitoyens, à tout le moins.

Il y a là un indispensable travail d'éducation à l'esprit critique et à la pensée critique à mener, ce dont Jean-Michel Blanquer est parfaitement conscient.

Ce n'est pas en dénonçant une affirmation comme fausse et en proclamant la vérité que l'on réussira mener ce combat. Je vous renvoie notamment aux écrits du sociologue Gérald Bronner, dont je considère les travaux sur la désinformation comme étant les plus intéressants – ce n'est d'ailleurs pas sans lien avec la déradicalisation.

Il faut éduquer les gens à exercer leur esprit critique, ce qui ne peut se faire en une session d'une heure ou deux. Ce travail de long terme est la seule solution pérenne et durable dont disposent les démocraties pour combattre cette désinformation.

Nous ne sommes pas au bout du chemin, et c'est une question extrêmement importante.


Source http://www.senat.fr, le 3 décembre 2020