Acrimed | Action Critique Médias

Facebook, Google et co : les plateformes contre la démocratie

2021-03-12T06:30:00Z

Les grandes plateformes numériques ont acquis une place prépondérante dans la diffusion et la production de l'information. Elles posent de nombreuses questions pour notre critique. Ces plateformes sont-elles des médias à part entière ? Comment interviennent-elles dans le débat public ? Ont-elles une ligne éditoriale, voire politique ? Pour amorcer une réflexion critique sur le rôle des grandes plateformes dans le système médiatique, nous nous sommes entretenus avec Arthur Messaud et Benoît Piédallu de la Quadrature du Net, association de défense et de promotion des droits et liberté sur Internet.

Acrimed : On a beaucoup parlé de la suspension des comptes Twitter et Facebook de Trump suite à l'attaque du Capitole par ses partisans en janvier. Pour les commentateurs, cela pose la question du pouvoir de censure des grandes plateformes. Que vous inspirent ces débats ?

Quadrature du Net : La censure du compte de Trump est un cas très particulier. Elle a le mérite de rappeler qu'il ne faut pas attendre des grandes plateformes qu'elles soient les garantes de la liberté d'expression ou de la démocratie. Facebook ou Twitter sont certes devenus des lieux de débat, y compris politiques, mais ce sont avant tout des entreprises privées. Leur modèle économique, leur organisation est entièrement orientée vers le gain financier et les revenus publicitaires – qui représentent jusqu'à 95% du chiffre d'affaires dans le cas de Facebook. Il s'agit donc, pour elles, d'organiser la visibilité des publications de sorte à inciter les utilisateurs à rester ou à revenir. Ce qui est totalement incompatible avec ce que pourrait être un outil de débat d'intérêt public. Ces plateformes sont des espaces privés, elles ne répondent à personne ou presque et suppriment régulièrement des comptes, notamment de militants politiques.

La censure du compte Twitter de Trump est cependant un sujet tout à fait secondaire en matière de libertés sur internet, en comparaison à d'autres sujets comme le règlement « anti-terroriste », en cours d'adoption dans l'Union européenne. Les médias sont tellement frileux de se frotter à des sujets un tout petit peu compliqués… Ils préfèrent se jeter à corps perdu dans des débats faciles – et souvent inintéressants – comme c'est le cas pour la suspension du compte de Trump. Mais lorsqu'il s'agit des libertés des citoyens, avec des vrais textes qui ont des conséquences pour toutes et tous, c'est la démission totale. On a été parmi les rares à parler du texte règlement « anti-terroriste » qui pose de graves problèmes pour les libertés, pendant que les commentateurs étaient occupés à disserter sur Trump. Que son compte soit censuré par Twitter ou Facebook n'a, au fond, pas grande importance. Il n'y a pas de liberté d'expression à sauver sur Twitter et Facebook. Ces plateformes sont faites pour organiser l'expression à des fins commerciales. Ce qui ne veut pas dire qu'il n'y a pas d'enjeux à leur faire rendre des comptes.

Il est vrai qu'on a très peu entendu parler de ce règlement anti-terroriste. Pourriez-vous nous en dire deux mots ?

En deux mots, il s'agit de donner à toutes les polices européennes le pouvoir, sans l'intervention d'un juge, de demander à n'importe quel hébergeur de retirer en une heure un contenu, du moment qu'elle le considère comme relever du terrorisme. Ça veut dire que si la police hongroise contacte un média français et exige de retirer un contenu de son forum, celui-ci doit s'exécuter en une heure sous peine de sanctions économiques ou même de sanctions pénales. Je parle de la police hongroise, mais c'est aussi valable a fortiori pour la police française. Ces dispositions sont similaires à celles de la loi Avia qui avait été censurées en 2020 par le Conseil constitutionnel, heureusement, mais qui reviennent au niveau européen. C'est vraiment la loi de censure la pire qu'on ait vu depuis dix ans… mais là encore, personne n'en parle, les grands médias s'en contrefichent.

En termes de censure en ligne, de mise en visibilité ou d'invisibilisation de contenus et propos, les plateformes semblent jouer un rôle de plus en plus important. Comment justifient-elles ce rôle d'organisation du débat, et peut-on dire qu'elles suivent une forme de « ligne éditoriale » ?

Il faut bien voir que les grandes plateformes revendiquent de faire de la censure et d'avoir une ligne éditoriale. Ce n'est pas quelque chose de caché. Par exemple, la Commission européenne a signé de nombreux accords et d'engagements de lutte contre le terrorisme avec Facebook, Google, Twitter ou Microsoft qui se montrent extrêmement pro-actifs et volontaires. Au point que ce sont eux qui vont susciter des initiatives pour déployer des dispositifs de censure « innovants ». Ces technologies pourront par la suite être imposées et généralisées par la loi, ce qui permettra aux grandes plateformes de vendre leurs outils. En matière de lutte contre certains types de contenus de haine, c'est la même chose, ils sont très pro-actifs.

Ce n'est pas la députée Avia qui a souhaité imposer aux plateformes de faire un travail de censure, c'est l'inverse : c'est Facebook qui est venu aux politiques en leur disant : « regardez ce qu'on fait, nous, il faut généraliser ces pratiques ». Et cela représente une opportunité pour les plateformes de vendre leurs outils de censure en ligne. Lorsque le patron de Facebook, Mark Zuckerberg, a été auditionné au Parlement européen, il disait : « nous avons des responsabilités éditoriales ». Il le revendique, ce n'est pas un aveu. Ce ne sont ni des postiers, ni un réseau de télécommunications, ce sont des médias qui veulent jouer un rôle politique ; et pour avoir un pouvoir politique, il faut assumer les responsabilités qui vont avec.

Comment fonctionnent ces outils « innovants » de censure en ligne ?

Facebook tout particulièrement met en avant des outils d'intelligence artificielle censés détecter automatiquement les contenus problématiques qui contreviennent à la « charte » de la plateforme, les contenus terroristes par exemple. Avec un discours selon lequel l'intelligence artificielle va tout régler en enlevant « l'humain » de la boucle. En réalité, on sait que ça ne marche pas, ou du moins qu'il est nécessaire d'avoir des personnes en chair et en os qui travaillent derrière : pour remplir les bases de données, aider à l'apprentissage, corriger les erreurs [1]. Des métiers très difficiles par ailleurs… Quoiqu'il en soit, on est loin aujourd'hui d'avoir des outils qui fonctionnent de manière autonome. Et au-delà de cela, il y a de nombreuses questions qui se posent sur la manière dont fonctionnent les algorithmes de modération, et sur leur incapacité par exemple à saisir ce qui relève de l'humour, ou du débat politique. Le risque étant de justifier la censure : « c'est la machine qui a pris la décision ».

Outre cette dimension automatisée, les mécanismes de modération recourent également à la dénonciation des contenus par les utilisateurs. Au bout d'un certain nombre de signalements, il y a un événement qui est déclenché au sein de la plateforme : soit la suppression automatique du compte et on voit ce qui se passe, si la personne se plaint ou pas ; soit un ou une employée qui va regarder si oui ou non le signalement est justifié. Un des problèmes étant celui des recours : il est très difficile d'avoir une réponse des plateformes une fois la décision prise – si ce n'est un message automatique et générique. On l'a dit, il y a l'exemple de nombreux militants, notamment de militantes LGBT, dont le compte a été suspendu sur Twitter pour des propos politiques ou le recours à des termes jugés insultants [2]. Il y a également l'exemple du média « Rapport de forces », très présent sur Facebook, qui a vu les mentions et les liens vers ses pages censurés. Ils ont eu énormément de difficulté à obtenir une réponse de Facebook, ils ont dû prendre un avocat et menacer la plateforme de poursuite pour pouvoir récupérer l'usage de leur page et la possibilité de republier.

Il faut bien comprendre que ce sont ces mécanismes de modération qui sont promus à travers la loi Avia ou le règlement « anti-terroriste ». Les outils à base d'intelligence artificielle sont mis en avant par les gouvernements en disant : « ils sont capables de faire ça, on peut demander la suppression automatisée des contenus en une heure ». Outre la question des errements d'une telle modération, cela pose un autre problème : il n'y a que les grandes plateformes qui seront capables de tenir de telles contraintes. Ce qui pose un coût à l'entrée très important pour les nouvelles plateformes sociales, qui seront contraintes d'acheter un service à Facebook par exemple à défaut de pouvoir se conformer à la loi.

La frontière n'est-elle pas parfois ténue entre ce travail de modération et une forme de censure politique ?

Il y a une modération qui est nécessaire, et mise en oeuvre à juste titre. Mais il y a aussi une modération qui s'apparente à une censure politique. Pendant la crise des gilets jaunes, il y a eu des centaines de comptes et de pages qui ont été fermés. Et on peut redouter que Facebook ait un peu tiré sur la corde, sur ses conditions générales d'utilisation (CGU), pour bien être vu du gouvernement. Et ça, quand on est attaqué de toute part en matière de protection des données, c'est assez malin. Du côté des gouvernements, quand on voit le règlement « anti-terroriste », on voit bien qu'il y a une tentation d'instrumentaliser la modération à des fins de censure politique. On a déjà vu de telles mesures être mises en œuvre contre des militants d'extrême-gauche dont les comportements ont été qualifiés par la police comme relevant du terrorisme pour bénéficier de pouvoirs de censure exceptionnels. Donc ça a déjà été fait, et s'ils veulent étendre possibilités, c'est pour lutter contre Daesh certes, mais aussi contre l'extrême-gauche. Historiquement, les lois de censure ou lois scélérates ont été mises en œuvre pour réprimer les mouvements anarchistes.

Les plateformes et les gouvernements sont-ils main dans la main en matière de censure en ligne ?

Il y a vraiment une rupture en 2015, les attentats en France ont été un déclencheur. Avant cette date, dans les rapports de transparence de Facebook, la France était le pays qui faisait le plus de demandes de retraits de contenu de la part de la police, bien devant l'Inde, par exemple. Après 2015, c'est devenu presque zéro, il n'y avait pratiquement plus de signalements faits par la police, parce que Facebook a pris en interne toutes les demandes : la plateforme faisait elle-même le travail de détection des contenus terroristes. Ce qui révèle bien l'évolution.

Il faut voir que, entre les plateformes et le gouvernement, tout le monde a à y gagner dans ce jeu-là : d'un côté les plateformes gagnent en légitimité, ce qui est bon pour les affaires… et leur permet également de continuer à enfreindre la loi en matière de protection des données personnelles et de publicité sans être jamais inquiétées, parce qu'elles font le sale boulot de la censure du Web pour le compte de l'État. Aujourd'hui, s'il n'y a pas quotidiennement des scandales, des affaires d'harcèlement qui conduisent au suicide, c'est aussi parce que Facebook et Google font le travail que ne fait pas la justice parce qu'elle n'est pas du tout équipée. Et ça les gouvernements en ont parfaitement conscience. Laetitia Avia l'a dit, elle considère Facebook comme un exemple de ce qu'il faudrait faire en termes de modération. Le gouvernement est très reconnaissant vis-à-vis des grandes plateformes. En échange, il n'est pas du tout regardant en matière de protection des données personnelles, et c'est notamment pour ça que le Règlement général sur la protection des données (RGPD) n'a jamais été réellement appliqué à ces entreprises depuis deux ans. Entre elles et les gouvernements, tout le monde est gagnant. Et tant que ces gigantesques plateformes existeront ce système perdurera parce que leur fonctionnement même pose problème en soi, et parce que la justice n'aura jamais les moyens de faire le travail de modération que font Facebook et Google.

Pour revenir à la « ligne éditoriale » des plateformes évoquée précédemment, en quoi celle-ci peut-elle être synonyme de ligne politique ? En d'autres termes, les plateformes sont-elles partisanes, peuvent-elles favoriser telle ou telle ligne politique, voire personnalité politique ?

Google et Facebook sont des publicitaires, leur métier consiste à mettre en avant des messages. S'ils sentent que leurs partenaires ont le vent dans le dos, qu'ils sont puissants, et qu'ils leur demandent de faire ceci ou cela, ils le feront volontiers, et de manière pro-active. Dans le cas des États-Unis, s'ils sentent que ce sera Biden qui va gagner les élections, ils suivront le vent et s'en prendront à Trump. Mais lorsque Trump était au pouvoir, ils se sont bien gardés de le faire. Ils sont là pour faire des affaires, pas pour être un service public, pour rendre service à l'humanité. La seule cause, c'est celle du plus offrant. Demain, vous arrivez avec des mallettes de billets pour promouvoir vos avions, vos 4x4 ultrapolluants, ils mettront votre publicité en premier – quitte à ce que cela contribue à détruire la planète.

Comment faire pour rompre avec le système de ces grandes plateformes ? Faut-il les démanteler ?

Pour nous, ces plateformes ne devraient pas exister. Nous ne défendons pas forcément l'idée d'un démantèlement de type antimonopolistique ; par contre il est clair que si on appliquait vraiment les mesures de protection des données personnelles, elles ne seraient plus en mesure d'être rentables, de fonctionner. Aujourd'hui, elles font des bénéfices uniquement parce qu'elles enfreignent la loi. Une application réelle du RGPD aurait donc potentiellement pour conséquence un démantèlement de fait.

Au-delà de la question de la protection des données, nous considérons qu'il faut limiter le pouvoir et le caractère central de ces plateformes. Il devrait y avoir une limite de taille à partir de laquelle on considère qu'une plateforme est géante et on lui impose une obligation d'interopérabilité. C'est-à-dire, obliger ces plateformes à ouvrir leur réseau aux autres plateformes, de sorte qu'il soit possible de partir de ces réseaux tout en conservant la possibilité d'interagir avec les utilisateurs de la plateforme : envoyer un message, suivre un fil, etc. C'est typiquement le fonctionnement du mail : on peut avoir des logiciels ou serveurs de mail différents, mais ils sont tous capables de fonctionner en interopérabilité. Idem pour le Web : il existe un nombre très différent de navigateurs et de serveurs qui permettent d'afficher des pages Web. Cette obligation d'interopérabilité pourrait s'appliquer aux messageries instantanées comme Whatsapp, Telegram, Signal ou encore Messenger : il suffirait d'un logiciel de messagerie pour échanger avec les utilisateurs de toutes ces applications.

Là encore, l'obligation d'interopérabilité pourrait conduire à un démantèlement de fait des grandes plateformes. Ou du moins, une réduction de leur taille, en favorisant le développement d'une myriade de nouveaux outils de réseaux sociaux, vers lesquels les gens iraient plus facilement. Ce principe d'interopérabilité progresse dans les esprits. Cela fait deux ans que le patron de Twitter évoque l'idée d'un protocole dont Twitter serait un client – devenant ainsi une plateforme parmi d'autres au sein d'un plus grand réseau. Une manière, peut-être, d'anticiper les évolutions réglementaires dans un contexte où le principe d'interopérabilité est de plus en plus discuté dans différentes instances.

Au-delà des initiatives réglementaires ou des anticipations des industriels, des alternatives ont déjà été mises en place par des bénévoles et militants. Ces outils de réseaux sociaux interopérables constituent le Fediverse, l'univers de toutes les plateformes fédérées et interconnectées par le protocole de communication ouvert ActivityPub, publié par l'organisme de normalisation du Web (W3C). Nous y contribuons à travers notre propre instance du réseau social Mastodon. Tout ceci montre bien qu'il ne s'agit pas d'utopie, mais d'alternatives nécessaires face à la mainmise des grandes plateformes.

Propos recueillis par Frédéric Lemaire, Pauline Perrenot et Mathias Reymond

[1] Voir à ce sujet l'interview d'une travailleuse qui a oeuvré pour l'amélioration de l'algorithme d'intelligence artificielle de l'assistant vocal de Microsoft, Cortana.

[2] Un article de Mediapart relayait à cet égard les inquiétudes des activistes LGBT français à propos de suppressions de comptes et de messages sur Twitter et Facebook.

La loi « haine » va transformer Internet en télévision

La Quadrature du Net — 2019-07-04T16:00:00Z

Nous publions ci-dessous, sous forme de tribune, un article de La Quadrature du Net qui revient sur le rôle du CSA dans la proposition de loi « contre la haine en ligne » actuellement examinée par l'Assemblée Nationale. Et alerte sur des dispositions qui vont contribuer à faire d'Internet un ORTF 2.0. (Acrimed)

La proposition de loi portée par Laetitia Avia prétend vouloir faire du CSA « l'accompagnateur des plateformes » dans la lutte « contre la haine en ligne ». En réalité, la loi va beaucoup plus loin. Comme cela est redouté depuis plusieurs années, elle amorce la transformation de l'autorité en un grand régulateur de l'Internet, dans la droite lignée du « Comité Supérieur de la Télématique » fantasmé par François Fillon dès 1996. Entretenant la dangereuse confusion entre Internet et la télévision, la loi Avia participe à la centralisation et à l'extra-judiciarisation de l'Internet. Quitte à risquer de le transformer en une sorte de sombre ORTF 2.0.

La proposition de loi portée par Lætitia Avia doit être débattue à l'Assemblée Nationale le 3 juillet prochain. À côté des dangers que nous avons déjà soulignés (voir notre analyse juridique), la loi délègue un grand nombre de pouvoirs au CSA :

- celui d'émettre des « recommandations, des bonnes pratiques et des lignes directrices pour la bonne application » de certaines obligations qui y sont prévues, notamment celles du retrait des contenus dits haineux et définis en son article 1er (contenus terroristes, atteinte à la dignité humaine, incitation à la haine, discriminations…) ;

- celui de mettre en demeure puis de sanctionner (à hauteur de 4% du chiffre d'affaires mondial, comme pour le RGPD [1]) les plateformes qui ne respecteraient pas l'obligation de retrait en 24h de ces contenus une fois qu'ils leur sont notifiés. À ce titre, c'est au CSA qu'il reviendra d'apprécier « le caractère insuffisant ou excessif du comportement de l'opérateur en matière de retrait sur les contenus portés à sa connaissance » ;

- enfin, il récupère le rôle de la CNIL dans le cadre du contrôle des demandes que peut faire l'OCLTCIC (Office central de lutte contre la criminalité liée aux technlogies de l'information et de la communication)
(et non un juge) pour obtenir le blocage par les FAI d'un site considéré comme pédopornographique ou à caractère terroriste.

Il faut ranger ces pouvoirs à côté de ceux aussi acquis par le CSA dans la récente loi sur les fake news, (dite loi « relative à la lutte contre la manipulation de l'information »). Le CSA y avait en effet déjà récupéré des pouvoirs assez semblables, comme celui d'émettre des recommandations pour « améliorer » la lutte contre ces fausses informations.

Une vieille et mauvaise idée

Avant de comprendre les dangers qui pourraient résulter d'une telle délégation de pouvoirs, intéressons-nous rapidement à l'historique des relations entre le CSA et l'Internet. Car ce n'est pas la première fois que l'autorité veut s'arroger ce type de pouvoir.

Ainsi, en 1996, François Fillon, alors ministre délégué à la Poste, aux Télécommunications et à l'Espace, dépose un amendement dans le cadre des débats sur le « projet de loi sur la réglementation des télécommunications ». Il y propose la création d'un « Comité supérieur de la télématique » (CST), placé auprès du CSA, chargé d'élaborer des recommandations « propres à assurer le respect, par les services de communication audiovisuelle […] des règles déontologiques adaptées à la nature des services proposés ». Comme le raconte Owni.fr, il s'agissait surtout d'obliger les fournisseurs d'accès à Internet, en échange d'une non-responsabilité pénale des contenus postés, à suivre les recommandations de ce Conseil. Ce dernier allait ainsi devenir, selon Lionel Thoumhyre, « l'organe directeur de l'Internet français, gouverneur de l'espace virtuel ». L'article de loi a été par la suite heureusement censuré par le Conseil constitutionnel.

Depuis, l'autorité n'a jamais baissé les bras, aidée par de nombreuses personnalités politiques [2]. Citons Dominique Baudis (président du CSA de 2001 à 2007) qui énonce en 2001 : « Je considère que tout ce qui concerne les médias audiovisuels, qui s'adressent à une masse de gens et qui ne sont ni du ressort de la correspondance privée, ni du commerce en ligne, relève de notre compétence. Le fait qu'ils ne soient disponibles que sur internet n'y change rien ». Ou en 2004 également, le gouvernement qui tente de profiter de la loi LCEN pour faire du CSA un grand régulateur de l'Internet (ce qui est finalement rejeté par le Parlement après de nombreuses critiques). Les tentatives reviendront ainsi à chaque débat, notamment sur les lois de l'audiovisuel.

Plus récemment encore, c'est Emmanuel Macron en novembre 2017, qui instrumentalise les violences faites aux femmes pour légitimer l'extension des pouvoirs du CSA. Et en septembre 2018, c'est le CSA lui-même qui appelle à ce que la régulation audiovisuelle comprenne désormais « les plateformes de partage de vidéos, les réseaux sociaux et les plateformes de diffusion en direct », précisant même que « la régulation doit permettre d'assurer que ces nouveaux acteurs mettent en place les mesures appropriées en matière de protection des mineurs, de lutte contre la diffusion de contenus incitant à la haine et à la violence […] ».

Pourquoi le CSA pour Internet, c'est mal

En lisant la loi Avia et les pouvoirs qui lui sont délégués, on ne peut que faire ce ce constat déprimant que le CSA est en train, à l'usure, de gagner. En lui donnant le pouvoir d'apprécier si l'opérateur a correctement retiré un contenu considéré comme « haineux », en lui donnant un pouvoir de sanction, en lui permettant d'émettre des recommandations sur la haine en ligne (comme elle le fait déjà sur les « fausses informations »), la proposition de loi se rapproche dangereusement de l'idée du « Comité Supérieur de la Télématique » de 1996 et participe donc à la confusion grandissante qu'il y a entre Internet et la télévision.

Or, faire cette confusion, c'est insulter ce que représente au départ Internet : un moyen justement de se soustraire à l'information linéaire et unilatérale de la télévision par la multiplication des canaux d'expression. L'analyse que faisait LQDN sur le sujet il y a plusieurs années tient toujours, et donne d'ailleurs la douloureuse impression de tourner en rond : « Le CSA régule la diffusion de contenus, de façon centralisée, par des acteurs commerciaux. Tenter d'imposer le même type de règles à la multitude d'acteurs, commerciaux et non-commerciaux, qui constituent le réseau décentralisé qu'est Internet, dans lequel chacun peut consulter, mais également publier des contenus, est une aberration. Internet c'est aussi la diffusion de vidéos, mais c'est avant tout la mise en œuvre de nos libertés fondamentales, le partage de la connaissance et de la culture, la participation démocratique, etc ».

Au-delà de l'aberration, vouloir télévisionner l'Internet, c'est vouloir le centraliser. C'est un moyen pour le gouvernement de reprendre le contrôle sur ce moyen d'expression qu'il ne maîtrise pas et cela passe par la création de lois pour et avec les grandes plateformes, en ne voyant Internet que par le prisme faussé des géants du Net, avec la menace qu'elles s'appliquent un jour à tous. Car il est toujours plus facile de ne traiter qu'avec un nombre restreint de gros acteurs (d'ailleurs plus prompts que les autres à collaborer avec lui.).

C'est aussi mettre dans les mains de l'administration des pouvoirs qui appartenaient auparavant au juge. C'est bien au CSA et non à un juge qu'il reviendra de décider si un contenu est haineux et méritait donc pour un opérateur d'être retiré en 24h. Et c'est donc, comme c'est déjà le cas pour la télévision, à l'administration qu'il reviendra de dire ce qui peut être dit ou diffusé sur Internet. Difficile à ce titre de ne pas faire le lien avec les récentes déclarations du secrétaire d'État au numérique qui menace cette fois-ci la presse de donner au CSA le pouvoir de « décider ce qu'est une infox ou pas ».

On en vient alors à se demander si, à travers cette loi, le gouvernement n'est pas en train d'instrumentaliser les débats sur la haine en ligne, ses victimes et Laetitia Avia elle-même pour reprendre la main sur Internet.

En déléguant au CSA de tels pouvoirs, avec l'objectif d'en faire le grand gendarme de l'Internet, la loi « haine » est un nouveau pas vers l'ORTF 2.0.

[1] Règlement général sur la protection des données

[2] Pour un récapitulatif et une analyse plus complète, voir notamment l'article de Félix Tréguer sur le sujet, en 2015 : « Le CSA et la régulation d'Internet : une erreur ontologique »).