Les défis de la modération des contenus : de l'importance de la coopération

Pourtant, il existe un risque non négligeable que des acteurs malveillants trouvent les moyens de contourner ces lignes directrices et parviennent à publier des contenus nuisibles en déjouant les règles des plateformes.

Il est crucial que les législateurs proposent aux plateformes une liste détaillant les types de comportements à interdire et la définition légale de termes importants comme "discours haineux", "harcèlement" et "désinformation". Plus les législateurs fourniront des informations spécifiques et précises sur ce qui doit être autorisé ou non, plus il sera facile pour les plateformes de mettre en place des processus de modération appropriés et pour les législateurs d'établir des mécanismes de responsabilité offrant un certain contrôle sur les efforts entrepris par les plateformes pour modérer les contenus.

Peut-on mettre en parallèle l'initiative françaises et l’approche américaine de la modération du contenu en ligne ?

Les efforts que mène la France pour développer une approche cohérente de ces questions sont louables. Les autorités américaines évoluent dans un environnement plus complexe : le premier amendement de la Constitution des Etats-Unis limite grandement les possibilités de modération des contenus. De plus, certaines personnalités politiques américaines ont dénoncé les biais prétendument anti-conservateurs des réseaux sociaux politiques, sur la base, dans le meilleur des cas, de preuves anecdotiques. Ainsi, si les plateformes américaines tentaient d’adopter des processus de modération plus actifs, leur marge de manoeuvre serait très restreinte. Dans les années à venir, je m'attends à voir un mouvement beaucoup plus fort en faveur de la modération des contenus en Europe qu'aux États-Unis.

Le gouvernement français et Facebook ont initié une collaboration, qui a mené à la publication du rapport de la mission de régulation des réseaux sociaux le 10 mai dernier. Que pensez-vous d'un tel rapprochement ? Est-ce une piste qui pourrait être encouragée ailleurs ?

Mon équipe au sein du Digital Forensic Lab de l’Atlantic Council et Facebook ont conclu un accord de coopération, donc vous ne serez pas surpris si je pense que la coopération a beaucoup de potentiel et qu'elle doit être renforcée ! En réalité, la taille de la plupart des plateformes - et pas seulement Facebook - est si importante par rapport au nombre de personnes qu'elles emploient qu'il leur est tout bonnement impossible de tout contrôler en interne. J’irais même jusqu’à dire que ce serait profondément troublant qu’elles s’y essaient. Il est donc fondamental que d'autres acteurs contribuent à la résolution des enjeux auxquels ces plateformes sont confrontées, et je pense en cela que la collaboration est un bon moyen d'y parvenir.

Par conséquent, la construction d'une relation de confiance entre les plateformes, leurs utilisateurs, les chercheurs et les décideurs politiques est essentielle. Seules les plateformes sont capables de conserver ce qui est partagé : elles doivent donc pouvoir s’assurer que les informations qu'elles dévoilent ne seront pas utilisées à mauvais escient. De leur côté, les utilisateurs doivent avoir confiance et considérer que l'information qu'ils partagent sur les plateformes ne fera pas l'objet d'abus. Enfin, gouvernements et plateformes doivent se faire mutuellement confiance pour être dans une relation efficace. Le traitement de cette question implique l'instauration d'échanges multipartites, qui réuniraient simultanément plateformes, législateurs, chercheurs, défenseurs et avocats de la protection de la vie privée.