La planète compte 4,2 milliards d’utilisateurs des réseaux sociaux. Plus que jamais, la crise sanitaire a accru leur usage et le nombre d’utilisateurs a bondi de 13% en 2020 d’après une étude de We Are Social. S’ils ont révolutionné nos vies (allant même jusqu’à permettre à une femme de 40 ans de retrouver son père biologique ou à d’autres de trouver l’amour), il n’en demeure pas moins que les dérives liées à leur utilisation posent problème. Cyberharcèlement, ingérence politique, addiction… la face noire des réseaux sociaux, si elle s’opère en ligne, a bien des conséquences dans la réalité de ses utilisateurs. Voyons comment certains entrepreneurs (notamment suivis chez RAISESHERPAS) tentent de répondre à cette problématique sociétale par la Tech.

Les réseaux sociaux sont-ils à modérer sans modération ? 🤔

Le cyber-harcèlement

Véritable fléau, le cyberharcèlement sévit depuis les débuts d’Internet et ne cesse de croître avec l’avènement des réseaux sociaux. A l’occasion du Safer Internet Day, Microsoft a révélé que 62% des Français interrogés déclarent avoir été exposés au harcèlement en ligne.

35.000

C’est le nombre de modérateurs qui s’activent du côté de Facebook afin de supprimer les contenus haineux et criminels en tout genre. Alors que les plus grandes œuvres d’art se retrouvent condamnées sur le web (L’origine du Monde de Courbet a ainsi été assimilé à de la pornographie), ces modérateurs de contenus sont souvent laissés seuls face à des images d’une extrême violence qui échappent à la vigilance des algorithmes. Il faut dire qu’en France, un commentaire sur huit postés sur Facebook était à caractère haineux en 2019. Lorsqu’on compare le nombre “d’éboueurs du Web” chez Facebook au nombre d’utilisateurs du réseau (plus de 2,5 milliards), on se dit que le chantier est encore titanesque, d’autant que leur stratégie de modération repose sur le signalement des utilisateurs.

Face au manque d’efficacité des réseaux sociaux à modérer le contenu diffusé sur leur plateforme et à la difficulté à définir juridiquement la notion de cyberharcèlement, des startups viennent jouer les super-héros. Leur mission ? Protéger les individus des dérives haineuses pratiquées sur les réseaux sociaux, alors que l’anonymat libère la parole injurieuse et diffamatoire.

La startup : Bodyguard

Bodyguard est une startup française fondée par Charles Cohen (et qu’on est fiers d’accompagner chez RAISESHERPAS 💪) qui a développé une application qui modère en temps réel toutes les interactions des utilisateurs et utilisatrices sur les réseaux sociaux, en les protégeant des contenus haineux de manière automatique et sur-mesure, grâce à l’IA.

Bodyguard détecte plus de 90 % des contenus toxiques (contre 40 % en moyenne), avec un taux d’erreur de seulement 2 %. Contrairement aux autres réseaux sociaux, la techno de natural language processing (NLP) de Bodyguard est capable d’analyser les commentaires selon le contexte, mais aussi en dépit de la présence de fautes d’orthographes ou encore d’émojis… Enfin, seuls les commentaires supprimés (et qui dépendent des règles de modération choisies par l’utilisateur) sont stockés par Bodyguard pour que chacun puisse y accéder si besoin ou s’il souhaite les restaurer, mais en aucun cas Bodyguard n’a accès au reste des données des utilisateurs.

En bref, avec Bodyguard, chacun choisit sa modération en toute transparence.

« Toutes les 10 ou 20 secondes, nos serveurs récupèrent les commentaires sous vos vidéos YouTube et vos photos Instagram, les mentions sur Twitter, les commentaires sur Twitch, et les analysent. Si notre technologie détecte un contenu considéré comme haineux, il est retiré. » Charles Cohen, CEO de Bodyguard.

Réseaux sociaux, forums et salons de discussions n’échappent pas au harcèlement en ligne et le sujet est plus que jamais à l’ordre du jour. On assiste ainsi à une prise de conscience des géants du secteur avec par exemple le rachat de Sentropy par Discord (création d’IA pour lutter contre le harcèlement en ligne) ou la création de partenariats entre Yubo et des associations spécialisées contre le harcèlement en ligne et la protection des mineurs.

Les Fake News

Le cyberharcèlement n’est pas le seul talon d’Achille des réseaux sociaux. Les Fake News, ces fausses informations diffusées sur les plateformes d’interactions sociales, peuvent ainsi aller jusqu’à influencer des élections politiques ou rendre virale la rumeur de trafics d’enfants organisés par Hillary Clinton dans l’arrière boutique d’une pizzeria de Washington…

x6

Selon une étude du MIT, les fausses informations circulent 6 fois plus vite que les informations vérifiées. De nombreuses startups se positionnent ainsi sur le repérage de ces infox grâce à l’intelligence artificielle.

La startup : BusterAI

BusterAI permet de de débusquer des incohérences grâce à d’énormes bases de données et comptes sur les réseaux sociaux considérés comme fiables. Même promesse pour Fabula AI, rachetée par Twitter en Juin 2019, capable de détecter les infox avec un taux de réussite très prometteur, atteignant les 93%.

« Il y a de plus en plus de fake news sur des sujets capitaux comme les armes, les virus. Mais la goutte de trop pour moi, ça a été Cambridge Analytica, qui, en aspirant les données personnelles de millions de citoyens, a influencé les élections américaines » déclare Julien Mardas, CEO de BusterAI.

La modération n’est pour autant pas si simple, puisqu’elle peut parfois être assimilée à une atteinte à la liberté d’expression ou d’opinion et in fine à de la censure. Ainsi, quand Facebook et Twitter ont décidé de bloquer les contenus de désinformation liés aux élections américaines et notamment le compte de Donald Trump, de nombreux utilisateurs se sont réfugiés sur Parler, qui sont plus souples dans leur règle de modération.

Donald Trump banni de Twitter et Facebook : les réseaux sociaux entre laxisme et censure

Editorial du “ Monde “. “ You’re fired ! “ (“ vous êtes viré ! “). Que de fois cette phrase a-t-elle été prononcée par…

www.lemonde.fr

L’addiction numérique

Une trop forte utilisation des réseaux sociaux peut avoir un impact néfaste sur la santé mentale de ses utilisateurs, encore plus chez les jeunes adultes, en pleine construction et acceptation de soi.

Des études scientifiques démontrent ainsi une corrélation entre le temps passé sur les réseaux sociaux et le risque de dépression. Manque de confiance en soi, comparaison permanente aux autres et déformation de la réalité sont autant de conséquences d’une trop grande exposition. Sans compter sur la qualité du sommeil, également influencée par le temps passés sur les écrans.

2h20

D’après Statista, il est estimé que les internautes du monde entier passent en moyenne plus de 2h20 par jour sur les réseaux sociaux.

Les réseaux sociaux ont évidemment un intérêt à vous faire passer de plus en plus de temps sur leurs app et disposent de différentes techniques telles que le scrolling infini ou encore les notifications push : plus vous y passez du temps, plus votre activité est suivie, plus la data générée est importante et assure le succès du business model de ces réseaux basés sur la publicité.

L’astuce : limiter votre temps passé sur certaines app dans les paramètres de votre téléphone.

Face à de nouvelles générations biberonnées aux réseaux, des plateformes de plus en plus nombreuses et des créateurs de contenu de plus en plus influents, la modération des réseaux sociaux est une préoccupation majeure. Enjeu éminemment politique et lié à l’épineux sujet de la liberté d’expression, il constitue un sujet d’innovation majeur, dont il est passionnant de suivre les évolutions. En attendant de voir ce que l’avenir nous réserve, on vous recommande vivement de découvrir les startups évoquées et on se dit que finalement, les réseaux sociaux, c’est un peu comme le pastis : il faut savoir les diluer, et les consommer avec modération !

‍