Comment les réseaux sociaux se sont retournés contre les femmes

Sous le couvert de la liberté d’expression, des sociétés comme Facebook, Twitter et YouTube ont accueilli des vidéos de pornographie de vengeance, ce qui a donné aux utilisatrices un sentiment de non-liberté.

En décembre 2012, une Islandaise nommée Thorlaug Agustsdottir a découvert un groupe Facebook intitulé « Les hommes sont meilleurs que les femmes. »

Une image qu’elle y a trouvée, nous a écrit Thorlaug cet été dans un email, « était celle d’une jeune femme nue enchaînée à des tuyaux ou à un four dans ce qui ressemblait à un sous-sol en béton, toute meurtrie et ensanglantée. Elle regardait avec un horrible regard brisé celui qui prenait la photo d’elle recroquevillée et nue. »

Thorlaug a écrit un post indigné à ce sujet sur sa propre page Facebook.

Peu de temps après, un utilisateur de « Les hommes sont meilleurs que les femmes » a posté une image du visage de Thorlaug, modifié pour apparaître ensanglanté et meurtri. Sous l’image, quelqu’un a commenté :

« Les femmes sont comme l’herbe, elles ont besoin d’être battues/coupées régulièrement. »

Un autre a écrit : « Tu as juste besoin d’être violentée ». Thorlaug a signalé l’image et les commentaires à Facebook et a demandé que le site les supprime.

« Nous avons critiqué la photo que vous avez signalée » , a répondu automatiquement Facebook, « mais nous avons constaté qu’elle ne violait pas les normes communautaires de Facebook en matière de discours haineux, ce qui inclut les publications ou les photos qui attaquent une personne en raison de sa race, de son origine ethnique ou nationale, de sa religion, de son sexe, de son genre, de son orientation sexuelle, de son handicap ou de son état de santé » .

Au lieu de cela, les filtres de Facebook ont étiqueté le contenu « Humour controversé » . Mme Thorlaug n’y voyait rien de drôle. Elle craignait que les menaces soient réelles.

Une cinquantaine d’autres utilisateurs ont envoyé leurs propres demandes en son nom. Tous ont reçu la même réponse. Finalement, le soir du Nouvel An, Mme Thorlaug a appelé la presse locale, et l’histoire s’est répandue à partir de là. Ce n’est qu’à ce moment-là que l’image a été retirée.

En janvier 2013, Wired a publié un compte rendu critique de la réponse de Facebook à ces plaintes. Un porte-parole de l’entreprise a immédiatement contacté la publication pour expliquer que les filtrages de Facebook avaient mal géré l’affaire, concédant que la photo de Thorlaug « aurait dû être retirée lorsqu’elle nous a été signalée. »

Selon le porte-parole, la société essaie de traiter les plaintes concernant les images au cas par cas dans les 72 heures, mais avec des millions de rapports à critiquer chaque jour, « il n’est pas facile de suivre les demandes. »

Le porte-parole, anonyme pour les lecteurs de Wired, a ajouté : « Nous nous excusons pour cette erreur. »

Si la télévision a fait entrer la brutalité de la guerre dans le salon des gens, internet en fait sortir la violence contre les femmes

Autrefois largement cachée, cette brutalité est aujourd’hui exposée de manière inédite.

• D’une part, ces images et ces mots en ligne font prendre conscience d’un problème de longue date.
• D’autre part, l’amplification de ces idées sur les réseaux sociaux valide et propage la pathologie.

Tout cela a soulevé une série de questions troublantes :

• Qui prolifère ce contenu violent ?
• Qui en contrôle la diffusion ?
• Quelqu’un devrait-il le faire ?

En théorie, les entreprises de réseaux sociaux sont des plateformes neutres où les utilisateurs génèrent du contenu et le signalent sur un pied d’égalité. En d’autres termes, les médias sociaux sont plus un symptôme qu’une maladie :

Un rapport de 2013 de l’Organisation mondiale de la santé a qualifié la violence à l’égard des femmes de « problème de santé mondial de proportion épidémique » :

• allant de la violence domestique
• de la traque
• du harcèlement de rue
• au trafic sexuel
• au viol
• et au meurtre

Cette épidémie se développe dans la boîte de pétri des réseaux sociaux.

Si certaines des agressions contre les femmes sur internet se produisent entre des personnes qui se connaissent, et sont incontestablement illégales, la plupart se produisent entre des inconnus.

Sur les sites web et les plateformes de réseaux sociaux, les commentaires sexistes quotidiens existent le long d’un spectre qui comprend :

• la surveillance sexuelle illicite
• les « creepshots »
• l’extorsion
• le doxxing
• le harcèlement
• l’usurpation d’identité malveillante
• les menaces
• les vidéos et photographies de viol

L’utilisation explosive d’internet pour la traite des êtres humains a également sa place dans ce spectre, étant donné que les trois quarts des victimes de la traite sont des filles et des femmes.

Un rapport intitulé « Misogyny on Twitter », publié par l’organisation de recherche et de politique Demos en juin 2014, a trouvé plus de 6 millions d’occurrences du mot « slut » ou « whore » utilisé en anglais sur Twitter entre le 26 décembre 2013 et le 9 février 2014.

Les mots « bitch » et « cunt » n’ont pas été mesurés.

On estime que 20 % des Tweets de l’étude sur la misogynie sont apparus, aux yeux des chercheurs, comme menaçants.

Un exemple : « @XXX @XXX Tu es une putain de salope laide et stupide, je vais aller à ton appartement et te couper ta putain de tête, espèce de pute consanguine ».

Une deuxième étude a montré que si les célébrités masculines, les femmes journalistes et les hommes politiques sont les plus susceptibles d’être victimes d’hostilité sur internet, les femmes sont nettement plus susceptibles d’être ciblées spécifiquement en raison de leur sexe, et les hommes sont en grande majorité ceux qui pratiquent le harcèlement.

Pour les femmes de couleur, ou les membres de la communauté LGBT, le harcèlement est amplifié.

« Au cours de mes cinq années sur Twitter, j’ai été traitée de « nègre » tellement de fois qu’il s’agit à peine d’une insulte » , explique Imani Gandy, avocate et analyste juridique. « Disons que mon verre de « nègre » est plein à craquer. »

Le suicide d’Amanda Todd en 2012

Pour certains, les coûts sont plus élevés.

En 2010, Amanda Todd, âgée de 12 ans, a dénudé sa poitrine lors d’une discussion internet avec une personne qui lui avait assuré être un garçon, mais qui était en fait un homme adulte ayant des antécédents de pédophilie.

Pendant les deux années suivantes, Amanda et sa mère, Carol Todd, n’ont pas pu empêcher des utilisateurs anonymes de publier cette image sur des pages à caractère sexuel. Une page Facebook, intitulée « Controversial Humor » , a utilisé le nom et l’image d’Amanda (et les noms et images d’autres filles) sans consentement.

En octobre 2012, Amanda s’est suicidée, en publiant une vidéo YouTube qui expliquait son harcèlement et sa décision. En avril 2014, les autorités néerlandaises ont annoncé qu’elles avaient arrêté un homme de 35 ans soupçonné d’avoir utilisé internet pour extorquer des dizaines de filles, dont Amanda, au Canada, au Royaume-Uni et aux États-Unis.

• Le suspect est désormais accusé de pédopornographie
• d’extorsion
• de harcèlement criminel
• et de leurre sur internet

Lorsqu’Anita Saarkeesian a lancé un Kickstarter pour développer une série féministe sur YouTube, quelqu’un a créé un jeu où des milliers de joueurs pouvaient virtuellement lui matraquer le visage.

Presque immédiatement après qu’Amanda a partagé son image originale, des versions modifiées sont apparues sur des pages, et des vidéos ont proliféré. L’une des pages était remplie de photos de filles prépubères nues, les encourageant à boire de l’eau de Javel et à mourir.

Si elle apprécie les nombreux hommages rendus en ligne à sa fille, Carol Todd est hantée par l’ « humour suicidaire » et les contenus pornographiques désormais liés à jamais à l’image de sa fille.

Il existe des pages Web consacrées à ce qu’on appelle désormais le « Todding »

L’une d’entre elles présente la photographie d’une jeune femme pendue.

Pendant ce temps, l’extorsion d’autres victimes se poursuit. Dans un nombre croissant de pays, les violeurs filment désormais leurs viols sur des téléphones portables afin de pouvoir faire chanter les victimes pour qu’elles ne portent pas plainte.

En août, après le viol collectif d’une jeune indienne de 16 ans, celle-ci a expliqué :

« J’avais peur. Pendant que je me faisais violer, un autre homme a pointé une arme et m’a filmée avec la caméra de son téléphone portable. Il a dit qu’il téléchargerait le film sur le Net si je le disais à ma famille ou à la police. »

Au Pakistan, le groupe Bytes for All (une organisation qui a déjà poursuivi le gouvernement pour avoir censuré des vidéos YouTube) a publié une étude montrant que les réseaux sociaux et les technologies mobiles causent un réel préjudice aux femmes du pays.

Gul Bukhari, l’auteur du rapport, a déclaré à Reuters :

« Ces technologies contribuent à accroître la violence à l’égard des femmes, et ne font pas que la refléter. »

En juin 2014, une jeune fille de 16 ans nommée Jada a été droguée et violée lors d’une fête au Texas. Des fêtards ont posté une photo d’elle gisant inconsciente, une jambe repliée en arrière. Très vite, d’autres internautes en ont fait un mème, se moquant de sa pose et utilisant le hashtag #jadapose.

Kasari Govender, directeur exécutif du West Coast Legal Education and Action Fund (LEAF), basé à Vancouver, qualifie ce type de comportement de « cybermisogynie » . « La cyberintimidation, dit-elle, est devenue un terme que l’on jette souvent en l’air sans vraiment le comprendre. Nous pensons qu’il est important de nommer les forces qui motivent ce phénomène afin de déterminer comment y remédier. »

Dans un acte inhabituellement audacieux, Jada a répondu en parlant publiquement de son viol et des abus sur internet qui ont suivi. Ses partisans ont rapidement pris sa défense sur internet.

« Il ne sert à rien de se cacher » , a-t-elle déclaré à un journaliste de télévision. « Tout le monde a déjà vu mon visage et mon corps, mais ce n’est pas ce que je suis et qui je suis. Je suis juste en colère. »

Après que Facebook a supprimé l’image altérée de Thorlaug et les menaces de viol, elle s’est sentie soulagée, mais elle était aussi en colère.

« Ces erreurs vont se manifester à nouveau » , a-t-elle déclaré à Wired, « s’il n’y a pas de politique suffisamment claire » .

Pourtant, à l’époque du rapport de Mme Thorlaug, Facebook avait bien une politique claire. Ses normes communautaires détaillées en matière d’expression, souvent considérées comme l’étalon-or du secteur, étaient renforcées par des outils de signalement permettant aux utilisateurs de signaler tout contenu offensant, et Mme Thorlaug avait utilisé ces outils conformément aux instructions.

Lorsque le problème concerne la moitié de la population mondiale, il est difficile de le classer dans la catégorie des « problèmes domestiques »

Qui plus est, il y a des problèmes de liberté d’expression des deux côtés de l’équation du contenu réglementé.

• D’un côté, nous avons les intérêts expressifs des harceleurs à menacer, à poster des photos, à diffuser des diffamations, des menaces de viol, des mensonges
• Et d’autre part, vous avez les intérêts de la liberté d’expression, entre autres, des victimes, qui sont réduites au silence et sont mises hors ligne.

Pour les harceleurs en ligne, il s’agit souvent d’un objectif manifeste : réduire au silence les membres féminins de la communauté, que ce soit par des insultes à caractère sexuel ou des menaces directes (voir ici nos articles sur le harcèlement).

Pour leur part, les entreprises de réseaux sociaux expriment souvent leur engagement envers la sécurité des utilisateurs, mais minimisent leur influence sur la culture générale. Les administrateurs expliquent à plusieurs reprises que leurs entreprises, bien que très soucieuses de protéger les utilisateurs, n’ont pas pour mission de contrôler la liberté d’expression.

Comme le dit Biz Stone, cofondateur de Twitter, dans un billet intitulé « Tweets Must Flow » :

« Nous nous efforçons de ne pas supprimer les Tweets en raison de leur contenu » . Les directives de l’entreprise encouragent les lecteurs à ne plus suivre la partie offensante et à « exprimer leurs sentiments pour pouvoir passer à autre chose. »

Rien de tout cela n’a été d’une grande aide pour Caroline Criado-Perez, une journaliste et féministe britannique qui a aidé à obtenir une photo de Jane Austen sur le billet de 10 £. Le jour où la Banque d’Angleterre a fait l’annonce, Criado-Perez a commencé à recevoir plus de 50 menaces violentes par heure sur Twitter.

« L’impact immédiat a été que je ne pouvais ni manger ni dormir » , a-t-elle confié au Guardian en 2013. Elle a demandé à Twitter de trouver un moyen de faire cesser les menaces, mais à l’époque, l’entreprise ne proposait aucun mécanisme pour signaler les abus.

Depuis, la société a publié un bouton de signalement, mais son utilité est extrêmement limitée : Il exige que chaque tweet soit signalé séparément, un processus lourd qui ne donne à l’utilisateur aucun moyen d’expliquer qu’il est la cible d’un harcèlement continu.

Pourtant, des entreprises comme Facebook, Twitter et YouTube modèrent le contenu et prennent des décisions quasi-gouvernementales concernant le discours

Une partie de la modération du contenu est liée à des obligations légales, comme dans le cas de la pornographie enfantine, mais une grande partie est une question d’interprétation culturelle.

Des entreprises ont révélé que les gouvernements s’appuient sur elles pour mettre en œuvre des demandes de censure – plus tôt cette année, par exemple, Twitter a bloqué des tweets et des comptes jugés « blasphématoires » par le gouvernement pakistanais.

En réponse à ces incursions gouvernementales, une coalition d’universitaires, de juristes, de sociétés, d’organisations à but non lucratif et d’écoles s’est réunie en 2008 pour former la Global Network Initiative, une organisation non gouvernementale dédiée à la protection de la vie privée et à la liberté d’expression.

Malgré toutes ses lacunes, Facebook fait plus que la plupart des entreprises pour lutter contre les agressions en ligne contre les femmes

Au cours des 10 dernières années, Facebook a pris des mesures pour améliorer son système de signalement.

Matt Steinfeld, un porte-parole de Facebook, a parlé de la recherche sur la compassion de Facebook, un projet de prévention de l’intimidation développé en collaboration avec le Center for Emotional Intelligence de Yale.

Les outils développés dans le cadre de ce programme ont plus que triplé le taux d’envoi par les utilisateurs d’un message directement à la personne qui a publié le matériel offensant, demandant le retrait des photos ou des commentaires. Désormais, dans 85 % de ces demandes, la personne qui a publié la photo la retire ou envoie une réponse.

Cependant, la société n’a pas encore trouvé d’approche fiable pour traiter les 15 % de cas restants.

« Nous avons toujours reconnu qu’il y aura du contenu qui ne sera pas modéré par les outils de compassion », a déclaré Steinfeld. « Nous n’allons pas dire aux gens qui a raison et qui a tort ».

« Etant donné que les drapeaux restent ouverts à l’interprétation et peuvent être manipulés, ils peuvent également être expliqués lorsque le site préfère les ignorer. »

De nombreux dirigeants de la Silicon Valley – comme Jack Dorsey, cofondateur de Twitter, qui a récemment reconnu l’existence d’une « crise du leadership » chez les femmes dans le secteur des technologies – ont investi dans des programmes qui, espèrent-ils, encourageront les filles à entrer et à rester dans les domaines des sciences, des technologies et de l’ingénierie.

Cependant, le fait que les entreprises comprennent mieux la nécessité d’encourager les filles et les femmes ne signifie pas nécessairement qu’elles sont les bienvenues. Malgré la présence de femmes visibles, actives et éminentes dans le secteur, selon une étude récente, 56 % des femmes qui entrent dans la technologie quittent le secteur, déclarant souvent qu’elles ont été poussées dehors par le sexisme.

Ce taux d’attrition est deux fois supérieur à celui de leurs homologues masculins.

Il n’est pas difficile d’imaginer comment des préjugés inconscients peuvent affecter l’architecture des systèmes, y compris la façon dont les entreprises traitent les demandes de modération

• D’autres experts s’accordent à dire que les entreprises ont la responsabilité d’assurer une plus grande transparence.
• Elles doivent également consacrer davantage de personnel à la compréhension et à la réalisation de la modération.
• Elles doivent attirer et retenir les femmes ingénieurs, programmeurs et gestionnaires.
• Elles doivent inviter des experts en prévention de la violence à leurs tables.

Que ce soit sur internet ou ailleurs, il semble y avoir un consensus croissant sur le fait que la misogynie nécessite une réponse sociétale de grande envergure.