Les groupes de protection de la vie privée numérique craignent que les protections ne créent une porte dérobée vers une surveillance généralisée et n’engendrent des abus.
Les communautés virtuelles offrent depuis longtemps aux jeunes LGBTQ un espace pour explorer leur identité, permettant aux enfants homosexuels de faire leur coming-out en toute sécurité, sans craindre les abus de parents qui ne les soutiennent pas.
Mais alors que les entreprises technologiques renforcent la surveillance au nom de la modération du contenu, la vie privée numérique des jeunes LGBTQ et d’autres personnes vulnérables peut être menacée.
Les nouvelles fonctionnalités de protection de l’enfance annoncées par Apple
Les nouvelles fonctionnalités de protection de l’enfance annoncées par Apple utilisent des algorithmes d’apprentissage automatique pour signaler les photos « sexuellement explicites » envoyées ou reçues dans l’application Messages par des utilisateurs mineurs inscrits à un plan familial.
Pour empêcher la diffusion d’images d’abus sexuels sur des enfants, les familles des enfants de moins de 13 ans peuvent choisir d’être averties et de recevoir une copie du contenu signalé.
Pour les enfants âgés de 13 à 17 ans, l’enfant est averti avant d’ouvrir le contenu signalé et personne d’autre n’est averti. Une autre mise à jour proposée pour les appareils Apple permettrait à la société de détecter les images sexuellement explicites connues d’enfants téléchargées sur iCloud Photos, puis de signaler le contenu au National Center for Missing and Exploited Children.
L’organisation de lutte contre la traite des êtres humains, qui utilise un outil automatisé pour identifier les enfants disparus dans les annonces de rapports sexuels, a salué l’engagement d’Apple à limiter la diffusion de matériel pédopornographique.
Mais les mises à jour pourraient mettre en péril le chiffrement et la sécurité de la messagerie
Il ne s’agit pas d’une violation potentielle des lois par Apple, mais du fait qu’Apple rende leurs utilisateurs plus vulnérables d’une manière que les gouvernements peuvent ensuite utiliser pour justifier l’adoption de lois interdisant à d’autres entreprises d’avoir un chiffrement fort et des systèmes de messagerie véritablement privés.
Les défenseurs des libertés civiles numériques et les utilisateurs d’Apple concernés ont organisé des manifestations, envoyé des lettres et signé des pétitions en réponse aux mises à jour proposées pour les iPhones, iPads, Apple Watches et macOS Monterey, qui, selon eux, violent la vie privée des utilisateurs et mettent les jeunes LGBTQ en danger.
Les fonctionnalités pourraient révéler l’identité de genre ou l’orientation sexuelle d’un enfant queer à un membre de la famille abusif sans son consentement, ou signaler à tort un contenu qui n’est pas sexuellement explicite.
En fin de compte, il est vraiment important de reconnaître que les jeunes ont le droit de communiquer en toute sécurité
Cette proposition sans précédent pourrait déclencher une tendance industrielle susceptible d’ouvrir une porte dérobée à une surveillance généralisée.
- Aucun logiciel de protection de la vie privée
- aucune modification de vos paramètres
- ou aucune précaution ne pourra vous protéger si l’appareil lui-même est utilisé comme une arme pour surveiller vos communications et vos activités.
En plus, les systèmes d’apprentissage automatique sont biaisés et la modération du contenu sexuel est souvent inexacte.
Une étude de 2019 de l’Université du Colorado Boulder a montré que les systèmes d’analyse faciale d’IBM, d’Amazon, de Microsoft et de Clarifai se trompaient toujours sur les personnes non binaires, et que les personnes transgenres étaient plus souvent mal identifiées que les personnes non trans.
Lorsque Tumblr a interdit les contenus pour adultes en 2018, son système automatisé a classé les chaussettes et les oreillers de trolls comme sexuellement explicites…
L’incapacité de ces systèmes à détecter les nuances pourrait avoir un impact majeur sur les communautés marginalisées
Les algorithmes utilisés pour automatiser la classification des photos peuvent lire certains corps comme plus sexuellement explicites que d’autres.
- SMS
- Localisation
- Appels
- Messages Tinder
- Messages Whatsapp
- Et j'en passe.
En 2019, Instagram et Facebook ont rejeté des publicités mettant en scène des personnes transgenres et non binaires entièrement vêtues parce qu’ils n’autorisaient pas « les publicités qui font la promotion de services d’escorte. »
Par exemple, un enfant qui explore son identité de genre pour la première fois peut lier sa poitrine pour la rendre plus plate et envoyer la photo à son ami. Cela peut exposer l’identité sexuelle ou de genre d’une personne avant qu’elle ne soit prête.
De telles révélations peuvent mettre les enfants en danger d’être maltraités ou mis à la porte par des parents qui ne les acceptent pas.
Les jeunes LGBTQ sont 120 % plus susceptibles de se retrouver sans abri que les enfants cisgenres ou hétérosexuels.
Sur la base des commentaires des clients, des groupes de pression, des chercheurs et d’autres personnes, Apple a décidé de prendre plus de temps au cours des prochains mois pour recueillir des informations et apporter des améliorations avant de publier ces fonctions de sécurité pour enfants.
Bien qu’elles aient été créées avec de bonnes intentions, les mises à jour proposées par Apple sont les derniers efforts déployés pour mettre fin au trafic sexuel, mais elles risquent de faire plus de mal que de bien.
L’adoption du projet de loi anti-trafic sexuel FOSTA-SESTA par le Congrès en 2018, qui visait à endiguer le trafic sexuel en rendant les plateformes en ligne responsables, a entraîné une répression généralisée des contenus sexuels en ligne et a rendu les travailleurs sexuels plus vulnérables à la violence.
Contrairement à ce qui est parfois dit aux Etats-Unis, les services de chiffrement de bout en bout ainsi que les outils permettant aux utilisateurs de signaler la désinformation, le harcèlement, le spam et les documents relatifs aux abus sexuels sur les enfants, sont les plus efficaces pour maintenir la sécurité et la vie privée des utilisateurs.
Idéalement, les utilisateurs auraient la liberté d’accéder à différents types de services par le biais d’applications, sans que celles-ci soient intégrées au système de messagerie principal.
Aux yeux des défenseurs de la cause, les communications chiffrées donnent du pouvoir aux utilisateurs les plus vulnérables.
Pour les communautés LGBTQ, le chiffrement et la sécurité numérique peuvent être une question de vie ou de mort.
Si Apple se soucie de protéger la communauté, elle devrait étendre et renforcer le chiffrement et la sécurité de ses appareils plutôt que de les affaiblir.
