Le guide secret de Facebook sur le sexe, la violence et les discours haineux révélé

Technologie : Ces documents internes montrent la position du géant des médias sociaux sur la morale et l’éthique liées au contenu publiés par les utilisateurs.

Les règles secrètes et les guides de Facebook indiquent comment les modérateurs doivent s’attaquer à tout type de situation, de l’automutilation à la violence en passant par le discours haineux. Une lutte quotidienne que mène l’entreprise pour contrôler le partage de contenu sur son réseau.

 

Facebook Live est un service de diffusion vidéo en direct initialement conçu pour rivaliser avec d’autres plateformes comme YouTube, Ustream et Twitch. L’enregistrement et le partage de séquences vidéo en direct sont devenus populaires ces dernières années, et avec l’expansion de la plate-forme de Facebook pour inclure la fonctionnalité, plus que jamais nous enregistrons ou regardons les flux vidéos de nos contacts.

Cependant, des critiques existent vis à vis de Facebook depuis le lancement de la plate-forme, car le service de diffusion de vidéo en direct a aussi été utilisé pour des vidéos montrant des événements violents. Selon le Wall Street Journal, au moins 50 actes de violence ont été diffusés aux 1,8 milliard d’utilisateurs du réseau, y compris des suicides en direct, des meurtres et des agressions sexuelles.

Une ligne jaune difficile à tracer

La ligne jaune entre la liberté d’expression et la protection des utilisateurs est difficile à dessiner. En raison de la taille du réseau, Facebook prend souvent quelques heures – avec l’aide de rapports – pour supprimer des images inacceptables. Et pour faciliter ce travail le PDG Mark Zuckerberg a promis d’embaucher 3.000 personnes supplémentaires en plus des 4.500 employés qui surveillent déjà les flux vidéo et les téléchargements vidéos. Les administrateurs doivent savoir où la ligne a été tracée entre des contenus inacceptables et des images qui ne doivent pas être censurées.

Dimanche, The Guardian a révélé le code de conduite que doivent suivre les employés (et prestataires) du géant des médias sociaux. Plus de 100 manuels, feuilles de calcul et tableaux de formation interne de Facebook présentent des lignes directrices pour tout type de contenu à modérer, de la violence au terrorisme en passant par la pornographie, le racisme, l’automutilation et même au cannibalisme.

Les menaces contre les dites “catégories protégées” comme les mentions sur le président Trump devraient être supprimées selon les guidelines de Facebook – et donc “Someone Shoot Trump” (“Quelqu’un a tiré sur Trump”) ne sont par exemple par publiables su Facebook. Cependant, des menaces générales et émotives telles que “f *** off and die” (oui, inutile de traduire) sont autorisées à la publication.

Extraits instructifs

Le document mentionne :

“Nous devons dire que le langage violent n’est le plus souvent pas crédible jusqu’à ce que la spécificité de la langue nous donne un motif raisonnable de penser qu’il n’est plus seulement l’expression d’une émotion mais une transition vers une pensée précise ou un plan d’action.

Dans cette perspective, un langage tel que “Je vais vous tuer” ou “F *** off and die” n’est pas crédible. C’est une expression violente d’antipathie et de frustration”.

Les vidéos de mort violente, le harcèlement à l’école et l’automutilation sont noté par les modérateurs comme “perturbants”, mais ne doivent pas être supprimés à moins qu’il y ait un “élément sadique ou festif” mentionne The Gardian. Les documents indiquent que de telles vidéos peuvent faire partie de campagnes de sensibilisation et peuvent être “utiles à la sensibilisation à l’automutilation, aux maladies mentales ou aux crimes de guerre et à d’autres problèmes importants”.

La grande question de la subjectivité

Facebook doit autoriser les vidéos en direct d’automutilation a priori, car l’entreprise “ne veut pas censurer ou punir les personnes en détresse qui tentent de se suicider”, mais elles seront supprimées une fois qu’il n’y a “plus d’occasion d’aider la personne.”

En outre, les images d’abus d’animaux peuvent être partagées, ainsi que des œuvres artistiques montrant de la nudité et de l’activité sexuelle, pour autant qu’elles n’aient pas été créées numériquement. Il sera toujours difficile, sinon impossible, de toujours s’accorder sur l’acceptabilité d’un contenu pour les utilisateurs.

Par nature, le contenu que vous considérerez comme “offensant” ou “obscène” – avec quelques exceptions possibles, comme la violence faite aux enfants – est subjectif et le maintien d’un “bon” niveau de censure, de suppression de contenu et de liberté d’expression est un défi toujours plus important pour Facebook à mesure que son réseau se développe et que la visualisation de vidéo devient populaire.

“Garder les gens sur Facebook en toute sécurité est la chose la plus importante que nous faisons” a déclaré Monika Bickert, responsable de politique mondiale de Facebook, dans un communiqué au site sœur CNET. “En plus d’investir dans plus de personnes, nous construisons également de meilleurs outils pour maintenir notre communauté en sécurité”.

Nous allons rendre plus simple le signalement des problèmes, et plus rapide la capacité de nos évaluateurs pour déterminer quels contenus violent nos normes et comment contacter les forces de l’ordre si quelqu’un a besoin d’aide” ajoute Monika Bickert.

  • Contenus haineux : Facebook, Twitter, YouTube trop souples avec la modération ?
  • Modération sur les réseaux sociaux : les marques externalisent
  • Face aux critiques, Twitter revoit sa modération et présente de nouveaux outils
  • Facebook s’engage (enfin) contre les discours extrémistes
  • Haine sur Internet – Quid de la bonne conduite de Facebook, Twitter, YouTube et Microsoft ?

Le guide secret de Facebook sur le sexe, la violence et les discours haineux révélé

Source : L’article << Le guide secret de Facebook sur le sexe, la violence et les discours haineux révélé >> est extrait de ZDNet

Une sélection d'articles qui pourraient vous intéresser ...

rester-informer
Ne manquez plus rien!
Abonnez-vous dès maintenant aux infos de SOSVirus et recevez chaque mois, le meilleur de la sécurité informatique : news, tutos, hacking, alerte ransomware, spam alerte ...

Par | 2017-05-22T14:03:59+00:00 mai 22nd, 2017|Actualité|0 commentaire

Laisser un commentaire