Modération du contenu indésirable et choquant

Comment ça fonctionne ?

L’auteur de ce sujet a trouvé une solution à son problème.
Auteur du sujet

Bonjour !

Je suis désolé mais ce topic va paraître bizarre. J’ai vu il y a quelque temps un documentaire d’Arte qui s’intéresse à la modération des contenus sur le Web et sur Internet. Ce que j’en ai retenu c’est que les grandes entreprises du Web (je pense qu’on peut parler des GAFAM) reçoivent en permanence de grandes quantités d’images et de textes au travers de leurs réseaux sociaux ou autres services, et on besoin de détecter et d’éliminer le contenu indésirable (propos haineux, incitation au terrorisme, pornographie, images choquantes, etc.). Pour ce faire, ils font appel à des sous-traitants généralement situés dans des pays en développement (Asie, Afrique) qui emploient des personnes qui vont se confronter aux contenus et décider, selon les consignes, si l’élément doit être bloqué ou non. Même si des algorithmes permettent d’automatiser le processus partiellement, le travail est en grande partie réalisé par des êtres humains.

Une question que je me pose souvent en tant que développeur amateur (web ou autre) est la suivante : comment modérer le contenu sur des sites de taille petite ou moyenne ? Existe-t-il des services (via API par exemple) qui permettent de faire vérifier les images et les textes suspects ? Et qu’en est-il pour Zeste de Savoir : un système de modération pour ce genre de contenu est-il en place ? Le site a-t-il déjà été confronté à des images choquantes ? Que va-t-il se passer, si un utilisateur poste (par exemple !) l’image d’un homme décapité ?

Enfin, autant au niveau des grands sites Web que des petits, l’intégralité du contenu est-il modéré, ou le processus ne concerne que les contenus qui ont été signalés ?

Cordialement, Croal

+0 -0

Salut,

Sur Zeste de Savoir, tout est manuel.

Collectivement, les modérateurs lisent une grande partie de ce qui est posté, en particulier sur les forums.

À côté de ça, les simples membres peuvent signaler un message, ce qui lève une alerte pour l’équipe de modération.

+6 -0

Staff

Cette réponse a aidé l’auteur du sujet

Salut,

Pour ZdS, on fait de la modération a posteriori, entièrement humaine, les membres pouvant signaler les contenus avec le bouton éponyme. Avec le traffic qu’on a c’est largement gérable et les alertes sont traitées rapidement.

Comme contenu choquant, on a eu quelque images pornographiques, et c’est tout. Les spams sont beaucoup plus embêtants.

I don’t mind that you think slowly, but I do mind that you are publishing faster. — W. Pauli

+3 -0
Auteur du sujet

D’accord ! Merci pour vos réponses.

Donc tout est manuel et l’équipe n’a jamais été confrontée à des contenus très violents. Mais, en tant que modérateurs, vous n’avez pas peur un jour de tomber sur une image vraiment horrible, qui vous restera dans la tête ?

Là encore je me demande s’il existe des services à qui on peut sous-traiter le travail. J’ai souvent des idées d’applications web ou autres projets mais je bute sur cet aspect de modération, dans le sens où je ne veux pas m’en charger moi-même, de peur de ce que je pourrais voir.

Et légalement le propriétaire du site est-il tenu de signaler à la police s’il découvre un contenu illégal ?

+0 -0

Mais, en tant que modérateurs, vous n’avez pas peur un jour de tomber sur une image vraiment horrible, qui vous restera dans la tête ?

Bof, le risque est probablement pas bien différent que d’être témoin d’un accident moche en sortant dans la rue. En plus ça fait partie de ces choses pour lesquelles il est difficile de prévoir sa propre réaction à moins d’y être confronté.

I don’t mind that you think slowly, but I do mind that you are publishing faster. — W. Pauli

+5 -0

Cette réponse a aidé l’auteur du sujet

Mais, en tant que modérateurs, vous n’avez pas peur un jour de tomber sur une image vraiment horrible, qui vous restera dans la tête ?

Perso, non. Si tu fais de la modération sur un site de taille moyenne, tu verras des gens qui te proposent de faire tes devoirs, des marabouts, et éventuellement des filles coquines de ta région qui te proposent de tchatter. Les images réellement horribles, je ne peux pas dire que ça n’arrive jamais, mais c’est rarissime.

De plus, ce que tu laisses ou ce que tu supprimes donne une image de ton site. S’il est petit, il est important de le gérer personnellement, sans quoi tu n’es plus vraiment maître de ta politique éditorial (en tout cas, ça devient plus compliqué). Ne pas oublier aussi que les règles de modération sont culturelles, donc il faut faire attention à qui tu déporterais la chose. Par exemple, les Américains ont des problèmes avec les tétons, à l’évidence. Je ne veux même pas savoir pourquoi.

Et légalement le propriétaire du site est-il tenu de signaler à la police s’il découvre un contenu illégal ?

En France, à priori, oui. Dans le cas général, il y a obligation de dénonciation des crimes. Et de toute façon, ça me semble normal de la faire. Et avec Pharos, tu peux le faire rapidement et facilement.

Hier, dans le parc, j’ai vu une petite vieille entourée de dinosaures aviens. Je donne pas cher de sa peau.

+6 -0

Par exemple, les Américains ont des problèmes avec les tétons, à l’évidence.

Par contre les nazis, ça passe. Contrairement à la France.

La tero estas nur unu lando | Géographe de service | Cliquez 👍 pour dire merci

+1 -0

Staff

Cette réponse a aidé l’auteur du sujet

Faut pas être trop angoissé à l’idée de la modération.

La plupart du temps c’est du flood, ou de la pub. Et dans la pub la plupart du temps c’est des trucs bidons.

Le pire du pire sur ZdS, c’est quoi ? Un peu de X j’imagine, et des propositions pour faire des permis de conduire. Bref rien d’alarmant.

Les contenus à modérer les plus néfastes sont en fait ceux qui sont rentables d’une façon ou d’une autre pour ceux qui les publient. En effet, sur ZdS on a pas de souci de communauté trop extremiste qui viendrait poster des choses moches pour de la politique. Donc dans les trucs rentables, y a le sexe, les faux papiers et les arnaques. Rien de visuellement plus traumatisant que ça

Édité par Holosmos

+5 -0
Vous devez être connecté pour pouvoir poster un message.
Connexion

Pas encore inscrit ?

Créez un compte en une minute pour profiter pleinement de toutes les fonctionnalités de Zeste de Savoir. Ici, tout est gratuit et sans publicité.
Créer un compte