Cartouche | |
---|---|
ZEP | 20 |
Titre | Relecture des tutos par les pairs |
Révision | 2 |
Date de création | 26/12/2014 |
Dernière révision | 09/01/2015 |
Type | Process |
Statut | Validation |
Objectifs
L'objet de cette ZEP est de discuter d'un nouveau système de validation des tutoriels. De telles discussions ont déjà été menées en interne, mais aucun consensus n'a été trouvé quant à l'évolution de la validation.
NB : les articles ne sont pas concernés par cette ZEP ; ils feront peut-être l'objet d'une proposition séparée.
Les objectifs à atteindre sont les suivants :
- faire en sorte que la validation sollicite moins le staff ;
- permettre à la communauté de s'impliquer davantage dans la validation ;
tout en conservant, le plus possible, les vertus du système de validation actuel :
- la validation est faite par des humains, qui fournissent un retour rédigé (en d'autres termes, la validation n'est pas un simple vote de la communauté) ;
- la validation est faite par des « experts » du domaine autant que possible.
Éclaircissement : Les problèmes de délais de validation rencontrés il y a quelques mois sont en train de se résorber, le Staff peut maintenant tenir le rythme de publication. L'idée de cette ZEP est plutôt de mettre la validation entre les mains de la communauté, tout en gardant le Staff en position d'arbitre et de coordinateur (afin d'éviter tout psychodrame). En d'autres termes, l'objectif est que l'efficacité de la validation scale avec la taille de la communauté, plutôt qu'avec la taille du Staff.
Solution proposée : validation par les pairs
Si vous venez du monde de la recherche, le titre de cette ZEP a du vous évoquer quelque chose. Je propose en effet d'adapter le système de relecture par les pairs à la validation de Zeste de Savoir. Pour comprendre comment cela fonctionne, suivons le cheminement d'un tuto.
- Un auteur vient de finir d'écrire son tuto (après une phase éventuelle de beta). Il l'envoie à la validation.
- Le Staff cherche, parmi les membres du site, des relecteurs pour ce tuto (environ trois). Ceux-ci sont des membres de confiance volontaires (ils peuvent refuser de relire).
- Les relecteurs renvoient leurs commentaires au staff, avec une recommendation sur la décision (cf. ci-après).
- Le staff, à la lumière des commentaires des relecteurs, prend la décision de validation ou refus. Dans tous les cas, il fait suivre les commentaires des relecteurs à l'auteur.
Détails de l'étape 2 : sélection des relecteurs
Le Staff choisit les relecteurs parmi les membres en qui il a confiance. En général, il sélectionne deux relecteurs « connaisseurs » du sujet et un relecteur « newbie » (selon le niveau du tuto). Tout membre peut refuser de relire un tuto, sans avoir à se justifier.
Le choix des relecteurs est discrétionnaire : le Staff se débrouille tout seul pour trouver des membres, il n'est pas possible de « candidater » pour devenir relecteur. Rassurez-vous : en pratique, nous n'avons jamais eu de problèmes pour trouver de membre compétent dans tel ou tel domaine lorsque nous en avions besoin ; nous connaissons suffisamment la communauté pour savoir à qui nous adresser.
Les relecteurs peuvent être des membres du Staff ou non. Pendant la phase de relecture, l'auteur ignore qui sont ses relecteurs, et les relecteurs ignorent qui sont leurs « co-relecteurs » sur un même tuto (dans la mesure du possible). L'objectif est d'avoir trois avis indépendants (pas de concertation), sans discussion préalable avec l'auteur (afin d'avoir des avis totalement extérieurs).
Détails de l'étape 3 : les relecteurs renvoient leurs commentaires
Chaque relecteur donne un avis sur le tuto, parmi :
- Refus fort (= « je souhaite que ce tuto ne paraisse jamais sur ZdS ») ;
- Refus simple (= « je souhaite que ce tuto soit amélioré avant de paraître sur ZdS ») ;
- Acceptation simple (= « pourquoi pas ») ;
- Acceptation forte (= « ce tuto est génial, prenez-le ! »).
En outre, chaque relecteur écrit une justification de son avis. En cas de refus définitif, il en explique les raisons ; en cas de refus simple, il précise quelles modifications sont nécessaires à la publication du tuto. De même, en cas d'acceptation, il décrit les raisons qui le poussent à accepter.
Détails de l'étape 4 : le Staff prend la décision finale
Enfin, le Staff récupère les avis et les commentaires, pèse le pour et le contre, puis prend la décision de valider ou de refuser le tuto. Cette décision n'a rien d'automatique : le Staff peut choisir de refuser un tuto qui a reçu trois « acceptations fortes ». Dans tous les cas, les avis et commentaires des relecteurs sont transmis à l'auteur. Si la décision du Staff est en contradiction avec les avis des relecteurs, il ajoute une notice expliquant sa décision.
Si le tutoriel est re-soumis après un premier refus (parce que des modifications étaient nécessaires, par exemple), les mêmes relecteurs sont sollicités pour prendre en charge cette nouvelle version du tuto. Ils peuvent, bien entendu, refuser, au quel cas de nouveaux relecteurs seront désignés par le Staff. Idéalement, les mêmes relecteurs suivent un tuto tout au long du processus de refus/modification/re-validation.
Par souci de simplicité et pour permettre des discussions au cours de l'amélioration du tutoriel, les commentaires des relecteurs ne sont pas anonymisés (à moins qu'ils en fassent la demande expresse). Nous faisons confiance à nos membres pour se comporter correctement et accepter sereinement la critique. En cas de débordement, le Staff jouera le rôle de modérateur, comme d'habitude.
Problèmes potentiels et leurs solutions
Il est impossible de prédire tous les problèmes que ce système peut poser. Toutefois, nous pouvons en anticiper certains.
Pénurie de relecteurs
Il peut arriver qu'aucun membre n'ait le temps ou les compétences pour relire un tutoriel donné. Le Staff ne trouve donc aucun relecteur.
Pour résoudre ce problème, il faut prendre conscience que le système de relecture par les pairs est une généralisation du système existant. Bien que sous-optimale, la solution « un seul relecteur, qui est membre du staff » correspond exactement à ce qui se fait aujourd'hui. Donc, si personne ne veut relire le tuto, un staff (seul) s'en chargera, comme cela se pratique aujourd'hui.
Dans cette situation, on perdra les avantages du nouveau système, mais on fonctionnera aussi bien qu'avec l'ancien.
Désaccord au sein du staff
Deux types de désaccord peuvent survenir : sur les relecteurs, et sur la décision finale.
Désaccord sur les relecteurs : une partie du staff veut que X relise tel tuto, tandis que l'autre partie s'y oppose. Dans ce cas, on tranche pour l'inclusion de X dans les relecteurs. Après tout, deux avis valent mieux qu'un, et ça ne peut pas faire de mal d'avoir davantage de commentaires sur un tuto. (Quitte à ignorer les commentaires de X s'ils s'avèrent impertinents).
Désaccord sur la décision finale : au vu des commentaires des relecteurs, une partie du Staff est pour la validation du tuto, l'autre partie est contre. Dans ce cas, il y a vote au sein du Staff. (Ce genre de désaccord est extrêmement rare ; dans tous les cas qui se sont présentés jusqu'à ce jour, un consensus a systématiquement émergé de la discussion).
Implémentation proposée
Première phase : expérimentation
Le site Zeste de Savoir permet, à l'heure actuelle, de pratiquer la relecture par les pairs « à la main ». En d'autres termes, on fait tout avec des MPs et le forum Staff. Cela nécessite une certaine coordination, donc chaque tuto aura un « responsable » au sein du Staff (sur la base du volontariat, comme le système de réservations actuel).
Le responsable d'un tuto s'occupera de chercher les relecteurs, de les contacter par MP, de leur fournir une copie du tuto, de récupérer les avis, puis faire suivre la décision finale à l'auteur. Le responsable d'un tuto crée un topic dans le forum Staff s'il a besoin de prendre l'avis des autres (notamment pour le choix des relecteurs et décision finale).
En outre, cette implémentation « à la main » permet de faire tourner les deux systèmes en parallèle. Ainsi, on peut expérimenter la relecture par les pairs sur un petit nombre de tutos, tout en continuant de valider les autres comme d'habitude. Cette expérimentation permettra de se rendre compte de la pertinence du projet, des problèmes qui peuvent survenir, et de définir le cahier des charges pour la phase suivante.
Deuxième phase : intégration au site
Si l'expérimentation est concluante, et que l'on souhaite généraliser le principe de relecture par les pairs à tous les tutos, une demande de fonctionnalité sera formulée auprès des développeurs. L'idée est d'automatiser le processus en ajoutant quelques boutons/formulaires à l'interface de validation :
- un bouton pour créer directement un sujet concernant un tuto sur le forum staff, pré-rempli avec un template ;
- un formulaire pour demande de relecture de tuto, dans lequel un staff saisit une liste de membres, et qui s'occupe d'envoyer un MP de demande de relecture à chaque membre indiqué ;
- une interface de relecture pour les membres ayant accepté de relire, qui leur permet d'accéder à la version hors-ligne d'un tuto, puis de rédiger des commentaires, qui seront directement postés sur le topic du tuto dans le forum staff ;
- ces trois éléments viennent s'ajouter à l'interface de validation actuelle, ils ne la remplacent pas.
Ainsi, il sera toujours possible au staff de valider directement un tuto sans le faire relire (utile en cas de modification mineure).
Arguments en faveur du système de relecture par les pairs
C'est facile à faire
Bien que le système paraisse lourd à mettre en place, je suis convaincu que nous pouvons le déployer sans trop de peine.
Il s'agit d'un système que l'on peut expérimenter dès à présent, sur un petit nombre de tutoriels. Par la suite, il pourra être automatisé avec un peu de développement. Dans tous les cas, ce système se rajoute au processus de validation actuel sans le remplacer : il ne fait que rajouter des possibilités au staff, sans le contraindre. De la même façon, il ne devrait pas nécessiter de grosses modifications sur le code existant, simplement l'ajout d'un ou deux nouveaux modules.
Ça soulage le staff
Ce système permet de déléguer aux membres la validation d'un tutoriel qu'il est incapable de valider, par manque de temps ou de compétences.
En outre, le membre du Staff ne porte plus seul le poids de la validation ; il dispose de plusieurs avis de membres pour s'éclairer, ce qui lui permet de formuler des commentaires plus précis et nuancés.
Enfin, ce système permet de repérer les membres prometteurs pour le poste de validateur. Un relecteur acceptant régulièrement de relire des tutos et fournissant des commentaires de qualité pourra ainsi être intégré au staff.
Ça fait participer la communauté
C'est un sujet de discussion récurrent, et à chaque débat sur le système de validation, des propositions en ce sens reviennent. La relecture par les pairs permet de faire participer la communauté, tout en évitant les solutions à base de vote populaire (qui ont leur lot d'inconvénients). Cela fournit aux membres un moyen simple de s'impliquer ponctuellement, sans forcément signer avec son sang pour rentrer dans le staff.
Conclusion
Merci d'avoir pris le temps de lire cette ZEP. Vos remarques et commentaires sont les bienvenus !