Un site associatif recevant plusieurs centaines de commentaires par semaine sur ses articles avait un seul modérateur bénévole, traitant les commentaires dans l’ordre chronologique d’arrivée. Résultat, un commentaire clairement problématique (propos agressif, spam évident, contenu à caractère juridique sensible) pouvait rester visible plusieurs heures avant traitement, simplement parce qu’il était arrivé après trente autres commentaires anodins.
Plutôt que de déléguer entièrement la modération à une IA, ce qui aurait exposé le site à des décisions automatisées difficiles à assumer publiquement, nous avons construit un système qui trie et priorise, sans jamais décider seul.
Le principe : classer, pas juger
À chaque nouveau commentaire soumis, le hook comment_post déclenche un appel à l’API GPT-3.5 Turbo avec un prompt de classification demandant un score d’urgence de 1 à 5 et une catégorie parmi une liste fermée, sans jamais demander au modèle d’approuver ou de supprimer quoi que ce soit lui-même.
add_action( 'comment_post', function ( $comment_id ) {
$comment = get_comment( $comment_id );
$prompt = "Classe ce commentaire selon une urgence de modération de 1 à 5 "
. "(5 = très urgent) et une catégorie parmi : spam, agressif, "
. "juridique_sensible, question_legitime, anodin. "
. "Réponds au format JSON strict : {\"urgence\": n, \"categorie\": \"...\"}.\n\n"
. "Commentaire : " . $comment->comment_content;
$reponse = appeler_api_classification( $prompt );
$donnees = json_decode( $reponse, true );
update_comment_meta( $comment_id, 'urgence_ia', (int) $donnees['urgence'] );
update_comment_meta( $comment_id, 'categorie_ia', sanitize_key( $donnees['categorie'] ) );
} );
Un écran de modération réordonné
Plutôt que de modifier l’écran de modération natif de WordPress, nous avons ajouté une page d’administration personnalisée qui interroge les commentaires en attente via WP_Comment_Query, triés par la méta urgence_ia décroissante plutôt que par date. Le modérateur bénévole ouvre cette page en premier chaque matin et traite les cas classés urgents avant de passer aux commentaires anodins.
- Score 5 (très urgent) : propos agressifs ou juridiquement sensibles, remontés en tête
- Score 3-4 : questions légitimes nécessitant une réponse rapide de la communauté
- Score 1-2 : commentaires anodins ou spam évident, traités en dernier
Ce que la mesure a montré
Sur un mois de comparaison entre l’ancien tri chronologique et le nouveau tri par urgence, le délai moyen de traitement des commentaires classés « agressif » ou « juridique sensible » est passé de 5 heures et demie à moins d’une heure, soit un facteur d’environ 6. Les commentaires anodins, eux, ont vu leur délai de traitement légèrement augmenter, ce qui reste un compromis largement acceptable pour un modérateur bénévole au temps limité.
Les erreurs de classification observées
Le modèle n’est pas infaillible, et sur un échantillon de 300 commentaires classés, nous avons relevé 14 cas où un commentaire ironique avait été classé « agressif » à tort, et 6 cas inverses où un commentaire réellement problématique avait été sous-classé « anodin ». Le système ne masque jamais les commentaires mal classés, il se contente de les positionner différemment dans la file : un modérateur qui traite l’intégralité de la liste chaque jour ne perd donc rien, il gagne simplement en priorité de traitement.
Faire trier les commentaires par une IA n’a de sens que si l’humain garde la responsabilité finale de chaque décision de modération, du premier au dernier commentaire de la liste.
En résumé
Confier à un LLM le classement par urgence plutôt que la décision de modération elle-même permet de tirer parti de sa rapidité sans lui déléguer une responsabilité qu’il ne devrait pas porter seul. Pour une petite équipe ou un modérateur bénévole isolé, ce genre de tri automatique change concrètement la rapidité de réaction face aux commentaires les plus problématiques, sans jamais retirer à l’humain la main sur la décision finale.
