# Un LLM pour prioriser la modération des commentaires avant l’humain

> Plutôt qu'une modération IA complète, faire trier et classer les commentaires par urgence pour qu'un modérateur traite en premier les cas sensibles.

- Auteur : Clément Hadrot
- Publié le : 2023-07-27
- Mis à jour le : 2023-07-27
- Catégorie : IA & MCP
- URL : https://wpmoderne.dev.wordpress-developpement.fr/ia-mcp/llm-prioriser-moderation-commentaires-avant-humain/

## L’essentiel

- L'IA classe, l'humain décide toujours
- Un score d'urgence recalculé à chaque nouveau commentaire
- Les cas ambigus remontent en tête de file

Un site associatif recevant plusieurs centaines de commentaires par semaine sur ses articles avait un seul modérateur bénévole, traitant les commentaires dans l'ordre chronologique d'arrivée. Résultat, un commentaire clairement problématique (propos agressif, spam évident, contenu à caractère juridique sensible) pouvait rester visible plusieurs heures avant traitement, simplement parce qu'il était arrivé après trente autres commentaires anodins.

Plutôt que de déléguer entièrement la modération à une IA, ce qui aurait exposé le site à des décisions automatisées difficiles à assumer publiquement, nous avons construit un système qui trie et priorise, sans jamais décider seul.

## Le principe : classer, pas juger

À chaque nouveau commentaire soumis, le hook `comment_post` déclenche un appel à l'API GPT-3.5 Turbo avec un prompt de classification demandant un score d'urgence de 1 à 5 et une catégorie parmi une liste fermée, sans jamais demander au modèle d'approuver ou de supprimer quoi que ce soit lui-même.

```
add_action( 'comment_post', function ( $comment_id ) {
    $comment = get_comment( $comment_id );
    $prompt  = "Classe ce commentaire selon une urgence de modération de 1 à 5 "
             . "(5 = très urgent) et une catégorie parmi : spam, agressif, "
             . "juridique_sensible, question_legitime, anodin. "
             . "Réponds au format JSON strict : {\"urgence\": n, \"categorie\": \"...\"}.\n\n"
             . "Commentaire : " . $comment->comment_content;

    $reponse = appeler_api_classification( $prompt );
    $donnees = json_decode( $reponse, true );

    update_comment_meta( $comment_id, 'urgence_ia', (int) $donnees['urgence'] );
    update_comment_meta( $comment_id, 'categorie_ia', sanitize_key( $donnees['categorie'] ) );
} );
```

## Un écran de modération réordonné

Plutôt que de modifier l'écran de modération natif de WordPress, nous avons ajouté une page d'administration personnalisée qui interroge les commentaires en attente via `WP_Comment_Query`, triés par la méta `urgence_ia` décroissante plutôt que par date. Le modérateur bénévole ouvre cette page en premier chaque matin et traite les cas classés urgents avant de passer aux commentaires anodins.

> L'essentiel à retenir : L'IA classe, l'humain décide toujours ; Un score d'urgence recalculé à chaque nouveau commentaire ; Les cas ambigus remontent en tête de file

- Score 5 (très urgent) : propos agressifs ou juridiquement sensibles, remontés en tête
- Score 3-4 : questions légitimes nécessitant une réponse rapide de la communauté
- Score 1-2 : commentaires anodins ou spam évident, traités en dernier

## Ce que la mesure a montré

Sur un mois de comparaison entre l'ancien tri chronologique et le nouveau tri par urgence, le délai moyen de traitement des commentaires classés « agressif » ou « juridique sensible » est passé de 5 heures et demie à moins d'une heure, soit un facteur d'environ 6. Les commentaires anodins, eux, ont vu leur délai de traitement légèrement augmenter, ce qui reste un compromis largement acceptable pour un modérateur bénévole au temps limité.

## Les erreurs de classification observées

Le modèle n'est pas infaillible, et sur un échantillon de 300 commentaires classés, nous avons relevé 14 cas où un commentaire ironique avait été classé « agressif » à tort, et 6 cas inverses où un commentaire réellement problématique avait été sous-classé « anodin ». Le système ne masque jamais les commentaires mal classés, il se contente de les positionner différemment dans la file : un modérateur qui traite l'intégralité de la liste chaque jour ne perd donc rien, il gagne simplement en priorité de traitement.

> Faire trier les commentaires par une IA n'a de sens que si l'humain garde la responsabilité finale de chaque décision de modération, du premier au dernier commentaire de la liste.

## En résumé

Confier à un LLM le classement par urgence plutôt que la décision de modération elle-même permet de tirer parti de sa rapidité sans lui déléguer une responsabilité qu'il ne devrait pas porter seul. Pour une petite équipe ou un modérateur bénévole isolé, ce genre de tri automatique change concrètement la rapidité de réaction face aux commentaires les plus problématiques, sans jamais retirer à l'humain la main sur la décision finale.