Un numéro de sécurité sociale glissé dans un champ de commentaire libre, une date de naissance stockée dans une méta donnée sans lien apparent avec l’usage prévu d’un agent : ces données sensibles s’invitent souvent dans un contexte transmis à un agent IA sans qu’aucune décision explicite n’ait jamais été prise de les y inclure.
Cette checklist rassemble les catégories de données qui doivent être exclues systématiquement de tout contexte transmis à un agent, quel que soit l’outil, le fournisseur de modèle ou le canal utilisé. Elle ne traite pas du chiffrement au repos de ces données, une protection complémentaire mais distincte de la question posée ici.
Pourquoi l’exclusion doit se faire à la source
Masquer une donnée sensible après qu’elle a déjà été transmise à un agent ne protège de rien : une fois qu’un modèle a reçu une information dans son contexte, aucune suppression ultérieure ne garantit qu’elle n’a pas influencé la réponse produite, ni qu’elle n’apparaîtra jamais dans un journal de conversation conservé par ailleurs. L’exclusion doit donc se décider au niveau même de la requête qui construit ce contexte, avant tout envoi, jamais après.
Les quatre catégories à exclure systématiquement
- Données de santé : toute mention de pathologie, traitement, allergie ou handicap, y compris lorsqu’elle apparaît de façon incidente dans un champ de texte libre non prévu pour cet usage.
- Données financières précises : numéro de carte bancaire, relevé d’identité bancaire, montant exact de revenus ou de dettes d’une personne physique identifiée.
- Données concernant des mineurs : nom, date de naissance ou toute information permettant d’identifier un enfant, y compris en contexte scolaire ou périscolaire.
- Identifiants nationaux : numéro de sécurité sociale, numéro de pièce d’identité, ou tout identifiant équivalent propre au pays d’exercice.
Où ces champs se cachent le plus souvent
L’expérience de plusieurs projets montre que ces données n’apparaissent que rarement dans les champs structurés prévus à cet effet, déjà généralement bien identifiés et donc naturellement exclus des premières intégrations. Le risque se situe presque toujours dans les champs de texte libre : un commentaire de suivi client, une note interne, une pièce jointe transcrite automatiquement, où une personne a un jour saisi une information sensible sans que le champ n’ait été conçu pour cela.
| Emplacement à risque | Exemple observé | Mesure appliquée |
|---|---|---|
| Commentaire de suivi client | Mention d’une hospitalisation en cours | Filtrage par expressions régulières avant envoi |
| Note interne sur un dossier | Date de naissance d’un enfant à charge | Champ exclu par défaut du contexte transmis |
| Transcription automatique d’appel | Numéro de carte bancaire énoncé oralement | Étape de relecture avant tout usage par un agent |
Le réflexe qui ne suffit jamais : la liste blanche de champs
Une liste blanche des champs autorisés à figurer dans le contexte, plutôt qu’une liste noire des champs interdits, réduit le risque mais ne l’élimine pas : un champ autorisé, comme un commentaire de suivi client, peut toujours contenir une donnée sensible saisie à un endroit qui n’était pas prévu pour cela. Un filtrage complémentaire par motif, sur les catégories les plus identifiables (numéros à un format reconnaissable, mots-clés médicaux courants), reste nécessaire même après la mise en place d’une liste blanche de champs.
- Définir une liste blanche des champs autorisés à figurer dans le contexte transmis à l’agent.
- Ajouter un filtrage par motif sur les champs de texte libre, même ceux inclus dans la liste blanche.
- Documenter cette exclusion comme une règle permanente, jamais comme une exception à lever ponctuellement.
Une exclusion qui se lève « juste cette fois, parce que ça aiderait » cesse d’être une règle : elle devient une habitude qu’on regrettera au premier incident venu.
Ce que cette liste ne couvre pas
Cette liste rassemble des catégories transversales, valables quel que soit le secteur d’activité. Elle ne dispense en rien de vérifier les obligations propres à un secteur donné, qui peuvent imposer des exclusions supplémentaires spécifiques : un cabinet d’avocats, un établissement de santé ou une collectivité territoriale traitent chacun des catégories de données sensibles qui leur sont propres, au-delà de ce socle commun.
En résumé
Quatre catégories de données, santé, finances précises, mineurs et identifiants nationaux, doivent être exclues systématiquement du contexte transmis à un agent IA, quel que soit l’outil utilisé. Cette exclusion se construit à la source, au moment même où le contexte est assemblé, jamais après coup, et se complète toujours d’une vérification propre au secteur d’activité concerné.
