Perte de contexte par anonymisation : pourquoi les réponses de l'IA peuvent se dégrader

Pourquoi l’anonymisation peut-elle dégrader la réponse de l’IA ?

Un modèle d’IA répond à partir du texte qu’il reçoit. Un outil de pseudonymisation (souvent un proxy placé devant un modèle externe) remplace avant l’envoi les noms, dates, lieux ou numéros d’identification par des marqueurs, puis réinsère les vraies informations dans la réponse. Cela protège la personne, mais retire aussi de l’information au modèle. Si l’information remplacée fait partie du contenu de la tâche, elle manque pour la réponse.

Trois exemples, tous inventés :

Tâche	Ce qui est remplacé	Ce qui manque alors au modèle
Résumer une lettre médicale	Âge, date d’admission, domicile	Si une valeur de laboratoire est anormale pour une femme de 43 ans ou un homme de 85 ans ; combien de temps a duré le séjour
Répondre à la demande d’un administré	Rue, quartier	Quel service, quel plan d’urbanisme, quel règlement local s’applique
Lettre de sortie pour les proches	Noms de la patiente, de sa fille, du médecin traitant	Qui communique quoi à qui, quand les trois apparaissent comme PERSON_1 à PERSON_3

Que montrent les études sur la perte de qualité ?

La recherche est récente, mais la tendance est uniforme :

• La qualité baisse le plus souvent, selon la tâche. Une étude de Deußer et al. (septembre 2026) a testé cinq modèles de langage sur onze séries de tests, chaque fois avec le texte original et avec le texte pseudonymisé. Résultat : les performances baissent en règle générale, nettement pour les tâches de recherche d’informations dans des textes. Un test de réponses véridiques s’est en revanche amélioré pour la plupart des modèles.
• Les modèles les plus performants perdent le plus. Selon la même étude, ce sont les modèles les plus performants qui ont le plus reculé, sans doute parce qu’ils exploitent le mieux les informations concrètes.
• Les marqueurs réversibles font mieux que le caviardage. Les méthodes qui laissent les personnes et les lieux distinguables (marqueurs ou valeurs de substitution aléatoires) ont obtenu des résultats nettement meilleurs que le caviardage ou la généralisation.
• Une mention au modèle n’aide pas. Indiquer au modèle que le texte est pseudonymisé n’a apporté aucun avantage mesurable.
• Dès 2023, Yermilov et al. ont montré, pour la classification de textes et le résumé, un écart entre texte original et texte pseudonymisé, selon la méthode.

Les études portent sur des tâches de test générales, pas sur des lettres médicales ou des décisions administratives allemandes. Seul un test avec vos propres exemples montre l’ampleur de la perte pour vos textes.

Où naissent les erreurs typiques ?

• Chiffres et temps : si la date de naissance et la date d’admission sont remplacées, le modèle ne peut calculer ni âge, ni durée, ni délai.
• Lieu : dans l’administration et la santé, la compétence, la base juridique et l’interlocuteur dépendent souvent du lieu.
• Relations : plusieurs personnes dans un même texte (patiente, proches, médecin) se confondent si les marqueurs ne font apparaître aucun rôle.
• Réinsertion : si le modèle fusionne, traduit ou modifie des marqueurs, l’outil réinsère les vraies informations de manière erronée, voire pas du tout.
• Détection excessive : si l’outil prend à tort des termes techniques, des médicaments ou des abréviations pour des noms, ceux-ci manquent aussi.

Comment réduire la perte ?

• Ne remplacer que ce qui identifie. Une tranche d’âge au lieu de l’âge, la région au lieu de la rue, une date décalée de manière uniforme au lieu de la date, pour conserver les intervalles.
• Conserver les rôles. Des marqueurs comme « patiente », « fille », « médecin traitant » au lieu de PERSON_1 à PERSON_3.
• Tester avec vos propres cas. Faire traiter les mêmes dix à vingt tâches typiques une fois avec et une fois sans remplacement, et comparer les réponses sur le fond, sans transmettre de données réelles au modèle externe (par exemple avec des cas inventés).
• Vérifier la réinsertion. Contrôler par sondage que toutes les informations reviennent correctement.

Chaque information que vous laissez augmente le risque que la personne reste identifiable. Qualité et protection s’opposent ici ; votre organisation arbitre avec le délégué à la protection des données. Pourquoi des combinaisons d’âge, de lieu et de diagnostic rare peuvent rendre une personne identifiable, le guide Risque de réidentification l’explique.

Existe-t-il une voie sans perte de contexte ?

Oui : le modèle d’IA fonctionne là où les données peuvent être traitées et reçoit le texte complet. Il n’y a alors rien à remplacer. La solution adaptée dépend des données et de la tâche ; pour des textes moins sensibles, un proxy peut être un choix judicieux. Le guide Anonymisation ou infrastructure d’IA propre compare les deux voies.

Comment cela fonctionne-t-il avec basebox ?

Avec basebox, la plateforme et le modèle d’IA fonctionnent dans votre environnement : sur un serveur réservé à votre organisation, sans Internet si vous le souhaitez, ou dans un environnement dédié dans notre cloud, séparé des autres clients, au centre de données de Munich-Est. Par défaut, basebox n’envoie vos données à aucun modèle d’IA d’un autre fournisseur. C’est pourquoi des données de patients peuvent y entrer sans que vous les anonymisiez au préalable, et le modèle voit le texte complet. En France, pour les données de santé, basebox propose uniquement le serveur dans votre établissement, tant qu’elle n’a pas la certification HDS. Un modèle externe n’existe que sous forme d’app dédiée, que vous faites configurer expressément ; c’est vous qui décidez avec votre délégué à la protection des données si vous la validez pour des données personnelles (détails). Le guide Anonymisation ou infrastructure d’IA propre compare les différentes voies.