Proxy de pseudonymisation pour ChatGPT et d'autres services d'IA : comment fonctionne la technique

Que fait un proxy de pseudonymisation ?

Un proxy de pseudonymisation est un logiciel placé entre la saisie d’une personne et un modèle de langage externe, par exemple ChatGPT ou les modèles d’autres fournisseurs. Il modifie le texte à l’aller et au retour. Le modèle lui-même reste chez le fournisseur ; le proxy doit faire en sorte qu’aucun nom ni identifiant n’y arrive.

Quelles sont les étapes ?

1. Détecter : le proxy recherche les données personnelles dans la saisie. Il trouve les motifs fixes comme l’IBAN, le numéro de téléphone, l’adresse e-mail ou le numéro d’assuré grâce à des règles. Il reconnaît les noms, lieux et organisations avec un modèle de langage de reconnaissance d’entités nommées (Named Entity Recognition). De nombreux produits acceptent des listes propres, par exemple pour les numéros de dossier ou les noms de services.
2. Remplacer : chaque donnée détectée est remplacée par une balise, par exemple « PERSON_1 » ou « PATIENT_17 ». Certains produits insèrent des noms inventés mais plausibles pour que le texte reste naturel pour le modèle. Le proxy enregistre la correspondance entre balise et original dans une table.
3. Envoyer : le texte modifié part vers le modèle de langage.
4. Restituer : dans la réponse, le proxy cherche les balises et réinsère les originaux. La personne voit une réponse avec les vrais noms.

Un exemple, expressément inventé : une médecin demande le résumé du cas « Maria Müller, 43 ans, Starnberg, maladie métabolique rare ». Le proxy envoie « PATIENT_17, 43 ans, Starnberg, maladie métabolique rare » au modèle et réinsère le nom dans le résumé.

Où tourne le proxy, et qui détient la clé ?

Les produits diffèrent fortement sur ce point, et c’est ce qui détermine à qui vous faites confiance :

Architecture	Qui voit l’original ?	Ce que cela signifie
Le proxy tourne chez vous (dans le navigateur, sur un serveur dans votre établissement)	uniquement votre organisation	la table de correspondance ne quitte pas votre établissement
Le proxy tourne chez le fournisseur du proxy	votre organisation et le fournisseur du proxy	le fournisseur du proxy est en règle générale sous-traitant ; un accord de traitement des données selon l’art. 28 RGPD est nécessaire
Le proxy tourne chez le fournisseur dans un matériel protégé	selon le fabricant, uniquement votre organisation	la confiance se reporte sur le matériel et l’attestation (informatique confidentielle)

Si les balises restent identiques d’une requête à l’autre, le modèle comprend mieux le contexte. Mais un destinataire peut alors relier entre elles les requêtes concernant la même personne. Demandez au fournisseur combien de temps une correspondance reste valable et si elle est attribuée par conversation ou de façon permanente.

Où sont les limites techniques ?

Un proxy peut être une mesure de protection utile, mais il ne remplace pas une analyse. Limites typiques :

• Données non détectées : texte libre, abréviations, fautes de frappe, surnoms, écriture manuscrite dans les documents numérisés ou données dans les métadonnées passent à travers. Même les outils dotés d’une bonne détection n’offrent aucune garantie ; l’outil open source Presidio signale lui-même que la détection automatique ne trouve pas toutes les données sensibles.
• Combinaison de caractéristiques : l’âge, le lieu et un diagnostic rare réunis peuvent rendre une personne identifiable, même sans nom. La conférence allemande des autorités de protection des données (DSK) constate donc qu’il ne suffit en général pas de supprimer les noms et adresses. Les autorités de protection des données l’examinent sous l’angle de l’individualisation, de la corrélation et de l’inférence (réidentification).
• Contexte perdu : si le proxy remplace des données dont le modèle a besoin pour comprendre, la réponse se dégrade, par exemple pour le lieu dans les demandes d’administrés ou l’âge dans les textes médicaux (perte de contexte).
• Restitution erronée : si le modèle fusionne deux balises, les traduit ou les reformule, le proxy réinsère les noms au mauvais endroit ou pas du tout.
• Autres voies de sortie : pièces jointes, recherche web, agents, outils connectés et journaux peuvent transmettre des données qui ne passent pas par le proxy.

Que demander à un fournisseur ?

• Où tourne la détection et où se trouve la table de correspondance ?
• Quelles données le produit détecte-t-il, dans quelles langues et quels formats de fichiers ? Existe-t-il des taux de détection mesurés pour votre type de texte ?
• Combien de temps les balises restent-elles valables et quand la table est-elle supprimée ?
• À quel modèle le texte est-il envoyé, dans quel pays, avec quel contrat ?
• Qu’est-ce qui est journalisé, chez le proxy et chez le fournisseur du modèle ?

Une liste de contrôle pour les données de patients figure dans le guide Liste de contrôle pour les proxys d’anonymisation.

Comment cela fonctionne-t-il avec basebox ?

basebox n’est pas un proxy mais un autre choix d’architecture : la plateforme et le modèle d’IA tournent sur un serveur dans votre établissement ou dans notre cloud, au centre de données de Munich-Est. Les données ne sont donc pas modifiées ; par défaut, elles ne quittent pas ce cadre. Un modèle externe n’existe que sous forme d’app dédiée, et seulement si vous la faites expressément mettre en place (détails). Le guide Anonymisation ou infrastructure d’IA propre compare quelle voie convient à vos données.