L’anonymat sur Internet est-il une illusion face à l’intelligence artificielle ?

Nous vous proposons de tester votre vigilance à travers deux jeux interactifs conçus pour décoder les mécanismes de l’inférence sémantique par les IA.

Le premier jeu vous invite à analyser des commentaires de forums et des messages de messageries instantanées privés pour comprendre comment nos expressions nous trahissent.
Le second jeu vous confronte à des prompts saisis dans des assistants IA : bien que volontairement anonymisés par leurs auteurs (mots caviardés, astérisques), ces messages contiennent des signaux faibles et des structures mathématiques que la machine exploite pour remonter à des données hautement sensibles (statut social, précarité, composition familiale).

Saurez-vous faire preuve d’une analyse aussi fine qu’un grand modèle de langage pour retrouver les données cachées et comprendre ce que l’IA devine réellement de vous ?

Inférences Sociales à partir de messages sur Forum et Messagerie Instantanée

Quiz Déduction IA & Privacy

Saurez-vous repérer les fuites de données massives cachées dans de simples phrases anonymes ?

Origine du projet : Ce mini-quiz de sensibilisation est directement inspiré du projet de recherche académique international LLM-Privacy (accessible sur llm-privacy.org). L’objectif initial de ce site est de démontrer la capacité des grands modèles de langage (LLM) à profiler des individus à partir de textes pourtant dépouillés de leurs données directement identifiantes. Les outils de traduction automatique des navigateurs ayant tendance à « lisser » les textes d’origine en gommant les tics de langage et expressions régionales, cette déclinaison a été conçue spécifiquement pour restituer la pertinence de l’exercice face à des habitudes et des contextes purement francophones.

Question 1/5

Contexte : L’extrait suivant est un message posté de manière anonyme sur un forum d’entraide. Quelle information l’IA peut-elle inférer avec un très haut taux de certitude ?

Fin du test de sensibilisation

Leçon de sécurité : L’anonymisation ne se résume pas à supprimer un nom ou un prénom. Vos expressions régionales (« schluck », « crayon de bois »), vos habitudes de transport (abonnements spécifiques), vos horaires d’activité, ou vos formulations professionnelles constituent une empreinte stylométrique unique que les LLM croisent instantanément avec leurs données d’entraînement.

Inférences Sociales à partir de prompts « anonymisés » pour Chat-GPT (ou autre LLM)

Quiz Fuites de Contexte & LLM

Saurez-vous repérer les informations hautement sensibles qu’une IA peut déduire de vos prompts, même s’ils ont été anonymisés ?

Mécanique d’attaque par inférence : Ce mini-quiz est inspiré du projet académique LLM-Privacy (llm-privacy.org). Il démontre que remplacer des mots par des astérisques ou nettoyer superficiellement un texte ne suffit pas. Une IA analyse la structure mathématique (longueur des masques), les corrélations de vie courante (métiers, enfants) et la stylométrie pour reconstruire votre profil exact (précarité, composition familiale, niveau de diplôme).

Question 1/5

Contexte de l’attaque : L’utilisateur a remplacé ses données par des astérisques en conservant la longueur exacte des mots d’origine. Quel profil l’IA va-t-elle extraire avec certitude ?

Analyse de votre niveau de vigilance

Leçon de sécurité : L’anonymisation humaine est souvent défaillante face aux LLM. Les machines n’ont pas besoin de votre nom : le fait de combiner une caisse de retraite spécifique, une syntaxe technique, un nombre précis de caractères masqués (`****`) ou deux lieux de repas simultanés leur suffit pour verrouiller une identité ou un statut socio-économique unique. Pour vous protéger, ne masquez pas : reformulez entièrement.

En atelier

1. Brise-glace et appels à l’expérience (Le ressenti)

L’objectif est de faire s’exprimer les participants sur leur propre rapport à ces outils avant d’entrer dans la technique.

  • La question « Réaction » :
    • « Qu’est-ce qui vous a le plus surpris ou dérangé dans les résultats de ce quiz ?
    • Aviez-vous conscience que des détails aussi insignifiants (comme la longueur d’un mot caché par des étoiles ou deux lieux de repas) pouvaient en dire autant sur vous ? »
  • L’appel au vécu :
    • « Est-ce qu’il vous arrive de confier à des IA (ChatGPT, Copilot, etc.) des éléments de votre vie privée ou professionnelle en vous disant : « De toute façon, l’IA ne me connaît pas, c’est anonyme » ? (Exemples : rédiger une lettre de motivation, relire un mail conflictuel, demander un avis médical). »
  • Le parallèle avec le quotidien :
    • « Quand vous discutez avec un humain, vous adaptez votre langage (on ne parle pas de la même façon à son médecin, son patron, son enfant). Pourquoi a-t-on tendance à « baisser la garde » et à parler de manière si brute ou intime à une machine ? »

2. Éclairage technique & Définitions (Comprendre pour analyser)

Pour construire une critique saine, il faut nommer les concepts. L’animateur peut amener ces mots suite aux réactions du groupe.

L’Obfuscation (ou obscurcissement)

Définition : C’est l’action de rendre un message ou un code volontairement complexe, confus ou difficile à comprendre pour un humain ou une machine, tout en conservant son sens ou sa fonction d’origine.

  • Dans le quiz : Remplacer un nom par des astéroïdes (****) est une forme d’obfuscation artisanale.
  • Question de réflexion : « Le quiz montre que l’obfuscation humaine (les petites étoiles) échoue face à l’IA car la machine calcule des probabilités là où l’humain cherche un sens global. Est-ce que cela signifie que pour se protéger, il faut devenir un expert technique, ou existe-t-il des méthodes simples à la portée de tous ? »

L’Attaque par inférence (ou canal auxiliaire)

Définition : C’est le fait de deviner une information secrète non pas en brisant un mot de passe, mais en regroupant des indices indirects (les signaux faibles).

  • Question de réflexion : « Si l’IA n’a pas besoin de notre nom de famille pour savoir qui nous sommes ou comment nous vivons, est-ce que les lois actuelles sur la protection des données (comme le RGPD, qui protège surtout les « données nominatives ») sont encore adaptées à l’ère des LLM ? »

3. Vers une posture technocritique (Ni peur, ni aveuglement)

Ces questions visent à sortir du clivage « Pour ou Contre » pour amener les participants à faire des choix éclairés.

Dépasser la technophobie (« Avoir peur de tout »)

  • Question sur l’utilité :
    • « L’IA est capable de déduire qu’une personne est en danger médical (le cas du surdosage dans le quiz) ou en situation de grande détresse sociale. Dans quels cas cette ultra-sensibilité du contexte par la machine peut-elle devenir une chance ou un outil d’aide formidable ? »
  • Question sur le contrôle :
    • « Si on sait que la machine est un miroir statistique de nos écrits, comment peut-on continuer à utiliser ces outils de manière sereine au quotidien sans avoir l’impression d’être espionné en permanence ? »

Dépasser la technophilie naïve (« Confiance aveugle sans filtre »)

  • Question sur la manipulation :
    • « Si une IA sait instantanément, à travers nos prompts, que nous sommes un cadre stressé avec des enfants en bas âge, ou une personne isolée en situation de précarité, quels sont les risques si ces profils psychologiques et sociaux sont utilisés par des entreprises publicitaires ou des acteurs malveillants (phishing ciblé) ? »
  • Question sur le compromis éclairé :
    • « En cybersécurité, on dit souvent qu’on échange du confort contre de la sécurité. Quel « compromis éclairé » êtes-vous prêts à faire aujourd’hui ? Qu’est-ce que vous continuerez à demander à l’IA, et qu’est-ce que vous décidez de ne plus jamais lui envoyer ? »

4. Clôture : La boîte à outils du citoyen numérique

L’animateur termine sur une note d’action concrète.

  • Le tour de table final :
    • « Si vous deviez retenir une seule règle d’or pour votre prochaine interaction avec une intelligence artificielle, ce serait laquelle ? »
  • Suggestion de l’animateur si elle n’émerge pas :
    La règle de la paraphrase. Ne jamais copier-coller un document brut ou masquer grossièrement. Toujours demander à l’IA de travailler sur des concepts abstraits (« Imagine un personnage dans telle situation… ») plutôt que de parler de soi.
Accéder à plus de détails sur le sujet avec la fiche pédagogie Data et IA

Comment protéger votre vie privée quand vous parlez à une IA ?

Une Intelligence Artificielle (IA) est un outil informatique très puissant. Quand vous lui écrivez, elle est capable de deviner des choses secrètes sur vous, même si vous cachez votre nom.

1. Ce que l’IA arrive à deviner

Même si vous effacez votre nom et votre prénom, l’IA peut deviner :

  • Où vous habitez : grâce aux noms des bus, des trains ou aux expressions de votre région.
  • Votre argent et votre travail : grâce aux mots techniques que vous utilisez.
  • Votre famille : si vous parlez des horaires de la crèche ou de l’école de vos enfants.

2. Les pièges à éviter

  • Le piège des étoiles () :* Si vous écrivez **** pour cacher le mot Lyon, l’IA compte les 4 étoiles et devine le mot caché.
  • Le piège des détails : Donner l’heure exacte d’un rendez-vous ou le nom d’une maladie rare permet de vous reconnaître.
  • Le piège de la confiance : L’IA n’est pas un ami. Tout ce que vous lui écrivez est enregistré sur des ordinateurs.

3. Les bons réflexes pour se protéger

Pour utiliser l’IA en sécurité, changez votre façon de lui parler.

Règle 1 : Racontez une histoire imaginaire

Ne dites pas : « Je n’ai pas pu payer mon loyer ce mois-ci ». Dites plutôt : « Rédige une lettre pour une personne imaginaire qui a un retard de loyer ».

Règle 2 : Changez les mots précis par des mots généraux

Ne dites pas : « Je prends la ligne 14 du métro à 18h30 ». Dites plutôt : « Je prends les transports en commun en fin d’après-midi ».

Règle 3 : Ne donnez jamais de papiers officiels

Ne donnez jamais à l’IA :

  • Une fiche de paie.
  • Une ordonnance du médecin.
  • Une lettre administrative avec des numéros importants.

La règle d’or : Si vous ne voulez pas qu’une information soit lue par des inconnus, ne l’écrivez jamais dans une IA.

Testez-vous avec le jeu interactif « je le dis ou je le dis pas au Chat-GPT ? »