S'appuyer sur une sortie d'IA au sujet d'une personne réelle et nommée
Quand un modèle invente un crime et y accole le nom d'une vraie personne, ce n'est pas un bug. Sous le droit des données, c'est une violation d'exactitude.
Ceci n'est pas un conseil juridique. Sally critique des comportements et des cas d'usage en general, jamais votre situation precise, et rien ici ne remplace un vrai avocat. Les affaires sont reelles ; ce que vous en faites regarde vous et une personne habilitee a vous conseiller.
Traiter comme des faits les affirmations assurées d'une IA au sujet d'un individu nommé, ou les publier.
noyb v. OpenAI (Holmen complaint)
Complaint filed Mar. 2025 (Danish DPA) · EU (data protection complaint)
ChatGPT a faussement affirmé à un Norvégien qu'il avait assassiné deux de ses fils et purgé 21 ans, le tout mélangé à de vrais détails personnels.
En instance devant les autorités de protection des données, qui invoquent une violation des devoirs d'exactitude du RGPD et du droit de rectification. À citer comme non résolu.
Un modèle a un jour dit à un homme réel qu'il avait assassiné ses propres enfants et purgé des décennies de prison, le tout mêlé à de vrais détails comme sa ville natale et sa famille. Sous le droit européen des données, ce n'est pas seulement de la diffamation. C'est un problème d'exactitude des données, et l'incapacité à corriger ou effacer le mensonge est en soi une violation du droit de rectification.
Ce domaine est encore en train de se trancher, et c'est tout l'enjeu. Les obligations d'exactitude et de rectification s'attachent aux affirmations générées par IA sur des personnes de la même façon qu'à un enregistrement en base de données, et "c'est le modèle qui l'a dit" ne les éteint pas.
“Il a eu sa ville natale juste et tout son casier judiciaire inventé, ce qui est d'une certaine façon pire que de tout se tromper.”
- 01Ne publie jamais et n'agis jamais sur des affirmations d'IA concernant une personne précise sans confirmation indépendante d'une source réelle.
- 02Mets en place un parcours de correction. Si ton système énonce des faits sur des personnes, ces personnes doivent pouvoir les corriger.
- 03Traite un détail assuré sur un individu nommé comme la sortie la plus à risque qu'un modèle puisse produire.
Pas un conseil juridique. Commentaire general sur un cas d'usage, pas sur votre situation. Parlez a un vrai avocat avant d'agir.