Sich auf KI-Output über eine reale, namentlich genannte Person verlassen
Wenn ein Modell ein Verbrechen erfindet und den Namen einer echten Person daranhängt, ist das keine Panne. Nach Datenschutzrecht ist es ein Verstoss gegen die Richtigkeit.
Dies ist keine Rechtsberatung. Sally nimmt Verhalten und Anwendungsfalle allgemein aufs Korn, nie deine konkrete Situation, und nichts hier ersetzt einen echten Anwalt. Die Falle sind echt; was du daraus machst, ist Sache zwischen dir und jemandem, der dazu befugt ist, es dir zu sagen.
Die selbstbewussten Aussagen einer KI über eine namentlich genannte Person als Fakt behandeln oder veröffentlichen.
noyb v. OpenAI (Holmen complaint)
Complaint filed Mar. 2025 (Danish DPA) · EU (data protection complaint)
ChatGPT erzählte einem norwegischen Mann fälschlicherweise, er habe zwei seiner Söhne ermordet und 21 Jahre abgesessen, vermischt mit wahren persönlichen Details.
Anhängig bei den Datenschutzbehörden, mit dem Vorwurf der Verletzung der DSGVO-Richtigkeitspflichten und des Rechts auf Berichtigung. Zu zitieren als ungeklärt.
Ein Modell erzählte einem echten Mann einmal, er habe seine eigenen Kinder ermordet und Jahrzehnte im Gefängnis gesessen, vermischt mit wahren Details wie seinem tatsächlichen Heimatort und seiner Familie. Nach EU-Datenschutzrecht ist das nicht nur Verleumdung. Es ist ein Problem der Datenrichtigkeit, und die Unmöglichkeit, die Falschaussage zu berichtigen oder zu löschen, ist selbst ein Verstoss gegen das Recht auf Berichtigung.
Dieser Bereich wird noch entschieden, und das ist der Punkt. Die Pflichten zu Richtigkeit und Berichtigung gelten für KI-generierte Aussagen über Menschen genauso wie für einen Datenbankeintrag, und "das Modell hat es gesagt" entbindet nicht davon.
“Es hat seinen Heimatort richtig getroffen und sein ganzes Strafregister erfunden, was irgendwie schlimmer ist, als alles falsch zu machen.”
- 01Veröffentliche oder handle niemals nach KI-Behauptungen über eine konkrete Person ohne unabhängige Bestätigung aus einer echten Quelle.
- 02Baue einen Korrekturweg. Wenn dein System Fakten über Menschen behauptet, brauchen Menschen eine Möglichkeit, sie zu korrigieren.
- 03Behandle selbstbewusste Details über eine namentlich genannte Person als den risikoreichsten Output, den ein Modell produzieren kann.
Keine Rechtsberatung. Allgemeiner Kommentar zu einem Anwendungsfall, nicht zu deiner Situation. Sprich mit einem echten Anwalt, bevor du handelst.