Fare affidamento sull'output dell'AI riguardo a una persona reale e identificata
Quando un modello inventa un crimine e ci attacca il nome di una persona reale, non è un bug. Secondo il diritto sui dati è una violazione dell'accuratezza.
Questo non e un parere legale. Sally critica comportamenti e casi d'uso in generale, mai la tua situazione specifica, e niente qui sostituisce un vero avvocato. I casi sono reali; cosa farne e una questione tra te e qualcuno abilitato a dirtelo.
Trattare come fatti le affermazioni sicure di un'AI su una persona identificata, o pubblicarle.
noyb v. OpenAI (Holmen complaint)
Complaint filed Mar. 2025 (Danish DPA) · EU (data protection complaint)
ChatGPT ha detto falsamente a un uomo norvegese che aveva assassinato due dei suoi figli e scontato 21 anni, mescolando il tutto con dettagli personali veri.
Pendente davanti alle autorità per la protezione dei dati, con l'accusa di violazione dei doveri di accuratezza del GDPR e del diritto di rettifica. Da citare come irrisolto.
Un modello una volta ha detto a un uomo reale che aveva assassinato i propri figli e scontato decenni di carcere, mescolando dettagli veri come la sua città di origine e la sua famiglia. Secondo il diritto UE sui dati questa non è solo diffamazione. È un problema di accuratezza dei dati, e l'impossibilità di correggere o cancellare la falsità è di per sé una violazione del diritto di rettifica.
Quest'area è ancora in via di definizione, ed è proprio questo il punto. Gli obblighi di accuratezza e rettifica si applicano alle affermazioni generate dall'AI sulle persone esattamente come si applicano a un record di una banca dati, e "l'ha detto il modello" non li assolve.
“Ha azzeccato la sua città di origine e si è inventato la sua intera fedina penale, il che in qualche modo è peggio che sbagliare tutto.”
- 01Non pubblicare né agire mai sulla base di affermazioni dell'AI su una persona specifica senza una conferma indipendente da una fonte reale.
- 02Costruisci un percorso di correzione. Se il tuo sistema afferma fatti sulle persone, le persone devono avere un modo per correggerli.
- 03Tratta i dettagli sicuri su una persona identificata come l'output più rischioso che un modello possa produrre.
Non e un parere legale. Commento generale su un caso d'uso, non sulla tua situazione. Parla con un vero avvocato prima di agire.