Confiar no que a IA diz sobre uma pessoa real e identificada
Quando um modelo inventa um crime e cola o nome de uma pessoa real, isso não é uma falha. Pela lei de dados é uma violação de exatidão.
Isto nao e aconselhamento juridico. A Sally critica comportamentos e casos de uso em geral, nunca a tua situacao especifica, e nada aqui substitui um advogado a serio. Os casos sao reais; o que fazes com eles e entre ti e alguem habilitado a dizer-te.
Tratar as afirmações confiantes de uma IA sobre uma pessoa identificada como factos, ou publicá-las.
noyb v. OpenAI (Holmen complaint)
Complaint filed Mar. 2025 (Danish DPA) · EU (data protection complaint)
O ChatGPT disse falsamente a um homem norueguês que ele tinha assassinado dois dos seus filhos e cumprido 21 anos, misturado com detalhes pessoais verdadeiros.
Pendente nas autoridades de proteção de dados, alegando violação dos deveres de exatidão do RGPD e do direito de retificação. Cite como não resolvido.
Um modelo disse uma vez a um homem real que ele tinha assassinado os próprios filhos e cumprido décadas na prisão, tudo misturado com detalhes verdadeiros como a terra natal e a família. Pela lei de dados da UE isto não é só difamação. É um problema de exatidão de dados, e a incapacidade de corrigir ou apagar a falsidade é, por si só, uma violação do direito de retificação.
Esta área ainda está a ser decidida, e é esse o ponto. As obrigações de exatidão e de retificação aplicam-se às afirmações geradas por IA sobre pessoas tal como se aplicam a um registo de base de dados, e "o modelo é que disse" não as cumpre.
“Acertou na terra natal dele e inventou todo o cadastro criminal, o que de alguma forma é pior do que errar tudo.”
- 01Nunca publique nem aja com base em afirmações da IA sobre uma pessoa específica sem confirmação independente de uma fonte real.
- 02Crie um caminho de correção. Se o seu sistema afirma factos sobre pessoas, as pessoas precisam de uma forma de os corrigir.
- 03Trate detalhe confiante sobre um indivíduo identificado como o resultado de maior risco que um modelo pode produzir.
Nao e aconselhamento juridico. Comentario geral sobre um caso de uso, nao sobre a tua situacao. Fala com um advogado a serio antes de agires.