Fiarte de lo que la IA dice sobre una persona real con nombre y apellidos
Cuando un modelo inventa un crimen y le pega el nombre de una persona real, eso no es un fallo. Bajo la ley de datos es una violacion de exactitud.
Esto no es asesoramiento legal. Sally critica comportamientos y casos de uso en general, nunca tu situacion concreta, y nada de esto sustituye a un abogado de verdad. Los casos son reales; lo que hagas al respecto es asunto tuyo y de alguien con licencia para decirtelo.
Tratar como hechos las afirmaciones seguras de una IA sobre una persona concreta, o publicarlas.
noyb v. OpenAI (Holmen complaint)
Complaint filed Mar. 2025 (Danish DPA) · EU (data protection complaint)
ChatGPT le dijo falsamente a un hombre noruego que habia asesinado a dos de sus hijos y cumplido 21 anos, mezclado con detalles personales ciertos.
Pendiente ante las autoridades de proteccion de datos, alegando incumplimiento de los deberes de exactitud del RGPD y del derecho de rectificacion. Citalo como no resuelto.
Un modelo le dijo una vez a un hombre real que habia asesinado a sus propios hijos y cumplido decadas de carcel, mezclado con detalles ciertos como su pueblo natal real y su familia. Bajo la ley de datos de la UE esto no es solo difamacion. Es un problema de exactitud de los datos, y la imposibilidad de corregir o borrar la falsedad es en si misma una violacion del derecho de rectificacion.
Esta area sigue decidiendose, que es justo el punto. Las obligaciones de exactitud y rectificacion se adhieren a las afirmaciones generadas por IA sobre personas igual que se adhieren a un registro de base de datos, y "lo dijo el modelo" no las cancela.
“Acerto su pueblo natal y se invento todo su historial criminal, lo cual de algun modo es peor que equivocarse en todo.”
- 01Nunca publiques ni actues segun las afirmaciones de la IA sobre una persona concreta sin confirmacion independiente de una fuente real.
- 02Construye una via de correccion. Si tu sistema afirma hechos sobre personas, la gente necesita una forma de arreglarlos.
- 03Trata el detalle seguro sobre una persona con nombre y apellidos como el resultado de mayor riesgo que un modelo puede producir.
Esto no es asesoramiento legal. Comentario general sobre un caso de uso, no sobre tu situacion. Habla con un abogado de verdad antes de actuar.