実在する氏名つきの人物についてのAIの出力を頼りにする
モデルが犯罪をでっち上げ、それに実在する人物の名前を貼り付けたら、それは不具合ではありません。データ法の下では正確性違反です。
これは法的助言ではありません。サリーが皮肉るのは一般的な行動やユースケースであって、あなた個別の状況ではなく、ここにある内容が本物の弁護士の代わりになることはありません。事例は実在しますが、それにどう対処するかはあなたと、それを助言する資格を持つ者との間の問題です。
氏名のある個人についてのAIの自信ありげな発言を事実として扱う、あるいは公表すること。
noyb v. OpenAI (Holmen complaint)
Complaint filed Mar. 2025 (Danish DPA) · EU (data protection complaint)
ChatGPTは、あるノルウェー人男性に対し、彼が息子2人を殺害して21年服役したと、本当の個人情報を混ぜて虚偽の説明をしました。
GDPRの正確性義務と訂正権の侵害を主張し、データ保護当局に係属中。未解決として引用してください。
あるモデルはかつて、実在する男性に対し、彼が自分の子どもたちを殺害し数十年服役したと、実際の出身地や家族構成といった本当の詳細を混ぜて告げました。EUデータ法の下では、これは名誉毀損にとどまりません。データ正確性の問題であり、その虚偽を訂正も消去もできないこと自体が、訂正権の侵害です。
この分野はまだ決着がついておらず、それこそが要点です。正確性と訂正の義務は、データベースの記録に付帯するのと同じように、人々についてのAI生成の発言にも付帯し、「モデルが言った」では義務は果たされません。
“出身地は当てて、犯罪歴は丸ごとでっち上げました。これはなぜか、全部を間違えるより始末が悪いのです。”
- 01特定の人物についてのAIの主張は、本物の情報源からの独立した確認なしに、公表も実行もしないこと。
- 02訂正の経路を作ること。システムが人々について事実を述べるなら、人々にはそれを直す手段が必要です。
- 03氏名のある個人についての自信ありげな詳細を、モデルが生み出せる最も高リスクな出力として扱うこと。
法的助言ではありません。あなたの状況ではなく、ユースケースへの一般的な論評です。行動する前に本物の弁護士に相談してください。