تکیه کردن به خروجی هوش مصنوعی دربارهی یک شخصِ واقعی و نامبرده
وقتی یک مدل یک جنایت اختراع میکند و نام یک آدم واقعی را به آن میچسباند، این یک خرابیِ فنی نیست. تحت قانون داده، یک تخلفِ دقت است.
این مشاوره حقوقی نیست. سلی رفتارها و موارد کاربرد را بهطور کلی به سخره میگیرد، نه وضعیت خاص شما را، و هیچچیز اینجا جای یک وکیل واقعی را نمیگیرد. پروندهها واقعیاند؛ اما اینکه با آنها چه میکنید میان شما و کسی است که مجوز دارد به شما بگوید.
رفتار با اظهارات بااعتمادبهنفسِ هوش مصنوعی دربارهی یک فردِ نامبرده بهعنوان واقعیت، یا منتشر کردن آنها.
noyb v. OpenAI (Holmen complaint)
Complaint filed Mar. 2025 (Danish DPA) · EU (data protection complaint)
چتجیپیتی بهدروغ به یک مرد نروژی گفت که دو تا از پسرانش را به قتل رسانده و ۲۱ سال محکومیت کشیده، آمیخته با جزئیات شخصیِ واقعی.
در دست بررسیِ مراجع حفاظت از داده، با ادعای نقض وظایف دقتِ GDPR و حق اصلاح. بهعنوان حلنشده استناد کن.
یک مدل یکبار به یک مردِ واقعی گفت که فرزندان خودش را به قتل رسانده و دههها در زندان بوده، قاطیشده با جزئیات درستی مثل زادگاه واقعی و خانوادهاش. تحت قانون دادهی اتحادیهی اروپا این فقط افترا نیست. یک مشکلِ دقتِ داده است، و ناتوانی در تصحیح یا پاک کردنِ آن دروغ خودش نقضِ حق اصلاح است.
این حوزه هنوز در حال تصمیمگیری است، که نکتهاش همین است. تعهدات دقت و اصلاح به اظهارات تولیدشدهی هوش مصنوعی دربارهی افراد دقیقاً همانطور میچسبند که به یک رکورد پایگاهداده، و «مدل گفتش» آنها را رفع نمیکند.
“زادگاهش را درست گفت و کلِ سابقهی کیفریاش را اختراع کرد، که یکجوری بدتر از این است که همهاش را غلط بگوید.”
- 01هرگز ادعاهای هوش مصنوعی دربارهی یک شخص خاص را بدون تأییدِ مستقل از یک منبع واقعی منتشر نکن یا به آن عمل نکن.
- 02یک مسیر اصلاح بساز. اگر سیستمت دربارهی افراد واقعیت اظهار میکند، آدمها به راهی برای تصحیحشان نیاز دارند.
- 03با جزئیاتِ بااعتمادبهنفس دربارهی یک فردِ نامبرده مثل پرریسکترین خروجیای که یک مدل میتواند تولید کند رفتار کن.
مشاوره حقوقی نیست. تفسیری کلی درباره یک مورد کاربرد است، نه وضعیت شما. پیش از هر اقدامی با یک وکیل واقعی صحبت کنید.