Q: اعتماد به یک «وکیل هوش مصنوعی» برای تولید اسناد حقوقی معتبر بدون نظارت

«وکیل رباتی» یک عبارت بازاریابی است، نه بیمهی قصور حرفهای. ریسک را ربات به دوش نمیکشد. تو میکشی. یک نهاد نظارتی به سراغ شرکتی رفت که یک «وکیل هوش مصنوعی» را تبلیغ میکرد و ادعا داشت میتواند اسناد حقوقی کاملاً معتبر تولید کند و جای وکلای انسانی را بگیرد، بدون آزمایش دقت یا داشتن وکلای واقعی برای راستیآزمایی خروجی. بازاریابی کار حقوقیِ هوش مصنوعی بهعنوان معادل وکیل، بدون مستندسازی، یک مشکلِ رویههای فریبکارانه است. قراردادی که شبیه کار وکیل به نظر میرسد و بیسروصدا غلط است، از نداشتن هیچ قراردادی خطرناکتر است، چون درست تا لحظهای که جلوی کسی که شغلش خواندن قرارداد است شکست میخوری به تو اعتماد به نفس میدهد.

Q: استناد به پروندههایی از یک هوش مصنوعی بدون بررسی اینکه وجود دارند

مدل یک پرونده، یک ارجاع، و یک نقلقول اختراع میکند، و هر سه را با همان آرامش و اعتماد به نفسی ارائه میدهد که برای پروندههای واقعی به کار میبرد. این داستان عبرتآموزِ بنیادینِ کل این ژانر است. وکلایی یک لایحه ثبت کردند که به شش تصمیمِ کاملاً ساختگی استناد میکرد که یک چتبات تولید کرده بود، با نقلقولهای جعلی و قضات جعلی. پرسیدن از چتبات که «اینها واقعیاند؟» و شنیدن «بله» راستیآزمایی نیست. همان ماشین است که دو بار به تو دروغ میگوید. هوش مصنوعی متنی را بهینه میکند که شبیه ارجاع به نظر برسد، نه ارجاعی که وجود داشته باشد. یک شمارهی گزارش با قالببندی بینقص و نامِ پروندهای محتمل آسانترین چیز در دنیا برای ساختن است و سختترین چیز برای شک کردنِ یک آدم پرمشغله.

Q: این فرض که یک ارجاعِ توهمی فقط یک جریمهی کوچک برایت آب میخورد

جریمه نتیجهی ارزان است. نتیجهی گران، نامِ توست روی یک ارجاع به هیئت انضباطی. یک دادگاه تجدیدنظر صرفاً یک وکیل را برای استناد به یک پروندهی ناموجودِ تولیدشده توسط هوش مصنوعی جریمه نکرد. او را به هیئت رسیدگی به شکایاتِ خود برای یک تحقیق انضباطی ارجاع داد. وظیفهی انجام یک پرسوجوی معقول قبل از امضای یک لایحه بهطور کامل شامل تحقیقِ بهکمکِ هوش مصنوعی هم میشود. استثنای «کامپیوتر انجامش داد» وجود ندارد. هزینهی اعتباری سختتر از رقم دلاری مینشیند. یک رأی منتشرشده که توصیف میکند چطور به پروندهای استناد کردی که وجود ندارد، خیلی بیشتر از یک تنبیهِ پنجرقمی نامت را دنبال میکند.

Q: تحویل دادنِ «تحقیق» تولیدشدهی هوش مصنوعی به وکیل خودت برای ثبت

غفلت و بیپروایی در جاهای مختلفی فرود میآیند. هیچکدام جایی نیست که بخواهی توضیح بدهی چطور به آنجا رسیدی. اینجا یک خطِ واقعی و باریک هست. در یک پرونده، یک متهم ارجاعات جعلی از یک چتبات را به وکیلش داد، که آنها را ثبت کرد. قاضی از تنبیه خودداری کرد و رفتار را غفلتآمیز نامید نه با سوءنیت. این یک پناهگاه امن نیست. یک عبورِ نزدیک است که به جزئیات خاصِ آن پرونده وابسته بود. تضاد آن با پروندههای مشهورِ تنبیه، تمامِ درس است: تفاوت بین یک جریمه و یک عبور میتواند به قصد ختم شود، و تو این اختیار را نداری که بعد از واقعه تصمیم بگیری دادگاه تو را در کدام طرف آن خط میگذارد.

Q: استفاده از هوش مصنوعی برای ایدهپردازیِ زوایای تحقیق، و بعد راستیآزماییِ هر کلمه

هوش مصنوعی جای خوبی برای شروعِ یک جستوجوست. جای فاجعهباری برای پایان دادن به آن است. این همان نسخهای است که واقعاً کار میکند. بهعنوان یک همراهِ ایدهپردازی، هوش مصنوعی واقعاً مفید است: زوایا را رو میکند، خلاصههای بهزبانساده مینویسد، و کمکت میکند فهرستی از چیزهایی که باید بررسی کنی بسازی. خطر فقط وقتی ظاهر میشود که پیشنهاد بدون یک انسانِ بینابین به ارجاع تبدیل شود. کلِ ژانرِ فاجعه به این دلیل وجود دارد که آدمها مرحلهی راستیآزمایی را رد کردند. مرحله را نگه دار و همان ابزار بهجای یک بدهی به یک دارایی تبدیل میشود. مهارت در این است که بدانی کدام خروجیاش به یک منبع نیاز دارد و کدام نه.

Q: آموزش یا تغذیهی هوش مصنوعی با دادههای شخصی بدون هیچ مبنای قانونی

«توی اینترنت بود» یک مبنای قانونی نیست. در اتحادیهی اروپا بهزور یک بهانه است. یک مرجع حفاظت از داده یک جریمهی بزرگِ هشترقمی برای آموزش یک هوش مصنوعی روی دادههای شخصی بدون مبنای قانونیِ معتبر صادر کرد، در کنار قصور در شفافیت و یک اطلاعرسانیِ نقضِ ازدسترفته. اولین جریمهی بزرگِ هوش مصنوعیِ مولد تحت قانون دادهی اتحادیهی اروپا بود، و آخری نخواهد بود. این غریزه که «عمومی یعنی آزاد برای استفاده» در برخورد با GDPR زنده نمیماند. دادهی شخصی فارغ از اینکه کجا پیدایش کردی تعهداتی به همراه دارد: یک مبنای قانونی، شفافیت دربارهی کاری که میکنی، و راهی برای اینکه مردم حقوقشان را اعمال کنند.

Q: تکیه کردن به خروجی هوش مصنوعی دربارهی یک شخصِ واقعی و نامبرده

وقتی یک مدل یک جنایت اختراع میکند و نام یک آدم واقعی را به آن میچسباند، این یک خرابیِ فنی نیست. تحت قانون داده، یک تخلفِ دقت است. یک مدل یکبار به یک مردِ واقعی گفت که فرزندان خودش را به قتل رسانده و دههها در زندان بوده، قاطیشده با جزئیات درستی مثل زادگاه واقعی و خانوادهاش. تحت قانون دادهی اتحادیهی اروپا این فقط افترا نیست. یک مشکلِ دقتِ داده است، و ناتوانی در تصحیح یا پاک کردنِ آن دروغ خودش نقضِ حق اصلاح است. این حوزه هنوز در حال تصمیمگیری است، که نکتهاش همین است. تعهدات دقت و اصلاح به اظهارات تولیدشدهی هوش مصنوعی دربارهی افراد دقیقاً همانطور میچسبند که به یک رکورد پایگاهداده، و «مدل گفتش» آنها را رفع نمیکند.

Question 1

اجازه دادن به یک چت‌بات هوش مصنوعیِ روبه‌مشتری برای نقل‌قول از سیاست‌های خودِ شما

Accepted Answer

اگر ربات تو قولش را داد، خریدیش. «هوش مصنوعی گفت» دفاع نیست، اعتراف است. یک شرکت در یک دادگاه واقعی تلاش کرد استدلال کند که چت‌بات سایتش یک شخصیت حقوقی جداگانه است که مسئول حرف‌های خودش است. دادگاه نخندید، ولی نزدیک بود. ربات تو خودِ تو است. هر چه می‌گوید اظهارنظری است که کسب‌وکارت کرده. هوش مصنوعی‌ای که با اعتماد به نفس سیاست بازپرداختی را اختراع می‌کند که اصلاً ارائه نمی‌دهی، یک دستیار بامزه نیست. یک ماشینِ تولید مسئولیت است که قول‌هایی می‌سازد و بعد تو باید پای آن‌ها بایستی.

Question 2

اعتماد به یک «وکیل هوش مصنوعی» برای تولید اسناد حقوقی معتبر بدون نظارت

Accepted Answer

«وکیل رباتی» یک عبارت بازاریابی است، نه بیمه‌ی قصور حرفه‌ای. ریسک را ربات به دوش نمی‌کشد. تو می‌کشی. یک نهاد نظارتی به سراغ شرکتی رفت که یک «وکیل هوش مصنوعی» را تبلیغ می‌کرد و ادعا داشت می‌تواند اسناد حقوقی کاملاً معتبر تولید کند و جای وکلای انسانی را بگیرد، بدون آزمایش دقت یا داشتن وکلای واقعی برای راستی‌آزمایی خروجی. بازاریابی کار حقوقیِ هوش مصنوعی به‌عنوان معادل وکیل، بدون مستندسازی، یک مشکلِ رویه‌های فریب‌کارانه است. قراردادی که شبیه کار وکیل به نظر می‌رسد و بی‌سروصدا غلط است، از نداشتن هیچ قراردادی خطرناک‌تر است، چون درست تا لحظه‌ای که جلوی کسی که شغلش خواندن قرارداد است شکست می‌خوری به تو اعتماد به نفس می‌دهد.

Question 3

پرسیدن از هوش مصنوعی که آیا توافق‌نامه‌ی امضاشده‌ات هنوز الزام‌آور است

Accepted Answer

تو امضایش کردی. مدل نکرد. حدس بزن دادگاه به کدامتان اهمیت می‌دهد. این یکی واقعاً حل‌نشده است، که دقیقاً همین چیز خطرناکش می‌کند. هوش مصنوعی‌ای که به کسی می‌گوید توافق‌نامه‌ی امضاشده و رضایت‌داده‌ی او «واقعاً الزام‌آور نیست» می‌تواند دعواهای واقعی به راه بیندازد، از جمله ادعای مداخله در قرارداد و وکالت غیرمجاز علیه سازنده‌ی هوش مصنوعی. یک مدل وضعیت آیینی پرونده‌ات، عبارت دقیق رضایت‌نامه، یا قواعد آن حوزه‌ی قضایی را نمی‌داند. اعتماد به نفس را روی موقعیتی الگوبرداری می‌کند که اشتباه بودن در آن چیزی را که قبلاً قبول کرده‌ای از هم می‌پاشد.

Question 4

استناد به پرونده‌هایی از یک هوش مصنوعی بدون بررسی اینکه وجود دارند

Accepted Answer

مدل یک پرونده، یک ارجاع، و یک نقل‌قول اختراع می‌کند، و هر سه را با همان آرامش و اعتماد به نفسی ارائه می‌دهد که برای پرونده‌های واقعی به کار می‌برد. این داستان عبرت‌آموزِ بنیادینِ کل این ژانر است. وکلایی یک لایحه ثبت کردند که به شش تصمیمِ کاملاً ساختگی استناد می‌کرد که یک چت‌بات تولید کرده بود، با نقل‌قول‌های جعلی و قضات جعلی. پرسیدن از چت‌بات که «این‌ها واقعی‌اند؟» و شنیدن «بله» راستی‌آزمایی نیست. همان ماشین است که دو بار به تو دروغ می‌گوید. هوش مصنوعی متنی را بهینه می‌کند که شبیه ارجاع به نظر برسد، نه ارجاعی که وجود داشته باشد. یک شماره‌ی گزارش با قالب‌بندی بی‌نقص و نامِ پرونده‌ای محتمل آسان‌ترین چیز در دنیا برای ساختن است و سخت‌ترین چیز برای شک کردنِ یک آدم پرمشغله.

Question 5

این فرض که یک ارجاعِ توهمی فقط یک جریمه‌ی کوچک برایت آب می‌خورد

Accepted Answer

جریمه نتیجه‌ی ارزان است. نتیجه‌ی گران، نامِ توست روی یک ارجاع به هیئت انضباطی. یک دادگاه تجدیدنظر صرفاً یک وکیل را برای استناد به یک پرونده‌ی ناموجودِ تولیدشده توسط هوش مصنوعی جریمه نکرد. او را به هیئت رسیدگی به شکایاتِ خود برای یک تحقیق انضباطی ارجاع داد. وظیفه‌ی انجام یک پرس‌وجوی معقول قبل از امضای یک لایحه به‌طور کامل شامل تحقیقِ به‌کمکِ هوش مصنوعی هم می‌شود. استثنای «کامپیوتر انجامش داد» وجود ندارد. هزینه‌ی اعتباری سخت‌تر از رقم دلاری می‌نشیند. یک رأی منتشرشده که توصیف می‌کند چطور به پرونده‌ای استناد کردی که وجود ندارد، خیلی بیشتر از یک تنبیهِ پنج‌رقمی نامت را دنبال می‌کند.

Question 6

اعتماد به ابزار هوش مصنوعیِ داخلیِ شرکتت برای درست درآوردن ارجاعات

Accepted Answer

یک توهم با لوگوی شرکت تو رویش، باز هم یک توهم است. برند آن، پرونده‌ها را واقعی نمی‌کند. حتی ابزار هوش مصنوعیِ داخلیِ یک شرکت بزرگ هم لایحه‌هایی تولید کرد که به پرونده‌هایی استناد می‌کردند که وجود نداشتند. «سیستم اختصاصیِ ماست» هیچ سودی برایت ندارد اگر کسی پرونده‌ها را باز نکرده باشد. وکیلِ امضاکننده باز هم مسئولیت را به دوش می‌کشد، فرقی نمی‌کند مدلِ چه کسی پیش‌نویس را تولید کرده. نکته‌ی قابل‌توجه اینکه خودِ شرکت با نشان دادن اینکه از آن پس راستی‌آزماییِ مستقل را الزامی کرده از تنبیه گریخت. ابزار محافظ نبود. سیاستِ بررسی هر ارجاع بود.

Question 7

تحویل دادنِ «تحقیق» تولیدشده‌ی هوش مصنوعی به وکیل خودت برای ثبت

Accepted Answer

غفلت و بی‌پروایی در جاهای مختلفی فرود می‌آیند. هیچ‌کدام جایی نیست که بخواهی توضیح بدهی چطور به آنجا رسیدی. اینجا یک خطِ واقعی و باریک هست. در یک پرونده، یک متهم ارجاعات جعلی از یک چت‌بات را به وکیلش داد، که آن‌ها را ثبت کرد. قاضی از تنبیه خودداری کرد و رفتار را غفلت‌آمیز نامید نه با سوءنیت. این یک پناهگاه امن نیست. یک عبورِ نزدیک است که به جزئیات خاصِ آن پرونده وابسته بود. تضاد آن با پرونده‌های مشهورِ تنبیه، تمامِ درس است: تفاوت بین یک جریمه و یک عبور می‌تواند به قصد ختم شود، و تو این اختیار را نداری که بعد از واقعه تصمیم بگیری دادگاه تو را در کدام طرف آن خط می‌گذارد.

Question 8

استفاده از هوش مصنوعی برای ایده‌پردازیِ زوایای تحقیق، و بعد راستی‌آزماییِ هر کلمه

Accepted Answer

هوش مصنوعی جای خوبی برای شروعِ یک جست‌وجوست. جای فاجعه‌باری برای پایان دادن به آن است. این همان نسخه‌ای است که واقعاً کار می‌کند. به‌عنوان یک همراهِ ایده‌پردازی، هوش مصنوعی واقعاً مفید است: زوایا را رو می‌کند، خلاصه‌های به‌زبان‌ساده می‌نویسد، و کمکت می‌کند فهرستی از چیزهایی که باید بررسی کنی بسازی. خطر فقط وقتی ظاهر می‌شود که پیشنهاد بدون یک انسانِ بینابین به ارجاع تبدیل شود. کلِ ژانرِ فاجعه به این دلیل وجود دارد که آدم‌ها مرحله‌ی راستی‌آزمایی را رد کردند. مرحله را نگه دار و همان ابزار به‌جای یک بدهی به یک دارایی تبدیل می‌شود. مهارت در این است که بدانی کدام خروجی‌اش به یک منبع نیاز دارد و کدام نه.

Question 9

آموزش یا تغذیه‌ی هوش مصنوعی با داده‌های شخصی بدون هیچ مبنای قانونی

Accepted Answer

«توی اینترنت بود» یک مبنای قانونی نیست. در اتحادیه‌ی اروپا به‌زور یک بهانه است. یک مرجع حفاظت از داده یک جریمه‌ی بزرگِ هشت‌رقمی برای آموزش یک هوش مصنوعی روی داده‌های شخصی بدون مبنای قانونیِ معتبر صادر کرد، در کنار قصور در شفافیت و یک اطلاع‌رسانیِ نقضِ ازدست‌رفته. اولین جریمه‌ی بزرگِ هوش مصنوعیِ مولد تحت قانون داده‌ی اتحادیه‌ی اروپا بود، و آخری نخواهد بود. این غریزه که «عمومی یعنی آزاد برای استفاده» در برخورد با GDPR زنده نمی‌ماند. داده‌ی شخصی فارغ از اینکه کجا پیدایش کردی تعهداتی به همراه دارد: یک مبنای قانونی، شفافیت درباره‌ی کاری که می‌کنی، و راهی برای اینکه مردم حقوقشان را اعمال کنند.

Question 10

تکیه کردن به خروجی هوش مصنوعی درباره‌ی یک شخصِ واقعی و نام‌برده

Accepted Answer

وقتی یک مدل یک جنایت اختراع می‌کند و نام یک آدم واقعی را به آن می‌چسباند، این یک خرابیِ فنی نیست. تحت قانون داده، یک تخلفِ دقت است. یک مدل یک‌بار به یک مردِ واقعی گفت که فرزندان خودش را به قتل رسانده و دهه‌ها در زندان بوده، قاطی‌شده با جزئیات درستی مثل زادگاه واقعی و خانواده‌اش. تحت قانون داده‌ی اتحادیه‌ی اروپا این فقط افترا نیست. یک مشکلِ دقتِ داده است، و ناتوانی در تصحیح یا پاک کردنِ آن دروغ خودش نقضِ حق اصلاح است. این حوزه هنوز در حال تصمیم‌گیری است، که نکته‌اش همین است. تعهدات دقت و اصلاح به اظهارات تولیدشده‌ی هوش مصنوعی درباره‌ی افراد دقیقاً همان‌طور می‌چسبند که به یک رکورد پایگاه‌داده، و «مدل گفتش» آن‌ها را رفع نمی‌کند.

Question 11

این فرض که «در دسترس عموم» یعنی آزاد برای خراش دادن و آموزش روی آن

Accepted Answer

قابل‌مشاهده و مجاز دو کلمه‌ی یکسان نیستند. مردم همین‌طور پول به وکلا می‌دهند تا تفاوتش را یاد بگیرند. دعاوی جمعیِ گسترده این نظریه را پیش بردند که خراش دادن میلیاردها کلمه و جزئیات شخصی برای آموزش مدل‌ها، بدون رضایت، حقوق حریم خصوصی و داده را درگیر می‌کند. بعضی از آن دعاوی خاص بر سر مسائل آیینی لنگیدند، پس آن‌ها را نظریه‌ساز بدان نه پیروزی. ولی خودِ نظریه حالا محکم روی میز است. قابل‌مشاهده بودنِ عمومی درباره‌ی دسترسی است، نه اجازه. اینکه یک عکس، یک پست، یا یک پروفایل قابل‌دسترس است هیچ نمی‌گوید که آیا می‌توانی آن را در یک مدلِ تجاری بلعی. آن سؤال دوم قواعد خودش را دارد، و دارند سفت‌تر می‌شوند.

Question 12

تغذیه‌ی ابزارهای هوش مصنوعی فقط با داده‌ای که واقعاً لازم دارند

Accepted Answer

امن‌ترین داده‌ی شخصی، داده‌ی شخصی‌ای است که اصلاً واردش نمی‌کنی. اول کمینه کن، بعد پرامپت بزن. این همان عادتِ کسل‌کننده‌ای است که تو را از داستان‌های عبرت‌آموز دور نگه می‌دارد. جریمه‌ها و ممنوعیت‌ها دور سازمان‌هایی خوشه می‌زنند که بیشتر از مبنایی که داشتند داده‌ی شخصی به مدل‌ها دادند. کمینه‌سازیِ داده، یعنی اصلِ فقط استفاده از آن‌چه واقعاً نیاز داری، ارزان‌ترین انطباقی است که در عمرت انجام می‌دهی. بیشتر کارهای هوش مصنوعی واقعاً به یک نام، یک آدرس، یا یک رکورد کامل نیاز ندارند. به واقعیت‌های مرتبط نیاز دارند. این دو را جدا کن و بیشتر آسیب‌پذیریِ حریم خصوصی‌ات قبل از اینکه اصلاً «ارسال» را بزنی ناپدید می‌شود.

Question 13

ادعای حق تکثیر روی یک اثرِ کاملاً تولیدشده‌ی هوش مصنوعی

Accepted Answer

یک ماشین نمی‌تواند پدیدآورنده باشد. نمی‌توانی روی چیزی که هیچ انسانی نساخته حق تکثیر بگیری، فرقی نمی‌کند پرامپت چقدر خوب بود. یک مرد سال‌ها تلاش کرد یک اثر هنریِ تولیدشده‌ی هوش مصنوعی را ثبت کند و ماشین را به‌عنوان پدیدآورنده نام ببرد. دادگاه‌ها تا بالاترین سطح گفتند نه، چون حق تکثیر در وهله‌ی اول به یک پدیدآورنده‌ی انسانی نیاز دارد. دیوان عالی از ورود به آن خودداری کرد، که آن را به قانونِ تثبیت‌شده تبدیل می‌کند: اثرِ کاملاً تولیدشده‌ی هوش مصنوعی بدون پدیدآورندگیِ انسانی قابل‌ثبت نیست. این مسئله‌ی همکاریِ انسان و هوش مصنوعی را حل نمی‌کند، جایی که یک آدم واقعاً نتیجه را شکل می‌دهد. ولی خروجیِ خالصِ ماشینی که به‌تنهایی نشسته هیچ حق تکثیری ندارد که کسی، از جمله تو، مالکش باشد.

Question 14

گرفتن حق تکثیر برای یک اثرِ به‌کمکِ هوش مصنوعی که بخشی از آن را خودت ساخته‌ای

Accepted Answer

می‌توانی بخش‌هایی را که خودت ساختی حمایت کنی. بخش‌هایی که ماشین ساخت مجانی همراه می‌آیند، به هر دو معنا. وقتی کسی یک رمان مصور حاوی تصاویر تولیدشده‌ی هوش مصنوعی را ثبت کرد، اداره‌ی حق تکثیر حمایت را فقط برای متنِ نوشته‌ی انسان و انتخاب و چیدمان معتبر دانست. خودِ تصاویر هوش مصنوعی هیچ نگرفتند. ارائه‌ی پرامپت به یک مولد چنین دانسته شد که در معنای پدیدآورندگی واقعاً تصاویر حاصل را شکل نمی‌دهد. پس اثر تکه‌تکه قابل‌حمایت است. نوشته‌ات، گزینش‌ات، چیدمانت، این‌ها مال تو هستند. دارایی‌های خامِ تولیدشده‌ی وسط مالِ تو نیستند، و نباید وانمود کنی که هستند.

Question 15

آموزش یک هوش مصنوعیِ تجاری روی محتوای دارای حق تکثیرِ یک رقیب

Accepted Answer

ساختن یک جایگزین برای محصول کسی از روی اثرِ دارای حق تکثیرِ خودش، تحول‌آفرین نیست. صرفاً رقابت است با چند مرحله‌ی اضافی و یک دادخواست. یک دادگاه اولین رأی فدرالِ آمریکا را صادر کرد که دفاعِ استفاده‌ی منصفانه برای آموزش هوش مصنوعی را رد می‌کرد، جایی که یک شرکت یک ابزار تحقیق حقوقی را روی خلاصه‌سرنویس‌های دارای حق تکثیرِ یک رقیب آموزش داده بود. استفاده غیرتحول‌آفرین و یک جایگزینِ بازار تشخیص داده شد، که تقریباً بدترین ترکیب کلماتی است که در یک تحلیل استفاده‌ی منصفانه می‌شنوی. استفاده‌ی منصفانه به این تکیه دارد که آیا استفاده‌ات اصل را متحول می‌کند و آیا به بازار آن آسیب می‌زند. روی محتوای یک رقیب آموزش بده تا یک محصول رقیب بسازی و هر دو سؤال را علیه خودت پاسخ داده‌ای.

Question 16

استفاده از محتوای دزدی‌شده به‌عنوان داده‌ی آموزشی

Accepted Answer

اینکه کتاب‌ها را چطور به دست آوردی به‌اندازه‌ی کاری که با آن‌ها کردی مهم است. یک کتابخانه‌ی دزدی یک خط لوله‌ی داده نیست. یک دادگاه تشخیص داد که آموزش روی کتاب‌هایی که قانونی به دست آمده‌اند می‌تواند استفاده‌ی منصفانه باشد، اما استفاده از نسخه‌های دزدی‌شده نه. شرکت بعد با مبلغی گزارش‌شده حدود ۱.۵ میلیارد دلار تسویه کرد، بزرگ‌ترین تسویه‌ی حق تکثیر از نوع خود. روش آموزش نقطه‌ضعف کشنده نبود. زنجیره‌ی تأمین بود. این همان بخشی است که تیم‌ها وقتی سریع پیش می‌روند رد می‌کنند: منشأ داده. یک تکنیکِ قابل‌دفاع که روی یک منبعِ غیرقابل‌دفاع ساخته شده، همان لحظه که کسی می‌پرسد فایل‌ها از کجا آمده‌اند فرومی‌ریزد.

Question 17

این فرض که قواعد حق تکثیرِ هوش مصنوعی در هر کشوری یکسان است

Accepted Answer

اینکه آموزش کجا اتفاق افتاده می‌تواند تعیین کند چه کسی می‌برد. قانون در مرز عوض نمی‌شود، روی سرور عوض می‌شود. در یک پرونده‌ی بریتانیا، یک دادگاه رأی داد که وزن‌های مدلِ هوش مصنوعی یک کپی از تصاویر آموزشی نیستند، و یک صاحب‌حقِ بزرگ تا حد زیادی باخت پس از کنار گذاشتنِ ادعاهای اصلیِ نقضِ آموزش، تا حدی چون نتوانست نشان دهد آموزش در بریتانیا اتفاق افتاده. این تضاد قابل‌توجهی است با اینکه چطور همان سؤالات در آمریکا مطرح می‌شوند. پس همان واقعیت‌ها می‌توانند بسته به اینکه آموزش کجا اجرا شده و قانون چه کسی اعمال می‌شود نتایج متفاوتی تولید کنند. رفتار با پاسخِ یک حوزه‌ی قضایی به‌عنوان جهان‌شمول، همان راهی است که پروژه‌های هوش مصنوعیِ فرامرزی به دل غافلگیری‌ها قدم می‌گذارند.

Question 18

اجازه دادن به یک ابزار استخدامِ هوش مصنوعی برای فیلتر کردن بر اساس سن یا دیگر ویژگی‌های حمایت‌شده

Accepted Answer

خودکار کردنِ تبعیض آن را پاک نمی‌کند. الگوریتم فقط کارِ غیرقانونی را سریع‌تر و در مقیاس بزرگ‌تر انجام می‌دهد. یک ابزار استخدام به‌طور خودکار متقاضیان زنِ بالای ۵۵ و متقاضیان مردِ بالای ۶۰ را رد می‌کرد، و بیش از دویست نفر را غربال کرد. وقتی لو رفت که کسی فقط با تغییر تاریخ تولد دوباره درخواست داد و ناگهان یک مصاحبه گرفت. یک نهاد نظارتی با آن مثل یک نقضِ سرراستِ تبعیض سنی رفتار کرد، چون دقیقاً همین بود. گذاشتنِ سوگیری در نرم‌افزار آن را بی‌طرف نمی‌کند. اگر یک فیلتر آدم‌ها را بر اساس یک ویژگی حمایت‌شده، یا یک جایگزین مثل تاریخ تولد، رد می‌کند، همان تصمیمِ غیرقانونی است که اگر یک انسان دستی می‌گرفت.

Question 19

این فرض که فروشنده‌ی غربالگریِ هوش مصنوعی ریسک تبعیض را به دوش می‌کشد

Accepted Answer

فروشنده هم شاید مسئول باشد. این به این معنا نیست که تو از زیر بار رفته‌ای، و یک دادخواستِ مشترک باز هم دادخواستِ توست. یک دادگاه اجازه داد یک ادعای تأثیرِ نامتناسب علیه یک فروشنده‌ی غربالگریِ هوش مصنوعی پیش برود، با این نظریه که فروشنده می‌تواند به‌عنوان نماینده‌ی کارفرماهایی که از آن استفاده می‌کنند مستقیماً مسئول باشد. این یک تغییرِ واقعی در اینکه چه کسی می‌تواند مورد شکایت قرار گیرد است. ولی درستش را بخوان: مسئولیت را گسترش می‌دهد، آن را از تو دور نمی‌کند. این حوزه هنوز در حال تصمیم‌گیری است، با یک دادخواست جمعیِ سراسری گواهی‌شده. خوانش امن برای یک کارفرما این است که تو و فروشنده‌ات هر دو می‌توانید مسئول باشید، پس «ما از یک ابزار شخص ثالث استفاده کردیم» آن سپری نیست که مردم فرض می‌کنند.

Question 20

استفاده از هوش مصنوعی برای نوشتن شرح شغل، با یک بررسیِ سوگیریِ انسانی قبل از اینکه کسی را غربال کند

Accepted Answer

نوشتنِ آگهی توسط هوش مصنوعی اشکالی ندارد. تصمیم گرفتنِ هوش مصنوعی درباره‌ی اینکه چه کسی رد شود، بدون ممیزی، همان راهی است که سر از رویه‌ی قضایی درمی‌آوری. این مسیر امن است. استفاده از هوش مصنوعی برای نوشتن یک آگهی، سفت کردن زبان، یا علامت‌گذاریِ عباراتی که شاید داوطلبان را دلسرد کند کم‌ریسک و واقعاً مفید است. خطر یک قدم بعدتر زندگی می‌کند، وقتی همان شور و شوق به سمتِ رد کردن خودکار متقاضیان نشانه‌گیری می‌شود بدون اینکه کسی الگو را بررسی کند. مدل را روی طرفِ نوشتن و یک انسان را روی طرفِ تصمیم‌گیری نگه دار، و بهره‌وری را بدون آسیب‌پذیریِ تأثیرِ نامتناسب می‌گیری. همه‌ی تسویه‌های عبرت‌آموز یک ویژگی مشترک دارند: هیچ‌کس ممیزی نکرد که خودکارسازی چه کسی را غربال می‌کند.

Sally's Law