Question 1

顧客対応のAIチャットボットに自社ポリシーを語らせる

Accepted Answer

ボットが約束したなら、あなたが買ったも同然。「AIが言った」は弁解ではなく、自白です。 ある企業は実際の審判所で、サイトのチャットボットは自分の発言に責任を持つ別個の法人だと主張しようとしました。審判所は笑い飛ばしはしませんでしたが、ぎりぎりのところでした。あなたのボットはあなた自身です。ボットの発言はすべて、あなたの会社がした表明です。 実在しない返金ポリシーを自信満々ででっち上げるAIは、ちょっと変わった助っ人ではありません。あなたが履行する羽目になる約束を量産する、責任発生マシンです。

Question 2

「AI弁護士」に有効な法的書類を無監督で作らせて信用する

Accepted Answer

「ロボット弁護士」は宣伝文句であって、過誤責任保険ではありません。リスクを背負うのはロボットではなく、あなたです。 ある規制当局は、精度のテストも実際の弁護士による検証もせずに、完璧に有効な法的書類を作成でき人間の弁護士に取って代われると宣伝した「AI弁護士」企業を追及しました。AIの法務作業を裏付けもなく弁護士同等とうたうのは、欺瞞的取引の問題です。 弁護士が書いたように見えて、こっそり間違っている契約書は、契約書が全くないより危険です。なぜなら、それを生業として読む相手の前で破綻する寸前まで、あなたに自信を与えてしまうからです。

Question 3

署名済みの和解がまだ有効かどうかAIに尋ねる

Accepted Answer

署名したのはあなたです。モデルではありません。裁判所がどちらを気にするか、当ててみてください。 これは本当に決着がついておらず、だからこそ危険です。署名し免責も済んだ和解が「実は拘束力がない」とAIが誰かに告げれば、契約妨害やAI開発元に対する無資格法律業務の主張を含む、現実の紛争を引き起こしかねません。 モデルはあなたの案件の手続上の状況も、正確な免責文言も、その管轄のルールも知りません。間違えればすでに合意したものが覆る状況に、自信だけをパターンマッチで貼り付けてくるのです。

Question 4

実在を確かめずにAIの判例を引用する

Accepted Answer

モデルは判例も引用番号も判決文の一節もでっち上げ、その三つを、本物に使うのと同じ穏やかな自信で差し出してきます。 これはこのジャンル全体の出発点となった戒めの物語です。弁護士たちは、チャットボットが作った全くの架空の6つの判決を、偽の引用と偽の裁判官名つきで引用した書面を提出しました。チャットボットに「これは本物?」と尋ねて「はい」と言われるのは検証ではありません。同じ機械が二度あなたに嘘をついているだけです。 AIは引用らしく見えるテキストに最適化されているのであって、実在する引用には最適化されていません。完璧な書式の判例集番号にもっともらしい事件名がついたものは、AIにとってこの世で最も生成しやすく、忙しい人間にとって最も疑いにくいものです。

Question 5

ハルシネーションの引用はせいぜい少額の罰金で済むと思い込む

Accepted Answer

罰金は安く済む方の結末です。高くつくのは、懲戒委員会への付託にあなたの名前が載ることです。 ある控訴裁判所は、実在しないAI生成の判例を引用した弁護士に罰金を科しただけではありませんでした。懲戒調査のために苦情処理委員会へ付託したのです。署名前に合理的な調査を行う義務は、AI支援の調査にも丸ごと適用されます。「コンピューターがやった」という例外はありません。 評判への打撃は金額よりも重くのしかかります。実在しない判例を引用した経緯を記した公刊判決は、5桁の制裁よりもはるかに長くあなたの名前についてまわります。

Question 6

事務所内製のAIツールが引用を正しく出すと信用する

Accepted Answer

事務所のロゴがついたハルシネーションも、やはりハルシネーションです。ブランドが判例を本物にするわけではありません。 大手事務所自身の内製AIツールでさえ、実在しない判例を引用した書面を生み出しました。誰も判例を開いていなければ「うちの専有システムだから」では何の足しにもなりません。署名する弁護士は、誰のモデルが下書きを生成しようと、依然として責任を背負います。 注目すべきは、事務所自身はその後独立検証を義務づけたことを示して制裁を免れた点です。安全装置はツールではなく、すべての引用を確認するという方針でした。

Question 7

AIが生成した「調査結果」を自分の弁護士に渡して提出させる

Accepted Answer

過失と無謀は別の場所に着地します。どちらも、どうやってそこにたどり着いたか説明したい場所ではありません。 ここには現実の、狭い境界線があります。ある事案で、被告がチャットボットの偽の引用を弁護士に渡し、弁護士はそれを提出しました。裁判官はその行為を悪意ではなく過失と評し、制裁を見送りました。それは安全な避難港ではありません。個別の事実次第で成立した、すれすれの回避です。 有名な制裁判例との対比こそが教訓のすべてです。罰金とお咎めなしの差は意図に左右されることがあり、裁判所がどちらの側にあなたを置くかを、後出しで自分が決めることはできません。

Question 8

AIで調査の切り口をブレストし、その後一語残らず検証する

Accepted Answer

AIは調査を始めるには上等な場所です。終える場所としては破滅的です。 これは実際にうまくいくやり方です。ブレストの相棒として使えば、AISは本当に役立ちます。切り口を浮かび上がらせ、平易な言葉の要約を起草し、確認すべきことのリストづくりを手伝ってくれます。危険が現れるのは、その提案が人間を間に挟まずに引用になった瞬間だけです。 あの惨事のジャンルすべてが存在するのは、人々が検証の工程を飛ばしたからです。その工程を残せば、同じツールが負債ではなく資産になります。腕の見せどころは、どの出力に出典が必要でどれに不要かを見極めることです。

Question 9

法的根拠なしに個人データでAIを訓練したり食わせたりする

Accepted Answer

「ネットに載っていた」は法的根拠ではありません。EUではかろうじて言い訳にすらなりません。 あるデータ保護当局は、有効な法的根拠なしに個人データでAIを訓練したことに対し、透明性の欠如や違反通知の漏れと合わせて、8桁の大型制裁金を科しました。EUデータ法下で初の大型生成AI制裁であり、これが最後にはなりません。 公開イコール自由に使えるという直感は、GDPRと接触すると生き残れません。個人データはどこで見つけたかに関係なく義務を伴います。適法な根拠、何をしているかについての透明性、そして人々が権利を行使する手段です。

Question 10

実在する氏名つきの人物についてのAIの出力を頼りにする

Accepted Answer

モデルが犯罪をでっち上げ、それに実在する人物の名前を貼り付けたら、それは不具合ではありません。データ法の下では正確性違反です。 あるモデルはかつて、実在する男性に対し、彼が自分の子どもたちを殺害し数十年服役したと、実際の出身地や家族構成といった本当の詳細を混ぜて告げました。EUデータ法の下では、これは名誉毀損にとどまりません。データ正確性の問題であり、その虚偽を訂正も消去もできないこと自体が、訂正権の侵害です。 この分野はまだ決着がついておらず、それこそが要点です。正確性と訂正の義務は、データベースの記録に付帯するのと同じように、人々についてのAI生成の発言にも付帯し、「モデルが言った」では義務は果たされません。

Question 11

「公開されている」イコール自由にスクレイピングして訓練できると思い込む

Accepted Answer

見えることと許されることは同じ言葉ではありません。人々はその違いを学ぶために、今も弁護士に金を払い続けています。 広範な集団訴訟は、数十億語と個人の詳細を同意なしにスクレイピングしてモデルを訓練することは、プライバシーとデータの権利に関わるという理論を打ち出しました。それらの個別の訴訟のいくつかは手続上つまずいたので、勝利ではなく理論の確立として扱ってください。しかし理論そのものは今やしっかり俎上に載っています。 公開された可視性はアクセスの話であって、許可の話ではありません。写真、投稿、プロフィールに手が届くということは、それを商用モデルに取り込んでよいかについては何も語りません。その二つめの問いには独自のルールがあり、それは厳しくなっています。

Question 12

AIツールには本当に必要なデータだけを食わせる

Accepted Answer

最も安全な個人データは、そもそも入れない個人データです。まず最小化、それからプロンプト。 これは戒めの物語からあなたを遠ざける、退屈な習慣です。制裁金や禁止令は、根拠以上に多くの個人データをモデルに食わせた組織のまわりに集中しています。本当に必要なものだけを使うという原則、データ最小化は、あなたが行う中で最も安いコンプライアンスです。 ほとんどのAIタスクは、名前も住所も完全な記録も実際には必要としません。必要なのは関連する事実です。その二つを切り分ければ、送信ボタンを押す前に、あなたのプライバシー上の露出のほとんどが消えます。

Question 13

完全にAI生成の作品に著作権を主張する

Accepted Answer

機械は著作者になれません。どれほど見事なプロンプトだろうと、人間が作っていないものに著作権はかけられません。 ある男性が、機械を著作者とするAI生成のアートワークを登録しようと何年も費やしました。裁判所は、著作権はそもそも人間の著作者を必要とするとして、最後まで認めませんでした。最高裁は取り上げることを拒み、これが確立した法となりました。人間の創作性のない完全なAI生成作品は登録できません。 これは、人が本当に結果を形づくる人間とAIの協働を解決するものではありません。しかし、それ単独で存在する純粋な機械の出力には、あなたを含め誰も保有できる著作権がありません。

Question 14

自分も一部を手がけたAI支援作品に著作権を取る

Accepted Answer

あなたが作った部分は保護できます。機械が作った部分は二重の意味でおまけで付いてきます。 ある人がAI生成画像を含むグラフィックノベルを登録したとき、著作権局は人間が執筆したテキストと、選択・配列についてのみ保護を認めました。AI画像そのものには何も与えませんでした。生成器にプロンプトを与えることは、創作性の意味で結果の画像を実際に形づくることにはならない、と判断されたのです。 つまり作品は部分ごとに保護されます。あなたの執筆、あなたの取捨選択、あなたのレイアウトはあなたのものです。真ん中にある生の生成アセットはそうではなく、そうだと表明すべきではありません。

Question 15

競合の著作物で商用AIを訓練する

Accepted Answer

誰かの製品の代替物をその人の著作物で組み立てるのは変容的ではありません。手順と訴訟が増えただけのただの競争です。 ある裁判所は、ある企業が競合の著作権付きヘッドノートで法務リサーチツールを訓練した件で、AI訓練についてフェアユースの抗弁を退ける米連邦初の判断を下しました。その利用は非変容的かつ市場の代替物と認定され、これはフェアユース分析で聞きうる最悪の言葉の組み合わせにほぼ相当します。 フェアユースは、あなたの利用が原作を変容させるか、そして原作の市場を害するかにかかっています。競合の素材で訓練して張り合う製品を作れば、あなたは両方の問いに自分に不利な答えを出したことになります。

Question 16

海賊版の素材を訓練データに使う

Accepted Answer

本をどう手に入れたかは、それで何をしたかと同じくらい重要です。海賊版の図書館はデータパイプラインではありません。 ある裁判所は、適法に取得した書籍での訓練はフェアユースになりうるが、海賊版の使用はそうではないと認定しました。その後その企業は、この種では史上最大とされる、およそ15億ドルで和解しました。致命傷は訓練手法ではなく、サプライチェーンでした。 これは、急いで動くときにチームが飛ばす部分です。データの出所です。擁護できる技術も、擁護できない情報源の上に築けば、ファイルがどこから来たのかと誰かが尋ねた瞬間に崩れます。

Question 17

AIの著作権ルールはどの国でも同じだと思い込む

Accepted Answer

訓練がどこで行われたかが勝敗を決めることがあります。法律は国境で変わるのではなく、サーバーで変わります。 英国のある事件で、裁判所はAIモデルの重みは訓練画像の複製ではないと判断し、大手の権利者は、訓練が英国で行われたことを示せなかったことも一因で主要な訓練侵害の主張を取り下げた末に、おおむね敗れました。これは、米国で同じ問題がどう争われているかとの顕著な対比です。 つまり同じ事実でも、訓練がどこで実行され、誰の法が適用されるかによって異なる結果が出うるのです。ある管轄の答えを普遍だと扱うことが、国境をまたぐAIプロジェクトが不意打ちに歩み込む道です。

Question 18

AI採用ツールに年齢など保護対象の属性で選別させる

Accepted Answer

差別を自動化しても浄化はされません。アルゴリズムは違法なことをより速く、より大規模にやるだけです。 ある採用ツールが、55歳超の女性応募者と60歳超の男性応募者を自動的に不採用にし、200人超をふるい落としました。生年月日だけを変えて再応募した人が突然面接にこぎ着けたことで発覚しました。規制当局はそれを単純明快な年齢差別違反として扱いました。まさにそのとおりだったからです。 バイアスをソフトに入れても中立にはなりません。フィルターが保護される特性、あるいは生年月日のような代理指標に基づいて人を不採用にするなら、それは人間が手作業で下したのと同じ違法な判断です。

Question 19

AI選別ベンダーが差別リスクを背負うと思い込む

Accepted Answer

ベンダーも責任を負うかもしれません。それはあなたがお咎めなしという意味ではなく、共有された訴訟も依然としてあなたの訴訟です。 ある裁判所は、ベンダーはそれを使う雇用主の代理人として直接責任を負いうるという理論で、AI選別ベンダーに対する差別的影響の主張の続行を認めました。それは誰を訴えられるかにおける本物の転換です。しかし正しく読んでください。それは責任を拡大するのであって、あなたから移し替えるのではありません。 この分野はまだ決着がついておらず、全米規模の集団も認定されています。雇用主にとって安全な読み方は、あなたとベンダーの両方が責任を負いうるというものです。だから「サードパーティのツールを使った」は、人々が思うほどの盾ではありません。

Question 20

AIで職務記述書を起草し、選別の前に人間がバイアスチェックする

Accepted Answer

AIが求人票を書くのは問題ありません。AIが無監査で誰を落とすか決めるのが、判例集入りする道です。 これは安全な車線です。求人票の起草、表現の引き締め、候補者を遠ざけかねない言い回しの指摘にAIを使うのは低リスクで、本当に役立ちます。危険はその一歩先、同じ意気込みが、誰もパターンを確認せずに応募者を自動的に落とすことに向けられたときに棲みます。 モデルを書く側に、人間を決める側に置けば、差別的影響の露出なしに生産性が手に入ります。戒めの和解はどれも一つの特徴を共有しています。自動化が何をふるい落としているか、誰も監査しなかったのです。

Sally's Law