Question 1

Pozwalanie, by chatbot AI dla klientów cytował twoje własne regulaminy

Accepted Answer

Jeśli twój bot coś obiecuje, ty za to płacisz. "Tak powiedziała AI" to nie obrona, to przyznanie się do winy. Pewna firma próbowała w prawdziwym trybunale dowodzić, że jej chatbot na stronie to osobny podmiot prawny odpowiedzialny za własne słowa. Trybunał się nie roześmiał, ale niewiele brakowało. Twój bot to ty. Wszystko, co mówi, jest oświadczeniem złożonym przez twoją firmę. AI, która z pełnym przekonaniem wymyśla politykę zwrotów, jakiej w ogóle nie oferujesz, to nie sympatyczny pomocnik. To maszyna do produkowania zobowiązań, których potem musisz dotrzymać.

Question 2

Wiara, że "prawnik AI" sam, bez nadzoru, wygeneruje ważne dokumenty prawne

Accepted Answer

"Robot prawnik" to hasło marketingowe, nie polisa od błędów w sztuce. To nie robot ponosi ryzyko. Ty je ponosisz. Regulator zajął się firmą, która reklamowała "prawnika AI", twierdząc, że potrafi on generować idealnie ważne dokumenty prawne i zastąpić prawdziwych adwokatów, bez testowania dokładności i bez weryfikacji wyników przez prawdziwych prawników. Reklamowanie pracy prawnej AI jako równoważnej adwokatowi, bez żadnych podstaw, to problem nieuczciwych praktyk. Umowa, która wygląda prawniczo, a po cichu jest błędna, jest groźniejsza niż brak umowy, bo daje ci pewność siebie aż do chwili, gdy zawiedzie cię przy kimś, kto czyta takie rzeczy zawodowo.

Question 3

Pytanie AI, czy twoja już podpisana ugoda nadal cię wiąże

Accepted Answer

Ty ją podpisałeś. Model nie. Zgadnij, na którym z was zależy sądowi. Ta sprawa jest naprawdę nierozstrzygnięta, i właśnie dlatego jest niebezpieczna. AI mówiąca komuś, że jego podpisana ugoda ze zrzeczeniem "tak naprawdę nie wiąże", może wywołać realne spory, w tym zarzuty ingerencji w umowę i nieuprawnionego wykonywania zawodu prawnika wobec twórcy AI. Model nie zna sytuacji procesowej twojej sprawy, dokładnego brzmienia zrzeczenia ani zasad obowiązujących w danej jurysdykcji. Dopasowuje pewność siebie do sytuacji, w której pomyłka cofa coś, na co już się zgodziłeś.

Question 4

Cytowanie spraw z AI bez sprawdzenia, czy w ogóle istnieją

Accepted Answer

Model wymyśli sprawę, sygnaturę i cytat, a wszystkie trzy poda z tą samą spokojną pewnością, z jaką podaje te prawdziwe. To założycielska przestroga całego gatunku. Prawnicy złożyli pismo cytujące sześć całkowicie zmyślonych orzeczeń wyprodukowanych przez chatbota, z fałszywymi cytatami i fałszywymi sędziami. Zapytanie chatbota "czy te sprawy są prawdziwe?" i usłyszenie "tak" to nie weryfikacja. To ta sama maszyna okłamująca cię dwa razy. AI optymalizuje pod tekst, który wygląda jak sygnatura, nie pod sygnaturę, która istnieje. Idealnie sformatowany numer w repertorium z wiarygodną nazwą sprawy to najłatwiejsza rzecz na świecie do wygenerowania i najtrudniejsza do zakwestionowania dla zabieganej osoby.

Question 5

Zakładanie, że zmyślona sygnatura kończy się tylko drobną grzywną

Accepted Answer

Grzywna to tani scenariusz. Ten drogi to twoje nazwisko we wniosku do komisji dyscyplinarnej. Sąd apelacyjny nie tylko ukarał grzywną prawniczkę za cytowanie nieistniejącej sprawy wygenerowanej przez AI. Skierował ją do swojej komisji ds. zażaleń na postępowanie dyscyplinarne. Obowiązek przeprowadzenia rozsądnego dochodzenia, zanim podpiszesz pismo, dotyczy w pełni również badań wspomaganych przez AI. Nie ma wyjątku "to komputer to zrobił". Koszt wizerunkowy uderza mocniej niż kwota. Opublikowane orzeczenie opisujące, jak zacytowałeś sprawę, która nie istnieje, ciągnie się za twoim nazwiskiem znacznie dłużej niż pięciocyfrowa sankcja.

Question 6

Wiara, że własne narzędzie AI twojej kancelarii poda sygnatury bezbłędnie

Accepted Answer

Halucynacja z logo twojej kancelarii to wciąż halucynacja. Branding nie sprawia, że sprawy stają się prawdziwe. Nawet wewnętrzne narzędzie AI dużej kancelarii wyprodukowało pisma cytujące sprawy, które nie istniały. "To nasz autorski system" nic ci nie daje, jeśli nikt nie otworzył tych spraw. Podpisujący się adwokat wciąż ponosi odpowiedzialność, bez względu na to, czyj model napisał szkic. Co istotne, sama kancelaria uniknęła sankcji, wykazując, że od tego czasu wprowadziła obowiązek niezależnej weryfikacji. To nie narzędzie było zabezpieczeniem. Zabezpieczeniem była zasada sprawdzania każdej sygnatury.

Question 7

Przekazywanie "researchu" wygenerowanego przez AI własnemu prawnikowi do złożenia

Accepted Answer

Niedbalstwo i lekkomyślność lądują w różnych miejscach. Żadne z nich nie jest miejscem, w którym chcesz tłumaczyć, jak się tu znalazłeś. Jest tu realna, cienka granica. W jednej sprawie pozwany przekazał fałszywe sygnatury z chatbota swojemu prawnikowi, który je złożył. Sędzia odmówił nałożenia sankcji, nazywając to postępowanie niedbałym, a nie podyktowanym złą wiarą. To nie jest bezpieczna przystań. To uniknięcie kłopotów o włos, zależne od konkretnych okoliczności. Kontrast ze słynnymi sprawami o sankcje to cała nauka: różnica między grzywną a uniewinnieniem może sprowadzać się do zamiaru, a ty nie decydujesz po fakcie, po której stronie tej granicy postawi cię sąd.

Question 8

Używanie AI do burzy mózgów nad kierunkami researchu, a potem weryfikowanie każdego słowa

Accepted Answer

AI to dobre miejsce, by zacząć wyszukiwanie. To katastrofalne miejsce, by je zakończyć. To wersja, która faktycznie działa. Używana jako partner do burzy mózgów, AI jest naprawdę przydatna: wydobywa ujęcia tematu, szkicuje streszczenia prostym językiem i pomaga zbudować listę rzeczy do sprawdzenia. Niebezpieczeństwo pojawia się dopiero wtedy, gdy podpowiedź staje się sygnaturą bez człowieka pośrodku. Cały gatunek katastrof istnieje, bo ludzie pominęli etap weryfikacji. Zachowaj ten etap, a to samo narzędzie staje się atutem zamiast obciążeniem. Umiejętność polega na tym, by wiedzieć, które z jego wyników wymagają źródła, a które nie.

Question 9

Trenowanie lub karmienie AI danymi osobowymi bez podstawy prawnej

Accepted Answer

"Było w internecie" to nie podstawa prawna. W UE to ledwie wymówka. Organ ochrony danych nałożył wielką, ośmiocyfrową grzywnę za trenowanie AI na danych osobowych bez ważnej podstawy prawnej, obok uchybień w zakresie przejrzystości i pominiętego zgłoszenia naruszenia. To była pierwsza duża kara za generatywną AI na gruncie unijnego prawa o danych, i nie ostatnia. Odruch, że publiczne znaczy wolne do użycia, nie przetrwa zderzenia z RODO. Dane osobowe niosą obowiązki niezależnie od tego, gdzie je znalazłeś: podstawę prawną, przejrzystość co do tego, co robisz, oraz sposób, by ludzie mogli korzystać ze swoich praw.

Question 10

Poleganie na wynikach AI dotyczących prawdziwej, wymienionej z nazwiska osoby

Accepted Answer

Gdy model wymyśla przestępstwo i dokleja do niego nazwisko prawdziwej osoby, to nie usterka. Na gruncie prawa o danych to naruszenie prawidłowości. Model powiedział kiedyś prawdziwemu mężczyźnie, że zamordował własne dzieci i odsiedział dekady w więzieniu, mieszając to z prawdziwymi szczegółami, jak jego faktyczne rodzinne miasto i rodzina. Na gruncie unijnego prawa o danych to nie tylko zniesławienie. To problem prawidłowości danych, a niemożność sprostowania lub usunięcia kłamstwa jest sama w sobie naruszeniem prawa do sprostowania. Ten obszar wciąż się kształtuje, i o to chodzi. Obowiązki w zakresie prawidłowości i sprostowania dotyczą wypowiedzi generowanych przez AI o ludziach tak samo, jak dotyczą wpisu w bazie danych, a "model tak powiedział" ich nie znosi.

Question 11

Zakładanie, że "publicznie dostępne" znaczy wolne do skrobania i trenowania

Accepted Answer

Widoczne i dozwolone to nie to samo słowo. Ludzie wciąż płacą prawnikom, żeby nauczyć się różnicy. Szeroko zakrojone pozwy zbiorowe stawiały tezę, że skrobanie miliardów słów i danych osobowych do trenowania modeli, bez zgody, narusza prawa do prywatności i do danych. Niektóre z tych konkretnych pozwów potknęły się na procedurze, więc traktuj je jako wyznaczające teorię, a nie jako wygrane. Ale sama teoria jest już mocno na stole. Publiczna widoczność dotyczy dostępu, nie zgody. To, że zdjęcie, post czy profil są osiągalne, nie mówi nic o tym, czy możesz je wchłonąć do komercyjnego modelu. To drugie pytanie ma własne reguły, i one się zaostrzają.

Question 12

Karmienie narzędzi AI tylko tymi danymi, których faktycznie potrzebują

Accepted Answer

Najbezpieczniejsze dane osobowe to te, których w ogóle nie wrzucasz. Najpierw minimalizuj, potem promptuj. To nudny nawyk, który trzyma cię z dala od przestróg. Grzywny i zakazy skupiają się wokół organizacji, które nakarmiły modele większą ilością danych osobowych, niż miały do tego podstawę. Minimalizacja danych, zasada używania tylko tego, czego naprawdę potrzebujesz, to najtańsza zgodność, jaką kiedykolwiek osiągniesz. Większość zadań AI nie wymaga w istocie nazwiska, adresu ani pełnej kartoteki. Wymaga istotnych faktów. Oddziel jedno od drugiego, a większość twojego ryzyka prywatności znika, zanim w ogóle naciśniesz wyślij.

Question 13

Roszczenie sobie praw autorskich do dzieła w całości wygenerowanego przez AI

Accepted Answer

Maszyna nie może być autorem. Nie możesz objąć prawem autorskim czegoś, czego nie stworzył żaden człowiek, choćby prompt był nie wiadomo jak dobry. Pewien człowiek przez lata próbował zarejestrować dzieło wygenerowane przez AI, wskazując maszynę jako autora. Sądy powiedziały nie, na każdym szczeblu, bo prawo autorskie wymaga, by pierwotnym autorem był człowiek. Sąd Najwyższy odmówił zajęcia się sprawą, co czyni z tego ustalony stan prawny: dzieło w całości wygenerowane przez AI, bez ludzkiego autorstwa, nie podlega rejestracji. To nie rozstrzyga współpracy człowieka z AI, gdzie osoba naprawdę kształtuje rezultat. Ale czysty wynik maszyny stojący sam dla siebie nie ma praw autorskich, których ktokolwiek mógłby być właścicielem, w tym ty.

Question 14

Obejmowanie prawem autorskim dzieła wspomaganego przez AI, którego część zrobiłeś sam

Accepted Answer

Możesz chronić te części, które stworzyłeś. Części zrobione przez maszynę idą za darmo, w obu znaczeniach. Gdy ktoś zarejestrował powieść graficzną zawierającą obrazy wygenerowane przez AI, urząd praw autorskich utrzymał ochronę tylko dla napisanego przez człowieka tekstu oraz doboru i układu. Same obrazy AI nie dostały nic. Dostarczanie promptów generatorowi uznano za niewystarczające, by w sensie autorskim faktycznie ukształtować powstałe obrazy. Więc dzieło podlega ochronie po kawałku. Twoje pisanie, twoja kuratela, twój układ, to twoje. Surowe wygenerowane elementy pośrodku nie są, i nie powinieneś twierdzić, że są.

Question 15

Trenowanie komercyjnej AI na chronionych prawem autorskim materiałach konkurenta

Accepted Answer

Budowanie substytutu czyjegoś produktu z jego własnych chronionych dzieł nie jest twórcze. To po prostu konkurowanie z dodatkowymi krokami i pozwem. Sąd wydał pierwsze w USA federalne orzeczenie odrzucające obronę przez dozwolony użytek dla trenowania AI, gdy firma trenowała narzędzie do badań prawnych na chronionych prawem autorskim notach orzeczniczych konkurenta. Użycie uznano za nietwórcze i za rynkowy substytut, co jest mniej więcej najgorszą kombinacją słów, jaką można usłyszeć w analizie dozwolonego użytku. Dozwolony użytek opiera się na tym, czy twoje użycie przekształca oryginał i czy szkodzi rynkowi na niego. Trenuj na materiale konkurenta, by zbudować rywalizujący produkt, a odpowiedziałeś na oba pytania na swoją niekorzyść.

Question 16

Używanie pirackich materiałów jako danych treningowych

Accepted Answer

To, jak zdobyłeś książki, liczy się tak samo jak to, co z nimi zrobiłeś. Piracka biblioteka to nie potok danych. Sąd uznał, że trenowanie na legalnie pozyskanych książkach może być dozwolonym użytkiem, ale użycie pirackich kopii nim nie było. Firma zawarła potem ugodę na kwotę podawaną jako około 1,5 miliarda dolarów, największą ugodę dotyczącą praw autorskich tego rodzaju. To nie metoda trenowania była fatalną wadą. To łańcuch dostaw. To część, którą zespoły pomijają, gdy się spieszą: pochodzenie danych. Możliwa do obrony technika zbudowana na nie do obrony źródle wali się w chwili, gdy ktoś zapyta, skąd wzięły się pliki.

Question 17

Zakładanie, że reguły praw autorskich dla AI są takie same w każdym kraju

Accepted Answer

To, gdzie odbyło się trenowanie, może rozstrzygnąć, kto wygra. Prawo nie zmienia się na granicy, zmienia się na serwerze. W brytyjskiej sprawie sąd uznał, że wagi modelu AI nie są kopią obrazów treningowych, a duży podmiot praw w znacznej mierze przegrał po porzuceniu swoich głównych roszczeń o naruszenie przez trenowanie, częściowo dlatego, że nie zdołał wykazać, iż trenowanie odbyło się w Wielkiej Brytanii. To znaczący kontrast z tym, jak te same pytania są argumentowane w USA. Więc te same fakty mogą dać różne rozstrzygnięcia w zależności od tego, gdzie odbyło się trenowanie i czyje prawo ma zastosowanie. Traktowanie odpowiedzi z jednej jurysdykcji jako uniwersalnej to sposób, w jaki transgraniczne projekty AI wchodzą prosto na niespodzianki.

Question 18

Pozwalanie, by narzędzie rekrutacyjne AI filtrowało po wieku lub innych cechach chronionych

Accepted Answer

Automatyzacja dyskryminacji jej nie pierze. Algorytm po prostu robi nielegalną rzecz szybciej i na skalę. Narzędzie rekrutacyjne automatycznie odrzucało kandydatki powyżej 55. roku życia i kandydatów powyżej 60. roku życia, odsiewając ponad dwieście osób. Wyszło na jaw, gdy ktoś złożył ponownie aplikację, zmieniając tylko datę urodzenia, i nagle dostał zaproszenie na rozmowę. Regulator potraktował to jako oczywiste naruszenie zakazu dyskryminacji ze względu na wiek, bo dokładnie tym to było. Wsadzenie uprzedzenia w oprogramowanie nie czyni go neutralnym. Jeśli filtr odrzuca ludzi na podstawie cechy chronionej lub jej zamiennika, jak data urodzenia, to ta sama nielegalna decyzja, jaką byłaby, gdyby podjął ją człowiek ręcznie.

Question 19

Zakładanie, że dostawca przesiewu AI ponosi ryzyko dyskryminacji

Accepted Answer

Dostawca też może być odpowiedzialny. To nie to samo, co bycie wolnym od odpowiedzialności, a wspólny pozew to wciąż twój pozew. Sąd dopuścił do rozpoznania roszczenie o nierówny wpływ przeciwko dostawcy przesiewu AI na tej podstawie, że dostawca może ponosić bezpośrednią odpowiedzialność jako agent korzystających z niego pracodawców. To realna zmiana w tym, kogo można pozwać. Ale czytaj to właściwie: to rozszerza odpowiedzialność, nie przenosi jej od ciebie. Ten obszar wciąż się rozstrzyga, z certyfikowanym ogólnokrajowym pozwem zbiorowym. Bezpieczne odczytanie dla pracodawcy jest takie, że i ty, i twój dostawca możecie być pociągnięci do odpowiedzialności, więc "użyliśmy narzędzia firmy trzeciej" nie jest tarczą, za jaką ludzie je biorą.

Question 20

Używanie AI do napisania opisu stanowiska, z ludzką kontrolą uprzedzeń, zanim cokolwiek przesieje

Accepted Answer

AI piszące ogłoszenie jest w porządku. AI decydujące, kto zostanie odrzucony, bez audytu, to sposób, by trafić do orzecznictwa. To bezpieczny pas. Używanie AI do napisania ogłoszenia, zacieśnienia języka lub wychwycenia sformułowań, które mogłyby zniechęcić kandydatów, jest niskiego ryzyka i naprawdę pomocne. Niebezpieczeństwo czyha o krok dalej, gdy ten sam zapał zostaje skierowany na automatyczne odrzucanie kandydatów bez czyjejkolwiek kontroli wzorca. Trzymaj model po stronie pisania, a człowieka po stronie decydowania, a dostaniesz produktywność bez ekspozycji na nierówny wpływ. Wszystkie ostrzegawcze ugody mają jedną wspólną cechę: nikt nie audytował, co automatyzacja odsiewała.

Sally's Law