Question 1

Puštanje AI chatbota okrenutog kupcima da citira tvoje sopstvene uslove

Accepted Answer

Ako tvoj bot to obeća, ti si to kupio. "AI je tako rekao" nije odbrana, to je priznanje. Jedna firma je pred pravim sudom pokušala da tvrdi da je njen chatbot zaseban pravni subjekt odgovoran za sopstvene reči. Sud se nije nasmejao, ali je bilo blizu. Tvoj bot si ti. Sve što kaže jeste izjava koju je dao tvoj biznis. AI koji samouvereno izmišlja politiku povraćaja novca koju zapravo ne nudiš nije simpatičan pomoćnik. To je mašina za odgovornost koja proizvodi obećanja koja si ti potom dužan da ispuniš.

Question 2

Verovanje "AI advokatu" da bez nadzora generiše validne pravne dokumente

Accepted Answer

"Robot advokat" je marketinška fraza, a ne polisa osiguranja od greške. Robot ne nosi rizik. Ti ga nosiš. Regulator je krenuo na firmu koja je reklamirala "AI advokata" tvrdeći da može da generiše savršeno validne pravne dokumente i zameni ljudske advokate, a da pritom nije testirala tačnost niti imala prave advokate da provere rezultat. Reklamirati AI pravni rad kao ekvivalent advokatu bez dokaza je problem obmanjujuće prakse. Ugovor koji izgleda advokatski a tiho je pogrešan opasniji je od nikakvog ugovora, jer ti daje samopouzdanje sve do trenutka kad te izneveri pred nekim kome je čitanje tih stvari posao.

Question 3

Pitanje AI-a da li tvoja već potpisana nagodba i dalje obavezuje

Accepted Answer

Ti si je potpisao. Model nije. Pogodi za koga od vas dvojice sud mari. Ovo je istinski nerešeno, što je upravo razlog zašto je opasno. AI koji kaže nekome da njegova potpisana, oslobođena nagodba "zapravo i ne obavezuje" može da pokrene prave sporove, uključujući tvrdnje o ometanju ugovora i neovlašćenom bavljenju pravom protiv tvorca AI-a. Model ne zna procesni položaj tvog predmeta, tačan tekst odricanja, niti pravila jurisdikcije. On povezuje samopouzdanje sa situacijom u kojoj greška razvezuje nešto na šta si već pristao.

Question 4

Citiranje slučajeva iz AI-a bez provere da li postoje

Accepted Answer

Model će izmisliti slučaj, citat i navod, i predstaviti sva tri sa istom mirnom uverenošću kojom predstavlja i one prave. Ovo je osnivačka opomena celog žanra. Advokati su predali podnesak sa citatima šest potpuno izmišljenih odluka koje je chatbot proizveo, sa lažnim navodima i lažnim sudijama. Pitati chatbota "da li su ovi stvarni?" i čuti "da" nije provera. To je ista mašina koja te laže drugi put. AI optimizuje za tekst koji liči na citat, a ne za citat koji postoji. Savršeno formatiran broj zbornika sa uverljivim nazivom slučaja najlakša je stvar na svetu za njega da generiše, a najteža za zauzetog čoveka da posumnja u nju.

Question 5

Pretpostavka da halucinirani citat donosi samo malu novčanu kaznu

Accepted Answer

Novčana kazna je jeftin ishod. Skupi je tvoje ime na prijavi disciplinskom veću. Apelacioni sud nije samo novčano kaznio advokaticu zbog citiranja nepostojećeg slučaja generisanog AI-em. Uputio ju je svom žalbenom veću na disciplinsku istragu. Dužnost razumne provere pre nego što potpišeš podnesak važi u potpunosti i za istraživanje uz pomoć AI-a. Ne postoji izuzetak "kompjuter je to uradio". Cena po reputaciju pada teže od iznosa kazne. Objavljeno mišljenje koje opisuje kako si citirao slučaj koji ne postoji prati tvoje ime mnogo duže nego petocifrena sankcija.

Question 6

Verovanje internom AI alatu tvoje firme da će citate dobiti tačno

Accepted Answer

Halucinacija sa logom tvoje firme i dalje je halucinacija. Brendiranje ne čini slučajeve stvarnim. Čak je i interni AI alat velike firme proizveo podneske sa citatima slučajeva koji ne postoje. "To je naš sopstveni sistem" ti ne donosi ništa ako niko nije otvorio slučajeve. Advokat koji potpisuje i dalje nosi odgovornost, bez obzira na to čiji je model napravio nacrt. Vredi primetiti da je sama firma izbegla sankciju time što je pokazala da je u međuvremenu uvela obaveznu nezavisnu proveru. Alat nije bio zaštita. Pravilo da se proverava svaki citat jeste.

Question 7

Prosleđivanje "istraživanja" generisanog AI-em sopstvenom advokatu da ga preda

Accepted Answer

Nehat i bezobzirnost padaju na različita mesta. Nijedno nije mesto na kome želiš da objašnjavaš kako si tu stigao. Ovde postoji prava, uska linija. U jednom predmetu tuženi je prosledio lažne citate iz chatbota svom advokatu, koji ih je predao. Sudija je odustao od sankcije, nazvavši ponašanje nehatnim a ne zlonamernim. To nije bezbedna luka. To je promašaj za dlaku koji je zavisio od konkretnih okolnosti. Kontrast sa čuvenim slučajevima sankcija je cela pouka: razlika između kazne i prolaza može da se svede na nameru, a ti ne biraš naknadno na koju stranu te linije će te sud staviti.

Question 8

Korišćenje AI-a za smišljanje uglova istraživanja, pa provera svake reči

Accepted Answer

AI je sasvim dobro mesto da počneš pretragu. To je katastrofalno mesto da je završiš. Ovo je verzija koja zaista radi. Korišćen kao partner za smišljanje ideja, AI je istinski koristan: izvlači uglove, piše nacrte sažetaka na običnom jeziku i pomaže da napraviš listu stvari koje treba proveriti. Opasnost se javlja tek kad predlog postane citat bez čoveka između. Ceo žanr katastrofa postoji jer su ljudi preskočili korak provere. Zadrži korak i isti alat postaje prednost umesto odgovornosti. Veština je u tome da znaš kojim njegovim rezultatima treba izvor a kojima ne.

Question 9

Treniranje ili hranjenje AI-a ličnim podacima bez pravnog osnova

Accepted Answer

"Bilo je na internetu" nije pravni osnov. U EU jedva da je izgovor. Telo za zaštitu podataka izreklo je veliku osmocifrenu kaznu zbog treniranja AI-a na ličnim podacima bez valjanog pravnog osnova, uz propuste u transparentnosti i propuštenu prijavu povrede podataka. Bila je to prva velika kazna za generativni AI po zakonu EU o podacima, i neće biti poslednja. Instinkt da javno znači slobodno za korišćenje ne preživljava susret sa GDPR-om. Lični podaci nose obaveze bez obzira na to gde si ih našao: zakonit osnov, transparentnost o tome šta radiš i način da ljudi ostvare svoja prava.

Question 10

Oslanjanje na AI rezultat o stvarnoj, imenovanoj osobi

Accepted Answer

Kad model izmisli zločin i zakači ime stvarne osobe za njega, to nije kvar. Po zakonu o podacima to je povreda tačnosti. Model je jednom rekao stvarnom čoveku da je ubio sopstvenu decu i odslužio decenije u zatvoru, izmešano sa istinitim detaljima poput njegovog stvarnog rodnog grada i porodice. Po zakonu EU o podacima ovo nije samo kleveta. To je problem tačnosti podataka, a nemogućnost ispravke ili brisanja te neistine sama po sebi je povreda prava na ispravku. Ova oblast se još rešava, što i jeste poenta. Obaveze tačnosti i ispravke vežu se za izjave AI-a o ljudima isto kao što se vežu za zapis u bazi podataka, a "model je tako rekao" ih ne oslobađa.

Question 11

Pretpostavka da "javno dostupno" znači slobodno za skrejpovanje i treniranje

Accepted Answer

Vidljivo i dozvoljeno nisu ista reč. Ljudi i dalje plaćaju advokatima da nauče razliku. Široke kolektivne tužbe iznele su teoriju da skrejpovanje milijardi reči i ličnih detalja za treniranje modela, bez pristanka, zadire u prava na privatnost i podatke. Neke od tih konkretnih tužbi su pale na proceduri, pa ih tretiraj kao postavljače teorije, a ne kao pobede. Ali sama teorija je sad čvrsto na stolu. Javna vidljivost je o pristupu, ne o dozvoli. To što su fotografija, objava ili profil dostupni ne govori ništa o tome da li smeš da ih uneseš u komercijalni model. To drugo pitanje ima sopstvena pravila, i ona se pooštravaju.

Question 12

Hranjenje AI alata samo podacima koji su im zaista potrebni

Accepted Answer

Najbezbedniji lični podatak je onaj koji nikad ne uneseš. Prvo minimizuj, pa onda traži od modela. Ovo je dosadna navika koja te drži van opominjućih priča. Kazne i zabrane se grupišu oko organizacija koje su modelu davale više ličnih podataka nego što su imale osnova. Minimizacija podataka, načelo da koristiš samo ono što ti zaista treba, najjeftinija je usklađenost koju ćeš ikad sprovesti. Većini AI zadataka zapravo ne treba ime, adresa ili pun zapis. Treba im relevantna činjenica. Razdvoji to dvoje i većina tvoje izloženosti po privatnosti nestaje pre nego što i pritisneš pošalji.

Question 13

Polaganje autorskih prava na potpuno AI-generisano delo

Accepted Answer

Mašina ne može biti autor. Ne možeš zaštititi autorskim pravom nešto što nijedan čovek nije napravio, ma koliko dobar bio prompt. Čovek je godinama pokušavao da registruje AI-generisano umetničko delo navodeći mašinu kao autora. Sudovi su rekli ne, sve do vrha, jer autorsko pravo prvenstveno zahteva ljudskog autora. Vrhovni sud je odbio da se time bavi, čime je to postalo ustaljeno pravo: potpuno AI-generisano delo bez ljudskog autorstva ne može se registrovati. Ovo ne rešava saradnju čoveka i AI-a, gde osoba zaista oblikuje rezultat. Ali čist mašinski rezultat koji stoji sam za sebe nema autorsko pravo koje bi iko mogao da poseduje, uključujući tebe.

Question 14

Zaštita autorskim pravom dela uz pomoć AI-a u kome si nešto i sam uradio

Accepted Answer

Možeš zaštititi delove koje si ti napravio. Delovi koje je mašina napravila dolaze besplatno, u oba smisla. Kad je neko registrovao grafički roman sa AI-generisanim slikama, zavod za autorska prava priznao je zaštitu samo za tekst ljudskog autorstva i za izbor i raspored. Same AI slike nisu dobile ništa. Zaključeno je da davanje promptova generatoru zapravo ne oblikuje rezultujuće slike u smislu autorstva. Dakle delo je zaštićeno u delovima. Tvoje pisanje, tvoje kuriranje, tvoj prelom, to je tvoje. Sirovi generisani elementi u sredini nisu, i ne bi trebalo da predstavljaš da jesu.

Question 15

Treniranje komercijalnog AI-a na materijalu konkurenta zaštićenom autorskim pravom

Accepted Answer

Praviti zamenu za tuđi proizvod od njegovog sopstvenog zaštićenog dela nije transformativno. To je samo konkurencija sa nekoliko dodatnih koraka i tužbom. Sud je doneo prvu američku federalnu presudu koja odbija odbranu poštene upotrebe za AI treniranje, gde je firma trenirala alat za pravno istraživanje na zaštićenim beleškama (headnotes) konkurenta. Upotreba je ocenjena kao netransformativna i tržišna zamena, što je otprilike najgora kombinacija reči koju možeš da čuješ u analizi poštene upotrebe. Poštena upotreba se oslanja na to da li tvoja upotreba transformiše original i da li šteti njegovom tržištu. Treniraj na materijalu konkurenta da napraviš rivalski proizvod i odgovorio si na oba pitanja protiv sebe.

Question 16

Korišćenje piratskog materijala kao trening podataka

Accepted Answer

Kako si došao do knjiga važno je koliko i šta si s njima uradio. Piratska biblioteka nije cevovod podataka. Sud je utvrdio da treniranje na zakonito pribavljenim knjigama može biti poštena upotreba, ali korišćenje piratskih kopija nije. Firma se potom nagodila za iznos koji se navodi oko 1,5 milijarde dolara, najveću nagodbu po autorskom pravu te vrste. Metod treniranja nije bio kobna mana. Lanac snabdevanja jeste. Ovo je deo koji timovi preskoče kad jure: poreklo podataka. Branjiva tehnika izgrađena na nebranjivom izvoru se ruši u trenutku kad neko pita odakle su fajlovi došli.

Question 17

Pretpostavka da su pravila o AI autorskim pravima ista u svakoj zemlji

Accepted Answer

Gde se treniralo može da odluči ko pobeđuje. Zakon se ne menja na granici, menja se na serveru. U britanskom slučaju sud je utvrdio da težine AI modela nisu kopija trening slika, i veliki nosilac prava je uglavnom izgubio pošto je napustio svoje primarne zahteve za povredu kroz treniranje, delom jer nije mogao da dokaže da se treniranje odvijalo u UK. To je značajan kontrast sa načinom na koji se ista pitanja iznose u SAD. Dakle iste činjenice mogu dati različite ishode u zavisnosti od toga gde je treniranje pokrenuto i čiji zakon važi. Tretirati odgovor jedne jurisdikcije kao univerzalni jeste način na koji prekogranični AI projekti ulete u iznenađenja.

Question 18

Puštanje AI alata za zapošljavanje da filtrira po godinama ili drugim zaštićenim svojstvima

Accepted Answer

Automatizacija diskriminacije je ne pere. Algoritam samo radi nezakonitu stvar brže i u razmeri. Alat za zapošljavanje automatski je odbijao kandidatkinje preko 55 i kandidate preko 60 godina, izbacivši više od dvesta ljudi. Otkriven je kad se neko ponovo prijavio promenivši samo datum rođenja i odjednom dobio razgovor. Regulator je to tretirao kao jasnu povredu zabrane diskriminacije po godinama, jer je to upravo i bilo. Stavljanje pristrasnosti u softver ne čini je neutralnom. Ako filter odbija ljude na osnovu zaštićene karakteristike, ili zamene poput datuma rođenja, to je ista nezakonita odluka kakva bi bila da ju je čovek doneo ručno.

Question 19

Pretpostavka da dobavljač AI odabira nosi rizik od diskriminacije

Accepted Answer

I dobavljač može biti odgovoran. To nije isto što i ti da si skinut s udice, a zajednička tužba je i dalje tvoja tužba. Sud je dozvolio da zahtev za neproporcionalan uticaj ide protiv dobavljača AI odabira po teoriji da dobavljač može biti direktno odgovoran kao agent poslodavaca koji ga koriste. To je stvaran pomak u tome ko može biti tužen. Ali pročitaj to kako treba: to proširuje odgovornost, ne premešta je dalje od tebe. Ova oblast se još rešava, sa potvrđenim kolektivom na nivou cele zemlje. Bezbedno tumačenje za poslodavca je da i ti i tvoj dobavljač možete biti na udici, pa "koristili smo alat trećeg lica" nije štit za koji ga ljudi smatraju.

Question 20

Korišćenje AI-a da napiše opis posla, uz ljudsku proveru pristrasnosti pre nego što išta odseje

Accepted Answer

AI koji piše oglas je u redu. AI koji odlučuje ko se odbija, bez revizije, eto kako završiš u sudskoj praksi. Ovo je bezbedna traka. Korišćenje AI-a da napiše oglas, zategne jezik ili označi formulacije koje bi mogle da odbiju kandidate je niskog rizika i istinski korisno. Opasnost živi jedan korak kasnije, kad se isti entuzijazam usmeri na automatsko odbijanje kandidata bez ikoga da proveri obrazac. Drži model na strani pisanja a čoveka na strani odlučivanja, i dobijaš produktivnost bez izloženosti neproporcionalnom uticaju. Sve opominjuće nagodbe dele jednu osobinu: niko nije proverio šta automatizacija odseca.

Sally's Law