Question 1

Deixar um chatbot de IA virado para o cliente citar as suas próprias políticas

Accepted Answer

Se o seu bot promete, você paga. "A IA é que disse" não é defesa, é confissão. Uma empresa tentou argumentar, num tribunal real, que o chatbot do seu site era uma entidade jurídica separada, responsável pelas suas próprias palavras. O tribunal não riu, mas faltou pouco. O seu bot é você. Tudo o que ele diz é uma declaração feita pela sua empresa. Uma IA que inventa com toda a confiança uma política de reembolso que você nem oferece não é um assistente engraçadinho. É uma máquina de criar passivos, a gerar promessas que você depois é obrigado a cumprir.

Question 2

Confiar num "advogado de IA" para gerar documentos legais válidos sem supervisão

Accepted Answer

"Advogado robô" é uma frase de marketing, não uma apólice contra erro profissional. O robô não corre o risco. Você corre. Um regulador foi atrás de uma empresa que vendia um "advogado de IA" alegando que conseguia gerar documentos legais perfeitamente válidos e substituir advogados de carne e osso, sem testar a precisão nem ter advogados reais a verificar o resultado. Vender trabalho jurídico de IA como equivalente ao de um advogado, sem provas, é um problema de práticas enganosas. Um contrato que parece de advogado mas está discretamente errado é mais perigoso do que não ter contrato nenhum, porque lhe dá confiança até ao exato momento em que lhe falha à frente de quem o lê para ganhar a vida.

Question 3

Perguntar à IA se o acordo que já assinou ainda o vincula

Accepted Answer

Você assinou. O modelo não. Adivinhe qual dos dois interessa ao tribunal. Este é genuinamente uma zona cinzenta, e é precisamente por isso que é perigoso. Uma IA a dizer a alguém que o seu acordo, já assinado e quitado, "não vincula mesmo" pode despoletar disputas reais, incluindo acusações de interferência contratual e exercício ilegal da advocacia contra quem fez a IA. Um modelo não conhece a fase processual do seu caso, a redação exata da quitação, nem as regras da jurisdição. Ele cola confiança a uma situação em que estar errado desfaz algo com que você já concordou.

Question 4

Citar acórdãos de uma IA sem verificar se existem

Accepted Answer

O modelo inventa um caso, uma citação e uma transcrição, e apresenta os três com a mesma calma confiança que usa para os verdadeiros. Esta é a fábula fundadora de todo o género. Advogados apresentaram uma peça citando seis decisões totalmente inventadas por um chatbot, completas com transcrições falsas e juízes falsos. Perguntar ao chatbot "isto é real?" e ouvir "sim" não é verificação. É a mesma máquina a mentir-lhe duas vezes. Uma IA otimiza para texto que parece uma citação, não para uma citação que existe. Um número de repositório perfeitamente formatado, com um nome de caso plausível, é a coisa mais fácil do mundo para ela gerar e a mais difícil para uma pessoa atarefada duvidar.

Question 5

Assumir que uma citação alucinada dá só uma multa pequena

Accepted Answer

A multa é o desfecho barato. O caro é o seu nome numa remessa para o conselho disciplinar. Um tribunal de recurso não se limitou a multar uma advogada por citar um caso inexistente gerado por IA. Encaminhou-a para o seu conselho de queixas para uma investigação disciplinar. O dever de fazer uma averiguação razoável antes de assinar uma peça aplica-se na íntegra à pesquisa assistida por IA. Não há exceção do tipo "foi o computador". O custo reputacional bate mais forte do que o valor em dinheiro. Uma decisão publicada que descreve como você citou um caso que não existe acompanha o seu nome muito mais tempo do que uma sanção de cinco dígitos.

Question 6

Confiar na ferramenta de IA interna da sua firma para acertar nas citações

Accepted Answer

Uma alucinação com o logótipo da sua firma continua a ser uma alucinação. A marca não torna os casos reais. Até a ferramenta de IA interna de uma grande firma produziu peças que citavam casos que não existiam. "É o nosso sistema proprietário" não lhe vale nada se ninguém abriu os casos. O advogado que assina continua a carregar a responsabilidade, seja de quem for o modelo que gerou o rascunho. Repare: a própria firma escapou à sanção por demonstrar que entretanto tinha imposto verificação independente. A ferramenta não era a salvaguarda. A política de verificar cada citação é que era.

Question 7

Passar "pesquisa" gerada por IA ao seu próprio advogado para apresentar

Accepted Answer

Negligente e temerário param em sítios diferentes. Nenhum é um sítio onde queira explicar como lá chegou. Há aqui uma linha real e estreita. Num processo, um réu passou citações falsas de um chatbot ao seu advogado, que as apresentou. O juiz recusou aplicar sanção, classificando a conduta como negligente e não de má-fé. Isso não é um porto seguro. É um quase-acidente que dependeu dos factos concretos. O contraste com os famosos casos de sanções é a lição inteira: a diferença entre uma multa e um perdão pode reduzir-se à intenção, e você não pode decidir à posteriori em que lado dessa linha um tribunal o vai pôr.

Question 8

Usar a IA para gerar ângulos de pesquisa, depois verificar cada palavra

Accepted Answer

A IA é um bom sítio para começar uma pesquisa. É um sítio catastrófico para a terminar. Esta é a versão que funciona mesmo. Usada como parceira de brainstorming, a IA é genuinamente útil: faz aparecer ângulos, redige resumos em linguagem simples e ajuda a montar uma lista de coisas para ir verificar. O perigo só aparece quando a sugestão se torna a citação sem um humano pelo meio. Todo o género do desastre existe porque as pessoas saltaram o passo da verificação. Mantenha o passo e a mesma ferramenta passa a ser um trunfo em vez de um passivo. A perícia está em saber quais dos seus resultados precisam de fonte e quais não precisam.

Question 9

Treinar ou alimentar IA com dados pessoais sem base legal

Accepted Answer

"Estava na internet" não é uma base legal. Na UE mal chega a ser desculpa. Uma autoridade de proteção de dados aplicou uma grande coima de oito dígitos por treinar uma IA com dados pessoais sem base legal válida, a par de falhas de transparência e de uma notificação de violação em falta. Foi a primeira grande penalização à IA generativa ao abrigo da lei de dados da UE, e não vai ser a última. O instinto de que público significa livre para usar não sobrevive ao contacto com o RGPD. Dados pessoais carregam obrigações independentemente de onde os encontrou: uma base lícita, transparência sobre o que está a fazer, e uma forma de as pessoas exercerem os seus direitos.

Question 10

Confiar no que a IA diz sobre uma pessoa real e identificada

Accepted Answer

Quando um modelo inventa um crime e cola o nome de uma pessoa real, isso não é uma falha. Pela lei de dados é uma violação de exatidão. Um modelo disse uma vez a um homem real que ele tinha assassinado os próprios filhos e cumprido décadas na prisão, tudo misturado com detalhes verdadeiros como a terra natal e a família. Pela lei de dados da UE isto não é só difamação. É um problema de exatidão de dados, e a incapacidade de corrigir ou apagar a falsidade é, por si só, uma violação do direito de retificação. Esta área ainda está a ser decidida, e é esse o ponto. As obrigações de exatidão e de retificação aplicam-se às afirmações geradas por IA sobre pessoas tal como se aplicam a um registo de base de dados, e "o modelo é que disse" não as cumpre.

Question 11

Assumir que "publicamente disponível" significa livre para raspar e treinar

Accepted Answer

Visível e permitido não são a mesma palavra. As pessoas continuam a pagar a advogados para aprender a diferença. Ações coletivas abrangentes avançaram com a teoria de que raspar milhares de milhões de palavras e detalhes pessoais para treinar modelos, sem consentimento, mexe com a privacidade e os direitos de dados. Algumas dessas ações em concreto tropeçaram em questões processuais, por isso trate-as como definidoras de teoria e não como vitórias. Mas a teoria em si está agora firmemente em cima da mesa. A visibilidade pública é sobre acesso, não sobre permissão. Uma foto, um post ou um perfil estarem acessíveis nada diz sobre se você pode ingeri-los num modelo comercial. Essa segunda pergunta tem regras próprias, e elas estão a apertar.

Question 12

Alimentar as ferramentas de IA só com os dados de que precisam mesmo

Accepted Answer

Os dados pessoais mais seguros são os que você nunca mete. Minimize primeiro, escreva o prompt depois. É o hábito aborrecido que o mantém fora dos casos de aviso. As coimas e proibições concentram-se em organizações que alimentaram os modelos com mais dados pessoais do que tinham base para. A minimização de dados, o princípio de usar só o que precisa mesmo, é a conformidade mais barata que alguma vez vai fazer. A maioria das tarefas de IA não exige mesmo um nome, uma morada ou um registo completo. Exige os factos relevantes. Separe os dois e a maior parte da sua exposição de privacidade desaparece antes mesmo de carregar em enviar.

Question 13

Reclamar direitos de autor sobre uma obra totalmente gerada por IA

Accepted Answer

Uma máquina não pode ser autora. Você não pode ter direitos de autor sobre algo que nenhum humano fez, por melhor que fosse o prompt. Um homem passou anos a tentar registar uma obra gerada por IA indicando a máquina como autora. Os tribunais disseram que não, até ao topo, porque os direitos de autor exigem, em primeira instância, um autor humano. O Supremo recusou-se a tocar no assunto, o que torna isto direito assente: obra totalmente gerada por IA, sem autoria humana, não é registável. Isto não resolve a colaboração humano-IA, em que uma pessoa molda genuinamente o resultado. Mas o puro output da máquina, por si só, não tem direitos de autor que alguém possa possuir, você incluído.

Question 14

Registar direitos de autor numa obra assistida por IA em que fez parte dela

Accepted Answer

Pode proteger as partes que fez. As partes que a máquina fez vêm de graça, nos dois sentidos. Quando alguém registou uma banda desenhada com imagens geradas por IA, o gabinete de direitos de autor só manteve a proteção para o texto de autoria humana e para a seleção e arranjo. As próprias imagens de IA não receberam nada. Fornecer prompts a um gerador foi considerado como não formando, de facto, as imagens resultantes no sentido da autoria. Por isso a obra é protegível aos pedaços. A sua escrita, a sua curadoria, a sua paginação, isso é seu. Os ativos gerados em bruto no meio não são, e você não deve afirmar que são.

Question 15

Treinar uma IA comercial com material protegido de um concorrente

Accepted Answer

Construir um substituto do produto de alguém a partir da obra protegida dele não é transformativo. É só concorrência com passos extra e um processo. Um tribunal proferiu a primeira decisão federal dos EUA a rejeitar uma defesa de uso justo para treino de IA, num caso em que uma empresa treinou uma ferramenta de pesquisa jurídica com os sumários protegidos de um concorrente. O uso foi considerado não transformativo e um substituto de mercado, que é mais ou menos a pior combinação de palavras que pode ouvir numa análise de uso justo. O uso justo apoia-se em saber se o seu uso transforma o original e se prejudica o mercado dele. Treine com o material de um concorrente para construir um produto rival e respondeu às duas perguntas contra si próprio.

Question 16

Usar material pirateado como dados de treino

Accepted Answer

Como conseguiu os livros importa tanto como o que fez com eles. Uma biblioteca pirata não é um pipeline de dados. Um tribunal concluiu que treinar com livros adquiridos legalmente podia ser uso justo, mas usar cópias pirateadas não. A empresa depois fez um acordo por uma quantia reportada em cerca de 1,5 mil milhões de dólares, o maior acordo de direitos de autor do género. O método de treino não foi a falha fatal. A cadeia de fornecimento foi. É a parte que as equipas saltam quando andam à pressa: a proveniência dos dados. Uma técnica defensável construída sobre uma fonte indefensável desmorona-se no momento em que alguém pergunta de onde vieram os ficheiros.

Question 17

Assumir que as regras de direitos de autor da IA são iguais em todos os países

Accepted Answer

Onde aconteceu o treino pode decidir quem ganha. A lei não muda na fronteira, muda no servidor. Num caso no Reino Unido, um tribunal considerou que os pesos de um modelo de IA não são uma cópia das imagens de treino, e um grande titular de direitos perdeu em larga medida depois de abandonar as suas principais alegações de violação por treino, em parte por não conseguir demonstrar que o treino aconteceu no Reino Unido. É um contraste notável com a forma como as mesmas questões estão a ser discutidas nos EUA. Por isso os mesmos factos podem produzir resultados diferentes consoante onde correu o treino e que lei se aplica. Tratar a resposta de uma jurisdição como universal é como os projetos de IA transfronteiriços entram em surpresas.

Question 18

Deixar uma ferramenta de recrutamento por IA filtrar por idade ou outras características protegidas

Accepted Answer

Automatizar a discriminação não a branqueia. O algoritmo só faz a coisa ilegal mais depressa e em escala. Uma ferramenta de recrutamento rejeitava automaticamente as candidatas com mais de 55 anos e os candidatos com mais de 60, eliminando mais de duzentas pessoas. Foi apanhada quando alguém se recandidatou mudando apenas a data de nascimento e de repente conseguiu uma entrevista. Um regulador tratou-a como uma violação direta de discriminação por idade, porque era exatamente o que era. Meter o preconceito em software não o torna neutro. Se um filtro rejeita pessoas com base numa característica protegida, ou num substituto como a data de nascimento, é a mesma decisão ilegal que seria se um humano a tomasse à mão.

Question 19

Assumir que o fornecedor da IA de triagem carrega o risco de discriminação

Accepted Answer

O fornecedor também pode ser responsável. Isso não é o mesmo que você estar livre, e um processo partilhado continua a ser o seu processo. Um tribunal deixou avançar uma alegação de impacto díspar contra um fornecedor de IA de triagem na teoria de que o fornecedor pode ser diretamente responsável como agente dos empregadores que o usam. É uma mudança real em quem pode ser processado. Mas leia-a da forma certa: alarga a responsabilidade, não a desloca para longe de si. Esta área ainda está a ser decidida, com uma ação coletiva nacional certificada. A leitura segura para um empregador é que você e o seu fornecedor podem ambos estar na linha de tiro, por isso "usámos uma ferramenta de terceiros" não é o escudo que as pessoas julgam.

Question 20

Usar a IA para redigir uma descrição de função, com revisão humana de preconceito antes de filtrar alguém

Accepted Answer

A IA escrever o anúncio, tudo bem. A IA decidir quem é rejeitado, sem auditoria, é como você acaba na jurisprudência. É a via segura. Usar a IA para redigir um anúncio, apertar a linguagem ou assinalar formulações que possam afastar candidatos é de baixo risco e genuinamente útil. O perigo vive um passo à frente, quando o mesmo entusiasmo é apontado a rejeitar candidatos automaticamente sem ninguém verificar o padrão. Mantenha o modelo do lado da escrita e um humano do lado da decisão, e fica com a produtividade sem a exposição ao impacto díspar. Os acordos de aviso partilham todos uma característica: ninguém auditou o que a automação estava a eliminar.

Sally's Law