Question 1

고객 응대 AI 챗봇이 당신 회사의 정책을 직접 인용하게 두는 것

Accepted Answer

당신의 봇이 약속했다면, 그건 당신이 산 거다. "AI가 그랬어요"는 변명이 아니라 자백이다. 어느 회사는 실제 심판소에서 자사 웹사이트 챗봇이 제 발언에 책임지는 별개의 법인이라고 주장하려 했다. 심판소가 웃음을 터뜨리진 않았지만, 거의 그럴 뻔했다. 당신의 봇은 곧 당신이다. 봇이 하는 모든 말은 당신 사업체가 한 진술이다. 당신이 실제로 제공하지도 않는 환불 정책을 자신만만하게 지어내는 AI는 깜찍한 도우미가 아니다. 그건 당신이 떠안고 지켜야 할 약속을 찍어내는 책임 생산 기계다.

Question 2

"AI 변호사"가 감독 없이 유효한 법률 문서를 만들어 줄 거라 믿는 것

Accepted Answer

"로봇 변호사"는 마케팅 문구지 의료과실 보험이 아니다. 위험을 떠안는 건 로봇이 아니다. 당신이다. 한 규제기관이 어느 회사를 겨냥했다. 그 회사는 정확도를 검증하지도, 실제 변호사가 결과물을 확인하게 하지도 않은 채 완벽하게 유효한 법률 문서를 만들고 인간 변호사를 대체할 수 있다고 "AI 변호사"를 광고했다. 근거 없이 AI의 법률 작업을 변호사급이라고 광고하는 건 기만행위 문제다. 변호사처럼 보이지만 조용히 틀린 계약서는 아예 계약서가 없는 것보다 위험하다. 그건 그 문서를 직업으로 읽는 사람 앞에서 당신을 무너뜨리는 바로 그 순간까지 당신에게 자신감을 주기 때문이다.

Question 3

이미 서명한 합의가 여전히 구속력이 있는지 AI에게 물어보는 것

Accepted Answer

당신이 서명했다. 모델은 안 했다. 둘 중 누구를 법원이 신경 쓸지 맞혀 봐라. 이건 정말로 정리되지 않은 영역이고, 바로 그래서 위험하다. 서명하고 권리를 포기한 합의가 "사실 구속력이 없다"고 AI가 누군가에게 말하면, 계약 방해 주장이나 AI 제작사에 대한 무단 변호사업 영위 주장을 포함한 실제 분쟁이 터질 수 있다. 모델은 당신 사건의 절차적 상태도, 정확한 권리포기 문구도, 그 관할의 규칙도 모른다. 그것은 틀리는 순간 당신이 이미 동의한 것을 되돌려버리는 상황 위에 자신감을 패턴 매칭할 뿐이다.

Question 4

AI가 내놓은 판례를 존재 여부도 확인하지 않고 인용하는 것

Accepted Answer

모델은 사건도, 인용 번호도, 인용문도 지어낸다. 그리고 진짜를 다룰 때와 똑같이 침착한 자신감으로 셋 다 내놓는다. 이건 이 장르 전체의 시초가 된 경고 사례다. 변호사들이 챗봇이 만든, 가짜 인용문과 가짜 판사까지 완비된 완전히 날조된 판결 여섯 건을 인용한 서면을 제출했다. 챗봇에게 "이거 진짜야?"라고 묻고 "응"이라는 답을 듣는 건 검증이 아니다. 같은 기계가 당신에게 두 번 거짓말한 것일 뿐이다. AI는 실재하는 인용이 아니라 인용처럼 보이는 텍스트에 최적화되어 있다. 그럴듯한 사건명이 붙은 완벽하게 정돈된 판례집 번호는 AI가 세상에서 가장 쉽게 만들어 내고, 바쁜 사람이 가장 의심하기 어려운 것이다.

Question 5

환각으로 만들어진 인용이 그냥 소액 벌금으로 끝날 거라 가정하는 것

Accepted Answer

벌금은 싼 결말이다. 비싼 결말은 당신 이름이 징계위원회 회부장에 오르는 것이다. 어느 항소법원은 AI가 생성한 존재하지 않는 판례를 인용한 변호사에게 그냥 벌금만 물리지 않았다. 그 변호사를 징계 조사를 위해 고충처리위원회에 회부했다. 서면에 서명하기 전 합리적으로 조사할 의무는 AI를 활용한 리서치에도 그대로 적용된다. "컴퓨터가 한 거예요" 같은 예외는 없다. 평판 비용이 금액보다 더 세게 박힌다. 당신이 존재하지 않는 사건을 어떻게 인용했는지 묘사하는 공개된 판결문은, 다섯 자리 숫자의 제재금보다 훨씬 오래 당신 이름을 따라다닌다.

Question 6

우리 로펌 자체 AI 도구는 인용을 제대로 뽑아줄 거라 믿는 것

Accepted Answer

당신 로펌 로고가 박힌 환각도 여전히 환각이다. 브랜딩이 사건을 실재하게 만들지는 않는다. 대형 로펌의 자체 내부 AI 도구조차 존재하지 않는 판례를 인용한 서면을 만들어 냈다. 아무도 그 사건들을 열어보지 않았다면 "우리 독자 시스템인데요"는 아무 도움이 안 된다. 서명한 변호사는 누구의 모델이 초안을 만들었든 여전히 책임을 진다. 주목할 점은, 로펌 자체는 그 후 독자적 검증을 의무화했음을 입증해 제재를 면했다는 것이다. 도구가 안전장치가 아니었다. 모든 인용을 확인하는 정책이 안전장치였다.

Question 7

AI가 만든 "리서치"를 당신 변호사에게 넘겨 제출하게 하는 것

Accepted Answer

과실과 무모함은 서로 다른 곳에 떨어진다. 어느 쪽도 어쩌다 거기 왔는지 해명하고 싶은 자리는 아니다. 여기엔 진짜로 좁은 경계선이 있다. 어느 사건에서 한 피고가 챗봇이 만든 가짜 인용을 변호사에게 넘겼고, 변호사가 그것을 제출했다. 판사는 그 행위를 악의가 아닌 과실이라 보고 제재를 거부했다. 그건 안전한 피난처가 아니다. 구체적 사실관계에 기댄 아슬아슬한 모면이다. 유명한 제재 사건들과의 대비가 이 교훈의 전부다. 벌금과 면제의 차이는 의도에서 갈릴 수 있고, 법원이 당신을 그 선의 어느 쪽에 둘지는 사후에 당신이 정할 수 없다.

Question 8

AI로 리서치 방향을 브레인스토밍하되, 단어 하나하나를 검증하는 것

Accepted Answer

AI는 검색을 시작하기 좋은 자리다. 검색을 끝내기엔 치명적인 자리다. 이게 실제로 작동하는 방식이다. 브레인스토밍 파트너로 쓰면 AI는 정말 유용하다. 접근 각도를 끌어내고, 쉬운 말로 요약 초안을 잡고, 확인해야 할 목록을 만드는 걸 돕는다. 위험은 그 제안이 사람을 거치지 않고 곧장 인용이 될 때만 나타난다. 이 모든 재앙 장르가 존재하는 건 사람들이 검증 단계를 건너뛰었기 때문이다. 그 단계를 지키면 같은 도구가 책임이 아니라 자산이 된다. 핵심 기술은 그 결과물 중 무엇이 출처가 필요하고 무엇이 필요 없는지 아는 것이다.

Question 9

법적 근거 없이 개인정보로 AI를 학습시키거나 먹이는 것

Accepted Answer

"인터넷에 있었어요"는 법적 근거가 아니다. EU에서는 변명거리도 못 된다. 어느 데이터 보호 당국이 유효한 법적 근거 없이 개인정보로 AI를 학습시킨 데 대해 투명성 위반과 누락된 침해 통지까지 더해 여덟 자리 규모의 거액 과징금을 부과했다. EU 데이터법상 첫 대형 생성형 AI 처벌이었고, 마지막은 아닐 것이다. 공개되어 있으면 마음대로 써도 된다는 본능은 GDPR과 부딪치면 살아남지 못한다. 개인정보는 어디서 찾았든 의무를 동반한다. 적법한 근거, 무엇을 하는지에 대한 투명성, 그리고 사람들이 권리를 행사할 수 있는 통로 말이다.

Question 10

실명이 거명된 실제 인물에 대한 AI 결과물에 의존하는 것

Accepted Answer

모델이 범죄를 지어내 실제 사람의 이름을 붙이면, 그건 결함이 아니다. 데이터법상 그건 정확성 위반이다. 어떤 모델은 실제 한 남자에게, 그의 실제 고향과 가족 같은 진짜 정보를 뒤섞어, 당신이 자기 자식들을 살해하고 수십 년 복역했다고 말한 적이 있다. EU 데이터법상 이건 단순 명예훼손이 아니다. 데이터 정확성 문제이며, 그 허위를 정정하거나 삭제할 수 없다는 점 자체가 정정권 침해다. 이 영역은 아직 판단이 진행 중이고, 바로 그게 핵심이다. 정확성과 정정 의무는 AI가 사람에 대해 생성한 진술에도 데이터베이스 기록과 똑같이 적용되며, "모델이 그랬어요"는 그 의무를 면제해 주지 않는다.

Question 11

"공개되어 있다"가 곧 마음대로 긁어 학습시켜도 된다는 뜻이라 가정하는 것

Accepted Answer

보이는 것과 허락된 것은 같은 말이 아니다. 사람들은 그 차이를 배우려고 계속 변호사 비용을 낸다. 대규모 집단소송들이, 동의 없이 수십억 단어와 개인 정보를 긁어 모델을 학습시키는 것이 프라이버시와 데이터 권리에 저촉된다는 논리를 펼쳤다. 그 특정 소송 일부는 절차상 무너졌으니 승리가 아니라 논리를 세운 사례로 다뤄라. 하지만 그 논리 자체는 이제 확실히 테이블 위에 올라와 있다. 공개적으로 보인다는 건 접근에 관한 것이지 허락에 관한 게 아니다. 사진, 게시물, 프로필에 닿을 수 있다는 사실은 그것을 상업용 모델에 집어넣어도 되는지에 대해 아무것도 말해주지 않는다. 그 두 번째 질문에는 자체 규칙이 있고, 그 규칙은 점점 빡빡해지고 있다.

Question 12

AI 도구에는 실제로 필요한 데이터만 먹이는 것

Accepted Answer

가장 안전한 개인정보는 애초에 집어넣지 않은 개인정보다. 먼저 최소화하고, 그다음에 프롬프트를 짜라. 이건 당신을 경고 사례에서 벗어나게 해주는 지루한 습관이다. 과징금과 금지 처분은 근거보다 더 많은 개인정보를 모델에 먹인 조직들 주위에 몰려 있다. 진짜로 필요한 것만 쓴다는 원칙인 데이터 최소화는 당신이 할 수 있는 가장 값싼 컴플라이언스다. 대부분의 AI 작업은 사실 이름도, 주소도, 전체 기록도 필요하지 않다. 관련된 사실만 있으면 된다. 그 둘을 분리하면, 전송 버튼을 누르기도 전에 당신의 프라이버시 노출 대부분이 사라진다.

Question 13

전적으로 AI가 생성한 작품에 저작권을 주장하는 것

Accepted Answer

기계는 저작자가 될 수 없다. 프롬프트가 아무리 좋았어도, 인간이 만들지 않은 것에는 저작권을 걸 수 없다. 한 남자가 기계를 저작자로 지정해 AI가 생성한 미술작품을 등록하려고 몇 년을 보냈다. 법원들은 끝까지 안 된다고 했다. 저작권은 우선 인간 저작자를 요구하기 때문이다. 대법원은 이 사건을 다루지 않기로 했고, 이로써 이건 확립된 법이 되었다. 인간의 창작이 전혀 없이 전적으로 AI가 생성한 작품은 등록할 수 없다. 이건 사람이 진짜로 결과를 빚어내는 인간과 AI의 협업 문제를 해결해 주진 않는다. 하지만 홀로 서 있는 순수한 기계 산출물에는, 당신을 포함한 그 누구도 소유할 저작권이 없다.

Question 14

당신이 일부를 직접 한 AI 보조 작품에 저작권을 거는 것

Accepted Answer

당신이 만든 부분은 보호할 수 있다. 기계가 만든 부분은 공짜로 딸려 온다, 두 가지 의미 모두에서. 누군가 AI가 생성한 이미지를 담은 그래픽 노블을 등록했을 때, 저작권청은 인간이 저작한 텍스트와 선택 및 배열에 대해서만 보호를 인정했다. AI 이미지 자체는 아무것도 받지 못했다. 생성기에 프롬프트를 제공한 것은 저작자성의 의미에서 결과 이미지를 실제로 형성한 것이 아니라고 판단됐다. 그래서 작품은 부분별로 보호된다. 당신의 글, 당신의 큐레이션, 당신의 레이아웃은 당신 것이다. 그 가운데 끼어 있는 날것의 생성 자산은 아니며, 당신은 그것이 당신 것인 척해서는 안 된다.

Question 15

경쟁사의 저작물로 상업용 AI를 학습시키는 것

Accepted Answer

누군가의 저작물로 그 제품의 대체재를 만드는 건 변형적이지 않다. 그건 그냥 절차가 몇 단계 더 붙은 경쟁이고, 거기에 소송이 따라온다. 어느 법원이 AI 학습에 대한 공정 이용 항변을 기각한 미국 최초의 연방 판결을 내놓았다. 한 회사가 경쟁사의 저작권 판례 요지(headnote)로 법률 리서치 도구를 학습시킨 사건이었다. 그 이용은 변형적이지 않고 시장 대체재로 인정됐는데, 이는 공정 이용 분석에서 들을 수 있는 가장 나쁜 단어 조합에 가깝다. 공정 이용은 당신의 이용이 원작을 변형하는지, 그리고 원작의 시장을 해치는지에 기댄다. 경쟁사 자료로 학습시켜 경쟁 제품을 만들었다면, 당신은 두 질문 모두에 스스로에게 불리하게 답한 셈이다.

Question 16

불법 복제물을 학습 데이터로 쓰는 것

Accepted Answer

그 책을 어떻게 손에 넣었는지가 그걸로 무엇을 했는지만큼 중요하다. 해적판 도서관은 데이터 파이프라인이 아니다. 어느 법원은 합법적으로 취득한 책으로 학습하는 것은 공정 이용일 수 있지만, 불법 복제본을 쓰는 것은 아니라고 판단했다. 그 회사는 이후 약 15억 달러로 보도된 금액에 합의했는데, 이는 그 종류의 저작권 합의 중 최대 규모였다. 치명상은 학습 방식이 아니었다. 공급망이었다. 이건 팀들이 빠르게 움직일 때 건너뛰는 부분이다. 바로 데이터의 출처다. 방어 가능한 기법도 방어 불가능한 출처 위에 세워지면, 그 파일들이 어디서 왔느냐고 누군가 묻는 순간 무너진다.

Question 17

Accepted Answer

학습이 어디서 일어났는지가 승패를 가를 수 있다. 법은 국경에서 바뀌는 게 아니라 서버에서 바뀐다. 영국의 한 사건에서 법원은 AI 모델 가중치가 학습 이미지의 복제물이 아니라고 판단했고, 한 주요 권리자는 학습 침해를 입증할 주된 주장들을 포기하며 사실상 패소했다. 일부는 학습이 영국에서 일어났음을 입증하지 못한 탓이었다. 이는 미국에서 같은 질문이 다투어지는 방식과 주목할 만한 대비를 이룬다. 그래서 같은 사실관계라도 학습이 어디서 돌아갔는지, 누구의 법이 적용되는지에 따라 다른 결과가 나올 수 있다. 한 관할의 답을 보편적이라 여기는 것이, 국경을 넘나드는 AI 프로젝트가 뜻밖의 사태로 걸어 들어가는 길이다.

Question 18

AI 채용 도구가 나이나 다른 보호되는 특성으로 거르게 두는 것

Accepted Answer

차별을 자동화한다고 세탁되지 않는다. 알고리즘은 그저 불법적인 일을 더 빠르게, 더 대규모로 할 뿐이다. 한 채용 도구가 55세 초과 여성 지원자와 60세 초과 남성 지원자를 자동으로 탈락시켜 이백 명이 넘는 사람을 걸러냈다. 누군가 생년월일만 바꿔 재지원하자 갑자기 면접 기회를 얻으면서 들통났다. 한 규제기관은 이를 단순명료한 연령 차별 위반으로 다뤘다. 정확히 그것이었기 때문이다. 편향을 소프트웨어에 넣는다고 그게 중립이 되지는 않는다. 필터가 보호되는 특성이나 생년월일 같은 대리 지표로 사람을 탈락시킨다면, 그건 사람이 직접 손으로 했을 때와 똑같이 불법적인 결정이다.

Question 19

AI 선별 벤더가 차별 위험을 진다고 가정하는 것

Accepted Answer

벤더도 책임을 질 수 있다. 그건 당신이 책임에서 벗어난다는 뜻이 아니며, 함께 걸린 소송도 여전히 당신의 소송이다. 어느 법원은 AI 선별 벤더가 그것을 사용하는 고용주들의 대리인으로서 직접 책임을 질 수 있다는 논리로 차별적 영향 주장의 진행을 허용했다. 그건 누구를 제소할 수 있는지에 대한 진짜 변화다. 하지만 제대로 읽어라. 그건 책임을 확장하는 것이지, 당신에게서 책임을 떼어 옮기는 게 아니다. 이 영역은 아직 판단 중이고, 전국 규모 집단(collective)이 인증됐다. 고용주에게 안전한 해석은 당신과 벤더가 둘 다 책임질 수 있다는 것이다. 그러니 "우리는 제3자 도구를 썼어요"는 사람들이 가정하는 방패가 아니다.

Question 20

AI로 채용 공고를 작성하되, 누구를 거르기 전에 사람이 편향을 점검하는 것

Accepted Answer

AI가 공고를 쓰는 건 괜찮다. AI가 감사도 없이 누구를 탈락시킬지 정하는 게, 당신이 판례에 등장하게 되는 길이다. 이게 안전한 차선이다. AI로 공고를 작성하거나, 표현을 다듬거나, 지원자를 망설이게 할 만한 문구를 짚어내는 건 위험이 낮고 정말로 유용하다. 위험은 한 단계 뒤에 산다. 같은 열정이 아무도 패턴을 점검하지 않은 채 지원자를 자동으로 탈락시키는 데로 향할 때 말이다. 모델은 글 쓰는 쪽에, 사람은 결정하는 쪽에 두면, 차별적 영향 노출 없이 생산성을 얻는다. 경고가 된 합의들에는 공통점이 하나 있다. 아무도 그 자동화가 무엇을 걸러내는지 감사하지 않았다는 것이다.

Sally's Law