AI가 내놓은 판례를 존재 여부도 확인하지 않고 인용하는 것
모델은 사건도, 인용 번호도, 인용문도 지어낸다. 그리고 진짜를 다룰 때와 똑같이 침착한 자신감으로 셋 다 내놓는다.
이것은 법률 자문이 아닙니다. 샐리는 특정한 당신의 상황이 아니라 일반적인 행동과 사용 사례를 비꼬며, 여기 있는 어떤 것도 진짜 변호사를 대신하지 않습니다. 사례는 실제이지만, 그에 대해 무엇을 할지는 당신과 그것을 말해 줄 자격이 있는 사람 사이의 문제입니다.
챗봇이 만들어 낸 판례 인용을 담은 서면을, 각 사건이 실재하는지 독자적으로 확인하지 않은 채 제출하는 것.
Mata v. Avianca, Inc.
678 F. Supp. 3d 443 (S.D.N.Y. 2023) · US (S.D.N.Y.)
두 변호사가 ChatGPT가 생성한 완전히 날조된 판결 여섯 건을 인용한 서면을 제출했고, 법원이 그 사건들을 찾지 못하자 오히려 끝까지 우겼다.
Castel 판사는 주관적 악의를 인정하고 변호사들과 그들의 로펌에 Rule 11에 따라 $5,000의 제재를 부과했으며, 작성자로 거짓 지목된 실제 판사들에게 통지하라고 명령했다.
이건 이 장르 전체의 시초가 된 경고 사례다. 변호사들이 챗봇이 만든, 가짜 인용문과 가짜 판사까지 완비된 완전히 날조된 판결 여섯 건을 인용한 서면을 제출했다. 챗봇에게 "이거 진짜야?"라고 묻고 "응"이라는 답을 듣는 건 검증이 아니다. 같은 기계가 당신에게 두 번 거짓말한 것일 뿐이다.
AI는 실재하는 인용이 아니라 인용처럼 보이는 텍스트에 최적화되어 있다. 그럴듯한 사건명이 붙은 완벽하게 정돈된 판례집 번호는 AI가 세상에서 가장 쉽게 만들어 내고, 바쁜 사람이 가장 의심하기 어려운 것이다.
“당신은 기계에게 지어낸 사건이 진짜냐고 물었고, 기계는 그렇다고 했고, 어쩐 일인지 바로 그 순간 당신은 확인을 멈췄다.”
- 01모든 사건을 실제 법률 데이터베이스에서 끌어내 읽고 나서야 서면 근처에 가게 하라.
- 02AI는 검색어와 접근 각도를 제안받는 데 쓰되, 당신 이름으로 서명할 권위 있는 근거를 공급받는 데는 쓰지 마라.
- 03판례집에서 그 사건을 찾을 수 없다면, 그건 존재하지 않는 거다. 이걸 예외가 아니라 기본값으로 취급하라.
법률 자문이 아닙니다. 당신의 상황이 아니라 사용 사례에 대한 일반적인 논평입니다. 행동하기 전에 진짜 변호사와 상담하세요.