환각으로 만들어진 인용이 그냥 소액 벌금으로 끝날 거라 가정하는 것
벌금은 싼 결말이다. 비싼 결말은 당신 이름이 징계위원회 회부장에 오르는 것이다.
이것은 법률 자문이 아닙니다. 샐리는 특정한 당신의 상황이 아니라 일반적인 행동과 사용 사례를 비꼬며, 여기 있는 어떤 것도 진짜 변호사를 대신하지 않습니다. 사례는 실제이지만, 그에 대해 무엇을 할지는 당신과 그것을 말해 줄 자격이 있는 사람 사이의 문제입니다.
최악의 경우가 "제재"뿐이라며 AI가 환각으로 만든 권위 있는 근거를 사소한 위험으로 취급하는 것.
Park v. Kim
91 F.4th 610 (2d Cir. 2024) · US (2d Circuit)
한 변호사가 ChatGPT가 생성한 존재하지 않는 판례를 인용했고, 추궁받자 그 사건을 제시하지 못했다.
제2연방항소법원은 금전적 처벌을 넘어, 그 변호사를 징계 조사를 위해 고충처리위원회에 회부했다.
어느 항소법원은 AI가 생성한 존재하지 않는 판례를 인용한 변호사에게 그냥 벌금만 물리지 않았다. 그 변호사를 징계 조사를 위해 고충처리위원회에 회부했다. 서면에 서명하기 전 합리적으로 조사할 의무는 AI를 활용한 리서치에도 그대로 적용된다. "컴퓨터가 한 거예요" 같은 예외는 없다.
평판 비용이 금액보다 더 세게 박힌다. 당신이 존재하지 않는 사건을 어떻게 인용했는지 묘사하는 공개된 판결문은, 다섯 자리 숫자의 제재금보다 훨씬 오래 당신 이름을 따라다닌다.
“당신은 리서치 20분을 아끼고, 그 시간에 이자까지 붙여 고충처리위원회에 해명하는 데 썼다.”
- 01초안이 아무리 믿음직하게 느껴졌어도, 제출 전에 매번 직접 권위 있는 근거를 검증하라.
- 02당신이 직접 열어보지 않은 인용은 절대 내보내지 않는다는 고정 점검 절차를 작업 흐름에 넣어라.
- 03의무는 당신 것임을 기억하라. 초안 작성을 모델에 위임해도 책임은 위임되지 않는다.
법률 자문이 아닙니다. 당신의 상황이 아니라 사용 사례에 대한 일반적인 논평입니다. 행동하기 전에 진짜 변호사와 상담하세요.