세상을 읽는 더 나은 시선

AI가 그럴듯한 문장을 만들어내더라도, 그 안에 인용된 판례까지 실제로 존재한다고 보장할 수는 없습니다. 법률 문서에 AI를 활용할 때 특히 조심해야 하는 이유가 대법원 설문조사 결과로 드러났습니다. 민사·가사·행정 사건을 맡은 법관 10명 중 약 8명이 허위 판례 인용 사례를 경험했다고 답했습니다.

대법원이 공개한 조사에는 전국 각급 법원 법관 360명이 참여했습니다. 응답 법관 가운데 존재하지 않는 판례가 인용된 사례를 경험했다는 답은 196명(80.7%)으로 가장 많았습니다. 실제 판결과 다른 내용으로 판례가 인용된 경우를 경험한 법관도 159명(65.4%)이었습니다. 허위이거나 존재하지 않는 법령 인용은 41명(16.9%), 논문·문헌 등 자료 인용은 10명(4.1%)으로 집계됐습니다.

허위 자료를 인용한 주체로는 소송 당사자 본인을 꼽은 응답이 164명(69.5%)으로 가장 많았습니다. 변호사인 소송대리인이나 변호인을 지목한 법관도 136명(57.6%)이었습니다. 기사에 소개된 사례에는 AI가 만든 허위 판결서를 대법원 판결서처럼 꾸며 제출하거나, 실제 판결의 내용을 바꾸어 인용한 경우가 포함됐습니다. AI와 나눈 대화나 소송 전략 관련 문구가 수정되지 않은 채 서면에 들어간 사례도 확인됐다고 합니다.

AI의 ‘환각’은 존재하지 않거나 사실과 다른 내용을 마치 맞는 것처럼 생성하는 현상을 말합니다. 법률 자료는 사건번호와 판결 요지가 구체적으로 적혀 있으면 얼핏 신뢰할 만해 보일 수 있지만, 형식이 그럴듯하다는 것만으로 실제 판례인지 확인되지는 않습니다. 따라서 AI가 찾아준 법령이나 판례를 그대로 옮기기보다 공식 자료에서 사건번호와 판결 내용, 인용 취지가 맞는지 확인하는 과정이 중요합니다. 이는 일반적인 활용상 주의점이며, 설문 결과 자체가 모든 AI 사용의 오류를 뜻하는 것은 아닙니다.

문제는 허위 인용이 서면 작성자의 실수에 그치지 않을 수 있다는 점입니다. 상대방은 자료가 실제인지, 인용 내용이 맞는지 따져 반박해야 하고, 재판부도 제출된 근거를 확인하는 데 시간을 들일 수 있습니다. 법원행정처는 이런 부담이 소송 비용과 재판 진행에 영향을 줄 수 있고, 특히 변호사 없이 소송을 하는 사람에게 대응이 더 어려울 수 있다고 설명했습니다.

응답자의 91.7%는 제도적 대응이 필요하다고 답했습니다. 법원행정처는 민사소송법과 형사소송법 개정을 통해 허위 판례 인용에 과태료를 부과할 근거를 마련하는 방안을 추진하고, 관계기관 및 국회와 협의할 계획이라고 밝혔습니다. 전자소송 사이트에 AI 활용 시 유의사항을 안내하는 방안도 검토 중입니다. 아직 추진·검토 단계인 만큼 실제 제도가 어떻게 마련될지는 지켜봐야 합니다.

이번 조사에서 드러난 핵심은 AI를 썼는지 여부보다 제출하는 법률 자료의 정확성을 누가 어떻게 확인하느냐입니다. AI는 초안 작성에 도움을 줄 수 있지만, 법정에 내는 판례와 법령의 진위를 대신 책임져주지는 않습니다. 관련 내용은 PPSS 보도를 통해 전해졌으며, 대응책이 구체화되면 소송 당사자와 법률가 모두의 확인 절차에도 변화가 생길 수 있습니다.