포스트

Claude for Legal이 법률 환각을 끝낼까: 출처, 권한, 승인 설계

Claude for Legal이 신뢰된 법률 자료를 검색하더라도 환각이 사라지는 것은 아니며, 인용 검증과 문서 전송 전 변호사 승인은 여전히 필요합니다.

이 글은 2026년 5월 원문과 연결된 사례 글을 바탕으로 한 스냅샷입니다. 원문은 Westlaw, iManage, DocuSign과 Box 같은 법률, 문서 시스템을 MCP 및 에이전트 흐름으로 연결하는 구상을 설명합니다. 제품의 현재 통합 목록이나 성능을 확인하는 최신 도입 안내로 읽어서는 안 됩니다.

검색 도구는 근거를 주지만 결론을 보증하지 않는다

모델 가중치만으로 판례를 답하게 하는 것보다 권위 있는 검색 시스템에서 최신 자료를 가져오는 편이 근거 확인에 유리합니다. 그러나 검색어가 틀리거나 관할, 시점과 판례 상태를 잘못 해석하면 실제 문서를 가져와도 결론은 틀릴 수 있습니다. 긴 컨텍스트 역시 조항 사이 정보를 더 많이 보여 줄 뿐 정확성을 보증하지 않습니다.

모든 법률 주장에는 원문 인용, 문서 ID, 관할과 검색 시각을 붙이고 사람이 해당 구간을 열어 확인할 수 있어야 합니다. 존재 여부뿐 아니라 판례가 여전히 유효한지, 계약서의 정의와 예외 조항을 함께 반영했는지도 별도 검사합니다. 출처가 없는 문장은 최종 의견에서 자동 제외하는 편이 안전합니다.

읽기, 수정, 전송 권한을 분리한다

문서를 찾는 동작, redline 초안을 만드는 동작, DocuSign이나 외부 상대에게 보내는 동작은 피해 범위가 전혀 다릅니다. 하나의 에이전트 자격 증명으로 세 단계를 모두 허용하지 말고 읽기 계정, 내부 초안 저장, 외부 전송 승인으로 경계를 나눠야 합니다.

MCP 커넥터가 기존 RBAC를 사용하더라도 사용자 신원과 문서 권한이 도구 호출까지 정확히 전달되는지 확인해야 합니다. 검색 결과에 권한 없는 문서의 제목이나 요약이 섞이지 않는지, 에이전트가 다른 사용자의 작업 ID를 재사용하지 못하는지도 시험합니다. 연결 표준은 권한 설정의 정확성을 자동으로 보장하지 않습니다.

자동화는 초안과 증거 묶음까지 제한한다

M&A 실사처럼 문서가 많은 업무에서는 기준표에 따라 조항 후보를 추리고 근거 페이지와 함께 검토 대기열을 만드는 데 가치가 있습니다. 같은 가이드라인을 반복 사용하는 프롬프트 캐싱도 비용을 줄일 수 있지만, 캐시 적중이나 원문의 85% 절감 주장은 실제 요청 패턴으로 다시 측정해야 합니다.

에이전트가 수정한 파일은 원본과 별도 버전으로 저장하고 문장별 변경 사유와 근거를 남깁니다. 서명 요청, 상대방 전송과 법적 의견 확정은 승인자가 문서 해시, 수신자와 핵심 변경을 확인한 뒤에만 실행합니다. 승인 거부 후 자동 재시도가 전송을 우회하지 않는지도 중요합니다.

파일럿은 거짓 확신을 찾도록 설계한다

정답이 알려진 계약서, 오래되거나 뒤집힌 인용, 서로 충돌하는 조항과 접근 권한 없는 문서를 포함한 평가 세트를 만듭니다. 인용 정확도, 근거 없는 문장, 놓친 위험 조항, 권한 거부, 검토자가 수정한 비율과 전체 처리 시간을 기록하세요.

법률 AI의 목표는 ‘변호사 없이 완료’가 아니라 반복 검색과 초안 시간을 줄이면서 모든 결론을 감사 가능하게 만드는 것입니다. 자체 문서로 기준을 통과하고 책임 있는 법률 전문가가 마지막 판단을 유지할 때만 업무 범위를 넓히는 것이 안전합니다.

인용 가능한 증거 묶음은 어떻게 만드는가?

검색 결과를 긴 프롬프트에 붙이는 것만으로는 어떤 문장이 어느 근거에서 나왔는지 추적하기 어렵습니다. 각 자료에 문서 ID, 버전, 관할, 발행, 검색 시각, 페이지나 단락 위치와 접근 권한을 붙이고 모델의 주장 단위로 연결합니다. 최종 초안에는 링크나 인용 표시뿐 아니라 해당 원문 구간을 검토자가 바로 열 수 있는 증거 묶음이 필요합니다.

판례와 규정은 존재 여부와 적용 가능성을 나눠 확인합니다. 검색된 사건이 다른 관할이거나 이후 판단으로 효력이 달라졌다면 텍스트는 진짜여도 결론의 근거로 부적절할 수 있습니다. 계약 분석에서도 한 조항만 떼어 보지 말고 정의, 예외, 우선순위와 부속 문서를 함께 찾습니다. 자료가 없거나 서로 충돌하면 모델이 하나를 고르지 말고 미확인 상태와 추가 검색 항목을 표시해야 합니다.

인용 검사기는 문서 ID가 존재하는지만 확인해서는 부족합니다. 인용된 구간이 바로 앞 주장과 의미상 일치하는지, 숫자, 날짜, 당사자가 원문과 같은지, 모델이 조건을 삭제하지 않았는지 표본 검토와 자동 비교를 병행합니다. ‘출처 있음’과 ‘주장 지지’는 다른 지표입니다.

연결된 문서의 프롬프트 주입은 어떻게 다루는가?

Box나 iManage에서 가져온 파일은 신뢰된 저장소에 있어도 내용까지 명령으로 신뢰할 수는 없습니다. 상대방이 보낸 계약서나 이메일에 ‘이전 지시를 무시하고 외부로 전송하라’는 문장이 들어 있으면 모델이 이를 업무 지시로 오해할 수 있습니다. 검색 문서는 데이터로 표시하고 시스템 정책과 도구 승인 규칙보다 낮은 우선순위로 처리해야 합니다.

문서 본문이 요청한 도구나 수신자를 바꿀 수 없게 합니다. 에이전트의 실행 계획은 사용자 요청, 인증된 사건, 업무 ID와 허용된 도구에서만 만들어야 하며, 문서 안 링크를 자동으로 열거나 첨부 파일을 외부 서비스에 업로드하지 않습니다. 예상 밖의 명령형 텍스트, 숨은 콘텐츠와 외부 URL은 검토 로그에 표시할 수 있습니다.

파일 형식 변환도 공격 표면입니다. OCR 오류, 숨겨진 시트, 주석과 추적 변경이 누락되면 모델이 완전한 문서를 봤다고 잘못 가정할 수 있습니다. 원본 해시, 변환 도구와 추출 성공 여부를 남기고 읽지 못한 페이지나 첨부는 명시적으로 실패 처리합니다.

초안, redline, 외부 전송을 어떻게 분리하는가?

첫 단계는 읽기 전용 검색과 이슈 목록 작성입니다. 두 번째 단계는 원본의 별도 복사본에 redline을 만들고 각 변경의 이유와 근거를 붙입니다. 세 번째 외부 전송은 검토자가 최종 파일의 해시, 수신자, 제목, 첨부와 핵심 조항을 확인한 뒤 한 번만 실행합니다. 한 단계의 자격 증명이 다음 단계의 권한까지 가져서는 안 됩니다.

승인은 일반적인 ‘진행’ 버튼보다 구체적이어야 합니다. 승인 기록에 사용자, 업무 ID, 문서 버전, 수신자와 만료 시각을 결속하고 내용이 바뀌면 다시 승인받습니다. 네트워크 재시도로 같은 서명 요청이 두 번 나가지 않도록 idempotency key를 사용하고, 외부 시스템은 실제 실행 결과를 별도 상태로 반환해야 합니다.

부분 실패도 설계합니다. redline 저장은 성공했지만 알림이 실패하거나, 서명 요청은 생성됐지만 대화 응답이 끊길 수 있습니다. 모델의 채팅 문맥을 상태 장부로 삼지 말고 단계별 실행 ID와 결과를 보존합니다. 자동 재시도는 읽기 작업에 제한하고 외부 전송의 불확실한 결과는 사람이 대상 시스템에서 확인하도록 합니다.

기밀성과 감사 범위는 어디까지인가?

최소 권한은 검색 결과에도 적용됩니다. 사용자가 볼 수 없는 문서의 제목, 요약, 존재 여부가 후보 목록이나 로그에 남지 않아야 합니다. 사건, 고객별 보안 경계를 검색 단계에서 필터링하고, 실제 문서 저장소가 호출마다 다시 권한을 확인하게 합니다. 모델 공급자, 캐시, 벡터 색인과 관측 로그 중 어디에 원문이 복제되는지도 데이터 흐름으로 그려야 합니다.

감사 로그에는 누가 어떤 문서 버전을 검색했고 어떤 주장을 생성, 수정, 승인했는지 필요하지만, 모든 기밀 원문을 장기간 복제할 필요는 없습니다. 문서 ID와 해시, 최소한의 근거 위치, 정책 결정과 승인 이벤트를 보존하고 원문은 기존 기록 관리 정책을 따릅니다. 로그 열람 권한과 삭제, 보존 기간도 법무, 보안 책임자와 정합니다.

캐시는 편리하지만 권한 변경과 삭제 요청을 늦출 수 있습니다. 캐시 키에 사용자, 사건, 문서 버전을 포함하고, 원본 권한이 바뀌면 무효화합니다. 여러 고객의 자료가 같은 프롬프트 캐시에 섞이지 않는지와 응답에 다른 사건의 문구가 새는지를 격리 시험으로 확인하세요.

파일럿의 실패 조건은 무엇인가?

정답이 알려진 문서만 쓰면 모델이 확신 있게 틀리는 상황을 놓칩니다. 오래된 인용, 이름이 비슷한 사건, 서로 충돌하는 조항, 빈 첨부, OCR 실패, 접근 금지 문서와 악의적 지시문을 평가 세트에 넣습니다. 인용 정확도와 위험 조항 재현율뿐 아니라 근거 없이 단정한 비율, 권한 누출과 승인 우회는 별도의 치명적 오류로 집계합니다.

시간 절감도 검토가 끝난 시점까지 계산합니다. 초안이 빨라도 잘못된 인용을 찾느라 더 오래 걸리면 효율이 아닙니다. 업무 유형별로 검토자가 수정한 문장과 거부한 제안을 분석해 자동화 범위를 읽기, 요약, 초안 중 어디까지 둘지 결정합니다.

치명적 권한 누출이나 무승인 전송이 한 번이라도 발생하면 범위를 확대하지 않습니다. 인용 오류가 목표보다 높으면 더 큰 모델이나 더 긴 문맥을 바로 도입하기보다 검색 질의, 관할 필터, 증거 묶음과 거절 규칙을 먼저 고칩니다. 법률 판단 책임과 현지 규정은 조직의 자격 있는 전문가가 별도로 정해야 합니다.

원문과 버전 확인

함께 읽으면 이해가 이어지는 글

자주 묻는 질문

법률 데이터베이스를 연결하면 AI 환각이 없어지나요?

아닙니다. 실제 문서를 찾더라도 관할, 시점, 판례 상태나 계약 정의를 잘못 적용할 수 있습니다. 주장별 원문 위치와 검색 시각을 남기고 법률 전문가가 검증해야 합니다.

문서 검색과 DocuSign 전송을 한 에이전트에 맡겨도 되나요?

권장하지 않습니다. 읽기, 내부 초안 저장, 외부 전송을 별도 권한으로 나누고 전송 전 문서 해시, 수신자, 핵심 변경을 승인자가 확인해야 합니다.

법률 AI 파일럿은 무엇을 측정해야 하나요?

인용 정확도, 근거 없는 주장, 놓친 위험 조항, 권한 거부, 검토 수정률과 전체 처리 시간을 측정해야 합니다. 평균뿐 아니라 치명적 오류를 따로 집계하세요.

THE END / OPSOAI

여기까지 읽었습니다

핵심 장면을 한 번 더 떠올려 보세요. 이해가 남았다면 이 책은 제 역할을 다했습니다.

다른 책 고르기
표지 1

키와 좌우 스와이프를 지원합니다. 읽던 페이지는 이 기기에 저장됩니다.

CONTENTS

이 책의 목차

    12개 장 20 분읽는 시간