Multiverse Computing 소속 연구진은 MCP(Model Context Protocol) 기반 에이전트 답변에서 사실의 진위뿐 아니라 주장이 올바른 출처에 귀속됐는지를 확인하는 검증 방식 ProvenanceGuard를 소개했다. 연구진은 기존 사실성 검사기가 여러 자료를 합친 뒤 주장이 그 안에서 뒷받침되는지 평가하는 경우가 많아, 특정 도구 출력이 주장을 뒷받침하는지 또는 답변이 출처를 제대로 지목했는지 놓칠 수 있다고 설명했다.
ProvenanceGuard는 에이전트가 답변을 만든 뒤 작동하는 검증 계층이다. MCP 실행 기록과 도구 출력, 출처 식별자를 보존한 채 답변을 주장 단위로 나누고, 각 주장에 관련된 출처를 찾은 다음 근거 여부와 답변이 명시하거나 암시한 출처가 일치하는지를 확인한다. 결과는 주장별 판정과 답변 전체의 허용·차단 결정으로 제시된다. 검증 과정에서 숫자·날짜·식별자가 해당 출처에 없으면 문장이 그럴듯하다는 이유만으로 통과시키지 않도록 했다고 연구진은 밝혔다.
연구진은 환자 기록과 연구 논문 등 여러 도구를 사용한 의료 에이전트의 실제 기록 281건을 살펴봤다. 이 가운데 개발에 쓰이지 않은 답변 40개의 주장 361건을 전문가가 평가했다. 전문가가 통과시키면 안 된다고 판단한 주장 139개 중 ProvenanceGuard는 138개를 잡아냈고, 하나는 통과시켰다. 반면 전문가가 근거가 있다고 본 주장 67개도 차단해 검토 또는 수리 대상으로 돌렸다. 출처를 식별할 수 있는 주장에서는 시험 대상의 약 86%에서 출처를 올바르게 골랐다고 연구진은 보고했다.
유사한 출처가 여럿 있는 별도 시험에서는 차단 여부를 판단하는 F1 점수가 0.846이었지만, 정확한 출처를 맞힌 비율은 50.3%였다. 연구진은 이를 출처 구분의 과제로 제시했다. 또 근거는 그대로 둔 채 답변이 언급한 출처만 바꾼 50건의 시험에서는 모두 오류를 찾아냈다. 차단된 답변을 수리하는 절차에서는 전체 기록 시험의 차단 답변 173건을 모두 처리했으나, 이 중 144건은 실질적인 수정 대신 안전한 대체 문구로 마무리됐다.
실험은 MiniLM, DeBERTa 기반 검증기와 로컬 언어 모델을 사용한 오프라인 구성으로 진행됐다. 연구진은 이 모델들이 ProvenanceGuard의 필수 구성은 아니며, 다른 환경에 적용할 때는 별도 시험과 보정이 필요하다고 밝혔다. 공개된 결과는 해당 로컬 구성에 한정된다.