RAG는 어떤 문서를 보고 답했을까? Shapley 값으로 출처 귀속 계산하기

RAG(검색 증강 생성)에서 '출처 귀속'은 AI가 내놓은 답이 실제로 어떤 검색 문서에 기댔는지를 수치로 지목하는 일이에요. Nematov 등의 2025년 논문 Source Attribution in Retrieval-Augmented Generation 은 머신러닝의 Shapley 값을 RAG의 문서 단위로 옮겨서, 이 질문에 체계적으로 답하는 방법과 그 한계를 짚어요 ^[1]. 콘텐츠가 AI 답변에 인용되게 만드는 GEO 가 '보내는 쪽'의 문제라면, 출처 귀속은 '받는 쪽'에서 무엇을 실제로 썼는지 되짚는 문제예요.

RAG는 질문에 맞는 문서를 먼저 검색해서 LLM에 넣고, 그 문맥을 근거로 답을 만들어요. 답 품질은 좋아지지만 과정은 여전히 블랙박스예요. 열 개를 넣었는데 정작 답을 만든 건 몇 번 문서인지, 검색기가 가져온 문서가 도움이 됐는지 방해가 됐는지 알기 어려워요. 근거 문서를 정확히 지목할 수 있으면 사용자 신뢰가 올라가고, 엉뚱한 문서를 걸러 검색 단계를 개선할 수 있어요.

RAG의 블랙박스, 무엇이 답을 만들었나

문제는 비용이에요. 전통적인 귀속 기법은 입력을 조금씩 바꿔가며 모델을 여러 번 돌려봐야 하는데, LLM에서는 그 한 번이 곧 API 호출이자 돈과 시간이에요. 문서가 n개면 모든 부분집합을 따지는 정확한 계산은 $2^n$ 번의 호출이 필요해서, 문서 몇 개만 넘어가도 현실적으로 불가능해져요 ^[1].

그래서 이 연구의 목표는 세 가지예요. (1) 확립된 귀속 원리를 RAG 문서 단위에 옮기고, (2) 값싼 근사법이 정확한 귀속을 얼마나 재현하는지 재고, (3) 중복·상보·시너지처럼 문서가 얽힌 어려운 상황에서 실제로 쓸 만한지 확인하는 거예요 ^[1].

Shapley 값으로 기여를 나누는 법

핵심 아이디어는 각 문서를 '협력 게임의 참가자'로 보는 거예요. 문서 집합 $D$ 에서 문서 $j$ 의 Shapley 값은, 가능한 모든 부분집합 $S$ 에 $j$ 를 더했을 때 늘어나는 효용의 가중 평균이에요 ^[3][4].

여기서 성과, 즉 효용(utility)을 어떻게 정의하느냐가 관건이에요. 논문은 문서 부분집합 $S$ 의 효용을, 질의 $Q$ 와 $S$ 만 줬을 때 LLM이 원래의 전체 문맥 답변 $R$ 을 생성할 로그가능도로 정의해요. 각 토큰의 로그확률을 teacher-forcing으로 더한 값이에요 ^[1][2].

특정 문서 묶음이 있을 때 원래 답이 더 그럴듯해질수록 그 묶음의 효용이 높은 거예요. 이 정의 덕분에 SHAP·ContextCite 같은 기존 귀속 기법을 그대로 RAG에 붙일 수 있게 돼요 ^[1][2].

비교 대상은 정확한 Shapley와 함께 TMC-Shapley, Beta-Shapley, Kernel SHAP, ContextCite, 그리고 가장 단순한 LOO(하나씩 빼보기)예요. 모델은 LLaMA-3.2-8B, Mistral-7B, Qwen-3B를 쓰고, 데이터셋은 BioASQ와 Natural Questions, 그리고 논문이 직접 만든 가상 시나리오를 써요 ^[1].

실험 1. 싼 방법이 비싼 Shapley를 대신할 수 있을까

첫 실험은 값싼 근사법이 정확한 Shapley 순위를 얼마나 똑같이 재현하는지를 Pearson 상관, Kendall's Tau, Precision@k로 재요.

그림 1. 표본 크기(32·64·100)에 따른 각 근사법의 Shapley 재현 정확도.

결과는 뚜렷해요. Kernel SHAP이 대부분의 지표에서 가장 정확했고, ContextCite가 근소한 차이로 뒤따랐어요. 두 방법 모두 단순한 대리 선형 모델을 학습하는 방식이라, 표본을 32에서 64, 100으로 늘리면 성능이 단조 증가하며 Pearson 상관이 0.95를 넘어서요. 반면 TMC-Shapley·Beta-Shapley·LOO는 눈에 띄게 뒤처졌어요 ^[1]. 가장 중요한 문서 하나를 골라내는 Precision@1은 대체로 0.8 위를 유지해서, 저렴한 방법으로도 핵심 근거는 잘 짚어낸다는 걸 보여줘요 ^[1].

실험 2. 가장 영향력 큰 문서를 골라내기

두 번째 실험은 '빼면 답이 가장 크게 무너지는' 상위 k개 문서를 각 방법이 얼마나 잘 찾는지를 봐요. Precision@k로 재는데, 정확한 Shapley가 기대대로 가장 높거나 근접했고, Kernel SHAP·ContextCite도 비슷하게 잘 찾았어요. 선형 모델이 가법성 공리를 지키는 덕이에요 ^[1]. 다만 모든 방법에 약간의 흠이 남았는데, 그 원인이 바로 다음 실험의 주제인 문서 간 의존성이에요.

실험 3. 문서가 얽히면 무너진다

진짜 흥미로운 지점은 문서들이 서로 관계를 맺을 때예요. 논문은 세 가지 상황을 가상 데이터로 설계했어요. 정답이 사전지식으로 새지 않도록 존재하지 않는 지명·인물로 만든 시나리오예요 ^[1].

그림 2. 문서끼리 얽히는 세 가지 방식: 중복·상보·시너지.

첫째는 중복(redundancy) 이에요. 두 문서가 사실상 같은 정보를 담아서 어느 쪽으로도 답할 수 있는 경우예요.

그림 3. 중복 시나리오. 순서를 바꿔도 앞자리 문서가 더 높은 귀속을 받는다.

여기서 위치 편향이 드러나요. 앞에 놓인 중복 문서가 일관되게 더 높은 점수를 받고, 두 문서의 순서를 바꾸면 편향도 따라 뒤집혀요. 내용이 같은데도 자리만으로 점수가 갈리는 거예요 ^[1].

둘째 상보(complementary) 는 서로 다른 조각을 하나씩 제공해 둘을 합쳐야 완전한 답이 되는 경우예요. 이 상황에서는 모든 방법이 두 문서를 잘 찾아냈어요. 다만 효용 값만으로는 중복과 상보를 구분하기 어렵다는 점이 남아요. 두 경우 모두 한 문서는 높고 다른 문서는 살짝 낮게 나오거든요 ^[1].

셋째 시너지(다단계 추론) 는 한 문서에서 사실을 끌어낸 다음 다른 문서로 답을 완성해야 하는 경우예요.

그림 4. 시너지 시나리오. 직접 답을 담은 문서만 크게 평가되고 종합에 필요한 문서는 과소평가된다.

이때 모든 방법이 직접 답을 담은 문서에 점수를 몰아주고, 답을 합성하는 데 꼭 필요한 다른 문서를 과소평가했어요. 순서를 바꿔도 같은 문서가 계속 높은 점수를 받아서 위치 탓도 아니었어요. 모든 질문에 대해 A·B 문서 점수를 정규화해 평균 내면, 답을 담은 'B'가 종합에 필요한 'A'보다 체계적으로 훨씬 높게 나와요 ^[1].

그림 5. 세 모델에서 시너지 문서 A·B의 평균 정규화 귀속 점수. 종합에 필요한 문서가 일관되게 눌린다.

이 방법의 한계

정리하면 맞춤 효용 함수를 얹으면 RAG 출처 귀속이 값싸게도 꽤 잘 작동하지만, 경계도 분명해요 ^[1].

• 비가법성: 효용(로그가능도)이 가법적이지 않아서 Shapley의 이론적 보장이 완전히는 성립하지 않아요.
• 위치 편향: 내용이 같아도 앞자리 문서가 과대평가돼요.
• 관계 혼동: 효용만으로는 중복과 상보를 구분하기 어려워요.
• 종합 과소평가: 다단계 추론에서 합성에 필요한 문서가 체계적으로 눌려요.

TRAIL 관점: 측정과 설계는 한 쌍

이 연구가 던지는 질문은 우리가 매일 다루는 문제와 닿아 있어요. AEO·GEO에서도 결국 'AI가 이 답을 만들 때 어떤 소스에 기댔나'를 알아야 하고, TRAIL Search는 바로 그 인용·출처 신호를 추적해요. 논문의 교훈은 명확해요. 귀속 점수 하나만 보면 위치 편향이나 과소평가에 속을 수 있으니, 문서 간 관계까지 함께 읽어야 해요.

콘텐츠를 인용되게 설계하는 GEO·FeatGEO 가 '무엇을 담을까'의 문제라면, 출처 귀속은 '무엇이 실제로 쓰였나'를 되짚는 반대 방향의 렌즈예요. AI가 무엇을 근거로 답했는지 제대로 알려면, 높게 매겨진 문서들 사이의 상호작용까지 해석하는 한 걸음이 더 필요해요.