
LLM 추천 시스템의 콜드 스타트를 지식그래프 RAG로 푼다
사용자를 모를수록 더 깊이 검색하는 MixRAGRec(KDD 2026): 질문마다 검색량을 고르는 다중 에이전트 추천
LLM 추천 시스템이 질문마다 지식그래프 검색량을 스스로 고르게 한 KDD 2026 연구를 정리했다. 콜드 스타트 정확도가 0.39에서 0.50으로 올랐고, 응답 시간은 절반 이하로 줄었다.
LLM 추천 시스템은 사용자를 모를수록 지식그래프를 더 깊이 검색해야 취향을 맞힌다. 홍콩이공대 연구진이 KDD 2026에 낸 MixRAGRec은 질의마다 검색 깊이를 4단계 중 하나로 고르게 했는데, 콜드 스타트 설정에서 깊은 그래프 검색을 고른 비율이 96.6%였고 정확도는 0.501로 기존 지식그래프 RAG 방식(0.392)보다 높았다(원문 부록 E)[1]. 일반 설정에서는 검색을 아끼면서 응답 시간을 절반 아래로 줄였다.
근거는 홍콩이공대와 싱가포르국립대 연구진 7명이 쓴 MixRAGRec 논문이다[1]. 2026년 8월 제주에서 열리는 KDD 2026 채택 논문이고, 코드는 공개돼 있다[2]. 우리는 결과를 직접 재현하지 않았고, 수치는 2026년 11월 기준 arXiv v2 원문에서 옮겼다. 영화·음악 공개 데이터로 한 오프라인 평가라, 실제 서비스에서의 효과와는 구분해 읽어야 한다.
우리는 AI 검색과 AI 추천에 브랜드가 얼마나 오르는지 재는 제품을 만들고 있어, AI가 무엇을 근거로 추천하는지에 이해관계가 있다. AI 검색이 이름은 알아도 신제품은 추천하지 않는다는 연구가 바깥에서 본 콜드 스타트였다면, 이 논문은 추천 시스템 안에서 콜드 스타트를 푸는 방법을 다룬다. 에이전트가 검색이 필요한지 미리 안다는 연구와 RAG 답변을 생성 뒤에 검증하는 연구에 이어, "얼마나 찾아볼지"를 정하는 세 번째 사례이기도 하다.
LLM 추천은 왜 없는 상품을 추천하나
LLM은 사용자의 기록과 상품 설명을 읽고 취향을 추론할 수 있어 추천에 쓰이기 시작했다. 문제는 학습 시점의 지식에 갇힌다는 점이다. 논문은 "매트릭스" 팬에게 존재하지 않는 속편 "매트릭스 5"를 추천하는 예를 들고, 학습 데이터 이후에 나온 신작은 아예 추천하지 못한다고 지적한다(원문 1절)[1]. 추천 시스템의 오랜 난제인 콜드 스타트(기록이 거의 없는 신규 사용자와 신규 상품)도 LLM 시대에 모양을 바꿔 남아 있다는 것이 2025년 서베이의 정리다[3].
그래서 외부 지식그래프를 검색해 LLM에 근거로 넣는 지식그래프 RAG가 나왔다. "터미네이터 → 감독 → 제임스 캐머런" 같은 관계를 붙여 주면 LLM이 지어내는 대신 사실을 보고 고른다. 이 논문의 1저자가 ACL 2025에 낸 K-RagRec이 대표적인 앞선 방식이다[1].
지식그래프 RAG 추천 시스템은 검색량이 하나로 고정돼 있었다
기존 지식그래프 RAG 추천은 모든 질의에 같은 깊이로 검색한다. 저자들은 여기서 생기는 문제를 둘로 나눈다. 취향이 뚜렷한 사용자에게는 불필요한 관계가 붙어 잡음과 비용이 늘고(과검색), 취향이 애매한 사용자에게는 여러 단계 떨어진 관계가 빠져 근거가 모자란다(과소검색)(원문 1절·그림 1)[1]. 그래프를 LLM이 읽는 평문으로 옮길 때 구조 정보가 사라지고 잡음이 끼는 문제도 있다. 게다가 어떤 깊이가 맞았는지는 최종 추천이 맞았는지로만 알 수 있어, 검색 깊이를 직접 학습시킬 정답이 없다.
RAG 검색량을 질문마다 다르게 조절하는 방법
MixRAGRec은 검색 깊이가 다른 전문가 4명을 두고, 라우터가 질의마다 한 명을 고르게 한다(원문 3.3절)[1].
| 전문가 | 검색 방식 | 언제 쓰나 |
|---|---|---|
| E1 | 검색하지 않음 | 시청 기록만으로 취향이 분명할 때 |
| E2 | 질의와 가까운 관계 몇 개 | 사실 몇 줄이면 정답이 갈릴 때 |
| E3 | 가까운 개체에서 몇 단계 이웃까지 | 여러 관계를 묶어 봐야 할 때 |
| E4 | 개인화 PageRank로 고른 개체를 최소 비용으로 잇는 연결 그래프 | 전체 맥락이 필요할 때 |
표 1. 검색 깊이가 다른 전문가 4명. 출처: Wang 외 2026, 3.3절·그림 3[1].
지식그래프는 영화·음악 데이터에 맞춰 DBpedia에서 만들었다. 개체와 관계를 모두 같은 문장 임베딩 공간에 넣어 두고, 질의 임베딩과의 유사도로 검색한다. E4는 질의와 의미가 가까운 관계일수록 싸게 매긴 간선 비용으로 최소 신장 트리를 만든다.
여기서 는 질의 임베딩, 는 간선 가 나타내는 관계(감독, 장르 같은)의 임베딩이다. 질의와 상관없는 관계는 비용이 커서 트리에서 빠진다.
그래프를 문장으로 옮기고, 헷갈리는 오답과 대조해 고른다
검색된 관계는 템플릿으로 한 번 평문화한 뒤, 정렬 에이전트가 추천에 쓸모 있는 내용만 남겨 짧은 문장으로 다시 쓴다. 예컨대 가족 영화 세 편이 묶인 그래프를 "가족 대상, 가벼운 모험과 슬랩스틱이라는 공통점" 같은 설명으로 바꾼다(원문 3.4절·표 10)[1]. 추천 에이전트는 이 설명과 시청 기록을 보고 후보 중 하나를 고르는데, 정답과 가장 헷갈리는 오답 10개를 골라 정답 확률이 더 높아지도록 대조 학습한다.
세 에이전트를 한 보상으로 학습한다
라우터, 정렬 에이전트, 추천 에이전트는 따로 학습하지 않고 하나의 보상을 나눠 갖는다. 저자들은 이 방식을 MMAPO라고 부른다(원문 3.6절)[1].
여기서 은 추천이 맞으면 그 추천에 둔 확신도, 틀리면 -0.1이다. 는 고른 전문가의 검색 결과를 넣었을 때의 추천 분포, 는 검색 없이(E1) 추천한 분포이고, 둘의 KL 발산이 검색으로 얻은 정보량이다. 는 검색이 깊을수록 커지는 비용이고, 실험에서는 , 를 썼다. 검색이 추천을 충분히 바꿀 때만 비싼 검색을 하라는 뜻이다.
실험 설정
데이터는 MovieLens-1M(사용자 6,040명, 영화 3,883편), MovieLens-20M, 음악 데이터 LastFM-1K 세 가지다(원문 표 1)[1]. 각 사용자의 가장 최근 시청 작품을 정답으로 두고, 그 직전 10편을 기록으로 준 뒤, 정답과 방해 후보 19편을 섞은 20편 중에서 고르게 했다. 백본은 LLaMA3-8B와 Mistral-7B이고, 비교 대상은 GPT-4o 같은 범용 LLM의 직접 추천, 추천용으로 미세조정한 TallRec·Rec-r1, 지식그래프 RAG 방식 KG-Text·KAPING·G-retriever·K-RagRec이다.
정확도와 응답 시간이 둘 다 나아졌다
MixRAGRec은 세 데이터 모두에서 가장 높은 정확도를 냈고, LLaMA3-8B 기준 최선 기준선 대비 개선 폭은 5.8%에서 20.4%였다(원문 표 2)[1]. 범용 LLM을 그대로 쓰면 GPT-4o도 MovieLens-1M 정확도 0.420에 그쳤다. 지식그래프를 평문으로 그냥 붙인 KG-Text(0.234)는 오히려 추천용 미세조정 모델보다 낮았는데, 그래프 구조를 살리는 방식이 중요하다는 근거다.
| 방법 | MovieLens-1M | MovieLens-20M | LastFM-1K |
|---|---|---|---|
| GPT-4o 직접 추천 | 0.420 | 0.524 | 0.685 |
| TallRec | 0.391 | 0.521 | 0.699 |
| Rec-r1 | 0.402 | 0.594 | 0.872 |
| K-RagRec | 0.454 | 0.578 | 0.845 |
| MixRAGRec | 0.504 | 0.676 | 0.934 |
표 2. 후보 20편 중 정답을 고른 정확도(GPT-4o 외 백본 LLaMA3-8B). 출처: Wang 외 2026, 표 2[1].
응답 시간은 1.56초로 K-RagRec(3.78초)의 절반 아래였다. 전문가 하나만 고정해 쓰면 검색이 깊어질수록 정확도와 시간이 함께 올라 E4가 0.499에 2.27초였는데, MixRAGRec은 그보다 높은 0.504를 내면서 검색 시간은 가장 얕은 E2 수준(0.063초)에 머물렀다(원문 표 3)[1]. 라우터가 비싼 검색을 필요한 질의에만 쓴 결과다. 구성 요소를 하나씩 뺀 실험에서는 정렬 에이전트를 뺐을 때 성능이 가장 크게 떨어졌다.
LLM 추천 시스템 콜드 스타트 해결 방법: 모를수록 깊게 찾는다
콜드 스타트 설정에서도 MixRAGRec이 가장 높았다. 정확도 0.501, Recall@3 0.778로, K-RagRec(0.392, 0.706)과 G-retriever(0.356, 0.641)를 앞섰고, 검색 없이 LLaMA3-8B만 쓰면 0.083에 그쳤다(원문 부록 E·표 6)[1].
더 눈에 띄는 것은 라우터의 선택이다. 콜드 스타트에서는 이웃 그래프(E3)를 37.9%, 연결 그래프(E4)를 58.7% 골라, 깊은 검색이 96.6%를 차지했다. 평소 음악 데이터에서는 E1·E2·E3를 30.2%, 28.6%, 28.2%로 고루 쓰고 E4는 13.0%에 그쳤다(원문 부록 D·E)[1]. 사용자를 잘 알면 찾지 않고, 모를수록 감독·장르·주제 같은 세상 지식을 깊게 끌어와 "왜 그걸 좋아했는지"를 추론하는 행태다. AI 추천에 가게가 안 나오는 이유를 문서화에서 찾은 연구와 함께 보면, 추천의 재료가 결국 구조화된 관계라는 점이 겹친다.
AI 에이전트 개인화 추천에 이 결과를 겹쳐 보면
이 대목부터는 우리 해석이다. 이 논문은 사용자가 묻기 전에 먼저 제안하는 적극적인 에이전트를 다루지 않는다. 기록을 받으면 다음 작품을 고르는 수동형 설정이고, 다중 에이전트는 내부 모듈 세 개를 뜻한다. 대신 개인화 에이전트에 필요한 앞 단계, 즉 사용자에 대해 얼마나 더 찾아볼지를 비용과 견줘 스스로 정하는 능력을 보여 준다. AI 검색이 노출을 넘어 추천과 실행의 경로로 옮겨 간다는 흐름에서 보면, 이 판단이 에이전트 추천의 품질과 비용을 함께 가른다.
브랜드 쪽 함의도 있다. 이 시스템이 끌어오는 근거는 DBpedia의 감독·장르·출연 같은 관계다. AI 쇼핑 에이전트가 상품을 추천할 때도 비슷한 구조라면, 브랜드와 상품의 관계(카테고리, 용도, 성분, 대체재)가 구조화된 형태로 공개돼 있을수록 깊은 검색에서 근거로 걸릴 여지가 커진다. 이 연구는 상용 쇼핑 에이전트를 다루지 않으므로 구조가 같다는 가정 위의 추론이다. AI 챗봇의 제품 추천이 도구마다 다른지 잰 글처럼, 실제로는 엔진별로 재서 확인해야 한다.
이 연구가 못 본 것
가장 큰 빈칸은 콜드 스타트의 정의다. 부록 E는 콜드 스타트 표본을 어떻게 나눴는지(기록이 몇 편 이하인 사용자인지, 학습에 없던 작품인지) 밝히지 않아, 콜드 스타트 수치는 가장 조심해서 읽어야 한다. 평가도 정답 1편과 방해 후보 19편 중 고르는 오프라인 설정이라, 수만 편 중에서 추천하는 실제 서비스와는 난이도가 다르다.
데이터와 사용자 정보도 제한적이다. MovieLens와 LastFM은 오래된 공개 데이터이고, MovieLens-1M 영화 3,883편 중 지식그래프에 연결된 것은 3,253편이다. 프롬프트에 들어가는 사용자 정보는 최근 10편 기록과 "일반 사용자"라는 표시뿐이다. 백본도 8B 이하 오픈 모델 두 개로 한정된다.
실무에서는 검색 깊이를 고정하지 말고 고르게
LLM 추천이나 RAG를 만드는 쪽에 남는 교훈은 단순하다. 검색 깊이를 하나로 고정하지 말고 여러 단계를 두되, 검색이 결과를 얼마나 바꾸는지를 비용과 함께 보상에 넣어 고르게 한다. 그래프를 LLM에 넣을 때는 평문으로 그냥 붙이지 말고 추천에 쓸모 있는 내용만 남기는 변환 단계를 따로 둔다. 기록이 적은 사용자일수록 외부 지식을 깊게 쓰는 경향이 실제 데이터에서도 나오는지가, 이 구조를 서비스에 옮길 때 먼저 확인할 지점이다.
자주 묻는 질문
LLM 추천 시스템의 콜드 스타트는 어떻게 해결하나?
상호작용 기록이 부족한 사용자나 상품은 기록 대신 외부 지식으로 취향을 추론한다. 이 연구는 감독·장르·출연 같은 관계를 담은 지식그래프를 검색해 LLM에 근거로 넣었고, 콜드 스타트 설정에서 정확도가 0.501로 기존 지식그래프 RAG 방식(0.392)보다 높았다. 다만 논문은 콜드 스타트 표본을 어떻게 나눴는지 밝히지 않았다.
지식그래프 RAG 추천 시스템은 일반 RAG와 무엇이 다른가?
문서 조각 대신 '터미네이터의 감독은 제임스 캐머런' 같은 관계 단위로 검색한다. 그래서 여러 단계 떨어진 관계를 따라가며 취향의 이유를 찾을 수 있지만, 그래프를 문장으로 옮기는 과정에서 잡음이 생긴다. 이 연구는 그 변환을 따로 학습한 에이전트에 맡겼고, 이 에이전트를 빼면 성능이 가장 크게 떨어졌다.
RAG 검색량을 질문마다 다르게 조절하려면 어떻게 하나?
검색 깊이가 다른 선택지를 여러 개 두고, 라우터가 질문마다 하나를 고르게 한다. 이 연구는 검색 안 함부터 연결 그래프 검색까지 4단계를 두고, 검색으로 얻은 정보량에서 비용을 뺀 값을 보상에 넣어 학습했다. 그 결과 응답 시간이 1.56초로 직전 최고 방식(3.78초)의 절반 아래였다.
이 방식이 먼저 말을 거는 적극적인 AI 에이전트 추천인가?
아니다. 사용자의 최근 시청 기록 10편을 받으면 후보 20편 중 다음 작품을 고르는 수동형 설정이고, 다중 에이전트는 내부 모듈 세 개를 뜻한다. 이 연구가 보여 주는 것은 사용자에 대해 얼마나 더 찾아볼지를 시스템이 스스로 정하는 능력이다.
참고자료
- [1]Shijie Wang, Chengyi Liu, Yujuan Ding, Shanru Lin, See-Kiong Ng, Xu Xin, Wenqi Fan, "Mixture-of-Experts Knowledge Graph Retrieval-Augmented Generation for Multi-Agent LLM-based Recommendation", KDD 2026, arXiv:2605.28175v2
- [2]MixRAGRec 코드 (Sjay-Wang/MixRAGRec)
- [3]Weizhi Zhang 외, "Cold-Start Recommendation towards the Era of Large Language Models (LLMs): A Comprehensive Survey and Roadmap", arXiv:2501.01945, 2025
요약
- LLM에 추천을 맡기면 학습 시점 지식에 갇혀 신작을 모르거나 없는 작품을 지어내고, 지식그래프 RAG는 이를 막지만 모든 질의에 같은 양을 검색했다.
- MixRAGRec은 검색 안 함부터 연결 그래프까지 4단계 검색 전문가를 두고 라우터가 질의마다 하나를 고르게 했으며, 정렬 에이전트와 추천 에이전트를 한 보상으로 함께 학습했다.
- MovieLens-1M 정확도가 0.504로 직전 최고(0.454)보다 높았고 응답 시간은 1.56초로 절반 아래였다.
- 콜드 스타트 설정에서는 정확도 0.501로 기존 방식(0.392)을 앞섰고, 라우터가 깊은 그래프 검색을 고른 비율이 96.6%였다. 사용자를 모를수록 세상 지식을 깊게 끌어와 취향을 추론한다.
- 콜드 스타트 표본 정의가 없고, 오래된 공개 데이터로 후보 20편 중 고르는 오프라인 평가라 실제 서비스 효과는 따로 확인해야 한다.
이 글의 주제를 우리 브랜드로 확인해 보세요
고객의 한국어 질문에 ChatGPT·Perplexity가 어떻게 답하는지 측정하고 빠진 자리를 찾아 고치는 TRAIL Search가 이 글의 내용을 진단으로 이어 줍니다. 카드 없이 질문 10개로 시작합니다.
다른 글

지역 실험으로 마케팅 믹스 모델 보정하는 법: ROAS 숫자 하나 대신 시계열 전체를 쓴다
지역 실험으로 마케팅 믹스 모델을 보정할 때 ROAS 숫자 하나만 쓰면 이월과 포화 정보가 버려진다. 처치·대조 차분식으로 세 파라미터를 추정해 MMM의 ROAS 과대추정을 바로잡은 2026년 논문을 원문 수치로 정리했다.

RAG 성능은 검색 최적화보다 답변 검증에서 더 오른다
RAG 기능 4종의 16개 조합을 768개 응답으로 비교한 실험에서, 생성한 답의 빠진 측면을 확인하는 완결성 검사 하나가 검색 기능 세 개를 함께 켠 구성보다 품질이 높았다. 지연은 두 배가 됐다.

AI 에이전트는 언제 웹 검색을 할지 이미 알고 있다
LLM 에이전트는 웹 검색 같은 도구가 필요한지를 답을 쓰기 전 은닉 상태에 이미 담고 있다(AUROC 0.89에서 0.96). 이 신호로 도구 호출을 48% 줄인 UCSD 연구를 정리했다.
같은 주제로 이어 읽기
- 생성형 검색은 전통 검색과 다른 사이트를 인용한다구글 검색, AI 오버뷰, 제미나이가 같은 질문에 인용하는 출처는 평균 18%만 겹쳤다. AI 오버뷰는 실제 질문의 51.5%에 뜨고, AI 크롤러를 막은 매체는 인용에서 밀려난다. SIGIR 2026 연구를 정리했다.
- AI 검색은 이름은 알아도 신제품은 추천하지 않는다AI는 이름을 물으면 제품을 99% 알아보지만 '좋은 신제품 추천해줘'에는 3%만 등장한다. Product Hunt 스타트업 112개를 2,240개 질문으로 잰 2025년 연구를 읽고, GEO 점수가 왜 신제품 노출을 못 높였는지 정리했다.
- GEO 효과를 매출로 재는 법: AI 답변 노출을 마케팅 믹스 모델에 넣기GEO가 매출에 준 효과를 재려면 AI 답변의 브랜드 등장 확률을 질문 수, 엔진 점유율, 인지 확률과 곱해 시장별 노출로 바꾼 뒤 MMM에 넣어야 한다. 2026년 GMMM 논문을 원문 수치로 정리했다.
이 글은 Papers 카테고리에 속해요. 같은 카테고리 글 44편을 한자리에서 볼 수 있어요. Papers 카테고리 글 전체 보기