KAG: 지식을 그래프로 엮기
“오로라 프로젝트 담당자의 팀장은 어디서 일해?” RAG는 이 질문에서 넘어졌다. 답에 필요한 네 문장이 문서 곳곳에 흩어져 있고, 그중 마지막 문장은 질문과 하나도 닮지 않았기 때문이다. KAG(Knowledge-Augmented Generation, 지식 증강 생성)는 흩어진 사실을 미리 선으로 엮어 두고 그 선을 따라간다.
- 트리플과 지식 그래프가 무엇인지 예를 들어 말할 수 있다.
- 다단계 질문을 그래프 탐색 단계로 쪼갤 수 있다.
- KAG가 RAG보다 유리한 상황과 치르는 비용을 안다.
사실을 세 쌍으로 적기: 트리플
추리 드라마의 탐정은 벽에 사진을 붙이고 실로 잇는다. “A는 B의 동생”, “B는 C 회사 직원”. 이렇게 이어 두면 “A의 형이 다니는 회사는?” 같은 질문에 실을 따라가며 답할 수 있다. 사진이 개체(점), 실이 관계(선), 그 전체가 지식 그래프다.
문장 하나에서 사실 하나를 (주어, 관계, 목적어) 세 쌍으로 뽑은 것을 트리플이라 한다. 예를 들어 “김하늘은 검색팀 소속이다” → (김하늘, 소속, 검색팀). 같은 이름의 개체를 한 점으로 합치면, 서로 다른 문서에서 온 사실들이 자연스럽게 이어진다.
하늘숲 지식 그래프에서 길 찾기
아래는 하늘숲 문서에서 뽑은 트리플 10개로 만든 그래프다. 질문 조립기에서 출발점을 고르고, 따라갈 관계를 차례로 눌러 질문을 만든 뒤 ▶ 따라가기를 눌러 보자. 아래쪽에는 같은 질문을 RAG(k=3)로 검색한 결과가 함께 나온다.
질문 조립기 + 그래프 탐색
KAG의 전체 흐름
RAG와 마찬가지로 ‘미리 정리’와 ‘질문마다 처리’ 두 부분으로 나뉜다. 다른 점은 미리 정리하는 결과물이 벡터가 아니라 그래프라는 것, 그리고 질문을 쪼개서 계획한다는 것이다.
KAG를 이루는 다섯 가지 생각
KAG는 Ant Group이 2024년 공개한 프레임워크(논문 “KAG: Boosting LLMs in Professional Domains via Knowledge Augmented Generation”, 지식 그래프 엔진 OpenSPG 기반)의 이름이다. 논문은 전문 분야(예: 전자정부·의료 Q&A)에서 일반 RAG보다 다단계 질문을 잘 푼다고 보고했다. 구성 요소를 쉬운 말로 옮기면 이렇다.
| 구성 요소 | 쉬운 말로 | 하늘숲 예 |
|---|---|---|
| LLM 친화적 지식 표현 | 그래프의 점·선에 원문 설명과 요약을 함께 붙여, LLM이 읽기 좋게 저장 | (박서준) 점에 “검색팀 팀장, B동 3층 근무” 설명 |
| 상호 색인 | 그래프의 사실 ⇄ 원문 조각을 서로 가리키게 연결 | (검색팀 —팀장→ 박서준) ⇄ org.2 문장 |
| 논리식 기반 혼합 추론 | 질문을 단계로 쪼개고, 단계마다 그래프 탐색·원문 검색·계산 중 알맞은 것을 씀 | 담당자(오로라) → 소속 → 팀장 → 근무 위치 |
| 지식 정렬 | “팀장”과 “리더”, “B동”과 “B빌딩”처럼 같은 것을 같은 개념으로 맞춤 | 표기가 다른 같은 사람을 한 점으로 합치기 |
| 모델 능력 강화 | 추출·계획·답변을 잘하도록 LLM을 조정 | 트리플 뽑기 정확도 높이기 |
Microsoft의 GraphRAG도 문서에서 그래프를 만든다. 다만 주로 그래프를 주제 묶음(커뮤니티)으로 나누고 요약해 “이 문서들 전체의 주요 흐름은?” 같은 넓은 질문에 답하는 데 힘을 준다. KAG는 정확한 관계를 따라가는 논리적 다단계 추론과 전문 분야의 정확성에 더 초점을 둔다. 둘 다 ‘그래프 + 검색 + LLM’ 계열이라는 점은 같다.
KAG가 치르는 비용
강점
- 여러 단계를 이어야 하는 질문
- 질문과 단어가 겹치지 않는 사실에도 도달
- 추론 경로가 보여 검증·설명이 쉬움
- 정확한 관계가 중요한 전문 분야(법, 의료, 금융)
약점
- 그래프를 만드는 데 시간과 비용(문서마다 LLM 추출)
- 추출이 틀리면 그래프도 틀림 — 품질 관리가 필요
- 어떤 개체·관계를 쓸지 설계(스키마)가 필요
- “분위기”, “요약” 같은 느슨한 질문엔 RAG가 더 간편
문서에 “박서준은 B동 3층에서 일한다”가 없다면 그래프에도 선이 없고, KAG도 답할 수 없다. KAG는 지식을 새로 만드는 게 아니라 이미 있는 지식을 찾기 좋게 엮는 방법이다.
핵심 정리
- 트리플 = (주어, 관계, 목적어). 같은 개체를 한 점으로 합치면 지식 그래프가 된다.
- KAG는 질문을 ‘한 관계씩’ 단계로 쪼개(논리식) 그래프를 따라가고, 원문으로 근거를 확인한다.
- RAG가 ‘비슷한 글’을 찾는다면, KAG는 ‘연결된 사실’을 따라간다. 그래서 다단계 질문에 강하다.
- 대가는 그래프 구축·정렬·관리 비용이다. 관계가 중요한 전문 분야에서 그 비용이 아깝지 않다.