Interactive textbook · 처음 배우는 사람용

LLM에게 지식을
어떻게 건네줄까?

ChatGPT나 Claude 같은 LLM은 똑똑하지만 우리 회사 규정은 모른다. 모르는 걸 알려 주는 방법이 RAG, CAG, KAG이고, 답을 글 대신 결정으로 받는 방법이 Jev다. 어려운 수식 없이, 흐름을 한 단계씩 눌러 보며 익힌다.

네 가지 방식, 한 줄씩
RAG찾아서 읽고 답하기질문마다 관련 페이지를 찾아 펼쳐 주는 사서. 자료가 크고 자주 바뀔 때.
CAG미리 다 읽어 두기시험 전에 얇은 교재를 통째로 외워 둔 학생. 자료가 작고 잘 안 바뀔 때.
KAG엮어 두고 따라가기인물 관계도를 그려 두고 선을 따라가는 탐정. 여러 단계를 이어야 할 때.
Jev글 대신 결정하기서술형 대신 OMR 카드에 확률을 표시하는 채점기. 프로그램이 분기할 때.

30초 요약: 이럴 땐 이것

바쁘면 아래 한 장 인포그래픽만 보자. 같은 행이 세 방식에서 동시에 빛나며 위에서 아래로 내려간다. 화면을 탭하면 다음 단계로 넘어가고, 영상 아래 GIF ↓로 메신저에 바로 붙일 수 있는 파일을 받는다. 그 아래에는 방식별 숏폼과, 누르면 해당 장으로 가는 카드가 있다.

방식별 30초 숏폼
RAG찾아서 읽기
이럴 때: 자료가 크고 자주 바뀐다
문서 조각관련 k개 검색덧붙여 답

질문마다 관련 조각만 골라 LLM에게 건넨다. 출처를 보여주기 쉽다. 단, 검색이 놓치면 답도 없다.

CAG미리 다 읽기
이럴 때: 자료가 작고 잘 안 바뀐다
전부 한 번 읽기KV 캐시 저장검색 없이 답

자료 전체를 창에 넣고 ‘읽은 상태’를 저장해 재사용한다. 빠르고 검색 실수가 없다. 단, 창에 들어가야 한다.

KAG엮어서 따라가기
이럴 때: 사실이 연결되고 질문이 복잡하다
지식 그래프한 칸씩 탐색경로와 답

문서를 (누가, 관계, 누구)로 엮고, 질문을 단계로 쪼개 선을 따라간다. 답의 근거 경로가 보인다. 단, 그래프 구축 비용이 크다.

Jev글 대신 결정
이럴 때: 프로그램이 분기할 결정이 필요하다
상황 + 선택지선택지별 확률기준 넘으면 자동

글을 쓰지 않고 정해 준 선택지마다 확률을 준다. 위 세 방식이 모은 재료 위에서 ‘결정’ 단계를 맡는다.

빠른 판단 규칙

자료가 계속 바뀐다, 또는 창보다 크다→RAG
자료가 고정이고 창에 들어간다→CAG
사실이 서로 연결되고 여러 단계를 이어야 한다→KAG
답이 글이 아니라 ‘선택·점수’여야 한다→+ Jev
내 상황을 고르면 점수와 이유를 보여주는 마법사는 8장에 있다.

같은 회사 자료, 네 가지 방식

위의 탭으로 방식을 고르고 다음 단계 →를 눌러 보자. 질문 칩을 바꾸면 각 단계에 표시되는 실제 데이터(검색 결과, 프롬프트, 그래프 경로, 확률)도 바뀐다. ▶ 자동 재생을 켜 두고 지켜봐도 된다.

먼저 해 볼 것

RAG 탭에서 마지막 질문 “오로라 프로젝트 담당자의 팀장은 어디서 일해?”를 골라 ⑦~⑩단계를 보자. 검색이 정답 문장을 놓친다. 그다음 KAG 탭에서 같은 질문이 어떻게 풀리는지 비교해 보면, 이 책 전체의 이야기가 한눈에 들어온다.

이 책의 예제: 가상 회사 ‘하늘숲’

모든 장이 같은 사내 문서 7개를 쓴다. 같은 자료를 두고 방식만 바꾸면 차이가 잘 보이기 때문이다. 회사와 사람 이름은 모두 지어낸 것이다.

한눈에 비교

처음엔 외우지 말고 훑어보기만 하자. 각 장을 읽고 돌아오면 칸마다 ‘왜’가 채워진다. 자세한 비교와 선택 마법사는 8장에 있다.

RAGCAGKAGJev
핵심 질문무엇을 찾아 읽힐까무엇을 미리 다 읽힐까지식을 어떻게 엮어 둘까답을 어떤 모양으로 받을까
질문할 때 하는 일검색 → 조각 k개 덧붙임저장된 캐시 + 질문질문 쪼개기 → 그래프 탐색선택지마다 확률 계산
잘 맞는 자료크고 자주 바뀌는 문서창에 들어가는 작고 고정된 문서관계가 많은 전문 분야(재료는 부르는 쪽이 준비)
강점확장성, 출처 제시검색 실수 없음, 빠른 응답다단계 추론, 설명 가능빠름, 형식 보장, 확률
약점검색이 놓치면 끝창 크기·메모리 한계, 갱신 비용그래프 구축·관리 비용글을 못 씀, 선택지 밖 불가
출력글 (생성)확률·선택 (결정)

학습 경로

기초 → 세 가지 ‘건네는 법’ → 결정 모델 → 선택. 시간이 없으면 1 → 3 → 5 → 6 → 8장만 읽어도 큰 그림은 잡힌다.

기초LLM이 모르는 것, 임베딩 (01–02)
찾아 읽기RAG의 흐름과 튜닝 (03–04)
미리 읽기CAG와 KV 캐시 (05)
엮어 읽기KAG와 지식 그래프 (06)
결정하기Jev와 확률 출력 (07)
고르기비교·조합·종합 퀴즈 (08–09)

목차

모든 장에 비유, 흐름 애니메이션 또는 실험, 핵심 정리, 퀴즈가 들어 있다.