LLM이 답하지 못하는 세 가지 질문
한 줄 요약
ChatGPT나 Gemini 같은 LLM(대규모 언어 모델) 은 일반 지식은 잘 답하지만, 우리 회사 데이터·최신 정보·사내 문서는 모릅니다. 이 과정에서는 이 세 가지 빈틈을 하나씩 메웁니다.
1. LLM은 무엇인가 — 딱 한 문단만
LLM(Large Language Model, 대규모 언어 모델) 은 엄청난 양의 글을 읽고 "다음에 올 말"을 예측하도록 훈련된 프로그램입니다. "대한민국의 수도는" 다음에 "서울"이 올 확률이 높다는 걸 배운 것이죠. 이 단순한 원리를 아주 크게 키우면 번역·요약·코드 작성까지 됩니다.
여기서 두 가지 특징을 알 수 있습니다.
- 읽은 내용만 안다. 훈련에 쓰인 글에 없던 내용은 모릅니다.
- 모른다고 말하기보다 그럴듯한 말을 만든다. "다음에 올 말"을 예측하는 것이 본업이라, 모르는 것도 문장으로는 술술 나옵니다.
두 번째를 환각(hallucination) 이라고 부릅니다. 이 과정 내내 반복해서 마주칠 단어입니다.
2. 질문 세 개를 던져 봅니다
승승장구몰 담당자가 실제로 궁금해할 만한 질문 세 개입니다. 다음 절부터 환경을 갖추고 나면, 1장 마지막 실습에서 직접 던져 보고 이 답을 눈으로 확인하게 됩니다.
질문 ① — 사내 데이터
"승승장구몰 주문 O001203은 지금 어떤 상태인가요?"
LLM의 답:
정직하게 모른다고 합니다. 당연합니다. 우리 회사 주문 데이터베이스를 본 적이 없으니까요.
→ 3장에서 해결합니다. LLM에게 "주문번호를 넣으면 주문 정보를 돌려주는 함수"를 쥐여 줍니다.
질문 ② — 최신 정보
"요즘 스마트워치 시장에서 어떤 기능이 가장 주목받나요?"
LLM의 답:
술술 답합니다. 그런데 이 "요즘"은 모델이 훈련을 끝낸 시점의 요즘입니다. 지난달에 나온 제품은 모릅니다. 답이 그럴듯해서 오히려 위험합니다 — 틀렸는지 알 수가 없으니까요.
→ 4장에서 해결합니다. 검색 도구를 쥐여 주고 직접 찾아보게 합니다.
질문 ③ — 사내 문서
"승승장구몰에서 불량 상품 반품은 며칠 이내에 신청해야 하나요?"
LLM의 답:
이게 가장 위험한 답입니다. 승승장구몰의 실제 규정은 "수령일로부터 30일 이내" 입니다. 그런데 LLM은 일반적인 전자상거래법을 끌어와 "3개월 이내 또는 30일 이내" 라고 답했습니다.
- 모른다고 하지 않았습니다.
- 아주 그럴듯합니다. 법 조항까지 인용합니다.
- 그리고 우리 회사 규정과 다릅니다.
상담원이 이 답을 믿고 고객에게 "3개월 이내면 됩니다"라고 안내하면 사고가 납니다.
→ 6장에서 해결합니다. 사내 PDF를 검색해서 그 문서에 적힌 것만 근거로 답하게 만듭니다.
3. 정리하면 — 이 과정의 지도
| 빈틈 | 증상 | 해결 | 장 |
|---|---|---|---|
| 사내 데이터를 모른다 | "접근할 수 없습니다" | 함수를 도구로 쥐여 준다 | 3장 |
| 최신 정보를 모른다 | 옛날 정보를 요즘 것처럼 답한다 | 웹검색 도구를 쥐여 준다 | 4장 |
| 사내 문서를 모른다 | 일반 지식으로 지어낸다 | 문서를 검색해 근거로 쓴다 | 6장 |
"돌아가는데 왜 이걸 알아야 하나요?"
ChatGPT에 회사 자료를 복사해 붙여 넣으면 답은 나옵니다. 문제는 매번 사람이 붙여 넣어야 한다는 것입니다. 고객 문의가 하루 200건이면 200번 붙여 넣을 수 없습니다. 이 과정에서 만드는 것은 붙여 넣는 일을 프로그램이 알아서 하게 만드는 것입니다. 그게 "에이전트"라는 단어가 뜻하는 전부입니다.
4. 에이전트란 무엇인가 — 한 문장 정의
에이전트(agent) 는 LLM에게 도구(tool) 를 쥐여 주고, 필요할 때 스스로 그 도구를 쓰게 만든 프로그램입니다.
여기서 도구는 그냥 파이썬 함수입니다. 특별한 게 아닙니다. 3장에서 첫 도구를 만들어 보면 "이게 전부야?" 싶을 겁니다. 정말 그게 전부입니다.
에이전트가 굴러가려면 네 가지가 필요합니다. 지금은 이름만 봐 두세요.
| 요소 | 무엇인가 | 배우는 장 |
|---|---|---|
| LLM | 판단하는 두뇌 | 1~2장 |
| 도구 | 두뇌가 부릴 손발 (파이썬 함수) | 3~6장 |
| 기억 | 앞에서 무슨 말을 했는지 | 2·7장 |
| 루프 | 도구를 쓰고 결과를 보고 다시 판단하는 반복 | 4~5장 |
넷은 나란히 놓인 부품이 아닙니다. 앞의 셋을 루프가 돌립니다. 그림으로 보면 이렇습니다.
도구 결과가 다시 기억으로 되돌아가 또 한 바퀴 도는 것 — 그 되돌아옴이 루프(4~5장) 입니다.
이 그림 한 장이 이 과정의 지도입니다. 3장에서는 도구 실행 상자를 만들고, 4장에서 되돌아오는 화살표를 손으로 짜고, 7장에서 기억 상자를 라이브러리에 맡깁니다.
핵심 정리
- LLM은 읽은 것 안에서만 압니다. 사내 데이터·최신 정보·사내 문서는 읽은 적이 없습니다.
- 모를 때 모른다고 하지 않고 그럴듯하게 지어내는 것을 환각이라고 합니다. 반품 기간 질문이 그 예입니다.
- 이 세 빈틈을 각각 3장(사내 데이터) · 4장(최신 정보) · 6장(사내 문서) 에서 해결합니다.
- 에이전트란 LLM에게 도구를 쥐여 주고 스스로 쓰게 만든 것이고, 도구는 그냥 파이썬 함수입니다.
- 이제 다음 절부터 실습 환경을 만듭니다. 설치는 딱 한 번만 하면 8장 내내 씁니다.