3장 · 프롬프트 설계왜 프롬프트 설계가 필요한가 — 답은 하는데, 우리 상담원이 아니다시스템 프롬프트 — 역할과 규칙을 미리 알려 준다temperature와 출력 제어 — 같은 질문에 왜 답이 다른가few-shot과 단계적 추론 — 예시로 가르치고, 과정을 적게 한다따라하기 — 프롬프트 다섯 가지 비교정리와 체크리스트실습문제와 해답
3장. 프롬프트 설계
왜 프롬프트 설계가 필요한가 — 답은 하는데, 우리 상담원이 아니다
한 줄 요약
2장에서 만난 LLM은 답은 잘하지만 하루마켓 상담원이 아니었습니다. 어느 쇼핑몰인지 되묻고, 답이 길고, 말투도 정해져 있지 않았습니다. 이번 장에서는 모델에게 역할과 규칙을 글로 알려 주는 일, 곧 프롬프트 설계를 합니다.
1. 2장의 답을 다시 보면
"주문한 상품이 언제 도착하는지 어떻게 확인하나요?"에 모델은 이렇게 답했습니다.
- "네이버쇼핑, 쿠팡, 11번가, G마켓 등에 로그인합니다" — 남의 쇼핑몰 이름을 댑니다.
- "어떤 쇼핑몰에서 구매하셨는지 알려주시면" — 자기가 어디 소속인지 모릅니다.
- 출력이 407토큰 — 채팅 상담 답변으로는 지나치게 깁니다.
모델이 못나서가 아닙니다. 우리가 아무것도 알려 주지 않았기 때문입니다. 신입 상담원을 첫날 아무 교육 없이 전화 앞에 앉힌 것과 같습니다.
2. 프롬프트란
프롬프트(prompt) 는 모델에게 보내는 글 전체를 가리킵니다. 질문만이 아니라 역할, 규칙, 예시, 참고 자료가 모두 프롬프트입니다.
모델은 설정 화면도 교육 과정도 없습니다. 모델의 행동을 바꾸는 수단은 글뿐입니다. 그래서 프롬프트를 잘 쓰는 일은 부탁을 예쁘게 하는 요령이 아니라 시스템의 동작을 정하는 설계입니다.
3. 이걸 모르면 무엇을 판단하지 못하는가
- 답이 이상할 때 모델을 바꿔야 하는지, 지시를 고쳐야 하는지 가려내지 못합니다. 대부분은 지시의 문제입니다.
- 같은 질문에 답이 왜 매번 다른지, 어디까지가 정상인지 알지 못합니다.
- 비용이 왜 많이 나오는지 모릅니다. 답의 길이를 정해 주지 않으면 모델은 길게 씁니다.
4. 이번 장에서 다루는 네 가지 수단
| 수단 | 한 줄 설명 | 무엇을 고치나 |
|---|---|---|
| 시스템 프롬프트 | 모델에게 역할과 규칙을 미리 알려 준다 | 소속, 말투, 금지 사항, 답의 길이 |
| temperature | 답의 무작위성을 조절하는 숫자 | 답이 얼마나 흔들리는가 (모델에 따라 효과가 다릅니다) |
| few-shot | 원하는 답의 예시를 몇 개 보여 준다 | 답의 형식 |
| 단계적 추론(CoT) | 답하기 전에 과정을 적게 한다 | 계산·판단의 실수 |
이번 장의 산출물은 하루마켓 상담 시스템 프롬프트 HARU_SYSTEM_V1 입니다. 이 프롬프트는 과정 끝까지 계속 쓰입니다.
핵심 정리
- 아무것도 알려 주지 않은 LLM은 누구의 상담원도 아닙니다.
- 모델의 행동을 바꾸는 수단은 글(프롬프트) 뿐입니다.
- 프롬프트 설계는 요령이 아니라 동작을 정하는 설계입니다.
- 수단은 시스템 프롬프트, temperature, few-shot, 단계적 추론 네 가지입니다.