1장. 에이전트 요구사항과 아키텍처 설계
아키텍처 한 장으로 그리기 — 네 가지 구성요소
한 줄 요약
고객지원 에이전트 시스템은 어느 회사의 어느 제품이든 도구 · 지식 · 기억 · 오케스트레이션 네 가지 구성요소로 정리됩니다. 이 네 칸을 한 장에 그린 그림이 이 과정의 지도입니다.
1. 문의 하나가 처리되는 흐름
고객이 채팅창에 문의를 입력하면 시스템은 이 순서로 움직입니다.
- 의도 파악 — 제품 문의인가, 주문 조회인가, 환불 요청인가.
- 정보 수집 — 주문 데이터를 조회하고, 정책 문서를 찾고, 앞선 대화를 확인한다.
- 처리 판단 — 바로 답할 수 있는가, 직접 처리해도 되는가, 사람의 승인이 필요한가, 사람에게 넘겨야 하는가.
- 응답과 후속 조치 — 근거 있는 답변을 하고, 처리할 수 있는 요청은 처리하고, 그렇지 않으면 승인을 요청하거나 상담원에게 넘긴다.
이 네 단계가 곧 이 과정의 커리큘럼입니다.
2. 네 가지 구성요소
도구(Tools) — 확인하고 처리하는 손
에이전트가 실시간 데이터를 조회하거나 요청을 실제로 처리할 수 있게 해 주는 함수들입니다. LLM은 하루마켓의 주문 데이터를 모릅니다. "제 주문 어디 있어요?"에 답하려면 주문을 조회하는 도구가, "배송지 바꿔 주세요"를 들어주려면 배송지를 바꾸는 도구가 반드시 필요합니다.
- 조회 도구 — 주문 상태 조회, 상품 검색, 재고 확인, 고객 등급 확인
- 처리 도구 — 배송지 변경, 교환 접수, 환불·주문 취소 승인 요청, 상담 티켓 생성
지식(Knowledge) — 답의 근거가 되는 문서
정책 문서처럼 답의 근거가 되는 글을 검색할 수 있는 형태로 저장해 둔 것입니다. 문서 전체를 매번 모델에게 줄 수는 없으므로, 질문과 관련된 부분만 찾아 근거로 건넵니다. 이 방식을 RAG(Retrieval-Augmented Generation, 검색 증강 생성) 라고 부릅니다.
- 반품·교환·환불 정책, 하루클럽 멤버십 정책
기억(Memory) — 대화를 이어 가는 힘
대화는 질문 한 번으로 끝나지 않습니다. "그거 취소하면 환불 언제 들어와요?"의 "그거"를 이해하려면 앞선 대화를 기억해야 합니다. LLM은 이전 호출을 스스로 기억하지 않으므로, 대화 이력을 저장하고 관리하는 층이 따로 필요합니다.
- 한 대화 안에서의 기억, 대화가 길어질 때의 요약, 다음 방문에도 남는 고객 정보
오케스트레이션(Orchestration) — 지휘 체계
의도를 파악하고, 알맞은 전문 에이전트에게 일을 나눠 주고, 결과를 종합하고, 필요하면 사람의 승인을 받거나 사람에게 넘기는 지휘 체계입니다.
- 전문 에이전트 셋(주문조회, 정책안내, 요청처리), 이들을 지휘하는 Supervisor, 사람의 승인을 받는 길과 사람에게 넘기는 길
3. 한 장으로 그리면
네 구성요소를 하루마켓에 대입해 그리면 다음과 같습니다.
맨 위의 오케스트레이션이 문의를 받아 세 전문 에이전트에게 나눠 줍니다. 주문조회 에이전트는 조회 도구를, 정책안내 에이전트는 지식을, 요청처리 에이전트는 처리 도구를 씁니다. 처리 도구 칸의 "사람의 승인"은 환불·주문 취소가 지나가는 길입니다. 아래의 기억과 서빙(채팅 화면, 상담원 화면, 서버)은 세 에이전트가 함께 딛고 서는 바닥입니다.
이 그림이 이 과정의 지도입니다. 이후의 모든 장은 이 그림의 빈칸 하나씩을 실제 코드로 채우는 일입니다. 장을 진행하다가 "지금 내가 무엇을 만들고 있지?" 싶을 때는 이 그림으로 돌아오면 됩니다.
4. 순서가 중요한 이유
지금까지 한 일을 정리하면 이렇습니다.
- 문의 로그가 무엇부터 만들지를 정해 주었습니다.
- 질문 12개와 유형별 처리 범위가 어디까지 만들지를 정해 주었습니다.
- 성공 지표가 잘 만들었는지 판단할 기준을 정해 주었습니다.
- 아키텍처 그림이 어떤 구조로 만들지를 정해 주었습니다.
코드는 아직 한 줄도 없지만 "무엇을 왜 만드는가"에 대한 답은 전부 나왔습니다. 이 순서를 건너뛰고 코드부터 시작한 에이전트 프로젝트는 대개 신기한 시연에서 멈추고 서비스가 되지 못합니다.
핵심 정리
- 고객지원 에이전트 시스템은 도구 · 지식 · 기억 · 오케스트레이션 네 구성요소로 이루어집니다.
- 도구는 실시간 데이터를 조회하고 요청을 처리하고, 지식은 문서에서 근거를 찾고(RAG), 기억은 대화를 이어 주고, 오케스트레이션은 전문 에이전트를 지휘합니다.
- 아키텍처 그림은 이 과정의 지도이고, 각 장은 그 빈칸 하나를 채웁니다.
- 순서는 데이터로 범위를 정하고 → 기준을 정하고 → 구조를 그린 뒤 → 구현입니다.