30초 핵심 요약
- 1Anthropic의 "Building Effective Agents"(2024)에 따르면, 성공적인 에이전트 시스템은 복잡한 프레임워크 대신 단순하고 조합 가능한 패턴을 사용합니다
- 2LLM 한 번 호출로 대량의 출력을 만들면: 카테고리 쏠림, 저가치 noise, 중복이 발생합니다
- 34가지 패턴(Prompt Chaining + Routing + Parallelization + Evaluator-Optimizer)을 조합하면 이 문제를 구조적으로 해결할 수 있습니다
- 4프롬프트를 잘 쓰는 것보다 워크플로우를 잘 설계하는 것이 전체 품질에 더 큰 영향을 줍니다
Agentic Workflow란 무엇인가
Agentic Workflow란, LLM이 단순히 한 번의 질문에 답하는 것을 넘어 여러 단계를 거치며 작업을 수행하는 시스템 설계 패턴입니다 1. 전통적 자동화가 사람이 모든 분기를 사전에 정의하는 방식이라면, Agentic 접근은 LLM이 일부 판단을 담당하는 하이브리드 설계입니다.
Anthropic은 이를 workflows(사전 정의된 코드 경로로 LLM을 오케스트레이션)와 agents(LLM이 동적으로 프로세스를 지시)로 구분합니다 1. 실무에서는 이 두 가지를 조합하는 경우가 많습니다.
왜 지금 주목받는가
LLM의 출력 품질이 향상되면서, "한 번 호출"로는 해결할 수 없는 복잡한 작업에 대한 수요가 커지고 있습니다. 하지만 LLM을 한 번만 호출해서 대량의 출력을 요청하면 구조적 한계가 드러납니다:
| 문제 | 원인 |
|---|---|
| 카테고리 쏠림 | LLM이 "안전한" 카테고리로 편향 |
| 저가치 noise | 산업 맥락 없이 일반적 결과 생성 |
| 중복 패턴 | 동일 의도의 표현 변형 |
핵심 패턴 5가지
Anthropic의 "Building Effective Agents"(2024)는 production 환경의 agentic 시스템을 5가지 워크플로우 패턴으로 분류합니다 1:
| 패턴 | 정의 | 적용 시점 |
|---|---|---|
| Prompt Chaining | 작업을 순차 단계로 분해. 각 단계의 출력이 다음 입력 | 복잡한 작업을 작은 단위로 분해할 때 |
| Routing | 입력을 분류하여 전문화된 후속 처리로 분기 | 입력 유형에 따라 다른 처리가 필요할 때 |
| Parallelization | 동일 입력을 여러 LLM에 동시 처리하거나 작업을 분할 병렬 실행 | 처리량/속도 최적화 또는 다양한 관점 필요 시 |
| Evaluator-Optimizer | 생성 LLM + 평가 LLM의 반복 루프 | 품질 기준이 명확하고 자동 평가 가능할 때 |
| Orchestrator-Workers | 중앙 LLM이 하위 작업을 동적으로 분배 | 작업 범위가 사전에 예측 불가능할 때 |
4패턴 조합 설계: 실전 파이프라인
실전에서는 이 중 4가지를 하나의 파이프라인에 조합하는 것이 효과적입니다. Orchestrator-Workers만 제외했는데, 처리 순서가 고정된 파이프라인에서는 동적 분배가 불필요하기 때문입니다.
[입력 데이터]
│
┌─────▼─────┐
│ Phase 0 │ Prompt Chaining: Gate
│ 전처리 │ 중복 제거 + 저가치 필터링
└─────┬─────┘
│
┌─────▼─────┐
│ Phase 1 │ Routing
│ 분류 │ 패턴 매칭 우선 → LLM fallback
└─────┬─────┘
│
┌─────▼─────┐
│ Phase 2 │ Prompt Chaining: Gate
│ 쿼터 시스템 │ 카테고리 균형 + 저가치 필터
└─────┬─────┘
│
┌─────▼─────┐
│ Phase 3 │ Parallelization + Evaluator-Optimizer
│ LLM 보충 │ 배치 병렬 + 자가검증
└─────┬─────┘
│
┌─────▼─────┐
│ Phase 4 │ Prompt Chaining: 후처리
│ 가치 정렬 │ 상업적 가치 기준 정렬
└───────────┘
Phase 0: 전처리: Prompt Chaining의 Gate
Prompt Chaining에서 각 단계 사이에 통과/차단 조건(Gate)을 두는 게 핵심입니다.
- 중복 제거: 동일한 데이터가 여러 소스에서 수집된 경우 n-gram 유사도 기반으로 통합
- 저가치 필터링: 산업 맥락과 무관한 결과 제거
이 단계가 없으면 이후 Phase에서 분류할 데이터 자체가 오염됩니다.
Phase 1: 분류: Routing 패턴
입력 데이터
│
┌────▼────┐
│ 패턴 │ 키워드/정규식 매칭 → 즉시 분류
│ 매칭 │ 비용: 0, 일관성: 100%
└────┬────┘
│ 매칭 실패 시
┌────▼────┐
│ LLM │ 컨텍스트 기반 분류
│ Fallback │ 비용: API 호출 1회
└─────────┘
입력의 대부분을 패턴 매칭으로 즉시 분류하고, 나머지만 LLM에 전달합니다. 계층적 분류 패턴에서 다룬 Many-to-One 매핑이 여기서 활용됩니다.
Phase 2: 쿼터 시스템: Prompt Chaining의 중간 Gate
- 카테고리 균형: 특정 카테고리가 과도하게 많으면 상한선 적용
- 부족 카테고리 식별: Phase 3에 보충 요청으로 전달
Phase 3: LLM 보충: Parallelization + Evaluator-Optimizer
Parallelization: 부족한 카테고리별로 LLM 호출을 병렬 처리
Evaluator-Optimizer: 각 LLM 호출에 P-E-V(Plan-Execute-Validate) 워크플로우 적용. P-E-V 워크플로우에서 다룬 Decision Tree + Validation Checklist가 품질을 보장합니다.
중복 방지: 이전 Phase에서 생성된 결과를 컨텍스트로 전달하여 중복을 원천 차단합니다.
Phase 4: 가치 정렬: Prompt Chaining의 후처리
상업적 가치 기준으로 최종 정렬합니다. GEO 관점에서 AI 인용 가능성이 높은 질문이 상위에 배치됩니다.
설계 원칙 5가지
1. Single Responsibility per Agent
각 Phase가 하나의 책임만 가져야 합니다. 전처리 Phase에서 분류까지 하면 디버깅이 어려워집니다.
2. 명확한 입출력 계약
각 Phase의 입력/출력 형식을 엄격하게 정의합니다. 이전 Phase의 출력이 다음 Phase의 입력 스키마와 일치해야 합니다.
3. Graceful Degradation
한 Phase가 실패해도 전체 파이프라인이 멈추지 않도록 설계합니다. 캐시된 데이터로 다음 단계를 진행할 수 있어야 합니다.
4. 관찰 가능성(Observability)
각 Phase의 입력/출력/소요 시간을 로깅합니다. 문제가 생겼을 때 어느 Phase에서 발생했는지 빠르게 파악할 수 있어야 합니다.
5. 비용 제어
Routing으로 LLM 호출을 최소화하는 것이 가장 효과적인 비용 제어 방법입니다. 콘텐츠 최적화에도 동일한 원칙이 적용됩니다.
결과: 단일 호출 vs 4패턴 조합
자사 파이프라인 운영 기준의 비교입니다:
| 항목 | Before (단일 LLM 호출) | After (4패턴 조합) |
|---|---|---|
| 카테고리 분포 | 상위 2개에 쏠림 | 균등 분배 |
| 저가치 noise | 혼입 | 제거 |
| 중복 | 존재 | 제거 |
| 검색 현실 반영 | LLM 생성 100% | 실제 데이터 + LLM 보충 |
| LLM 호출 비용 | 전량 LLM | 패턴 매칭 우선 활용 |
흔한 실수와 안티패턴
1. "프롬프트를 잘 쓰면 단일 호출로도 된다"
프롬프트를 아무리 정교하게 작성해도, 단일 호출 안에서 분류 균형 + noise 제거 + 중복 방지를 동시에 해결하는 것은 구조적으로 어렵습니다. Anthropic도 "가장 성공적인 구현은 단순하고 조합 가능한 패턴을 사용했다"고 강조합니다 1.
2. Orchestrator-Workers를 기본 패턴으로 선택
처리 순서가 고정된 작업에 동적 분배를 도입하면 복잡도만 증가합니다. 정적 파이프라인이 동적 에이전트보다 디버깅이 쉽고, production에서는 예측 가능성이 유연성보다 가치 있습니다.
3. Gate 없는 Prompt Chaining
Gate(통과/차단 조건) 없이 단계를 연결하면 오염된 데이터가 다음 Phase로 전파됩니다. "garbage in, garbage out"이 증폭되는 것입니다.
4. Phase 간 의존성을 무시한 병렬화
Phase 0→1→2의 순서는 중요합니다. 전처리 전에 분류를 하면 중복 데이터가 분류 결과를 왜곡합니다. 병렬화(Phase 3)는 이전 단계가 완료된 후에만 적용하세요.
How to Apply: 자신의 파이프라인에 패턴 적용하기
Step 1: 단일 호출의 실패 지점 분석
현재 LLM을 한 번 호출하고 있다면, 출력을 분석해보세요:
- 특정 카테고리에 쏠리지 않는가?
- 저가치 결과가 섞여 있지 않는가?
- 같은 의도의 변형이 반복되지 않는가?
Step 2: 가장 효과적인 패턴 1개부터 추가
- Routing (가장 먼저): 입력의 대부분을 패턴 매칭으로 처리
- Prompt Chaining (다음): 전처리/후처리 gate 추가
- Evaluator-Optimizer: P-E-V 루프로 자가 검증
- Parallelization: 처리량이 많아지면 병렬화
전체 아키텍처에서 Agentic 패턴이 차지하는 위치는 AI 콘텐츠 파이프라인 가이드를 참고하세요. 에이전트의 팩트체크 전략은 RAG 할루시네이션 방어에서 다룹니다.

