DAG 워크플로우 실행
Workflow Orchestration 상세 플로우
DAG 실행 전체 파이프라인
워크플로우는 다양한 트리거로 시작되며, DAG 스케줄러가 의존성을 분석하고 최적의 실행 계획을 생성합니다. 실행 엔진은 태스크를 병렬 또는 순차적으로 처리하고, 실패 시 자동 재시도합니다.
DAG 구조 예시: 이상 감지 워크플로우
데이터 수집 단계에서는 여러 소스를 병렬로 조회하고, 분석 단계에서는 순차 처리, 알림 단계에서는 다시 병렬로 전송합니다.
DAG 실행 시퀀스
안정성 보장 전략
1. 트리거 충돌 방지
| 문제 | 해결 |
|---|---|
| 동일 이벤트 중복 트리거 | 실행 ID 기반 멱등성 보장 |
| 경쟁 상태 | 분산 락 |
| 리소스 낭비 | 디바운싱 |
2. 의존성 최적화
- 위상 정렬: 실행 순서 자동 결정
- 병렬 노드 식별: 독립 태스크를 동시 실행
- 임계 경로 분석: 가장 긴 경로를 우선 실행
3. 외부 서비스 장애 대응
서킷 브레이커 패턴을 적용하여 외부 API 장애가 전체 시스템에 영향을 미치지 않도록 보호합니다:
- Closed → 정상 요청 처리
- Open → 연속 실패 시 요청 차단, Fallback 응답
- Half-Open → 일정 시간 후 테스트 요청으로 복구 확인
실행 최적화 비교
병렬 실행을 통해 의존성이 없는 태스크를 동시 처리하여 전체 워크플로우 실행 시간을 대폭 단축합니다.
관련 문서:
Workflow Lifecycle
- ⭐ Workflow Lifecycle - Process Mining → DAG 생성 → 실행 → 자가개선 전체 Closed-Loop
- Process Mining - 프로세스 발견 및 DAG 생성