LegoDiffusion: 텍스트-이미지 확산 워크플로우의 마이크로 서비스 아키텍처

LegoDiffusion: Micro-Serving Text-to-Image Diffusion Workflows

텍스트-이미지 생성은 핵심 확산 모델을 중심으로 여러 모델을 포함하는 확산 워크플로우를 실행합니다. 기존의 서비스 시스템은 이러한 워크플로우를 불투명한 통합 시스템으로 취급하며, 모든 구성 모델을 함께 프로비저닝, 배치 및 확장하여 내부 데이터 흐름을 가리고, 모델 공유를 방해하며, 세분화되지 않은 리소스 관리를 강제합니다. 본 논문에서는 LegoDiffusion이라는 시스템을 통해 확산 워크플로우를 마이크로 서비스 아키텍처로 분리하는 것이 효과적임을 주장합니다. LegoDiffusion은 워크플로우를 독립적으로 관리 및 예약할 수 있는 느슨하게 결합된 모델 실행 노드로 분해합니다. LegoDiffusion은 개별 모델 추론을 명시적으로 관리함으로써, 모델별 확장, 모델 공유 및 적응형 모델 병렬 처리과 같은 클러스터 규모의 최적화를 가능하게 합니다. 종합적으로, LegoDiffusion은 기존의 확산 워크플로우 서비스 시스템보다 뛰어난 성능을 보이며, 최대 3배 더 높은 요청 처리량과 최대 8배 더 높은 트래픽 버스트를 처리할 수 있습니다.

Text-to-image generation executes a diffusion workflow comprising multiple models centered on a base diffusion model. Existing serving systems treat each workflow as an opaque monolith, provisioning, placing, and scaling all constituent models together, which obscures internal dataflow, prevents model sharing, and enforces coarse-grained resource management. In this paper, we make a case for micro-serving diffusion workflows with LegoDiffusion, a system that decomposes a workflow into loosely coupled model-execution nodes that can be independently managed and scheduled. By explicitly managing individual model inference, LegoDiffusion unlocks cluster-scale optimizations, including per-model scaling, model sharing, and adaptive model parallelism. Collectively, LegoDiffusion outperforms existing diffusion workflow serving systems, sustaining up to 3x higher request rates and tolerating up to 8x higher burst traffic.