ArchAgent v2: 데이터 프리페칭 대회 사례 연구

ArchAgent v2: A Case Study with the Data Prefetching Championship

에이전트 기반 인공지능은 알고리즘 설계 자동화에서 큰 잠재력을 보여주었지만, 방대한 탐색 공간, 엄격한 하드웨어 제약 조건 및 긴 시뮬레이션 시간으로 인해 이러한 기술을 컴퓨터 마이크로 아키텍처 발견에 적용하는 것은 여전히 어려운 과제입니다. 본 연구에서는 ArchAgent v2라는 프레임워크를 소개합니다. 이 프레임워크는 자동화된 마이크로 아키텍처 검색을 다단계 데이터 프리페칭으로 확장합니다. 기존의 ArchAgent는 경쟁 환경에서 단일 레벨 캐시 교체 정책을 성공적으로 발견했지만, 설계 공간과 자유도가 더 큰 다중 레벨 프리페칭에는 적용하기 어렵습니다. 이러한 문제를 해결하기 위해 우리는 ArchAgent에 다음 두 가지 새로운 기능을 추가했습니다. 첫째, 계층화된 진화 검색은 개별 캐시 레벨에서 프리페처를 순차적으로 발전시키고 고정하여 설계 공간을 세분화합니다. 둘째, 하드웨어 실현 가능성 피드백 루프는 실시간 크기 추정 기능을 직접 진화 프로세스에 통합합니다. 4회 데이터 프리페칭 대회(DPC4)의 동일한 규칙에 따라 평가된 ArchAgent v2는 수동으로 설계된 최적 솔루션을 능가하는 세 단계 프리페처를 자동으로 설계하여, 자동 에이전트 기반 발견이 컴퓨터 아키텍트에게 유용한 도구임을 다시 한번 입증합니다. 당사의 정책은 전체적으로 기본 성능보다 3.8%의 기하 평균 IPC 속도 향상을 달성했으며, 이전 최고 성능 모델인 BertiGO보다 0.3% 향상되었습니다. 저대역폭 단일 코어 구성에서는 당사의 정책이 4.6%의 성능 향상을 보이는 반면, BertiGO는 2.6%의 성능 향상을 보였습니다. 그러나 시뮬레이션 지연으로 인해 진화 속도가 제한되어 멀티 코어 환경에서의 진화는 여전히 중요한 과제입니다. 마지막으로, 12,000개 이상의 후보 설계를 대상으로 한 ArchAgent 진화 과정을 분석한 결과, 자동 진화 에이전트가 복잡한 마이크로 아키텍처 로직을 어떻게 탐색하고 합성하는지에 대한 중요한 통찰력을 얻었습니다.

Agentic artificial intelligence has shown great promise in automating algorithm design, but scaling similar techniques to computer microarchitecture discovery remains challenging due to vast search spaces, strict hardware budgets, and long simulation times. In this work, we present ArchAgent v2, a framework which scales automated microarchitecture search to multi-level data prefetching. While the original ArchAgent successfully discovered single-level cache replacement policies in competition settings, it does not scale to multi-level prefetching where the design space and degrees of freedom are larger. To overcome this, we introduce two new additions to ArchAgent: a cascaded evolutionary search that subdivides the design space by sequentially evolving and freezing prefetchers at individual cache levels, and a hardware-realizability feedback loop that embeds real-time size-estimation directly into the evolution process. Evaluated under identical rules of the 4th Data Prefetching Championship (DPC4), ArchAgent v2 automatically designs a three-level prefetcher that outperforms the winning hand-designed solution, further demonstrating automated agentic discovery as a useful tool for computer architects. Our discovered policy achieves a 3.8\% geometric mean IPC speedup over the baseline overall and a 0.3\% improvement over the prior champion, BertiGO. On low-bandwidth single-core configurations, our policy yields a 4.6\% performance speedup compared to only 2.6\% for BertiGO. However, multi-core evolution still remains a significant challenge due to simulation latency impeding evolution speed. Finally, our profiling of an ArchAgent evolution of over 12,000 candidate designs provides key insights into how automated evolutionary agents explore and synthesize complex microarchitectural logic.