Vero: 일반적인 시각 추론을 위한 개방형 강화 학습 프레임워크

Vero: An Open RL Recipe for General Visual Reasoning

차트, 과학, 공간 이해 및 개방형 작업에 걸쳐 작동하는 시각 추론 시스템을 구축하려면 무엇이 필요할까요? 최첨단 비전-언어 모델(VLM)은 이러한 광범위한 시각 추론이 가능함을 보여주지만, 그 기반이 되는 방법은 여전히 불분명하며, 비공개 데이터와 함께 독점적인 강화 학습(RL) 파이프라인에 갇혀 있습니다. 우리는 Vero를 소개합니다. Vero는 다양한 시각 추론 작업에서 기존의 개방형 모델과 동등하거나 뛰어난 성능을 보이는 완전한 개방형 VLM 제품군입니다. 우리는 여섯 가지 광범위한 작업 범주에 걸쳐 RL 데이터를 확장하고 보상을 설계하여 59개의 데이터 세트에서 600,000개의 샘플로 구성된 Vero-600K 데이터 세트를 구축하고, 다양한 답변 형식을 처리하는 작업 기반 보상을 설계했습니다. Vero는 30개의 도전적인 벤치마크 모음인 VeroEval에서 4개의 기본 모델보다 평균 3.7~5.5 포인트 향상된 최첨단 성능을 달성했습니다. Qwen3-VL-8B-Instruct를 기반으로 Vero는 추가적인 독점적인 추론 데이터 없이도 30개의 벤치마크 중 23개에서 Qwen3-VL-8B-Thinking보다 뛰어난 성능을 보입니다. 동일한 기본 모델에서 훈련할 때, Vero-600K는 작업 범주 전반에 걸쳐 기존의 RL 데이터 세트를 능가합니다. 체계적인 분석 결과, 다양한 작업 범주가 질적으로 구별되는 추론 패턴을 유발하며, 이러한 패턴은 개별적으로는 잘 전달되지 않는다는 것을 알 수 있습니다. 이는 광범위한 데이터 커버리지가 강력한 RL 확장의 주요 동인임을 시사합니다. 모든 데이터, 코드 및 모델은 공개됩니다.

What does it take to build a visual reasoner that works across charts, science, spatial understanding, and open-ended tasks? The strongest vision-language models (VLMs) show such broad visual reasoning is within reach, but the recipe behind them remains unclear, locked behind proprietary reinforcement learning (RL) pipelines with non-public data. We introduce Vero, a family of fully open VLMs that matches or exceeds existing open-weight models across diverse visual reasoning tasks. We scale RL data and rewards across six broad task categories, constructing Vero-600K, a 600K-sample dataset from 59 datasets, and designing task-routed rewards that handle heterogeneous answer formats. Vero achieves state-of-the-art performance, improving over four base models by 3.7-5.5 points on average across VeroEval, our suite of 30 challenging benchmarks. Starting from Qwen3-VL-8B-Instruct, Vero outperforms Qwen3-VL-8B-Thinking on 23 of 30 benchmarks without additional proprietary thinking data. When trained from the same base model, Vero-600K exceeds existing RL datasets across task categories. Systematic ablations reveal that different task categories elicit qualitatively distinct reasoning patterns that transfer poorly in isolation, suggesting that broad data coverage is the primary driver of strong RL scaling. All data, code, and models are released.