LEXIC: 경량 눈동자 추적 확장 기술 - 복잡성 주입을 통한 접근
LEXIC: Lightweight Eye-tracking eXtension via Injected Complexity
최근 EyeBench 벤치마크에서, 시선 데이터를 기반으로 독해력을 예측하는 연구는 뚜렷한 격차를 보여줍니다. 사전 학습된 언어 모델을 사용하는 문맥 인식 모델은 56~63%의 AUROC 값을 보이는 반면, 시선 데이터만 사용하는 모델은 우연 수준의 성능에 머무릅니다. 본 연구에서는 언어 모델 없이 경량화된 조건부 학습을 통해 시선 데이터 기반 모델의 성능을 얼마나 향상시킬 수 있는지 탐구합니다. EyeBench AhnCNN 모델을 기반으로 LEXIC-Base를 개발하고, 세 가지 사전 계산된 단어 수준의 난이도 지표(GPT-2 surprisal, 단어 빈도, 단어 길이)를 각 시선 고정 지점 입력에 주입하는 두 가지 방법을 제안합니다. 첫 번째 방법은 직접 연결(LEXIC-Concat), 두 번째 방법은 잔차 메커니즘(LEXIC-Res)으로, 작은 예측 네트워크가 일반 독자의 시선 반응을 예측하고 인코더는 편차를 기반으로 조건화됩니다. OneStop 독해 능력 평가 작업에서, 10개의 폴드에 대해 K=5의 seed-ensemble 학습을 수행한 결과, 두 방법 모두 Unseen Text 데이터셋에서 통계적으로 유의미한 AUROC 성능 향상을 보였으며, 그 수치는 +1.8~+2.2%p였습니다 (Wilcoxon p <= 0.065). LEXIC-Concat은 추가적으로 Unseen Reader 데이터셋에서 +2.9%p의 성능 향상을 보였으며, p = 0.010입니다. LEXIC-Res 모델의 경우, Unseen Reader 데이터셋에서 +1.8%p의 성능 차이가 나타났지만 (p = 0.19), 이는 예측 네트워크가 학습 독자에 맞춰 조정되어 있어 외부 분포의 독자에게 완벽하게 적용되지 않기 때문으로 판단됩니다.
On the recent EyeBench benchmark, predicting reading comprehension from eye movements exposes a stark gap: text-aware models using pretrained language models reach 56--63% AUROC, while gaze-only models operate at chance. We ask how far a gaze-only model can be pushed by lightweight, language-model-free conditioning. Building on the EyeBench AhnCNN baseline, LEXIC-Base, we propose two mechanisms to inject three precomputed word-level difficulty signals, GPT-2 surprisal, word frequency, and word length, into the per-fixation input: direct concatenation, LEXIC-Concat, and a residual mechanism, LEXIC-Res, where a small head predicts typical-reader gaze response and the encoder is conditioned on the deviation. On the OneStop reading comprehension task, with K=5 seed-ensemble training across ten folds, both mechanisms produce statistically consistent AUROC gains on Unseen Text, +1.8 to +2.2 percentage points, Wilcoxon p <= 0.065. LEXIC-Concat additionally lifts Unseen Reader by +2.9 percentage points, p = 0.010. We trace an architectural boundary in LEXIC-Res on Unseen Reader, +1.8 percentage points, p = 0.19, to the prediction head being calibrated to training readers, transferring imperfectly to out-of-distribution readers.
No Analysis Report Yet
This paper hasn't been analyzed by Gemini yet.
Log in to request an AI analysis.