PRISM-$Δ$: 대규모 언어 모델에서 프롬프트 강조를 위한 차등 부분 공간 제어

PRISM-$Δ$: Differential Subspace Steering for Prompt Highlighting in Large Language Models

프롬프트 강조는 대규모 언어 모델이 텍스트 생성 과정에서 사용자가 지정한 특정 텍스트 부분을 우선적으로 고려하도록 유도하는 기술입니다. 기존의 키 편집(Key-editing) 방식에서 주요 과제는 관련 맥락과 무관련 맥락 간의 차이를 효과적으로 파악하여, 두 맥락에 공통적으로 나타나는 구조적 패턴이 아닌 실제적인 차이를 반영하는 제어 방향을 추출하는 것입니다. 본 논문에서는 긍정 및 부정 교차 공분산 행렬의 차이를 분해하여 판별력을 극대화하고 동시에 공유되는 부분을 제거하는 투영 기반 관련성 정보 기반 제어 방법(PRISM-$Δ$)을 제안합니다. 각 어텐션 헤드는 연속적인 소프트플러스 가중치를 받아 약하지만 유용한 헤드도 감쇠된 강도로 기여할 수 있도록 합니다. 또한, 본 프레임워크는 값(Value) 표현으로 자연스럽게 확장되어 키 정보만 사용하는 기존 방식에서 활용되지 않던 콘텐츠-채널 신호를 포착합니다. 네 가지 벤치마크와 다섯 개의 모델에 대한 실험 결과, PRISM-$Δ$ 방법은 20개의 설정 중 19개에서 기존 최고 성능을 능가하거나 동등한 성능을 보였으며, 최대 +13.0%의 상대적 성능 향상을 달성했습니다. 또한, 제어 과정의 유창성 비용을 절반으로 줄였습니다. 본 방법은 긴 문맥 검색에도 적용 가능하며, 기존 최고 성능보다 최대 +5.1%의 상대적 성능 향상을 보입니다. PRISM-$Δ$는 FlashAttention과 호환되며, 메모리 오버헤드가 미미합니다.

Prompt highlighting steers a large language model to prioritize user-specified text spans during generation. A key challenge of existing Key-editing approaches is extracting steering directions that capture the difference between relevant and irrelevant contexts, rather than shared structural patterns common to both. We propose PRISM-$Δ$ (Projection-based Relevance-Informed Steering Method), which decomposes the difference between positive and negative cross-covariance matrices to maximize discriminative energy while eliminating shared directions. Each attention head receives a continuous softplus importance weight, letting weak-but-useful heads contribute at reduced strength. The framework extends naturally to Value representations, capturing content-channel signal that Key-only methods leave unused. Across four benchmarks and five models, our methods match or exceed the best existing method on 19 of 20 configurations, with relative gains up to +13.0%, while halving the fluency cost of steering. Our methods also scale to long-context retrieval, outperforming the best existing method by up to +5.1% relative gain. PRISM-$Δ$ is compatible with FlashAttention and adds negligible memory overhead.