LLM 개인화 협업 작성을 위한 학습 불필요한 토큰 수준의 제어

Training-Free Token-Level Steering for LLM Personalized Co-Writing

대규모 언어 모델(LLM)은 개인화에 큰 가능성을 보여주지만, 종종 전문적인 분야 지식이 부족합니다. 기존의 파인튜닝 방식은 높은 계산 비용과 빠른 데이터 업데이트 문제를 안고 있으며, 검색 기반 생성(Retrieval-Augmented Generation)은 세밀한 토큰 수준의 제어를 제공하지 못합니다. 또한, 챗 기반 인터페이스가 주류를 이루는 반면, 생산적인 협업 작성 방식은 코딩 분야 외에는 제대로 활용되지 못하고 있습니다. 이에, 우리는 개인화된 협업 작성을 위한 학습 불필요한 프레임워크인 SteerWrite를 소개합니다. 저희의 방법은 그래디언트 업데이트 없이 기본 모델을 특정 분야에 효과적으로 적용하며, 특히 작은 데이터셋에 적합하도록 설계되었습니다. 실험 결과, SteerWrite는 다양한 데이터셋, 지표 및 모델에서 최첨단 성능을 달성하여 인간 편집 노력을 크게 줄이는 것을 확인했습니다.

While Large Language Models (LLMs) show great promise for personalization, they often lack specialized domain knowledge. Conventional solutions like fine-tuning struggle with high computational costs and rapid data updates, while Retrieval-Augmented Generation fails to provide fine-grained, token-level steering. Furthermore, chat-based interfaces remain dominant, whereas productive co-writing paradigms have not yet been well exploited beyond the coding domain. To this end, we introduce SteerWrite, a training-free framework designed for personalized co-writing. Our method effectively adapts the base model to specialized domains without gradient updates, with specific designs tailored to small datasets. Experiments demonstrate that SteerWrite achieves state-of-the-art performance across diverse datasets, metrics, and models, significantly reducing human editing effort.