IntElicit: 대화 정책 최적화를 통한 맥락 기반 창의성 이끌어내기 및 평가

IntElicit: Eliciting and Assessing Contextualized Creativity via Dialogue Policy Optimization

맥락 기반 평가는 창의성을 평가하는 데 높은 생태학적 타당성을 제공하지만, 중요한 과제를 야기합니다. 관찰된 수행 능력은 인지 능력(전문 지식)과 주체성(참여 의지)에 의해 영향을 받을 수 있기 때문입니다. 또한, 생성형 AI 시대에는 창의적인 문제 해결이 점점 더 도구 기반 및 인간-AI 상호 작용 환경에서 이루어지고 있으며, 이는 정적인 평가 방식으로는 현대적 창의적 실천과 일치하지 않습니다. 이러한 문제를 해결하기 위해, 본 논문에서는 대화 정책 최적화를 통해 맥락 기반 창의성을 이끌어내고 평가하는 프레임워크인 IntElicit을 제안합니다. IntElicit은 제한적인 적응형 AI 인터뷰어로 작동하며, 다단계 상호 작용에서 비지시적인 지식 및 주체성 지원 구조를 제공하여 창의성이 아닌 다른 요인의 영향을 줄이는 동시에, 평가 대상인 창의적 콘텐츠를 생성하는 데 있어 참여자의 책임을 유지합니다. 특히, 개방형 교육 대화에서 희소한 보상과 잠재적인 보상 해킹(예: 정답 강요) 문제를 해결하기 위해, IntElicit은 분해된 프로세스 보상 메커니즘을 도입합니다. 이 메커니즘은 정책을 교육적 유도와 일치시키며, 참여자의 추론 과정을 이끌어내는 프롬프트를 보상하고, 최적의 답변을 대신 생성하는 것을 방지합니다. 참가자 시뮬레이션 및 인간 대상 연구(N=64)를 포함한 광범위한 실험 결과는 IntElicit이 전문가가 설계한 기준보다 더 나은 창의적 결과를 이끌어낼 수 있음을 보여줍니다. 종합적으로, 이러한 결과는 대화형 유도가 정적인 FPSP 스타일 평가에서 놓칠 수 있는 창의적 잠재력을 드러낼 수 있으며, AI 기반 학습 환경에서 맥락 기반 창의성 평가를 위한 형성적 및 진단적 도구를 제공한다는 것을 시사합니다.

Contextualized assessment offers high ecological validity for evaluating creativity but introduces a critical challenge: observed performance may be confounded with cognitive proficiency (domain knowledge) and agency (willingness to engage). Meanwhile, in the age of generative AI, creative problem solving increasingly occurs in tool-mediated and human--AI interactive environments, making fully static assessment less aligned with contemporary creative practice. To address these issues, this paper proposes IntElicit, a framework for eliciting and assessing contextualized creativity via dialogue policy optimization. IntElicit functions as a constrained adaptive AI Interviewer: it provides non-directive knowledge and agency scaffolds in multi-turn interaction to reduce non-creative confounders, while preserving participants' responsibility for generating the creative content being evaluated. Specifically, to tackle sparse rewards and potential reward hacking (e.g., answer dictation) in open-ended educational dialogue, IntElicit introduces a decomposed process reward mechanism. This mechanism aligns the policy with pedagogical elicitation, rewarding prompts that draw out participant reasoning rather than producing optimal answers on their behalf. Extensive experiments, including participant simulation and a human subject study (N=64), show that IntElicit improves elicited creative outcomes over expert-designed baselines. Together, the results suggest that interactive elicitation can reveal creative potential that static FPSP-style assessment may miss, providing a formative and diagnostic lens for contextualized creativity assessment in AI-mediated learning contexts.