프롬프트 분할 및 주석 최적화: 최적화된 세그먼트 레벨 주석을 통한 LLM 행동 제어

Prompt Segmentation and Annotation Optimisation: Controlling LLM Behaviour via Optimised Segment-Level Annotations

생성형 인공지능 시스템과의 효과적인 상호 작용을 위해서는 프롬프트 엔지니어링이 필수적이지만, 기존 최적화 방법은 종종 구조화되지 않고 광범위한 프롬프트 공간에서 작동하여 높은 계산 비용과 원래 의도의 왜곡을 초래합니다. 본 논문에서는 프롬프트 최적화의 제어 가능성과 효율성을 향상시키기 위해 설계된 구조화된 프롬프트 최적화 프레임워크인 Prompt Segmentation and Annotation Optimisation (PSAO)을 소개합니다. PSAO는 프롬프트를 해석 가능한 세그먼트(예: 문장)로 분해하고 각 세그먼트에 사람이 읽을 수 있는 주석(예: {중요하지 않음}, {중요}, {매우 중요})을 추가합니다. 이러한 주석은 대규모 언어 모델(LLM)이 응답 생성 과정에서 집중 영역을 설정하고 혼란을 해소하는 데 도움을 줍니다. 본 논문에서는 세그먼트 분할 및 주석을 형식적으로 정의하고, 최적화된 세그먼트 레벨 주석이 LLM 응답을 향상시킬 수 있음을 보여줍니다. 또한, 원래 프롬프트를 최적화 공간의 후보로 유지하여 성능 저하를 방지합니다. 실험 결과는 PSAO가 주석을 통해 추론 정확도와 자기 일관성을 향상시키는 효과가 있음을 나타냅니다. 그러나 최적의 세그먼트 분할 및 주석을 식별하는 효율적인 방법을 개발하는 것은 여전히 어려운 과제이며, 향후 연구를 통해 해결될 것입니다. 본 연구는 개념 증명으로서, 세그먼트 레벨 주석 최적화의 실현 가능성과 잠재력을 보여주는 것을 목표로 합니다.

Prompt engineering is crucial for effective interaction with generative artificial intelligence systems, yet existing optimisation methods often operate over an unstructured and vast prompt space, leading to high computational costs and potential distortions of the original intent. We introduce Prompt Segmentation and Annotation Optimisation (PSAO), a structured prompt optimisation framework designed to improve prompt optimisation controllability and efficiency. PSAO decomposes a prompt into interpretable segments (e.g., sentences) and augments each with human-readable annotations (e.g., {not important}, {important}, {very important}). These annotations guide large language models (LLMs) in allocating focus and clarifying confusion during response generation. We formally define the segmentations and annotations and demonstrate that optimised segment-level annotations can lead to improved LLM responses, with the original prompt retained as a candidate in the optimisation space to prevent performance degradation. Empirical evaluations indicate that PSAO benefits from annotations in terms of improved reasoning accuracy and self-consistency. However, developing efficient methods for identifying optimal segmentations and annotations remains challenging and is reserved for future investigation. This work is intended as a proof of concept, demonstrating the feasibility and potential of segment-level annotation optimisation.