메타데이터 기반 커리큘럼 학습을 활용한 다단계 진화적 모델 병합: 감성 분석 특화 대규모 언어 모델링

Multi-Stage Evolutionary Model Merging with Meta Data Driven Curriculum Learning for Sentiment-Specialized Large Language Modeling

대규모 언어 모델(LLM)의 등장은 자연어 처리(NLP) 분야에 혁신을 가져왔으며, 적은 학습 데이터로 다양한 작업을 수행할 수 있는 범용적인 모델을 가능하게 했습니다. 그러나 감성 분류나 관점 기반 분석과 같은 개별 작업에 집중하는 기존의 감성 분석 방법은 실제 응용 분야에서 여러 작업을 처리해야 하는 경우에 적합하지 않습니다. 감성 분석에 특화된 LLM은 유연성을 제공하지만, 종종 요구되는 정확도에 미치지 못합니다. 파인튜닝 및 진화적 모델 병합과 같은 기술은 모델을 통합된 프레임워크로 통합하여 학습 성능을 향상시키고 계산 비용을 줄이는 데 도움이 됩니다. 작업 메타데이터와 커리큘럼 학습을 활용하여 학습 프로세스를 최적화하는 연구는 아직 부족하며, 감성 분석은 높은 정확성과 확장성을 요구하는 중요한 NLP 작업입니다. 본 연구에서는 대규모 언어 모델링에서의 감성 분석을 향상시키기 위해 메타데이터 기반 커리큘럼 학습을 활용한 다단계 진화적 모델 병합(MEM-MCL)이라는 하이브리드 학습 모델을 제안합니다. 특히, 특정 감성 작업에 대한 지시 튜닝을 통해 전문 모델을 생성하고, 진화 알고리즘을 사용하여 통합 모델을 형성합니다. 병합 프로세스는 약한 데이터를 활용하여 여러 작업에서의 성능을 향상시킵니다. 커리큘럼 학습은 작업 난이도에 따라 학습 순서를 제공하여 LLM으로부터의 지식 추출을 개선합니다. 실험 결과는 제안된 MEM-MCL 모델이 기존 LLM보다 대부분의 감성 분석 작업에서 더 뛰어난 성능을 보이며, 다양한 하위 작업에서 우수한 결과를 달성했음을 보여줍니다.

The emergence of large language models (LLMs) has significantly transformed natural language processing (NLP), enabling more generalized models to perform various tasks with minimal training. However, traditional sentiment analysis methods, which focus on individual tasks such as sentiment classification or aspect-based analysis, are not practical for real-world applications that usually require handling multiple tasks. While offering flexibility, LLMs in sentiment-specific tasks often fall short of the required accuracy. Techniques like fine-tuning and evolutionary model merging help integrate models into a unified framework, which can improve the learning performance while reducing computational costs. The use of task meta-data and curriculum learning to optimize learning processes remains underexplored, while sentiment analysis is a critical task in NLP that requires high accuracy and scalability across multiple subtasks. In this study, we propose a hybrid learning model called Multi-stage Evolutionary Model Merging with Meta data driven Curriculum Learning (MEM-MCL), to enhance the sentiment analysis in large language modeling. In particular, expert models are created through instruction tuning for specific sentiment tasks and then merged using evolutionary algorithms to form a unified model. The merging process is optimized with weak data to enhance performance across tasks. The curriculum learning is incorporated to provide a learning sequence based on task difficulty, improving knowledge extraction from LLMs. Experiment results demonstrate that the proposed MEM-MCL model outperforms conventional LLMs in a majority of sentiment analysis tasks, achieving superior results across various subtasks.