자연어 처리 분야에서 알고리즘 언급의 동기 탐구: 심층 학습 접근 방식

Exploring Motivations for Algorithm Mention in the Domain of Natural Language Processing: A Deep Learning Approach

데이터 중심 과학의 발전과 함께 알고리즘은 과학 연구의 핵심 요소가 되었습니다. 학술 논문에서는 특정 연구 과제에 대한 방법론을 설명, 활용, 비교 또는 개선하기 위해 다양한 목적으로 알고리즘이 언급됩니다. 이러한 목적을 파악하면 알고리즘 간의 관계를 밝히고 그 역할과 가치를 평가하는 데 도움이 됩니다. 본 연구는 자연어 처리(NLP)를 예시로 들어, 알고리즘 언급 동기를 식별, 분석하고 그 진화 과정을 추적하기 위한 문장 수준 프레임워크를 제안합니다. 먼저 수동 주석 및 머신 러닝을 통해 전체 텍스트 논문에서 알고리즘 개체와 관련 문장을 식별한 후, 사전 학습된 모델과 데이터 증강 기법을 사용하여 언급 동기를 분류하고, 그 분포와 시간적 변화를 분석했습니다. 결과는 데이터 증강으로 학습된 심층 학습 모델이 전통적인 머신 러닝 모델보다 동기 분류 성능이 우수하다는 것을 보여줍니다. NLP 논문에서 알고리즘 관련 문장의 절반 이상이 직접 활용을 나타내며, 개선은 가장 드물게 언급되는 동기입니다. 시간이 지남에 따라 다양한 동기의 수가 증가했습니다. 특정 알고리즘 범주에서는 구문 기반 알고리즘이 설명 목적으로 더 자주 언급되는 반면, 머신 러닝 알고리즘은 활용 목적으로 더 자주 언급됩니다. 시간이 지남에 따라 다양한 알고리즘에서 활용 동기가 설명 동기를 점차 대체했으며, 개별 알고리즘과 관련된 동기 유형의 수는 크게 감소했습니다. 본 연구는 저자들이 학술 논문에서 알고리즘 개체를 어떻게 언급하는지 보여주고 있으며, 향후 알고리즘 관계 식별 및 알고리즘 영향 평가에 대한 기초 자료를 제공합니다.

With the rise of data-intensive science, algorithms have become central to scientific research. In academic papers, algorithms are mentioned for different purposes, such as describing, using, comparing, or improving methods for specific research tasks. Identifying these purposes can reveal relationships among algorithms and help assess their roles and value. Taking natural language processing (NLP) as an example, this study proposes a sentence-level framework for identifying, analyzing, and tracing the evolution of motivations for mentioning algorithms. We first identify algorithm entities and algorithm-related sentences from full-text papers through manual annotation and machine learning. We then classify mention motivations using pretrained models and data augmentation, and analyze their distribution and temporal evolution. The results show that deep learning models trained with augmented data outperform traditional machine learning models in motivation classification. In NLP papers, more than half of algorithm-related sentences express direct use, whereas improvement is the least frequent motivation. The diversity of motivations has increased over time. For specific algorithm categories, grammar-based algorithms are more often mentioned for description, while machine learning algorithms are more often mentioned for use. Over time, use motivations have gradually replaced description motivations across different algorithms, and the number of motivation types associated with individual algorithms has declined significantly. This study reveals how authors mention algorithm entities in academic writing and provides a basis for future research on algorithm relationship identification and algorithm impact evaluation.