신뢰성과 책임성을 갖춘 기초 모델: 종합적인 연구
Reliable and Responsible Foundation Models: A Comprehensive Survey
대규모 언어 모델(LLM), 다중 모달 대규모 언어 모델(MLLM), 이미지 생성 모델(텍스트-이미지 모델 및 이미지 편집 모델), 비디오 생성 모델과 같은 기초 모델은 법률, 의학, 교육, 금융, 과학 등 다양한 분야에서 광범위하게 활용되는 필수적인 도구로 자리 잡았습니다. 이러한 모델이 실제 환경에 점점 더 많이 적용됨에 따라, 학계, 산업계 및 정부는 이러한 모델의 신뢰성과 책임성을 확보하는 것이 매우 중요해졌습니다. 본 연구는 기초 모델의 신뢰성과 책임성 있는 개발에 대한 종합적인 개요를 제공합니다. 우리는 편향 및 공정성, 보안 및 개인 정보 보호, 불확실성, 설명 가능성, 데이터 분포 변화 등 중요한 문제들을 탐구합니다. 또한, 환각 현상과 같은 모델의 한계점과 정렬(alignment) 및 인공지능 생성 콘텐츠(AIGC) 탐지 방법 등을 다룹니다. 각 영역별로 현재 연구 동향을 검토하고 구체적인 향후 연구 방향을 제시합니다. 또한, 이러한 영역들 간의 상호 연관성을 논의하며, 공통적인 과제들을 강조합니다. 본 연구가 강력하면서도 윤리적이고, 신뢰할 수 있으며, 안정적이고, 사회적으로 책임 있는 기초 모델 개발에 기여하기를 바랍니다.
Foundation models, including Large Language Models (LLMs), Multimodal Large Language Models (MLLMs), Image Generative Models (i.e, Text-to-Image Models and Image-Editing Models), and Video Generative Models, have become essential tools with broad applications across various domains such as law, medicine, education, finance, science, and beyond. As these models see increasing real-world deployment, ensuring their reliability and responsibility has become critical for academia, industry, and government. This survey addresses the reliable and responsible development of foundation models. We explore critical issues, including bias and fairness, security and privacy, uncertainty, explainability, and distribution shift. Our research also covers model limitations, such as hallucinations, as well as methods like alignment and Artificial Intelligence-Generated Content (AIGC) detection. For each area, we review the current state of the field and outline concrete future research directions. Additionally, we discuss the intersections between these areas, highlighting their connections and shared challenges. We hope our survey fosters the development of foundation models that are not only powerful but also ethical, trustworthy, reliable, and socially responsible.
No Analysis Report Yet
This paper hasn't been analyzed by Gemini yet.