헬스 에이전트 재고찰: 폐쇄형 AI에서 협력적 의사 결정 중개자로

Rethinking Health Agents: From Siloed AI to Collaborative Decision Mediators

대규모 언어 모델 기반 헬스 에이전트는 건강 정보 해석 및 건강 결정 지원을 위해 건강 소비자 및 의료 전문가에 의해 점점 더 많이 사용되고 있습니다. 그러나 대부분의 의료 분야 AI 시스템은 개별 사용자를 지원하는 폐쇄적인 방식으로 운영되어, 의료에 있어 핵심적인 다자간 관계를 고려하지 않습니다. 이러한 사용 방식은 이해의 단절을 초래하고 환자, 보호자 및 의료 전문가 간의 불일치를 악화시킬 수 있습니다. 본 연구에서는 AI를 독립적인 도우미가 아닌, 다자간 치료 과정에 내재된 협력자로 재정의합니다. 임상적으로 검증된 가상의 소아 만성 신장 질환 사례 연구를 통해, 복약 순응도 저하가 단편적인 상황 인지와 목표 불일치에서 비롯되며, 범용 AI 도구의 폐쇄적인 사용은 이러한 협력 부족 문제를 해결하는 데 거의 도움이 되지 않는다는 것을 보여줍니다. 본 연구는 맥락 정보를 제시하고, 인지 모델을 조정하며, 공유된 이해를 구축하면서 인간의 의사 결정 권한을 유지하는 AI 협력자 설계에 대한 개념적 프레임워크를 제안합니다.

Large language model based health agents are increasingly used by health consumers and clinicians to interpret health information and guide health decisions. However, most AI systems in healthcare operate in siloed configurations, supporting individual users rather than the multi-stakeholder relationships central to healthcare. Such use can fragment understanding and exacerbate misalignment among patients, caregivers, and clinicians. We reframe AI not as a standalone assistant, but as a collaborator embedded within multi-party care interactions. Through a clinically validated fictional pediatric chronic kidney disease case study, we show that breakdowns in adherence stem from fragmented situational awareness and misaligned goals, and that siloed use of general-purpose AI tools does little to address these collaboration gaps. We propose a conceptual framework for designing AI collaborators that surface contextual information, reconcile mental models, and scaffold shared understanding while preserving human decision authority.