생명과학 분야의 인공지능 윤리: 보편성, 문화적 다양성 및 배려를 위한 구조

The ethics of artificial intelligence in the life sciences: Universality, cultural diversity and an architecture of care

생명과학 및 건강 연구는 인공지능의 발전에 힘입어 많은 이점을 얻고 있지만, 이는 실제적인 윤리적 문제들을 야기합니다. 하지만 우리는 이러한 문제들이 인공지능 자체에서 비롯된 특별한 문제는 아니라고 주장합니다. 모든 과학은 인간 뇌가 어떻게 구성되고 사회화되는지에 기반한 가치에 의해 규제되어야 하며, 인공지능의 특수한 요소와는 별개여야 합니다. 중요한 점은 인간 뇌가 현재의 기계보다 훨씬 효율적인 계산 구조를 가지고 있다는 것입니다. 이는 전역 신경망 작업 공간을 통해 이루어지며, 보상은 단순히 극대화할 양이 아니라, 욕구, 선호 및 포만감의 지속적인 순환으로 가장 잘 설명됩니다. 따라서 인간 윤리의 핵심적인 긴장은 윤리적 판단의 보편성과 도덕의 다양성 사이에서 발생합니다. 전역 작업 공간과 감정 관련 뇌 네트워크는 보편적으로 공유되지만, 콘텐츠의 다양성은 물리적, 사회적, 문화적 세계의 특성을 기반으로 결정되며, 이는 모든 개인을 독특하게 만듭니다. 만약 우리가 현재의 비효율적인 보상 극대화 모델이 아닌 이러한 원칙에 따라 기계를 설계한다면, 그 기계의 관리 방식은 억제에서 교육으로 변화할 것입니다. 우리는 그러한 미래를 위한 필수적인 제도를 제시하고, 아직 해결되지 않은 질문들을 다룹니다.

The life sciences and health research have started to benefit from artificial intelligence, which raises ethical concerns that are real but, we argue, not special. Any science should be governed by values that rest on how the human brain is built and socialised rather than anything distinct to artificial intelligence. Importantly, the human brain has a different, much less costly computational architecture than these machines. This is achieved through the orchestration of a global neuronal workspace, and through reward best described not as a quantity to be maximised but as a continuous cycle of wanting, liking and satiety. As such, this creates the deep tension running through the ethics of the human person, between the universality of ethical judgement and the diversity of morals. The brain networks of the global workspace and emotion are universally shared, but the diversity of content is shaped by epigenetic appropriation of the particulars of the physical, social and cultural world, which makes every person unique. Still, if we were to build machines on these principles rather than the present unaffordable reward maximisers, the question of their governance would change from restraint to upbringing. We set out the institutions such a future would require, together with the questions that remain open.