AI윤리와 신경과학의 AMA 도전 과제- 도덕판단 알고리즘 구현을 위한 검토 사항 - = AMA Challenges in AI Ethics and Neuroscience - Considerations for Implementing Moral Judgment Algorithm -

다국어 초록 (Multilingual Abstract)

AI systems cause distortion and bias in training data and, as a result, are vulnerable to making partial or prejudiced decisions. In research for AMA implementation, the issue that should be prioritized over securing technical and scientific programming design is the philosophical and neuroscientific understanding of morality. Whether AI will create moral personalities as diverse as humans, or whether it will reflect the best of human morality, is up to researchers. AMA production technologists should consider data describing the role of both reasoning and emotional intelligence in moral decision-making. This requires combining insights from moral philosophy, psychology, and neuroethics on specific moral factors, such as mutual altruism and fairness. In addition, a review of intuition and experience is required in moral judgment. This study tried to discuss the considerations for designing a moral judgment algorithm based on an understanding of morality in neuroscience. To achieve this purpose, the differences between computer decision-making and human judgment have been reviewed using moral judgment algorithms. Ultimately, it is necessary to pursue a symbiosis between computational AI and the intuitive human brain.

국문 초록 (Abstract)

인공지능 시스템은 왜곡과 학습 데이터의 편견 부족을 유발하기 때문에 윤리적으로 매우 불완전하고 취약할 수 있다. AMA 구현을 위한 연구 분야에서 기술적, 과학적 프로그래밍 설계 가능성 확보보다 우선되어야 할 문제는 도덕성에 대한 철학적, 신경과학적 이해이다. AI에 인간만큼의 다양한 도덕적 인격을 장착할지, 아니면 최고의 인간 도덕성을 반영할지도 연구자에게 남겨진 AI의 향후 과제라고 할 수 있다. AMA 설계 및 생산 기술자는 도덕적 의사결정에서 감성 컴퓨팅과 정서지능의 역할을 설명하는 데이터를 감안해야 한다. 이를 위해서는 상호 이타주의 및 공정성과 같은 특정 도덕 요소에 대한 도덕철학, 심리학, 신경윤리학 등의 통찰을 확인할 필요가 있다. 또한 도덕판단에서 직관과 경험에 대한 분석도 요구된다. 본 연구에서는 신경과학에서의 도덕성에 대한 이해를 바탕으로 도덕판단 알고리즘 설계를 위해 고려할 사항들을 논의하고자 했다. 이러한 목적을 달성하기 위해 컴퓨터의 의사결정과 인간 판단의 차이, 신경과학에서 도덕성 이해, 도덕판단 알고리즘 구현에서 검토할 논점에 대해 살펴보았다. 궁극적으로 ‘계산적 AI’와 ‘직관적 인간 뇌’의 공생을 추구할 필요가 있다.

참고문헌 (Reference)

• 1 박형빈, "인공지능윤리와 도덕교육" 도서출판 씨아이알 2022
• 2 라파엘 카프로, "로봇윤리-로봇의 윤리적 문제들" 어문학사 2013
• 3 Broom, D. M., "The evolution of morality" 100 (100): 20-28, 2006
• 4 Fuller, S., "The brain as artificial intelligence: prospecting the frontiers of neuroscience" 34 (34): 825-833, 2019
• 5 Hildt, E., "Shaping ethical futures in brain-based and artificial intelligence research" 26 (26): 2371-2379, 2020
• 6 De Waal, F., "Primates and philosophers: How morality evolved" 1-80, 2006
• 7 Koenigs, M., "Posttraumatic stress disorder: the role of medial prefrontal cortex and amygdala" 15 (15): 540-548, 2009
• 8 Crockett, M. J., "Moral transgressions corrupt neural representations of value" 20 (20): 879-885, 2017
• 9 Decety J., "Interpersonal harm aversion as a necessary foundation for morality: A developmental neuroscience perspective" 153-164, 2018
• 10 Tancredi, L., "Hardwired behavior: What neuroscience reveals, about morality" Cambridge University Press 115-117, 2005
• 11 Hasselberger, W., "Ethics beyond Computation: Why We Can't (and Shouldn't) Replace Human Moral Judgment with Algorithms" 86 (86): 977-999, 2019
• 12 Carrillo, M., "Emotional mirror neurons in the rat’s anterior cingulate cortex" 29 (29): 1301-1312, 2019
• 13 Kelly C., "Can neuroscience change the way we view morality?" 108 (108): 604-607, 2020
• 14 Decety, J., "Atlas of moral psychology" The Guilford Press 505-515, 2018
• 15 Kellmeyer, P., "Artificial intelligence in basic and clinical neuroscience: opportunities and ethical challenges" 25 (25): 241-250, 2019
• 16 Jarrahi, M. H., "Artificial intelligence and the future of work:Human-AI symbiosis in organizational decision making" 61 (61): 577-586, 2018
• 17 Stets, J. E., "A theory of the self for the sociology of morality" 77 (77): 120-140, 2012