기계윤리 및 신경윤리학 관점에서 본 인공도덕행위자(AMA) 도덕성 기준과 초등도덕교육의 과제 = Morality Standards of Artificial Moral Agents(AMA) and The Tasks of Elementary Moral Education in Machine Ethics and Neuroethics

국문 초록 (Abstract)

다양한 사회 영역에 걸친 강력한 변형력과 심오한 영향력에 비해 AI의 개발 및 사용을 안내하는 원칙과 가치 기준 정립은 일천하다. 그러나 인류는 인공도덕행위자(AMA)의 행동을 설계하고 도덕적으로 평가할 시점에 이르렀을 뿐만 아니라, 이와 관련해 답해야 할 여러 가지 질문과 문제에 봉착했다. 기계또는 로봇을 도덕적 행위자로 인정할 수 있는가와 같은 근본적인 윤리 문제를 포함하여 보다 근원적이고 구체적인 문제에 답변할 것을 요구받고 있다. AI 응용과 설계에 있어서의 윤리, AI 자체의 윤리 모형 등은 인류가 추구해야 할 AI 산업을 위한 윤리적 기초가 된다. AI 윤리는 도덕교육, 윤리교육 현장에서 중요하게 다루어야 할 주제 및 내용 요소이다. 그러므로 학습 보조 수단으로서의 AI 역할뿐만 아니라 AI 윤리는 교육 현장에서 교육 콘텐츠로서도 주요한 자원이다. 본 연구에서는 AI 윤리 문제와 관련하여 초등학교 도덕교육 현장에서 교육 콘텐츠로서 반드시 다룰 필요가 있는 주제 및 내용 요소들을 살펴보고자 했다. 이를 위해 첫째, 기계윤리 문제에 대해 살펴보았다. 둘째, 신경윤리학에서 기계윤리 구현 문제를 분석하였다. 셋째, 인공도덕행위자를 위한 도덕적 기준을 탐색하였다. 넷째, 초등학교 도덕과 과제로서 초등도덕에서 다루어야 할 AI 윤리 관련 내용 요소들을 제안하였다. 윤리적 다원주의와 윤리적 전문성 부족으로 설계된 AMA는 단순한 인공행위자로 전락할 수 있으며 이를 통해 야기된 도덕적 문제들의 피해는 고스란히 인류의 몫이 될 수 있다. 따라서 초등학교 현장에서 학생들의 뇌신경과학적, 발달심리학적 특성을 고려한 교육 방법을 통해 중요한 교육 콘텐츠로서 AI 윤리, 기계윤리 관련 논의를 다룰 필요가 있다. 도덕적 인격 형성의 복잡성을 간과한 AMA 구축으로 인해 프로그래머와 컴퓨터 공학자들이 오류에 봉착하지 않도록 하는 노력은 초등학교 도덕교육 현장에서부터 이루어져야 할 것이다.

다국어 초록 (Multilingual Abstract)

The principles that guide the use of AI are not yet established or complete. Given that AI is causing a powerful transformation in the world, and has profound influence on social domains, we urgently need to create moral standards/rules and regulations that would prohibit certain activity deemed unhealthy for children. However, humans have created an artificial moral agent(AMA) that acts concern for morality. This is a huge problem. The technology is well ahead of the AI ethics, and our current AI ethics can't cope with all these changes. Therefore I believe that an ethics commission must be established to oversee the development of this powerful new technology, especially in the area of education. Children are vulnerable and need our protection against amoral agents in the AI arena.
In addition to the role of AI as a tool for learning, AI ethics should be a part of any education curriculum. First, the study should explore machine ethics and the task of implementing ethical behavior. Second, the task of implementing machine ethics in neuroethics is analyzed. Third, we should research possible ethical standards. Fourth, children should be educated about the opportunities and moral hazards of AI. We could create AMA to be a simple artificial agent. AI ethics should therefore be an integral part of future education programs with a special focus on early childhood psychological development. Programmers and computer engineers should avoid errors due to the AMA design that overlooked the complexity of moral character. We should deal with machine ethics for elementary students.

참고문헌 (Reference)

• 1 신상규, "인공지능은 자율적 도덕행위자일 수 있는가?" 한국철학회 (132) : 265-292, 2017
• 2 최현철, "인공적 도덕 행위자에 대한 융합접근의 철학적 기획" 한국윤리학회 1 (1): 1-16, 2019
• 3 Bergman, R., "Why be moral? A conceptual model from developmental psychology" 45 (45): 104-124, 2002
• 4 Sullins, J. P., "When is a robot a moral agent" 6 (6): 23-30, 2006
• 5 Bryck, R. L., "Training the brain: practical applications of neural plasticity from the intersection of cognitive neuroscience, developmental psychology, and prevention science" 67 (67): 87-100, 2012
• 6 Moor, J. H., "The nature, importance, and difficulty of machine ethics" 21 (21): 18-21, 2006
• 7 Jobin, A., "The global landscape of AI ethics guidelines" 1 (1): 389-399, 2019
• 8 Hagendorff, T., "The ethics of AI ethics : An evaluation of guidelines" 30 : 99-120, 2020
• 9 Woodhead, M., "Reconstructing developmental psychology—some first steps" 13 (13): 3-19, 1999
• 10 De Oliveira, N., "Recasting the naturalism–normativity debate : neuroscience, neurophilosophy, neuroethics" 20 (20): 79-103, 2013
• 11 Allen, C., "Prolegomena to any future artificial moral agent" 12 (12): 251-261, 2000
• 12 Churchland, P. S., "Neurophilosophy : an introduction and overview" 22 (22): 179-180, 2007
• 13 Blair, J., "Neuro-cognitive systems involved in morality" 9 (9): 13-27, 2006
• 14 Lipman, M., "Moral education higher-order thinking and philosophy for children" 107 (107): 61-70, 1995
• 15 Anderson, M., "Machine ethics" Cambridge University Press 2011
• 16 Churchland, P. S., "Human dignity and bioethics: essays commissioned by the president's council on bioethics" The President's Council on Bioethics 93-115, 2008
• 17 Blake, B., "Developmental psychology : incorporating Piaget’s and Vygotsky’s theories in classrooms" 1 (1): 59-67, 2008
• 18 Plunkett, K., "Connectionism and developmental psychology" 38 (38): 53-80, 1997
• 19 Nucci, L., "Capturing the complexity of moral development and education" 3 (3): 151-159, 2009
• 20 Gordon, J. S., "Building moral robots: ethical pitfalls and challenges" 26 (26): 141-157, 2020
• 21 Coseru, C., "Buddhism, comparative neurophilosophy, and human flourishing" 49 (49): 208-219, 2014
• 22 Welsh, M. C., "Assessing frontal lobe functioning in children : views from developmental psychology" 4 (4): 199-230, 1988
• 23 Allen, C., "Artificial morality : Top-down, bottom-up, and hybrid approaches" 7 (7): 149-155, 2005
• 24 Himma, K. E., "Artificial agency, consciousness, and the criteria for moral agency: What properties must an artificial agent have to be a moral agent?" 11 (11): 19-29, 2009
• 25 Beck, J., "Applications of AI in education. XRDS: crossroads" 3 (3): 11-15, 1996
• 26 박형빈, "AI 도덕성 신화와 그 실제: 기계의 인간 도덕 능력 모델링 가능성과 한계" 초등교육연구원 31 : 1-14, 2020
• 27 Behdadi, D., "A Normative Approach to Artificial Moral Agency" 30 : 195-218, 2020