자율 주행 차량(AV)의 트롤리 딜레마 문제와 AI 윤리교육의 과제 = The Trolley Dilemma of Autonomous Vehicles and the Challenges of AI Ethics Education

국문 초록 (Abstract)

자율 주행 차량(autonomous driving vehicle, ADV)과 같은 기술의 발달은 사회에 큰 영향을 미칠 수 있는 새로운 문제를 발생시키는데 이는 심리적, 윤리적, 사회적, 경제적 및 법적 측면을 포함한 다양한 영역에 분포한다. 자율 차량(autonomous vehicle, AV)의 기술 개발이 빠르게 진행되고 있는 동안 자율 기계에 제어권 부여의 도덕적 의미와 관련한 논의가 출현했다. 도덕 딜레마는 교통사고의 영향력과 정서적 중요성을 고려할 때 더욱 주목된다. 이제 로봇 및 기타 AI 시스템은 폐쇄된 환경에서 잘 정의된 작업을 수행하는 것에서 벗어나 실제 세계에서 중요한 물리적 행위자로 전환되는 과정에 있다. 더 이상 공장의 테두리 안에 갇혀 있지 않는 로봇은 도시 환경에 침투하여 인간과 사물에 영향력을 행사하고 인간과 함께 모든 종류의 작업을 수행할 수 있게 되었다. 더욱이 AV는 수많은 사회적, 경제적 이점을 약속함과 동시에 인간의 생명 자체를 좌우할 수 있다는 점에서 이목이 집중된다. AV가 교통사고로 인한 사망과 부상의 비율을 획기적으로 낮출 것이라는 낙관적 기대에도 불구하고, 인간의 생명과 직결된다는 점에서 기술 안에 도사린 파괴력 또한 간과할 수 없다. AV를 제어하는 알고리즘은 피할 수 없는 위해 상황에서 결정을 안내하는 도덕적 원칙을 포함해야 한다. AV가 도덕적 결정을 내리는데 도움이 될 알고리즘을 정의하는 것은 큰 도전이며 사후가 아닌 사전에 조치되어야 할 사안이다. 특히, 인간의 생사와 직결되는 문제라는 점에서 AI 윤리, AI 윤리교육에서 주의하여 다룰 소재이다. 따라서 본 연구에서는 AV의 트롤리 딜레마의 여러 유형을 고찰하고 이것이 주는 AI 윤리 및 AI 윤리교육에 제기하는 과제를 도출하고자 했다. 첫째, AV의 발전 현황과 윤리 문제를 확인했다. 둘째, 도덕기계(Moral Machine, MM)의 연구 진행과 이것이 주는 시사점을 살펴보았다. 셋째, AV의 도덕적 딜레마가 제기하는 AI 윤리 문제와 교육현장에 갖는 과제를 제안했다.

다국어 초록 (Multilingual Abstract)

The development of technologies such as autonomous driving vehicles(ADV) creates new problems that can have a great impact on society. These problems have psychological, ethical, social, economic, and legal aspects. While the technological development of autonomous vehicles(AV) is rapidly advancing, discussions have emerged regarding the moral implications of giving control to autonomous machines. The moral dilemma is more noticeable when considering the impact and emotional significance of traffic accidents. Robots and other AI systems are now in the process of transition from performing well-defined tasks in closed environments to becoming important physical actors in the real world. No longer confined within the restraint of factories, robots are able to infiltrate urban environments, exert influence over humans and objects, and perform all kinds of tasks with humans. Moreover, AV is gaining attention as it promises numerous social and economic benefits while at the same time is able to influence humans themselves. Despite the optimistic expectation that AV will dramatically lower the rate of deaths and injuries caused by accidents, the destructive power of technology cannot be overlooked since it is directly related to human life. Algorithms that control AV should incorporate moral principles to guide decisions in situations of unavoidable harm. In this study, various types of AV's trolley dilemma were considered, and the challenges it posed to AI ethics and AI ethics education were discussed. First, the development status of AV and ethical issues were checked. Second, the progress of the study of the Moral Machine and its implications were examined. Lastly, the ethical dilemma of AV raises the AI ethics problem and the challenges it has in the education field.

참고문헌 (Reference)

• 1 임이정, "자율주행차량의 운행을 위한 법적 이슈" 한국교통연구원 23 (23): 75-91, 2016
• 2 이상돈, "자율주행자동차의 윤리화의 과제와 전망" IT와 법연구소 (15) : 281-325, 2017
• 3 변순용, "자율주행자동차의 윤리적 가이드라인에 대한 시론" 한국윤리학회 1 (1): 199-216, 2017
• 4 최경미, "자율주행자동차(Autonomous Vehicle) 도입을 위한 헌법적 연구" IT와 법연구소 (14) : 235-276, 2017
• 5 임이정, "자율 주행차량의 윤리적 문제 점검을 위한 시뮬레이션 연구" 130-137, 2017
• 6 이중기, "자율 주행 자동차 : 로봇으로서의 윤리와 법적 문제" 416 : 38-43, 2016
• 7 박형빈, "기계윤리 및 신경윤리학 관점에서 본 인공도덕행위자(AMA) 도덕성 기준과 초등도덕교육의 과제" 초등교육연구원 31 : 77-92, 2021
• 8 김준호, "‘폭주하는 전차’ 사례에 대한 형사법적 결론을 생각해보기 ― 자율주행자동차의 윤리적 딜레마에 관한 법학적 사유실험을 겸하여 ―" 법학연구원 29 (29): 1-36, 2019
• 9 Harris, J., "Who owns my autonomous vehicle? Ethics and responsibility in artificial and human intelligence" 27 (27): 599-609, 2018
• 10 Bonnefon, J. F., "The social dilemma of autonomous vehicles" 352 (352): 1573-1576, 2016
• 11 Etienne, H., "The dark side of the ‘Moral Machine’and the fallacy of computational ethical decision-making for autonomous vehicles" 13 (13): 85-107, 2021
• 12 Awad, E., "Moral machines: perception of moral judgment made by machines" Massachusetts Institute of Technology. 2017
• 13 Lex Fridman, "Mit autonomous vehicle technology study: Large-scale deep learning based analysis of driver behavior and interaction with automation" Institute of Electrical and Electronics Engineers (IEEE) 7 : 102021-102038, 2019
• 14 Fridman, L., "Human-centered autonomous vehicle systems : Principles of effective shared autonomy"
• 15 Du, Y., "Human-Computer Interaction. Interaction Technologies" Springer 117-132, 2018
• 16 Faulhaber, A. K., "Human decisions in moral dilemmas are largely described by utilitarianism:Virtual car driving study provides guidelines for autonomous driving vehicles" 25 (25): 399-418, 2019
• 17 Frank, D. A., "Human decision-making biases in the moral dilemmas of autonomous vehicles" 9 (9): 1-19, 2019
• 18 Evans, K., "Ethical decision making in autonomous vehicles : the AV ethics project" 26 (26): 3285-3312, 2020
• 19 Goodall, N. J., "Ethical decision making during automated vehicle crashes" 2424 (2424): 58-65, 2014
• 20 Klenk, M., "Charting Moral Psychology’s Significance for Bioethics: Routes to Bioethical Progress, its Limits, and Lessons from Moral Philosophy" 17 (17): 36-55, 2020
• 21 McManus, R. M., "Autonomous vehicles and the attribution of moral responsibility" 10 (10): 345-352, 2019
• 22 Cunneen, M., "Autonomous vehicles and avoiding the trolley (dilemma): vehicle perception, classification, and the challenges of framing decision ethics" 51 (51): 59-80, 2020
• 23 Anderson, J. M., "Autonomous vehicle technology : A guide for policymakers" Rand Corporation 2014
• 24 Applin, S., "Autonomous vehicle ethics: Stock or custom?" 6 (6): 108-110, 2017
• 25 Maurer, M., "Autonomous driving: technical, legal and social aspects" Springer Nature 2016
• 26 Lin, P., "Autonomous driving" Springer 69-85, 2016
• 27 Rowthorn, M., "Artificial Driving Intelligence and Autonomous Vehicle Ethics" Annals of Spiru Haret University 20 (20): 38-52, 2019
• 28 Greene, J. D., "An fMRI investigation of emotional engagement in moral judgment" 293 (293): 2105-2108, 2001
• 29 Nascimento, A. M., "A systematic literature review about the impact of artificial intelligence on autonomous vehicle safety" 21 (21): 4928-4946, 2019
• 30 Kuutti, S., "A survey of deep learning applications to autonomous vehicle control" 22 (22): 712-733, 2020
• 31 Rhim, J., "A deeper look at autonomous vehicle ethics: An integrative ethical decision-making framework to explain moral pluralism" 8 (8): 1-18, 2021
• 32 Novak, T. P., "A Generalized Framework for Moral Dilemmas Involving Autonomous Vehicles : A Commentary on Gill" 47 (47): 292-300, 2020