보건의료에서의 인공지능 적용과 관련된 법적 과제에 대한 개관 = Consideration of legal issues related to the application of artificial intelligence in health care

다국어 초록 (Multilingual Abstract)

AI has the potential to be used in planning and resource allocation in health and social care services. Using AI to analyse clinical data, research publications, and professional guidelines could also help to inform decisions about treatment.
AI has applications in fields that are subject to regulation, such as data protection, research, and healthcare. However, AI is developing in a fast-moving and entrepreneurial manner that might challenge these established frameworks. The use of AI raises ethical and legal issues, including: the potential for AI to make erroneous decisions; the question of who is responsible when AI is used to support decision-making; inherent biases in the data used to train AI systems; ensuring the protection of potentially sensitive data; securing public trust in the development and use of AI technologies.
AI applications in healthcare make use of data that many would consider to be sensitive and private. Using data that raise privacy concerns should go beyond compliance with the law to take account of people’s expectations about how their data will be used. Reliability and safety are key issues where AI is used to control equipment, deliver treatment, or make decisions in healthcare. Machine learning technologies can also be particularly opaque because of the way they continuously tweak their own parameters and rules as they learn. This creates problems for validating the outputs of AI systems, and identifying errors or biases in the data. Further challenges include the need to ensure that the way AI in healthcare is developed and used is transparent, accountable, and compatible with public interest, and balanced with the desire to drive innovation.

국문 초록 (Abstract)

미래에는 인공지능 시스템이 더욱 발전하여 사람의 개입이나 입력 없이 더 넓은 범위의 작업을 수행할 수 있게 될 것이다. 이러한 경향은 보건의료분야에 더욱 실현된다면 환자의 이익이나 보건정책에 이득을 가져올 수 있지만 수반되는 위험의 정도도 더욱 심화될 수 있다. 첨단 인공지능 시스템으로의 혁신이 진일보할수록 인공지능의 알고리즘이 법주체성을 가질 수 있는지에 대한 논쟁은 계속적으로 이어질 것으로 보인다. 보건의료에서 인공지능 시스템이 안전하고 윤리적인 이용을 담보할 수 있을 것인지, 누가 이러한 윤리적 정의를 구현할 수 있도록 결정할 것인지 또는 인간에게 적용하는 어떠한 책무를 인공지능 시스템에 적용할 수 있거나 적용되어야 할 것인지 여부, 문제가 발생하였을 때 새로운 책임법리가 필요한지에 대해서는 계속적 논의가 진행되어야 할 필요가 있다. 결국 이러한 논의는 윤리적 과제이자 우리 사회가 당면한 법적 과제가 되는 것이다.
보건의료에의 인공지능의 적용한계로서 신뢰도와 오류 그리고 이에 따른 안전의 문제를 간과할 수 없다. 인공지능 소프트웨어가 추천한 치료법과 의료진이 판단한 치료법간의 선택으로 인해 결과적으로 환자에게 악결과가 발생할 가능성이 상존하고 있다는 점에서 인공지능 시스템의 자동화된 의사결정에 책임이 있는 주체가 누구인지 여부와 부정확한 진단이나 처방결과로 인한 피해구제에 대한 손해배상 등의 법적 책임의 한계를 설정하는 것이 필요하다. 인공지능 프로그램의 제작자, 인공지능이 탑재된 의료기기의 소유자 또는 이들의 운용자 등이 손해발생에 기여한 정도에 따라 책임을 부담하여야 할 것이다.
또한 데이터의 편향성을 통한 알고리즘 자체에 편향성이 포함될 수 있고 이를 증폭 · 강화하는 경향으로 진전될 수 있다. 알고리즘의 편향성으로 인해 직접·간접의 차별이 야기될 수 있고 그러한 차별로 인한 피해구제를 어떻게 접근할 것인가에 대해서는 아직 논의의 단계이기는 하지만, 알고리즘 자체의 불투명성으로 인해 전통적인 책임법리만으로 책임소재를 규명하거나 책임문제를 해결하기는 상당한 어려움이 있다. 알고리즘 불투명성에 따른 차별적 결과에 대해서는 알고리즘의 책무개념을 검토할 수 있으며, 행위를 논의의 중점에 두고 과연 행위과정에서 의무준수에 대한 숙지, 누가 책무를 부담할 것인지 여부를 판단하여 사전적으로 기술적, 법적, 제도적 관점에서 문제해결을 시도할 필요가 있다. 인공지능 적용으로 인한 위험 대응방안으로 규제의 수단을 상정할 수 있지만, 우선적으로는 전문위원회 또는 협의체 기구의 상설을 통해 기술혁신과 안전과 윤리적 이용 사이의 갈등을 조정하고 가이드라인을 설정하는 등의 인공지능 거버넌스 구축의 방법으로 접근하는 것이 합리적이라고 보인다.

참고문헌 (Reference)

• 1 권건보, "정보접근권의 실효적 보장에 관한 고찰 ― 정보주체의 정보접근권을 중심으로 ―" 미국헌법학회 29 (29): 1-43, 2018
• 2 김성용, "인공지능의 개인정보 자동화 처리가 야기하는 차별 문제에 관한 연구" 법학연구소 60 (60): 311-362, 2019
• 3 백경희, "인공지능을 이용한 의료행위와 민사책임에 관한 고찰" 법조협회 66 (66): 90-121, 2017
• 4 이중원, "인공지능에게 책임을 부과할 수 있는가?: 책무성 중심의 인공지능 윤리 모색" 한국과학철학회 22 (22): 79-104, 2019
• 5 정정원, "인공지능발달에 따른 형법적 논의" 17 (17): 2016
• 6 정필운, "인공지능기술 발전에 조응한 법학의 대용" 2017
• 7 고학수, "인공지능과 차별" 한국법학원 171 : 199-277, 2019
• 8 김영두, "인공지능과 자유의지, 인공지능시대의 법적 과제" 2017
• 9 박동균, "인공지능과 내과 의사의 미래" 대한내과학회 92 (92): 235-238, 2017
• 10 김태오, "인공지능과 개인정보보호 - 불필요한 갈등 증가에 대한 관견(管見) -" 법학연구소 11 (11): 131-146, 2018
• 11 이도국, "인공지능(AI)의 민사법적 지위와 책임에 관한 소고" 법학연구소 34 (34): 319-339, 2017
• 12 류지웅, "인공지능(AI)로봇의 법적 문제에 관한 연구 - EU의 RoboLaw의 입법동향을 중심으로 -" 한국토지공법학회 78 : 301-326, 2017
• 13 손영화, "인공지능(AI) 시대의 법적 과제" 한국법정책학회 16 (16): 305-329, 2016
• 14 김재선, "인공지능 의료기기 위험관리를 위한 규범론적 접근 ― 인공지능 소프트웨어 규범화 논의를 중심으로 ―" 한국공법학회 46 (46): 131-154, 2017
• 15 선지원, "인공지능 알고리즘 규율에 대한 소고- 독일의 경험을 중심으로 -" 법학연구소 12 (12): 26-43, 2019
• 16 이인영, "인공지능 로봇에 관한 형사책임과 책임주의 -유기천교수의 법인의 행위주체이론과 관련하여-" 법학연구소 18 (18): 31-57, 2017
• 17 윤혜선, "인공지능 기술을 윤리적으로 탐구하다: 영국의 데이터윤리혁신센터 설치사례" 33 : 2018
• 18 윤상오, "인공지능 기반 공공서비스의 주요 쟁점에 관한 연구: 챗봇(ChatBot) 서비스를 중심으로" 한국공공관리학회 32 (32): 83-104, 2018
• 19 김광수, "인공지능 규제법 서설" 한국토지공법학회 81 : 279-310, 2018
• 20 김길수, "인공지능 거버넌스에 관한 탐색적 연구" 한국자치행정학회 33 (33): 219-236, 2019
• 21 개인정보보호위원회, "유럽 일반 개인정보보호법(GDPR) 번역본"
• 22 배현아, "보건의료법제 하에서 인공지능기술의 의료영역 도입의 의의와 법적 문제" 법조협회 66 (66): 43-89, 2017
• 23 고학수, "민사판례연구" 박영사 2016
• 24 신동환, "人工知能로봇과 賠償責任에 관한 小考" 안암법학회 (55) : 35-68, 2018
• 25 O’Mara-Eves A, "Using text mining for study identification in systematic reviews : a systematic review of current approaches" 4 : 2015
• 26 Riddhi Doshi, "Tuberculosis control, and the where and why of artificial intelligence" 3 (3): 2017
• 27 Andreas Matthias, "The responsibility gap : Ascribing responsibility for the actions of learning automata" 6 (6): 2004
• 28 Cohen IG AR, "The legal and ethical concerns that arise from using complex predictive analytics in health care" 33 (33): 2014
• 29 Will Knight, "The dark secret at the heart of AI" 2017
• 30 Cosima Gretton, "The dangers of AI in health care : risk homeostasis and automation bias" 2017
• 31 Nuffield Council on Bioethics, "The collection, linking and use of data in biomedical research and healthcare" ethical issues 2015
• 32 Hainc N, "The bright, artificial intelligence-augmented future of neuroimaging reading" 8 : 2017
• 33 Nils J. Nilsson, "The Quest for Artificial Intelligence: A History of Ideas and Achievements" Cambridge University Press 2010
• 34 Gabriel Hallevy, "The Criminal Liability of Artificial Intelligence Entities-From Science Fiction to Legal Social Control" 2010
• 35 Kassahun Y, "Surgical robotics beyond enhanced dexterity instrumentation" 11 : 2016
• 36 Alvin Rajkomar, "Scalable and accurate deep learning for electronic health records" 1 (1): 2018
• 37 US National Science and Technology Council, "Preparing for the future of artificial intelligence" 2016
• 38 Agrawal A, "Prediction Machines; The simple Economics of Artificial Intelligence" Havard Business Press 2018
• 39 Jamal S, "Predicting neurological adverse drug reactions based on biological, chemical and phenotypic properties of drugs using machine learning models" 7 : 872-, 2017
• 40 ARTIFICIAL INTELLIGENCE, "One Hundred Year Study on Artificial Intelligence(AI100)" Stanford University, REPORT OF THE 2015 STUDY PANE 2006
• 41 Wachter R, "Nuffield Council on Bioethics, Artificial intelligence (AI) in healthcare and research" Bioethics Briefing Note 2018
• 42 Royal Society, "Machine learning: the power and promise of computers that learn by example" 2017
• 43 Leung MKK, "Machine Learning in Genomic Medicine : A Review of Computational Problems and Data Sets" 104 : 2016
• 44 Caruana R,, "Intelligible models for healthcare" 2015
• 45 Burrell J, "How the machine ‘thinks’" Big Data & Society 2016
• 46 Shaban-Nejad, A., "Health intelligence : how artificial intelligence transforms population and personalized health" 1 (1): 2018
• 47 Moore SF, "Harnessing the power of intelligent machines to enhance primary care" 68 : 2018
• 48 Sharkey A, "Granny and the robots : ethical issues in robot care for the elderly" 14 : 2012
• 49 Bird S, "Exploring or exploiting? Social and ethical Implications of autonomous experimentation in AI" 2016
• 50 Esteva A, "Dermatologist-level classification of skin cancer with deep neural networks" 542 : 115-, 2017
• 51 Wang D, "Deep learning for identifying metastatic breast cancer"
• 52 Nesta, "Confronting Dr Robot: creating a people-powered future for AI in health" 2018
• 53 Williams K, "Cheaper faster drug development validated by the repositioning of drugs against neglected tropical diseases" 12 : 2015
• 54 Rajpurkar P, "CheXNet: Radiologist-level pneumonia detection on chest x-rays with deep learning arXiv preprint"
• 55 Dilsizian SE, "Artificial intelligence in medicine and cardiac imaging" 16 (16): 2014
• 56 House of Lords Select Committee on Artificial Ingelligence, "AI in the UK : ready, willing and able?" Reform Thinking on its own : AI in the NHS 2018
• 57 Brent Mittelstadt, "3THICS- a reinvention of ethics in the digital age?" 2017