인공지능의 민사책임에 대한 소고 = A study on civil liability of Artificial Intelligence

국문 초록 (Abstract)

최근의 인공지능 기술의 발달은 그 속도나 규모의 면에서 인류사의 어느 시기보다 가장 빠른 변화를 가져오고 있다. 기술의 발달로 데이터베이스를 통하여 생성된 자료를 통한 훈련으로 의료용 인공지능의 한계가 극복되는 등, 2012년에 합성곱 신경망 (CNN)으로 이미지처리에 대한 딥러닝이 본격화 된 이래 인공지능 기술은 눈부시게 발달해 왔다. 최근의 로봇의 자연어 처리 발전에 고급자연어처리(Natural Language Processing, 이하 ‘NLP’)를 통하여 인공지능의 활용이 가속화 되고 있다. 이러한 NLP의 활용은 언어가 아무리 복잡하더라도 기계가 데이터를 식별하고 이해할 수 있게 되어 더욱 빠르고 정확한 생성형 인공지능의 발달의 초석이 되었다. 그렇다면 발달의 속도를 멈추지 않는 인공지능, 생성형 인공지능이 활용되는 시대에 인공지능의 활용으로 발생한 손해에 대해서는 인공지능이 가진 생래적인 특성인 예측불가능성과 불투명성을 시작으로 블랙박스 효과등의 특성을 고려하여 우리 민법의 책임원리에 인공지능의 민사책임을 대입해 보았다. 그러기 위해서는 먼저, 인공지능으로 인한 불법행위책임을 논의함에 있어서 인공지능의 기술 발달 단계를 고려한 법적 책임을 판단해 보고 ‘약한 인공지능’이라 하더라도 인공지능 개발자에 의하여 창조된, “지배 가능한 위험(Gefahr)에 해당” 될 수 있으며, 모든 유형은 아니더라도 일부에는 무과실책임인 위험책임의 적용 가능성이 있음을 살펴 보았다. 아울러, 인공지능에 적용가능한 민사책임을 과실책임과 무과실책임으로 나누어 검토하면서, 비교법적으로는 EU의 흐름도 살펴보았다.
그러나 무과실책임에 있어서 제조물책임법을 논의하면서 기존의 제조물책임법의 한계점을 극복하기 위한 대표적 사례로서 생성형 인공지능 기술을 활용한 의약품 제조에 위험책임을 적용할 수 없는지 그 가능성과 시사점을 살펴 보았다. 인류는 현재 가장 빠른 기술의 발달 시대와 폭발하는 빅 데이터의 시대에 살고 있으며 기술의 발달로 인하여 인류는 많은 이익을 누릴 수 있게 되었다. 기술의 발전에 따라서 사용자의 편의가 개선되고 막대한 부가 창출되는 만큼, 민사책임 영역에서의 위험책임의 의미가 더욱 의미를 가질 수 있다. 생성형 인공지능은 이미 신약개발에 소요되는 비용과 시간을 혁신적으로 줄여주어 제약회사에는 막대한 이윤을 주는 반면, 기존의 제조물책임법을 적용하더라도 설계상의 결함에 대하여 합리적인 대체가능성에 대한 면책가능성이 있어 피해자의 손해를 적절히 구제하기 어렵다. 생성형 인공지능의 시대, 의약품 제조라는 사례를 상정하여 보다 강화된 위험책임의 적용가능성을 고찰해 보았다.

다국어 초록 (Multilingual Abstract)

The recent development of artificial intelligence (AI) technology is bringing about changes at a faster pace and on a larger scale than any other period in human history. With technological advancements overcoming the limitations of medical AI through training with databases, AI technology has made remarkable progress since the inception of deep learning for image processing with convolutional neural networks (CNN) in 2012. The recent advancements in natural language processing (NLP) have accelerated the utilization of AI through sophisticated natural language processing, enabling machines to identify and understand data regardless of the complexity of the language. This has laid the foundation for the rapid and precise development of generative AI. In the era where generative AI is being utilized without pausing in its developmental speed, we considered the civil liability of AI in our civil law principles, taking into account the inherent characteristics of AI such as unpredictability, opacity, and the black box effect.
To do this, we first examined the legal liability considering the stages of AI technology development in discussing the tort liability caused by AI. Even “Weak AI,” created by AI developers, may fall under “Gefahr,” and while not all types, some may apply to strict liability in terms of risk liability. Furthermore, while reviewing civil liability applicable to AI under fault-based and no-fault liability, we also looked at the trends in the EU comparatively.
In discussing no-fault liability, particularly under the Product Liability Act, we examined the possibility and implications of applying risk liability to pharmaceutical manufacturing using generative AI technology as a representative example to overcome the limitations of the existing Product Liability Act. Humanity currently lives in an era of rapid technological development and exploding big data, enjoying numerous benefits due to these advancements. As user convenience improves and massive added value is created through technological progress, the meaning of risk liability in the realm of civil liability can gain more significance. Generative AI has already drastically reduced the costs and time required for new drug development, providing substantial profits to pharmaceutical companies. However, even if the existing Product Liability Act is applied, it may be difficult to adequately remedy the harm to victims due to the reasonable alternative possibility defense regarding design defects. In the era of generative AI, we examined the possibility of applying enhanced risk liability by assuming the case of pharmaceutical manufacturing.

참고문헌 (Reference)

• 1 양창수, "한국의 제조물책임" 서울대학교 법학연구소 42 (42): 2001
• 2 김상중, "한국의 위험책임 현황과 입법 논의-유럽의 논의와 경험을 바탕으로-" 한국민사법학회 (57) : 2011
• 3 고세일, "책임주체로서 지능형 인공지능 로봇" 한국재산법학회 37 (37): 2020
• 4 최경진, "지능형 신기술에 관한 민사법적 검토" 한국정보법학회 19 (19): 2020
• 5 김진우, "지능형 로봇과 민사책임" 한국법학원 (164) : 2017
• 6 김제완, "제조물책임법에 있어서 설계상의 결함의 판단기준 –합리적대체설계의 입증책임을 중심으로-" 법조협회 583 : 2005
• 7 권오승, "제조물책임법" 법문사 2003
• 8 오병철, "전자인격 도입을 전제로 한 인공지능 로봇의 권리능력의 세부적 제안" 법조협회 69 (69): 2018
• 9 이병석, "자동차손해배상보장법 제3조 단서 제2호에 관한 검토" 한국보험학회 65 : 2003
• 10 이상수, "임베디드 소프트웨어의 결함과 제조물책임 적용에 관한 고찰" 중앙대학교 법학연구원 39 (39): 2015
• 11 박신욱, "인공지능이 결합된 소비제품과 사업자의 책임-인공지능책임법안을 중심으로-" 한국소비자법학회 10 (10): 2024
• 12 박소영, "인공지능의 FATE(공정성․책임성․투명성․윤리의식)를 위한 입법 논의 동향과 시사점" 국회입법조사처 2023
• 13 김진우, "인공지능에 대한 전자인 제도 도입의 필요성과 실현방안에 관한 고찰" 한국법학원 (171) : 2019
• 14 신송이 ; 김제완, "인공지능에 대한 법인격 인정에 관한 법적 쟁점" 한국경영법률학회 33 (33): 2023
• 15 장호준, "인공지능에 대한 법인격 부여에 관한 소고-민사법적·인간 중심적 관점에 국한하여" 사법발전재단 (63) : 2023
• 16 정진명, "인공지능에 대한 민사책임 법리" 한국재산법학회 34 (34): 2018
• 17 이해원, "인공지능과 제조물책임" 한국정보법학회 25 (25): 2021
• 18 김영두, "인공지능과 자유의지" 연세대학교 법학연구원 30 (30): 2020
• 19 고세일, "인공지능과 불법행위책임 법리" 충남대학교 법학연구소 29 (29): 2018
• 20 최경진, "인공지능과 불법행위책임" 한국정보법학회 25 (25): 2021
• 21 이상용, "인공지능과 법인격" 한국민사법학회 89 : 2019
• 22 전정현 ; 김병필, "인공지능과 법률 서비스 : 현황과 과제" 한국법학원 2019
• 23 김화, "인공지능과 민사상책임" 이화여자대학교 생명의료법연구소 17 (17): 2023
• 24 성대규, "인공지능(소프트웨어)의 결함으로 인한 책임-독일 제조물 책임법의 적용상 해석론적 논의를 중심으로-" 충남대학교 법학연구원 34 (34): 2023
• 25 김윤명, "인공지능(로봇)의 법적쟁점에 대한 시론적 고찰" 한국정보법학회 20 (20): 2016
• 26 이도국, "인공지능(AI)의 민사법적 지위와 책임에 관한 소고" 한양대학교 법학연구소 34 (34): 2017
• 27 우승하 ; 김제완, "인공지능 활용에 따른 법적 책임과 윤리에 관한 동향" 충북대학교 법학연구소 12 (12): 2021
• 28 정진명, "인공지능 표시에 대한 고찰" 한국사법학회 26 (26): 2019
• 29 김진아, "인공지능 오류사고 민사책임에 대한 입법론적 검토" 한국재산법학회 39 (39): 2022
• 30 김진우, "인공지능 시스템의 책임 능력-전자인 제도의 도입 필요성에 관한 논의를 중심으로-" 23 (23): 2021
• 31 최민수, "인공지능 로봇의 오작동에 의한 사고로 인한 불법행위책임" 민사법의 이론과 실무학회 23 (23): 2020
• 32 오병철, "인공지능 로봇에 의한 손해의 불법행위책임" 연세대학교 법학연구원 27 (27): 2017
• 33 이수경, "인공지능 기술에 있어서 법인격 부여와 책임론" 한국재산법학회 39 (39): 2022
• 34 김진우, "인공지능 : 제조물책임법의 업데이트 여부에 관하여" 한국재산법학회 27 (27): 2017
• 35 이경규, "인(人)이외의 존재에 대한 법인격 인정과 인공지능 법적 지위에 관한 소고" 인하대학교 법학연구소 21 (21): 2018
• 36 윤석찬, "의약품의 무효능에 대한 제조물책임법의 적용과 한계" 한국재산법학회 31 (31): 2014
• 37 정영훈, "의약품 부작용 피해구제 제도 활성화를 위한 제언" (67) : 2016
• 38 윤석찬, "의약품 결함과 손해배상책임" 한국사법학회 19 (19): 2012
• 39 고학수, "유럽연합 인공지능법안의 개요 및 대응방안" (2) : 2021
• 40 이제우, "위험책임에서 일반조항의 도입가능성과 그 과제" 강원대학교 법학연구소 43 : 2014
• 41 이제희, "알고리즘의 취급에 대한 법적 논의" 한국비교공법학회 19 (19): 2018
• 42 김성미, "소형드론 운항자에 대한 동물점유자책임 유추해석의 가능성" 한국항공우주정책·법학회 34 (34): 2019
• 43 윤석찬, "소위 ‘약한 인공지능(AI)영역에서의 민사책임에 관한 연구" 한국민사법학회 (106) : 2024
• 44 김윤명, "생성형 인공지능(AI)모델의 법률문제" 한국정보법학회 27 (27): 2023
• 45 김윤명, "블랙박스를 열기위한 인공지능법" 박영사 2022
• 46 윤석찬, "불법행위책임과 위험책임에서의 책임면제 및 책임제한 이론에 관한 연구" 부산대학교 법학연구소 51 (51): 2010
• 47 김상중, "불법행위책임 성립요건에 관한 몇 가지 논의" 한국법과정책학회 20 (20): 2020
• 48 오병철, "법정채권법" 법문사 2021
• 49 김건우, "법적 주체로서 자율적 인공지능 로봇 I : 의의와 관점" 성균관대학교 법학연구원 30 (30): 2018
• 50 곽윤직, "민법주해 [ⅩⅧ]-채권11" 박영사 2005
• 51 이승현, "민법상 위험책임의 해석과 동적 체계론(Flexible System)의 역할에 대한 고찰" 성균관대학교 법학연구원 31 (31): 2019
• 52 김항중, "동물로 인해 발생한 민사상 불법행위책임에 관한 일고 – 미국의 과실책임과 엄격책임 분석을 중심으로-" 한국사법학회 28 (28): 2021
• 53 박규용 ; 김종현, "독일민법에 있어서 불법행위법의 발전과 위험책임" 법과정책연구원 13 (13): 2021
• 54 김병필, "대규모 언어모형 인공지능의 법적 쟁점" 한국정보법학회 26 (26): 2022
• 55 최광준, "고용을 위한 인공지능 알고리즘과 차별금지" 한국재산법학회 40 (40): 2023
• 56 최병록, "개정 제조물책임법" 박영사 2018
• 57 박규용, "개물림 사고에 있어서 견주(犬主)의 민사책임" 법과정책연구원 27 (27): 2021
• 58 Hayden Field, "The first fully AI-generated drug enters clinical trials in human patients"
• 59 "Proposal for a Directive of the European Parliament and of the Council on liability for defective products COM(2022)495"
• 60 European Parliament, "New Product Liability Directive, Briefing EU Legislation in Progress"
• 61 Searl, "Minds, Brains, and Programs" 3 : 03-, 1980
• 62 Expertd Group on Liability and New Technologies-New Technologies Formation, "Liability for Aritificial Intelligence and other emerging digital technologies" 2019
• 63 Georg Borges, "Liability for AI Systems Under Current and Future Law-An overview of the key changes envisioned by the proposal of an EU-directive on liability for AI" 2023
• 64 Elena Canorea, "How Generative AI is changing the Industrial Sector"
• 65 Peng Zhang, "Genernative AI in Medicine and Healthcare: Promises, Opportunities, and Chanllenges" 15 (15): 2023
• 66 McKinsey & Company, "Generative AI in the pharmaceutical industry: Moving from hype to reality" 2024
• 67 "Explanaoty Memorandum, Proposal for a Directive of the European Parliament and of the council on adapting non-contractual civil liability rules to artificial intelligence, (AI Liability Directive) ; COM(2022) 496 final"
• 68 M. Scharth, "Evolution not revolution: why GPT-4 is notable, but not ground breaking"
• 69 Krystal Hu, "ChatGPT sets record for fastes-growing user base-analyst note"
• 70 European Commission, "COM/2021/206 final, 21. 4"
• 71 Arash Keshavarzi Arshadi, "Artificial intelligence for COVID-19 Drug Discovery and Vaccine Development" 3 : 6-, 2020
• 72 Laurie A. Harris, "Artificial Intelligence:Overview, Recent Advances, and Considerations for the 117th Congress - Perspectives on Regulating Artificial Intelligence" CRS 2023
• 73 이수경, "AI시대 인공지능 제조물에 대한 손해배상 책임에 관한 연구 : 완전 자율주행자동차를 중심으로" 부산대학교 법학전문대학원 2021
• 74 김훈주, "AI(Artificial Intelligence)에 대한 법인격 부여의 타당성 검토" 충북대학교 법학연구소 31 (31): 2020
• 75 서종희, "4차 산업혁명시대 위험책임의 역할과 한계-인공지능 로봇에 의해 발생한 손해의 책임귀속을 고려하여" 사법발전재단 1 (1): 2018
• 76 이재목, "2022년 EU 제조물책임지침 개정안의 내용과 그 시사점" 홍익대학교 법학연구소 24 (24): 2023