AI기반 의료산업의 규제 동향과 법적 과제 = Regulatory Trends and Legal Challenges in the AI-based medical industry

국문 초록 (Abstract)

본 논문은 AI 기반 의료산업의 최신 동향과 이를 둘러싼 규제 및 법적 과제를 중심으로, 미국, EU, 한국의 입법 사례를 비교하고 법적 쟁점을 다루었다. AI는 의료 산업에서 진단, 데이터 분석, 치료 지원 등 다양한 분야에 활용되며, 의료 서비스의 질과 효율성을 높일 것으로 기대되고 있다. 이러한 AI의 유용성에도 불구하고 개인정보 보호, 편향 및 차별 문제, 법적 책임 등 여러 윤리적 및 법적 문제들이 제기되고 있고, 이에 대응하여 각 국은 AI 관련 규제입법들을 추진하고 있다. 미국의 경우 AI의 공정성과 투명성을 높이기 위해 알고리즘책임법안(Algorithmic Accountability Act)과 의료기기 인허가 제도에서 혁신적인 의료기기 프로그램을 도입하여 AI 의료기기에 대한 규제를 강화하고 있다. EU는 2024년 AI 규제법(AI Act)을 제정하며, AI의 위험도를 4단계로 구분하여 의료 분야의 AI는 고위험군으로 분류하여 엄격하게 규제하고 있다. 이러한 국제적 동향에 맞추어 우리나라에서도 인공지능 의료기기의 허가·심사 가이드라인을 통해 규제를 시작했으며, 국회에서는 AI 신뢰성과 안전성 확보를 위한 법률 제정이 활발하게 논의되고 있다. 그럼에도 불구하고 여전히 AI 의료기기가 제공한 진단 결과로 환자에게 피해가 발생했을 경우에 책임소재를 규명하기 위한 법리 정립이 필요하다. 둘째, AI 학습과정에서 대규모의 개인정보가 사용되며, 가명정보 처리와 재사용이 문제가 된다. 이에 대해 최근 개인정보보호법 개정을 통해 자동화된 결정에 대한 정보주체의 대응권을 규정하였지만 구체적인 설명의 범위나 내용에 대해서는 다루지 않고 있다. 셋째, AI가 과거 데이터에 기반해 학습하는 과정에서 편향된 결론을 내리거나 특정 집단을 차별할 위험이 있으며, 이를 방지하기 위한 AI 신뢰성과 공정성 확보 방안이 필요하다, 그리고 마지막으로 AI가 독립적으로 의사결정을 내리는 단계에 이르면 법적 주체로 인정할 것인지 논의가 필요하며, 특히 범용인공지능(AGI)의 출현으로 인해 법인격이 부여될 경우 기존의 의료행위 주체 및 그에 따른 책임귀속여부에 대한 전면적인 재검토가 필요하다.

다국어 초록 (Multilingual Abstract)

This Thesis deals with the development of AI-based medical industries and the regulatory and legal challenges surrounding them. While AI has the potential to improve efficiency in healthcare by supporting diagnosis, data analysis, and treatment across various areas, ethical and legal concerns, such as privacy protection, bias, discrimination, and legal liability, have emerged. To address these, countries are moving forward with AI-related regulations, and this paper analyzes and compares the legislative developments in the United States, the EU, and South Korea.
In the U.S., efforts to increase AI fairness and transparency include the Algorithmic Accountability Act and the adoption of innovative medical device programs to regulate AI medical devices. The EU, in 2024, enacted the AI Regulation (AI Act), which categorizes AI risks into four levels and imposes strict regulations on high-risk AI, including in the medical field. South Korea, in turn, has introduced guidelines for the approval and review of AI medical devices and is actively promoting legislation to ensure AI reliability and safety.
Despite these regulatory advancements, unresolved issues remain. First, when patients are harmed due to the diagnostic results provided by AI medical devices, establishing clear legal responsibility is essential. Second, large volumes of personal data are used in AI training, leading to challenges related to the processing and reuse of pseudonymized data. Although a recent amendment to South Korea’s Personal Information Protection Act grants individuals rights over automated decisions, the specifics of explanation requirements remain unclear. Third, as AI learns from historical data, there is a risk of biased conclusions or discrimination against certain groups, underscoring the need for measures to ensure AI reliability and fairness. Finally, as AI advances to a stage where it can make independent decisions, there is a need to consider granting legal status to AI. The emergence of Artificial General Intelligence (AGI) may further necessitate a fundamental review of whether AI should hold legal personhood and if so, how to define the subject of medical acts and assign corresponding liability.
This paper underscores the importance of balancing the growth of AI medical technology with appropriate regulatory safeguards and highlights the necessity for dedicated legal frameworks in healthcare to address these unique challenges.