인공지능 발전과 신뢰 기반 조성 등에 관한 기본법과 의료 인공지능의 규제 = South Korea’s Framework Act on the Development of Artificial Intelligence and the Creation of a Foundation for Trust and Its Implications for Medical AI

국문 초록 (Abstract)

2024년 12월 제정된 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」은 인공지능 기술의 발전과 신뢰성 확보를 목표로 하는 포괄적 법률로 정부의 정책 방향 설정과 실행을 위한 국가의 의무 규정을 포함한다. 또한 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」은 사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템을 "고영향 인공지능"으로 정의하고 안전성과 신뢰성을 높일 수 있는 조치와 함께 자율적 검증과 인증을 장려한다. 그러나 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」은 인공지능 사업자의 의무 위반에 대하여 형사 처벌등의 강한 제재를 예정하고 있지 않은 半연성규범으로 평가된다. 이는 보다 먼저 입법된 EU의 Artificial Intelligence Act가 위반시 무거운 제재 규정을 두고 있는 것과 대비가 된다.
연성규범으로 인공지능과 같은 신기술을 규율하는 것은 강제력이 없다는 단점도 있지만, 개정이 쉬우므로 변화에 빠르게 대처할 수 있고 이해 당사자들의 신뢰를 이끌어내기 용이하다는 장점이 있다. 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」이 이와 같은 연성규범의 장점을 발휘할 수 있다. 특히 의료 AI에 국한하여 보면 우리나라는 이미 식품의약품안전처가 의료기기법과 디지털의료제품법을 통하여 규제를 하고 있고, 연구대상자 보호제도처럼 연성규범이지만 경성규범과 같은 규범력을 획득한 선례도 있으므로, 半연성규범의 실질을 가진 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」이 의료 AI의 규율에 적절하다. EU의 Artificial Intelligence Act가 기존 EU의 Medical Devices Regulation에 의한 의료 AI 규제와의 중복 또는 충돌, 임상시험의 근거 미비, 의료인 및 의료기관에 대한 부담스러운 의무 부과, AI가 탑재된 의료기기의 위험등급 상향 문제 등의 비판을 받고 있는데, 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」이 의료 AI에 대하여 적용되는 과정에서 유사한 부작용이 발생할 소지가 있으나 법률의 半연성규범적 성격이 이를 어느 정도 완화해 줄 것으로 예상된다.
종합하면 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」은 안전성과 신뢰성을 확보하는 동시에 혁신을 저해하지 않도록 균형을 모색한 법으로 평가되고 탄력적인 법 운용을 통하여 의료 AI 산업에 미치는 부정적 영향을 최소화할 수 있는 여지가 있다. 다만, 향후 시행 과정에서 의료를 포함하여 각 영역별 특성을 고려한 운용 및 중복 규제 방지책 마련이 필요하다.

다국어 초록 (Multilingual Abstract)

South Korea’s "Framework Act on the Development of Artificial Intelligence and the Creation of a Foundation for Trust" ("Framework Act on Artificial Intelligence"), enacted in December 2024, is a comprehensive law aimed at securing the development and reliability of artificial intelligence technology and includes mandatory regulations on the state to set and implement the government's policy direction. In addition, the Framework Act on Artificial Intelligence defines AI systems that have a significant impact on human life, physical safety, and fundamental rights or are likely to pose a risk as "high-impact artificial intelligence". The Act encourages voluntary validation and certification of "high-impact artificial intelligence", along with measures to enhance safety and reliability, without imposing strong sanctions such as criminal penalties or heavy fines. In this regard, the Framework Act on Artificial Intelligence is a "semi-soft law." The semi-soft law approach is in contrast to the EU's earlier Artificial Intelligence Act, which has a variety of mandatory regulations and heavy penalties for violations.
Regulating innovative technologies, such as artificial intelligence, with soft law has many advantages: it can respond to technological advances quickly and is better at drawing consensus and building the trust of stakeholders. For medical AI in particular, a soft-law approach makes even more sense: Korea's Ministry of Food and Drug Safety already regulates medical AI through the Medical Devices Act and the Digital Medical Products Act, and soft law plays a valuable role in the healthcare sector and is widely respected and followed. The Framework Act on Artificial Intelligence will likely become an effective norm for medical AI in South Korea.
The Framework Act on Artificial Intelligence seeks to balance safety and reliability while not hindering innovation. A flexible implementation of the law that takes into account the uniqueness of different industries is still necessary to minimize the negative impact of horizontal regulation.