유럽평의회의 ‘인권·민주주의·법치주의 관점에서 본 위험 및 영향평가(HUDERIA)’가 「EU 인공지능법」상 ‘기본권 영향평가(FRIA)’에 미치는 영향 및 국내 시사점 = The Council of Europe's “The Risk and Impact Assessment of AI Systems from the Point of View of Human Rights, Democracy and the Rule of Law (HUDERIA)” and its implications for the implementation of the “Fundamental Rights Impact Assessment (FRIA)” un

국문 초록 (Abstract)

챗GPT 등 생성형 인공지능(Generative AI)의 등장 이후, 전 세계는 인공지능(이하 AI)가 가져다줄 긍정적 기회에 열광했다. 그러나 AI의 급속한 발전은 인류가 미처 예상치 못한 도전 과제를 안겨주기도 한다. 이에 기존의 기술 발달과정에서 주로 “우선허용, 사후규제”라는 규제 방식을 적용했던 것과는 다른 방식으로 인공지능 기술 규제에 접근할 필요가 있다. 유럽연합(EU)이 세계 최초로 인공지능을 포괄적으로 규제하는 인공지능법을 제정한 목적은 AI 산업 분야에서 빅테크 기업의 독주를 막고 공정한 경쟁이 가능한 AI 생태계를 조성하며 AI로 인한 인간의 건강, 안전과 기본권의 침해를 예방하고자 함이다. 「EU 인공지능법」상 잠재적 위험도에 따라 4가지로 분류된 AI 시스템 중 고위험 AI 시스템은 이 법 제27조에 따라 ‘기본권 영향평가(Fundamental Rights Impact Assessment, FRIA)’의 대상이 된다.
2025년 1월 21일 제정되어 2026년 1월 22일 시행을 앞둔 우리나라 인공지능기본법도 고영향 인공지능과 관련하여 기본권 영향평가 의무를 규정하고 있다. 2025년 6월 중 과학기술정보통신부에서 발표할 것으로 예상되는 인공지능기본법 시행령에 기본권 영향평가와 관련하여 어떠한 내용이 담기게 될지는 아직 모른다. 그러나, 유럽의 사례를 통해 기본권 영향평가에 관한 구체적인 내용을 참고해볼 수 있을 것이다.
이 연구는 “「EU 인공지능법」 이 기본권 영향평가를 도입한 배경은 무엇인가?”, “EU의 입법자들은 기본권 영향평가를 어떻게 구성했는가?”, “기본권 영향평가 제도 개발 시, 어떤 방법론적 기준을 따라야 하는가?”와 같은 질문들에 답을 찾는 것을 목표로 한다. 「EU 인공지능법」은 EU 인공지능사무국(AI Office)이 기본권 영향평가에 관한 보다 구체적인 양식과 기준을 제시하도록 규정하고 있으나, 아직 이에 대해 EU 인공지능사무국의 발표는 없는 상황이다. 그러나 이미 유럽평의회가 제안한 인공지능에 관한 ‘인권•민주주의•법치주의 관점에서 본 위험 및 영향평가(The Risk and Impact Assessment of AI Systems from the Point of View of Human Rights, Democracy and the Rule of Law, HUDERIA)’ 제도를 「EU 인공지능법」 관련 각종 시행 규정을 만들어야 할 EU 집행위원회는 물론이고, 기업들도 자체 AI 윤리 가이드라인을 마련하는 데에 참고하고 있다.
EU의 고위험 AI 시스템 관련 규제의 시행은 2026년 8월경이므로 결과적으로 우리나라가 EU보다도 약 반년 먼저 법률이 정한 기본권 영향평가를 시행하게 될 것이다. 이에 우리나라도 EU가 차용하고 있는 유럽평의회가 제시한 HUDERIA를 참고하여 고영향 AI에 관한 기본권 영향평가 제도를 구체화해볼 수 있을 것이다.

다국어 초록 (Multilingual Abstract)

Since the emergence of generative AI such as ChatGPT, the world has been enthusiastic about the positive opportunities that AI (hereinafter referred to as AI) will bring. However, the rapid development of AI has also presented challenges that humanity had not anticipated. Therefore, it is necessary to approach AI technology regulation in a different way than the traditional “permit first, regulate later” approach that has been applied in the development of existing technologies. The European Union (EU) has become the first in the world to enact comprehensive AI legislation, the EU AI Act, with the aim of preventing the dominance of big tech companies in the AI industry, fostering a fair competitive AI ecosystem, and preventing harm to human health, safety, and fundamental rights caused by AI. Under the EU AI Act, AI systems are classified into four categories based on their potential risk level, and high-risk AI systems are subject to a Fundamental Rights Impact Assessment (FRIA) under Article 27 of the Act.
South Korea's AI Basic Act, enacted on January 21, 2025, and scheduled to take effect on January 22, 2026, also mandates a fundamental rights impact assessment for high-impact AI. However, it is currently unclear what specific provisions related to the fundamental rights impact assessment will be included in the implementing regulations of the AI Basic Act, which are expected to be announced by the Ministry of Science and ICT in June 2025. However, we can refer to specific details regarding fundamental rights impact assessments in European cases.
This study aims to answer questions such as, “What is the background behind the introduction of fundamental rights impact assessments in the EU AI Act?”, “How did EU legislators structure fundamental rights impact assessments?”, and “What methodological standards should be followed when developing a fundamental rights impact assessment system?” The EU AI Act stipulates that the EU AI Office should provide more specific formats and standards for fundamental rights impact assessments, but the EU AI Office has not yet made any announcements on this matter. However, the European Commission, which must establish relevant implementing regulations, as well as companies, are already referring to “The Risk and Impact Assessment of AI Systems from the Point of View of Human Rights, Democracy and the Rule of Law(HUDERIA)” system proposed by the Council of Europe for AI to develop their own AI ethics guidelines.
The implementation of EU regulations on high-risk AI systems is scheduled for August 2026, meaning that South Korea will implement the fundamental rights impact assessment mandated by law approximately six months before the EU. As such, South Korea could consider referencing the HUDERIA framework proposed by the Council of Europe, which the EU intends to adopt, to further concretize its own fundamental rights impact assessment system for high-impact AI.