인공지능 기반 자동화 행정행위와 민주적 법치국가 원리 = AI-based automated administrative acts and the principle of democratic rule of law

국문 초록 (Abstract)

‘인공지능 기반 자동화 행정행위’란, 인공지능 알고리즘에 의해 작동하는 자동화 시스템에 의하여 최종적인 의사결정까지 이루어지는 자동화 행정행위를 말한다. 인공지능 기반 자동화 행정행위는, 인공지능 알고리즘이 인간의 의사작용을 완전히 대체하고, 스스로 학습･판단･결정할 수 있는 자율성을 발휘함으로써 이루어지는데, 이는 현재 우리 공법체계가 전제하는 행정행위 개념이 정립되던 때에는 상상할 수 없었던 행정행위 유형이다. 이에 인공지능 기반 자동화 행정행위에는 전통적인 행정행위와는 다른 법적 평가와 의미 부여가 요구되고, 이를 고려한 독자적인 규율체계가 형성될 것이 요구된다.
위와 같은 인공지능 기반 자동화 행정행위를 통해 행정의 효율성 및 합리성이 크게 제고될 것으로 기대되기도 하지만, 다른 한편으로는 인공지능의 자율성과 불투명성 등의 특성으로 인해 인공지능 기반 자동화 행정행위가 기존의 법체계와 조화를 이루지 못하거나 헌법적 가치를 침해하는 부작용이 우려되기도 한다. 이에 인공지능 기반 자동화 행정행위에 관한 독자적 규율체계를 구축함에 있어서는, 인공지능기술의 이점을 추구하면서도 그 부작용이나 역기능을 최소화하기 위해 노력함으로써 양자 사이의 균형을 이루는 것이 요구되는데, 이때 민주적 법치국가 원리가 형량의 지침인 동시에 한계가 된다.
① 인공지능이 자율성을 가지고 인간의 의사작용을 완전히 배제하는 것은 인간인 공무원의 의사작용을 전제로 하는 조직적･인적 민주적 정당성 확보를 어렵게 하고, 인공지능 알고리즘의 불투명성은 행정행위의 내용이 국민의 의사로 소급되어야 인정되는 실질적･내용적 민주적 정당성 확보를 어렵게 하는 요인이 된다. 그리고 자율성과 불투명성을 특징으로 하는 인공지능 기술의 복잡성은 ② 인공지능 기반 자동화 행정행위에 관한 법적 규율체계를 갖추는 것을 어렵게 하여 법치행정의 위기를 야기하며, ③ 절차적 정당성 확보를 어렵게 한다. 이러한 민주적 법치국가 원리 측면에서의 문제는 결국 인공지능 알고리즘의 투명성과 설명가능성, 그리고 이를 기반으로 한 통제가능성을 확보함으로써 해결될 수 있다. 따라서 인공지능 기반 자동화 행정행위에 관한 규율체계는, 민주적 법치국가 원리에 부합하는 범위 내에서, 인공지능 알고리즘의 투명성과 설명가능성 및 통제가능성이 확보되는 방향으로 구축되어야 할 것이다.

다국어 초록 (Multilingual Abstract)

‘AI-based automated administrative acts’ refers to automated administrative acts in which the final decisions are made by an automated system operated by artificial intelligence(AI) algorithms. AI-based automated administrative acts are performed by AI algorithms that completely replace human decision-making and exercise autonomy to learn, judge, and decide on their own. This type of administrative act was unimaginable when the concept of administrative acts was established in our current legal system. Therefore, AI-based automated administrative acts require a distinct legal evaluation compared to traditional administrative acts, and a new regulatory system should be established with consideration of these differences.
AI-based automated administrative acts are expected to significantly improve the efficiency and rationality of administration. However, on the other hand, concerns arise due to the autonomy and opacity of AI, which may lead to disharmony with the existing legal system and violation of constitutional values. Therefore, in building a new regulatory framework for AI-based automated administrative acts, it is crucial to find a balance between harnessing the advantages of AI technology and minimizing its side effects. In this process, the principle of the democratic rule of law serves as both a guide and a constraint.
① The autonomy of AI, excluding human decision-making, poses challenges to securing organizational-personal democratic legitimacy, which is predicated on the decision-making of human officials. Furthermore, the opacity of AI algorithms complicates the achievement of substantial democratic legitimacy, which is recognized only when the contents of administrative acts are retroactively recognized as the will of the people. The complexity of AI technology, stemming from its autonomy and opacity, ② makes it difficult to establish a legal regulatory system for AI-based automated administrative acts, causing a crisis in the rule of law, and ③ makes it difficult to secure procedural legitimacy. The aforementioned problems from the perspective of democratic rule of law can ultimately be addressed by ensuring transparency, explainability, and controllability of AI algorithms. Therefore, the regulatory framework for AI-based automated administrative acts should be designed to ensure the transparency, explainability, and controllability of AI algorithms within the principle of the democratic rule of law.

참고문헌 (Reference)

• 1 한수웅, "헌법학" 법문사 2020
• 2 김남진, "행정의 민주적 정통화론" (290) : 9-13, 2017
• 3 법제처, "행정기본법 해설서"
• 4 김유환, "행정기본법 제정 및 행정절차법 개정에 대한 평론 — 행정법이론체계에 대한 함의와 입법적 과제 —" 행정법이론실무학회 (68) : 1-46, 2022
• 5 이재훈, "전자동화 행정행위에 관한 연구 -독일 연방행정절차법 제35조의a를 중심으로-" 법학연구원 29 (29): 143-192, 2017
• 6 이재훈, "전자동화 행정행위 도입 후 독일 행정절차법제 논의의 전개 양상" 한국비교공법학회 19 (19): 481-515, 2018
• 7 권은정, "자동적 처분의 행정법적 제 문제 — 처분의 형식･절차 및 구제에 관한 쟁점을 중심으로 —" 법학연구소 38 (38): 89-114, 2021
• 8 이희옥, "인공지능의 의사결정에 대응한 자기결정권의 보장에 관한 연구" 한양대학교 2020
• 9 양종모, "인공지능의 위험의 특성과 법적 규제방안" 법학연구소 17 (17): 537-565, 2016
• 10 안준모, "인공지능을 통한 행정의 고도화 : 기회와 도전" 한국행정연구원 30 (30): 1-33, 2021
• 11 조성규, "인공지능에 기반한 자동화된 행정결정의 행정법적 쟁점" 동북아법연구소 16 (16): 149-189, 2023
• 12 김중권, "인공지능시대에 완전자동적 행정행위에 관한 소고" 법조협회 66 (66): 146-182, 2017
• 13 김중권, "인공지능시대 알고크라시(Algocracy)에서의 민주적 정당화의 문제" 법조협회 69 (69): 181-207, 2020
• 14 김광수, "인공지능법 입문" 내를 건너서 숲으로 2021
• 15 이해원, "인공지능과 불법행위책임에 관한 연구" 연세대학교 2021
• 16 정남철, "인공지능 시대의 도래와 디지털화에 따른 행정자동결정의 법적 쟁점 ― 특히 행정기본법상 자동적 처분의 문제점을 중심으로 ―" 한국공법학회 50 (50): 231-252, 2021
• 17 김도승, "인공지능 기반 자동행정과 법치주의" 미국헌법학회 30 (30): 105-138, 2019
• 18 정승준, "설명 가능한 인공지능 기술의 소개" 46 (46): 55-63, 2019
• 19 김윤명, "블랙박스를 열기 위한 인공지능법" 박영사 2022
• 20 김유환, "박영사" 박영사 2023
• 21 홍석한, "민주주의에 대한 인공지능의 위험과 규범적 대응 방안" 한국헌법학회 28 (28): 127-159, 2022
• 22 허완중, "민주적 정당성" 한국법학원 (128) : 132-153, 2012
• 23 김도승, "디지털사회에서 공정성의 가치와 담론" 한국인터넷윤리학회 6 (6): 21-30, 2022
• 24 이재훈, "독일 연방행정절차법 상 전자동화 행정행위 도입 및 주요 쟁점" (16) : 111-138, 2019
• 25 최승필, "공행정에서 AI의 활용과 행정법적 쟁점 ― 행정작용을 중심으로 ―" 한국공법학회 49 (49): 207-242, 2020
• 26 김길수, "공공부문에서 인공지능 활용에 관한 연구" 한국자치행정학회 33 (33): 27-47, 2019
• 27 Braun Binder, Nadja, "Vollautomatisierte Verwaltungsverfahren im allgemeinen Verwaltungsverfahrensrecht" 960-965, 2016
• 28 Stegmüller, Martin, "Vollautomatische Verwaltungsakte - eine kritische Sicht auf die neuen § 24 I 3 und § 35 a VwVfG" 353-440, 2018
• 29 Martini, Mario, "Subsumtionsautomaten ante portas? - Zu den Grenzen der Automatisierung in verwaltungsrechtlichen (Rechtsbehelfs-)Verfahren" 1128-1138, 2018
• 30 Schliesky, Utz, "Digitalisierung - Herausforderung für den demokratischen Verfassungsstaat" 693-701, 2019
• 31 Berger, Ariane, "Der automatisierte Verwaltungsakt - Zu den Anforderungen an eine automatisierte Verwaltungsentscheidung am Beispiel des § 35 a VwVfG" 1260-1264, 2018
• 32 Djeffal, Christian, "Das Internet der Dinge und die öffentliche Verwaltung - Auf dem Weg zum automatisierten Smart Government?" 808-816, 2017
• 33 Siegel, Thorsten, "Automatisierung des Verwaltungsverfahrens - zugleich eine Anmerkung zu §§35a, 24 I 3, 41 IIa VwVfG" 24-28, 2017
• 34 계인국, "4차 산업혁명과 행정법의 과제 - 산업혁명사와 디지털화를 중심으로 -" 한국법제연구원 (53) : 149-176, 2017