인공지능 시대 기본권 보장의 과제 ― 인공지능의 공정성, 편향성, 차별을 중심으로 ― = Die Herausforderung der Gewährleistung der Grundrechte im Zeitalter der KI — Fokus auf Fairness, Voreingenommenheit und Diskriminierung in der KI —

국문 초록 (Abstract)

이 글은 인공지능으로 인한 기본권 보장과 관련하여 특히 인공지능의 공정성, 편향성 문제, 이로 인한 차별문제를 다루었다. 학습데이터의 내용이 잘못되었거나 알고리즘이 잘못 설계되거나 잘못 조작된 경우 나타나게 되는 성별, 인종, 나이 등에 따른 차별 문제는 그간 많이 논의되었고 어느 정도의 해결책도 제시되었다고 생각된다.
이 글은 그 중 인공지능이 우리 사회의 편향성을 반영하는 경우 이에 대한 인공지능의 공정성, 편향성 문제를 어떻게 해결할 수 있을 것인지에 대해 집중적으로 논의하였다. 학습데이터도 편향성이 없고 알고리즘도 편향성이 없이 가치중립적으로 설계되었으나 학습된 인공지능이 일부 집단을 차별하는 결론을 도출하는 경우 즉, 인공지능은 가치중립적으로 개발되고 학습되었으나 사회가 편향적이어서 그 사회의 편향성을 인공지능이 그대로 학습하여 이를 결과물로 도출해내는 경우의 인공지능의 공정성 문제에 대해 여러 가지 사례와 그 원인에 대해 설명하고 원론적인 해결책을 비교법적으로 도출하고자 하였다.
하지만 인공지능은 편향적이지 않으나 우리 사회가 편향적이어서 편향적인 결론이 나오는 것을 어떻게 규제할 수 있을 것인지는 어려운 문제이다. 우리사회가 편향적이라는 것은 현상(sein)의 영역인데, 이를 극복하여 공정한 결과를 도출할 것을 요구하는 것은 당위(sollen)의 영역이기 때문에, 인공지능이 ‘sollen’을 학습할 수 있는지, 결론이 산술적으로 평등하다면 이를 공정하다고 할 수 있을 것인지에 대한 논의가 필요하다. 그리고 인공지능의 결과값의 평등을 위해 학습데이터와 알고리즘의 적극적 조정이 필요한지, 필요하다면 어느 정도까지 조정을 해야 할지, 이러한 검사와 규제는 어느 기관에서 어떻게 심사하고 평가할 것인지에 대한 논의도 필요하다. EU는 인공지능법을 통해, 미국은 법률과 대통령위원회를 통해 이러한 문제에 대응하고 있다, 우리나라도 국가인공지능위원회를 설치하여 이러한 문제에 대응하고자 하는데, 구체적으로 어떠한 권한과 심사기준을 가지고 이러한 문제에 대응할 것인지에 대하여 시급히 고민해야 할 때이다.

참고문헌 (Reference)

• 1 백수원, "헌법상 투명성원칙에 기반한 인공지능 규제의 방향" 33 (33): 2021
• 2 백수원, "헌법상 인공지능 규제의 범위와 방향에 대한 시론적 고찰" 29 (29): 2018
• 3 김배원, "지능정보사회와 헌법-인공지능(AI)의 발전과 헌법적 접근-" 21 (21): 2020
• 4 조소영, "지능정보사회에서의 기본권체계 및 보장내용의 변화 가능성 검토" (94) : 2022
• 5 김일환, "지능정보사회에서 헌법의 역할과 기능" 32 (32): 2020
• 6 심우민, "인권보장을 위한 인공지능 입법방향-디지털 권리장전에 비춰본 영향분석의필요성-" 13 (13): 2023
• 7 허유선, "인공지능의 젠더 차별 사례 분석" 71 : 2024
• 8 김병록, "인공지능의 쟁점과 규범적 대응" 20 (20): 2024
• 9 원상철, "인공지능의 윤리와 법의 접점" 12 (12): 2024
• 10 김성용 ; 정관영, "인공지능의 개인정보 자동화 처리가 야기하는 차별 문제에 관한 연구" 60 (60): 2019
• 11 윤수정, "인공지능사회에서의 기본권" 49 (49): 2020
• 12 이준일, "인공지능과 헌법 – 인공지능의 위험에 대한 헌법적 권리 차원의 대응 –" 28 (28): 2022
• 13 한애라, "인공지능과 젠더차별" 11 (11): 2019
• 14 김병록, "인공지능과 인권" 31 (31): 2024
• 15 김지연, "인공지능(AI)의 윤리적 지위 : 인간과 비인간 사이에서 어울리기" 46 : 2023
• 16 한희원, "인공지능(AI)의 법인격 주체 가능성의 이론적 기틀에 대한 기초 연구" 20 (20): 2018
• 17 김법연, "인공지능 통제수단으로서 주요국 규제 입법의 동향과 시사점" (42) : 2023
• 18 이윤아 ; 윤상오, "인공지능 알고리즘이 유발하는 차별 방지방안에 관한 연구" 29 (29): 2022
• 19 정원섭, "인공지능 알고리즘의 편향성과 공정성" (25) : 2020
• 20 박도현, "인간 편향성과 인공지능의 교차" 63 (63): 2022
• 21 이권일, "유럽 AI법에 따른 생체정보의 활용과 보호에 관한 고찰" 85 : 2024
• 22 김진석, "약한 인공지능과 강한 인공지능의 구별의 문제" (117) : 2017
• 23 문의빈, "사상의 자유의 재조명 ― 인공지능에 의한 의사형성과정의 조종 가능성을 중심으로 ―" 52 (52): 2024
• 24 홍석한, "미국 “2022 알고리즘 책임법안”에 대한 고찰" 34 (34): 2023
• 25 고학수, "공정한 인공지능의 어려움" 2021
• 26 김일우, "고위험 인공지능시스템의 차별에 관한 연구" 13 (13): 2024
• 27 김윤명, "人工知能(로봇)의 법적 쟁점에 대한 試論的 考察" 20 (20): 2016
• 28 UNESCO, "Steering AI and Advanced ICTs for Knowledge Societies: A Rights, Openness, Access, and Multi-stakeholder Perspective" UNESCO 2019
• 29 "Ad Hoc Expert Group (AHEG) for the preparation of a draft text of a recommendation on the ethics of artificial intelligence, First draft of the Recommendation on the Ethics of Artificial Intelligence"
• 30 김송옥, "AI 법제의 최신 동향과 과제-유럽연합(EU)법제와의 비교를 중심으로-" 22 (22): 2021
• 31 손영화, "AI 공정성에 관한 연구-차별 없는 AI 사회의 실현-" 34 (34): 2023
• 32 조영승 ; 이기춘, "4차 산업혁명시대 인공지능 이용을 둘러싼 공법적 문제에 관한 고찰" 27 (27): 2022