채용절차에 있어서 인공지능의 차별 문제 ― 미국과 한국의 비교를 중심으로 ― = Discrimination of Artificial Intelligence in Hiring Process — Focusing on the Comparison between U.S. and Korea —

국문 초록 (Abstract)

인간의 편견에 대한 불신과 이를 극복할 대안으로 급부상한 인공지능의 빠른 발전에 더하여 전 세계적인 코로나19의 확산과 비대면 면접의 확대는 인공지능의 노동 세계의 침투를 더욱 가속화 하였다. 그러나 아마존의 인공지능 채용툴의 여성 차별적 사례 등을 통해 인공지능에 의한 판단이 오히려 차별을 확산시킬 우려가 확대되었고, 이에 대해 미국은 일리노이주의 “인공지능 영상면접법”이나 뉴욕시의 “자동화된 채용 결정 도구에 관한 법”, 미국 고용평등기회위원회(EEOC)의 장애인 차별 금지 가이드라인 등을 통해 채용 절차상 인공지능에 의한 의사결정이 가져다 줄 수 있는 차별적인 문제점을 최소화 하기 위한 방안을 적극적으로 고민해왔다.
한국의 경우 ｢채용절차의 공정화에 관한 법률｣의 개정을 통하여 인공지능을 통한 채용 절차에 있어 공정성을 확보하고자 하나 현재 제안된 법안은 인공지능 채용에 대한 명확한 정의가 내려져 있지 않으며, 위반 시 제재대상 및 그 정도에 대한 고려가 부족하다. 단순한 관련 법의 제정을 넘어서 인공지능 채용으로 인해 발생할 수 있는 차별의 심도 깊은 연구 및 이를 어떠한 방식으로 규제할 수 있는지에 대한 연구의 필요성을 제안한다.

다국어 초록 (Multilingual Abstract)

In addition to increase of distrust of human prejudice and the rapid development of artificial intelligence, which has emerged as an alternative to overcome it, the spread of COVID-19 and the expansion of non-face-to-face interviews around the world have further accelerated the penetration of artificial intelligence into the labor world. However, there have been growing concerns that artificial intelligence judgments will spread discrimination through female discriminatory cases of Amazon's artificial intelligence recruitment tools, and the United States has actively considered ways to minimize discriminatory problems that artificial intelligence can bring in hiring procedures through Illinois's “Artificial Intelligence Video Interview Act,” New York City's “Automated Employment Decision Tools Law,” and the U.S. Employment Equality and Opportunity Commission's (EEOC) guidelines to prevent discrimination against people with disabilities.
In the case of Korea, the revision of the Fair Hiring Procedure Act, aims to ensure fairness in the recruitment process through artificial intelligence, but the proposed bills lack a clear definition of artificial intelligence employment and sanctions in case of violation. Furthermore, beyond the enactment of law, I propose an in-depth study of discrimination that may arise from artificial intelligence employment and the need for research on how to regulate it.

참고문헌 (Reference)

• 1 이민하, "편견 없이 적성･역량 파악…‘사람 볼 줄 아는’ AI면접관"
• 2 레이 커즈와일, "특이점이 온다" 김영사 2007
• 3 권상집, "챗GPT, 신기루 아닌 신기원 되려면. . . [권상집의 논전]"
• 4 고용노동부, "채용할 때 가장 중요한 요인은? ”직무 관련 경험“-고용노동부, 채용결정요인, 인공지능(AI) 면접 등 취준생의 궁금증을 풀어주는 ”청년 채용이슈 조사“결과 발표"
• 5 김원모, "채용절차의 공정화에 관한법률 일부개정법률안 검토보고서 <인공지능 채용사전고지 및 지능정보 취약계층 보호> 신영대의원 대표발의(의안번호 제2121075호)" 환경노동위원회 2023
• 6 김원모, "채용절차의 공정화에 관한 법률 일부개정법률안 검토보고서 <인공지능 채용 사전검증 및 사전고지의무> 박대수의원 대표발의(의안번호 제2120082호)" 환경노동위원회 2023
• 7 김원모, "채용절차의 공정화에 관한 법률 일부개정법률안 검토보고서 <개인정보 수집･ 이용 사전 동의 및 인공지능 채용 고지 등> 소병철의원 대표발의(의안번호 제2120449호)" 환경노동위원회 2023
• 8 박대수, "채용절차의 공정화에 관한 법률 일부개정법률안"
• 9 전해철, "채용절차의 공정화에 관한 법률 일부개정법률안"
• 10 이수진, "채용절차의 공정화에 관한 법률 일부개정법률안"
• 11 이상헌, "채용절차의 공정화에 관한 법률 일부개정법률안"
• 12 신영대, "채용절차의 공정화에 관한 법률 일부개정법률안"
• 13 소병철, "채용절차의 공정화에 관한 법률 일부개정법률안"
• 14 김수현, "전세계 인사 담당자가 사랑하는 AI 채용도구-4. 잡 매칭 도구 ‘파이매트릭스’"
• 15 인사혁신처 적극행정과, "인사혁신 우수사례 모음집"
• 16 인사혁신처 적극행정과, "인사혁신 우수사례 모음집" 인사혁신처 2022
• 17 허유선, "인공지능에 의한 차별과 그 책임 논의를 위한 예비적 고찰 -알고리즘의 편향성 학습과 인간 행위자를 중심으로-" 한국여성철학회 29 : 165-210, 2018
• 18 김예진, "인공지능에 의한 자동화된 의사결정의 위험성-장애인 채용을 중심으로" 18 (18): 2022
• 19 고학수 ; 정해빈 ; 박도현, "인공지능과 차별" 한국법학원 171 : 199-277, 2019
• 20 한애라, "인공지능과 젠더차별" 젠더법학연구소 11 (11): 1-39, 2019
• 21 권오성, "인공지능과 노동법 – 채용을 중심으로 –" 법학연구원 45 (45): 5-37, 2021
• 22 이윤아 ; 윤상오, "인공지능 알고리즘이 유발하는 차별 방지방안에 관한 연구" 한국거버넌스학회 29 (29): 175-202, 2022
• 23 오요한 ; 홍성욱, "인공지능 알고리즘은 사람을 차별하는가?" 한국과학기술학회 18 (18): 153-215, 2018
• 24 홍성욱, "인공지능 알고리즘과 차별" 과학기술정책연구원 2018
• 25 손영신, "인공지능 알고리즘 기반 의사결정의 공정성 지각" 서울대학교 2020
• 26 조원영, "인공지능 신뢰체계 정립방안 연구" 소프트웨어정책연구소 2022
• 27 스튜어트 러셀, "인공지능 2 : 현대적 접근방식" 주식회사 제이펍 2021
• 28 스튜어트 러셀, "인공지능 1 : 현대적 접근방식" 주식회사 제이펍 2021
• 29 김은아, "은행 정기인사에 활용된 ‘AI기술’. . . 신한은행, 자체 개발한 ‘AI 최적해 알고리즘’ 통해 승진･이동 인사 등 반영"
• 30 문혜진, "열광과 부작용 사이, 챗GPT시대"
• 31 공인호, "아마존, ChatGPT 대항마 ‘타이탄’ 대규모 업데이트"
• 32 "사람인"
• 33 정희태, "빅데이터 알고리즘의 성차별 가능성에 관한 실증적 분석과 개선방안" 한국여성정책연구원 2019
• 34 정인선, "불공정 논란에 공공기관 45곳 ‘AI채용’. . . 근데 넌 공정하니?"
• 35 한국인터넷진흥원, "미국 일리노이주, 인공지능을 이용한 비디오 인터뷰 규지법 발효(2020. 1. 1. )" 한국인터넷진흥원 (149) : 2020
• 36 한국지능정보화사회진흥원 정책본부 지능화법제도팀, "디지털 법제 Brief"
• 37 캐시 오닐, "대량살상수학무기" 흐름출판 2021
• 38 사람인, "기업 5곳 중 3곳, ‘AI 도입, 채용에 도움된다’. . . 도입 의향도 46%"
• 39 이수연, "공정채용 실태와 현안과제" 한국비교노동법학회 52 : 75-114, 2021
• 40 이수연, "고용기회에서의 장애인 차별" 한국비교노동법학회 50 : 659-698, 2020
• 41 김경진, "“영업능력 95.1점...영업부로” 채용･배치 다 하는 AI 인사팀장"
• 42 정두용, "‘한글 잘 아는’네이버･한컴 뭉쳤다. . . 한컴오피스에 하이퍼클로바X적용"
• 43 고용노동부, "‘2020년 공정채용･블라인드 채용 온라인 시상식’ 개최-경제단체와 함께 민간기업, 공공기관 우수사례 발굴"
• 44 이진철, "[톡톡!금융] 은행 인사팀장이 된 AI. . . 그는 숫자를 본다"
• 45 장민권, "[단독] 삼성 하반기 공채 서류전형 AI가 심사. . . 부정채용 원천 차단"
• 46 Sarah K, "White, AI in hiring might do more harm than good"
• 47 Phoebe V. Moore, "The Mirror For(Artificial)Intelligence : In Whos Reflection?" 41 : 2019
• 48 Littler, "The Little Annual Employer Survey Report" 2022
• 49 Janice Gassam Asare, "The Dark Side of ChatGPT"
• 50 EEOC, "The Americans with Disabilities Act and the Use of Software, Algorithms, and Artificial Intelligence to Assess Job Applicants and Employees" 2022
• 51 U.S. Equal Employment Opportunity Commission, "Select Issues: Assessing Adverse Impact in Software, Algorithms, and Artificial Intelligence Used in Employment Selection Procedures Under Title VII of the Civil Rights Act of 1964"
• 52 에스알홈페이지, "SR 신입사원 선발 AI면접 도입"
• 53 "SK채용공식블로그"
• 54 "SKCareers 채용홈페이지"
• 55 Lauren Weber, "New York City Starts to Regulate AI Used in Hiring Tools"
• 56 EEOC, "EEOC Sues iTutorGroup for Age Discrimination"
• 57 Nicholas Tilmes, "Disability, fairness, and algorithmic bias in AI recruitment" 24 : 2022
• 58 EqualityNow, "ChatGPT-4 Reinforces Sexist Stereotypes By Stating A Girl Cannot “Handle Technicalities And Numbers” In Engineering"
• 59 Datta, Amit, "Automated Experiments on Ad Privacy Settings" 2015
• 60 Nicolas Kayser-Bril, "Austria’s employment agency rolls out discriminatory algorithm, sees no problem" Algorithm Watch
• 61 Lavanchy, Maude, "Amazon’s Sexist Hiring Algorithm Could Still Be Better Than A Human"
• 62 Dastin Jeffrey, "Amazon Scraps Secret AI Recruiting Engine that Showed Biases Against Women"
• 63 Allhutter, Doris, "Algorithmic Profiling of Job Seekers in Austria: How Austerity Politics Are Made Effective" 3 : 2020
• 64 CDT, "Algorithm-driven Hiring Tools : Innovative Recruitment or Expedited Disability Discrimination?" Center for Democracy ＆ Technology 2020
• 65 최경진, "AI 윤리 관련 법제화 방안 연구" 한국법제연구원 2021
• 66 Jobscan, "A.I. is transforming the job interview —and everything after" Fortune 2021
• 67 James Hu, "99% of Fortune 500 Companies use Applicant Tracking Systems"
• 68 박귀천, "4차 산업혁명, 인공지능 시대의 노동법 — 독일의 상황을 중심으로 —" 한국비교노동법학회 49 : 65-97, 2020
• 69 조신영, "2021년도 기업체장애인고용실태조사" 2022
• 70 Kathy Haan, "11 Best Applicant Tracking Systems Of 2023"