인공지능 기술의 행정분야 활용에 관한 탐색적 연구 = Exploratory Study on the Use of Artificial Intelligence Technologies in Public Administration

국문 초록 (Abstract)

1. 연구배경 및 필요성
□ 인공지능에 대한 관심은 높으나 이해는 낮은 상황
○ 4차 산업혁명의 시대를 맞아 인공지능은 가장 발전의 가능성이 높고 미래를 견인할 분야로 여겨지고 있음. 우리나라의 많은 정부기관들과 민간기업들도 인공지능의 도입과 적용을 위한 노력을 기울이고 있음
- 지방자치단체들의 챗봇 서비스 등이 활성화되고 있으며, 대법원도 인공지능 소송도우미 개발에 착수
- 의료인공지능인 왓슨은 이미 우리나라에서도 7개 병원에서 실제 활용되고 있으며 환자들의 신뢰도도 높은 것으로 나타남
○ 반면 인공지능의 도입과정에서 예상과 다르게 좌절을 겪거나 기대만큼의 효과가 드러나지 않는 경우도 적지 않음. 이러한 문제들은 데이터의 양과 질이 충분하지 않아서일 수도 있고, 알고리즘을 비롯한 기술적 문제일 수도 있으며, 개인정보보호나 규제 등과의 충돌, 또는 인공지능에 대한 지나친 과신 등 다양한 원인으로 발생
- 마이크로소프트의 인공지능 챗봇은 출시한 지 하루도 안 되어 폐기되었는데 사용자들이 입력하는 악의적인 대화 데이터가 주원인
- 아마존이나 요코하마 은행 등에서는 채용 인공지능이 과거 데이터가 보여준 남성편향 등을 그대로 반복하여 폐기 또는 수정
- 우리나라의 보이스피싱 방지 앱도 인공지능을 사용하였으나, 스마트폰의 녹음방지정책 변경으로 인하여 데이터 수집이 불가능해져 사용하기 어렵게 됨
○ 따라서 인공지능을 도입하면 업무의 효율성과 효과성이 급증할 것이라는 막연한 기대가 아닌 객관적이고 철저한 분석과 검토가 인공지능의 도입과정에서 반드시 필요함. 특히 행정분야의 업무는 국민의 삶에 영향을 미치는 행위이며 어떤 작위와 부작위에도 이해당사자가 폭넓게 존재하므로 인공지능이 보여주는 결과물의 수용가능성 또한 매우 중요함
□ 인공지능 도입적절성 검토를 위한 분석틀(가이드라인)의 필요성
○ 이 연구는 인공지능을 도입하고자 할 때 필요한 다양한 검토요소들과 쟁점이 무엇인지를 문헌분석, 사례연구, 전문가 조사 등을 활용하여 분석함. 특히 인공지능의 발전과 쟁점의 변화를 파악하기 위하여 서지계량분석 등을 수행하였음
○ 다양한 검토 요소들을 계획-설계-이용 단계로 구분하여 배열하고, 각각의 요소들마다 중점적으로 점검해야 하는 사안들을 체크리스트의 형태로 제안하고자 함. 이 과정에서 각 요소마다 의사결정과정의 복잡성, 데이터의 정형화수준, 알고리즘의 복잡성 등이 어떻게 고려되어야 하는지를 함께 검토하도록 함
2. 이론적 검토
□ 인공지능 기술의 핵심으로서의 학습 (딥러닝의 이해)
○ 인공지능의 개념은 60여년 가까이 되었으나 실용화 가능한 발전이 이루어진 것은 비교적 최근의 일이며, 이에는 데이터의 폭발적 증대, 컴퓨팅 능력의 향상, 딥러닝을 비롯한 학습알고리즘의 발전 등이 큰 영향을 미침
- 최근의 알파고를 비롯하여 왓슨 등 대부분의 성공적인 인공지능들은 딥러닝 시스템에 기반을 두고 있음
○ 딥러닝은 기계학습의 한 유형이며, 이에 대한 이해가 반드시 필요한 것은 인공지능이 할 수 있는 것과 할 수 없는 것에 대한 이해를 하는데 핵심적인 것이기 때문
- 딥러닝은 인간의 신경망을 흉내내어 작동하므로 노드들 간의 연결상태로 구성되며, 두 개 이상의 층구조를 지니므로 딥러닝이라고 부름
- 딥러닝 방식의 인공지능은 인간의 뇌처럼 노드들 간의 연결상태 자체가 인공지능을 구성하며, 이 때문에 결과물이 왜 그렇게 나왔는지, 즉 설명가능한 결정과정을 보여주기 어려움. 알파고의 특이한수를 개발자들도 설명하지 못하는 것과 같음
- 이와 같은 특성 때문에 인공지능이 블랙박스와 같다고 하는 지적이 가능하고, 이는 행정의 의사결정에서 활용하는 데 중요한 장애물이 될 수도 있음
○ 따라서 인공지능은 그 자체의 특성(특히 딥러닝의 특성)으로 인하여 활용목적이 명확하고, 풍부한 데이터가 존재하며, 최종적인 의사결정에 직접 활용하지 않는 경우 등에 제한적으로 적용하는 것이 타당하다고 할 수 있음
- 인공지능은 빠르고 정확한 데이터의 분석과 패턴의 발견 등을 가능케 하며, 인간 노동력과의 협업을 통하여 새로운 행정수요에 대응하는 것을 가능하게 할 수 있음
□ 인공지능의 발전과 행정의 변화
○ 인공지능의 시대에 행정이 변화하는 양상은 몇 가지로 생각해볼 수 있는데 우선적으로는 전자정부에서 지능형정부로 진화하는 실질적 계기가 될 수 있다는 점임. 그리고 구체적으로는 거버넌스의 변화, 조직구조의 변화, HR 등 인사관리의 변화, 행정서비스의 변화 등을 예상할 수 있음
- 거버넌스적 측면에서는 기계와의 협업에 따른 시민참여의 제고, 행정재량권의 축소 등이 발생하고 궁극적으로는 정부의 지배력이 약화되는 현상이 지속될 것임
- 조직 측면에서는 플랫폼 조직으로의 발전이 가능해지며, 정부규모는 축소되고, 협업 중심의 네트워크 조직이 필요해짐
- 인력관리 측면에서는 공무원의 채용과 배치 및 교육 등에서 맞춤형의 관리가 강화되는 계기를 제공
- 행정서비스 측면에서는 무엇보다 서비스의 속도가 빨라지고 맞춤형 서비스를 강화할 수 있음
□ 문헌분석과 사례연구의 발견: 인공지능 도입의 쟁점요소들
○ 인공지능과 관련된 서지계량분석 결과 국내에서 인공지능 연구가 급증한 것은 2016년 이후라고 보이며, 전 세계적으로는 미국과 중국의 연구역량과 업적이 압도적인 것으로 나타남
○ 관련된 주제의 연관성을 보면 정부와 행정, 정책 등보다는 의료, 보건, 생물 등의 영역에서 인공지능의 활용 및 관련연구가 대다수이며, 정책적 관점에서 본다면 상당수의 관련 연구들은 인공지능의 활용목적, 기술적 수단으로서의 알고리즘 등에 관심이 집중되어 있는 것을 알 수 있음
○ 인공지능의 행정분야 도입과 관련한 연구들을 살펴본 결과, 대체로 크게 다섯가지의 영역 또는 주제로 나누어 볼 수 있었음
- 데이터의 중요성 : 충분한 양질의 데이터 확보
· 딥러닝을 포함한 머신러닝 기반의 학습에 재료가 되는 것은 데이터이며 우선적으로는 데이터의 양이 충분하게 확보되어야 하고, 질적으로는 데이터의 편향성 등이 나타나지 않는 것이 중요함
· 데이터의 편향성 등은 자연 상태로서의 데이터로는 잘 확보되지 않으며 전처리과정 등이 꼭 필요하고 이를 위한 자원소요도 적지 않음
- 기술 및 인프라: 인공지능 기술의 사회적 영향력 검토
· 인공지능의 발전을 위해서는 개방성이나 클라우드라는 요소가 매우 중요한데 이는 데이터의 접근성과 상호확장성에 영향을 미치기 때문임
· 우리나라의 경우 원천기술 개발 투자의 부족과 함께, 공개 데이터셋 개발 및 공유를 위한 인프라 부족 등이 나타남
- 법제도 및 규제 : 인공지능의 자율성 관리
· 인공지능의 법적 지위에 대한 논쟁이 있을 수 있으며, 기존 행정절차와 행정법 내에서의 법인격 등도 논쟁이 될 수 있음
· 사생활 보호와 개인정보 침해의 가능성에 대한 대비도 중요하며, 우리나라의 개인정보보호 정책의 변경 필요성에 대한 논쟁도 현재 진행형임
- 정책 및 전략: 인공지능 관련 이슈들을 포괄하는 국가 정책 필요
· 인공지능에 대한 국가적인 정책적 대응의 필요성에 대한 논의가 높으며, 현재의 연구수준은 특정한 분야에서의 인공지능 적용전략에 그치는 경우가 많음
· 국가차원의 정책적 대응은 인공지능 산업의 발전 이외에 인공지능의 활성화를 위한 데이터, 법제도, 윤리 문제 등 다양한 측면을 포괄하는 것이어야 할 필요. 현재의 발전전략(2018년 5월 발표)은 연구개발과 경제적 측면에 초점을 두고 있어 인재양성, 윤리, 표준화, 규제 등의 측면에 대한 계획이 충분히 담겨있지 않음
- 윤리 및 가치: 인공지능의 윤리 문제는 결국 인간의 윤리 문제
· 인공지능의 도입은 많은 긍정적 가치가 있으나 부정적 측면에 대한 논의도 많음. 현 시점에서 가장 주목을 받는 것은 자동화에 따른 일자리 대체 가능성이지만 이는 인간의 역할에 대한 새로운 정의가 나오면서 해결될 수 있을 것임. 더 중요한 것은 무인자동차등 다양한 인공지능의 결정이 미칠 인간생활에 대한 윤리적 충돌의 문제들임
· 인간의 가치판단은 복합적이고 전체적이지만, 인공지능의 가치판단은 그러기 어렵다는 점에서 인공지능의 결정이 인간에게 얼마나 수용될 수 있는지는 어려운 문제임. 많은 경우 도덕적 딜레마가 될 수도 있고, 어떤 사람들에게는 불공정함이나 불평등이 될 수도 있음
· 윤리적 고려가 인공지능 개발과정의 중요한 요소여야 한다는 것이 여러 나라에서 제도화되고 있으며 우리나라 또한 이러한 움직임에 동참할 필요가 있음
○ 사례연구에서는 한국과 일본, 미국의 사례를 살펴보았으며, 중요한 발견 사항은 아래와 같음
- 인공지능을 개발하고 활용하는 목적이 명확한 것이 가장 중요함. 대부분의 기관들이 보유한 빅데이터의 존재만으로 인공지능 적용을 검토해보는 오류를 보이고 있음
- 인공지능 개발의 경제성과 비용효과성을 고려하는 것이 중요함. 개발은 돈과 시간을 많이 소요하며 구매를 하는 경우에도 커스터마이징에 적지않은 자원이 소요됨. 따라서 인공지능 도입의 효과를 비용과 비교해보아야 하며, 인공지능 도입의 비용을 객관적으로 잘 계산하는 것이 중요함
- 인공지능의 도입에 있어서 적절한 거버넌스적 대응을 하는 것이 중요함. 최고의사결정자와 실무자, 그리고 정보화 담당자간의 삼각구도가 균형을 갖추어야 하며 이 가운데 누군가의 주도만으로 추진하는 것은 위험할 수 있음
- 업무실무자와 정보화 담당자(개발자)간의 연계, 즉 실무와 기술의 연계가 핵심이며 이 역할을 데이터 사이언티스트가 하는 것임. 그러나 대부분의 나라에서 이들의 육성에 소홀한 측면이 있음
○ 미국과 유럽 각국의 정부와 연구기관들이 인공지능 시스템 표준개발을 위한 원칙과 가이드라인을 제시한 바, 신뢰성, 공정성, 책임성 등 다양한 가치지향을 발견할 수 있음
- 미국 공공정책이사회 등은 인지가능성, 책임성, 접근성, 설명가능성, 감사가능성, 검증가능성 등을 원칙으로 제시
- EC의 경우 법, 윤리, 기술 관점의 인공지능 평가 필요성을 제기하면서, 인간의 감독, 안전성, 투명성, 프라이버시, 데이터 공정성을 중요한 요소로 제시함
- 마이크로소프트는 목적지향성, 투명성, 신뢰성, 공정성, 정보보호, 규범존중, 데이터안전성, 정보격차, 책임성 등을 제시
○ 미국과 영국, 캐나다 등 많은 선진국들이 위의 요소들을 감안하여 자국의 인공지능 기술표준의 초안을 제시하려는 노력을 기울이고 있음. 인공지능 개발표준의 방향과 원칙 제시를 위한 노력이 이루어지는 것은 인공지능의 발전이 인류의 발전과 궤를 같이 할 수 있도록 하기 위한 노력이며, 우리나라에서도 적절한 대응책이 마련되어야 할 시점이라고 볼 수 있음
3. 연구설계
□ 인공지능 시스템 행정 적용 모형 개발: 공통요소 도출 + 신규도출 + Copeland 분류기준과 결합하여 연구모형 개발
○ 문헌분석과 사례분석, 각국 정부와 기관들의 표준 가이드라인 등을 통하여 인공지능 개발에 착수하기 이전에 검토해야 하는 다양한 요소들을 도출함
○ 이 요소들을 나열적으로 제시하지 않고 연구진 브레인스토밍을 통하여 4단계로 구성한 후 각 단계에 24개의 요소들을 배열함. 각 요소에 대하여 중요한 착안사항 등을 제시
- 4단계의 배열을 구성함에 있어서는 Copeland(2018) 등을 참고하여 연구진이 재구성
- 24개의 요소들에 담기는 점검사항들은 각 요소의 개념에 직접 대응하는 것으로 구성하였으나, 인공지능 개발의 어려움에 영향을 미치는 세 가지 요소, 즉 의사결정과정의 복잡성, 데이터의 정형성 정도, 알고리즘의 복잡성 가운데 중점적인 검토가 필요한 부분을 선정하여 제시
○ 1차로 형성한 인공지능 도입 및 적용의 적절성 검토를 위한 모형에 대하여 학계 및 연구기관, 공공기관, 민간개발자 등으로 구성한 전문가 집단의 심층 인터뷰를 수행하였음
- 심층 인터뷰는 사전조사를 먼저 시행한 후 질문지 등을 확정하고 이메일을 통한 조사로 수행하였으며 총 2차에 걸쳐 수행하였음
· 조사대상집단은 1차의 경우 학계전문가 12인, 연구기관 5인, 공공기관 9인, 민간전문가 5인, 개발자 5인 등으로 구성하였으며, 2차의 경우에는 학계전문가만 11인으로 축소하여 동일하게 진행함
○ 위와 같은 과정을 거쳐 도출된 연구모형은 선행연구를 바탕으로 연구진의 논의를 통해 도출된 가설적 성격으로 다음과 같음
4. 분석결과
□ 인공지능 시스템의 행정분야 도입 단계: 4단계에서 3단계로 축소
○ 인공지능 시스템 행정분야 도입단계는 전문가 조사결과 핵심고려요소와 결합할 경우 4단계에서 3단계로 줄이는 것이 타당한 것으로 나타남
- 계획-구축-시범실시-이용의 4단계는 최종적으로 계획-설계-이용단계의 3단계로 축소
○ 도입단계의 축소에 따라 구성요인도 계획은 3개, 설계는 6개, 이용은 15개로 배치됨
- 계획단계에서는 4개 구성요소 3개 구성요소로 목적성, 활용성, 공공성 등의 요소에 대한 고려가 필요하며, 설계단계에서는 경제성, 공정성, 투명성, 안정성, 세부성, 접근가능성 등의 요소에 대한 고려가 필요
- 이용단계에서는 계획 및 설계단계의 고려요인으로 포함되지 않은 15개 구성요인에 대한 고려가 필요
□ 인공지능 시스템의 행정분야 적용 도입단계별 구성요인 도출 및 복잡성 고려 분류
○ 도입단계별로 의사결정, 데이터, 알고리즘에 따른 요인을 재정리함
- 계획단계에서 고려되어야 하는 목적성, 활용성, 공공성 요인은 모두 의사결정의 복잡성과 함께 고려
- 설계단계에서 고려되어야 하는 복잡성 수준은 데이터와 알고리즘임
· 알고리즘: 경제성, 투명성, 안정성, 접근가능성
· 데이터: 공정성, 세부성
- 이용단계에서 복잡성 수준을 고려할 경우 데이터, 알고리즘, 의사결정의 3가지 분류요소로 구분할 수 있음
· 데이터: 신뢰성, 적시성, 완전성, 안전성, 감사, 추적, 재현가능성, 보편성, 확장가능성
· 알고리즘: 정확성, 합법성, 설명가능성
· 의사결정: 책임성, 대체가능성, 법적 구제
○ 행정분야와 시스템 개발 분야 간 전문성이 달라 발생할 수 있는 혼란을 방지하기 위해 전문가의 주관식 의견과 브레인스토밍을 통하여 24개 구성요인의 일부 용어 및 정의를 수정함
- 투명성→개방성, 접근가능성→수정편의성, 신뢰성→데이터정합성, 완전성→데이터 무결점, 안전성→개인정보 안전성, 감사→확인가능성, 추적→형상관리, 대체가능성→업무연속성, 구제→법적 구제
□ 최종모형의 확정
○ 이와 같은 절차를 바탕으로 연구모형은 최종적으로 다음과 같이 확정됨
- 도입단계는 4→3단계로 축소
- 복잡성 고려 요소는 계획단계는 의사결정만, 설계단계는 데이터와 알고리즘, 이용단계는 데이터, 알고리즘, 의사결정을 모두 고려해야 하는 것으로 나타남
- 구성요소는 도입단계 3개, 설계단계는 6개, 이용단계는 15개로 확정됨
5. 학술적 기여도
□ 인공지능 시스템의 행정 적합성 검토 모형 개발
○ 구체적이고 세분화된 고려요소를 모형의 구성요인으로 제시
- 선행연구를 통해 검토되었던 개별 국가와 민간기업의 가이드라인에서 제시된 요소들을 분석하여 보다 구체적이고 세분화하여 제시함
○ 세분화하여 제시된 구성요인들을 인공지능 시스템의 도입 단계에 맞추어 분류하여 모형으로 제시
- 이를 통해 인공지능 시스템의 개발이라는 기술적인 측면과 이를 행정 분야에 적용하는 것이 종합적으로 고려될 수 있도록 함
○ 본 모형에서는 24개의 구성요인 중 각 요소의 특성에 따라 데이터, 알고리즘, 의사결정 중 연관성이 깊은 개념이 다르게 나타나는 것을 볼 수 있었음
- 이에 행정 적용 모형의 활용 시 요인별로 나타나는 연관성의 차이까지 고려할 수 있도록 구성요인을 구분하여 제시
□ 모형의 행정분야 파급효과를 위한 가이드라인의 제시
○ 행정 현장에서 적용하고 확산시키기 위해서는 24개 요소에 담겨야 하는 중요한 검토사항들이 질문의 형태로 제시되고 포괄적인 검토가 가능하도록 만들어야 함
- 행정 현장에서 적용하고, 확산시키기 위한 가이드라인의 24개 요소들은 각각 개념, 유형, 체크리스트(질문), 유의사항 등의 내용으로 제시(부록 1 참조)
○ 특히 가이드라인에서는 자체개발한 체크리스트와 함께 각국의 요소별 체크리스트를 추가하여 공무원이나 개발자 등이 한눈에 벤치마킹할 수 있도록 하였음
□ 모형과 가이드라인의 확산을 위한 정책제언
○ 데이터 거버넌스의 구축
- 민관과 공공의 협력을 통해 우리만의 데이터 생태계를 구축하는 전략 요구
- 범정부차원을 넘어 범 국가차원에서 공공과 민간이 데이터를 함께 활용할 수 있도록 추진체계를 재정립
○ 디지털에 적합한((Digital Congruence) 정부조직으로의 혁신
- 디지털·인공지능 시대에 맞게 사람과 조직을 운영
- 구성원(people)이 갖고 있는 역량에 맞게 투입이 되어야 하며, 전통적인 상하관계 모델을 지양
- 미래지향적인 구조를 추구해야 하며 잘 분배된 리더십
- 큰 이니셔티브를 가지고 진행하는 것이 아니라 파일럿 프로젝트를 먼저 진행하는 분위기 조성
○ 인재양성을 위한 교육
- 고급인력 양성을 위해 거점대학 중심의 선택과 집중(Hub & Spoke) 전략을 추진
- 산·관·학간 적극적인 협력을 통해 현장 중심의 인재를 양성
- 스타트업 창업 등 산업 육성 지원과 규제 개선을 통한 생태계 조성
○ 클라우드, 중소기업 중심의 인프라 구축
- 클라우드 확산을 위한 제도적 제약을 해소해야 할 것이며 소프트웨어 개발, 정부조달에 있어 패러다임의 전환
- 클라우드 시설 구축 및 이용 요금에 있어 중소기업 및 스타트업 업체에 할인혜택 등 지원
- 기술지원에 대한 행정적 절차의 간소화
○ 법·제도 구축
- 개인정보보호, 손해배상 책임, 인공지능의 안정성 등과 함께 사전 예방차원의 법과 제도 구축
- 인공지능의 불확실성에 대비할 수 있는 상시적 평가체계의 구축
- 인공지능 기술에 인간과 동등한 법적 지위를 부여할지에 대한 논의

다국어 초록 (Multilingual Abstract)

In the era of the Fourth Industrial Revolution, the field of artificial intelligence is considered the most promising and future-driven area. Many government agencies and private companies in Korea are making an effort to introduce and adopt artificial intelligence into their work. However, despite this, there are many cases in which artificial intelligence is not as effective as expected for a variety of reasons. Therefore, objective, thorough analysis and review of the introduction of artificial intelligence is essential, rather than simply holding on to a vague expectation that it will increase the efficiency and effectiveness of work. In particular, the need for such a review is much greater than in the private sector, because the projects of the administrative sector affect the lives of the public and because there is a wider range of stakeholders for any action or non-action, and the acceptability of the results demonstrated by artificial intelligence are also very important.
Therefore, this research conducts literature review, case studies, expert in-depth interviews and surveys, etc. in order to review a wide range of factors and issues necessary to understand for the adoption of artificial intelligence. We are going to propose matters in the form of a checklist that should be arranged separately into plan, design, and use stages which each research element should focus on. In this process, each research element is used to explore the complexities of the decision-making process, the level of data formatting, and the complexity of the algorithms.
Research on the introduction of artificial intelligence into the administrative sector and domestic and international case studies have identified the following issues: First, getting enough high quality data is emphasized as a key factor. Furthermore, because the social impact of artificial intelligence technology is so great, the impact of the technology should be considered. Additionally, the need for management of artificial intelligence autonomy, such as debates regarding the legal status of artificial intelligence in the future, are expected to emerge, and the need for national policies covering issues related to artificial intelligence have also been raised. Above all, the ethical problems related to artificial intelligence is a reflection of human ethics, and ethical considerations are an important factor in the process of developing artificial intelligence. In order to resolve these issues, governments and research institutes from many countries have presented principles and guidelines for developing standards for artificial intelligence systems, and can find various values such as reliability, fairness, and accountability.
For the introduction and application of an artificial intelligence system, a model should be developed as follows. Through literature review, case studies, and analysis of the standard guidelines of other governments and agencies, various factors need to be considered before embarking on artificial intelligence system development. These elements are not just listed, but have been organized into four stages of artificial intelligence system development (planning, design, pilot test, and use) through research team brainstorming, and a model is presented which arranges 24 elements into each stage. The model was developed into the final version which reflects the opinions of experts.
The academic contribution of this study is the development of a model for the administrative suitability assessment for artificial intelligence systems, presenting specific and detailed components of the model. The components of the model presented in detail are grouped according to the introduction phase of the artificial intelligence system and their association with data, algorithms, or decision making. Also, guidelines are provided for the application and dissemination of the model at administrative sites. The proliferation of the proposed model and guidelines require, among other things, innovation to establish data governance and transform into a digital-congruent government organization. In addition, training programs for cultivating a relevant workforce, the construction of infrastructure focused on cloud computing and small and medium-sized enterprises, and the establishment of laws and institutions should be carried out simultaneously.