부패범죄에 AI 범죄예측 시스템 적용의 문제점과 개선방안 = Problems and Improvements of AI Crime Prediction System for Corruption Crime

다국어 초록 (Multilingual Abstract)

Corruption crime is not limited to the deviance of one actor, but is a crime with destructive power that can destroy the social structure. Although the state and society are making great efforts to reduce corruption crime, it is not easily detected or completely eradicated due to the confidentiality and customary nature of corruption crime. Therefore, it is necessary to explore whether there is an effective way to reduce corruption by introducing an AI crime prediction system. This is because many countries are already seeing a positive effect of reducing the crime rate by introducing AI crime prediction systems. However, it is necessary to examine whether the AI ​​crime prediction system can be applied to corruption crimes and what problems there are if it is applied. Furthermore, we intend to explore the improvement measures for applying the AI ​​crime prediction system to corruption crimes.
AI crime prediction systems that handle personal information can infringe on individual rights. And the algorithm of AI crime prediction system has problems of opacity, inaccuracy, and bias. AI crime prediction systems are becoming a new means of control for citizens, such as ‘Big Brother’.
As a solution to bias and inaccuracy, the AI ​​crime prediction system should be descriptive, accurate, and audited by an objective agency. In order to limit the individual control function of the AI ​​crime prediction system, the AI ​​crime prediction system must also apply the principle of proportionality to minimize the infringement of the subject's rights (the principle of minimal infringement). And AI crime prediction systems should be used as a last resort (principle of complementarity). It should be used individually according to the subject's risk of recidivism (principle of individuality). The AI ​​crime prediction system should not be implemented by administrative disposition, but should be imposed by judicial review of the court (principle of judicial control). If the analysis of the AI ​​crime prediction system is applied according to the principle of imposition of such security measures, the individual control function of the AI ​​crime prediction system can be limited as much as possible and the efficiency as a control method for corruption crimes can be increased.

국문 초록 (Abstract)

부패범죄는 한 행위자의 일탈에 그치는 것이 아니라 사회구조를 무너뜨릴 수 있는 파괴력을 지니는 범죄이기에 한 국가의 문제만이 아니라 전 세계적으로도 심각한 문제로 여겨지고 있다. 이러한 부패범죄를 감소시키는데 국가와 사회가 많은 노력을 기울이고 있지만, 부패범죄가 가지고 있는 은밀성과 관행성 때문에 쉽게 적발되지도 않을 뿐만 아니라 완전히 근절되기도 어렵다. 이에 AI 범죄예측 시스템을 도입하여 부패범죄를 줄일 수 있는 효과적인 방안이 없을지 모색할 필요가 있다. 이미 많은 나라에서 AI 범죄예측 시스템을 도입하여 범죄율이 감소하는 긍정적인 효과를 보고 있기 때문이다. 그런데 AI 범죄예측 시스템을 부패범죄에 적용할 수 있을지 그리고 적용한다면 어떠한 문제점이 있는지를 검토할 필요가 있다. 나아가 부패범죄에 AI 범죄예측 시스템을 적용하기 위한 개선방안이 무엇인지 모색하고자 한다.
부패범죄가 가지고 있는 국가와 사회에 대한 심각성과 은밀성과 관행성 때문에 AI 범죄예측 시스템을 적용하여 부패범죄를 줄일 수 있는 효과적인 방안을 모색할 필요가 있다. AI 범죄예측 시스템은 필연적으로 개인의 권리를 침해할 수 있으므로 개인정보보호법에 의하여 개인정보를 보호하여야 한다. 알고리즘의 불투명성을 해결하기 위해서는 알고리즘의 설계자나 알고리즘을 사용하는 기업은 그 알고리즘 내부 논리에 대해 감사기관 등에게 설명할 수 있어야 한다. 알고리즘의 부정확성 해결방안으로 미국의 과학수사기법의 신뢰성에 관한 Daubert 기준을 사용할 필요가 있다. 알고리즘의 편향성을 극복하기 위해서는 궁극적으로는 알고리즘의 설계자나 개발자가 알고리즘을 편향되게 설계하지 않도록 하여야 한다. 이를 위해 설계과정이나 개발과정에서 알고리즘의 요소 및 매트릭스(metrics)를 투명하게 공개하여야 한다. AI 범죄예측 시스템의 개인통제기능을 제한하기 위해서는 AI 범죄예측 시스템도 대상자의 권리침해를 최소화하기 위하여 비례성의 원칙을 적용하여야 한다. AI 범죄예측 시스템의 이용을 비례성의 원칙에 의하여 제한하더라도 그 대상이 되는 사람들은 감시와 통제를 받는다는 사회적 거부감과 공식적인 부패조사에 대한 반감이 필연적으로 존재할 수밖에 없다. AI 범죄예측 시스템의 이용을 위한 부패조사를 거부감 없이 수용하기 위해서는 성숙한 시민의식의 제고와 함께 부패범죄가 없는 세상을 위한 사회적 공감대가 형성되는 것이 필요할 것이다.

참고문헌 (Reference)

• 1 한국전자통신연구원, "지능형 치안서비스 기술 동향" 34 (34): 2019
• 2 박민지 ; 서정범, "전자감독제도의 예방적 경찰활동으로서의 함의 - 범죄징후 예측시스템의 허용성을 중심으로 -" 법학연구원 (99) : 121-155, 2020
• 3 한국인공지능법학회, "인공지능과 법" 박영사 2020
• 4 양종모, "인공지능 알고리즘의 편향성, 불투명성이 법적 의사결정에 미치는 영향 및 규율 방안" 법조협회 66 (66): 60-105, 2017
• 5 한국전자통신연구원, "위험 상황 초기 인지를 위한 ICT 기반의 범죄 위험도 예측 및 대응 기술 개발"
• 6 행정안전부, "월간 디지털 정부 최신 해외 정책ㆍ기술 동향 제40호"
• 7 이수정, "성인 판결전 조사 활용, 재범 위험성 평가도구 개발" 법무부 2010
• 8 황경조, "상호의존정보 기반 공정성을 보장하는 기계학습" 2019
• 9 박민지 ; 서정범, "사물인터넷을 활용한 경찰활동에 관한 연구- 그 현황과 허용성에 관한 논의를 중심으로 -" 경찰대학 19 (19): 91-122, 2019
• 10 정재준, "사물인터넷(IoT)의 치안대책 활용 방안" 경찰대학 18 (18): 187-228, 2018
• 11 유강하, "빅데이터와 사물인터넷 시대의 비판적 해석과 인문학적 상상력-영화<마이너리티 리포트>를 중심으로" (30) : 2016
• 12 유병후, "빅데이터를 활용한 범죄예방서비스 창출방안" 한국범죄심리학회 16 (16): 61-78, 2020
• 13 빅토르 마이어 쇤베르거, "빅데이터가 만드는 세상" 21세기북스 2013
• 14 차상육, "빅데이터(Big Data) 환경과 프라이버시의 보호" IT와 법연구소 (8) : 193-259, 2014
• 15 김상락, "빅데이터 분석 기술의 오늘과 미래" 32 (32): 2014
• 16 정용찬, "빅데이터" 케뮤니케이션북스 2013
• 17 윤영석, "범죄징후 예측시스템에 대한 비판적 검토 - 2019년 법무부의 발표내용을 중심으로" 과학기술법연구원 26 (26): 137-186, 2020
• 18 주현경 ; 정채연, "범죄예측 및 형사사법절차에서 알고리즘 편향성 문제와 인공지능의 활용을 위한 규범 설계" 법학연구원 27 (27): 115-162, 2020
• 19 윤상연, "범죄예측 기술 어디까지 왔나?" 치안정책연구소 (60) : 2018
• 20 윤상연 ; 신상화, "범죄 예측의 현재와 미래- 한국형 범죄예측 시스템 개선․도입에 대한 제언 -" 한국공안행정학회 27 (27): 248-272, 2018
• 21 윤해성, "범죄 빅데이터를 활용한 범죄예방시스템 구축을 위한 예비 연구(I)" 형사정책연구원 2014
• 22 임승옥, "범죄 발생환경, 행동패턴 및 심리정보 등 융합정보 적용형 엔트로피 필터링 예측분석기반의 실시간 범죄 예측․ 예방 시스템 개발" 전자부품연구원 2016
• 23 김태완, "데이터 마이닝 기법을 활용한 청소년 재범 관련요인 연구: 재산범죄와 폭력범죄를 중심으로" 한국교정복지학회 (35) : 129-151, 2014
• 24 정신교, "뇌물죄의 양형합리화 방안" 치안정책연구소 23 : 129-146, 2009
• 25 이주희, "고위공직자 부패 방지에 관한 형법적 고찰" 한양법학회 24 (24): 275-298, 2013
• 26 양주아 ; 양문승, "경찰의 과학치안 활동 현황 및 전망" 한국경찰연구학회 16 (16): 147-168, 2017
• 27 김병수, "검찰개혁의 필요성과 추진방향" 한국부패학회 25 (25): 107-121, 2020
• 28 Andrea Roth, "Trial by Machine" 104 : 1245-, 2016
• 29 Tal Z. Zarsky, "Transparent Predictions" 2013 : 1503-1515, 2013
• 30 Whitman, T. A., "Riddles in serial murder : A synthesis" 9 : 2004
• 31 Amy B. Cyphert, "Reprogramming Recividism: The First Step Act and Algorithmic Prediction of Rick" 51 : 331-, 2020
• 32 Mark C. Niles, "Preempting Justice : “Precrime” in fiction and in fact" 9 (9): 2010
• 33 Zach Friend, "Predictive Policing: Using Technology to Reduce Crime" 2018
• 34 Perry, W. L., "Predictive Policing: The Role of Crime Forecasting in Law Enforcement Operations" RAND Corporation 2013
• 35 Jennifer Bachner, "Predictive Policing: Predictive Policing: Preventing Crime with Data and Analytics" IBM Center for The Business of Government 2013
• 36 C. Francescani, "NYPD Expands Surveillance net to Fight Crime as Well as Terrorism"
• 37 Nawara, John., "Machine Learning: Face Recognition Technology Evidence in Criminal Trials" 601 : 601-604, 2011
• 38 Jeffrey S. Paul, "Integration of Centralized Intelligence with Geographic Information Systems" 2011
• 39 Sherman, L. W., "Hot Spots of Predatory Crime : Routine Activities and the Criminology of Place" 27 : 1989
• 40 Wright, J., "From Animal Cruelty to Serial Murder : Applying the Graduation Hypothesis" 47 (47): 2003
• 41 Holmes, S. T., "Fractured Identity Syndrome" 13 (13): 1999
• 42 Tan, S., "Detecting bias in black-box models using transparent model distilation" 2017
• 43 Nath, S. V., "Crime Pattern Detection Using Data Mining" Oracle Corporation 2006
• 44 Harthorne M, "City : A Few streets Responsible for Half of seatle's Crime"
• 45 P. Aarvik, "Artificial Intelligence-a promising anti-corruption tool in development setting?" 2019
• 46 Singer, S. D., "Applying Social Learning Theory to Childhood and Adolescent Firesetting : Can It Lead to Serial Murder?" 48 (48): 2004
• 47 Nicholas Diakopoulos, "Algorithmic Accountability Reporting: On the Investigation of Black Boxes, Two Center for Digital Journalism - A Tow/Knight Brief" Columbia JournalismSchool 2013
• 48 한세억, "AI기반 청렴성 증강모델: 탐색적 접근과 실천과제" 한국부패학회 26 (26): 165-190, 2021