침익적 행정작용에서 인공지능기술의 활용 문제

국문 초록 (Abstract)

과거 민간 부문에서 사용되던 인공지능기술은 최근에는 공공 영역으로도 확산되고 있다. 공공 영역에서는 아직 데이터 분석과 민원 상담 서비스에 사용되지만, 경찰행정법상의 목적 달성을 위한 AI 기술의 본격적인 활용 또한 모색되고 있다. 특히, 안면인식과 같은 생체정보를 활용한 AI 기술은 효율적으로 개인을 식별하고 군중 속 특정인을 찾는 데 사용된다. 그러나 아직은 법적 근거와 원칙이 부족하기 때문에 이러한 파괴적 인공지능 기술의 사용은 신중한 접근이 필요하다.
법적 규제는 신기술이 사회에 미치는 영향을 확인하는 중요한 과정이다. 공공 영역에서 AI 기술을 활용할 때는 국민의 기본권 침해 가능성 때문에 치밀한 법적 근거 마련과 활용 원칙 수립이 필요하다. 그렇기 때문에 현 단계에서는 별도의 인공지능관련 법률이 없어 개인정보 보호법에 따라 생체정보 보호를 강화하는 법적 · 제도적 장치를 마련하는 우회로가 필수적이다.
EU는 2024년 3월 인공지능법을 승인해 AI 기술의 리스크에 따라 4단계로 구분하고 활용 범위와 절차적 준수사항을 명확히 했다. 이는 인공지능의 큰 틀에서 개별 기술들에 대한 구체적인 규제를 의미하며, 우리도 막연한 인공지능규제보다는 기술적 구분을 통한 규제의 방향성을 지녀야 한다.
AI 기술에 대한 규제 방안으로는 민간기업의 자율규제가 있지만, 이는 법적 규제를 피하는 수단이 되지 않도록 규제된 자율규제가 필요하고, 이러한 자율규제는 공공기관과의 협의를 통해 결정되어야 한다. 또한, AI 기술에 대한 법적 규제는 절차적 통제를 강화하는 방향으로 나아가고, 예를 들어 AI기술의 사회적 안정성, 기술 허용성, 개인정보 침해 정도 등을 종합적으로 평가하는 ‘인공지능 영향평가’ 제도를 도입을 고려할 수 있다. AI 기술에 대한 법적 논의는 이제 구체적이고 절차적인 정당성을 확보하는 방향으로 전환해야 한다. 이를 통해 AI 기술의 활용에 따른 다양한 문제를 효과적으로 해결할 수 있을 것으로 기대한다.

다국어 초록 (Multilingual Abstract)

Artificial intelligence(AI) technology has become a part of our lives today. Traditionally, the development and use of AI technology has been centered around the private sector, but recently, the scope of use of the technology has continued to spread to the public sector. Currently, in the public sector, AI technology is mainly used for simple services that are difficult to call AI technology yet, such as data analysis and Chatbot (civil complaint counseling) services. However, the use of AI technology is gradually being explored in earnest to achieve the purposes of the Police Administrative Act, such as ‘public well-being’ and ‘maintenance of social order’.
In particular, AI technology that uses biometric information, such as facial recognition, is used to confirm an individual’s identity by using the face, which is the most important sensitive information for humans, and to search for specific people in the crowd. Usually, in order to search for a specific person, a huge amount of CCTV data must be viewed directly. However, face and behavior recognition technology makes it possible to quickly identify a specific person based on features derived from already collected face or body information. This allows users to manage manpower and time much more efficiently. However, despite these advantages, the various AI technologies that are still being used in our society have many aspects that are not yet clearly in compliance with our legal system, such as the legal basis and principles for their use. Therefore, the use of AI technology for invasive administrative actions, especially ‘preventive police activities’, requires a very cautious approach.
Legal regulations are considered a critical factor that hinders innovation, but the law is the final gateway to confirming whether science and technology are destructive to society when we encounter new technologies. Therefore, if you want to use AI technology at least in the public sector, and if there is a risk factor such as violating the basic rights of the people, you should go through a process of careful deliberation to establish a legal basis and develop a legal basis for the technology rather than hastily relaxing regulations to promote the technology. A process (procedure) for establishing utilization principles is required. In order to more firmly and thoroughly protect human biometric information, which has immutable and permanent properties, based on the legal principles of the Personal Information Protection Act, the establishment of legal and institutional mechanisms is not an option but a necessity. Now is the time to begin discussions on resolving problems such as invasion of privacy and violation of basic rights caused by the use of AI technology.

목차 (Table of Contents)

• Ⅰ. 서론
• Ⅱ. AI기술의 활용문제 및 관련 유럽 인공지능법(안면인식기술 사례를 중심으로)
• Ⅲ. 안면인식기술의 활용과 경찰법적 문제
• Ⅳ. 인공지능기술의 활용을 위한 개선 방안(결론)
• 참고문헌