인공지능(AI)과 형사책임 –‘형사적인 것’의 탐구를 위한 문제 제기를 겸하여 – = Artificial Intelligence (AI) and Criminal Liability: As a Proposal to the Exploration of ‘The Criminal’

국문 초록 (Abstract)

인공지능(AI, Artificial Intelligence) 기술의 급속한 발전과 활용영역의 지속적 확대는 형사법이론, 특히 신중한 접근이 요구되는 형사실체법 분야에서 중대한 도전 이 되고 있다. 학설은 인공지능이 점차 인간과 유사한 기능을 수행함에 따라 형법이론 을 적용하여 인공지능에 대해 형사책임을 부과할 수 있는지를 중심으로 논의가 전개되고 있다.
인공지능의 형사책임을 인정하기 위해서는 인공지능을 독자적 형사책임 귀속의 주체로 인정할 수 있어야 한다. 학설은 이를 위해서 인공지능이 야기한 외부적⋅물리 적 ‘사태’를 인간의 ‘행태’와 동일하게 법적으로 취급하고자 한다. 법기술적 차원에서 인공지능을 ‘전자인(e-person)’으로 간주하거나, ‘인간(Mensch)’과 ‘인격(Person)’을 분리하면서 후자를 중심으로 법이론을 구성하는 ‘탈인간중심적 법이론’에 근거하여 형사책임을 인정할 수 있다거나, 인공지능의 강⋅약 구분론을 토대로 강한 인공지능 에 대해서는 독자적인 행위능력을 인정할 수 있다는 등의 접근이 나오고 있다. ‘인격’ 개념을 중심으로 하는 접근은 특정한 법 영역에서 권리·의무의 귀속을 인정하기 위한 제한적 논의를 그대로 형사책임 주체성의 근거로 삼는다는 점에서 설명력이 충분하지 않다. 또한, 인공지능의 강·약을 구별하는 것은 형사책임의 최종적 귀속 관계를 해명하는 기준이 되기 어렵고 그 배후에 있는 인간의 책임을 은폐하거나 회피하는 결과가 될 여지도 있다. 따라서 이상과 같은 논의는 별도의 근거가 제시되지 않는 한, 인공지능의 형사책임을 충분히 해명하기 어렵다. 또한, 이를 전통적 형법이 론에 적용하는 경우, 인공지능에 대해 인간을 대상으로 하는 행위능력, 책임능력이나 형벌능력(수형능력)을 그대로 인정하기도 어렵다.
인공지능의 형사책임 논의는 그간 형법이론에서 자명한 것으로 간주되었던 요소 의 의미와 그 타당성을 묻고 그 토대부터 재검토할 것을 요구한다. 인공지능의 형사책 임은 규제 목적에 비추어 인간과 동일하게 모든 범죄에 적용되기보다는 제한된 영역과 특정 행위 유형(엄밀하게는 ‘사태’ 유형)에 한정하여 법률이 정하는 바에 따라 인정될 가능성이 크고, 그 금지의 범위와 제재는 형사정책적 목적과 요구에 따라 결정될 문제라는 것이 일반적인 시각이다. 그렇다면 인공지능의 형사책임 문제 는 결국 특정 위반 행위나 제재에 ‘형사적인 것’이라는 속성을 부여하는 요소가 무엇인지 규명하는, 즉 ‘형사적인 것’의 의미를 탐구하는 문제로 귀결된다. 이 도전에 답하는 것이 ―인공지능에 대한 것에 국한되지 않고― 형법이론의 과제이다.

다국어 초록 (Multilingual Abstract)

The rapid development and continuous expansion of Artificial Intelligence (AI) technology present significant challenges to criminal law theory, particularly in the area of substantive criminal law. Scholarly discourse addresses the attribution of criminal liability to AI, questioning whether current criminal law frameworks are applicable as AI increasingly performs functions analogous to those of humans. For AI to be held criminally liable, it must first be recognized as an independent subject of criminal liability.
Arguments supporting AI's criminal liability include comparing AI-caused events to human actions; granting AI legal personhood (e-person) as a legal entity responsible for criminal acts based on post-human legal theories; and recognizing an independent capacity for action in strong AI, distinct from weak AI.
However, concentrating solely on AI as a rights-bearing and duty-bound subject within a specific legal framework does not always resolve the issue of criminal liability. Moreover, distinguishing between strong and weak AI is an inadequate criterion for determining the ultimate attribution of criminal liability and risks obscuring or evading the accountability of the humans responsible for the AI. The discussion surrounding AI's criminal liability necessitates a critical reassessment of the fundamental concepts traditionally accepted in criminal law theory. Considering regulatory goals, the prevailing view is that AI is unlikely to be held criminally liable under the same standards applied to humans for all offenses. Instead, liability will be confined to specific areas and particular types of actions—namely, those events legally defined as crimes. The scope of prohibitions and penalties will be determined by the goals and requirements of criminal policy.
This means that determining AI's criminal liability ultimately depends on identifying the elements that make a particular act criminal or punishable—that is, understanding what constitutes ‘the criminal.’ Responding to this challenge falls within the task of criminal law theory, which is not limited to AI alone.