AI 자율주행자동차 사고 책임과 형사제재 = AI autonomous vehicle accident liability and criminal sanctions

국문 초록 (Abstract)

우리 현행법상 SAE Level 4 이상 자율주행자동차에 대한 법규는 아직 없지만 독일과 일본은 도로교통법 개정을 통해 Level 4 이상 자율주행을 가능하게 하는 법적 기반을 먼저 구축하였다. Level 4 이상 자율주행자동차는 AI에 기반한 자율주행시스템으로 작동되는 피지컬 AI의 대표적인 사례이다. 자율주행자동차는 ‘고위험’ AI에 해당하고 형법상 허용된 위험의 법리를 성급하게 적용할 수 없다. 또한 위험형법은 국가형벌권이 확장되는 결과를 초래하므로 AI 자율주행자동차는 비례성의 원칙에 어긋나지 않는다는 수준이 확인되는 일정한 수준의 위험을 수용할 수 있다. AI 자율주행자동차 교통사고시 형사책임을 인정하는 전제조건과 요건들은 민사책임에 비해 훨씬 엄격할 뿐만 아니라 윤리적 색채가 강하다. 따라서 현재 주로 민사상 손해배상을 강화하거나, 보험이나 제조물책임을 확대하는 방식을 해결책으로 제시하고 있다. 그러나 민사법적 해결에만 의존한다면, 만약 자율주행자동차 운영 관련자들이 부담하는 비용이 행정청이 부과하는 관리·감독비용보다 가볍다고 판단하여 향후 발생할 수 있는 비용을 만연히 감수하려고 하는 잘못된 결정을 막을 방법이 없다. 독일과 일본도 자율주행자동차가 사고를 내거나 구체적 위험을 발생시켰다면 형사법 영역에서는 책임소재의 공백이 발생한다. AI가 예측하기 어려운 방향으로 스스로 결정하여 인간의 통제가 어려운 ‘AI의 블랙박스화’ 상태가 가까이 다가온 만큼 그 위험에 대처해야 할 형사제재가 필요하다. AI 자율주행자동차가 형법상 위법한 행위와 연결된다면 향후 형벌 대신 비례성원칙에 따른 보안처분을 부과할 수 있다. 빅테크기업들의 영업비밀인 AI 기술은 현저한 사회적 위험성이 발현될 위험성이 있고 위험예방을 위한 명확하게 우월한 이익이 있다고 판단된다면 공개하여야 한다. 이를 기초로 문제가 되는 개별 AI 자율주행자동차의 운행을 금지시키는 형사제재로서 보안처분제도가 필요하다.

다국어 초록 (Multilingual Abstract)

While Korea currently lacks regulations for SAE Level 4 or higher autonomous vehicles, Germany and Japan have established a legal foundation to enable Level 4 or higher autonomous driving through revisions to their Road Traffic Act. Level 4 or higher autonomous vehicles are a prime example of physical AI, operating as an AI-based autonomous driving system. Autonomous vehicles are considered “high-risk” AI, and the legal principles of risk permitted under criminal law cannot be hastily applied. Furthermore, since risk-based criminal law leads to an expansion of state penal power, AI autonomous vehicles can accept a certain level of risk confirmed not to violate the principle of proportionality. The prerequisites and requirements for recognizing criminal liability in AI autonomous vehicle traffic accidents are not only much stricter than those for civil liability but also carry strong ethical implications. Therefore, solutions currently proposed primarily involve strengthening civil damages, expanding insurance coverage, or broadening product liability. However, relying solely on civil law solutions offers no way to prevent the wrong decision where operators of autonomous vehicles, judging the costs they bear to be lighter than the administrative oversight costs imposed by authorities, might recklessly accept potential future costs. In Germany and Japan, if autonomous vehicles cause accidents or pose specific risks, a gap in criminal law will arise. As AI approaches the point of becoming a “black box”—making decisions difficult to predict and beyond human control—criminal sanctions are necessary to address this risk. If an AI autonomous vehicle is linked to an act illegal under criminal law, security measures based on the principle of proportionality could be imposed instead of criminal penalties in the future. AI technology, a trade secret of big tech companies, should be disclosed if it poses a significant social risk and clearly provides a superior benefit for preventing such risks. Based on this, a security measure system is needed as a criminal sanction to prohibit the operation of problematic individual AI autonomous vehicles.