생성형 인공지능(AI)을 이용한 명예훼손 범죄의 책임귀속 주체와 그 내용에 관한 고찰 = A Study on the Attribution of Responsibility and Its Content in Defamation Crimes Involving Generative Artificial Intelligence

국문 초록 (Abstract)

명예훼손 범죄는 개인의 사회적 평판을 해치는 사실적시 또는 허위사실의 적시를 다루는 형법적 개념이다. 인공지능(AI) 시대가 도래하기 전에는 말이나 행동, 그리고 신문, 잡지, 라디오, 출판물 등이 명예훼손의 주요 수단이었으나, 디지털 시대에는 사이버 공간을 통해 순식간에 초국경적으로 다수에게 피해를 확신시키고 있다. 이에 더하여 생성형 AI 기술을 이용한 명예훼손 범죄는 중대한 전환점을 맞이하고 있다. 최근 ChatGPT로 대표되는 생성형 AI 기술의 급속한 발전은 누구나 단시간에 저렴한 비용으로 허위사실이나 허위영상 등을 제작하여 온라인 플랫폼, 페이스북, 인스타그램 등과 같은 소셜 네트워크 서비스(SNS) 등에 게시하는 방법으로 순식간에 유포・재생산하여 회복 불가능하고 광범위한 피해를 발생시키고 있다.
생성형 AI는 인간도 아니고 법인도 아니기 때문에 피해자가 생성형 AI 자체를 대상으로 명예훼손 소송을 제기할 수 없다. 그러나 생성형 AI 시스템을 직접 이용하는 자, 생성형 AI 서비스제공자, AI 설계자/제작자는 일정한 조건이 충족될 때 형사책임의 주체로 인정할 수 있다.
따라서 이 논문에서는 생성형 AI를 이용한 새로운 명예훼손 사례에 있어 누가 책임귀속의 주체인지, 그 책임의 구체적 내용은 무엇인지를 고찰함으로써 현재와 미래의 명예훼손 형사소송 당사자들이 직면하게 될 도전을 검토하고자 한다. 이 논문에서는 먼저 생성형 AI 기술의 출현에 따른 명예훼손 범죄의 새로운 법적 문제를 살펴본다. 다음으로, 생성형 AI를 이용한 명예훼손 범죄 책임귀속의 주체로 생성형 AI 직접 이용자, 생성형 AI 서비스제공자, 생성형 AI 개발 설계자/제작자, 그리고 생성형 AI 그 자체를 고찰한다. 셋째, 생성형 AI를 이용한 명예훼손 범죄의 형사책임의 내용과 관련하여 직접 이용자의 정보통신망법상 허위사실 적시 명예훼손죄의 주요 법적 쟁점, 생성형 AI 서비스제공자의 부작위 방조범의 성립 요건, 직접 이용자에 대한 형법 제310조 위법성조각사유 적용 여부와 형법 제310조 착오의 문제를 검토한다.
이 글은 생성형 AI를 이용한 명예훼손 범죄와 관련하여 진화하는 법리와 잠재적인 해결책에 대한 통찰력을 제공하고자 한다. 이를 통해 생성형 AI 시대에 명예훼손으로 인한 잠재적인 사회적 피해에 적극적으로 대처하고, 표현(언론)의 자유를 보장하기 위한 법적 프레임과 책임 있는 생성형 AI 기술 개발과 관련된 규제의 필요성을 둘러싼 지속적인 담론에 기여하고자 한다.

다국어 초록 (Multilingual Abstract)

Defamation is a legal concept under criminal law that deals with the act of damaging an individual's social reputation through the disclosure of factual statements or the assertion of false information. Before the advent of the AI era, speech, actions, newspapers, magazines, radio, and publications were the primary means of defamation. However, in the digital age, defamation can quickly cause harm to many across borders through cyberspace. Furthermore, the crime of defamation using generative AI technology has reached a critical turning point. The rapid development of generative AI technology, exemplified by ChatGPT, now enables anyone to quickly and cheaply create false information or fake videos, which can be posted on online platforms and social network services (SNS) such as Facebook and Instagram. This allows for the instantaneous spread and reproduction of content, causing irreparable and widespread harm.
Since generative AI is neither a human nor a legal person, a defamation lawsuit cannot be filed directly against the AI itself. However, under certain conditions, those who directly use generative AI systems, the service providers, and the AI designers/developers can be held criminally responsible.
Therefore, this paper aims to examine who bears the responsibility in cases of defamation involving generative AI, and what the specific details of that responsibility are, by exploring the challenges that current and future parties in defamation lawsuits will face. First, the paper will address the new legal issues surrounding defamation crimes brought about by the emergence of generative AI technology. Next, it will consider the parties responsible for defamation crimes involving generative AI, including direct users of generative AI, service providers, developers/designers, and generative AI itself. Third, regarding the criminal liability in defamation crimes using generative AI, it will explore key legal issues such as the application of defamation laws under Act On Promotion Of Information And Communications Network Utilization And Information Protection to direct users, the conditions for establishing the liability of service providers as accomplices through omission, whether the justification of Article 310 of the Criminal Act applies to direct users, and the issue of mistake under Article 310 of the Criminal Act.
This Article aims to provide insights into the evolving legal principles and potential solutions regarding defamation crimes involving generative AI. Through this, the paper seeks to actively address the potential social harm caused by defamation in the era of generative AI and contribute to the ongoing discourse surrounding the legal framework necessary to protect freedom of speech and expression. It also highlights the need for regulations related to the responsible development of generative AI technology.