인공지능과 제조물책임 - 유럽 제조물책임 지침 개정에 즈음하여 - = Artificial Intelligence and Product Liability -Reflections on the Revision of the European Product Liability Directive-

국문 초록 (Abstract)

기계학습 및 딥러닝 기반의 인공지능은 보통의 유형적인 제조물과 달리 불투명성(opacity), 예측불가능성(unpredictability)과 자율성(autonomy) 및 자기학습능력 등과 같은 동적 특성이 있다. 인공지능의 결함으로 손해가 생긴 경우 기존 법체계로는 이를 규율하기가 어렵고, 책임 소재를 파악하기 어려운 ‘책임 공백의 문제’가 초래된다. 하지만 인공지능과 같은 디지털 제조물의 결함으로 인한 손해에 대해서도 보통의 제조물과 동일한 수준으로 소비자를 보호할 필요가 있음은 의문의 여지가 없다. 유럽은 이러한 문제점을 해결하기 위하여 1985년에 제정된 제조물책임 지침을 개정한 바 있다. 개정된 유럽 제조물책임 지침은 기존의 지침에 비하여 이런 제조물에서 생기는 피해구제에 있어 법적 불확실성을 제거하고, 예측 가능성을 보장한다는 측면에서 상당히 긍정적으로 평가할 만하다. 가령 개정된 위 지침은 그동안 논란이 많았던 소프트웨어를 제조물에 포함하였고, 인공지능과 같은 디지털 제조물에 대한 결함 판단 시점을 확장하였으며, 피해자의 입증 곤란 문제를 덜어주기 위하여 위해 증거 공개와 결함과 손해 및 인과관계에 대한 추정 제도를 도입하였다. 이러한 점은 우리 제조물책임법 개정에도 시사하는 바가 매우 크다고 생각된다. 그러나 유럽의 위 지침의 개정에도 인공지능의 동적 특성이 충분히 반영되지 못하고 있고, 여러 면에서 비판도 적지 않다. 개정된 지침도 여전히 제조자의 개발위험의 항변을 존치하고 있고, 피해자가 극복하기 힘든 결함에 대한 입증을 요구함으로써, 여전히 과실책임의 요소를 반영하고 있다. 또한 위 지침이 도입한 증거 공개나 결함 추정의 경우에도 모호성과 불확실성이 상당히 남아 있으므로 위 개정 지침의 실효성은 좀 더 지켜보아야 할 것으로 생각된다.

다국어 초록 (Multilingual Abstract)

Artificial intelligence based on machine learning and deep learning differs from traditional tangible products in that it possesses dynamic characteristics such as opacity, unpredictability, autonomy, and self-learning capabilities. Where damage arises from defects in AI systems, existing legal frameworks encounter significant difficulties in regulating such harm, often resulting in a so-called “liability gap,” in which it is challenging to identify the party responsible. Nevertheless, there is little doubt that damage caused by defects in digital products such as AI should be subject to the same level of consumer protection as that afforded to traditional products.
In order to address these challenges and to eliminate legal uncertainty surrounding digital products such as AI software, the European Union has revised the relevant Directive. Compared to the Product Liability Directive adopted in 1985, the revised European Product Liability Directive may be evaluated positively in that it seeks to reduce legal uncertainty and enhance predictability in the provision of remedies for damage caused by such products. For example, the revised Directive includes software—previously a highly controversial issue—within the definition of a product, extends the temporal framework for assessing defects in digital products such as AI, and introduces mechanisms for the disclosure of evidence and presumptions of defect in order to alleviate the evidentiary difficulties faced by injured parties. These developments offer significant insights for potential amendments to the Korean Product Liability Act.
However, as discussed above, even the revised European Directive does not fully reflect the dynamic characteristics of AI and has been subject to considerable criticism in several respects. As noted earlier, the Directive continues to allow development risk defence and still requires injured parties to overcome substantial evidentiary burdens in establishing defectiveness, thereby retaining elements of fault-based liability. Moreover, significant ambiguity and uncertainty remain with regard to the rules on evidence disclosure and presumptions of defect. Accordingly, the practical effectiveness of the revised Directive remains to be seen.