인공지능의 군사적 이용에 대한 국제적 규제 – 국제규범에 관한 논의의 최근 동향 – = International Regulation of Military Artificial Intelligence : Recent Debates on International Norms

국문 초록 (Abstract)

지난 10년 동안, 인공지능의 군사적 이용에 관한 국제규범은 주로 특정 재래식무기 제한협약의 당사국들이 설치한 자율살상무기체계에 관한 정부 전문가그룹에서 논의되었다. 2019년 특정 재래식무기 제한협약 당사국 회합에서 이 정부 전문가그룹이 확인한 11개 항의 ‘지도원칙’이 채택되었으나, 그러한 무기를 사용하는 경우에 발생할 수도 있는 이른바 ‘책임 간극’ 문제는 여전히 미해결 상태라고 할 수 있다. 또 2023년 5월에는 아르헨티나를 포함한 14개국이 자율무기체계를 완전히 금지하는 ‘자율무기체계에 관한 의정서(제6의정서) 초안’을 이 정부 전문가그룹에 제출했으나, 이 초안에는 이런 무기체계의 부재를 검증할 방법을 규정한 조항이 없다. 인공지능의 군사적 이용은 이미 자율무기체계의 범위를 넘어섰을 뿐 아니라, 군사적 우위를 차지하기 위한 인공지능 군비경쟁도 시작된 것으로 보인다. 이런 군비경쟁이 계속되면, ‘적대적 사례’와 같은 기계학습의 취약성 때문이든 시스템 간의 상호작용과 같은 다른 요인 때문이든 ‘벼락 전쟁’과 같은 의도하지 않은 결과가 발생할 위험이 커질 것이다. 현재의 기술로는 군사용 인공지능 시스템의 존재를 탐지하거나 그 부재를 검증하기가 어렵거나 불가능하다고 하므로, 인공지능의 군사적 이용을 전면 금지하는 식으로는 이런 위험을 해소하기가 어렵거나 불가능할 것이다. 이런 위험을 줄일 수 있는 현실적인 방법은 검증 불가능한 전면 금지가 아니라 검증 가능한 부분적 제한이지만, 거대 인공지능 훈련에 필요한 고성능 반도체 칩의 수출 통제와 같은 무역제한조치는 WTO 협정상의 의무 위반에 해당할 소지가 있다. 현재 기술적으로 검증 가능한 방식은 인공지능 기술의 이용 여부와 관계없이 특정 무기나 전투 수단을 금지하거나 제한하는 것이지만, 이런 국제적 합의는 어려울 수도 있다. 2023년 7월 18일 국제 평화와 안전에 미치는 인공지능의 영향이 처음으로 유엔 안전보장이사회의 의제로 다루어졌으며, 이 회합에서 유엔 사무총장은 인공지능의 군사적 이용에 관한 규범, 규칙, 원칙을 발전시킬 다자 프로세스에 참여하도록 회원국들에 요청할 예정이라고 밝혔다. 이제 인공지능의 군사적 이용 문제는 유엔 안전보장이사회 유엔 사무총장이 언급한 다자 프로세스에서도 논의될 것이므로, 외교적 요소도 논의의 결과를 좌우하는 변수의 하나가 될 것이다.

다국어 초록 (Multilingual Abstract)

Over the past decade, possible international norms governing military uses of artificial intelligence have been discussed mainly at the Group of Governmental Experts (GGE) established by High Contracting Parties to the Convention on Certain Conventional Weapons (CCW). While the ‘Guiding Principles affirmed by the Group of Governmental Experts on Emerging Technologies in the Area of Lethal Autonomous Weapons Systems’ was adopted by the 2019 Meeting of High Contracting Parties to the CCW, it does not appear that the so-called ‘responsibility gap’ has been filled up. In May 2023, 14 countries including Argentina submitted ‘Draft Protocol on Autonomous Weapon Systems (Protocol VI)’ which completely bans autonomous weapon systems, but this draft does not contain any provision for verification. The scope of military use of artificial intelligence has already extended beyond that of autonomous weapon systems, and it appears that an artificial intelligence arms race has begun to gain military superiority. If this arms race continues, the risk of unintended consequences such as ‘flash war’ will increase, whether due to machine learning vulnerabilities such as ‘adversarial examples’ or other factors including interactions between relevant systems. Since it is difficult or impossible to detect the presence or verify the absence of military artificial intelligence systems with current technology, it would be difficult or impossible to resolve this risk by completely banning military uses of artificial intelligence. A realistic way to reduce this risk will probably be a partial and verifiable restriction, not a complete ban that cannot be verified. On July 18, 2023, ‘artificial intelligence: opportunities and risks for international peace and security’ was placed on the agenda of the UN Security Council for the first time, and at the meeting of the Council the UN Secretary-General said that he would call on Member States to engage in a multilateral process to develop norms, rules and principles around military applications of artificial intelligence. The issue of military use of artificial intelligence will be discussed in the Security Council as well as the multilateral process mentioned by the Secretary-General, and thus diplomatic factors will become one of the important variables that will determine the outcome of the discussion.

참고문헌 (Reference)

• 1 이용호, "현대 국제군축법의 이론과 실제" 박영사 2019
• 2 이재민, "인공지능 시대의 도래와 국제법 - 국가행위 귀속 문제를 중심으로" 대한국제법학회 63 (63): 281-308, 2018
• 3 스튜어트 러셀, "인공지능 : 현대적 접근방식 1" 제이펍 2016
• 4 박미경, "국제형사재판소(ICC)의 ‘범행지배이론’에 대한 고찰" 대한국제법학회 60 (60): 151-178, 2015
• 5 International Law Commission, "Yearbook of the International Law Commission, vol. II, Part Two" 2001
• 6 A. Anand, "Towards Responsible AI in Defence: A Mapping and Comparative Analysis of AI Principles Adopted by States" UNIDIR 2023
• 7 A. Matthias, "The responsibility gap: Ascribing responsibility for the actions of learning automata" 6 (6): 175-183, 2004
• 8 M. Cupido, "The Control Theory as Multidimensional Concept: Reflections on the Ntanganda Appeals Judgment" 20 (20): 637-656, 2022
• 9 A. H. Michel, "The Black Box, Unlocked: Predictability and Understandability in Military AI" UNIDIR 2020
• 10 B. Boutin, "State responsibility in relation to military applications of artificial intelligence" 36 (36): 2023
• 11 T. Vestner, "Research Handbook on Warfare and Artificial Intelligence" Edward Elgar Publishing
• 12 Group of Governmental Experts, "Report of the 2019 session of the Group of Governmental Experts on Emerging Technologies in the Area of Lethal Autonomous Weapons Systems" 2019
• 13 W. Hoffman, "Reducing the Risks of Artificial Intelligence for Military Decision Advantage" Center for Security and Emerging Technology 2023
• 14 "REAIM Call to Action"
• 15 F. E. Morgan, "Military applications of artificial intelligence: Ethical concerns in an uncertain world" RAND 2020
• 16 S. Finn, "Mental Elements under Article 30 of the Rome Statute of the International Criminal Court: A Comparative Analysis" 61 (61): 325-359, 2012
• 17 I. Bode, "Meaning-less Human Control: Lessons from air defence systems on meaningful human control for the debate on AWS" Center for War Studies, University of Southern Denmark, Drone Wars 2021
• 18 "Judgment on the appeal of Mr Thomas Lubanga Dyilo against his conviction, Lubanga (ICC-01/04-01/06), Appeals Chamber"
• 19 US Department of Defense, "Investigation Report. Formal Investigation into the Circumstances Surrounding the Downing of Iran Air Flight 655 on 3 July 1988"
• 20 US Deputy Secretary of Defense, "Establishment of an Algorithmic Warfare Cross-Functional Team(Project Maven), Memorandum, 26 Apr. 2017"
• 21 G. Acquaviva, "Crimes without Humanity?: Artificial Intelligence, Meaningful Human Control, and International Criminal Law" mqad024-, 2023
• 22 Y. Sandoz, "Commentary on the Additional Protocols of 8 June 1977 to the Geneva Conventions of 12 August 1949"
• 23 US Department of Defense, "Autonomy in Weapons Systems, Directive 3000.09.13"
• 24 M. Bo, "Autonomous Weapons and the Responsibility Gap in light of the Mens Rea of the War Crime of Attacking Civilians in the ICC Statute" 19 (19): 2021
• 25 A. L. Schuller, "Artificial Intelligence effecting human decisions to kill : the challenge of linking numerically quantifiable goals to IHL compliance" 15 (15): 2019
• 26 M. Lambert, "Arms Control for Artificial Intelligence" 6 (6): 2023
• 27 DARPA, "AlphaDogfight Trials Foreshadow Future of Human-Machine Symbiosis"
• 28 E. Schmidt, "AI, Great Power Competition and National Security" 152 (152): 2022