인공지능에 의한 불공정거래행위의 법적 규제 ― 자본시장법 상의 불공정거래행위를 중심으로 ―

국문 초록 (Abstract)

AI가 앞으로 어떤 형태로, 어느 정도까지 발전할지, AI와 인류가 함께 살아가는 미래는 어떤 세상일지 등에 대해서는 다양한 견해들이 있다. 그리고 기계주의자나 물리주의자들은 AI를 인간과는 다른 의식이나 감정을 가진 또 다른 종으로 보려고 하지만, 인간의 판단력을 뛰어넘는 AI가 등장한다 해도 기계는 기계일 뿐, 확률과 통계의 수학적 기술이 생명체를 완전히 이기는 것은 불가능하다는 견해도 공존한다. 동물에게도 피동자의 지위가 주어진 20세기는 피동자 중심의 윤리가 중요한 관점으로 부상하고, 인간이 아닌 다른 생명체나 생태체계에도 도덕적 지위를 부여하는 생명중심적 윤리와 함께 생명을 존재로 대치하는 존재중심의 윤리가 등장하면서, AI도 자신의 권리를 주장하고 책임을 질 수 있도록 해야 할 것이며, 법인격이나 전자인격까지도 인정해야 한다는 주장이 등장하였다. 그러나 AI에게 법인격을 인정할지의 여부는 역사적으로 변화하는 가변적이고 상대적인 인격개념의 인위적 확장의 문제, 그리고 법정책학적 관점에서의 정당성 확보의 문제일 뿐이다. 또한 AI 그 자체에게 손해배상책임과 형사책임을 묻기 위한 방법으로 AI에게 재산권을 인정해야 하는 것인지, 그리고 AI를 형법적으로 의미 있는 행위주체로 인정해야 하는지의 문제는 인문학과 사회과학 등의 조력을 받아야 하는 영역일 뿐만 아니라 범용 AI나 초지능 AI가 등장한 뒤의 문제이기도 하다.
그런데 AI는 사용자의 피용자에 불과하므로 관리감독 책임을 다했음을 증명한 사용자는 면책되며, AI만이 손해배상책임을 지는 결과가 발생한다. 또한 사업자들이 AI를 활용하여 이익만 취하고 본인의 책임을 회피하기 위해 AI를 엄폐물로 활용하는 경우도 있을 것이고, 아직 인공지능이 스스로의 행위에 대해 책임과 권리를 소유하고 있지 못하고, 스스로 해야 할 행위와 하지 말아야 할 행위를 선택하는 시스템을 충실히 지킬 능력도 부족하므로 완전한 도덕적 행위자로 보기는 어렵다. 따라서 현 단계에서 AI에게 법인격을 인정하는 것에 대해서는 회의적이다.
그리고 AI를 불공정거래행위의 주체로 볼 수 있는지에 관한 문제 역시 현 단계에서는 AI에게 독립한 권리주체로서의 자격이 인정되지 않으므로 해당 AI를 이용하는 특정 주체가 의사결정자로서 불공정거래를 하고 있는 것으로 보는 것이 타당할 것이다. 특히 불공정거래를 할 때 시스템 이용자가 스스로 개발한 AI를 이용한 경우에는 책임분담의 문제는 생기지 않지만 복수의 주체가 개발이나 운용에 관여하게 되는 경우에는 불공정거래의 결과로 생긴 손해의 책임 귀속 및 분담의 문제가 발생할 수 있다. 또한 AI를 이용한 행위가 자본시장법이 정하고 있는 의무나 원칙을 위반한 경우에는 불법행위가 성립할 여지가 있다.
요컨대, 현재 상태에서의 AI를 이용한 불공정거래행위에 대해서는 모두 AI가 아니라 그 배후에 있는 인간에게 책임을 물어야 한다. 그러나 AI에 의한 불공정거래행위는 그것들에 법인격이나 재산권이 인정되고 그것들이 형법적으로 의미 있는 행위주체로 인정되는 지에 관한 책임법리로서 범용 AI나 초지능 AI의 등장했을 때 연구되어야 할 영역이다.

다국어 초록 (Multilingual Abstract)

There are various opinions on how AI will develop in the future and to what extent Artificial Intelligence(AI) and humanity will live together. And while mechanists and physicists are looking at AI as another species with different consciousness or emotions than humans, there are also views that even if AI emerges beyond human judgment, the machine is only a machine, and that mathematical technology of probability and statistics is impossible to beat life completely. In the 20th century, when animals were given the status of patient, patient centered ethics emerged as an important point of view, life-centered ethics that conferred a moral status to other organisms and ecological systems other than human beings and ethics that replaced life as beings. With the emergence of ethics, it was argued that AI should be able to assert and take responsibility for theirIt has been argued that AI should be able to assert its rights and take responsibility, and that we must recognize legal personality and also electronic personality to AI.
However, whether or not to recognize legal personality to AI is only a matter of artificial expansion of historically changing variable and relative personality concepts, and justification from a legal and policy perspective. In addition, the question of whether AI should recognize property rights as a way to ask AI itself for damages and criminal liability, and whether AI should be recognized as the subject of criminal law is an area where humanities and social sciences should be assisted and also a problem after general AI or super intelligent AI appeared.
By the way, in the modern legal system, AI is only an employee of the user, so the user who proves that he / she has fulfilled the responsibilities of management supervision is indemnified, and only AI is liable for damages. Also, there are cases where operators use AI as cover to take advantage of AI and evade their responsibilities, and AI has not yet held responsibility and rights for its own actions, It is also difficult to see as a complete actor because it lacks the ability to faithfully defend the system of selecting the actions to be avoided. Therefore, it is skeptical whether AI will be recognized as a legal entity at this stage.
And also, since AI is not recognized as an independent rights subject at this stage, it should be regarded that a specific entity using the AI is making unfair transactions as a decision maker. In particular, in the case of unfair trade, if the system user uses the AI developed by himself, there is no problem of responsibility sharing, but when multiple entities are involved in the development or operation, the problem of attribution and sharing of damages resulting from the unfair trade can occur. Of course, if a general AI or a super-intelligent AI appears in the future, the AI itself will be held accountable.
In conclusion, all unfair trading practices under the Capital Market Act, such as undisclosed critical information use (internal trading), market manipulation, fraudulent trading, and market disturbance using AI under the current state, should be held accountable to humans behind them, not AI. However, the unfair trade acts under the Capital Market Act by AI are related to whether legal personality or property rights are recognized in them and they are recognized as criminally meaningful agents of action, which is a problem when general AI or super-intelligent AI emerged.

목차 (Table of Contents)

• 초록
• Ⅰ. 서론
• Ⅱ. 자본시장에서의 AI 알고리즘 거래의 법적 문제점
• Ⅲ. AI를 이용한 거래와 법적 책임
• Ⅳ. AI를 이용한, 그리고 AI에 의한 자본시장법상의 불공정거래행위 규제
• Ⅴ. 결론
• 참고문헌
• ABSTRACT

참고문헌 (Reference)

• 1 구본권, "호모 사피엔스라는 정류장을 떠나 미지의 미래로 향하는 인류: 호모데우스" (29) : 2017
• 2 이용식, "형법총론" 박영사 2018
• 3 정성근, "형법총론" 성균관대학교 출판부 2012
• 4 양천수, "현대 지능정보사회와 인격성의 확장" 동북아법연구소 12 (12): 1-26, 2018
• 5 중앙일보, "혁신 가르치는 ‘디자인 씽킹의 전설’이 말했다. “AI 믿지 말라"
• 6 신상규, "철학과 현실" 철학문화연구소 2017
• 7 김병용, "증권가 공포로 몰아넣은 ‘플래시 크래시’란"
• 8 법률신문, "중국법원, AI가 작성한 콘텐츠를 ‘법인저작물’로 인정"
• 9 주간경향 1368호, "주식투자 ‘알고리즘’이 알아서 해준다"
• 10 김정수, "자본시장법원론" SFL그룹 2014
• 11 서완석, "자본시장법상의 시세조종행위 규제" 한국상사판례학회 22 (22): 185-246, 2009
• 12 서완석, "자본시장법상 부정거래의 해석 및 적용" 법학연구소 6 (6): 329-364, 2013
• 13 최승재, "자본시장법 제178조 제1항 제1호에 대한 연구" 한국금융법학회 6 (6): 3-46, 2009
• 14 변제호, "자본시장법" 지원출판사 2015
• 15 김건식, "자본시장법" 두성사 2013
• 16 임재연, "자본시장법" 박영사 2014
• 17 "인공지능편향과 윤리적 과제"
• 18 Amazon Web Services(AWS), "인공지능이란 무엇입니까?"
• 19 이창민, "인공지능의 형사책임" 14 (14): 2018
• 20 "인공지능의 자율성 - SF의 주제가 현실의 문제로 다가오고 있다 -"
• 21 한국일보, "인공지능은 생명을 이길 수 없다”(이어령 교수가 보는 ‘AI의 시대’)"
• 22 이중원, "인공지능에게 책임을 부과할 수 있는가?: 책무성 중심의 인공지능 윤리 모색" 한국과학철학회 22 (22): 79-104, 2019
• 23 서완석, "인공지능에 의한 소비자권익 침해에 관한 유형과 법적 과제" 한국상사법학회 37 (37): 317-375, 2018
• 24 신상규, "인공지능시대의 윤리학" 2 (2): 2016
• 25 윤영석, "인공지능로봇에 관한 형사법적 연구" 서울대학교 대학원 2018
• 26 김영두, "인공지능과 자유의지, 인공지능 시대의 법적 과제" 2017
• 27 양천수, "인공지능과 법체계의 변화 ―형사사법을 예로 하여―" 한국법철학회 20 (20): 45-76, 2017
• 28 NVIDA 웹사이트, "인공지능과 머신러닝, 딥 러닝의 차이점을 알아보자"
• 29 松尾豊(마쓰오 유타카), "인공지능과 딥러닝: 인공지능이 불러올 산업 구조의 변화와 혁신" 동아엠엔비 2017
• 30 서완석, "인공지능과 금융법" 법학연구소 12 (12): 179-214, 2019
• 31 "인공지능, 알고리즘, 개인정보보호를 둘러 싼 정책적 과제" 2017
• 32 한희원, "인공지능(AI)의 법인격 주체성의 논리적 기틀에 대한 기초 연구" 중앙법학회 20 (20): 375-412, 2018
• 33 신현탁, "인공지능(AI)의 법인격 – 전자인격(Electronic Person) 개념에 관한 소고 -" 대한변호사협회 (478) : 45-64, 2018
• 34 심우현, "인공지능(AI)의 규제이슈와 고려 가능한 대응전략" 한국행정연구원 규제연구센터(KIPA)
• 35 김화진, "인공지능 사외이사"
• 36 이인영, "인공지능 로봇에 관한 형사책임과 책임주의 -유기천교수의 법인의 행위주체이론과 관련하여-" 법학연구소 18 (18): 31-57, 2017
• 37 백종현, "인간 개념의 혼란과 포스트휴머니즘 문제" 철학사상연구소 (58) : 127-153, 2015
• 38 ZD Net Korea, "인간 같은 AI는 난센스…손정의 회장 AI시각은 비현실적"
• 39 이경규, "인(人) 이외의 존재에 대한 법인격 인정과 인공지능의 법적 지위에 관한 소고" 법학연구소 21 (21): 323-356, 2018
• 40 이상형, "윤리적 인공지능은 가능한가? - 인공지능의 도덕적, 법적 책임 문제 -" 한국법정책학회 16 (16): 283-303, 2016
• 41 박삼철, "우리나라의 시세조종행위의 규제에 관한 고찰" (216) : 1995
• 42 주간동아 726호, "악! 내 컴퓨터를 해커가 노려보고 있다"
• 43 정창록, "싱어의 이익평등고려의 원칙과 적용의 문제점" 동서사상연구소 10 : 2011
• 44 서완석, "시세조종에 관한 법적 문제 - 증권거래법 제188조의4 제4항을 줌심으로-" 경원대학교 법학연구소 1 (1): 2008
• 45 인공지능신문, "설명 가능한 인공지능(XAI)…왜 주목하나?"
• 46 이천현, "법인의 범죄주체능력과 형사책임" (22) : 2004
• 47 양천수, "법인의 범죄능력 - 법 이론과 형법정책의 측면에서 -" 한국형사정책연구원 18 (18): 161-194, 2007
• 48 최대호, "법인에 대한 형사책임 귀속의 요건" 법학연구원 33 (33): 119-144, 2009
• 49 정부입법지원센터, "법령입안심사기준"
• 50 머니투데이, "메릴린치 단타, 시세조종이라고?"
• 51 강두호, "도덕과 교육과정에 제시된 도덕 주체의 속성 ― 존재론적 측면을 중심으로" 한국도덕윤리과교육학회 (29) : 1-20, 2009
• 52 박임출, "내부자거래 규제에 관한 비교법적 연구" 성균관대학교 대학원 2003
• 53 김상봉, "나르시스의 꿈 : 서양정신의 극복을 위한 연습" 도서출판 한길사 2002
• 54 금융위원회, "국민 재산의 효율적 운용을 지원하기 위한 금융상품자문업 활성화 방안" 2016
• 55 이영의, "감성 컴퓨팅의 범위와 한계" 대우재단 2018
• 56 神崎克, "證券取引法" 靑林書院 1989
• 57 중앙일보, "日서 로봇강아지 ’아이보‘ 장례식 열려"
• 58 川崎友巳, "新時代の刑事法学椎橋隆幸先生古稀記念 下巻" 信山社 2016
• 59 日本銀行金融研究所, "投資判断におけるアルゴリズム・AIの利用と法的責任" アルゴリズム・AIの利用を巡る法律問題研究会 2018
• 60 三宅陽一, "人工知能のための哲学塾"
• 61 "人工知能って何？"
• 62 이정배, "“데이터敎”의 탄생, 누구를 위한 종교인가 - 유발 하라리의 ｢호모데우스｣(신이 된 인간) 2" 에큐메니안 2018
• 63 The Science Times, "‘살아 있는 로봇 생명체 ’제노봇‘ 탄생’"
• 64 연합인포맥스, "‘불공정거래도 AI시대’…거래소 시감위, 인공지능연구회 TF 가동"
• 65 wendys, "[AI] 인공지능, 머신 러닝, 딥 러닝 차이점이 무엇일까요?"
• 66 The Science Monitor, "[AI 윤리①] 美 브루킹스 硏, 인공지능 윤리적 딜레마 대책 논의…구글, MS, IBM, OpenAI 등 파트너십"
• 67 Michael S. Gazzaniga, "Who's in Charge? Free Will and the Science of the Brain" Eco 2011
• 68 Hubert L. Dreyfus, "What Computers Can’t Do(1972, 1979, 1992), The MIT Press; Setargew Kenaw, Hubert L. Dreyfus’s Critique of Classical AI and its Rationalist Assumptions" 18 : 2008
• 69 Laura Elena Miron, "Trust and responsibility in the technology-based service encounter" Lund University Department of service Management
• 70 Owen, J. Flanagan, JR., "The Science of the mind" MIT Press Cambridge 1991
• 71 Dennett, Daniel C., "The Redisovery of the Mind" J.Phil 90-, 1993
• 72 James. H. Moor, "The Nature, Importance, and Difficulty of Machine Ethics" 21 (21): 2006
• 73 John Chipman Gray, "The Nature and Sources of the Law" MacMillan 1909
• 74 Mark Coeckelbergh, "The Moral Standing of Machines: Towards a Relational and Non-Cartesian Moral Hermeneutics" University of Twente 27 : 2014
• 75 Robert A. Prentice, "The Internet and its Challenges for the Future of Insider Trading Regulation" 12 : 263-, 1999
• 76 Jonathan Haidt, "The Emotional Dog and Its Rational Tail: A Social Intuitionist Approach to Moral Judgment" 108 (108): 2001
• 77 Gabriel Hallevy, "The Criminal Liability of Artificial Intelligence Entities" 4 : 171-, 2010
• 78 Mitchell Waldrop, "The Age of Intelligent Machines 63" 1990
• 79 CNN travel, "Switzerland bans boiling lobsters alive"
• 80 Daniel R. Fischel, "Should the Law Prohibit “Manipulation” in Financial Markets?" 105 : 503-, 1991
• 81 Christopher D. Stone, "Should Trees Have Standing?-Toward Legal Rights for Natural Objects" 45 : 450-, 1972
• 82 Matthew U. Scherer, "Regulating artificial intelligence systems: Risks, Challenges, Competence, and Stra" 29 : 353-, 2016
• 83 Manuel Velasquez, "Philosophy: (11th Edition) A Text with Readings" Wadsworth 2008
• 84 Stephen C. Hicks, "On the Citizen and the Legal Person: Toward the Common Ground of Jurisprudence, Social Theory, and Comparative Law as the Premise of a Future Community, and the Role of the Self Therein" 59 : 789-, 1991
• 85 Charlotte Decker, "Note, Cyber Crime 2.0: An Argument to Update the United States Criminal Code to Reflect the Changing Nature of Cyber Crime" 81 : 959-, 2008
• 86 David J. Gunkel, "Mind the gap: responsible robotics and the problem of responsibility" 2017
• 87 Scott Carey, "Lloyds Banking Group prepares for open banking by shifting towards realtime data feeds" Computerworld UK
• 88 Max Tegmark, "Life 3.0: Being Human in the Age of Artificial Intelligence" Deckle Edge 2017
• 89 Lawrence B. Solum, "Legal personhood for artificial intelligence" 70 : 1231-, 1992
• 90 Jonah M. Kessel, "Killer Robots Aren’t Regulated. Yet"
• 91 "KRX, 보도자료, 2019. 10. 16"
• 92 L. Floridi, "Jeroen van den Hoven and John Weckert, editors, Moral Philosophy and Information Technology" Cambridge University Press 2008
• 93 "Japan Inside 일본 내 주요 연구 동향" 28 (28): 3-15, 2019
• 94 Winston Ewert, "Is the human mind a computer?"
• 95 Henry Manne, "Insider Trading and the Law Professors" 23 : 547-, 1970
• 96 Gabriel Hallevy, "I, Robot-I, Criminal-When Science Fiction Becomes Reality: Legal Liability of AI Robots Committing Criminal Offenses" 2010
• 97 Scott Carey, "How UK banks are looking to use AI and machine learning" Computerworld UK
• 98 John Manning, "How AI Is Disrupting the Banking Industry" Banker 2018
• 99 Oscar Williams-Grut, "HSBC chairman Douglas Flint says we need a ‘huge debate’ on customer data" BUSINESS INSIDER
• 100 Douglas R. Hofstadter, "Gödel, Escher, Bach: an Eternal Golden Braid" Basic Books 1980
• 101 Emilie Dardenne, "From Jeremy Bentham to Peter Singer" Varia 2010
• 102 Mark J. Cain, "Fodor: Language, Mind and Phil" Black-well 2002
• 103 "FLI Podcast: On Consciousness, Morality, Effective Altruism & Myth with Yuval Noah Harari & Max Tegmark"
• 104 Andreas Matthias, "Ethics and Information Technology 6(3)" Kluwer Acamedic Publishers 2004
• 105 Elizabeth J. Horberg, "Emotions as Moral Amplifiers: An Appraisal Tendency Approach to the Influences of Distinct Emotions upon Moral Judgment" 3 (3): 2011
• 106 Christopher D. Stone, "Earth and Other Ethics: The case for moral" Harper & Row 1987
• 107 David J. Gunkel, "Critical Perspectives on AI, Robots, and Ethics" MIT Press 2012
• 108 Dennett, D, "Consciousness Explained" Little, Brown & Co 1991
• 109 A.M. Turing, "Computing Machinery and Intelligence" Oxford University Press on behalf of the Mind Association 1950
• 110 Farid Sharaby, "Computer Hacking as a “ Deceptive Device”: Why the courts must give computers legal consciousness to hold hackers liable for insider trading" 42 : 929-, 2011
• 111 Jacob Arnoldi, "Computer Algorithms, Market Manipulation and the Institutionalization of High Frequency Trading" 33 (33): 2016
• 112 B. Jack Copeland etc, "Computability: Turing, Gödel, Church, and Beyond" The MIT Press 2015
• 113 Steffen, "Can machines be conscious? Yes! Here is Why"
• 114 Brett King, "Bank 3.0: Why Banking Is No Longer Somewhere You Go But Something You Do (2012); Bank 4.0: Banking Everywhere" Never at a Bank 2018
• 115 George R. Cross, "An Artificial Intelligence Application in the Law: CCLIPS, A Computer Program that Processes Legal Information" 1986
• 116 Picard, R., "Affective Computing: Challenges" 59 : 2003
• 117 Picard, R., "Affective Computing" 321 : 1995
• 118 Helen Nissenbaum, "Accountability, in a computerized Society, Human values and the Design of Computer Technology(Lecture Note)" Centre for the Study of Language & Information 1997
• 119 The Science Times, "AI, ‘감성 컴퓨팅’ 발전 이끌다"
• 120 조성은, "4차 산업혁명의 사회적 수용성 확보를 위한 국가전략 연구(1) 인공지능시대 법제대응과 사회적 수용성" 정보통신정책연구원 2018
• 121 아시아경제, "(단독) 거래소, ‘눈 시세조종’ AI로 잡는다…“2022년 도입 가능성”"