인간존엄의 디지털 전환과 데이터 인격권 = The Digital Transformation of Human Dignity and Data Personality Rights

국문 초록 (Abstract)

인공지능 시대 개인에 관한 데이터는 더 이상 주체와 분리된 객관적 정보가 아니다. 인공지능의 끊임없는 수집과 가공을 통해 재처리된 데이터는 개인의 내밀한 심리, 사회적, 관계, 미래의 행태 양식을 투영하는 소위 ‘디지털 페르소나(Digital Persona)’를 구성한다. 기존의 개인정보자기결정권이 개인정보의 유출과 오용을 막는 보안과 방어에 대응했다면, 인공지능환경에서 자기결정권은 국가나 기업의 기술권력에 의해 규정되지 않는, 이른바 ‘예측된 사생활의 해악(Predictive privacy harm)’에 대응한 ‘데이터 인격권’으로 확장될 필요가 있다. 이른바 데이터 인격권은 인공지능 시스템에서 개인을 규정하는 알고리즘 환경이 그의 인격을 왜곡, 조작하지 못하도록 하는 실체적 권리로서 인공지능 결괏값에 대한 개인의 의사결정의 선택권 내지는 개입권으로 정의되어야 한다.
이는 근본적으로 헌법 제10조인 인간존엄 규정이 보장하는 자유로운 인격 발현에서 지지된다. ‘존엄’은 로마 시대부터 개인의 정치적 결단을 정당화하는 레토릭으로 사용돼왔고, 오늘날 법원은 존엄을 이유로 개인의 선택권을 보호하거나 공동체의 이익을 우선하기도 한다. 이러한 이유에서 ‘존엄’은 그 헌법적 위상과 국제사회에서의 위엄에도 불구하고, 실상 빈 껍질(empty shell)로 언제든 국가공동체의 논리에 의해서 개인을 희생시킬 수 있는 도구가 될 수 있는 것으로 비판받기도 한다. 그런데도, 존엄을 통해 인류는 인간의 절대적인 내적 가치(intrinsic value)와 자율성(autonomy), 공동체 가치(community value)를 공유해왔으니, 존엄은 공허한 개념이라고만 할 수는 없다. 그중 인간의 ‘내적가치’와 ‘자율성’은 인공지능 결정에 대응한 자기결정권의 핵심지표로 인간존엄의 보호영역에 포섭될 수 있을 것이다. 인간의 자기결정권은 기계의 결정에 대응한 최후의 보루로서 입법적 시혜가 아닌 헌법상 기본권으로 확립될 때, 비로소 실질적 권리가 될 수 있다.
이를 위해 인공지능 시대 인간존엄은 개인의 자기결정을 강화하는 동시에 국가의 상시적 후견주의에 제동을 거는 이중적 기능을 수행해야 할 것이다. 기존의 개인정보자기결정권이 정보의 흐름을 통제하는 소극적 방어에만 머물렀다면, 인공지능 결괏값에 대응한 이 시대의 자기결정에는 ‘적극적 자유’의 요소가 요구된다. 아울러 인간존엄과 개별기본권 간의 이익형량에 필요한 비례원칙에도 보완이 필요하다. 입법적으로는 사회적 점수화(social scoring) 등 개인을 낙인찍는 자동 분류나 인간을 객체화하는 알고리즘 처리와 실시간 수집, 처리되는 무차별적인 데이터 처리를 제한 것과 권리영향사전평가(FRIA), 독립적 사전통제, 설명권·이의권·배상권을 인공지능서비스 약관, 계약, 운영정책에 제시해 공·사 모두에 적용되는 것을 고려할 수 있겠다.

다국어 초록 (Multilingual Abstract)

In the era of Artificial Intelligence (AI), data concerning individuals is no longer merely objective information decoupled from the subject. Data reprocessed through continuous collection and manipulation by AI constitutes a so-called “Digital Persona,” projecting an individual’s intimate psychological, social, and relational attributes, as well as future behavioral patterns. While the traditional right to informational self-determination focused on security and defense—namely, preventing the leakage and misuse of personal information—the AI environment necessitates an evolution toward “Data Personality Rights.” These rights serve as a response to “predictive privacy harm,” wherein an individual’s life is predefined by the technological power of the state or corporations. Data personality rights should be defined as substantive rights—specifically, the right to choose or intervene in AI-generated outcomes—to ensure that the algorithmic environment defining the individual does not distort or manipulate their personality.
This shift is fundamentally supported by the “free manifestation of personality” guaranteed under the human dignity clause of Article 10 of the Constitution of the Republic of Korea. Since the Roman era, “dignity” has been employed as rhetoric to justify individual political decisions; today, courts invoke dignity either to protect individual autonomy or to limit it in favor of communal interests. Consequently, despite its constitutional and international stature, dignity is sometimes criticized as an “empty shell” that can be weaponized to sacrifice the individual to the logic of the state community. Nevertheless, dignity remains a vital concept through which humanity shares absolute intrinsic value, autonomy, and community values. Among these, “intrinsic value” and “autonomy” serve as core indices of self-determination in response to AI-driven decisions and fall within the protected ambit of human dignity. The right to self-determination can only become a substantive right when it is established as a constitutional fundamental right—the final bulwark against machine-led decision-making—rather than a mere legislative favor.
To this end, human dignity in the AI era must perform a dual function: strengthening individual self-determination while simultaneously checking the pervasive paternalism of the state. While traditional informational self-determination remained a passive defense for controlling information flow, the contemporary right to self-determination regarding AI outcomes requires elements of “positive liberty.” Furthermore, the principle of proportionality used for balancing human dignity against specific fundamental rights requires supplementation. Legislatively, this may include: prohibiting automated classification that stigmatizes individuals(such as social scoring) or algorithmic processing that objectifies humans; restricting indiscriminate real-time data processing; and integrating Fundamental Rights Impact Assessments(FRIA), independent prior controls, and the rights to explanation, objection, and compensation into AI service terms, contracts, and operating policies for both public and private sectors.