온라인 플랫폼의 추천 알고리즘에 대한 청소년의 알 권리 = The Right of Adolescents to Know About Recommendation Algorithms on Online Platforms

국문 초록 (Abstract)

최근 SNS를 포함한 온라인 플랫폼에서 딥페이크 기술을 이용하여 제작한 성적 합성 영상물 등이 유통되면서 심각한 사회문제로 대두되고 있다. 특히, 청소년들의 교우, 교사, 가족 등의 사진을 음란 영상물 등에 합성하여 시청 및 유포하면서 다양한 우려를 낳는다. 한편, 온라인 플랫폼의 추천 알고리즘을 통하여 선정적이거나 자극적인 콘텐츠들이 플랫폼 이용자들에게 제공되기도 하는데, 이러한 유해 콘텐츠가 온라인에서 홍수처럼 퍼지면서 자라나는 10대 청소년의 건강과 안전에 중대한 영향을 미치고 있다.
무엇보다도, 청소년 시기는 다양한 정보와 경험을 통해 가치관과 사고가 형성되는 시기로서, 장기간 유해 매체 등에 노출될 경우 그에 따른 부정적 영향이 상당하다. 무엇보다도 청소년은 기본권의 주체로서 미래 사회를 견인할 사회 구성원으로 존중받아야 하는 동시에, 이들의 건강한 성장과 발달을 위해서 국가와 사회의 특별한 보호가 필요하다.
온라인 플랫폼이 청소년에 미치는 유해한 영향은 우리나라뿐만 아니라 국제사회가 함께 고민하는 과제이다. 주요 국가들은 온라인 플랫폼의 콘텐츠 추천 기능이 청소년의 정신건강에 미치는 해로운 영향에 주목하면서, 다양한 정책적 대응방안을 마련하고 있다. 대표적으로 미국 상원 의회는 2024년 초 청문회를 통하여 메타(Meta) 및 틱톡(Tiktok) 등 온라인 플랫폼의 추천 알고리즘이 청소년에 미치는 영향 등에 관한 문제점을 조사하였으며, 이를 토대로 ｢아동 온라인 안전및프라이버시법(Kids Online Safety and Privacy Act: KOSPA)｣ 제정을 추진하였다.
온라인 플랫폼의 추천 알고리즘 활용에 따른 정신 건강에 대한 위해는 청소년에 대한 중대한 기본권 침해 사안이라는 점을 고려하여 접근할 필요가 있으며, 추천 알고리즘의 문제에 대한 규범적 대응이 강조되는 시점이다. 특히, 관할 당국은 플랫폼을 통한 불법 및 유해 콘텐츠 확산 이후에 청소년 유해매체물로 지정하는 사후 규제에서 벗어나, 온라인을 통해 제공되는 콘텐츠가 청소년의 잠재의식에 미치는 영향 및 정신건강 등에 심각한 해악을 야기할 수 있는 위험성 등을 고려할 필요가 있다. 또한, 그러한 콘텐츠가 청소년들에게 유통되기 전에 당국이 선제적으로 대응할 수 있는 사전 규제방안을 도입할 필요가 있다.
이 글에서는 그와 같은 문제의식을 토대로 하여, 지능정보사회에서 인공지능에 기반한 온라인 플랫폼의 추천 알고리즘이 청소년에 미치는 부정적 영향에 관한 외국의 주요 사례를 중심으로 문제점을 진단한다(Ⅱ장). 또한, 플랫폼의 편향된 정보전달 및 자동적 판단으로부터 청소년의 기본권을 보호하기 위한 수단으로서, 온라인 플랫폼의 추천 알고리즘에 대한 ‘알 권리’의 의미를 새롭게 재조명하고, 청소년의 안전한 플랫폼 이용을 위한 알고리즘 설명요구권 보장 등 도입의 필요성을 살펴본다(Ⅲ장). 마지막으로, 온라인 플랫폼을 규율하는 현행법의 한계 및 외국의 법제(Ⅳ장)를 바탕으로 SNS 시대의 청소년 보호를 위한 구체적인 개선방안을 모색하고자 한다(Ⅴ장).

다국어 초록 (Multilingual Abstract)

Serious social issues have arisen as sexually explicit deepfake videos created with AI technology are widely distributed on online platforms including social media. This is particularly troubling, considering deepfake technology has been used to combine photos of adolescents’ fellow students, teachers, or family members with pornographic content, creating chaos in society as these videos are viewed and distributed.
Additionally, online platforms’ recommendation algorithms frequently provide users with suggestive and vicious content. Such harmful and illegal content has increasingly reached adolescent users with little or no legal restriction, causing a profound impact on the safety and well-being of young people as they are flooded with such media.
Adolescence is a critical period for forming values, developing reasoning skills, and undergoing physical development. Prolonged exposure to harmful environments can have serious negative effects. Adolescents are an essential human resource for the development of any nation, and special protection is warranted from both the state and society to support their healthy growth.
The harm online platforms can have on adolescents is a pressing issue across borders. It is widely acknowledged as a serious problem not only in Korea but also internationally. Globally, there is an increasing focus on the negative mental health effects of content recommendation functions provided by online platforms on adolescents, and various policies are being developed to address this issue. Notably, the U.S. Senate held hearings in early 2024 to investigate the impact of harmful content distributed on platforms such as Meta and TikTok. The U.S. Senate has passed the Kids Online Safety and Privacy Act (KOSPA).
Recognizing that the mental health risks associated with recommendation algorithms constitute a serious infringement on adolescents’ basic rights is crucial. Specific regulatory responses are urgently needed. Rather than relying solely on traditional regulatory approaches where authorities designate certain media as harmful to youth following their distribution, it is essential to take proactive measures so that authorities can respond before such harmful content circulates. Such actions are clearly warranted, considering how such content can harm young people's subconscious and mental health.
In consideration of these issues, this article examines the negative impacts of AI-supported recommendation algorithms on adolescents by analyzing key case studies from outside Korea (Part II). It also explores the emerging concept of adolescents' “right to know” about the recommendation algorithms used by online platforms as a means to protect adolescents’ fundamental rights, examining the necessity of the right to ensure algorithm transparency as they engage with platform-based information (Part III). Finally, based on limitations in the current self-regulation framework for platform operators and foreign legislative examples (Part IV), this article seeks to propose specific improvements to protect adolescents in the era of social media (Part V).