UN의 AI 관리 방안 및 우리나라 정책에 대한 시사점 – UN 총회 결의안(A/78/L.49)과 UN AI 자문기구 최종 보고서를 중심으로 - = A Study on the UN's Approach to AI Governance and Its Implications for Our Policy- Centered on the UN General Assembly Resolution(A/78/L.49) and the Final Report of the Advisory Body on AI -

국문 초록 (Abstract)

AI 기술은 전례 없는 발전을 계속하고 있다. 이 신기술이 가져오는 긍정적인 잠재력과 기회 이면의 심각한 위험성을 인식하고, 이에 대한 국제사회의 대응 방안 논의를 파악하며, 우리나라도 필요한 대응을 하여야 한다. AI는 지속 가능한 발전 목표(SDGs) 달성을 가속화하고, 경제 효율성을 증대시킬 수 있지만, 동시에 인권 침해, 디지털 격차 심화, 편견에 따른 정보 제공, 심지어 인류 대체 또는 전멸의 우려까지 내포하고 있다. 이러한 배경에서 국제사회는 경제협력개발기구(OECD), G20, 유엔 교육과학문화기구(UNESCO), G7 등이 정책 제안을 통해 AI 거버넌스 논의를 지속해왔다.
2024년 3월, UN 총회는 미국이 주도한 AI 결의안을 표결 없이 채택하며 AI 거버넌스 논의에 있어 중요한 이정표를 세웠다. 이 결의안은 안전하고, 보안성이 확보되며, 신뢰할 수 있는 AI 시스템 구축을 통해 SDGs 달성에 기여하고 AI의 위험성을 관리해야 함을 핵심 내용으로 한다. 또한, AI의 잠재력을 공평하게 누리기 위한 국가 간 및 지역 간 격차 해소를 최우선 과제로 제시하며, 이를 위한 글로벌 협력 및 국제 거버넌스 확립의 필요성을 강조했다. 결의안은 AI를 비군사 분야의 인간 중심적이고, 신뢰할 수 있으며, 윤리적인 특성을 지닌 기술로 정의하고, AI의 잠재력과 오용에 따른 위험성을 명확히 인식하며, 개발도상국에 대한 기술 및 재정 지원과 거버넌스 참여 확대를 촉구했다. 하지만 결의안은 AI 정의의 모호성, SDGs 연계 방안의 구체성 부족, 개발도상국 지원 실천 방안 미흡, 초지능 AI의 위험성 경고 부족 등으로 비판받기도 했다.
뒤이어 2024년 9월, UN 사무총장 산하 AI 고위급 자문기구는 "인류를 위한 AI 관리”라는 최종 보고서를 발간했다. 이 보고서 역시 결의안과 같이 AI의 긍정적인 잠재력을 인정하면서도 동시에 그 위험성을 경고하고, 포괄적이고 공평한 글로벌 AI 거버넌스 정립의 필요성을 강조했다. 특히, 현재 AI 거버넌스 논의가 특정 국가나 기관에 한정되어 있다는 문제점을 지적하며, 격차 해소와 대표성 있는 거버넌스 마련을 위한 7가지 구체적인 권고안을 제시했다. 주요 권고안은 다음과 같다: 1. AI 역량, 기회, 위험 및 불확실성에 대한 공통된 이해를 위한 독립적인 과학적 지식과 정보 제공을 위한 국제 과학 패널 창설2. 국제적 협력을 증진하기 위한 AI 거버넌스 정책 대화 실시3. 국제적 상호운용성을 높이고 정보를 교환하기 위한 표준 교환 마련4, 5, 6. 개발도상국의 AI 격차를 해소하기 위한 역량 개발 네트워크, 글로벌 AI 기금, 글로벌 AI 데이터 프레임워크 창설7. UN의 역량을 활용하여 AI를 전반적으로 관리하기 위한 UN 사무국 내 AI 사무소 설립결론적으로, 이 두 문서는 AI의 잠재력과 위험을 동시에 인식하며, 선진국과 개발도상국 간의 AI 역량 격차 해소와 공평한 혜택 공유가 SDGs 달성의 핵심 원동력임을 강조한다. 따라서 우리나라는 AI 격차 해소를 위한 역량 개발 네트워크 지원, 국내 AI 역량 점검 및 강화, ITU 등 국제 AI 표준 제정 절차에 주도적으로 참여하고, GPAI와 같은 국제기구에서 적극적인 역할을 모색하여야 한다.

다국어 초록 (Multilingual Abstract)

Artificial intelligence(AI) technology continues to advance at an unprecedented rate. Recognizing the significant risks that lie behind the positive potential and opportunities of this new technology, it is crucial to understand the ongoing discussions within the international community regarding response measures and for our nation to prepare accordingly. While AI can accelerate the achievement of the Sustainable Development Goals(SDGs) and enhance economic efficiency, it also carries the risks of human rights violations, a deepening digital divide, biased information delivery, and even concerns of human replacement or extinction. Against this backdrop, the international community, including organizations such as the Organisation for Economic Co-operation and Development(OECD), the G20, the United Nations Educational, Scientific and Cultural Organization(UNESCO), and the G7, has continued to discuss AI governance through policy proposals.
In March 2024, the UN General Assembly set a significant milestone in AI governance discussions by adopting a US-led resolution on AI without a vote. The core of this resolution is the need to manage the risks of AI and contribute to achieving the SDGs by building safe, secure, and trustworthy AI systems. It also prioritizes bridging the gap between and within countries to ensure the benefits of AI's potential are shared equitably, emphasizing the need for global cooperation and the establishment of international governance. The resolution defines AI as a human-centric, reliable, and ethical technology in the non-military domain, clearly acknowledges both its potential and the risks of its misuse, and calls for technological and financial support for developing countries, as well as their expanded participation in governance. However, the resolution has also faced criticism for the ambiguity of its definition of AI, a lack of specificity in linking it to the SDGs, insufficient practical measures for supporting developing countries, and a failure to adequately warn of the dangers of superintelligence.
Subsequently, in September 2024, the UN Secretary-General's High-level Advisory Body on AI published its final report, titled “Governing AI for Humanity.” Like the resolution, this report acknowledges the positive potential of AI while also warning of its risks, and it stresses the need to establish comprehensive and equitable global AI governance. In particular, it points out that current AI governance discussions are limited to certain countries and institutions and presents seven specific recommendations to bridge the gap and create more representative governance. The key recommendations are as follows: 1. The creation of an independent scientific panel to provide scientific knowledge and information for a common understanding of AI capabilities, opportunities, risks, and uncertainties.
2. The implementation of a policy dialogue on AI governance to promote international cooperation.
3. The establishment of a standards exchange to enhance international interoperability and information sharing.
4., 5., 6. The creation of a capacity-building network, a global AI fund, and a global AI data framework to close the AI gap for developing countries.
7. The establishment of an AI Office within the UN Secretariat to leverage the UN's capacity for the overall governance of AI.
In conclusion, both documents recognize the dual nature of AI's potential and risks, emphasizing that bridging the AI capacity gap between developed and developing countries and ensuring the equitable sharing of benefits are key drivers for achieving the SDGs. Therefore, South Korea should actively engage by supporting capacity-building networks to close the AI gap, assessing and strengthening its domestic AI capabilities, taking a leading role in international AI standard-setting processes such as those at the ITU, and seeking an active role in international organizations like the GPAI.