인공지능 기본법의 시행 전 개정 필요성- 규제 조항의 체계·축조상 문제점을 중심으로 - = Why Korea’s AI Framework Act Requires Amendment Before Implementation - A Structural and Textual Analysis -

국문 초록 (Abstract)

2024. 12. 26. 통과된 AI기본법 중 규제 조항은 “고영향 인공지능” 중 하나에 해당하면 단일 부처가 동일 규제들의 묶음을 집행하는 AI에 관한 수평규제체계이다. 캐나다AI·데이터법안처럼 EU AI법보다는 규제총량과 제재강도를 약화시켰으나, 국제정세와 합리에 부합하려면 혁신·개발 선도국들처럼 각 영역을 관할하던 부처들이 AI 활용의 맥락에 따라 기존 규제를 적응함으로써 맞춤형 규제를 적용하는 부문·맥락특유적규제체계에서 출발했어야 했다. AI는 용례·범주·생애주기별로 유발하는 사회문제들이 이질적이어서 이를 간과한 수평규제체계는 백화점식·저인망식 과잉규제에 빠지게된다. 또한, AI의 활용으로 인한 사회문제는 기존 문제로부터 명확히 분리되지 않는경우가 많아 AI기본법이 신설하는 수평규제는 기존 부문별 규제와 병립되어 중복·저촉을 일으킬 것이다. 방통위가 AI이용자보호법까지 제정하고, 개인정보 보호법상 자동화된 결정이나 신용정보법상 자동화평가 규제까지 적용될 경우, AI에 대해 4중규제체제가 형성될 것이다. 이를 저지하려면 고영향 AI를 주무관청이 일괄규제·조사·제재하는 현 수평규제체계를 주무관청이 권익·안전영향 AI 용례별로 프레임워크를 제정하면 각 부처가 이에 근거하여 소관 법령을 정비하는 대안적 체계로 전환해야 한다.
이처럼 체계상 문제가 있을 뿐 아니라, 조항들의 축조도 미비하다. 첫째, AI와 AI시스템의 정의는 합리성이 아닌 의인화에 의존하여 기술적으로 틀리고 법적 정의로 부적절하며 근래의 논의가 미반영되어 있다. 둘째, AI 가치망 참여자들의 정의 및 의무의범위가 불명확하며 주체별 역할분담에 오류가 있다. 셋째, 고영향 AI 규제의 경우 권익·안전영향 용례나 개발자·실행자별로 책무가 세분화되어 있지 않다. 넷째, 생성모델의 규제도 의무 범위가 불명확하고 주체별 역할분담에 오류가 있다. 다섯째, 범용모델의 규제의 적용범위·대상이 국제적 논의의 취지에 완전히 부합하지 않는다. 여섯째, 사실조사·제재 규정에도 문제가 있다. 결론적으로 현 조항은 시행령 등 하위규정으로보완이 가능한 정도에 미치지 못하므로, 시행 전에 추가 법 개정을 완료하여 바로 잡아야 한다.

다국어 초록 (Multilingual Abstract)

Korea’s AI Framework Act establishes a horizontal regulatory framework in which a single agency enforces a uniform set of regulations for “high-impact” AI systems. While the overall regulatory burden and penalty severity have been eased compared to the EU AI Act, aligning more closely with Canada’s proposed AI and Data Act, the framework fails to account for the heterogeneity of AI use cases and risks overregulation through a one-size-fits-all framework. Furthermore, as social issues arising from AI often intersect with existing societal challenges, the horizontal framework will result overlaps and conflicts with sector-specific regulations. If the Korea Communications Commission enacts an AI User Protection Act while automated decision-making regulations under the Personal Information Protection Act and the Credit Information Act are applied concurrently, a quadruple regulatory s tructure could emerge, s ti fli ng the development and adopti on o f AI.
Leading AI-innovating nations have instead adopted sector- and context-specific regulatory frameworks, where domain-specific regulators adapt existing rules to diverse use cases.
Following this precedent, Korea’s current horizontal framework should transition to a more cooperative system, in which the lead agency would develop regulatory guidelines tailored to specific categories, such as rights- or safety-impacting AI use cases, while individual agencies update their respective laws accordingly. Beyond these structural issues, the AI Framework Act’s provisions are inadequately drafted. Definitions of AI and AI systems rely on anthropomorphic interpretations that are technically inaccurate, rendering them legally inappropriate and disconnected from recent developments, such as the OECD’s 2024 revisions to the definition of AI. Additionally, the roles and obligations of participants along the AI value chain are poorly defined, with significant missteps in role allocation.
Regulations for high-impact AI lack clear distinctions in responsibilities based on use cases or stakeholder roles. Similarly, obligations for generative models are vague, with errors in assigning responsibilities. The scope of regulations for high-performance general-purpose models are misaligned with ongoing international AI safety discussions. Investigation and enforcement mechanisms are also misplaced. In conclusion, as the deficiencies in the AI Framework Act are too substantial to be resolved through administrative rulemaking, Korea must amend it before it comes into effect.