'고영향 AI' 구체화하는 'AI 기본법' 후속 조치 시급

국회입법조사처 연구보고서 발간
AI 개발·활용 사업자 규제 구분 없어
글로벌 경쟁력 확보 위한 정책 지원도

(오픈AI '달리'로 생성한 이미지)

국회입법조사처가 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)의 후속 입법이 필요하다고 분석했다. '고영향 AI'의 정의를 구체화하고, AI 사업자의 범주를 세분화하는 방향이다. 또한, 국가 AI 경쟁력을 높이기 위한 정책적 지원 방안도 마련해야 한다고 덧붙였다.

5일 업계에 따르면, 국회입법조사처는 이 같은 내용의 '인공지능 기본법 시행 전 보완을 위한 입법 과제' 보고서를 냈다. 국회입법조사처는 AI 기본법의 후속 입법이 시급하다고 제언했다. AI 산업 육성과 기업 지원을 위한 법안이 자칫 사업자에 규제로 작용할 수 있다는 이유에서다. AI 기본법은 2025년 1월 21일 제정됐으며, 2026년 1월 22일부터 시행된다.

가장 쟁점이 되는 건 ‘고영향 AI’의 정의다. 법안은 ‘고영향 AI’를 사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능 시스템이라고 규정했다. 구체적으로는 개인의 권리 및 의무 관계에 중대한 영향을 미치거나, 공공기관 의사 결정에 영향을 미치는 등 11개의 기준 항목을 명시했다.

그러나 업계에선 주요 규제 대상인 ‘고영향 AI’의 정의가 너무 광범위하고 모호하다고 지적한다. 정준화 입법조사관은 “개념의 모호성이 문제”라며 “무엇이 ’사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려’가 있는 AI인지 파악해야 하는데, 현재 법률 규정으로는 명확하고 일관된 답을 내놓기 어렵다”고 봤다.

AI 사업자 분류 체계도 불분명하다는 우려가 나온다. AI 기본법은 AI 제품 및 서비스를 개발·제조·제공하는 사업자를 ‘인공지능 사업자’로 정의한다. 문제는 AI 모델을 개발·제공하는 ‘AI 개발 사업자’와 AI 모델 기반 제품 및 서비스를 제공하는 ‘AI 이용 사업자’ 간 구분이 없다는 점이다. 이들은 AI 개발 및 사용 여부를 투명하게 공개하는 ‘투명성 의무’와 대규모 AI의 위험성을 모니터링하고 이를 관리하는 ‘안전성 의무’ 등을 모두 이행해야 한다.

이로 인해 AI 서비스를 운영하는 기업이 AI를 개발하는 기업과 동일한 규제 수준을 적용받을 가능성이 제기된다. 정 조사관도 “규제의 적절성, 타당성 확보가 어렵다”며 “어떤 사업자에겐 불필요하거나 과도한 규제가 적용되기도 하고, 그 반대 상황도 발생할 수 있다”고 봤다.

이에 입법조사처는 AI 기본법의 후속 입법이 필요하다고 강조했다. 정 조사관은 보고서에서 “고영향 AI는 (반드시) 법률에서 명확한 체계를 정립해야 한다”고 제언했다. 그는 기존 고영향 AI의 정의를 △사람의 생명, 신체의 안전 △기본권 △중대한 영향 △위험 등을 세분화해 구체화해야 한다고 분석했다. 또한 AI 개발 사업자와 AI 이용 사업자의 책무를 구분해 법률에 명시해야 한다고 했다.

EU의 '인공지능법'에는 고위험 AI 제공자에게 위험 관리 체계 구축, 데이터 관리, 기술 문서 작성, 이용지침 제공 적합성 평가 수행 의무를 부과하며, 고위험 AI 배포자에겐 이용지침 준수, 기본권 영향 평가 수행 의무 등을 부과하고 있다.

그러면서 정 조사관은 "세계 AI 시장은 미국과 중국의 '패권국' 경쟁이 과열될 수 있지만, 장기적으로 많은 나라가 경쟁하는 '춘추전국' 상황이 될 가능성도 크다"며 "우리의 AI 위상을 높이기 위해 AI 기본법의 내실을 다지는 보완 입법과 함께 학습용 데이터의 저작권·개인정보 보호, 금융·의료·로봇 등 유관 산업의 AI 활용을 위한 후속 입법 논의도 중요하다"고 했다.