‘AI 기본법’ 입법ㆍ윤리규범 표준화 추진...김민석 “한국, AI 표준ㆍ윤리 선도하도록”

31일 국회도서관서 'AI SOUL FORUM' 개최
EU 등 해외와 달리 한국 국가 차원 규제 미흡
“AI 이용서 용도 개조 가능성, 막을 수 있어”
“AI 선도 위해 AI 국제표준 제정에 참여해야”

▲31일 김민석 더불어민주당 의원이 국회도서관에서 'AI SOUL FORUM' 창립기념식을 열고 기조연설을 발표하고 있다. (사진 제공=AI SOUL FORUM)

AI의 발전, 특히 생성형 AI의 등장으로 인해 가짜뉴스, 저작권, 편향성 등 다양한 문제들이 나타나고 있다. 이에 유럽연합을 포함한 해외에서는 부작용을 최소화하려는 국가 차원의 규제가 마련되고 있다. 반면 국내는 자율 규범 수준의 규제에 머무르고 있어 AI 기술의 부작용을 막을 규제가 시급하다는 지적이 나온다. 이 가운데 우리나라에서도 AI기본법을 제정하고, AI 윤리규범을 표준화하려는 움직임이 일어나고 있다.

31일 김민석 더불어민주당의원은 'AI SOUL FORUM' 창립기념식 및 특별강연을 열고 국내외 전문가들과 AI 기본법 제정에 관한 필요성을 강조했다. 김 의원은 “챗GPT로 대표되는 생성형 AI를 비롯한 인공지능이 사회와 경제에 확산되면서 기존의 제도와 문화에 영향을 미치고 있다”며 “인공지능에 대한 적극적인 이해를 기반으로 ‘AI기본법(가칭)을 추진하려고 한다’”고 말했다.

현재 해외에서는 AI와 관련한 정부 차원의 규제들이 나오고 있다. EU(유럽연합)은 내달 세계 최초로 'AI법(AI Act)'을 유럽의회 본회의 표결에 부친다. 미국 바이든 행정부는 '미국인의 권리와 안전을 보호하는 책임 있는 AI 혁신을 촉진하기 위한 새로운 조치'를 내놓고, '알고리즘책임법안' 입법도 추진하고 있다. 중국 사이버 규제당국인 CAC(국가인터넷정보판공실)은 최근 생성AI 제품과 그 개발 방법에 대한 규칙 초안을 마련했다.

그러나 국내에서는 국가 차원에서 AI와 관련한 규제가 만들어지지 못하고 있다. 특히 기존의 법 제도로는 생성형 AI 등의 속성은 미처 포괄하지 못하는 상황이다. 심지어 국내 AI 윤리 기준은 2020년 4차산업혁명위원회에서 의결한 ‘AI 윤리 기준’뿐이다. 해당 기준은 인권 보장, 프라이버시 보호, 투명성 등 인간성을 바탕으로 AI 발전을 논의하자는 내용이다.

김 의원은 “그동안 알파고 이후에 인공지능과 관련된 법안들이 발의됐으나 개별 과학기술진흥법들에 그쳤다”며 “이제는 AI 기술과 관련 산업의 표준, 글로벌과 정맥할 수 있는 장을 열겠다”고 말했다. 이어 “국회에서 해야 할 일은 AI의 표준과 윤리를 정리해내 법의 영역으로 가도록 하는 것”이라며 “많은 의원들과 논의를 했다”고 말했다. 한국이 AI 선도 국가로 도약하기 위해서 AI기본법 등 법제화를 이루고, 국제표준 제정에 적극적으로 참여해 AI 산업 분야의 발전을 뒷받침해야 한다는 의견이다.

이날 전문가들도 AI기본법과 표준 규범의 필요성을 강조했다. 투피 살리바 IEEE AI 글로벌 표준위원회 위원장은 “우리는 가까운 미래에 AGI(인공일반지능)에 도달할 것”이라며 “AI가 원래 용도에서 개조될 수 있는 상황에서 개조 가능성을 막을 수 있냐는 것에 대한 의견이 나뉘는데, 충분히 막을 수 있다”고 말했다.

장병탁 서울대 AI 연구원장은 “기계에 주어진 데이터가 좋은 건지, 나쁜 건지 가치 기준에 관한 건 여전의 사람의 역할”이라며 “궁극적으로 기계를 이용하는 사람들의 윤리 의식이 향상돼야 한다. AI기본법 등 표준에 과한 논의가 필요한 시점”이라고 설명했다.

AI소울포럼은 오는 8월에 교육 분야, 10월에 기술 분야에서 정책 포럼을 진행해 AI기본법 법제화와 윤리규범 표준화에 머리를 맞댈 예정이다. AI소울포럼 관계자는 “향후 교육, 의료, 기술 등 각 분야 정책토론회를 주기적으로 개최하며 법제화 방안을 모색할 계획”이라고 말했다.