[플라자] 공익성이 ‘AI 리스크’ 줄인다

지난 5월 유럽연합 의회의 내부시장위원회와 시민자유권위원회는 인공지능 규율에 관한 초안을 채택하는 데 성공했다. 찬성 84표, 반대 7표, 기권 12표로 통과된 인공지능 법안 초안은 인공지능이 사람의 감독하에 안전하고 투명하며 추적가능하고 비차별적이며 환경친화적 조건을 갖추는 것을 특징으로 한다.

이번 유럽연합의 인공지능 법안은 적어도 3년에 걸쳐 유럽연합의 혁신과 동시에 시민의 안전과 자유를 확보하려는 의회, 각국의 정부, 기업, 시민사회의 노력의 산물이다. 2020년 인공지능이 가져올 혁신과 인공지능의 안전성, 투명성, 책무성, 편견과 차별예방, 사회적 환경적 책임, 온전한 인권 보장에 관한 세 개 보고서, 2021년 4월 인공지능 시스템이 사용자에게 초래할 리스크를 네 가지로 분류하고 각각에 대한 규제를 제시한 최초의 법률안, 그리고 2022년 5월 유럽연합의 공통된 핵심 가치와 목표를 장기적이고 종합적으로 반영할 수 있는 로드맵과 보고서가 이를 말해준다.

인공지능 개발·활용에 관한 논의 활발

한국사회에서도 지난 3년간 인공지능 개발과 활용에 관한 원칙과 방향에 대해 다양한 논의가 이루어졌다. 2020년 12월 과학기술정보통신부 주재하에, 인공지능 개발 및 활용 과정에서 정부, 공공기관, 기업, 이용자 등 모든 사회구성원 참여의 중요성을 강조하는 ‘인공지능 윤리기준’을 발표했다. 지난 2월 국회 과학기술정보방송통신위원회의 정보통신방송법안 심사소위원회는 ‘인공지능산업육성 및 신뢰기반 조성 등을 위한 법률안(대안)’을 의결했다.

유럽연합 의회가 분류한 인공지능의 리스크를 살펴보면 그동안 많은 이들이 인공지능의 편리함에 빠져 인공지능을 편향적으로 이해하고 있었음을 알게 된다. 거주지, 젠더, 연령, 종교, 외모, 건강, 이민자 지위, 정치 성향 등 민감정보에 기반한 개인 프로파일링 시스템, 직장, 학교, 온라인 공론장, 기타 공공장소에서의 얼굴 및 감정인식 시스템, 각종 사회경제적 지위 정보와 범죄경력 정보에 기반한 사전치안 시스템은 인공지능이 사용자에게 가장 높은 수위의 리스크를 초래하는, 수용불가한 리스크에 해당된다. 사회적 취약계층에 대한 부정적 편견과 차별을 강화하고 그들의 인권을 침해하며 사회적 양극화를 악화시킬 수 있기 때문이다.

건강, 안전, 인권, 환경, 그리고 민주주의에 해악을 끼치는 시스템은 높은 수준의 리스를 초래하는 만큼, 이에 대한 적절한 규제가 필요하다. 대중교통 등의 필수 사회인프라, 온라인 시험 등 취업과 교육 접근성과 관련된 점수 시스템, 이력서 선별 등의 고용 관련 시스템, 신용평가 등 금융거래 관련 시스템, 그밖에 이민절차와 법무 관련 시스템 등이 이에 해당된다.

주목할 점은 사회안전망과 관련된 인공지능 시스템의 리스크가 매우 높은 수위라는 점이다. 2019년 유럽 언론에 공개된 네덜란드 아동양육수당 인공지능 스캔들은 인공지능이 개인의 사회보장 권리를 침해할 수 있다는 점을 잘 보여준다. 당시 국세청이 부정수급자 리스크 관리 목적으로 새로 도입한 인공지능 프로파일링 시스템이 저소득, 다자녀, 이민자 등 사회적 취약계층 부모들을 아동양육수당 부정수급자로 잘못 분류했다. 이렇게 잘못 분류된 부모들은 과다채무의 부담으로 인해 우울, 실직, 이혼, 자살로 내몰렸고, 수많은 자녀들이 위탁가정으로 분리되었다.

윤리성 등 공적가치 갖춰야 인권침해 막아

이외에도 부정수급자 블랙리스트가 잘못 공개되면서 또다른 피해가 발생하였다. 이후 네덜란드 국체성은 당국으로부터 약 370만 유로의 벌금형에 처해졌다. 국제 인권감시(Human Rights Watch)단체에 따르면, 네덜란드 사례 이외에도 아일랜드와 영국, 프랑스, 오스트리아, 폴란드 등에서는 사회보장급여 신청자 식별, 사회보장 자격심사 및 급여관리, 일자리 알선 및 직업훈련을 위한 인공지능 시스템의 오류로 인해 수많은 수급자들, 특히 이민자, 여성, 장애인, 노인, 저학력자들이 부당하게 사회보장에 대한 권리를 침해받았다.

인간지능에 비유되는 인공지능 시스템은 인간만이 가질 수 있는 윤리성과 공익성에 기초해야 비로소 인간사회에서 그 의미를 가질 수 있다. 이를 위해서는 공공기관, 기업, 이용자, 개발자 모두가 인공지능에 대한 균형잡힌 이해가 필요하다. 무엇보다도 사회적 취약계층에 미치는 인공지능의 영향력에 대한 총체적 장기적 평가와 계획이 필요하다. 저학력, 장애, 고령으로 인한 활동제약 당사자들이 참여하는 인공지능 거버넌스를 기대한다.