방통위, AI 추천 서비스가 지켜야 할 기본 원칙 공개…업계 “과도한 규제” 반발

“기업 옥죈다” VS “더 구체화해야”

▲권은정 정보통신정책연구원이 ‘인공지능 기반 추천 서비스 이용자 보호를 위한 기본원칙(안)’을 설명하고 있다. (사진=온라인 토론회 화면 갈무리)

#온라인 동영상 서비스(OTT)를 즐겨 이용하는 A 씨는 피를 흘리거나 신체를 훼손하는 장면이 나오는 고어물을 가장 많이 찾아본다. 그런데 어느 순간부터 추천 콘텐츠로 제시되는 영화가 전부 고어물인 것을 확인했다. A 씨는 자신의 취향이 한쪽으로만 쏠리지 않을까 걱정됐고, 콘텐츠 선택권이 좁아지는 느낌에 찝찝했다. 또, 미성년자의 경우 폭력적인 콘텐츠만 계속 접한다면 그 성향이 강화될 수 있다는 우려도 들었다.

A 씨와 같은 사용자를 위해 방송통신위원회(방통위)가 만든 기본원칙(안)이 20일 최초 공개됐다. 다만 이 원칙에 관해 시장에서는 기업을 옥죄는 지나친 규제가 될 수 있다는 지적이 제기됐다.

이날 방통위는 서울 서초구 더케이호텔에서 인공지능(AI) 알고리즘 기반 미디어 콘텐츠 추천 서비스에서 이용자를 보호하기 위한 기본 원칙(안)을 공개하고, 각계의 의견을 청취했다.

권은정 정보통신정책연구원이 원칙을 발표한 뒤 토론이 이어졌다.

토론은 이원우 서울대학교 교수가 사회를 맡고 김유향 국회입법조사처 연구관, 윤혜선 한양대학교 교수, 이수영 KAIST 교수, 권세화 한국인터넷기업협회 실장, 박정석 KT 정책팀장, 박지연 법무법인 태평양 변호사, 윤명 소비자시민모임 사무총장, 정지연 한국소비자연맹 사무총장이 참여했다.

기본 원칙(안)은 지난해 12월 학계과 산업계, 연구기관, 법조계 등 관련 전문가로 구성된 협의회가 출범해 만든 결과물이다. AI 알고리즘 기반 추천 서비스의 사회적 영향력이 커지고 여론의 양극화, 확증편향, 차별 등 역기능에 대한 우려가 늘어나고 있다는 문제의식에서다.

권은정 연구원은 3대 핵심원칙과 5대 실행원칙을 설명했다. 핵심원칙은 △투명성 △공정성 △책무성이며, 실행원칙은 △이용자를 위한 정보 공개 △이용자의 선택과 보장 △자율검증 실행 △불만처리및분쟁해결 △내부규칙제정으로 구성됐다.

실행원칙에 따르면 사업자는 AI 추천 서비스에 관해 주요 기준(알고리즘 제외)을 홈페이지에 게시 또는 약관에 명시하는 등 공개해야 한다. 또, 콘텐츠 배열 기준 및 적용 여부를 수정하거나 변경할 수 있는 선택권을 보장해야 한다.

또, 추천서비스가 이용자에게 미치는 영향을 평가, 조정해 위험성을 상시 관리할 수 있게 자율검증 체계 구성하도록 했다. 이를 위해 △위험을 사전에 예측 평가 △내부 전담조직 운영하거나 전문기간 등 검증을 위탁 △보고서를 정기적으로 발간토록 했다.

권 연구원은 향후 과제로 △적용 범위에 대한 재고 △콘텐츠유형별 접근 방안 검토 △실행 가이드 마련을 제시했다.

이어진 토론에서는 공개된 안의 한계에 대한 논의가 오갔다.

사업자들이 준수할 인센티브가 없다는 점, 적용 범위 등이 대표적으로 언급됐다.

윤혜선 한양대 교수는 “모든 디지털 미디어 콘텐츠에 이 안을 적용하는 게 바람직한지 아니면 차등화하는 게 바람직한지 재고해야 한다”고 말했다.

또, 자율검증 체계에 관해 이를 사업자에게 맡기는 게 적절한지 의문을 제기했다.

그는 “관리와 평가가 일원화되면 객관성이 훼손된다”며 “리스크 관리를 위해 요청되는 평가는 제3의 독립기관에서 하는 게 정론”이라고 짚었다.

인센티브와 관련해 윤 교수는 “현재 국내 대기업 중심으로 AI 윤리 강령 보고서 등을 만들고 있다”며 “기업 스스로 소비자를 확보하고자 경쟁적으로 노력하고 있기에 인센티브를 마련할 필요가 있다”고 했다.

AI 추천 서비스의 주요 기준을 구체화해야 한다는 목소리도 나왔다.

안에 따르면 주요 기준을 홈페이지에 게시 또는 약관에 명시하도록 했는데 이때 알고리즘은 제외토록 했다. 이에 대해 정지연 한국소비자연맹 사무총장은 “핵심이 알고리즘인데 알고리즘이 제외되면 실효성이 담보될지 의문”이라며 “AI 관련 문제에서 기업들은 알고리즘을 핑계로 뒤에 숨는 경우가 많다”고 말했다.

이어 “‘알고리즘 제외’를 지나치게 강조해 이용자 보호 조치의 본질을 비켜가는 게 아닌지 우려된다”고 강조했다.

사업자들을 대표해 나온 권세화 인터넷기업협회 실장과 박정석 KT 정책 팀장은 기업의 부담이 커지는 면을 지적했다.

권세화 실장은 “시장경제 원리에 반하는 원칙”이라고 강하게 비판하며 “경쟁상황과 특수성을 무시하고 모두에게 같은 추천 결과가 나와야 하는지, 그것이 공정한 것인지 의문”이라고 문제를 제기했다.

권 실장은 공정성에 관해 소비자마다 기준이 다르다는 점을 언급했다. 또, 이 안이 비현실적이라고도 비판했다.

그는 “내부 전담 조직을 운영하고 정기 결과 보고서를 발간하는 등 내용은 정부가 언제든 기업을 관리하고 감독하겠다는 의지”라며 “통제 가능한 범위에서 AI를 성장케 하겠다는 것”이라고 설명했다.

권 실장은 이 같은 규제가 사업자들의 글로벌 경쟁력까지 악화할 수 있다고 내다봤다.

이어 “플랫폼 시장에서 유럽은 자국 내 기업의 성장이 두드러지지 않지만, 우리나라는 해외 플랫폼들과 경쟁 중”이라며 “국내 사업자들이 뒤처지지 않도록 깊이 있게 논의해 달라”고 부연했다.

박정석 KT 팀장은 무엇을 ‘리스크’로 볼지부터 문제라고 밝혔다. 예컨대 폭력적인 영상을 계속 추천하는 것을 과연 리스크로 볼 수 있는지의 문제다.

그는 “성인이 OTT 서비스에 돈을 내고 즐기는 상황에서 그 사람이 좋아하는 콘텐츠를 추천하는 게 과연 리스크냐”고 반문했다.

한편, 방통위와 정보통신정책연구원은 이날 토론에서 나온 의견을 수렴해 최종안을 발표할 예정이다. 권 연구원은 “오늘 나온 이야기들을 섬세히 담을 수 있게 방통위와 함께 고민하겠다”고 했다.