정부, 딥페이크와 전쟁 선포…AI 생성물 표기 의무화ㆍ피해구제 전담창구 설치

정부가 딥페이크와의 전쟁을 선포했다. 인공지능(AI)이 만든 콘텐츠에 대해 AI 생성물 표기를 의무화하고 관련 피해구제를 위한 신고 전담창구를 설치한다.

방송통신위원회는 21일 이 같은 내용을 담은 2024년도 업무계획을 발표했다.

이상인 방송통신위원회 부위원장은 “딥페이크 등 AI 기술발전·확산에 따라 새로운 유형의 허위조작정보, 불법유해정보가 디지털‧미디어를 통해 생성 및 유포되고 있다”며 “AI 등 새로운 디지털서비스의 역기능으로부터 이용자를 보호하는 데 정책역량을 집중할 계획”이라고 강조했다.

생성형 AI 서비스의 학습데이터 오류 및 기술적 특성 등에 따른 왜곡 정보 생성 및 편향성 문제로 새로운 형태의 이용자 피해가 발생하고 있다. 미국 바이든 대통령의 공화당 예비선거 불참을 권하는 자동 녹음전화와 유명가수 테일러 스위프트의 딥페이크 음란사진 등이 대표적인 사례다.

이에 정부는 인공지능서비스의 신뢰성을 보장하고 역기능으로부터 이용자를 보호하기 위한 ‘인공지능서비스 이용자 보호에 관한 법률’(가칭) 제정을 추진한다.

국민 통신비 부담 경감을 위해서는 단말기 유통법 폐지를 추진해 경쟁을 촉진하고, 이통사‧유통점‧알뜰폰사업자의 고가 요금제 가입 유도 등 법 위반행위 점검을 통해 이용자 중심의 통신시장 질서를 확립해 나갈 계획이다.

이와 함께 정부는 방송 및 통신 분야의 불공정 행위에 대한 대응을 강화할 예정이다. 유선·무선·결합상품 판매 시 부당한 이용자 차별, 선택권 제한 행위 등 통신 시장 불공정 행위에 대한 감시를 강화한다.

최근 급격한 요금 인상을 단행한 온라인동영상서비스(OTT)에 대해서는 금지행위 위반 여부에 대해 사실조사를 실시하고 플랫폼 이용자 보호를 위해 쇼핑 등 이용률이 높은 앱‧웹 서비스의 가입‧이용 불편사항을 점검할 예정이다. 또한 플랫폼 서비스 장애 고지 기준시간을 4시간에서 2시간으로 단축하고 글로벌 사업자의 국내대리인 자격요건을 강화하는 등 건전한 디지털 이용환경 조성을 추진할 계획이다.

정부는 실효성이 부족하다는 비판을 받아온 대리인 지정 제도도 손본다. 국내 대리인 제도의 실효성을 제고하기 위해 국내 법인 우선지정 등 대리인 자격요건을 강화하고 대리인의 역할을 확대한다.

방송개혁과 포털 개혁에도 속도를 낸다. 방송사업자에 대한 재허가‧재승인시 방송의 공정성에 대한 심사평가를 강화하고 허위‧기만‧왜곡 방송으로 심의규정을 반복 위반한 방송사에 대해서는 방송평가시 감점 등 제재를 강화할 계획이다.

이 부위원장은 “포털이 뉴스 매개자로서 본연의 기능에 충실하도록 최소한의 공적 책임을 부여하기 위해 제도를 개선할 것”이라고 설명했다. 구체적으로 포털사별 뉴스제휴 평가기구 구성, 평가 기준·평가결과 등 운영내역 공개, 심사 탈락사에 대한 재평가 기회 제공 등이 포함될 전망이다.