소비자 기만하는 딥페이크ㆍ다크패턴…해결책은?

▲20일 국회입법조사처는 서울 여의도 국회에서 ‘디지털화된 소비자 기만 유형과 정책적 대응방안’ 세미나를 열었다. 정무위원회 더불어민주당 간사인 강준현 의원, 과학기술정보방송통신위원회 국민의힘 간사인 최형두 의원, 한국상사법학회, 한국금융소비자학회가 공동 개최했다. (이은주 기자 letswin@)

인공지능(AI) 딥페이크로 개인의 생체 정보를 조작하는 범죄가 속출하고 있다. 해킹한 핸드폰의 사진 및 동영상을 기반으로 생성된 AI 딥페이크가 생체인증을 뚫는 것이다. 이에 딥페이크 콘텐츠에 인공지능 생성물임을 표시하는 규제가 대책으로 제기되고 있다.

20일 국회입법조사처는 서울 여의도 국회에서 ‘디지털화된 소비자 기만 유형과 정책적 대응방안’ 세미나를 열었다. 정무위원회 더불어민주당 간사인 강준현 의원, 과학기술정보방송통신위원회 국민의힘 간사인 최형두 의원, 한국상사법학회, 한국금융소비자학회가 공동 개최했다.

이날 세미나에선 AI 딥페이크를 활용한 소비자 기만 사례가 공유됐다. 정준화 국회입법조사처 과학방송통신팀 입법조사관은 딥페이크 기술 자체는 가치 중립적이나, 이를 악용한 범죄가 발생할 수 있다고 강조했다. 정 조사관은 “인공지능은 스스로 인간이 만든 것처럼 생생한 결과물을 만들어낼 수 있다는 기술적 잠재력이 있다”면서도 “이러한 특징이 소비자한테도 영향을 미칠 수 있다. 인간은 딥페이크 여부를 식별할 수 없기 때문”이라고 말했다.

정 조사관은 특히 ‘멀웨어’가 온라인상에 유포되면서 딥페이크를 악용한 온라인 계정을 탈취하거나, 실존 인물의 정보로 새로운 계정을 만들어 피해를 주는 사례가 증가하고 있다고 분석했다. 멀웨어는 휴대폰의 메시지 내용을 해킹하거나 저장된 사진을 훔쳐 온라인 뱅킹 서비스 등의 생체 인식을 통과하는 데 악용된다.

이재민 국립창원대 법학과 교수도 “딥페이크의 가장 큰 문제는 소비자들은 끝까지 딥페이크인지 알지 못해 계속해서 소비생활을 이어나간다는 것”이라며 “이를 규율할 방법이 현행 법률에선 마땅치 않은 것이 현실”이라고 했다.

‘다크패턴’도 대표적인 소비자 기만 행위로 꼽혔다. 다크패턴이란 사업자가 의도적으로 소비자가 원치 않는 선택을 하도록 유도하는 온라인 인터페이스를 뜻한다. 정신동 한국외대 법학전문대학원 교수는 다크패턴을 △반복적으로 알림창을 띄우는 ‘압박형’ △취소 및 탈퇴를 막는 ‘방해형’ △서비스의 유료 전환을 숨기는 ‘편취 유도형’ △잘못된 사실을 전하는 ‘오도형’으로 분류했다.

정 교수는 “많은 플랫폼이 다크패턴 하나씩은 다 가지고 있다”며 “특히 알리, 테무 등 중국 플랫폼은 다크패턴의 천국이라고 할 수 있을 정도로 강력한 다크패턴을 사용하고 있다”고 말했다.

전문가들은 이를 막기 위해선 입법이 필요하다고 입을 모았다. 정 조사관은 딥페이크로 인한 소비자 기만 방지를 위해 콘텐츠 제공자와 배포자에게 ‘인공지능 표시 의무’를 부여해야 한다고 제언했다. 그는 “’인공지능 표시 제도화’는 기본적인 틀로 유지하되, 구체적인 방법은 외국에서 많이 하듯이 자율 규제 방식으로 가는 것도 대안이 될 수 있다”고 했다. 또, 정부는 제도 정착을 위해 AI 표기 기술의 신뢰성을 높이고 AI 국제 표준과의 조화를 이룰 수 있도록 노력해야 한다고 덧붙였다.

정 교수는 다크패턴을 막기 위해 ‘공격적 상거래 행위’에 대한 규정을 확립해야 한다고 했다. 그는 “기만행위를 규제하기 위해선 유럽연합에서 하듯이 공격적 상거래 행위를 대크패턴으로 보고 제재해야 한다”며 “아직 우리나라에선 공격적 상거래 행위에 관한 규정이 부족하다”고 했다. 이에 대해 주현영 법무법인 세종 변호사는 “사업자의 자유로운 마케팅 활동이 저해될 수도 있다”고 했다.