네이버, 딥페이크 검색하면 “유의하세요” 경고 문구 노출한다

▲네이버에 딥페이크 관련 검색어를 입력할 경우 딥페이크 기술 활용에 대한 주의를 당부하는 안내 문구가 제공된다. (사진제공=네이버)

네이버가 4월 제22대 국회의원 선거를 앞두고 생성형 인공지능(AI)을 활용한 딥페이크, 허위정보 확산 방지에 나섰다. 자사 생성형 AI 서비스에 선거 주의 안내 문구를 띄우고, 딥페이크 관련 검색 결과에서는 경고 문구를 노출한다.

네이버는 28일 검색 블로그를 통해 “오늘부터 딥페이크 관련 검색어를 입력할 경우 딥페이크 기술 활용에 대한 주의를 당부하는 안내 문구가 제공된다”고 공지했다.

안내 문구가 제공되는 검색 결과는 딥페이크를 부적절하게 사용하거나 관련 정보를 찾고자 하는 의도가 포함된 검색어들을 대상으로 한다. 검색 이용자가 정보를 소비하는 과정에서 딥페이크 기술의 악용 사례에 대해 경각심을 가질 수 있도록 지원한다는 의도다.

가령 딥페이크 사이트를 네이버에 검색할 경우, 검색 결과 상단에 “딥페이크 기술 접근, 활용함에 있어 공직선거법, 성폭력처벌법 등 법령에 위반되거나 제3자의 권리를 침해하지 않도록 유의해 주세요”라는 안내 문구가 뜬다.

딥페이크 악용 사례로 인한 피해 유형이나 피해 신고 방법 등을 안내하는 도움말도 제공해 이용자의 피해에 대응할 수 있는 창구도 마련했다.

네이버는 블로그, 카페 등에서 동영상 등을 이용한 게시물을 작성할 때, 새로 시행된 공직선거법을 인지하지 못해 저촉되지 않도록 딥페이크 관련 안내문구를 제공해 사용자가 관련 내용을 확인할 수 있도록 했다.

뉴스 서비스에서도 AI, 로봇이 자동으로 작성한 기사를 사용자가 잘 인지할 수 있도록 표기를 강조한다. 언론사가 자동 로직으로 생성·전송한 기사 본문 상단과 하단에 “이 기사는 해당 언론사의 자동생성 알고리즘을 통해 작성됐습니다”라는 문구가 노출되고 있다.

네이버는 생성형 AI 서비스인 클로바 X와 CUE:(큐:) 서비스 대화창 하단에 선거 관련 사용자 주의 안내 문구를 제공할 예정이다. 네이버는 이날 공식 블로그 다이어리에 이같은 내용을 공지하고 “아직은 생성형 AI의 기술적 한계로 정보 구성에 어려움이 있는 데 반해 선거와 관련된 정보는 작은 오류로도 피해가 발생하고 선거 참여에 영향을 줄 수 있어 그 정확성이 매우 중요하기 때문에 클로바 X, 큐: 서비스를 이용할 때 주의가 필요하다”고 강조했다.

이날부터 네이버 뉴스에서 선거 관련 허위정보 등이 포함된 댓글을 신고할 수 있다. 네이버 신고센터 메인 페이지에 ‘선거 관련 허위 정보 신고’ 채널을 개설했다. 명예훼손 등 권리보호센터를 통해 접수되는 게시중단 요청의 경우 선거 출마 후보자 등 관련인으로부터의 요청은 선거 관련법과 KISO 선거 관련 정책에 따라 운영될 예정이다. 게시물에 대한 임시조치는 선거관리위원회의 결정에 따라 이뤄지게 된다.

네이버는 뉴스 댓글 집중 모니터링 기간 전담 담당자를 확대하는 등 24시간 모니터링을 강화하고, 각 부서 핫라인을 구축해 이슈 발생 시 빠르게 대응해 나갈 예정이다.