허위정보로 번 수익 연 3.8조 원 [돈이 되는 가짜뉴스①]

활개치는 허위정보 제작 서비스…AI 만나 기승
SaaS처럼 구독형 서비스로 진화, 산업화 조짐
가짜뉴스 연간 광고 수익 3.8조 달한다는 조사도

(((표))

가짜 뉴스·허위 정보가 돈벌이 수단을 넘어 산업화 조짐을 보이고 있다.

온라인 상에서 가짜 뉴스가 활개를 치는 가운데, 인공지능(AI)을 활용해 가짜 뉴스를 생성해주는 애플리케이션 프로그램 인터페이스(API)·서비스가 비즈니스화되고 있다. 2021년 기준 전세계 허위 정보 사이트에서 발생한 트래픽 광고 수익만 26억 달러(약 3조 8000억 원)에 육박한다는 조사 결과도 있다. 현재는 이보다 훨씬 커졌을 것으로 예상된다.

2일 본지 취재 결과 국내에서도 AI로 가짜 뉴스를 생성하는 사이트가 온라인 상에서 활개치고 있다. 뉴스 제목을 입력하면 오픈AI의 생성형 AI 챗GPT가 기사 본문 내용과 페이지 링크(URL)를 양산하는 식이다. 이용자는 [속보], [단독], [종합] 등 기사 앞머리를 선택할 수 있으며 제목 키워드에 맞는 이미지까지 첨부할 수 있다.

이 사이트는 가짜 뉴스를 1000명 이상에게 공유하면 문화상품권 5만 원을 지급하는 식으로 이용자를 끌어들이고 있다. 사이트 유입을 통한 광고 수익으로 돈을 버는 추정된다. 31일 기준 가장 많이 본 허위 기사의 누적 조회수가 661만 1590건에 달해 수익이 상당할 것으로 보인다.

국내에서 가짜 뉴스 생성 서비스 제공 사이트가 활발히 운영된 지 이미 1년 여가 넘었다. 방송통신위원회와 방송통신심의위원회도 인지하고 있지만, 뚜렷한 해법이 없다는 입장이다. 방통위 관계자는 "아무래도 포털 플랫폼 사업자 규제 기관이라 개별 사용자의 가짜 뉴스 유포는 막을 방법이 현실적으론 없다"고 말했다.

광고 수익 외에 삭제 서비스도 해당 사이트의 주요 돈벌이 수단이다. 해당 서비스를 통해 생성된 가짜 뉴스를 삭제하려면 추가 비용을 내야 한다. 사이트 내 공지사항에 따르면, 입금일 기준 30일 이내에 기사를 삭제하려면 5만 원을 내야 한다. 입금일 기준 24시간 이내 삭제하는 ‘즉시 삭제’ 비용은 10만 원이다. 구글 검색엔진에 노출된 기사를 별도로 삭제하려면 5만 원을 추가로 내야 한다.

해외에서도 가짜 뉴스를 생성해주는 비슷한 유형의 서비스가 수두룩하다. 속보 형태의 온라인 기사부터 원고만 입력하면 AI를 통해 영상 뉴스까지 제작 가능하다. 원고만 입력하면 AI로 제작된 아바타 앵커가 소식을 전달한다. 일부 서비스는 한국어도 제공한다.

서비스형(SaaS) 랜섬웨어처럼 딥페이크 및 허위 정보 생성 서비스는 구독 형태로 발전 중이다. 최근 딥·다크웹에서는 가짜 뉴스 콘텐츠 자체보다는 콘텐츠를 생산할 수 있는 기술에 대한 관심이 높아졌다.

다크웹 전문가 김재기 S2W 탈론 센터장은 "외부에 공개된 라이브러리 서비스 혹은 맞춤형 서비스를 활용해 가짜 뉴스 및 허위 정보 제작을 위한 딥페이크 기술 생성 API가 거래·유통되고 있다"면서 "딥·다크웹은 하나의 홍보 수단이고, 직접적인 거래와 유통은 텔레그램을 통해 이뤄지고 있다"고 설명했다.

가짜 뉴스는 이미 온라인상에서 돈벌이 수단이 된 지 오래다. 허위 정보 감시 기관인 '뉴스가드'(NewsGuard)와 마케팅 연구 기업 컴스코어 (Comscore)가 2021년 전세계 6500개 이상의 허위 정보 사이트에서 발생한 트래픽 광고 수익을 분석한 결과, 광고 수익은 26억 달러(약 3조 8000억 원)로 추정된다. 미국 내에서만 트래픽 광고 수익이 16억 2000만 달러 발생한 것으로 추정된다.

반면 가짜 뉴스로 인한 사회적 비용은 커지고 있다. 현대경제연구원에 따르면 가짜 뉴스로 인한 총 경제적 비용은 당사자 피해 금액 22조 7700억 원과 사회적 피해 금액 7조 3200억 원을 합한 연간 약 30조 900억 원으로 추정된다. 영국 경제정책연구소(CEPR)는 기술 관련 가짜 뉴스가 거시경제 불확실성을 지속적으로 유발해 4개월 뒤 정점을 찍은 후 점차 가라앉는다고 분석했다.

김재기 센터장은 "공개된 사이트들을 보면 최근 구독형 서비스 형태로 제공하고 있는데 이런 현상을 통해 (딥페이크 및 허위정보 생성이) 비즈니스화되고 있는 경향을 확인할 수 있다"고 분석했다.