중국서 챗GPT 관련 첫 구금 사례…“수익 올리려 가짜 뉴스 퍼뜨려”

1인 미디어 회사 차려 뉴스 조작
조회 수 올려 수익 챙기려는 목적

▲인간 모양의 피규어 뒤로 챗GPT로고가 보인다. 로이터연합뉴스

중국에서 생성형 인공지능(AI) 챗GPT 악용과 관련한 첫 구금 사례가 나왔다.

8일 홍콩 영자지 사우스차이나모닝포스트(SCMP)에 따르면 중국 간쑤성 경찰은 전날 성명을 통해 AI 기술을 사용해 허위 정보를 조작한 혐의로 훙모 씨를 구금했다고 발표했다. 중국에서 챗GPT와 관련해 구금이 이뤄진 것은 이번이 처음이다.

경찰은 지난달 25일 지방 열차 사고로 9명이 사망했다는 가짜 뉴스가 퍼지는 것을 발견하고 추적에 돌입했다. 그 결과 가짜 뉴스가 훙 씨 소유의 1인 미디어 회사에서 처음 만들어졌다는 사실을 밝혀냈다. 경찰 당국은 그의 자택과 컴퓨터를 수색해 증거를 확보했다.

용의자는 “최근 몇 년 간 중국 소셜미디어에서 화제를 모은 사건 요소들을 챗GPT에 입력해 여러 버전의 가짜 뉴스를 만들어 ‘바이자하오’에 올렸다”고 자백했다. 바이자하오는 중국 최대 인터넷 검색업체 바이두가 운영하는 블로그 스타일 플랫폼이다. 훙 씨가 체포되기 전 가짜 열차 사고 뉴스는 1만5000회 이상의 조회 수를 기록했다. SCMP는 범인이 최대 10년의 징역형과 추가 벌금형에 처해질 수 있다고 전했다.

해외 서비스가 엄격하게 규제된 중국 인터넷 회선에서는 챗GPT를 사용할 수 없다. 하지만 훙씨는 해외 인터넷 접속을 가능하게 하는 가상사설망(VPN)을 사용한 것으로 보인다.

중국 정부는 생성형 AI가 사회에 미치는 악영향을 우려하고 있다. 지난달에는 생성형 AI가 공산당 체제에 위협이 되지 않도록 관련 규제책을 발표하기도 했다. 중국 국가사이버정보판공실(CAC)은 생성형 AI 서비스 관리안 초안에서 “AI가 만든 콘텐츠가 국가 권력이나 사회주의 체제의 전복, 국가 분열 선동, 민족 단결 저해, 허위 정보, 사회 경제 질서 교란의 내용을 포함해선 안 된다”고 규정했다.