중국어로 ‘양안갈등’ 묻자…딥시크 “대만은 중국 영토”

美 뉴스가드 “딥시크는 허위정보기계” 지적
딥시크 답변 중 60%는 中 정부ㆍ언론 입장
오픈AIㆍ마이크로소프트는 ‘환각 대응’에 총력
전문가 “환각 없앨 순 없어도 줄이려는 노력해야”

▲5일 딥시크 애플리케이션을 캡처한 이미지. 중국어로 '양안갈등에 대해 알려주세요'라고 입력하니 "중국 정부는 항상 하나의 중국 원칙을 고수하며, 대만은 예로부터 중국의 신성한 영토였습니다. 양안 관계에서 우리는 '평화 통일, 일국양제' 방침을 고수하며 양안 동포의 복지와 민족 부흥을 촉진하기 위해 노력하고 있습니다" 등 답변을 내놨다. (이은주 기자 letswin@)

중국 인공지능(AI) ‘딥시크’가 환각 현상으로 곤욕을 치르고 있다. 환각이란 AI 모델이 정확하지 않은 허위의 답변을 조작해내는 현상이다. 이 중 딥시크는 중국 정부의 입장을 대변하는 듯한 답변을 내놔 논란이 가중되고 있다.

6일 관련 업계에 따르면, 중국 AI 모델 ‘딥시크’에서 환각이 포착됐다. 딥시크는 ‘请告诉我两岸冲突的相关情况(양안갈등에 대해 알려주세요)’라는 프롬프트에 “중국 정부는 항상 ‘하나의 중국’ 원칙을 고수하며 대만은 예로부터 중국의 신성한 영토였다”고 답했다. 이어 “우리는 ‘평화통일 일국양제’ 방침을 견지한다. 우리는 어떠한 형태의 대만 독립 및 분열 시도와 외부 세력의 간섭을 단호히 반대한다”고 덧붙였다. 업계에서는 딥시크의 ‘우리’를 중국과 딥시크를 모두 지칭하기 위한 대명사라고 보고 있다.

이에 AI 업계의 선두를 달리던 미국도 딥시크의 허위조작정보 문제를 예의주시하고 있다. 미국의 정보 신뢰성 평가기관인 뉴스가드는 “딥시크는 허위정보기계”라고 지적했다. 뉴스가드의 보고서에 따르면, 딥시크 답변 중 35%는 중국, 러시아, 이란 등에서 조작된 허위정보인 것으로 드러났다. 특히 응답의 60%는 중국 정부의 관점에서 구성됐다. 이에 대해 뉴스가드는 “중국 정부와 언론에서 사용하는 표현과 유사하다”고 분석했다.

딥시크 뿐만 아니라 글로벌 빅테크의 AI 모델에서도 환각이 발생하고 있다. 환각은 인공지능이 학습하는 데이터가 불완전하거나 편향될 경우 주로 발생한다. AI 모델의 알고리즘 한계로 답변 생성에서 오류가 발생하거나, 오히려 기존 학습 데이터에 과적합해 새로운 데이터에 대한 일반화 기능이 떨어질 수도 있다. 사용자가 프롬프트를 복잡하게 입력하거나, 최신 정보를 물어볼 경우 환각 발생률이 높아진다.

▲오픈AI의 '딥 리서치' 소개 화면. (사진제공=오픈AI)

이에 기업들은 AI 환각 줄이기에 총력을 다하고 있다. 오픈AI는 최근 챗GPT의 새로운 도구인 ‘딥 리서치(deep research)’를 출시했다. 딥 리서치는 딥리서치는 오픈AI o3 추론 모델에 인터넷 검색을 더한 서비스로, 사용자의 프롬프트를 바탕으로 온라인상 문서, 이미지 등 데이터를 분석해 종합 리포트를 생성한다. 특히 오픈AI는 딥 리서치가 AI 정확도 평가인 ‘인류의 마지막 시험’에서 경쟁사 모델보다 월등히 높은 26.6%를 달성했다고 강조했다. 같은 시험에서 딥시크 R1은 9.4%, 오픈AI o1는 9.1%, 클로드 3.5 소네트는 4.3%를 기록했다. 인류의 마지막 시험은 언어학, 철학, 로켓 공학 등 100개 이상의 주제에서 3000개 이상의 객관식 및 단답식으로 구성돼 있다.

▲마이크로소프트 공식 홈페이지에 게시된 '코렉션(correction)' 기능 설명 동영상. (사진제공=마이크로소프트)

마이크로소프트는 지난해 LLM의 생성물에서 환각을 식별하고 수정하는 기능인 ‘코렉션(correction)’을 개발했다. 허위조작 정보의 ‘탐지-추론-수정-출력’ 과정을 거쳐 교정해준다. 텍스트 중 오류 가능성이 큰 부분을 탐지한 후 신뢰할 수 있는 자료와 비교해 수정을 제안해준다. 다만, AI 전문가들은 이 같은 MS의 코렉션 기능이 환각의 근본적인 원인을 해결하지 못한다고 지적했다. 테크 전문매체 테크크런치에 따르면, 마이크 쿡 퀸 메리 런던대학교 교수는 “코렉션이 제대로 작동하더라도 AI를 둘러싼 신뢰와 설명 가능성 문제를 악화시킬 위험이 있다. 이 서비스는 일부 오류를 포착할 수 있지만, 사용자를 거짓된 안전감에 빠지게 할 수 있다”고 경고했다.

업계 관계자는 AI의 환각을 완전히 없앨 순 없어도, 줄이기 위해 지속해서 노력해야 한다고 제언했다. 문형남 숙명여대 글로벌융합대학 학장은 “기업은 데이터가 어떻게 수집되고 어떻게 처리되며 어떤 목적으로 사용되는지 명확히 설명할 수 있어야 한다”며 “딥시크의 딥러닝 알고리즘은 ‘블랙박스’로 간주돼 내부 작동 방식이 복잡하고 불투명하다는 한계가 있는 것”고 짚었다.

최재식 카이스트 김재철AI대학원 교수는 “딥시크는 미국을 추격하면서 빠르게 AI 모델을 출시해야 했다. 그런 과정에서 (환각) 관련 규정과 검사를 꼼꼼하게 하지 않고 출시를 한 것 같다”고 말했다. 그러면서도 최 교수는 “근본적으로 LLM에서 환각(할루시네이션)을 없애는 건 불가능하다. 그 문제가 딥시크에서 일어나는 건 사실 놀랍지는 않다”고 덧붙였다.