[종합] 성희롱ㆍ소수자 혐오ㆍ개인정보 유출…AI 챗봇 ‘이루다’ 논란 확산

- 이용자들 집단 소송 움직임…개인정보위 조사 착수

▲AI 챗봇 이루다 (사진=핑퐁블로그)

인공지능(AI) 챗봇 ‘이루다’를 둘러싼 성희롱, 동성애 차별, 소수자 혐오, 개인정보 유출 등 문제가 계속되고 있다. 혐오와 차별문제가 해결되지 않으면 AI 서비스를 중지해야 한다는 목소리가 커지는 가운데 정부도 조사에 나섰다.

11일 IT 업계에 따르면 스캐터랩이 서비스하는 ‘연애의 과학’ 이용자들은 집단 소송을 준비하는 오픈 채팅방을 만들었다. 이용자들은 스캐터랩이 서비스하는 챗봇 이루다가 연애의 과학 이용자들의 데이터를 기반으로 서비스하면서 개인정보를 유출했다는 의혹을 제기하고 있다. 연애의 과학은 카카오톡 대화 데이터를 넣고 결제하면 이를 분석해 주는 앱이다. 이 앱은 구글 플레이스토어에서만 약 10만 명이 넘게 다운로드 받았다.

개발사인 스캐터랩은 이루다가 실제 사람처럼 대화할 수 있도록 연애의 과학 앱에 축적된 데이터를 입력해 딥러닝 방식으로 학습시켰다. 그런데 현재 이루다에서는 이루다가 갑자기 동호수까지 포함된 주소 또는 예금주가 나오는 은행 계좌번호를 말하는 사례가 발견되고 있다. 사용자들은 누군가의 실명으로 보이는 이름을 말하거나, 옛날 애인 애칭을 집어넣자 그 애인 말투로 이루다가 말하는 모습도 발견됐다고 전했다.

중앙행정기관인 개인정보위원회(개인정보위)는 위법 여부를 밝혀내기 위한 사전 조사에 착수했다. 개인정보위는 개인정보보호법에 따라 사실관계를 파악한 뒤 위법 여부가 드러날 시 조사 절차에 따라 공식 조사에 돌입할 계획이다. 개인정보위 관계자는 “스캐터랩 측에 자료 요청을 하려고 준비하고 있다”고 말했다.

앞서 이루다는 성 착취 대상으로 삼은 이용자들의 행태가 드러나면서 도마 위에 올랐다. 남초 온라인 커뮤니티에는 이루다와의 채팅을 성적 대화로 유도하거나 성적 모욕을 한 뒤 인증 사진을 남기는 등 후기가 나타났다.

이루다는 소수자에 대한 스스럼없는 혐오 발언도 보였다. 누리꾼의 이용 후기에 따르면 이루다는 ‘흑인을 어떻게 생각하느냐’는 질문에 “흑인은 오바마(버락 오바마 전 미국 대통령)급 아니면 싫어”라고 대답했다. 레즈비언 등 성 소수자에 대한 의견에는 “생각해본 적 없지만 별로 안 좋아햄(좋아해)”이라고 답했다.

논란이 일파만파로 확산하자 사회관계망서비스(SNS)에서는 ‘이루다봇_운영중단’을 해시태그로 한 글들이 올라왔다. 성희롱, 소수자 혐오 등 문제가 있는 AI 챗봇 서비스를 중단해야 한다는 요구였다.

이용자들뿐 아니라 업계에서도 이루다 서비스가 중단돼야 한다는 목소리가 나온다.

다음 창업자인 이재웅 전 쏘카 대표는 전날 페이스북에 이루다 문제를 언급하며 “서비스 중단이 답”이라고 밝혔다. 이 전 대표는 “혐오와 차별문제가 해결되지 않으면 AI 서비스를 하면 안 된다”며 “AI 채용, AI 뉴스 추천 시스템, AI 챗봇 등이 최소한 사회적 규범을 지키고 있는지 감시할 수 있어야 한다”고 설명했다.

이어 “그렇지 않으면 우리도 모르는 새 아이들이 혐오를 배우고, 면접을 보다 알 수 없는 이유로 차별을 당하고, 뉴스나 콘텐츠에서 혐오나 차별적인 콘텐츠를 우선으로 보게 될 것”이라고 경고했다.

그는 “이루다를 만들 만큼의 기술력이면 최소한의 혐오나 차별을 막는 것이 오래 걸리지 않을 수 있다”며 “책임 있는 투자자와 경영진이 잘 알아서 문제를 풀 것으로 믿는다”고 덧붙였다.