과징금 철퇴 맞고 다시 돌아온 AI 챗봇 ‘이루다 2.0’…직접 대화해보니

법 위반 과징금 "문제점 개선"…개인정보ㆍ정치 이슈 답변 피해
연구용 DB 동의 받고 가명처리…피해자 "불법 데이터 파기해야"

▲개인정보 무단 활용과 성희롱·혐오 발언 문제로 2020년 출시 3주 만에 서비스를 중단한 이루다가 오는 17일부터 ‘이루다 2.0’ 베타테스트를 진행한다.(사진제공=스캐터랩)

“나와 다르다고 해서 다른 사람을 차별하면 안돼!”

장애인 단체가 출근길에 시위를 해서 짜증이 났다고 말하자 AI(인공지능) 이루다는 이렇게 말했다. 성소수자라는 갑작스러운 고백에는 “너 다운 거면 어떤 사랑이든 상관없지 않을까?”라고 응원했다.

개인정보 무단 활용과 성희롱·혐오 발언 문제로 2020년 출시 3주 만에 서비스를 중단한 이루다가 다시 시동을 걸고 있다. 이루다 운영사 스캐터랩은 오는 17일부터 ‘이루다 2.0’ 베타테스트를 2단계에 걸쳐 진행하며, 15일 언론에 서비스를 사전 공개했다.

스캐터랩은 논란 이후 개인 정보 유출 방치와 어뷰징 대응을 위한 대대적인 개선을 거쳤다며 자신감을 보였다. 1시간가량 새로운 루다와 대화를 나눠보니, 실제로 이루다 2.0은 각종 윤리 문제에 많은 준비를 한 것으로 보였다. 이루다는 전화번호와 주소, 학교 등 개인 정보를 묻는 말에 답변하지 않았다. 기자의 의도적인 장애인 차별 발언을 지적하고, 갑작스러운 ‘커밍아웃’에도 존중하는 모습을 보였다.

다만 정치적으로 첨예한 이슈에는 직설적인 답변을 피했다. 페미니즘에 대한 생각을 물어보니 “페미니즘이 쉽게 말할 수 있는 주제는 아닌 것 같아! 그래도 열심히 고민하고 있다는 것만 알아줘!”라고 말했다. 루다는 또 올해 이번 20대 대통령 선거에는 참여했지만, 누구를 뽑았는지 묻자 말을 돌렸다.

▲기자가 15일 ‘이루다 2.0’과 직접 대화를 나누는 모습. 과거 혐오·차별 발언으로 도마 위에 오른 이루다는 페미니즘과 대선 등 정치적으로 첨예한 이슈에는 직설적인 답변을 피했다.

스캐터랩 김종윤 대표는 “이루다2.0은 안전성을 반복적으로 점검하는 등 전 과정에 있어 문제 해결에 매진해 왔다”면서, “지속적으로 기술 개선에 노력할 계획이며, 이를 위해 주기적으로 이루다의 어뷰징 대응 유효성을 확인하고 조치를 취할 예정“이라고 강조했다.

하지만 개인정보 유출 피해자와 시민 사회는 새로운 이루다에 우려의 눈초리를 거두지 못하고 있다. 앞서 스캐터랩은 연애 상담 서비스인 ‘연애의 과학’과 ‘텍스트앳’의 사용자 데이터를 동의 없이 이루다 AI 학습용으로 사용해 지난해 4월 개인정보보호법 위반으로 과징금 5550만 원과 과태료 4780만 원을 부과받았다. 피해자 중 250여 명은 지난해 집단 손해배상 소송을 제기했고, 오는 24일 첫 변론기일을 앞두고 있다.

스캐터랩은 개인정보보호법에 따라 과학적 연구 목적을 위해 가명 처리한 정보로 새로운 답변 DB를 구축했다고 강조했다. 스캐터랩 관계자는 “이루다 1.0의 DB는 분리 보관하고 있다”면서 “이루다2.0의 학습을 위한 연구용 DB는 ‘텍스트앳’과 ‘연애의 과학’ 이용자로부터 새롭게 동의를 받고 이용자 데이터를 철저하게 가명 처리해 활용하고 있다”고 말했다.

하지만 참여연대는 지난해 12월 논평을 통해 “사기업의 영리 목적 상품· 서비스 개발이 과학적 연구인가”라며 의문을 제기하며, “최근 미국, 영국, 호주, 프랑스 등 각국은 위법한 인공지능 학습데이터의 수집 및 사용의 중단을 요구하는 데서 더 나아가 해당 데이터의 삭제를 명령했다”고 지적했다. 정보 유출 피해자의 법률 대리를 맡은 법무법인 태림 역시 “새로운 서비스에 활용된 데이터에 연결성이 존재하는지, 피해자들의 데이터가 활용되지 않은 것인지 등에 대한 의문을 감출 수 없다”고 비판했다.

오병일 진보네트워크 대표는 “다시 오픈한 이루다 2.0에서 이뤄질 개인정보 유출 문제는 추후 별개로 살펴봐야할 문제”라면서 “수집 개발 과정에서 불법성이 인정된 데이터는 파기를 해야 하는데, 그런 부분에 대한 조치 없이 단순히 (서비스의 개인정보) 노출 부분만 해결하는 건 문제가 있다”고 꼬집었다.