[종합] 제2의 '이루다' 사태 막자… 삼성전자, 'AI 윤리 교육' 공식 도입

교육 프로그램 만들고, 연내 임직원 대상 교육 시행

▲AI 챗봇 이루다 (사진=핑퐁블로그)

#올 초 국내 IT 업체 스캐터랩이 출시한 인공지능(AI) 챗봇 ‘이루다’는 스무 살 여대학생으로 설정됐다. 94억 건에 달하는 실제 연인 간 대화 데이터를 토대로 자연스럽고 친근한 말투를 구사했다. 하지만 흑인과 레즈비언이 싫다는 등 소수자를 혐오하거나 인종 차별하는 듯한 발언으로 사회적 논란이 됐다. 결국, 출시 20일 만에 서비스는 중단됐다.

#아이작 아시모프의 공상과학 소설인 '아이, 로봇'에는 '로봇의 3대 원칙'이 등장한다. AI를 탑재한 로봇에 적용돼야 할 윤리적 지침이다. 인간 세계의 독특한 특성인 윤리가 없는 로봇은 결국 반란을 일으킬 수 있다는 전제에서 이 같은 위험을 막기 위한 것이다.

이루다는 떠났지만, AI 분야에 윤리라는 화두를 던졌다. AI가 인간에 해악을 끼치거나, 편향성에 물들지 않게 하기 위해선 AI 개발 과정에서 높은 윤리 의식이 필요하다는 인식이다.

삼성전자가 임직원들의 AI 윤리 인식 제고를 위한 교육을 공식 도입한다.

6일 삼성전자 관계자는 "연내 임직원 대상으로 정식 AI 윤리 교육을 시작할 수 있도록 준비 중"이라고 밝혔다.

삼성전자는 지난해 7월 케임브리지 AI 센터 임직원을 대상으로 원격 AI 윤리 시범 교육을 진행했다. 이를 바탕으로 AI 윤리 교육 프로그램을 마련하고 있다.

하반기 중 AI 윤리 교육 프로그램을 완성하고, 임직원을 대상으로 정식 교육에 나설 계획이다.

현재 삼성전자는 임직원들이 실제 업무 과정에서 AI 윤리 원칙을 실천할 수 있도록 임직원을 위한 'AI 윤리 가이드라인'을 마련해 배포하고 있다. AI 기술이 활용되는 제품과 서비스를 설계, 개발, 배포, 구현, 운용하는 과정에서 해당 가이드라인을 준수하도록 권고한다.

예를 들어, 음성 AI 비서 '빅스비' 서비스는 불공정한 편견이 조장되지 않도록 AI 윤리 원칙을 준수해 설계된다. 특히 각 국가의 법규와 사회적 윤리, 소비자 정서 등을 고려해 자체적으로 ‘민감어 처리 정책’을 확립하고 준수한다.

또 시시각각 변하는 AI 관련 동향과 사회적 이슈를 감지해 해당 데이터베이스에 지속해서 반영하고 있다.

삼성전자는 이 같은 윤리 가이드라인 배포에서 더 나아가, AI 윤리를 임직원 필수 교육 과정으로 넣겠다는 계획이다.

이처럼 삼성전자가 AI 윤리 교육을 공식 도입하는 건 AI가 4차 산업혁명의 핵심 분야로 떠오른 후, 아마존과 구글 등 주요 기업들이 하나같이 윤리 문제로 곤욕을 치른 탓이다.

업계에선 AI 개발자의 선입견과 편견이 AI에 그대로 반영되거나, 오염된 데이터로 학습한 AI가 기성 사회가 갖고 있던 불평등 및 차별적 양상을 높일 수 있다고 지적한다.

지난달에는 김상희 더불어민주당 의원이 AI의 비윤리적인 학습과 활용을 막고 급격한 기술 발전에 따른 부작용을 방지하는 내용의 일명 '이루다 방지법'을 발의하기도 했다.

유재흥 소프트웨어정책연구소 AI정책연구팀 선임연구원은 "대기업 및 선도 기업들이 자율적으로 AI 윤리 준칙을 제정하고 임직원 교육에 나서는 등 모범 사례를 발굴해 중소기업과 스타트업에 보급 및 확산하는 역할이 필요하다"라고 밝혔다.