맥북 던진 세종대왕?…‘AI 헛소리’ 잡는 이통3사

민간자율 신뢰성 인증 준비 중
SKT는 ISOㆍIEC 42001 획득
KT, RAIC 신설ㆍ위험관리체계
LGU+, AIㆍ데이터 거버넌스 등

인공지능(AI)으로 몸집을 키우고 있는 이통3사가 ‘안전성’ 확보에도 박차를 가하고 있다. 정보 유출 및 환각(AI가 부정확하거나 편향적인 정보를 사실인 것처럼 답변하는 것) 등 AI 활용에 따른 부작용 우려를 불식하려는 노력이다.

5일 업계에 따르면 이통3사는 자사 AI 서비스에 대한 인공지능 신뢰성 인증(CAT, Certification of Artificial Intelligence) 취득을 준비하고 있다. CAT는 한국정보통신기술협회(TTA)가 부여하는 민간자율 인증으로, AI 신뢰성을 확보하려는 사업자 및 개발자를 대상으로 진행한다. CAT는 지난해 과학기술정보통신부가 제정한 국내 첫 ‘AI 신뢰성 단체표준’을 기반으로 한다.

TTA는 AI 기술을 활용한 제품 및 서비스의 위험 요인을 분석하고, 신뢰성 확보를 위한 요구사항 준수 여부를 평가한다. 지난해 10월 도입 후 CAT를 취득한 기업은 3개에 불과하다.

이에 이통3사 중 ‘CAT 인증 4호’가 탄생할지 관심이 쏠리고 있다. SKT는 통신 전문 용어와 통신사 내부 지침을 학습한 ‘텔코 거대언어모델(LLM)’을 보유하고 있다. 텔코 LLM은 SKT의 AI 개인비서 ‘에이닷(A.)’과 오픈AI의 GPT-4, 엔스로픽의 클로드 등을 활용했다. SKT는 4월 국내 통신사 최초로 AI 경영시스템 국제표준인 ‘ISO/IEC 42001’ 인증을 획득했다. AI 기술의 윤리적 활용과 투명한 의사결정 체계를 위해 AI 거버넌스를 회사 경영에 도입하기도 했다. SKT 관계자는 “사업부별 요구사항에 맞춰 검토 중에 있다”고 말했다.

KT는 지난해 자체 파운데이션 초거대 AI ‘믿음(Mi:dm)’을 선보였다. 경량 모델부터 초대형 모델까지 총 4종이다. KT는 AI 역량을 활용해 AI 통화비서 서비스와 온디바이스 AI 사물인터넷(AIoT) 사업 등을 운영하고 있다. 4월 ‘책임감 있는 인공지능 센터(RAIC)’를 신설했다. 안전성, 투명성, 개인정보 보호 등 AI로 인한 위험에 대해 관리 체계를 구축하고, 사내 적용 중인 AI 윤리원칙을 고도화했다. KT 관계자도 “CAT 인증에 대해 긍정적으로 검토 중”이라고 했다.

LG유플러스도 지난달 통신·플랫폼 데이터를 학습한 생성형 AI ‘익시젠(ixi-GEN)’을 출시했다. LG AI 연구원의 초거대 AI ‘엑사원(EXAONE)’을 기반으로 한 소형언어모델(sLLM)이다. 향후 금융, 교육, 보안 등 다양한 산업에 특화한 익시젠 서비스를 개발할 방침이다. LG유플러스는 'AI·데이터 거버넌스 전문 조직’을 구성했다. 또한, AI 안전 기술을 적용해 개인정보 및 민감정보, 유해정보 등을 제거하고 있다. LG유플러스 관계자는“"CAT 활용 계획이 있다”며 “관련 시점은 향후 시장 상황을 지켜보고 판단할 예정”이라고 했다.

전문가는 AI 안전성을 확보하기 위한 기업의 지속적인 노력이 필요하다고 제언했다. 문형남 숙명여대 글로벌융합학부 교수는 “AI 시스템을 개발할 때 검증 과정을 통해 오류나 결함을 발견하고 이를 계속해서 수정해야 한다”며 “AI 오류로 인한 피해가 발생할 경우 책임 소재를 명확하게 할 필요도 있다”고 말했다.