[단독] 예산 수십억 원 들였는데 기업 참여 저조…'AI 신뢰 인증제'

AI 윤리 검증하는 민간 자율 신뢰성 인증 제도
2021년부터 수십억 들였지만 참여 기업 저조
IT 업계 "의무도 아니고, 굳이?"…차라리 국제 기준 준비

정부가 2021년부터 수십억 원을 들여 민간 기업의 인공지능(AI) 윤리 수준을 검증하는 '신뢰성 인증 제도'를 만들었지만 기업의 참여가 저조하다. 딥페이크 성범죄·환각 부작용이 드러나며 AI 윤리 중요성이 커지고 있지만 10월 현재까지 인증을 받은 기업은 4곳에 불과하다.

1일 본지가 지난 4년간 과학기술정보통신부 예산 및 기금운용계획 사업설명자료를 분석한 결과, 2021년부터 2024년까지 AI 신뢰성 기반 조성을 위해 편성된 예산은 137억 4600만 원이다. 그중 AI 신뢰성 검증 체계 마련 관련 사업 관련 예산만 2021년 12억 원, 2022년 3억 원, 2022년 6억 원, 2023년 6억 원에 이른다. 2024년에는 민간 AI 신뢰성 시범 인증 고도화를 위해 2개 과제에 6억 원의 예산이 편성됐다.

'인공지능 신뢰성 인증'(CAT·Certification of Artificial Intelligence) 제도는 과학기술정보통신부 주관, 한국정보통신기술협회(TTA) 용역으로 이뤄진다. TTA가 AI 거버넌스 체계, AI 제품 신뢰성 2가지 범위를 대상으로 평가를 진행한다. 거버넌스 체계는 책임 있는 AI를 위한 AI 거버넌스 구축 및 이행 여부를, AI 제품 신뢰성은 △투명성 △공정성(편향관리) △안전성 △설명가능성 △정확성 △강건성 △안정성 △보안성 등을 충족하는지 확인 후 인증을 부여한다.

정부는 2021년부터 AI 신뢰성 기반과 신뢰성을 검증하기 위한 체계를 마련하기 위해 준비해왔다. 2021년 분야별 ‘신뢰할 수 있는 AI 개발안내서’(개발안내서) 개발과 보급했고 지난해 12월부터 AI 시스템 신뢰성 제고를 위한 요구사항’(AI 신뢰성 단체표준)을 제정했다.

"필수 요건도 아닌데 참여 굳이 해야 되나"

문제는 기업이 자율적으로 인증에 참여하다 보니 기업 참여가 저조하다는 점이다. 10월 현재 인증을 받은 곳은 정보보안 기업 마크애니, AI기반 데이터 플랫폼 기업 엔플럭스, AI HR솔루션 기업 제네시스랩, 단감소프트 4곳이다.

TTA 관계자는 "추가로 LLM 솔루션 대상으로 4호 인증이 나올 예정인데, 아무래도 준비할 게 많다보니 예정됐던 일정보다 조금씩 늦어지고 있다"면서 "CAT가 민간 자율이다 보니 정책적인 인센티브가 없어서 아직 실질적으로 활용되는 건 제한적인 상황"이라고 말했다.

업계에서는 인증 자체가 의무도 아니고 비용도 들다 보니 굳이 참여할 이유가 없다고 입을 모았다. 보안 기업 관계자는 "AI는 아직 소프트웨어나 보안 쪽에서 도입하는 단계"라면서 "CAT 인증이 공공사업의 필수요건이 아니지 않냐. 필수요건인 표준인증을 위주로 하고 있다"라고 말했다.

IT서비스 기업 관계자도 "공신력이 있거나 만약 어떤 사업을 추진하는 데 있어 그게 필요하면 따겠지만 그런 건 아니다"라면서 "클라우드 서비스 보안 인증제(CSAP) 같이 공공분야 진출하는 데 필요하다면 취득하겠지만 그런 것도 아니다"라고 말했다.

일부 국내 기업은 자체 AI 거버넌스를 만들거나 해외에서 공신력 있는 국제 기준에 사업을 집중하고 있다. SKT는 올해 3월 자체 거버넌스 원칙 'T.H.E AI'를 발표했다. LG AI 연구원도 지난달 국제전기전자표준협회(IEEE-SA)와 계약을 맺고 국내 첫 AI 윤리 평가·인증 기관으로 이름을 올렸다.

플랫폼 기업 관계자는 "우리는 따로 내부적으로 안전성 검증을 하고 있고 그 결과를 계속 외부에 공개하고 있다"면서 "CAT 같은 경우는 따로 진행한 바는 없지만 필요한 경우 고려할 수 있다"고 말했다.

상황이 이렇다 보니 과기정통부는 수상자를 대상으로 'AI 신뢰성 인증 대상' 시상식까지 만들어 기업 참여를 독려하고 있다. 과기정통부는 지난달부터 다음달 14일까지 제 2회 접수를 받고 있다. 수상 기업은 민간자율 AI 신뢰성 인증 관련 시험비용 지원 등 혜택을 받는다.

TTA 관계자는 "그간 AI 신뢰성 기반조성 사업을 통해 7종의 개발안내서를 발간하고 생성형 AI에 대한 레드팀 챌린지를 개최하는 등 신뢰기반 확산에 이바지해왔다"면서 "최근 정부 AI사업 30여건 이상을 대상으로 신뢰성 인증을 진행하기로 한 바 있고, 올해 걸음마를 시작한 인증이 내년부터 본격화 될 것으로 기대한다"고 말했다.