AI안전연구소 출범…韓, 기업 EU 진출 돕고 오픈AI·MS와 협업 추진

▲김명주 AI안전연구소장이 27일 열린 개소식 행사에서 연구소의 비전과 역할에 대해 설명하고 있다. (김나리 기자)

전 세계 6번째로 한국에서 딥페이크(불법 합성물) 등 인공지능(AI) 기술을 악용한 위험에 대응하기 위한 AI안전연구소(AISI)가 출범했다. 연구소는 미국, 영국, 일본, 싱가포르, 캐나다 등 AI 선진국과 기술, 인력, 정책 연대를 강화해 국제 표준을 주도하겠다는 방침이다. 향후에는 오픈AI, 마이크로소프트(MS), 앤트로픽 등 글로벌 AI 빅테크와도 네트워크를 형성해 AI안전 연구 등 기술적 협업을 추진하겠다는 계획이다.

김명주 AI안전연구소 초대 소장은 27일 판교 글로벌 R&D센터에서 열린 개소식에 “연구소는 규제기관의 성격이 아니라 국내 AI 기업이 글로벌 경쟁력을 확보하는데 장애가 되는 위험요소를 최소화하도록 지원하는 협력기관으로 역할을 하겠다”고 강조했다.

그 일환으로 AI연구소는 향후 제정될 AI 기본법을 준수할 경우 해외에서 규제를 면제받을 수 있는 호환성을 확보해 국내 기업의 해외 진출을 적극 지원하겠다는 계획이다.

김 소장은 개소식 직후 기자들과 만나 “우리나라에서 AI 기본법을 잘 지키는 기업들이 EU에서 상당 부분을 면제해주는 것이 가능하도록 논의할 것”이라며 “규제나 인증 등 표준절차를 맞춘 기업들이 유럽에 진출할 때 상호 인증하는 방향이 될 것”이라고 설명했다.

김 소장은 이미 20일 미국 샌프란시스코에서 열린 ‘국제AI안전연구소 네트워크 행사’에 참석해 영국, 미국, 캐나다, 일본, 싱가포르와 개별적으로 업무협약(MOU)을 체결해 기술·인력·정책교류를 활성화하기로 했다.

AI안전연구소는 전 세계 AI 시장을 주도하는 빅테크와의 협업 의지도 밝혔다. 김 소장은 “궁극적으로는 오픈AI, 앤트로픽, 마이크로소프트 등 해외 빅테크 기업과도 네트워크를 형성해 임무를 해야 한다”며 “미국 AI안전연구소에서 이미 빅테크들과 테스트를 진행하고 있는 만큼 MOU를 통해 한 다리 건너서 추진할 생각”이라고 설명했다.

AI안전연구소는 AI의 기술적 한계, 인간의 AI기술 오용, AI 통제력 상실 등으로 발생하는 다양한 AI위험에 체계적‧전문적으로 대응하기 위한 AI안전연구 전담조직이다. 산‧학‧연 기관이 AI안전분야 연구 협력과 정보 교류를 할 수 있는 대한민국 AI안전연구 허브이자 국제 AI안전연구소 네트워크의 일원으로 안전한 AI를 위한 글로벌 연대의 책임있는 역할을 수행해 나갈 계획이다. 이를 통해 AI안전 분야의 경쟁력있는 기술‧인력을 육성하고, 과학적 연구데이터에 근거한 AI안전 관련정책의 개발‧선진화를 추진한다.

▲27일 경기도 성남시 분당구 글로벌R&D센터에서 열린 AI안전연구소 개소식에서 김명주 AI 안전연구소 초대 소장이 기자들과 질의응답을 하고 있다. (김나리 기자)

한국전자통신연구원(ETRI) 산하 기관으로 출범하는 AI안전연구소가 글로벌 AI안전 거점 연구소로 도약하기 위해서는 처우 개선이 필요하다는 지적이 나온다.

김 소장은 “ETRI 직원 월급으로 AI 세계에서 좋은 인재를 뽑을 수 있을지 의문이 있었다”며 “특별 수당도 줘야 하고 판교에 있는 AI 기업 평균 정도는 줘야 한다는 논의가 있었는데 그에 대한 고민도 계속하고 있다”고 설명했다.

그러면서 “AI 기본법이 통과되면 이 부분도 함께 논의해야 할 필요가 있다”며 “영국의 경우 AI안전연구소 직원 연봉이 2억 원이다. AI 중요성을 감안해 연봉 상한선을 터버린 것이다. 좋은 인재를 위해서는 풀어야 할 과제”라고 설명했다.

이날 개소식에 참석한 류광준 과하기술정보통신부 과기혁신본부장은 “우리도 AI안전연구소를 중심으로 산‧학‧연 연구역량을 결집해 AI안전의 기술‧정책적 역량을 조속히 확보해 대한민국 AI산업 혁신을 촉진할 튼튼한 안전기반을 구축하고 글로벌 AI안전 연대의 주도적인 역할을 수행해 아태지역을 대표하는 AI안전 연구허브로 발전해 나갈 수 있도록 적극 지원하겠다”고 강조했다.