KT클라우드, AI 인프라 구축…‘초거대 AI’ 산업 이끈다

12월까지 KT대덕2연구센터에 초거대 AI 학습용 GPU 인프라 구축

▲KT클라우드 직원들이 하이퍼스케일 AI 존이 구축된 IDC에서 장비를 점검하고 있다. (사진제공=KT클라우드)

KT클라우드는 오는 12월까지 KT 대덕2연구센터에 초거대 AI 학습용 GPU(그래픽처리장치) 인프라를 구축한다고 25일 밝혔다. KT클라우드는 이번 사업에서 HAC(Hyperscale AI Computing) 인프라를 구축해 초거대 AI 사업 시장 공략에 나선다는 전략이다.

초거대 AI란 대용량의 연산이 가능한 GPU 인프라를 바탕으로 사람처럼 스스로 사고할 수 있도록 설계된 AI다. KT는 초거대 AI 사업을 본격적으로 추진하며 적기 학습을 위한 GPU 컴퓨팅 인프라를 확보하고자 KT클라우드의 HAC와 엔비디아의 GPU 어플라이언스를 병행 도입하기로 결정했다.

KT클라우드는 이번 사업 참여를 통해 HAC의 초거대 AI 주요 사업 레퍼런스를 확보하게 됐다. 초거대 AI 학습 성능개선과 재학습결과 등을 검토·보완해 글로벌 탑티어 수준까지 기술력을 끌어올린다는 계획이다. KT클라우드는 국내 기업인 ‘모레(Moreh)’와 협력해 최적화된 AI 프레임워크를 개발하는 한편, ‘리벨리온(Rebellions)‘과 함께 국산 AI 클라우드 반도체 칩 개발도 추진하고 있다.

KT클라우드의 HAC는 지난 해 12월 출시된 종량제 GPU 서비스다. AI 모델 대형화에 필요한 비즈니스 민첩성과 비용 효율성 개발 유연성·연속성, 프로그래밍 호환성의 강점을 갖고 있다. 여러 대의 GPU를 결합해 하나의 GPU처럼 사용하며, 다수의 GPU 클러스터링을 지원한다. 대규모 연산이 필요할 때에는 다중·동적 할당 기술을 통해 원하는 만큼만 GPU 자원을 할당 받고, 연산 후 즉시 반납할 수 있어 탄력적으로 서비스를 이용할 수 있다. 특히 클라우드 기반으로 GPU를 사용한 기간, 할당된 자원만큼만 비용이 책정되기 때문에 고가의 장비를 구축하는 것에 비해 비용 부담을 획기적으로 줄일 수 있다.

KT클라우드가 초거대 AI 언어모델 학습 테스트를 진행한 결과, HAC는 기존 구축형 서비스 대비 30~50%의 비용 절감 효과를 낼 수 있는 것으로 나타났다. KT클라우드는 서버 팜을 지속적으로 증설하는 것과 동시에 최대 10분의 1 수준의 효율적 비용으로 동급 연산 자원을 제공할 수 있을 것으로 기대하고 있다.

윤동식 KT클라우드 대표는 “HAC는 초거대 AI 연구 및 서비스 개발에 필수적인 대규모 인프라를 제공하는 혁신적인 기술이자 서비스”라며 “국내·외 AI 선도기업들과 초거대 AI 산업 성장을 이끌어 갈 것”이라고 말했다.