소니드, 서울대·스타랩스와 협력해 CXL-GPU 기술 개발

▲패브릭 메모리 기반 연산 스토리지 기술 시스템 구조. 서울대 컨소시엄이 보유한 CXL 기술로 차세대 데이터 센터에서 메모리 용량과 대역폭 한계를 극복하고, 대규모 데이터 처리 성능을 확보할 것으로 기대된다.(서울대학교 컴퓨터공학부 제공)

소니드가 차세대 인터페이스 기술인 '컴퓨트익스프레스링크(CXL)'를 활용, 인공지능(AI) 반도체의 메모리 용량 한계를 극복한 'CXL-GPU 기술' 개발에 나섰다고 17일 밝혔다.

기술 개발을 위해 소니드는 서울대학교 컴퓨터공학부 엄현상 교수팀과 AI 전문기업 스타랩스와 함께 컨소시엄(서울대 컨소시엄)을 구성했다.

최근 등장한 오픈AI의 ChatGPT와 메타의 라마(Llama)와 같은 AI 서비스는 처리하는 데이터 용량이 증가하면서 수십 TB의 메모리를 탑재한 시스템을 요구하고 있다. 하지만 엔비디아의 H100 등 최고급 GPU 내부 메모리 용량은 수십 GB에 불과해 AI 서비스용 시스템 구축을 위해서는 여러 대의 GPU가 요구돼 고비용 문제가 지적됐다.

CXL-GPU 기술은 CPU와 GPU, 저장장치를 CXL 인터페이스로 연결하고, 대용량 메모리를 GPU 내부에 직접 탑재함으로써 시스템 구축비용을 낮추고 높은 성능을 확보한 것이 특징이다. CXL-GPU 기술은 그동안 산업계에서 활발히 연구됐지만, 메모리 읽기·쓰기 성능이 낮아서 상용화에 어려움을 겪어 왔다. 그러나 서울대 컨소시엄 측은 이 문제를 해결함으로써 기존 메모리 확장 기술보다 2배 이상 높은 성능을 구현할 계획이다.

향후 연구 과제로는 △보급형 및 고 성능형 클라우드 프리(Free) AI 플랫폼 양산 △AI 애플리케이션 통합 알고리즘 개발 △CXL 보드 3종 시험 생산 등을 진행해 나갈 예정이다. 컨소시엄은 연구개발 성과를 바탕으로 비대면 의료 시장 및 지능형 AI CCTV 시장에도 적극 진출한다.

컨소시엄을 구성한 소니드, 서울대 엄현상 교수팀, 스타랩스는 다양한 AI 부문에서 활약해 왔다. 소니드는 자회사 소니드로보틱스를 통해서 2월 영상 분석용 온디바이스 비전 인공지능(AI) '브레인봇' 개발을 완료하고 양산에 돌입했다. 브레인봇은 하드웨어(보드)와 소프트웨어(애플리케이션)로 구성돼 있으며, 고급 컴퓨터 비전과 인공지능 알고리즘을 통해 실시간으로 영상 데이터를 분석해 특정 이벤트나 사람의 행동을 자동 감지한다.

이 제품은 인도의 개발사와 협력으로 개발했으며, CXL 인터페이스를 통해서 메모리 성능을 최적화한 것이 특징이다.

서울대학교 엄현상 교수팀은 삼성전자-서울대 이종 시스템 최적화 요소 기술 개발 전략산학과제를 총괄하면서 '이종 메모리 효율적인 관리 기술'을 개발했고, 미국 로런스 버클리 국립연구소와 협력해 오면서 메모리 또는 스토리지 계층 활용 기술인 '효율적인 분산(버스트 버퍼) 스토리지 시스템 소프트웨어 기술'도 개발해 IEEE 클러스터 국제 학회에서 최고 논문상을 받은 경력이 있다.

AI 전문기업 스타랩스는 인공지능 연구 및 개발을 선도하면서 다양한 AI 알고리즘과 데이터 처리 기술을 통해서 혁신적인 AI 솔루션을 제공해 왔다. 스타랩스의 기술은 향후 CXL-GPU 기반 솔루션을 더욱 강화하고, AI 서비스 성능을 높이는데 기여할 것으로 소니드는 기대하고 있다.