‘맞춤형 칩’ 급부상에도…수요 탄탄한 ‘GPU’ 대체 불가

‘AI 시대’ 반도체 방향은
‘ASIC’ 고성능‧효율성 갖춘데다
빅테크, 엔비디아 의존 탈피 움직임
시스템 구축‧유지비용 증가 한계
모건스탠리 “일시적인 시장 과열”

▲주문형반도체(ASIC)와 그래픽처리장치(GPU)의 특징 (이투데이DB)

글로벌 빅테크들이 엔비디아에 대한 의존도를 낮추기 위해 주문형 반도체(ASIC)에 특화된 브로드컴과 앞다퉈 손을 잡고 있지만 그래픽처리장치(GPU)에 대한 수요는 탄탄할 것이라는 전망이 나온다. 특히 인공지능(AI) 시장에서 엔비디아의 영향력이 확고해지면서 고대역폭메모리(HBM)의 중요성 또한 지속될 것이란 관측이다.

17일 외신 및 반도체·증권 업계에 따르면 모건스탠리는 최근 보고서를 통해 ASIC가 특정 애플리케이션에서 우수한 성능을 보이지만 특정 고객의 맞춤형 수요에 크게 의존한다는 분석을 내놨다. 또 전체 총소유비용(TCO)이 GPU보다 높을 가능성이 있다고 봤다.

빅테크 기업들이 자체 AI가속기 개발에 나서면서 ASIC에 대한 수요는 급증하는 추세다. 높은 가격의 엔비디아 AI 가속기 대신 필요한 기능만 담은 ASIC를 선택하고 있는 것이다. 이에 따라 AI 칩 시장을 장악하고 있는 엔비디아의 대항마로 브로드컴이 급부상 중이다.

하지만 모건스탠리는 ASIC에 대한 시장 과열이 일시적인 현상이라고 짚었다. 장기적으로 GPU의 시장 지위가 쉽게 흔들리지 않을 것이라고 예상했다.

이에 대한 근거로 비용을 꼽았다. ASIC는 특정 업체를 중심으로 설계돼 높은 성능과 효율성을 갖추지만, 전체 시스템 비용이 GPU보다 높다고 지적했다.

ASIC의 하드웨어 비용은 약 3000달러이지만, 엔비디아 GPU 모델인 H100는 약 2만 달러인 것으로 알려졌다. 그럼에도 ASIC의 클러스터 구축비용이 더 비싸고, 네트워크 구축 과정에서도 GPU가 더 비싼 비용이 든다는 분석이다.

▲SK하이닉스 HBM3E 12단 제품 (사진제공=SK하이닉스)

엔비디아 GPU 프로그래밍 모델인 ‘쿠다(CUDA)’ 상용화 문제도 있다. 이미 전세계의 엔지니어들이 쿠다에 익숙해져 다른 신경망처리장치(NPU) 등으로 옮겨가는 것이 쉽지 않은 상태다. 이러한 이유 때문에 ASIC을 사용하면 소프트웨어 최적화에 수개월이 걸릴 수 있으며, 장기적인 유지 보수 비용이 증가할 가능성이 크다.

SK하이닉스도 이 같은 문제에 공감했다. SK하이닉스는 지난달 23일 컨퍼런스콜에서 “추론으로 AI 기술이 이동하며 고사양 HBM 수요가 둔화하기 보다는 AI 성장에 중요한 요인이 될 것”이라며 “이미 전세계의 엔지니어들이 쿠다에 익숙해져 다른 NPU 등으로 옮겨가기가 쉽지 않다”고 설명했다. 이어 “이러한 이유 때문에 ASIC을 사용하면 소프트웨어 최적화에 수개월이 걸릴 수 있으며, 장기적인 유지 보수 비용이 증가할 가능성이 크다”고 했다.

반도체 업계 관계자는 “AI 전용 가속기에서는 하드웨어만 중요한 것이 아니라 이와 연계되는 시스템 소프트웨어가 중요한 데, GPU로 대표되는 엔비디아는 10년 넘게 이곳에 투자해사용성과 효율이 좋다”면서 “NPU는 아직 개발 기간이 충분하지 않아서 사용성에 문제가 있을 수 있다”고 진단했다. 이 관계자는 “비용 측면에서도 GPU는 NPU보다 상용화가 잘 이뤄졌으며, 보편성이 높아 감가상각을 고려했을 때 효율성이 더 뛰어나다”고 부연했다.

GPU의 대세론은 국내 기업에도 긍정적인 영향을 미칠 것으로 예상된다. 우리 기업 중에서는 SK하이닉스와 삼성전자가 GPU에 탑재되는 HBM을 생산 중이다. AI 반도체 시장이 확대되며 HBM 수요는 더욱 증가하고, 국내 메모리 업체의 실적 개선으로 이어질 것으로 기대된다.

▲엔비디아의 최신 그래픽처리장치(GPU) H200. 출처 엔비디아 홈페이지