엔비디아의 독과점…김대현 삼성 AI센터장 "GPU 의존도 깨려면 NPU 개발ㆍ투자 시급”

고동진 국민의힘 의원, 14일 국회 간담회 개최
엔비디아 GPU 깨기 위한 테크 기업의 NPU 투자
고동진 “엔비디아 GPU+쿠다에서 NPU로 이동 어려워”
김대현 “하드웨어도 중요하지만…AI 스택 지원 이뤄져야”

▲김대현 삼성리서치 글로벌 AI 센터장(부사장)이 14일 서울 여의도 국회의원회관 제7간담회실에서 열린 ‘엔비디아GPU와 함께 이야기되는 텐서처리장치(TPU)와 NPU 기술에 대한 현황분석 간담회’에 참석해 발표 중이다. (이수진 기자)

글로벌 인공지능(AI)시장을 이끌고 있는 미국 엔비디아의 그래픽처리장치(GPU) 독과점을 깨기 위한 글로벌 테크‧반도체 회사들의 ‘신경망처리장치(NPU) 합종연횡’이 활발해지고 있다. 국내에서도 NPU 기술 생태계 구축을 위해 정부의 적극적이고 체계적인 지원이 필요하다는 목소리가 국회에서 나왔다.

국회 산업통상자원중소벤처기업위원회 소속 고동진 국민의힘 의원은 14일 서울 여의도 국회의원회관 제7간담회실에서 ‘엔비디아GPU와 함께 이야기되는 텐서처리장치(TPU)와 NPU 기술에 대한 현황분석 간담회’를 개최했다.

삼성전자 모바일 부문 사장 출신인 고 의원은 국민의힘 ‘AI 3대 강국 도약 특별위원회’ 소속이다. 이번 간담회에는 김대현 삼성리서치 글로벌 AI 센터장 등이 참석해 AI 기술 현황을 점검하고 AI 산업 발전을 위한 방안을 논의했다.

현재 AI 기술을 위한 AI 가속기 시장은 엔비디아 중심으로 구성돼 있다. GPU는 거대언어모델(LLM) 훈련과 추론, AI 연산에 특화된 컴퓨터 플랫폼으로 꼽힌다. 엔비디아의 GPU가 전 세계 시장 AI 데이터센터의 80~90%를 장악하며 사실상 독과점 체제를 유지하는 상태다.

글로벌 테크 기업들은 엔비디아 GPU에 대한 의존도를 줄이려 노력 중이다. 그래픽과 AI에 전문적인 GPU보다 AI에 더 특화된 NPU를 자체적으로 만들자는 것이다. 이를 위해 마이크로소프트(MS)는 ‘마이아 100(Maia 100)’, 아마존은 ‘트레이니움2(Trainium 2)’, 구글은 NPU 일종인 TPU 제품인 ‘TPU v6’을 개발했다. 비싼 엔비디아의 GPU를 사용하지 않아도 저렴한 비용으로 비슷한 효과를 거둘 것으로 기대하고 있다.

그러나 소프트웨어 문제가 관건이다. 직접 설계하고 파운드리 업체에서 만드는 식으로 반도체의 ‘하드웨어’를 생성할 수 있지만, 여기에 사용되는 ‘소프트웨어 풀 스택(Full Stack)’ 개발이 까다롭다. NPU가 향후 AI 가속기로 잠재력은 있으나, 소프트웨어가 덜 발전해 아직은 부족한 상태기 때문이다.

하드웨어 부분에서는 NPU가 GPU를 많이 쫓아왔지만, 소프트웨어에서는 격차가 있는 상황인데, 이 격차를 얼마나 빨리 줄이느냐가 NPU가 성공으로 가는 중요한 요소로 꼽힌다.

▲김대현 삼성리서치 글로벌 AI 센터장(부사장)이 14일 서울 여의도 국회의원회관 제7간담회실에서 열린 ‘엔비디아GPU와 함께 이야기되는 텐서처리장치(TPU)와 NPU 기술에 대한 현황분석 간담회’에 참석해 발표 중이다. (이수진 기자)

이를 위해 정부 차원의 적극적인 지원이 필요하다는 주장이 제기됐다. 김 부사장은 “NPU가 정말 유망한 국가 산업이며 이를 위해서는 정부의 지원과 육성이 필요하다”면서 “엔비디아와 (우리나라 반도체 기업) 퓨리오사는 다를 수밖에 없는데 지원하지 않으면 쫓아갈 수 없다”고 지적했다.

그는 “하드웨어만 지원하면 AI 소프트웨어 발전에 문제가 생기고, 반대로 소프트웨어만 지원하면 하드웨어의 유망 산업인 NPU 발전이 어렵다”며 “이 사이에서 균형을 맞추며 발전을 뒷받침하는 정책이 필요하다”고 강조했다.

고 의원은 “엔지니어들은 이미 엔비디아의 GPU와 (소프트웨어 스택인) ‘쿠다(CUDA)’에 익숙해졌는데, 이를 다른 NPU로 옮기는 것은 어렵다”고 전제한 뒤 “아직은 확신이 없어도 균형을 맞춰서 AI 엔지니어들이 (NPU와 소프트웨어에서) 일할 수 있게끔 환경을 만들어줘야 한다. ‘테스트베드(테스트를 위한 플랫폼)’ 형태로 투자를 해야 한다”고 힘줘 말했다.

김 부사장은 ‘정부의 지원이 구체적이어야 한다’고 주장했다. 그는 “정부 지원 방향은 하드웨어보다는 소프트웨어 역량이 부족한 ‘AI 스택(소프트웨어)’를 지원하는 방식이 돼야 한다”며 “반도체 스타트업들이 돈으로 자신들의 생명을 연명하는 방식은 안 되고, 전략적으로 지원해야 한다”고 피력했다.

현재 국내에서는 리벨리온과 퓨리오사AI 등 반도체 기업들이 데이터센터용 NPU를 설계한다. 삼성전자는 TV 자체에 NPU로 구동되는 온디바이스 AI를 제공하는 등 시스템 소프트웨어에도 주력하고 있다.