AI는 모델 훈련과 추론 실행을 위해 막대한 양의 컴퓨팅 자원(GPU)이 필요지만 수요보다 공급이 한정돼 있어 시장 불균형이 존재한다. 엔비디아가 반도체 대장주인 점도 이 GPU 덕분이다.
이를 해결하기 위해 등장한 분산형 컴퓨팅 프로젝트들은 현재 소수의 빅테크 기업에 집중된 GPU 시장에 비해 높은 접근성, 낮은 가격, 그리고 검열 저항성이라는 장점이 있다....
현재 SK하이닉스는 그래픽처리장치(GPU)0에 탑재되는 고대역폭 메모리(HBM)를 엔비디아에 사실상 독점 공급하며 AI 메모리 시장을 선도하고 있다.
‘엔비디아의 아성이 언제 무너질까’라는 질문에 최 회장은 “예측하기가 어렵다”라면서도 “2~3년간은 엔비디아를 무너뜨리긴 힘들 거라고 본다. 여러 요인이 있다”라고 답했다.
그는 “GPU를 다뤘고, 이는 AI 연산과...
엔비디아의 AI 모델 훈련에 필요한 글로벌 그래픽처리장치(GPU) 제작의 약 80%를 차지하고 있다. 엔비디아는 반도체를 설계만 하고 실제 제작은 대부분 TSMC에서 한다.
투자금융회사 캔터피츠제럴드의 C.J. 뮤즈 분석가는 “AI 반도체의 수요가 공급을 초과하는 등 AI 기술이 막대한 성장을 지속하고 있다”면서 “TSMC를 향한 AI 반도체 수요는 2026년까지 지속할...
CXL은 중앙처리장치(CPU), 그래픽처리장치(GPU), 메모리 및 스토리지 등 다양한 장치를 유연성 있고, 효율적으로 연결해주는 차세대 인터페이스다. 기존에는 CPU와 메모리 반도체 사이에서 서로 데이터를 교환할 때 특정 규격에 맞는 D램만을 사용해야만 했다. 그러나 CXL을 활용하면 이러한 종류, 성능, 용량에 따른 제약이 사라지게 된다.
이론상으로는 D램을...
CXL은 중앙처리장치(CPU), 그래픽처리장치(GPU), 메모리 및 스토리지 등 다양한 장치를 효율적으로 연결해주는 차세대 인터페이스다. 기존에는 각각의 칩에 별도 인터페이스가 존재해 연결이 원활하지 않지만 CXL을 통해 연결을 매끄럽게 만들 수 있고, 메모리의 대역폭과 용량도 크게 늘릴 수 있다.
유 회장은 “엔비디아의 NV링크는 한계가 있다. 결국에는 CXL로...
소니드가 차세대 인터페이스 기술인 '컴퓨트익스프레스링크(CXL)'를 활용, 인공지능(AI) 반도체의 메모리 용량 한계를 극복한 'CXL-GPU 기술' 개발에 나섰다고 17일 밝혔다.
기술 개발을 위해 소니드는 서울대학교 컴퓨터공학부 엄현상 교수팀과 AI 전문기업 스타랩스와 함께 컨소시엄(서울대 컨소시엄)을 구성했다.
최근 등장한 오픈AI의 ChatGPT와 메타의 라마(Llama)...
이에 더해 하드웨어 시장에서는 AI 학습의 핵심 인프라인 데이터센터용 GPU 생산을 엔비디아가 92%로 독점에 가까운 점유율을 보이고 있다. 이런 상황에서 한국을 비롯한 다른 국가들은 AI 기술 종속과 디지털 식민화의 위험에 처해 있다.
하지만 희망은 있다. 바로 ‘소버린 AI(Sovereign AI)’다. 소버린 AI란 국가가 자체적으로 AI 기술을 개발하고 활용하는 것을...
곽민정 현대차증권 연구원은 “최근 인공지능(AI) 반도체 시장에서 AI 연산장치와 메모리간 물리적 거리를 좁히고 대역폭을 넓혀 데이터를 빠르게 주고받을 수 있는 특성이 강조되면서, 서버에서 온디바이스까지 시장이 확대되고 있다”며 “AI 서버내 그래픽처리장치(GPU)와 고대역폭메모리(HBM)와
데이터를 주고받으며 AI 연산을 수행하는 것처럼, 온디바이스...
그래픽처리장치(GPU) 업체로 시작한 엔비디아는 AI 열풍에 힘입어 세계에서 가장 가치가 높은 IT 기업 중 하나가 됐다.
엔비디아가 판매하는 AI 가속기는 아마존, 델, 구글, 메타, 마이크로소프트(MS) 등 글로벌 빅테크들이 주로 구매한다. 이 AI 가속기가 있어야 빅테크들은 더욱 빠르고 정확한 AI 데이터센터를 구축할 수 있다.
엔비디아는 신제품을 계속 내놓으며...
미국 실리콘밸리에 본사를 둔 SGH는 대규모 그래픽처리장치(GPU) 서버로 구성된 AI 클러스터를 설계·구축·운영하는 ‘AI 데이터센터 통합 솔루션’ 전문 기업이다. 특히 ‘메타(Meta)' 등 글로벌 기업의 대규모 AI 클러스터를 구축해 주목받고 있다.
이번 투자는 SKT의 AI 투자 중 최대 규모다. SKT는 2023년 AI피라미드 전략을 발표했고, 이에 대한 실행...
곽민정 현대차증권 연구원은 이에 따라 "처리 속도가 늦고 서버로 전송되는 과정에서의 문제가 제기됐고, 이러한 문제를 해결하기 위해 칩 안의 CPU와 GPU를 분리하고 HBM(또는 LLW)을 적용해, 인터커넥트 구현을 위한 I/O die를 적용하는 설계 방식을 기반으로 TSMC의 SoIC 공정이 적용될 예정"이라고 했다.
이는 한미반도체가 모바일용 HBM을...
AI 매니지드 서비스는 △AI 플랫폼 설계 및 구축 △그래픽처리장치(GPU) 운영·관리 △데이터 분석 및 처리 △AI 모델링 △모델 튜닝 △엠엘옵스(MLOps) △엘엘엠옵스(LLMOps) △검색증강운영(RAGOps) △AI 애플리케이션 구축 △AI 응용 서비스 활용 등 기업의 AI 도입 및 유지·관리 전 과정을 지원하는 서비스다.
베스핀글로벌은 기존 클라우드 서비스 영역은...
엔비디아는 일본 산업기술총합연구소(AIST)의 ABCI 3.0 슈퍼컴퓨터에 수천 개의 엔비디아 H200 텐서 코어(Tensor Core) GPU가 통합된다고 15일 밝혔다.
이를 통해 일본의 AI 주권과 연구 개발 역량이 강화될 것으로 기대된다. 아울러 휴렛팩커드 엔터프라이즈(HPE) 크레이(Cray) XD 시스템은 엔비디아 퀀텀-2 인피니밴드(Quantum-2 InfiniBand) 네트워킹을 채택해...
노 연구원은 "엔비디아는 3분기부터 블록웰 GPU와 GB200 등에 대한 고객사 질적평가를 진행할 것으로 보인다"며 "블록웰은 4분기 후반부터 고객사에 본격적으로 공급될 것으로 보이지만 차세대고대역폭메모리(HBM3e)의 공급은 4분기 초반부터 본격화될 것으로 예상되는 가운데 연말 재고조정에도 불구하고 SK하이닉스의 4분기 매출액과...
0배 적용)으로 상향하며, 투자의견 매수를 유지함
NVIDIA는 3분기부터 Blackwell GPU와 GB200 등에 대한 고객사 Qualification을 진행할 것으로 보임
HBM 시장에서의 차별화된 기술 지배력을 감안할 때 Buy & Hold 전략 유효
노근창 현대차증권 연구원
◇롯데케미칼
다소 아쉬운 펀더멘탈 개선
2Q24 Preview: 다소 아쉬운 펀더멘탈 개선
향후 관건은 결국...
이 칩셋은 고성능 중앙처리장치(CPU), 그래픽처리장치(GPU), 신경망처리장치(NPU)를 결합해, AI 프로세싱을 최적화한다.
삼성전자는 이번 폴더블폰에 ‘AI 통역’ 기능을 업그레이드했다. 폴더블의 듀얼 스크린을 활용하는 새로운 ‘대화 모드’를 통해 보다 원활한 소통을 지원한다. 외국어 강의를 들을 때 ‘듣기 모드’를 사용하면 번역된 결과가 실시간으로...
6월 GPU 관련 수출 422% 폭증전체 수출액은 28개월래 최대
전 세계적인 인공지능(AI) 열풍에 반도체 부문이 대만 수출의 가파른 증가세를 주도하고 있다.
9일(현지시간) 블룸버그통신에 따르면 몇 년간 정체돼 있던 대만의 그래픽처리장치(GPU) 관련 수출이 최근 1년간 420억 달러(약 58조 원) 이상으로 훌쩍 급증했다. 일례로 지난달 GPU 관련 수출은 35억 달러로...
CXL은 중앙처리장치(CPU), 그래픽처리장치(GPU), 메모리 및 스토리지 등 다양한 장치를 효율적으로 연결해주는 차세대 인터페이스다. 기존에는 각각의 칩에 별도 인터페이스가 존재해 연결이 원활하지 않았다. CXL은 PCIe(PCI 익스프레스)를 기반으로 인터페이스를 하나로 통합해 연결이 매끄럽다. 메모리의 대역폭과 용량도 크게 늘릴 수 있다. 이음이 주력하는...
‘초고성능컴퓨팅(HPC) 서비스 이용자 정기모집’의 일환으로 15일까지 모집‘H100 GPU’ 304장 기반 20PF 가속기, 22PB 스토리지 활용
NHN클라우드는 AICA가 추진하는 ‘초고성능컴퓨팅(High Performance Computing·HPC) 서비스 이용자 정기모집’의 일환으로 ‘국가 AI 데이터센터’ HPC 서비스 이용자를 15일까지 모집한다고 밝혔다.
이번 사업에...
현재 칩에 임베디드 되는 방식으로 기술을 개발하고 있으며 엔비디아 그래픽처리장치(GPU) 기술 공급을 실현하기 위해 연구 개발에 박차를 가하고 있다.
‘엔비디아인셉션’ 프로그램은 엔비디아가 기술 발전으로 산업에 혁신을 일으키는 차세대 스타트업을 육성하는 프로그램이다. 해당 프로그램은 AI 및 비주얼 컴퓨팅에 필요한 딥러닝 기술, 전문지식, 네트워크 및...
![올해 가상자산 화두는 AI…"그래서 인공지능이 왜 필요하다고?" [블록렌즈]](https://img.etoday.co.kr/crop/200/125/2053717.jpg)
![[논현로] AI 전쟁의 신병기 ‘소버린 AI’](https://img.etoday.co.kr/crop/200/125/2052088.jpg)
![[특징주] 한미반도체, “지금 안 사면 후회” 목표가 30만원 등장 ‘강세’](https://img.etoday.co.kr/crop/200/125/2051778.jpg)
![AI 열풍, 모두에게 돈이 될까 [마감 후]](https://img.etoday.co.kr/crop/200/125/2013696.jpg)
![[오늘의 증시 리포트] SK하이닉스, 1등 HBM 업체로서 매력 지속](https://img.etoday.co.kr/crop/200/125/2050209.jpg)
![AI 탑재한 갤Z플립6‧폴드6 공개…‘갤럭시 AI 생태계’ 강화한다 [갤럭시 언팩 2024]](https://img.etoday.co.kr/crop/200/125/2049327.jpg)
![[베스트&워스트] 형지엘리트, 中 재정지출 확대 기대감에 78%↑](https://img.etoday.co.kr/crop/85/60/2082759.jpg)
![[베스트&워스트] 글로벌 애니메이션 시장 확장 기대감 56%↑](https://img.etoday.co.kr/crop/85/60/2082760.jpg)
![짧은 가을 즐길만한 나들이, ‘소래포구축제’ 外[주말N축제]](https://img.etoday.co.kr/crop/300/170/2082593.jpg)
![제3회 BOK-KCCI 세미나 글로벌 공급망 재편과 AI 시대 [포토]](https://img.etoday.co.kr/crop/300/190/2082493.jpg)