NHN클라우드는 국가AI데이터센터를 포함해 판교 데이터센터(NCC1) 등 자사 데이터센터에 현재 ‘엔비디아 H100’ 1000개 이상을 비롯한 엔비디아(NVIDIA) 기반 77.3 페타플롭스(이하 PF), 그래프코어(GRAPHCORE) 기반 11.2PF, 사피온(SAPEON) 기반 11PF까지 총 99.5PF에 달하는 AI GPU 팜을 구축하며 AI 인프라 선도할 수 있는 기반을 마련했다.
탄탄한 물리 기반에 더해...
엔비디아의 H100 대비 메모리 용량은 2.4배, 대역폭은 1.6배 좋다고 AMD는 설명했다.
김홍필 AMD 코리아 커머셜 세일즈 이사는 “MI300X는 현재 개발이 완료됐다. 올해 가장 기대가 되는 제품”이라며 “5월부터 서버 제조사에서 판매가 시작될 예정”이라고 설명했다.
이외에도 AMD는 AI PC 시장에서도 차세대 제품 개발을 지속해나갈 방침이다.
AMD는 지난해...
엔비디아는 차세대 AI 칩 'B200'을 전 세계에 공개했다.'B200'은 현존하는 최신 AI 칩으로 평가받는 엔비디아 호퍼 아키텍처 기반의 H100의 성능을 뛰어넘는 차세대 AI 칩이다.
새로운 플랫폼 '블랙웰'을 기반으로, H100 대비 최대 30배의 성능 향상을 제공한다. 특히 비용과 에너지 소비는 최대 25분의 1 수준이라는 게 회사 측 설명이다. 이 제품은 대만...
SK하이닉스는 엔비디아의 최신 AI 칩 H100에 4세대 제품인 HBM3를 탑재하고 있다는 사실을 부각하기도 했다. SK하이닉스는 현재 AI의 핵심인 그래픽처리장치(GPU) 시장의 80% 이상을 장악한 엔비디아에 HBM3를 사실상 독점 공급하고 있다.
한편 SK하이닉스는 세계 최초로 HBM3E를 양산해 이달 말부터 고객사에 공급한다고 밝혔다. 앞서 SK하이닉스는...
블랙웰은 호퍼 아키텍처의 후속작으로, B200은 엔비디아의 기존 주력 제품인 H100보다 연산 처리 속도가 2배 빠르다. 엔비디아는 “H100을 사용하면 GPT 훈련에 90일 동안 8000개의 GPU가 필요하지만, 블랙웰은 같은 기간 2000개의 GPU만 사용하면 된다”고 설명했다.
블랙웰은 흑인 최초로 미국국립과학원에 입회한 데이비드 헤롤드 블랙웰의 이름을 따서...
B200은 새로운 플랫폼인 블랙웰을 기반으로 전작인 H100 대비 성능이 크게 향상됐다. H100 대비 추론성능은 30배 이상 높였지만, 비용과 에너지 소비는 25분의 1까지 낮췄다.
성능이 대폭 향상된 만큼 탑재되는 메모리 반도체 역시 많아졌다.
B200에는 5세대 HBM인 HBM3E가 8개 탑재된다. 전작인 H100과 H200에는 HBM이 각각 4개, 6개가 탑재됐는데 이보다 더 많은...
"H100의 최대 30배 성능…비용·에너지 소비는 25분의 1"기존 '호퍼' 뛰어넘는 '블랙웰' 플랫폼 공개
인공지능(AI) 반도체 선두 주자 미국 엔비디아가 18일(현지시간) GTC 2024에서 차세대 AI 칩을 선보였다.
젠슨황 엔비디아 최고경영자(CEO)는 18일(현지시간) 미국 새너제이 컨벤션센터(San Jose Convention Center)에서 개막한 GTC 2024 기조연설을 통해 차세대...
김일혁 KB증권 연구원은 “엔비디아는 데이터센터 매출의 40%가 학습이 아닌 추론용 수요였다고 밝혔으며, 추론으로 인공지능(AI) 무게중심이 이동해도 엣지 AI 시장이 대규모로 확장되기 전까지는 엔비디아 경쟁력이 여전히 높다는 걸 보여준다”며 “H200이나 B100 등 차세대 AI 그래픽처리장치(GPU)가 나오면 현재 주력 제품인 H100이나 A100 가격을 낮춰 중저가 시장을...
저커버그는 지난달 범용인공지능(AGI)을 자체적으로 구축하기 위해 올해 말까지 엔비디아 그래픽처리장치(GPU)인 H100 35만 개를 추가로 확보하겠다고 발표한 바 있다.
컴퍼니케이도 38.47%(2600원) 오른 9430원에 거래를 마쳤다. 별다른 호재나 공시는 없었다.
3위는 DGP(33.44%)였다. 경영권 분쟁 중인 DGP는 지난 26일 소액주주연대와 최대주주인 CBI의...
H200은 현재 엔비디아의 주력 제품인 H100을 대체할 차세대 제품이다. 엔비디아는 다음 달 열리는 연례 개발자 콘퍼런스(GTC)에서 AI 메모리 포트폴리오와 로드맵을 공개할 예정이다.
업계에서는 이번 발표만으로는 아직 마이크론의 수율을 알 수 없고 생산 능력도 경쟁사 대비 낮다고 보고 있다. 다만 기존 예상보다 빠른 마이크론의 HBM3E 양산 발표...
서프라이즈와 신제품 및 사업 전략 발표도 예정되어 있는 만큼 추가 상향 여력이 존재한다”고 내다봤다.
정나영 현대차증권 연구원은 “올해 엔비디아의 AI칩에 대한 초과수요폭이 크다는 점에서 외형 성장 및 수익성이 높게 유지될 가능성이 높다”며 “2분기부터는 H100보다 추론 능력이 2배 가까이 뛰어난 H200 출하에 따른 성장도 기대된다”고 전망했다.
여기에는 H100 텐서 코어(H100 Tensor Core) GPU를 기반으로 하는 구글 클라우드 A3인스턴스(A3 instances)가 포함된다. 1초당 4.8테라바이트의 141GB HBM3e 메모리를 갖춘 엔비디아 H200 텐서 코어 GPU도 합류할 예정이다. 구글은 올해 안에 이를 배포할 예정이다.
엔비디아는 네모 프레임워크(NeMo Framework)가 적용된 엔비디아 AI 엔터프라이즈(AI Enterprise)와...
엔비디아는 AI 칩 ‘호퍼 H100’의 판매 호조가 매출 증가에 주효했다고 설명했다. 콜레트 크레스 엔비디아 최고재무책임자(CFO)는 “호퍼에 대한 수요는 여전히 매우 강하다”며 “호퍼 아키텍처 제품의 공급이 개선되고 있다는 점을 기쁘게 생각한다”고 말했다. 그러면서도 “차세대 제품은 수요가 공급을 크게 초과할 것이기 때문에 공급에 제약이 있을...
엔비디아는 매출 증가는 H100과 같은 서버용 AI 칩 판매 호조에 따른 것이라고 설명했다. 실제 엔비디아는 서버용 AI칩 매출이 지난해 같은 기간보다 265%나 증가했으며, 서버와 관련된 데이터센터 매출은 409% 증가한 184억4000만 달러를 기록했다.
엔비디아는 올해 들어 국내 투자자들이 집중 매수한 종목이다. 한국예탁결제원 증권정보포털(세이브로)...
엔비디아는 열풍에 힘입어 자사 기술을 기반으로 AI 반도체 H100, A100을 출시했는데요. H100의 경우 개당 가격이 무려 3만 달러에 육박합니다. 그러나 주문에서 배송까지 10개월에서 12개월이 걸리는 등 전 세계적으로 품귀 현상을 빚고 있죠.
엔비디아의 반도체 칩은 구글, 아마존 등 빅테크 AI 서비스는 물론이고 한국을 비롯한 각국 정부가 추진하는 슈퍼컴퓨터...
엔비디아의 최신 그래픽 처리장치(GPU) H100을 도입했다. 기존 AI 개발에 쓰이던 A100 GPU 대비 AI 모델 개발을 위한 학습 속도가 7배 이상 빠른 것으로 알려졌다.
카카오뱅크는 앞서 지난해 10월 금융사 최초로 AI 경영시스템(ISO/IEC 42001) 인증을 획득하기도 했다. AI 윤리와 관련된 투명성과 안정성에 대한 체계를 마련했다는 의미다. 카카오뱅크는 AI 연구·개발...
AI 서버용 GPU 시장에서는 엔비디아가 90% 이상을 독점하고 있으며, AI 서버용 대표 GPU인 ‘H100’은 지난해에만 150만 대가 팔렸다. 대당 2만5000달러(약 3343만 원)를 호가하는 가격임에도 없어서 못 파는 상황이다. 사실상 시장을 쥐고 흔들고 있다는 평가다.
반면 이날 기준 코스피 전체 시가총액은 2040조 원이다. 엔비디아와는 불과 20조 원 차이로, 언제든지...
반도체 거래에는 중국 기업 수십 곳도 포함됐으며, 이들은 엔비디아의 ‘A100’ 칩과 고성능의 상위 모델인 ‘H100’ 칩 등을 구매한 것으로 전해졌다. 또 하얼빈 공대와 중국 전자과학기술대 등 과거 미국이 군사 지원 혐의로 블랙리스트에 올린 기관들도 거래에 참여했다고 로이터는 폭로했다.
다만 엔비디아 반도체가 어떻게 중국으로 흘러갔는지는 확인되지 않았다....
그간 AI 반도체 시장은 엔비디아의 대표 AI칩인 H100이 주도하고 있었다. H100은 생성형 AI 구동에 기반이 되는 LLM에 적용해 이를 훈련하도록 설계된 반도체다. 칩 1개 당 가격이 4만 달러(약 5280만 원)에 달하는 고가 제품이지만, 그만큼 성능이 우수해 그간 구글, 아마존, 메타, 마이크로소프트 등 굵직한 IT 기업들이 사용해왔다.
그러나 이번 인텔의...
결국, 엔비디아가 대중국 수출 통제를 피하기 위해 기존 A100과 H100 칩보다 성능을 낮춰 선보인 낮은 사양 AI 칩 A800과 H800의 수출도 통제 대상에 들어갔다.
엔비디아가 중국과 계속 사업을 해야 하는지에 대해 황 CEO는 "우리는 비즈니스를 위해 만들어진 회사이기 때문에 할 수 있는 모든 사람과 사업을 하려고 노력한다"고 언급했다....