AI 품은 메모리…삼성전자, 세계 최초 ‘인공지능 HBM-PIM’ 개발

반도체 분야 최고권위 학회 ISSCC서 논문 공개
기존 HBM2 대비 성능 2배 이상 향상, 시스템 에너지 약 70% 이상 감소

▲삼성전자가 세계 최초로 AI 엔진을 메모리에 탑재한 HBM-PIM(Processing-in-Memory을 개발했다. AI 시스템에 HBM-IM을 탑재할 경우 기존 HBM2을 이용한 시스템 대비 성능은 2배 이상 높아지고 시스템 에너지는 약 70% 이상 감소된다. (사진제공=삼성전자)

삼성전자가 세계 최초로 AI 엔진을 메모리에 탑재한 HBM-PIM(Processing-in-Memory)을 개발했다. 기존 대비 성능은 2배 이상 높이고, 시스템 에너지는 70% 이상 감소시켰다.

삼성전자는 혁신기술을 D램 공정에 접목해 HBM-PIM을 제품화하는 데 성공하고, 반도체 분야 세계 최고권위 학회인 ISSCC에서 논문을 공개했다고 17일 밝혔다.

PIM은 메모리 내부에 연산 작업에 필요한 프로세서 기능을 더한 차세대 신개념 융합기술이다. 삼성전자는 PIM 기술을 활용해, 슈퍼컴퓨터(HPC)와 AI 등 초고속 데이터 분석에 활용되는 HBM2 아쿠아볼트(Aquabolt)에 인공지능 엔진을 탑재한 HBM-PIM을 개발했다. HBM2 아쿠아볼트는 2018년 삼성전자가 양산한 2세대 고대역폭 메모리 반도체다.

AI 시스템에 HBM-PIM을 탑재할 경우 기존 HBM2를 이용한 시스템 대비 성능은 약 2배 이상 높아지고, 시스템 에너지는 70% 이상 감소한다.

또한, 기존 HBM 인터페이스를 그대로 지원해 HBM을 이용하는 고객들은 하드웨어나 소프트웨어의 변경 없이 HBM-PIM을 통해 강력한 AI 가속기(인공지능을 실행하기 위한 전용 하드웨어) 시스템을 구축할 수 있게 됐다.

최근 인공지능의 응용 영역이 확대되고 기술이 고도화됨에 따라 고성능 메모리에 대한 요구가 지속해서 커져 왔으나 기존의 메모리로는 데이터 작업처리 지연 등의 한계가 있었다.

삼성전자 메모리 사업부 상품기획팀장 박광일 전무는 “HBM-PIM은 AI 가속기의 성능을 극대화 시킬 수 있는 업계 최초의 인공지능 맞춤형 PIM 솔루션으로 삼성전자는 고객사들과 지속해서 협력을 강화해 PIM 에코 시스템을 구축해 나갈 것”이라고 밝혔다.

삼성전자는 상반기 내 다양한 고객사들의 AI 가속기에 HBM-PIM을 탑재해 테스트 검증을 완료할 예정이며 향후 고객사들과 PIM 플랫폼의 표준화와 에코 시스템 구축을 위해 협력을 강화해 나갈 계획이다.