- AI엔진 메모리 탑재…AI시스템, 성능 2배↑ 에너지사용량 70%↓

[디지털데일리 윤상호 기자] 삼성전자가 업계 최초로 메모리반도체와 인공지능(AI) 프로세서를 합친 PIM(Processing-in-Memory)을 상용화한다.

삼성전자(대표 김기남 김현석 고동진)는 ‘HBM(High Bandwidth Memory)-PIM’을 개발했다고 17일 밝혔다.

초고속 데이터 분석에 활용하는 HBM2 아쿠아볼트 D램에 PIM 기술을 접목했다. AI 시스템에 HBM-PIM을 탑재할 경우 HBM2 대비 성능을 2배 향상할 수 있다. 에너지 사용량은 70% 이상 감소한다.

그동안 상용화한 메모리는 폰 노이만 구조 탓에 시스템 전체 성능을 높이는데 한계가 있었다. 중앙처리장치(CPU)가 메모리에서 명령어를 불러와 실행한 후 결과를 메모리에 저장한다. 이 과정은 순차적으로 이뤄진다. 데이터가 많아지면 병목현상이 빚어진다. HBM-PIM은 메모리 내부에서 연산처리를 할 수 있다. 메모리 뱅크에 AI엔진을 장착했기 때문이다. CPU와 메모리를 오가는 횟수를 줄일 수 있다.

삼성전자는 관련 논문을 반도체국제기술학회(ISSCC)에 공개했다.

삼성전자 메모리사업부 상품기획팀장 박광일 전무는 “HBM-PIM은 AI 가속기의 성능을 극대화할 수 있는 업계 최초 AI 맞춤형 PIM 솔루션으로 삼성전자는 고객사와 지속적으로 협력을 강화해 PIM 생태계를 구축해 나갈 것”이라고 말했다.

미국 아르곤 국립 연구소 컴퓨팅, 환경 및 생명과학(CELS) 연구실장 릭 스티븐스는 “HBM-PIM은 AI 응용을 위한 성능 및 에너지 효율 측면에서 놀라운 성과로 HBM-PIM 시스템 평가를 위해 향후에도 삼성전자와 지속적인 협력을 기대한다”고 전했다.

한편 삼성전자는 HBM-PIM 고객사 테스트 검증을 상반기 마무리할 예정이다.

<윤상호 기자>crow@ddaily.co.kr