“PIM으로 전력 문제 해결”…카이스트 ‘PIM 반도체설계연구센터’, 기술·인재 산실로 ‘우뚝’ [HBM, 그 후③]

저장과 연산을 한 번에…'PIM' 연구 활발
작년 아날로그 PIM '다이나플라지아' 선봬
최근 차세대 칩 '다이아몬드'도 개발 성공

▲대전 한국과학기술원 'PIM 반도체설계연구센터' 내 마련된 데모 시연 공간 전경 (박민웅 기자 pmw7001@)

현재 시장은 고대역폭메모리(HBM)에 머물고 있는데, 전력 소모 문제에 부딪히고 있다. 온디바이스 인공지능(AI) 시대에서는 저전력이 중요하기 때문에 이를 위해선 결국 프로세싱인메모리(PIM)로 넘어가게 될 것이다.

8일 대전 한국과학기술연구원(카이스트) PIM 반도체설계연구센터에서 본지와 만난 유회준 인공지능반도체대학원 원장은 향후 주류가 될 차세대 반도체를 묻자 이같이 답했다.

그는 “거대언어모델(LLM)을 구동하고 연산하기 위해서는 많은 메모리가 필요한데, 그만큼 전력과 에너지도 많이 소모된다”며 “그렇기 때문에 메모리 안에서 연산까지 함께 작동시키려는 움직임과 필요성이 커지고 있다”고 설명했다.

PIM은 메모리 반도체 내에 프로세서 연산기를 함께 집적해 연산 작업을 수행할 수 있게 만든 차세대 반도체다. 기존에는 연산을 담당하는 중앙처리장치(CPU)와 데이터 저장을 담당하는 메모리가 각각 분리돼 있었다. 그러다 보니 프로세서와 메모리 사이에서 정보가 오갈 때 병목 현상이 생기고, 전력 소모도 컸다. PIM은 메모리의 입출력 없이 연산까지 한 번에 수행할 수 있어서 정보 처리 속도가 빠르고, 전력량도 크게 줄일 수 있다.

▲대전 한국과학기술원 'PIM 반도체설계연구센터' (박민웅 기자 pmw7001@)

유 원장은 “PIM은 무엇보다 온디바이스 AI에서 가장 적합한 메모리가 될 것으로 전망하고 있다”며 “휴대폰에서 가장 처음 적용된 후 모든 가전제품에 탑재되고, 나아가 데이터센터까지 확장될 것으로 보인다”고 말했다.

카이스트 인공지능반도체대학원 산하의 PIM반도체설계연구센터는 차세대 PIM을 집중적으로 개발하는 국내 유일의 학계 연구 기관이다. 분산된 국내 PIM 연구를 취합하고, 체계적으로 통합 관리하는 허브 역할을 하고 있다.

2022년 6월 과학기술정보통신부의 지원을 받아 설립됐으며, 현재 유 원장 주도하에 석·박사 학생 등 25명이 차세대 인공지능 반도체 설계 연구를 진행하고 있다. 삼성전자도 상주 파견 인력을 보내 연구에 동참하는 등 국내 대기업들과 교류도 활발하다.

▲카이스트 연구팀이 지난해 3월 제작한 PIM '다이나플라지아(Dynaplasia)'를 활용한 데모 시연 모습. (박민웅 기자 pmw7001@)

이날 센터 한쪽에 마련된 데모 룸에선 카이스트 연구팀이 자체 제작한 PIM ‘다이나플라지아(Dynaplasia)’을 활용한 시연도 직접 볼 수 있었다.

다이나플라지아를 탑재한 모델은 일반적인 신경망처리장치(NPU)를 탑재한 모델보다 실시간으로 사물을 인식하고 사용자에게 정보를 전달하는 일련의 과정에서 에너지 효율성이 약 40%가량 좋았다.

▲‘다이나플라지아(Dynaplasia)’ 칩 (박민웅 기자 pmw7001@)

지난해 3월 개발된 다이나플라지아는 국내 최초의 아날로그 PIM이다. 각각의 메모리 셀마다 연산기가 하나로 붙어 있는 형태다. 이는 연산기가 단순히 메모리 근처에 집적되는 디지털 PIM보다 한 단계 더 진화한 것이다. 아날로그 PIM은 디지털 PIM 대비 데이터 처리량이 15배 높다.

최근에는 카이스트 연구팀은 삼성전자와 함께 협력해 다이나플라지아보다 메모리 밀도는 8배, 용량은 3배 개선된 ‘다이아몬드(Dyamond)’ PIM을 개발하는 데도 성공했다. 다이아몬드는 지난해 6월 세계적인 반도체 학술대회 'VLSI 2024'에 논문을 등재되기도 했다.

PIM 반도체설계연구센터는 글로벌 AI 반도체 인재를 양성하는 산실의 역할도 톡톡히 하고 있다.

유 원장은 “현재 삼성전자, SK하이닉스 등 국내 기업들과 협업이 잘 되고 있고, PIM 생태계도 확장하고 있다”며 “앞으로도 탄탄한 산학협력과 실무 중심의 AI 반도체 설계 교육 등을 통해 인재 양성에 힘쓰겠다”고 강조했다.

▲카이스트 연구팀이 최근 삼성전자와 협력해 개발한 ‘다이아몬드(Dyamond)’ PIM (박민웅 기자 pmw7001@)