"CES에서 만난 대부분의 고객과의 대화 주제는 AI(인공지능)였다."
경계현 삼성전자 대표이사 사장이 세계 최대 정보기술(IT)ㆍ가전 전시회 CES 2024에 참석한 소감을 자신의 소셜네트워크서비스(SNS)를 통해 밝혔다.
경 사장은 15일 SNS 게시물을 통해 "챗GPT가 등장하고 나서 퍼블릭 클라우드 업체들이 노멀 서버(Normal Server) 투자를 줄이고 GPU 서버에 투자를 늘렸을 때, 그것이 한정된 예산(Budget) 탓이라고, 시간이 지나면 노멀 서버 투자가 다시 시작될 것이라고 믿었던 적이 있었다"며 "그런데 그런 일은 생기지 않았다"고 적었다.
그는 챗 GPT가 등장하고 컴퓨팅에 근본적인 변화가 생긴 것에서 이유를 찾았다.
경 사장은 "노멀 서버는 전통적인 리트리빌 시스템(Retrieval System, 이미 존재하는 데이터에서 특정 정보를 찾는)을 위한 것이었다"며 "그런데 컴퓨팅 환경이 주어진 입력에 새로운 정보를 생성하는 제너레이티브 시스템(Generative System)으로 변했다"고 설명했다.
그는 "제너레이티브 시스템이 되려면 메모리와 컴퓨트 셀들이 단단하게 연결돼(Massively Interconnected) 있어야 한다"며 "그런데 메모리와 컴퓨트를 한 칩으로 만드는 것은 비싸다"고 했다.
그러면서 "그래서 HBM, GPU/액셀레이터, 2.5D 패키지가 등장했는데, 여전히 메모리와 컴퓨트 사이의 거리가 멀다"며 "그래서 더 고용량의 HBM, 더 빠른 인터페이스, PIM HBM, 커스터마이즈드 버퍼 HBM(Customized Buffer HBM) 등 메모리와 컴퓨트 사이의 거리를 줄이려는 시도가 지속될 것"이라고 적었다.
경 사장은 "그리고 서버에서 시작된 이 시도는 PC와 스마트폰으로 진화해 갈 것"이라며 "새로운 기회가 온 것이다"이라고 했다.
마지막으로 그는 "AI의 시대, 트릴리언(Trillion)의 거대언어모델(LLM)이 등장했지만, 범용 인공지능(AGI)은 쿼드리온(Quadrillion)의 파라미터(매개변수)가 필요할지도 모른다. 지금은 시작일 뿐일 수 있다"고 강조했다.