삼정KPMG “온디바이스 AI 부상…저전력·고성능 AI 반도체 시장 확대”

(출처=삼정KPMG)

생성형 인공지능(AI) 등장 이후 기존 클라우드 기반 AI의 단점을 보완하는 '온디바이스 AI'가 부상하는 가운데, 이 기술을 성공적으로 구현하고 서비스의 다양화를 이끄는 전략이 제시돼 주목된다.

삼정KPMG는 25일 ‘생성형 AI에게 펼쳐진 새로운 무대, 온디바이스 AI’ 보고서를 발간하고, 새로운 플랫폼으로 부상하는 온디바이스 AI 기술의 활용 전략을 분석했다.

보고서에서는 온디바이스 AI를 기반으로, 기업의 비즈니스 혁신과 스케일업을 끌어낼 전략을 제시했다.

먼저 온디바이스 AI는 디바이스 내 전력을 활용해 AI 모델을 운영하므로, 소비되는 전력 소모를 적게 유지해야 한다. 이에 저전력으로 구동시킬 수 있는 반도체 기술 등이 2028년까지 연평균 40% 이상 크게 성장할 전망이다. 또 고성능 반도체는 클라우드와 데이터센터 등 전력 제약이 덜한 곳을 중심으로 시장이 확대될 것으로 보인다.

이용자 주변의 정보기술(IT) 디바이스가 이용자의 패턴을 자체적으로 학습해 디바이스가 알아서 필요한 서비스를 제공하는 ‘앰비언트 컴퓨팅’ 시장 속 기회를 찾아야 한다는 설명이다. 온디바이스 AI의 우수한 보안 성능은 개인별 데이터를 확보하고 분석하는 앰비언트 컴퓨터 환경을 구축해 활용 가치가 크다.

아울러 소형 AI 모델을 기반으로 서비스를 운영한다는 점에서, 소형 AI 모델 시장도 본격 확대될 것으로 전망된다. 소형 AI 모델은 스마트폰, 가전 등 AI 모델이 탑재되는 개별 온디바이스 AI용 디바이스에서 요구되는 결과값의 퀄리티를 높일 수 있도록 개발이 진행될 전망이다.

마지막으로 온디바이스 AI를 활용하면 이용자에게 즉각적으로 AI 분석 결과가 제공되는 형태로 이용자와 AI 모델 간의 거리가 더욱 가까워진다. 이용자의 혼란을 줄이고 AI 모델의 운영 안정성을 강화할 ‘설명 가능한 AI’ 기술 통제 방안이 마련돼야 하는 이유다.

이준기 삼정KPMG AI센터 상무는 “생성형 AI 활용의 새로운 트렌드로 부상하는 온디바이스 AI를 중심으로 AI 생태계의 확장과 유스케이스(Use Case) 확보에 주력해야 한다”며 “사용자 경험을 강화하는 서비스를 개발함으로써 AI 시장에서 차별화된 경쟁력을 확보하고 고객 가치를 제고한다면 새로운 비즈니스 잠재력을 확보하는 계기가 될 것”이라고 전했다.