SK쉴더스, ‘안전한 AI 활용’ 위한 보안 전략 공개

▲SK쉴더스는 올해 상반기 주요 보안 트렌드를 분석하고 인공지능(AI) 거대언어모델(LLM) 보안 대응전략을 제시하는 미디어 세미나를 개최했다고 2일 밝혔다. 사진은 이재우 SK쉴더스 전무. (사진제공=SK쉴더스)

SK쉴더스는 올해 상반기 주요 보안 트렌드를 분석하고 인공지능(AI) 거대언어모델(LLM) 보안 대응전략을 제시하는 미디어 세미나를 개최했다고 2일 밝혔다.

이날 발표는 국내 최대 규모의 화이트해커 전문가 그룹인 SK쉴더스의 이큐스트(EQST)가 상반기에 직접 경험한 해킹 사고 사례와 연구 결과를 토대로 분석한 내용을 바탕으로 진행됐다. 특히, 최근 주목받고 있는 인공지능 거대언어모델의 취약점을 이용한 공격 3가지를 시연하고 보안 대책에 대해 발표했다.

▲SK쉴더스는 올해 상반기 주요 보안 트렌드를 분석하고 인공지능(AI) 거대언어모델(LLM) 보안 대응전략을 제시하는 미디어 세미나를 개최했다고 2일 밝혔다. 사진은 이호석 SK쉴더스 이큐스트 랩 팀장. (사진제공=SK쉴더스)

이큐스트는 가상자산 탈취, 딥페이크 해킹 공격 등이 올 상반기에 화제가 됐다고 발표했다. 1월에는 전 세계적으로 사용되고 있는 Ivanti VPN 솔루션에서 제로데이 취약점이 발견돼 다양한 분야에서 피해를 봤다. 2월에는 중국 정부 지원을 받는 것으로 알려진 볼트 타이푼(Volt Typhoon)이 미국의 주요 인프라 내부망을 공격했다는 사실이 드러났다. 딥페이크로 구현된 화상회의에 속아 340억 원을 송금한 사례가 있었고, 3월에는 오픈소스 XZ Utils에서 백도어가 발견됐다. 4월에는 LLM에 의해 작성된 악성 스크립트가 사용된 악성 메일 공격이 발생했으며, 5월에는 블록체인 기반의 게임 플랫폼이 해킹돼 300억 원의 가상자산을 도난당했다.

국내 금융업 분야 대상 공격 20.6%로 가장 많아… 정보·통신 18%, 제조업 16.4%로 뒤이어

▲업종별 보안 침해 사고 통계 (사진제공=SK쉴더스)

이큐스트가 분석한 업종별 침해사고 발생 통계를 살펴보면 국내에서는 금융업을 대상으로 한 침해 사고가 20.6%로 가장 많았다. 비트코인 상장지수펀드(ETF) 승인 등 이슈로 가상자산의 가치가 상승해 이를 노린 해킹 공격이 지속됐다. 국외에서는 러시아, 이스라엘 등 국제 분쟁으로 인해 정부와 공공기관을 대상으로 한 공격이 26.7%로 가장 높은 순위를 차지했다.

유형별 사고 발생 통계로는 취약점 공격이 45%로 가장 많이 발생했다. VPN, 라우터 등 네트워크 장비를 통한 지능형 지속 위협(APT) 공격 때문으로 조사됐다. 사람의 심리를 이용해 기밀을 탈취하는 수법인 ‘소셜 엔지니어링’ 공격이 26%로 뒤를 이었다.

이번 상반기에는 네트워크 장비의 신규 취약점을 활용한 공격이 성행했는데, 작년 동기에 비해 2배 이상 증가했다. 보안 패치가 발표됐으나, 패치를 적용하지 않은 상태를 노린 원데이(1-Day) 취약점을 악용하거나 합법적인 도구를 사용한 랜섬웨어 공격들도 발생했다. SK쉴더스는 최근 랜섬웨어 공격자들이 보안 솔루션 탐지를 피하기 위해 RMM(원격으로 정보기술(IT) 시스템과 네트워크를 모니터링하고 관리하는 기술 및 서비스)을 타깃하거나 LotL(악성코드 사용을 최소화하고 서버 내 설치된 정상 프로그램을 악의적으로 활용하는 기법) 방식을 사용하고 있어 각별한 주의가 필요하다고 설명했다.

생성형 AI 서비스 취약점 ‘프롬프트 인젝션’, ‘불안전한 출력처리’, ‘민감정보 노출’ 발생 가능

이큐스트는 생성형 AI가 급속도로 발전하며 AI가 가져올 수 있는 보안위협에 관한 연구결과를 발표했다. 특히, 비영리단체인 OWASP에서 발표한 AI LLM(거대언어모델) 서비스에서 발생 가능한 10가지의 취약점을 이큐스트가 직접 분석하고 이 중 위험도가 높은 3가지를 시연했다.

‘프롬프트 인젝션’은 악의적인 질문을 통해 AI 서비스 내 적용된 지침 혹은 정책을 우회해 본 목적 이외의 답변을 이끌어내는 취약점이다. 악성코드 생성이나 마약 제조, 피싱 공격 등에 악용될 수 있다.

‘불안전한 출력 처리’ 취약점은 LLM이 생성한 출력물을 시스템이 적절하게 처리하지 못할 때 발생하는 것으로, 다른 2차 공격으로 이어질 수 있어 위험도가 높다. 예를 들어 공격자가 원격 접속 코드 실행 요청이 포함된 내용을 챗봇에 질문하고 챗봇이 원격 접속 코드를 실행하면 공격자가 AI LLM 운영 서버에 접속하게 돼 중요 정보를 탈취할 수 있게 되는 식이다.

마지막으로 EQST는 개인정보가 포함되거나 애플리케이션의 권한 관리 미흡으로 생길 수 있는 ‘민감 정보 노출’ 취약점을 분석해 데이터베이스 정보를 탈취하는 공격을 시연했다. LLM 모델을 학습시킬 때 민감 정보 필터링이 미흡한 경우, LLM이 생성하는 답변에 학습된 민감 정보가 출력될 수 있어 학습 데이터에 가명 처리를 하거나 데이터를 검증하는 등의 추가적인 보완책이 필요하다.

SK쉴더스, 맞춤형 보안 서비스 제공… AI 연계 보안 서비스·AI 모의해킹 등

SK쉴더스는 빠르게 성장하고 있는 AI 서비스의 변화에 맞춰 AI 모의해킹부터 연계 보안 서비스까지 맞춤형 서비스를 제공하고 있다. LLM 인프라의 경우 서버, 모델 저장소, 플러그인 등 일반적인 웹 서버의 구성보다 훨씬 복잡하기 때문에 고객 환경에 맞춘 보안 시스템 구축이 필수적이다.

SK쉴더스는 다양한 산업 분야에서의 취약점 점검, 모의해킹을 수행하며 보안 수준을 높여온 경험을 바탕으로 AI 인프라 운영에 특화된 제로 트러스트 환경 구축 및 운영 체계 수립 서비스를 제공할 예정이다. 기업에서 소프트웨어 자재 명세서(SBOM) 등을 활용해 보안 이력을 관리할 수 있는 대책을 제시하는 등의 전략을 선보인다.

▲AI 보안 체크리스트 (사진제공=SK쉴더스)

김병무 정보보안사업부장(부사장)은 “전 산업 분야에 AI 기술 접목이 확산되면서 이를 노린 보안 위협이 현실화되고 있어 체계적인 대비가 필요하다”며 “SK쉴더스는 선제적으로 보안 트렌드 변화에 발맞춘 연구 결과물을 지속적으로 공개하며 생성형 AI 시대의 보안 전략을 제시해 나가겠다”라고 말했다.