커버로스팅ㆍ디시싱크ㆍ모니커링크 등 10개 공격 기법 분석LG CNS, 레드팀 공격하고 블루팀 방어하는 모의 훈련 진행
LG CNS는 웨비나를 열어 ‘보안 취약점 심층분석 보고서’를 공개한다고 9일 밝혔다.
이 보고서에서 LG CNS의 ‘퍼플랩’은 글로벌 위협 인텔리전스 빅데이터를 참고해 10개의 대표 액티브 디렉토리(AD) 공격 기법을 분류했다. AD는 기업이...
현장 기술훈련은 훈련 주최측의 ‘레드팀’(공격)과 각국의 사이버안보 전문가로 구성된 6개 ‘블루팀’(방어)이 실시간 대응하는 방식으로 진행되며, 온라인 정책훈련에서는 전력ㆍ해양 기반시설 마비 등 국가 차원의 사이버위기 상황 발생시 국가별 최적의 사이버안보 전략과 법률ㆍ정책대응 방향을 도출한다.
윤오준 국정원 3차장은 “이번 훈련은...
또 정당한 이익을 근거로 공개된 개인정보를 처리하기 위해 고유 식별정보 등에 대한 삭제와 비식별화 등의 기술적 안전조치와 ‘(가칭) AI 프라이버시 레드팀’ 구성·운영 등의 관리적 안전조치 방안도 공개됐다. 개인정보 유·노출 발생시 삭제, 처리 정지 등 정보주체의 권리보장 방안도 확인할 수 있다.
다만 AI 기업이 모든 안전조치를 의무적으로 시행해야 하는...
전날인 2일 당대표 후보 비전발표회에서 원 후보는 본인이 당의 레드팀 역할을 하겠다고 선언했다. 이에 관해 묻자 "레드팀은 민심과 당내의 쓴소리를 직접 대통령에게 전달한 뒤 대안에 대해 끝장 토론을 하고 이를 국민께 보고하는 팀을 의미한다"며 "체계적이고 신뢰를 바탕으로 대안을 만들어서 이를 국민께 직접 보고해 대통령이 소통이 안...
그래서 레드팀 만들겠다. 뭐 이런 얘기는 기본적으로는 민심이 윤심 돼야 된다. 이 얘기를 하고 있는 거지만 말은 그렇게 하는 거지만 지금 그 몸은 윤심 따라 움직이고 있는 거죠. 그래서 주변을 돕겠다는 분들도 다 그런 분들이고... 이게 뭐랄까 좋은 선택은 아닌데 어떻게 보면 좀 어쩔 수 없는 상태, 막판에 몰려서 그런 느낌이 조금 있고요. 나경원 의원도 좀 그렇죠....
국민 여론과 당내 여론을 취합하는 '레드팀'을 만들어 대통령에게 직접 전달하고 국민에게 보고하겠다고도 했습니다.
총선 선언의 공통적인 핵심으로는 '당정 관계의 재정립'을 꼽을 수 있겠습니다. 나 의원은 '무계파 당정동행', 한 전 위원장은 '수평적 재정립', 원 전 장관은 '원팀'에 무게를 두고 본인이 보수 재건의 적임자라고 강조했죠.
이보다 앞선 21일...
다만 원 전 장관 역시 “당심과 민심을 대통령께 가감없이 전달하겠다”며 “이를 위해 ‘레드팀’을 만들어 레드팀에서 취합한 생생한 민심을 직접 대통령께 전달하고, 그 결과를 국민께 보고드리겠다”고도 했다.
윤 의원은 앞서 SNS를 통해 “이번 당 대표는 민주당과 싸워 이긴 사람이 맡아야 하고, 민심이 윤심이 되도록 대통령에게 할 말 하는 대표가 돼야 한다”고...
그는 “윤석열 정부가 성공해야 정권을 재창출할 수 있다”며 “레드팀을 만들겠다”고 목소리를 높였다.
원 전 장관은 “윤석열 정부는 우리가 함께 만든 정부다. 저는 경선의 경쟁자였지만 대선 공약을 책임졌고, 경제부처 장관으로 국정에 참여했다”며 대통령과의 신뢰 관계를 강조했다.
그는 “윤석열 정부의 성공을 책임지겠다”며 “신뢰가 있어야 당정관계를...
서울대의과대학·서울대학교병원 교수협의회 비상대책위원회(비대위)는 28일 오전 한국프레스센터에서 ‘대통령실 레드팀께, 의료개혁 이대로 좋습니까?’를 주제로 기자회견을 열고 이같은 의견을 제기했다.
이날 강희경 비대위원장은 “국민이 원하는 의료 체계가 어떤 것인지에 대한 합의가 먼저 이뤄지고 이를 위한 의사 수가 최선의 방법으로 추산되고, 이에...
유 CEO는 최근 한국 과학기술정보통신부가 개최한 ‘생성형 AI 레드팀 챌린지’를 언급하며, ”이 행사는 SKT, 네이버 등 주요 한국 기업의 AI 모델에서 약점과 위험요소를 찾아내는 행사였는데, AI 지속가능성과 안전성에 대해 깊이 생각해 볼 수 있는 기회였다”고 의미를 부여했다.
유 CEO는 ‘지속 가능하고 신뢰할 수 있는 AI 발전’을 위해 세 가지 논의...
국내외 유수 연구 기관들과 협력을 통해 글로벌 최상위 AI 학회에서 다수의 연구 결과가 채택되는 성과를 거뒀고, AI 서비스 출시 과정에서 사회적 관점을 더할 수 있는 AI 윤리 자문 프로세스도 운영하며, 최근 주목받는 생성형 AI 기술의 안전성 강화를 위한 ‘레드팀’도 운영 중이다.
AI‧IT분야 종사자뿐만 아니라 제조‧금융‧의료분야 종사자, 대학생 등 참가
“방어가 탄탄해 잘 안 뚫렸다.”
11일 오후 2시 서울 강남구 코엑스 B2 홀에서 열린 ‘생성형 AI 레드팀 챌린지’.
실제 서비스되고 있는 거대언어모델(LLM)에 참가자들이 모의로 프롬프트 공격을 해 모델의 안전성을 검증하는 이번 대회에는 시민 1084명이 레드팀으로 참가했다. 사진가...
과학기술정보통신부(과기정통부)와 한국정보통신기술협회(TTA)는 생성형 인공지능(AI) 레드팀 챌린지 행사를 11일부터 이틀간 개최한다고 밝혔다.
서울시 강남 코엑스 B2홀에서 진행되는 ‘레드팀 챌린지’는 다양한 관점을 가진 국민들의 집단지성을 활용해 국내 생성형 AI 모델(LLM)의 잠재적 취약점(유해정보 생성 등)을 식별하는 행사다. 공개 레드팀 챌린지...
네이버가 과학기술정보통신부가 주최하고 한국정보통신기술협회(TTA)와 초거대AI추진협의회가 주관해 다음달 11일과 12일 양일간 개최되는 ‘생성형 AI 레드팀 챌린지(Gen AI Korea 2024)’에 대표 파트너사로 참여한다고 21일 밝혔다.
공동 대표 파트너사인 AI 학습 데이터 플랫폼 스타트업 ‘셀렉트스타’와 행사를 진행하며 AI 안전성 기술 교류 및 논의의...
김동연 경기도지사가 경기도 3기 레드팀의 '쓴소리'를 받아들여 도청에서 매주 관행적으로 작성되던 주간업무보고서를 줄여나가겠다고 약속했다.
앞서 경기도는 14일 북부청에서 열린 도정 열린 회의에서 '3기 레드팀 쓴소리 청취 및 도지사 답변' 시간을 마련했다고 15일 밝혔다.
레드팀은 이 자리에서 "매주 회의를 위한 관행적인 주간업무보고서 작성은...
LG는 AI 연구 허브인 ‘LG AI연구원’ 내에 기술, 법학, 정책 등 다양한 분야의 내·외부 전문가들이 참여하는 ‘AI 윤리위원회’를 비롯해 실질적인 AI 윤리 실행을 담당하는 ‘AI 윤리사무국’, AI 알고리즘과 모델의 편견이나 오류, 시스템의 취약점을 찾아내는 ‘레드팀’, 임직원들의 자발적인 AI 윤리 실천 조직인 ‘AI 윤리 연구/활동 그룹’ 등을 운영하고...
새로운미래 당헌에는 ‘집단지도체제 및 소수자 보호’, ‘중앙당 윤리심판원 독립성 및 사법기능 강화’, ‘레드팀 당무 검증위원회 설치’, ‘공직 후보자 도덕성 담보를 위한 구체적 공천 배제 요건’ 등을 담았다.
정강·정책으로는 김대중 전 대통령 정신을 계승해 서민이 행복하고 중산층이 두터운 나라를 만들기 위해 국익과 실용을 중심에 둔 포용적·중도...
새로운미래의 당헌에는 ‘집단지도체제 및 소수자 보호’, ‘중앙당 윤리심판원 독립성 및 사법기능 강화’, ‘레드팀 당무 검증위원회 설치’, ‘공직 후보자 도덕성 담보를 위한 구체적 공천 배제 요건’ 등을 담았다.
정강·정책으로는 김대중 전 대통령 정신을 계승해 서민이 행복하고 중산층이 두터운 나라를 만들기 위해 국익과 실용을 중심에 둔 포용적·중도...
소프트웨어중심자동차(SDV)로 진화하는 차량 SW 개발에 보다 높은 완성도를 제공하기 위해 3자 검증 서비스 제공 및 가상검증 플랫폼 사업화 착수할 것이며 해커 수준의 레드팀 서비스와 업그레이드된 차량 사이버 보안 추진 및 글로벌 보안 진단·구축·운영 서비스를 제공할 예정이다.
현대오토에버 관계자는 “SW 분야의 핵심 조력자이자 리더로서...
특히 안보, 경제, 공중 보건 등 중요한 분야에서의 AI 모델을 개발하는 회사는 AI 훈련 단계부터 정부에 통보해야 하고, 정부가 꾸린 검증 전문가팀인 ‘레드팀’의 안전테스트 결과를 정부에 보고해야 한다.
“딥페이크 막자”…AI 콘텐츠 식별 워터마크 도입 추진
바이든 대통령은 행정명령 후 “나도 내 것(딥페이크)을 본 적이 있는데, ‘내가 도대체 언제 저렇게...