-
- 헝그리앱 등록일(수정) : 2026-06-09 11:05:27
-
[기타] 가트너, “AI가 불러온 사이버 위협... 단일 보안으로 부족”
//www.hungryapp.co.kr/news/news_view.php?durl=YmN...
신고
가트너(Gartner)는 공격자가 표적의 취약점을 악용해 우위를 점할 수 있는 4대 주요 사이버 위협으로 ▲딥페이크 ▲AI 애플리케이션 침해 ▲프롬프트 인젝션 ▲소프트웨어 공급망을 선정했다고 밝혔다.
가트너는 각 위협에 대해 이용 가능한 정보의 양과 질을 뜻하는 '위협 신호'와 위협을 얼마나 효과적으로 관리할 수 있는지를 뜻하는 '조직의 대응 역량'을 기준으로 위협을 평가하고 이를 6개 영역으로 분류했다.
존 왓츠(John Watts) 가트너 VP 애널리스트는 “AI 기업들이 보안 이니셔티브를 도입하면서, 기존에도 복잡했던 위협 환경에 혼란이 가중되고 있다”며, “사이버보안 책임자는 이러한 혼란 속에서도 위협 신호를 식별해 위협 환경의 변화에 기민하게 대응해야 한다”고 설명했다.
딥페이크 활용 신원 사칭
생성형 AI의 발전으로 음성·영상·이미지 전반에서 딥페이크 생성의 규모와 정밀도, 접근성이 크게 향상됐다. 딥페이크가 사전 제작 콘텐츠 형태를 넘어 실시간으로 생성되면서, 공격자가 다양한 경로를 통해 신원을 사칭할 수 있는 위험성도 커졌다. 이는 생체인증 절차 공격, 직원을 대상으로 한 실시간 사회공학적 공격, 채용 절차 교란 등에 악용될 수 있다.
왓츠 애널리스트는 "공격자의 딥페이크 활용 기법은 계속 진화하고 있으며, 이제는 사기나 피싱 공격을 탐지하기 어려울 정도다”라며, “단일 보안 조치로는 이를 막을 수 없으므로, 기업은 비즈니스 프로세스 강화, 보안 인식 제고, 딥페이크 탐지 기술 도입을 아우르는 다층 방어 전략을 마련해야 한다”고 권고했다.
이에 사이버보안 팀은 딥페이크 탐지를 넘어 실시간 통신의 무결성과 생체 인증 및 검증 프로세스를 보호하기 위한 제어를 강화해야 한다.
딥페이크 탐지 기술만으로는 신원 사칭 공격을 완벽히 차단하기 어렵다는 점을 인식하고, 활용 사례별로 다층적인 통제 수단 구축 맥락 기반 신호 외에도 프레젠테이션·인젝션 공격 탐지 기능을 강화해 생체 신원 확인 보호
가트너는 각 위협에 대해 이용 가능한 정보의 양과 질을 뜻하는 '위협 신호'와 위협을 얼마나 효과적으로 관리할 수 있는지를 뜻하는 '조직의 대응 역량'을 기준으로 위협을 평가하고 이를 6개 영역으로 분류했다.
존 왓츠(John Watts) 가트너 VP 애널리스트는 “AI 기업들이 보안 이니셔티브를 도입하면서, 기존에도 복잡했던 위협 환경에 혼란이 가중되고 있다”며, “사이버보안 책임자는 이러한 혼란 속에서도 위협 신호를 식별해 위협 환경의 변화에 기민하게 대응해야 한다”고 설명했다.
딥페이크 활용 신원 사칭
생성형 AI의 발전으로 음성·영상·이미지 전반에서 딥페이크 생성의 규모와 정밀도, 접근성이 크게 향상됐다. 딥페이크가 사전 제작 콘텐츠 형태를 넘어 실시간으로 생성되면서, 공격자가 다양한 경로를 통해 신원을 사칭할 수 있는 위험성도 커졌다. 이는 생체인증 절차 공격, 직원을 대상으로 한 실시간 사회공학적 공격, 채용 절차 교란 등에 악용될 수 있다.
왓츠 애널리스트는 "공격자의 딥페이크 활용 기법은 계속 진화하고 있으며, 이제는 사기나 피싱 공격을 탐지하기 어려울 정도다”라며, “단일 보안 조치로는 이를 막을 수 없으므로, 기업은 비즈니스 프로세스 강화, 보안 인식 제고, 딥페이크 탐지 기술 도입을 아우르는 다층 방어 전략을 마련해야 한다”고 권고했다.
이에 사이버보안 팀은 딥페이크 탐지를 넘어 실시간 통신의 무결성과 생체 인증 및 검증 프로세스를 보호하기 위한 제어를 강화해야 한다.
딥페이크 탐지 기술만으로는 신원 사칭 공격을 완벽히 차단하기 어렵다는 점을 인식하고, 활용 사례별로 다층적인 통제 수단 구축 맥락 기반 신호 외에도 프레젠테이션·인젝션 공격 탐지 기능을 강화해 생체 신원 확인 보호
조건부 접근 정책을 적용해 회의 참가자에 대한 강력한 인증을 시행하고, 통화 메타데이터를 분석해 온라인 회의 보호
AI 애플리케이션 침해
공격자들이 기업 운영 환경에 배포된 기업용 및 사내 AI 도구를 겨냥하면서 AI 애플리케이션 침해가 핵심 위협으로 떠올랐다. 자체 개발 에이전트, 서드파티 통합, 임직원 전용 앱으로 공격 표면이 넓어진 만큼, 보안이 취약할 경우 민감 데이터나 자격 증명이 노출될 수 있다.
왓츠 애널리스트는 “사이버보안 팀은 생성형 AI 모델과 에이전틱 AI 도구로 인해 발생하는 새로운 공격 표면을 식별하고 보안 프로그램을 확장해야 한다”며, “가트너의 신뢰·위험·보안 관리(TRiSM) 프레임워크를 활용하면 AI 개발 과정에서 AI 위협 완화 조치를 어디에 통합해야 할지 파악할 수 있다”고 설명했다.
프롬프트 인젝션
프롬프트 인젝션은 AI 시스템, 특히 대규모 언어모델(LLM)을 타깃으로 한다. 공격자는 악의적으로 조작된 프롬프트를 주입해 모델의 알고리즘 동작을 왜곡함으로써, 민감한 정보를 외부로 유출하거나 권한이 없는 작업을 실행하도록 유도하고 기존 보안 통제를 우회한다. 기업의 생성형 AI 도입이 확대됨에 따라 프롬프트 인젝션의 위험도 함께 증가하고 있어, 사이버보안 팀이 우선적으로 대응해야 할 과제가 됐다.
이에 대응하려면 다층적 완화 전략이 필수다. 여기에는 취약점을 사전에 식별하는 AI 보안 테스트, AI 동작을 안내하는 강력한 시스템 프롬프트 구축, 의심 활동을 차단하는 AI 런타임 가드레일이 포함된다.
악의적인 프롬프트가 유입되지 않도록 입력값 검증 및 정제 체계 구현
프롬프트 인젝션 징후인 비정상적인 AI 행동을 탐지하는 모니터링 및 경보 체계 구축
AI 시스템 개발 생명주기 전반에 프롬프트 인젝션 테스트 통합
테스트 결과를 활용해 런타임 보안 통제 지속 개선
소프트웨어 공급망 위협
왓츠 애널리스트는 “생성형 AI 솔루션의 발전은 오픈소스 소프트웨어의 취약점을 노린 소프트웨어 공급망 공격 추세를 가속할 것”이라며, “기업은 신뢰할 수 있는 구성요소 저장소를 구축하고, CI/CD 파이프라인을 강화하며, 강력한 운영 이상 탐지 및 대응 역량을 구축해야 한다”고 강조했다.
사이버보안 팀은 소프트웨어 자산 인벤토리를 포괄적으로 구축하고 개발 전 과정에 강력한 보안 통제를 적용해, 기존 애플리케이션과 AI 기반 개발 파이프라인을 겨냥한 위협에 모두 대응해야 한다.
모든 공급업체에 소프트웨어 자재명세서(SBOM) 및 AI 자재명세서(AIBOM)를 요구하고, 배포 전 최신 위협 인텔리전스 도구를 활용해 모든 구성요소의 위험도를 평가
서드파티 코드, 컨테이너 이미지, AI 모델에 대해서는 검증된 저장소를 사용하고, 코드 저장소에는 브랜치 보호 정책을 적용
빌드 과정에서 아티팩트에 서명을 적용하고, 빌드 시스템에 최소 권한 기반 접근 통제를 구현하고, 에이전틱 AI 도구의 런타임 활동 지속 모니터링
박영진 기자 ([email protected])
   |
진행중인 이벤트 2건  |
|
최신뉴스
- 1
- 3
- 2
- 0
- 0
- 0
리플
7건 | 1/1 페이지-
청결
+5
신고
11:15:31
보고갑니다
0 -
해질녘사진
+5
신고
11:17:39
보고갑니다
0 -
Rozelia
+5
신고
11:18:09
부족하구나
0 -
광포한날다람쥐
+5
신고
11:19:53
가트 잘보고가요
0 -
형씨아우씨
+5
신고
11:20:17
보고 가요
0 -
토끼냥냥이
+5
신고
11:31:21
보고갑니다
0 -
지존신투
+5
신고
11:33:01
잘봤습니다
0
+5 
+5 
+5 
+5 
+5 
+5 
리플 페이지 이동 1 리플쓰기
link추천 퀵 링크
-
냥코대전쟁 -
페이트 그랜드 오더 -
원피스 트레저 크루즈 -
점프 어셈블 -
우마무스메 PRETTY DERBY -
리니지2 레볼루션 -
원스휴먼
냥코대전쟁 
페이트 그랜드 오더 
원피스 트레저 크루즈 
점프 어셈블 
우마무스메 PRETTY DERBY 
리니지2 레볼루션 
원스휴먼 
등록순 최신순 댓글순