This post is also available in: English (영어) 日本語 (일어)

최신 프런티어 AI 모델의 출시는 사이버 보안 분야의 전환점이 되었습니다. Palo Alto Networks에서는 Project Glasswing의 구성 요소인 Anthropic의 Mythos 모델 및 Trusted Access for Cyber 프로그램의 구성 요소인 OpenAI의 최신 모델을 비롯한 최신 프런티어 AI 모델을 대상으로 초기 테스트를 실시했습니다. 결과는 명확했습니다. 이러한 AI 모델은 취약점을 찾아내고 해당하는 익스플로잇을 생성하는 데 탁월한 능력을 갖고 있습니다.

코딩 능력이 이렇게 세대 교체 수준으로 향상되면 취약점 발견 및 익스플로잇 생성의 비약적인 발전으로 곧장 이어집니다. 이러한 기능은 아무리 안전장치로 막아놓는다 해도 끝까지 울타리 안에 가두진 못할 겁니다. 다른 주요 AI 연구실, 중국산 모델, 오픈 소스 모델도 이와 유사한 형태로 발전하게 될 겁니다. 공격자는 이러한 안전장치의 이음새를 찾아낼 겁니다. 이들은 고급 AI를 사용해 대규모 제로데이 취약점을 발견한 후 익스플로잇을 거의 실시간으로 생성한 다음, 업계가 지금껏 경험해 본 적 없는 자율 공격 에이전트를 개발하게 될 겁니다.

6개월 내에 심층 사이버 보안 기능을 갖춘 고급 AI 모델은 당연히 있어야 하는 도구로 여겨질 겁니다. 적합한 안전장치를 마련해 두지 않은 조직은 엔터프라이즈 및 중요한 인프라 전체에서 완전히 새로운 종류의 위험을 맞닥뜨리게 됩니다.

프런티어 AI: 코드 유창성의 비약적인 발전

이미 잘 아시겠지만, Mythos 같은 최신 무한 모델은 Anthropic의 이전 주요 모델에 비해 코딩 효율성이 약 50% 향상된 것으로 나타났습니다. Palo Alto Networks에서는 무한 모델을 초기에 사용해 보았으며 이러한 방대한 발전된 기술을 코딩에 활용하여 스캔 및 공격 기능 분야에서 상당한 발전을 거둘 수 있었습니다.

당사 최고의 보안 엔지니어 수백 명이 이러한 기능을 평가하고 해당 기능을 효과적으로 사용하기 위한 모범 사례를 개발해 왔습니다. 그 결과 몇 가지 중요한 사실을 발견했습니다.

• 대규모 취약점 발견: 프런티어 AI는 코드 내의 취약점을 식별하는 데 특히 효과적입니다. 이러한 AI 모델은 일 년간 꼬박 진행해야 하는 침투 테스트 작업 정도의 분량을 3주 이내에 완료했습니다.
• 공격 경로 확인: 개별 취약점을 찾아내는 것보다 더 놀라운 프런티어 AI의 탁월한 기능은 취약점을 일렬로 연결하여 심각도가 낮은 여러 개의 문제를 중대한 수준의 익스플로잇 경로로 조합해 낼 수 있다는 점입니다. 예를 들어 심각도가 보통인 취약점 2개와 심각도가 낮은 취약점 1개를 연결하여 중대한 익스플로잇 1개를 만들어 냅니다.
• 풀 스택 로직 분석: 프런티어 AI는 SaaS 및 공개 플랫폼을 비롯한 애플리케이션의 전체 노출 표면을 분석할 수 있으므로, 기존의 도구로는 포착되지 않는 로직 기반 취약점을 식별합니다.

사이버 환경에 미치는 영향

공격자는 LLM을 수년간 사용해 왔지만 프런티어 AI 모델에 대한 테스트 결과에 기반했을 때, 이러한 AI 모델이 사이버 보안 환경에 중대한 영향을 미치게 될 3가지 핵심 영역이 있습니다.

1. 취약점 쇄도: 프런티어 AI 모델로 인해 방어자와 공격자가 찾아내는 취약점 발견 속도가 상당히 가속화될 전망입니다. 이 문제는 특히 오픈 소스에서 심각해질 것으로 보이며, 중요한 점은 그로 인한 패치가 급증하는 바람에 오히려 위험을 야기하게 될 거란 점입니다. 모든 패치를 즉시 적용하지 않으면 이는 곧 표적으로 삼기 좋은 알려진 취약점이 됩니다. 조직에서는 패치 적용 프로그램을 가속화 및 자동화하고, 패치의 우선순위 지정 및 적용 방법을 재고하고, 동급 최강의 보호 기능을 마련하여 취약점을 복구할 수 있을 때까지 이를 완화해야 합니다.
2. 인사이드 아웃 공격의 증가: LiteLLM 및 Trivy 같은 도구에서 최근에 일어난 공급망 공격을 보면 공격자가 조직의 인프라 내부로 침투하는 공격 패턴이 증가하고 있는 걸 알 수 있습니다. 이 경우 기존의 여러 공격 단계를 우회하게 되므로 방어자가 활용할 수 있는 몇 가지 예방 기회가 줄어드는 결과로 이어집니다. AI 인프라가 급격히 구축되면서 이러한 문제가 더 심각해졌습니다. AI 공급망(예: 런타임 환경, 커뮤니케이션 인프라, 모델 종속성 포함)에 대한 충분한 보호가 부족한 경우가 많기 때문입니다. 오픈 소스 사용 및 패치 적용 전략이 점점 더 견고해지고 있긴 하지만, 조직에서는 제로 트러스트, ID 현대화, 아웃바운드 연결 제한, 내부망 이동 차단 조치를 통해 잠재적인 공격을 구조적으로 억제해야 합니다.
3. 더 빨라진 AI 기반 공격 주기: 프런티어 AI 모델이 초래하게 될 가장 중대한 변화는 AI 기반 공격이 AI 중심 공격으로 바뀔 거라는 점입니다. 공격자는 공격 주기 기간을 크게 줄이는 자율 공격 에이전트를 구축하게 될 겁니다. 숙련된 기술을 동원해 며칠 또는 몇 주씩 해야 했던 수동 작업을 몇 분 만에 실행할 수 있게 되었기 때문입니다. 이러한 고급 공격 기능이 보편화된다는 건 방어자가 그에 상응하는 속도로 거의 실시간에 가깝게 탐지 및 대응해야 한다는 걸 뜻하며, 이는 보안 운영 전반에 걸친 방대한 AI 및 자동화를 통해서만 가능합니다. 평균 탐지 시간 및 평균 대응 시간을 측정했을 때 한 자릿수 분 단위가 나오지 않는 조직은 뒤처지게 될 것입니다.

방어자를 위한 가이드: 평가, 보호, 플랫폼화

AI 중심 위협에 맞서 방어하기 위한 프레임워크는 완전히 새롭지는 않더라도, 실행 기준은 절대적이어야 합니다. '대부분 보호되고 있다'는 조직은 사실상 보호되고 있지 않습니다. 지금부터 설명할 내용은 평가, 보호, 플랫폼화라는 단계적 접근 방식입니다. 조직에서는 이러한 접근 방식을 동시에 실행하여 공격자가 허점을 악용하기 전에 이러한 허점을 없애야 합니다.

평가: 모든 조직은 최신 AI 모델을 사용하여 전체 코드 및 애플리케이션 환경을 평가하고, 종합적인 자산 및 노출 인벤토리를 구축해야 합니다.

주요 우선순위:

• AI 모델을 활용하여 공격자보다 빨리 코드베이스, 애플리케이션, 인프라 전체에서 취약점을 식별합니다.
• 취약점이 서로 어떻게 연결되어 중대한 익스플로잇 경로를 형성하는지 등과 같은 전체적인 맥락을 토대로 노출을 평가합니다.
• 오픈 소스 공급망(예: AI 인프라, 런타임 환경, 모델 종속성)에 대한 감사를 실시합니다.
• 현재 센서의 범위를 매핑합니다. 탐지, 예방, 원격 측정의 허점은 중대한 사각지대를 야기합니다.

보호 및 복구: 노출을 복구하고 줄이는 건 기본 요건입니다. 과거에는 조직 간의 마찰로 인해 빠르게 문제를 찾고 해결하는 데 어려움을 겪었지만, 이제 경영진이 이러한 새로운 AI 모델에 관심을 갖게 되면서 그와 같은 문제 해결도 가속화될 수 있습니다. 하지만 여기서 더 나아가 동급 최고의 공격 예방 기능을 종합적으로 배포하는 수준까지 확장해야 합니다. 이 경우 새로운 표준은 100% 커버리지 및 최적화입니다.

• XDR을 모든 곳에 구현하며, 실시간 ML 기반 탐지 및 공격 예방에 중점을 둡니다. 온프레미스 및 클라우드의 모든 호스트를 포함합니다.
• 에이전틱 엔드포인트 보안을 통해 엔터프라이즈 전반에서 바이브 코딩 및 AI 보안을 대규모로 채택하는 프로세스를 안전하게 보호합니다(예: Prisma AIRS 및 당사에서 최근에 인수한 Koi는 이제 에이전틱 엔드포인트 보안의 필수 요소가 되었습니다).
• 이제 평균 업무의 85%는 브라우저에서 이루어지고 있으므로, 실시간 보안으로 엔터프라이즈 브라우저를 보호하는 것이 공격 예방의 필수 요소가 되었습니다.
• 제로 트러스트 및 ID 보안은 모든 사용자와 모든 연결을 보호하기 위한 기본 토대입니다.

실시간 보안 운영: 공격 주기 기간이 급격하게 짧아졌으므로, 보안 운영에 대한 기존 접근 방식은 효과가 없습니다. 사일로화된 서로 다른 데이터 분석 도구로도 모자라 수동 프로세스까지 함께 사용하고 있다면 AI 및 자동화로 모두 교체해야 합니다. 당사의 AI 중심 SOC 플랫폼인 Cortex XSIAM은 차세대 접근 방식을 통해 MTTD 및 MTTR을 한 자릿수 분 단위로 실현할 수 있는 기준점 같은 제품입니다.

• 공격 탐지 기능은 AI/ML 중심 방식이어야 합니다. 그래야 자주 변형되는 공격이나 새로운 공격도 대규모로 탐지할 수 있습니다.
• 이러한 AI 탐지 기능은 광범위한 자사 데이터 및 타사 데이터 소스를 기준으로 작동해야 하며, 동급 최고의 AI SOC는 모든 관련 데이터 소스를 토대로 작동해야 합니다.
• 한 자릿수 MTTR을 달성하려면 자동화가 SOC 수명 주기 전체에 기본으로 통합되어 있어야 합니다. 이러한 자동화는 점점 더 에이전틱 방식으로 발전할 것입니다.
• 그리고 이는 포인트 솔루션의 이음새와 허점을 없애는 플랫폼 형태로 제공될 전망입니다.

언제든지 도와드리겠습니다.

이러한 수준의 복원력을 실현하려면 올바른 플랫폼과 올바른 전문 지식이 필요합니다.

이러한 변화 속에서 길을 찾고 성공적으로 적응하는 데 도움이 되는 Unit 42 Frontier AI Defense를 소개합니다. 이 새로운 서비스는 공격자가 공격에 나서기 전에 현재의 노출을 발견 및 복구하며, 노출을 줄이고 파급 효과를 억제하는 제어 조치를 강화하고, 팀이 시스템의 속도로 탐지하고 대응할 수 있도록 운영을 현대화하도록 고안되었습니다.

Palo Alto Networks는 바로 이러한 상황에 도움을 드릴 수 있도록 준비해 왔습니다. 위협은 그 어느 때보다 더 정교해졌지만, 앞으로 나아갈 길 또한 그 어느 때보다 더 명확합니다. 저희는 여러분을 지원하는 든든한 파트너로서 다가올 미래를 향해 나아가고자 합니다.