AI 시대 사이버위협, 규모·속도·접근성 모두 확대

[산업일보]
AI(인공지능)의 급격한 발전으로 사이버 공격의 양상이 빠르게 변화면서 보안 패러다임의 전환이 요구되고 있다. 기업 역시 고성능 AI를 활용한 공격에 대응하기 위해 AI 기반의 자동화된 대응 체계와 조직 문화 변화에 나서야 한다는 제언이 나왔다.

AWS(아마존웹서비스)는 1일 서울시 강남구 역삼동 AWS 코리아 오피스에서 AI·클라우드 환경에서의 보안 트렌드와 전략을 제시하는 ‘AWS Security 101 기자간담회’를 개최했다.

AWS 코리아 신은수 수석 보안전문 솔루션즈 아키텍트(PSA)는 ‘고성능 AI의 등장과 이에 대처하는 방법’을 주제로 발표했다.

신 PSA는 “AI의 활용 영역은 일상을 넘어 개발 환경과 보안 영역에서도 적극적으로 활용되고 있다”라며 “고성능 AI는 기업의 보안을 강화하는 목적으로 사용되기도 하지만, 반대로 취약점을 찾아내는 악의적인 목적으로도 쓰인다”라고 말했다.

그러면서 “고성능 AI의 등장으로 보안 전문가들이 공유하던 ‘시간에 대한 관념’이 깨질 수 있는 위협이 다가오고 있다”라고 경고했다.

과거 전문가 집단에 의해 수일에서 수년까지도 걸렸던 익스플로잇(Exploit, 공격 프로그램) 개발 시간이 고성능 AI를 통해 쉽고 빨라졌다는 것이다.

그는 고성능 AI 보안 리스크를 ‘규모’, ‘속도’, ‘접근성’ 3가지 키워드로 요약했다. 하루에 수백개의 취약점이, 기존보다 훨씬 빠른 속도로 발견되며, 전문 지식 없이도 누구나 손쉽게 사이버 공격을 시도할 수 있는 환경이 조성됐다는 진단이다.

신은수 PSA는 “이에 따라 취약점 대응 패치 프로세스가 자동화되지 않은 기업은 업무 과부하가 발생할 수밖에 없으며, AI 등장 이전을 기준으로 하는 규정 준수 및 감시 프레임워크와 위험관리 방식은 더 이상 유효하지 않다”라고 강조했다.

이어 고성능 AI의 위협에 대응하는 AWS의 보안 인프라 및 전략에 대해 소개했다. 신 PSA는 “AWS는 다양한 보안 활동으로 ‘Active Defense’를 전개하고 있다”라며 “하루에 400조 개 이상의 네트워크 플로우를 분석하고, 시간당 8조 개 이상의 이벤트를 모니터링하고 있다”라고 전했다.

설명에 따르면, AWS는 보안 정책 및 네트워크 구성 안전성을 수학적으로 검증하는 ‘자동 추론(Automated Reasoning)’ 기법을 여러 보안 서비스에 활용하고 있다. 또한 공격자를 유인해 공격 행위를 분석하는 허니팟(honeypot) 체계인 ‘매드팟(MadPot)’, 거대 그래프 신경망 모델 ‘미쓰라(Mithra)’, 내부 인프라 자동 보호 시스템인 ‘소나리스(Sonaris)’ 서비스를 운영하고 있다.

AI 에이전트 기술을 활용해 ‘머신 스피드’로 대응하는 보안 솔루션도 마련했다. ‘AWS Security Agent’는 위협 모델링·설계 검토·코드 분석·침투 테스트 4가지 기능을 제공한다.

‘AWS 컨티뉴엄(Continuum)’은 우선순위·검증·교정 3가지 에이전트가 결합된 멀티 에이전트 체계를 기반으로 구동된다. 비즈니스 영향도를 고려해 위험 우선순위를 결정하는 SSV(Stakeholder-Specific Vulnerability Categorization) 메커니즘을 적용하고, 자체 샌드박스 환경에서 코드를 직접 실행해 검증 및 오탐지 최소화를 진행하며, 자동 교정까지 제안한다. 향후 AWS Security Agent의 기능들도 통합될 예정이다.

그는 발표를 마무리하며 기업의 대응 방안으로 ▲개발 단계에 보안을 통합하는 ‘Shift Left’의 실현 ▲지속적인 보안 검증 자동화 ▲AI 에이전트 대상 보안 강화 ▲보안 운영 확장 등을 제안했다.

특히, 조직 전체의 보안 문화 정착을 강조하며 “고성능 AI 위협에 빠르게 대응하기 위해선 특화 보안 솔루션을 도입하는 것도 중요하지만, 보안팀을 넘어 전 구성원이 보안 체계를 이해하고 활용할 수 있도록 전사적인 인식과 환경을 변화시키는 것이 핵심적 과제”라고 밝혔다.