[보안칼럼] AI vs AI : 자동화된 위협과 지능형 방어가 맞붙는 사이버 보안의 최전선

2025년 현재 인공지능(AI)은 산업·경제·안보 등 사회 전반에 걸쳐 인간의 사고와 행동에 혁신적인 영향력을 행사하고 있다. 특히 사이버 보안 분야에 중대한 영향을 미치고 있다. 거대언어모델(LLM)과 에이전트 기술의 비약적인 발전으로 인해 AI는 창의적 문제 해결과 직관적 판단 보조 또는 일부 대체할 수 있는 수준에 이르렀다. 이는 사이버 공격과 방어 양측에 새로운 기회와 도전과제를 함께 제시하고 있다.

최근 중국, 러시아, 북한 등 주요 사이버 공격 주체들은 구글 제미나이, 오픈AI GPT 등 최신 LLM 기반 AI 에이전트를 활용해 △취약점 자동 탐지 △취약점 공격 도구 자동 생성 △정밀 표적형 피싱 및 사회공학 공격 △딥페이크 기반 우회 시도 등을 대규모로 수행하고 있다. 특히 '정찰-침투-확산-탈취-교란'에 이르는 사이버 공격의 전 과정을 하위 에이전트들이 자율적으로 협업하는 공격 모델까지 등장하면서, 과거 수일 이상 걸렸던 데이터 탈취 소요 시간이 수십 분 이내로 급격히 단축됐다. 또 AI가 실시간으로 공개 프로필과 딥 웹 정보를 분석해 맞춤형 피싱과 딥페이크 공격을 자동화하는 사례도 증가하고 있다. 최근엔 실제 금융기관·기업 지원센터를 공격해 성공하는 사례도 다수 보고되고 있다.

다행인 것은 사이버 침해 공격에 대응하기 위한 방어 기술 역시 빠르게 진화하고 있는 사실이다. 주요 보안 기업들과 정부 기관은 실시간 글로벌 위협 패턴을 인지하고, LLM, 이상 행위 기반 분석(UEBA), 멀티 에이전트 기반의 AI 방어 솔루션을 개발·적용 하고 있다. 대표적으로, 마이크로소프트(MS), 구글, IBM 등 글로벌 선도 기업들은 이상 행위 실시간 감지, 공격 경로 요약, 자동 방어 시나리오 추천 등 통합형 AI 보안 에이전트를 선보이며 지능화된 위협에 능동적으로 대응하고 있다. 아울러, 미국, 유럽연합(EU), 북대서양조약기구(NATO) 등은 '항상 검증, 최소 권한' 원칙에 기반한 제로 트러스트 모델과 양자내성암호 기술도입을 포함한 전략적 프레임워크를 제시하고 있다.

이제 보안 전문가의 역할은 전통적 위협 탐지를 넘어 AI 분석 및 전략 수립 역량을 갖춘 'AI 전략가'이자 '복합 의사결정자'로 진화해야 한다. 단일 솔루션 의존을 지양하고, AI·사이버 복수 협력 방어, 글로벌 협력 체계를 기반으로 한 정보 공유, AI 거버넌스 체계 구축이 필수가 됐다. 실무 현장에선 멀티 클라우드 환경 내 대규모 이벤트를 자동 분석·대응하는 보안 오케스트레이션, 자동화·대응(Security Orchestration, Automation and Response) 시스템 도입이 확산 중이다.

이러한 시대의 변화를 반영해 한국인터넷진흥원(KISA)은 과학기술정보통신부와 함께, AI를 활용한 차세대 보안 전략을 적극 추진하고 있다. AI 기반 의사결정 시스템과 복합 대응 시나리오를 통합해 침해 사고에 보다 신속하고 정밀하게 대응할 수 있는 체계를 마련하고 있으며, 지능형 포렌식 기술을 통해 사고 분석 능력 또한 강화하고 있다. 나아가, 지능화된 공격에 대응하기 위해 방어 기술 또한 한층 더 정교하고 고도화해야 한다는 인식 아래, AI 기술을 보안 전반에 접목해 지능화된 사이버 위협에 능동적으로 대응하는 기반을 구축해 나갈 예정이다.

인류의 발전 과정에는 늘 혁신적인 기술이 함께 해왔다. 그 오랜 역사에서 기술은 본질적으로 중립적이며, 그 활용은 우리의 몫이었다. 다가오는 AI 에이전트 시대, 앞으로의 보안은 AI와 인간이 협력하는 새로운 방어체계를 고민해야 한다. 사이버 위협은 점차 기민하고 자동화되고 있긴 하지만, AI의 예측력과 인간의 직관이 결합한다면 더욱 견고한 보안 환경을 만들 수 있다고 확신한다. KISA는 AI의 가능성과 위험성을 균형 있게 이해하며, 전략과 윤리를 바탕으로 미래형 방어체계를 설계해 나갈 것이다.

박용규 한국인터넷진흥원 위협분석단 단장 smile@kisa.or.kr