보안 로그 분석부터 에이전트 기반 대응까지, LLM 보안 자동화의 구현과 운영을 다루는 실무서

LLM과 에이전트가 취약점 분석과 코드 생성에 활용되면서 공격과 방어가 함께 자동화되고 있습니다. 보안 운영에서도 분석 속도를 높이는 동시에, AI의 판단 근거와 도구 실행 권한을 통제하는 설계가 필요해졌습니다.

보안 기술의 발전 과정과 LLM이 가져온 위협을 출발점으로, 로그 해석·위협 정보 검색·공격 탐지·자동 대응을 하나의 시스템으로 연결합니다. 구현 전반에서는 출력 형식 검증, 판단 근거 확인, 사람의 승인을 단계별로 적용해 자동화의 범위와 통제 기준을 구체화합니다.

먼저 LLM으로 보안 로그를 해석하고 JSON 스키마로 출력을 검증합니다. 이어 CVE와 MITRE ATT&CK를 활용한 RAG를 구성하고, 머신러닝의 1차 분류 결과를 LLM 분석 및 에이전트의 도구 실행과 연결합니다. 2부 종합 실습에서는 이 구성 요소를 결합해 보안 어시스턴트를 구현합니다.

이를 바탕으로 MCP를 통한 보안 도구 연동, 권한과 감사 기록 설계, 멀티 에이전트 레드팀·블루팀 구성까지 확장합니다. 프롬프트 인젝션과 환각에 대응하는 다층 격리 가드를 구현하고, 격리 환경에서 로컬 LLM 기반 자동 공격·자동 방어와 CTF 자동 풀이 플랫폼을 실습합니다. 각 기술을 공격에 활용하는 방식과 방어에 적용하는 방법을 함께 살펴봄으로써, 자동화된 위협에 대응하는 구조를 익힙니다.

구현 이후의 운영도 주요하게 다룹니다. 자동 차단에 필요한 사람의 검토·승인(HITL), 감사와 롤백 절차, 법적 검토 사항을 통해 실제 도입 시 고려해야 할 조건을 살펴봅니다. 기능 구현에 더해 어떤 작업을 자동화하고 어떤 판단을 사람에게 맡길지 설계하는 데 초점을 두었습니다.

실습 노트북 18개와 실행 결과가 포함된 완성본을 제공합니다. API 키가 없으면 모의 실행(mock) 모드로 실습할 수 있으며, Ollama를 활용한 로컬 LLM 실습도 지원합니다. GPU는 필요하지 않습니다.

규칙 기반 탐지의 한계를 보완하려는 SOC 분석가·침해 대응 담당자·보안 운영 관리자, RAG와 에이전트를 보안 분야에 적용하려는 AI·ML 엔지니어에게 적합합니다. 단계적 도입 계획과 거버넌스를 수립하는 기획·관리 담당자, LLM·에이전트 보안의 실무 개념과 구현 방식을 배우려는 컴퓨터공학·정보보안 전공 학생에게도 구체적인 학습 경로를 제시합니다.