보안공부/AI 해킹

1. 직접 개발한 AI 기반 고급 웹 취약점 진단 엔진

아이띠불로구 2026. 4. 21. 16:58

상사로부터 AI를 활용한 취약점 진단 프로그램을 개발하라는 지시를 받았었다.

혼자 개발을 진행해서, 당시에는 다른 업무와 프로젝트가 병행되다 보니 번거로운 부분도 있었지만, 주제 자체가 흥미로워 개발을 진행했다. 개발에 대한 지식이 어느정도 있던 점을 고려해 해당 작업을 맡긴 것으로 보인다.

 

다만 지금은 상황이 많이 달라졌다. 방향을 함께 고민하고 지원해주던 분이 떠난 이후, 프로젝트에 대한 동력도 자연스럽게 줄어들었고 결국 진행을 멈추게 되었다. 회사 차원에서 금전 지원 승인까지 받아주셨던 만큼 아쉬움이 남는다. 개인적으로도 그 과정에서 내 역량을 긍정적으로 평가받았던 점은 의미가 있었다.

 

퇴사하시면서도 중요한 프로젝트이니 계속 고도화해보라고 조언을 주셨지만, 현재는 조직 전반에서 관심이나 추진력이 보이지 않아 지속하는 것이 실질적인 의미를 갖기 어렵다고 판단했다.

그럼에도 이전에 만들어둔 결과물은 분명 가치가 있다고 생각한다. 기억이 흐려지기 전에 구조와 내용을 정리해두는 것이 필요하다고 판단해 이 글을 작성하게 되었다.

 

또한 이 프로젝트는 지속적으로 지원해주던 분이 있었고, 그 기반 위에서 충분한 지원이 이어졌다면 더 높은 수준으로 발전할 수 있었을 것이라는 생각이 든다. 단순한 자동화 도구를 넘어, LLM에 보안 레이어를 결합해 AI가 직접 판단하고 공격을 수행하는 형태로 고도화하고(티오리의 Xint와 같은), 나아가 회사 내부에서 활용할 수 있는 전용 모의해킹 서버까지 구축하는 방향도 충분히 가능했을 것이다.

 

지금 와서 보면 그 단계까지 이어가지 못한 점이 아쉬움으로 남는다.


해당 버전은 프로토타입 버전입니다.

개요

본 프로젝트는 AI와 연동되는 고급 웹 취약점 진단 엔진(Advanced Vulnerability Scanner)으로, 단순한 자동 스캐너를 넘어 실제 공격 시나리오를 기반으로 한 모의해킹 수준의 분석을 목표로 설계되었다.

Node.js 기반으로 구현되었으며, MCP(Model Context Protocol)를 준수하여 AI 에이전트가 직접 호출 가능한 구조로 구성된 것이 핵심 특징이다.


개발 목적

기존 웹 취약점 스캐너는 다음과 같은 한계를 가진다:

  • 정적인 페이로드 기반 탐지
  • 낮은 우회 능력 (WAF 대응 부족)
  • 비즈니스 로직 취약점 탐지 불가
  • 자동화는 가능하지만 “공격 시나리오” 부재

이 프로젝트는 이를 해결하기 위해:

  • AI 기반 동적 공격 생성
  • WAF 우회 기법 적용
  • 실제 공격 흐름 재현
  • 자동화 + 지능형 분석 결합

을 목표로 개발되었다.


주요 기능

1. 웹 취약점 자동 탐지 (13종 이상)

다음과 같은 핵심 취약점들을 지원한다:

  • SQL Injection (SQLi)
  • Cross-Site Scripting (XSS)
  • Server-Side Request Forgery (SSRF)
  • Command Injection
  • Path Traversal
  • Remote Code Execution (RCE)
  • 인증/인가 취약점

단순 탐지가 아닌 PoC 기반 검증까지 수행한다.

 

소스 일부 캡쳐


2. WAF 우회 엔진

웹 방화벽을 우회하기 위한 다양한 기법이 적용되어 있다:

  • 대소문자 변형
  • URL 인코딩 / 이중 인코딩
  • 페이로드 분할 및 재조합

이를 통해 실제 환경에서 탐지율을 높이는 구조를 구현했다.

 

소스 일부 캡쳐

 


3. 기술 스택 자동 분석 (Tech Stack Detection)

타겟 서버의 특성을 분석하여:

  • 사용 DB (MySQL, PostgreSQL 등)
  • 프레임워크 (Node, PHP 등)

를 추정하고,
이에 맞는 동적 페이로드를 생성한다.

 


4. AI 기반 분석 기능 (Skills)

단순 취약점 탐지를 넘어서:

  • 비즈니스 로직 취약점 분석
  • 복합 공격 시나리오 실행
  • 전체 취약점 스캔 자동 orchestration

이 가능한 구조를 설계했다.

 

소스 일부 캡쳐

 

 


5. 자체 보안 기능

스캐너 자체의 안정성도 고려했다:

  • SSRF 방지 로직 내장
  • 민감정보 마스킹 (쿠키, 토큰 등)
  • 안전한 요청 처리 구조

고객사의 민감정보 보안을 위해 AI API로 요청을 보낼 때 민감정보 마스킹 처리 진행


5. 실제 진단 해보기

MCP 연동 후 Claude AI에서 URL 진단 요청.

(더 상세하거나 권한이 필요한 경우 간단하게 Brup Suite MCP를 연동해서 log 정보를 가지고 분석 가능)

 


5. 결과 리포트 작성


 

아키텍처 설계

모듈화 중심으로 설계하여 확장성과 유지보수성을 확보했다.

구조

  • lib/payloads/
    • 취약점별 공격 페이로드 관리
  • lib/detection/
    • 응답 분석 및 취약점 판별 로직
  • lib/http/
    • HTTP 요청 처리 및 페이로드 삽입
  • lib/analysis/
    • 기술 스택 분석
  • lib/waf-bypass/
    • WAF 우회 전략

동작 방식

  1. 외부 AI 또는 시스템이 MCP(JSON-RPC)로 요청 전송
  2. 타겟 HTTP 요청 데이터 입력
  3. 내부 처리 흐름:
기술 스택 분석
→ WAF 우회 전략 적용
→ 취약점별 페이로드 생성
→ HTTP 요청 전송
→ 응답 분석 (탐지 패턴 매칭)
→ 결과 반환
  1. 최종적으로 취약점 및 PoC 결과 제공

기존 도구와의 차별점

항목기존 스캐너본 프로젝트

페이로드 정적 동적 생성
WAF 대응 제한적 우회 전략 포함
분석 방식 패턴 기반 AI 기반
공격 시나리오 없음 있음
확장성 낮음 모듈 구조

핵심 의의

이 프로젝트는 단순한 자동화 도구가 아니라:

“AI를 활용한 모의해킹 자동화 프레임워크”

로 볼 수 있다.

  • 취약점 점검 → 모의해킹으로 확장 가능
  • AI 기반 보안 자동화의 실질적 구현 사례
  • 향후 공격 시뮬레이션 플랫폼으로 발전 가능

향후 발전 방향

  • LLM 기반 자동 exploit 생성 고도화
  • 클라우드 환경 (AWS, Kubernetes) 확장
  • 실시간 공격 대응 시뮬레이션

결론

웹 보안은 단순한 취약점 탐지를 넘어 “공격 가능성 검증” 단계로 진화하고 있다.

이 프로젝트는 그 흐름에 맞춰:

  • 자동화
  • 지능화
  • 실전성

을 모두 반영한 구조로 설계되었다.


 

작성한 가이드

보안상 숨김 처리...

 

다음글

2. 직접 개발한 Kali MCP 기반 AI 모의해킹 자동화 시스템: https://iettibulogu.tistory.com/64