AI 보안 스타트업 런시빌(RunSybil)의 최고경영자 아리 허버트-보스(Ari Herbert-Voss)가 "버그 발견부터 실제 동작하는 익스플로잇 완성까지 걸리는 시간이 2023년 약 5개월에서 2026년 현재 단 10시간으로 붕괴됐다"고 경고했다. 최전선 거대언어모델(LLM)이 단순한 코딩 보조도구를 넘어 사이버 공격 체인 전반을 자동화하는 핵심 엔진으로 부상했다는 의미로, 공격자와 방어자 사이의 비대칭성이 임계점을 넘었다는 진단이다.

허버트-보스 CEO에 따르면 과거에는 보안 연구자가 취약점 후보를 식별한 뒤 메모리 레이아웃을 분석하고, ROP 체인을 구성하고, 우회 페이로드를 다듬어 안정적으로 실행되는 익스플로잇을 만들기까지 평균 5개월가량의 인적 노동이 필요했다. 그러나 추론 능력이 강화된 최신 LLM은 디스어셈블된 바이너리와 패치 정보를 입력받아 취약점의 원인 분석, 트리거 입력 합성, 익스플로잇 코드 작성, 회피 기법 적용까지를 사실상 한 번의 파이프라인으로 처리한다. 그 결과 동일한 작업이 약 10시간 안팎으로 압축된다는 것이다.

이 같은 변화의 동력은 세 가지로 요약된다. 첫째, 코드와 보안 데이터에 특화된 학습이 누적되며 모델이 어셈블리·취약점 패턴·메모리 안전성 이슈를 깊이 이해하게 됐다. 둘째, 도구 사용(Tool Use)과 에이전트 루프가 표준화되면서 LLM이 디버거·퍼저·디컴파일러를 직접 호출해 가설을 검증하고 자기 출력을 교정한다. 셋째, 추론 시간(test-time compute)을 늘려 한 문제에 수십~수백 번의 시도를 병렬로 굴릴 수 있게 되면서, 과거 인간 전문가의 직관에 의존하던 영역까지 무차별 탐색으로 돌파하는 방식이 가능해졌다.

보안 업계가 우려하는 지점은 단순히 빨라졌다는 사실이 아니라 "공격 비용 곡선의 기울기"가 꺾였다는 점이다. 5개월짜리 작업은 국가 지원 해커나 고급 레드팀의 영역이었지만, 10시간짜리 작업은 사실상 누구나 동시다발적으로 수행할 수 있는 일상적 업무가 된다. 이는 N데이(N-day) 패치 공개 직후 며칠 단위로 이뤄지던 무기화가 시간 단위로 압축돼 패치 적용 윈도가 사실상 사라진다는 것을 뜻한다. 또한 동일한 자동화가 제로데이 발굴에도 적용되면서, 방어 측이 자체적으로 LLM 기반 공격 시뮬레이터를 갖추지 않으면 위협 모델 자체가 성립하지 않는 상황이 다가오고 있다.

런시빌은 이러한 흐름에 대응해 LLM을 공격자 관점에서 운용하며 방어 측 취약점을 선제적으로 색출하는 자동화 펜테스트 플랫폼을 구축하고 있다. 허버트-보스 CEO는 결국 "AI 대 AI"가 사이버 보안의 새로운 디폴트가 될 것이며, 이 군비 경쟁에서 뒤처지는 조직은 인간 보안 인력만으로는 결코 따라잡을 수 없는 속도 격차에 노출될 것이라고 강조했다.

전망 측면에서, 업계 관측통들은 향후 12~18개월 내에 익스플로잇 자동 생성 시간이 다시 한 자릿수 시간 또는 분 단위로 진입할 가능성을 거론한다. 이에 따라 책임 있는 공개(Responsible Disclosure) 관행, 패치 배포 인프라, 메모리 안전 언어로의 전환 같은 근본적 방어 전략이 재검토 대상에 오르고 있으며, 프런티어 모델 제공사들이 공격 능력 평가(offensive cyber evaluation)를 모델 출시 전 의무 절차로 격상해야 한다는 목소리도 커지고 있다.

Radical Data Science — AI News Briefs Bulletin Board for May 2026