미국 국립표준기술연구소(NIST)가 5월 18일 AI 에이전트 보안에 관한 공개 의견수렴(RFI) 결과를 정리한 분석 보고서를 발표했다. 'NIST Trustworthy and Responsible AI 800-5'로 명명된 이 보고서는 자율적으로 행동하는 AI 에이전트가 기존에는 존재하지 않던 새로운 보안 위협(novel security threats)을 만들어내고 있으며, 이 우려가 이미 산업 현장에서 기술 도입을 가로막는 실질적 장벽으로 작용하고 있다고 명시했다. 보고서는 Jared Riggs, Maia Hamin, Neil Perry, Benjamin Edelman, Peter Cihon 등이 공동 작성했다.

보고서가 강조한 결론은 단호하다. 기본적인 사이버보안 원칙은 에이전트 시대에도 여전히 유효하나, 그 원칙을 그대로 가져다 쓰는 것만으로는 부족하며 에이전트 환경에 맞춰 적응(adaptation)되어야 한다는 것이다. 응답자들은 AI 에이전트가 사람의 직접 개입 없이 외부 시스템에 접근하고 도구를 호출하며 장시간 의사결정을 이어가는 특성 때문에, 권한 관리·신원 검증·로그 추적·격리 같은 전통적 보안 통제의 전제가 흔들리고 있다는 데 폭넓게 동의했다.

다만 정부의 역할 범위를 두고는 의견이 갈렸다. 응답자들이 공통적으로 기대한 정부의 기능은 실행 가능한 가이드라인 제공, 업계 간 정보 공유 촉진, 표준의 개발과 확산 등 세 갈래로 요약됐다. 일부 전문가는 NIST가 보다 구체적인 기술 표준과 평가 체계를 직접 제시해야 한다고 주장한 반면, 다른 쪽에서는 빠르게 진화하는 기술 특성상 정부가 규범적 규제보다는 합의 기반의 프레임워크 조율 역할에 머물러야 한다는 입장을 폈다. 이번 RFI는 그 입장 차이를 정책 수립의 기초 자료로 흡수하기 위한 절차였다.

이번 보고서는 미국 정부가 'AI 에이전트'를 별도의 정책 카테고리로 다루기 시작했음을 공식화했다는 점에서 의미가 크다. 그동안 NIST는 생성형 AI 일반에 대한 위험 관리 프레임워크를 정비해 왔으나, 자율적 실행 능력을 가진 에이전트는 별도의 위협 모델을 요구한다는 인식이 업계와 정부에 동시에 자리잡은 셈이다. 특히 프롬프트 인젝션, 도구 호출 권한 남용, 다중 에이전트 협업 환경에서의 신뢰 전이 같은 문제는 기존 사이버보안 매뉴얼이 명시적으로 다루지 못해 온 영역이다.

향후 NIST는 이번 분석을 토대로 에이전트 전용 보안 가이드라인 초안, 평가 메트릭, 그리고 산업·정부·학계가 공유할 위협 정보 체계를 단계적으로 구체화할 것으로 보인다. 한국 기업과 공공기관에도 시사점은 분명하다. AI 에이전트를 사내 시스템과 외부 API에 연결하는 시점이 빠르게 다가오는 만큼, 기존 ISMS·제로트러스트 체계를 에이전트의 자율 실행 특성에 맞춰 재해석하고, 호출 권한 최소화와 감사 추적 가능성을 설계 단계에서부터 내재화하는 작업이 시급해졌다는 점이다.

NIST