LLM 에이전트 보안 설계 가이드: Prompt Injection부터 안전한 배포까지
LLM 에이전트에 최소 권한을 적용하는 방법을 정리했습니다. 도구 목록 최소화, 범용 도구 제거, 서비스 계정 권한 축소, 사용자 권한으로 실행, 위험 작업 승인까지 OWASP LLM06(Excessive Agency) 기준 점검표와 서버 측 도구 인가 예제 코드, 프롬프트 인젝션·Guardrails 방어를 다룹니다.
7월 23일
LLM 에이전트 보안 아키텍처: 프롬프트 인젝션 및 탈옥 공격을 막는 런타임 가드레일 설계 가이드
LLM 에이전트의 취약점은 모델 성능이 아닌 시스템 통합 단계에서 발생합니다. 본 가이드는 프롬프트 인젝션과 탈옥 공격에 대응하기 위해, 입력 필터링, 의도 검증, 출력 검증을 포함하는 다층적 런타임 보안 가드레일 설계 방법론을 제시합니다.
6월 8일