指南发布 | 智能体应用程序安全指南&AI智能体—威胁与缓解措施

智能体应用程序安全指南

本指南旨在为设计、开发和部署基于大语言模型(LLM) 的安全智能体应用程序提供实用且可操作的指导。该指南与OWASP 智能体人工智能威胁与缓解 (ASI T&M) 文档相辅相成，重点关注构建者和防御者可以直接应用的具体技术建议。

范围和受众

受众： 本指南主要面向参与构建、保护或评估工作流和智能体人工智能应用程序的软件开发人员、人工智能/机器学习工程师、安全架构师、安全工程师和技术主管。

本指南包括：

·智能体系统的技术安全控制和最佳实践。

·智能体人工智能特有的安全架构模式。

·常见智能体威胁的缓解策略。

·贯穿开发生命周期（设计、构建、部署、运维）的指导。

·关键组件（例如大语言模型 (LLM)、编排、内存、工具和运行环境）的考量因素。

·安全原则在不同智能体架构（单智能体、多智能体等）中的应用示例。

中文项目支持者

组长：肖文棣

成员：肖文棣、刘志诚

审核：肖文棣、张坤、王颉

编排：肖文棣

AI智能体-威胁与缓解措施

AI智能体是自主系统的一项进步，并且越来越多地由大语言模型（LLMs）和生成式 AI 所支撑。尽管AI 智能体早于现代大语言模型（LLM）的出现，但它与生成式AI 的融合，大幅拓展了自身的规模、能力及潜在风险。本文件是 OWASP 智能体安全倡议（ASI）系列指南中的第一份，旨在基于威胁建模的方法呈现新出现的智能体威胁，并讨论其缓解措施。

本文件将：

l定义范围与目标受众

l提供智能体术语、能力和架构的定义

l讨论威胁建模方法，并提供一个参考威胁模型，以讨论新的智能体威胁及其缓解措施

l通过四个示例场景的威胁模型说明不同环境下的威胁

l使用结构化且详细的智能体威胁分类法记录威胁

l详细描述缓解措施与行动指南（playbooks）

版本1.0   2025 年 12 月

项目组组长：张坤王斌

项目组成员：刘畅肖文棣

审核：王斌肖文棣王颉