AI安全

2026 网络安全行业趋势观察:合规驱动、AI 赋能与攻防博弈

2026-08-07
从数据出境、关基保护到 AI 安全监管,本文梳理 2026 年网络安全行业的政策、技术与市场三大主线,并给出安全从业者的应对建议。

AI 智能体(Agent)安全威胁全景与防护实践

2026-08-06
自主智能体正在代码、运维与办公场景快速落地,提示注入、工具滥用、越权调用等新型威胁随之浮现。本文给出分层防护实践与上线检查清单。

大模型供应链安全:当 AI 遇见开源组件风险

2026-08-05
大模型的训练与推理链路高度依赖开源框架、预训练权重与第三方数据集。本文从 OWASP 视角剖析大模型供应链的关键风险点,并提出可落地的防护框架。

指南发布 | 智能体应用程序安全指南&AI智能体—威胁与缓解措施

2025-12-26
智能体应用程序安全指南OWASP面向大语言模型应用与通用AI智能体的安全计划:十大风险PART 01内容介绍 智能体应用程序安全指南本指南旨在为设计、开发和部署基于大语言模型(LLM) 的安全智能体应用程序提供实用且可操作的指导。该指南与OWASP 智能体人工智能威胁与缓解 (ASI T&M) 文档相辅相成,重点关注构建者和防御者可以直接应用的具体技术建议。范围和受众受众: 本指南...

项目发布 | 智能合约十大风险2025

2025-02-22
智能合约十大风险OWASP Smart Contract Top 10 2025OWASP 智能合约十大风险(2025)是一份标准安全意识文档,旨在为 Web3 开发者和安全团队提供关于智能合约中最常见的十大风险的深入解析。 作为参考指南,确保智能合约能够抵御近年来被利用或发现的最关键安全漏洞。SC01:2025 访问控制漏洞Access Control VulnerabilitiesSC0...

项目发布 | OWASP 大语言模型应用程序十大风险 2025

2024-12-31
在这个AI技术日新月异的时代,大规模语言模型(LLM)正以前所未有的速度重塑各行各业。从客户互动到内部运营,LLM技术的广泛应用为我们的工作和生活带来了前所未有的便捷与效率。然而,随着技术的深入渗透,一系列安全挑战也随之浮现,不容忽视。自2023年起,OWASP携手全球安全社区,共同启动了《大规模语言模型应用Top 10》项目,旨在照亮LLM应用中的安全盲区,为开发者与安全专家搭建起一座...

腾讯混元联合清华、OWASP 中国发布《大语言模型(LLM)安全性测评基准 v1.0》

2023-12-31
腾讯混元大模型、腾讯朱雀实验室联合清华大学深圳国际研究生院与 OWASP 中国,共同发布《大语言模型(LLM)安全性测评基准 v1.0》。该基准聚焦大语言模型在 Prompt 安全和内容安全两大维度的防护能力,旨在为企业在大模型应用与服务选型中提供全面、客观、中立的安全性评测参考。发布背景:大模型安全合规需求日益迫切自 2022 年以来,以 GPT 系列为代表的大语言模型技术快速发展,国内外...

基准发布|大语言模型(LLM) 安全性测评基准 v1.0

2023-11-24
大语言模型(LLM)安全性测评基准2022年以来,大语言模型(LLM)技术在自然语言处理领域得到了广泛的应用和发展,GPT系列模型因其惊人的语言生成能力获得世界瞩目,国内外各大厂商也在此领域展开了激烈竞争。2023年8月15日,国家六个部委发布的《生成式人工智能服务管理暂行办法》正式施行,该办法强调了大语言模型安全的重要性,防止生成潜在隐私泄露、违法犯罪内容。因此,为评估大语言模型应用及服务...