项目发布 | OWASP 大语言模型应用程序十大风险 2025

2024-12-31 01:46

图片

在这个AI技术日新月异的时代,大规模语言模型(LLM)正以前所未有的速度重塑各行各业。从客户互动到内部运营,LLM技术的广泛应用为我们的工作和生活带来了前所未有的便捷与效率。然而,随着技术的深入渗透,一系列安全挑战也随之浮现,不容忽视。🔍

自2023年起,OWASP携手全球安全社区,共同启动了《大规模语言模型应用Top 10》项目,旨在照亮LLM应用中的安全盲区,为开发者与安全专家搭建起一座沟通的桥梁。经过两年的不懈努力,2025版Top 10正式面世!🎉

2025版的更新,不仅是对2023年成果的深化与拓展,更是全球多元化智慧碰撞的结晶。我们与来自世界各地的贡献者紧密合作,通过无数次的头脑风暴、严谨投票,以及直接来自LLM应用安全一线的专业反馈,精心打磨出这份全面而实用的安全指南。🌍

LLM01:2025 提示注入

LLM02:2025 敏感信息披露

LLM03:2025 供应链

LLM04: 2025 数据和模型投毒

LLM05:2025 不当输出处理

LLM06:2025 过度代理

LLM07:2025 系统提示泄露

LLM08:2025 向量和嵌入的弱点

LLM09:2025 虚假信息

LLM10:2025 无界消费

项目成员

Steve Wilson(项目负责人)

Ads Dawson(技术负责人 & 漏洞条目负责人)

中文项目组

张坤(项目负责人/OWASP中国北京分会负责人)

陈殷(项目成员)

刘畅/玄道(项目成员)





附件下载(1):
  • OWASP大语言模型应用程序十大风险V1.0.pdf
昵称:
内容:
验证码:
提交评论
评论一下