OWASP机器学习安全风险TOP10

当攻击者故意更改输入数据以误导模型时，就会发生对抗性攻击。

当攻击者操纵训练数据导致模型以不良方式运行时，就会发生数据投毒攻击。

当攻击者对模型进行逆向工程以从中提取信息时，就会发生模型反转攻击。

当攻击者操纵模型的训练数据以使其行为暴露敏感信息时，就会发生成员推理攻击。

当攻击者获得对模型参数的访问权时，就会发生模型窃取攻击。

当攻击者修改或替换系统使用的机器学习库或模型时，就会发生损坏的组件包攻击。

当攻击者在一个任务上训练模型，然后在另一个任务中对其进行微调，导致结果未按照预期产生，就会发生迁移学习攻击。

当攻击者操纵训练数据的分布，导致模型以不希望的方式运行时，就会发生模型偏斜攻击。

当攻击者的目的是为了改变其 ML 模型的行为或对使用该模型的系统造成损害，从而修改或操纵 ML 模型的输出结果，就会发生输出结果完整性攻击。

当攻击者操纵模型的参数使其以不良的方式运行时，就会发生神经网络重编程攻击

感谢以下中文项目参与人员（按拼音顺序排列）：戴楚南、吴楠、肖文棣、张坤、张淼