人工智能安全白皮书(2018)

全球新一轮科技革命和产业变革方兴未艾，而作为引领新一轮科技革命和产业变革的核心驱动力量之一，人工智能技术将加快转变为像水、电一样的基础设施，向社会全行业全领域赋能。然而，人工智能基础设施却潜藏安全风险，所以人工智能的内生安全（简称AI安全）是这项变革的重要组成部分，近几年，无论是学术界还是工业界都在加强对AI安全的布局、以及前瞻研究，相关威胁也日益引起重视。

2019年，蚂蚁集团联合浙江大学成立了“浙江大学-蚂蚁集团金融科技研究中心”，“数据安全与隐私保护实验室”是中心成立的第一个实验室，由浙江大学任奎教授、蚂蚁集团副总裁韦韬任联席主任。《人工智能安全白皮书（2020）》是该实验室成果之一，耗费近一年时间研究撰写完成，该白皮书完整版篇幅将近6万字。该白皮书从学界、业界的共同视角全方位阐述人工智能安全，系统性地归纳和总结AI 模型、AI 数据与AI 承载系统面临的安全威胁；并根据不同的应用场景与攻击者的威胁模型，分析近年来相关研究的优缺点；此外还探讨了AI安全技术的进一步发展趋势，面向未来提出了AI 应用的系统化安全解决方案。

人工智能安全任重道远，蚂蚁集团期望未来与各界同仁一起为人工智能安全做出贡献，通过发展可证安全的人工智能，为国家人工智能战略做好坚实的安全基础，提供强有力的保证，让人工智能技术真正在各行各业创造新的可靠的生产力。