目前国际、国家层面纷纷提出了人工智能的发展战略,但人工智能模型仍面临着数据污染,对抗攻击,后门模型,隐私窃取等关键威胁,这些威胁将造成模型性能受损甚至导致用户隐私泄露。陈教授结合团队研究基础,介绍了从图像识别、多智能体到现实信息物理设备等多个领域的攻防安全工作。例如,其团队研发的一种通用对抗样本的防御方法,通过在输入样本上叠加通用扰动,可以使对抗样本的攻击失效,同时维持正常样本的分类结果。
[人工智能, 可信计算, 信息安全]
陈晋音