2024年1月11日下午，意大利卡利亚里大学郭巍博士后就“针对DNN模型的后门攻击”这一主题与我院教师和研究生进行了线下分享和交流。本次讲座由我院邵俊老师主持。
郭巍，意大利卡利亚里大学（University of Cagliari）博士后研究员，参与欧盟AI安全灯塔项目（European Lighthouse on Security and Safety AI）。2023年，博士毕业于意大利锡耶纳大学（University of Siena）。相关工作发表于PRL，TDSC，TIFS等期刊。参与TIFS，TDSC，NIPS，ICLR等期刊会议审稿。
郭老师首先介绍了后门攻击的定义和在深度神经网络模型发生的后门攻击安全威胁事件。随后，郭老师详细介绍了针对DNN模型的威胁模型及其分类，包括完全控制模型和部分控制模型。基于这两个威胁模型，郭老师提出了针对DNN模型的两种攻击方式，即MF后门攻击和Video后门攻击，并介绍了这两种攻击的威胁目标。最后，郭老师介绍了针对DNN模型的防御策略，包括从数据级别、模型级别和训练集级别三方面实现对后门攻击的防御。
报告结束后，老师和同学们积极向郭老师提出自己的问题和想法，如：“在后门攻击的标签分类阶段中，除了划分中毒标签和干净标签外是否还有其他的标签分类方法”“在针对干净标签的攻击中，是否存在攻击方式使得一个触发器同时映射两个标签的情况”“对抗攻击和后门攻击的区别是什么”等问题，郭老师都一一进行回答。