2022年09月02日下午，复旦大学陈静静研究员就“面向视频模型的对抗攻击方法研究”这一主题与我院教师和研究生进行了在线分享和交流。本次讲座由我院董建锋老师主持。
陈静静，复旦大学计算机科学技术学院青年副研究员。上海浦江人才计划入选者。2018年在香港城市大学获得博士学位，2018年9 月～2019年7月在新加坡国立大学从事博士后工作，2019年7月被复旦大学计算机科学技术学院引进为青年副研究员。主要研究领域为多媒体内容分析、计算机视觉、多媒体模型安全等。主持/参与了包括国家自然科学基金、科技部2020年“科技创新2030-新一代人工智能”重大项目、上海市行动创新计划等多项科研项目。在 ACM Multimedia, CVPR, ICCV，AAAI，ICMR，IEEE TIP，IEEE TMM等重要国际会议、期刊上发表论文 30 余篇，曾获得ACM Multimedia 2016最佳学生论文奖、Multimedia Modeling 2017 最佳学生论文奖。担任多个国际知名期刊审稿人、国际会议领域主席/程序委员会委员。
陈老师指出随着以深度学习为代表的新一代人工智能的发展，智能视频技术取得了突破性进展，并广泛应用于生活的方方面面，但是现有的智能视频系统并不安全：恶意生成的细微扰动便可以欺骗智能视频识别系统，因此研究智能视频系统在对抗样本攻击下的安全性已经吸引了大量关注，成为一个重要的研究方向。陈老师进一步指出一方面，研究针对视频模型的对抗样本有助于帮助发现模型的安全漏洞，提高智能视频模型在实际应用中的安全性；另一方面，研究对抗样本的攻防理论有助于加深对深度学习技术机理的理解，以设计更加鲁棒的机器学习算法。陈老师同时还介绍了面向视频识别模型的对抗攻击算法最新进展进行介绍，包括基于启发式搜索的黑盒场景攻击算法，基于时序平移的视频迁移对抗攻击方法以及面向视频识别模型的弹幕攻击等。
报告结束后，老师和同学们积极向陈老师提出自己的问题和想法，如：“黑盒与白盒攻击的区别”、“模型攻击的迁移性”、“通过视频光流来快速生成视频对抗样本”等问题，陈老师都一一进行回答。