2024年6月11日上午，美国堪萨斯大学罗勃教授就“机器学习与网络安全：两个热词的故事”这一主题与我院教师和研究生进行了线下分享和交流。本次讲座由我院邵俊老师主持。
罗勃现为美国堪萨斯大学电子电气与计算机科学系教授，也是堪萨斯大学信息科学研究所高可靠安全系统中心主任。其分别于2001年、2003年和2008年在中国科学技术大学、香港中文大学和美国宾州州立大学获得学士、硕士和博士学位。其目前主要聚焦在人工智能与安全隐私交叉领域研究，已在学术会议和期刊上发表论文百余篇，包括IEEE S&P、ACM CCS、USENIX Secuity、NDSS、ACM MItimedia、IEEE TKDE、IEEE TIFS、IEEE TDSC等。其获得2023年堪萨斯大学电子电气与计算机科学系本科教学优秀奖，堪萨斯大学米勒学者奖2016、2017、2021，堪萨斯大学米勒专业发展奖2015。其还获得ACSAC 2017、ACSAC2021和ACMIIEEE ICPC2024最佳论文奖，CCS2022最佳论文提名奖。
罗老师首先介绍了简单的对抗性机器学习攻击，重点围绕图片如何在视觉上实现隐蔽、用户是否能够识别攻击的图像和如何使得攻击变得隐蔽三个问题展开介绍。然后，罗老师介绍了LoneNeuron攻击，这是一种使用不可见和多态水印的神经木马攻击。随后，罗老师介绍了一种机器学习的对抗性防御方法，即基于多视图不一致性的通用对抗性示例检测方法，该方法旨在分辨图像内容与误分类标签之间的内在差异。之后，罗老师介绍了在大语言模型上的工作，该工作旨在研究如何区分chatgpt生成的学术论文和人为创作的学术论文。最后，罗老师介绍了机器学习在网络安全应用上的工作，即如何从公共Wifi中识别连接的移动设备或物联网设备。
报告结束后，老师和同学们积极向罗老师提出自己的问题和想法，如：“图片的一致性比较是使用什么技术实现的”“如何处理机器学习中数据中毒的情况”“chatgpt是否可以用于语法检测”等问题，罗老师都一一进行回答。