意大利卡利亚里大学郭巍博士后讲座报告成功亚洲无转码直接进入手机亚洲无转码直接进入手机亚洲无转码直接进入手机亚洲无转码直接进入手机

       2024111下午意大利卡利亚里大学郭巍博士后“针对DNN模型的后门攻击”这一主题与我院教师和研究生进行了线下分享和交流。本次讲座由我院邵俊老师主持。

 

图片

       郭巍,意大利卡利亚里大学(University of Cagliari)博士后研究员,参与欧盟AI安全灯塔项目(European Lighthouse on Security and Safety AI)。2023年,博士毕业于意大利锡耶纳大学(University of Siena)。相关工作发表于PRL,TDSC,TIFS等期刊。参与TIFS,TDSC,NIPS,ICLR等期刊会议审稿。

 

       郭老师首先介绍了后门攻击的定义和在深度神经网络模型发生的后门攻击安全威胁事件。随后,郭老师详细介绍了针对DNN模型的威胁模型及其分类,包括完全控制模型和部分控制模型。基于这两个威胁模型,郭老师提出了针对DNN模型的两种攻击方式,即MF后门攻击和Video后门攻击,并介绍了这两种攻击的威胁目标。最后,郭老师介绍了针对DNN模型的防御策略,包括从数据级别、模型级别和训练集级别三方面实现对后门攻击的防御。

 

       报告结束后,老师和同学积极向老师提出自己的问题和想法,如在后门攻击的标签分类阶段中,除了划分中毒标签和干净标签外是否还有其他的标签分类方法在针对干净标签的攻击中,是否存在攻击方式使得一个触发器同时映射两个标签的情况”“对抗攻击和后门攻击的区别是什么等问题,老师都一一进行回答