PhD Debate-11 预告 | 回顾与展望神经网络的后门攻击与防御

点击蓝字

关注我们

AI TIME欢迎每一位AI爱好者的加入！

7月9日20:00-21:30，本期PhD Debate直播间邀请了来自宾夕法尼亚州州立大学电子工程系博士生向臻、清华大学博士生李一鸣、弗吉尼亚理工计算机工程博士生曾祎和普渡大学计算机科学博士生沈广宇，与大家一起回顾与展望神经网络的后门攻击与防御。

1.近年来，针对神经网络的后门攻击引起了广泛的关注。现有后门攻击的特点，设计的难点，以及未来研究的方向有哪些？

2. 后门攻击和对抗攻击在预测过程中均需要对样本进行修改，后门攻击与对抗攻击也是如今神经网络安全研究的两个重要的方向，大家如何看待这两个方向的区别与相似之处？

3. 现有后门防御的特点，设计的难点，以及未来研究的方向有哪些？

4. 如何看待和设计新任务上的后门攻击和后门防御？

哔哩哔哩直播通道

扫码关注AITIME哔哩哔哩官方账号预约直播

* 嘉宾简介 *

向臻:

宾夕法尼亚州州立大学电子工程系博士生，师从David J. Miller以及George Kesidis。主要研究方向为可信赖人工智能（包含后门攻击，投毒攻击，与躲避攻击等多个方向）以及统计信号处理。在TNNLS，Computer&Security，Neural Computation等期刊，以及ICLR，ICASSP，ICCV等会议发表一作学术论文多篇并担任多个国际会议、期刊的审稿人。

李一鸣:

清华大学四年级在读博士生，师从夏树涛和江勇教授。其研究方向为AI安全，主要包括后门学习、对抗学习和数据隐私保护。其在ICCV、 ICLR、 AAAI、IEEE TNNLS、 Pattern Recognition等AI相关顶级会议和期刊发表学术论文多篇。曾受邀担任AAAI 2022会议高级程序委员会成员，NeurIPS、ICML、ICLR等会议程序委员会成员，以及IEEE TPAMI、IEEE TDSC、IEEE TNNLS等期刊审稿人。曾获清华大学‘未来学者’、腾讯‘犀牛鸟精英人才’等荣誉。个人主页：http://liyiming.tech

曾祎:

弗吉尼亚理工计算机工程二年级博士生，师从Ruoxi Jia。个人主攻兴趣为人工智能安全。他的论文曾获得第20届ICA3PP国际会议最佳论文奖。他的论文主要发表在计算机领域顶会（如ICLR、ICCV、IJCAI、AsiaCCS）以及顶刊（例如 IEEE TII、IEEE TC、IEEE Access 等）。个人主页：https://www.yi-zeng.com/

沈广宇:

普渡大学计算机科学二年级博士生，师从Xiangyu Zhang。其研究方向为AI安全，包括在不同模态神经网络中的后门攻击，检测和防御（如计算机视觉，自然语言处理）在CVPR, ICML, S&P 等会议发表一作学术论文并多次担任顶级会议审稿人。个人主页: https://www.cs.purdue.edu/homes/shen447/

* 主持人*

毛海涛：

密歇根州立大学一年级博士生，师从汤继良教授，曾以一作身份获CIKM2021 best short paper award，曾受邀担任NeurIPS，ICML等会议程序委员会成员。

直播结束后大家可以在群内进行提问，请添加“AI TIME小助手（微信号：AITIME_HY）”，回复“PhD-5”，将拉您进“AI TIME PhD 交流群-5”！

AI TIME微信小助手

主       办：AI TIME 

合作媒体：AI 数据派、学术头条

合作伙伴：智谱·AI、中国工程院知领直播、学堂在线、蔻享学术、AMiner、 Ever链动、科研云

往期精彩文章推荐

记得关注我们呀！每天都有新知识！

 关于AI TIME 

AI TIME源起于2019年，旨在发扬科学思辨精神，邀请各界人士对人工智能理论、算法和场景应用的本质问题进行探索，加强思想碰撞，链接全球AI学者、行业专家和爱好者，希望以辩论的形式，探讨人工智能和人类未来之间的矛盾，探索人工智能领域的未来。

迄今为止，AI TIME已经邀请了600多位海内外讲者，举办了逾300场活动，超210万人次观看。

我知道你

在看

哦

~

点击 阅读原文 预约直播！