“人工智能安全技术”博士生学术论坛
时间：2023年4月18日15:30-17:00
地点：线下（计算机学院楼A501）
线上（腾讯会议号：128-561-454）
日程：
15:30-16:10
报告1：基于领域自适应与泛化的人脸防伪检测
摘要：
近年来人脸识别技术取得了长足的发展，在人物身份核实等多个领域具有广泛的现实应用。然而，当前的人脸识别系统易受各式各样的未知攻击干扰，例如面具遮挡攻击、翻拍头模攻击等。因此，人脸活体检测技术旨在有效区分出真人和攻击，但是在现实的测试场景中仍然会面临背景光照复杂多变、未知攻击层出不穷、传感设备更新换代等挑战，这些因素都要求系统的鲁棒性适应各种场景，使得现有人脸活体检测模型的泛化性不足。解决上述问题的核心技术就是基于域泛化和域适应的高安全人脸活体检测。因此，本人近期的研究针对域迁移中源域人脸隐私数据难获得、无标签目标域数据缺乏监督、现有模型严重依赖域标签等问题，分别提出了基于生成式域适应、自适应混合专家、样本自适应域泛化的人脸活体检测方法，有效提升了模型在未知目标场景的泛化性和检测精度。
讲者：周千寓
简介：
周千寓，上海交通大学计算机科学与工程系博士生，入选上海交通大学“博士生致远荣誉计划”、上海交通大学吴文俊人工智能荣誉博士班，导师为国家杰出青年科学基金获得者马利庄教授。在读期间以第一作者、共同第一作者和通讯作者发表（含录用）CCF-A类和B类高水平学术论文13篇，其中以第一作者在IEEE TPAMI、 CVPR、 ECCV、 ACM MM等国际顶级期刊和顶级会议上发表（含录用）8篇学术论文。担任IEEE TPAMI、IEEE TIP、CVPR、ICCV、ECCV、AAAI等国际顶级期刊和顶级会议的受邀审稿人。研究方向为计算机视觉和迁移学习。
16:15-16:55
报告2：面向深度学习的对抗攻击、防御及可解释性初探
摘要：
对抗样本在深度神经网络的普遍存在为人工智能在现实世界的应用，特别是安全敏感型的应用带来了巨大挑战。本次报告将首先介绍在深度视觉图匹配这一子领域的对抗攻击和防御问题，之后会从因果不变性的角度解读深度视觉学习任务鲁棒性问题，讲者还将从频域角度出发，应用Shapley Value方法给出对抗样本的存在机理的新假设。最后会简单介绍在组合优化问题领域的鲁棒性测评问题。
讲者：任麒冰
简介：
任麒冰，上海交通大学博士一年级在读，吴文俊人工智能荣誉博士班班长，导师为国家杰出青年科学基金获得者马利庄教授。已获得上海交通大学学士和硕士学位。获评国家奖学金、上海奖学金等荣誉，以第一作者在CVPR、KDD国际顶级会议上发表论文2篇，担任ECCV、ICCV、ICML、KDD、NeurIPS、CVPR等国际会议的受邀审稿人。研究方向为可信机器学习和计算机视觉方向，包括对抗攻击和防御、可解释、自监督等领域。
