2023年3月9日上午。学院邀请了湖南大学信息科学与工程学院胡玉鹏教授在线下为3200威尼斯vip师生带来了一场题为“矛与盾：人工智能范式下的安全系统与系统安全”的学术讲座。

  胡玉鹏教授是教育部普通高等学校本科教育教学评估专家、中国工程教育认证专家、湖南大学现代工程训练中心副主任，入选湖南省杰青、芙蓉学者、湖湘青年英才。目前已主持国家保密科研B类重点项目、国家自然科学基金面上项目等国家和省部级课题三十余项，以及华为等高新技术企业的技术攻关项目十余项。在ACM CSUV、IEEE TDSC、IEEE TCAD、IEEE TC、IEEE TCC、IEEE IoT-J、IEEE/IFIP DSN、CODES+ISSS、IEEE CLUSTER等发表论文80余篇，包括获得ACM SIGBED国际旗舰会议CODES+ISSS 2022最佳论文提名、第六届中国科协优秀科技论文奖等。

  随着近期ChatGPT的出现，人工智能的安全问题也再次受到了人们的关注。胡玉鹏教授就人工智能范式下安全系统存在的内生安全缺陷进行了详细的介绍，并强调了这些缺陷所带来的安全风险。由于人工智能模型的复杂性，潜在攻击者可以恶意修改训练或测试数据的分布以破坏模型结构。这种内生的安全隐患所引发的安全问题日益突出，因此构建对抗机器学习攻击的安全系统显得尤为重要。

  胡玉鹏教授首先以基于深度学习的智能语义分析在稀疏敏感文本挖掘和系统代码漏洞挖掘中的应用实践为例，介绍了人工智能技术在构建安全系统方面的一些应用研究，阐述了人工智能技术在构建安全系统方面的前景和应用场景。接着，胡教授对AI系统的数据收集、数据预处理、模型训练、模型推理、系统集成全生命周期的安全问题展开了深入的探讨。针对机器学习攻击技术（如对抗样本攻击、投毒攻击、后门攻击等）所带来的安全风险，阐述了最新的攻击与防御技术，并探讨了如何利用高效的混淆技术构建能有效对抗机器学习攻击的PUF系统，以保障人工智能系统内部安全结构不被机器学习技术推测。

  会上，胡玉鹏教授不仅介绍了人工智能技术在构建安全系统方面的最佳实践，也对未来的研究发展方向给出了展望，加深了同学们对人工智能技术的认识和理解。

3200威尼斯vip

2023年3月12日