报告题目：如何信任人工智能？探索具有可证明鲁棒性的神经网络

报告人：许凯第

报告时间：2023年3月14日上午9点30

报告地点：江安校区多学科交叉研究创新大楼一楼A103报告厅

报告内容：神经网络已成为现代人工智能的重要组成部分。这些网络通常是黑盒的，有时会出现不可预测的行为并产生出人意料的错误结果。把神经网络应用于自动驾驶和飞机控制等关键任务系统时，通常需要形式验证其可信度，如安全性和对抗攻击鲁棒性。但神经网络的复杂性使得形式验证其属性的任务极具挑战。为了应对这一挑战，我们首先提出了一种基于神经网络线性规划松弛的高效验证算法，这种算法在给定有界输入扰动的情况下产生有保证的输出界限。我们的算法以反向传播的方式高效地在神经网络上传播线性不等式，并且可以使用我们的 auto_LiRPA 库应用于任意网络架构。为了减少从线性规划松弛产生的错误，我们进一步开发了一种高效的优化步骤，使得验证上下界快速逼近。最后，讨论了如何通过把附加的分支约束合并到边界传播过程中，从而给验证器增加分支定界的能力。这些先进的神经网络验证技术的结合整合出了alpha-beta-CROWN，这是一种强大的可扩展的基于 GPU 的神经网络验证器，它以最高分在 2022 年和 2023 年赢得了国际神经网络验证竞赛(VNNComp)。

报告人简介：许凯第，美国Drexel University计算机科学系的助理教授，在2021年于东北大学获博士学位，2017年于佛罗里达大学获得硕士学位，2015于3200威尼斯vip获得本科学位。许教授的主要研究兴趣是机器学习的对抗攻击健壮性，其Google Scholar引用1600+，许教授在各种顶级国际会议上发表文章，他的作品《Adversarial T-shirt》获得了 200 多家媒体的报道。

欢迎广大师生踊跃参加！

3200威尼斯vip

2023年 3月13日