神经网络在很多系统里得到了广泛的运用，其中包括很多安全攸关的系统（比如自动驾驶以及人脸识别）。令人担心的是，科学家们发现了很多与神经网络相关的安全问题，比如后门攻击，鲁棒性问题等等。相比传统软件，神经网络上的这些问题更不容易解决，因为人们无从理解神经网络是如何工作的。那我们要怎么才能确保安全攸关的神经网络值得信赖呢？传统的程序分析的方法还适不适用呢？在本报告里，我会介绍一些近期的研究，以及现有方法的局限。
形式化方法
孙军
