摘要：

基于神经网络人工智能技术的显著进步使得智能算法已经渗透到日常生活的各个方面。随着物联网设备的大量部署，逐渐用于航空航天、自动驾驶等安全攸关的国家重点领域。这对智能算法的可信性提出了更高的要求。然而，由于智能算法规模庞大、结构复杂、运行环境开放，且通常涉及人机交互，其可信性很难保障。报告讨论神经网络模型的鲁棒性、安全性分析可靠及完备算法，通过符号传播、约束求解、及基于PAC（Probably Approximately Correct）模型学习等方法对神经网络模型验证分析，讨论神经网络安全验证的白盒及黑盒方法。我们通过开源自动驾驶平台ISS介绍课题组在可新智能算法安全验证取得的系列进展。

报告人简介：

张立军，中国科学院软件研究所研究员，主要从事形式化方法、智能算法可靠性研究，在学术会议及期刊发表了一百余篇论文。2013年加入中科院软件所，回国前曾任丹麦科技大学长聘副教授。致力于概率与混成模型量化分析、可信智能软件等前沿技术的研究。担任国际逻辑大会 LICS 2020（CCF A类会议）共同主席，及TACAS 2019、CONCUR 2018（CCF B类会议）程序委员会主席。获国家自然科学基金委员会“重点项目”、科技部重点研发课题、中德国际合作等多项项目资助。2022年获中科院稳定支持基础研究团队项目资助，作为负责人带领研究开放环境下的可信智能算法。