2022年6月17日，基金委组织专家对由陈兴蜀教授牵头的自然科学基金区域创新发展联合基金重点项目“面向深度学习的安全验证机理与方法”进行了中期检查。陈兴蜀教授代表项目组汇报了研究进展，项目联合了清华大学计算机学院苏航副教授、四川大学计算机学院彭玺教授，围绕深度学习的模型安全、代码安全以及系统安全开展了深入系统的研究。
在模型安全方面，针对深度学习模型在对抗环境下易于被攻击、不可解释、任务单一等诸多局限，以模型的鲁棒性防御、模型安全的对抗样本压力性测试等问题为研究对象，提出模型鲁棒性训练中对抗样本检测的新方法，提高了模型的鲁棒性和攻击成功率；在代码安全方面，针对深度学习的代码面临的不可验证和不可审查两大难题，从可微编程角度，构建了可判读和可解释的深度神经网络，提高了深度学习模型的可靠性、透明性；在系统安全方面，针对深度学习系统面临的数据隐私与安全风险等问题，提出基于软件隔离、可信计算及异常行为检测构建安全可靠的深度学习安全运行环境的理论及方法，保障用户数据、模型参数等深度学习参与方各自的数据安全。项目在模型鲁棒性、代码透明性和系统运行安全环境构建等方面取得了理论和方法突破，多项研究成果达到业界领先水平。
截止目前，项目共发表论文33篇，其中CCF A类成果CVPR 4篇、NeurIPS 3篇、IJCV 1篇、TIP 1篇、IJCAI 1篇；形成9份专利正处于申请或实质审查阶段；项目成员苏航获得2021年吴文俊人工智能自然科学一等奖1项，陈兴蜀、王启旭、兰晓等获2021年四川省科技进步奖一等奖1项。考核专家肯定了项目取得的阶段性研究成果，给予了A的综合评价意见，并勉励项目研究团队沿着既定目标继续深入研究，并加强各子课题之间的联系，争取早日形成自主可控的深度学习安全计算系统。
