2024年1月28日下午，“人工智能与安全学术研讨会”在成都市顺利召开。本次会议由数据安全防护与智能治理教育部重点实验室、清华大学计算机系、四川大学网络空间安全学院(研究院)和四川大学国家智能社会治理实验基地(教育)主办。研讨会围绕人工智能及大模型带来的安全性、可靠性和隐私保护问题，探讨如何确保人工智能技术的安全可靠，为人工智能技术开发和应用保驾护航。

  会上，四川大学副校长侯太平首先做了致辞发言。他表示，人工智能是引领新一轮科技革命和产业变革的战略性技术，也具有明显的“双刃剑”特征。我国高度重视人工智能安全问题，四川大学开展“智能+”相关重点学科布局。希望研讨会能够为推动人工智能安全发展贡献智慧和力量。

  重庆邮电大学副校长王国胤教授作了“‘大数据+大模型+大算力’的人工智能未来发展探讨”的报告。王教授首先介绍了人工智能技术的进展，分析了人类认知与人工智能技术认知的区别，着重阐释了ChatGPT认知能力的局限性。随后，分析了多粒度认知计算的学术思路形成历程。最后对认知计算的未来进行展望。

清华大学人工智能研究院副院长朱军教授作了题为“Adversarial Defense from a Generative Perspective”的报告，从概率建模和生成模型的角度系统阐述了深度神经网络的对抗鲁棒机理，并且介绍了如何通过扩散模型等概率建模的方法从理论上提升深度学习鲁棒性的相关技术进展。

  武汉大学国家网络安全学院执行院长王骞教授作了“智能系统数据安全”的报告，从智能系统的各个阶段（数据集、训练阶段、识别阶段和部署阶段）面临的安全问题，分阶段介绍了智能系统中的数据安全风险、成果及应用场景。

  西安交通大学网络空间安全学院沈超教授作了“AI大模型的安全与隐私风险”的报告，首先从个人、社会和国家层面，分析了AI大模型的安全与隐私风险。随后，介绍了国内外AI安全与隐私相关法案。最后，通过对AI大模型的完整性、保密性、可用性角度的分析，具体阐释了AI大模型的多个问题。

四川大学网络空间安全学院（研究院）院长陈兴蜀教授作了“基于可信执行环境构建AI即服务安全体系”的报告，从AI即服务的风险、可信计算赋能AI安全和安全可信的AI计算环境构建三个角度展开，最后对基于可信计算3.0的双体系可信执行环境、基于隔离内存的可信虚拟机安全隔离技术和全链路安全防护的可信执行环境网络体系进行了展望。

  研讨会各位嘉宾的报告面向AI安全议题广泛、视角多元、面向前沿，学术报告内容精彩纷呈，营造出浓厚的学术氛围，为与会人员提供了“饕餮盛宴”。研讨会取得了圆满成功。