交大要闻

国家网络安全宣传周

AI智能体安全治理首部白皮书发布

9月16日,在2025年国家网络安全宣传周举行之际,中国电信携手公安部第三研究所、华为公司、《信息安全研究》杂志社、蚂蚁集团、清华大学、上海交通大学等多家合作伙伴发布《AI智能体安全治理白皮书》,全面阐释了当前AI智能体所面临的安全风险,并提出对应的安全治理策略和方法。上海交通大学计算机学院谷大武教授任白皮书共同主编,王烁副教授任编委会专家。

图片1.png

图片2.png

图片3.png

白皮书全面阐释了当前AI智能体所面临的安全风险,并提出对应的安全治理策略和方法,旨在推动行业构建与智能体技术发展相适配的安全治理体系,为AI智能体安全、健康发展提供坚实支撑。

白皮书基于国际前沿的学术研究和技术动态,系统识别并归纳了AI智能体在环境感知、规划决策、学习记忆、任务执行等关键技术应用过程中存在的安全风险。在此基础上,创新性地提出了覆盖智能体全层级与全生命周期的安全防护框架,清晰界定了各类风险管理与防控边界,并总结提出了33项安全防治措施与建议。此外,白皮书还分享了中国电信及其合作伙伴在AI智能体安全治理方面的实践案例与探索经验,为行业提供了可落地、可借鉴的参考。

筑牢AI安全底座,护航智能新时代,已成为社会各界的广泛共识与共同责任。未来,随着各方深入研究与实践,AI智能体安全治理将有望迎来新的突破。

计算机学院
计算机学院(网络空间安全学院、密码学院)
吴迪