综合新闻

计算机学院王烁老师任中国-东盟人工智能安全研究院咨询委员会特聘专家顾问

9月17日上午在广西南宁举行了第22届中国-东盟博览会暨中国-东盟商务与投资峰会开幕式,“中国-东盟人工智能安全前沿论坛”同期举行。论坛上,广西人工智能安全研究院暨中国-东盟人工智能安全研究院正式揭牌亮相,举行了首批研究院咨询委员会特聘专家顾问授牌仪式,上海交通大学计算机学院副教授王烁任首批咨询委员会特聘专家顾问。

图片10.png

在广西南宁举行的第22届中国-东盟博览会暨中国-东盟商务与投资峰会开幕式上,韩正表示,中国和东盟国家山水相连、人文相通,友好交往源远流长。2021年,习近平主席提出共建和平、安宁、繁荣、美丽、友好“五大家园”,为中国东盟合作擘画崭新蓝图、指明前进方向。在双方领导人战略引领下,近年来中国东盟全面战略伙伴关系持续深化,已成为亚太区域合作中最为成功和最具活力的典范,成为推动构建人类命运共同体的生动例证。中国愿继续同东盟国家一道,和睦共处、合作共赢,以更加积极的姿态和更加务实的举措,推动中国-东盟命运共同体建设不断迈上新台阶,为地区和平稳定和发展繁荣作出更多贡献。

中国-东盟人工智能安全前沿论坛成为亮点

“中国-东盟人工智能安全前沿论坛”同期举行。广西壮族自治区党委书记陈刚、全国工商联副主席、全国政协委员、奇安信集团董事长齐向东等在论坛上致辞。论坛现场,广西人工智能安全研究院暨中国-东盟人工智能安全研究院正式揭牌亮相。该研究院聘请了来自中国、新加坡、印度尼西亚、泰国的五位专家担任首批咨询委员会特聘专家顾问,他们分别是南宁市人民政府参事、资深网络安全专家陆宝华,新加坡亚洲数字经济科学院院长陈柏珲,上海交通大学副教授王烁,印度尼西亚的赫鲁·普尔诺莫·伊蓬博士,以及泰国的武提格莱·皮本荣少将。多国专家的加入,标志着中国—东盟在人工智能安全领域正携手共筑坚实的发展安全基石。

图片11.png

活动现场(左一为王烁老师)

图片12.png

上海交通大学王烁老师做“多模态与智能体时代的AI安全挑战与对策”主旨报告,总结了15类可能针对大模型和智能体的攻击手段,涵盖200余种潜在攻击场景。这些新型攻击手段的出现,凸显出人工智能安全面临的复杂性和严峻性。针对上述安全威胁,王烁强调必须从测评和防御两方面筑牢防线。他指出,步入“智能体时代”后,人工智能安全测评需要实现“四个转变”,即由静态测评到动态测评、由单维度测评到多维度测评、由人工测评到自动化智能测评、由经验驱动到可解释性。当今世界已经来到“智能体”的大航海时代。他呼吁在人工智能领域开放航道、协同合作,但前提是先行构筑好人工智能安全的基础设施。

计算机学院
计算机学院(网络空间安全学院、密码学院)
吴迪