2024世界人工智能大会开幕。人工智能技术的创新与突破如何实现？人工智能发展的伦理与安全如何兼顾？7月5日，“加速‘人工智能+’构筑新质生产力”论坛在上海市徐汇区西岸智塔举行，深入探讨如何构建人工智能治理机制，以保障人工智能技术和应用的健康与可持续发展论坛首发《人工智能安全作为全球公共产品》研究报告，并联合多家机构发起“人工智能安全与治理对话网络”。主题对话中，政产学研代表共同探讨全球人工智能发展的新路径。上海交通大学、中央广播电视总台研究院以及上海人工智能实验室联合主办本次论坛。

专家学者齐聚，共话人工智能发展与创新

“安全是发展的前提，发展是安全的保障”，统筹人工智能安全与发展需要政产学研各界共商、共建、共治、共享。2024世界人工智能大会首次召开人工智能全球治理高级别会议，积极回应当前国际形势下人工智能领域治理挑战，体现了“以共商促共享，以善治促善智”的基本理念，彰显了政府、产业界、学术界及研究机构对于构建人工智能全球治理体系的共识与决心。中国科学院院士、上海交通大学校长丁奎岭在论坛致辞中指出：“‘人工智能+’为构建新质生产力注入活力的最好途径是教育、科技、人才三位一体推进。上海交通大学在人工智能领域的教育、科技、人才方面积累深厚。新成立的人工智能学院聚焦培育人工智能底层技术的创新引领者，不仅培养学生能够‘用别人的锅来做自己的饭’，还要让他们具备‘铸铁造锅’的能力，在理解当前人工智能技术的基础上，开发下一代底层技术。以人工智能学院为牵引，各学科在技术安全、数据安全、隐私安全以及治理体系等方面紧密协作，用交大模式、交大智慧将‘以人为本，智能向善’的理念落到实处。”中央广播电视总台编务会议成员姜文波，中共上海市委宣传部副部长方世忠，上海市徐汇区委书记曹立强，上海市徐汇区委副书记、代理区长王华及中央网信办信息化发展局副局长李颖新出席并为论坛致辞。

“加速‘人工智能+’构筑新质生产力”论坛举行，为促进各方共同探索、积累人工智能安全治理的知识、能力与资源，以回应人工智能安全治理新挑战提供了宝贵平台。论坛汇聚了来自不同领域的专家学者和杰出代表，他们围绕人工智能与各行业深度融合模式、人工智能全球合作治理、人工智能赋能媒体传播等领域展开讨论，探索人工智能如何赋能传统产业转型升级，催生新的经济增长点和国际合作模式。清华大学文科资深教授、苏世民书院院长薛澜为论坛发表主旨演讲，薛澜教授深刻剖析了人工智能治理面临的三重全球挑战，在“人工智能安全作为公共产品”的理念创新基础上，进一步提出“人工智能治理作为公共产品”的分析新框架。他指出，应将人工智能治理视为“知识”或“行动”类产品，其具有非排他性和非竞争性，应构筑良性治理生态体系，避免人工智能治理从公共产品变成俱乐部产品。

创新理念首发：将人工智能安全作为全球公共产品

论坛首发研究报告，首次提出将人工智能安全作为全球公共产品的理念。该理念统筹了发展与安全的双重目标，不仅将安全视为风险管理措施或监管手段，而且强调安全知识、能力、资源的积累与增长，以引导各国国内人工智能安全治理机制和体系改革，推动人工智能安全的国际合作与全球治理。报告指出，实现“人工智能安全作为全球公共产品”理念的关键原则包括公共原则、科学原则、责任原则、敏捷原则，并结合四个原则发起推动“人工智能安全作为全球公共产品”的行动倡议，以促进多方主体在人工智能安全领域的持续改革与合作。

报告由上海交通大学国际与公共事务学院、上海人工智能实验室治理研究中心、清华大学产业发展与环境治理研究中心和中央广播电视总台超高清视音频制播呈现国家重点实验室共同起草。报告直面当前及未来人工智能领域的全球合作难题，报告的发布为应对跨国安全威胁、推动安全治理标准的统一与协调、促进人工智能技术的国际合作提供了行动指南。报告还着眼于解决安全知识与资源在全球范围内的共享不足问题，鼓励各国、各机构加强合作，共同提升全球安全治理水平，确保人工智能技术的发展能够兼顾安全与发展，推动构建人类命运共同体。

发起“西岸对话”，搭建人工智能安全与治理对话网络

上海交通大学携手上海人工智能实验室、中国互联网协会、中央广播电视总台超高清视音频制播呈现国家重点实验室、徐汇区人民政府、中国互联网治理论坛和清华大学产业发展与环境治理研究中心联合21家部门共同发起“西岸对话：人工智能安全与治理对话网络”。这一创新性对话网络旨在打破壁垒，在共商共建共治过程中共同探索、共同进步，促进各方在人工智能安全与治理领域的紧密合作，以期在快速发展的人工智能时代中更好地统筹发展与安全。

“西岸对话”致力于形成宽泛、稳定的合作结构和四方面常态化对话机制。首先，围绕人工智能安全与治理议题形成经常性交流对话机制；其次，在标杆案例、规范标准、政策工具等各个维度搭建同行评议、互通有无的平台渠道；同时，开展人工智能应用与治理素养提升活动，建设公共知识以弥合智能鸿沟和治理能力差距；最后，积极参与人工智能安全与治理的国际对话、搭建沟通国内外的有效窗口。

多领域专家开展主题对话：共商人工智能产业健康发展新路径

来自政府、产业、学术及研究领域的十余名人工智能杰出代表同台对话，共商全球人工智能安全治理的新思路、新路径。本次主题对话共分为三个子主题进行。活动现场，围绕“大模型赋能新质生产力”“人工智能安全治理的中国实践与全球合作”“优质视听语料推动‘AI+媒体’产业发展”三个主题，与会嘉宾畅谈思路观点，为全球人工智能安全治理凝聚共识、汇聚力量。来自上海交通大学的知名专家学者在论坛对话中积极发声，讲述人工智能安全治理的中国实践和交大方案，共同探讨人工智能产业发展的最新进展和未来趋势。

上海交通大学国际与公共事务学院院长吴建南教授在“大模型赋能新质生产”主题对话中指出：“在当今快速发展的数字经济时代，大模型不仅改变了数据处理的效率和精度，更在推动产业升级、优化资源配置、激发创新活力等方面展现出巨大潜力。作为学者与研究者，我们需要深入探索大模型技术的内在机制与外在影响，关注其在不同产业领域的应用前景与挑战。同时，我们还应加强跨学科合作与国际交流，共同推动大模型技术创新与发展，让新质生产力成为推动经济高质量发展的新引擎。”

“中国在人工智能安全治理方面积极探索，通过政策引导、技术研发等多维度措施，为产业健康发展筑起安全防线。同时，我们深知这一挑战具有全球性，需要各国携手应对。国际社会需要加强合作，分享治理经验，共同打造人工智能安全的全球公共产品，以共同探索、共同成长来推动形成更加开放、协同、可持续的治理格局，共享人工智能技术为人类带来的福祉和发展机遇。”上海交通大学人工智能安全与治理研究中心执行主任贾开教授围绕“人工智能安全治理的中国实践与全球合作”发出交大声音。

上海交通大学计算机科学与工程系教授、约翰·霍普克罗夫特计算机科学中心执行主任郁昱根据人工智能的风险特征谈及中国人工智能安全治理的独特表现：“人工智能安全风险具有隐蔽性、广泛性和复杂性等特征，其表现涵盖数据泄露、算法偏见、系统失控等多个方面，这些风险可能引发隐私侵犯、决策不公、社会伦理等问题。中国在人工智能安全治理是政策引领与技术创新并重的治理，既明确安全底线，又鼓励技术创新，也是产学研深度融合的治理，重视推动学术界、产业界与政府间的紧密合作。中国在人工智能安全治理上的前瞻性和责任感，为行业的健康发展提供了有力保障。”

“中国不仅构筑了坚实的政策治理框架，还依托技术创新与国际协作的双轮驱动，积极迎战人工智能领域的安全挑战。我们的治理实践深刻体现了发展与安全的和谐共生，既推动人工智能技术的前沿探索，又严格确保技术应用遵循法律法规，维护用户权益与社会稳定。在全球合作中，我们秉持开放共享的原则，与各国共同探索人工智能安全治理的最佳路径，为全球人工智能产业的健康发展做出建设性贡献。” 上海市东方学者特聘教授，上海交通大学计算机科学与工程系副系主任、教授孔令和讲述了人工智能安全治理的中国方案和集聚各方智慧的行动倡议。

上海人工智能实验室主任助理、上海交通大学人工智能学院教授王延峰在“优质视听语料推动‘AI+媒体’产业发展”主题对话中强调了优质视听语料对产业发展的影响：“在当前大模型从语言走向多模态的过程中，优质视听媒体语料是不可或缺的基石。不仅为多模态大模型提供了丰富的训练数据，更在内容创作、个性化推荐等方面展现出巨大潜力，比如前段时间大火的Sora。我国应该加快建设高质量、多样化的视听媒体多模态语料库，以支撑多模态基础大模型的研发以及在媒体领域的深度应用。同时，加强跨学科交叉合作，推动媒体行业向智能化、精准化方向发展，为用户带来更加美好的媒体服务体验。”

与此同时，论坛发布了《徐汇区关于支持西岸大模型科创街区建设的若干意见》，这一政策文件的出台为建设科创街区、推动区域科技创新生态发展注入强劲动力。论坛还举行了2024年徐汇区大模型企业集中签约仪式，各方将携手并进，共同推动人工智能及其相关大模型技术的创新与应用。

相关阅读：上海交大校长丁奎岭院士出席人工智能与教育论坛会议并作《“AI+HI” 构建未来高等教育》报告

• 视频链接
  点击播放