探索发现 · 学术讲座

算法利维坦 vs. 数字怪兽——法治可以保障人类安全吗?

主讲人简介:

季卫东.jpg

季卫东,上海交通大学文科资深教授。

讲座内容简介:

本讲座通过对最近三十年间经济和信息的全球化、网络怪兽(巨型数字经济平台)、隐匿在区块链中的主权个人以及游击怪兽(加密数据跨境流通平台)、摆脱特征设计的大模型怪兽(生成式AI服务平台)等重要的现象和趋势的介绍和阐述,分析国家主权的衰退与强化同时并行和相反相成的悖论,考察在数字化转型过程中利维坦与各种数字怪兽之间展开的博弈及合力作用。正是主权衰退这一侧面,导致了欧洲的“数字主权”概念和中国的“主权区块链”设计方案的提出;而主权强化这一侧面,则导致了北美的“电子眼”理论和中国的“电子点穴”实践。无论如何,在AI驱动的时代,“算法利维坦”正在成为国家和法的理论不得不面对的极其强大的支配性权力。为了防止其失控和滥用,各国在科技伦理原则上达成了基本共识,在人工智能安全治理上则出现了四种不同的立法模式。但数字法治构想的真正实施还需要以国家主权与数字中间集团之间的均势和制衡作为前提条件,当然也应该回应那种统筹兼顾“发展与安全”的社会需求,从而渐次呈现出规范多元主义的趋势。在这种复杂而不确定的互动关系之中,对话与沟通、验证与审核以及数字契约必不可少,而对法律的正当程序与技术的正当程序进行适当组合的意义也势必进一步凸显出来。

文科建设处