交大要闻

季卫东教授做客“文治大讲堂”,与交大师生探讨“人工智能的法律治理”

4月10日,上海交通大学“文治大讲堂”第七期在李政道报告厅开讲,学校文科资深教授季卫东为300余名师生带来专场学术报告会,题目为“算法利维坦VS.数字怪兽——法治可以保障人类安全吗”。文科建设处(智库中心、智慧人文社科中心)处长吴文锋出席活动,并向季卫东教授颁发了致谢牌。讲座由人文学院长聘教轨副教授赖长生主持。

图片1.jpg

季卫东教授从数字覆盖导致的社会大转型出发,分析了21世纪人工智能发展的底层逻辑及其引发的伦理和法律风险。进而,结合网络平台、区块链、生成式人工智能三种“数字怪兽”的发展历程与特点,分析了数字主权的悖论以及算法利维坦与数字怪兽们的互动关系。他指出,“数字主权”概念具有双重结构,一方面是指国家主权在数字空间面临相对化乃至被削弱、被替代的风险;另一方面则暗示主权采取数字形态,转化为一种“算法利维坦”,获得新生和前所未有的魔力和支配地位。数字化影响国家治理范式的关键在于赋能平台、还是赋能个人。前者意味着中间集团的崛起,会引起系统与系统之间的博弈;后者意味着个人自由的伸张,会促进个人与系统的博弈。这就可能导致不同的制度设计方案。

图片2.jpg

季卫东教授通过对数字技术的广泛应用以及作为算法利维坦对国家权力加强的分析,提出了数字时代社会治理机制设计的三种模式:政务与信息互相协作的共识模式、政务与信息合而为一的统管模式、政务与信息互相分离的对峙模式,并从硬法模式、软法模式、软硬兼施模式、技术-程序模式入手,阐述了人工智能治理方面呈现的四种立法模式。他提出,为了通过人工智能系统内嵌的公正程序以及不同人工智能系统之间的分权制衡机制,来防止大平台和大模型的滥用,也为了制衡算法利维坦以及私人化的各种算法权力,现代法治的程序公正原则理应被重新定义并发挥更加重要的作用;应该从人机交互的角度来考察人工智能治理,把对可信AI的追求建立在人机交互的沟通过程之上。他还指出,正当程序的本质是规制代码,并通过以法律的形式规制代码的实践、数字时代的人机对话和沟通的程序公正、代码框架下的技术性正当程序与法律性正当程序等几个方面的深入阐述,进而提出,寻找技术性正当程序与法律性正当程序这两者之间的最佳组合方式,就是今后数字国家继续推进现代化事业的主要法治内涵,也可以理解为数字法治的出发点。

图片3.jpg

讲座中,季卫东教授旁征博引的分析、深入浅出的阐释、理性犀利的洞见以及贴近现实的案例,令人印象深刻,也启发了同学们对技术与法律关系的深入思考。在提问环节,同学们踊跃发言,围绕自下而上的反馈、基于共识的契约、人工智能和大模型的知识产权、数字和人工智能立法可能导致的垄断等问题与季卫东教授展开交流。

图片4.jpg

季卫东教授现为上海交通大学文科资深教授兼校务委员会委员、中国法与社会研究院院长、人工智能治理与法律研究中心主任,兼任上海市法学会法社会学研究会会长、国际学术期刊Asian Journal of Law and Society 创刊人兼主编、中国计算机协会(CCF)计算法学分会会长、上海国家新一代人工智能发展创新试验区专家咨询委员会顾问、中国数字经济50人论坛成员、中华司法研究会常务理事、亚洲科技促进可持续发展联盟副主席,在2008-2018年期间担任过上海交通大学法学院院长,在1996-2008年期间为日本神户大学法学院教授,此前还曾经到斯坦福大学法学院做访问学者。

管弄影
林浩安
文科建设处
李雪楠