【作者】中国法与社会研究院
【内容提要】
应清华大学人工智能国际治理研究院院长薛澜教授的邀请，上海交通大学中国法与社会研究院院长兼人工智能治理研究中心主任季卫东教授在2025年7月26日下午出席了WAIC2025人工智能发展与安全全体会议，并在“AI全球治理：机制构建与最佳实践”环节参加专题讨论。
这次全体会议以图灵奖得主姚期智（Andrew Chi-Chih Yao）与诺贝尔物理学奖得主杰弗里•辛顿（GeoffreyHinton）的炉边对话拉开序幕，在两位图灵奖得主Yoshua Bengio和David Patterson的主旨演讲后进入两场专题讨论。关于AI全球治理的专题讨论由薛澜教授主持。发言嘉宾包括英国牛津大学布瓦拉尼克政府学院创始院长Ngaire Woods教授、季卫东教授、联合国助理秘书长兼首席信息官BernardoMariano Jr.（临时缺席）、中国电子信息产业发展研究院党委副书记、人工智能场景化应用与智能系统测评工业和信息化部重点实验室主任胡国栋先生、美国微软公司前首席研究与战略官Craig Mundie先生、中国电信集团网络与信息安全首席专家刘紫千先生、阿里云智能集团副总裁刘湘雯女士。
在被问到你认为人工智能今后最重要的一项进展与最深刻的一项风险问题时，季卫东教授略作沉吟后指出：脑机接口技术正在改造人类本身，在一定程度上实现人机融合。其背景当然是指Neuralink在为残障人士植入芯片后，使他们可以通过意念实现过去根本做不到的事情，甚至可以在某种程度上自由行动；预计在2028年人类有可能通过与AI互联迎来新生。飞速迭代的人工智能在带来收益的同时，也会带来风险、不安乃至对人类社会的危害。从法律的角度来看，数字主权会导致各国人工智能政策和法律的差异化，给人工智能治理的国际合作造成障碍，使得风险防范难以有效进行这本身就是一个影响深远的风险。
他接着指出，在未来三、五年内，人工智能的治理和立法势必成为一个全球性课题，也特别需要国际社会的高度重视与通力合作。联合国及其相关国际机构是发表和倾听不同声音的平台，我们希望能通过这样具有开放性、多元性的平台来寻求人工智能治理的最大公约数。在2024年，联合国做出了三个与人工智能相关的决议。第一个是《关于人工智能安全和可信赖的决议》，第二个是《加强人工智能能力建设国际合作决议》，第三个是《未来契约》以及作为附件的《全球数字契约》。为了落实联合国在2024年通过的这三个决议，需要制定能凝聚国际共识的AI系统标准和治理框架。如何落实联合国2024年三个决议，就是人工智能全球治理的主要抓手。但现阶段的人工智能全球治理的问题是，可以听到各种不同的声音，也产生了各种各样的规范性文件，但却缺乏充分的整合力和执行力。除了联合国大学全球人工智能网络之外，还没有专门负责人工智能治理的国际机构。鉴于人工智能发展如此迅猛、应用如此广泛，鉴于人工智能对人类社会的巨大而深刻的影响，也许我们需要一个类似原子能国际机构那样专业化组织来负责应对与人工智能相关的风险和挑战，制定各种具体的国际规则和标准，并监督其实施。
在最后陈述中，季卫东教授提请大家注意2024年《北京AI安全国际共识》呼吁各国政府和企业把AI研发预算的三分之一投到安全保障领域的事实，认为这其实提出了关于人工智能国际治理的技术性方案。因此，他向政府和产业界发出呼吁：把人工智能治理从伦理本位转向技术-程序本位，对人工智能安全本身的研发进行更多的投资，从让技术上的程序公正保障法律上的程序公正，进而实现人工智能治理的更高道德原则。
在专题讨论结束后，以中国信息通信研究院院长、中国人工智能产业发展联盟秘书长余晓晖先生、上海人工智能实验室安全可信AI中心联合负责人王迎春先生为首的十几位业界代表发布了《中国人工智能安全承诺框架》。把人工智能发展与安全全体会议推向高潮。
