【作者】中国法与社会研究院

【内容提要】

12月11日，上海交通大学文科资深教授、中国法与社会研究院院长季卫东应邀出席在澳门举办的题为“人工智能伦理：亚太地区的开拓性进展”国际专家工作坊，以《生成式人工智能的风险、伦理与正当程序》为题发言，并参加了关于2024年春季国际研讨会的讨论。

2021年，《人工智能伦理问题建议书》在教科文组织大会上通过了获得一致通过。以此为背景，联合国教科文组织（UNESCO）东亚代表处、联合国大学信息技术研究所（UNU-IIST）以及澳门大学合作举办本次专家研讨，旨在促进对人工智能伦理维度的共同理解，重点关注人工智能治理评估工作的部署、相关科技风险对可持续发展目标（SDG）的影响，以及生成式人工智能的伦理问题的前瞻性思考。

上午的会议在澳门大学图书馆礼堂举行，会议展示了联合国教科文组织东亚代表处和联合国大学国际科学技术研究所在人工智能方面的工作，并就“人工智能治理促进可持续发展：人工智能伦理的见解和最新趋势”进行了探讨。来自教科文组织东亚代表处、联合国大学国际科学技术研究所、澳门大学等高校及机构的多位专家学者在会上发表主题演讲，就相关议题进行了深入讨论。

下午的闭门专家会议在联合国大学信息技术研究所举行，就“人工智能对可持续发展目标的影响：开创性研究和方法”以及“促进未来合作的协同效应”进行了深入的讨论。来自香港科技大学、上海交通大学、浙江大学、复旦大学、澳门大学、印度信息技术学院、韩国中央大学、泰国朱拉隆功大学、印度尼西亚国家统计局、柬埔寨邮电部等高校及机构的多位专家学者参与会议。

在下午的“人工智能对可持续发展目标的影响：开创性研究和方法”研讨环节，季卫东教授就生成式人工智能的风险、伦理与正当程序做了专题发言，主要阐述了以下四点内容。

第一，数字“寒武纪”景观：生成式人工智能物种的爆发。2022年11月底，ChatGPT一经发布就风靡全球。据不完全统计，截至2023年10月，中国科技企业和网络平台已推出238个各种类型的Al大模型，其中20余个获得《生成式人工智能服务管理暂行办法》批准并向社会开放。

第二，AI大模型的主要风险。包括个人信息和隐私的侵犯、虚假信息泛滥的危害、知识产权保护难题、国家安全风险、生成式人工智能的失控风险和治理挑战等。

第三，如何在人工智能系统之间做出道德上的好坏区分。从是否存在以下五种情形来进行实质性评判：数据分析的隐私侵犯、算法黑箱、人工智能偏见和歧视、知识产权侵权、大模型的滥用。同时也分析了约翰•罗尔斯的纯粹程序主义“无知之幕”在人工智能价值对齐中的作用。

第四，从数字空间中的互动到技术和法律的正当程序。在介绍中国提出的“大统一超级计算生态系统”和“主权区块链”等解决方案之余，提出以人工智能系统的嵌入式公正程序，以及不同人工智能系统之间的分权制衡机制来限制“算法利维坦”的思路。

目前，在第四次工业革命和生成式人工智能（Gen AI）时代，伦理、政治、法律和经济学的交汇点出现了错综复杂的问题。人工智能的变革性影响，特别是像 ChatGPT 这样的生成模型，正在自动执行任务和生成内容，有望带来巨大的经济收益。然而，这种创新也从数据偏差到错误信息方面带来了伦理挑战。本次国际工作坊促进了专家、决策者以及多方利益相关者之间的对话，对推进亚太地区的人工智能治理和可持续发展方面的合作起到了积极作用。