2024年7月6日上午，“人工智能伦理治理的国际比较”闭门研讨会在上海交通大学徐汇校区北四楼206会议室顺利举行。本次研讨会由上海交通大学凯原法学院、中国法与社会研究院主办。来自上海交通大学、中国社会科学院、中国信息通信研究院、耶鲁大学、Safe Al Forum、Carnegie Endowment for International Peace（美国卡内基国际和平研究院）、清华大学、上海人工智能实验室、同济大学、华东理工大学等国内外高校和研究机构的专家学者，以及来自商汤科技、阿里研究院、联想集团等企业的专家共计近三十人参与研讨，多名上海交通大学师生以及校外学者列席旁听。
研讨会开幕致辞环节由上海交通大学凯原法学院副院长、长聘教授林喜芬主持。林喜芬教授首先对所有参会人员的到来表示热烈欢迎，并且简单介绍了上海交通大学中国法与社会研究院的背景、本次研讨会的主题、以及各位参会嘉宾的基本情况。
中国社会科学院法学所网络与信息法研究室副主任周辉介绍了本次讨论会的讨论主旨，讲述了本次研讨会的筹备情况，并且期待本次研讨会能够对《人工智能示范法（学者建议稿）》的完善提供进一步的指导。
上海交通大学中国法与社会研究院院长、文科资深教授季卫东发表致辞并进行主旨报告。季卫东教授首先代表上海交通大学中国法与社会研究院对各位参会人员的光临表示热烈欢迎。季卫东教授提出，过去200年间，科技发展给人类社会带来了三大重要变化：其一，内燃机+电气技术给人类带来生活的自由；其二，互联网+数字通信技术给人类带来信息的自由；其三，大模型+脑机接口技术可能会带来创新的自由。大模型显示出巨大机遇的同时，也存在风险和不安，一是语言模型运用海量数据会带来隐私保护方面的忧虑；二是大模型泛化的过程可能造成虚假信息的传播；三是大模型生成的内容可能引发知识产权认定和保护方面的复杂问题；四是大模型可能获得企业、政府机构的机密性信息，从而可能使信息社会发生功能障碍。针对人工智能治理，季卫东教授提出基于价值的人工智能治理和基于程序的人工智能治理两方面，并且强调要加强人工智能的国际协调合作。最后，季卫东教授表示，期待本次研讨会能够为大模型时代重构伦理体系、加强人工智能治理国际合作提供思想启示和实践助力，并预祝本次会议取得丰硕的成果。
本次研讨会的第一单元主题为国际视野下的人工智能伦理治理，由上海交通大学学术委员会秘书张蕾担任主持。张蕾女士指出，上海交通大学是国内最早把科技伦理放在大学治理层面进行重视和建制的综合性高校。科技伦理治理不仅是科技研发领域和法学领域专家关切的议题，也备受公众和如高校战略规划办公室在内的社会微观结构所关注。同时，大学是促进人类和平和繁荣的重要力量，更应当坚持和捍卫跨文化视角及国际视野。张蕾女士再次肯定了本次论坛的意义，并且期待本单元下五位学者的主题报告。
耶鲁大学蔡中曾中国研究中心研究员Karman Lucero进行主题报告，对美国的人工智能治理进行总结和介绍。Karman Lucero研究员就美国最高法院近期备受关注的一案相关判决进行了介绍，美国法学界很多学者认为这些判决对美国包括人工智能治理在内的治理领域影响非常大。此外，Karman Lucero研究员表示，目前最有影响力的州立法有二：其一是科罗拉多州对于人工智能、尤其是保险领域人工智能的应用；其二是加州的人工智能立法，其根据风险大小，制定不同的风险规避的规定。
Safe AI Forum研究员Muhammad Saad Siddiqui发表了题为“怎么找国际共识——比较的方法”的主题报告。Muhammad Saad Siddiqui研究员指出，比较分析可以加深对不同风险认知的理解、学习其他国家治理方法、确定可能达成国际共识的领域。人工智能国际合作具有自下而上和自上而下两方面，自上而下的方法是一个有用的过滤器，如何过滤取决于每个国家的风险认知模式。最后，对于真正的全球性风险，需要比以往更快地达成共识，为了人类的共同和平和繁荣，共识非常重要。
Carnegie Endowment for International Peace（美国卡内基国际和平研究院）Fellow of Asia Program（亚洲项目研究员）Matt Sheehan发表主题报告，他聚焦中美在人工智能领域的对话与合作，侧重非政府间的有效对话、自下而上的过程。Matt Sheehan研究员表示，非政府间的相关互动和对话有两个基本功能，其一是分享实践中的做法，其二是建立双方的信任。同时，国家间自上而下基于协议的安全很难得到实现，因而需要在非政府层面依赖技术和政策两个生态系统层面不断互动。
清华大学公共管理学院、法学院副教授陈天昊发表了题为“由生物医学到人工智能：科技伦理审查机制如何构建”的主题报告。报告首先介绍了近年来科技伦理审查成为重要议题的政策背景。其次，以美国、欧洲为例，比较分析生命科学与医学伦理审查的全球视野。再次，以微软、字节等企业为例探讨数字科技企业实施伦理审查的探索，并指出科技伦理审查的一般框架，包括专业性、中立性、包容性、协同性。最后，提出目前制度建设的挑战，包括专业性更强、中立性更难、包容性更复杂、协同性更敏感。
上海交通大学国务学院副教授贾开发表了题为“人工智能安全作为全球公共产品”的主题报告。报告提出，人工智能安全问题可能会走向企业和政府之间形成事实上相互依赖的状态，对于政府和企业而言，对此的监管不应该成为规制的压力，而是发展的核心动能。在他看来，统筹发展与安全不仅仅是宣言，可能成为一种新的发展模式。而人工智能安全公共产品的内容是指通过各方努力促进知识、能力、资源的增长，在此过程中真正形成相互连接的关系，促进更多共识和合作的发生。
评议环节，上海人工智能实验室治理研究中心副研究员瞿晶晶总结了本单元五位报告人所作主题报告之间的宏观逻辑。华东理工大学法学院讲师肖梦黎从法学学者的角度，讨论了如何看待人工智能治理从伦理道德层面的倡议性内容变成规范化、法律化的具体措施。上海交通大学中国法与社会研究院助理研究员谭俊从三方面阐释了人工智能伦理背后的深层困境。上海交通大学凯原法学院特聘教授沈伟从国际法的视角出发，对人工智能法律在国际规则市场中的共识达成持消极看法，并提出人工智能管理如果尚未达到共识，就不会是公共产品，而是可能带来公共产品。
第二单元主题为合规实践视野下的人工智能伦理，由商汤科技人工智能伦理与治理研究主任胡正坤担任主持。胡正坤主任表示，人工智能伦理在中国背景下趋向成为合规义务，本次研讨会聚集如此多法学界、产业界和实务界的专家学者是非常及时的讨论。
同济大学法学院助理教授朱悦发表了题为“人工智能的伦理周期”的主题报告，在溯源六十到七十年代人工智能伦理的新生，回顾八十到九十年代人工智能伦理的批判性反思，谈及伦理和法律、以及伦理和安全的关系后，指出伦理、法律、安全三者间的关系在目前的人工智能治理语境下尤其需要厘清，人工智能伦理需努力促其有效，而非任其虚设。
阿里研究院研究员傅宏宇从业界研究者的视角发表主题报告。他实务出发指出了人工智能伦理治理的三个重要方面：首先，人工智能伦理审查形式易实质难。科技伦理不是单纯法律问题，还需要管理和技术手段落实，所以在实现的过程中会遇到各种难题。其次，现行科层制、流线化审查机制与人工智能发展严重矛盾、不相匹配。最后，人工智能伦理除却是悬在每一个人头上的达摩克利斯之剑，更重要的是搭建起所有人工智能科技开发者心中彼岸的桥梁。
联想集团法务总监吴凡围绕联想集团在人工智能科技伦理与法律合规展开主题报告。他结合联想集团近期发布人工智能合规政策，介绍了联想集团在科技伦理管理上的一些做法。该合规政策主要包括：其一，人工智能负责任的使用，确保不会伤害人。其二，确保AI公平、透明、可解释，重视对环境、社会的影响。其三，有关数据治理和管理，是法律要求，也涉及科技伦理。联想集团在全球范围内推动人工智能立法听证调研工作，多次参与人工智能科技伦理相关研讨，希望用高度全球化的姿态促进全球人工智能AI的科技合作，同时在道德伦理上形成相对统一的推进。
评议环节，中国信息通信研究院互联网法律研究中心主任何波总结了第二单元主题报告中的三个趋势。其一，人工智能治理正在从原则加速迈向实践；其二，打造包容安全的人工智能工程；其三，治理碎片化协调。上海交通大学转化医学研究院副研究员郭舒扬发表了对人工智能伦理审查及社会责任层面的看法。上海交通大学凯原法学院副教授邱遥堃提出，人工智能伦理治理对于协调、统筹人工智能发展具有重要意义。同时，历史视角对于当下新的人工智能技术非常必要。上海交通大学科研院学术发展与国际合作办主任、科技伦理委员会秘书处办公室主任郦音悦提出，在前端的基础研究之上，后端的应用研究可能探索更多的协同。
自由讨论环节，参会人员围绕人工智能的“安全”内涵、人工智能伦理治理的国际合作等内容进行了深入的讨论和交流。
研讨会闭幕环节由上海交通大学凯原法学院长聘教授李学尧主持。李学尧教授首先对所有参会人员表示感谢。并且进一步指出，人工智能伦理的跨学科、跨部门讨论，特别是AI公司、学校和科研机构的参与具有非常重要的意义，能够切实推进人工智能伦理审查的制度构建。其次，对于人工智能伦理的讨论，不仅仅是停留在原则层面，而是进入到实际操作的层面，这对于人工智能立法也具有重要意义。
上海交通大学学术发展与成果处副处长韩海波发表闭幕致辞。他表示，科学、尤其基础研究没有国界，本次研讨会汇聚了中外学者围绕科技伦理的讨论，是科技向善的一个重要推进；其次，不同的主体对科技观察视角的差异，揭示了科学的多重属性，同时也意味着多元沟通的重要性；再次，对于人工智能而言，其发展带来了不确定性，所以要对人工智能的发展秉承一个谨慎且乐观的态度。在未来的发展中，企业作为创新的主体，是提出问题、并要回答问题的主要角色，大学给企业提供基础研究的知识和人才的供给，而政府起到协调、保障、支持和监管的作用。最后，中美人工智能技术的快速发展的同时也需要更多的科学产业的对话交流。
中国社会科学院法学所网络与信息法研究室副主任周辉发表闭幕致辞，他从三个角度进行了总结：其一，差异，正如本次研讨会采用国际比较的视角，有来自中外的专家，围绕人工智能治理的不同角度，贡献了不同的话题和知识。其二，信任，未来构建人工智能仍然要基于信任，至少让人工智能技术的应用和发展成为人类可以信任的安全方向。其三，人工智能并非一个国家的问题，而是是全人类的话题，所以面向未来可以共同开展合作和研究，共同应对人工智能治理的新挑战。
上海交通大学中国法与社会研究院院长、文科资深教授季卫东发表闭幕致辞。季卫东教授指出，本次研讨会交织国际视角和企业视角，非常有意义。人工智能伦理问题现已转到立法层面，立法必须建立在共识的基础上，而企业的视角对于共识的取得非常重要。同时，以安全为目的达成共识，在共识的基础上制定法律，这样的法律才能符合当今的需要。季卫东教授再次代表中国法与社会研究院对各位参会人员的光临、以及各位研讨嘉宾的精彩分享表示感谢。
最后，参会人员共同合影留念。
