当前位置:首页 > 动态报道 > 动态新闻
动态新闻
安远AI创始人、牛津大学人工智能治理中心政策研究员谢旻希来访上海交通大学中国法与社会研究院
2023年07月02日 来源:中国法与社会研究院 预览:


6月29日,安远AI创始人、牛津大学人工智能治理中心政策研究员谢旻希来访上海交通大学中国法与社会研究院。上海交通大学文科资深教授、中国法与社会研究院院长季卫东,上海交通大学计算机科学与工程系教授吴晨涛与来访嘉宾就面向大模型和通用人工智能安全和对齐问题等进行了深入的讨论和交流。上海交通大学中国法与社会研究院办公室主任许月、研究助理赵泽睿参加晤谈。




季卫东院长对谢旻希先生的到访表示欢迎,他介绍了依托中国法与社会研究院成立的“人工智能治理与法律研究中心”、“计算法学与AI伦理研究中心”等相关平台的背景与研究内容。他表示,中国法与社会研究院当前主要聚焦人工智能治理与法律相关问题、司法与大数据、认知科学与人工智能三个方向的研究,可以从这些方向与安远AI展开合作。

谢旻希执行董事对安远AI进行了详细的介绍。安远AI是一家专注AI安全和治理的咨询机构,以引领人机关系走向安全、可信、可靠的未来为使命。其主要业务是面向大模型和通用人工智能安全和对齐问题进行风险研判、建立技术社区、开展治理研究、提供战略咨询、推动国际交流。在2023年的北京智源大会,安远AI联合举办和支持“AI安全与对齐”分论坛,邀请到包括OpenAI CEO Sam Altman,图灵奖得主Geoffrey Hinton等与海内外AI专家和领袖进行了关于人机对齐与大模型安全的尖端交流。

吴晨涛教授则就人工智能领域的伦理规范、人机对齐问题、大模型安全等方面与对方了进行探讨交流。

最后,季卫东院长就双方讨论交流的内容分析了以共同承接研究课题等多种方式进行合作的可能性,谢旻希执行董事代表安远AI表达了合作意愿。双方将会携手在人工智能安全、大模型治理与法律等前沿领域展开合作研究。