2月11日，在“2025巴黎人工智能行动峰会”期间，由中国人工智能发展与安全研究网络主办，上海期智研究院、清华大学人工智能国际治理研究院承办的“人工智能技术及其应用进展”专题边会举行。边会旨在共同探讨如何利用国际合作平台，缩小智能鸿沟，确保所有国家都能从人工智能的快速发展中受益，并期望推动建立一个开放包容、互利共赢的人工智能国际治理体系，共同迎接未来发展的机遇与挑战。

清华大学文科资深教授、人工智能国际治理研究院院长薛澜介绍，为践行2023年中国发布的《全球人工智能治理倡议》，“中国人工智能发展与安全研究网络”凝聚中国人工智能发展和安全领域的优势力量和智力资源，对应“人工智能安全研究所”，代表中方与各国的人工智能安全研究机构展开对话与合作。以2024年中法关于人工智能和全球治理的联合声明为背景，此次会议着力于增进各方对中国人工智能发展与安全治理的了解，助力全球人工智能发展与治理的合作。

图灵奖得主、清华大学交叉信息研究院、人工智能学院院长姚期智指出，人工智能技术以惊人的速度发展，如近期DeepSeek引领了低成本开发使用大模型的革新，这既为驱动新的创新提供了更多可能，也带来了诸多风险挑战，而在互联互通时代，加强国际合作至关重要。当前，人工智能安全的全球合作基础良好并取得重大进展，特别是在中国，相关研究蓬勃兴起，研究队伍不断壮大，一批国际合作基础设施和网络平台正在形成，国际科学界已经达成共识。他强调，科学创新由人类创造，为人类美好未来而服务，要共同营造人工智能发展的良好环境，使人工智能增进人类福祉。

清华大学法学院教授、智能法治研究院院长申卫星指出，中国已形成人工智能立法的多层综合结构。在定位上，中国人工智能立法力求在创新与监管之间取得平衡，确保法律的明确性，促进行业发展，并与现有法律保持一致。在内容上，中国人工智能立法需廓清人工智能的定义，囊括人工智能法基本原则，建立同AI 分级风险相协调的自我规制机制、风险管理机制、透明机制与损害救济机制。中国也将在《全球人工智能治理倡议》指引下，加强国际合作，共同推动公平、公正的全球人工智能治理规则制定，以增强AI系统的安全可靠性，促进技术创新和包容性发展。

清华大学计算机系教授唐杰提出，大模型研究的终极目标是教会机器像人一样思考（即AGI）。在“AGI定义”问题上，他由低到高给出了包括预训练语言模型、对齐与推理、自我学习、自我认知以及意识的AGI五层次定义，并认为当前处于第二与三层交汇处；在2025 AGI发展趋势上，他提出自主的、具有代理能力的大型语言模型将成为日常生活和工作的核心，人类与代理之间的协作潜力将成为变革性的力量，而最具有突破性的变化将发生在科学研究领域；在“AGI安全”问题上，他提出需要在模型、个人和国家层面制定全面的安全策略。

中国工业和信息化部人工智能场景化应用与智能系统测评重点实验室主任胡国栋表示，在从大语言模型到大世界模型、从人工的智能到智能体的智能发展历程中，需要向善为民的人工智能来增进人民福祉、服务经济社会。

中国信息通信研究院副院长、国际电信联盟标准化局第十七研究组副主席魏亮介绍，中国充分发挥产业优势，推动人工智能技术创新和与实体经济深度融合，在人工智能安全治理标准化和产业实践方面做出了有益探索。在安全治理标准化方面，先后发布《新一代人工智能发展规划》《国家人工智能产业综合标准化体系建设指南》，《人工智能安全标准体系1.0》（征求意见稿），并在ISO、ITU、IEEE等国际标准化组织中贡献力量。产业界积极响应、主动作为，先后发布《人工智能安全承诺》《人工智能风险治理报告》,发起大模型安全基准测试等，在人工智能安全治理方面开展了大量创新探索。

国际治理创新中心全球人工智能风险倡议执行主任邓肯·卡斯-贝格斯（Duncan Cass-Beggs）指出，联合国可在促进人工智能发展、推动人工智能赋能可持续发展等问题上发挥重要作用。前沿人工智能失控等极端风险，更加依赖掌握前沿技术的国家之间进行协调；而深度伪造、虚假信息等一般性的人工智能风险，则更加依赖国内治理。各国政府应利用外交政策来共同设计国际合作机制，因为国家间合作将对公民福祉产生更大影响。构建人工智能安全研究所的全球网络，将是实现人工智能安全治理的关键所在，可以在此基础上推动建立更加广泛的全球人工智能治理框架。

麻省理工学院教授、生命未来研究所所长马克斯·泰格马克（Max TegMark）认为，当前世界大国与大型科技公司热衷于推动通用人工智能（AGI）的实现，但却忽略对其控制机制的研究。为先进人工智能技术建造安全“护栏”是必要的，为此，有必要推动企业与政府之间的合作，借鉴现有监管模式如药品管理、核设施管理的经验，在部署强大的人工智能系统之前，应当通过安全标准审查和控制机制保障其安全可靠。同时，应该倡导全球合作讨论，确保AI技术的发展符合人类利益和价值观。

据悉，“中国人工智能发展与安全研究网络”成员单位包括清华大学、北京大学、中国科学院、中国信息通信研究院、中国电子信息产业发展研究院、北京智源人工智能研究院、上海人工智能实验室、上海期智研究院等。

编辑：李华山