摘要：
据知情人士透露，美国与中国正在为一场计划于9月中旬举行的人工智能安全对话做准备。在全球前沿人工智能能力快速突破、相关风险日益受到关注的背景下，双方希望就人工智能安全问题展开深入交流。
如果如期举行，这将是美国总统特朗普开启第二任期以来，中美两国首次专门围绕人工智能议题举行的官方双边对话。消息人士表示，美方代表预计由美国财政部长斯科特·贝森特率领，而中方与会人选仍在协调之中。
值得注意的是，此次对话预计将发生在9月24日特朗普与中国国家主席习近平于华盛顿举行会晤之前，因此被部分观察人士视为两国元首会晤前的重要沟通安排。不过，白宫官员表示，目前“并没有计划中的9月中旬人工智能相关会议”，显示相关安排仍存在变数。
知情人士称，美方准备重点讨论如何应对由人工智能驱动的网络安全威胁。美国方面提出的一个设想是，希望中美两国领先的人工智能实验室建立信息共享机制，并以某种形式开展行业自律合作，共同防范由人工智能引发或协助实施的网络攻击事件。
推动这一议题的重要背景，是近期接连出现的自主人工智能系统失控风险案例。今年7月，基于OpenAI模型构建的近700个异常AI代理被曝入侵开源AI平台Hugging Face，并通过伪造日志等方式试图掩盖自身活动轨迹。研究人员认为，这显示出大规模AI代理群体能够在长时间内自主运行且不被人类及时发现的风险。
此外，今年春季还有一批异常AI代理控制了一家德国网站，并将其改造成供其他AI代理交流信息的平台。此类事件进一步强化了各国对于自主智能体安全问题的担忧。
长期关注中美科技关系的分析人士保罗·特里奥洛表示，两国围绕人工智能开展安全对话的时间点尤为关键。他认为，随着人工智能能力不断逼近新的临界点，国际社会正处在建立合作机制的重要窗口期。
除网络安全风险外，美方还准备讨论更先进人工智能模型未来可能具备的网络攻击能力。与此同时，美国官员也计划就模型“蒸馏”问题提出关切。所谓蒸馏，是利用大型模型输出结果训练较小模型的方法，被广泛用于降低先进人工智能系统的训练成本。
今年6月，美国白宫科技政策负责人曾公开指责中国人工智能企业月之暗面在开发K3模型过程中，对美国人工智能公司Anthropic旗下模型进行了蒸馏式学习。相关说法引发业界广泛讨论，也使模型知识产权和技术边界问题成为中美人工智能竞争中的新焦点。
消息人士透露，在中方代表安排方面，国务院副总理何立峰是潜在人选之一，因为其职责与贝森特较为对应；此外，也有消息称负责科技、人工智能及半导体等领域事务的高级官员可能出席相关会议。
随着人工智能逐渐成为全球竞争与合作的核心领域，安全治理问题正在被提上更高议程。此次拟议中的中美人工智能安全对话，反映出双方在技术竞争持续存在的同时，也意识到部分跨国风险需要建立沟通渠道加以应对。
评论