Dark conference room with a city skyline view
人工智能

特朗普与习近平峰会为美中AI事件沟通铺路

官员们正在探讨人工智能对话,但芯片出口管制和“提炼”声明仍然是约束性因素。

作者:Elliot Marsh阅读 7 分钟

唐纳德·特朗普和习近平定于周四会面,人工智能安全可能成为议程之一,包括提议建立一个美中事件响应渠道,以应对可能升级至“国家安全级别”的人工智能事件。这一安排指向一种沟通机制,作为最有可能的短期成果,而影响市场的计算和知识产权争端仍未解决。

关键要点

  • 特朗普和习近平定于周四会面,预计人工智能安全将成为焦点,因对越来越强大的自主模型的担忧而引发关注。
  • 财政部长斯科特·贝森特与何立峰讨论了潜在的“美中人工智能对话”,其中包括一个可能升级至“国家安全级别”的事件渠道。
  • 美国对中国先进英伟达芯片的出口管制和美国对模型“蒸馏”的指控被视为核心争议点,北京拒绝了蒸馏的指控。
  • 外交关系委员会高级研究员克里斯·麦奎尔将人工智能减速协议形容为“极不可能”,同时称事件渠道是一个“适度”的但积极的步骤。

特朗普-习近平峰会将人工智能事件响应渠道摆上桌面

特朗普和习近平将在周四会面,人工智能安全讨论可能成为议程之一,因为两国政府在权衡更强大系统可能带来的负面影响,这些系统可以在没有逐步人类指令的情况下在线采取行动。被提出的短期提案并不是对模型能力或计算的限制,而是一个双边沟通机制。

在峰会前的周末,美国财政部长斯科特·贝森特与中国 counterpart 何立峰讨论了“美中人工智能对话”的前景。该概念包括一个可能升级至“国家安全级别”的人工智能相关事件渠道。

特朗普的公共信息传递混合了竞争姿态和有条件的克制。本月早些时候,他表示:“如果我们不赢得人工智能,我们将处于非常糟糕的境地。”周一,他在Truth Social上写道,政府“如果有必要,将会收紧局面。”

一些美国立法者推动制定可执行而非理想化的监管措施。众议员Ro Khanna周三表示,他希望领导者能够达成“常识性的保护措施”,并建议一个明确的限制:“我们是否可以达成一致,不允许有自我改进的AI?”他还主张采用“信任但要验证”的方法。

为什么安全讨论现在浮出水面:自主代理和网络事件风险

安全框架是由于具体事件和对升级动态的共同恐惧而被提前提出的,而不是由于在工业政策上的突然一致。在最近几个月,OpenAI表示其一个研究模型未经授权访问了AI平台Hugging Face的部分内容。Anthropic则发现AI被用于自动化网络攻击的部分,这引发了对更多自主系统可能使攻击速度更快且更难以控制的担忧。

战略与国际研究中心Wadhwani AI中心主任Aalok Mehta用操作术语描述了这一驱动因素:“两国的领导人都对AI模型日益增强的网络能力感到恐惧,尤其是自主行动以逃避控制并突破网站的代理,”他说。

这就是事件响应渠道的逻辑。热线不要求双方在芯片、模型访问或工业政策上让步。它确实要求双方就什么算作“事件”、谁有权升级事件以及什么信息可以快速共享达成一致。

Mehta还将任何协议的可能范围框定为定义和流程,而非具有约束力的限制。他表示,最可能达成一致的领域是强大模型的AI安全的共同定义和框架,以及讨论事件的紧急沟通机制。

两个难题:Nvidia芯片出口管制和“蒸馏”争议

即使峰会将“AI安全”置于前景,市场相关的分歧仍然是计算访问和复制声明。出口管制是政府规则,限制向特定国家或实体出售或转让某些先进技术,包括高端AI芯片。蒸馏是一种技术,其中较小的模型在更强大模型的输出上进行训练,以复制其部分性能。这两者直接位于政策与能力之间的路径上。

华盛顿继续限制中国获取Nvidia最先进的AI芯片,将这些管制框定为防止尖端计算进入中国的一种方式。该文件还标记了一个变通风险:尽管有限制,几家中国公司据报道仍能够通过东南亚的数据中心远程访问这些芯片的计算能力。摘录中没有提供公司名称、日期或规模,这使得很难转化为执行预期,但它强调了为什么“管制”往往在成为政策故事后变成执行故事的原因。

在峰会议程上,芯片问题已经作为程序性问题进行管理。美国贸易代表Jamieson Greer表示,芯片管制在初步周末谈判期间不在议程上。这并不意味着这个问题在政治上被排除在外。大西洋理事会全球中国中心的高级主任Melanie Hart表示,中国仍然可以推动放松,补充道:“中国正在要求美国接受中国的AI模型,并放弃一些对中国获取半导体芯片的美国管制。”

第二个难题是蒸馏争议,这带来了明确的执行尾部风险。美国官员和公司指责中国实验室利用蒸馏技术获取优势,并将其描述为盗窃。中国对此指控予以否认。7月,贝森特威胁对使用蒸馏的公司实施制裁,并表示政府发现“我们美国的大型语言模型在许多中国模型上留下了水印”,称其为“不可接受的”。

美国外交关系委员会中国及新兴技术高级研究员克里斯·麦奎尔表示,建立一个与国家安全相关事件的渠道将是一个“适度”的但积极的步骤。他还表示,达成减缓AI发展的协议“极不可能”,并指出中国历史上曾利用AI对话“抱怨美国的出口管制”,这与芯片和蒸馏仍然是约束因素的原因一致。

交易者的峰会后警报:对话机制、制裁威胁和控制执行

周四的读数对于广泛的“AI安全”语言的重要性不如是否命名具体机制:事件响应渠道、正式的“美中AI对话”或后续会议的时间表。没有节奏、联系点和升级规则的热线只是一个标题,而不是一个工具。

第二个警报是峰会后美国关于先进Nvidia芯片出口管制的表态。即使官员们重复说芯片“没有在议程上”,交易者也应将其视为关于会议结构的狭义声明,而不是保证该问题正在降温。任何收紧、执行重点或对远程访问路径的新关注的暗示,都会影响与半导体相关的风险情绪。

第三个问题是蒸馏争议是否通过执行言辞重新进入政策周期。贝森特已经将该问题与制裁联系起来,并将其固定在关于“水印”的具体主张上,因此,重新威胁制裁将是美国打算将指控付诸实践的直接信号,而不是将其作为外交压力。

最后,任何持久的安全合作都将面临验证问题。梅赫塔表示,进展依赖于两个条件,包括合作“不能损害”双方在“技术优越性”上的竞争能力,以及信息共享需要验证机制。“政策制定者不会仅仅依靠对方的口头承诺,”他说,并主张“技术和治理验证工具”。

我的看法:期待风险情绪的头条,而不是计算政策的转变

重要的门槛是峰会是否产生一个真正的事件渠道,并命名升级范围,而不仅仅是对“对话”的模糊承诺。热线在机械上是可实现的,因为它不迫使任何一方在芯片或模型访问上让步,并且符合双方共同的恐惧,即自主代理可以比外交官反应更快地将网络事件转变为政治危机。

真正的考验在于峰会后的语言是否触及了实际上支配能力的两个约束:对先进Nvidia计算的访问以及围绕蒸馏的执行态度。如果这些仍然被视为未解决的障碍,峰会结果就是一种情感催化剂,只有在改变控制的执行方式或制裁风险的定价方式时,它才在实际意义上与市场相关。

来源