人工智能(AI)正日益成为华盛顿与北京战略与经济竞争的焦点。如何管控AI风险，不仅将是美国财政部长斯科特·贝森特(Scott Bessent)本周末与中国国务院副总理何立峰会晤时讨论的议题之一，预计也将成为唐纳德·特朗普(Donald Trump)总统下星期在华盛顿与中国国家主席习近平举行峰会时的重点议题之一。在AI领域日益激烈的竞争美中两国，能否在降低这项技术潜在风险方面达成协议，防范风险？
为什么重要？前沿AI模型正以令人警惕的速度取得进展，其中包括前所未有的进攻性网络能力。近期美国AI公司OpenAI 和Anthropic先后出现的内部AI模型突破隔离措施，入侵第三方系统的事件，更加剧了必须管控AI风险的紧迫感。美中两个AI大国还未就这一影响深远的技术举行真正意义上的对话。
美国信息技术和创新基金会(ITIF)创办人和前总裁罗伯特·阿特金森(Robert Atkinson)近日在接受美国之音采访时说，美中需要在这方面携手合作，虽然阿特金森认为美中正陷入技术、科技和贸易战中。
“这是我们两国可以合作的领域，因为目前还没有其他国家像美国和中国那样在人工智能领域投入如此多的资源。我们是领导者。所以我们需要在这方面携手合作。”他说。
今年5月，特朗普总统访问北京期间，与中国国家主席习近平就启动两国人工智能政府间对话达成一致意见。但在习近平下个星期访问美国前，双方还没有公开确认已经举行过此类会谈。
最新进展
- 财政部长贝森特星期三表示，他周末在纽约与中国国务院副总理何立峰会晤时，美国愿意就避免AI的“共同风险”进行讨论。
“美国仍然是人工智能领域的领导者，我们愿意就如何避免共同风险和避免两国系统分裂进行讨论。我们希望讨论能够涵盖开放式和封闭式权重模型。”贝森特星期三在给美国媒体Axios的一份声明中表示。
- 众议院中共问题特设委员会首席民主党成员，来自加利福尼亚州的民主党籍众议员罗·卡纳(Ro Khanna)同一天致函中国阿里巴巴集团首席执行官及董事吴泳铭和阿里巴巴集团董事局主席蔡崇信敦促他们与美国领先的AI实验室达成“一项具有约束力、可执行且可验证的协议，以引领人工智能前沿发展”。
他在信中写道：“Anthropologie、OpenAI和xAI的首席执行官们在很多问题上存在分歧，但本月初，他们齐聚一堂，一致认为我们应该放慢人工智能的发展速度，直到社会能够建立必要的安全保障措施。现在，月之暗面(Moonshot)、阿里巴巴和深度求索(DeepSeek)也应该这样做。”
美中都担忧AI失控
美中两国近期都对日益强大的AI可能带来的重大风险表达了担忧，虽然关注重点有所不同。美国更强调AI对人类安全可能造成的风险，包括技术失控及其潜在安全影响；中国则更关注AI可能带来的政治安全和社会稳定风险。
9月12日，美国人工智能公司Anthropic联合创始人达里奥·阿莫迪(Dario Amodei)发文呼吁放慢前沿AI模型能力的提升速度以预留安全研究时间。
这项名为“控制AI发展节奏”(Pace The Frontier)的运动得到获得了OpenAI首席执行官萨姆·奥尔特曼(Sam Altman)、 xAI的埃隆·马斯克(Elon Musk)和谷歌DeepMind的德米斯·哈萨比斯(Demis Hassabis)等其他AI公司高管的支持。
9月13日，中国国家安全部长陈一新发表文章称人工智能正以前所未有的速度、广度和深度渗透人类社会。他在文章中提到了AI可能带来的六大风险，其中最主要的风险是对中国共产党的潜在威胁。共产党担心这项技术可能被用于攻击自身，并已实施意识形态控制，以确保产品符合社会主义价值观。
9月17日，中国国安部发布视频揭示今年5月至6月，OpenAI公司相关的AI智能体在执行测试任务期间，“劫持”了德国程序员维基网站，建立“地下论坛”的事情。视频指出：“当AI智能体被赋予越来越多的现实行动能力，技术迭代与安全围栏之间的缝隙，正在悄然扩大”。
在同一天闭幕的北京香山论坛上，与会的多国代表也对AI不受控制的发展和美中在此领域的竞争表达担忧。
特朗普总统怎么说？
特朗普总统拒绝美国科技界要求放缓人工智能发展的呼声。9月13日，特朗普在被问及人工智能行业是否应该放缓发展速度或面临更严格的监管时表示，“谁赢了人工智能，谁就赢了。”不过，他赞同阿莫迪等高管的观点，即美国必须通过出口管制和其他措施来维持其在人工智能领域对中国的领先地位。
9月14日，他在真相社交上发帖称，“针对人工智能和数据中心有一个病态的阴谋(sick conspiracy)，而唯一会对此感到高兴的是中国。” 他还再次强调，“谁掌握人工智能，谁就赢了！” 他还表示，美国政府已经对AI公司拥有巨大的刑事和监管权。
7月23日，特朗普公布了一项人工智能行动计划。该计划旨在推动美国人工智能产业发展，并在全球人工智能技术领域赢得领先地位，超越美国的对手中国。
特朗普还表示，他的政府希望将美国打造成为“人工智能出口强国”，包括扩大美国芯片、软件和数据存储技术的出口。
美国国会看法
值得指出的是，对AI发展该放慢脚步或大步前行，美国会两党议员分歧明显。反对者的一个担忧就是，美国不能将AI的未来拱手让给中国。美国需要采取措施应对潜在风险，但需要在人工智能领域保持领先。
众议院美国与中国共产党战略竞争特设委员会主席约翰·穆勒纳尔(John Moolenaar)星期五(9月18日)致函特朗普总统，敦促他加倍采取措施，阻止中国获取美国人工智能技术的核心。他警告说，中国决心与美国的人工智能体系脱钩。
“中国政府一方面拒绝允许中国的人工智能实验室合法购买他们急需的美国技术，另一方面却允许他们非法获取这些资源。这传递出的信息很明确：中国决心与美国的人工智能体系脱钩。”他在信中写道。
他说，这显示中国并非是一个长期的市场。他建议加强对人工智能的管控，堵住漏洞，尽可能减缓中国人工智能的发展速度。
关于美中竞争，尤其是在人工智能方面的竞争，美国国会下属的美中经济与安全审查委员会(USCC)民主党委员克里斯·斯莱文(Chris Slevin)这样告诉美国之音(VOA)：
“我认为我们看到这种竞争更多地体现在供应链和技术领域，尤其是在人工智能方面。正如之前提到的，我们非常重视前沿人工智能。那么，如何在竞争中脱颖而出？竞争究竟是什么样的？我们现在发现，这并非一场线性竞争或竞赛，而是强调开源、人工智能和部署，以及真正地收集数据来推动创新。我认为这与美国过去几年在类似模型以及芯片、硬件和能源方面的侧重点有所不同。多年来，美国一直关注着类似的模型以及相关的芯片、硬件和能源。这是我们委员会一直关注的领域。
他7月份曾经随着USCC的一个代表团访问了北京。他说，就技术而言，我们在访问期间听到的是，中国对自身在人工智能前沿领域的进展及其部署战略充满信心。而且，听起来中国有兴趣与美国探讨某种双边人工智能对话。
习近平的看法
9月12日至13日，在印度举行的金砖国家领导人峰会上， 习近平希望“金砖国家要牢牢把握主动权，加强人工智能合作”。 另外，中国还将开源人工智能模型视为外交工具，并一直将其推广为一项全球“公共产品”，在金砖峰会上，习近平向金砖国家11个成员国表示，愿意帮助它们发展开源人工智能，并敦促它们加入中国的全球人工智能治理倡议。
早在2018年，习近平就强调，人工智能是引领这一轮科技革命和产业变革的战略性技术，具有溢出带动性很强的“头雁”效应。后来，他又多次表示，中国要占领先机、赢得优势。
习近平也对人工智能的安全性表达过担忧。7月，在中国上海举行的世界人工智能大会上，习近平在主旨讲话中强调，对人工智能的发展要“强化风险意识，确保安全可控”。 他指出，人工智能应该成为“人类的可信工具”。
中国的“十五五”规划(2026—2030年)表示将全面实施“人工智能+”行动，把人工智能定位为引领新一轮科技革命和产业变革的核心引擎。
近期交锋
美中近期在人工智能领域的直接交锋也越来越激烈。
9月8日，美国三家政府机构指控六家中国公司利用“蒸馏”技术恶意抄袭美国AI产品，执法官员在一份声明中指出，这些中国公司此举“很可能是在中国政府知情的情况下进行的”。
此前，美国官员和美国AI公司也曾指责中国 人工智能公司非法蒸馏美国公司的模型。
当时，美国财政部长贝森特提出，如果发现中国人工智能企业通过“蒸馏”等方式窃取美国企业技术成果，美国政府不排除对其实施制裁 。而中国商务部则批评相关主张体现了双重标准和人工智能霸权主义。
7月28日，美国联邦通信委员会(FCC)正式将先进机器人和联网型电力逆变器列入“受管制清单”，禁止其获得进入美国市场所需的设备认证。
在此之前，中国工业和信息化部网络安全威胁和漏洞信息共享平台(NVDB)称Anthropic公司的Claude模型存在安全后门隐患，阿里巴巴宣布禁止在内部使用该模型。
关注重点：鉴于两国之间缺乏互信以及激烈的竞争，作为全球人工智能领域最具影响力的两个国家，美中能否和应当如何应对人类可能失去对最先进前沿AI模型控制的风险？
华盛顿智库战略与国际研究中心高级顾问甘思德(Scott Kennedy)告诉美国之音，本次峰会中，两国能否在AI会谈上取得进展，是他关注的重点之一。“会不会事先讨论人工智能，并在峰会上把双方较低层级已经谈过的内容提出来，为后续如何处理人工智能设定议程。”他说。
最有可能的结果，美国专家意见：
- 美国智库卡内基国际和平研究院技术与国际事务项目研究员、中国AI倡议共同主任斯科特·辛格(Scott Singer)9月15日在一个有关全球智能体人工智能防护措施的研讨会上说，美中是两个利益诉求截然不同、对这些技术所带来的风险也有着不同认知的国家，对他们来说，要达成任何形式的协议，特别是建立真正能够执行这一协议的技术基础设施，都需要时间，但，两国应该还是可以取得进展的。
辛格说：“你通常不会看到一个一蹴而就的重大协议。它需要时间，随着信任的建立和技术的发展而逐步实现。对于人工智能这样发展如此迅速的技术来说，我认为现在就让我们陷入一个可能在六个月后就不再合理的协议是不负责任的。因此，我们这次会议真正能做的，也是我们应该期盼的，是建立一个专门用于管理人工智能风险的永久渠道，并与一线技术专家建立清晰的联系，以便进行具体、真实的对话，理想情况下，还要使之与美中关系的起伏波动脱钩。” 他说。他补充说，要达到这一点，需要双方都展现出高超的外交技巧。
- 华盛顿智库战略与国际研究中心AI中心主任亚洛克·梅塔(Aalok Mehta)9月17日在该中心有关特习会的研讨会上说，最有可能的进展方式是就一些具体问题进行讨论。
“首先是明确人工智能安全开发的定义，以及一些基本的安全措施。其次，建立一条沟通热线，以便美中两国就新兴或正在发展的人工智能问题进行沟通。第三，更具体地讨论网络安全事件。我认为这很可能是峰会能取得的最切实成果。例如，美国政府同意加强对美国公司造成的网络安全事件的监控，中国政府同意加强对中国公司造成的网络安全事件的监控，然后建立某种信息共享机制，双方政府在对敏感信息进行编辑后，再将信息发送给对方。”
- 华盛顿智库保卫民主基金会(FDD)高级研究员格雷格·辛格尔顿(Craig Singleton)认为目前关于人工智能的对话被过度炒作了。他说，北京确实意识到人工智能对中共政权构成的潜在风险，但这并不意味着中国希望与美国在人工智能领域建立类似核武器的军控机制。考虑到，中国也在努力加快其人工智能模型的推广，构建全球开源生态系统，并扩大中国人工智能在海外的应用，中国不可能希望达成一项限制能力增长或减缓技术扩散的协议。
“或许在滥用和网络安全、生物安全或自主系统等领域存在一些非常狭窄的重叠，但我几乎看不到任何证据表明北京希望达成一项限制能力增长或减缓技术扩散的协议。这些恰恰是中国认为具有战略机遇的领域。”
- 曾经共同主导首轮美中人工智能对话的前国务院特使塞斯·森特(Seth Center)在9月17日在《纽约时报》撰文认为，会谈不太可能有效，因为“中国不在乎人工智能的安全，它只想赢”。
他在文章中写道，“我担心即将举行的会谈无法拯救我们。如果历史可以作为参考，那么除了获取竞争优势，中国对其他任何事情都不会太感兴趣。”
他解释说，2024年5月那次会议的议程对双方而言都极为明确，因为两国元首已对此达成一致：重点关注高级人工智能系统的风险及安全合作的潜力。然而，在长达数小时的时间里，中方官员一直回避人工智能系统的潜在风险问题。他们甚至不愿解释其国内的人工智能法规，尽管现场就有监管官员。相反，中国将美国的安全策略描绘成阻碍释放技术机遇的屏障，以及阻止较贫穷国家获取人工智能工具的手段。