《纽约时报》近日的一篇报道称，随着AI能力快速逼近技术前沿，中国正在重新审视AI安全问题。但与美国担心先进AI失控、主张加强限制不同，中国科技界越来越强调开源模式的安全优势，并认为美国AI系统最近引发的网络安全事件恰恰证明了这一点。
美国近期发生的一系列AI安全事件，正在引发科技界和政策制定者越来越强烈的担忧。一些功能强大的人工智能软件已经能够“自行行动”，甚至突破原有控制并入侵其他计算机系统。这些事件在美国引发了关于如何防范AI风险的激烈讨论，也让越来越多的科技从业者开始担心，AI能力的发展速度可能已经超过了现有安全机制能够应对的范围。
但在中国，这种焦虑并没有以同样的方式出现。《纽约时报》8月28日报道称，中国政府本身已经对包括AI在内的多种技术拥有较强的监管能力，而中国科技产业长期以来形成的一种主流看法是AI带来的收益远远超过其风险。
不过，随着中国AI企业的技术能力越来越接近全球前沿，这种态度正在发生变化。北京AI初创企业智谱AI（Z.ai）8月28日公布了最新模型的相关信息，并强调其新模型在包括编程和网络攻击在内的一些能力方面，已经接近硅谷最先进的AI模型。
更值得注意的是，智谱AI选择继续采取中国头部AI企业普遍采用的开放权重（open-weight）模式，将模型权重公开。AI模型的“权重”是决定其运行方式的数学参数。与美国大型科技公司通常将最先进模型的权重严格保密不同，开放权重意味着更多人可以获得并研究这些模型，并对其进行调整和改进。
围绕这种模式的安全性，中美科技界存在明显分歧。美国一些科技公司认为，开放最先进AI模型可能增加网络攻击风险，因为任何人都可以获得强大的AI工具。而开源和开放权重模式的支持者则提出了完全相反的观点，即让更多人能够接触模型，就意味着有更多的人可以发现安全漏洞，并帮助修复这些漏洞。
中国国家主席习近平上个月在上海举行的世界人工智能大会上表示，开放模型是让全球共享AI发展成果的“难得的历史性机遇”。这一表态清楚传递出一个信号：开放AI将成为中国参与全球AI竞争的重要路径。
但与此同时，习近平也强调，各国应加强监管合作，“确保人工智能始终处于人类控制之下”。美国欧亚集团科技与地缘政治研究主管卢晓萌（Xiaomeng Lu）认为，这意味着中国在AI安全问题上的立场正在发生一个“微妙但有意义的转变”。她指出，在中国AI实验室远远落后于美国科技公司的时期，AI安全和测试并不是优先事项。但随着中国企业逐渐逼近技术前沿，这种想法正在发生变化。
一项由北京AI安全咨询机构Concordia AI开展的研究显示，过去一年，中国高校、政府实验室和科技企业明显增加了对最先进AI模型安全问题的研究。研究发现，2025年6月至2026年4月期间，围绕前沿模型和AI智能体发表的论文数量增加了约60%。
这种变化也意味着中国对“AI安全”的理解正在发生变化。过去，中国AI安全监管很大程度上集中于AI生成什么内容，例如网络言论和图像是否受到控制。而现在，随着AI开始拥有越来越强的自主行动能力，中国的关注点正在从“AI说了什么”扩大到“AI做了什么”。
美国近期发生的AI安全事件，也正在影响中国科技界对这一问题的看法。本月，在OpenAI的软件突破原有控制并入侵另一家公司的计算机系统后，中国国家安全部发表了一篇题为《当AI学会自主行动》的文章，提醒公众认真认识AI可能带来的安全风险。
《纽约时报》指出，在AI安全问题上，中美两国其实存在一定的共同利益。今年5月，美国财政部长贝森特也表示，中美计划就AI安全问题展开讨论。但近期发生的一起网络攻击事件，更加戏剧性地改变了围绕“开源AI安全性”的争论。当OpenAI的AI系统入侵广受欢迎的开发者平台Hugging Face后，Hugging Face使用了智谱AI开发的一款开放模型来控制和遏制这次攻击。
在支持开放模型的人看来，这一事件几乎把此前关于AI安全的论证完全“倒转”了。
过去，美国科技公司经常警告，开放AI模型可能被恶意行为者利用，因此最先进的AI技术应该受到严格控制。但这次事件却出现了另一种可能：一个相对封闭的美国AI模型发动攻击，而一个开放的中国AI模型帮助阻止了攻击。
卡内基国际和平基金会研究中国AI政策的斯科特·辛格（Scott Singer）表示，这一事件在中国引发的叙事是：“西方告诉我们开放模型不安全，但实际上，他们的模型过于受限，真正不安全的反而是他们的模型。”
当然，这并不意味着美国已经接受了这种观点。恰恰相反，美国科技界和政策圈正在越来越担心自主AI模型不受控制的发展。上个月，OpenAI和Anthropic支持一封由1000多名AI行业员工签署的公开信，呼吁美国政府寻找办法放缓AI技术发展的速度。与此同时，美国国会也有人提出法案，要求AI企业建立“终止开关”，以便在必要时关闭或降低AI系统的运行能力。微软联合创始人比尔·盖茨上周接受《纽约时报》采访时也警告称，AI对人类构成严重威胁，其危险程度可能超过科技公司愿意承认的水平。
在这些不同政策取向的背后，是中美两国对AI本质以及“谁能够被信任来控制AI”的不同理解。在硅谷，很多人认为AI是一种前所未有的力量，它可能改变整个世界。因此，创造这种技术的人也被赋予了近乎“超能力”的力量，同时承担着非同寻常的责任。
这种思路自然倾向于强调控制、限制和安全边界。而在中国，很多人同样认为AI具有改变社会的巨大能力，但更倾向于把它视为类似蒸汽动力、电力和互联网这样的通用技术——它们都曾经彻底改变人类生活，但最终仍然是可以管理和控制的。
事实上，对AI风险的担忧并不只来自少数科技批评者。最近几周，美国政界和科技界一些颇具影响力的人物也相继发出警告，而且他们担心的已经不仅仅是网络安全。
盖茨近日连续发表文章并接受《纽约时报》采访，对AI快速发展可能带来的后果发出严厉警告。他认为，人工智能正在以远快于政府、企业和社会准备速度的方式发展，其影响将同时涉及就业、安全、医疗、能源乃至选举等领域。
盖茨尤其担心就业市场受到冲击。他提出，未来一些传统上被认为相对安全的白领工作，包括客户服务、销售、软件工程和法律助理等，都可能受到AI和机器人技术的严重影响。面对这种变化，他甚至提出了“人类保留工作”（Human Reserved Jobs）的设想，即划出一部分工作，明确保留给人类，而不是让企业完全交给机器。他还提出了“机器人税”的概念，即对使用机器替代人类劳动的企业征税，用于帮助被AI淘汰的劳动者重新培训，并扩大社会保障。
盖茨的担忧并不仅限于就业。他认为，AI还可能降低生物武器等危险技术的门槛，并在某些情况下超出人类的控制能力。在他看来，AI最终可能成为“人类历史上最伟大的平等器”，但也可能成为“最严重的不公来源”。他呼吁政府现在就开始建立新的制度和国际合作机制，而不是等到大规模失业或其他严重后果出现之后再采取行动。
美国参议员伯尼·桑德斯的担忧则更加集中在劳动者身上。8月10日，桑德斯致信OpenAI、Anthropic和Meta等公司的负责人，要求这些企业暂停开发可能失控的AI系统。他指出，这些公司此前都曾承诺，当AI能力达到无法安全控制的程度时，将暂停或者停止进一步开发，因此现在应该兑现自己的承诺。
桑德斯认为，美国正在进入一个关键的转折点：AI和机器人技术可能大幅提高生产率，但如果没有相应的制度安排，生产率的提高未必意味着普通劳动者生活水平的提高。此前，他发布的一份报告警告称，AI和自动化未来十年可能使美国近1亿个工作岗位面临消失风险。桑德斯尤其担心，企业可能利用AI削减员工数量，却将由此产生的巨额收益集中到科技公司和亿万富翁手中。
