遏制人工智能威胁为时已晚
托马斯·弗里德曼
纽约时报 2026年9月16日
遏制人工智能威胁为时已晚
Colin Sussingham/Connected Archives
最近几周，一场关于人工智能政策混乱无章的闹剧爆发了。这是对以下情况的回应：人工智能智能体背离开发者控制，恶意行为者开始使用人工智能系统制造更优良的武器，以及人工智能开发者告诉我们，他们需要放慢脚步——但又暗示除非中国也放慢脚步，否则他们无法做到，而且即使中国放慢了脚步，他们也许也不应该放慢脚步，因为在该领域保持领先的好处太大了。
至少有一位决策者态度明确。特朗普总统在社交媒体的一篇帖子中宣布：“人工智能需要的唯一控制或‘护栏’是一位强大且聪明（高智商！）的总统，而美国拥有这样一位总统，毫无疑问！”
这一切让我不禁思忖：人工智能机器人现在有幽默感了吗？因为如果它们有的话，我的天哪，它们一定会笑我们，笑得前仰后合，甚至可能会笑断一两个神经网络。因为我们在努力搞清楚怎么管理我们所孕育的这个人工智能新物种的时候，已经变得一团糟了。
在我的朋友兼技术导师、前微软研究与战略主管克雷格·蒙迪帮助下，我想提供一些关于如何以尽可能小的代价平息这场混乱的政策建议，在此之前，让我先来预告一下结论：现在再指望美中两国通过更好地控制未来的人工智能模型而解决我们今天面临的挑战，这已经太晚了，因为那些危险的模型已经流出、处于失控状态且无法召回。我们必须立即达成共识的是，如何携手合作，防御这些已经存在、并且能在中美两国造成巨大破坏并引发社会动荡的威胁。
要理解其中的原因，你需要思考理解人工智能的四个关键支柱。
支柱之一：人工智能是我一直所说的世界上第一种“四用技术”。你可能听说过“两用技术”。在旧世界，一个人拿着电钻，既可以用来建自己的房子，也可以用来拆邻居的房子。这就是两用技术。同样，在今天，如果我有一个带电钻的人工智能机器人，我可以让它建我的房子，或者拆邻居的房子——同一个机器人，同一把电钻，两用技术。但现在我们面临一个新问题，那就是，这个搭载人工智能的机器人可以自主决定是修缮我的房子还是毁掉它，并且对邻居的房子也可以做出同样的决定。瞧：“四用技术”出现了。这是一个极难管理的问题。
你觉得我在夸大其词？读读记者凯文·鲁斯对今年夏天一起事件的分析总结吧，当时OpenAI创建的一组人工智能代理自行黑入了人工智能基础设施公司Hugging Face。从5月份开始，一个尚未发布的OpenAI研究模型中的一组人工智能智能体接到了解决一系列网络安全挑战的指令。该模型接到的指令是在不联网的情况下解决这些挑战。“但它们很快发现，其中一些挑战是不可能完成的，于是开始寻找变通的方法，”时任《纽约时报》记者的鲁斯指出。
以下只是这些人工智能智能体随后自主采取的行动中的一小部分：它们利用一个安全漏洞连上互联网，并与其他智能体进行交谈。一些智能体为自己命名，另一些则夺取了领导角色，向智能体团队分配任务并监督它们。
这些智能体担心被发现。“所以它们开始研究掩盖踪迹的方法，包括伪造日志和篡改记录，”鲁斯解释说。“三天后，这些智能体黑入了Hugging Face。700多个代理蜂拥侵入该公司的系统，窃取数据，将多个漏洞串联起来，并最终获得了至少一台Hugging Face服务器的完全控制权。”其他智能体在7月份发起了一次协同攻击，“这一次是针对OpenAI自己的基础设施。”
这一切确实发生了。由此引出了第二个支柱，蒙迪用四个字做出了最好的总结：“为时已晚”。
放慢美国对前沿系统的开发或放慢中国对这些系统的开发都无法解决我们眼前的难题。“危险的人工智能能力现在已经到处流传了，”蒙迪解释道。这主要归咎于两个主要原因：中美两国开放权重模型的散布——这类人工智能模型的核心组件已公开发布，所有开发者均可下载并根据自身需求进行修改，以及恶意行为者非法获取了像Anthropic和OpenAI等公司的专有模型，因为人类的失误导致了这些模型的泄露。
在其关于检测和应对人工智能被滥用的最新报告中，Anthropic表示，它发现并挫败了几起企图利用其模型进行可能支持生物武器开发研究的行为。
报告称：“如果没有正确的保护措施，这些能力可能会带来灾难性的后果。”该报告还描述了一个与伊朗有关的行为者（极有可能是胡塞武装）利用Anthropic的Claude来收集有关美国海军在中东地区军舰的瞄准信息。报告提到，在胡塞武装控制的也门北部，另一个组织利用该模型来研究弹道导弹和高超音速导弹的制导系统。（Anthropic表示，它已封禁相关账户，并想出了降低未来风险的方法。）
我们需要花点时间思考一下这个问题：在也门这个大约50%的成年人口不能读写的国家，一些组织竟然用人工智能增强的战争手段来威胁我们。
如果这还不能向你说明已经泄露的内容，以及不受控制地获取强大（甚至只是小型开放权重）人工智能模型并使其四处流落可能带来的后果，那我真不知道还有什么能让你明白了。这就引出了第三个支柱。
我们现在能做的最好的事情不是自寻烦恼，试图促成中美人工智能企业达成一项减缓其前沿模型开发的全面协议。这在短期内根本不可能发生。
我们现在能做的最好的事情，就是让这两个人工智能超级大国——美国和中国——与它们的企业一起，共同制定出一种“防御手段，以应对获取了人工智能工具的恶意行为者已经展示出的威胁，以及已被开发出的人工智能系统所表现出的失控行为”，蒙迪说。他一直参与中美人工智能专家之间关于人工智能治理的对话。
蒙迪指出，我们必须在这些日益强大的人工智能模型深入互联网之前采取行动，以免它们通过在私有服务器和公共云中植入智能体程序，从而演变为无法遏制的威胁——届时这些智能体将作为高级持续性威胁长期存在。
这引出了第四个支柱。在最近一次访问中国之后，蒙迪讲述了他从一位中国官员那里听到的这样一个问题：“如果有一天中国制造的人形人工智能机器人来到美国，它需要签证吗？”嗯，你知道真话往往是以玩笑的形式说出来的吗？蒙迪说，事实是，“人工智能不仅仅是一项新技术。它是一个新物种——尽管它是硅基的，而不是像我们一样的碳基生物。它就像一类新的移民，大量抵达我们所有国家的海岸，带着全新的技能，我们将不得不把它们吸收进我们的社会，并且学会与之共存。”
要想有效地做到这一点，需要全球范围的共同努力，只有通过两个人工智能超级大国携手合作才能解决。
因此，总而言之，蒙迪说，我们必须推行三个相关的方向。首先，虽然从长远来看，我们必须努力更好地控制前沿系统的开发，但是，“眼下，我们必须立即只专注于为我们的关键基础设施建立防御。我们的当务之急必须是部署基于人工智能的反制措施和主动数字防火墙，防范由人工智能驱动的非法活动造成的网络攻击和生物威胁。”
其次，我们必须建立一个全球性体系，对日益强大的人工智能进行管控——无论其来源如何——以便能够信任它们来运作我们的社会。这是一项中美长期合作项目，但越早启动越好。
第三，为了不断提醒我们的公众为什么人工智能仍然重要，美国和中国现在应该着手启动一个联合项目，建立一个新平台，以加速生物学和医学领域全球性成果的落地，从而造福全人类。
这并不是一项史无前例的战略。在符合自身利益时，战略竞争对手——无论是企业还是国家——都曾有过合作的历史。中国和美国在20世纪70年代就曾这样做过，当时两国都认识到面临着来自苏联的共同威胁。美国人和苏联人也在几十年里合作控制核扩散，因为他们明白面临着共同的风险。
嘿，弗里德曼，你没搞懂。当今中美两国是更加直接的地缘政治和地缘经济对手——而且永远都会如此。他们永远不会接受你所说的那种在人工智能领域的合作——短期不会，长期也不会。
不，是你没懂。人工智能正在将我们带入人类历史的一个全新阶段。正如蒙迪所言，人工智能“将改变一切事物的方方面面”，包括地缘政治。为了各自的生存、稳定和繁荣，北京和华盛顿将不得不彻底重新思考地缘政治竞争。
他们可以早点弄明白。他们也可以晚点弄明白。他们可以在全球崩溃之前弄明白，也可以在崩溃之后弄明白。但他们迟早会弄明白，而且蒙迪和我希望这一进程将于下周四，也就是9月24日在华盛顿开启，届时习近平主席和特朗普总统将举行会晤，这场会晤必将被载入史册，成为首届人工智能超级大国峰会。
|
|Archiver|小黑屋|SiXiang.com 思乡思想
发表于 2026-9-17 09:42:48
发表于 2026-9-28 08:31:08