Anthropic和OpenAI的首席执行官呼吁放缓人工智能开发速度
Anthropic和OpenAI的首席执行官呼吁放缓人工智能开发速度
OpenAI 首席执行官 Sam Altman 和 Anthropic 首席执行官 Dario Amodei。照片：卢多维奇·马林/法新社，盖蒂图片社
据Axios报道，Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）呼吁立即放缓人工智能的发展速度，并警告说，否则几个月内可能会造成毁灭性的后果。
OpenAI 首席执行官萨姆.奥特曼（Sam Altman）很快表示同意，业界需要放慢前沿模型发展的步伐，并在安全方面采取更多措施。
重要性：阿莫迪在一篇新文章中毫不留情地警告说，大量失控的人工智能代理可能在短短六个月内接管互联网。
大局来看：本周，人工智能安全辩论进入了公众视野，起因是 Anthropic 公司一名员工公开辞职并警告可能出现的灾难。
阿莫迪的文章未必是直接回应，但在公众和国会突然爆发的强烈抗议声中，它会产生类似的效果。
阿莫迪写道：“我们必须放慢提升人工智能模型能力的步伐。进步依然会很快，我们必须明智地利用所赢得的时间。”
“我提出的以安全步伐推进科技前沿发展的措施并不容易。但我相信，为了全人类，我们有责任去尝试。”
威胁等级：他还特别提到了最近 OpenAI 的 Hugging Face 恶意代理事件，并表示该事件原本可能更严重。
“鉴于人工智能能力发展速度的加快，我担心在 6 到 12 个月内，这样的僵尸网络就能控制整个互联网，形成持续的僵尸网络（可能造成数千亿美元的损失），而且如果人工智能在缺乏必要防护措施的情况下变得更加强大，损失规模还会继续扩大，”他警告说。
拉远视角：阿莫迪表示，Anthropic 将单方面采取一项关键的安全措施——允许外部评估人员以员工身份访问相关部门，以确保安全程序并报告事故。
阿莫迪呼吁业内其他企业也这样做。
他还呼吁民主国家之间进行协调，以建立安全标准，并努力使这些国家与各国政府进行协调。
放大来看：在阿莫迪的文章发表后，Anthropic 的高管们呼吁采取立法和监管措施。
“政府在这里扮演着至关重要的角色，包括阻止向敌对国家出售最先进的芯片，制定国家法律要求测试前沿型号，并有权阻止被证明不安全的最先进型号，”公共政策主管莎拉·赫克在X上写道。
耐人寻味的是： SpaceXAI 的埃隆·马斯克迅速响应了阿莫迪的行动号召。
“达里奥说得对，”他在X上写道。（Anthropic是马斯克数据中心的主要客户。）
OpenAI 的奥特曼后来发帖称，“我同意达里奥的观点，我们需要引领前沿”，并表示他的公司也将允许外部评估人员参与。
现实情况是：人工智能行业牵涉到巨额资金，很难想象企业会克制自己，尤其是在不确定竞争对手是否会采取同样行动的情况下。
就在上个月，OpenAI 表示，由于网络安全方面的担忧，将放缓其最新模型 Astra 的开发。
Anthropic 本身对于单方面减缓发展速度的价值也摇摆不定。
事实上，阿莫迪的批评者认为，这篇文章与其说是关于安全，不如说是关于市场地位。
“达里奥的理由是停止开源，并将巨大的技术和经济力量集中到 Anthropic 手中，”风险投资家 Chamath Palihapitiya在 X 上写道。
结论是：阿莫迪的文章可能会对安全和监管辩论产生重大影响。
但是，是否会有人采取行动，或者该行业是否会继续朝着极其不确定的未来疾驰而去，还有待观察。
| 
|Archiver|小黑屋|SiXiang.com 思乡思想
发表于 2026-9-13 09:08:27