联合国AI会议OpenAI与Anthropic吁警惕与合作

Daobo

【联合国安理会AI安全会议，中文同声翻译
https://webtv.un.org/zh/asset/k1c/k1cdceg9sg
--  Caibiao 注】


联合国聚焦人工智能风险 OpenAI与Anthropic负责人呼吁加强警惕与合作

多家人工智能企业的负责人周三(9月23日）在联合国表示，人工智能的发展需要更高程度的警惕。Anthropic首席执行官达里奥·阿莫迪甚至承诺，必要时将单方面放慢研发速度。

OpenAI首席执行官萨姆·奥特曼在联合国总部举行的联合国安理会人工智能会议上发表讲话 ... ...

OpenAI首席执行官萨姆·奥特曼在联合国总部举行的联合国安理会人工智能会议上发表讲话。（路透社 - 布伦丹·麦克德米德）

OpenAI首席执行官萨姆·奥特曼在纽约向联合国安理会介绍情况时警告，人工智能目前的发展“需要极度关注”。他说：“随着人工智能研发过程越来越自动化，其性能提升的速度可能迅速加快。”

奥特曼与阿莫迪、人工智能平台Hugging Face的法国籍负责人克莱芒·德朗格一道，应邀向安理会介绍这项技术的发展现状及其风险。此次安理会会议由法国倡议召开，正值外界对人工智能发展方向的担忧日益加深。多名业内人士警告，人工智能可能对人类的未来构成威胁。

奥特曼表示：“我们不想落入盲目乐观的陷阱，但也不能陷入灾难论。……因此，我们将尽最大努力寻找一条中间道路。”他再次呼吁各国就人工智能展开合作。“历史上曾有一些时刻，彼此竞争、甚至并不友好的国家，面对一项新技术，仍能为了共同利益达成一致。现在也必须再次做到这一点。”

“必要时尽可能放慢”

奥特曼、阿莫迪及其他多家人工智能企业的负责人呼吁，对这项技术建立全球性的监督机制。

周一，包括加拿大、德国和澳大利亚在内的20多个国家的领导人主张加强监管，并提出可考虑在联合国框架下设立国际监管机构。周二，英国首相伯纳姆表示，希望在英国担任2027年二十国集团轮值主席国期间，推动制定人工智能安全标准。

不过，各国协调规则的外交努力可能很快遭遇阻力。美国反对任何形式的超国家监管。

法国外交部长巴罗周三在安理会会议上仍提议：“让我们在联合国框架下与企业携手，为这个新时代制定规则。”他主张“立即加强防护措施，建立全球人工智能治理机制”，以维护集体安全和人的尊严。

在外交领域取得进展之前，多家行业巨头正着手调整自身的风险管理机制。阿莫迪在安理会承诺，Anthropic将“在必要时尽可能放慢”人工智能研发速度，“确保”每一款新上市的模型都“真正安全”。

这是他首次单方面承诺放慢研发。十天前，他曾呼吁人工智能行业的主要企业协调放慢步伐，但这一倡议迄今尚未付诸实践。

奥特曼则表示：“行业不能仅仅因为收益过于可观、过于重要，就接受过高的技术风险。”不过，他并未在发言中明确承诺放慢研发速度。

RFI

Daobo

更多有关“AI灭绝人类风险”相关话题，请看Sixiang.com相关专题链接：

https://www.sixiang.com/forum-92-1.html
https://www.sixiang.com/thread-44833-1-1.html
https://www.sixiang.com/thread-44397-1-1.html
https://www.sixiang.com/thread-44513-1-1.html

Daobo

人工智能领域的领导者警告联合国，随着系统功能日益强大，安全风险也随之而来

概要：
Anthropic首席执行官达里奥·阿莫迪表示，人工智能可能对人类构成威胁.
OpenAI首席执行官萨姆·奥特曼表示，人工智能领域需要国际合作。
人工智能专家称危险真实存在且迫在眉睫。

联合国，9月23日（路透社）——世界领先的人工智能公司周三向联合国安理会发出警告，指出人工智能对人类构成风险，并呼吁各国政府共同努力，管控这项日益强大的技术。

Anthropic首席执行官达里奥·阿莫迪告诉负责维护国际和平与安全的15个成员国组成的理事会，他认为，如果管理不善，“人工智能可能会对整个人类构成风险”。

此次会议由法国在联合国大会年度世界领导人聚会期间召集，召开之际，有警告称人工智能系统可能很快就会自我改进并脱离人类控制。

阿莫迪说：“尽管在座各位存在诸多分歧，但我们必须搁置这些分歧，共同应对摆在我们面前的全球机遇和全球威胁。没有任何领导人、公司或国家能够独自应对这一挑战。”

世界各国政府都在努力跟上人工智能快速发展的步伐。美国和中国作为人工智能发展的两大领先国家，采取了不同的监管方式。

唐纳德·特朗普总统认为美国不需要新的专门针对人工智能的法规，而中国则制定了管理人工智能算法和训练数据的规则，包括要求对人工智能生成的内容进行明确标注。

Hugging Face 联合创始人 Clément Delangue 强调了人工智能工具在防御网络攻击中的作用，并引用了美国巨头 OpenAI 的人工智能代理在逃离测试环境后入侵 Hugging Face 基础设施的事件。

“我们遭到了人工智能的攻击，但更重要的是，我们利用人工智能进行了自卫，”他告诉委员会。

包括美国和中国这两个人工智能领域的主要竞争对手在内的理事会成员也发表了讲话。

德朗格表示，Hugging Face之所以采用中国人工智能模型来抵御OpenAI人工智能代理的攻击，是因为它受到的限制比同类美国工具要少。他的言论凸显了中国人工智能产品日益增长的影响力，这些产品之所以在全球范围内获得用户，部分原因在于它们能够提供比美国模型更经济实惠的替代方案。

OpenAI首席执行官萨姆·奥特曼表示，需要进行国际合作。

“如果人工智能要走向民主，最重要的决策就不能仅仅由旧金山的实验室做出。这些决策必须通过民主程序制定，并由对人民负责的政府来制定，”奥特曼告诉委员会。

在理事会开会期间，澳大利亚总理安东尼·阿尔巴尼斯在纽约告诉记者，OpenAI 开发的人工智能代理在 6 月份入侵了澳大利亚政府网站，访问了公共和非公共文件。

美国对联合国说：你无法管理你不了解的技术

被誉为“人工智能教父”之一的加拿大人约书亚·本吉奥（Yoshua Bengio）是联合国大会去年成立的独立国际科学小组的联合主席，他告诉安全理事会：“危险是真实存在的，而且迫在眉睫。”

他说：“安理会面临着前所未有的威胁，这是任何一个成员国都不会选择的威胁，任何一个成员国都无法独自应对的威胁，而且这种威胁也不尊重我们所捍卫的边界。”

特朗普周二在联合国大会上告诉世界各国领导人，他“拒绝任何试图构建全球主义计划来控制”人工智能的企图，称这项技术令人惊叹，但也指出美国会谨慎行事。

白宫科技顾问迈克尔·克拉齐奥斯周三在联合国安理会发表讲话时，与特朗普的观点遥相呼应。

他说：“你无法管理你不了解的技术。这个机构和其他类似的机构应该专注于分享最佳实践来建设国内能力，而不是建立全球监管体系。”

中国常驻联合国代表傅聪表示，人工智能领域的监管框架、应急响应和跨境合作需要不断完善。

“国际社会有责任更加紧密地合作，同等重视发展与安全，引导人工智能朝着积极的、有益的、造福人类的方向发展，”他告诉安全理事会。

联合国秘书长安东尼奥·古特雷斯长期以来一直推动人工智能的全球治理，他警告说，快速发展的人工智能带来了不容忽视的风险，这使他与特朗普的观点相左。

2023年，安理会首次就人工智能风险举行会议。当时，中国表示这项技术不应成为“失控的骏马”，而美国则警告不要利用人工智能审查或镇压民众。2024年，时任美国国务卿安东尼·布林肯主持召开了安理会人工智能会议。