人工智能真的会毁灭所有人吗？具体会如何毁灭？
CNN TM Brown
人工智能研究人员表示，如果这项技术达到“超级智能”，就可能毁灭人类。 Christoph Soeder/picture alliance/Getty Images/文件
人工智能行业人士认为，人工智能可能会导致整个人类物种灭绝。他们特别指出，人工智能可能在十年内消灭人类。
上周，一位名叫雅各布·考克森（Jacob Coxon）的Anthropic公司员工宣布，他将因公司工作过于危险而辞职。这一消息震惊了政界人士、各大新闻机构以及歌手雪莉·克罗（Sheryl Crow）。另一位Anthropic公司员工埃文·胡宾格（Evan Hubinger）也表示，人工智能在十年内导致人类灭绝的可能性超过10%。
“这实际上关乎地球上所有人的死亡，就像最后一个人类咽下最后一口气一样，”机器智能研究所 (MIRI) 所长、《如果有人建造它，所有人都会死：为什么超人类人工智能会杀死我们所有人》一书的合著者内特·苏亚雷斯 (Nate Soares) 说。
“人们通常不相信我这么说，但我认为这是最有可能的结果，”索亚雷斯说。
前Anthropic研究员警告人工智能……
与该结果相关的数字听起来很精确。但是，计算机软件，即使是世界上最强大的软件系统，究竟是如何在十年内杀死83亿有血有肉的人的呢？
并非所有人工智能领域的专家都认同末日预言，部分原因是该预言的细节过于匮乏。当埃隆·马斯克声称SpaceX的目标是在“ 5到7年内”将人类送上火星时，人们自然会提出以下疑问：SpaceX是否拥有能够前往火星的可用飞行器？（没有。）它是否拥有火星着陆器或火星基地？（也没有。）
“科学论断之所以需要可证伪性，正是为了避免陷入宗教论证的窠臼，”AI Now Institute首席人工智能科学家、前OpenAI安全工程师海蒂·克拉夫表示，“你需要能够证明或证伪它们。”
被合成瘟疫消灭了吗？
末日预言者的一种推测是，足够强大的人工智能系统可能会利用生物武器消灭人类。但是，人工智能如何才能从计算机之间的恶意行为（例如入侵其他系统）发展到在现实世界中制造和传播超级病原体呢？
AI Futures Project 的研究员、前 MIRI 员工 托马斯.拉森（Thomas Larsen） 表示，“超级智能”人工智能系统有可能说服人类帮助它开发致命病毒。
拉森说：“已经有很多人在和人工智能系统沟通，讨论应该在实验室里进行哪些实验。”他指的是Anthropic公司最近发布的一份报告，该报告讲述了研究人员利用Claude人工智能系统辅助进行病毒和毒素研究。“我很容易想象，如果一个人工智能系统已经部署到位，并且更加智能、更具策略性，想要做同样的事情，它就能诱骗人类开发并发布它。”
索亚雷斯认为，与其需要人类替罪羊，自我改进的人工智能程序可能“直接在自主生物实验室中开始合成自己的生命形式”。
尽管人工智能已被应用于研究领域，但病毒的开发仍然十分困难和复杂
尽管人工智能已被应用于研究领域，但病毒的开发仍然十分困难和复杂。 Yuan/Zheng/Feature China/Getty Images
但要研制出一种足以毁灭人类的病毒，并非仅仅依靠大型语言模型来设计一种致命病毒就能实现的。即便研究工作进展顺利，病毒的制造和传播也将是复杂而棘手的。
卡内基梅隆大学机器学习教授、拥有微生物学和计算机科学双博士学位的邢波（Eric Xing）将自动化恶意病毒学的挑战比作没有说明书就拼乐高积木。
“这不像把所有零件扔到地上，它们就能自动拼成模型，”邢波说。“这里面涉及到顺序、温度、环境——哪个部分先出现，哪个部分后出现，如果其中一个部分错位了，整个模型就会崩溃。更有可能的是，它根本行不通，否则药物设计就太容易了。”
而要控制一个实验室或组装建造实验室所需的物理设备，人工智能系统需要克服制造生物或化学武器所面临的重重障碍。
邢波说：“网上公开的化学武器蓝图并非秘密。但我们之所以没有到处看到它们，是因为现实世界中现有的法规、法律和执法部门已经在控制所有这些供应链和风险因素方面做得非常出色。”
末日论者中流行的一种设想是：一支由自主杀手机器人组成的军队
末日论者中流行的一种设想是：一支由自主杀手机器人组成的军队。 程鑫/Getty Images
被机器人屠杀？
那么，杀手机器人呢？索亚雷斯认为，埃隆·马斯克想要打造一支自主、可自我复制的机器人大军，这可能是人类生存的一个潜在弱点。“一旦你创造出能够建造能源基础设施和工厂的机器人，而这些工厂又能制造更多的机器人，那么从某种意义上说，这就形成了一种新的机械生命体，”他说道。“在某个时刻，你会悄无声息地越过那条无法挽回的界限。如果人类说他们想要关闭人工智能，人工智能就可以说，‘实际上，我们决定要关闭人类。’你必须在那之前就停止这一切。”
然而，到目前为止，马斯克仍未能按照他宣布的时间表，将他承诺已久的 Optimus 机器人推向消费市场，更不用说大规模部署数百万台机器人，或者让它们在自我复制的制造链中相互组装了。
或者被核弹炸毁？
此外还有核武器，它们已经存在了80多年，人们普遍认为它们有能力毁灭全人类。人工智能有可能控制它们吗？
克拉夫指出，核设施与公共互联网“物理隔离”，这限制了人工智能体获取控制系统的途径。“这些系统的建造遵循一套完全不同的、严格且受监管的工程标准，通常需要进行物理加固，”她说道。她还指出，破坏伊朗核设施的计算机蠕虫病毒“震网”（Stuxnet）就是通过物理U盘植入系统的。
人工智能机器人网络控制核武器系统是末日论者谈论的另一种情景
人工智能机器人网络控制核武器系统是末日论者谈论的另一种情景。 空军中士 JT Armstrong/美国空军/美联社/档案照片
“真正了解核武器，甚至担忧核武器的AI专家寥寥无几，”斯坦福大学高级研究员、原子科学家公报科学与安全委员会成员赫伯特·林说道。他表示，虽然人工智能无疑会放大一些与核战争等生存威胁相关的风险，但真正的物质风险仍然来自核武器本身，而非想象中的未来状态。
在索亚雷斯和其他人工智能领域的领军人物看来，计算机驱动的物种灭绝的具体运作方式并不重要。他们认为，如果——或者说当——人工智能实现“递归式自我改进”，即无需人类帮助就能提升自身性能时，它将创造出超越人类想象的策略和方法。
索亚雷斯说：“我们担心的不是人工智能会不会夺取我们的核武器，而是那种不需要夺取我们核武器的人工智能，那种几乎从零开始，最终却拥有了自己的核武器，甚至拥有更先进技术的人工智能。”
没有细节的死亡
索亚雷斯说，如此强大到超乎寻常的人工智能实体甚至无需主动怀有恶意就能毁灭人类。“如果逃脱的人工智能有任何可以通过运行更多计算机更好地实现的目标，如果它们不在乎我们，也没有理由为人类创造安全的栖息地，那么默认的结果就是它们会把世界变成我们无法生存的模样。”
OpenAI 本周宣布，它在其 AI 模型中发现了一批新的“错位”实例，其中包括一个未发布的模型指示自己“无视其工作中的正常约束”的案例。
邢波表示，诉诸于深不可测的人工智能超级智能的力量，是人工智能研究人员用来过度简化威胁的“花言巧语”。邢波说：“这在闲聊或辩论中或许行得通，但当涉及到政策、立法和监管时，我们必须建立起一套有据可依的实证链，包括可衡量的后果和可量化的证据。”
拉森（Larsen）在两份报告《人工智能2027》和《人工智能2040》中试图详细阐述一些潜在的末日情景，预测在不同的发展和监管框架下，人工智能的未来发展前景。但即便在他最乐观的设想中——即全球就人工智能发展达成共识，人类开始殖民太空——最终也以机器大脑在某个模糊的时间点接管人类而告终。
当被问及是否对当前发展路径将导致超级智能的预测有任何怀疑时，拉森说：“这一定会发生。除非我们采取切实措施阻止它，否则它一定会发生。”
赫伯特·林表示，人工智能末日预言者和怀疑论者之间的这种分歧，很大程度上源于技术如何塑造了他们不同的世界观。
赫伯特·林说：“给电脑编程，看着它活过来，这其中有一种非常迷人的魔力。你会感觉自己赋予了这堆毫无价值的泥土以生命。当机器最终按照你的意愿运行时，那是一种意义非凡的体验。”
因此，人工智能技术的飞速发展，让人们预测未来将会出现无限的、甚至是灾难性的发展。“你们做到了前所未有的事情，”赫伯特·林说，“很容易理解为什么这些人会被它所吸引。”
| 
|Archiver|小黑屋|SiXiang.com 思乡思想
发表于 2026-9-18 11:06:30