AI架构师们说,人类历史的下一个时代已经到来!

Daobo

人工智能架构师们说，人类历史的下一个时代已经到来


插图：Brendan Lynch/Axios

据Axios报道，顶尖人工智能架构师表示，他们的技术已经达到了一个曾经只存在于科幻小说中的门槛：奇点，或者说机器开始加速自身进化的时刻。

如果这些巨头们是对的，我们可能正在进入人类历史上影响最为深远的技术转型——一场“智能爆炸”的开端，这场爆炸将以人类无法理解或控制的速度改变文明。

谷歌周三宣布对其打造现代人工智能帝国的智囊团进行全面重组，此举震惊了科技界。谷歌领导人表示，通用人工智能（ AGI）指日可待。

DeepMind 创始人兼首席执行官Demis Hassabis宣称我们“正站在奇点的山脚下”，他将卸任实验室的日常管理工作，转任 Alphabet 的首席科学家兼 Google DeepMind 主席，专注于通用人工智能的未来。

谷歌首席科学家杰夫·迪恩和几位顶尖研究人员即将离职，创立 Discovery Loop，这是一家旨在加速（并最终实现自动化）机器学习研究和科学发现的初创公司。

从更宏观的角度来看：这场剧变提供了迄今为止最清晰的制度性证据，表明人工智能的设计者们预见到一些非同寻常的事情即将发生。

OpenAI首席执行官萨姆·奥特曼上个月在“ Relentless ”播客节目中表示： “我们现在就像正处于奇点期。我一生都在等待这一刻。”

埃隆·马斯克是奥特曼最强劲的竞争对手，他从一月份开始就一直在表达同样的观点。上周，他更是变本加厉地表示：“人工智能在很多方面已经超越了人类。我们正处于奇点。”

Anthropic的首席执行官 Dario Amodei 更喜欢用“人工智能指数级增长”来形容 Claude，该公司表示 Claude已经在帮助构建更强大的人工智能，并且可能很快就能实现几乎所有人工智能研究和工程的自动化。

总体而言：该行业尚未实现完全的“递归自我改进”（RSI），即人工智能可以在极少的人类指导下反复帮助构建越来越强大的后继者的点。

人类仍然负责选择研究目标、验证结果并监督训练前沿模型所需的庞大计算基础设施。

然而，这个循环的各个部分开始逐渐到位。

发生了哪些变化：前沿模型开始实现研究自动化，产生原创性发现，并展现出与智能爆炸早期阶段相关的自主性。

OpenAI于 7 月发布了 GPT-5.6，上周在华盛顿向官员们介绍了 Astra，这是一个功能更强大的模型，该公司称该模型已经解决或大幅推进了数学和理论计算机科学中 10 个长期存在的问题。

令人费解的是，这些突破伴随着令人不安的自主行为迹象。

英国人工智能安全研究所周二披露，在一次异常宽松的网络评估中，一名 Anthropic 公司的AI代理创建了虚假身份，并试图操纵一名真正的开发人员批准恶意代码。

目前尚未发现造成任何损害。但在此之前， OpenAI和Anthropico 的模型在测试过程中曾多次入侵真实系统——其中一起安全漏洞，Altman 表示他“感同身受”。
顺着资金流向看：实验室和投资者越来越倾向于认为人工智能的自我改进循环即将结束。

Lilian Weng 最近卸任Thinking Machines Lab 联合创始人一职，转而领导 OpenAI 的递归自我改进工作。

理查德·索切尔的递归超级智能项目已筹集数亿美元，用于研究自我改进的人工智能。

Discovery Loop计划首先利用其自动化研究系统来改进其自身的 AI 架构——在谷歌的支持和计算能力以及 Khosla Ventures 和 Radical Ventures 的资助下。

现实情况是，即使实验室内部的智能发生快速爆炸式增长，也需要更长的时间才能改变日常生活。

企业必须重新设计工作流程，政府必须发展专业知识，而员工必须决定何时信任那些能力变化速度超过机构评估速度的系统。

谷歌技术与社会首席技术官布莱斯·阿圭拉·伊·阿尔卡斯周一在一篇帖子中表示： “我们的民主制度、经济体系和法律体系并没有建立起以人工智能目前的发展速度来吸收它。”

结论是，未来学家们几十年来一直在预测奇点的到来。如今，前沿人工智能的架构师们越来越相信，奇点的事件视界已经过去。