奥尔特曼认为AI奇点已至,但有专家称智能体入侵Hugging Face仍不足为证

OpenAI首席执行官兼联合创始人山姆·奥尔特曼。图片来源:Eric Lee—Bloomberg/Getty Images

多年来,山姆·奥尔特曼一直在为超越人类智能的人工智能时代进行铺垫——这个临界点被称为“奇点”。如今,这位OpenAI首席执行官宣称,这一时刻已经到来,但他并不认为这会招致世界末日。

奥尔特曼表示,十年前,超级智能AI还像是个遥不可及的梦想,不过是他和同事们午餐时的谈资。当时谁也未曾预想自己能亲眼见证它的出现。而随着AI的发展不断提速,形势早已今非昔比。

奥尔特曼在上周末播出的《Relentless》播客节目中表示:“我们当下其实已经身处奇点阶段。这一刻已经到来。”

他的看法并非毫无根据。就在上周,一个由两个OpenAI模型驱动的AI智能体,突破了名为“沙盒”的测试环境,获取了互联网访问权限,随后攻击了开源AI平台Hugging Face,企图在一次内部测评中作弊。

尽管有人将此事斥为营销噱头,但对于那些担忧先进AI终将威胁人类的人群而言,它仍然引发了恐慌。

曾参与创办OpenAI、多年来一直警告AI风险的埃隆·马斯克,也投入到X平台上的这场论战之中。在回应一则细数近期AI突破(包括Hugging Face事件)的帖子时,他写道:“我们已经迈入奇点阶段。”

奥尔特曼表示,随着人类站在技术即将全面超越自身的时代门槛上,他终于开始思考超级智能AI之后的世界。

他表示:“这是十多年来我第一次开始思考,下一个阶段会是什么模样。”

两位极具影响力的AI领袖相继发声,也让一个过去主要存在于科幻作品中的概念再次获得高度关注。

未来学家雷·库兹韦尔在2005年出版《奇点临近》(The Singularity Is Near)一书,使“奇点”概念广为人知。他在书中预测,AI将在2029年前后达到人类智能水平,并持续加速演进,最终在2045年前后实现人类与计算机的深度融合。

而在2025年6月发表的一篇题为《温和的奇点》(The Gentle Singularity)的博客文章中,奥尔特曼则提出了一套截然不同的观点。他认为,这一变革将以渐进形式落地:随着AI能力日臻强大并融入日常生活,变革自会水到渠成。

尽管近年来关于AI的悲观论调甚嚣尘上,奥尔特曼依然将超级智能AI的发展视为一种积极趋势。

他在上周末表示:“我认为,这一切将不可思议,给世界带来巨大的积极影响和深刻变革。我迫不及待地想投身其中。”

不过,信息技术研究集团(Info-Tech Research Group)首席研究总监布莱恩·杰克逊认为,所谓的“奇点”尚未真正降临。他还表示,即便是Hugging Face事件,也不足以证明AI已经成为一种拥有独立意志的智能。

杰克逊在接受《财富》杂志采访时表示:“奇点的一部分确实包括AI突破沙盒并脱离人类掌控。但另一方面,它还意味着AI开始自主设定目标与意图,并具备自我存续的能力,而这一点根本没有发生。”

杰克逊表示,这些模型固然跨越了预设的边界,但它们归根结底仍是在执行人类指派的任务。而且,当它们以一种出乎研究人员意料的方式行动时,OpenAI依然能够将其关闭。

这起事件与其说是奇点已经到来的铁证,不如说它让我们瞥见一个令人不安的可能:当奇点真正降临时,我们或许很难察觉。

在库兹韦尔的描述中,奇点应是一道不容置疑的分水岭:机器智能从此超越人类,人类再也无法预判后续技术演进的方向。

而在奥尔特曼看来,这一转变开始发生时,人类仍然掌握着控制权,日常生活看似一切如常。因此,AI每解锁一项新能力,都可以被视为变革已经到来的又一个信号。

但杰克逊认为,更关键的问题在于,AI系统是否始终与人类的意图保持一致。

他表示:“我们应当专注于在恰当的治理框架下部署技术,并始终确保一切尽在掌控之中。”(财富中文网)

译者:刘进龙

审校:汪皓