硅谷观察笔记|一千个智能体与一位数字CEO:AI接管执行后,人类还要负责什么?


最近,快刀青衣老师和罗老师都在硅谷调研,和各个领域的AI从业者进行探讨。

今天要聊的这两家公司,都是把AI技术和公司组织推到很极端的前沿创业公司,技术门槛高,押注也非常彻底。同时,这两家企业的创始人本身在这个领域里就非常资深。

所以,咱们普通人和普通公司不用立刻照做,也不用因为跟不上而焦虑。

但是,这值得我们先去看看,硅谷最靠前的一群人,正在为什么样的问题花时间、花钱。
作者:快刀青衣
来源:得到App《AI学习圈》
01

先想清楚,为什么要用AI

我们见的嘉宾叫杨光宇。要知道,他原来在麻省理工的终身教职轨道上,但在2023年就辞职出来创业了,是一位计算神经科学家。

如果提起他做的项目,估计很多AI圈的专业人士都有印象,名字叫Project Sid,是把1000个由大模型驱动的智能体放进著名游戏《我的世界》里,

让它们在同一个世界里长期行动、协作,形成分工、群体和社会关系。他也被万维钢老师称为把智能体玩得出神入化的人。

我们的聊天一共四个人:我、罗老师、万老师和杨老师。和杨老师的访谈还没正式开始,刚见面寒暄的时候,他先讲了一个自己的反思。

效率上瘾之后的反思

他说,今年二三月份,正赶上OpenClaw,也就是咱们俗称的「小龙虾」,在国内最火的时候。

有一段时间,他为了同时指挥更多Agent,摆了三张桌子、九块屏幕,每块屏幕上又开着很多窗口。一个Agent跑完了,等着他下一个指令;另一个Agent卡住了,又来问他问题。

他不停地处理输入,越来越忙,也越来越兴奋。最后,却发现自己几乎没有时间停下来想:我到底为什么要做这些事?

他说,打游戏废寝忘食,多少还会觉得有点不好意思;但是用AI工作废寝忘食,人却会觉得自己特别努力,所以更容易上瘾。

这两个月缓下来以后,他重新想明白了一句听上去非常普通、非常鸡汤的话:

做正确的事,比做大量不那么正确的事要重要。

说实话,这句话从杨老师这样的领域内顶尖科学家嘴里说出来,分量不太一样。

因为他自己就把多智能体推到了很极端的规模,很少有人用得比他更深入了,但最后让他反思的,反而是这种非常基本的商业常识:我到底要用AI干什么?

后来,他的公司从炫技的游戏场景走向了更多真实的生产力场景,特别是进入一些对AI能力要求非常高的金融场景以后,这就让他有了更多的体感。

02

反馈,才是真正瓶颈

我们问他,现在硅谷顶尖的研究者最关注的问题是什么。杨老师介绍说,有很多人正在集中研究RSI,也就是「递归自我改进」。

简单来讲,就是让一个会写代码的智能体,继续去改进那个「会写代码的智能体」;最终让会训练模型的模型,参与训练下一代模型。

这件事在代码、数学这些容易验证的任务上已经很厉害了。代码跑得对不对、速度快不快,数学题证明得对不对,都有相对明确的反馈。

于是,可以同时派出几十个、上百个Agent,不断试错、筛选,再把更好的办法留下来。

杨老师也和我们分享了几个自己使用的场景,反正对于我这种AI重度使用者来说,也觉得受到了很大的启发。

但他花了更多时间讲它的限制。他说,自进化这个理念很先进,但是绝不等于万能。我觉得这段对于我们普通人来说,也是最值得思考的,我跟你分享一下。

八个环节快了,两个没有动

他打了一个木桶的比方。一件事从开始到真正给用户创造价值,中间可能有十个环节。AI把其中八个环节提速了一百倍,剩下两个没有变快,所以最后整件事也不会快一百倍。

更麻烦的是,人很容易沉迷于那八个突然变快的环节,因为那里每天都在产生成就感,就很容易忘记那两个还停留在原地的环节。

代码无限,用户反馈有限

他自己的体感是,写代码最快时,体感上能提高一百倍甚至一千倍,但真正落到产品上,提升可能只有百分之二十。

原因并不复杂:代码可以无限生成,用户的注意力和反馈却不能无限生成。

假设只有一百份高质量的用户反馈。你只做一个功能,这一个功能可以得到一百份反馈;你一天做出一百个功能,每个功能可能只分到一份反馈。Agent越勤快,产品反而越可能失去平衡。

你造出了更多东西,却越来越不知道哪个东西真正重要。

所以,他现在仍然会大量使用Agent,注意力却从数量和产出速度移到了外部反馈。他要让整条链路一起进化,最后盯住用户真正关注的价值。代码行数、功能数量,或者某个看上去很漂亮的AI指标,都可能把系统带偏。

其实你想想看,现在经常会看到一个人说,自己搭建了一套完整的全自动生产流程,一天能写200篇文章了。但真正的瓶颈不是写文章的数量,而是有多少人会去看这些文章。

如果生产了大量的自动化内容,却没有人看,那为什么要去干这件事情呢?怪费电、费算力的。

03

数字CEO,让AI管理AI

到了昨天下午,我们又和曲晓音聊了两个多小时。她从另一个方向,也就是组织的方向,把「自进化」推得很远。

如果是咱们AI圈的老用户,或者是产品经理,肯定对曲晓音一点儿也不陌生。从我最初认识她开始算,已经快十年了。

当年她还是Facebook的视频功能产品负责人,后来又连续创办过多家在圈子里小有名气的公司,非常能折腾,有的被收购,有的被OpenAI这种新晋巨头投资。

2025年,她曾公开宣布让AI CEO接替自己管理公司;今年又把这场实验继续推进,做成了名叫Tycoon的产品。

大部分同学应该还没有用过这个产品,我先给你介绍一下。首先要说明的是,她做的这个数字CEO当然不是法律意义上的公司负责人,它更像一套用AI管理多个AI员工的运营系统。

当然,这个产品在我看来,是晓音在这个时代做的一场组织实验。咱们同学没有必要马上找来用,因为很多理念太超前了,但是值得听听她在自己公司里实验的另一种组织结构。

AI管AI,人只在关键位置出现

她的说法很直接,一句话点明了这个系统的内核:AI管AI,需要人的时候再去找人。

例如过去做一个功能,前端、后端、设计、测试、产品和营销,可能要八个人来回开会。她现在想把它改成一条由Agent组成的生产线:默认每一环都由AI工作,实在遇到自己解决不了的问题,再去请教人。

业务线上只留下一个对最终结果负责的人。这个人未必精通每一个工种,但要知道目标是什么,哪里出了问题,以及什么时候应该找真正的专家。

在这套结构里,AI负责流水线上的工作,人负责设计、巡视和改进生产线。一个环节总出错,就增加一个负责评估的Agent;

某类内容的开头总是不好,就训练一个专门检查开头的Agent;产品数据、用户反馈和营销结果继续喂回系统,让下一轮做得更好。

我们通常理解的AI改造,是给每个员工配一个AI助手。曲晓音直接改了默认设置:AI自己工作,人只在关键位置出现

她现在希望Agent在后台持续运行,人只看生产线有没有堵、方向有没有偏,不再守着一个个窗口,等AI完成再点下一步了。

整个组织进化的结果

结果是什么呢?她说自己的公司从去年的20多人,变成了现在的3个人,效率和产出却都提高了。

当然,我必须给咱们学习圈的老板同学提醒一下:看起来人数是少了,但我不觉得这是某个具体AI工具的能力,而是整套组织进化的结果。

另外,我反而觉得这三个人,其实比过去的30个人更难找到。至少抱着发个招聘启事、找个螺丝钉的想法,是肯定找不到这种人才的。

04

人类还要负责什么

如果AI都这么强大了,咱们人最后还剩下什么?这是昨天两场访谈最后汇到一起的问题。

AI干清楚的事,人干模糊的事

曲晓音的答案是,能说清楚、有数据、有明确边界的事,AI往往比人处理得更全面。一个CEO能看完的客户反馈是有限的,AI可以把所有反馈、使用数据和竞争对手动态一起看完。

人要处理那些暂时说不清楚的事:目标该怎么定,什么结果算好,哪条路值得走,以及这件东西到底像不像我们。

她举了一个剪视频的例子。剪辑软件谁都能用,但她愿意给一个剪辑师付高价,是因为这个剪辑师知道科技圈的人在意什么,知道什么节奏适合她这个人。

有一些视频动效或者脚本,虽然是全网爆款,却会让她的个人品牌显得很廉价,那么就绝对不能用。她买的是这个真人的品味。

独特经历会变得更值钱

而杨老师从金融和科研讲到了同一件事。

他说,金融里真正值钱的判断,常常是你看到了别人没看到的东西,也就是反共识的能力;伟大的科学家除了会解题,还知道什么问题值得研究。

这种非共识和品味,来自一个人走过的路、见过的人、犯过的错。通用模型给了所有人相似的能力,独特经历反而会变得更值钱。

在下午的讨论里,我们把它往前又推了一步:一个人最有价值的「偏见」,经过长期验证,会变成他的特质;特质稳定下来,就会成为品牌。

未来人给AI员工指路,靠的可能正是这些无法从岗位说明书里复制出来的东西。

不用开赛车去买菜

当然,必须提醒一句:杨光宇和曲晓音做的,都是非常前沿、也非常极端的实验。他们的公司技术能力强,愿意投入大量Token,也能承受反复试错。

曲晓音自己也说,这么大的步子,她敢在自己公司里迈,面对客户却不敢让别人一下迈这么大。

所以,咱们看这些公司,有点像去看F1赛车。

看完比赛,我们不用开着赛车去买菜。但赛车最先验证出来的方向,会慢慢进入普通汽车。我们今天也不用回去裁掉一个部门,更不用明天就管理一万个Agent。

从这两场访谈里,我看到的方向是:AI的执行能力会越来越便宜,稀缺的东西会继续往上游走

比如,选什么问题,什么结果算好,能不能听见真实反馈,以及你有没有自己的判断,这些事会越来越贵。

当1000个智能体可以24小时不停地工作,研究者还在尝试让智能体参与改进自己。但它们跑得越快,越需要有人回答我们到底要去哪里?

8月27日晚上7点,罗老师专门攒了一个局,请了多位一线教育工作者和暑期AI创作大赛的评委,请他们来“线上客厅”坐坐。嘉宾们会分享各自看到的最新教育实践,结合孩子们用AI创作的优秀作品,跟你聊聊:AI时代孩子需要培养哪些能力。

新学期开学在即,邀请各位家长、老师来听听,为接下来支持和陪伴孩子,多准备一些思路和方法。扫描海报二维码或点击下方卡片,把直播预约起来。

文章原文