劳尔德·贝兰克梵在高盛任职数十载，深谙大规模风险管理之道。他亲历了高盛成功应对1987年股灾、互联网泡沫破裂、2008年全球金融危机，以及危机后华尔街监管体系的系统性重构。因此，当这位高盛资深董事长兼前首席执行官表示对人工智能的某一方面感到担忧时，我们有必要关注他究竟在担忧什么。
他担心的既不是超级智能，也不是自主武器，而是一个更为寻常、但在某种程度上更为可怕的问题。
贝兰克梵周一在安德森·霍洛维茨（Andreessen Horowitz）的《The a16z Show》节目最新访谈中表示：人工智能的风险“不在于它的智力超越人类，将人类变成宠物，而在于我们无法验证其输出结果是否正确。”他解释道，大型机构管理绝不能出任何差错，数据至关重要。
他特别提及人工智能，同时也泛指整体技术进步，称“一切都在后台高速运转”，而你实际上无法近距离观察自己所依赖的技术的思维过程。“如今你放任一段代码运行，[它]可能瞬间就完成7万笔交易，”他说道，并解释道，自己早年在交易大厅工作时，所有操作都公开透明，任何细微失误都无所遁形，一旦出错，整个大厅便会陷入沉寂。
这一简短的解释或许精准阐明了：为何华尔街——尽管已投入数十亿美元在交易、合规及后台运营中部署人工智能——却依然极不愿将任何核心业务的控制权交给自主智能体。
无监管的极速运行才是真正的风险
金融业早已明白，速度会放大杠杆，而杠杆本身是一把双刃剑。时机恰当的交易能放大收益，可一旦出现决策失误——以机器的速度在数千个仓位上执行，且人类来不及干预——亏损会以同样的速度放大。
贝兰克梵描述的并非凭空设想的潜在风险。2010年的“闪电崩盘”便是早期预演，彼时算法交易在短短数分钟内便造成近万亿美元市值蒸发。2012年的骑士资本（Knight Capital）灾难亦是如此：一个软件故障导致该公司在45分钟内亏损4.4亿美元，最终走向破产。这两起事件都比当前这一代AI智能体的出现早了十余年。
新一代AI智能体运行速度更快、自主性更强，且更擅长在无需人类干预的情况下完成复杂决策链。德勤（Deloitte）2026年3月对麻省理工学院人工智能风险数据库的分析发现，仅银行业，自主或代理式人工智能行为就可能引发超过350种不同风险——其中不少尚未被现有框架覆盖。德勤研究人员描述了贝兰克梵所警示的核心机制：一次人工智能幻觉就可能在关联系统中引发连锁反应，支付路由智能体可能在人类发现前就错配资金，递归代理循环可能在任何人类察觉前将云成本推高至六位数。
美国银行家协会（The American Bankers Association）在2025年12月警告称，行业可能迎来自己的“737 Max时刻”——在安全防护措施尚未到位之前，过度依赖自动化系统会引发公众信任问题，并引发监管问责。
直觉背后的数据
详实的数据印证了贝兰克梵的预判。Wakefield Research 2026年1月的一项研究发现，仅有14%的首席财务官完全信任人工智能能够独立提供准确的会计数据——然而，绝大多数企业已在使用人工智能工具。97%的受访者表示，人工监督仍是把控数据准确性的关键环节，且多数公司已至少遭遇过一次人工智能幻觉或输出错误。
特许金融分析师协会（The CFA Institute）2025年关于金融业可解释人工智能的报告，直指这一技术问题：人工智能驱动的系统存在“因数据源和决策逻辑透明度不足而引发的监管难题”。
领英（LinkedIn）2026年1月的另一项分析则更为尖锐：“监管机构缺乏关于人工智能实际应用场景和方式的统一、精细化数据”，而现有模型风险管理框架“对传统的验证、监控和审计能力构成挑战”。
与此同时，技术部署速度已远超治理体系的完善速度。截至2026年第一季度，92%的头部金融科技公司已将至少一款自主智能体集成到核心生产系统中——而就在同一季度，行业才仓促出台了统一的“防护栏协议”，规定100万美元以上的交易必须经过人工验证。根据2025年《麻省理工科技评论》洞察的一项调查，在已使用代理式人工智能的银行中，70%的高管表示治理框架的完善速度远远落后于技术的部署速度。
高盛异乎寻常的谨慎
贝兰克梵还敏锐地指出了高盛历来应对系统更迭的方式：在全面切换到新系统前，会让新旧系统并行运行数年。他指出，这种纪律性是多数科技企业欠缺的，也与当前席卷金融业的人工智能部署浪潮所奉行的“快速行动”文化愈发格格不入。
这其中暗含的警告是：那些最激进部署AI智能体的公司，往往并未对智能体出错可能引发的后果进行压力测试。
这种对比在当下更具现实警示意义。高盛已向其4.6万多名员工全面推出了人工智能助手，并在最新的致股东信中指出了六大“即将迎来颠覆性变革”的业务领域。摩根大通（JPMorgan）已有超450个人工智能应用案例投产，其大语言模型套件每周被15万名员工使用。花旗集团（Citi）18.2万名员工中，超70%都在使用公司批准的人工智能工具。
但几乎所有公司都划定了同一条红线：超过特定阈值的自主执行，仍须经人工签字确认。整个行业都争相在各类业务场景中部署人工智能，却唯独避开了贝兰克梵所说的“7万笔交易问题”可能实际发生的环节。
“我们过去做事总要反复验证，”贝兰克梵谈及传统工作方式时说道，“我们必须把流程跑50遍，确保前49次都完美无缺，才敢采用这种方式。”这意味着，要让AI智能体获得完全信任，做到每次运行都准确无误，可能还需要极其漫长的时间。（财富中文网）
译者：中慧言-王芳