刚刚了解到关于OpenAI领导层可能是近年来最具破坏性调查报道之一,老实说,难以忽视其中的含义。



所以在2023年,OpenAI的首席科学家伊利亚·苏茨克弗(Ilya Sutskever)整理了一份详细的备忘录,记录了对山姆·奥特曼(Sam Altman)可信度的担忧。我们说的是70页的内容,引用了Slack日志、人力资源记录、内部会议记录。开头一句话直截了当:山姆表现出一贯的撒谎模式。快进到现在,《纽约客》的调查(Ronan Farrow和Andrew Marantz)已经曝光了这份备忘录,以及Dario Amodei的200多页私人笔记,后者曾是OpenAI的安全负责人,后来创立了Anthropic。

让我感到震惊的是:OpenAI实际上是以非营利组织的形式架构,专门为了让安全优先于利润。整个前提是,必须有人能够在事情变得危险时关闭公司。整个架构建立在一个假设之上——那就是,负责运营的人必须极度诚实。

但根据备忘录和对超过100人的采访,事实并非如此。有具体的例子:奥特曼告诉董事会,GPT-4的安全审查已通过,但实际上并未通过。董事会成员是事后才知道的。还有微软和印度的事情,ChatGPT在未完成必要安全检查的情况下上线。当被质问时,奥特曼声称总法律顾问已批准某事——而总法律顾问则表示他们根本不知道那是从哪里来的。

Amodei的笔记描绘了一幅公司在商业压力下逐渐放弃最初使命的画面。他记录了微软在2019年投资协议中插入的一条条款——基本上是说,如果有人找到更安全的通向AGI的路径,OpenAI会帮助他们,而不是竞争。这是他最关心的安全护栏。后来他发现微软对那条条款拥有否决权。纸面上看似合理,实际上却几乎无法实现。

还有一个关于超级对齐团队的奇异细节。OpenAI宣布他们将投入20%的计算能力——可能价值超过十亿美元。宣传语很重:如果不能解决对齐问题,AGI可能导致人类灭绝。但实际操作中,真正的分配只有总容量的1-2%,使用的是最老的硬件。这个团队没有完成任何项目就被解散了。

当记者问OpenAI关于他们的生存安全研究团队时,公关的回应几乎带点喜剧色彩:“那根本不是一回事。”奥特曼本人也表示,他的直觉与传统的AI安全方法不符。

与此同时,还有另一件事在酝酿。OpenAI的财务总监Sarah Friar显然告诉同事,她认为公司今年还不准备上市——程序工作太多,五年内奥特曼$600 的十亿美元计算支出承诺带来了太大财务风险。她甚至不相信收入增长能支撑上市。但奥特曼想在第四季度推行IPO。而令人震惊的是:Friar不再向奥特曼汇报了。到2025年8月,她开始向OpenAI应用业务的CEO汇报,而这位CEO刚刚休病假。所以,你可以看到一家公司在CEO和财务总监意见不一、财务总监不再向CEO汇报、上司又在休假中,向十亿美元IPO冲刺。甚至微软高管也表示感到沮丧,有人说,奥特曼最终可能会被记作像伯尼·麦道夫(Bernie Madoff)或SBF那样的骗子。

一位前董事会成员给出了最犀利的人物评价:奥特曼具有一种罕见的组合,一方面极力想被每个人喜欢,另一方面对欺骗他人表现出近乎反社会的冷漠。这是销售人员的完美轮廓。乔布斯有他的“现实扭曲场”,但即使是乔布斯也从未告诉客户,不买他的产品会杀死他们所爱的人。奥特曼几乎就是这么说的:关于AI。

真正让这件事变得重要的原因在于:如果这只是普通科技公司的戏剧,那就只是八卦。但OpenAI不一样。他们正在开发可能是人类历史上最强大的技术。这项技术可能重塑全球经济,甚至制造生物武器。所有的安全机制都被剥夺了。非营利使命已不复存在。前首席科学家和前安全负责人都不信任CEO。合作伙伴甚至把他比作骗子。

而在这一切之下,有个人单方面决定何时发布可能改变人类未来的模型。

NYU的AI教授、长期安全倡导者Gary Marcus$850 在读完报告后直言:如果OpenAI开发出能制造生物武器或发动网络攻击的技术,你是否愿意让奥特曼成为唯一决定是否发布的人?

OpenAI的回应基本是:“这些都是匿名消息和个人议程的旧闻。”奥特曼没有回应具体指控,也没有否认备忘录,只是质疑动机。

这个故事几乎太完美:理想主义者成立非营利组织,担心AI风险。他们取得突破性技术。资本涌入。资本要求回报。使命崩溃。安全团队被裁。异见者离开。非营利变成营利公司。董事会从安全审查变成了CEO的盟友。承诺为人类安全投入20%的计算能力的公司,现在公关说那不是真的。

超过一百人用的都是“脱离真相”这个词。

而他正以十亿美元估值将其推向公众。
查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论