全人类最担心的“AI安全”，害Sam Altman最终“失业”

好莱坞谍战片，都不敢这么拍。当地时间11月17日，在一个视频会议上，OpenAI的董事会突然宣布，联合创始人兼CEOSamAltman即刻离职，ChatGPT开发的关键人物GregBrockman也被罢免，公司CTOMiraMurati则被任命为临时CEO。

在一篇发表在X上的帖子中，SamAltman表示“我热爱在OpenAI的时光”，并且他将“稍后有更多关于未来的话要说”。

GregBrockman则表示“Sam和我对董事会今天的做法感到震惊和悲伤”“我们会没事的。更伟大的事情即将到来。”

现在，大家都在猜，OpenAI究竟发生了什么？为什么要解雇SamAltman和罢免GregBrockman？

OpenAI的董事会由OpenAI首席科学家IlyaSutskever、Quora首席执行官AdamD'Angelo、科技企业家TashaMcCauley和乔治敦安全和新兴技术中心的战略总监HelenToner组成。

就在OpenAI宣布解职SamAltman之前，llya曾经给Sam发过一条短信，通知他17日上午加入视频会议。后来的事情大家都知道了。

从目前的信息来看，解雇一事是由董事会成员IlyaSutskever通知的，这个人领导了一个AI安全团队，而临时CEOMiraMurati也是提前知情的。

而导致SamAltman最终被踢走，可能并非首席科学家llya的“宫斗”，而是整个AI行业都在谈论，也让全球监管最担心的，“安全”问题。

“安全”分歧

在SamAltman被解雇前，OpenAI内部关于AI安全性的分歧和争论一直存在。

今年夏天，OpenAI成立了一个安全团队，致力于寻找防止AI失控的技术解决方案，了解和限制AI对社会的危害，如滥用、经济混乱、虚假信息、偏见和歧视、成瘾和过度依赖等，并称要将公司获得的20%的算力用于这项工作。

领导该安全团队的其中一个人，是OpenAI的联合创始人、首席科学家兼董事会成员IlyaSutskever，也正是这个人，对SamAltman下了解雇通牒。

SamAltman和IlyaSutskever（右）在特拉维夫一个活动上｜qz.com

根据GregBrockman的说法，美国时间11月16日晚上，Sam收到了Ilya的一条短信，要求周五中午谈话。Sam加入了一个会议，除了Greg外，整个董事会都在那里。Ilya告诉Sam他被解雇了，消息很快就会发布。

11月17日中午，Greg收到Ilya的一条短信，要求进行一次快速通话。Ilya发送了一个会议链接，Greg随后被告知他将被从董事会移除，但公司将保留他的角色。

Greg是OpenAI最早的几名员工之一，花了大量时间编写软件，是开发ChatGPT和其他核心产品的关键人物，持有公司股权，在董事会解雇SamAltman几小时后，他选择辞职，或许因为他是SamAltman的亲密盟友。

大约在同一时间，OpenAI发布了一篇博客文章。称“Altman先生的离职是在董事会进行审议审查过程后得出的结论，他在与董事会的沟通中始终不坦诚，这阻碍了其履行职责的能力。董事会对他继续领导OpenAI的能力不再有信心。”

大家都在质疑，这是否是发生在OpenAI的一场恶意的“政变”。被解雇的SamAltman得到一大片支持和惋惜之声。

前GoogleCEO埃里克·施密特EricSchmidt直接称SamAltman是英雄，赞他将OpenAI从无到有转变900亿美元的非凡估值。Airbnb首席执行官BrianChesky也加入了对SamAltman的赞扬行列，称他是这一代人中最优秀的创始人之一。

在解雇SamAltman后临时召开的全员会议上，面对“政变”的指控，Ilya的回应据称是，“你可以这样说”“但我不同意”，他认为“这是董事会履行其非营利组织使命的责任，即确保OpenAI构建造福整个人类的AGI”。

在发给员工的内部备忘录中，临时CEOMiraMurati提到“我们的使命和共同开发安全有益的AGI的能力”。她称OpenAI有三个支柱，包括“最大程度地推进我们的研究计划，我们的安全和对齐工作——特别是我们在科学上的预测能力和风险方面的能力，以及以有益于所有人的方式与世界分享我们的技术。”

IlyaSutskever、SamAltman、MiraMurati、GregBrockman｜Wired

OpenAI成立于2015年，成立之初就定位为一家非营利组织。然而，在2019年，OpenAI进行了重组，SamAltman成为OpenAI首席执行官，他帮助创建了一家名为OpenAILP的营利性子公司，以便从微软等外部投资者那里筹集资本，用于训练AI。而OpenAI本身仍然是一个由董事会管理的非营利组织。

Altman在筹集资金方面发挥了关键作用，包括从微软那里获得的100亿美元。尽管OpenAI给投资者设定了一个利润上限，OpenAI的估值如今已经达到850亿美元，据SamAltman最近告诉员工，OpenAI正在产生13亿美元的年化收入。

另一边，对于AI安全性的担忧，以及OpenAI的商业化，也分裂了OpenAI内部的管理层。就在2020年底，OpenAI的一帮员工离开了公司，创立了AI公司Anthropic，这家公司以安全为卖点，创始人还直接对外表示离开是因为对OpenAI商业化和战略的不满。

Ilya也一直担心未来几年强大AGI的危险，此前，在OpenAI的一篇博客文章中，他写道“巨大的超级智能力量可能非常危险，并可能导致人类被剥夺权力甚至人类灭绝。”

在解雇SamAltman后，OpenAI董事会在一份声明中续称，“OpenAI旨在推进我们的使命：确保人工智能造福全人类。董事会仍然完全致力于为这项任务服务。”

到底哪里“不坦诚”？

除了“安全”问题，OpenAI董事会所说的SamAltman“不坦诚”方面，从现有消息看，SamAltman是否隐瞒了支出也存在质疑。

11月15日，就在SamAltman被解雇的前两天，OpenAI颇具争议地宣布将停止ChatGPTPlus（每月20美元的高级版本）的新注册。这在一定程度上凸显了成本和营收的问题。

内部消息人士称，OpenAI在每个ChatGPTPlus用户身上都在亏损，并且需要时间来增强服务器容量。

这与SamAltman被解雇的时间太过重合，以至于部分人士猜测，SamAltman是否向董事会歪曲了财务数据、用户数量或云计算成本？支出是否高于预期？或者他是否阻碍了董事会获取相关信息？

另一个侧面的证实联系是，董事会还解除了OpenAI联合创始人兼首席技术官GregBrockman的董事长职务，因为Greg可能会关注运行OpenAI系统的技术成本。他是这家初创公司最有影响力的人物之一，在从产品决策到为工程团队设定方向的一切事务中具备发言权。如果支出脱轨，两位管理者便可能是同谋。

另外，有关SamAltman的离职还涉及到一些不寻常的因素，有消息称，SamAltman计划将OpenAI技术用于Worldcoin，这也引发了一些道德危险的担忧。

OpenAI开发者大会上SamAltman和萨提亚开了个小玩笑｜OpenAI

作为OpenAI的“金主”，微软的态度如何？据了解此事的人士称，在SamAltman被解雇的消息公开前，微软领导层只从OpenAI那里得到了5到10分钟的提前通知。OpenAI临时CEOMiraMurati在周五的一次全公司会议上告诉员工，他们与微软的关系保持稳定。

就在前不久，微软于11月9日曾短暂屏蔽员工在公司设备上访问ChatGPT，并警告员工，给出的理由是存在安全担忧。

距离OpenAI的开发者大会仅过去10天，彼时SamAltman还与微软高管谈笑风生，甚至还在15日参加了他与微软基础设施高管的定期会议。

“今天在很多方面都是一次奇怪的经历。”SamAltman在X的帖子上坦言。

他曾表示GPT-5的终极目标是创造相当于人脑的超级AI，但AI的发展是否已经出现安全问题，最终导致了这场快速的内部“政变”？

被踢出OpenAI后，SamAltman的下一步又会是什么？

OpenAI解雇SamAltman事件时间表：

2023年11月6日

OpenAI举行开发者大会，推出了“自定义ChatGPT”功能。

2023年11月9日

微软发出警告，要求其员工停止使用ChatGPT，因为存在安全问题。

2023年11月15日

OpenAI暂停了ChatGPTPlus的注册。微软CEO萨提亚·纳德拉在Ignite大会上宣布，OpenAI所有创新都将用在微软的Azure云服务上。

2023年11月16日

SamAltman收到llya短信，通知周五中午谈话。

2023年11月17日

OpenAI的董事会突然宣布，联合创始人兼CEOSamAltman即刻离职。董事会在一次审查后得出结论，认为Altman在与董事会的沟通中不够坦诚，妨碍了董事会执行其职责的能力。董事会对他继续领导OpenAI失去了信心。同日，Altman在X平台（前Twitter）上发表了关于他离职的声明。

2023年11月17日晚些时候

OpenAI联合创始人和前董事会主席GregBrockman宣布他也将离开公司。这是在董事会要求Brockman辞去董事会主席职务但保留在公司的角色后发生的。

2023年11月17日

OpenAI任命公司首席技术官MiraMurati为临时首席执行官。