深度解读CEO奥特曼为什么被科学家赶下台

“

本文深度解读了OpenAI CEO奥特曼以及总裁雷格·布罗克曼被解雇的过程，以及内部的原因。包括创始人理念之争以及人工智能文化之争，同时重点介绍了在这一事件中起关键性作用的首席科学家伊利亚的背景信息以及他的AGI理念，正是因他奥特曼才被开除

周五，OpenAI 突然解雇了首席执行官萨姆·奥特曼（ Sam Altman），这一决定令总裁格雷格·布罗克曼 （Greg Brockman） 和三名高级科学家选择了辞职。这个举动也让主要投资者和少数股东微软感到非常意外，据报道，微软的首席执行官萨蒂亚·纳德拉（ Satya Nadella ）对此感到非常愤怒。

事件爆发后，所有人都问同一个问题：究竟发生了什么，导致了萨姆·奥特曼的出局？是什么原因让这位科技行业的璀璨明星在一切似乎顺风顺水的时候突然下台。

首先，OpenAI之所以能够发生首席执行官的免职，要归功于其独特的公司治理结构。OpenAI成立于2015年，最初是一个非盈利组织，但在2019年创建了一个具有利润上限的子公司——这是一种新颖的安排，投资者的回报受限于其初始投资额之上的一定金额。但它保留了非盈利组织的使命，并赋予了非盈利组织的董事会管理具有利润上限的子公司的权力，包括解雇首席执行官。与一些其他科技创始人不同，奥特曼并没有直接拥有OpenAI的股份。

在这种非同寻常的组织结构下，其营利部门由一个非营利的 501(c)(3) 公益慈善机构拥有和控制。在昨天之前，这个非营利机构由一个董事会管理。

关于OpenAI董事会还有一些特点。它规模较小（在上周之前有六名成员，去掉奥特曼和伊利亚·苏茨克弗、布罗克曼后剩下三名），包括一些人工智能专家，他们没有持有公司股份。其董事们不需要追求最大化股东价值，这与大多数公司董事会的职责不同，而是受到了创造“广泛有益的通用人工智能”（AGI）的受托责任的约束。

董事会的至少两名成员，Tasha McCauley（塔莎·麦考利）和Helen Toner（海伦·托纳），与Effective Altruism运动有关，这是一个受效用主义启发的团体，他们推动AI安全研究，并引发了一种强烈的警示，即强大的AI系统可能会导致人类灭绝。另一位董事会成员，Adam D'Angelo（亚当·丹杰洛），是Quora的首席执行官，该公司是一个问答网站。

创始人理念之争

随着周五晚间的发展，有报道称这次解雇很可能是由首席科学家伊利亚·苏茨克弗（Ilya Sutskever） 策划的，原因是因为他对 OpenAI 的技术部署的安全性和速度感到担忧。

据报道"伊利亚在周五下午的一次紧急全员会议上告诉员工，这是董事会为了落实 OpenAI 的非营利使命所做的决定，即确保 OpenAI 构建的通用人工智能（AGI）将造益于全人类" 。

自成立以来，OpenAI 一直致力于发展通用人工智能（AGI），这是一种假设性技术，能够执行人类能够完成的任何智力任务，潜在地可能会取代大量人类的工作。

在OpenAI内部，有人表示，关于Altman推动商业化和公司增长速度的问题引发了分歧，而伊利亚则主张减缓推进速度。消息人士告诉记者，OpenAI在11月6日的Dev Day活动中，奥特曼在一个重要的演讲中强调推出类似消费品的产品，被认为是"奥特曼进展得太快，太远的一个关键时刻"。

这场突如其来的动荡导致了OpenAI公司的首席科学家伊利亚成为该人工智能公司八年前创始团队中唯一幸存的成员。OpenAI的创世纪可以追溯到布罗克曼的公寓会议，最初的支持者包括后来成为首席执行官的奥特曼以及因公司治理问题而辞去职务的马斯克。

传言伊利亚参与了解雇决策，他还负责领导团队来协调潜在的超级人工智能。在一次内部员工会议上，伊利亚间接证实了这些传言，他表示，解雇不是一次“政变”或“敌对接管”，董事会只是尽了其职责，以确保OpenAI为了全人类的利益发展安全的通用人工智能（AGI）。

"伊利亚表示，这是董事会履行非盈利使命的责任，即确保OpenAI构建安全有益于全人类的AGI（通用人工智能），"。他还承认，奥特曼被解雇的方式存在"不太理想的元素"。

伊利亚认为，实现通用人工智能（AGI）的目标是可以达到的，它将改变人类的进程。十月初，他在Twitter上写道："如果你将智力置于所有其他人类品质之上，那么你的日子将会很糟糕。"

伊利亚其人

伊利亚出生在苏联，但从五岁起在耶路撒冷长大。后来，他在多伦多大学跟随人工智能的先驱Geoffrey Hinton（辛顿）学习，后者有时被誉为“人工智能之父”。今年早些时候，辛顿离开了谷歌，并警告称，人工智能公司正在积极开发生成式人工智能工具，例如OpenAI的ChatGPT，这种做法存在风险。他说：“很难看出如何防止不良行为者将其用于不当用途。”

辛顿和他的两名研究生之一，就是伊利亚，于2021年开发了一个神经网络，用于识别照片中的物体。该项目被称为AlexNet，它证明神经网络在模式识别方面的能力远超人们一般认为的。谷歌对此印象深刻，收购了辛顿的分拆公司DNNresearch，并聘请了伊利亚。在科技巨头工作期间，伊利亚帮助证明了与AlexNet在图像方面展示的相同的模式识别原理也适用于单词和句子。

但伊利亚很快引起了人工智能领域另一位重要人物的注意：特斯拉CEO埃隆·马斯克。在马斯克的推动下，伊利亚于2015年离开谷歌，成为OpenAI的联合创始人和首席科学家，当时OpenAI是一个非营利组织，马斯克设想它成为人工智能领域对抗谷歌的平衡力量（后来OpenAI与马斯克产生分歧，决定不再是非营利组织，并从微软获得数十亿美元的投资，现在有一个名为Grok的ChatGPT竞争对手）。

“那是我迄今为止最艰难的招聘之一，但那确实是OpenAI成功的关键”，马斯克补充说，伊利亚不仅聪明，而且是一个“善良的人”。

在OpenAI，伊利亚在开发大型语言模型方面发挥了关键作用，包括GPT-2、GPT-3和文本到图像模型DALL-E。

但最近，伊利亚的关注重点已经转向了人工智能的潜在危险，特别是一旦能够超越人类的人工智能出现，他认为这可能会在10年内发生（他将其与通用人工智能或AGI区分开，后者仅仅能够与人类媲美）。

伊利亚是AGI坚定的信仰者，这种信仰源自于对深度神经网络机器学习持续坚持20年的热爱。最近，他的主要工作已经全面转向超级对齐（superalignment）。

在两个月前的一次采访中，他也提到现在的GPT版本似乎已经有了一段时间的某种"感觉"。而奥特曼在APEC筹资会议中也透露，本月初他亲自见证了新版本GPT的智能有了一大步的提升，所谓的AGI已经在内部实现。

但AGI信仰是否能够商业化？特别是在目前尚未能够充分赋予AGI人类情感印记之前，过于快速的商业化是否最终会损害AGI的信仰？

从某种程度上来说，这对伊利亚来说可能是对他信仰的一种背叛。伊利亚和奥特曼之间的嫌隙在上次全球巡演中，二者唯一一次在Tel Aviv同台的表现中可见一斑。

因此，此次伊利亚采取主动行动，联合董事会的三位独立董事，形成了4:2的局面，这在某种程度上也符合OpenAI LP的大股东微软的意愿。

布罗克曼受牵连主要是因为他沉溺于工程技术，没有充分履行董事会主席的职责。此外，基本上布罗克曼将自己的董事权利都交给了奥特曼，形成了坚定的同盟关系，因此布罗克曼自行提出辞职也并不令人感到意外。

临时CEO米拉曾在多个不同角色下领导过公司的许多团队，也担任过CTO，在一份备忘录中强调了"我们的使命和能力，共同开发安全且有益的AGI"。

这次解雇的战略目标可能是为了减缓OpenAI在商业领域的发展速度。奥特曼最近也表示怀疑，仅仅发展大型语言模型是否足以实现AGI。伊利亚可能有不同的看法，担心奥特曼低估了规模化LLM（大型语言模型）的潜力。

人工智能文化之争

奥尔特曼被解雇几乎肯定会加剧人工智能行业内部的文化冲突，这一冲突涉及那些认为人工智能应该快速发展的人和那些认为应该减缓发展以防止潜在灾害的人之间的争论。

这一争议，有时被称为“加速主义者”与“末日论者”之间的较量，最近几个月加剧，因为监管机构开始密切关注人工智能行业，而技术变得更加强大。一些杰出的加速主义者主张，大型人工智能公司正在游说制定规则，这可能会让小型初创公司难以与它们竞争。他们指责该行业内的安全倡导者夸大了人工智能的风险，以确保他们的地位不动摇。

另一方面，安全倡导者则发出警告，称OpenAI和其他公司正在过于迅速地构建强大的人工智能系统，忽视了谨慎的声音。一些怀疑者指责这些公司侵犯了艺术家、作家和其他人的版权，用于训练他们的模型。

奥尔特曼一直小心翼翼地站在乐观和担忧之间，明确表示他相信人工智能最终将对人类有益，但也认同需要有明确的规则和周到的设计来确保安全。

OpenAI的员工多年来一直在这个问题上产生分歧。在2020年，一群OpenAI员工因担心该公司变得过于商业化，将安全研究置于有利可图的交易之前而辞职（他们后来成立了竞争对手人工智能实验室Anthropic）。一些现任和前任OpenAI员工告诉媒体，一些员工认为奥尔特曼和布罗克曼在启动新产品方面可能过于激进。

高管离职的影响

随着奥特曼被解雇，OpenAI公司失去了更多的研究人员。根据媒体报道，OpenAI的研究总监Jakub Pachocki、负责评估人工智能潜在风险的团队领导Aleksander Madry以及长期的研究员Szymon Sidor据称也已离开OpenAI，消息来自知情人士。这些研究人员中包括参与了GPT-4的开发，以及领导人工智能风险评估团队的关键成员。

在业界，许多知名人物迅速表达了对被解雇的OpenAI创始人的支持，包括Airbnb的Brian Chesky等科技高管。Eric Schmidt，曾担任谷歌前CEO并成为最新一代人工智能初创公司的主要支持者，也在社交媒体上表扬奥特曼，称他从零开始建立了一个价值900亿美元的公司。

红杉资本的合伙人Alfred Lin则表示有兴趣支持奥特曼和布罗克曼 未来的初创公司。对于OpenAI的其他员工来说，他们是否会跟随奥特曼的脚步，仍然是一个未知数。