Episode 60：为什么说OpenAi”董事会政变”是迟早会发生的事儿
骅：Poy，今天我们的播客节目要和大家聊聊最近美国硅谷发生的一个充满戏剧性的商业新闻，那就是OpenAI的前董事会发生政变，把OpenAI CEO，世界AI的封面人物 Sam Altman解雇的消息。这个新闻的整个进展过程比一部真实的电影还具有戏剧性，弄得我自事件发生后，一直紧紧追踪新闻，生怕错过了任何的juicy细节。
Poy：是的，很多人把OpenAI的新闻拿来与历史上发生过的其他的先例比较，这件事情的奇葩程度大概只有1985年史蒂夫乔布斯被苹果董事会踢出局的故事可以与之媲美了。
骅：那么这里我先来简单地总结一下Sam被炒新闻的前前后后。
美国西部时间11月17日星期五，OpenAI的董事会宣布解雇CEO Sam Altman，并罢免了董事会主席Greg Brockman，任命CTO Mira Murati为临时CEO；消息一传出，兼任公司总裁职务的Brockman立即宣布抗议辞职。
这个新闻立即在整个商业世界里引起轩然大波，同时董事会在做出决定之前，也没有与OpenAi的投资人微软等进行沟通，因此导致了很多猜测。
接下来在整个周末的大部分时间里，在微软等投资人的督促之下，Altman与董事会进行了激烈的讨论，似乎有望被恢复其职务。
然而，董事会与Altman的协商似乎出现了问题，第一位临时CEO Mira因为公开表示支持Altman而拒绝担任临时CEO的职位，于是董事会在短短48小时内任命了前Twitch CEO Emmett Shear为OpenAI的第二位临时CEO。
随着星期一的临近，微软为了控制股票的价格，CEO Satya Nadella迅速做出决定，宣布Altman与Brockman将进入微软，在微软内部重新建立一个新的人工智能实验室，并且宣布OpenAI的每位员工都可以离开OpenAI, 加入到微软的这个新的团队。
从周末开始，几乎所有的OpenAI员工都签署了一封公开信，表示他们将接受微软的提议，除非Altman和Brockman回归，OpenAI的董事会必须下台。最有意思的是，在周五支持Sam离开的董事会成员，OpenAI的首席科学家Ilya Sutskever也似乎回心转意，转而支持Sam。
11月21日周二早晨，Sam Altman与Greg Brockman宣布重新回到OpenAI，OpenAI的董事会也宣布重组，两位女董事，企业家Tasha McCauley，和Goergetown安全与新兴技术中心战略总监Helen Toner宣布离开，前Salesforce 联合CEO Bret Taylor与前美国财政部部长Larry Summers成为新的董事会成员。所有OpenAI的投资人，硅谷的领导人，OpenAI的员工们都皆大欢喜，庆祝Sam的回归。
这个简单的版本听上去就已经非常的复杂是不是？
Poy：是的。没点背景知识，都会被这多方角力，反转再反转的情节绕晕。我都能脑补出一场商战美剧大片了。这个案例真的还有可能是我们人类历史上的一个决定性时刻，想必未来人们在追溯人工智能发展的历史过程时，这个事件应该是有它重大的意义。ChatGPT自从去年此时来到我们身边以后，从政治，商业，法律，市场等各个角度，已经迅速地在我们的生活里产生了重要的影响，许多有关人工智能对未来人类影响的讨论也是成了热门的话题。那今天我们请来一位我们的朋友，加拿大CIBC银行 Strategy Director Edward Li来与我们一起聊聊这个话题。Edward，欢迎欢迎！请先向大家做个自我介绍吧。
Edward：Hello Hua, Hello Poy, 各位柠檬朋友大家好，我是Edward。简单介绍一下我自己。我在多伦多的银行业工作了超过十五年，在进入银行业之前在通信行业和快速消费品有过多年从业经验。我工作的领域覆盖了marketing, 产品管理，战略等多个方面，目前在CIBC的中小企业银行部门负责市场战略。我跟Hua认识很多年，也是柠檬博客的忠实听众，所以很高兴来到这个节目做客。
骅：Edward，今天非常开心你有机会来我们的播客作客。在多伦多的strategy专业里，Edward是一位资深的strategist，所以非常期待我们的交流。那我首先来问一个问题，虽然上周五OpenAi 董事会的政变来得非常突然，但是你觉得这个事件是在人工智能迅速发展的道路上不可避免的吗？
Edward：从某种程度来说是不可避免的，而且这次的突发事件我觉得很可能也不是最终的结局，今后一两年的时间里面很可能还会再次出现一些戏剧性的变化。
首先OpenAI的公司架构是一个非常独特的形式。OpenAI创始于2015年，一开始它是一个非盈利研究机构，它的几位创始人除了这次宫斗剧的主角Sam Altman和几位董事会成员，还有著名的企业家，特斯拉和X的老板Elon Musk。OpenAI建立的初衷是推进人工智能向着有利于人类总体利益的方向去发展，所以它坚持要开源、开放，用他们自己的话来说，“人工智能应该是人类个人意志的延伸，要秉持自由的精神，还要尽可能广泛和尽可能均匀地分布”。所以说OpenAI建立之初并不是以赚钱为目的，而是包含了创始人对人工智能的担忧，他们已经在警惕人工智能快速发展可能带给人类的威胁。
那么后来因为人工智能的研究实在太烧钱，原先的非盈利组织只能依靠捐赠，但即使有Elon Musk这种大款慷慨解囊，也跟不上烧钱的速度。所以在2019年OpenAI旗下成立了一个盈利性质的子公司，负责给非盈利研究输血。它的这个公司结构非常独特，它称为capped for profit，就是说它的盈利往上要封顶。大家都知道对初创的高科技公司投资风险极大，硅谷的平均数字大概是投100家公司能有10家左右成活下来，最后只有1～2家能够赚钱。通常投资人对这类投资的期待往往是几百上千倍的回报。但是OpenAI规定它的投资回报不能超过100倍，超过的部分全部要回馈给非盈利研究。最后OpenAI就形成了一个独特的董事会，董事会控制非盈利机构，然后由这个非盈利机构控制旗下盈利机构51%的股权，也就是说包括微软在内的大投资人对公司的决策几乎没有任何影响力，从某种意义上讲这个董事会是不受制约的。
这个奇特的公司架构就为现在我们所看到的这场宫斗剧埋下了隐患，因为一旦董事会与管理层之间出现矛盾就很难缓冲。而非盈利与盈利之间这对矛盾也几乎是不可调和的，因为盈利公司总是希望不断追求高速发展，而它的婆婆，也就是这个非盈利机构则有其它的考虑。
还有一点非常有趣的是这个矛盾还并不只是一方追求盈利另一方追求公益。其实Sam Altman从他的本心来看也是对公益有着很纯粹的追求的，但是他与董事会其他人对于人工智能的安全发展有不同的看法。大家都同意要重视人工智能的安全性，但对路径的选择有分歧。Altman这一派称为“有效加速派”effective acceleration，他们很多人会在自己的社交媒体签名上写一个e/acc，这一派主张尽快让人工智能发展起来，安全性的问题在技术高度发展之后会不攻自破。这有点像我们中国人改革开放时代经常听到的一句话“发展中产生的问题只能靠发展得到解决”。而另一派的代表人物就是这次宫斗剧中反转的Ilya Sutskever，他是OpenAI的首席科学家，这一派也有个名字，名字很拗口，叫Super Love Alignment，有些翻译成“超级对齐派”，也有些中文自媒体调侃他是“大爱”派。这一派的观点就是人工智能的安全问题不能靠技术发展来解决，而要依靠抑制技术发展。Ilya在OpenAI内部搞了一个超级对齐项目，就是想办法给人工智能加一个刹车，或者说是预警机制，让人工智能不至于跑到反人类的轨道上去。
这两派对安全问题的争议这时候就恰好与盈利和非盈利的矛盾咬合在了一起。因为Ilya搞的这个超级对齐非常耗费资源。人工智能本身是能耗很高的一个东西，需要大量的算力，就好比现在油价高涨，开车很贵。而这个超级对齐就好像把本来用来驱动汽车的油耗里面拿出1/5到1/4来做刹车，不但会减缓人工智能研究的速度，还会大大增加运营成本。所以这个时候技术路线之争、或者说对安全问题的分歧就跟盈利的问题捆绑在一起。
那么从OpenAI这个机构独特的治理结构、技术路线的分歧、盈利与非盈利之间的矛盾这几个方面综合来看，可以说这场剧变绝对是有深层的原因的。
Poy: 你说的没错，这场宫斗，牵扯到多方利益，不仅是Altman、董事会，OpenAI的其它管理层和员工，还有微软，甚至还有他们的头号竞争对手，Google，也都在密切关注他们的动向。短短几天，波云诡谲，消息变化得非常之快，可以想象，处于风暴核心的他们，内部拉锯有多激烈。Edward, 从OpenAI的这个新闻里，梳理下来看，核心是围绕着人工智能的安全与商业化的平衡。但是我们在谈到AI的安全性的时候，与我们说汽车的安全是完全不同的。当我们考虑汽车的安全性的时候，通常会想到安全气囊的质量或者刹车的效力等。但是人工智能的安全却非常的抽象化，也没有足够的数据支持，关于人工智能的风险在科学界也没有达成一致的意见，因此你对AI这个安全性这个重要话题有什么想法吗？
Edward：的确人工智能的安全性是引起广泛关注的一个问题，而且越是对人工智能了解得深入，对它的安全性的担忧也越多。前几天Economists的播客节目对人工智能专家李飞飞有一次采访。李飞飞是一名华裔美国计算机科学家，她在人工智能领域做出过许多开创性的贡献，目前应该说是最前沿的、也是在科学界和政府决策方面都具有国际影响力的最重要的科学家之一。李飞飞在这个节目里面就说出于对人工智能的深入了解，她比普通人更加关注安全性问题。
Poy，你刚才说人工智能的安全性跟汽车不同，这一点我非常赞同。的确是这样，人工智能的安全问题相对比较抽象。最近还有很多人把人工智能跟核武器进行类比，因为这二者都对人类具有毁灭性的力量，因此大家都担心它作为一种工具会不会落入坏人的手里。比如说现在大家最担心的问题之一是人工智能现在向通用人工智能AGI的方向发展，这个发展的速度非常快，在不久的将来就能够发展到一个很高水平，可以让一个普通人轻而易举地设计生物武器。那么大家就担心这个人工智能的工具会不会落到恐怖组织手里。尤其是现在世界各地矛盾冲突不断升级，这种担心就显得比较迫切。
另外更重要的是人工智能与人类现有的各种技术都不同。现有的各种技术，哪怕最有威胁的核技术、生物技术，科学家都清楚了解它们的机理，我们除了担心这些强大的技术被不法分子利用之外，并不太担心这些技术本身会朝着与人类意志相反的方向发展。但是人工智能不同，现在的生成式人工智能，就是ChatGPT背后的这个技术，它通过学习然后自己生成内容，当你问它一个问题或者给它一个指令，它会利用它学习到的知识给你答案，但是至于它背后用了什么逻辑来生成答案，这个过程没有人知道，科学家也不知道，设计这个ChatGPT的团队也不知道。这就有点像幼儿园老师或者小学老师讲课，讲完以后你问学生一个问题，他回答对了你知道他学会了，但是至于他是怎么学会的，老师讲的内容经过了什么过程被学生记住，又经过了什么过程被学生组织成自己的语言回答出来，这个过程老师也不知道。这种不可知就造成了许多人，包括很多科学家的担忧。
我举一个例子，我试过问ChatGPT一些关于中国历史的问题，他给出的回答头头是道，说得一本正经，甚至他还装模作样地引经据典，跟我说我可以在什么书上查到相关的内容。如果你对这方面的知识一无所知，你肯定觉得找到了一个完美的答案。但是，如果有一些历史知识就会发现，这个答案完全就是胡说八道，东拉西扯，甚至把相差几百年的人物张冠李戴，他所谓引用的那些书，你去查全部不存在。这就非常可怕。如果人工智能生成一些似是而非的内容，绝大多数人很可能没有力量去辨别真伪。那么更进一步，现在很多程序员利用ChatGPT来辅助写代码，一些代码已经写得非常漂亮。如果有一天人工智能自作主张写一个程序，里面包含不合理或者有害的代码，是很难被发现的。
人工智能这个工具极其强大，同时又有一定的不可知性，这就使得它的安全问题特别重要。当然我认为技术进步是不以人的意志为转移的，发展趋势不可阻挡，我们要做的是在发展的同时解决对安全问题的担忧。至于如何解决，现在也有各种观点和各种尝试，目前来看很难说哪种方法最优。
骅：Edward，你说的没错，对安全问题的担忧绝不是杞人忧天，而是非常有必要且迫切的。我们在讨论准备这期播客的时候，我说了Altman重回OpenAi是capitalist战胜了Idealist。微软与其他投资人在整个谈判过程中起了重要的作用，很多人都说微软是这个新闻里的大赢家之一，两位有着学院派的女性董事成员双双离开，所以我说金钱战胜了理想。但是你说你不同意我的观点，你觉得是乌托邦与现实主义的斗争，可以与大家分享一下你的想法吗？
Edward: 前面介绍这场宫斗剧的时候提到过Altman代表的有效加速派和Ilya代表的超级对齐派，这两派其实都看到了人工智能飞速发展可能带来的问题，他们的分歧在于应对安全问题的态度和策略不同。我说这是乌托邦与现实主义之争，其中Altman这种用技术发展来带动安全问题的解决的态度我觉得是比较务实的一个态度。而超级对齐派，包括OpenAI这个非盈利机构的组织方式，试图通过超越金钱的方式来召唤人的大爱和良知，用这种方式来解决安全问题。这就好像用超越现实的方法，甚至夸张一点说是用神学的方法、用一种上帝视角来解决现实中存在的问题。所以我说这是比较乌托邦的一个想法。
不过不管哪一派最终占到上风，人工智能的安全问题实在太大了，它不是也不应该是由某一家公司或者某一家机构来解决的。公共领域包括政府监管机构的介入是迟早的。
骅: 没错，在这么大的问题面前，将事情的解决寄希望于人性的自觉，是不现实的。
在整个事件过程中，硅谷许多重要的领头人，包括前谷歌CEO Eric Schmidt，Airbnb创始人Brian Chesky纷纷在社交媒体上公开承认他们对Altman的仰慕，可以说Altman现在是硅谷最抢手，最炒不掉的CEO了。其实硅谷自从Steve Jobs之后，已经很少看到可以让我们眼睛一亮，可以令人振奋的“有远见”的创始人了，很多创始人丑闻故事包括Elizabeth Holmes、WeWork的Adam Neumann、FTX的Bankman-Fried等等，以及越来越混乱的马斯克。而与这些人不同的是，我觉得Altman在整个事件过程中，表现得非常优雅和沉着，好像也从未与任何人争吵或发脾气，但与此同时很有分寸地表达自己的观点。因此，你觉得Altman对与人工智能，甚至整个科技界，会在未来起到什么样的作用？
Edward：其实我觉得Altman回到OpenAI对于整个人工智能的发展未必是一件好事，长期来看对微软也未必是一件好事。在任何一种技术高速发展的时期，一家独大总不是一件好事，再厉害的公司，再厉害的人也不可能是全能的。如果Altman真的离开OpenAI，OpenAI这个公司包括非盈利机构有可能会解体，那么人工智能的很多领军人物就有可能进入到其他公司里面去或者自己单独再搞一笔投资创一个公司，这种百花齐放的局面可能对于整个行业的发展包括对安全问题的解决都可能产生积极的促进作用。
Poy：没错，很多行业都会有这样一个过程。很多人从前公司出来，创办了新公司，很多方法、思路、理念都一脉相承，像咱们国内的快递业，顺风、申通、中通什么的。如果OpenAI也是这么个历程，那它未来也就变成人工智能的黄埔军校了。
这次的事件被很多人称之为是董事会政变。我们前面也说过，OpenAI的公司结构与硅谷其他许多创业企业都不尽相同，公司起始于非盈利组织，因为是非盈利组织，董事会的任务是监管公司CEO的表现，如果董事会觉得他没有履行非盈利组织的mission的话，董事会的确有权力把CEO给罢免的。但是OpenAI可不是一般的非盈利组织，在Altman的带领下，他们已经成为人工智能的封面人物，Altman可以说是这其中的灵魂人物，这将会对世界未来科技的发展有着重要的影响。董事会摆这么一道，在整个处理的过程中，显得有些稚嫩，最后事情没有办成，还把自己搞得灰头土脸，惨淡出局。那么，Edward，为什么OpenAI会有这么一个没有商业经验的董事会组成？你觉得OpenAI董事会的决定是对还是错的？
Edward: 毫无疑问OpenAI之前的董事会非常年轻，缺乏公司治理的经验。这里面有两个问题。第一个问题是这帮人几乎是为了一个乌托邦似的目标走到一起来的，他们最初的想法也不是创造一家公司而是建立一所追求全人类共同利益的非盈利机构。历史的经验已经无数次验证，凡是这种看起来非常高尚纯洁伟大的目标，在实际执行过程中一定会出问题。OpenAI由于它是非盈利机构，董事会的构成跟投资人出资多少、占有股份多少无关，这就使得传统上行之有效的一切公司治理的手段都失效了。
第二个问题我们回到OpenAI的本来目标，追求人工智能的可靠发展。这个目标其实是很难由一家独立私营机构来完成的。过去类似的这种工作通常都是由公共领域牵头的，比如大学，比如政府或者政府间国际组织。但是人工智能的开发实在太费钱，就导致了缺乏资金的公共领域难以介入。Economists在采访李飞飞的时候，李飞飞就提到现在美国已经没有任何一所大学或者几所大学组成的一个科研机构有能力进行OpenAI所做的这种研究。那么以一家组织架构非常奇特的私营机构来承担这么重的任务，而且又是高速发展的充满了机遇与诱惑的这样一家公司，董事会可以说时时刻刻都是如履薄冰。
现在政变之后新加入的两位董事会成员，一位是美国前财政部长，一位是有多年商业经验的Salesforce前任CEO，这两位都可以说是老谋深算之辈，有很深的背景，相信对于公司今后的稳定发展能够起到一定的作用。
骅：撇开OpenAi前董事会决定是对还是错，但是我觉得最大的问题是董事会，与投资人，当事人，员工等没有任何透明的交流，这也可能是导致几乎所有人一致支持Altman的重要原因之一。Edward，从你的角度来讲，为什么透明的communication是leader重要的技能？
Edward：我非常同样你的看法，这个案例当中OpenAI董事会搞突然袭击，与Altman与员工都没有有效的沟通，这绝对是一大败笔。
有一句鸡汤，说一个人独行可以走得更快，但一个团队可以走得更远。但凡是有超过一个人，人与人之间就一定有沟通的问题。对任何一件事或者任何一句话，每个人都会有自己的理解和自己的看法，只有通过及时、充分、真诚、有效的沟通才能让一个团队有共同目标，协同作战。
一个公司的最高层，缺乏有效沟通，必然引起员工的猜疑，必然引起人心不稳。尤其在出现巨大变局的时候，短时间内每个人都会有迷失方向的感觉，那么自然就会选择确定性相对较强的一个方案，那在这个宫斗剧里面就是跟着Altman走。
Poy: 本来是一出太后逼走贵妃的戏码，没想到贵妃声望如此之高，不仅没有居无定所，反而立刻有高人接应，还杀了一个回马枪，把太后的一般班人马搞个人仰马翻，搞到太后下了台。这剧情真是跌宕起伏。那目前这出dram似乎暂时告一段落，Edward，你觉得从这个案例里，我们学到的最关键点什么？从你的角度来讲，你希望人工智能如何能够在未来造福人类呢？
Edward：对于高速发展的初创企业来说，我觉得这个案例给我们最大的警示就是发展与制约必须要齐头并进，越是高速发展的时候越要重视治理机制的完善。
说到人工智能的未来，我始终认为科技进步是推动人类文明发展的动力，人工智能也不例外。至于安全隐患和其他潜在的问题，我相信一定会在今后的发展中得到解决。同时我也认为对人工智能的推动和对安全问题的解决不可能也不应该依赖某一家机构，而是需要政府、企业、大学、科学家、人文学者和社会学者共同来完成的。
骅：Edward，你说的没错，任何一个产业的发展，都离不开多方参与的推动，除了肩负盈利使命的公司，你追我赶的竞争对手，还有第三方来政府、研究机会甚至是媒体的宣传、监督、教育等等，让这个产业更加健康地发展。所以对我本人来说，这个事件对AI未来的发展来说应该是一件好事情。
好了，今天的节目就到这里了，在结束今天这一期的节目之前，我们也想询问一下我们的听众朋友们，你们对今天的话题有何感想呢？欢迎大家在我们的网站上留言。另外，我们也欢迎大家加入我们的LinkedIn Community page, 与其他播客听众朋友们一起学习探讨更多商业案例！如果需要参加我们播客微信群的话，请加我们微信，ID是reelstone。谢谢大家的收听，我们下一期节目再见！