在山姆·奥特曼(Sam Altman)上周被逐出OpenAI之前,他和公司董事会已经争吵了一年多。随着OpenAI因其广受欢迎的聊天机器人ChatGPT而成为主流名称,这种紧张局势变得更加严重。
首席执行官奥特曼最近开除了一名董事会成员,因为他认为她参与撰写的一篇研究论文对公司持批评态度。
另一名成员、OpenAI首席科学家伊利亚·苏斯克维尔(Ilya Sutskever)认为,奥特曼在与董事会交谈时并不总是诚实的。董事会成员担心,奥特曼过于专注于扩张,而他们希望在增长与人工智能安全之间取得平衡。
他被赶出公司的消息是在周五下午的一次视频会议上传来的。与奥特曼在OpenAI密切合作了8年的苏茨凯弗向他宣读了董事会的一份声明。尽管这一决定震惊了OpenAI的员工,也让其董事会成员面临着关于他们是否有资格管理这样一家备受瞩目的公司的棘手问题,但这是董事会长期以来蓄势已久的紧张关系的高潮。
这一分歧还表明,建立新的人工智能系统正在考验那些想从人工智能中赚钱的商人,是否能与研究人员保持同步。研究人员担心,如果自动武器等东西失控,他们正在开发的东西最终可能会消除就业机会,或对人类构成威胁。
OpenAI成立于2015年,当时有一个雄心勃勃的计划,希望有一天能创造出一个超级智能的自动化系统,它能做人类大脑能做的一切。但长期以来,摩擦一直困扰着OpenAI董事会,该董事会甚至无法就离职成员的接替人选达成一致。
如今,该公司能否继续存在存在疑问,很大程度上是因为这种功能失调。OpenAI的800名员工中,几乎所有人都威胁要跟随奥尔特曼前往微软,后者要求他与格雷格·布罗克曼(Greg Brockman)一起领导一个人工智能实验室。布罗克曼辞去了OpenAI总裁兼董事会主席的职务,与奥尔特曼站在一起。
董事会曾告诉Brockman先生,他将不再担任OpenAI的董事长,但邀请他继续留在公司——尽管他没有被邀请参加决定将他赶出董事会和奥尔特曼先生赶出公司的会议。
董事会没有说明它认为奥特曼在哪些方面不诚实。
两位知情人士说,有迹象表明,董事会仍对他的回归持开放态度,董事会与奥特曼的讨论一直持续到周二。但问题的症结在于:奥特曼拒绝了一些旨在改善他与董事会沟通的建议。目前还不清楚这些护栏究竟是什么。
周二,苏斯凯弗没有回应置评请求。
OpenAI董事会的麻烦可以追溯到这家初创公司的非营利组织之初。2015年,奥特曼与埃隆·马斯克(Elon Musk)等人合作,创建了一个非营利组织,致力于开发安全、对人类有益的人工智能。他们计划从私人捐助者那里为他们的使命筹集资金。但在几年之内,他们意识到他们的计算需求需要更多的资金,而不是从个人那里筹集。
马斯克于2018年离开后,他们创建了一家营利性子公司,开始从投资者那里筹集数十亿美元,其中包括从微软那里筹集的10亿美元。OpenAI在其网站上表示,他们表示,该子公司将由非营利董事会控制,每位董事的受托责任将是“对人类,而不是对OpenAI投资者”。
在奥特曼被迫离开、布罗克曼离开后,剩下的四名董事会成员是萨斯克沃;问答网站Quora的首席执行官亚当·德安吉洛(Adam D’angelo);乔治城大学安全与新兴技术中心战略主管海伦·托纳(Helen Toner);以及企业家兼计算机科学家塔莎·麦考利(Tasha McCauley)。
奥尔特曼被解职前几周,他与托纳会面,讨论托纳最近为乔治城大学(Georgetown University)安全与新兴技术中心(Center for Security and Emerging Technology)合著的一篇论文。
《纽约时报》看到的一封奥特曼写给同事的电子邮件显示,奥特曼抱怨说,这篇研究论文似乎在批评OpenAI保护其人工智能技术安全的努力,同时赞扬了Anthropic采取的方法。
奥特曼在电子邮件中说,他已经就那篇论文谴责了托纳,并称这对公司是危险的,尤其是在联邦贸易委员会(Federal Trade Commission)正在调查OpenAI用于构建其技术的数据的时候。
托纳辩称,这是一篇学术论文,分析了公众在试图理解发展人工智能的国家和公司的意图时所面临的挑战。但奥特曼不同意这一观点。
他在电子邮件中写道,“我觉得我们对这一切造成的损害意见不一致。”“董事会成员的任何批评都很有分量。”
一位参与对话的人士说,OpenAI的高级领导人,包括对人工智能有朝一日可能摧毁人类深感担忧的苏斯克维尔,后来讨论了是否应该将托纳革职。
但据两位了解董事会审议情况的人士透露,在这些讨论之后不久,苏茨凯弗做了一件出人意料的事:他站在董事会成员一边,要求罢免奥特曼。他向奥特曼宣读了董事会的公开声明,解释说奥特曼被解雇是因为他“在与董事会的沟通中始终不坦诚”。
苏茨凯弗对奥特曼的失望与2021年发生的事情如出一辙,当时另一位高级人工智能科学家离开OpenAI,成立了Anthropic公司。那位科学家和其他研究人员去找董事会,试图把奥特曼赶出去。三位知情人士说,在失败后,他们放弃并离开了奥特曼。
“经过一系列相当友好的谈判,Anthropic的联合创始人能够在双方都同意的条件下谈判退出,”Anthropic的女发言人莎莉·奥尔德斯(Sally Aldous)说。
职位空缺加剧了董事会的问题。今年,该公司在如何接替三名即将离职的董事的问题上产生了分歧:领英创始人、微软董事会成员里德·霍夫曼(Reid Hoffman);马斯克创办的Neuralink公司致力于在人脑中植入计算机芯片,该公司的运营总监施文·齐里斯(Shivon Zilis);以及来自德克萨斯州的前共和党国会议员威尔·赫德。
两位了解董事会审议情况的人士说,在对一个职位的四位候选人进行审查后,其他董事无法就由谁来填补这个职位达成一致。这一僵局加剧了奥特曼与布罗克曼及其他董事会成员之间的分歧。
奥特曼被解职几小时后,OpenAI高管在一次视频通话中质问了剩下的董事会成员,据三名参与通话的人说。
在电话会议上,OpenAI首席战略官贾森·权(Jason Kwon)表示,董事会驱逐奥特曼的做法正在危及公司的未来。他说,这违反了成员的责任。
托纳不同意这种说法。董事会的使命是确保公司创造出“造福全人类”的人工智能,她说,即使公司被摧毁,这个使命也会实现。在董事会看来,没有奥特曼,OpenAI会更强大。
据两名知情人士透露,周日,在OpenAI的办公室里,布罗克曼的妻子安娜(Anna)敦促苏茨凯弗改变主意。几个小时后,他与其他员工签署了一封信,要求独立董事辞职。《华尔街日报》(The Wall Street Journal)早些时候曾报道过苏茨凯弗和布罗克曼之间的对峙。
周一凌晨5点15分,他在X(以前的Twitter)上发帖称,“我对自己参与董事会的行动深感遗憾。”
凯德·梅斯是一名科技记者,著有《天才制造者:将人工智能带入bb0、Facebook和世界的特立独行者》。他涉及人工智能、无人驾驶汽车、机器人、虚拟现实等新兴领域。更多关于凯德·梅斯的信息
特里普·米克尔(Tripp Mickle)在旧金山为《纽约时报》报道苹果和硅谷。他对苹果的关注包括产品发布、制造问题和政治挑战。他还写了科技行业的趋势,包括裁员、生成式人工智能和机器人出租车。更多关于特里普·米克尔的信息
迈克·艾萨克(Mike Isaac)是《纽约时报》驻旧金山的科技记者。他定期报道Facebook和硅谷。更多关于Mike Isaac的信息
这篇文章的另一个版本出现在纽约版的印刷版上,标题是:OpenAI在解雇前面临痛苦的分歧。订购重印b|今日报b|订阅
1