技术人员发明了终结者致命天网的一个版本,可以真正消灭人类。
在首席执行官萨姆·奥特曼(Sam Altman)被解雇之前,Open AI的员工曾警告其董事会,一项强大的人工智能突破可能对人类构成威胁。
几名研究人员给董事们写了一封信,警告Q项目的进展有可能危及人类。这封信最终导致ChatGPT的创始人奥特曼被解雇,公司内部出现了五天的混乱。
获取最新消息和更新有关科技发展的资讯,请按此。
奥特曼在Q上取得了进展,一些内部消息人士认为,这可能是公司在寻找超级智能方面的一个突破。
该公司将超级智能(也称为人工通用智能)定义为比人类更聪明的人工智能系统。在《终结者》系列电影中,虚构的超级智能人工智能网络天网获得了自我意识,并在人类试图关闭它后发动了核攻击。
OpenAI首席技术官Mira Murati在Altman被解雇后担任临时首席执行官,他告诉员工,在Altman被解雇之前,公司已经向董事会发了一封信,并提到了Q.消息人士称,这封信是导致Altman被解雇的众多因素之一。
奥特曼、OpenAI和撰写这封信的研究人员尚未对此发表评论。在这封信的消息传出之前,SpaceX、特斯拉和X(前身为Twitter)的首席执行官埃隆·马斯克在网上发布了另一份声明,指责奥特曼和他的联合创始人格雷格·布罗克曼创造了一个充满敌意的工作环境。
这封信据称是由前OpenAI员工写的,详细描述了“不诚实”和“操纵”的领导。它的作者声称,OpenAI的大量员工被赶出了公司,以促进其向盈利模式的过渡。
信中写道:“然而,他们的方法让人严重怀疑他们的真实意图,以及他们真正优先考虑人类利益的程度。”
它指责留在OpenAI的员工“盲目”追随奥特曼和布罗克曼的领导,“甚至不惜付出巨大的个人代价”。这种坚定不移的忠诚源于对报复的恐惧,以及通过OpenAI的利润参与部门获得潜在财务收益的诱惑。
这封信最后要求新任命的董事会对这些不道德的行为采取坚定的立场,并对山姆和格雷格的行为展开独立调查。
“人工智能的未来和人类的福祉取决于你对道德领导和透明度的坚定承诺,”它补充说。几年前,马斯克与奥特曼就公司的领导问题发生争执,他写道:“这些问题似乎值得调查。”
当38岁的奥特曼上周末被解职时,公司770名员工中有747人威胁要辞职,并追随他们的领导人前往他当时所在的微软。五天后,他以OpenAI首席执行官的身份返回。
奥特曼在推特上写道:“我爱OpenAI,过去几天我所做的一切都是为了让这个团队和它的使命团结在一起。微软董事长。首席执行官萨蒂亚·纳德拉表示,OpenAI董事会的变动导致了奥特曼的回归。
他说:“我们相信,这是迈向更稳定、信息更灵通和更有效治理道路上必不可少的第一步。”“Sam, Greg和我已经谈过了,并同意他们在OAI领导团队中发挥关键作用,以确保OAI继续蓬勃发展并实现其使命。
“我们期待着建立我们强大的合作伙伴关系,并为我们的客户和合作伙伴提供下一代人工智能的价值。“OpenAI证实Altman已经回归,公司已经任命了一个新的初始董事会。”OpenAI由奥特曼和其他10人(包括马斯克)于2015年创立,一年前推出了ChatGPT。它模仿人类文字的能力使政界人士、公众和人工智能行业的其他人士产生了两极分化。
马斯克在试图控制公司失败后被迫辞职,此后他抨击人工智能是“觉醒的”,并声称它偏离了OpenAI最初的非营利使命。今年2月,这位亿万富翁在推特上写道:“OpenAI是作为一家开源(这就是为什么我把它命名为‘开放’AI)的非营利公司创建的,目的是与谷歌抗衡,但现在它已经成为一家闭源、利润最高的公司,实际上由微软控制。”
他签署了一封信,呼吁暂停开发人工智能的“危险竞赛”,他担心这将“对社会和人类构成深刻风险”,并可能产生“灾难性”影响。
OpenAI高管表示,他们相信负责任地创建和使用这些人工智能系统。
想要了解《每日星报》全球各地最新的突发新闻和故事,点击这里注册我们的时事通讯。