二维码
钻机之家

扫一扫关注

当前位置: 首页 » 新闻资讯 » 热点资讯 » 正文

在Meta追赶AI的过程中

放大字体  缩小字体 发布日期:2024-03-25 16:03:03    来源:本站    作者:admin    浏览次数:82    评论:0

  

  

  路透社看到的一份日期为9月20日的公司备忘录显示,随着2022年夏天的结束,meta首席执行官马克·扎克伯格召集了他的高级副手,对公司的计算能力进行了5个小时的分析,重点是公司在尖端人工智能工作方面的能力。

  他们遇到了一个棘手的问题:尽管在人工智能研究方面投入了大量资金,但这家社交媒体巨头在其主要业务中采用昂贵的人工智能友好硬件和软件系统方面进展缓慢,这阻碍了其跟上大规模创新步伐的能力,尽管它越来越依赖人工智能来支持自己的增长,根据备忘录、公司声明和对12名熟悉这些变化的人士的采访,这些人在讨论公司内部事务时要求匿名。

  “在人工智能开发方面,我们在工具、工作流程和流程方面存在很大差距。我们需要在这里进行大量投资。”这份备忘录由新任基础设施主管Santosh Janardhan撰写,于9月份发布在meta的内部留言板上,现在首次被报道出来。

  支持人工智能工作需要meta“从根本上改变我们的物理基础设施设计、软件系统和提供稳定平台的方法,”它补充说。

  一年多来,meta一直致力于一个庞大的项目,以完善其人工智能基础设施。虽然该公司公开承认在人工智能硬件趋势上“有一点追赶”,但此次大修的细节——包括产能紧张、领导层变动和废弃的人工智能芯片项目——此前从未被报道过。

  当被问及这份备忘录和重组时,meta发言人乔恩·卡维尔(Jon Carvill)表示,该公司“在大规模创建和部署最先进的基础设施方面有着良好的记录,并结合了人工智能研究和工程方面的深厚专业知识。”

  卡维尔表示:“我们有信心继续扩大基础设施的能力,以满足我们的短期和长期需求,同时为我们的应用程序和消费产品系列带来新的人工智能体验。”他拒绝评论meta是否放弃了其人工智能芯片。

  贾纳尔丹和其他高管没有同意通过该公司进行采访的请求。

  根据公司披露的信息,此次大修使meta每季度的资本支出增加了约40亿美元——截至2021年,其支出几乎翻了一番——并导致该公司暂停或取消了此前计划在四个地点建设数据中心的计划。

  这些投资正值meta陷入严重的财务紧缩时期。自去年11月以来,该公司一直在裁员,裁员规模之大是互联网泡沫破灭以来从未见过的。

  与此同时,微软支持的OpenAI的ChatGPT在11月30日首次亮相后,迅速成为历史上增长最快的消费者应用程序,引发了科技巨头之间的军备竞赛,纷纷发布使用所谓的生成式人工智能的产品,这种人工智能除了像其他人工智能一样识别数据中的模式外,还能根据提示创建类似人类的书面和视觉内容。

  其中五位消息人士表示,生成式人工智能吞噬了大量的计算能力,放大了meta能力争夺的紧迫性。

  落后

  这五位消息人士表示,问题的一个关键根源可以追溯到meta姗姗来迟地采用图形处理单元(GPU)来进行人工智能工作。

  GPU芯片非常适合人工智能处理,因为它们可以同时执行大量任务,减少了处理数十亿条数据所需的时间。

  不过,消息人士说,gpu也比其他芯片更昂贵,芯片制造商英伟达(Nvidia Corp.)控制着80%的市场份额,并在配套软件方面保持着绝对领先地位。

  英伟达没有回应记者的置评请求。

  相反,直到去年,meta主要使用该公司的商用中央处理器(cpu)来运行人工智能工作负载,cpu是计算世界的主力芯片,几十年来一直占据着数据中心,但在人工智能工作上表现不佳。

  据其中两名消息人士透露,该公司还开始使用自己内部设计的定制芯片进行推理,这是一种人工智能过程,在这种过程中,经过大量数据训练的算法会做出判断,并对提示做出反应。

  这两位知情人士说,到2021年,这种双管齐下的方法被证明比围绕gpu构建的方法更慢、效率更低,而gpu在运行不同类型的模型时也比meta的芯片更灵活。

  meta拒绝就其人工智能芯片的表现置评。

  其中四名消息人士称,随着扎克伯格将公司转向虚拟世界——一个由增强现实和虚拟现实实现的数字世界——其容量短缺正在减缓其部署人工智能应对威胁的能力,比如社交媒体竞争对手TikTok的崛起和苹果主导的广告隐私变化。

  这些失误引起了前meta董事会成员彼得·蒂尔的注意,他于2022年初辞职,没有任何解释。

  据两名知情人士透露,在离开前的一次董事会会议上,蒂尔告诉扎克伯格和他的高管们,他们对meta的核心社交媒体业务感到自满,而过于关注虚拟世界,他说这让公司容易受到来自TikTok的挑战。

  meta拒绝就此次谈话置评。

  追赶

  一位消息人士称,在取消了计划于2022年大规模推出meta定制推理芯片的计划后,高管们转而改变了路线,并在当年订购了价值数十亿美元的英伟达gpu。

  meta拒绝就该命令置评。

  到那时,meta已经落后于谷歌等同行好几步了,谷歌在2015年开始部署自己的定制版gpu,称为TPU。

  高管们还在那年春天着手重组meta的人工智能部门,在此过程中任命了两位新的工程主管,其中包括9月份备忘录的作者贾纳尔丹。

  根据他们在领英(linkedIn)上的个人资料和一位熟悉离职情况的消息人士,在长达数月的动荡中,有十几名高管离开了meta,这几乎是人工智能基础设施领导层的大规模变化。

  meta接下来开始重组其数据中心,以适应即将到来的gpu,这些gpu比cpu消耗更多的能量和产生更多的热量,并且必须通过专门的网络紧密地聚集在一起。

  根据Janardhan的备忘录和四位熟悉该项目的消息人士的说法,这些设施需要24到32倍的网络容量和新的液体冷却系统来管理集群的热量,需要“完全重新设计”,这些细节此前尚未披露。

  随着工作的进行,meta制定了内部计划,开始开发一种新的、更雄心勃勃的内部芯片,就像GPU一样,既能训练人工智能模型,又能执行推理。两名消息人士称,该项目之前没有报道过,预计将于2025年左右完工。

  meta发言人卡维尔表示,在向新设计过渡期间暂停的数据中心建设将在今年晚些时候恢复。他拒绝就芯片项目置评。

  权衡

  虽然扩大了GPU的容量,但目前meta几乎没有什么可以展示的,因为微软(Microsoft)和谷歌(Google)等竞争对手正在推动商业生成人工智能产品的公开发布。

  首席财务官李昕晢(Susan Li)在2月份承认,meta并没有将目前的计算投入到生成工作中,她说“基本上我们所有的人工智能能力都用于广告、feed和Reels”,这是一种类似tiktok的短视频格式,在年轻用户中很受欢迎。

  根据其中四位消息人士的说法,直到去年11月ChatGPT推出之后,meta才优先考虑构建生成式人工智能产品。他们表示,尽管其研究实验室FAIR (Facebook AI research)自2021年底以来一直在发布该技术的原型,但该公司并未专注于将其备受推崇的研究成果转化为产品。

  随着投资者兴趣的高涨,这种情况正在改变。今年2月,扎克伯格宣布成立一个新的顶级生成人工智能团队,他说这将“加速”公司在该领域的工作。

  首席技术官安德鲁·博斯沃思本月也表示,生成式人工智能是他和扎克伯格花时间最多的领域,他预测meta将在今年发布一款产品。

  两名熟悉新团队的人士表示,他们的工作还处于早期阶段,重点是建立一个基础模型,这是一个核心程序,以后可以对其进行微调,适应不同的产品。

  meta发言人卡维尔(Carvill)表示,该公司在一年多的时间里一直在用不同的团队开发生成式人工智能产品。他证实,在ChatGPT到来后的几个月里,这项工作已经加快了。

 
(文/admin)
打赏
免责声明
• 
部分文章来源于网络,我们均标明出处,如果您不希望我们展现您的文章,请与我们联系,我们会尽快处理。
0相关评论
 

(c)2023-2023 www.114me.cn All Rights Reserved

渝ICP备2024019187号-1