新闻中心

EEPW首页 > 消费电子 > 市场分析 > ​CPU 开始沦为配角

​CPU 开始沦为配角

作者:时间:2023-10-10来源:半导体产业纵横收藏

最近,财务长 DavidZinsner 表示,虽然数据中心芯片需求在过去两季有所好转,但库存消化将比电脑芯片更长,可能还要过几季才能达到较佳的状态。在这个 被炒的火热的时代,当说数据中心芯片的库存正在积压,出乎很多人的意料。

本文引用地址:http://www.amcfsurvey.com/article/202310/451318.htm

前所未有的压力

产业正同时经历「加速运算」和「生成式 」两大转变。据 Gartner 最新报告,2023 年全球用于 的硬件销售收入预计将达到 534 亿美元,按年增长 20.9%,这一销售还将在 2024 年进一步增长到 671 亿美元,在 2027 年进一步增长到 1194 亿美元。

今年,不少互联网公司纷纷开发自己的大模型。3 月,百度制作了类似 ChatGPT 的项目 ErnieBot;4 月,腾讯云发布了新的服务器集群,该集群可供其他人租用计算能力;阿里巴巴计划将所有产品插入大型语言模型,包括在线购物平台淘宝和地图工具高德地图。

据报道,目前百度、腾讯、阿里巴巴和字节跳动四家公司合计向英伟达订购了价值 50 亿美元的 AI 芯片。这些芯片包括英伟达 2023 年发货的 10 万块 A800 芯片,价值 10 亿美元,另外价值 40 亿美元的芯片将在 2024 年交付。

数据中心芯片风光一时无两。目前,数据中心领域有三大巨头:、英伟达、AMD。在数据中心 CPU 方面,根据 Counterpoint 数据,2022 年英特尔以 71% 的份额保持数据中心市场的领先地位,AMD 以 20% 的市场份额位居第二。

在数据中心 GPU 方面,英伟达不仅占有一席之地,甚至可以说几乎「垄断」。英伟达数据中心产品的客户主要来自云服务商和大型互联网公司,它们贡献了英伟达大约一半的数据中心收入。英伟达的 GPU 用于 ChatGPT 等人工智能应用程序背后大模型的训练和推理,目前科技公司对英伟达最高端的人工智能芯片 H100 的需求极大。

从今年的业绩来看,英伟达是毋庸置疑的收入暴涨,尤其是在数据中心领域,在英伟达公布的截至 7 月 30 日的季度财报中,英伟达数据中心业务收入增长 141% 至 103 亿美元,占其总收入比超过 76%。按照这种趋势,有分析师估计,到 2025 财年,英伟达的数据中心部门收入将扩大到 400 亿美元。

英伟达如此强势,其他两大巨头自然颇受影响。

AMD 对数据中心同时供应 CPU、GPU、FPGA、DPU 和 SoC,二季度 AMD 的数据中心业务下滑了。根据其财报数据,AMD 数据中心营收为 13.21 亿美元,同比下滑 11%。AMD 坦言,报告期内的 Epyc 处理器销售没有预期那么好,而且加大的研发支出也摊薄了利润率。

从二季度的业绩来看,英特尔数据中心和人工智能业务销售额从去年同期的 47 亿美元下降 15% 至 40 亿美元。英特尔首席执行官帕特·基辛格表示,服务器 CPU 的库存过剩将持续到今年下半年,数据中心芯片销售将在第三季度小幅下降,在第四季度恢复。

对于英特尔抱怨数据中心芯片库存积压,分析师陆行之表示:「库存难消耗有两种原因,一是产能利用率维持高档不坠、超过稳定需求,二是需求下降速度快过产能利用率下降速度。」他认为,英特尔在数据中心早已丧失话语权。依据预算的排挤效应,每买一台 AI 服务器,就少买几台通用服务器,即使功用不尽相同,但这趋势应该会持续数个季度,甚至数年。

一台 AI 服务器价格比通用服务器贵 20 倍以上,也因此客户无法大幅加码服务器采购预算,只能少买数台通用服务器。如果一台 AI 服务器使用两颗英特尔的 CPU,假设少买三台,那就少了 6 颗比较便宜的 CPU 需求,也就是为什么英特尔的 CPU 库存被积压。

实际上,不止陆行之认为英特尔在数据中心早已丧失话语权。Global X 分析师 Tejas Dessai 也认为,英特尔等对于 AI 着墨不深的传统芯片企业,恐面临市占率下滑窘境。也有业内人士表示,生成式 AI 改变了数据中心平台的战局,英特尔、AMD 正面临前所未有的压力。

CPU 开始沦为配角

今年的市场中,通用服务器和 AI 服务器需求出现了两极分化。

AI 服务器和通用服务器的差异是什么?实际上,比起通用服务器以 CPU 为主要算力,AI 服务器则是以 GPU 为主要架构,通过异质运算架构提高运算能力。目前依据应用的类型,AI 服务器可以分为训练和推理两种。

从前电脑、服务器最重要的零组件是 CPU,但随着需要大量运算能力的 AI 应用出现后,CPU 开始沦为配角,GPU 的时代开启了。

从目前 AI 服务器的市场来看,一张主板需要 1~8 个 GPU、1~2 个 CPU,以及 1 个 Arm Grace CPU,其中英伟达的 GPU 市场占有率超过 8 成,并以运算效能达 5 PetaFLOPS 的 DGX A100 和 H100 为 AI 服务器运算主力。

即使英伟达的 GPU 价格高昂,但是效率是远高于其他产品的。一起来算一笔账,假设建置数据中心预算为 1000 万美元,可以选择建置 1 座搭载 960 颗 CPU、电力消耗达 11GW 的数据中心,可提供 1 倍的大型语言模型 LLM 处理性能;但是选择建置 1 座有 48 颗 GPU、功耗仅需 3.2GW 的数据中心,且 LLM 资料处理量是 CPU 的 44 倍。

从综合成本收益来看,还是占优。更何况英伟达 GPU 在人工智能的推理和计算方面独具优势。因此一些财务实力不雄厚甚至负债累累的初创企业也在抢购英伟达芯片。这也就是为什么黄仁勋之前表示:买的越多,省的越多 (The more you buy,the more you save.)。

在 15 年前,黄仁勋就表示,CUDA 运算效果较 CPU 高出 10~100 倍。GPU 应用能力早已不亚于 CPU,甚至更胜一筹,自家 GPU 持续扩大生态系统(ecosystem),全新视觉运算世代即将来临。今年,黄仁勋更是直接说到:「尽管 CPU 过去几年运算速度不断提升,但进入 AI 时代后,以 CPU 为运算基础的时代已经结束,现在大型语言模型 (LLM) 需要更新的解决方案。」

业界分析师估计,AI 芯片市场有超过 8 成掌握在英伟达手里。在一篇名为《Nvidia H100 GPU:供需》文章中,深度剖析了当前科技公司们对 GPU 的使用情况和需求。文章推测,小型和大型云提供商的大规模 H100 集群容量即将耗尽,H100 的需求趋势至少会持续到 2024 年底。不过,目前英伟达 GPU 的产能受到供应链的限制,给英特尔和 AMD 反超的机会。

AI 趋势下,英特尔、AMD 能分到一杯羹吗?

英特尔不会放过 AI 发展的浪潮。今年英特尔在加州圣何塞举办 Innovation 2023 活动中,AI 是贯穿始终的主旋律。

演讲开篇,英特尔执行长帕特·基辛格便表示,AI 正在催生全球增长的新时代,在新时代当中,算力便起到了重要的作用,开发者正迎来巨大的商业和社会机会——算力离不开芯片,如今芯片形成了规模达 5740 亿美元的行业,驱动着全球背后约 8 万亿美元的技术经济。

数据中心方面,英特尔将数据中心芯片分为两类,包括着重效能但耗能更高的 Granite Rapids 芯片,以及聚焦能源效率的 Sierra Forest 芯片。目前英特尔新款数据中心芯片「Sierra Forest」已经预定明年上市,每瓦性能将比目前的数据中心芯片提高 240%。这是英特尔首次披露这类数据,对性能的提前披露,也能看出英特尔颇为着急。

看一下 Granite Rapids 和 Sierra Forest 这两款数据中心芯片的具体细节。Sierra Forest,它是英特尔首款用于数据中心的 E 核 Xeon 可扩展芯片,还是基于 EUV 的 Intel 3 工艺的主导产品。Granite Rapids 可将 AI 工作负载性能提升 2-3 倍,实现 2.8 倍的更好内存带宽,内存模组 MCR DIMM 带宽可提高 30-40%。

英特尔预估,在 AI 战场,还需要几年时间,应该就可以追上 NVIDIA 在高端 AI 相关的进展,除此之外,英特尔在 H 是具有高度优势,H 与 AI 未来是会汇聚,英特尔除了 AI 持续进展,HPC 更具有优势。

AMD 也在发力。AMD 也跟英特尔一样面临产品推出时机落后的问题,旗舰 AI 芯片 MI300 目前仅少量送样,要到明年才会上市。AMD 数据中心硬件部门主管诺罗德(Forrest Norrod)表示,ChatGPT 引爆的 AI 热潮是 AMD 始料未及的。

目前,AMD 已经将人工智能作为分配资源和投资的首要领域。AMD 正在增加 AI 相关的研发支出,并已经制定 AI 战略——包括 AI 专用芯片和软件的开发。

对标英伟达 AI 芯片 H100 的大模型专用芯片,AMD 的 MI300X 号称 HBM 密度高达英伟达 H100 的 2.4 倍,HBM 带宽高达 H100 的 1.6 倍,单个芯片可运行多达 800 亿参数的模型,可以运行比 H100 更大的模型。

也有市场机构看好 AMD,Northland 资本市场分析师理查(Gus Richard)预期,AMD 未来可望在 AI 芯片市场拿下 20%市占率。他认为除了 AMD 芯片表现不凡之外,AMD 与大型数据中心的合作关系也有利 AI 芯片销售。

值得注意的是,从晶圆代工的角度来看,数据中心芯片对高级节点的需求不断增加。AMD 在最近 5 年中崛起,并且在 PC、服务器领域能够威胁英特尔,其 2018 年宣布拥抱台积电 7nm 是个关键决定。而英伟达也一直和台积电关系紧密,尽管部分产品因分散风险、价格考量而转由三星代工,如先前的 RTX 30 系列,但面临三星制程技术落后下,最终 RTX 40 系列也回归台积电。

不管怎么说,在英特尔和 AMD 最新的数据中心芯片明年大量出货之前,英伟达的高端 GPU 没有抗打的对手。



关键词: PC 英特尔 AI

评论


相关推荐

技术专区

关闭