深爱激情网

你的位置:香蕉在线精品视频在线 > 深爱激情网 > 奶妈论坛 AI芯片新接触:ASIC登场,GPU失神


奶妈论坛 AI芯片新接触:ASIC登场,GPU失神

发布日期:2024-12-28 16:58    点击次数:155

奶妈论坛 AI芯片新接触:ASIC登场,GPU失神

AI芯片,终于不在是英伟达的独角戏点击收听本新闻听新闻

谈及AI芯片奶妈论坛,公众起先映入脑海的通常是GPU的身影。

GPU在教会和运行大AI模子方面一直占据主导地位,其坚硬的并行处理才调让它在处理复杂计算任务时鸿篇巨制。

可是由于一些原因,炙手可热的GPU正在濒临一些挑战与局限性,使其 “AI骄子” 的地位渐渐受到动摇。

01

风口上的GPU

对于GPU阛阓花式变动的原因,可归结为以下三大致素:

第少许,GPU已成为AI芯片界限竞争的核暴燥点。当今,英伟达所产出的GPU主要被各大科技巨头所把持。

近日,LessWrong网站上发表了一篇博客,字据公开数据对英伟达芯片的产量、各个AI巨头的GPU/TPU数目进行了测度。

其中微软当今领有75万至90万块H100 GPU,瞻望到2025年这一数字将飙升至250万至310万块。谷歌的发达相通强势,现阶段掌持了100万至150万块H100,来岁瞻望加多到350万至420万块。Meta领有55万至65万块GPU,瞻望将来一年将增长至190万至250万块。此外,亚马逊现时领有25万至40万块GPU,瞻望将在2025年达到130万至160万块。而新兴公司xAI也在飞速崛起,瞻望从10万块H100增长至55万至100万块。

这些数据充分响应出大型企业对AI算力的争夺已趋于尖锐化,尤其是微软和谷歌。

此外,Melius Research的分析师Ben Reitzes的阐明自满,这些巨头正在迥殊购买英伟达的GB200芯片,其中微软下单量在70万至140万块之间,谷歌为40万块,亚马逊则购买了36万块,OpenAI也不甘平定,至少领有40万块GB200芯片。

科技巨头包揽英伟达GPU的同期,径直导致了中袖珍企业在获取GPU资源上濒临严峻挑战。

第二点,GPU价钱的飙升使得这些科技巨头在采购芯霎时需要支付更高的成本。

据投行Raymond James的分析师测度,H100售价为2.5万至3万好意思元。 就算是价钱、订购数目齐按照区间的低端进行计算,微软也需要陡然卓越180亿好意思元用于购买GPU。

微软、亚马逊、谷歌等科技巨头正在全球范围内加速布局AI算力,以守护其阛阓竞争力。据报谈,这些公司在AI关联样式和数据中心上的投资已卓越400亿好意思元,并瞻望将来十年的支拨将达到1万亿好意思元。

在广博费钱的样式中,购买GPU就是各家确当务之急。

日前,埃隆·马斯克的东谈主工智能初创公司xAI依然向英伟达奏凯下单,订购了价值10.8亿好意思元的GB200 AI芯片,并凭借这笔多数来往取得了优先寄托的职权。

昂贵的售价让科技巨头们压力倍增,叫苦不迭。

第三点,从另一角度来看,即便科技巨头暂且将成自己分置于次要塞位,英伟达自己的供应不及状态仍使这些科技巨头忧心不已。

当今,英伟达的GPU把持了约80%的AI半导体,制造在台积电进行。在后续的经由中,会诳骗CoWoS进行封装,但是CoWoS的产量当今是一个瓶颈。

另外,在CoWoS中,GPU周围扬弃了多个HBM(高带宽内存),这些HBM是堆叠的DRAM,也被合计是瓶颈之一。

在产能不及、巨头哄抢、售价昂贵的布景下,万里长征广博企业启航点积极探寻英伟达 GPU 的替代品,试图破解AI芯片阛阓的一家独大的近况。

AMD首席实施官苏姿丰(Lisa Su)也在前不久默示,跟着行业将元气心灵长入于愈加表率化的模子策画,将有契机构建更多在可编程性和纯真性方面要求不那么高的定制芯片。这种芯片将愈加节能、体积更小、成本更低。

“当今,GPU是谣言语模子的首选架构,因为GPU在并行处理方面绝顶高效,但在可编程性方面有所欠缺,”苏姿丰说。“五年多后它还会是首选架构吗?我合计情况会发生变化。”

苏姿丰瞻望,五年或七年时期内GPU还不会失势,但会出现GPU除外的新势力。

那么,除了GPU,还有哪些类型的芯片能够胜任AI计算的任务呢?

02

AI芯片的另外两种主流取舍

在近两年的时期海浪中,另外两种芯片——FPGA与ASIC,也渐渐走进了群众的视线。

FPGA(Field Programmable Gate Array奶妈论坛,现场可编程门阵列),是一种半定制芯片。用户不错字据自身的需求进行肖似编程。FPGA 的优点是既惩处了定制电路的不及,又克服了原有可编程器件门电路数有限的污点,对芯片硬件层不错纯真编译,功耗小于 CPU、GPU;污点是硬件编程话语较难,征战门槛较高,芯片成本、价钱较高。FPGA 比 GPU、CPU 更快是因为其具有定制化的结构。

ASIC(Application Specific Integrated Circuit特定用途集成电路)字据居品的需求进行特定策画和制造的集成电路,其定制进程比拟于 GPU 和 FPGA 更高。ASIC 算力水平一般高于GPU、FPGA,但启动干涉大,专科性强缩减了其通用性,算法一朝窜改,计算才调会大幅下落,需要再行定制。

从成本角度看,GPU、FPGA、ASIC 三种硬件从左到右,从软件到硬件,通用性渐渐裁减、越专用,可定制化渐渐提高,相应的策画、征战成本渐渐提高,但是单元成本表面性能越高。

从运算速率来看,由于GPU架构固定,硬件原生营救的指示也固定。而FPGA和ASIC则是可编程的,因此,GPU的运算速率要比好意思于FPGA和ASIC。

从功耗和时延角度来看,GPU的功耗远精深于FPGA和ASIC。GPU时延也高于FPGA、ASIC。

FPGA与ASIC的适用场景也不尽商酌,就边际AI而言,FPGA照实展现出了更高的适用性;ASIC的主要上风在于其针对特定任务的高度优化,这时常会导致更高的性能和更低的功耗(在巨额分娩时),也正因此,在AI计算应用中,业内对于ASIC的呼声似乎要略高于FPGA。

03

多家机构,看好ASIC

12月,博通的定制ASIC和英伟达GPU引起无为辩论。

摩根士丹利12月15日发布研报《AI ASIC 2.0:潜在赢家》,合计ASIC凭借针对性优化和成本上风,有望迟缓从英伟达GPU手中争取更多阛阓份额。

跟着生成式AI应用的迅猛发展,全球AI计算需求呈现爆炸式增长。阐明瞻望,到2027年,云霄AI半导体阛阓范畴将达到2380亿好意思元,而在乐不雅情境下以致可能达到4050亿好意思元。

摩根士丹利瞻望,AI ASIC阛阓范畴将从2024年的120亿好意思元增长至2027年的300亿好意思元,年复合增长率达到34%。

尽管英伟达的AI GPU性能不凡,但摩根士丹利合计,云管事提供商如谷歌、亚马逊和微软,仍在积极推动ASIC策画。这背后的驱能源主要有两个。

起先,是优化里面职责负载。通过征战自界说芯片,CSP不错更高效地骄横其里面AI推理和教会需求。

其次,是更好的性价比。阐明指出,天然英伟达的GPU具备坚硬的计算性能,但其硬件价钱昂贵,迥殊是在AI教会过程中。比拟之下,ASIC的单元成本更低,尤其是在大范畴使用后。

巴克莱的另一份阐明则瞻望,AI推理计算需求将快速普及,瞻望其将占通用东谈主工智能合计算需求的70%以上,推理计算的需求以致不错卓越教会计算需求,达到后者的4.5倍。英伟达GPU当今在推理阛阓中市占率约80%,但跟着大型科技公司定制化ASIC芯片贬抑清楚,这一比例有望在2028年下落至50%傍边。

04

国外龙头,各自布局

博通,是AI阛阓的“新任骄子”

规矩12月13日收盘,好意思股又一家万亿好意思元市值芯片公司出身。今日博通股价大涨卓越24%,市值初次壅塞1万亿好意思元大关,也成为继英伟达和台积电之后,全球第三家市值过万亿好意思元的半导体行业公司。

博通股价大涨是在公司公布了好于预期财报之后。博通全年功绩自满,2024财年,全年营收达516亿好意思元,同比增长44%,其中AI和VMware两伟业务板块成为中枢增长引擎。

ASIC定制管事是博通半导体业务的一项紧迫收入开头,迥殊是在AI的驱动之下,博通来自与AI关联的ASIC定制管事营收正快速增长。

高中生自慰

博通CEO陈福阳在近日的财报电话会上预测称,当今的三大科技客户将在2027财年陡然600亿至900亿好意思元购买博通供应的东谈主工智能组件。

业界分析,博通ASIC芯片的大客户包括谷歌、Meta;近期阛阓讯息自满,苹果也有策划征战AI管事器芯片,融合方很有可能亦然博通。

不仅如斯,从好意思国当今对中国的禁售条件来看,ASIC芯片似乎恒久被排斥在外,博通也因此连续受益。

跟着博通为云计算厂约定制更多AI芯片,这些厂商可能减少对英伟达芯片的依赖,有阛阓投资者顾忌英伟达将来的芯片需求可能有所缓解。

Marvell受到追捧

与博通业务模子类似的Marvell也在近日受到老本阛阓追捧。

12月初,Marvell依然发布了2025财年第三财季财报,期内公司末端交易收入15.16亿好意思元,同比增长7%、环比增长19%。其中数据中心关联收入同比增长98%、环比增长25%,这是公司旗下总计业务中独一末端同比收入增长的业务类型。

Marvell总裁兼CEO Matt Murphy指出,这主要来自于AI定制化芯片需求复旧,此外还有云管事客户对于互联居品的连续性需求。瞻望这种趋势将延续到2026财年(约指2025公积年份)。

仅在12月,Marvell先是官宣与亚马逊云(AWS)扩大政策融合,晓喻一项为期五年、跨代际居品的融合策划,涵盖Marvell旗下定制AI芯片、DSP、数据中心互联光模块、以太网交换机惩处决策等多种类型,以营救AWS鼓吹在数据中心计算、集聚和存储等方面强化居品才调。不久还晓喻推出业界首款3nm高速(1.6Tbps)互联平台。

博通和Marvell有类似的产业定位,并不聚焦于GPU这类通用的大范畴并行计算芯片策画研发,而是更专注于匡助有芯片定制化需求的主流云管事厂商进行居品策画。这亦然ASIC芯片关联功绩高速成长的原因。

谷歌,自研TPU

Google 早在 2013 年就好意思妙研发专注 AI机器学习算法芯片,并用于云计算数据中心,取代英伟达 GPU。

这款TPU自研芯片2016年公开,为深度学习模子实施大范畴矩阵运算,如天然话语处理、计算机视觉和推选系统模子。Google 其果然 2020 年的而已中心便建构 AI 芯片 TPU v4,直到 2023 年 4 月才初次公开细节。

值得持重的是TPU是一种定制化的 ASIC 芯片,它由谷歌重新策画,并特意用于机器学习职责负载。

2023年12月6日,谷歌官宣了全新的多模态大模子Gemini,并丢出了另一个重磅炸弹——全新的自研芯片TPU v5p,它亦然迄今为止功能最坚硬的TPU。

随后在本年5月,谷歌又晓喻了第六代数据中心 AI 芯片 Tensor 处理器单元--Trillium。

据悉,除了英伟达所占据的80%阛阓,其余20%的绝大部分由多样版块的谷歌TPU所适度。谷歌自身不出售芯片,而是通过其云计算平台租用探问权限。

微软:推出基于Arm架构的通用型芯片Cobalt、ASIC芯片Maia 100

2023年11月,微软在Ignite时期大会上发布了首款自家研发的AI芯片Azure Maia 100,以及应用于云霄软件管事的芯片Azure Cobalt。两款芯片将由台积电代工,取舍5nm制程时期。

Cobalt是基于Arm架构的通用型芯片,具有128个中枢,Maia 100是一款专为 Azure 云管事和 AI 职责负载策画的 ASIC 芯片,用于云霄教会和推理的,晶体管数目达到1050亿个。这两款芯片将导入微软Azure数据中心,营救OpenAI、Copilot等管事。

认真Azure芯片部门的副总裁Rani Borkar默示,微软已启航点用Bing和Office AI居品测试Maia 100芯片,微软主要AI融合伙伴、ChatGPT征战商OpenAI,也在进行测试中。

不外,微软并不合计我方的 AI 芯片不错无为替代英伟达的居品。有分析合计,微软的这一烦闷若是奏凯的话,也有可能匡助它在将来与英伟达的谈判中更具上风。

除了前述几家公司,Meta等科技行业提醒者正积极加速自主研发芯片的治安。这些烦闷不仅限于ASIC界限,还包括FPGA和RISC-V等多个地点,旨在裁减对英伟达时期的依赖。

在科技行业中,不只单是这些头部企业有所行为。摩根士丹利在关联阐明里对全球 ASIC 供应链张开了梳理,而况详情了六大潜在的上风方:

ASIC供应商方面,除了博通,Alchip(世芯电子)和Socionext也被视为ASIC阛阓的后劲股。其中,Alchip由于与AWS的深度融合,瞻望将在2026年显耀普及阛阓份额。

电子策画自动化用具方面,Cadence有望末端结构性增长。

代工场方面,台积电绝顶供应链伙伴将从ASIC策画与制造的快速增长中受益。

测试管事方面,Advantest是AI芯片测试界限的起先者,其在AI设立测试方面的专注将为其带来显耀增长。

HBM方面,三星电子黑白英伟达HBM阛阓份额起先者,将从ASIC需求增长中获益。

05

苹果,屡试“新果”

本年7月,苹果公司发布iPhone AI的首个预览版,随后发布论文,称其东谈主工智能模子是在谷歌的TPU(张量处理单元)上教会的。论文中先容了为营救Apple Intelligence功能而征战的基础话语模子,包括一个策画用于在设立上高效运行的约30亿参数模子和一个基于特有云计算的云侧大模子。

近日,苹果公司在亚马逊的AWS Reinvent大会上又高调晓喻将使用亚马逊自家定制的AI芯片进行模子教会。字据苹果机器学习与东谈主工智能高等总监Benoit Dupin的说法,苹果正在评估亚马逊最新的Trainium2芯片,尤其是其在预教会“苹果智能”(Apple Intelligence)模子方面的后劲。

这一迹象标明,在教会顶端东谈主工智能方面,大型科技公司正在探索除英伟达GPU除外的其他替代决策。

弥远以来,东谈主工智能教会主要依赖于价钱昂贵的英伟达图形处理器。可是,云管事提供商与初创企业正积极研发成本更低的替代决策,并探索可能末端更高效处理的新路线。苹果取舍定制芯片的作念法奶妈论坛,大致在向其他企业传递一个信号:非英伟达的教会决策相通也能奏凯。



上一篇:宿舍 自慰 12月27日镇洋转债飞腾0.24%,转股溢价率38.81%
下一篇:海角社区 免费视频 格力电器董明珠谈退休: 我系数的股民皆不会让我退, 思让我退的东谈主不是股民, 更不是我的职工

Powered by 香蕉在线精品视频在线 @2013-2022 RSS地图 HTML地图

Copyright Powered by365站群 © 2013-2024