AI浪潮來(lái)襲，算力需求爆發(fā)。國(guó)內(nèi)AI服務(wù)器廠商和各類(lèi)芯片企業(yè)無(wú)不積極擁抱這場(chǎng)巨大變革。

(相關(guān)資料圖)

“單個(gè)GPU已經(jīng)無(wú)法跑Transformer、BERT、GPT這些大模型，需要幾百個(gè)甚至上千個(gè)GPU連在一起才能跑起來(lái)。”國(guó)數(shù)集聯(lián)創(chuàng)始人兼首席執(zhí)行官巍騖在接受第一財(cái)經(jīng)采訪時(shí)稱(chēng)，目前內(nèi)存容量快速增長(zhǎng)，GPU性能呈指數(shù)級(jí)增長(zhǎng)，但I(xiàn)/O（輸入/輸出）卻沒(méi)有跟上，成為AI算力提升瓶頸，導(dǎo)致GPU等未充分利用，造成資源浪費(fèi)，業(yè)界正試圖解決這一問(wèn)題。

中金公司也認(rèn)為，除了依靠單個(gè)GPU性能升級(jí)外，還需要高速的芯片互聯(lián)技術(shù)、系統(tǒng)互聯(lián)技術(shù)作為支撐，從而提升GPU算力的可擴(kuò)展性，形成強(qiáng)大的集群算力。

互聯(lián)接口芯片市場(chǎng)預(yù)計(jì)增至250億美元

隨著AIGC浪潮興起，AI服務(wù)器需求增長(zhǎng)，服務(wù)器內(nèi)部之間或與其他設(shè)備的數(shù)據(jù)傳輸、控制和管理等接口功能的要求也隨之增加。

市場(chǎng)調(diào)研機(jī)構(gòu)650 Group報(bào)告顯示，從2022年到2027年，全球數(shù)據(jù)中心的互聯(lián)接口芯片市場(chǎng)規(guī)模將翻番，達(dá)到250億美元。主要的驅(qū)動(dòng)力除了AI、機(jī)器學(xué)習(xí) (ML)，還包括數(shù)據(jù)分析、富媒體應(yīng)用和其他高性能分布式計(jì)算，以及不斷激增的邊緣側(cè)和物聯(lián)網(wǎng)設(shè)備向云端傳輸數(shù)據(jù)、使用云端服務(wù)。

中金公司表示，在高性能服務(wù)器強(qiáng)增長(zhǎng)的趨勢(shì)下，內(nèi)存接口芯片和PCIe接口芯片作為核心數(shù)據(jù)傳輸環(huán)節(jié)，有望加速升級(jí)迭代，量?jī)r(jià)齊升推動(dòng)市場(chǎng)顯著增長(zhǎng)。

內(nèi)存接口芯片是服務(wù)器內(nèi)存模組的核心邏輯器件，其連接CPU和DRAM，集成在內(nèi)存模組內(nèi)，能夠提升內(nèi)存數(shù)據(jù)訪問(wèn)的速度及穩(wěn)定性。美光預(yù)計(jì)到2025年，服務(wù)器DRAM需求相較2021年將實(shí)現(xiàn)2倍提升，而AI服務(wù)器DRAM容量將是普通服務(wù)器的8倍。

內(nèi)存模組市場(chǎng)正在由DDR4世代向DDR5世代迭代升級(jí)。目前DDR5內(nèi)存接口芯片的競(jìng)爭(zhēng)格局與DDR4世代類(lèi)似，全球由瀾起科技（688008.SH）、瑞薩電子和Rambus三家供應(yīng)商提供DDR5第一子代的量產(chǎn)產(chǎn)品。

其中，瀾起科技2022年?duì)款^制定DDR5第二子代、第三子代內(nèi)存接口芯片及第一子代高帶寬內(nèi)存接口芯片MDB等產(chǎn)品的國(guó)際標(biāo)準(zhǔn)，并積極參與DDR5第一子代CKD和DDR5內(nèi)存模組配套芯片標(biāo)準(zhǔn)制定。

PCIe是一種高速串行計(jì)算機(jī)擴(kuò)展總線標(biāo)準(zhǔn)，可實(shí)現(xiàn)高速串行點(diǎn)對(duì)點(diǎn)雙通道高帶寬傳輸。PCIe產(chǎn)業(yè)鏈主要以IP（DPU、GPU）接口、PCIe Retimer/Redriver、PCIe Switch形態(tài)存在，以及各種PCIe Bridge（比如NVME控制器）。

PCIe Switch芯片兼具連接和交換功能，可以提供擴(kuò)展能力，幫助CPU連接更多設(shè)備，實(shí)現(xiàn)PCIe設(shè)備互聯(lián)。華安證券表示，AI服務(wù)器內(nèi)日益增加的PCIe節(jié)點(diǎn)和復(fù)雜的網(wǎng)絡(luò)架構(gòu)需要更多PCIe Switch。市場(chǎng)調(diào)研機(jī)構(gòu)Transparency預(yù)測(cè)，2027年P(guān)CIe Switch全球市場(chǎng)規(guī)模將達(dá)到92億美元，2019-2027年復(fù)合增長(zhǎng)率（CAGR）達(dá)15% 中金公司認(rèn)為，在AI大算力需求下，PCIe Switch是數(shù)據(jù)中心低功耗、高性能解決方案核心一環(huán)。

由于技術(shù)壁壘極高，PCIe Switch芯片市場(chǎng)主要由博通、微芯科技和祥碩科技供應(yīng)，中國(guó)大陸在該領(lǐng)域還是空白。不過(guò)，除了這些傳統(tǒng)芯片廠商，AI行業(yè)巨頭英偉達(dá)，硅谷新興硬科技公司Astera Labs、Enfabrica以及中國(guó)大陸的國(guó)數(shù)集聯(lián)等也都將加入這一近百億美元的市場(chǎng)。據(jù)悉，Enfabrica創(chuàng)始團(tuán)隊(duì)主要來(lái)自博通、思科和谷歌，國(guó)數(shù)集聯(lián)創(chuàng)始團(tuán)隊(duì)來(lái)自阿里和思科。

下一代芯片互聯(lián)標(biāo)準(zhǔn)CXL或帶來(lái)新的可能性

由于AI和高性能計(jì)算需求激增，為了突破傳統(tǒng)PCIe帶寬限制造成的通信瓶頸，英偉達(dá)首創(chuàng)NVLink + NVSwitch技術(shù)，為多GPU系統(tǒng)提供更加快速的系統(tǒng)內(nèi)互聯(lián)解決方案。

2016年，英偉達(dá)發(fā)布了搭載NVLink的第一款產(chǎn)品Pascal GP100 GPU。NVLink主要用于GPU與GPU之間以及GPU與CPU之間的信息傳輸。借助NVSwitch，NVLink連接可在節(jié)點(diǎn)間擴(kuò)展以創(chuàng)建多節(jié)點(diǎn)GPU集群。通過(guò)NVLink + NVSwitch + InfiniBand和GPU，英偉達(dá)在高端的互聯(lián)市場(chǎng)筑牢競(jìng)爭(zhēng)壁壘，并牢牢掌握AI產(chǎn)業(yè)的話語(yǔ)權(quán)。

隨著技術(shù)迭代升級(jí)，CXL（Compute Express Link）的出現(xiàn)讓單一巨頭強(qiáng)大的生態(tài)控制出現(xiàn)了裂痕，芯片廠商、服務(wù)器廠商有機(jī)會(huì)借此進(jìn)入這一市場(chǎng)，提供擴(kuò)展性更好、性?xún)r(jià)比更有優(yōu)勢(shì)、功耗更低的硬件產(chǎn)品。

CXL標(biāo)準(zhǔn)2019年初由英特爾公司牽頭，多家國(guó)際知名公司共同推出，旨在提供CPU和專(zhuān)用加速器、高性能存儲(chǔ)系統(tǒng)之間的高效、高速、低延時(shí)接口，以滿足資源共享、內(nèi)存池化和高效運(yùn)算調(diào)度的需求。

作為下一代芯片互聯(lián)的標(biāo)準(zhǔn)，CXL主要解決服務(wù)器內(nèi)部芯片間高速互聯(lián)問(wèn)題。與二十年前PCIe總線標(biāo)準(zhǔn)發(fā)布創(chuàng)立模塊化和分工明確的服務(wù)器和個(gè)人電腦產(chǎn)業(yè)一樣，CXL標(biāo)準(zhǔn)的頒布將開(kāi)創(chuàng)連接為中心的異構(gòu)集群計(jì)算時(shí)代。

“傳統(tǒng)的PCIe相當(dāng)于高速公路，在上面走的是小轎車(chē)。隨著PCIe標(biāo)準(zhǔn)逐漸升級(jí)迭代，路的通道從兩車(chē)道到四車(chē)道到八車(chē)道。然而GPU算力越來(lái)越高，小車(chē)相當(dāng)于變成了大卡車(chē)。為了更快地運(yùn)輸，CXL相當(dāng)于在通道上鋪了國(guó)際標(biāo)準(zhǔn)的鐵軌，專(zhuān)門(mén)跑高鐵（GPU、內(nèi)存和其他高速芯片）。高鐵越來(lái)越多，就需要引入紅綠燈機(jī)制（Switch），防止相撞。如果紅綠燈算法擁有城市大腦能力，交換效率就會(huì)很高。”巍騖對(duì)第一財(cái)經(jīng)解釋稱(chēng)。

與英偉達(dá)采用NVLink專(zhuān)有接口解決方案不同，CXL是行業(yè)共同推出的標(biāo)準(zhǔn)。基于這一“國(guó)標(biāo)鐵軌”，博通、微芯科技躍躍欲試，希望復(fù)制“高速公路”時(shí)期的成功。Astera Labs、Enfabrica以及國(guó)數(shù)集聯(lián)也正利用CXL協(xié)議，基于傳統(tǒng)PCIe技術(shù)構(gòu)建下一代“紅綠燈”調(diào)度系統(tǒng)。此外，瀾起科技也是CXL聯(lián)盟的成員單位之一。

標(biāo)簽：