應(yīng)用

技術(shù)

物聯(lián)網(wǎng)世界 >> 物聯(lián)網(wǎng)新聞 >> 物聯(lián)網(wǎng)熱點(diǎn)新聞
企業(yè)注冊個人注冊登錄

AMD里程碑:高端AI芯片Instinct MI300X正式出貨

2024-01-24 09:30 工商時報
關(guān)鍵詞:AI芯片

導(dǎo)讀: AMD專為AI及高性能計算(HPC)開發(fā)的Instinct MI300X芯片在外界引領(lǐng)期盼之下,終于在近日正式交貨。

  AMD專為AI及高性能計算(HPC)開發(fā)的Instinct MI300X芯片在外界引領(lǐng)期盼之下,終于在近日正式交貨。長期與AMD合作的AI服務(wù)廠商LaminiAI表示,近日已收到多臺內(nèi)置8個MI300X芯片的運(yùn)算設(shè)備。

  AMD Instinct MI300系列產(chǎn)品自2023年就開始出貨,且AMD宣稱該系列可望成為公司史上營收最快破10億美元的產(chǎn)品系列,但號稱性能勝過英偉達(dá)H100芯片的MI300X遲遲未出貨,這回是第一次有客戶證實(shí)MI300X開始大量出貨,象征AMD終于達(dá)成重要里程碑。

  LaminiAI專門訓(xùn)練商用大規(guī)模語言模型,因此向AMD采購多臺內(nèi)置8個MI300X芯片的運(yùn)算設(shè)備。

  LaminiAI CEO曬出圖片表示,第一批AMD MI300X芯片正在運(yùn)算中。內(nèi)置8個MI300X芯片的設(shè)備已經(jīng)上線,就像剛出爐的面包一樣新鮮。LaminiAI新一批大語言模型已經(jīng)上線。

  AMD先前推出的MI300A芯片已經(jīng)是數(shù)據(jù)中心等級,內(nèi)置x86 CPU及GPU,并采用支持AI運(yùn)算的CDNA 3架構(gòu)。MI300X雖然沒內(nèi)置CPU,但CDNA 3芯片數(shù)量更多,共有304個運(yùn)算單元,遠(yuǎn)勝M(fèi)I300A的228個運(yùn)算單元。

  MI300X被視為AMD對抗英偉達(dá)H100芯片的最佳武器,因為MI300X內(nèi)置HBM3 192GB內(nèi)存,勝過H100的HBM3 80GB內(nèi)存,且MI300X內(nèi)存帶寬高達(dá)每秒5.2TB,反觀H100內(nèi)存帶寬每秒3.35TB。業(yè)界人士甚至認(rèn)為MI300X足以和英偉達(dá)即將推出的H200 141GB GPU抗衡。

  在客戶方面,微軟和Meta已采購大量的MI300系列,LaminiAI則是首個公開采用MI300X的客戶。