應(yīng)用

技術(shù)

物聯(lián)網(wǎng)世界 >> 物聯(lián)網(wǎng)新聞 >> 物聯(lián)網(wǎng)熱點(diǎn)新聞
企業(yè)注冊(cè)個(gè)人注冊(cè)登錄

AMD里程碑:高端AI芯片Instinct MI300X正式出貨

2024-01-24 09:30 工商時(shí)報(bào)
關(guān)鍵詞:AI芯片

導(dǎo)讀: AMD專為AI及高性能計(jì)算(HPC)開發(fā)的Instinct MI300X芯片在外界引領(lǐng)期盼之下,終于在近日正式交貨。

  AMD專為AI及高性能計(jì)算(HPC)開發(fā)的Instinct MI300X芯片在外界引領(lǐng)期盼之下,終于在近日正式交貨。長(zhǎng)期與AMD合作的AI服務(wù)廠商LaminiAI表示,近日已收到多臺(tái)內(nèi)置8個(gè)MI300X芯片的運(yùn)算設(shè)備。

  AMD Instinct MI300系列產(chǎn)品自2023年就開始出貨,且AMD宣稱該系列可望成為公司史上營(yíng)收最快破10億美元的產(chǎn)品系列,但號(hào)稱性能勝過英偉達(dá)H100芯片的MI300X遲遲未出貨,這回是第一次有客戶證實(shí)MI300X開始大量出貨,象征AMD終于達(dá)成重要里程碑。

  LaminiAI專門訓(xùn)練商用大規(guī)模語言模型,因此向AMD采購(gòu)多臺(tái)內(nèi)置8個(gè)MI300X芯片的運(yùn)算設(shè)備。

  LaminiAI CEO曬出圖片表示,第一批AMD MI300X芯片正在運(yùn)算中。內(nèi)置8個(gè)MI300X芯片的設(shè)備已經(jīng)上線,就像剛出爐的面包一樣新鮮。LaminiAI新一批大語言模型已經(jīng)上線。

  AMD先前推出的MI300A芯片已經(jīng)是數(shù)據(jù)中心等級(jí),內(nèi)置x86 CPU及GPU,并采用支持AI運(yùn)算的CDNA 3架構(gòu)。MI300X雖然沒內(nèi)置CPU,但CDNA 3芯片數(shù)量更多,共有304個(gè)運(yùn)算單元,遠(yuǎn)勝M(fèi)I300A的228個(gè)運(yùn)算單元。

  MI300X被視為AMD對(duì)抗英偉達(dá)H100芯片的最佳武器,因?yàn)镸I300X內(nèi)置HBM3 192GB內(nèi)存,勝過H100的HBM3 80GB內(nèi)存,且MI300X內(nèi)存帶寬高達(dá)每秒5.2TB,反觀H100內(nèi)存帶寬每秒3.35TB。業(yè)界人士甚至認(rèn)為MI300X足以和英偉達(dá)即將推出的H200 141GB GPU抗衡。

  在客戶方面,微軟和Meta已采購(gòu)大量的MI300系列,LaminiAI則是首個(gè)公開采用MI300X的客戶。