導讀: AMD專為AI及高性能計算(HPC)開發(fā)的Instinct MI300X芯片在外界引領期盼之下,終于在近日正式交貨。
AMD專為AI及高性能計算(HPC)開發(fā)的Instinct MI300X芯片在外界引領期盼之下,終于在近日正式交貨。長期與AMD合作的AI服務廠商LaminiAI表示,近日已收到多臺內置8個MI300X芯片的運算設備。
AMD Instinct MI300系列產品自2023年就開始出貨,且AMD宣稱該系列可望成為公司史上營收最快破10億美元的產品系列,但號稱性能勝過英偉達H100芯片的MI300X遲遲未出貨,這回是第一次有客戶證實MI300X開始大量出貨,象征AMD終于達成重要里程碑。
LaminiAI專門訓練商用大規(guī)模語言模型,因此向AMD采購多臺內置8個MI300X芯片的運算設備。
LaminiAI CEO曬出圖片表示,第一批AMD MI300X芯片正在運算中。內置8個MI300X芯片的設備已經上線,就像剛出爐的面包一樣新鮮。LaminiAI新一批大語言模型已經上線。
AMD先前推出的MI300A芯片已經是數(shù)據(jù)中心等級,內置x86 CPU及GPU,并采用支持AI運算的CDNA 3架構。MI300X雖然沒內置CPU,但CDNA 3芯片數(shù)量更多,共有304個運算單元,遠勝MI300A的228個運算單元。
MI300X被視為AMD對抗英偉達H100芯片的最佳武器,因為MI300X內置HBM3 192GB內存,勝過H100的HBM3 80GB內存,且MI300X內存帶寬高達每秒5.2TB,反觀H100內存帶寬每秒3.35TB。業(yè)界人士甚至認為MI300X足以和英偉達即將推出的H200 141GB GPU抗衡。
在客戶方面,微軟和Meta已采購大量的MI300系列,LaminiAI則是首個公開采用MI300X的客戶。