應(yīng)用

技術(shù)

物聯(lián)網(wǎng)世界 >> 物聯(lián)網(wǎng)新聞 >> 物聯(lián)網(wǎng)熱點(diǎn)新聞
企業(yè)注冊個人注冊登錄

消息稱亞馬遜第二代自研 AI 模型訓(xùn)練芯片 Trainium2 有望下月廣泛可用

2024-11-13 08:57 IT之家

導(dǎo)讀:亞馬遜有望于 12 月宣布其第二代自研 AI 模型訓(xùn)練芯片 Trainium2 的“廣泛可用”(widespread availability)。

  11 月 12 日消息,英媒《金融時報》當(dāng)?shù)貢r間今日表示,亞馬遜有望于 12 月宣布其第二代自研 AI 模型訓(xùn)練芯片 Trainium2 的“廣泛可用”(widespread availability)。

  Trainium2 芯片于去年末的 AWS 2023 re:Invent 全球大會上發(fā)布。亞馬遜表示與第一代產(chǎn)品相比該芯片訓(xùn)練速度提升多達(dá) 4 倍,能效提升多達(dá) 2 倍,內(nèi)存容量則達(dá)此前 3 倍,能在 EC2 UltraClusters 中擴(kuò)展至多達(dá) 10 萬個芯片,可以在極短的時間內(nèi)訓(xùn)練基礎(chǔ)模型和大語言模型。


image.png

▲ ES 版本 Trainium2 芯片原型

可見 Annapurna Labs 絲印

  Trainium2 芯片由亞馬遜在 2015 年以 3500 萬美元(IT之家備注:當(dāng)前約 2.53 億元人民幣)收購的芯片設(shè)計部門 Annapurna Labs 牽頭負(fù)責(zé),據(jù)悉已在接受包括 Anthropic、Databricks、Stockmark 三家 AI 創(chuàng)企以及德國電信、日本理光在內(nèi)的多個客戶的測試。

  除亞馬遜外,微軟、谷歌、Meta 等大型科技企業(yè)也在自行開發(fā)各類 AI 推理或訓(xùn)練芯片,以減少對于英偉達(dá)硬件方案的依賴。