應(yīng)用

技術(shù)

物聯(lián)網(wǎng)世界 >> 物聯(lián)網(wǎng)新聞 >> 物聯(lián)網(wǎng)熱點新聞
企業(yè)注冊個人注冊登錄

李開復(fù)旗下 AI 公司零一萬物宣布開源 Yi-9B 模型,號稱同系列代碼、數(shù)學(xué)能力最強(qiáng)

2024-03-07 09:07 IT之家
關(guān)鍵詞:AI開源Yi-9B模型

導(dǎo)讀:“零一萬物 01AI”官方公眾號發(fā)文宣布開源 Yi-9B 模型,官方稱其為 Yi 系列模型中的“理科狀元”——Yi-9B 是目前 Yi 系列模型中代碼和數(shù)學(xué)能力最強(qiáng)的模型

  3 月 6 日消息,“零一萬物 01AI”官方公眾號發(fā)文宣布開源 Yi-9B 模型,官方稱其為 Yi 系列模型中的“理科狀元”——Yi-9B 是目前 Yi 系列模型中代碼和數(shù)學(xué)能力最強(qiáng)的模型,實際參數(shù)為 8.8B,默認(rèn)上下文長度為 4K tokens。

image.png

  該模型是在 Yi-6B (使用了 3.1T tokens 訓(xùn)練)的基礎(chǔ)上,使用了 0.8T tokens 進(jìn)行繼續(xù)訓(xùn)練,數(shù)據(jù)截至 2023 年 6 月。

  據(jù)介紹,在綜合能力方面(Mean-All),Yi-9B 的性能“在尺寸相近的開源模型中最好”,超越了DeepSeek-Coder、DeepSeek-Math、Mistral-7B、SOLAR-10.7B 和 Gemma-7B。

  代碼能力方面(Mean-Code),Yi-9B 的性能僅次于 DeepSeek-Coder-7B,超越了Yi-34B、SOLAR-10.7B、Mistral-7B 和 Gemma-7B。

  在數(shù)學(xué)能力方面(Mean-Math),Yi-9B 的性能僅次于 DeepSeek-Math-7B,超越了SOLAR-10.7B、Mistral-7B 和 Gemma-7B。

  在常識和推理能力方面(Mean-Text),Yi-9B 的性能與 Mistral-7B、SOLAR-10.7B 和 Gemma-7B不相上下。

  官方更稱,Yi-9B(BF 16) 和其量化版 Yi-9B(Int8)都能在消費級顯卡上輕松部署,使用成本較低,開發(fā)者友好。

image.png

  據(jù)IT之家此前報道,該公司由李開復(fù)創(chuàng)新工場董事長兼CEO帶隊創(chuàng)辦,此前已已推出Yi-34B和Yi-6B兩個開源大模型,號稱對學(xué)術(shù)研究完全開放,同步開放免費商用申請。

image.png