應(yīng)用

技術(shù)

物聯(lián)網(wǎng)世界 >> 物聯(lián)網(wǎng)新聞 >> 物聯(lián)網(wǎng)熱點(diǎn)新聞
企業(yè)注冊(cè)個(gè)人注冊(cè)登錄

騰訊發(fā)布新一代大模型“混元 Turbo”:推理效率提升 100%,成本降低 50%

2024-09-06 09:01 IT之家

導(dǎo)讀:在 2024 騰訊全球數(shù)字生態(tài)大會(huì)上,騰訊正式發(fā)布新一代大模型 ——騰訊混元 Turbo。該模型采用 MoE 架構(gòu),比上一代產(chǎn)品推理效率提升 100%,推理成本降低 50%。

  9 月 5 日消息,在 2024 騰訊全球數(shù)字生態(tài)大會(huì)上,騰訊正式發(fā)布新一代大模型 ——騰訊混元 Turbo

  據(jù)騰訊官方介紹,該模型采用 MoE 架構(gòu),比上一代產(chǎn)品推理效率提升 100%,推理成本降低 50%。

  對(duì)外,騰訊混元 Turbo 的價(jià)格也比混元 Pro 降低 50%,輸出價(jià)格為 0.05 元 / 千 tokens,輸入價(jià)格為 0.015 元 / 千 tokens。

  9 月 2 日,中文大模型測(cè)評(píng)基準(zhǔn) SuperCLUE 發(fā)布《中文大模型基準(zhǔn)測(cè)評(píng) 2024 年 8 月報(bào)告》,IT之家查詢獲悉,混元新一代大語言模型預(yù)覽版(Turbo-Preview)在理科、文科均居于第一名。Hard 任務(wù)上騰訊混元 Turbo-Preview 取得 74.33 分,是國(guó)內(nèi)唯一超過 70 分的大模型,與 ChatGPT-4o 有微小差距。

image.png

image.png

  目前騰訊內(nèi)部近 700 個(gè)業(yè)務(wù)及場(chǎng)景已接入,包含騰訊元寶、騰訊云、QQ、微信讀書、騰訊新聞、騰訊客服等。此前,騰訊旗下協(xié)作 SaaS(軟件即服務(wù))產(chǎn)品全面接入騰訊混元大模型。

  騰訊混元的云上版本包括 Turbo、Pro、Standard、Lite 等多個(gè)版本;在專屬模型上開放了代碼生成、角色扮演、Functioncall 等。