應(yīng)用

技術(shù)

物聯(lián)網(wǎng)世界 >> 物聯(lián)網(wǎng)新聞 >> 物聯(lián)網(wǎng)熱點新聞
企業(yè)注冊個人注冊登錄

顛覆性創(chuàng)新!云天勵飛「深目」AI模盒開啟千元級大模型應(yīng)用新紀(jì)元

2024-04-01 09:10 視覺物聯(lián)
關(guān)鍵詞:云天勵飛深目AI模盒

導(dǎo)讀:云天勵飛舉辦AI大模型產(chǎn)品發(fā)布會,正式發(fā)布“深目”AI模盒。

  3月28日,備受矚目的小米汽車發(fā)布會如期而至,小米SU7正驚艷亮相,21.59萬元的起售價,讓雷軍獲得了“雷神”的新稱號。

  而在同一天里,“深圳AI第一股”云天勵飛也邁出了革命性的一步,打響了大模型【平民化】的第一槍。

  28日,云天勵飛舉辦AI大模型產(chǎn)品發(fā)布會,正式發(fā)布“深目”AI模盒。據(jù)了解,該產(chǎn)品能夠做到“3個90%”:覆蓋場景超過90%、算法精度超過90%,使用成本降低90%,解決大模型在場景落地最后一公里的問題,幫助更多中小企業(yè)客戶輕松使用大模型。

image.png

  圖源:云天勵飛

  在過去的這一年多里,AI大模型發(fā)展如火如荼,在全球范圍內(nèi)掀起了一場AI技術(shù)“狂飆”新浪潮,更廣范圍、更深層次地影響著人們的經(jīng)濟(jì)發(fā)展和生產(chǎn)生活方式變革。

  發(fā)布會上,云天勵飛董事長兼CEO陳寧博士提到:“未來3年,全球80%的企業(yè)都將使用大模型。”

  然而,隨著這一革命性機(jī)遇的降臨,行業(yè)也同樣遭遇著大模型發(fā)展初期所面臨的多重挑戰(zhàn)。其中,最顯而易見的挑戰(zhàn)就是訓(xùn)練大模型的成本問題。訓(xùn)練專屬大模型需要消耗大量的算力,資金投入達(dá)到了成百上千萬級,而這筆高昂的投入是絕大多數(shù)企業(yè)難以承擔(dān)的。

  在這場AI大模型技術(shù)的盛宴中,如何才能真正地把AI普惠化落地到實處?

  于是,為了能夠讓大模型“平民化”,成為人人都可用的產(chǎn)品,云天勵飛推出了“深目”AI模盒。

  據(jù)了解,這款售價在千元級、用單手就能托起的“深目”AI模盒,搭載了云天勵飛自研大模型邊緣訓(xùn)推芯片DeepEdge10 Max和自研多模態(tài)大模型“云天天書”,具備算法邊緣側(cè)在線學(xué)習(xí)能力的,能夠做到“3個90%”,讓人人都能夠根據(jù)自身場景需求,利用大模型能力,訓(xùn)練出可實戰(zhàn)應(yīng)用的算法,讓大模型唾手可得。

  而之所以能夠?qū)崿F(xiàn)3個90%,關(guān)鍵還在于云天勵飛的核心能力——“算法芯片化”。為了把大模型變“小”,云天勵飛用時一年進(jìn)行了兩大技術(shù)攻關(guān),一是自研大模型推理芯片DeepEdge10;二是自研多模態(tài)大模型“云天天書”

  “深目”AI模盒的算力基礎(chǔ),來源于2023年云天勵飛推出的14nm Chiplet大模型訓(xùn)推芯片DeepEdge10 Max。據(jù)悉,該芯片采用了自主可控的國產(chǎn)工藝,內(nèi)含國產(chǎn)RISC-V核,支持大模型推理部署。依托自研芯片DeepEdge10創(chuàng)新的D2D chiplet架構(gòu)打造的推理平臺,已適配并可承載SAM CV大模型、Llama2等百億級大模型運算,可廣泛應(yīng)用于AloT邊緣視頻、移動機(jī)器人等場景。

  “深目”AI模盒的大模型能力,則來源于云天勵飛自主研發(fā)的多模態(tài)大橫型“云天天書”。云天天書大模型包含語言大模型、多模態(tài)大模型等不同系列,在C-Eval、CMMLU等權(quán)威測試中多次獲得第一,并于去年正式通過中央網(wǎng)信辦備案。云天天書1.0版本于2023年初正式推出,至今已完成3個版本的迭代,預(yù)計今年6月將迭代4.0 V版本。

  以云天天書為底座,云天勵飛能夠與生態(tài)合作伙伴完成預(yù)訓(xùn)練場景算法,再將預(yù)訓(xùn)練算法提供給廣大中小企業(yè)用戶,中小企業(yè)客戶可根據(jù)自身場景需求,在邊緣端完成算法微調(diào)。由于大模型具備泛化和學(xué)習(xí)的能力,客戶部署算法后,大模型還能夠不斷根據(jù)現(xiàn)實應(yīng)用場景情況,在線學(xué)習(xí)、優(yōu)化算法,不斷提升算法精度。

  “深目”AI模盒不僅僅是“壓縮”了大模型和芯片能力的一款全新產(chǎn)品,更是把云天勵飛大模型通過算法芯片化能力平臺“硬件化”的一次重要嘗試。把復(fù)雜的技術(shù)通過簡單的產(chǎn)品提供給用戶,讓用戶可以零學(xué)習(xí)成本,快速訓(xùn)練出自己需要的算法。

  從2014年成立至今,云天勵飛一直堅持將AI技術(shù)與物理世界相結(jié)合,這也是云天勵飛從成立之初自研芯片的重要原因。芯片是AI與物理世界的連接器,AI通過芯片為實體賦能,物理世界的數(shù)據(jù)又通過芯片反哺AI,推動AI進(jìn)步發(fā)展。

  陳寧博士表示,“AI商業(yè)化發(fā)展有三個階段:AI方案化、AI運營化、AI產(chǎn)品化

  在AI方案化階段,AI企業(yè)主要通過項目制滿足不同垂直領(lǐng)域客戶需求,通過不斷積累行業(yè)認(rèn)知和數(shù)據(jù),AI技術(shù)實力不斷增強(qiáng),并形成具備越來越強(qiáng)的泛化能力AI平臺,企業(yè)也得以開啟AI運營業(yè)務(wù)。而最終,所有的技術(shù)都需要通過物理實體賦能,因此AI最終必須走向產(chǎn)品化。

  圖源:云天勵飛

  云天勵飛業(yè)務(wù)發(fā)展路徑也沿著這條路徑展開。在AI方案化方面,云天勵飛在警務(wù)、城市治理、智慧交通、人居生活等領(lǐng)域打造諸多標(biāo)桿項目,并且在低空經(jīng)濟(jì)、智慧教育等創(chuàng)新領(lǐng)域持續(xù)展開探索?;谠诖罅啃袠I(yè)的落地經(jīng)驗,云天勵飛已形成數(shù)據(jù)運營、新能源運營平臺,走向AI運營化。如今,云天勵飛還逐步走向AI產(chǎn)品化。

  去年,云天勵飛與華為昇騰聯(lián)合推出天舟大模型訓(xùn)推一體機(jī);如今又推出面向邊緣訓(xùn)推場景的“深目”AI模盒。此外,云天勵飛還通過資本紐帶,進(jìn)軍智能穿戴和機(jī)器人等硬件領(lǐng)域,形成日益完善的大模型產(chǎn)品體系。

  總之,從AI方案化、AI運營化再到AI產(chǎn)品化,云天勵飛一直在致力于做物理世界的“解碼者”,通過算法芯片化的能力,為“無形”的技術(shù)和“有形”的世界構(gòu)建通道,讓AI不僅僅是一個在虛擬世界的工具,而是轉(zhuǎn)化為物理世界的生產(chǎn)力。

image.png

來源:云天勵飛

  想了解更多行業(yè)動態(tài)以及行業(yè)最新、最前沿的產(chǎn)品、技術(shù)與解決方案,那就來參加4月24-26日IOTE 2024第二十一屆國際物聯(lián)網(wǎng)展·上海站。這里匯聚全球超300+家參展企業(yè)、3萬+多元領(lǐng)域的專業(yè)集成商、終端用戶,不僅能提供行業(yè)最前沿的產(chǎn)品信息,也為業(yè)內(nèi)人士提供了交流合作的機(jī)會,能夠享受高效、精準(zhǔn)的資源對接。同時,展會也開設(shè)了RFID、高精度定位、智慧康養(yǎng)、智慧工廠、智慧能源、智慧建筑園區(qū)、智慧應(yīng)急與減災(zāi)等多個技術(shù)與應(yīng)用領(lǐng)域論壇。識別下方二維碼,即可報名觀展!

image.png

  識別上方二維碼,即可報名觀展!