云天勵飛正式發(fā)布“深目”AI模盒，讓大模型應(yīng)用平民化

3月28日，云天勵飛舉辦AI大模型產(chǎn)品發(fā)布會，正式發(fā)布“深目”AI模盒。該產(chǎn)品能夠做到“3個90%”——覆蓋場景超過90%、算法精度超過90%，使用成本降低90%，解決大模型在場景落地最后一公里的問題，幫助更多中小企業(yè)客戶輕松使用大模型。

會上，云天勵飛還與鵬城實驗室、之江實驗室、中國電子、華為、華潤數(shù)科等單位成立“深目2.0”生態(tài)聯(lián)盟，共同探索更多大模型落地應(yīng)用路徑。

值得一提的是，云天勵飛還宣布“云天天書-2.0-68B”版本免費向合作伙伴開放；即日起預(yù)訂“深目”AI模盒，即有機會獲得邀約測試的機會。

千元級成本，即可擁有專屬大模型

從ChatGPT到Sora，從文生文、文生圖像到文生視頻，大模型發(fā)展日新月異，持續(xù)給行業(yè)帶來驚喜，不僅國內(nèi)掀起“百模大戰(zhàn)”，國外科技巨頭也在大模型上相互較勁。大模型的能力在不斷進化，引發(fā)新一輪的AI變革。

云天勵飛董事長兼CEO陳寧博士在發(fā)布會上提到：未來3年，全球80%的企業(yè)都將使用大模型。但是，要訓(xùn)練專屬大模型，不僅需要大算力、大數(shù)據(jù)，還需要大量頂尖人才。大模型一次訓(xùn)練成本在千萬級，主流的訓(xùn)推一體機價格普遍在百萬元，絕大多數(shù)企業(yè)都無法承擔這樣高昂的成本。

為了能夠讓大模型“平民化”，成為人人都可用的產(chǎn)品，云天勵飛推出了“深目”AI模盒。

這款產(chǎn)品售價在千元級，用單手就能托起，搭載了云天勵飛的自研大模型邊緣訓(xùn)推芯片DeepEdge10 Max以及自研多模態(tài)大模型“云天天書”，具備算法邊緣側(cè)在線學(xué)習(xí)能力，可實現(xiàn)算法場景覆蓋超過90%、算法精度超過90%，使用成本降低90%，讓人人都能夠根據(jù)自身場景需求，利用大模型能力，訓(xùn)練出可實戰(zhàn)應(yīng)用的算法，讓大模型唾手可得。

把大模型變“小”，云天勵飛是怎么做到的？

“能夠?qū)崿F(xiàn)3個90%，離不開云天勵飛的核心能力——算法芯片化。”陳寧博士說。 “深目”AI模盒的算力基礎(chǔ)，來源于去年云天勵飛推出的14nm Chiplet大模型訓(xùn)推芯片DeepEdge10 Max。該芯片采用自主可控的國產(chǎn)工藝，內(nèi)含國產(chǎn)RISC-V核，支持大模型訓(xùn)練推理部署。

依托自研芯片DeepEdge10 Max創(chuàng)新的D2D chiplet架構(gòu)打造的推理平臺，已適配并可承載10億級SAM、百億級Llama2等大模型運算，可廣泛應(yīng)用于AIoT邊緣視頻、移動機器人等場景。 “深目”AI模盒的大模型能力，來源于云天勵飛自主研發(fā)的多模態(tài)大模型“云天天書”。

云天天書大模型包含語言大模型、多模態(tài)大模型等不同系列，在C-Eval、CMMLU等權(quán)威測試中多次獲得第一，并于去年正式通過中央網(wǎng)信辦備案。云天天書1.0版本于2023年初正式推出，至今已完成3個版本的迭代，預(yù)計今年6月將迭代4.0 V版本。

以云天天書為底座，云天勵飛能夠與生態(tài)合作伙伴完成預(yù)訓(xùn)練場景算法，再將預(yù)訓(xùn)練算法提供給廣大中小企業(yè)用戶，中小企業(yè)客戶可根據(jù)自身場景需求，在邊緣端完成算法微調(diào)。由于大模型具備泛化和學(xué)習(xí)的能力，客戶部署算法后，大模型還能夠不斷根據(jù)現(xiàn)實應(yīng)用場景情況，在線學(xué)習(xí)、優(yōu)化算法，不斷提升算法精度。

“深目”AI模盒不僅僅是“壓縮”了大模型和芯片能力的一款全新產(chǎn)品，更是把云天勵飛大模型通過算法芯片化能力平臺“硬件化”的一次重要嘗試。把復(fù)雜的技術(shù)通過簡單的產(chǎn)品提供給用戶，讓用戶可以零學(xué)習(xí)成本，快速訓(xùn)練出自己需要的算法。 場景算法，秒速訓(xùn)練 “深目”AI模盒背后蘊藏了復(fù)雜的技術(shù)，但對于用戶而言，他們只需要關(guān)心產(chǎn)品到底怎么用、好不好用。發(fā)布現(xiàn)場，云天勵飛副總裁羅憶用實際場景演示了“深目”AI模盒是如何在數(shù)據(jù)少、無數(shù)據(jù)等極端情況下，快速完成算法訓(xùn)練。

場景演示一：只需少量樣本，算法精度即可提升到90%以上

在算法使用初期，只有少量數(shù)據(jù)，用戶如何才能快速訓(xùn)練高精度算法？ 以店外經(jīng)營為例，這是城市治理中最常見的問題之一。當用戶需要訓(xùn)練識別算法時，可以直接使用平臺現(xiàn)成的算法對目標進行識別。用戶只需要對識別結(jié)果標記“正確”和“誤報”，算法精度就能通過自學(xué)習(xí)快速提升。

通過這樣的過程，算法精度通過１次訓(xùn)練就能得到顯著提升，經(jīng)過１周迭代后算法精度可超過９０％。 羅憶介紹，云天勵飛為客戶提供的算法訓(xùn)練平臺上，有大量與生態(tài)合作伙伴共同打造的算法商城，能夠提供覆蓋14個大類、100+個小類、千余種算法，用戶可以直接調(diào)用預(yù)訓(xùn)練算法，并上傳自身場景圖片完成算法的微調(diào)和升級，快速訓(xùn)練出高精度算法。

場景演示二：零數(shù)據(jù)樣本，用AIGC數(shù)據(jù)訓(xùn)練AI

天災(zāi)人禍等極端場景識別訓(xùn)練的數(shù)據(jù)幾乎空白，面對這樣“無數(shù)據(jù)”的情況，用戶該如何訓(xùn)練算法？ 以加油站場景的吸煙識別為例，這類行為的數(shù)據(jù)極難獲取，因為這類危險行為往往伴隨著成不可挽回的后果。而平臺能夠利用大模型能力，以加油站為背景，生成在該環(huán)境抽煙行為的人物，并將數(shù)據(jù)用于算法訓(xùn)練中，填補訓(xùn)練數(shù)據(jù)的空白。 使用AI合成數(shù)據(jù)來訓(xùn)練算法，不僅能夠填補數(shù)據(jù)空白，還能夠規(guī)避隱私安全等問題，已經(jīng)逐漸成為大模型時代下訓(xùn)練新算法和提升算法精度的一條重要路徑。

場景演示三：識別對象標準不統(tǒng)一，大模型泛化能力解決問題

現(xiàn)場以“購物中心提袋識別”為例，演示了如何利用大模型泛化能力，解決識別對象標準不統(tǒng)一帶來的算法訓(xùn)練難題。 大型購物中心一般沒有統(tǒng)一的結(jié)算中心，購物中心難以掌握逛街顧客是否消費，也難以評估營銷活動對實際消費轉(zhuǎn)化的效果。而顧客是否提購物袋，是大型商場判斷顧客是否消費的重要標準之一。

但是，各品牌購物袋的大小、顏色均不統(tǒng)一；而且難以與顧客的背包區(qū)分，算法難以精準識別。 但在云天勵飛的算法訓(xùn)練平臺上，借助場景自適應(yīng)能力，能夠?qū)崿F(xiàn)“千店千袋”的識別。首先，用戶需要調(diào)用“拎手提袋識別”算法，識別所有的手提袋，再基于識別結(jié)果進行特定手提袋的識別訓(xùn)練，從而衍生出特定手提袋的識別算法，最后即可實現(xiàn)專用門店手提袋的精準識別。

做物理世界的解碼者

從2014年成立至今，云天勵飛一直堅持將AI技術(shù)與物理世界相結(jié)合，這也是云天勵飛從成立之初自研芯片的重要原因。芯片是AI與物理世界的連接器，AI通過芯片為實體賦能，物理世界的數(shù)據(jù)又通過芯片反哺AI，推動AI進步發(fā)展。 “AI商業(yè)化發(fā)展有三個階段：AI方案化、AI運營化、AI產(chǎn)品化。”陳寧博士在發(fā)布會現(xiàn)場說道。在AI方案化階段，AI企業(yè)主要通過項目制滿足不同垂直領(lǐng)域客戶需求。在打磨行業(yè)標桿項目的過程中，AI企業(yè)不斷積累行業(yè)認知和數(shù)據(jù)，AI技術(shù)實力不斷增強，并形成具備越來越強的泛化能力AI平臺，企業(yè)也得以開啟AI運營業(yè)務(wù)。而最終，所有的技術(shù)都需要通過物理實體賦能，因此AI最終必須走向產(chǎn)品化。

云天勵飛業(yè)務(wù)發(fā)展路徑也沿著這條路徑展開。在AI方案化方面，云天勵飛在警務(wù)、城市治理、智慧交通、人居生活等領(lǐng)域打造諸多標桿項目，并且在低空經(jīng)濟、智慧教育等創(chuàng)新領(lǐng)域持續(xù)展開探索?；谠诖罅啃袠I(yè)的落地經(jīng)驗，云天勵飛已形成數(shù)據(jù)運營、新能源運營平臺，走向AI運營化。如今，云天勵飛還逐步走向AI產(chǎn)品化。去年，云天勵飛與華為昇騰聯(lián)合推出天舟大模型訓(xùn)推一體機；如今又推出面向邊緣訓(xùn)推場景的“深目”AI模盒。

此外，云天勵飛還通過資本紐帶，進軍智能穿戴和機器人等硬件領(lǐng)域，形成日益完善的大模型產(chǎn)品體系。 從AI方案化、AI運營化再到AI產(chǎn)品化，云天勵飛一直在致力于做物理世界的“解碼者”，通過算法芯片化的能力，為“無形”的技術(shù)和“有形”的世界構(gòu)建通道，讓AI不僅僅是一個在虛擬世界的工具，而是轉(zhuǎn)化為物理世界的生產(chǎn)力。

一個小彩蛋：云天天書限時免費開放

為了共同探索更多大模型低成本、高效率落地應(yīng)用路徑，云天勵飛與鵬城實驗室、之江實驗室、上海交通大學(xué)城市治理研究院、哈工大深圳研究生院、中科院深圳先進研究院、中國電子、華為、深圳移動、深圳電信、深圳聯(lián)通、華潤數(shù)科、神州數(shù)碼、中國鐵塔深圳分公司、有人物聯(lián)網(wǎng)、云賽智聯(lián)等單位共同成立“深目2.0”生態(tài)聯(lián)盟，共同探索更多大模型落地應(yīng)用路徑。

在發(fā)布會最后，云天勵飛還發(fā)出了2個實實在在的福利。 一是“云天天書-2.0-68B”版本免費向合作伙伴開放。合作伙伴可免費獲取“云天天書-2.0-68B”部署包及6個月推理服務(wù)授權(quán)，免費使用天書平臺自帶的管理、支撐、應(yīng)用及API等服務(wù)，快速構(gòu)建場景應(yīng)用。（微信搜索“云天勵飛”小程序，可報名申請） 二是從即日起預(yù)訂“深目”AI模盒，即有機會獲得邀約測試的機會，限額50名！

關(guān)于“深目”背后的故事

2014年，云天勵飛憑借對深度學(xué)習(xí)的深刻理解，推出了基于CV小模型的人工智能產(chǎn)品——“深目”1.0，成功引領(lǐng)了AI產(chǎn)業(yè)化應(yīng)用的浪潮，為“AI+公共安全”市場開啟了新紀元。 如今，人工智能已邁入大模型時代。在大模型技術(shù)的強力驅(qū)動下，AI能力得以更廣泛地拓展與應(yīng)用。每一個場景都蘊藏著巨大的潛力，等待著我們用大模型去重塑、去挖掘其更深層次的價值。

在這個奇點時刻，我們選擇二次創(chuàng)業(yè)，并推出了一款基于自研芯片和大模型技術(shù)的“深目”AI模盒。這款產(chǎn)品能夠低成本地快速生成并運行算法，為碎片化場景下復(fù)雜多變的AI應(yīng)用提供了強有力的支持。 這款產(chǎn)品，我們依然命名為“深目”。

雖然名字未變，但“深目”已經(jīng)從最初我們對AI方案化構(gòu)想，進化成了如今成熟的產(chǎn)品化現(xiàn)實。它的技術(shù)底座已煥然一新，方案和產(chǎn)品均實現(xiàn)了全面的升級與蛻變。我們期望“深目”系列產(chǎn)品能夠賦能更廣闊的碎片化場景，真正實現(xiàn)AI技術(shù)的普惠，讓千行百業(yè)都能受益于其強大功能。同時，“深目2.0”這個品牌也將承載著云天人不斷創(chuàng)新、超越自我的創(chuàng)業(yè)精神，為我們開啟二次創(chuàng)業(yè)的新征程。我們堅信，在大家的共同努力下，“深目”將煥發(fā)出新的活力與光彩，為AI產(chǎn)業(yè)的發(fā)展貢獻更多力量，共同開創(chuàng)更加美好的未來！

審核編輯：劉清