燧原科技“系統(tǒng)+軟件”一體化方案幫助客戶實(shí)現(xiàn)人工智能快速落地

?

?

?

?

WAIC 2022開展第二天，燧原科技的展臺(tái)人聲鼎沸。展臺(tái)之外，一場(chǎng)高能輸出的主題演講也吸引了眾多觀眾和媒體的目光。

燧原科技創(chuàng)始人兼COO張亞林在9月2日上午的“AI領(lǐng)SHOW”上進(jìn)行了“智算集群構(gòu)筑綠色低碳數(shù)字底座”的主題演講。

他指出超大模型訓(xùn)練的算力需求與單芯片算力之間的差距越來越大，顯然單芯片已經(jīng)無法滿足超大模型的訓(xùn)練要求，因此需要通過大規(guī)模算力集群來解決，其中系統(tǒng)和軟件是算力服務(wù)應(yīng)用的關(guān)鍵。燧原可以提供“系統(tǒng)+軟件”一體化方案，作為數(shù)字底座賦能千行百業(yè)，幫助客戶實(shí)現(xiàn)人工智能應(yīng)用的快速落地。

?

張亞林在“AI領(lǐng)SHOW”發(fā)表主題演講

吸引觀眾的除了在開展首日發(fā)布的首個(gè)“AI芯+元宇宙”虛擬現(xiàn)實(shí)空間——燧原·宇宙展區(qū)（可戳鏈接回顧），還有核心展品區(qū)以及實(shí)力與趣味并存的落地應(yīng)用展示區(qū)。

展區(qū)之光

本次WAIC亮相的，除了燧原科技第二代人工智能訓(xùn)練與推理芯片雙驕——邃思2.0、邃思2.5和對(duì)應(yīng)的加速卡產(chǎn)品云燧T20、T21、i20之外，還有一臺(tái)裝載8張?jiān)旗軹21人工智能訓(xùn)練OAM模組的液冷開放加速計(jì)算服務(wù)器。該服務(wù)器通過液冷板等高效熱傳導(dǎo)部件將被冷卻對(duì)象的熱量傳遞到冷媒中，支持50℃中高溫水運(yùn)行，采用先進(jìn)變頻流量系統(tǒng)，大幅提高流量變化范圍、降低能耗，擁有架構(gòu)簡(jiǎn)約、系統(tǒng)可靠、更低成本、更低PUE等特性。

展臺(tái)最矚目的位置，還有臺(tái)神秘的“龐然大物”——從正面看：它有著燧原標(biāo)志性LOGO和紅色，液晶屏上羅列著產(chǎn)品諸多優(yōu)異的參數(shù)與性能；從背面看：有數(shù)條紅藍(lán)光帶規(guī)律地穿梭其中，仿佛流水在設(shè)備間靈活地游走。

AI互動(dòng)

經(jīng)過四年多的發(fā)展，燧原科技成為國內(nèi)第一家完成人工智能訓(xùn)練和推理產(chǎn)品迭代的科技公司，并在互聯(lián)網(wǎng)、綠色智算中心、智慧城市和智慧金融等行業(yè)和場(chǎng)景取得廣泛落地。我們挑選了幾個(gè)有趣的落地應(yīng)用場(chǎng)景在WAIC現(xiàn)場(chǎng)進(jìn)行演示或互動(dòng)，就跟隨小編一起看看吧。

-智慧交通-

觀眾可以看到基于云燧人工智能推理加速卡的兩個(gè)實(shí)際應(yīng)用。

場(chǎng)景一展示了通過道路邊的探測(cè)設(shè)備對(duì)過往車輛的車牌、顏色和型號(hào)等信息進(jìn)行實(shí)時(shí)監(jiān)測(cè)、識(shí)別、標(biāo)注，追蹤動(dòng)態(tài)軌跡，并通過不同角度的設(shè)備畫面建立了3D數(shù)字孿生世界。

場(chǎng)景二則是AI在交通事件檢測(cè)方面的應(yīng)用。在對(duì)監(jiān)控場(chǎng)地的拍攝同時(shí)進(jìn)行畫面捕捉、違章判定和利用文字識(shí)別輸出牌照信息，交管部門可以減少大量人工重復(fù)工作，自動(dòng)獲得違章車輛信息，更高效更自動(dòng)化地進(jìn)行管理。

?

云燧推理產(chǎn)品為AI在智慧交通的應(yīng)用提供了國產(chǎn)化的、可靠、穩(wěn)定且更高速的算力支撐，將人力資源從日益繁重復(fù)雜的交通管理工作中解放出來。

-智慧問診-

燧原科技的展臺(tái)上，有不少觀眾在排隊(duì)“照鏡子”。只見這面來自生態(tài)伙伴喜馬醫(yī)療的“魔鏡”對(duì)觀眾進(jìn)行了面部檢測(cè)、對(duì)伸出的舌頭區(qū)域進(jìn)行分割和識(shí)別、引導(dǎo)觀眾發(fā)聲、還附有日常作息和癥狀的問答。短短幾分鐘的問診，“AI老中醫(yī)”就根據(jù)鏡子捕捉的數(shù)據(jù)，給出了詳盡的健康診斷和調(diào)理建議。

?

這面“魔鏡”之所以能夠像一位經(jīng)驗(yàn)豐富的資深中醫(yī)一樣對(duì)觀眾進(jìn)行診斷，離不開云燧推理產(chǎn)品提供的強(qiáng)大算力。喜馬醫(yī)療的智慧問診系列產(chǎn)品已經(jīng)在上海靜安某社區(qū)衛(wèi)生服務(wù)中心投放使用，也許不久以后大家也可以在身邊體驗(yàn)到這位“AI老中醫(yī)”的快速問診服務(wù)。

-AI寫詩-

展區(qū)的“AI寫詩”仿佛埋頭造芯理工男和理工女證明自己也擁有浪漫細(xì)胞的最后倔強(qiáng)。不過展臺(tái)爆棚的人氣的確也證明了應(yīng)用效果的不同凡響。觀眾隨手寫下一句五言或七言詩詞，這個(gè)聰明的頁面一頓操作猛如虎，一眨眼的功夫就創(chuàng)作出了一首對(duì)仗且工整的四行詩，讀一讀還別有一番韻味。

?

?

現(xiàn)場(chǎng)的理工男孩、女孩還貼心地為觀眾解釋了原理：運(yùn)用AI，把中文文本轉(zhuǎn)換成從左到右按順序排列的形式，得到一個(gè)中文詞語料庫。通過基于此的預(yù)訓(xùn)練生成語言模型GPT2進(jìn)行多次迭代訓(xùn)練，將中文詩詞生成問題轉(zhuǎn)換為條件概率建模問題，從而得到這個(gè)浪漫證明器（詩詞生成模型）。

-大模型的訓(xùn)練-

這個(gè)展區(qū)運(yùn)用生動(dòng)形象的視頻，短短幾分鐘就將幾個(gè)復(fù)雜的問題清晰地為觀眾做了透徹的講解：為什么需要大模型、大模型對(duì)硬件和軟件的挑戰(zhàn)、燧原科技對(duì)預(yù)訓(xùn)練大模型提供的軟硬件支持以及集群產(chǎn)品可以支持的應(yīng)用場(chǎng)景?，F(xiàn)場(chǎng)觀眾看得津津有味，不斷聽到此起彼伏地發(fā)出“噢”、“原來如此”等等感嘆。　　

?