肇觀電子AI視覺芯片：將芯片實(shí)際利用率作為優(yōu)化標(biāo)準(zhǔn)

“在保證8位整型的精度下，每秒最快能計(jì)算181幀（張）圖片/視頻，并且將人工智能（AI）算法從訓(xùn)練部署到實(shí)際應(yīng)用的過程中，依然不損失算法的精度，又“快”又“準(zhǔn)”的性能甚至高過英特爾（Intel） 旗艦產(chǎn)品Myriad X人工智能計(jì)算機(jī)視覺芯片。

11月25日，肇觀電子創(chuàng)始人馮歆鵬對(duì)外表示：“五年前創(chuàng)辦肇觀的時(shí)候，我們不將名義算力作為衡量智能視覺處理器的標(biāo)準(zhǔn)，而是將芯片實(shí)際利用率作為優(yōu)化標(biāo)準(zhǔn)。今天看來(lái)，我們最初的選擇是正確的?！?/p>

▲ 針對(duì)5種算法，肇觀電子N161芯片與英特爾Myriad X芯片每秒可跑的幀（張）數(shù)

例如：在MobileNetV1算法下，N161芯片每秒可跑181幀（張），Intel Myriad X芯片每秒跑106幀（張）

創(chuàng)新要另辟蹊徑

人工智能技術(shù)作為一門應(yīng)用于各行各業(yè)的基礎(chǔ)研究，其意義在于讓機(jī)器代替人去做大量簡(jiǎn)單重復(fù)的工作，把人解放出來(lái)，去做更高級(jí)的和創(chuàng)造性的工作。如同扎實(shí)的文字功底是傳情達(dá)意的“基礎(chǔ)設(shè)施”，對(duì)于AI在具體行業(yè)中的落地而言，芯片是核心元器件，是人工智能的“基礎(chǔ)設(shè)施”。

▲肇觀電子N1系列芯片

從2014年開始，當(dāng)人工智能計(jì)算機(jī)視覺芯片作為下一個(gè)科技和經(jīng)濟(jì)增長(zhǎng)點(diǎn)的時(shí)候，無(wú)論是學(xué)院派還是科技寡頭都高舉著“名義運(yùn)算力”這面旗幟（例如：算力10TOPS = 每秒運(yùn)算10萬(wàn)億次）來(lái)研發(fā)AI芯片，隨后，行業(yè)初入?yún)⑴c者也紛紛入局。

就好像強(qiáng)大的心臟可以支持一個(gè)人跑完全程馬拉松，芯片就好像一顆“心臟”，芯片的算力代表的就是這顆“心臟”是否強(qiáng)大。

但是，馮歆鵬認(rèn)為：“AI芯片是否適合使用，往往要從每元錢能獲得的性能、每度電能獲得的性能、部署實(shí)施的成本、元器件是否穩(wěn)定可靠等幾個(gè)方面來(lái)衡量。也就是說(shuō)，名義算力并不是衡量智能視覺處理器的最重要的標(biāo)準(zhǔn)，芯片利用率才是優(yōu)化指標(biāo)?！?/p>

芯片利用率具體體現(xiàn)在哪里？

馮歆鵬解釋說(shuō)，人工智能就是我們教會(huì)機(jī)器學(xué)習(xí)的過程，如同教會(huì)一個(gè)孩子學(xué)習(xí)。不管什么考試，速度和準(zhǔn)確率是衡量這個(gè)孩子學(xué)習(xí)成果的標(biāo)準(zhǔn)。人工智能計(jì)算機(jī)視覺芯片性能利用率衡量標(biāo)準(zhǔn)就是：在運(yùn)算圖片的時(shí)候，既要保證圖片的精度（準(zhǔn)），又要保證運(yùn)算的速度（快），是否又“快”又“準(zhǔn)”。

以基于人臉識(shí)別的AI技術(shù)做的智能門鎖應(yīng)用場(chǎng)景為例，如果識(shí)別不準(zhǔn)，門鎖會(huì)把家庭成員拒之門外，或者對(duì)陌生人敞開大門；如果識(shí)別不快，會(huì)讓人在門外等很久，體驗(yàn)感變差。

解決別人解決不了的問題

在最初的技術(shù)戰(zhàn)略選擇上，肇觀電子為什么能夠直接切入解決“利用率”這個(gè)AI芯片的核心痛點(diǎn)？

——因?yàn)檎赜^電子非常重視基礎(chǔ)理論方面的投入。

馮歆鵬表示，一顆芯片投片的成本是巨大的。芯片設(shè)計(jì)好了以后投片生產(chǎn)，就如同一個(gè)孩子生出來(lái)以后就無(wú)法做任何更改一樣，“產(chǎn)前”需要不斷的做“產(chǎn)檢”，來(lái)盡可能準(zhǔn)得知道這個(gè)“孩子”（芯片）是否健康。這些 “產(chǎn)檢”工作在芯片行業(yè)的專業(yè)名詞叫做仿真驗(yàn)證模型。

仿真驗(yàn)證模型的預(yù)測(cè)誤差取決于有沒有能夠準(zhǔn)確預(yù)測(cè)結(jié)果的數(shù)學(xué)模型。

得益于在數(shù)學(xué)基礎(chǔ)理論方面的高投入，肇觀電子在智能視覺芯片研發(fā)方面有了強(qiáng)有力的系統(tǒng)仿真模型，能夠遠(yuǎn)在芯片流片前就準(zhǔn)確預(yù)測(cè)芯片性能。肇觀電子CTO周驥博士說(shuō)：“研究基礎(chǔ)理論，既耗時(shí)間，又‘燒錢’，但磨刀不誤砍柴工?！?/p>

有了仿真驗(yàn)證模型，在第一代芯片設(shè)計(jì)中，模型所預(yù)言的芯片利用率是85%，可是最初的設(shè)計(jì)方案仿真結(jié)果只有75%左右。當(dāng)時(shí)，市面上所能見到的類似芯片實(shí)際利用率也差不多是這么多。

于是，周驥反復(fù)問了這樣一個(gè)問題：為什么實(shí)際數(shù)據(jù)和理論預(yù)測(cè)差這么多？

為了能逼近理論預(yù)測(cè)，他帶著幾十個(gè)工程師連續(xù)奮戰(zhàn)5個(gè)月，將利用率從75%一步步提高到83%左右……最終的分析結(jié)果是，還有2%左右的差距是由于模型沒有考慮電路板設(shè)計(jì)的一些問題，而別的廠家也會(huì)面臨同樣的問題。

做這些基礎(chǔ)研究的目的到底是什么？

馮歆鵬表示，大學(xué)離市場(chǎng)太遠(yuǎn)，企業(yè)又想賺快錢，這其實(shí)就是創(chuàng)新型企業(yè)的一個(gè)“痛點(diǎn)”：不愿意搞基礎(chǔ)研究，不愿意忍受基礎(chǔ)研究的長(zhǎng)期寂寞，不愿意等待艱難漫長(zhǎng)的投資回報(bào)，就不能在底層技術(shù)上實(shí)現(xiàn)真正的創(chuàng)新。

“為了獲得突破性成果，立志做核心技術(shù)的公司必須得沉下心來(lái)搞基礎(chǔ)研究，理論聯(lián)系實(shí)際、實(shí)踐檢驗(yàn)理論。”他坦言。

靠實(shí)際應(yīng)用說(shuō)話

攻破了這些技術(shù)難點(diǎn)，到底能干什么？肇觀電子自主研發(fā)的人工智能計(jì)算機(jī)視覺芯片究竟要為哪些行業(yè)降低成本，提高效率？關(guān)于這些問題，馮歆鵬每天都在問自己。

比如在智能安防領(lǐng)域，建設(shè)城市視頻監(jiān)控系統(tǒng)是實(shí)現(xiàn)城市安全和穩(wěn)定的重要基礎(chǔ)，是“平安城市”建設(shè)的重要組成部分，更是“智慧城市”的重要載體。

傳統(tǒng)的安防監(jiān)控只能達(dá)到“看得見”的功能，而肇觀電子的芯片應(yīng)用到智能安防領(lǐng)域，能夠讓攝像頭“看得清”、“看得懂”，極大地提高識(shí)別效率，大量重復(fù)簡(jiǎn)單的工作都可以留給機(jī)器去解決。

再比如在輔助駕駛領(lǐng)域，車艙內(nèi)置攝像頭可以監(jiān)測(cè)司機(jī)是否在駕駛過程中出現(xiàn)說(shuō)話、打電話、打瞌睡等情況，不僅能提醒司機(jī)，也可以直接聯(lián)動(dòng)到公安機(jī)關(guān)，提示交通事故風(fēng)險(xiǎn)。

外置攝像頭可以識(shí)別馬路上的行人、標(biāo)線、紅綠燈，需要非常及時(shí)準(zhǔn)確的提示或直接幫助司機(jī)避障或制動(dòng)，否則，即使是慢了一秒，也會(huì)提升交通事故發(fā)生的概率。

這就回到了前面提到的，“快”是考核計(jì)算機(jī)視覺AI芯片性能的關(guān)鍵指標(biāo)。

新零售時(shí)代，在無(wú)人零售這一垂直領(lǐng)域，傳統(tǒng)的自動(dòng)售賣貨柜使用的是重力傳感器，對(duì)應(yīng)的價(jià)格是根據(jù)每一件商品的重量來(lái)事先預(yù)設(shè)的。

當(dāng)顧客取走某一件商品的時(shí)候，系統(tǒng)會(huì)根據(jù)減少的重量，核算出相應(yīng)的價(jià)格，再進(jìn)行扣款。然而，從技術(shù)上來(lái)說(shuō)，重力傳感器需要經(jīng)常校準(zhǔn)；從成本上來(lái)說(shuō)，重力貨柜成本高昂。

相比之下，安裝了計(jì)算機(jī)視覺AI芯片的攝像頭可以通過對(duì)商品外形的識(shí)別來(lái)扣款，成本大大降低，但是也對(duì)識(shí)別精準(zhǔn)度提出了更高的要求。如果物體識(shí)別算法在實(shí)際運(yùn)行中有1%的精度下降，貨損率和運(yùn)營(yíng)成本就會(huì)大幅增加。這就意味著，“準(zhǔn)”是考核計(jì)算機(jī)視覺AI芯片性能的關(guān)鍵指標(biāo)。

“在這個(gè)新興的領(lǐng)域，大公司和小公司其實(shí)是在同一起跑線上?！瘪T歆鵬表示，與大型公司相比，肇觀電子更加靈活，決策鏈條更短，對(duì)于市場(chǎng)需求的反應(yīng)速度更快，試錯(cuò)成本也更低。“我們希望能在自己的領(lǐng)域中，時(shí)不時(shí)給市場(chǎng)帶來(lái)驚喜?！?/p>

責(zé)任編輯：xj

原文標(biāo)題：肇觀電子：我們希望能在AI視覺芯片這個(gè)領(lǐng)域，時(shí)不時(shí)給市場(chǎng)帶來(lái)驚喜

文章出處：【微信公眾號(hào)：你好張江】歡迎添加關(guān)注！文章轉(zhuǎn)載請(qǐng)注明出處。