Renesas選擇了邊緣AI

在追求邊緣AI市場的過程中，Renesas必須在兩個(gè)不同的世界之間架起橋梁。更具概率性的AI領(lǐng)域處理數(shù)據(jù)和模型創(chuàng)建，而嵌入式領(lǐng)域的特點(diǎn)是更具確定性，做線性編程。Renesas必須在這兩個(gè)世界之間轉(zhuǎn)換，而不損害其在任何一個(gè)領(lǐng)域中的地位。

嵌入式系統(tǒng)的設(shè)計(jì)師可能會對AI好奇，但他們不一定對編程感興趣。更直接地說，AI讓他們感到不安。

這就是包括Renesas在內(nèi)的領(lǐng)先的MCU/MPU供應(yīng)商面臨的困境，他們覬覦著看似龐大的邊緣AI市場。

開發(fā)一種超低功耗的MCU/MPU架構(gòu)、配備合理的靈活性和可編程性是基礎(chǔ)。但要贏得邊緣AI競賽，MCU/MPU供應(yīng)商必須有一個(gè)明確的計(jì)劃和特定的策略。

首先，他們必須了解每個(gè)市場細(xì)分中客戶的需求和系統(tǒng)的限制。

其次，MCU/MPU供應(yīng)商不能讓自己被拉向太多的方向。他們必須選擇一個(gè)能讓他們向上攀升并全力支持客戶的位置。

目前，Renesas已將其邊緣AI的關(guān)注焦點(diǎn)縮小到了HVAC領(lǐng)域。Renesas的商業(yè)加速和生態(tài)系統(tǒng)高級主管Kaushal Vora表示：“這是一種非常有針對性的方法?！彼忉尩?，Renesas為HVAC提供的邊緣AI解決方案的范圍從“硬件、固件參考設(shè)計(jì)和傳感器儀表到生產(chǎn)級數(shù)據(jù)集”。Renesas在OEM的HVAC系統(tǒng)中安裝了專業(yè)級實(shí)驗(yàn)室，并“為他們收集高質(zhì)量的數(shù)據(jù)”。

許多客戶可能不知道如何最好地將機(jī)器學(xué)習(xí)應(yīng)用于HVAC，而Renesas會為這樣的客戶提供全方位的邊緣AI服務(wù)。這需要Renesas做一些繁重的工作。Vora承認(rèn)，這意味著最初只能服務(wù)于“少數(shù)幾個(gè)戰(zhàn)略客戶”。

然而，與頭部企業(yè)的一些成功案例可能會在嵌入式系統(tǒng)領(lǐng)域中引發(fā)更多客戶對AI的興趣。Renesas正在設(shè)計(jì)類似的“入門套餐”來吸引更多的買家將邊緣AI應(yīng)用到他們的系統(tǒng)中。

可擴(kuò)展性

要成功地將AI添加到一系列嵌入式系統(tǒng)中，關(guān)鍵在于邊緣AI解決方案的可擴(kuò)展性。執(zhí)行副總裁Sailesh Chittipeddi聲稱，Renesas已經(jīng)準(zhǔn)備好用一系列的MCU和MPU來滿足不同客戶的需求，這將“根據(jù)所需的內(nèi)存、性能和功耗來進(jìn)行擴(kuò)展?！?/p>

對于Renesas最簡單的解決方案，Chittipeddi說，“你可以選擇16位微控制器。隨著你的需求更高級，我們提供32位和64位的解決方案。但最終會遷移到集成神經(jīng)處理器?！盧enesas提供一個(gè)名為“DRP AI”的AI加速器。

Renesas還提供一個(gè)FPGA解決方案，F(xiàn)orgeFPGA。他指出，“這是一種超低功耗的FPGA，成本在50美分或以下?！痹?a target="_blank">公司從Flex Logix獲得了一個(gè)FPGA架構(gòu)的授權(quán)，并將其優(yōu)化。Chittipeddi解釋道，“使用FPGA的優(yōu)點(diǎn)是你可以實(shí)際進(jìn)行并行處理，這是CPU做不到的。”

通常，F(xiàn)PGA成本都比較高，但ForgeFPGA相對便宜。Chittipeddi說，Renesas找到了最佳平衡點(diǎn)。雖然ForgeFPGA最初作為一個(gè)獨(dú)立的產(chǎn)品提供，但它可以作為SiP（System in Package）集成到Renesas的其他芯片解決方案中。

但是，硬件并不能帶動(dòng)AI芯片的銷售。關(guān)鍵在于供應(yīng)商對客戶需求的了解有多深。Chittipeddi說：“當(dāng)我們推銷我們的AI解決方案時(shí)，我們會探尋他們想從哪里開始，他們想實(shí)現(xiàn)什么。”

考慮到眾多的用例，Vora補(bǔ)充說，芯片供應(yīng)商的一個(gè)重要標(biāo)準(zhǔn)是了解系統(tǒng)的限制。Vora說，Renesas會問客戶，“數(shù)據(jù)在哪里？數(shù)據(jù)需要在哪里運(yùn)行？你能負(fù)擔(dān)將數(shù)據(jù)傳輸?shù)?a href="http://www.wenjunhu.com/v/tag/1722/" target="_blank">網(wǎng)絡(luò)的另一層嗎？在傳輸數(shù)據(jù)時(shí)有什么安全問題？網(wǎng)絡(luò)效率如何？”

了解這些變量有助于Renesas擴(kuò)展其解決方案。

大語言模型

AI芯片的客戶也非常關(guān)注快速發(fā)展的AI模型。

一些系統(tǒng)供應(yīng)商提出，像ChatGPT這樣的新興大語言模型（LLM）的日益普及，已經(jīng)顛覆了AI世界。他們想知道他們最近采用的高度優(yōu)化的硬件是否能夠處理LLM的數(shù)學(xué)計(jì)算。

答案是：不能。

盡管Chittipeddi沒有完全忽視LLM的重要性，但他聲稱LLM并沒有對Renesas造成影響。他只說“我們正在研究它”，卻沒有進(jìn)一步談?wù)摗?/p>

暫時(shí)來說，LLM可能只是一個(gè)插曲，讓系統(tǒng)設(shè)計(jì)師們從邊緣AI真正的問題上分心。

Vora說：“生成式AI之所以如此受歡迎，是因?yàn)镺penAI已經(jīng)展示了它能夠訓(xùn)練模型到可以使用的程度?！?/p>

他強(qiáng)調(diào)：“人們常常將AI的復(fù)雜度等同于模型的復(fù)雜度?！钡裉斓倪吘堿I問題并不是缺乏復(fù)雜的AI模型。在Vora看來，問題在于數(shù)據(jù)集的完整性不足。

Vora說，隨著世界收集更多的數(shù)據(jù)，我們必須應(yīng)對“數(shù)據(jù)重力”。“當(dāng)數(shù)據(jù)被向上傳輸?shù)绞澄镦?，你開始失去數(shù)據(jù)重力……完整性?！?/p>

Vora觀察到，“如果你可以在數(shù)據(jù)源頭處理數(shù)據(jù)，你就可以擁有最準(zhǔn)確、最完整、最可解釋的AI?！?/p>

Vora警告說，AI經(jīng)常在數(shù)據(jù)傳輸?shù)皆贫藭r(shí)截?cái)鄶?shù)據(jù)，改變結(jié)果，導(dǎo)致錯(cuò)誤的結(jié)論。“這是今天AI問題的一大部分?！?/p>

Vora指出，運(yùn)行網(wǎng)絡(luò)的效率也是邊緣AI面臨的另一個(gè)問題?！巴禃r(shí)間（或延遲）會增加幾毫秒”，也影響結(jié)果。

微垂直領(lǐng)域

半導(dǎo)體行業(yè)渴望從AI市場中攫取更多價(jià)值。

Vora估計(jì)，從歷史數(shù)據(jù)來看，芯片行業(yè)從智能手機(jī)市場中獲得了10%的價(jià)值，可能在PC時(shí)代獲得了15%。他說：“如果我們從過去的失誤中吸取教訓(xùn)，我們可以從AI市場中提取50%的價(jià)值?！敝饕峭ㄟ^垂直化，構(gòu)建完整的堆棧，和啟用正確的生態(tài)系統(tǒng)。這一直是Nvidia的做法。

Nvidia在AI市場的成功得益于CUDA（Compute Unified Device Architecture），這是由Nvidia開發(fā)的一個(gè)軟件框架。它吸引軟件開發(fā)者使用支持CUDA的GPU進(jìn)行通用處理。

Renesas借鑒了麥肯錫的報(bào)告《Artificial-intelligence hardware： New opportunities for semiconductor companies》。在報(bào)告中，麥肯錫建議半導(dǎo)體公司關(guān)注AI市場中的“微垂直領(lǐng)域”。

Vora解釋，微垂直領(lǐng)域意味著從各種邊緣AI應(yīng)用中選擇一個(gè)特定領(lǐng)域，并為客戶構(gòu)建完整的垂直AI堆棧。

Renesas已將HVAC確定為一個(gè)初始的微垂直領(lǐng)域，這是一個(gè)創(chuàng)造價(jià)值的機(jī)會。

Renesas的微垂直策略中一個(gè)關(guān)鍵要素是去年夏天收購的Reality AI。

Reality AI是Renesas的原始生態(tài)系統(tǒng)合作伙伴之一。它為汽車、工業(yè)和消費(fèi)品的高級非視覺感知提供一系列嵌入式AI和TinyML解決方案。Renesas看到了將Reality AI的邊緣AI軟件開發(fā)環(huán)境與其自身的MCU和MPU產(chǎn)品組合起來的機(jī)會。此次收購使Renesas能夠在每一個(gè)核心的MCU/MPU上提供“先進(jìn)的信號處理、機(jī)器學(xué)習(xí)和異常檢測”。

考慮到嵌入式系統(tǒng)設(shè)計(jì)師們對AI的廣泛不適，Vora解釋說：“我們能夠?yàn)榭蛻籼峁┑拇怪闭显蕉?，以及我們能夠提供給他們的指導(dǎo)和工具越多，我們就能夠?yàn)榭蛻籼峁└玫纳鷳B(tài)系統(tǒng)，以確定AI的發(fā)展方向?！盧enesas的計(jì)劃是逐漸增加微垂直領(lǐng)域和更多的生態(tài)系統(tǒng)合作伙伴，找出對其它邊緣AI應(yīng)用有用的工具。

從入門套餐到訂閱模式

通過與客戶合作，Renesas也在尋找盈利的機(jī)會。

根據(jù)Renesas的說法，目前約有11家公司在微垂直領(lǐng)域采購了“入門套餐”。他們支付的一次性費(fèi)用范圍在20，000到70，000美元之間。下一步，Renesas會提供分級的訂閱模式，根據(jù)用戶的計(jì)算需求，訂閱費(fèi)的范圍在36，000到120，000美元之間。

Renesas的業(yè)務(wù)模式是硬件銷售。然而，像“入門套餐”這樣的產(chǎn)品有機(jī)會讓他們更緊密綁定客戶。

這種模式與Nvidia類似，稱為“遷移學(xué)習(xí)”?！澳隳靡粋€(gè)對特定任務(wù)預(yù)訓(xùn)練得到80-90%準(zhǔn)確度的模型，然后你可以逐步教這個(gè)模型做客戶特定想做的事。有些客戶可能對此感到滿意，而有些客戶可能不會?！?/p>

Chittipeddi說，無論如何，這都創(chuàng)造了“進(jìn)一步盈利的額外機(jī)會”。

無論是在IoT市場還是AIoT市場，AI應(yīng)用中總是有太多的使用案例、變化和碎片化。通過吸引關(guān)鍵的生態(tài)系統(tǒng)合作伙伴，Renesas似乎比其它公司都在更出色地駕馭著邊緣AI的迷宮。