廣和通發(fā)布Fibocom AI Stack，助力客戶快速實(shí)現(xiàn)跨平臺(tái)跨系統(tǒng)的端側(cè)AI部署

1月7日-10日，2025年國(guó)際消費(fèi)電子產(chǎn)品展覽會(huì)（CES 2025）盛大舉行，廣和通發(fā)布Fibocom AI Stack，賦智千行百業(yè)端側(cè)應(yīng)用。Fibocom AI Stack提供集高性能模組、AI工具鏈、高性能推理引擎、海量模型、支持與服務(wù)一體化的端側(cè)AI解決方案，幫助智能設(shè)備快速實(shí)現(xiàn)AI能力商用。

為適應(yīng)不同端側(cè)場(chǎng)景的應(yīng)用，AI Stack具備海量端側(cè)AI模型及行業(yè)端側(cè)模型，基于不同等級(jí)算力的芯片平臺(tái)或模組，F(xiàn)ibocom AI Stack可將TensorFlow、PyTorch、ONNX、MXNet等機(jī)器學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)的模型進(jìn)行壓縮，并轉(zhuǎn)換為適合端側(cè)部署的最優(yōu)模型，以匹配不同智能終端應(yīng)用場(chǎng)景。AI Stack支持Android、Linux、Ubuntu等系統(tǒng)，幫助終端客戶實(shí)現(xiàn)跨芯片平臺(tái)、跨操作系統(tǒng)的端側(cè)高性能推理與部署。

AI Stack擁有完整AI工具鏈，集成易于部署的代碼，可進(jìn)行數(shù)據(jù)標(biāo)注、模型訓(xùn)練、模型微調(diào)。針對(duì)模型移植，AI Stack提供模型轉(zhuǎn)換、模型量化和算子替換等能力。廣和通還提供包含基準(zhǔn)測(cè)試、性能監(jiān)控、性能分析等評(píng)測(cè)服務(wù)，協(xié)助開(kāi)發(fā)者更直觀地驗(yàn)證終端部署效果。

高性能推理引擎作為AI部署的關(guān)鍵組件，將訓(xùn)練、轉(zhuǎn)換完成的模型高效部署在端側(cè)并執(zhí)行推理任務(wù)，從而在實(shí)際業(yè)務(wù)場(chǎng)景中實(shí)現(xiàn)多樣化的AI應(yīng)用。推理引擎支持C++/Python/Java等多種編程語(yǔ)言接口，可滿足跨平臺(tái)的應(yīng)用開(kāi)發(fā)，顯著降低開(kāi)發(fā)者端側(cè)AI開(kāi)發(fā)的難度和復(fù)雜度。通過(guò)異構(gòu)調(diào)度、和硬件加速等策略，可最大化發(fā)揮AI模組性能，提升推理速度，降低功耗。

同時(shí)，AI Stack提供一套全面、豐富的模型倉(cāng)，包含機(jī)器視覺(jué)、聽(tīng)覺(jué)、多模態(tài)、大語(yǔ)言模型以及行業(yè)端側(cè)模型等海量模型，可助力行業(yè)終端實(shí)現(xiàn)目標(biāo)檢測(cè)、語(yǔ)義分割、對(duì)話問(wèn)答、語(yǔ)音識(shí)別、圖像問(wèn)答、多語(yǔ)言翻譯等功能。

得益于其通用性、易用性、高效性等特點(diǎn)，AI Stack可最大程度滿足客戶多層級(jí)算力要求，縮短終端開(kāi)發(fā)周期，降低端側(cè)AI開(kāi)發(fā)難度，助力智能座艙、智能穿戴、智能零售、機(jī)器人等千行百業(yè)的業(yè)務(wù)場(chǎng)景擁抱端側(cè)AI。

廣和通AI研究院院長(zhǎng)劉子威表示：“廣和通于2024年成立AI研究院，并將端側(cè)AI作為公司戰(zhàn)略方向之一，助力產(chǎn)業(yè)數(shù)智化升級(jí)。隨著終端芯片算力、模型能力增強(qiáng)，以及應(yīng)用場(chǎng)景對(duì)實(shí)時(shí)響應(yīng)及隱私保護(hù)需求增加，端側(cè)AI將助力更多IoT場(chǎng)景智能化。Fibocom AI Stack為客戶提供了一站式端側(cè)AI部署的能力，未來(lái)將廣泛幫助智能零售、智能網(wǎng)聯(lián)車(chē)、智能穿戴、機(jī)器人等場(chǎng)景快速AI升級(jí)。廣和通將積極聯(lián)合產(chǎn)業(yè)伙伴拓展AI創(chuàng)新應(yīng)用，助推端側(cè)AI商業(yè)落地?！?br />
審核編輯 黃宇