昆侖芯科技產(chǎn)業(yè)級AI模型部署全攻略

12月28日，昆侖芯科技將聯(lián)合百度飛槳FastDeploy團隊帶來“產(chǎn)業(yè)級AI模型部署全攻略 -昆侖芯科技專場”直播課程，就產(chǎn)業(yè)AI硬件部署解決方案進行交流，屆時會詳細講解昆侖芯AI加速卡R200特性，并實戰(zhàn)昆侖芯科技硬件與FastDeploy如何快速完成AI模型部署。

共同探討AI部署相關話題！

關于FastDeploy

為了解決AI部署落地難題，百度飛槳發(fā)布了新一代面向產(chǎn)業(yè)實踐的推理部署工具FastDeploy，旨在為AI開發(fā)者提供模型部署最優(yōu)解。FastDeploy具備全場景、簡單易用、極致高效兩大特點，可滿足開發(fā)者對高性能部署的需求，大幅提升AI產(chǎn)業(yè)部署的開發(fā)效率。

全場景：多端部署，統(tǒng)一部署API，一行代碼切換不同推理后端和推理硬件；多框架支持，一行命令實現(xiàn)其他深度學習框架到飛槳以及ONNX的相互轉(zhuǎn)換；多硬件適配，目前支持X86 CPU、NVIDIA GPU、Jetson、昆侖芯XPU、GraphcoreIPU、ARM CPU（聯(lián)發(fā)科、瑞芯微、樹莓派、高通等硬件）、瑞芯微NPU、晶晨NPU、恩智浦NPU等十多類AI硬件。

簡單易用：多語言統(tǒng)一模型API，三行代碼搞定AI模型部署。模型豐富，預置飛槳和生態(tài)的150+產(chǎn)業(yè)級SOTA模型，覆蓋Text、Vision、Speech、Cross-modal四大領域；覆蓋20+主流應用場景，算法場景包括圖像分類、圖像分割、語義分割、物體檢測、字符識別（OCR）、人臉檢測、人臉關鍵點檢測、人臉識別、人像扣圖、視頻扣圖、圖像超分、姿態(tài)估計、文本分類、信息抽取、文圖生成、行人跟蹤、語音合成等。

極致性能：聯(lián)合自動壓縮工具與推理引擎深度聯(lián)動的能力以及AI模型前后預處理加速庫的優(yōu)化，實現(xiàn)AI模型端到端極致的推理性能。

關于昆侖芯科技

昆侖芯科技深耕AI加速領域10余年，專注打造擁有強大通用性、易用性和高性能的通用人工智能芯片。目前，昆侖芯科技已實現(xiàn)兩代通用AI芯片產(chǎn)品的量產(chǎn)及落地應用，在互聯(lián)網(wǎng)、智能制造、智慧交通、智慧金融等領域均已實現(xiàn)規(guī)模部署。在云端推理訓練均有完備覆蓋的基礎上，應用于邊緣場景的昆侖芯AI加速卡R100已正式發(fā)布，進一步擴充落地場景。更先進的第三代、第四代芯片產(chǎn)品正在研發(fā)中。

昆侖芯科技致力于構(gòu)建軟硬一體化的AI芯片生態(tài)，打造從芯片到終端、應用、云端、服務的生態(tài)閉環(huán)。此前，昆侖芯2代AI芯片及AI加速卡與飛槳完成III級兼容性測試，兼容性表現(xiàn)良好。

昆侖芯和飛槳的適配自2018年啟動，目前雙方已共同完成框架層面的適配，支持XPU Device及大部分算子。在雙方合作的訓練部分中，昆侖芯XPU和飛槳的適配在一些場景下能夠做到通過僅切換一行代碼便可指定到昆侖芯XPU的后端，低成本地從CPU/GPU切換到昆侖芯，滿足絕大部分用戶的需求。目前，昆侖芯軟件棧已集成到飛槳上，完成對接與支持。此外，雙方已經(jīng)完成了多款主流CPU及操作系統(tǒng)的適配，方便廣大開發(fā)者和用戶更高效、更便捷地開發(fā)。

昆侖芯科技的使命是“讓計算更智能”，愿景是“成為劃時代，全球領先的智能計算公司”。昆侖芯科技始終致力于成為芯片創(chuàng)新鏈、產(chǎn)業(yè)鏈的“賦能者”，與上下游企業(yè)攜手，通過用算力賦能不同場景中的AI應用，驅(qū)動千行百業(yè)的智能化轉(zhuǎn)型。