OPPO自研推理引擎ShaderNN加入LF AI&Data基金會

近日，OPPO 宣布向 LF AI&Data 基金會無償捐贈一項 AI 項目——ShaderNN，它是業(yè)界首個支持 OpenGL 和 Vulkan 全圖形棧的高效輕量推理引擎, 面向移動端圖形、圖像、游戲?qū)崟r AI 應(yīng)用。

目前，越來越多的深度學(xué)習(xí)推理任務(wù)從云端轉(zhuǎn)移到移動端，移動平臺上的深度學(xué)習(xí)推理場景需要解決硬件平臺、驅(qū)動、編譯優(yōu)化、模型壓縮、算子算法優(yōu)化和部署等諸多問題，現(xiàn)有的推理平臺與第三方庫和硬件平臺又通常存在驅(qū)動適配、模型驗證、數(shù)據(jù)交互等問題，導(dǎo)致對應(yīng)的優(yōu)化部署和維護升級過程繁瑣。同時，移動平臺對圖形圖像類應(yīng)用的實時性和功耗要求越來越高。

ShaderNN 應(yīng)運而生， ShaderNN 專注于通過 GPU 著色器進行推理加速，它基于原生 OpenGL ES 和 Vulkan 構(gòu)建，可以輕松與圖形渲染管線深度集成，最大限度地利用計算資源，適用于渲染、圖像/視頻和游戲 AI 實時應(yīng)用，它具有通用性、高性能、可移植性、可擴展性，其推理時間及平均功耗比同行業(yè)推理引擎在典型場景有顯著優(yōu)勢。

ShaderNN 加入 LF AI&Data 基金會沙箱項目后，通過在基金會內(nèi)部的合作，可以為開發(fā)者帶來更快捷的開發(fā)體驗，讓手機用戶獲得更流暢、更沉浸真實的體驗。