微軟推出ONNX Runtime Web，利用WebGPU優(yōu)化瀏覽器機器學習性能

3 月 5 日，據(jù)報道，微軟將 ONNX Runtime Web 與 WebGPU 進行集成，旨在提升網(wǎng)絡(luò)瀏覽器中復雜機器學習模型的運行效率。當前階段，Chromium 和 Edge 瀏覽器已加入初步支持。

作為微軟的 JavaScript 庫，ONNX Runtime Web 使得網(wǎng)絡(luò)開發(fā)者能在瀏覽器環(huán)境下部署機器學習模型，并提供多種硬件加速的后端支持。

WebGPU 則是一種設(shè)計用于網(wǎng)絡(luò)瀏覽器的，為機器學習模型提供硬件加速的 API。在此前，因算力限制，復雜機器學習模型尤其是大規(guī)模生成模型無法在網(wǎng)頁瀏覽器中有效運行。如今，WebGPU 得以充分利用設(shè)備 GPU 的潛力來解決這一問題，大幅改善運行效果。

微軟指出：

借助計算著色器等創(chuàng)新技術(shù)，WebGPU 能夠更為高效地應(yīng)對復雜機器學習工作負載。其對半精度（FP16）的支持，不僅降低 GPU 內(nèi)存占用及帶寬需求，還提升運算速度。WebGPU 借助 GPU 并行處理的優(yōu)勢，輕松實現(xiàn)高效且具有擴展性的機器學習應(yīng)用。

所有版本的 Chrome 113、Edge 113、適用于 Mac、Windows、ChromeOS 的 Chrome 以及適用于 Android 的 Chrome 121 均默認為WebGPU 做好準備，開發(fā)者可通過 ONNX Runtime Web 調(diào)用 WebGPU 以提高運行效率。