微軟推出ONNX Runtime Web，利用WebGPU優(yōu)化瀏覽器機(jī)器學(xué)習(xí)性能

3 月 5 日，據(jù)報(bào)道，微軟將 ONNX Runtime Web 與 WebGPU 進(jìn)行集成，旨在提升網(wǎng)絡(luò)瀏覽器中復(fù)雜機(jī)器學(xué)習(xí)模型的運(yùn)行效率。當(dāng)前階段，Chromium 和 Edge 瀏覽器已加入初步支持。

作為微軟的 JavaScript 庫，ONNX Runtime Web 使得網(wǎng)絡(luò)開發(fā)者能在瀏覽器環(huán)境下部署機(jī)器學(xué)習(xí)模型，并提供多種硬件加速的后端支持。

WebGPU 則是一種設(shè)計(jì)用于網(wǎng)絡(luò)瀏覽器的，為機(jī)器學(xué)習(xí)模型提供硬件加速的 API。在此前，因算力限制，復(fù)雜機(jī)器學(xué)習(xí)模型尤其是大規(guī)模生成模型無法在網(wǎng)頁瀏覽器中有效運(yùn)行。如今，WebGPU 得以充分利用設(shè)備 GPU 的潛力來解決這一問題，大幅改善運(yùn)行效果。

微軟指出：

借助計(jì)算著色器等創(chuàng)新技術(shù)，WebGPU 能夠更為高效地應(yīng)對復(fù)雜機(jī)器學(xué)習(xí)工作負(fù)載。其對半精度（FP16）的支持，不僅降低 GPU 內(nèi)存占用及帶寬需求，還提升運(yùn)算速度。WebGPU 借助 GPU 并行處理的優(yōu)勢，輕松實(shí)現(xiàn)高效且具有擴(kuò)展性的機(jī)器學(xué)習(xí)應(yīng)用。

所有版本的 Chrome 113、Edge 113、適用于 Mac、Windows、ChromeOS 的 Chrome 以及適用于 Android 的 Chrome 121 均默認(rèn)為WebGPU 做好準(zhǔn)備，開發(fā)者可通過 ONNX Runtime Web 調(diào)用 WebGPU 以提高運(yùn)行效率。