Caffe2 和 PyTorch 代碼層合并旨為提高開發(fā)效率

知名深度學(xué)習(xí)框架 Caffe2 最近正式將代碼并入了 PyTorch。

目前供職于 Facebook，同時(shí)也是 Caffe2 作者賈揚(yáng)清在知乎回答了相關(guān)問題：

因?yàn)?PyTorch 有優(yōu)秀的前端，Caffe2 有優(yōu)秀的后端，整合起來以后可以進(jìn)一步最大化開發(fā)者的效率。目前 FAIR（Facebook AI 研究院）大概有超過一半的項(xiàng)目在使用 PyTorch，而產(chǎn)品線全線在使用 Caffe2，所以兩邊都有很強(qiáng)的動(dòng)力來整合優(yōu)勢。

按照賈揚(yáng)清的說法，F(xiàn)acebook 去年啟動(dòng) ONNX 項(xiàng)目并組建團(tuán)隊(duì)時(shí)，就已經(jīng)開始推動(dòng) Caffe2 和 PyTorch 在代碼層的合并。

這樣做的根本目的還是為了提高開發(fā)效率。

就目前的深度學(xué)習(xí)框架而言，Caffe2 和 MXNet 不支持導(dǎo)出模型，PyTorch 不支持導(dǎo)入模型。只有微軟主導(dǎo)的 CNTK（Microsoft Cognitive Toolkit）同時(shí)支持模型導(dǎo)入和導(dǎo)出。

開發(fā)者在某個(gè)框架上完成神經(jīng)網(wǎng)絡(luò)模型的訓(xùn)練之后，無法在其它框架上直接使用。當(dāng)遇到開發(fā)平臺間遷移模型的需求是，開發(fā)人員需要花費(fèi)大量時(shí)間和精力重新調(diào)試參數(shù)甚至模型結(jié)構(gòu)。

Facebook、亞馬遜、微軟聯(lián)手開發(fā)的 ONNX 開源項(xiàng)目就誕生在這個(gè)背景下。ONNX 是 Open Neural Network Exchange 的縮寫，即”開放的神經(jīng)網(wǎng)絡(luò)交換”，核心特性是支持深度學(xué)習(xí)模型的導(dǎo)入導(dǎo)出。

ONNX 啟動(dòng)半年多來，英特爾、高通、華為、AMD、ARM 等公司已經(jīng)加入。上個(gè)月英偉達(dá)新推出的 TensorRT 也支持了 ONNX。

值得注意的是，Google 主導(dǎo)的 TensorFlow 最近也推出了支持模型導(dǎo)入、導(dǎo)出和復(fù)用的 TensorFlow Hub。

這樣來看，整個(gè)深度學(xué)習(xí)生態(tài)的碎片化情況減輕了不少。未來的競爭，可能就主要是 TensorFlow 和 ONNX 了。