基于動態(tài)編譯（Just-in-Time）的全新深度學(xué)習(xí)框架

Jittor 是一個采用元算子表達神經(jīng)網(wǎng)絡(luò)計算單元、完全基于動態(tài)編譯（Just-in-Time）的深度學(xué)習(xí)框架。[1]

據(jù)介紹，Jittor 內(nèi)部使用創(chuàng)新的元算子和統(tǒng)一計算圖的深度學(xué)習(xí)框架。和 Numpy 相比，元算子在保證易用性的同時，能夠?qū)崿F(xiàn)更復(fù)雜、更高效的操作。而統(tǒng)一計算圖則是融合了靜態(tài)計算圖和動態(tài)計算圖的諸多優(yōu)點，在易于使用的同時，提供高性能的優(yōu)化?；谠阕娱_發(fā)的深度學(xué)習(xí)模型，可以被計圖實時自動優(yōu)化并且運行 CPU、GPU 等指定的硬件上。

Jittor 特性

Jittor 是基于易用、可定制、實現(xiàn)與優(yōu)化分離、即時的理念設(shè)計的。用戶只需要數(shù)行代碼，就可定義新的算子和模型，且所有的代碼都是即時編譯運行。

在 Jittor 上，多個元算子之間可以相互融合，成為更加復(fù)雜的算子，進一步構(gòu)成神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)應(yīng)用。

支持計算任意高階導(dǎo)數(shù)。元算子在 Jittor 上反向傳播后仍然是元算子，因此，在深度學(xué)習(xí)開發(fā)過程中，你不用算子的反向傳播而重復(fù)開發(fā)。同時，還可以使用統(tǒng)一的優(yōu)化策略。

使用 Jittor 內(nèi)置的元算子編譯器，用戶可以直接將通過元算子編寫的 Python 代碼動態(tài)編譯成更高效的 C++ 代碼。

Jittor 能夠自動優(yōu)化動態(tài)編譯的代碼。其內(nèi)置的優(yōu)化編譯遍（complier pass）兼容 LLVM，可以根據(jù)設(shè)備進行自動優(yōu)化，生成的底層算子對計算設(shè)備非常友好。

Jittor 統(tǒng)一管理 GPU 和 CPU 的內(nèi)存。當(dāng)深度學(xué)習(xí)耗盡 GPU 內(nèi)存資源時，將用 CPU 內(nèi)存彌補。

Jittor 同時提供同步接口和異步接口，用戶可以同時享受同步接口的易用性和異步接口的高效性。

使用輔助轉(zhuǎn)換腳本，PyTorch 代碼可以直接轉(zhuǎn)換成 Jittor 模型。在參數(shù)保存和數(shù)據(jù)傳輸上，Jittor使用和 PyTorch 一樣的 Numpy+pickle 協(xié)議，二者的模型可以相互加載和調(diào)用。

性能超越 Pytorch

雖然這是清華大學(xué)第一次發(fā)布開源機器學(xué)習(xí)框架，但與國際主流平臺相比，Jittor 豪不遜色。 目前 ResNet、VGG、SSD、DeepLab、LSGAN 等多個網(wǎng)絡(luò)模型已經(jīng)在 Jittor 平臺實現(xiàn)，可供用戶使用。與同類型框架相比，Jittor 在收斂精度一致情況下，推理速度取得了 10%-50% 的性能提升 。

目前，Jittor 得到了國家自然科學(xué)基金項目、北京信息科學(xué)與技術(shù)國家研究中心團隊項目和清華-騰訊聯(lián)合實驗室項目的資助和支持。

開源超級玩家

開源，特別是人工智能領(lǐng)域的開源，逐漸成為綜合實力的象征。清華在這方面有著獨到的優(yōu)勢。

首先，是在人工智能領(lǐng)域的學(xué)術(shù)傳承。2019 年，清華人工智能研究院動作頻頻，在張鈸院士的帶領(lǐng)下，4 月成立聽覺智能研究中心，由鄭方教授擔(dān)任主任，5 月成立基礎(chǔ)理論研究中心，朱軍任主任，在基礎(chǔ)算法、AI 框架、AI 應(yīng)用、數(shù)據(jù)資源等方面早已布好基礎(chǔ)。

第一代院士打好基礎(chǔ)，第二代老師形成了中堅力量。此次驚艷推出的計圖（Jittor），牽頭人就是清華大學(xué)計算機系的胡事民教授，1969 年生人，正屬于中堅，而開發(fā)團隊的主體，正是他帶領(lǐng)的圖形學(xué)實驗室的一批博士生。今天出世的計圖更不免讓人想到當(dāng)年的清華畢業(yè)生賈揚清，他在加州大學(xué)伯克利分校攻讀博士期間創(chuàng)建了 Caffe 項目。

清華大學(xué)自然語言處理實驗室（THUNLP）也有一個知名的開源項目，叫 OpenNRE。[2] 這是一個在自然語言處理里進行關(guān)系提取的開源框架，可以用于擴展知識圖譜，是推薦系統(tǒng)、搜索引擎、問題解答這些應(yīng)用的基礎(chǔ)和關(guān)鍵技術(shù)。

實驗室由孫茂松教授領(lǐng)銜，帶出了一批骨干老師，以及本碩博的尖子。THUNLP 在 GitHub 上得到的 star，已經(jīng)跟全球最強的斯坦福 NLP 小組的 star 差不多了。

由此帶出的第三代學(xué)生梯隊也人才濟濟。清華姚班自不必說，去年以本科人才培養(yǎng)著名的姚期智教授又開設(shè)智班，重點培養(yǎng)人工智能領(lǐng)域的后備軍。

姚班畢業(yè)，目前在 MIT 就讀的博士生胡淵鳴，設(shè)計、實現(xiàn)了 Taichi 編程語言及其優(yōu)化編譯器，后生可畏。[3]

另外，清華和企業(yè)以實驗室形式的合作，碩果累累，吸引了像張亞勤、沈向洋這樣的大師級科學(xué)家加入。

比如，清華和微軟研究院合作了 Convlab 開源端到端對話系統(tǒng) [4]，和美團合作了視頻動作分析的開源數(shù)據(jù)集 COIN [5]。

去年，清華-伯克利深圳學(xué)院更是成立了“RISC-V 國際開源實驗室”，直接將圖靈獎得主、最早提出“精簡指令集”（RISC）體系的大衛(wèi)·帕特森（David Patterson）引入，抓住了開源和源創(chuàng)的源頭，有可能在芯片領(lǐng)域形成新的開源 CPU 生態(tài)體系，打造國家重器。