3月25日下午,曠視科技舉辦線上發(fā)布會(huì),宣布開源新一代AI生產(chǎn)力平臺(tái)Brain++的核心深度學(xué)習(xí)框架曠視天元(MegEngine)。
據(jù)了解,天元的前身是曠視內(nèi)部自用的算法訓(xùn)練推理引擎MegEngine,由曠視3名實(shí)習(xí)生在2013年啟動(dòng)研發(fā),并與2014年正式完成上線。這款自研的深度學(xué)習(xí)框架支撐了曠視6年以來在國(guó)際AI競(jìng)賽的表現(xiàn),以及公司產(chǎn)品和業(yè)務(wù)的落地,目前服務(wù)于曠視研究院1400余名AI開發(fā)者。
發(fā)布會(huì)上,曠視聯(lián)合創(chuàng)始人兼CTO唐文斌正式宣布將MegEngine的代碼開源,并指出這是一套訓(xùn)練推理一體化、動(dòng)靜態(tài)合一的工業(yè)級(jí)深度學(xué)習(xí)框架,中文名字叫做天元。
據(jù)介紹,在傳統(tǒng)深度學(xué)習(xí)研發(fā)中,產(chǎn)品從原型到生產(chǎn)部署往往需要分開設(shè)計(jì)和調(diào)用訓(xùn)練框架和推理框架兩種框架,這就導(dǎo)致模型在訓(xùn)練和推理的轉(zhuǎn)換的過程中出現(xiàn)不明原因的性能或精度損失,需要開發(fā)者手工進(jìn)行優(yōu)化,而算法在計(jì)算平臺(tái)部署的時(shí)候出現(xiàn)各種問題也無法追溯。
天元框架避免了這樣的問題,通過訓(xùn)練、推理一體化的機(jī)制省去模型轉(zhuǎn)換的過程,可直接將訓(xùn)練后的模型進(jìn)行推理,并保證跨設(shè)備的模型精度對(duì)齊,同時(shí)天元內(nèi)置自動(dòng)模型優(yōu)化、簡(jiǎn)化流程,減少因手工操作的機(jī)會(huì),降低出錯(cuò)概率。
除此之外,天元配置了 Python 和 C++ 接口,支持動(dòng)態(tài)圖、靜態(tài)圖一鍵轉(zhuǎn)換和混合編程,可使用高級(jí)編程語(yǔ)言進(jìn)行圖優(yōu)化和圖編譯。在運(yùn)行時(shí)管理環(huán)節(jié),天元具備執(zhí)行流與調(diào)度器,采用動(dòng)態(tài)、靜態(tài)內(nèi)存分配并存的方式,并通過自動(dòng)的亞線性內(nèi)存管理優(yōu)化器可以得到更好的內(nèi)存優(yōu)化效果;在底層設(shè)計(jì)上,天元的計(jì)算內(nèi)核兼容主流計(jì)算設(shè)備,且支持多機(jī)多卡和分布式訓(xùn)練。而為了解決模型復(fù)現(xiàn)困難的問題,天元?jiǎng)t支持 PyTorch Module 導(dǎo)入,可針對(duì)計(jì)算機(jī)視覺任務(wù)進(jìn)行優(yōu)化。
目前,曠視已在中國(guó)新一代人工智能開源開放平臺(tái)OpenI啟智社區(qū)和開源社區(qū) GitHub 上同步發(fā)布了天元 Alpha 版源代碼,開發(fā)者也可以通過天元官方網(wǎng)站的在線深度學(xué)習(xí)工具免費(fèi)調(diào)用算力、獲取最新數(shù)據(jù)集和訓(xùn)練腳本,進(jìn)行簡(jiǎn)單訓(xùn)練和試用。
與此同時(shí),曠視為天元的開發(fā)者準(zhǔn)備了算法預(yù)訓(xùn)練模型ModelHub,支持開發(fā)者開箱即用。據(jù)悉,對(duì)于天元框架開源后的發(fā)展規(guī)劃,曠視透露將在技術(shù)貢獻(xiàn)者的幫助下,于6月份推出 Beta 版本。
-
人工智能
+關(guān)注
關(guān)注
1791文章
47282瀏覽量
238534 -
深度學(xué)習(xí)
+關(guān)注
關(guān)注
73文章
5503瀏覽量
121175
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論