繼AutoML后,第四范式發(fā)布軟硬一體化AI集成系統(tǒng)SageOne

6 月 20 日，AI產(chǎn)品和服務(wù)提供商第四范式宣布發(fā)布最新 AI 系列產(chǎn)品SageOne Appliance軟硬一體化AI集成系統(tǒng)，性能較市面開源工具或GPU解決方案至少提高6倍。這是繼 2018 年9 月 18 日第四范式發(fā)布自動機器學(xué)習(xí)平臺AI 先知 AutoML 與計算機視覺平臺AI 先知 AutoCV 兩款產(chǎn)品之后的又一系列AI新產(chǎn)品。同時，該公司還發(fā)布了“啟航”合作伙伴計劃，對合作伙伴開放“先知”生態(tài)體系建設(shè)。

SageOne Appliance軟硬一體化AI集成系統(tǒng)

在幫助企業(yè)轉(zhuǎn)型及應(yīng)用AI的過程中，第四范式總結(jié)出企業(yè)AI轉(zhuǎn)型的“1+N”戰(zhàn)略方法?！?”是指利用AI達(dá)到極致效果，在自己的核心業(yè)務(wù)上建立絕對優(yōu)勢；“N”是借力科技創(chuàng)新帶來的基礎(chǔ)設(shè)施成本的降低，規(guī)?；穆涞赜诟鄻I(yè)務(wù)場景，提升整體經(jīng)營效率。

第四范式創(chuàng)始人&CEO戴文淵表示，企業(yè)的核心業(yè)務(wù)通常有1或數(shù)個，在實際經(jīng)營中，核心業(yè)務(wù)創(chuàng)造的營收占比可達(dá)80%甚至更多，因而1%的提升就足以改變企業(yè)競爭格局。如果企業(yè)能高效地完成一千個場景的全面覆蓋，即使每個場景只提升1倍，那也是百分之百的提升。面對場景眾多的企業(yè)，AI的“規(guī)?；涞亍蹦芰κ瞧髽I(yè)全面智能化轉(zhuǎn)型的關(guān)鍵。

第四范式聯(lián)合創(chuàng)始人、首席架構(gòu)師胡時偉表示：傳統(tǒng)算力和AI應(yīng)用負(fù)載之間存在天然的鴻溝，傳統(tǒng)算力只是解決在計算、訪存、I/O帶寬的局部密集問題，而AI應(yīng)用負(fù)載則需要解決全部密集的問題。發(fā)展企業(yè)級AI專用算力已經(jīng)成為行業(yè)的普遍共識和大勢所趨。

為解決這些問題，第四范式發(fā)布了最新AI產(chǎn)品SageOne Appliance軟硬一體化AI集成系統(tǒng)，共發(fā)布 SageOne Advanced、SageOne Standard 和 SageOne WorkStation 三大系列共7款產(chǎn)品，覆蓋大中小企業(yè)中開發(fā)、投產(chǎn)和驗證等全部場景應(yīng)用。

據(jù)介紹，SageOne Appliance 的整體架構(gòu)如下圖所示，由AI應(yīng)用、AI平臺、AI核心引擎和硬件基礎(chǔ)設(shè)施四部分組成。

▌三大核心引擎

第四范式 SageOne 借助自研AI訓(xùn)練引擎、AI推理引擎和AI特征存儲引擎三大引擎的領(lǐng)先技術(shù)，針對硬件中的芯片、存儲、網(wǎng)絡(luò)等組件進(jìn)行了重新定義，根據(jù)企業(yè)AI應(yīng)用的實際情況進(jìn)行了專用計算架構(gòu)、資源管理和調(diào)度等進(jìn)行深度優(yōu)化和加速，為企業(yè) “1+N”AI應(yīng)用提供充沛算力。

AI訓(xùn)練引擎——全面加速高維機器學(xué)習(xí)過程

SageOne AI 訓(xùn)練引擎以自研高維機器學(xué)習(xí)分布式框架GDBT和高維算法為基礎(chǔ)，并使用第四范自主研發(fā)的硬件加速卡4Paradigm ATX800，該卡采用20nm制程，算力達(dá)到1.5TFLOPS，內(nèi)置FlashGBM加速系統(tǒng)，充分用內(nèi)存和高速緩存帶寬，支持自動優(yōu)化訓(xùn)練超參數(shù)、高位特征計算過程I/O加速和高維 GBDT 訓(xùn)練加速等功能，在企業(yè)應(yīng)用場景中表現(xiàn)出多達(dá) 10 倍的訓(xùn)練性能。

此外，第四范式和英特爾聯(lián)合實驗室針對最新Cascade Lake-AP處理器的全新AVX512指令集、多核心及主頻利用率和CLX AP微架構(gòu)IO總線的利用率進(jìn)行了全面優(yōu)化。

SageOne內(nèi)置第四范式自主研發(fā)的高維、分布式網(wǎng)絡(luò)通訊協(xié)議Swift，集成P-PRC自研網(wǎng)絡(luò)通信框架、零拷貝數(shù)據(jù)交換協(xié)議等通訊技術(shù)，結(jié)合基于CLX-AP架構(gòu)的參數(shù)服務(wù)器集群。SageOne在高維特征計算過程I/O最大10X加速，高維稀疏場景模型訓(xùn)練比GPU提速5X以上，自研pRPC通信框架比百度bRPC和谷歌gRPC提速3-10X。

AI推理引擎，實時AI推理能力

SageOne內(nèi)置自研實時特征計算引擎和模型預(yù)估引擎，為企業(yè)AI應(yīng)用提供特征處理過程免開發(fā)上線、線下線上一致性保證、一鍵生成預(yù)估服務(wù)、異構(gòu)模型統(tǒng)一服務(wù)等AI核心應(yīng)用服務(wù)，結(jié)合非易失性存儲的無限緩存和超低延遲內(nèi)存存儲等硬件技術(shù)，確保企業(yè)AI應(yīng)用時具備海量量時序特征計算和萬億維模型實時推理能力的同時，提供百萬級并發(fā)實時請求支持和99.9%請求毫秒級響應(yīng)的高并發(fā)業(yè)務(wù)極速響應(yīng)服務(wù)。

AI特征存儲引擎，超低延時在線AI數(shù)據(jù)治理

面向AI的數(shù)據(jù)治理是企業(yè)AI規(guī)模化落地的基礎(chǔ)，針對企業(yè)中多源異構(gòu)數(shù)據(jù)對接、離線在線數(shù)據(jù)一致性管理、回流數(shù)據(jù)自動標(biāo)準(zhǔn)及權(quán)限、審計等眾多治理需求，SageOne借由自研內(nèi)存時序數(shù)據(jù)庫引擎的優(yōu)勢，具備毫秒級海量時序特征供給性能，并通過融合InfiniCache無限緩存等技術(shù)，實現(xiàn)自動切換存儲介質(zhì)優(yōu)化TCO和 RAFT一致性災(zāi)備與恢復(fù)等高性能企業(yè)級標(biāo)準(zhǔn)。SageOne利用超低延遲數(shù)據(jù)訪問接口、超高數(shù)據(jù)吞吐傳輸通道和水平擴展動態(tài)擴容服務(wù)等突出能力，為企業(yè)AI應(yīng)用構(gòu)建了超低延遲在線數(shù)據(jù)治理能力。

值得一提的是，SageOne 存儲引擎中使用的 RTIDB 是業(yè)界首個AI特征數(shù)據(jù)庫。胡時偉分析道，市面上有很多數(shù)據(jù)庫，如關(guān)系型數(shù)據(jù)庫、分析型數(shù)據(jù)庫等主要是人對數(shù)據(jù)進(jìn)行處理并得到結(jié)果，但是，AI數(shù)據(jù)庫要解決的問題不是給人看的，而是給機來“看”，所以對于吞吐量、一致性的要求較高。因為第四范式要解決1+N的問題，原來面向傳統(tǒng)應(yīng)用的數(shù)據(jù)庫應(yīng)用起來非常不順利，會產(chǎn)生很多折損，但按照AI數(shù)據(jù)庫的架構(gòu)，用全量、實時、一致性的數(shù)據(jù)標(biāo)注，可以更好地支持核心場景和應(yīng)用。軟件層面要求實時性和全量兼顧，這就會產(chǎn)生內(nèi)存不足、網(wǎng)絡(luò)傳輸吞吐量的問題，因

此，軟硬一體化和無限閃存技術(shù)可以彌補傳統(tǒng)的系統(tǒng)架構(gòu)中內(nèi)存成本太高、磁盤延遲太大的問題，以相同的代價實現(xiàn)性能提高十倍以上，同時保持延遲基本相同。

軟件目標(biāo)的體系架構(gòu)和算法的設(shè)計，再加上硬件的支持，是這套數(shù)據(jù)庫的特點。

特點：高維計算、實時決策

相比于同類產(chǎn)品，SageOne 的優(yōu)勢在于高維計算和實時決策。

第四范式自主研發(fā)的高維機器學(xué)習(xí)算法，面對企業(yè)海量多源異構(gòu)的數(shù)據(jù)場景，特征維度可以達(dá)到6500萬，在同等維度下，大部分的開源工具或GPU解決方案會以失敗告終。同時，模型的預(yù)測效果提升，比如金融風(fēng)控的性能提升9倍，金融反洗錢的效率提高6倍。

另外，SageOne通過毫秒級數(shù)據(jù)響應(yīng)和百萬級吞吐量實時提升核心業(yè)務(wù)成效，讓原本只能出現(xiàn)于“事后”的統(tǒng)計分析，轉(zhuǎn)變成為 “事中”實時業(yè)務(wù)決策AI應(yīng)用。在企業(yè)核心場景的實時業(yè)務(wù)決策中，15個SageOne推理引擎節(jié)點都夠支撐20億維特征模型實時2萬次并發(fā)請求，其中99.9%請求在100ms內(nèi)響應(yīng)，大幅提升實時決策在核心業(yè)務(wù)場景中的關(guān)鍵價值。

最后，胡時偉表示，對于中小企業(yè)或者處于擁抱AI的初級階段的公司，可以采用SageOne Standard產(chǎn)品，SageOne WorkStation和SageOne Advanced產(chǎn)品也可以使用。

此外，第四范式還展示了全面國產(chǎn)化的AI軟硬一體機——領(lǐng)航，產(chǎn)品內(nèi)置國產(chǎn)化的CPU、BIOS、網(wǎng)卡和操作系統(tǒng)等軟硬組件，融合了第四范式的企業(yè)級先知Sage平臺中自研高維機器學(xué)習(xí)框架、AutoML和實時自學(xué)習(xí)等。

SageOne機器學(xué)習(xí)框架和算法特點

相比于之前的先知平臺產(chǎn)品，SageOne在機器學(xué)習(xí)框架和算法上進(jìn)行了一些改進(jìn)和創(chuàng)新。

胡時偉表示，從方法論來講，從高維實時這個角度，SageOne繼承了之前先知平臺的優(yōu)勢，但是由于軟硬一體的設(shè)計，SageOne可以做到純軟做不到的事情，比如硬件和軟件一起加速的設(shè)計使得企業(yè)可以在同等投入的基礎(chǔ)上性能可以再提升十倍或更高，維度可以進(jìn)一步擴大，這個是原先純軟件方案做不到的。

第二，SageOne引入了存儲引擎，此前軟件是在傳統(tǒng)數(shù)據(jù)平臺上，但SageOne體系提出了全新的數(shù)據(jù)治理和架構(gòu)，規(guī)?；膽?yīng)用和數(shù)據(jù)閉環(huán)就要靠這個新的架構(gòu)，因為傳統(tǒng)大數(shù)據(jù)平臺底層的硬件架構(gòu)支持不了最新實時和一致性需求，所以SageOne引入數(shù)據(jù)庫產(chǎn)品，這是整個新的體系架構(gòu)中的創(chuàng)新。

獨立團(tuán)隊自研AI芯片，2019年更注重AI創(chuàng)造價值

軟硬件一體化已成為最近一些公司發(fā)布新產(chǎn)品的趨勢，將軟件解決方案直接嵌入到硬件設(shè)施中。第四范式也不例外。目前，第四范式在新加坡已經(jīng)有一支十多人規(guī)模的AI芯片研發(fā)團(tuán)隊，正在進(jìn)行軟硬件一體化的研究。戴文淵表示，現(xiàn)在產(chǎn)業(yè)已經(jīng)從軟件符合算力的階段向軟件定義算力的階段轉(zhuǎn)變，第四范式也將從整體到局部，依次做出改變。

2018 年 12 月 19日，第四范式宣布完成 C 輪融資，融資金額超過 10 億元人民幣，估值約 12 億美金，成為一支獨角獸，同時引入包括國新、啟迪、保利、三峽、中信、農(nóng)銀、交銀等戰(zhàn)略股東，紅杉中國繼續(xù)追加投資。2019年2月，第四范式入選CB Insights全球AI百強榜及領(lǐng)軍獨角獸榜單。

戴文淵透露，第四范式其實已經(jīng)有了上市規(guī)劃，但短期內(nèi)暫無具體計劃，上市板塊也需靈活選擇。戴文淵強調(diào)，上市不是目的，上市的方式需要適合第四范式的發(fā)展。

目前，第四范式已進(jìn)入金融、醫(yī)療、政府、能源、零售、媒體等領(lǐng)域，加速AI通用平臺在各行業(yè)的拓展和規(guī)?；涞貞?yīng)用。

最后，如果說2017年是AI技術(shù)井噴的一年，2018年是AI 落地的一年，那么 2019 年將會出現(xiàn)什么現(xiàn)象和改變呢？

對此，戴文淵給出了自己的想法：“2019年將會關(guān)注AI在各個行業(yè)里創(chuàng)造的價值，過去我們關(guān)注的是AI公司本身，比如又一個大牛出來了，好像寫了很多論文，好像拿了好多錢。但這個都不是根本，長期存在價值一定不是說簡歷好看，而是能不能持續(xù)給企業(yè)產(chǎn)生價值。”