數(shù)據(jù)科學(xué)家與機(jī)器學(xué)習(xí)工程師怎么區(qū)分

十年來，我們一直在談?wù)摂?shù)據(jù)科學(xué)和數(shù)據(jù)科學(xué)家。雖然在怎么才叫“數(shù)據(jù)科學(xué)家”的問題上始終存在著爭議，但如今已有很多大學(xué)、網(wǎng)校和訓(xùn)練營都在提供數(shù)據(jù)科學(xué)課程：碩士學(xué)位、資格證書等等，凡是你能想到的都有。當(dāng)我們只有統(tǒng)計(jì)學(xué)的時(shí)候，這個(gè)世界顯得更加簡單，但簡單并不總是科學(xué)的。而除了世界對(duì)數(shù)據(jù)科學(xué)家的需求程度以外，數(shù)據(jù)科學(xué)課程如此多種多樣，其實(shí)也說明不了什么。

隨著數(shù)據(jù)科學(xué)領(lǐng)域的發(fā)展，出現(xiàn)了很多難以區(qū)分的專業(yè)。公司用“數(shù)據(jù)科學(xué)家”和“數(shù)據(jù)科學(xué)團(tuán)隊(duì)”來描述各種各樣的角色，包括：

進(jìn)行專門分析與報(bào)告（包括商業(yè)智能和商業(yè)分析）的人

負(fù)責(zé)統(tǒng)計(jì)分析和建模（很多情況下會(huì)涉及到正式的實(shí)驗(yàn)和測(cè)試）的人

越來越多地使用筆記本電腦來開發(fā)原型的機(jī)器學(xué)習(xí)建模師

這當(dāng)中并沒有提及DJ·帕提爾（DJ Patil）和杰夫·哈默巴赫（Jeff Hammerbacher）在發(fā)明“數(shù)據(jù)科學(xué)家”這個(gè)稱謂時(shí)所想到的人——依據(jù)數(shù)據(jù)打造產(chǎn)品的人。

他們所想的這種數(shù)據(jù)科學(xué)家倒是跟機(jī)器學(xué)習(xí)建模師最為接近，只不過他們的工作是打造產(chǎn)品——一切以產(chǎn)品為中心，而不是秉持著研究人員的身份。他們的工作通常涉及到數(shù)據(jù)產(chǎn)品的很大一部分。無論具體的職務(wù)為何，數(shù)據(jù)科學(xué)家的角色絕非單純的統(tǒng)計(jì)學(xué)家。他們往往擁有理科博士學(xué)位，在處理大量數(shù)據(jù)方面擁有豐富的實(shí)踐經(jīng)驗(yàn)。他們基本上都是優(yōu)秀的程序員，絕非只是精通R或其他某種統(tǒng)計(jì)軟件包。他們懂得數(shù)據(jù)獲取、數(shù)據(jù)清洗、原型開發(fā)、原型投產(chǎn)、產(chǎn)品設(shè)計(jì)、搭建和管理數(shù)據(jù)設(shè)施等等。在實(shí)踐中，他們是典型的硅谷“獨(dú)角獸”：稀有，非常難招到。

重點(diǎn)并不是我們?cè)O(shè)立了邊界明確的專業(yè)。在一個(gè)欣欣向榮的領(lǐng)域里，總會(huì)存在著十分廣袤的灰色地帶。真正讓“數(shù)據(jù)科學(xué)”發(fā)揮出了強(qiáng)大威力的，是在人們意識(shí)到，數(shù)據(jù)不僅止于精算統(tǒng)計(jì)、商業(yè)智能和數(shù)據(jù)倉庫的時(shí)候。將數(shù)據(jù)人和其他部門（軟件開發(fā)、營銷、管理、人力資源）隔離開來的筒倉被打破后，數(shù)據(jù)科學(xué)才真正彰顯出了自己的獨(dú)特之處。這門學(xué)科的中心思想，便是數(shù)據(jù)適用于萬事萬物。數(shù)據(jù)科學(xué)家的使命就是收集和利用所有的數(shù)據(jù)。所有部門都會(huì)牽涉其中。

當(dāng)我們找不著獨(dú)角獸的時(shí)候，就把他們的能力分解成不同的專業(yè)，而數(shù)據(jù)科學(xué)在開始盛行起來后，也遭遇了這一出。突然之間，我們就有了數(shù)據(jù)工程師。數(shù)據(jù)工程師并非以數(shù)學(xué)家或統(tǒng)計(jì)學(xué)家為主要身份，但他們都懂?dāng)?shù)學(xué)和統(tǒng)計(jì)學(xué)；他們的主要身份也不是軟件開發(fā)人員，但他們也懂軟件。數(shù)據(jù)工程師負(fù)責(zé)數(shù)據(jù)堆棧的操作和維護(hù)。他們能讓筆記本電腦上運(yùn)行的原型在生產(chǎn)中可靠運(yùn)行。他們負(fù)責(zé)弄清楚如何搭建和維護(hù)Hadoop或Spark集群，還有整個(gè)生態(tài)系統(tǒng)中的很多其他工具：數(shù)據(jù)庫（比如Hbase、Cassandra），流數(shù)據(jù)平臺(tái)（Kafka、SparkStreaming、Apache Flink），還有更多的活動(dòng)部件［princeray1］ 。他們知道如何在云端操作，充分利用Amazon Web Services、MicrosoftAzure和Google Compute Engine的性能。

如今，我們已經(jīng)進(jìn)入了“數(shù)據(jù)科學(xué)”的第二個(gè)十年，機(jī)器學(xué)習(xí)已大行其道，于是“數(shù)據(jù)工程師”的定義也變得更加明確。2015年，谷歌發(fā)表了一篇后來得到廣泛引用的論文，里面凸顯了一項(xiàng)事實(shí)：除了分析模型以外，現(xiàn)實(shí)世界中的機(jī)器學(xué)習(xí)系統(tǒng)還有很多其他構(gòu)成要素。企業(yè)開始注重打造數(shù)據(jù)產(chǎn)品，并將他們一直以來所采用的技術(shù)運(yùn)用到生產(chǎn)中。在任何應(yīng)用中，嚴(yán)格屬于“機(jī)器學(xué)習(xí)”的部分其實(shí)都不算大：總需要有人去維護(hù)服務(wù)器設(shè)施，監(jiān)控?cái)?shù)據(jù)收集管道，確保計(jì)算資源充足什么的。于是，開始有越來越多的企業(yè)建立機(jī)器學(xué)習(xí)工程師隊(duì)伍。這其實(shí)算不上一個(gè)新的專業(yè)領(lǐng)域，隨著機(jī)器學(xué)習(xí)（尤其是深度學(xué)習(xí)）在數(shù)據(jù)科學(xué)圈子里變得炙手可熱，數(shù)據(jù)工程師必然會(huì)有進(jìn)一步的發(fā)展空間。但是機(jī)器學(xué)習(xí)工程師和數(shù)據(jù)工程師之間的區(qū)別到底是什么呢？

從某種程度上來說，機(jī)器學(xué)習(xí)工程師所做的正是一直以來軟件工程師（和優(yōu)秀數(shù)據(jù)工程師）的工作。以下是機(jī)器學(xué)習(xí)工程師的幾個(gè)重要特征：

·他們擁有比常見的數(shù)據(jù)科學(xué)家更厲害的軟件工程技能。機(jī)器學(xué)習(xí)工程師能夠和維護(hù)產(chǎn)品系統(tǒng)的工程師協(xié)同工作（有時(shí)就在同一個(gè)團(tuán)隊(duì)）。他們懂得軟件開發(fā)方法、敏捷實(shí)踐和現(xiàn)代軟件開發(fā)人員使用的全套工具，從Eclipse和IntelliJ這樣的集成開發(fā)環(huán)境，到持續(xù)部署流水線的各個(gè)環(huán)節(jié)，他們樣樣精通。

由于他們的焦點(diǎn)放在能讓數(shù)據(jù)產(chǎn)品順利投產(chǎn)上，他們會(huì)進(jìn)行全面思考，甚至將日志記錄、AB測(cè)試設(shè)施等環(huán)節(jié)也一并考慮進(jìn)來。

他們對(duì)在生產(chǎn)活動(dòng)中監(jiān)控?cái)?shù)據(jù)產(chǎn)品所特有的問題有著最新的認(rèn)識(shí)。監(jiān)控應(yīng)用程序的辦法有很多，但機(jī)器學(xué)習(xí)讓這個(gè)任務(wù)的要求上升到了一個(gè)新的層面。數(shù)據(jù)管道和模型都有可能過時(shí)，需要重新訓(xùn)練，也可能遭到對(duì)手采用并不適用于傳統(tǒng)網(wǎng)絡(luò)應(yīng)用的方式大肆攻擊。機(jī)器學(xué)習(xí)系統(tǒng)會(huì)不會(huì)因?yàn)樘峁┹斎氲臄?shù)據(jù)管道被黑而失真？會(huì)，所以機(jī)器學(xué)習(xí)工程師必須知道可如何探測(cè)到這些攻擊。

深度學(xué)習(xí)的興起催生出一種與其相關(guān)但更加專門化的崗位——深度學(xué)習(xí)工程師。我們還看到了“數(shù)據(jù)運(yùn)維團(tuán)隊(duì)”的出現(xiàn)，但在如何定義這類團(tuán)隊(duì)的問題上，（截至目前）人們似乎仍未達(dá)成共識(shí)。

機(jī)器學(xué)習(xí)工程師的工作涉及到軟件架構(gòu)和設(shè)計(jì)。他們懂得AB測(cè)試這樣的實(shí)務(wù)操作，但更重要的是，他們不只是“懂得”AB測(cè)試——他們還知道如何進(jìn)行生產(chǎn)系統(tǒng)的AB測(cè)試。他們也懂得日志、安全這一類的問題，而且知道如何讓日志數(shù)據(jù)在數(shù)據(jù)工程師那里派上用場(chǎng)。所有這一切沒有什么新鮮東西：這只是崗位的深化，而不是改變。

機(jī)器學(xué)習(xí)和“數(shù)據(jù)科學(xué)”又有什么不同？顯然，數(shù)據(jù)科學(xué)的涵蓋面更廣，但深度學(xué)習(xí)的工作方式卻存在著一些格外不同的地方。人們總是容易把數(shù)據(jù)科學(xué)家想象成挖掘數(shù)據(jù)的人——研究不同的方法和模型，從中找出一個(gè)切實(shí)可行的。圖基（Tukey）的探索性數(shù)據(jù)分析等經(jīng)典方法為很多數(shù)據(jù)科學(xué)家迄今為止的工作定下了基調(diào)：挖掘分析大量數(shù)據(jù)，找到其中隱藏的價(jià)值。

深度學(xué)習(xí)顯著改變了這種模式。你不再親自處理數(shù)據(jù)。你知道你想要什么樣的結(jié)果，但你讓軟件去發(fā)現(xiàn)它。你想要打造一臺(tái)能夠打敗圍棋冠軍、正確標(biāo)記照片或者實(shí)現(xiàn)語言翻譯的機(jī)器。在機(jī)器學(xué)習(xí)的范疇中，這些目標(biāo)不會(huì)通過細(xì)致的挖掘來達(dá)成。在很多情況下，要挖掘的數(shù)據(jù)量實(shí)在太大，維度也太多。（圍棋的維度有多少？語言的維度呢？）機(jī)器學(xué)習(xí)能做到的，就是自己建立模型——自己進(jìn)行數(shù)據(jù)挖掘和調(diào)整。

于是，數(shù)據(jù)科學(xué)家并沒有做多少挖掘的工作。他們的目標(biāo)并非找到數(shù)據(jù)的意義。他們認(rèn)為價(jià)值本來就在那里。他們真正的目標(biāo)是打造能夠分析數(shù)據(jù)和生成結(jié)果的機(jī)器——?jiǎng)?chuàng)建出一張可以被調(diào)教到能使用輸入數(shù)據(jù)生成可靠結(jié)果的神經(jīng)網(wǎng)絡(luò)。統(tǒng)計(jì)學(xué)不再那么重要。事實(shí)上，機(jī)器學(xué)習(xí)的大神器是“大眾化”，讓機(jī)器學(xué)習(xí)系統(tǒng)可由主題專家而不是人工智能博士打造。我們想讓圍棋選手打造出下一代的AlphaGo，而不是研究人員。我們想讓說西班牙語的人打造出能把其他語言自動(dòng)翻譯成西班牙語的引擎。

這種變化也對(duì)機(jī)器學(xué)習(xí)工程師產(chǎn)生了相應(yīng)的影響。在機(jī)器學(xué)習(xí)的范疇里，模型不是靜態(tài)的。隨著時(shí)間的推移，模型可能會(huì)逐漸失效。必須有人來監(jiān)控系統(tǒng)，在必要時(shí)對(duì)其重新訓(xùn)練。這項(xiàng)工作對(duì)于當(dāng)初打造該系統(tǒng)的開發(fā)人員來說，可能很是無趣，但當(dāng)中的技術(shù)性卻很強(qiáng)。而且，這也需要對(duì)監(jiān)控工具有充分了解，因?yàn)檫@些監(jiān)控工具在設(shè)計(jì)時(shí)并不會(huì)考慮到數(shù)據(jù)應(yīng)用的問題。

所有的軟件開發(fā)人員和IT從業(yè)人員都應(yīng)該對(duì)安全性這個(gè)問題有所了解。據(jù)我們所知，尚未出現(xiàn)過專門針對(duì)機(jī)器學(xué)習(xí)系統(tǒng)的嚴(yán)重攻擊。但機(jī)器學(xué)習(xí)系統(tǒng)將成日漸成為誘人的攻擊目標(biāo)。機(jī)器學(xué)習(xí)會(huì)帶來怎樣的新型漏洞？有沒有可能在訓(xùn)練系統(tǒng)用的數(shù)據(jù)中“下毒”，或者強(qiáng)迫系統(tǒng)在錯(cuò)誤的時(shí)候接受重新訓(xùn)練？由于機(jī)器學(xué)習(xí)系統(tǒng)會(huì)自我訓(xùn)練，我們需要想到，全新漏洞類型的出現(xiàn)必不可免。

隨著工具的改進(jìn)，我們將看到更多的數(shù)據(jù)科學(xué)家有能力轉(zhuǎn)型到生產(chǎn)系統(tǒng)領(lǐng)域。云環(huán)境和軟件即服務(wù)（SaaS）讓數(shù)據(jù)科學(xué)家能夠更簡單地部署數(shù)據(jù)科學(xué)原型，將其投入生產(chǎn)，而諸如Clipper、Ground（美國加州大學(xué)伯克利分校RISE實(shí)驗(yàn)室的新項(xiàng)目）這樣的開源工具也正開始涌現(xiàn)。但我們?nèi)詫⑿枰獢?shù)據(jù)工程師和機(jī)器學(xué)習(xí)工程師——那些通曉數(shù)據(jù)科學(xué)和機(jī)器學(xué)習(xí)知識(shí)，知道如何在生產(chǎn)中部署和運(yùn)行系統(tǒng)，能夠?yàn)闄C(jī)器學(xué)習(xí)產(chǎn)品提供支持的工程師。他們才是最終極的“人性因素”。