亞馬遜AWS主任科學(xué)家Anima Anandkumar宣布即將離職

亞馬遜AWS主任科學(xué)家Anima Anandkumar宣布即將離職，并在個(gè)人主頁上發(fā)表離職感言，詳細(xì)梳理了兩年來在AWS的工作成果和歷程，并對(duì)AWS和共事的同事以及Jeff Bezos表示感謝，不過她在文中并未透露下一步的去向。

今天，亞馬遜AWS主任科學(xué)家Anima Anandkumar在其個(gè)人主頁上發(fā)布的離職感言，文中比較詳細(xì)地梳理了她兩年來的在亞馬遜AWS的工作歷經(jīng)，并對(duì)AWS和與其共事的同事以及Jeff Bezos表示感謝，文中并沒有透露自己下一步的去向。新智元對(duì)此文編譯如下：

我最近將離開亞馬遜AWS主任科學(xué)家的崗位。在這里，我想回憶一下我過去兩年豐富的學(xué)習(xí)經(jīng)歷以及我們所取得的驚人成就。

加入亞馬遜AWS是我一次在學(xué)術(shù)界之外的“產(chǎn)業(yè)界”任職。我選擇AWS有幾個(gè)原因。我認(rèn)為人工智能的民主化具有巨大潛力，AWS是功能最全面、應(yīng)用范圍最廣的云平臺(tái)。兩年前，云AI仍然是一個(gè)未知的領(lǐng)域，讓這份工作成為一次令人興奮的冒險(xiǎn)。將應(yīng)用AI研究引入AWS這件事也很吸引我。

在擔(dān)任這個(gè)職位初期，我很興奮，也很忙碌。我們是一個(gè)新的團(tuán)隊(duì)，工作環(huán)境和氛圍和創(chuàng)業(yè)公司類似，同時(shí)與西雅圖團(tuán)隊(duì)和更大的亞馬遜生態(tài)系統(tǒng)保持聯(lián)系。學(xué)習(xí)所有AWS服務(wù)，軟件工程實(shí)踐，產(chǎn)品管理等方面有著陡峭的學(xué)習(xí)曲線，我們一邊忙著拓展團(tuán)隊(duì)，設(shè)計(jì)新的人工智能服務(wù)，同時(shí)考慮研究方向的問題。

我為過去兩年取得的成就感到自豪。我們?cè)诟鱾€(gè)層面都推出了大量AI服務(wù)。

底層是計(jì)算實(shí)例，最新的GPU實(shí)例就是功能強(qiáng)大的NVIDIA Tesla V100。

中間層包括SageMaker，一個(gè)高性能dockerized機(jī)器學(xué)習(xí)算法的完全托管服務(wù)，以及首款無縫集成AWS的深度學(xué)習(xí)相機(jī)Deeplens。

頂層包括計(jì)算機(jī)視覺，自然語言處理，語音識(shí)別等服務(wù)。我們?cè)诳蛻魯U(kuò)展方面取得了很大進(jìn)展，如今AWS云機(jī)器學(xué)習(xí)服務(wù)的客戶數(shù)量為業(yè)界最高。

此外，AWS機(jī)器學(xué)習(xí)實(shí)驗(yàn)室還為自定義用例提供高級(jí)解決方案。我與許多客戶進(jìn)行了交流，了解不同領(lǐng)域的真實(shí)AI部署令人大開眼界。

我最關(guān)注的是SageMaker的設(shè)計(jì)、開發(fā)和推出。SageMaker的廣泛采用使得AWS的機(jī)器學(xué)習(xí)用戶群比去年增加了250％以上。SageMaker讓機(jī)器學(xué)習(xí)的每個(gè)步驟不再那么繁重、復(fù)雜、依靠猜測。SageMaker主題建?？梢宰詣?dòng)對(duì)文檔進(jìn)行大規(guī)模分類，分類速度比其他任何開源框架快幾倍。

在AWS開展應(yīng)用研究是很令人興奮的事。我們努力尋找現(xiàn)實(shí)世界中構(gòu)成最大障礙的問題。 “數(shù)據(jù)問題”即眾所周知的“房間里的大象”問題。雖然研究人員在現(xiàn)有的基準(zhǔn)數(shù)據(jù)集上進(jìn)行研究，但現(xiàn)實(shí)世界中的大部分時(shí)間和精力都花在了數(shù)據(jù)收集和清理上。我們?cè)谠S多領(lǐng)域開發(fā)并測試了高效的深度主動(dòng)學(xué)習(xí)，以及眾包和半監(jiān)督學(xué)習(xí)方法。我們發(fā)現(xiàn)深度網(wǎng)絡(luò)可以用很少的數(shù)據(jù)（不到25％）進(jìn)行訓(xùn)練。

我也很高興將我的關(guān)于張量的早期研究與深度學(xué)習(xí)聯(lián)系起來，開發(fā)出新的深度網(wǎng)絡(luò)，能夠自然編碼數(shù)據(jù)維度和高階相關(guān)性。Tensorly是類似Keras的前端，可以在任何后端的深度學(xué)習(xí)中輕松使用張量代數(shù)運(yùn)算。

而且，在實(shí)踐中，即使理論無法解釋，簡單的方法也能發(fā)揮作用。我們?cè)噲D通過尋找簡單方法可證明成功的條件，然后通過實(shí)驗(yàn)驗(yàn)證這些條件來縮小理論與實(shí)踐的差距。例如，我們發(fā)現(xiàn)1位梯度量化幾乎沒有精度損失，但在理論上和實(shí)踐中都降低了分布式機(jī)器學(xué)習(xí)的通信要求。所有這些項(xiàng)目都由一群優(yōu)秀的實(shí)習(xí)生和AWS的科學(xué)家來執(zhí)行。

2017年3月，Anima Anandkumar與Jeff Bezos等人在一起

AWS為我提供了一個(gè)社區(qū)外延平臺(tái)，實(shí)現(xiàn)人工智能的民主化。我努力與大學(xué)和非營利組織建立伙伴關(guān)系。加州理工學(xué)院與亞馬遜的合作資助了研究生獎(jiǎng)學(xué)金，建立云學(xué)分制度，這正在改變加州理工學(xué)院的基礎(chǔ)科學(xué)研究。此外，我們還在帕薩迪納建立了一個(gè)新的AWS辦公室，由Stefano Soatto和Pietro Perona掌舵。

我有幸與許多杰出的人一起工作并向他們學(xué)習(xí)。從資深A(yù)WS工程師和團(tuán)隊(duì)副總裁Swami Sivasubramanian那里了解AWS發(fā)展的早期階段，讓我很受啟發(fā)。我有幸從最優(yōu)秀的人那學(xué)習(xí)新的技能：如JosephSpisak的產(chǎn)品管理，Craig Wiley的團(tuán)隊(duì)管理，LeoDirac的軟件工程，Zachary Lipton的清晰明確的表述，Sunil Mallya的機(jī)器學(xué)習(xí)實(shí)踐經(jīng)驗(yàn)等。參加MARS并與Jeff Bezos和許多其他超級(jí)巨星互動(dòng)，也讓我倍感榮幸。

總而言之，我非常感謝我在AWS學(xué)習(xí)的經(jīng)歷。接下來，我將談?wù)勎壹磳⑼瞥龅挠?jì)劃。敬請(qǐng)關(guān)注！

Anima Anandkumar人物簡介

Anima Anandkumar，曾任亞馬遜AWS主任科學(xué)家，她的研究興趣領(lǐng)域包括大規(guī)模機(jī)器學(xué)習(xí)，非凸優(yōu)化和高維統(tǒng)計(jì)。她一直致力于機(jī)器學(xué)習(xí)張量算法的開發(fā)和分析。張量是矩陣的多維擴(kuò)展，可以編碼數(shù)據(jù)中的高階關(guān)系。在AWS擔(dān)任主任科學(xué)家期間，致力于在堆棧的所有層級(jí)上構(gòu)建AI服務(wù)。

她是多個(gè)獎(jiǎng)項(xiàng)的獲得者，P. Sloan獎(jiǎng)學(xué)金，微軟教師獎(jiǎng)學(xué)金，谷歌研究獎(jiǎng)，ARO和AFOSR青年研究員獎(jiǎng)，NSF職業(yè)獎(jiǎng)，UCI早期職業(yè)卓越研究獎(jiǎng)，ACM Sigmetrics社會(huì)最佳論文獎(jiǎng)，IBM Fran Allen博士獎(jiǎng)學(xué)金及最佳論文獎(jiǎng)。

她于2004年獲得IIT Madras電氣工程學(xué)士學(xué)位，并于2009年獲得康奈爾大學(xué)博士學(xué)位。2009年至2010年在麻省理工學(xué)院擔(dān)任博士后研究員，在英國擔(dān)任助理教授。 2010年至2016年任加州大學(xué)埃爾文分校助理教授，2012年和2014年在新英格蘭微軟研究院擔(dān)任客座研究員，自2016年起擔(dān)任亞馬遜AWS主任科學(xué)家，自2017年起擔(dān)任加州理工學(xué)院Bren教授。