機器學習博士推薦需要掌握的九種工具盤點

學術(shù)界在推進技術(shù)方面發(fā)揮了巨大作用，但學術(shù)界和工業(yè)界往往存在一種分割狀態(tài)。我們經(jīng)常會看到這種現(xiàn)象：無數(shù)很棒的輔助工具在學術(shù)界被忽視，但在工業(yè)界很受歡迎。對于很多研究者來說，學習一種新工具可能存在困難，不愿意花費過多的時間去嘗試，在當前自己掌握的工具足以應對各種問題時尤其如此。 其實，有些工具一時未見到效果，在后期可能會有十倍的回報。 來自劍橋大學的計算機科學博士生 Aliaksei Mikhailiuk 為我們整理了機器學習博士在獲得學位之前需要掌握的九種工具。他在劍橋大學獲得物理學碩士學位，在布里斯托大學獲得工程學士學位。他對研究、開發(fā)、部署感興趣，還能熟練掌握計算機視覺算法、聚合和自然語言處理等技術(shù)。現(xiàn)任職華為（英國）高級人工智能工程師。 ? ? ? ? ?

Mikhailiuk 將這些工具按用途分為四類：可隔離環(huán)境、實驗跟蹤、相互協(xié)作以及可視化。 ?

一、可隔離環(huán)境工具

機器學習是一個快速發(fā)展的領(lǐng)域，常用的包更新非常頻繁。盡管開發(fā)人員做出了努力，但較新的版本通常與舊版本不兼容，這樣給研究者帶來很多麻煩。幸運的是，有工具可以解決這個問題！在這一方面，Mikhailiuk 推薦了兩個工具：Docker 和 Conda。

1. Docker? ?

Mikhailiuk 攻讀博士學位期間，他有一臺由大學管理的機器，學校會定期進行更新。通常情況下是一夜之間更新，沒有任何通知。你可以想象，當更新后的第二天早上發(fā)現(xiàn)自己大部分工作與最新的驅(qū)動程序不兼容，是多么令人崩潰。Mikhailiuk 發(fā)現(xiàn) Docker 可以很好地解決。 ? ? ? Docker 允許將軟件包裝在稱為容器的包中。容器是具有自己的軟件、庫和配置文件的獨立單元。在一個簡化的視圖中，容器是一個獨立的虛擬操作系統(tǒng)，它具有與外部世界通信的手段。Docker 是一個開源的應用容器引擎，讓開發(fā)者可以打包他們的應用以及依賴包到一個可移植的容器中，然后發(fā)布到任何流行的 Linux 或 Windows 操作系統(tǒng)的機器上，也可以實現(xiàn)虛擬化，容器是完全使用沙箱機制，相互之間不會有任何接口。 ? 一個完整的 Docker 由以下幾個部分組成： ?

DockerClient 客戶端

Docker Daemon 守護進程

Docker Image 鏡像

DockerContainer 容器

2. Conda

現(xiàn)在，復用別人的代碼成為了一種新的規(guī)范。GitHub 作為一個代碼托管云服務網(wǎng)站，幫助開發(fā)者存儲和管理其項目源代碼，且能夠追蹤、記錄并控制用戶對其代碼的修改。研究者可以克隆上面的代碼，安裝并提出自己的解決方案，而不需要自己寫任何東西。 ? 但是 GitHub 也有不方便的情況，當多個項目一起使用時，你會遇到包管理問題，因為不同的項目需要不同版本的包。 ? Conda 可以解決這個問題 。Conda 是一個開源跨平臺語言無關(guān)的包管理與環(huán)境管理系統(tǒng)，它允許創(chuàng)建多個環(huán)境并快速安裝、運行和更新包及其依賴項，用戶可以在隔離的環(huán)境之間快速切換。 ? ? ? ? 二、運行、跟蹤和記錄實驗工具 ? 在應用領(lǐng)域想要獲得博士學位，嚴謹性和一致性是兩個基本支柱。假如你是研究機器學習模型的，或多或少都能遇到這種情況——你創(chuàng)建了許多不同的模型來試驗不同的參數(shù)甚至整個架構(gòu)。你還想嘗試優(yōu)化器的選擇、學習率、時期數(shù)等。因此，實際上，你將進行許多不同的實驗，并且將越來越難以整理結(jié)果。在這一方面，Aliaksei Mikhailiuk 向我們展示了如何正確方便地管理和記錄自己的 ML 和 DL 實驗工具，主要推薦了 Weights & Biases，MLFlow，Screen 工具。

3. Weights & Biases

wandb panel 一組簡單指標 Snapshot——訓練損失、學習率和平均驗證損失。請注意，你還可以跟蹤系統(tǒng)參數(shù)。 ? W&B（Weights & Biases） 是一個平臺，可以幫助數(shù)據(jù)科學家跟蹤他們的模型、數(shù)據(jù)集、系統(tǒng)信息等。只需幾行代碼，用戶就可以開始跟蹤有關(guān)這些功能的所有內(nèi)容。它免費供個人使用，團隊使用通常需要付費，但用于學術(shù)目的的團隊是免費的。你可以將 W&B 與自己喜歡的框架一起使用，例如 TensorFlow、Keras、PyTorch、SKlearn、fastai 等。 ? W&B 提供了以下 4 個有用的工具： ?

Dashboard：實驗跟蹤；

Artifacts：數(shù)據(jù)集版本控制、模型版本控制；

Sweeps：超參數(shù)優(yōu)化；

Reports 保存和共享可重現(xiàn)的結(jié)果。

4. MLFlow ? MLFlow 是一個能夠覆蓋機器學習全流程（從數(shù)據(jù)準備到模型訓練到最終部署）的新平臺，它是一款管理機器學習工作流程的工具，主要有三個功能模塊：Tracking 跟蹤和記錄、Project 項目管理和 Models 模型管理。MLflow 支持 Java、Python、R 和 REST API 等。 ?

? MLFlow 具有以下主要組件： ?

跟蹤：用于跟蹤試驗，以記錄和比較參數(shù)與結(jié)果；

模型：用于通過各種 ML 庫管理模型，并將其部署到各種模型服務和推理平臺；

項目：用于將 ML 代碼打包成可重用、可再現(xiàn)的格式，以便與其他數(shù)據(jù)科學家共享或轉(zhuǎn)移到生產(chǎn)環(huán)境；

模型注冊表：使你可以將模型存儲集中化，以便使用版本控制和批注功能來管理模型的完整生命周期階段轉(zhuǎn)換；

模型服務：可用于將 MLflow 模型以 REST 終結(jié)點的形式托管。

5. Screen

對于每個研究者來說，讓實驗通宵運行而且機器不會進入休眠狀態(tài)再好不過了。當進行遠程工作時，很多人都會擔心 ssh 會話中斷——代碼運行幾個小時就停止了。 ? screen 命令允許用戶在一個窗口內(nèi)使用多個終端會話，可以斷開連接，也可以重新連接已斷開連接的會話。每個會話都可以恢復連接，這樣就算會話斷開了，用戶也不必擔心數(shù)據(jù)丟失。 ? ? ?

四、協(xié)作工具

學術(shù)界缺乏有效的團隊管理機制，在某種程度上這是由于學術(shù)界會嚴格劃分個人貢獻造成的。然而，機器學習的發(fā)展速度需要大家共同努力。Mikhailiuk 推薦了兩個非?；镜墓ぞ撸篏itHub 以及 Lucidchart，它們對于有效的溝通非常方便，尤其是在遠程工作上。

? 6. GitHub ? GitHub 是通過 Git 進行版本控制的軟件源代碼托管服務平臺，同時提供付費賬戶和免費賬戶，這兩種賬戶都可以創(chuàng)建公開或私有的代碼倉庫，但付費用戶支持更多功能。除了允許個人和組織創(chuàng)建和訪問保管中的代碼以外，它也提供了一些方便社會化共同軟件開發(fā)的功能，包括允許用戶追蹤其他用戶、組織、軟件庫的動態(tài)，對軟件代碼的改動和 bug 提出評論等。GitHub 也提供圖表功能，用于概觀顯示開發(fā)者們怎樣在代碼庫上工作以及軟件的開發(fā)活躍程度。 ? ? ? 就在近日，GitHub 正式發(fā)布了?2021 年度報告。過去一年里，有 1600 萬開發(fā)者加入了 GitHub，目前平臺的開發(fā)者數(shù)量已經(jīng)達到了 7300 萬；過去一年里，他們在 GitHub 上創(chuàng)建了 6100 萬個存儲庫。世界財富 100 強企業(yè)中的 84% 都在使用 GitHub。 ? ?

? 7. Lucidchart

? Lucidchart 是一款免費的可以支持離線操作的谷歌瀏覽器圖表插件，可以幫助用戶繪制包括流程圖、實體模型、UML、思維導圖等多種圖表的繪制工作。它提供了很多免費繪圖模板，大大地加快了用戶的繪圖速度。該應用的一大優(yōu)勢是，它基于 HTML5，因此用戶不需要下載本地應用程序，就可以在電腦、iPad 等設(shè)備上使用該應用。它的另一主要優(yōu)勢是共享的協(xié)作空間和在圖表旁邊做筆記的能力。 ?

? ? 五、可視化工具

提交論文時，研究人員經(jīng)常會遇到拒稿的情況，這讓 Mikhailiuk 意識到可視化功能和結(jié)果一樣重要。如果審稿人沒有太多時間，或者對論文涉及的領(lǐng)域不熟悉，通常來說論文會被拒掉，其中一部分原因可能是論文中的視圖給人印象不深刻。因此，Mikhailiuk 推薦了 Inkscape 和 Streamlit 這兩個工具。 ? ?

8. Inkscape

Inkscape 是一個開源的矢量圖編輯工具，使用可伸縮向量圖形 (SVG)，以及基于 W3C 標準的 open XML 格式作為其默認文件格式。設(shè)計過程可能從一張涂鴉、一幅素描或者軟件中模型設(shè)計開始，這些可能不足以完成一整個項目。Inkscape 可以幫助你將以上不成熟的素材轉(zhuǎn)變?yōu)閷I(yè)的設(shè)計，用于廣告發(fā)布、模型制作等用途。Inkscape 還能提供 TexText 擴展，使用此軟件包，你可以將 latex 公式無縫集成到圖像中。 ?

? ? ? 9. Streamlit

Streamlit 和常規(guī) Web 框架不同之處在于，它不需要你去編寫任何客戶端代碼（HTML/CSS/JS），只需要編寫普通的 Python 模塊，就可以在很短的時間內(nèi)創(chuàng)建美觀并具備高度交互性的界面，從而快速生成數(shù)據(jù)分析或者機器學習的結(jié)果；另一方面，和那些只能通過拖拽生成的工具也不同的是，你仍然具有對代碼的完整控制權(quán)。 ? ?

? ? 以上就是 Mikhailiuk 在獲得機器學習博士學位之前需要掌握的九個工具，你不妨也學習一下，相信這些工具在你之后的學習、工作中，會起到事半功倍的效果。 ?

編輯：黃飛

?