那些 Linux Shell的小技巧,大大提升機(jī)器學(xué)習(xí)生產(chǎn)效率

在機(jī)器學(xué)習(xí)的實踐過程中，用好Shell能幫你很多節(jié)省時間。

最近，有位來自ETHZ的學(xué)生分享了一些Shell小技巧。對程序員來說，這些技巧更重要的是讓你的思維從瑣碎小事中解脫出來，大大提高了工作效率。

下面就是他分享的4個tips。由于本文中涉及到的shell腳本過多，你可以去文末地址中查看所有腳本的源代碼。

抓取遠(yuǎn)程文件

當(dāng)你在遠(yuǎn)程服務(wù)器上監(jiān)視程序運(yùn)行時，如果想把一個遠(yuǎn)程文件抓取到本地查看，通常你會怎么做？

記下文件路徑，打開終端，用rsync之類的工具同步到本地，再到文件瀏覽器中查看。

實際上不必這么麻煩。只需要事先寫好幾個shell腳本，就可以避免重復(fù)的機(jī)械勞動。

在這里強(qiáng)烈推薦iTerm 2，它比Mac自帶的終端要強(qiáng)大得多，可以指定某個觸發(fā)關(guān)鍵詞執(zhí)行某個相應(yīng)的命令。

iTerm 2下載地址：https://www.iterm2.com/

先在遠(yuǎn)程服務(wù)器上設(shè)置一個腳本t。當(dāng)我們輸入r awesome_video.mp4時，它會搜索awesome_video.mp4文件所在路徑，并連同主機(jī)名以字符串rtransfer 的形式打印出來。

rtransfer作為iTerm2的觸發(fā)關(guān)鍵詞，解析出主機(jī)和路徑，然后調(diào)用另一個本地腳本t2。腳本t2將這個視頻文件傳輸?shù)脚R時目錄，然后在該目錄中打開Finder。

使用iTerm 2觸發(fā)關(guān)鍵詞功能調(diào)用腳本，可以大大提升效率，而你要做的只是在前期花費(fèi)時間定制腳本。

遠(yuǎn)程訪問TensorBoard

除了抓取遠(yuǎn)程文件，另一個讓人痛苦的是訪問遠(yuǎn)程服務(wù)器上的TensorBoard實例。你可以設(shè)置SSH端口轉(zhuǎn)發(fā)，但是哪個端口對應(yīng)哪個服務(wù)器？它們都在Docker容器中。

ngrok可以讓你把訪問本地端口變成訪問URL，比如輸入ngrok http 6006后，它會為你生成一個URL網(wǎng)址http://683acac3.ngrok.io，你可以在這個地址中查看TensorBoard實例。

結(jié)合腳本n，以更快的速度啟動ngrok，然后用腳本tb打開Web瀏覽器，啟動TensorBoard，在十秒內(nèi)就能從運(yùn)行目錄轉(zhuǎn)到顯示圖形。

ngrok有個缺點(diǎn)是它一次只能允許一個會話，因此在使用前需要?dú)⑺郎弦粋€ngork進(jìn)程。如果你忘記在另外一臺服務(wù)器上殺死ngrok，可能會比較麻煩。

ngrok下載地址：https://ngrok.com/

用tbplot代替TensorBoard繪圖

對于運(yùn)行大量metrics的情形，我們需要等待較長時間讓TensorBoard加載所有圖形。如果使用tbplot腳本，速度會快很多，并且能直接生成圖像文件。

tbplot實際上調(diào)用的是Matplotlib，缺點(diǎn)是目前只能生成標(biāo)量圖。

tbplot下載地址：https://github.com/mrahtz/tbplot

自動化崩潰監(jiān)測

運(yùn)行代碼時，最耗費(fèi)精力的事情就是是擔(dān)心遇到了錯誤并崩潰，因此需要不斷檢查他們的運(yùn)行情況。

當(dāng)程序出現(xiàn)問題時，通過警報自動監(jiān)控可以緩解這種擔(dān)憂。一般可以把警報發(fā)送到郵箱中，為了避免這么麻煩，可以使用sqs-alerts，它依靠AWS AWS Simple Queue服務(wù)存儲和接收消息。

在每臺遠(yuǎn)程機(jī)器上，使用cron運(yùn)行一個腳本，監(jiān)控日志并在檢測到運(yùn)行中斷時向隊列發(fā)送消息。然后在本地機(jī)器上運(yùn)行一個服務(wù)來監(jiān)控隊列，并在收到消息時彈出警報。

sqs-alerts下載地址：https://github.com/mrahtz/sqs-alerts

最后，本文使用的所有shell腳本都可以在以下地址中找到：https://github.com/mrahtz/dotfiles/tree/master/.local/bin