使用NVIDIA TAO工具包和Appen實現(xiàn)AI模型微調(diào)

從頭開始構(gòu)建人工智能模型需要大量的數(shù)據(jù)、時間、金錢和專業(yè)知識。這與在人工智能領(lǐng)域取得成功的條件不符：快速上市，以及快速發(fā)展和定制解決方案的能力。 NVIDIA TAO 是一個人工智能模型調(diào)整框架，與從頭開始的培訓(xùn)相比，它可以讓您利用生產(chǎn)質(zhì)量、預(yù)培訓(xùn)的人工智能模型，并在很短的時間內(nèi)對其進(jìn)行微調(diào)。

要進(jìn)一步微調(diào)這些模型，或確認(rèn)模型的精度，需要額外的高質(zhì)量訓(xùn)練數(shù)據(jù)。 Appen 是 TAO 的數(shù)據(jù)注釋合作伙伴，如果您沒有合適的可用數(shù)據(jù)，它可以訪問高質(zhì)量的數(shù)據(jù)集和服務(wù)，為您的數(shù)據(jù)添加標(biāo)簽和注釋，以滿足您的獨特需求。

在帖子中，我將向你展示如何使用 NVIDIA TAO 工具包 一個基于 CLI 的NVIDIA TAO 框架的解決方案，以及 AppEN 的數(shù)據(jù)標(biāo)記平臺，以簡化整個培訓(xùn)過程，并為特定用例創(chuàng)建高度定制的模型。

在您的團(tuán)隊確定了要使用 ML 解決的業(yè)務(wù)問題后，您可以從 NVIDIA 收集的計算機視覺和對話人工智能中的預(yù)訓(xùn)練人工智能模型中進(jìn)行選擇。計算機視覺模型可以包括人臉檢測模型、文本識別、分割等。然后，您可以應(yīng)用 TAO 工具包來構(gòu)建、培訓(xùn)、測試和部署您的解決方案。

為了加快數(shù)據(jù)收集和擴充過程，您現(xiàn)在可以使用 Appen 數(shù)據(jù)注釋平臺為您的用例創(chuàng)建正確的培訓(xùn)數(shù)據(jù)。該強大的平臺使您能夠訪問 Appen 全球超過 100 萬名熟練的注釋員，他們來自 170 多個國家，講 235 種語言。 Appen 的數(shù)據(jù)注釋平臺 和專業(yè)知識還為您提供了其他資源：

高質(zhì)量數(shù)據(jù)集（用于需要數(shù)據(jù)時）

全球采購的人工標(biāo)簽機，用于為未標(biāo)記的數(shù)據(jù)添加注釋

一個易于使用的平臺，您可以在其中啟動注釋作業(yè)并監(jiān)控關(guān)鍵指標(biāo)

質(zhì)量保證檢查和數(shù)據(jù)安全控制

有了干凈、高質(zhì)量的數(shù)據(jù)，您可以調(diào)整 經(jīng)過訓(xùn)練的 NVIDIA 模型以滿足您的需求，并進(jìn)行修剪和再培訓(xùn)，以達(dá)到所需的性能水平。

如何使用 Appen 的平臺準(zhǔn)備數(shù)據(jù)

如果您還沒有用于訓(xùn)練模型的數(shù)據(jù)，您可以自己收集這些數(shù)據(jù)，也可以求助于 Appen ，找到適合您的用例的源數(shù)據(jù)集。 Appen 數(shù)據(jù)注釋平臺（ ADAP ）可使用多種格式：

音頻（. wav ，. mp3 ）

圖像（. jpeg ，. png ）

文本（. txt ）

視頻（網(wǎng)址）

完成數(shù)據(jù)收集階段后，除非您計劃與 Appen 合作以滿足數(shù)據(jù)收集需求，否則您可以使用 Appen 的平臺快速標(biāo)記您收集的數(shù)據(jù)。每行數(shù)據(jù)批注都需要 Appen 平臺許可證和預(yù)算。

在此基礎(chǔ)上，完成以下步驟，部署一個特別適合您需求的模型。在本文中，假設(shè)您正在為對象檢測模型注釋圖像。

準(zhǔn)備好你的數(shù)據(jù)

首先，將圖像數(shù)據(jù)加載到網(wǎng)絡(luò)可訪問的位置：云或 ADAP 可以訪問的位置，例如私有 Amazon S3 存儲桶。

接下來，用兩列結(jié)構(gòu)輸入 CSV 文件。第一列包含文件名，第二列包含圖像的 URL 。您可以通過以下三種方式之一提供 URL ：

對數(shù)據(jù)使用公開可用的 URL 。

使用預(yù)先簽名的 URL 。

使用 Appen 的安全數(shù)據(jù)訪問工具，您可以使用該工具將數(shù)據(jù)庫安全地連接到平臺； Appen 僅在需要時訪問您的數(shù)據(jù)。

第二列包含設(shè)備上的本地文件名。圖 1 顯示了 CSV 文件的外觀。

圖 1 。用于 ADAP 中數(shù)據(jù)上傳的 CSV 結(jié)構(gòu)

創(chuàng)建作業(yè)并上載數(shù)據(jù)

如果尚未登錄，可以 創(chuàng)建 ADAP 帳戶 并登錄。在運行新作業(yè)之前，您必須擁有平臺的活動許可證。要了解更多有關(guān)計劃和定價的信息， 聯(lián)系 Appen 。

登錄后，在Jobs下選擇創(chuàng)造就業(yè)機會。

圖 2 。 ADAP 工作概述頁面

選擇最適合工作的模板（情緒分析、搜索相關(guān)性等）。對于本例，請選擇Image Annotation。

圖 3 。 ADAP 作業(yè)模板頁面–圖像注釋

在Image Annotation下，選擇使用邊界框?qū)D像中的對象進(jìn)行注釋和分類。將 CSV 文件拖放到Upload選項卡中，上傳 CSV 文件。

設(shè)計你的工作

為 Appen 的 100 多萬名數(shù)據(jù)標(biāo)簽員提供指導(dǎo)，說明他們應(yīng)該尋找什么，以及他們應(yīng)該知道的任何要求。該模板提供了一個簡單的工作設(shè)計來幫助您開始。

接下來，選擇管理圖像注釋本體，在這里定義應(yīng)該檢測的類。更新說明，以提供有關(guān)用例的更多上下文，并描述注釋者應(yīng)如何識別和標(biāo)記圖像中的對象。您可以預(yù)覽作業(yè)，并查看注釋員將如何查看它。

最后，創(chuàng)建測試問題來測量和跟蹤貼標(biāo)機的性能。

啟動作業(yè)

在平臺上正式啟動注釋作業(yè)之前，先進(jìn)行測試運行。在你開始工作后， Appen 的全球數(shù)據(jù)標(biāo)簽員會根據(jù)你的規(guī)格標(biāo)注你的數(shù)據(jù)。

班長

實時監(jiān)控注釋的準(zhǔn)確率。在工作設(shè)計、試題或注釋員等領(lǐng)域根據(jù)需要進(jìn)行調(diào)整。

圖 8 。 ADAP 注釋進(jìn)度監(jiān)控頁面

后果

選擇Download、Full下載標(biāo)簽數(shù)據(jù)輸出的報告。

將輸出轉(zhuǎn)換為 KITTI 格式

從這里開始，您需要一個腳本來將標(biāo)記的數(shù)據(jù)轉(zhuǎn)換為可供 TAO 工具包使用的格式，例如 KITTI 格式。

使用上一步的輸出，可以使用以下部分將標(biāo)記的數(shù)據(jù)轉(zhuǎn)換為類似 Pascal Visual Object Class （ VOC ）格式的格式。

訓(xùn)練你的模特

用 Appen 注釋的數(shù)據(jù)現(xiàn)在可以用于訓(xùn)練對象檢測模型。 TAO 工具包允許您根據(jù)數(shù)據(jù)調(diào)整流行的網(wǎng)絡(luò)架構(gòu)和主干，從而訓(xùn)練、微調(diào)、刪減和導(dǎo)出高度優(yōu)化和精確的人工智能模型，以供部署。對于本例，您可以選擇 YOLOV3 對象檢測模型，如下例所示：

$ wget --content-disposition https://api.ngc.nvidia.com/v2/resources/nvidia/tlt_cv_samples/versions/v1.0.2/zip -O tlt_cv_samples_v1.0.2.zip $ unzip -u tlt_cv_samples_v1.0.2.zip -d ./tlt_cv_samples_v1.0.2 && rm -rf tlt_cv_samples_v1.0.2.zip && cd ./tlt_cv_samples_v1.0.2

下載筆記本示例后，您可以使用以下命令啟動筆記本：

$ jupyter notebook --ip 0.0.0.0 --port 8888 --allow-root

在 localhost 上打開 internet 瀏覽器并打開以下 URL ：

http://0.0.0.0:8888

因為您正在創(chuàng)建一個 YOLOv3 模型，所以打開 yolo _ v3 / yolo _ v3 。 ipynb 筆記本。按照筆記本上的說明訓(xùn)練模型。

根據(jù)結(jié)果，微調(diào)模型，直到達(dá)到度量目標(biāo)。如果需要，您可以在此階段創(chuàng)建自己的主動學(xué)習(xí)循環(huán)。根據(jù)置信度或其他選擇指標(biāo)，使用 CSV 文件方法對數(shù)據(jù)進(jìn)行優(yōu)先級排序，如前面步驟所述。您還可以提前加載數(shù)據(jù)（包括輸入和預(yù)測），這樣 Appen 的注釋員可以在模型經(jīng)過培訓(xùn)后驗證模型，并使用我們的領(lǐng)域?qū)＜液?open crowd 查看預(yù)測。

Pro tip:使用 Appen 解決方案 Workflows 輕松構(gòu)建和自動化多步驟數(shù)據(jù)注釋項目。

迭代

隨著您不斷提高模型性能， Appen 可以在后續(xù)的模型培訓(xùn)中進(jìn)一步幫助您進(jìn)行數(shù)據(jù)收集和注釋。為了避免模型漂移或適應(yīng)不斷變化的業(yè)務(wù)需求，請定期對模型進(jìn)行再培訓(xùn)。

結(jié)論

NVIDIATAO 工具包與 Appen 的數(shù)據(jù)平臺相結(jié)合，使您能夠訓(xùn)練、微調(diào)和優(yōu)化預(yù)訓(xùn)練模型，以更快地啟動人工智能解決方案。在不犧牲質(zhì)量的情況下，將開發(fā)時間縮短十倍。在NVIDIA 和 Appen 的綜合專業(yè)知識和工具的幫助下，您將滿懷信心地推出人工智能。

關(guān)于作者

Titus Capilnean 領(lǐng)導(dǎo) Appen 的營銷傳播，推動負(fù)責(zé)任、包容的人工智能，并與全球公司進(jìn)行培訓(xùn)數(shù)據(jù)對話。他擁有 2016 年的機器學(xué)習(xí)證書、霍爾特國際商學(xué)院（ Hult International Business School ）的行政 MBA 學(xué)位，并在 Forbes 上發(fā)表了幾篇關(guān)于人工智能的評論文章。

審核編輯：郭婷