功能安全的算法選擇標(biāo)準(zhǔn)

深度學(xué)習(xí)已經(jīng)徹底改變了機(jī)器學(xué)習(xí)系統(tǒng)及其功能，但它不一定是最適合所有任務(wù)的方法。對(duì)于其他類型的應(yīng)用程序，使用傳統(tǒng)的模式識(shí)別方法（如邏輯回歸、樸素貝葉斯或 k 均值聚類）可能更合適。因此，選擇正確的機(jī)器學(xué)習(xí)算法的標(biāo)準(zhǔn)是必要的。這些標(biāo)準(zhǔn)描述如下。

問(wèn)題的復(fù)雜性是支配選擇的直接標(biāo)準(zhǔn)，它必須適合方法的復(fù)雜性。該標(biāo)準(zhǔn)可以轉(zhuǎn)換為算法必須學(xué)習(xí)的參數(shù)數(shù)量。例如，邏輯回歸算法學(xué)習(xí)圖 8 中映射函數(shù)的兩個(gè)參數(shù)。可能需要深度神經(jīng)網(wǎng)絡(luò)來(lái)學(xué)習(xí)數(shù)百萬(wàn)個(gè)參數(shù)，才能獲得與邏輯回歸方法相似的結(jié)果。圖 12 第 11 頁(yè)顯示了根據(jù)其復(fù)雜性排序的機(jī)器學(xué)習(xí)算法的近似分布。h_θ （x）

圖12：基于復(fù)雜性的機(jī)器學(xué)習(xí)算法分類。

每種算法背后的數(shù)學(xué)是這一經(jīng)驗(yàn)發(fā)現(xiàn)的基礎(chǔ)。偏差-方差權(quán)衡是選擇和構(gòu)建機(jī)器學(xué)習(xí)系統(tǒng)的一個(gè)重要方面。偏差是由學(xué)習(xí)方法做出的錯(cuò)誤假設(shè)產(chǎn)生的錯(cuò)誤。它與擬合不足的問(wèn)題直接相關(guān)。高偏置算法無(wú)法找到輸入特征和目標(biāo)標(biāo)簽之間的相關(guān)關(guān)系。相反，方差是衡量方法對(duì)輸入數(shù)據(jù)中存在的隨機(jī)噪聲的敏感性的度量。高方差系統(tǒng)可能會(huì)導(dǎo)致過(guò)度擬合，其中算法對(duì)隨機(jī)噪聲而不是實(shí)際輸入特征進(jìn)行建模。在實(shí)踐中，必須在偏差和方差之間進(jìn)行權(quán)衡，因?yàn)檫@兩個(gè)量彼此成正比。另一個(gè)應(yīng)該考慮的標(biāo)準(zhǔn)是數(shù)據(jù)工程師在訓(xùn)練分類器時(shí)需要調(diào)整的調(diào)優(yōu)參數(shù)的數(shù)量。

最后，還需要考慮輸入數(shù)據(jù)的性質(zhì)。特征空間中數(shù)據(jù)的線性分離在現(xiàn)實(shí)世界中是不尋常的?？梢哉f(shuō)，對(duì)于某些應(yīng)用，可以假設(shè)線性。這方面的一個(gè)例子是根據(jù)第3節(jié)開(kāi)頭描述的大小和速度對(duì)汽車和非汽車物體進(jìn)行分類。這個(gè)假設(shè)對(duì)于選擇合適的機(jī)器學(xué)習(xí)方法至關(guān)重要，因?yàn)榕c非線性分類器相比，線性分類器對(duì)于可以線性分離的數(shù)據(jù)更快、更有效。

功能安全注意事項(xiàng)

功能安全是系統(tǒng)整體安全的一部分。ISO 26262“道路車輛 - 功能安全”描述了道路車輛電氣和電子 （E/E） 系統(tǒng)的發(fā)展。通過(guò)各種活動(dòng)或技術(shù)解決方案使系統(tǒng)變得安全。這些所謂的安全措施反映在指定需求、創(chuàng)建架構(gòu)和設(shè)計(jì)以及執(zhí)行驗(yàn)證和確認(rèn)的過(guò)程活動(dòng)中。

避免系統(tǒng)故障是ISO 26262的一個(gè)方面。人為故障是傳統(tǒng)工程系統(tǒng)中的系統(tǒng)性故障。此類失敗的一些明顯示例包括：不完整的需求和測(cè)試用例，被遺忘的設(shè)計(jì)重要方面或未能發(fā)現(xiàn)問(wèn)題的驗(yàn)證。使用機(jī)器學(xué)習(xí)時(shí)也是如此。此外，要學(xué)習(xí)的任務(wù)和相應(yīng)的測(cè)試用例也都由人類描述。此處仍可能發(fā)生系統(tǒng)故障。因此，機(jī)器學(xué)習(xí)模型的開(kāi)發(fā)需要應(yīng)用最佳實(shí)踐或適當(dāng)?shù)臉?biāo)準(zhǔn)流程。僅此還不夠。為了控制機(jī)器學(xué)習(xí)算法中的系統(tǒng)故障，需要采取安全措施，因?yàn)橄到y(tǒng)元素的部分開(kāi)發(fā)將在未來(lái)通過(guò)此類算法完成。只有當(dāng)兩者都能得到保證時(shí)，才能消除這些故障。

最近，由于機(jī)器學(xué)習(xí)在自動(dòng)駕駛系統(tǒng)中的使用越來(lái)越多，機(jī)器學(xué)習(xí)背景下的安全性得到了更多的關(guān)注。Amodei等人，2016年，討論了與事故風(fēng)險(xiǎn)相關(guān)的研究問(wèn)題以及解決這些問(wèn)題的可能方法。傳統(tǒng)軟件系統(tǒng)中的代碼必須滿足特定的要求，這些要求隨后通過(guò)標(biāo)準(zhǔn)化測(cè)試進(jìn)行檢查。在機(jī)器學(xué)習(xí)中，計(jì)算機(jī)可以被認(rèn)為是通過(guò)學(xué)習(xí)方法接管“編程”模塊的任務(wù)。這種“編程”表示在考慮第 3 節(jié)中介紹的技術(shù)背景時(shí)學(xué)習(xí)算法的參數(shù)或權(quán)重。學(xué)習(xí)過(guò)程通常是隨機(jī)的，這意味著無(wú)法定義硬性要求。因此，機(jī)器學(xué)習(xí)組件是一個(gè)黑匣子系統(tǒng)。因此，由于其高維度和大量參數(shù)，很難甚至不可能解釋學(xué)習(xí)的內(nèi)容。

環(huán)境傳感器和相關(guān)處理起著超出功能安全要求的決定性作用，尤其是在高度自動(dòng)化駕駛的情況下。預(yù)期功能的安全性（SOTIF）涉及用于確保預(yù)期功能的安全關(guān)鍵方面正確執(zhí)行的方法和措施，同時(shí)考慮傳感器和處理算法。然而，對(duì)于傳統(tǒng)的工程系統(tǒng)和機(jī)器學(xué)習(xí)系統(tǒng)，這個(gè)問(wèn)題必須得到澄清，它仍然是正在進(jìn)行的討論的主題。

虛擬模擬器中的分析是披露此類算法的一種方法。我們將這種方法用于第2.2節(jié)中介紹的自學(xué)習(xí)系統(tǒng)的實(shí)驗(yàn)。在將機(jī)器學(xué)習(xí)系統(tǒng)部署到現(xiàn)實(shí)世界的汽車中之前，理論上可以在這樣的模擬環(huán)境中學(xué)習(xí)和評(píng)估無(wú)限數(shù)量的駕駛情況。

現(xiàn)在，機(jī)器學(xué)習(xí)已經(jīng)從游戲和模擬發(fā)展到現(xiàn)實(shí)世界的汽車應(yīng)用，生命岌岌可危。如前所述，功能安全問(wèn)題因此變得越來(lái)越重要，這也影響了科學(xué)界。一個(gè)結(jié)果是研究在模擬中對(duì)不同的機(jī)器學(xué)習(xí)和人工智能算法進(jìn)行基準(zhǔn)測(cè)試的方法。OpenAI Gym（Brockman et al. 2016）就是這樣一個(gè)模擬器，它是開(kāi)發(fā)和比較強(qiáng)化學(xué)習(xí)算法的工具包。

結(jié)論與展望

基于機(jī)器學(xué)習(xí)的功能在高度自動(dòng)駕駛中的應(yīng)用受到最近成就的推動(dòng)。最初的原型確實(shí)產(chǎn)生了有希望的結(jié)果，并表明了在解決相關(guān)復(fù)雜問(wèn)題時(shí)的優(yōu)勢(shì)。然而，即使機(jī)器學(xué)習(xí)是合適的，仍然存在大量挑戰(zhàn)。首先有必要為給定的任務(wù)選擇正確的神經(jīng)網(wǎng)絡(luò)類型。這種選擇與應(yīng)用學(xué)習(xí)方法、必要的預(yù)處理和訓(xùn)練數(shù)據(jù)的數(shù)量有關(guān)。關(guān)于將整體驅(qū)動(dòng)任務(wù)分解為更小的子任務(wù)的最佳方法，仍然存在討論。深度學(xué)習(xí)技術(shù)能夠在不需要分解的情況下實(shí)現(xiàn)端到端方法，但目前認(rèn)為這在驗(yàn)證和確認(rèn)功能方面不太合適。機(jī)器學(xué)習(xí)社區(qū)需要開(kāi)發(fā)增強(qiáng)的方法，尤其是為了滿足功能安全要求，這是相關(guān)功能成功工業(yè)化的基礎(chǔ)。

Elektrobit相信，盡管仍然存在挑戰(zhàn)，但機(jī)器學(xué)習(xí)有可能重塑未來(lái)的汽車軟件和系統(tǒng)格局。為此，已開(kāi)始兩個(gè)方面的調(diào)查。首先是應(yīng)用基于機(jī)器學(xué)習(xí)的方法作為高度自動(dòng)化駕駛場(chǎng)景（選定的子集）的解決方案，例如上面提到的用例。EB robinos 參考架構(gòu)以及與 NVIDIA 的合作等都有助于開(kāi)發(fā)環(huán)境。其次，Elektrobit 利用其在汽車軟件功能安全和工業(yè)化領(lǐng)域的專業(yè)知識(shí)，將這些想法及其合作伙伴和客戶的產(chǎn)品變?yōu)楝F(xiàn)實(shí)。

審核編輯：郭婷