什么是自主系統(tǒng)，常見(jiàn)問(wèn)題有哪些

根據(jù)系統(tǒng)在三個(gè)方面的屬性(即熟練性、可信賴(lài)性和靈活性)定義了一個(gè)自主系統(tǒng):

●一個(gè)自主系統(tǒng)的設(shè)計(jì)應(yīng)確保在作戰(zhàn)期間，在給定的環(huán)境、任務(wù)以及設(shè)想的隊(duì)友之中的熟練性。理想的熟練性屬性包括現(xiàn)場(chǎng)智能性、自適應(yīng)認(rèn)知、多智能體突現(xiàn)，以及從經(jīng)驗(yàn)中學(xué)習(xí)。

●一個(gè)自主系統(tǒng)的設(shè)計(jì)應(yīng)確保在由其人類(lèi)同行操作或與之合作時(shí)的信任。理想的信任原則包括認(rèn)知一致性和透明度、態(tài)勢(shì)感知、有效的人與多系統(tǒng)集成，以及人-系統(tǒng)團(tuán)隊(duì)合作和訓(xùn)練。

●一個(gè)自主系統(tǒng)應(yīng)在其行為、團(tuán)隊(duì)合作和決策方面表現(xiàn)出靈活性。理想的靈活性原則所包括的靈活性體現(xiàn)在能夠執(zhí)行不同任務(wù)、在不同的點(diǎn)對(duì)點(diǎn)關(guān)系下工作，并采取不同認(rèn)知方法來(lái)解決問(wèn)題等方面。

我們相信，如果我們要在空軍中有效地部署和使用自主系統(tǒng)，所有這些方面都需要在一定程度上得到滿(mǎn)足。另種說(shuō)法是，如果不能在所有三個(gè)方面滿(mǎn)足設(shè)計(jì)的空間，就會(huì)導(dǎo)致部署自主系統(tǒng)的失敗:熟練性低將導(dǎo)致使用其他系統(tǒng)，可信賴(lài)性低將導(dǎo)致停止使用，而靈活性低將導(dǎo)致自主系統(tǒng)無(wú)法在變化的、在設(shè)計(jì)階段可能未設(shè)想到的環(huán)境中展示真正的自主性。

一個(gè)自然的問(wèn)題是，這些方面是否對(duì)系統(tǒng)擁有多少(或哪個(gè)級(jí)別的)自主性有任何意義。答案是否定的。從目的來(lái)看，并沒(méi)有打算使用這三個(gè)方面來(lái)定義或指導(dǎo)自主級(jí)別的一些概念。這只是因?yàn)檫€不明確這是否是一個(gè)有用的構(gòu)想，這一點(diǎn)在本文以及本文引用的早期研究中都已討論過(guò)。

我們現(xiàn)在討論一些自主系統(tǒng)的常見(jiàn)問(wèn)題。

B.1一般概念

什么是智能?什么是人工智能?

智能是收集觀(guān)察結(jié)果、創(chuàng)造知識(shí)并適當(dāng)?shù)剡\(yùn)用這些知識(shí)來(lái)完成任務(wù)的能力。人工智能是一種擁有智能的機(jī)器。

什么是自主系統(tǒng)的內(nèi)部表示?

目前的自主系統(tǒng)被編程為使用不同的過(guò)程來(lái)完成任務(wù)。自主系統(tǒng)的內(nèi)部表示是智能體構(gòu)建其對(duì)世界的了解、其知識(shí)(自主系統(tǒng)用來(lái)進(jìn)行觀(guān)察和產(chǎn)生含義的東西)的方式，以及智能體構(gòu)建其合義和其理解的方式，例如，自主系統(tǒng)內(nèi)部用于其知識(shí)庫(kù)的編程模型。隨著自主系統(tǒng)獲得更多的知識(shí)，或者隨著自主系統(tǒng)進(jìn)一步操縱現(xiàn)有知識(shí)以創(chuàng)造新的知識(shí)，知識(shí)庫(kù)可能會(huì)發(fā)生變化。

什么是含義?機(jī)器會(huì)產(chǎn)生含義嗎?

含義是一個(gè)人或自主系統(tǒng)的內(nèi)部表示中因一些刺激物而改變的東西。它是刺激物對(duì)那個(gè)人或系統(tǒng)的含義。當(dāng)你(一個(gè)人)看著一面美國(guó)國(guó)旗時(shí)，它在你身上喚起的一系列思想和情緒就是那一時(shí)刻這種經(jīng)歷對(duì)你的含義。當(dāng)向一個(gè)自主系統(tǒng)顯示這幅圖像時(shí)，如果其像素密度在自主系統(tǒng)的軟件中引起了一些經(jīng)過(guò)編程的變化，那么這就是那面國(guó)旗對(duì)該自主系統(tǒng)的含義。在這里我們看到，自主系統(tǒng)產(chǎn)生含義的方式與人類(lèi)的方式是完全不同的。作為其編程方式的結(jié)果，自主系統(tǒng)內(nèi)部表示中的變化就是對(duì)該自主系統(tǒng)的含義。一個(gè)刺激物的含義就是由該刺激物在該智能體(人或自主系統(tǒng))中所引起的、特定于智能體的表示上的變化。由數(shù)據(jù)引起的表示上的更新就是該刺激物對(duì)該智能體的含義。含義不僅僅是將數(shù)據(jù)放到表示中;它是表示的所有產(chǎn)生的變化。例如，默會(huì)知識(shí)的喚起，或進(jìn)行中的模擬(意識(shí);見(jiàn)下文)的修改，甚至因刺激導(dǎo)致的智能體知識(shí)的更新，都被納入某個(gè)刺激物給某個(gè)智能體的含義中。含義不是靜態(tài)的，會(huì)隨著時(shí)間的推移而發(fā)生變化。對(duì)于某個(gè)給定的智能體，一個(gè)刺激物的含義是不同的，這取決于它何時(shí)被提供給該智能體。

什么是理解?機(jī)器能理解嗎?

理解就是估計(jì)某個(gè)自主系統(tǒng)的含義是否會(huì)導(dǎo)致它以可接受的方式完成一項(xiàng)任務(wù)。理解發(fā)生的前提條件是，充當(dāng)執(zhí)行者的自主系統(tǒng)增加了一個(gè)評(píng)估人(或充當(dāng)評(píng)估者的自主系統(tǒng))的信心，使其相信該執(zhí)行者自主系統(tǒng)將以可接受的方式作出響應(yīng)。含義是由一個(gè)查詢(xún)(表示一個(gè)刺激)導(dǎo)致的自主系統(tǒng)內(nèi)部表示的更改。理解是含義的影響，導(dǎo)致對(duì)成功完成某一特定任務(wù)的期望。

什么是知識(shí)?

知識(shí)是用來(lái)為某個(gè)給定的智能體產(chǎn)生各種刺激的含義的東西。從歷史上看，知識(shí)產(chǎn)生于那些能通過(guò)遺傳學(xué)進(jìn)化、個(gè)別動(dòng)物的經(jīng)驗(yàn)，或者動(dòng)物(通過(guò)文化)向同一物種的其他成員交流知識(shí)來(lái)捕捉并編碼信息的物種。隨著機(jī)器學(xué)習(xí)的進(jìn)步，有一個(gè)合理的論點(diǎn)是，將來(lái)世界上產(chǎn)生的大部分知識(shí)都將由機(jī)器完成。

在思考什么?機(jī)器能思考嗎?

思考是用于操縱自主系統(tǒng)內(nèi)部表示的過(guò)程;是一種含義的生成，其中，含義是由刺激引起的內(nèi)部表示的變化。如果一個(gè)自主系統(tǒng)可以改變或操縱它的內(nèi)部表示，那么它就可以思考。

什么是推理?機(jī)器能推理嗎?

推理是在一項(xiàng)任務(wù)的語(yǔ)境下的思考。推理是思考感知到的內(nèi)容和完成任務(wù)要采取的行動(dòng)的能力。如果系統(tǒng)更新了它的內(nèi)部表示，它會(huì)生成含義，并且在這次思考與完成某項(xiàng)任務(wù)有關(guān)聯(lián)時(shí)進(jìn)行推理。如果該系統(tǒng)的方法沒(méi)有生成所需的“含義”來(lái)以可接受的方式完成這項(xiàng)任務(wù)，那么它就沒(méi)有進(jìn)行適當(dāng)?shù)耐评怼?/p>

什么是認(rèn)知?是什么使一個(gè)系統(tǒng)能夠認(rèn)知?

認(rèn)知是通過(guò)思考、體驗(yàn)和感覺(jué)創(chuàng)造知識(shí)和理解的過(guò)程。一個(gè)能夠通過(guò)思考、體驗(yàn)和感覺(jué)創(chuàng)造知識(shí)和理解的系統(tǒng)就是能夠認(rèn)知的系統(tǒng)。例如，一個(gè)認(rèn)知電子戰(zhàn)(CEW)系統(tǒng)從其感覺(jué)中收集數(shù)據(jù)并創(chuàng)造知識(shí)。它利用相關(guān)知識(shí)完成其電子戰(zhàn)任務(wù)，這表明該系統(tǒng)對(duì)其任務(wù)有一定程度的了解。

什么是情境(situation)?

一個(gè)情境是在自主系統(tǒng)的內(nèi)部表示中個(gè)別知識(shí)條目的鏈接，這些條目可以組合起來(lái)形成一個(gè)新的單一知識(shí)條目。這個(gè)新的單一知識(shí)條目就成為一個(gè)情境，這歸因于它與組成它的各個(gè)條目的鏈接。情境是認(rèn)知的基本單位。情境是由它們與其他情境的關(guān)系和彼此之間的交互方式來(lái)定義的。情境是作為一個(gè)整體來(lái)理解的。

什么是情境認(rèn)知(situatedcognition)?

情境認(rèn)知是一種理論，它斷定認(rèn)識(shí)與行為是不可分割的，認(rèn)為所有知識(shí)都處于社會(huì)、文化和物理背景密切相關(guān)的活動(dòng)中。這就是所謂的“看/想/做”范式。

什么是學(xué)習(xí)?什么是深度學(xué)習(xí)?

學(xué)習(xí)是通過(guò)體驗(yàn)、感知和思考來(lái)改變知識(shí)、理解和技能以便能夠適應(yīng)變化的認(rèn)知過(guò)程。根據(jù)智能體使用的認(rèn)知方法(它選擇的某種表示，例如符號(hào)型、聯(lián)接型等)，學(xué)習(xí)是智能體使用該表示對(duì)某個(gè)模型進(jìn)行編碼的能力(符號(hào)型智能體中的規(guī)則，或者，對(duì)聯(lián)結(jié)型方法來(lái)說(shuō)，人工神經(jīng)元被聯(lián)接和調(diào)整權(quán)重的方式)。一旦對(duì)該模型進(jìn)行了編碼，就可以將其用于推論。深度學(xué)習(xí)是包含許多神經(jīng)元處理層的聯(lián)結(jié)式方法的一個(gè)子集，它的學(xué)習(xí)范式克服了過(guò)去與多層“信用分配”問(wèn)題相關(guān)的限制(即，哪些權(quán)重應(yīng)該進(jìn)行調(diào)整以提高性能)，利用了大數(shù)據(jù)和多個(gè)實(shí)例進(jìn)行訓(xùn)練，并在計(jì)算基礎(chǔ)設(shè)施方面取得了進(jìn)展。深度學(xué)習(xí)近年來(lái)由于其處理圖像和語(yǔ)音數(shù)據(jù)的能力而備受關(guān)注;這在很大程度上是由于當(dāng)前計(jì)算機(jī)的處理能力、可用數(shù)據(jù)的急劇增加，以及學(xué)習(xí)方法的適度修改。深度學(xué)習(xí)基本上是一種非常成功的大數(shù)據(jù)分析方法。

B.2示例

車(chē)庫(kù)開(kāi)門(mén)器是自動(dòng)化的(automated)還是自動(dòng)的(automatic)?

車(chē)庫(kù)開(kāi)門(mén)器在收到信號(hào)時(shí)會(huì)開(kāi)門(mén)，并根據(jù)一些預(yù)設(shè)的條件(電機(jī)轉(zhuǎn)動(dòng)的次數(shù)，或通過(guò)某一開(kāi)關(guān))停止。它在關(guān)閉的情況下，如果收到打開(kāi)信號(hào)就會(huì)打開(kāi)，并根據(jù)同樣類(lèi)型的預(yù)設(shè)條件而停止。車(chē)庫(kù)開(kāi)門(mén)器是一個(gè)自動(dòng)系統(tǒng)，因?yàn)樗谝恍┯|發(fā)機(jī)制執(zhí)行一個(gè)簡(jiǎn)單的任務(wù)，并在完成其任務(wù)時(shí)也基于一些觸發(fā)機(jī)制而停止。

自動(dòng)目標(biāo)識(shí)別系統(tǒng)是自動(dòng)化的還是自動(dòng)的?

當(dāng)前用于目標(biāo)識(shí)別的方法是在一組假定的操作條件下、針對(duì)已知的目標(biāo)來(lái)工作的，并且可以拒絕像目標(biāo)似的對(duì)象，從而產(chǎn)生一定程度的魯棒性。因此，它們是自動(dòng)化解決方案。

地面防撞系統(tǒng)(GCAS)是自主的嗎?

如果擔(dān)心飛行員會(huì)導(dǎo)致飛機(jī)與地面相撞，地面防撞系統(tǒng)將接管飛機(jī)的控制。在這里，系統(tǒng)將指揮和控制(C2)從飛行員那里拿走，以防止飛機(jī)與地面碰撞，然后飛行員可以重新獲得C2(由系統(tǒng)明確地放棄控制，或者由飛行員收回控制)。地面防撞系統(tǒng)證明了同伴靈活性，并因此解決了前面提到的自主系統(tǒng)的一個(gè)關(guān)鍵挑戰(zhàn)。但是請(qǐng)注意，在這個(gè)描述中，系統(tǒng)并未展示任務(wù)或認(rèn)知靈活性。一些人認(rèn)為，地面防撞系統(tǒng)僅僅是一個(gè)自動(dòng)化系統(tǒng)因?yàn)樗狈φJ(rèn)知靈活性。

自動(dòng)駕駛系統(tǒng)是自主的嗎?

自動(dòng)駕駛系統(tǒng)的任務(wù)是在飛行員設(shè)定的特定高度(或高度剖面)以特定的速度飛行特定的軌跡。自動(dòng)駕駛不會(huì)改變其任務(wù)或與飛行員的同伴關(guān)系，也不會(huì)改變其控制飛機(jī)的方式。因此，它不滿(mǎn)足自主性的三項(xiàng)靈活性原則中的任何一項(xiàng)。不過(guò)，它確實(shí)反射性地適應(yīng)了各種不斷變化的、影響其航向、速度和高度的條件，以維持提供給它的參數(shù)。因此，它是一個(gè)自動(dòng)化系統(tǒng)。

自適應(yīng)巡航控制系統(tǒng)是自主的嗎?

巡航控制系統(tǒng)的存在是為了保持某個(gè)恒定的速度。一個(gè)自適應(yīng)巡航控制系統(tǒng)也會(huì)保持其速度，但它會(huì)通過(guò)改變速度來(lái)適應(yīng)在其前方感覺(jué)到的變化而無(wú)需獲得駕駛員的許可，以保持與前方汽車(chē)之間的安全距離。萬(wàn)一有需要，它也可能會(huì)剎車(chē)。自適應(yīng)巡航控制是自動(dòng)化的，因?yàn)樗鼜牟桓淖兤渫殛P(guān)系，從不改變其任務(wù)(只是以預(yù)先編程的方式改變它完成任務(wù)的方式)，而且在這樣做時(shí)沒(méi)有任何認(rèn)知靈活性。

空對(duì)空導(dǎo)彈是自主的嗎?

一枚空對(duì)空導(dǎo)彈(甚至包括巡航導(dǎo)彈)與發(fā)射它的人有一種固定的同伴關(guān)系。這枚導(dǎo)彈是在完成一項(xiàng)預(yù)定義的任務(wù)，并且是以一種預(yù)編理的方式進(jìn)行的。靈活性的三項(xiàng)原則都沒(méi)有得到證明，因此它不是自主的。這種系統(tǒng)是非凡的，并且能夠完成一項(xiàng)非常復(fù)雜的任務(wù)，但它也只是自動(dòng)化的。

谷歌汽車(chē)和有自動(dòng)駕駛功能的特斯拉汽車(chē)是自主的嗎?

谷歌汽車(chē)按照指示駛向某個(gè)地點(diǎn)，但它可以將任務(wù)從行駛改變?yōu)榫o急停車(chē)，比如，為避免撞到某個(gè)行人。當(dāng)特斯拉自動(dòng)駕駛儀撇開(kāi)駕駛員并且不允許其參與控制(因?yàn)轳{駛員的手離開(kāi)了方向盤(pán))時(shí)，或者當(dāng)大眾自主汽車(chē)接管控制并剎車(chē)，以防止迎頭相撞時(shí)，我們看到的是同伴靈活性的實(shí)例，正如前面所述的地面防撞系統(tǒng)一樣。但它并不是自主的。

Roomba(掃地機(jī)器人)是自主的嗎?

Roomba是一種受歡迎的家居用品，它作為房主的代理人來(lái)對(duì)地毯吸塵。它的能力相當(dāng)強(qiáng)，新版本吸收了現(xiàn)代機(jī)器人學(xué)，以納入在繪制環(huán)境圖的同時(shí)確定其當(dāng)前位置的能力。Roomba有一項(xiàng)唯一的任務(wù)——吸塵。它沒(méi)有改變其同伴關(guān)系的能力，也不改變其完成任務(wù)的模式。因此，Roomba不是自主的，但它是一個(gè)非常有能力和有用處的自動(dòng)化系統(tǒng)。

IBM的沃森是智能的嗎?沃森是人工智能嗎?

Watson擁有的知識(shí)是由人類(lèi)編程結(jié)合這些程序?qū)Υ笮蛿?shù)據(jù)存儲(chǔ)的應(yīng)用來(lái)收集和/或生成的。它能夠有效地存儲(chǔ)和檢索可能相關(guān)的知識(shí)，這樣它就可能對(duì)查詢(xún)作出響應(yīng)。有人可能會(huì)說(shuō)，當(dāng)沃森被允許使用其編程來(lái)搜索和適當(dāng)?shù)?a target="_blank">索引大型數(shù)據(jù)存儲(chǔ)庫(kù)時(shí)，它是在收集信息以便稿后適當(dāng)?shù)貞?yīng)用。在進(jìn)行這種搜索時(shí)，它使用了一種整體(ensemble)學(xué)習(xí)方法，這意味著它改變了模型以便能夠提供更好的結(jié)果，這是具有認(rèn)知靈活性的一個(gè)方面。因此，沃森正在解決自主系統(tǒng)的一個(gè)關(guān)鍵挑戰(zhàn)，但我們不會(huì)認(rèn)為它是自主的。但不管怎樣，沃森是一個(gè)展示出智能的硬件和軟件組合體。因此，如前面所述，它是一個(gè)人工智能。

Siri是智能的嗎?Siri是人工智能嗎?

Si為響應(yīng)查詢(xún)而收集的信息是通過(guò)其編程完成的。它確實(shí)收集數(shù)據(jù)來(lái)對(duì)查詢(xún)作出響應(yīng)，并且經(jīng)常適當(dāng)?shù)厥褂眠@些知識(shí)來(lái)為回答提供價(jià)值，它是一種很好的自動(dòng)化。由于Siri是硬件和軟件的組合，并且按照前面的定義展示了智能，因此我們會(huì)將Sin標(biāo)記為人工智能。

Siri懂得我正在問(wèn)什么嗎?

當(dāng)我們有理由期望它將給出一個(gè)能夠使用的答案時(shí)，你可以說(shuō)Siri懂，當(dāng)我們有理由期望這個(gè)答案將是不能接受的，那么你可以說(shuō)Siri不懂。但對(duì)于所有的人工智能系統(tǒng)，用戶(hù)必須認(rèn)識(shí)到系統(tǒng)產(chǎn)生的含義并不是“人類(lèi)的含義”，因此必須謹(jǐn)慎使用。例如，某個(gè)人工智能能夠以高可信賴(lài)性將一輛校車(chē)稱(chēng)為一只鴕鳥(niǎo)，但任何看到這幅圖像的人都將無(wú)法理解人工智能是怎么可能犯下這一錯(cuò)誤的。其原因是，對(duì)這個(gè)人工智能來(lái)說(shuō)，含義是向量空間中的一個(gè)位置，是通過(guò)處理像素密度和顏色到達(dá)的，而一只鴕鳥(niǎo)是一個(gè)對(duì)象類(lèi)別，并不擁有我們?nèi)祟?lèi)在含義中聯(lián)系或產(chǎn)生的那種豐富的含義。

“阿爾法狗”懂圍棋游戲嗎?

“阿爾法狗”對(duì)圍棋游戲的理解只能從另一個(gè)智能體的角度來(lái)評(píng)估。作為一個(gè)非圍棋玩家，你可能愿意說(shuō)阿爾法狗懂這種游戲，因?yàn)閺囊环N純樸的角度來(lái)看，它對(duì)玩游戲的任務(wù)做出了可以接受的響應(yīng)。這里，“阿爾法狗”對(duì)任何有利于作出一個(gè)預(yù)期可接受的響應(yīng)的盤(pán)面形勢(shì)生成了“含義”.那么，在一個(gè)希望把“懂游戲”定義為“自主系統(tǒng)在內(nèi)部給自己產(chǎn)生成了游戲是什么的含義”的人看來(lái)，他可能會(huì)得出“阿爾法狗”不懂圍棋游戲的結(jié)論。“阿爾法狗"是一個(gè)自動(dòng)化系統(tǒng)，并且由于它利用知識(shí)來(lái)生成對(duì)那些有利于它作出響應(yīng)的盤(pán)面形勢(shì)的含義，因此它是一個(gè)人工智能。

審核編輯：郭婷