BAM模型 - 人工神經(jīng)網(wǎng)絡(luò)基礎(chǔ)描述詳解

神經(jīng)網(wǎng)絡(luò)的聯(lián)想記憶功能可以分為兩種，一是自聯(lián)想記憶，另一種是異聯(lián)想記憶。Hopfield神經(jīng)網(wǎng)絡(luò)就屬于自聯(lián)想記憶。由Kosko B.1988 年提出的雙向聯(lián)想記憶神經(jīng)網(wǎng)絡(luò)BAM(Bidirectional Associative Memory)屬于異聯(lián)想記憶。BAM有離散型﹑連續(xù)型和自適應(yīng)型等多種形式。

8. CMAC模型

BP神經(jīng)網(wǎng)絡(luò)﹑Hopfield神經(jīng)網(wǎng)絡(luò)和BAM雙向聯(lián)想記憶神經(jīng)網(wǎng)絡(luò)分別屬于前饋和反饋神經(jīng)網(wǎng)絡(luò)，這主要是從網(wǎng)絡(luò)的結(jié)構(gòu)來(lái)劃分的。如果從神經(jīng)網(wǎng)絡(luò)的函數(shù)逼近功能這個(gè)角度來(lái)分，神經(jīng)網(wǎng)絡(luò)可以分為全局逼近網(wǎng)絡(luò)和局部逼近網(wǎng)絡(luò)。當(dāng)神經(jīng)網(wǎng)絡(luò)的一個(gè)或多個(gè)可調(diào)參數(shù)（權(quán)值和閾值）在輸入空間的每一點(diǎn)對(duì)任何一個(gè)輸出都有影響，則稱(chēng)該神經(jīng)網(wǎng)絡(luò)為全局逼近網(wǎng)絡(luò)，多層前饋BP網(wǎng)絡(luò)是全局逼近網(wǎng)絡(luò)的典型例子。對(duì)于每個(gè)輸入輸出數(shù)據(jù)對(duì)，網(wǎng)絡(luò)的每一個(gè)連接權(quán)均需進(jìn)行調(diào)整，從而導(dǎo)致全局逼近網(wǎng)絡(luò)學(xué)習(xí)速度很慢，對(duì)于有實(shí)時(shí)性要求的應(yīng)用來(lái)說(shuō)常常是不可容忍的。如果對(duì)網(wǎng)絡(luò)輸入空間的某個(gè)局部區(qū)域只有少數(shù)幾個(gè)連接權(quán)影響網(wǎng)絡(luò)輸出，則稱(chēng)網(wǎng)絡(luò)為局部逼近網(wǎng)絡(luò)。對(duì)于每個(gè)輸入輸出數(shù)據(jù)對(duì)，只有少量的連接權(quán)需要進(jìn)行調(diào)整，從而使局部逼近網(wǎng)絡(luò)具有學(xué)習(xí)速度快的優(yōu)點(diǎn)，這一點(diǎn)對(duì)于有實(shí)時(shí)性要求的應(yīng)用來(lái)說(shuō)至關(guān)重要。目前常用的局部逼近神經(jīng)網(wǎng)絡(luò)有CMAC網(wǎng)絡(luò)、徑向基函數(shù)RBF網(wǎng)絡(luò)和B樣條網(wǎng)絡(luò)等，其結(jié)構(gòu)原理相似。

1975年J.S.Albus提出一種模擬小腦功能的神經(jīng)網(wǎng)絡(luò)模型，稱(chēng)為Cerebellar Model Articulation Controller，簡(jiǎn)稱(chēng)CMAC。CMAC網(wǎng)絡(luò)是仿照小腦控制肢體運(yùn)動(dòng)的原理而建立的神經(jīng)網(wǎng)絡(luò)模型。小腦指揮運(yùn)動(dòng)時(shí)具有不假思索地作出條件反射迅速響應(yīng)的特點(diǎn)，這種條件反射式響應(yīng)是一種迅速聯(lián)想。

CMAC 網(wǎng)絡(luò)有三個(gè)特點(diǎn)：

(1)、作為一種具有聯(lián)想功能的神經(jīng)網(wǎng)絡(luò)，它的聯(lián)想具有局部推廣（或稱(chēng)泛化）能力，因此相似的輸入將產(chǎn)生相似的輸出，遠(yuǎn)離的輸入將產(chǎn)生獨(dú)立的輸出；

(2)、對(duì)于網(wǎng)絡(luò)的每一個(gè)輸出，只有很少的神經(jīng)元所對(duì)應(yīng)的權(quán)值對(duì)其有影響，哪些神經(jīng)元對(duì)輸出有影響則有輸入決定；

(3)、CMAC的每個(gè)神經(jīng)元的輸入輸出是一種線性關(guān)系，但其總體上可看做一種表達(dá)非線性映射的表格系統(tǒng)。由于CMAC網(wǎng)絡(luò)的學(xué)習(xí)只在線性映射部分，因此可采用簡(jiǎn)單的δ算法，其收斂速度比BP算法快得多，且不存在局部極小問(wèn)題。CMAC最初主要用來(lái)求解機(jī)械手的關(guān)節(jié)運(yùn)動(dòng)，其后進(jìn)一步用于機(jī)械人控制、模式識(shí)別、信號(hào)處理以及自適應(yīng)控制等領(lǐng)域。

9. RBF模型

對(duì)局部逼近神經(jīng)網(wǎng)絡(luò)，除CMAC神經(jīng)網(wǎng)絡(luò)外，常用的還有徑向基函數(shù)RBF網(wǎng)絡(luò)和B樣條網(wǎng)絡(luò)等。徑向基函數(shù)（RBF，Radial Basis Function）神經(jīng)網(wǎng)絡(luò)，是由J.Moody 和C.Darken于20世紀(jì)80年代末提出的一種神經(jīng)網(wǎng)絡(luò)，徑向基函數(shù)方法在某種程度上利用了多維空間中傳統(tǒng)的嚴(yán)格插值法的研究成果。在神經(jīng)網(wǎng)絡(luò)的背景下，隱藏單元提供一個(gè)“函數(shù)”集，該函數(shù)集在輸入模式向量擴(kuò)展至隱層空間時(shí)為其構(gòu)建了一個(gè)任意的“基”；這個(gè)函數(shù)集中的函數(shù)就被稱(chēng)為徑向基函數(shù)。徑向基函數(shù)首先是在實(shí)多變量插值問(wèn)題的解中引入的。徑向基函數(shù)是目前數(shù)值分析研究中的一個(gè)主要領(lǐng)域之一。

最基本的徑向基函數(shù)（RBF）神經(jīng)網(wǎng)絡(luò)的構(gòu)成包括三層，其中每一層都有著完全不同的作用。輸入層由一些感知單元組成，它們將網(wǎng)絡(luò)與外界環(huán)境連接起來(lái)；第二層是網(wǎng)絡(luò)中僅有的一個(gè)隱層，它的作用是從輸入空間到隱層空間之間進(jìn)行非線性變換，在大多數(shù)情況下，隱層空間有較高的維數(shù)；輸出層是線性的，它為作用于輸入層的激活模式提供響應(yīng)。

基本的徑向基函數(shù)RBF網(wǎng)絡(luò)是具有單穩(wěn)層的三層前饋網(wǎng)絡(luò)。由于它模擬了人腦中局部調(diào)整、相互覆蓋接受域（或稱(chēng)感受域，Receptive Field）的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，因此，RBF網(wǎng)絡(luò)是一種局部逼近網(wǎng)絡(luò)，現(xiàn)已證明它能以任意精度逼近任一連續(xù)函數(shù).

RBF網(wǎng)絡(luò)的常規(guī)學(xué)習(xí)算法，一般包括兩個(gè)不同的階段：

(1)、隱層徑向基函數(shù)的中心的確定階段。常見(jiàn)方法有隨機(jī)選取固定中心法；中心的自組織選擇法等。

(2)、徑向基函數(shù)權(quán)值學(xué)習(xí)調(diào)整階段。常見(jiàn)方法有中心的監(jiān)督選擇法；正則化嚴(yán)格插值法等。

10. SOM模型

芬蘭Helsink大學(xué)Kohonen T.教授提出一種自組織特征映射網(wǎng)絡(luò)SOM(Self-organizing feature Map)，又稱(chēng)Kohonen網(wǎng)絡(luò)。Kohonen認(rèn)為，一個(gè)神經(jīng)網(wǎng)絡(luò)接受外界輸入模式時(shí)，將會(huì)分為不同的對(duì)應(yīng)區(qū)域，各區(qū)域?qū)斎肽Ｊ接胁煌捻憫?yīng)特征，而這個(gè)過(guò)程是自動(dòng)完成的。SOM網(wǎng)絡(luò)正是根據(jù)這一看法提出的，其特點(diǎn)與人腦的自組織特性相類(lèi)似。

自組織神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

(1)、定義：自組織神經(jīng)網(wǎng)絡(luò)是無(wú)導(dǎo)師學(xué)習(xí)網(wǎng)絡(luò)。它通過(guò)自動(dòng)尋找樣本中的內(nèi)在規(guī)律和本質(zhì)屬性，自組織、自適應(yīng)地改變網(wǎng)絡(luò)參數(shù)與結(jié)構(gòu)。

(2)、結(jié)構(gòu)：層次型結(jié)構(gòu)，具有競(jìng)爭(zhēng)層。典型結(jié)構(gòu)：輸入層＋競(jìng)爭(zhēng)層。

輸入層：接受外界信息，將輸入模式向競(jìng)爭(zhēng)層傳遞，起“觀察”作用。

競(jìng)爭(zhēng)層：負(fù)責(zé)對(duì)輸入模式進(jìn)行“分析比較，尋找規(guī)律，并歸類(lèi)。

自組織神經(jīng)網(wǎng)絡(luò)的原理

(1)、分類(lèi)與輸入模式的相似性：分類(lèi)是在類(lèi)別知識(shí)等導(dǎo)師信號(hào)的指導(dǎo)下，將待識(shí)別的輸入模式分配到各自的模式類(lèi)中，無(wú)導(dǎo)師指導(dǎo)的分類(lèi)稱(chēng)為聚類(lèi)，聚類(lèi)的目的是將相似的模式樣本劃歸一類(lèi)，而將不相似的分離開(kāi)來(lái)，實(shí)現(xiàn)模式樣本的類(lèi)內(nèi)相似性和類(lèi)間分離性。由于無(wú)導(dǎo)師學(xué)習(xí)的訓(xùn)練樣本中不含期望輸出，因此對(duì)于某一輸入模式樣本應(yīng)屬于哪一類(lèi)并沒(méi)有任何先驗(yàn)知識(shí)。對(duì)于一組輸入模式，只能根據(jù)它們之間的相似程度來(lái)分為若干類(lèi)，因此，相似性是輸入模式的聚類(lèi)依據(jù)。

(2)、相似性測(cè)量：神經(jīng)網(wǎng)絡(luò)的輸入模式向量的相似性測(cè)量可用向量之間的距離來(lái)衡量。常用的方法有歐氏距離法和余弦法兩種。

(3)、競(jìng)爭(zhēng)學(xué)習(xí)原理:競(jìng)爭(zhēng)學(xué)習(xí)規(guī)則的生理學(xué)基礎(chǔ)是神經(jīng)細(xì)胞的側(cè)抑制現(xiàn)象：當(dāng)一個(gè)神經(jīng)細(xì)胞興奮后，會(huì)對(duì)其周?chē)纳窠?jīng)細(xì)胞產(chǎn)生抑制作用。最強(qiáng)的抑制作用是競(jìng)爭(zhēng)獲勝的“唯我獨(dú)興”，這種做法稱(chēng)為“勝者為王”，（Winner-Take-All）。競(jìng)爭(zhēng)學(xué)習(xí)規(guī)則就是從神經(jīng)細(xì)胞的側(cè)抑制現(xiàn)象獲得的。它的學(xué)習(xí)步驟為：A、向量歸一化；B、尋找獲勝神經(jīng)元；C、網(wǎng)絡(luò)輸出與權(quán)調(diào)整；D、重新歸一化處理。

SOM網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)：SOM網(wǎng)絡(luò)共有兩層。即：輸入層和輸出層。

(1)、輸入層：通過(guò)權(quán)向量將外界信息匯集到輸出層各神經(jīng)元。輸入層的形式與BP網(wǎng)相同，節(jié)點(diǎn)數(shù)與樣本維數(shù)相同。

(2)、輸出層：輸出層也是競(jìng)爭(zhēng)層。其神經(jīng)元的排列有多種形式。分為一維線陣,二維平面陣和三維柵格陣。最典型的結(jié)構(gòu)是二維形式。它更具大腦皮層的形象。

輸出層的每個(gè)神經(jīng)元同它周?chē)钠渌窠?jīng)元側(cè)向連接，排列成棋盤(pán)狀平面；輸入層為單層神經(jīng)元排列。

SOM權(quán)值調(diào)整域

SOM網(wǎng)采用的算法，稱(chēng)為Kohonen算法，它是在勝者為王WTA(Winner-Take-All)學(xué)習(xí)規(guī)則基礎(chǔ)上加以改進(jìn)的，主要區(qū)別是調(diào)整權(quán)向量與側(cè)抑制的方式不同：WTA：側(cè)抑制是“封殺”式的。只有獲勝神經(jīng)元可以調(diào)整其權(quán)值，其他神經(jīng)元都無(wú)權(quán)調(diào)整。Kohonen算法：獲勝神經(jīng)元對(duì)其鄰近神經(jīng)元的影響是由近及遠(yuǎn)，由興奮逐漸變?yōu)橐种?。換句話說(shuō)，不僅獲勝神經(jīng)元要調(diào)整權(quán)值，它周?chē)窠?jīng)元也要不同程度調(diào)整權(quán)向量。

SOM網(wǎng)絡(luò)運(yùn)行原理

SOM網(wǎng)絡(luò)的運(yùn)行分訓(xùn)練和工作兩個(gè)階段。在訓(xùn)練階段，網(wǎng)絡(luò)隨機(jī)輸入訓(xùn)練集中的樣本，對(duì)某個(gè)特定的輸入模式，輸出層會(huì)有某個(gè)節(jié)點(diǎn)產(chǎn)生最大響應(yīng)而獲勝，而在訓(xùn)練開(kāi)始階段，輸出層哪個(gè)位置的節(jié)點(diǎn)將對(duì)哪類(lèi)輸入模式產(chǎn)生最大響應(yīng)是不確定的。當(dāng)輸入模式的類(lèi)別改變時(shí)，二維平面的獲勝節(jié)點(diǎn)也會(huì)改變。獲勝節(jié)點(diǎn)周?chē)墓?jié)點(diǎn)因側(cè)向相互興奮作用也產(chǎn)生較大影響，于是獲勝節(jié)點(diǎn)及其優(yōu)勝鄰域內(nèi)的所有節(jié)點(diǎn)所連接的權(quán)向量均向輸入方向作不同程度的調(diào)整，調(diào)整力度依鄰域內(nèi)各節(jié)點(diǎn)距離獲勝節(jié)點(diǎn)的遠(yuǎn)近而逐漸減小。網(wǎng)絡(luò)通過(guò)自組織方式，用大量訓(xùn)練樣本調(diào)整網(wǎng)絡(luò)權(quán)值，最后使輸出層各節(jié)點(diǎn)成為對(duì)特定模式類(lèi)敏感的神經(jīng)元，對(duì)應(yīng)的內(nèi)星權(quán)向量成為各輸入模式的中心向量。并且當(dāng)兩個(gè)模式類(lèi)的特征接近時(shí)，代表這兩類(lèi)的節(jié)點(diǎn)在位置上也接近。從而在輸出層形成能反應(yīng)樣本模式類(lèi)分布情況的有序特征圖。

11. CPN模型

1987年美國(guó)學(xué)者RobertHecht —Nielson提出了對(duì)偶傳播神經(jīng)網(wǎng)絡(luò)(Counter--propagation Networks，簡(jiǎn)記為CPN)。CPN最早是用來(lái)實(shí)現(xiàn)樣本選擇匹配系統(tǒng)的。它能存儲(chǔ)二進(jìn)制或模擬值的模式對(duì)，因此CPN網(wǎng)絡(luò)可以用作聯(lián)想存儲(chǔ)﹑模式分類(lèi)﹑函數(shù)逼近和數(shù)據(jù)壓縮等用途。與BP網(wǎng)相比，CPN的訓(xùn)練速度要快很多，所需的時(shí)間大約是BP網(wǎng)所需時(shí)間的1％。但是，它的應(yīng)用面卻因網(wǎng)絡(luò)的性能相對(duì)來(lái)說(shuō)比較窄。

從網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)來(lái)看，CPN與BP網(wǎng)類(lèi)似，CPN是一個(gè)三層的神經(jīng)網(wǎng)絡(luò)，只不過(guò)這競(jìng)爭(zhēng)層和輸出層執(zhí)行的訓(xùn)練算法是不同的。所以，稱(chēng)CPN 是一個(gè)異構(gòu)網(wǎng)。與同構(gòu)網(wǎng)相比，網(wǎng)絡(luò)的異構(gòu)性使它更接近于人腦。在人腦中存在有各種特殊的模塊，它們使用完成不同的運(yùn)算。例如，在聽(tīng)覺(jué)通道的每一層，其神經(jīng)元與神經(jīng)纖維在結(jié)構(gòu)上的排列與頻率的關(guān)系十分密切，對(duì)某一些頻率，其中某些相應(yīng)的神經(jīng)元會(huì)獲得最大的響應(yīng)。這種聽(tīng)覺(jué)通道上的神經(jīng)元的有序排列一直延續(xù)到聽(tīng)覺(jué)皮層。盡管許多低層次上的神經(jīng)元是預(yù)先排列好的，但高層次上的神經(jīng)元的組織則是通過(guò)學(xué)習(xí)自組織形成的。

在RobertHecht—Nielson提出的CPN神經(jīng)網(wǎng)絡(luò)中，其競(jìng)爭(zhēng)層和輸出層分別執(zhí)行較早些時(shí)候出現(xiàn)的兩個(gè)著名算法：即Kohonen l981年提出的自組織映射SOM算法和Grossberg l969年提出的外星(Outstar)算法。人們將執(zhí)行自組織映射的層稱(chēng)為Kohonen層，執(zhí)行外星算法的層則被稱(chēng)為Grossberg層。按這種方法將這兩種算法組合在一起后所獲得的網(wǎng)絡(luò)，不僅提供了一種設(shè)計(jì)多級(jí)網(wǎng)訓(xùn)練算法的思路，解決了多級(jí)網(wǎng)絡(luò)的訓(xùn)練問(wèn)題，突破了單極網(wǎng)的限制，而且還使得網(wǎng)絡(luò)具有了許多新的特點(diǎn)。多級(jí)網(wǎng)絡(luò)的訓(xùn)練問(wèn)題主要是在解決隱藏層神經(jīng)元相應(yīng)的聯(lián)接權(quán)調(diào)整時(shí)，需要通過(guò)隱藏層神經(jīng)元的理想輸出來(lái)實(shí)現(xiàn)相關(guān)誤差的估計(jì)。然而，它們對(duì)應(yīng)的理想輸出又是未知的。在無(wú)導(dǎo)師訓(xùn)練中是不需要知道理想輸出的，因此可以考慮讓網(wǎng)絡(luò)的隱藏層執(zhí)行無(wú)導(dǎo)師學(xué)習(xí)。這是解決多級(jí)網(wǎng)絡(luò)訓(xùn)練的另一個(gè)思路。實(shí)際上，CPN就是將無(wú)導(dǎo)師訓(xùn)練算法與有導(dǎo)師訓(xùn)練算法結(jié)合在一起，用無(wú)導(dǎo)師訓(xùn)練解決網(wǎng)絡(luò)隱藏層的理想輸出未知的問(wèn)題，用有導(dǎo)師訓(xùn)練解決輸出層按系統(tǒng)的要求給出指定的輸出結(jié)果的問(wèn)題。

Kohonen提出的自組織映射由四部分組成，包括一個(gè)神經(jīng)元陣列(用它構(gòu)成CPN的Kohonen層)，一種比較選擇機(jī)制，一個(gè)局部互聯(lián)，一個(gè)自適應(yīng)過(guò)程。實(shí)際上，這一層將實(shí)現(xiàn)對(duì)輸入進(jìn)行分類(lèi)的功能。所以，該層可以執(zhí)行無(wú)導(dǎo)師的學(xué)習(xí)，以完成對(duì)樣本集中所含的分類(lèi)信息的提取。

Grossberg層主要用來(lái)實(shí)現(xiàn)類(lèi)表示。由于相應(yīng)的類(lèi)應(yīng)該是用戶所要求的，所以，對(duì)應(yīng)每—個(gè)輸入向量，用戶明確地知道它對(duì)應(yīng)的理想輸出向量，故該層將執(zhí)行有導(dǎo)師的訓(xùn)練。兩層的有機(jī)結(jié)合，就構(gòu)成—個(gè)映射系統(tǒng)。所以，有人將CPN 看成一個(gè)有能力進(jìn)行一定的推廣的查找表(Look—up table)。它的訓(xùn)練過(guò)程就是將輸入向量與相應(yīng)的輸出向量對(duì)應(yīng)起來(lái)。這些向量可以是二值的，也可以是連續(xù)的。一旦網(wǎng)絡(luò)完成了訓(xùn)練，對(duì)一個(gè)給定的輸入就可以給出一個(gè)對(duì)應(yīng)的輸出。網(wǎng)絡(luò)的推廣能力表明，當(dāng)網(wǎng)絡(luò)遇到一個(gè)不太完整的、或者是不完全正確的輸入時(shí)，只要該“噪音”是在有限的范圍內(nèi)，CPN 都可以產(chǎn)生一個(gè)正確的輸出。這是因?yàn)镵ohonen 層可以找到這個(gè)含有噪音的輸入應(yīng)該屬于的分類(lèi)，而對(duì)應(yīng)的Grossberg層則可以給出該分類(lèi)的表示。從整個(gè)網(wǎng)絡(luò)來(lái)看，就表現(xiàn)出一種泛化能力。這使得網(wǎng)絡(luò)在模式識(shí)別、模式完善、信號(hào)處理等方面可以有較好的應(yīng)用。另外，上述映射的逆映射如果存在的話，可以通過(guò)對(duì)此網(wǎng)的簡(jiǎn)單擴(kuò)展，來(lái)實(shí)現(xiàn)相應(yīng)的逆變換。這被稱(chēng)為全對(duì)傳網(wǎng)。

12. ART模型

在神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)中，當(dāng)網(wǎng)絡(luò)規(guī)模給定后，由權(quán)矩陣所能記憶的模式類(lèi)別信息量總是有限的，新輸入的模式樣本必然會(huì)對(duì)已經(jīng)記憶的模式樣本產(chǎn)生抵消或遺忘，從而使網(wǎng)絡(luò)的分類(lèi)能力受到影響?？繜o(wú)限擴(kuò)大網(wǎng)絡(luò)規(guī)模解決上述問(wèn)題是不現(xiàn)實(shí)的。如何保證在適當(dāng)增加網(wǎng)絡(luò)規(guī)模的同時(shí)，在過(guò)去記憶的模式和新輸入的訓(xùn)練模式之間作出某種折中，既能最大限度地接收新的模式信息，同時(shí)又能保證較少地影響過(guò)去的樣本模式呢？ ART網(wǎng)絡(luò)在一定程度上能較好解決此問(wèn)題。

1976年，美國(guó)Boston大學(xué)CarpenterG.A.教授提出了自適應(yīng)共振理論ART(Adaptive Resonance Theory)。隨后Carpenter G.A.又與他的學(xué)生GrossbergS.合作提出了ART神經(jīng)網(wǎng)絡(luò)。

經(jīng)過(guò)多年的研究和發(fā)展，ART 網(wǎng)絡(luò)已有幾種基本形式：

(1)、ART1型神經(jīng)網(wǎng)絡(luò)：處理雙極性和二進(jìn)制信號(hào)；

(2)、ART2型神經(jīng)網(wǎng)絡(luò)：它是ART1型的擴(kuò)展，用于處理連續(xù)型模擬信號(hào)；

(3)、ART綜合系統(tǒng)：將ART1和ART2綜合在一起，系統(tǒng)具有識(shí)別﹑補(bǔ)充和撤消等綜合功能。即所謂的3R（Recognition﹑Reinforcement﹑Recall）功能。

(4)、ART3型神經(jīng)網(wǎng)絡(luò)：它是一種分級(jí)搜索模型，兼容前兩種結(jié)構(gòu)的功能并將兩層神經(jīng)網(wǎng)絡(luò)擴(kuò)大為任意多層神經(jīng)元網(wǎng)絡(luò)，由于ART3型在神經(jīng)元的模型中納入了生物神經(jīng)元的生物電－化學(xué)反應(yīng)機(jī)制，因而它具備了很強(qiáng)的功能和擴(kuò)展能力。

13. 量子神經(jīng)網(wǎng)絡(luò)

量子神經(jīng)網(wǎng)絡(luò)的概念出現(xiàn)于上個(gè)世紀(jì)90年代后期，一經(jīng)提出后便引起了不同領(lǐng)域的科學(xué)家的關(guān)注，人們?cè)谶@個(gè)嶄新的領(lǐng)域進(jìn)行了不同方向的探索，提出了很多想法和初步的模型，充分體現(xiàn)了量子神經(jīng)網(wǎng)絡(luò)研究的巨大潛力。主要研究方向可以概括為：

(1)、量子神經(jīng)網(wǎng)絡(luò)采用神經(jīng)網(wǎng)絡(luò)的連接思想來(lái)構(gòu)造量子計(jì)算機(jī)，通過(guò)神經(jīng)網(wǎng)絡(luò)模型來(lái)研究量子計(jì)算中的問(wèn)題；

(2)、量子神經(jīng)網(wǎng)絡(luò)在量子計(jì)算機(jī)或量子器件的基礎(chǔ)上構(gòu)造神經(jīng)網(wǎng)絡(luò)，充分利用量子計(jì)算超高速、超并行、指數(shù)級(jí)容量的特點(diǎn)，來(lái)改進(jìn)神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和性能；

(3)、量子神經(jīng)網(wǎng)絡(luò)作為一種混合的智能優(yōu)化算法在傳統(tǒng)的計(jì)算機(jī)上的實(shí)現(xiàn)，通過(guò)引入量子理論中的思想對(duì)傳統(tǒng)神經(jīng)網(wǎng)絡(luò)改進(jìn)，利用量子理論中的概念、方法(如態(tài)疊加、“多宇宙”觀點(diǎn)等)，建立新的網(wǎng)絡(luò)模型；改善傳統(tǒng)神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和性能；

(4)、基于腦科學(xué)、認(rèn)知科學(xué)的研究。

以上整理的內(nèi)容主要摘自：

1. 《人工神經(jīng)網(wǎng)絡(luò)原理及應(yīng)用》，2006，科學(xué)出版社

2. 《神經(jīng)網(wǎng)絡(luò)郵件分類(lèi)算法研究》，2011，碩論，電子科技大學(xué)

3. 《人工神經(jīng)網(wǎng)絡(luò)原理、分類(lèi)及應(yīng)用》，2014，期刊，科技資訊