摘要:在AI從功能相對專門化變成能夠像人類一樣輕松處理眾多任務之前,還有一段路要走。
近年來AI已迎來了巨大的飛躍。我們看到這項技術(shù)應用于自動駕駛汽車、協(xié)作式機器人和多用途深度學習系統(tǒng)(這種系統(tǒng)可以獨自玩轉(zhuǎn)各種各樣的棋盤游戲,借助地鐵地圖推斷路線或借助家譜圖推斷關系)。然而,在AI從功能相對專門化變成能夠像人類一樣輕松處理眾多任務之前,還有一段路要走。
向開發(fā)這種強人工智能邁出的一步是在計算機上模擬人類大腦如何運轉(zhuǎn),以便研究人員能更深入地了解智能背后的內(nèi)在機理??蓡栴}是,人類大腦異常復雜,即使借助今天的大型超級計算機的強大功能,還是不可能模擬人腦1000億個神經(jīng)元與數(shù)萬億個突觸之間的所有相互關系。
但現(xiàn)在這個目標更接近了一步,這要感謝一群國際研究人員,他們現(xiàn)在已開發(fā)出了一種算法,該算法不僅加快了現(xiàn)有超級計算機上的人腦模擬,還向未來的百億億次運算超級計算機(每秒能執(zhí)行上百億億次運算的計算機)上實現(xiàn)“全腦”模擬邁出了一大步。
全腦模擬所需的計算
這項研究成果發(fā)表在《神經(jīng)信息學前沿》(Frontiers in Neuroinformatics)雜志(https://www.frontiersin.org/articles/10.3389/fninf.2018.00002/full?utm_source=G-BLO&utm_medium=WEXT&utm_campaign=ECO_FNINF_20180302_exascale-brain)上,概述了研究人員如何在超級計算機機上構(gòu)建一個神經(jīng)網(wǎng)絡的新方法。想了解這項任務有多艱巨,僅舉一例來說明:現(xiàn)有的超級計算機(比如日本神戶計算科學高級研究所的千萬億次運算K計算機)也只能復制大腦中10%部位的活動。
那是由于它受制于構(gòu)建模擬模型的方式,這影響了超級計算機的節(jié)點之間如何通信。超級計算機可能有超過十萬個這樣的節(jié)點,每個節(jié)點都有自己的處理器來執(zhí)行運算。在更龐大的模擬中,這些虛擬神經(jīng)元分布在計算節(jié)點之間,以便高效地均衡處理工作負載,然而這些更龐大模擬面臨的挑戰(zhàn)之一是神經(jīng)網(wǎng)絡的高連通性,這需要大量的計算能力來復制。
斯德哥爾摩瑞典皇家理工學院的蘇姍娜?孔克爾(Susanne Kunkel)是論文作者之一,她說:“在神經(jīng)網(wǎng)絡模擬能夠進行之前,需要以虛擬方式構(gòu)建神經(jīng)元及其連接,這意味著它們需要在節(jié)點的內(nèi)存中創(chuàng)建實例。在模擬過程中,神經(jīng)元不知道目標神經(jīng)元在哪些節(jié)點上,因此神經(jīng)元的短電脈沖需要發(fā)送給所有節(jié)點。然后,每個節(jié)點檢查所有這些電脈沖中哪些對該節(jié)點上存在的虛擬神經(jīng)元來說很重要?!?/p>
用更簡單更形象的話來說,這比給每個節(jié)點發(fā)送整堆草垛,那樣每個節(jié)點都需要從這堆草垛中找到對它來說很重要的那些針。不用說,這個過程消耗大量內(nèi)存,虛擬神經(jīng)元網(wǎng)絡的規(guī)模增大時更是如此。想要使用現(xiàn)有技術(shù)來擴大規(guī)模,并模擬整個人腦,就需要比當今超級計算機多出100倍的處理內(nèi)存。然而,新算法改變了游戲規(guī)則,因為它可以優(yōu)化這個過程,為此它讓節(jié)點可以先交換哪些節(jié)點發(fā)送、哪些節(jié)點接收方面的信息,那樣以后每個節(jié)點只需要發(fā)送和接收它所需要的信息,沒必要翻遍整堆草垛。
論文作者、于利希研究中心的雅各布?喬丹(JakobJordan)說:“有了這項新技術(shù),我們可以比以前更好地充分利用現(xiàn)代微處理器的并行機制,這在百億億次運算計算機中將變得極為重要?!?/p>
研究團隊發(fā)現(xiàn),借助這種經(jīng)過改進的算法,一個由5.8萬億個突觸連接的5.2億個神經(jīng)元組成的虛擬網(wǎng)絡在于利希研究中心的超級計算機JUQUEEN上運行,能夠在5.2分鐘的運算時間模擬1秒鐘的生物時間,而以前使用傳統(tǒng)方法需要28.5分鐘的運算時間。
據(jù)預測,將來能夠執(zhí)行百億億次運算的機器將比當前超級計算機的性能高出10倍到100倍。借助該團隊開發(fā)的算法(將作為一種開源工具來提供),這將意味著更能夠探究智能在整體上的機理。
-
超級計算機
+關注
關注
2文章
464瀏覽量
41974 -
AI
+關注
關注
87文章
31316瀏覽量
269660 -
神經(jīng)元
+關注
關注
1文章
363瀏覽量
18484
原文標題:新算法將幫助超級計算機模擬全腦神經(jīng)連接!
文章出處:【微信號:AItists,微信公眾號:人工智能學家】歡迎添加關注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關推薦
評論