人工智能軟件在執(zhí)行任務(wù)時(shí)竟然自己找捷徑

斯坦福大學(xué)（Stanford）和谷歌（Google）聯(lián)合進(jìn)行的一個(gè)人工智能項(xiàng)目驚訝的發(fā)現(xiàn)，他們的軟件在執(zhí)行任務(wù)時(shí)竟然自己知道“找捷徑”、“耍小聰明”欺瞞人類，而不是像人類以為的、它們只會(huì)腳踏實(shí)地真正地通過(guò)高效率“學(xué)習(xí)”去完成任務(wù)。

設(shè)計(jì)者們?cè)谘邪l(fā)一個(gè)名為CycleGAN的人工智能網(wǎng)絡(luò)，旨在把衛(wèi)星圖轉(zhuǎn)變?yōu)榻值赖貓D，再?gòu)慕值赖貓D轉(zhuǎn)換回衛(wèi)星圖。設(shè)計(jì)者對(duì)每次轉(zhuǎn)換的結(jié)果按照兩份衛(wèi)星圖（原始圖和轉(zhuǎn)換圖）的匹配度、街道地圖的清晰度等方面打分，以“訓(xùn)練”這套軟件不斷提升完成這項(xiàng)任務(wù)的能力。

測(cè)試結(jié)果顯示這個(gè)人工智能產(chǎn)品表現(xiàn)得相當(dāng)出色。人工智能和普通的電腦程序有很大不同。后者可以通過(guò)程序調(diào)試明確看到其每一步的運(yùn)行情況。而人工智能軟件其內(nèi)部究竟如何運(yùn)作有點(diǎn)類似“暗箱操作”，即便是設(shè)計(jì)師也難以完全清楚，只有通過(guò)不斷評(píng)估其完成的結(jié)果或調(diào)整指令要求與軟件進(jìn)行“溝通”。

據(jù)科技網(wǎng)TechCrunch報(bào)導(dǎo)，研究者發(fā)現(xiàn)衛(wèi)星原圖上所有屋子的房頂天窗，都不在生成的街道地圖上，但是再轉(zhuǎn)換回衛(wèi)星圖時(shí)卻一個(gè)不少。

是的，這正是設(shè)計(jì)師所要的，人工智能完成這項(xiàng)任務(wù)的出色度令人類驚嘆，然而當(dāng)研究者探究到它做到這一點(diǎn)所采用的方法時(shí)，卻不知道該是“佩服”還是應(yīng)該感到擔(dān)憂？

細(xì)心的研究者們發(fā)現(xiàn)，這套軟件自己“想”了個(gè)辦法，把屋頂天窗的信息用一種人類眼睛分辨不出的顏色信息存儲(chǔ)在其生成的街道地圖上，而在返回去生成衛(wèi)星圖時(shí)，電腦通過(guò)這些顏色信息就能還原出所有的天窗。

這令研究者們大為詫異，因?yàn)檫@不是設(shè)計(jì)師“教”給它的，設(shè)計(jì)師只告訴它任務(wù)的描述，并對(duì)完成的結(jié)果打分，以為人工智能系統(tǒng)會(huì)通過(guò)不斷的“練習(xí)”踏實(shí)地從零開始還原衛(wèi)星圖。

人類也在運(yùn)用這種技術(shù)，叫做“隱寫術(shù)”（steganography），比如鈔票上的水印，相機(jī)照片上拍攝的時(shí)間地點(diǎn)等信息等，都是這種技術(shù)的不同實(shí)現(xiàn)方式。這是人類需要的合理用途。

但是在這件事情上，顯然有點(diǎn)不同——這項(xiàng)發(fā)現(xiàn)向研究者們提出了一個(gè)問(wèn)題，在告訴人工智能作什么的同時(shí)，如何教會(huì)它們什么是“不能做”的。

研究者們坦承，他們接下來(lái)需要“收緊”指令條件，糾正這個(gè)問(wèn)題。

有人認(rèn)為，人類自身就是不完美的，人類造出的人工智能不正是人類的“鏡像”嗎？就像人類培養(yǎng)出的孩子，不也會(huì)自己“學(xué)壞”嗎？

或者從另一個(gè)角度理解，給人工智能不斷設(shè)定的行為約束和條件，是不是很像人類社會(huì)設(shè)定的法律條款？現(xiàn)代社會(huì)法律越定越細(xì)、越嚴(yán)格，就把人管得好了嗎？我們看到的是，完全沒(méi)能解決對(duì)人類行為約束的問(wèn)題。