反饋循環(huán)對(duì)于自動(dòng)化至關(guān)重要，但可能被證明是AI的致命弱點(diǎn)

反饋循環(huán)對(duì)于自動(dòng)化至關(guān)重要，但可能被證明是AI的致命弱點(diǎn)。

歡迎來到書籍。隨著一個(gè)少于五個(gè)美國人閱讀只是為了好玩，這些天，我們通過在網(wǎng)上淘的最有趣的為你做的辛勤工作，發(fā)人深省的科學(xué)和技術(shù)，我們可以找到的書籍，并提供一個(gè)容易消化的金塊故事。

如果不是機(jī)器學(xué)習(xí)，我們的現(xiàn)代世界將不存在。從電信到運(yùn)輸，醫(yī)藥到航空航天，人工智能的加速發(fā)展已經(jīng)證明對(duì)人類和公共利益來說是一個(gè)福音。然而，允許他們從過去的經(jīng)驗(yàn)中學(xué)習(xí)的相同能力可以并且可能被用于諸如扼殺商業(yè)競爭之類的卑鄙目的。在下面摘錄了誰害怕人工智能？作者Thomas Ramge研究了反饋循環(huán)對(duì)自動(dòng)化的影響，以及如何控制它們產(chǎn)生的數(shù)據(jù)可以使公司不公平地影響市場。

反饋創(chuàng)建數(shù)據(jù)壟斷

對(duì)于計(jì)算機(jī)學(xué)習(xí)系統(tǒng)，人類的陳詞濫調(diào)是正確的：在你嘗試之前，你永遠(yuǎn)不會(huì)知道。然而，與人們一樣，只有當(dāng)計(jì)算機(jī)系統(tǒng)識(shí)別其嘗試是成功還是失敗時(shí)，計(jì)算機(jī)才成為現(xiàn)實(shí)。因此，反饋數(shù)據(jù)在學(xué)習(xí)計(jì)算機(jī)系統(tǒng)中起著決定性（并且經(jīng)常被忽視）的作用。學(xué)習(xí)系統(tǒng)越頻繁和準(zhǔn)確地接收關(guān)于它是否找到了正確的電話號(hào)碼，實(shí)際計(jì)算出最佳路線，或者從照片中正確診斷出皮膚狀況的反饋，它學(xué)得越好越快。

反饋是所有自動(dòng)控制機(jī)器方法的技術(shù)核心。美國數(shù)學(xué)家諾伯特·維納（Norbert Wiener）在20世紀(jì)40年代為此建立了理論基礎(chǔ) - 控制論。每個(gè)技術(shù)系統(tǒng)都可以通過反饋數(shù)據(jù)根據(jù)目標(biāo)進(jìn)行控制和重定向。這聽起來比現(xiàn)在復(fù)雜得多。

一些最早的控制論系統(tǒng)是美國陸軍用于保衛(wèi)英國城市免受德國V-1巡航導(dǎo)彈攻擊的自動(dòng)火箭防御系統(tǒng)。雷達(dá)探測到德國火箭，在連續(xù)反饋回路中向防空大炮通報(bào)了炸彈的位置，并計(jì)算了其未來的飛行路徑。大炮根據(jù)連續(xù)的反饋信號(hào)瞄準(zhǔn)自己，然后在（希望）正確的時(shí)刻開火。在戰(zhàn)爭結(jié)束時(shí)，英國人和美國人在天空中射擊了大約70%的“復(fù)仇武器”。

值得慶幸的是，反饋循環(huán)不僅僅是軍事創(chuàng)新。如果沒有他們，阿波羅任務(wù)將永遠(yuǎn)不會(huì)降落在月球上，沒有噴氣式飛機(jī)可以安全地飛越海洋，沒有噴射泵可以為活塞提供完美時(shí)間的汽油，并且當(dāng)人的腿被卡在其中時(shí)，電梯門不會(huì)重新打開。但在其他領(lǐng)域，反饋循環(huán)與人工智能中的一樣重要。它們是最重要的原料。

當(dāng)我們開始在Google中輸入一個(gè)術(shù)語時(shí)，反饋數(shù)據(jù)就會(huì)起作用，Google會(huì)立即建議我們正在尋找的內(nèi)容。事實(shí)上，谷歌的建議可能是一個(gè)更好的搜索術(shù)語，因?yàn)樵S多其他谷歌用戶已經(jīng)給出系統(tǒng)反饋，當(dāng)他們點(diǎn)擊相同或類似搜索詞中的谷歌建議時(shí)，經(jīng)常搜索該術(shù)語。然后，當(dāng)我們接受建議時(shí)，我們會(huì)創(chuàng)建其他反饋數(shù)據(jù)。如果我們改為輸入不同的術(shù)語，我們也會(huì)做同樣的事情。亞馬遜使用反饋數(shù)據(jù)優(yōu)化其推薦算法，而Facebook對(duì)用戶在其時(shí)間軸中看到的帖子星座也是如此。這些數(shù)據(jù)有助于PayPal以不斷提高的準(zhǔn)確度預(yù)測付款是否可能是欺詐性的;你可以想象，

數(shù)據(jù)在人工智能時(shí)代具有類似的效果，規(guī)模經(jīng)濟(jì)在工業(yè)化過程中具有大規(guī)模生產(chǎn)的作用，而網(wǎng)絡(luò)效應(yīng)對(duì)過去二十五年的數(shù)字經(jīng)濟(jì)產(chǎn)生了影響。規(guī)模經(jīng)濟(jì)降低了福特T型車型，索尼管式電視機(jī)，華為智能手機(jī)等實(shí)物產(chǎn)品的成本，達(dá)到了科學(xué)管理發(fā)明者弗雷德里克溫斯洛泰勒難以想象的程度。斯坦福大學(xué)經(jīng)濟(jì)學(xué)家卡爾夏皮羅和哈爾瓦里安廣泛調(diào)查的網(wǎng)絡(luò)效應(yīng)導(dǎo)致了亞馬遜，eBay，阿里巴巴，F(xiàn)acebook和微信以及優(yōu)步和迪迪等數(shù)字平臺(tái)的壟斷地位。網(wǎng)絡(luò)效應(yīng)意味著每個(gè)新參與者，平臺(tái)對(duì)使用它的每個(gè)人都更具吸引力。使用WhatsApp的人越多，用戶安裝應(yīng)用的次數(shù)就越多，因?yàn)橥ㄟ^應(yīng)用程序聯(lián)系朋友或熟人或參與群聊更有可能。運(yùn)行Android操作系統(tǒng)的智能手機(jī)越多，開發(fā)人員開發(fā)Android應(yīng)用程序的吸引力就越大，再次提升了操作系統(tǒng)的吸引力。

另一方面，人工智能中的反饋效應(yīng)導(dǎo)致系統(tǒng)變得更加智能，因?yàn)樵絹碓蕉嗟娜讼驒C(jī)器提供反饋數(shù)據(jù)。反饋數(shù)據(jù)是智能技術(shù)學(xué)習(xí)過程的核心。在接下來的幾年中，數(shù)字反饋將帶來商業(yè)上可行的自動(dòng)駕駛系統(tǒng)，語言翻譯程序和圖像識(shí)別。反饋數(shù)據(jù)將導(dǎo)致立法者相當(dāng)頭疼，因?yàn)槿绻麤]有新的措施來防范壟斷，長期反饋數(shù)據(jù)的積累將幾乎不可避免地導(dǎo)致數(shù)據(jù)壟斷。最受歡迎的產(chǎn)品和服務(wù)將迅速改進(jìn)，因?yàn)榇蠖鄶?shù)反饋數(shù)據(jù)將被輸入其中。機(jī)器學(xué)習(xí)將在某種程度上融入這些產(chǎn)品中，這意味著只有在特殊情況下，創(chuàng)新的新人才有機(jī)會(huì)對(duì)抗AI驅(qū)動(dòng)的經(jīng)濟(jì)的頂級(jí)犬。自我改進(jìn)技術(shù)阻礙了競爭。人類必須找到這個(gè)技術(shù)問題的法律答案。