探索人工智能恐懼的現(xiàn)象

來源：中國社會科學(xué)網(wǎng)

當(dāng)前，人工智能在給人類帶來重大發(fā)展機(jī)遇的同時，各種風(fēng)險和挑戰(zhàn)也隨之而至。與科學(xué)技術(shù)領(lǐng)域人工智能熱火朝天的技術(shù)突破和產(chǎn)業(yè)創(chuàng)新遙相呼應(yīng)，哲學(xué)社會科學(xué)領(lǐng)域的人工智能倫理與治理問題的研究也如火如荼。這在很大程度上源于人們對人工智能的擔(dān)憂和焦慮。人工智能的發(fā)展導(dǎo)致一些人對其的恐懼心理加重，人工智能恐懼又會給人工智能的發(fā)展帶來一定阻力。因此，對人工智能恐懼現(xiàn)象進(jìn)行研究，一方面可以降低甚或消除其對人工智能發(fā)展的負(fù)面影響，另一方面又可以對人工智能的發(fā)展帶來警示作用，使其更好地服務(wù)于人類。

人工智能恐懼歷史溯源

盡管人工智能是包括科學(xué)、技術(shù)、哲學(xué)等在內(nèi)的綜合性學(xué)科，但談到人工智能風(fēng)險及其引發(fā)的人工智能恐懼時，往往主要針對的是技術(shù)層面的人工智能。因此，人工智能恐懼屬于技術(shù)恐懼的一種類型，技術(shù)恐懼的本質(zhì)及特點(diǎn)也會反映在人工智能恐懼上。“技術(shù)恐懼”一詞源于西方，其英文為“technophobia”，有時也用“technofear”。學(xué)界一般認(rèn)為，技術(shù)恐懼是指人們對技術(shù)及其產(chǎn)品表現(xiàn)出的不適應(yīng)、貶低、排斥、抵制、焦慮、恐慌等心理和行為反應(yīng)，反映的是“人與技術(shù)之間的一種負(fù)相關(guān)關(guān)系”。因此，人工智能恐懼與其他技術(shù)恐懼一樣，也會表現(xiàn)為人們對人工智能及其產(chǎn)品的擔(dān)憂、焦慮和恐慌，從而產(chǎn)生抵制、否定人工智能的行為態(tài)度，表現(xiàn)出的依然是人與人工智能（技術(shù)）的負(fù)相關(guān)關(guān)系。人工智能作為一個技術(shù)領(lǐng)域或技術(shù)產(chǎn)品，像其他新技術(shù)一樣，在發(fā)明和推廣利用過程中會遭到一些人的貶低、抵制、排斥和拒絕使用，這是由于技術(shù)本身的復(fù)雜性、風(fēng)險性以及技術(shù)革新打破了人們原來的技術(shù)環(huán)境和傳統(tǒng)習(xí)慣給人們帶來的壓力造成的。

同時，人工智能恐懼又不同于一般的技術(shù)恐懼。與其他技術(shù)恐懼的最大不同在于，人工智能恐懼的對象——技術(shù)及其產(chǎn)品的智能性上。人工智能恐懼源于人們對人造智能的恐懼。這種恐懼淵源已久，可以表現(xiàn)為兩個方面。

一是從智能的演化史看，人類智能或智力有一個從低到高的進(jìn)化過程，而在這個過程中，同一時期個體的智力水平又有高低之分，智能的進(jìn)化并不均衡。尤其在現(xiàn)代科技背景下，個人的智力可以定量測量，這從智力上把人進(jìn)行了劃分。這一現(xiàn)實(shí)并非現(xiàn)代才有的，而是伴隨人類的整個進(jìn)化過程。從智能進(jìn)化史來看，不具有智能的生物成為具有智能的人類的犧牲品和主宰對象，智力低下者又會成為智力較高者的統(tǒng)治和奴役對象。所以，高智能或高智力就會成為普通人的夢魘和恐懼對象。而人類對人工智能的恐懼持久而恒遠(yuǎn)的表現(xiàn)，就是人工智能可能超越人類智能成為人類的主宰。

二是從歷史文化的視角，對智能的恐懼可以追溯到遠(yuǎn)古時代的“泛靈論”，即人類以己度物的思維方式，推出自然萬物都像人一樣具有智能、具有靈魂。因此，人們形成了圖騰崇拜的遠(yuǎn)古文化，并引發(fā)了人們的自然恐懼——恐懼自然的實(shí)質(zhì)是恐懼自然的神靈，是恐懼自然具有智能，甚至其遠(yuǎn)遠(yuǎn)高于人類的智能。古人認(rèn)為，各種天災(zāi)甚至人禍都是自然神靈的一種意思表示，代表的是自然意志，是自然萬物具有智能的表現(xiàn)。究其實(shí)質(zhì)，自然的智能（意識）是人賦予的，上帝、神靈、妖魔鬼怪等各種富有智能的神話或宗教形象也都是人工塑造的。所以，從此種意義上講，這些是最早的人造智能，只不過這只是文化上的“人工智能”。自然神靈只是文化層面存在的人類之外的智能他者，人工智能技術(shù)的發(fā)展使智能他者由文化變?yōu)楝F(xiàn)實(shí)。與遠(yuǎn)古不同，異在智能他者從觀念創(chuàng)造已變成現(xiàn)實(shí)的技術(shù)創(chuàng)造。人類以己度物的思維和認(rèn)知方式依然存在，對智能的恐懼也從文化再次走向現(xiàn)實(shí)。

恐懼人工智能，最樸素的認(rèn)識就是恐懼機(jī)器戰(zhàn)勝人類，恐懼人類智能主體地位的喪失。此外，智能機(jī)器對人的替代導(dǎo)致的失業(yè)，人工智能極大提高和增強(qiáng)了技術(shù)的復(fù)雜性、不確定性、控制性或統(tǒng)治性，人工智能的倫理問題更加突出等，則是人工智能恐懼的新的生長點(diǎn)。

人工智能恐懼表現(xiàn)形式

通過對人工智能恐懼的理論和現(xiàn)實(shí)考察可以發(fā)現(xiàn)，人工智能恐懼主要有三個層面的表現(xiàn)形式。

一是技術(shù)意義上的人工智能恐懼。這種恐懼把人工智能視為一種技術(shù)形式，從恐懼技術(shù)化而生發(fā)出恐懼人工智能技術(shù)，這又包括三種情況。第一，基于自然主義的立場和觀點(diǎn)，反對自然的技術(shù)化或人工化，向往自然而然的生活，擔(dān)心技術(shù)會破壞自然生態(tài)、腐蝕人的心靈、污染道德風(fēng)尚，從而貶低和排斥技術(shù)。一些人擔(dān)心人工智能代替人的腦力勞動，會造成人腦的退化和思維的停滯，甚至有些人工智能相關(guān)技術(shù)會破壞人腦的自然進(jìn)化，顛覆自然人的概念等。第二，基于習(xí)慣勢力對新事物的排斥而恐懼人工智能技術(shù)。技術(shù)革新會打破人既有的生活、學(xué)習(xí)和工作習(xí)慣。技術(shù)條件的變化使一些人不習(xí)慣，或者學(xué)習(xí)和使用新技術(shù)有困難，感到壓力從而產(chǎn)生排斥新技術(shù)的心理和行為反應(yīng)。人工智能技術(shù)的發(fā)展也會打破人們已經(jīng)熟悉和習(xí)慣的學(xué)習(xí)、工作和生活場景，打亂人際關(guān)系乃至國家或地區(qū)之間關(guān)系的平衡狀態(tài)，從而引發(fā)人們對它的焦慮和擔(dān)憂。人工智能等新技術(shù)的推廣和應(yīng)用，還迫使人們?nèi)W(xué)習(xí)更多相關(guān)的技術(shù)知識，被迫適應(yīng)智能環(huán)境，也給人們帶來巨大的心理壓力，導(dǎo)致有些人反對和抵制人工智能等新技術(shù)。第三，基于技術(shù)雙刃劍的認(rèn)知和安全考量，認(rèn)為技術(shù)發(fā)展具有不確定性。任何技術(shù)都是有風(fēng)險的，人工智能也不例外。這樣會由恐懼技術(shù)風(fēng)險而恐懼人工智能。

二是現(xiàn)實(shí)意義上的智能產(chǎn)品恐懼。這個層級的智能技術(shù)尚處于人類智能可控的范圍內(nèi)。從技術(shù)層面來講，雖然目前的人工智能已經(jīng)具有一定的自主學(xué)習(xí)能力，但總體來看仍處于弱人工智能或非自主人工智能階段。在目前的技術(shù)背景下，人工智能恐懼主要表現(xiàn)為人們擔(dān)心人工智能產(chǎn)品在某些行業(yè)會取代人，顛覆傳統(tǒng)行業(yè)，侵占人的工作崗位，造成人的大規(guī)模失業(yè)，從而使生活無處安放。從機(jī)器生產(chǎn)到自動生產(chǎn)線，從自動化到機(jī)器人再到人工智能產(chǎn)品，從生產(chǎn)領(lǐng)域到生活服務(wù)等領(lǐng)域，每一次技術(shù)革新都曾帶來產(chǎn)業(yè)結(jié)構(gòu)的調(diào)整，帶來勞動力結(jié)構(gòu)的變化，引發(fā)人心動蕩，并引起部分人的恐慌甚至社會混亂。因此，人工智能在生產(chǎn)生活各個領(lǐng)域的推廣應(yīng)用，也必然會引起一些人的焦慮和不安。

三是未來意義上對人工智能主體的恐懼。隨著弱人工智能向強(qiáng)人工智能的跨越，可能會產(chǎn)生人工智能的自主意識，這種人工智能可能會超越人的設(shè)計與制造，開始擺脫人的控制，對人說“不”，拒絕執(zhí)行人的命令，甚至與人類爭奪地球的領(lǐng)導(dǎo)權(quán)、反噬人類，這是人們最擔(dān)心和最不愿意看到的結(jié)果。這也是從人類萌生人工智能的想法或人工智能概念誕生（甚至更早）以來一些人一直擔(dān)驚受怕的事情。盡管這種形態(tài)的人工智能恐懼看起來還很遠(yuǎn)，甚至有點(diǎn)“杞人憂天”，但我們很難完全排除這一天到來的可能性。因此，從理論上講，這種擔(dān)憂是合乎邏輯、合乎理性的。

從邏輯上來看，人工智能恐懼的三種表現(xiàn)形式是按照恐懼對象技術(shù)層次的高低來劃分的，即從一般技術(shù)到智能技術(shù)，再到超級（高級）智能技術(shù)。技術(shù)恐懼意義上的人工智能恐懼由對一般技術(shù)的恐懼演繹出人工智能恐懼?，F(xiàn)實(shí)意義上的人工智能恐懼主要針對恐懼對象的智能屬性，并且智能機(jī)器（人）、智能工具、智能程序已經(jīng)給人帶來了實(shí)際的壓力和威脅。未來意義上的人工智能恐懼著眼于超級智能理論和未來發(fā)展的可能性，是機(jī)器智能崛起引發(fā)的人類存在意義上的恐懼，是未來視域的現(xiàn)實(shí)觀照。人工智能恐懼雖然具有不同表現(xiàn)形式，但這些并非根本對立和截然分開的，而是相互聯(lián)系的。其共同表現(xiàn)是對風(fēng)險的恐懼：倫理風(fēng)險、安全風(fēng)險、環(huán)境風(fēng)險、生存風(fēng)險等。其基本立場是立足于現(xiàn)實(shí)，從現(xiàn)實(shí)出發(fā)梳理過去、思考未來，然后安排當(dāng)下。

（本文系國家社科基金項(xiàng)目“人工智能的技術(shù)恐懼研究”（18BZX044）階段性成果）
（作者單位：聊城大學(xué)政治與公共管理學(xué)院）
來源：中國社會科學(xué)網(wǎng)-中國社會科學(xué)報作者：趙磊

審核編輯 黃昊宇