0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
电子发烧友
开通电子发烧友VIP会员 尊享10大特权
海量资料免费下载
精品直播免费看
优质内容免费畅学
课程9折专享价
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

AI是否有邊界 誰(shuí)來(lái)握住AI野馬的韁繩

454398 ? 來(lái)源:ST社區(qū) ? 作者:ST社區(qū) ? 2020-10-15 09:46 ? 次閱讀

人工智能在我看來(lái)可以說(shuō)是一個(gè)人類最偉大的創(chuàng)造,并不是說(shuō)這個(gè)技術(shù)能夠?qū)崿F(xiàn)什么樣的高度,而是這個(gè)技術(shù)真的解放了人類,激發(fā)出機(jī)器的生產(chǎn)力,讓人釋放出來(lái)可以做更具人性和創(chuàng)造性的事情。不過(guò)對(duì)于人工智能的擔(dān)憂也與生俱來(lái),人工智能會(huì)不會(huì)失控,會(huì)不會(huì)帶來(lái)人類無(wú)法挽回的后果?

近日,人工智能公司曠視科技宣布成立AI治理研究院,呼吁各界對(duì)AI治理事件的關(guān)注和討論?!叭斯ぶ悄芗夹g(shù)要可持續(xù)化發(fā)展,過(guò)去幾年,人工智能經(jīng)歷了一段野蠻生長(zhǎng)的時(shí)期,”曠視AI治理研究院負(fù)責(zé)人稱:“2020年將成為AI治理元年?!?/p>

“人工智能的野蠻生長(zhǎng)”這種說(shuō)法并非沒(méi)有緣由,隨著互聯(lián)網(wǎng)、云計(jì)算在各行各業(yè)的快速滲透,整個(gè)社會(huì)的網(wǎng)絡(luò)化和數(shù)據(jù)化程度空前提升,原來(lái)越多的智能化設(shè)備開(kāi)始切實(shí)的落地進(jìn)入到智慧城市之中,而相關(guān)的算法也不斷進(jìn)步,人工智能開(kāi)始在各種領(lǐng)域中開(kāi)展探索應(yīng)用,甚至已經(jīng)開(kāi)始進(jìn)入到一個(gè)自我學(xué)習(xí)和進(jìn)化的過(guò)程之中。尤其是在最近幾年,伴隨著人工智能技術(shù)的大規(guī)模產(chǎn)業(yè)化應(yīng)用,一些并無(wú)先例可循的人與人工智能矛盾逐漸浮出水面。擔(dān)憂和質(zhì)疑之聲愈演愈烈,盡快探討出一種可預(yù)期的、可被約束的、行為向善的人工智能治理機(jī)制,成為了近人工智能時(shí)代的首要命題。

AI的邊界在哪兒?從《終結(jié)者》說(shuō)起

1984年,卡梅隆拍了第一部《終結(jié)者》,2019年,《終結(jié)者6》上映,35年彈指一揮間,唯一改變的就是這個(gè)世界真的已經(jīng)連接在了一起,天網(wǎng)的故事似乎不再那么遙不可及。著名物理學(xué)家霍金在去世之前,曾經(jīng)和人稱“鋼鐵俠”的特斯拉創(chuàng)始人馬斯克共同發(fā)布公開(kāi)信,提出了對(duì)人工智能發(fā)展的擔(dān)憂?;艚鹫f(shuō):“在未來(lái)100年內(nèi),結(jié)合人工智能的計(jì)算機(jī)將會(huì)變得比人類更聰明。屆時(shí),我們需要確保計(jì)算機(jī)與我們的目標(biāo)相一致。我們的未來(lái)取決于技術(shù)不斷增強(qiáng)的力量和我們使用技術(shù)的智慧之間的賽跑。”持有這種觀點(diǎn)的人并非少數(shù),由于民眾的擔(dān)憂,美國(guó)加州就立法禁止警方在執(zhí)法記錄儀上使用面部識(shí)別技術(shù),而浙理工一個(gè)博士也起訴了一家把指紋識(shí)別換成人臉識(shí)別的野生動(dòng)物公園,他的理由是害怕人臉生物信息的泄露,當(dāng)然這個(gè)擔(dān)心也很有趣,因?yàn)楸绕鸸_(kāi)的人臉信息的泄露,指紋的泄露恐怕是更致命的。顯然,人工智能發(fā)展一日千里,實(shí)際應(yīng)用落地也快馬加鞭,人們可能還來(lái)不及思考這些看似的便利背后是否會(huì)帶來(lái)什么不妥,這些設(shè)備就已經(jīng)在運(yùn)行之中了。而在問(wèn)題逐漸暴露之前,類似的擔(dān)憂和爭(zhēng)議恐怕還會(huì)繼續(xù)。

事實(shí)上,機(jī)器也好,人工智能也好,人們對(duì)新技術(shù)的擔(dān)憂在近一百年中一直存在。早在1950年,阿西莫夫的科幻小說(shuō)中就針對(duì)人們對(duì)機(jī)器人的擔(dān)憂提出了著名的機(jī)器人三定律,奠定了一個(gè)思考的方向和基礎(chǔ)。這三個(gè)定律就是“一、機(jī)器人不得傷害人類,或看到人類受到傷害而袖手旁觀;二、在不違反第一定律的前提下,機(jī)器人必須絕對(duì)服從人類給與的任何命令;三、在不違反第一定律和第二定律的前提下,機(jī)器人必須盡力保護(hù)自己?!睆倪@里我們可以很清晰的看到機(jī)器人生存的天條就是不得傷害人類,而后續(xù)這些規(guī)則得到了一些補(bǔ)充,不過(guò)最讓我覺(jué)得有價(jià)值的一個(gè)補(bǔ)充就是繁殖原則,機(jī)器人不得參與機(jī)器人的設(shè)計(jì)和制造,除非新機(jī)器人的行為符合機(jī)器人原則。在這個(gè)階段,人們已經(jīng)開(kāi)始思考到機(jī)器人的繁衍帶來(lái)的可能的危害了,而這個(gè)問(wèn)題,事實(shí)上也是《終結(jié)者》中矛盾沖突的起源。

這些本屬于科幻領(lǐng)域思考和探討的問(wèn)題,現(xiàn)在終于開(kāi)始擺在了現(xiàn)實(shí)的世界面前:2020年1月,歐盟專利局駁回了英國(guó)薩里大學(xué)一個(gè)名為DABUS的AI所申報(bào)的專利成果,理由是歐盟專利申請(qǐng)中指定的發(fā)明者必須是人,而不是機(jī)器。但薩里大學(xué)研究人員強(qiáng)烈反對(duì)這一決定,他們認(rèn)為因沒(méi)有人類發(fā)明者而拒絕將所有權(quán)授予發(fā)明者,將成為“人類取得偉大成果的新時(shí)代”的重大障礙。

但無(wú)論如何技術(shù)發(fā)展的腳步都不會(huì)暫停,尤其是在云計(jì)算全面普及、5G全面部署,AI能力全面發(fā)育的今天,2020年將無(wú)疑成為應(yīng)用爆發(fā)之年和矛盾最為突出的一年。人工智能應(yīng)用的邊界是什么?是否能夠享有和人一樣的權(quán)利?誰(shuí)能夠?yàn)槿斯ぶ悄芊傅腻e(cuò)誤負(fù)責(zé)?在人工智能進(jìn)入爆發(fā)期之前這些問(wèn)題亟待解決。因此,稱2020年是AI治理元年并不為過(guò),除了技術(shù)研發(fā)和進(jìn)步之外,關(guān)于AI倫理方面的規(guī)則制定我覺(jué)得也到了最為關(guān)鍵的時(shí)刻。

各國(guó)各界在摸索中前行

事實(shí)上,社會(huì)各界對(duì)AI技術(shù)的討論熱情只增不減,全球范圍內(nèi)很多政府或社會(huì)組織、名門(mén)政要都或多或少對(duì)人工智能提過(guò)一些要求。比如2019年4月,歐盟委員會(huì)公布了指導(dǎo)人工智能發(fā)展和建立信任的7項(xiàng)原則。雖然這些指導(dǎo)方針沒(méi)有約束力,但它們可能成為未來(lái)幾年進(jìn)一步行動(dòng)的基礎(chǔ)。同年6月17日,我國(guó)國(guó)家新一代人工智能治理專業(yè)委員會(huì)發(fā)布了《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》,提出了人工智能治理的框架和行動(dòng)指南。

但是世界各國(guó)政府層面對(duì)于人工智能治理的規(guī)范和邊界,還沒(méi)有進(jìn)入實(shí)質(zhì)性的立法或明確標(biāo)準(zhǔn),在推動(dòng)人工智能應(yīng)用規(guī)范這一方面,人工智能企業(yè)反倒起了更為積極的作用。

作為國(guó)內(nèi)領(lǐng)先的人工智能企業(yè),曠視在推進(jìn)人工智能應(yīng)用的過(guò)程中已經(jīng)意識(shí)到正視人工智能技術(shù)所帶來(lái)的倫理問(wèn)題的重要性,主張AI企業(yè)要把治理當(dāng)作頭等大事來(lái)關(guān)注。2019年7月,曠視首發(fā)《人工智能應(yīng)用準(zhǔn)則》,《準(zhǔn)則》從正當(dāng)性、人的監(jiān)督、技術(shù)可靠性和安全性、公平和多樣性、問(wèn)責(zé)和及時(shí)修正、數(shù)據(jù)安全與隱私保護(hù)六個(gè)維度,對(duì)人工智能正確有序發(fā)展作出明確規(guī)范,同時(shí)給出相應(yīng)干預(yù)措施或指導(dǎo)意見(jiàn),確保人工智能能夠在可控范圍內(nèi)持續(xù)發(fā)展。據(jù)透露,曠視內(nèi)部還成立了專門(mén)的道德委員會(huì),以監(jiān)督該《準(zhǔn)則》在企業(yè)技術(shù)研發(fā)和產(chǎn)品應(yīng)用中的實(shí)施。

曠視聯(lián)合創(chuàng)始人、CEO印奇認(rèn)為AI治理需要 “理性的關(guān)注,深度的研究,建設(shè)性的討論和堅(jiān)持不懈的行動(dòng)”。這個(gè)問(wèn)題我覺(jué)得各大企業(yè)乃至主管部門(mén)都應(yīng)該參與其中,早些劃定可以研究和使用的范疇,能夠避免人工智能行業(yè)誤入歧途,在良好的環(huán)境中快速發(fā)展,這就像在建大樓之前打地基。

誰(shuí)來(lái)握住AI野馬的韁繩

坦白說(shuō)對(duì)于人工智能發(fā)展的問(wèn)題,你可以提出反對(duì)意見(jiàn),但卻沒(méi)有辦法阻止它的發(fā)展,因?yàn)檫@是一個(gè)大勢(shì)所趨。猶如核武器,猶如工業(yè)化,不管你有多大的擔(dān)憂,都沒(méi)有辦法阻止他的發(fā)展,這是討論這個(gè)問(wèn)題的一個(gè)前提。所以剩下的其實(shí)還是一個(gè)規(guī)則和倫理的探討,猶如核武器的管理問(wèn)題,可能也是全世界最重要的一個(gè)管理問(wèn)題。人工智能的管理重要性,可能并不在核武器之下,但只要這匹野馬不脫韁,就能夠?yàn)槿祟愃?,載我們到達(dá)從未到過(guò)的地方。

整個(gè)人工智能領(lǐng)域也要制定出自己的“機(jī)器人三定律”來(lái)保證技術(shù)的發(fā)展最終不能傷害人類,畢竟之前電腦中毒重裝系統(tǒng)就可以了,現(xiàn)在AI失控,就可能斷水?dāng)嚯娚踔两煌òc瘓。人工智能可以看作是人類智慧的結(jié)晶,它可以具有人類掌握的所有知識(shí),也可以操控人類世界的大部分設(shè)施,不能說(shuō)全知全能其實(shí)也相去不遠(yuǎn),在我們不斷加大它的力量之前,思考清楚如何控制還是非常必要的。

如此看來(lái),人工智能的倫理討論要比人工智能技術(shù)的發(fā)展研究可能更重要也更急切一些,一個(gè)簡(jiǎn)單的例子,一輛自動(dòng)駕駛的車(chē)輛出現(xiàn)了車(chē)禍,那么誰(shuí)應(yīng)該為此負(fù)責(zé)?是駕駛員?還是車(chē)輛的生產(chǎn)者?這個(gè)問(wèn)題的界定恐怕比自動(dòng)駕駛的技術(shù)本身更阻礙了自動(dòng)駕駛的發(fā)展和落地。再比如說(shuō),人工智能寫(xiě)出了假新聞?誰(shuí)又該為此負(fù)責(zé)?之前大熱的AI換臉應(yīng)用通過(guò)AI為視頻換臉,包括很多模擬人聲音的產(chǎn)品,一旦出現(xiàn)了假冒的事件,又有誰(shuí)來(lái)負(fù)責(zé)?人們還能夠說(shuō),無(wú)圖無(wú)真相?無(wú)視頻無(wú)真相?或者無(wú)聲音無(wú)真相么? 而另一個(gè)有趣的問(wèn)題則是,人臉識(shí)別的準(zhǔn)確率對(duì)于有色人種隨著膚色的加深會(huì)大大下降,換句話說(shuō),白種人可能會(huì)遭到更加嚴(yán)格的監(jiān)管,而黑人則可能會(huì)寬松許多,這是否會(huì)造成一種不公?斯坦福大學(xué)則發(fā)表了另一項(xiàng)研究,用人工智能識(shí)別性取向的準(zhǔn)確率遠(yuǎn)高于人類,那么這樣去識(shí)別這種少數(shù)群體,會(huì)不會(huì)帶來(lái)隱私問(wèn)題,會(huì)不會(huì)帶來(lái)族群的生存窘境?

所以從這個(gè)角度來(lái)看,在一線搞人工智能應(yīng)用研發(fā)的科技企業(yè)應(yīng)該更早的意識(shí)到這一點(diǎn),一個(gè)可參考的案例就是基因和克隆方面的研究,優(yōu)先的是倫理管理而非技術(shù)突破。大家應(yīng)該更早的坐在一起制定研究的方向和規(guī)則,并進(jìn)行有效的監(jiān)督和管理,讓人工智能可以在一個(gè)清晰安全的規(guī)范之下,有條不紊又可控的發(fā)展,使得2020年成為一個(gè)人類社會(huì)向前發(fā)展的關(guān)鍵節(jié)點(diǎn)。

也許東方人遠(yuǎn)比西方樂(lè)觀,同樣是關(guān)于機(jī)器人的幻想題材,1969年誕生的《機(jī)器貓》就顯得人畜無(wú)害很多,我們相信天人合一,相信一切都能和人和諧發(fā)展。所以我也希望曠視這樣的中國(guó)企業(yè)在人工智能的發(fā)展中能夠起到更大的作用,更好的引領(lǐng)行業(yè)規(guī)范健康的發(fā)展。

編輯:hfy

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 機(jī)器人
    +關(guān)注

    關(guān)注

    211

    文章

    28868

    瀏覽量

    209441
  • 人工智能
    +關(guān)注

    關(guān)注

    1799

    文章

    48022

    瀏覽量

    241827
收藏 0人收藏

    評(píng)論

    相關(guān)推薦

    當(dāng)我問(wèn)DeepSeek AI爆發(fā)時(shí)代的FPGA是否重要?答案是......

    AI時(shí)代,F(xiàn)PGA(現(xiàn)場(chǎng)可編程門(mén)陣列)具有極其重要的地位,主要體現(xiàn)在以下幾個(gè)方面: 1.硬件加速與高效能 ? 并行處理能力:FPGA內(nèi)部由大量可編程邏輯單元組成,能夠?qū)崿F(xiàn)高度并行的數(shù)據(jù)處理。這種
    發(fā)表于 02-19 13:55

    AI技術(shù)與PLC編程融合

    如何將AI技術(shù)融入PLC編程軟件
    發(fā)表于 02-14 15:55

    AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第4章-AI與生命科學(xué)讀后感

    很幸運(yùn)社區(qū)給我一個(gè)閱讀此書(shū)的機(jī)會(huì),感謝平臺(tái)。 《AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第4章關(guān)于AI與生命科學(xué)的部分,為我們揭示了人工智能技術(shù)在生命科學(xué)領(lǐng)域中的廣泛應(yīng)用和深遠(yuǎn)影響。在
    發(fā)表于 10-14 09:21

    AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第二章AI for Science的技術(shù)支撐學(xué)習(xí)心得

    非常高興本周末收到一本新書(shū),也非常感謝平臺(tái)提供閱讀機(jī)會(huì)。 這是一本挺好的書(shū),包裝精美,內(nèi)容詳實(shí),干活滿滿。 關(guān)于《AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第二章“AI
    發(fā)表于 10-14 09:16

    AI降噪算法的USB麥克風(fēng)降噪模組

    AI
    深圳德宇科技有限公司
    發(fā)布于 :2024年09月26日 11:34:09

    AI調(diào)試工具

    APIAI
    草帽王路飛
    發(fā)布于 :2024年09月02日 11:31:57

    云開(kāi)發(fā)AI助手

    AI
    草帽王路飛
    發(fā)布于 :2024年07月22日 14:41:54

    視頻3--場(chǎng)景自動(dòng)化AI助手

    AI
    草帽王路飛
    發(fā)布于 :2024年07月22日 11:16:13

    視頻2--場(chǎng)景自動(dòng)化AI助手

    AI
    草帽王路飛
    發(fā)布于 :2024年07月22日 11:15:34

    AI芯片哪里買(mǎi)?

    AI芯片
    芯廣場(chǎng)
    發(fā)布于 :2024年05月31日 16:58:19

    risc-v多核芯片在AI方面的應(yīng)用

    RISC-V多核芯片在AI方面的應(yīng)用主要體現(xiàn)在其低功耗、低成本、靈活可擴(kuò)展以及能夠更好地適應(yīng)AI算法的不同需求等特點(diǎn)上。 首先,RISC-V適合用于高效設(shè)計(jì)實(shí)現(xiàn),其內(nèi)核面積更小,功耗更低,使得它能
    發(fā)表于 04-28 09:20

    FP_AI_VISION1工程是否可以適用于stm32f746discovery開(kāi)發(fā)板?

    FP_AI_VISION1工程是否可以適用于stm32f746discovery開(kāi)發(fā)板?使用STM32CUBEIDE打開(kāi)FP_AI_VISION1工程為什么沒(méi)有stm32可運(yùn)行文件,不能編譯?
    發(fā)表于 03-18 07:21

    使用cube-AI分析模型時(shí)報(bào)錯(cuò)的原因有哪些?

    使用cube-AI分析模型時(shí)報(bào)錯(cuò),該模型是pytorch的cnn轉(zhuǎn)化成onnx ``` Neural Network Tools for STM32AI v1.7.0 (STM.ai v8.0.0-19389) INTER
    發(fā)表于 03-14 07:09

    ai_reloc_network.h引入后,ai_datatypes_format.h和formats_list.h報(bào)錯(cuò)的原因?

    當(dāng)準(zhǔn)備使用神經(jīng)網(wǎng)絡(luò)的relocatable方式,將ai_reloc_network.h頭文件加入程序編譯后,ai_datatypes_format.h在cubeIDE和Keilc里分別報(bào)如下錯(cuò)誤
    發(fā)表于 03-14 06:23

    NanoEdge AI的技術(shù)原理、應(yīng)用場(chǎng)景及優(yōu)勢(shì)

    NanoEdge AI 是一種基于邊緣計(jì)算的人工智能技術(shù),旨在將人工智能算法應(yīng)用于物聯(lián)網(wǎng)(IoT)設(shè)備和傳感器。這種技術(shù)的核心思想是將數(shù)據(jù)處理和分析從云端轉(zhuǎn)移到設(shè)備本身,從而減少數(shù)據(jù)傳輸延遲、降低
    發(fā)表于 03-12 08:09

    電子發(fā)燒友

    中國(guó)電子工程師最喜歡的網(wǎng)站

    • 2931785位工程師會(huì)員交流學(xué)習(xí)
    • 獲取您個(gè)性化的科技前沿技術(shù)信息
    • 參加活動(dòng)獲取豐厚的禮品