跟ChatGPT聊聊天：AI帶來的風險與挑戰(zhàn)

跟 ChatGPT聊聊天：“AI系統(tǒng)”讓全球有關領域誰喜誰憂誰患？

當前，“人工智能（AI）＋”的浪潮勢不可擋，逐步滲透到全球各個行業(yè)領域，采訪智能機器人走進直播間、電視頻道、會議現(xiàn)場，寫稿機器人融入編輯行業(yè)、小說家族，軍用機器人列裝部隊、走入戰(zhàn)爭殿堂，無人駕駛汽車、無人工廠、無人商店揭竿而起……正在深刻改變?nèi)藗兊纳a(chǎn)生活方式，日益突破人們的想象力邊界，于是有人預言未來社會就是人工智能社會，未來戰(zhàn)爭就是人工智能條件下戰(zhàn)爭，同時也引發(fā)全球新一輪AI數(shù)字科技競賽，將迎來和諧共生的人機結合的智能化數(shù)字化社會。

2022年11月底，美國一家名為OpenAI的人工智能研究公司推出ChatGPT人工智能聊天機器人，可以實現(xiàn)與用戶之間的智能聊天對話。兩個月后，這款機器人在全球社交平臺火爆，媒體報道說它能“上知天文下知地理、與人交流對答如流，既能寫也能編還能改錯——由此，引發(fā)AI將來是否取代人類的大討論。

人工智能（AI）是計算機學科的一個分支，是研究使計算機來模擬人的某些思維過程和智能行為的學科。

AI一詞，自從1956年正式提出以來，經(jīng)過60多年的演進，AI似乎已經(jīng)變得十分聰明了，于是有關就AI發(fā)展運用對未來有關領域（軍事、教學、傳媒、醫(yī)療、制作業(yè)、攝影等）的影響出現(xiàn)了不同的聲音。

一、有的AI大腦相當于人類平均水平，AI在擂臺上擊敗人類并不是傳說，人類也要有憂患意識、有關行業(yè)工作者要有危機感

AI是由人類發(fā)明的，早期離不開人類控制。AI在擂臺上戰(zhàn)勝人類聽起來天方夜譚。但是，從近年來全球上演的有關AI題材科幻電影來看，有的那些似乎很遙遠的人工智能武器和人物逐步變?yōu)楝F(xiàn)實，有的AI戰(zhàn)勝人類并不是傳說、變?yōu)楝F(xiàn)實。

1997年5月，IBM公司研制的深藍（DEEP BLUE）計算機戰(zhàn)勝了國際象棋大師卡斯帕洛夫（KASPAROV）。2015年，最近一系列旨在測試一些世界上最好的AI 系統(tǒng)和人類智商 之間的勝負關系的試驗表明，AI的智力目前已經(jīng)達到了 4 歲兒童的水平。2022年9月，一位年輕人用Al繪畫工具Midjourney生成的作品《太空歌劇院》，在美國科羅拉多州博覽會的美術比賽中獲得大獎，獲獎類別是“數(shù)字藝術/數(shù)字修飾照片”組第一名。

阿爾法圍棋計算思維能力雖然比不上人類大腦，但是研究者們把最新算法植入阿爾法體內(nèi)，并對其“深度學習”進行訓練，竟然能與人類棋手博弈。2016年1月，阿爾法圍棋就在實戰(zhàn)中擊敗了歐洲冠軍，震驚了世界。此后，又在首爾第一場巔峰對決中擊敗圍棋高手韓國人李世乭。

近年來，AI不斷被運用于軍事領域，如自殺機器人、無人機、無人艇、無人潛航器等無人機系統(tǒng)平臺已經(jīng)走入作戰(zhàn)訓練場。有媒體報道稱，俄軍在敘利亞戰(zhàn)場上首次以建制形式投入機器人部隊，并在世界首次作戰(zhàn)中一戰(zhàn)成名，20分鐘陣地攻堅戰(zhàn)中就一舉攻下如今俄軍士兵難以攻下的高地，取得零傷亡斃敵77人戰(zhàn)績。英國《每日郵報》2020年8月21日報道，美國空軍的模擬空戰(zhàn)中AI擊敗了頂尖的F-16戰(zhàn)斗機飛行員，人類飛行員說“我們作為戰(zhàn)斗機飛行員所做的事情都不起作用”。據(jù)報道，美國國防部高級研究計劃局的“阿爾法狗斗”實驗的最后一戰(zhàn)于2020年8月20日進行。這名人類飛行員是一名教員，呼號是“邦格”，但AI飛行員在5輪模擬空戰(zhàn)中將其擊落。報道認為，AI飛行員還能創(chuàng)造性地快速“思考”。2020年4月進行的試驗顯示，至少有一架AI戰(zhàn)斗機在向?qū)κ珠_火之前會翻轉(zhuǎn)過來，而這是許多人類飛行員做不到的。

目前，美國、俄羅斯、英國、德國、加拿大、日本、韓國等已相繼推出各自的機器人戰(zhàn)士，預計在不久的將來，還會有更多的國家投入到這項新戰(zhàn)爭機器的研制與開發(fā)中去。隨著美國、俄羅斯和以色列等國家加強相關AI領域研究，機器人戰(zhàn)爭將在10年內(nèi)變成現(xiàn)實。如果一個國家研制出了這種機器人，其他國家必將競相效仿，人類必將迎來機器人代替人工作或者戰(zhàn)爭，有可能展開一場自主的武器軍備競賽。難怪有軍事家預言：AI比核戰(zhàn)爭對人類構成了更大的危險，機器已經(jīng)能夠在沒有人類干預的情況下自動選擇和打擊目標，將有可能把人類置于災難邊緣。

二、AI走進直播間會議現(xiàn)場、代筆寫講話稿新聞稿，正逐步顛覆傳媒業(yè)報道格局，開啟數(shù)字報道人機結合新時代　

2023年2月7日凌晨，谷歌發(fā)布了基于谷歌LaMDA大模型的下一代對話AI系統(tǒng)Bard。同一天，百度官宣正在研發(fā)的大模型類項目“文心一言”，計劃在3月完成內(nèi)測，隨后對公眾開放。阿里巴巴、京東等中國企業(yè)也表示正在或計劃研發(fā)類似產(chǎn)品。2023年2月8日凌晨，微軟推出由大語言模型ChatGPT支持的最新版本必應搜索引擎和Edge瀏覽器，宣布要“重塑搜索”。微軟旗下Office、Azure云服務等所有產(chǎn)品都將全線整合ChatGPT。

目前，除谷歌之外，IBM、微軟、臉書、雅虎、亞馬遜等國外巨頭，以及國內(nèi)的百度、騰訊、阿里巴巴平臺，紛紛投資AI領域，寫稿機器人在不少媒體和資訊網(wǎng)站上加速布局，采寫智能機器人已融入數(shù)字新聞報道行業(yè)領域。

隨著自然語言處理、大數(shù)據(jù)分析、新算法等技術的發(fā)展，國內(nèi)外許多媒體已經(jīng)開始機器人與人結合報道的探索與實踐。

美國人工智能公司OpenAI的大語言模型ChatGPT能用多語言撰寫詩歌、編寫程序、生成論文、添加摘要，自作表格、糾正語法、修改病句……不僅能理解很多人類問題和指令，流暢展開多輪對話，也在越來越多領域顯示出解決多種通用問題的能力。據(jù)美聯(lián)社2023年1月25日報道，美國眾議員杰克·奧金克洛斯決定發(fā)表演講討論創(chuàng)建美國-以色列人工智能（AI）中心的法案時，他選擇讓AI來替他撰稿。報道稱，這位民主黨議員25日在眾議院宣讀的兩段講稿是由在線聊天機器人ChatGPT生成的。他的工作人員認為，這是首次由AI捉刀代筆的講稿在美國國會被宣讀。

2009年，美國西北大學智能信息實驗室研發(fā)的StatsMonkey系統(tǒng)就撰寫了一篇關于美國職業(yè)棒球大聯(lián)盟季后賽的新聞稿件。此后，《紐約時報》利用Blossomblot系統(tǒng)篩選文章向社交網(wǎng)站等平臺推送；《華盛頓郵報》使用Heliograf程序核實新聞的準確性；《洛杉磯時報》智能系統(tǒng)致力于處理地震等突發(fā)新聞；路透社的Open Calais智能解決方案可協(xié)助編輯審稿等相關業(yè)務工作；《衛(wèi)報》利用機器人Open001篩選網(wǎng)絡熱文；美國的Narrative Science公司，運用大數(shù)據(jù)和人工智能，套用軟件開發(fā)的模板、框架和云算法，瞬間撰寫出上百萬篇報道，成為《福布斯》雜志的主客戶。北京時間2014年7月7日上午，美聯(lián)社宣布從該月開始，他們將使用一種新聞書寫軟件代替人力。美聯(lián)社在2016年夏天開始與自動觀點公司合作，使用該公司的“史密斯消息”軟件撰寫財經(jīng)報道文章。2017年1月31日，蘋果公司發(fā)布了創(chuàng)紀錄的一季度財報，美聯(lián)社數(shù)分鐘之后即發(fā)表了題為《蘋果打破華爾街第一季度預期》的新聞報道，但這篇報道不是記者寫的，而是智能機器人記者或者說計算機寫作軟件寫的……機器人寫稿已在國外新聞實踐中發(fā)揮了一定作用。

2015年9月10日，騰訊財經(jīng)頻道用自動化新聞寫作機器人Dreamwriter，發(fā)布了一篇名為《8月CPI漲2% 創(chuàng)12個月新高》的報道，拉開了國內(nèi)機器人寫稿的序幕。此后，新華社寫稿智能機器人—快筆小新，可以完成以前需要安排幾個記者撰寫的體育賽事中英文稿件和財經(jīng)信息稿件等任務，人民日報首次嘗試語音機器人“小融”通過人民網(wǎng)及“兩微一端”等平臺與網(wǎng)友交流互動，阿里巴巴聯(lián)合第一財經(jīng)推出“DT稿王”，今日頭條推出“xiaomingbot”，南方報業(yè)推出“小南”，昆明報業(yè)傳媒集團推出寫稿機器人“小明”。

智能機器人不僅能足不出戶寫稿，也能與記者一起走出去采訪，參加全國兩會報道。人民日報社在2020年全國兩會前夕，成功發(fā)布上線“人民日報社AI智能編輯部”。2021年全國兩會，人民日報社兩會記者使用“智能創(chuàng)作機器”現(xiàn)場拍攝和對錄制完成的視頻進行人工智能自動剪輯。新華社自從2018年全國兩會推出智能神器—“媒體大腦MAGIC”、升級“現(xiàn)場云”、發(fā)布全球首個合成新聞主播后，又在2019年全國兩會召開之際發(fā)布由電腦生成的全新升級的站立式全球首個AI合成女主播，與新華社現(xiàn)有的AI合成男主播一起報道兩會，再次引發(fā)全球媒體圈的高度關注。2020年全國兩會，媒體大腦繼續(xù)持續(xù)發(fā)力，支持微信、微博、抖音、頭條號四大平臺的數(shù)據(jù)，推出“兩會機器人”，提供數(shù)十款智能報道模板樣式，快速制作移動端產(chǎn)品。2021年全國兩會期間，新華社AI合成主播雅妮通過5G+3D技術，實現(xiàn)跨地域進行線上沉浸式多地跨屏訪談。2021年全國兩會，央視網(wǎng)推出的輕交互產(chǎn)品《AI助手帶你走進部長通道》，運用AI將數(shù)字人技術和云連線技術有機結合，確保精準捕捉每位記者的面部細微動作。

日本開發(fā)了一個能夠?qū)懶≌f的人工智能機器人，能通過學習已逝科幻小說家小松左京的文風和用詞，續(xù)寫了后者未寫完的小說。

2016年3月，韓國《金融新聞》寫稿機器人僅需0.3秒就快速完成一篇關于股市行情的新聞報道。

盡管采寫機器人思維簡單、理解能力低，在深度、人物等報道方面還無法勝任編輯記者工作，但因其屬于批量生產(chǎn)類型、每天可完成百篇稿件、智能抓取自動生成，在稿件數(shù)量、工作效率上遠遠超過單兵作戰(zhàn)的記者。所以，人類將不斷優(yōu)化人工智能機器人技術和培訓，希望它能像人一樣交流互動、思考學習、分析判斷、提問采訪，開啟AI+媒體的人機結合一體化報道方式。

三、AI帶來的風險與挑戰(zhàn)的確存在，或許成為人類麻煩的制造者，當務之急研究人機和諧共生相關行業(yè)規(guī)范

任何事物都具有兩面性，既有利也有弊，AI也如此。不可否認，“AI+”，既提高生產(chǎn)效率、降低生產(chǎn)成本，也會給人類社會帶來負面影響甚至麻煩。

相關專家預測，美國人工智能公司的大語言模型ChatGPT，不僅是新一代聊天機器人的突破，也將為信息產(chǎn)業(yè)帶來巨大變革，同時也會帶來學術造假、技術濫用、輿論安全等風險。

也許有人會問，機器人寫出來的文章會不會跟網(wǎng)上的文章重復、會不會是“偽原創(chuàng)”“洗稿”？2022年12月27日，美國西北大學的一個團隊首先讓AI學習發(fā)表在《柳葉刀》《美國醫(yī)學會》等著名雜志上的文章，并撰寫50篇醫(yī)學研究摘要，然后讓抄襲檢測器、人工智能輸出檢測器和期刊審稿人將這些摘要與原始摘要對比，找出AI編造的摘要重復率，結果發(fā)現(xiàn)全部順利通過了抄襲檢測器。

毋容置疑，由計算機軟件、機器人創(chuàng)作的作品的版權歸屬不是人而是物，不能定義為法律意義上的“作品”，因此不應受著作權法保護。目前，寫稿機器人并不是一個實體機器人，而是整合了大數(shù)據(jù)分析、自然語言處理等技術，通過融合領域知識寫作系統(tǒng)，對搜集、聚合的全網(wǎng)信息、數(shù)據(jù)進行抓取后歸納總結，發(fā)掘重要的消息和事件，并用自然語言進行表達，可以稱之為是專門寫稿的“大腦”，還未達到對抓取、搜集的資料進行深度分析思考后得出其自己的認同。

至于智能機器人采寫的稿件是不是原創(chuàng)？這個問題尚無定論。因為現(xiàn)代漢語詞典對原創(chuàng)作品的解釋為最初的或最早的創(chuàng)作作品或獨立完成的作品。也就是說，原創(chuàng)作品首先必須是首創(chuàng)，也就說該文章在互聯(lián)網(wǎng)上是獨一無二的。當然不可否認，原創(chuàng)作品也可以在一定程度上借鑒別人的作品、參考他人的案例，得出自己的獨到見解。但是，一定要注明出處、作者和參考文獻。從目前理論上說，采寫智能機器人生成的作品并不一定是原創(chuàng)，倒不如說是“二手原創(chuàng)”。二手并不是一手，就存在機器人侵權行為和版權糾紛。加之，自動生成的稿件也無法在浩如煙海的信息流中征求作者同意后引用并支付稿酬。

知識產(chǎn)權的競爭，就必須加強知識產(chǎn)權保護，依照現(xiàn)行法律法規(guī)，對侵犯知識產(chǎn)權的行為必須進行制止和打擊。人工智能機器人既是侵權者，也是被侵權者，這方面的案例已經(jīng)屢見報端。微軟機器人“小冰”出版的原創(chuàng)詩集《陽光失了玻璃窗》發(fā)表后一個月，網(wǎng)絡上就出現(xiàn)了這本詩集的電子盜版。前幾年轟動業(yè)界的小i機器人與蘋果Siri智能語音系統(tǒng)之間的糾紛就是由設計專利引發(fā)的。北京日報2018年12月6日報道，大數(shù)據(jù)軟件生成的報告有沒有著作權？5日，一家律師事務所就為此和百度在互聯(lián)網(wǎng)法院打起官司。其涉案文章是9月10日北京百度網(wǎng)訊科技有限公司未經(jīng)《影視娛樂行業(yè)司法大數(shù)據(jù)分析報告》的著作權人許可，在其經(jīng)營的百家號平臺上發(fā)布用法律統(tǒng)計數(shù)據(jù)分析軟件生成的文章。

騰訊開發(fā)了一款名叫Dreamwriter的計算機軟件，可以自動寫稿，生成文章，每年大約寫稿30萬篇。有一家名為網(wǎng)貸之家的網(wǎng)站，轉(zhuǎn)載了騰訊證券網(wǎng)站上人工智能自動生成的文章，被騰訊公司以侵權為由，告上了法庭。深圳市南山區(qū)人民法院審結全國首例認定人工智能生成的文章構成作品案件。

無獨有偶，擁有國際性體育資源的蓋蒂圖片社對同為人工智能企業(yè)的Stability AI提起訴訟，指責其未經(jīng)許可從其數(shù)據(jù)庫中復制了1200多萬張圖片，用于建立競爭性業(yè)務，并侵犯了該公司的版權和商標保護權。

隨著人工智能技術的發(fā)展，數(shù)字新聞（網(wǎng)絡）著作權案件呈現(xiàn)了由單一類型向復雜類型的轉(zhuǎn)變，這既反映了如今權利人的法律意識、維權意識的不斷增強，也給法院的審判工作增加了難度。比如，機器人就是機器，他是物不是人，所以機器人不是自然人，侵權案件中不可能直接接受法律裁決，那么到底誰來承擔責任、誰是第一責任人呢？控制機器人的人、設計者、開發(fā)商、使用者單位、數(shù)據(jù)輸入者、所有者等都難逃其責。所以，采寫智能機器人創(chuàng)作物的著作權面臨著巨大的挑戰(zhàn)。

隨著AI在越來越多的領域得到廣泛應用，人們有理由擔心可能會出現(xiàn)意想不到的后果：AI可以監(jiān)控人們在網(wǎng)上做的每一件事、記錄瀏覽痕跡；根據(jù)網(wǎng)民瀏覽愛好，AI天天加倍推送其所需。所有這些行為，會不會侵犯個人隱私，還有可能存在“算法偏差”，都亟待出臺相關法律法規(guī)予以明確。

公開報道顯示：當年蘇聯(lián)國際象棋冠軍古德科夫同機器人下棋連勝三局，結果機器人棋手“惱羞成怒”，突然向金屬棋盤釋放出強大的電流，在眾目睽睽之下將這位國際大師當場擊倒。

自動駕駛汽車也并不十分完美，世界上發(fā)生多起交通事故。近年來，國內(nèi)外自動駕駛領域迎來了資本與技術的風口，以Uber為代表的企業(yè)在自動駕駛上可謂一路狂奔，發(fā)展速度令人咋舌。然而，欲速則不達。自動駕駛技術難免會存在缺陷或紕漏，發(fā)生交通事故在所難免。交通監(jiān)管采用的“智能行人闖紅燈取證系統(tǒng)”，就是運用AI人臉識別技術參與管理交通的體現(xiàn)。然而，如果闖紅燈采用的人臉識別系統(tǒng)出現(xiàn)問題，把無辜者的人臉生物信息暴露于大庭廣眾之下更是一種難以糾正的誤傷。

當機器人智能大腦向人類智慧大腦逐漸演進，必將日益突破人們的軍事想象力邊界，有朝一日智能大腦必將替代人類腦力具有超過人類智慧的能力并不是天方夜譚。如果現(xiàn)在不采取任何限制性措施任其自由發(fā)展，屆時人工智能將有可能擺脫人的思維控制而主宰戰(zhàn)場并不是聳人聽聞。所以，馬斯克的“人工智能威脅論”也不是沒有道理。

有軍事專家甚至預測，在不久的將來，全世界都會擁有自主型殺手機器人。此外，即將在全球展開的新一輪智能技術競賽，必將促進機器人深度學習、深度思維、深度思考、深度判斷，加速推進作戰(zhàn)機器人擺脫人類完全不參與作戰(zhàn)決策就能識別敵我并能判斷是否發(fā)動攻擊，使“終結者”時代到來。

沒有規(guī)矩，不成方圓。要想達到人機和諧共處，國際社會應盡快出臺有關智能技術研發(fā)、運用的法律法規(guī)，確保人工智能安全、可靠、可控，使人工智能運用有法可依、有章可循，限制智能機器人將來發(fā)展帶來的各種風險，防患于未然。英國劍橋大學已收到資助以建立AI倫理研究所，由哲學家、法學家、歷史學家、心理學家和技術人員一起研究相關行業(yè)規(guī)范。

習近平總書記強調(diào)，要建立健全保障AI健康發(fā)展的法律法規(guī)、制度體系、倫理道德。2021年12月13日，中國出席日內(nèi)瓦召開的聯(lián)合國《特定常規(guī)武器公約》第六次審議大會，并向大會提交了《中國關于規(guī)范人工智能軍事應用的立場文件》，呼吁各國通過對話與合作，就如何規(guī)范人工智能軍事應用尋求共識，構建普遍參與的有效國際治理機制，避免人工智能軍事應用給人類帶來重大損害。該文件聚焦人工智能軍事應用涉及的研發(fā)、部署、使用等重要環(huán)節(jié)，就如何在軍事領域負責任地開發(fā)和利用人工智能技術提出人工智能軍事應用符合國際人道主義法，避免相關武器系統(tǒng)造成濫殺濫傷和誤用惡用，不斷提升人工智能技術的安全性、可靠性、可控性等解決思路。

總而言之，“AI+”在很大程度上都是模擬人的思維過程，代替人去完成任務。也就是說，人類與智能機器人的關系，既不是純粹的利用關系，也不是使用的機器或軟件，既不是對人的取代，也不是人類的主人，而是一種和諧共生、合而為一的伙伴關系。

編輯：黃飛

?