ChatGPT可能帶來風(fēng)險引發(fā)熱議！周鴻祎：現(xiàn)在擔(dān)心為時尚早

電子發(fā)燒友網(wǎng)報道（文/李彎彎）ChatGPT在持續(xù)受到追捧一段時間之后，其可能帶來的風(fēng)險也引發(fā)熱議。前不久，生命未來研究所（Future of Life）向全社會發(fā)布了一封《暫停大型人工智能研究》的公開信，呼吁所有人工智能實驗室立即暫停比GPT-4更強(qiáng)大的人工智能系統(tǒng)的訓(xùn)練，暫停時間至少為6個月。

信中寫道“只有在我們確信它們的效果是積極的，風(fēng)險是可控的情況下，才應(yīng)該開發(fā)強(qiáng)大的人工智能系統(tǒng)。”馬斯克此前曾多次表達(dá)對人工智能的擔(dān)憂，認(rèn)為人工智能是未來人類文明最大的風(fēng)險之一，威脅程度遠(yuǎn)高于車禍、飛機(jī)失事、毒品泛濫等甚至比核武器都危險得多。

截至目前，馬斯克、蘋果聯(lián)合創(chuàng)始人Steve Wozniak、Stability AI創(chuàng)始人Emad Mostaque等上千名科技大佬和AI專家已經(jīng)簽署公開信。

多國政府和企業(yè)調(diào)查和限制使用ChatGPT

之后，多國政府和企業(yè)開始調(diào)查或采取措施限制使用該軟件。今年3月31日，意大利個人數(shù)據(jù)保護(hù)局宣布，從即日起禁止使用聊天機(jī)器人ChatGPT，并限制開發(fā)這一平臺的OpenAI公司處理意大利用戶信息。同時個人數(shù)據(jù)保護(hù)局開始立案調(diào)查。

個人數(shù)據(jù)保護(hù)局認(rèn)為，3月20日ChatGPT平臺出現(xiàn)了用戶對話數(shù)據(jù)和付款服務(wù)支付信息丟失情況。此外平臺沒有就收集處理用戶信息進(jìn)行告知，缺乏大量收集和存儲個人信息的法律依據(jù)。

OpenAI公司必須在20天內(nèi)通過其在歐洲的代表，向意大利個人數(shù)據(jù)保護(hù)局通報公司執(zhí)行保護(hù)局要求而采取的措施，否則將被處以最高2000萬歐元或公司全球年營業(yè)額4%的罰款。

4月3日，德國聯(lián)邦數(shù)據(jù)保護(hù)專員發(fā)言人稱，出于數(shù)據(jù)保護(hù)方面的考慮，暫時禁止在德國使用ChatGPT原則上是可能的。該發(fā)言人稱，禁止使用該軟件的動作將屬于德國聯(lián)邦數(shù)據(jù)保護(hù)機(jī)構(gòu)的職權(quán)范圍。

4日，加拿大聯(lián)邦隱私監(jiān)管機(jī)構(gòu)宣布，已經(jīng)對開發(fā)ChatGPT的美國公司OpenAI展開調(diào)查，因為該公司涉嫌“未經(jīng)同意收集、使用和披露個人信息”。

美國總統(tǒng)拜登及其科技顧問委員會在4日舉行的會議上也討論了人工智能的“風(fēng)險和機(jī)遇”。英國信息專員辦公室也已經(jīng)向科技公司發(fā)出警告，不要使用個人信息來開發(fā)聊天機(jī)器人。英國信息專員辦公室技術(shù)和創(chuàng)新總監(jiān)阿爾蒙德表示，類似ChatGPT的生成式人工智能“如果被不負(fù)責(zé)任地使用，有可能對數(shù)據(jù)隱私構(gòu)成風(fēng)險”。

周鴻祎：現(xiàn)在擔(dān)心風(fēng)險為時尚早

不過也有專家學(xué)者對暫停更大模型的訓(xùn)練，及對使用ChatGPT采取限制措施等持反對態(tài)度。日前，Meta公司的首席技術(shù)官安德魯·博斯沃思表示，馬克·扎克伯格現(xiàn)在把大部分的時間都用在AI上，他還表示，馬斯克等人呼吁暫停AI研發(fā)的建議是“不切實際的”。

今年2月，Mate宣布成立一個新的團(tuán)隊來研發(fā)AIGC技術(shù)，現(xiàn)在他們首次透露了該技術(shù)商業(yè)化的時間表，ChatGPT的創(chuàng)建者OpenAI已經(jīng)將這項即時創(chuàng)建句子和圖形的技術(shù)商業(yè)化了。博斯沃思認(rèn)為，Mate的AI技術(shù)可以通過告訴廣告商使用什么工具來制作廣告來提高效果。

對于暫停研究一事，中國人民大學(xué)教授劉永謀也發(fā)文稱，ChatGPT對社會生產(chǎn)力的推動作用已經(jīng)昭然若揭，不應(yīng)因噎廢食而是控制利用。暫停ChatGPT研發(fā)的想法簡單粗暴，作用不大，也實現(xiàn)不了。他認(rèn)為，現(xiàn)在的問題是根據(jù)國情落實AI治理措施，而不是暫停ChatGPT研發(fā)。

360創(chuàng)始人周鴻祎認(rèn)為，這不影響中國發(fā)展自己的大語言模型，包括360在內(nèi)的一些中國公司已經(jīng)展示了自己的作品，實事求是來說，離GPT-4的水平還有兩年差距?，F(xiàn)在擔(dān)心風(fēng)險為時尚早。周鴻祎稱，“我自己做的是安全的，我堅定地認(rèn)為，不發(fā)展才是最大的不安全?！?br />
早些時候，微軟聯(lián)合創(chuàng)始人比爾蓋茨也發(fā)表評論稱，呼吁暫停AI研發(fā)不會“解決”未來的挑戰(zhàn)。他表示，應(yīng)該把注意力放在如何最好地利用AI的發(fā)展方面，AI研究工作的暫停會很復(fù)雜，難以執(zhí)行。蓋茨一直看好AI，將其描述為可與互聯(lián)網(wǎng)或移動電話相媲美的革命性技術(shù)成果。

小結(jié)

在過去這段時間，人們都見識到了ChatGPT的強(qiáng)大。這種大型語言模型除了將會給人們的生產(chǎn)生活帶來便利之外，同時也會造成很多失業(yè)的情況。而且OpenAI還在持續(xù)訓(xùn)練更強(qiáng)大的模型，它未來可能給人類帶來的風(fēng)險確實需要警惕。不過正所謂因噎廢食不可取，如何在持續(xù)研究AI大模型的同時，避免其帶來的風(fēng)險，讓它能夠更好為人類的美好生活服務(wù)是關(guān)鍵。