三星正式禁止員工使用，ChatGPT類工具要被關(guān)進(jìn)籠子里？

電子發(fā)燒友網(wǎng)報道（文/吳子鵬）近日，又一科技巨頭加入到了禁用ChatGPT類工具的行列，它就是三星。據(jù)報道，三星近期推出了一項(xiàng)新政策，禁止員工在工作場所使用生成式人工智能工具，包括OpenAI的ChatGPT和谷歌Bard等。

此前，三星發(fā)現(xiàn)有員工將敏感的代碼上傳到ChatGPT，不慎將其泄漏。據(jù)悉，三星并不清楚此次泄露的敏感代碼具體內(nèi)容是什么，不過該公司隨后啟動了內(nèi)部調(diào)查。三星表示，調(diào)查中公司65%的受訪者認(rèn)為此類工具構(gòu)成安全風(fēng)險。

巨頭公司紛紛禁用ChatGPT類工具

根據(jù)此前的報道，雖然三星沒有透露泄露信息的內(nèi)容，不過有用戶在ChatGPT上發(fā)現(xiàn)了該公司半導(dǎo)體設(shè)備測量資料、產(chǎn)品良率等機(jī)密內(nèi)容，相關(guān)內(nèi)容出現(xiàn)在ChatGPT的學(xué)習(xí)資料庫中。并且，該報道指出，三星的泄密并不是由一個工程師造成的，而是出現(xiàn)了三個典型的泄密事故。

泄密事件一是一名三星員工讓ChatGPT幫助修復(fù)半導(dǎo)體設(shè)備測量資料庫中下載的軟件；泄密事件二是一名三星員工讓其幫助優(yōu)化用于識別產(chǎn)品良率的程序代碼；泄密事件三是一名三星員工把會議紀(jì)要發(fā)給了ChatGPT讓其幫助整理。

三星泄密事件表明，生成式AI會讓人在不經(jīng)意間就導(dǎo)致泄密。當(dāng)然，這主要還是和生成式AI的工作原理有關(guān)。生成式AI本質(zhì)通過處理大量視覺或語言數(shù)據(jù)來生成新數(shù)據(jù)，其主要分為訓(xùn)練階段和生成階段，用戶主要接觸到的就是生成階段。在這一階段里，為生成新數(shù)據(jù)，模型將根據(jù)給定的輸入提示（如關(guān)鍵詞、圖像或文本片段等）生成新圖像或文本。模型利用所學(xué)規(guī)律和模式生成新數(shù)據(jù)，并將其輸出給用戶。

因此不難看出，生成式AI在實(shí)際的使用階段和傳統(tǒng)搜索引擎很類似，有輸入才有輸出，但由于ChatGPT類工具過于強(qiáng)大，其能夠處理很復(fù)雜的句式和指令，這就導(dǎo)致一些在職人員可能采用ChatGPT類工具走捷徑，將工作任務(wù)輸入到工具里，進(jìn)而造成泄密。

目前，很多巨頭公司都意識到這一點(diǎn)。在三星之前，韓國另一大科技巨頭SK海力士也已經(jīng)宣布，“除必要時刻外”，幾乎禁止公司內(nèi)部網(wǎng)使用ChatGPT類工具；韓國面板巨頭LG為了防止員工使用ChatGPT類工具發(fā)生泄密，已經(jīng)通過公司內(nèi)部帖子和教育、活動等，隨時強(qiáng)調(diào)公司內(nèi)部信息保護(hù)和防止泄漏等信息安全認(rèn)識。

更為謹(jǐn)慎的是銀行領(lǐng)域。據(jù)不完全統(tǒng)計，目前包括瑞穗金融集團(tuán)、三菱UFJ銀行、三井住友銀行、摩根大通、美國銀行和花旗等大型銀行都已經(jīng)對人工智能下了禁令，這些公司是首批限制員工訪問ChatGPT類工具的公司。

如何安全使用ChatGPT類工具

竟然行業(yè)巨頭帶頭，那么商業(yè)公司真的要全面禁止ChatGPT類工具嗎？筆者的答案是大可不必。

生成式AI工具的價值是巨大的，它能夠給各行各業(yè)帶來四大創(chuàng)新性改變。首先，生成式AI可以創(chuàng)造新內(nèi)容，可用于藝術(shù)、音樂和其他形式的創(chuàng)造性表達(dá)等方面；其次，生成式AI可以提高效率和生產(chǎn)力，可以顯著減少新聞、內(nèi)容創(chuàng)作、數(shù)據(jù)注釋和分析等領(lǐng)域的人工投入；第三，生成式AI可以提高生成內(nèi)容的質(zhì)量，這是讓機(jī)器和人類自如交流的關(guān)鍵所在；最后，生成式AI可以實(shí)現(xiàn)新的應(yīng)用和用途，可用于打造各種個性化的創(chuàng)新方案。

據(jù)波士頓咨詢公司預(yù)測，生成式AI市場規(guī)模將在2027年達(dá)到1210億美元，是2022年的13倍多。

價值大、前景好，那么行業(yè)該如何利用好生成式AI呢？

首先需要有專門的法規(guī)限制。目前，全球各國都在加緊制定針對生成式AI的法律法規(guī)。在國內(nèi)，4月11日，國家網(wǎng)信辦起草《生成式人工智能服務(wù)管理辦法(征求意見稿)》，明確國家支持人工智能算法、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新、推廣應(yīng)用、國際合作。當(dāng)然，征求意見稿也對生成內(nèi)容、算法框架、知識產(chǎn)權(quán)和商業(yè)道德等方面做出了明確的限制。每一個健康發(fā)展的行業(yè)都需要有完善法規(guī)的引導(dǎo)，生成式AI也不例外。目前，美國、英國、日本和歐盟等國家和地區(qū)都在積極推動生成式AI相關(guān)法規(guī)的落地。

其次，推出ChatGPT類工具的公司需要進(jìn)一步增強(qiáng)工具的安全性和脫敏屬性。比如，谷歌表示，將通過自動化工具幫助刪除用戶的個人身份信息，來改進(jìn)Bard的隱私安全。顯然這還不夠，基于開放數(shù)據(jù)庫訓(xùn)練而來的ChatGPT類工具，進(jìn)化的源泉就是新的數(shù)據(jù)，那么如何保證新數(shù)據(jù)的安全是一個大挑戰(zhàn)。

第三是各行各業(yè)針對使用ChatGPT類工具需要進(jìn)行專業(yè)的員工培訓(xùn)，要明確哪些是員工可以做的，那么是員工不能做的。

第四是針對高科技行業(yè)以及金融證券等保密性要求嚴(yán)格的公司，全面杜絕ChatGPT類工具肯定是不可取的，這些行業(yè)需要一套自己的ChatGPT類工具，也就是從源頭構(gòu)建自己的工具，使得數(shù)據(jù)從最開始就被保護(hù)，沒有對外的接口可以泄露。目前，行業(yè)也在探索輕量級的ChatGPT類工具，這些工具具備基本的功能，能夠在企業(yè)私有云上去部署，如果可以實(shí)現(xiàn)將大幅降低數(shù)據(jù)泄露的風(fēng)險。

后記

目前很多行業(yè)、學(xué)校、國家都在推動全面禁止ChatGPT類工具，筆者認(rèn)為這樣做并不可取。生成式AI作為一次革命性的科技升級創(chuàng)新，有著顛覆各行各業(yè)的巨大潛力。而且，這種顛覆更多是正向的、積極的，幫助各行各業(yè)完成數(shù)智化升級。當(dāng)然，作為一項(xiàng)創(chuàng)新技術(shù)，在完善的過程中會露出它的獠牙。正確的做法是將這只猛獸關(guān)在圈子里進(jìn)行馴化，讓其不再具有攻擊性。