生成式人工智能如何治理 生成式人工智能的機(jī)遇和挑戰(zhàn)

作者：袁國棟

自從2022年11月ChatGPT發(fā)布以來，掀起了生成式人工智能研究與應(yīng)用的熱潮。作為新型人工智能技術(shù)，生成式人工智能今年持續(xù)升溫，引發(fā)了社會(huì)各界的廣泛關(guān)注。2023年7月13日國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委、教育部、科技部等7部門發(fā)布了《生成式人工智能服務(wù)管理暫行辦法》（以下簡稱《辦法》），該《辦法》已于8月15日開始正式施行，這是我國首次對(duì)生成式人工智能研發(fā)與服務(wù)作出明確規(guī)定，也是全球首部針對(duì)生成式人工智能進(jìn)行監(jiān)管的法律文件。和以往的人工智能技術(shù)相比，生成式人工智能體現(xiàn)出強(qiáng)人機(jī)交互、強(qiáng)語料依賴等典型特征，在技術(shù)發(fā)展與風(fēng)險(xiǎn)控制兩方面均存在很多問題與挑戰(zhàn)，亟須人們對(duì)其進(jìn)行深入的研究。

何為生成式人工智能

人工智能按其模型可以劃分為決策式人工智能和生成式人工智能。決策式人工智能是一種用于決策的技術(shù)，它利用機(jī)器學(xué)習(xí)、深度學(xué)習(xí)和計(jì)算機(jī)視覺技術(shù)來處理專業(yè)領(lǐng)域的問題，并幫助企業(yè)和組織優(yōu)化決策。生成式人工智能則是一種用于生成新內(nèi)容的人工智能技術(shù)，由于在大模型、大算力、訓(xùn)練方法等多方面都實(shí)現(xiàn)了技術(shù)突破，它可以使用語言模型、圖像模型和深度學(xué)習(xí)等技術(shù)，自動(dòng)生成新的文本、圖片、音頻和視頻內(nèi)容。生成式人工智能實(shí)現(xiàn)了高質(zhì)量、高效率、多樣化的內(nèi)容生產(chǎn)，成為推動(dòng)數(shù)字生產(chǎn)力變革的重要力量。目前，在應(yīng)用方面，生成式人工智能的產(chǎn)業(yè)鏈逐步形成：其上游包括數(shù)據(jù)供給方、算法模型機(jī)構(gòu)、創(chuàng)作者生態(tài)以及底層配合工具等；中游包括文字、圖像、音頻、視頻等數(shù)字內(nèi)容的處理加工方；下游則主要是各類數(shù)字內(nèi)容分發(fā)平臺(tái)、消費(fèi)方及相關(guān)服務(wù)機(jī)構(gòu)等。在教育、金融、醫(yī)療、工業(yè)等領(lǐng)域，生成式人工智能可以加快數(shù)實(shí)融合，促進(jìn)產(chǎn)業(yè)升級(jí)提速，實(shí)現(xiàn)金融資訊、產(chǎn)品介紹視頻內(nèi)容的自動(dòng)化生產(chǎn)，并且能夠支持生成衍生設(shè)計(jì)，實(shí)現(xiàn)降本增效。生成式人工智能作為生產(chǎn)工具和新興生產(chǎn)力的角色愈加重要。

生成式人工智能帶來巨大機(jī)遇和挑戰(zhàn)

綜觀2023年上半年國內(nèi)外重大科技發(fā)展趨勢和投資熱點(diǎn)，生成式人工智能成為最引人注目的技術(shù)之一。生成式人工智能不僅對(duì)全球經(jīng)濟(jì)產(chǎn)生重要影響，也為各行各業(yè)的發(fā)展帶來了新機(jī)遇。其中，零售和消費(fèi)品行業(yè)、銀行業(yè)、制藥和醫(yī)療產(chǎn)品三個(gè)行業(yè)的發(fā)展?jié)摿ψ畲?。目前，我國開發(fā)的大規(guī)模語言模型已經(jīng)有80余個(gè)，參與模型開發(fā)的主要有大型科技公司、高等院校以及電信設(shè)備制造商等。截至今年5月，據(jù)不完全統(tǒng)計(jì)，國內(nèi)已有超過40家公司、機(jī)構(gòu)發(fā)布了生成式模型產(chǎn)品或公布了生成式模型研發(fā)計(jì)劃。大模型項(xiàng)目數(shù)量的爆發(fā)式增長，顯示出生成式人工智能服務(wù)在我國迅猛發(fā)展的態(tài)勢。生成式人工智能在商業(yè)領(lǐng)域的應(yīng)用跨越了企業(yè)組織邊界，深度集成到現(xiàn)有組織工作流程和系統(tǒng)中，對(duì)客戶服務(wù)、供應(yīng)鏈和網(wǎng)絡(luò)安全等領(lǐng)域的關(guān)鍵業(yè)務(wù)流程進(jìn)行重構(gòu)，形成了有影響力的新模式、新業(yè)務(wù)。在生成式人工智能賦能下，生物制藥、制造、材料科學(xué)等領(lǐng)域開始改變業(yè)務(wù)流程。生成式人工智能推動(dòng)了利用與開發(fā)海量數(shù)據(jù)價(jià)值的進(jìn)程，在信息生成、編輯和迭代方面，能夠高效收集、整合各類數(shù)據(jù)，自動(dòng)生成文本內(nèi)容、圖像。據(jù)預(yù)測，到2025年，大型企業(yè)機(jī)構(gòu)對(duì)外營銷信息中的合成信息比例將上升到30%；到2030年，主要影視作品中人工智能生成內(nèi)容的比例將上升到90%。

生成式人工智能雖然發(fā)展迅速，也一直面臨著各種挑戰(zhàn)，在生成方面經(jīng)常被人詬病的包括內(nèi)容不準(zhǔn)確、可行性不高、文本直接拼湊，缺乏邏輯性等問題。此外，生成式人工智能的發(fā)展在提高人們工作效率的同時(shí)，也會(huì)衍生嚴(yán)重的失業(yè)問題。今年3月發(fā)布的一份研究報(bào)告顯示，全球預(yù)計(jì)將有3億個(gè)工作崗位被生成式人工智能取代，其中律師和行政人員將是最有可能被裁員的崗位。對(duì)體力要求較高的職業(yè)或戶外職業(yè)受到影響較小，例如建筑和維修行業(yè)。生成式人工智能對(duì)原有的法律規(guī)定也提出了挑戰(zhàn)，就生成式人工智能而言，在法律領(lǐng)域產(chǎn)生的最大挑戰(zhàn)就是潛在的各種侵權(quán)糾紛。生成式人工智能的生成能力來自數(shù)據(jù)和模型，而數(shù)據(jù)來源本身可能就會(huì)產(chǎn)生侵犯他人著作權(quán)、肖像權(quán)、名譽(yù)權(quán)、個(gè)人信息等多項(xiàng)權(quán)利的風(fēng)險(xiǎn)。

總體而言，生成式人工智能目前還處于起步階段，應(yīng)用前景尚不明朗，應(yīng)當(dāng)客觀看待其發(fā)展規(guī)律，為新業(yè)態(tài)、新技術(shù)發(fā)展?fàn)I造包容審慎的監(jiān)管環(huán)境，以此進(jìn)一步激發(fā)市場活力和社會(huì)創(chuàng)造力。

人工智能治理的中國方案

2023世界人工智能大會(huì)提供的數(shù)據(jù)顯示：我國人工智能產(chǎn)業(yè)蓬勃發(fā)展，核心產(chǎn)業(yè)規(guī)模達(dá)到5000億元，企業(yè)數(shù)量超過4300家，創(chuàng)新成果不斷涌現(xiàn)。生成式人工智能的發(fā)展，標(biāo)志著人工智能正在從專用智能發(fā)展到通用智能，進(jìn)入了嶄新的發(fā)展階段。中央政治局4月28日召開會(huì)議明確指出，要重視通用人工智能發(fā)展，營造創(chuàng)新生態(tài)，重視防范風(fēng)險(xiǎn)。相信隨著《辦法》的實(shí)施，生成式人工智能在各領(lǐng)域的發(fā)展和應(yīng)用將會(huì)更加健康規(guī)范。面對(duì)技術(shù)發(fā)展帶來的機(jī)遇與挑戰(zhàn)，《辦法》在制度創(chuàng)新的基礎(chǔ)上，既重視信息內(nèi)容安全，也從多方面推進(jìn)技術(shù)產(chǎn)業(yè)發(fā)展，不僅為國際人工智能的治理實(shí)踐提供了中國方案，也為我國人工智能立法作出了積極有益探索?！掇k法》對(duì)生成式人工智能堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則，采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展，對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管。對(duì)于生成式人工智能的數(shù)據(jù)來源，《辦法》規(guī)定，要推動(dòng)公共數(shù)據(jù)分類分級(jí)有序開放，擴(kuò)展高質(zhì)量的公共訓(xùn)練數(shù)據(jù)資源，鼓勵(lì)采用安全可信的芯片、軟件、工具、算力和數(shù)據(jù)資源?！掇k法》旨在維護(hù)國家安全、社會(huì)公共利益、公民合法權(quán)益的同時(shí)，用科學(xué)合理的措施進(jìn)行監(jiān)管，推動(dòng)人工智能產(chǎn)業(yè)朝著積極健康的方向發(fā)展。

盡管目前國內(nèi)外生成式人工智能在大模型開發(fā)、應(yīng)用布局、商業(yè)模式等多個(gè)領(lǐng)域都存在較大差異，但相信未來我國相關(guān)技術(shù)和應(yīng)用將逐漸成熟，并會(huì)進(jìn)一步探索出適合自身發(fā)展的商業(yè)模式。生成式人工智能的健康發(fā)展有賴政府、企業(yè)、社會(huì)、網(wǎng)民等多方參與，共同促進(jìn)，唯有如此才能使這項(xiàng)顛覆性技術(shù)更好地造福人民。

編輯：黃飛