人工智能“偽造”新書售賣，盡快規(guī)范AI的發(fā)展很有必要

電子發(fā)燒友網(wǎng)報(bào)道（文/李彎彎）近日，知名作家簡(jiǎn)·弗里德曼(Jane Friedman)發(fā)現(xiàn)，亞馬遜上有以她的名義出售的新書，只是這些書不是由她所寫，而是由人工智能(AI)偽造的。

人工智能“偽造”新書并不是新鮮的事情，在當(dāng)前的網(wǎng)絡(luò)文學(xué)中，已經(jīng)有很大的一部分的網(wǎng)絡(luò)文學(xué)作品都出自人工智能?？梢哉f，只要能夠掌握CahtGPT并且熟練的調(diào)用，不僅能模仿各種作者的風(fēng)格，還可以根據(jù)用戶的要求持續(xù)性的創(chuàng)作。

人工智能偽造新書售賣

弗里德曼告訴媒體，一位細(xì)心的讀者想要閱讀更多她的作品，在亞馬遜上購(gòu)買了一本新書。雖然該書的標(biāo)題與她過去所寫的主題十分相似，但文字內(nèi)容明顯是由人工智能生成式模仿她的風(fēng)格而成。

她表示：“當(dāng)我看到這些書時(shí)，瀏覽開頭幾頁(yè)及簡(jiǎn)介，就很明顯大部分內(nèi)容都是由人工智能生成的，因?yàn)槲以诰W(wǎng)上有很多免費(fèi)的內(nèi)容，如寫博客，所以讓人工智能來模仿我的風(fēng)格并不難?！?br />
事實(shí)上，AI早就被用來出版書籍。施普林格·自然曾于2019年出版了第一本完全由AI生成的有關(guān)鋰離子電池的圖書，書名為《鋰離子電池：計(jì)算機(jī)生成的當(dāng)前研究摘要》。施普林格·自然攜手德國(guó)法蘭克福大學(xué)等機(jī)構(gòu)合作開發(fā)了一種算法，用這種算法自動(dòng)編寫了一本有關(guān)鋰離子電池最新研究進(jìn)展的圖書。

隨后，2021年，施普林格·自然采用混合人機(jī)交互方式出版了另一本AI生成的文獻(xiàn)綜述圖書《氣候、行星和進(jìn)化科學(xué)：計(jì)算機(jī)生成的文獻(xiàn)綜述》。不同于此前完全基于AI生成的關(guān)于鋰離子電池的圖書，這本新書采用了創(chuàng)新的混合人機(jī)交互方式。

新書將人工撰寫的文本和計(jì)算機(jī)生成的文獻(xiàn)綜述融合起來，計(jì)算機(jī)根據(jù)施普林格·自然出版的期刊先前發(fā)表的大量文章生成文獻(xiàn)綜述，然后由作者放入圖書的各個(gè)章節(jié)并提供科學(xué)觀點(diǎn)。

《CRISPR——計(jì)算機(jī)生成的文獻(xiàn)綜述》一書則是由施普林格·自然最新的AI平臺(tái)自動(dòng)生成。如今隨著CahtGPT等生成式AI工具的出現(xiàn)，AI模仿作者出書的能力更強(qiáng)。

需要盡快規(guī)范生成式AI的發(fā)展

生成式人工智能工具如ChatGPT目前能夠快速、廉價(jià)地產(chǎn)生大量令人信服的文本。一些作家和作者已經(jīng)對(duì)此發(fā)出警告，擔(dān)心他們的工作會(huì)被這項(xiàng)新技術(shù)取代。同時(shí)，還有些作家表示不希望自己的研究成果被用于訓(xùn)練人工智能模型。

上個(gè)月，美國(guó)立法者與創(chuàng)意產(chǎn)業(yè)成員包括作家協(xié)會(huì)進(jìn)行了會(huì)面，討論了人工智能的影響。非營(yíng)利作家倡導(dǎo)組織作家協(xié)會(huì)的首席執(zhí)行官瑪麗·拉森伯格呼吁制定立法保護(hù)作家免受人工智能的影響，其中包括要求人工智能公司在訓(xùn)練模型時(shí)保持透明度。

此外，超過1萬名作家，包括瑪格麗特·阿特伍德、詹姆斯·帕特森和強(qiáng)納森·法蘭森等人，簽署了一封信，要求微軟、Meta Platforms和Alphabet等公司的領(lǐng)導(dǎo)人在未經(jīng)許可或未支付報(bào)酬的情況下不要使用他們的作品來訓(xùn)練人工智能系統(tǒng)。

對(duì)于人類社會(huì)而言，AI所帶來的挑戰(zhàn)已經(jīng)越來越明顯。業(yè)界認(rèn)為，盡快通過立法的方式來規(guī)范AI的發(fā)展很有必要。事實(shí)上，自ChatGPT發(fā)布以來，許多國(guó)家和地區(qū)也意識(shí)到其中的風(fēng)險(xiǎn)，開始規(guī)制或限制相關(guān)應(yīng)用。例如，歐盟將ChatGPT等生成式人工智能列入高風(fēng)險(xiǎn)人工智能清單，意大利等國(guó)一度以保護(hù)隱私為由在全國(guó)范圍內(nèi)禁止使用ChatGPT。

我國(guó)不久前發(fā)布《暫行辦法》全面、系統(tǒng)地為生成式人工智能的應(yīng)用設(shè)定了規(guī)制框架。比如，對(duì)于生成式人工智能可能產(chǎn)生的風(fēng)險(xiǎn)，《暫行辦法》要求生成式人工智能服務(wù)的提供者和使用者遵守法律、行政法規(guī)，尊重社會(huì)公德和倫理道德，尤其要做到：其一，不得生成虛假有害信息等法律、行政法規(guī)禁止的內(nèi)容；其二，采取有效措施防止產(chǎn)生民族、信仰、國(guó)別、地域、性別、年齡、職業(yè)、健康等歧視；其三，不得利用算法、數(shù)據(jù)、平臺(tái)等優(yōu)勢(shì)，實(shí)施壟斷和不正當(dāng)競(jìng)爭(zhēng)行為；其四，不得侵害他人肖像權(quán)、名譽(yù)權(quán)、榮譽(yù)權(quán)、隱私權(quán)和個(gè)人信息權(quán)益；其五，提升生成式人工智能服務(wù)的透明度，提高生成內(nèi)容的準(zhǔn)確性和可靠性。

小結(jié)

生成式人工智能是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)，如今已經(jīng)在多個(gè)領(lǐng)域?qū)崿F(xiàn)應(yīng)用。然而，生成式AI為人們的生產(chǎn)生活帶來便利的同時(shí)，也帶來了諸多挑戰(zhàn)。當(dāng)前，除了探索生成式AI落地應(yīng)用，也需要積極思考如何規(guī)范AI的發(fā)展，以保證其真正賦能人們的生產(chǎn)生活，而不是造成危害。