電子發燒友網報道（文/李彎彎）近日，知名作家簡·弗里德曼(Jane Friedman)發現，亞馬遜上有以她的名義出售的新書，只是這些書不是由她所寫，而是由人工智能(AI)偽造的。

人工智能“偽造”新書并不是新鮮的事情，在當前的網絡文學中，已經有很大的一部分的網絡文學作品都出自人工智能。可以說，只要能夠掌握CahtGPT并且熟練的調用，不僅能模仿各種作者的風格，還可以根據用戶的要求持續性的創作。

人工智能偽造新書售賣

弗里德曼告訴媒體，一位細心的讀者想要閱讀更多她的作品，在亞馬遜上購買了一本新書。雖然該書的標題與她過去所寫的主題十分相似，但文字內容明顯是由人工智能生成式模仿她的風格而成。

她表示：“當我看到這些書時，瀏覽開頭幾頁及簡介，就很明顯大部分內容都是由人工智能生成的，因為我在網上有很多免費的內容，如寫博客，所以讓人工智能來模仿我的風格并不難。”

事實上，AI早就被用來出版書籍。施普林格·自然曾于2019年出版了第一本完全由AI生成的有關鋰離子電池的圖書，書名為《鋰離子電池：計算機生成的當前研究摘要》。施普林格·自然攜手德國法蘭克福大學等機構合作開發了一種算法，用這種算法自動編寫了一本有關鋰離子電池最新研究進展的圖書。

隨后，2021年，施普林格·自然采用混合人機交互方式出版了另一本AI生成的文獻綜述圖書《氣候、行星和進化科學：計算機生成的文獻綜述》。不同于此前完全基于AI生成的關于鋰離子電池的圖書，這本新書采用了創新的混合人機交互方式。

新書將人工撰寫的文本和計算機生成的文獻綜述融合起來，計算機根據施普林格·自然出版的期刊先前發表的大量文章生成文獻綜述，然后由作者放入圖書的各個章節并提供科學觀點。

《CRISPR——計算機生成的文獻綜述》一書則是由施普林格·自然最新的AI平臺自動生成。如今隨著CahtGPT等生成式AI工具的出現，AI模仿作者出書的能力更強。

需要盡快規范生成式AI的發展

生成式人工智能工具如ChatGPT目前能夠快速、廉價地產生大量令人信服的文本。一些作家和作者已經對此發出警告，擔心他們的工作會被這項新技術取代。同時，還有些作家表示不希望自己的研究成果被用于訓練人工智能模型。

上個月，美國立法者與創意產業成員包括作家協會進行了會面，討論了人工智能的影響。非營利作家倡導組織作家協會的首席執行官瑪麗·拉森伯格呼吁制定立法保護作家免受人工智能的影響，其中包括要求人工智能公司在訓練模型時保持透明度。

此外，超過1萬名作家，包括瑪格麗特·阿特伍德、詹姆斯·帕特森和強納森·法蘭森等人，簽署了一封信，要求微軟、Meta Platforms和Alphabet等公司的領導人在未經許可或未支付報酬的情況下不要使用他們的作品來訓練人工智能系統。

對于人類社會而言，AI所帶來的挑戰已經越來越明顯。業界認為，盡快通過立法的方式來規范AI的發展很有必要。事實上，自ChatGPT發布以來，許多國家和地區也意識到其中的風險，開始規制或限制相關應用。例如，歐盟將ChatGPT等生成式人工智能列入高風險人工智能清單，意大利等國一度以保護隱私為由在全國范圍內禁止使用ChatGPT。

我國不久前發布《暫行辦法》全面、系統地為生成式人工智能的應用設定了規制框架。比如，對于生成式人工智能可能產生的風險，《暫行辦法》要求生成式人工智能服務的提供者和使用者遵守法律、行政法規，尊重社會公德和倫理道德，尤其要做到：其一，不得生成虛假有害信息等法律、行政法規禁止的內容；其二，采取有效措施防止產生民族、信仰、國別、地域、性別、年齡、職業、健康等歧視；其三，不得利用算法、數據、平臺等優勢，實施壟斷和不正當競爭行為；其四，不得侵害他人肖像權、名譽權、榮譽權、隱私權和個人信息權益；其五，提升生成式人工智能服務的透明度，提高生成內容的準確性和可靠性。

小結

生成式人工智能是指基于算法、模型、規則生成文本、圖片、聲音、視頻、代碼等內容的技術，如今已經在多個領域實現應用。然而，生成式AI為人們的生產生活帶來便利的同時，也帶來了諸多挑戰。當前，除了探索生成式AI落地應用，也需要積極思考如何規范AI的發展，以保證其真正賦能人們的生產生活，而不是造成危害。