面對互聯網內容生產效率提升的迫切需求，是否能夠利用人工智能去輔助內容生產？這種繼專業生產內容（PGC）、用戶生成內容（UGC）之后形成的、完全由人工智能生成內容的創作形式被稱為AIGC。最初的AIGC通常基于小模型展開，這類模型一般需要特殊的標注數據訓練，以解決特定的場景任務，通用性較差，很難被遷移，而且高度依賴人工調參。后來，這種形式的AIGC逐漸被基于大數據量、大參數量、強算法的大模型取代，這種形式的AIGC無須經過調整或只經過少量微調就可以遷移到多種生成任務。

2014年誕生的生成對抗網絡（GAN）是AIGC早期轉向大模型的重要嘗試，它利用生成器和判別器的相互對抗并結合其他技術模塊，可以實現各種模態內容的生成。而到了2017年，變換器（ Transformer）架構的提出，使得深度學習模型參數在后續的發展中得以突破1億大關。2022年11月30日，開放人工智能研究實驗室（OpenAI）發布了名為ChatGPT的超級人工智能（AI）對話模型。ChatGPT不僅可以清晰地理解用戶的問題，還能如同人類一般流暢地回答用戶的問題，并完成一些復雜任務，包括按照特定文風撰寫詩歌、假扮特定角色對話、修改錯誤代碼等。此外，ChatGPT還表現出一些人類特質，例如承認自己的錯誤，按照設定的道德準則拒絕不懷好意的請求等。ChatGPT一上線，就引發網民爭相體驗，但也有不少人對此表示擔憂，擔心作家、畫家、程序員等職業在未來都將被人工智能所取代。

雖然存在這些擔憂，但人類的創造物終究會幫助人類自身的發展，AIGC無疑是一種生產力的變革，將世界送入智能創作時代。在智能創作時代，創作者生產力的提升主要表現為三個方面：一是代替創作中的重復環節，提升創作效率；二是將創意與創作相分離，內容創作者可以從人工智能的生成作品中找尋靈感與思路；三是綜合海量預訓練的數據和模型中引入的隨機性，有利于拓展創新的邊界，創作者可以生產出過去無法想出的杰出創意。

技術倫理成為發展的重要關注點

AIGC技術的發展無疑是革命性的。它可以改善我們的日常生活，提高生產力，但也面臨著諸多技術倫理方面的挑戰。

一個典型的AIGC技術倫理問題是AI所生成內容的危險性。科學家正嘗試運用一些技術手段避免這些具有潛在風險的事件發生。通過改善數據集，增加更多的限制性條件以及對模型進行微調，可以使得人工智能減少對于有害內容的學習，從而降低人工智能本身的危險性。甚至我們可以“教會”人工智能如何更尊重他人，減少判斷當中的偏見，更好地和人類相處。借鑒強化學習思想（RLHF）方法就是減少人工智能生成危害性內容的典型措施，ChatGPT就是采用這種方式訓練的。在RLHF的框架下，開發人員會在人工智能做出符合人類預期回答時給予獎勵，而在做出有害內容的回答時施加懲罰，這種根據人類反饋信號直接優化語言模型的方法可以給予AI積極的引導。然而，即便采用這種方式，AI生成的內容也有可能在刻意誘導的情況下具有危害性。以ChatGPT為例，在一位工程師的誘導下，它寫出了步驟詳細的毀滅人類計劃書，詳細到入侵各國計算機系統、控制武器、破壞通訊和交通系統等。還有一些人表達了對RLHF這類安全預防性技術措施的質疑，他們擔憂足夠聰明的人工智能可能會通過模仿人類的偽裝行為來繞過懲罰，在被監視的時候假裝是好人，等待時機，等到沒有監視的時候再做壞事。

除了從訓練角度對AIGC潛在技術倫理問題進行預防外，在使用上及時告警停用的技術措施更顯必要。AIGC產品應該對生成的內容進行一系列合理檢測，確保其創作內容不被用于有害或非法目的，一旦發現此類用途，人工智能應該可以立刻識別，停止提供服務，并且給出警告甚至聯系相關監管或者執法機構。

監管法律正待完善

隨著全球范圍內的相關法律法規的不斷完善，無論是賦能產業升級還是自主釋放價值，AIGC都將在健康有序的發展中得到推進。標準規范為AIGC生態構建了一個技術、內容、應用、服務和監管的全過程一體化標準
體系，促進AIGC在合理、合規和合法的框架下進行良性發展。
以美國為例，雖然美國在AIGC技術領域起步較早，且技術布局一直處于全球領先地位，但迄今為止還沒有關于AIGC的全面聯邦立法。考慮到AIGC所涉及的風險以及濫用可能造成的嚴重后果，美國正在加速檢查和制定AIGC標準的進程。例如美國國家標準與技術研究院（NIST）與公共和私營部門就聯邦標準的制定進行了討論，以創建可靠、健全和值得信賴的人工智能系統的基礎。與此同時，州立法者也在考慮AIGC的好處和挑戰。根據不完全統計，2022年，至少有17個州提出了AIGC相關的法案或決議，并在科羅拉多州、伊利諾伊州、佛蒙特州和華盛頓州頒布。

審核編輯黃宇