【編者：本文發布得到作者的授權。作者來自澳大利亞 Data61 的 SE4AI 團隊和江西師范大學智能化軟件工程實驗室，他們聯合打造了全球首款 AI 鏈（AI chain）無代碼生產平臺 Prompt Sapper，及相應的方法學和 AI 服務市場。基礎模型（foundation models）帶來了前所未有的 AI “操作系統” 效應和全新的人工智能交互方式，激發了 AI 服務開發與應用的創新之潮。Prompt Sapper 應勢而生，致力于重塑軟件領域格局，打造人與 AI 協作智能的平臺，以釋放每個人的 AI 創新潛能，創造人人皆 AI 創新大師的未來！】

AI 服務代表了一種我們稱為構建在基礎模型之上的 AI 鏈（AI Chain）應用。AI 鏈應用是一種新型的軟件產品，他們按照特定的工作流程組裝多次基礎模型調用（也可能同時調用傳統機器學習模型，外部數據或 APIs），從而提供某種特定的 AI 服務。

這些基礎模型包括當前非常熱門的生成式預訓練大語言模型比如 GPT-4、圖像生成模型 DALL-E 等。我們可以將這些基礎模型類看作 AI “操作系統”，就如同個人電腦時代的 Windows、Linux 和 MacOS，以及移動應用時代的 iOS 和 Android。正如我們曾經調用傳統操作系統 APIs 開發軟件應用和服務，如今我們可以通過組裝對基礎模型的多次調用來開發 AI 應用和服務。

基礎模型解鎖軟件 3.0

然而，如上圖所示， 傳統操作系統調用和基礎模型調用之間存在一個本質區別。即使自然語言是我們表達需求的最自然方式，在軟件 1.0/2.0 范式中，人們不得不使用計算機語言（如 Java、Python、JavaScript 等）與計算機交互，專注于解決問題（算法，數據，模型架構，特征等）。現在，一切發生了翻天覆地的變化！基礎模型為我們解鎖了軟件 3.0 范式，一種全新的自然語言編程方式 — 提示編程 ，以及基于提示編程的 AI 鏈工程（和作者溝通，作者也認可，“軟件3.0” 稱之為“軟件工程3.0” 更準確些）。在軟件 3.0 范式中，人們可以用自然語言描述他們需要解決的問題，而基礎模型則能理解并執行這些自然語言指令。這一進步讓人們能夠以更直觀、更自然的方式與 AI 互動，進一步拓寬了我們在創新和解決問題上的可能性，將 AI 的力量帶給了更廣泛的受眾，實現了 AI 平民化的愿景。

軟件 3.0 優勢在于為人們帶來前所未有的 AI 交互體驗和智能應用。但我們相信，軟件 3.0 并不會完全取代軟件 1.0/2.0。相反，這三種范式將在未來相互補充并共存。在各自的優勢領域，它們將發揮各自的作用，共同推動技術進步和創新。這種協同發展有望讓我們更好地解決復雜問題，釋放更多的創新潛能。我們的 Sapper IDE 支持三種范式的工作者（worker），詳情見 “提示客劍譜”（Promptmanship）。

AI 2.0（基礎模型）賦能軟件 3.0（提示編程 + AI 鏈工程）

機器學習和軟件工程演化

如上圖所示，機器學習技術的發展經歷了從最早期的特征工程、神經網絡架構工程，到預訓練微調范式的目標工程，再到近期的提示 / AI 鏈工程的演進。盡管神經網絡和預訓練微調正在逐漸降低利用 AI 的門檻，但人們仍然面臨著單領域、多模型孤島效應的挑戰。也就是說，AI 1.0 時代缺乏一個 AI “操作系統” 模型來支持 AI 應用的開發、組裝和生態系統。

而基礎模型則具備跨領域知識，能夠通過情景學習（in-context learning）適應各種復雜的任務，為我們帶來了期待已久的 AI “操作系統” 平臺。

李開復將這一平臺化的 AI 稱為 AI 2.0。他認為，聊天工具和圖文創作僅僅是 AI 2.0 的冰山一角，我們不應限制對 AI 2.0 潛力的想象。基礎模型推動了自然的人與 AI 交互方式，開啟了軟件工程領域嶄新的一頁 ——軟件 3.0 時代。在這個時代中，以提示編程和 AI 鏈應用為核心，我們將迎來更加開放和民主的 AI 服務開發和應用環境。Andrej Karpathy 認為，新興的提示編程具有將 “程序員” 人數擴大到 15 億的潛力。在就業市場上，出現了諸如 “AI 提示工程師”、“法律提示工程師” 等職位，預示著這一發展趨勢正在成為現實。

AI 鏈工程（SE4AIChain）： 愿景與目標

我們的愿景是通過生成式 AI 重塑軟件格局。我們正處在將基礎模型的能力演變成人工智能助手的構建階段，這個階段存在兩個非常現實的機會：1. 讓人人能夠創建個性化的智能體，2. 讓人們可以分享和雇傭智能體服務。這樣可以讓更廣泛大眾參與到 AI 大潮并從中受益。基礎模型和提示編程具有廣闊的前景，然而當前的提示編程狀態就像 60 多年前軟件工程出現前個人英雄主義式的編程一樣。基于基礎模型的 AI 服務開發遠遠超出僅僅寫出耀眼的提示詞，這就像系統化軟件工程和隨意編程之間的差別一樣。

因此，我們致力于打造一套系統的 AI 鏈工程基礎設施作為基礎模型的靈魂伴侶，重塑軟件領域格局，以釋放 AI 2.0 的全部潛力。我們的 AI 鏈工程基礎設施是一套 AI4SE4AI 框架（AI-powered software engineering infrastructure for AI），包括一套系統的 AI 鏈工程方法，我們稱之為 “提示客劍譜”，以及相應的開發和部署工具，作為這個方法論的配套兵器。

為實現這個愿景，我們提出了以下三個目標：

第一，從軟件工程的視角總結泛化提示工程的最佳實踐，將提示工程置于軟件工程的整體框架下，補充被忽視的重要軟件工程方法（例如軟件過程，系統設計，測試），從而形成系統化的 AI 鏈方法論（第一版已發布）。

第二，研發 AI 鏈集成開發環境，支持從想法到服務的全過程 AI 鏈開發，并通過物化 AI 鏈方法論，為普通人開發高質量 AI 服務提供 “潤物細無聲” 的支持（第一版已上線）。

第三，研發 AI 服務市場，推進 AI 服務生態系統的發展，并研發負責任的 AI 鏈工程方法和技術，以增強 AI 服務的透明性、責任性和安全性（AI 服務市場 beta 版已上線）。

我們致力于建立一個開放、協作、安全、可持續的 AI 鏈生態系統，為千行百業提供數字化、智能化轉型升級的支持，讓他們在 AI 新時代中發揮自己的創造力和智慧，并從中獲益，實現人機共生的美好愿景。

Promptmanship（提示客劍譜）：為 AI 鏈應用量身定制的軟件工程方法

軟件工程在幾十年的發展中積累了大量有效的方法和實踐，其中許多理念和經驗可以被應用到 AI 鏈工程中。然而，隨著基礎模型帶來的人與 AI 交互方式的變革，我們需要審視和調整傳統的軟件工程方法和實踐，以適應新興的以人為中心的自然語言編程范式。

一方面，大語言模型（如 GPT-4）編碼了海量知識并具備強大的對話能力，我們可以利用它們來幫助 AI 鏈工程師獲得任務知識、理解問題以及獲得解決問題的靈感。同時，為減輕大語言模型難以避免的錯誤和幻覺的影響，我們需要對模型能力有足夠深入的理解（所謂 mechanical sympathy），并采用有效的提示設計。

另一方面，大語言模型不僅改變了誰可以開發 AI 服務，而且深刻地改變了可以開發哪些 AI 服務。這需要我們將過去以代碼為中心的開發工具轉變為以人為中心的工具，使普通人可以專注于解決問題，更直觀地分析、設計、搭建和評估 AI 鏈。

Promptmanship（提示客劍譜）：為 AI 鏈應用量身定制的軟件工程方法

因此，AI 鏈工程需要在傳統軟件工程方法和實踐的基礎上，結合大語言模型的優勢，發展出一套更適應以人為中心的自然語言編程范式的開發方法和工具，以提高 AI 鏈的開發效率和質量。上圖展示了我們基于大量文獻、社區分享經驗以及我們自身實踐而提出的 AI 鏈工程方法學。

我們將 AI 鏈的功能單元定義為 “工作者”（worker）。AI 鏈除了涉及傳統軟件概念（例如需求、對象組合與協作、對象角色），還包括 AI 鏈特有的概念。例如，我們區分了三種工作者類型（對應三種軟件范式：Software 1.0/2.0/3.0）、四層推理能力遞增的工作者 - AI 交互模式，工作者構型（worker stereotype），以及提示設計模式。

我們認為 AI 鏈工程是一個快速原型（Rapid Prototyping）的過程，包括四個迭代階段：探索、設計、構建和部署。每個階段都包括并發的活動（受統一軟件過程（Rational Unified Process）啟發），包括任務建模、系統設計（需求分析，任務分解、AI/non-AI 關注點分離、工作流演練）、AI 鏈實現和測試，但不同階段有不同的側重（由相應條高度展示）。不同活動會生成或者精化不同的 AI 鏈概念（有概念下方藍色區間展示）。與所有活動伴生，我們提出了一個 “魔法增強魔法” 的活動，利用大語言模型的知識和對話能力，幫助 AI 鏈工程師獲取任務知識、進行需求獲取和分析，并獲得對模型能力的理解（mechanical sympathy）。

在 AI 鏈中，軟件 3.0 工作者的 “大腦” 就是他的自然語言提示。這些提示需要清晰地定義工作者的角色和功能。有效的提示需要創造力和實驗，但與傳統編程一樣，可以通過慣用語和模式進行改進。大量文獻和博客提出了許多提示技巧。基于這些提示技巧和我們自身的實戰經驗，我們總結出了四個方面的提示設計模式（見上表）：工作者構型，提示注意事項，提示設計方面，和提示裝飾。

工作者構型：我們定義了九種工作者元角色：輸入重寫器、分割器、逆向提問人、規劃師、信息詢問者、執行官、匯總器、狀態檢測儀和驗證器。為了提高 AI 鏈和工作者的可調試性、重用性和組裝性，我們建議每個工作者遵循單一功能原則，擔任一個獨特的角色。當然，一個工作者可以同時兼具多個角色，但需要注意的是，一身多則的工作者可能成為 “史詩” 級的工作者，不僅什么都干不好，而且很難優化和控制。

提示注意事項：包括三個會影響提示性能的通用事項：Grice 會話原則、術語解釋、提示委員會。

提示設計方面：需要考慮語境（包括輸入、術語解釋、擬人化，和其他限定等）、指令、示例、輸出格式以及內容形式（自由文本、半結構化文本、代碼風格文本）。對于功能簡單的工作者，他們并不需要包括所有方面，比如簡單加法問題可以把輸入數字放到問題中（例如，“請計算 5+2” 或者 “5+2 等于幾？”），也不需要語境、示例和輸出格式。但對于功能復雜的工作者，最好以半結構化甚至代碼形式區分表述不同設計方面和信息。除此之外，指令可以包括一定的控制邏輯，但復雜控制邏輯最好以明確的協作工作者和工作流方式表示。

提示裝飾：不是工作者核心功能，但他們可以通過 “大聲思考” 方式提升模型推理能力（自問自答、反思），或是更好地定制模型行為和輸出（擬人化、語境控制）。

我們想提醒大家，這些提示模式并不能替代創造力和實驗。此外，他們只是戰術層面的優化。對于難度較大的任務，往往需要考慮到戰略層面的 AI 鏈系統設計。

AI 鏈生產平臺（Sapper IDE）

我們的 AI 鏈生產平臺將不同于現有以代碼為中心的開發環境，因為 AI 鏈將由很多沒有計算機和編程背景的人開發。因此，我們的最高設計準則是 “以人為本”，體現在三個方面：

首先，我們將 “提示客劍譜”（AI 鏈工程方法學）無縫地物化到 Sapper IDE 中，使任何人都能有效地應用最佳 AI 鏈實踐和方法。

其次，我們充分利用大語言模型的知識和對話能力，開發智能副駕駛（co-pilots），為非技術人員提供全過程 AI 鏈開發支持。

第三，我們提供全過程無代碼 AI 鏈分析、設計、開發和部署，讓任何人都能輕松將創意轉化為 AI 服務。

我們的 AI 鏈 IDE 可謂是 “AI 服務的孵化器”，因為它的主要功能就是站在基礎模型的巨人肩膀上打造 AI 服務。這些服務不僅可以直接滿足人們的 AI 鏈開發需求，還能啟發他們去探索更多可能性，并幫助他們創造出更多更優秀的 AI 服務。我們相信，這將會是一個 AI 創新無限的時代，我們的 Sapper IDE 將成為千行百業開啟這一無限潛力的 “工兵鐵鍬”！

我們在Sapper IDE已開發或正在開發多樣的AI服務演示，涉及教育，職業培訓，創意寫作，游戲，軟件工程等多個領域。我們也歡迎社區用Prompt Sapper創作更多的創意AI服務，并分享到我們的AI服務市場。探索視圖（Exploration View）

探索視圖支持任務探索和初步設計階段的活動，允許用戶獲得大致的任務模型，了解任務挑戰，以及初步了解任務步驟、工作流、輸入 / 輸出數據和提示有效性。

如圖所示，探索視圖的左側部分是一個聊天機器人（目前封裝 GPT-3.5 API），其工作方式與普通聊天機器人（例如，ChatGPT ）相同。聊天機器人允許用戶與大型語言模型（LLM）進行任何類型的對話。當然，我們假設用戶將圍繞他們需要開發的 AI 服務進行交談。與普通聊天機器人不同，探索視圖配備了一個基于 LLM（大型語言模型）的副駕駛員，該副駕駛員會自動收集和分析用戶與 LLM 之間的對話，以獲取可能與后續 AI 鏈分析、設計和開發相關的任務背景（例如，所需要的功能、用戶偏好、需要避免的事項等）。這個副駕駛員本身就是是基于 LLM（目前為 GPT-3.5）構建的 AI 鏈服務。它以一種不干預的方式工作，并根據用戶和 LLM 之間的對話動態記錄筆記，如圖右側的 Task Note 面板所示。

設計視圖（Design View）

設計視圖支持設計階段的主要活動，并在探索和構建階段之間起到承上啟下的重要作用。因此，它具有兩個主要功能：需求分析和 AI 鏈框架生成，分別由兩個基于 LLM 的副駕駛員提供支持。與探索視圖中的非干預式副駕駛員不同，設計視圖中的兩個副駕駛員會積極與用戶互動，協助他們進行需求分析和 AI 鏈框架生成。

需求分析

設計視圖的左側是一個基于 LLM 的需求分析聊天機器人（另一個 AI 鏈服務）。與探索視圖中的自由式聊天機器人不同，需求分析聊天機器人充當不間斷的逆向提問者角色，他的工作方式如下：

1） 用戶在詢問框中輸入任務描述（通常是對所需內容的模糊描述）以開始對話。

2） 需求分析聊天機器人根據初始任務描述和探索視圖中收集的任務筆記（如果有），通過一系列開放式問題引導用戶明確具體任務需求。

3） 需求分析聊天機器人會將用戶每輪的回應逐步整合到任務描述中（顯示在右上角的任務需求框里）。

當然，如果用戶認為他已經有了明確的需求，不需要需求分析聊天機器人的幫助，他可以直接在任務需求框中輸入需求。

AI 鏈框架生成

當用戶認為任務需求已經清晰明確時，可以點擊任務需求框下方的 “Generate AI Chain Skeleton” 按鈕，請求 AI 鏈框架生成副駕駛生成完成任務所需的主要步驟以及每個步驟的三個候選提示。“Generate AI Chain Skeleton” 工作方式如下：

1） 將任務總體描述轉換為主要步驟，并為每個步驟提供名稱和描述。

2） 為每個步驟推薦三個候選提示，用戶可以在此基礎上自行修改。

3） 用戶可以手動添加控制流、刪除或重新排序步驟等操作。

4） 用戶可以使用結構化表單編輯生成的提示，設置步驟的輸入和執行引擎。

通過這個流程，用戶可以方便地生成 AI 鏈的框架，以及對生成的框架進行進一步的修改和完善。最后點擊設計視圖右下角的 “Generate AI Chain” 按鈕，SapperIDE 將根據 AI 鏈框架自動為每個步驟創建工作者并把他們組裝一個基于積木塊的 AI 鏈，可以在編程視圖中查看、編輯和執行。

編程視圖（Block View）

我們使用基于積木塊的可視化編程來支持 AI 鏈的實現、執行和調試。當前的實現是基于開源的 Blockly 項目。在左側面板中，用戶可以訪問 Units、Code、Prompts、Variables 和 Engines 工具箱中的積木塊用以構建 AI 鏈。相關積木塊介紹請訪問我們的文檔

（https://www.aichain.online/public/content%20pages/sapperide/blockview.html）。

為了使用戶建立和修改工作者更加直觀，所有可視化編程操作都可以直接在工作者 / 容器塊上觸發。單擊插槽右側的 “+” 圖標可以直接添加或編輯插槽對應的積木塊。用戶可以從工具箱中拖放塊模板將塊添加到 AI 鏈編輯器中，通過在編輯器中拖放塊來組裝塊。用戶可以通過單擊編輯器右側的 “+”、“-” 和 “aim” 按鈕來縮放編輯器或將所選塊放置在編輯器中心。

用戶可以通過 “AI Chain Execution” 菜單運行或調試 AI 鏈。當工作者正在運行時，工作者塊左上角的 “bug” 信號燈將亮起。工作者執行期間使用的實際提示和引擎輸出將輸出到塊控制臺（Block Console）。執行所需的用戶輸入將在塊控制臺中輸入。

在調試模式下，工作者將一個接一個地執行。當前工作者完成運行時，執行將被暫停，用戶可以檢查塊控制臺中的輸出是否符合預期。如果結果符合預期，則可以繼續執行下一個工作者。或者，用戶可以在提示控制臺（Prompt Console）中修改當前工作者的提示，然后重新運行當前工作者。

如果將工作者塊放置在輸出塊中，則其輸出將顯示在右下角的輸出窗口中。此窗口不會顯示未放置在輸出塊中的工作者的輸出，也不會顯示提示。

塊控制臺用于幫助 AI 鏈工程師調試 AI 鏈，因此包含提示信息和中間執行結果。右下角的輸出窗口允許工程師檢查最終用戶將看到的 AI 鏈輸出。

提示中心（Prompt Hub）

Sapper IDE 的 Prompt Hub（提示中心）提供了一個集中式的提示管理系統，讓用戶在 AI 鏈項目之間輕松共享和重用提示。通過 Prompt Builder（提示生成器）和 Prompt Base（提示庫）工具箱，用戶能創建、編輯、導入和導出提示，使 AI 鏈項目開發更高效、便捷。

用戶可以通過四個方面：上下文、指令、示例和輸出格式，以結構化方式創建或編輯提示。這有助于實現更準確的 AI 鏈項目功能。未來的設計視圖將允許用戶搜索提示庫或獲得自動提示推薦，進一步提高開發效率。

Prompt Hub 還支持將提示下載到本地文件或從本地文件上傳到 IDE，方便在不同設備間同步提示信息。

引擎管理（Engine Management）

引擎管理功能讓用戶在 AI 鏈項目之間輕松共享和重用各類引擎，如基礎模型、傳統機器學習模型（目前在開發中，敬請期待）和外部 API。IDE 內置了三個基礎模型：gpt-3.5-turbo、text-davinci-003、DALL-E，以及 Python 標準 REPL shell。

在 FM Engines（基礎模型引擎）工具箱中，用戶可靈活創建和配置基礎模型引擎，調整參數如 Temperature、Maximum length、Top P、Frequency penalty 和 Presence penalty。點擊 “Save Engine to FM Engine”，將引擎保存以供后續編輯或導出到項目。

最后，用戶還可將引擎信息下載至本地文件，或從本地文件上傳至 IDE。

AI 鏈項目管理（Project Management）

通過 “Project Management” 菜單，用戶可創建新的 AI 鏈項目，將當前項目下載到本地磁盤，或在 IDE 中打開本地磁盤上的項目。點擊 “Download Code” 按鈕，用戶可將實現 AI 鏈的后臺代碼下載至本地磁盤，用于其他軟件項目。注意，執行下載的 AI 鏈代碼需要 sapperchain Python 庫（目前未開源）。

在“Recent Project”菜單，我們預裝了一個演示項目“Hui Xiao Shi”以便于大家上手學習。

用戶若想開源他的 AI 鏈項目，可將項目分享至 AI 鏈市場（正在開發）。IDE 提供了一個創意副駕駛員，根據任務需求和工作者提示為項目生成簡短描述和圖片。

現在，IDE 支持將 AI 鏈作為本地 Web 服務部署，便于手動部署到外部云服務器。后續我們將推出自動云服務部署功能。

IDE 功能演示教程

Prompt Sapper 的與眾不同之處

Prompt Sapper 受很多優秀項目和工具的啟發，比如 ChatGPT， AutoGPT， LangChain， no-code AI，以及大量 prompt engineering 文獻和工具。但我們與眾不同之處在于以下三點：

人與 AI 交互光譜

1. 強調人工智能和人類用戶之間的協作智能。如上圖所示，它通過 AI 鏈無縫地將人類智能與人工智能融合，有效地解決復雜問題并實現共同目標。這種協作智能促進了整體效率的提高，降低了錯誤率，并賦予了人類用戶充分利用人工智能潛力的能力。這種獨特的方法使 Prompt Sapper 區別于現有的人類驅動的對話機器人（例如 ChatGPT）和以人工智能為主導的代理框架（例如 AutoGPT），凸顯了它的創新和獨特的價值主張。

2. 對計算和編程技能的更低要求。Prompt Sapper 顯著降低了創建符合用戶需求的復雜人工智能服務的門檻。它引入了一套基于 LLM 的虛擬產品經理、架構師和提示工程師，以幫助用戶獲取領域知識、分析任務要求并構建 AI 鏈。此外，Prompt Sapper 提供直觀且用戶友好的界面，使用戶可以輕松地與人工智能進行交互，并在不需要高級計算或編程技能的情況下原型化 AI 功能。這種方法擴大了從人工智能進步中受益的人群，突顯了 Prompt Sapper 在人工智能領域中的獨特地位。

3. 系統的 AI4SE4AI 框架。Prompt Sapper 高度重視軟件工程和人工智能的緊密集成，致力于創建一個系統化的 AI4SE4AI 框架。在這個框架內，Prompt Sapper 利用人工智能技術，顯著提高軟件工程過程的效率，例如需求分析、AI 鏈設計、構建和測試。同時，Prompt Sapper 遵循和擴展了軟件工程的最佳實踐，以適應由 AI 2.0 和軟件 3.0 推動的新軟件環境。這個 AI4SE4AI 框架不僅大大提高了人工智能服務的開發效率和項目質量，還支持靈活的服務重用和組裝，以及持續改進和優化人工智能服務，以滿足不斷變化的需求。

下面表格總結了 Prompt Sapper 與重要相關技術的對比，詳情請參閱我們的文檔（https://www.aichain.online/public/content%20pages/sappervsothers.html）

AutoGPT vs. Prompt Sapper

LangChain vs. Prompt Sapper

No-code AI vs. Prompt Sapper

Prompt Engineering vs. Prompt Sapper

展望未來

我們處于一個令人激動的 AI 和軟件工程信息時代，我們共同見證著科技進步如何改變世界。Prompt Sapper 攜手基礎模型和軟件工程，將不斷探索 AI 鏈工程的最佳實踐和方法學，推動著 AI 鏈工程的發展和普及。我們計劃采用 “走出去” 和 “引進來” 的方式來打通 AI 鏈開發和終端用戶之間的最后一公里，將 AI 鏈工程方法學、工具和實踐帶給更多的開發者和用戶，并推動 AI 服務市場和生態系統的發展。我們相信，AI 鏈工程將會成為未來的核心技術之一，廣泛應用于各個領域和行業，為人類創造更多的價值和福利。我們可以想象到，AI 鏈將能夠幫助我們更快速地解決問題，提高工作效率，提供更加個性化的服務，同時推動社會經濟邁向更加智能化的未來。

參考：

項目鏈接： https://github.com/AI4FutureSE

AI 鏈主網站： https://www.aichain.online/

Sapper IDE： https://www.promptsapper.tech/

AI 服務市場：https://www.aichain.store/

審核編輯 ：李倩