作者:京東科技 賈玉龍
1 背景
1.1 現狀
AIGC系統中多個模型的切換調用通常指的是在同一個AIGC系統或應用中,可以根據不同的輸入條件或任務需求,動態地選擇并調用不同的機器學習模型進行處理。是一個AIGC系統能力不可或缺的環節。
目前現行方案中,一般直接請求不同的會話聊天對應不同的鏈接地址,又對應不同的算法模型。
1.2 現有技術及缺點
1、需要建立多個不同類型的AIGC聊天窗口,對應不同的鏈接,以對應不同的模型;
2、無法直接動態切換模型,交互流程復雜;
3、由于異步問題,聊天窗中需要的初始化數據不能及時傳入。
2 方案目的
本問通過統一AIGC聊天窗中不同的卡片模型傳值,來動態切換不同聊天內容對應的模型;在用戶側交互上可以不用新建聊天窗口。
3 完整技術方案
3.1 方案原理
如下圖所示,聊天欄目“智能實驗室”是外框DOM,紅色部分為子聊天窗體,子窗體中1、2、3等為三種聊天source類型的卡片,需要對應算法的3種模型,每個模型的對話可以直接點擊切換,并且需要外框DOM傳入相應的初始化數據。
3.2 詳細描述
如下圖所示:
當用戶想使用對應聊天功能進行AIGC內容生成時,可選擇聊天窗對應按鈕,聊天窗將對應按鈕的source類型傳給外框DOM,外框DOM根據業務場景把對應的初始化數據準備好,一起再發給子聊天窗,然后把數據傳給算法模型引擎,算法模型引擎根據source及參數類型,切換對應的模型來進行內容處理,然后返回生產的內容給子聊天窗,子聊天窗再渲染展示給用戶。
4 總結
本方案里在AIGC的消息傳遞中,不直接發送不同初始化或不同相應消息給大模型進行識別,而是讓外框DOM做模型主調度和消息總控調度,以方便及時調用和傳入參數。
審核編輯 黃宇
-
模型
+關注
關注
1文章
3243瀏覽量
48836 -
AIGC
+關注
關注
1文章
362瀏覽量
1543
發布評論請先 登錄
相關推薦
評論