近年來，大規(guī)模深度神經(jīng)網(wǎng)絡(luò)的顯著成就徹底改變了人工智能領(lǐng)域，在各種任務(wù)和領(lǐng)域展示了前所未有的性能。這些高度復(fù)雜的模型，通常具有數(shù)百萬甚至數(shù)十億個參數(shù)，在計算機(jī)視覺、自然語言理解和語音識別等領(lǐng)域表現(xiàn)出了卓越的能力。

本文提出了廣義LoRA(GLoRA)，一種通用參數(shù)高效微調(diào)任務(wù)的先進(jìn)方法。增強低秩適應(yīng)(LoRA)，GLoRA采用廣義提示模塊優(yōu)化預(yù)訓(xùn)練模型權(quán)重并調(diào)整中間層激活函數(shù)，為不同的任務(wù)和數(shù)據(jù)集提供更大的靈活性和能力。

GLoRA源于統(tǒng)一的數(shù)學(xué)公式，具有較強的transfer learning、few-shot learning和domain generalization能力，其通過權(quán)值和激活的附加維度調(diào)整到新任務(wù)。

實驗表明，GLoRA在自然、專業(yè)和結(jié)構(gòu)化基準(zhǔn)測試中優(yōu)于所有以前的方法，在各種數(shù)據(jù)集上以更少的參數(shù)和計算實現(xiàn)了更高的準(zhǔn)確性。此外，結(jié)構(gòu)重新參數(shù)化設(shè)計確保GLoRA不需要額外的推理成本，使其成為資源有限應(yīng)用程序的實用解決方案。

GLoRA

簡介

本文首先對現(xiàn)有最先進(jìn)的PEFT方法進(jìn)行數(shù)學(xué)概述，分析了它們的優(yōu)缺點。然后，引入了一個整合所有現(xiàn)有SOTA PEFT方法的統(tǒng)一公式，并根據(jù)統(tǒng)一公式的觀點詳細(xì)闡述了所提出的廣義LoRA。然后，提出了一種結(jié)構(gòu)重新參數(shù)化設(shè)計，以在不增加額外成本的情況下顯示推理效率。為了實現(xiàn)廣義LoRA的目標(biāo)，還引入了最優(yōu)分層配置的進(jìn)化搜索，進(jìn)一步對所提出的方法的更高性能進(jìn)行了理論分析和討論。

已有方法及其局限性

Visual Prompt Tuning(VPT) ：VPT將少量特定于任務(wù)的可學(xué)習(xí)參數(shù)引入輸入空間，同時在下游微調(diào)期間凍結(jié)整個預(yù)先訓(xùn)練的Transformer主干。VPT提出了兩種策略：VPT-Shallow和VPT-Deep。

VPT-Shallow策略如下：其中P是可訓(xùn)練的提示。x是[CLS]token，E是圖像paches。VPT-Deep策略如下：VTP-Deep在大多數(shù)視覺任務(wù)上都優(yōu)于完全微調(diào)，在低數(shù)據(jù)狀態(tài)下也有更好的準(zhǔn)確性。

AdaptFormer：AdaptFormer在MLP塊上引入了兩個線性層的并行可學(xué)習(xí)分支和ReLU，并在暫停其他部分的同時僅學(xué)習(xí)該路徑。

LoRa：LoRA方法凍結(jié)預(yù)訓(xùn)練模型權(quán)重并將可訓(xùn)練的低秩分解矩陣注入每一層。只從預(yù)訓(xùn)練的權(quán)重中學(xué)習(xí)殘差。在GPT-2模型家族上與prompt learning、adapters等相比，實現(xiàn)了SOTA性能。

Scaling & Shifting Features (SSF) ：SSF模塊在訓(xùn)練過程中對所有的MLP、MHSA、Layernorm模塊進(jìn)行特征縮放和移位，并在推理過程中進(jìn)行重新參數(shù)化，其是一個線性結(jié)構(gòu)。

FacT：FacT提出使用張量分解方法來存儲額外的權(quán)重，將模型的權(quán)重張量化為單個3D張量，然后將其相加分解為輕量級因子。在微調(diào)中，只有因子會被更新和存儲。FacT有兩種方式：其中LoRA中的ΔW被分解為U、V和Σ。其中LoRA中的ΔW被分解為U、C、P和V。

RepAdapter：RepAdapter將輕量級網(wǎng)絡(luò)插入到預(yù)先訓(xùn)練的模型中，并且在訓(xùn)練后，額外的參數(shù)將被重新參數(shù)化為附近的投影權(quán)重。將順序適配器添加到MHA和MLP中，適配器是線性的，因此可以重新參數(shù)化，并且有兩層：下采樣密集FC層以下采樣輸入；對劃分為組的下采樣特征進(jìn)行上采樣，并且每個組都具有上采樣層。上采樣層組可以合并為單個稀疏上采樣層，并且可以直接重新參數(shù)化為原始MLP或MHSA。

局限性：許多現(xiàn)有的PETL方法，例如(VPT, Adapter)會增加推理時間，因其提出的結(jié)構(gòu)無法重新參數(shù)化。直接提示調(diào)優(yōu)也很難設(shè)計，帶來了計算負(fù)擔(dān)，并且需要超參數(shù)調(diào)整，即如何以及在哪里放置提示。LoRA在推理時可以重新參數(shù)化，但它不能擴(kuò)展到更大的矩陣，并且適應(yīng)能力受到權(quán)重空間的限制。SSF/RepAdaptor無法學(xué)習(xí)到權(quán)重的變化，即權(quán)重空間中的ΔW，而LoRA/FacT不能有效地學(xué)習(xí)特征變化的縮放和移動，即特征空間中的ΔH。在從大型模型執(zhí)行遷移學(xué)習(xí)時，特征空間和權(quán)重空間都需要靈活性。因此本文在這項工作中提出的的改進(jìn)想法為：ΔW調(diào)整、ΔH調(diào)整以及W和H縮放和移位學(xué)習(xí)。

One-for-All unified formulation

對于模型微調(diào)，本文提出了一個統(tǒng)一的公式，包含所有可調(diào)維度，包括但不限于權(quán)重空間和特征空間。此外，們采用重新參數(shù)化策略在推理階段將輔助參數(shù)合并到相鄰?fù)队皺?quán)重中。從廣義上講，本文提出的方法是所有先前解決方案的超集，即一次性機(jī)制。通過將不同的支持張量設(shè)置為零，GLoRA可以簡化為這些先前方法中的任何一種。GLoRA體系結(jié)構(gòu)可以簡潔地表述為統(tǒng)一的數(shù)學(xué)方程。其中 A、B、C、D、E 是GLoRA中下游任務(wù)的可訓(xùn)練張量，W0和b0在整個微調(diào)過程中被凍結(jié)。A用于縮放權(quán)重，B的作用是縮放輸入并移動權(quán)重，C服務(wù)于VPT-Deep、D和E表示逐層提示，分別用于縮放和移動偏差。具體流程如下圖所示：

Prompt Modules-提示模塊

prompt modules描述了為 A、B、C、D、E 設(shè)計分層適配器或提示模塊的方法。從某種意義上說，這些可以采用scalars, vectors,low-rank decompositions, or none形式。基于這些可訓(xùn)練支持張量的作用，可分為以下幾類：這種權(quán)重糾纏策略有助于在不增加參數(shù)數(shù)量的情況下增加搜索空間，并且由于不同子網(wǎng)中的權(quán)重共享，也顯示出更快的收斂

結(jié)構(gòu)重新參數(shù)化設(shè)計與推理效率分析

實現(xiàn)重新參數(shù)化的基本方面是消除相鄰變換中的非線性，從而允許將補充參數(shù)吸收到前面的參數(shù)中。去除這種非線性層不會對網(wǎng)絡(luò)的性能產(chǎn)生不利影響。GLoRA重新參數(shù)化策略如下：在GLoRA中最終統(tǒng)一訓(xùn)練的權(quán)重和偏差。根據(jù)等式對它們進(jìn)行重新參數(shù)化：因此，重新參數(shù)化策略將可學(xué)習(xí)參數(shù)集成到相鄰?fù)队皺?quán)重中，其可能是有利的，因為在推理階段不會產(chǎn)生額外的計算成本。

最優(yōu)分層配置的進(jìn)化搜索

對統(tǒng)一適配器的設(shè)計是在每層的基礎(chǔ)上實現(xiàn)的，其允許跨不同層的異構(gòu)性。為了確定每一層的最佳配置，采用了進(jìn)化搜索方法，它提供了效率和有效性的平衡。盡管這種搜索過程會導(dǎo)致訓(xùn)練時間的增加，但值得注意的是，現(xiàn)有工作需要進(jìn)行廣泛的超參數(shù)搜索。此外，本文使用權(quán)重共享策略，其中為每個支持張量定義單個矩陣，并且根據(jù)分量，對子矩陣進(jìn)行索引并應(yīng)用于當(dāng)前訓(xùn)練迭代，這允許更好的參數(shù)效率，因為最大的權(quán)重共享是在子網(wǎng)中完成的。

具有更高容量的GLoRA

模型能力是指模型近似各種函數(shù)的能力。調(diào)節(jié)學(xué)習(xí)算法的能力的方法包括選擇一個適當(dāng)?shù)募僭O(shè)空間，本質(zhì)上是一組函數(shù)，學(xué)習(xí)算法被允許考慮作為潛在的解決方案。本文使用Vapnik-Chervonenkis維數(shù)(VC維數(shù))進(jìn)行統(tǒng)計算法的容量和復(fù)雜性的度量。其定義如下所示

實驗

本文在VTAB-1K基準(zhǔn)上對不同參數(shù)計數(shù)的GLoRA進(jìn)行了全面評估。VTAB-1K包括19個圖像分類任務(wù)。任務(wù)分為三個領(lǐng)域：自然圖像；由遙感和醫(yī)學(xué)數(shù)據(jù)集組成的專門任務(wù)；以及專注于場景結(jié)構(gòu)理解的結(jié)構(gòu)化任務(wù)，如深度預(yù)測和方向預(yù)測等。為了測試少鏡頭微調(diào)性能，在五個細(xì)粒度視覺識別少鏡頭數(shù)據(jù)集上評估了GLoRA：Food101、OxfordFlowers102、StandfordCars、OxfordPets和FGVCAircraft。根據(jù)之前的工作，本文評估了shot為1、2、4、8和16下的結(jié)果。最后，為了展示GLoRA的領(lǐng)域泛化能力，在ImageNet上在shot為16設(shè)置下訓(xùn)練GLoRA，并在ImageNetV2、ImageNet Sketch、ImageNet-a和ImageNet-R上進(jìn)行測試。

VTAB-1K Dataset

通過訓(xùn)練三種不同的GLoRA超網(wǎng)配置，以改變可訓(xùn)練參數(shù)的數(shù)量。它們之間的區(qū)別僅在于搜索空間中的LoRA維度，該維度在最大模型中為8和4，在中間模型中為4和2，在最小模型中為2。本文方法中增加的參數(shù)靈活性允許在最終模型中進(jìn)行用戶定義的可訓(xùn)練參數(shù)計數(shù)。VTAB-1k基準(zhǔn)測試的結(jié)果如下表所示。將最先進(jìn)的參數(shù)有效遷移學(xué)習(xí)提高了2.9%，即使是最小的模型也大大優(yōu)于所有現(xiàn)有方法。值得注意的是，在與至少一個數(shù)據(jù)集上失敗的所有現(xiàn)有工作相比，GLoRA在數(shù)據(jù)集上表現(xiàn)有競爭力，證明了GLoRA的高泛化能力。GLoRA在VTAB-1k基準(zhǔn)測試中的19個數(shù)據(jù)集中的14個數(shù)據(jù)集中顯現(xiàn)出了最優(yōu)的性能，同時在其余數(shù)據(jù)集上也表現(xiàn)得很有競爭力。

Few-shot Learning

為了在數(shù)據(jù)可用性有限的情況下擴(kuò)展GLoRA的評估，將GLoRA在細(xì)粒度視覺識別數(shù)據(jù)集上的性能作為few-shot Learning，并將其與LoRA、Adapter、VPT和NOAH進(jìn)行比較。1、2、4、8和16的shot結(jié)果如下圖所示。GLoRA在大多數(shù)few-shot learning數(shù)據(jù)集中表現(xiàn)出卓越的功效，在參數(shù)計數(shù)相似的情況下，其性能始終大大優(yōu)于現(xiàn)有方法。有趣的是，在Flowers102數(shù)據(jù)集上，由于已經(jīng)非常出色的整體性能，所有方法都產(chǎn)生了相似的準(zhǔn)確度水平。在Food101數(shù)據(jù)集上，GLoRA的平均準(zhǔn)確度與NOAH相當(dāng)。可以觀察到的第一個子假設(shè)來看，在較高的shot場景下，平均性能提升變得更加明顯，然而，即使在較低的shot設(shè)置下，效果仍然顯著。

Domain Generalization

域外泛化能力對于大規(guī)模神經(jīng)網(wǎng)絡(luò)具有重要的價值。通過PETL方法微調(diào)的模型應(yīng)該表現(xiàn)出增強的域泛化能力，從而使它們更適用于現(xiàn)實場景。下表展示了GLoRA的域外泛化能力，其中單個ImageNet-1K微調(diào)的GLoRA模型經(jīng)過域外數(shù)據(jù)集的測試。與以前的研究對齊，與現(xiàn)有方法相比，域外性能顯著提高。與LoRA相比，GLoRA提高了100% (ImageNet-A)和50%(ImageNet-Sketch)的域外性能。

總結(jié)

本文提出了GLoRA，這是一種廣義參數(shù)高效的微調(diào)方法，它成功地證明了增強大規(guī)模預(yù)訓(xùn)練模型的微調(diào)和遷移學(xué)習(xí)能力的有效性。通過采用廣義低秩自適應(yīng)和重新參數(shù)化框架，GLoRA減少了微調(diào)所需的參數(shù)數(shù)量和計算量，使其成為實際應(yīng)用的資源高效和實用的方法。在各種任務(wù)和數(shù)據(jù)集上進(jìn)行的實驗證實了GLoRA優(yōu)于現(xiàn)有的PEFT技術(shù)，展示了其可擴(kuò)展性和適應(yīng)性。這項工作不僅有助于改進(jìn)大規(guī)模預(yù)訓(xùn)練模型的微調(diào)過程，而且還為未來的工作開辟了新的途徑，包括進(jìn)一步探索廣義低秩適應(yīng)技術(shù)、混合方法的開發(fā)以及搜索和優(yōu)化算法的改進(jìn)。這些領(lǐng)域的研究可能會繼續(xù)擴(kuò)大遷移學(xué)習(xí)在更廣泛的應(yīng)用中的可訪問性和效率。