減小尺寸、重量和功耗 (SWaP) 的要求也影響著人工智能 (AI) 和機(jī)器學(xué)習(xí) (ML) 設(shè)計(jì)。
“將商業(yè)和消費(fèi)者人工智能加速器硬件技術(shù)轉(zhuǎn)化為軍用/航空平臺(tái)通常需要的可部署、堅(jiān)固耐用、尺寸、重量和功率(SWaP)受限的系統(tǒng)”是一項(xiàng)挑戰(zhàn),Abaco Systems(阿拉巴馬州亨茨維爾)首席軟件工程師David Tetley說(shuō)。
減少的SWaP往往與基于云的解決方案沒(méi)有協(xié)同作用,這些解決方案似乎具有無(wú)窮無(wú)盡的虛擬空間供應(yīng)。
不幸的是,現(xiàn)實(shí)情況是“許多軍事系統(tǒng)都受到SWaP的限制,這挑戰(zhàn)了當(dāng)今AI / ML解決方案的假設(shè),”風(fēng)河(加利福尼亞州阿拉米達(dá))航空航天與國(guó)防副總裁Ray Petty解釋說(shuō)。“當(dāng)今的解決方案通常是在云或企業(yè)環(huán)境中開發(fā)的,假設(shè)可用連接(如帶寬和延遲)以及可用的計(jì)算資源(如可擴(kuò)展性、內(nèi)存和 CPU 靈活性)。
另一個(gè)挑戰(zhàn)是管理可能非常耗費(fèi)資源的 ML 系統(tǒng)的資源。
值得慶幸的是,“我們看到最近獲得大量報(bào)道的大多數(shù)深度學(xué)習(xí)ML系統(tǒng)在訓(xùn)練時(shí)都是非常資源密集型的,但在運(yùn)行時(shí)并不是特別密集,”Charles River Analytics首席科學(xué)家Avi Pfeffer說(shuō)。“這意味著如果它們非常適合該問(wèn)題,它們是降低SWaP系統(tǒng)的不錯(cuò)選擇;也就是說(shuō),有足夠的數(shù)據(jù)來(lái)訓(xùn)練他們。
然而,在設(shè)計(jì)傳統(tǒng)上受SWaP約束的ML / AI密集型系統(tǒng)(如飛機(jī))時(shí),空間成為一個(gè)問(wèn)題。
“我們一直致力于將人工智能應(yīng)用于構(gòu)建安全系統(tǒng),例如用于檢測(cè)我們?yōu)榭哲娧芯繉?shí)驗(yàn)室建造的飛機(jī)航空電子系統(tǒng)中運(yùn)行的惡意軟件的系統(tǒng),”Charles River Analytics(馬薩諸塞州劍橋)的首席科學(xué)家Terry Patten說(shuō)。“我們發(fā)現(xiàn),有關(guān)系統(tǒng)運(yùn)行狀況的最佳信息來(lái)源之一,也是實(shí)時(shí)攻擊中緩解資源的最佳來(lái)源之一,是冗余,這對(duì)于減少SWaP的系統(tǒng)來(lái)說(shuō)是有問(wèn)題的。
在管理 SWaP 約束時(shí),加固也可能很棘手。
“尺寸可能是最具挑戰(zhàn)性的制約因素之一,因?yàn)榇笮驮O(shè)備比小型設(shè)備更難加固,”Mercury Systems(馬薩諸塞州安多弗)首席產(chǎn)品經(jīng)理Devon Yablonski說(shuō)。“大多數(shù)經(jīng)過(guò)高振動(dòng)測(cè)試并以BGA形式提供的嵌入式部件都是低功耗部件,它們犧牲了其‘全尺寸’對(duì)應(yīng)物的許多功能,而這些功能正是這些新的ML和AI應(yīng)用程序所期望的功能。例如,當(dāng)今許多處理器上的高帶寬內(nèi)存(HBM)無(wú)法很好地處理高溫,因此在嵌入式芯片上并不常見。對(duì)內(nèi)存的高速訪問(wèn)對(duì)于ML和AI應(yīng)用程序至關(guān)重要。
問(wèn)題在于,用戶無(wú)法“在SWaP受限的系統(tǒng)中部署廣泛用于AI的高功率,服務(wù)器級(jí)CPU和GPU,因此我們需要使用移動(dòng)級(jí)設(shè)備[因?yàn)樗鼈兊墓母停嵩O(shè)計(jì)更低],”Tetley解釋說(shuō)。“理想情況下,這些設(shè)備包括特定的AI加速功能,可提供出色的每瓦IOPS [每秒推理操作]。這方面的一個(gè)例子是 NVIDIA 圖靈類 GPU 和 NVIDIA Xavier SoC [片上系統(tǒng)] 上的深度學(xué)習(xí)加速器。此外,您需要確保通過(guò)使用 NVIDIA 的 TensorRT 等工具高度優(yōu)化您部署的神經(jīng)網(wǎng)絡(luò)(或“推理引擎”)。這確保了軟件針對(duì)目標(biāo)嵌入式硬件架構(gòu)進(jìn)行了理想優(yōu)化,從而盡可能高效地運(yùn)行。
通常,SWaP 要求與許多 ML 模型和解決方案不兼容。
Petty補(bǔ)充說(shuō),同樣重要的是要注意,“許多軍事系統(tǒng)的SWaP約束與這些假設(shè)不兼容,需要重構(gòu)AI / ML解決方案。“然而,重構(gòu)與AI / ML解決方案對(duì)工業(yè)控制,醫(yī)療和汽車等其他市場(chǎng)的適應(yīng)是一致的,并且解決方案可以跨領(lǐng)域利用。
當(dāng)然,在商業(yè)領(lǐng)域,人工智能/媒介與信息素養(yǎng)領(lǐng)域的統(tǒng)治君主“是世界上的Facebook、谷歌和亞馬遜,”Yablonski說(shuō)。“他們對(duì)最小化尺寸、重量和功耗的要求有限,除了如果可以減少其中任何一個(gè),他們可以構(gòu)建更高效的數(shù)據(jù)中心。英特爾、英偉達(dá)、AMD等芯片供應(yīng)商迎合了這些市場(chǎng)。盡管追求很重要,但防御的數(shù)量要低得多。要從商業(yè)領(lǐng)域獲得高性能芯片和產(chǎn)品,這些芯片和產(chǎn)品在我們的市場(chǎng)上具有生存能力,并考慮到功率限制(每臺(tái)計(jì)算機(jī)通常為100-200瓦)和尺寸限制,這是一項(xiàng)挑戰(zhàn)。
審核編輯:郭婷
-
人工智能
+關(guān)注
關(guān)注
1792文章
47442瀏覽量
239004 -
機(jī)器學(xué)習(xí)
+關(guān)注
關(guān)注
66文章
8425瀏覽量
132774
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論