AI,特別是生成式AI已經成為科技圈最熱門的話題之一。ChatGPT、Midjourney、NewBing、Stable Diffusion、Firefly AI、文心一言、360智腦、通義千問……你就算沒有用過這些熱門的AI工具,至少也在朋友圈、微博以及其它互聯網平臺看到過關于它們的資訊。目前生成式AI已經在全球范圍內引起了廣泛且熱烈的關注和討論,各行各業的未來,幾乎都在向著AI領域前進。
對于x86陣營的筆記本電腦來說,AMD今年率先推出Ryzen AI引擎,也率先帶領銳龍筆記本電腦進入AI時代。那么問題來了,和普通筆記本相比,AI筆記本能帶來怎樣的體驗呢?
Ryzen AI:AI筆記本的性能基石
從廣義上來講,AI涵蓋了機器學習、深度學習、自然語言處理、計算機視覺等多個領域,實現它們的手段主要是依靠機器學習訓練和推理。一般來講,很多機器學習引擎和模型都能在CPU和GPU上運行,但對于筆記本平臺來說,如果讓CPU或者GPU來處理機器學習訓練和推理任務,那么CPU或者GPU就會長期處于高負載狀態,這樣一來筆記本將更費電,而且效率也很低。因此把機器學習訓練和推理交給更專業的“角色”來做會是一個更合理的解決方案,而這個“角色”就是獨立的AI引擎。
AMD率先邁出第一步,它在今年1月份就為x86處理器首次帶來了Ryzen AI,這個集成在銳龍7040系列移動處理器中的AI引擎專為AI運算而生。英特爾要在第14代筆記本酷睿Meteor Lake處理器中才會內置一個神經網絡計算引擎NPU,也就是要等到下一代才會有類似的設計。
Ryzen AI基于專門設計的AMD XDNA AI架構,其核心是多個獨立的AIE單元,而且與傳統的CPU多核運算相比,XDNA AI架構有多個獨立的內存電壓單元、對應的內存控制器并擁有獨立的高速互連通道,所以它在進行AI推理時更加靈活,效率更高,性能也更強。
Ryzen AI支持不同的AI神經網絡,比如CNN(卷積神經網絡)、RNN(循環神經網)、LSTM(長短時記憶)等。此外,它還支持Int8/16/32、BFloat16等各種高級數據類型,同時它還具備實時多任務能力,可處理最多4條并發空間流,這意味著它能夠同時處理多個AI任務,提供更高的處理效率。
Ryzen AI是AMD銳龍筆記本的AI性能基石,它在筆記本平臺主要負責輕量級的AI推理工作負載,包括音頻、視頻和圖像處理等任務,能夠比CPU或GPU更高效地執行這些任務,并顯著降低延遲。要知道目前很多AI計算和應用都是通過云端AI服務器或者本地GPU來實現的,而現在有了x86處理器專屬的Ryzen AI,意味著很多AI計算可以在非獨顯筆記本的端側就能完成。對于筆記本平臺來說,Ryzen AI有著出色的能效比和高算力,它能夠為CPU或者GPU分憂,發揮自己高能效的優勢。
輕薄本AI應用體驗對比
在筆記本中加入Ryzen AI有什么用?實際上Ryzen AI主要的任務是處理AI推理與運算,所以在不少專用的場景以及常見的應用場景中,它能夠發揮自己的優勢。比如,Ryzen AI能夠進行自然語言處理,使筆記本能夠解讀、處理和理解人類語言。在圖像和視頻處理方面,Ryzen AI也能快速高效地處理圖像和視頻數據,完成諸如更換背景、消除噪音、人臉識別、圖像分類、圖像修復等任務。
目前,AMD已經和微軟進行合作,借助Windows Studio Effects來提升Windows系統中關于攝像頭的體驗。具體來說,Windows Studio Effects可讓用戶將某些濾鏡和效果應用到系統底層的攝像頭和麥克風上,以改善用戶在視頻通話期間的外觀和聲音,它們需要神經處理單元提供支持。
▲Ryzen AI筆記本支持Windows Studio Effects(左)和不支持該效果的普通筆記本(右)。
在支持Ryzen AI的筆記本上,我們可以快速啟用Windows Studio Effects。最簡單的方法就是單擊通知區域圖標組打開快捷設置,選擇“工作室效果”。在默認情況下,你會先看到相機效果。此時你可以方便地對相機效果(背景虛化、眼神交流、自動取景)進行設置。當然,你也可以直接在系統的相機設置中啟用Windows Studio Effects,這里的設置項目更加豐富、細致。我們對比一下其他沒有配備Ryzen AI的筆記本就能看到,它的相機設置中沒有背景虛化、眼神交流、自動取景等功能,這類筆記本如果要使用這些功能,或許只有借助第三方軟件才行——而這無疑會增加系統負載,并影響續航。
有了系統底層上的功能支持,就算原生不支持任何視頻效果的軟件(比如TIM)也能在系統開啟相應功能之后,得到背景模糊、眼神接觸、自動取景等效果。這些基于Windows的高級功能可以在搭載AMD銳龍7040系列處理器和Ryzen AI的筆記本電腦上直接使用,但目前的酷睿筆記本上則不能使用。
輕薄本AI性能對比測試
除了AI應用上的不同體驗之外,普通筆記本和具有Ryzen AI功能的筆記本在AI性能上有多大的差距呢?我們通過兩臺集顯輕薄本來簡單對比一下。AMD平臺方面,我們選擇聯想YOGA Air 14s 2023來測試,這臺機器搭載聯想定制的AMD銳龍7 7840S處理器。這款處理器基于Zen 4架構,采用4nm先進制造工藝,配備8核心16線程,最大加速頻率達到5.1GHz,內置Ryzen AI。同時,這款處理器還內置采用RDNA 3架構的Radeon 780M顯卡。
聯想YOGA Air 14s 2023是一款14.5英寸的輕盈本,機身采用輕薄化設計,薄約13.9mm,輕至1.28kg。這臺機器采用2944×1840分辨率的PureSight超感OLED屏幕(支持觸控),屏幕刷新率達到90Hz,并支持100% DCI-P3色域。此外,這臺機器還配備70Wh電池,電池續航支持全天候辦公9.5小時。接口方面,這臺機器也十分齊全,它配備兩個全能的USB4接口、一個全功能USB-C 3.2接口以及一個3.5mm二合一音頻接口,不管是外接多臺顯示器還是鼠標鍵盤,都能滿足用戶的需求。
對比的英特爾平臺,我們選擇一款搭載酷睿i7-13700H的14英寸輕薄本,酷睿i7-13700H處理器采用混合架構,采用Intel 7生產工藝,配備14核心20線程,最大睿頻頻率達到5.0GHz,這款處理器內置頻率為1.5GHz的英特爾銳炬Xe核顯,其配備96個EU執行單元??犷7-13700H與銳龍7 7840S處理器最大的不同在于酷睿處理器沒有專門的AI引擎。此外,對比的兩個平臺都采用32GB雙通道內存以及1TB PCIe 4.0 SSD。
理論AI性能方面,我們主要通過UL AI Inference Benchmark來測試,該軟件囊括了Mobile Net V3、Inception V4、YOLO V3、DeepLab V3、Real-ESRGAN和ResNet 50等神經網絡模型,支持Microsoft Windows ML、Qualcomm SNPE、英特爾OpenVINO和NVIDIA TensorRT等4種SDK,非常權威和專業。
從測試成績統計圖可以看到,在Microsoft Windows ML測試場景下,Ryzen AI加持的銳龍7 7840S平臺在Float32精度下的CPU測試分數為107分,相對于酷睿i7-13700H平臺的99分,領先大約8%。我們知道GPU也能進行AI推理和運算,所以再來看看這兩款處理器內置的集顯的表現。用集顯來進行測試的話,可以看到銳龍7 7840S內置的Radeon 780M顯卡得到227分,這樣的成績領先酷睿i7-13700H內置的銳炬Xe集顯大約104%,Radeon 780M顯卡在AI推理和運算中的表現可以說非常出色。從這個測試其實也能看到,無論是CPU還是集顯,有著Ryzen AI加成的銳龍7 7840S的AI性能都全面領先于酷睿i7-13700H。
最后再來看看兩個平臺在實際應用中的表現。知名AI應用廠商Topaz Labs旗下的 Topaz Photo AI、Topaz Video AI等軟件已經加入了對Ryzen AI的支持,我們本次通過Topaz Photo AI來測試,Topaz Photo AI主要使用AI技術來分析和增強圖像,它可以消除照片噪點、放大照片并提高整體質量。
Topaz Photo AI軟件已經加入了對Ryzen AI的支持,不過由于Ryzen AI集成在CPU中,不會被軟件單獨識別出來,所以本次對比測試時我們統一在軟件中設置為使用CPU加速,然后將一張3840×2466分辨率的圖片進行放大6倍并用AI來清除照片噪點,最后來看兩個平臺進行這兩項操作的總耗時,耗時越短表明其越高效。
可以說最終的測試結果令人大吃一驚。將一張3840×2466分辨率的圖片放大6倍并清除照片噪點,有著Ryzen AI加成的銳龍7 7840S平臺僅耗時10秒就完成了操作,速度非常之快。要知道原始圖片僅1.65MB大小,放大之后的圖片達到40.9MB,分辨率達到23040×14796。對于如此龐大的工作量,銳龍7 7840S平臺幾乎眨眼間就完成了。相反,沒有任何AI引擎加成的酷睿i7-13700H平臺,完成這個操作需要98秒,妥妥的是純CPU在干活,效率非常低。
Stable Diffusion WebUI繪圖測試
要說目前最火的AI應用,除了各種在線的大模型生成式對話工具之外,以Stable Diffusion為代表的生成式AIGC工具更是受到大家的廣泛追捧。與各類在線AI出圖的工具相比,Stable Diffusion擁有出色的高自由度,同時也擁有大量免費的資源,部署在筆記本本地的話,在安全性、私密性、便捷性上也有保障。在Stable Diffusion本地AI出圖加速方面,GPU相比CPU有著更大的優勢,對于搭載集顯的輕薄本而言,這主要考驗不同平臺的集顯性能。那么對于Stable Diffusion本地AI出圖,銳龍7 7840S輕薄本和酷睿i7-13700H輕薄本誰的效率更高呢?我們來實戰比拼一下。
AUTOMATIC1111的Stable Diffusion WebUI支持通過DirectML調用集顯來加速,因此我們用秋葉aaaki的Stable Diffusion 4.4整合包來測試。在整合包的啟動器中,我們可以單獨選擇Radeon 780M和銳炬Xe顯卡進行加速。在測試中,我們采用墨幽1050 2G模型,具體設置為迭代步數:20、采樣器:DPM++ 2M Karras、CFG scale:7、圖片分辨率:512×512。
▲Radeon 780M只用57秒就完成了一個批次單圖的生成。
從測試結果來看,銳龍7 7840S處理器內置的Radeon 780M顯卡有著出色的表現,用它進行加速,Stable Diffusion WebUI完成一批次單張圖片的生成只用了57秒,而酷睿i7-13700H處理器內置的銳炬Xe顯卡則需要3分鐘9秒才能完成,差距非常大,大大出乎我們的預料。由此可見Radeon 780M在Stable Diffusion WebUI中的表現十分出色。另外,如果我們設置為一個批次連續生成5張圖的話,Radeon 780M僅耗時4分鐘51秒就完成了任務,而銳炬Xe平臺則根本無法完成任務,因為測試時程序直接報錯崩潰了。由此可見,在Stable Diffusion本地出圖應用中,Radeon 780M的效率遠高于銳炬Xe,而且它還有更好的穩定性和可靠性。對于集顯輕薄本用戶來說,如果你在平時或者工作中需要使用Stable Diffusion,又或者想要嘗嘗鮮,那么銳龍本才是更好的選擇。
雙管齊下 輕薄本的AI體驗還得看銳龍
今年以來,大模型和生成式AI已經成為科技領域最新的風口!科技公司如果不談AI,就像落后了幾個時代?;氐絇C領域,此前可能很多人認為筆記本,特別是輕薄本無法勝任AI方面的工作。
▲Topaz Photo AI軟件支持調用Ryzen AI引擎來完成AI工作
隨著Ryzen AI的到來,AMD為我們打開了AI筆記本新世界的大門。在Ryzen AI的加成下,銳龍AI筆記本已經能在視頻會議方面帶來更出色的體驗,也能在Topaz Photo AI、Topaz Video AI等AI應用中帶來更高的效率,相信在未來也會有越來越多的應用加入AI功能,并加入對Ryzen AI的支持。
另一方面,從我們的Stable Diffusion WebUI測試也能看到,銳龍7040系列移動處理器內置的RDNA 3顯卡同樣能提供出色的本地AI加速性能,它在Stable Diffusion WebUI中的出圖效率遠遠領先于銳炬Xe顯卡,而且連續出圖的穩定性和可靠性也更好。這就是說除了專用于AI加速的Ryzen AI,AMD在輕薄本上還有性能強大的RDNA 3 GPU。這個組合讓銳龍輕薄本具備了全面AI加速的能力。
如果說AI是筆記本發展的未來,那么從兼容下一代軟件的角度以及AI實際體驗的角度來看,雙管齊下的銳龍AI筆記本已經擁有很好的先發優勢,這是競爭對手目前還無法與之相比的??梢哉f,現階段的輕薄本AI體驗,還得看銳龍!
-
amd
+關注
關注
25文章
5485瀏覽量
134415 -
cpu
+關注
關注
68文章
10898瀏覽量
212532 -
筆記本電腦
+關注
關注
9文章
1415瀏覽量
48472
原文標題:輕薄本AI應用深度測試,銳龍7 7840S大戰酷睿i7-13700H
文章出處:【微信號:Microcomputer,微信公眾號:Microcomputer】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論