您是否看過奧迪自動停車技術演示，轎車無需駕駛員干預，便可自動找到停車位并停泊。您是否使用Kinect控制器玩過Xbox 360游戲，或者剛剛咬下您從本地水果店購買的一塊上好的水果。如果有，那您可能就是Smarter視覺系統時代到來的見證人了。從最高級電子系統到普通蘋果，Smarter視覺技術影響著各種形式的產品。雖然當今各種系統已足以讓人稱奇，但一些專家預測未來10年，從汽車到工廠自動化、醫療、監控、消費、航空航天與國防的絕大多數電子系統，都將包含功能更加出色的Smarter視覺技術。

隨著Smarter視覺系統高級程度的提高，我們很可能有機會乘坐網絡化高速公路中川流不息的自動駕駛汽車。直覺外科等醫療設備令人驚訝的機器人輔助外科系統將進一步發展，可幫助外科醫生實施遠程外科手術。電視與網真將達到新的身臨其境及互動水平，而電影院、家庭及店鋪屏幕上顯示的內容則將迎合每個消費者的興趣，甚至是我們的情緒。

先進的視頻系統不但可增強和分析圖像，而且還可根據這些分析觸發行動，從而顯著控制了計算功能需求

Smarter視覺的賽靈思All Programmable解決方案處于這次革命的前沿。賽靈思以首款在單個芯片上整合ARM雙核CortexTM-A9 MPCORETM、可編程邏輯以及各種重要外設的器件ZynqTM-7000 All Programmable SoC為基礎，已推出一款工具與IP的支持性基礎架構，其將在實現這些視覺創新開發與加速交付的過程中發揮重要作用。該支持性基礎架構包含VivadoTM HLS（高級綜合）、全新IP Integrator工具、OpenCV（計算機視覺）庫、SmartCORETM IP以及專用開發套件。

賽靈思公司戰略及市場營銷高級副總裁Steve Glaser表示：“我們正在通過賽靈思All ProgrammableSmarter視覺技術幫助我們的客戶開創新一代更智能系統。在過去十年里，客戶已使用我們的FPGA為在其系統中使用的處理器上運行速度偏慢的功能提速。有了Zynq-7000 All Programmable SoC，處理器和FPGA邏輯將位于同一芯片上，這就意味著開發人員現在擁有一款非常適合更智能應用的硅芯片平臺。”

就器件支持而言，Glaser表示：“我們已使用由Vivado HLS、全新IP Integrator工具、OpenCV庫、SmartCORE IP以及開發套件組成的穩健開發環境為Zynq-7000 All Programmable SoC提供輔助。在這些Smarter視覺技術的幫助下，我們的客戶不但能夠跨越實現新一代設計，而且還可實現全新的效率水平，降低系統功耗，提升系統性能并大幅減少材料清單，從而可在提升盈利能力（因這些創新產品的推出步伐加快）的同時豐富生活，甚至挽救生命。”

從啞巴攝像機到Smarter視覺

更智能系統的根源是嵌入式視覺。根據迅速發展的行業組織“嵌入式視覺聯盟”（）的定義，嵌入式視覺融入了兩種新興技術：嵌入式系統（區別于使用處理器的計算機的任何電子系統）和計算機視覺（有時也叫機器視覺）。

嵌入式視覺聯盟創始人兼咨詢公司BDTI首席執行官Jeff Bier表示，嵌入式視覺技術已經給多個行業造成顯著的影響，因為這個領域的發展已經遠遠超越了電機驅動旋轉及變焦的模擬攝像機系統時代。Bier表示：“我們都已經在數字時代生活了一段時間，已經看到嵌入式視覺迅速從擅長于壓縮、存儲或者增強攝像頭拍攝內容觀感的早期數字系統，迅速發展成為如今能夠知曉拍攝內容的Smarter嵌入視覺系統。”

此外，先進的嵌入式視覺系統不僅能增強和分析圖像，而且還可根據那些分析觸發行動。由此，處理量及計算功能以及算法高級程度都得到了顯著提高。監控市場的快速發展就是這種顯著發展的最好例證。

二十年前，監控系統廠商競相提供得到機械系統強化的最佳透鏡，其可執行能夠實現更清晰、更寬廣視野的自動對焦和旋轉。這些系統基本上由通過同軸線纜連接模擬監控器的模擬視頻攝像機和安保人員監測的視頻錄制設備組成，其清晰度、可靠性以及因此而產品的有效性主要取決于光學設備與透鏡的質量以及監控攝像機播放內容的安保人員的盡職程度。

隨著嵌入式視覺技術的推出，監控設備公司開始使用基于數字技術的較低成本攝像頭。該數字處理技術為其系統帶來了卓越的特性，不但性能遠超基于透鏡的模擬系統，而且價格更為低廉。魚眼透鏡以及采用各種視覺專用算法的嵌入式處理系統顯著增強了攝像頭所生成圖像的質量。針對光照條件進行校正的技術可改善對焦、增強色澤和數字縮放觀測區域，無需使用機械電機控制來執行平移、傾斜和縮放，從而可進一步提高系統可靠性。數字信號處理系統實現了1080p以及甚至更高的視頻分辨率。

但可通過數字信號處理操縱的更清晰圖像只是開始。監控系統制造商已經開始使用先進程度大為改觀的像素處理技術開發更加高級的嵌入式視覺系統，其可在數字系統正在采集的高質量圖像上實時執行分析。這些最初的嵌入式視覺系統只能檢測具體的顏色、形狀和移動。該功能迅速發展成了具有下列功能的算法：可檢測某些事物是否跨越了攝像頭視野中的虛擬柵欄，確定圖像中的對象是否是一個人，以及鏈接到數據庫后甚至可識別是哪一個人。

可疑行為

最先進的監控系統所提供的分析功能能夠跟蹤受監測個體穿越安保網絡視野，甚至可跟蹤他們離開攝像頭視野后進入盲點，然后進入監控網絡的另一部攝像頭視野。視覺設計人員已經開發出一些此類系統，用于檢測異常或可疑移動。賽靈思工業、科學及醫療（ISM）事業部系統架構師Mark Timmons表示：“分析是當今監控市場最大的趨勢。它可克服人為錯誤，甚至取代細致的人工觀察及決策。可以想象，在火車站和運動賽事等擁擠的環境中，監控難度極大。所以如果有分析功能，發現過渡擁擠的危險情況或跟蹤表現有可疑行為或過激行為的個人，就會有明顯的優勢。”

為進一步增強這種分析功能，提升這些系統的有效性，監控以及眾多其它使用Smarter視覺技術的市場正在更多地使用“融合”架構，將攝像頭與熱成像、雷達、聲納以及光／激光探測與測距（LIDAR）等其它感測技術相結合。這樣系統可實現夜視功能，檢測熱溫／熱能簽名，或捕獲單憑攝像頭無法采集或無法看到的對象。該功能可顯著減少虛假檢測，實現更精確的分析。毫無疑問，技術融合和數據分析會提高復雜性，需求更為強大的分析處理能力。

Timmons提到，這個市場的另一大趨勢是執行所有此類復雜分析的產品都位于監控系統網絡的“邊緣”，即位于每一部攝像頭中，而不是由每一部攝像頭將其數據傳輸到中央大型機系統，再由大型機根據這些復饋進行更精細的分析。本地化分析功能會給整體安全系統增加靈活性，使系統中每個點都能夠更加迅速準確地執行檢測，因而如果攝像頭真正發現了切實的威脅，就可更迅速地向操作人員發出告警。

本地化分析功能意味著每個單元不僅需要更強大的處理功能來強化和分析其所發現的事物，而且還必須相當緊湊，并能夠整合高度集成的電子產品。并且由于每個單元都必須能夠可靠地與網絡其余部分通信，它還必須集成電子通信功能，進一步增大計算復雜性。這些監控單元逐漸通過無線網絡連接，成為更大規模監控系統的組成部分；而且這些監控系統正日益成為更大規模企業網絡乃至更大規模全球網絡的組成部分，如美國軍方全球信息網格（見賽靈思期刊第69期封面專題： ）。

這種高復雜性正出現在軍事和防務市場中的各個領域，從步兵頭盔到與中央司令部聯網的防務人造衛星，無所不包。可能更讓人驚嘆的是，Smarter視覺技術進入其它市場，提高生活質量與安全性的速度。

Smarter視覺成就完美蘋果

現在以蘋果為例。有沒有想過蘋果是怎么以如此良好的狀態進入你的雜貨店的？賽靈思工業科學及醫療業務部架構師Giulio Corradi表示，食品公司正在將最新更智能視覺系統用于食品檢驗流水線，將壞蘋果從好蘋果中篩選出來。Corradi表示，高速食品檢驗流水線上使用的第一代嵌入式視覺系統通常使用一個或多個攝像頭發現蘋果或其它農副產品表面上的瑕疵。如果嵌入式視覺系統發現有非正常色澤，該蘋果就會被打上標記／篩選出來進行進一步檢測，或者扔掉。

皮下檢測

但是如果在此之前的某個時候水果曾掉落過，但傷痕難以察覺會怎么樣呢？Corradi表示：“在某些情況下，掉落造成的損壞攝像頭可能難以發現，只能用肉眼查看。損壞可能實際位于蘋果的果肉中。所以一些Smarter視覺系統在攝像頭上整合了紅外傳感器，用以檢驗蘋果表皮下的損壞。發現受損蘋果，就可觸發機械分揀機將蘋果揀出流水線，以免其被包裝發往雜貨店。”如果沒有更智能融合視覺系統，損壞的蘋果會通過檢測。損傷會在蘋果擺放在雜貨店貨架上時變得明顯，這樣該水果可能就必須要扔掉了。一個壞蘋果會弄壞一堆蘋果。

此外，分析功能還可幫助食品公司判斷受損蘋果是否損傷不太大，還可轉入新的檢驗流水線，由另一套Smarter視覺系統判斷它是否適用于其它用途，如制作蘋果醬、果脯或者如果損傷太大，可用于堆制肥料。

Corradi表示，工廠車間是應用Smarter視覺的另一場合。越來越多的工廠使用機器人輔助技術或完全自動化機器人生產線幫助制造商根據不同任務更換機械設備。機器人周圍的傳統安全籠過于約束（或太小），無法滿足其制造不同產品系列的移動需求。

虛擬屏障可降低工廠安全事故，然而為什么不在游樂場、在我們家中的游泳池周圍或汽車上也安裝虛擬屏障呢？

故為保護工人的安全，同時也避免制約自動化工廠生產線的動作范圍，企業正在使用Smarter視覺建立安全系統。攝像頭和激光會豎立“虛擬柵欄或屏障”，如果有人在產品正在生產時過于靠近工廠生產線，其可向工作人員（和安全監測人員）發出告警聲。部分設施包含多相虛擬屏障系統，在有人跨越外部屏障時其將發出告警聲，然后在此人跨越第二道屏障、接近機器人時自動關閉整條生產線，以避免發生傷害事故。嵌入式視覺聯盟的Bier提到，這類虛擬屏障技術有廣泛的應用性。Bier說：“它對降低工廠安全事故數量能起到明顯的作用，然而為什么不在游樂場中，或是在我們家中的游泳池周圍，在轎車上也安裝上虛擬屏障呢？我想我們將很快看到大量虛擬屏障系統出現在我們的日常生活中。”

Smarter視覺技術可提升駕駛體驗

汽車是另一個全力推崇Smarter視覺的市場，其可實現更輕松、更安全的駕駛體驗。賽靈思汽車業務部系統架構師Paul Zoratti表示，高級駕駛員輔助系統（ADAS）就是使用包括Smarter視覺在內的遠程傳感技術的整體體現，其可輔助駕駛員安全駕駛（見賽靈思期刊第66期的封面專題， ）。

過去十年中的每一年中，汽車制造商不但會在其豪華車型中新增各類甚至更優異的駕駛員輔助特性，同時還在其運動車和標準車系列中實現了數量日漸增多的駕駛員輔助功能。盲點檢測、變道輔助、行人及標牌檢測等眾多此類功能會在感測到潛在危險情況時，向駕駛人員發出警告。汽車制造商最近推出的車型甚至還可提供更為高級的系統，如自動緊急制動和車道保持等。它們不僅可監測車輛環境，發現潛在問題，而且還可輔助駕駛員采取糾正措施，避免事故或減輕其嚴重性。

Zoratti指出，現今某些新型轎車裝配有四個攝像頭，分別位于車輛兩側及前后，可實現車輛周邊環境的360度不間斷環視。雖然第一代環視系統只是使用這些攝像頭為駕駛員提供圖像，但未來系統將融入更多的駕駛員輔助功能。使用這四個攝像頭和圖像處理分析功能，這些新一代系統不但可同步生成汽車鳥瞰圖，而且還可在遇到行人時警示潛在危險。此外，在汽車以更高速度行進時，其可使用車身側面及后面的攝像頭進行盲點檢測、輔助變道，并在偏離車道時告警。在擋風玻璃后新增一個前視攝像頭，可支持交通標識識別和前方碰撞告警功能。最后，當駕駛員抵達目的地，并啟動自動停車時，系統將使用這些攝像頭及其它傳感器幫助汽車半自動駛入停車位。

Zoratti還表示，實時執行這些任務需要大量的處理功能，這恰好是并行硬件計算的長處。這就是為什么許多早期駕駛員輔助系統將獨立微處理器與FPGA搭配使用，由FPGA處理大多數并行計算，用微處理器執行串行決策。

與監視等在每個攝像頭上執行分析功能的其它市場不同，各種汽車成本壓力正在促進分析功能在中央計算中心執行。這樣，汽車制造商可最大限度降低每個攝像頭傳感器的成本，進而最終降低整個系統成本。這就意味著中央單元的處理平臺需要提供極高的性能和帶寬，才能支持四路、五路乃至六路實時視頻輸入的同步處理。

Smarter視覺技術可延長使用壽命

另一個Smarter視覺正在實現顯著差異化的領域是醫療電子行業，其在各種醫療成像系統中廣泛使用Smarter視覺技術，從內窺鏡及成像掃描裝置（CT、MRI等）到諸如Intuitive Surgical公司的達芬奇（Da Vinci）等機器人外科系統，無一例外。

達芬奇高級3D視覺系統可幫助外科醫生操縱極其精度、流暢以及觸覺敏感的機器人外科儀器，完成各種精細而又復雜的外科手術。每誕生一代新系統，外科醫生就能夠執行更多數量的各種外科手術，確保更好的治療效果和更短的恢復時間。控制和協調手術過程的技術精密程度令人嘆為觀止，這主要要歸功于處理能力和邏輯的完美結合。因而，每一代更新技術都將從處理器和邏輯的更高集成中獲益。

Smarter視覺可實現身臨其境的體驗

此外，Smarter視覺在讓我們保持聯系方面也在取得重大進步。如果您在現代辦公樓里工作，您的公司很可能至少有一個會議室安裝有高級網真會議系統。這不僅便于您與世界各地的參會者對話，而且還能親眼看到他們，就像在身邊面對面交流一樣。這些視頻會議系統的精密程度在不斷提高，以致于能感知在桌邊或者會議中發言的人是誰，然后可自動將鏡頭拉近并對準此人，用更高畫質的逼真視頻突出顯示。

賽靈思廣播及消費類市場營銷總監Ben Runyan表示，開發網真技術的企業正在尋求為用戶創造更加身臨其境體驗的途徑。Runyan稱：“這樣做的目的是讓用戶感覺他們同處一間會議室，但實際上他們可能身處地球兩端。要做到這一點，需要業界一流的攝像頭及顯示技術，這需要高級圖像處理技術。隨著這些技術日益變得更加高級，可帶來更加逼真的體驗，它不但將簡化協作，讓企業工作效率進一步提高，同時還可大幅降低差旅需求與費用。”

圖1 ：在駕駛員輔助應用中，Zynq All Programmable SoC與多芯片多攝像頭系統的對比

賽靈思：面向Smarter視覺的All Programmable

要全面快速推進Smarter視覺技術的發展，滿足新市場需求，就必須擁有一款具有極高靈活性的處理平臺、豐富的資源組合以及致力于推進Smarter視覺技術發展的可靠生態系統。過去10年來，賽靈思器件在幫助各企業推進這些視覺系統創新方面一直發揮著重大作用。賽靈思推出了一款整體解決方案，其將幫助Smarter視覺應用開發商快速推出新一代創新技術。

10多年來，嵌入式視覺技術設計人員一直充分利用賽靈思FPGA的可編程性、并行計算功能和快速I/O功能滿足大量嵌入式視覺系統的需求。過去，設計人員用FPGA加速系統中可能拖慢主處理器的功能，或者用FPGA來運行僅靠處理器不能執行的并行計算任務。而現在隨著Zynq-7000 All Programmable SoC的推出，嵌入式視覺技術開發人員可獲得一款理想開發新一代Smarter視覺應用的全面可編程器件。

賽靈思視頻技術工程設計總監Jose Alvarez表示：“Smarter視覺技術可在能夠在同一開發板上通信的不同處理器和FPGA中實現，而Zynq SoC則為電子產業帶來了前所未有的高集成度。現在，我們能通過同一芯片上處理器和邏輯之間3，000個高性能連接以芯片速度而不是板級速度在主智能處理器和FPGA邏輯之間交換信息。”

圖1展現了Zynq SoC在創建多功能車載駕駛員輔助系統時相對于傳統多攝像頭、多芯片架構的優勢。賽靈思架構（圖下左）可使用連接至一個Zynq SoC的一組攝像頭，實現盲點檢測、360度環視、車道偏離告警以及行人檢測等功能綁定。相反，現有多功能駕駛員輔助系統需要使用多塊芯片和多個攝像頭，其不但可讓集成復雜化，對性能和系統功耗造成不利影響，而且還可導致BOM成本上升。

一些半導體芯片廠商提供將ARM處理器和DSP或GPU結合的ASSP，但這類器件過于僵化，或是難以為當今眾多更智能應用提供足夠的計算性能。基于這些器件的解決方案往往需要增加獨立的FPGA來解決此類低效率問題。

可編程性與性能

Zynq SoC相對于以GPU和DSP為中心的SoC而言，其主要優勢就是具有的可編程性和高性能。ARM處理系統具有軟件可編程性，FPGA邏輯可通過HDL或C++編程，甚至I/O也是全面可編程的。這樣，客戶就能創建出適合其特定應用的極高性能Smarter視覺系統，并讓其系統從競爭產品中脫穎而出。

圖2給出了smarter視覺系統的一般性信號流程，從中可以看出Zynq All Programmable SoC相對于基于ARM和DSP以及基于ARM和GPU的ASSP解決方案的優勢。

流程中第一個信號處理模塊（綠色）是連接器件到攝像頭傳感器的輸入。在Zynq SoC中，開發人員可讓多種不同I/O信號適應于客戶連接的任何攝像頭需要。。下一個信號處理模塊執行像素級處理或視頻處理工作（具體取決于應用是面向圖形處理還是顯示）。再下一個模塊執行圖像分析功能，這是一個計算密集型任務，通常需要并行計算，而這則是FPGA最擅長的任務。通過后續三個模塊（紅色），處理系統從分析功能中獲得元數據結果，創建結果的圖形化表達（圖形步驟），然后對結果編碼用于發送。

在Zynq SoC中，處理子系統和FPGA邏輯協同工作。如果需要壓縮，可以方便地在FPGA邏輯中實現合適的編解碼器。然后在最終的信號處理模塊（標示為“輸出”）中，開發人員使用Zynq SoC的可編程I/O，可以滿足多種不同通信協議和視頻傳輸標準的要求，有的是廠商專有標準，有的是特定市場標準，還有的則是業界標準IP協議。。與之相比，當開發人員采用以DSP和GPU為中心的SoC開發算法時，可能ASSP中的DSP或GPU難以提供所需的性能。為了彌補這種性能不足，開發人員往往還要在系統中采用獨立的FPGA。

Zynq SoC顯然是開發Smarter視覺系統的最佳芯片選擇，而賽靈思在該器件開發的早期階段就認識到，應當對編程進行優化，特別是對那些比較習慣用C和C++開發視覺算法的設計人員來說更應該優化編程方法。為此，賽靈思于2012年6月向客戶推出了一款最先進的軟件環境：Vivado設計套件，其包含有業界一流的高層次綜合等多項技術。賽靈思于2011年1月收購AutoESL獲得了這種高層次綜合技術。Vivado HLS特別適用于嵌入式視覺應用。比方說，如果視覺系統開發人員用Zynq SoC開發的C或C++語言算法運行速度不夠快，或者給處理系統帶來過重負擔，那么這些開發人員就能把C算法提交給Vivado HLS，并將這些算法綜合成Verilog或VHDL，讓其在器件的FPGA邏輯中運行。這就能將Zynq SoC上的處理子系統解放出來，讓它從事更適合自己的任務，從而加速整體系統性能。

圖2：般性視頻及圖像處理系統流程

OPENCV庫

賽靈思還推出了OpenCV（CV就是計算機視覺的縮寫）庫，進一步完善了Smarter視覺技術。OpenCV是OpenCV.org發布的一種業界標準的開源算法庫，可供嵌入式視覺開發人員用于迅速創建視覺系統。世界各地的嵌入式視覺開發人員都積極為該庫貢獻新算法，目前該庫已包含有2，500多種使用C、C++、Java和Python語言編寫完成的算法（見第24頁的OpenCV報道）。庫中的算法復雜程度各個不同，從圖像濾波器等簡單功能到動作檢測等高級分析功能，無所不有。

Alvarez表示，這些OpenCV算法所針對的幾乎是用任何商用微處理器和DSP實現的方案。由于Zynq SoC使用的是ARM處理系統，因此可在其處理器上實現這些采用C++語言編寫的算法。

Alvarez指出，有了Vivado HLS，用戶可以用C或C++語言編寫這些算法，將函數調用從OpenCV改為HLS，然后使用Vivado HLS，將算法綜合成或者編譯成為便于Zynq-7000 SoC的邏輯部分實現而優化的RTL代碼。在Vivado環境中使用OpenCV，便于Smarter視覺架構師方便地比較設計方案中的給定算法到底是在處理器還是Zynq-7000 All Programmable SoC的FPGA邏輯部分運行效率最佳。賽靈思開源庫的推出可為客戶提供一個良好的設計開端。賽靈思使用Vivado HLS，已經編譯了OpenCV庫中30多種最常用的嵌入式視覺算法。客戶能夠在系統級快速權衡處理器與邏輯，并且立即在Zynq-7000 All Programmable SoC中運行，為給定應用提供最理想的系統。

賽靈思及其聯盟成員將積極不斷地從OpenCV庫移植更多功能，按季提供給賽靈思的用戶群。由于開發人員可以在幾乎任何商用處理器上運行OpenCV庫，視覺設計人員將能夠比較運行在各種芯片器件上的算法的性能并為之建立基準。

作為Smarter視覺計劃的一部分，賽靈思還開發出了SmartCORE IP套件，以滿足各種細分市場的Smarter視覺設計要求，為新一代產品帶來Smarter視覺功能。借助賽靈思最新推出的IP Integrator工具，客戶能夠將SmartCORE IP套件提供的內核和OpenCV庫提供的算法迅速實現在設計中。這種新工具是一種新型即插即用IP環境，方便客戶在原理圖環境中工作，或者如果需要的話也支持在命令行環境中工作。

目標平臺意識

Alvarez指出，自Vivado設計套件誕生后，賽靈思讓該套件的設計具有器件意識，這樣就能充分發揮每款器件的功能。Alvarez稱，有了IP Integrator，Vivado設計套件不僅具有器件意識，現在還具有目標平臺意識，支持所有Zynq SoC和7系列FPGA開發板以及套件。具有目標平臺意識，就意味著Vivado設計套件現在能配置和應用特定開發板的設計規則檢查，從而確保快速推出切實可行的系統。

舉例來說，當設計人員選擇賽靈思Zynq-7000 SoC視頻及成像套件，并在IP Integrator中實例化Zynq SoC處理系統時，Vivado設計套件則會用恰當的外設、驅動程序和存儲器映射對處理系統進行預配置，從而為開發板提供支持。嵌入式設計團隊現在能針對雙核ARM處理系統和高性能FPGA邏輯更迅速地識別、重用并集成IP軟/硬核。

用戶可使用一系列對話框設定處理系統及其邏輯之間的接口。IP Integrator隨后自動生成RTL，并針對性能或面積進行優化。接下來用戶可添加自己的定制邏輯，或使用Vivado IP目錄完成設計。

到目前賽靈思客戶使用賽靈思FPGA已經開發出怎樣的Smarter視覺系統，是非常值得一看的。Zynq-7000 All Programmable SoC和強大的Smarter視覺環境的問世，為開發更令人叫絕的新產品提供了保障。

責任編輯：gt