環境感知是自動駕駛領域非常重要的一項任務。特別是在夜晚或者極端天氣的情況下,現有的視覺感知和激光雷達兩種方式對環境的感知和識別都效果不佳。這給自動駕駛等高風險應用帶來了挑戰。 有些研究提出使用熱像儀來彌補 LiDAR 和視覺攝像頭的缺陷。但由于物體不斷發出熱輻射,粒子會擴散到附近的環境中,導致熱成像變得模糊、無紋理,形成「鬼影(ghost)」,使這種方法難以實際應用。 現在,一種新的熱成像技術可以不受霧、煙和黑暗等視覺障礙的影響,使得自動駕駛汽車在黑暗中也能準確感知環境。如下圖所示,與以前的熱成像(上)相比,新方法可以創建更清晰、更有質感的夜間圖像(中和下)。
這種新方法是由來自普渡大學等機構的研究者提出,他們開發了一種新的系統, 稱為「熱輔助探測和測距系統(HADAR)」。借助該系統,我們可以在環境不佳的情況下獲得精細的環境圖像,細節與精度和傳統相機在明亮日光下拍攝的圖像相當。研究論文已登上 Nature 封面。
論文地址:https://www.nature.com/articles/s41586-023-06174-6 方法介紹 HADAR 能夠穿透光學雜波來檢測物體的溫度、材料成分和熱輻射模式,而不受霧、煙和黑暗等視覺障礙的影響。因此,無論一天中的時間或環境如何,HADAR 基于對深度和紋理的渲染都能創建極其詳細、清晰的圖像。
HADAR 與「鬼影」熱成像。 為了訓練 HADAR 系統,研究人員在夜間使用先進的熱成像相機和能夠顯示電磁波譜中能量輻射的成像傳感器,在戶外捕獲數據。他們還創建了對戶外環境的計算機模擬,以便進行額外的 AI 訓練。 普渡大學電氣與計算機工程系教授、本文作者之一 Zubin Jacob 表示,「HADAR 學會了探測物體并估計與這些物體的距離,其精度是僅依靠傳統夜視技術的 10 倍。而且,HADAR 在夜間的性能與傳統物體檢測系統在白天的性能相當。」 「聲納、雷達和激光雷達等會發出信號并返回反射,以推斷物體是否存在及其與物體的距離。除了相機所擁有的視覺能力之外,它們還提供了場景的額外信息,尤其是在環境照明較差的情況下,」Jacob 表示,「然而,HADAR 有著根本的不同,它利用不可見的紅外輻射來重建夜間場景,清晰度就像白天一樣。」 在沒有反射光的黑暗環境中, 傳統攝像頭無法很好地捕捉圖像,雷達和激光雷達也容易受到干擾。 熱成像技術通過捕獲環境中物體輻射的紅外光來重建場景。如下圖所示,新研究提出的 HADAR 方法改變了機器感知的方式:
為了解決「鬼影」問題,該研究訓練了一個神經網絡,用于對熱像儀發出的紅外信號進行分類,將物體的特征熱信號與導致「鬼影」的環境噪音分開。 該研究訓練算法來識別已知材料(例如玻璃、木材或織物)的獨特發射光譜。通過識別場景中的這些已知特征,算法可以表征其觀察到的對象。那么剩下的就是環境信號和從這些物體反射到相機中的噪聲。通過向后評估噪聲信號的反射和散射方式,該算法可以填充每個對象的紋理信息,從而為圖像提供更高層次的細節。
處理后的圖像清晰地顯示了物體及其紋理,并且可以識別物體的材質。最重要的是,HADAR 還能夠提供一種關鍵數據 —— 環境物體的深度信息,這將有助于自動駕駛在復雜路況下進行環境感知。 下圖展示了一個 HADAR 的應用實例。其中有一位真人和一個人形紙板。RGB 光學成像和稀疏 LiDAR 點云都無法區分真人和人形紙板,并且 LiDAR 還難以檢測到夜間條件下的車輛。而 HADAR 檢測到相應材料區域(皮膚?+?織物)中的人,將其與紙板清楚地區分開來,克服了「幻象制動」問題。 ?下圖 6 展示了 HADAR 測距在夜間擊敗了最先進的熱測距技術: 由于該方法能夠確定場景中的物體是由什么組成的,因此與傳統成像技術相結合,即使在白天,HADAR 也可以提供有關場景的獨特信息。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。
舉報投訴
-
物聯網
+關注
關注
2909文章
44736瀏覽量
374478
原文標題:AI提高自動駕駛夜視能力,檢測黑夜、霧天場景和白天一樣
文章出處:【微信號:tyutcsplab,微信公眾號:智能感知與物聯網技術研究所】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
一文聊聊自動駕駛測試技術的挑戰與創新
隨著自動駕駛技術的飛速發展,自動駕駛測試的重要性也日益凸顯。自動駕駛測試不僅需要驗證車輛的感知、決策、控制模塊的獨立性能,還需確保系統在復雜場景中運行的整體可靠性。然而,
汽車雷達回波發生器的技術原理和應用場景
的波束并向前傳播,以模擬真實的雷達工作環境。應用場景
自動駕駛系統的開發和測試:在自動駕駛系統的開發和測試過程中,汽車電子雷達回波發生器可以模擬各種交通場景下的目標回波,評估雷達系統在
發表于 11-15 14:06
基于場景的自動駕駛驗證策略
可選方案是將實際交通狀況做出總結生成具有高度代表性的交通場景,通過仿真分析自動駕駛系統在這些場景上的安全性。然而交通場景中元素的復雜性與失敗事件的罕見性導致難于準確分析系統失敗的概率和
RISC-V適合什么樣的應用場景
解決方案,適用于邊緣計算、智能攝像頭、智能音箱等場景。
靈活性:RISC-V的開放性使得其能夠更容易地與各種AI框架和算法集成,滿足不同的AI應用需求。
4. 自動駕駛和汽車電子
定制
發表于 07-29 17:16
FPGA在自動駕駛領域有哪些優勢?
FPGA(Field-Programmable Gate Array,現場可編程門陣列)在自動駕駛領域具有顯著的優勢,這些優勢使得FPGA成為自動駕駛技術中不可或缺的一部分。以下是FPGA在自
發表于 07-29 17:11
FPGA在自動駕駛領域有哪些應用?
是FPGA在自動駕駛領域的主要應用:
一、感知算法加速
圖像處理:自動駕駛中需要通過攝像頭獲取并識別道路信息和行駛環境,這涉及到大量的圖像處理任務。FPGA在處理圖像上的運算速度快,可并行性強,且功耗
發表于 07-29 17:09
Nullmax正式推出新一代自動駕駛技術Nullmax Intelligence
7月16日,Nullmax在上海舉辦“AI無止境,智變新開端”2024技術發布會,正式推出新一代自動駕駛技術Nullmax Intelligence(簡稱“NI”)。新技術著重于打造全場景
未來已來,多傳感器融合感知是自動駕駛破局的關鍵
/L4級自動駕駛賽跑的元年。
馬斯克評論FSD 12.3版本的左轉彎操作就像人類司機一樣。如果FSD 12.3版本成功,將基本顛覆目前市場上的智能駕駛技術路線。基于“數據/算法/算力”的無人駕
發表于 04-11 10:26
NanoEdge AI的技術原理、應用場景及優勢
硬件設計則是為了確保設備在執行這些任務時能夠保持低能耗,從而提高其續航能力。
2、應用場景
NanoEdge AI 可以廣泛應用于各種物聯網設備和傳感器,如智能家居、工業
發表于 03-12 08:09
華為自動駕駛技術怎么樣?
? ? ? 自動駕駛技術是當今世界汽車產業的重要發展方向。作為全球領先的科技企業,華為在自動駕駛技術方面也進行了深入的研發和創新。 一、華為自動駕駛技術的實力 華為在
評論