自動(dòng)駕駛汽車 (AV) 已經(jīng)出現(xiàn)在美國(guó)各個(gè)城市的公共街道和道路上。監(jiān)管機(jī)構(gòu)——以及公眾——有理由相信這些車輛的安全性和可靠性嗎?我們沒有得到足夠的信息來(lái)開始信任任何開發(fā) AV 技術(shù)或 AV 本身的公司,主要是因?yàn)樨?fù)責(zé)汽車安全的機(jī)構(gòu)正在讓科技公司和 AV 汽車制造商免于審查。
監(jiān)管機(jī)構(gòu)和其他感興趣的觀察員唯一可以獲得的“安全”信息是開發(fā)車輛的公司向國(guó)家公路運(yùn)輸安全委員會(huì)提交的報(bào)告。它們可以在 NHTSA 的網(wǎng)頁(yè)上作為“自愿安全自我評(píng)估”(VSSA)文件找到。
NHTSA 奉行“創(chuàng)新”的口號(hào),沒有要求公司報(bào)告任何特定數(shù)據(jù)的義務(wù),更不用說標(biāo)準(zhǔn)化格式的數(shù)據(jù)了。(但是,NHTSA 確實(shí)提供了自愿指南和VSSA 模板。)如名稱所示,VSSA 是一種自愿的自我評(píng)估。公司甚至沒有義務(wù)提交 VSSA。許多人不打擾。
與聯(lián)邦藥物管理局 (FDA) 和聯(lián)邦航空管理局 (FAA) 要求在推出產(chǎn)品之前證明符合嚴(yán)格的行業(yè)標(biāo)準(zhǔn)的藥品供應(yīng)商和飛機(jī)制造商相比,這形成了鮮明的對(duì)比。
對(duì)此,Semicast Research 的首席分析師科林·巴恩登告訴我們:“FDA 不允許在隨機(jī)路人身上開發(fā)新藥,F(xiàn)AA 也不允許在人口稠密地區(qū)測(cè)試實(shí)驗(yàn)性飛機(jī)設(shè)計(jì)。” 他強(qiáng)調(diào)說:“無(wú)休止地沿著相同的路線行駛,沒有發(fā)生任何不好的事情,也沒有人被殺,這并不能證明新技術(shù)的安全性。NHTSA(和州監(jiān)管機(jī)構(gòu))有責(zé)任確保公眾的安全,而不是充當(dāng)在未經(jīng)同意的受試者上測(cè)試實(shí)驗(yàn)技術(shù)的推動(dòng)者。”
在泡沫中
無(wú)論如何,美國(guó)的 AV 行業(yè)生活在一個(gè)泡沫中。
首先,自動(dòng)駕駛汽車制造商可以使用自己的標(biāo)準(zhǔn)和程序有效地自我認(rèn)證他們的自動(dòng)駕駛汽車。其次,他們沒有義務(wù)提交 VSSA。第三,一些 AV 開發(fā)人員甚至沒有在他們的報(bào)告中提及任何與安全相關(guān)的行業(yè)標(biāo)準(zhǔn),包括 ISO 26262(功能安全)、ISO 21448(預(yù)期功能安全)和 ANSI/UL 4600。即使他們碰巧引用了這些標(biāo)準(zhǔn),他們往往只是順便這樣做。
一小部分公司選擇提交報(bào)告。截至 2021 年 4 月 28 日,已有 55 家公司獲得了加州機(jī)動(dòng)車輛部的測(cè)試自動(dòng)駕駛汽車(由駕駛員監(jiān)控)的許可。在這 55 家公司中,迄今為止只有 15 家公司向 NHTSA 提交了 VSSA。
共提交了 24 份 VSSA 文件。造成數(shù)字差異的原因有兩個(gè):并非所有在美國(guó)進(jìn)行測(cè)試的公司都在加利福尼亞進(jìn)行測(cè)試,并且有兩次單一公司提交了兩份 VSSA 報(bào)告的情況。
EE Times審查了 AV 開發(fā)人員在 NHTSA 網(wǎng)站上提交的每個(gè) VSSA。每家公司都在談?wù)摗罢壬薄K麄儽硎荆摆A得公眾信任”很重要。每家公司都表示“透明”是其發(fā)布安全報(bào)告的目標(biāo)。
由于這種自我祝賀缺乏嚴(yán)謹(jǐn)性,我們決定創(chuàng)建一個(gè)記分卡,以盡可能了解每家花時(shí)間提交 VSSA 的公司“認(rèn)真對(duì)待安全”的真正含義。我們的檢查重點(diǎn)關(guān)注公司對(duì) ISO 26262、ISO 21448 或 ANSI/UL 4600 等行業(yè)標(biāo)準(zhǔn)的處理方法——因?yàn)槊總€(gè)標(biāo)準(zhǔn)都可以發(fā)揮作用,并且都適用于任何自動(dòng)駕駛汽車。(編者注:請(qǐng)參閱本頁(yè)下表中的記分卡)
在 24 份安全報(bào)告中的一個(gè)極端,有 3 份根本沒有提及任何行業(yè)標(biāo)準(zhǔn)。這些是 Zoox(現(xiàn)在是亞馬遜的一部分)、Local Motors 和 Apple。
另一端是歐洲汽車制造商寶馬、梅賽德斯-奔馳和博世。他們是行業(yè)標(biāo)準(zhǔn)的大力推動(dòng)者。
點(diǎn)擊查看完整大小的圖片
(來(lái)源:安全自評(píng)報(bào)告)
在這些極端之間的許多變化中,許多 VSSA 申報(bào)者提到了 ISO 26262,但避免聲稱他們的車輛符合標(biāo)準(zhǔn)。
#ISO洗滌
正如 Edge Case Research 的聯(lián)合創(chuàng)始人兼首席技術(shù)官兼卡內(nèi)基梅隆大學(xué)教授 Philip Koopman 所指出的那樣,“許多 VSSA 進(jìn)行標(biāo)準(zhǔn)點(diǎn)名,但并未真正承諾在提及的標(biāo)準(zhǔn)中做任何具體的事情。相當(dāng)于挑選標(biāo)準(zhǔn)的模糊陳述并不能真正告訴我們公司在安全方面做了什么。” 他稱之為“#ISOwashing”。
例如,Waymo 在其 2020 年 9 月的安全報(bào)告中沒有提及任何標(biāo)準(zhǔn)。在推進(jìn)其系統(tǒng)安全計(jì)劃時(shí),Waymo 表示:“作為 2015 年第一家在公共道路上完成全自動(dòng)駕駛旅行的公司,我們?cè)?Waymo 編寫了自己的劇本。”
在 2020 年 10 月發(fā)布的隨附文件“Waymo 的安全方法和安全準(zhǔn)備情況確定(30 頁(yè))”中,該公司引用了許多標(biāo)準(zhǔn)并解釋了為什么它們不完全依賴這些標(biāo)準(zhǔn)。
在 ISO 26262 上:
ISO 26262 為 Waymo 的危害分析流程提供了重要見解。然而,Waymo 并不嚴(yán)格或完全依賴 ISO 26262 的原則,這些原則并不完全適合 4 級(jí) ADS(自動(dòng)駕駛系統(tǒng))。
當(dāng)被要求解開這個(gè)包裝時(shí),Koopman 說:“在解釋這樣的陳述時(shí),考慮它所說的和沒有說的內(nèi)容是很重要的。”
Koopman 翻譯:“Waymo 似乎表示他們注意到 ISO 26262 第 3 部分中涵蓋危險(xiǎn)和風(fēng)險(xiǎn)分析的部分。然而,因?yàn)檫@不是一個(gè)完美的配合,他們不依賴它。未說明的是他們是否考慮了 ISO 26262 的許多其他部分。”
他補(bǔ)充說:“也沒有說明他們實(shí)際依賴的原則,因?yàn)樗麄兯坪鯇?duì)完善的 ISO 26262 功能安全標(biāo)準(zhǔn)中的原則不滿意。”
他總結(jié)道:“現(xiàn)實(shí)情況是,ISO 26262 應(yīng)該適用于他們車輛的許多方面,就像它適用于任何其他車輛一樣。由于 ISO 26262 是可定制的,因此很難理解他們?yōu)槭裁床粚?duì)其進(jìn)行調(diào)整以適應(yīng)他們的需求。”
然后是阿爾戈艾的案例。在該公司最近發(fā)布的安全報(bào)告中寫道:“我們的系統(tǒng)工程方法是圍繞兩個(gè)關(guān)鍵的ISO標(biāo)準(zhǔn)建立的:ISO 26262和ISO 21448。”
庫(kù)普曼說:“雖然這種情緒似乎是出于好意,但讀者無(wú)法知道這在具體意義上意味著什么。”他承認(rèn), “這當(dāng)然給人的印象是他們都符合這兩個(gè)標(biāo)準(zhǔn),但如果這是真的,他們?yōu)槭裁床徽f‘符合’呢?我認(rèn)為他們會(huì)對(duì)安全做出最有力的真實(shí)聲明,那要么是‘符合’,要么是不那么時(shí)髦的‘跟隨’。如果他們的聲明比這兩個(gè)詞中的任何一個(gè)都弱,他們就不應(yīng)該指望獲得一個(gè)安全的榮譽(yù)榮格索賠。”
《EE時(shí)報(bào)》聯(lián)系了阿爾戈艾,以澄清該公司的聲明。一位發(fā)言人告訴我們,“雖然我們的安全案例尚未完成,但我們的意圖是遵守,這就是為什么我們以這樣的方式撰寫聲明。”
現(xiàn)有的標(biāo)準(zhǔn)是否讓AV行業(yè)的玩家認(rèn)為它們與他們?cè)贚4和L5汽車中尋求的“自主性”無(wú)關(guān)?
庫(kù)普曼明確表示:“ISO 26262解決了功能安全問題,值得在L4/L5車輛中占有一席之地。對(duì)于L4/L5,您需要的是對(duì)預(yù)期功能的安全性(SOTIF/ISO 21448)和系統(tǒng)級(jí)安全性(ANSI/UL 4600)的額外覆蓋。您需要覆蓋所有這些部分。”
在自動(dòng)駕駛汽車測(cè)試中目前沒有監(jiān)督、沒有驗(yàn)證和驗(yàn)證的情況下,一個(gè)基本問題——如何在自動(dòng)駕駛汽車在道路上擴(kuò)散之前確保其安全——成為一個(gè)難題中的謎。
盡管存在相互競(jìng)爭(zhēng)和不一致的自動(dòng)駕駛汽車標(biāo)準(zhǔn),但“存在解決這個(gè)問題的方法:接受專家——學(xué)者、工程師、汽車制造商和行業(yè)代表——共同制定技術(shù)中立的安全標(biāo)準(zhǔn)已經(jīng)采取的方法,”最近寫道Jack Weast,英特爾研究員,即將出臺(tái)的 IEEE P2846 標(biāo)準(zhǔn)(與安全相關(guān)的自動(dòng)車輛行為模型的假設(shè))主席。
韋斯特并不孤單。
鑒于行業(yè)本身花費(fèi)了大量的工程資源來(lái)創(chuàng)建這些標(biāo)準(zhǔn),Koopman 問道:“他們?yōu)槭裁床蛔裱@些標(biāo)準(zhǔn)?”
在所有提交 VSSA 的 AV 公司中,Nvidia 出現(xiàn)在名單上令人有點(diǎn)意外。這表明 Nvidia 有志于開發(fā)一個(gè) AV 平臺(tái)(配備強(qiáng)大的 SoC 和 AV 軟件堆棧),汽車制造商可以簡(jiǎn)單地將其放入車輛中進(jìn)行 AV 發(fā)布。
英偉達(dá)在其安全報(bào)告中寫道:“英偉達(dá) Drive 架構(gòu)使汽車制造商能夠制造和部署功能安全的自動(dòng)駕駛汽車和卡車,并且可以證明其符合 ISO 26262 和 ISO/DIS 21448、NHTSA 等國(guó)際安全標(biāo)準(zhǔn)。建議和全球 NCAP 要求。”
點(diǎn)擊查看完整大小的圖片
(來(lái)源:英偉達(dá)自動(dòng)駕駛安全報(bào)告)
我們發(fā)現(xiàn)這家 GPU 巨頭的說法有點(diǎn)問題。Nvidia 向 ISO 26262 低頭并不意味著包含 Nvidia 芯片的 AV 必須符合 ISO 26262。
Koopman 證實(shí),“是的,‘使能’意味著由客戶實(shí)際遵從。” 他解釋說,例如,如果 Nvidia 銷售一種讓客戶“在模擬中”符合 21448 的方法,那么最終產(chǎn)品在現(xiàn)實(shí)世界中是否符合 21448 的問題就會(huì)出現(xiàn)。
Koopman 補(bǔ)充說:“在 Nvidia 之外,我們已經(jīng)看到了關(guān)于 ISO 26262 一致性的零散聲明,但他們實(shí)際上只是在談?wù)撔酒踔敛皇撬杏布!?/p>
安全報(bào)告是營(yíng)銷手冊(cè)
閱讀 24 份安全報(bào)告會(huì)讓人不可避免地感覺到這些報(bào)告本質(zhì)上是營(yíng)銷手冊(cè)。
巴恩登指出,它們“完全可以互換。如果我收到的原始文本來(lái)自 Motional、Waymo 和 Zoox 宣傳冊(cè)中的公司名稱,我無(wú)法區(qū)分它們。”
問題不僅僅在于報(bào)告中過多的光鮮圖片。缺乏技術(shù)實(shí)質(zhì)。Barnden 說:“我不清楚什么指標(biāo)可以衡量過去 12 個(gè)月取得的進(jìn)展,也不清楚明年發(fā)布的新安全報(bào)告中哪些信息會(huì)發(fā)生重大變化。無(wú)休止地重復(fù)‘安全’這個(gè)詞本身并不能使產(chǎn)品或過程安全。”
以 Waymo 為例。Barnden 說:“2020 年,Waymo 向加利福尼亞 DMV 報(bào)告了 21 次脫離接觸,行駛里程超過 628,839 英里,每 30,000 英里就有一次脫離接觸。但正如我們?cè)谧罱囊欢?a target="_blank">視頻中看到的那樣,一輛“完全無(wú)人駕駛”的 Waymo 車輛完全被一個(gè)靜態(tài)交通錐所迷惑。有一次,[AV] 在高速公路上倒車,完全封鎖了一條車道,迫使人類司機(jī)繞開它。這發(fā)生在 Waymo 在亞利桑那州錢德勒附近的主要測(cè)試區(qū)域。事實(shí)上,脫離接觸報(bào)告毫無(wú)意義。這些車輛顯然還不夠安全,無(wú)法在沒有訓(xùn)練有素的人類安全駕駛員的情況下在公共道路上行駛。”
Barnden 指的是 YouTuber JJRick 拍攝的 Waymo Driver 的鏡頭,他作為顧客在 Chandler 乘坐 Waymo 無(wú)人駕駛出租車。
Waymo 的一個(gè)案例
考慮到 Waymo 自 2015 年以來(lái)一直上路,令人驚訝的是,它的自動(dòng)駕駛出租車仍然被交通錐所迷惑——這似乎很難被稱為“邊緣案例”。
近幾個(gè)月來(lái),曾經(jīng)被視為明顯的 AV 行業(yè)領(lǐng)導(dǎo)者的 Waymo 已經(jīng)失去了六位高層管理人員,包括其 CEO、CFO、財(cái)務(wù)主管、制造主管、首席安全官和系統(tǒng)安全主管。可以理解,這樣的人員外流引起了人們的關(guān)注,并為硅谷的八卦工廠注入了活力。
這使我們回到了最初的觀點(diǎn)。我們對(duì) Waymo Driver 所取得的進(jìn)步真正了解多少?Waymo 的安全報(bào)告特別不公開,讓觀察者依賴 YouTuber 作為最先進(jìn)的驅(qū)動(dòng)程序的關(guān)鍵來(lái)源。并不完全令人放心。
沉重的尾巴
對(duì)于許多 AV 開發(fā)人員來(lái)說,他們還需要多長(zhǎng)時(shí)間才能推出完全自動(dòng)駕駛汽車。安全報(bào)告不僅應(yīng)包括他們的安全聲明,還應(yīng)包括他們面臨的挑戰(zhàn)以及他們計(jì)劃如何應(yīng)對(duì)這些挑戰(zhàn)。
Kodiak 是一家聲稱更高的測(cè)試?yán)锍滩⒉灰欢ㄒ馕吨叩陌踩缘墓尽T摴驹谄浒踩珗?bào)告中寫道:“當(dāng)然,這種嚴(yán)格的方法意味著,我們可能永遠(yuǎn)不會(huì)像我們的一些競(jìng)爭(zhēng)對(duì)手那樣記錄那么多的測(cè)試?yán)锍獭N覀冋J(rèn)為我們較低的里程數(shù)不是風(fēng)險(xiǎn),而是我們對(duì)安全承諾的標(biāo)志。”
奧羅拉同意。“……我們將真實(shí)世界測(cè)試視為驗(yàn)證和提高更快速離線測(cè)試保真度的機(jī)制。這一策略使我們能夠控制道路測(cè)試車隊(duì)的規(guī)模。我們通過追求里程質(zhì)量而不是數(shù)量來(lái)限制測(cè)試車輛行駛的距離;也就是說,我們尋找有趣的里程,而不僅僅是追求大量的里程。”
關(guān)于邊緣案例研究的重要性,庫(kù)普曼指出,問題不僅僅是需要修復(fù)的意外事件(不安全事件)的頻率。更重要的是固定人口的樣子。驚喜各不相同。庫(kù)普曼說:“如果存在大量問題,那么在解決所有問題方面取得進(jìn)展將需要很長(zhǎng)時(shí)間。”。很可能你永遠(yuǎn)也到不了那里。
庫(kù)普曼在他的論文中寫道:
創(chuàng)建安全的自動(dòng)駕駛汽車不僅需要針對(duì)實(shí)際操作場(chǎng)景進(jìn)行廣泛的培訓(xùn)和測(cè)試,還需要處理不確定性。現(xiàn)實(shí)世界中可能會(huì)出現(xiàn)許多罕見但危險(xiǎn)的事件,這表明這些系統(tǒng)在遇到新的、不可預(yù)見的情況時(shí)需要具有魯棒性。
從觀察到的道路數(shù)據(jù)中歸納出各種異常情況的假設(shè)將有所幫助。然而,現(xiàn)實(shí)世界中驚喜的厚尾分布可能會(huì)使使用簡(jiǎn)單的驅(qū)動(dòng)/失敗/修復(fù)開發(fā)過程來(lái)實(shí)現(xiàn)可接受的安全性變得不可能。
自動(dòng)駕駛汽車需要在處理新穎性方面具有魯棒性,此外還需要一種方法來(lái)檢測(cè)它們遇到的意外情況,以便在面臨不確定性時(shí)保持安全。
拜登政府
NHTSA對(duì)汽車行業(yè)的放任政策臭名昭著。幾十年來(lái),該機(jī)構(gòu)的利益與汽車制造商和科技公司完全一致。
拜登政府對(duì)其解決自動(dòng)駕駛汽車安全問題的方法一無(wú)所知。新任交通部長(zhǎng)皮特·布提吉格(PeteButtigieg)是否會(huì)引導(dǎo)國(guó)家公路交通安全管理局(NHTSA)走向一個(gè)新的方向,例如,讓科技公司和汽車制造商的視聽安全聲明更加透明和負(fù)責(zé)?
當(dāng)國(guó)家公路交通安全管理局回應(yīng)其在前一屆政府發(fā)布的關(guān)于自動(dòng)駕駛系統(tǒng)的擬議規(guī)則制定通知(ANPRM)之前收集的公眾評(píng)論時(shí),可能會(huì)出現(xiàn)第一條線索。評(píng)論期于4月1日結(jié)束。
當(dāng)被問及其時(shí)間表時(shí),NHTSA 告訴EE Times,它可能會(huì)在“審查收到的針對(duì)自動(dòng)駕駛系統(tǒng) (ADS) 安全原則的 ANPRM 的公眾意見”后做出回答。
然后,該機(jī)構(gòu)將確定其下一步行動(dòng)。“NHTSA 未來(lái) 12 個(gè)月的監(jiān)管計(jì)劃將于今年春季晚些時(shí)候在監(jiān)管行動(dòng)的半年度統(tǒng)一議程上公布,”她說。那還沒有公布。
一場(chǎng)災(zāi)難性的事件發(fā)生了
許多 AV 行業(yè)觀察家都知道,剛剛起步的行業(yè)距離政府最終決定實(shí)施更嚴(yán)格的規(guī)則只有一個(gè)新聞事件。
正如巴恩登所指出的,“如果一輛 AV 測(cè)試級(jí)別的車輛殺死了一個(gè)行人或一名兒童,那將直接導(dǎo)致拜登總統(tǒng)。” 他指出,當(dāng)機(jī)動(dòng)特性增強(qiáng)系統(tǒng) (MCAS) 設(shè)計(jì)中的基本缺陷暴露時(shí),整個(gè)波音 737 Max 機(jī)隊(duì)都被 FAA 停飛。“這里的安全問題很明確,那么為什么要為 AV 開發(fā)提供免費(fèi)通行證?一個(gè)行業(yè)在實(shí)際上危及生命的同時(shí),為“拯救生命”而哀號(hào)是站不住腳的。政治風(fēng)險(xiǎn)是巨大的,政府現(xiàn)在需要醒悟并表現(xiàn)出果斷的領(lǐng)導(dǎo)力。”
已經(jīng)有先例了。當(dāng) Elaine Herzberg 被 Uber 測(cè)試 AV 殺死時(shí),事故促使 SAE 制定了SAE J3018,這是 SAE 3、4 和 5 級(jí)原型自動(dòng)駕駛系統(tǒng)的安全道路測(cè)試指南。
在 Uber 發(fā)生致命事故一年后,僅限受邀參加的汽車行業(yè)組織自動(dòng)車輛安全聯(lián)盟 (AVSC) 開始“根據(jù)措施類型記錄并公開與車載后備測(cè)試駕駛員相關(guān)的最佳實(shí)踐和SAE 自動(dòng)化辦公室主任 Ed Straub 表示。他將 AVSC 的使命描述為“讓公眾對(duì) SAE L4 和 L5 自動(dòng)駕駛汽車產(chǎn)生信任”。所有 AVSC 成員都在為各種應(yīng)用進(jìn)行道路 ADS 測(cè)試。
但事情是這樣的:當(dāng)自動(dòng)駕駛汽車公司開始向城市和州尋求在公共道路上試駕自動(dòng)駕駛汽車的許可時(shí),為什么地方監(jiān)管機(jī)構(gòu)不要求自動(dòng)駕駛汽車運(yùn)營(yíng)商遵守 J3018 標(biāo)準(zhǔn)?
施特勞布說:“我無(wú)法與不同州和城市的思想交流。” 他推測(cè),對(duì)該標(biāo)準(zhǔn)的認(rèn)識(shí)可能沒有滲透到“可能將其用作參考的合適的人”。
但他也為汽車行業(yè)的立場(chǎng)進(jìn)行了辯護(hù):“SAE 國(guó)際標(biāo)準(zhǔn)是自愿性的,并且已經(jīng)存在了一百多年,除非在 FMVSS 等法規(guī)中明確引用。” 他指出,“與自動(dòng)駕駛相關(guān)的技術(shù)和測(cè)試正在以我們前所未見的速度發(fā)生變化。正因?yàn)槿绱耍_放的行業(yè)標(biāo)準(zhǔn)很難跟上步伐……因?yàn)樽栽感孕袠I(yè)標(biāo)準(zhǔn)邀請(qǐng)所有感興趣的利益相關(guān)者來(lái)制定它們,它們可能需要更長(zhǎng)的時(shí)間來(lái)制定。“要求”合規(guī)的法規(guī)(如 FMVSS)可能需要更長(zhǎng)的時(shí)間。”
然而,嚴(yán)肅地說,什么樣的行業(yè)會(huì)花費(fèi)時(shí)間和資源為其所有成員制定安全標(biāo)準(zhǔn),但卻對(duì)執(zhí)行不感興趣?除了制造汽車的人之外,道路規(guī)則如何適用于所有人?
******************************************
下表由 EE Times 整理。Glossy Pix Ratio (GPR) 是報(bào)告中專門用于宣傳攝影的頁(yè)數(shù)與專門用于文本的頁(yè)數(shù)的比率。因此,與頁(yè)數(shù)較少但 GPR 較低的報(bào)告相比,具有較高頁(yè)數(shù)和較高 GPR 的報(bào)告可能包含較少的信息。
接下來(lái)的四列計(jì)算任何給定報(bào)告包含“標(biāo)準(zhǔn)”一詞或提及特定標(biāo)準(zhǔn)的次數(shù)。VSSA 分?jǐn)?shù)是對(duì) VSSA 的評(píng)估。
(此表按部分顯示;單擊某個(gè)部分可查看該部分的大圖。)
VSSA 安全報(bào)告記分卡
審核編輯 黃昊宇
-
汽車工業(yè)
+關(guān)注
關(guān)注
2文章
117瀏覽量
29904 -
AV
+關(guān)注
關(guān)注
2文章
268瀏覽量
44523 -
自動(dòng)駕駛
+關(guān)注
關(guān)注
784文章
13877瀏覽量
166618
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論