一塊普通的“路面污漬”竟能迷惑智能的自動(dòng)駕駛汽車，在1秒內(nèi)就導(dǎo)致車輛失控偏離行駛車道。一項(xiàng)國際研究新近證實(shí)了這一可能，再度引發(fā)公眾對自動(dòng)駕駛汽車安全性的關(guān)注。
一些人類可輕易識別的“小把戲”能完全迷惑自動(dòng)駕駛汽車。圖片來自中國網(wǎng) 自動(dòng)駕駛技術(shù)有時(shí)候并沒有人們想象的那樣聰明，一些人類可輕易識別的“小把戲”卻能完全迷惑自動(dòng)駕駛汽車。比如，在交通標(biāo)志上貼一些惡意貼紙或涂鴉，就有可能導(dǎo)致自動(dòng)駕駛汽車錯(cuò)誤地將停車標(biāo)志識別為限速標(biāo)志。 美國加利福尼亞大學(xué)歐文分校、美國東北大學(xué)等機(jī)構(gòu)的研究人員最新研究發(fā)現(xiàn)，一些偽裝為路面污漬圖案的攻擊補(bǔ)丁可誤導(dǎo)自動(dòng)駕駛汽車上的自動(dòng)車道居中輔助系統(tǒng)（ALC），導(dǎo)致車輛偏離其行駛車道，造成嚴(yán)重交通危害。 隨著自動(dòng)駕駛技術(shù)的普及，目前很多L2級別（部分自動(dòng)駕駛）的乘用車都配備了ALC系統(tǒng)，可自動(dòng)控制車輛方向盤使其保持在車道中心。該系統(tǒng)通常利用深度神經(jīng)網(wǎng)絡(luò)的車道檢測來實(shí)現(xiàn)車道居中自動(dòng)輔助。研究人員通過安全分析發(fā)現(xiàn)，深度神經(jīng)網(wǎng)絡(luò)模型層面存在漏洞，容易受到物理世界的“對抗性攻擊”。 路面污漬在現(xiàn)實(shí)生活中很普遍，較難引起人類駕駛員注意。研究人員用對抗性神經(jīng)網(wǎng)絡(luò)生成誤導(dǎo)性的圖案，并將其偽裝為路面污漬，使攻擊更加隱蔽，讓這種“臟路補(bǔ)丁”誤導(dǎo)ALC系統(tǒng)。 研究人員分別在微縮場景、自動(dòng)駕駛模擬器和現(xiàn)實(shí)中的真車上測試了“臟路補(bǔ)丁”攻擊，均成功“帶偏”了ALC系統(tǒng)，造成車輛碰撞事故。在對一款配備了ALC系統(tǒng)的真車進(jìn)行效果驗(yàn)證時(shí)，測試車輛在10次試驗(yàn)中的碰撞率達(dá)到100%。 論文通訊作者、加州大學(xué)歐文分校助理教授陳齊說，ALC系統(tǒng)如今被廣泛應(yīng)用于各種車型中。盡管方便，但該系統(tǒng)需要具有較高安全性：當(dāng)系統(tǒng)做出錯(cuò)誤的轉(zhuǎn)向決策時(shí)，人類駕駛員可能沒有足夠的反應(yīng)時(shí)間來防止即將發(fā)生的安全隱患。 該論文的共同第一作者，加州大學(xué)歐文分校博士生佐藤貴海和沈駿杰建議，為防御此類攻擊，一些汽車廠商應(yīng)把路面污漬和“臟路補(bǔ)丁”加入ALC系統(tǒng)使用手冊里現(xiàn)階段不可處理的場景列表中，幫助用戶提前認(rèn)識到這種風(fēng)險(xiǎn)的存在。有條件的廠商還可采取集成激光雷達(dá)和攝像頭等的多傳感器融合方案，或采用車道線檢測與地圖數(shù)據(jù)融合的方式防御攻擊。 （據(jù)新華社記者 彭茜） |
