3D プリントされた障害物は、無人運転車のアルゴリズムの 90% を簡単に騙すことができます。無人運転車はそれでも安全でしょうか?

出典: スマートカーリファレンス

はじめに: Antarctic Bear は以前、「指紋ロック解除はどうですか?」と報告しました。「3Dプリントは数分でクラックされる」「たった1000元の3Dプリントマスクにより、Phone Xの顔認識がまたもクラックされた」。3Dプリント技術を使えば、指紋認識だけでなく、顔認識システムもクラックされる。現在、3Dプリントのバリケードは、自動運転のLIDARとADSシステムをクラックするのに使われている。

南極熊によると、つい最近、世界中の31社の自動運転企業が、同じ科学研究チームから次のような通知を受け取りました。「あなたのL4には重大な欠陥があり、その欠陥はマルチセンサー融合ソリューションに集中しています。3Dプリントされた障害物は、90％以上のLIDARおよびADSシステムを欺くことができます。いわゆるマルチセンサー融合は、実際には孤独の融合です。ほとんどすべての主流のL4ソリューションは免れられません。」

自動運転アルゴリズムのこのような重大な脆弱性は、大学の研究者やNVIDIA、百度、盈車科技などの業界リーダーを含む中国と米国の合同チームによって発見されました。関連論文は最近、トップクラスのコンピューターセキュリティカンファレンスIEEE S&P 2021に選出されました。

1. L4障害物認識の失敗率が90%を超える<br /> 問題は統合ソリューションにあります。自動運転システムでは、周囲の物体をリアルタイムで「認識」することが、すべての重要な運転判断の最も基本的な前提条件です。認識モジュールは、周囲の車両、歩行者、交通コーン（アイスクリームコーン）などの道路上の障害物をリアルタイムで検出する役割を担います。

現在、さまざまな企業が開発している高レベル（L4）無人車両システムは、一般的にマルチセンサー融合設計を採用しており、LiDARやカメラなどのさまざまな認識ソースを統合して、正確で冗長性の高い認識を実現します。

このような設計では、フロントセーフティ冗長性の出発点は、各認識ソースが同時に攻撃されないことであり、そのため、安全性を確保するために、攻撃されていないセンサーに依存するマルチセンサーフュージョンアルゴリズムが常に存在します。この基本的な安全設計の仮定は一般的には有効ですが、研究チームは、実験室外の現実世界では、このマルチセンサー融合障害物認識に抜け穴があることを発見しました。

異なる認識ソースを同時に攻撃したり、単一の認識ソースを攻撃したりすると、無人車両が障害物を認識できなくなり、直接衝突する可能性があります。この脆弱性の深刻度を評価するために、チームは MSF-ADV 攻撃を設計しました。この攻撃は、特定のマルチセンサー融合ベースの無人車両認識アルゴリズムで、上記の悪意のある 3D 障害物を自動的に生成できます。

このシステムの特徴は、有効性、堅牢性、隠蔽性、実現可能性です。テスト結果によると、この攻撃はさまざまな障害物タイプとマルチセンサー融合アルゴリズムにわたって 91% 以上の成功率を達成しました。同時に、チームは、システムによって生成された悪意のある 3D 障害物はドライバーの視点からは隠されており、実際の状況を完全にシミュレートしていることも発見しました。さらに、攻撃された車両のさまざまな位置と角度に対して有効であり、平均成功率は 95% を超えています。

L4 アルゴリズムの失敗率は 90% を超えています。それでもまだそれを使用しますか?

2. なぜ深刻なのでしょうか?
実験室で L4 システムを拷問することの実際的な意義は何ですか?研究チームが実験を設計する際の基本的な出発点は、それを現実世界で再現できるようにすることでした。そして実際に、チームはそれを実現しました。

ライダーとカメラを搭載した実際の車両テストでは、3Dプリントされ表面処理された交通コーンの識別におけるシステムの失敗率は99.1%にも達しました。

この状況の原因は、人工的に加工された悪意のある障害物です。物体の表面に特殊な処理が施されているため、レーダーエコー信号が変化し、システムが認識できなくなりました。いわゆる多重冗長視覚システムも状況を改善できませんでした。さらに、Baidu Apolloの自動運転テストでは、100％の認識失敗が発生しました。

この抜け穴によって生じる害と隠れた危険は甚大です。まず、物理世界での実装と展開が容易なため、攻撃者は 3D モデリングや 3D プリントを使用してこのような障害物を構築できます。市場には多くのオンライン 3D プリントサービスがあり、3D プリント機器を購入する必要もありません。

第二に、交通コーンなど、道路上の法的障害物を再現することができます。攻撃者は物体にセメントや金属などを詰め込む可能性があり、その重量は簡単に 100 キログラムを超えるため、非常に混乱を招き、重大な衝突を引き起こす可能性があります。

さらに、攻撃者は道路障害物の機能を利用して、無人車両だけを狙った攻撃を設計することもできます。生成された悪意のある障害物の後ろに釘やガラスの破片を置きます。このようにして、人間の運転手は通常、交通コーンを識別して迂回することができますが、無人車両は交通コーンを無視してタイヤが破裂します。この場合、悪意のある障害物オブジェクトは通常の交通コーンと同じくらい小さくて軽いため、3Dプリント、持ち運び、配置が容易になります。

3. 多感覚融合は完璧な解決策ではない<br /> この研究の主な価値は、マルチセンサー融合認識にもセキュリティ上の問題があることをすべての人に認識させることです。自動運転研究開発チームは、マルチセンサー融合を単一センサーへの攻撃に対する効果的な防御と常に考えてきましたが、この記事は、センサーを「積み重ねる」だけでは自動運転システムへの攻撃を根本的に防御できないことを証明しています。

自動車に一般的に装備されている緊急ブレーキシステムは、このような攻撃を防ぐことができるのでしょうか?リスクは軽減できますが、完全に防ぐことはできません。

自動運転システムの存在目的は、緊急ブレーキシステムに頼るのではなく、可能な限り多くの安全上の危険を自動運転システム自体で処理することです。緊急ブレーキシステムは、自動運転の機能そのものを代替するために使用されるべきではありません。

そのため、自動運転サプライヤーがシステムレベルで抜け穴を解決する方法を見つけるしかない。チームは31社の自動運転企業に連絡を取り、そのほとんどが自社製品を再評価すると表明した。

4. 産学連携による成果<br /> この研究の著者チームは合計 9 人の研究者で構成されています。そのうち、同等の貢献をした第一著者 4 名は、カリフォルニア大学アーバイン校、ミシガン大学アナーバー校、アリゾナ州立大学、NVIDIA Research の出身です。彼らは、王寧菲、曹玉龍、肖超偉、楊大偉です。

教授の3人は、Qi Alfred Chen氏、Mingyan Liu氏、Bo Li氏です。さらに、業界からは、Baiduのディープラーニング技術と応用研究および国家工程研究所のJin Fang氏と、Inceptio TechnologyのCTOであるYang Ruigang氏の2人の研究者が参加しています。

3D プリントされた障害物は、無人運転車のアルゴリズムの 90% を簡単に騙すことができます。無人運転車はそれでも安全でしょうか?

3Dプリントの吸気システム、40人の大学生が手作りした「Ox」カー

国内の光硬化型3Dプリントの新たなブレークスルー：HITRY 8K投影ライトマシン

研究者は3Dプリント技術を使用して、建物のコンクリート部品のひび割れ耐性を63％大幅に向上させました。

アイルランド、骨の再生を効果的に助ける複雑な軟骨を3Dプリント

3Dプリントされた柔軟なウェアラブルデバイスが体温を利用して発電

画期的進歩 | iKang Medical の A3 全膝関節システムが FDA 認証を取得

気候変動対策における付加製造の役割

ルノー・トラックは3Dプリントを使用して、より軽量で効率的なエンジンを製造しています

プラズマ3Dプリントチタン部品は、エネルギーを大幅に節約し、消費量を削減し、航空宇宙分野で使用できます。

衣料品業界における3Dプリントの応用を理解するための1枚の写真

推薦する

隋建国教授がアリアンツ・アジア・パシフィックを訪問し、3Dプリント技術と現代アートの融合と革新について議論

ジョンソン・エンド・ジョンソン、アスペクト社と3Dプリント半月板で提携

3D Systems、医療専門家のレベッカ・ジー博士を医療顧問に任命

西北工科大学張衛宏院士：高速航空機における構造最適化と積層造形技術の応用と課題

上海珪酸塩研究所 3Dプリントされたバイオニックレンコンセラミックス足場は組織再生を促進することができる

Vlare Core Proは、12K解像度をサポートする最初の3Dプリント制御マザーボードです。

デザイナーの想像力は続く！ピンシェイプコンペティション第2週超素晴らしい受賞作品

新しいAIアルゴリズムが高解像度のカラー3Dプリントを実現

CSEMとSPSが協力して、車椅子ユーザー向けのカスタム3Dプリントクッションを製作、量産を計画中

アプリケーションの革新、効率の強化——2019年マリスカンファレンスが成功裏に開催されました

ORNL 研究所、オフロードロボット用の特殊部品を 3D プリント

受賞者発表: HP 3D プリンティングデザインコンペティションが大盛況のうちに終了

Autodesk Netfabb 3D プリントソフトウェアが上海展示会でデビュー

SCRAT3D 3Dデジタルクリエーション、ベビーシューズテクノロジーが赤ちゃんの健やかな成長を助けます

自動車産業は劇的な変革を遂げており、自動車産業における3Dプリントの応用は