3D プリントされた障害物は、無人運転車のアルゴリズムの 90% を簡単に騙すことができます。無人運転車はそれでも安全でしょうか?

出典: スマートカーリファレンス

はじめに: Antarctic Bear は以前、「指紋ロック解除はどうですか?」と報告しました。「3Dプリントは数分でクラックされる」「たった1000元の3Dプリントマスクにより、Phone Xの顔認識がまたもクラックされた」。3Dプリント技術を使えば、指紋認識だけでなく、顔認識システムもクラックされる。現在、3Dプリントのバリケードは、自動運転のLIDARとADSシステムをクラックするのに使われている。

南極熊によると、つい最近、世界中の31社の自動運転企業が、同じ科学研究チームから次のような通知を受け取りました。「あなたのL4には重大な欠陥があり、その欠陥はマルチセンサー融合ソリューションに集中しています。3Dプリントされた障害物は、90％以上のLIDARおよびADSシステムを欺くことができます。いわゆるマルチセンサー融合は、実際には孤独の融合です。ほとんどすべての主流のL4ソリューションは免れられません。」

自動運転アルゴリズムのこのような重大な脆弱性は、大学の研究者やNVIDIA、百度、盈車科技などの業界リーダーを含む中国と米国の合同チームによって発見されました。関連論文は最近、トップクラスのコンピューターセキュリティカンファレンスIEEE S&P 2021に選出されました。

1. L4障害物認識の失敗率が90%を超える<br /> 問題は統合ソリューションにあります。自動運転システムでは、周囲の物体をリアルタイムで「認識」することが、すべての重要な運転判断の最も基本的な前提条件です。認識モジュールは、周囲の車両、歩行者、交通コーン（アイスクリームコーン）などの道路上の障害物をリアルタイムで検出する役割を担います。

現在、さまざまな企業が開発している高レベル（L4）無人車両システムは、一般的にマルチセンサー融合設計を採用しており、LiDARやカメラなどのさまざまな認識ソースを統合して、正確で冗長性の高い認識を実現します。

このような設計では、フロントセーフティ冗長性の出発点は、各認識ソースが同時に攻撃されないことであり、そのため、安全性を確保するために、攻撃されていないセンサーに依存するマルチセンサーフュージョンアルゴリズムが常に存在します。この基本的な安全設計の仮定は一般的には有効ですが、研究チームは、実験室外の現実世界では、このマルチセンサー融合障害物認識に抜け穴があることを発見しました。

異なる認識ソースを同時に攻撃したり、単一の認識ソースを攻撃したりすると、無人車両が障害物を認識できなくなり、直接衝突する可能性があります。この脆弱性の深刻度を評価するために、チームは MSF-ADV 攻撃を設計しました。この攻撃は、特定のマルチセンサー融合ベースの無人車両認識アルゴリズムで、上記の悪意のある 3D 障害物を自動的に生成できます。

このシステムの特徴は、有効性、堅牢性、隠蔽性、実現可能性です。テスト結果によると、この攻撃はさまざまな障害物タイプとマルチセンサー融合アルゴリズムにわたって 91% 以上の成功率を達成しました。同時に、チームは、システムによって生成された悪意のある 3D 障害物はドライバーの視点からは隠されており、実際の状況を完全にシミュレートしていることも発見しました。さらに、攻撃された車両のさまざまな位置と角度に対して有効であり、平均成功率は 95% を超えています。

L4 アルゴリズムの失敗率は 90% を超えています。それでもまだそれを使用しますか?

2. なぜ深刻なのでしょうか?
実験室で L4 システムを拷問することの実際的な意義は何ですか?研究チームが実験を設計する際の基本的な出発点は、それを現実世界で再現できるようにすることでした。そして実際に、チームはそれを実現しました。

ライダーとカメラを搭載した実際の車両テストでは、3Dプリントされ表面処理された交通コーンの識別におけるシステムの失敗率は99.1%にも達しました。

この状況の原因は、人工的に加工された悪意のある障害物です。物体の表面に特殊な処理が施されているため、レーダーエコー信号が変化し、システムが認識できなくなりました。いわゆる多重冗長視覚システムも状況を改善できませんでした。さらに、Baidu Apolloの自動運転テストでは、100％の認識失敗が発生しました。

この抜け穴によって生じる害と隠れた危険は甚大です。まず、物理世界での実装と展開が容易なため、攻撃者は 3D モデリングや 3D プリントを使用してこのような障害物を構築できます。市場には多くのオンライン 3D プリントサービスがあり、3D プリント機器を購入する必要もありません。

第二に、交通コーンなど、道路上の法的障害物を再現することができます。攻撃者は物体にセメントや金属などを詰め込む可能性があり、その重量は簡単に 100 キログラムを超えるため、非常に混乱を招き、重大な衝突を引き起こす可能性があります。

さらに、攻撃者は道路障害物の機能を利用して、無人車両だけを狙った攻撃を設計することもできます。生成された悪意のある障害物の後ろに釘やガラスの破片を置きます。このようにして、人間の運転手は通常、交通コーンを識別して迂回することができますが、無人車両は交通コーンを無視してタイヤが破裂します。この場合、悪意のある障害物オブジェクトは通常の交通コーンと同じくらい小さくて軽いため、3Dプリント、持ち運び、配置が容易になります。

3. 多感覚融合は完璧な解決策ではない<br /> この研究の主な価値は、マルチセンサー融合認識にもセキュリティ上の問題があることをすべての人に認識させることです。自動運転研究開発チームは、マルチセンサー融合を単一センサーへの攻撃に対する効果的な防御と常に考えてきましたが、この記事は、センサーを「積み重ねる」だけでは自動運転システムへの攻撃を根本的に防御できないことを証明しています。

自動車に一般的に装備されている緊急ブレーキシステムは、このような攻撃を防ぐことができるのでしょうか?リスクは軽減できますが、完全に防ぐことはできません。

自動運転システムの存在目的は、緊急ブレーキシステムに頼るのではなく、可能な限り多くの安全上の危険を自動運転システム自体で処理することです。緊急ブレーキシステムは、自動運転の機能そのものを代替するために使用されるべきではありません。

そのため、自動運転サプライヤーがシステムレベルで抜け穴を解決する方法を見つけるしかない。チームは31社の自動運転企業に連絡を取り、そのほとんどが自社製品を再評価すると表明した。

4. 産学連携による成果<br /> この研究の著者チームは合計 9 人の研究者で構成されています。そのうち、同等の貢献をした第一著者 4 名は、カリフォルニア大学アーバイン校、ミシガン大学アナーバー校、アリゾナ州立大学、NVIDIA Research の出身です。彼らは、王寧菲、曹玉龍、肖超偉、楊大偉です。

教授の3人は、Qi Alfred Chen氏、Mingyan Liu氏、Bo Li氏です。さらに、業界からは、Baiduのディープラーニング技術と応用研究および国家工程研究所のJin Fang氏と、Inceptio TechnologyのCTOであるYang Ruigang氏の2人の研究者が参加しています。

3D プリントされた障害物は、無人運転車のアルゴリズムの 90% を簡単に騙すことができます。無人運転車はそれでも安全でしょうか?

スポーツシューズブランドが 3D プリントを好むのはなぜでしょうか?

フルスタックの独自開発3Dプリント産業用ソフトウェア、Milight Speedがリスクゼロで海外をリード

宇宙探査に積層造形が必要な6つの理由

分析：3Dプリントはまだ普及していないが、製造業への影響は小さくない

3Dプリントモデルの傑作：動作するミニスバル4気筒エンジン

3MF 3D プリントファイル形式は、Autodesk、HP、Microsoft、Siemens など 13 社に採用されています。

レニショー、インド企業と提携し、エンドツーエンドの金属 3D プリント製品開発サービスを提供

オーストラリアの大学教授が3Dプリントのポータブル分析システムの開発に400万ドルを受け取る

7つの新しいパートナーがMaterialise CO-AMソフトウェアプラットフォームに加わり、プラットフォームの範囲を拡大

上海イノベーション博覧会では 3D プリントの展示が行われていますので、ぜひご来場ください。

推薦する

新しいプロセスにより、インク直接書き込み3Dプリント材料の引張応力が200%増加

中国サッカー代表チームは勢いをつけなければなりません。3Dプリント技術も活用しました。他には誰もそんなことはできません。

プロドウェイズがインターソン・プロタックを買収、3Dプリント補聴器をターゲットに

ノルウェー・チタニウムの高速プラズマ蒸着技術がエアバスの生産に適合

新しいアリアン6ヴィンチエンジンの推力室は3Dプリントを使用して製造されました。

「The Emperor's New Clothes」が、Peak の 3D プリントシューズを獲得するために 30,000 ブロックチェーン 3D プリントコインを入札

過去 10 年間の付加製造: 成果、影響、展望

GelSightとCASTORがHexagonのSixth Senseイノベーションプラットフォームで第1位と第2位を獲得

ICON は大規模な人員削減を発表し、5,600 万ドルのシリーズ C 資金調達を完了しました。建築 3D プリントの将来性はどのようなものでしょうか?

新しい3Dプリント発汗センサーは健康指標の監視を容易にする可能性がある

3Dプリントポリマーは衝撃波エネルギーを局所化できる

AM: 温度応答性粒子ハイドロゲルの4Dプリントにより形状制御変形が可能に

メイン大学は、所有権問題を解決するために、文化遺産を1:1で復元するために3Dプリント技術を使用する計画を立てています。

お知らせ: Antarctic Bear モバイルアプリが 3D プリントアクティビティ、カンファレンス、展示会のプレビュー機能を開始

アスペクト・バイオとノボ・ノルディスクがバイオプリントによる新しい組織治療法の開発で提携