3Dプリントされた箱が百度のアポロシステムを破壊し、LiDARで見えなくなる

3Dプリントされた箱が百度のアポロシステムを破壊し、LiDARで見えなくなる
出典: Quantum Bit

ディープ ニューラル ネットワークは、特定の敵対的サンプルに対して脆弱です。たとえば、画像分類ネットワークは、画像にわずかな変化を加えることで、パンダをテナガザルと誤認する可能性があります。



自動運転車に敵対的攻撃が行われ、道路脇の交通標識がわずかに改変されると、自動運転車はミスを犯してしまいます。



上で述べた敵対的攻撃はすべて 2 次元画像を対象としています。では、3次元の物体を検出するLiDARを使用することで、この問題を回避できるのでしょうか?

ミシガン大学、百度研究所、UIUC の研究者らは、一部の特殊な 3D 形状によって LiDAR が敵対的攻撃に対して脆弱になり、特定の物体を歩行者と誤認したり、無視したりすることさえあることを発見した。

この研究では、自動運転ベースのシステムの潜在的な脆弱性を明らかにし、さまざまな条件下で LiDAR 検出を回避できる敵対オブジェクトを生成する LiDAR-Adv 手法を提案します。

目に見えない奇妙な箱

研究者たちは道路の真ん中に2種類の箱を設置しました。



四角い宅配ボックスは当然ながらLIDARの目を逃れることができず、自動運転車はそれをうまく識別して迂回することができます。

以下は、LiDAR-Adv をベースにした 3D プリントを使用して研究者が作成したボックスです。これは、Baidu の Apollo 無人プラットフォーム (V2.0) でテストされました。LIDAR はこれを歩行者と誤認しました。

他の実験では、ライダーは75センチメートルほどの小さな物体さえ検出できなかった。

アポロ・プラットフォームで実施された実験により、ライダーは理論上だけでなく現実世界でも脆弱性があることが確認されました。奇妙な形の箱の中には、LIDAR では「見えない」ものもあります。



敵対的サンプルの生成

箱は明らかにそこにあるのに、なぜ見えないのでしょうか? LiDAR は物体の 3 次元画像を直接生成するのではなく、空間内の点群をスキャンし、その点群を機械学習システムに送り込んで物体を復元します。

LiDAR の仕組みはわかっていますが、敵対的サンプルを生成するのは簡単ではありません。まず、機械学習はブラックボックスシステムであり、形状の変動がスキャンされた点群にどのように影響するかは不明です。次に、点群の前処理は微分不可能であり、勾配ベースの最適化ツールは使用できません。



研究者らが提案したLiDAR-Advは上記の問題を解決します。彼らは、微分可能なライダー レンダラーをシミュレートし、3D オブジェクトの摂動をライダー スキャンのポイント クラウドに接続し、次に微分可能な代理関数を使用して 3D 機能の集約を定式化し、最後に生成された 3D 敵対オブジェクトの滑らかさを確保するためにさまざまな損失を設計しました。

50cmの大きさの物体に対して、LiDAR-Advは71%の攻撃成功率を達成できます。これは進化アルゴリズムのブラックボックス攻撃よりも高く、より大きなサイズの物体でも同様です。



さらに、LiDAR-Adv によって生成された敵対的オブジェクトもラベルを変更する可能性があり、その結果、LIDAR が特定のオブジェクトを歩行者として誤って検出することになります。



LiDAR-Adv の実験結果は、LIDAR システムのセキュリティに関する懸念を引き起こすのに十分であり、Baidu の研究者は、この研究によって潜在的な防御策が明らかになることを期待している。


3D プリント、印刷、印刷ボックス、ボックス、破壊

<<:  四川省人民病院は患者のために3Dプリントの人工骨盤を設置した。

>>:  東呉大学の江、メリーランド大学:バイオニックグラフェン材料を3Dプリント、より軽く、より強く!

推薦する

レーザーベースのマルチマテリアル金属3Dプリント技術の進歩

南極熊の紹介:一般的な3D印刷技術(AM)方法と比較して、マルチマテリアル3D印刷技術(MMAM)は...

3DプリントカーOlliが2.0アップグレード版を発売、部品を50%削減、労働時間を50%削減

2019年9月5日、アンタークティックベアは海外メディアから、アメリカの3Dプリント自動車メーカー...

米国の金属3Dプリンターメーカー一覧

この投稿は warrior bear によって 2022-2-20 22:12 に最後に編集されまし...

TAM は、標準 PLA よりも 30% 軽量な新しい 3D プリント フィラメント ProMatte を発売しました。

最近、アメリカの3DプリンターメーカーType A Machines(TAM)が新しい3Dプリントフ...

YishengはAMUGカンファレンスで高速印刷とさまざまな消費者向けおよび産業用の3D印刷材料を展示しました。

2023 AMUG カンファレンスは、2023 年 3 月 19 日から 23 日まで米国シカゴで...

MISはNASAと協力して宇宙3Dプリントおよび組み立てシステムを開発しています

NASA は 3D プリント技術を宇宙に導入する最前線に立っています。 2年前、彼らはMade I...

22万8000人分の情報が流出、3DモデルライブラリThingiverseのセキュリティ脆弱性の続報

はじめに:2021年10月14日、HaveIBeenPwned.comからのメッセージで、Maker...

MAGNOTHERMとDesktop Metalが3DプリントLa-Fe-Si磁気熱量蓄熱技術で協力

2024年10月9日、Antarctic Bearは、ドイツのスタートアップ企業MAGNOTHER...

耐熱コネクタの製造におけるマイクロナノ3Dプリント技術の応用

出典: MF Precisionビッグデータや5G時代の到来により、モバイル通信やコンピュータなどの...

メーカー教師として、半分の労力で 2 倍の結果を達成するために 3D プリンターをどのように選択すればよいでしょうか?

現在、全国の多くの小中学校では、3Dプリント興味クラブを設立し、3Dプリントコースを開設し、3Dプリ...

3D プリント大手 3D Systems が新 CEO を任命

Antarctic Bear は、2016 年 4 月 4 日に 3D Systems (NYSE...

3Dプリントバイオニック「Maimang」は調整可能な異方性摩擦と方向性駆動を実現

野生の小麦はどのようにして土壌に穴を掘り、野生での適応播種を実現するのでしょうか?咳をすると喉に詰ま...

高精度、オープンパラメータのセラミックレーザー3Dプリンター「CeraBuilder」

セラミック材料は、高強度、高硬度、耐高温性、耐腐食性などの特性を持ち、生物学、機械工学などの分野で広...

ドイツ鉄道の円滑な運行を支援する3Dプリントがシリコーン材料の新たな用途を開拓

ドイツの鉄道の日常的なメンテナンスは技術者にとって頭痛の種です。 100年以上の鉄道の歴史により、ド...