JP7412665B2 - Slam装置、slam攻撃対策プログラムおよび自律型モビリティ - Google Patents

Slam装置、slam攻撃対策プログラムおよび自律型モビリティ Download PDF

Info

Publication number
JP7412665B2
JP7412665B2 JP2023569752A JP2023569752A JP7412665B2 JP 7412665 B2 JP7412665 B2 JP 7412665B2 JP 2023569752 A JP2023569752 A JP 2023569752A JP 2023569752 A JP2023569752 A JP 2023569752A JP 7412665 B2 JP7412665 B2 JP 7412665B2
Authority
JP
Japan
Prior art keywords
slam
distance
point cloud
map
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2023569752A
Other languages
English (en)
Other versions
JPWO2023139793A1 (ja
Inventor
真士 福永
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Publication of JPWO2023139793A1 publication Critical patent/JPWO2023139793A1/ja
Application granted granted Critical
Publication of JP7412665B2 publication Critical patent/JP7412665B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/86Combinations of lidar systems with systems other than lidar, radar or sonar, e.g. with direction finders
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Electromagnetism (AREA)
  • General Physics & Mathematics (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
  • Image Analysis (AREA)

Description

本開示は、SLAMに対する攻撃の対策に関するものである。
SLAMは、自己位置の推定と環境地図の構成を同時に行う技術である。
SLAMは、周囲の環境データに基づき地図を構成し、同時にその地図に自己位置を投影する。これにより、地図がリアルタイムに更新されていく。
SLAMは、屋外だけでなく屋内の環境下でも、地図の作成と自己位置の推定を行うことができる。
SLAMは、Simultaneous Localization and Mappingの略称である。
SLAMは、LiDAR等のセンサから得られる測距データを用いて実行される。
LiDARは、近赤外線光を用いる測距装置であり、物体または周囲環境との距離を計測する。
LiDARの主な測定原理は直接測距である。直接測距には、ToFと呼ばれる原理が利用される。
ToFは、光が物体とセンサの間を往復する時間に基づいて距離を算出する方法である。
LiDARは、Light Detection And Rangingの略称である。
ToFは、Time of Flightの略称である。
SLAMは、自動運転システムに利用される。
自動運転システムは、人の目を介さないシステムであり、完全自動運転車および自動搬送車などのモビリティに搭載される。
SLAMに対する光照射インジェクション攻撃が知られている。
光照射インジェクション攻撃は、自動運転システムにおいて致命的な問題になる可能性がある。
この攻撃は、LiDARに対してレーザー光を照射する。これにより、SLAMによって作成される地図が壊れてしまう。図はレーザー光に対する後段の信号処理で生成されるが、カルマンフィルタが後段の信号処理で使われる場合であっても、この攻撃は可能である。
SLAMに対する攻撃により、自動運転システムが搭載されたモビリティの動作が妨害される。
この問題を解決するために、SLAMによって作成された2つの地図(現在の地図およい過去の地図)を比較し、一方の地図の中で欠けている箇所を見つけ、欠けている箇所を補完する、という方法が考えられる。
しかし、モビリティは移動する。例えば、時速50キロメートルの車は1秒間に約14メートル進む。そのため、地図の比較に時間がかかる場合、この解決方法は実用的ではない。地図の比較は地図の更新に要求される間隔よりも短い時間で終わることが望ましい。
特許文献1は、SLAMに対する攻撃の対策になり得る技術を開示している。具体的には、複数のSLAMアルゴリズムのそれぞれによって自己位置を推定し、推定された複数の自己位置に基づいて実際の自己位置を特定する、という方法が開示されている。
具体的な複数のSLAMアルゴリズムは、カメラを利用したSLAM用のアルゴリズムとLiDARを利用したSLAM用のアルゴリズムである。カメラを利用したSLAMは、Visual SLAMと呼ばれる。
Visual SLAMでは、画像の認識とSLAMの実行の2段階処理が実行される。そのため、Visual SLAMの処理時間は長い。
特開2020-160594号公報
SLAMに対する攻撃は、自動運転システムが搭載されたモビリティの動作を妨害できる。従来技術には、この問題を解決するために技術的な課題がある。具体的には、対策のための処理に時間がかかり自動運転システムの要求を満たすことができない、という課題がある。その原因は、SLAMに対する攻撃が新しく提案されている攻撃であるため対策が十分に確立されていないことである。
本開示は、SLAMに対する攻撃の対策にかかる時間を短くできるようにすることを目的とする。
本開示のSLAM装置は、LiDARセンサとカメラが設置される自律型モビリティに搭載される。
前記SLAM装置は、
前記LiDARセンサから計測点群データを取得し、前記計測点群データに基づいて第1三次元点群データを生成し、前記第1三次元点群データを用いてSLAMを実行することによって位置の推定と地図の生成を行う点群処理部と、
前記カメラから画像データを取得し、前記画像データに示される画像の中の特徴物体を認識し、前記カメラから前記特徴物体までの距離を相対距離として算出し、前記画像データを第2三次元点群データに変換する画像処理部と、
生成された地図に前記第2三次元点群データに示される三次元点群を重畳して前記地図における推定された位置から前記特徴物体までの距離を比較距離として算出し、前記比較距離を前記相対距離と比較し、前記比較距離と前記相対距離の差が許容範囲外の値である場合に前記第2三次元点群データを用いて前記SLAMに対する補間を行う攻撃検知部と、を備える。
本開示によれば、画像データから得られる三次元点群を地図に重畳してSLAMに対する攻撃を検知し、その三次元点群を用いて対策(補間)を講じることができる。その結果、SLAMに対する攻撃の対策にかかる時間を短くすることが可能になる。
実施の形態1における自律型モビリティ100の構成図。 実施の形態1におけるSLAM装置200の構成図。 実施の形態1におけるSLAM装置200の機能構成図。 実施の形態1におけるSLAM攻撃対策方法のフローチャート。 実施の形態1における自律型モビリティ100のハードウェア構成例を示す図。 実施の形態1におけるSLAM装置200のハードウェア構成図。
実施の形態および図面において、同じ要素または対応する要素には同じ符号を付している。説明した要素と同じ符号が付された要素の説明は適宜に省略または簡略化する。図中の矢印はデータの流れ又は処理の流れを主に示している。
実施の形態1.
自律型モビリティ100について、図1から図6に基づいて説明する。
***構成の説明***
図1に基づいて、自律型モビリティ100の構成を説明する。
自律型モビリティ100は、自律して走行する車両である。
自律型モビリティ100には、LiDARセンサ101とカメラ102が設置される。
LiDARセンサ101は、LiDARを実行するセンサであり、レーザースキャナ、レーザーレーダーまたは光学式レーダーともいう。LiDARにより、レーザー光が各方向に照射され、レーザー光を反射した各地点からの反射光が受光され、レーザー光を反射した各地点への距離および方向が計測される。
LiDARセンサ101は、周囲約100メートルの範囲を計測できる。
LiDARセンサ101によって得られるデータを計測点群データと称する。計測点群データは計測点群を示す。具体的には、計測点群データは、レーザー光を反射した地点(計測地点)ごとに計測距離および計測方向を示す。
カメラ102は、周囲を撮影し、周囲が映った画像を生成する。
カメラ102によって得られるデータを画像データと称する。画像データは画像を示す。
自律型モビリティ100は、SLAM装置200を備える。
SLAM装置200は、計測点群データに基づいてSLAMを実行する。SLAMにより、位置の推定および地図の生成が行われる。地図の生成には、地図の拡大および地図の更新が含まれる。
SLAMは、自己位置の推定を手助けするのでナビゲーション機能に活用することができる。自動運転における速度を考慮すると、地図更新の時間的間隔は10ヘルツ程度で十分であり、自己位置推定の時間的間隔は1ヘルツ程度で十分である。
SLAM装置200は、画像データを用いて、LiDARセンサ101に対する攻撃を検知する。LiDARセンサ101に対する攻撃が検知された場合、SLAM装置200は、画像データに基づいてSLAMに対する補間を行う。
LiDARセンサ101に対する攻撃の具体例は、光照射インジェクション攻撃である。
SLAM装置200は、物体認識機能を有する。物体認識機能は、自律型モビリティ100の進行方向にある障害物などを検知し、物体検知情報を得る。物体検知情報は、数百メートル先までに存在する物体を示す。
SLAM装置200は、ビジュアルオドメトリ機能を有する。ビジュアルオドメトリ機能は、連続する複数の画像に基づいてカメラ102の移動量(方向および距離)を推定し、移動量情報を記録する。移動量情報は、特定の座標系においてカメラ102がどの方向にどれだけ進んだかを示す。
自律型モビリティ100は、自律運転システム110とモータ103を備える。
自律運転システム110は、地図および位置に基づいて自律型モビリティ100を運転する。
自律運転システム110は、ナビゲーション機能とモータ制御機能を有する。ナビゲーション機能は、自律型モビリティ100を自動的に目的地に到達させる。モータ制御機能は、モータ103を制御し、モータ103によって回転される車輪の回転情報を記録する。実空間の尺度を示すスケール係数は、車輪の回転情報に基づいて算出される。
モータ103は、自律型モビリティ100を動かす駆動装置である。
モータ103は、自律型モビリティ100の車輪を回転させ、車輪の回転情報を自律運転システム110に送る。
図2に基づいて、SLAM装置200の構成を説明する。
SLAM装置200は、プロセッサ201とメモリ202と補助記憶装置203と入出力インタフェース204といったハードウェアを備えるコンピュータである。これらのハードウェアは、信号線を介して互いに接続されている。
プロセッサ201は、演算処理を行うICであり、他のハードウェアを制御する。例えば、プロセッサ201は、CPU、DSPまたはGPUである。
ICは、Integrated Circuitの略称である。
CPUは、Central Processing Unitの略称である。
DSPは、Digital Signal Processorの略称である。
GPUは、Graphics Processing Unitの略称である。
メモリ202は揮発性または不揮発性の記憶装置である。メモリ202は、主記憶装置またはメインメモリとも呼ばれる。例えば、メモリ202はRAMである。メモリ202に記憶されたデータは必要に応じて補助記憶装置203に保存される。
RAMは、Random Access Memoryの略称である。
補助記憶装置203は不揮発性の記憶装置である。例えば、補助記憶装置203は、ROM、HDD、フラッシュメモリまたはこれらの組み合わせである。補助記憶装置203に記憶されたデータは必要に応じてメモリ202にロードされる。
ROMは、Read Only Memoryの略称である。
HDDは、Hard Disk Driveの略称である。
入出力インタフェース204は、LiDARセンサ101、カメラ102および自律運転システム110などが接続されるポートである。
SLAM装置200は、点群処理部210と画像処理部220と攻撃検知部230といった要素を備える。これらの要素はソフトウェアで実現される。
補助記憶装置203には、点群処理部210と画像処理部220と攻撃検知部230としてコンピュータを機能させるためのSLAM攻撃対策プログラムが記憶されている。SLAM攻撃対策プログラムは、メモリ202にロードされて、プロセッサ201によって実行される。
補助記憶装置203には、さらに、OSが記憶されている。OSの少なくとも一部は、メモリ202にロードされて、プロセッサ201によって実行される。
プロセッサ201は、OSを実行しながら、SLAM攻撃対策プログラムを実行する。
OSは、Operating Systemの略称である。
SLAM攻撃対策プログラムの入出力データは記憶部290に記憶される。
メモリ202は記憶部290として機能する。但し、補助記憶装置203、プロセッサ201内のレジスタおよびプロセッサ201内のキャッシュメモリなどの記憶装置が、メモリ202の代わりに、又は、メモリ202と共に、記憶部290として機能してもよい。
SLAM装置200は、プロセッサ201を代替する複数のプロセッサを備えてもよい。
SLAM攻撃対策プログラムは、光ディスクまたはフラッシュメモリ等の不揮発性の記録媒体にコンピュータ読み取り可能に記録(格納)することができる。
図3に基づいて、SLAM装置200の機能構成を説明する。
点群処理部210は、点群生成部211とSLAM部212を備える。
SLAM部212は、位置推定部213と地図生成部214を備える。
画像処理部220は、物体認識部221と特徴物体選定部222と相対距離算出部223と画像変換部224を備える。
攻撃検知部230は、比較距離算出部231と距離比較部232とSLAM補間部233と動作切り替え部234を備える。
***動作の説明***
SLAM装置200の動作の手順はSLAM攻撃対策方法に相当する。また、SLAM装置200の動作の手順はSLAM攻撃対策プログラムによる処理の手順に相当する。
図4に基づいて、SLAM攻撃対策方法を説明する。
ステップS101において、LiDARセンサ101が計測を実行し、計測点群データを生成する。
点群生成部211は、LiDARセンサ101から計測点群データを取得する。
計測点群データは、計測地点ごとに計測距離および計測方向を示す。
ステップS102において、点群生成部211は、自己位置と計測点群データを用いて、三次元点群データを生成する。生成される三次元点群データを、第1三次元点群データと称する。
三次元点群データは三次元点群を示す。第1三次元点群データは、計測地点ごとに三次元座標値を示す。
LiDARセンサ101の三次元座標値に計測距離と計測方向を示すベクトルを足すことによって、計測地点の三次元座標値が算出される。LiDARセンサ101の三次元座標値は、自己位置を基準にして特定される。
ステップS103において、位置推定部213は、第1三次元点群データを用いてSLAMを実行することにより、自己位置を推定する。
ステップS104において、地図生成部214は、第1三次元点群データを用いてSLAMを実行することにより、地図データを生成する。
地図データは、自律型モビリティ100の周囲の地図を示す。地図データに示される地図は、環境地図またはSLAM地図ともいう。
ステップS103およびステップS104は、SLAMにおいて並行して実行される。
ステップS111において、カメラ102が撮影を行い、画像データを生成する。
物体認識部221は、カメラ102から画像データを取得する。
ステップS112において、物体認識部221は、画像データを用いて物体認識処理を実行する。物体認識処理では、画像データに対する画像処理が行われ、画像に映った物体が認識される。
特徴物体選定部222は、認識された物体の中から特徴物体を選定する。特徴物体は、予め決められる。
具体的には、特徴物体選定部222は、特定の特徴を有する物体を選定する。選定される物体が特徴物体である。特定の特徴は予め決められる。
特徴物体の具体例は壁である。壁は、頻繁に出現する物体であり、地図データにも反映される。
但し、カメラ102が攻撃されている場合、特徴物体が画像に映らず特徴物体が選定されないことがある。
ステップS113において、相対距離算出部223は、カメラ102から特徴物体までの距離を算出する。算出される距離を相対距離と称する。
壁(特徴物体)は、撮影される範囲の多くの部分を占めると考えられる。撮影された範囲における壁の中心とカメラ102の距離が相対距離となる。壁の中心は壁の輪郭に基づいて判定される。
相対距離の算出方法は、ステップS114で三次元座標値を求める方法と同じである。
但し、ステップS112で特徴物体が選定されなかった場合、ステップS113は実行されず相対距離が算出されない。
ステップS114において、画像変換部224は、画像データを変換して三次元点群データを生成する。
画像データは次のように三次元点群データに変換される。画像変換部224は、カメラ102の視野角と画像の中心から各画素までの距離とに基づいて、カメラ102を基点にして各画素に映った物体が見える角度を算出する。画像変換部224は、この算出操作を2回行う。これにより、カメラ102を基点にして物体の三次元座標値が求まる。そして、画像変換部224は、画素ごとに画素に映った物体の三次元座標値を示すデータを生成する。生成されるデータが三次元点群データである。
生成される三次元点群データを、第2三次元点群データと称する。
第2三次元点群データは、画素ごとに画素に映った地点の三次元座標値を示す。
ステップS101からステップS104までの処理とステップS111からステップS114までの処理は並行して実行される。
ステップS121において、比較距離算出部231は、第2三次元点群データを用いて、地図データに示される地図における自己位置から特徴物体までの距離を算出する。算出される距離を比較距離と称する。
比較距離は、以下のように算出される。
まず、比較距離算出部231は、第2三次元点群データに示される三次元点群を地図データに示される地図に重畳する。つまり、比較距離算出部231は三次元点群を地図にマッピングする。
次に、比較距離算出部231は、地図の中で特徴物体の三次元点群が反映された部分(対象部分)を特定する。
そして、比較距離算出部231は、自己位置から対象部分の中心までの距離を算出する。算出される距離が比較距離となる。
但し、LiDARセンサ101が攻撃されている場合、特徴物体が地図に示されず比較距離が算出されないことがある。
ステップS122において、比較距離算出部231は、相対距離と比較距離の比較が可能であるか判定する。
相対距離と比較距離の両方が算出された場合、相対距離と比較距離の比較が可能である。
相対距離と比較距離の比較が可能である場合、処理はステップS123に進む。
相対距離と比較距離の比較が可能でない場合、処理はステップS133に進む。
ステップS123において、距離比較部232は、比較距離を相対距離と比較する。
比較距離と相対距離の差が許容範囲内の値である場合、距離比較部232は、比較距離が相対距離と等しい、と判定する。許容範囲は予め決められる。
許容範囲は、統計処理によって決定することができる。
例えば、許容範囲は、3σに相当する範囲である。「σ」は、LiDARセンサ101とカメラ102の両方が攻撃を受けていないときの比較距離と相対距離の差の信頼区間である。3σは、信頼区間σの3倍の区間である。
LiDARセンサ101が計測できる最長距離が100メートル程度である場合、信頼区間σが1メートル以上10メートル以下であることが妥当である、と考えられる。
信頼区間σが5メートルである場合、3σは15メートルである。
比較距離と相対距離の差がマイナス7.5メートル以上またはプラス7.5メートル以上である場合、距離比較部232は、比較距離が相対距離と等しくない、と判定する。
比較距離が相対距離と等しい場合、LiDARセンサ101が攻撃されていない、と考えられる。この場合、処理はステップS131に進む。
比較距離が相対距離と等しくない場合、LiDARセンサ101が攻撃されている、と考えられる。この場合、処理はステップS132に進む。
ステップS131において、SLAM装置200は通常動作を継続する。
通常動作は、点群処理部210と画像処理部220と攻撃検知部230が動作するモードである。
具体的には、SLAM装置200は、図4に示される流れで処理を継続する。
つまり、処理は、ステップS101およびステップS111に進む。
ステップS132において、SLAM補間部233は、SLAMに対する補間(SLAM補間)を実行することによって、自己位置と地図を補間する。
具体的には、SLAM補間部233は、ビジュアルオドメトリ機能によって自己位置を推定する。そして、SLAM補間部233は、第2三次元点群データに示される三次元点群を自己位置に基づいて地図に反映することによって、地図を更新する。
ステップS132の後、処理はステップS101およびステップS111に進む。
ステップS133において、SLAMの補間または動作の切り替えが行われる。
相対距離が算出されたが比較距離が算出されなかった場合、カメラ102は攻撃されていないがLiDARセンサ101が攻撃されている、と考えられる。この場合、SLAM補間部233はSLAM補間を実行する。その後、処理はステップS101およびステップS111に進む。
相対距離が算出されなかった場合、動作切り替え部234は、特徴物体が地図に示されているか判定する。
特徴物体が地図に示されている場合、LiDARセンサ101は攻撃されていないがカメラ102が攻撃されている、と考えられる。この場合、動作切り替え部234は、SLAM装置200の動作を通常動作から簡略動作に切り替える。その後、SLAM装置200は、通常動作の代わりに簡略動作を実行する。
簡略動作は、点群処理部210は動作するが画像処理部220と攻撃検知部230が動作しないモードである。
簡略動作において、SLAM装置200は、ステップS101からステップS104までの処理だけを継続する。
相対距離が算出されず特徴物体が地図に示されていない場合、LiDARセンサ101とカメラ102の両方が攻撃されている、と考えられる。この場合、動作切り替え部234は、SLAM装置200を停止させる。その後、SLAM装置200は動作を停止する。
***実施例の説明***
LiDARは近赤外線を利用してToF原理で計測を行うため、鏡、ガラスまたは黒色塗料などの特定の物質に対する計測がし難い。計測は、特定の物質を一瞬で通り過ぎることもあるし、継続することもある。特定の物質が数メートルであり、特定の物質に対する計測が1回だけである場合、正しい距離が計測されなくても地図を壊すほどの影響を受けない、と考えられる。
SLAM装置200は、比較距離が相対距離と1回等しくないときではなく、既定の複数回連続して(例えば2回連続して)等しくないときに、SLAM補間(ステップS132)を実行してもよい。これにより、誤動作を防ぐことができる。
自律型モビリティ100が他のセンサを備えず、LiDARセンサ101とカメラ102の両方が攻撃されている場合、センサフュージョンによるロバストな運用ができない。
自律型モビリティ100は、センサフュージョンをより強固にするために、LiDARセンサ101とカメラ102の代わりとなる代替センサを備えてもよい。代替センサの具体例は、レーダーおよびIMUである。
レーダーは、LiDARセンサ101と同様のセンサであり、レーザー光の代わりに電波を使う。
IMUは、慣性航法に用いられる装置であり、3次元角速度および3次元加速度を計測する。慣性航法により、位置および速度が求まる。IMUは慣性計測装置の略称である。
LiDARセンサ101とカメラ102の両方が攻撃されている場合、動作切り替え部234は、SLAM装置200の動作を通常動作から代替動作に切り替える。その後、SLAM装置200は、通常動作の代わりに代替動作を実行する。
代替動作は、LiDARセンサ101とカメラ102の代わりに代替センサを利用するモードである。
代替動作において、SLAM装置200は、例えば、LiDARセンサ101の代わりに代替センサを利用してステップS101からステップS104までの処理を実行する。
***実施の形態1の効果***
実施の形態1は、SLAMを用いたナビゲーションシステムによって走行する自律型モビリティに対する妨害攻撃の対策に関する。
実施の形態1は、LiDARへの妨害を検知し、SLAMを補間することができる。
実施の形態1により、LiDARを介したSLAMに対する光照射インジェクション攻撃の対策を講じることができる。その結果、自律型モビリティの安全な運転を提供できる。
既存の技術として、カメラの点群データをLiDARの補助のために使用する、という方法がある。しかしながら、既存の技術において、カメラとLiDARのどちらが攻撃されたか判断することが難しい。
実施の形態1は、SLAM地図における距離の比較を行うことによって、その判断を容易にすることができる。
***実施の形態1の特徴***
自律型モビリティ100は、以下のような機能を備える。
第1機能は、LiDARセンサ101を使って物体までの距離を検知する。
第2機能は、カメラ102を使って物体までの距離を検知する。
第3機能は、両距離を比較する。
第4機能は、両距離が異なる場合、自己位置の補間を行う。このとき、第4機能は、カメラ102の物体検知情報とLiDARセンサ101のSLAM地図を比較することによって、自己位置の推定を補間する。第4機能は、別センサに頼った動作への切り替えを行ってもよい。
物体検知情報とSLAM地図が直接比較されることで、地図更新の間隔と攻撃検知の間隔に差異が生じない。そのため、地図の更新間隔に対する要件を満たしたまま対策を講じることができる。
***実施の形態1の補足***
図5に基づいて、自律型モビリティ100のハードウェア構成例を説明する。
自律型モビリティ100は、信号処理プロセッサ121と補間処理プロセッサ122と生成データメモリ129を備える。
信号処理プロセッサ121は、プロセッサ201に相当し、ステップS101からステップS104およびステップS111からステップS114を実行する。
補間処理プロセッサ122は、プロセッサ201に相当し、ステップS121からステップS123およびステップS131からステップS133を実行する。
生成データメモリ129は、メモリ202に相当する。
自律型モビリティ100は、運転制御プロセッサ131と回転情報メモリ139を備える。
運転制御プロセッサ131は、自律運転システム110のプロセッサである。
回転情報メモリ139は、自律運転システム110のメモリである。
***実施の形態の補足***
図6に基づいて、SLAM装置200のハードウェア構成を説明する。
SLAM装置200は処理回路209を備える。
処理回路209は、点群処理部210と画像処理部220と攻撃検知部230を実現するハードウェアである。
処理回路209は、専用のハードウェアであってもよいし、メモリ202に格納されるプログラムを実行するプロセッサ201であってもよい。
処理回路209が専用のハードウェアである場合、処理回路209は、例えば、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ASIC、FPGAまたはこれらの組み合わせである。
ASICは、Application Specific Integrated Circuitの略称である。
FPGAは、Field Programmable Gate Arrayの略称である。
SLAM装置200は、処理回路209を代替する複数の処理回路を備えてもよい。
処理回路209において、一部の機能が専用のハードウェアで実現されて、残りの機能がソフトウェアまたはファームウェアで実現されてもよい。
このように、SLAM装置200の機能はハードウェア、ソフトウェア、ファームウェアまたはこれらの組み合わせで実現することができる。
実施の形態1は、好ましい形態の例示であり、本開示の技術的範囲を制限することを意図するものではない。実施の形態1は、部分的に実施してもよいし、他の形態と組み合わせて実施してもよい。フローチャート等を用いて説明した手順は、適宜に変更してもよい。
SLAM装置200の要素である「部」は、「処理」、「工程」、「回路」または「サーキットリ」と読み替えてもよい。
100 自律型モビリティ、101 LiDARセンサ、102 カメラ、103 モータ、110 自律運転システム、121 信号処理プロセッサ、122 補間処理プロセッサ、123 動作プロセッサ、129 生成データメモリ、131 運転制御プロセッサ、139 回転情報メモリ、200 SLAM装置、201 プロセッサ、202 メモリ、203 補助記憶装置、204 入出力インタフェース、209 処理回路、210 点群処理部、211 点群生成部、212 SLAM部、213 位置推定部、214 地図生成部、220 画像処理部、221 物体認識部、222 特徴物体選定部、223 相対距離算出部、224 画像変換部、230 攻撃検知部、231 比較距離算出部、232 距離比較部、233 SLAM補間部、234 動作切り替え部、290 記憶部。

Claims (10)

  1. LiDARセンサとカメラが設置される自律型モビリティに搭載され、
    前記LiDARセンサから計測点群データを取得し、前記計測点群データに基づいて第1三次元点群データを生成し、前記第1三次元点群データを用いてSLAMを実行することによって位置の推定と地図の生成を行う点群処理部と、
    前記カメラから画像データを取得し、前記画像データに示される画像の中の特徴物体を認識し、前記カメラから前記特徴物体までの距離を相対距離として算出し、前記画像データを第2三次元点群データに変換する画像処理部と、
    生成された地図に前記第2三次元点群データに示される三次元点群を重畳して前記地図における推定された位置から前記特徴物体までの距離を比較距離として算出し、前記比較距離を前記相対距離と比較し、前記比較距離と前記相対距離の差が許容範囲外の値である場合に前記第2三次元点群データを用いて前記SLAMに対する補間を行う攻撃検知部と、
    を備えるSLAM装置。
  2. 前記攻撃検知部は、1回だけ前記差が前記許容範囲外の値であったときではなく規定の複数回以上連続して前記差が前記許容範囲外の値であったときに、前記補間を行う
    請求項1に記載のSLAM装置。
  3. 前記攻撃検知部は、前記補間として、ビジュアルオドメトリによる前記位置の推定と、前記第2三次元点群データを用いた前記地図の更新と、を行う
    請求項1または請求項2に記載のSLAM装置。
  4. 前記攻撃検知部は、前記比較距離を算出できず前記比較距離を前記相対距離と比較できなかった場合、前記補間を行う
    請求項3に記載のSLAM装置。
  5. 前記攻撃検知部は、前記相対距離が算出されず前記比較距離を前記相対距離と比較できなかった場合であり且つ前記特徴物体が前記地図に示されている場合、前記SLAM装置の動作を簡略動作に切り替え、
    前記簡略動作は、前記点群処理部が動作するが前記画像処理部と前記攻撃検知部が動作しないモードである
    請求項1から請求項4のいずれか1項に記載のSLAM装置。
  6. 前記攻撃検知部は、前記相対距離が算出されず前記比較距離を前記相対距離と比較できなかった場合であり且つ前記特徴物体が前記地図に示されていない場合、前記SLAM装置を停止させる
    請求項1から請求項5のいずれか1項に記載のSLAM装置。
  7. 前記SLAM装置は、前記LiDARセンサを代替する代替センサを備え、
    前記攻撃検知部は、前記相対距離が算出されず前記比較距離を前記相対距離と比較できなかった場合であり且つ前記特徴物体が前記地図に示されていない場合、前記SLAM装置の動作を代替動作に切り替え、
    前記代替動作は、前記LiDARセンサの代わりに前記代替センサを利用するモードである
    請求項1から請求項5のいずれか1項に記載のSLAM装置。
  8. 前記特徴物体が壁である請求項1から請求項7のいずれか1項に記載のSLAM装置。
  9. LiDARセンサとカメラが設置される自律型モビリティに搭載されるコンピュータのSLAM攻撃対策プログラムであり、
    前記LiDARセンサから計測点群データを取得し、前記計測点群データに基づいて第1三次元点群データを生成し、前記第1三次元点群データを用いてSLAMを実行することによって位置の推定と地図の生成を行う点群処理と、
    前記カメラから画像データを取得し、前記画像データに示される画像の中の特徴物体を認識し、前記カメラから前記特徴物体までの距離を相対距離として算出し、前記画像データを第2三次元点群データに変換する画像処理と、
    生成された地図に前記第2三次元点群データに示される三次元点群を重畳して前記地図における推定された位置から前記特徴物体までの距離を比較距離として算出し、前記比較距離を前記相対距離と比較し、前記比較距離と前記相対距離の差が許容範囲外の値である場合に前記第2三次元点群データを用いて前記SLAMに対する補間を行う攻撃検知処理と、
    を前記コンピュータに実行させるためのSLAM攻撃対策プログラム。
  10. 計測を行って計測点群データを生成するLiDARセンサと、
    撮影を行って画像データを生成するカメラと、
    前記計測点群データに基づいて位置の推定と地図の生成を行うSLAM装置と、
    推定された位置と生成された地図に基づいて自律運転を行う自律運転システムと、
    を備え、
    前記SLAM装置は、
    前記LiDARセンサから前記計測点群データを取得し、前記計測点群データに基づいて第1三次元点群データを生成し、前記第1三次元点群データを用いてSLAMを実行することによって前記位置の前記推定と前記地図の前記生成を行う点群処理部と、
    前記カメラから前記画像データを取得し、前記画像データに示される画像の中の特徴物体を認識し、前記カメラから前記特徴物体までの距離を相対距離として算出し、前記画像データを第2三次元点群データに変換する画像処理部と、
    生成された前記地図に前記第2三次元点群データに示される三次元点群を重畳して前記地図における推定された前記位置から前記特徴物体までの距離を比較距離として算出し、前記比較距離を前記相対距離と比較し、前記比較距離と前記相対距離の差が許容範囲外の値である場合に前記第2三次元点群データを用いて前記SLAMに対する補間を行う攻撃検知部と、を備える
    自律型モビリティ。
JP2023569752A 2022-01-24 2022-01-24 Slam装置、slam攻撃対策プログラムおよび自律型モビリティ Active JP7412665B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2022/002458 WO2023139793A1 (ja) 2022-01-24 2022-01-24 Slam装置、slam攻撃対策プログラムおよび自律型モビリティ

Publications (2)

Publication Number Publication Date
JPWO2023139793A1 JPWO2023139793A1 (ja) 2023-07-27
JP7412665B2 true JP7412665B2 (ja) 2024-01-12

Family

ID=87348539

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2023569752A Active JP7412665B2 (ja) 2022-01-24 2022-01-24 Slam装置、slam攻撃対策プログラムおよび自律型モビリティ

Country Status (2)

Country Link
JP (1) JP7412665B2 (ja)
WO (1) WO2023139793A1 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019028861A (ja) 2017-08-02 2019-02-21 ソニー株式会社 信号処理装置、および信号処理方法、プログラム、並びに移動体
JP2019207220A (ja) 2018-03-13 2019-12-05 本田技研工業株式会社 動的な交通参加者の除去による位置推定と地図生成の安定した同時実行
CN112785643A (zh) 2021-02-02 2021-05-11 武汉科技大学 一种基于机器人平台的室内墙角二维语义地图构建方法
JP2021135580A (ja) 2020-02-25 2021-09-13 三菱重工業株式会社 位置推定装置、制御装置、産業用車両、物流支援システム、位置推定方法およびプログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019028861A (ja) 2017-08-02 2019-02-21 ソニー株式会社 信号処理装置、および信号処理方法、プログラム、並びに移動体
JP2019207220A (ja) 2018-03-13 2019-12-05 本田技研工業株式会社 動的な交通参加者の除去による位置推定と地図生成の安定した同時実行
JP2021135580A (ja) 2020-02-25 2021-09-13 三菱重工業株式会社 位置推定装置、制御装置、産業用車両、物流支援システム、位置推定方法およびプログラム
CN112785643A (zh) 2021-02-02 2021-05-11 武汉科技大学 一种基于机器人平台的室内墙角二维语义地图构建方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
吉田 康太, 藤野 毅,「LiDAR-based SLAMにおける姿勢推定のためのICPアルゴリズムに対する敵対的スキャン生成攻撃」,電子情報通信学会技術研究報告,日本,一般社団法人電子情報通信学会,2020年07月13日,Vol.120, No.114,pages.81-86,ISSN 2432-6380

Also Published As

Publication number Publication date
WO2023139793A1 (ja) 2023-07-27
JPWO2023139793A1 (ja) 2023-07-27

Similar Documents

Publication Publication Date Title
CN108352056B (zh) 用于校正错误深度信息的系统和方法
US11132611B2 (en) Information processing apparatus and information processing method for determining presence probability of object
KR102508843B1 (ko) 서라운드 뷰 영상에서 차량의 자차 동작을 산정하는 방법 및 장치
KR101956447B1 (ko) 그래프 구조 기반의 무인체 위치 추정 장치 및 그 방법
US9151626B1 (en) Vehicle position estimation system
US9863775B2 (en) Vehicle localization system
US8295547B1 (en) Model-based feature tracking in 3-D and 2-D imagery
US11222438B2 (en) Information processing apparatus, vehicle, and information processing method for presence probability of object
KR20200044420A (ko) 위치 추정 방법 및 장치
JP7404010B2 (ja) 位置推定装置及び方法
US11321572B2 (en) Self-position estimation method and self-position estimation device
Nieuwenhuisen et al. Multimodal obstacle detection and collision avoidance for micro aerial vehicles
US11143511B2 (en) On-vehicle processing device
JP2009294214A (ja) 地形構造を用いたナビゲーション方法及びシステム
CN111308415B (zh) 一种基于时间延迟的在线估计位姿的方法和设备
Vivet et al. Radar-only localization and mapping for ground vehicle at high speed and for riverside boat
KR102288609B1 (ko) 다중 모듈 기반의 그래프 구조를 이용한 무인체 위치 추정 시스템 및 그 방법
JP7412665B2 (ja) Slam装置、slam攻撃対策プログラムおよび自律型モビリティ
US10249056B2 (en) Vehicle position estimation system
Broßeit et al. Fusion of doppler radar and geometric attributes for motion estimation of extended objects
WO2023234384A1 (ja) 地図生成装置、地図生成方法、及びコンピュータ読み取り可能な記録媒体
US20240077623A1 (en) Host vehicle position measuring device and host vehicle position measuring method
WO2023017624A1 (en) Drive device, vehicle, and method for automated driving and/or assisted driving
US20240098231A1 (en) Image processing device, image processing method, and computer-readable medium
CN111486837B (zh) 基于图结构的交通工具位置估计方法和使用其的交通工具

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20231109

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20231109

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231205

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231226

R150 Certificate of patent or registration of utility model

Ref document number: 7412665

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150