JP7151725B2 - 制御装置、および制御方法、プログラム、並びに移動体 - Google Patents
制御装置、および制御方法、プログラム、並びに移動体 Download PDFInfo
- Publication number
- JP7151725B2 JP7151725B2 JP2019562988A JP2019562988A JP7151725B2 JP 7151725 B2 JP7151725 B2 JP 7151725B2 JP 2019562988 A JP2019562988 A JP 2019562988A JP 2019562988 A JP2019562988 A JP 2019562988A JP 7151725 B2 JP7151725 B2 JP 7151725B2
- Authority
- JP
- Japan
- Prior art keywords
- self
- location
- unit
- image
- feature
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 98
- PWPJGUXAGUPAHP-UHFFFAOYSA-N lufenuron Chemical compound C1=C(Cl)C(OC(F)(F)C(C(F)(F)F)F)=CC(Cl)=C1NC(=O)NC(=O)C1=C(F)C=CC=C1F PWPJGUXAGUPAHP-UHFFFAOYSA-N 0.000 title 1
- 238000012545 processing Methods 0.000 claims description 139
- 238000000605 extraction Methods 0.000 claims description 91
- 230000008569 process Effects 0.000 claims description 80
- 238000001514 detection method Methods 0.000 claims description 70
- 238000003384 imaging method Methods 0.000 claims description 45
- 230000010354 integration Effects 0.000 claims description 35
- 239000000284 extract Substances 0.000 claims description 31
- 230000001133 acceleration Effects 0.000 claims description 16
- 238000007689 inspection Methods 0.000 claims description 16
- 230000006870 function Effects 0.000 claims description 12
- 230000008859 change Effects 0.000 claims description 9
- 230000033001 locomotion Effects 0.000 description 96
- 230000009471 action Effects 0.000 description 41
- 238000004891 communication Methods 0.000 description 33
- 230000010391 action planning Effects 0.000 description 22
- 238000006243 chemical reaction Methods 0.000 description 15
- 230000006399 behavior Effects 0.000 description 14
- 238000010586 diagram Methods 0.000 description 7
- 230000000873 masking effect Effects 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 4
- 230000004807 localization Effects 0.000 description 4
- 238000013507 mapping Methods 0.000 description 4
- 230000000007 visual effect Effects 0.000 description 4
- 230000005856 abnormality Effects 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 3
- 230000007246 mechanism Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 239000002245 particle Substances 0.000 description 3
- 239000004065 semiconductor Substances 0.000 description 3
- 206010062519 Poor quality sleep Diseases 0.000 description 2
- 230000005484 gravity Effects 0.000 description 2
- 240000004050 Pentaglottis sempervirens Species 0.000 description 1
- 235000004522 Pentaglottis sempervirens Nutrition 0.000 description 1
- 241001648319 Toronia toru Species 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 238000005452 bending Methods 0.000 description 1
- 238000002485 combustion reaction Methods 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 230000008921 facial expression Effects 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 239000000446 fuel Substances 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000000116 mitigating effect Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003909 pattern recognition Methods 0.000 description 1
- 230000010287 polarization Effects 0.000 description 1
- 230000035939 shock Effects 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
- G05D1/0246—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
- G05D1/0251—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means extracting 3D information from a plurality of images taken from different locations, e.g. stereo vision
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/02—Systems using the reflection of electromagnetic waves other than radio waves
- G01S17/06—Systems determining position data of a target
- G01S17/42—Simultaneous measurement of distance and other co-ordinates
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/89—Lidar systems specially adapted for specific applications for mapping or imaging
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0268—Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means
- G05D1/0274—Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means using mapping information stored in a memory device
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
- G06T7/74—Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
- G06T2207/10012—Stereo images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Radar, Positioning & Navigation (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Electromagnetism (AREA)
- Remote Sensing (AREA)
- Theoretical Computer Science (AREA)
- Aviation & Aerospace Engineering (AREA)
- Automation & Control Theory (AREA)
- Computer Networks & Wireless Communication (AREA)
- Data Mining & Analysis (AREA)
- Multimedia (AREA)
- Life Sciences & Earth Sciences (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
- Image Analysis (AREA)
- Traffic Control Systems (AREA)
- Navigation (AREA)
Description
1.本開示の概要
2.第1の実施の形態
3.第2の実施の形態
4.第3の実施の形態
5.ソフトウェアにより実行させる例
認識処理部31は、センサ群21より供給される検出結果に基づいて、自己位置を推定する。
<本開示の移動体を制御する移動体制御システムの構成例>
上述した機能を実現させるための移動体11を制御する移動体制御システムについて説明する。
次に、図4を参照して、図3の移動体制御システム100のうち、認識処理部31に対応する自律移動制御部110の認識処理部121と、その周辺の具体的な構成例について説明する。
次に、図6のフローチャートを参照して、自己位置推定処理について説明する。
次に、図7のフローチャートを参照して、時系列情報自己位置推定処理について説明する。
次に、図8のフローチャートを参照して、現在情報自己位置推定処理について説明する。
次に、図9のフローチャートを参照して、図4の自律移動制御部110による位置画像特徴量登録処理について説明する。
以上においては、場所関連非特徴部は、場所と対応付けられる、デプス画像のうちの、位置の区別に有用な画像特徴量が多く含まれる範囲の情報であるが、場所を抽象化した場所属性を定義して、場所属性に対して、位置の区別に有用な画像特徴量が多く含まれる範囲の情報を対応付けるテーブルを設定することで、全ての場所に対して、場所関連非特徴部が設定されていない状態であっても、場所関連非特徴部を利用することが可能となる。
以上においては、場所関連非特徴部DB228に、予め場所に対応付けて、場所関連非特徴部が登録されている例について説明してきたが、位置画像特徴量DB225には、自己位置が特定される度に、位置と画像特徴量とが新たに登録されるので、位置画像特徴量DB225に新たに登録された位置と対応付けて登録された画像特徴量を利用して、場所関連非特徴部を新たに生成して、場所関連非特徴部DB228に登録させるようにしてもよい。
次に、図12のフローチャートを参照して、場所関連非特徴部生成登録処理について説明する。
以上においては、同一の位置において区別するために必要のない画像特徴量を排除して位置画像特徴量DB225を生成して、周囲に類似する物体が存在するような環境でも高精度に自己位置推定を実現する例について説明してきた。
次に、図14のフローチャートを参照して、図13の自律移動制御部110による位置画像特徴量登録処理について説明する。
次に、図15のフローチャートを参照して、図13の自律移動制御部110における自律移動制御処理について説明する。
次に、図16のフローチャートを参照して、自己位置不定モード処理について説明する。
ところで、上述した一連の処理は、ハードウェアにより実行させることもできるが、ソフトウェアにより実行させることもできる。一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のコンピュータなどに、記録媒体からインストールされる。
周囲の画像を撮像する撮像部と、
前記周囲の画像において前記自己位置を特定するのに有用でない範囲を表す場所関連非特徴部に基づいて、前記周囲の画像にマスクを生成する第1のマスク生成部と、
第1のマスク生成部によりマスクされた前記周囲の画像より、画像特徴量を抽出する第1の特徴量抽出部と、
前記画像特徴量と、前記自己位置推定部により推定された自己位置の位置情報とを対応付けてデータベースとして登録する登録部とを含む
制御装置。
<2> 前記第1のマスク生成部は、前記自己位置に対応する場所に応じて、前記周囲の画像において前記自己位置を特定するのに有用でない範囲を表す場所関連非特徴部に基づいて、前記周囲の画像において前記自己位置を特定するのに有用でない範囲である非特徴領域にマスクを生成する
<1>に記載の制御装置。
<3> 前記場所に対応付けて、前記場所関連非特徴部を登録する場所関連非特徴部データベースをさらに含み、
前記第1のマスク生成部は、前記自己位置に対応する場所に対応付けて、前記場所関連非特徴部データベースに登録された前記場所関連非特徴部に基づいて、前記周囲の画像にいて前記自己位置を特定するのに有用でない範囲である非特徴領域にマスクを生成する
<2>に記載の制御装置。
<4> 前記第1の特徴量抽出部は、前記撮像部により撮像された前記周囲の画像より、画像特徴量を抽出し、
前記データベースにおいて、前記画像特徴量に対応付けて登録されている前記位置情報を現在情報自己位置として推定する現在情報自己位置推定部をさらに含む
<1>乃至<3>のいずれかに記載の制御装置。
<5> 前記現在情報自己位置推定部により推定された現在情報自己位置と、前記自己位置推定部により推定された自己位置とを統合し、自己位置推定結果として出力する統合部をさらに含み、
前記統合部は、前記自己位置推定結果と、前記第1の特徴量抽出部により抽出された画像特徴量とを対応付けて、前記データベースに登録する
<4>に記載の制御装置。
<6> 前記自己位置に対応する場所に対応付けて、前記場所関連非特徴部を登録する場所関連非特徴部データベースと、
前記データベースに登録された位置に基づいて特定される同一の場所における複数の前記画像特徴量において、統計的に類似する範囲を、前記同一の場所に対応付けて、新規の前記場所関連非特徴部として生成し、前記場所関連非特徴部データベースに登録する場所関連非特徴部生成登録部をさらに含む
<5>に記載の制御装置。
<7> 前記周囲の画像において自己位置を特定するのに有用でない範囲を表す場所関連非特徴部に基づいて、前記周囲の画像において前記自己位置を特定するのに有用でない範囲である特徴領域にマスクを生成する第2のマスク生成部と、
前記第2のマスク生成部によりマスクされた前記周囲の画像より画像特徴量を非特徴領域特徴量として抽出する第2の特徴量抽出部と、
前記非特徴領域特徴量と、前記自己位置推定部により推定された自己位置の位置情報とを対応付けて位置非特徴領域特徴量データベースに登録する位置非特徴領域特徴量データベース登録部と、
前記現在情報自己位置に対応する場所の場所関連非特徴部に基づいて、前記周囲の画像に対して、非特徴領域特徴量を抽出する非特徴領域特徴量抽出部と、
前記非特徴領域特徴量抽出部により抽出された前記非特徴領域特徴量と、前記現在情報自己位置に対応付けて、前記位置非特徴領域特徴量データベースに登録されている前記非特徴領域特徴量との類似度により、前記現在情報自己位置を検査する検査部とをさらに含む
<5>に記載の制御装置。
<8> 前記統合部より出力される自己位置推定結果の時系列の変化量に基づいて、または、電源投入の有無により、自己位置不定状態であるか否かを判定する自己位置不定状態判定部をさらに含み、
前記自己位置不定状態である場合、前記統合部は、前記現在情報自己位置を自己位置推定結果として出力し、
前記検査部は、前記非特徴領域特徴量抽出部により抽出された前記非特徴領域特徴量と、前記現在情報自己位置に対応して、前記位置非特徴領域特徴量データベースに登録されている前記非特徴領域特徴量との類似度により、前記現在情報自己位置を検査し、
前記類似度が所定の閾値よりも低い場合、前記自己位置不定状態であるものとみなし、前記統合部は、前記現在情報自己位置を自己位置推定結果として出力し、
前記類似度が所定の閾値よりも高い場合、前記自己位置不定状態が解消したものとみなし、前記統合部は、前記現在情報自己位置推定部により推定された現在情報自己位置と、前記自己位置推定部により推定された自己位置とを統合し、自己位置推定結果として出力する
<7>に記載の制御装置。
<9> 前記場所関連非特徴部は、前記自己位置に対応する場所と、場所関連非特徴部とのテーブルより構成される
<1>乃至<8>のいずれかに記載の制御装置。
<10> 前記場所関連非特徴部は、前記自己位置に対応する場所と、前記場所を抽象化した場所属性とのテーブル、および、前記場所属性と、前記場所関連非特徴部とのテーブルより構成される
<9>に記載の制御装置。
<11> 前記撮像部は、ステレオカメラであり、
前記ステレオカメラにより撮像される、前記周囲の画像は、ステレオ画像であり、
前記ステレオ画像に基づいて、デプス画像を生成するデプス画像生成部をさらに含み、
前記第1のマスク生成部は、前記自己位置に対応する場所に応じて、前記周囲の画像において前記自己位置を特定するのに有用でない範囲を表す場所関連非特徴部に基づいて、前記デプス画像からなる前記周囲の画像にマスクを生成し、
前記第1の特徴量抽出部は、前記デプス画像からなる、前記マスクされた前記周囲の画像より、画像特徴量を抽出する
<1>乃至<10>のいずれかに記載の制御装置。
<12> 前記自己位置推定部は、
時系列に供給されるセンサ情報からなる時系列情報を用いて、前記自己位置を推定し、推定結果を時系列情報自己位置として出力する時系列情報自己位置推定部を含む
<1>乃至<11>のいずれかに記載の制御装置。
<13> 前記時系列情報は、LIDAR(Light Detection and Ranging、Laser Imaging Detection and Ranging)により検出される3次元点群データ、および車輪エンコーダにより検出される位置情報、姿勢、速度、加速度、および角速度である
<12>に記載の制御装置。
<14> 自己位置を推定する自己位置推定処理と、
周囲の画像を撮像する撮像処理と、
前記周囲の画像において前記自己位置を特定するのに有用でない範囲を表す場所関連非特徴部に基づいて、前記周囲の画像にマスクを生成する第1のマスク生成処理と、
第1のマスク生成処理によりマスクされた前記周囲の画像より、画像特徴量を抽出する第1の特徴量抽出処理と、
前記画像特徴量と、前記自己位置推定処理により推定された自己位置の位置情報とを対応付けてデータベースとして登録する登録処理とを含む
制御方法。
<15> 自己位置を推定する自己位置推定部と、
周囲の画像を撮像する撮像部と、
前記周囲の画像において前記自己位置を特定するのに有用でない範囲を表す場所関連非特徴部に基づいて、前記周囲の画像にマスクを生成する第1のマスク生成部と、
第1のマスク生成部によりマスクされた前記周囲の画像より、画像特徴量を抽出する第1の特徴量抽出部と、
前記画像特徴量と、前記自己位置推定部により推定された自己位置の位置情報とを対応付けてデータベースとして登録する登録部と
してコンピュータを機能させるプログラム。
<16> 自己位置を推定する自己位置推定部と、
周囲の画像を撮像する撮像部と、
前記周囲の画像において前記自己位置を特定するのに有用でない範囲を表す場所関連非特徴部に基づいて、前記周囲の画像にマスクを生成する第1のマスク生成部と、
第1のマスク生成部によりマスクされた前記周囲の画像より、画像特徴量を抽出する第1の特徴量抽出部と、
前記画像特徴量と、前記自己位置推定部により推定された自己位置の位置情報とを対応付けてデータベースとして登録する登録部と
を含む移動体。
<17> 自己位置を推定する自己位置推定部と、
周囲の画像を撮像する撮像部と、
前記周囲の画像において前記自己位置を特定するのに有用でない範囲を表す場所関連非特徴部に基づいて、前記周囲の画像にマスクを生成するマスク生成部と、
マスク生成部によりマスクされた前記周囲の画像より、画像特徴量を抽出する特徴量抽出部と、
前記画像特徴量と、前記自己位置推定部により推定された自己位置の位置情報とを対応付けてデータベースとして登録する登録部と、
前記データベースに基づいて、現在情報自己位置を推定する現在情報自己位置推定部とをさらに含み、
前記現在情報自己位置を推定する場合、
前記特徴量抽出部は、前記撮像部により撮像された前記周囲の画像より前記画像特徴量を抽出し、
前記現在情報自己位置推定部は、前記データベースにおいて、前記特徴量抽出部により抽出された前記画像特徴量に対応付けて登録されている前記位置情報を現在情報自己位置として推定する
制御装置。
<18> 自己位置を推定する自己位置推定処理と、
周囲の画像を撮像する撮像処理と、
前記周囲の画像において前記自己位置を特定するのに有用でない範囲を表す場所関連非特徴部に基づいて、前記周囲の画像にマスクを生成するマスク生成処理と、
マスク生成処理によりマスクされた前記周囲の画像より、画像特徴量を抽出する特徴量抽出処理と、
前記画像特徴量と、前記自己位置推定処理により推定された自己位置の位置情報とを対応付けてデータベースとして登録する登録処理と、
前記データベースに基づいて、現在情報自己位置を推定する現在情報自己位置推定処理とをさらに含み、
前記現在情報自己位置を推定する場合、
前記特徴量抽出処理は、前記撮像処理により撮像された前記周囲の画像より前記画像特徴量を抽出し、
前記現在情報自己位置推定処理は、前記データベースにおいて、前記特徴量抽出処理により抽出された前記画像特徴量に対応付けて登録されている前記位置情報を現在情報自己位置として推定する
制御方法。
<19> 自己位置を推定する自己位置推定部と、
周囲の画像を撮像する撮像部と、
前記周囲の画像において前記自己位置を特定するのに有用でない範囲を表す場所関連非特徴部に基づいて、前記周囲の画像にマスクを生成するマスク生成部と、
マスク生成部によりマスクされた前記周囲の画像より、画像特徴量を抽出する特徴量抽出部と、
前記画像特徴量と、前記自己位置推定部により推定された自己位置の位置情報とを対応付けてデータベースに登録する登録部と、
前記データベースに基づいて、現在情報自己位置を推定する現在情報自己位置推定部としてコンピュータを機能させ、
前記現在情報自己位置を推定する場合、
前記特徴量抽出部は、前記撮像部により撮像された前記周囲の画像より前記画像特徴量を抽出し、
前記現在情報自己位置推定部は、前記データベースにおいて、前記特徴量抽出部により抽出された前記画像特徴量に対応付けて登録されている前記位置情報を現在情報自己位置として推定する
プログラム。
<20> 自己位置を推定する自己位置推定部と、
周囲の画像を撮像する撮像部と、
前記周囲の画像において前記自己位置を特定するのに有用でない範囲を表す場所関連非特徴部に基づいて、前記周囲の画像にマスクを生成するマスク生成部と、
マスク生成部によりマスクされた前記周囲の画像より、画像特徴量を抽出する特徴量抽出部と、
前記画像特徴量と、前記自己位置推定部により推定された自己位置の位置情報とを対応付けてデータベースとして登録する登録部と、
前記データベースに基づいて、現在情報自己位置を推定する現在情報自己位置推定部とをさらに含み、
前記現在情報自己位置を推定する場合、
前記特徴量抽出部は、前記撮像部により撮像された前記周囲の画像より前記画像特徴量を抽出し、
前記現在情報自己位置推定部は、前記データベースにおいて、前記特徴量抽出部により抽出された前記画像特徴量に対応付けて登録されている前記位置情報を現在情報自己位置として推定する
移動体。
Claims (19)
- 自己位置を推定する自己位置推定部と、
周囲の画像を撮像する撮像部と、
前記周囲の画像において前記自己位置を特定するのに有用でない範囲を表す場所関連非特徴部に基づいて、前記周囲の画像にマスクを生成する第1のマスク生成部と、
第1のマスク生成部によりマスクされた前記周囲の画像より、画像特徴量を抽出する第1の特徴量抽出部と、
前記画像特徴量と、前記自己位置推定部により推定された自己位置の位置情報とを対応付けてデータベースとして登録する登録部とを含み、
前記第1のマスク生成部は、前記自己位置に対応する場所に応じて、前記周囲の画像において前記自己位置を特定するのに有用でない範囲を表す場所関連非特徴部に基づいて、前記周囲の画像において前記自己位置を特定するのに有用でない範囲である非特徴領域にマスクを生成する
制御装置。 - 前記場所に対応付けて、前記場所関連非特徴部を登録する場所関連非特徴部データベースをさらに含み、
前記第1のマスク生成部は、前記自己位置に対応する場所に対応付けて、前記場所関連非特徴部データベースに登録された前記場所関連非特徴部に基づいて、前記周囲の画像にいて前記自己位置を特定するのに有用でない範囲である非特徴領域にマスクを生成する
請求項1に記載の制御装置。 - 前記第1の特徴量抽出部は、前記撮像部により撮像された前記周囲の画像より、画像特徴量を抽出し、
前記データベースにおいて、前記画像特徴量に対応付けて登録されている前記位置情報を現在情報自己位置として推定する現在情報自己位置推定部をさらに含む
請求項1に記載の制御装置。 - 前記現在情報自己位置推定部により推定された現在情報自己位置と、前記自己位置推定部により推定された自己位置とを統合し、自己位置推定結果として出力する統合部をさらに含み、
前記統合部は、前記自己位置推定結果と、前記第1の特徴量抽出部により抽出された画像特徴量とを対応付けて、前記データベースに登録する
請求項3に記載の制御装置。 - 前記自己位置に対応する場所に対応付けて、前記場所関連非特徴部を登録する場所関連非特徴部データベースと、
前記データベースに登録された位置に基づいて特定される同一の場所における複数の前記画像特徴量において、統計的に類似する範囲を、前記同一の場所に対応付けて、新規の前記場所関連非特徴部として生成し、前記場所関連非特徴部データベースに登録する場所関連非特徴部生成登録部をさらに含む
請求項4に記載の制御装置。 - 前記周囲の画像において自己位置を特定するのに有用でない範囲を表す場所関連非特徴部に基づいて、前記周囲の画像において前記自己位置を特定するのに有用でない範囲である特徴領域にマスクを生成する第2のマスク生成部と、
前記第2のマスク生成部によりマスクされた前記周囲の画像より画像特徴量を非特徴領域特徴量として抽出する第2の特徴量抽出部と、
前記非特徴領域特徴量と、前記自己位置推定部により推定された自己位置の位置情報とを対応付けて位置非特徴領域特徴量データベースに登録する位置非特徴領域特徴量データベース登録部と、
前記現在情報自己位置に対応する場所の場所関連非特徴部に基づいて、前記周囲の画像に対して、非特徴領域特徴量を抽出する非特徴領域特徴量抽出部と、
前記非特徴領域特徴量抽出部により抽出された前記非特徴領域特徴量と、前記現在情報自己位置に対応付けて、前記位置非特徴領域特徴量データベースに登録されている前記非特徴領域特徴量との類似度により、前記現在情報自己位置を検査する検査部とをさらに含む
請求項4に記載の制御装置。 - 前記統合部より出力される自己位置推定結果の時系列の変化量に基づいて、または、電源投入の有無により、自己位置不定状態であるか否かを判定する自己位置不定状態判定部をさらに含み、
前記自己位置不定状態である場合、前記統合部は、前記現在情報自己位置を自己位置推定結果として出力し、
前記検査部は、前記非特徴領域特徴量抽出部により抽出された前記非特徴領域特徴量と、前記現在情報自己位置に対応して、前記位置非特徴領域特徴量データベースに登録されている前記非特徴領域特徴量との類似度により、前記現在情報自己位置を検査し、
前記類似度が所定の閾値よりも低い場合、前記自己位置不定状態であるものとみなし、前記統合部は、前記現在情報自己位置を自己位置推定結果として出力し、
前記類似度が所定の閾値よりも高い場合、前記自己位置不定状態が解消したものとみなし、前記統合部は、前記現在情報自己位置推定部により推定された現在情報自己位置と、前記自己位置推定部により推定された自己位置とを統合し、自己位置推定結果として出力する
請求項6に記載の制御装置。 - 前記場所関連非特徴部は、前記自己位置に対応する場所と、場所関連非特徴部とのテーブルより構成される
請求項1に記載の制御装置。 - 前記場所関連非特徴部は、前記自己位置に対応する場所と、前記場所を抽象化した場所属性とのテーブル、および、前記場所属性と、前記場所関連非特徴部とのテーブルより構成される
請求項8に記載の制御装置。 - 前記撮像部は、ステレオカメラであり、
前記ステレオカメラにより撮像される、前記周囲の画像は、ステレオ画像であり、
前記ステレオ画像に基づいて、デプス画像を生成するデプス画像生成部をさらに含み、
前記第1のマスク生成部は、前記自己位置に対応する場所に応じて、前記周囲の画像において前記自己位置を特定するのに有用でない範囲を表す場所関連非特徴部に基づいて、前記デプス画像からなる前記周囲の画像にマスクを生成し、
前記第1の特徴量抽出部は、前記デプス画像からなる、前記マスクされた前記周囲の画像より、画像特徴量を抽出する
請求項1に記載の制御装置。 - 前記自己位置推定部は、
時系列に供給されるセンサ情報からなる時系列情報を用いて、前記自己位置を推定し、推定結果を時系列情報自己位置として出力する時系列情報自己位置推定部を含む
請求項1に記載の制御装置。 - 前記時系列情報は、LIDAR(Light Detection and Ranging、Laser Imaging Detection and Ranging)により検出される3次元点群データ、および車輪エンコーダにより検出される位置情報、姿勢、速度、加速度、および角速度である
請求項11に記載の制御装置。 - 自己位置を推定する自己位置推定処理と、
周囲の画像を撮像する撮像処理と、
前記周囲の画像において前記自己位置を特定するのに有用でない範囲を表す場所関連非特徴部に基づいて、前記周囲の画像にマスクを生成する第1のマスク生成処理と、
第1のマスク生成処理によりマスクされた前記周囲の画像より、画像特徴量を抽出する第1の特徴量抽出処理と、
前記画像特徴量と、前記自己位置推定処理により推定された自己位置の位置情報とを対応付けてデータベースとして登録する登録処理とを含み、
前記第1のマスク生成処理は、前記自己位置に対応する場所に応じて、前記周囲の画像において前記自己位置を特定するのに有用でない範囲を表す場所関連非特徴部に基づいて、前記周囲の画像において前記自己位置を特定するのに有用でない範囲である非特徴領域にマスクを生成する
制御方法。 - 自己位置を推定する自己位置推定部と、
周囲の画像を撮像する撮像部と、
前記周囲の画像において前記自己位置を特定するのに有用でない範囲を表す場所関連非特徴部に基づいて、前記周囲の画像にマスクを生成する第1のマスク生成部と、
第1のマスク生成部によりマスクされた前記周囲の画像より、画像特徴量を抽出する第1の特徴量抽出部と、
前記画像特徴量と、前記自己位置推定部により推定された自己位置の位置情報とを対応付けてデータベースとして登録する登録部としてコンピュータを機能させ、
前記第1のマスク生成部は、前記自己位置に対応する場所に応じて、前記周囲の画像において前記自己位置を特定するのに有用でない範囲を表す場所関連非特徴部に基づいて、前記周囲の画像において前記自己位置を特定するのに有用でない範囲である非特徴領域にマスクを生成する
プログラム。 - 自己位置を推定する自己位置推定部と、
周囲の画像を撮像する撮像部と、
前記周囲の画像において前記自己位置を特定するのに有用でない範囲を表す場所関連非特徴部に基づいて、前記周囲の画像にマスクを生成する第1のマスク生成部と、
第1のマスク生成部によりマスクされた前記周囲の画像より、画像特徴量を抽出する第1の特徴量抽出部と、
前記画像特徴量と、前記自己位置推定部により推定された自己位置の位置情報とを対応付けてデータベースとして登録する登録部とを含み、
前記第1のマスク生成部は、前記自己位置に対応する場所に応じて、前記周囲の画像において前記自己位置を特定するのに有用でない範囲を表す場所関連非特徴部に基づいて、前記周囲の画像において前記自己位置を特定するのに有用でない範囲である非特徴領域にマスクを生成する
移動体。 - 自己位置を推定する自己位置推定部と、
周囲の画像を撮像する撮像部と、
前記周囲の画像において前記自己位置を特定するのに有用でない範囲を表す場所関連非特徴部に基づいて、前記周囲の画像にマスクを生成するマスク生成部と、
マスク生成部によりマスクされた前記周囲の画像より、画像特徴量を抽出する特徴量抽出部と、
前記画像特徴量と、前記自己位置推定部により推定された自己位置の位置情報とを対応付けてデータベースとして登録する登録部と、
前記データベースに基づいて、現在情報自己位置を推定する現在情報自己位置推定部とを含み、
前記マスク生成部は、前記自己位置に対応する場所に応じて、前記周囲の画像において前記自己位置を特定するのに有用でない範囲を表す場所関連非特徴部に基づいて、前記周囲の画像において前記自己位置を特定するのに有用でない範囲である非特徴領域にマスクを生成し、
前記現在情報自己位置を推定する場合、
前記特徴量抽出部は、前記撮像部により撮像された前記周囲の画像より前記画像特徴量を抽出し、
前記現在情報自己位置推定部は、前記データベースにおいて、前記特徴量抽出部により抽出された前記画像特徴量に対応付けて登録されている前記位置情報を現在情報自己位置として推定する
制御装置。 - 自己位置を推定する自己位置推定処理と、
周囲の画像を撮像する撮像処理と、
前記周囲の画像において前記自己位置を特定するのに有用でない範囲を表す場所関連非特徴部に基づいて、前記周囲の画像にマスクを生成するマスク生成処理と、
マスク生成処理によりマスクされた前記周囲の画像より、画像特徴量を抽出する特徴量抽出処理と、
前記画像特徴量と、前記自己位置推定処理により推定された自己位置の位置情報とを対応付けてデータベースとして登録する登録処理と、
前記データベースに基づいて、現在情報自己位置を推定する現在情報自己位置推定処理とを含み、
前記マスク生成処理は、前記自己位置に対応する場所に応じて、前記周囲の画像において前記自己位置を特定するのに有用でない範囲を表す場所関連非特徴部に基づいて、前記周囲の画像において前記自己位置を特定するのに有用でない範囲である非特徴領域にマスクを生成し、
前記現在情報自己位置を推定する場合、
前記特徴量抽出処理は、前記撮像処理により撮像された前記周囲の画像より前記画像特徴量を抽出し、
前記現在情報自己位置推定処理は、前記データベースにおいて、前記特徴量抽出処理により抽出された前記画像特徴量に対応付けて登録されている前記位置情報を現在情報自己位置として推定する
制御方法。 - 自己位置を推定する自己位置推定部と、
周囲の画像を撮像する撮像部と、
前記周囲の画像において前記自己位置を特定するのに有用でない範囲を表す場所関連非特徴部に基づいて、前記周囲の画像にマスクを生成するマスク生成部と、
マスク生成部によりマスクされた前記周囲の画像より、画像特徴量を抽出する特徴量抽出部と、
前記画像特徴量と、前記自己位置推定部により推定された自己位置の位置情報とを対応付けてデータベースに登録する登録部と、
前記データベースに基づいて、現在情報自己位置を推定する現在情報自己位置推定部としてコンピュータを機能させ、
前記マスク生成部は、前記自己位置に対応する場所に応じて、前記周囲の画像において前記自己位置を特定するのに有用でない範囲を表す場所関連非特徴部に基づいて、前記周囲の画像において前記自己位置を特定するのに有用でない範囲である非特徴領域にマスクを生成し、
前記現在情報自己位置を推定する場合、
前記特徴量抽出部は、前記撮像部により撮像された前記周囲の画像より前記画像特徴量を抽出し、
前記現在情報自己位置推定部は、前記データベースにおいて、前記特徴量抽出部により抽出された前記画像特徴量に対応付けて登録されている前記位置情報を現在情報自己位置として推定する
プログラム。 - 自己位置を推定する自己位置推定部と、
周囲の画像を撮像する撮像部と、
前記周囲の画像において前記自己位置を特定するのに有用でない範囲を表す場所関連非特徴部に基づいて、前記周囲の画像にマスクを生成するマスク生成部と、
マスク生成部によりマスクされた前記周囲の画像より、画像特徴量を抽出する特徴量抽出部と、
前記画像特徴量と、前記自己位置推定部により推定された自己位置の位置情報とを対応付けてデータベースとして登録する登録部と、
前記データベースに基づいて、現在情報自己位置を推定する現在情報自己位置推定部とを含み、
前記マスク生成部は、前記自己位置に対応する場所に応じて、前記周囲の画像において前記自己位置を特定するのに有用でない範囲を表す場所関連非特徴部に基づいて、前記周囲の画像において前記自己位置を特定するのに有用でない範囲である非特徴領域にマスクを生成し、
前記現在情報自己位置を推定する場合、
前記特徴量抽出部は、前記撮像部により撮像された前記周囲の画像より前記画像特徴量を抽出し、
前記現在情報自己位置推定部は、前記データベースにおいて、前記特徴量抽出部により抽出された前記画像特徴量に対応付けて登録されている前記位置情報を現在情報自己位置として推定する
移動体。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017253150 | 2017-12-28 | ||
JP2017253150 | 2017-12-28 | ||
PCT/JP2018/046018 WO2019131198A1 (ja) | 2017-12-28 | 2018-12-14 | 制御装置、および制御方法、プログラム、並びに移動体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2019131198A1 JPWO2019131198A1 (ja) | 2020-12-24 |
JP7151725B2 true JP7151725B2 (ja) | 2022-10-12 |
Family
ID=67067216
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019562988A Active JP7151725B2 (ja) | 2017-12-28 | 2018-12-14 | 制御装置、および制御方法、プログラム、並びに移動体 |
Country Status (4)
Country | Link |
---|---|
US (1) | US11822341B2 (ja) |
JP (1) | JP7151725B2 (ja) |
DE (1) | DE112018006730T5 (ja) |
WO (1) | WO2019131198A1 (ja) |
Families Citing this family (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11348269B1 (en) * | 2017-07-27 | 2022-05-31 | AI Incorporated | Method and apparatus for combining data to construct a floor plan |
JP7353747B2 (ja) * | 2018-01-12 | 2023-10-02 | キヤノン株式会社 | 情報処理装置、システム、方法、およびプログラム |
US11714411B2 (en) * | 2018-03-19 | 2023-08-01 | Honda Motor Co., Ltd. | Autonomous traveling work machine |
CN109344801A (zh) * | 2018-10-26 | 2019-02-15 | 京东方科技集团股份有限公司 | 一种物体检测方法及装置 |
JP7273696B2 (ja) * | 2019-11-15 | 2023-05-15 | 株式会社東芝 | 位置推定装置及びシステム |
CN111079669A (zh) * | 2019-12-20 | 2020-04-28 | 京东方科技集团股份有限公司 | 一种图像处理方法、装置及存储介质 |
JP7283378B2 (ja) * | 2019-12-26 | 2023-05-30 | 株式会社豊田自動織機 | 自己位置推定装置、移動体、自己位置推定方法、及び自己位置推定プログラム |
JP7415853B2 (ja) * | 2020-08-28 | 2024-01-17 | 株式会社豊田自動織機 | 自律走行車 |
WO2023085183A1 (ja) * | 2021-11-10 | 2023-05-19 | ソニーグループ株式会社 | 情報処理装置、情報処理方法および移動体 |
WO2023090213A1 (ja) * | 2021-11-18 | 2023-05-25 | ソニーグループ株式会社 | 情報処理装置、情報処理方法及びプログラム |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007155699A (ja) | 2005-12-08 | 2007-06-21 | Korea Electronics Telecommun | カメラ及び標識を用いた移動ロボットの測位システム及び方法 |
JP2010219573A (ja) | 2008-05-20 | 2010-09-30 | Ricoh Co Ltd | 画像処理装置、撮像装置、画像処理方法、及び、コンピュータプログラム |
US20160003637A1 (en) | 2013-11-01 | 2016-01-07 | Yahoo! Inc. | Route detection in a trip-oriented message data communications system |
WO2017038012A1 (ja) | 2015-08-28 | 2017-03-09 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ | 地図生成方法、自己位置推定方法、ロボットシステム、およびロボット |
JP2017187911A (ja) | 2016-04-05 | 2017-10-12 | シャープ株式会社 | 販売管理システム |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11219435A (ja) | 1998-02-03 | 1999-08-10 | Honda Motor Co Ltd | 自動車用白線検出装置 |
US6936414B2 (en) | 1999-12-22 | 2005-08-30 | Abbott Laboratories | Nucleic acid isolation method and kit |
JP4672175B2 (ja) | 2000-05-26 | 2011-04-20 | 本田技研工業株式会社 | 位置検出装置、位置検出方法、及び位置検出プログラム |
JP5148669B2 (ja) * | 2000-05-26 | 2013-02-20 | 本田技研工業株式会社 | 位置検出装置、位置検出方法、及び位置検出プログラム |
JP4953313B2 (ja) | 2007-09-10 | 2012-06-13 | 公立大学法人首都大学東京 | 環境認識システム、自律型移動体および環境認識プログラム |
JP2010033447A (ja) | 2008-07-30 | 2010-02-12 | Toshiba Corp | 画像処理装置および画像処理方法 |
JP5036084B2 (ja) * | 2010-10-14 | 2012-09-26 | シャープ株式会社 | 映像処理装置、映像処理方法、及びプログラム |
JP5699697B2 (ja) | 2011-03-07 | 2015-04-15 | セイコーエプソン株式会社 | ロボット装置、位置姿勢検出装置、位置姿勢検出プログラム、および位置姿勢検出方法 |
JP2014512522A (ja) * | 2011-03-18 | 2014-05-22 | ブリヂストン アメリカズ タイヤ オペレイションズ エルエルシー | 停止距離性能効率を分析する方法 |
US20140085205A1 (en) * | 2011-04-21 | 2014-03-27 | Cheolwoo Kim | Universal motion controller in which a 3d movement and a rotational input are possible |
US9632504B1 (en) * | 2015-04-30 | 2017-04-25 | X Development Llc | Robotic navigation based on building surface contours |
US10091436B2 (en) * | 2015-05-13 | 2018-10-02 | Samsung Electronics Co., Ltd. | Electronic device for processing image and method for controlling the same |
JP6645051B2 (ja) | 2015-07-07 | 2020-02-12 | トヨタ自動車株式会社 | 自己位置推定装置、自己位置推定方法及びプログラム |
JP6849330B2 (ja) * | 2015-08-28 | 2021-03-24 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America | 地図生成方法、自己位置推定方法、ロボットシステム、およびロボット |
JP6736334B2 (ja) * | 2016-04-07 | 2020-08-05 | 東芝テック株式会社 | 画像処理装置 |
-
2018
- 2018-12-14 DE DE112018006730.0T patent/DE112018006730T5/de active Pending
- 2018-12-14 WO PCT/JP2018/046018 patent/WO2019131198A1/ja active Application Filing
- 2018-12-14 JP JP2019562988A patent/JP7151725B2/ja active Active
- 2018-12-14 US US16/956,664 patent/US11822341B2/en active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007155699A (ja) | 2005-12-08 | 2007-06-21 | Korea Electronics Telecommun | カメラ及び標識を用いた移動ロボットの測位システム及び方法 |
JP2010219573A (ja) | 2008-05-20 | 2010-09-30 | Ricoh Co Ltd | 画像処理装置、撮像装置、画像処理方法、及び、コンピュータプログラム |
US20160003637A1 (en) | 2013-11-01 | 2016-01-07 | Yahoo! Inc. | Route detection in a trip-oriented message data communications system |
WO2017038012A1 (ja) | 2015-08-28 | 2017-03-09 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ | 地図生成方法、自己位置推定方法、ロボットシステム、およびロボット |
JP2017187911A (ja) | 2016-04-05 | 2017-10-12 | シャープ株式会社 | 販売管理システム |
Also Published As
Publication number | Publication date |
---|---|
WO2019131198A1 (ja) | 2019-07-04 |
DE112018006730T5 (de) | 2020-10-01 |
JPWO2019131198A1 (ja) | 2020-12-24 |
US20200402256A1 (en) | 2020-12-24 |
US11822341B2 (en) | 2023-11-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7151725B2 (ja) | 制御装置、および制御方法、プログラム、並びに移動体 | |
JP7043755B2 (ja) | 情報処理装置、情報処理方法、プログラム、及び、移動体 | |
JP7259749B2 (ja) | 情報処理装置、および情報処理方法、プログラム、並びに移動体 | |
JP7156305B2 (ja) | 制御装置、および制御方法、プログラム、並びに移動体 | |
KR102625488B1 (ko) | 제어 장치 및 제어 방법, 프로그램, 그리고 이동체 | |
WO2019130945A1 (ja) | 情報処理装置、情報処理方法、プログラム、及び移動体 | |
JP7143857B2 (ja) | 情報処理装置、情報処理方法、プログラム、及び、移動体 | |
JP7259274B2 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
JP7180670B2 (ja) | 制御装置、制御方法、並びにプログラム | |
JP7257737B2 (ja) | 情報処理装置、自己位置推定方法、及び、プログラム | |
US20200278208A1 (en) | Information processing apparatus, movable apparatus, information processing method, movable-apparatus control method, and programs | |
JP7147142B2 (ja) | 制御装置、および制御方法、プログラム、並びに移動体 | |
WO2021153176A1 (ja) | 自律移動装置、自律移動制御方法、並びにプログラム | |
US11906970B2 (en) | Information processing device and information processing method | |
WO2021033591A1 (ja) | 情報処理装置、および情報処理方法、並びにプログラム | |
US20220043458A1 (en) | Information processing apparatus and method, program, and mobile body control system | |
WO2021187299A1 (ja) | 情報処理装置、情報処理方法およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20211101 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220621 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220815 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220830 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220912 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7151725 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |