JP2023078488A - 物体検出装置、情報処理装置および物体検出方法 - Google Patents
物体検出装置、情報処理装置および物体検出方法 Download PDFInfo
- Publication number
- JP2023078488A JP2023078488A JP2020071594A JP2020071594A JP2023078488A JP 2023078488 A JP2023078488 A JP 2023078488A JP 2020071594 A JP2020071594 A JP 2020071594A JP 2020071594 A JP2020071594 A JP 2020071594A JP 2023078488 A JP2023078488 A JP 2023078488A
- Authority
- JP
- Japan
- Prior art keywords
- detection target
- radar
- detection
- radio waves
- area
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/02—Systems using reflection of radio waves, e.g. primary radar systems; Analogous systems
- G01S13/06—Systems determining position data of a target
- G01S13/42—Simultaneous measurement of distance and other co-ordinates
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/86—Combinations of radar systems with non-radar systems, e.g. sonar, direction finder
- G01S13/867—Combination of radar systems with cameras
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/88—Radar or analogous systems specially adapted for specific applications
- G01S13/93—Radar or analogous systems specially adapted for specific applications for anti-collision purposes
- G01S13/931—Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
- G06T7/74—Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/75—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
- G06V10/751—Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
Landscapes
- Engineering & Computer Science (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Networks & Wireless Communication (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Electromagnetism (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- Databases & Information Systems (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- Radar Systems Or Details Thereof (AREA)
Abstract
【課題】正確に物体検出することができる物体検出装置、情報処理装置および物体検出方法を提供する。【解決手段】本開示による物体検出装置は、第1領域に電波を送信して該第1領域内にある検出対象候補を検出するレーダと、第1領域を撮像して画像データを生成する撮像部と、画像データに基づいて前記検出対象候補の中から検出対象を識別する識別部と、検出対象を含み第1領域よりも狭い第2領域に対して電波を照射するように前記レーダを制御するレーダ制御部と、を備える。【選択図】図1
Description
本開示は、物体検出装置、情報処理装置および物体検出方法に関する。
従来より自動走行制御システム(ACC(Adoptive Cruise Control)は、前方(又は、後方、側方)の物体を認識するために、ミリ波レーダ、又は、カメラを用いた画像センサを用いている。ミリ波レーダは、物体までの距離を正確に測定するが、物体の形(大きさ、幅)を正確に認識することが困難である。一方、画像センサは、物体の形状や大きさを正確に認識するが、測距を正確に行うことは困難である。
そこで、ミリ波レーダとカメラとを組み合わせる装置が考えられている(特許文献1)。
しかし、ミリ波レーダで検出した測定結果とカメラで検出した測定結果とを単純に組み合わせても物体検出の精度は不充分であり、より正確に物体検出することが望まれている。
そこで、本開示は、正確に物体検出することができる物体検出装置、情報処理装置および物体検出方法を提供する。
本実施形態による物体検出装置は、第1領域に電波を送信して該第1領域内にある検出対象候補を検出するレーダと、第1領域を撮像して画像データを生成する撮像部と、画像データに基づいて検出対象候補の中から検出対象を識別する識別部と、検出対象を含み第1領域よりも狭い第2領域に対して電波を照射するようにレーダを制御するレーダ制御部と、を備える。
レーダは、第1領域において電波を送信し、反射されてきた電波の送受信点を検出し、送受信点をクラスタリングして検出対象候補を生成するデータ処理部をさらに備えてもよい。
レーダに対する検出対象候補の方向および相対距離から画像データにおける検出対象候補の座標へ変換する座標変換部と、画像データ上での検出対象候補の座標に基づいて、画像データから検出対象候補の画像部分を抽出する抽出部とをさらに備え、識別部は、抽出された検出対象候補の画像部分を用いて検出対象候補が検出対象であるか否かを識別し、レーダ制御部は、検出対象と判定された検出対象候補の方向および距離に基づいて、検出対象が第2領域に入るようにレーダを制御してもよい。
検出対象を特定するために照合の基準となる参照画像を格納するデータベースをさらに備え、識別部は、抽出された検出対象候補の画像部分と参照画像とを比較し、類似する参照画像のある検出対象候補を検出対象と識別してもよい。
レーダ制御部は、第1領域に電波を照射する第1モードと、第2領域に電波を照射する第2モードとの間で切り替えるようにレーダを制御してもよい。
レーダ制御部は、第1モードで識別された検出対象に対して、次の第2モードにおいて電波を照射するようにレーダを制御してもよい。
レーダ制御部は、第1モードおよび第2モードを交互に繰り返してもよい。
本開示による情報処理装置は、レーダから第1領域に電波を送信することによって検出された検出対象候補と撮像部から得られた画像データとに基づいて、検出対象候補の中から検出対象を識別する識別部と、検出対象を含み第1領域よりも狭い第2領域に対して電波を照射するようにレーダを制御するレーダ制御部と、を備える。
レーダから第1領域において電波を送信し、反射されてきた電波の送受信点をクラスタリングして検出対象候補を生成するデータ処理部をさらに備えてもよい。
レーダに対する検出対象候補の方向および相対距離から画像データにおける検出対象候補の座標へ変換する座標変換部と、画像データ上での検出対象候補の座標に基づいて、画像データから検出対象候補の画像部分を抽出する抽出部とをさらに備え、識別部は、抽出された検出対象候補の画像部分を用いて検出対象候補が検出対象であるか否かを識別し、レーダ制御部は、検出対象と判定された検出対象候補の方向および距離に基づいて、検出対象が第2領域に入るようにレーダを制御してもよい。
検出対象を特定するために照合の基準となる参照画像を格納するデータベースをさらに備え、識別部は、抽出された検出対象候補の画像部分と参照画像とを比較し、類似する参照画像のある検出対象候補を検出対象と識別してもよい。
レーダ制御部は、第1領域に電波を照射する第1モードと、第2領域に電波を照射する第2モードとの間で切り替えるようにレーダを制御してもよい。
レーダ制御部は、第1モードで識別された検出対象に対して、次の第2モードにおいて電波を照射するようにレーダを制御してもよい。
レーダ制御部は、第1モードおよび第2モードを交互に繰り返してもよい。
電波を送信するレーダと、画像を撮像する撮像部と、レーダからの検出情報および撮像部からの画像データを処理してレーダを制御する情報処理装置とを備えた物体検出装置を用いた物体検出方法であって、第1領域に電波を送信して該第1領域内にある検出対象候補を検出し、第1領域を撮像して画像データを生成し、画像データに基づいて検出対象候補の中から検出対象を識別し、検出対象を含み第1領域よりも狭い第2領域に対して電波を照射するようにレーダを制御する。
検出対象候補の検出は、第1領域において電波を送信し、反射されてきた電波の送受信点を検出し、送受信点をクラスタリングして検出対象候補を生成することを含んでもよい。
検出対象の識別は、レーダに対する検出対象候補の方向および相対距離から画像データにおける検出対象候補の座標へ変換し、画像データ上での検出対象候補の座標に基づいて、画像データから検出対象候補の画像部分を抽出し、抽出された検出対象候補の画像部分を用いて検出対象候補が検出対象であるか否かを識別することを含み、レーダの制御は、検出対象と判定された検出対象候補の方向および距離に基づいて、検出対象が第2領域に入るようにレーダを制御することを含んでもよい。
物体検出装置は、検出対象を特定するために照合の基準となる参照画像を格納するデータベースをさらに備え、検出対象の識別は、抽出された検出対象候補の画像部分と参照画像とを比較し、類似する参照画像のある検出対象候補を検出対象と識別することを含んでもよい。
レーダの制御は、第1領域に電波を照射する第1モードと、第2領域に電波を照射する第2モードとの間で周期的に交互に繰り返すように切り替えてもよい。
レーダの制御は、第1モードで識別された検出対象に対して、次の第2モードにおいて電波を照射してもよい。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
(第1実施形態)
図1は、第1実施形態による物体検出装置の構成例を示すブロック図である。物体検出装置100は、自動走行制御システムに用いられる装置であるが、これに限定されず、監視装置システム等の物体検出にも適用可能である。以下、本開示を自動車の自動走行制御システムに適用した例を説明するが、本開示の適用例はこれに限定されない。
図1は、第1実施形態による物体検出装置の構成例を示すブロック図である。物体検出装置100は、自動走行制御システムに用いられる装置であるが、これに限定されず、監視装置システム等の物体検出にも適用可能である。以下、本開示を自動車の自動走行制御システムに適用した例を説明するが、本開示の適用例はこれに限定されない。
物体検出装置100は、情報処理装置10と、ミリ波レーダ20と、撮像部30とを備えている。
ミリ波レーダ20は、送信回路21と、受信回路22と、制御回路23と、送信アンテナANTtと、受信アンテナANTrとを備える。送信回路21は、送信アンテナANTtから電波を送信する回路である。受信回路22は、物体から反射してきた電波を、受信アンテナANTrを介して受信する回路である。つまり、電波は、送信回路21から送信された後、物体に反射して受信回路22で受信される。
制御回路23は、送信回路21から送信される電波の強度(出力)、送信アンテナANTtの放射角(指向性)および送受信のタイミング等を制御する。これにより、制御回路23は、物体検出可能な距離を制御することができ、かつ、電波の照射領域(広域または狭域等)を制御する。即ち、制御回路23は、電波の走査範囲を制御し、物体検出の領域を変更することができる。
ミリ波レーダ20は、ミリ波の電波を前方に送信して反射波を受信し、この反射波を生じさせた物体の情報を検出する。ミリ波レーダ20は、例えば、物体の距離、角度、速度を精度良く測定可能であり、雨、霧などの影響を受けることが少ない。一方、ミリ波レーダ20は、例えば、物体の大きさ、形状を正確に測定することが困難である。ミリ波レーダ20は、受信したミリ波信号から信号強度を検出し、物体の相対距離、方向(角度)、相対速度などを得る。物体の相対距離および角度は、検出された物体の位置(極座標)を示す。相対速度は、ミリ波レーダ20に対する物体の相対速度である。
ミリ波レーダ20は、電波の送受信によって物体の相対距離、方向、相対速度および信号強度を、その電波を送受信した点(送受信点)ごとに検出する。そして、ミリ波レーダ20または情報処理装置10は、複数の送受信点の相対距離、方向、相対速度および信号強度を用いて、ほぼ等しい相対距離、相対速度および信号強度を有する複数の送受信点の集合体をクラスタリングして物体として検出する。即ち、ミリ波レーダ20は、電波の送受信によって得られる複数の送受信点の集合体として物体を検出する。ミリ波レーダ20は、周期的に電波を送信し、反射されてきた電波の送受信点の信号強度によって物体の有無を検出する。
ここで、ミリ波レーダ20で検出された電波は、実際に物体が存在しなくても、何らかの要因で、ほぼ等しい相対距離、相対速度および信号強度を有する送受信点の集合体を検出する場合もある。このような場合には、ミリ波レーダ20または情報処理装置10は、その送受信点の集合体を物体として検出してしまう。また、物体として存在していても、検出対象ではない物体を含む場合もある。例えば、自車の前方に走行する他車、人あるいは落下物等の障害物を検出対象とする場合、ガードレール、沿道の植樹またはトンネル等は検出対象ではない。つまり、非検出対象は、物体ではない虚像および検出対象ではない物体を含み、ミリ波レーダ20は、一旦、検出対象および非検出対象を区別なく検出する。従って、以下、検出された送受信点の集合体は、検出対象候補と呼ぶ。
撮像部30は、カメラ等により車両の前方の画像データを取得し、この画像データを処理することにより、前方にある物体の情報を検出する。撮像部30は、例えば、物体自体の大きさ、形、色等を精度良く撮像できる。一方、撮像部30は、例えば、雨、霧など環境の影響を受け易く、距離測定の精度が低い。撮像部30のカメラは、ミリ波レーダ20の電波の照射方向に向かっており、ミリ波レーダ20の電波の照射範囲を撮像する。
情報処理装置10は、データ処理部11と、抽出部12と、座標変換部13と、データベース14と、識別部15と、メモリ16と、レーダ制御部17とを含む。情報処理装置10は、1つまたは複数のCPU、RAM、ROM等で構成すればよい。
データ処理部11は、ミリ波レーダ20で検出された各送受信点の検出情報(相対距離、方向、相対速度および信号強度)を用いて、複数の送受信点の集合体をクラスタリングして検出対象候補を生成する。また、データ処理部11は、撮像部30で撮像された画像データの画像処理を行う。
メモリ16は、データ処理部11で処理された検出対象候補のデータおよび画像データ等を格納する。データベース14は、検出対象を特定するために照合の基準となる参照画像を格納する。参照画像は、検出対象として認識すべき物体の画像であり、例えば、様々な自動車、人等の画像である。また、参照画像は、非検出対象として認識すべき物体の画像であってもよい。参照画像は、予め準備してデータベース14へ格納しておいて、走行中に得られた画像データを用いて参照画像を生成し、データベース14へ登録してもよい。尚、検出対象候補が検出対象であるか否かを判断する方法は、下記の通り、参照画像と検出対象候補の画像部分とを直接比較するだけでなく、検出対象を見つけることができる方法であれば、特に限定しない。
座標変換部13は、ミリ波レーダ20からの検出対象候補の検出情報に基づいて、ミリ波レーダ20に対する検出対象候補の方向および相対距離(極座標)から、画像データ上における検出対象候補の座標に変換する。座標変換の方法は特に限定しない。
抽出部12は、座標変換部13で変換された検出対象候補の座標に基づいて、撮像部30で撮像された画像データから検出対象候補の画像部分を抽出する。例えば、複数の検出対象候補が検出された場合、抽出部12は、該複数の検出対象候補の輪郭に沿って画像データから各画像部分を切り出し、抽出する。抽出された検出対象候補の画像部分は、識別部15へ転送される。ミリ波レーダ20において、検出対象候補が検出されていない場合には、抽出部12は、検出対象候補の画像部分を画像データから抽出しない。
識別部15は、検出対象候補の画像部分の中から検出対象を識別する。このとき、識別部15は、データベース14に格納されたデータベースから検出対象の参照画像を参照する。検出対象候補の画像部分は、画像データの一部であるので、形状、大きさ、色等において比較的正確に把握することができる。よって、識別部15は、参照画像と検出対象候補の画像部分とを比較し、検出対象候補にほぼ等しいまたは類似する参照画像を検索することができる。そして、識別部15は、この検索でヒットした参照画像に基づき、検出対象候補が検出対象であるか否かを判断する。このように、識別部15は、各検出対象候補が検出対象であるか否かを識別することができる。尚、検出対象候補が検出対象であるか否かを判断する方法は、参照画像と検出対象候補の画像部分とを直接比較するだけでなく、検出対象を見つけることができる方法であれば、特に限定しない。例えば、画像部分から或る特徴量を抽出して予め決めたルールで検出対象を識別してもよい。SSD (Single Shot MultiBox Detector)、YOLO (You Only Look Once)等の物体検出モデルを用いて検出対象を検出してもよい。
検出対象として識別された検出対象候補の検出情報(相対距離、方向、相対速度および信号強度)は、その検出対象の検出情報としてそのまま適用され得る。従って、検出対象の画像情報(形状、大きさ、色等)だけでなく、検出対象の検出情報(相対距離、方向、相対速度および信号強度等)も判明する。つまり、識別部15は、検出対象の属性、距離、位置を正確に把握することができる。属性は、検出対象がどのようなものであるかを示す。例えば、検出対象の属性は、自動車、人、自転車、箱等である。
レーダ制御部17は、検出対象の検出情報をもとに、電波の照射方向を検出対象の方向にし、かつ、照射範囲を狭域にするようにミリ波レーダ20を制御する。制御回路23は、レーダ制御部17からの指令に従って、送信アンテナANTtからの電波の照射方向を決定し、照射範囲を狭域にする。検出対象の検出情報が正確に把握できるので、ミリ波レーダ20は、電波を狭域で送信しても、検出対象に対するビームフォーミングを確実に実行することができる。検出対象に対するビームフォーミングを行うことによって、情報処理装置10は、検出対象の高精度な検出情報(相対距離、方向(角度)、相対速度等)を得ることができる。尚、レーダ制御部17は、電波の照射範囲を広域と狭域の2段階に切り替えてもよく、3段階以上に切り替えてもよい。また、レーダ制御部17は、電波の照射範囲を連続的に変更できるように構成してもよい。
このように、本実施形態による物体検出装置100は、画像データからミリ波レーダ20で検出された検出対象候補の画像部分を抽出し、検出対象候補の画像部分を用いて検出対象を識別する。そして、物体検出装置100は、その検出対象に対して狭域で電波を送信しつつ、ビームフォーミングを行う。これにより、遠方に存在するような検出対象の検出精度を高めることができる。
次に、物体検出装置100を用いた物体検出方法を説明する。
図2は、本開示による物体検出方法の一例を示すフロー図である。図3は、ミリ波レーダ20からの電波の照射範囲を示す該略図である。
まず、ミリ波レーダ20は、広域モード(第1モード)で電波を送信し、反射波を受信する(S10)。広域モードは、電波を比較的広い範囲(第1領域)にスキャンして検出対象候補の検出を実行するモードである。例えば、図3に示すように、自車の位置(ミリ波レーダ20の位置)を原点Oとして、ミリ波レーダ20は、原点Oから150mまでの物体を検出可能であるものとする。広域モードでは、ミリ波レーダ20は、原点Oから150mの距離において、比較的広角の角度θWで挟まれた扇型の範囲Awに電波をスキャンする。
ミリ波レーダ20が、各送受信点の検出情報を情報処理装置10へ送信する(S20)。この検出情報は、メモリ16へ格納される。電波の送受信と併行して、撮像部30が、電波の照射範囲(第1領域)を含む領域の画像を撮像し、画像データを生成する(S30)。この画像データは、情報処理装置10へ送信され、メモリ16へ格納される(S40)。
次に、データ処理部11が、各送受信点の検出情報に基づいて、複数の送受信点をクラスタリングして検出対象候補を生成する(S50)。このとき、例えば、図3では、複数の送受信点Pは、3つの検出対象候補C1~C3にクラスタリングされている。また、データ処理部11は、撮像部30で撮像された画像データの画像処理を行う。
次に、座標変換部13が、検出対象候補C1~C3の方向および相対距離を、画像データ上における座標へ変換する(S60)。このとき、検出対象候補C1~C3に含まれる全ての送受信点の方向および相対距離が画像データ上における座標に変換される。あるいは、検出対象候補C1~C3の外縁に位置する送受信点のみの方向および相対距離が、画像データ上における座標に変換されてもよい。この場合、検出対象候補C1~C3の輪郭が画像データにおいて把握でき、尚且つ、座標変換部13の負荷を軽減し、座標変換時間を短縮することができる。
次に、抽出部12が、検出対象候補C1~C3の画像データ上の座標に基づいて、画像データから検出対象候補C1~C3の画像部分をそれぞれ抽出する(S70)。このとき、検出対象候補C1~C3のそれぞれの画像部分が画像データから切り出される。
次に、識別部15が、検出対象候補C1~C3の画像部分と参照画像とを比較し、検出対象候補に等しいまたは類似する参照画像を検索する(S80)。検索により、参照画像が検出対象候補C1~C3の画像部分のいずれかにヒットした場合、識別部15は、その参照画像に関連付けられた属性に基づいて、検出対象候補C1~C3が検出対象であるか否かを識別する。例えば、検出対象候補C3に類似するとしてヒットした参照画像が検出対象(例えば、自動車、歩行者等)である場合、識別部15は、検出対象候補C3を検出対象として識別する(S85)。一方、検出対象候補C3に類似するとしてヒットした参照画像が非検出対象(例えば、ガードレール、沿道の植樹等)である場合、識別部15は、検出対象候補C3を非検出対象として識別する。あるいは、いずれの参照画像も検出対象候補C3にヒットしなかった場合も、識別部15は、検出対象候補C3を非検出対象として識別する。
次に、レーダ制御部17は、検出対象として識別された検出対象候補に電波を照射するように、ミリ波レーダ20を狭域モード(第2モード)に切り替える(S90)。例えば、検出対象候補C1、C2が非検出対象であり、検出対象候補C3が検出対象である場合、レーダ制御部17は、検出対象候補C3の検出情報をもとに、電波の照射方向を検出対象候補C3の方向にし、かつ、照射範囲を狭域モードにするようにミリ波レーダ20を制御する。尚、検出対象が無い場合、レーダ制御部17は、ミリ波レーダ20を狭域モードに切り替える必要は無く、広域モードを継続してもよい。
次に、ミリ波レーダ20は、レーダ制御部17の指示に従って、狭域モードで検出対象C3の方向へ電波を照射する(S100)。狭域モードは、電波を比較的狭い範囲(第2領域)にスキャンして検出対象の検出を実行するモードである。例えば、図3に示すように、狭域モードでは、ミリ波レーダ20は、原点Oから検出対象C3の距離において、比較的狹角の角度θnで挟まれた扇型の範囲Anに電波をスキャンする。
ミリ波レーダ20は、狭域モードで得られた送受信点の検出情報をもとに、検出対象C3の検出情報を得る(S110)。これにより、ミリ波レーダ20は、非検出対象C1、C2へ電波を照射すること無く、必要最小限の検出対象C3へ電波を照射し、検出情報を得ることができる。その結果、検出対象を正確に検出することができるとともに、情報処理装置10の負荷を軽減し、検出対象C3の検出時間(検出サイクル)を短縮することができる。
広域モードから狭域モードへ切り替えた後、狭域モードから広域モードへ戻すタイミングは、任意の時点でよい。例えば、物体検出装置100は、広域モードから狭域モードへ切り替わってから所定期間が経過したときに、狭域モードから広域モードへ戻してもよい。また、物体検出装置100は、狭域モードにおいて検出対象が検出されなくなったときに、狭域モードから広域モードへ戻してもよい。そのまま、物体検出装置100は、広域モードにおいてステップS10~S85を再度実行して、検出対象を更新してもよい。
図4は、広域モードと狭域モードとの実行パターンを示すタイミング図である。図4の横軸は、時間を示す。また、図4では、情報処理装置10、ミリ波レーダ20および撮像部30の動作内容を示している。
まず、t0において、ミリ波レーダ20は、広域モードで電波の送受信を行う。送受信点の検出情報は、情報処理装置10へ送信される。一方、撮像部30は、広域モードにおける電波の照射範囲(第1領域)を含む領域を撮像し、画像データを生成する。画像データも、情報処理装置10へ送信される。
t0~t1における検出情報および画像データが情報処理装置10へ送られると、t1~t2において、情報処理装置10が、送受信点の検出情報に基づいて、複数の送受信点をクラスタリングして検出対象候補を生成する。また、情報処理装置10は、検出対象候補の座標を、画像データ上における座標へ変換し、画像データから検出対象候補の画像部分を抽出する。さらに、情報処理装置10は、検出対象候補が検出対象であるか否かを識別する。t1~t2において、これらのデータ処理を実行する。
t2~t3において、ミリ波レーダ20は、広域モードから狭域モードへ切り替えて、狭域モードで検出対象に対して電波の送受信を行う。狭域モードでは、画像データを用いた検出対象の識別処理は実行しないので、撮像部30は検出対象を撮像する必要は必ずしも無い。
その後、物体検出装置100は、t0~t3の動作を繰り返し実行する。即ち、レーダ制御部17は、広域モードと狭域モードとを交互に繰り返す。レーダ制御部17は、広域モードで識別された検出対象に対して、次の狭域モードにおいて電波を照射するようにミリ波レーダ20を制御する。これにより、自車の周囲の状況が変化しても、物体検出装置100は、状況の変化に対応して検出対象を逐次更新し、狭域モードにおける電波の照射方向を適切に変更することができる。t0~t3の時間(広域モードおよび狭域モードの1周期)は、周囲の状況変化の速さに応じて設定すればよい。例えば、渋滞していない高速道路では、歩行者、自転車の走行および飛び出しを考慮する必要がないので、t0~t3の時間は、比較的長くすることができる。一方、人通りの多い一般道では、歩行者、自転車の走行および飛び出しを考慮する必要があるので、t0~t3の時間は、比較的短くし、頻繁に検出対象を更新する必要がある。
以上のように、本開示による物体検出装置100は、ミリ波レーダ20で検出された検出対象候補の検出情報と撮像部30で撮像された画像データとを用いて、検出対象候補の画像部分を用いて、検出対象候補から検出対象を特定する。そして、物体検出装置100は、検出対象の検出情報をミリ波レーダ20へフィードバックして、狭域モードでも検出対象を精度良く検出することを可能にする。物体検出装置100は、検出対象に対して狭域モードで電波を送信しつつ、ビームフォーミングを行い、遠方の検出対象の検出精度を高めることができる。
(第2実施形態)
図5は、第2実施形態による広域モードと狭域モードとの他の実行パターンを示すタイミング図である。図5の実行パターンでは、情報処理装置10がデータ処理(図3のステップS50~S90)を実行している期間に併行して、ミリ波レーダ20は電波の送受信を行って検出対象候補の検出情報を生成し、かつ、撮像部30は画像データを生成する。
図5は、第2実施形態による広域モードと狭域モードとの他の実行パターンを示すタイミング図である。図5の実行パターンでは、情報処理装置10がデータ処理(図3のステップS50~S90)を実行している期間に併行して、ミリ波レーダ20は電波の送受信を行って検出対象候補の検出情報を生成し、かつ、撮像部30は画像データを生成する。
例えば、まず、t10~t11において、ミリ波レーダ20は、広域モードで電波の送受信を行う。送受信点の検出情報は、情報処理装置10へ送信される。一方、撮像部30は、広域モードにおける電波の照射範囲(第1領域)を含む領域を撮像し、画像データを生成する。画像データも、情報処理装置10へ送信される。
検出情報および画像データが情報処理装置10へ送られると、t11~t13において、情報処理装置10が、送受信点の検出情報に基づいて、検出対象候補を生成し、検出対象候補が検出対象であるか否かを識別する。t11~t13において、これらのデータ処理を実行する。t11~t13におけるデータ処理は、t10~t11において得られた検出情報および画像データ(第1フェーズのデータ)の処理である。
尚、t11以前において、情報処理装置10がデータ処理している場合、ミリ波レーダ20は、t11~t12において、情報処理装置10のデータ処理と併行して、広域モードから狭域モードへ切り替えて、そのt11以前に識別された検出対象に対して電波の送受信を行う。
t12~t13において、情報処理装置10は、第1フェーズデータのデータ処理を続ける。ミリ波レーダ20は、狭域モードから広域モードへ戻り、検出対象を更新するために、送受信点の検出情報を生成する。t13において、送受信点の検出情報は、情報処理装置10へ送信される。また、撮像部30は、広域モードにおける電波の照射範囲(第1領域)を含む領域を撮像し、画像データを生成する。t13において、画像データは、情報処理装置10へ送信される。このとき、送信される検出情報および画像データは、第2フェーズのデータである。
t13において、第2フェーズデータが情報処理装置10へ送られると、t13~t15において、情報処理装置10は、第2フェーズデータに基づいて、同様に検出対象を識別する。t13~t15におけるデータ処理は、第2フェーズデータのデータ処理である。
t13~t14において、情報処理装置10のデータ処理と併行して、ミリ波レーダ20は、広域モードから狭域モードへ切り替えて、第1フェーズデータを用いて得られた検出対象に対し、電波の送受信を行う。撮像部30も、t13~t14において、情報処理装置10のデータ処理と併行して、画像データを生成する。
t14~t15において、情報処理装置10は、第2フェーズデータのデータ処理を続ける。ミリ波レーダ20は、狭域モードから広域モードへ戻り、検出対象を更新するために、送受信点の検出情報を生成する。t15において、送受信点の検出情報は、情報処理装置10へ送信される。また、撮像部30は、広域モードにおける電波の照射範囲(第1領域)を含む領域を撮像し、画像データを生成する。t15において、画像データは、情報処理装置10へ送信される。このとき、送信される検出情報および画像データは、第3フェーズのデータである。
t15において、第3フェーズデータが情報処理装置10へ送られると、t15以降において、情報処理装置10は、第3フェーズデータに基づいて、同様に検出対象を識別する。t15以降におけるデータ処理は、第3フェーズデータのデータ処理である。
t15以降において、情報処理装置10のデータ処理と併行して、ミリ波レーダ20は、広域モードから狭域モードへ切り替えて、第2フェーズデータを用いて得られた検出対象に対し、電波の送受信を行う。撮像部30も、t15以降において、情報処理装置10のデータ処理と併行して、画像データを生成する。
このように、物体検出装置100は、例えば、t10~t12を1つの周期として、狭域モードおよび広域モードでの検出動作交互に連続して実行し、それと併行してデータ処理を実行する。このとき、物体検出装置100でのデータ処理は、その1周期前に生成された前フェーズの検出対象候補の検出情報と画像データを用いて実行される。これにより、物体検出装置100は、狭域モードおよび広域モードでの検出動作がシームレスに連続して実行することができる。その結果、物体の検出精度を向上させつつ、物体検出時間を短縮することができる。
本開示に係る技術(本技術)は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット等のいずれかの種類の移動体に搭載される装置として実現されてもよい。
図6は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システムの概略的な構成例を示すブロック図である。
車両制御システム12000は、通信ネットワーク12001を介して接続された複数の電子制御ユニットを備える。図6に示した例では、車両制御システム12000は、駆動系制御ユニット12010、ボディ系制御ユニット12020、車外情報検出ユニット12030、車内情報検出ユニット12040、及び統合制御ユニット12050を備える。また、統合制御ユニット12050の機能構成として、マイクロコンピュータ12051、音声画像出力部12052、及び車載ネットワークI/F(interface)12053が図示されている。
駆動系制御ユニット12010は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット12010は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。
ボディ系制御ユニット12020は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット12020は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット12020には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット12020は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
車外情報検出ユニット12030は、車両制御システム12000を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット12030には、撮像部12031が接続される。車外情報検出ユニット12030は、撮像部12031に車外の画像を撮像させるとともに、撮像された画像を受信する。車外情報検出ユニット12030は、受信した画像に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。本開示による物体検出装置100または情報処理装置10は、車外情報検出ユニット12030に備えられていてもよい。
撮像部12031は、光を受光し、その光の受光量に応じた電気信号を出力する光センサである。撮像部12031は、電気信号を画像として出力することもできるし、測距の情報として出力することもできる。また、撮像部12031が受光する光は、可視光であっても良いし、赤外線等の非可視光であっても良い。本開示による撮像部30は、撮像部12031であってもよく、あるいは、撮像部12031とは別体として設けられていてもよい。本開示による物体検出装置100または情報処理装置10は、撮像部12031に備えられていてもよい。
車内情報検出ユニット12040は、車内の情報を検出する。車内情報検出ユニット12040には、例えば、運転者の状態を検出する運転者状態検出部12041が接続される。運転者状態検出部12041は、例えば運転者を撮像するカメラを含み、車内情報検出ユニット12040は、運転者状態検出部12041から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。
マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット12010に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むADAS(Advanced Driver Assistance System)の機能実現を目的とした協調制御を行うことができる。
また、マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
また、マイクロコンピュータ12051は、車外情報検出ユニット12030で取得される車外の情報に基づいて、ボディ系制御ユニット12020に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車外情報検出ユニット12030で検知した先行車又は対向車の位置に応じてヘッドランプを制御し、ハイビームをロービームに切り替える等の防眩を図ることを目的とした協調制御を行うことができる。
音声画像出力部12052は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図6の例では、出力装置として、オーディオスピーカ12061、表示部12062及びインストルメントパネル12063が例示されている。表示部12062は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。
図7は、撮像部12031の設置位置の例を示す図である。
図7では、車両12100は、撮像部12031として、撮像部12101,12102,12103,12104,12105を有する。また、車両12100は、物体検出装置100を有する。
撮像部12101,12102,12103,12104,12105は、例えば、車両12100のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部等の位置に設けられる。フロントノーズに備えられる撮像部12101及び車室内のフロントガラスの上部に備えられる撮像部12105は、主として車両12100の前方の画像を取得する。サイドミラーに備えられる撮像部12102,12103は、主として車両12100の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部12104は、主として車両12100の後方の画像を取得する。撮像部12101及び12105で取得される前方の画像は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
なお、図7には、撮像部12101ないし12104の撮影範囲の一例が示されている。撮像範囲12111は、フロントノーズに設けられた撮像部12101の撮像範囲を示し、撮像範囲12112,12113は、それぞれサイドミラーに設けられた撮像部12102,12103の撮像範囲を示し、撮像範囲12114は、リアバンパ又はバックドアに設けられた撮像部12104の撮像範囲を示す。例えば、撮像部12101ないし12104で撮像された画像データが重ね合わせられることにより、車両12100を上方から見た俯瞰画像が得られる。
撮像部12101ないし12104の少なくとも1つは、距離情報を取得する機能を有していてもよい。例えば、撮像部12101ないし12104の少なくとも1つは、複数の撮像素子からなるステレオカメラであってもよいし、位相差検出用の画素を有する撮像素子であってもよい。
例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を基に、撮像範囲12111ないし12114内における各立体物までの距離と、この距離の時間的変化(車両12100に対する相対速度)を求めることにより、特に車両12100の進行路上にある最も近い立体物で、車両12100と略同じ方向に所定の速度(例えば、0km/h以上)で走行する立体物を先行車として抽出することができる。さらに、マイクロコンピュータ12051は、先行車の手前に予め確保すべき車間距離を設定し、自動ブレーキ制御(追従停止制御も含む)や自動加速制御(追従発進制御も含む)等を行うことができる。このように運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を元に、立体物に関する立体物データを、2輪車、普通車両、大型車両、歩行者、電柱等その他の立体物に分類して抽出し、障害物の自動回避に用いることができる。例えば、マイクロコンピュータ12051は、車両12100の周辺の障害物を、車両12100のドライバが視認可能な障害物と視認困難な障害物とに識別する。そして、マイクロコンピュータ12051は、各障害物との衝突の危険度を示す衝突リスクを判断し、衝突リスクが設定値以上で衝突可能性がある状況であるときには、オーディオスピーカ12061や表示部12062を介してドライバに警報を出力することや、駆動系制御ユニット12010を介して強制減速や回避操舵を行うことで、衝突回避のための運転支援を行うことができる。
撮像部12101ないし12104の少なくとも1つは、赤外線を検出する赤外線カメラであってもよい。例えば、マイクロコンピュータ12051は、撮像部12101ないし12104の撮像画像中に歩行者が存在するか否かを判定することで歩行者を認識することができる。かかる歩行者の認識は、例えば赤外線カメラとしての撮像部12101ないし12104の撮像画像における特徴点を抽出する手順と、物体の輪郭を示す一連の特徴点にパターンマッチング処理を行って歩行者か否かを判別する手順によって行われる。マイクロコンピュータ12051が、撮像部12101ないし12104の撮像画像中に歩行者が存在すると判定し、歩行者を認識すると、音声画像出力部12052は、当該認識された歩行者に強調のための方形輪郭線を重畳表示するように、表示部12062を制御する。また、音声画像出力部12052は、歩行者を示すアイコン等を所望の位置に表示するように表示部12062を制御してもよい。
以上、本開示に係る技術は、例えば、車外情報検出ユニット12030に適用され得る。具体的には、車外情報検出ユニット12030に、上述の物体検出装置100を実装することができる。撮像部12031に、本開示に係る技術を適用することにより、幅広い明るさダイナミックレンジの環境において、正確な距離情報を得ることができ、車両12100の機能性および安全性を高めることができる。
なお、本技術は、以下のような構成をとることができる。
(1)
第1領域に電波を送信して該第1領域内にある検出対象候補を検出するレーダと、
前記第1領域を撮像して画像データを生成する撮像部と、
前記画像データに基づいて前記検出対象候補の中から検出対象を識別する識別部と、
前記検出対象を含み前記第1領域よりも狭い第2領域に対して電波を照射するように前記レーダを制御するレーダ制御部と、を備える物体検出装置。
(2)
前記レーダは、前記第1領域において電波を送信し、反射されてきた電波の送受信点を検出し、
前記送受信点をクラスタリングして前記検出対象候補を生成するデータ処理部をさらに備える、(1)に記載の物体検出装置。
(3)
前記レーダに対する前記検出対象候補の方向および相対距離から前記画像データにおける前記検出対象候補の座標へ変換する座標変換部と、
前記画像データ上での前記検出対象候補の座標に基づいて、前記画像データから前記検出対象候補の画像部分を抽出する抽出部とをさらに備え、
前記識別部は、抽出された前記検出対象候補の画像部分を用いて前記検出対象候補が前記検出対象であるか否かを識別し、
前記レーダ制御部は、前記検出対象と判定された前記検出対象候補の方向および距離に基づいて、前記検出対象が前記第2領域に入るように前記レーダを制御する、(1)または(2)に記載の物体検出装置。
(4)
前記検出対象を特定するために照合の基準となる参照画像を格納するデータベースをさらに備え、
前記識別部は、抽出された前記検出対象候補の画像部分と前記参照画像とを比較し、類似する参照画像のある前記検出対象候補を前記検出対象と識別する、(3)に記載の物体検出装置。
(5)
前記レーダ制御部は、前記第1領域に電波を照射する第1モードと、前記第2領域に電波を照射する第2モードとの間で切り替えるように前記レーダを制御する、(1)から(4)のいずれか一項に記載の物体検出装置。
(6)
前記レーダ制御部は、前記第1モードで識別された前記検出対象に対して、次の前記第2モードにおいて電波を照射するように前記レーダを制御する、(5)に記載の物体検出装置。
(7)
前記レーダ制御部は、前記第1モードおよび前記第2モードを交互に繰り返す、(5)または(6)に記載の物体検出装置。
(8)
レーダから第1領域に電波を送信することによって検出された検出対象候補と撮像部から得られた画像データとに基づいて、前記検出対象候補の中から検出対象を識別する識別部と、
前記検出対象を含み前記第1領域よりも狭い第2領域に対して電波を照射するように前記レーダを制御するレーダ制御部と、を備える情報処理装置。
(9)
前記レーダから前記第1領域において電波を送信し、反射されてきた電波の送受信点をクラスタリングして前記検出対象候補を生成するデータ処理部をさらに備える、(8)に記載の情報処理装置。
(10)
前記レーダに対する前記検出対象候補の方向および相対距離から前記画像データにおける前記検出対象候補の座標へ変換する座標変換部と、
前記画像データ上での前記検出対象候補の座標に基づいて、前記画像データから前記検出対象候補の画像部分を抽出する抽出部とをさらに備え、
前記識別部は、抽出された前記検出対象候補の画像部分を用いて前記検出対象候補が前記検出対象であるか否かを識別し、
前記レーダ制御部は、前記検出対象と判定された前記検出対象候補の方向および距離に基づいて、前記検出対象が前記第2領域に入るように前記レーダを制御する、(8)または(9)に記載の情報処理装置。
(11)
前記検出対象を特定するために照合の基準となる参照画像を格納するデータベースをさらに備え、
前記識別部は、抽出された前記検出対象候補の画像部分と前記参照画像とを比較し、類似する参照画像のある前記検出対象候補を前記検出対象と識別する、(10)に記載の情報処理装置。
(12)
前記レーダ制御部は、前記第1領域に電波を照射する第1モードと、前記第2領域に電波を照射する第2モードとの間で切り替えるように前記レーダを制御する、(8)から(11)のいずれか一項に記載の情報処理装置。
(13)
前記レーダ制御部は、前記第1モードで識別された前記検出対象に対して、次の前記第2モードにおいて電波を照射するように前記レーダを制御する、(12)に記載の情報処理装置。
(14)
前記レーダ制御部は、前記第1モードおよび前記第2モードを交互に繰り返す、(12)または(13)に記載の情報処理装置。
(15)
電波を送信するレーダと、画像を撮像する撮像部と、前記レーダからの検出情報および前記撮像部からの画像データを処理して前記レーダを制御する情報処理装置とを備えた物体検出装置を用いた物体検出方法であって、
第1領域に電波を送信して該第1領域内にある検出対象候補を検出し、
前記第1領域を撮像して画像データを生成し、
前記画像データに基づいて前記検出対象候補の中から検出対象を識別し、
前記検出対象を含み前記第1領域よりも狭い第2領域に対して電波を照射するように前記レーダを制御することを具備する物体検出方法。
(16)
前記検出対象候補の検出は、
前記第1領域において電波を送信し、反射されてきた電波の送受信点を検出し、
前記送受信点をクラスタリングして前記検出対象候補を生成することを含む、(15)に記載の方法。
(17)
前記検出対象の識別は、
前記レーダに対する前記検出対象候補の方向および相対距離から前記画像データにおける前記検出対象候補の座標へ変換し、
前記画像データ上での前記検出対象候補の座標に基づいて、前記画像データから前記検出対象候補の画像部分を抽出し、
抽出された前記検出対象候補の画像部分を用いて前記検出対象候補が前記検出対象であるか否かを識別することを含み、
前記レーダの制御は、
前記検出対象と判定された前記検出対象候補の方向および距離に基づいて、前記検出対象が前記第2領域に入るように前記レーダを制御することを含む、(15)または(16)に記載の方法。
(18)
前記物体検出装置は、前記検出対象を特定するために照合の基準となる参照画像を格納するデータベースをさらに備え、
前記検出対象の識別は、
抽出された前記検出対象候補の画像部分と前記参照画像とを比較し、
類似する参照画像のある前記検出対象候補を前記検出対象と識別することを含む、(17)に記載の方法。
(19)
前記レーダの制御は、前記第1領域に電波を照射する第1モードと、前記第2領域に電波を照射する第2モードとの間で周期的に交互に繰り返すように切り替える、(15)から(18)のいずれか一項に記載の方法。
(20)
前記レーダの制御は、前記第1モードで識別された前記検出対象に対して、次の前記第2モードにおいて電波を照射する、(19)に記載の方法。
(1)
第1領域に電波を送信して該第1領域内にある検出対象候補を検出するレーダと、
前記第1領域を撮像して画像データを生成する撮像部と、
前記画像データに基づいて前記検出対象候補の中から検出対象を識別する識別部と、
前記検出対象を含み前記第1領域よりも狭い第2領域に対して電波を照射するように前記レーダを制御するレーダ制御部と、を備える物体検出装置。
(2)
前記レーダは、前記第1領域において電波を送信し、反射されてきた電波の送受信点を検出し、
前記送受信点をクラスタリングして前記検出対象候補を生成するデータ処理部をさらに備える、(1)に記載の物体検出装置。
(3)
前記レーダに対する前記検出対象候補の方向および相対距離から前記画像データにおける前記検出対象候補の座標へ変換する座標変換部と、
前記画像データ上での前記検出対象候補の座標に基づいて、前記画像データから前記検出対象候補の画像部分を抽出する抽出部とをさらに備え、
前記識別部は、抽出された前記検出対象候補の画像部分を用いて前記検出対象候補が前記検出対象であるか否かを識別し、
前記レーダ制御部は、前記検出対象と判定された前記検出対象候補の方向および距離に基づいて、前記検出対象が前記第2領域に入るように前記レーダを制御する、(1)または(2)に記載の物体検出装置。
(4)
前記検出対象を特定するために照合の基準となる参照画像を格納するデータベースをさらに備え、
前記識別部は、抽出された前記検出対象候補の画像部分と前記参照画像とを比較し、類似する参照画像のある前記検出対象候補を前記検出対象と識別する、(3)に記載の物体検出装置。
(5)
前記レーダ制御部は、前記第1領域に電波を照射する第1モードと、前記第2領域に電波を照射する第2モードとの間で切り替えるように前記レーダを制御する、(1)から(4)のいずれか一項に記載の物体検出装置。
(6)
前記レーダ制御部は、前記第1モードで識別された前記検出対象に対して、次の前記第2モードにおいて電波を照射するように前記レーダを制御する、(5)に記載の物体検出装置。
(7)
前記レーダ制御部は、前記第1モードおよび前記第2モードを交互に繰り返す、(5)または(6)に記載の物体検出装置。
(8)
レーダから第1領域に電波を送信することによって検出された検出対象候補と撮像部から得られた画像データとに基づいて、前記検出対象候補の中から検出対象を識別する識別部と、
前記検出対象を含み前記第1領域よりも狭い第2領域に対して電波を照射するように前記レーダを制御するレーダ制御部と、を備える情報処理装置。
(9)
前記レーダから前記第1領域において電波を送信し、反射されてきた電波の送受信点をクラスタリングして前記検出対象候補を生成するデータ処理部をさらに備える、(8)に記載の情報処理装置。
(10)
前記レーダに対する前記検出対象候補の方向および相対距離から前記画像データにおける前記検出対象候補の座標へ変換する座標変換部と、
前記画像データ上での前記検出対象候補の座標に基づいて、前記画像データから前記検出対象候補の画像部分を抽出する抽出部とをさらに備え、
前記識別部は、抽出された前記検出対象候補の画像部分を用いて前記検出対象候補が前記検出対象であるか否かを識別し、
前記レーダ制御部は、前記検出対象と判定された前記検出対象候補の方向および距離に基づいて、前記検出対象が前記第2領域に入るように前記レーダを制御する、(8)または(9)に記載の情報処理装置。
(11)
前記検出対象を特定するために照合の基準となる参照画像を格納するデータベースをさらに備え、
前記識別部は、抽出された前記検出対象候補の画像部分と前記参照画像とを比較し、類似する参照画像のある前記検出対象候補を前記検出対象と識別する、(10)に記載の情報処理装置。
(12)
前記レーダ制御部は、前記第1領域に電波を照射する第1モードと、前記第2領域に電波を照射する第2モードとの間で切り替えるように前記レーダを制御する、(8)から(11)のいずれか一項に記載の情報処理装置。
(13)
前記レーダ制御部は、前記第1モードで識別された前記検出対象に対して、次の前記第2モードにおいて電波を照射するように前記レーダを制御する、(12)に記載の情報処理装置。
(14)
前記レーダ制御部は、前記第1モードおよび前記第2モードを交互に繰り返す、(12)または(13)に記載の情報処理装置。
(15)
電波を送信するレーダと、画像を撮像する撮像部と、前記レーダからの検出情報および前記撮像部からの画像データを処理して前記レーダを制御する情報処理装置とを備えた物体検出装置を用いた物体検出方法であって、
第1領域に電波を送信して該第1領域内にある検出対象候補を検出し、
前記第1領域を撮像して画像データを生成し、
前記画像データに基づいて前記検出対象候補の中から検出対象を識別し、
前記検出対象を含み前記第1領域よりも狭い第2領域に対して電波を照射するように前記レーダを制御することを具備する物体検出方法。
(16)
前記検出対象候補の検出は、
前記第1領域において電波を送信し、反射されてきた電波の送受信点を検出し、
前記送受信点をクラスタリングして前記検出対象候補を生成することを含む、(15)に記載の方法。
(17)
前記検出対象の識別は、
前記レーダに対する前記検出対象候補の方向および相対距離から前記画像データにおける前記検出対象候補の座標へ変換し、
前記画像データ上での前記検出対象候補の座標に基づいて、前記画像データから前記検出対象候補の画像部分を抽出し、
抽出された前記検出対象候補の画像部分を用いて前記検出対象候補が前記検出対象であるか否かを識別することを含み、
前記レーダの制御は、
前記検出対象と判定された前記検出対象候補の方向および距離に基づいて、前記検出対象が前記第2領域に入るように前記レーダを制御することを含む、(15)または(16)に記載の方法。
(18)
前記物体検出装置は、前記検出対象を特定するために照合の基準となる参照画像を格納するデータベースをさらに備え、
前記検出対象の識別は、
抽出された前記検出対象候補の画像部分と前記参照画像とを比較し、
類似する参照画像のある前記検出対象候補を前記検出対象と識別することを含む、(17)に記載の方法。
(19)
前記レーダの制御は、前記第1領域に電波を照射する第1モードと、前記第2領域に電波を照射する第2モードとの間で周期的に交互に繰り返すように切り替える、(15)から(18)のいずれか一項に記載の方法。
(20)
前記レーダの制御は、前記第1モードで識別された前記検出対象に対して、次の前記第2モードにおいて電波を照射する、(19)に記載の方法。
本開示の態様は、上述した個々の実施形態に限定されるものではなく、当業者が想到しうる種々の変形も含むものであり、本開示の効果も上述した内容に限定されない。すなわち、特許請求の範囲に規定された内容およびその均等物から導き出される本開示の概念的な思想と趣旨を逸脱しない範囲で種々の追加、変更および部分的削除が可能である。
100 物体検出装置、10 情報処理装置、20 ミリ波レーダ、30 撮像部、21 送信回路、22 受信回路、23 制御回路、ANTt 送信アンテナ、ANTr 受信アンテナ、11 データ処理部、12 抽出部、13 座標変換部、14 データベース、15 識別部、16 メモリ、17 レーダ制御部
Claims (20)
- 第1領域に電波を送信して該第1領域内にある検出対象候補を検出するレーダと、
前記第1領域を撮像して画像データを生成する撮像部と、
前記画像データに基づいて前記検出対象候補の中から検出対象を識別する識別部と、
前記検出対象を含み前記第1領域よりも狭い第2領域に対して電波を照射するように前記レーダを制御するレーダ制御部と、を備える物体検出装置。 - 前記レーダは、前記第1領域において電波を送信し、反射されてきた電波の送受信点を検出し、
前記送受信点をクラスタリングして前記検出対象候補を生成するデータ処理部をさらに備える、請求項1に記載の物体検出装置。 - 前記レーダに対する前記検出対象候補の方向および相対距離から前記画像データにおける前記検出対象候補の座標へ変換する座標変換部と、
前記画像データ上での前記検出対象候補の座標に基づいて、前記画像データから前記検出対象候補の画像部分を抽出する抽出部とをさらに備え、
前記識別部は、抽出された前記検出対象候補の画像部分を用いて前記検出対象候補が前記検出対象であるか否かを識別し、
前記レーダ制御部は、前記検出対象と判定された前記検出対象候補の方向および距離に基づいて、前記検出対象が前記第2領域に入るように前記レーダを制御する、請求項1に記載の物体検出装置。 - 前記検出対象を特定するために照合の基準となる参照画像を格納するデータベースをさらに備え、
前記識別部は、抽出された前記検出対象候補の画像部分と前記参照画像とを比較し、類似する参照画像のある前記検出対象候補を前記検出対象と識別する、請求項3に記載の物体検出装置。 - 前記レーダ制御部は、前記第1領域に電波を照射する第1モードと、前記第2領域に電波を照射する第2モードとの間で切り替えるように前記レーダを制御する、請求項1に記載の物体検出装置。
- 前記レーダ制御部は、前記第1モードで識別された前記検出対象に対して、次の前記第2モードにおいて電波を照射するように前記レーダを制御する、請求項5に記載の物体検出装置。
- 前記レーダ制御部は、前記第1モードおよび前記第2モードを交互に繰り返す、請求項5に記載の物体検出装置。
- レーダから第1領域に電波を送信することによって検出された検出対象候補と撮像部から得られた画像データとに基づいて、前記検出対象候補の中から検出対象を識別する識別部と、
前記検出対象を含み前記第1領域よりも狭い第2領域に対して電波を照射するように前記レーダを制御するレーダ制御部と、を備える情報処理装置。 - 前記レーダから前記第1領域において電波を送信し、反射されてきた電波の送受信点をクラスタリングして前記検出対象候補を生成するデータ処理部をさらに備える、請求項8に記載の情報処理装置。
- 前記レーダに対する前記検出対象候補の方向および相対距離から前記画像データにおける前記検出対象候補の座標へ変換する座標変換部と、
前記画像データ上での前記検出対象候補の座標に基づいて、前記画像データから前記検出対象候補の画像部分を抽出する抽出部とをさらに備え、
前記識別部は、抽出された前記検出対象候補の画像部分を用いて前記検出対象候補が前記検出対象であるか否かを識別し、
前記レーダ制御部は、前記検出対象と判定された前記検出対象候補の方向および距離に基づいて、前記検出対象が前記第2領域に入るように前記レーダを制御する、請求項8に記載の情報処理装置。 - 前記検出対象を特定するために照合の基準となる参照画像を格納するデータベースをさらに備え、
前記識別部は、抽出された前記検出対象候補の画像部分と前記参照画像とを比較し、類似する参照画像のある前記検出対象候補を前記検出対象と識別する、請求項10に記載の情報処理装置。 - 前記レーダ制御部は、前記第1領域に電波を照射する第1モードと、前記第2領域に電波を照射する第2モードとの間で切り替えるように前記レーダを制御する、請求項8に記載の情報処理装置。
- 前記レーダ制御部は、前記第1モードで識別された前記検出対象に対して、次の前記第2モードにおいて電波を照射するように前記レーダを制御する、請求項12に記載の情報処理装置。
- 前記レーダ制御部は、前記第1モードおよび前記第2モードを交互に繰り返す、請求項12に記載の情報処理装置。
- 電波を送信するレーダと、画像を撮像する撮像部と、前記レーダからの検出情報および前記撮像部からの画像データを処理して前記レーダを制御する情報処理装置とを備えた物体検出装置を用いた物体検出方法であって、
第1領域に電波を送信して該第1領域内にある検出対象候補を検出し、
前記第1領域を撮像して画像データを生成し、
前記画像データに基づいて前記検出対象候補の中から検出対象を識別し、
前記検出対象を含み前記第1領域よりも狭い第2領域に対して電波を照射するように前記レーダを制御することを具備する物体検出方法。 - 前記検出対象候補の検出は、
前記第1領域において電波を送信し、反射されてきた電波の送受信点を検出し、
前記送受信点をクラスタリングして前記検出対象候補を生成することを含む、請求項15に記載の方法。 - 前記検出対象の識別は、
前記レーダに対する前記検出対象候補の方向および相対距離から前記画像データにおける前記検出対象候補の座標へ変換し、
前記画像データ上での前記検出対象候補の座標に基づいて、前記画像データから前記検出対象候補の画像部分を抽出し、
抽出された前記検出対象候補の画像部分を用いて前記検出対象候補が前記検出対象であるか否かを識別することを含み、
前記レーダの制御は、
前記検出対象と判定された前記検出対象候補の方向および距離に基づいて、前記検出対象が前記第2領域に入るように前記レーダを制御することを含む、請求項15に記載の方法。 - 前記物体検出装置は、前記検出対象を特定するために照合の基準となる参照画像を格納するデータベースをさらに備え、
前記検出対象の識別は、
抽出された前記検出対象候補の画像部分と前記参照画像とを比較し、
類似する参照画像のある前記検出対象候補を前記検出対象と識別することを含む、請求項17に記載の方法。 - 前記レーダの制御は、前記第1領域に電波を照射する第1モードと、前記第2領域に電波を照射する第2モードとの間で周期的に交互に繰り返すように切り替える、請求項15に記載の方法。
- 前記レーダの制御は、前記第1モードで識別された前記検出対象に対して、次の前記第2モードにおいて電波を照射する、請求項19に記載の方法。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020071594A JP2023078488A (ja) | 2020-04-13 | 2020-04-13 | 物体検出装置、情報処理装置および物体検出方法 |
PCT/JP2021/006484 WO2021210268A1 (ja) | 2020-04-13 | 2021-02-19 | 物体検出装置、情報処理装置および物体検出方法 |
US17/907,592 US20230152441A1 (en) | 2020-04-13 | 2021-02-19 | Object detection device, information processing device, and object detection method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020071594A JP2023078488A (ja) | 2020-04-13 | 2020-04-13 | 物体検出装置、情報処理装置および物体検出方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2023078488A true JP2023078488A (ja) | 2023-06-07 |
Family
ID=78083869
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020071594A Pending JP2023078488A (ja) | 2020-04-13 | 2020-04-13 | 物体検出装置、情報処理装置および物体検出方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20230152441A1 (ja) |
JP (1) | JP2023078488A (ja) |
WO (1) | WO2021210268A1 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20230408684A1 (en) * | 2022-06-20 | 2023-12-21 | Honeywell International Inc. | Integrated surveillance radar system |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10160834A (ja) * | 1996-11-29 | 1998-06-19 | Sumitomo Electric Ind Ltd | 先行車両認識方法 |
JP4570907B2 (ja) * | 2004-05-26 | 2010-10-27 | アルパイン株式会社 | 対象物認識装置、ナビゲーション装置及び対象物認識方法 |
JP5098563B2 (ja) * | 2007-10-17 | 2012-12-12 | トヨタ自動車株式会社 | 物体検出装置 |
JP6212880B2 (ja) * | 2013-03-04 | 2017-10-18 | 株式会社デンソー | 物標認識装置 |
JP6435661B2 (ja) * | 2014-06-26 | 2018-12-12 | 株式会社リコー | 物体識別システム、情報処理装置、情報処理方法及びプログラム |
-
2020
- 2020-04-13 JP JP2020071594A patent/JP2023078488A/ja active Pending
-
2021
- 2021-02-19 US US17/907,592 patent/US20230152441A1/en active Pending
- 2021-02-19 WO PCT/JP2021/006484 patent/WO2021210268A1/ja active Application Filing
Also Published As
Publication number | Publication date |
---|---|
WO2021210268A1 (ja) | 2021-10-21 |
US20230152441A1 (en) | 2023-05-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11027653B2 (en) | Apparatus, system and method for preventing collision | |
US10683014B2 (en) | Vehicle control system, vehicle control method, and vehicle control program | |
US9499171B2 (en) | Driving support apparatus for vehicle | |
CN110053617B (zh) | 车辆控制装置、车辆控制方法及存储介质 | |
CN110281936B (zh) | 车辆控制装置、车辆控制方法及存储介质 | |
US11897458B2 (en) | Collision avoidance apparatus for vehicle | |
CN110271544B (zh) | 车辆控制装置、车辆控制方法及存储介质 | |
US20210224617A1 (en) | Information processing device, information processing method, computer program, and mobile device | |
US20200290605A1 (en) | Apparatus, system, and method for vehicle collision avoidance control | |
US20220266855A1 (en) | Determination device, vehicle control device, determination method, and storage medium | |
US20210402998A1 (en) | Control device and control method | |
KR20210030529A (ko) | 운전자 보조 장치, 그를 가지는 차량 및 그 제어 방법 | |
JP6894354B2 (ja) | 車両制御装置、車両制御方法、およびプログラム | |
WO2021210268A1 (ja) | 物体検出装置、情報処理装置および物体検出方法 | |
US20220176956A1 (en) | Vehicle control device, vehicle control method, and non-transitory computer-readable recording medium recording program | |
US11945466B2 (en) | Detection device, vehicle system, detection method, and program | |
JP7184951B2 (ja) | 車両制御装置、車両制御方法、およびプログラム | |
WO2022070250A1 (ja) | 情報処理装置、情報処理方法、および、プログラム | |
JP6796047B2 (ja) | 車両制御装置、車両制御方法、及びプログラム | |
JP4394476B2 (ja) | 車両用運転支援装置 | |
WO2020129656A1 (ja) | 情報処理装置、および情報処理方法、並びにプログラム | |
JP7250837B2 (ja) | 制御装置、制御方法、およびプログラム | |
US20220289025A1 (en) | Mobile object control device, mobile object control method, and storage medium | |
WO2023281810A1 (ja) | 測距装置及び測距方法 | |
CN112319476A (zh) | 车辆控制装置、车辆控制方法及存储介质 |