JP2019133324A - 物体検知装置および駐車支援装置 - Google Patents
物体検知装置および駐車支援装置 Download PDFInfo
- Publication number
- JP2019133324A JP2019133324A JP2018013865A JP2018013865A JP2019133324A JP 2019133324 A JP2019133324 A JP 2019133324A JP 2018013865 A JP2018013865 A JP 2018013865A JP 2018013865 A JP2018013865 A JP 2018013865A JP 2019133324 A JP2019133324 A JP 2019133324A
- Authority
- JP
- Japan
- Prior art keywords
- road surface
- dimensional coordinate
- coordinate information
- vehicle
- value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R21/00—Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/579—Depth or shape recovery from multiple images from motion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
Abstract
【課題】車両の周囲に存在する物体の反射像が路面に生じても、当該物体を従来よりも良好に検知する。【解決手段】物体検知装置(20)は、自車両に搭載されることで、当該自車両の周囲に存在する物体を検知するように構成されている。この物体検知装置は、座標取得部(703)と座標補正部(707)とを備える。座標取得部は、自車両の周囲の画像に対応する画像情報を取得するように設けられた撮像部(21)により取得された画像情報に基づいて、物体上の特徴点における3次元座標情報を取得する。3次元座標情報は、地上高値を含む。地上高値は、自車両の接地面を平面と仮定した場合の当該平面である基準面を基準とした高さである。座標補正部は、座標取得部によって取得された、地上高値が基準面よりも低い負値となる3次元座標情報に対して、地上高値が基準面よりも高い正値となるように補正する。【選択図】図3
Description
本発明は、自車両に搭載されることで当該自車両の周囲に存在する物体を検知するように構成された物体検知装置、および、かかる物体検知装置を備えた駐車支援装置に関する。
車両に取り付けられたカメラにより捕捉された画像を用いて、車両周辺物の3次元座標を取得する装置が、種々知られている(例えば特許文献1等参照)。
従来のこの種の装置においては、例えば、降雨等により路面に水溜りが発生すると、水面による反射像がカメラに写り込むことで物体検知精度が低下するという課題があった。本発明は、上記に例示した事情等に鑑みてなされたものである。すなわち、本発明は、車両の周囲に存在する物体の反射像が路面に生じても、当該物体を従来よりも良好に検知することが可能な構成を提供する。
請求項1に記載の物体検知装置(20)は、自車両(10)に搭載されることで、当該自車両の周囲に存在する物体(B)を検知するように構成されている。
この物体検知装置は、
前記自車両の周囲の画像に対応する画像情報を取得するように設けられた撮像部(21)により取得された前記画像情報に基づいて、前記物体上の特徴点における、前記自車両の接地面を平面と仮定した場合の当該平面である基準面を基準とした高さである地上高値を含む3次元座標情報を取得するように設けられた、座標取得部(703)と、
前記座標取得部によって取得された、前記地上高値が前記基準面よりも低い負値となる前記3次元座標情報に対して、前記地上高値が前記基準面よりも高い正値となるように補正するように設けられた、座標補正部(707)と、
を備えている。
請求項8に記載の駐車支援装置(50)は、前記自車両の駐車を支援するように構成されている。
この駐車支援装置は、
前記物体検知装置(20)と、
前記物体検知装置による検知結果に基づいて、前記自車両が駐車可能な駐車領域を検出するように設けられた、駐車領域検出部(271)と、
を備えている。
この物体検知装置は、
前記自車両の周囲の画像に対応する画像情報を取得するように設けられた撮像部(21)により取得された前記画像情報に基づいて、前記物体上の特徴点における、前記自車両の接地面を平面と仮定した場合の当該平面である基準面を基準とした高さである地上高値を含む3次元座標情報を取得するように設けられた、座標取得部(703)と、
前記座標取得部によって取得された、前記地上高値が前記基準面よりも低い負値となる前記3次元座標情報に対して、前記地上高値が前記基準面よりも高い正値となるように補正するように設けられた、座標補正部(707)と、
を備えている。
請求項8に記載の駐車支援装置(50)は、前記自車両の駐車を支援するように構成されている。
この駐車支援装置は、
前記物体検知装置(20)と、
前記物体検知装置による検知結果に基づいて、前記自車両が駐車可能な駐車領域を検出するように設けられた、駐車領域検出部(271)と、
を備えている。
上記構成においては、前記座標取得部は、前記撮像部により取得された前記画像情報に基づいて、前記物体上の前記特徴点における、前記3次元座標情報を取得する。前記3次元座標情報には、前記地上高値が含まれる。前記地上高値は、前記基準面を基準とした高さである。前記基準面は、前記自車両の前記接地面を平面と仮定した場合の、当該平面である。
前記車両の周囲に存在する前記物体の反射像が路面に生じた場合、かかる反射像に対応する前記画像情報が前記撮像部により取得され得る。この場合、前記反射像に基づいて前記座標取得部によって取得された前記3次元座標情報においては、前記地上高値が、前記基準面よりも低い前記負値となる。一方、前記3次元座標情報における、前記地上高値以外の2次元座標情報については、前記物体の前記自車両に対する相対位置に対応した正確な値となり得る。
そこで、上記構成においては、前記座標補正部は、前記地上高値が前記基準面よりも低い前記負値となる前記3次元座標情報に対して、前記地上高値が前記基準面よりも高い前記正値となるように補正する。かかる構成においては、前記反射像に対応する前記地上高値が前記負値の前記3次元座標情報は、前記正値に補正されることで、ノイズとして除去されるのではなく、前記物体の検知のために積極的に活用され得る。したがって、かかる構成によれば、前記車両の周囲に存在する前記物体の前記反射像が前記路面に生じても、当該物体を従来よりも良好に検知することが可能となる。
なお、上記および特許請求の範囲の欄における、各手段に付された括弧付きの参照符号は、同手段と後述する実施形態に記載の具体的手段との対応関係の一例を示すものである。よって、本発明の技術的範囲は、上記の参照符号の記載によって、何ら限定されるものではない。
(実施形態)
以下、本発明の実施形態を、図面に基づいて説明する。なお、一つの実施形態に対して適用可能な各種の変形例については、当該実施形態に関する一連の説明の途中に挿入されると、当該実施形態の理解が妨げられるおそれがある。このため、変形例については、当該実施形態に関する一連の説明の途中には挿入せず、その後にまとめて説明する。
以下、本発明の実施形態を、図面に基づいて説明する。なお、一つの実施形態に対して適用可能な各種の変形例については、当該実施形態に関する一連の説明の途中に挿入されると、当該実施形態の理解が妨げられるおそれがある。このため、変形例については、当該実施形態に関する一連の説明の途中には挿入せず、その後にまとめて説明する。
(車両の全体構成)
図1を参照すると、車両10は、いわゆる四輪自動車であって、平面視にて略矩形状の車体11を備えている。以下、車両10の車幅方向における中心を通り、且つ車両10における車両全長方向と平行な仮想直線を、車両中心軸線Xと称する。車両全長方向は、車幅方向と直交し且つ車高方向と直交する方向である。車高方向は、車両10の車高を規定する方向であって、車両10を水平面に載置した場合の重力作用方向と平行な方向である。図1において、車両全長方向は図中上下方向であり、車幅方向は図中左右方向である。
図1を参照すると、車両10は、いわゆる四輪自動車であって、平面視にて略矩形状の車体11を備えている。以下、車両10の車幅方向における中心を通り、且つ車両10における車両全長方向と平行な仮想直線を、車両中心軸線Xと称する。車両全長方向は、車幅方向と直交し且つ車高方向と直交する方向である。車高方向は、車両10の車高を規定する方向であって、車両10を水平面に載置した場合の重力作用方向と平行な方向である。図1において、車両全長方向は図中上下方向であり、車幅方向は図中左右方向である。
車両10における「前」「後」「左」「右」を、図1中にて矢印で示された通りに定義する。すなわち、車両全長方向は、前後方向と同義である。また、車幅方向は、左右方向と同義である。なお、車高方向は、車両10の載置条件または走行条件により、重力作用方向と平行とはならない場合があり得る。
車体11における前側の端部である前面部12には、フロントバンパー13が装着されている。車体11における後側の端部である後面部14には、リアバンパー15が装着されている。車体11における側面部16には、ドアパネル17が装着されている。図1に示す具体例においては、左右にそれぞれ2枚ずつ、合計4枚のドアパネル17が設けられている。前側の左右一対のドアパネル17のそれぞれには、ドアミラー18が装着されている。
車両10には、物体検知装置20が搭載されている。物体検知装置20は、車両10に搭載されることで、当該車両10の外側に存在する物体Bを検知するように構成されている。以下、物体検知装置20を搭載した車両10を、「自車両」と略称することがある。
具体的には、物体検知装置20は、撮像部21と、ソナーセンサ22と、レーダーセンサ23と、車速センサ24と、シフトポジションセンサ25と、舵角センサ26と、制御部27と、表示部28と、音声出力部29とを備えている。以下、物体検知装置20を構成する各部の詳細について説明する。なお、図示の簡略化のため、物体検知装置20を構成する各部の間の電気接続関係は、図1においては省略されている。
撮像部21は、自車両の周囲の画像を撮像して、当該画像に対応する画像情報を取得するように設けられている。本実施形態においては、撮像部21は、デジタルカメラ装置であって、CCD等のイメージセンサを備えている。CCDはCharge Coupled Deviceの略である。
本実施形態においては、車両10には、複数の撮像部21、すなわち、フロントカメラCF、リアカメラCB、左側カメラCL、および右側カメラCRが搭載されている。フロントカメラCF、リアカメラCB、左側カメラCL、および右側カメラCRのうちの、いずれかであることを特定しない場合に、以下、「撮像部21」という単数形の表現、または「複数の撮像部21」という表現が用いられることがある。
フロントカメラCFは、自車両の前方の画像に対応する画像情報を取得するように設けられている。具体的には、本実施形態においては、フロントカメラCFは、車両10における車室内に配置された不図示のルームミラーに装着されている。
リアカメラCBは、自車両の後方の画像に対応する画像情報を取得するように、車体11の後面部14に装着されている。左側カメラCLは、自車両の左方の画像に対応する画像情報を取得するように、左側のドアミラー18に装着されている。右側カメラCRは、自車両の右方の画像に対応する画像情報を取得するように、右側のドアミラー18に装着されている。
複数の撮像部21の各々は、制御部27に電気接続されている。すなわち、複数の撮像部21の各々は、制御部27の制御下で画像情報を取得するとともに、取得した画像情報を制御部27に送信するようになっている。
ソナーセンサ22は、探査波を自車両の外側に向けて発信するとともに、物体Bの壁面による探査波の反射波を含む受信波を受信することで、物体Bとの距離に対応する信号を出力するように設けられている。具体的には、本実施形態においては、ソナーセンサ22は、いわゆる超音波センサであって、超音波である探査波を発信するとともに、超音波を含む受信波を受信可能に構成されている。
物体検知装置20は、少なくとも1個のソナーセンサ22を備えている。具体的には、本実施形態においては、複数のソナーセンサ22が、車体11に装着されている。複数のソナーセンサ22は、それぞれ、車両中心軸線Xから、車幅方向におけるいずれか一方側にシフトして配置されている。また、複数のソナーセンサ22のうちの少なくとも一部は、車両中心軸線Xと交差する方向に沿って探査波を発信するように設けられている。
具体的には、フロントバンパー13には、ソナーセンサ22としての、第一フロントソナーSF1、第二フロントソナーSF2、第三フロントソナーSF3、および第四フロントソナーSF4が装着されている。同様に、リアバンパー15には、ソナーセンサ22としての、第一リアソナーSR1、第二リアソナーSR2、第三リアソナーSR3、および第四リアソナーSR4が装着されている。
また、車体11の側面部16には、ソナーセンサ22としての、第一サイドソナーSS1、第二サイドソナーSS2、第三サイドソナーSS3、および第四サイドソナーSS4が装着されている。第一フロントソナーSF1、第二フロントソナーSF2、第三フロントソナーSF3、第四フロントソナーSF4、第一リアソナーSR1、第二リアソナーSR2、第三リアソナーSR3、第四リアソナーSR4、第一サイドソナーSS1、第二サイドソナーSS2、第三サイドソナーSS3、および第四サイドソナーSS4のうちの、いずれかであることを特定しない場合に、以下、「ソナーセンサ22」という単数形の表現、または「複数のソナーセンサ22」という表現が用いられることがある。
或る1個のソナーセンサ22を「第一ソナーセンサ」と称し、別の1個の1個のソナーセンサ22を「第二ソナーセンサ」と称して、「直接波」および「間接波」を、以下のように定義する。第一ソナーセンサに受信される受信波であって、第一ソナーセンサから発信された探査波の物体Bによる反射波に起因する受信波を、「直接波」と称する。これに対し、第一ソナーセンサに受信される受信波であって、第二ソナーセンサから発信された探査波の物体Bによる反射波に起因する受信波を、「間接波」と称する。
第一フロントソナーSF1は、自車両の左前方に探査波を発信するように、フロントバンパー13の前側表面における左端部に設けられている。第二フロントソナーSF2は、自車両の右前方に探査波を発信するように、フロントバンパー13の前側表面における右端部に設けられている。第一フロントソナーSF1と第二フロントソナーSF2とは、車両中心軸線Xを挟んで対称に配置されている。
第三フロントソナーSF3と第四フロントソナーSF4とは、フロントバンパー13の前側表面における中央寄りの位置にて、車幅方向に配列されている。第三フロントソナーSF3は、自車両の略前方に探査波を発信するように、車幅方向について第一フロントソナーSF1と車両中心軸線Xとの間に配置されている。第四フロントソナーSF4は、自車両の略前方に探査波を発信するように、車幅方向について第二フロントソナーSF2と車両中心軸線Xとの間に配置されている。第三フロントソナーSF3と第四フロントソナーSF4とは、車両中心軸線Xを挟んで対称に配置されている。
上記の通り、第一フロントソナーSF1と第三フロントソナーSF3とは、平面視にて互いに異なる位置に配置されている。また、車幅方向について互いに隣接する第一フロントソナーSF1と第三フロントソナーSF3とは、相互に、一方が送信した探査波の物体Bによる反射波が他方における受信波として受信可能な位置関係に設けられている。
すなわち、第一フロントソナーSF1は、自己が発信した探査波に対応する直接波と、第三フロントソナーSF3が発信した探査波に対応する間接波との双方を受信可能に配置されている。同様に、第三フロントソナーSF3は、自己が発信した探査波に対応する直接波と、第一フロントソナーSF1が発信した探査波に対応する間接波との双方を受信可能に配置されている。
同様に、第三フロントソナーSF3と第四フロントソナーSF4とは、平面視にて互いに異なる位置に配置されている。また、車幅方向について互いに隣接する第三フロントソナーSF3と第四フロントソナーSF4とは、相互に、一方が送信した探査波の物体Bによる反射波が他方における受信波として受信可能な位置関係に設けられている。
同様に、第二フロントソナーSF2と第四フロントソナーSF4とは、平面視にて互いに異なる位置に配置されている。また、車幅方向について互いに隣接する第二フロントソナーSF2と第四フロントソナーSF4とは、相互に、一方が送信した探査波の物体Bによる反射波が他方における受信波として受信可能な位置関係に設けられている。
第一リアソナーSR1は、自車両の左後方に探査波を発信するように、リアバンパー15の後側表面における左端部に設けられている。第二リアソナーSR2は、自車両の右後方に探査波を発信するように、リアバンパー15の後側表面における右端部に設けられている。第一リアソナーSR1と第二リアソナーSR2とは、車両中心軸線Xを挟んで対称に配置されている。
第三リアソナーSR3と第四リアソナーSR4とは、リアバンパー15の後側表面における中央寄りの位置にて、車幅方向に配列されている。第三リアソナーSR3は、自車両の略後方に探査波を発信するように、車幅方向について第一リアソナーSR1と車両中心軸線Xとの間に配置されている。第四リアソナーSR4は、自車両の略後方に探査波を発信するように、車幅方向について第二リアソナーSR2と車両中心軸線Xとの間に配置されている。第三リアソナーSR3と第四リアソナーSR4とは、車両中心軸線Xを挟んで対称に配置されている。
上記の通り、第一リアソナーSR1と第三リアソナーSR3とは、平面視にて互いに異なる位置に配置されている。また、車幅方向について互いに隣接する第一リアソナーSR1と第三リアソナーSR3とは、相互に、一方が送信した探査波の物体Bによる反射波が他方における受信波として受信可能な位置関係に設けられている。
すなわち、第一リアソナーSR1は、自己が発信した探査波に対応する直接波と、第三リアソナーSR3が発信した探査波に対応する間接波との双方を受信可能に配置されている。同様に、第三リアソナーSR3は、自己が発信した探査波に対応する直接波と、第一リアソナーSR1が発信した探査波に対応する間接波との双方を受信可能に配置されている。
同様に、第三リアソナーSR3と第四リアソナーSR4とは、平面視にて互いに異なる位置に配置されている。また、車幅方向について互いに隣接する第三リアソナーSR3と第四リアソナーSR4とは、相互に、一方が送信した探査波の物体Bによる反射波が他方における受信波として受信可能な位置関係に設けられている。
同様に、第二リアソナーSR2と第四リアソナーSR4とは、平面視にて互いに異なる位置に配置されている。また、車幅方向について互いに隣接する第二リアソナーSR2と第四リアソナーSR4とは、相互に、一方が送信した探査波の物体Bによる反射波が他方における受信波として受信可能な位置関係に設けられている。
第一サイドソナーSS1、第二サイドソナーSS2、第三サイドソナーSS3、および第四サイドソナーSS4は、側面部16の外側表面である車両側面から探査波を自車両の側方に発信するように設けられている。第一サイドソナーSS1、第二サイドソナーSS2、第三サイドソナーSS3、および第四サイドソナーSS4は、それぞれ、直接波のみを受信可能に設けられている。
第一サイドソナーSS1は、自車両の左方に探査波を発信するように、前後方向について左側のドアミラー18と第一フロントソナーSF1との間に配置されている。第二サイドソナーSS2は、自車両の右方に探査波を発信するように、前後方向について右側のドアミラー18と第二フロントソナーSF2との間に配置されている。第一サイドソナーSS1と第二サイドソナーSS2とは、車両中心軸線Xを挟んで対称に設けられている。
第三サイドソナーSS3は、自車両の左方に探査波を発信するように、前後方向について左後側のドアパネル17と第一リアソナーSR1との間に配置されている。第四サイドソナーSS4は、自車両の右方に探査波を発信するように、前後方向について右後側のドアパネル17と第二リアソナーSR2との間に配置されている。第三サイドソナーSS3と第四サイドソナーSS4とは、車両中心軸線Xを挟んで対称に設けられている。
複数のソナーセンサ22の各々は、制御部27に電気接続されている。すなわち、複数のソナーセンサ22の各々は、制御部27の制御下で探査波を発信するとともに、受信波の受信結果に対応する信号を発生して制御部27に送信するようになっている。受信波の受信結果に対応する信号に含まれる情報を、以下「受信情報」と称する。受信情報には、受信波の受信強度に関連する情報、および、測距情報が含まれる。「測距情報」は、複数のソナーセンサ22の各々と物体Bとの距離に関連する情報である。具体的には、例えば、測距情報には、探査波の発信から受信波の受信までの時間差に関連する情報が含まれる。
レーダーセンサ23は、レーダー波を送受信するレーザーレーダーセンサまたはミリ波レーダーセンサであって、車体11の前面部12に装着されている。レーダーセンサ23は、反射点の位置および相対速度に対応する信号を出力するように構成されている。「反射点」は、物体Bの表面上における、レーダー波を反射した点である。「相対速度」は、反射点すなわちレーダー波を反射した物体Bの、自車両に対する相対速度である。
車速センサ24、シフトポジションセンサ25、および舵角センサ26は、制御部27に電気接続されている。車速センサ24は、自車両の走行速度に対応する信号を発生して、制御部27に送信するように設けられている。自車両の走行速度を、以下単に「車速」と称する。シフトポジションセンサ25は、自車両のシフトポジションに対応する信号を発生して、制御部27に送信するように設けられている。舵角センサ26は、自車両の操舵角に対応する信号を発生して、制御部27に送信するように設けられている。
制御部27は、車体11の内側に配置されている。制御部27は、いわゆる車載マイクロコンピュータであって、図示しないCPU、ROM、RAM、不揮発性RAM、等を備えている。不揮発性RAMは、例えば、フラッシュROM等である。制御部27のCPU、ROM、RAMおよび不揮発性RAMを、以下単に「CPU」、「ROM」、「RAM」および「不揮発性RAM」と略称する。
制御部27は、CPUがROMまたは不揮発性RAMからプログラムを読み出して実行することで、各種の制御動作を実現可能に構成されている。このプログラムには、後述の各ルーチンに対応するものが含まれている。また、RAMおよび不揮発性RAMは、CPUがプログラムを実行する際の処理データを一時的に格納可能に構成されている。さらに、ROMまたは不揮発性RAMには、プログラムの実行の際に用いられる各種のデータが、あらかじめ格納されている。各種のデータには、例えば、初期値、ルックアップテーブル、マップ、等が含まれている。
制御部27は、複数のソナーセンサ22の各々、複数の撮像部21の各々、車速センサ24、シフトポジションセンサ25、舵角センサ26、等から受信した信号および情報に基づいて、物体検知動作を実行するように構成されている。また、制御部27は、表示部28および音声出力部29の動作を制御することで、物体検知状態に伴う報知動作を行うようになっている。
表示部28および音声出力部29は、車両10における車室内に配置されている。また、表示部28および音声出力部29は、制御部27に電気接続されている。表示部28は、物体検知状態に伴う報知動作を、表示画面またはインジケータによる表示により行うように構成されている。音声出力部29は、物体検知状態に伴う報知動作を、音声出力により行うように構成されている。
図2を参照すると、車両10には、雨滴センサ31と、ワイパー機構41とが搭載されている。雨滴センサ31は、車体11における雨滴検出領域に付着した雨滴に応じた信号を出力するように設けられている。ワイパー機構41は、雨滴センサ31から出力された雨滴信号に基づいて駆動されるようになっている。
図2を参照すると、車両10には、駐車支援装置50が搭載されている。駐車支援装置50は、自車両の駐車を支援するように構成されている。本実施形態においては、物体検知装置20は、駐車支援装置50の一部を構成するように設けられている。すなわち、物体検知装置20の主要部をなす制御部27は、駐車支援ECUを構成する車載マイクロコンピュータであって、駐車支援装置50の全体の動作を制御するように構成されている。ECUはElectronic Control Unitの略である。
また、本実施形態においては、駐車支援装置50は、自車両の自動駐車を実現可能に構成されている。具体的には、駐車支援装置50は、物体検知装置20に加えて、動力制御ECU51と、制動制御ECU52と、操舵制御ECU53と、入力操作部54とを備えている。
動力制御ECU51は、不図示の走行用モータおよび/またはエンジンの動作を制御して、車両10の走行出力を制御するように設けられている。制動制御ECU52は、不図示のブレーキアクチュエータ等の駆動を制御して、車両10の制動力を制御するように設けられている。操舵制御ECU53は、不図示の操舵用モータの駆動を制御して、車両10の操舵量を制御するように設けられている。
入力操作部54は、車両10における車室内に配置されている。入力操作部54は、車両10の乗員である操作者による入力操作を受け付けるための、スイッチ類および/または音声入力部を備えている。
(制御部の機能構成)
図3を参照すると、制御部27は、マイクロコンピュータ上に実現される機能上の構成として、物体認識部270と、駐車領域検出部271と、経路算出部272と、制御量算出部273とを有している。以下、本実施形態における、制御部27の機能構成について説明する。
図3を参照すると、制御部27は、マイクロコンピュータ上に実現される機能上の構成として、物体認識部270と、駐車領域検出部271と、経路算出部272と、制御量算出部273とを有している。以下、本実施形態における、制御部27の機能構成について説明する。
物体認識部270は、撮像部21を用いて取得した画像情報と、ソナーセンサ22等を用いて取得した距離情報と、車速センサ24等を用いて取得した自車両の走行状態情報とに基づいて、自車両の周囲に存在する物体Bの3次元形状を認識するように構成されている。物体認識部270の詳細については後述する。
駐車領域検出部271は、物体認識部270による検知結果に基づいて、自車両の周囲にて駐車領域を検出するように設けられている。「駐車領域」とは、自車両が駐車可能な領域である。
経路算出部272は、駐車領域検出部271によって検出された駐車領域と自車両との相対位置と、物体認識部270による認識結果とに基づいて、誘導経路を算出するように設けられている。「誘導経路」とは、検出された駐車領域に自車両を誘導する経路、すなわち、自車両の駐車領域までの走行経路である。
制御量算出部273は、駐車領域検出部271によって検出された駐車領域と自車両との相対位置と、経路算出部272によって算出された誘導経路とに基づいて、車両制御量を算出するように設けられている。「車両制御量」とは、自車両を駐車領域まで走行させるために必要な走行パラメータである。「走行パラメータ」には、走行出力、シフトポジション、制動量、および操舵量が含まれる。
物体認識部270は、移動ステレオの手法、具体的には、いわゆる単眼移動ステレオの手法を用いて、自車両の周囲に存在する物体Bを認識するように構成されている。移動ステレオは、SFMとも称される。SFMはStructure from Motionの略である。すなわち、物体認識部270は、特定の方向に向けられた1個の撮像部21における画像情報の履歴と、自車両の移動量とに基づいて、当該撮像部21の向けられた方向に存在する物体Bを認識するようになっている。
具体的には、物体認識部270は、フロントカメラCFを用いて取得した画像情報の履歴と、自車両の移動量とに基づいて、自車両の前方に存在する物体Bの3次元形状を認識するようになっている。同様に、物体認識部270は、リアカメラCBを用いて取得した画像情報の履歴と、自車両の移動量とに基づいて、自車両の後方に存在する物体Bの3次元形状を認識するようになっている。同様に、物体認識部270は、左側カメラCLを用いて取得した画像情報の履歴と、自車両の移動量とに基づいて、自車両の左側方に存在する物体Bの3次元形状を認識するようになっている。同様に、物体認識部270は、右側カメラCRを用いて取得した画像情報の履歴と、自車両の移動量とに基づいて、自車両の右側方に存在する物体Bの3次元形状を認識するようになっている。
なお、移動ステレオあるいはSFMについては、本願の出願時点において、すでに周知技術となっている。例えば、米国特許第7,433,494号明細書、同第8,027,514号明細書、等参照。必要に応じ、これらの記載は、技術的に矛盾しない限り、国内法令の許容する範囲において、記載内容が適宜参照により組み入れられる。したがって、本明細書においては、移動ステレオについての詳細については、説明を省略する。
物体認識部270は、画像情報取得部701と、移動量取得部702と、座標取得部703と、距離取得部704と、路面状態判定部705と、路面反射判定部706と、座標補正部707とを有している。以下、図1〜図4を参照しつつ、物体認識部270の詳細について説明する。
図4は、撮像部21による撮影画像の一例を示す。図4の例においては、路面RSは、反射性路面であるものとする。反射性路面とは、物体Bの反射像VRを、撮像部21により取得可能な程度に映し出すような状態の路面RSである。典型的には、例えば、水溜りが生じた路面RS等が、反射性路面に該当する。具体的には、図4の例においては、菱形の路面標示Mの他に、ポール状の物体Bにおける実像RRおよび反射像VRが、撮像部21の視野内に入っているものとする。
画像情報取得部701は、撮像部21を用いて取得した画像情報を、撮像部21から受信して時系列で格納するようになっている。移動量取得部702は、車速センサ24、シフトポジションセンサ25、および舵角センサ26の出力に基づいて、自車両の移動方向および移動量を取得するようになっている。座標取得部703は、画像情報取得部701に格納された画像情報と、移動量取得部702によって取得された移動方向および移動量とに基づいて、物体B上の特徴点FPにおける3次元座標情報を取得するようになっている。
特徴点FPとは、画像中における、特徴的な点あるいは画素をいう。特徴点FPは、例えば、周囲との明度差が大きい点、あるいは、形状に特徴があるために安定して抽出可能な点である。具体的には、特徴点FPには、物体Bにおける角部、物体Bと周囲との境界部、等が含まれ得る。特徴点FPは、例えば、周知のHarrisオペレータを用いて、2次元的に濃淡変化の勾配値が大きくなる画素を検出することにより抽出することが可能である。なお、Harrisオペレータについては、例えば、以下の文献を参照のこと:C.HARRIS and M.STEPHENS, “A combined corner and edge detector.”, Proc. Alvey Vision Conf., pp.147-151,1988。
抽出された特徴点FPにおける3次元座標情報は、上記の移動ステレオの手法によって取得され得る。かかる3次元座標情報には、地上高値が含まれる。地上高値は、基準面を基準とした高さである。基準面は、自車両の接地面を平面と仮定した場合の、当該平面である。地上高値は、基準面と同一の場合は0となり、基準面よりも高い場合は正値となり、基準面よりも低い場合は負値となる。なお、図4においては、地上高値が正値となる、実像RR上の特徴点FPを、「地上検知点FP1」と称する。また、地上高値が負値となる特徴点FPを「地下検知点FP2」と称する。反射像VR上の特徴点FPは、地下検知点FP2となる。
距離取得部704は、ソナーセンサ22の出力に基づいて、物体Bとの距離を取得するようになっている。すなわち、距離取得部704は、測距点に対応する距離情報を時系列で格納するようになっている。「測距点」は、物体Bの表面上における、ソナーセンサ22から発信された探査波を反射したと推定される点である。
路面状態判定部705は、車両10の周囲の路面RSの状態を判定するようになっている。具体的には、本実施形態においては、路面状態判定部705は、雨滴センサ31の出力および/またはワイパー機構41の作動状態に基づいて、路面RSが反射性路面である可能性があるか否かを判定するようになっている。
路面反射判定部706は、座標取得部703によって取得された、地上高値が負値の3次元座標情報が、路面RSに映し出された反射像VRに基づくものであるか否かを判定するようになっている。本実施形態においては、路面反射判定部706は、路面RSが物体Bの反射像VRを映し出す反射性路面である可能性があることを路面状態判定部705が判定した場合に、判定動作を実行するようになっている。路面反射判定部706による実際の判定内容の具体例については後述する。
座標補正部707は、座標取得部703によって取得された、地上高値が負値となる3次元座標情報に対して、地上高値が正値となるように補正するようになっている。本実施形態においては、座標補正部707は、地上高値が負値の3次元座標情報が反射性路面による反射像VRに基づくものであると路面反射判定部706が判定した場合に、当該3次元座標情報における地上高値を正値に補正するようになっている。具体的には、例えば、座標補正部707は、地下検知点FP2における地上高値を、絶対値を維持しつつ符号を正値に反転させるようになっている。
(動作概要)
以下、物体検知装置20すなわち制御部27における動作の概要について、本実施形態の構成により奏される効果とともに、図1〜図4を参照しつつ説明する。
以下、物体検知装置20すなわち制御部27における動作の概要について、本実施形態の構成により奏される効果とともに、図1〜図4を参照しつつ説明する。
車速が所定速度未満である等の所定条件の成立下で、自車両の乗員(例えば運転者)が入力操作部54を操作することにより、駐車支援ECUを構成する制御部27は、駐車支援動作を開始する。
駐車支援動作が開始すると、撮像部21により取得された画像情報が、撮像部21から制御部27に順次送信される。制御部27が受信した画像情報は、画像情報取得部701により取得され、時系列で格納される。また、ソナーセンサ22により取得された測距情報は、ソナーセンサ22から制御部27に順次送信される。制御部27が受信した測距情報は、距離取得部704により取得され、時系列で格納される。
また、移動量取得部702は、車速センサ24、シフトポジションセンサ25、および舵角センサ26の出力に基づいて、自車両の移動方向および移動量を取得する。座標取得部703は、画像情報取得部701に時系列で格納された画像情報と、移動量取得部702により取得した自車両の移動方向および移動量とに基づいて、物体B上の特徴点FPにおける3次元座標情報を取得する。すなわち、物体B上の特徴点FPにおける3次元座標情報が、撮像部21により取得された画像情報の、自車両の移動に伴う履歴に基づいて取得される。
(路面反射判定手法)
図4に示されているように、自車両の周囲に存在する物体Bの反射像VRが、反射性路面に生じる場合がある。この場合、反射像VRに対応する画像情報が、撮像部21により取得され得る。反射像VRに基づいて座標取得部703によって取得された3次元座標情報においては、地上高値が負値となる。すなわち、反射像VR上の特徴点FPである地下検知点FP2に対応する3次元座標情報は、符号が負となる地上高値を有する。
図4に示されているように、自車両の周囲に存在する物体Bの反射像VRが、反射性路面に生じる場合がある。この場合、反射像VRに対応する画像情報が、撮像部21により取得され得る。反射像VRに基づいて座標取得部703によって取得された3次元座標情報においては、地上高値が負値となる。すなわち、反射像VR上の特徴点FPである地下検知点FP2に対応する3次元座標情報は、符号が負となる地上高値を有する。
ところで、地上高値が負値となる特徴点FPは、反射性路面に生じる反射像VRに基づくものとは限らない。すなわち、例えば、路面RSに形成された、マンホール等の穴あるいは溝等の凹部に対応する、特徴点FPも、地上高値が負値となる。
図4に示されているように、路面RS上の水膜への物体Bの映り込みに際しては、当該水膜の表面は、反射鏡として作用する。すなわち、当該水膜上に生じる反射像VRは、物体Bの実像RRの鏡像となる。したがって、通常は、実像RR上の特徴点FPである地上検知点FP1と、実像RRに対応する反射像VR上の特徴点FPである地下検知点FP2とが、対となって検知される。
実像RRおよび反射像VRに対応する3次元座標情報が移動ステレオの手法により取得されると、実像RRと反射像VRとで、地上高値を除く2次元座標情報は略同一値となる。このため、地下検知点FP2に対応する3次元座標情報における、地上高値以外の2次元座標情報については、物体Bの自車両に対する相対位置に対応した正確な値となり得る。
(第一判定手法)
上記の通り、通常の場合、実像RR上の特徴点FPである地上検知点FP1と、実像RRに対応する反射像VR上の特徴点FPである地下検知点FP2とが、対となって検知される。この場合、地上高値が負値の3次元座標情報における地上高値の符号を正に反転させた位置から所定範囲内にて、地上高値が正値の3次元座標情報が座標取得部703によって取得されているはずである。したがって、この場合、路面反射判定部706は、地上高値が負値の3次元座標情報が反射像VRに基づくものであると判定することが可能である。かかる判定方法によれば、実際に存在する物体Bと対応する地下検知点FP2のみを座標補正部707による補正対象とすることができ、以てノイズ検出が低減される。
上記の通り、通常の場合、実像RR上の特徴点FPである地上検知点FP1と、実像RRに対応する反射像VR上の特徴点FPである地下検知点FP2とが、対となって検知される。この場合、地上高値が負値の3次元座標情報における地上高値の符号を正に反転させた位置から所定範囲内にて、地上高値が正値の3次元座標情報が座標取得部703によって取得されているはずである。したがって、この場合、路面反射判定部706は、地上高値が負値の3次元座標情報が反射像VRに基づくものであると判定することが可能である。かかる判定方法によれば、実際に存在する物体Bと対応する地下検知点FP2のみを座標補正部707による補正対象とすることができ、以てノイズ検出が低減される。
(第二判定手法)
図4に示されているように、撮像部21による撮影画像中において、地下検知点FP2は、地上検知点FP1よりも、下側すなわち撮像部21側に現れる。より詳細には、地下検知点FP2は、所定の基準点RPと地上検知点FP1とを結ぶ仮想線分VL上、あるいは、仮想線分VLの近傍に存在する。基準点RPは、例えば、路面RS上における撮像部21に対応する点、具体的には、基準面と直交しつつ撮像部21の配置位置を通る直線と基準面との交点である。あるいは、基準点RPは、例えば、基準面と直交する複数の直線が撮影画像中にて収束する点である。
図4に示されているように、撮像部21による撮影画像中において、地下検知点FP2は、地上検知点FP1よりも、下側すなわち撮像部21側に現れる。より詳細には、地下検知点FP2は、所定の基準点RPと地上検知点FP1とを結ぶ仮想線分VL上、あるいは、仮想線分VLの近傍に存在する。基準点RPは、例えば、路面RS上における撮像部21に対応する点、具体的には、基準面と直交しつつ撮像部21の配置位置を通る直線と基準面との交点である。あるいは、基準点RPは、例えば、基準面と直交する複数の直線が撮影画像中にて収束する点である。
このため、路面反射判定部706は、以下の条件Xが成立する場合、地上高値が負値の3次元座標情報が反射像VRに基づくものであると判定することが可能である。あるいは、路面反射判定部706は、かかる条件を満たすような地上検知点FP1が存在する場合、地上高値が負値の3次元座標情報が反射像VRに基づくものであると判定することが可能である。これにより、地下検知点FP2が反射像VRに基づくものであることを、より正確に判定することが可能となる。
・条件X:撮影画像すなわち画像情報において、仮想線分VL上または仮想線分VLの近傍に、地下検知点FP2が存在する。
・条件X:撮影画像すなわち画像情報において、仮想線分VL上または仮想線分VLの近傍に、地下検知点FP2が存在する。
(第三判定手法)
地下検知点FP2に対応する3次元座標情報から、地下検知点FP2との距離が把握可能である。地下検知点FP2が、物体Bの実像RRの路面反射による反射像VR上の特徴点FPである場合、実像RRに対応する物体Bに対しては、ソナーセンサ22を用いた測距情報が取得されているはずである。この場合、地下検知点FP2との距離に対応した測距点が、距離取得部704により認識されていることとなる。すなわち、この場合、距離取得部704によって取得された距離から所定距離範囲内に、地上高値が負値の3次元座標情報に対応する特徴点FPが存在する。したがって、この場合、路面反射判定部706は、地上高値が負値の3次元座標情報が反射像VRに基づくものであると判定することが可能である。これにより、地下検知点FP2が反射像VRに基づくものであることを、より正確に判定することが可能となる。
地下検知点FP2に対応する3次元座標情報から、地下検知点FP2との距離が把握可能である。地下検知点FP2が、物体Bの実像RRの路面反射による反射像VR上の特徴点FPである場合、実像RRに対応する物体Bに対しては、ソナーセンサ22を用いた測距情報が取得されているはずである。この場合、地下検知点FP2との距離に対応した測距点が、距離取得部704により認識されていることとなる。すなわち、この場合、距離取得部704によって取得された距離から所定距離範囲内に、地上高値が負値の3次元座標情報に対応する特徴点FPが存在する。したがって、この場合、路面反射判定部706は、地上高値が負値の3次元座標情報が反射像VRに基づくものであると判定することが可能である。これにより、地下検知点FP2が反射像VRに基づくものであることを、より正確に判定することが可能となる。
(実施形態の構成による作用効果)
上記のようにして、路面反射判定部706により、地上高値が負値の3次元座標情報が反射像VRに基づくものであると判定されると、座標補正部707は、地上高値が負値となる3次元座標情報に対して、地上高値が正値となるように補正する。具体的には、例えば、座標補正部707は、地下検知点FP2に対応する3次元座標情報に対して、地上高値の絶対値を維持しつつ、地上高値の符号を正に反転させる。
上記のようにして、路面反射判定部706により、地上高値が負値の3次元座標情報が反射像VRに基づくものであると判定されると、座標補正部707は、地上高値が負値となる3次元座標情報に対して、地上高値が正値となるように補正する。具体的には、例えば、座標補正部707は、地下検知点FP2に対応する3次元座標情報に対して、地上高値の絶対値を維持しつつ、地上高値の符号を正に反転させる。
本実施形態においては、反射像VRに対応する地上高値が負値の3次元座標情報は、正値に補正されることで、ノイズとして除去されるのではなく物体Bの検知のために積極的に活用され得る。したがって、かかる構成によれば、自車両の周囲に存在する物体Bの反射像VRが路面RSに生じても、当該物体Bを従来よりも良好に検知することが可能となる。また、従来ノイズとして除去されていた、映り込みにより得られた検知点を、補正により活用することで、障害物の検知点数を増加させられるため、雨天時の障害物の判定性能を向上することができる。
本実施形態においては、座標補正部707は、地上高値が負値の3次元座標情報が反射像VRに基づくものであると路面反射判定部706が判定した場合に、当該3次元座標情報における地上高値を正値に補正する。したがって、マンホール等の穴あるいは溝等の凹部上の特徴点FPに対応する3次元座標情報を誤って補正することが、良好に抑制され得る。
本実施形態においては、路面反射判定部706は、路面RSが反射性路面であることを路面状態判定部705が判定した場合に判定動作を実行する。したがって、反射性路面が発生していないような状況における不必要な判定処理負荷の発生が、良好に回避され得る。また、マンホール等の穴あるいは溝等の凹部上の特徴点FPに対応する3次元座標情報を誤って補正することが、良好に抑制され得る。
本実施形態においては、座標取得部703は、撮像部21により取得された画像情報の履歴と、移動量取得部702により取得された自車両の移動量とに基づいて、3次元座標情報を取得する。したがって、いわゆる単眼移動ステレオ法の利用が可能となる。すなわち、特定の方向に向けられた1個の撮像部21における画像情報の履歴と自車両の移動量とに基づいて、当該撮像部21の向けられた方向に存在する物体Bを認識することが可能となる。これにより、ステレオカメラ法を用いた場合よりも、装置コストが低減され得る。
駐車支援動作においては、道路走行中における自動運転動作とは異なり、細いポール等の検知しづらい物体Bに対しても、良好に検知する必要がある。雨天時にて路面RSに水溜り等が生じることで物体Bの反射像VRが撮像部21に映り込む場合、物体Bの良好な検知がさらに困難となり得る。
この点、本実施形態においては、物体検知装置20による物体Bの認識結果は、駐車支援装置50による駐車支援動作に用いられる。したがって、本実施形態によれば、天候等の条件にかかわらず、良好な駐車支援動作を実現することが可能となる。
(動作例)
以下、本実施形態の構成による、上記の動作概要に対応する具体的な動作例について、フローチャートを用いて説明する。なお、図面において、「ステップ」を単に「S」と略記する。
以下、本実施形態の構成による、上記の動作概要に対応する具体的な動作例について、フローチャートを用いて説明する。なお、図面において、「ステップ」を単に「S」と略記する。
図5は、撮像部21により取得された画像情報に基づく、物体Bの検知動作の一例を示すフローチャートである。図5に示された物体検知ルーチンは、所定の起動条件が成立した後、所定時間間隔で、CPUにより繰り返し起動される。
図5に示された物体検知ルーチンが起動されると、まず、ステップ501にて、CPUは、画像情報を撮像部21から取得し、不揮発性RAMに時系列で格納する。また、CPUは、今回取得した最新の画像情報を、RAMに保持する。ステップ501の処理は、画像情報取得部701の動作に対応する。次に、ステップ502にて、CPUは、取得した画像情報に基づいて、撮影画像中の特徴点FPを抽出する。続いて、ステップ503にて、CPUは、自車両の移動量を取得する。さらに、ステップ504にて、CPUは、抽出した特徴点FPに対応する3次元座標情報を取得し、RAMに一旦保持する。
ステップ502〜ステップ504の処理のうち、ステップ503の処理は移動量取得部702の動作に対応し、その余は座標取得部703の動作に対応する。なお、ステップ502〜ステップ504の処理内容は、周知の移動ステレオあるいはSFMに相当する。このため、ステップ502〜ステップ504における具体的な処理内容の詳細については、本明細書においては説明を省略する。
続いて、ステップ510にて、CPUは、路面状態情報を取得する。路面状態情報は、自車両の周囲の路面RSの状態に関連する情報、すなわち、路面RSの状態を判定するための情報である。具体的には、CPUは、雨滴センサ31の出力および/またはワイパー機構41の作動状態を取得する。続いて、ステップ520にて、CPUは、路面RSが反射性路面である可能性があるか否かを判定する。ステップ510およびステップ520の処理は、路面状態判定部705の動作に対応する。
路面RSが反射性路面である可能性がない場合(すなわちステップ520=NO)、CPUは、処理をステップ530に進行させた後、本ルーチンを一旦終了する。ステップ530にて、CPUは、RAMに一旦保持した3次元座標情報を、不揮発性RAMに格納する。ステップ530の処理は、座標取得部703の動作に対応する。この場合、ステップ503にて取得された3次元座標情報に対しては、地上高値の補正は実行されない。すなわち、ステップ504にてRAMに一旦保持された3次元座標情報は、ステップ530にて、不揮発性RAMにそのまま格納される。
一方、路面RSが反射性路面である可能性がある場合(すなわちステップ520=YES)、CPUは、処理をステップ540に進行させる。ステップ540にて、CPUは、地上高値が負値の3次元座標情報が存在するか否かを判定する。
地上高値が負値の3次元座標情報が存在しない場合(すなわちステップ540=NO)、CPUは、処理をステップ530に進行させた後、本ルーチンを一旦終了する。ステップ530にて、CPUは、RAMに一旦保持した3次元座標情報を、不揮発性RAMに格納する。この場合も、ステップ503にて取得された3次元座標情報に対しては、地上高値の補正は実行されない。すなわち、ステップ504にてRAMに一旦保持された3次元座標情報は、ステップ530にて、不揮発性RAMにそのまま格納される。
地上高値が負値の3次元座標情報が存在する場合(すなわちステップ540=YES)、CPUは、処理をステップ550に進行させた後、処理をステップ530に進行させ、その後、本ルーチンを一旦終了する。ステップ550にて、CPUは、座標補正処理を実行する。座標補正処理は、3次元座標情報を補正するための処理である。ステップ550の処理内容の具体例は後述する。ステップ530にて、CPUは、ステップ550の処理を経た3次元座標情報を、不揮発性RAMに格納する。
(第一具体例)
図6Aは、ステップ550の処理内容の一具体例に対応するサブルーチンを示す。本具体例は、路面反射判定部706における第一判定手法に対応する。
図6Aは、ステップ550の処理内容の一具体例に対応するサブルーチンを示す。本具体例は、路面反射判定部706における第一判定手法に対応する。
かかるサブルーチンの処理が開始されると、まず、ステップ611にて、CPUは、1個の地下検知点FP2を抽出して、その3次元座標情報を読み出す。次に、ステップ621にて、CPUは、読み出した3次元座標情報における地上高値に対して、絶対値を維持しつつ、符号を正に反転させる。
続いて、ステップ631にて、CPUは、ステップ621にて符号を反転した3次元座標情報に対応する地上検知点FP1を探索する。具体的には、CPUは、ステップ621にて符号を反転した3次元座標情報に対応する位置を中心とした所定範囲内に、実像RR上の特徴点FPが存在するか否かを判定する。その後、CPUは、処理をステップ641に進行させる。
ステップ641にて、CPUは、ステップ631による探索の結果、地上高値の符号を反転した関係の地上検知点FP1と地下検知点FP2との組が存在するか否かを判定する。地上高値の符号を反転した関係の地上検知点FP1と地下検知点FP2との組が存在する場合、ステップ641の判定が「YES」となる。この場合、地下検知点FP2は、物体Bの実像RRの路面反射により生じた反射像VR上の特徴点FPである。すなわち、地上高値が負値の3次元座標情報を有する地下検知点FP2は、路面反射による反射像VRに基づくものである。
そこで、ステップ641の判定が「YES」の場合、CPUは、処理をステップ650に進行させた後、処理をステップ660に進行させる。ステップ611〜ステップ641の処理は、路面反射判定部706の動作に対応する。
ステップ650にて、CPUは、座標取得部703によって取得された、地上高値が負値となる3次元座標情報に対して、地上高値が正値となるように補正する。ステップ650の処理は、座標補正部707の動作に対応する。
ステップ660にて、CPUは、すべての地下検知点FP2に対する処理が終了したか否かを判定する。未処理の地下検知点FP2が存在する場合(すなわちステップ660=NO)、CPUは、処理をステップ611に戻す。一方、すべての地下検知点FP2に対する処理が終了した場合(すなわちステップ660=YES)、CPUは、本サブルーチンを一旦終了する。
一方、地上高値の符号を反転した関係の地上検知点FP1と地下検知点FP2との組が存在しない場合、ステップ641の判定が「NO」となる。この場合、地下検知点FP2は、物体Bの実像RRの路面反射により生じた反射像VR上の特徴点FPではない。すなわち、地下検知点FP2は、穴あるいは凹部に対応する特徴点FPであり、地上高値を正値に補正すべきではない。そこで、この場合、CPUは、ステップ650の処理をスキップして、処理をステップ660に進行させる。
(第二具体例)
図6Bは、ステップ550の処理内容の他の一具体例に対応するサブルーチンを示す。本具体例は、路面反射判定部706における第二判定手法に対応する。
図6Bは、ステップ550の処理内容の他の一具体例に対応するサブルーチンを示す。本具体例は、路面反射判定部706における第二判定手法に対応する。
かかるサブルーチンの処理が開始されると、まず、ステップ612にて、CPUは、1個の地下検知点FP2を抽出して、その3次元座標情報を読み出す。図6Bにおけるステップ612の処理内容は、図6Aにおけるステップ611の処理内容と同様である。
次に、ステップ622にて、CPUは、基準点RPを端点として当該端点から地下検知点FP2に向かう仮想半直線を算出する。続いて、ステップ632にて、CPUは、ステップ622にて算出した仮想半直線上、あるいは、かかる仮想半直線の近傍にて、地上検知点FP1を探索する。その後、CPUは、処理をステップ642に進行させる。
ステップ642にて、CPUは、ステップ632による探索の結果、該当する地上検知点FP1が発見されたか否かを判定する。算出した仮想半直線上あるいはその近傍に地上検知点FP1が存在する場合、ステップ642の判定が「YES」となる。この場合、図4に示されているように、地下検知点FP2は、基準点RPと地上検知点FP1とを結ぶ仮想線分VL上、あるいは、仮想線分VLの近傍に存在する。すなわち、この場合、地上高値が負値の3次元座標情報を有する地下検知点FP2は、路面反射による反射像VRに基づくものである。
そこで、ステップ642の判定が「YES」の場合、CPUは、処理をステップ650に進行させた後、本サブルーチンを一旦終了する。図6Bにおけるステップ650の処理内容は、図6Aと同様である。ステップ612〜ステップ642の処理は、路面反射判定部706の動作に対応する。
ステップ632による探索の結果、該当する地上検知点FP1が発見されなかった場合、ステップ642の判定が「NO」となる。この場合、地下検知点FP2は、物体Bの実像RRの路面反射により生じた反射像VR上の特徴点FPではない。すなわち、地下検知点FP2は、穴あるいは凹部に対応する特徴点FPであり、地上高値を正値に補正すべきではない。そこで、この場合、CPUは、ステップ650の処理をスキップして、処理をステップ660に進行させる。図6Bにおけるステップ660の処理内容は、図6Aと同様である。
(第三具体例)
図6Cは、ステップ550の処理内容のさらに他の一具体例に対応するサブルーチンを示す。本具体例は、路面反射判定部706における第三判定手法に対応する。
図6Cは、ステップ550の処理内容のさらに他の一具体例に対応するサブルーチンを示す。本具体例は、路面反射判定部706における第三判定手法に対応する。
かかるサブルーチンの処理が開始されると、まず、ステップ613にて、CPUは、地下検知点FP2を抽出して、その3次元座標情報を読み出す。図6Cにおけるステップ613の処理内容は、図6Aにおけるステップ611、および図6Bにおけるステップ612の処理内容と同様である。
次に、ステップ623にて、CPUは、測距点を読み出す。続いて、ステップ633にて、CPUは、読み出した測距点と地下検知点FP2とを対比する。すなわち、CPUは、測距点に対応する3次元座標情報と、地下検知点FP2に対応する3次元座標情報とを照合する。その後、CPUは、処理をステップ643に進行させる。
ステップ643にて、CPUは、測距点から所定距離範囲内に地下検知点FP2が存在するか否かを判定する。測距点から所定距離範囲内に地下検知点FP2が存在する場合、ステップ643の判定が「YES」となる。この場合、この場合、地下検知点FP2は、物体Bの実像RRの路面反射により生じた反射像VR上の特徴点FPである。すなわち、地上高値が負値の3次元座標情報を有する地下検知点FP2は、路面反射による反射像VRに基づくものである。
そこで、ステップ643の判定が「YES」の場合、CPUは、処理をステップ650に進行させた後、本サブルーチンを一旦終了する。図6Cにおけるステップ650の処理内容は、図6Aおよび図6Bと同様である。ステップ613〜ステップ643の処理は、路面反射判定部706の動作に対応する。
測距点から所定距離範囲内に地下検知点FP2が存在しない場合、ステップ643の判定が「NO」となる。この場合、地下検知点FP2は、物体Bの実像RRの路面反射により生じた反射像VR上の特徴点FPではない。すなわち、地下検知点FP2は、穴あるいは凹部に対応する特徴点FPであり、地上高値を正値に補正すべきではない。そこで、この場合、CPUは、ステップ650の処理をスキップして、処理をステップ660に進行させる。図6Cにおけるステップ660の処理内容は、図6Aおよび図6Bと同様である。
(変形例)
本発明は、上記実施形態に限定されるものではない。故に、上記実施形態に対しては、適宜変更が可能である。以下、代表的な変形例について説明する。以下の変形例の説明においては、上記実施形態との相違点を主として説明する。また、上記実施形態と変形例とにおいて、相互に同一または均等である部分には、同一符号が付されている。したがって、以下の変形例の説明において、上記実施形態と同一の符号を有する構成要素に関しては、技術的矛盾または特段の追加説明なき限り、上記実施形態における説明が適宜援用され得る。
本発明は、上記実施形態に限定されるものではない。故に、上記実施形態に対しては、適宜変更が可能である。以下、代表的な変形例について説明する。以下の変形例の説明においては、上記実施形態との相違点を主として説明する。また、上記実施形態と変形例とにおいて、相互に同一または均等である部分には、同一符号が付されている。したがって、以下の変形例の説明において、上記実施形態と同一の符号を有する構成要素に関しては、技術的矛盾または特段の追加説明なき限り、上記実施形態における説明が適宜援用され得る。
本発明は、上記実施形態にて示された具体的な装置構成に限定されない。すなわち、例えば、物体検知装置20を搭載する車両10は、四輪自動車に限定されない。具体的には、物体検知装置20を搭載する車両10は、三輪自動車であってもよいし、貨物トラック等の六輪または八輪自動車でもよい。また、物体検知装置20を搭載する車両10の種類は、内燃機関のみを備えた自動車であってもよいし、内燃機関を備えない電気自動車または燃料電池車であってもよいし、ハイブリッド自動車であってもよい。車体11の形状および構造も、箱状すなわち平面視における略矩形状に限定されない。ドアパネル17の数も、特段の限定はない。
物体検知装置20の適用対象は、駐車支援に限定されない。すなわち、例えば、物体検知装置20は、自動運転の定義におけるレベル2〜レベル5に相当する、半自動運転または自動運転に対しても、好適に適用可能である。
撮像部21を構成するイメージセンサは、CCDセンサに限定されない。すなわち、例えば、CCDセンサに代えて、CMOSセンサが用いられ得る。CMOSはComplementary MOSの略である。
撮像部21の配置および個数は、上記の例に限定されない。すなわち、例えば、フロントカメラCFは、車室内に配置され得る。具体的には、例えば、フロントカメラCFは、車室内、例えばルームミラーに装着され得る。フロントカメラCFは、1個であってもよいし、2個であってもよい。すなわち、物体検知装置20は、複眼ステレオカメラ構成を有していてもよい。例えば、左側カメラCLおよび右側カメラCRは、ドアミラー18とは異なる位置に配置され得る。あるいは、左側カメラCLおよび右側カメラCRは、省略され得る。
ソナーセンサ22の配置および個数は、上記の具体例に限定されない。すなわち、例えば、図1を参照すると、第三フロントソナーSF3が車幅方向における中央位置に配置される場合、第四フロントソナーSF4は省略される。同様に、第三リアソナーSR3が車幅方向における中央位置に配置される場合、第四リアソナーSR4は省略される。第三サイドソナーSS3および第四サイドソナーSS4は、省略され得る。
制御部27は、上記実施形態における物体検知装置20の主要部を構成する。このため、撮像部21、ソナーセンサ22、レーダーセンサ23、車速センサ24、シフトポジションセンサ25、舵角センサ26、表示部28、および音声出力部29は、物体検知装置20の構成要素ではなく、物体検知装置20の付随的要素であるものと把握され得る。すなわち、本発明の必須構成は、制御部27にのみ設けられているものとも解釈され得る。
上記実施形態においては、制御部27は、CPUがROM等からプログラムを読み出して起動する構成であった。しかしながら、本発明は、かかる構成に限定されない。すなわち、例えば、制御部27は、上記のような動作を可能に構成されたデジタル回路、例えばゲートアレイ等のASICであってもよい。ASICはAPPLICATION SPECIFIC INTEGRATED CIRCUITの略である。
マンホール等の穴あるいは溝等の凹部も、駐車支援、運転支援、あるいは自動運転に際して、障害物となる。この点では、路面RSから上方に突出した障害物である物体Bと同様である。このため、穴あるいは凹部に対応する特徴点FPに対して、反射像VR上の地下検知点FP2と同様に地上高値を正値に補正しても、駐車支援等に際しては特段の問題は生じない可能性がある。したがって、路面状態判定部705および路面反射判定部706は、省略され得る。
本発明は、上記実施形態にて示された具体的な動作例に限定されない。すなわち、例えば、移動量取得部702による、自車両の移動量の取得には、不図示の加速度センサの出力が用いられ得る。
座標取得部703における処理内容は、単眼移動ステレオに限定されない。具体的には、例えば、複眼ステレオ処理、またはSFMと複眼ステレオとの統合処理が用いられ得る。複眼ステレオ処理、またはSFMと複眼ステレオとの統合処理については、本願の出願時において、すでに公知または周知である。
距離取得部704は、ソナーセンサ22の出力に代えて、レーダーセンサ23の出力に基づいて、測距情報を取得してもよい。
路面状態判定部705における処理内容は、上記の例に限定されない。すなわち、例えば、路面状態判定部705は、現在の自車両の進行方向側に存在する撮像部21による撮影画像中に、撮像部21に付着した水滴が確認された場合に、路面RSが反射性路面である可能性があると判定してもよい。
あるいは、例えば、路面状態判定部705は、レーダーセンサ23に対する雨滴の付着を検知した場合に、路面RSが反射性路面である可能性があると判定してもよい。
反射性路面としては、水膜の他にも、凍結路面の可能性がある。このため、例えば、路面状態判定部705は、ABSあるいはESCが作動したことを制動制御ECU52等から受信し、且つ外気温が所定温度未満である場合に、路面RSが反射性路面である可能性があると判定してもよい。ABSはAntilock Brake Systemの略である。ESCはElectronic Stability Controlの略である。
路面状態判定部705は、上記の各要素の組み合わせに基づいて、路面状態を判定してもよい。上記の各要素とは、雨滴センサ31の出力、ワイパー機構41の作動状態、撮像部21による雨滴検知状態、レーダーセンサ23による雨滴検知状態、不図示の外気温センサの出力、ABS作動状態、ESC作動状態、等を含む。
あるいは、例えば、路面状態判定部705は、車−車間通信あるいは車−外間通信を用いて自車両の外部から取得された情報(例えば気象情報等)に基づいて、車両10の周囲の路面RSの状態を判定してもよい。車−車間通信は「V2V」とも称され得る。V2VはVehicle-to-Vehicleの略である。車−外間通信は「V2I」とも称され得る。V2IはVehicle-to-roadside-Infrastructureの略であり、「路車間通信」とも称される。両者を包含する概念は、「V2X」と称される。「V2X」は「vehicle-to-any」とも称され得る。
路面反射判定部706における判定手法も、上記の各具体例に限定されない。すなわち、例えば、路面反射判定部706は、地上検知点FP1の真下に地下検知点FP2が存在する場合に、地下検知点FP2が反射像VRに基づくものであると判定してもよい。「地上検知点FP1の真下に地下検知点FP2が存在する」とは、地上検知点FP1と地下検知点FP2とで、2次元座標情報が互いに同一あるいは略同一であることをいう。2次元座標情報とは、上記の通り、3次元座標情報における地上高値以外の情報である。
路面反射判定部706における判定は、複数の判定手法の組み合わせを用いてもよい。すなわち、例えば、路面反射判定部706は、以下の条件(1)〜(3)のうちの少なくとも2つが成立する場合に、地上高値が負値の3次元座標情報を有する地下検知点FP2が路面反射による反射像VRに基づくものと判定してもよい。
・条件(1):地上高値の符号を反転した関係の地上検知点FP1と地下検知点FP2との組が存在すること。
・条件(2):基準点RPと地上検知点FP1とを結ぶ仮想線分VL上、あるいは、仮想線分VLの近傍に、地下検知点FP2が存在すること。
・条件(3):測距点から所定距離範囲内に地下検知点FP2が存在すること。
・条件(1):地上高値の符号を反転した関係の地上検知点FP1と地下検知点FP2との組が存在すること。
・条件(2):基準点RPと地上検知点FP1とを結ぶ仮想線分VL上、あるいは、仮想線分VLの近傍に、地下検知点FP2が存在すること。
・条件(3):測距点から所定距離範囲内に地下検知点FP2が存在すること。
なお、上記の条件(1)は、下記の条件(4)と置換され得る。
・条件(4):地上検知点FP1の真下に地下検知点FP2が存在すること。
・条件(4):地上検知点FP1の真下に地下検知点FP2が存在すること。
また、上記の条件(2)は、下記の条件(5)と等価である。
・条件(5):基準点RPを端点として当該端点から地下検知点FP2に向かう仮想半直線上、あるいは、かかる仮想半直線の近傍に、地上検知点FP1が存在すること。
・条件(5):基準点RPを端点として当該端点から地下検知点FP2に向かう仮想半直線上、あるいは、かかる仮想半直線の近傍に、地上検知点FP1が存在すること。
「取得」という表現と、「推定」「検出」「検知」「算出」等の類似の表現とは、技術的に矛盾しない範囲内において、適宜置換可能である。各判定処理における不等号は、等号付きであってもよいし、等号無しであってもよい。すなわち、例えば、「所定値未満」と「所定値以下」とは、技術的に矛盾しない範囲内において、互いに置換され得る。
上記実施形態を構成する要素は、特に必須であると明示した場合および原理的に明らかに必須であると考えられる場合等を除き、必ずしも必須のものではないことは言うまでもない。また、構成要素の個数、数値、量、範囲等の数値が言及されている場合、特に必須であると明示した場合および原理的に明らかに特定の数に限定される場合等を除き、その特定の数に本発明が限定されることはない。同様に、構成要素等の形状、方向、位置関係等が言及されている場合、特に必須であると明示した場合および原理的に特定の形状、方向、位置関係等に限定される場合等を除き、その形状、方向、位置関係等に本発明が限定されることはない。
変形例も、上記の例示に限定されない。また、複数の変形例が、互いに組み合わされ得る。さらに、上記実施形態の全部または一部と、変形例の全部または一部とが、互いに組み合わされ得る。
10 車両
20 物体検知装置
21 撮像部
702 移動量取得部
703 座標取得部
704 距離取得部
705 路面状態判定部
706 路面反射判定部
707 座標補正部
B 物体
20 物体検知装置
21 撮像部
702 移動量取得部
703 座標取得部
704 距離取得部
705 路面状態判定部
706 路面反射判定部
707 座標補正部
B 物体
Claims (8)
- 自車両(10)に搭載されることで当該自車両の周囲に存在する物体(B)を検知するように構成された、物体検知装置(20)であって、
前記自車両の周囲の画像に対応する画像情報を取得するように設けられた撮像部(21)により取得された前記画像情報に基づいて、前記物体上の特徴点における、前記自車両の接地面を平面と仮定した場合の当該平面である基準面を基準とした高さである地上高値を含む3次元座標情報を取得するように設けられた、座標取得部(703)と、
前記座標取得部によって取得された、前記地上高値が前記基準面よりも低い負値となる前記3次元座標情報に対して、前記地上高値が前記基準面よりも高い正値となるように補正するように設けられた、座標補正部(707)と、
を備えた物体検知装置。 - 前記座標取得部によって取得された、前記地上高値が前記負値の前記3次元座標情報が、路面(RS)に映し出された反射像(VR)に基づくものであることを判定するように設けられた、路面反射判定部(706)をさらに備え、
前記座標補正部は、前記地上高値が前記負値の前記3次元座標情報が前記反射像に基づくものであると前記路面反射判定部が判定した場合に、当該3次元座標情報における前記地上高値を前記基準面よりも高い正値に補正するように設けられた、
請求項1に記載の物体検知装置。 - 前記路面反射判定部は、前記地上高値が前記負値の前記3次元座標情報における前記地上高値の符号を正に反転させた位置から所定範囲内にて、前記地上高値が前記正値の前記3次元座標情報が前記座標取得部によって取得されている場合に、前記地上高値が前記負値の前記3次元座標情報が前記反射像に基づくものであると判定するように設けられた、
請求項2に記載の物体検知装置。 - 前記路面反射判定部は、画像情報にて、所定の基準点(RP)と前記地上高値が前記正値の前記3次元座標情報に対応する前記特徴点(FP1)とを結ぶ仮想線分(VL)上に、前記地上高値が前記負値の前記3次元座標情報に対応する前記特徴点(FP2)が存在する場合に、前記地上高値が前記負値の前記3次元座標情報が前記反射像に基づくものであると判定するように設けられた、
請求項2に記載の物体検知装置。 - 前記物体との距離を取得するように設けられた、距離取得部(704)をさらに備え、
前記路面反射判定部は、前記距離取得部によって取得された前記距離から所定距離範囲内に、前記地上高値が前記負値の前記3次元座標情報に対応する前記特徴点が存在する場合に、前記地上高値が前記負値の前記3次元座標情報が前記反射像に基づくものであると判定するように設けられた、
請求項2に記載の物体検知装置。 - 前記路面の状態を判定するように設けられた、路面状態判定部(705)をさらに備え、
前記路面反射判定部は、前記路面が前記物体の前記反射像を映し出す反射性路面であることを前記路面状態判定部が判定した場合に判定動作を実行するように設けられた、
請求項2〜5のいずれか1つに記載の物体検知装置。 - 前記自車両の移動量を取得するように設けられた、移動量取得部(702)をさらに備え、
前記座標取得部は、前記画像情報の履歴と前記移動量とに基づいて、前記3次元座標情報を取得するように設けられた、
請求項1〜6のいずれか1つに記載の物体検知装置。 - 前記自車両の駐車を支援するように構成された、駐車支援装置(50)であって、
請求項1〜7のいずれか1つに記載の物体検知装置(20)と、
前記物体検知装置による検知結果に基づいて、前記自車両が駐車可能な駐車領域を検出するように設けられた、駐車領域検出部(271)と、
を備えた駐車支援装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018013865A JP2019133324A (ja) | 2018-01-30 | 2018-01-30 | 物体検知装置および駐車支援装置 |
PCT/JP2019/002568 WO2019151156A1 (ja) | 2018-01-30 | 2019-01-25 | 物体検知装置および駐車支援装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018013865A JP2019133324A (ja) | 2018-01-30 | 2018-01-30 | 物体検知装置および駐車支援装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2019133324A true JP2019133324A (ja) | 2019-08-08 |
Family
ID=67478132
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018013865A Pending JP2019133324A (ja) | 2018-01-30 | 2018-01-30 | 物体検知装置および駐車支援装置 |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP2019133324A (ja) |
WO (1) | WO2019151156A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2021081989A (ja) * | 2019-11-19 | 2021-05-27 | アイシン精機株式会社 | カメラキャリブレーション装置 |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7238722B2 (ja) * | 2019-10-11 | 2023-03-14 | トヨタ自動車株式会社 | 車両駐車支援装置 |
CN111583707A (zh) * | 2020-05-28 | 2020-08-25 | 大洋泊车股份有限公司 | 一种立体停车场的智能导引方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007256029A (ja) * | 2006-03-23 | 2007-10-04 | Denso It Laboratory Inc | ステレオ画像処理装置 |
JP2014013453A (ja) * | 2012-07-03 | 2014-01-23 | Clarion Co Ltd | 車載用周囲環境認識装置 |
JP2016009429A (ja) * | 2014-06-26 | 2016-01-18 | 富士重工業株式会社 | 車外環境認識装置 |
WO2017056821A1 (ja) * | 2015-09-30 | 2017-04-06 | ソニー株式会社 | 情報取得装置と情報取得方法 |
-
2018
- 2018-01-30 JP JP2018013865A patent/JP2019133324A/ja active Pending
-
2019
- 2019-01-25 WO PCT/JP2019/002568 patent/WO2019151156A1/ja active Application Filing
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007256029A (ja) * | 2006-03-23 | 2007-10-04 | Denso It Laboratory Inc | ステレオ画像処理装置 |
JP2014013453A (ja) * | 2012-07-03 | 2014-01-23 | Clarion Co Ltd | 車載用周囲環境認識装置 |
JP2016009429A (ja) * | 2014-06-26 | 2016-01-18 | 富士重工業株式会社 | 車外環境認識装置 |
WO2017056821A1 (ja) * | 2015-09-30 | 2017-04-06 | ソニー株式会社 | 情報取得装置と情報取得方法 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2021081989A (ja) * | 2019-11-19 | 2021-05-27 | アイシン精機株式会社 | カメラキャリブレーション装置 |
JP7358933B2 (ja) | 2019-11-19 | 2023-10-11 | 株式会社アイシン | カメラキャリブレーション装置 |
Also Published As
Publication number | Publication date |
---|---|
WO2019151156A1 (ja) | 2019-08-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110573905B (zh) | 障碍物检知装置 | |
US9707959B2 (en) | Driving assistance apparatus | |
US9896098B2 (en) | Vehicle travel control device | |
JP6413621B2 (ja) | 車載用物体判別装置 | |
KR20200029050A (ko) | 운전 지원 차량의 주행 제어 방법 및 주행 제어 장치 | |
CN108216033B (zh) | 车辆外围监视装置 | |
JP6834685B2 (ja) | 車両誘導装置、方法及びプログラム | |
WO2019151156A1 (ja) | 物体検知装置および駐車支援装置 | |
JP6673181B2 (ja) | 駐車支援装置およびその制御部 | |
CN110730735B (zh) | 泊车辅助方法及泊车辅助装置 | |
WO2018225347A1 (ja) | 走行障害検出装置及び車両ナビゲーションシステム | |
CN103608217A (zh) | 用于泊车引导的加装组件 | |
JP2008030541A (ja) | 車両用運転支援装置、及び、車両用表示装置 | |
CN111918803B (zh) | 驾驶辅助控制装置、驾驶辅助系统和驾驶辅助控制方法 | |
CN112977426A (zh) | 驻车辅助系统 | |
JP2018130994A (ja) | 駐車支援装置 | |
JP6579144B2 (ja) | 障害物検知装置 | |
WO2021172532A1 (ja) | 駐車支援装置および駐車支援方法 | |
JP2019156308A (ja) | 駐車支援装置 | |
JP4768499B2 (ja) | 車載周辺他車検出装置 | |
JP7135579B2 (ja) | 物体検知装置 | |
JP6958485B2 (ja) | 物体検知装置 | |
JP7334572B2 (ja) | 物体検知装置および物体検知プログラム | |
WO2021075377A1 (ja) | 物体検知装置、物体検知方法、および物体検知プログラム | |
JP7318377B2 (ja) | 物体検知装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200218 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210406 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20211005 |