(実施形態)
以下、本発明の実施形態を、図面に基づいて説明する。なお、一つの実施形態に対して適用可能な各種の変形例については、当該実施形態に関する一連の説明の途中に挿入されると、当該実施形態の理解が妨げられるおそれがある。このため、変形例については、当該実施形態に関する一連の説明の途中ではなく、その後にまとめて説明する。
(車両の全体構成)
図1を参照すると、車両10は、いわゆる四輪自動車であって、平面視にて略矩形状の車体11を備えている。以下、車両10の車幅方向における中心を通り、且つ車両10における車両全長方向と平行な仮想直線を、車両中心軸線Xと称する。図1において、車幅方向は図中左右方向である。車両全長方向は、車幅方向と直交し且つ車高方向と直交する方向である。車高方向は、車両10の車高を規定する方向であって、車両10を水平面に載置した場合の重力作用方向と平行な方向である。さらに、走行により車両10が移動可能な、車高方向と直交する任意の方向を、車両10の「並進方向」と称することがある。
説明の便宜上、車両10における「前」「後」「左」「右」を、図1中にて矢印で示された通りに定義する。すなわち、車両全長方向は、前後方向と同義である。また、車幅方向は、左右方向と同義である。なお、車高方向は、車両10の載置条件または走行条件により、重力作用方向と平行とはならない場合があり得る。もっとも、車高方向は多くの場合に重力作用方向に沿った方向となるため、車高方向と直交する「並進方向」は、「水平方向」、「面内方向」、「進入方向」、「進行方向」あるいは「進路方向」とも称され得る。
車体11における前側の端部である前面部12には、フロントバンパー13が装着されている。車体11における後側の端部である後面部14には、リアバンパー15が装着されている。車体11における側面部16には、ドアパネル17が装着されている。図1に示す具体例においては、左右にそれぞれ2枚ずつ、合計4枚のドアパネル17が設けられている。前側の左右一対のドアパネル17のそれぞれには、ドアミラー18が装着されている。
車両10には、物体検知装置20が搭載されている。物体検知装置20は、車両10に搭載されることで、当該車両10の外側且つその周囲に存在する物体Bを検知するように構成されている。以下、物体検知装置20を搭載した車両10を、「自車両」と略称することがある。すなわち、物体検知装置20は、自車両の並進方向に存在する物体Bを検知するように構成されている。
具体的には、物体検知装置20は、撮像部21と、ソナーセンサ22と、レーダーセンサ23と、車速センサ24と、シフトポジションセンサ25と、舵角センサ26と、物体検知ECU27と、表示部28と、音声出力部29とを備えている。ECUはElectronic Control Unitの略である。以下、物体検知装置20を構成する各部の詳細について説明する。なお、図示の簡略化のため、物体検知装置20を構成する各部の間の電気接続関係は、図1においては省略されている。
撮像部21は、自車両の周囲の画像を撮影して、撮影画像に対応する画像情報を生成および取得するように設けられている。本実施形態においては、撮像部21は、デジタルカメラ装置であって、CCD等のイメージセンサを備えている。CCDはCharge Coupled Deviceの略である。
本実施形態においては、車両10には、複数の撮像部21、すなわち、フロントカメラCF、リアカメラCB、左側カメラCL、および右側カメラCRが搭載されている。フロントカメラCF、リアカメラCB、左側カメラCL、および右側カメラCRのうちの、いずれかであることを特定しない場合に、以下、「撮像部21」という単数形の表現、または「複数の撮像部21」という表現が用いられることがある。
フロントカメラCFは、自車両の前方の画像に対応する画像情報を取得するように設けられている。具体的には、本実施形態においては、フロントカメラCFは、車両10における車室内に配置された不図示のルームミラーに装着されている。
リアカメラCBは、自車両の後方の画像に対応する画像情報を取得するように、車体11の後面部14に装着されている。左側カメラCLは、自車両の左方の画像に対応する画像情報を取得するように、左側のドアミラー18に装着されている。右側カメラCRは、自車両の右方の画像に対応する画像情報を取得するように、右側のドアミラー18に装着されている。
複数の撮像部21の各々は、物体検知ECU27に電気接続されている。すなわち、複数の撮像部21の各々は、物体検知ECU27の制御下で画像情報を取得するとともに、取得した画像情報を物体検知ECU27にて受信可能に出力するようになっている。
ソナーセンサ22は、物体B上の点との距離を測定する測距センサであって、車体11に装着されている。すなわち、ソナーセンサ22は、自車両の外側に向けて発信された探査波の、物体Bによる反射波を含む受信波を受信することで、物体Bとの距離に対応する信号を出力するように設けられている。具体的には、本実施形態においては、ソナーセンサ22は、いわゆる超音波センサであって、超音波である探査波を自車両の外側に向けて発信するとともに、超音波を含む受信波を受信可能に構成されている。
物体検知装置20は、少なくとも一個のソナーセンサ22を備えている。具体的には、本実施形態においては、複数のソナーセンサ22が設けられている。複数のソナーセンサ22は、それぞれ、車両中心軸線Xから車幅方向におけるいずれか一方側にシフトして配置されている。また、複数のソナーセンサ22のうちの少なくとも一部は、車両中心軸線Xと交差する方向に沿って探査波を発信するように設けられている。
具体的には、フロントバンパー13には、ソナーセンサ22としての、第一フロントソナーSF1、第二フロントソナーSF2、第三フロントソナーSF3、および第四フロントソナーSF4が装着されている。同様に、リアバンパー15には、ソナーセンサ22としての、第一リアソナーSR1、第二リアソナーSR2、第三リアソナーSR3、および第四リアソナーSR4が装着されている。また、車体11の側面部16には、ソナーセンサ22としての、第一サイドソナーSS1、第二サイドソナーSS2、第三サイドソナーSS3、および第四サイドソナーSS4が装着されている。
第一フロントソナーSF1、第二フロントソナーSF2、第三フロントソナーSF3、第四フロントソナーSF4、第一リアソナーSR1、第二リアソナーSR2、第三リアソナーSR3、第四リアソナーSR4、第一サイドソナーSS1、第二サイドソナーSS2、第三サイドソナーSS3、および第四サイドソナーSS4のうちの、いずれかであることを特定しない場合に、以下、「ソナーセンサ22」という単数形の表現、または「複数のソナーセンサ22」という表現が用いられることがある。
或る一個のソナーセンサ22を「第一ソナーセンサ」と称し、別の一個のソナーセンサ22を「第二ソナーセンサ」と称して、「直接波」および「間接波」を、以下のように定義する。第一ソナーセンサに受信される受信波であって、第一ソナーセンサから発信された探査波の物体Bによる反射波に起因する受信波を、「直接波」と称する。これに対し、第一ソナーセンサに受信される受信波であって、第二ソナーセンサから発信された探査波の物体Bによる反射波に起因する受信波を、「間接波」と称する。
第一フロントソナーSF1は、自車両の左前方に探査波を発信するように、フロントバンパー13の前側表面における左端部に設けられている。第二フロントソナーSF2は、自車両の右前方に探査波を発信するように、フロントバンパー13の前側表面における右端部に設けられている。第一フロントソナーSF1と第二フロントソナーSF2とは、車両中心軸線Xを挟んで対称に配置されている。
第三フロントソナーSF3と第四フロントソナーSF4とは、フロントバンパー13の前側表面における中央寄りの位置にて、車幅方向に配列されている。第三フロントソナーSF3は、自車両の略前方に探査波を発信するように、車幅方向について第一フロントソナーSF1と車両中心軸線Xとの間に配置されている。第四フロントソナーSF4は、自車両の略前方に探査波を発信するように、車幅方向について第二フロントソナーSF2と車両中心軸線Xとの間に配置されている。第三フロントソナーSF3と第四フロントソナーSF4とは、車両中心軸線Xを挟んで対称に配置されている。
上記の通り、車体11の左側に装着された第一フロントソナーSF1および第三フロントソナーSF3は、平面視にて互いに異なる位置に配置されている。また、車幅方向について互いに隣接する第一フロントソナーSF1と第三フロントソナーSF3とは、相互に、一方が発信した探査波の物体Bによる反射波が他方における受信波として受信可能な位置関係に設けられている。
すなわち、第一フロントソナーSF1は、自己が発信した探査波に対応する直接波と、第三フロントソナーSF3が発信した探査波に対応する間接波との双方を受信可能に配置されている。同様に、第三フロントソナーSF3は、自己が発信した探査波に対応する直接波と、第一フロントソナーSF1が発信した探査波に対応する間接波との双方を受信可能に配置されている。
同様に、車体11の車幅方向における中央寄りに装着された第三フロントソナーSF3および第四フロントソナーSF4は、平面視にて互いに異なる位置に配置されている。また、車幅方向について互いに隣接する第三フロントソナーSF3と第四フロントソナーSF4とは、相互に、一方が発信した探査波の物体Bによる反射波が他方における受信波として受信可能な位置関係に設けられている。
同様に、車体11の右側に装着された第二フロントソナーSF2および第四フロントソナーSF4は、平面視にて互いに異なる位置に配置されている。また、車幅方向について互いに隣接する第二フロントソナーSF2と第四フロントソナーSF4とは、相互に、一方が発信した探査波の物体Bによる反射波が他方における受信波として受信可能な位置関係に設けられている。
第一リアソナーSR1は、自車両の左後方に探査波を発信するように、リアバンパー15の後側表面における左端部に設けられている。第二リアソナーSR2は、自車両の右後方に探査波を発信するように、リアバンパー15の後側表面における右端部に設けられている。第一リアソナーSR1と第二リアソナーSR2とは、車両中心軸線Xを挟んで対称に配置されている。
第三リアソナーSR3と第四リアソナーSR4とは、リアバンパー15の後側表面における中央寄りの位置にて、車幅方向に配列されている。第三リアソナーSR3は、自車両の略後方に探査波を発信するように、車幅方向について第一リアソナーSR1と車両中心軸線Xとの間に配置されている。第四リアソナーSR4は、自車両の略後方に探査波を発信するように、車幅方向について第二リアソナーSR2と車両中心軸線Xとの間に配置されている。第三リアソナーSR3と第四リアソナーSR4とは、車両中心軸線Xを挟んで対称に配置されている。
上記の通り、車体11の左側に装着された第一リアソナーSR1および第三リアソナーSR3は、平面視にて互いに異なる位置に配置されている。また、車幅方向について互いに隣接する第一リアソナーSR1と第三リアソナーSR3とは、相互に、一方が発信した探査波の物体Bによる反射波が他方における受信波として受信可能な位置関係に設けられている。
すなわち、第一リアソナーSR1は、自己が発信した探査波に対応する直接波と、第三リアソナーSR3が発信した探査波に対応する間接波との双方を受信可能に配置されている。同様に、第三リアソナーSR3は、自己が発信した探査波に対応する直接波と、第一リアソナーSR1が発信した探査波に対応する間接波との双方を受信可能に配置されている。
同様に、車体11の車幅方向における中央寄りに装着された第三リアソナーSR3および第四リアソナーSR4は、平面視にて互いに異なる位置に配置されている。また、車幅方向について互いに隣接する第三リアソナーSR3と第四リアソナーSR4とは、相互に、一方が発信した探査波の物体Bによる反射波が他方における受信波として受信可能な位置関係に設けられている。
同様に、車体11の右側に装着された第二リアソナーSR2および第四リアソナーSR4は、平面視にて互いに異なる位置に配置されている。また、車幅方向について互いに隣接する第二リアソナーSR2と第四リアソナーSR4とは、相互に、一方が発信した探査波の物体Bによる反射波が他方における受信波として受信可能な位置関係に設けられている。
第一サイドソナーSS1、第二サイドソナーSS2、第三サイドソナーSS3、および第四サイドソナーSS4は、側面部16の外側表面である車両側面から探査波を自車両の側方に発信するように設けられている。第一サイドソナーSS1、第二サイドソナーSS2、第三サイドソナーSS3、および第四サイドソナーSS4は、それぞれ、直接波のみを受信可能に設けられている。
第一サイドソナーSS1は、自車両の左方に探査波を発信するように、前後方向について左側のドアミラー18と第一フロントソナーSF1との間に配置されている。第二サイドソナーSS2は、自車両の右方に探査波を発信するように、前後方向について右側のドアミラー18と第二フロントソナーSF2との間に配置されている。第一サイドソナーSS1と第二サイドソナーSS2とは、車両中心軸線Xを挟んで対称に設けられている。
第三サイドソナーSS3は、自車両の左方に探査波を発信するように、前後方向について左後側のドアパネル17と第一リアソナーSR1との間に配置されている。第四サイドソナーSS4は、自車両の右方に探査波を発信するように、前後方向について右後側のドアパネル17と第二リアソナーSR2との間に配置されている。第三サイドソナーSS3と第四サイドソナーSS4とは、車両中心軸線Xを挟んで対称に設けられている。
複数のソナーセンサ22の各々は、物体検知ECU27に電気接続されている。すなわち、複数のソナーセンサ22の各々は、物体検知ECU27の制御下で探査波を発信するとともに、受信波の受信結果に対応する信号を発生して物体検知ECU27にて受信可能に出力するようになっている。受信波の受信結果に対応する信号に含まれる情報を、以下「測距情報」と称する。測距情報には、受信波の受信強度に関連する情報、および、距離情報が含まれる。「距離情報」は、複数のソナーセンサ22の各々と物体Bとの距離に関連する情報である。具体的には、例えば、距離情報には、探査波の発信から受信波の受信までの時間差に関連する情報が含まれる。
レーダーセンサ23は、レーダー波を送受信するレーザーレーダーセンサまたはミリ波レーダーセンサであって、車体11の前面部12に装着されている。レーダーセンサ23は、反射点の位置および相対速度に対応する信号を発生して、物体検知ECU27にて受信可能に出力するように構成されている。「反射点」は、物体Bの表面上における、レーダー波を反射したと推定される点である。「相対速度」は、反射点すなわちレーダー波を反射した物体Bの、自車両に対する相対速度である。
車速センサ24、シフトポジションセンサ25、および舵角センサ26は、物体検知ECU27に電気接続されている。車速センサ24は、自車両の走行速度に対応する信号を発生して、物体検知ECU27にて受信可能に出力するように設けられている。自車両の走行速度を、以下単に「車速」と称する。シフトポジションセンサ25は、自車両のシフトポジションに対応する信号を発生して、物体検知ECU27にて受信可能に出力するように設けられている。舵角センサ26は、自車両の操舵角に対応する信号を発生して、物体検知ECU27にて受信可能に出力するように設けられている。
物体検知ECU27は、車体11の内側に配置されている。物体検知ECU27は、いわゆる車載マイクロコンピュータであって、図示しないCPU、ROM、RAM、不揮発性RAM、等を備えている。不揮発性RAMは、例えば、フラッシュROM等である。物体検知ECU27のCPU、ROM、RAMおよび不揮発性RAMを、以下単に「CPU」、「ROM」、「RAM」および「不揮発性RAM」と略称する。
物体検知ECU27は、CPUがROMまたは不揮発性RAMからプログラムを読み出して実行することで、各種の制御動作を実現可能に構成されている。このプログラムには、後述のルーチンに対応するものが含まれている。また、RAMおよび不揮発性RAMは、CPUがプログラムを実行する際の処理データを一時的に格納可能に構成されている。さらに、ROMおよび/または不揮発性RAMには、プログラムの実行の際に用いられる各種のデータが、あらかじめ格納されている。各種のデータには、例えば、初期値、ルックアップテーブル、マップ、等が含まれている。
物体検知ECU27は、複数のソナーセンサ22の各々、複数の撮像部21の各々、車速センサ24、シフトポジションセンサ25、舵角センサ26、等から受信した信号および情報に基づいて、物体検知動作を実行するように構成されている。また、物体検知ECU27は、表示部28および音声出力部29の動作を制御することで、物体検知状態に伴う報知動作を行うようになっている。
表示部28および音声出力部29は、車両10における車室内に配置されている。また、表示部28および音声出力部29は、物体検知ECU27に電気接続されている。表示部28は、物体検知状態に伴う報知動作を、表示画面またはインジケータによる表示により行うように構成されている。音声出力部29は、物体検知状態に伴う報知動作を、音声出力により行うように構成されている。
(物体検知ECUの機能構成)
図2を参照すると、物体検知ECU27は、マイクロコンピュータ上に実現される機能上の構成として、画像情報取得部271と、移動情報取得部272と、特徴点抽出部273と、三次元座標情報取得部274と、点群抽出部275と、測距情報取得部276と、障害物検知部277とを有している。
以下、本実施形態における、物体検知ECU27の機能構成の詳細について、図2のブロック図および図3の動作概要図を用いて説明する。図3は、車両1の後方に存在するポール状の物体Bを含む、リアカメラCBの撮影画像が処理される様子を示す。図3中、VAは撮影画像の画角である。画角VAは、撮像部21の視野に対応する、撮影画像の最大範囲である。また、HLは水平線すなわち地平線であり、DL1は実線状の道路区画線である第一区画線であり、DL2は破線状の道路区画線である第二区画線である。BDは遠方の建物である。
画像情報取得部271は、自車両の周囲の撮影画像に対応する画像情報を取得するように設けられている。具体的には、画像情報取得部271は、撮像部21により生成された画像情報を撮像部21から受信するとともに、受信した画像情報を時系列で不揮発性RAMに格納するようになっている。
移動情報取得部272は、物体検知動作中の、自車両の移動方向および移動量を取得するように設けられている。具体的には、移動情報取得部272は、車速センサ24、シフトポジションセンサ25、および舵角センサ26の出力に基づいて、自車両の移動方向および移動量を算出するとともに、算出結果を時系列で不揮発性RAMに格納するようになっている。
特徴点抽出部273は、画像情報取得部271にて取得した画像情報に基づいて、撮影画像における特徴点FPを抽出するように設けられている。特徴点FPは、撮影画像中の物体Bの形状を特徴付ける点である。換言すれば、特徴点FPは、画角VA内における、特徴的な点すなわち画素である。具体的には、例えば、特徴点FPは、隣接する画素との間での輝度変化が大きな画素である。
なお、特徴点FPおよびその抽出手法は、本願の出願時点にて周知である。具体的には、特徴点FPの検出手法として、周知の手法(例えば、Sobelフィルタ、Laplacianフィルタ、Canny法、等。)を用いることが可能である。したがって、本明細書においては、特徴点抽出部273による特徴点FPの抽出手法の詳細については、説明を省略する。なお、特徴点FPの「抽出」は、「検出」とも表現され得る。
三次元座標情報取得部274は、視点の異なる複数の撮影画像に基づいて、特徴点FPの三次元位置を取得するように設けられている。なお、本実施形態においては、リアカメラCB、フロントカメラCF、左側カメラCL、および右側カメラCRは、それぞれ1個ずつ設けられている。そこで、本実施形態においては、三次元座標情報取得部274は、画像情報取得部271により取得および格納された画像情報と、移動情報取得部272によって取得および格納された移動方向および移動量とに基づいて、物体B上の特徴点FPにおける三次元座標情報を取得するように構成されている。
すなわち、三次元座標情報取得部274は、移動ステレオあるいは単眼移動ステレオの手法を用いて、自車両の周囲に存在する物体Bを認識するように構成されている。具体的には、三次元座標情報取得部274は、特定の方向に向けられた一個の撮像部21における画像情報の履歴と、自車両の移動量とに基づいて、当該撮像部21の向けられた方向に存在する物体Bを認識するようになっている。移動ステレオは、SFMとも称される。SFMはStructure from Motionの略である。
なお、移動ステレオあるいはSFMについては、本願の出願時点において、すでに周知技術となっている。例えば、米国特許第7,433,494号明細書、同第8,027,514号明細書、等参照。必要に応じ、これらの記載は、技術的に矛盾しない限り、国内法令の許容する範囲において、記載内容が適宜参照により組み入れられる。したがって、本明細書においては、移動ステレオについての詳細については、説明を省略する。
点群抽出部275は、特徴点抽出部273による特徴点FPの抽出結果から、所定条件で配列する複数の特徴点FPからなる点群Gを抽出するように設けられている。本実施形態においては、「所定条件」は、複数の特徴点FPが直線状に配列していることを含む。また、「所定条件」は、複数の特徴点FPが水平線HLと交差するように配列していることを含む。また、本実施形態においては、点群抽出部275は、所定の探索範囲RSにて、点群Gを抽出するようになっている。探索範囲RSは、測距情報取得部276によって取得された測距情報に対応する測距点DPを基準とした、撮影画像中における所定範囲である。本実施形態においては、探索範囲RSの形状は、矩形状に設定されている。探索範囲RSの幅は、三角測量による測距点DPの測距誤差を考慮した所定幅に設定されている。探索範囲RSの高さは、計算負荷を考慮して、探索範囲RSが水平線HLと交差するような所定高さに設定されている。
測距情報取得部276は、ソナーセンサ22により測定された測距点DPとの距離に対応する測距情報を取得するように設けられている。すなわち、測距情報取得部276は、自車両の並進方向における物体Bの自車両に対する相対位置に対応する二次元位置情報、換言すれば、測距点DPに対応する測距情報を取得するとともに、取得結果を時系列で不揮発性RAMに格納するようになっている。具体的には、測距情報取得部276は、自車両の外側に向けて発信された超音波である探査波の物体Bによる反射波を、自車両の車体11に装着されたソナーセンサ22にて受信した結果に基づいて、測距情報を取得するように構成されている。
本実施形態においては、測距情報取得部276は、探査波の物体Bによる反射波をソナーセンサ22にて受信した結果に基づいて、測距情報を取得および格納するように設けられている。具体的には、測距情報取得部276は、測距点DPに対応する測距情報を取得しつつ時系列で不揮発性RAMに格納するようになっている。「測距点DP」は、物体Bの表面上における、ソナーセンサ22から発信された探査波を反射したと推定される点であって、レーダーセンサ23における「反射点」に対応する点である。なお、測距点DPの取得手法については、本願の出願時点にて周知である。したがって、かかる手法の詳細については、本明細書においては、説明を省略する。
障害物検知部277は、自車両の周囲の物体Bを障害物として検知するように設けられている。具体的には、障害物検知部277は、三次元座標情報取得部274により認識された物体Bを、障害物として検知するように構成されている。すなわち、障害物検知部277は、特徴点FPの三次元位置を取得あるいは推定するために必要な、充分な視差が得られた特徴点FPに基づいて、移動ステレオの手法により障害物を検知するようになっている。
また、障害物検知部277は、充分な視差が得られないために三次元座標情報取得部274により三次元位置が取得されなかった、複数の特徴点FPを活用して、障害物を検知するように構成されている。具体的には、障害物検知部277は、第一点群G1および第二点群G2と、その近傍にて測距情報取得部276によって取得された測距情報に対応する測距点DPとが、撮影画像中にて所定位置関係にある場合に、第一点群G1と第二点群G2との間の領域を障害物として検知するようになっている。第一点群G1および第二点群G2は、点群抽出部275によって抽出された、2個の点群Gである。本実施形態においては、「所定位置関係」は、第一点群G1および第二点群G2の、撮影画像中における測距点DPからの距離が、所定距離以下であることを含む。
(作用・効果)
以下、本実施形態の物体検知装置20すなわち物体検知ECU27における動作の概要について、本実施形態の構成により奏される効果とともに、図1〜図3を参照しつつ説明する。
複数の撮像部21の各々、すなわち、フロントカメラCF、リアカメラCB、左側カメラCL、および右側カメラCRは、自車両の周囲の画像を撮影して、撮影画像に対応する画像情報を生成および取得する。また、複数の撮像部21の各々は、取得した画像情報を、物体検知ECU27にて受信可能に出力する。
複数のソナーセンサ22の各々は、自車両の外側に向けて発信された探査波の反射波を含む受信波を受信することで、自車両の周囲に存在する物体B上の点との距離を測定する。また、複数のソナーセンサ22の各々は、取得した測距情報を、物体検知ECU27により受信可能に出力する。
レーダーセンサ23は、物体B上の反射点の位置および相対速度に対応する信号を発生して、物体検知ECU27にて受信可能に出力する。車速センサ24は、車速に対応する信号を発生して、物体検知ECU27にて受信可能に出力する。シフトポジションセンサ25は、自車両のシフトポジションに対応する信号を発生して、物体検知ECU27にて受信可能に出力する。舵角センサ26は、自車両の操舵角に対応する信号を発生して、物体検知ECU27にて受信可能に出力する。
物体検知ECU27は、複数の撮像部21の各々から、画像情報を受信する。また、物体検知ECU27は、複数のソナーセンサ22の各々から、測距情報を受信する。また、物体検知ECU27は、レーダーセンサ23、車速センサ24、シフトポジションセンサ25、および舵角センサ26からの出力信号を受信する。物体検知ECU27は、複数のソナーセンサ22の各々、複数の撮像部21の各々、車速センサ24、シフトポジションセンサ25、舵角センサ26、等から受信した信号および情報に基づいて、物体検知動作を実行する。
具体的には、画像情報取得部271は、自車両の周囲の撮影画像に対応する画像情報を、複数の撮像部21の各々から取得する。また、画像情報取得部271は、取得した画像情報を、時系列で不揮発性RAMに格納する。移動情報取得部272は、車速センサ24、シフトポジションセンサ25、および舵角センサ26の出力に基づいて、自車両の移動方向および移動量を算出する。また、移動情報取得部272は、算出結果を時系列で不揮発性RAMに格納する。特徴点抽出部273は、画像情報取得部271にて取得した画像情報に基づいて、撮影画像における特徴点FPを抽出する。
視点の異なる複数の撮影画像の各々で抽出された特徴点FPにて、良好に視差演算可能に、充分な視差が得られる場合がある。この場合、三次元座標情報取得部274は、視点の異なる複数の撮影画像に基づいて、視差演算により特徴点FPの三次元位置を取得する。障害物検知部277は、三次元座標情報取得部274により取得された三次元位置に基づいて、障害物を検知する。すなわち、障害物検知部277は、充分な視差が得られた特徴点FPに基づいて、移動ステレオの手法により、障害物を検知する。
しかしながら、上記の通り、特徴点FPの三次元位置を取得あるいは推定するために必要な、充分な視差が得られ難い状況が発生し得る。このような状況においては、視差演算が困難となるため、特徴点FPの三次元位置が取得困難となる。すると、このような特徴点FPに対応する、自車両の周囲の障害物を検知することが困難となる。特に、以下の(1)および(2)が成立する状況にて、このような問題が発生しやすい。(1)自車両と物体Bとの相対移動方向と、当該物体Bを撮像中の撮像部21の撮影方向とが、ほぼ一致すること。(2)当該物体Bが、当該撮像部21の正面に位置すること。図1および図3は、典型例として、後退中の自車両の真後ろにポール状の物体Bが存在し、当該物体BがリアカメラCBの正面に位置する状況を示す。
この点、例えば、充分な視差が得られないために三次元位置が取得されなかった複数の特徴点FPとほぼ同一の方位にて、測距情報が取得される場合があり得る。具体的には、測距情報取得部276により物体Bとの距離に対応する測距情報が取得され、且つ、取得された測距情報に対応する測距点DPの近傍にて複数の特徴点FPが所定の態様で配列する。この場合、当該測距情報に対応する測距点DPの位置には、物体Bが存在する可能性が高い。
そこで、本実施形態においては、点群抽出部275は、特徴点抽出部273による特徴点FPの抽出結果から、所定条件で配列する複数の特徴点FPからなる点群Gを抽出する。具体的には、点群抽出部275は、直線状に配列した複数の特徴点FPのうち、水平線HLと交差するものを、点群Gとして抽出する。
本実施形態においては、点群抽出部275による点群Gの抽出条件として、複数の特徴点FPが直線状に配列していること、および、複数の特徴点FPが水平線HLと交差するように配列していることが挙げられている。これは、上記の典型例のようなポール状の物体Bの外形形状を考慮したものである。
すなわち、例えば、図3に示されているように、第一区画線DL1に対応する複数の特徴点FPは、直線状に配列している。しかしながら、これらは、水平線HLとは交差せず、水平線HLよりも下側の領域のみにて配列する。第二区画線DL2に対応する複数の特徴点FPについても同様である。遠方の建物BDに対応する複数の特徴点FPも、直線状に配列するものの、水平線HLとは交差せず、水平線HLよりも上側の領域のみにて配列する。天井の梁あるいは配管に対応する複数の特徴点FPについても同様である。
これに対し、リアカメラCBの正面に位置するポール状の物体Bの、撮影画像における左側のエッジに対応する複数の特徴点FPは、直線状に配列している。さらに、これら複数の特徴点FPは、水平線HLと交差しつつ、上下方向に配列する。すなわち、これら複数の特徴点FPは、水平線HLを跨るように、水平線HLと交差する第一エッジ直線L1上に配列する。そこで、点群抽出部275は、これら複数の特徴点FPによる第一点群G1を抽出する。
同様に、リアカメラCBの正面に位置するポール状の物体Bの、撮影画像における右側のエッジに対応する複数の特徴点FPは、直線状に配列している。さらに、これら複数の特徴点FPは、水平線HLと交差しつつ上下方向に配列する。すなわち、これら複数の特徴点FPは、水平線HLを跨るように、水平線HLと交差する第二エッジ直線L2上に配列する。そこで、点群抽出部275は、これら複数の特徴点FPによる第二点群G2を抽出する。
測距情報取得部276は、ソナーセンサ22により測定された測距点DPとの距離に対応する測距情報を、ソナーセンサ22から取得する。また、測距情報取得部276は、取得した測距情報を、時系列で不揮発性RAMに格納する。点群抽出部275は、測距点DPを基準とした、撮影画像中における所定範囲である探索範囲RS内にて、点群Gを抽出する。探索範囲RSを画角VAの全体ではなくその一部に限定することにより、計算負荷の軽減および探索精度の向上が図られている。
障害物検知部277は、点群抽出部275によって抽出された2個の点群Gである第一点群G1および第二点群G2と、測距情報取得部276によって取得された測距情報に対応する測距点DPとが、撮影画像中にて所定位置関係にある場合に、第一点群G1と第二点群G2との間の領域を物体Bすなわち障害物として検知する。
上記の通り、所定条件で配列する第一点群G1および第二点群G2が抽出され、且つ、第一点群G1および第二点群G2と測距点DPとが撮影画像中にて所定位置関係にある場合がある。この場合、本実施形態の構成によれば、第一点群G1と第二点群G2との間の領域を障害物として検知することができる。したがって、かかる構成によれば、自車両の周囲に存在する障害物としての物体Bを、より良好に検知することが可能となる。
また、本実施形態の構成においては、障害物検知部277は、視差演算により三次元位置が取得された特徴点FPに基づいて、通常のロジックである移動ステレオの手法により、障害物を検知する。一方、障害物検知部277は、三次元位置が取得されなかった特徴点FPに基づいて、追加のロジックにより、障害物を検知する。かかる追加のロジックは、特徴点FPの抽出結果と、測距情報とを用いるものであるため、センサフュージョンあるいは単にフュージョンとも称され得る。
すなわち、障害物検知部277は、以下の2条件が成立する場合、追加のロジックを用いて、第一点群G1と第二点群G2との間の領域を障害物として検知する。(条件1)三次元位置が取得されなかった複数の特徴点FPにより、第一点群G1および第二点群G2が構成されていること。(条件2)測距情報取得部276によって取得された測距情報に対応する測距点DPと第一点群G1および第二点群G2とが、撮影画像中にて所定位置関係にあること。かかる構成によれば、追加のロジックの適用対象が限定されるため、障害物の誤検出の発生が良好に抑制され得る。
(動作例)
以下、本実施形態の構成による、上記の動作概要に対応する具体的な動作例について、図4に示したフローチャートを用いて説明する。なお、図面中において、「ステップ」を単に「S」と略記する。物体検知ECU27のCPUは、所定の起動条件成立中に、図4に示されたルーチンを、所定時間間隔で繰り返し起動する。
かかるルーチンが起動されると、まず、ステップ401にて、CPUは、画像情報を取得する。ここで取得される画像情報は、例えば、自車両の後退中は、リアカメラCBによって取得された画像情報である。すなわち、自車両が後退中の場合、CPUは、リアカメラCBによる画像情報を取得する。
次に、ステップ402にて、CPUは、取得した画像情報に基づいて、特徴点FPを抽出する。続いて、ステップ403にて、CPUは、自車両の移動方向および移動量を取得する。続いて、ステップ404にて、CPUは、視差演算により特徴点FPの三次元位置を取得すなわち算出する。
ステップ402にて抽出された多数の特徴点FPの中には、上記の通り、視差演算により三次元位置が取得されるものと取得されないものとが生じる。そこで、CPUは、ステップ404に続いて、ステップ405およびステップ406を実行した後、本ルーチンを一旦終了する。ステップ405にて、CPUは、通常のロジックである単眼移動ステレオの手法により、自車両の周囲の物体Bの有無を判定する。また、ステップ406にて、CPUは、追加のロジックであるセンサフュージョンにより、自車両の周囲の物体Bの有無を判定する。
ステップ405の処理は、単眼移動ステレオにおける通常の処理である。かかる処理は、本願の出願時点において、すでに周知である。したがって、本明細書においては、ステップ405の処理内容の詳細については、説明を省略する。
図5は、図4におけるステップ406の処理内容の詳細を示したものである。かかる処理内容は、図5において、ステップ501〜ステップ510として示されている。これらについて、以下順に説明する。
まず、ステップ501にて、CPUは、残存特徴点を抽出する。残存特徴点とは、ステップ402にて抽出された多数の特徴点FPのうち、自車両の周囲の物体Bの有無の判定に用いられていないものである。なお、初回のステップ501の処理実行時点において、残存特徴点は、ステップ402にて抽出された全ての特徴点FPから、第一使用済特徴点を除外したものである。第一使用済特徴点とは、ステップ405にて、単眼移動ステレオの手法により、自車両の周囲の物体Bに対応付けられたものである。初回のステップ501の処理実行時点において、残存特徴点は、視差演算により三次元位置が取得されなかった特徴点FPを含むとともに、視差演算により三次元位置が取得された特徴点FPのうちステップ405にて物体Bに対応付けられなかったものをも含む。
次に、ステップ502にて、CPUは、測距情報を取得する。すなわち、CPUは、測距点DPを1個取得する。続いて、ステップ503にて、CPUは、取得した測距点DPの周囲に探索範囲RSを設定する。また、ステップ504にて、CPUは、探索範囲RS内にて、点群Gを抽出する。
ステップ505にて、CPUは、ステップ504にて抽出した点群Gについて視差演算が成立するか否かを判定する。視差演算が成立する場合(すなわちステップ505=YES)、CPUは、処理をステップ506に進行させる。ステップ506にて、CPUは、単眼移動ステレオの手法により、今回抽出した点群Gについて物体Bすなわち障害物を判定するとともに、残存特徴点から除外する。その後、CPUは、処理をステップ507に進行させる。
ステップ507にて、CPUは、残存特徴点が存在するか否かを判定する。残存特徴点が存在しない場合(すなわちステップ507=NO)、CPUは、図4におけるステップ406の処理を終了する。一方、残存特徴点が存在する場合(すなわちステップ507=YES)、CPUは、処理をステップ501に戻す。この場合、続くステップ502においては、前回取得されたものとは異なる測距点DPが取得される。
ステップ504にて抽出した点群Gについて視差演算が成立しない場合(すなわちステップ505=NO)、CPUは、処理をステップ508に進行させる。ステップ508にて、CPUは、位置関係条件が成立するか否かを判定する。位置関係条件とは、今回抽出した第一点群G1および第二点群G2と、測距点DPとの位置関係が、所定位置関係にあることである。
位置関係条件が成立する場合(すなわちステップ508=YES)、CPUは、処理をステップ509に進行させる。ステップ509にて、CPUは、今回抽出した点群Gすなわち第一点群G1および第二点群G2について、物体Bすなわち障害物を判定する。具体的には、第一点群G1と第二点群G2との間の領域を、物体Bすなわち障害物として判定する。また、CPUは、今回抽出した点群Gを、残存特徴点から除外する。その後、CPUは、処理をステップ507に進行させる。ステップ507における処理内容は、上記と同様である。
位置関係条件が成立しない場合(すなわちステップ508=NO)、CPUは、処理をステップ510に進行させる。ステップ510にて、CPUは、今回抽出した点群Gについて、物体Bすなわち障害物に対応しないものとして判定するとともに、残存特徴点から除外する。その後、CPUは、処理をステップ507に進行させる。ステップ507における処理内容は、上記と同様である。
(変形例)
本発明は、上記実施形態に限定されるものではない。故に、上記実施形態に対しては、適宜変更が可能である。以下、代表的な変形例について説明する。以下の変形例の説明においては、上記実施形態との相違点を主として説明する。また、上記実施形態と変形例とにおいて、相互に同一または均等である部分には、同一符号が付されている。したがって、以下の変形例の説明において、上記実施形態と同一の符号を有する構成要素に関しては、技術的矛盾または特段の追加説明なき限り、上記実施形態における説明が適宜援用され得る。
本発明は、上記実施形態にて示された具体的な装置構成に限定されない。すなわち、例えば、物体検知装置20を搭載する車両10は、四輪自動車に限定されない。具体的には、車両10は、三輪自動車であってもよいし、貨物トラック等の六輪または八輪自動車でもよい。
車両10の種類は、内燃機関のみを備えた自動車であってもよいし、内燃機関を備えない電気自動車または燃料電池車であってもよいし、いわゆるハイブリッド自動車であってもよい。車体11の形状および構造も、箱状すなわち平面視における略矩形状に限定されない。ドアパネル17の数も、特段の限定はない。
物体検知装置20の適用対象についても、特段の限定はない。すなわち、例えば、物体検知装置20は、駐車支援に適用され得る。あるいは、物体検知装置20は、自動運転の定義におけるレベル2〜レベル5に相当する、半自動運転あるいは自動運転に対しても、好適に適用可能である。
撮像部21を構成するイメージセンサは、CCDセンサに限定されない。すなわち、例えば、CCDセンサに代えて、CMOSセンサが用いられ得る。CMOSはComplementary MOSの略である。
撮像部21の配置および個数は、上記の例に限定されない。すなわち、例えば、フロントカメラCFは、車室外に配置され得る。具体的には、例えば、フロントカメラCFは、車体11の前面部12に装着され得る。フロントカメラCFは、一個であってもよいし、二個であってもよい。すなわち、物体検知装置20は、複眼ステレオカメラ構成を有していてもよい。例えば、左側カメラCLおよび右側カメラCRは、ドアミラー18とは異なる位置に配置され得る。あるいは、左側カメラCLおよび右側カメラCRは、省略され得る。
ソナーセンサ22の配置および個数は、上記の具体例に限定されない。すなわち、例えば、図1を参照すると、第三フロントソナーSF3が車幅方向における中央位置に配置される場合、第四フロントソナーSF4は省略される。同様に、第三リアソナーSR3が車幅方向における中央位置に配置される場合、第四リアソナーSR4は省略される。第三サイドソナーSS3および第四サイドソナーSS4は、省略され得る。
物体検知ECU27は、上記実施形態における物体検知装置20の主要部を構成する。このため、撮像部21、ソナーセンサ22、レーダーセンサ23、車速センサ24、シフトポジションセンサ25、舵角センサ26、表示部28、および音声出力部29は、物体検知装置20の構成要素ではなく、物体検知装置20の付随的要素であるものと把握され得る。あるいは、撮像部21およびソナーセンサ22は、それぞれ、画像情報取得部271および測距情報取得部276を構成するものとして、物体検知装置20の構成要素としても把握され得る。
上記実施形態においては、物体検知ECU27は、CPUがROM等からプログラムを読み出して起動する構成であった。しかしながら、本発明は、かかる構成に限定されない。すなわち、例えば、物体検知ECU27は、上記のような動作を可能に構成されたデジタル回路、例えばゲートアレイ等のASICであってもよい。ASICはAPPLICATION SPECIFIC INTEGRATED CIRCUITの略である。
本発明は、上記実施形態にて示された具体的な機能構成および動作例に限定されない。すなわち、例えば、移動情報取得部272による、自車両の移動量の取得には、不図示の加速度センサの出力が用いられ得る。
上記の具体例においては、リアカメラCBによる撮影画像を用いた物体Bの検知動作について説明した。しかしながら、本発明は、かかる態様に限定されない。すなわち、例えば、本発明は、フロントカメラCFによる撮影画像を用いた物体Bの検知動作に対しても、好適に適用され得る。同様に、本発明は、左側カメラCLおよび右側カメラCRによる撮影画像を用いた物体Bの検知動作に対しても、好適に適用され得る。
特徴点FPは、単一画素によって構成されていてもよいし、複数画素の集合体によって構成されていてもよい。特徴点FPの検出の際に、輝度情報に代えて、あるいはこれとともに、彩度情報が用いられ得る。もっとも、RGB各色の光学フィルタを介して画像情報を取得する場合、彩度情報はRGB各色の画像情報における輝度情報と同義となり得る。
三次元座標情報取得部274における処理内容は、単眼移動ステレオに限定されない。具体的には、例えば、複眼ステレオ処理、またはSFMと複眼ステレオとの統合処理が用いられ得る。複眼ステレオ処理、またはSFMと複眼ステレオとの統合処理については、本願の出願時において、すでに公知または周知である。
点群Gの抽出の際の、探索範囲RSの高さは、画角VAの高さと同一であってもよい。すなわち、探索範囲RSは、点群Gの抽出範囲を画角VAの幅方向に限定するものであってもよい。また、探索範囲RSの形状は、矩形状に限定されない。すなわち、例えば、探索範囲RSは、測距点DPを中心とする楕円形状あるいは所定半径の円形状であってもよい。
測距情報取得部276は、ソナーセンサ22の出力に代えて、あるいはこれとともに、レーダーセンサ23の出力に基づいて、測距情報を取得してもよい。すなわち、探査波として、超音波または電磁波が用いられ得る。また、測距点DPとして、レーダーセンサ23により取得された反射点が用いられ得る。この場合、反射点に関する相対位置情報は、ソナーセンサ22により取得された測距点DPの代替として用いられ得る。あるいは、反射点に関する相対位置情報は、ソナーセンサ22により取得された測距点DPの補正要素として用いられ得る。
上記実施形態においては、所定位置関係すなわち位置関係条件は、第一点群G1および第二点群G2の、撮影画像中における測距点DPからの距離が所定距離以下であることであった。しかしながら、本発明は、かかる態様に限定されない。
具体的には、例えば、所定位置関係は、以下の条件MA1および条件MB1のアンド条件を含むものであってもよい。(条件MA1)第一点群G1または第二点群G2の、撮影画像中における測距点DPからの距離が、所定距離以下である。(条件MB1)第一点群G1と第二点群G2との、撮影画像中における間隔が、所定間隔以下である。
例えば、図3に示されているように、上下方向に延設された細長いポール状の物体Bの根元にて、三次元位置が取得可能な特徴点FPが生じる場合がある。かかる特徴点FPを参照特徴点FP0と称する。物体Bの根元は、路面あるいは地面と物体Bとが交差する位置とも称される。なお、参照特徴点FP0は、物体Bの根元のみならず、物体Bの表面における汚れあるいは模様に対応しても発生し得る。
上記のように、第一点群G1および第二点群G2とその近傍の測距点DPとが撮影画像中にて所定位置関係にあるのみならず、当該測距点DPとほぼ同一の方位にて参照特徴点FP0が検出された場合、物体Bすなわち障害物の存在確率が高くなる。そこで、所定位置関係は、参照特徴点FP0に関する条件をさらに含んでいてもよい。
具体的には、所定位置関係は、以下の条件MA2および条件MB2のアンド条件を含むものであってもよい。(条件MA2)三次元位置が取得された特徴点FPである参照特徴点FP0が、第一点群G1と第二点群G2との間に存在すること。(条件MB2)距離差ΔDが所定値ΔD0以下であること。距離差ΔDは、参照特徴点FP0の自車両からの距離である参照距離と、測距点DPの自車両からの距離である測距距離との差である。
すなわち、本変形例においては、位置関係条件は、第一位置関係条件に加えて、第二位置関係条件を含む。第一位置関係条件は、上記実施形態における位置関係条件である。第二位置関係条件は、条件MA2および条件MB2のアンド条件であって、参照特徴点FP0に関する条件である。
図6は、かかる変形例に対応して、図5のフローチャートの一部を変更したものである。なお、図5におけるステップ501〜506の処理は、本変形例においても同様である。すなわち、図6に対応する本変形例の処理も、図5におけるステップ501〜506の処理を含む。本変形例の処理は、上記実施形態の処理と、ステップ508以降の内容が異なるのみである。このため、図6においては、図5におけるステップ501〜506の処理は、図示が省略されている。
ステップ508にて、CPUは、第一位置関係条件が成立するか否かを判定する。第一位置関係条件は、今回抽出した第一点群G1および第二点群G2と、測距点DPとの位置関係が、所定位置関係にあることである。すなわち、本変形例におけるステップ508の処理内容は、上記実施形態と同様である。
第一位置関係条件が成立しない場合(すなわちステップ508=NO)、CPUは、処理をステップ510に進行させる。ステップ510にて、CPUは、今回抽出した点群Gについて、物体Bすなわち障害物に対応しないものとして判定するとともに、残存特徴点から除外する。その後、CPUは、処理をステップ507に進行させる。ステップ507における処理内容は、上記実施形態と同様である
第一位置関係条件が成立する場合(すなわちステップ508=YES)、CPUは、処理をステップ511に進行させる。ステップ511にて、CPUは、第一点群G1と第二点群G2との間に参照特徴点FP0が存在するか否かを判定する。第一点群G1と第二点群G2との間に参照特徴点FP0が存在しない場合(すなわちステップ511=NO)、CPUは、処理をステップ510に進行させる。
第一点群G1と第二点群G2との間に参照特徴点FP0が存在する場合(すなわちステップ511=YES)、CPUは、処理をステップ512に進行させる。ステップ512にて、CPUは、距離差ΔDが所定値ΔD0以下であるか否かを判定する。すなわち、ステップ511およびステップ512によって、第二位置関係条件の成否が判定される。
距離差ΔDが所定値ΔD0以下である場合(すなわちステップ512=YES)、CPUは、処理をステップ509に進行させる。ステップ509にて、CPUは、今回抽出した点群Gすなわち第一点群G1および第二点群G2について、物体Bすなわち障害物を判定する。その後、CPUは、処理をステップ507に進行させる。一方、距離差ΔDが所定値ΔD0を超える場合(すなわちステップ512=NO)、CPUは、処理をステップ510に進行させる。
「取得」という表現と、「推定」「検出」「検知」「算出」等の類似の表現とは、技術的に矛盾しない範囲内において、適宜置換可能である。「検出」と「抽出」とも、技術的に矛盾しない範囲内において、適宜置換可能である。各判定処理における不等号は、等号付きであってもよいし、等号無しであってもよい。すなわち、例えば、「所定値未満」と「所定値以下」とは、技術的に矛盾しない範囲内において、互いに置換され得る。
上記実施形態を構成する要素は、特に必須であると明示した場合および原理的に明らかに必須であると考えられる場合等を除き、必ずしも必須のものではないことは言うまでもない。また、構成要素の個数、数値、量、範囲等の数値が言及されている場合、特に必須であると明示した場合および原理的に明らかに特定の数に限定される場合等を除き、その特定の数に本発明が限定されることはない。同様に、構成要素等の形状、方向、位置関係等が言及されている場合、特に必須であると明示した場合および原理的に特定の形状、方向、位置関係等に限定される場合等を除き、その形状、方向、位置関係等に本発明が限定されることはない。
変形例も、上記の例示に限定されない。また、複数の変形例が、互いに組み合わされ得る。さらに、上記実施形態の全部または一部と、変形例の全部または一部とが、互いに組み合わされ得る。