JP6306735B2 - ステレオカメラ装置及びステレオカメラ装置を備える車両 - Google Patents

ステレオカメラ装置及びステレオカメラ装置を備える車両 Download PDF

Info

Publication number
JP6306735B2
JP6306735B2 JP2016555091A JP2016555091A JP6306735B2 JP 6306735 B2 JP6306735 B2 JP 6306735B2 JP 2016555091 A JP2016555091 A JP 2016555091A JP 2016555091 A JP2016555091 A JP 2016555091A JP 6306735 B2 JP6306735 B2 JP 6306735B2
Authority
JP
Japan
Prior art keywords
stereo camera
camera device
image
region
control unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016555091A
Other languages
English (en)
Other versions
JPWO2016063545A1 (ja
Inventor
直人 大原
直人 大原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kyocera Corp
Original Assignee
Kyocera Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kyocera Corp filed Critical Kyocera Corp
Publication of JPWO2016063545A1 publication Critical patent/JPWO2016063545A1/ja
Application granted granted Critical
Publication of JP6306735B2 publication Critical patent/JP6306735B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • G01C3/02Details
    • G01C3/06Use of electric means to obtain final indication
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30261Obstacle
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/139Format conversion, e.g. of frame-rate or size
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals

Description

関連出願の相互参照
本出願は、2014年10月24日出願の日本国特許出願2014−217370号の優先権を主張するものであり、当該出願の開示全体を、ここに参照のために取り込む。
本発明は、ステレオカメラ装置及びステレオカメラ装置を備える車両に関する。
従来、路面及び路面上の物体を撮像した画像の広範囲をウィンドウによって区画し、ウィンドウ毎に被写体の物体認識を行う車両用路上物体認識装置が知られている(例えば、特許文献1)。
特開平7−225126号公報
しかしながら、ステレオカメラから遠距離にある被写体は、近距離にある物体より、画像の中で小さく撮像されるため、それらの画素を用いて行う距離検出の精度は低い。また、高速で移動する車両が備えるステレオカメラにおいては、高速に距離検出を行うために処理負荷を抑制する必要がある。それゆえ、処理負荷を抑制しつつ、遠距離にある物体についても高い精度での距離検出が求められる。
本発明の目的は、処理負荷を抑制しつつ、車両から遠距離にある物体から、車両までの距離を、高い精度で検出することのできるステレオカメラ装置及び車両を提供することにある。
ある実施形態におけるステレオカメラ装置は、ステレオカメラと、前記ステレオカメラが撮像する画像内において所定の方向における位置の異なる複数の領域の中の少なくとも1つの第1の領域に基づいて検知対象の物体を検知し、前記第1の領域内の、検知された前記物体の像を含み、前記第1の領域より小さい領域の原画素に基づいて画素補間を行うことにより補間画素を生成し、少なくとも該補間画素に基づいて基準位置から検知された前記物体の位置までの距離を検出する第1の制御部とを備える。
ある実施形態における車両は、ステレオカメラと、前記ステレオカメラが撮像する画像内において所定の方向における位置の異なる複数の領域の中の少なくとも1つの第1の領域に基づいて検知対象の物体を検知し、前記第1の領域内の、検知された前記物体の像を含み、前記第1の領域より小さい領域の原画素に基づいて画素補間を行うことにより補間画素を生成し、少なくとも該補間画素に基づいて基準位置から検知された前記物体の位置までの距離を検出する第1の制御部とを備える。
一実施形態に係るステレオカメラ装置を有するステレオカメラシステムの機能構成を示す機能ブロック図である。 図1に示すステレオカメラシステムに係る撮像部を有するステレオカメラを設置した移動体の側面図である。 図1に示すステレオカメラシステムに係る撮像部を有するステレオカメラを設置した移動体の正面図である。 図1に示す第1の撮像部が撮像した画像の例を示す第1の図である。 図1に示す第1の撮像部が撮像した画像の例を示す第2の図である。 第1の画像における第1の領域の拡大図である。 第2の画像における第1の領域の拡大図である。 図1に示す制御部の、第2の領域に係る動作を表すフロー図である。 図1に示す制御部の、第1の領域に係る動作を表すフロー図である。 図1に示すステレオカメラ装置の機能構成の変形例を示す機能ブロック図である。
以下、一実施形態について、図1〜10を用いて説明する。
<一実施形態の機能構成>
一実施形態に係るステレオカメラシステム1の機能構成について図1〜図7を用いて説明する。図1に示すように、ステレオカメラシステム1は、ECU(Electronic Control Unit)20及びステレオカメラ装置30を備える。ECU20及びステレオカメラ装置30は有線又は無線の通信ネットワークを介して互いに接続され、各種情報を送受信する。本実施形態に係るステレオカメラ装置30は例えば自動車などの移動体10に設置することを想定している。ただし、ステレオカメラ装置30は、自動車以外の移動体10に設置して使用することも可能である。
ECU20は移動体10が走行するために動作する、例えば、エンジン、ブレーキ、ステアリング(操舵装置)、方向指示器等の機器を制御する。ECU20は、速度、加速度、ブレーキ操作、ステアリングの舵角、方向指示器の示す方向、ヘッドライトの照射範囲等の運転状況を表す運転情報をこれらの機器から取得する。また、ECU20は、運転情報をステレオカメラ装置30に出力する。以降においては、運転情報のうちステアリングの舵角、方向指示器の示す方向を方向情報という。
ステレオカメラ装置30は、少なくとも2つの撮像部である第1の撮像部31Lと第2の撮像部31Rとを有するステレオカメラ、及び制御部33(第1の制御部)を備える。
第1及び第2の撮像部31L,31Rは、例えば同一の光学系、及び、CMOS又はCCDなどの同一の撮像素子を有し、光学系が結像する画像を撮像素子が撮像する。光学系の画角は広いことが好ましい。第1及び第2の撮像部31L,31Rは、所定時間毎、例えば、0.1秒毎に1フレームの画像を撮像する。
次に、第1及び第2の撮像部31L,31Rを移動体10に設置する態様について、図2及び図3を用いて説明する。
図2に示すように、第1及び第2の撮像部31L,31Rは、移動体10の前方を撮像するように、例えば、第1及び第2の撮像部31L,31Rにおける光学系の光軸OXが前方向に平行となるよう設置される。また、図3に示すように、第1の撮像部31Lと第2の撮像部31Rそれぞれに設けられる撮像素子はそれらの光軸に垂直な同一の面内にあり、第1の撮像部31Lと第2の撮像部31Rとに設けられる撮像素子の中心などの基準点を通る直線が、水平となるように設置される。
制御部33は、画像処理マイクロプロセッサ(Micro Processing Unit:MPU)によって実現される。制御部33は、画像入出力インターフェース(Interface:I/F)を介して第1及び第2の撮像部31L,31Rから画像を画像情報として取得する。また、制御部33は、CAN入出力インタフェースを介して、ECU20から移動体10の運転情報を取得する。制御部33は、第1及び第2の撮像部31L,31Rが撮像した画像および運転情報に基づいて、ステレオカメラ装置30の基準点から画像に撮像されている物体までの距離を検出する。基準点とは、ステレオカメラにおける距離検出の基準となる任意の点であり、例えば、第1及び第2の撮像部31L,31Rの各撮像素子間の中点である。
本実施形態において、制御部33は、画像中の複数の領域別に、移動体10の近くにある物体(近距離の物体)用の距離検出方法、および移動体10の遠くにある物体(遠距離の物体)用の距離検出方法を用いて距離を検出する。領域とは、画像の全体領域の中の一部を構成する領域である。制御部33は、複数の領域を、画像内の所定の方向における異なる位置に、位置決めする。所定の方向とは、ステレオカメラ装置30が移動体10に取り付けられたときに、撮像した画像において鉛直方向上向きに実質的に対応する方向である。また、複数の領域は、所定の方向に位置するほど小さく、複数の領域のうち所定の方向に向かうほど、遠距離の物体が撮像される。以下の説明においては、複数の領域は第1の領域F及び第2の領域Nとし、第1の領域Fは第2の領域Nにより所定の方向に向かう方向に位置する。
第1及び第2の領域F,Nの鉛直方向に対応する方向における位置は、予め決められた位置であってもよいし、移動体10が進行する速度に基づいて決定されてもよい。移動体10が進行する速度に基づいて決定する方法としては、例えば、移動体10の速度が速いほど、第1及び第2の領域F,Nの位置は、それぞれ所定の方向に向かうように決定する。
また、制御部33は、画像における水平方向に対応する方向についての第1及び第2の領域F,Nの位置を、移動体10の進行方向に基づいて決定する。ここで、図4及び図5を用いて、水平方向に対応する方向における第1及び第2の領域F,Nの位置を決定する方法を詳細に説明する。図4は、移動体10が直進しているときに第1の撮像部31Lによって撮像された画像の例を示す図である。図5は、移動体10が左方向に進行しているときに第1の撮像部31Lによって撮像された画像の例を示す図である。
また、制御部33は、移動体10が直進している場合、図4に示すように、第1及び第2の領域F,Nを、画像内の水平方向における中央部に位置するように決定する。移動体10が左方向に進行している場合、図5に示すように第1及び第2の領域F,Nは、画像内の水平方向における中央部より左側に位置するように決定される。また、第1及び第2の領域F,Nは、移動体10の舵角の大きさに基づいて決定されてもよい。例えば、移動体10が直進方向から左に20度の方向に進行している場合の第1及び第2の領域F,Nは、移動体10が直進方向から左に10度の方向に進行する場合に比べて、それぞれ左側に位置するように決定される。また、第1及び第2の領域F,Nはそれぞれ複数あってもよい。
続いて、それぞれの領域における距離検出方法について、近距離用の距離検出方法および遠距離用の距離検出方法を別々に説明する。
最初に、近距離用の距離検出方法について説明する。近距離用の距離検出において、制御部33は、近距離の物体を検出する領域である第2の領域Nを、第1及び第2の撮像部31L,31Rによってそれぞれ撮像された第1の画像、第2の画像の中からクロップする。クロップすると、制御部33は、クロップした両画像を用いてステレオマッチングを行い、距離を検出する。
続いて、制御部33がステレオマッチングを行って距離を検出する機能について詳細に説明する。制御部33は、第1及び第2の画像に撮像されている物体の像の原画素に基づいて、基準位置から該物体の位置までの距離を検出する。検知された物体の位置までの距離を検出するには、SAD(Sum of. Absolute Difference)関数を利用したセミグローバルマッチング(Semi Global Matching:SGM)等のステレオマッチング用いるのが好ましい。
次に、遠距離用の距離検出方法について説明する。遠距離用の距離検出において、制御部33は、遠距離用の物体を検知する領域である第1の領域Fを、第1の画像の中からクロップする。クロップすると、制御部33は、物体検知を行なう。次に、制御部33は、検知された物体の像を形成する原画素を少なくとも用いて、例えば当該物体の像の描画領域よりやや広い領域内の原画素に対して画素補間を行う。画素補間が行われると、制御部33は、少なくとも、同時刻に撮像した第2の画像における、第1の画像の第1の領域内で検知した物体の描画領域に対応する領域内の原画素に基づいて、画素補間を行う。そして、第1及び第2の画像の、少なくとも、画素補間によって生成された補間画素に基づいて距離検出を行う。
ここで、制御部33が行う物体検知について詳細に説明する。制御部33は、第1の撮像部31Lによって撮像された画像における第1の領域Fのみについて、HOG(Histogram of Oriented Gradients)特徴量を用いて、人や車などの検知対象の所定の物体を検知する。さらに詳しく説明すると制御部33は、第1の領域Fを構成する画素の輝度の勾配を算出し、算出された輝度の勾配とSVM(Support Vector Machine)の学習データに基づいて物体を検知する。
次に、制御部33が行う画素補間について詳細に説明する。制御部33は、所定時間毎に撮像した第1の画像のうち同一のフレームの画像における、検知された物体の像の描画領域よりやや広い領域内の原画素に基づいて、補間画素を生成する。制御部33は、例えば、線形補間法により隣接する2以上の原画素の各輝度値に重み付けをして演算することにより、これらの原画素の中心の間の位置における輝度値を算出し、算出された輝度値を有する補間画素を生成する。また、制御部33は、線形補間法に限らず、ニアレストネイバー法、バイキュービック法、ランツォシュ法等を用いた画素補間を行ってもよい。
続いて、第1の画像の第1の領域内で検知した物体の描画領域に対応する、第2の画像の領域について、図6及び図7を用いて詳細に説明する。
図6に示すように、第1の画像の第1の領域には、検知された物体の一例として車がほぼ中央に撮像されている。上述の第1の撮像部及び第2の撮像部の設置状態によれば、第2の画像の第1の領域には、当該車は中央より左側に撮像されることになる。そのため、図7に示すように、第1画像の描画領域と同じ位置にある領域より左側の領域Aを、対応する領域とする。また、第1の画像において物体の像が検知された領域と同じ位置にある領域を含む広い領域Bを、対応する領域としてもよい。
続いて、制御部33がステレオマッチングにより、制御部33は、第1及び第2の画像に撮像されている物体の像の少なくとも補間画素に基づいて、基準位置から該物体の位置までの距離を検出する。すなわち、制御部33は、検知された物体の像を構成する原画素及び補間画素の両方に基づいて距離を検出してもよいし、補間画素のみに基づいて距離を検出してもよい。第2の領域に対しては原画素に基づいてステレオマッチングを行い、第1の領域に対しては少なくとも補間画素に基づいてステレオマッチングを行うという点を除いては、制御部33が行う第1の領域についてのステレオマッチング及び距離検出は、上述の第2の領域についてのステレオマッチング及び距離検出の機能とそれぞれ同様である。
また、第1の領域及び第2の領域につき、このようにして検出された基準点から物体までの距離は、ECU20に送信され、移動体10の運転支援に用いられる。
ステレオカメラ装置30の各構成の機能は、これらの機能を実現する処理内容を記述したプログラムを、コンピュータの記憶部に格納しておき、当該コンピュータのCPUによってこのプログラムを読み出して実行することで実現することができる。
<一実施形態の動作>
本実施形態に係るステレオカメラシステム1の動作について説明する。
第1及び第2の撮像部31L,31Rは、それぞれ移動体10の前方の画像を撮像する。画像が撮像されると、制御部33は、撮像された画像を表す画像情報を、第1及び第2の撮像部31L,31Rそれぞれから取得する。一方、ECU20は運転情報を取得し、制御部33はECU20から運転情報を取得する。
続いて、制御部33は、運転情報に基づいて、画像を処理する。
ここで、制御部が行う画像の処理について詳細に説明する。まず、制御部33が、近距離の物体までの距離を検出するために第2の領域Nに対して行う処理について図8を用いて説明する。
図8に示すように、まず、制御部33は、第1及び第2の撮像部31L,31Rによってそれぞれ撮像された画像から、運転情報が表す運転状況に基づいて第2の領域Nをクロップする(ステップS21)。次に、制御部33は、クロップされた第2の領域Nを構成する原画素に基づいて、ステレオマッチングを行い(ステップS22)、基準点から、第2の領域Nに撮像されている物体までの距離を検出する(ステップS23)。
次に、制御部33が、第1の領域Fに対して行う処理について、図9を用いて説明する。
図9に示すように、まず、制御部33は、運転情報が表す運転状況に基づいて、第1の画像から、第1の領域Fをクロップする(ステップS31)。ステップS31で、第1の領域Fがクロップされると、制御部33は、第1の領域Fを構成する画素の輝度の勾配を算出する(ステップS32)。そして、制御部33は、ステップS32で算出された勾配に基づいてHOG特徴量を算出し(ステップS33)、算出されたHOG特徴量とSVMの学習データとに基づいて検知対象となっている物体を検知する(ステップS34)。
次に、制御部33は、ステップS34で検知された第1の画像の第1の領域内の物体の描画領域よりやや広い領域内の原画素を抽出する。また、制御部33は、第1の画像において物体の像が検知された描画領域に対応する、第2の画像の領域内の原画素を抽出する(ステップS35)。そして、制御部33は、ステップS35で第1及び第2の画像から抽出された原画素に基づいて画素補間を行って補間画素を生成する(ステップS36)。
ステップS36で、第1及び第2の画像について、検知された物体の像に係る補間画素が生成されると、制御部33は、少なくともこれらの補間画素に基づいてステレオマッチングを行い(ステップS37)、検知された物体から基準位置までの距離を検出する(ステップS38)。
本実施形態によれば、ステレオカメラ装置30の遠くにあるため画像内に小さく撮像されている物体については、少なくとも補間画素に基づいて距離を検出するため、画素補間を行わない場合に比べて多くの画素に基づいて距離を検出することができる。そのため、高精度に距離を検出することができる。そして、このように高精度な距離検出を実現しつつ、検知された物体の像に係る画像についてのみ画素補間を行っているため、画像内の全ての領域について画素補間を行う場合に比べて、画素補間に係る処理量を少なくすることができる。
また、本実施形態によれば、ステレオカメラ装置30によって撮像される画像の複数の領域は所定の方向に位置するほど小さい。このため、物体検知に係る処理量は少なく、処理に要する時間は短くなる。また、所定の方向に向かうほど、ステレオカメラ装置30から遠くに位置する物体までの距離検出に用いられ、遠くに位置する物体は画像内において小さく撮像されるため、小さい領域に対して物体検知を行っても検知対象の物体を検知することができる。
また、本実施形態によれば、第1の撮像部31Lによって撮像した異なる複数のフレームの画像、例えば、任意のフレームの画像とその次のフレームの画像とを用いて画素補間を行う場合に比べて、処理速度が速くなる。異なるフレームの画像を用いて画素補間を行う場合、任意のフレームの画像は、その次のフレームの画像とともに画素補間が行われるために、その次のフレームの画像が撮像されるまで、その処理を開始するのを待たなければならないからである。したがって、高速で移動する移動体10が備えるステレオカメラ装置30の物体検知にはリアルタイムで行うことができる、同一のフレームの画像を構成する画素に基づく画素補間が適している。
また、本実施形態によれば、移動体10が走行する方向に基づいて領域を決定し、その領域に対して画素補間及び距離検出を行うため、移動体10が走行可能な領域について距離検出を行うことができる。
上述の実施形態は代表的な例として説明したが、本発明の趣旨及び範囲内で、多くの変更及び置換ができることは当業者に明らかである。したがって、本発明は、上述の実施形態によって制限するものと解するべきではなく、特許請求の範囲から逸脱することなく、種々の変形や変更が可能である。例えば、実施形態に記載の複数の構成ブロックを1つに組み合わせたり、あるいは1つの構成ブロックを分割したりすることが可能である。
図10に示すように、ステレオカメラ装置30は、第1及び第2の撮像部31L,31Rを有するステレオカメラ、第1の制御部33、及び第2の制御部34を備えてもよい。このように、ステレオカメラシステム1を2つの制御部を備えるマルチコアによるものとすることによって、第1の制御部33が遠距離用の距離検出方法によって距離検出を行い、第2の制御部34が近距離用の距離検出方法によって距離検出を行う。このように複数の制御部が異なる領域に対してそれぞれ処理を行うことによって各制御部の処理量が減少する。そのため、ステレオカメラ装置30は処理全体を高速に行うことができる。
また、本実施形態では、第1及び第2の撮像部31L,31Rは移動体10の前方を撮像する位置に設置されているが、前方ではなく側方又は後方を撮像する位置に設置することも可能である。第1及び第2の撮像部31L,31Rが、移動体10の側方又は後方を撮像する位置に設置した場合、ステレオカメラ装置30は移動体10のそれぞれ側方又は後方の、遠くにある物体を高い精度、かつ高い処理速度で検知することができる。
また、本実施形態を説明するための図4,5においては、第1及び第2の領域F,Nの形状をそれぞれ四角形として記載しているが、これらの領域の形状は四角形に限定されない。
また、本実施形態では、運転状況に基づいて、画像中の領域の大きさ及び形状を決定してもよい。例えば、移動体10の速度に基づいて領域の大きさを決定したり、ヘッドライトの照射範囲又は舵角に基づいて領域の形状を決定したりしてもよい。
また、本実施形態では、制御部33は、通信ネットワークを介して他の装置又は他のシステムに検知された物体及び計測された大きさに関する情報を送信してもよい。
1 ステレオカメラシステム
10 移動体
20 ECU
30 ステレオカメラ装置
31L 第1の撮像部
31R 第2の撮像部
33 制御部(第1の制御部)
34 第2の制御部
OX 光軸
F 第1の領域
N 第2の領域

Claims (15)

  1. ステレオカメラと、
    前記ステレオカメラが撮像する画像内において所定の方向における位置の異なる複数の領域の中の少なくとも1つの第1の領域に基づいて検知対象の物体を検知し、前記第1の領域内の、検知された前記物体の像を含み、前記第1の領域より小さい領域の原画素に基づいて画素補間を行うことにより補間画素を生成し、少なくとも該補間画素に基づいて基準位置から検知された前記物体の位置までの距離を検出する第1の制御部とを備える
    ステレオカメラ装置。
  2. 請求項1に記載のステレオカメラ装置であって
    前記ステレオカメラは、第1の撮像部と第2の撮像部とを有し、それぞれ第1の画像と第2の画像とを撮像し、
    前記第1の制御部は、前記第1の画像および前記第2の画像それぞれに画素補間を行い、
    前記第1の画像における前記画素補間を行う領域と前記第2の画像における前記画素補間を行う領域とが異なる
    ステレオカメラ装置。
  3. 請求項2に記載のステレオカメラ装置であって
    前記第2の画像における前記画素補間を行う領域は、前記第1の画像における前記画素補間を行う領域に比べて、前記第2の撮像部に対する第1の撮像部の設置の方向に位置する領域を含む
    ステレオカメラ装置。
  4. 請求項3に記載のステレオカメラ装置であって、
    前記第2の画像における前記画素補間を行う領域は、前記第1の画像における前記画素補間を行う領域と同じ位置の領域も含む
    ステレオカメラ装置。
  5. 請求項1から4のいずれか一項に記載のステレオカメラ装置であって、
    前記複数の領域は、前記所定の方向における一方側に位置するものほど小さい
    ステレオカメラ装置。
  6. 請求項に記載のステレオカメラ装置であって、
    前記複数の領域のうち、前記一方側に位置するものほど、前記ステレオカメラ装置の遠くに位置する物体までの距離の検出に用いられる
    ステレオカメラ装置。
  7. 請求項1からのいずれか1項に記載のステレオカメラ装置であって、
    前記所定の方向が、前記ステレオカメラで撮像される画像において鉛直方向上向きに対応する方向に実質的に一致する
    ステレオカメラ装置。
  8. 請求項1からのいずれか一項に記載のステレオカメラ装置であって、
    前記画素補間は、前記ステレオカメラが撮像した同一のフレームの画像を構成する前記原画素を用いた画素補間である
    ステレオカメラ装置。
  9. 請求項1からのいずれか一項に記載のステレオカメラ装置であって、
    前記複数の領域の中で、前記第1の領域とは異なる第2の領域においては、第2の領域を構成する原画素に基づいて、前記基準位置から前記第2の領域に描かれる物体までの距離が検出される
    ステレオカメラ装置。
  10. 請求項に記載のステレオカメラ装置であって、
    前記第1の制御部が、前記基準位置から前記第2の領域に描かれる物体までの距離を検出する
    ステレオカメラ装置。
  11. 請求項に記載のステレオカメラ装置であって、
    前記基準位置から前記第2の領域に描かれる物体までの距離の検出を行う第2の制御部を、さらに備える
    ステレオカメラ装置。
  12. 請求項1から11のいずれか一項に記載のステレオカメラ装置であって、
    前記ステレオカメラは2つの撮像部を備え、
    前記第1の制御部は、前記2つの撮像部のうちの一方の撮像部が撮像する画像のみに基づいて、物体を検知する
    ステレオカメラ装置。
  13. 請求項1から12のいずれか一項に記載のステレオカメラ装置であって、
    前記第1の制御部は、前記ステレオカメラを備える車両の運転状況に基づいて、前記複数の領域のうちの少なくとも1つの領域の位置、大きさ、形状のうちいずれか1つ以上を決定する
    ステレオカメラ装置。
  14. 請求項1から13のいずれか一項に記載のステレオカメラ装置を備える車両。
  15. 請求項14に記載の車両であって、
    前記ステレオカメラ装置の前記第1の制御部は、前記ステレオカメラを備える前記車両の運転状況に基づいて、前記複数の領域のうちの少なくとも1つの領域の位置、大きさ、形状のうちいずれか1つ以上を決定する車両。
JP2016555091A 2014-10-24 2015-10-23 ステレオカメラ装置及びステレオカメラ装置を備える車両 Active JP6306735B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2014217370 2014-10-24
JP2014217370 2014-10-24
PCT/JP2015/005346 WO2016063545A1 (ja) 2014-10-24 2015-10-23 ステレオカメラ装置及びステレオカメラ装置を備える車両

Publications (2)

Publication Number Publication Date
JPWO2016063545A1 JPWO2016063545A1 (ja) 2017-06-29
JP6306735B2 true JP6306735B2 (ja) 2018-04-04

Family

ID=55760603

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016555091A Active JP6306735B2 (ja) 2014-10-24 2015-10-23 ステレオカメラ装置及びステレオカメラ装置を備える車両

Country Status (4)

Country Link
US (1) US10595003B2 (ja)
EP (1) EP3211368B1 (ja)
JP (1) JP6306735B2 (ja)
WO (1) WO2016063545A1 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6660751B2 (ja) * 2016-02-04 2020-03-11 日立オートモティブシステムズ株式会社 撮像装置
DE112017006840B4 (de) * 2017-01-16 2023-11-02 Fujitsu Limited Informationsverarbeitungsprogramm, Informationsverarbeitungsverfahren und Informationsverarbeitungsvorrichtung
US11435752B2 (en) 2018-03-23 2022-09-06 Motional Ad Llc Data fusion system for a vehicle equipped with unsynchronized perception sensors
JP7121269B2 (ja) * 2018-07-06 2022-08-18 ミツミ電機株式会社 測距カメラ
JP7256623B2 (ja) * 2018-09-27 2023-04-12 株式会社Subaru 車両用ステレオカメラ装置
US20220383657A1 (en) * 2019-10-04 2022-12-01 Semiconductor Energy Laboratory Co., Ltd. Semiconductor device and determination system
JP2022088142A (ja) 2020-12-02 2022-06-14 ヤマハ発動機株式会社 距離認識システムおよびその制御方法、船舶

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07225126A (ja) * 1994-02-14 1995-08-22 Mitsubishi Motors Corp 車両用路上物体認識装置
JP3235393B2 (ja) 1995-03-17 2001-12-04 トヨタ自動車株式会社 移動ベクトル抽出方法
JP2001126065A (ja) * 1999-10-26 2001-05-11 Toyota Central Res & Dev Lab Inc 距離分布検知装置
JP2004061446A (ja) * 2002-07-31 2004-02-26 Fujitsu Ten Ltd パターンマッチング処理方法及び画像処理装置
JP4394487B2 (ja) * 2004-03-05 2010-01-06 富士重工業株式会社 ステレオ画像処理装置
JP2006317193A (ja) * 2005-05-10 2006-11-24 Olympus Corp 画像処理装置、画像処理方法、および画像処理用プログラム
WO2007035720A2 (en) * 2005-09-20 2007-03-29 Deltasphere, Inc. Methods, systems, and computer program products for acquiring three-dimensional range information
JP2008276308A (ja) * 2007-04-25 2008-11-13 Sanyo Electric Co Ltd 動画像処理装置、動画像処理システムおよびナビゲーション装置
JP2010079582A (ja) 2008-09-25 2010-04-08 Toshiba Corp 物体を検出する装置、方法及びプログラム
JP5468426B2 (ja) 2010-03-12 2014-04-09 日立オートモティブシステムズ株式会社 ステレオカメラ装置
JP2012252501A (ja) * 2011-06-02 2012-12-20 Toyota Central R&D Labs Inc 走行路認識装置及び走行路認識用プログラム
JP5615441B2 (ja) * 2011-09-05 2014-10-29 三菱電機株式会社 画像処理装置及び画像処理方法
DE102013101639A1 (de) * 2013-02-19 2014-09-04 Continental Teves Ag & Co. Ohg Verfahren und Vorrichtung zur Bestimmung eines Fahrbahnzustands
JP6550881B2 (ja) * 2014-07-14 2019-07-31 株式会社リコー 立体物検出装置、立体物検出方法、立体物検出プログラム、及び移動体機器制御システム

Also Published As

Publication number Publication date
WO2016063545A1 (ja) 2016-04-28
EP3211368A1 (en) 2017-08-30
US10595003B2 (en) 2020-03-17
EP3211368B1 (en) 2023-07-26
EP3211368A4 (en) 2018-06-06
JPWO2016063545A1 (ja) 2017-06-29
US20170318279A1 (en) 2017-11-02

Similar Documents

Publication Publication Date Title
JP6306735B2 (ja) ステレオカメラ装置及びステレオカメラ装置を備える車両
EP2546602B1 (en) Stereo camera apparatus
JP6565188B2 (ja) 視差値導出装置、機器制御システム、移動体、ロボット、視差値導出方法、およびプログラム
JP6417886B2 (ja) 視差値導出装置、移動体、ロボット、視差値生産方法、及びプログラム
JP5267596B2 (ja) 移動体検出装置
JP5999127B2 (ja) 画像処理装置
KR101896715B1 (ko) 주변차량 위치 추적 장치 및 방법
JP6743882B2 (ja) 画像処理装置、機器制御システム、撮像装置、画像処理方法及びプログラム
JP6544257B2 (ja) 情報処理システム、情報処理方法及び情報処理プログラム
JP6377970B2 (ja) 視差画像生成装置及び視差画像生成方法
JP6712775B2 (ja) 路面推定装置、車両制御装置、路面推定方法、およびプログラム
JP6035774B2 (ja) 画像処理装置、画像処理方法、及び車両
JP6589313B2 (ja) 視差値導出装置、機器制御システム、移動体、ロボット、視差値導出方法、およびプログラム
JP6778620B2 (ja) 区画線検出装置、区画線検出システム、及び区画線検出方法
JP5935435B2 (ja) 画像処理装置、画像処理方法
JPWO2017115732A1 (ja) 画像処理装置、物体認識装置、機器制御システム、画像処理方法及び画像処理プログラム
JP6543935B2 (ja) 視差値導出装置、機器制御システム、移動体、ロボット、視差値導出方法、およびプログラム
JP6337504B2 (ja) 画像処理装置、移動体、ロボット、機器制御方法およびプログラム
JP2012252501A (ja) 走行路認識装置及び走行路認識用プログラム
JP6407596B2 (ja) 画像処理装置、及び、運転支援システム
JP6466679B2 (ja) 物体検出装置
JP2021033605A (ja) 画像処理装置、および、画像処理方法
JP6032141B2 (ja) 走行路面標示検知装置および走行路面標示検知方法
JP6988860B2 (ja) 情報処理システム、情報処理方法及び情報処理プログラム
JP2013161187A (ja) 物体認識装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170124

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171017

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171213

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180206

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180308

R150 Certificate of patent or registration of utility model

Ref document number: 6306735

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150