JP6891082B2 - 物体距離検出装置 - Google Patents

物体距離検出装置 Download PDF

Info

Publication number
JP6891082B2
JP6891082B2 JP2017183161A JP2017183161A JP6891082B2 JP 6891082 B2 JP6891082 B2 JP 6891082B2 JP 2017183161 A JP2017183161 A JP 2017183161A JP 2017183161 A JP2017183161 A JP 2017183161A JP 6891082 B2 JP6891082 B2 JP 6891082B2
Authority
JP
Japan
Prior art keywords
distance
unit
processing area
image
distance detection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017183161A
Other languages
English (en)
Other versions
JP2019061314A (ja
Inventor
佐々本 学
学 佐々本
松尾 茂
松尾  茂
英彰 城戸
英彰 城戸
野中 進一
進一 野中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Astemo Ltd
Original Assignee
Hitachi Astemo Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Astemo Ltd filed Critical Hitachi Astemo Ltd
Priority to JP2017183161A priority Critical patent/JP6891082B2/ja
Priority to PCT/JP2018/028027 priority patent/WO2019058755A1/ja
Priority to EP18858786.9A priority patent/EP3690812A4/en
Publication of JP2019061314A publication Critical patent/JP2019061314A/ja
Application granted granted Critical
Publication of JP6891082B2 publication Critical patent/JP6891082B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • G01C3/02Details
    • G01C3/06Use of electric means to obtain final indication
    • G01C3/08Use of electric radiation detectors
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • G01C11/04Interpretation of pictures
    • G01C11/06Interpretation of pictures by comparison of two or more pictures of the same area
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20021Dividing image into blocks, subimages or windows
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30261Obstacle

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Theoretical Computer Science (AREA)
  • Electromagnetism (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Measurement Of Optical Distance (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Traffic Control Systems (AREA)

Description

本発明は、物体距離検出装置に関する。
本技術分野の背景技術として、例えば特許文献1には、ステレオカメラによる距離検出における演算量の増大を抑える手法が提案されている。
具体的には、特許文献1では、画像を縮小し、解像度を落した縮小画像でステレオ距離検出を行い、解像度を落さない画像で領域を区切ってステレオ距離検出を行うことが述べられている。
特開2015−230703号公報
特許文献1に記載の技術は、画像を縮小して解像度を落した画像で距離検出を行うので、演算負荷を低減することができるが、情報量が落ちてしまうので、検出する距離の精度は被写体の距離に関わらず低下してしまうおそれがある。また、画像を縮小するための処理回路が必要となる。
そこで、本発明は、物体検知精度の向上と演算負荷の低減を両立させることができる物体距離検出装置を提供することを目的とする。
本発明の物体距離検出装置は、一例として、少なくとも複数の撮像部を有する外界情報取得部と、複数の前記撮像部のうちの一つで撮影された基準画像内の特定の画像要素に対応する画像要素を、他の前記撮像部で撮影される参照画像内で探索して、該探索によって得られる視差に基づいて外界の物体と該物体の距離を検出するステレオ距離検出部と、該ステレオ距離検出部で検出された結果に基づいて、前記外界情報取得部により取得した外界情報から、前記ステレオ距離検出部よりも高い精度で前記物体の距離を検出する距離検出部と、を有する。
本発明は、物体検知精度の向上と演算負荷の低減を両立させることができる物体距離検出装置を提供することができる。
本発明の実施例における物体距離検出装置の構成を示す図である。 本発明の実施例で撮像される撮像画像の一例を示す図である。 本発明の実施例で撮像される撮像画像と領域制御の一例を示す図である。 本発明の実施例で撮像される別の撮像画像と領域制御の一例を示す図である。 本発明の実施例における物体距離検出装置の処理タイミングを示す図である。 本発明の実施例における物体距離検出装置の処理フローを示す図である。 本発明の実施例における撮影画像と認識結果の一例を示す図である。 本発明の実施例における消費電流の一例を示す図である。 本発明の別の実施例における物体距離検出装置の構成を示す図である。 本発明の別の実施例における物体距離検出装置の構成を示す図である。 本発明の別の実施例における物体距離検出装置の構成を示す図である。 本発明の別の実施例における物体距離検出装置の構成を示す図である。
以下、図面を用いて本発明の実施形態を説明する。
図1は、本発明の物体距離検出装置の一実施例の構成を示す図である。1は本実施例の物体距離検出装置であり、例えば車両の前方に搭載され、信号や標識、障害物などを認識して運転者を支援する安全システムの一部として構成するものである。
101、102、103は撮像部であり、画像センサに光学レンズが装着されている。これらの撮像部は、所定のタイミングで1枚の画像の撮像を繰り返し、撮像した画像を出力する。撮像部101と撮像部102は、所定の距離で左右に離れて設置され、撮像部101と撮像部102で撮影した画像のずれ、いわゆる視差から、被写体までの距離を算出できる。
なお、図1では物体距離検出装置1の構成要素が同一の筐体に収められる例を示したが、例えば撮像部101、102を、他の構成要素とは別の筐体にまとめて収めてもよいし(同図点線枠11)、撮像部101、102、103をそれぞれ別の筐体に収めて車両に取り付けてもよい。その場合、画像信号は図示しない接続ケーブルで接続すればよい。接続ケーブルを用いて画像を伝送する方法としては、LVDS(Low Voltage Differential Signaling)方式の差動伝送路を用いた伝送方法などがある。
また、撮像部101と撮像部102、103の画像センサをカラー画像センサとすることで、撮像した画像の色情報を取得することが可能になり、交通信号や先行車の後尾灯の状態を、輝度情報に加えて色情報からも判断できるようになる。
104は画像補正部であり、撮像部101、102からの画像を取り込み、それぞれの画像の輝度を合わせるように予め計測されている補正値で補正し、さらにレンズによる画像の歪の補正と、撮像部101、102の画像の水平位置を合わせるようにこれも予め計測されている補正値で補正する。補正値の計測は、物体距離検出装置の製造工程で行われる。補正値適用前の装置毎に、特定の被写体を撮像し、取得した画像の輝度が均一になるような画素毎の輝度補正値、およびレンズ歪を打ち消し、画像が水平になるような画素毎の幾何補正値を求め、それぞれ補正テーブルとして、装置毎に例えば図示しない不揮発性メモリに保存しておく。
105はステレオ距離検出部であり、画像補正部104からの画像を入力して被写体の距離および物体の種別を検出する。距離を検出する方法として例えば次のような方法がある。ステレオ距離検出部105は、画像補正部104からの画像を取り込み、視差の算出を行う。前述のように、撮像部101と撮像部102は所定の距離で左右に離れて設置されているので、撮像した画像は視差を持つ。この視差を算出するいわゆるステレオ処理を行う。
視差の算出手法としては、例えば、ブロックマッチング方式がある。具体的には、まず撮像部101で撮影した画像の指定された画像領域上から小さく切出した所定のサイズ、例えば縦8画素、横8画素のブロック領域に対応する、撮像部102の画像上の領域を探索する。撮像部102の画像上で、同じサイズのブロック領域を水平方向に、探索密度として指定された画素数ずつずらしていき、その際の相関値を評価する。その際、例えば探索範囲を128画素とし、探索密度を2画素とする組み合わせや、探索範囲を32画素とし、探索密度を1画素とする組み合わせを設定することで、処理領域の指定も合わせて計算の処理負荷と精度を制御することが可能になる。探索密度は、大きくすると距離の精度は粗くなるが探索範囲での処理負荷が軽減し、小さくするほど検出する距離の精度は高くなる。
そして、撮像部101と撮像部102における一致したブロック領域の位置の差が、画素数で表される視差となる。この視差を用いてブロック領域に映っている対象物の実環境での距離を求めることができる。なお、この例は、距離を求める対象となる画像要素として、ブロック領域を採用したものである。相関値の評価のための一致比較の手法としては、例えば、比較するブロック領域内の画素の輝度の差分の総和が小さくなった位置を視差とする。
検出される距離は、撮像部101、撮像部102のレンズ焦点距離、撮像部101と撮像部102の距離である基線長、上記で求めた視差、および撮像センサの画素ピッチから求められることは公知である。ただし、距離の算出方法はこれに限定するものではない。また、距離を求める対象となる画像要素として、上述のブロック領域に限られず、撮像センサを構成する個々の画素を採用してもよい。
物体を検出する方法は、例えば、ほぼ同一の距離を示す距離情報が近くに存在する場合、それらを一つの集合としてグループ化し、そのグループの大きさが一定以上のときにそのグループを物体とみなす。そして検出したグループの大きさと形状に基づき、例えば車両や歩行者であることを検出する。物体の大きさや形状は、参照データとして予め保持しているパタンデータとの比較から検出する方法がある。この処理方式によれば、自車両から前方の物体たとえば歩行者や車両の距離が精度よく得られるので、自車両の減速や停止などの衝突回避のための情報として用いられる。得られた物体の種類とその距離は次に述べる処理領域設定部106、距離検出部107、認識部108に出力される。
106は、処理領域設定部であり、予め定めた、または、ステレオ距離検出部105の結果に基づいて、撮像部103で撮像した画像の内、後段の距離検出部107において距離を検出する画像の領域を設定し切り出す。
107は、距離検出部であり、処理領域設定部106で切り出された領域について、ステレオ距離検出部105の結果に基づいて、その領域内の物体の距離を検出する。距離検出部107は、この例では単眼処理により物体を検出することから、単眼距離検出部と呼ぶことができ、入力された画像から、想定している先行車両、交通信号や道路標識などを検出する。この検出方法としては、例えば、画像の中で輝度分布やエッジの形状情報と、参照データとして保持しているパタンデータとの類似量から車両、交通信号や道路標識などの物体を検出する方法などがある。これにより、画像中の物体とその画面上の位置が把握でき、検出した物体の画面上の高さと大きさにより、その距離を検出することができる。
ここで、距離検出部107は、ステレオ距離検出部105で検出された物体の種別を入力することで、前述の物体を検出するためのパタンデータとの比較をする必要がなくなり、処理を軽減できる。また、先にステレオ距離検出部105で検出された物体の距離、および大きさなどを入力することで、比較するパタンデータの数を限定することができ、必要最小限の処理で物体の距離を検出できる。
108は認識部であり、ステレオ距離検出部105からの検出結果と距離検出部107からの検出結果を受け取り、結果を統合して、認識結果の情報を物体距離検出装置1の外部へ出力するとともに処理領域設定部106、距離検出部107にも出力する。ステレオ距離検出部105で得られた物体の距離情報は、距離検出部107で得られた相当する物体の距離情報に更新される。
上述では、ステレオ距離検出部105の検出結果として、一定の大きさの距離グループを物体と検知し、その結果を処理領域設定部106、および距離設定部107に出力する例を示したが、認識部108の認識結果を処理領域設定部106、および距離設定部107に出力してもよい。
なお、物体距離検出装置1は、例えば点線枠12内の撮像部101、102、103、画像補正部104、ステレオ距離検出部105は電子回路で構成され、それ以外の構成要素は図示しないマイコンなどによるソフトウェア処理で実現される。ステレオ距離検出部105をソフトウェア処理で実現することも可能である。
図2は、本発明の物体距離検出装置の一実施例で撮像される撮像画像の一例を示す図である。同図中、1001は撮像部101で撮像され、画像補正部104で補正された撮像画像を、1002は、撮像部102で撮像され、画像補正部104で補正された撮像画像を示す。また、1003は撮像部103で撮像された撮像画像を示す。202、203、204、205、206は被写体である歩行者、対向車、交通信号、街路樹、歩行者である。
また、201、209は、撮像画像1001および撮像画像1002のうち共通して撮像されている領域である共通撮像領域を示す。前述のように撮像画像1001と撮像画像1002の間には、共通して撮像されている領域のずれがあり、このずれ量すなわち視差により、被写体の距離を算出する。
撮像部103は、撮像部101、102に対して撮像画角が狭く設定されていて、撮像画像1003は、共通撮像領域201の点線枠で示した領域401に相当する領域の撮像画像である。撮像センサの画素数が撮像部101、102と撮像部103で同じ場合、撮像部103で撮像した撮像画像の方が分解能は高くなるので、距離を検出する際の精度が高くなる。
図3は、本発明の物体距離検出装置の一実施例で撮像される撮像画像とステレオ距離検出部105の動作の一例を示す図である。同図中、201は、撮像部101で撮像され、画像補正部104で補正された撮像画像のうち、前述のように撮像部102で撮像された画像と共通して撮像されている領域を示す。
301は、ステレオ距離検出部105が被写体の距離および物体の種別を検出する処理範囲であり、領域201全体を処理する。ステレオ距離検出部105は、処理領域301の範囲を前述のブロックマッチング方式により視差を求めその視差のグループから物体を検出する。
302、303、304、305、および306は物体の検出結果を枠で示したものである。画像内の枠と距離表示は撮像した画像にはなく、画像上に重ねて明示的に示したものである。処理領域302で検出した歩行者202が距離5.2m、処理領域303で検出した対向車203が距離100m、処理領域304の交通信号204が距離19.7m処理領域305の街路樹205が距離95m、処理領域306の歩行者206が8.3mの位置にあることを検出している。このように、撮影した画像全体に亘って物体の距離検出を実現できる。
ステレオ距離検出部105は、処理領域制御部106、および距離検出部107に、検出した物体の種別、距離、位置などを出力する。
図4は、撮像部103で撮像された撮像画像1003と処理領域設定部106、距離検出部107の動作の一例を示す図である。処理領域設定部106は、ステレオ距離検出部105より出力された物体の情報から、車両が安全に走行するために必要な必要最小限の物体情報を選択し、画像として切り出し後段の距離検出部107に出力する。この例では、図2で示した処理領域401の内側に、歩行者202、対向車203、および街路樹205が存在する。このうち、対向車203の情報を選択して画像を切り出し出力する。403は処理領域設定部106により切り出して後段の距離検出部107に出力する画像の処理領域である。距離検出部107は処理領域403に対して、距離100mに先行車ありとの情報を受け、距離を検出する。この結果、この例では、先行車両が距離102.3mと、さらに正確に位置を検出している。
このように、処理領域設定部106は、例えばステレオ距離検出部105で検出された物体との距離があらかじめ定めた距離の閾値、例えば50mより遠い場合に処理領域を設定するようにすることで、処理量を削減することができる。本実施例では、歩行者202に対しては処理領域を設定しない。
また、処理領域設定部106は、ステレオ距離検出部105で検出した物体があらかじめ定めた物体でない場合、例えば街路樹205に対しては処理領域を設定しないようにすることでも処理量を削減できる。
さらに、処理領域設定部106は、ステレオ距離検出部105で物体が検出できなかった場合、処理領域を設定しないことでも処理量を削減できる。
図5は、本発明の物体距離検出装置の一実施例の処理タイミングを示す図である。同図中、(1)は画像補正部104、ステレオ距離検出部105の処理タイミングを、(2)は処理領域設定部106と距離検出部107の処理タイミングを示す。
(1)では、画像補正部104とステレオ距離検出部105による、前述の距離検出処理が行われる。また、(2)では、(1)で検出された物体情報を受け、処理領域設定部106の指定する処理領域403について、距離検出部107において距離検出が行われる。
このように、距離検出部107における距離検出処理は、指定された必要な処理領域についてのみ、ステレオ距離検出部105の検出結果に基づいて検出処理が行われるので、処理の負荷が低減できる。
なお、本実施例では、処理領域設定部106で処理領域403を一つ設定したが、複数の処理領域が設定された場合には、(2)の距離検出処理が複数回行われる。
図6は、本発明の物体距離検出装置の一実施例の処理フローを示す図である。まず、撮像部101、102、および103により画像を撮影する(S601:Sはステップを表す)。撮像部101、102で撮影したそれぞれの画像は、前述した通り、画像補正部104により輝度補正、レンズ歪補正や水平位置合わせが行われる(S602)。次にステレオ距離検出部105により、処理領域301内の物体の検出とその距離が検出される(S603)。
その検出結果から、処理領域設定部106において、撮像部103で撮影した画像から処理すべき領域を切り出し、距離検出部107に出力し(S604)、その物体を含む領域で距離検出部107において物体の距離が検出される(S605)。
最後に認識部108により、各処理領域の物体の距離検出結果に基づいて、物体の認識処理を行い、認識結果を出力する(S606)。これらの処理を例えば1フレーム毎に繰り返し行う。
図7は、本発明の物体距離検出装置の一実施例における撮影画像と認識結果の一例を示す図である。 701は、ある時点で撮像部101により撮像された画像であり、撮像部102もほぼ同様の画像を撮影し取得している。また、702、703、704、705,706は、物体の認識結果であり、画像内の枠と距離表示は撮像した画像にはなく、画像上に重ねて明示的に示したものである。
前述の処理領域302から検出した歩行者202が距離5.2m、処理領域304の交通信号204が距離19.7m、処理領域305の街路樹205が距離95m、処理領域306の歩行者206が距離8.3mの位置にあることを検出している。また、処理領域403から検出した対向車203が距離102.3mの位置にあることを示している。このように、撮影した画像全体に亘って精度の高い物体の距離検出を実現できる。
ここで、本実施例で示したステレオ処理では、遠方になるに従い視差の値が小さくなり誤差の影響が大きくなり、また、装置の小型化のために基線長を短くすると、遠方側の距離の検出精度が低下するが、以上の方法により、遠方側の距離を距離検出部107で求めることにより、近傍から遠方まで距離精度を維持できる。
本実施例によれば、撮影画像から物体とその距離を検出し、その結果に基づいて物体を含む領域に対して距離検出処理を行うので、撮像画像全体についての物体認識が、処理負荷の増大なく可能になる。
図8は、本発明の物体距離検出装置の一実施例における距離検出動作時の消費電流波形の模式図である。 (1)は、本発明に拠らず、撮像画像全領域に亘って、ステレオ処理による距離検出を行った場合の動作電流波形であり、フレーム全体に亘って電力が消費される。(2)は、本発明の物体距離検出装置の一実施例における距離検出動作時の電流波形であり、(1)に対し、フレーム内の限られたタイミングで電力が消費されるので、消費電力の削減を実現できる。
図9は、本発明の物体距離検出装置の別の実施例の構成を示す図である。物体距離検出装置1は、自動車などの車両に搭載されており、同図中、801は車両制御部である。認識部108の出力が車両制御部801に入力されている。また、認識部108には、撮影画像中の距離情報から、路面部分を他の物体と分離して路面領域として検出し、その領域を処理領域設定部106に出力する路面検出部1081を備え、さらに認識部108は、図示しないが車両速度や操舵角などの車両情報を入力して、自車両の走行経路を予測し、処理領域設定部106に出力する走行経路予測部1082を備える。
処理領域設定部106は、路面検出部1081により検出された路面情報を入力し、路面上の物体の距離を検出するよう、距離検出部107での処理領域を設定する。これにより、距離検出部107で路面上の物体の正確な距離を検出し認識部108にて認識することで、自車両の障害物をいち早く認識でき、安全な走行を維持できる。また、探索条件設定部110は、走行経路予測部1082から、これから走行していく経路上の物体の距離を検出するよう、処理領域を設定することで、上記のように自車両の走行経路上の障害物を認識して、安全な走行を実現できる。
また、処理領域設定部106は、図示しないが自車両の車両速度を入力して、例えば速度が早い場合は処理領域を設定する際の距離の閾値を遠く設定し、速度が遅い場合は距離の閾値を近く設定することで、最小限の処理量で距離検出処理を確実に行い、安全を確保することができる。
車両制御部801は、認識部108による認識結果を受け、車両の他の図示しない装置に対し制御を行う。車両の制御としては、歩行者の接近や、赤信号や道路標識を検出したことによる、運転者への警告ランプの点灯、警告音の発生、ブレーキ制動による減速、停止制御、先行車追従時のスロットル、ブレーキ制御、その他の衝突回避や車線維持のための舵角制御などである。これらの車両制御情報は物体距離検出装置1から図示しない他の装置に対して、車内ネットワークを介して出力する。
なお、図9では車両制御部801は物体距離検出装置1とは同一筐体に収められる例を示したが、それに限るものではなく、前述のように、撮像部101、102、103を別筐体としてもよい。
図10は、本発明の別の実施例の構成を示す図である。この実施例では、特開2016−207030号公報で開示されているような、撮像部109の光学レンズが、入射角に対する像高あたりの入射角の変化率の変曲点を所定の変曲点入射角に有する特性を持つ。このようなレンズを用いると、遠方領域での解像度を維持したまま、近傍領域および遠方領域の双方の画像を取得することが可能になる。そこで、本実施例では、撮像部109の近傍領域の撮像画角と撮像部102の撮像画角が等しくなるように設定され、撮像部109の遠方領域の撮像画角がそれより狭く設定されている。撮像部102と撮像部109で撮影された画像は、画像補正部104で補正され、撮像部102の画像と撮像部109の近傍領域の画像がステレオ距離検出部105に入力され、前述の距離検出と物体検出が行われる。その後、撮像部109の遠方領域の画像が処理領域設定部106に入力され、ステレオ距離検出部105の検出結果に基づいて、前述のように、処理領域設定部106、距離検出部107で遠方領域内の物体の距離が検出される。本実施例では、2つの撮像部でステレオ距離検出と単眼による距離検出を行うことができ、装置のコスト低減が実現できる。
図11は、本発明の別の実施例の構成を示す図である。この実施例では、処理領域設定部106の入力情報を撮像部101、102、103以外で構成された、距離情報が得られるセンサから得るものである。例えば入力情報としては、図示しないがレーダや、赤外線センサなどのセンサから得る情報であり、対象範囲の物体の距離を求めることができる。その際レーダの場合では、処理領域設定部106によってレーダのビーム方向を処理する物体方向に絞る方法で処理領域を制御することが考えられる。それ以降の動作は前述の通りである。
図12は、本発明の物体距離検出装置のさらに別の実施例の構成を示す図である。901はネットワーク撮像部、903はLAN(Local Area Network)であり、904は制御部である。ネットワーク撮像部901は、LAN903を介して制御部904と接続されている。また、902は画像圧縮・インタフェース部、905はネットワークインタフェース部、906は画像伸張部である。
撮像部101、撮像部102、撮像部103で撮影した画像は、画像補正部104において、輝度補正、レンズ歪補正や水平位置合わせが行われる。次に画像圧縮・インタフェース部902は、画像補正部104からの画像を圧縮してLAN903に送信する。画像圧縮の方式としては処理時間を少なくするため、複数の画像の時間的相関関係を使わず、一枚の画像内で圧縮を行う画面内圧縮方式を用いる方式がある。また、映像圧縮符号化方式を選択して切り換えてもよい。
画像圧縮・インタフェース部902は、圧縮符号化データを生成し、所定のネットワークプロトコルに従ってデータを送信する。なお、画像補正部104は制御部904の画像伸張部906の後段に設けてもよいが、ネットワーク撮像部901の画像圧縮・インタフェース部902の前段で処理することにより、レンズ歪などを補正した後に画像圧縮することで、画像圧縮の高効率化と高画質化が見込まれる。その場合は、処理領域設定部106による処理領域の設定は、ネットワークインタフェース部905からLAN903を介して、画像圧縮・インタフェース部902および画像補正部104に伝達される。
制御部904においては、ネットワークインタフェース部905において、圧縮画像データの受信を、LAN903を介して行う。制御部904のネットワークインタフェース部905で受信した圧縮画像データは、画像伸張部906において、処理領域設定部106により設定された処理領域について元の画像に伸張され、ステレオ距離検出部105により距離が検出される。これ以降の処理は前述の通りである。
本実施例によれば、LAN906を介して圧縮画像を送信するので、撮像部側の処理量を減らすことができ、撮像部側の軽量化、低消費電力化、筐体が小さくなることによる、車両設置への寸法制限を低減することが可能になる。
なお、本発明は上記した実施例に限定されるものではなく、様々な変形例が含まれる。例えば、上記した実施例は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施例の構成の一部を他の実施例の構成に置き換えることが可能であり、また、ある実施例の構成に他の実施例の構成を加えることも可能である。また、各実施例の構成の一部について、他の構成の追加・削除・置換をすることが可能である。
また、上記の各構成は、それらの一部又は全部が、ハードウェアで構成されても、プロセッサでプログラムが実行されることにより実現されるように構成されてもよい。また、制御線や情報線は説明上必要と考えられるものを示しており、製品上必ずしも全ての制御線や情報線を示しているとは限らない。実際には殆ど全ての構成が相互に接続されていると考えてもよい。
1…物体距離検出装置、101〜103…撮像部、104…画像補正部、105…ステレオ距離検出部、106…処理領域設定部、107…距離検出部、108…認識部、109…撮像部、201…共通撮像領域、202〜206…被写体、301〜306…処理領域、401、403…処理領域、702〜706…認識結果、801…車両制御部、901…ネットワーク撮像部、902…画像圧縮・インタフェース部、903…LAN、904…制御部、905…ネットワークインタフェース部、906…画像伸張部。

Claims (11)

  1. 少なくとも複数の撮像部を有する外界情報取得部と、
    複数の前記撮像部のうちの一つで撮影された基準画像内の特定の画像要素に対応する画像要素を、他の前記撮像部で撮影される参照画像内で探索して、該探索によって得られる視差に基づいて外界の物体と該物体の距離を検出するステレオ距離検出部と、
    該ステレオ距離検出部で検出された距離に基づいて、前記外界情報取得部により取得した外界情報から、前記ステレオ距離検出部よりも高い精度で前記物体の距離を検出する距離検出部と、を有し
    前記距離検出部は、前記ステレオ距離検出部で検出された前記物体の種別又は、距離および大きさに基づいて、前記外界情報取得部により取得した前記物体の距離を検出することを特徴とする物体距離検出装置。
  2. 請求項1に記載の物体距離検出装置において、
    前記ステレオ距離検出部で検出した前記物体を含む処理領域を設定する処理領域設定部を備え、
    前記距離検出部は、前記外界情報取得部により取得した前記外界情報の内、前記処理領域設定部により設定された前記処理領域に対して、前記物体の距離を検出することを特徴とする物体距離検出装置。
  3. 請求項1乃至2のいずれかに記載の物体距離検出装置において、
    前記距離検出部は、複数の前記撮像部のうちの一つで撮影された画像から単眼処理により前記物体を検出し、前記物体の距離を検出することを特徴とする物体距離検出装置。
  4. 請求項2に記載の物体距離検出装置において、
    前記処理領域設定部は、前記ステレオ距離検出部で検出された前記物体との距離が所定距離の閾値より遠い場合に前記処理領域を設定することを特徴とする物体距離検出装置。
  5. 請求項2に記載の物体距離検出装置において、
    路面を検出する路面検出手段を備え、
    前記処理領域設定部は、前記路面検出手段で検出した前記路面上に前記処理領域を設定することを特徴とする物体距離検出装置。
  6. 請求項2に記載の物体距離検出装置において、
    走行経路を予測する走行経路予測手段を備え、
    前記処理領域設定部は、前記走行経路予測手段で予測した経路上に前記処理領域を設定することを特徴とする物体距離検出装置。
  7. 請求項2に記載の物体距離検出装置において、
    前記処理領域設定部は、前記処理領域を設定する前記距離の閾値を車速に応じて変化させ設定することを特徴とする物体距離検出装置。
  8. 請求項2に記載の物体距離検出装置において、
    前記処理領域設定部は、前記ステレオ距離検出部で検出した前記物体が所定の物体でない場合、前記処理領域を設定しないことを特徴とする物体距離検出装置。
  9. 請求項2に記載の物体距離検出装置において、
    前記処理領域設定部は、前記ステレオ距離検出部で前記物体の距離が検出できなかった場合、前記処理領域を設定しないことを特徴とする物体距離検出装置。
  10. 請求項3に記載の物体距離検出装置において、
    複数の前記撮像部は、前記ステレオ距離検出部で検出する画像範囲より前記距離検出部で検出する画像範囲が狭い画像を撮影することを特徴とする物体距離検出装置。
  11. 請求項3に記載の物体距離検出装置において、
    複数の前記撮像部は、前記ステレオ距離検出部で検出する画像範囲より前記距離検出部で検出する画像範囲の解像度が高い画像を撮影することを特徴とする物体距離検出装置。
JP2017183161A 2017-09-25 2017-09-25 物体距離検出装置 Active JP6891082B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2017183161A JP6891082B2 (ja) 2017-09-25 2017-09-25 物体距離検出装置
PCT/JP2018/028027 WO2019058755A1 (ja) 2017-09-25 2018-07-26 物体距離検出装置
EP18858786.9A EP3690812A4 (en) 2017-09-25 2018-07-26 DEVICE FOR DETECTING OBJECT DISTANCE

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017183161A JP6891082B2 (ja) 2017-09-25 2017-09-25 物体距離検出装置

Publications (2)

Publication Number Publication Date
JP2019061314A JP2019061314A (ja) 2019-04-18
JP6891082B2 true JP6891082B2 (ja) 2021-06-18

Family

ID=65809654

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017183161A Active JP6891082B2 (ja) 2017-09-25 2017-09-25 物体距離検出装置

Country Status (3)

Country Link
EP (1) EP3690812A4 (ja)
JP (1) JP6891082B2 (ja)
WO (1) WO2019058755A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7278846B2 (ja) 2019-04-17 2023-05-22 日立Astemo株式会社 物体位置検出装置、走行制御システム、および走行制御方法
JP7227112B2 (ja) * 2019-09-27 2023-02-21 日立Astemo株式会社 物体検出装置、走行制御システム、および走行制御方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3301995B2 (ja) * 1999-07-30 2002-07-15 富士重工業株式会社 ステレオ式車外監視装置
JP2001071790A (ja) * 1999-09-07 2001-03-21 Mazda Motor Corp 車両の表示装置
JP2013185905A (ja) * 2012-03-07 2013-09-19 Sony Corp 情報処理装置及び方法、並びにプログラム
JP2015230703A (ja) 2014-06-06 2015-12-21 日本電産エレシス株式会社 物体検出装置及び物体検出方法
JP6545997B2 (ja) 2015-04-24 2019-07-17 日立オートモティブシステムズ株式会社 画像処理装置
JP6838248B2 (ja) * 2016-02-22 2021-03-03 日立Astemo株式会社 情報処理装置

Also Published As

Publication number Publication date
EP3690812A4 (en) 2021-07-07
JP2019061314A (ja) 2019-04-18
EP3690812A1 (en) 2020-08-05
WO2019058755A1 (ja) 2019-03-28

Similar Documents

Publication Publication Date Title
US11029150B2 (en) Object distance detection device
JP6660751B2 (ja) 撮像装置
JP5680573B2 (ja) 車両の走行環境認識装置
WO2018110605A1 (ja) 画像処理装置、外界認識装置
JP2007172035A (ja) 車載画像認識装置、車載撮像装置、車載撮像制御装置、警告処理装置、画像認識方法、撮像方法および撮像制御方法
US8160300B2 (en) Pedestrian detecting apparatus
JP4807733B2 (ja) 車外環境認識装置
WO2020213386A1 (ja) 物体位置検出装置、走行制御システム、および走行制御方法
US20220024452A1 (en) Image processing apparatus, imaging apparatus, moveable body, and image processing method
JP6899673B2 (ja) 物体距離検出装置
JP4848644B2 (ja) 障害物認識システム
JP2007293672A (ja) 車両用撮影装置、車両用撮影装置の汚れ検出方法
JP6891082B2 (ja) 物体距離検出装置
US20180321030A1 (en) Image processing device
JP2021064316A (ja) 車外環境認識装置
EP3865815A1 (en) Vehicle-mounted system
CN111133439A (zh) 全景监视系统
WO2023112127A1 (ja) 画像認識装置、および、画像認識方法
JP4471881B2 (ja) 障害物認識装置及び障害物認識方法
JP4324413B2 (ja) 車外監視装置および車外監視方法
CN114521180A (zh) 物体检测装置、行驶控制系统以及行驶控制方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170927

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200225

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200227

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201006

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201201

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210323

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20210331

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20210409

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210422

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210518

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210526

R150 Certificate of patent or registration of utility model

Ref document number: 6891082

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250