JP2017139631A - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP2017139631A
JP2017139631A JP2016019401A JP2016019401A JP2017139631A JP 2017139631 A JP2017139631 A JP 2017139631A JP 2016019401 A JP2016019401 A JP 2016019401A JP 2016019401 A JP2016019401 A JP 2016019401A JP 2017139631 A JP2017139631 A JP 2017139631A
Authority
JP
Japan
Prior art keywords
area
distance
processing
imaging
object detection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016019401A
Other languages
English (en)
Other versions
JP6660751B2 (ja
Inventor
佐々本 学
Manabu Sasamoto
学 佐々本
健 志磨
Takeshi Shima
健 志磨
野中 進一
Shinichi Nonaka
進一 野中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Astemo Ltd
Original Assignee
Hitachi Automotive Systems Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Automotive Systems Ltd filed Critical Hitachi Automotive Systems Ltd
Priority to JP2016019401A priority Critical patent/JP6660751B2/ja
Priority to US16/066,274 priority patent/US11650052B2/en
Priority to CN201780006341.1A priority patent/CN108496056B/zh
Priority to PCT/JP2017/000362 priority patent/WO2017134982A1/ja
Priority to EP17747146.3A priority patent/EP3413015B1/en
Publication of JP2017139631A publication Critical patent/JP2017139631A/ja
Application granted granted Critical
Publication of JP6660751B2 publication Critical patent/JP6660751B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/166Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • G01C3/02Details
    • G01C3/06Use of electric means to obtain final indication
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/582Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of traffic signs
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • G06V40/23Recognition of whole body movements, e.g. for sport training
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • G01C3/10Measuring distances in line of sight; Optical rangefinders using a parallactic triangle with variable angles and a base of fixed length in the observation station, e.g. in the instrument
    • G01C3/14Measuring distances in line of sight; Optical rangefinders using a parallactic triangle with variable angles and a base of fixed length in the observation station, e.g. in the instrument with binocular observation at a single point, e.g. stereoscopic type

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Electromagnetism (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Psychiatry (AREA)
  • Social Psychology (AREA)
  • Human Computer Interaction (AREA)
  • Traffic Control Systems (AREA)
  • Image Processing (AREA)
  • Measurement Of Optical Distance (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)

Abstract

【課題】検知対象となる物体が複数存在する場合でも、検知精度の向上と演算負荷の低減を両立させることができる撮像装置を提供する。
【解決手段】撮像装置1は複数の撮像部101,102を有し、撮像部で取得した画像中の注目すべき一部の領域に対して、ステレオ処理によって領域内の複数の画像要素ごとに距離を検知した後、検知された距離に基づいて画像要素のグループを抽出して物体を検出する第1の物体検出処理を行う第1の物体検出処理部106と、画像中の注目すべき他部の領域のうち一部の領域に対して、ステレオ処理によって物体の距離を検出する第2の物体検出処理を行う第2の物体検出処理部107とを有する。
【選択図】図1

Description

本発明は、撮像装置に関する。
本技術分野の背景技術として、例えば特許文献1には、ステレオカメラによる距離検出及び単眼カメラによる距離検出の両方を用いる手法が提案されている。
具体的には、特許文献1では、先ずは単眼カメラによる距離検出により車両と対象物との距離を検出することで、演算量を抑制して対象物の位置を追跡し、車両と対象物との距離が予め設定された切替距離以下になった時に、ステレオカメラによる距離検出に切替えて、車両に接近した対象物の位置をより精度よく認識することが述べられている。
また、特許文献1では、演算量は単眼カメラによる方が少なくなる一方で、検出精度はステレオカメラによる方が高くなることが述べられている。
特開2013−058829号公報
ところで、特許文献1に記載の技術は、検知対象となる物体が一つである場合には演算負荷を低減することができる。しかし、通常、検知対象となる物体は、遠方にも近傍にも存在するため、複数の物体毎に単眼処理とステレオ処理とをそれぞれ行わなければならない場合が生じ、演算負荷を効率的に低減することができないおそれがある。
そこで、本発明は、検知対象となる物体が複数存在する場合でも、検知精度の向上と演算負荷の低減を両立させることができる撮像装置を提供することを目的とする。
本発明は、複数の撮像部を有する撮像装置であって、前記複数の撮像部で撮影されるそれぞれの撮影画像に共通する共通撮像領域のうちの一部分である第1領域では、該第1領域の全体に亘って該一部領域内の画像要素についての距離を前記複数の撮影画像間の視差に基づいて算出し、前記撮影画像のうち前記第1領域とは別の他部領域を含む第2領域では、該第2領域のうちの一部分である部分領域に対して該部分領域内の画像要素についての距離を前記複数の画像間の視差に基づいて算出する。
本発明は、検知対象となる物体が複数存在する場合でも、検知精度の向上と演算負荷の低減を両立させることができる。
本発明の実施例における撮像装置の構成を示す図である。 本発明の実施例で撮像される撮像画像の一例を示す図である。 本発明の実施例で撮像される撮像画像と領域制御の一例を示す図である。 本発明の実施例における撮像装置の処理タイミングを示す図である。 本発明の実施例における撮像装置の処理フローを示す図である。 本発明の実施例における撮影画像と認識結果の一例を示す図である。 本発明の実施例における領域制御の例を示す図である。 本発明の実施例における距離検出部の消費電流の一例を示す図である。 本発明の実施例における領域制御の他の例を示す図である。 本発明の別の実施例における撮像装置の構成を示す図である。 本発明のさらに別の実施例における撮像装置の構成を示す図である。
以下、図面を用いて本発明の実施形態を説明する。
図1は、本発明の撮像装置の一実施例の構成を示す図である。1は本実施例の撮像装置であり、例えば車両の前方に搭載され、信号や標識、障害物などを認識して運転者を支援する安全システムの一部として構成するものである。
101、102は撮像部であり、画像センサに光学レンズが装着されている。これらの撮像部は、所定のタイミングで1枚の画像の撮像を繰り返し、撮像した画像を出力する。
撮像部101と撮像部102は、所定の距離で左右に離れて設置され、撮像部101と撮像部102で撮影した画像のずれ、いわゆる視差から、被写体までの距離を算出できる。
なお、図1では撮像装置1の構成要素が同一の筐体に収められる例を示したが、例えば撮像部101、102を、他の構成要素とは別の筐体にまとめて収めてもよいし(同図点線枠)、撮像部101、102をそれぞれ別の筐体に収めて車両に取り付けてもよい。その場合、画像信号は図示しない接続ケーブルで接続すればよい。接続ケーブルを用いて画像を伝送する方法としては、LVDS(Low Voltage Differential Signaling)方式の差動伝送路を用いた伝送方法などがある。
また、撮像部101と撮像部102の画像センサをカラー画像センサとすることで、撮像した画像の色情報を取得することが可能になる。
103は画像補正部であり、撮像部101、102からの画像を取り込み、それぞれの画像の輝度を合わせるように予め計測されている補正値で補正し、さらにレンズによる画像の歪の補正と、撮像部101、102の画像の水平位置を合わせるようにこれも予め計測されている補正値で補正し、画像メモリに格納する。補正値の計測は、撮像装置の製造工程で行われる。補正値適用前の装置毎で、特定の被写体を撮像し、取得した画像の輝度が均一になるような画素毎の輝度補正値、およびレンズ歪を打ち消し、画像が水平になるような画素毎の幾何補正値を求め、それぞれ補正テーブルとして、装置毎に例えば図示しない不揮発性メモリに保存しておく。
104は、領域制御部であり、後述の距離検出部105において距離を検出する画像の領域を指定し、距離検出部105に出力し、また、後述の物体検出部107において物体を検出する画像の領域を指定し、物体検出部107に出力し、その物体検出部107で検出した結果を受け取る。すなわち、距離検出部105に距離検出すべき画像の領域を指定し、物体検出部107に物体検出すべき画像の領域を指定する。
105は距離検出部であり、画像補正部103からの画像を入力して被写体の距離を検出する。距離を検出する方法として例えば次のような方法がある。距離検出部105は、画像補正部103からの画像を取り込み、視差の算出を行う。前述のように、撮像部101と撮像部102は所定の距離で左右に離れて設置されているので、撮像した画像は視差を持つ。この視差を算出するいわゆるステレオ処理を行う。視差の算出手法としては、例えば、ブロックマッチング方式がある。距離検出部105は、例えば画像補正選択部103からの画像のうち、領域制御部104により指定された画像の領域について距離検知を行う。具体的には、まず、撮像部101の画像上から小さく切出した所定のサイズのブロック領域に対応する、撮像部102の画像上の同じ被写体が映っている領域を水平方向に探索する。そして撮像部101と撮像部102における一致したブロック領域の位置の差が視差となる。この視差を用いてブロック領域に映っている対象物の実環境での距離を求めることができる。なお、この例は、距離を求める対象となる画像要素として、ブロック領域を採用したものである。一致比較の手法としては、例えば、ブロック領域内の画素の輝度の差分の総和が小さくなった位置を視差とする。距離は、撮像部101、撮像部102のレンズ焦点距離、撮像部101と撮像部102の距離、上記で求めた視差、および撮像センサの画素ピッチから求められることは公知である。ただし、距離の算出方法はこれに限定するものではない。また、距離を求める対象となる画像要素として、上述のブロック領域に限られず、撮像センサを構成する個々の画素を採用してもよい。
106は距離情報に基づく物体検出部であり、距離検出部105で求めた、領域制御部104で指定された領域の距離情報に基づいて物体を検出する。物体を検出する方法は、例えば、ほぼ同一の距離を示す距離情報が近くに存在する場合、それらを一つの集合としてグループ化し、そのグループの大きさが一定以上のときにそのグループを物体とみなす。そして、検出したグループの大きさと形状に基づき、例えば車両や歩行者であることを検出する。物体の大きさや形状は、参照データとしてあらかじめ保持しているパタンデータとの比較から検出する方法がある。この処理方式によれば、自車両から前方の歩行者や車両の距離が精度よく得られるので、自車両の減速や停止などの衝突回避のための情報として用いられる。
107はもう一つの物体検出部であり、撮像部101または撮像部102のどちらの画像を入力して物体を検出する。物体を検出する方法としては、例えば次のような方法がある。物体検出部106は、撮像部101または撮像部102のどちらかの画像を取り込み、取り込んだ画像の中で、想定している交通信号や道路標識などを検出する。この検出方法としては、例えば、画像の中で輝度分布やエッジの形状情報と、参照データとして保持しているパタンデータとの類似量から交通信号や道路標識などの物体を検出する方法などがある。これにより、画像中の物体とその画面上の位置が把握できる。
物体検出部107は、この検出結果を領域制御部104に出力し、領域制御部104はこの結果に基づいて距離検出部105に対し、距離検出すべき領域を指定する。距離検出部105は、補正部103からの画像の内、指定された領域について、前述の距離検出を行い、その結果を後述の認識部108に出力する。これにより、距離検出部105による距離検出の領域を限定することが可能となり、処理負荷の増大を回避できる。
108は認識部であり、物体検出部106、物体検出部107と距離検出部105の検出結果を受け取り、画像上物体の認識を行い、認識結果の情報を撮像装置1の外部へ出力する。
なお、撮像装置1は、例えば点線枠11内の撮像部101、102、画像補正部103、距離検出部105は電子回路で構成され、それ以外の構成要素は図示しないマイコンなどによるソフトウェア処理で実現される。
図2は、本発明の撮像装置の一実施例で撮像される撮像画像の一例を示す図である。同図中、1001は撮像部101で撮像され、補正部103で補正された撮像画像を、1002は、撮像部102で撮像され、補正部103で補正された撮像画像を示す。202、203、204は被写体である。
また、201、208は、撮像画像1001および撮像画像1002のうち共通して撮像されている領域である共通撮像領域を示す。前述のように撮像画像1001と撮像画像1002の間には、共通して撮像されている領域のずれがあり、このずれ量すなわち視差により、被写体の距離を算出する。
図3は、本発明の撮像装置の一実施例で撮像される撮像画像と領域制御の一例を示す図である。同図中201は、例えば撮像部101で撮像され、補正部103で補正された撮像画像のうち、前述のように撮像部102で撮像された画像と共通して撮像されている領域を示す。
205、および206は撮像画像201のうち、領域制御部104で指定された処理領域であり、処理領域205は、距離検出部105にて距離検出処理が行われた後、物体検出部106にて物体検出が行われる処理領域である。即ち、処理領域205は、共通撮像領域のうちの一部分の領域(便宜上、第1領域とする)であり、この第1領域では、該第1領域の全体に亘って該一部領域内の画像要素についての距離が前記複数の撮影画像間の視差に基づいて算出される。また、処理領域206は、物体検出107において物体検出処理が行われた後、その結果からさらに領域を指定して距離検出部105にて距離検出処理が行われる画像領域である。即ち、処理領域205は、第1領域とは別の他部領域を含む領域(便宜上、第2領域とする)であり、この第2領域では、該第2領域のうちの一部分である部分領域に対して該部分領域内の画像要素についての距離が前記複数の画像間の視差に基づいて算出される。なお、上記の第1領域、他部領域、第2領域、部分領域に関しては、図6、7を用いて後述する。
207は、処理領域206のうち、物体検出107において物体が検出された結果に基づいて領域制御部104で指定された処理領域である。この場合、処理領域206から物体検出部107によって交通信号204が検出され、領域制御部104により、その交通信号を含む処理領域207を指定し、この処理領域207について距離検出部105において距離検出処理が行われる。
図4は、本発明の撮像装置の一実施例の処理タイミングを示す図である。同図中、(3−1)は処理領域205の処理タイミングを、(3−2)は処理領域206の処理タイミングを、(3−3)は処理領域206中の処理領域207の処理タイミングを示す。
(3−1)では、処理領域205について、距離検出部105にて距離検出処理が行われた後、物体検出部106にて物体検出が行われる。また、(3−2)では、処理領域206について、物体検出107において物体検出が行われる。さらに(3−3)では、(3−2)にて物体検出部107で検出された結果に基づいて領域制御部104で指定された処理領域である処理領域207について距離検出部105にて距離検出処理が行われる。
このように、距離検出部105における距離検出処理は、指定された必要な処理領域についてのみ行われるので、撮像した画像の全領域について処理することはなく、処理の負荷が低減できる。また、距離検出部105の動作は、(3−1)の処理と(3−3)の処理とで時分割処理が可能であるので、例えば距離検出部105を実現する一つのハードウェアでの処理が可能となるので回路規模が低減できる。また、(3−1)の処理と、(3−2)から(3−3)の処理は並行して処理することが可能である。さらにこれらの処理を撮像部101、102の撮像間隔である1フレームの期間(即ち、処理周期)に処理を行い、フレーム毎に指定する処理領域を切り替えることで、様々な物体に適した検出処理が可能となる。
図5は、本発明の撮像装置の一実施例の処理フローを示す図である。まず、撮像部101および102により画像を撮影する(S401:Sはステップを表す)。撮影したそれぞれの画像は、画像補正部103により前述した通り輝度補正、レンズ歪補正や水平位置合わせが行われる(S402)。次に、領域制御部104により、後続で処理すべき画像の処理領域が指定される(S403)。
まず、図3で示した処理領域205については、撮像部101、102で撮像された画像を用いて距離検出部105により距離を検出する(S404)。そして得られた距離情報に基づいて物体検出部106により物体の検出が行われる(S405)。
また、図3で示した処理領域206については、撮像部101、102のどちらかの画像を用いて物体検出部107により処理領域206中の物体を検出する(S406)。この処理は単眼処理とも称される。この単眼処理では、パターンマッチング等の手法により物体を検出する。
次に、得られた検出結果に基づいて領域制御部104により、距離検出すべき処理領域が指定される(S407)。そして、その領域207について、撮像部101、102で撮像された画像を用いて距離検出部105により距離が検出される(S408)。
最後に認識部108により、各処理領域の物体の検出結果に基づいて、物体の認識処理を行い、認識結果を出力する(S409)。これらの処理を例えば1フレーム毎に繰り返し行う。
図6は、本発明の撮像装置の一実施例における撮影画像と認識結果の一例を示す図である。501はある時点で撮像部101により撮像された画像であり、撮像部102もほぼ同様の画像を撮影し取得している。また、502、503、504は物体の認識結果であり、画像内の枠は撮像した画像にはなく、認識した動体を明示的に示したものである。
前述の処理領域205から検出した歩行者202と歩行者203と、処理領域206から検出した処理領域207の交通信号204を検出している。このように撮影した画像全体に亘って物体の認識を実現できる。
なお、処理領域205は上述の第1領域に相当する。また、処理領域206は上述の第2領域に相当するとともに、上述の他部領域にも相当し、この例では、第2領域と他部領域とは同一の領域である。また、処理領域207は、上述の部分領域に相当する。
本実施例によれば、撮像画像の処理領域を区切って、処理領域205については、2つの撮像部で被写体の距離を検出し、その結果に基づいて物体を検出し、処理領域206については、1つの撮像部で撮像した画像から物体を検出し、検出した結果に基づいてさらに処理領域を指定して2つの撮像部でその処理領域の物体の距離を検出する。これにより、撮像画像全体についての物体認識が、処理負荷の増大なく可能になる。
図7は、本発明の撮像装置の一実施例における領域設定の一例を示す図である。201は前述の通り、撮像部101および102により撮像される画像の共通撮像領域である。602は、前述のように撮像部101、102で撮像された画像を用いて距離検出部105により距離を検出し、得られた距離情報に基づいて物体検出部106により物体の検出を行う処理領域であり、603は、撮像部101、102のどちらかの画像を用いて物体検出部107により処理領域603中の物体を検出し、得られた検出結果に基づいて領域制御部104により、距離検出すべき処理領域が指定された処理領域について、撮像部101、102で撮像された画像を用いて距離検出部105により距離を検出する処理領域である。これらの処理領域は領域制御部104により、処理領域の位置や大きさが制御される。
図7(A)では、処理領域602が共通撮像領域201中の下方に指定され、処理領域603が上方に設定される。このように処理領域を指定すると、前述のように処理領域602において、車両前方の歩行者や車両を検出する場合、精度よく検出でき、さらに処理領域603において、交通信号や道路標識を検出できる。なお、図7(A)の例では、処理領域602は上述の第1領域に相当する。また、処理領域603は上述の他部領域に相当するとともに、上述の第2領域にも相当し、この例では、他部領域と第2領域とは同一の領域である。
また、図7(B)では、処理領域603が共通撮像領域201中の下方に指定され、処理領域602が上方に設定される。例えば路側帯の白線を検出する場合は、物体認識部107による認識に処理領域を指定することで処理負荷の増加なく白線が検出できる。なお、図7(B)の例では、処理領域602は上述の第1領域に相当する。また、処理領域603は上述の他部領域に相当するとともに、上述の第2領域にも相当し、この例では、他部領域と第2領域とは同一の領域である。
図7(3)および(4)のように、処理領域602と処理領域603を一部重なるように指定することも可能である。なお、図7(C)、(D)の例では、処理領域602は上述の第1領域に相当する。また、処理領域603aは上述の他部領域に相当し、処理領域603は、上述の第2領域に相当する。この例では、他部領域は、第2領域のうち第1領域との重複領域を除いた領域である。
領域選択は、撮像単位であるフレームの単位で切り替えることが可能である。その他、図示しないが、車両の操舵方向に処理領域を移動して指定することや、上下左右の振動に合わせて指定することで処理領域を細かく制限しさらに負荷を低減することも可能である。また、撮像部101または撮像部102のどちらかが故障して撮像できなくなった場合、処理領域603を画像領域201全体に亘って指定するようにすることで、物体の検出処理は継続することが可能になる。
このように、検出する対象物により、処理領域の指定を変えることで、様々な検出対象物について適切な処理方法を選択し、画像の全領域に亘って処理負荷の増大なく処理することが可能になる。
図8は、本発明の撮像装置の一実施例における距離検出動作時の距離検出部105の消費電流波形の模式図である。
図8(A)は、本発明に拠らず、撮像画像全領域に亘って、ステレオ処理による距離検出を行った場合の動作電流波形であり、フレーム全体に亘って電力が消費される。図8(B)は、本発明の撮像装置の一実施例における距離検出動作時の電流波形であり、図8(A)に対し、フレーム内の限られたタイミングで電力が消費されるので、消費電力の削減を実現できる。
図9は、本発明の撮像装置における領域制御の他の実施例を示す図である。図9(A)〜(D)は1フレーム毎の領域指定を示しており、この例では処理領域603の大きさと位置を領域制御部104により指定し、その位置をフレーム毎にずらしながら指定している。
本実施例によれば、物体認識部107による物体認識処理の処理領域が狭くなるのでさらに処理負荷が低減できる。処理領域603はフレーム毎に移動していくので全領域を網羅でき、交通信号などの移動しない物体を検出する場合に適している。
図10は、本発明の撮像装置の別の実施例の構成を示す図である。撮像装置1は、自動車などの車両に搭載されており、図10中801は車両制御部である。認識部108の出力が車両制御部801に入力されている。
車両制御部801は、認識部108による認識結果を受け、車両の他の図示しない装置に対し制御を行う。車両の制御としては、歩行者の接近や、赤信号や道路標識を検出したことによる、運転者への警告ランプの点灯、警告音の発生、ブレーキ制動による減速、停止制御、先行車追従時のスロットル、ブレーキ制御、その他の衝突回避や車線維持のための舵角制御などである。これらの車両制御情報は撮像装置1から図示しない他の装置に対して、車内ネットワークを介して出力する。
なお、図10では車両制御部801は撮像装置1とは同一筐体に収められる例を示したが、それに限るものではなく、前述のように、撮像部101、102を別筐体としてもよい。
図11は、本発明の撮像装置のさらに別の実施例の構成を示す図である。901はネットワーク撮像部、903はLAN(LocalAreaNetwork)であり、904は制御部である。ネットワーク撮像部901は、LAN903を介して制御部904と接続されている。また、902は画像圧縮・インタフェース部、905はネットワークインタフェース部、906は画像伸張部である。
撮像部101、撮像部102で撮影した画像は、画像補正部103において、輝度補正、レンズ歪補正や水平位置合わせが行われる。次に画像圧縮・インタフェース部902は、画像補正部103からの画像を圧縮してLAN903に送信する。画像圧縮の方式としては処理時間を少なくするため、複数の画像の時間的相関関係を使わず、一枚の画像内で圧縮を行う画面内圧縮方式を用いる方式がある。また、映像圧縮符号化方式を選択して切り換えてもよい。
画像圧縮・インタフェース部902は、圧縮符号化データを生成し、所定のネットワークプロトコルに従ってデータを送信する。なお、画像補正部103は、画像圧縮・インタフェース部902の前段で処理することにより、レンズ歪などを補正した後に画像圧縮することで、画像圧縮の高効率化と高画質化が見込まれるが、制御部904の画像伸張部906の後段に設けてもよい。
制御部904においては、ネットワークインタフェース部905において、圧縮画像データの受信を、LAN903を介して行う。制御部904のネットワークインタフェース部905で受信した圧縮画像データは、画像伸張部906において元の画像に伸張され、領域制御部104により指定された処理領域の画像を距離検出部104、および物体検出部107が前述の処理を行う。これ以降の処理は前述の通りである。
本実施例によれば、LAN906を介して画像や撮像タイミング情報をやり取りするので、撮像部側の処理量を減らすことができ、撮像部側の軽量化、低消費電力化、筐体が小さくなることによる、車両設置への寸法制限を低減することが可能になる。
なお、本発明は上記した実施例に限定されるものではなく、様々な変形例が含まれる。例えば、上記した実施例は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施例の構成の一部を他の実施例の構成に置き換えることが可能であり、また、ある実施例の構成に他の実施例の構成を加えることも可能である。また、各実施例の構成の一部について、他の構成の追加・削除・置換をすることが可能である。
また、上記の各構成は、それらの一部又は全部が、ハードウェアで構成されても、プロセッサでプログラムが実行されることにより実現されるように構成されてもよい。また、制御線や情報線は説明上必要と考えられるものを示しており、製品上必ずしも全ての制御線や情報線を示しているとは限らない。実際には殆ど全ての構成が相互に接続されていると考えてもよい。
1…撮像装置、101〜102…撮像部、103…画像補正部、104…領域制御部、105…距離検出部、106…動体検出部、107…物体検出部、108…認識部、201…共通撮像領域、202〜204…被写体、205〜207…処理領域、602〜603…処理領域、801…車両制御部、901…ネットワーク撮像部、902…画像圧縮・インタフェース部、903…LAN、904…制御部、905…ネットワークインタフェース部、906…画像伸張部。

Claims (9)

  1. 複数の撮像部を有する撮像装置であって、
    前記複数の撮像部で撮影されるそれぞれの撮影画像に共通する共通撮像領域のうちの一部分である第1領域では、該第1領域の全体に亘って該一部領域内の画像要素についての距離を前記複数の撮影画像間の視差に基づいて算出し、
    前記撮影画像のうち前記第1領域とは別の他部領域を含む第2領域では、該第2領域のうちの一部分である部分領域に対して該部分領域内の画像要素についての距離を前記複数の画像間の視差に基づいて算出する、撮像装置。
  2. 請求項1に記載の撮像装置において、
    前記第1領域に対して、視差により距離を算出するステレオ処理によって前記第1領域内の複数の画像要素ごとに距離を検知した後、検知された距離に基づいて前記画像要素のグループを抽出して物体を検出する第1の物体検出処理を行う第1の物体検出処理部と、
    前記部分領域に対して、前記ステレオ処理によって物体の距離を検出する第2の物体検出処理を行う第2の物体検出処理部と、を備える撮像装置。
  3. 請求項2に記載の撮像装置において、
    前記第2の物体検出処理部は、前記第2領域に対して単眼処理によって物体を検出し、前記物体を含む前記部分領域に対して視差により距離を算出するステレオ処理を行って、前記物体の距離を検知する、撮像装置。
  4. 請求項3に記載の撮像装置において、
    前記第1の物体検出処理及び第2の物体検出処理のいずれによって物体検知を行うかが検出対象物の種類に応じて設定される、撮像装置。
  5. 請求項3に記載の撮像装置において、
    前記第1の物体検出処理及び第2の物体検出処理を一つの処理周期内で並行して行う、撮像装置。
  6. 請求項5に記載の撮像装置において、
    前記第1の物体検出処理及び第2の物体検出処理で行う前記ステレオ処理を時分割で処理する、撮像装置。
  7. 請求項2に記載の撮像装置において、
    前記第1の物体検出処理部は、歩行者、又は、車両を検出する、撮像装置。
  8. 請求項2に記載の撮像装置において、
    前記第2の物体検出処理部は、信号、標識、又は、区画線を検出する、撮像装置。
  9. 請求項2に記載の撮像装置において、
    車両の運動を制御する車両制御部を備え、
    前記車両制御部は、前記認識部の認識結果に基づいて前記車両を制御する、撮像装置。
JP2016019401A 2016-02-04 2016-02-04 撮像装置 Active JP6660751B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2016019401A JP6660751B2 (ja) 2016-02-04 2016-02-04 撮像装置
US16/066,274 US11650052B2 (en) 2016-02-04 2017-01-10 Imaging device
CN201780006341.1A CN108496056B (zh) 2016-02-04 2017-01-10 摄像装置
PCT/JP2017/000362 WO2017134982A1 (ja) 2016-02-04 2017-01-10 撮像装置
EP17747146.3A EP3413015B1 (en) 2016-02-04 2017-01-10 Imaging device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016019401A JP6660751B2 (ja) 2016-02-04 2016-02-04 撮像装置

Publications (2)

Publication Number Publication Date
JP2017139631A true JP2017139631A (ja) 2017-08-10
JP6660751B2 JP6660751B2 (ja) 2020-03-11

Family

ID=59499505

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016019401A Active JP6660751B2 (ja) 2016-02-04 2016-02-04 撮像装置

Country Status (5)

Country Link
US (1) US11650052B2 (ja)
EP (1) EP3413015B1 (ja)
JP (1) JP6660751B2 (ja)
CN (1) CN108496056B (ja)
WO (1) WO2017134982A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020022021A1 (ja) * 2018-07-27 2020-01-30 日立オートモティブシステムズ株式会社 距離算出装置
JP2020088658A (ja) * 2018-11-27 2020-06-04 富士通株式会社 監視装置、監視方法および監視プログラム
WO2021241360A1 (ja) * 2020-05-29 2021-12-02 ソニーセミコンダクタソリューションズ株式会社 検出装置、検出システム及び検出方法

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018086133A1 (en) * 2016-11-14 2018-05-17 SZ DJI Technology Co., Ltd. Methods and systems for selective sensor fusion
EP3659872B1 (en) * 2017-07-24 2023-05-03 Fujitsu Limited Vehicle parking assistance device, vehicle parking assistance program
JP7150508B2 (ja) * 2018-07-24 2022-10-11 株式会社東芝 鉄道車両用撮像システム
CN111422190B (zh) * 2020-04-03 2021-08-31 北京四维智联科技有限公司 一种后装车机的前向碰撞预警方法及系统
US11468688B2 (en) * 2020-07-31 2022-10-11 Toyota Motor Engineering & Manufacturing North America, Inc. Vehicle sensor data sharing
US20220191385A1 (en) * 2020-12-16 2022-06-16 Irobot Corporation Dynamic camera adjustments in a robotic vacuum cleaner

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000331148A (ja) * 1999-05-19 2000-11-30 Nissan Motor Co Ltd 障害物検出装置
JP2006322795A (ja) * 2005-05-18 2006-11-30 Olympus Corp 画像処理装置、画像処理方法および画像処理プログラム
JP2009110173A (ja) * 2007-10-29 2009-05-21 Fuji Heavy Ind Ltd 物体検出装置
JP2011191905A (ja) * 2010-03-12 2011-09-29 Hitachi Automotive Systems Ltd ステレオカメラ装置
WO2015163078A1 (ja) * 2014-04-24 2015-10-29 日立オートモティブシステムズ株式会社 外界認識装置
WO2016063545A1 (ja) * 2014-10-24 2016-04-28 京セラ株式会社 ステレオカメラ装置及びステレオカメラ装置を備える車両

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1901225A1 (en) 2005-05-10 2008-03-19 Olympus Corporation Image processing device, image processing method, and image processing program
JP2013058829A (ja) 2011-09-07 2013-03-28 Honda Motor Co Ltd 車両周辺監視装置
JP5690688B2 (ja) 2011-09-15 2015-03-25 クラリオン株式会社 外界認識方法,装置,および車両システム
JP5587930B2 (ja) * 2012-03-09 2014-09-10 日立オートモティブシステムズ株式会社 距離算出装置及び距離算出方法
JP6606369B2 (ja) * 2015-07-21 2019-11-13 株式会社Soken 物体検出装置及び物体検出方法
CN108139475A (zh) * 2015-09-30 2018-06-08 索尼公司 信号处理设备、信号处理方法和程序
JP6597795B2 (ja) * 2015-12-14 2019-10-30 株式会社リコー 画像処理装置、物体認識装置、機器制御システム、画像処理方法およびプログラム
JP6587000B2 (ja) * 2016-01-28 2019-10-09 株式会社リコー 画像処理装置、撮像装置、移動体機器制御システム、画像処理方法、及びプログラム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000331148A (ja) * 1999-05-19 2000-11-30 Nissan Motor Co Ltd 障害物検出装置
JP2006322795A (ja) * 2005-05-18 2006-11-30 Olympus Corp 画像処理装置、画像処理方法および画像処理プログラム
JP2009110173A (ja) * 2007-10-29 2009-05-21 Fuji Heavy Ind Ltd 物体検出装置
JP2011191905A (ja) * 2010-03-12 2011-09-29 Hitachi Automotive Systems Ltd ステレオカメラ装置
WO2015163078A1 (ja) * 2014-04-24 2015-10-29 日立オートモティブシステムズ株式会社 外界認識装置
WO2016063545A1 (ja) * 2014-10-24 2016-04-28 京セラ株式会社 ステレオカメラ装置及びステレオカメラ装置を備える車両

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020022021A1 (ja) * 2018-07-27 2020-01-30 日立オートモティブシステムズ株式会社 距離算出装置
JP2020088658A (ja) * 2018-11-27 2020-06-04 富士通株式会社 監視装置、監視方法および監視プログラム
JP7157330B2 (ja) 2018-11-27 2022-10-20 富士通株式会社 監視装置、監視方法および監視プログラム
WO2021241360A1 (ja) * 2020-05-29 2021-12-02 ソニーセミコンダクタソリューションズ株式会社 検出装置、検出システム及び検出方法

Also Published As

Publication number Publication date
EP3413015B1 (en) 2020-10-07
US11650052B2 (en) 2023-05-16
CN108496056B (zh) 2020-09-15
WO2017134982A1 (ja) 2017-08-10
US20200284580A1 (en) 2020-09-10
EP3413015A1 (en) 2018-12-12
CN108496056A (zh) 2018-09-04
EP3413015A4 (en) 2019-09-04
JP6660751B2 (ja) 2020-03-11

Similar Documents

Publication Publication Date Title
WO2017134982A1 (ja) 撮像装置
CN109196304B (zh) 物体距离检测装置
JP6316976B2 (ja) 車載画像認識装置
CN107273788B (zh) 在车辆中执行车道检测的成像系统与车辆成像系统
EP1883242B1 (en) Image processor for vehicles
US10247551B2 (en) Vehicle image processing device for environment recognition
JP6065629B2 (ja) 物体検知装置
JP7278846B2 (ja) 物体位置検出装置、走行制御システム、および走行制御方法
JP6891082B2 (ja) 物体距離検出装置
JP6899673B2 (ja) 物体距離検出装置
JP4797441B2 (ja) 車両用画像処理装置
JP2013161187A (ja) 物体認識装置
WO2020039837A1 (ja) 画像処理装置
CN114521180A (zh) 物体检测装置、行驶控制系统以及行驶控制方法
JP5017921B2 (ja) 車両用画像処理装置
JP2012120088A (ja) 画像認識装置
CN111133439A (zh) 全景监视系统
WO2018073243A1 (en) Vision system and method for a motor vehicle
JP2013161188A (ja) 物体認識装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160205

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20170120

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20170126

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190110

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190111

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191105

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191217

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200114

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200210

R150 Certificate of patent or registration of utility model

Ref document number: 6660751

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250