JP6277904B2 - 制御情報検出装置および制御情報検出方法 - Google Patents

制御情報検出装置および制御情報検出方法 Download PDF

Info

Publication number
JP6277904B2
JP6277904B2 JP2014154628A JP2014154628A JP6277904B2 JP 6277904 B2 JP6277904 B2 JP 6277904B2 JP 2014154628 A JP2014154628 A JP 2014154628A JP 2014154628 A JP2014154628 A JP 2014154628A JP 6277904 B2 JP6277904 B2 JP 6277904B2
Authority
JP
Japan
Prior art keywords
vehicle
control information
camera
image
vehicle camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014154628A
Other languages
English (en)
Other versions
JP2016031701A (ja
JP2016031701A5 (ja
Inventor
謙二 岡野
謙二 岡野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2014154628A priority Critical patent/JP6277904B2/ja
Priority to PCT/JP2015/003739 priority patent/WO2016017136A1/ja
Publication of JP2016031701A publication Critical patent/JP2016031701A/ja
Publication of JP2016031701A5 publication Critical patent/JP2016031701A5/ja
Application granted granted Critical
Publication of JP6277904B2 publication Critical patent/JP6277904B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/245Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures using a plurality of fixed, simultaneously operating transducers
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • G01C3/02Details
    • G01C3/06Use of electric means to obtain final indication
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes

Description

本発明は、複数の車載カメラを備える車両に適用されて、複数の車載カメラから取得した撮影画像を解析して、車両の走行を制御するための制御情報を検出する技術に関する。
近年では、車両が車線を維持できるように支援したり、車線からの逸脱を警告したりといった様々な運転支援のための技術開発が進められている。そのような運転支援を行うには車線の位置を把握する必要があり、その方法の一つとして、車載カメラを用いて撮影した画像を解析することによって車線の位置を検出する方法が知られている。
また、複数の車載カメラを搭載し、複数の車載カメラで重複して撮影した画像を解析してやれば、1つの車載カメラで撮影した画像を解析する場合よりも多くの情報を得ることが可能となる。例えば、車両の進行方向に対して左右に車載カメラを搭載して、前方を撮影した画像を解析すれば、左右の車載カメラの視差に基づいて、画像に写った対象物までの距離の情報を得ることができる(特許文献1)。
特開2001−041741号公報
しかし、複数の車載カメラで撮影した複数の画像から何らかの情報を引き出すためには、それら複数の車載カメラが同じタイミングで画像を撮影するように、撮影タイミングを同期させておかなければならないという問題があった。これは、車両は高速で走行し得るので、車載カメラが画像を撮影するタイミングがずれていると、その間に車両が長い距離を移動することとなって、大きな誤差要因となってしまうためである。
この発明は、従来の技術が有する上述した課題に対応してなされたものであり、複数の車載カメラを同期させなくても、それら車載カメラの画像から情報を引き出すことが可能な技術の提供を目的とする。
上述した課題を解決するために本発明の制御情報検出装置および制御情報検出方法は、複数の車載カメラからフィールド画像の単位で出力される撮影画像を、車載カメラ毎に記憶しておき、複数の車載カメラから取得された直近のフィールド画像を解析して、車両の走行を制御するための制御情報を検出する。ここで、解析のために複数の車載カメラのフィールド画像を取得するに際しては、次のようにして決定されたタイミングで、車載カメラ毎のフィールド画像を取得する。先ず、複数の車載カメラが撮影画像を撮影する撮影順序と、車載カメラが撮影してから次の車載カメラが撮影するまでの時間間隔とを取得する。次に、複数の車載カメラの各々について、車載カメラが撮影してから他の全ての車載カメラが撮影するまでに要する所要時間を算出することによって、所要時間が最短となる最短撮影順序を決定する。そして、車載カメラの直近のフィールド画像を解析するに際しては、最短撮影順序となるタイミングで車載カメラ毎のフィールド画像を取得して、フィールド画像を解析する。
車載カメラからはインターレース方式でフィールド画像が出力されるので、フィールド画像によって撮影画像を完成させるためには、車載カメラが複数の撮影画像を撮影する必要が生じ、その間に車両が長い距離を移動する事態も発生し得る。これに対して、本発明の制御情報検出装置および制御情報検出方法では、各車載カメラからは直近のフィールド画像を取得すればよいので、車載カメラが複数の撮影画像を撮影する必要はない。このため、複数の車載カメラが撮影画像を撮影する間に、車両が長い距離を移動する事態を回避することができる。その結果、たとえ複数の車載カメラの撮影タイミングが同期していない場合でも、複数の車載カメラの撮影画像から情報を引き出すことが可能となる。加えて、車載カメラの撮影順序と、次の車載カメラが撮影するまでの時間間隔の情報とに基づいて、全ての車載カメラが撮影するために要する所要時間が最短撮影時間となるタイミングで、車載カメラ毎のフィールド画像を読み出すので、複数の車載カメラの撮影タイミングが同期していない場合でも、その影響を抑制することが可能となる。
第1実施例による制御情報検出装置10の大まかな内部構成を示したブロック図である。 フィールド画像20を例示した説明図である。 制御情報検出装置10が実行する制御情報検出処理のフローチャートである。 従来の左前方カメラおよび右前方カメラの動作と、制御情報検出装置の動作との関係を例示した説明図である。 本実施例の左前方車載カメラ11および右前方車載カメラ12の動作と、制御情報検出装置10の動作との関係を例示した説明図である。 従来の場合と本実施例の場合における読出し対象となる二つのフィールド画像20間の撮影時刻のずれの大きさの違いを示した説明図である。 第2実施例による制御情報検出装置210の大まかな内部構成を示したブロック図である。 制御情報検出装置210が実行する制御情報検出処理のフローチャートである。 車線境界推定箇所241の照合の様子を示す説明図である。 車線境界推定箇所241の照合の様子を示す別の説明図である。 第2実施例の変形例による制御情報検出装置310が実行する最短撮影順序決定処理のフローチャートである。 制御情報検出装置310によるフィールド画像220の読出しが最短撮影順序に該当する場合と該当しない場合の所要時間の違いを示した説明図である。
以下では、上述した本願発明の内容を明確にするために制御情報検出装置の実施例について説明する。
A.第1実施例 :
A−1.第1実施例の装置構成 :
図1には、制御情報検出装置10を搭載した車両1の大まかな内部構成が示されている。車両1は、図1に示す通り、制御情報検出装置10と、左前方車載カメラ11と、右前方車載カメラ12と、車両制御部17とを備えている。本実施例の制御情報検出装置10は、左前方車載カメラ11および右前方車載カメラ12が撮影した画像から車両1の走行を制御するための制御情報を検出するための装置である。
左前方車載カメラ11および右前方車載カメラ12は、互いに重複した撮影領域を有し、車両1の前方を所定の周期で撮影するビデオカメラである。そして、左前方車載カメラ11および右前方車載カメラ12は、映像を構成する単位である1フレーム分の静止画像を、走査線毎に飛び越して走査するインターレース方式により、複数本の走査線が間引かれた状態のフィールド画像20に分割して制御情報検出装置10に出力する。フィールド画像20には、以下に説明する奇数フィールド画像21と偶数フィールド画像22とがあり、これらが交互に繰り返して出力される。尚、左前方車載カメラ11および右前方車載カメラ12が本発明の「車載カメラ」に対応する。
図2には、フィールド画像20の具体例が示されている。図2(a)に示す本実施例のフィールド画像20には、偶数列の走査線を間引いて奇数列の走査線を出力する奇数フィールド画像21と、奇数列の走査線を間引いて偶数列の走査線を出力する偶数フィールド画像22とがある。これらを合成すれば、1フレーム分の静止画像であるフレーム画像23となる。
フィールド画像20の態様は、図2(a)に示される場合に限られず、図2(b)に示されるような、3n+1列目フィールド画像24と、3n+2列目フィールド画像25と、3n+3列目フィールド画像26(n=0,1,2,3……)といった三つ以上に分割したフィールド画像20を読み出すこととしてもよい。
制御情報検出装置10は、図1に示す通り、左前方車載カメラ11が撮影した画像を記憶する左撮影画像記憶部31と、右前方車載カメラ12が撮影した画像を記憶する右撮影画像記憶部32と、撮影画像を解析して車両1を制御するための制御情報を取得する制御情報取得部38と、制御情報を車両制御部17に出力する制御情報出力部39とを備える。
尚、左撮影画像記憶部31、右撮影画像記憶部32、制御情報取得部38および制御情報出力部39は、制御情報検出装置10の内部が物理的に区分されることを表すのではなく、制御情報検出装置10が果たす機能を分類した概念である。従って、これらの「部」は、CPUで実行されるコンピュータプログラムとして実現することもできるし、LSIやメモリーを含む電子回路として実現することもできるし、これらを組み合わせることによって実現することもできる。
左撮影画像記憶部31は、左前方車載カメラ11の撮影周期に同期して取得した撮影画像であるフィールド画像20を記憶する。上述した通り、左前方車載カメラ11は、奇数フィールド画像21と偶数フィールド画像22とを交互に出力するため、左撮影画像記憶部31も奇数フィールド画像21と偶数フィールド画像22とを交互に記憶することとなる。右撮影画像記憶部32も同様に、右前方車載カメラ12の撮影周期に同期して取得したフィールド画像20を記憶する。
このようにフィールド画像20を記憶した左撮影画像記憶部31および右撮影画像記憶部32は、記憶した複数のフィールド画像20のうち直近のフィールド画像20を読み出し可能な状態で保持する。こうすれば、制御情報取得部38が左撮影画像記憶部31および右撮影画像記憶部32から直近のフィールド画像20を取得できる。このように、左撮影画像記憶部31および右撮影画像記憶部32は、左前方車載カメラ11および右前方車載カメラ12からの出力周期と、制御情報取得部38の処理周期との間に生ずるタイムラグを吸収するためのバッファーメモリーである。
尚、左撮影画像記憶部31、右撮影画像記憶部32が本発明の「撮影画像記憶部」に対応する。
制御情報取得部38は、左撮影画像記憶部31に記憶されたフィールド画像20と、右撮影画像記憶部32に記憶されたフィールド画像20とを解析して車両1を制御するための情報を検出する。解析の観測対象としては、例えば、歩行者、路上障害物、車線、交通標識等が挙げられるが、これらに限られず、車両1の周囲の状況を把握することが可能なあらゆる事物を観測対象とすることができる。
尚、この解析については、一部の走査線が間引かれた状態のフィールド画像20をそのまま解析してもよいし、取得した奇数フィールド画像21または偶数フィールド画像22の画像情報によって奇数列または偶数列いずれかが間引かれた走査線を補間してから解析してもよい。また、解析の対象とするフィールド画像20が奇数フィールド画像21であるか偶数フィールド画像22であるかを同期信号によって判定することにより、奇数列と偶数列とを取り違えることによって生じる誤差を防止するとよい。
制御情報出力部39は、制御情報取得部38によって取得した車両1を制御するための情報を車両制御部17に出力する。
車両制御部17は、制御情報検出装置10が備える制御情報出力部39から出力される制御情報に従って車両1を制御する。ここでいう車両1の制御とは、例えば、車両1を加減速したり、操舵角を変更したりといった運転支援の他、運転者に対して注意や警告を発したりといったことが挙げられ、車両に関する種々の制御が広く含まれる。
A−2.制御情報検出装置10の制御情報処理 :
ここで、左前方車載カメラ11および右前方車載カメラ12からフィールド画像20を取得し、車両1を制御するための情報を車両制御部17に出力するまでに、制御情報検出装置10の内部で行われる処理について説明する。
図3には、本実施例の制御情報検出装置10が実行する制御情報検出処理のフローチャートが示されている。この制御情報検出処理は、左前方車載カメラ11および右前方車載カメラ12の撮影周期に同期させて実行される処理である。
この制御情報検出処理を開始すると、先ず始めに、左前方車載カメラ11および右前方車載カメラ12からそれぞれ出力されたフィールド画像20を記憶する(S101)。撮影は連続的に行われるため、記憶されたフィールド画像20が溜まっていくこととなるが、左前方車載カメラ11および右前方車載カメラ12毎に新しく記憶されたフィールド画像20を解析可能な状態としておく。尚、古いフィールド画像20については随時消去してもよいし、保存しておいてもよい。
次に、その記憶した左前方車載カメラ11から出力されたフィールド画像20と、右前方車載カメラ12から出力されたフィールド画像20とを解析して、車両1の制御のための制御情報を取得する(S102)。このように解析対象となるのは、フレーム単位ではなく、奇数フィールド画像21または偶数フィールド画像22いずれかのフィールド単位である。
続いて、取得した制御情報を車両制御部17に出力して(S103)、制御情報検出処理は終了する。車両制御部17は、このようにして取得した制御情報を用いて車両1の制御を行うことができる。
以下、左前方カメラおよび右前方カメラの動作と、制御情報検出装置10の動作との関係について、従来の場合と比較しつつ説明する。
図4には、下方に向かって流れる時間軸をとって、左前方カメラおよび右前方カメラが奇数フィールド画像および偶数フィールド画像を撮影するタイミングと、制御情報検出装置が制御情報を検出するタイミングとが示されている。図示する通り、左前方カメラおよび右前方カメラのそれぞれは奇数フィールド画像または偶数フィールド画像を交互に同じ周期で撮影を繰り返し、制御情報検出装置はカメラの撮影周期と同期して制御情報の検出を繰り返す。そして、この従来の制御情報検出装置は、一度の制御情報検出のために、左前方カメラから奇数フィールド画像および偶数フィールド画像の両方を読み出し、右前方カメラからも奇数フィールド画像および偶数フィールド画像の両方を読み出している。
図5には、本実施例の場合の、左前方車載カメラ11および右前方車載カメラ12の動作と、制御情報検出装置10の動作との関係が示されている。上記の従来の例に対して、本実施例の制御情報検出装置10は、左前方車載カメラ11および右前方車載カメラ12のそれぞれから、偶数フィールド画像22のみを読み出して、走査線が間引かれた状態のままで制御情報を検出している。この際、左前方車載カメラ11および右前方車載カメラ12のそれぞれから出力される奇数フィールド画像21については、制御情報の検出に使用していない。制御情報検出装置10は、その次に制御情報を検出する際にも偶数フィールド画像22のみを読み出す。本実施例の制御情報検出装置10はこのような処理を所定周期で繰り返す。
もっとも、上記の例に限られず、図5の下部に破線で囲った制御情報検出のように、左前方車載カメラ11および右前方車載カメラ12から奇数フィールド画像21のみを読み出してもよい。また、図示は省略するが、撮影周期のずれ方によっては、一方の車載カメラからは奇数フィールド画像21を、他方の車載カメラからは偶数フィールド画像22をそれぞれ読み出すこととしてもよい。
このように、制御情報検出装置10は、左前方車載カメラ11および右前方車載カメラ12のそれぞれにおいて最も新しく撮影されたフィールド画像20を、奇数フィールド画像21であるか偶数フィールド画像22であるかを問わずに読み出す。
図6には、上記の左前方車載カメラ11および右前方車載カメラ12の動作と、制御情報検出装置10の動作との関係にあって、従来の場合と本実施例の場合における撮影時刻のずれの大きさの違いが示されている。
図6(a)に示される従来の場合では、最も先に撮影された右前方カメラの奇数フィールド画像の撮影時刻と、最も後に撮影された左前方カメラの偶数フィールド画像の撮影時刻は大きく異なる(図6(a)右端矢印)。この撮影時刻のずれによって、左前方カメラの偶数フィールド画像は、右前方カメラの奇数フィールド画像を撮影してから、車両が走行した分、異なる位置から撮影されたものとなってしまう。このため従来は、車両の走行速度が十分に小さな場合を撮影の対象とするか、あるいは、この撮影時刻のずれの問題を解消するために、2つの車載カメラの撮影周期を同期させることとしていた。
図6(b)に示される本実施例の場合では、右前方車載カメラ12が撮影してから、左前方車載カメラ11が撮影するまでの時間が撮影時刻のずれは、従来に比べて小さくなっている(図6(b)右端矢印)。
このように本実施例の制御情報検出装置10では、フィールド画像20の単位を解析対象とし、撮影時刻のずれが小さくなるため、左前方車載カメラ11と右前方車載カメラ12との撮影位置の差を小さくすることができる。これによって、本実施例の制御情報検出装置10は、車両1の走行速度が大きくなっても、左前方車載カメラ11および右前方車載カメラ12の撮影周期を同期させることなく、左前方車載カメラ11および右前方車載カメラ12による撮影画像を解析して情報を取得することが可能となる。
ここで、左前方車載カメラ11および右前方車載カメラ12の撮影周期と、制御情報検出装置10が実行する制御情報検出処理の周期との関係について説明する。制御情報検出処理の周期は、左前方車載カメラ11および右前方車載カメラ12の撮影周期に同期していることは上述した通りである。例えば、左前方車載カメラ11および右前方車載カメラ12がそれぞれ、約33msecごとに奇数フィールド画像21および偶数フィールド画像22を一つずつ出力する場合に、制御情報検出処理は、これと同様に約33msecごとに実行できる。従来の場合であっても(図4参照)、これと同様の周期で処理することができるが、一度の制御情報検出処理で奇数フィールド画像21および偶数フィールド画像22の両方を使用して処理するため、この撮影周期に対して制御情報検出処理の周期をこれ以上短くすることはできない。
これに対して本実施例によると、同じ撮影周期に対して、約16.6msecごとに制御情報検出処理を実行することもできる。この点について以下に説明する。左前方車載カメラ11および右前方車載カメラ12がそれぞれ、約33msecごとに奇数フィールド画像21および偶数フィールド画像22を一つずつ出力するということは、その半分の約16.6msecごとに奇数フィールド画像21または偶数フィールド画像22のいずれかが交互に出力されるということである。そうすると、本実施例では、奇数フィールド画像21および偶数フィールド画像22のうち、いずれか一方を使用できればよいので、約16.6msecごとに制御情報検出処理を実行すれば、左前方車載カメラ11および右前方車載カメラ12の両方から常に更新された直近のフィールド画像20を読み出して解析処理することができることとなる。
B−1.第2実施例の装置構成 :
本実施例では、観測対象が特に車線境界240である場合について説明する。本実施例の制御情報検出装置210でも第1実施例と同様に、奇数フィールド画像221または偶数フィールド画像222を読出して、フィールド画像220の単位で処理する。
図7には、制御情報検出装置210を搭載した車両201の大まかな内部構成が示されている。第1実施例では車両1の前方に左前方車載カメラ11および右前方車載カメラ12の2つの車載カメラが設けられていたが、本実施例では、前方車載カメラ213、左方車載カメラ214、右方車載カメラ215、後方車載カメラ216の4つの車載カメラを設けられている。また、これらに対応して前方撮影画像記憶部233、左方撮影画像記憶部234、右方撮影画像記憶部235、後方撮影画像記憶部236が設けられている。その他の構成は、第1実施例と同様に車両制御部217、制御情報処理部233、制御情報出力部239を備える。
尚、左方車載カメラ214および右方車載カメラ215が本発明の「側方車載カメラ」に対応する。また、前方撮影画像記憶部233、左方撮影画像記憶部234、右方撮影画像記憶部235および後方撮影画像記憶部236が本発明の「撮影画像記憶部」に対応する。
本実施例で対象とする車線境界240とは、車両201と車線との位置関係を把握することが可能な程度に車線の延長方向とほぼ平行に存在する事物である。典型的には、車道中央線や車道外側線等の道路に描かれた白線等が挙げられるが、その他、車線に沿って埋め込まれた道路鋲、車道および歩道等を区分けする境界ブロック、防護柵や防護壁等も車線境界240として検出することができる。
一般に、このような車線境界240を撮影画像から検出する場合は、撮影画像の輝度の分布から撮影された事物のエッジを抽出し、その種々のエッジの中から観測対象である車線境界240を検出することとなる。しかし、道路上には車両の影やアスファルト舗装の境目など、車線境界240と紛らわしい事物が存在するため、これらと車線境界240とを区別して検出することは容易なことではない。
本実施例の制御情報検出装置210は、この車線境界240をより確実に検出するための装置である。以下では、こうしたことを実現するために制御情報検出装置210の内部で行われる処理について詳しく説明する。
B−2.制御情報検出装置210の制御情報検出処理 :
図8には、本実施例の制御情報検出装置210が実行する制御情報検出処理のフローチャートが示されている。この制御情報検出処理も、第1実施例と同様に、前方車載カメラ213、左方車載カメラ214、右方車載カメラ215、後方車載カメラ216の4つの車載カメラの撮影周期に同期させて実行される処理である。
先ず始めに、4つの車載カメラそれぞれから出力されたフィールド画像220を読み出す(S201)。読み出すフィールド画像220は第1実施例と同様に、奇数フィールド画像221であるか偶数フィールド画像222であるかを問わず、いずれかを読み出せばよい。
次に、読み出した4つのフィールド画像220からそれぞれ車線境界推定箇所241を検出する(S202)。車線境界推定箇所241とは、フィールド画像220から車線境界240と判断できるエッジを検出した場合に、車線境界240と推定されるとして検出したものである。
続いて、車線境界推定箇所241を複数のフィールド画像220から検出したか否かを判断する(S203)。車線境界推定箇所241を複数のフィールド画像220から検出しなかった場合には(S203:no)、この制御情報検出処理を終了する。車線境界推定箇所241を複数のフィールド画像220から検出した場合には(S203:yes)、検出した複数の車線境界推定箇所241を互いに照合し(S204)、これらが一致するか否かを判断する(S205)。
図9には、車線境界推定箇所241の照合の様子が示されている。同図では、前方車載カメラ213、左方車載カメラ214、右方車載カメラ215および後方車載カメラ216がそれぞれ撮影したフィールド画像220である前方撮影画像253、左方撮影画像254、右方撮影画像255および後方撮影画像256を、車両201の上方から俯瞰したように変換して配置されている。尚、この俯瞰画像の図示は、説明の便宜のためにすぎず、必ずしもこのように俯瞰画像に変換することを要するものではない。
図9では、前方撮影画像253で車線境界推定箇所241aを検出し、左方撮影画像254で車線境界推定箇所241bを検出し、後方撮影画像256で車線境界推定箇所241cを検出している。これら車線境界推定箇所241a,241b,241cが撮影された時刻は互いに異なるため、車両201が走行した分だけ、これらの位置関係がずれて撮影されている。ここで、左方撮影画像254で検出した車線境界推定箇所241bを前方撮影画像253の領域まで延長して車線境界推定箇所241b´(図9の斜線部)とすると、この車線境界推定箇所241b´と、前方撮影画像253から検出した車線境界推定箇所241aとの位置関係を照合することができる。
車線境界推定箇所241b´と車線境界推定箇所241aとが互いに一致するか否かについては、両者の近似の程度によって判断することとなる。その近似の程度については任意の閾値を設けて判断すればよいが、車線境界推定箇所241b´と車線境界推定箇所241aとが重なり合って検出された場合や、図9のように接触して検出された場合であれば、これらが互いに一致するため、同じ一つの車線境界240を検出したと判断することに特に問題は生じないと考えられる。
一方、図10のように車線境界推定箇所241b´と車線境界推定箇所241aとが少し離れた場所で検出された場合には、これらが同じ一つの車線境界240を検出したのか、車両の影等の車線境界240と似た事物と混同して検出したのか判断することが難しくなる。
この点、本実施例の制御情報検出装置210では、第1実施例と同様に、フィールド画像220の単位で処理することによって、撮影周期のずれの影響を少なくすることができるため、図10に示すような車線境界推定箇所241a,241b,241cの位置ずれ量を小さくすることができる。これによって、車両の影やアスファルト舗装の境目等の車線境界240と紛らわしい事物と混同して検出してしまうことを回避し、車線境界240をより確実に検出することができる。
また、フレーム単位で処理する場合には、異なった撮影時刻による奇数列の走査線と偶数列の走査線とが交互に存在するため、車両の移動に伴って車線境界240が二重に映ってしまうためエッジを検出しにくくなる。これに対して、本実施例のように解析対象をフィールド画像220の単位とすれば、このような二重映りによってエッジを検出しにくくなるといったことをなくすことができる。
以上のようにして、検出した複数の車線境界推定箇所241を互いに照合し(S204)、これらが一致するか否かを判断することができる(S205)。
そして、左方撮影画像254からの検出による車線境界推定箇所241b´と前方撮影画像253から検出した車線境界推定箇所241aとが互いに一致しないと判断した場合(S205:no)、この制御情報検出処理を終了する。
一方、車線境界推定箇所241b´と車線境界推定箇所241aとが互いに一致すると判断した場合(S205:yes)、検出した車線境界240の位置を出力し(S206)、この制御情報検出処理を終了する。
以上に説明した通り、本実施例の制御情報検出装置210は、車両201を制御するための制御情報としてより確実に検出され信頼度の高い車線境界240の位置を出力する。ここにおいて、出力する車線境界240の位置は、車両201の側方に設けられた左方車載カメラ214または右方車載カメラ215から撮影した画像(左方撮影画像254または右方撮影画像255)から検出するとよい。こうすることで、検出対象である車線境界240をより近い位置から撮影することができ、検出によって生じる、車両201に対する車線境界240の位置の誤差を少なくすることができる。また、路面の傾斜や車両201の重量バランスが変化すると、車両201が傾いて車載カメラと車線境界240との位置関係に影響を及ぼすが、車両201の側方に設けられた左方車載カメラ214および右方車載カメラ215が受ける影響は、前方車載カメラ213または後方車載カメラ216が受ける影響よりも比較的小さく済む。
もちろん、前方車載カメラ213または後方車載カメラ216から撮影した画像(前方撮影画像253または後方撮影画像256)から検出した車線境界240の位置を出力することもできる。いずれにしても、車両201の側方の撮影領域および前方(または後方)の撮影領域という互いに異なる広い撮影領域から車線境界240を検出するため、いずれかの車載カメラ単独で検出する場合と比べて、より長い距離の車線境界240を確認できるため、車線境界240でないものを検出してしまうといった誤検出の可能性を減らすことができる。
C.第2実施例の変形例 :
以上のように第2実施例では、前方車載カメラ213、左方車載カメラ214、右方車載カメラ215および後方車載カメラ216の撮影周期のずれの影響を少なくすることができたが、本変形例では、さらにその撮影周期のずれの影響を少なくする処理について説明する。
本変形例の制御情報検出装置310は、第2実施例の制御情報検出装置210に対して更に、撮影順序取得部361と、所要時間算出部362と、最短撮影順序決定部363とが追加されている。以下、これらによって実行される最短撮影順序決定処理について、各部の機能に言及しつつ説明する。
図11には、本変形例の制御情報検出装置310が実行する最短撮影順序決定処理のフローチャートが示されている。この最短撮影順序決定処理は、第2実施例で説明した制御情報検出処理に先立って実行される。
最短撮影順序決定処理を開始すると先ず始めに、撮影順序取得部361によって、4つの車載カメラの撮影順序と、車載カメラ間の時間間隔とを取得する(S251)。ここで、4つの車載カメラの撮影順序とは、前方車載カメラ213、左方車載カメラ214、右方車載カメラ215および後方車載カメラ216が、どのような順序で画像を撮影するかを表している。すなわち、これら4つの車載カメラ(前方車載カメラ213、左方車載カメラ214、右方車載カメラ215、後方車載カメラ216)は同じ撮影周期で撮影するが、撮影を開始するタイミングはずれている。従って、前方車載カメラ213、左方車載カメラ214、右方車載カメラ215および後方車載カメラ216は、撮影開始のタイミングによって決まる一定の順序で画像を撮影することになる。
車載カメラの撮影順序とは、このようにして決まる順序を指している。例えば、撮影を開始する順序が、前方車載カメラ213、左方車載カメラ214、右方車載カメラ215、後方車載カメラ216であったとすると、撮影順序は、前方車載カメラ213、左方車載カメラ214、右方車載カメラ215、後方車載カメラ216となる。
尚、撮影順序は循環する(順序の先頭が前方車載カメラ213の場合は、最後も前方車載カメラ213となる)ので、例えば、撮影順序が前方車載カメラ213、左方車載カメラ214、右方車載カメラ215、後方車載カメラ216、前方車載カメラ213である場合と、撮影順序が左方車載カメラ214、右方車載カメラ215、後方車載カメラ216、前方車載カメラ213、左方車載カメラ214とは同じ撮影順序として扱う。
また、4つの車載カメラ間での時間間隔とは、4つの車載カメラがある撮影順序で撮影する時に隣り合う順序の車載カメラ間での撮影の時間間隔を指す。従って、上記の撮影順序が前方車載カメラ213、左方車載カメラ214、右方車載カメラ215、後方車載カメラ216、前方車載カメラ213である場合にあっては、以下の時間間隔を取得することとなる。すなわち、前方車載カメラ213および左方車載カメラ214m、左方車載カメラ214および右方車載カメラ215、右方車載カメラ215および後方車載カメラ216、後方車載カメラ216および前方車載カメラ213の4つの時間間隔である。
次に、所要時間算出部362が、4つの車載カメラから1つの車載カメラを選択し(S252)、選択した車載カメラが撮影してから他の全ての車載カメラが撮影するまでに要する所要時間を算出する(S253)。この所要時間は、上記の処理(S251)によって取得した4つの車載カメラ間の時間間隔を用いれば容易に算出することができる。
そして、全ての車載カメラについて所要時間を算出したか否かを判断し(S254)、未だの場合は(S254:no)、1つの車載カメラを選択する処理に戻って繰り返す。このように、所要時間を算出する処理は、全ての車載カメラのそれぞれについて実行される。従って、本変形例のように4つの車載カメラを用いている場合は、4通りの所要時間が算出されることとなる。
全ての車載カメラについて所要時間を算出したら(S254:yes)、最短撮影順序決定部363が、所要時間が最短となる最短撮影順序を決定する(S255)。この最短撮影順序を決定する処理は、上記の処理によって算出された4通りの所要時間の中から最短の場合を選ぶことにより実行される。
こうして、最短撮影順序を決定すると(S255)、この最短撮影順序決定処理は終了する。そして、第2実施例と同様に制御情報検出処理が実行されるが、その際、制御情報取得部238による4つのフィールド画像220の読出し(S201)については(図8参照)、上記で決定された最短撮影順序に従うこととなる。つまり、制御情報取得部238は、車載カメラ毎に読み出された直近のフィールド画像220が取得された順番が、最短撮影順序となるタイミングで、車載カメラ毎のフィールド画像220を読み出すこととなる。
図12には、最短撮影順序に該当する場合と該当しない場合の所要時間の違いが示されている。同図の制御情報検出装置310が行う制御情報検出のうち、上側の検出タイミングCが最短撮影順序に該当しない場合の例示である。このときの所要時間は、前方車載カメラ213が撮影してから後方車載カメラ216が撮影するまでに要する時間であって、ε1である。この場合であっても、第2実施例の制御情報検出処理には該当しているため、従来と比べれば、4つの車載カメラ間の撮影周期のずれの影響は少なくなっている。
これに対して、同図の下側の検出タイミングDが最短撮影順序に従う場合の例示である。このときの所要時間は、左方車載カメラ214が撮影してから前方車載カメラ213が撮影するまでに要する時間であって、ε2である。上記のε1とこのε2とを見比べれば、第2実施例によって少なくなった撮影周期のずれの影響が、本変形例の最短撮影順序決定処理を実行することによって、さらに少なくなることがわかる。
以上、各種の実施例について説明したが、本発明は上記の実施例に限られるものではなく、その要旨を逸脱しない範囲において種々の態様で実施をすることができる。
1…車両、 10…制御情報検出装置、
11…左前方車載カメラ、 12…右前方車載カメラ、 17…車両制御部、 20…フィールド画像、 21…奇数フィールド画像、
22…偶数フィールド画像、 31…左撮影画像記憶部、
32…右撮影画像記憶部、 38…制御情報取得部、 39…制御情報出力部。

Claims (3)

  1. 所定の撮影周期で撮影した撮影画像をインターレース方式で複数のフィールド画像(20)に分けた後に出力する車載カメラ(11,12)を、複数備える車両(1)に搭載されて、該複数の車載カメラから取得した前記撮影画像を解析することにより、該車両の走行を制御するための制御情報を検出する制御情報検出装置であって、
    前記複数の車載カメラの各々について、該車載カメラが前記撮影画像を撮影する度に前記フィールド画像の単位で出力する該撮影画像を取得して、前記フィールド画像の単位で読み出し可能な状態で前記複数の車載カメラ毎に記憶する撮影画像記憶部(31,32)と、
    前記複数の車載カメラが前記撮影画像を撮影する撮影順序と、前記車載カメラが撮影してから次の前記車載カメラが撮影するまでの時間間隔とを取得する撮影順序取得部(361)と、
    前記複数の車載カメラの各々について、該車載カメラが撮影してから他の全ての前記車載カメラが撮影するまでに要する所要時間を、前記撮影順序取得部に記憶されている前記車載カメラ間での前記時間間隔に基づいて算出する所要時間算出部(362)と、
    前記所要時間算出部によって算出された前記所要時間が最短となる最短撮影順序を決定する最短撮影順序決定部(363)と、
    前記車載カメラ毎に直近に取得された前記フィールド画像を前記撮影画像記憶部から読み出して、複数の前記フィールド画像を解析することによって、前記制御情報を取得する制御情報取得部(38)と
    を備え、
    前記制御情報取得部は、前記車載カメラ毎の前記直近のフィールド画像が取得された順番が前記最短撮影順序となるタイミングで、該車載カメラ毎の該フィールド画像を読み出す取得部である
    制御情報検出装置。
  2. 請求項1に記載の制御情報検出装置であって、
    前記撮影画像記憶部は、前記車両から前方を撮影する前方車載カメラ(213)による前方撮影画像(253)と、該車両から側方を撮影する側方車載カメラ(214,215)による側方撮影画像(254,255)とを含む前記複数の撮影画像を、前記フィールド画像の単位で読み出し可能な状態で記憶する記憶部であり、
    前記制御情報取得部は、前記前方撮影画像および前記側方撮影画像を含む前記複数のフィールド画像を解析して、前記車両が走行する車線の位置を取得する取得部である
    制御情報検出装置。
  3. 所定の撮影周期で撮影した撮影画像をインターレース方式で複数のフィールド画像に分けた後に出力する車載カメラを、複数備える車両に適用されて、該複数の車載カメラから取得した前記撮影画像を解析することにより、該車両の走行を制御するための制御情報を検出する制御情報検出方法であって、
    前記複数の車載カメラの各々について、該車載カメラが前記撮影画像を撮影する度に前記フィールド画像の単位で出力する該撮影画像を取得して、前記フィールド画像の単位で読み出し可能な状態で前記複数の車載カメラ毎に記憶する撮影画像記憶工程(S101)と、
    前記複数の車載カメラが前記撮影画像を撮影する撮影順序と、前記車載カメラが撮影してから次の前記車載カメラが撮影するまでの時間間隔とを取得する撮影順序取得工程(S251)と、
    前記複数の車載カメラの各々について、該車載カメラが撮影してから他の全ての前記車載カメラが撮影するまでに要する所要時間を、前記車載カメラ間での前記時間間隔に基づいて算出する所要時間算出工程(S253)と、
    前記複数の車載カメラの各々について算出された前記所要時間が最短となる最短撮影順序を決定する最短撮影順序決定工程(S255)と、
    前記車載カメラ毎の前記直近のフィールド画像が取得された順番が前記最短撮影順序となるタイミングで、前記車載カメラ毎に直近に取得された前記フィールド画像を読み出して、複数の前記フィールド画像を解析することによって、前記制御情報を取得する制御情報取得工程(S102)と
    を備える制御情報検出方法。
JP2014154628A 2014-07-30 2014-07-30 制御情報検出装置および制御情報検出方法 Active JP6277904B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2014154628A JP6277904B2 (ja) 2014-07-30 2014-07-30 制御情報検出装置および制御情報検出方法
PCT/JP2015/003739 WO2016017136A1 (ja) 2014-07-30 2015-07-27 制御情報検出装置および制御情報検出方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014154628A JP6277904B2 (ja) 2014-07-30 2014-07-30 制御情報検出装置および制御情報検出方法

Publications (3)

Publication Number Publication Date
JP2016031701A JP2016031701A (ja) 2016-03-07
JP2016031701A5 JP2016031701A5 (ja) 2016-06-02
JP6277904B2 true JP6277904B2 (ja) 2018-02-14

Family

ID=55217054

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014154628A Active JP6277904B2 (ja) 2014-07-30 2014-07-30 制御情報検出装置および制御情報検出方法

Country Status (2)

Country Link
JP (1) JP6277904B2 (ja)
WO (1) WO2016017136A1 (ja)

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3300337B2 (ja) * 2000-04-28 2002-07-08 松下電器産業株式会社 画像処理装置および監視システム
JP2008250904A (ja) * 2007-03-30 2008-10-16 Toyota Motor Corp 車線区分線情報検出装置、走行車線維持装置、車線区分線認識方法
JP2012185304A (ja) * 2011-03-04 2012-09-27 Nikon Corp 画像表示装置および顕微鏡システム

Also Published As

Publication number Publication date
JP2016031701A (ja) 2016-03-07
WO2016017136A1 (ja) 2016-02-04

Similar Documents

Publication Publication Date Title
JP4622001B2 (ja) 道路区画線検出装置および道路区画線検出方法
EP2927054B1 (en) On-vehicle control device
KR102011230B1 (ko) 화상 처리 장치 및 화상 처리 방법
JP6350374B2 (ja) 路面検出装置
US20150367781A1 (en) Lane boundary estimation device and lane boundary estimation method
JP2008045974A (ja) 物体検出装置
JP6642906B2 (ja) 駐車位置検出システム及びそれを用いた自動駐車システム
JP6586849B2 (ja) 情報表示装置及び情報表示方法
WO2014084251A1 (ja) 車載画像処理装置
JP2009053818A (ja) 画像処理装置及びその方法
KR102569437B1 (ko) 3차원 영상정보 기반 객체 추적 장치 및 방법
JP6139465B2 (ja) 物体検出装置、運転支援装置、物体検出方法、および物体検出プログラム
JP2011118509A (ja) 道路認識装置
JP2006309313A (ja) 道路認識装置
JP2008257378A (ja) 物体検出装置
US11468691B2 (en) Traveling lane recognition apparatus and traveling lane recognition method
JP6086424B2 (ja) 車載画像処理装置
KR20200028679A (ko) 차선을 검출하는 방법 및 장치
JP2014106739A (ja) 車載画像処理装置
JP6152261B2 (ja) 車載用駐車枠認識装置
JP6683245B2 (ja) 画像処理装置、画像処理方法、画像処理プログラム、物体認識装置及び機器制御システム
JP2014107696A (ja) 車載画像処理装置
JP6148848B2 (ja) 車載画像処理装置
JP5832850B2 (ja) 車線監視システム及び車線監視方法
JP6277904B2 (ja) 制御情報検出装置および制御情報検出方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160411

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170223

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171219

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180101

R151 Written notification of patent or utility model registration

Ref document number: 6277904

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250