JP2017021803A - 道路境界物を検出する方法及び装置 - Google Patents

道路境界物を検出する方法及び装置 Download PDF

Info

Publication number
JP2017021803A
JP2017021803A JP2016136158A JP2016136158A JP2017021803A JP 2017021803 A JP2017021803 A JP 2017021803A JP 2016136158 A JP2016136158 A JP 2016136158A JP 2016136158 A JP2016136158 A JP 2016136158A JP 2017021803 A JP2017021803 A JP 2017021803A
Authority
JP
Japan
Prior art keywords
image
unit
road boundary
feature
input
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016136158A
Other languages
English (en)
Other versions
JP6288173B2 (ja
Inventor
リィウ ディエヌチャオ
Dianchao Liu
リィウ ディエヌチャオ
ルェヌ ジエ
Jie Ren
ルェヌ ジエ
ヤオジエ ル
Lu Yaojie
ヤオジエ ル
ジョォンチャオ シ
Zhongchao Shi
ジョォンチャオ シ
チャオ チェヌ
Chao Chen
チャオ チェヌ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Publication of JP2017021803A publication Critical patent/JP2017021803A/ja
Application granted granted Critical
Publication of JP6288173B2 publication Critical patent/JP6288173B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/64Three-dimensional objects
    • G06V20/653Three-dimensional objects by matching three-dimensional models, e.g. conformal mapping of Riemann surfaces
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road

Abstract

【課題】道路境界物の検出方法及び検出装置を提供する。【解決手段】かかる方法は、オブジェクト場所の入力画像を取得し、入力画像における画像ユニットを選択し、連続の複数フレームの入力画像から画像ユニットの画像特徴を抽出して画像特徴序列を構成し、画像特徴序列に基づき道路境界物を検出することを含む。本発明の道路境界物の検出方法及び検出装置によれば、3次元空間を2次元画像特徴の時間序列に変換し、この2次元画像特徴の時間序列から特定の画像特徴を抽出し、道路境界物を検出することができる。これによって、連続の道路境界物だけでなく、不連続の道路境界物も検出することができ、検出対象を限定することが必要ではないので、未知道路状況に適用できる。【選択図】図1

Description

本発明は対象検出分野に関し、さらに具体的には道路境界物の検出方法及び装置に関する。
運転支援システムの応用は日増しに普及してきている。道路又は車線警告システム(Lane/Road detection warning、LDW/RDW)は運転支援システムのサブシステムで、衝突を避け、運転方向などを一層正確に確定することができる。道路または車道検出はLDW/RDWシステムにとって重要なポイントであり、道路情報を知り得たという基礎があって初めて更なる処理、例えば警告などができる。一般的には道路境界物の検出によって道路または車線を検出する。
道路境界物には、道路境界が含まれ、例えば、縁石、柵、植え込み及びその他道の領域及び車道の標示となる物体などである。
従来の道路境界物の検出方法では、通常は特定の道路境界物に対して検出を行い、例えば柵、木、建物などにおける単独の一つの特定の特徴を検知する。しかし、実際、道路状況が複雑であることがあり、前記の一つの道路境界物のみ含むものではない。あるいは柱、未知建物の不連続物体を含むかもしれない。このような複雑な道路状況に対して、通常は道路境界物を検出することが難しい。
以上の問題を考慮して、複雑な道路状況でも道路境界物を正しく検出するように、検出対象を限定することが必要ではない、汎用の道路境界物の検出方法及び装置を提供する。
本発明の一つの面においては、オブジェクト場所の入力画像を取得するステップ、入力画像における画像ユニットを選択するステップ、連続の複数フレームの入力画像から前記画像ユニットの画像特徴を抽出して画像特徴序列を構成するステップ、及び前記画像特徴序列に基づき道路境界物を検出するステップを含むことができる道路境界物を検出する方法を提供する。
一つの実施例では、前記入力画像における画像ユニットを選択するステップは、前記入力画像に対して、予定の画像処理を行い、概略の道路境界物領域を取得するステップ、及び前記画像ユニットを選択して前記概略の道路境界物領域を覆うステップを含む。
あるいは、前記入力画像は視差画像を含み、前記画像ユニットは前記視差画像の所定距離にある断面である。
他の実施例では、前記画像特徴序列に基づき道路境界物を検出するステップは、前記画像特徴序列における特定の画像特徴を抽出するステップ、及び前記特定の画像特徴に基づき道路境界物を検出するステップを含む。なお、前記特定の画像特徴は連続性特徴と周期性特徴の少なくとも一つを含む。
他の実施例では、オブジェクト場所の入力画像を捕捉する捕捉装置の移動速度を検出し、前記移動速度に基き前記画像ユニットの隣接フレーム間の距離を補正し、補正した画像特徴序列から前記周期性特徴を抽出するステップをさらに含む。
他の実施例では、前記特定の画像特徴に基づき道路境界物を検出するステップは、前記特定の画像特徴に対応した入力画像の画素点を取得するステップ、前記入力画像のX軸とY軸に前記画素点を投影するステップ、及び画素点の投影に基づき前記道路境界物を確定するステップを含む。
他の実施例では、前記入力画像における画像ユニットを選択するステップは、複数の画像ユニットを選択し、複数の画像特徴序列を構成するように、連続の複数フレームの入力画像から前記複数の画像ユニットにおける各画像ユニットの画像特徴を抽出するステップを含む。
本発明の道路境界物を検出する方法は、前記複数の画像ユニットにおける第1画像ユニットと第2画像ユニットとの間の相関性を確定するステップ、及び前記相関性に基づいて一つのフレームの入力画像から抽出した第1画像ユニットの画像特徴を利用して、該一つのフレームの入力画像の直前フレームの入力画像から抽出した第2画像ユニットの画像特徴を強化するステップをさらに含む。
本発明の他の面においては、オブジェクト場所の入力画像を取得する取得部と、入力画像における画像ユニットを選択する選択部と、連続の複数フレームの入力画像から前記画像ユニットの画像特徴を抽出して画像特徴序列を構成する抽出部と、前記画像特徴序列に基づき道路境界物を検出する検出部とを含むオブジェクト場所における道路境界物を検出する装置を提供する。
本発明によれば、3次元空間を2次元画像特徴の時間序列に変換し、この2次元画像特徴の時間序列から特定の画像特徴を抽出し、道路境界物を検出することができる。これによって、この検出装置は、検出できる特定の画像特徴を具備すれば、連続の道路境界物だけでなく、不連続の道路境界物も検出することができ、検出対象を限定することが必要ではないので、未知道路状況に適用できる。よって、複雑な道路状況でも道路境界物を正しく検出することができる。
本発明の応用環境の例である車載システムの概念図である。 本発明の実施例による道路境界物の検出方法の全体フローチャートである。 選択した画像ユニットの例を示す図である。 選択した画像ユニットの他の例を示す図である。 画像ユニットにおける視差特徴序列の例を示す図である。 他の画像ユニットにおける画像特徴序列の例を示す図である。 本発明の実施例による道路境界物の検出方法の検出結果を示す図である。 複数の画像ユニットの間の相関性を示す図である。 本発明の他の実施例による道路境界物の検出装置の機能ブロック図である。 本発明の実施例による道路境界物検出を実現する検出システムのハードウェア構成図である。
当業者が本発明をより良く理解し得るため、以下は図面と具体的な実施方式を合わせて、本発明に対し一層詳細な説明を行う。以下、
1、発明思想の概説
2、実施例
2.1、道路境界物検出方法
2.2、道路境界物検出装置
2.3、道路境界物検出システム
3、まとめ
という順序で説明を行う。
<1、発明思想の概説>
上述したように、従来の技術において、複雑な道路状況で、道路境界物を検出することが難しい。本発明では、3次元空間における道路場面を時間序列上の2次元画像とモデリングし、かつそれらの2次元画像における道路境界物特徴を分析する。それによって、特定の画像特徴を具備すれば、連続の道路境界物だけでなく、不連続の道路境界物も検出することができる。
本発明によれば、検出対象は、既知の特定の道路境界物に限られず、未知の道路境界物も検出することができる。よって、本発明の方法は複雑な道路状況に適用することができる。
図1は本発明を理解するのに役立つ、本発明の応用環境の例としての車載システムを示す図である。本発明によるソフトウェアあるいはハードウェアはその中の道路検出部とすることができる。
<2、実施例>
<2.1道路境界物検出方法>
図2は本発明の実施例による道路境界物の検出方法の全体フローチャートである。図2が示すように、この実施例による道路境界物検出方法200には、オブジェクト場面の入力画像を取得するステップS210を含めることができる。道路領域を含むオブジェクト場面をカメラでリアルタイム撮影することによって道路領域を含む画像を取得でき、またネットワークを通しその画像を取得することもできる。
採用できる画像はカラー画像、グレースケール画像、視差画像などを含むが、それらの画像に限らない。例えば、オブジェクト場面の左右画像を双眼カメラで撮影し、そして左画像と右画像のいずれかを参考画像とし、道路領域のオブジェクト場面を含む視差画像を立体マッチング算法などで取得する。
オブジェクト場面の入力画像を取得した後、ステップS220で、入力画像における画像ユニットを選択できる。該画像ユニットを選択するときに、この入力画像における道路境界物領域を覆うことを確保する必要がある。その後、該画像ユニットの画像特徴を利用して道路境界物を検出することができる。
一つの例において、画像ユニットを以下の方法で選択できる。まず、入力画像に対して、概略の道路境界物領域を取得するように例えば縁辺(エッジ)検出のような予備処理を行う。該予備処理は本分野の技術者の周知の縁辺処理などであってもいい。現在の応用環境は車載カメラシステムであることが多いので、道路境界物が通常、画像の両側領域にある。次に、該入力画像から画像ユニットを、この概略の道路境界物領域を覆うことを確保するように選択する。画像ユニットは任意の形状、例えば矩形、円形などであってもいい。
図3は選択した画像ユニットの例を示す図である。図3の(a)は取得した入力画像としてのグレースケール画像であり、図3の(b)は該グレースケール画像に選択した矩形画像ユニットを示す。
他の例において、入力画像に距離又は深さの情報が含まれた場合において、例えば入力画像に視差画像が含まれた場合において、選択した画像ユニットは入力画像の深度の切片(セクション)、即ち、入力画像の所定の距離(深度)箇所における断面であってもいい。
図4の(a)〜(c)は選択した画像ユニットの他の例を示す図である。図4の(a)は取得した入力画像としてのグレースケール画像であり、図4の(b)は対応の視差図を示し、図4(c)は入力画像の深度の切片を示す。
そのほか、入力画像にグレースケール画像及び視差画像の両方が含まれた時、視差画像における距離情報を利用して、画像ユニットとしてグレースケール画像の特定の領域を選択することもできる。あるいは、入力画像にグレースケール画像及び深度画像の両方が含まれた時(深度画像は視差により取得でき、レーダーなどのレンジセンサーで取得してもいい)、深度情報により、画像ユニットとしてグレースケール画像の特定の領域を選択することもできる。
もちろん、前記の画像ユニット選択方法は具体的例の一つに過ぎず、いかなる他の適当な選択方法でもいい。そして、選択した画像ユニットは一つに限らず、複数でもいい。
画像ユニットを選定すると、それは画像フレーム序列における位置とサイズが固定し、そして、車載カメラが車両の走りに従い、画像ユニットが監視カメラの視界における道路境界物の窓口になる。時間の進み、フレーム序列の進みに従い、画像ユニット窓口に現れるオブジェクトが距離上で絶えず前向きに推進する。従って、3次元世界における道路境界物は元の2次元世界プラス距離次元から、2次元画像と時間序列との組み合わせになる。
それで、ステップS230で、連続の複数フレームの入力画像に前記画像ユニットにおける画像特徴を抽出し、画像特徴序列を構成する。抽出した画像特徴は任意の有効な画像特徴、例えば、色特徴、縁辺又は勾配特徴、視差分布特徴などであってもいい。
複数フレームの入力画像における画像ユニットの画像特徴を抽出した後、時間序列に従って各画像ユニットの画像特徴を並び、各画像ユニットの画像特徴序列を構成する。
図5の(a)〜(f)は画像ユニットにおける視差特徴序列の例を示す。図5の(a)は入力画像を示し、図5の(b)は複数フレームの入力画像の深度切片を示し、AとBが深度切片における、密集視差点分布がある二つの特徴部分であり、図5の(c)は複数フレームの入力画像における一部のA、Bの視差点間の分布幅特徴の時間序列を示し、図5の(d)は複数フレームの入力画像における一部のAの視差点の分布高さ特徴の時間序列を示し、図5の(e)及び図5の(f)はそれぞれ一部のA、Bにおける視差点数量分布統計特徴の時間序列を示す。
図6の(a)〜(d)は他の画像ユニットにおける画像特徴序列の例を示す。図6の(a)は複数フレームの入力画像における矩形画像ユニットを示し、図6の(b)は複数フレームの入力画像の画像ユニットにおける画素点(例えばグレースケール画像の画素点又は視差図像の視差点)密度分布特徴の時間序列を示し、図6の(c)は複数フレームの入力画像の画像ユニットにおける画素点分布領域の高さ特徴の時間序列を示し、図6の(d)は複数フレームの入力画像の画像ユニットにおける画素点の勾配特徴統計値特徴の時間序列を示す。
もちろん、前記画像特徴はいくつかの例のみで、それらの画像特徴以外のいかなる他の適当な画像特徴を抽出してもいい。そして、各画像ユニットに対して一つ又は複数の画像特徴を抽出することができ、一つ又は複数の画像特徴序列を構成する。また、本実施例において、画像特徴序列が1次元特徴序列であるが、2次元以上特徴序列に広げることができ、例えば、視差点統計の水平及び垂直の棒グラフであっても良い。
ステップS240で、ステップS230で得た画像特徴序列に基づいてオブジェクト場面における道路境界物を検出することができる。
具体的に言えば、一つの実施例において、該画像特徴序列における特定の画像特徴を抽出することができ、そして、この特定の画像特徴に基づいて道路境界物を検出する。特定の画像特徴は道路境界物の特徴を代表できる特徴であり、例えば、連続性特徴、周期性特徴、又はそれらの組み合わせなど。
通常、道路境界物は、主に柵、囲い、植え込み、柱、木、縁石などを含む。オブジェクト特徴は、道路方向に延長し、安定の固定特徴又は周期性変化特徴又は混合型が現れる。
連続性特徴として、例えば、Feature(t)=Feature(t+x)という式で示すことができ、即ち、任意の時間tでの特徴は時間t+xでの特徴と一致し、なお、xは任意の時間増分である。
図5の(a)に示すように、道路境界物としての柵は連続性の自身特徴属性を有し、この視差図は、図5の(c)における視差分布幅特徴と、図5の(d)における視差分布高さ特徴と、図5の(e)及び図5の(f)における視差点分布特徴が時間序列に安定的に一定である。よって、特徴序列の特徴値が時間とともに安定すれば、連続の道路境界物が存在することを確定することができる。
周期性特徴として、例えば、Feature(t)-Feature(t+T)-Feature(t+2T)という式で示すことができ、即ち、特徴は、Tを時間周期として変化する。図6の(a)に示すように、周期性配置特徴を具備する街灯柱を道路境界物としてもいい。よって、図6の(b)における点密度特徴と、図6の(c)における点分布高さ特徴と、図6の(d)における勾配特徴とから、ともに周期性特徴を検出することができる。それによって、周期性道路境界物が存在したことを確定することができる。
周期性情報を抽出する方法として、いろいろな方法を採用することができる。例えば、周波数領域分析方法、フーリエ変換方法、スペクトル分解方法などで特徴周期を確定する。
周期性特徴を抽出するとき、選択として、時間フレーム序列及び距離位置を補正することができる。この補正を行うことは、主に3次元空間から2次元特徴と時間序列との組み合わせに変換する際の特徴序列の一致性を確保するためであり、これにより、特徴の歪みを避けることができる。具体的に言えば、オブジェクト場所の入力画像を捕捉する捕捉装置の移動速度を検出することができ、検出した移動速度に基づいて補正を行う。速度が等速直線運動なら、補正する必要がない。速度が変化なら、速度の変化率により画像ユニットの隣接フレーム間の距離を確定し、即ち、補正した画像特徴序列から前記周期性特徴を抽出するように、隣接フレーム間の時間軸上の位置を調整する。速度方向が変化なら、それに基づいて、選択した画像ユニットの位置を調整することもできる。ただし、フレーム間の変化が非常に小さいので、この補正動作を行わなくてもいい。
特定の画像特徴を抽出した後、抽出した特定の画像特徴により道路境界物を検出することができる。つまり、該特定の画像特徴の対応した道路境界物の位置を確定することによって、オブジェクト場所における道路境界物を検出することができる。
具体的に言えば、一つの実施例において、抽出した例えば連続性特徴、周期性特徴などの特定の画像特徴に対応した入力画像の画素点を取得することができる。次に、入力画像のX軸とY軸にそれらの画素点を投影し、画素点投影に基づき前記道路境界物を確定することができる。例えば、それらの画素点を直線又は曲線にフィッティングし、道路境界としている。あるいは、画素点投影及び前記特定の画像特徴に対応した入力画像の画素点に基づいて道路境界物の平面を確定することもできる。
もちろん、特定の画像特徴基づいて道路境界物を検出する方法は前記の投影方法に限らず、本分野の常用のいかなる他の方法を採用してもいい。例えば、特定の画像特徴に基づく連通領域分析(CCA)方法。これらの方法は本分野の技術者にとって容易に実現するので、ここでは説明を省略する。
それによって、道路境界物検出結果として該道路境界又は道路境界物の平面を出力することができ、該検出結果に基づき適当的にドライブ制御などを行うことができる。
図7の(a)〜(d)は本発明の実施例による道路境界物の検出方法の検出結果を示す図である。なお、図7の(a)と図7の(c)はそれぞれ入力画像を示し、図7の(b)は図7の(a)の入力画像に対応した道路境界物の検出結果を示し、なお、柵に対応した道路境界物を検出した。図7の(d)は図7の(c)の入力画像に対応した道路境界物の検出結果を示し、なお、街灯柱に対応した道路境界物を検出した。
もちろん、前記方法は例のみで、特定の画像特徴に基づき道路境界物を検出する方法はそれに限らず、本分野の技術者はいかなる他の適当な方法を採用することができる。
また、前記のように、入力画像から画像ユニットを選択するとき、一つの画像ユニットでも複数の画像ユニットでも選択することができる。入力画像における複数の画像ユニットを選択する際、画像ユニットの間で互いに関連があるかもしれない。図8は複数の画像ユニットの間の相関性を示す図である。図8に示すように、二つの画像ユニットを選択すれば、時間Tの時空において、二つの画像ユニットがそれぞれ矩形領域A(破線)とB(実線)である。同一フレーム時刻に、AとBは異なる距離にあり、異なるサイズを占めている。しかし、時間フレーム序列の進みに従い、その後のT+t時刻に、画像ユニットBの窓口におけるオブジェクトである街灯柱は、近い画像ユニットAの窓口に相対的に移動してくる。つまり、T+t時刻にある画像ユニットAにおける画像オブジェクトは、T時刻にある画像ユニットBにおける画像オブジェクトと同一物体である。
言い換えれば、t番目のフレームの距離dにある画像ユニットU(d、t)は、(t+a)番目のフレームの距離(d-x)にある画像ユニットU(d-x、t+a)と対応関係があり、同一のオブジェクトの異なる解像度での画像に相当している。このような相関性が存在するかどうか、通常、カメラの移動速度と画像ユニット間の距離とから確定できる。よって、選択として、画像ユニット間の該相関性に基づき画像特徴を強化することができる。例えば、一つのフレームの入力画像から抽出した画像ユニットAの画像特徴を利用して、該一つのフレームの入力画像の直前フレームの入力画像から抽出した画像ユニットBの画像特徴を強化することができる。それによって、抽出した画像ユニットにおける画像特徴がより微細になり、その後の検出正確性を高めることに役に立つ。
本発明の本実施例における道路境界物検出方法200によれば、3次元空間を2次元画像特徴の時間序列に変換し、この2次元画像特徴の時間序列から特定の画像特徴を抽出し、道路境界物を検出することができる。これによって、この検出方法は、検出できる特定の画像特徴を具備すれば、連続の道路境界物だけでなく、不連続の道路境界物も検出することができ、検出対象を限定することが必要ではないので、未知道路状況に適用できる。よって、複雑な道路状況でも道路境界物を正しく検出することができる。
<2.2、道路境界物検出装置>
以下、図9を参考に本発明の別の実施例による道路境界物の検出装置を説明する。図9はこの道路境界物の検出装置の機能ブロック図である。図9が示すように、その検出装置900は、オブジェクト場所の入力画像を取得する取得部910と、入力画像における画像ユニットを選択する選択部920と、連続の複数フレームの入力画像から前記画像ユニットの画像特徴を抽出して画像特徴序列を構成する抽出部930と、前記画像特徴序列に基づき道路境界物を検出する検出部940とを含むことができる。
一つの例において、該選択部920は、取得部910の取得した入力画像に対して、予定の画像処理を行い、概略の道路境界物領域を取得し、そして画像ユニットを選択してこの概略の道路境界物領域を覆うことができる。
他の実施例において、該取得部910の取得した入力画像は、視差画像を含み、そして該選択部920はこの視差画像の所定距離にある断面を前記画像ユニットとしていることができる。
前記検出部940は前記画像特徴序列における特定の画像特徴を抽出し、そして、抽出した特定の画像特徴に基づき道路境界物を検出することができる。特定の画像特徴は、連続性特徴、周期性特徴、それらの組み合わせなどを含むことができる。
該検出部940は、前記特定の画像特徴に対応した入力画像の画素点を取得し、前記入力画像のX軸とY軸に前記画素点を投影し、画素点投影に基づき前記道路境界物を確定することができる。
該検出装置900は、選択として、補正部(未表示)を含むこともできる。前記補正部は、オブジェクト場所の入力画像を捕捉する捕捉装置の移動速度を検出することに用いて、そして、前記移動速度に基き前記画像ユニットの隣接フレーム間の距離を補正して、補正した画像特徴序列から前記周期性特徴を抽出する。
前記選択部920は入力画像における複数の画像ユニットを選択することができる。そして、複数の画像特徴序列を構成するように、前記抽出部930は連続の複数のフレームの入力画像から複数の画像ユニットにおける各画像ユニットの画像特徴を抽出することができる。
前記検出装置900は、選択として、強化部(未表示)を含むこともできる。前記強化部は、前記複数の画像ユニットにおける第1画像ユニットと第2画像ユニットとの間の相関性を確定することに用いて、そして、前記相関性に基づいて一つのフレームの入力画像から抽出した第1画像ユニットの画像特徴を利用して、該一つのフレームの入力画像の直前フレームの入力画像から抽出した第2画像ユニットの画像特徴を強化することができる。
前記検出装置900の、取得部910と選択部920と抽出部930と検出部940の具体的操作過程は、前記方法200におけるステップS210−S240を参考することができ、ここでは説明省略にしている。
本発明の本実施例の道路境界物検出装置900によれば、3次元空間を2次元画像特徴の時間序列に変換し、この2次元画像特徴の時間序列から特定の画像特徴を抽出し、道路境界物を検出することができる。これによって、この検出装置は、検出できる特定の画像特徴を具備すれば、連続の道路境界物だけでなく、不連続の道路境界物も検出することができ、検出対象を限定することが必要ではないので、未知道路状況に適用できる。よって、複雑な道路状況でも道路境界物を正しく検出することができる。
<2.3、道路境界物検出システム>
続いて、図10を参考に本発明の一つの実施例による、道路境界物検出を実現する検出システムのハードウェア配置を説明する。図10が示すように、検出システム1000は、外部から、例えばカラー画像、グレースケール画像、深度画像、視差画像等、処理しよう画像を入力するために用いる、例えばキーボード、マウス、通信ネットワーク、及び該通信ネットワークの接続した遠隔入力装置等を含む入力装置1110と、上述の本発明の実施例の道路境界物検出方法を実行するための、或いは上述の本発明の実施例の道路境界物装置を実現するための、例えばコンピューターの中央処理ユニット或いはその他処理能力を有するチップ等を含み、例えばインターネットのネットワーク(未表示)に接続し、処理過程での必要に応じてネットワークから必要なデータを取得できる処理装置1120と、外部に、例えば検出して得た画像中の道路境界線、道路境界物など、上述の道路境界物の検出結果を出力するための、例えばディスプレイ、プリンター、通信ネットワーク、及び該通信ネットワークの接続した遠隔出力装置等を含む出力装置1030と、揮発性或いは不揮発性の方式で上述の処理過程に関わる画像、データ、得られた結果、コマンド及び中間データ等を記憶するための、例えばランダムアクセスメモリ(RAM)、読取り専用メモリ(ROM)、ハードディスク、或いは半導体メモリ等の各種揮発性或いは不揮発性のメモリを含む記憶装置1140と、を含む。
もちろん、簡略のため、図10ではシステム中の本発明と関係のあるコンポーネントの一部だけを示しており、例えばバス、入力/出力インターフェース等のコンポーネントは省略している。その他、具体的な応用状況に基づいて、システム1100はその他のふさわしいいかなるコンポーネントも含めることができる。
<3.まとめ>
本発明により、道路境界物の検出方法、検出装置及び検出システムを提供した。オブジェクト場所の入力画像を取得し、入力画像中における画像ユニットを選択し、連続の複数フレームの入力画像から画像ユニットの画像特徴を抽出して画像特徴序列を構成し、画像特徴序列に基づき道路境界物を検出する。
前記の道路境界物の検出方法、検出装置及び検出システムによれば、3次元空間を2次元画像特徴の時間序列に変換し、この2次元画像特徴の時間序列から特定の画像特徴を抽出し、道路境界物を検出することができる。これによって、この検出装置は、検出できる特定の画像特徴を具備すれば、連続の道路境界物だけでなく、不連続の道路境界物も検出することができ、検出対象を限定することが必要ではないので、未知道路状況に適用できる。よって、複雑な道路状況でも道路境界物を正しく検出することができる。
以上、図面を参考に本発明の実施例である道路境界物の検出方法及び装置について詳細な説明を行った。本開示に関わる装置、装置、システムのブロック図は単に例を示すものであり、必ずブロック図の示す方法で接続、配置、構成を行うよう要求または暗示することを意図するものではない。当業者であれば知っているように、任意の方法でこれらの装置、装置、システムを接続、配置、構成できる。例えば、「含む」、「包含する」、「備える」等の単語は開放な語彙であり、「含むが限らない」ことを指し、且つ互換使用できる。ここで用いている語彙「または」や「及び」は、文脈上で明確な指示がないかぎり、「及び/または」を指しており、且つ互換使用できる。ここで用いている語彙「例えば」は「例えるが限定しない」ことを指し、且つ互換使用できる。
本開示中のステップのフローチャート及び上述の方法についての記載はあくまで例に過ぎず、必ずその順序に沿って実施例のステップを行うよう要求したり暗示したりするものではない。当業者であれば知っているように、任意の順序で上述の実施例中のステップを実行できる。例えば、「その後」、「それから」、「次に」等の単語はステップの順序を限定するものではない。これらの単語はあくまでそれら方法の記載に対する読者の理解を助けるためのものである。その他、例えば冠詞「一つ」、「一」或いは「その」など単数の要素のいかなる引用も単数として限定しない。
開示した分野の以上の説明により、いかなる当業者であれ本発明を実行または使用することができる。これらの分野に対する様々な修正は当業者にとってはきわめて容易に見て取れるものであり、且つここで定義した一般原理は他方面に応用でき、本発明の範囲を外れるものではない。したがって、本発明はここに示した方面だけに限定されず、それはここで開示した原理及び新規な特徴が一致する最大範囲にまで及ぶものである。

Claims (12)

  1. オブジェクト場所における道路境界物を検出する方法であって、
    前記オブジェクト場所の入力画像を取得するステップと、
    前記入力画像における画像ユニットを選択するステップと、
    連続の複数フレームの入力画像から前記画像ユニットの画像特徴を抽出して画像特徴序列を構成するステップと、
    前記画像特徴序列に基づいて前記道路境界物を検出するステップと、を含む、方法。
  2. 前記入力画像における画像ユニットを選択するステップは、
    前記入力画像に対して予定の画像処理を行い、概略の道路境界物領域を取得するステップと、
    前記画像ユニットを、前記概略の道路境界物領域を覆うよう選択するステップと、を含む、請求項1に記載の方法。
  3. 前記入力画像は視差画像を含み、前記画像ユニットは前記視差画像の所定距離にある断面である、請求項1に記載の方法。
  4. 前記画像特徴序列に基づいて前記道路境界物を検出するステップは、
    前記画像特徴序列における特定の画像特徴を抽出するステップと、
    前記特定の画像特徴に基づいて前記道路境界物を検出するステップ、を含む、請求項1〜3のうちの任意の一項に記載の方法。
  5. 前記特定の画像特徴は連続性特徴と周期性特徴の少なくとも一つを含む、請求項4に記載の方法。
  6. 前記オブジェクト場所の入力画像を捕捉する捕捉装置の移動速度を検出し、前記移動速度に基づいて前記画像ユニットの隣接フレーム間の距離を補正し、補正した画像特徴序列から前記周期性特徴を抽出するステップをさらに含む、請求項5に記載の方法。
  7. 前記特定の画像特徴に基づいて前記道路境界物を検出するステップは、
    前記特定の画像特徴に対応した入力画像の画素点を取得するステップと、
    前記入力画像のX軸とY軸に前記画素点を投影するステップと、
    前記画素点の投影に基づいて前記道路境界物を確定するステップと、を含む、請求項4に記載の方法。
  8. 前記入力画像における画像ユニットを選択するステップは、
    複数の画像ユニットを選択し、複数の画像特徴序列を構成するように、連続の複数フレームの入力画像から前記複数の画像ユニットにおける各画像ユニットの画像特徴を抽出するステップを含む、請求項1に記載の方法。
  9. 前記複数の画像ユニットにおける第1画像ユニットと第2画像ユニットとの間の相関性を確定するステップと、
    前記相関性に基づいて一つのフレームの入力画像から抽出した第1画像ユニットの画像特徴を利用して、該一つのフレームの入力画像の直前フレームの入力画像から抽出した第2画像ユニットの画像特徴を強化するステップと、をさらに含む、請求項8に記載の方法。
  10. オブジェクト場所における道路境界物を検出する装置であって、
    前記オブジェクト場所の入力画像を取得する取得部と、
    前記入力画像における画像ユニットを選択する選択部と、
    連続の複数フレームの入力画像から前記画像ユニットの画像特徴を抽出して画像特徴序列を構成する抽出部と、
    前記画像特徴序列に基づいて道路境界物を検出する検出部と、を含む、装置。
  11. コンピュータに、請求項1〜9の任意の1項に記載の方法を実行させるためのプログラム。
  12. 請求項11に記載のプログラムを記憶したコンピュータ読み取り可能な記憶媒体。
JP2016136158A 2015-07-10 2016-07-08 道路境界物を検出する方法及び装置 Expired - Fee Related JP6288173B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN201510404764.1 2015-07-10
CN201510404764.1A CN106339659A (zh) 2015-07-10 2015-07-10 检测道路分割物的方法和装置

Publications (2)

Publication Number Publication Date
JP2017021803A true JP2017021803A (ja) 2017-01-26
JP6288173B2 JP6288173B2 (ja) 2018-03-07

Family

ID=56296709

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016136158A Expired - Fee Related JP6288173B2 (ja) 2015-07-10 2016-07-08 道路境界物を検出する方法及び装置

Country Status (3)

Country Link
EP (1) EP3115931B1 (ja)
JP (1) JP6288173B2 (ja)
CN (1) CN106339659A (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019156087A1 (ja) * 2018-02-07 2019-08-15 株式会社小糸製作所 画像処理装置および車両用灯具
JP2022042771A (ja) * 2020-09-03 2022-03-15 トヨタ自動車株式会社 測距システム

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180300531A1 (en) * 2017-04-17 2018-10-18 Htc Corporation Computer-implemented 3d model analysis method, electronic device, and non-transitory computer readable storage medium
CN109389088B (zh) * 2018-10-12 2022-05-24 腾讯科技(深圳)有限公司 视频识别方法、装置、机器设备以及计算机可读存储介质
CN111433779A (zh) * 2018-11-09 2020-07-17 北京嘀嘀无限科技发展有限公司 用于识别道路特征的系统和方法
CN112991241B (zh) * 2019-12-13 2024-04-12 阿里巴巴集团控股有限公司 一种道路场景图像处理方法、装置、电子设备及存储介质

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004013400A (ja) * 2002-06-05 2004-01-15 Fuji Heavy Ind Ltd 対象物認識装置および対象物認識方法
JP2004062519A (ja) * 2002-07-29 2004-02-26 Nissan Motor Co Ltd レーンマーク検出装置
WO2012115009A1 (ja) * 2011-02-21 2012-08-30 日産自動車株式会社 周期的静止物検出装置及び周期的静止物検出方法
JP2012181691A (ja) * 2011-03-01 2012-09-20 Yazaki Corp 路面上パターン認識方法および車両用情報記録装置
JP2014013451A (ja) * 2012-07-03 2014-01-23 Clarion Co Ltd 車載用車線認識装置
JP2014026608A (ja) * 2012-07-30 2014-02-06 Clarion Co Ltd 車載環境認識装置
JP2014120167A (ja) * 2012-12-12 2014-06-30 Ricoh Co Ltd 視差図による視差方向連続型物体検知方法及び装置

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8306747B1 (en) * 2007-01-19 2012-11-06 Starodub, Inc. Travel way measurement system
CN103390269B (zh) * 2012-05-11 2016-12-28 株式会社理光 连续型道路分割物检测方法和装置
CN103679691B (zh) * 2012-09-24 2016-11-16 株式会社理光 连续型道路分割物检测方法和装置
CN104376297B (zh) * 2013-08-12 2017-06-23 株式会社理光 道路上的线型指示标志的检测方法和装置

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004013400A (ja) * 2002-06-05 2004-01-15 Fuji Heavy Ind Ltd 対象物認識装置および対象物認識方法
JP2004062519A (ja) * 2002-07-29 2004-02-26 Nissan Motor Co Ltd レーンマーク検出装置
WO2012115009A1 (ja) * 2011-02-21 2012-08-30 日産自動車株式会社 周期的静止物検出装置及び周期的静止物検出方法
JP2012181691A (ja) * 2011-03-01 2012-09-20 Yazaki Corp 路面上パターン認識方法および車両用情報記録装置
JP2014013451A (ja) * 2012-07-03 2014-01-23 Clarion Co Ltd 車載用車線認識装置
JP2014026608A (ja) * 2012-07-30 2014-02-06 Clarion Co Ltd 車載環境認識装置
JP2014120167A (ja) * 2012-12-12 2014-06-30 Ricoh Co Ltd 視差図による視差方向連続型物体検知方法及び装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019156087A1 (ja) * 2018-02-07 2019-08-15 株式会社小糸製作所 画像処理装置および車両用灯具
JP2022042771A (ja) * 2020-09-03 2022-03-15 トヨタ自動車株式会社 測距システム

Also Published As

Publication number Publication date
JP6288173B2 (ja) 2018-03-07
EP3115931B1 (en) 2022-09-07
CN106339659A (zh) 2017-01-18
EP3115931A1 (en) 2017-01-11

Similar Documents

Publication Publication Date Title
JP6288173B2 (ja) 道路境界物を検出する方法及び装置
US11048961B2 (en) Locating method and system
CN107851318B (zh) 用于对象跟踪的系统和方法
US10194138B2 (en) Structured light encoding-based vertical depth perception apparatus
US8405742B2 (en) Processing images having different focus
US9576367B2 (en) Object detection method and device
US9600898B2 (en) Method and apparatus for separating foreground image, and computer-readable recording medium
US8861791B2 (en) Method and device for detecting road region as well as method and device for detecting road line
JP6179639B2 (ja) 道路境界物の検出方法及び検出装置
JP6111745B2 (ja) 車輌検知方法及び装置
JP2016194925A (ja) 道路境界物の検出方法及び装置
CN105975923B (zh) 用于跟踪人体对象的方法和系统
US9747507B2 (en) Ground plane detection
KR102199094B1 (ko) 관심객체 검출을 위한 관심영역 학습장치 및 방법
US10346709B2 (en) Object detecting method and object detecting apparatus
JP2017103688A5 (ja)
KR20180015570A (ko) 스테레오 카메라로부터 획득된 이미지 페어를 처리하는 장치 및 방법
US10417507B2 (en) Freespace detection apparatus and freespace detection method
KR20170119167A (ko) 도로 상의 객체를 검출하기 위한 객체 검출 시스템 및 방법
JP6677141B2 (ja) 駐車枠認識装置
KR20160039447A (ko) 스테레오 카메라를 이용한 공간분석시스템
US20130076868A1 (en) Stereoscopic imaging apparatus, face detection apparatus and methods of controlling operation of same
KR101930049B1 (ko) 관심 객체 기반 병렬 영상 분석 장치 및 그 방법
CN115037869A (zh) 自动对焦方法、装置、电子设备及计算机可读存储介质
Lamża et al. Depth estimation in image sequences in single-camera video surveillance systems

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170608

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170725

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170804

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180109

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180122

R151 Written notification of patent or utility model registration

Ref document number: 6288173

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees