JP6326791B2 - 路面検知方法及び路面検知装置 - Google Patents

路面検知方法及び路面検知装置 Download PDF

Info

Publication number
JP6326791B2
JP6326791B2 JP2013250359A JP2013250359A JP6326791B2 JP 6326791 B2 JP6326791 B2 JP 6326791B2 JP 2013250359 A JP2013250359 A JP 2013250359A JP 2013250359 A JP2013250359 A JP 2013250359A JP 6326791 B2 JP6326791 B2 JP 6326791B2
Authority
JP
Japan
Prior art keywords
road surface
line segment
hough transform
line
pixel point
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013250359A
Other languages
English (en)
Other versions
JP2014110059A (ja
Inventor
チャオ チェヌ
チャオ チェヌ
ジョォンチャオ シ
ジョォンチャオ シ
ヤオジエ ル
ヤオジエ ル
ガンメイ ユ
ガンメイ ユ
ガン ワン
ガン ワン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Publication of JP2014110059A publication Critical patent/JP2014110059A/ja
Application granted granted Critical
Publication of JP6326791B2 publication Critical patent/JP6326791B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/64Three-dimensional objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/48Extraction of image or video features by mapping characteristic values of the pattern into a parameter space, e.g. Hough transformation

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Traffic Control Systems (AREA)

Description

本発明は、画像処理に関し、特に、路面検知方法及び路面検知装置に関する。
運転支援システムの応用が日増しに普及されつつある。道路や車道警告システム(Lane/Road detection warning、LDW/RDW)は、運転支援システムのサブシステムであるが、該システムによると、衝突防止や、より正確な運転方向の決定等が可能になる。LDW/RDWシステムにおいて、道路検知は、非常に肝心なものとなっており、道路情報を把握してはじめて、例えば警告のような更なる処理が可能になる。また、道路路面検知も、3D運転環境認識技術の非常に重要な部分であり、3D運転環境認識技術における路辺ガードレール検知、消失点検知、車両識別等に対して甚大な影響を及ぼしている。
ステレオカメラは、高精度の視差図及び距離画像が得られるメリットがあることから、幅広く用いられている。3D道路シーンの認識における1ジョブは、道路路面の平面検知である。しかしながら、従来の方法は、複雑な環境に適しておらず、ノイズ干渉を受け易い。
非特許文献の「U-V-Disparity based Obstacle Detection with 3D Camera and Steerable Filter」, Y.Gao, X.Ai, Y.Wang, J.Rarity and N.Dahnoun, 2011 IEEE Intelligent Vehicles Symposium(非特許文献1)には、3Dカメラにより奥行情報を取得することで、UV視差図が得られ、ハフ変換により直線特徴を抽出することで、路面検知が可能になる路面検知方法が提案されている。
発明の名称「Object Detecting Apparatus in Which the Position of a Planar Object Is Estimated by Using Hough Transform」の特許文献EP762326B1(特許文献1)には、ハフ変換を用いた元視差データへの直接処理による、平面物体の推定方法が提案されている。
本発明の発明者は、分析及び実験分析により、従来の路面検知アルゴリズムにおいては、1)最小二乗法は、僅かなノイズが存在しても、推定された路面と真の路面位置間にずれが生じる等、ノイズに敏感であり、2)従来のハフ変換は、直線を通る点の数のみ考慮するため、路面が比較的に弱い場合は、ガードレールや、用水路等の影響を受け易く、誤検知のおそれがある等、複雑な環境における路面検知には適していないことを見出した。
本発明は、従来技術における前述の問題を鑑みてなされたものである。
本発明は、複雑環境における路面検知に適するように、路面検知のロバスト性を向上することを目的とする。
本発明の一の態様においては、路面を含むV視差図を取得し、V視差図から線分を路面として抽出する路面検知方法において、V視差図から線分を路面として抽出する工程は、限定されたハフ変換により、路面線分を推定することを含む、路面検知方法を提供する。
本発明の他の面においては、路面を含むV視差図を取得するV視差図取得部と、V視差図から線分を路面して抽出する路面線分抽出部と、を備えた路面検知装置において、前記路面線分抽出部は、限定されたハフ変換により、路面線分を推定することを含む、路面検知装置を提供する。
本発明の実施例における、限定されたハフ変換による路面検知方法及び装置によれば、ノイズ除去、演算量の低減が可能になるとともに、より適切な路面点の処理、路面の強調が可能になり、より正確に路面検知を行うことができる。
本発明への理解を容易にするための、本発明の適用環境の例となる、車載システムの略図である。 本発明の第1の実施例における路面検知方法の全体フローチャートである。 図3(a)は、車載ステレオカメラで撮像された道路領域の視差図を例示し、図3(b)は、図3(a)に示された視差図から変換されたV視差図を例示した図である。 本発明の1実施例における近視野、中視野、遠視野の3つの線形線分から構築された路面モデルの略図である。 ハフ変換の累積空間が、1小領域内に限定された例を示した略図である。 図6(a)、(b)は、路面上の点の、ハフ空間における理想のハフ直線群と、実際のハフ直線群をそれぞれ示した図である。 群分け及び簡素化処理前後のハフ直線群の比較図であり、図7(a)は、群分け及び簡素化処理前の元ハフ直線群を表し、図7(b)は、群分け及び簡素化処理後のハフ直線群を表した図である。 図8(a)、(b)は、本発明の1実施例における抽出したハフ変換線分と、水平面の対応線間の距離算出図、及び最後に選択した路面線分の略図である。 本発明の1実施例における路面検知方法2000の全体フローチャートである。 本発明の1実施例におけるV視差図のフィルタによる、路面候補点の選択方法のフローチャートを例示した図である。 フィルタ前後のV視差図を示し、図11(a)は、フィルタ前のV視差図、図11(b)は、フィルタ後のV視差図である。 本発明の第3実施例における路面検知方法のフローチャートである。 図13(a)、(b)は、V視差図から検知された路面線分、及び元視差図に逆写像された対応路面を示した図である。 図14(a)、(b)は、本発明の実施例における限定されたハフ変換路面検知と、従来の最小二乗法検知及び従来のハフ変換検知を、2つの路面シーンに適用した場合の路面検知実験結果の比較図である。 図15(a1)、(b1)、(c1)、(a2)、(b2)、(c2)は、元白黒階調画像、従来の検知方法による検知路面の元視差図における表れ、本発明の実施例における限定されたハフ変換方法による検知路面の元視差図における表れの比較図である。ここで、図15(a1)が、元白黒階調画像、(b1)が、従来の検知方法による検知路面の元視差図における表れ、(c1)が、本発明の実施例における限定されたハフ変換方法による検知路面の元視差図における表れを示し、図15(a2)が、元白黒階調画像、(b2)が、従来の検知方法による検知路面の元視差図における表れ、(c2)が、本発明の実施例における限定されたハフ変換方法による検知路面の元視差図における表れを示している。 本発明の1実施例における路面検知装置のブロック図である。 本発明の実施例における路面検知システムのハードウェア配置の概念図である。
当業者の本発明へのより容易な理解のために、以下、図面と具体的な実施形態により、本発明をさらに詳細に説明する。なお、本発明の要点との混同を避けるために、当該分野に公知の技術については、詳細な説明を割愛する。
以下の順で説明を行う。
1、基本概念の紹介
2、路面検知方法の第1の実施例
2.1、路面検知方法の全体フロー
2.2、例1:ハフ変換の累積空間の限定
2.3、例2:ハフ変換の変換範囲の限定
2.4、例3:ハフ変換の累積重みの設定
2.5、例4:ハフ直線群の群分け
2.6、例5:ハフ直線群の簡素化
2.7、例6:水平距離に基づくハフ直線の抽出
3、路面検知方法の第2の実施例
4、路面検知方法の第3の実施例
5、路面検知装置
6、システムのハードウェア配置
7、まとめ
<1、基本概念の紹介>
以下、理解の便宜上、基本概念について説明する。
視差は、実際に、1基線の両端から同一の遠隔物体へそれぞれ直線を引いた場合に2直線間の夾角を指している。通常は、一定間隔の2つの点から同一のターゲットを観察したときに生じる方向差を指している。ターゲットからみて、2つの点の間の夾角が、該2点の視差角となり、2点間の距離が、基線となる。視差角と基線の長さが分かれば、ターゲットと観察者間の距離が求められる。
視差図(disparity map)は、任意の1画像を基準画像に、サイズが該基準画像のサイズで、要素値が視差値となる画像である。視差値は、シーンの距離情報が含まれている。視差図は、双眼カメラで撮像された左画像と右画像から算出されてもよく、或いは、立体図における奥行図から算出されてもよい。
通常の2次元視差図における1点の座標は、(u、v)で表すことができ、ここで、uは、横座標、vは、縦座標であり、点(u、v)における画素の画素値は、d(u、v)で表され、該点(u、v)における視差を表している。
理解の便宜上、イメージ的に、V視差図は、視差図の側面図と見なすことができ、U視差図は、視差図の俯瞰図と見なすことができる。V視差図における任意の1点(d、v)の階調値は、対応視差図の縦座標がvの行における視差値dとなる点の数である。
ハフ変換:極座標形式において、1データ点を通る1直線は、角度θと距離ρにより、ρ=xcosθ+ysinθと表され、ハフ変換の目的は、点の通過が最多となる1直線のパラメータρ、θを見つけることである。画像中の1点がパラメータ空間中の1曲線に対応し、画像中の1直線が、パラメータ空間中の1点に対応している。画像上の全点に対してハフ変換を行い、パラメータ空間中の曲線交差が最多となる点が、最終の検知対象の直線に対応するものとなる。このため、本発明においては、ハフパラメータ空間における、空間中の各点を通る曲線数を累積していることから、ハフパラメータ空間を累積空間と称することもある。なお、ハフパラメータ空間における曲線の交差が最も多い点を検索する必要があることから、ハフパラメータ空間を検索空間と称することもある。本文においては、特別な区分がない限り、ハフパラメータ空間と、累積空間と、検索空間は、互換的な使用が可能である。
<2、路面検知方法の第1の実施例>
図1は、本発明への理解を容易にするための、本発明の適用環境の例となる、車載システムの略図である。本発明のソフトウェアまたはハードウェアは、車載システムにおける道路検知部として実現することができる。
2.1、路面検知方法の全体フロー
図2は、本発明の第1の実施例における路面検知方法1000の全体フローチャートである。
ステップS1100においては、路面を含むV視差図を取得する。双眼カメラ、多眼カメラ、ステレオカメラによる撮像から、路面を含む視差図が算出され、視差図からV視差図に変換されてもよく、或いは、立体図から奥行図が得られ、奥行図から視差図が得られ、視差図からV視差図に変換されてもよい。
図3(a)は、車載ステレオカメラで撮像された道路領域の視差図を例示し、図3(b)は、図3(a)に示された視差図から変換されたV視差図を例示した図である。
前述の場合は、視差図を取得してから、視差図からV視差図を取得しているが、これは1例に過ぎず、例えば、双眼カメラで撮像された画像への処理や算出により、V視差図を直接取得してもよい。
なお、1実施例においては、視差図やV視差図に対して、ノイズ除去処理を施してもよい。
ステップS1200において、V視差図から線分を路面として取得し、ここでは限定されたハフ変換による路面線分の推定を行う。
1実施例においては、V視差図から線分を路面として抽出することにおいて、視差の大小順に、即ち、(車両に搭載されたカメラに対して)近距離から遠距離順に、V視差図から路面となる線分を抽出し、ここで、該線分は、限定されたハフ変換による推定から得られ、前線分で推定された直線パラメータにより、次線分の初期直線パラメータを限定することを含んでもよい。
V視差図からの線分抽出による路面のシミュレーションについては、発明者のユ ガンメイらによる出願番号CN201110434873.Xの中国特許出願における技術内容を参照することができる。ここでは、引用によりその全文をここに盛り込むことにする。
図4は、本発明の1実施例における近視野、中視野、遠視野の3つの線形線分から構築された路面モデルの略図である。ここで、該図及び該図に類似した本発明の他のV視差図においては、座標原点が左上コーナーに位置し、横軸が視差を表し、左右方向に延伸しており、縦軸が高さVを表し、上下方向に延伸している。
本発明の1実施例においては、該線分型路面モデルは、近、中、遠の3つの部分に分けられ、それぞれ近距離(或いは、近視野)、中距離(或いは、中視野)、遠距離(或いは、遠視野)にある路面形状を表している。該実施例のモデルにおいては、各路面線分の長さは適応的なものであり、例えば、ある区間における該線分上の点の数を検出することにより、路面線分の長さを決定し、これにより、より一層検知精度が向上するとともに、それぞれの道路タイプへの適応性が強くなる。
ここで、本発明の実施例における路面検知アルゴリズムは、線分型路面モデルに基づくものであるが、これは、路面モデルが必ずしも線分型であることを示すものではなく、例えば、場合によっては、2次曲線モデルを構築してもよく、このときは、画像から2次曲線を検出することになる。路面は、上り坂や、下り坂が存在するなど、常に平坦とは限らないことから、路面の側面の外形は、曲線形式となるのである。しかし、曲線モデルを直接用いて路面を記述すると、算出量が膨大で、かつノイズの影響を受け易いため、本発明の実施例においては、線分型道路モデルを用いることにより、より迅速でかつロバストな路面検知が可能になる。
前述のように、従来技術には、ハフ変換を用いたV視差図からの線分抽出による平面推定の技術が提案されているが、前述のように、発明者は、簡単なハフ変換の直接利用によるV視差図からの線分抽出は、一つ目の問題として、ハフ変換空間全体で変換及び累積を行う必要があるため、計算量が膨大で、実行速度が遅くなること、二つ目の問題として、路辺のガードレール、用水路等のノイズ影響を受け易いこと等、多くの問題が存在していることを見出した。本発明は、少なくともある程度、このような問題や不十分さを解決するために、各種限定されたハフ変換による複雑環境中の路面推定方法を提供している。簡単なハフ変換による路面推定方法は、同一の発明者の陳超らの出願番号CN201210194074.4の発明特許出願から得ることができ、ここでは、引用により、その全文をここに盛り込むことにする。
以下、制限されたハフ変換による路面線分の推定の各例を説明する。
<2.2、例1:ハフ変換の累積空間の限定>
1実施例においては、先験知識により、ハフ変換の累積空間(検索空間)を限定することができる。
1実施例において、路面のV視差図は、車両上に固定したステレオカメラから撮像された立体画像から得られる。例えば、双眼カメラが車両の上部に装着され、左右画像が撮像されて視差図が得られる。このような視差図から変換されV視差図が得られる。
このため、撮像手段のパラメータにより、実際の3D環境中の路面の、V視差図に写像された領域範囲及び傾斜角範囲を決定することができる。
撮像手段のパラメータは、内パラメータと外パラメータを有する。撮像手段の外パラメータは、たとえば、撮像手段から路面までの高さ、双眼カメラの場合の左右カメラ中心点の距離、画像面の路面との夾角等がある。撮像手段の内パラメータは、例えば、カメラの焦点距離等がある。このような先験知識を用いて、当業者は数学演算により、路面のV視差図中の検知領域及び路面直線の傾斜角範囲を決定することができる。即ち、V視差図中の路面線分の極座標形式ρ=xcosθ+ysinθにおけるρとθの値範囲を決定することができる。これにより、前記パラメータの値範囲により、ハフ変換の累積空間(即ち、検索空間)を限定することができる。
図5は、ハフ変換の累積空間が、1つの小領域内に限定された例を示した略図であり、ここで、ハフ変換の累積空間は、点線の矩形で示されたような領域内に限定されている。
なお、本発明の他の実施例においては、追跡情報により、ハフ変換の累積空間を限定することができる。理由としては、車両の連続走行中、路面の突然変化は生じないことから、該アルゴリズムは、履歴情報(例えば、前の1つのフレームないし前の複数のフレーム)を、追跡情報として用いて、次のフレームの検知パラメータ(角度及び距離)の推定を行うことができる。
前述の本発明の実施例における先験情報、及び/または履歴情報による、ハフ変換の検索空間の有効な縮小が可能になり、ノイズ干渉の除去とともに、処理時間の低減が可能になる。
<2.3、例2:ハフ変換の変換範囲の限定>
1実施例においては、限定ハフ変換の変換範囲により、変換工程を加速させることができる。
前述のように、実際の路面のV視差図における対応線分の、ハフ変換による極座標関数は、下記の式のようになる。
ρ=x・cos(θ)+y・sin(θ)
式中、xは、V視差図中の対応線分上の1点の横座標値であり、視差値を表し、yは、V視差図中の対応線分上の1点の縦座標値であり、画像座標中の高さを表し、路面に対し、V視差図中の対応線分のパラメータ値が、
を満たし、これにより、
が導き出され、
即ち、実際の路面のV視差図中の極座標関数は、前記パラメータ値範囲内においては、単調減少関数である。これにより、ρ、θの値範囲に基づき、画像中の1画素点のハフ変換時、下記の動作により、変換範囲を制御することができる。
即ち、既知のθにより、ρを検索する形式でハフ変換を行うと仮定すると、θの昇順に、該画素点に対するハフ変換による変換を行う際に、ρが所定のρ値範囲の下限未満であることが分かった場合は、該画素点に対する変換を停止し、次に、V視差図中の次画素点に対し、画像空間からハフ空間への変換を行い、或いは、θの降順に、ハフ変換による変換を行う際に、ρが所定のρ値範囲の上限を超えていることが判明した場合は、該画素点に対する変換を停止し、次に、V視差図中の次画素点に対し、画像空間からハフ空間への変換を行う。
或いは、既知のρにより、θを検索する形式でハフ変換を行うと仮定すると、ρの昇順に、1画素点に対するハフ変換による変換を行う際に、θが所定のθ値範囲の下限未満であることが判明した場合は、該画素点に対する変換を停止し、次に、V視差図中の次画素点に対し、画像空間からハフ空間への変換を行い、或いは、ρの降順に、ハフ変換による変換を行う際に、θが所定のθ値範囲の上限を超えていることが判明した場合は、該画素点に対する変換を停止し、次に、V視差図中の次画素点に対し、画像空間からハフ空間への変換を行うようにする。
以上から分かるように、本発明の該実施例においては、実際の路面のV視差図中の極座標関数が前述のパラメータ値範囲内では単調減少関数である特性を用いることで、写像工程の加速化、及び処理時間の低減が可能になる。
<2.4、例3:ハフ変換の累積重みの設定>
1実施例においては、V視差図における画素点の強度値により、ハフ変換のパラメータ空間における該画素点に対応する曲線の累積重み値を設定することができる。
前述のように、V視差図における画素点の強度値は、元視差図における同一のy座標と視差値を有する点の累積数を表している。本発明の実施例による路面検知においては、ノイズ点が比較的に分散していることから、その累積値が比較的に小さく、即ち、V視差図に現れる強度が比較的に低くなる一方、路面点は集中していることから、その累積値が比較的に大きく、即ち、V視差図に現れる強度強度値が比較的に高くなっている。このため、本発明の実施例においては、強度値をハフ変換の累積重みとして設定することにより、有効な路面点の変換における重要性を強調し、検知精度を向上することができる。
<2.5、例4:ハフ直線群の群分け>
図6(a)、(b)は、路面上の点の、ハフ空間における理想のハフ直線群と、実際のハフ直線群をそれぞれ示した図である。
理想の場合、3次元世界中の平坦路面は、図6(a)に示されたように、V視差図で厳格な1つの直線として現れるが、実際の場合、3次元世界中の平坦路面は、V視差図で厳格な1つの直線として現れることなく、略1つの直線に位置することとなる。また、ノイズ干渉の要素を考慮すると、路面のV視差図における点で写像されるハフ直線群は、厳格にハフパラメータ空間中の1点を通るものではなく、図6(b)に示されたように、1つの小領域を通るものである。
この場合、通常のハフ変換におけるハフパラメータ空間中の重み曲線の交差の累積値が最大となる幾つかの点を統計すると、下記の問題が生じるおそれがある。即ち、ハフパラメータ空間に比較的に重み値の大きい孤立した曲線や、交差した若干のまばらな曲線(例えば、路面環境中の用水路に当たる)が存在すると、該孤立した曲線や、若干のまばらな曲線の累積値が比較的に大きく、路面のハフパラメータ空間における対応直線群は、厳格に1点で交差するのではなく、図6(b)中の点線の矩形フレーム内の集合として表されるため、実際の路面を表すハフパラメータ空間中の点(図6(b)中の点線矩形フレーム内)の累積値が、該孤立した曲線や、若干のまばらな曲線を超える、十分に高い累積値でない可能性があり、これにより、実際の路面を表すハフパラメータ空間中の点(図6(b)中の点線矩形フレーム内)が選択されないおそれがある。
前記問題を解決するために、本発明の1実施例においては、限定されたハフ変換による、路面線分の推定において、第1のウィンドーにより、ハフパラメータ空間を走査し、第1のウィンドー内のハフ曲線の重み値を累積し、累積値をウィンドーの中心にセットし、第2のウィンドーにより、ハフパラメータ空間を走査し、ウィンドー内の累積重み値が最大となる点を検出し、該点を保留するとともに、ウィンドー内の該点以外の他の点は、0にセットする、工程により、ハフパラメータ空間中の1点を略通る直線を収集し、ノイズ低減を実現している。前記第1のウィンドーと第2のウィンドーのサイズは、要求される精度及び路面の実状況に応じて設定されてもよく、学習によって設定されてもよい。
本発明の実施例における前記工程においては、1つの小領域内に集合するハフ直線群が累積(或いは、集合)され、1点として表されることで、選択漏れを防ぐことができる。
<2.6、例5:ハフ直線群の簡素化>
ハフパラメータ空間においては、多くのハフ直線群が存在し、ハフ直線群の選出工程が必要となる。
本発明の1実施例においては、全てのハフ累積空間を検索して累積値中の全体の最大値を検出し、該全体の最大値の所定比を動的閾値とする。次に、該動的閾値を用いて、該動的閾値を超えた累積値の直線のみ保留するように、候補のハフ直線群を選出している。
前述の本発明の実施例によるハフ直線群の群分け及び簡素化処理により、大半のノイズ及び弱小体のエッジ(例えば、用水路に該当する部分)は、除去されることになる。
図7は、群分け及び簡素化処理前後のハフ直線群の比較図である。ここで、図7(a)は、群分け及び簡素化処理前の元ハフ直線群を表し、図7(b)は、群分け及び簡素化処理後のハフ直線群を表している。
<2.7、例6:水平距離に基づくハフ直線の抽出>
実際の3Dシーンにおいて、路面は通常、比較的に低い位置にある。写像から得られたC視差図において、路面の側面輪郭線は、依然として画像底部に位置することになる。通常、路面より低い位置にある物体(例えば、用水路等)は、比較的に弱いことから、例えば、ハフ直線群の群分け及び簡素化等の処理によって除去することができる。
このため、路面の高さ特徴により、ハフ変換で抽出された線分から、比較的にV視差図の最下部に位置する線分を路面直線として選択する必要がある。
図8(a)、(b)は、本発明の1実施例における抽出したハフ変換線分と、水平面の対応線間の距離算出図、及び最後に選択した路面線分の略図である。
本発明の1実施例においては、路面線分のこのような高さを測定するために、車両上の固定された双眼カメラと同一高さの水平面を取り入れている。投影後、3D空間中の水平面は、V視差図中の1直線(以下、水平面の対応線と称される)として写像される。具体的に、双眼カメラの光軸と水平面が平行している(或いは、双眼カメラの水平面に対するアングルが0である)場合は、3D空間中の水平面は、V視差図に水平線として表れ、それ以外の場合は、水平線ではなく、アングルによって、上向きに偏るか、下向きに偏るものとなる。
図8(a)に示されたように、路面線分と水平面の対応線の2線間の距離を測定するために、水平距離Dを取り入れ、例えば、下記式により、水平距離Dが定義される。
式中、A、B、Cは、水平面の対応線のパラメータであり、(x1、y1)、(x2、y2)は、ハフ変換から抽出された線分の2端点の座標値であり、λは、重み係数である。
1実施例においては、各ハフ変換から抽出された線分と水平面の対応線間の距離の算出後は、ハフ変換から抽出された線分における、該水平面の対応線の下方で、かつ該水平面の対応線との距離が最大となる線分を、路面として選択することができる。図8(b)は、距離によって選出した路面線分を表している。
前述の2.2〜2.7節で、路面検知応用による、ハフ変換検知路面線分への各種限定例を示したが、各種限定手段は、単独に用いてもよく、複数または全部を組み合わせて用いてもよい。
<3、路面検知方法の第2の実施例>
図9は、本発明の1実施例における路面検知方法2000の全体フローチャートである。
第2実施例の路面検知方法2000と、第1実施例の路面検知方法1000との相違点は、ステップS2110が追加されたことになる。ステップS2100及びステップS2200に関しては、図1を参照して説明したステップS1100及びステップS1200を参考することができ、ここでは重複説明は割愛する。
図9に示されたように、ステップS2110において、V視差図をフィルタして路面候補点を選出する。
処理なしにV視差図に対してハフ変換による線分抽出を行うと、ノイズが非常に多くなり、検知結果が不正確になるとともに、計算量も膨大となる。
本発明の1実施例においては、V視差図をフィルタして路面候補点を選出することにより、無効点の除去、計算効率の向上、及びノイズ干渉の防止を可能にする。
図10は、本発明の1実施例におけるV視差図のフィルタによる、路面候補点の選択方法2110のフローチャートを例示した図である。
以下、図10を参照して、本発明の1実施例におけるV視差図のフィルタによる、路面候補点の選択方法2110について説明する。
図10に示されたように、ステップS2111において、V視差図を入力として受信する。
ステップS2112において、下方から上方へ各列を走査し、路面候補点を選択する。理由としては、車両、建築物、通行人等は、いずれも路面より高い位置にあり、路面点は通常、写像後に、下部に位置することから、下方から上方の順は、路面の実際の位置特性と一致している。
ステップS2113において、分類条件に応じて、全画素点が路面点や背景点に分類され、各画素点Piに関しては、(1)強度値が所定の閾値T1を超えること;(2)その隣接域内の画素点の数が閾値TNを超えることの、2つの判別基準がある。
該2つの条件に基づき、各列に関し、路面点を保留し、その保留基準としては、各例において、以下の状況に応じて、0個、1個、2個の路面候補点を保留する。
具体的な保留基準としては、
1)1列におけるいずれの点も、判別基準におけるいずれかの条件を満足しない場合は、該列から画素点を選択せず(ステップS2116)、
2)1列において、下方から上方へ走査した一つ目の点が、判別基準におけるいずれかの条件を満たすとともに、判別基準における2つの条件とも満たす場合は、該列における該点のみ保留し(ステップS2115)、
3)1列において、下方から上方へ走査した一つ目の点が、判別基準におけるいずれかの条件を満たし、判別基準におけるいずれか1つの条件のみを満足する場合は、該点を保留する以外に、走査を継続し、判別基準におけるいずれかの条件を満たす第2の点を検索し保留する(ステップS2114)。
ステップS2117において、保留した全ての路面点を出力或いは保存する。
図11は、フィルタ前後のV視差図を示し、ここで、図11(a)は、フィルタ前のV視差図、図11(b)は、フィルタ後のV視差図である。以上から、V視差図のフィルタ後は、大量の無効点が除去され、少量の有効な路面点のみ保留されることで、計算量を大幅に低減することができる。
<4、路面検知方法の第3の実施例>
図12は、本発明の第3実施例における路面検知方法3000のフローチャートである。
図12に示された路面検知方法においては、得られたV視差図にフィルタを施し、各種限定されたハフ変換を施すとともに、選択的に、履歴情報による次フレームのV視差図中の路面検知の導きも可能である。第3実施例における路面検知方法3000は、第1実施例の路面検知方法1000と第2実施例の路面検知方法2000の最適な組み合わせ例とみなすことができる。
具体的に、ステップS3100において、路面を含むV視差図を取得し、該ステップの動作は、第1実施例におけるステップS1100を参考することができる。
ステップS3110において、得られたV視差図へのフィルタ処理により、路面候補点を選択し、該ステップの動作は、第2実施例中のステップS2110を参考することができる。
ステップS3210において、前述の第2.2節で説明したように、ハフ変換の累積空間を限定する。
ステップS3220において、前述の第2.3節で説明したように、ハフ変換の変換範囲を制限する。
ステップS3230において、前述の第2.4節で説明したように、ハフ変換の検索空間中の曲線の累積重みを設定する。
ステップS3240において、前述の第2.5節で説明したように、ハフ直線群の群分けを行い、ハフパラメータ空間中の1点を略通る直線を集合し、ノイズを低減する。
ステップS3250において、前述の第2.6節で説明したように、ハフ直線群の簡素化、もしくは選出を行う。
ステップS3260において、前述の第2.7節で説明したように、各簡素化されたハフ直線の水平面対応線との距離により、底部に位置する直線を判断するとともに、判定した底部に位置する直線を路面直線として選択する。
ステップS3270において、検出した路面線分を出力する。該ステップの出力動作においては、簡単にV視差図に出力及び表示することができる。或いは、V視差図から視差図に逆変換し、視差図に表示することができ、ひいては階調画像に対応付け、階調画像により直観的な路面表示を行うことができる。図13は、V視差図から検知された路面線分、及び元視差図に逆写像された対応路面を示した略図であり、図13(a)が、V視差図から検知された路面線分の略図を示し、図13(b)が、該V視差図における路面線分が元視差図に逆写像された対応路面を示した略図である。なお、図13(a)における3つの縦線は、近視野、中視野、遠視野を表す3つの線形線分(以降の図14(a)、(b)における3つの縦線も同様である)を分割するためのものである。
なお、図12の破線で表されたフロー方向に示されたように、本発明の限定されたハフ変換路面線分の抽出による、次フレームの路面検知の追跡を選択的に行ってもよい。具体的に、例えば、現フレームのV視差図から路面線分を検知後は、ステップS3300において、次フレームのV視差図を取得し、ステップS3110に戻る。異なる点としては、以降の各ハフ変換の制限が、ステップS3210〜S3260に追加されることであり、関連パラメータは、前フレーム処理結果として得られたパラメータを参考することができる。例えば、第nフレームにおいて、路面線分のパラメータρn、θnが得られた場合は、車両走行中に路面の突然変化が生じないことを考えて、ステップS3210において、ハフ変換の累積空間を、ρn±Δρ、θn±Δθで定められた範囲に限定することができる。
図14は、本発明の実施例における限定されたハフ変換路面検知と、従来の最小二乗法検知及び従来のハフ変換検知を、2つの路面シーンに適用した場合の路面検知実験結果の比較図である。図14(a)においては、紙面方向に、上方から下方の3つの線分が、それぞれ、最小二乗法、従来のハフ変換、本発明の限定されたハフ変換で検知された路面直線である。図14(b)においては、紙面方向に、上方から下方の3つの線分が、それぞれ、従来のハフ変換、最小二乗法、本発明の限定されたハフ変換で検知された路面直線である。本発明の実施例における限定されたハフ変換による路面直線検知方法は、最小二乗法と従来のハフ変換に比べて、より正確な路面検知が可能になり、最下部の点に対応する直線(本例においては、用水路に対応)を路面直線とすることも、上部の点に対応する直線(本例においては、ガードレールに対応)を路面直線とすることもなく、比較的に下部に位置する路面の適切な検出が可能である。
直観的な比較のために、V視差図から検知した路面線分により、V視差図における路面点を決定し、これらの点を元視差図に逆写像(還元)してもよい。具体的に、検知したV視差図における路面線分(例えば、y=kd+b)により、任意の距離(或いは、視差)dに対し、対応する路面高さ(画像座標中の)を算出することにより、元視差図における、該高さと距離の箇所に位置する全ての路面点を決定することができる。図15は、元白黒階調画像、従来の検知方法による検知路面の元視差図における表れ、本発明の実施例における限定されたハフ変換方法による検知路面の元視差図における表れの比較図である。ここで、図15(a1)が、元白黒階調画像、(b1)が、従来の検知方法による検知路面の元視差図における表れ、(c1)が、本発明の実施例における限定されたハフ変換方法による検知路面の元視差図における表れを示している。同様に、図15(a2)が、元白黒階調画像、(b2)が、従来の検知方法による検知路面の元視差図における表れ、(c2)が、本発明の実施例における限定されたハフ変換方法による検知路面の元視差図における表れを示している。図15(b1)から、従来のハフ変換路面検知では、車両(矩形フレーム内の部分で示されたように)が除去されていないことが分かり、図15(c1)から、本発明の実施例における限定されたハフ変換による路面検知結果では、車両が除去されていることが分かる。同様に、図15(b2)から、従来のハフ変換路面検知では、ガードレール(矩形フレーム内の部分で示されたように)が除去されていないことが分かり、図15(c2)から、本発明の実施例における限定されたハフ変換による路面検知結果では、ガードレールが除去されていることが分かる。なお、図15(c1)に示されたように、本発明の実施例における限定されたハフ変換による路面検知結果では、道路標識ラインが保留されている。また、図15(c2)に示されたように、本発明の実施例における限定されたハフ変換による路面検知結果では、路面が強調されている。
前述の第1、第2、第3実施例の、限定されたハフ変換路面検知方法によれば、ノイズ除去、算出量の低減、より適切な路面点の処理、及び路面の強調が可能になり、より正確な路面検知が可能になる。
本発明の実施例における、路面検知方法は、正確な路面の検知が可能になることから、以降の検知及び識別において、路面の高さによる、非対象の物体と非道路の領域の除去が可能になる。
より具体的には、1実施例においては、追跡情報及び/または先験知識から、ハフ変換の累積空間を限定し、ノイズの除去、データ量の低減を可能にする。
他の実施例によれば、ハフ変換の変換範囲を限定することで、変換工程を加速させることができる。
他の実施例によれば、アルゴリズムの精度を向上することができる。
他の実施例によれば、ハフ直線群の群分けと簡素化により、検知の適応性とロバスト性を向上することができる。
さらに他の実施例によれば、水平面距離による路面直線の選出により、ガードレール、用水路等のノイズの影響を減らすことができる。
さらに他の実施例によれば、V視差図をフィルタして、路面候補点を選出することにより、ノイズの影響を減らし、算出量を大幅に低減することができる。
<5、路面検知装置>
図16は、本発明の1実施例における路面検知装置4000のブロック図である。
図16に示されたように、路面検知装置4000は、路面を含むV視差図を取得するV視差図取得部4100と、V視差図から線分を路面として抽出する路面線分抽出部4200と、を備え、路面線分抽出部4200は、限定されたハフ変換により、路面線分を推定する。
<6、システムのハードウェア配置>
本発明は、さらに、路面検知システムとして実施されてもよい。図17は、本発明の実施例における路面検知システムのハードウェア配置の概念図である。図17に示されたように、路面検知システム6000は、外部から、例えば双眼カメラで撮像された左右画像、ステレオカメラで撮像された立体映像等のような処理すべき画像を入力するための、例えば、キーボード、マウス、通信ネットワーク、及びこれに接続された遠隔入力装置等の入力装置6100と、前述の本発明の実施例による路面検知方法を実施するための、或いは、路面知装置として実施される、例えば、コンピュータのCPUや、他の処理機能を有するチップ等の、例えば、インターネットのネットワーク(未図示)に接続可能な、処理工程のニーズに応じたネットワークからの左右画像等のデータ取得が可能な処理装置6200と、外部へ前述の路面検知工程から得られた結果を出力するための、例えば、モニター、プリンタ、通信ネットワーク及びそれに接続された遠隔出力装置等の出力装置6300と、揮発或いは不揮発形式にて、前記検知工程における画像、得られた結果、命令、中間データ等を記憶するための、例えば、RAM、ROM、ハードディスクや、半導体メモリ等の各種揮発または不揮発性メモリ等の記憶装置6400を有する。
<7、まとめ>
以上、本発明の実施例による路面検知方法及び路面検知装置について説明した。
本発明の一の態様においては、該路面検知方法が、路面を含むV視差図を取得し、V視差図から線分を路面として抽出する路面検知方法であって、V視差図から線分を路面として抽出する工程は、限定されたハフ変換により、路面線分を推定することを含んでもよい。
前記路面を含むV視差図は、車両上に固設されたステレオカメラで撮像された立体画像から得られ、実際の3D環境中の路面がV視差図に写像された領域範囲及び傾斜角の範囲は、撮像手段のパラメータにより決められる。ここで、限定されたハフ変換により、路面線分を推定する工程においては、3D環境中の路面がV視差図に写像された領域範囲及び傾斜角の範囲により、実際の路面のV視差図中の対応線分の、ハフ変換のパラメータ空間におけるパラメータ値範囲が決められるようにしてもよい。これにより、先験知識からハフ変換の累積空間を限定し、ノイズの除去、データ量及び算出量の低減を可能にする。
他の実施例においては、現フレームの路面線分への検知結果から、次フレームの路面線分の検知のための予測を提供し、例えば、次フレームに関するハフ変換の累積空間を限定することにより、ノイズの除去、データ量及び算出量の低減を可能にする。
さらに他の実施例においては、実際の路面のV視差図中の対応線分の、ハフ変換による極座標関数が、以下の式で表され、
式中、xは、V視差図中の対応線分上の1点の横座標値であり、視差値を表し、yは、V視差図中の対応線分上の1点の縦座標値であり、画像座標中の高さを表し、路面に対し、V視差図中の対応線分のパラメータ値が、
を満たし、これにより、
が導き出され、
前記パラメータ値範囲内における、V視差図中の実際の路面の極座標関数は、単調減少関数であることから、ρ、θの値範囲に依存し、
θの昇順に、1画素点に対してハフ変換による変換を行う際に、ρが所定のρ値範囲の下限未満である場合は、該画素点に対する変換を停止し、その後、V視差図中の次画素点に対し、画像空間からハフ空間への変換を行い、或いは、θの降順に、1画素点に対してハフ変換による変換を行う際に、ρが所定のρ値範囲の上限を超えた場合は、該画素点に対する変換を停止し、その後、V視差図中の次画素点に対し、画像空間からハフ空間への変換を行い、或いは、
ρの昇順に、1画素点に対してハフ変換による変換を行う際に、θが所定のθ値範囲の下限未満である場合は、該画素点に対する変換を停止し、その後、V視差図中の次画素点に対し、画像空間からハフ空間への変換を行い、或いは、ρの降順に、1画素点に対してハフ変換による変換を行う際に、θが所定のθ値範囲の上限を超えた場合は、該画素点に対する変換を停止し、その後、V視差図中の次画素点に対し、画像空間からハフ空間への変換を行ってもよい。
前記実施例によれば、ハフ変換の変換範囲を限定することで、変換工程を加速させることができる。
さらに他の実施例においては、限定されたハフ変換により、路面線分を推定する工程において、V視差図中の画素点の強度値により、ハフ変換のパラメータ空間中の該画素点に応じた曲線の累積重みが設定されるようにしてもよい。これにより、アルゴリズムの精度を向上することができる。
さらに他の実施例においては、限定されたハフ変換により、路面線分を推定する工程において、第1のウィンドーにより、ハフパラメータ空間を走査し、第1のウィンドー内のハフ曲線の重み値を累積し、累積値を第1のウィンドーの中心にセットし、第2のウィンドーにより、ハフパラメータ空間を走査し、第2のウィンドー内の累積重み値が最大となる点を検出して該点のみを保留し、第2のウィンドー内の該点以外の他の点を0にセットする、工程により、ハフパラメータ空間中の1点を略通る直線を収集し、ノイズを低減するようにしてもよい。前述の動作により、ハフ直線群と称される群分けを直観することができ、検知の適応性とロバスト性を向上し、ガードレール、用水路等のノイズの影響を減らすことができる。
限定されたハフ変換により、路面線分を推定する工程において、さらに、全てのハフ累積空間を検索して累積値中の全体の最大値を検出し、該全体の最大値の所定比を動的閾値として、該動的閾値を超えた累積値の直線のみ保留するように、候補のハフ直線群を選出するようにしてもよい。これにより、検知の適応性とロバスト性を向上し、ガードレール、用水路等のノイズの影響を減らすことができる。
1つの実施例において、路面検知方法は、ハフ変換により抽出された線分から、V視差図の最下部の位置にある線分を路面として選択する工程をさらに含んでもよく、該工程は、V視差図における実際の3D環境中の双眼カメラの高さと同一の水平面に対応する水平面の対応線を取得し、下記式により、ハフ変換から抽出した線分と該水平面の対応線との間の距離を測定し、
(式中、A、B、Cは、水平面の対応線のパラメータであり、(x1、y1)、(x2、y2)は、ハフ変換により抽出された線分の2端点の座標値であり、λは、重み係数である)
ハフ変換により抽出された線分における、該水平面の対応線の下方にあり、かつ該水平面の対応線との距離が最大となる線分を、路面として選択する、ことにより行われる。これによって、ガードレール等のノイズの影響を減らすことができる。
さらに、限定されたハフ変換により路面線分を推定する前に、V視差図をフィルタして路面候補点を選出する工程が、1)下方から上方へ各列を走査し、各画素点が、条件1としての、画素点の強度値が所定の強度閾値を超えることと、条件2としての、画素点の隣接域内の画素点の数が所定の数閾値を超えることの、少なくとも2つの条件を満足した否かを判断し、2)1列に条件1又は条件2を満足する画素点が存在しない場合は、該列から画素点を選択せず、3)1列において、下方から上方へ走査した一つ目の画素点が、前記2つの条件のうちの1つの条件を満たすとともに、該2つの条件のうちのもう1つの条件も満たす場合は、該列の走査を中止するとともに、該列における該画素点のみ保留し、4)1列において、下方から上方へ走査した一つ目の画素点が、前記2つの条件のうちの1つの条件を満たし、該2つの条件のうちのもう1つの条件は満たさない場合は、該画素点を保留するとともに、走査を継続し、前記2つの条件のうちの任意の1つの条件を満たす所定数の画素点を検索し保留する、工程により行われるようにしてもよい。該V視差図をフィルタして、路面候補点を選出する工程により、ノイズの大幅な除去が可能になり、算出量を低減することができる。
本発明の他の態様においては、路面を含むV視差図を取得するV視差図取得部と、V視差図から線分を路面として抽出する路面線分抽出部と、を備えた路面検知装置であって、前記路面線分抽出部は、限定されたハフ変換により、路面線分を推定することを含むようにしてもよい。
本発明の実施例の説明は、例示的なものに過ぎず、当業者は、ニーズに応じた変化、代替や、組合せが可能である。
前述では、視差図からV視差図を算出しているが、V視差図は、例えば、双眼カメラ、多眼カメラ、ステレオカメラのような特殊カメラで撮像された左右画像から直接求められるか、或いは、立体図における奥行図から直接求められてもよいことがわかる。
なお、前述の実施例においては、車が前方行進し、双眼カメラにより車の前方シーンを撮像する場合を示したが、本発明は、同様に、車が後進し、双眼カメラにより車の後方シーンを撮像する場合にも適用することができる。ただし、この場合に検知されるのは、車の後方の路面となる。
以上、具体的な実施例により、本発明の基本原理を説明したが、本発明の方法及び装置の全て、或いは任意のステップや部材は、任意の演算装置(プロセッサ、記録媒体等を含む)や、演算装置のネットワークにおいて、ハードウェア、ファームウェア、ソフトウェアや、これらの組合せにより実現可能であり、本発明の説明のもと、基本プログラミング技能を用いて実現可能であることは、当業者が理解できる。
このため、本発明の目的は、さらに、任意の演算装置上で1つのプログラムや1セットのプログラムを実行して実現できる。前記演算装置は、公知の汎用装置でもよい。このため、本発明の目的は、単に前記方法や装置を実現するプログラムコードを含むプログラム製品を提供することでも実現することができる。換言すると、このようなプログラム製品も本発明をなし、このようなプログラム製品を記録した記録媒体も本発明をなすことになる。もちろん、前記記録媒体は、任意の公知の記録媒体や、将来開発し得る任意の記録媒体でもよい。
ここで、本発明の装置及び方法において、各部材や、各ステップは、分解及び/或いは再組み合わせが可能であることは言うまでもない。このような分解及び/または再組み合わせも、本発明と等価の発明と見なされるべきである。なお、前記系列処理の実行ステップは、自然に説明順、時間順に行うことができるが、必ずしも一定の時間順に行われる必要はなく、あるステップは、並行して、或いは互いに独立して行われてもよい。
本発明の保護範囲は、前述の具体的な実施形態に制限されるものではなく、当業者が、設計要求や他の要素に応じて、多種多様な補正、組み合わせ、サブ組み合わせや、代替が可能であることは言うまでもない。本発明の精神と原則を逸脱しない範囲内のいずれの修正、同等の代替や、改善等は、すべて本発明の保護範囲内のものとなるべきである。
EP762326B1
「U-V-Disparity based Obstacle Detection with 3D Camera and Steerable Filter」, Y.Gao, X.Ai, Y.Wang, J.Rarity and N.Dahnoun, 2011 IEEE Intelligent Vehicles Symposium

Claims (4)

  1. 路面を含むV視差図を取得し、
    V視差図から線分を路面として抽出する路面検知方法において、
    V視差図から線分を路面として抽出する工程は、限定されたハフ変換により、路面線分を推定することを含
    前記路面検知方法は、ハフ変換により抽出された線分から、V視差図の最下部の位置にある線分を路面として選択する工程をさらに含み、該工程は、
    V視差図における実際の3D環境中の双眼カメラの高さと同一の水平面に対応する水平面の対応線を取得し、
    下記式により、ハフ変換から抽出した線分と該水平面の対応線との間の距離を測定し、
    (式中、A、B、Cは、水平面の対応線のパラメータであり、(x1、y1)、(x2、y2)は、ハフ変換により抽出された線分の2端点の座標値であり、λは、重み係数である)
    ハフ変換により抽出された線分における、該水平面の対応線の下方にあり、かつ該水平面の対応線との距離が最大となる線分を、路面として選択する、ことにより行われる、路面検知方法。
  2. 路面を含むV視差図を取得し、
    V視差図から線分を路面として抽出する路面検知方法において、
    V視差図から線分を路面として抽出する工程は、限定されたハフ変換により、路面線分を推定することを含み、
    前記路面検知方法は、限定されたハフ変換により路面線分を推定する前に、V視差図をフィルタして路面候補点を選出する工程をさらに含み、該工程は、
    1)下方から上方へ各列を走査し、各画素点が、条件1としての、画素点の強度値が所定の強度閾値を超えることと、条件2としての、画素点の隣接域内の画素点の数が所定の数閾値を超えることの、少なくとも2つの条件を満足した否かを判断し、
    2)1列に条件1又は条件2を満足する画素点が存在しない場合は、該列から画素点を選択せず、
    3)1列において、下方から上方へ走査した一つ目の画素点が、前記2つの条件のうちの1つの条件を満たすとともに、該2つの条件のうちのもう1つの条件も満たす場合は、該列の走査を中止するとともに、該列における該画素点のみ保留し、
    4)1列において、下方から上方へ走査した一つ目の画素点が、前記2つの条件のうちの1つの条件を満たし、該2つの条件のうちのもう1つの条件は満たさない場合は、該画素点を保留するとともに、走査を継続し、前記2つの条件のうちの任意の1つの条件を満たす所定数の画素点を検索し保留する、工程により行われる、路面検知方法。
  3. 路面を含むV視差図を取得するV視差図取得部と、
    V視差図から線分を路面として抽出する路面線分抽出部と、を備えた路面検知装置において、
    前記路面線分抽出部は、限定されたハフ変換により、路面線分を推定
    前記路面検知装置は、ハフ変換により抽出された線分から、V視差図の最下部の位置にある線分を路面として選択する手段をさらに含み、該手段は、
    V視差図における実際の3D環境中の双眼カメラの高さと同一の水平面に対応する水平面の対応線を取得し、
    下記式により、ハフ変換から抽出した線分と該水平面の対応線との間の距離を測定し、
    (式中、A、B、Cは、水平面の対応線のパラメータであり、(x1、y1)、(x2、y2)は、ハフ変換により抽出された線分の2端点の座標値であり、λは、重み係数である)
    ハフ変換により抽出された線分における、該水平面の対応線の下方にあり、かつ該水平面の対応線との距離が最大となる線分を、路面として選択する、路面検知装置。
  4. 路面を含むV視差図を取得するV視差図取得部と、
    V視差図から線分を路面として抽出する路面線分抽出部と、を備えた路面検知装置において、
    前記路面線分抽出部は、限定されたハフ変換により、路面線分を推定し、
    前記路面検知装置は、限定されたハフ変換により路面線分を推定する前に、V視差図をフィルタして路面候補点を選出する手段をさらに含み、該手段は、
    1)下方から上方へ各列を走査し、各画素点が、条件1としての、画素点の強度値が所定の強度閾値を超えることと、条件2としての、画素点の隣接域内の画素点の数が所定の数閾値を超えることの、少なくとも2つの条件を満足した否かを判断し、
    2)1列に条件1又は条件2を満足する画素点が存在しない場合は、該列から画素点を選択せず、
    3)1列において、下方から上方へ走査した一つ目の画素点が、前記2つの条件のうちの1つの条件を満たすとともに、該2つの条件のうちのもう1つの条件も満たす場合は、該列の走査を中止するとともに、該列における該画素点のみ保留し、
    4)1列において、下方から上方へ走査した一つ目の画素点が、前記2つの条件のうちの1つの条件を満たし、該2つの条件のうちのもう1つの条件は満たさない場合は、該画素点を保留するとともに、走査を継続し、前記2つの条件のうちの任意の1つの条件を満たす所定数の画素点を検索し保留する、路面検知装置。
JP2013250359A 2012-12-04 2013-12-03 路面検知方法及び路面検知装置 Active JP6326791B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN201210513215 2012-12-04
CN201210513215.4A CN103854008B (zh) 2012-12-04 2012-12-04 路面检测方法和装置

Publications (2)

Publication Number Publication Date
JP2014110059A JP2014110059A (ja) 2014-06-12
JP6326791B2 true JP6326791B2 (ja) 2018-05-23

Family

ID=49766865

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013250359A Active JP6326791B2 (ja) 2012-12-04 2013-12-03 路面検知方法及び路面検知装置

Country Status (3)

Country Link
EP (1) EP2741233A3 (ja)
JP (1) JP6326791B2 (ja)
CN (1) CN103854008B (ja)

Families Citing this family (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6151150B2 (ja) * 2013-10-07 2017-06-21 日立オートモティブシステムズ株式会社 物体検出装置及びそれを用いた車両
JP6440411B2 (ja) * 2014-08-26 2018-12-19 日立オートモティブシステムズ株式会社 物体検出装置
JP6160634B2 (ja) * 2015-02-09 2017-07-12 トヨタ自動車株式会社 走行路面検出装置及び走行路面検出方法
US9761000B2 (en) 2015-09-18 2017-09-12 Qualcomm Incorporated Systems and methods for non-obstacle area detection
CN105488261B (zh) * 2015-11-25 2019-12-27 天脉聚源(北京)科技有限公司 实时模拟线段的方法和装置
EP3428902A4 (en) * 2016-03-10 2019-08-14 Ricoh Company, Ltd. IMAGE PROCESSING DEVICE, IMAGING DEVICE, MOBILE DEVICE CONTROL SYSTEM, PICTURE PROCESSING PROCESS AND PROGRAM
EP3432264A4 (en) * 2016-03-17 2019-07-10 Ricoh Company, Ltd. IMAGE PROCESSING DEVICE, IMAGE RECORDING, MOBILE BODY DEVICE CONTROL SYSTEM, PICTURE PROCESSING METHOD AND PROGRAM
CN105956511B (zh) * 2016-04-18 2019-04-02 江苏大学 一种基于Hough变换的车道直线检测与合并的方法
JP6712775B2 (ja) * 2016-08-12 2020-06-24 パナソニックIpマネジメント株式会社 路面推定装置、車両制御装置、路面推定方法、およびプログラム
CN106548135A (zh) * 2016-10-17 2017-03-29 北海益生源农贸有限责任公司 一种路面障碍检测方法
CN108510540B (zh) 2017-02-23 2020-02-07 杭州海康威视数字技术股份有限公司 立体视觉摄像机及其高度获取方法
CN107844749B (zh) * 2017-10-19 2020-09-29 海信集团有限公司 路面检测方法及装置、电子设备、存储介质
JP6960827B2 (ja) 2017-11-08 2021-11-05 フォルシアクラリオン・エレクトロニクス株式会社 路面領域検出装置
CN108062515B (zh) * 2017-12-04 2022-01-18 北京中科慧眼科技有限公司 基于双目视觉的障碍物检测方法、系统及存储介质
CN108256510B (zh) * 2018-03-12 2022-08-12 海信集团有限公司 一种道路边缘线检测方法、装置及终端
JP7056496B2 (ja) * 2018-10-03 2022-04-19 株式会社豊田自動織機 位置検出装置
CN111243003B (zh) * 2018-11-12 2023-06-20 海信集团有限公司 车载双目摄像机及其检测道路限高杆的方法、装置
CN109903325B (zh) * 2019-04-03 2021-05-11 杭州晶一智能科技有限公司 基于立体视觉深度信息的地面精确描述方法
CN110197173B (zh) * 2019-06-13 2022-09-23 重庆邮电大学 一种基于双目视觉的路沿检测方法
CN110349169A (zh) * 2019-06-24 2019-10-18 杭州汇萃智能科技有限公司 一种直线测量方法
KR102667741B1 (ko) 2019-11-19 2024-05-22 삼성전자주식회사 3차원 객체를 표시하는 방법 및 장치
CN111241911B (zh) * 2019-12-11 2023-03-24 华侨大学 一种自适应的车道线检测方法
CN111191534B (zh) * 2019-12-18 2023-05-23 长安大学 一种模糊航空图像中的道路提取方法
CN112149493B (zh) * 2020-07-31 2022-10-11 上海大学 基于双目立体视觉的道路高程测量方法
CN112233136B (zh) * 2020-11-03 2021-10-22 上海西井信息科技有限公司 基于双目识别的集卡对位方法、系统、设备及存储介质
CN113160118A (zh) * 2021-02-05 2021-07-23 亿嘉和科技股份有限公司 一种电线目标检测方法
CN113792601B (zh) * 2021-08-10 2024-01-12 武汉光庭信息技术股份有限公司 基于霍夫直线检测结果的车位线拟合方法及系统

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5825915A (en) 1995-09-12 1998-10-20 Matsushita Electric Industrial Co., Ltd. Object detecting apparatus in which the position of a planar object is estimated by using hough transform
JP4222411B2 (ja) * 2006-11-08 2009-02-12 日本電気株式会社 消失点検出システム、消失点検出方法および消失点検出用プログラム

Also Published As

Publication number Publication date
EP2741233A2 (en) 2014-06-11
CN103854008B (zh) 2019-10-18
EP2741233A3 (en) 2015-04-08
CN103854008A (zh) 2014-06-11
JP2014110059A (ja) 2014-06-12

Similar Documents

Publication Publication Date Title
JP6326791B2 (ja) 路面検知方法及び路面検知装置
US9378424B2 (en) Method and device for detecting road region as well as method and device for detecting road line
JP6107097B2 (ja) 道路分割体検知方法及び装置
JP6221371B2 (ja) 路面検知方法及び路面検知装置
KR102267562B1 (ko) 무인자동주차 기능 지원을 위한 장애물 및 주차구획 인식 장치 및 그 방법
JP6131704B2 (ja) 連続型道路分割体の検知方法及び連続型道路分割体の検知装置
JP5989701B2 (ja) 境界検出装置および境界検出方法
JP6299291B2 (ja) 道路エッジ検出方法及び道路エッジ検出装置
JP6111745B2 (ja) 車輌検知方法及び装置
JP6156400B2 (ja) 走行路面検出装置及び走行路面検出方法
EP2711867A2 (en) Method and apparatus for detecting continuous road partition
JP5999127B2 (ja) 画像処理装置
JP6340781B2 (ja) 視差図による視差方向連続型物体検知方法及び装置
US20130128001A1 (en) Method and system for detecting object on a road
KR102667741B1 (ko) 3차원 객체를 표시하는 방법 및 장치
CN107491065B (zh) 利用障碍物的地面边界信息检测物体的侧面的方法和装置
KR102519666B1 (ko) 이미지 변환 장치 및 방법
JP6119409B2 (ja) 対象物領域分割方法及び対象物領域分割装置
KR101699014B1 (ko) 스테레오 카메라를 이용한 객체 검출 방법 및 장치
JP5786793B2 (ja) 車両検出装置
JP5746996B2 (ja) 道路環境認識装置
KR101289386B1 (ko) 스테레오 비전 기반의 장애물체 검출 및 분리 방법과 이를 실행하는 장치
JP2022163861A (ja) 障害物検出装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20161122

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170914

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170926

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171117

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180320

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180402

R151 Written notification of patent or utility model registration

Ref document number: 6326791

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151