JP2008123036A - 消失点検出システム、消失点検出方法および消失点検出用プログラム - Google Patents

消失点検出システム、消失点検出方法および消失点検出用プログラム Download PDF

Info

Publication number
JP2008123036A
JP2008123036A JP2006302955A JP2006302955A JP2008123036A JP 2008123036 A JP2008123036 A JP 2008123036A JP 2006302955 A JP2006302955 A JP 2006302955A JP 2006302955 A JP2006302955 A JP 2006302955A JP 2008123036 A JP2008123036 A JP 2008123036A
Authority
JP
Japan
Prior art keywords
point
straight line
vanishing point
evaluation value
angle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006302955A
Other languages
English (en)
Other versions
JP4222411B2 (ja
Inventor
Kazuyuki Sakurai
和之 櫻井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2006302955A priority Critical patent/JP4222411B2/ja
Priority to EP07831278A priority patent/EP2098992A4/en
Priority to PCT/JP2007/071546 priority patent/WO2008056660A1/ja
Priority to US12/514,108 priority patent/US8396299B2/en
Publication of JP2008123036A publication Critical patent/JP2008123036A/ja
Application granted granted Critical
Publication of JP4222411B2 publication Critical patent/JP4222411B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/48Extraction of image or video features by mapping characteristic values of the pattern into a parameter space, e.g. Hough transformation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30256Lane; Road marking
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/167Driving aids for lane monitoring, lane changing, e.g. blind spot detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Geometry (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Traffic Control Systems (AREA)

Abstract

【課題】雑音を含む画像からも頑健に消失点を検出することができる消失点検出システムの提供。
【解決手段】直線検出手段(120)と、消失点検出手段(130)と、消失点出力手段(140)とを備え、消失点検出手段(130)において、当該点もしくはその近傍を通過する複数の直線の角度が相対的に広い範囲に疎に分布しているか否かを消失点らしさの評価指標の1つとして消失点を検出する。
【選択図】図1

Description

本発明は消失点検出システム、消失点検出方法および消失点検出用プログラムに関し、特に、雑音を含む画像からも頑健に消失点を検出することを可能とする消失点検出システム、消失点検出方法および消失点検出用プログラムに関する。
図18は、特許文献1に開示される従来の消失点検出システムの構成を示す図である。図18を参照すると、この従来の消失点検出システムは、主制御部1810と、画像入力部1820と、エッジ点検出部1821と、線分検出部1822と、線分選別部1823と、消失点推定部1830を備えている。この従来の消失点検出システムの動作について以下に概説する(詳細は特許文献1の記載が参照される)。
画像入力部1820が、消失点検出の対象である画像を入力する。
エッジ点検出部1821は、画像入力部1820が入力した画像内のエッジ点を検出する。
線分検出部1822は、エッジ点検出部1821で検出されたエッジ点の連続点列として、線分を検出する。
線分選別部1823は、線分検出部1822で検出された線分の内、消失点推定に有用と考えられる線分を選別する。
消失点推定部1830は、線分選別部1823で選別された線分から消失点位置を推定する。
次に、消失点推定部1830の動作について以下に説明する。
消失点は、一般に、複数の線分の延長線の交点として定義されることから、各線分の両端点と消失点との位置関係を考えると、これら3点(線分の両端点と消失点)は、理想的には、一直線上に並ぶと考えられる。このとき、線分の両端点と消失点とがなす三角形の面積は0となる。
そこで、図19に示すように、各線分1920の両端点と消失点1910とがなす三角形1930の面積の全線分についての総和を求め、この三角形面積総和が最小となるような位置を消失点位置として推定する。この推定計算は解析的に行うことが出来る。
特開2005−275500号公報
しかしながら、上記した従来の消失点検出システムは、雑音に弱い、という問題点を有している。すなわち、従来の消失点検出システムは、頑健(robust)な消失点の検出ができない。その理由は以下の通りである。
例えば図20に示すように、消失点推定に用いる線分の中に、消失点方向を向かない不適切な線分2020が含まれた場合、該不適切な線分と真の消失点とにより面積の大きな三角形が形成される。この影響により、真の位置から大きく外れた位置を、消失点位置として推定してしまうことになる。
したがって、本発明の目的は、頑健な消失点の検出を行うことができる消失点検出システムと方法並びにプログラムを提供することにある。
本願で開示される発明は、前記課題を解決するため、概略以下の構成とされる。
本発明の消失点検出システムは、直線検出手段(120)と、消失点検出手段(130)と、消失点出力手段(140)を備え、消失点検出手段(130)において、当該点又はその近傍を通過する複数の直線の角度が、相対的に広い範囲に疎に分布しているか否かを、消失点らしさの評価指標の1つとして、該評価指標に基づき、消失点を検出する。なお、構成要素の括弧内を参照符号は、本発明の構成の理解を容易とするためのものであり、本発明を限定するために解釈すべきものではない。
本発明の1つのアスペクト(側面)に係る消失点検出システムは、
画像から直線を検出する直線検出手段と、
前記画像内において、複数の直線がその上を通過する点又は複数の直線がその近傍を通過する点に関して、直線の角度のばらつき具合の評価値を算出する手段と、
前記複数の直線がその上を通過するか又はその近傍を通過する点に対応して導出された直線の角度のばらつき具合の評価値を、消失点らしさの指標として用い、直線の角度のばらつき具合の評価値が、他の点に関して導出された直線の角度のばらつき具合の評価値に比べて相対的に大きい値の点を、消失点として検出する手段と、
を備えている。
本発明の他のアスペクト(側面)に係る消失点検出システムは、
画像から直線を検出する直線検出手段と、
前記画像の少なくとも一部を含む空間内の各点について、該点又は該点の周囲の所定の範囲内を通過する直線の角度が、相対的に広い範囲に疎に分布している場合に、より大きな値をとる直線角度ばらつき評価値を付与する直線角度ばらつき評価値付与手段と、
前記直線角度ばらつき評価値が、他と比べて相対的に大きな値をとる点を、消失点として、検出する消失点検出手段と、
を備えている。
本発明の他のアスペクト(側面)に係る消失点検出システムは、
画像から直線を検出し、検出された各前記直線について、直線としての確信度が付与する直線検出手段と、
前記画像の少なくとも一部を含む空間内の各点について、当該点又は当該点周囲の所定の範囲内を通過する直線の角度が、相対的に広い範囲に疎に分布している場合に、より大きな値をとる直線角度ばらつき評価値を付与する直線角度ばらつき評価値付与手段と、
前記画像の少なくとも一部を含む空間内の各点について、当該点又は当該点周囲の所定の範囲内を通過する直線の確信度に基づき、相対的に直線が多数通過している場合に、より、大きな値をとる消失点評価値を付与する消失点評価値付与手段と、
前記消失点評価値が相対的に大きな値をとる点を消失点として検出する消失点検出手段と、を備え、前記消失点評価値の算出に際して、前記直線角度ばらつき評価値を考慮する。
本発明において、好ましくは、前記直線検出手段は、Hough変換により直線を検出し、前記直線としての確信度として当該直線のHough変換での投票値を用いる。
本発明において、好ましくは、前記直線角度ばらつき評価値として、前記直線の角度の、分散と標準偏差、最大値と最小値の差と比、のうちの少なくとも1つを含む、前記直線の角度についての統計値を用いる。
本発明において、前記直線角度ばらつき評価値として、当該点の右下領域と左下領域との間の前記直線としての確信度の偏りを用いるようにしてもよい。
本発明において、前記画像は、車載センサより得られる画像データであり、前記消失点として、走行レーンを表すレーンマーカ及び/又は道路端線に関する消失点を検出する。
本発明の車両周辺環境認識システムは、前記した本発明の消失点検出システムを備え、前記消失点の位置に基づき、車両と周辺環境との位置関係を算出する。
本発明の車両周辺環境認識システムは、前記車両と周辺環境との位置関係として、前記車両の向いている方向と道路面とのピッチ角を算出する。
本発明の1つのアスペクトに係る消失点検出方法は、
画像から直線を検出する工程と、
前記画像内において、複数の直線がその上を通過する点又は複数の直線がその近傍を通過する点に関して、直線の角度のばらつき具合の評価値を算出する工程と、
前記複数の直線がその上を通過するか又はその近傍を通過する前記点のうち、前記点に対応して導出された直線の角度のばらつき具合の評価値が、他の点に関して導出された直線の角度のばらつき具合の評価値に比べて相対的に大きい点を、消失点として検出する工程と、を含む。
本発明の他のアスペクトに係る消失点検出方法は、
画像から直線を検出する工程と、
前記画像の少なくとも一部を含む空間内の各点について、当該点又は当該点周囲の所定の範囲内を通過する直線の角度が、相対的に広い範囲に疎に分布している場合に、より大きな値をとる直線角度ばらつき評価値を付与する工程と、
前記直線角度ばらつき評価値が相対的に大きな値をとる点を消失点として検出する工程と、を含む。
本発明の他のアスペクトに係る消失点検出方法は、
画像から直線を、直線としての確信度とともに検出する工程と、
前記画像の少なくとも一部を含む空間内の各点について、当該点又は当該点周囲の所定の範囲内を通過する直線の角度が、相対的に広い範囲に疎に分布している場合に、より大きな値をとる直線角度ばらつき評価値を付与する工程と、
前記画像の少なくとも一部を含む空間内の各点について、当該点又は当該点周囲の所定の範囲内を通過する直線の確信度に基づき、相対的に直線が多数通過している場合に、より大きな値をとる消失点評価値を付与する工程と、
前記消失点評価値が相対的に大きな値をとる点を消失点として検出する工程と、
を含み、前記消失点評価値の算出に際して前記直線角度ばらつき評価値を考慮する。
本発明に係る消失点検出方法において、前記画像から直線を検出する工程において、Hough変換により直線を検出し、前記直線としての確信度として当該直線のHough変換での投票値を用いる。
本発明に係る消失点検出方法において、前記直線角度ばらつき評価値として、前記直線の角度の、分散と標準偏差、最大値と最小値の差と比、のうちの少なくとも1つを含む、前記直線の角度についての統計値を用いる。
本発明に係る消失点検出方法において、前記直線角度ばらつき評価値として、当該点の右下領域と左下領域との間の前記直線としての確信度の偏りを用いるようにしてもよい。
本発明に係る消失点検出方法において、前記画像として車載センサより得られる画像データを用い、前記消失点として走行レーンを表すレーンマーカ及び/又は道路端線に関する消失点を検出する。
本発明に係る車両周辺環境認識方法は、前記消失点検出方法で求めた前記消失点の位置に基づき、車両と周辺環境との位置関係を算出する。前記車両と周辺環境との位置関係として、車両の向いている方向と道路面とのピッチ角を算出する。
本発明の1つのアスペクトに係るコンピュータプログラムは、
画像から直線を検出する処理と、
前記画像内において、複数の直線がその上を通過する点又は複数の直線がその近傍を通過する点に関して、直線の角度のばらつき具合の評価値を算出する処理と、
前記複数の直線がその上を通過するか又はその近傍を通過する点に対応して導出された直線の角度のばらつき具合の評価値を、消失点らしさの指標として用い、直線の角度のばらつき具合の評価値が、他の点に関して導出された直線の角度のばらつき具合の評価値に比べて相対的に大きい値の点を、消失点として検出する処理と、をコンピュータに実行させるプログラムよりなる。
本発明の1つのアスペクトに係るコンピュータプログラムは、
画像から直線を検出する直線検出処理と、
前記画像の少なくとも一部を含む空間内の各点について、当該点又は当該点周囲の所定の範囲内を通過する直線の角度が、相対的に広い範囲に疎に分布している場合に、より大きな値をとる直線角度ばらつき評価値を付与する直線角度ばらつき評価値付与処理と、
前記直線角度ばらつき評価値が相対的に大きな値をとる点を消失点として検出する消失点検出処理と、をコンピュータに実行させるプログラムよりなる。
本発明の他のアスペクトに係るコンピュータプログラムは、
画像から直線を、直線としての確信度とともに検出する直線検出処理と、
前記画像の少なくとも一部を含む空間内の各点について、当該点又は当該点周囲の所定の範囲内を通過する直線の角度が、相対的に広い範囲に疎に分布している場合に、より大きな値をとる直線角度ばらつき評価値を付与する直線角度ばらつき評価値付与処理と、
前記画像の少なくとも一部を含む空間内の各点について、当該点又は当該点周囲の所定の範囲内を通過する直線の確信度に基づき、相対的に直線が多数通過している場合に、より大きな値をとる消失点評価値を付与し、前記消失点評価値の算出に際して前記直線角度ばらつき評価値を考慮する消失点評価値付与処理と、
前記消失点評価値が相対的に大きな値をとる点を消失点として検出する消失点検出処理と、をコンピュータに実行させるプログラムよりなる。
本発明に係るプログラムにおいて、前記直線検出処理は、Hough変換により直線を検出し、前記直線としての確信度として当該直線のHough変換での投票値を用いる。
本発明に係るプログラムにおいて、前記直線角度ばらつき評価値として、前記直線の角度の、分散と標準偏差、最大値と最小値の差と比、の少なくとも1つを含む、前記直線の角度についての統計値を用いる。
本発明に係るプログラムにおいて、前記直線角度ばらつき評価値として、当該点の右下領域と左下領域との間の前記直線としての確信度の偏りを用いる。
本発明に係るプログラムにおいて、前記画像として車載センサより得られるデータを用い、前記消失点として走行レーンを表すレーンマーカや道路端線に関する消失点を検出する。
本発明に係るプログラムにおいて、前記消失点の位置に基づき、車両と周辺環境との位置関係を算出する処理を前記コンピュータに実行させ、車両周辺の環境認識を行うようにしてもよい。
本発明に係るプログラムにおいて、前記車両と周辺環境との位置関係として、車両の向いている方向と道路面とのピッチ角を算出するようにしてもよい。
本発明によれば、画像の少なくとも一部分を含む2次元空間内の各点について、当該点又はその近傍を通過する複数の直線の角度が広い範囲に疎に分布しばらついている点を消失点として検出することで、頑健な消失点の検出を実現している。その理由は、当該点周囲の所定の範囲を通過する複数の直線の角度が広い範囲に疎に分布し、ばらついているほど、当該点が消失点として、より検出され易くなり、従って、偽の消失点の検出が抑制される、ためである。
次に、本発明を実施するための最良の形態について図面を参照して詳細に説明する。
前記したように、無限遠点以外の消失点を検出する場合、特に、Hough変換(画像中のパラメータ曲線の検出手法)等の代表的な直線の検出手法では、直線の検出において、真に検出すべき直線と角度や位置が類似した偽の直線が検出され易く、偽の直線がなす交点(偽の消失点)を、誤まって、消失点として検出しやすい。本発明は、偽の直線による偽の消失点に対して、頑健に、真の消失点を検出可能とするものであり、画像の少なくとも一部分を含む2次元空間内の各点について、当該点又はその近傍を通過する複数の直線の角度が、相対的に広い範囲に疎に分布し、ばらついている点を消失点として検出する。これは、画像の少なくとも一部分を含む2次元空間内の各点について、当該点又は当該点周囲の所定の範囲を通過する複数の直線の角度が、相対的に広い範囲に疎に分布し、ばらついているほど、当該点が消失点として、より検出され易くなり、従って、偽の消失点の検出が抑制される、ためである。
図1は、本発明の第1の実施の形態の構成を示す図である。図1を参照すると、本発明の第1の実施の形態のシステムは、プログラム制御により動作するコンピュータ(中央処理装置;プロセッサ;データ処理装置)100と、画像入力装置110と、を備えて構成されている。
本実施形態のシステムにおいて、コンピュータ(中央処理装置;プロセッサ;データ処理装置)100は、直線検出手段120と、消失点検出手段130と、消失点出力手段140と、を含む。
消失点検出手段130は、直線角度ばらつき評価値付与手段131と、消失点評価値付与手段132と、消失点決定手段133とを含む。これらの手段は、それぞれ概略つぎのように動作する。
画像入力装置110は、消失点を検出する対象となる画像を入力する。
直線検出手段120は、画像入力装置110が入力した画像から、消失点を通過すると推測される複数の直線を検出する。
直線角度ばらつき評価値付与手段131は、画像の少なくとも一部分を含む2次元空間内(以下、「直線投票空間」という)の各点について、当該点又は当該点の周囲の所定の範囲を通過する直線の角度のばらつき具合を評価した評価値(以下、「直線角度ばらつき評価値」という)を付与する。
消失点評価値付与手段132は、
直線投票空間内の各点について、
(a)当該点又は当該点周囲の所定の範囲を通過する直線に関する情報と、
(b)直線角度ばらつき評価値と、
から、当該点の消失点らしさ具合を評価した評価値(以下、「消失点評価値」という)を、直線投票空間内の各点に付与する。
ただし、消失点評価値付与手段132は、場合によっては、省略してもよく、この場合、直線角度ばらつき評価値付与手段131によって求められた直線ばらつき評価値を、そのまま、消失点評価値として利用する。
消失点決定手段133は、直線投票空間内の各点に付与された消失点評価値を用いて消失点を決定する。
消失点出力手段140は、消失点決定手段133で決定された消失点を出力する。
ここで、角度のばらつき具合について説明する。
図2は、本実施形態を説明するための図である。図2には、画像内の消失点を通過する複数の直線の角度がばらついている場合(A)と、ばらついていない場合(B)が示されている。
角度がばらついている場合、図2(A)に示すように、画像210内の消失点211を通過する複数の直線212が水平線となす角度α1、α2、α3、α4が、相対的に広い値域に疎に分布している。
一方、角度がばらついていない場合、図2(B)に示すように、画像220内の消失点221を通過する複数の直線222が水平線となす角度β1、β2、β3、β4が、相対的に狭い値域に密に分布している。
角度のばらつき具合とは、このような複数の直線の角度のばらつきを意味する。
また、本実施の形態では、角度ばらつき評価値は、画像の各点において、図2(A)のように、角度がばらついている場合に値が大きくなり、図2(B)のように、角度がばらついていない場合は小さくなるように、設計される。
図3は、本実施の形態の動作を説明するためのフローチャートである。図1及び図3を参照して、本実施の形態の全体の動作について詳細に説明する。
画像入力装置110は、消失点検出の対象である画像を入力する(図3のステップA1)。画像入力装置110は画像データ(デジタルイメージデータ)を不図示の記憶装置に格納する。
直線検出手段120は、画像入力装置110が入力した画像から消失点を通過すると推測される複数の直線を検出する(ステップA2)。
直線角度ばらつき評価値付与手段131は、直線投票空間内の各点について、当該点又は当該点周囲の所定の範囲を通過する複数の直線についての角度ばらつき評価値を付与する(ステップA3)。
消失点評価値付与手段132は、直線投票空間内の各点について、当該点又は当該点周囲の所定の範囲を通過する複数の直線に関する情報と直線角度ばらつき評価値とから、消失点評価値を付与する(ステップA4)。ただし、ステップA4を省略し、前述したように、直線角度ばらつき評価値を、消失点評価値として、利用してもよい。
消失点決定手段133は、直線投票空間内の各点に付与された消失点評価値を用いて、例えば最大の消失点評価値を与える点を、消失点と決定することで、消失点を検出する(ステップA5)。なお、消失点決定手段133において、最大の消失点評価値を与える点を消失点とする構成にのみ限定されるものでなく、他の手法を用いてもよいことは勿論である。例えば、消失点評価値の極大値を与える点を消失点とする等により、消失点を検出することもできる。
消失点出力手段140は、消失点決定手段133で検出された消失点を出力する(ステップA6)。
次に、本実施の形態の作用効果について説明する。
本実施の形態では、直線投票空間内の各点について、当該点又は当該点周囲の所定の範囲を通過する複数の直線の角度のばらつき具合が大きいほど当該点が消失点として検出され易いように構成したことにより、無限遠点以外の消失点を検出する場合、特に、直線検出において真に検出すべき直線と角度や位置が類似した偽の直線が検出され易く、それらの偽の直線がなす交点を偽の消失点と誤りやすい状況において、それら偽の消失点に対して頑健に真の消失点を検出できる(前述したように、このような偽の直線は、例えばHough変換等の代表的な直線検出手法において検出されやすい場合がある)。以下、具体的な実施例を用いて説明する。
<実施例1>
図4、図5は、本発明を実施した一具体例(一実施例)を説明する図である。図4は、車載カメラから前方の道路を撮影した画像である。すなわち、図5(A)の車両510に搭載したカメラ520から道路を撮影した道路画像410から走行レーンを表す白線412や道路端413等のエッジ部分をHough変換により直線として検出し、それらのなす消失点を検出する。なお、図5(A)において、ピッチ角θは自車両510と道路面530との間の角度である(ピッチ角θについては後述する)。図5(B)は、図5(A)の車両510に搭載したカメラ520のカメラ光軸521とカメラ画像面522、焦点、焦点距離の関係(光学系)を模式的に示したものである(図5(B)は後に説明される)。
図6(A)は、本実施例の構成の一例を示す図である。図6(B)は、図6(A)の消失点検出手段630の構成の一例を示す図である。図6(A)を参照すると、本実施例は、車載カメラである画像入力装置610と、直線検出手段620と、消失点検出手段630と、消失点出力手段640とを含む。
図6(A)を参照すると、消失点検出手段630は、直線角度ばらつき評価値付与手段631と、消失点評価値付与手段632と、消失点決定手段633とを含む。
図6(B)を参照すると、消失点評価値付与手段632は、直線投票手段634と、消失点評価値算出手段635とを含む。
図7(A)は、図6の直線検出手段620の構成の一例を示す図である。図7(B)は、図7(A)のエッジ点検出手段710の構成の一例を示す図である。
図7(A)を参照すると、エッジ点検出手段710と、Hough変換手段720と、直線出力手段730とを含む。
図7(B)を参照すると、エッジ点検出手段710は、3×3ソーベルフィルタ手段711と、エッジ強度計算手段712と、エッジ強度閾値処理手段713と、エッジ点出力手段714とを含む。
ただし、エッジ点検出手段710は、上記構成に限定されるものではなく、画素値の変化が急峻なエッジ部分の点(「エッジ点」と呼ぶ)を検出できるものであれば、任意の構成が用いられる。
図7(A)を参照すると、Hough変換手段720は、Hough空間投票手段721と、Hough空間平滑化手段722と、Hough空間ピーク検出手段723とを含む。
図6(A)の画像入力装置610は、図4に示した道路画像410を入力する。
図6(A)の直線検出手段620は、画像入力装置610が入力した道路画像410(図4参照)から、走行レーンを表す白線412や道路端413(図4参照)等のエッジ部分をHough変換により直線として検出する。
図6(A)の消失点検出手段630は、直線検出手段620により検出された直線が集中する点を消失点として検出する。
消失点出力手段640は、消失点を出力する。
図7(B)の3x3ソーベルフィルタ手段711は、道路画像410(図4参照)の各点について3×3近傍中の各画素値と、図8(A)、図8(B)に示すx方向勾配カーネル801、y方向勾配カーネル802の各係数の積の和をとる。これらの積和を、それぞれ、「ソーベルx成分」、「ソーベルy成分」と呼ぶ。
図7(B)のエッジ強度計算手段712は、道路画像410(図4参照)の各点について、ソーベルx成分とソーベルy成分の2乗和の平方、又は絶対値の和を計算し、各点のエッジ強度とする。
図7(B)のエッジ強度閾値処理手段713は、道路画像410(図4参照)の各点についてエッジ強度が予め定められた閾値、例えば100以上か否かを判断する。
図7(B)のエッジ点出力手段714は、エッジ強度閾値処理手段713でエッジ強度が閾値以上と判断された点をエッジ点として出力する。
図7(A)のHough空間投票手段721は、直線を表現するパラメータを軸とする空間(以下、「Hough空間」という)内において、エッジ点検出手段710で検出されたエッジ点に対応する軌跡上の各点について、エッジ点に応じた重みを投票する。
ここで、エッジ点に応じた重みとしてエッジ強度を投票する。ただし、エッジ点に応じた重みは、エッジ強度に限定されるものではなく、例えば、定数、後述のソーベルx成分とソーベルy成分により算出されるエッジ点における画素値の勾配と軌跡上の点に対応する直線の傾きとのなす角など、エッジ点又はその近傍の画素値等から算出される値、又は、これらの値(エッジ点又はその近傍の画素値等から算出される値)やエッジ強度等から算出される値等を用いてもよい。
また、図7(A)のHough空間平滑化手段722は、Hough空間の各点について、当該点および近傍の点の投票値(以下、「直線投票値」という)を用いて、当該点での平滑化された直線投票値を決定する。
特に制限されないが、本実施例では、例えば、当該点の3×3近傍の点の平均値として平滑化された直線投票値を決定する。近傍の範囲や平滑化された直線投票値の決定方法は、これに限定されるものではない。なお、場合によっては、図7(A)のHough空間平滑化手段722を省略してもよい。
図7(A)のHough空間ピーク検出手段723は、Hough空間内において予め定められた閾値以上であり、且つ、例えば3×3近傍等の近傍範囲で最大の直線投票値を持つ点をピークとして検出する。ただし、ピークを検出する基準はこれに限定されるものではなく、例えば、Hough空間内での最大直線投票値をもつ点のみをピークとする等、問題設定に応じた基準をとることが出来る。
図6(A)の直線角度ばらつき評価値付与手段631は、道路画像410の少なくとも一部分を含む2次元空間(以下、「直線投票空間」という)内の各点について直線角度ばらつき評価値を算出し、付与する。
また、図6(A)の消失点評価値付与手段632は、直線投票空間の各点について、直線検出手段620により検出された複数の直線の情報と、図6(A)の消失点評価値付与手段632により、道路画像410(図4参照)、又は直線投票空間の各点に付与された直線角度ばらつき評価値と、から、道路画像410(図4参照)、又は、直線投票空間の各点について、消失点評価値を算出し、付与する。
特に制限されないが、図6(A)の消失点決定手段633は、例えば、直線投票空間内で消失点評価値が最大である点を消失点として決定する。
なお、消失点決定の基準は、直線投票空間内で消失点評価値が最大である点に限定されるものではなく、例えば、予め定められた閾値以上の消失点評価値をもつ点、または予め定められた近傍内にて極大値をもつ点、又はこれらの条件の組み合わせ等、問題設定に応じた基準をとることが出来る。
図6(B)の直線投票手段634は、図9に示すように、図7(A)のHough変換手段720において検出された各直線の軌跡上の点に対応する直線投票空間の点に、例えばHough空間ピーク検出手段723で検出したピークの直線投票値を投票する(以下、「消失点投票値」と呼ぶ)。
なお、図6(B)の直線投票手段634で用いる投票値は、上記に限定されるものではなく、直線上の点であることが確かであるほど大きな値をもつ投票値であればよい。
図6(B)の消失点評価値算出手段635は、直線投票空間の各点について、当該点又はその近傍の点に関しての消失点投票値と直線角度ばらつき評価値とから、例えばそれらの積として消失点評価値を算出し、当該点に付与する。
なお、消失点評価値算出手段635において、消失点評価値の算出方法はこれに限定されるものではなく、消失点投票値および直線角度ばらつき評価値についての単調増加であるような算出方法であればよい。
直線角度ばらつき評価値について以下に説明する。
前述したように、直線角度ばらつき評価値は、当該点又は当該点周囲の所定の範囲を通過する直線の角度がばらついている程大きな値をもつように算出される。
ここで、「角度」とは、例えば各直線と水平線とがなす角度であり、「ばらつき」とは直線の角度が、広い範囲に疎に分布している状態を意味する。
道路画像410(図4参照)又は直線投票空間内のある点、又は、その周辺を通過する直線の本数をNとし、各直線をL1、L2、......、LNとする。
また、直線Lk、k=1、2、……、Nの水平線とのなす角度およびHough変換手段での投票値をそれぞれαk、wkとする。
ここで、直線ばらつき評価値をαkの分散

Figure 2008123036
・・・(1)

又は、αkの重み付き分散
Figure 2008123036
・・・(2)
などの分散値や、これらの平方根をとった標準偏差、又はαkの最大値と最小値の差
Figure 2008123036
・・・(3)
等として算出することが出来る。
ただし、直線ばらつき評価値はこれに限定されるものではなく、当該点又は当該点周囲の所定の範囲を通過する直線の角度がばらついている程大きな値になるものであればよい。
次に、本実施例の動作について、図6、図7及び図10のフローチャートを参照して詳細に説明する。
図6(A)の画像入力装置610が、道路画像を入力する(図10のステップB1)。
次に、図7(B)の3x3ソーベルフィルタ手段711が、道路画像410(図4参照)の各点について、ソーベルx成分とソーベルy成分を算出する(ステップB2)。
次に、図7(B)のエッジ強度計算手段712が、道路画像の各点についてエッジ強度を計算する(ステップB3)。
次に、図7(B)のエッジ強度閾値処理手段713が、道路画像の各点についてエッジ強度を閾値処理する(ステップB4)。
次に、図7(B)のエッジ点出力手段714が、エッジ強度が閾値以上の点をエッジ点として検出する(ステップB5)。
次に、図7(A)のHough空間投票手段721が、各エッジ点についてHough空間内の軌跡上に投票を行う(ステップB6)。
次に、図7(A)のHough空間平滑化手段722が、Hough空間内の各点の投票値を平滑化する(ステップB7)。
次に、図7(A)のHough空間ピーク検出手段723が、Hough空間内のピーク点を検出する(ステップB8)。
次に、図7(A)の直線出力手段730が、各Hough空間ピーク点に対応する直線を検出する(ステップB9)。
ここで、直線が複数検出されていれば、ステップB11に進み、直線が複数検出されていなければ終了する(ステップB10)。
次に、図6(A)の直線角度ばらつき評価値付与手段631が、直線投票空間の各点について直線角度ばらつき評価値を算出する(ステップB11)。
次に、図6(B)の直線投票手段634が、図7(A)のHough変換手段720において検出された各直線の軌跡上の点に対応する直線投票空間の点に、例えばHough空間ピーク検出手段723で検出したピークの直線投票値を投票する(ステップB12)。
次に、図6(B)の消失点評価値算出手段635が、直線投票空間の各点での消失点評価値を消失点投票値と直線角度ばらつき評価値とから、例えばそれらの積として算出する(ステップB13)。
次に、図6(A)の消失点決定手段633が、直線投票空間内での消失点投票値のピーク点に対応する消失点を検出する(ステップB14)。
次に、図6(A)の消失点出力手段640が、消失点決定手段633で検出した消失点を出力する(ステップB15)。
また、本実施例の応用例として、図5(A)に示すような自車両510と道路面530との間のピッチ角(θ)540を算出することができる。
すなわち、図5(B)に示すように、焦点距離fが既知のカメラ画像面522およびカメラ座標系(x, y)をとり、消失点の座標を(xv, yv)とすると、ピッチ角(θ)540を式(4)のように定める。yv=−fcos(θ)より、

Figure 2008123036
…(4)
ただし、ピッチ角θの算出は、式(4)に限定されるものではなく、式(4)を近似的に算出するような算法によってもよい。
次に、本発明の第2の実施の形態について図面を参照して詳細に説明する。図11は、本発明の第2の実施の形態の構成を示す図である。
図11を参照すると、本発明の第2の実施の形態は、プログラム制御により動作するコンピュータ(中央処理装置;プロセッサ;データ処理装置)1100と、画像入力装置1110とを備えて構成される。
コンピュータ(中央処理装置;プロセッサ;データ処理装置)1100は、直線検出手段1120と、消失点検出手段1130と、消失点出力手段1140とを含む。
消失点検出手段1130は、直線投票手段1131と、直線角度ばらつき評価値付与手段1132と、消失点評価値付与手段1133と、消失点決定手段1134とを含む。
これらの手段は、それぞれ概略つぎのように動作する。
画像入力装置1110は、消失点を検出する対象となる画像を入力する。
直線検出手段1120は、画像入力装置1110が入力した画像から消失点を通過すると推測される複数の直線を検出する。
直線投票手段1131は、画像入力装置1110が入力した画像の少なくとも一部分を含む2次元空間内(以下、「直線投票空間」という)の各点について、直線検出手段1120で検出した複数の直線の内当該点又は当該点周囲の所定の範囲を通過する直線に基づいた投票値を与える。
直線角度ばらつき評価値付与手段1132は、直線投票空間内の各点について、直線投票手段1131にて付与した当該点近傍の投票値に基づき、当該点又は当該点周囲の所定の範囲を通過する直線の角度のばらつき具合を評価した直線角度ばらつき評価値を付与する。
消失点評価値付与手段1133は、直線投票空間内の各点について、直線投票手段1131にて各点に付与した投票値と角度ばらつき評価値とから当該点の消失点らしさ具合を評価した消失点評価値を付与する。
ただし、消失点評価値付与手段1133は、場合によっては省略してもよく、この場合は直線ばらつき評価値を消失点評価値として利用する。
消失点決定手段1134は、画像内又は直線投票空間内の各点に付与された消失点評価値を用いて消失点を決定する。
消失点出力手段1140は、消失点決定手段1134で決定された消失点を出力する。
次に、図12は、本実施形態の動作を説明するフローチャートである。図11、図12を参照して、本実施の形態の全体の動作について詳細に説明する。
まず、画像入力装置1110が、消失点検出の対象である画像を入力する(図12のステップC1)。
次に、直線検出手段1120は、画像入力装置1110が入力した画像から消失点を通過すると推測される複数の直線を検出する(ステップC2)。
直線投票手段1131が、直線投票空間においてステップC2により検出した直線に対応する投票を行う(ステップC3)。
直線角度ばらつき評価値付与手段1132が、直線投票空間内の各点について、ステップC3にて付与した当該点近傍の投票値に基づき当該点又は当該点周囲の所定の範囲を通過する複数の直線についての直線角度ばらつき評価値を付与する(ステップC4)。
消失点評価値付与手段1133が、画像内又は直線投票空間内の各点について、ステップC3にて各点に付与した投票値と直線角度ばらつき評価値とから消失点評価値を付与する(ステップC5)。
ただし、ステップC5を省略し、直線角度ばらつき評価値を前記消失点評価値として利用してもよい。
消失点決定手段1134が、直線投票空間内の各点に付与された消失点評価値を用いて、例えば最大の消失点評価値を与える点を消失点とするなどして、消失点を検出する(ステップC6)。ただし、消失点評価値を用いた消失点検出方法は、これに限定するものではなく、例えば消失点評価値の極大値を与える点を消失点とする等により消失点を検出することもできる。
消失点出力手段1140により検出された消失点を出力する(ステップC7)。
次に、本発明を第2の実施形態の作用効果について説明する。
本実施形態では、直線角度ばらつき評価値が直線投票空間内での近傍の投票値に基づき算出するというように構成されているため、少ない処理量で直線角度ばらつき評価値を算出でき、短い処理時間で偽の直線に対して頑健な消失点検出を行うことができる。
次に、具体的な実施例に即して説明する。
<実施例2>
本実施例は、図4に示した道路画像410(車載カメラから前方道路を撮像した画像)から走行レーンを表す白線412や道路端413等のエッジ部分をHough変換により直線として検出してそれらのなす消失点を検出する。
図13に示すように、本実施例は、車載カメラである画像入力装置1310と、直線検出手段1320と、消失点検出手段1330と、消失点出力手段1340とを含む。
消失点検出手段1330は、直線投票手段1331と、直線角度ばらつき評価値付与手段1332と、消失点評価値付与手段1333と、消失点決定手段1334とを含む。
図14(A)は、図13の直線検出手段の構成を示す図である。図14(B)は、図14(A)のエッジ点検出手段1410の構成を示す図である。図14(A)に示すように、直線検出手段1320は、エッジ点検出手段1410と、Hough変換手段1420と、直線出力手段1430とを含む。
図14(B)に示すように、エッジ点検出手段1410は、3×3ソーベルフィルタ手段1411と、エッジ強度計算手段1412と、エッジ強度閾値処理手段1413と、エッジ点出力手段1414とを含む。ただし、エッジ点検出手段1410は構成に限定されるものではなく、画素値の変化が急峻なエッジ部分の点(以下、エッジ点と呼ぶ)を検出する手段であればよい。
図14(A)に示すように、Hough変換手段1420は、Hough空間投票手段1421と、Hough空間平滑化手段1422と、Hough空間ピーク検出手段1423とを含む。
図13の画像入力装置1310は、道路画像410(図4参照)を入力する。
直線検出手段1320は、道路画像410(図4参照)から走行レーンを表す白線412や道路端413等のエッジ部分をHough変換により直線として検出する。
また、図13の消失点検出手段1330は、直線検出手段1320により検出された直線が集中する点を消失点として検出する。
図13の消失点出力手段1340は、消失点を出力する。
図14(B)の3x3ソーベルフィルタ手段1411は、道路画像410(図4参照)の各点について3×3近傍中の各画素値と、図8(A)、図8(B)に示すx方向勾配カーネル801、y方向勾配カーネル802の各係数の積の和をとる。これらの積和をそれぞれ、「ソーベルx成分」、「ソーベルy成分」と呼ぶ。
図14(B)のエッジ強度計算手段1412は、道路画像410(図4参照)の各点についてソーベルx成分とソーベルy成分の2乗和の平方、又は絶対値の和を計算し、各点のエッジ強度とする。
図14(B)のエッジ強度閾値処理手段1413は、道路画像410(図4参照)の各点についてエッジ強度が予め定められた閾値、例えば100以上か否かを判断する。
図14(B)のエッジ点出力手段1414は、エッジ強度閾値処理手段1413でエッジ強度が閾値以上と判断された点をエッジ点として出力する。
図14(A)のHough空間投票手段1421は、直線を表現するパラメータを軸とする空間(以下、Hough空間と呼ぶ)内において、エッジ点検出手段1410で検出されたエッジ点に対応する軌跡上の各点について、エッジ点に応じた重みを投票する。
ここで、エッジ点に応じた重みとしてエッジ強度を投票する。ただし、エッジ点に応じた重みはこれに限定されるものではなく、前述したように、例えば定数、後述のソーベルx成分とソーベルy成分により算出されるエッジ点における画素値の勾配と軌跡上の点に対応する直線の傾きとのなす角など、エッジ点又はその近傍の画素値等から算出される値、又はこれらの値やエッジ強度等から算出される値等を用いてもよい。
図14(A)のHough空間平滑化手段1422は、Hough空間の各点について、当該点および近傍の点の投票値(以下、「直線投票値」と呼ぶ)を用いて当該点での平滑化された直線投票値を決定する。
ここでは、例えば、前記当該点の3×3近傍の点の平均値として平滑化された直線投票値を決定する。ただし、近傍の範囲や平滑化された直線投票値の決定方法はこれに限定されるものではない。また、場合によっては、図14(A)のHough空間平滑化手段1422を省略してもよい。
図14(A)のHough空間ピーク検出手段1423は、Hough空間内において予め定められた閾値以上であり、かつ例えば3×3近傍等の近傍範囲で最大の直線投票値を持つ点をピークとして検出する。ただし、ピークを検出する基準はこれに限定されるものではなく、例えば、Hough空間内での最大直線投票値をもつ点のみをピークとする等、問題設定に応じた基準をとることが出来る。
図13の直線投票手段1331は、図14(A)のHough変換手段1420において検出された各直線の軌跡上の点に対応する直線投票空間の点に、例えば、図14(A)のHough空間ピーク検出手段1423で検出したピークの直線投票値を投票する(以下、「消失点投票値」と呼ぶ)。ただし、投票値は、これに限定されるものではなく、直線上の点であることが確かであるほど大きな値をもつ投票値であればよい。
図13の直線角度ばらつき評価値付与手段1332は、直線投票空間内の各点について近傍の消失点投票値に基づき直線角度ばらつき評価値を算出し、付与する。
図13の消失点評価値付与手段1333は、直線投票空間の各点について、当該点又はその近傍の消失点投票値と直線角度ばらつき評価値とから消失点評価値を算出し、付与する。
図13の消失点決定手段1334は、例えば直線投票空間内で消失点評価値が最大である点を消失点として決定する。ただし、消失点決定の基準は、これに限定されるものではなく、例えば予め定められた閾値以上の消失点評価値をもつ点、または予め定められた近傍内にて極大値をもつ点、又はこれらの条件の組み合わせ等、問題設定に応じた基準をとることが出来る。
直線角度ばらつき評価値について以下に説明する。
前述のように、直線角度ばらつき評価値は当該点又は当該点周囲の所定の範囲を通過する直線の角度がばらついている程大きな値をもつように算出される。
ここでは、特に図15に示すような、消失点1510の右下領域1520を通過する直線と左下領域1530を通過する直線とが偏り無く存在するという意味において消失点1510における直線角度のばらつきが大きいと仮定できる場合を想定しており、このような状況は画像1500として、本実施例のような道路画像を対象とした場合には当てはまる。
そこで、本実施例では、直線投票空間内の各点において、当該点の近傍の消失点投票値に基づき以下のように直線角度ばらつき評価値の算出を行う。
すなわち、図16に示すように、当該点1610の右下領域1620での消失点投票値の和をSr、左下領域1630での消失点投票値の和をSlとして、式(5)のように算出する。

Figure 2008123036
・・・(5)
ただし、直線角度ばらつき評価値の算出は式(5)に限定されるものではなく、図16の当該点1610の右下領域1620内の消失点投票値と左下領域1630内の消失点投票値とが偏り無く存在する場合に値が大きくなるような他の算出式を用いることが出来る。
また、右下領域1620および左下領域1630として、例えばサイズ13×13の正方領域等をとることが出来るが、これらはこれに限定されるものではなく、用途に応じた領域をとることが出来る。
図17は、本実施例の動作を説明するフローチャートである。図13、図14及び図17を参照して、本実施例の動作について詳細に説明する。
まず、図13の画像入力装置1310が、道路画像を入力する(図17のステップD1)。
次に、図14(B)の3x3ソーベルフィルタ手段1411により道路画像410(図4参照)の各点についてソーベルx成分とソーベルy成分を算出する(ステップD2)。
次に、図14(B)のエッジ強度計算手段1412が、道路画像の各点についてエッジ強度を計算する(ステップD3)。
次に、図14(B)のエッジ強度閾値処理手段1413が、道路画像の各点についてエッジ強度を閾値処理する(ステップD4)。
次に、図14(B)のエッジ点出力手段1414が、エッジ強度が閾値以上の点をエッジ点として検出する(ステップD5)。
次に、図14(A)のHough空間投票手段1421が、各エッジ点についてHough空間内の軌跡上に投票を行う(ステップD6)。
次に、図14(A)のHough空間平滑化手段1422が、Hough空間内の各点の投票値を平滑化する(ステップD7)。
次に、図14(A)のHough空間ピーク検出手段1423が、Hough空間内のピーク点を検出する(ステップD8)。
次に、図14(A)の直線出力手段1430が、各Hough空間ピーク点に対応する直線を検出する(ステップD9)。
ここで、直線が複数検出されていれば、ステップD11に進み、直線が複数検出されていなければ、終了する(ステップD10)。
次に、図13の直線投票手段1331が、図14(A)のHough変換手段1420において検出された各直線の軌跡上の点に対応する直線投票空間の点に、例えば図14(A)のHough空間ピーク検出手段1423で検出したピークの直線投票値を投票する(ステップD11)。
次に、図13の直線角度ばらつき評価値付与手段1332が、直線投票空間の各点について、当該点近傍の消失点投票値に基づき直線角度ばらつき評価値を算出する(ステップD12)。
次に、図13の消失点評価値付与手段1333が、直線投票空間の各点での消失点評価値を消失点投票値と直線角度ばらつき評価値とから、例えばそれらの積として算出する(ステップD13)。
次に、図13の消失点決定手段1334が、直線投票空間内での消失点投票値のピーク点に対応する消失点を検出する(ステップD14)。
次に、図13の消失点出力手段1340が、検出した消失点を出力する(ステップD15)。
本発明は、画像からの無限遠点以外の消失点の検出を行う任意の用途に適用できる。以上、本発明を上記実施例に即して説明したが、本発明は上記実施例の構成にのみ制限されるものでなく、本発明の範囲内で当業者であればなし得るであろう各種変形、修正を含むことは勿論である。
本発明の第1の実施の形態の構成を示す図である。 直線角度のばらつきについて説明する図である。 本発明の第1の実施の形態の動作を説明するためのフローチャートである。 本発明の一実施例で用いる道路画像を示す図である。 (A)、(B)は本発明の一実施例のカメラセッティングおよびカメラ座標系を示す図である。 (A)、(B)は本発明の一実施例の構成を示す図である。 (A)、(B)は本発明の一実施例の構成を示す図である。 (A)、(B)はソーベルフィルタを説明する図である。 本発明の一実施例の直線投票処理を説明する図である。 本発明の一実施例の動作を説明するためのフローチャートである。 本発明の第2の実施の形態の構成を示す図である。 本発明の第2の実施の形態の動作を説明するためのフローチャートである。 本発明の第2の実施例の構成を示す図である。 (A)、(B)は本発明の第2の実施例の構成を示す図である。 消失点近傍の右下領域、左下領域での消失点投票値の分布の一例を示す図である。 本発明の第2の実施例における直線角度ばらつき評価値を説明する図である。 本発明の第2の実施例の動作を説明するためのフローチャートである。 従来のシステムの構成を示す図である。 従来のシステムにおける消失点推定部を説明する図である。 従来のシステムにおける消失点推定の失敗例を示す図である。
符号の説明
100、600、1100、1300、1800 コンピュータ(中央処理装置;プロセッサ;データ処理装置)
110、610、1110、1310 画像入力装置
120、620、1120、1320 直線検出手段
130、630、1130、1330 消失点検出手段
131、631、1132、1332 直線角度ばらつき評価値付与手段
132、632、1133、1333 消失点評価値付与手段
133、633、1134、1334 消失点決定手段
140、640、1140、1340 消失点出力手段
210、220、1500、1900、2000 画像
211、221、1510、1910、2010 消失点
212、222、1540、1640、1920 直線
410 道路画像
411 道路面
412 白線
413 道路端
510 自車両
520 カメラ
521 カメラ光軸
522 カメラ画像面
530 道路面
540 ピッチ角
634、1131、1331 直線投票手段
635 消失点評価値算出手段
710、1410 エッジ点検出手段
711、1411 3x3ソーベルフィルタ手段
712、1412 エッジ強度計算手段
713、1413 エッジ強度閾値処理手段
714、1414 エッジ点出力手段
720、1420 Hough変換手段
730、1430 直線出力手段
721、1421 Hough空間投票手段
722、1422 Hough空間平滑化手段
723、1423 Hough空間ピーク検出手段
801 x方向勾配カーネル
802 y方向勾配カーネル
910、1500 直線投票空間
1520、1620 消失点右下領域
1530、1630 消失点左下領域
1610 当該点
1810 主制御部
1820 画像入力部
1821 エッジ点検出部
1822 線分検出部
1823 線分選別部
1830 消失点推定部
1930 両端点と消失点がなす三角形
2020 不適切な線分

Claims (27)

  1. 画像から直線を検出する直線検出手段と、
    前記画像内において、複数の直線がその上を通過する点又は複数の直線がその近傍を通過する点に関して、直線の角度のばらつき具合の評価値を算出する手段と、
    前記複数の直線がその上を通過するか又はその近傍を通過する点に対応して導出された直線の角度のばらつき具合の評価値を、消失点らしさの指標として用い、直線の角度のばらつき具合の評価値が、他の点に関して導出された直線の角度のばらつき具合の評価値に比べて相対的に大きい値の点を、消失点として検出する手段と、
    を備えた、ことを特徴とする消失点検出システム。
  2. 画像から直線を検出する直線検出手段と、
    前記画像の少なくとも一部を含む空間内の各点について、該点又は該点の周囲の所定の範囲内を通過する直線の角度が、相対的に広い範囲に疎に分布している場合に、より大きな値をとる直線角度ばらつき評価値を付与する直線角度ばらつき評価値付与手段と、
    前記直線角度ばらつき評価値が、他と比べて相対的に大きな値をとる点を、消失点として、検出する消失点検出手段と、
    を備えた、ことを特徴とする消失点検出システム。
  3. 画像から直線を検出し、検出された各前記直線について、直線としての確信度を付与する直線検出手段と、
    前記画像の少なくとも一部を含む空間内の各点について、該点又は該点周囲の所定の範囲内を通過する直線の角度が、相対的に広い範囲に疎に分布している場合に、より大きな値をとる直線角度ばらつき評価値を付与する直線角度ばらつき評価値付与手段と、
    前記画像の少なくとも一部を含む空間内の各点について、該点又は該点周囲の所定の範囲内を通過する直線の確信度に基づき、直線が相対的に多数通過している場合に、より大きな値をとる消失点評価値を付与する消失点評価値付与手段と、
    前記消失点評価値が相対的に大きな値をとる点を、消失点として、検出する消失点検出手段と、
    を備え、前記消失点評価値の算出に際して、前記直線角度ばらつき評価値を考慮する、ことを特徴とする消失点検出システム。
  4. 前記直線検出手段は、Hough変換により直線を検出し、
    前記直線としての確信度として、該直線のHough変換での投票値を用いる、ことを特徴とする請求項1乃至3のいずれか一記載の消失点検出システム。
  5. 前記直線角度ばらつき評価値として前記直線の角度の統計値が用いられ、
    前記直線の角度の統計値は、前記直線の角度の分散と標準偏差、最大値と最小値の差と比のうちの少なくとも1つを含む、ことを特徴とする請求項1乃至4のいずれか一に記載の消失点検出システム。
  6. 前記直線角度ばらつき評価値として、該点の右下領域と左下領域との間の前記直線としての確信度の偏りが用いられる、ことを特徴とする請求項1乃至4のいずれか一に記載の消失点検出システム。
  7. 前記画像は、車載センサより得られる画像データであり、
    前記消失点として、走行レーンを表すレーンマーカ及び/又は道路端線に関する消失点を検出する、ことを特徴とする請求項1乃至6のいずれか一に記載の消失点検出システム。
  8. 請求項1乃至7のいずれか一に記載の消失点検出システムを備え、
    前記消失点の位置に基づき、車両と周辺環境との位置関係を算出する、ことを特徴とする車両周辺環境認識システム。
  9. 前記車両と周辺環境との位置関係として、前記車両の向いている方向と道路面とのピッチ角を算出する、ことを特徴とする請求項8に記載の車両周辺環境認識システム。
  10. 画像から直線を検出する工程と、
    前記画像内において、複数の直線がその上を通過する点又は複数の直線がその近傍を通過する点に関して、直線の角度のばらつき具合の評価値を算出する工程と、
    前記複数の直線がその上を通過するか又はその近傍を通過する点に対応して導出された直線の角度のばらつき具合の評価値を、消失点らしさの指標として用い、直線の角度のばらつき具合の評価値が、他の点に関して導出された直線の角度のばらつき具合の評価値に比べて相対的に大きい値の点を、消失点として検出する工程と、
    を含む、ことを特徴とする消失点検出方法。
  11. 画像から直線を検出する工程と、
    前記画像の少なくとも一部を含む空間内の各点について、該点又は該点周囲の所定の範囲内を通過する直線の角度が、相対的に広い範囲に疎に分布している場合に、より大きな値をとる、直線角度ばらつき評価値を付与する工程と、
    前記直線角度ばらつき評価値が相対的に大きな値をとる点を消失点として検出する工程と、
    を含む、ことを特徴とする消失点検出方法。
  12. 画像から直線を、直線としての確信度とともに検出する工程と、
    前記画像の少なくとも一部を含む空間内の各点について、該点又は該点周囲の所定の範囲内を通過する直線の角度が、相対的に広い範囲に疎に分布している場合に、より大きな値をとる直線角度ばらつき評価値を付与する工程と、
    前記画像の少なくとも一部を含む空間内の各点について、該点又は該点周囲の所定の範囲内を通過する直線の確信度に基づき、相対的に直線が多数通過している場合に、より大きな値をとる消失点評価値を付与する工程と、
    前記消失点評価値が相対的に大きな値をとる点を消失点として検出する工程と、
    を含み、前記消失点評価値の算出に際して前記直線角度ばらつき評価値を考慮する、ことを特徴とする消失点検出方法。
  13. 前記画像から直線を検出する工程において、
    Hough変換により直線を検出し、
    前記直線としての確信度として、該直線のHough変換での投票値を用いる、ことを特徴とする請求項10乃至12のいずれか一に記載の消失点検出方法。
  14. 前記直線角度ばらつき評価値として、前記直線の角度についての統計値を用い、
    前記直線の角度についての統計値は、前記直線の角度の分散と標準偏差、最大値と最小値の差と比、のうちの少なくとも1つを含む、ことを特徴とする請求項10乃至13のいずれか一に記載の消失点検出方法。
  15. 前記直線角度ばらつき評価値として、該点の右下領域と左下領域との間の前記直線としての確信度の偏りを用いる、ことを特徴とする請求項10乃至13のいずれか一に記載の消失点検出方法。
  16. 前記画像として車載センサより得られる画像データを用い、
    前記消失点として走行レーンを表すレーンマーカ及び/又は道路端線に関する消失点を検出する、ことを特徴とする請求項10乃至15のいずれか一に記載の消失点検出方法。
  17. 請求項10乃至16のいずれか一に記載の消失点検出方法で求めた前記消失点の位置に基づき、車両と周辺環境との位置関係を算出する、ことを特徴とする車両周辺環境認識方法。
  18. 前記車両と周辺環境との位置関係として、車両の向いている方向と道路面とのピッチ角を算出する、ことを特徴とする請求項17に記載の車両周辺環境認識方法。
  19. 消失点の検出を行うコンピュータに、
    画像から直線を検出する処理と、
    前記画像内において、複数の直線がその上を通過する点又は複数の直線がその近傍を通過する点に関して、直線の角度のばらつき具合の評価値を算出する処理と、
    前記複数の直線がその上を通過するか又はその近傍を通過する点に対応して導出された直線の角度のばらつき具合の評価値を、消失点らしさの指標として用い、直線の角度のばらつき具合の評価値が、他の点に関して導出された直線の角度のばらつき具合の評価値に比べて相対的に大きい値の点を、消失点として検出する処理と、
    を実行させるプログラム。
  20. 消失点の検出を行うコンピュータに、
    画像から直線を検出する直線検出処理と、
    前記画像の少なくとも一部を含む空間内の各点について、該点又は該点周囲の所定の範囲内を通過する直線の角度が、相対的に広い範囲に疎に分布している場合に、より大きな値をとる直線角度ばらつき評価値を付与する直線角度ばらつき評価値付与処理と、
    前記直線角度ばらつき評価値が相対的に大きな値をとる点を消失点として検出する消失点検出処理と、
    を実行させるプログラム。
  21. 消失点の検出を行うコンピュータに、
    画像から直線を、直線としての確信度とともに検出する直線検出処理と、
    前記画像の少なくとも一部を含む空間内の各点について、該点又は該点周囲の所定の範囲内を通過する直線の角度が、相対的に広い範囲に疎に分布している場合に、より大きな値をとる直線角度ばらつき評価値を付与する直線角度ばらつき評価値付与処理と、
    前記画像の少なくとも一部を含む空間内の各点について、該点又は該点周囲の所定の範囲内を通過する直線の確信度に基づき、直線が相対的に多数通過している場合よりも大きな値をとる消失点評価値を付与し、前記消失点評価値の算出に際して前記直線角度ばらつき評価値を考慮する消失点評価値付与処理と、
    前記消失点評価値が相対的に大きな値をとる点を消失点として検出する消失点検出処理と、
    を実行させるプログラム。
  22. 前記直線検出処理は、Hough変換により直線を検出し、前記直線としての確信度として該直線のHough変換での投票値を用いる、ことを特徴とする請求項19乃至21のいずれか一に記載のプログラム。
  23. 前記直線角度ばらつき評価値として前記直線の角度についての統計値を用い、
    前記直線の角度についての統計値は、前記直線の角度の、分散と標準偏差、最大値と最小値の差と比、の少なくとも1つを含む、ことを特徴とする請求項19乃至22のいずれか一に記載のプログラム。
  24. 前記直線角度ばらつき評価値として、該点の右下領域と左下領域との間の前記直線としての確信度の偏りを用いる、ことを特徴とする請求項19乃至22のいずれか一に記載のプログラム。
  25. 前記画像として、車載センサより得られるデータを用い、
    前記消失点として走行レーンを表すレーンマーカや道路端線に関する消失点を検出する処理を、前記コンピュータに実行させる、ことを特徴とする請求項19乃至24のいずれか一に記載のプログラム。
  26. 導出された前記消失点の位置に基づき、車両と周辺環境との位置関係を算出し、前記車両周辺の環境認識を行う処理を、前記コンピュータに実行させる、ことを特徴とする請求項19乃至25のいずれか一に記載のプログラム。
  27. 前記車両と周辺環境との位置関係として、車両の向いている方向と道路面とのピッチ角を算出する、ことを特徴とする請求項24に記載のプログラム。
JP2006302955A 2006-11-08 2006-11-08 消失点検出システム、消失点検出方法および消失点検出用プログラム Active JP4222411B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2006302955A JP4222411B2 (ja) 2006-11-08 2006-11-08 消失点検出システム、消失点検出方法および消失点検出用プログラム
EP07831278A EP2098992A4 (en) 2006-11-08 2007-11-06 LEAK POINT DETECTION SYSTEM, LEAK POINT DETECTING METHOD, AND LEAK POINT DETECTING PROGRAM
PCT/JP2007/071546 WO2008056660A1 (fr) 2006-11-08 2007-11-06 Système de détection de point de fuite, procédé de détection de point de fuite et programme de détection de point de fuite
US12/514,108 US8396299B2 (en) 2006-11-08 2007-11-06 Vanishing point detecting system, vanishing point detecting method, and vanishing point detecting program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006302955A JP4222411B2 (ja) 2006-11-08 2006-11-08 消失点検出システム、消失点検出方法および消失点検出用プログラム

Publications (2)

Publication Number Publication Date
JP2008123036A true JP2008123036A (ja) 2008-05-29
JP4222411B2 JP4222411B2 (ja) 2009-02-12

Family

ID=39364475

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006302955A Active JP4222411B2 (ja) 2006-11-08 2006-11-08 消失点検出システム、消失点検出方法および消失点検出用プログラム

Country Status (4)

Country Link
US (1) US8396299B2 (ja)
EP (1) EP2098992A4 (ja)
JP (1) JP4222411B2 (ja)
WO (1) WO2008056660A1 (ja)

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010134535A (ja) * 2008-12-02 2010-06-17 Mitsubishi Electric Corp 画像検出装置及び画像検出方法
JP2011170750A (ja) * 2010-02-22 2011-09-01 Denso Corp 白線認識装置
DE102010044112A1 (de) 2010-06-16 2011-12-22 Denso Corporation Fluchtpunktbestimmungsvorrichtung und Fluchtpunktbestimmungsprogramm
JP2013050762A (ja) * 2011-08-30 2013-03-14 Mega Chips Corp 線分および円弧検出装置
JP2013069043A (ja) * 2011-09-21 2013-04-18 Mega Chips Corp 線分および円弧検出装置
KR101264282B1 (ko) * 2010-12-13 2013-05-22 재단법인대구경북과학기술원 관심영역 설정을 이용한 도로상 차량의 검출방법
JP2013123221A (ja) * 2011-12-09 2013-06-20 Ricoh Co Ltd 道路分割体検知方法及び装置
JP2014110059A (ja) * 2012-12-04 2014-06-12 Ricoh Co Ltd 路面検知方法及び路面検知装置
US8948519B2 (en) 2010-03-23 2015-02-03 Nec Corporation Linear mark detection system, linear mark detection method, and non-transitory computer readable medium storing linear mark detecting program
KR101569165B1 (ko) 2014-03-03 2015-11-13 서울대학교 산학협력단 소실점 검출 방법 및 장치
JP2016085763A (ja) * 2016-02-17 2016-05-19 株式会社メガチップス 直線検出装置および直線検出方法
US9443318B2 (en) 2011-08-30 2016-09-13 Megachips Corporation Line segment and arc detection apparatus
US10027953B2 (en) 2014-04-18 2018-07-17 Fujitsu Limited Determination method and determination apparatus
US10026178B2 (en) 2014-04-18 2018-07-17 Fujitsu Limited Method of determining normality of imaging direction, and evaluation device of evaluating attachment state of imaging device
US10230946B2 (en) 2014-04-18 2019-03-12 Fujitsu Limited Method of detecting tilt of image capturing direction and apparatus of detecting tilt of image capturing direction

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8284997B2 (en) * 2009-03-11 2012-10-09 Honeywell International Inc. Vision-based vehicle navigation system and method
US8177381B2 (en) 2010-03-30 2012-05-15 Skc Haas Display Films Co., Ltd. Diffusion bar with spacer collar ring
JP2012093872A (ja) * 2010-10-26 2012-05-17 Fujitsu Ten Ltd 画像認識装置、及び、画像認識方法
CN102609938B (zh) * 2012-01-16 2014-04-16 浙江大学 一种从单幅图像检测道路消失点的方法
CN103577790B (zh) * 2012-07-26 2016-06-01 株式会社理光 道路转弯类型检测方法和装置
ITVI20120303A1 (it) * 2012-11-09 2014-05-10 St Microelectronics Srl Metodo per rilevare una linea retta in un'immagine digitale
US9123113B2 (en) * 2013-03-08 2015-09-01 Raven Industries, Inc. Row guidance parameterization with Hough transform
US9747507B2 (en) * 2013-12-19 2017-08-29 Texas Instruments Incorporated Ground plane detection
DE102014220199B3 (de) * 2014-10-06 2016-01-14 Continental Automotive Gmbh Verfahren für ein Kraftfahrzeug mit einer Kamera, Vorrichtung und System
JP6567659B2 (ja) * 2015-05-07 2019-08-28 株式会社日立製作所 レーン検出装置およびレーン検出方法
US10650526B2 (en) * 2016-06-28 2020-05-12 Canon Kabushiki Kaisha Image processing apparatus, image capturing apparatus, image processing method, and storage medium
RU2651176C1 (ru) * 2016-11-17 2018-04-18 Федеральное государственное бюджетное образовательное учреждение высшего образования "Рязанский государственный радиотехнический университет" Способ обработки сигналов для обнаружения и определения толщины прямых линий на изображении
WO2020014683A1 (en) * 2018-07-13 2020-01-16 Kache.AI Systems and methods for autonomous object detection and vehicle following
CN113486796B (zh) * 2018-09-07 2023-09-05 百度在线网络技术(北京)有限公司 无人车位置检测方法、装置、设备、存储介质及车辆
US11348263B2 (en) 2018-10-23 2022-05-31 Samsung Electronics Co., Ltd. Training method for detecting vanishing point and method and apparatus for detecting vanishing point
CN111798431B (zh) * 2020-07-06 2023-09-15 苏州市职业大学 一种实时消失点检测方法、装置、设备及存储介质
CN114037977B (zh) * 2022-01-07 2022-04-26 深圳佑驾创新科技有限公司 道路灭点的检测方法、装置、设备及存储介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000123300A (ja) * 1998-10-14 2000-04-28 Nec Corp 消失点による補正を伴う白線検出方法及び装置
JP2003228711A (ja) * 2001-11-30 2003-08-15 Hitachi Ltd レーンマーク認識方法
JP2005275500A (ja) * 2004-03-23 2005-10-06 Zenrin Co Ltd 消失点決定方法

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE19680415C2 (de) * 1995-04-26 2003-02-06 Hitachi Ltd Bildbearbeitungsvorrichtung für Fahrzeuge
JP3556766B2 (ja) * 1996-05-28 2004-08-25 松下電器産業株式会社 道路白線検出装置
JPH10208056A (ja) * 1997-01-16 1998-08-07 Honda Motor Co Ltd 直線検出方法
JP2986439B2 (ja) * 1998-01-12 1999-12-06 松下電器産業株式会社 車両用画像処理装置
JP4157620B2 (ja) * 1998-06-19 2008-10-01 株式会社東芝 移動物体検出装置及びその方法
JP2000259998A (ja) * 1999-03-12 2000-09-22 Yazaki Corp 車両用後側方監視装置
JP3575346B2 (ja) * 1999-09-03 2004-10-13 日本電気株式会社 道路白線検出システム、道路白線検出方法および道路白線検出用プログラムを記録した記録媒体
US6963661B1 (en) * 1999-09-09 2005-11-08 Kabushiki Kaisha Toshiba Obstacle detection system and method therefor
US6844871B1 (en) * 1999-11-05 2005-01-18 Microsoft Corporation Method and apparatus for computer input using six degrees of freedom
JP4437714B2 (ja) * 2004-07-15 2010-03-24 三菱電機株式会社 車線認識画像処理装置
JP4466963B2 (ja) * 2005-01-11 2010-05-26 パイオニア株式会社 車両前方画像表示装置及び方法
JP2006302955A (ja) 2005-04-15 2006-11-02 Sony Corp 面発光半導体レーザ

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000123300A (ja) * 1998-10-14 2000-04-28 Nec Corp 消失点による補正を伴う白線検出方法及び装置
JP2003228711A (ja) * 2001-11-30 2003-08-15 Hitachi Ltd レーンマーク認識方法
JP2005275500A (ja) * 2004-03-23 2005-10-06 Zenrin Co Ltd 消失点決定方法

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010134535A (ja) * 2008-12-02 2010-06-17 Mitsubishi Electric Corp 画像検出装置及び画像検出方法
JP2011170750A (ja) * 2010-02-22 2011-09-01 Denso Corp 白線認識装置
US8643723B2 (en) 2010-02-22 2014-02-04 Denso Corporation Lane-marker recognition system with improved recognition-performance
US8948519B2 (en) 2010-03-23 2015-02-03 Nec Corporation Linear mark detection system, linear mark detection method, and non-transitory computer readable medium storing linear mark detecting program
DE102010044112A1 (de) 2010-06-16 2011-12-22 Denso Corporation Fluchtpunktbestimmungsvorrichtung und Fluchtpunktbestimmungsprogramm
DE102010044112B4 (de) 2010-06-16 2022-12-29 Denso Corporation Fluchtpunktbestimmungsvorrichtung und Fluchtpunktbestimmungsprogramm
KR101264282B1 (ko) * 2010-12-13 2013-05-22 재단법인대구경북과학기술원 관심영역 설정을 이용한 도로상 차량의 검출방법
US9443318B2 (en) 2011-08-30 2016-09-13 Megachips Corporation Line segment and arc detection apparatus
JP2013050762A (ja) * 2011-08-30 2013-03-14 Mega Chips Corp 線分および円弧検出装置
US9721179B2 (en) 2011-08-30 2017-08-01 Megachips Corporation Line segment and arc detection apparatus
JP2013069043A (ja) * 2011-09-21 2013-04-18 Mega Chips Corp 線分および円弧検出装置
JP2013123221A (ja) * 2011-12-09 2013-06-20 Ricoh Co Ltd 道路分割体検知方法及び装置
JP2014110059A (ja) * 2012-12-04 2014-06-12 Ricoh Co Ltd 路面検知方法及び路面検知装置
KR101569165B1 (ko) 2014-03-03 2015-11-13 서울대학교 산학협력단 소실점 검출 방법 및 장치
US10027953B2 (en) 2014-04-18 2018-07-17 Fujitsu Limited Determination method and determination apparatus
US10026178B2 (en) 2014-04-18 2018-07-17 Fujitsu Limited Method of determining normality of imaging direction, and evaluation device of evaluating attachment state of imaging device
US10230946B2 (en) 2014-04-18 2019-03-12 Fujitsu Limited Method of detecting tilt of image capturing direction and apparatus of detecting tilt of image capturing direction
US10616570B2 (en) 2014-04-18 2020-04-07 Fujitsu Limited Determination method and determination apparatus
JP2016085763A (ja) * 2016-02-17 2016-05-19 株式会社メガチップス 直線検出装置および直線検出方法

Also Published As

Publication number Publication date
US8396299B2 (en) 2013-03-12
EP2098992A1 (en) 2009-09-09
WO2008056660A1 (fr) 2008-05-15
US20100080467A1 (en) 2010-04-01
JP4222411B2 (ja) 2009-02-12
EP2098992A4 (en) 2012-03-28

Similar Documents

Publication Publication Date Title
JP4222411B2 (ja) 消失点検出システム、消失点検出方法および消失点検出用プログラム
Jung et al. Parking slot markings recognition for automatic parking assist system
JP4577532B2 (ja) 認識システム、認識方法および認識プログラム
JP5020395B2 (ja) 画像処理装置および画像処理方法
WO2010140578A1 (ja) 画像処理装置、画像処理方法、及び画像処理用プログラム
JP5943084B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
JP5716671B2 (ja) 走路認識装置、車両、走路認識方法及び走路認識プログラム
JP2002197444A (ja) 車両の走行路認識装置
KR20080024776A (ko) 호프 변환을 이용한 주차구획 인식 방법, 장치 및 그를이용한 주차 보조 시스템
JP2011192071A (ja) 横断歩道検出装置、横断歩道検出システム,横断歩道検出方法及びプログラム
US20150156471A1 (en) Method and device for processing stereoscopic data
JP5548212B2 (ja) 横断歩道標示検出方法および横断歩道標示検出装置
KR20200042100A (ko) 이미지 변환 장치 및 방법
JP6255944B2 (ja) 画像解析装置、画像解析方法及び画像解析プログラム
Jung et al. An improved linear-parabolic model for lane following and curve detection
JP2011076248A (ja) 走行区分線検出装置
JP4462533B2 (ja) 路面走行レーン検出装置
JP3985610B2 (ja) 車両用走行路認識装置
JPWO2008032376A1 (ja) 距離測定装置及び方法、並びにコンピュータプログラム
JP7064400B2 (ja) 物体検知装置
KR20180071552A (ko) 카메라 기반 도로 곡률 추정을 위한 차선 검출 방법 및 시스템
JP5305366B2 (ja) 画像特徴抽出装置、画像特徴抽出方法、画像認識装置、及び画像認識方法
JP2013148354A (ja) 車両位置算出装置
JP2005301892A (ja) 複数のカメラによるレーン認識装置
JP2007272461A (ja) 運動推定装置、方法及びプログラム

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080325

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080526

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080701

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080901

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20081028

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20081110

R150 Certificate of patent or registration of utility model

Ref document number: 4222411

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111128

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111128

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121128

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121128

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131128

Year of fee payment: 5