JP5548212B2 - 横断歩道標示検出方法および横断歩道標示検出装置 - Google Patents

横断歩道標示検出方法および横断歩道標示検出装置 Download PDF

Info

Publication number
JP5548212B2
JP5548212B2 JP2011534060A JP2011534060A JP5548212B2 JP 5548212 B2 JP5548212 B2 JP 5548212B2 JP 2011534060 A JP2011534060 A JP 2011534060A JP 2011534060 A JP2011534060 A JP 2011534060A JP 5548212 B2 JP5548212 B2 JP 5548212B2
Authority
JP
Japan
Prior art keywords
pedestrian crossing
image data
imaging system
unit
period
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2011534060A
Other languages
English (en)
Other versions
JPWO2011039977A1 (ja
Inventor
卓也 南里
洋文 西村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2011534060A priority Critical patent/JP5548212B2/ja
Publication of JPWO2011039977A1 publication Critical patent/JPWO2011039977A1/ja
Application granted granted Critical
Publication of JP5548212B2 publication Critical patent/JP5548212B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/36Input/output arrangements for on-board computers
    • G01C21/3697Output of additional, non-guidance related information, e.g. low fuel level
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road

Description

本発明は、車載カメラ画像を用いて、道路面上にある横断歩道標示を検出する、横断歩道標示検出方法および横断歩道標示検出装置に関する。
日本国における横断歩道標示は、矩形のペイント部分と非ペイント部分が等幅で交互に繰り返される標示であり、ペイント部分と非ペイント部分は等幅、かつ、幅は45cmから50cmで規格化されている。一方、諸外国における横断歩道標示は、矩形のペイント部分の幅と非ペイント部分の幅とが異なるものもあるが、ペイント部分の幅と非ペイント部分の幅との和を一定として、ペイント部分と非ペイント部分とが交互に繰り返されて標示されている。
従来の横断歩道標示検出装置は、カメラで撮像した画像データにおいて、ペイント部分の画素と非ペイント部分の画素との画像輝度が大きく異なることを利用して、画像輝度の大きく変化する画像輝度エッジを抽出していた。これにより、従来の横断歩道標示検出装置は、近接する画像輝度エッジの間隔や数を算出し、横断歩道であるか否かを判定するものがあった(特許文献1参照)。以下、従来技術について説明する。
図1は、特許文献1に記載された、従来の横断歩道標示検出装置1500のブロック図を示す。図1において、ステレオ画像データ取得部1501は、二つの撮像系を備えるステレオカメラを用いて、路面を含む車両前方を同時に撮像した一対の画像データを取得する。ここで、一対の画像データのうち、一方の撮像系で撮影した画像のデータを基準画像データとし、もう一方の撮像系で撮影した画像のデータを参照画像データとする。
距離データ算出部1502は、基準画像データと、参照画像データとをステレオマッチングすることにより、画像内の各点におけるステレオカメラからの実空間の距離を算出する。
横断歩道標示検出部1503は、取得した基準画像データにおける横断歩道標示の有無を検出し、画像データ上に横断歩道標示が有る場合には、その位置を検出する。
横断歩道標示検出部1503は、輝度エッジ検出部1504と幅判定部1505と間隔判定部1506と繰り返し数判定部1507とを含む。
輝度エッジ検出部1504は、基準画像データにおける任意の領域を設定範囲とし、設定範囲において輝度エッジ位置を検出する。任意の設定範囲における輝度エッジ位置の検出は、基準画像データの全範囲について行なわれる。具体的には、ソーベルフィルタなどの一般的な画像処理によって、輝度エッジ位置が検出される。
幅判定部1505は、輝度エッジ検出部1504において検出された輝度エッジ位置のうちから、高輝度から低輝度へ変化する画像輝度エッジを始点として抽出し、低輝度から高輝度へ変化する画像輝度エッジを終点として抽出する。そして、幅判定部1505は、始点と終点との組合せ群のうちから、互いの間隔が横断歩道のペイント部分の規格幅と同一又は近似する、始点と終点との組合せを抽出する。
間隔判定部1506は、幅判定部1505において抽出された始点と終点との組合せ群のうち、第1の組合せの終点から、基準画像において第1の組合せの終点と同一横軸上に位置し且つ第1の組合せの始点とは異なる第2の組合せの始点までの間隔を算出する。そして、間隔判定部1506は、その間隔が、横断歩道の非ペイント部分の規格幅と同一、または近似する、第1の組合せを抽出する。
繰り返し数判定部1507は、設定範囲において、間隔判定部1506において抽出した始点と終点との組合せの繰り返し数を算出し、その結果が所定の回数以上ある場合にその領域を横断歩道領域とする。
特開2006−309313号公報
しかしながら、上記した従来の構成では、横断歩道標示におけるペイント部分の画素の画像輝度と非ペイント部分の画素の画像輝度とが、大きく異なることを前提にした画像輝度エッジ検出方法が実行される。そのため、横断歩道標示のペイント部分と非ペイント部分の境界であるエッジ部分の輝度が強く現れない等の事情がある場合には、ペイント部分と非ペイント部分の画像輝度の差異が小さくなるので、横断歩道標示におけるペイント部分と非ペイント部分との境界の画像輝度エッジを検出することは困難である。
本発明の目的は、ペイント部分の輝度エッジの検出が困難である場合においても、撮像画像中から横断歩道標示の有無、及びその位置を正確に検出できる横断歩道標示検出方法および横断歩道標示検出装置を提供することである。
本発明に係る横断歩道標示検出装置は、第一の撮像系を有し、第一の撮像系を用いて撮像した路面の画像データを取得する画像データ取得部と、画像データの設定範囲に横断歩道標示のペイント部分が含まれる場合のペイント部分の周期を、設定範囲の座標と、第一の撮像系の幾何学的パラメータと、横断歩道標示の規格値と、に基づいて算出する周期算出部と、ペイント部分の周期の整数倍を1周期とした基底関数に基づいて、設定範囲における画像輝度の周波数分析を行い、周波数パワー分布を算出する周波数分析部と、設定範囲から、周波数パワー分布におけるパワーレベルが所定の閾値より大きい座標点を抽出し、座標点が存在する領域を横断歩道標示領域として検出する領域検出部と、画像データにおける横断歩道標示領域の座標データを出力する位置出力部と、を備えるものである。
これにより、画像データ中の設定範囲における横断歩道標示の周期を算出し、当該周期での周波数分析を行うことで、横断歩道標示の周期性の特徴を抽出可能であり、ペイント部分の輝度エッジが弱い場合においても横断歩道も検出することができるという効果を有する。
また、本発明に係る横断歩道標示検出装置は、周期算出部は、第一の撮像系の幾何学的パラメータ、及び横断歩道標示の規格値を予め記憶するメモリ部と、画像データ取得部から設定範囲の座標を取得し、第一の撮像系の幾何学的パラメータと横断歩道標示の規格値とをメモリ部から取得するパラメータ取得部と、設定範囲の座標と、第一の撮像系の幾何学的パラメータと、横断歩道標示の規格値とに基づいて、ペイント部分の周期を算出する算出部と、を備えるものである。
これにより、予め記憶されたカメラの幾何学的パラメータを利用することで、固定したパラメータによる計算速度の単純化が可能であり処理を高速に行うことができるという効果を有する。
また、本発明に係る横断歩道標示検出装置は、周期算出部は、第一の撮像系の幾何学的パラメータ、及び横断歩道標示の規格値を予め記憶するメモリ部と、画像データ取得部から設定範囲の座標を取得し、第一の撮像系の幾何学的パラメータと横断歩道示の規格値とをメモリ部から取得するパラメータ取得部と、角速度の変化を検出するセンサを有し、センサが検出した角速度の変化が所定の閾値よりも大きい場合に、横断歩道標示検出装置の旋回を検出する旋回検出部と、横断歩道標示検出装置の旋回が検出された場合に、センサが検出した角速度の変化値に基づいて、旋回角度を算出する角度算出部と、設定範囲の座標と、第一の撮像系の幾何学的パラメータと、横断歩道示の規格値と、旋回角度とに基づいて、ペイント部分の周期を算出する算出部と、を備えるものである。
これにより、車両が旋回している場合においても、周期算出部は、設定範囲に横断歩道標示のペイント部分が存在する場合の設定範囲におけるペイント部分の周期を算出することができるという効果を有する。
また、本発明に係る横断歩道標示検出装置は、画像データに含まれる設定範囲の座標と、第一の撮像系の幾何学的パラメータとに基づいて、第一の撮像系と、設定範囲が示す路面との実空間における距離を距離データとして算出する距離算出部を、更に備え、周期算出部は、設定範囲に横断歩道標示のペイント部分が含まれる場合のペイント部分の周期を、距離データと、横断歩道標示の規格値と、に基づいて算出し、位置出力部は、画像データにおける横断歩道標示領域の座標データ、及び距離データを出力するものである。
これにより、ペイント部分の輝度エッジを検出することが困難になった横断歩道標示であっても検出することができるとともに、カメラから横断歩道標示までの実空間における距離を検出することができるという効果を有する。
また、本発明に係る横断歩道標示検出装置は、更に、ステレオマッチング部と、距離算出部とを備え、画像データ取得部は、更に、第二の撮像系を有し、第一の撮像系を用いて路面を撮像した基準画像データと、第二の撮像系を用いて路面を撮像した参照画像データと、を取得し、ステレオマッチング部は、基準画像データが有する基準点と、参照画像データが有する複数の探索点との、画像輝度の相違度を示す評価値分布を算出し、評価値分布に基づいて算出される視差と、第一の撮像系の焦点距離と、第一の撮像系と第二の撮像系との距離と、に基づいて、第一の撮像系と基準画像データに撮像された路面との実空間における距離を第一の距離データとして算出し、距離算出部は、第一の距離データに基づいて基準画像データの3次元ボクセルデータを算出し、3次元ボクセルデータに基づいて、第一の撮像系と、基準画像データに含まれる設定範囲が示す路面との実空間における距離を第二の距離データとして算出し、周期算出部は、設定範囲に横断歩道標示のペイント部分が含まれる場合のペイント部分の周期を、第二の距離データと、横断歩道標示の規格値と、に基づいて算出し、位置出力部は、基準画像のデータにおける横断歩道標示領域の座標データと、及び第二の距離データを出力するものである。
これにより、自車両のバウンシングやピッチング、路面の勾配に対しても頑健に横断歩道標示の周期を算出することができるという効果を有する。
また、本発明に係る横断歩道標示検出装置は、カメラの幾何学的パラメータは、カメラの設置ピッチ角と、設置高と、焦点距離と、画素ピッチと、を含むパラメータである。
これにより、カメラ仕様や設置仕様に基づいて横断歩道の周期をより正確に算出することができるという効果を有する。
また、本発明に係る横断歩道標示検出装置は、周波数分析部は、1周期がペイント部分の周期の2倍以上である基底関数に基づいて、周波数分析を行うものである。
これにより、横断歩道標示以外のパターンであって、横断歩道標示に似たパターンを誤検出することが減少するという効果を有する。
また、本発明に係る横断歩道標示検出装置は、領域検出部は、車両の周辺の照度に基づいて、所定の閾値を制御するものである。
これにより、夜間など周囲が暗くゲインノイズが多く存在する場合においても、横断歩道標示の検出精度が向上するという効果を有する。
また、本発明に係る横断歩道標示検出方法は、画像データ取得部が、撮像系を用いて撮像した路面の画像データを取得し、周期算出部が、画像データの設定範囲に横断歩道標示のペイント部分が含まれる場合のペイント部分の周期を、設定範囲の座標と、撮像系の幾何学的パラメータと、横断歩道標示の規格値と、に基づいて算出し、周波数分析部が、ペイント部分の周期の整数倍を1周期とした基底関数に基づいて、設定範囲における画像輝度の周波数分析を行い、周波数パワー分布を算出し、領域検出部が、設定範囲から、周波数パワー分布におけるパワーレベルが所定の閾値より大きい座標点を抽出し、座標点が存在する領域を横断歩道標示領域として検出し、位置出力部が、画像データにおける横断歩道標示領域の座標データを出力するものである。
これにより、画像データ中の設定範囲における横断歩道標示の周期を算出し、当該周期での周波数分析を行うことで、横断歩道標示の周期性の特徴を抽出可能であり、ペイント部分の輝度エッジが弱い場合においても、横断歩道標示も検出することができるという効果を有する。
本発明によれば、画像データ中の設定範囲における横断歩道標示の周期を算出し、当該周期での周波数分析を行うことで、横断歩道標示の周期性の特徴を抽出可能であり、横断歩道のペイント部分の輝度エッジの検出をせずに検出できるため、ペイント部分の輝度エッジの検出が困難な場合においても横断歩道標示も検出することができる。
従来の横断歩道標示検出装置のブロック構成を示す図 本発明の実施の形態1における横断歩道標示検出装置のブロック構成を示す図 車載カメラにより取得する路面の画像データ及び車載カメラと路面との位置関係を示す図 横断歩道標示を撮像した画像データを示す図 横断歩道標示を撮像した画像データを示す図 周期算出部の構成を示す図 周波数分析方法の説明に供する図 横断歩道標示が存在する領域の検出方法の説明に供する図 横断歩道標示が存在する領域の検出方法の説明に供する図 本発明の実施の形態2における横断歩道標示検出装置のブロック構成を示す図 本発明の実施の形態3における横断歩道標示検出装置のブロック構成を示す図 本発明の実施の形態3におけるステレオカメラの三角測量の原理の概要を示す図 視差算出の説明に供する図 三次元ボクセルデータを示す図 本発明の実施の形態4における横断歩道標示検出装置のブロック構成を示す図 周期算出部の構成を示す図
(実施の形態1)
図2は、本発明の実施の形態1における横断歩道標示検出装置100のブロック構成を示す。図2に示す横断歩道標示検出装置100は、横断歩道標示検出部101と、画像データ取得部102と、を含む構成である。横断歩道標示検出部101は、周期算出部103と、周波数分析部104と、領域検出部105と、位置出力部106と、を含む構成である。
以下本発明の実施の形態1における、横断歩道標示検出装置および横断歩道標示検出方法について説明する。
画像データ取得部102は、車載カメラにより、道路の画像データを取得する。画像データは、静止画であり、横軸がX軸、縦軸がY軸として説明する。また、画面の1画素を座標点として説明する。なお、実施の形態1においては、車載カメラは1つの撮像系を備えるカメラであるとして説明するが、この限りではない。
図3は、車載カメラにより取得する路面の画像データ及び車載カメラと路面との位置関係を示す。具体的には、図3Aは車載カメラにより取得する路面の画像データを示し、図3Bは車載カメラと路面との位置関係を示す。以下、車載カメラは、図3Bに示すように、設置高さH、設置ピッチ角αとして車両前方に設置され、車載カメラの撮像方向に対して横方向の回転角である設置ロール角はないとして説明する。なお、車載カメラが車両の後方や横方向等に設置された場合であっても、また、設置ロール角がある場合であっても、本発明は実施可能である。
横断歩道標示検出部101において、周期算出部103は、画像データ取得部102において取得された画像データを取得し、図3Aに示すように、画像データにおいてY座標が任意のY座標(y1)である横一列の範囲を、設定範囲として選択する。
そして、周期算出部103は、設定範囲に横断歩道標示のペイント部分が含まれる場合の画像データにおけるペイント部分の周期を算出する。この周期算出は、画像データに横断歩道標示が現実に撮像されているか否かに関わらず、画像データに対して一様に行われる。
なお、当該ペイント部分の周期は、車載カメラと路面との位置関係、Y座標(y1)、及び実空間における横断歩道のペイント部分の周期に基づいて算出され、画像データに撮像された対象物に依存しない。
周波数分析部104は、周期算出部103において算出されたペイント部分の周期を1周期とした基底関数に基づいて、設定範囲における画像輝度の周波数分析を行い、周波数パワーP(x)の分布を算出する。
領域検出部105は、周波数分析部104において算出された周波数パワーP(x)の分布から、パワーレベルが所定の閾値を超える領域を、横断歩道標示が存在する領域として検出する。ここで、周波数パワーP(x)とは、ペイント部の周期を1周期とする周波数の設定範囲におけるパワー分布を意味する。
以上に示した、任意のY座標(y1)に係る設定範囲についての各処理を、画像データにおける全てのY座標、すなわちY座標(y1)からY座標(ym)(m:整数)について行う。そして、画像データにおいて横断歩道標示が存在する領域が、検出される。なお、m(m:整数)は、画像データにおけるY軸上の画素数である。
そして、位置出力部106は、検出された横断歩道標示が存在する領域の座標データを出力する。
以下、横断歩道標示検出部101に含まれる各構成要素の機能について、詳細に説明する。
周期算出部103は、画像データ取得部102によって取得された路面の画像データから、図3Aに示すように、画像データにおいてY座標が任意のY座標(y1)である横一列に位置する画素によって構成される範囲を、設定範囲として選択する。なお、設定範囲は、Y座標が任意のY座標(y1)である横一列に位置する全ての座標点から構成されるとして説明するが、Y座標がY座標(y1)である横一列に位置する座標点のうち、任意の範囲に位置する座標点としてもよい。
そして、周期算出部103は、画像データの設定範囲に、横断歩道標示のペイント部分が含まれる場合のペイント部分の周期を算出する。なお、この周期算出は、画像データに横断歩道標示が現実に撮像されているか否かに関わらず、以降の処理のために画像データに対して一様に行われる。
図4は、横断歩道標示が撮像された場合の画像データを示す。ここでは、設定範囲は、Y座標(y1)における横一列に位置する全ての座標点を含むものとして、周期算出部103の機能を説明する。
周期算出部103は、画像データ取得部102において取得された画像データを取得し、上述のように設定範囲を選択する。そして、周期算出部103は、画像データに横断歩道標示が存在するか否かに関わらず、図4に示すように、設定範囲にペイント部分が含まれる場合の、画像データ上の設定範囲におけるペイント部分の周期Ty1を算出する。周期Tyn(n:整数)を算出する理由は、横断歩道標示が画像データに表示された場合には、Y座標が異なれば、ペイント部分の幅、及び間隔が異なるからである。
なお、ペイント部分の周期Tyn(n:1からmの整数)は、各Y座標(yn)(n:1からmの整数)における横断歩道標示のペイント部分の幅と、ペイント部分の間隔とを和算した値であり、実空間におけるペイント部分の幅と間隔(すなわち、非ペイント部分の幅)は、日本国の規定においては、互いに同じ値である。従って、日本国の規定においては、周期Tyn(n:1からmの整数)は、画像データにおけるペイント部分の幅、又はペイント部分の間隔の2倍である。つまり、周期Tynは、画像データにおけるペイント部分の幅とペイント部分の間隔(すなわち、非ペイント部分の幅)との和である。
一方、諸外国の規定のように、横断歩道標示のペイント部分と非ペイント部分の幅が異なり、ペイント部分の幅と非ペイント部分の幅との和を一定として、ペイント部分と非ペイント部分とが交互に繰り返されて標示されている場合においても、同様に、周期Tyn(n:1からmの整数)は、画像データにおけるペイント部分の幅と、非ペイント部分の幅との和である。
図5は、横断歩道標示のペイント部分と非ペイント部分の幅が異なり、ペイント部分の幅と非ペイント部分の幅との和を一定として、ペイント部分と非ペイント部分とが交互に繰り返されて標示されている場合において、横断歩道標示が撮像された場合の画像データを示す。
周期Tynは、実空間における横断歩道のペイント部分の幅、又は間隔(W)、設定範囲の座標(y)、及びカメラの幾何学パラメータを用いて、数式1により算出される。なお、カメラの幾何学的パラメータは、設置ピッチ角α、カメラ設置高H、カメラ焦点距離f、Y軸画素ピッチdpyを含む、カメラの設置パラメータである。また、数式1におけるycはY軸の中心座標である。
Figure 0005548212
なお、数式1においては、横断歩道標示のペイント部分の幅または間隔(すなわち、間隔とは非ペイント部分の幅)をWとしているが、横断歩道標示のペイント部分の幅と、非ペイント部分の幅との和をW´とすると、数式2のようになる。
Figure 0005548212
数式2を用いることにより、諸外国の規定のように、横断歩道標示のペイント部分と非ペイント部分の幅が異なり、ペイント部分の幅と非ペイント部分の幅との和を一定として、ペイント部分と非ペイント部分とが交互に繰り返されて標示されている場合においても、Tynは算出されうる。
なお、以下の説明における図面は、日本国の規定のように、画像データにおけるペイント部分の幅と、非ペイント部分の幅とが等しい場合について示しているが、本発明を限定するものではなく、画像データにおけるペイント部分の幅と、非ペイント部分の幅とが異なる場合についても、本発明は適用される。
図6は、周期算出部103の構成図を示す。周期算出部103は、パラメータ取得部401と、算出部402と、メモリ403と、を含む構成である。メモリ403は、カメラの幾何学的パラメータ、及び横断歩道標示の規格値を予め記憶している。ここで、横断歩道標示の規格値とは、横断歩道標示のペイント部分の幅および非ペイント部分の幅を含む。すなわち、横断歩道標示の規格値は、横断歩道標示のペイント部分の幅、非ペイント部分の幅、および、ペイント部分の幅と非ペイント部分の幅との和のうち少なくともいずれか1つを含むものである。
パラメータ取得部401は、画像データ取得部102から画像データを取得して設定範囲のY座標(yn)を選択し、メモリ403からカメラの幾何学的パラメータ、及び横断歩道標示の規格値を読み込む。そして、パラメータ取得部401によって取得されたカメラの幾何学的パラメータ、設定範囲のY座標(yn)、及び横断歩道標示の規格値に基づいて、算出部402が、数式1または数式2を用いてTynを算出する。
周波数分析部104は、1周期がTy1である矩形波の偶関数と奇関数を基底関数として、設定範囲における画像輝度の周波数分析を行う。周波数分析を行うことによって、設定範囲における周波数パワーP(x)が算出される。
図7は、周波数分析方法の説明に供する図である。図7Aは設定範囲における輝度分布Ly1(x)を示し、図7Bは設定範囲における周波数分析に用いる基底関数のうち偶関数u(s)501を示し、図7Cは基底関数のうち奇関数v(s)502を示す。
周波数パワーP(x)は、偶関数u(s)、奇関数v(s)を用いて算出された内積値Au(x)、及びAv(x)から、下記の数式3によって算出される。
Figure 0005548212
ここで、本発明における周波数分析方法においては、直交する2つの基底関数のパワーが算出され、周波数パワーP(x)が横断歩道標示の何れの位置(x)においても同じ値となるため、横断歩道標示の領域は、容易に算出される。
以下、周波数パワーP(x)が、横断歩道標示の何れの位置(x)においても同じ値であることについて、画像データにおけるペイント部分の幅と、非ペイント部分の幅とが等しい場合について、説明する。
任意のY座標(y1)における設定範囲において、周期Ty1=8の横断歩道標示が輝度分布Ly1(x)=[200、200、200、200、10、10、10、10、200、200、200、200]となる画像データである場合、輝度値が200となっているx座標がペイント部分を表し、輝度値が10となっているx座標がペイント部分とペイント部分とに挟まれた非ペイント部分を表す。
基底関数の偶関数をu(s)=[1、0、−1、−1、−1、0、1、1]、奇関数をv(s)=[1、1、1、0、−1、−1、−1、0]とすると、x=0からx=7までの輝度分布と偶関数u(s)との内積値は、Au(0)=200*1+200*0+200*(−1)+200*(−1)+10*(−1)+10*0+10*1+10*1=−190である。一方、x=0からx=7までの輝度分布と奇関数v(s)との内積値はAv(0)=200*1+200*1+200*1+200*0+10*(−1)+10*(−1)*10*(−1)+10*0=570である。ここでの周波数パワーP(0)は、数式3より、600.8である。
同様に、x=1からx=8までの輝度分布と偶関数u(s)との内積値は、Au(1)=200*1+200*0+200*(−1)+10*(−1)+10*(−1)+10*0+10*1+200*1=190である。一方、x=1からx=8までの輝度分布と奇関数v(s)との内積値はAv(1)=200*1+200*1+200*1+10*0+10*(−1)+10*(−1)+10*(−1)+200*0=570である。ここでの周波数パワーP(1)は、数式3より、600.8であり、P(0)と等しい。
同様に、P(2)=P(3)=P(4)=600.8であり、横断歩道標示の何れの位置(x)においても同じ周波数パワーが得られる。
次に、周波数パワーP(x)が横断歩道標示の何れの位置(x)においても同じ値であることについて、画像データにおけるペイント部分の幅と、非ペイント部分の幅とが異なる場合について、説明する。
すなわち、本実施の形態においては、任意のY座標(y1)における設定範囲において、周期Ty1=8の横断歩道標示が輝度分布Ly1(x)=[200、200、10、10、10、10、10、10、200、200、10、10]となる場合について説明する。かかる場合、輝度値が200であるペイント部分と、輝度値が10である非ペイント部分の画素数すなわち幅は異なる。
ここで、基底関数の偶関数をu(s)=[1、0、−1、−1、−1、0、1、1]、奇関数をv(s)=[1、1、1、0、−1、−1、−1、0]とする。基底関数は、画像データにおけるペイント部分の幅と、非ペイント部分の幅とが等しい場合と同様に、矩形波の中で最も周波数の低い関数である本関数を用いる。
x=0からx=7までの輝度分布と偶関数u(s)との内積値は、Au(0)=200*1+200*0+10*(−1)+10*(−1)+10*(−1)+10*0+10*1+10*1=190である。一方、x=0からx=7までの輝度分布と奇関数v(s)との内積値はAv(0)=200*1+200*1+10*1+10*0+10*(−1)+10*(−1)*10*(−1)+10*0=380である。ここでの周波数パワーP(0)は、数式3より、424.9である。
同様に、x=1からx=8までの輝度分布と偶関数u(s)との内積値は、Au(1)=200*1+10*0+10*(−1)+10*(−1)+10*(−1)+10*0+10*1+200*1=380である。一方、x=1からx=8までの輝度分布と奇関数v(s)との内積値はAv(1)=200*1+10*1+10*1+10*0+10*(−1)+10*(−1)+10*(−1)+200*0=190である。ここでの周波数パワーP(1)は、数式3より、424.9であり、P(0)と等しい。
同様に、P(2)=P(3)=P(4)=424.9であり、横断歩道標示の何れの位置(x)においても同じ周波数パワーが得られる。
ここで、ペイント部分の幅と、非ペイント部分の幅とが異なる場合は、ペイント部分の幅と非ペイント部分の幅とが等しい場合に比べて、幅の狭いペイント部を表現するための高周波成分が増加する。そして、奇関数と偶関数は最も周波数の低い矩形波、すなわち、周期の等しい矩形波で構成されるため、1周期の奇関数と偶関数だけでは高周波成分を抽出できず、周波数パワーは小さくなる。したがって、ペイント部分の幅と、非ペイント部分の幅とが異なる場合は、領域検出部105で設定するパワーレベルの閾値を、規格で定められた幅と間隔の程度に合わせて変更する必要がある。
ただし、領域検出部105で設定するパワーレベルの閾値を下げた場合でも、実交通環境では誤検出することはあまりない。なぜならば、周波数パワーが大きくなる場合は、1周期の大きさが規格値と等しく、かつ、ペイント部の幅と非ペイント部の幅とがより等しい繰り返しパターンの場合であり、実交通環境では横断歩道標示以外にはないためである。
このように、領域検出部105で設定するパワーレベルの閾値を、規格で定められた幅と間隔の割合によって変化させることによって、画像データにおける横断歩道標示のペイント部分の幅と、非ペイント部分の幅とが異なる場合であっても、検出することができるという効果を奏する。
なお、ここで基底関数として、偶関数をu(s)=[1、0、−1、−1、−1、0、1、1]、奇関数をv(s)=[1、1、1、0、−1、−1、−1、0]として説明したが、この限りではない。すなわち、各関数の要素の数および数値の順列は、上述した基底関数に限定されない。
また、矩形波による周波数分析は、画像データの輝度分布の直交成分の影響を受けず、周期がTy1である矩形波の周波数パワーのみを抽出できるため、路面の照度が変化した場合においても、横断歩道標示の周波数パワーは不変であり、安定した検出方式である。以下、路面の照度に対する周波数パワーの不変性について説明する。
設定範囲において、周期Ty1=8の横断歩道標示がLy1(x)=[200、200、200、200、10、10、10、10]となる画像データと、Ly2(x)=[210、210、210、210、20、20、20、20]となる画像データとがある場合、基底関数の偶関数をu(s)=[1、0、−1、−1、−1、0、1、1]、奇関数をv(s)=[1、1、1、0、−1、−1、−1、0]とすると、輝度分布Lx1(x)と偶関数u(s)との内積値は、Au1(0)=200*1+200*0+200*(−1)+200*(−1)+10*(−1)+10*0+10*1+10*1=−190である。一方、輝度分布Lx1(x)と奇関数v(s)との内積値はAv1(0)=200*1+200*1+200*1+200*0+10*(−1)+10*(−1)+10*(−1)+10*0=570である。ここでの周波数パワーは、−190、及び570の平方根の結果として600.8である。
同様に、輝度分布Ly2(x)と偶関数u(s)との内積値は、Au2(0)=210*1+210*0+210*(−1)+210*(−1)+20*(−1)+20*0+20*1+20*1=−190である。一方、輝度分布Ly2(x)と奇関数v(s)との内積値はAv2(0)=210*1+210*1+210*1+210*0+20*(−1)+20*(−1)+20*(−1)+20*0=570である。ここでの周波数パワーP2(0)は、数式3より、600.8となり、P1(0)と等しい。
さらに、一般的な周波数分析が、三角関数を基底関数としてFFTを計算するため、画像信号と三角関数との内積において多くの掛算が必要となるのに対して、本発明における周波数分析方法は、矩形波を基底関数としてFFTを計算するため、内積演算は単に画像信号を加算すればよく、高速に演算できる。
なお、基底関数の周期を周期Ty1にすることは一例であり、基底関数の周期を、Ty1の2倍の周期とすることもでき、又はTy1の3倍の周期とすることもでき、本発明の限定する範囲ではない。
基底関数の周期をTy1の2倍とすることによって、横断歩道標示以外のパターンであって、横断歩道標示に似たパターンを誤検出することが減少する。一方、周期がTy1の2倍である基底関数を用いた周波数分析方法は、横断歩道標示として判定される領域が小さくなるため、横断歩道標示の位置を荒く検出するのに適している。
領域検出部105は、周波数分析部104によって算出された周波数パワーP(x)の分布から、パワーレベルが所定の閾値を超える座標(x)を抽出し、抽出されたx座標が密に存在する領域を、横断歩道標示が存在する領域として検出する。
図8は、横断歩道標示が存在する領域の検出方法の説明に供する図である。図8Aは設定範囲における周波数パワーP(x)の分布から横断歩道標示が存在する領域を検出する方法における、横断歩道標示が撮像されている画像データを示し、図8Bは設定範囲における周波数パワーP(x)の分布を示す。
図8Bにおいて、周波数パワーP(x)が所定の閾値を超えるx座標はx1≦x≦x2の間の座標点であり、設定範囲においてx1とx2の間に横断歩道標示が存在することを意味する。
ここで、所定の閾値は、固定値として説明したが、周波数分析部104が、周囲の照度等を判定し、判定結果によって変更できる変動値とすることもできる。これにより、夜間など周囲が暗くゲインノイズが多く存在する場合において、閾値を低く変動させることによって、輝度エッジによらずに横断歩道標示を検出できる。
以上に示した、画像データ上の任意のY座標(y1)の設定範囲についての、周期算出、周波数分析、及び領域算出を、画像データにおける全てのY座標、すなわちY座標(y1)からY座標(ym)(m:整数)について走査して行う。
なお、以上の説明では全てのY座標について一連の処理を行うとしたが、任意の範囲について一連の処理を行うとしてもよい。たとえば、任意の範囲は、消失点から画面最下端までの範囲である。消失点は、遠近法において、並行線が交わる点を意味する。
図9は、横断歩道標示が存在する領域の検出方法の説明に供する図である。図9AはY座標(y1)における設定範囲における周波数パワーP(x)を3次元データとして示し、図9Bは上記に示した周期算出部103、周波数分析部104、及び領域算出部105における一連の処理を、図8Aに示すY座標(y1)からY座標(ym)について行った周波数パワーの総和P(x、y)のうち、図8Bに示した所定の閾値を超える範囲を示す。図9の実線で示した領域701が、総和P(x,y)のうち所定の閾値を超える範囲であり、領域701に横断歩道標示が存在することになる。
位置出力部106は、領域検出部105において検出された領域701の座標データを出力する。
以上の構成によれば、画像データ中の設定範囲において、横断歩道標示の周期に基づいて周波数分析を行い、周波数パワーが所定の閾値を超える領域を横断歩道標示が存在する領域として検出することにより、横断歩道の輝度エッジの検出をせずに横断歩道標示を検出できるため、輝度エッジの検出が困難である場合でも横断歩道標示を検出できる。
なお、以上の説明では、周期算出部103において、Y座標(y1)に位置する横一列の範囲全てを設定範囲として説明したが、Y座標(y1)に位置する任意の座標点を設定範囲としてもよい。
なお、以上の説明では、周期算出部103、周波数分析部104、及び領域算出部105における一連の処理を、任意のY座標(y1)について行った後に、Y軸上の他の点についての一連の処理を行い、それぞれの周波数パワーP(x)を和算する方法について説明をしたが、本願発明を実施する方法はこの限りではない。すなわち、Y軸上の任意の範囲における全てY座標の設定範囲について周期算出、周波数分析、及び領域算出を並列処理してもよい。
なお、以上の説明では、周期算出部103において、画像データ取得部102によって取得された画像データごとに、画像データにおける横断歩道標示のペイント部分の周期を算出したが、ペイント部分の周期は予め算出されてメモリに記憶されていてもよい。
なお、以上の説明では、基底関数に矩形波を用いたが、基底関数に三角関数を用いることも可能である。
(実施の形態2)
図10は、実施の形態2における横断歩道標示検出装置800のブロック構成を示す。実施の形態1と異なるのは、距離算出部802、周期算出部803、及び位置出力部804を設け、周期算出部103、及び位置出力部106を不要とする点である。
以下、本発明の実施の形態2における横断歩道標示検出装置800について説明する。なお、図10において、実施の形態1における機能と同一である構成要素は、同一の符号を付している。
画像データ取得部102は、道路面を含む画像データを取得する。画像データを取得する方法は、実施の形態1と同様であるため、説明は省略する。
距離算出部802は、画像データ取得部102において取得された路面の画像データから、任意のY座標(y1)におけるX軸上の全て、若しくは任意の範囲を設定範囲として抽出する。
そして、距離算出部802は、カメラと、設定範囲が示す路面との実空間における距離Dy1を算出する。距離Dyn(n:整数)は、設定範囲の座標、及びカメラの幾何学パラメータを用いて、数式4により算出される。なお、カメラの幾何学パラメータは、実施の形態1における説明で示したように、設置ピッチ角α、カメラ設置高H、カメラ焦点距離f、Y軸画素ピッチdpy、を含む、カメラの設置パラメータを意味する。また、ycはY軸画像中心の座標を意味する。
Figure 0005548212
なお、設置ピッチ角αと設置高さHは、自車両のバウンシングやピッチ運動により変化するが、設置ピッチ角α、設置高さHを使って路面までの距離を算出する方法は一例であり、本発明を限定するものではない。例えば、車高センサやジャイロセンサなどの他センサを使ってピッチ角変動分、高さ変動分を測定して補正することもできる。
周期算出部803は、距離算出部802において算出された距離Dy1を受けて、画像データに横断歩道標示が存在するか否かに関わらず、設定範囲にペイント部分が撮像された場合の、設定範囲におけるペイント部分の周期Ty1を算出する。
周期Tyn(n:整数)は、距離算出部802において算出された距離Dyn(n:整数)、実空間における横断歩道のペイント部分の幅、又は間隔(W)、カメラ焦点距離fを用いて、数式5により算出される。
Figure 0005548212
なお、数式5においては、横断歩道標示のペイント部分の幅または間隔(すなわち、間隔とは非ペイント部分の幅)をWとしているが、横断歩道標示のペイント部分の幅と、非ペイント部分の幅との和をW´とすると、数式6のようになる。
Figure 0005548212
数式6を用いることにより、諸外国の規定のように、横断歩道標示のペイント部分と非ペイント部分の幅が異なり、ペイント部分の幅と非ペイント部分の幅との和を一定として、ペイント部分と非ペイント部分とが交互に繰り返されて標示されている場合においても、Tynは算出されうる。
なお、車両が旋回している場合においても、周期算出部803が周期Ty1を算出できることは、実施の形態1と同様であるため、実施の形態2においては説明を省略する。
周波数分析部104は、周期算出部803において算出されたTy1を周期とした矩形波の偶関数および奇関数を基底関数として、設定範囲における画像輝度の周波数分析を行う。周波数分析部104の機能は、実施の形態1と同様であるため、説明を省略する。
領域検出部105は、周波数分析部104によって算出された周波数パワーP(x)の分布から、パワーレベルが所定の閾値を超えるx座標を抽出し、抽出されたx座標が密に存在する領域を、横断歩道標示が存在する領域として検出する。領域検出部105の機能は、実施の形態1と同様であるため、説明を省略する。
位置出力部804は、領域検出部105において検出された横断歩道標示が存在する領域の座標データ、及び距離算出部802において算出された距離Dyn(n:整数)の情報を併せて出力する。
以上の構成によれば、画像データ中の設定範囲において、横断歩道標示の周期に基づいて周波数分析を行い、周波数パワーが所定の閾値を超える領域を横断歩道標示が存在する領域として検出することにより、横断歩道の輝度エッジの検出が必要ないため、ペイント部分の輝度エッジが弱い場合においても横断歩道標示を検出することができるとともに、カメラから横断歩道標示までの実空間における距離を検出することができる。
(実施の形態3)
図11は実施の形態3における横断歩道標示検出装置900のブロック構成を示す。前述の実施の形態1と異なるのは、車載カメラが二つの撮像系を搭載したステレオカメラであって、ステレオ画像データ取得部902、ステレオマッチング部903、距離算出部904、周期算出部905、及び位置出力部804を設け、周期算出部103、及び位置出力部106を不要とする点である。
実施の形態3における横断歩道標示検出装置900は、車両走行中に自車両のバウンシングやピッチング、路面の勾配などがある場合に路面に対するカメラのピッチ角が変動することによって、設定範囲に横断歩道標示のペイント部分が含まれる場合の画像データにおけるペイント部分の周期算出精度が劣化する課題を解決するものである。
以下、本発明の実施の形態3における横断歩道標示検出装置900について説明する。
ステレオ画像データ取得部902は、二つの撮像系を搭載した車載ステレオカメラにより、道路の画像データを取得する。車載カメラは、図3Bのように、設置高さH、設置ピッチ角αとして車両前方に設置し、設置ロール角はゼロとして説明する。なお、車載ステレオカメラの設置方法については一例であり、設置ロール角がある場合にも適用でき、本発明の範囲を限定するものではない。
ステレオマッチング部903は、基準カメラと参照カメラの2つのカメラを有するステレオカメラを用いて、三角測量の原理により距離データを算出する。
図12は、ステレオカメラによる三角測量の原理を用いて対象物1001の距離を算出する概要を示す。基準カメラ1002、及び参照カメラ1003が同一の対象物1001を撮像する場合において、ステレオカメラと対象物との距離は、三角測量の原理により、数式7によって算出される。なお、視差dは、基準カメラで撮像される基準画像での対象物の位置と、参照カメラで撮像される参照画像での対象物の位置との差分であり、ステレオマッチングによって算出される。なお、焦点距離fは、撮像素子と撮像面との距離である。
Figure 0005548212
図13は、視差算出の説明に供する図である。図13Aは対象物に対する視差を算出するための画像処理において、基準カメラが撮像する基準画像を示し、図13Bは対象物に対する視差を算出するための画像処理において、参照カメラが撮像する参照画像を示す。視差の算出方法は、図13Aに示す基準画像における基準点を設定し、基準点に対応して、図13Bに示す参照画像における探索領域を設定する。図13Cに示すように、基準点の周辺輝度値と探索領域における対応点候補の周辺輝度値の類似度である評価値の分布を示す評価値分布を算出して、最も評価値が小さい対応点候補を対応点として算出する。
なお、類似度の指標は、SAD(Sum of Absolute Differences)、SSD(Sum of Squared differences)、NCC(Normalized Cross−Correlation)を用いることができ、本発明を限定するものではない。
以上の方法により、基準カメラから基準画像のデータに撮像された路面までの距離データが算出される。
距離算出部904は、ステレオマッチング部903において算出された距離データを用いて、基準画像の3次元ボクセルデータを算出する。距離算出部904は、算出された3次元ボクセルデータに基づいて、基準カメラから基準画像に撮像された路面までの距離Dを算出する。
図14は、基準画像に撮像された路面の3次元ボクセルデータを示す。3次元ボクセルデータは、X軸、及びY軸をもつ画像座標に対して、奥行きの軸を追加した座標空間のデータであり、画像座標の各点に対して一つの距離データが存在する。路面は、図14に示す3次元ボクセルデータにおいて、斜線部である。
斜線部分の推定方法は、一般的な画像処理で算出可能であり、例えば、斜線部分は、3次元ボクセルデータにおいて最もデータ点数が多いため、データ点数の密度分布がもっとも密である平面を、最尤推定法により斜線部分であるとして推定することができる。推定された平面に基づいて、設定範囲に対して一つの距離データが算出される。図14においては、Y座標がy1である設定範囲に対して道路面の奥行距離Dy1が決まり、設定範囲における道路面の距離を算出することができる。
なお、3次元ボクセルデータに基づいて算出される距離Dy1は、実施の形態2において数式4により算出されるDy1と同じである。すなわち、実施の形態3においては、実施の形態2における数式4を用いることなく、3次元ボクセルデータに基づいてDy1が算出される。
周期算出部905は、基準画像のデータから、任意のY座標(y1)におけるX軸上の全て、または任意の範囲を設定範囲として選択する。そして、周期算出部905は、基準画像データに含まれる設定範囲に横断歩道標示のペイント部分が存在すると想定した場合の設定範囲におけるペイント部分の周期Tyn(n:1からmの整数)を算出する。
ペイント部分の周期Tyn(n:1からmの整数)は、距離算出部904において算出された距離Dyn(n:整数)、実空間における横断歩道のペイント部分の幅又は間隔(W)、カメラ焦点距離fを用いて、実施の形態2において示した数式5により算出される。
また、ペイント部分の周期Tyn(n:1からmの整数)は、距離Dyn(n:整数)、実空間における横断歩道のペイント部分の幅と非ペイント部分の幅との和(W´)、カメラ焦点距離fを用いて、実施の形態2において示した数式6により算出される。数式5を用いても、数式6を用いても、Tynの数値は同じである。
なお、周波数分析部104、及び領域検出部105は、実施の形態1においては画像データに基づいて情報処理を行ったのに対して、実施の形態3においては基準画像のデータに基づいて情報処理を行う点以外は同じであるため、説明は省略する。また、位置出力部804についての説明は、実施の形態2において行ったため、省略する。
以上の構成によれば、これにより、自車両のバウンシングやピッチング、路面の勾配などがある場合に、車両走行中に路面に対するカメラのピッチ角が変動しても、予め3次元ボクセルデータを算出し3次元ボクセルデータに基づいて距離算出を行うことによって、係る場合であっても簡易な方法により横断歩道標示の周期を算出することができる。
(実施の形態4)
図15は実施の形態4における横断歩道標示検出装置1300のブロック構成を示す。前述の実施の形態1と異なるのは、横断歩道標示検出部1301において、周期算出部1302を設け、周期算出部103を不要とする点である。
車両が旋回して走行している場合においては、画像データ上において横断歩道標示が斜めに撮像される。実施の形態4における横断歩道標示検出装置1300は、横断歩道標示のペイント部分が画像データにおいて横方向に均等に並んでいない場合に、実施の形態1に示した周期算出方法を、適用するものである。
以下本発明の実施の形態4における横断歩道標示検出装置1300について、説明する。なお、横断歩道標示検出装置1300に含まれる周期算出部1302以外の構成要素は、実施の形態1において説明したため、機能に関する説明を省略する。
図16は、周期算出部1302のブロック構成を示す。周期算出部1302は、パラメータ取得部401と、メモリ403と、旋回検出部1401と、角度算出部1402と、算出部1403と、を含む構成である。メモリ403は、カメラの幾何学的パラメータ、及び横断歩道標示の規格値を予め記憶している。
周期算出部1302において、パラメータ取得部401は、画像データ取得部102から画像データを受けて設定範囲のY座標(yn)を選択し、メモリ403からカメラの幾何学的パラメータ、及び横断歩道標示の規格値を読み込む。
旋回検出部1401は、舵角センサやヨーレートセンサ等のセンサを有し、舵角センサ、又はヨーレートセンサが取得する角速度の変化値が所定の閾値より大きい場合に、横断歩道標示装置が搭載される車両が旋回したと検出する。
旋回検出部1401が旋回を検出した場合に、角度算出部1402は、検出された角速度の変化値に基づいて、旋回の角度γを算出する。ここで旋回の角度γは直進時の角度からの変位の絶対値とする。
算出部1403において、読み込んだパラメータに基づいて、数式8を用いて周期Tyを算出する。
Figure 0005548212
なお、数式8においては、横断歩道標示のペイント部分の幅または間隔(すなわち、間隔とは非ペイント部分の幅)をWとしているが、横断歩道標示のペイント部分の幅と、非ペイント部分の幅との和をW´とすると、数式9のようになる。
Figure 0005548212
数式9を用いることにより、諸外国の規定のように、横断歩道標示のペイント部分と非ペイント部分の幅が異なり、ペイント部分の幅と非ペイント部分の幅との和を一定として、ペイント部分と非ペイント部分とが交互に繰り返されて標示されている場合においても、Tynは算出されうる。
なお、カメラの幾何学的パラメータ、及び横断歩道標示の規格値は、予め、横断歩道標示装置1300の備えるメモリに記憶されている。
以上の構成によれば、車両が旋回している場合においても、周期算出部1301は、設定範囲に横断歩道標示のペイント部分が存在する場合の設定範囲におけるペイント部分の周期を算出することができる。
2009年9月29日出願の特願2009−223976の日本出願に含まれる明細書、図面および要約書の開示内容は、すべて本願に援用される。
本発明にかかる横断歩道標示検出装置は、ペイント部分の輝度エッジが弱い横断歩道標示であっても、撮像画面から横断歩道標示の検出が可能なものとして有用である。
100 横断歩道標示検出装置
101 横断歩道標示検出部
102 画像データ取得部
103 周期算出部
104 周波数分析部
105 領域検出部
106 位置出力部
401 パラメータ取得部
402 算出部
403 メモリ
501 偶関数
502 奇関数
701 横断歩道標示領域
800 横断歩道標示検出装置
801 横断歩道標示検出部
802 距離算出部
803 周期算出部
804 位置出力部
900 横断歩道標示検出装置
901 横断歩道標示検出部
902 ステレオ画像データ取得部
903 ステレオマッチング部
904 距離算出部
905 周期算出部
1001 対象物
1002 基準カメラ
1003 参照カメラ
1300 横断歩道標示検出装置
1301 横断歩道標示検出部
1302 周期算出部
1401 旋回検出部
1402 角度算出部
1403 算出部
1500 横断歩道標示検出装置
1501 ステレオ画像データ取得部
1502 距離データ算出部
1503 横断歩道標示検出部
1504 輝度エッジ検出部
1505 幅判定部
1506 間隔判定部
1507 繰り返し数判定部

Claims (9)

  1. 第一の撮像系を有し、前記第一の撮像系を用いて撮像した路面の画像データを取得する画像データ取得部と、
    前記画像データの設定範囲に横断歩道標示のペイント部分が含まれる場合の前記画像データ上の前記ペイント部分の周期を、前記設定範囲の座標と、前記第一の撮像系の幾何学的パラメータと、予め定められた横断歩道標示の規格値とに基づいて算出する周期算出部と、
    前記ペイント部分の周期の整数倍を1周期とした基底関数に基づいて、前記設定範囲における画像輝度の周波数分析を行い、周波数パワー分布を算出する周波数分析部と、
    前記設定範囲から、前記周波数パワー分布におけるパワーレベルが所定の閾値より大きい座標点を抽出し、前記座標点が存在する領域を横断歩道標示領域として検出する領域検出部と、
    前記画像データにおける前記横断歩道標示領域の座標データを出力する位置出力部と、
    を備える横断歩道標示検出装置。
  2. 前記周期算出部は、
    前記第一の撮像系の幾何学的パラメータ、及び前記横断歩道標示の規格値を予め記憶するメモリ部と、
    前記画像データ取得部から前記設定範囲の座標を取得し、前記第一の撮像系の幾何学的パラメータと前記横断歩道示の規格値とを前記メモリ部から取得するパラメータ取得部と、
    前記設定範囲の座標と、前記第一の撮像系の幾何学的パラメータと、前記横断歩道示の規格値とに基づいて、前記ペイント部分の周期を算出する算出部と、
    を備える請求項1に記載の横断歩道標示検出装置。
  3. 前記周期算出部は、
    前記第一の撮像系の幾何学的パラメータ、及び前記横断歩道標示の規格値を予め記憶するメモリ部と、
    前記画像データ取得部から前記設定範囲の座標を取得し、前記第一の撮像系の幾何学的パラメータと前記横断歩道示の規格値とを前記メモリ部から取得するパラメータ取得部と、
    角速度の変化を検出するセンサを有し、前記センサが検出した角速度の変化が所定の閾値よりも大きい場合に、前記横断歩道標示検出装置の旋回を検出する旋回検出部と、
    前記横断歩道標示検出装置の旋回が検出された場合に、前記センサが検出した角速度の変化値に基づいて、旋回角度を算出する角度算出部と、
    前記設定範囲の座標と、前記第一の撮像系の幾何学的パラメータと、前記横断歩道示の規格値と、前記旋回角度とに基づいて、前記ペイント部分の周期を算出する算出部と、
    を備える請求項1に記載の横断歩道標示検出装置。
  4. 前記画像データに含まれる設定範囲の座標と、前記第一の撮像系の幾何学的パラメータとに基づいて、前記第一の撮像系と、前記設定範囲が示す路面との実空間における距離を距離データとして算出する距離算出部とを、更に備え、
    前記周期算出部は、前記設定範囲に横断歩道標示のペイント部分が含まれる場合の前記ペイント部分の周期を、前記距離データと、横断歩道標示の規格値と、に基づいて算出し、
    前記位置出力部は、前記画像データにおける前記横断歩道標示領域の座標データ、及び前記距離データを出力する、
    請求項1に記載の横断歩道標示検出装置。
  5. ステレオマッチング部と、距離算出部とを、更に備え、
    前記画像データ取得部は、更に、第二の撮像系を有し、前記第一の撮像系を用いて路面を撮像した基準画像データと、前記第二の撮像系を用いて前記路面を撮像した参照画像データと、を取得し、
    前記ステレオマッチング部は、前記基準画像データが有する基準点と、前記参照画像データが有する複数の探索点との、画像輝度の相違度を示す評価値分布を算出し、前記評価値分布に基づいて算出される視差と、前記第一の撮像系の焦点距離と、前記第一の撮像系と前記第二の撮像系との距離と、に基づいて、前記第一の撮像系と前記基準画像データに撮像された路面との実空間における距離を第一の距離データとして算出し、
    前記距離算出部は、前記第一の距離データに基づいて前記基準画像データの3次元ボクセルデータを算出し、前記3次元ボクセルデータに基づいて、前記第一の撮像系と、前記基準画像データに含まれる設定範囲が示す路面との実空間における距離を第二の距離データとして算出し、
    前記周期算出部は、前記設定範囲に横断歩道標示のペイント部分が含まれる場合の前記ペイント部分の周期を、前記第二の距離データと、横断歩道標示の規格値と、に基づいて算出し、
    前記位置出力部は、前記基準画像のデータにおける前記横断歩道標示領域の座標データと、及び前記第二の距離データを出力する、
    請求項1に記載の横断歩道標示検出装置。
  6. 記幾何学的パラメータは、撮像系の設置ピッチ角と、設置高と、焦点距離と、画素ピッチと、を含むパラメータである、
    請求項1、4又は5のいずれかに記載の横断歩道標示検出装置。
  7. 前記周波数分析部は、1周期が前記ペイント部分の周期の2倍以上である基底関数に基づいて、周波数分析を行う、
    請求項1、4又は5のいずれかに記載の横断歩道標示検出装置。
  8. 画像データ取得部は、撮像系を用いて撮像した路面の画像データを取得し、
    周期算出部は、前記画像データの設定範囲に横断歩道標示のペイント部分が含まれる場合の前記ペイント部分の周期を、前記設定範囲の座標と、前記撮像系の幾何学的パラメータと、横断歩道標示の規格値と、に基づいて算出し、
    周波数分析部は、前記ペイント部分の周期の整数倍を1周期とした基底関数に基づいて、前記設定範囲における画像輝度の周波数分析を行い、周波数パワー分布を算出し、
    領域検出部は、前記設定範囲から、前記周波数パワー分布におけるパワーレベルが所定の閾値より大きい座標点を抽出し、前記座標点が存在する領域を横断歩道標示領域として検出し、
    位置出力部は、前記画像データにおける前記横断歩道標示領域の座標データを出力する
    横断歩道標示検出方法。
  9. 記幾何学的パラメータは、前記撮像系の設置ピッチ角と、設置高と、焦点距離と、画素ピッチと、を含むパラメータである、
    請求項に記載の横断歩道標示検出方法。
JP2011534060A 2009-09-29 2010-09-22 横断歩道標示検出方法および横断歩道標示検出装置 Expired - Fee Related JP5548212B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011534060A JP5548212B2 (ja) 2009-09-29 2010-09-22 横断歩道標示検出方法および横断歩道標示検出装置

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2009223976 2009-09-29
JP2009223976 2009-09-29
JP2011534060A JP5548212B2 (ja) 2009-09-29 2010-09-22 横断歩道標示検出方法および横断歩道標示検出装置
PCT/JP2010/005741 WO2011039977A1 (ja) 2009-09-29 2010-09-22 横断歩道標示検出方法および横断歩道標示検出装置

Publications (2)

Publication Number Publication Date
JPWO2011039977A1 JPWO2011039977A1 (ja) 2013-02-21
JP5548212B2 true JP5548212B2 (ja) 2014-07-16

Family

ID=43825829

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011534060A Expired - Fee Related JP5548212B2 (ja) 2009-09-29 2010-09-22 横断歩道標示検出方法および横断歩道標示検出装置

Country Status (4)

Country Link
US (1) US8744131B2 (ja)
JP (1) JP5548212B2 (ja)
CN (1) CN102483881B (ja)
WO (1) WO2011039977A1 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101933580B1 (ko) * 2012-01-26 2018-12-28 현대엠엔소프트 주식회사 차량 mms를 이용한 과속방지턱 정보 취득방법
CN103679120B (zh) * 2012-09-11 2016-12-28 株式会社理光 不平道路的检测方法和系统
BR112018015498A2 (pt) * 2016-01-29 2019-01-22 Nissan Motor método para controlar o deslocamento de um veículo e dispositivo para controlar o deslocamento de um veículo
JP6628189B2 (ja) * 2016-05-19 2020-01-08 パナソニックIpマネジメント株式会社 検出装置および検出方法
CN108319895B (zh) * 2017-12-29 2021-09-17 百度在线网络技术(北京)有限公司 用于识别电子地图中的路口的方法和装置
JP2022112897A (ja) * 2021-01-22 2022-08-03 トヨタ自動車株式会社 情報処理装置及び情報処理方法
JP2022189608A (ja) * 2021-06-11 2022-12-22 トヨタ自動車株式会社 方法、標示装置、及びシステム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0855221A (ja) * 1994-08-13 1996-02-27 Tsunehiko Nakanishi 移動物体認識方法及びそれを用いた移動物体検出装置
JP2006309313A (ja) * 2005-04-26 2006-11-09 Fuji Heavy Ind Ltd 道路認識装置
WO2008065707A1 (fr) * 2006-11-28 2008-06-05 Fujitsu Limited Procédé de reconnaissance de données d'image, dispositif de traitement d'image et programme de reconnaissance de données d'image
JP2009180631A (ja) * 2008-01-31 2009-08-13 Denso It Laboratory Inc ナビゲーション装置、ナビゲーション方法およびプログラム

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6370260B1 (en) * 1999-09-03 2002-04-09 Honeywell International Inc. Near-IR human detector
JP2005078528A (ja) * 2003-09-02 2005-03-24 Honda Motor Co Ltd 物体検出装置及び方法
WO2006114955A1 (ja) * 2005-04-25 2006-11-02 Geo Technical Laboratory Co., Ltd. 撮影位置解析方法
JP4659631B2 (ja) * 2005-04-26 2011-03-30 富士重工業株式会社 車線認識装置
AT502551B1 (de) * 2005-06-15 2010-11-15 Arc Seibersdorf Res Gmbh Verfahren und bildauswertungseinheit zur szenenanalyse
JP4755012B2 (ja) * 2005-06-29 2011-08-24 株式会社エヌ・ティ・ティ・ドコモ 映像評価装置、時空間周波数解析装置、映像評価方法、時空間周波数解析方法、映像評価プログラム、および時空間周波数解析プログラム
JP4822766B2 (ja) * 2005-08-18 2011-11-24 富士通株式会社 路面標示認識装置及びシステム
JP5022609B2 (ja) * 2006-02-27 2012-09-12 日立オートモティブシステムズ株式会社 撮像環境認識装置
JP4724043B2 (ja) * 2006-05-17 2011-07-13 トヨタ自動車株式会社 対象物認識装置
JP4654163B2 (ja) * 2006-07-14 2011-03-16 日立オートモティブシステムズ株式会社 車両の周囲環境認識装置及びシステム
US8204278B2 (en) * 2006-11-28 2012-06-19 Fujitsu Limited Image recognition method
JP4446201B2 (ja) * 2007-03-30 2010-04-07 アイシン・エィ・ダブリュ株式会社 画像認識装置及び画像認識方法
JP4569837B2 (ja) * 2007-03-30 2010-10-27 アイシン・エィ・ダブリュ株式会社 地物情報収集装置及び地物情報収集方法
JP4437556B2 (ja) * 2007-03-30 2010-03-24 アイシン・エィ・ダブリュ株式会社 地物情報収集装置及び地物情報収集方法
JP4623135B2 (ja) * 2008-05-08 2011-02-02 株式会社デンソー 画像認識装置
US8953838B2 (en) * 2009-06-24 2015-02-10 Here Global B.V. Detecting ground geographic features in images based on invariant components

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0855221A (ja) * 1994-08-13 1996-02-27 Tsunehiko Nakanishi 移動物体認識方法及びそれを用いた移動物体検出装置
JP2006309313A (ja) * 2005-04-26 2006-11-09 Fuji Heavy Ind Ltd 道路認識装置
WO2008065707A1 (fr) * 2006-11-28 2008-06-05 Fujitsu Limited Procédé de reconnaissance de données d'image, dispositif de traitement d'image et programme de reconnaissance de données d'image
JP2009180631A (ja) * 2008-01-31 2009-08-13 Denso It Laboratory Inc ナビゲーション装置、ナビゲーション方法およびプログラム

Also Published As

Publication number Publication date
US20120148104A1 (en) 2012-06-14
WO2011039977A1 (ja) 2011-04-07
CN102483881A (zh) 2012-05-30
JPWO2011039977A1 (ja) 2013-02-21
CN102483881B (zh) 2014-05-14
US8744131B2 (en) 2014-06-03

Similar Documents

Publication Publication Date Title
US20210264176A1 (en) Hazard detection from a camera in a scene with moving shadows
EP2650639B1 (en) Disparity calculation apparatus
JP5548212B2 (ja) 横断歩道標示検出方法および横断歩道標示検出装置
CN110390306B (zh) 直角车位的检测方法、车辆和计算机可读存储介质
US9336595B2 (en) Calibration device, method for implementing calibration, and camera for movable body and storage medium with calibration function
JP2012159469A (ja) 車両用画像認識装置
JP6569280B2 (ja) 路面標示検出装置及び路面標示検出方法
WO2014002692A1 (ja) ステレオカメラ
US20190180121A1 (en) Detection of Objects from Images of a Camera
JP2016200557A (ja) 校正装置、距離計測装置及び校正方法
JP2016018371A (ja) 車載システム、情報処理装置、及びプログラム
JP2017181476A (ja) 車両位置検出装置、車両位置検出方法及び車両位置検出用コンピュータプログラム
US20200193184A1 (en) Image processing device and image processing method
JP2016162130A (ja) 横断歩道検出装置、横断歩道検出方法及び横断歩道検出用コンピュータプログラム
JP2012159470A (ja) 車両用画像認識装置
JP5091897B2 (ja) 停止線検出装置
JP4969628B2 (ja) 走行区分線検出装置
WO2022009537A1 (ja) 画像処理装置
JP6416654B2 (ja) 白線検出装置
WO2020095549A1 (ja) 撮像装置
JP4584277B2 (ja) 表示装置
JP5579297B2 (ja) 視差算出方法、および視差算出装置
CN113989347B (zh) 一种双目视差计算方法及装置
JP2012089005A (ja) 画像処理装置、及び画像処理方法
JP6334773B2 (ja) ステレオカメラ

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130327

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140218

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140319

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140513

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140516

R151 Written notification of patent or utility model registration

Ref document number: 5548212

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees