JP3893981B2 - 車両認識方法およびこの方法を用いた交通流計測装置 - Google Patents
車両認識方法およびこの方法を用いた交通流計測装置 Download PDFInfo
- Publication number
- JP3893981B2 JP3893981B2 JP2002005372A JP2002005372A JP3893981B2 JP 3893981 B2 JP3893981 B2 JP 3893981B2 JP 2002005372 A JP2002005372 A JP 2002005372A JP 2002005372 A JP2002005372 A JP 2002005372A JP 3893981 B2 JP3893981 B2 JP 3893981B2
- Authority
- JP
- Japan
- Prior art keywords
- vehicle
- image
- road
- points
- reference image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Images
Description
【発明の属する技術分野】
この発明は、道路の近傍に撮像手段を設置して道路を撮像させ、得られた画像を処理して前記道路上の車両を認識する方法、およびこの方法を用いて交通流の計測処理を行う装置に関連する。
【0002】
【従来の技術】
出願人は、以前に、道路の近傍に2台のカメラを設置し、各カメラからの画像を用いて走行中の車両を認識する方法を提案した(特開平9−33232号)。この方法では、縦並びに配備された2台のカメラにより走行中の車両を前方の斜め上方位置から撮像し、各カメラにより得られた画像から車両を示す特徴点を抽出して、その点に対応する3次元座標を算出する。つぎに道路に沿って設定された仮想垂直平面に各3次元座標を投影することによって各車両の側面形状を抽出した後、この抽出結果に車両の2次元モデルを用いたパターンマッチング処理を施すことにより、各車両を切り分けて認識する。
【0003】
図9および図10は、前記車両の認識処理に用いられる3次元計測処理の原理を示す。図中、50U,50Lは、各カメラの撮像面を一次元状に表したものであり、51U,51Lは、各カメラのレンズ、CU,CLは、撮像面50U,50Lの中心点である。またBは各カメラのレンズ中心間の距離(基線長)であり、fは各カメラの焦点距離である。
【0004】
上記のような撮像系により空間上の任意の点Pi(i=1,2・・・)を撮像すると、各撮像面50U,50L間における点Piの結像位置には所定のずれが生じる。ここで実際の空間において、前記点Piの各結像位置間の距離をaiとおくと、点Piに対する各カメラ間の視差diは、下記の(1)式により求められる。またこの視差di,前記基線長B,および焦点距離fを(2)式にあてはめることによって、基線から点Piまでの距離Liを求めることができる。
【0005】
di=ai−B ・・・(1)
Li=B・f/di ・・・(2)
【0006】
3次元計測処理では、上記の原理に基づき、各カメラからの画像間において、空間内の同じ点を示す特徴点を対応づけし、これら特徴点の2次元座標を用いて3次元座標を算出するようにしている。
なお、空間内の一点Pが各カメラの撮像面50U,50Lに結像する場合、各カメラにより得られる画像GU,GL上の像点QU,QLは、カメラの配置関係に基づく所定の直線(エピポーラライン)上に位置する。特に、上下のカメラを、各光軸を平行にし、かつ各撮像面50U,50Lが同一平面上に位置するような関係をもって設置すると、図10に示すように、エピポーララインELは、各画像GU,GLのy軸に平行となる。
【0007】
前記した車両認識処理では、この原理に基づき、一方の画像上の任意の特徴点につき、y軸に平行なエピポーララインELを設定した後、他方の画像において、このエピポーララインELに沿って前記特徴点に対応する点を検索する。
図11は、この方法による特徴点の対応づけ処理の具体例を示す。図示例では、下方のカメラからの画像GLを基準画像として、この画像上の所定の特徴点QLのx座標に基づいてエピポーララインELを設定し、上方のカメラからの画像GU(以下、「比較画像GU」という。)において、このエピポーララインELに沿って特徴点QLへの対応点QUを検索する処理が行われる。なお、この検索処理では、エピポーララインELに沿って所定大きさの検索領域を走査しつつ、検索領域内の画像データを、特徴点QLを中心とする同じ大きさの領域内の画像データと比較し、最も類似度の高い走査位置に対応点QUが存在するものと判断する。
【0008】
【発明が解決しようとする課題】
このように理論上は、基準画像上の特徴点のx座標に基づいてエピポーララインを設定し、このエピポーララインに沿って対応点の検索処理を行うことができる。しかしながら現実には、同じ機種のカメラを用いても、カメラ間の個体差やカメラの取り付け状態によって光軸や撮像面の位置に微妙なずれが生じ、この結果、基準画像と検索画像との間のエピポーララインにも、ピクセル単位のずれが生じる。このずれは、ソフトウェア処理によりある程度は補正することができるが、この補正には限界がある。
【0009】
このようにエピポーララインにずれが生じると、前記対応点の検索処理において、検索画像では、本来の対応点とは異なる点が抽出されてしまう。このため、3次元計測処理の精度が低下し、交通流を精度良く計測できなくなる虞が生じる。
【0010】
図12は、エッジの傾きが視差に及ぼす影響を示す。図12(1)(2)は、それぞれ前記図11の基準画像GL上に破線で示した領域A,B内の画像を拡大したものであり、ELは本来のエピポーラライン、EL´は位置ずれして設定されたエピポーララインである。
【0011】
画像領域Aは、車両のボンネットとフロントガラスとの境界線の一部にかかるように設定されており、この画像領域A内には前記特徴点QLが含まれている。
この特徴点QLへの対応点を検索する場合、検索画像GUでは、位置ずれしたエピポーララインEL´に沿って対応点の検索が行われる。前記したように、対応点の検索処理では、処理対象の特徴点QLに周囲近傍の画像データが類似する点を抽出するので、基準画像GL上においてエピポーララインEL´と前記境界線との交点にあたる点QL´に対応する点が抽出されることになる。
【0012】
画像領域Bは、道路の白線の一部にかかるように設定されている。この画像領域Bにおいて、白線上の一構成点RLへの対応点を検索した場合も同様に、位置ずれしたエピポーララインEL´と白線との交点RL´に対応する点が抽出されることになる。
【0013】
ところで理論上のエピポーララインがy軸に平行に設定される場合、前記(1)式の視差diを求めるための各結像点間の距離aiは、各結像点のy座標に基づき算出される。したがって前記画像領域Aのように、x軸方向に対する傾きが小さな成分の構成点を処理対象とする場合には、エピポーララインのずれによって対応点を誤抽出しても、その対応点のy座標と本来のy座標との差はわずかとなり、視差の誤差を小さくすることができる。これに対し、前記画像領域Bのように、x軸に対する傾きが大きな成分の構成点を処理対象とする場合には、エピポーララインのずれによって誤抽出された対応点は、y軸方向において、本来の対応点から大きく離れることになる。このため、たとえエピポーララインのずれが僅かであっても、視差には大きな誤差が生じることになる。
【0014】
ここで認識対象の特徴点を含む成分の方向がエピポーララインELに対してとる角度をγとし、エピポーララインEL,EL´間の距離(エピポーラ誤差)をΔeとすると、対応点の誤抽出により生じる視差の誤差Δdeは、つぎの(3)式のようになる。
Δde=Δe*cosγ ・・・(3)
【0015】
また対応点検索時の相関演算など、エピポーララインのずれ以外の要因によって生じる誤差の誤差をΔdotherとすると、前記(2)式により求めた距離Liに生じる誤差ΔLは、つぎの(4)式のようになる。
【0016】
【数1】
【0017】
よって前記角度γが90度に近づくほど、言い換えれば前記成分の方向が水平方向に近づくほど、視差の誤差Δdを小さくすることができ、3次元計測処理における誤差も小さくすることができる。
【0018】
この発明は上記の問題や原理に着目してなされたもので、複数の撮像手段により得られた画像による3次元計測処理によって道路上の車両を認識する場合に、エピポーララインのずれの影響を受けにくい3次元計測処理を行って、車両の認識精度を高めることを目的とする。
【0019】
またこの発明は、複数の撮像手段により得られた画像による3次元計測処理によって道路上の交通流を計測する場合に、エピポーララインのずれの影響を受けにくい3次元計測処理を行って、交通流を正確に計測することを目的とする。
【0020】
【課題を解決するための手段】
この発明にかかる車両認識方法では、観測対象の道路の近傍に複数の撮像手段を車両の走行方向に光軸を向け、かつ高さ方向(縦方向)または道路の幅方向(横方向)に沿って並ぶように設置し、各撮像手段により得られた画像を用いた3次元計測処理により前記道路上の車両を個別に認識する場合に、認識処理に先立ち、特定の1の撮像手段からの画像を基準画像として、前記道路上の車両の輪郭成分のうち前記撮像手段の並び方向に直交する方向に対応する輪郭成分について、前記基準画像に現れる当該輪郭成分の向きの範囲を求める準備のステップを実行する。また認識処理では、前記特定の撮像手段から得た基準画像において、前記準備のステップで求められた向きの範囲に適合するエッジの構成点を抽出するステップと、抽出されたエッジの構成点について、前記基準画像以外の画像における対応点を特定するステップと、この特定により画像間で対応づけられた各点の座標を用いた3次元計測処理を実行するステップとを実行する。
【0021】
この方法における各撮像手段は、道路を走行する車両を前方向から撮像するように設置されるのが望ましい。(ただし後方向から撮像しても、認識処理には差し支えない。)また各撮像手段の光軸を、可能な限り平行に近くなるように設定するとともに、各撮像面を同一平面上に可能な限り合わせて設定されるのが望ましい。
【0022】
道路上の車両の輪郭成分とは、観測対象の道路を走行する車両の輪郭線(車両の外形を示す輪郭線のみならず、窓枠などの特徴部分の輪郭線も含む。)に相当する。撮像手段の並び方向に直交する方向に対応する輪郭成分は、撮像手段が縦並びに配備される場合には、前記したボンネットとフロントガラスとの境界線のように、車両の横幅方向に沿い、かつ地表面に沿って延びる成分となる(以下、この輪郭成分を「横幅成分」と呼ぶ)。この横幅成分は、道路の幅方向にほぼ沿った方向を向いて位置するので、撮像手段をその光軸を車両の走行方向に向けて設置すると、画像上における横幅成分も、水平方向(x軸方向)に対する傾きが小さい成分として出現するようになる。
【0023】
各撮像手段を縦並びに配置して3次元計測を行う場合には、処理対象の特徴点に対応するエッジの水平方向(x軸方向)に対する傾きが小さくなるほど、視差の誤差を小さくすることができる。この発明では、車両の横幅成分が画像上で示す向きの範囲を設定した上で、この範囲に対応する方向を向くエッジの構成点を3次元計測処理の対象とするので、画像上に現れる車両の特徴点のうち、水平方向に対する傾きの小さいエッジの構成点のみを用いた3次元計測処理を行うことができ、エピポーララインのずれによる視差の誤差が大きくなるのを防いで、精度の高い3次元計測を行うことができる。また横幅成分だけでも、車両の大きさや存在範囲を示すには十分であるから、これらの成分の構成点に対応する空間座標を精度良く求めることにより、道路上の車両の位置や大きさの認識精度を向上することができる。
【0024】
したがって好適な車両認識方法では、観測対象の道路の近傍に複数台の撮像手段を車両の走行方向に光軸を向けて縦並びに設置し、前記各撮像手段により得られた画像を用いた3次元計測処理により前記道路上の車両を認識する場合に、認識処理に先立ち、いずれかの撮像手段からの画像について、車両の横幅成分が画像上で示す向きの範囲を設定しておき、認識処理において、処理対象の各画像上で前記設定された向きの範囲に適合するエッジの構成点を前記3次元計測処理の対象とする。
【0025】
なお、撮像手段は縦並びに限らず、横並びに設置することもできる。この場合には、前記撮像手段の並び方向に直交する方向に対応する輪郭成分として、車両の垂直成分(空間において垂直方向に対応する輪郭成分)を採用することになる。
【0026】
さらに上記の車両認識方法では、前記準備のステップにおいて、前記道路上の車両の輪郭成分のうち前記撮像手段の並び方向に直交する方向に対応する輪郭成分を構成する複数点について、前記道路に設定された空間座標系における空間座標の入力を受け付け、入力された空間座標と前記各撮像手段の設置条件とに基づき、前記基準画像上で前記各空間座標に対応する点の座標を算出し、その算出結果から前記基準画像における前記輪郭成分の向きの範囲を特定するようにしている。
【0027】
前記空間座標系は、車両などの実際の位置を表すのに用いられる座標系であり、たとえば原点を地表面(または道路面)に設定し、道路の幅方向,長さ方向,および高さ方向に沿ってそれぞれ座標軸を定めることができる。(以下、この座標系を「地面座標系」と呼ぶ。)この地面座標系における輪郭成分の構成点の空間座標は、所定の車両の3次元モデルが道路上の所定位置にあるときの輪郭成分の構成点の空間座標によって表すことができる。たとえば1つの輪郭成分の各端点など、2点以上の構成点の空間座標によって、前記輪郭成分の向きを表すことができる。
【0028】
各撮像手段の設置条件としては、各撮像手段により規定されるステレオ座標系の設定条件を用いることができる。この設定条件は、たとえば前記地面座標系に対するステレオ座標系の回転角度や原点のずれ量などであって、認識処理に先立ち、地面座標系における位置が既知の点とこの点に対応する画像上の特徴点とを用いたキャリブレーション処理によって求めることができる。
【0029】
上記の準備のステップによれば、3次元計測処理の対象となる輪郭成分の空間位置に基づき、この成分の複数の構成点に対応する2次元座標を求めることができ、これら2次元座標から前記輪郭成分の画像上での向きを特定することができる。たとえば、各撮像手段が縦並びに設置される場合には、道路の幅方向に対して車両の横幅成分が取り得る傾きの範囲に応じて空間座標を入力することにより、画像上でその傾きの範囲に対応する角度範囲を求めることができる。このような角度範囲に適合するエッジの構成点は、車両の横幅成分を構成する特徴点に相当する可能性が高いから、車両認識に必要な特徴点を精度良く抽出することができる。
なお、輪郭成分の向きを示す空間座標の入力は、複数の向きについて行うことができる。また複数のモデルを用いて、各種車両に対応する輪郭成分の向きを入力することもできる。
【0030】
車両の輪郭成分の向きの範囲を設定する処理においては、上記の方法のほか、画像上の道路の白線を示す直線の方程式などから画像上における道路の幅方向または長さ方向を認識し、これらの方向を基準として輪郭成分の向きの範囲を設定することもできる。また撮像手段からの画像を係員に視認させながら、この係員による輪郭成分の向きの範囲の指定を受け付け、これを設定データとして登録してもよい。
【0031】
つぎにこの発明にかかる交通流計測装置は、観測対象の道路の近傍に車両の走行方向に光軸を向け、かつ高さ方向または道路の幅方向に沿って並ぶように設置された複数の撮像手段と、前記各撮像手段からの画像を用いた3次元計測処理を行って前記道路上の車両を個別に認識しつつ、その認識処理結果を順次追跡して前記道路上における車両の流れを計測する制御装置とを具備する。前記制御装置は、各撮像手段からの画像を個別に入力する画像入力手段と、前記道路上の車両の輪郭成分のうち前記撮像手段の並び方向に直交する方向に対応する輪郭成分の構成点について、前記道路に設定された空間座標系における空間座標の入力を受け付ける座標入力手段と、特定の1の撮像手段からの画像を基準画像として、前記座標入力手段により入力された複数点の空間座標と前記各撮像手段の設置条件とに基づき、これらの空間座標により構成される輪郭成分について、前記基準画像における向きの範囲を特定する範囲特定手段と、前記特定の撮像手段から入力された基準画像において、前記範囲特定手段により特定された向きの範囲に適合するエッジの構成点を抽出するエッジ構成点抽出手段と、前記エッジ構成点抽出手段により抽出されたエッジの構成点について、基準画像以外の各入力画像における対応点を特定し、その特定により入力画像間で対応づけられた各点の座標を用いた3次元計測処理を実行する3次元計測手段とを含むように構成される。なお、各撮像手段は、可能な限り、各光軸が並行であり、かつ各撮像面が同一平面上に位置するように調整されるのが望ましい。
【0032】
前記制御装置の画像入力手段は、各撮像手段毎の入力インターフェース、A/D変換回路、およびA/D変換処理後の入力画像を格納するメモリなどを含む。なお、撮像手段としてディジタルカメラを使用すれば、A/D変換回路は不要である。
【0033】
範囲特定手段には、特定された向きの範囲を保存するための記憶手段などを含ませることができる。座標入力手段は、パーソナルコンピュータのような外部機器からのデータ伝送を受け付けるようにすることができる。
【0034】
エッジ構成点抽出手段は、たとえば基準画像にエッジ抽出フィルタを走査するなどしてエッジを抽出した後、抽出されたエッジの中で前記設定手段により設定された範囲の方向を向くエッジの構成点を処理対象として抽出する。3次元計測手段は、たとえば前記エッジ構成点抽出手段により最終的に特定されたエッジの構成点について、他の入力画像上での対応点を抽出した後、これら対応する点の2次元座標と撮像手段の設置条件とに基づき、地面座標系における空間座標を求めるように構成することができる。
なお、これらエッジ構成点抽出手段,3次元計測手段は、コンピュータに処理用のプログラムを組み込むことによって設定することができるが、これに限らず、一部または全ての構成を、ハードウェアによって実現することもできる。
【0035】
上記構成の装置によれば、前記した車両認識方法に基づき、道路上の各車両を精度良く認識することができるから、この認識処理結果に基づき、高精度の交通流計測を行うことができる。
【0036】
好適な態様の交通流計測装置では、各撮像手段は縦並びに設置される。この場合、設定手段は、いずれかの撮像手段からの入力画像について、車両の横幅成分が画像上で示す向きの範囲を設定するように構成される。
【0038】
さらに上記構成の交通流計測装置において、座標入力手段をパーソナルコンピュータなどの外部機器からの入力を受け付けるように構成すれば、パーソナルコンピュータに設定されたユーザインターフェースにより、前記した車両の3次元モデルを仮想の空間に設定するなどして、輪郭成分の構成点の空間座標を簡単に求めることができる。
【0039】
【発明の実施の形態】
図1は、この発明の一実施例にかかる交通流計測装置の設置例を示す。
この交通流計測装置3は、道路RDにおける走行車両の台数や車両の移動速度などを計測するためのもので、2台のカメラ1a,1bおよび制御装置2により構成される。
【0040】
前記カメラ1a,1bは、道路RDの近傍に設置されたF字型支柱4の上方に、縦並びに設置される。これらのカメラ1a,1bは、焦点距離を同じくするレンズを有し、各光軸が平行かつ斜め下方向を向くように、また各撮像面が同一平面上に位置するように可能な限りの調整が行われ、道路RDの支柱4側の走行路を走行する車両5を、前方の斜め上方向から撮像する。
制御装置2は、保守,点検,ならびに設置時に各種設定処理を行う必要性から、前記支柱4の基部付近に取り付けられる。
【0041】
図2は、前記交通流計測装置3の構成を示す。
前記制御装置2は、各カメラ1a,1bに対応する画像入力部6a,6b,特徴点抽出部7,特徴点特定部8,対応付け処理部9,3次元計測部10,認識処理部11,交通流計測部12,出力部13を主要構成として具備する。また後記する処理対象の特徴点の特定のための構成として、設定用通信部14,抽出範囲設定部15,抽出範囲記憶部16などを具備する。
【0042】
各画像入力部6a,6bは、各カメラ1a,1bからの画像信号を取り込むインターフェースや処理対象の画像を生成するためのA/D変換回路などを含む。A/D変換処理後の濃淡画像データ(以下、「入力画像」という。)は、図示しないメモリに格納され、以下の計測処理に使用される。
【0043】
前記特徴点抽出部7および特徴点特定部8は、基準画像となる下側のカメラ1bからの画像を処理対象とする。特徴点抽出部7は、前記基準画像上にソーベルフィルタなどのエッジ抽出フィルタを走査して画像上のエッジを抽出し、各エッジ構成点を黒画素とする2値画像(エッジ画像)を生成する。さらに特徴点抽出部は、このエッジ画像を複数の小領域に分割し、所定数以上のエッジ構成点が含まれる領域毎に、代表点となるエッジ構成点を抽出する。(以下、この代表点としてのエッジ構成点を「特徴点」という。)
【0044】
特徴点特定部8は、前記特徴点抽出部7により抽出された特徴点の中から抽出範囲記憶部6に設定された向きの範囲(詳細は後記する。)に適合する方向を向くエッジの構成点を抽出し、これを以後の処理対象の特徴点として特定する。対応付け処理部9は、特定された各特徴点につき、各入力画像間での対応づけ処理を行う。3次元計測部10は、対応づけられた各特徴点の座標を三角測量の原理にあてはめて、各特徴点に対応する空間座標を算出する。
【0045】
図3は、実際の空間を基準として各特徴点の空間位置を示すための地面座標系(X,Y,Z軸で示す。)と、各カメラにより設定されるステレオ座標系(X´,Y´,Z´軸で示す。)との関係を示す。なお、図中のxL,yLはカメラ1b側の画像GLにおける2次元座標を、xU,yUはカメラ1a側の画像GUにおける2次元座標を、それぞれ示す。
【0046】
地面座標系は、地面上の所定位置を原点Oとして、道路の幅方向をX軸,長さ方向をZ軸,高さ方向をY軸とするものである。この地面座標系のX,Y,Z軸に対し、ステレオ座標系のX´,Y´,Z´軸は、それぞれ所定角度回転した状態にある。3次元計測処理では、各入力画像上の対応点の座標を用いてステレオ座標系の空間座標を求めた後、これを地面座標系の空間座標に置き換えることになるが、この空間座標の変換処理には、上記の3方向における回転角度やXZ平面から原点O´までの距離Hなどのパラメータが必要となる。さらに原点O´がY軸上に位置しない場合には、原点Oに対するO´の位置ずれ量もパラメータとして設定する必要がある。
【0047】
この実施例の制御装置2では、装置の設置時に、カメラ1bからの基準画像上において地面座標系の位置が既知の複数の点の指定を受け付け、これら指定点の座標と前記既知の空間座標とを用いて、上記の各パラメータを算出し、その算出結果を3次元計測処理のためにメモリ内に登録するようにしている。(パラメータの算出処理の詳細については、特開平10−122819号を参照されたい。)
【0048】
図2に戻って、認識処理部11は、前記3次元計測部10により計測された各点の空間座標を、道路RDの長さ方向(Z軸方向)に沿う仮想垂直平面(YZ平面)に投影する。さらに認識処理部11は、この投影結果に、種々の車両の側面形状に対応する2次元モデルを照合して道路上の車両を切り分けて認識する。この認識処理結果は、メモリに逐次格納されるもので、交通流計測部12は、認識処理結果の時系列データを用いて、前記車両台数や車両の移動速度などの交通流データを算出する。
【0049】
出力部13は、図示しない情報センターの管理装置などと通信を行うための通信インターフェースを含み、前記交通流計測部12により算出された交通流データを取り込んで前記管理装置に送信する。
【0050】
設定用通信部14は、ノート型のパーソナルコンピュータやPDAなどの外部機器17と通信を行って、前記した3次元計測のためのパラメータ算出や特徴点の抽出範囲の設定のためのデータを取り込む。抽出範囲設定部15は、設定用通信部により取り込まれた設定データを用いて、前記処理対象の特徴点の抽出範囲を示すデータを作成し、これを抽出範囲記憶部16に格納する。
【0051】
なお、上記構成において、特徴点抽出部7,特徴点特定部8,対応づけ処理部9,3次元計測部10,認識処理部11,交通流計測部12,抽出範囲設定部15の各処理部は、いずれもマイクロプロセッサ(MPU)またはプロセッサ(CPU)に各処理のアルゴリズムを示すプログラムを実行させることによって実現することができる。ただし一部の構成(たとえば特徴点抽出部7,対応付け処理部9)については、フリップフロップ,レジスタなどを含む専用の演算回路として構成することもできる。また抽出範囲記憶部16は、前記した3次元計測処理のためのパラメータを格納するのと同一のメモリに設定することができる。
【0052】
つぎに前記設定用通信部14や抽出範囲設定部15の詳細な処理について説明する。
この実施例の設定用通信部14は、外部機器17に対して、カメラ1bからの基準画像を送信する。外部機器17は、送信された各入力画像を表示して、その画面上で地面座標系における位置が既知の点の指定を受け付ける。ここで係員が、前記パラメータの算出のための空間座標を複数設定すると、この指定された点の2次元座標および既知の空間座標が設定用通信部14に伝送される。さらにこれらの座標は、図示しないパラメータ算出部に与えられ、3次元計測のための各種パラメータが算出される。
【0053】
さらに設定用通信部14は、前記特徴点の抽出範囲を設定するためのデータとして、地面座標系における車両につきカメラ1a,1bの並び方向に直交する方向に対応する輪郭成分、すなわち車両の横幅成分の空間位置を示すデータの送信を受け付ける。このデータは、車両が地面座標系の所定位置に所定の方向を向いて位置する場合の各種横幅成分(ボンネットとフロントガラスとの間の境界線,ルーフやバンパーに対応する幅成分など)を示す空間座標となる。
【0054】
外部機器17では、ユーザーインターフェースを用いるなどして、たとえば車両の位置や方向の指定を受け付け、その指定に応じて車両の3次元モデルの設定データから各横幅成分の構成点の空間座標を自動算出する。これらの空間座標は、設定用通信部14を介して抽出範囲設定部15に与えられる。抽出範囲設定部15は、前記3次元計測のためのパラメータなどを用いて、これらの空間座標が基準画像上のどの位置に対応するかを算出し、さらにこの算出結果を用いて基準画像における前記水平成分の傾きを算出する。
【0055】
なお、道路の幅方向に対して走行中の車両の横幅成分が取り得る傾きの範囲を設定できる場合、この範囲を規定する最小の傾きと最大の傾きとに応じて、前記横幅成分の空間座標を得ることができる。抽出範囲設定部15は、これらの設定データに上記の処理を実行して、基準画像上における横幅成分の向きの範囲を求めることができる。たとえばこの向きを、x軸に対する角度αとして示すと、向きの範囲を表すデータとして、最小の角度αminと最大の角度αmaxとを設定することができる。
【0056】
こうして設定された向きの範囲を示すデータは、前記抽出範囲記憶部16に格納される。よって特徴点特定部8は、前記特徴点抽出部7により抽出された特徴点のうち、抽出範囲記憶部16に格納された向きの範囲に適合する方向を向くエッジの構成点を処理対象として特定することになるので、以後の処理では、車両の横幅成分に対応する特徴点を用いた処理が行われることになる。
【0057】
図4は、前記特徴点の抽出範囲の設定例を示す。図4(1)(2)のG1L,G2Lは、いずれも基準画像の一例であり、それぞれ道路の画像が所定の向きをもって現れている。S1,S2は、これら基準画像G1L,G2Lにおいて車両の横幅成分が取り得る向きの範囲を、x軸を基準に示したもので、画像上の道路の幅方向の向きに対応させて、x軸から時計回り方向または反時計回り方向に所定角度までの角度範囲が設定されている。
【0058】
このような角度範囲によれば、画像上の各エッジについて、そのエッジの方向から車両の横幅成分の向きに適合するエッジであるかどうかを容易にかつ精度良く認識することができる。よって対応付け処理部および3次元計測部では、車両の横幅成分に対応する特徴点を処理対象とすることができる。
【0059】
この実施例のように、走行中の車両を前方側から撮像すると、画像上の車両の横幅成分は、前記図4に示すように、x軸方向に対する傾きが小さい成分として現れる。したがってこの横幅成分に対応する特徴点を3次元計測処理の対象とすれば、基準画像と処理画像との間でエピポーララインにずれが生じても、視差の誤差を小さく抑えることができ、その後の車両認識処理においても精度の高い認識処理を行うことができる。
【0060】
図5は、横幅成分のみを処理対象とする場合と、横幅成分以外の成分も処理対象とする場合とでの車両認識精度の違いを示す。図5(1)は、認識対象の車両を模式的に示したもので、●は横幅成分の特徴点を、×は道路の奥行き方向に沿って延びる輪郭成分(以下、「長さ成分」という。)の特徴点をそれぞれ示す。また図5(2)(3)中に破線で示す領域r1,r2は、各車両の実際の存在範囲を示す。
【0061】
図5(2)(3)は、地面座標系における観測対象の車両と前記特徴点の3次元計測結果との関係を示す。
図5(2)では、横幅成分の特徴点のみを用いた3次元計測の結果を示す。横幅成分の特徴点は、いずれも視差の誤差が小さくなるから、実際の特徴点の位置にほぼ対応する位置に空間座標を特定することができる。
【0062】
図5(3)では、横幅成分の特徴点とともに長さ成分の特徴点も用いた3次元計測が行われている。道路の長さ方向に沿う長さ成分は、画像上においては、x軸に対する傾きが大きな成分として現れるので、視差の誤差が大きくなる。このため、図5(3)の矢印a〜eに示すように、本来の空間位置から大きく離れた位置に空間座標が特定されるので、投影処理においても、車両の位置や大きさを正しく抽出できなくなる。特に、矢印a,cのように、求められた空間座標が後続の車両の存在領域(r2)に近い位置に特定されると、車両を切り分けて認識するのが困難になる。
【0063】
よってこの実施例の交通流計測装置3によれば、視差の誤差を小さくすることができる横幅成分の特徴点を処理対象とすることによって、各車両の位置や大きさを精度良く認識することができる。さらにこの認識結果を用いて、信頼性の高い交通流データを生成することができる。
【0064】
さらにこの実施例では、車両の横幅成分の空間座標に応じてその横幅成分の基準画像における方向を求めているので、車両を構成する特徴点を精度良く特定することができる。ただし、横幅成分の向きの特定は上記の方法に限らず、たとえば、基準画像上に現れる道路の画像からこの道路の長さ方向または幅方向を求め、この方向に基づき、画像上に現れる車両の横幅成分の向きの範囲を特定するようにしてもよい。
【0065】
図6は、前記制御装置2の設置時における初期設定手順を示す。なお、この図6ならびにつぎの図7、および以下の説明では、各処理のステップを「ST」として示す。
【0066】
前記したように、初期設定時には、制御装置2には外部機器17が接続される。最初のST1では、各カメラ1a,1bからの画像を入力し、つぎのST2では、これら入力画像のうち、カメラ1bからの基準画像の画像データを外部機器17に送信する。
【0067】
外部機器17では、前記したように、送信された基準画像上で、車線の構成点などの空間座標が既知の点の指定を受け付ける。ST3では、これら指定された点の2次元座標および既知の空間座標を入力する。つぎのST4では、これらの座標を用いて、前記3次元計測のためのパラメータを算出する。なお、算出されたパラメータは、制御装置2内のメモリに登録される。
【0068】
つぎに、ST5で、外部機器17から道路RD上における車両の横幅成分の向きの範囲を示す空間座標が入力されると、続くST6において、これらの空間座標や前記ST4で求めたパラメータを用いて、基準画像における車両の横幅成分のx軸方向に対する角度の範囲を算出する。さらにST7において、算出された角度範囲を前記抽出範囲記憶部16に格納した後、初期設定処理を終了する。
【0069】
図7は、上記の初期設定処理後に実行される交通流計測処理の一連の手順を示す。なお、この手順は、各カメラ1a,1bからの1フレーム分の画像に対する処理手順であって、所定時間毎に繰り返し実行されることになる。
【0070】
まず最初のST11では、各カメラ1a,1bからの画像を入力し、前記したディジタル変換処理により処理対象の入力画像を生成する。つぎのST12では、これら入力画像のうちの基準画像について、前記エッジ抽出処理や代表点の抽出処理を実行して、車両を示す特徴点を抽出する。さらにST13では、抽出された各特徴点のうち、前記抽出範囲記憶部16に登録された角度範囲に適合する方向を向くエッジの構成点を、処理対象の特徴点として特定する。
【0071】
このようにして特徴点が特定されると、つぎのST14では、これら特徴点について、それぞれカメラ1aから入力した比較画像上にエピポーララインを設定して前記特徴点に対応する点を抽出する。さらにST15では、前記3次元計測のためのパラメータを用いてこれら対応する特徴点の座標から地面座標系における空間座標を算出する。
【0072】
つぎのST16では、道路の長さ方向に沿う仮想垂直平面すなわち地面座標系のYZ平面に、算出された各空間座標を投影する。ST17では、各種車両の2次元モデルをこの投影結果に走査して、道路RD上の車両の位置や大きさを認識する。
【0073】
前記ST17の認識結果は、メモリ内に蓄積される。ST18では、直前に得た認識結果を含む過去所定回数の認識結果を対応づけて、個々の車両の移動軌跡を認識する。さらにこの認識結果を用いて、車両の移動速度,所定の基準位置を通過した車両台数などを算出する。ST19では、この算出結果を前記した外部の管理装置などに出力する。
【0074】
なお、上記実施例では、2台のカメラ1a,1bからの画像を用いた3次元計測処理により車両を認識するようにしているが、1台のカメラからの画像を用いた車両認識処理を行う場合にも、車両の横幅成分に対応する特徴点のみを処理対象とすれば、データ量の削減により処理を高速化できる。また2次元の画像処理では、対象物の高さを特定することができないので、影や路面上の標識などのノイズの影響を受けやすいが、車両の横幅成分の方向として限定された角度範囲に適合する特徴点のみを処理対象とすることで、これらのノイズをかなりの割合で取り除くことができる。
【0075】
図8は、2次元の画像処理により交通流を計測する場合の装置構成を示す。
この交通流計測装置は、カメラ21と制御装置22とにより構成されるもので、カメラ21は、第1の実施例のカメラ1a,1bと同様に、道路RDの近傍に、走行車両を前方の斜め上方向から撮像するように設置される。
【0076】
制御装置22には、画像入力部23,特徴点抽出部24,特徴点特定部25,認識処理部26,交通流計測部27,出力部28,設定用通信部29,抽出範囲設定部30,抽出範囲記憶部31などが組み込まれる。
【0077】
設定用通信部29は、前記第1の実施例の設定用通信部14と同様に外部機器17に接続され、地面座標系に対するカメラ21の設置状態を示すデータや、特徴点の抽出範囲設定用のデータの入力を受け付ける。抽出範囲設定部30は、この入力データを用いて、画像上における車両の横幅成分の向きの範囲を求め、これを抽出範囲記憶部31に格納する。
【0078】
画像入力部23,特徴点抽出部24,特徴点特定部25は、それぞれ前記第1の実施例の画像入力部6a,6b,特徴点抽出部7,特徴点特定部8と同様の構成のものである。認識処理部26は、たとえば特徴点特定部25により特定された特徴点のみから成るエッジ画像に、車両の2次元モデルを走査するなどして、各車両の位置などを認識する。交通流計測部27は、毎時の認識処理結果を用いて車両の速度や通過車両数などの交通流データを作成する。出力部28は、作成された交通流データを外部の管理装置などに出力する。
【0079】
なお、この実施例では、特徴点の抽出範囲の設定のために画像上の白線の構成点を複数指定する。抽出範囲設定部30は、これら指定点の座標を用いて画像上での道路の長さ方向または幅方向の向きを特定し、その向きの特定結果に基づき、車両の横幅成分の向きの範囲を設定することになる。
【0080】
【発明の効果】
上記したようにこの発明では、複数の撮像手段を車両の走行方向に光軸を向け、かつ高さ方向または道路の幅方向に沿って並ぶように設置し、各撮像手段からの画像による3次元計測処理によって道路上の車両を認識する場合に、あらかじめ道路上の車両について、撮像手段の並び方向に直交する方向に対応する輪郭成分が画像上で示す向きの範囲を求め、この範囲の向きを持つエッジの構成点を3次元計測処理の対象とするようにした。したがって撮像系の問題によりエピポーララインにずれが生じても、視差の誤差を小さくして3次元計測処理の精度を向上することができ、高精度の車両の認識処理を行うことができる。
【図面の簡単な説明】
【図1】この発明の一実施例にかかる交通流計測装置の設置例を示す斜視図である。
【図2】交通流計測装置の構成を示す機能ブロック図である。
【図3】ステレオ座標系と地面座標系との関係を示す説明図である。
【図4】画像上の道路の出現状態と横幅成分の向きの範囲の設定例とを対応づけて示す説明図である。
【図5】処理対象の特徴点が3次元計測結果に及ぼす影響を示す説明図である。
【図6】制御装置における初期設定時の手順を示すフローチャートである。
【図7】制御装置における交通流計測処理の手順を示すフローチャートである。
【図8】1台のカメラで交通流を計測する装置の構成を示す機能ブロック図である。
【図9】3次元計測処理の原理を示す説明図である。
【図10】3次元計測処理の原理を示す説明図である。
【図11】特徴点の対応づけ処理の具体例を示す説明図である。
【図12】エピポーララインのずれが視差に及ぼす影響を示す説明図である。
【符号の説明】
1a,1b カメラ
2 制御装置
3 交通流計測装置
5 車両
6a,6b 画像入力部
7 特徴点抽出部
8 特徴点特定部
9 対応付け処理部
10 3次元計測部
11 認識処理部
12 交通流計測部
14 設定用通信部
15 抽出範囲設定部
16 抽出範囲記憶部
Claims (2)
- 観測対象の道路の近傍に複数の撮像手段を車両の走行方向に光軸を向け、かつ高さ方向または道路の幅方向に沿って並ぶように設置し、前記各撮像手段により得られた画像を用いた3次元計測処理により前記道路上の車両を個別に認識する方法において、
認識処理に先立ち、特定の1の撮像手段からの画像を基準画像として、前記道路上の車両の輪郭成分のうち前記撮像手段の並び方向に直交する方向に対応する輪郭成分について、前記基準画像に現れる当該輪郭成分の向きの範囲を求める準備のステップを実行し、
前記認識処理には、前記特定の撮像手段から得た基準画像において、前記準備のステップで求められた向きの範囲に適合するエッジの構成点を抽出するステップと、抽出されたエッジの構成点について、前記基準画像以外の画像における対応点を特定するステップと、この特定により画像間で対応づけられた各点の座標を用いた3次元計測処理を実行するステップとが含まれており、
前記準備のステップでは、前記道路上の車両の輪郭成分のうち前記撮像手段の並び方向に直交する方向に対応する輪郭成分を構成する複数点について、前記道路に設定された空間座標系における空間座標の入力を受け付け、入力された空間座標と前記各撮像手段の設置条件とに基づき、前記基準画像上で前記各空間座標に対応する点の座標を算出し、その算出結果から前記基準画像における前記輪郭成分の向きの範囲を特定する、ことを特徴とする車両認識方法。 - 観測対象の道路の近傍に車両の走行方向に光軸を向け、かつ高さ方向または道路の幅方向に沿って並ぶように設置された複数の撮像手段と、前記各撮像手段からの画像を用いた3次元計測処理を行って前記道路上の車両を個別に認識しつつ、その認識処理結果を順次追跡して前記道路上における車両の流れを計測する制御装置とを具備し、
前記制御装置は、
各撮像手段からの画像を個別に入力する画像入力手段と、
前記道路上の車両の輪郭成分のうち前記撮像手段の並び方向に直交する方向に対応する輪郭成分の構成点について、前記道路に設定された空間座標系における空間座標の入力を受け付ける座標入力手段と、
特定の1の撮像手段からの画像を基準画像として、前記座標入力手段により入力された複数点の空間座標と前記各撮像手段の設置条件とに基づき、これらの空間座標により構成される輪郭成分について、前記基準画像における向きの範囲を特定する範囲特定手段と、
前記特定の撮像手段から入力された基準画像において、前記範囲特定手段により特定された向きの範囲に適合するエッジの構成点を抽出するエッジ構成点抽出手段と、
前記エッジ構成点抽出手段により抽出されたエッジの構成点について、基準画像以外の各入力画像における対応点を特定し、その特定により入力画像間で対応づけられた各点の座標を用いた3次元計測処理を実行する3次元計測手段とを、含んで成る交通流計測装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002005372A JP3893981B2 (ja) | 2002-01-11 | 2002-01-11 | 車両認識方法およびこの方法を用いた交通流計測装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002005372A JP3893981B2 (ja) | 2002-01-11 | 2002-01-11 | 車両認識方法およびこの方法を用いた交通流計測装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2003208692A JP2003208692A (ja) | 2003-07-25 |
JP3893981B2 true JP3893981B2 (ja) | 2007-03-14 |
Family
ID=27644438
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002005372A Expired - Lifetime JP3893981B2 (ja) | 2002-01-11 | 2002-01-11 | 車両認識方法およびこの方法を用いた交通流計測装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3893981B2 (ja) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1530156B1 (en) * | 2003-11-07 | 2012-03-14 | Mitsubishi Electric Information Technology Centre Europe B.V. | Visual object detection |
JP4858280B2 (ja) * | 2007-04-10 | 2012-01-18 | 株式会社明電舎 | コンテナ車両傾き角度検出装置 |
JP5299101B2 (ja) * | 2009-06-11 | 2013-09-25 | コニカミノルタ株式会社 | 周辺表示装置 |
JP5740241B2 (ja) | 2011-08-03 | 2015-06-24 | 株式会社東芝 | 車両検出装置 |
JP5600220B2 (ja) * | 2011-10-28 | 2014-10-01 | 富士フイルム株式会社 | 3次元測定装置 |
JP6323077B2 (ja) * | 2014-03-07 | 2018-05-16 | オムロン株式会社 | 画像処理装置、車両検出方法、および車両検出プログラム |
CN105761507B (zh) * | 2016-03-28 | 2018-03-02 | 长安大学 | 一种基于三维轨迹聚类的车辆计数方法 |
-
2002
- 2002-01-11 JP JP2002005372A patent/JP3893981B2/ja not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
JP2003208692A (ja) | 2003-07-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11320833B2 (en) | Data processing method, apparatus and terminal | |
EP1983484B1 (en) | Three-dimensional-object detecting device | |
JP3759429B2 (ja) | 障害物検出装置及びその方法 | |
JP3525896B2 (ja) | 3次元物体認識方法および同方法を使用したビンピッキングシステム | |
JP4406381B2 (ja) | 障害物検出装置及び方法 | |
CN110926330B (zh) | 图像处理装置和图像处理方法 | |
JP2009041972A (ja) | 画像処理装置及びその方法 | |
JP2006252473A (ja) | 障害物検出装置、キャリブレーション装置、キャリブレーション方法およびキャリブレーションプログラム | |
JP2003083742A (ja) | 監視システムの距離補正装置および距離補正方法 | |
CN110826512B (zh) | 地面障碍物检测方法、设备及计算机可读存储介质 | |
JP5539250B2 (ja) | 接近物体検知装置及び接近物体検知方法 | |
CN113884002A (zh) | 基于二三维信息融合的受电弓滑板上表面检测系统及方法 | |
JP2010133751A (ja) | 形状測定装置およびプログラム | |
JP6410231B2 (ja) | 位置合わせ装置、位置合わせ方法及び位置合わせ用コンピュータプログラム | |
JP2014134856A (ja) | 被写体識別装置、被写体識別方法および被写体識別プログラム | |
JP3893981B2 (ja) | 車両認識方法およびこの方法を用いた交通流計測装置 | |
JP5501084B2 (ja) | 平面領域検出装置及びステレオカメラシステム | |
KR20120108256A (ko) | 로봇 물고기 위치 인식 시스템 및 로봇 물고기 위치 인식 방법 | |
JP3516118B2 (ja) | 物体認識方法および物体認識装置 | |
JP7426611B2 (ja) | 校正方法および校正装置 | |
JP2007233440A (ja) | 車載用画像処理装置 | |
JPH11211738A (ja) | 移動体の速度計測方法およびその方法を用いた速度計測装置 | |
US11580662B2 (en) | Associating three-dimensional coordinates with two-dimensional feature points | |
CN110852278B (zh) | 地面标识线识别方法、设备及计算机可读存储介质 | |
JP2004020398A (ja) | 空間情報獲得方法、空間情報獲得装置、空間情報獲得プログラム、及びそれを記録した記録媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20041214 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060816 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20061010 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20061121 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20061204 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 Ref document number: 3893981 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101222 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101222 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111222 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111222 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121222 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131222 Year of fee payment: 7 |
|
EXPY | Cancellation because of completion of term |