JP2000099896A - 走行路検出装置、車両走行制御装置および記録媒体 - Google Patents

走行路検出装置、車両走行制御装置および記録媒体

Info

Publication number
JP2000099896A
JP2000099896A JP10268403A JP26840398A JP2000099896A JP 2000099896 A JP2000099896 A JP 2000099896A JP 10268403 A JP10268403 A JP 10268403A JP 26840398 A JP26840398 A JP 26840398A JP 2000099896 A JP2000099896 A JP 2000099896A
Authority
JP
Japan
Prior art keywords
model
travel path
image
traveling
detection device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP10268403A
Other languages
English (en)
Other versions
JP3945919B2 (ja
Inventor
Katsuyuki Imanishi
勝之 今西
Tatsuya Oike
達也 大池
Katsuhiko Hibino
克彦 日比野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Soken Inc
Original Assignee
Denso Corp
Nippon Soken Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp, Nippon Soken Inc filed Critical Denso Corp
Priority to JP26840398A priority Critical patent/JP3945919B2/ja
Publication of JP2000099896A publication Critical patent/JP2000099896A/ja
Application granted granted Critical
Publication of JP3945919B2 publication Critical patent/JP3945919B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Traffic Control Systems (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
  • Measuring Fluid Pressure (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

(57)【要約】 【課題】撮像画像中に走行路を示すためのレーンマーク
などの明瞭な特徴がない場合であっても、走行路を適切
に検出する。 【解決手段】撮像画像の分割領域毎に、その周囲の分割
領域との間で画像パターンの相関計算を行って類似度を
算出し、類似度の最も高い分割領域の存在する方向を画
像対応方向として算出する。そして、分割領域毎に、画
像対応方向と実質的に同じモデル対応方向を持つ全ての
走行路モデルに投票し、全ての分割領域について投票し
た結果、最大投票数を得た走行路モデルに基づいて走行
路を検出する。画像中に存在するレーンマークなどの明
瞭な特徴部分にだけ依存するのではなく、分割領域単位
での類似度に基づいて画像特徴的に連続する方向を算出
しているため、雨水によってレーンマークが部分的に見
えにくくなっていても、分割領域単位では似ているた
め、結果的に走行路の方向と一致した画像対応方向を算
出することができる。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、車両前方を撮影し
た画像中より走行路を検出する走行路検出装置、その検
出した走行路に沿って車両を走行させる車両走行制御装
置および走行路検出装置をコンピュータシステムにて実
現するための記録媒体に関する。
【0002】
【従来の技術及び発明が解決しようとする課題】従来よ
り、例えば車両の自動操縦などを実現するためには車両
の走行路を検出する必要があり、その走行路検出のた
め、車両前方を撮影した画像中より道路上に存在する白
線などのレーンマークを検出する技術が開発されてい
る。そのレーンマーク検出技術としては、原画像中より
走行路のエッジを探索し、それらのエッジを連結するこ
とによってレーンマークを検出する手法や、撮像した2
次元の画像中から線分を抽出し、その抽出した線分を3
次元の実空間上に変換してから、その変換した線分を連
結する手法などがある。
【0003】しかしながら、これら従来の検出手法に
は、次に示す根本的な問題点が内在する。つまり、撮像
画像中において走行路が明瞭に存在していないと適切な
検出ができないという問題である。例えば、雨天の場合
に、遠方では雨水によってレーンマークが見えにくくな
ることがあり、レーンマークのエッジが探索できないた
め、レーンマークの検出、すなわち走行路検出もできな
くなる。また、レーンマークのエッジだけを確実に区別
して抽出することは技術的にも困難な場合があり、例え
ば検出したいレーンマーク付近にそのレーンマーク以外
のエッジが存在する場合には、その誤ったエッジを採用
してしまい、容易に連結間違いが発生してしまう。例え
ばレーンマークとして道路上の白線を検出したい場合
に、その道路上に白色の走行車両が存在すると、その走
行車両によって上述した「別のエッジ」が生じることが
考えられ、連結間違いの基となる。このように一度連結
間違いが生じた場合には、復旧は難しく、適切なレーン
マーク検出ができなくなってしまう。
【0004】また、2次元画像中から抽出した線分を3
次元の実空間上に変換し、その変換した線分を連結する
手法の場合には、線分の存在が前提となるため、線分が
明瞭に存在しない場合には適切な検出が困難となる。し
たがって、上述した雨水によってレーンマークが見えに
くくなっている場合には、やはり対応が困難である。
【0005】そこで本発明は、撮像画像中に走行路を示
すためのレーンマークなどの明瞭な特徴がない場合であ
っても、走行路を適切に検出することのできる走行路検
出装置を提供し、さらに、車両走行制御装置および走行
路検出装置をコンピュータシステムにて実現するための
記録媒体を提供することを目的とする。
【0006】
【課題を解決するための手段及び発明の効果】上記課題
を解決するためになされた請求項1記載の走行路検出装
置は、例えば車両に搭載されたCCDカメラなどの撮像
手段によって車両前方の走行路を撮像し、その撮像した
画像に基づき検出手段が走行路を検出するのであるが、
検出手段は、次のようにして走行路検出を行う。
【0007】まず、検出手段が備えるモデル対応方向記
憶手段には、走行路を特定可能な特徴線が取り得る種々
の形状を考慮して画像上での走行路モデルを複数設定
し、画像を複数の小領域に分割したその分割領域毎に走
行路モデルの連続する方向である「モデル対応方向」
が、各走行路モデル分だけ記憶されている。
【0008】一方、画像対応方向算出手段は、撮像手段
にて撮像した画像の分割領域毎に、その分割領域が画像
特徴的に連続する方向(画像対応方向)を算出する。そ
して、モデル選択手段は、分割領域毎に、画像対応方向
と実質的に同じモデル対応方向を持つ全ての走行路モデ
ルに対して投票し、撮像画像中の全ての分割領域につい
て投票を行った結果、最大投票数を得た走行路モデルを
選択し、このモデル選択手段にて特定された走行路モデ
ルに基づいて走行路を検出する。
【0009】なお、画像対応方向算出手段による画像対
応方向の算出に際しては、例えば請求項2に示すよう
に、対象となる前記分割領域と、その周囲に存在する分
割領域との間で画像パターンの相関計算を行って類似度
を算出し、その類似度の最も高い分割領域の存在する方
向を、画像対応方向とすることが考えられる。
【0010】このようにして算出した画像対応方向は、
例えば画像中にレーンマークなどの明瞭な特徴があれ
ば、当然そのレーンマークの存在する方向の分割領域が
画像特徴的に連続する方向となる。したがって、分割領
域毎に、画像対応方向と実質的に同じモデル対応方向を
持つ走行路モデルに投票した場合に最大投票数を得る走
行路モデルは、画像中に存在する実際の走行路に一致す
ることとなる。
【0011】また、例えば上述した雨天の場合に、雨水
によってレーンマークが見えにくくなるような場合であ
っても、分割領域単位で画像特徴的に連続すると推定さ
れる方向を算出している。つまり、画像中に存在するレ
ーンマークなどの明瞭な特徴部分にだけ依存するのでは
なく、分割領域全体の画像を対象として画像特徴的に連
続する方向を算出しているため、例えば上述のように雨
水によってレーンマークが見えにくくなっていても、分
割領域間で見た場合、レーンマークに対応する方向性が
ある程度得られるため、結果的に走行路の方向と一致し
た画像対応方向を算出する可能性が高い。
【0012】また、上述したように、レーンマークのエ
ッジだけを確実に区別して抽出することは技術的にも困
難な場合があり、例えば検出したいレーンマーク付近に
そのレーンマーク以外のエッジが存在する場合には、そ
の誤ったエッジを採用してしまい、容易に連結間違いが
発生してしまうという問題があったが、分割領域全体の
画像を対象として画像特徴的に連続する方向を算出する
手法を用いることで、単にエッジがあるからといってそ
れをレーンマークのエッジとして採用することも防止で
きる。つまり、エッジがあっても、分割領域全体を見た
場合にさらに類似している分割領域があれば、そちらの
分割領域の方向が画像対応方向となるからである。
【0013】このように、本発明の走行路検出装置によ
れば、撮像画像中に走行路を示すためのレーンマークな
どの明瞭な特徴がない場合であっても、走行路を適切に
検出することができる。なお、画像対応方向の算出は、
請求項2に示したように画像パターンの相関計算を行っ
て類似度を算出する以外にも考えられるが、相関計算に
て算出する場合には、画像処理などの分野で一般的に用
いられている自己相関を用いることによって簡単に実現
でき、また画像全体の類似度を得る上で非常に適してい
るので好ましい。
【0014】また、走行路モデルを設定する上で考慮す
る「走行路を特定可能な特徴線」としては、例えばレー
ンマークや路肩、あるいはガードレールや側壁などの走
行路の方向を示しているものを採用することが考えられ
る。さらには、このように定常的に存在する特徴線では
なく、例えば雨天時に得られる先行車の走行軌跡や轍
(わだち)に溜まった雨水などのように、一時的に存在
する特徴線によっても走行路を検出することができる。
【0015】そして、その走行路モデルについては、請
求項3に示すように、自車両の走行路だけでなく、隣接
する走行路を特定可能な特徴線も考慮して設定されてい
ることが好ましい。これは、次の観点からの考慮であ
る。つまり、実際の車両運転の際にも運転者が経験する
ことであるが、例えば雨天や夜間の運転時に自車両の走
行路を示すレーンマークなどが見えない、あるいは見え
にくいために、対向車線の路肩やガードレールあるいは
側壁などを見て運転することがある。したがって、自車
両の走行路を検出する際にも、隣接する走行路の特徴線
も考慮することが好ましい。例えば、自車レーンと左右
の隣接レーンの組み合わせを1つの走行路モデルとすれ
ば、対向車線や走行車線、あるいは追い越し車線などの
データがあれば、これらが隣接レーンのデータとして処
理され、仮に自車レーンの情報がなかったとしても最適
なモデルが選択され、従って、結果的に自車レーンも決
定されるため、走行路を検出することができるのであ
る。なお、この観点からすれば、自車両の走行路を直接
的に示すレーンマークなどは考慮せず、例えば隣接する
走行路のレーンマークなどのみによって自車両の走行路
を間接的に定めることも可能ではある。
【0016】また、請求項4に示すように、モデル選択
手段は、走行路モデルに対する投票を所定回数繰り返し
て行った場合の総投票数に基づいてモデル選択を行うよ
うにしてもよい。1回の投票だけでは、例えば雨天や逆
行などの突発的な外乱によって誤ったモデルを選択して
しまう可能性もあるため、所定回数繰り返した場合の総
投票数に基づけば、そのような突発的な外乱による影響
を極力除去することができる。
【0017】また、請求項5に示すように、モデル選択
手段は、過去のモデル選択結果に基づいて投票する走行
路モデルを限定するようにしてもよい。この際、請求項
6に示すように、直前に選択された走行路モデルから変
形し得る所定範囲の走行路モデルについてのみ投票対象
とすることが考えられる。
【0018】つまり、通常想定される処理サイクルを考
えた場合、例えば大きく左にカーブしていた走行路が次
の処理サイクルで大きく右にカーブすることはあり得な
い。したがって、直前に選択された走行路モデルが左右
にカーブしていた場合には、そのカーブ度合いが所定範
囲で変化したものが「変形し得る所定範囲の走行路モデ
ル」ということになる。また、直前に選択された走行路
モデルが直進であった場合には、左右の所定範囲にカー
ブをする走行路までが「変形し得る所定範囲の走行路モ
デル」ということになる。
【0019】このように投票対象の走行路モデルを限定
しておけば、計算量の削減を図ることができると共に、
突発的なデータに対して(適切でない)突発的な解を出
力してしまうことを軽減でき、誤検出を防止する点で有
効である。つまり、上述したように直前の走行路モデル
が大きく左にカーブする走行路であった場合、次の処理
サイクルで大きく右にカーブする走行路に投票されるこ
とがなくなり、その右カーブの走行路モデルが誤って選
択されることを防止できる。
【0020】また、実際の使用態様を鑑みると、カメラ
の撮影角度は、撮像した画像の最上部まで道路が含まれ
るのではなく、例えば前方に障害物がないとすると、画
面最上部から3分の1程度下方の位置に地平線が来るよ
うな設定にすることが多い。その場合には、撮像画像の
上側の所定範囲には検出すべき走行路自体が存在しない
こととなる。したがって、請求項7に示すように、分割
領域は、画像中の上側であって、走行路を特定可能な特
徴線が取り得ないと推定される領域については設定しな
いことが好ましい。そして、この走行路を特定可能な特
徴線が取り得ないと推定される領域は、請求項8に示す
ように、撮像画像中における走行路の無限遠点よりも上
側の領域とすることが考えられる。
【0021】このようにすれば、走行路を特定可能な特
徴線が取り得ないと推定される領域についての分割領域
がないため、その分割領域については画像対応方向を算
出しなくてよく、当然ながら、モデル選択のための投票
にも関係しない。したがって計算量削減のために有効で
ある。
【0022】また、請求項9に示すように、以上説明し
た走行路検出装置を用い、その走行路検出装置によって
検出した走行路に沿って車両を走行させる車両走行制御
装置として構成することもできる。走行路検出装置にて
例えばレーンマークなどが明瞭に存在しない場合であっ
ても適切に走行路が検出されるため、その検出した走行
路に沿って車両を走行させる場合には、適切な車両走行
制御が実現できる。
【0023】なお、走行路は道路には限定されず、例え
ば工場内において無人搬送車両を自動操縦にて走行させ
るような場合の床などであってもよい。この場合の走行
路を特定可能な特徴線としては、例えば、床上にプリン
トした走行ガイド線のようなものとなる。
【0024】なお、このような走行路検出装置における
画像対応方向算出手段及びモデル選択手段としてコンピ
ュータシステムを機能させる機能は、例えば、コンピュ
ータシステム側で起動するプログラムとして備えられ
る。このようなプログラムの場合、例えば、フロッピー
ディスク、光磁気ディスク、CD−ROM、DVD、ハ
ードディスク等の記録媒体に記録し、必要に応じてコン
ピュータシステムにロードして起動することにより用い
ることができる。この他、ROMやバックアップRAM
を記録媒体として前記プログラムを記録しておき、この
ROMあるいはバックアップRAMをコンピュータシス
テムに組み込んで用いても良い。
【0025】
【発明の実施の形態】図1は、上述した発明が適用され
た実施の形態としての走行路検出装置2の概略構成を表
すブロック図である。本実施形態の走行路検出装置2
は、車両に搭載され、車両前方の走行路を検出するため
の装置であり、例えば、このように検出した走行路に沿
って自動走行制御などを実行する場合などに利用され
る。
【0026】本走行路検出装置2は、「撮像手段」とし
てのCCDカメラ10と、「検出手段」としての検出処
理部20とから構成されている。CCDカメラ10は、
図2に示すように、例えば車両内部の運転席近傍の天井
などに取り付けられており、車両前方の風景を撮像す
る。なお、この場合、例えば当該車両が道路上を走行し
ているのであれば、車両から所定距離だけ前方の道路も
その撮像した風景内に含まれるように撮像範囲が設定さ
れている。
【0027】一方、検出処理部20は、図1に示すよう
に、CCDカメラ10から出力されるアナログの画像信
号をディジタルの画像データに変換するアナログ・ディ
ジタル変換器(ADC)21と、そのADC21から出
力される画像データを記憶しておく画像メモリ23と、
その画像メモリ23に記憶されている画像データに基づ
いて、画像データ中の走行路を検出する処理などを実行
するものであり、「画像対応方向算出手段」及び「モデ
ル選択手段」に相当するCPU24と、CPU24の実
行するプログラムなどを記憶しているROM25と、C
PU24の作業領域として機能し、また「モデル対応方
向記憶手段」にも相当するRAM26と、CPU24か
ら転送された例えば走行路の検出結果にかかるデータな
どを外部へ出力するための通信IC27などを備えてい
る。
【0028】上述したように、CPU24は、画像メモ
リ23に記憶されている画像データに基づいて画像デー
タ中の走行路を検出する処理を実行するのであるが、こ
の検出処理は概略次のように行う。CCDカメラ10を
介して取り込んだ画像を領域分割し、その領域毎に走行
路モデルの方向データを算出する。そして、その方向デ
ータが、予め設定しておいた走行路モデルにいずれに該
当するかを判断し、該当する走行路モデルに投票する。
そして、全領域の投票結果に基づき、その投票数が最も
多いものを走行路として扱うのである。
【0029】以下、この走行路検出の詳細な内容につい
て、図3のフローチャートに示した処理手順に従いなが
ら、随時図4〜図10を参照しながら説明を進める。最
初に、画像上に走行路モデルを設定する(図3のS1参
照)。この走行路モデルの設定は、まず、実空間(3次
元)上でのモデルを設定した後、それを画像(2次元)
上のモデルに変換するという手順で実行される。
【0030】まず、実空間(3次元)上での折れ線道路
モデルを、道路形状として想定されるだけ設定する。こ
こでは、自車レーンと左右の隣接レーンによって構成さ
れるモデルを用いる。図4(a)には直線路の実空間モ
デル、図4(b)には左カーブ道路の実空間モデルを、
それぞれ道路を真上から見た概念図として示した。ここ
では、自車レーンを中心にして左右に隣接する1レーン
ずつの3レーンの走行路を想定する。自車レーンの左境
界線をL1、右境界線をL2で示すと共に、左隣接レー
ンの左境界線をL0、右隣接レーンの右境界線をL3で
示した。
【0031】そして、この各ラインL0〜L3につい
て、次の示す要領で想定ラインを設定する。つまり、図
5に示すように、自車両の位置を起点(0m)として、
15mの位置まで角度1.5度の間隔で5本の分岐直線
を作成する。具体的には、直進方向に1本の分岐直線
と、その直進方向の分岐直線に対して左右に角度1.5
度及び3.0度の2本ずつの分岐直線による計5本の分
岐直線を作成する。
【0032】次に、それら5本の分岐直線の15mでの
位置をそれぞれ起点として、同様に5本の分岐直線を作
成して40mの位置まで引く。これを、さらに70mの
値、120mの位置まで同様に5本ずつの分岐直線を作
成することによって、0m位置から120m位置までを
結ぶ想定ラインが、総計625(=54 )本設定され
る。図5では1ラインについて示したが、これをL0〜
L3の4レーンについてそれぞれ設定する。そして、各
ラインL0〜L3についての想定ラインの内で同じ形状
のラインの組み合わせたものを1つの走行路モデルとし
て取り扱う。
【0033】このように、自車レーンと左右の隣接レー
ンの組み合わせを1つのモデルとすることで、対向車線
や走行車線、あるいは追い越し車線などのデータがあれ
ば、これらが隣接レーンのデータとして処理され、仮に
自車レーンの情報がなかったとしても最適なモデルが選
択され、従って、結果的に自車レーンも決定されるた
め、走行路を検出することができるのである。
【0034】次に、上述した実空間(3次元)上でのモ
デルを画像(2次元)上のモデルに変換する処理につい
て説明する。3次元上において、自車の前方距離をy
(m)、水平方向距離をx(m)、撮像系の高さをz
(m)とする。また、対応する2次元画面(CCDカメ
ラ10におけるCCD面)上での座標位置を、水平位置
X(ドット)、垂直位置Y(ドット)とする。撮像系を
水平方向から見た場合の概念図を図6に示す。図6中の
示すyはレンズから路面上の点までの前方距離(単位
m)であり、zはCCDカメラ10の設定されている高
さ(単位m)である。詳しくはCCDカメラ10内のC
CDの中心位置である。また、図6中に示すsはCCD
面上での垂直位置(単位m)であり、fはレンズの焦点
距離(単位m)である。
【0035】この図6の概念図に基づけば、幾何学的な
相似より、s/f=z/yという関係式が導かれ、sは
y,z,fを用いて下記の式1のように表される。 s=z・f/y ……(式1) このs(m)は、前方距離y(m)に対応するCCD面
上での中心からの垂直距離を示しているため、このs
を、CCD1セルの大きさで除算したものが、CCD面
上での垂直ドット位置Yとなる。また、CCD面上での
中心からの水平距離をtとすれば、このtを、CCD1
セルの大きさで除算したものが、CCD面上での水平ド
ット位置Xとなる。したがって、水平ドット位置X、垂
直ドット位置Yはそれぞれ下記の式2、式3のように表
される。
【0036】 X=t/CCDの横セルの大きさ ……(式2) Y=s/CCDの縦セルの大きさ ……(式3) そこで、この式2,3を用いて、上述した実空間上で作
成した走行路モデルを画像上に変換する。図7(a)
は、車載のCCDカメラ10にて撮像された画像例を示
すものであるが、このような撮像シーン例に対して、図
7(b)に示すような走行路モデルが設定される。な
お、図7(b)においては、自車走行路の境界線に対す
るモデルのみを示した。また、実際の道路の幅員には多
少のばらつきがあるが、本走行路検出装置2は、自動走
行制御を実行する場合などに利用されるものであり、こ
の自動走行制御は主に高速道路での実施が想定される。
したがって、高速道路における一般的な幅員を想定し
て、左右境界線の幅は設定すればよい。
【0037】このようにして走行路モデルが設定された
ので、次に、図8に示すように画像をメッシュ状に領域
分割する(図3のS2参照)。図8では概念的に示した
が、実際には、解析対象の画像データが縦480ドッ
ト、横512ドットであり、分割した1領域は、縦4ド
ット、横16ドットである。なお、図7(a)に例示し
たように、撮像した画像の最上部まで道路が含まれるの
ではなく、例えば前方に障害物がないとすると、画面最
上部から3分の1程度下方の位置に地平線が来るよう、
CCDカメラ10の撮影角度を設定にすることが多い。
その場合には、撮像画像の上側の所定範囲には道路がな
く、その結果、検出すべき走行路も存在しないこととな
る。したがって、図8に例示したように、撮像画像中の
上側であって、走行路が存在しないと推定される領域に
ついては、画像の領域分割を行わず、その後の処理にお
いて取り扱わないこととする。これにより、不要な処理
が実行されないようにすることができ、処理負荷軽減の
点で好ましい。なお、この走行路が存在しないと推定さ
れる領域は、撮像画像中における走行路の無限遠点より
も上側の領域として設定することができる。
【0038】そして、分割した領域毎に走行路モデルの
方向データを算出する(図3のS3参)。この方向デー
タとしては、例えば画像の縦方向(垂直ドット方向)を
基準とした角度で表すことが考えられる。続いて、領域
位置毎で、方向データと対応モデルをマップ化する(図
3のS4参照)。具体的には、領域の水平位置をBX、
垂直位置をBY、領域の方向をBKとして、これらを変
数としたマップを作成する。下記の式4は、上述した3
つの変数に対して、対応する走行路モデルの番号をNと
してマップ化した関係を示している。
【0039】 N=F(BX,BY,BK) ……(式4) なお、ある領域位置(BX,BY)である方向データB
Kを持つ走行路モデルは複数存在することもある。特
に、図7(b)からも判るように画面下側、つまり自車
位置に近い部分では多くの走行路モデルが一致する。
【0040】次に、走行路モデル毎に、そのモデルが次
の処理サイクルに取り得るモデルの集合をマップ化して
おく。具体的には、本実施形態の走行路モデルは図7
(b)に示すように折れ線形状をしているので、先端
(120m位置)と3つの関節部(15m位置,40m
位置,70m位置)におけるモデル間の距離が所定値以
下となるようなモデルを選択してマップ化しておき、モ
デル対応方向記憶手段としてのRAM26内に記憶させ
ておく。下記の式5は、選択モデルEが、出力モデルM
に基づく次サイクルで変形し得るモデル集合Gによって
定まることを示している。
【0041】 E=G(M) ……(式5) これまでに説明した図3のS1〜S5の処理が、実際に
走行路検出を行う前に実行しておく前処理的なものであ
る。そして、以下に説明する図3のS6〜S11が、実
際にCCDカメラ10にて撮像した画像データに基づい
て走行路を検出する処理である。
【0042】まず、取り込んだ画像データについて、S
2で分割した領域毎に、その領域が連続する方向(領域
方向データ)を算出する(図3のS6参照)。本実施形
態では、この領域方向データの算出にあたって相関計算
を行う。相関計算は、画像処理などの分野で一般的に用
いられている自己相関を用いることによって簡単に実現
できる。対象となる領域の画像に対して、当該領域の周
囲の画像との間で相関計算を行うことで、類似する画像
領域が決定され、その領域の方向が画像の連続する方向
となる。
【0043】図9には、この領域方向データの算出手法
を概念的に示した。各領域は水平16ドット、垂直4ド
ットの2次元データであるが、ここでは計算量削減のた
め、垂直4ドット分のデータは積算することによって、
2次元データを1次元データ(G_data)に変換した状態
で処理を進める。相関計算は、下記の式6に示すよう
に、単純な輝度データの差分の絶対値の総和で評価す
る。
【0044】
【数1】
【0045】そして、下記の式7に従って相関位置を求
め、その方向を領域方向データとする。
【0046】
【数2】
【0047】つまり、水平方向の探索位置sを−32≦
s≦32の範囲で探索した結果としての相関値SUM[s]の
内の最小のものを、領域方向データvとするのである。
なお、このように相関計算を用いるのは次の考え方に基
づく。画像上の走行路については、道路上に描かれたレ
ーンマーク、路肩などの道路の境界を定めるのに有効な
線が基本的には連続して存在する。したがって、この道
路境界線の連続する方向の画像領域が、相関計算によっ
て類似する画像領域として算出される可能性が極めて高
い。また、例えば雨水がたまって道路境界線のような明
瞭な特徴が現れていなくても、画像領域同士での相関計
算によって類似する画像領域を算出した場合には、やは
り実際に道路境界線が連続している方向の画像領域が算
出される可能性が高い。
【0048】このようにして、分割した各画像領域につ
いての領域方向データを算出した後は、領域方向データ
を、走行路モデルに投票する(図3のS7参照)。この
投票方法は、各領域データについて、その位置(BX,
BY)と方向データBKを上記式4に代入すると、走行
路モデルの番号Nが得られる。したがって、その得られ
た走行路モデル番号Nに対して、投票数を1増加させ
る。なお、上述したように、1つの領域位置(BX,B
Y)、方向データBKに対して該当する走行路モデルは
複数存在することがあるので、その場合には、該当する
全ての走行路モデルについて投票数を1増加させる。こ
の投票処理を例えば左上の分割領域から順番に全ての領
域について行う。
【0049】つづいて、投票結果に基づいて最適なモデ
ルを選択するのであるが、具体的には、S7にて実行さ
れる投票による投票数を5サイクル分保存しておき、そ
の5サイクル分の投票数の総和を算出する(図3のS8
参照)。そして、その5サイクル分の投票数の総和が最
大となる走行路モデルを選択し(図3のS9参照)、そ
の走行路モデルの番号Nを検出結果として出力する(図
3のS11参照)。図10には、そのようにして出力さ
れた検出結果(走行路モデル)を示す。
【0050】なお、本実施形態では、S9にて最大投票
数の走行路モデルを選択した後、その最大投票数となっ
たモデルに対して、次サイクルに取り得るモデルを選択
する(図3のS10参照)。この取り得るモデルについ
ては、上述したS5にてマップ化しておいたものを用い
る。そして、S10でのモデル選択がされた後、S6へ
戻って、次の処理サイクルを開始する。
【0051】したがって、最初の5サイクルまでは、走
行路モデルの選択を行わず、S1にて設定した全ての走
行路モデルを対象としてS7での投票を行い、5サイク
ル分の投票数の総和が最大となるものを選択し、検出結
果として出力する。そして、6サイクル以降の処理にお
いては、S10にて選択されたモデルについてのみ投票
対象とすることで、計算量の削減を図ることができると
共に、突発的なデータに対して(適切でない)突発的な
解を出力してしまうことを軽減でき、誤検出を防止する
点で有効である。
【0052】以上説明したように、本実施形態の走行路
検出装置2によれば、CCDカメラ10にて撮像した画
像の分割領域毎に、その周囲に存在する分割領域との間
で画像パターンの相関計算を行って類似度を算出し、そ
の類似度の最も高い分割領域の存在する方向を、画像対
応方向として算出する。そして、分割領域毎に、画像対
応方向と実質的に同じモデル対応方向を持つ全ての走行
路モデルに対して投票し、撮像画像中の全ての分割領域
について投票を行った結果、最大投票数を得た走行路モ
デルを選択し、このモデル選択手段にて特定された走行
路モデルに基づいて走行路を検出する。
【0053】このようにして算出した画像対応方向は、
例えば画像中にレーンマークなどの明瞭な特徴があれ
ば、当然そのレーンマークの存在する方向の分割領域が
画像特徴的に連続する方向となる。したがって、分割領
域毎に、画像対応方向と実質的に同じモデル対応方向を
持つ走行路モデルに投票した場合に最大投票数を得る走
行路モデルは、画像中に存在する実際の走行路に一致す
ることとなる。
【0054】また、例えば上述した雨天の場合に、雨水
によってレーンマークが見えにくくなるような場合であ
っても、分割領域単位で画像特徴的に連続すると推定さ
れる方向を算出している。つまり、画像中に存在するレ
ーンマークなどの明瞭な特徴部分にだけ依存するのでは
なく、分割領域全体の画像を対象として画像特徴的に連
続する方向を算出しているため、例えば上述のように雨
水によってレーンマークが見えにくくなっていても、そ
の雨水のたまり具合なども連続する分割領域間では似て
いるため、結果的に走行路の方向と一致した画像対応方
向を算出する可能性が高い。また、上述したように、レ
ーンマークのエッジだけを確実に区別して抽出すること
は技術的にも困難な場合があり、例えば検出したいレー
ンマーク付近にそのレーンマーク以外のエッジが存在す
る場合には、その誤ったエッジを採用してしまい、容易
に連結間違いが発生してしまうという問題があったが、
分割領域全体の画像を対象として画像特徴的に連続する
方向を算出する手法を用いることで、単にエッジがある
からといってそれをレーンマークのエッジとして採用す
ることも防止できる。つまり、エッジがあっても、分割
領域全体を見た場合にさらに類似している分割領域があ
れば、そちらの分割領域の方向が画像対応方向となるか
らである。
【0055】なお、走行路を示す特徴線としては、レー
ンマーク以外にも路肩、あるいはガードレールや側壁な
どの走行路の方向を示しているものを採用することが考
えられる。さらには、このように定常的に存在する特徴
線ではなく、例えば雨天時に得られる先行車の走行軌跡
や轍(わだち)に溜まった雨水などのように、一時的に
存在する特徴線によっても走行路を検出することができ
る。
【0056】このように、本実施形態の走行路検出装置
2によれば、撮像画像中に走行路を示すためのレーンマ
ークなどの明瞭な特徴がない場合であっても、走行路を
適切に検出することができる。そして、このような走行
路検出装置2を用い、その走行路検出装置によって検出
した走行路に沿って車両を走行させる車両走行制御装置
として構成すれば、走行路検出装置2にて例えばレーン
マークなどが明瞭に存在しない場合であっても適切に走
行路が検出されるため、その検出した走行路に沿って車
両を走行させる場合には、適切な車両走行制御が実現で
きる。
【0057】[その他]上記実施形態では、道路上を走
行する車両を前提とした走行路検出装置2として説明し
たが、例えば工場内において無人搬送車両を自動操縦に
て走行させるような場合にも適用できる。この場合の走
行路は、例えば工場内の床上にプリントした走行ガイド
線のようなものである。
【図面の簡単な説明】
【図1】 実施の形態としての走行路検出装置の概略構
成を表すブロック図である。
【図2】 実施の形態としての走行路検出装置における
CCDカメラの配置などを示す概略説明図である。
【図3】 走行路検出に関する処理の概略を示すフロー
チャートである。
【図4】 実空間(3次元)上での折れ線道路モデルの
説明図である。
【図5】 走行路モデルの想定ライン設定に関する説明
図である。
【図6】 撮像系を水平方向から見た概念図である。
【図7】 (a)は車載のCCDカメラにて撮像された
画像例、(b)は(a)の撮像シーン例に対して設定さ
れる走行路モデルの説明図である。
【図8】 分割領域の概念説明図である。
【図9】 領域方向データの算出に関する概念説明図で
ある。
【図10】 検出結果(走行路モデル)の説明図であ
る。
【符号の説明】
2…走行路検出装置 10…CCDカメラ 20…検出処理部 21…アナログ・ディジタル変換器(ADC) 23…画像メモリ 24…CPU 25…ROM 26…RAM 27…通信IC
───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.7 識別記号 FI テーマコート゛(参考) H04N 7/18 G06F 15/62 380 (72)発明者 大池 達也 愛知県刈谷市昭和町1丁目1番地 株式会 社デンソー内 (72)発明者 日比野 克彦 愛知県刈谷市昭和町1丁目1番地 株式会 社デンソー内

Claims (10)

    【特許請求の範囲】
  1. 【請求項1】走行路上を走行して移動する車両に搭載さ
    れ、車両前方の走行路を撮像する撮像手段と、その撮像
    手段にて撮像した画像に基づき前記走行路を検出する検
    出手段とを備える走行路検出装置であって、 前記検出手段は、 前記走行路を特定可能な特徴線が取り得る種々の形状を
    考慮して画像上での走行路モデルを複数設定し、前記画
    像を複数の小領域に分割したその分割領域毎に前記走行
    路モデルの連続する方向であるモデル対応方向を、各走
    行路モデル分だけ記憶しておくモデル対応方向記憶手段
    と、 前記撮像手段にて撮像した画像の前記分割領域毎に、当
    該分割領域が画像特徴的に連続する方向である画像対応
    方向を算出する画像対応方向算出手段と、 前記分割領域毎に、前記画像対応方向と実質的に同じモ
    デル対応方向を持つ全ての走行路モデルに対して投票
    し、前記撮像画像中の全ての前記分割領域について前記
    投票を行った結果、最大投票数を得た走行路モデルを選
    択するモデル選択手段とを備え、 そのモデル選択手段にて特定された走行路モデルに基づ
    いて前記走行路を検出すること、 を特徴とする走行路検出装置。
  2. 【請求項2】請求項1記載の走行路検出装置において、 前記画像対応方向算出手段は、対象となる前記分割領域
    と、その周囲に存在する分割領域との間で画像パターン
    の相関計算を行って類似度を算出し、その類似度の最も
    高い分割領域の存在する方向を、前記画像対応方向とす
    ること、 を特徴とする走行路検出装置。
  3. 【請求項3】請求項1又は2記載の走行路検出装置にお
    いて、 前記走行路モデルは、自車両の走行路だけでなく隣接す
    る走行路を特定可能な特徴線も考慮して設定されている
    こと、 を特徴とする走行路検出装置。
  4. 【請求項4】請求項1〜3のいずれか記載の走行路検出
    装置において、 前記モデル選択手段は、前記走行路モデルに対する投票
    を所定回数繰り返して行った場合の総投票数に基づいて
    モデル選択を行うこと、 を特徴とする走行路検出装置。
  5. 【請求項5】請求項1〜4のいずれか記載の走行路検出
    装置において、 前記モデル選択手段は、過去のモデル選択結果に基づい
    て投票する走行路モデルを限定すること、 を特徴とする走行路検出装置。
  6. 【請求項6】請求項5記載の走行路検出装置において、 前記モデル選択手段は、直前に選択された走行路モデル
    から変形し得る所定範囲の走行路モデルについてのみ投
    票対象とすること、 を特徴とする走行路検出装置。
  7. 【請求項7】請求項1〜6のいずれか記載の走行路検出
    装置において、 前記分割領域は、前記画像中の上側であって、前記走行
    路を特定可能な特徴線が取り得ないと推定される領域に
    ついては設定されていないこと、 を特徴とする走行路検出装置。
  8. 【請求項8】請求項7記載の走行路検出装置において、 前記走行路を特定可能な特徴線が取り得ないと推定され
    る領域は、撮像画像中における走行路の無限遠点よりも
    上側の領域であること、 を特徴とする走行路検出装置。
  9. 【請求項9】請求項1〜8のいずれか記載の走行路検出
    装置と、 その走行路検出装置によって検出した走行路に沿って前
    記車両を走行させる車両走行制御装置。
  10. 【請求項10】請求項1〜9のいずれか記載の走行路検
    出装置における前記画像対応方向算出手段及びモデル選
    択手段としてコンピュータシステムを機能させるための
    プログラムを記録したコンピュータ読取可能な記録媒
    体。
JP26840398A 1998-09-22 1998-09-22 走行路検出装置、車両走行制御装置および記録媒体 Expired - Fee Related JP3945919B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP26840398A JP3945919B2 (ja) 1998-09-22 1998-09-22 走行路検出装置、車両走行制御装置および記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP26840398A JP3945919B2 (ja) 1998-09-22 1998-09-22 走行路検出装置、車両走行制御装置および記録媒体

Publications (2)

Publication Number Publication Date
JP2000099896A true JP2000099896A (ja) 2000-04-07
JP3945919B2 JP3945919B2 (ja) 2007-07-18

Family

ID=17458000

Family Applications (1)

Application Number Title Priority Date Filing Date
JP26840398A Expired - Fee Related JP3945919B2 (ja) 1998-09-22 1998-09-22 走行路検出装置、車両走行制御装置および記録媒体

Country Status (1)

Country Link
JP (1) JP3945919B2 (ja)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006214854A (ja) * 2005-02-03 2006-08-17 Nagoya City 路面画像作成装置と作成方法
KR100809417B1 (ko) 2006-09-28 2008-03-05 한국전자통신연구원 주행 차선의 상대적 위치 인식 장치 및 방법
US20090157292A1 (en) * 2007-07-13 2009-06-18 Robert Currie System and method for providing shared information about traveled road segments
US7724921B2 (en) 2002-09-27 2010-05-25 Mitsubishi Denki Kabushiki Kaisha Vehicle-onboard driving lane recognizing apparatus
JP2014191789A (ja) * 2013-03-28 2014-10-06 Sharp Corp 自走式電子機器および自走式電子機器の走行領域指定システム
US9721460B2 (en) 2012-07-27 2017-08-01 Clarion Co., Ltd. In-vehicle surrounding environment recognition device
CN109166344A (zh) * 2018-09-27 2019-01-08 盯盯拍(深圳)云技术有限公司 停车场寻车方法以及停车场寻车装置
WO2019116687A1 (ja) * 2017-12-15 2019-06-20 株式会社デンソー 道路地図生成システム及び道路地図生成方法
JP2020060936A (ja) * 2018-10-10 2020-04-16 株式会社Soken 道路形状認識装置

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06266828A (ja) * 1993-03-12 1994-09-22 Fuji Heavy Ind Ltd 車輌用車外監視装置
JPH06337936A (ja) * 1993-05-31 1994-12-06 Nec Corp 線検出方法およびその装置
JPH07271978A (ja) * 1994-03-29 1995-10-20 Toshiba Corp 画像処理装置
JPH08315125A (ja) * 1995-05-12 1996-11-29 Honda Motor Co Ltd 車両の走行路区分線などの認識装置
JPH0981734A (ja) * 1995-09-08 1997-03-28 Mitsubishi Electric Corp 画像処理装置
JPH10208056A (ja) * 1997-01-16 1998-08-07 Honda Motor Co Ltd 直線検出方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06266828A (ja) * 1993-03-12 1994-09-22 Fuji Heavy Ind Ltd 車輌用車外監視装置
JPH06337936A (ja) * 1993-05-31 1994-12-06 Nec Corp 線検出方法およびその装置
JPH07271978A (ja) * 1994-03-29 1995-10-20 Toshiba Corp 画像処理装置
JPH08315125A (ja) * 1995-05-12 1996-11-29 Honda Motor Co Ltd 車両の走行路区分線などの認識装置
JPH0981734A (ja) * 1995-09-08 1997-03-28 Mitsubishi Electric Corp 画像処理装置
JPH10208056A (ja) * 1997-01-16 1998-08-07 Honda Motor Co Ltd 直線検出方法

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7724921B2 (en) 2002-09-27 2010-05-25 Mitsubishi Denki Kabushiki Kaisha Vehicle-onboard driving lane recognizing apparatus
JP4581057B2 (ja) * 2005-02-03 2010-11-17 名古屋市 路面画像作成装置と作成方法
JP2006214854A (ja) * 2005-02-03 2006-08-17 Nagoya City 路面画像作成装置と作成方法
KR100809417B1 (ko) 2006-09-28 2008-03-05 한국전자통신연구원 주행 차선의 상대적 위치 인식 장치 및 방법
US20090157292A1 (en) * 2007-07-13 2009-06-18 Robert Currie System and method for providing shared information about traveled road segments
US8660794B2 (en) * 2007-07-13 2014-02-25 Dash Navigation, Inc. System and method for providing shared information about traveled road segments
US9721460B2 (en) 2012-07-27 2017-08-01 Clarion Co., Ltd. In-vehicle surrounding environment recognition device
JP2014191789A (ja) * 2013-03-28 2014-10-06 Sharp Corp 自走式電子機器および自走式電子機器の走行領域指定システム
WO2019116687A1 (ja) * 2017-12-15 2019-06-20 株式会社デンソー 道路地図生成システム及び道路地図生成方法
JP2019109293A (ja) * 2017-12-15 2019-07-04 株式会社デンソー 道路地図生成システム及び道路地図生成方法
CN109166344A (zh) * 2018-09-27 2019-01-08 盯盯拍(深圳)云技术有限公司 停车场寻车方法以及停车场寻车装置
JP2020060936A (ja) * 2018-10-10 2020-04-16 株式会社Soken 道路形状認識装置
JP7144271B2 (ja) 2018-10-10 2022-09-29 株式会社Soken 道路形状認識装置

Also Published As

Publication number Publication date
JP3945919B2 (ja) 2007-07-18

Similar Documents

Publication Publication Date Title
US6850628B2 (en) Lane recognition apparatus for vehicle
JP4433887B2 (ja) 車両用外界認識装置
JP4871909B2 (ja) 物体認識装置、および物体認識方法
US9734581B2 (en) On-vehicle control device
JP7077910B2 (ja) 区画線検出装置及び区画線検出方法
JP2006209511A (ja) 画像認識装置及び画像認識方法、並びにそれを用いた位置特定装置、車両制御装置及びナビゲーション装置
US20090052742A1 (en) Image processing apparatus and method thereof
JP2000357233A (ja) 物体認識装置
JP2008158958A (ja) 路面判別方法および路面判別装置。
JP6278791B2 (ja) 車両位置検出装置、車両位置検出方法及び車両位置検出用コンピュータプログラムならびに車両位置検出システム
JP2008168811A (ja) 車線認識装置、車両、車線認識方法、及び車線認識プログラム
JP2007264955A (ja) 車線位置検出装置
JP4296287B2 (ja) 車両認識装置
JP6278790B2 (ja) 車両位置検出装置、車両位置検出方法及び車両位置検出用コンピュータプログラムならびに車両位置検出システム
JP2020187474A (ja) 走行車線認識装置、走行車線認識方法およびプログラム
US11069049B2 (en) Division line detection device and division line detection method
JP4956099B2 (ja) 壁検出装置
JP2000099896A (ja) 走行路検出装置、車両走行制御装置および記録媒体
US6925194B2 (en) Curved lane recognizing method in road modeling system
JP6608664B2 (ja) 自車位置認識装置
US20230115845A1 (en) Vehicle control device, vehicle control method, and storage medium
US20230114781A1 (en) Vehicle control device, vehicle control method, and storage medium
US20230112878A1 (en) Vehicle control device, vehicle control method, and storage medium
JP4788399B2 (ja) 歩行者検出方法、装置、およびプログラム
JP2022014673A (ja) 画像処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20041208

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20061213

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070109

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070308

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070403

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070410

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100420

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110420

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130420

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees