JP3333468B2 - 車両自律走行の走行路画像処理装置 - Google Patents

車両自律走行の走行路画像処理装置

Info

Publication number
JP3333468B2
JP3333468B2 JP14295999A JP14295999A JP3333468B2 JP 3333468 B2 JP3333468 B2 JP 3333468B2 JP 14295999 A JP14295999 A JP 14295999A JP 14295999 A JP14295999 A JP 14295999A JP 3333468 B2 JP3333468 B2 JP 3333468B2
Authority
JP
Japan
Prior art keywords
image
area
road
value
label
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP14295999A
Other languages
English (en)
Other versions
JP2000030058A (ja
Inventor
義秋 坂上
知彦 桝谷
朗 長尾
隼人 菊池
卓 菅原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Priority to JP14295999A priority Critical patent/JP3333468B2/ja
Publication of JP2000030058A publication Critical patent/JP2000030058A/ja
Application granted granted Critical
Publication of JP3333468B2 publication Critical patent/JP3333468B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Image Analysis (AREA)

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は走行路画像処理装置
に関し、特に高速でカラー画像のISH変換を行え、か
つ十分な走行制御を行うことのできるようにした車両自
律走行の走行路画像処理装置に関する。
【0002】
【従来の技術】従来、走行路領域を抽出する手法は、そ
のほとんどがモノクロ画像によるエッジ検出に基づくも
のであり、カラー画像に基づいてこの種の走行路判別を
行う技術は、ほとんど提供されていない。
【0003】また、デジタル値化されたカラー画像情報
を取り扱うときには、RGBデータ(三原色情報−R;
赤,G;緑,B;青)以外に、明度I(色の明るさの程
度),彩度S(色のあざやかさの程度),色相H(色の
種類に関する分類を示す値)などが特徴量として使用さ
れる場合が多い。これら明度I,彩度Sおよび色相Hの
特徴量は、RGBデータを所定の変換式に代入すること
により、求められる。従来、このRGBデータからIS
Hデータへの変換処理は、画像処理においてISHデー
タが必要になる度毎に行われていた。つまり、ISHデ
ータが必要になった際には、CPUは、Rデータが記憶
されたR画像メモリ,Gデータが記憶されたG画像メモ
リおよびBデータが記憶されたB画像メモリにアクセス
し、RGBデータを収集する。そして、CPUはこのR
GBデータを基にした所定の変換処理を行うことによ
り、必要とするISHデータを演算していた。
【0004】また、従来の走行路領域の判別は、モノク
ロ画像によるエッジ検出により走行路に描かれた白線や
ランドマークを検知し、この白線やランドマークに基づ
いて行われていた。
【0005】また、限定された走行コースではなく、一
般環境の道路を自律走行車が走行する場合には、様々な
路面状況が考えられる。特に、走行コースの周囲に種々
の立体物が存在する場合には、路面上には影が出来る。
路面上に影が存在する場合には走行路領域は一様な色に
はならない。このため、画像処理により走行路領域を抽
出するには、走行路領域にある影を考慮して行わなけれ
ばならない。従来、この影を認識するため、走行コース
の路面状況を限定し、この限定時における日向部分や影
部分の色の分布を予め計測しておいて走行路領域を抽出
する手法が一部の研究において行われている。この手法
は、計測した各部分の色の分布をコンピュータに保存し
ておき、実際の画像を取り入れた時に、保存しておいた
色の分布を読み出して入力画面の色の分布と比較して走
行路領域を判断するものである。
【0006】また、走行路領域を判別するため、画像分
割した各領域にラベル付けを行い、各領域を区分する必
要がある。このラベリング処理は、2値画像内の対象領
域の面積や重心を計算するために必要不可欠なものとな
っている。従来、提案されてきたラベリングアルゴリズ
ムとしては、ラスタ走査型、ランコート型、境界追跡型
に大別できる。しかし、ハードウエア化(高速化)に際
してはそのリアルタイム処理の可能性や回路規模、実現
の容易性等からラスタ走査型が一般的に用いられてい
る。この走査は、まず、1回目の走査で仮ラベルを割り
付けながら異なった値を持つ仮ラベル同士の連結を示す
情報を保持し、次いでその統合情報を解析することによ
り、対象領域と1対1で対応した最終ラベルを得る。最
後に、1回目の走査で得られた仮ラベル画像を再度走査
し、仮ラベルを最終ラベルで置き換えることによりラベ
リングが実行される。
【0007】また、与えられた画像を領域分割手法によ
って分割すると画像領域は過分割される。このため、過
分割された各領域の色や、各領域の周囲領域との連結具
合に基づき、過分割された各領域の併合処理を行う。す
なわち、分割領域の個々にラベル付けをした後、各ラベ
ル間の連結関係を記述する。そして、この記述に基づ
き、併合される領域のラベルを併合する領域のラベルに
書き替えるラベルの付け替え操作を実行する。ラベルの
付け替えは、画像を走査して併合される対象の領域の画
素ならばラベル値すなわち画素値を変更することにより
行われる。
【0008】また、従来、画像分割領域から道路端や走
行コースを求める場合には、得られた走行コース領域と
背景領域との境界を追跡して境界線に対応する点列群を
求めていた。つまり、走行領域の境界部に位置する画素
をこの境界に沿って一つ一つ追跡し、この追跡の跡を点
列群とし、この点列群に基づいて道路端を判断してい
た。
【0009】
【発明が解決しようとする課題】カラー画像を用いてこ
のような画像処理を行うことは、モノクロ画像を用いて
処理を行う場合に比較してコストが高くなり、産業分野
におけるカラー画像処理の事例は少ない。
【0010】また、上記従来のRGBデータからIHS
データへの変換処理は、画像処理においてIHSデータ
が必要になる度毎に行われていたため、処理に時間を要
していた。特にRGBデータから色相データHへの変換
処理には非常に時間がかかり、例えば、ワークステーシ
ョン(Sun3)であってもこの変換処理には約1分の
時間を要していた。このため、リアルタイム処理が必要
とされる自動車の自律走行等における画像処理において
は、演算処理に時間がかかり、十分な走行制御を行うこ
とが出来なかった。
【0011】また、上記従来のモノクロ画像におけるエ
ッジ検出を用いた手法は、走行路上に描かれた白線やラ
ンドマークを追跡することによって走行コースを認識す
るため、走行路上に必ず白線やランドマークを必要とす
る。また、カメラで撮像した画像を処理した結果、走行
路を照射する光源の状態や不明瞭な白線などが原因にな
り、検出したエッジが途切れている場合があり、このよ
うな場合には走行路領域を検出することが困難である。
【0012】また、走行路上にゴミがあったり、影が出
来ている場合には、白線やランドマークを誤検知してし
まい、正確な走行路情報が得られない場合がある。ま
た、走行路領域と背景領域との境界が草や土で区分され
ている場合には、境界部分に相当するエッジの変化が小
さく、境界の認識が困難である。また、天候や太陽の位
置により、時々刻々と走行路の明るさが変化する場合、
走行路領域と背景領域との領域区分のためのしきい値を
固定したものとすると正しい走行路領域を求めることが
出来なくなる。
【0013】また、上述したように、一般の道路ではそ
の走行時の天候、太陽の位置や雲の動きなどによって路
面上の明るさの分布は時々刻々と変化している。このた
め、予め色の分布を計測しておいてこれを入力画像と比
較判断する従来手法では、この比較判断処理は上記の明
るさの変化に追従することが出来ず、影の部分を必ずし
も抽出できるとは限らない。また、舗装工事などで道路
の一部が変色している場合、この変色の度合いによって
は画像処理によって変色部分の道路領域が抽出されない
場合がある。
【0014】また、今までのラベリング処理の対象とす
る画像は全て2値画像であり、多値画像に対してはラベ
リングを行うことが出来なかった。また、ラスタ走査型
は、1回の走査では対象領域と1対1で対応したラベル
を付けることが出来ない。また、1次ラベリングと2次
ラベリングについては比較的簡単にハードウエア化を行
うことが出来るが、統合情報の解析、つまり、統合処理
についてはハードウエア化が困難である。そして、ラス
タ走査型のアルゴリズムでは仮ラベル付け時に大量の統
合情報が発生するため、統合処理の負荷が大きく、ラベ
リング処理全体で見たときの処理性能は上がらない。
【0015】また、従来の領域併合のためのラベル値の
付け替え操作は、画像の全画素について、または、少な
くとも併合領域に外接する長方形内の画素について走査
することにより行われる。従って、ラベルの付け替え走
査に時間を要し、自動車の自律走行に必要とされる高速
処理が困難になる。また、処理コストが低減されないと
いう欠点もある。
【0016】また、領域境界部の画素を一つ一つ逐次追
跡していって道路端を求める上記従来の方法は、処理に
時間がかかる。そのうえ、複数の領域がある場合には何
を基準にして道路端の判断処理をするかが問題になる。
また、走行コース領域と分割領域とがごくわずかに繋が
っており、しかも、この分割領域が走行コースでない場
合が画像処理の結果によっては起こり得る。このような
場合に、従来の領域の境界を逐次追跡していく方法で
は、実際に走行コースでない領域の境界も点列として求
まってしまう。この結果、正確な道路端情報を得ること
が出来ない。また、得られた点列群が繋がらずに分離し
たとしていても、複数の点列群の妥当性を検証する必要
があり、処理が複雑になる。さらには、得られた画像に
ノイズによる穴や切れ込みが有る場合には、得られる点
列群が滑らかでなくなってしまう。
【0017】本発明の目的は、前記した従来技術に鑑み
てなされたものであり、高速に撮像された画像データか
ら道路画像領域を判定し、十分な走行制御を行うことの
できる両自律走行の走行路画像処理装置を提供すること
にある。
【0018】
【課題を解決するための手段】前記した目的を達成する
ために、本発明は、撮像された原画像データが記憶され
る原画像メモリと、該原画像データに含まれるRGBデ
ータのうちのRデータを記憶するR画像メモリと、前記
RGBデータのうちのGデータを記憶するG画像メモリ
と、前記RGBデータのうちのBデータを記憶するB画
像メモリと、前記R画像メモリ,前記G画像メモリおよ
び前記B画像メモリに記憶されたRGBデータを下位ビ
ットを切り捨てて読み出し、該読み出されたRGBデー
タから変換された明度画像データが記憶される第1の記
憶素子と、該読み出されたRGBデータから変換された
彩度画像データが記憶される第2の記憶素子と、前記明
度画像データおよび彩度画像データのそれぞれを、走行
路領域と背景領域とに区分するしきい値により2値化す
る2値化手段と、該2値化手段により得られた前記明度
画像または彩度画像に係るデータと、安定した走行路情
報が得られるように設定されたテンプレート領域との論
理積により道路画像領域を判別する道路画像領域判別手
とを備えた点に第1の特徴がある。
【0019】また、本発明は、前記道路画像領域判別手
段により得られた明度画像および彩度画像に係る道路画
像データの論理積を取り、走行路領域情報を得るように
した点に第2の特徴がある。
【0020】前記第1、第2の特徴によれば、RGBデ
ータからISHデータへの変換処理は各記憶素子にIS
Hデータを格納する際にのみ行われ、以後は各記憶素子
からISHデータが直接読み取れる。このため、高速に
演算処理を行うことができる車両自律走行の走行路画像
処理装置および方法を提供できるようになる。
【0021】
【発明の実施の形態】本発明の一実施例によるカラー画
像処理装置およびその処理方法を、自律走行車の走行制
御に適用した場合について以下に説明する。本実施例の
装置および方法により、走行車の走行コースは自動的に
認識され、走行車は認識された走行コースに基づいてス
テアリングの操舵角やエンジンへの燃料噴出量などを決
定し、自律走行する。
【0022】第1図は本実施例によるカラー画像処理装
置全体の概略構成を示すブロック図である。カラー画像
処理装置は、道路情報を撮像するカラーカメラ101
と、撮像されたRGB情報をISH変換するISH変換
部102と、ISH変換された画像情報から道路候補領
域等を抽出するカラー処理部103と、カラー処理され
た画像についてラベリング処理を施すラベリングハード
部104と、ラベリングされた画像領域について併合処
理等を実行するCPU処理部105とに大別される。I
SH変換部102は、カラーカメラ入力ボード、ISH
変換ボードおよびフィルタ等によって構成されている。
【0023】第2図はこのカラー画像処理装置における
画像処理方法を示す概略のフローチャートである。カラ
ーカメラ101により道路画像106がRGB情報とし
て取り込まれ、ISH変換部102において明度
(I),彩度(S),色相(H)の各画像に変換される
(ステップ201)。これら各画像を基にしてカラー処
理部103において走行コースの基になる道路候補領域
が抽出される(ステップ202)。ここで、CPUのス
テータスレジスタにある低輝度のしきい値存在フラグが
オンしているか否かを判断する(ステップ203)。こ
のフラグは取り込まれた原画像に影や変色部などの低輝
度領域が有るか否かを示すフラグであり、フラグがオン
していればカラー処理部103において低輝度領域が抽
出される(ステップ204)。抽出された道路候補領域
および低輝度領域はラベリングハード部104において
ラベル付けされ、各領域間の接続関係が判断される。こ
の判断結果に基づき、各領域が併合すべき関係にある場
合にはCPU処理部105においてマージ(併合)処理
が実行される(ステップ205)。
【0024】次に、CPUのステータスレジスタにある
高輝度のしきい値存在フラグがオンしているか否かを判
断する(ステップ206)。ステップ203において低
輝度のしきい値存在フラグがオンしていない場合には、
直ちにこのステップ206の処理が実行される。この高
輝度のしきい値存在フラグは、取り込まれた原画像に日
向や変色部分などの高輝度領域が有るか否かを示すフラ
グであり、フラグがオンしていればカラー処理部103
において高輝度領域が抽出される(ステップ207)。
抽出された道路候補領域および高輝度領域はラベリング
ハード部104においてラベル付けされ、各領域間の接
続関係が判断される。この判断結果に基づき、各領域が
併合すべき関係にある場合にはCPU処理部105にお
いてマージ(併合)処理が実行される(ステップ20
8)。
【0025】このようにして併合された道路候補領域に
基づき、領域の左右の境界端、つまり、道路端の境界線
が点列として求められる。この点列情報により、今回撮
像された原画像に基づく走行コースが認識される(ステ
ップ209)。この後、ステップ201の処理に戻り、
自律走行車の移動に伴って引き続いて得られる画像情報
について上記と同様な処理が繰り返し実行され、自律走
行車の走行制御が実行される。
【0026】次に、以上の処理内容について、第1図に
示されたカラー処理装置の構成図に基づいてより詳しく
説明する。カラーカメラ101は自律走行車の車体に固
定して設置してあり、このカラーカメラ101には走行
車の前方に位置する道路画像106がRGB情報として
撮像される。ISH変換部102の変換処理部107に
は、このRGB情報が与えられる。この変換処理部10
7において、後に詳述する「ROMテーブルを用いたカ
ラー画像のISH変換処理」が実行され、RGBの道路
画像情報は明度(I)画像108,彩度(S)画像10
9および色相(H)画像110の各画像情報に変換され
る。
【0027】明度画像108は道路候補領域抽出手段1
11に与えられ、後に詳述する「テンプレート画像を用
いた繰返しきい値処理による走行コースの抽出手法」に
より、明度画像に基づく道路候補領域画像113が抽出
される。また、彩度画像109は道路候補領域抽出手段
112に与えられ、上記と同様の手法により、彩度画像
に基づく道路候補領域114が抽出される。この手法に
おける領域区分のためのしきい値は、後に詳述する「繰
返しきい値処理における特徴量ヒストグラムの形状に基
づくしきい値設定手段」により決定される。求められた
各道路候補領域画像113,114は論理積演算手段1
15に与えられ、明度および彩度から得られた各道路候
補領域の共通部分が取り出され、カラー情報に基づく新
たな道路候補領域画像116になる。
【0028】また、明度画像108に低輝度領域が存在
している場合には、カラー処理部のステータスレジスタ
117に有る低輝度のしきい値存在フラグがオンする。
このフラグがオンしている場合に、低輝度領域抽出手段
118は明度画像108を取り込む。そして、後に詳述
する「明るさの違いに注目した走行コースからの影や高
輝度部分の抽出手段」により、低輝度領域を抽出する。
抽出された低輝度領域は低輝度画像119になる。この
低輝度領域画像119は、論理積演算手段120におい
て、彩度画像109から抽出された道路候補領域画像1
14と論理積が取られ、低輝度領域のうちで道路候補領
域と似た彩度の領域が抽出される。抽出されたこの低輝
度領域の画像情報は、道路候補領域画像116に加えら
れる。
【0029】また、明度画像108に高輝度領域が存在
している場合には、カラー処理部のステータスレジスタ
117にある高輝度のしきい値存在フラグがオンする。
このフラグがオンしている場合に、高輝度領域抽出手段
121は明度画像108を取り込む。そして、後に詳述
する「明るさの違いに注目した走行コースからの影や高
輝度部分の抽出手段」により、高輝度領域を抽出する。
抽出された高輝度領域は高輝度領域画像122になる。
この高輝度領域画像122は、論理積演算手段123に
おいて、彩度画像109から抽出された道路候補領域画
像114と論理積が取られ、高輝度領域のうちで道路候
補領域と似た彩度の領域が抽出される。抽出されたこの
高輝度領域の画像情報は道路候補領域画像116に加え
られる。
【0030】上記各手段により、道路候補領域画像11
6には、画素値1の道路候補領域画像113と、画素値
2の低輝度領域画像119と、画素値3の高輝度領域画
像122とが含まれることになる。
【0031】道路候補領域画像116はラベリング処理
部124に与えられる。ラベリング処理部124は与え
られた画像の各領域にラベル付けをし、ラベル画像12
6を作成する。また、これと同時に、ラベリング処理部
124は同一ラベル領域の面積や重心などを演算する。
これらの各演算値はラベリング処理部124に対応した
演算値125になる。このラベリング処理は、後に詳述
する「ラベリング処理装置」によって実行される。
【0032】CPUはラベル画像126を小領域除去手
段127に取り込む。ここで、ノイズ等によって生じた
小領域や地平線位置より重心が上に位置する領域は、道
路領域に該当するものではないものとし、これら領域は
各ラベル画像の中から除去される。小領域除去手段12
7により、道路候補領域から小領域が除去されたラベル
画像は、新たなラベル画像128になる。また、各領域
に付けられたラベル毎の演算値125の内、小領域除去
手段127によって除去されなかった各領域の特徴量は
リスト1に記述される。
【0033】リスト1に記憶された特徴量129,ラベ
ル画像128,道路画像116に基づいて、道路候補領
域画像の各ラベル領域と低輝度領域画像の各ラベル領
域、および道路候補領域画像の各ラベル領域と高輝度領
域画像の各ラベル領域が併合すべき関係にある場合に
は、領域併合手段130において併合処理が実行され、
新たなラベル画像131がメモリ1に記憶される。以上
の併合処理は、後に詳述する「複数の領域の併合手段」
により実行される。
【0034】最終的に得られたラベル画像131に基づ
いて道路領域の左右端の道路位置座標132が演算され
る。この道路端位置座標132に基づき、道路端に相当
する点列データ133が求まる。この道路端を求める処
理は、後に詳述する「走行可能範囲を求める手段」、並
びに「多様な形状の走行コースの内部表現手法」により
実行される。この点列データ133は、自律走行車の走
行制御のための画像処理データ統括管理を行うデータ管
理部ヘ送出され、カラー画像処理が終了する。
【0035】次に、カラーカメラで撮像して得られたR
GBデータを、明度I,彩度S,色相Hの各データに変
換する「ROMテーブルを用いたカラー画像のISH変
換処理」について、第3図を用いて以下に説明する。
【0036】まず、カラーカメラから原画像301をR
GBデータとして入力する。原画像301にはRGBの
各データが混在しているため、RGBデータの各成分を
分離する。そして、分離した各RGBデータをR画像メ
モリ302,G画像メモリ303およびB画像メモリ3
04の3つの各画像メモリに各々別個に記憶する。これ
ら各R,G,B画像メモリ302〜304は8ビットの
階調を持った複数の画素値から構成されており、次のよ
うにISH変換される。
【0037】まず、8ビットの各RGBデータを読み出
す際に上位の6ビットのみを読みだし、下位2ビットを
切り捨てる。つまり、上位6ビットをとることにより、
8階調の画素値を6階調の画素値に近似する。この上位
6ビットによる数値は16進数で00〜3F(hex)
の間で変化する(切り捨てた下位2ビットを考慮すると
00〜FC(hex)の間で変化する)。また、この上
位6ビットの値を40(hex)で割った数値をそれぞ
れR,G,B値とする。これらR,G,Bの各値は実数
の0から約1までの範囲で変化する。
【0038】R,G,Bの各値を(R+G+B)で割っ
た値をそれぞれr,g,bとすると、R,G,B値から
I,S,H値への変換は次式に従って行われる。ここ
で、min(r,g,b)は、r,g,bの各特徴量の
うちの最少の値を持つ特徴量の値を示す。 I=(R+G+B)/3 ・・・ (1) S=1−(1/3)・min(r,g,b) H=1/2+(1/π)・arctan{(3)1/2 ・(g−
b)/(2r−g−b)} この変換はラスタスキャン順にR,G,Bの各画素毎に
行われ、変換された各I,S,H値は全て0から1まで
の値をとる実数となる。ROM305にはRGBから明
度Iへの変換テーブルデータ、ROM306にはRGB
から彩度Sへの変換テーブルデータ、ROM307には
RGBから色相Hへの変換テーブルデータが記憶されて
いる。これら各ROM305〜307はルックアップテ
ーブルとして機能する。また、各ROM305〜307
にデータが記憶されるアドレスは、変換前の各R,G,
B値の8ビットの数値のうち、上位6ビットの数値によ
って定まる。なお、各ROM305〜307の記憶容量
は18ビット(=256Kバイト)である。
【0039】ROM305,306に記憶された各特徴
量はCPUからの取り込み命令に応じて明度データ30
8,彩度データ309として即座に読み出され、必要と
される画像処理にリアルタイムに供給される。また、R
OM307から読み出された色相データ310の特徴量
は、さらに、3×3平均値フィルタ311によってノイ
ズが除去されて平均化される。このため、各画像処理に
供される色相データ312は平滑化されたノイズのない
データとなる。また、読み出された各特徴量データ(明
度308,彩度309,色相310および312)は下
位2ビットが0で、上位6ビットが有効な8ビットの近
似データである。
【0040】次に、本アルゴリズムを用いたISH変換
処理例について、本アルゴリズムを用いないISH変換
処理例と比較しつつ、第4図〜第7図を参照して説明す
る。各図の(a)はカラーカメラに撮像された原画像の
概略である。つまり、第4図(a)は走行路が遠方でカ
ーブする情景を示し、走行路の片側にはガードレールが
設置されており、このガードレールの遠方には樹木が生
い茂っている。第5図(a)は走行路端が雑草等によっ
て区画されている走行路を示し、遠方には住居や樹木等
がある情景になっている。第6図(a)は夜間の高速道
路における走行路を示し、路面は月明りおよび照明燈に
よってわずかな光が照らされている情景になっている。
第7図(a)は天気の良い日中の走行路を示し、走行路
上にはブロック塀の中にある樹木による影ができている
情景になっている。
【0041】また、第4図から第7図の各図の(b−
1)および(b−2)は明度Iを特徴量とするヒストグ
ラム、各図の(c−1)および(c−2)は彩度Sを特
徴量とするヒストグラム、各図の(d−1)および(d
−2)は3×3平均値フィルタ311にかける前の色相
H′を特徴量とするヒストグラム、各図の(e−1)お
よび(e−2)は3×3平均値フィルタ311にかけた
後の色相Hを特徴量とするヒストグラムである。
【0042】各ヒストグラムの縦軸は各特徴量の画素数
を示し、全画面の1/4を最大としている。また、各ヒ
ストグラムの横軸は明度I,彩度S,色相H′,Hの各
特徴量の度合いを示す。この各特徴量の度合いは原点か
ら遠ざかる程強まるように表示されており、0〜FF
(hex)の各数値に割り当てられた各特徴量の度合い
を64分割して表示してある。また、原画像の画素数は
512×512より若干少なくなっている。これは画像
周辺部にはR,G,Bの各データが全て0の部分がある
ためであり、各ヒストグラムはこの部分を含んだデータ
値により表されているからである。
【0043】また、各図の(b−1),(c−1),
(d−1), (e−1)は従来手法に基づいて得られた
ヒストグラムであり、各画像メモリにCPUが直接アク
セスし、R,G,Bデータを変換式に従ってI,S,H
データに変換することにより得られたものである。これ
に対して各図の(b−2), (c−2), (d−2),
(e−2)は本実施例の手法によるアルゴリズムに基づ
いて得られたヒストグラムであり、ROMに6ビット階
調のRGBデータからI,S,Hの各特徴量への変換テ
ーブルを記憶し、これを読み出すことにより得られたも
のである。
【0044】第4図〜第7図の各(b−1),(b−
2)および各(c−1), (c−2)に示されるよう
に、明度Iおよび彩度Sについては、本手法によるヒス
トグラム分布と従来手法によるヒストグラム分布とには
大差がないことが分かる。このことは、RGBデータを
ISHデータに変換する本手法による機能は、従来手法
による変換機能に比較して劣る面がないことを示してい
る。一方、各図の(d−1),(d−2)に示される3
×3平均値フィルタ311にかける前の特徴量である色
相H′のヒストグラム分布は、,従来手法と本手法とで
は全体的な傾向が変わっている。これは本例に用いたよ
うな画像では、RGBデータから色相Hへ変換する式の
中の(g−b)および(2r−g−b)の値は0付近の
極めて限定された値しか取らないため、本手法によるデ
ータの6ビットへの圧縮により情報が極端に離散化して
しまったことに起因する。
【0045】しかし、この色相H′を3×3平均値フィ
ルタ311にかけることにより得られるヒストグラム分
布は、各図の(e−1), (e−2)に示されるよう
に、従来手法による分布に十分対応するものになってい
る。色相データの計算値はRGBデータの小さな雑音に
よって容易に変化する不安定な値であり、また、色相の
画像には非常に大きなノイズがある。このため、本手法
のように、色相変換の計算値結果について何等かの平滑
化を行うことは妥当な処理であり、この平滑化を行うこ
とにより特徴量を6ビットに圧縮して処理しても何等問
題は生じないことが理解される。なお、色相の計算値は
雑音によって容易に変化する不安定な値であるからこ
そ、色相H′のデータを平均値フィルタに通すことによ
り、従来手法によるヒストグラム分布と同様な分布が得
られた。
【0046】このように、ROM305〜307をルッ
クアップテーブルとして用いてI,S,Hの各特徴量を
予め変換処理することにより、従来のように処理が必要
とされる度毎に各画像メモリにCPUがアクセスして演
算する必要は無くなる。この結果、本実施例によるデー
タ変換の際の演算処理速度はビデオレートで高速に実行
することが可能となり、処理速度が向上する。また、上
述のR,G,BデータからI,S,Hデータへの変換式
が変わっても、同一のハードウエアによって対処するこ
とが可能である。つまり、この変換式の変更が与える影
響は、ROM305〜307の記憶内容の変化だけであ
る。このため、ハードウエアは変換式の変更によっては
変化しない。また、R,G,Bの各画素値を6ビットに
圧縮したため、ハードウエアの量を小さくすることが可
能になる。さらに、ルックアップテーブルから色相Hを
読み出す際に3×3平均値フィルタ311を通すことに
より、データを6ビットに圧縮したことによる悪影響、
例えば、ヒストグラムの離散化等を防ぐことができる。
【0047】次に、「繰返しきい値処理における特徴量
ヒストグラムの形状に基づくしきい値設定手段」につい
て説明する。この手段は走行路領域を抽出するカラー画
像処理の前処理として行われる。第8図はこの処理過程
の概略を示すフローチャートであり、走行車両に設置さ
れたカラーカメラから得られた原画像データのコントラ
ストが低い場合における処理を示す。
【0048】まず、カメラから得られた原画像のRGB
デジタル画像データを基にして色の特徴量(明度または
彩度)に対する頻度を表すヒストグラムを作成する。こ
のヒストグラムの横軸は色の特徴量(明度または彩
度),縦軸は特徴量の頻度に設定する。このヒストグラ
ムは原画像のコントラストが低いため、ヒストグラムの
原点側に偏って分布する。また、コントラストの低い画
像はモードが単峰形になり易く、明確な谷が発生しな
い。このため、一般的には各画素値について所定の演算
を行って画像強調を行った後にヒストグラムを作成する
のであるが、本手法の場合には、ヒストグラムのデータ
上でこのヒストグラムを横軸方向に単に引き伸ばすこと
により、画像強調を行う(ステップ801)。
【0049】そして、強調されたヒストグラムの左端処
理(ステップ802)、および右端処理(ステップ80
3)を実行する。次に、ヒストグラムの頻度の分布状態
から特徴量に対する頻度の大きい仮の頂上(ピーク)、
および特徴量に対する頻度の小さい仮の谷をピーク・谷
テーブル上に設定する(ステップ804)。求まった仮
の谷の頻度に基づいて谷の評価をこのテーブル上で行う
(ステップ805)。さらに、この谷に隣接するピーク
に基づいて再度谷の評価をテーブル上で行う(ステップ
806)。最後に、評価されたピーク・谷テーブルの平
滑化を行い、ピークと谷の相対関係から領域区分の対象
領域とこの背景領域との区分に有効な谷を抽出する(ス
テップ807)。
【0050】一方、上記の処理に並行してステップ80
1で作成されたヒストグラムに対して大津の判別分析法
を適用し、この判別分析法による領域区分しきい値を得
る。そして、得られたしきい値とステップ807で抽出
された谷の位置とを比較し、しきい値の近傍に位置する
谷の頻度を真のしきい値とし、大津の判別分析法による
しきい値を補正する。
【0051】次に、各処理の詳細について以下に説明す
る。ステップ804における仮のピークおよび仮の谷の
設定は次のように行われる。つまり、特徴量に対する頻
度の分布状態を基にして仮のピークおよび谷を判断す
る。具体的には、ヒストグラム上の着目点の左右の隣接
点の頻度により、ピークおよび谷の状態は第9図(a)
〜(f)に図示される6通りの状態に分けられる。ここ
で、ヒストグラム上の着目点をhi (添字のiはヒスト
グラムの横軸に添ってN個の点を均等に割り振った時の
任意の1点を意味し、0〜N−1の値とする)、着目点
hi より特徴量が小さい隣接点をhi-1 、着目点hi よ
り特徴量が大きい隣接点をhi+1 とする。また、着目点
hi と隣接点hi-1 との各頻度の差をピッチpi1(pi1
=hi −hi-1 )、隣接点hi+1 と着目点hi との各頻
度の差をピッチpi2(pi2=hi+1 −hi )とする。
【0052】i=1〜N−2の範囲(ヒストグラムの両
端点は除く)において、ピーク・谷テーブル値pkti
を以下のように設定する。すなわち、pi1の符号とpi2
の符号が異なる時、 (1)pi1≧0、かつ、pi2≦0ならば、 テーブル値pkti =1 (2)pi1≦0、かつ、pi2≧0ならば、 テーブル値pkti =−1 第9図(a)は、pi1>0、かつ、pi2=0の状態であ
り、従ってテーブル値pkti =1である。 同図
(b)は、pi1>0、かつ、pi2<0の状態であり、従
ってテーブル値pkti =1である。同図(c)は、p
i1=0、かつ、pi2<0の状態であり、従ってテーブル
値pkti =1である。同図(d)は、pi1<0、か
つ、pi2=0の状態であり、従ってテーブル値pkti
=−1である。同図(e)は、pi1<0、かつ、pi2>
0の状態であり、従ってテーブル値pkti =−1であ
る。同図(f)は、pi1=0、かつ、pi2>0の状態で
あり、従ってテーブル値pkti =−1である。
【0053】このようにして隣接する各点の相対的な各
頻度の関係から、同図(a),(b),(c)の状態は
pkti =1であると演算され、着目点hi は仮のピー
クと判断される。同図(d),(e),(f)の状態は
pkti =−1であると演算され、着目点hi は仮の谷
と判断される。
【0054】また、ステッブ805における頻度による
谷の評価処理は次のように行われる。つまり、i=1〜
N−2において着目点hi が仮のピークであるとき(p
kti =1)、 (1) 隣接点hj と着目点hi との比が0.1より小さ
い(hj /hi <0.1)隣接点hj が着目点hi の左
側にあるならば、隣接点hj に対応するテーブル値pk
tj を−1にする(pktj =−1)。 (2) 隣接点hm と着目点hi との比が0.1より小さ
い(hm /hi <0.1)隣接点hm が着目点hi の右
側にあるならば、隣接点hm に対応するテーブル値pk
tm を−1にする(pktm =−1)。
【0055】また、ステップ806における隣接ピーク
に基づく谷の評価処理は次のように行われる。i=0〜
N−1において、 (1) 着目点hi が仮の谷の時(pkti =−1)、 谷の左側の仮のピーク(隣接点hk ,テーブル値pk
tk =1)をtopLと呼ぶことにする。 谷の右側の仮のピーク(隣接点hj ,テーブル値pk
tj =1)をtopRと呼ぶことにする。
【0056】(2) 着目点hi にtopLおよびtop
Rが共に存在する時、 着目点hi とtopLとの比l(l=hi /top
L)が着目点hi とtopRとの比r(r=hi /to
pR)より小さければ(l<r)、テーブル値pktj
に1を加算する。 比l(hi /topL)が比r(hi /topR)よ
り大きければ(l≧r)、テーブル値pktk に1を加
算する。 (3) 着目点hi にtopLおよびtopRが共に存在
し、かつ、比l<0.5、または比r<0.5ならば、
着目点hi に対応するテーブル値pkti から1を減じ
る。 (4) 上記の(3)以外の場合には、テーブル値pkt
i を−4に書き替える。
【0057】(5) 谷の右側にのみ仮のピークtopR
が存在する時、比r<0.5ならば、テーブル値pkt
i から1を減じる。 (6) 谷の左側にのみ仮のピークtopLが存在する
時、比l<0.5ならば、隣接点hj に対応するテーブ
ル値pktj から1を減じる。
【0058】また、ステッブ807におけるピーク・谷
テーブルの平滑化処理、つまり、ピーク・谷テーブルp
ktにおいて、求まった谷どうしの距離が十分に近い場
合には平滑化処理が次のように行われる。
【0059】i=1〜N−1において、着目点hi に対
応するテーブル値pkti が−2であり、この谷の右側
に位置する谷のテーブル値pktj も−2であり、しか
も、これら谷どうしの距離(j−i)が所定のしきい値
よりも小さい時、 (1) 着目点hi の頻度の方が隣接点hj の頻度よりも
大きければ(hi >hj )、テーブル値pkti を0に
する(pkti =0)。 (2) 着目点hi の頻度の方が隣接点hj の頻度よりも
小さければ(hi ≦hj )、右側に位置する谷のテーブ
ル値pktj を0にする(pktj =0)。
【0060】次に、上記方法を用いた具体的な例につい
て以下に説明する。例えば、第10図(a)に示される
特徴量ヒストグラムが得られた場合を想定する。同図の
横軸は明度または彩度の色の特徴量であり、縦軸はその
特徴量の画像における頻度である。このヒストグラムに
ついて第8図に示された処理を行うと、同図(b)に示
されるピーク・谷テーブルpktのテーブル値は、同図
(b)の一番左側の列に記された1〜8の番号に沿って
以下のように推移する。この推移の結果、再下段に示さ
れた数値が最終のテーブル値として求まる。なお、同図
(b)の各テーブル値が記載されている位置は、同図
(a)のヒストグラムの各特徴量A〜Lに対応してい
る。つまり、記載された各テーブル値は、点線で示され
るように、その記載された位置の上方の特徴量に対応し
ている。
【0061】まず、特徴量ヒストグラムの左端処理およ
び右端処理を実行し(ステップ802,803)、引き
続いて仮ピークおよび仮の谷を設定する(ステップ80
4)。この設定は前述のステップ804の処理に従って
行われ、この結果得られる各テーブル値は番号1のテー
ブルに示されるものとなる。次に、頻度による谷の評価
(ステップ805)および隣接ピークに基づく谷の評価
(ステップ806)を、前述の処理に従って行う。
【0062】特徴量がAの谷の場合には谷の右側にto
pRのみが存在し、また、特徴量Aにおける頻度と谷の
右側の仮のピークの頻度との比rは0.5以下である
(hi/topR<0.5)。このため、特徴量Aに対
応するテーブル値から1を減じ、この結果、テーブル値
は−2になってテーブルは番号2に示されるテーブルに
推移する。
【0063】また、特徴量がDの谷の場合には、この谷
の両側にtopLおよびtopRが共に存在する。しか
も、この谷の頻度と左側の仮のピークの頻度との比lは
0.5以下である(hi /topL<0.5)。従っ
て、特徴量Dに対応するテーブル値pkti から1を減
じ、この結果、テーブル値は−2になる。また、特徴量
がDの谷の両側の仮の各ピーク値の頻度と谷の頻度との
各比lおよび比rは、比rの方が大きい(l<r)。従
って、谷の右側に位置する仮のピーク(特徴量E)のテ
ーブル値pktj に1を加算することにより、テーブル
値は2になる。この結果、ピーク・谷テーブルは番号3
に示されるテーブルになる。
【0064】また、特徴量がFの谷の両側には共にto
pLおよびtopRが存在し、比lまたは比rの一方は
0.5より小さい(l,r<0.5)。従って、特徴量
Fに対応するテーブル値pkti から1を減じ、テーブ
ル値を−2にする。また、比lは比rより大きい(l≧
r)。従って、谷の左側に位置する仮のピーク(特徴量
E)のテーブル値pktk に1を加算し、テーブル値を
3にする。この結果、テーブルは番号4に示されるテー
ブルに推移する。
【0065】また、特徴量がHの谷の両側には共にto
pLおよびtopRが存在し、比lまたは比rの一方が
0.5より大きい(l,r≧0.5)。従って、特徴量
Hに対応するテーブル値pkti を−4に書き替える。
また、比lは比rよりも小さい(l<r)。従って、谷
の右側の仮のピーク(特徴量I)に対応するテーブル値
pktj に1を加える。この結果、特徴量Iに対応する
テーブル値は2になり、テーブルは番号5に示されるテ
ーブルに推移する。
【0066】また、特徴量Jの谷の両側には共にtop
LおよびtopRが存在し、比rは0.5より小さい
(r<0.5)。従って、この谷に対応するテーブル値
pkti から1を減じる。また、比lは比rより大きい
(l≧r)。従って、谷の左側に位置する仮のピーク
(特徴量I)に対応するテーブル値pktk に1を加算
し、テーブル値を3にする。この結果、テーブルは番号
6に示されるテーブルに推移する。
【0067】また、特徴量Lの谷は谷の左側にtopL
のみが存在し、比lは0.5より小さい(l<0.
5)。従って、この谷に対応するテーブル値pkti か
ら1を減じる。この結果、テーブル値は−2になり、テ
ーブルは番号7に示されるテーブルに推移する。
【0068】次に、このようにして得られた番号7のピ
ーク・谷テーブルpktについてデータの平滑化を前述
のように行う(ステップ807)。つまり、特徴量Dの
谷hi とこの右側に位置する特徴量Fの谷hj との距離
は所定のしきい値より小さく、かつ、各谷のテーブル値
は−2である。さらに、特徴量Fの谷の頻度は特徴量D
の谷の頻度より大きい(hi ≦hj )。従って、特徴量
Fの谷に対応するテーブル値pktj を0にする。この
結果、テーブルは最終的に第10図(b)の最下段に示
されるテーブルになる。
【0069】この最終的なテーブルのうち、特徴量A,
D,H,J,Lに対応するヒストグラム上の各点が谷と
して求まるが、ヒストグラムの両端にある谷A,Lは対
象にはならず、また、テーブル値が−4の谷(特徴量
H)も対象にはならない。すなわち、データ画像を対象
領域と背景領域とに区分するのに有効な谷は、テーブル
値−2が二重丸で囲まれた特徴量DおよびJに対応する
谷である。これら谷のうち、第10図(a)のヒストグ
ラムに大津の判別分析法を適用して得られた領域区分し
きい値に近い谷の頻度が真の領域区分しきい値になる。
このように大津の判別分析法のあいまいな結果が補正さ
れることにより、誤差が少なく確度の高い走行路判別を
行うことが可能になる。
【0070】次に、「テンプレート画像を用いた繰返し
きい値処理による走行コースの抽出手法」について説明
する。なお、以下の説明では、自律走行車が草や土等で
区切られたコースを走行することを前提にし、走行路領
域を抽出する場合について述べることにする。
【0071】第11図は走行路認識のアルゴリズムの概
要を表すフローチャートである。
【0072】まず、走行車に搭載されたカラ−CCDカ
メラにより、走行路の情景を撮像する(ステップ110
1)。そして、撮像されたRGBのカラー画像信号をカ
ラーカメラ入力装置に取り込み、取り込んだRGB原画
像データを前述のようにISHデータに変換する(ステ
ップ1102)。ISHデータに変換された特徴量画像
に基づき、前述のように各特徴量とその画素数との特性
を表すヒストグラムをカラー画像処理装置で作成する
(ステップ1103)。
【0073】次に、作成したヒストグラムに基づき、し
きい値処理を繰り返し適用して走行路を2値化画像とし
て抽出する。このように抽出された画像はノイズや細か
く分断された領域を有するので、次の処理を実行する。
つまり、後に詳述するラベリング装置によって各領域に
ラベルを付ける(ステップ1104)。そして、ラベル
付けされた各領域の面積と重心とを計測し、カメラの取
り付け位置から計算される地平線位置より重心が上の領
域、および面積が小さい領域を除去する(ステップ11
05)。
【0074】次に、カラー画像処理装置において最初に
抽出された走行路画像に基づいて、走行路領域より明る
さが暗い領域および明るい領域を求め、これらの領域を
併合し、また、各領域どうしの関係を記述する(ステッ
プ1106)。この領域併合および領域関係の記述を基
にして走行可能範囲、つまり、道路端を検出し、画像取
り込み時刻をこの走行可能範囲情報に付与する。そし
て、走行可能範囲情報を画像処理装置を構成するデータ
管理部へ伝送する(ステップ1107)。この後、ステ
ップ1102に戻って以上の処理を繰り返す。
【0075】第12図は走行路領域を抽出する処理の詳
細を表すブロック図である。まず、撮像された原画像の
RGBデータから明度データIおよび彩度データSを求
め、各データを特徴量画像として画像メモリに記憶する
(ブ口ック1201)。次に、画像メモリに記憶された
明度データIを基にして明度を特徴量とするヒストグラ
ムを作成する(ブロック1202)。このヒストグラム
の横軸となる特徴量の分割数は40ポイントであり、こ
のポイント数は大局的に走行路の抽出を行うのには十分
な大きさである。次に、作成したヒストグラムを正規化
する(ブロック1203)。そして、正規化されたヒス
トグラムについて周知の大津の判別分析法を適用し、走
行路領域と背景領域とを区分するためのしきい値を計算
する(ブロック1204)。
【0076】一方、作成したヒストグラムの形状に基づ
いて特徴量の画素数が多いピーク、および特徴量の画素
数が少ない谷を前述のように求め、ピークと谷の一覧表
であるピーク・谷テーブルを作成する(ブロック120
5)。各ピークおよび谷における各特徴量の値をしきい
値処理のための候補値とする。
【0077】ブロック1204で求めた大津の判別分析
法によるしきい値には誤差が含まれる場合があるため、
ブロック1205で求めたしきい値処理のための候補値
により、大津の判別分析法によるしきい値を補正する。
つまり、ブロック1204で求めたしきい値とブロック
1205で求めた候補値とを比較し、ブロック1204
のしきい値に最も近いブロック1205の候補値を走行
路領域と背景領域とを区分するためのしきい値とする
(ブロック1206)。次に、このしきい値により明度
画像を2値化する(ブロック1207)。
【0078】明度画像は512×512個の画素によっ
て構成されており、I(i,j)として表現される。こ
こで、i,jは条件式0≦i,j≦511を満足する整
数である。また、ブロック1206で求まったしきい値
をX1,領域分割の対象となる特徴量範囲の最少の特徴
量の値をしきい値X0,最大の特徴量の値をしきい値X
2とする。なお、しきい値X0およびX2の各初期値は
0およびFF(hex)である。ここで、明度画像I
(i,j)が次の条件式を満足する場合には、メモリM
1(i,j)にFF(hex)を書き込む(ブロック1
208)。 X0≦I(i,j)<X1 また、明度画像I(i,j)が次の条件式を満足する場
合には、メモリM2(i,j)にFF(hex)を書き
込む(ブロック1209)。 X1≦I(i,j)<X2 次に、ROMに記憶されたテンプレート画像を読み出す
(ブロック1210)。このテンプレー卜画像内には最
も安定した走行路情報が得られるようにテンプレート領
域が設定されている。この領域設定は自律走行車に取り
付けられたカラーカメラの俯角,画角,焦点距離を基に
して行われ、テンプレート領域に対応するメモリにはF
F(hex)が記憶されている。次に、読み出したテン
プレート画像とメモリM1およびメモリM2との重複度
を計算する(ブロック1211)。つまり、テンプレー
ト画像とメモリM1およびメモリM2との各論理積を取
り、論理積結果が「1」の画素数を各メモリM1および
メモリM2毎に累計する。
【0079】次に、各メモリ毎に累計された画素数が、
テンプレート領域内にある画素数に占める比率を求め
る。この比率が50%以上になるメモリ情報には走行路
領域が含まれているものとし、さらに、比率が50%以
上のメモリM1またはM2に記憶された画像ついて、以
下のように繰り返して領域分割を行う。また、この比率
に基づくメモリの選択により、しきい値X1によって画
像が領域分割されたことになり、また、ビストグラム上
においても分割が行われたことになる。
【0080】つまり、特徴量がX0〜X1の範囲内にあ
るメモリM1に記憶された領域と、特徴量がX1〜X2
の範囲内にあるメモリM2に記憶された領域とに分割さ
れたことになる。また、各メモリM1およびM2とテン
プレート画像との重複度がいずれも50%を越えない時
には、メモリM1とメモリM2との和が記憶されたメモ
リM3が選択され(ブロック1212)、メモリM3に
基づいた領域分割が次に行われる。
【0081】例えば、メモリM1とテンプレート画像と
の重複度が高かった場合には、しきい値X0からX1内
の特徴量によって構成された領域を道路候補領域にする
(ブロック1213)。そして、この道路候補領域をさ
らに繰り返して領域分割する。この繰り返し領域分割の
ためのしきい値X1′は、ブロック1205で求めた谷
の候補値のうち、しきい値X0〜X1の範囲内にあるも
のとなる(ブロック1214)。また、もし、この範囲
内に谷の候補値が無い場合には、繰り返し分割処理は行
われない。
【0082】繰り返し領域分割の対象となる特徴量範囲
の最小値X0′は前回の領域分割と変わらないしきい値
X0になり、最大値X2′はしきい値X1になる。この
範囲内の特徴量により構成される領域についてブロック
1207で再度2値化を行い、その後前回の領域分割と
同様な処理を実行することにより、繰り返し領域分割が
行われる。この繰り返しは、分割する道路候補領域の特
徴量の範囲内にブロック1205で求めた谷の候補値が
なくなるまで行う。このようにして処理を繰り返して実
行することにより、最終的に最初の道路画像領域が得ら
れる。
【0083】得られた道路画像領域の明度より暗い影の
領域、および明るい高輝度の領域がある場合には、これ
らの各領域を求めるためのしきい値を後述のように設定
する(ブロック1215)。そして、このしきい値に基
づき、各領域について前述と同様にして領域分割し、影
の領域および高輝度の領域を求める。また、同時に行わ
れる彩度画像に基づく処理結果により、求めた影の領域
の彩度と道路画像領域の彩度とが似ている場合には、各
々の論理積をとり、1つの領域として最終的な低輝度領
域とする。また、同様に、求めた高輝度領域の彩度と道
路画像領域の彩度とが似ている場合には、各々の論理積
をとり、1つの領域として最終的な高輝度領域とする。
さらに、道路画像領域と低輝度領域との接続関係を調
べ、併合できる関係にある場合には併合処理を行う。ま
た、同様に、道路画像領域と高輝度領域との接続関係を
調べる。
【0084】このように併合できる関係にある場合には
併合処理を行う。この結果、走行路に影がある場合また
は自己の位置が影内で走行路の遠方に直射日光が照射さ
れて高輝度部分がある場合には、この併合処理を行うこ
とによって現実の走行路に即した形状の走行路領域が得
られることになる。
【0085】以上の処理は明度画像に対するものであっ
たが、彩度画像に対しても同様な処理を行う。但し、ブ
ロック1215の処理は明度画像に対する特有なもので
あるため、この処理は実行しない。この彩度画像による
処理結果において、各領域のR,G,Bが似た値になる
同系色の場合には、各領域のヒストグラム分布は同様な
形状になる。これは、前述のRGBデータから彩度Sデ
ータへの変換式(S=1−min(r,g,b)/3)
から理解される。
【0086】従って、R,G,Bの各値が似た値になる
曇天時の空や一般舗装路では、彩度に基づいて各領域を
区別することは困難である。しかし、色差があって各領
域のR,G,B値が似ていない場合には、各領域の明度
に差がなくても各領域を区別することが可能である。こ
のため、道路画像領域をいかなる情景の下でも正確に抽
出するために、明度および彩度の2つの特徴量を用い
る。そして、明度画像および彩度画像から抽出した2種
類の道路画像の論理積を取ることにより、確度の高い走
行路領域情報を得ることが出来る。
【0087】第13図は、道路画像領域の抽出処理にお
ける道路候補領域の抽出過程を示す。 まず、明度の特
徴量画像1301から特徴量ヒストグラム1302を作
成する。このヒストグラム1302の横軸は明度を示
し、この明度は0〜FF(hex)の数値によって表現
されている。また、縦軸は各明度における原画像中の画
素数を示す。大津の判別分析法をこのヒストグラム13
02に適用し、道路領域と背景領域とを区別するための
しきい値cを求める。また、ヒストグラム1302の形
状に基づき、ヒストグラムのピークおよび谷を求め、ピ
ーク・谷テーブルを作成する。そして、求めた谷を繰返
しきい値処理のためのしきい値の候補値とする。このヒ
ストグラム1302では特徴量a,b,d,e,fが候
補値になっている。
【0088】大津の判別分析法によって求めたしきい値
cを、ピーク・谷テーブルから求めた候補値によって補
正する。つまり、しきい値cに最も近い候捕値bを補正
したしきい値とする。そして、このしきい値bによって
特徴量画像1301を2値化する。この結果、特徴量が
00(hex)〜bの分割画像1303と、特徴量がb
〜FF(hex)の分割画像1304とが得られる。こ
の時点では分割された各画像1303,1304のう
ち、どちらの画像に走行路領域が含まれているのかが分
からない。
【0089】このため、道路位置を想定したテンプレー
ト画像1305と各画像1303,1304との論理積
を取り、各画像との重複度を計算する。テンプレート画
像1305の下部には台形のテンプレー卜領域が図示の
ように設定されている。このテンプレート領域に対応す
るメモリ素子には前述したようにFF(hex)が記憶
されており、また、テンプレート領域の背景領域に対応
するメモリ素子には00(hex)が記憶されている。
本例の場合には、画像1304にテンプレート画像13
05との重なり部分が最も多く存在する。このため、重
複度の計算結果により、特徴量がb〜FF(hex)の
画像1304に走行路領域が含まれているものと判断さ
れ、画像1304に対応した道路候補領域画像1306
が得られる。
【0090】b〜FF(hex)の特徴量の間にはまだ
他の候捕値が残っているので、次に、さらにこの道路候
補領域画像1306について領域分割を行う。つまり、
道路候補領域画像1306をしきい値dで2値化する。
この2値化により、特徴量がb〜dの分割画像1307
と、特徴量がd〜FF(hex)の分割画像1308と
が得られる。次に、得られた各画像1307,1308
について、前述と同様にしてテンプレート画像1305
との重複度を計算する。本例の場合には、画像1308
の方がテンプレート画像1305との重複度が高いた
め、特徴量がd〜FF(hex)の画像1308に走行
路領域が含まれているものと判断され、画像1308に
対応した道路候補領域画像1309が得られる。
【0091】d〜FF(hex)の特徴量の間にはまだ
他の候補値eが残っているため、道路候補領域画像13
09をこのしきい値eで2値化する。この2値化によ
り、特徴量がd〜eの分割画像1310と、特徴量がe
〜FF(hex)の分割画像1311とが得られる。そ
して、前述と同様にして各画像1310,1311とテ
ンプレート画像1305との重複度を計算する。本例の
場合には、画像1310の方がテンプレート画像130
5との重複度が高いため、特徴量がd〜eの画像131
0に走行路領域が含まれているものと判断され、画像1
310に対応した道路候補領域1312が得られる。
【0092】d〜eの特徴量の間にはもう他の候補値が
残っていないので、この道路候補領域1312が最終的
な道路領域の2値画像になる。以上の処理は明度画像に
対して行ったが、彩度画像に対しても同様な処理を行
う。その後、明度画像から抽出された走行路領域と彩度
画像から抽出された走行路領域との論理積を取り、最終
的な走行路領域を得る。
【0093】しきい値を用いて画像を2値化し、画像の
領域分割をする手法は一般的である。しかし、本実施例
のように、走行路の位置を考慮したテンプレー卜画像を
用いて分割画像との重複度を計算することにより、ヒス
トグラム上において行われる次の領域分割のためのしき
い値を決定する処理は高速にかつ簡素に行える。この結
果、現実の走行路に即した走行路領域が高速にかつ容易
にかつ低コストで得られる。
【0094】また、次のようにカメラに撮像される情景
の明暗が変化する場合がある。例えば、自車の進行方向
がカーブによって変更したために明るさが変化した場合
や、天候が晴れたり曇ったりするために明暗が変わる場
合などがある。このような場合には、特徴量ヒストグラ
ムは常に一定の形状を示さないため、固定されたしきい
値による領域分割では正しい走行路領域が得られない。
しかし、本手法では、入力された画像の状態、つまり、
明るさが時々刻々と変化しても常に正確な走行路領域の
抽出を行うことが可能である。これは、本手法では、テ
ンプレート画像との重複度が最も高い特徴量分布を見つ
け、時々刻々と変化する画像についてその時の特徴量に
応じた最適なしきい値をその都度設定するからである。
【0095】従来、領域分割を行う画像処理にあって
は、原画像を複数の領域に分割し、分割した画像につい
て識別処理を行って道路の妥当性を検証していた。しか
し、上述した本手法にあっては、目的とする対象物(道
路)を抽出するために、しきい値処理による領域分割を
行っている。このように、従来の手法では処理結果から
対象物を検証したが、本手法では処理の当初から対象物
を目的としている点で処理のアプローチが逆になってい
る。このため、道路領域を効率良く抽出することが可能
になっている。
【0096】次に、「明るさの違いに注目した走行コー
スからの影や高輝度部分の抽出手法」について説明す
る。本手法は上述した「テンプレート画像を用いた繰返
しきい値処理による走行コースの抽出手法」の説明にお
いて既に簡単に説明したものであり、以下にこの手法を
詳述する。
【0097】明度画像について、上述した「テンプレー
ト画像を用いた繰返しきい値処理による走行コースの抽
出手法」,および「繰返しきい値処理における特徴量ヒ
ストグラムの形状に基づくしきい値設定手法」を適用す
ることにより、走行コースの特徴量の分布するヒストグ
ラムが求められた。本手法は、このヒストグラムを基に
して道路領域より暗い領域および道路領域より明るい領
域を求めるものである。また、本手法はカラー画像処理
装置内で処理されるものである。
【0098】第14図は、種々の入力画像が撮像された
各ケースについて、本手法を適用した場合の処理の概要
を示す。ケース1は、一様な路面状況の走行コースのみ
が入力画像として撮像された場合である。この場合、自
車は、右側にカーブする道路のカーブ手前に位置してい
る。このケース1において抽出される道路候補領域は、
入力画像と同様な形状になる。これは入力画像が一様な
走行コースのみだからであり、従って、本手法により低
輝度領域および高輝度領域は抽出されない。
【0099】また、ケース2は、走行コースの路面上に
部分的に影ができ、しかも、走行コースの遠方に反射光
などによる高輝度部分ができている入力画像が撮像され
た場合である。この場合の例では、道路は右側にカーブ
し、この右側カーブの手前に左側にカーブする分岐路を
有している。自車はこれらカーブの手前に位置してい
る。このケース2において抽出される道路候補領域は、
影ができている暗い領域および高輝度領域である明るい
領域が除外された形状になる。また、道路の手前側にで
きている影の部分は本手法による低輝度領域の抽出によ
り、個別に取り出すことができる。また、道路の遠方に
できている反射光による高輝度領域は高輝度領域の抽出
により、個別に取り出すことができる。
【0100】ケース3は、陽射しが強い天候の時に、樹
木による影が走行コースの路面上にできている入力画像
が撮像された場合であり、路面上に木洩れ日がさしてい
る場合である。この場合の例では、自車は、左側にカー
ブする道路のカーブ手前に位置している。このケース3
において抽出される道路候補領域は、木洩れ日によって
できる影と同じ形状である。これは、強い陽射しのため
に影の部分がテンプレート画像との重複度が高くなるた
めである。従って、本手法により低輝度の領域は抽出さ
れない。また、遠方の道路領域および木洩れ日がさして
いる部分は強い陽射しのために高輝度の領域として抽出
される。
【0101】ケース4は、道路の側帯に沿って帯状に変
色部分ができている場合であり、例えば、舗装路の工事
等によって道路が変色した場合である。この場合の例で
は、自車は、直線状に進む道路にできた変色部分を右手
にみて走行する位置にある。このケース4において抽出
される道路候補領域は、この変色部分が除外された形状
になる。また、この変色部分は道路領域より明度が高い
ため、本手法により高輝度領域として抽出される。ま
た、道路の路面上には影などがないため、低輝度領域は
抽出されない。
【0102】次に、上述したケース2を例として、本手
法の詳細を以下に説明する。第15図は、ケース2にお
いて撮像された入力画像を基にして作成されたヒストグ
ラムである。このヒストグラムの特徴量は明度であり、
横軸にこの明度が示されている。また、縦軸は、各明度
における画素数である。
【0103】図のA部分の特徴量範囲は走行路領域が含
まれる範囲であり、前述した「テンブレート画像を用い
た繰返しきい値処理による走行コースの抽出手法」にお
いて最も走行コースに相当する画素が含まれる範囲とさ
れる部分である。また、範囲Aは特徴量がt1からt2
までの範囲であり、各特徴量t1およびt2をしきい値
として領域分割される。また、特徴量t1より左側にあ
るB部分は谷と谷とに挟まれた1つの山を形成し、A部
分より明度の低い暗い範囲の特徴量分布である。このB
部分の特徴量範囲はt3からt1までであり、各特徴量
t3およびt1は領域分割のためのしきい値になる。ま
た、特徴量t2より右側にあるC部分は、A部分より明
度の高い明るい範囲の特徴量分布であり、B部分と同様
に谷と谷とに挟まれた1つの山を形成している。このC
部分の特徴量範囲はt2からt4までであり、各特徴量
t2およびt4は領域分割のためのしきい値になる。
【0104】なお、図に示されるB部分やC部分は1つ
の山を形成しているが、このように1つの山を形成しな
い特徴量分布は、画像上において領域分割のために有意
義な領域を形成する分布とは認められない。このため、
このような特徴量分布は優位な分布ではないものとして
領域抽出の対象として選定しない。図示の本例の場合に
はB部分およびC部分の双方ともに優位な分布になって
いるが、一方のみが優位な分布であっても本手法は適用
される。
【0105】A部分の特徴量分布は第14図に示された
ケース2の道路候補領域に相当する。また、B部分の特
徴量分布はこの道路候補領域より明度の低い影の領域に
相当し、C部分の特徴量分布は道路候補領域よりも明度
の高い高輝度部分に相当するものである。本手法は、A
部分に隣接するB部分およびC部分の各特徴量分布に相
当する各領域を抽出するものである。
【0106】まず、ヒストグラムのB部分に相当する領
域を抽出するため、しきい値t3およびt1によって明
度を特徴量とする入力画像を2値化する。また、前述し
た「テンプレート画像を用いた繰返しきい値処理による
走行コースの抽出手法」において、彩度を特徴量とする
入力画像に基づいて道路領域画像が求められていた。こ
の道路領域画像は、原画像が最初に領域分割されること
により得られたものであり、影などの暗い領域や高輝度
領域が道路領域に含まれた状態の画像である。この道路
領域に相当するメモリ素子には1が記憶されており、そ
の他の背景領域に相当するメモリ素子には0が記憶され
ている。また、上記の2値化画像において、明度がt3
からt1の画素領域に相当するメモリ素子には1が記憶
されており、その他の領域に相当するメモリ素子には0
が記憶されている。このため、道路領域画像と2値化画
像との論理積をとることにより、走行路領域上にある例
えば影の部分などの暗い領域のみが個別に抽出される。
【0107】また、C部分に相当する領域を抽出するた
め、上記の暗い領域を求めるのと同様に、しきい値t2
およびt4によって明度画像を2値化する。そして、彩
度画像から抽出された道路領域画像とこの2値化画像と
の論理積を上記のB部分の抽出の場合と同様にとること
により、高輝度領域が個別に抽出される。
【0108】次に、B部分およびC部分を領域分割する
際に必要とされるしきい値t3およびt4を求める方法
について説明する。前述した「繰返しきい値処理におけ
る特徴量ヒストグラムの形状に基づくしきい値設定手
段」により、第10図(b)に示されるピーク・谷テー
ブルを求めたが、第15図に示されるヒストグラムにつ
いてもこれと同様にして図示しないピーク・谷テーブル
を求める。このピーク・谷テーブルにおける各テーブル
値は、第10図(b)と同様に、pkti として表現す
る。添字のiは、グラフの原点側から各テーブル値に対
応して順にi=0,1,2,・・・N,N−1と変化するも
のとする。
【0109】第15図のヒストグラムにおいて、しきい
値t1に相当するテーブル値をpktj とする。そし
て、ピーク・谷テーブルにおいてこのテーブル値pkt
i から左側へ各テーブル値を見て行き、pkt0 のとこ
ろまでにテーブル値が負となるpktk (pktk <
0)があるか否かを判断する。テーブル値が負になる特
徴点は谷の底に相当する点である。pkt0 までに負と
なるpktk が有り、しかも、pktj の特徴点からp
ktj の特徴点までの距離がしきい値より小さい場合
(pktj −pktk <しきい値)、このテーブル値p
ktk に相当する特徴量をしきい値t3とする。また、
pkt0 までに負となるpktk が無い場合、または距
離がしきい値を越える場合には、道路領域より暗い優位
な領域は無いものとする。
【0110】ヒストグラム上のしきい値t4に相当する
特徴量は、しきい値t3に相当する特徴量を求める方法
と同様にして求めることができる。つまり、しきい値t
2に相当するピーク・谷テーブル値をpktm とする
と、このpktm から右側へ各テーブル値を見て行き、
pktN-1 までに負となるpktn (pktn <0)が
有るか否かを判断する。pktN-1 までに負となるpk
tn が有り、しかも、pktn の特徴点からpktm の
特徴点までの距離がしきい値より小さい場合(pktn
−pktm <しきい値)、このテーブル値pktn に相
当する特徴量をしきい値t4とする。また、pktN-1
までに負となるpktn が無い場合、または、距離がし
きい位置を超える場合には、道路領域より明るい優位な
領域は無いものとする。
【0111】以上のように、本手法は、「繰返しきい値
処理における特徴量ヒストグラムの形状に基づくしきい
値設定手段」で求められたピーク・谷テーブルを利用す
ることにより、天候の変化や舗装路の工事等によって道
路の路面状況が変化しても、影や高輝度部分および変色
部分を個別に抽出することができる。
【0112】次に、「ラベリング装置」について以下に
詳述する。「テンプレート画像を用いた繰返しきい値処
理による走行コースの抽出方法」において抽出された画
像は、ノイズた細かく分断された領域を有する。このた
め、ラベリング装置により抽出画像の各領域にラベル付
けをし、ラベル付けされた各領域の有効性を判断する。
このラベリング処理の結果に基づき、地平線位置より重
心が上の領域や、ノイズ等によって発生した不要な小領
域を除去する。
【0113】第16図はこのラベリング装置の概略構成
を示すブロック図であり、第17図はこのラベリング処
理の概略を示すゼネラルフローチャートである。まず、
カラー処理装置において抽出された画像を画像バス(N
E BUS)を介して入力メモリ1601に取り組む
(ステップ1701)。この画像情報は512×512
×8ビットの情報であり、これを多値の原画像入力とす
る。次に、後述するランを用いた仮ラベル付け方式を用
いて1次ラベリングを行う(ステップ1702)。この
1次ラベリングは、ラベリングプロセッサ(KLP)1
602,ラインバッファメモリ(LBM)1603およ
びラベルマッチングメモリ(LMM)1604等におい
て主として実行される。
【0114】この1次ラベリングの後、ラベルマッチン
グメモリLMM1604のデータ配置を整理するために
前処理を行う(ステップ1703)。この前処理の後に
2次ラベリングを行うと同時に各領域の面積や重心など
の特徴量を抽出する(ステップ1704)。ステップ1
703およびステップ1704の処理は主として特徴抽
出プロセッサKLC1605において実行される。この
2次ラベリングにより、各アドレスに位置する画素に付
けられたラベルをラベルメモリ(LABELM)160
6に記憶する。また、同時に、抽出された各領域の面積
や重心を特徴メモリ1607に記憶する。この後、LA
BELM1606に記憶されたラベル画像情報をNE
BUSに出力する(ステップ1705)。
【0115】ラベル生成のためのKLP1602の使用
個数は1個であり、ラン処理用のラインレジスタである
LBM1603は後述するラベルメモリKLMを4個使
用して構成する。また、LMM1604は仮ラベルの最
大数が1023の時にはKLMを8個使用して構成す
る。仮ラベルの最大数が4095の時にはKLMを32
個使用してLMM1604を構成する。
【0116】従来のラベリングは入力画像が2値画像の
場合についてだけ行っていたが、本手法によるラベリン
グはKLP1602を使用することにより、多値画像に
ついてもラベリングを行うことが可能になっている。つ
まり、数種類の画像を一度にラベリングをすることが可
能である。例えば、第18図に示されるように、3種類
の2値入力画像1801,1802,1803が入力さ
れた場合を想定する。これら2値画像は足し合わされて
512×512×8ビットの多値画像1804に変換さ
れる。この変換処理はラベリング処理の前処理として行
われる。ラインレジスタ1805(LBM1603)と
ラベルマッチングメモリ1806(LMM1604)と
を使用したラベリングプロセッサ1807(KLP16
02)の制御により、多値入力画像1804はラベリン
グされる。このラベリングにおいて各領域のラベル付け
を整理し、最終的に512×512×12ビットのラベ
ル画像1808として出力する。このラベリングプロセ
ッサ1807(KLP1602)を使用することによ
り、多値画像に対してのラベリング処理、ランを用いた
仮ラベル数の削減および1スキャンラベリングが可能に
なる。
【0117】多値入力画像の各画素には、各画素値に応
じたラベル付けがKLP1602の制御によって行われ
る。そして、同一のラベル値を持つ各画素間の結合関係
に基づいて領域区分が行われ、また、この結合関係に基
づいて新しいラベルが生成される。例えば、従来、入力
画像に第19図(a)に示される階段状画素からなる領
域が形成されている場合には、ラスタ走査の順番に沿っ
て各画素に仮ラベル付けを行い、再度各画素について走
査を行うことによりラベル生成が実行されていた。この
結果、仮ラベル付けの際には、図示のごとく1〜3の3
種類の仮ラベルを必要としていた。
【0118】しかし、本方式によるランを用いたラベリ
ング方式によれば、第19図(a)と同様な階段状画素
からなる同図(b)に示される入力画像が有っても、ラ
ンを用いることにより仮ラベル数を削減することが出来
る。つまり、同図(c)に示されるように各画素をラス
タ走査に沿ったランという1つの行毎に区分けする。図
示の場合には、2つのラン1およびラン2に区分けされ
る。ラベリングプロセッサKLPはランの走査が最後の
画素に至るまではラインバッファメモリLBMにフライ
ングを書き込み、仮ラベルの判定を行い、その行の最後
の画素でそのランの全画素に各画素間の結合関係を考慮
した仮ラベルを書き込む。
【0119】同図(c)に示されるラン1について走査
して上記の処理を施した結果、ラン1に対応する画素に
は同図(d)に示される仮ラベル付けが行われる。この
仮ラベル「1」のラベル付けは、各画素の同時に行われ
る。これは、メモリには後に詳述するラベリングメモリ
KLMが使用されているためである。引き続いてラン2
について走査することにより、同図(e)に示される仮
ラベル付けが行われる。ラン2はラン1の仮ラベル
「1」に接続されているので、ラン2の最後の画素を走
査する時点でラン2の各画素には仮ラベル「1」が同時
に書き込まれる。このようにランを用いたラベリングに
より、同図(b)に示される階段状画素へのラベル付け
は、1種類のラベル「1」によって行うことが出来、仮
ラベル数は削減される。つまり、画素をランという1つ
のまとまりにまとめ、ラン単位で処理を行うことによ
り、ラベリング回路の規模を削減することが出来る。
【0120】次に、ラベリングプロセッサKLPによる
ラベリング処理の詳細について説明する。ラベリングは
第20図に示されるウインドが各ランに沿って各画素を
走査することにより行われる。このウインドを各ランに
沿って走査することにより、T(ターゲット)部には注
目する画素が現れ、a部にはT部の上に位置する画素が
現れ、b部にはT部の右側の隣に位置する画素が現れ
る。以下、T,a,bは各部に現れる入力画像のラベル
値を示すことにする。なお、ランの途中をウインドが走
査している時には、出力ラベルとしてフラグの値がライ
ンバッファメモリLBMに出力され、ウインドがランの
最後の画素に達した時に、フラグの立っている全ての画
素にラベルが書き込まれる。
【0121】KLPの内部構成は第21図のブロック構
成図に示される。KLPは、セレクタ2101,仮ラベ
ルレジスタTml2102,カウンタCnt2103,
第1の比較回路2104および第2の比較回路2105
により構成されている。第1の比較回路2104にはラ
ベル値T,a,bが与えられ、入力画像の多値比較が行
われる。この比較結果はセレクタ2101のセレクト端
子sel1に与えられる。第2の比較回路2105に
は、ラベル値aのラベルマッチングメモリLMMの値M
at(a),仮ラベルレジスタTml2102の値およ
びカウンタCnt2103の値が与えられ、同時に各値
はセレクタ2101の端子A,B,Cに与えられる。こ
のTml2102の値は、セレクタ2101からの出力
信号によって決定される。また、セレクタ2101の端
子DにはラインバッファメモリLBMに記憶されるフラ
グFLAGの値が与えられる。
【0122】第2の比較回路2105は与えられたこれ
らの各値を比較する。この比較結果により各ラベル間の
連結関係が判断され、比較結果はセレクタ2101のセ
レクト端子sel0に出力される。セレクタ2101は
与えられた各値に基づき、マッチングアドレスMAT
ADDRおよびマッチングデータMAT DATAを出
力し、ラベルマッチングメモリLMMの記憶内容の変更
を行う。また、これと共に、セレクタ2101は仮ラベ
ルの値および出力ラベルの値(LABEL)を出力す
る。
【0123】第22図〜第27図はウインド処理のフロ
ーチャートを示す。第22図は、第1の比較回路210
4における各値T,a,bの比較判断処理をする際のフ
ローチャートを示す。まず、着目画素のラベル値Tが0
に等しいか否かを判断する(ステップ2201)。Tが
0の場合には後述する処理1を実行する(ステップ22
02)。Tが0でない場合には、ラベル値Tとラベル値
bとを比較する(ステップ2203)。ラベル値Tとラ
ベル値bとが等しい場合には、ラベル値Tとラベル値a
とを比較する(ステップ2204)。ラベル値Tとラベ
ル値aとが等しい場合には処理2を実行する(ステップ
2205)。つまり、処理2は各値T,a,bが等しい
場合に実行される処理である。この場合、各ラベル値を
○と表現すると、ウインドウ状態はステップ2205の
図示の処理ボックスに隣接して描かれた状態になる。
【0124】ラベル値Tとラベル値aとが等しくない場
合には処理3を実行する(ステップ2206)。つま
り、処理3はラベル値Tとラベル値bとが等しく、ラベ
ル値Tとラベル値aとが異なる場合に実行される処理で
ある。この場合、ラベル値Tとラベル値bを○と表現
し、ラベル値aを×と表現すると、ウインドウ状態はス
テップ2206の図示の処理ボックスに隣接して描かれ
た状態になる。そして、ステップ2205またはステッ
プ2206の処理後に、ラインバッファメモリLBM1
603のウインドTの位置にフラグを立てる(ステップ
2207)。
【0125】また、ステップ2203において、ラベル
値Tとラベル値bとが等しくない場合にも、ラベル値T
とラベル値aとを比較する(ステップ2208)。ラベ
ル値Tとラベル値aとが等しい場合には処理4を実行す
る(ステップ2209)。つまり、処理4はラベル値T
とラベル値aとが等しく、ラベル値Tとラベル値bとが
異なる場合に実行される処理である。この場合、ラベル
値Tとラベル値aを○と表現し、ラベル値bを×と表現
すると、ウインドウ状態はステップ2209の図示の処
理ボックスに隣接して描かれた状態になる。
【0126】ラベル値Tとラベル値aとが等しくない場
合には処理5を実行する(ステップ2210)。つま
り、処理5はラベル値Tとラベル値aとが異なり、しか
も、ラベル値Tとラベル値bとが異なる場合に実行され
る処理である。この場合、ラベル値Tを○と表現し、ラ
ベル値aとラベル値bを×と表現すると、ウインドウ状
態はステップ2210の図示の処理ボックスに隣接して
描かれた状態になる。そして、ステップ2209または
ステップ2210の処理後にKLP内の仮ラベルレジス
タTmlをクリアする(ステップ2211)。このTm
lは、現在のウインド位置に達する直前のT部に有った
画素に対するラベルが記憶されているものである。
【0127】以下に説明する第23図から第27図のフ
ローチャートは、処理1から処理5までの比較判断処理
のフローチャートを示す。第23図は上述の処理1のフ
ローチャートを示す。処理1は何も実行せずに終了す
る。第24図は上述の処理2のフローチャートを示す。
まず、仮ラベルレジスタTmlに記憶された前回の画素
のラベル値と0とを比較する(ステップ2401)。T
mlのラベル値が0に等しい場合には、ラベル値aのラ
ベルマッチングメモリ(LMM)1604の値Mat
(a)を仮ラベルレジスタTml2102に書き込む
(ステップ2402)。Tmlのラベル値が0と等しく
ない場合には、Tmlのラベル値とカウンタCnt21
03のカウンタ値とを比較する(ステップ2403)。
カウンタ2103には最も新しいラベルの値が記憶され
ている。
【0128】仮ラベルレジスタTmlのラベル値とカウ
ンタCntのカウンタ値とが等しい場合には、ラベル値
aのラベルマッチングメモリ(LMM)の値Mat
(a)をTmlに書き込む(ステップ2404)。ま
た、Tmlの値とカウンタCntの値とが等しくない場
合には、LMMの値Mat(a)とTmlの値とを比較
する(ステップ2405)。LMMの値Mat(a)と
Tmlの値とが等しい場合には何も実行されない(ステ
ップ2406)。LMMの値Mat(a)とTmlの値
とが等しくない場合には、Tmlの値とLMMの値Ma
t(a)とのうちの小さい方の値{Min(Tml,M
at(a))}をTmlに書き込む。さらに、両者のう
ちの小さい方の値{Min(Tml,Mat(a))}
を、両者のうちの大きい方の値に等しいラベル値のラベ
ルマッチングメモリ[Mat{Min(Tml,Mat
(a))}]に書き込む(ステップ2407)。仮ラベ
ルレジスタTmlの値と0とを比較する(ステップ25
01)。Tmlの値が0に等しい場合には、カウンタ2
103のカウンタ値をTmlに書き込む(ステップ25
02)。また、Tmlの値が0に等しくない場合には、
何も実行されない(ステップ2503)。
【0129】第26図は前述の処理4のフローチャート
を示す図である。まず、Tmlの値と0とを比較する
(ステップ2601)。Tmlの値が0に等しい場合に
は、ラベル値aのLMMの値Mat(a)をターゲット
エリアのラベル値として、T部とフラグが立っている全
てのレジスタにこのMat(a)を書き込む(ステップ
2602)。この時、LBMのフラグは全てクリアされ
る。また、ステップ2601でTmlの値が0に等しく
ない場合には、Tmlの値とCntの値とを比較する
(ステップ2603)。Tmlの値とCntの値とが等
しい場合には、ラベル値aのLMMの値Mat(a)を
ターゲットエリアのラベル値として、T部とフラグが立
っている全てのレジスタにこのMat(a)を書き込む
(ステップ2604)。この時、LBMのフラグは全て
クリアされる。
【0130】また、Tmlの値とCntの値とが等しく
ない場合には、Tmlの値とMat(a)の値とを比較
する(ステップ2605)。そして、Tmlの値とMa
t(a)の値とが等しい場合には、ラベル値aのLMM
の値Mat(a)をターゲットエリアのラベル値とし
て、T部とフラグが立っている全てのレジスタにこのM
at(a)を書き込む(ステップ2606)。この時、
LBMのフラグは全てクリアされる。また、Tmlの値
とMat(a)の値とが等しくない場合には、Tmlの
値とラベル値aのLMMの値Mat(a)との小さい方
の値{Min(Tml,Mat(a))} をターゲット
エリアのラベル値として、T部とフラグが立っている全
てのレジスタに書き込む。この時、LBMのフラグは全
てクリアされる。さらに、Tmlの値とLMMの値Ma
t(a)とのうちの小さい方の値{Min(Tml,M
at(a))}を、これら両者のうちの大きい方の値に
等しいラベル値のラベルマッチングメモリ[Mat{M
in(Tml,Mat(a))}]に書き込む(ステッ
プ2607)。
【0131】第27図は前述の処理5のフローチャート
を示す図である。まず、仮ラベルレジスタTmlの値と
0とを比較する(ステップ2701)。Tmlの値が0
に等しい場合には、Cntの値をターゲットエリアのラ
ベル値として、T部とフラグが立っている全てのレジス
タにこのCntの値を書き込む。この時、LBMのフラ
グは全てクリアされる。さらに、Cntの値を、Cnt
の値に等しいラベル値のMat(Cnt)に書き込み、
Cntの値を1つカウントアップする(ステップ270
2)。
【0132】また、Tmlの値が0に等しくない場合に
は、Tmlの値をターゲットエリアのラベル値として、
T部とフラグが立っている全てのレジスタにTmlの値
を書き込む(ステップ2703)。この時、LBMの全
てのフラグはクリアされる。次に、Tmlの値とCnt
の値とを比較する(ステップ2704)。Tmlの値と
Cntの値とが等しい場合には、Cntの値を、Cnt
の値に等しいラベル値のMat(Cnt)に書き込む。
さらに、Cntの値を1つカウントアップする(ステッ
プ2705)。また、Tmlの値とCntの値とが等し
くない場合には、何も実行しない(ステップ270
6)。
【0133】次に、ラインバッファメモリLBMやラベ
ルマッチングメモリLMMに使用されるラベリングメモ
リKLMについて説明する。今までのメモリは、1回の
アドレス指定により1個の内部レジスタにしかデータが
書き込めなかった。しかし、以下に説明するKLMを使
用することにより、複数個の内部レジスタに1度にデー
タを書き込むことが出来る。このため、本ラベリングメ
モリKLMは、ラン処理用のラインレジスタ(LB
M),ラベル統合不要のラベルマッチングメモリ(LM
M),1スキャン用のラベル画像メモリ(LABEL
M)およびラベル整合を行えるラベルマッチングメモリ
に使用することが出来る。
【0134】KLMは複数のレジスタにより構成されて
いるが、第28図はこれらレジスタの中の1個のレジス
タのブロック構成を示している。このブロックはKLM
の構成の1単位になっている。各レジスタ2801には
コンパレータ2802が対になって接続されている。こ
のコンパレータ2802には、レジスタ2801からの
出力データDATAおよびこの出力データに比較される
べき情報COMが与えられる。コンパレータ2802は
与えられたデータを比較し、その比較結果をアンド回路
2803に出力する。アンド回路2803にはこの他に
アドレスデコーダ回路2804の出力が与えられてい
る。アンド回路2803は、コンパレータ2802また
はデコーダ回路2804のいずれか一方が信号を出力し
ていれば、オア回路2805に信号を出力する。
【0135】オア回路2805にはCPUからのライト
信号WRが与えられており、このライト信号WRに同期
してレジスタ2801にイネーブル信号が与えられる。
つまり、アドレスデコーダ回路2804によってセレク
トされるか、コンパレータ回路2802での比較結果が
一致した場合に、ライト信号WRに同期してレジスタ2
801にデータが書き込まれる。各デコーダ回路280
4へのアドレシングおよび各コンパレータ回路2802
での比較判断は全て同時に実行される。このため、1回
のアドレシングまたは1回のデータの比較判断により、
KLMを構成する複数個のレジスタの内容を同時に書き
替えることが可能である。
【0136】前述したランを用いたラベリング処理によ
って得られた仮ラベルは、ラベル統合を行うと不連続な
値になる。この時のラベルマッチングメモリLMMの内
容は第29図(a)に示される。各アドレス1〜10の
画素に対応してラベル1,3,6がデータとして記憶さ
れている。このラベル値は不連続な値になっているた
め、同図(b)に示され後に詳述する特徴抽出プロセッ
サKLCにより、同図(c)に示される連続な値を持つ
ラベルに変換する。すなわち、KLMによって構成され
たラベルマッチングメモリLMMに記憶されるラベル値
は、1,2,3と連続した値になる。
【0137】より詳細には、ラベリングプロセッサKL
CはLMMのアドレスを発生し、該当アドレスの示すデ
ータを取り込む。引き続いて取り込んだデータとアドレ
スとを比較し、各値が同じならば新しいデータをLMM
に出力してラベル値を書き替える。また、各値が異なる
場合には、LMMへ次のアドレスを出力して次のアドレ
スとデータとを比較する。以後、この処理を繰り返して
実行することにより、第29図(a)に示される不連続
なラベル値は同図(c)に示される連続なラベル値に変
換される。
【0138】具体的には、同図(a)のアドレス1のデ
ータ(1)はアドレスと同じであるため、KLCは新し
いデータとして1を出力し、アドレス1のデータと同じ
データ(1)を持つアドレス2,4,5,7のデータを
新しいデータ1に書き替える。図示の場合には、古いデ
ータと新しいデータとがたまたま同じ1になっているた
め、同図(a)と同図(c)との該当アドレスのデータ
に変化は無い。次に、アドレス2のデータ(1)とアド
レスとを比較する。アドレスとデータとは異なるため、
次のアドレス3を発生する。そして、アドレス3のデー
タ(3)とアドレスとを比較する。アドレスとデータと
は同じであるため、新しいデータとして2を出力する。
LMMはKLMによって構成されていたため、アドレス
3のデータと同じデータ(3)を持つアドレス9,10
のデータは同図(c)に示されるように全て同時に2に
書き替えられる。次に、KLCは新たなアドレス4を発
生する。アドレスとデータとは異なるためにさらに次に
アドレス5を発生し、以後、上記と同様な処理を繰り返
す。この結果、不連続値は連続値に変換される。
【0139】第30図はこの特徴抽出ブロセッサKLC
の内部構成を示すブロック図である。このKLCを使用
することにより、1次ラベリングによって発生する仮ラ
ベルの前処理が行われる。また、2次ラベリングの時、
ラベリングと同時に、同一ラベル領域の面積の演算,同
一ラベル領域のX方向アドレスの合計の演算および同一
ラベル領域のY方向アドレスの合計の演算がこのKLC
によって実行される。
【0140】KLCは、+1加算器3001と、2つの
加算器3002,3003と、比較器3004および2
つのカウンタ3005,3006とから構成されてい
る。+1加算器3001は、同一ラベル値を持つ画素入
力が有った場合にそのカウント数を1つづつカウントア
ップし、同一ラベル領域の面積を演算してこれをSiz
eとして出力する。加算器3002,3003にはX方
向アドレス値,Y方向アドレス値が入力されている。そ
して、同一ラベル値の画素入力が有った場合に、各方向
ごとにアドレス値を加算していき、各アドレス方向ごと
に同一ラベル領域のアドレス値の合計を演算する。各合
計値はX ADDRおよびY ADDRとして出力され
る。各方向のアドレスの合計値を同一ラベル領域の面積
で割ることにより、各方向の重心を求めることが出来
る。そして、各同一ラベル領域の重心を求め、地平線よ
りも上に重心がある領域は、道路候補領域の抽出に有効
な領域ではないものとして除去する。
【0141】比較器3004およびカウンタ3005,
3006は、1次ラベリングの時に発生する仮ラベルの
前処理、つまり、不連続なラベル値を連続なラベル値に
変換する処理に使用される。カウンタ3005,300
6にはクロック信号CLKが入力され、カウンタ300
5の出力はラベルマッチングメモリLMMへ出力される
マッチングアドレスMAT ADDRになる。このアド
レスは比較器3004にも同時に与えられる。また、カ
ウンタ3006の出力はラベルマッチングメモリLMM
へ出力されるデータMAT DATAになる。比較器3
004は与えられたアドレスおよびデータを前述のよう
にして比較し、アドレスとデータの各値が一致する場合
にはカウンタ3006に信号を出力する。カウンタ30
06はこの信号を入力した場合にはMat DATAに
現在のカウンタの値を出力し、値を1つカウントアップ
する。
【0142】以上説明してきたラベリング処理の処理時
間は、各ランに沿って行われる2スキャンのラスタ走査
時間と、ラベル統合時間との和の時間を必要とした。し
かし、第16図に示されるラベルメモリLABELM1
606に前述したラベリングメモリKLMを使用して構
成することにより、1スキャンでラベリング処理を実行
することが出来る。すなわち、第31図に示されるよう
に、多値の入力画像3101が取り込まれた場合に、ラ
ベリングプロセッサKLP3102はラインレジスタ3
103およびラベルマッチングメモリ3104を使用し
て前述と同様にラベリング処理を実行する。そして、こ
のラベリングによって得られた各画素のラベル値は、各
ランの最終の画素の走査時点でラベル画像メモリ310
5にそのまま書き込まれる。なお、ラベル統合は行われ
ないため、各ラベルの値は不連続な値のままに記憶され
る。
【0143】ラベリングメモリKLMは、前述したよう
に、各内部レジスタにコンパレータが対になって接続さ
れており、コンパレータでの比較結果が一致したレジス
タおよびアドレスセレクトされたレジスタに、一度に新
しいデータが書き込まれるものである。このKLMの特
徴によって1スキャンラベリングが可能になっている。
また、ラベリングプロセッサKLPは、本方式のアルゴ
リズムがハードウエア化されたものであり、高速ラベリ
ングを可能にするものである。
【0144】この1スキャンラベリング方式により、ラ
ベリング処理時間を今までの1/2以下に短縮すること
が可能になる。例えば、装置が8MHzのクロック信号
で動作している場合には、今までのラベリング処理時間
には、ウインドウを2スキャンするための66msec
と、ラベル統合に必要とされる時間とを必要とした。し
かし、この1スキャン方式によれば、1/2以下の33
msecでラベリング処理を行うことが出来る。
【0145】また、通常の画素の走査は入力画像の画面
左上から右下に行うが、道路領域を抽出する画像処理に
おいては、目的とする画像は画像の下方に位置する。従
って、目的とする画像を走査する際に仮ラベルを記憶す
るメモリがオーバーフローする事態が発生する可能性が
ある。このため、走査を画面の右下から左上に行い、目
的とする画像を初めに走査することにより、目的とする
画像を常に取得できるようにする。つまり、目的とする
画像を最初に取得すれば、メモリのオーバーフローが発
生してもそのオーバーフローの時の画像走査は不要な画
像部分についての走査になり、目的とする画像を常に取
得することができる。
【0146】次に、画像分割されて得られた「複数の領
域の併合手法」について説明する。「テンプレート画像
を用いた繰返しきい値処理による走行コースの抽出手
法」により道路候補領域が求められ、「明るさの違いに
注目した走行コース上の影や高輝度部分の抽出手段」に
より低輝度領域である影や高輝度領域が求められた。こ
の道路候補領域を基準にし、道路候補領域と強く繋がっ
ている低輝度領域や高輝度領域を道路候補領域に併合
し、一つの領域として扱い、これを走行コースとみな
す。このためには、各領域に隣接している共通境界長と
各領域の周囲長とを求め、繋がっている各領域どうしの
関係を記述する。この各領域どうしの関係の記述により
併合関係が表され、従来のようにラベルの付け替え操作
を行わなくても、領域と領域の併合処理をしたのと同じ
結果が得られる。なお、共通境界長は各領域に隣接して
いる画素の辺の長さに基づいて求まり、周囲長は各領域
の最外部の画素の辺の長さに基づいて求まる。
【0147】以下に本手法のアルゴリズムを示す。本手
法は二通りあり、第1に、逆L字のマスクを走査させる
逆L字マスク走査式手法があり、この手法は簡単なアル
ゴリズムでハードウエア化に適している。第2に、領域
の境界を局所的に探査する領域境界探査式手法があり、
この手法は必要な領域の境界のみを探査するため、少な
いメモリで処理できて有効である。
【0148】第1の手法である逆L字マスク走査式手法
は、第32図に示される逆L字マスクをラベル画像の左
から右へ、上から下へ走査することにより実行される。
図示のマスクに現れるx画素は着目する画素であり、a
画素は着目画素xの上に位置する画素、b画素は着目画
素xの左隣に位置する画素である。例えば、第33図に
示される画素領域を想定する。同図に示される口は1つ
の画素を表しており、この口の中の数値はその画素のラ
ベル値を表している。本例の場合には、ラベル値1の領
域とラベル値4の領域とが隣接している。なお、図には
示されていないが、背景領域はラベル値が0になってい
る。
【0149】各領域の周囲長obは、逆L字マスクを各
領域の行に沿って、つまり、ランに沿って走査すること
により求まる。具体的には、ラベル値1の領域の周囲長
ob1は次のように求まる。まず、逆L字マスクのx画
素を最上段のランの左端に位置する画素に合わせる。こ
の場合、a画素およびb画素は背景領域にあり、ラベル
値は0になっているため、この画素の2辺はラベル値1
の領域の周囲に位置していることが分かる。従って、周
囲長ob1をカウントするカウンタに2を加える。次
に、逆L字マスクを右に走査し、x画素を右隣の画素に
合わせる。この場合、a画素は背景領域にあり、b画素
は前回マスクを合わせたラベル値1の本領域内の画素に
ある。従って、この画素の1辺がラベル値1の本領域の
周囲に位置していることが分かり、カウンタにさらに1
を加える。このように逆L字マスクをランに沿ってラベ
ル値1の領域について走査することにより、周囲長ob
1は18になる。なお、周囲長obの単位は画素の辺の
数である。
【0150】ラベル値4の領域の周囲長ob4も上記の
周囲長ob1と同様にして求められ、その値は20にな
る。また、ラベル値1の領域とラベル値4の領域との共
通境界長cbは次のようにして求めることが出来る。こ
の共通境界長cbは、ラベル値1の領域から見たラベル
値4の領域との共通境界長cb14と、ラベル値4の領
域から見たラベル値1の領域との共通境界長cb41と
で異なる場合がある。つまり、マスクが逆L字の形状を
しており、各画素の2近傍の画素しか考慮しないために
共通境界長に差が生じるのであるが、複数の領域の併合
処理に際しては何等問題とならない。なお、走査するマ
スクを着目画素の4近傍を見る十字形状にすれば、共通
境界長に差がでることはない。
【0151】ラベル値1の領域から見たラベル値4との
共通境界長cb14は、周囲長oblを求める際のマス
ク走査によって求められる。この共通境界長cb14は
0になる。すなわち、ラベル値1の領域の各ランについ
て逆L字マスクを走査しても、a画素およびb画素には
ラベル値4の画素が現れないからである。
【0152】ラベル値4の領域から見たラベル値1の領
域との共通境界長cb41は、周囲長ob4を求める際
のマスク走査によって求めることが出来る。この共通境
界長cb41は3になる。すなわち、ラベル値4の領域
の2段目および3段目のランの先頭画素にマスクが位置
する場合、b画素にはラベル値1の画素が現れる。この
ため、3段目までのランについてのマスク走査により、
共通境界長cb41をカウントするカウンタの値は2に
なる。さらに、4段目のランの先頭位置にマスクが位置
する際には、マスクのa画素にはラベル値1の画素が現
れる。このため、カウンタに1が加えられてカウンタの
積算値は3になり、共通境界長cb41は3になる。な
お、共通境界長cbの単位は画素の辺の数である。
【0153】次に、このように求めた各領域間の共通境
界長および各領域の周囲長は、第34図に示されるラベ
ル間境界長マトリクスにその値が記憶される。同マトリ
クスの各列に付された数字0,1,2,…,j,…,
k、および各行に付された数字0,1,2,…,i,…
lはラベル値を示す。各列および各行の数値によって指
定される場所に記憶される数値mijは、ラベル値iの領
域から見たラベル値jの領域との共通境界長である。ま
た、k+1番目の列に記憶される数値ti は、ラベル値
iの領域の周囲長である。
【0154】第33図に示された画素領域を例とする
と、ラベル値1の領域から見たラベル値4の領域との共
通境界長cb14の値は0であるため、同マトリクスの
1行4列に位置するメモリには0が記憶される。また、
ラベル値4の領域から見たラベル値1の領域との共通境
界長cb41の値は3であるため、同マトリクスの4行
1列に位置するメモリには3が記憶される。
【0155】各領域の周囲長および各領域間の共通境界
長を求めてマトリクスを作成した後、各領域間の接続度
を計算する。この接続度は共通境界長と周囲長とに基づ
く次式により求まる。 接続度=X/min(A,B) ここで、Aはラベル値iの領域の周囲長、Bはラベル値
jの領域の周囲長であり、min(A,B)はA,Bの
各数値の内の小さい方の数値を表す。また、Xは次式で
表される各領域間の共通境界長の平均値である。 X=(X1+X2)/2 X1はラベル値iの領域から見たラベル値jの領域との
共通境界長、X2はラベル値jの領域から見たラベル値
iの領域との共通境界長である。上記のXを示す式は、
X1およびX2共に0でない(X1≠0,X2≠0)場
合に有効である。X2が0(X2=0)の場合にはXは
次式に示される。 X=X1 X1が0(X1=0)の場合にはXは次式に示される。 X=X2 計算した接続度が所定のしきい値以上であれば、ラベル
値iの領域とラベル値jの領域との繋がりは強く、各領
域は併合すべき関係にある。また、接続度が所定のしき
い値以下であれば、ラベル値iの領域とラベル値jの領
域との繋がりは薄く、各領域は併合すべき関係にはな
い。この併合関係は、第35図に示される特徴量リスト
の接続ラベル欄に記述される。
【0156】同リストのラベルNo.はラベル値であ
り、面積,重心はそのラベル値の領域の面積および重心
である。この面積および重心は前述のラベリング処理の
時に得られる。外接長方形とは、そのラベル値の領域内
の全ての画素を囲む長方形である。外接長方形は、辺と
辺との交点である4つの頂点の内、左上の頂点の座標t
L(x,y)と、右下の頂点の座標bR(x,y)とに
よって特定される。各座標は上述の境界の探査過程処理
の時に求められる。また、接続ラベル欄に記載されたラ
ベルNo.は、そのラベル値の領域と併合すべき関係に
ある領域のラベル値を示している。この欄に記載された
領域とさらに併合すべき領域がある場合には、図示のよ
うに、接続ラベルがさらにポインタにより繋げられる。
【0157】また、同リストに記述された各特徴量は第
36図に示される各領域のものである。各領域にはラベ
ル値l1〜l4が付され、また、G1〜G4は各領域の
重心位置を示している。また、各領域には外接長方形が
描かれている。この長方形の上の1辺と領域との接点は
座標st(x,y)として表され、領域開始点tL
(x,y)から水平操作することにより求まる。座標s
tは後述する手法において利用される。
【0158】ラベル値l1の領域とラベル値l2の領域
とは併合すべき関係にあるため、特徴量リストのラベル
NO.l1の行の接続ラベル欄にはラベル値l2が記述
される。さらに、ラベル値l1の領域は、ラベル値l3
の領域およびラベル値l4の領域とも併合すべき関係に
あるため、ラベル値l3およびl4の接続ラベルがポイ
ンタにより繋げられる。また、ラベルNo.l2〜l4
の各行の接続ラベル欄にも同様な考え方で各領域間の接
続関係が記述される。
【0159】次に、領域境界探査式手法について説明す
る。まず、対象とする領域に外接する長方形を描き、こ
の外接長方形と領域とが接する座標st(x,y)に位
置する探索開始画素を求める。そして、この探索開始画
素の8近傍に位置する画素について調査する。8近傍に
位置する各参照画素には、第37図に示されるように位
置No.を付す。つまり、着目画素の上に位置するN
o.を0とし、時計回りに順に番号を付す。探索開始画
素の次に探索すべき画素の座標は、第38図(a),
(b)に表された画素参照テーブルを用いて決定する。
同図(a)に示されるテーブルは画素の探索を時計回り
(右回り)に実行する際に参照されるテーブルであり、
同図(b)に示されるテーブルは画素の探索を反時計回
り(左回り)に実行する際に参照されるテーブルであ
る。テーブルの括弧{}に挾まれた0〜7の数値は、第
37図の参照画素の位置No.に対応するものである。
【0160】次に探査すべき画素は、前回の画素位置に
対する今回の画素位置に対応する参照画素位置No.を
求め、この位置No.に一致するテーブルの行No.の
列No.を参照することにより決定される。画素参照テ
ーブルを用いた探索画素の決定方式について以下に具体
的に説明する。画素領域の境界部が第39図のように形
成されている場合を想定する。同図の斜線が付された口
はラベル値が0ではない画素を示している。前回探索し
た画素を記号△で示し、現在探索する画素を記号○で示
し、次に探索すべき画素を記号◎で示す。
【0161】前回の画素位置△に対する今回の画素位置
○は、第37図の参照画素位置No.では1に対応す
る。領域の境界付近の画素を右回りに探索することにす
ると、画素参照テーブルは第38図(a)のテーブルを
参照することになる。参照画素位置No.は1であるた
め、行No.が1の列No.{7,0,1,2,3,
4,5,6}を参照する。なお、行No.は最上段の行
が0であり、順に1〜7となっている。また、列No.
には参照すべき画素のNo.が全て記されており、画素
の8近傍の参照をこの順番に従って行うことにより、通
常のアドレス計算におけるモジュロ計算を避けることが
出来る。
【0162】すなわち、列No.は7から始まっている
ため、次に探査すべき画素は現在位置○の斜め左上に位
置する画素◎になる。画素◎は背景領域であり、ラベル
値は0であるため、列No.に従って次の画素を探索す
る。つまり、次の参照画素位置No.は0であるため、
現在位置○の上に位置する画素を探索する。この画素も
背景領域にあるため、さらに、列No.に従って参照画
素位置No.が1の画素を探索する。この画素はラベル
値を持っており、0ではないため、次に探索する画素の
基準をこの位置No.1の画素におき、この8近傍につ
いて上記と同様に探索する。そして、領域の境界に沿っ
た各画素について上記の処理を行い、探索開始画素に戻
るまで同様の処理を各画素について繰り返す。
【0163】また、この探索の処理において、次の規則
に従った処理を行うことにより、ラベル値iの自身の領
域の周囲長obi およびラベル値jの隣接する領域との
共通境界長cbijを求めることが出来る。つまり、現在
位置の上下左右の4近傍に隣接する領域にラベル値jが
存在すれば、共通境界長cbijをカウントするカウンタ
に1を加算する。同時に、自己の周囲長obi をカウン
トするカウンタに1を加算する。また、現在位置の4近
傍に自身のラベル値iと同一のラベル値の画素が存在し
ない場合には、自己の周囲長のカウンタに1を加算す
る。
【0164】次に、求めた周囲長および共通境界長に基
づき、逆L字マスク操作式手法における計算と同様にし
て各領域間の接続度を求める。これと同時に前述と同様
にして特徴量リストを作成する。この特徴量リストの接
続ラベルには各領域間の接続関係が記述され、複数の領
域の併合関係が判断される。つまり、本手法によって
も、各領域のラベルの付け替え操作を行わなくとも各領
域の併合関係が判明する。なお、上記の境界探査は右回
りに行ったが、境界探査を左回りに実行する場合には、
第38図(b)に示される左回り用の画素参照テーブル
を用いることにより、右回りと同様にして処理を行うこ
とが可能である。
【0165】このように画素参照テーブルを用いること
により、速い境界探査が可能になる。つまり、探索の基
準となる画素の8近傍の全ての画素について調査する必
要は無い。また、領域の境界部付近の画素のみを探索す
れば良く、領域内の全ての画素について探索する必要が
無くなる。従って、処理時間は短縮される。
【0166】以上説明した各手法によれば、従来のよう
にラベルの付け替え走査を行わずに各分割領域間の併合
関係を判断することが出来る。つまり、「テンプレート
画像を用いた繰返しきい値処理による走行コースの抽出
手法」で得られた道路候補領域と、「明るさの違いに注
目した走行コース上の影や高輝度部分の抽出手段」で得
られた低輝度および高輝度領域とが併合され、現実に即
した走行コース領域を得ることが出来る。
【0167】次に、「走行可能範囲を求める手段」につ
いて説明する。本手段は、「テンプレート画像を用いた
繰返しきい値処理による走行コースの抽出手法」,「繰
返しきい値処理における特徴量ヒストグラムの形状に基
づくしきい値設定手段」,「明るさの違いに注目した走
行コース上の影や高輝度部分の抽出手段」によって求め
られた走行コース画像から最終的な走行可能範囲、すな
わち、道路端座標を求めるものである。
【0168】第40図は本手法による走行コース認識シ
ステムの処理全体の流れを示すフローチャートである。
まず、カラーカメラ入力装置によって走行コースの画像
情報を取り込み、取り込まれたR,G,B画像を前途の
ようにして明度I,彩度Sの各画像に変換する。変換さ
れた各画像に基づき、カラー処理装置において明度Iを
特徴量とするヒストグラムおよび彩度Sを特徴量とする
ヒストグラムを前途のように作成する(ステップ400
1)。次に、作成した各ヒストグラムに基づき、「テン
プレート画像を用いた繰返しきい値処理による走行コー
スの抽出手法」により道路候補領域を抽出し、小領域を
除去する(ステップ4002)。
【0169】次に、本手法により、抽出した道路候補領
域の道路端の点列を評価する(ステップ4003)。そ
して、この道路端の点列の評価結果に基づき、抽出した
道路候補領域は単調路か否かを判断する(ステップ40
04)。道路らしい単調路である場合には、さらに、求
まった複数の各点列間の関係を比較し、評価する(ステ
ップ4005)。そして、この評価結果を最終的に出力
する(ステップ4006)。この後、今回入力された画
像に対する点列は求められたものとし、次の画像に対す
る処理を実行する。
【0170】また、ステップ4004での判断結果が道
路らしさが低くて単調路でない場合には、「明るさの違
いに注目した走行コース上の影や高輝度部分の抽出手
段」により、低輝度領域が有ればこれを抽出する(ステ
ップ4007)。そして、求められた低輝度領域と道路
候補領域とを併合し、本手法により道路端の点列を評価
する(ステップ4008)。この道路端の点列の評価結
果に基づき、排出した道路候補領域は単調路か否かを判
断する(ステップ4009)。単調路である場合には、
ステップ4005以降の処理を実行し、次の画像に対す
る処理に移行する。
【0171】また、単調路でない場合には、次に、「明
るさの違いに注目した走行コース上の影や高輝度部分の
抽出手段」により、高輝度領域が有ればこれを抽出する
(ステップ4010)。そして、求めた高輝度領域と道
路候補領域とを併合し、本手法により道路端の点列を評
価する(ステップ4011)。この道路端の点列の評価
結果に基づき、抽出した道路候補領域は単調路か否かを
判断する(ステップ4012)。単調路である場合に
は、ステップ4005以降の処理を実行し、次の画像に
対する処理に移行する。単調路でない場合には、低輝度
領域および高輝度領域を道路候補領域に併合し、3領域
を併合した領域から得られる道路端の点列を評価する
(ステップ4013)。この後ステップ4005以降の
処理を実行し、次の画像に対する処理に移行する。
【0172】次に、上記の道路候補領域の道路端の点列
座標を求める手法について以下に説明する。例えば、第
41図に示される画像領域が得られた場合を想定する。
図の左上を原点とし、x座標は水平方向を右に向かって
正とし、y座標は垂直方向を下に向かって正とする。こ
の画像に示された道路領域には切れ込みが存在し、ま
た、ノイズ等により画像情報が得られなかった個所が散
在する。同図に示される画像の各画素にラベリング処理
が行われ、この処理結果、得られる画素領域が第42図
のように示されたものとする。同図の斜線部はラベル値
が0ではなく、あるラベル値を持った画素とする。な
お、斜線のない画素はラベル値が0の背景領域に位置す
る画素である。また、3×3個の画素を囲む枠4201
はウィンドウWであり、ウィンドウWの中に存在する斜
線画素(0でない画素値を有する画素)の数はヒストグ
ラムの値になる。図示に位置する場合のウィンドウWに
よるヒストグラムの値は5である。また、図示のウィン
ドウWは3×3のウィンドウになっているが、5×5等
の他の大きさのウィンドウであっても良い。
【0173】まず、ウィンドウWを画像の中央部から左
に向けて水平に走査する。なお、画像の中央部からウィ
ンドウW走査するのは、処理の開始時だけである。移動
しながら各位置におけるウィンドウWのヒストグラム値
を求める。このヒストグラム値を監視しながらウィンド
ウWを移動し、所定のしきい値以下のヒストグラム値が
連続して得られた場合、つまり、ウィンドウW内の斜線
画素の密度が低くなった場合、ウィンドウWは道路領域
から外れたものと判断する。そして、ヒストグラム値が
所定のしきい値以下になった最初のウィンドウWの位置
を左側の道路端の点列座標XLとする。次に、ウィンド
ウWを右側へ向けて水平走査し、ウィンドウW内のヒス
トグラム値が連続して所定のしきい値以下になった場
合、このヒストグラム値の変化する最初のウィンドウW
の位置を右側の道路端の点列座標XRとする。
【0174】次に、ウィンドウWの位置するY座標を1
つ減らし、ウィンドウWを画像の上方へ移動して水平走
査位置をずらす。そして、上記の最初の水平走査により
得られた道路端座標XL,XRから道路領域の中央位置
を式(XR−XL)/2の計算をすることにより求め
る。この中央位置をウィンドウWの走査開始位置とし、
ウィンドウWを左右に走査する。この走査においても上
記と同様にしてウィンドウW内のヒストグラム値を監視
し、ヒストグラム値の変化する位置を道路端の座標とす
る。以下、水平走査位置のY座標が地平線位置になるま
で同様の処理を繰り返すことにより、左右の道路端の一
連の点列座標を得ることが出来る。
【0175】また、このウィンドウWの走査において、
走査開始位置のウィンドウWから得られるヒストグラム
値が最初から所定のしきい値以下であり、しかも、ウィ
ンドウWを左側へ走査して得られるヒストグラム値が連
続して所定のしきい値以下の場合には、中央位置が道路
端座標になってしまう。しかし、この場合にはウィンド
ウWの走査方向を逆の右側に変える。そして、所定のし
きい値以上のヒストグラム値が連続して得られた場合に
は、最初に所定のしきい値以上のヒストグラム値が得ら
れたウィンドウWの位置を左側の道路端の座標とする。
右側の道路端の座標は、ウィンドウWをさらに右側に走
査し、ヒストグラム値の変化する位置を求めることによ
り判明する。
【0176】次に、このように求めた道路端の点列座標
は領域の境界付近に存在するため、各点を繋ぐことによ
り得られる境界線は一様に滑らかなのもではない。この
ため、ある1点の前後に位置する各点とこの1点とがな
す角度を点列の全点について計算し、この分散値を滑ら
かさの基準とする。また、得られた角度が鋭角のときは
その点は除去して計算する。このように左右の道路端の
各点列座標を平滑化した後、これら点列座標を実空間へ
射影変換する。この射影変換は自律走行車に取り付けた
カラーカメラの俯角,高さ,焦点距離に基づいて行われ
る。
【0177】さらに、この射影変換後の点列において、
左右の点列を一組として左右の各点列間の距離、つま
り、道路幅を求める。そして、この道路幅が走行車の車
体幅より狭くなる点の数を数え、点列の全点数に対する
この狭い幅の点数を計算する。全点数に対する狭い幅の
点数の比率が小さい場合には、狭い幅の点は道路端の点
としてはふさわしくないため、これら各点は除去する。
【0178】また、この道路端の点列の評価に際して、
最初に求めた一組の左右端によって定まる道路幅と差の
少ない左右の組を数える。差の少ない左右の組が全部の
組に対して占める比率が大きい場合、つまり、左右の道
路端列がある程度平行している場合には、道路らしさと
しての評価は最も高くなり、単調路として判断される。
このように単調路として判断される場合には、第40図
に示されたフローチャートのステップ4003,400
8,4011の処理をしなくても道路端を得ることが出
来る。
【0179】次に、自律走行車が道路端に極端に近付き
過ぎた場合における、道路左右端の点列の補正手段につ
いて説明する。第43図(a)〜(d)は自律走行車が
道路端に近付く過程を示している。同図(a)は自律走
行車が曲率のきついカーブ手前に位置している場合を示
している。この場合には、自律走行車に取り付けられた
カラーカメラには、左側の道路端Lおよび右側の道路端
Rが視野内に捕らえられている。道路のカーブの曲率が
きつい場合、同図(a)に位置していた自律走行車は同
図(b)に示される位置に移動する。この場合、右側の
道路端Rはカメラの視野から消える。
【0180】さらに、自律走行車は同図(c)に示され
る位置に移動し、テンプレートに占める道路外領域の比
率は段々高くなる。図示の斜線部は道路外領域を示して
いる。さらに、自律走行車は同図(d)に示される位置
に移動する。この場合、カメラの視野には左側の道路端
および道路外領域の左側の境界部が捕らえられている。
また、テンプレート画像に占める道路外領域の占める比
率は高くなり、道路外領域が走行路コースと誤認され
る。この結果、左側の道路端は右側の道路端Rとして誤
認され、道路外領域の左側の境界は左側の道路端Lと誤
認される。
【0181】しかし、順次撮像される画像情報から得ら
れる道路端の点列は、前回画像における右側の点列が今
回画像において極端に左側に位置する点列になることは
ない。また、逆に、前回画像における左側の点列が今回
画像において極端に右側に位置する点列になることはな
い。従って、1処理サイクル前の画像情報から得た点列
情報を記憶保持しておき、今回の画像情報から得た点列
とこの前回の画像情報から得た点列との距離を後述する
ように計算する。そして、例えば、前回求めた右側の道
路端の点列と今回求めた右側の道路端の点列との距離が
離れており、前回の右側点列が今回の左側点列に近い場
合には、左右の道路端の位置が逆転したものと判断す
る。そして、今回得た道路端の右側と左側とを入れ替え
る。
【0182】これを第43図に示される画像を用いて説
明する。同図(c)の画像を前回得られた画像とし、左
側の道路端の点列をLi-1 と表現する。同図(d)の画
像を今回求めた画像とし、誤認している左側の道路端の
点列をLi 、誤認している右側の道路端の点列をRi と
表現する。左右の道路端の点列が逆転しているか否かの
判断は、前回の点列Li-1 が今回の点列Li ,Ri のう
ちどちらに近いかを判断することにより行う。前回の点
列Li-1 が今回の点列Ri に近い場合には、左右の道路
端の点列は逆転したものと判断する。
【0183】一般的に、この点列の近さの判断は次のよ
うに行う。つまり、今回の画像から得た左側の点列を1
グループ、右側の点列をもう1つのグループとし、前回
の左側または右側の点列がこれら各グループのうちのど
ちらのグループに近いかを判断することにより行う。こ
のどちらのグループに近いかの判断は、以下に詳述する
マハラノビスの汎距離によって決定する。第44図はこ
のマハラノビスの汎距離を説明するための図である。
【0184】前回の画像情報による左側点列Li-1 (ま
たは右側点列Ri-1 )の点を(x,y)、今回の画像情
報による左側点列Li の点を(x1j,y1j)、今回の画
像情報による右側点列Ri の点を(x2j,y2j)とす
る。前回の点列の点(x,y)が今回の点列Li とRi
とのうちのどちらに近いかは、マハラノビスの汎距離を
点列Li-1 (または点列Ri-1 )の全点に対して以下の
ように計算し、距離の短い点が多く属すほうの点列に近
いものとする。また、今回の画像により求まった点列が
直線の時には、この直線までの距離を計算する。
【0185】まず、点列Li 上の各点について、x方向
成分の平均値μ11,y方向成分の平均値μ12,x方向成
分の分散値σ11,y方向成分の分散値σ12,x,y各方
向の共分散値σ112 および相関係数ρ1 を求める。ここ
で、ni は点列Li 上に位置する点の数である。なお、
点列Ri 上の各点についても以下の式と同様な式により
求めることが出来る。 μ11=Σx1j/n1 ,μ12=Σy1j/n1 σ11=Σ(x1j−μ11)/(n1 −1) σ12=Σ(y1j−μ12)/(n1 −1) σ112 =Σ(x1j−μ11)(y1j−μ12)/(n1 −
1) p1 =σ112 /σ11×σ12 これら各数値に基づいて、前回の点列の点(x,y)と
今回の点列Li の点(x1j,y1j)との間のマハラノビ
スの汎距離D1 を次式により求めることが出来る。 D1 ={[(x−μ11)/σ11]+[(y−μ
12)/σ12]−2ρ1 [(x−μ11)/σ11]×
[(y−μ12)/σ11]}/(1−ρ1 ) また、同様に前回の点列の点(x,y)と今回の点列R
i の点(x2j,y2j)との間のマハラノビスの汎距離D
2 を次式により求めることが出来る。 D2 ={[(x−μ21)/σ21]+[(y−μ
22)/σ22]−2ρ2 [(x−μ21)/σ21]×
[(y−μ22)/σ22]}/(1−ρ2 ) 上記の各式に基づいて各汎距離を計算した結果、D1
>D2 が成立する場合には、前回の点(x,
y)は今回の右側の道路端の点列Ri に近いことにな
る。また、D1 >D2 が成立しない場合には、
逆に、前回の点(x,y)は今回の左側の道路端の点列
Li に近いことになる。
【0186】以上のように画像分割処理の結果得られた
道路候補領域が、ノイズなどによって不明瞭な輪郭の領
域になっても、本手法による前記のウインドウのヒスト
グラム値の変化に基づけば、道路の端点を確実に得るこ
とが出来る。これは、本手法が領域を基にしてその端点
を探索しているためであり、本手法によれば領域の左右
端を明確に区別することが出来る。
【0187】また、「明るさの違いに注目した走行コー
ス上の影や高輝度領域の抽出手段」で求められた低輝度
領域は、走行コースが全体的に暗い場合には、道路外に
位置する場合もある。このような場合に道路外の低輝度
領域と道路領域とが併合される場合があり、道路候補領
域の輪郭の形状が複雑化する。しかし、本手法により、
得られた道路端の点列データを平滑化することにより、
複雑な輪郭の領域は大局的に評価され、上記のような低
輝度領域は無視され、自動車が走行する上で何等支障の
無い道路端の情報を得ることが出来る。
【0188】また、「テンプレート画像を用いた繰返し
きい値処理による走行コースの抽出手法」によれば、自
律走行車が曲率のきつい道路の左または右に極端に近付
いた場合、テンプレートが道路外に出てしまってそこを
道路とみなしてしまう場合がある。この場合には道路端
の左右の認識を誤ってしまう。しかし、上述の本手法に
よれば、道路の左右端のデータを誤って認識しても、直
ぐにこの認識は補正され、常に信頼性の高い道路端の情
報を得ることが出来る。
【0189】次に、「多様な形状の走行コースの内部表
現手法」、つまり、得られた道路端の多様な点列を構造
化して表現する手法について説明する。
【0190】本手法は、「テンプレート画像を用いた繰
返しきい値処理による走行コースの抽出手段」で得られ
た走行コースの画像と、「明るさの違いに注目した走行
コースからの影や高輝度部分の抽出手段」で得られた画
像と、「複数の領域の併合手段」で求めた特徴量リスト
に基づき、画像のラベル変位箇所を検知しながら領域の
境界点のストラクチャを作成し、前後方向のリンクを付
け、境界の属性を付与することによって、走行コースを
コンピュータ内部に表現し、走行のための有効な点列群
を求めるものである。「複数の領域を併合する手段」に
おいて作成された領域と領域との記述を表した特徴量リ
ストを利用して、高速に領域の端点が得られ、道路端,
路肩端,分岐路および合流路は計算機の内部に構造化さ
れたリストによって表現される。
【0191】第45図は道路の構造化処理の概略を示す
フローチャートである。
【0192】まず、カラーカメラ入力装置などの各ハー
ドウエアの初期設定時に領域境界点ストラクチャのy方
向のリストを作成する(ステップ4501)。次に、各
領域に付けられたラベル値のx方向の変化箇所を検出し
てx方向のリストを作成し、各境界点のx方向について
リンクする(ステップ4502)。そして各領域の特徴
量リストの接続ラベルを考慮して領域の左端および右端
にその属性を付与し、各領域の左右端を区分する(ステ
ップ4503)。次に、後述する穴などの属性を各境界
点に付与しながら、画面の前後方向(y方向)の各境界
点の関連付けを行い、各境界点のy方向についてリンク
する(ステップ4504)。また、道路領域が分岐した
り、合流したりする場合が有り、これら各場合に各領域
の境界の連続性を判断し、各境界点に付与された属性の
付け替えを行う(ステップ4505)。この後、各領域
の境界点の点列の開始位置を選択し、有効点列を検出す
る(ステップ4506)。
【0193】以上の各処理について以下に詳述する。ス
テップ4501の処理について、第46図を参照して説
明する。同図(a)は、実空間上における道路面(水平
面と仮定する)を画像上に射影変換する際の原理を示す
図である。道路面4601は等間隔(l)に区分され、
道路領域および道路上の各区分線は遠方の1点に向けて
画像4602上に射影され、カラーカメラのビューポー
トが得られる。同図(b)はこのようにして得られた画
像の詳細を示す図である。画像上には道路領域の境界線
4603および区分線4604が射影変換されている。
実空間上における区分線は間隔lの等間隔であったが、
画像上においては道路領域の遠方に行くに従ってその間
隔が詰まっている。この各区分線4604が位置するy
座標を求め、同図(c)に示されるy方向の領域境界点
ストラクチャ4605を作成する。
【0194】この領域境界点ストラクチャ4605の各
枠は、道路領域の境界線4603のうちの左端の境界線
と区分線4604との交点に位置する各境界点に対応し
ている。各枠は、図示の矢印に示されるポインタによっ
て相互の連結関係が表現されている。これらの各枠内に
は各境界点の特徴が、同図(d)に示されるリスト46
06として記述されている。まず、求めたy座標の各値
がリスト4606に記述され、y方向のリストが作成さ
れる。このリスト4606には、上記のy座標の他に各
境界点が有する後述する各特徴が記述される。
【0195】つまり、x座標,点列開始点iD を表す属
性1,実空間における隣接点間距離を表す属性2,着目
する境界点と右隣の境界点との連結関係を表す右隣への
ポインタ,左隣の境界点との連結関係を表す左隣へのポ
インタ,y方向における画面手前の境界点との連結関係
を表す手前へのポインタおよび画面後方の次の境界点と
の連結関係を表す次ヘのポインタが記述される。
【0196】次にステップ4502の処理について、第
47図を参照して説明する。同図(a)に示される画像
4701は撮像された画像についてラベリング処理が実
行された画像である。このラベリング処理により、道路
領域を構成する各領域のそれぞれにはラベル値が付けら
れる。各区分線と領域の境界との交点のうち、〇印が付
された交点は、ラベル値が変化するラベル変位箇所であ
る。まず、ステップ4501の処理で求めたリストの各
y座標位置において水平方向、つまり、x方向に画像を
走査する。この走査において、ラベル値が0である背景
領域からラベル値が0ではない道路領域に移動した場
合、または、ラベル値が0ではない道路領域からラベル
値が0である背景領域に移動した場合、新しい領域境界
点ストラクチャを作成する。
【0197】この領域境界点ストラクチャは同図(b)
に示される。図示のように、各領域の境界と区分線との
交点に位置する各境界点に対応して、新たにx方向に枠
が設けられる。この新たな各枠は、既に前述のステップ
で作成されたy方向の領域境界点ストラクチャの各枠と
連結される。この連結関係は図示の矢印に表されるポイ
ンタにより表現され、このポインタにより各枠は水平方
向にリンクされている。
【0198】次に、ステップ4503の処理について、
第48図を参照して説明する。ステップ4502の処理
で作成された領域境界点ストラクチャの水平方向の各点
の組が同一領域に存在するか否かを判断する。同一領域
であるか否かの判断は、前述の「複数の領域の併合手
法」において求めた特徴量リストに基づいて行われる。
隣接する各点が同一領域に存在する場合、左側に位置す
る境界点は左エッジ、右側に位置する境界点は右エッジ
とし、この属性を各リストに記述する。この属性によ
り、領域の左右端を区別することが出来る。また、この
左エッジから右エッジまでの実空間における距離を演算
し、同様に各リストに記述する。この距離演算には、前
述の射影変換と逆の処理である逆射影変換処理を実行
し、画像から現実の道路領域を求める必要がある。
【0199】第48図(a)に示される画像について、
エッジの識別方法を具体的に説明する。道路領域480
1は3つの領域A,B,Cが併合されて表現されてい
る。ここで、前述の特徴量リストの接続ラベルは同図
(b)のように示されている。つまり、領域Aの接続ラ
ベル欄には領域Cが記述されており、領域Bの接続ラベ
ル欄には何も記述されておらず、領域Cの接続ラベル欄
には領域Aが記述されている。このため、領域Aと領域
Cとは併合すべき同一領域であることが判別され、ま
た、領域Bは領域Aと領域Bとで形成される領域とは異
なる領域であることが判別する。
【0200】従って、各境界点を区分線4802に沿っ
て水平方向に画像走査した場合、○印の付された境界点
a,b,c,dがラベル変位箇所として求まる。従っ
て、境界点aと境界点bとは同一領域上の点として存在
しており、境界点aは左エッジ,境界点bは右エッジと
いう属性が付与され、領域境界点ストラクチャのリスト
に記述される。また、境界点cと境界点dはそのラベル
値が同じであるために同一領域に存在しており、境界点
cは左エッジ,境界点dは右エッジという属性が付与さ
れ、領域境界点ストラクチャのリストに記述される。
【0201】次に、ステップ4504の処理について、
第49図および第50図を参照して説明する。第49図
(a)に示される画像において、左側の境界線と各区分
線との交点に位置する各境界点をai ,ai+1 、右側の
境界線と各区分線との交点に位置する各境界点をbi ,
bi+1 とする。ここで、領域境界点ストラクチャのy方
向でi番目とi+1番目の各境界点が同一領域に存在す
るか否かを判断し、同一領域ならば前後のリンクを行
う。つまり、境界点ai とai+1 とが同一領域に有るか
否か、また、境界点bi とbi+1 とが同一領域に有るか
否かを判断する。図示の場合には、各境界点は同一領域
に有るため、同図(b)に示される領域境界点ストラク
チャにおいて、太い線で示されるポインタにより画面の
前後に位置する各境界点がリンクされる。
【0202】また、左エッジと右エッジとの間に存在す
る内部点が有るならば、第50図に示されるように、領
域の境界を追跡する。同図(a)は、処理の対象とする
道路領域5001の中央部に車線区分線である白線50
02が描かれている画像である。この白線5002のラ
ベル値は0である。ここで、各区分線に沿って水平方向
に画像を走査すると、白線5002部において、同図
(b)に示される内部点E1i,E1i+1,E2i,E2i+1が
得られる。従って、領域の境界を追跡して各内部点の関
係を探査する。内部点E1iから白線5002の境界線に
沿ってこの境界を追跡すると内部点E1i+1に達する。ま
た、内部点E2iから境界を追跡すると内部点E2i+1 に
達する。このように隣接する内部点E1i,E2iが、より
上に位置する区分線上の次の内部点E1i+1,E2i+1に連
続している時、左側に位置する内部点E1iを内部点左エ
ッジ,右側に位置する内部点E2iを内部点右エッジとい
う属性を付ける。
【0203】また、境界を追跡して内部点がより上の区
分線上の内部点に連続せずに隣接する内部点に達する時
は、隣接する各内部点に穴という属性を付与する。つま
り、内部点E1i+1から境界を追跡すると、隣接する内部
点E2i+1に達する。この場合、各内部点E1i+1,E2i+1
に穴という属性を付与する。以上の処理をリストの各y
座標に沿ってこのy座標が地平線位置5003に達する
まで行う。また、この際、内部点左エッジから内部点右
エッジまでの実空間上における距離Lを演算する。この
演算は、実空間上における右エッジ点のx座標値から実
空間上における左エッジ点のx座標値を引き算すること
により求まる。
【0204】次に、ステップ4505の処理について、
第51図を参照して説明する。以上の各ステップの処理
による属性の付与の方法では、道路がY字状に分岐した
り、道路が合流する場合には正しい属性が付与されな
い。つまり、各境界点の前後方向の関連付けが正しく行
われない場合がある。このため、このような場合に本ス
テップにおいて、境界を追跡して境界の評価を修正す
る。
【0205】例えば、ここまでの各ステップの処理によ
り、第51図(a)に示される画像が得られたとする。
この画像における道路領域5101はY字状に分岐して
おり、本道5102と分岐路5103とに分かれてい
る。画面の下側から上側に向かって各区分線(i,i+
1,i+2,…)は画像走査され、また、各区分線にお
いて画面左側から右側ヘ画像走査される。この走査によ
り、左端の境界線と各区分線との交点に位置する境界点
にはaという符号が付けられ、左端の境界線からーつ右
に位置する境界線と区分線との交点に位置する境界点に
はbという符号が付けられ、左端の境界線から二つ右に
位置する境界線と区分線との交点に位置する境界点には
cという符号が付けられる。この結果、同図(b)に示
される領域境界点ストラクチャが得られる。
【0206】この領域境界点ストラクチャによる各境界
点の関連付けは図から理解されるように現実の道路の境
界に合致しておらず、各境界点には正しい属性が付与さ
れていない。このため、内部点から領域の境界を追跡
し、次の点が左または右の領域端に存在する境界点であ
れば、この内部点と次の点とは連結しているものと判断
し、これら各点のリンクの付け替えを行う。同図の場合
にあっては、内部点ci+4 から領域の境界を追跡する。
追跡すると次の点はai+5 であり、この点は左の領域端
であるため、リンクの付け替えを行う。つまり、ai+5
以降の各境界点に付けられた属性を内部点ci+4 と同じ
cの属性とする。このリンクの付け替え処理により、同
図(c)に示される領域境界点ストラクチャが得られ
る。このストラクチャは現実の道路の境界に合致したも
のとなっている。
【0207】同図(d)および(e)は、このリンクの
付け替え処理の前および後の領域境界の状態をベクトル
表現によって示した図である。つまり、同図(d)はリ
ンクの付け替え前のベクトル状態であり、同図(b)の
領域境界点ストラクチャに基づいて各境界線の連結関係
をベクトルにより表現したものである。属性aが付けら
れたベクトルおよび属性cが付けられたベクトルは現実
の道路の境界に対応したものとなっていない。同図
(e)はリンクの付け替え処理を実行した後のベクトル
状態であり、同図(c)の修正された領域境界点ストラ
クチャに基づいて各境界線の連結関係をベクトルにより
表現したものである。属性aが付けられたベクトルの終
端部分は上述のように修正され、属性cに付け替えられ
ている。このため、各べク卜ルa,b,cによって表現
される道路領域の境界は現実のものに即した形状になっ
ている。
【0208】同図(f)および(g)は、道路が合流す
る場合の領域境界の状態を上記と同様にしてベクトルに
より表現した図である。同図(f)はリンクの付け替え
前の領域境界をベクトルによって表現したものである。
属性dが付けられたベクトルは、属性eおよびfが付け
られたベクトルが形成する合流路の入り口を塞いでい
る。同図(g)は、前述と同様なリンクの付け替え処理
後の領域境界をベクトルによって表現したものである。
属性dが付けられたベクトルの始端部分はリンクの付け
替え処理により、属性fに修正され、領域境界は現実の
合流路に合致したものとなっている。
【0209】次に、ステップ4506の処理について、
第52図を参照して説明する。例えば、同図(a)に示
される道路画像を想定する。この道路画像には道路領域
5201があり、道路領域5201の左側には白線52
02で区切られた路肩5203がある。この道路画像の
各領域の境界線と区分線との交点には境界点が付けら
れ、同図(b)に示される道路端および路肩端の点列が
得られる。なお、画像の縁に掛かる点は点列から除いて
ある。以上の各ステップの操作により得られたy方向の
各領域境界点ストラクチャのリンクを画像下部に相当す
るところから上部へ辿る。そして、領域境界点ストラク
チャのリンクが所定個数以上ある場合には、この領域境
界点ストラクチャのリンクの画像下部に相当するところ
に点列の開始点という属性を付ける。図示の点列の開始
点は△印で示されている。
【0210】開始点という属性が付いているストラクチ
ャのうち、領域境界の左エッジから右エッジまでの実空
間における距離が走行車の車幅以上のストラクチャの組
を道路端とする。同図(b)の場合には、点列5204
および点列5205に相当するストラクチャの組が道路
端となる。また、道路端の隣にストラクチャの組があ
り、このストラクチャ群と道路端との間の距離が道路端
を表すストラクチャ群の幅より狭く、かつ、ストラクチ
ャ群と他方の道路端との間の距離が車幅より広く、しか
も、ストラクチャ群の相互の実距離が20cm前後で連
続する場合には、このストラクチャ群は白線を形成する
ものとする。そして、ストラクチャ群と一方の道路端と
に挾まれたところは白線で区分された路肩とみなす。
【0211】同図(b)の点列においては、点列520
6および点列5207に相当するストラクチャの組によ
り白線が形成され、この白線と道路端5204との間が
路肩とみなされる。
【0212】ところで、前述した「走行可能範囲を求め
る手段」は領域を主体として走行コースを認識するもの
であり、画像処理の結果得られる道路領域が1つの領域
となることが前提である。同手段によれば、単調路や分
岐路の道路端を識別することは可能である。しかし、白
線によって分断された領域、特に、道路と路肩とに分断
された場合には、それらを区別して取り扱うことは困難
である。これは、同手段が領域の内部からウインドウを
走査して領域境界を探査するため、同時に道路端と路肩
端とを識別できないからである。
【0213】しかし、以上のように、ラベル画像を画像
の下部から上部まで水平に走査し、局所的な領域の境界
追跡を行って各領域のラベル値の変位箇所を求めること
により、領域の境界を知ることが出来る。これと共に、
領域間の関係をストラクチャにおいて更新し、領域の境
界点を構造化することにより、道路領域は計算機内部に
構造化して表現される。従って、この「多様な形状の走
行コースの内部表現手法」によれば、路肩や走行車線等
の複数の領域の境界端座標が得られ、領域境界を容易に
検出することが出来、「走行可能範囲を求める手段」の
ように対象とする領域が単一領域に限定されない。さら
に、上記の白線によって分断された路肩等をも識別する
ことが出来る。
【0214】また、従来の領域境界手法に較べてメモり
容量は少なくて済み、自律走行車が自動走行するのに十
分な走行コースの走行可能範囲を、遂次的な境界探査や
多角形近似を行って評価するといった処理をすることな
く得ることが出来る。さらに、走行コースが単調路で無
く、道路が分岐していたり、合流していたりする場合に
おいても、これら分岐路や合流路の形状を統一的に表現
することができ、走行コースの境界を正確に識別するこ
とが可能である。
【0215】以上説明したように「多様な形状の走行コ
ースの内部表現手法」によれば、リストに記述された属
性により、各領域の境界点の連結関係が構造化されたス
トラクチャにおいて表現され、このストラクチャから対
象領域の境界が識別される。このため、従来のように求
まる点列群の数が多いため、対象領域の境界を多角形で
近似し、余分な点を間引く処理が無くなる。また、従来
のように各領域の全ての境界画素を遂次的に一つ一つ追
跡する必要は無くなり、所定の境界画素のみについて処
理することにより、対象領域が識別される。従って、処
理時間は短縮され、自律走行車の自動走行に適した領域
識別方法が提供される。
【0216】
【発明の効果】以上説明したように、本発明によれば、
カラー画像から道路画像領域を安価、高速かつ正確に抽
出することができるようになる。
【図面の簡単な説明】
【図1】 本発明の一実施例によるカラー画像処理装置
全体の概略構成を示すブロック図である。
【図2】 本実施例の概略処理の流れを示すフローチャ
ートである。
【図3】 「ROMテーブルを用いたカラー画像のIS
H変換処理」におけるISH変換処理のアルゴリズムを
示すブロック図である。
【図4】 ISH変換処理の処理例を従来の処理例と比
較して説明するための図である。
【図5】 ISH変換処理の処理例を従来の処理例と比
較して説明するための図である。
【図6】 ISH変換処理の処理例を従来の処理例と比
較して説明するための図である。
【図7】 ISH変換処理の処理例を従来の処理例と比
較して説明するための図である。
【図8】 「繰返しきい値処理における特徴量ヒストグ
ラムの形状に基づくしきい値設定手段」におけるカラー
画像の前処理の概略を示すフローチャートである。
【図9】 この前処理におけるピーク・谷の状態を説明
するための図である。
【図10】 この前処理におけるテーブル値の推移を説
明するための図である。
【図11】 走行路の認識処理の概要を示すフローチャ
ートである。
【図12】 「テンプレート画像を用いた繰返しきい値
処理による走行コースの抽出手段」における走行路抽出
の処理の詳細を示すフローチャートである。
【図13】 この道路候補領域の抽出処理における各過
程を説明するための図である。
【図14】 「明るさの違いに注目した走行コースから
の影や高輝度部分の抽出手段」における種々の入力画像
に対する処理の概要を説明するための図である。
【図15】 この手段における影や高輝度部分の説明を
するための明度ヒストグラムの一例を示すグラフであ
る。
【図16】 「ラベリング処理装置」のラベリングボー
ド構成図である。
【図17】 ラベリング処理のゼネラルフローチャート
である。
【図18】 多値入力ラベリング方式を説明するための
図である。
【図19】 ランを用いたラベリング方式を説明するた
めの図である。
【図20】 ラベリング処理の画像走査で使用されるウ
ィンドウを示す図である。
【図21】 ラベリングプロセッサKLPの構成図であ
る。
【図22】 ラベリング処理の画像走査で行われるウィ
ンドウ処理を示すフローチャートである。
【図23】 ラベリング処理の画像走査で行われるウィ
ンドウ処理を示すフローチャートである。
【図24】 ラベリング処理の画像走査で行われるウィ
ンドウ処理を示すフローチャートである。
【図25】 ラベリング処理の画像走査で行われるウィ
ンドウ処理を示すフローチャートである。
【図26】 ラベリング処理の画像走査で行われるウィ
ンドウ処理を示すフローチャートである。
【図27】 ラベリング処理の画像走査で行われるウィ
ンドウ処理を示すフローチャートである。
【図28】 ラベリングメモリKLMの構成図である。
【図29】 最終的に付与されるラベル値を整合する処
理を説明するための図である。
【図30】 特徴抽出プロセッサKLCの構成図であ
る。
【図31】 1スキャンラベリング方式を説明するため
の図である。
【図32】 「複数の領域の併合手段」においてラベル
領域を探査するために使用される逆L字マスクを示す図
である。
【図33】 第32図に示された逆L字マスクを用いた
領域境界探査を説明する際に使用される分割領域の一例
を示す図である。
【図34】 逆L字マスク走査式手法により求まったラ
ベル領域間境界長および領域の周囲長が記憶されるラベ
ル間境界長マトリスクを示す図である。
【図35】 各領域間の接続関係および各ラベル領域の
有する特徴量が記述される特徴量リストを示す図であ
る。
【図36】 第35図に示された特徴量リストに記述さ
れた各特徴量を有するラベル領域の一例である。
【図37】 境界探査式手法において着目される画素画
の近傍に付される参照画素位置No.を示す図である。
【図38】 境界探査式手法において使用される画素参
照テーブルを示す図である。
【図39】 第38図に示された画素参照テーブル使用
方法を説明する際に用いられる画素領域の一例を示す図
である。
【図40】 「走行可能範囲を求める手段」における走
行コース認識システムの処理の流れを示すフローチャー
トである。
【図41】 この手段の説明において使用される取り込
み画像でのウィンドウの移動を示す図である。
【図42】 対象領域におけるウィンドウおよびヒスト
グラムの値を説明するための図である。
【図43】 曲率のきついカーブで走行車が道路端に近
付き過ぎた場合に生じる道路端の識別の逆転を説明する
ための図である。
【図44】 第43図に示された道路端の認識の逆転を
防止するために求めた点列群の関係をマハラノビスの汎
距離を用いて補正する手法を説明するための図である。
【図45】 「多様な形状の走行コースの内部表現手
法」における道路領域の構造化処理の概略を示すフロー
チャートである。
【図46】 y方向リストと領域境界点ストラクチャと
を説明するための図である。
【図47】 ラベル変位箇所と領域境界点ストラクチャ
とを説明するための図である。
【図48】 領域境界の属性を説明するための図であ
る。
【図49】 領域境界点の前後方向のリンク処理を説明
するための図である。
【図50】 内部点エッジおよび穴という属性を説明す
るための図である。
【図51】 一旦付与された属性の付け替え処理を説明
するための図である。
【図52】 道路端および路肩端の検出を説明するため
の図である。 101・・・ カラーカメラ、102・・・ ISH変換部、1
03・・・ カラー処理部、104・・・ ラベリングハード、
105・・・ CPU処理部。
───────────────────────────────────────────────────── フロントページの続き (72)発明者 菅原 卓 埼玉県和光市中央一丁目4番1号 株式 会社 本田技術研究所内 審査官 脇岡 剛 (56)参考文献 特開 昭62−266018(JP,A) (58)調査した分野(Int.Cl.7,DB名) G06T 7/00 G08G 1/00 - 9/02 B60R 21/00

Claims (2)

    (57)【特許請求の範囲】
  1. 【請求項1】 撮像された原画像データが記憶される原
    画像メモリと、該原画像データに含まれるRGBデータ
    のうちのRデータを記憶するR画像メモリと、前記RG
    BデータのうちのGデータを記憶するG画像メモリと、
    前記RGBデータのうちのBデータを記憶するB画像メ
    モリと、 前記R画像メモリ,前記G画像メモリおよび前記B画像
    メモリに記憶されたRGBデータを下位ビットを切り捨
    てて読み出し、該読み出されたRGBデータから変換さ
    れた明度画像データが記憶される第1の記憶素子と、該
    読み出されたRGBデータから変換された彩度画像デー
    タが記憶される第2の記憶素子と、前記明度画像データおよび彩度画像データのそれぞれ
    を、走行路領域と背景領域とに区分するしきい値により
    2値化する2値化手段と、 該2値化手段により得られた前記明度画像または彩度画
    像に係るデータと、安定した走行路情報が得られるよう
    に設定されたテンプレート領域との論理積により道路画
    像領域を判別する道路画像領域判別手段 とを備えたこと
    を特徴とする車両自律走行の走行路画像処理装置。
  2. 【請求項2】 請求項1に記載の車両自律走行の走行路
    画像処理装置において、 前記道路画像領域判別手段により得られた明度画像およ
    び彩度画像に係る道路画像データの論理積を取り、走行
    路領域情報を得るようにしたことを特徴とする車両自律
    走行の走行路画像処理装置。
JP14295999A 1999-05-24 1999-05-24 車両自律走行の走行路画像処理装置 Expired - Fee Related JP3333468B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP14295999A JP3333468B2 (ja) 1999-05-24 1999-05-24 車両自律走行の走行路画像処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP14295999A JP3333468B2 (ja) 1999-05-24 1999-05-24 車両自律走行の走行路画像処理装置

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2112986A Division JP2963138B2 (ja) 1990-04-27 1990-04-27 カラー画像処理装置

Publications (2)

Publication Number Publication Date
JP2000030058A JP2000030058A (ja) 2000-01-28
JP3333468B2 true JP3333468B2 (ja) 2002-10-15

Family

ID=15327649

Family Applications (1)

Application Number Title Priority Date Filing Date
JP14295999A Expired - Fee Related JP3333468B2 (ja) 1999-05-24 1999-05-24 車両自律走行の走行路画像処理装置

Country Status (1)

Country Link
JP (1) JP3333468B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006129492A1 (ja) * 2005-06-03 2006-12-07 Honda Motor Co., Ltd. 車両及び路面標示認識装置
WO2006129493A1 (ja) * 2005-06-03 2006-12-07 Honda Motor Co., Ltd. 車両及び路面標示認識装置

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4327389B2 (ja) * 2001-10-17 2009-09-09 株式会社日立製作所 走行レーン認識装置
JP4185077B2 (ja) 2005-07-15 2008-11-19 本田技研工業株式会社 車両、画像処理システム、画像処理方法、及び画像処理プログラム
JP5312807B2 (ja) * 2008-01-08 2013-10-09 オリンパス株式会社 画像処理装置および画像処理プログラム
JP6440278B2 (ja) * 2015-06-16 2018-12-19 株式会社日立国際電気 撮像装置及び画像処理方法
CN117085969B (zh) * 2023-10-11 2024-02-13 中国移动紫金(江苏)创新研究院有限公司 人工智能工业视觉检测方法、装置、设备及存储介质

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006129492A1 (ja) * 2005-06-03 2006-12-07 Honda Motor Co., Ltd. 車両及び路面標示認識装置
WO2006129493A1 (ja) * 2005-06-03 2006-12-07 Honda Motor Co., Ltd. 車両及び路面標示認識装置

Also Published As

Publication number Publication date
JP2000030058A (ja) 2000-01-28

Similar Documents

Publication Publication Date Title
CN110678901B (zh) 信息处理设备、信息处理方法和计算机可读存储介质
CN107045629B (zh) 一种多车道线检测方法
Cucchiara et al. Vehicle Detection under Day and Night Illumination.
Mu et al. Lane detection based on object segmentation and piecewise fitting
Chen et al. Nighttime vehicle detection for driver assistance and autonomous vehicles
CN104036262B (zh) 一种lpr车牌筛选识别的方法和系统
CN108021856B (zh) 车辆尾灯识别方法、装置及车辆
CN110287779A (zh) 车道线的检测方法、装置及设备
CN112801022A (zh) 一种无人驾驶矿卡作业区道路边界快速检测更新的方法
CN111832536A (zh) 一种车道线检测方法及装置
Joshi et al. Moving shadow detection with low-and mid-level reasoning
JP2015090591A (ja) 路面オルソ画像の生成装置および生成方法
Schiopu et al. Pothole detection and tracking in car video sequence
CN108765456B (zh) 基于直线边缘特征的目标跟踪方法、系统
JP3333468B2 (ja) 車両自律走行の走行路画像処理装置
JP3232064B2 (ja) カラー画像における対象領域抽出方法
US6963664B2 (en) Segmentation of digital images
Tung et al. Binarization of uneven-lighting image by maximizing boundary connectivity
JP3232065B2 (ja) カラー画像における複数領域の併合方法
JP3243230B2 (ja) カラー画像における対象領域の境界識別方法
JP2963138B2 (ja) カラー画像処理装置
JP3421274B2 (ja) カラー画像におけるラベリング処理装置
JP7264428B2 (ja) 道路標識認識装置及びそのプログラム
Hommos et al. Hd Qatari ANPR system
JP2915067B2 (ja) 画像処理における対象領域識別方法

Legal Events

Date Code Title Description
LAPS Cancellation because of no payment of annual fees