JPH1141521A - 撮像装置および車間距離計測装置ならびに車間距離計測方法 - Google Patents

撮像装置および車間距離計測装置ならびに車間距離計測方法

Info

Publication number
JPH1141521A
JPH1141521A JP10138951A JP13895198A JPH1141521A JP H1141521 A JPH1141521 A JP H1141521A JP 10138951 A JP10138951 A JP 10138951A JP 13895198 A JP13895198 A JP 13895198A JP H1141521 A JPH1141521 A JP H1141521A
Authority
JP
Japan
Prior art keywords
vehicle
image
wide
telephoto
angle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP10138951A
Other languages
English (en)
Inventor
Nobuhiko Yasui
伸彦 安井
Noboru Nomura
登 野村
Atsushi Iizaka
篤 飯阪
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Holdings Corp
Original Assignee
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Industrial Co Ltd filed Critical Matsushita Electric Industrial Co Ltd
Priority to JP10138951A priority Critical patent/JPH1141521A/ja
Publication of JPH1141521A publication Critical patent/JPH1141521A/ja
Withdrawn legal-status Critical Current

Links

Abstract

(57)【要約】 【課題】 測距装置や道路上障害物検知装置に用いる光
学系で、小型、高精度、かつメンテナンスの容易な撮像
装置、および撮像装置を用いて車間距離を測定する装置
および方法を提供する。 【解決手段】 同一光軸上に配置された、レンズ、ハー
フミラーおよび第1のCCDと、該ハーフミラーからの
反射光の光軸上に配置された第2のCCDとを有する撮
像装置であって、該第1および第2のCCDのうちの一
方は、該レンズから入力した像の正像を出力し、他方の
CCDは逆像を出力する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、複数のCCDで対
象物を撮像して道路上の障害物などを検知する道路状況
を把握するための撮像装置や、対象物までの距離を算出
する車間距離計測装置およびに車間距離計測方法に関す
るものである。
【0002】
【従来の技術】今世紀の終盤から21世紀初頭にかけ
て、自動車の安全性への関心が高まり、前方車両までの
距離を算出して、走行安全距離を保ちながら走行する要
求や、道路上の障害物などを事前に察知して、回避行動
を促す装置への要求が高まり、自動車内から道路を撮像
装置で観察することが始まっている。従来の測距装置と
しては、例えば特開平8−75454号公報、図12に
示す構成のものがある。
【0003】図12を参照しながら、上記した従来の測
距装置の一例について説明する。図12に示した従来の
測距装置は、撮像装置102、103、104、ハーフ
ミラー105、106、および画像処理装置107で構
成されている。
【0004】以上のように構成された従来例の測距装置
について、以下その動作について説明する。従来の測距
装置は、複数の撮像装置102、103、104を用い
て、かつ、隣り合う撮像装置の水平方向または垂直方向
の視差が数画素になるように対象物101を撮像し、撮
像した複数の映像信号を同時に取り込み、前記複数の映
像信号の水平方向または垂直方向の同一ラインの映像信
号を合成して、視差検出用画像を画像処理装置107で
作成する。この視差検出用画像を用いて、前記対象物1
01のエッジ部分に対応する点で形成された直線の傾き
から視差を求め、視差に基づいて対象物までの距離を算
出する。
【0005】
【発明が解決しようとする課題】しかしながら上記のよ
うな構成では、以下に述べる問題点を有していた。たと
えば、従来例の測距装置では、複数の撮像手段で構成さ
れているために、自動車の狭い室内に収容するには容易
でなく、光学系が2重に必要で費用がかさむこと、10
0m程度遠方の対象物では1画素の分解能が50cm程
度になり、十分な測距性能が得られないこと、また、複
数の光学系を精度よく位置合わせする必要があり、調整
が困難でメンテナンス費用がかさむなどの課題があっ
た。
【0006】本発明は上記問題点を解決するためになさ
れたものであり、測距装置や道路上障害物検知装置に用
いる光学系で、小型、高精度、かつメンテナンスの容易
な撮像装置を提供すること、および撮像装置を用いて車
間距離を測定する装置および方法を提供することを目的
とする。
【0007】
【課題を解決するための手段】本発明の撮像装置は、同
一光軸上に配置された、レンズ、ハーフミラーおよび第
1のCCDと、該ハーフミラーからの反射光の光軸上に
配置された第2のCCDと、を有し、該第1および第2
のCCDのうちの一方は、該レンズから入力した像の正
像を出力し、他方のCCDは逆像を出力し、そのことに
よって上記目的が達成される。
【0008】前記レンズから前記第1および第2のCC
Dの少なくとも一方に至る光路中に、波長選択光学素子
をさらに有していもよい。
【0009】前記波長選択光学素子は赤外線フィルタで
あってもよい。
【0010】前記ハーフミラーは、赤外線を選択的に反
射する前記波長選択光学素子としても機能する構成とし
てもよい。
【0011】前記ハーフミラーは、赤外線を選択的に透
過する前記波長選択光学素子としても機能する構成とし
てもよい。
【0012】前記レンズから前記第1および第2のCC
Dの少なくとも一方に至る光路中に、拡大レンズをさら
に有する構成としてもよい。
【0013】前記正像と前記逆像との相関を検出する回
路をさらに有する構成としてもよい。
【0014】本発明の車間距離計測装置は、車両前方道
路の可視および赤外線画像を撮像する可視および赤外線
画像撮像手段と、該可視および赤外線画像撮像手段から
得られた可視および赤外線画像を使用して走行している
車線を検出する可視および赤外線画像車線検出手段と、
該可視および赤外線画像車線検出手段で検出した自車線
を使用して、該可視および赤外線画像車線検出手段から
得られた該画像内の自車線の領域を限定する可視および
赤外線画像限定手段と、該可視および赤外線画像限定手
段で限定した該領域内で該画像をその底部から順に走査
しながら車両特徴を検出する車両特徴検出手段と、該車
両特徴検出手段で検出した該車両特徴のうち該画像の最
も底部に近いものを抽出し前方車両までの車間距離を算
出する車間距離算出手段とを有し、そのことによって上
記目的が達成される。
【0015】本発明の他の車間距離計測装置は、車両前
方道路の望遠および広角画像を撮像する望遠および広角
画像撮像手段と、該望遠および広角画像撮像手段からの
望遠および広角画像を使用して走行している車線を検出
する望遠および広角画像車線検出手段と、該望遠および
広角画像車線検出手段で検出した自車線を使用して該望
遠および広角画像車線検出手段から得られた該画像内の
自車線の領域を限定する望遠および広角画像限定手段
と、該望遠および広角画像限定手段で限定した該領域内
で該画像の底部から車両特徴を検出する望遠および広角
車両特徴検出手段と、該望遠および広角車両特徴検出手
段で検出した該車両特徴のうち該画像の最も底部に近い
ものを抽出し前方車両までの車間距離を算出する望遠お
よび広角車間距離算出手段とを有し、そのことによって
上記目的が達成される。
【0016】前記望遠および広角画像車線検出手段にお
いて、前記望遠および広角画像撮像手段から得られる振
動量を計測し、振動の影響を補正する構成としてもよ
い。
【0017】本発明の他の車間距離計測装置は、車両前
方道路の望遠および広角画像を撮像する望遠および広角
画像撮像手段と、該望遠および広角画像撮像手段からの
望遠および広角画像を使用して走行している車線を検出
する望遠および広角画像車線検出手段と、該望遠および
広角画像車線検出手段で検出した自車線を使用して前方
車両までの車間距離を算出する望遠および広角車間距離
算出手段とを有し、そのことによって上記目的が達成さ
れる。
【0018】前記望遠および広角画像車線検出手段は、
前記望遠および広角画像撮像手段から得られる振動量を
計測し、振動の影響を補正する構成としてもよい。
【0019】本発明の他の車間距離計測装置は、車両前
方道路の望遠および広角画像を撮像する望遠および広角
画像撮像手段と、該望遠および広角画像撮像手段からの
望遠および広角画像を使用して走行している車線を検出
する望遠および広角画像車線検出手段と、該望遠および
広角画像車線検出手段で検出した自車線を使用して該望
遠および広角画像車線検出手段から得られた車両前方画
像内の自車線の領域を限定する望遠および広角画像限定
手段と、該望遠および広角画像限定手段で限定した該領
域内で画像底部から車両特徴を検出する望遠および広角
車両特徴検出手段と、該望遠車両特徴検出手段で検出し
た該車両特徴のうち該画像の最も底部に近いものを抽出
し追跡する望遠車両追跡手段と、該広角車両特徴検出手
段で検出した車両のうち該望遠車両追跡手段で追跡する
車両と同一の車両であることを判別する車両判別手段
と、該車両判別手段で判断した車両が該望遠車両追跡手
段において該画像の底部から該画像外に出たときに該車
両判別手段からの該車両特徴を使用して前方車両までの
車間距離を算出する広角車間距離算出手段とを有し、そ
のことによって上記目的が達成される。
【0020】本発明の車間距離計測方法は、車両前方道
路の可視および赤外線画像を撮像する工程と、該可視お
よび赤外線画像撮像工程で得られた該可視および赤外線
画像を使用して、自車線を検出する工程と、該自車線検
出工程で該得られた該自車線を使用して、該可視および
赤外線画像車線検出工程で得られた該画像内の該自車線
の領域を限定する工程と、該限定された領域内で該画像
をその底部から順に走査しながら車両特徴を検出する工
程と、該車両特徴検出工程で該検出された該車両特徴の
うち該画像の最も底部に近いものを抽出し前方車両まで
の車間距離を算出する工程とを包含し、そのことによっ
て上記目的が達成される。
【0021】本発明の他の車間距離計測方法は、車両前
方道路の望遠および広角画像を撮像する工程と、該望遠
および広角画像撮像工程で得られた望遠および広角画像
を使用して自車線を検出する工程と、該検出された自車
線を使用して該望遠および広角画像車線検出工程で得ら
れた該画像内の自車線の領域を限定する工程と、該望遠
および広角画像限定工程で限定した該領域内で該画像の
底部から車両特徴を検出する工程と、該望遠および広角
車両特徴検出工程で検出した該車両特徴のうち該画像の
最も底部に近いものを抽出し前方車両までの車間距離を
算出する工程とを包含し、そのことによって上記目的が
達成される。
【0022】前記望遠および広角画像車線検出工程は、
前記望遠および広角画像撮像工程で得られた振動量を計
測し、振動の影響を補正する工程を包含してもよい。
【0023】本発明の他の車間距離計測方法は、車両前
方道路の望遠および広角画像を撮像する工程と、該望遠
および広角画像撮像工程で得られた望遠および広角画像
を使用して走行している車線を検出する工程と、該望遠
および広角画像車線検出工程で検出した自車線を使用し
て前方車両までの車間距離を算出する工程とを包含し、
そのことによって上記目的が達成される。
【0024】前記望遠および広角画像車線検出工程は、
前記望遠および広角画像撮像工程で得られた振動量を計
測し、振動の影響を補正する工程を包含してもよい。
【0025】本発明の他の車間距離計測方法は、車両前
方道路の望遠および広角画像を撮像する工程と、該望遠
および広角画像撮像工程で得られた望遠および広角画像
を使用して走行している車線を検出する工程と、該望遠
および広角画像車線検出工程で検出された自車線を使用
して該望遠および広角画像車線検出工程で得られた車両
前方画像内の自車線の領域を限定する工程と、該望遠お
よび広角画像限定手段で限定された該領域内で該画像の
底部から車両特徴を検出する工程と、該遠車両特徴検出
工程で検出された該車両特徴のうち該画像の最も底部に
近いものを抽出し追跡する工程と、該広角車両特徴検出
工程で検出した車両のうち該望遠車両追跡工程で追跡す
る車両と同一の車両であることを判別する工程と、該車
両判別工程で判断した車両が該望遠車両追跡工程におい
て該画像の底部から該画像外に出たときに該車両判別工
程で得られた該車両特徴を使用して前方車両までの車間
距離を算出する工程とを包含し、そのことによって上記
目的が達成される。
【0026】
【発明の実施の形態】本発明は、アダプティブクルーズ
コントロール等に用いられている走行中の前方車との間
の車間距離を測定する際に、1つの光軸上に並んで配置
された2つのCCDで撮像した画像を重ね合わせて比較
することによってより高精度に道路上にある白線や障害
物、また、前方車との間の車間距離を計測することとな
る。
【0027】また、受光レンズから2つのCCDの少な
くとも一方に至る光路中に赤外線フィルターなどの色フ
ィルター(波長選択光学素子)を配置し、2つのCCD
で撮像した画像を重ね合わせて比較することによって、
道路上にある前方車や障害物の特徴を抽出し、その結
果、前方車との間の車間距離をより高精度に計測するこ
ととなる。
【0028】また、2つのCCDに対して望遠と広角の
レンズ光学系を配置し、1つの光軸上に並んで配置され
た2つのCCDで撮像した望遠と広角の画像を重ね合わ
せて比較することによって、広角の画像の一部が拡大さ
れたことになり、道路上にある前方車や障害物の特徴を
抽出し、その結果、前方車との間の車間距離をより高精
度に計測することとなる。
【0029】また、2つのCCDに対して望遠と広角の
光学系を配置し、1つの光軸上に並んで配置された2つ
のCCDで撮像した望遠と広角の画像を重ね合わせて比
較することによって、広角の画像の一部が拡大されたこ
とになり、望遠の画像に流出入する物体を、広角の画像
で移動する物体と比較することによって、道路上にある
前方車や障害物を抽出することが出来、その結果、前方
車をより高精度に計測することとなる。
【0030】また、走行中の前方車との間の車間距離を
測定する2つのCCDは、1つの光軸上に並んで配置さ
れ固定されているので、自動車に設置する際には、消失
点または定められた距離の位置を、撮像した画像の予め
設定された位置に重ね合わせて車間距離測定の基準を設
定調整することとなる。
【0031】以下本発明の実施形態の撮像装置および車
間距離計測装置について、図面を参照しながら説明す
る。
【0032】(第1の実施形態)図1は本発明の実施形
態における撮像装置の光学系の模式図を示すものであ
る。この光学系は、レンズ1、ハーフミラー2、第1の
CCD3、第2のCCD4、筐体5を有する。
【0033】この撮像装置の光学系においては、同軸上
にレンズ1、ハーフミラー2、第2のCCD4が配置さ
れ、ハーフミラーから反射された光の光軸上に第1のC
CD3が配置されている。必要に応じて、ハーフミラー
2と第1のCCD3又は第2のCCD4の間に色フィル
タ6を配置してもよい。
【0034】以上のように構成された撮像装置につい
て、以下図1、図2(a)、(b)を用いてその動作を
説明する。
【0035】レンズ1に入射した光は、ハーフミラー2
で一部の光が反射され、ハーフミラー2から反射された
光軸上の第1のCCD3に鏡像を結ぶ。一方、ハーフミ
ラー2を透過した光は、第2のCCD4に正像を結ぶ。
【0036】図2(a)は、第2のCCD4で得られる
正像7を示す。画像7中の消失点8は道路の無限遠点
で、道路上に描かれた左右の白線9、9’が無限遠点で
ある消失点8で交差する。道路上に描かれた車線分離の
破線10も消失点8で交差する。
【0037】図2(b)は、第1のCCD3で得られる
正像7とは鏡像関係にある鏡像7’を示す。同様に、画
像7’中の消失点8’は道路の無限遠点で、道路上に描
かれた左右の白線9’’’、9’’が無限遠点である消
失点8’で交差する。道路上に描かれた車線分離の破線
10’も消失点8’で交差する。
【0038】図3(a)、図3(b)は、図2(a)に
おけるラスタX−Xと、図2(b)におけるラスタY−
Yの輝度信号の変化の様子を模式的に示している。図2
(a)では、第2のCCD4で得られる正像の信号X−
Xは、道路上に描かれた左の白線9、破線10、右の白
線9’が左から順番に並び、その順序で輝度が変化する
様子を示している。白線9の検知に白線の輝度立ち上が
りを用いると、白線の左端を検知する。同様に破線1
0、右の白線9’を順番に白線の左端を検知し、ラスタ
に沿って白線を連続的に検知することによって、白線左
端を用いた道路形状を認識する。
【0039】図2(b)は、第1のCCD3で得られる
逆像の信号Y−Yは、道路上に描かれた右の白線
9’’’、破線10’、左の白線9’’が左から順番に
並び、その順序で輝度が変化する様子を示している。図
3(a)と同様に白線9’’’の検知に白線の輝度立ち
上がりを用いると、鏡像を左から右方向に走査するの
で、今度は白線の右端を検知する。同様に破線10’、
左の白線9’’を順番に白線の右端を検知し、ラスタに
沿って白線を連続的に検知することによって白線右端を
用いた道路形状を認識する。
【0040】以上のように、白線左端を用いた道路形状
と白線右端を用いた道路形状が各々相関のない独立の信
号によって認識される。2つの道路形状は、基本的に白
線幅(約15cm)を隔てた分だけ平行移動した道路形
状であり、白線のぼけや欠陥などが有った場合には、独
立の信号によって認識しているので、相関を取っても相
互に干渉することなく補完する事ができ、白線の認識精
度を向上するものである。
【0041】また、画像の反対方向から同時にラスタ上
を走査するので、高速度にかつ並列に画像取り込み及び
画像処理でき、画像認識の高速化が可能となった。
【0042】また、1つの光学系で2つのCCDを持っ
ているので、小さい容積で光学系が形成でき、自動車な
どのように小型化が要求される用途に適している。
【0043】(第2の実施形態)本実施形態では、図1
の撮像装置の光学系においては、同軸上にレンズ1、ハ
ーフミラー2、第2のCCD4が配置され、さらに、ハ
ーフミラー2と第2のCCD4の間に色フィルタが配置
されている。この撮像装置について、以下図4(a)、
(b)を用いてその動作を説明する。
【0044】図4(a)は第2のCCD4で得られる正
像7は色フィルタを通過した像であるので、色フィルタ
6として赤外線フィルタを配置した場合には、路面など
赤外線を反射や発光する部分が周辺の画像から浮き出し
て見える。特に、道路は均質で温度が周辺とは異なるの
で、周辺からは浮き出すように図4(a)では斜線のな
い部分のように特徴づけられる。前述と同じように、図
2(a)におけるラスタX−Xと同じ様な信号が得ら
れ、道路上に描かれた白線の左端を検知する。同様に破
線10、右の白線9’を順番に白線の左端を検知し、ラ
スタに沿って白線を連続的に検知することによって、白
線左端を用いた道路形状を認識する。
【0045】図4(b)は、第1のCCD3で得られる
正像7とは鏡像関係にある鏡像7’を示し、これは図2
(b)と同様で、白線の右端を検知し、ラスタに沿って
白線を連続的に検知することによって白線右端を用いた
道路形状を認識する。
【0046】以上のように本第2の実施形態のよれば、
白線左端を用いた道路形状は色フィルターを通過した像
から検出するので、色フィルターを用いない白線右端を
用いた道路形状のコントラストとは異なった状態で道路
形状が検出される。また、白線左端を用いた道路形状と
白線右端を用いた道路形状が各々相関のない独立の信号
によって認識される。
【0047】2つの道路形状は、基本的に白線幅(約1
5cm)を隔てた分だけ平行移動した道路形状であり、
白線のぼけや欠陥などが有った場合には相互に相関を取
ることによって補完し、白線の認識精度を向上するもの
である。
【0048】他の構成としては、前記ハーフミラー2
が、赤外線のみを反射する色フィルターを内蔵している
場合や、前記ハーフミラー2が、赤外線のみを透過する
色フィルターを内蔵している場合についても、ハーフミ
ラー2と第2のCCD4の間に色フィルタを配置した第
2の実施形態と同様の効果を有する。
【0049】(第3の実施形態)以下本発明の第3の実
施形態について図面を参照しながら説明する。
【0050】図5は本発明の実施形態3おける撮像装置
の光学系の模式図を示すものである。この光学系は、レ
ンズ21、ハーフミラー22、第1のCCD23、第2
のCCD24、筐体25、および拡大レンズ26を有し
ている。
【0051】この撮像装置の光学系においては、同軸上
にレンズ21、ハーフミラー22、拡大レンズ26およ
び第2のCCD24が配置され、ハーフミラーから反射
された光の光軸上に第1のCCD23が配置されてい
る。
【0052】以上のように構成された撮像装置につい
て、以下図5、図6(a)、(b)を用いてその動作を
説明する。
【0053】レンズ21に入射した光は、ハーフミラー
22で一部の光が反射され、ハーフミラー22から反射
された光軸上の第1のCCD23に鏡像の広角像を結
ぶ。一方、ハーフミラー22を透過した光は、拡大レン
ズ26で拡大された正像の望遠像を第2のCCD24に
結ぶ。
【0054】図6(a)は第1のCCD23で得られる
鏡像を電気信号でもう一度反転にしたときの広角像27
を示す。広角像27中の消失点28は道路の無限遠点
で、道路上に描かれた左右の白線29、29’が無限遠
点である消失点28で交差する。道路上に描かれた車線
分離の破線30も消失点28で交差する。図6(b)は
第2のCCD24で得られる望遠像27’を示す。同様
に、画像27’中の消失点28’は道路の無限遠点で、
道路上に描かれた左右の白線29’’、29’’’が無
限遠点である消失点28’で交差する。道路上に描かれ
た車線分離の破線30’も消失点28’で交差する。同
軸光学系であるので、容易に広角像27と望遠像27’
の光軸を合わすことができ、かつ、簡単な演算で広角像
27の一部を拡大した様に望遠像27’を見なし、2つ
の像を重ね合わせることができる。
【0055】図7(a)、図7(b)は、図6(a)に
おけるラスタX−Xと、図6(b)におけるラスタY−
Yの輝度信号の変化を模式的に示している。図7(a)
では、第1のCCD23で得られる広角像の信号X−X
は、道路上に描かれた左の白線29、破線30、右の白
線29’が左から順番に並び、その順序で輝度が変化す
る様子を示している。白線29の検知に白線の輝度立ち
上がりを用いると、白線の左端を検知する。同様に破線
30、右の白線29’を順番に白線の左端を検知し、ラ
スタに沿って白線を連続的に検知することによって、白
線左端を用いた道路形状を認識する。
【0056】図7(b)では、第2のCCD24で得ら
れる望遠像の信号Y−Yは、道路上に描かれた左の白線
29’’、破線30’、右の白線29’’’が左から順
番に並び、その順序で輝度が変化する様子を示してい
る。図7(a)とは異なり、望遠像は広角像の一部を拡
大して観察しているので、白線29’’の幅及び、白線
29’’、破線30’、白線29’’’の間隔が拡大さ
れ、より詳細に望遠像中の道路上に描かれた白線を検知
することができる。そして、ラスタに沿って白線を連続
的に検知することによって道路形状を認識する。
【0057】以上のように、広角像における白線左端を
用いた道路形状と望遠像における白線左端を用いた道路
形状が認識される。2つの道路形状は、基本的に合致す
るものである。白線のぼけや欠陥などが有った場合に
は、相関を取って相互に補完する事ができ、白線の認識
精度を向上するものである。
【0058】(第4の実施形態)以下本発明の第4の発
明の実施形態について図面を参照しながら説明する。図
8は本発明の第4の実施形態における車間距離計測装置
のブロックダイアグラムを示すものである。図8におい
て、撮像装置の光学系の模式図とそれを用いた車間距離
計測装置を示すものである。車間距離計測装置は、レン
ズ21、ハーフミラー22、第1のCCD23、第2の
CCD24、筐体25、拡大レンズ26、車線検出手段
31、画像限定手段32、車両特徴検出手段33、車間
距離算出手段34を有している。
【0059】撮像装置の光学系は、同軸上にレンズ2
1、ハーフミラー22、拡大レンズ26、第2のCCD
24を配置し、ハーフミラーから反射された光軸上に第
1のCCD23を配置している。2つのCCDから出力
された望遠および広角画像信号はそれぞれ、望遠および
広角画像車線検出手段31、望遠および広角画像限定手
段32、望遠および広角車両特徴検出手段33、望遠お
よび広角車間距離算出手段34に送られて処理される。
【0060】以上のように構成された車間距離計測装置
について、以下図8及び図9を用いてその動作を説明す
る。
【0061】第4の実施形態では、第3の実施形態の撮
像装置を用いた車間距離計測装置について説明する。ま
ず、第3の実施形態と同様に、レンズ21に入射した光
は、ハーフミラー22で一部の光が反射され、ハーフミ
ラー22から反射された光軸上の第1のCCD23に鏡
像の広角像を結ぶ。一方、ハーフミラー22を透過した
光は、拡大レンズ26で拡大された正像の望遠像を第2
のCCD24に結ぶ。
【0062】第1のCCD23で得られる鏡像を電気信
号でもう一度反転したときの広角画像を望遠および広角
車線検出手段31に入力する。また第1のCCD24で
得られる望遠画像27’を同様に望遠および広角車線検
出手段31に入力する。望遠および広角車線検出手段3
1において、図9に示すように広角及び望遠画像の底部
中心から上方に向かって走査線方向に沿って左右方向に
縦方向エッジを検出する。それぞれ最初に検出したエッ
ジを道路白線の輪郭点とする。画像限定手段32におい
て、画像平面上の輪郭点を実距離の平面座標系に座標変
換する。つまり画像平面座標系(以下、これを「x−y
平面座標系」という)の輪郭点を、図10のX−Y−Z
立体座標系においてY軸方向の位置が路面である平面座
標系(以下、これを「X−Z平面座標系」という)の点
に変換する。
【0063】 X=(x/F)(Zcosθ−Ysinθ) Z=Y(Fcosθ+ysinθ)/(ycosθ−F
sinθ) y=−H なお、Fは撮像手段のレンズの焦点距離、θは光軸傾斜
角、Hは路面から撮像手段までの高さである。車両にピ
ッチ角変化あるいは上下振動が生じると、左右の白線輪
郭(M1、M2)は平行とならない。左右白線輪郭が平
行(M’1、M’2)になるようにx−y平面座標系の
輪郭を上または下に移動して、上記変換を行い、X−Z
平面座標系で左右白線輪郭が平行になるようにしてピッ
チ角変化あるいは上下振動を補正する。そして検出した
輪郭点を画像底部から結んでいく。
【0064】車両特徴検出手段33において、図11に
示すように、望遠および広角画像の各々において左右の
検出曲線に囲まれた領域内の水平エッジを検出し、走査
線に垂直方向の各画素列上に存在するエッジ点の数をカ
ウントし、ヒストグラムを作成する。
【0065】下側からこのヒストグラムを探索してい
き、エッジ点数が閾値EBを初めて越える走査線位置を
前方の車両とする。望遠および広角画像での消失点を一
致させて同じ位置に車両を検出したことを確認する。車
間距離算出手段34において、前記検出走査線の画像底
部からの走査線数位置と撮像手段の地面からの高さと俯
角から前方の車両までの距離を算出する。望遠または広
角画像で算出した車間距離のうち最も近い値を算出した
ものを前方車両までの距離とする。
【0066】(第5の実施形態)本発明の第5の実施形
態について図8を参照しながら説明する。実施形態5に
おいては、本実施形態の車間距離測定装置は、レンズ2
1、ハーフミラー22、赤外に感度のあるCCD23、
可視光に感度のあるCCD24、車線検出手段31、画
像限定手段32、車両特徴検出手段33、車間距離算出
手段34を有する。
【0067】以上のように構成された車間距離計測装置
についてその動作を説明する。レンズ21に入射した光
は、ハーフミラー22で一部の赤外光が反射され、ハー
フミラー22から反射された赤外光は赤外に感度がある
CCD23に像を結ぶ。一方、ハーフミラー22を透過
した光は可視光に感度のあるCCD24上に像を結ぶ。
【0068】CCD23で得られる像を電気信号でもう
一度反転したときの画像を車線検出手段31に入力す
る。またCCD24で得られる画像を同様に車線検出手
段31に入力する。車線検出手段31において、赤外お
よび可視光画像の底部中心から上方に向かって走査線方
向にそって左右方向に縦方向エッジを検出する。それぞ
れ最初に検出したエッジを道路白線の輪郭点とする。
【0069】画像限定手段32において、画像平面上の
輪郭点を実距離の平面座標系に座標変換する。つまり画
像平面座標系(以下、これを「x−y平面座標系」とい
う)の輪郭点を、X−Y−Z立体座標系においてY軸方
向の位置が路面である平面座標系(以下、これを「X−
Z平面座標系」という)の点に変換する。
【0070】 X=(x/F)(Zcosθ−Ysinθ) Z=Y(Fcosθ+ysinθ)/(ycosθ−F
sinθ) y=−H なお、Fは撮像手段のレンズの焦点距離、θは光軸傾斜
角、Hは路面から撮像手段までの高さである。車両にピ
ッチ角変化あるいは上下振動が生じると、左右の白線輪
郭は平行とならない。左右白線輪郭が平行になるように
x−y平面座標系の輪郭を上または下に移動して、上記
変換を行い、X−Z平面座標系で左右白線輪郭が平行に
なるようにしてピッチ角変化あるいは上下振動を補正す
る。そして検出した輪郭点を画像底部から結んでいく。
【0071】車両特徴検出手段23において、赤外およ
び可視光画像の各々において左右の検出曲線に囲まれた
領域内の水平エッジを検出し、走査線に垂直方向の各画
素列上に存在するエッジ点の数をカウントし、ヒストグ
ラムを作成する。
【0072】下側からこのヒストグラムを探索してい
き、エッジ点数が閾値EBを初めて越える走査線位置を
前方の車両とする。望遠および赤外画像での消失点を一
致させて同じ位置に車両を検出したことを確認する。車
間距離算出手段34において、前記検出走査線の画像底
部からの走査線数位置と撮像手段の地面からの高さと俯
角から前方の車両までの距離を算出する。
【0073】望遠車両特徴検出手段33で検出した車両
特徴のうち該画像の最も底部に近いものを抽出し追跡す
る望遠車両追跡手段を設けてもよい。
【0074】また、広角車両特徴検出手段33で検出し
た車両のうち上記望遠車両追跡手段で追跡する車両と同
一の車両であることを判別する車両判別手段をもうけて
もよい。
【0075】さらに、車両判別手段で判断した車両が望
遠車両追跡手段において画像の底部から画像外に出たと
きに車両判別手段からの車両特徴を使用して前方車両ま
での車間距離を算出する広角車間距離算出手段を設けて
もよい。
【0076】
【発明の効果】以上のように本発明は、同軸上にレンズ
1、ハーフミラー2、第2のCCD4を配置し、ハーフ
ミラーから反射された光軸上に第1のCCD3を配置し
た光学系をもつ撮像装置であって、白線左端を用いた道
路形状と白線右端を用いた道路形状が各々相関のない独
立の信号によって認識されるので、白線のぼけや欠陥な
どが有った場合には、相関を取っても相互に干渉するこ
となく補完することができ、白線の認識精度を向上する
ものである。
【0077】また、画像の反対方向から同時にラスタ上
を走査するので、高速度にかつ並列に画像取り込み及び
画像処理でき、画像認識の高速化が可能となった。
【0078】また、1つの光学系で2つのCCDを持っ
ているので、小さい容積で光学系が形成でき、自動車な
どのように小型化が要求される用途に適している。
【0079】さらに、他の実施形態によれば、白線左端
を用いた道路形状は色フィルターを通過した像から検出
しているので、色フィルターを用いない白線右端を用い
た道路形状の検出する際のコントラストとは異なった時
の道路形状が認識されるので、白線のぼけや欠陥などが
有った場合には相互に相関を取ることによって補完し、
白線の認識精度を向上するものである。
【0080】また、他の実施形態のよれば、広角像にお
ける白線左端を用いた道路形状と望遠像における白線左
端を用いた道路形状が認識される。2つの道路形状は、
基本的に合致するものである。白線のぼけや欠陥などが
有った場合には、相関を取って相互に補完する事がで
き、白線の認識精度を向上するものである。
【0081】また、他の実施形態のよれば、広角像にお
ける白線左端を用いた道路形状と望遠像における白線左
端を用いた道路形状が認識される。2つの道路形状は、
基本的に合致するものである。広角像中の白線にのぼけ
や欠陥などが有った場合には、望遠像は広角像の一部を
拡大して観察しているので、より詳細に望遠像中の道路
上に描かれた白線を検知しする事ができる。また、相関
を取って相互に補完する事ができ、前方車両の認識精度
及び車間距離の検出精度を向上するものである。
【図面の簡単な説明】
【図1】本発明による撮像装置の光学系の模式図であ
る。
【図2】(a)は、第2のCCD4で得られる正像7を
示す図であり、(b)は第1のCCD3で得られる正像
7とは鏡像関係にある鏡像7’を示す図である。
【図3】(a)および(b)は、図2(a)におけるラ
スタX−Xと、図2(b)におけるラスタY−Yの輝度
信号の変化をそれぞれ模式的に示す図である。
【図4】(a)は、第2のCCD4で得られる正像7
で、色フィルタを通過した像を示す図であり、(b)
は、第1のCCD3で得られる正像7とは鏡像関係にあ
る鏡像7’を示す図である。
【図5】本発明による撮像装置の光学系の模式図であ
る。
【図6】(a)は、第1のCCDで得られる鏡像を電気
信号でもう一度反転にしたときの広角像を示す図であ
り、(b)は、第1のCCDで得られる望遠像を示す図
である。
【図7】(a)および(b)は、図6(a)におけるラ
スタX−Xと、図6(b)におけるラスタY−Yの輝度
信号の変化をそれぞれ模式的に示す図である。
【図8】本発明による車間距離計測装置のブロックダイ
アグラムを示す図である。
【図9】本発明による車間距離計測装置での白線エッジ
検出方法を示した図である。
【図10】本発明による車間距離計測装置で用いられる
X−Z平面座標系である。
【図11】本発明による車間距離計測装置での水平エッ
ジ検出を示した図である。
【図12】従来の測距装置を示した図である。
【符号の説明】
1 レンズ 2 ハーフミラー 3 第1のCCD 4 第2のCCD 5 筐体 6 フィルター 7 正像を示す 8,8’ 消失点 9,9’,9’’,9’’’ 白線 10,10’ 車線分離の破線 31 望遠および広角画像車線検出手段 32 望遠および広角画像限定手段 33 望遠および広角車両特徴検出手段 34 望遠および広角車間距離算出手段 101 対象物 102,103,104 撮像装置 105,106 ハーフミラー 107 画像処理装置
───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.6 識別記号 FI G08G 1/16 H04N 5/225 C H04N 5/225 G06F 15/62 380

Claims (19)

    【特許請求の範囲】
  1. 【請求項1】 同一光軸上に配置された、レンズ、ハー
    フミラーおよび第1のCCDと、 該ハーフミラーからの反射光の光軸上に配置された第2
    のCCDと、を有し、 該第1および第2のCCDのうちの一方は、該レンズか
    ら入力した像の正像を出力し、他方のCCDは逆像を出
    力する撮像装置。
  2. 【請求項2】 前記レンズから前記第1および第2のC
    CDの少なくとも一方に至る光路中に、波長選択光学素
    子をさらに有する請求項1に記載の撮像装置。
  3. 【請求項3】 前記波長選択光学素子は赤外線フィルタ
    である請求項2に記載の撮像装置。
  4. 【請求項4】 前記ハーフミラーは、赤外線を選択的に
    反射する前記波長選択光学素子としても機能する請求項
    2に記載の撮像装置。
  5. 【請求項5】 前記ハーフミラーは、赤外線を選択的に
    透過する前記波長選択光学素子としても機能する請求項
    2に記載の撮像装置。
  6. 【請求項6】 前記レンズから前記第1および第2のC
    CDの少なくとも一方に至る光路中に、拡大レンズをさ
    らに有する請求項1から5のいずれかに記載の撮像装
    置。
  7. 【請求項7】 前記正像と前記逆像との相関を検出する
    回路をさらに有する請求項1から6のいずれかに記載の
    撮像装置。
  8. 【請求項8】 車両前方道路の可視および赤外線画像を
    撮像する可視および赤外線画像撮像手段と、 該可視および赤外線画像撮像手段から得られた可視およ
    び赤外線画像を使用して走行している車線を検出する可
    視および赤外線画像車線検出手段と、 該可視および赤外線画像車線検出手段で検出した自車線
    を使用して、該可視および赤外線画像車線検出手段から
    得られた該画像内の自車線の領域を限定する可視および
    赤外線画像限定手段と、 該可視および赤外線画像限定手段で限定した該領域内で
    該画像をその底部から順に走査しながら車両特徴を検出
    する車両特徴検出手段と、 該車両特徴検出手段で検出した該車両特徴のうち該画像
    の最も底部に近いものを抽出し前方車両までの車間距離
    を算出する車間距離算出手段と、 を有する車間距離計測装置。
  9. 【請求項9】 車両前方道路の望遠および広角画像を撮
    像する望遠および広角画像撮像手段と、 該望遠および広角画像撮像手段からの望遠および広角画
    像を使用して走行している車線を検出する望遠および広
    角画像車線検出手段と、 該望遠および広角画像車線検出手段で検出した自車線を
    使用して該望遠および広角画像車線検出手段から得られ
    た該画像内の自車線の領域を限定する望遠および広角画
    像限定手段と、 該望遠および広角画像限定手段で限定した該領域内で該
    画像の底部から車両特徴を検出する望遠および広角車両
    特徴検出手段と、 該望遠および広角車両特徴検出手段で検出した該車両特
    徴のうち該画像の最も底部に近いものを抽出し前方車両
    までの車間距離を算出する望遠および広角車間距離算出
    手段と、 を有する車間距離計測装置。
  10. 【請求項10】 前記望遠および広角画像車線検出手段
    において、前記望遠および広角画像撮像手段から得られ
    る振動量を計測し、振動の影響を補正する請求項9に記
    載の車間距離計測装置。
  11. 【請求項11】 車両前方道路の望遠および広角画像を
    撮像する望遠および広角画像撮像手段と、 該望遠および広角画像撮像手段からの望遠および広角画
    像を使用して走行している車線を検出する望遠および広
    角画像車線検出手段と、 該望遠および広角画像車線検出手段で検出した自車線を
    使用して前方車両までの車間距離を算出する望遠および
    広角車間距離算出手段と、 を有する車間距離計測装置。
  12. 【請求項12】 前記望遠および広角画像車線検出手段
    は、前記望遠および広角画像撮像手段から得られる振動
    量を計測し、振動の影響を補正する請求項11に記載の
    車間距離計測装置。
  13. 【請求項13】 車両前方道路の望遠および広角画像を
    撮像する望遠および広角画像撮像手段と、 該望遠および広角画像撮像手段からの望遠および広角画
    像を使用して走行している車線を検出する望遠および広
    角画像車線検出手段と、 該望遠および広角画像車線検出手段で検出した自車線を
    使用して該望遠および広角画像車線検出手段から得られ
    た車両前方画像内の自車線の領域を限定する望遠および
    広角画像限定手段と、 該望遠および広角画像限定手段で限定した該領域内で画
    像底部から車両特徴を検出する望遠および広角車両特徴
    検出手段と、 該望遠車両特徴検出手段で検出した該車両特徴のうち該
    画像の最も底部に近いものを抽出し追跡する望遠車両追
    跡手段と、 該広角車両特徴検出手段で検出した車両のうち該望遠車
    両追跡手段で追跡する車両と同一の車両であることを判
    別する車両判別手段と、 該車両判別手段で判断した車両が該望遠車両追跡手段に
    おいて該画像の底部から該画像外に出たときに該車両判
    別手段からの該車両特徴を使用して前方車両までの車間
    距離を算出する広角車間距離算出手段と、 を有する車間距離計測装置。
  14. 【請求項14】 車両前方道路の可視および赤外線画像
    を撮像する工程と、 該可視および赤外線画像撮像工程で得られた該可視およ
    び赤外線画像を使用して、自車線を検出する工程と、 該自車線検出工程で該得られた該自車線を使用して、該
    可視および赤外線画像車線検出工程で得られた該画像内
    の該自車線の領域を限定する工程と、 該限定された領域内で該画像をその底部から順に走査し
    ながら車両特徴を検出する工程と、 該車両特徴検出工程で該検出された該車両特徴のうち該
    画像の最も底部に近いものを抽出し前方車両までの車間
    距離を算出する工程と、 を包含する車間距離計測方法。
  15. 【請求項15】 車両前方道路の望遠および広角画像を
    撮像する工程と、 該望遠および広角画像撮像工程で得られた望遠および広
    角画像を使用して自車線を検出する工程と、 該検出された自車線を使用して該望遠および広角画像車
    線検出工程で得られた該画像内の自車線の領域を限定す
    る工程と、 該望遠および広角画像限定工程で限定した該領域内で該
    画像の底部から車両特徴を検出する工程と、 該望遠および広角車両特徴検出工程で検出した該車両特
    徴のうち該画像の最も底部に近いものを抽出し前方車両
    までの車間距離を算出する工程と、 を包含する車間距離計測方法。
  16. 【請求項16】 前記望遠および広角画像車線検出工程
    は、前記望遠および広角画像撮像工程で得られた振動量
    を計測し、振動の影響を補正する工程を包含する請求項
    15に記載の車間距離計測方法。
  17. 【請求項17】 車両前方道路の望遠および広角画像を
    撮像する工程と、 該望遠および広角画像撮像工程で得られた望遠および広
    角画像を使用して走行している車線を検出する工程と、 該望遠および広角画像車線検出工程で検出した自車線を
    使用して前方車両までの車間距離を算出する工程と、 を包含する車間距離計測方法。
  18. 【請求項18】 前記望遠および広角画像車線検出工程
    は、前記望遠および広角画像撮像工程で得られた振動量
    を計測し、振動の影響を補正する工程を包含する請求項
    17に記載の車間距離計測方法。
  19. 【請求項19】 車両前方道路の望遠および広角画像を
    撮像する工程と、 該望遠および広角画像撮像工程で得られた望遠および広
    角画像を使用して走行している車線を検出する工程と、 該望遠および広角画像車線検出工程で検出された自車線
    を使用して該望遠および広角画像車線検出工程で得られ
    た車両前方画像内の自車線の領域を限定する工程と、 該望遠および広角画像限定手段で限定された該領域内で
    該画像の底部から車両特徴を検出する工程と、 該遠車両特徴検出工程で検出された該車両特徴のうち該
    画像の最も底部に近いものを抽出し追跡する工程と、 該広角車両特徴検出工程で検出した車両のうち該望遠車
    両追跡工程で追跡する車両と同一の車両であることを判
    別する工程と、 該車両判別工程で判断した車両が該望遠車両追跡工程に
    おいて該画像の底部から該画像外に出たときに該車両判
    別工程で得られた該車両特徴を使用して前方車両までの
    車間距離を算出する工程と、 を包含する車間距離計測方法。
JP10138951A 1997-05-20 1998-05-20 撮像装置および車間距離計測装置ならびに車間距離計測方法 Withdrawn JPH1141521A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP10138951A JPH1141521A (ja) 1997-05-20 1998-05-20 撮像装置および車間距離計測装置ならびに車間距離計測方法

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP9-129259 1997-05-20
JP12925997 1997-05-20
JP10138951A JPH1141521A (ja) 1997-05-20 1998-05-20 撮像装置および車間距離計測装置ならびに車間距離計測方法

Publications (1)

Publication Number Publication Date
JPH1141521A true JPH1141521A (ja) 1999-02-12

Family

ID=26464711

Family Applications (1)

Application Number Title Priority Date Filing Date
JP10138951A Withdrawn JPH1141521A (ja) 1997-05-20 1998-05-20 撮像装置および車間距離計測装置ならびに車間距離計測方法

Country Status (1)

Country Link
JP (1) JPH1141521A (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007132717A1 (ja) * 2006-05-16 2007-11-22 Panasonic Corporation 撮像装置及び半導体回路素子
JP2008502538A (ja) * 2004-06-11 2008-01-31 ストラテック システムズ リミテッド 鉄道軌道スキャニングシステムおよび方法
JP2010187413A (ja) * 2010-05-21 2010-08-26 Yazaki Corp 車両用表示装置
JP2010193016A (ja) * 2009-02-16 2010-09-02 Ricoh Co Ltd 車載カメラ装置のキャリブレーション支援方法及びキャリブレーション支援装置、並びに車載カメラ装置
WO2015104898A1 (ja) * 2014-01-09 2015-07-16 クラリオン株式会社 車両用外界認識装置
EP3026489A4 (en) * 2013-07-23 2017-03-01 Sony Corporation Imaging device
JP2017192086A (ja) * 2016-04-15 2017-10-19 キヤノン株式会社 画像生成装置、画像観察装置、撮像装置および画像処理プログラム
JP2020067360A (ja) * 2018-10-24 2020-04-30 パイオニア株式会社 測距装置、測距方法、プログラム及び記録媒体

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008502538A (ja) * 2004-06-11 2008-01-31 ストラテック システムズ リミテッド 鉄道軌道スキャニングシステムおよび方法
WO2007132717A1 (ja) * 2006-05-16 2007-11-22 Panasonic Corporation 撮像装置及び半導体回路素子
US8107000B2 (en) 2006-05-16 2012-01-31 Panasonic Corporation Image pickup apparatus and semiconductor circuit element
JP2010193016A (ja) * 2009-02-16 2010-09-02 Ricoh Co Ltd 車載カメラ装置のキャリブレーション支援方法及びキャリブレーション支援装置、並びに車載カメラ装置
JP2010187413A (ja) * 2010-05-21 2010-08-26 Yazaki Corp 車両用表示装置
EP3026489A4 (en) * 2013-07-23 2017-03-01 Sony Corporation Imaging device
US10368009B2 (en) 2013-07-23 2019-07-30 Sony Corporation Imaging apparatus
WO2015104898A1 (ja) * 2014-01-09 2015-07-16 クラリオン株式会社 車両用外界認識装置
JP2015132879A (ja) * 2014-01-09 2015-07-23 クラリオン株式会社 車両用外界認識装置
US9811742B2 (en) 2014-01-09 2017-11-07 Clarion Co., Ltd. Vehicle-surroundings recognition device
JP2017192086A (ja) * 2016-04-15 2017-10-19 キヤノン株式会社 画像生成装置、画像観察装置、撮像装置および画像処理プログラム
JP2020067360A (ja) * 2018-10-24 2020-04-30 パイオニア株式会社 測距装置、測距方法、プログラム及び記録媒体

Similar Documents

Publication Publication Date Title
US11836989B2 (en) Vehicular vision system that determines distance to an object
US5020114A (en) Object discriminating apparatus and method therefor
US6812831B2 (en) Vehicle surroundings monitoring apparatus
JP3630100B2 (ja) 車線検出装置
JP6270102B2 (ja) 移動面境界線認識装置、これを用いた移動体機器制御システム、移動面境界線認識方法及び移動面境界線認識用プログラム
JP5561064B2 (ja) 車両用対象物認識装置
JP3349121B2 (ja) ステレオカメラの取付構造
EP0880032B1 (en) Imaging apparatus, distance measurement apparatus and method for measuring distance
JPH06331351A (ja) 車間距離計測装置とステレオ画像取り込み装置
US11410334B2 (en) Vehicular vision system with camera calibration using calibration target
JP3961584B2 (ja) 区画線検出装置
EP3667413A1 (en) Stereo image processing device
JP5539250B2 (ja) 接近物体検知装置及び接近物体検知方法
JP2006318059A (ja) 画像処理装置、画像処理方法、および画像処理用プログラム
JPH08136237A (ja) 走行路勾配算出装置および車速制御装置
JP3562250B2 (ja) 先行車両検出装置
JP2000293693A (ja) 障害物検出方法および装置
JPH1141521A (ja) 撮像装置および車間距離計測装置ならびに車間距離計測方法
JP3540005B2 (ja) 障害物検出装置
JPH07244717A (ja) 車両用走行環境認識装置
CN113646607A (zh) 物体位置检测装置、行驶控制系统及行驶控制方法
JP2007310591A (ja) 画像処理装置及び駐車場判定方法
JP3586938B2 (ja) 車載用距離測定装置
JP2006031101A (ja) 画像生成方法およびその装置
JP4106163B2 (ja) 障害物検出装置及びその方法

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050406

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050530

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060606

A761 Written withdrawal of application

Free format text: JAPANESE INTERMEDIATE CODE: A761

Effective date: 20060706