JP2007124676A - 車載用画像処理装置 - Google Patents
車載用画像処理装置 Download PDFInfo
- Publication number
- JP2007124676A JP2007124676A JP2006314963A JP2006314963A JP2007124676A JP 2007124676 A JP2007124676 A JP 2007124676A JP 2006314963 A JP2006314963 A JP 2006314963A JP 2006314963 A JP2006314963 A JP 2006314963A JP 2007124676 A JP2007124676 A JP 2007124676A
- Authority
- JP
- Japan
- Prior art keywords
- image
- region
- image processing
- light
- vehicle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Image Input (AREA)
- Image Processing (AREA)
- Closed-Circuit Television Systems (AREA)
- Image Analysis (AREA)
Abstract
【課題】走行レーンなどの検出性能が高い小型の車載用画像処理装置を実現する。
【解決手段】撮像デバイス3におけるマトリクス配列の画素列に対して、水平方向の1画素列毎に可視光に感度をもつ領域と不可視光に感度をもつ領域を交互に設定し、上下の隣り合う可視光領域と不可視光領域の画像信号を選択的に使用して物体を認識する処理を行うことにより、白線画像を認識して走行レーンを検出する。
【選択図】図1
【解決手段】撮像デバイス3におけるマトリクス配列の画素列に対して、水平方向の1画素列毎に可視光に感度をもつ領域と不可視光に感度をもつ領域を交互に設定し、上下の隣り合う可視光領域と不可視光領域の画像信号を選択的に使用して物体を認識する処理を行うことにより、白線画像を認識して走行レーンを検出する。
【選択図】図1
Description
本発明は、車両の周辺を撮像して得た画像信号を処理して走行レーンなどを検出する車載用画像処理装置に関する。
特許文献1に記載された装置は、撮像素子の前方に設けた赤外光の透過量を可変する赤外光フィルタにより、透過量を切り替えて車両の周辺を撮像する構成である。これによれば、明るい場所では人の目で見た色合いに近い色合いで撮像し、暗い場所では、暗視性を高めて撮像することが可能であり、この撮像した画像から路上の白線を認識し、走行レーンを検出することができる。
また、特許文献2に記載された装置は、異なる偏向成分を持つ画像の差分により、レーンマーカ像を認識し、走行レーンを検出する構成である。
また、特許文献3に記載された装置は、特定波長を透過する領域と遮断する領域が均一に分布した光学フィルタを通して撮像した画像の減算処理により、背景画像を除去して立体物を抽出する構成である。
このような従来装置によれば、特許文献1に記載された装置は、路上の白線を認識して走行レーンを検出する手法であるので、路上の白線が汚れている環境では走行レーンの検出性能が低下する。
また、特許文献2に記載された装置では、赤外光の透過量の異なる画像を得るために、プリズムなどを使用して入射光を分光して撮像する2つの撮像素子を用いており、撮像部の小型化の障害となる。
また、特許文献3に記載された装置では、赤外光の反射のあるなしで立体物を抽出する方法であり、車両の周辺の走行レーンなど検出するために如何に利用するかについての技術的な示唆がない。
本発明の1つの目的は、車両の周辺の白線や反射板(走行レーン)などの物体の検出性能が高い小型の車載用画像処理装置を提供することにある。
本発明の他の目的は、夜間における白線,反射板,交通信号灯(交通信号機),先行車,対向車などを高い精度で識別することができる車載用画像処理装置を提供することにある。
本発明の更に他の目的は、前述したような目的を比較的に簡単な構成で達成することができる車載用画像処理装置を提供することにある。
本発明は、車両の周辺を撮像デバイスで撮像して得た画像信号に基づいて該車両の周辺の物体を認識する車載用画像処理装置において、前記撮像デバイスは、可視光に対して感度をもつ画素列領域と不可視光に対して感度をもつ画素列領域を交互に備え、この撮像デバイスの可視光に感度をもつ画素列領域から得られる可視光領域画像信号と不可視光に感度をもつ画素列領域から得られる不可視光領域画像信号を使用して物体を認識する画像処理部を設けたことを特徴とする。
本発明は、車両の周辺を撮像する撮像デバイスは、可視光に対して感度をもつ画素列領域と不可視光に対して感度をもつ画素列領域を交互に備えた構成とし、この撮像デバイスの可視光に感度をもつ画素列領域から得られる可視光領域画像信号と不可視光に感度をもつ画素列領域から得られる不可視光領域画像信号を使用して物体を認識する画像処理部を設けたことにより、車両の周辺の白線や反射板(走行レーン)などの物体の検出性能が高い小型の車載用画像処理装置を提供することができる。
また、画像処理部は、可視光領域画像信号と不可視光領域画像信号の差分情報に基づいて高反射物体と低反射物体と発光体を識別することにより該識別結果に基づいて先行車と対向車と反射板と交通信号灯を識別する高い精度で識別することができる。
そして、このような識別は、前述撮像デバイスの構成と画像信号処理によって実現するようにしているので、前述したような効果を比較的に簡単な構成で得ることができる。
本発明の車載用画像処理装置は、可視光に対して感度をもつ画素列領域である可視光領域と不可視光に対して感度をもつ画素列領域である不可視光領域とを交互に備え、車両前方を撮像する撮像デバイスと、前記可視光領域から得られる可視光領域画像信号と前記不可視光領域から得られる不可視光領域画像信号との双方について画像処理を行う画像処理部とを備え、前記画像処理部は、隣接する前記可視光領域と不可視光領域の画像信号の差分を求め、当該差分の絶対値が所定値以上の大きさを示す領域を反射板として認識するように構成する。
本発明の実施の形態を図面を参照して説明する。
図1は、本発明の一実施の形態における車載用画像処理装置の機能ブロック図である。
図1において、1は撮像レンズ、2は不可視光である赤外光を透過する領域と遮断する領域をもった櫛型構造の赤外光フィルタ、3は撮像デバイス、4は画像処理部、5は表示用モニタ、6は赤外光投光器(赤外灯)、7はヘッドライト、8はステアリング制御器、9は車間距離制御器、10はライト操作スイッチ、11はヘッドライト制御回路である。
撮像レンズ1は、被写体からの光を集光し、赤外光フィルタ2を介して撮像デバイス3の受光面に結像する。
赤外光フィルタ2は、後述するように、赤外光を透過する領域と遮断する領域をもつ櫛型構造のフィルタである。
撮像デバイス3は、モノクロ用のCCDであり、受光面にマトリクス配列された感光素子であるフォトダイオード群(画素列)と、これらの画素列にトランスファゲートを介して隣接形成された垂直電荷転送路群と、垂直電荷転送路群の終端部分に形成された水平電荷転送路群とを備える。そして、フィールド周期より短い露光期間に画素列に蓄積された総ての画素電荷を露光期間終了と同時に電荷転送ゲートを介して垂直電荷転送路群へ転送し、更に垂直電荷転送路群に設けられている転送電極群に印加される走査読出制御信号に同期して1列分ずつ水平電荷転送路ヘ転送させつつ画素配列順に各画素電荷を読み出して画像信号として出力する構成である。
画像処理部4は、前記撮像デバイス3を制御するタイミングジェネレータ41と、撮像デバイス3から画像信号を入力するAD変換器42と、画像処理ロジックIC43と、前記表示用モニタ5に表示用の映像信号を出力するDA変換器44と、画像信号や画像処理データを格納するRAM45と、各種の制御処理を実行するCPU46と、画像処理および制御処理のプログラムを格納したROM47と、前記ステアリング制御器8や車間距離制御器9と通信する通信回路(CAN)48と、前記ライト操作スイッチ10からの点灯/消灯のヘッドライト指示信号の入力や前記赤外光投光器(赤外灯)6およびヘッドライト制御回路11を制御する入出力回路(I/O)49を備える。
この画像処理部4における前記AD変換器42は、撮像デバイス3から出力されるアナログ信号形態の画像信号をデジタル信号形態に変換して画像処理ロジックIC43に転送する。このAD変換器42は、入力した画像信号に対してγ補正などの信号処理を行う機能を付加しても良い。
画像処理ロジックIC43は、AD変換器42から転送されてきた画像信号をRAM45に格納して保存し、RAM45に保存されている画像信号に対して、ROM47に格納されている画像処理プログラムに従って差分抽出処理やエッジ抽出処理などを実行し、その処理結果をRAM45に格納して保存し、RAM45に保存されている前記処理結果に対して画像認識処理を実行して走行レーンなどの検出処理を実行し、この検出結果をDA変換器44を介してアナログ信号形態の映像信号(NTSC方式の映像信号)に変換して表示用モニタ5に表示させる。
CPU46は、ROM47に格納されている制御処理プログラムに従って、前記タイミングジェネレータ41を介して撮像デバイス3のシャッタ速度を制御し、前記画像処理ロジックIC43における画像処理および検出処理を制御し、通信回路48を介してステアリング制御器8および車間距離制御器9と通信し、入出力回路49を介してライト操作スイッチ10からの点灯/消灯,長配光/短配光などのヘッドライト指示信号を入力し、前記検出結果およびヘッドライト指示信号を参照して、ステアリング制御器8および車間距離制御器9における制御処理で参照する物体および走行レーン検出情報を提供し、赤外光投光器6とヘッドライト7の点灯/消灯,長配光/短配光などの制御処理を実行する。
赤外光投光器6は、対向車の運転手を眩惑することがない不可視光である赤外光を発生して長配光で自車両の前方を遠方領域(遠距離)まで照射するように設置し、画像処理部4の入出力回路49に制御されて点灯または消灯する。
ヘッドライト7は、自車両の前方を遠方領域まで照射する長配光と対向車両の運転者を眩惑しないような近距離照射の短配光に切り替え可能に構成し、画像処理部4の入出力回路49とライト操作スイッチ10からの指示信号に従ってヘッドライト制御回路11によって点灯/消灯および長配光/短配光に切り替え制御する。ここで、ヘッドライト制御回路11は、ライト操作スイッチ10からの指示信号を優先的に扱って切り替え制御を実行する。
ステアリング制御器8は、自車両が走行レーン内を走行するように操舵車輪の向きを制御する制御器である。
車間距離制御器9は、自車両が先行車に近付き過ぎないように警報したり、走行速度を制限する制御器である。
図2は、櫛型構造の赤外光フィルタ2と撮像デバイス3における画素列の相対関係を示す模式図である。
撮像デバイス3は、各画素に相当するフォトダイオード群を水平方向に配列して構成した画素列31a〜31hを垂直方向に並べたアレイ構成である。そして、赤外光フィルタ2は、前記各画素列31a〜31hに対応させて奇数列目の画素列31a,31c…には赤外光を遮断する赤外光遮断領域21a,21c…を重ね合わせ、偶数列目の画素列31b,31d…には赤外光を透過させる赤外光透過領域21b,21d…を重ね合わせるように横方向(水平方向)に伸びる歯を形成した櫛型構造を呈している。撮像デバイス3の各画素群の1つ1つに集光目的でマイクロレンズを形成する構成では、このマイクロレンズ上に前述した配列となるように赤外光フィルタを形成することもできる。このように赤外光フィルタ2を重ね合わせた撮像デバイス3は、赤外光遮断領域21a,21c…を重ね合わせた画素列31a,31c…から可視光領域画像信号を出力し、赤外光透過領域21b,21d…を重ね合わせた偶数列目の画素列31b,31d…から不可視光領域画像信号を出力する。
図3は、このような赤外光フィルタ2を通して路上の走行レーンを示す白線を撮像して得た画像信号に基づく映像の模式図である。赤外光フィルタ2の赤外光遮断領域21a,21c…を重ね合わせた画素列31a,31c,31e…から得られる可視光領域画像信号に基づく映像領域を当該画素列の参照符号で示し、赤外光透過領域21b,21d…を重ね合わせた画素列31b,31d…から得られる不可視光領域画像信号に基づく映像領域を当該画素列の参照符号で示す。
(a)は、理想的な映像であり、赤外光透過領域31d,赤外光遮断領域31eの両領域において白線画像101が鮮明な映像である。
(b)は、昼間に櫛型構造の赤外光フィルタ2を通して撮像して得た画像信号に基づく映像である。赤外光フィルタ2の赤外光透過領域31dではボケたような白線画像101aの映像となっている。
(c)は、夜間に赤外光投光器6およびヘッドライト7を消灯した状態で撮像して得た画像信号に基づく映像である。白線画像を認識することができない映像である。
(d)は、夜間にヘッドライト7を短配光で点灯した状態で撮像して得た画像信号に基づく映像である。白線画像101は、ヘッドライト7の短配光で照射された近距離領域のみが認識可能な映像である。
(e)は、夜間にヘッドライト7を長配光で点灯した状態で撮像して得た画像信号に基づく映像である。白線画像101は、ヘッドライト7の長配光で照射された遠距離領域まで認識可能な映像である。
(f)は、夜間に赤外光投光器6を点灯して照射した長配光の赤外光とヘッドライト7を短配光で点灯して照射した状態で撮像して得た画像信号に基づく映像である。長配光の赤外光の照射によって更に遠距離領域まで白線画像101を認識することができる映像である。
(a)は、理想的な映像であり、赤外光透過領域31d,赤外光遮断領域31eの両領域において白線画像101が鮮明な映像である。
(b)は、昼間に櫛型構造の赤外光フィルタ2を通して撮像して得た画像信号に基づく映像である。赤外光フィルタ2の赤外光透過領域31dではボケたような白線画像101aの映像となっている。
(c)は、夜間に赤外光投光器6およびヘッドライト7を消灯した状態で撮像して得た画像信号に基づく映像である。白線画像を認識することができない映像である。
(d)は、夜間にヘッドライト7を短配光で点灯した状態で撮像して得た画像信号に基づく映像である。白線画像101は、ヘッドライト7の短配光で照射された近距離領域のみが認識可能な映像である。
(e)は、夜間にヘッドライト7を長配光で点灯した状態で撮像して得た画像信号に基づく映像である。白線画像101は、ヘッドライト7の長配光で照射された遠距離領域まで認識可能な映像である。
(f)は、夜間に赤外光投光器6を点灯して照射した長配光の赤外光とヘッドライト7を短配光で点灯して照射した状態で撮像して得た画像信号に基づく映像である。長配光の赤外光の照射によって更に遠距離領域まで白線画像101を認識することができる映像である。
このように路上の走行レーンを表示する白線は、認識可能なように撮像することができる距離が昼夜および赤外光投光器6とヘッドライト7の点灯状態の違いによって違ってくる。
このように赤外光フィルタ2を通して撮像デバイス3で撮像して得た画像信号における白線画像を認識して走行レーンを検出する方法を図4を参照して説明する。
近年、撮像デバイス3の高画素密度化が進んで分解能が向上している。従って、マトリクス配列の画素群における1列置き毎の画素列からの画像信号においても画像認識に十分な分解能が得られることから、例えば、昼間において、櫛型構造の赤外光フィルタ2を通して撮像して得た画像信号における映像{図4(a)参照}では、赤外光フィルタ2の赤外光遮断領域21e,21g…に対応するの画素列31e,31g…から得られる可視光領域画像信号に基づいて白線を画像認識することができる{図4(b)参照}(白線推定方法)。
この白線画像認識における白線推定方法の具体例を図6を参照して説明する。路面に描かれた白線を撮像して得た画像は、(a)に示すように、手前の近距離領域(画面の下部領域)では太く、遠距離領域(画面の上部領域)では細くなる。このような画像において、任意の画素列の画像信号の横方向に画像の明るさ(濃度値)の変化の度合いを検出する処理(画像信号の2値化処理)を行うと、各画素列の画像信号における濃度値は、(b)のようになる。ここで、濃度値の低いところから高くなるところを立上がりエッジと定義し、高いところから低くなるところを立下がりエッジと定義すると、白線は、左から立上がりエッジと立下がりエッジのペアで構成される。そこで、左側の白線は、これらのペアのエッジの立下がりエッジで抽出してハフ(Hough)変換することにより求め、また、右側の白線は、これらのペアのエッジの立上がりエッジで抽出してハフ変換することにより求めることにより、(c)で示すように白線画像101bを得ることができる。
この白線推定方法では、昼間に撮像して得た画像信号によれば、前方の十分な遠距離までの白線画像を認識して走行レーンを検出することが可能である。しかしながら、夜間になると、撮像して得られる画像信号に基づく画像によれば、認識可能な白線画像101はヘッドライト7の照射範囲に限られるので{図4(c)参照}、白線画像101の認識結果に基づいて十分に遠距離までの走行レーンを検出することができなくなる。そこで、このような環境では、赤外光投光器6を点灯し、ヘッドライト7の配光による照射範囲よりも更に遠距離の領域については、赤外光投光器6により赤外光照射された範囲について、赤外光透過領域の画素列31d,31fから得られる画像信号に基づく画像を交えて白線画像101,101aの認識処理を実行する{図4(d)参照}。このときには、赤外透過領域における白線画像101aはボケているようになることから、エッジ抽出処理においては、次のような処理を実行する。すなわち、白線画像101aがボケているために該白線画像101aの両サイド間の距離(白線画像の幅)が大きく(広く)なる。そこで、エッジ抽出処理においては、白線画像101aの両サイドのエッジ座標の中間点を求め、その中間点から左右に1画素ずらした点を白線画像の両エッジとする補正を行って、白線の画像認識処理を行う(白線合成推定方法)。ここで、遠距離の白線画像の幅は、映像上は、近距離の白線画像の幅に比べて極端に狭くなる。
この白線合成推定方法の具体例を図7を参照して説明する。路面に描かれた白線を撮像して得た画像信号に基づく画像は、(a)に示すように、手前の近距離領域(画面の下部領域)では太く、遠距離領域(画面の上部領域)では細くなる。更に、赤外光透過領域画像信号では、濃度値が高くなり、赤外光遮光領域に比べてコントラストが悪い画像となる。このような画像信号に対して、横方向に画像の明るさ(濃度値)の変化の度合いを検出する処理(画像信号の2値化処理)を行うと、赤外光透過領域に該当する不可視光領域画像信号においては(b)にAで示し、赤外光遮断領域に該当する可視光領域画像信号においてはBで示すようになる。
そこで、左側の白線は、これらのペアのエッジの立下がりエッジで抽出してハフ変換することにより求め、また、右側の白線は、これらのペアのエッジの立上がりエッジで抽出してハフ変換することにより求めることにより、(c)で示すように白線画像101bを得ることができる。エッジ抽出において、赤外光透過領域の不可視光画像信号の領域におけるエッジは、実際には、若干ずれる。従って、不可視光(赤外光透過)領域画像信号の領域におけるエッジ抽出では、水平方向の補正を加える。この補正量は、画面の下部領域では大きく、上部領域では小さくする。このように補正してエッジを抽出することにより、実際の境界位置との誤差が小さくなってハフ変換の精度が向上する。
次に、白線と路面のコントラストが悪い環境を撮像して得た画像信号に基づいて走行レーンを検出する方法について図5を参照して説明する。
白線と路面のコントラストが悪い環境、言い換えると、白線上の汚れや劣化により白さが低下した白線を撮像して得た画像信号に基づく画像{図5(a)参照}では、画像信号から白線画像を認識することが困難となり、従来の白線認識方法では、走行レーンを検出することができなくなる。このような場合には、多くの道路において走行レーンに沿って設置されている反射板などの反射体画像102を認識し、その位置を参照することによって走行レーンを推測する処理を実行する{図5(b)}。
基本的な考え方は、赤外光投光器6を点灯して赤外光を照射し、反射板から反射してくる赤外光を撮像デバイス3で撮像する{図5(c)}。ここで、赤外光フィルタ2の赤外光透過領域と遮断領域の上下に隣り合う画素列の画像信号の映像は、略同じものと言えることから、この上下に隣り合う画素列の画像信号(映像)の差分を求めると、赤外光が強い部分は、この差分量が大きくなる。そこで、この差分量が大きいところを反射板(反射体画像102)の位置として認識して走行レーンを推測する。
図5(d)は、撮像して得た画像信号に基づく画像における反射体画像102の部分を拡大して示している。図5(c)の画像では、赤外光透過領域と遮断領域を大きく表示しているが、実際には、画素列毎に各領域が入れ替わって位置しており、反射体画像102は複数画素列分の画像信号による画像となる。この反射体画像102に画素を割り付けると図5(e)のようになる。この画像において、上から走査して現在の画素に対して、次式の算出を行う。
現在の画素の差分値)=(現在の画素の信号値)−(1つ下の画素の信号値)
反射体画像102上の現在の画素の差分値の符号は、赤外光透過領域上は、赤外光遮断領域よりも透過した赤外光分の光量が多くなるために正(+)となり、赤外光遮断領域では、逆に負(−)となる。
反射体画像102上の現在の画素の差分値の符号は、赤外光透過領域上は、赤外光遮断領域よりも透過した赤外光分の光量が多くなるために正(+)となり、赤外光遮断領域では、逆に負(−)となる。
図5(f)は、このようにして算出した結果を示している。このような画素の差分画像上では、赤外光の反射が強い部分では、水平方向に(+)が並んだ領域と(−)が並んだ領域が垂直方向に交互に発生する。このような領域は、反射板(反射体画像102)であると認識することができ、このようにして認識した反射板の位置に基づいて走行レーンを推定することができる(白線差分推定方法)。
この白線差分推定方法の具体例について図8を参照して説明する。正常であれば(a)のように白線画像101と反射対画像102が鮮明な画像となる路上環境において、白線が汚れたり摩滅していると、(b)に示すように画像信号に基づいて白線画像を認識することができない。しかしながら、走行レーンに沿って反射板が設置されていると、この反射体画像102を認識して反射板の位置を求め、この反射板の位置に基づいてハフ変換により白線画像を推定することができる。しかし、白線差分推定方法は、前述した白線推定方法および白線合成推定方法に比べて情報量が少なく、遠方の反射板は走行レーンに沿ったものではないことが多く、遠方の反射板の情報を参照すると、誤推定の原因となることが多い。そこで、この白線差分推定方法では、近距離領域(画面の下部領域)の情報を重視し、画面の下方から2〜3つの情報を使用して直線近似することにより、(c)に示すように白線画像101cを推定することが望ましい。
ここで、このような画像認識処理方法の切り替えと赤外光投光器6およびヘッドライト7の点灯状態を切り替える制御処理を図9を参照して説明する。この制御処理は、主として、画像処理部4におけるCPU46が実行する。
ステップ1001
昼夜の判定を行って制御処理を分岐する。この判定は、運転者がライト操作スイッチ10を操作してヘッドライト7の点灯を指示する指示信号を発生させているときには夜間と判定し、ヘッドライト点灯の指示信号が発生していないときには、撮像して得た画像信号(画像の明るさなど)や撮像制御信号を解析して夜間か昼間かを判定するようにして行う。
昼夜の判定を行って制御処理を分岐する。この判定は、運転者がライト操作スイッチ10を操作してヘッドライト7の点灯を指示する指示信号を発生させているときには夜間と判定し、ヘッドライト点灯の指示信号が発生していないときには、撮像して得た画像信号(画像の明るさなど)や撮像制御信号を解析して夜間か昼間かを判定するようにして行う。
ここで、撮像して得た画像信号や撮像制御信号に基づいて昼夜を判定する判定方法を図10〜図12を参照して説明する。
図10において、横軸は、撮像対象物の明るさの物理量(例えば、cd/m2)を示し、縦軸は、この撮像対象物を撮像デバイス3で電子シャッタ値(シャッタ速度)を変化させて撮像して取り込んだ画像信号の値(濃度値)の一例を示している。ここで、電子シャッタ値とは、撮像デバイス3におけるCCDにおいて電荷を蓄積する時間のことである。ここでは、10段階のシャッタ速度の特性を示しており、左側から順に、1/60,1/120,1/180,1/250,1/500,1/1000,1/2000,1/4000,1/10000,1/30000の特性曲線である。
このような特性の撮像デバイス3は、夜間に遅いシャッタ速度で撮像しているときに対向車のヘッドライトの光が入光すると、明る過ぎるために、濃度値が飽和(明飽和)してしまう。また、道路照明がある領域からない領域に移動すると、ヘッドライト7の照射範囲外では暗くなり過ぎて(暗飽和)、必要な濃度値が得られなくなる。CPU46は、画像信号の濃度値を参照して、適正範囲の濃度値の画像信号が得られるようなシャッタ速度となるようにタイミングジェネレータ41に指示する。
図11は、CPU46が実行する電子シャッタ速度の変更制御処理方法を示している。
ステップ2001
撮像して得た画像信号の各画素について、以下の処理が終了したかどうかを判定して処理を分岐する。
撮像して得た画像信号の各画素について、以下の処理が終了したかどうかを判定して処理を分岐する。
ステップ2002
未終了であれば、現在の対象となる画素の濃度値を判定して処理を分岐する。
未終了であれば、現在の対象となる画素の濃度値を判定して処理を分岐する。
ステップ2003
濃度値が250以上であれば明飽和している領域とみなし、明飽和画素数カウンタをアップする。
濃度値が250以上であれば明飽和している領域とみなし、明飽和画素数カウンタをアップする。
ステップ2004
明飽和画素数のカウント値が全画素数の半分の数以上かどうかを判定して処理を分岐する。
明飽和画素数のカウント値が全画素数の半分の数以上かどうかを判定して処理を分岐する。
ステップ2005
明飽和画素数カウンタのカウント値が全画素数の半分の数以上であれば、電子シャッタ速度が全く整合していない(遅すぎる)とみなして電子シャッタ速度を2段階アップ(速く)する。
明飽和画素数カウンタのカウント値が全画素数の半分の数以上であれば、電子シャッタ速度が全く整合していない(遅すぎる)とみなして電子シャッタ速度を2段階アップ(速く)する。
ステップ2006
濃度値が250未満のときには、更に、20以下かどうかを判定して処理を分岐する。
濃度値が250未満のときには、更に、20以下かどうかを判定して処理を分岐する。
ステップ2007
濃度値が20以下のときには暗飽和している領域とみなし、暗飽和画素数カウンタをアップする。
濃度値が20以下のときには暗飽和している領域とみなし、暗飽和画素数カウンタをアップする。
ステップ2008
暗飽和画素数カウンタのカウント値が全画素数の半分の数以上かどうかを判定して処理を分岐する。
暗飽和画素数カウンタのカウント値が全画素数の半分の数以上かどうかを判定して処理を分岐する。
ステップ2009
暗飽和画素数カウンタのカウント値が全画素数の半分の数以上であれば、電子シャッタ速度が全く整合していない(速すぎる)とみなして電子シャッタ速度を2段階ダウン(遅く)する。
暗飽和画素数カウンタのカウント値が全画素数の半分の数以上であれば、電子シャッタ速度が全く整合していない(速すぎる)とみなして電子シャッタ速度を2段階ダウン(遅く)する。
ステップ2010
飽和領域が少なく、全画素の処理が終了すると、その画面の濃度値の平均値を算出し、平均濃度値が160以上かどうか判定して処理を分岐する。
飽和領域が少なく、全画素の処理が終了すると、その画面の濃度値の平均値を算出し、平均濃度値が160以上かどうか判定して処理を分岐する。
ステップ2011
平均濃度値が160以上のときには、電子シャッタ速度を1段階アップ(速く)する。
平均濃度値が160以上のときには、電子シャッタ速度を1段階アップ(速く)する。
ステップ2012
平均濃度値が80以下かどうか判定して処理を分岐する。
平均濃度値が80以下かどうか判定して処理を分岐する。
ステップ2013
平均濃度値が80以下のときには、電子シャッタ速度を1段階ダウン(遅く)する。
平均濃度値が80以下のときには、電子シャッタ速度を1段階ダウン(遅く)する。
このように電子シャッタ速度を制御することにより、程好い明るさの画像信号を得ることができる。すなわち、このように制御された電子シャッタ速度で得られる画像信号の濃度値の平均値は、ある範囲内のものとなり、このような画像信号を得ることができる電子シャッタ速度は、昼間は速く、夜間は遅くなる。
このことから、この電子シャッタ速度(電子シャッタ値)を参照して昼夜を判定することができる。この判定方法を図12を参照して説明する。
ステップ3001
電子シャッタ値が5以上かどうかを判定して処理を分岐する。
電子シャッタ値が5以上かどうかを判定して処理を分岐する。
ステップ3002
シャッタ値が5以上のときには昼間と判定して相応する制御処理を実行する。
シャッタ値が5以上のときには昼間と判定して相応する制御処理を実行する。
ステップ3003
シャッタ値が4以下かどうかを判定して処理を分岐する。
シャッタ値が4以下かどうかを判定して処理を分岐する。
ステップ3004
シャッタ値が4以下のときには夜間と判定して相応する制御処理を実行する。 何れにも該当しないときには前回の判定に基づく制御処理結果を維持する。
シャッタ値が4以下のときには夜間と判定して相応する制御処理を実行する。 何れにも該当しないときには前回の判定に基づく制御処理結果を維持する。
ステップ1002(図9参照)
昼間と判定したときには、前回の画像認識処理による白線認識距離が40m以上かどうかを判定して処理を分岐する。ここで、40mの技術的な意義は、ヘッドライト7の短配光における照射での到達距離である。また、この距離の判定は、画像の垂直方向の位置に関連付けて行うことができる。
昼間と判定したときには、前回の画像認識処理による白線認識距離が40m以上かどうかを判定して処理を分岐する。ここで、40mの技術的な意義は、ヘッドライト7の短配光における照射での到達距離である。また、この距離の判定は、画像の垂直方向の位置に関連付けて行うことができる。
ステップ1003
白線認識距離が40m未満の場合には、赤外光投光器6を点灯する。
白線認識距離が40m未満の場合には、赤外光投光器6を点灯する。
ステップ1004
白線認識距離が60m以上かどうかを判定して処理を分岐する。
白線認識距離が60m以上かどうかを判定して処理を分岐する。
ステップ1005
白線認識距離が60m以上の場合には、赤外光投光器6を消灯する。白線認識距離が40以上で60m未満のときには、赤外光投光器6の点灯状態を変更しない(前回の制御状態を維持する)。
白線認識距離が60m以上の場合には、赤外光投光器6を消灯する。白線認識距離が40以上で60m未満のときには、赤外光投光器6の点灯状態を変更しない(前回の制御状態を維持する)。
ステップ1006
赤外光投光器6の点灯状態を判定して処理を分岐する。
赤外光投光器6の点灯状態を判定して処理を分岐する。
ステップ1007
赤外光投光器6が消灯しているときには、白線推定方法の画像認識処理を実行して走行レーンを検出する。この処理を実行しているときは、40m以上の白線の画像認識が安定して継続している状態である。
赤外光投光器6が消灯しているときには、白線推定方法の画像認識処理を実行して走行レーンを検出する。この処理を実行しているときは、40m以上の白線の画像認識が安定して継続している状態である。
ステップ1008
赤外光投光器6が点灯しているときには、白線差分推定方法の画像処理を実行する。この処理を実行しているときは、白線の状態が悪いことから、反射板(反射体画像)を参照して推定により走行レーンの検出を実行している状態である。
赤外光投光器6が点灯しているときには、白線差分推定方法の画像処理を実行する。この処理を実行しているときは、白線の状態が悪いことから、反射板(反射体画像)を参照して推定により走行レーンの検出を実行している状態である。
ステップ1009
ステップ1110における判定で夜間の場合には、ヘッドライト7を短配光(短距離の照射領域)で点灯させる。
ステップ1110における判定で夜間の場合には、ヘッドライト7を短配光(短距離の照射領域)で点灯させる。
ステップ1010
前回の認識処理による白線認識距離が40m以上かどうかを判定して処理を分岐する。
前回の認識処理による白線認識距離が40m以上かどうかを判定して処理を分岐する。
ステップ1011
白線認識距離が40m未満の場合には、赤外光投光器6を点灯する。
白線認識距離が40m未満の場合には、赤外光投光器6を点灯する。
ステップ1012
白線差分推定方法の画像認識処理を実行する。
白線差分推定方法の画像認識処理を実行する。
ステップ1013
白線認識距離が40m以上の場合には、60m以上かどうかを判定して処理を分岐する。
白線認識距離が40m以上の場合には、60m以上かどうかを判定して処理を分岐する。
ステップ1014
白線認識距離が40m以上で60m未満の場合には、赤外光投光器6を点灯する。
白線認識距離が40m以上で60m未満の場合には、赤外光投光器6を点灯する。
ステップ1015
前方に他の車両が走行しているかどうかを判定する。ここで、前方を走行する他の車両とは、同一方向に走行する先行車と対向車を含めたものである。
前方に他の車両が走行しているかどうかを判定する。ここで、前方を走行する他の車両とは、同一方向に走行する先行車と対向車を含めたものである。
ステップ1016
前方に他の走行車両がないときには、ヘッドライト7を長配光(遠距離の照射)で点灯して自車の運転者が遠くまで道路を視認することができるようにする。
前方に他の走行車両がないときには、ヘッドライト7を長配光(遠距離の照射)で点灯して自車の運転者が遠くまで道路を視認することができるようにする。
ステップ1017
前方に走行車両があるときには、それらの運転者の眩惑を避けるために、ヘッドライト7を短配光(短距離の照射)の点灯とする。
前方に走行車両があるときには、それらの運転者の眩惑を避けるために、ヘッドライト7を短配光(短距離の照射)の点灯とする。
ここで、先行車と対向車と反射板と交通信号灯の判別方法を説明する。
これらの判別は、自ら発光するもの(発光体)と光を反射するもの(反射体)の識別と、その組み合せにより行う。対向車と交通信号灯は、発光するもの(発光体)であり、対向車はヘッドライト7が白色光で発光しており、交通信号灯は特定色光で発光している。すなわち、赤外光遮断領域の可視光領域画像信号で特に明るい個所(画像)が発光体であり、その近傍に、赤外光投光器6の発光時には明るく、発光しないときには暗い個所がないところが、対向車あるいは交通信号灯と特定することができる。
反射板は、光の反射のみである。従って、赤外光投光器6の発光時と発光しないときの連続した画像信号を比較することで判別することができる。すなわち、発光時には明るくなり、発光しないときには暗くなる個所が反射板102の位置であると特定することができる。
先行車は、発光するもの(テールランプ)と反射するもの(リフレクタ)が近接している構成である。従って、赤外光遮断領域の可視光領域画像信号で特に明るい個所が発光体(テールランプ)であり、その近傍に、赤外光投光器6の発光時には明るく、発光しないときには暗くなる個所(リフレクタ)があるところを先行車の位置と特定することができる。
ステップ1018
白線認識距離が60m以上の場合には、赤外光投光器6を消灯する。
白線認識距離が60m以上の場合には、赤外光投光器6を消灯する。
ステップ1019
赤外光投光器6の点灯状態を判定して処理を分岐する。
赤外光投光器6の点灯状態を判定して処理を分岐する。
ステップ1020
赤外光投光器6が消灯しているときには、白線推定方法の処理を実行する。この処理を実行しているときは、40m以上の白線の認識を安定して実行することができる状態である。
赤外光投光器6が消灯しているときには、白線推定方法の処理を実行する。この処理を実行しているときは、40m以上の白線の認識を安定して実行することができる状態である。
ステップ1021
赤外光投光器6が点灯しているときには、白線合成推定方法の処理を実行する。この処理を実行しているときは、遠くの白線を赤外光を利用した撮像により認識し、遠くの白線情報を利用して推定を実行している状態である。
赤外光投光器6が点灯しているときには、白線合成推定方法の処理を実行する。この処理を実行しているときは、遠くの白線を赤外光を利用した撮像により認識し、遠くの白線情報を利用して推定を実行している状態である。
ステップ1022
白線認識状態を判定する。赤外光投光器6を点灯している状態で白線認識距離が40m未満かどうかを判定して処理を分岐する。
白線認識状態を判定する。赤外光投光器6を点灯している状態で白線認識距離が40m未満かどうかを判定して処理を分岐する。
ステップ1023
赤外光投光器6を点灯している状態での白線認識距離が40m未満となっている状態では、白線の状態は悪く、更に反射板がなかったり、反射板の汚れがひどい状態であると推定し、このような環境状態では、走行レーンを正確に検出することが困難であることから、このような状態における走行レーン検出情報は、ステアリング制御器8や車間距離制御器9において使用しないように制限する。
赤外光投光器6を点灯している状態での白線認識距離が40m未満となっている状態では、白線の状態は悪く、更に反射板がなかったり、反射板の汚れがひどい状態であると推定し、このような環境状態では、走行レーンを正確に検出することが困難であることから、このような状態における走行レーン検出情報は、ステアリング制御器8や車間距離制御器9において使用しないように制限する。
画像処理部4は、赤外光投光器6およびヘッドライト7の点灯を制御しつつ画像認識処理によって白線,反射板,交通信号灯(交通信号機),先行車,対向車などを識別して走行レーンを検出する処理を実行するが、この間、赤外光投光器6の点灯状態に応じて可視光領域画像信号と可視光領域画像信号を選択的に使用してモニタ5に表示する映像信号を生成する。
この実施の形態において、不可視光として赤外光(赤外光投光器)を使用したが、紫外光(紫外光投光器)を使用するように変形することもできる。このような構成では、赤外光フィルタ2を紫外光フィルタに変更する。
また、赤外光フィルタ2の櫛状の歯が伸びる領域を横方向(水平方向)から縦方向(垂直方向)に変形することもできる。このような構成では、白線差分推定法において反射体画像認識のために算出する画素信号の差分値は、左右に隣り合う画素の画像信号の差分となる。
また、撮像デバイス3は、赤外光(不可視光)に対して感度をもつ画素列は、垂直方向の上部領域を下部領域よりも密に設定することにより、夜間には遠方の画像情報量を多く取得することができるように構成すると良い。
1…撮像レンズ、2…赤外光フィルタ、3…撮像デバイス、4…画像処理部、5…モニタ、6…赤外光投光器、7…ヘッドライト、8…ステアリング制御器、9…車間距離制御器、11…ヘッドライト制御回路。
Claims (7)
- 可視光に対して感度をもつ画素列領域である可視光領域と不可視光に対して感度をもつ画素列領域である不可視光領域とを交互に備え、車両前方を撮像する撮像デバイスと、
前記可視光領域から得られる可視光領域画像信号と前記不可視光領域から得られる不可視光領域画像信号との双方について画像処理を行う画像処理部とを備え、
前記画像処理部は、隣接する前記可視光領域と不可視光領域の画像信号を比較して反射板を認識することを特徴とする車載用画像処理装置。 - 請求項1において、
前記画像処理部は、隣接する前記可視光領域と不可視光領域の画像信号の差分を求め、当該差分の絶対値が所定値以上の大きさを示す領域を反射板として認識することを特徴とする車載用画像処理装置。 - 請求項1において、
前記画像処理部は、隣接する前記可視光領域と不可視光領域の画像信号の差分を求め、当該差分が正の領域と負の領域とが交互に並んだ領域を反射板として認識することを特徴とする車載用画像処理装置。 - 請求項1において、
前記画像処理部は、認識した複数の反射板に基づいて白線を認識することを特徴とする車載用画像処理装置。 - 請求項1において、
前記画像処理部は、前記撮像デバイスのうち所定位置よりも下側の領域で認識した反射板に基づいて白線を認識することを特徴とする車載用画像処理装置。 - 請求項1において、
車両前方に赤外光を照射する赤外光投光器の点灯及び消灯を制御する入出回路を備え、
前記撮像デバイスの前記可視光領域は赤外光を遮断し、前記撮像デバイスの前記不可視光領域は赤外光に対して感度をもち、
前記画像処理部は、前記赤外光投光器を点灯したときの画像信号と前記赤外光投光器を消灯したときの画像信号を比較し、前記赤外光投光器を消灯したときの画像が前記赤外光投光器を点灯したときの画像よりも暗い領域をリフレクタであると認識することを特徴とする車載用画像処理装置。 - 請求項6において、
前記画像処理部は、前記可視光領域画像信号において所定値よりも明るい部分を発光体と認識し、当該発光体と前記リフレクタとが隣接している領域を先行車と認識することを特徴とする車載用画像処理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006314963A JP2007124676A (ja) | 2006-11-22 | 2006-11-22 | 車載用画像処理装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006314963A JP2007124676A (ja) | 2006-11-22 | 2006-11-22 | 車載用画像処理装置 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002266482A Division JP3909691B2 (ja) | 2002-09-12 | 2002-09-12 | 車載用画像処理装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2007124676A true JP2007124676A (ja) | 2007-05-17 |
Family
ID=38147920
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006314963A Pending JP2007124676A (ja) | 2006-11-22 | 2006-11-22 | 車載用画像処理装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2007124676A (ja) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2009044544A1 (ja) * | 2007-10-01 | 2009-04-09 | Panasonic Corporation | 撮像装置 |
JP2012250618A (ja) * | 2011-06-02 | 2012-12-20 | Koito Mfg Co Ltd | 画像処理装置および配光制御方法 |
US9152850B2 (en) | 2012-10-09 | 2015-10-06 | Sony Corporation | Authentication apparatus, authentication method, and program |
JP2019214348A (ja) * | 2018-06-14 | 2019-12-19 | クラリオン株式会社 | 物体認識装置 |
WO2022196316A1 (ja) * | 2021-03-16 | 2022-09-22 | ソニーセミコンダクタソリューションズ株式会社 | 情報処理装置、情報処理方法及びプログラム |
US11670255B2 (en) * | 2019-03-25 | 2023-06-06 | Casio Computer Co., Ltd. | Signal light display determination device, signal light display determination method, and non-transitory computer-readable recording medium |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06113308A (ja) * | 1992-09-25 | 1994-04-22 | Daihatsu Motor Co Ltd | 車載用撮像装置における画像処理方法 |
JPH11203458A (ja) * | 1998-01-13 | 1999-07-30 | Nissan Motor Co Ltd | 道路形状認識装置 |
JP2000230805A (ja) * | 1999-02-09 | 2000-08-22 | Toyota Motor Corp | 走行レーン検出装置及び方法 |
JP2001189926A (ja) * | 1999-12-28 | 2001-07-10 | Mitsubishi Electric Corp | 路上監視用撮像装置 |
JP2001229717A (ja) * | 2000-02-15 | 2001-08-24 | Koito Mfg Co Ltd | 自動車用赤外光照射ランプ |
JP2002135629A (ja) * | 2000-10-25 | 2002-05-10 | Honda Motor Co Ltd | 車両用監視装置。 |
JP2002230563A (ja) * | 2001-02-05 | 2002-08-16 | Nissan Motor Co Ltd | 車両用カメラの映り込み検出方法および画像処理装置 |
JP2004104646A (ja) * | 2002-09-12 | 2004-04-02 | Hitachi Ltd | 車載用画像処理装置 |
-
2006
- 2006-11-22 JP JP2006314963A patent/JP2007124676A/ja active Pending
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06113308A (ja) * | 1992-09-25 | 1994-04-22 | Daihatsu Motor Co Ltd | 車載用撮像装置における画像処理方法 |
JPH11203458A (ja) * | 1998-01-13 | 1999-07-30 | Nissan Motor Co Ltd | 道路形状認識装置 |
JP2000230805A (ja) * | 1999-02-09 | 2000-08-22 | Toyota Motor Corp | 走行レーン検出装置及び方法 |
JP2001189926A (ja) * | 1999-12-28 | 2001-07-10 | Mitsubishi Electric Corp | 路上監視用撮像装置 |
JP2001229717A (ja) * | 2000-02-15 | 2001-08-24 | Koito Mfg Co Ltd | 自動車用赤外光照射ランプ |
JP2002135629A (ja) * | 2000-10-25 | 2002-05-10 | Honda Motor Co Ltd | 車両用監視装置。 |
JP2002230563A (ja) * | 2001-02-05 | 2002-08-16 | Nissan Motor Co Ltd | 車両用カメラの映り込み検出方法および画像処理装置 |
JP2004104646A (ja) * | 2002-09-12 | 2004-04-02 | Hitachi Ltd | 車載用画像処理装置 |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2009044544A1 (ja) * | 2007-10-01 | 2009-04-09 | Panasonic Corporation | 撮像装置 |
JP2012250618A (ja) * | 2011-06-02 | 2012-12-20 | Koito Mfg Co Ltd | 画像処理装置および配光制御方法 |
US9152850B2 (en) | 2012-10-09 | 2015-10-06 | Sony Corporation | Authentication apparatus, authentication method, and program |
JP2019214348A (ja) * | 2018-06-14 | 2019-12-19 | クラリオン株式会社 | 物体認識装置 |
JP7244221B2 (ja) | 2018-06-14 | 2023-03-22 | フォルシアクラリオン・エレクトロニクス株式会社 | 物体認識装置 |
US11670255B2 (en) * | 2019-03-25 | 2023-06-06 | Casio Computer Co., Ltd. | Signal light display determination device, signal light display determination method, and non-transitory computer-readable recording medium |
WO2022196316A1 (ja) * | 2021-03-16 | 2022-09-22 | ソニーセミコンダクタソリューションズ株式会社 | 情報処理装置、情報処理方法及びプログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3909691B2 (ja) | 車載用画像処理装置 | |
JP5846872B2 (ja) | 画像処理装置 | |
US10129465B2 (en) | Building night vision and other driver assistance systems (DAS) using near infra-red (NIR) illumination and a rolling shutter | |
JP6176028B2 (ja) | 車両制御システム、画像センサ | |
JP4253271B2 (ja) | 画像処理システム及び車両制御システム | |
JP4253275B2 (ja) | 車両制御システム | |
JP5680573B2 (ja) | 車両の走行環境認識装置 | |
US9639764B2 (en) | Image recognition system for vehicle for traffic sign board recognition | |
JP6132412B2 (ja) | 車外環境認識装置 | |
US20070221822A1 (en) | Headlight, Taillight And Streetlight Detection | |
US20100134616A1 (en) | Color mask for an image sensor of a vehicle camera | |
JP6236039B2 (ja) | 車外環境認識装置 | |
JP6420650B2 (ja) | 車外環境認識装置 | |
JP2008094249A (ja) | 車両検出装置及びヘッドランプ制御装置 | |
JP2017007624A (ja) | 車外環境認識装置 | |
JP2012240530A (ja) | 画像処理装置 | |
JP2007124676A (ja) | 車載用画像処理装置 | |
JP7241772B2 (ja) | 画像処理装置 | |
JP4917961B2 (ja) | 車載用車両灯検出装置および車両用照明装置 | |
JP6267493B2 (ja) | 矢印信号灯検出装置 | |
JP2019156276A (ja) | 車両検出方法及び車両検出装置 | |
JP6853890B2 (ja) | 物体検出システム | |
CN111971527B (zh) | 摄像装置 | |
JP2015169567A (ja) | 付着物検出装置、移動体機器制御システム及び付着物検出用プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20091210 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20091215 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20100112 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20100413 |