JP4071527B2 - 映像診断装置 - Google Patents
映像診断装置 Download PDFInfo
- Publication number
- JP4071527B2 JP4071527B2 JP2002115211A JP2002115211A JP4071527B2 JP 4071527 B2 JP4071527 B2 JP 4071527B2 JP 2002115211 A JP2002115211 A JP 2002115211A JP 2002115211 A JP2002115211 A JP 2002115211A JP 4071527 B2 JP4071527 B2 JP 4071527B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- abnormal
- video
- luminance
- foreign matter
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Description
【発明の属する技術分野】
この発明は、車両の前方あるいは後方等の監視用の車載カメラの映像を診断する映像診断装置に関する。
【0002】
【従来の技術】
自動車運転時の安全性を向上させる目的で、運転時に計測可能な画像入力センサの計測結果を評価して、警告を発したり運転制御を行って事故を回避するための装置が数多く提案されている。
たとえば、自車前方に設置されたカメラを用いるものとして、走行路前面の単一カメラからの画像解析によって自車線を抽出し走行路逸脱警報を発するためのものや、走行路前面の複数台のカメラ画像の解析によりステレオの原理を用いて、走行路前面の障害物を検知したり、自車の前走車との距離を計測して追突警報を行うものなどがある。
【0003】
また、自車後方に設置されたカメラを用いるものとして、自車の後方から接近して自車を追い越す動きのある他車を検知し、接触事故予防のための警報を発する装置などがある。
このような監視、警報装置において、入力画像が本来の監視処理に対して適正か、どうかを判定するものとして、逆光やスメアー(smear)のような輝度レベルの問題に注目し、画面内の輝度レベルの代表値をある閾値にしたがって評価し、是非を判定するものがある。たとえば、特開2001−43377号公報では、画面内の水平方向の輝度分布を異常時の分布と比較することで前述の判定をおこなっている。また、特開2001−43352号公報においては、画像の水平方向のエッジ(edge)が少なく、かつ平均輝度が高いときにフェールと判定するものである。
【0004】
前述したこれら従来技術からなる装置の大部分は、ある特定の特徴量を検出するために良好な入力映像が得られる場合を仮定しており、場合によっては検出条件を満たさない(以後異常映像と称する)ことも考えられる。この例として、入力画像の輝度が異常に高く飽和状態になったり逆に非常に不足している場合、および悪天候による雨滴、雪等、またはその他なんらかの汚れ、ゴミ等が撮像面に付着したり故意に正常映像が遮られてしまった場合などがある。
【0005】
以上の場合、ユーザーが異常に気付かずに装置を使用し続けたことで、本来の映像特徴量の計測ができないために所望の監視結果が得られない恐れがある。その場合、車両運転中のユーザが誤った判断をして、事故につながるおそれがある。これに対して、異常映像に対する手段を講じている車載監視装置の従来例として、前述の特開2001−43377号公報や特開2001−43352号公報、または特願平07−121678号(車両用車外監視装置)などがある。
【0006】
前者は逆光やスメアー(smear)のような輝度レベルの影響によっておこる異常映像を検知するためのものであるが、輝度分布やエッジ量の判定を水平方向のみで行っており、車両の進行方向が暗に画面垂直方向に仮定されており、不十分と考えられる。また、一般に車載監視装置において起こり得る異常状態としては、このような輝度レベルの問題以外に、撮像系レンズ面等に付着物が存在するために起こるものも多く、そのための対策が考慮されていない。
【0007】
一方、後者の例では撮像装置の画像取込タイミングをワイパーの動きと連動させたものであるため、雨雪による影響によって生じる異常映像をワイパーで除去してから使用しているために、ワイパーを動作させている場合には、付着物の問題にも対処できる。しかし一般に晴天時や少雨の場合にワイパーを使用するユーザは極めて少ないため、後者の方法を用いても異常映像に気付かずに監視装置を動作させ続けユーザの判断をあやまらせる可能性が残り、問題である。
【0008】
【発明が解決しようとする課題】
この発明は、監視用の映像が規格に満たない異常状態の映像か否かを診断することができることを目的としている。
【0009】
【課題を解決するための手段】
この発明の映像診断装置は、車両の後方あるいは前方の映像を撮像する撮像手段と、
前記撮影手段により撮影された映像における、前記車両が通過中の車線の左側領域及び右側領域の輝度を評価対象とし、左側領域と右側領域との評価量に所定値以上の差があるときに輝度異常状態であると診断する診断手段とを有する。
【0017】
【発明の実施の形態】
以下、図面を参照してこの発明の実施形態の車載型映像監視装置の映像診断システムを説明する。
すなわち、オプティカルフロー(optical−flow)検出を基本原理とする車載型映像監視装置によって監視を実施する場合に、入力映像診断を行うシステムの実施例を示す。車載型映像監視装置は、画像の中の動き情報を検出し、この動き情報に基づいて、車両がどこにいるとか、追越を掛けてきたとか、横から出てきた等を監視するものである。この装置における基となる入力映像の診断を行うものである。
【0018】
図1は、後側方監視用途で用いられる車載型映像監視装置の映像診断システムの概略構成を示すブロック図である。
この車載型映像監視装置の映像診断システムは、車両に搭載される車載型映像監視装置の映像を診断するシステムであり、映像入力手段1、映像監視手段2、映像診断領域決定手段3、判定モード設定手段4、高輝度異常映像判定手段5、異物付着異常映像判定手段6、警報手段7、非映像センサ8により構成されている。
【0019】
上記映像入力手段1、映像監視手段2、警報手段7により、車両の後方の映像に基づいて後側方からの追い越し車両の存在についての警告信号を発する運転支援システム(車載型映像監視装置)となっている。
【0020】
映像入力手段1は、図2に示すように、車両Jの後部から後側方視野(自車線の両隣りの車線に相当する)をカバーするように自車Jの後方を撮像する撮像手段としてのCCDカメラ(車載カメラ)Cにより構成され、撮像画像はディジタル化された映像として映像監視手段2、映像診断領域決定手段3、高輝度異常映像判定手段5、異物付着異常映像判定手段6に出力される。この映像入力手段1の撮像面(カメラレンズ)、またはそのカバー面などに雨滴、雪、氷、泥などの異物が付着したり、逆光、昼間のトンネルの出入りによる照度の急変などによって入力映像が劣化し、監視が不可能になる場合がある。
【0021】
映像監視手段2は、後述する手法により、映像入力手段1からの入力映像としてのディジタル化された映像信号を用いて追い越し等の後側方監視処理を行うものである。
映像診断領域決定手段3は、映像入力手段1からの入力映像としてのディジタル化された映像信号を用いて、図3に示すように、映像監視手段2が処理対象とする画面内の追越車両監視領域Ad(Ad0〜Ad2)と、この追越車両監視領域Ad(Ad0〜Ad2)に隣接する周辺領域As(As0〜As2)とをたとえば白線W1、W2の判断に基づいて映像診断領域として決定するものである。
【0022】
たとえば、映像入力手段1からの複数フレームのビットマップデータを用いて、車両等の搬送方向(舵角の方向)と略同じ方向に連続する所定の幅を持ったデータを抽出することにより判断できる。
判定モード設定手段4は、高輝度異常映像判定手段5、異物付着異常映像判定手段6が、1つのフレーム単位で処理を行うのか、複数のフレーム単位で処理を行うのかを設定するものである。
【0023】
高輝度異常映像判定手段5は、入力映像が高輝度による異常映像であるか否かを判定するものである。
異物付着異常映像判定手段6は、入力映像が異物付着による異常映像であるか否かを判定するものである。
【0024】
警報手段7は、映像監視手段2による映像の監視結果が映像、音声にて報知するものである。
非映像センサ8は、本システムで使用するシステム時計、速度センサ、舵角センサ、ワイパースイッチの各センサとなっている。
【0025】
本実施形態は、輝度に関する異常映像の診断を行うものである。本実施形態は、映像を用いた車両用監視システムであって、入力映像が監視に不適な異常状態映像であることを検出する映像診断方式であり、異常状態映像として強反射、強入射光による輝度飽和映像を想定するが、正常映像であるのか異常映像であるのかを判別するために、正常な輝度分布、異常な輝度分布とを確率モデルとして持ち、各時刻の検出領域内の輝度分布が、どちらのモデルに近いかを用い、かつ各時刻の検出領域内の輝度分布にしたがって各モデルを更新することにより、画像取り込み装置の輝度特性や、画像入力時の照明条件に依存しにくいものである。
【0026】
特に、本実施形態は、前方および後方の視界での異常輝度映像の診断を行うものであり、例えば映像を用いた車両用監視システムであって、監視対象として、自車前方、および後方の映像を用いるものにおいて、入力映像が監視に不適な異常状態映像であることを検出する映像診断方式であり、異常状態映像として強反射、強入射光による輝度飽和映像を想定するが、正常映像であるのか異常映像であるのかを判別するための対象画像領域として、消失点近傍の1つないし複数の領域と、それ以外の1つないし複数の領域とを個別に使用し、これら各々の領域と、その周囲領域との輝度分布、およびそれぞれの領域での輝度分布同士の関係を用いて正常と異常とを判定するものである。
【0030】
さらに、本実施形態は異物付着に関する異常映像の診断(移動画素数比と不動画素分布の利用)を行うものである。すなわち、映像を用いた車両用監視システムにおいて、入力映像が監視に不適な異常状態映像であることを検出する映像診断方式であり、異常状態映像として撮像系レンズ面等に付着物が存在するために、本来の監視対象映像が遮られてしまった場合の映像を想定し、付着物が存在する映像中では、画面内のテクスチャ量が正常時より少なく、かつテクスチャの移動量が少ないのに対し、正常映像中では、テクスチャ量は多く、またその中での背景物体や移動物体上のテクスチャは移動するという特性に従って、画面内監視対象領域でのテクスチャを有する画素のうち、移動する画素の画素数比、およびそれらのうちの停止する画素の分布範囲とを評価して異常状態を検知するものである。
【0034】
上記車両用監視システム中の映像監視手段2は、例えば参考文献(特開2000−11133号公報、移動物体検出装置及びその方法)に示すような手法を用いた手段、または装置でよいが、後側方からの追い越し車両の存在についての警告信号を発することができるものとする。そのために前記映像入力手段1から入力され、ディジタル化された映像のうちある1フレームの中の指定領域についてある一定強度以上のテクスチャが存在する画素について、別時点のフレームにおいて対応付けをとり、それら同一と考えられる点のそれぞれのフレーム間での移動ベクトル(Optical flow)を評価する手法を用いているものと仮定する。
【0035】
この監視手法の場合、例えば前述の映像入力手段1の撮像面、またはそのカバー面などに雨滴、雪、氷、泥などの異物が付着したり、逆光、昼間のトンネルの出入りによる照度の急変などによって入力映像が劣化し、監視が不可能になる場合がある。雨滴、氷逆光などの結果、主に画像は輝度が飽和ぎみになったり、コントラスト不足となり、検出対象物に対する充分なテクスチャが存在しない画像である場合が多い。また、泥の付着の場合は主に対象物が隠蔽されて正確な追跡が行なえない。雪、氷の場合には、その付着量によって、コントラスト不足と隠蔽のどちらか、または両方の原因によって、やはり追跡による監視が不可能になる場合が多い。一般には、上述の監視を失敗させるような要因は複合して発生し、またその程度が本来の監視処理にどのような影響を及ぼした場合に監視不可能になるのかを詳細に調査することは困難な作業となる。
【0036】
したがって、本実施形態に示す各処理方法を用いることで、入力画像に生じた異常状態が、上述の主なる異常映像のうちのどちらか、または両方に該当するかどうかを、各々の異常映像ごとのチェック手法を並列に適用して判定することで、実際の映像監視手段2の処理を行なわないか、または映像監視手段2の処理と並行して、その処理成否を予測し入力画像が異常か正常かを通報することが可能となる。
【0037】
本システムの処理を大きく分けると、入力が監視映像として適切なものかどうかを判断するために、入力映像が高輝度異常映像であるかどうかを判定するための高輝度異常映像判定ステップと、入力映像が異物付着による異常映像であるかどうかを判定するための付着異常映像判定ステップと、それら両者からの判定結果を合成して、監視領域ごとに通報するための警報ステップとからなる。この時の全体処理の流れを図4のフローチャートに示す。
【0038】
まず、車両後部から後側方視野(自車線の両隣りの車線に相当する)をカバーするように設置された映像入力手段1において入力され(ST1)、ディジタル化された映像信号が映像監視手段2において、本来の目的である後側方監視処理に用いられる(ST2)。この処理の結果はある時点における追い越し車両存在の有無と、もし存在した場合には、その位置と自車両までの距離であり、これら情報を警報手段7において、追い越し車両が自車両の左右どちらかに存在し、距離(または接近の度合)がどの程度かを出力する。
【0039】
後側方監視処理と並行して、前述の高輝度異常映像判定ステップにおいては、映像診断領域決定手段3によって、映像監視手段2自身が処理対象とする画面内の追越車両監視領域Ad(Ad0〜Ad2)と、この追越車両監視領域Ad(Ad0〜Ad2)に隣接する周辺領域As(As0〜As2)とを映像診断領域として設定する。この際、図3に示すように、白線W1、W2により判別される左右の隣接車線R2、R3にそれぞれ追越車両監視領域Ad0〜Ad2が設定され、自車線R1における白線W1、W2の内側の左側領域R1a、右側領域R1bにそれぞれ周辺領域As0〜As2が設定されている。
【0040】
これにより、高輝度異常映像判定手段5において、監視対象領域とその周囲領域との輝度分布、およびそれぞれの領域での輝度分布同士の関係を用いて正常と異常とを判定する(ST3)。この際ユーザは、あらかじめ判定モード設定手段4を用いて、高輝度異常映像判定手段5での処理を単一フレームごとに算出するのか、異常であるか正常であるかを判定するための情報を複数フレーム画像全体または一部から抽出して、その時間的分布を評価することで、総合的に異常映像を判定するのか否かのモードを設定しておくことができる。
【0041】
また、同じく前述の付着異常映像判定ステップにおいては、付着物が存在する映像中では、画面内のテクスチャ量が正常時より少なく、かつテクスチャの移動量が少ないのに対し、正常映像中では、テクスチャ量は多く、またその中での背景物体や移動物体上のテクスチャは移動するという特性に従って、画面内監視対象領域でのテクスチャ総量に対する移動するテクスチャ量の比を評価して、入力映像が、異物付着による異常映像か否かの判定を異物付着異常映像判定手段6において行う(ST4)。
【0042】
高輝度異常映像判定ステップでの場合と同様に、本ステップにおいてもユーザが、あらかじめ判定モード設定手段4を用いて、異物付着異常映像判定手段6での処理を単一フレームごとに算出するのか、異常であるか正常であるかを判定するための情報を複数フレーム画像全体または一部から抽出して、その時間的分布を評価することで、総合的に異常映像を判定するのか否かのモードを設定しておくことができる。
【0043】
最後に、上記2ステップによって、各判定処理領域(追越車両監視領域Ad(Ad0〜Ad2))ごとに算出された高輝度異常映像か否か、および異物付着異常映像か否かについての判定結果は、高輝度異常映像判定手段5、および異物付着異常映像判定手段6から、警報手段7に送られ、この警報手段7によってまとめられた後、音声と映像に変換され、ユーザに提示される(ST5)。
【0044】
次に、上記高輝度異常映像判定ステップの処理について説明する。
追越車両監視領域Ad0〜Ad2は、白線W1、W2の交点に近い部分を基準に自車両Jからの相対的な距離(時間)を基準にして3つの領域に分けられている。
【0045】
本ステップで検出対象とする異常映像は、真後ろ(ただし監視装置が前方を対象とする場合には、真正面)や横から入射する強い光(逆光やスメアー)によるものであり、図5に示すようなものである。この場合、映像の上部に逆光による白く飛んでしまって見えなくなった部分(高輝度部分)がある異常映像である。
【0046】
まず、フレームごとに、映像監視手段2が処理対象とする、追越車両監視領域(図3)Ad0〜Ad2内、およびそれらの周辺領域As0〜As2において輝度頻度分布を求め、輝度頻度分布の特徴と輝度頻度分布間の関係とから、高輝度異常映像か否かの判定を各フレームにおいて行う。
【0047】
ここまで高輝度の異常状態という表現を用いてきたが、画像内のある領域について、ある時間区間をとったものと、別の時間区間をとったときでは、同一の輝度であっても、異常輝度と判定すべきものと、そうではないものとがある。例としては、曇天の夕方における異常な高輝度と晴天の日中における正常輝度とでは同一である場合もあるなどがある。また映像入力手段1では光学的輝度値をディジタル信号に変換するが、この変換特性(の調整度合)によっても同一の光学的輝度値が異常、または正常と判定しうる場合がある。
【0048】
以上の事実から”異常”に高輝度ということは、絶対的な輝度レベルで指定すべきものではなく、ある空間的、時間的な領域内に存在する画素の輝度分布として、正常なものである確率が小さく、異常なものである確率が高いものということができる。そこでここでは、ある領域に対して先に述べたように正常な輝度分布、異常な輝度分布とをそれぞれ確率モデルとして持ち、各時刻の検出領域内の輝度分布が、後者のモデルに近い場合に異常と判定することとし、各モデルは各時刻での検出領域(追越車両監視領域(Ad0〜Ad2))内の輝度分布にしたがって更新する方式を用いる。
【0049】
一方、ここでは特に本応用では監視対象領域(追越車両監視領域(Ad0〜Ad2))が自車の後方であるので、自車両進行方向に沿って車線が検出されるが、消失点近傍の監視領域Ad0と、消失点近傍の監視周辺領域As0とを他のAd,Asとは区別して使用している。この理由は、通常走行状態において消失点近傍方向から入射される光はカメラの光軸と並行に近い入射角度を持ち、一般に強度も横方向から入射される光より強いため、異常時である判定条件を横方向とは変えられるようにするためである。ここに、図6は、追越車両監視領域Ad0において、正常、および異常と判定すべき輝度分布が異なる様子を例として示したものであり、図7は、追越車両監視領域Ad1において、正常、および異常と判定すべき輝度分布が異なる様子を例として示したものである。
【0050】
また追越車両監視領域Ad0〜Ad2と周辺領域As0〜As2とを対にして考えているのは、単に追越車両監視領域Ad0〜Ad2の内部のみが高輝度なものとしてしまうと、白色の車の進入、車道への積雪等の例があり誤判定の恐れがある。そこで追越車両監視領域Ad0〜Ad2のみが高輝度なのではなく、その周辺部(周辺領域As0〜As2)もある程度高輝度であるようなもののみを高輝度異常映像とすることで判定精度を向上させるためである。以上を考慮して、正常輝度と異常輝度とのモデルは下式で示される。
【0051】
まず、ある領域の輝度が状態Θ(Θは”正常”または”異常”)である確率は以下のようになると仮定する。
ここにdとsとは、追越車両監視領域Ad、周辺領域As内部の輝度の状態である。したがってこれに相当する尤度L(Θ)は以下になる。
L(Θ)=L(d=Θ)+L(s=Θ)+L(s∈d) (2)
ここでAdおよびその周辺領域Asとしては、それぞれ本実施例では3通りの領域(Ad0〜Ad2、As0〜As2)があり、輝度の分布は、それぞれにおいて正規分布に従うと仮定して、式(2)の尤度を以下のように定義する。
【数1】
【0052】
このモデルを用いると、”高輝度異常”状態のフレームは以下の場合に相当する。
L(”異常”)>L(”正常”) (5)
実際は異常検出の感度をあげるために、式(3)での総和の演算を厳密に適用せずに、k=0,1,2のそれぞれの領域について式(4)でのΘ=”異常”とΘ=”正常”とを比較し、いずれの領域かで
Lk(”異常”)>Lk(”正常”) (6)
が成り立つときに異常としてもよい。
【数2】
【0053】
ただし、i=dまたはs、k:0,1,2、Θは’正常’または’異常’である。また、横方向から入射する光による高輝度異常映像においては、通常左右の隣接車線領域R2、R3を対象としての正常と異常との状態が異なるが、例えば雪原を走行している場合などでは、両者に大きな差異は生じない。そこで、自車線R1の左側領域R1a、右側領域R1bに別けて個別に検証することを特徴とし、左右の輝度異常状態の評価量に著しく差があるときに輝度異常状態として検出する。具体的には以下の式(9)が成り立つときに左側領域R1aが、式(10)が成り立つときに右側領域R1bがそれぞれ高輝度異常映像状態であると判定する。
【0054】
Ll−Lr>β (9)
Lr−Ll>β (10)
ここにβは、正定数であり、
【数3】
【0055】
ただしQkは、0以上の定数である。
さらに前述のように高輝度による異常映像を安定して抽出する目的のために、判定モード設定手段4を用いて、複数フレームでの情報を総合して、異常か否かを判定するようにしてもよい。このためには、各フレームごとに式(5)、式(6)、式(9)、および式(10)の条件を判定し、条件が満たされた場合に、輝度異常フレーム候補のフレーム数カウントCを大きくする。そして一定繰り返しフレーム数Fごとに以下をチェックし、条件を満たした場合に異常映像と判定する。
【0056】
C/F>S (13)
ただし、ここでSを異常フレーム数割合の閾値とする。
【0057】
本実施形態による高輝度異常映像判定ステップ(ST3)の処理を、図8に示すフローチャートを参照しつつ説明する。すなわち、高輝度異常映像判定手段5は、映像入力手段1から供給される現フレーム画像を取得する(ST11)。高輝度異常映像判定手段5は、この現フレーム画像に対して、映像診断領域決定手段3によって設定された領域情報に基づいて追越車両監視領域Ad(Ad0〜Ad2)と周辺領域As(As0〜As2)を設定する(ST12)。
【0058】
これにより、高輝度異常映像判定手段5は、左右の隣接車線R2、R3における追越車両監視領域Ad〜Ad2の各輝度頻度分布と、自車線R1の左側領域R1a、右側領域R1bにおける周辺領域As0〜As2の各輝度頻度分布とを計測する(ST13)。
また、高輝度異常映像判定手段5は、上記各領域の輝度分布と、モデルテーブル5aに登録されている上記各領域の正常輝度分布(正常モデル)と異常輝度分布(異常モデル)とを比較し、つまり上記各領域の輝度分布に対応する尤度L(Θ)と各領域の正常モデルと異常モデルに対応する尤度L(Θ)とを比較し(ST14)、近い方のモデルに対応する状態を判定結果として出力する(ST15)。
【0059】
また、高輝度異常映像判定手段5は、各領域ごとの輝度値の時間平均値と各領域の正常モデルと異常モデルに対応する輝度値の時間平均値との距離が上記時間標準偏差の所定倍以下か否かを判断し(ST16)、所定倍以下を判断した際、今回計測した輝度値の時間平均値に基づいて、モデルテーブル5aに登録されている対象となる領域の正常モデルあるいは異常モデルの尤度L(Θ)(あるいは輝度値の時間平均値)を更新する(ST17)。
【0060】
この更新後、またはステップ16において各領域ごとの輝度値の時間平均値と各領域の正常モデルと異常モデルに対応する輝度値の時間平均値との距離が上記時間標準偏差の所定倍以上の際に、つまり少なくとも1つの領域の判定結果として異常が出力された場合(Lk(”異常”)>Lk(”正常”))、あるいは、左側領域R1a、右側領域R1bのいずれかが高輝度異常映像状態の場合(Ll−Lr>βorLr−Ll>β)、高輝度異常映像判定手段5は、高輝度映像異常を判断し(ST18)、高輝度映像異常情報を警報手段7に出力し(ST19)、ステップ11に戻る。
【0061】
また、高輝度異常映像判定手段5は、ステップ18で高輝度映像異常を判断しなかった場合、ステップ11に戻る。
なお、上記白線検知による領域情報の決定を高輝度異常映像判定手段5が行うようにしても良い。
【0062】
次に、上記高輝度異常映像判定ステップの別の処理を、図9に示すフローチャートを参照しつつ説明する。この場合、高輝度異常映像判定手段5に、高輝度フレーム候補のカウントが為される高輝度フレーム候補カウンタCと、サンプリングするフレーム数がカウントされるフレームカウンタFとが設けられる。
【0063】
すなわち、高輝度異常映像判定手段5は、高輝度フレーム候補カウンタC=0、フレームカウンタF=0を設定する(ST21)。ついで、高輝度異常映像判定手段5は、映像入力手段1から供給される現フレーム画像を取得する(ST11)。
高輝度異常映像判定手段5は、この現フレーム画像に対して、映像診断領域決定手段3による白線検知によって設定された領域情報に基づいて追越車両監視領域Ad(Ad0〜Ad2)と周辺領域As(As0〜As2)を設定する(ST12)。
【0064】
これにより、高輝度異常映像判定手段5は、左右の隣接車線R2、R3における追越車両監視領域Ad〜Ad2の各輝度頻度分布と、自車線R1の左側領域R1a、右側領域R1bにおける周辺領域As0〜As2の各輝度頻度分布とを計測する(ST13)。
また、高輝度異常映像判定手段5は、上記各領域の輝度分布と、モデルテーブル5aに登録されている上記各領域の正常輝度分布(正常モデル)と異常輝度分布(異常モデル)とを比較し、つまり上記各領域の輝度分布に対応する尤度L(Θ)と各領域の正常モデルと異常モデルに対応する尤度L(Θ)とを比較し(ST14)、近い方のモデルに対応する状態を判定結果として出力する(ST15)。
【0065】
また、高輝度異常映像判定手段5は、各領域ごとの輝度値の時間平均値と各領域の正常モデルと異常モデルに対応する輝度値の時間平均値との距離が上記時間標準偏差の所定倍以下か否かを判断し(ST16)、所定倍以下を判断した際、今回計測した輝度値の時間平均値に基づいて、モデルテーブル5aに登録されている対象となる領域の正常モデルあるいは異常モデルの尤度L(Θ)(あるいは輝度値の時間平均値)を更新する(ST17)。
【0066】
この更新後、またはステップ16において各領域ごとの輝度値の時間平均値と各領域の正常モデルと異常モデルに対応する輝度値の時間平均値との距離が上記時間標準偏差の所定倍以上の際に、つまり少なくとも1つの領域の判定結果として異常が出力された場合(Lk(”異常”)>Lk(”正常”))、あるいは、左側領域R1a、右側領域R1bのいずれかが高輝度異常映像状態の場合(Ll−Lr>βorLr−Ll>β)、高輝度異常映像判定手段5は、高輝度映像異常を判断し(ST18)、ステップ22に進む。
【0067】
また、高輝度異常映像判定手段5は、ステップ18で高輝度映像異常を判断しなかった場合、ステップ11に戻る。
上記ステップ18において少なくとも1つの判定結果として異常が出力された際、高輝度異常映像判定手段5は、高輝度映像異常を判断し、高輝度フレーム候補カウンタCをカウントアップ(C=C+1)する(ST22)。さらに、高輝度異常映像判定手段5は、フレームカウンタFがサンプリングするフレーム数(Ft)に達したか否かを判断する(ST23)。
【0068】
そして、高輝度異常映像判定手段5は、フレームカウンタFがサンプリングするフレーム数に達したと判断した際、高輝度フレーム候補数をサンプリングするフレーム数により除算した値が、所定値Sよりも大きい場合に(ST24)、高輝度映像異常を判断し、高輝度映像異常情報を警報手段7に出力し(ST25)、高輝度フレーム候補カウンタCを0に設定し、フレームカウンタFを0に設定し(ST26)、ステップ11に戻る。
【0069】
また、ステップ23において、各領域の判定結果として正常が出力された際、またはステップ23において、フレームカウンタFがサンプリングするフレーム数(Ft)に達していないと判断された場合、高輝度異常映像判定手段5は、フレームカウンタFをカウントアップ(F=F+1)し(ST27)、ステップ11に戻る。
【0070】
また、ステップ24において、高輝度異常映像判定手段5は、高輝度フレーム候補数をサンプリングするフレーム数により除算した値が、所定値(異常フレーム数割合の閾値)Sよりも小さい場合に、ステップ11に戻る。また、判定モード設定手段4により設定されている判定モードに基づいて、1つのフレーム単位の処理を行うのか、複数フレームによる処理を行うようにしても良い。
【0071】
この場合、図10に示すように、図9に示すフローチャートに、ステップ15のYES、NOのそれぞれの後段に複数フレーム判定モードかを判断するステップ31、32を追加する。ステップ31によりNOを判断した際、ステップ11に戻り、ステップ32によりYESを判断した際、ステップ22に進む。
【0072】
また、ステップ31によりYESを判断した際、ステップ27に進み、ステップ32によりNOを判断した際、追越車両監視領域Ad内での高輝度映像異常を判断し、高輝度映像異常情報を警報手段7に出力し(ST33)、ステップ11に戻る。
【0073】
次に、上記付着異常映像判定ステップ(ST4)の処理について説明する。
本ステップで検出対象とする異常映像は、画面を覆う形の雪,泥等の付着によるものであり、図11、図12に示すようなものである。通常、視界が良好の状態で車両が移動している場合、映像入力手段1からの映像を解析してoptical flow(=移動ベクトル)を求めたとすると、前述の監視対象領域においては、絶対値が完全に0となるoptical flowは極めて少ない。一方、図13の雪、泥などの付着による不検出状態では、同じ検知領域内において、このような速度0の移動ベクトル数の割合は多くなる。したがって、毎フレームでの追越車両監視領域Ad内のテクスチャのある画素集合Gに対して、移動ベクトルを計測し、速度0なる移動ベクトル数V0と画素集合Gのうちの全移動ベクトル数Vaとの比が下式のように、閾値Mより小さい場合、現在のフレームFを”付着による不検出候補フレーム”Fsとする。
【0074】
F=Fs,ifV0/Va<M (14)
ただし上記において、移動ベクトルの算出には、一般に相関法と呼ばれる方法を用いる。すなわち、まず、あるフレーム`内での注目画素p(x,y,t)について・その近傍領域rと、他フレームt’において、前述p(x,y,t)の周囲w以内のある画素p’(x’,y’,t’)の近傍領域r’(ただし、rとr’とは同一形状)とを仮定し、rとr’内部の対応する画素同士の輝度積または輝度差の絶対値を求め、r領域内についての総和sを求める。この処理を前記w以内の全画素について行い、sがある閾値st以下で、かつ最小となるような画素p’=p”を求め、ベクトルpp”を移動ベクトルとする。
【0075】
ここで式(14)において、付着状態と判定されたとしても、画素集合Gのうち停止している画素(停止画素)が、真の付着物体ではなく、ノイズによるものだった場合にその部分を移動物体が通過した場合などは、本来”付着”と判定されるべきでない。図11、図12は、このような場合に相当する疑似的付着と真の付着異常映像の例を示すが、一般に停止画素は、ある領域に局在せずに、画面内にまばらに存在し、かつその際の式(14)の条件式左辺は、真の付着状態よりは小さい値をとる傾向がある。
【0076】
そこで、式(14)の条件式の左辺がMよりは大きいが、M’よりは小さい場合に、異常検査対象領域内での停止する画素の分布範囲が閾値以上であった場合に、付着異常映像として判定する。ここに、前述の分布としては、それらの周辺分布をX軸方向と、Y軸方向とで求め、異常の条件としては、例えば、そのそれぞれの標準偏差Xd,Ydが、閾値TXd,TYdを越えることとしても良い。
【0077】
また、上記処理では付着物によって画面平面内での動きが遮られたとしても、その付着物が一般にある程度のテクスチャ強度を有するものであれば、テクスチャを有する画素の追跡によって、移動と停止の度合いを検証可能であることを前提にしていたが、そもそもほとんどテクスチャの存在しない付着物がレンズ面に存在する等の場合には、上記では異常と判定できない場合もある。そこで、式(14)の条件式の左辺がMよりは大きいがM”よりは小さい場合に、追越車両監視領域Ad内部の輝度分布が画面内の典型画素値から、一定値以上異なっていた場合に、付着物異常と判定することにする。具体的には、画面全体の平均輝度値をVf、追越車両監視領域Adの平均輝度値をμ、輝度値の標準偏差をσ、閾値をγとすると、(|Vf−μ|/σ)>γ (15)
なるときに異常と判定する。
【0078】
さらに高輝度異常映像検出と同様に、判定モード設定手段4を用いて、複数フレームでの情報を総合して、異常か否かを判定する場合の処理としては、このようなフレームごとの不検出候補Fsの判定をある一定時間(一定フレーム数)Ncを単位として行い、Ncフレーム中のFsなるフレームの数NsとNcとの比が閾値Stを超える場合、すなわち、(Ns/Nc)>St (16)
の場合に付着状態と判定する。
【0079】
上記異物付着異常映像判定ステップの処理を、図14に示すフローチャートを参照しつつ説明する。すなわち、異物付着異常映像判定手段6は、映像入力手段1から供給される現フレーム画像を取得する(ST41)。
【0080】
異物付着異常映像判定手段6は、この現フレーム画像に対して、映像診断領域決定手段3によって設定された領域情報に基づいて追越車両監視領域Adを設定する(ST42)。
これにより、異物付着異常映像判定手段6は、追越車両監視領域Ad内で、エッジ画像を作成し、かつ一定閾値で2値化した画素集合Gとする(ST43)。
【0081】
異物付着異常映像判定手段6は、上記画素集合G内でオプティカルフローを算出し、画素集合G内の速度0なるベクトル数V0と画素集合G内の全移動ベクトル数Vaとを算出する(ST44)。
異物付着異常映像判定手段6は、画素集合G内の速度0なるベクトル数V0を画素集合G内の全移動ベクトル数Vaにより除算した値が、閾値Mより小さいか否かにより(V0/Va<M)、異物付着による映像異常が生じているか否かを判断する(ST45)。
【0082】
この判断の結果、ステップ45において、異物付着による映像異常が生じている場合、異物付着異常映像判定手段6は、異物付着フレーム候補カウンタNsをカウントアップ(Ns=Ns+1)する(ST62)。さらに、異物付着異常映像判定手段6は、フレームカウンタFがサンプリングするフレーム数(Nc)に達したか否かを判断する(ST63)。
【0083】
そして、異物付着異常映像判定手段6は、フレームカウンタFがサンプリングするフレーム数に達したと判断した際、異物付着フレーム候補数(Ns)をサンプリングするフレーム数(Nc)により除算した値が、所定値Stよりも大きい場合に(ST64)、追越車両監視領域Ad内での異物付着映像異常を判断し、異物付着映像異常情報を警報手段7に出力し(ST65)、異物付着フレーム候補カウンタNsを0に設定し、フレームカウンタFを0に設定し(ST66)、ステップ41に戻る。
【0084】
また、異物付着異常映像判定手段6は、ステップ45において、異物付着による映像異常が生じていないと判断した際に、画素集合G内の速度0なるベクトル数V0を画素集合G内の全移動ベクトル数Vaにより除算した値が、閾値M’(M<M’)より小さいか否かにより(V0/Va<M’)、異物付着による映像異常が生じているか否かを判断する(ST47)。
【0085】
この結果、異物付着異常映像判定手段6は、ステップ47において、V0/Va<M’により異物付着による映像異常が生じていると判断した際に、画素集合G内の速度0なるテクスチャ画素の周辺分布の標準偏差Xd,Ydを算出する(ST48)。
これにより、異物付着異常映像判定手段6は、ステップ48において算出された各値により、標準偏差Xd,Ydが、それぞれ閾値TXd,TYdを越えた際に、異物付着による映像異常が生じていると判断し(ST49)、ステップ46に進む。
【0086】
また、異物付着異常映像判定手段6は、ステップ49において、標準偏差Xd,Ydの少なくとも一方が、閾値TXd,TYdを越えなかった際に、画素集合G内の速度0なるベクトル数V0を画素集合G内の全移動ベクトル数Vaにより除算した値が、閾値M”(M<M”)より小さいか否かにより(V0/Va<M”)、異物付着による映像異常が生じているか否かを判断する(ST50)。
【0087】
この結果、異物付着異常映像判定手段6は、ステップ50において、V0/Va<M”により異物付着による映像異常が生じていると判断した際に、画面全体の平均輝度値Vf、追越車両監視領域Adの平均輝度値μ、輝度値の標準偏差σを算出する(ST51)。
これにより、異物付着異常映像判定手段6は、ステップ51において算出された各値により、追越車両監視領域Ad内部の輝度分布が画面内の典型画素値から、一定値以上異なっていると判断した場合に「(|Vf−μ|/σ)>γ」、異物付着による映像異常が生じていると判断し、ステップ46に進む。
【0088】
また、異物付着異常映像判定手段6は、ステップ51において算出された各値により、追越車両監視領域Ad内部の輝度分布が画面内の典型画素値から、一定値以上異なっていないと判断した場合に、異物付着による映像異常が生じていないと判断し、ステップ41に戻る。
また、異物付着異常映像判定手段6は、ステップ47において、V0/Va>M’により異物付着による映像異常が生じていないと判断した際に、ステップ41に戻る。
また、異物付着異常映像判定手段6は、ステップ50において、V0/Va>M”により異物付着による映像異常が生じていないと判断した際に、ステップ41に戻る。
なお、上記白線検知による領域情報の決定を異物付着異常映像判定手段6が行うようにしても良い。
【0089】
上記異物付着異常映像判定ステップの別の処理を、図15に示すフローチャートを参照しつつ説明する。この場合、異物付着異常映像判定手段6に、付着フレーム候補のカウントが為される異物付着フレーム候補カウンタNsと、サンプリングするフレーム数がカウントされるフレームカウンタFとが設けられる。
【0090】
すなわち、異物付着異常映像判定手段6は、異物付着フレーム候補カウンタNsを0に(Ns=0)設定し、フレームカウンタFを0に(F=0)設定する(ST60)。ついで、異物付着異常映像判定手段6は、映像入力手段1から供給される現フレーム画像を取得する(ST61)。
【0091】
異物付着異常映像判定手段6は、この現フレーム画像に対して、映像診断領域決定手段3によって設定された領域情報に基づいて追越車両監視領域Adを設定する(ST41)。
これにより、異物付着異常映像判定手段6は、追越車両監視領域Ad内で、エッジ画像を作成し、かつ一定閾値で2値化した画素集合Gとする(ST42)。
【0092】
異物付着異常映像判定手段6は、上記画素集合G内でオプティカルフローを算出し、画素集合G内の速度0なるベクトル数V0と画素集合G内の全移動ベクトル数Vaとを算出する(ST44)。
異物付着異常映像判定手段6は、画素集合G内の速度0なるベクトル数V0を画素集合G内の全移動ベクトル数Vaにより除算した値が、閾値Mより小さいか否かにより(V0/Va<M)、異物付着による映像異常が生じているか否かを判断する(ST45)。
【0093】
この結果、異物付着異常映像判定手段6は、ステップ45において、異物付着による映像異常が生じていると判断した際に、追越車両監視領域Adでの異物付着映像異常情報を出力する(ST46)。
また、異物付着異常映像判定手段6は、ステップ45において、異物付着による映像異常が生じていないと判断した際に、画素集合G内の速度0なるベクトル数V0を画素集合G内の全移動ベクトル数Vaにより除算した値が、閾値M’(M<M’)より小さいか否かにより(V0/Va<M’)、異物付着による映像異常が生じているか否かを判断する(ST47)。
【0094】
この結果、異物付着異常映像判定手段6は、ステップ47において、V0/Va<M’により異物付着による映像異常が生じていると判断した際に、画素集合G内の速度0なるテクスチャ画素の周辺分布の標準偏差Xd,Ydを算出する(ST48)。
これにより、異物付着異常映像判定手段6は、ステップ48において算出された各値により、標準偏差Xd,Ydが、それぞれ閾値TXd,TYdを越えた際に、異物付着による映像異常が生じていると判断し(ST49)、ステップ46に進む。
【0095】
また、異物付着異常映像判定手段6は、ステップ49において、標準偏差Xd,Ydの少なくとも一方が、閾値TXd,TYdを越えなかった際に、画素集合G内の速度0なるベクトル数V0を画素集合G内の全移動ベクトル数Vaにより除算した値が、閾値M”(M<M”)より小さいか否かにより(V0/Va<M”)、異物付着による映像異常が生じているか否かを判断する(ST50)。
【0096】
この結果、異物付着異常映像判定手段6は、ステップ50において、V0/Va<M”により異物付着による映像異常が生じていると判断した際に、画面全体の平均輝度値Vf、追越車両監視領域Adの平均輝度値μ、輝度値の標準偏差σを算出する(ST51)。
これにより、異物付着異常映像判定手段6は、ステップ51において算出された各値により、追越車両監視領域Ad内部の輝度分布が画面内の典型画素値から、一定値以上異なっていると判断した場合に「(|Vf−μ|/σ)>γ」、異物付着による映像異常が生じていると判断し、ステップ46に進む。
【0097】
また、異物付着異常映像判定手段6は、ステップ51において算出された各値により、追越車両監視領域Ad内部の輝度分布が画面内の典型画素値から、一定値以上異なっていないと判断した場合に、異物付着による映像異常が生じていないと判断し、ステップ41に戻る。
また、異物付着異常映像判定手段6は、ステップ47において、V0/Va>M’により異物付着による映像異常が生じていないと判断した際に、ステップ41に戻る。
また、異物付着異常映像判定手段6は、ステップ50において、V0/Va>M”により異物付着による映像異常が生じていないと判断した際に、ステップ41に戻る。
【0098】
また、ステップ52において、異物付着による映像異常が生じていないと判断された場合、またはステップ63において、フレームカウンタFがサンプリングするフレーム数(Nc)に達していないと判断された場合、異物付着異常映像判定手段6は、フレームカウンタFをカウントアップ(F=F+1)し(ST67)、ステップ41に戻る。
また、ステップ64において、異物付着異常映像判定手段6は、異物付着フレーム候補数をサンプリングするフレーム数により除算した値が、所定値(異常フレーム数割合の閾値)Stよりも小さい場合に、ステップ41に戻る。
【0099】
また、判定モード設定手段4により設定されている判定モードに基づいて、1つのフレーム単位の処理を行うのか、複数フレームによる処理を行うようにしても良い。
【0100】
この場合、図16に示すように、図15に示すフローチャートに、ステップ45、47、52のYESの後段に複数フレーム判定モードかを判断するステップ80を追加し、ステップ47、50、52のNOの後段に複数フレーム判定モードかを判断するステップ81を追加する。ステップ80によりNOを判断した際、追越車両監視領域Ad内での異物付着映像異常を判断し、異物付着映像異常情報を警報手段7に出力し(ST81)、ステップ41に戻り、ステップ82によりYESを判断した際、ステップ67に進む。
【0101】
また、ステップ82によりNOを判断した際、ステップ41に戻る。
次に、検出状態の通知について説明する。
本方式の実行結果は、警報手段7によって、各フレームごとに、または異常映像の判定が行われるごとに、各判定処理領域ごとに算出された高輝度異常映像か否か、および異物付着異常映像か否かについての判定結果が、音声、または音声と映像によってユーザに提示される。
【0102】
また、上記の説明では、車両の後方の監視システムの場合について説明したが、図17に示すように車両の先方の監視システムの場合についても同様に実施できる。上記したように、映像を用いた車両用監視システムにおいて、高輝度入力映像による輝度飽和による映像を診断・判定する目的において、単に輝度が異常に高いことや、水平方向の輝度分布などを使うのではなく、正常な輝度分布、異常な輝度分布とを確率モデルとして持ち、各時刻の検出領域内の輝度分布が、どちらのモデルに近いかを用い、かつ各時刻の検出領域内の輝度分布にしたがって各モデルを更新することにより、画像取り込み装置の輝度特性や、画像入力時の照明条件に依存しにくい安定した映像診断を行うことが可能となる。
【0108】
以上から、車載型の画像監視装置における異常とみなされる入力映像のうちの主なものである、高輝度入力映像による輝度飽和、および異物の光学系への付着という状態を安定に検出することが可能となる。
【0109】
【発明の効果】
以上詳述したように、この発明によれば、監視用の映像が規格に満たない異常状態の映像か否かを診断することができる。
【図面の簡単な説明】
【図1】この発明の実施形態を説明するための車載型映像監視装置の映像診断システムの概略構成を示す図。
【図2】この発明の実施形態を説明するための車両の走行状態を示す図。
【図3】映像の例と領域を説明するための図。
【図4】車載型映像監視装置の映像診断処理を説明するためのフローチャート。
【図5】高輝度異常映像の例を説明するための図。
【図6】追越車両監視領域Ad0に対する正常輝度分布と異常輝度分布を説明するための図。
【図7】追越車両監視領域Ad1に対する正常輝度分布と異常輝度分布を説明するための図。
【図8】高輝度異常映像判定ステップの処理を説明するためのフローチャート。
【図9】高輝度異常映像判定ステップの処理を説明するためのフローチャート。
【図10】高輝度異常映像判定ステップの処理を説明するためのフローチャート。
【図11】付着異常映像の例を説明するための図。
【図12】付着異常映像の例を説明するための図。
【図13】付着異常映像の例を説明するための図。
【図14】異物付着異常映像判定ステップの処理を説明するためのフローチャート。
【図15】異物付着異常映像判定ステップの処理を説明するためのフローチャート。
【図16】異物付着異常映像判定ステップの処理を説明するためのフローチャート。
【図17】車両の走行状態を示す図。
【符号の説明】
1…映像入力手段、2…映像監視手段、3…映像診断領域決定手段、4…判定モード設定手段、5…高輝度異常映像判定手段、6…異物付着異常映像判定手段、7…警報手段、8…非映像センサ。
Claims (3)
- 車両の後方あるいは前方の映像を撮像する撮像手段と、
前記撮影手段により撮影された映像における、前記車両が通過中の車線の左側領域及び右側領域の輝度を評価対象とし、左側領域と右側領域との評価量に所定値以上の差があるときに輝度異常状態であると診断する診断手段と、
を具備したことを特徴とする映像診断装置。 - 前記撮像手段への異物付着による映像異常を検知して報知する手段をさらに具備することを特徴とする請求項1に記載の映像診断装置。
- 映像異常を報知して報知する手段は、前記撮影手段により撮影された映像における特定領域のテクスチャ総量に対する移動するテクスチャ量の比から前記映像異常を検知することを特徴とする請求項2に記載の映像診断装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002115211A JP4071527B2 (ja) | 2002-04-17 | 2002-04-17 | 映像診断装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002115211A JP4071527B2 (ja) | 2002-04-17 | 2002-04-17 | 映像診断装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2003312408A JP2003312408A (ja) | 2003-11-06 |
JP4071527B2 true JP4071527B2 (ja) | 2008-04-02 |
Family
ID=29533680
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002115211A Expired - Fee Related JP4071527B2 (ja) | 2002-04-17 | 2002-04-17 | 映像診断装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4071527B2 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11093786B2 (en) * | 2018-12-28 | 2021-08-17 | Denso Ten Limited | Extraneous-matter detecting apparatus and extraneous-matter detecting method |
US11120291B2 (en) | 2018-12-28 | 2021-09-14 | Denso Ten Limited | Extraneous-matter detecting apparatus and extraneous-matter detecting method |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4107273B2 (ja) * | 2004-08-04 | 2008-06-25 | 日産自動車株式会社 | 移動体検出装置 |
JP4883415B2 (ja) * | 2007-09-27 | 2012-02-22 | サクサ株式会社 | 監視装置及びプログラム |
RU2633120C2 (ru) | 2012-03-01 | 2017-10-11 | Ниссан Мотор Ко., Лтд. | Устройство обнаружения трехмерных объектов |
KR101678098B1 (ko) * | 2015-03-24 | 2016-11-23 | 에스엘 주식회사 | 차량의 주변 감시 장치 |
JP6891460B2 (ja) * | 2016-11-17 | 2021-06-18 | 株式会社デンソー | 車両用表示システムおよびフリーズ検出装置 |
JP7077356B2 (ja) * | 2020-04-21 | 2022-05-30 | 住友重機械工業株式会社 | 作業機械用周辺監視システム |
CN114627079B (zh) * | 2022-03-16 | 2023-03-10 | 江苏立晶工业科技有限公司 | 基于人工智能的安防监控设备异常检测方法及系统 |
-
2002
- 2002-04-17 JP JP2002115211A patent/JP4071527B2/ja not_active Expired - Fee Related
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11093786B2 (en) * | 2018-12-28 | 2021-08-17 | Denso Ten Limited | Extraneous-matter detecting apparatus and extraneous-matter detecting method |
US11120291B2 (en) | 2018-12-28 | 2021-09-14 | Denso Ten Limited | Extraneous-matter detecting apparatus and extraneous-matter detecting method |
Also Published As
Publication number | Publication date |
---|---|
JP2003312408A (ja) | 2003-11-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11238730B2 (en) | System and method for detecting and recording traffic law violation events | |
US9836657B2 (en) | System and method for periodic lane marker identification and tracking | |
US10860869B2 (en) | Time to collision using a camera | |
JP6246014B2 (ja) | 外界認識システム、車両、及びカメラの汚れ検出方法 | |
US11100806B2 (en) | Multi-spectral system for providing precollision alerts | |
US10220782B2 (en) | Image analysis apparatus and image analysis method | |
WO2016017340A1 (ja) | 周囲環境認識装置 | |
CN111942282B (zh) | 车辆及其驾驶盲区预警方法、装置、系统和存储介质 | |
CN102779430A (zh) | 基于视觉的夜间后碰撞警告系统、控制器及其操作方法 | |
GB2524368A (en) | Improved video-based system for automated detection of double parking violations | |
JP6139088B2 (ja) | 車両検知装置 | |
KR20100119476A (ko) | 연속류도로 사고 및 돌발 자동판별 검지시스템 및 그 방법 | |
JP4600929B2 (ja) | 停止低速車両検出装置 | |
KR20090130977A (ko) | 영상처리기법을 이용한 신호교차로의 교통상충 판단 시스템및 방법 | |
JP2005309797A (ja) | 歩行者警報装置 | |
JP2007026300A (ja) | 交通流異常検出装置及び交通流異常検出方法 | |
JP4071527B2 (ja) | 映像診断装置 | |
CN101349562A (zh) | 车辆行驶偏向的警报方法及装置 | |
JP4346275B2 (ja) | 映像診断装置および車載型映像監視装置 | |
JP5175765B2 (ja) | 画像処理装置及び交通監視装置 | |
Zheng et al. | Detecting cycle failures at signalized intersections using video image processing | |
JP2007164566A (ja) | 感応制御用車両感知システムおよび装置 | |
JPH10269492A (ja) | 車両監視装置 | |
JP2022032611A (ja) | 駅ホームの監視システム | |
JP2002163792A (ja) | 障害物衝突防止支援システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050415 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070524 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070619 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070820 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20071002 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20071128 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080115 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080117 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110125 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120125 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130125 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130125 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140125 Year of fee payment: 6 |
|
LAPS | Cancellation because of no payment of annual fees |