JP2004326270A - 路上落下物検出装置 - Google Patents
路上落下物検出装置 Download PDFInfo
- Publication number
- JP2004326270A JP2004326270A JP2003117689A JP2003117689A JP2004326270A JP 2004326270 A JP2004326270 A JP 2004326270A JP 2003117689 A JP2003117689 A JP 2003117689A JP 2003117689 A JP2003117689 A JP 2003117689A JP 2004326270 A JP2004326270 A JP 2004326270A
- Authority
- JP
- Japan
- Prior art keywords
- area
- road
- candidate
- image
- correlation value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
- Closed-Circuit Television Systems (AREA)
Abstract
【解決手段】カメラ1は、路上領域を撮像する。処理部2は、画像領域を分割した各小領域について、カメラ1から得られ順次サンプリングされる画像と背景画像との間の第1の相関値を得る。処理部2は、現画像及び過去の画像について得た各小領域の第1の相関値に基づいて、路上落下物候補領域を得て、これを検出処理対象として登録する。処理部2は、現在登録されている路上落下物候補領域について、現画像と前回の画像との間の第2の相関値を得る。処理部2は、第2の相関値が所定値以下である領域を、検出処理対象としての登録から削除する。処理部2は、現在登録されている落下物候補領域いずれかの領域の、登録されている時間に応じた値が、所定時間以上であることを示す場合に、路上落下物が存在すると判定する。
【選択図】 図1
Description
【発明の属する技術分野】
本発明は、路上の落下物を検出する路上落下物検出装置に関するものである。
【0002】
【従来の技術】
従来から、この種の路上落下物検出装置として、下記の特許文献1に開示された装置が知られている。この装置では、動画像からサンプリングした画像を小領域に切り分け、一つ一つの小領域について予め準備した移動物体を含まず障害物の存在しない背景画像の対応する領域との正規化相関値の計算を一定時間ごとにサンプリングされる画像に対して繰り返し行って、その相関値の変化状態を一定の閾値で判定することにより、路上障害物を検出する。
【0003】
このような従来の路上落下物検出装置では、小領域ごとにサンプリング画像と背景画像との間の相関値を求め、これらの相関値に基づいて路上落下物を検出するので、例えば小領域に分けることなく全領域について一括してサンプリング画像と背景画像との間の相関値を求めて、この相関値に基づいて路上落下物を検出する場合に比べて、相関値演算の処理速度を高めることができるとともに、路上落下物の検出精度を高めることができる。
【0004】
【特許文献1】
特開2002−24808号公報
【0005】
【発明が解決しようとする課題】
しかしながら、前記従来の路上落下物検出装置では、小領域ごとに求めたサンプリング画像と背景画像との間の相関値の時間的な変化状態を一定の閾値で求めているので、必ずしも十分な検出精度を得ることが困難であった。
【0006】
本発明は、このような事情に鑑みてなされたもので、比較的少ない演算量ですむとともに、より高い精度で路上落下物を検出することができる路上落下物検出装置を提供することを目的とする。
【0007】
【課題を解決するための手段】
前記課題を解決するため、本発明の第1の態様による路上落下物検出装置は、路上領域を含む監視領域を撮像する撮像手段と、前記監視領域に応じた画像領域を分割した複数の小領域の各々について、前記撮像手段から時間経過に従って得られ順次サンプリングされる画像と背景画像との間の相関値を得る第1の相関値演算手段と、最新にサンプリングされた前記画像である現画像及び過去にサンプリングされた前記画像について前記第1の相関値演算手段により得られた前記各小領域の前記相関値に基づいて、前記現画像に関連して路上落下物の候補となる路上落下物候補領域を得る路上落下物候補領域取得手段と、前記現画像に関連して得られた前記路上落下物候補領域を検出処理対象として登録する手段と、前記検出処理対象として現在登録されている前記路上落下物候補領域について、前記現画像と前回サンプリングされた前記画像との間の相関値を得る第2の相関値演算手段と、前記第2の相関値演算手段により得られた前記相関値が所定値以下である前記路上落下物候補領域を、前記検出処理対象としての登録から削除する手段と、前記検出処理対象として現在登録されている前記落下物候補領域のうちの少なくとも1つの領域の、前記検出処理対象として登録されている時間に応じた値が、所定時間以上であることを示す場合に、前記路上落下物が存在すると判定する判定手段と、を備えたものである。
【0008】
この第1の態様では、小領域ごとに求めたサンプリング画像と背景画像との間の相関値に基づいて路上落下物候補領域を得、この落下物候補領域のうち現画像と前回のサンプリング画像との間の相関値が所定値より大きいものについて検出処理対象とし、当該検出処理対象の落下物候補領域が所定時間以上存在する場合に路上落下物が存在すると判定している。このように、前記第1の態様によれば、小領域ごとのサンプリング画像と背景画像との相関による路上落下物候補領域の抽出と、現画像と前回のサンプリング画像との間の相関による路上落下物候補領域の絞り込みとの、いわば2段階の選抜を経た領域に関して、時間的に継続して存在するという条件下で、路上落下物を検出している。したがって、前記従来の路上落下物検出装置に比べて、より高い精度で路上落下物を検出することができる。
【0009】
また、前記第1の態様では、路上落下物候補領域の抽出の際の相関値演算は小領域ごとに行うので、その演算量は全領域について一括して行う場合に比べて少なくてすむ。さらに、路上落下物候補領域の絞り込みの際の相関値演算は路上落下物候補領域についてのみ行うので、その演算量も少なくてすむ。したがって、前記第1の態様によれば、全体的に見ても、演算量は比較的少なくてすむ。
【0010】
本発明の第2の態様による路上落下物検出装置は、前記第1の態様において、前記路上落下物候補領域取得手段は、(a)前記現画像について前記第1の相関値演算手段により得られた前記各小領域の前記相関値に基づいて、前記現画像について前記複数の小領域の各々が、前記路上落下物の一次的な候補となる小領域である一次候補小領域か否かを判定する一次候補小領域判定手段と、(b)前記複数の小領域の各々に関連づけられたカウント値のうち、前記現画像について前記一次候補小領域であると判定された小領域に関連づけられたカウント値を、インクリメントするインクリメント手段と、(c)前記複数の小領域の各々に関連づけられた前記カウント値のうち、前記現画像について前記一次候補小領域でないと判定された小領域に関連づけられたカウント値を、リセットするリセット手段と、(d)前記インクリメント手段によるインクリメントの後に、前記複数の小領域のうち、関連づけられた前記カウント値が所定値以上の小領域である二次候補小領域を判別する二次候補小領域判別手段と、を有するものである。
【0011】
この第2の態様では、小領域ごとのカウント値を導入して前記インクリメント手段及び前記リセット手段を採用することで、一次候補小領域の連続性を条件として二次候補小領域を抽出している。したがって、前記第2の態様によれば、落下物候補領域をより適切に抽出することができ、ひいては、より高い精度で路上落下物を検出することができる。
【0012】
本発明の第3の態様による路上落下物検出装置は、前記第1の態様において、前記路上落下物候補領域取得手段は、(a)前記現画像について前記第1の相関値演算手段により得られた前記各小領域の前記相関値に基づいて、前記現画像について前記複数の小領域の各々が、前記路上落下物の一次的な候補となる小領域である一次候補小領域か否かを判定する一次候補小領域判定手段と、(b)前記複数の小領域の各々に関連づけられたカウント値のうち、前記現画像について前記一次候補小領域であると判定された小領域に関連づけられたカウント値を、インクリメントするインクリメント手段と、(c)前記複数の小領域の各々に関連づけられた前記カウント値のうち、前記現画像について前記一次候補小領域でないと判定された小領域に関連づけられたカウント値を、デクリメントするデクリメント手段と、(d)前記インクリメント手段によるインクリメントの後に、前記複数の小領域のうち、関連づけられた前記カウント値が所定値以上の小領域である二次候補小領域を判別する二次候補小領域判別手段と、を有するものである。
【0013】
この第3の態様は、前記第2の態様と基本的に同様であるが、前記第2の態様で採用されていたリセット手段に代えて前記デクリメント手段が採用されている。したがって、路上落下物が自動車の陰に隠れて見え隠れするような事態が頻繁に起きても、より迅速に路上落下物を検出することができる。
【0014】
本発明の第4の態様による路上落下物検出装置は、前記第2又は第3の態様において、前記一次候補小領域判定手段は、前記現画像について前記第1の相関値演算手段により得られた前記各小領域の前記相関値が所定値以上であるか否かを判定する相関値判定手段を有し、前記相関値判定手段により前記相関値が前記所定値以上であると判定された小領域を前記一次候補小領域であると判定するものである。
【0015】
この第4の態様は、一次候補小領域の判定手法の一例を挙げたものである。この第4の態様によれば、単純に相関値の大小のみで一次候補小領域を判定しているので、その演算量が少なくてすむ。
【0016】
本発明の第5の態様による路上落下物検出装置は、前記第2又は第3の態様において、前記一次候補小領域判定手段は、前記現画像について前記第1の相関値演算手段により得られた前記各小領域の前記相関値が所定値以上であるか否かを判定する相関値判定手段と、前記現画像と前記背景画像との差分画像を得る手段と、を有し、前記相関値判定手段により前記相関値が前記所定値以上であると判定された小領域のうち、前記差分画像において差分値が所定値以上である画素を含む小領域を、前記一次候補小領域であると判定するものである。
【0017】
この第5の態様は、一次候補小領域の判定手法の他の例を挙げたものである。この第5の態様によれば、相関値の大小のみで一次候補小領域を判定するだけでなく、相関値が大きい小領域のうち、差分画像において差分値が所定値以上である画素を含む小領域を、一次候補小領域であると判定している。したがって、前記第4の態様に比べて若干演算量は増えるものの、より精度良く一次候補小領域を抽出することができ、ひいては、より高い精度で路上落下物を検出することができる。
【0018】
本発明の第6の態様による路上落下物検出装置は、前記第2乃至第5のいずれかの態様において、前記路上落下物候補領域取得手段は、前記二次候補小領域をラベリングするラベリング手段を有し、前記ラベリングされた領域を前記路上落下物候補領域として得るものである。
【0019】
この第6の態様は、路上落下物候補領域として、二次候補小領域のラベリング領域を採用する例を挙げたものである。
【0020】
本発明の第7の態様による路上落下物検出装置は、前記第2乃至第5のいずれかの態様において、前記路上落下物候補領域取得手段は、前記二次候補小領域をラベリングするラベリング手段と、前記ラベリングされた領域の大きさが所定大きさ以上であるか否かを判定する大きさ判定手段とを有し、前記大きさ判定手段により前記所定大きさ以上であると判定されたラベリング領域を、前記路上落下物候補領域として得るものである。
【0021】
この第7の態様は、前記第6の態様と同様に、路上落下物候補領域として、二次候補小領域のラベリング領域を採用する例を挙げたものである。この第7の態様では、ラベリング領域の大きさが所定大きさ以上のものを路上落下物候補領域とするので、より精度良く路上落下物候補領域を抽出することができ、ひいては、より高い精度で路上落下物を検出することができる。
【0022】
本発明の第8の態様による路上落下物検出装置は、前記第6又は第7の態様において、前記検出処理対象として現在登録されている前記路上落下物候補領域について、前記現画像と前記背景画像との間の相関値を得る第3の相関値演算手段と、前記第3の相関値演算手段により得られた前記相関値が所定値以上である前記路上落下物候補領域を、前記検出処理対象としての登録から削除する手段と、を備えたものである。
【0023】
この第8の態様によれば、落下物候補領域としてのラベリング領域について、現画像と背景画像との間の相関値を得、この相関値が所定値以上である領域を検出処理対象領域から除外しているので、より高い精度で路上落下物を検出することができる。
【0024】
本発明の第9の態様による路上落下物検出装置は、前記第2乃至第5のいずれかの態様において、前記路上落下物候補領域取得手段は、前記二次候補小領域を前記路上落下物候補領域として得るものである。
【0025】
この第9の態様は、路上落下物候補領域として、二次候補小領域をそのまま採用する例を挙げたものである。
【0026】
本発明の第10の態様による路上落下物検出装置は、前記第1乃至第9のいずれかの態様において、サンプリングされた前記画像に基づいて、所定条件下で前記背景画像を更新する更新手段を備えたものである。
【0027】
この第10の態様によれば、所定条件下で前記背景画像を更新する更新手段を備えているので、周囲の状況(屋外における気象条件や、トンネル内における照明条件や、自動車の停止や渋滞など)が変化しても、より高い精度で路上落下物を検出することができる。
【0028】
【発明の実施の形態】
以下、本発明による路上落下物検出装置について、図面を参照して説明する。
【0029】
図1は、本発明の一実施の形態による路上落下物検出装置を示す概略ブロック図である。
【0030】
本実施の形態による路上落下物検出装置は、図1に示すように、路上領域を含む監視領域を撮像する撮像手段としてのテレビカメラ1と、テレビカメラ1からの画像信号をA/D変換して画像メモリ3にサンプリングして取り込み、このサンプリングされた画像に基づいて処理を行って路上落下物を検出する処理部2と、前記画像メモリ3とを備えている。なお、図面には示していないが、処理部2は、A/D変換器の他、後述する動作を実現するように、例えば、マイクロコンピュータ及び他の電子回路等で構成されている。
【0031】
本発明では、前記監視領域は、トンネル内の領域であってもよいし、屋外の領域であってもよい。
【0032】
図2及び図3は、テレビカメラ1により撮像された画像の例を模式的に示す概略図である。図2は路上落下物や自動車等の移動体が存在しない状態を示し、図3は路上落下物が存在する状態を示している。図2及び図3において、11は道路の一方側の車線の像、12はセンターラインの像、13は他方側の車線の像である。また、図3において、14は路上落下物の像である。
【0033】
本実施の形態では、図2及び図3において破線の升目で示すように、画像に対して、前記監視領域に応じた画像領域を分割した複数の小領域を予め設定しておく。本実施の形態では、各小領域は、画像領域上において同じ大きさに設定されているが、実際の大きさに合わせて、手前側の領域の小領域を大きく設定するとともに、奥側の領域の小領域を小さく設定するようにしてもよい。また、個々の小領域の数や形状は、検出すべき路上落下物の大きさを考慮して、適宜に設定することができる。また、各小領域には、後述するステップS32〜S34で用いるカウント値を関連づけておき、それらカウント値はゼロに初期設定しておく。これらのカウント値は、処理部の内部メモリ(図示せず)に格納される。
【0034】
なお、本実施の形態では、テレビカメラ1により撮像された画像の全体が監視領域であるものとしているが、路上落下物が存在し得ない領域については、監視領域から除外することとして、当該領域をマスク処理して後述する処理の対象から除外してもよいことは、言うまでもない。この場合、所望の監視領域についてのみ前記小領域を設定しておけばよい。
【0035】
次に、本実施の形態による路上落下物検出装置の動作について、図4乃至図9を参照して説明する。
【0036】
図4は、本実施の形態による路面状態判別装置の動作の全体を示す概略フローチャートである。図5は、図4中のステップS2の詳細を示す概略フローチャートである。図6は、図4中のステップS4の一部の詳細を示す概略フローチャートである。図7は、図4中のステップS4の残りの部分の詳細を示す概略フローチャートである。図8は、図4中のステップS5の詳細を示す概略フローチャートである。図9は、図4中のステップS6の詳細を示す概略フローチャートである。
【0037】
まず、本実施の形態による路上落下物検出装置の概略の動作を、図4を参照して説明する。
【0038】
最初に、図示しない入力部を操作して、処理に必要な各種のパラメータ(例えば、後述するステップS16で用いる累積回数N、ステップS26で用いる閾値a、ステップS34で用いる閾値b、ステップS54で用いる閾値c、ステップS58で用いる閾値d、ステップS60で用いる閾値eなど)を設定しておく(ステップS1)。これらのパラメータは、処理部の内部メモリ(図示せず)に格納される。勿論、これらのパラメータは、予め設定しておき、その変更等ができないようにしておいてもよい。
【0039】
次いで、処理部2は、初期の背景画像を作成する(ステップS2)。次に、処理部2は、最初の1ループの処理においてステップS5で必要となる前回の画像として、テレビカメラ1からの現在の画像をサンプリングして画像メモリ3に取り込んでおく(ステップS3)。その後、処理部2は、落下物候補領域の抽出・登録を行い(ステップS4)、登録されている落下物候補領域について追跡処理を行うことで、路上落下物の有無を判定する(ステップS5)。処理部2は、路上落下物が存在すると判定すると、落下物検出信号を外部に出力し、処理を終了する。一方、処理部は、路上落下物が存在しないと判定すると、所定条件下で背景画像を更新し(ステップS6)、ステップS4へ戻る。
【0040】
次に、ステップS2の初期の背景画像の作成処理の詳細について、図5を参照して説明する。
【0041】
ステップS1が終了すると、処理部2は、累積回数を示すカウント値nをゼロにセットする(ステップS11)。次いで、処理部2は、前回の累積画像f(t−1)を全画素がゼロの画像に初期設定する(ステップS12)。その後、処理部2は、テレビカメラ1からの現在の画像を、現在の画像g(t)としてサンプリングして画像メモリ3に取り込む(ステップS13)。
【0042】
次に、処理部2は、前回の累積画像f(t−1)とステップS13でサンプリングした画像g(t)とに基づいて、下記の数1に従って現在の累積画像f(t)を作成する(ステップS14)。数1において、αは、0<α<1を満たす重み係数であり、自動車等の移動体の影響などが低減されるような値に設定される。
【0043】
【数1】
f(t)=αf(t−1)+(1−α)g(t)
【0044】
その後、処理部2は、その内部メモリ(図示せず)に格納されたカウント値nを1だけインクリメントした(ステップS15)後、カウント値nが所定累積回数Nに達したか否かを判定する(ステップS16)。所定累積回数Nに達していなければ、処理部2は、現在の累積画像f(t)を前回の累積画像f(t−1)とし(ステップS17)、ステップS13へ戻る。一方、ステップS16で所定累積回数Nに達したと判定されると、処理部2は、現在の累積画像f(t)を初期の背景画像として画像メモリ3に保存する(ステップS18)。
【0045】
このようにして初期の背景画像を作成することで、図2に示すような初期の背景画像を作成することができる。勿論、自動車等の移動体が存在しない状態でテレビカメラ1により撮像された画像をサンプリングし、この画像を初期の背景画像としてもよいことは、言うまでもない。
【0046】
以下の説明において、背景画像は、ステップS6で更新されるまでは、ステップS18で保存された初期の背景画像を意味し、ステップS6で更新された後には、ステップS6で最新に更新された背景画像を意味する。
【0047】
次に、ステップS4の落下物候補領域の抽出・登録処理の詳細について、図6及び図7を参照して説明する。
【0048】
ステップS3の処理が終了すると、処理部2は、テレビカメラ1からの現在の画像をサンプリングして画像メモリ3に取り込む(ステップS21)。このステップS21で最新にサンプリングされた画像を、現画像と呼ぶ。
【0049】
次いで、処理部2は、現画像と背景画像との差分画像(背景差分画像)を作成し、(ステップS22)、この背景差分画像を所定閾値で2値化する(ステップS23)。ここでは、2値化後の背景差分画像において、現画像の画素と背景画像の画素との差が大きい画素は白画素となるものとする。したがって、路上落下物が存在する箇所の画素は白画素となる。なお、背景差分画像の2値化に用いる閾値は、固定閾値でもよいし、例えば判別分析法などによる可変閾値でもよい。
【0050】
その後、処理部2は、既に説明したようにして予め設定された複数の小領域(例えば、図2及び図3中の破線により区切られた個々の領域)のうち、当該ステップS24で今回未だ選択されていない1つの小領域を選択する(ステップS24)。
【0051】
次に、処理部2は、ステップS24で最新に選択された小領域について、現画像と背景画像との間の相関値を算出する(ステップS25)。例えば、ステップS24で最新に選択された小領域が図2及び図3中の左下の小領域であれば、処理部2は、現画像の左下の小領域と背景画像の左下の小領域との間の相関値を算出する。相関値は、相関係数とも呼ばれ、その値が高いほど両領域の相関性が高いことを示している。
【0052】
相関値を得るための具体的な計算式は、公知の種々の式を採用することができる。その一例として、下記の数2を挙げることができる。数2において、rは相関値を示している。数2は、画像f(x,y)と画像g(x,y)のp×q画素領域での相関値rを算出するための式である。数2において、Nは当該領域の全画素数である。
【0053】
【数2】
【0054】
次いで、処理部2は、ステップS25で算出した当該小領域の相関値が閾値aより小さいか否かを判定する(ステップS26)。閾値aより小さければ(すなわち、現画像の当該小領域と背景画像の当該小領域との相関性が所定程度より低ければ)、ステップS27へ移行し、一方、閾値aより小さくなければ、ステップS29へ移行する。当該小領域が路上落下物に相当する領域であれば、当該小領域の相関値は閾値aより小さくなり、ステップS27へ移行することになる。
【0055】
ステップS27において、処理部2は、ステップS23で得た2値化背景差分画像における当該小領域(ステップS24で最新に選択された小領域)が、白画素(現画像の画素と背景画像の画素との差が大きい画素)を含むか否かを、判定する。白画素を含む場合は、処理部2は、当該小領域を一次候補小領域(路上落下物の一次的な候補となる小領域)であると判別した(ステップS28)後に、ステップS29へ移行する。一方、ステップS28において白画素を含まないと判定されると、処理部2は、当該小領域を一次候補小領域であると判別することなく、ステップS29へ移行する。
【0056】
ステップS29において、処理部2は、既に説明したようにして予め設定された複数の小領域の全てについてステップS24の選択が終了した否かを判定し、終了していなければステップS24へ戻り、終了していればステップS30へ移行する。
【0057】
本実施の形態のように、一次候補小領域の判別に際して、ステップS22,S23の処理を行い、ステップS27でYESの場合にのみ当該小領域を一次候補小領域であると判別することが、一次候補小領域の抽出の精度をより高めるために好ましい。しかしながら、本発明では、ステップS22,S23,27を除去してステップS21の後に直ちにステップS24へ移行し、ステップS26でYESの場合にステップS28へ移行してもよい。
【0058】
ステップS30において、処理部2は、既に説明したようにして予め設定された複数の小領域のうち、当該ステップS30で今回未だ選択されていない1つの小領域を選択する。
【0059】
次に、処理部2は、ステップS30で最新に選択された小領域がステップS28で一次候補小領域であると判別されたものか否かを、判定する(ステップS31)。当該小領域が一次候補小領域でなければ、処理部2は、当該小領域に関連づけられたカウント値をゼロにリセットし(ステップS32)、ステップS36へ移行する。一方、当該小領域が一次候補小領域であれば、処理部2は、当該小領域に関連づけられたカウント値を1だけインクリメントし(ステップS33)、ステップS34へ移行する。
【0060】
ステップS34において、処理部2は、当該小領域のカウント値が閾値b以上であるか否かを判定する。閾値b以上であれば、処理部2は、当該小領域を二次候補小領域であると判別し(ステップS35)、ステップS36へ移行する。
【0061】
ステップS31〜S35によって、ステップS21でサンプリングされたb枚の連続する画像の全てについて、ある小領域が一次候補小領域となった場合に、初めて、当該小領域が二次候補小領域であると判別されることになる。路上落下物は静止物体であるので、当該小領域が路上落下物に相当する領域であれば、やがて当該領域は二次候補小領域と判別されることになる。
【0062】
本発明では、ステップS32において、当該小領域に関連づけられたカウント値をゼロにリセットする代わりに、当該小領域に関連づけられたカウント値を、ゼロを最小値として1だけデクリメントしてもよい。この場合には、路上落下物が自動車の陰に隠れて見え隠れするような事態が頻繁に起きても、より迅速に二次候補小領域が判別されるため、より迅速に路上落下物を検出することができる。
【0063】
ステップS36において、処理部2は、既に説明したようにして予め設定された複数の小領域の全てについてステップS30の選択が終了した否かを判定し、終了していなければステップS30へ戻り、終了していればステップS37へ移行する。
【0064】
ステップS37において、処理部2は、ステップS35で二次候補小領域であると判別された小領域についてラベリング処理を行う。これによるラベリング領域(ラベル付けされた領域)には、隣接する複数の二次候補小領域が存在する場合のそれらの連結領域と、他の隣接しない単独の二次候補小領域がある場合のその単独の二次候補小領域とが含まれることになる。
【0065】
次に、処理部2は、ステップS37でラベル付けされた各領域(各ラベリング領域)についてその大きさが所定大きさ以上であるか否かを判定し、所定大きさ以上のラベリング領域のみをそれぞれ落下物候補領域として判別する(ステップS38)。小領域の大きさを比較的小さく設定した場合には、本実施の形態のように、ラベリング領域の大きさで落下物候補領域を選別することが好ましい。もっとも、処理部2は、ステップS38を行う代わりに、ラベリング領域の大きさに拘わらず、全てのラベリング領域をそれぞれ落下物候補領域として判別してもよい。特に、小領域の大きさを比較的大きく設定した場合などには、ラベリング領域の大きさで落下物候補領域を選別しなくても、落下物候補領域の選別精度が落ちるようなことはない。
【0066】
ここで、背景画像が図2に示す画像であるとともに、各ループにおけるステップS21でのサンプリング画像が、図2に示す画像からある時点で図3に示す画像となり、その後も繰り返して図3に示す画像となる場合を例に挙げて、説明する。サンプリング画像が最初に図3に示す画像となったループのステップS33で、図10(a)に示すように、4つの小領域のカウント値が1となる。その後、サンプリング画像が最初に図3に示す画像となってからn回目のループのステップS33で、図10(b)に示すように、前記4つの小領域のカウント値がnとなる。そして、サンプリング画像が最初に図3に示す画像となってからb回目のループのステップS33で、前記4つの小領域のカウント値がbとなると、ステップS35でこれらの4つの小領域がそれぞれ二次候補小領域と判別され、図10(c)に示すように、これらの4つの小領域がステップS37でラベリングされて4つの小領域分の連結領域(図10(c)のハッチング領域)、この1つの連結領域が所定大きさ以上であれば、ステップS38で落下物候補領域として判別される。
【0067】
ステップS39以降の処理は、このようにして得られる落下物候補領域に関して行われる。なお、ステップS38で判別される落下物候補領域が1つに限られるものでないことは、言うまでもない。
【0068】
なお、本発明では、ステップS37及びS38を除去して、ステップS36でYESの場合には、ステップS35で判別された各二次候補小領域をそのまま落下物候補領域として判別し、この落下物候補領域に関してステップS39以降の処理を行ってもよい。
【0069】
ステップS38が終了すると、処理部2は、最新のステップS38で落下物候補領域として判別されたラベリング領域があるか否かを判定する(ステップS39)。最新のステップS38で判別された落下物候補領域がない場合は、ステップS4の処理を終了してステップS5へ移行する。一方、最新のステップS38で判別された落下物候補領域がある場合は、処理部2は、最新のステップS38で判別された落下物候補領域のうち、今回未だステップS39で選択されていない1つの落下物候補領域を選択する(ステップS40)。
【0070】
次に、処理部2は、ステップS39で選択された落下物候補領域について、当該落下物候補領域が検出処理対象として、既に、処理部2の内部メモリ(図示せず)に登録されているか否かを判定する(ステップS41)。既に登録されていれば、ステップS43へ移行する。一方、未登録であれば、処理部2は、ステップS39で選択された落下物候補領域を前記メモリに検出処理対象として登録し(ステップS42)、ステップS43へ移行する。なお、ステップS39で選択された落下物候補領域が既に登録されている落下物候補領域と完全に同一でなければ、両者の領域の一部が重複していても、ステップS39で選択された落下物候補領域は、ステップS42で検出処理対象として登録される。一旦検出処理対象として登録された落下物候補領域は、後述するステップS55で削除されない限り、検出処理対象として登録され続ける。
【0071】
ステップS43において、処理部2は、最新のステップS38で判別された落下物候補領域の全てについてステップS40の選択が終了した否かを判定し、終了していなければステップS40へ戻り、終了していればステップS4の処理を終了してステップS5へ移行する。
【0072】
次に、ステップS5の落下物候補領域の追跡・落下物判定処理の詳細について、図8を参照して説明する。
【0073】
ステップS4の処理が終了すると、処理部2は、その内部メモリに、現在、落下物候補領域が検出処理対象として登録されているか否かを判定する(ステップS51)。登録されていなければ、ステップS5の処理を終了してステップS6へ移行する。一方、登録されていれば、ステップS52へ移行する。
【0074】
ステップS52において、処理部2は、その内部メモリに検出処理対象として現在登録されている落下物候補領域のうち、当該ステップS52で未だ今回選択されていない1つの落下物候補領域を選択する。
【0075】
次に、処理部2は、ステップS52で選択された落下物候補領域ついて、現画像と背景画像との間の相関値を算出する(ステップS53)。次いで、処理部2は、ステップS53で算出した当該落下物候補領域の相関値が閾値cより小さいか否かを判定する(ステップS54)。閾値cより小さければ(すなわち、現画像の当該落下物候補領域と背景画像の当該落下物候補領域との相関性が所定程度より低ければ)、ステップS57へ移行し、一方、閾値cより小さくなければ、ステップS55へ移行する。当該落下物候補領域が路上落下物に相当する領域であれば、当該落下物候補領域の相関値は閾値cより小さくなり、ステップS57へ移行することになる。
【0076】
本実施の形態のように、ステップS53,S54の処理を行うことが、路上落下物の検出精度をより高めるために好ましい。しかしながら、本発明では、ステップS53,54を除去してステップS52の後に直ちにステップS57へ移行してもよい。
【0077】
ステップS55において、処理部2は、当該落下物候補領域(ステップS52で最新に選択された落下物候補領域)の検出処理対象としての登録を、内部メモリから削除し、ステップS56へ移行する。なお、ステップS55において、当該落下物候補領域の検出処理対象としての登録を削除するだけでなく、ステップS32と同様に、当該落下物候補領域に相当する小領域に関連づけられているカウント値をリセット又はデクリメントしてもよい。
【0078】
ステップS57において、処理部2は、当該落下物候補領域(ステップS52で最新に選択された落下物候補領域)について、現画像と前回ステップS21でサンプリングされた画像との間(ただし、1ループ目のステップ57では、現画像とステップS3でサンプリングされた画像との間)の相関値を算出する。次いで、処理部2は、ステップS57で算出した相関値が閾値dより大きいか否かを判定する(ステップS58)。閾値dより大きければ(すなわち、現画像の当該落下物候補領域と前回ステップS21でサンプリングされた画像(ただし、1ループ目では、ステップS3でサンプリングされた画像)の当該落下物候補領域との間の相関性が所定の程度より大きければ)、ステップS59へ移行し、一方、閾値dより大きくなければ、ステップS55へ移行する。当該落下物候補領域がが路上落下物に相当する領域であれば、当該落下物候補領域の相関値は閾値dより大きくなり、ステップS59へ移行することになる。
【0079】
ステップS59において、処理部2は、当該落下物候補領域(ステップS52で最新に選択された落下物候補領域)に関連づけられた存在時間カウント値を、1だけインクリメントする。存在時間カウント値は、ステップS41で落下物候補領域が検出処理対象が登録される際に、ゼロに初期設定されて当該落下物候補領域に関連づけて、処理部2の内部メモリに記憶されている。したがって、存在時間カウント値は、これに関連づけられた落下物候補領域が検出処理対象として登録されている時間に対応している。
【0080】
次に、処理部2は、当該落下物候補領域(ステップS52で最新に選択された落下物候補領域)に関連づけられた存在時間カウント値が閾値e以上であるか否かを判定する(ステップS60)。すなわち、処理部2は、当該落下物候補領域が検出処理対象として登録されている時間が所定時間以上であるか否かを判定する。閾値e以上でなければステップS56へ移行する。一方、閾値e以上であれば、処理部2は、路上落下物が存在すると判定し、落下物検出信号を出力し、全ての処理を終了する。当該落下物候補領域が路上落下物に相当する領域であれば、当該落下物候補領域の存在時間カウント値はやがて閾値以上となり、ステップS61へ移行することになる。
【0081】
なお、ステップS41で落下物候補領域が検出処理対象が登録される際に、当該落下物候補領域と関連づけてその登録時刻を記憶し、ステップS59を削除して、ステップS58でYESの場合に、ステップS60において、当該落下物候補領域の登録時刻と現在時刻とを比較することで当該落下物候補領域の登録されている時間を求め、その時間が所定時間以上であるか否かを判定してもよい。
【0082】
ステップS56において、処理部2は、検出処理対象として現在登録されている全ての落下物候補領域の全てについてステップS52の選択が終了したか否かを判定し、終了していなければステップS52へ戻り、終了していればステップS5の処理を終了してステップS6へ移行する。
【0083】
次に、ステップS6の背景画像の更新処理の詳細について、図9を参照して説明する。
【0084】
ステップS5からステップS6へ移行すると、まず、処理部2は、背景更新条件を満たしているか否かを判定する(ステップS71)。背景更新条件を満たしていなければ、背景画像を更新することなくステップS4へ戻り、満たしていれば、背景画像を更新した(ステップS72)後にステップS4へ戻る。ステップS72の背景画像の更新は、例えば、現画像をg(t)とするとともに現在の背景画像をf(t−1)として前述した数1に従って画像f(t)を算出し、この画像f(t)を更新後の背景画像とすることによって、行うことができる。
【0085】
ここで、背景更新条件としては、例えば、下記の(a)〜(f)の条件のうちの任意の1つ以上の条件の組み合わせとすることができる。また、下記の(f)の条件を満たす場合には、(a)〜(e)の条件を満たすか否かに拘わらずに、強制的に背景画像を更新するようにしてもよい。このとき、背景更新処理として、新たに背景画像を作成し直すこととし、ステップS2と同じ処理を行ってもよい。
【0086】
(a)外部から停止車両の検知信号を受けることとし、当該検知信号を受けていないこと。
【0087】
(b)外部から渋滞情報を受けることとし、当該渋滞情報を受けていないこと。
【0088】
(c)最新にステップS25で算出された各小領域についての現画像と背景画像との間の相関値に基づいて、これらの相関値の平均値及び分散値のうちの少なくとも一方を算出することとし、前記平均値が所定値よりも大きいか、前記分散値が所定値よりも小さいか、あるいは、前記平均値が所定値よりも大きくかつ前記分散値が所定値よりも小さいこと。前記平均値が大きいければ、渋滞などが発生していないと推測できることが判明した。また、前記分散値が小さければ、渋滞などが発生していないと推測できることが判明した。
【0089】
(d)現在、検出処理対象として落下物候補領域が登録されていないこと。
【0090】
(e)最新にステップS37でラベル付けされた領域の大きさが所定値以下であること。
【0091】
(f)監視領域がトンネル内の領域である場合において、トンネル内の照明モードを示す信号を受けることとし、照明モードが変更されたこと。
【0092】
本実施の形態では、小領域ごとに求めたサンプリング画像と背景画像との間の相関値(ステップS25)に基づいて路上落下物候補領域(ステップS38)を得、この落下物候補領域のうち現画像と前回のサンプリング画像との間の相関値が所定値より大きいもの(ステップS58)について検出処理対象とし、当該検出処理対象の落下物候補領域が所定時間以上存在する場合に路上落下物が存在すると判定している(ステップS60,S61)。このように、本実施の形態によれば、小領域ごとのサンプリング画像と背景画像との相関による路上落下物候補領域の抽出と、現画像と前回のサンプリング画像との間の相関による路上落下物候補領域の絞り込みとの、いわば2段階の選抜を経た領域に関して、時間的に継続して存在するという条件下で、路上落下物を検出している。したがって、本実施の形態によれば、前記従来の路上落下物検出装置に比べて、より高い精度で路上落下物を検出することができる。
【0093】
また、本実施の形態では、路上落下物候補領域の抽出の際の相関値演算(ステップS25)は小領域ごとに行うので、その演算量は全領域について一括して行う場合に比べて少なくてすむ。さらに、路上落下物候補領域の絞り込みの際の相関値演算(ステップS53,S57)は路上落下物候補領域についてのみ行うので、その演算量も少なくてすむ。したがって、本実施の形態によれば、全体的に見ても、演算量は比較的少なくてすむ。
【0094】
以上、本発明の実施の形態について説明したが、本発明はこの実施の形態に限定されるものではない。
【0095】
【発明の効果】
以上説明したように、本発明によれば、比較的少ない演算量ですむとともに、より高い精度で路上落下物を検出することができる路上落下物検出装置を提供することができる。
【図面の簡単な説明】
【図1】本発明の一実施の形態による路上落下物検出装置を示す概略ブロック図である。
【図2】撮像された画像の例を模式的に示す概略図である。
【図3】撮像された画像の他の例を模式的に示す概略図である。
【図4】図1に示す路上落下物検出装置の動作の全体を示す概略フローチャートである。
【図5】図4中のステップS2の詳細を示す概略フローチャートである。
【図6】図4中のステップS4の一部の詳細を示す概略フローチャートである。
【図7】図4中のステップS4の残りの部分の詳細を示す概略フローチャートである。
【図8】図4中のステップS5の詳細を示す概略フローチャートである。
【図9】図4中のステップS6の詳細を示す概略フローチャートである。
【図10】図1に示す路上落下物検出装置の所定の処理過程を模式的に示す説明図である。
【符号の説明】
1 テレビカメラ
2 処理部
3 画像メモリ
Claims (10)
- 路上領域を含む監視領域を撮像する撮像手段と、
前記監視領域に応じた画像領域を分割した複数の小領域の各々について、前記撮像手段から時間経過に従って得られ順次サンプリングされる画像と背景画像との間の相関値を得る第1の相関値演算手段と、
最新にサンプリングされた前記画像である現画像及び過去にサンプリングされた前記画像について前記第1の相関値演算手段により得られた前記各小領域の前記相関値に基づいて、前記現画像に関連して路上落下物の候補となる路上落下物候補領域を得る路上落下物候補領域取得手段と、
前記現画像に関連して得られた前記路上落下物候補領域を検出処理対象として登録する手段と、
前記検出処理対象として現在登録されている前記路上落下物候補領域について、前記現画像と前回サンプリングされた前記画像との間の相関値を得る第2の相関値演算手段と、
前記第2の相関値演算手段により得られた前記相関値が所定値以下である前記路上落下物候補領域を、前記検出処理対象としての登録から削除する手段と、
前記検出処理対象として現在登録されている前記落下物候補領域のうちの少なくとも1つの領域の、前記検出処理対象として登録されている時間に応じた値が、所定時間以上であることを示す場合に、前記路上落下物が存在すると判定する判定手段と、
を備えたことを特徴とする路上落下物検出装置。 - 前記路上落下物候補領域取得手段は、(a)前記現画像について前記第1の相関値演算手段により得られた前記各小領域の前記相関値に基づいて、前記現画像について前記複数の小領域の各々が、前記路上落下物の一次的な候補となる小領域である一次候補小領域か否かを判定する一次候補小領域判定手段と、(b)前記複数の小領域の各々に関連づけられたカウント値のうち、前記現画像について前記一次候補小領域であると判定された小領域に関連づけられたカウント値を、インクリメントするインクリメント手段と、(c)前記複数の小領域の各々に関連づけられた前記カウント値のうち、前記現画像について前記一次候補小領域でないと判定された小領域に関連づけられたカウント値を、リセットするリセット手段と、(d)前記インクリメント手段によるインクリメントの後に、前記複数の小領域のうち、関連づけられた前記カウント値が所定値以上の小領域である二次候補小領域を判別する二次候補小領域判別手段と、を有することを特徴とする請求項1記載の路上落下物検出装置。
- 前記路上落下物候補領域取得手段は、(a)前記現画像について前記第1の相関値演算手段により得られた前記各小領域の前記相関値に基づいて、前記現画像について前記複数の小領域の各々が、前記路上落下物の一次的な候補となる小領域である一次候補小領域か否かを判定する一次候補小領域判定手段と、(b)前記複数の小領域の各々に関連づけられたカウント値のうち、前記現画像について前記一次候補小領域であると判定された小領域に関連づけられたカウント値を、インクリメントするインクリメント手段と、(c)前記複数の小領域の各々に関連づけられた前記カウント値のうち、前記現画像について前記一次候補小領域でないと判定された小領域に関連づけられたカウント値を、デクリメントするデクリメント手段と、(d)前記インクリメント手段によるインクリメントの後に、前記複数の小領域のうち、関連づけられた前記カウント値が所定値以上の小領域である二次候補小領域を判別する二次候補小領域判別手段と、を有することを特徴とする請求項1記載の路上落下物検出装置。
- 前記一次候補小領域判定手段は、前記現画像について前記第1の相関値演算手段により得られた前記各小領域の前記相関値が所定値以上であるか否かを判定する相関値判定手段を有し、前記相関値判定手段により前記相関値が前記所定値以上であると判定された小領域を前記一次候補小領域であると判定することを特徴とする請求項2又は3記載の路上落下物検出装置。
- 前記一次候補小領域判定手段は、前記現画像について前記第1の相関値演算手段により得られた前記各小領域の前記相関値が所定値以上であるか否かを判定する相関値判定手段と、前記現画像と前記背景画像との差分画像を得る手段と、を有し、前記相関値判定手段により前記相関値が前記所定値以上であると判定された小領域のうち、前記差分画像において差分値が所定値以上である画素を含む小領域を、前記一次候補小領域であると判定することを特徴とする請求項2又は3記載の路上落下物検出装置。
- 前記路上落下物候補領域取得手段は、前記二次候補小領域をラベリングするラベリング手段を有し、前記ラベリングされた領域を前記路上落下物候補領域として得ることを特徴とする請求項2乃至5のいずれかに記載の路上落下物検出装置。
- 前記路上落下物候補領域取得手段は、前記二次候補小領域をラベリングするラベリング手段と、前記ラベリングされた領域の大きさが所定大きさ以上であるか否かを判定する大きさ判定手段とを有し、前記大きさ判定手段により前記所定大きさ以上であると判定されたラベリング領域を、前記路上落下物候補領域として得ることを特徴とする請求項2乃至5のいずれかに記載の路上落下物検出装置。
- 前記検出処理対象として現在登録されている前記路上落下物候補領域について、前記現画像と前記背景画像との間の相関値を得る第3の相関値演算手段と、
前記第3の相関値演算手段により得られた前記相関値が所定値以上である前記路上落下物候補領域を、前記検出処理対象としての登録から削除する手段と、
を備えたことを特徴とする請求項6又は7記載の路上落下物検出装置。 - 前記路上落下物候補領域取得手段は、前記二次候補小領域を前記路上落下物候補領域として得ることを特徴とする請求項2乃至5のいずれかに記載の路上落下物検出装置。
- サンプリングされた前記画像に基づいて、所定条件下で前記背景画像を更新する更新手段を備えたことを特徴とする請求項1乃至9のいずれかに記載の路上落下物検出装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003117689A JP4152800B2 (ja) | 2003-04-22 | 2003-04-22 | 路上落下物検出装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003117689A JP4152800B2 (ja) | 2003-04-22 | 2003-04-22 | 路上落下物検出装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004326270A true JP2004326270A (ja) | 2004-11-18 |
JP4152800B2 JP4152800B2 (ja) | 2008-09-17 |
Family
ID=33497462
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003117689A Expired - Fee Related JP4152800B2 (ja) | 2003-04-22 | 2003-04-22 | 路上落下物検出装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4152800B2 (ja) |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009253537A (ja) * | 2008-04-03 | 2009-10-29 | Canon Inc | 撮像装置 |
JP2010141755A (ja) * | 2008-12-15 | 2010-06-24 | Nippon Telegr & Teleph Corp <Ntt> | 道路監視システム、道路監視方法および道路監視プログラム |
JP2011090513A (ja) * | 2009-10-22 | 2011-05-06 | Chugoku Electric Power Co Inc:The | 落下物検知システム、落下物検知方法 |
JP2012216221A (ja) * | 2012-06-04 | 2012-11-08 | Meidensha Corp | 作業者安全検査装置 |
JP2016224797A (ja) * | 2015-06-02 | 2016-12-28 | 株式会社デンソー | 落下物検出装置 |
CN110910415A (zh) * | 2019-11-28 | 2020-03-24 | 重庆中星微人工智能芯片技术有限公司 | 抛物检测方法、装置、服务器和计算机可读介质 |
CN111163285A (zh) * | 2018-11-08 | 2020-05-15 | 佳维技术有限公司 | 高空抛坠物监测方法及其系统、计算机可读存储介质 |
CN111669554A (zh) * | 2020-07-03 | 2020-09-15 | 无锡职业技术学院 | 一种高空抛物的监测与保护系统 |
CN112991723A (zh) * | 2021-02-07 | 2021-06-18 | 启迪云控(上海)汽车科技有限公司 | 一种基于地理区域的智能网联计算机任务并行颗粒度的划分方法、系统及终端 |
WO2022208666A1 (ja) * | 2021-03-30 | 2022-10-06 | 日本電気株式会社 | 画像処理装置、画像処理方法、プログラム |
-
2003
- 2003-04-22 JP JP2003117689A patent/JP4152800B2/ja not_active Expired - Fee Related
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009253537A (ja) * | 2008-04-03 | 2009-10-29 | Canon Inc | 撮像装置 |
JP2010141755A (ja) * | 2008-12-15 | 2010-06-24 | Nippon Telegr & Teleph Corp <Ntt> | 道路監視システム、道路監視方法および道路監視プログラム |
JP2011090513A (ja) * | 2009-10-22 | 2011-05-06 | Chugoku Electric Power Co Inc:The | 落下物検知システム、落下物検知方法 |
JP2012216221A (ja) * | 2012-06-04 | 2012-11-08 | Meidensha Corp | 作業者安全検査装置 |
JP2016224797A (ja) * | 2015-06-02 | 2016-12-28 | 株式会社デンソー | 落下物検出装置 |
CN111163285A (zh) * | 2018-11-08 | 2020-05-15 | 佳维技术有限公司 | 高空抛坠物监测方法及其系统、计算机可读存储介质 |
CN110910415A (zh) * | 2019-11-28 | 2020-03-24 | 重庆中星微人工智能芯片技术有限公司 | 抛物检测方法、装置、服务器和计算机可读介质 |
CN111669554A (zh) * | 2020-07-03 | 2020-09-15 | 无锡职业技术学院 | 一种高空抛物的监测与保护系统 |
CN112991723A (zh) * | 2021-02-07 | 2021-06-18 | 启迪云控(上海)汽车科技有限公司 | 一种基于地理区域的智能网联计算机任务并行颗粒度的划分方法、系统及终端 |
WO2022208666A1 (ja) * | 2021-03-30 | 2022-10-06 | 日本電気株式会社 | 画像処理装置、画像処理方法、プログラム |
Also Published As
Publication number | Publication date |
---|---|
JP4152800B2 (ja) | 2008-09-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5747549B2 (ja) | 信号機検出装置及びプログラム | |
US6754367B1 (en) | Method and apparatus for automatically detecting intrusion object into view of image pickup device | |
JP4878644B2 (ja) | 移動物体ノイズ除去処理装置及び移動物体ノイズ除去処理プログラム | |
JP4603970B2 (ja) | 道路区画線検出装置 | |
US20060244866A1 (en) | Moving object detection apparatus, method and program | |
US20100118156A1 (en) | Image processing apparatus, image pickup apparatus and image processing method | |
EP2555163B1 (en) | Image processing apparatus, image processing method, and program | |
JP4152800B2 (ja) | 路上落下物検出装置 | |
JP2007265277A (ja) | 車両用視程測定装置、及び運転支援装置 | |
JP5832910B2 (ja) | 画像監視装置 | |
JP4654723B2 (ja) | 映像表示装置及び映像表示方法 | |
JP2002373332A (ja) | 画像認識装置および画像認識方法 | |
JP4609076B2 (ja) | 移動物体検出装置及び移動物体検出方法 | |
KR20160136145A (ko) | 영상의 표적 추적 장치 및 방법 | |
JP4577392B2 (ja) | 画像検索装置 | |
JP2017211200A (ja) | カメラ校正装置及びカメラ校正方法 | |
JP2800530B2 (ja) | 車間距離検出装置 | |
JP5175765B2 (ja) | 画像処理装置及び交通監視装置 | |
JP4594197B2 (ja) | 自動追尾装置 | |
JP4496595B2 (ja) | 画像処理装置および画像処理方法、並びに記録媒体 | |
JP2010237874A (ja) | 車両の周辺監視装置 | |
JP2005332071A (ja) | 視覚障害者追跡システム及び視覚障害者検出方法 | |
JP2002190013A (ja) | 画像認識による渋滞検知システム及び渋滞検知方法 | |
JP7196781B2 (ja) | 情報処理装置及び運転支援システム | |
JP2002123820A (ja) | 路上静止障害物検出方法及び装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050518 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080507 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080604 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080701 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080702 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110711 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120711 Year of fee payment: 4 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120711 Year of fee payment: 4 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130711 Year of fee payment: 5 |
|
LAPS | Cancellation because of no payment of annual fees |