JP3869780B2 - Ground surface monitoring system - Google Patents

Ground surface monitoring system Download PDF

Info

Publication number
JP3869780B2
JP3869780B2 JP2002278167A JP2002278167A JP3869780B2 JP 3869780 B2 JP3869780 B2 JP 3869780B2 JP 2002278167 A JP2002278167 A JP 2002278167A JP 2002278167 A JP2002278167 A JP 2002278167A JP 3869780 B2 JP3869780 B2 JP 3869780B2
Authority
JP
Japan
Prior art keywords
ground surface
difference detection
target
computer
panoramic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2002278167A
Other languages
Japanese (ja)
Other versions
JP2004117072A (en
Inventor
英二 笠貫
Original Assignee
株式会社レブルシステムズ
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社レブルシステムズ filed Critical 株式会社レブルシステムズ
Priority to JP2002278167A priority Critical patent/JP3869780B2/en
Publication of JP2004117072A publication Critical patent/JP2004117072A/en
Application granted granted Critical
Publication of JP3869780B2 publication Critical patent/JP3869780B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Image Analysis (AREA)
  • Geophysics And Detection Of Objects (AREA)
  • Image Processing (AREA)
  • Emergency Alarm Devices (AREA)
  • Alarm Systems (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、地表面の崩落などの危険箇所をインターネットなどのネットワークを通じて遠隔地からでも常時監視する地表面監視システム、殊に、危険箇所の地表にターゲット撮影カメラによる差分検知信号だけでなく、地表状態量検知手段による状態量検知信号をも地表面判断を行うデータとして利用することで、誤判断を回避し、確実で安定した地表面監視を行える地表面監視システムに関するものである。
【0002】
【従来の技術】
従来、地滑り、崩落のおそれのある危険箇所を観測する手段として、例えばワイヤハーセンサを使用する技術が公知である。これは、観測対象となる地表面にワイヤを設置し、ワイヤが切れるかどうかで判定しているため、決定的な異常の検知をリアルタイムで監視しながら行える。ところが、係るワイヤセンサによる観測は、あくまでもワイヤが切れたか否かの判断しか行わないため、現場の状況がわからないばかりか、センサの切れた原因を調べるために、現場に赴かなければならず、例え現場に到着できたとしても、その間に講ずべき崖くずれによる事故回避のための道路閉鎖などが遅れてしまうといった欠点がある。
そこで、このような欠点を回避するために、監視カメラを用いて危険地帯の地表を監視をし、映像データを差分検知装置により差分検知する技術が知られている。これは、無人監視をリアルタイムで行うことが可能であり、地表面に変化が発生した状況からさかのぼって数秒前の状況を再生でき、状況の把握が容易となるものであった。
【0003】
しかしながら、このような監視カメラを用いた差分検知装置では、無人で遠隔監視しながらリアルタイムで処理できる利点はあるものの、監視カメラによる映像データを差分検知するとき、映像上の輝度変化を追跡するだけであるため、屋外での監視カメラ使用による検知障害となる誤警報を頻繁に発生してしまう問題があり、また、誤差を生じないようにするために、監視範囲を絞り込んだ設定とか、差分が発生したかどうかの判定を設定しなおしたりすることができないものであったため、監視精度が著しく低下してしまう問題があった。また、このような差分検知装置を使用することで危険箇所を外面的に監視してはいても、実際に地表面に亀裂が発生しているかどうかを物理的、内面的な側面から観測していない。このため、物理的に亀裂などが生じていないにも拘わらず、差分検知装置からの検地信号だけで地表面の状態を判断していたため、それだけ誤検知の判断を生じるおそれが増大し、より確実な地表面の監視には未だ不十分となる問題もあった。
【0004】
なお、2台のカメラを使用して監視対象を監視する技術として、例えば特開平9−211339号公報が公知である。しかしながら、このものは、ただ単に光学フィルタを設けることにより、背景光である太陽光とその散乱光を除去したり、光量を減光したりして夜空を観測する技術に過ぎないものであり、地表面を監視する技術ではない。
【0005】
本発明は、上記問題点に鑑みて工夫されたものであり、地表面の崩落などの危険箇所をインターネットなどのネットワークを通じて遠隔地からでも常時監視し、危険箇所の地表にターゲット撮影カメラによる差分検知信号だけでなく、地表状態量検知手段による状態量検知信号をも地表面の状態を判断する物理的データとして加えることにより、誤判断を回避し、確実で安定した地表面監視を行える地表面監視システムを提供することを目的とするものである。
【0006】
【課題を解決するための手段】
上記目的を達成するために、本発明においては、次のような構成を有する。すなわち、請求項1記載の発明に係る地表面監視システムは、地表に設置された複数個のターゲットと対になるように、互いに離れた位置に設置した複数台のターゲット撮影用カメラに接続されて、同各ターゲット撮影用カメラからの動画像に基づいて差分検知を行う複数個の差分検知用コンピュータと、前記ターゲットを含む前記地表の全景を撮影して記録する全景記録用カメラに接続されて、同全景記録用カメラからの動画を連続して記録する機能、および前記差分検知用コンピュータから出力された差分検知信号を受信する機能を有する全景記録用コンピュータとを備え、この全景記録用コンピュータに、ネットワークを通じてクライアント端末が接続されると共に、同全景記録用コンピュータが、前記各差分検知用コンピュータから出力された各差分検知信号をANDフィルタリングにより選別して選別差分検知信号を出力するANDフィルタリング手段、前記ターゲット近傍に設置された地表の状態を検知する地表状態量検知手段からの地表状態量検知信号と前記選別差分検知信号とにより地表面に変化が生じているかどうかを判断する地表面判断手段を有し、当該地表面判断手段が、地表面の変化発生を判断したとき、前記全景記録用コンピュータから前記ネットワークを通じて前記クライアント端末に、地表面状況を示す画像データが送信されるようにしたことを特徴とする。
【0007】
請求項1記載の発明によれば、全景記録用コンピュータが、差分検知用コンピュータのANDフィルタリング手段から出力された選別差分検知信号だけでなく、地表状態量検知手段から出力された地表状態量検知信号をも加味して、地表面判断手段で判断されるため、検知障害となる警報が頻繁に発生することを回避しつつ、より確実で安定的で信頼性ある検知結果を出力し、クライアント端末からネットワークを通じてサーバ機能を有する全景記録用コンピュータにアクセスすることにより、地表面に関する動画像、静止画像、全景画像などの情報を閲覧して、円滑な遠隔監視の実現が可能となる。
【0008】
また、請求項2記載の発明は、請求項1記載の地表面監視システムに係り、前記差分検知用コンピュータで行う差分検知は、前後のフレームの間で、所定の解像度において、赤、緑、青の各色の変化を比較検査することで行うようにしたことを特徴とする。
【0009】
かかる請求項2記載の発明によれば、ただ単に映像上の輝度の変化を追跡するようなものでなく、赤、緑、青の色の変化を比較判断することにより差分検知を行なうので、ターゲットの監視範囲や差分が発生するしきい値を種々に設定することで、地表面監視現場毎に応じた設定をして使用が可能となる。
【0010】
請求項3記載の発明は、請求項1または2記載の地表面監視システムに係り、上記所定の解像度は、秒間30フレームに対して、最高で480ピクセル×640ピクセルに設定されることを特徴とする。
係る請求項3記載の地表面の監視システムによれば、1秒×30フレーム×640X480ピクセル=9,216,000。赤、緑、青の3色であるので、9,216,000×3=27,648,000回/毎秒もの比較検査が、差分検知用コンピュータで行われる。そのため、精度の高い異常監視システムを実現することが可能となる。
【0011】
請求項4記載の発明は、請求項1乃至3のいずれか一に記載の地表面監視システムに係り、前記ターゲット撮影用コンピュータは、マスク機能により前記各ターゲットを、監視対象領域と、監視対象とされない領域とに区分けし、当該監視対象としない領域を、無視するように設定しうるようにしたことを特徴とする。
【0012】
請求項4記載の地表面監視システムによれば、マスク機能により監視対象としない領域を設定し、監視領域以外を無視するように設定することで、天候、時間による明るさの変化、風などで監視対象上にある草などの変化、野生動物などがカメラの前と横切るなどにより、望まない警報が多発して、どれが真に必要な警報か判断できなくなるのを回避し、確実、安定、信頼性ある出力が得られるようにすることが可能となる。
【0013】
【発明の実施の形態】
以下において、本発明の実施の形態に係る地表面監視システムを、図1〜図3に基づいて詳述する。
図1は、地表面監視システムの概要を示す概要構成図、図2は、システム全体をブロックで示したブロック図、図3は、そのフローチャートである。
図1、図2において、地表面監視システムの構成を説明する。監視対象となる山の崖といった地表面Eの監視法面上に、落雪防護柵(図示しない)が設置され、その落雪防護柵に一対の監視ターゲットA,B(以下「ターゲット」という)が隣り合わせの状態で設置されている。これらターゲットA,Bは、天候などの不確定要素を排除するため、例えば白地に赤でVマークを施したコントラストの大きなシェブロン看板で形成される。
【0014】
各ターゲットA,Bには、対をなすターゲット撮影用カメラ2台がそれぞれ設置される。なお、据え付けられるカメラの台数は、2台以上であってもよいものである。すなわち、ターゲットAには、これを撮影するターゲット撮影用カメラ1(以下「カメラ1」という)が、また、ターゲットBには、これを撮影するターゲット撮影用カメラ2(以下「カメラ2」という)が、それぞれ図示されない別個の監視小屋内のコンクリート台座1a,2aに据え付けられる。
【0015】
カメラ1は、カメラ1の動画像に基づいて差分検知を行う差分検知用コンピュータPC1に接続され、また、カメラ2は、同様にカメラ2の動画像に基づいて差分検知を行う差分検知用コンピュータPC2に接続される。各差分検知用コンピュータPC1,PC2は、各カメラ1,2から出力された信号をエンコードするエンコーダ3,4、同エンコーダ3,4からの出力信号を差分検知する差分検知部5,6を備えている。差分検知部5,6における差分検知は、一枚毎の画像が圧縮して保存されていき、前フレームと後フレームとの間にどのような差があるかを認識していくことで達成されるように形成されるものである。本実施の形態の場合には、最高解像度が、秒間で30フレームであり、640X480ピクセルに設定され、ピクセルすべてに対してリアルタイムで検知動作をしている。したがって、毎秒1秒×30フレーム×640X480ピクセル=9,216,000であるから、9,216、000ピクセルの赤(R)、緑(G)、青(B)の各色に対する階調を比較検査する。これらの処理は、差分検知用コンピュータPC1,PC2上で所定のソフトウェアにより行われる。
【0016】
また、カメラ1を取り付ける台座1aには、監視する地表面Eの全景を撮影して記録するための全景記録用カメラ7が設けられている。この全景記録用カメラ7は、全景記録用コンピュータ8に接続される。この全景記録用コンピュータ8は、統合サーバとしての機能を有する他に、例えば、全景記録用カメラ7からの動画を連続して記録する機能、各差分検知用コンピュータPC1,PC2から出力されてきた出力信号(警報信号)をANDフィルタリングする機能、警報信号を後述するインターネット13上の中継サーバ(図示されない)に送出する機能、観測室内部で警報ランプ14(図2参照)を作動させる機能などをも備えている。
【0017】
すなわち、全景記録用コンピュータ8は、カメラ7から出力される映像信号をエンコードするエンコーダ9、記憶部10、CPU11(中央演算処理部)、出力部12を備えている。記憶部10には、エンコーダ9、差分検知部5、差分検知部6、それにターゲットA,B近傍の地表面Eに設置した地表状態量検知手段であって、地表面Eに生じるゆかみ、ひずみなどの変化を検知する、例えば電解センサなどの地表状態量検知センサ17の出力信号が入力される。なお、係る地表状態量検知センサ17は、監視する地表面Eに応じてP1〜PNというように適宜数設置されるものである。
【0018】
CPU11は、差分検知部5,6から出力された差分検知信号を、ANDフィルタリングするANDフィルタリング部11aと、地表状態検知部11bと、真に地表面Eに崩落などの変化が生じているか否かを判断する地表面判断手段としての判定部11cとでなる。ANDフィルタリングとは、通常の場合、差分検知のための検出しきい値を設定することでカバーされるが、必要な監視箇所以外には写らないようにカメラの設定を行ったり、さらには、差分検知システムにおけるマスク機能を利用して行う、すなわち、マスク機能により各ターゲットA,Bを、監視対象領域と、監視対象とされない領域とに区分けし、監視対象とならない領域は無視するように設定するなどして行われる。こうして、ANDフィルタリング部11aは、各差分検知部5,6から出力された差分検知信号を選別し、選別された選別差分検知信号が判定部11cへ出力される。
【0019】
地表状態検知部11bは、地表状態量検知センサ17から出力された信号に基づき、地表面Eにひずみ、ひび割れ、クラック、ゆがみ、変形等の変化が生じていないか否かが検知されるものである。
【0020】
判定部11cは、ANDフィルタリング部11aから出力された選別差分検知信号と、地表状態検知部11bから出力された地表状態量検知信号とにより、地表面Eに変化が生じたか否かを総合的に判断するものである。この判定部11cが、選択差分検知信号により外面的に地表面Eに異常があると検知し、また地表状態量検知信号により地表面内部にも異常があると検知することで、崩落の予兆ないしは崩落が生じつつある状況を事前に察知するようになっている。
【0021】
こうして、差分検知用コンピュータPC1、差分検知用コンピュータPC2、および全景記録用コンピュータ8の各コンピュータ間は、ルータ20によりLAN接続され、ネットワークであるインターネット13に接続される。なお、インターネット13の代わりに、専用通信回線網であってもよいものである。また、図示はしないが、ファイアーウォールなどの要素も適宜ネットワークに設置されるのは言うまでもない。そして、サーバ機能を有する全景記録用コンピュータ8は、地表面に異常が生じたことが検知された場合に、携帯電話端末16や、パーソナルコンピュータ端末15から要求されたタイミングで、監視対象の地表面の状況を、動画像や静止画像といった映像情報で閲覧できたり、電子メールで即時に通報できるように構成されているものである。
【0022】
次に、図3に示すフローチャートにより、本実施の形態に係る地表面監視システムの地表面の崩落監視の流れを説明する。すなわち、崩落の発生を監視しようとする地表面Eに落雪防止柵に設置した一対のターゲットA,Bに向けてカメラ1,カメラ2が同時に撮影をする(ステップS1,ステップS1')。カメラ1,カメラ2で撮影された動画データは、画像信号を圧縮するために、差分検知用コンピュータPC1,PC2でエンコードされ(ステップS2,ステップS2')、差分検知部5,6において差分検知される(ステップS3,ステップS3')。ステップS4,ステップS4'において、差分が検知されたか否かが判断される。そして、差分を検知した場合には、差分検知信号W1,W2が全景記録カメラ用コンピュータ8の記憶部10に出力されるが(ステップS5,ステップS5')、差分を検知しない場合にはステップS1〜ステップS4(ステップS1'〜ステップS4')までのステップを繰り返す。次いで、記憶部10からANDフィルタリング部11aに各差分検知信号W1,W2が出力されると(ステップS6)、ANDフィルタリング部11aにおいて、2つのカメラ1,カメラ2による差分検知が共にAND条件として成立したかどうかが判断される(ステップS7)。そして、AND条件が成立した場合には、選択差分検知信号として判定部11cに出力される。
【0023】
また、カメラ1,カメラ2による映像は、記憶部10から画像データ送出部12aからクライアント端末15,16からの要求に応じて、動画像あるいは静止画像として出力され、異常対象の状況を映像情報として把握することができる。
【0024】
同様に、全景記録用カメラ7が撮影した映像は、画像信号を圧縮するために、エンコーダ9でエンコードされた後、記憶部10に格納されていく。記憶部10の映像情報は、クライアント端末15,16からの要求がある場合に、画像データ送出部12aから出力されていく。
【0025】
他方、地表状態量検知センサ17で地表面が検知されると(ステップS8)、地表状態検知部11bで異常を検知したか否かが判断される(ステップS9)。異常を検知した場合には、状態異常検知信号を判定部11cに出力される。
【0026】
ステップS10では、ANDフィルタリング部11aの選定差分検知信号と、地表状態検知部11bの状態異常検知信号とが、判定部11cにおいてチェックされて、地表面に崩落などの変化が生じているかどうかが判断される。すなわち、判定部11cが、選定差分検知信号と、状態異常検知信号とが出力されてきた場合には、地表面に異常が発生したと判断し、出力部12に出力される。
【0027】
クライアント端末15,16から、インターネット13を通じて画像閲覧要求があると、画像データ送出部から適宜異常を検知された地表面の動画像や静止画像が、クライアント端末15,16に転送される(ステップS11)。また、変化、つまり異常が生じた場合には、監視小屋内に設置した警報ランプ14が、警報ランプ作動部12bにより作動して点灯し、周囲に異常を生じていることを報知する。
【0028】
このように、本実施の形態によれば、地表面の状態をカメラ1,カメラ2、全景記録カメラ7で撮影して視覚的に監視するだけでなく、地表状態量検知センサ17を用いて地表面Eの状態を監視し、その監視している地表状態検知信号をも変化(異常)が生じているかどうかの判断データとして判定部11cで判断している。そのため、判定部11cで異常が発生したと判断した場合には、変化の生じる予兆段階から監視対象の地表面Eの状態を、動画像や静止画像でクライアントに送出することができ、常時、誤判断がなく、確実で、安定かつ信頼性のある地表面監視を実現することができる。
【0029】
上記実施の形態では、地表面Eとして、崩落のおそれある危険箇所を対象としたが、土石流、堤防決壊などといった河川を監視対象とすることもできる。
また、カメラ1,カメラ2、全景記録用カメラ7は、夜間撮影の場合には、赤外線カメラを使用することも勿論可能である。
また、クライアント側の端末として、携帯電話16を例示したが、移動通信手段であればよく、例えば自動車に搭載されるGPSなどの衛生通信を利用した端末を流用するようにしてもよい。
【0030】
【発明の効果】
請求項1記載の発明は、地表に設置された複数個のターゲットと対になるように、互いに離れた位置に設置した複数台のターゲット撮影用カメラに接続されて、同各ターゲット撮影用カメラからの動画像に基づいて差分検知を行う複数個の差分検知用コンピュータと、前記ターゲットを含む前記地表の全景を撮影して記録する全景記録用カメラに接続されて、同全景記録用カメラからの動画を連続して記録する機能、および前記差分検知用コンピュータから出力された差分検知信号を受信する機能を有する全景記録用コンピュータとを備え、この全景記録用コンピュータに、ネットワークを通じてクライアント端末が接続されると共に、同全景記録用コンピュータが、前記各差分検知用コンピュータから出力された各差分検知信号をANDフィルタリングにより選別して選別差分検知信号を出力するANDフィルタリング手段、前記ターゲット近傍に設置された地表の状態を検知する地表状態量検知手段からの地表状態量検知信号と前記選別差分検知信号とにより地表面に変化が生じているかどうかを判断する地表面判断手段を有し、当該地表面判断手段が、地表面の変化発生を判断したとき、前記全景記録用コンピュータから前記ネットワークを通じて前記クライアント端末に、地表面状況を示す画像データが送信されるようにした構成を有している。
【0031】
このため、全景記録用コンピュータが、差分検知用コンピュータのANDフィルタリング手段から出力された選別差分検知信号だけでなく、地表状態量検知手段から出力された地表状態量検知信号をも加味して、地表面判断手段で判断されるため、検知障害となる警報が頻繁に発生することを回避しつつ、より確実で安定的で信頼性ある検知結果を出力し、クライアント端末からネットワークを通じてサーバ機能を有する全景記録用コンピュータにアクセスすることにより、地表面に関する動画像、静止画像、全景画像などの情報を閲覧して、円滑な遠隔監視の実現ができ、誤判断のない地表面監視システムを得ることができる効果を奏する。
【0032】
また、請求項2記載の発明は、差分検知用コンピュータで行う差分検知は、前後のフレームの間で、所定の解像度において、赤、緑、青の各色の変化を比較検査することで行うように構成しているため、ただ単に映像上の輝度の変化を追跡するようなものでなく、赤、緑、青の色の変化を比較判断することにより差分検知を行なうので、ターゲットの監視範囲や差分が発生するしきい値を種々に設定することで、地表面監視現場毎に応じた設定をして使用をできる効果を奏する。
【0033】
また、請求項3記載の発明は、所定の解像度として、秒間30フレームに対して、最高で480ピクセル×640ピクセルに設定した構成としているので、秒×30フレーム×640X480ピクセル=9,216,000。赤、緑、青の3色であるので、9,216,000×3=27,648,000回/毎秒もの比較検査が、差分検知用コンピュータで行われる。そのため、精度の高い異常監視システムを実現できる効果を奏する。
【0034】
請求項4記載の発明は、ターゲット撮影用コンピュータは、マスク機能により各ターゲットを、監視対象領域と、監視対象とされない領域とに区分けし、当該監視対象としない領域を、無視するように設定しうる構成としたため、マスク機能により監視対象としない領域を設定し、監視領域以外を無視するように設定することで、天候、時間による明るさの変化、風などで監視対象上にある草などの変化、野生動物などがカメラの前と横切るなどにより、望まない警報が多発して、どれが真に必要な警報か判断できなくなるのを回避し、確実、安定、信頼性ある出力が得られる効果がある。
【図面の簡単な説明】
【図1】 本発明の実施の形態に係る地表面監視システムの概要を示す概要構成図である。
【図2】 図1を、ブロックで示したブロック図である。
【図3】 図2のブロック図を流れ図で示したフローチャートである。
【符号の説明】
1…カメラ(ターゲット撮影用カメラ)
2…カメラ(ターゲット撮影用カメラ)
7…全景記録用カメラ
8…全景記録用コンピュータ
11a…ANDフィルタリング部
11b…地表状態検知部
11c…判定部
13…インターネット
15…クライアント端末
16…携帯電話
A…ターゲット
B…ターゲット
E…地表面
PC1…差分検知用コンピュータ
PC2…差分検知用コンピュータ
[0001]
BACKGROUND OF THE INVENTION
The present invention is a ground surface monitoring system that constantly monitors a dangerous location such as a collapse of the ground surface even from a remote location through a network such as the Internet, and in particular, not only a difference detection signal by a target photographing camera but also a ground surface of the dangerous location. The present invention relates to a ground surface monitoring system capable of avoiding misjudgment and performing reliable and stable ground surface monitoring by using a state amount detection signal from a state amount detection means as data for ground surface determination.
[0002]
[Prior art]
2. Description of the Related Art Conventionally, for example, a technique using a wire harness sensor is known as means for observing a dangerous point where there is a risk of landslide or collapse. This is done by setting a wire on the ground surface to be observed and determining whether or not the wire is broken, so that a definite abnormality can be detected in real time. However, observation with such a wire sensor only determines whether or not the wire is broken, so not only the situation at the site is known, but also to investigate the cause of the sensor breakage, you must go to the site, Even if it arrives at the site, there is a drawback that the road closure for avoiding an accident due to a cliff slippage to be taken in the meantime is delayed.
In order to avoid such drawbacks, a technique is known in which the surface of a dangerous zone is monitored using a monitoring camera, and video data is differentially detected by a differential detection device. It was possible to perform unmanned monitoring in real time, and it was possible to replay the situation several seconds back from the situation in which changes occurred on the ground surface, making it easier to grasp the situation.
[0003]
However, such a difference detection device using a monitoring camera has an advantage that it can be processed in real time while being unattended and remotely monitored. However, when a difference is detected in video data from the monitoring camera, only a change in luminance on the image is tracked. Therefore, there are problems that frequently generate false alarms that cause detection failures due to the use of surveillance cameras outdoors, and in order to prevent errors, settings that narrow the monitoring range or differences are Since it was impossible to reset the determination of whether or not it occurred, there was a problem that the monitoring accuracy was significantly lowered. In addition, even if a dangerous point is externally monitored by using such a difference detection device, whether or not a crack is actually generated on the ground surface is observed from the physical and internal side. Absent. For this reason, the state of the ground surface is determined only by the ground detection signal from the difference detection device even though there is no physical crack or the like. There is also a problem that is still insufficient for monitoring the ground surface.
[0004]
As a technique for monitoring a monitoring target using two cameras, for example, Japanese Patent Laid-Open No. 9-212339 is known. However, this is merely a technique for observing the night sky by simply providing an optical filter to remove sunlight and its scattered light as background light, or to reduce the amount of light. It is not a technique for monitoring the ground surface.
[0005]
The present invention has been devised in view of the above-mentioned problems, and constantly monitors dangerous locations such as the collapse of the ground surface from a remote location through a network such as the Internet, and detects a difference on the ground surface of the dangerous location with a target photographing camera. By adding not only signals but also state quantity detection signals from the surface state quantity detection means as physical data to judge the state of the ground surface, it is possible to avoid misjudgment and perform reliable and stable ground surface monitoring. The purpose is to provide a system.
[0006]
[Means for Solving the Problems]
In order to achieve the above object, the present invention has the following configuration. That is, the ground surface monitoring system according to the first aspect of the present invention is connected to a plurality of target photographing cameras installed at positions separated from each other so as to be paired with a plurality of targets installed on the ground surface. A plurality of difference detection computers for performing difference detection based on moving images from the respective target shooting cameras, and a panoramic view recording camera for shooting and recording the entire view of the ground surface including the target, A panoramic recording computer having a function of continuously recording a moving image from the panoramic recording camera and a function of receiving a difference detection signal output from the difference detecting computer. A client terminal is connected through the network, and the panorama recording computer is connected to each of the difference detection computers. AND filtering means for selecting each detected difference detection signal by AND filtering and outputting a selected difference detection signal; Ground state quantity detection signal from the ground state quantity detection means for detecting the state of the ground surface installed in the vicinity of the target And a ground surface judging means for judging whether or not a change has occurred on the ground surface based on the selection difference detection signal, and when the ground surface judging means judges that a change in the ground surface has occurred, the whole-scene recording computer The image data indicating the ground surface condition is transmitted to the client terminal through the network.
[0007]
According to the first aspect of the present invention, not only the sorting difference detection signal output from the AND filtering means of the difference detection computer but also the ground state quantity detection signal output from the ground state quantity detection means is detected by the panoramic view recording computer. Therefore, it is judged by the ground surface judgment means, so that more reliable, stable and reliable detection results are output while avoiding frequent occurrence of alarms that cause detection failures, By accessing a panoramic recording computer having a server function through a network, information such as a moving image, a still image, and a panoramic image related to the ground surface can be browsed to realize smooth remote monitoring.
[0008]
The invention according to claim 2 relates to the ground surface monitoring system according to claim 1, wherein the difference detection performed by the difference detection computer performs red, green, blue at a predetermined resolution between the preceding and following frames. It is characterized in that it is performed by comparing and inspecting the change of each color.
[0009]
According to the invention described in claim 2, since the difference detection is performed by comparing and judging the change in the colors of red, green and blue rather than simply tracking the change in the luminance on the image, the target is detected. By variously setting the monitoring range and the threshold value at which the difference occurs, it is possible to set and use for each ground surface monitoring site.
[0010]
A third aspect of the present invention relates to the ground surface monitoring system according to the first or second aspect, wherein the predetermined resolution is set to a maximum of 480 pixels × 640 pixels for 30 frames per second. To do.
According to the ground surface monitoring system according to claim 3, 1 second × 30 frames × 640 × 480 pixels = 9,216,000. Since there are three colors of red, green, and blue, a comparison inspection of 9,216,000 × 3 = 27,648,000 times / second is performed by the difference detection computer. Therefore, a highly accurate abnormality monitoring system can be realized.
[0011]
A fourth aspect of the present invention relates to the ground surface monitoring system according to any one of the first to third aspects, wherein the target imaging computer uses a mask function to identify each target as a monitoring target region, a monitoring target, It is characterized in that it can be set so as to be disregarded, and to ignore the areas not to be monitored.
[0012]
According to the ground surface monitoring system of the fourth aspect, by setting the area not to be monitored by the mask function and ignoring the area other than the monitoring area, it is possible to change the brightness due to weather, time, wind, etc. It is reliable, stable, avoids the occurrence of undesired alarms due to changes in the grass on the monitoring target, wild animals crossing the front of the camera, etc., and it becomes impossible to determine which alarm is really necessary. It becomes possible to obtain a reliable output.
[0013]
DETAILED DESCRIPTION OF THE INVENTION
Below, the ground surface monitoring system which concerns on embodiment of this invention is explained in full detail based on FIGS. 1-3.
FIG. 1 is a schematic configuration diagram showing an overview of a ground surface monitoring system, FIG. 2 is a block diagram showing the whole system in blocks, and FIG. 3 is a flowchart thereof.
The configuration of the ground surface monitoring system will be described with reference to FIGS. A snowfall protection fence (not shown) is installed on the slope of the ground surface E, such as a mountain cliff to be monitored, and a pair of monitoring targets A and B (hereinafter referred to as “targets”) are adjacent to the snowfall protection fence. It is installed in the state of. These targets A and B are formed of, for example, a chevron signboard having a large contrast and a red V mark on a white background in order to eliminate uncertain elements such as weather.
[0014]
Each target A and B is provided with a pair of target photographing cameras. The number of cameras to be installed may be two or more. That is, the target A has a target photographing camera 1 (hereinafter referred to as “camera 1”), and the target B has a target photographing camera 2 (hereinafter referred to as “camera 2”). Are mounted on concrete pedestals 1a and 2a in separate monitoring rooms, not shown.
[0015]
The camera 1 is connected to a difference detection computer PC1 that performs difference detection based on the moving image of the camera 1, and the camera 2 is also a difference detection computer PC2 that similarly performs difference detection based on the moving image of the camera 2. Connected to. Each of the difference detection computers PC1 and PC2 includes encoders 3 and 4 for encoding signals output from the cameras 1 and 2 and difference detection units 5 and 6 for detecting a difference between output signals from the encoders 3 and 4. Yes. Difference detection in the difference detection units 5 and 6 is achieved by compressing and storing each image and recognizing the difference between the previous frame and the subsequent frame. It is formed as follows. In the case of the present embodiment, the maximum resolution is 30 frames per second and is set to 640 × 480 pixels, and all pixels are detected in real time. Therefore, because 1 second per second × 30 frames × 640 × 480 pixels = 9,216,000, the gray scale for each color of red (R), green (G), and blue (B) of 9,216,000 pixels is comparatively inspected. To do. These processes are performed by predetermined software on the difference detection computers PC1 and PC2.
[0016]
The pedestal 1a to which the camera 1 is attached is provided with a panoramic view recording camera 7 for photographing and recording a panoramic view of the ground surface E to be monitored. This panoramic recording camera 7 is connected to a panoramic recording computer 8. The panoramic view recording computer 8 has a function as an integrated server, for example, a function of continuously recording moving images from the panoramic recording camera 7, and outputs output from the difference detection computers PC1 and PC2. The function of AND filtering the signal (alarm signal), the function of sending the alarm signal to a relay server (not shown) on the Internet 13 described later, the function of operating the alarm lamp 14 (see FIG. 2) in the observation room, etc. I have.
[0017]
That is, the panoramic view recording computer 8 includes an encoder 9 that encodes a video signal output from the camera 7, a storage unit 10, a CPU 11 (central processing unit), and an output unit 12. The storage unit 10 includes an encoder 9, a difference detection unit 5, a difference detection unit 6, and ground surface state amount detection means installed on the ground surface E in the vicinity of the targets A and B. For example, an output signal of a ground surface state detection sensor 17 such as an electrolytic sensor is input. In addition, according to the ground surface E to be monitored, such a number of ground surface state quantity detection sensors 17 are appropriately installed such as P1 to PN.
[0018]
The CPU 11 performs an AND filtering on the difference detection signals output from the difference detection units 5 and 6, the ground surface state detection unit 11 b, and whether or not a change such as a collapse has occurred in the ground surface E. It is comprised with the determination part 11c as a ground surface determination means to determine. AND filtering is usually covered by setting a detection threshold for difference detection, but the camera is set so that it is not captured except for the necessary monitoring points, This is performed using the mask function in the detection system, that is, the targets A and B are divided into a monitoring target area and a non-monitoring area by the mask function, and a non-monitoring area is set to be ignored. And so on. Thus, the AND filtering unit 11a selects the difference detection signal output from each of the difference detection units 5 and 6, and the selected selection difference detection signal is output to the determination unit 11c.
[0019]
The ground surface state detection unit 11b detects whether or not changes such as strain, cracks, cracks, distortion, and deformation have occurred on the ground surface E based on the signal output from the ground surface state amount detection sensor 17. is there.
[0020]
The determination unit 11c comprehensively determines whether or not a change has occurred in the ground surface E based on the selection difference detection signal output from the AND filtering unit 11a and the ground surface state amount detection signal output from the ground surface detection unit 11b. Judgment. The determination unit 11c detects that there is an abnormality on the ground surface E externally by the selection difference detection signal, and detects that there is also an abnormality inside the ground surface by the ground surface state detection signal, so that a sign of collapse or The situation where the collapse is occurring is detected in advance.
[0021]
In this way, the computers of the difference detection computer PC1, the difference detection computer PC2, and the panoramic view recording computer 8 are LAN-connected by the router 20 and connected to the Internet 13 as a network. Note that a dedicated communication line network may be used instead of the Internet 13. Further, although not shown, it goes without saying that elements such as a firewall are appropriately installed in the network. The panoramic view recording computer 8 having the server function detects the ground surface to be monitored at the timing requested from the mobile phone terminal 16 or the personal computer terminal 15 when it is detected that an abnormality has occurred on the ground surface. Can be viewed with video information such as a moving image or a still image, or can be immediately reported by e-mail.
[0022]
Next, the flow of the ground surface collapse monitoring of the ground surface monitoring system according to the present embodiment will be described with reference to the flowchart shown in FIG. That is, the camera 1 and the camera 2 simultaneously photograph the pair of targets A and B installed on the snow fall prevention fence on the ground surface E to be monitored for occurrence of collapse (step S1, step S1 ′). The moving image data photographed by the cameras 1 and 2 is encoded by the difference detection computers PC1 and PC2 (step S2, step S2 ′) and the difference detection units 5 and 6 detect the difference in order to compress the image signal. (Step S3, Step S3 ′). In step S4 and step S4 ′, it is determined whether or not a difference is detected. When the difference is detected, the difference detection signals W1 and W2 are output to the storage unit 10 of the panoramic recording camera computer 8 (step S5, step S5 ′). When the difference is not detected, step S1 is performed. Steps S4 to S4 (Steps S1 ′ to S4 ′) are repeated. Next, when the difference detection signals W1 and W2 are output from the storage unit 10 to the AND filtering unit 11a (step S6), difference detection by the two cameras 1 and 2 is established as an AND condition in the AND filtering unit 11a. It is determined whether or not it has been done (step S7). When the AND condition is satisfied, the selection difference detection signal is output to the determination unit 11c.
[0023]
The video from the camera 1 and the camera 2 is output from the storage unit 10 as a moving image or a still image in response to a request from the image data sending unit 12a from the client terminals 15 and 16, and the status of the abnormality target is used as video information. I can grasp it.
[0024]
Similarly, the video shot by the panoramic view recording camera 7 is encoded by the encoder 9 and then stored in the storage unit 10 in order to compress the image signal. When there is a request from the client terminals 15 and 16, the video information in the storage unit 10 is output from the image data transmission unit 12 a.
[0025]
On the other hand, when the ground surface is detected by the ground surface state detection sensor 17 (step S8), it is determined whether or not an abnormality has been detected by the ground surface detection unit 11b (step S9). When an abnormality is detected, a state abnormality detection signal is output to the determination unit 11c.
[0026]
In step S10, the selection difference detection signal of the AND filtering unit 11a and the state abnormality detection signal of the ground surface state detection unit 11b are checked by the determination unit 11c to determine whether or not a change such as a collapse has occurred on the ground surface. Is done. That is, when the determination unit 11c outputs the selection difference detection signal and the state abnormality detection signal, it determines that an abnormality has occurred on the ground surface, and outputs it to the output unit 12.
[0027]
When there is an image browsing request from the client terminals 15 and 16 via the Internet 13, a moving image or a still image on the ground surface, in which an abnormality is appropriately detected from the image data transmission unit, is transferred to the client terminals 15 and 16 (step S11). ). In addition, when a change, that is, an abnormality occurs, the alarm lamp 14 installed in the monitoring room is activated by the alarm lamp operating unit 12b and lights to notify that an abnormality has occurred in the surroundings.
[0028]
As described above, according to the present embodiment, the ground surface state is not only photographed and visually monitored by the camera 1, the camera 2, and the panoramic recording camera 7, but also the ground surface state amount detection sensor 17 is used. The state of the surface E is monitored, and the surface condition detection signal being monitored is also determined by the determination unit 11c as determination data as to whether or not a change (abnormality) has occurred. For this reason, when the determination unit 11c determines that an abnormality has occurred, the state of the ground surface E to be monitored can be sent to the client as a moving image or a still image from the sign stage in which the change occurs. It is possible to realize reliable, stable and reliable ground surface monitoring without judgment.
[0029]
In the above-described embodiment, the ground surface E is targeted for a dangerous location that may collapse, but rivers such as debris flows and bank breaks can also be monitored.
Of course, the camera 1, the camera 2, and the panoramic recording camera 7 can use infrared cameras for night photography.
Further, the mobile phone 16 is exemplified as the client-side terminal, but any mobile communication means may be used. For example, a terminal using sanitary communication such as GPS mounted in a car may be used.
[0030]
【The invention's effect】
The invention according to claim 1 is connected to a plurality of target imaging cameras installed at positions separated from each other so as to be paired with a plurality of targets installed on the ground surface. A plurality of difference detection computers that perform difference detection based on the moving image of the image and a whole-view recording camera that captures and records the entire view of the ground surface including the target, and a moving image from the whole-view recording camera And a panoramic view recording computer having a function of receiving a differential detection signal output from the differential detection computer, and a client terminal is connected to the panoramic recording computer through a network. At the same time, the panoramic view recording computer outputs each difference detection signal output from each difference detection computer to an AND block. AND filtering means for sorting and outputting a sorting difference detection signal by filtering, a ground state quantity detection signal from a ground state quantity detection means for detecting a ground surface state installed in the vicinity of the target, and the sorting difference detection signal. It has a ground surface judging means for judging whether or not a change has occurred on the surface, and when the ground surface judging means judges that a ground surface change has occurred, the computer for panoramic recording records the client terminal through the network. The image data indicating the ground surface condition is transmitted.
[0031]
For this reason, the panoramic view recording computer considers not only the sorting difference detection signal output from the AND filtering means of the difference detection computer but also the ground state quantity detection signal output from the ground state quantity detection means. Since it is judged by the surface judgment means, it outputs a more reliable, stable and reliable detection result while avoiding frequent occurrence of alarms that cause detection failure, and a panoramic view with server function from the client terminal through the network By accessing the computer for recording, information such as moving images, still images, and panoramic images related to the ground surface can be browsed to realize smooth remote monitoring, and a ground surface monitoring system free from erroneous judgment can be obtained. There is an effect.
[0032]
According to the second aspect of the present invention, the difference detection performed by the difference detection computer is performed by comparing and inspecting the change of each color of red, green, and blue at a predetermined resolution between the preceding and succeeding frames. Because it is configured, it does not simply track changes in brightness on the video, but detects differences by comparing changes in the colors of red, green, and blue, so the target monitoring range and difference By variously setting the threshold value at which the occurrence of the problem occurs, there is an effect that it can be set and used for each ground surface monitoring site.
[0033]
Further, since the invention according to claim 3 has a configuration in which the predetermined resolution is set to 480 pixels × 640 pixels at the maximum for 30 frames per second, second × 30 frames × 640 × 480 pixels = 9, 216,000 . Since there are three colors of red, green, and blue, a comparison inspection of 9,216,000 × 3 = 27,648,000 times / second is performed by the difference detection computer. Therefore, an effect that a highly accurate abnormality monitoring system can be realized is achieved.
[0034]
In the invention described in claim 4, the target imaging computer sets each target into a monitoring target area and a non-monitoring area by the mask function, and ignores the non-monitoring area. By setting the area not to be monitored with the mask function and ignoring the area other than the monitored area, the weather, the change in brightness due to time, wind, etc. The effect of avoiding frequent occurrences of undesired alarms due to changes, wild animals crossing the front of the camera, etc., making it impossible to determine which alarms are truly necessary, and providing reliable, stable and reliable output There is.
[Brief description of the drawings]
FIG. 1 is a schematic configuration diagram showing an outline of a ground surface monitoring system according to an embodiment of the present invention.
FIG. 2 is a block diagram showing FIG. 1 in blocks.
FIG. 3 is a flowchart showing the block diagram of FIG. 2 as a flowchart.
[Explanation of symbols]
1 ... Camera (Target shooting camera)
2 ... Camera (Target shooting camera)
7 ... panoramic recording camera 8 ... panoramic recording computer 11a ... AND filtering unit 11b ... ground surface state detecting unit 11c ... determination unit 13 ... internet 15 ... client terminal 16 ... mobile phone A ... target B ... target E ... ground surface PC1 ... Difference detection computer PC2... Difference detection computer

Claims (4)

地表に設置された複数個のターゲットと対になるように、互いに離れた位置に設置した複数台のターゲット撮影用カメラに接続されて、同各ターゲット撮影用カメラからの動画像に基づいて差分検知を行う複数個の差分検知用コンピュータと、前記ターゲットを含む前記地表の全景を撮影して記録する全景記録用カメラに接続されて、同全景記録用カメラからの動画を連続して記録する機能、および前記差分検知用コンピュータから出力された差分検知信号を受信する機能を有する全景記録用コンピュータとを備え、この全景記録用コンピュータに、ネットワークを通じてクライアント端末が接続されると共に、同全景記録用コンピュータが、前記各差分検知用コンピュータから出力された各差分検知信号をANDフィルタリングにより選別して選別差分検知信号を出力するANDフィルタリング手段、前記ターゲット近傍に設置された地表の状態を検知する地表状態量検知手段からの地表状態量検知信号と前記選別差分検知信号とにより地表面に変化が生じているかどうかを判断する地表面判断手段を有し、当該地表面判断手段が、地表面の変化発生を判断したとき、前記全景記録用コンピュータから前記ネットワークを通じて前記クライアント端末に、地表面状況を示す画像データが送信されるようにしたことを特徴とする地表面監視システム。Connected to multiple target shooting cameras installed at positions distant from each other so as to pair with multiple targets installed on the ground surface, and detects differences based on moving images from each target shooting camera A plurality of difference detection computers, and a function for continuously recording a moving image from the panoramic recording camera, connected to a panoramic recording camera that captures and records the panoramic view of the ground including the target, And a panoramic view recording computer having a function of receiving a differential detection signal output from the differential detection computer. A client terminal is connected to the panoramic recording computer through a network, and the panoramic recording computer The difference detection signals output from the difference detection computers are selected by AND filtering. AND filtering means for outputting a sorting difference detection signal and a ground state quantity detection signal from a ground state quantity detection means for detecting a ground surface condition installed in the vicinity of the target and the sorting difference detection signal cause a change in the ground surface. A ground surface judging means for judging whether or not it has occurred, and when the ground surface judging means judges the occurrence of a change in the ground surface, the ground surface status is sent from the panoramic recording computer to the client terminal through the network. A ground surface monitoring system characterized in that image data to be transmitted is transmitted. 前記差分検知用コンピュータで行う差分検知は、前後のフレームの間で、所定の解像度において、赤、緑、青の各色の変化を比較検査することで行うようにしたことを特徴とする請求項1記載の地表面監視システム。2. The difference detection performed by the difference detection computer is performed by comparing and inspecting changes in red, green, and blue colors at a predetermined resolution between the previous and next frames. The ground surface monitoring system described. 上記所定の解像度は、秒間30フレームに対して、最高で640X480ピクセルに設定されることを特徴とする請求項1または2記載の地表面の監視システム。3. The ground surface monitoring system according to claim 1, wherein the predetermined resolution is set to 640 × 480 pixels at the maximum for 30 frames per second. 前記ターゲット撮影用コンピュータは、マスク機能により前記各ターゲットを、監視対象領域と、監視対象とされない領域とに区分けし、当該監視対象としない領域を、無視するように設定しうるようにしたことを特徴とする請求項1乃至3のいずれか一に記載の地表面監視システム。The target photographing computer can divide each target into a monitoring target area and a non-monitoring area by using a mask function, and can be set to ignore the non-monitoring area. The ground surface monitoring system according to any one of claims 1 to 3, wherein
JP2002278167A 2002-09-24 2002-09-24 Ground surface monitoring system Expired - Fee Related JP3869780B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002278167A JP3869780B2 (en) 2002-09-24 2002-09-24 Ground surface monitoring system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002278167A JP3869780B2 (en) 2002-09-24 2002-09-24 Ground surface monitoring system

Publications (2)

Publication Number Publication Date
JP2004117072A JP2004117072A (en) 2004-04-15
JP3869780B2 true JP3869780B2 (en) 2007-01-17

Family

ID=32273520

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002278167A Expired - Fee Related JP3869780B2 (en) 2002-09-24 2002-09-24 Ground surface monitoring system

Country Status (1)

Country Link
JP (1) JP3869780B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013064680A (en) * 2011-09-20 2013-04-11 Wakayama Univ Alarm system for displacement detection

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5108392B2 (en) * 2007-06-15 2012-12-26 株式会社コスモプラニング Orbital displacement measurement system
JP2011209780A (en) * 2010-03-29 2011-10-20 Mitsubishi Space Software Kk Change area specification device and change area specification program
CN113674509B (en) * 2021-10-21 2022-06-21 北京博华信智科技股份有限公司 Edge node disaster monitoring and early warning system and method based on block chain

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2516504B2 (en) * 1991-10-23 1996-07-24 鹿島建設株式会社 Measuring method of inclination fluctuation
JPH0921636A (en) * 1995-07-10 1997-01-21 Shimizu Corp Apparatus for monitoring behavior of ground and structure
JP2002016906A (en) * 2000-06-30 2002-01-18 Toshiba Corp Long-term continuous monitoring system and method for long-term continuous monitoring using monitoring camera
JP4220140B2 (en) * 2001-06-05 2009-02-04 富士通株式会社 Sediment disaster prediction system and prediction method

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013064680A (en) * 2011-09-20 2013-04-11 Wakayama Univ Alarm system for displacement detection

Also Published As

Publication number Publication date
JP2004117072A (en) 2004-04-15

Similar Documents

Publication Publication Date Title
US8200024B2 (en) Image monitoring system
JP4803376B2 (en) Camera tampering detection method
KR100946749B1 (en) The Methord and the System of the fog detection using the Image recognition and image learning methord
KR101149916B1 (en) Warning system of landslide
JP2006352644A (en) Image abnormality detecting device of surveillance camera
JP2003240613A (en) Remote monitoring device
KR101758685B1 (en) Method, system for detecting camera tampering
JP5127883B2 (en) Network camera error detection and notification method
JP2007026300A (en) Traffic flow abnormality detector and traffic flow abnormality detection method
CN116434533A (en) AI wisdom highway tunnel synthesizes monitoring platform based on 5G
JPH0844874A (en) Image change detector
JP3377659B2 (en) Object detection device and object detection method
JP3869780B2 (en) Ground surface monitoring system
KR101046819B1 (en) Method and system for watching an intrusion by software fence
JP2006285399A (en) Image monitoring method and device for monitoring motion of vehicle at intersection
JP5404453B2 (en) Vehicle monitoring device
JP4220140B2 (en) Sediment disaster prediction system and prediction method
JP7031817B2 (en) Surveillance systems, surveillance programs, and storage media
JP2000105137A (en) Method and apparatus for detection of avalanche of rocks and earth
KR100994418B1 (en) System For Processing Imaging For Detecting the Invasion Of Building and Method Thereof
KR101327256B1 (en) System and method of detecting vehicle using detecting shadow region of the vehicle by ptz camera
JP2006333146A (en) Human body detector
KR101425658B1 (en) Detection method of hacking and malfunction for surveillance camera system
JP4825479B2 (en) Monitoring system and monitoring method
JP2009294974A (en) Intruder detection device by image processing

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050325

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20050325

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20050326

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20060908

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20061010

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20061013

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees