JP2005328236A - 映像監視方法、映像監視装置、および映像監視プログラム - Google Patents

映像監視方法、映像監視装置、および映像監視プログラム Download PDF

Info

Publication number
JP2005328236A
JP2005328236A JP2004143354A JP2004143354A JP2005328236A JP 2005328236 A JP2005328236 A JP 2005328236A JP 2004143354 A JP2004143354 A JP 2004143354A JP 2004143354 A JP2004143354 A JP 2004143354A JP 2005328236 A JP2005328236 A JP 2005328236A
Authority
JP
Japan
Prior art keywords
change
video
area
change area
alarm sound
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2004143354A
Other languages
English (en)
Inventor
Tomoki Watabe
智樹 渡部
Shinya Nakajima
信弥 中嶌
Hiroki Anzai
浩樹 安西
Nobuhiko Takehara
伸彦 竹原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2004143354A priority Critical patent/JP2005328236A/ja
Publication of JP2005328236A publication Critical patent/JP2005328236A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Burglar Alarm Systems (AREA)

Abstract

【課題】 映像またはあらかじめ定められた時間間隔で撮影された画像上に変化が生じると警報音を鳴らす映像監視方法において、警報音が鳴る度に映像または画像を確認しなくてもよくする。
【解決手段】 映像またはあらかじめ定められた時間間隔で撮影された画像を取得するステップと、前記取得した映像のフレーム上または画像上の変化領域を検出したときに警報音を生成するステップとを有する映像監視方法であって、前記警報音を生成するステップは、前記検出した変化領域の位置、あるいは変化の度合いを求めるステップ1と、前記ステップ1で求めた変化領域の位置、あるいは変化の度合いに基づいて、前記警報音のあるパラメータ(成分)の値を決定するステップ2と、前記ステップ2で決定した値を用いて前記警報音を生成するステップ3とを有する映像監視方法である。
【選択図】 図1

Description

本発明は、映像監視方法、映像監視装置、および映像監視プログラムに関し、特に、映像上に変化が生じたときに警報音を出力して(鳴らして)監視者に知らせる監視方法に適用して有効な技術に関するものである。
従来、監視カメラ等の撮影手段を用いて撮影した映像、またはあらかじめ定められた時間間隔で撮影された画像をCRTディスプレイ等の表示手段に表示し、前記表示手段を観察することで、前記撮影手段で撮影されている領域を監視する方法がある。このような監視方法では、前記撮影手段で撮影された映像または画像をコンピュータ等の映像取得装置で取得し、前記取得した映像または画像を前記表示手段に表示する。そして監視者は、前記表示手段に表示された映像または画像を見て、たとえば、侵入者等の有無を監視する。そのため、地理的に離れた場所の監視や、複数の場所の同時監視が容易である。
また、前記映像や画像を用いた監視方法では、前記撮影手段で撮影している領域内に不審者や物体が入ると、前記映像のフレーム上または画像上に変化が生じる。そのため、たとえば、取得した前記映像のフレームまたは画像を解析し、変化が生じたときに、警報音を鳴らして監視者に異常を知らせる方法もある。また、近年では、前記映像または画像上に監視対象領域を設定し、前記監視対象領域内に変化が生じたときに、警報音を鳴らして監視者に知らせる監視方法もある(たとえば、特許文献1を参照。)。
このように、映像のフレーム上または画像上に変化が生じると警報音を鳴らす監視方法では、前記監視者は、前記警報音が鳴ったときに、前記表示手段に表示されている映像や画像を確認すればよい。そのため、前記監視者は、映像や画像を常時注視していなくてもよく、負担を軽減することができる。
特開平5−7363号公報
しかしながら、従来の、前記映像上または画像上の変化(侵入物体)を検出したときに警報音を鳴らす監視方法の場合、前記監視者は、警報音が鳴る度に前記映像あるいは画像を見て、どのような人あるいは物体が侵入したかを確認しなければならないという問題があった。
また、前記映像または画像を用いて監視する場合、たとえば、前記撮影手段で撮影している領域内に、テレビ受像器の画面やコンピュータのモニタ(ディスプレイ)のように時間的な変化をともなう静止物体が映っていることもある。その場合、従来の監視方法では、前記画面やモニタの変化を検出することがある。つまり、前記従来の監視方法では、不審者の侵入等の異常を示す変化とは無関係の変化でも警報音が鳴ることがあるという問題もあった。
また、前記特許文献1のように監視対象領域を設定する監視方法の場合、前記映像上または画像上の部分的な領域についてのみ、変化の有無を調べている。そのため、前記監視対象領域の外側で変化が生じたときには警報音を鳴らさないような設定になっていることがある。つまり、前記特許文献1のような監視方法の場合、前記監視対象領域に近づく不審者(侵入物体)などの動きがわからず、異常時の対応が遅れる可能性があるという問題もあった。
本発明の目的は、映像またはあらかじめ定められた時間間隔で撮影された画像上に変化が生じると警報音を鳴らす映像監視方法において、警報音が鳴る度に映像または画像を確認しなくてもよいことが可能な技術を提供することにある。
本発明の他の目的は、映像またはあらかじめ定められた時間間隔で撮影された画像上に変化が生じると警報音を鳴らす映像監視装置において、警報音を聞いた監視者が映像または画像を確認しなくても異常の度合いや緊急度の推測をすることが可能な技術を提供することにある。
本発明の前記ならびにその他の目的と新規な特徴は、本明細書の記述および添付図面によって明らかになるであろう。
本願において開示される発明の概略を説明すれば、以下の通りである。
(1) 映像またはあらかじめ定められた時間間隔で撮影された画像を取得するステップと、前記取得した映像のフレーム上または画像上の変化領域を検出したときに警報音を生成するステップとを有する映像監視方法であって、前記警報音を生成するステップは、前記検出した変化領域の位置、あるいは変化の度合いを求めるステップ1と、前記ステップ1で求めた変化領域の位置、あるいは変化の度合いに基づいて、前記警報音のあるパラメータ(成分)の値を決定するステップ2と、前記ステップ2で決定した値を用いて前記警報音を生成するステップ3とを有する映像監視方法である。
(2) 映像またはあらかじめ定められた時間間隔で撮影された画像を取得する映像取得手段と、前記映像取得手段で取得した映像のフレーム上または画像上の変化領域を検出したときに警報音を生成する警報音生成手段とを備える映像監視装置であって、前記取得した映像のフレーム上または前記画像上の変化領域を検出する変化領域検出手段と、前記変化領域検出手段で検出した変化領域の位置、あるいは変化の度合いを求める変化度算出手段と、前記変化度算出手段で求めた前記変化領域の位置、あるいは変化の度合いに基づいて設定された前記警報音のあるパラメータの値を管理する設定管理手段とを備え、前記警報音生成手段は、前記変化度算出手段で求めた前記変化領域の位置、あるいは変化の度合いと、前記設定管理手段で管理するパラメータの値に基づいて前記警報音を生成する映像監視装置である。
本発明の映像監視方法は、前記(1)に記載したように、取得した映像上または画像上で変化領域を検出したときに、前記変化領域の位置や変化の度合いに基づいて、たとえば、音量、音程、テンポ等の警報音のパラメータを変える。そのため、生成され、スピーカ等の出力手段から鳴る警報音を聞いた監視者は、前記警報音から生じた変化の内容を推測することができる。つまり、前記警報音を聞いた監視者は、前記警報音に基づいて、緊急を要する変化であると判断した場合だけ表示手段の画面を見て変化の要因を確認すればよく、監視に対する負担を軽減することができる。
このとき、前記(1)に記載した映像監視方法は、たとえば、前記ステップ1において前記変化領域と、あらかじめ定められた監視対象領域の距離を計測し、前記ステップ2において前記ステップ1で計測した距離に基づいて前記警報音のあるパラメータの値を決定するという方法が考えられる。また、その他にも、たとえば、前記ステップ1において前記変化領域の大きさ(変化量)を算出し、前記ステップ2において前記ステップ1で算出した変化領域の大きさに基づいて前記警報音のあるパラメータの値を決定する方法であってもよい。またさらに、たとえば、前記ステップ1において前記変化領域の単位時間当たりの移動量を算出し、前記ステップ2において前記ステップ1で算出した移動量に基づいて前記警報音のあるパラメータの値を決定する方法であってもよい。またこのとき、前記パラメータは、たとえば、音量、音程、テンポ等の前記監視者による聞き分けが可能なパラメータであればよい。
また、前記(1)に記載した映像監視方法では、前記警報音のパラメータを1種類でなく、いくつかのパラメータを変えてもよい。いくつかのパラメータを変える方法としては、たとえば、前記ステップ1において、前記変化領域と、あらかじめ定められた監視対象領域の距離の計測、前記変化領域の大きさ(変化量)の算出、前記変化領域の単位時間当たりの移動量の算出を行い、前記ステップ2において前記計測した距離に基づいて前記警報音の第1パラメータの値を決定し、前記算出した変化領域の大きさに基づいて前記警報音の第2パラメータの値を決定し、前記算出した移動量に基づいて前記警報音の第3パラメータの値を決定する方法が考えられる。このとき、たとえば、前記第1パラメータを音量、前記第2パラメータを音程(周波数)、前記第3パラメータをテンポ(出力間隔)として前記警報音を生成すれば、前記警報音を聞いた監視者は音量、音程、テンポから、前記変化の要因をより詳細に推測することができる。
また、前記変化領域の単位時間当たりの移動量を算出するときには、たとえば、前記変化領域を検出したフレームまたは画像が撮影された時刻のΔt秒前のフレーム上または画像上から、前記検出した変化領域に相当する変化領域を特定し、前記各フレーム間または前記各画像間での前記変化領域の移動量を算出すればよい。
また、前記(1)の映像監視方法を実現する装置としては、たとえば、前記(2)に記載したような各手段を備える映像監視装置が考えられる。このとき、前記変化度算出手段は、たとえば、前記変化領域とあらかじめ定められた監視対象領域の距離を計測する距離測定手段を備え、前記警報音生成手段は、前記距離計測手段で計測した距離に基づいて前記警報音のあるパラメータの値を決定する。また、前記変化度算出手段は、たとえば、前記変化領域の大きさ(変化量)を算出する変化面積算出手段であってもよい。その場合、前記警報音生成手段は、前記変化量算出手段で算出した変化領域の大きさに基づいて前記警報音のあるパラメータの値を決定する。また、前記変化度算出手段は、前記変化領域の単位時間当たりの移動量を算出する移動量算出手段であってもよい。その場合、前記警報音生成手段は、前記移動量算出手段で算出した移動量に基づいて前記警報音のあるパラメータの値を決定する。また、前記パラメータは、たとえば、音量、音程、テンポ等の前記監視者による聞き分けが可能なパラメータであればよく、前記映像監視装置が自動的に設定してもよいし、前記監視者が入力手段を用いて設定してもよい。また、前記パラメータの値も、前記監視者による聞き分けが可能な値であればよく、前記映像監視装置が自動的に決定してもよいし、前記監視者が設定した値を用いて決定してもよい。
またさらに、前記(2)に記載した映像監視装置において、前記変化度算出手段は、たとえば、前記変化領域とあらかじめ定められた監視対象領域の距離を計測する距離計測手段と、前記変化領域の大きさ(変化量)を算出する変化面積算出手段と、前記変化領域の単位時間当たりの移動量を算出する移動量算出手段の3つの手段を備えていてもよい。その場合、前記警報音算出手段は、前記距離計測手段で計測した距離に基づいて前記警報音の第1パラメータの値を決定し、前記変化面積算出手段で算出した変化領域の大きさに基づいて前記警報音の第2パラメータの値を決定し、前記移動量算出手段で算出した移動量に基づいて前記警報音の第3パラメータの値を決定する。このような映像監視装置の場合、前記警報音から判別できる変化領域に関する情報が3つあるので、監視者に対して、前記変化の要因を推測しやすい警報音を生成し、出力することができる。
また、前記(2)に記載した映像監視装置は、コンピュータとプログラムによっても実現することができる。その場合、前記プログラムは、たとえば、前記(1)に記載した映像監視方法における各ステップをコンピュータに実行させるプログラムとすればよい。
以下、本発明について、図面を参照して実施の形態(実施例)とともに詳細に説明する。
なお、実施例を説明するための全図において、同一機能を有するものは、同一符号を付け、その繰り返しの説明は省略する。
本発明の映像監視方法では、取得した映像のフレーム上、またはあらかじめ定められた時間間隔で撮影された画像上の変化を検出したときに、変化した領域の位置あるいは変化の度合いに応じて、たとえば、音量、音程(周波数)、テンポ等の警報音のパラメータを変えて出力する(鳴らす)。このようにすることで、前記映像または画像を見ながら監視する監視者は、前記警報音から変化の要因や異常の度合い、緊急度を推測することができる。
図1は、本発明による実施例1の映像監視方法の原理を説明するための模式図であり、図1(a)は監視画面の一例を示す図、図1(b)は警報音のパラメータの設定例を示す図である。
図1(a)において、1は監視画面、1Aは監視対象領域、1Bは第1周辺領域、1Cは第2周辺領域、1Dは第3周辺領域、1Eは第4周辺領域、2は変化領域である。
本実施例1の映像監視方法は、図1(a)に示すように、監視画面1、言い換えると映像またはあらかじめ定められた時間間隔で撮影された画像上に監視対象領域1Aを設定する。このとき、前記監視対象領域1Aは、図1(a)に示したような矩形状の他、点であってもよいし円形状あるいは任意の形状であってもよい。そして、図1(a)に示したように、監視画面1上で変化領域2を検出したときに、前記変化領域2と前記監視対象領域1Aの距離を測定し、その距離に応じて警報音のあるパラメータの値を変える。前記警報音の変化させるパラメータは、たとえば、音量、音程(周波数)、テンポ等、監視者が聞き分けられるパラメータであればよく、本実施例1の監視方法では、変化させるパラメータを音量として説明する。
また、本実施例1の映像監視方法では、たとえば、図1(a)に示すように、前記監視対象領域1Aの外周に第1周辺領域1B、第2周辺領域1C、第3周辺領域1Dを設定し、前記第3周辺領域1Dの外側を第4周辺領域1Eとする。このとき、前記第1周辺領域1B、第2周辺領域1C、第3周辺領域1Dは、図1(a)に示したように、矩形状であってもよいし、円形状であってもよい。また、前記各領域1B,1C,1Dの大きさ(面積)は、自由に設定することができるとし、本実施例1では、前記第1周辺領域1Bの面積、前記第2周辺領域1Cの面積、前記第3周辺領域1Dの面積はそれぞれ、前記監視対象領域1Aの4倍、8倍、20倍とする。
また、本実施例1の監視方法では、前記変化領域2と前記監視対象領域1Aの距離の代わりに、前記変化領域2と重なる領域のうち、前記監視対象領域1Aに最も近い領域に応じて警報音のパラメータ(音量)を変化させる。このとき、前記警報音のパラメータ(音量)は、たとえば、図1(b)に示すように、前記変化領域2と前記監視対象領域1Aと重なっているときには最大音量とする。以下、前記変化領域2と重なる領域のうち前記監視対象領域1Aに最も近い領域が第1周辺領域1Bの場合は最大音量の4分の1、第2周辺領域1Cの場合は最大音量の8分の1、第3周辺領域1Dの場合は最大音量の20分の1、第4周辺領域1Eの場合は最大音量の50分の1とする。つまり、図1(a)に示した例では、前記変化領域2は第4周辺領域1Eのみと重なっているため、前記変化領域2を検出した場合、最大音量の50分の1の音量で警報音を鳴らす。この場合、監視者は警報音を聞くだけで、前記変化領域2は前記監視対象領域1Aから離れた場所に生じており、緊急を要する変化ではないことが推測できる。また、図示は省略するが、前記変化領域2が前記監視対象領域1Aあるいは第1周辺領域1Bと重なっているときには、最大音量あるいは最大音量の4分の1の音量の警報音が鳴るので、前記監視者は、緊急を要する変化であることが推測でき、すぐに監視画面1を見て変化の要因を確認し、対処することができる。
図2は、本実施例1の映像監視方法を実現する映像監視装置の概略構成を示す模式図である。
図2において、3は映像監視装置、301は映像取得手段、302はノイズ除去手段、303は変化領域検出手段、304は距離計測手段、305は警報音生成手段、306は対象領域管理手段、307は音量設定管理手段、308は楽音管理手段、309は設定値取得手段、4は撮影手段、5は警報音出力手段、6は表示手段(監視モニタ)、7は入力手段である。
本実施例1の映像監視方法を実現する映像監視装置3は、図2に示すように、撮影手段4で撮影した映像を取得する映像取得手段301と、前記映像取得手段301で取得した映像からノイズを除去するノイズ除去手段302と、前記ノイズ除去手段302でノイズを除去した映像の各フレームを解析して前記変化領域2を検出する変化領域検出手段303と、前記変化領域検出手段303で変化領域2を検出した場合に前記変化領域2とあらかじめ定められた監視対象領域1Aの距離を計測する距離計測手段304と、前記距離計測手段304で計測した距離に応じた警報音を生成して警報音出力手段5に出力する警報音生成手段305とを備える。また、前記映像取得手段301で取得した映像は、表示手段6に表示させる。
また、前記映像監視装置3は、前記各手段に加え、前記監視対象領域1Aを管理する対象領域管理手段306と、前記警報音生成手段305で生成する警報音で変化させるパラメータ(音量)の設定を管理する設定管理手段307と、1種類または2種類以上のパターンが異なる警報音のパターン(楽音)を管理する楽音管理手段308と、入力手段7から入力される監視対象領域1Aやその周辺領域、変化させるパラメータ等の設定値、警報音のパターン(楽音)を取得する設定値取得手段309とを備える。またこのとき、前記設定値取得手段309で取得した監視対象領域1Aに関する情報は、前記表示手段6にも転送し、前記表示手段6に表示する映像に前記監視対象領域1Aを重ねて表示してもよい。
また、前記撮影手段4は、たとえば、ビデオカメラのような映像撮影装置であり、有線あるいは無線通信によって、撮影した映像を前記映像監視装置3の映像取得手段301に転送する。また、前記撮影手段4は、前記映像を撮影する代わりに、あらかじめ定められた時間間隔で画像を撮影し、前記映像取得手段301に順次転送する手段であってもよい。
また、前記表示手段6は、たとえば、CRTディスプレイ、液晶ディスプレイ等の表示装置である。
また、前記入力手段7は、たとえば、キーボードやマウス、タッチパネル等の入力デバイスであり、監視者は、前記表示手段6に表示された映像を見ながら、特に注意して監視したい領域(監視対象領域1A)を設定する。またこのとき、前記監視対象領域1Aは画像上の座標範囲とし、その座標値は前記対象領域管理手段306で管理する。また、前記入力手段7は、前記監視対象領域1Aの他に、たとえば、図1(a)に示したような周辺領域1B,1C,1Dの設定、図1(b)に示したようなパラメータ(音量)の値の設定、警報音のパターン(楽音)の設定にも用いる。
前記映像監視装置3では、前記変化領域検出手段303において、取得した映像の各フレームを、たとえば、時刻t0の基準フレームと比較し、変化した領域の有無を調べる。また、前記変化領域検出手段303で変化領域2を検出した場合、前記距離計測手段304において、前記検出した変化領域2と前記監視対象領域1Aの距離を測定する。この距離は、前述のように、前記変化領域2が重なる領域の中で前記監視対象領域1Aに最も近い領域とする。また、前記撮影手段4が、あらかじめ定められた時間間隔で画像を撮影する手段である場合、前記変化領域検出手段303は、取得した画像を基準画像と比較し、変化した領域の有無を調べればよい。
図3は、本実施例1の映像監視方法の具体的な処理手順を説明するためのフロー図である。
本実施例1の映像監視方法では、前記監視者は、前記映像取得手段301で取得し、前記表示手段6で表示されている映像を見ながら、図3に示すように、まず、前記入力手段7を用いて、前記監視対象領域1Aおよび前記各周辺領域1B,1C,1Dを指定する(ステップ801)。このとき、入力した前記監視対象領域1Aおよび前記各周辺領域1B,1C,1Dは、前記対象領域管理手段306で保持する。また、前記各周辺領域1B,1C,1Dは、前記監視対象領域1Aに基づいて前記映像監視装置3が決定してもよい。次に、前記入力手段7を用いて、警報音のパターン(楽音)や図1(b)に示したようなパラメータ(音量)の設定をする(ステップ802)。前記ステップ802は、前記監視者が具体的な値を設定する代わりに、たとえば、前記監視者が設定する代わりに前記映像監視装置3が自動的に設定してもよいし、前記映像監視装置3の設定管理手段307に用意された数通りの設定の中から選んでもよい。このようにして、前記各領域およびパラメータ等の設定が済んだら、前記映像を用いた監視を開始する。
前記監視を開始したら、前記映像取得手段301は、取得した映像を前記表示手段6に表示させる一方で、前記ノイズ除去手段302において、前記映像からノイズを除去する(ステップ803)。前記ステップ803は、たとえば、蛍光灯の光やカメラの感度などの影響により数ピクセル単位の微小で離散的なノイズが抽出され、そのノイズがフレーム上の変化として検出されることを防ぐために行う。
前記ステップ803でノイズを除去したら、次に、前記変化領域検出手段303において、前記映像の各フレームを解析し(ステップ804)、変化領域を検出したか否かの判定をする(ステップ805)。前記ステップ804では、たとえば、監視開始時等の基準となるフレームと解析対象のフレームを比較し、変化した領域の有無を調べる。そして、前記ステップ805で前記解析対象のフレームから変化領域が検出されなかったと判定された場合、前記ステップ803に戻り、次のフレームの解析を行う。
一方、前記ステップ805において解析対象のフレームから変化領域2が検出されたと判定された場合、次に、前記距離計測手段304において、前記変化領域2と前記監視対象領域1Aの距離を計測する(ステップ806)。前記ステップ806は、たとえば、前述のように、前記変化領域2と重なっている各領域1A,1B,1C,1D,1Eのうち、前記監視対象領域1Aに最も近い領域を求める。
前記ステップ806で距離を求めたら、次に、前記警報音生成手段305において、前記求めた距離と対応するパラメータ(音量)の値を決定する(ステップ807)。前記ステップ807は、前記設定管理手段307で管理している設定値、たとえば、図1(b)に示したような設定表を用いて行う。
前記警報音生成手段305は、前記ステップ807の処理の後、すなわち前記警報音の音量を決定した後、前記ステップ802で設定した楽音および前記ステップ807で決定した音量の警報音を生成し、前記警報音出力手段5に出力させる(ステップ808)。
その後、監視を続けるか否かの判定をし(ステップ809)、続ける場合はステップ803に戻り、続けない場合は終了する。
以上説明したように、本実施例1の映像監視方法によれば、映像上に変化領域を検出したときに、変化領域2と監視対象領域1Aの距離に応じて警報音のパラメータ、たとえば、音量を変えた警報音を生成し、出力する。そのため、監視者は、前記警報音の音量に基づいて変化領域2と監視対象領域1Aの距離関係や緊急度を推測することができる。また、前記警報音の音量に基づいた緊急度の推測が可能であるため、前記監視者は、警報音が鳴る度に表示手段6を見る必要はなく、監視に対する負担が軽減する。
また、本実施例1では、前記警報音のパラメータとして音量を変えたが、これに限らず、たとえば、距離に応じて音程(周波数)を変えてもよいし、音のテンポ(出力間隔)を変えてもよい。
また、本実施例1では、前記警報音の音量を、図1(b)に示したように前記各領域1A,1B,1C,1D,1Eと対応させて段階的に変えるように設定したが、これに限らず、たとえば、前記変化領域2と前記監視対象領域1Aの距離と音量が反比例するような数式、すなわち距離が近ければ音量が大きくなり、遠ければ小さくなるような数式を用いて連続的に変えるように設定してもよい。
また、本実施例1では、前記監視対象領域が1つの場合を例に挙げたが、これに限らず、1つの映像上または画像上に2つ以上の監視対象領域を設定してもよい。この場合、前記監視対象領域毎に異なる楽音(パターン)を設定しておけば、前記警報音を聞いた監視者は、たとえば、警報音のパターンからどの監視対象領域の近くに変化が生じたかがわかり、音程から前記監視対象領域からどの程度の距離に変化が生じたかがわかる。
また、図2に示した映像監視装置3では省略したが、前記映像監視装置3は、取得した映像または画像を一定期間保持しておく映像保持手段や、前記取得した映像または画像を磁気的、電気的、あるいは光学的な記録媒体に記録する記録手段を備えていてもよい。前記映像保持手段や前記記録手段を設けておけば、リアルタイムの映像を見ながら監視するだけでなく、たとえば、数分前や数時間前、1日前の映像を確認し、どのような異常や侵入物体が検出されたかをさかのぼって調べることができる。またこのとき、前記映像とともに、たとえば、前記変化領域検出手段303で変化領域2を検出した時刻や検出した変化領域2の座標値、前記警報音生成手段305で警報音を生成した時刻やパラメータ(音量)の値等もあわせて保持、あるいは記録媒体に記録しておけば、時間をさかのぼって異常や侵入物体の検出履歴を調べる作業が容易になる。またさらに、前記映像、警報音の生成時刻やパラメータ等を検出履歴として保持しておけば、たとえば、1日のうちのどの時間帯に、前記異常や侵入物体が多く検出されるか等の統計をとる作業も容易になる。またこのとき、監視者は、前記統計に基づき、特に注意をして監視しなければならない時間帯等を容易に知ることもできる。
図4は、本発明による実施例2の映像監視方法の原理を説明するための模式図であり、図4(a)は監視画面の一例を示す図、図4(b)は警報音のパラメータの設定例を示す図である。
本実施例2の映像監視方法は、図4(a)に示すように、時刻t1の監視画面1と時刻t2の監視画面1を比較し、変化領域2を検出すると、前記変化領域2の変化量S、言い換えると前記変化領域2の面積の大きさに応じて前記警報音のパラメータの値を変える。前記警報音の変化させるパラメータは、たとえば、音量、音程(周波数)、テンポ等、監視者が聞き分けられるパラメータであればよく、本実施例2の監視方法では、変化させるパラメータを音程として説明する。
このとき、前記警報音のパラメータ(音程)は、たとえば、図4(b)に示すように、前記変化領域2の変化量Sの大きさに応じて、たとえば、5通りの音程(周波数)を設定する。またこのとき、前記パラメータ(音程)は、たとえば、変化量Sが大きいほど高周波、すなわち高い音が鳴るように設定する。
図5は、本実施例2の映像監視方法を実現する映像監視装置の概略構成を示す模式図である。
本実施例2の映像監視方法を実現する映像監視装置3は、図5に示すように、撮影手段4で撮影した映像を取得する映像取得手段301と、前記映像取得手段301で取得した映像からノイズを除去するノイズ除去手段302と、前記ノイズ除去手段302でノイズを除去した映像の各フレームを解析し変化領域を検出する変化領域検出手段303と、前記変化領域検出手段303で変化領域2を検出した場合にその変化領域2の面積(変化量S)を算出する変化面積算出手段310と、前記変化面積算出手段310で算出した面積の大きさに応じた警報音を生成して警報音出力手段5に出力する警報音生成手段305とを備える。また、前記映像取得手段301で取得した映像は、表示手段6に表示させる。
また、前記映像監視装置3は、前記各手段に加え、前記警報音生成手段305で生成する警報音で変化させるパラメータ(音程)の設定を管理する設定管理手段307と、1種類または2種類以上のパターンが異なる警報音のパターン(楽音)を管理する楽音管理手段308と、入力手段7から入力される前記パラメータ等の設定値(情報)、警報音のパターン(楽音)を取得する設定値取得手段309と、前記変化面積算出手段310で変化量Sを算出する際に用いる比較フレーム(画像)を保持する画像保持手段311を備える。
また、前記撮影手段4は、たとえば、ビデオカメラのような映像撮影装置であり、有線あるいは無線通信によって、撮影した映像を前記映像監視装置3の映像取得手段301に転送する。また、前記撮影手段4は、前記映像を撮影する代わりに、あらかじめ定められた時間間隔で画像を撮影し、前記映像取得手段301に順次転送する手段であってもよい。
また、前記表示手段6は、たとえば、CRTディスプレイ、液晶ディスプレイ等の表示装置である。
また、前記入力手段7は、たとえば、キーボードやマウス、タッチパネル等の入力デバイスであり、監視者は、たとえば、図4(b)に示したようなパラメータ(音程)の値の設定、警報音のパターン(楽音)を設定する。またこのとき、前記監視者は、前記入力手段7を用いて、たとえば、前記表示手段6に表示された映像を見ながら、特に注意して監視したい領域(監視対象領域)を設定してもよい。このとき、設定した監視対象領域は、たとえば、前記表示手段6に表示された映像上に表示する。
前記映像監視装置3では、前記変化領域検出手段303において、取得した映像の各フレームを、たとえば、時刻t0の基準フレームと比較し、変化した領域の有無を調べる。また、前記変化領域検出手段303で変化領域2を検出した場合、前記変化面積算出手段310において、前記検出したフレームの変化領域2の変化量Sを算出する。前記変化量Sは、前述のように、前記画像保持手段311で保持している基準フレームあるいはΔt秒前のフレームと比較して、たとえば、変化があった画素数の総和などから算出する。また、前記撮影手段4が、あらかじめ定められた時間間隔で画像を撮影する手段である場合、前記変化面積算出手段310は、取得した画像を基準画像あるいはΔt秒前の画像と比較し、変化した画素の総和を算出すればよい。
図6は、本実施例2の映像監視方法の具体的な処理手順を説明するためのフロー図である。
本実施例2の映像監視方法では、前記監視者は、図6に示すように、前記入力手段7を用いて、警報音のパターン(楽音)や図4(b)に示したようなパラメータ(音程)の設定をする(ステップ802)。前記ステップ802は、前記監視者が具体的な値を設定する代わりに、たとえば、前記監視者が設定する代わりに前記映像監視装置3が自動的に設定してもよいし、前記映像監視装置3の設定管理手段307に用意された数通りの設定の中から選んでもよい。このようにして、前記パラメータ等の設定が済んだら、前記映像を用いた監視を開始する。また、本実施例2の映像監視方法では、前記実施例1で説明したような監視対象領域1Aを設定する必要はないが、前記監視者が望む場合、前記ステップ802の前あるいは後に、前記映像取得手段301で取得し、前記表示手段6で表示されている映像を見ながら、前記入力手段7を用いて前記監視対象領域1Aを指定し、前記表示手段5に表示させてもよい。
前記監視を開始したら、前記映像取得手段301は、取得した映像を前記表示手段6に表示させる一方で、前記ノイズ除去手段302において、前記映像からノイズを除去する(ステップ803)。
前記ステップ803でノイズを除去したら、次に、前記変化領域検出手段303において、前記映像の各フレームを解析し(ステップ804)、変化領域を検出したか否かの判定をする(ステップ805)。前記ステップ804では、たとえば、監視開始時等の基準となるフレームと解析対象のフレームを比較し、変化した領域の有無を調べる。そして、前記ステップ805において前記解析対象のフレームから変化領域が検出されなかったと判定した場合、前記ステップ803に戻り、次のフレームの解析を行う。
一方、前記ステップ805において前記解析対象のフレームから変化領域2が検出されたと判定した場合、次に、前記変化面積算出手段310において、前記変化領域2の変化量Sを算出する(ステップ810)。前記ステップ810は、たとえば、前述のように、変化領域2を検出したフレームと、前記画像保持手段310で保持している基準フレームあるいはΔt秒前のフレームとを比較して、変化した画素の総和を算出する。
前記ステップ810で変化量Sを求めたら、次に、前記警報音生成手段305において、前記求めた変化量Sと対応するパラメータ(音程)の値を決定する(ステップ807)。前記ステップ807は、前記設定管理手段307で管理している設定値、たとえば、図4(b)に示したような設定表を用いて行う。
前記警報音生成手段305は、前記ステップ807の処理の後、すなわち前記警報音の音程を決定した後、前記ステップ802で設定した楽音および前記ステップ807で決定した音程の警報音を生成し、前記警報音出力手段5に出力させる(ステップ808)。
その後、監視を続けるか否かの判定をし(ステップ809)、続ける場合はステップ803に戻り、続けない場合は終了する。
以上説明したように、本実施例2の映像監視方法によれば、映像上に変化領域2を検出したときに、変化領域2の変化量Sに応じて警報音のパラメータ、たとえば、音程を変えた警報音を生成し、出力する。そのため、監視者は、前記警報音の音程に基づいて変化領域2(侵入物体)の大きさや緊急度を推測することができる。また、前記警報音の音程に基づいた緊急度の推測が可能であるため、前記監視者は、警報音が鳴る度に表示手段6を見る必要はなく、監視に対する負担が軽減する。
また、本実施例2では、前記警報音のパラメータとして音程を変えたが、これに限らず、たとえば、変化量Sに応じて音量を変えてもよいし、音のテンポ(再生間隔)を変えてもよい。
また、本実施例2では、前記警報音の音程を、図4(b)に示したように前記段階的に変えるように設定したが、これに限らず、たとえば、前記変化領域2の大きさに比例するような数式、すなわち前記変化領域2の面積が大きいほど音程が高くなるような数式を用いて連続的に変えるように設定してもよい。
また、図5に示した映像監視装置3では省略したが、前記映像監視装置3は、取得した映像または画像を一定期間保持しておく映像保持手段や、前記取得した映像または画像を磁気的、電気的、あるいは光学的な記録媒体に記録する記録手段を備えていてもよい。前記映像保持手段や前記記録手段を設けておけば、リアルタイムの映像を見ながら監視するだけでなく、たとえば、数分前や数時間前、1日前の映像を確認し、どのような異常や侵入物体が検出されたかをさかのぼって調べることができる。またこのとき、前記映像とともに、たとえば、前記変化領域検出手段303で変化領域2を検出した時刻や検出した変化領域の座標値、前記警報音生成手段305で警報音を生成した時刻やパラメータ(音程)等もあわせて保持、あるいは記録媒体に記録しておけば、時間をさかのぼって異常や侵入物体の検出履歴を調べる作業が容易になる。またさらに、前記映像、警報音の生成時刻やパラメータ等の検出履歴として保持しておけば、たとえば、1日のうちのどの時間帯に、前記異常や侵入物体が多く検出されるか等の統計を取る作業も容易になる。またこのとき、監視者は、前記統計に基づき、特に注意をして監視しなければならない時間帯等を容易に知ることもできる。
図7は、本発明による実施例3の映像監視方法の原理を説明するための模式図であり、図7(a)は監視画面の一例を示す図、図7(b)は警報音のパラメータの設定例を示す図である。
本実施例3の映像監視方法は、図7(a)に示すように、時刻t1の監視画面1と時刻t2の監視画面1を比較し、時刻t2の監視画面1上で検出された変化領域2Bと対応する時刻t1の監視画面1上で検出された変化領域2Aを特定し、時刻t1から時刻t2の間の前記変化領域の移動量Lの大きさに応じて前記警報音のパラメータの値を変える。前記警報音の変化させるパラメータは、たとえば、音量、音程(周波数)、テンポ等、監視者が聞き分けられるパラメータであればよく、本実施例3の監視方法では、変化させるパラメータをテンポ(出力間隔)として説明する。
このとき、前記警報音のパラメータ(テンポ)は、たとえば、図7(b)に示すように、前記変化領域2の単位時間当たりの移動量Lの大きさに応じて、たとえば、5通りのテンポを設定する。またこのとき、前記パラメータ(テンポ)は、たとえば、移動量Lが大きいほど短周期、すなわち連続音に聞こえるように設定する。
図8は、本実施例3の映像監視方法を実現する映像監視装置の概略構成を示す模式図である。
本実施例3の映像監視方法を実現する映像監視装置3は、図8に示すように、撮影手段4で撮影した映像を取得する映像取得手段301と、前記映像取得手段301で取得した映像からノイズを除去するノイズ除去手段302と、前記ノイズ除去手段302でノイズを除去した映像の各フレームを解析し変化領域を検出する変化領域検出手段303と、前記変化領域検出手段303で変化領域2を検出した場合にその変化領域2の単位時間当たりの移動量Lを算出する移動量算出手段312と、前記移動量算出手段312で算出した移動量Lの大きさに応じた警報音を生成して警報音出力手段5に出力する警報音生成手段305とを備える。また、前記映像取得手段301で取得した映像は、表示手段6に表示させる。
また、前記映像監視装置3は、前記各手段に加え、前記警報音生成手段305で生成する警報音で変化させるパラメータ(テンポ)の設定を管理する設定管理手段307と、1種類または2種類以上のパターンが異なる警報音のパターン(楽音)を管理する楽音管理手段308と、入力手段7から入力される前記パラメータ等の設定値(情報)、警報音のパターン(楽音)を取得する設定値取得手段309と、前記移動量算出手段312で移動量Lを算出する際に用いる比較フレーム(画像)を保持する画像保持手段311を備える。
また、前記撮影手段4は、たとえば、ビデオカメラのような映像撮影装置であり、有線あるいは無線通信によって、撮影した映像を前記映像監視装置3の映像取得手段301に転送する。また、前記撮影手段4は、前記映像を撮影する代わりに、あらかじめ定められた時間間隔で画像を撮影し、前記映像取得手段301に順次転送する手段であってもよい。
また、前記表示手段6は、たとえば、CRTディスプレイ、液晶ディスプレイ等の表示装置である。
また、前記入力手段7は、たとえば、キーボードやマウス、タッチパネル等の入力デバイスであり、監視者は、たとえば、図7(b)に示したようなパラメータ(テンポ)の値の設定、警報音のパターン(楽音)を設定する。またこのとき、前記監視者は、前記入力手段7を用いて、たとえば、前記表示手段6に表示された映像を見ながら、特に注意して監視したい領域(監視対象領域)を設定してもよい。このとき、設定した監視対象領域は、たとえば、前記表示手段6に表示された映像上に表示する。
前記映像監視装置3では、前記変化領域検出手段303において、取得した映像の各フレームを、たとえば、時刻t0の基準フレームと比較し、変化した領域の有無を調べる。また、前記変化領域検出手段303で変化領域2を検出した場合、前記移動量算出手段312において、前記検出したフレームの変化領域の移動領域Lを算出する。前記移動領域Lは、前述のように、検出した変化領域2Bと対応する前記画像保持手段311で保持しているΔt秒前のフレーム上の変化領域2Aを特定し、たとえば、各変化領域の重心の位置の移動量を算出する。また、前記撮影手段4が、あらかじめ定められた時間間隔で画像を撮影する手段である場合、前記移動量算出手段312は、取得した画像を基準画像あるいはΔt秒前の画像を用い、前記変化領域の重心位置の移動量Lを算出すればよい。
図9は、本実施例3の映像監視方法の具体的な処理手順を説明するためのフロー図である。
本実施例3の映像監視方法では、前記監視者は、図9に示すように、まず、前記入力手段7を用いて、警報音のパターン(楽音)や図7(b)に示したようなパラメータ(テンポ)の設定をする(ステップ802)。前記ステップ802は、前記監視者が具体的な値を設定する代わりに、たとえば、前記監視者が設定する代わりに前記映像監視装置3が自動的に設定してもよいし、前記映像監視装置3の設定管理手段307に用意された数通りの設定の中から選んでもよい。このようにして、前記パラメータ等の設定が済んだら、前記映像を用いた監視を開始する。また、本実施例3の映像監視方法でも、前記実施例1で説明したような監視対象領域1Aを設定する必要はないが、前記監視者が望む場合、前記ステップ802の前あるいは後に、前記映像取得手段301で取得し、前記表示手段6で表示されている映像を見ながら、前記入力手段7を用いて前記監視対象領域1Aを指定し、前記表示手段6に表示させてもよい。
前記監視を開始したら、前記映像取得手段301は、取得した映像を前記表示手段6に表示させる一方で、前記ノイズ除去手段302において、前記映像からノイズを除去する(ステップ803)。
前記ステップ803でノイズを除去したら、次に、前記変化領域検出手段303において、前記映像の各フレームを解析し(ステップ804)、変化領域を検出したか否かの判定をする(ステップ805)。前記ステップ804では、たとえば、監視開始時等の基準となるフレームと解析対象のフレームを比較し、変化した領域の有無を調べる。そして、前記ステップ805において前記解析対象のフレームから変化領域が検出されなかったと判定した場合、前記ステップ803に戻り、次のフレームの解析を行う。
一方、前記ステップ805において前記解析対象のフレームから変化領域2が検出されたと判定した場合、次に、前記移動量算出手段312において前記変化領域2の単位時間当たりの移動量Lを算出するにあたって、前記解析対象のフレームのΔt秒前のフレーム上にある、前記解析対象のフレームの変化領域2(2B)と対応する変化領域2Aを特定する(ステップ811)。前記ステップ811は、たとえば、図7(a)に示したように前記解析対象(時刻t2)のフレーム上の変化領域2Bと、前記画像保持手段311で保持しているΔt秒前(時刻t1)のフレーム上の変化領域2Aの類似性を調べ、類似性の高い変化領域の組み合わせを特定する。前記類似性は、たとえば、動的計画法(DP: Dynamic Programming マッチング)などの類似性判定手段を用いて判定する。前記ステップ811において2つのフレーム上の類似性の高い変化領域の組み合わせが特定できたら、次に、各変化領域の重心の位置を求め、前記重心の移動量Lを算出する(ステップ812)。
前記ステップ812で移動量Lを求めたら、次に、前記警報音生成手段305において、前記求めた移動量Lと対応するパラメータ(テンポ)の値を決定する(ステップ807)。前記ステップ807は、前記設定管理手段307で管理している設定値、たとえば、図7(b)に示したような設定表を用いて行う。
前記警報音生成手段305は、前記ステップ807の処理の後、すなわち前記警報音のテンポを決定した後、前記ステップ802で設定した楽音および前記ステップ807で決定したテンポの警報音を生成し、前記警報音出力手段5に出力させる(ステップ808)。
その後、監視を続けるか否かの判定をし(ステップ809)、続ける場合はステップ803に戻り、続けない場合は終了する。
以上説明したように、本実施例3の映像監視方法によれば、映像上に変化領域2を検出したときに、変化領域2の単位時間当たりの移動量Lに応じて警報音のパラメータ、たとえば、テンポ(出力間隔)を変えた警報音を生成し、出力する。そのため、監視者は、前記警報音のテンポに基づいて変化領域(侵入物体)の移動速度や緊急度を推測することができる。また、前記警報音のテンポに基づいた緊急度の推測が可能であるため、前記監視者は、警報音が鳴る度に表示手段6を見る必要はなく、監視に対する負担が軽減する。
また、本実施例3では、前記警報音のパラメータとしてテンポを変えたが、これに限らず、たとえば、移動量Lに応じて音量を変えてもよいし、音程(周波数)を変えてもよい。
また、本実施例3では、前記警報音のテンポを、図7(b)に示したように前記段階的に変えるように設定したが、これに限らず、たとえば、前記移動量Lの大きさに比例するような数式、すなわち移動量Lが大きいほどテンポが速くなるような数式を用いて連続的に変えるように設定してもよい。
また、図8に示した映像監視装置3では省略したが、前記映像監視装置3は、取得した映像または画像を一定期間保持しておく映像保持手段や、前記取得した映像または画像を磁気的、電気的、あるいは光学的な記録媒体に記録する記録手段を備えていてもよい。前記映像保持手段や前記記録手段を設けておけば、リアルタイムの映像を見ながら監視するだけでなく、たとえば、数分前や数時間前、1日前の映像を確認し、どのような異常や侵入物体が検出されたかをさかのぼって調べることができる。またこのとき、前記映像とともに、たとえば、前記変化領域検出手段303で変化領域を検出した時刻や検出した変化領域、前記警報音生成手段305で警報音を生成した時刻やパラメータ(テンポ)等もあわせて保持、あるいは記録媒体に記録しておけば、時間をさかのぼって異常や侵入物体の検出履歴を調べる作業が容易になる。またさらに、前記映像、警報音の生成時刻やパラメータ等の検出履歴として保持しておけば、たとえば、1日のうちのどの時間帯に、前記異常や侵入物体が多く検出されるか等の統計を取る作業も容易になる。またこのとき、監視者は、前記統計に基づき、特に注意をして監視しなければならない時間帯等を容易に知ることもできる。
図10は、本発明による実施例4の映像監視方法の原理を説明するための模式図であり、図10(a)は第1パラメータの設定例を示す図、図10(b)は第2パラメータの設定例を示す図、図10(c)は第3パラメータの設定例を示す図である。
前記実施例1では変化領域2と監視対象領域1Aの距離に応じて警報音のパラメータを変える監視方法、前記実施例2では前記変化領域2の面積(変化量S)の大きさに応じて警報音のパラメータを変える監視方法、前記実施例3では前記変化領域2の単位時間当たりの移動量Lの大きさに応じて警報音のパラメータを変える監視方法について説明した。ところが、前記各実施例の監視方法の場合、前記警報音の1つのパラメータのみを変えるため、前記警報音を聞いた監視者は、前記変化領域2と監視対象領域1Aの距離、または前記変化領域2の変化量S、あるいは前記変化領域2の単位時間当たりの移動量Lのいずれかしか推測することができない。そこで、本実施例4では、前記各実施例で説明した監視方法を統合し、前記警報音から前記変化領域2(侵入物体)に関するより詳細な情報を得る監視方法について説明する。
本実施例4の映像監視方法では、たとえば、前記映像のフレーム上または画像上で変化領域2を検出したときに、まず、図10(a)前記変化領域2Aと監視対象領域1Aの距離に応じて警報音の第1パラメータとして音量を変える。また、同時に、前記検出した変化領域2の変化量Sを算出し、図10(b)に示すように、前記変化量Sの大きさに応じて警報音の第2パラメータとして音程(周波数)を変える。またさらに、前記変化領域2の単位時間当たりの移動量Lも算出し、図10(c)に示すように、前記移動量Lの大きさに応じて警報音の第3パラメータとしてテンポ(出力間隔)を変える。このようにすれば、前記警報音を聞いた監視者は、前記警報音の音量から前記変化領域2(侵入物体)の位置を、音程から前記変化領域2(侵入物体)の大きさを、テンポから前記変化領域2(侵入物体)の移動速度を推定することができる。そのため、前記警報音から、前記変化領域2(侵入物体)の正体、たとえば、人間であるか動物であるかなどの推測がしやすくなる。
図11および図12は、本実施例4の映像監視方法を実現する映像監視装置の概略構成を示す模式図であり、図11は装置全体の構成例を示す図、図12は変化度算出手段の構成例を示す図である。
本実施例4の映像監視方法を実現する映像監視装置3は、図11に示すように、撮影手段4で撮影した映像を取得する映像取得手段301と、前記映像取得手段301で取得した映像からノイズを除去するノイズ除去手段302と、前記ノイズ除去手段302でノイズを除去した映像の各フレームを解析し変化領域を検出する変化領域検出手段303と、前記変化領域検出手段303で変化領域2を検出した場合にその変化領域2の位置や変化の度合いを求める変化度算出手段313と、前記変化度算出手段313で求めた位置や変化の度合いに応じた警報音を生成して警報音出力手段5に出力する警報音生成手段305とを備える。また、前記映像取得手段301で取得した映像は、表示手段6に表示させる。
また、前記変化度算出手段313は、図12に示すように、前記変化領域2と監視対象領域1Aの距離を計測する距離計測手段304と、前記変化領域2の変化量Sを算出する変化量算出手段310と、前記変化領域2の単位時間当たりの移動量Lを算出する移動量算出手段312とを備える。
また、前記映像監視装置3は、前記各手段に加え、前記監視対象領域1Aを管理する対象領域管理手段306と、前記警報音生成手段305で生成する警報音で変化させるパラメータの設定を管理する設定管理手段307と、1種類または2種類以上のパターンが異なる警報音のパターン(楽音)を管理する楽音管理手段308と、入力手段7から入力される前記監視対象領域1A、パラメータ等の設定値、警報音のパターン(楽音)を取得する設定値取得手段309と、前記変化度算出手段313で変化量Sや移動量Lを算出する際に用いる比較フレーム(画像)を保持する画像保持手段311を備える。
また、前記撮影手段4は、たとえば、ビデオカメラのような映像撮影装置であり、有線あるいは無線通信によって、撮影した映像を前記映像監視装置3の映像取得手段301に転送する。また、前記撮影手段4は、前記映像を撮影する代わりに、あらかじめ定められた時間間隔で画像を撮影し、前記映像取得手段301に順次転送する手段であってもよい。
また、前記表示手段6は、たとえば、CRTディスプレイ、液晶ディスプレイ等の表示装置である。
また、前記入力手段7は、たとえば、キーボードやマウス、タッチパネル等の入力デバイスであり、監視者は、たとえば、図10(a)、図10(b)、図10(c)に示したような各パラメータの値の設定、警報音のパターン(楽音)を設定する。またこのとき、前記監視者は、前記入力手段7を用いて、たとえば、前記表示手段6に表示された映像を見ながら、特に注意して監視したい領域(監視対象領域)も設定する。このとき、設定した監視対象領域は、たとえば、前記表示手段6に表示された映像上に表示される。
前記映像監視装置3では、前記変化領域検出手段303において、取得した映像の各フレームを、たとえば、時刻t0の基準フレームと比較し、変化した領域の有無を調べる。また、前記変化領域検出手段303で変化領域2を検出した場合、前記変化度算出手段313のうち、前記距離計測手段304では前記変化領域2と監視対象領域1Aの距離を計測し、前記変化面積算出手段310では前記変化領域2の面積(変化量S)の大きさを算出し、前記移動量算出手段312では前記変化領域2の単位時間当たりの移動量Lを算出する。前記変化度算出手段313の各手段304,310,312ではそれぞれ、前記実施例1から実施例3で説明したような処理を行う。
図13は、本実施例4の映像監視方法の具体的な処理手順を説明するためのフロー図である。
本実施例4の映像監視方法は、前記実施例1で説明したような処理手順のうち、変化領域2を検出したか判定するステップ805から監視を継続するか判断するステップ809の間の処理が増えるだけである。そのため、以下の説明では、図13を用いて、前記ステップ805において変化領域が検出されたと判定された場合の、それ以降の処理手順について説明する。なお、本実施例4の映像監視方法では、前記警報楽音やパラメータを設定するステップ802において、図10(a)、図10(b)、図10(c)に示したような3つのパラメータを設定し、前記設定管理手段307で管理しておく。前記ステップ802は、前記監視者が具体的な値を設定する代わりに、たとえば、前記監視者が設定する代わりに前記映像監視装置3が自動的に設定してもよいし、前記映像監視装置3の設定管理手段307に用意された数通りの設定の中から選んでもよい。
そして、前記実施例1で説明したような方法で、前記映像のフレームまたは画像を解析した結果、前記ステップ805において前記解析対象のフレームから変化領域2が検出されたと判定した場合、たとえば、図13に示すように、まず、前記距離計測手段304において前記変化領域2と監視対象領域1Aの距離を計測する(ステップ806)。前記ステップ806で距離を計測したら、次に、前記計測した距離と対応するパラメータ(第1パラメータ)の値、すなわち音量を決定する(ステップ807A)。
前記第1パラメータ(音量)の値を決定したら、次に、前記変化面積算出手段310において、前記変化領域2の面積(変化量S)を算出する(ステップ810)。前記ステップ810で変化量Sを算出したら、次に、前記算出した変化量Sと対応するパラメータ(第2パラメータ)の値、すなわち音程を決定する(ステップ807B)。
前記第1パラメータ(音量)および第2パラメータ(音程)の値を決定したら、次に、前記移動量算出手段312において前記変化領域2の移動量Lを算出するにあたって、前記解析対象のフレームのΔt秒前のフレーム上にある、前記解析対象のフレームの変化領域と対応する変化領域を特定する(ステップ811)。前記ステップ811は、たとえば、図7(a)に示したように前記解析対象(時刻t2)のフレーム上の変化領域2Bと、前記画像保持手段311で保持しているΔt秒前(時刻t1)のフレーム上の変化領域2Aの類似性を調べ、類似性の高い変化領域の組み合わせを特定する。前記類似性は、たとえば、動的計画法(DP: Dynamic Programming マッチング)などの類似性判定手段を用いて判定する。前記ステップ811において2つのフレーム上の類似性の高い変化領域の組み合わせが特定できたら、次に、各変化領域の重心の位置を求め、前記重心の移動量Lを算出する(ステップ812)。前記ステップ812で移動量Lを求めたら、次に、前記求めた移動量Lと対応するパラメータ(テンポ)の値を決定する(ステップ807C)。
前記警報音生成手段305は、前記ステップ807A,807B,807Cの処理の後、すなわち前記警報音の音量,音程,テンポを決定した後、前記ステップ802で設定した楽音および前記ステップ807A,807B,807Cで決定した音量,音程,テンポの警報音を生成し、前記警報音出力手段5に出力させる(ステップ808)。
その後、監視を続けるか否かの判定をし(ステップ809)、続ける場合はステップ803に戻り、続けない場合は終了する。
以上説明したように、本実施例4の映像監視方法によれば、映像上に変化領域2を検出したときに、変化領域2の位置や変化量S、移動量Lに応じて警報音のパラメータ、たとえば、音量や音程、テンポ(出力間隔)を変えた警報音を生成し、出力する。そのため、監視者は、前記警報音の音量、音程、テンポに基づいて変化領域2(侵入物体)の種類や緊急度を推測することができる。また、前記警報音の音量、音程、テンポに基づいた侵入物体の種類や緊急度の推測が可能であるため、前記監視者は、警報音が鳴る度に表示手段6を見る必要はなく、監視に対する負担が軽減する。
また、本実施例4では、前記警報音のパラメータとして音量、音程、テンポを変えたが、これに限らず、監視者による聞き分けが可能なパラメータであれば、他のパラメータを変えてもよい。
また、本実施例4では、前記警報音のパラメータを、図10(a)、図10(b)、図10(c)に示したように段階的に変えるように設定したが、これに限らず、たとえば、数式を用いて連続的に変えるように設定してもよい。
また、本実施例4でも、1つの映像上または画像上に2つ以上の監視対象領域を設定してもよい。この場合、前記監視対象領域毎に異なる楽音(パターン)を設定しておけば、前記警報音を聞いた監視者は、たとえば、警報音のパターンからどの監視対象領域の近くに変化が生じたかがわかり、音程から前記監視対象領域からどの程度の距離に変化が生じたかがわかる。
また、図11に示した映像監視装置3では省略したが、前記映像監視装置3は、取得した映像または画像を一定期間保持しておく映像保持手段や、前記取得した映像または画像を磁気的、電気的、あるいは光学的な記録媒体に記録する記録手段を備えていてもよい。前記映像保持手段や前記記録手段を設けておけば、リアルタイムの映像を見ながら監視するだけでなく、たとえば、数分前や数時間前、1日前の映像を確認し、どのような異常や侵入物体が検出されたかをさかのぼって調べることができる。またこのとき、前記映像とともに、たとえば、前記変化領域検出手段303で変化領域を検出した時刻や検出した変化領域、前記警報音生成手段305で警報音を生成した時刻やパラメータ(音量、音程、テンポ)等もあわせて保持、あるいは記録媒体に記録しておけば、時間をさかのぼって異常や侵入物体の検出履歴を調べる作業が容易になる。またさらに、前記映像、警報音の生成時刻やパラメータ等の検出履歴として保持しておけば、たとえば、1日のうちのどの時間帯に、前記異常や侵入物体が多く検出されるか等の統計を取る作業も容易になる。またこのとき、監視者は、前記統計に基づき、特に注意をして監視しなければならない時間帯等を容易に知ることもできる。
以上、本発明を、前記実施例に基づき具体的に説明したが、本発明は、前記実施例に限定されるものではなく、その要旨を逸脱しない範囲において、種々変更可能であることはもちろんである。
たとえば、前記実施例1から実施例4で説明した前記映像監視装置3は、コンピュータとプログラムによっても実現することができる。このとき、前記プログラムは、たとえば、前記実施例1から実施例4で説明した映像監視方法の各ステップを前記コンピュータに実行させるようなプログラムとすればよい。またこのとき、前記プログラムは、たとえば、磁気的、電気的、あるいは光学的な記録媒体に前記コンピュータでの読み取りが可能な状態で記録して提供することもできるし、インターネット等のネットワークを介して提供することもできる。
本発明による実施例1の映像監視方法の原理を説明するための模式図であり、図1(a)は監視画面の一例を示す図、図1(b)は警報音のパラメータの設定例を示す図である。 本実施例1の映像監視方法を実現する映像監視装置の概略構成を示す模式図である。 本実施例1の映像監視方法の具体的な処理手順を説明するためのフロー図である。 本発明による実施例2の映像監視方法の原理を説明するための模式図であり、図4(a)は監視画面の一例を示す図、図4(b)は警報音のパラメータの設定例を示す図である。 本実施例2の映像監視方法を実現する映像監視装置の概略構成を示す模式図である。 本実施例2の映像監視方法の具体的な処理手順を説明するためのフロー図である。 本発明による実施例3の映像監視方法の原理を説明するための模式図であり、図7(a)は監視画面の一例を示す図、図7(b)は警報音のパラメータの設定例を示す図である。 本実施例3の映像監視方法を実現する映像監視装置の概略構成を示す模式図である。 本実施例3の映像監視方法の具体的な処理手順を説明するためのフロー図である。 本発明による実施例4の映像監視方法の原理を説明するための模式図であり、図10(a)は警報音の第1パラメータの設定例を示す図、図10(b)は警報音の第2パラメータの設定例を示す図、図10(c)は警報音の第3パラメータの設定例を示す図である。 本実施例4の映像監視方法を実現する映像監視装置の概略構成を示す模式図である。 本実施例4の映像監視方法を実現する映像監視装置の概略構成を示す模式図であり、図11の変化度算出手段の構成例を示す図である。 本実施例4の映像監視方法の具体的な処理手順を説明するためのフロー図である。
符号の説明
1…監視画面
1A…監視対象領域
1B…第1周辺領域
1C…第2周辺領域
1D…第3周辺領域
1E…第4周辺領域
2,2A,2B…変化領域
3…映像監視装置
301…映像取得手段
302…ノイズ除去手段
303…変化領域検出手段
304…距離計測手段
305…警報音生成手段
306…対象領域管理手段
307…設定管理手段
308…楽音管理手段
309…設定値取得手段
310…変化面積算出手段
311…画像保持手段
312…移動量算出手段
313…変化度算出手段
4…撮影手段
5…警報音出力手段
6…表示手段(監視モニタ)
7…入力手段

Claims (13)

  1. 映像またはあらかじめ定められた時間間隔で撮影された画像を取得するステップと、前記取得した映像のフレーム上または画像上の変化領域を検出したときに警報音を生成するステップとを有する映像監視方法であって、
    前記警報音を生成するステップは、前記検出した変化領域の位置、あるいは変化の度合いを求めるステップ1と、
    前記ステップ1で求めた変化領域の位置、あるいは変化の度合いに基づいて、前記警報音のあるパラメータ(成分)の値を決定するステップ2と、
    前記ステップ2で決定した値を用いて前記警報音を生成するステップ3とを有することを特徴とする映像監視方法。
  2. 前記ステップ1は、前記変化領域と、あらかじめ定められた監視対象領域の距離を計測し、
    前記ステップ2は、前記ステップ1で計測した距離に基づいて前記警報音のあるパラメータの値を決定することを特徴とする請求項1に記載の映像監視方法。
  3. 前記ステップ1は、前記変化領域の大きさ(変化量)を算出し、
    前記ステップ2は、前記ステップ1で算出した変化領域の大きさに基づいて前記警報音のあるパラメータの値を決定することを特徴とする請求項1に記載の映像監視方法。
  4. 前記ステップ1は、前記変化領域の単位時間当たりの移動量を算出し、
    前記ステップ2は、前記ステップ1で算出した移動量に基づいて前記警報音のあるパラメータの値を決定することを特徴とする請求項1に記載の映像監視方法。
  5. 前記ステップ1は、前記変化領域と、あらかじめ定められた監視対象領域の距離を計測するステップと、前記変化領域の大きさ(変化量)を算出するステップと、前記変化領域の単位時間当たりの移動量を算出するステップとを有し、
    前記ステップ2は、前記計測した距離に基づいて前記警報音の第1パラメータの値を決定するステップと、前記算出した変化領域の大きさに基づいて前記警報音の第2パラメータの値を決定するステップと、前記算出した移動量に基づいて前記警報音の第3パラメータの値を決定するステップとを有することを特徴とする請求項1に記載の映像監視方法。
  6. 前記変化領域の単位時間当たりの移動量を算出するステップは、前記変化領域を検出したフレームまたは画像が撮影された時刻のΔt秒前のフレーム上または画像上から、前記検出した変化領域に相当する変化領域を特定するステップと、前記各フレーム間または前記各画像間での前記変化領域の移動量を算出するステップとを有する請求項4または請求項5に記載の映像監視方法。
  7. 映像またはあらかじめ定められた時間間隔で撮影された画像を取得する映像取得手段と、前記映像取得手段で取得した映像のフレーム上または画像上の変化領域を検出したときに警報音を生成する警報音生成手段とを備える映像監視装置であって、
    前記取得した映像のフレーム上または前記画像上の変化領域を検出する変化領域検出手段と、前記変化領域検出手段で検出した変化領域の位置、あるいは変化の度合いを求める変化度算出手段と、前記変化度算出手段で求めた前記変化領域の位置、あるいは変化の度合いに基づいて設定された前記警報音のあるパラメータの値を管理する設定管理手段とを備え、
    前記警報音生成手段は、前記変化度算出手段で求めた前記変化領域の位置、あるいは変化の度合いと、前記設定管理手段で管理するパラメータの値に基づいて前記警報音を生成することを特徴とする映像監視装置。
  8. 前記変化度算出手段は、前記変化領域と、あらかじめ定められた監視対象領域の距離を計測する距離測定手段を備え、
    前記警報音生成手段は、前記距離計測手段で計測した距離に基づいて前記警報音のあるパラメータの値を決定することを特徴とする請求項7に記載の映像監視装置。
  9. 前記変化度算出手段は、前記変化領域の大きさ(変化量)を算出する変化面積算出手段を備え、
    前記警報音生成手段は、前記変化量算出手段で算出した変化領域の大きさに基づいて前記警報音のあるパラメータの値を決定することを特徴とする請求項7に記載の映像監視装置。
  10. 前記変化度算出手段は、前記変化領域の単位時間当たりの移動量を算出する移動量算出手段を備え、
    前記警報音生成手段は、前記移動量算出手段で算出した移動量に基づいて前記警報音のあるパラメータの値を決定することを特徴とする請求項7に記載の映像監視装置。
  11. 前記変化度算出手段は、前記変化領域と、あらかじめ定められた監視対象領域の距離を計測する距離計測手段と、前記変化領域の大きさ(変化量)を算出する変化面積算出手段と、前記変化領域の単位時間当たりの移動量を算出する移動量算出手段とを備え、
    前記警報音算出手段は、前記距離計測手段で計測した距離に基づいて前記警報音の第1パラメータの値を決定し、前記変化面積算出手段で算出した変化領域の大きさに基づいて前記警報音の第2パラメータの値を決定し、前記移動量算出手段で算出した移動量に基づいて前記警報音の第3パラメータの値を決定することを特徴とする請求項7に記載の映像監視装置。
  12. 前記移動量算出手段は、前記変化領域を検出したフレームまたは画像が撮影された時刻のΔt秒前のフレーム上または画像上から、前記検出した変化領域に相当する変化領域を特定する手段と、前記各フレーム間または前記各画像間での前記変化領域の移動量を算出する手段とを備える請求項10または請求項11に記載の映像監視装置。
  13. 前記請求項1乃至請求項6のいずれかに記載の各ステップをコンピュータに実行させる映像監視プログラム。
JP2004143354A 2004-05-13 2004-05-13 映像監視方法、映像監視装置、および映像監視プログラム Pending JP2005328236A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004143354A JP2005328236A (ja) 2004-05-13 2004-05-13 映像監視方法、映像監視装置、および映像監視プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004143354A JP2005328236A (ja) 2004-05-13 2004-05-13 映像監視方法、映像監視装置、および映像監視プログラム

Publications (1)

Publication Number Publication Date
JP2005328236A true JP2005328236A (ja) 2005-11-24

Family

ID=35474246

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004143354A Pending JP2005328236A (ja) 2004-05-13 2004-05-13 映像監視方法、映像監視装置、および映像監視プログラム

Country Status (1)

Country Link
JP (1) JP2005328236A (ja)

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005347856A (ja) * 2004-05-31 2005-12-15 Kyushu Institute Of Technology 動作位置検出装置およびこれを用いた監視装置
WO2010021042A1 (ja) * 2008-08-21 2010-02-25 株式会社 アロー データ通信システム
JP2010226687A (ja) * 2009-02-27 2010-10-07 Sony Corp 画像処理装置、画像処理システム、カメラ装置、画像処理方法、およびプログラム
JP2011095928A (ja) * 2009-10-28 2011-05-12 Kyocera Corp 入力装置
JP2011095926A (ja) * 2009-10-28 2011-05-12 Kyocera Corp 入力装置
JP2011095925A (ja) * 2009-10-28 2011-05-12 Kyocera Corp 入力装置
CN101339688B (zh) * 2008-08-27 2012-01-11 北京中星微电子有限公司 一种入侵检测方法及系统
JP2012073311A (ja) * 2010-09-28 2012-04-12 Dainippon Printing Co Ltd 画像表示システムおよびその制御データ伝送方法
JP2012226909A (ja) * 2011-04-18 2012-11-15 Lixil Corp 人体検知センサ及び自動水栓
JP2019176380A (ja) * 2018-03-29 2019-10-10 京セラドキュメントソリューションズ株式会社 制御装置及び監視システム
JP2021044821A (ja) * 2014-06-30 2021-03-18 日本電気株式会社 画像処理装置、監視システム、画像処理方法、及びプログラム
WO2021068812A1 (zh) * 2019-10-12 2021-04-15 平安科技(深圳)有限公司 音乐生成方法、装置、电子设备及计算机可读存储介质

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6286990A (ja) * 1985-10-11 1987-04-21 Matsushita Electric Works Ltd 異常監視装置
JPH08101979A (ja) * 1994-09-30 1996-04-16 Funai Denki Kenkyusho:Kk 監視カメラによる異常検出方法
JPH08285873A (ja) * 1995-04-19 1996-11-01 Internatl Business Mach Corp <Ibm> 移動物体速度検出装置及び方法
JPH0916863A (ja) * 1995-06-27 1997-01-17 Toshiba Corp 監視制御装置
JPH0950585A (ja) * 1995-08-07 1997-02-18 Hitachi Ltd 侵入者監視装置
JPH09327012A (ja) * 1996-06-04 1997-12-16 Sumitomo Electric Ind Ltd 画像監視装置
JPH10105712A (ja) * 1996-09-30 1998-04-24 Mitsubishi Heavy Ind Ltd 移動体追跡装置
JPH11341475A (ja) * 1998-05-22 1999-12-10 Mega Chips Corp 監視装置における異常検知装置
JP2000232638A (ja) * 1999-02-09 2000-08-22 Toshiba Corp 画像情報を評価する人物監視システム
JP2001052184A (ja) * 1999-08-09 2001-02-23 Sony Corp オプティカルフロー検出装置および検出方法

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6286990A (ja) * 1985-10-11 1987-04-21 Matsushita Electric Works Ltd 異常監視装置
JPH08101979A (ja) * 1994-09-30 1996-04-16 Funai Denki Kenkyusho:Kk 監視カメラによる異常検出方法
JPH08285873A (ja) * 1995-04-19 1996-11-01 Internatl Business Mach Corp <Ibm> 移動物体速度検出装置及び方法
JPH0916863A (ja) * 1995-06-27 1997-01-17 Toshiba Corp 監視制御装置
JPH0950585A (ja) * 1995-08-07 1997-02-18 Hitachi Ltd 侵入者監視装置
JPH09327012A (ja) * 1996-06-04 1997-12-16 Sumitomo Electric Ind Ltd 画像監視装置
JPH10105712A (ja) * 1996-09-30 1998-04-24 Mitsubishi Heavy Ind Ltd 移動体追跡装置
JPH11341475A (ja) * 1998-05-22 1999-12-10 Mega Chips Corp 監視装置における異常検知装置
JP2000232638A (ja) * 1999-02-09 2000-08-22 Toshiba Corp 画像情報を評価する人物監視システム
JP2001052184A (ja) * 1999-08-09 2001-02-23 Sony Corp オプティカルフロー検出装置および検出方法

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005347856A (ja) * 2004-05-31 2005-12-15 Kyushu Institute Of Technology 動作位置検出装置およびこれを用いた監視装置
WO2010021042A1 (ja) * 2008-08-21 2010-02-25 株式会社 アロー データ通信システム
CN101339688B (zh) * 2008-08-27 2012-01-11 北京中星微电子有限公司 一种入侵检测方法及系统
US8970695B2 (en) 2009-02-27 2015-03-03 Sony Corporation Image processing device, image processing system, camera device, image processing method, and program
JP2010226687A (ja) * 2009-02-27 2010-10-07 Sony Corp 画像処理装置、画像処理システム、カメラ装置、画像処理方法、およびプログラム
JP2011095926A (ja) * 2009-10-28 2011-05-12 Kyocera Corp 入力装置
JP2011095925A (ja) * 2009-10-28 2011-05-12 Kyocera Corp 入力装置
JP2011095928A (ja) * 2009-10-28 2011-05-12 Kyocera Corp 入力装置
JP2012073311A (ja) * 2010-09-28 2012-04-12 Dainippon Printing Co Ltd 画像表示システムおよびその制御データ伝送方法
JP2012226909A (ja) * 2011-04-18 2012-11-15 Lixil Corp 人体検知センサ及び自動水栓
JP2021044821A (ja) * 2014-06-30 2021-03-18 日本電気株式会社 画像処理装置、監視システム、画像処理方法、及びプログラム
JP7092177B2 (ja) 2014-06-30 2022-06-28 日本電気株式会社 画像処理装置、画像処理方法、及びプログラム
US11403771B2 (en) 2014-06-30 2022-08-02 Nec Corporation Image processing apparatus, monitoring system, image processing method, and program
JP2019176380A (ja) * 2018-03-29 2019-10-10 京セラドキュメントソリューションズ株式会社 制御装置及び監視システム
WO2021068812A1 (zh) * 2019-10-12 2021-04-15 平安科技(深圳)有限公司 音乐生成方法、装置、电子设备及计算机可读存储介质

Similar Documents

Publication Publication Date Title
JP6313270B2 (ja) 監視方法及びデバイス
WO2020073686A1 (zh) 基于图像识别的基坑自动监测数据筛选方法及系统
JP2005328236A (ja) 映像監視方法、映像監視装置、および映像監視プログラム
ITMI20072321A1 (it) Metodo e dispositivo di rilevazione di fiamma
JP2008262533A5 (ja)
JP2004021495A (ja) 監視システムおよび監視方法
CN106124040B (zh) 噪声源可视化数据累积显示方法、数据处理装置及声学照相机系统
JP2011233133A (ja) 万引き防止システム
FR2624599A1 (fr) Procede et appareil de surveillance d&#39;un objet mobile
JP4111660B2 (ja) 火災検出装置
KR101107120B1 (ko) 음원 추적 및 객체 인식 장치와 음원 추적 및 객체 인식 방법
JP6425019B2 (ja) 異常音検出システム及び異常音検出方法
JP2009239507A (ja) 監視システム
JP2007114885A (ja) 画像の類似性による分類方法及び装置
KR101268076B1 (ko) 소리발생 방향 감지에 따른 감시카메라 시스템 및 이를 이용한 위치추정 방법
US9111237B2 (en) Evaluating an effectiveness of a monitoring system
JP2005143016A (ja) 監視システムおよび監視方法
JP2012133433A (ja) 置去り/持去り物体検知装置及び置去り/持去り物体検知方法
JP2020095651A (ja) 生産性評価システム、生産性評価装置、生産性評価方法、及びプログラム
JP7176429B2 (ja) ガス漏れ位置特定システム及びガス漏れ位置特定プログラム
KR101060905B1 (ko) 감시 카메라 시스템
JP2008282172A (ja) 音響による構造物監視装置
KR20070031079A (ko) 디지털 비디오 레코더에서의 카메라 충격 판별장치 및 방법
EP3016080A1 (en) Calibration of metadata event rules
EP2927885A1 (en) Sound processing apparatus, sound processing system and sound processing method

Legal Events

Date Code Title Description
A621 Written request for application examination

Effective date: 20060802

Free format text: JAPANESE INTERMEDIATE CODE: A621

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090729

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090804

A521 Written amendment

Effective date: 20091005

Free format text: JAPANESE INTERMEDIATE CODE: A523

A02 Decision of refusal

Effective date: 20100706

Free format text: JAPANESE INTERMEDIATE CODE: A02