JP2008236425A - 監視システム、監視方法、および監視プログラム - Google Patents

監視システム、監視方法、および監視プログラム Download PDF

Info

Publication number
JP2008236425A
JP2008236425A JP2007073689A JP2007073689A JP2008236425A JP 2008236425 A JP2008236425 A JP 2008236425A JP 2007073689 A JP2007073689 A JP 2007073689A JP 2007073689 A JP2007073689 A JP 2007073689A JP 2008236425 A JP2008236425 A JP 2008236425A
Authority
JP
Japan
Prior art keywords
moving image
light moving
unit
visible light
infrared light
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Abandoned
Application number
JP2007073689A
Other languages
English (en)
Inventor
Takayuki Udagawa
隆之 宇田川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2007073689A priority Critical patent/JP2008236425A/ja
Publication of JP2008236425A publication Critical patent/JP2008236425A/ja
Abandoned legal-status Critical Current

Links

Images

Landscapes

  • Closed-Circuit Television Systems (AREA)

Abstract

【課題】監視領域の監視に適切な情報を取得する。
【解決手段】本発明に係る監視システムは、可視光により監視領域の可視光動画を撮像する可視光動画撮像部と、赤外光により監視領域の赤外光動画を撮像する赤外光動画撮像部と、可視光動画または赤外光動画に含まれるオブジェクトが予め定められた条件に適合するか否かを判断する適合判断部と、オブジェクトが予め定められた条件に適合するか否かに応じて、可視光動画および赤外光動画のうちの一方のデータ量を低減して他方のデータ量を増加して出力する出力部とを備える。
【選択図】図2

Description

本発明は、監視システム、監視方法、および監視プログラムに関する。特に、本発明は、監視領域の動画を撮像する監視システム、監視方法、および監視プログラムに関する。
特許文献1には、人物が撮像領域内へ侵入したことを検知する検出手段と、デジタル映像信号の圧縮時のフレームレートおよびMPEGのGOP(Group of Picture)構成等を変更する可変圧縮手段と、検出手段の検知結果に応じて可変圧縮手段および解像度変換手段を制御する制御手段とを備えることにより、ネットワークの伝送能力を越えるデータの伝送を防止するデジタル監視システムについて提案されている。
特許文献2には、撮像範囲内に含まれる被写体に動きがない場合にはカラー画像を出力して、撮像範囲内に含まれる被写体に動きがある場合には近赤外光領域の波長成分を含む白黒画像を出力すべく映像信号の出力を切り換えるテレビジョンカメラについて提案されている。特許文献3には、第1の方向または第2の方向のうち、一方の方向からの所定値以上の音量状態等に応じて第1の方向の画像と第2の方向の画像とをフレームレートおよび/または圧縮処理の圧縮レートを変更して撮像する撮像装置について提案されている。
特許文献4には、画像を記録用データとして記録媒体に記録する場合のフレームレートおよび/または圧縮処理の圧縮レートと、画像を送信用データとして外部に送信する場合のフレームレートおよび/または圧縮処理の圧縮レートとを、所定値以上の音量の状態等に応じて変更する撮像装置について提案されている。特許文献5には、監視領域全体を撮像した広角画像と動体を高解像度で撮像した拡大画像とを一台のビデオカメラで取得すべく、広角画像と拡大画像とを撮像する各撮像素子に対する入射光学系を単一化する監視システムについて提案されている。
特開2002−262273号公報 特開2002−271688号公報 特開2003−274358号公報 特開2003−274359号公報 特開2005−117343号公報
しかしながら、特許文献1に記載の発明においては、人物が撮像領域内に存在するにもかかわらず、当該人物が撮像領域内の死角に位置する場合等においては撮像画像の画質が低下してしまう場合があり、人物の撮像領域内への侵入を適切に監視できない。また、特許文献2に記載の発明においては、カラー画像および近赤外光の波長成分を含む白黒画像の双方を同時には撮像することができないので、撮像範囲内に存在する侵入者等の識別を適切に実行することができない。そして、特許文献3に記載の発明においては、高品位で画像を撮像すべき場合であっても、所定値以上の音量状態等の変化がない場合には高品位の画像を撮像できない。
また、特許文献4に記載の発明においては、音量状態等の変化が所定値以上であるか否かに応じて記録用データを記録媒体に記録する場合のフレームレートおよび/または圧縮レートと、送信用データのフレームレートおよび/または圧縮レートとを互いに同期させて、単位時間当たりに記録または送信する画像データのデータ量を略一定に保つことはできない。更に、特許文献5に記載の発明においては、広角画像と拡大画像とを常に一定の解像度で撮像しているので、広角画像および拡大画像を記録媒体に保存すると記録領域が不足する場合があり、また広角画像および拡大画像を外部に送信すると、ネットワークのトラフィックが混雑している場合には、画像データの送信に遅延が生じる場合がある。
そこで本発明は、上記課題を解決することができる監視システム、監視方法、および監視プログラムを提供することを目的とする。この目的は特許請求の範囲における独立項に記載の特徴の組み合わせにより達成される。また従属項は本発明の更なる有利な具体例を規定する。
上記課題を解決するために、本発明の第1の形態においては、監視領域を監視する監視システムであって、可視光により監視領域の可視光動画を撮像する可視光動画撮像部と、赤外光により監視領域の赤外光動画を撮像する赤外光動画撮像部と、可視光動画または赤外光動画に含まれるオブジェクトが予め定められた条件に適合するか否かを判断する適合判断部と、オブジェクトが予め定められた条件に適合するか否かに応じて、可視光動画および赤外光動画のうちの一方のデータ量を低減して他方のデータ量を増加して出力する出力部とを備える。また、出力部は、単位時間当たりに出力する可視光動画のデータ量と赤外光動画のデータ量との合計量を略一定にする。
また、本発明の第2の形態においては、監視領域を監視する監視方法であって、可視光により監視領域の可視光動画を撮像する可視光動画撮像段階と、赤外光により監視領域の赤外光動画を撮像する赤外光動画撮像段階と、可視光動画または赤外光動画に含まれるオブジェクトが予め定められた条件に適合するか否かを判断する適合判断段階と、オブジェクトが予め定められた条件に適合するか否かに応じて、可視光動画および赤外光動画のうちの一方のデータ量を低減して他方のデータ量を増加して出力する出力段階とを備える。
また、本発明の第3の形態においては、監視領域を監視する監視システム用の監視プログラムであって、監視システムを、可視光により監視領域の可視光動画を撮像する可視光動画撮像部、赤外光により監視領域の赤外光動画を撮像する赤外光動画撮像部、可視光動画または赤外光動画に含まれるオブジェクトが予め定められた条件に適合するか否かを判断する適合判断部、オブジェクトが予め定められた条件に適合するか否かに応じて、可視光動画および赤外光動画のうちの一方のデータ量を低減して他方のデータ量を増加して出力する出力部として機能させる。
また、本発明の第4の形態においては、監視領域を監視する監視システムであって、光により監視領域の光動画を撮像する動画撮像部と、監視領域から音声を集音する集音部と、光動画に含まれるオブジェクトが予め定められた条件に適合するか否か、および音声が予め定められた条件に適合するか否かを判断する適合判断部と、オブジェクトが予め定められた条件に適合するか否か、および音声が予め定められた条件に適合するか否かに応じて、光動画および音声のうちの一方のデータ量を低減して、他方のデータ量を増加して出力する出力部とを備える。なお、光動画とは、可視光動画と赤外光動画とを含む動画であってよい。
また、本発明の第5の形態においては、監視領域を監視する監視方法であって、光により監視領域の光動画を撮像する動画撮像段階と、監視領域における音声を集音する集音段階と、光動画に含まれるオブジェクトが予め定められた条件に適合するか否か、および音声が予め定められた条件に適合するか否かを判断する適合判断段階と、オブジェクトが予め定められた条件に適合するか否か、および音声が予め定められた条件に適合するか否かに応じて、光動画および音声のうちの一方のデータ量を低減して、他方のデータ量を増加して出力する出力段階とを備える。
また、本発明の第6の形態においては、監視領域を監視する監視システム用の監視プログラムであって、監視システムを、光により監視領域の光動画を撮像する動画撮像部、監視領域から音声を集音する集音部、光動画に含まれるオブジェクトが予め定められた条件に適合するか否か、および音声が予め定められた条件に適合するか否かを判断する適合判断部、オブジェクトが予め定められた条件に適合するか否か、および音声が予め定められた条件に適合するか否かに応じて、光動画および音声のうちの一方のデータ量を低減して、他方のデータ量を増加して出力する出力部として機能させる。
なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではなく、これらの特徴群のサブコンビネーションもまた、発明となりうる。
本発明によれば、監視領域の監視に適切な情報を取得することができる。
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲に係る発明を限定するものではなく、また実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
図1は、本発明の一実施形態に係る監視システム10の概要を示す。監視システム10は、監視領域の可視光動画および監視領域の赤外光動画を撮像する撮像ユニット100および撮像領域において生じた音声を取得する集音部110を備える。監視システム10は、撮像ユニット100が撮像した可視光動画を示す可視光動画データおよび赤外光動画を示す赤外光動画データ、並びに集音部110が集音した音声を示す音声データを、監視システム10が取得した動画データおよび音声データを管理するサーバ20に出力する。本実施形態に係る監視システム10は、監視領域の監視に適切な情報を取得することを目的とする。
以下、監視システム10が監視する監視領域に人物1が侵入した場合を一例として、監視システム10の概要について説明する。監視システム10の撮像ユニット100は、監視領域に含まれる人物1の可視光動画および赤外光動画を撮像する。また、監視システム10の集音部110は、監視領域において人物1の動作により発生した音声(例えば、人物1が発した声を示す音声および人物1が動いたことにより発生した音)を集音する。
なお、可視光動画とは、可視光の波長範囲(例えば、波長400nmから700nmの範囲)において撮像ユニット100が有する撮像素子が受光した光から取得した動画である。また、赤外光動画とは、赤外光の波長範囲(例えば、波長700nmから1000nmの範囲)において撮像ユニット100が有する撮像素子が受光した光から取得した動画である。更に、監視領域とは、撮像ユニット100が可視光動画および赤外光動画の撮像ができる撮像領域である。
監視システム10は、監視領域に含まれるオブジェクト(例えば、人物1)が予め定められた条件を満たすまで、単位時間当たりに外部に出力できるデータ量の範囲を、撮像した動画および集音した音声のそれぞれに予め定められた比率で割り振って出力する。すなわち、監視システム10は、撮像ユニット100が撮像した可視光動画のデータ量および赤外光動画のデータ量、並びに集音部110が集音した音声のデータ量の合計量が、単位時間当たりに出力するデータ量と適合すべく、可視光動画のデータ量、赤外光動画のデータ量、および音声のデータ量を予め定められた比率に適合させて調整する。そして、監視システム10は、データ量を調整したうえで、可視光動画のデータ、赤外光動画のデータ、および音声データをサーバ20に出力する。
例えば、監視領域に人物1が侵入した場合であって、撮像ユニット100の撮像方向と、人物1の正面とが略相対する場合を考える。係る場合、監視システム10は、可視光動画データの可視光動画データ量3、赤外光動画データの赤外光動画データ量4、および音声データの音声データ量5の順に単位時間当たりにサーバ20に出力するデータ量が多くなるべく、可視光動画データ量3、赤外光動画データ量4、および音声データ量5を調整する(グラフ70参照)。すなわち、監視システム10は、可視光動画データに割り当てられるデータ量が最も多く、次に赤外動画データに割り当てられるデータ量が多く、音声データに割り当てられるデータ量が最も少なくなるべく調整する。これにより、人物1の正面の顔を撮像した可視光動画について、赤外光動画および音声よりも多くの通信帯域を割り当てることができるので、高解像度の人物1の顔の可視光動画をサーバ20に格納できる。
一方、撮像ユニット100の撮像方向と撮像範囲に含まれる人物2の正面とが略同一となった場合、すなわち、人物2が撮像ユニット100に対して背を向けた場合を考える。係る場合、監視システム10は、人物2が撮像ユニット100に背を向けた時刻(T1000)までは、可視光動画データ量3、赤外光動画データ量4、および音声データ量5の順に単位時間当たりにサーバ20に出力するデータ量が多くなるべく、可視光動画データ量3、赤外光動画データ量4、および音声データ量5を調整する。そして、監視システム10は、当該時刻(T1000)より後は、赤外光動画データ量4、音声データ量5、および可視光動画データ量3の順に単位時間当たりにサーバ20に出力するデータ量が多くなるべく、可視光動画データ量3、赤外光動画データ量4、および音声データ量5を調整する(グラフ72参照)。
また、監視システム10は、監視領域の明るさに応じて単位時間当たりに出力する可視光動画データ、赤外光動画データ、および音声データのそれぞれのデータ量の比率を調整する。具体的には、監視領域の明るさ(例えば、照度または輝度)が予め定められた基準値が示す明るさよりも明るい場合、監視システム10は、少なくとも赤外光動画データよりも可視光動画データのデータ量が多くなるべく、単位時間当たりに出力するデータ量の割り当てを調整する。一方、監視領域の明るさが予め定められた基準値が示す明るさ以下の場合、監視システム10は、少なくとも可視光動画データよりも赤外光動画データのデータ量が多くなるべく、単位時間当たりに出力するデータ量の割り当てを調整する。
更に、監視システム10は、監視領域において集音される音声の音量の変化量が略一定の場合、可視光動画データおよび赤外光動画データのデータ量が音声データのデータ量よりも多くなるべく、単位時間当たりに出力するデータ量の割り当てを調整する。一方、監視システム10は、監視領域において集音される音声の音量の変化量が予め定められた木変化量よりも大きい場合、または監視領域の可視光動画および赤外光動画を撮像できない場合、音声データのデータ量が可視光動画データおよび赤外光動画データのデータ量よりも多くなるべく、単位時間当たりに出力するデータ量の割り当てを調整する。
なお、監視システム10は、単位時間当たりの可視光動画データ量3、単位時間当たりの赤外光動画データ量4、および単位時間当たりの音声データ量5の合計量が略一定となるべく調整する。これにより、監視システム10とサーバ20との間の通信速度に適合させて、適切な比率で可視光動画データ、赤外光動画データ、および音声データを出力できる。
例えば、監視システム10は、監視システム10とサーバ20との間の通信速度が1Mbpsである場合、監視領域に含まれる人物等の動体が予め定められた条件を満たすまでは、可視光動画データ、赤外光動画データ、および音声データのそれぞれのデータ量の比率を、例えば7:2:1と予め設定して、可視光動画データを0.7Mbpsで、赤外光動画データを0.2Mbpsで、そして音声データを0.1Mbpsで出力する。一方、監視システム10は、監視領域に含まれる人物等の動体が予め定められた条件を満たした場合(例えば、人物の顔を可視光動画で撮像できないという条件を満たした場合)、可視光動画データ、赤外光動画データ、および音声データのそれぞれのデータ量の比率を、例えば1:7:2として、可視光動画データを0.1Mbpsで、赤外光動画データを0.7Mbpsで、そして音声データを0.2Mbpsで出力する。
これにより、可視光動画を用いて監視領域に含まれる人物2の顔の認識が困難な場合等、予め定められた条件が満たされる場合に可視光動画を高画質で出力することを防止して、赤外光動画の出力および音声の出力を優先するので、監視領域に含まれる人物2の挙動を適切に解析することができる情報を優先的に取得することができる。また、可視光動画を用いて監視領域に含まれる人物1の顔の認識ができる場合には、赤外光動画および音声の出力よりも可視光動画を高画質で撮像して出力することを優先するので、監視システム10とサーバ20との間の通信帯域が限られている場合であっても、監視システム10は、監視領域に侵入した人物等の動体の解析に用いられる情報を適切に出力できる。
図2は、本実施形態に係る監視システム10の機能構成の一例を示す。監視システム10は、撮像ユニット100、集音部110、動画取得部120、オブジェクト抽出部130、解析ユニット140、適合判断部150、情報格納部160、出力部170、およびデータ送受信部180を備える。また、撮像ユニット100は、可視光動画撮像部102および赤外光動画撮像部104を有する。更に、解析ユニット140は、変化量検出部142、大きさ検出部144、向き特定部146、および動き速さ検出部148を有する。
撮像ユニット100が有する可視光動画撮像部102は、可視光により監視領域の可視光動画を撮像する。可視光動画撮像部102は、複数の色情報を含む可視光動画を撮像する。可視光動画撮像部102は、撮像した可視光動画を可視光動画データとして動画取得部120に供給する。また、撮像ユニット100が有する赤外光動画撮像部104は、赤外光により監視領域の赤外光動画を撮像する。赤外光動画撮像部104は、撮像した赤外光動画を赤外光動画データとして動画取得部120に供給する。なお、請求項に記載の動画撮像部は、撮像ユニット100の一例である。また、請求項に記載の光とは、可視光および赤外光の双方を含み、請求項に記載の光動画とは、可視光動画および赤外光動画の双方を含む動画を示すことを意図する。
ここで、本実施形態においては、撮像ユニット100が可視光動画撮像部102および赤外光動画撮像部104を有しているが、他の実施形態においては、監視システム10は、可視光動画撮像部102と赤外光動画撮像部104とを別個独立に備えていてもよい。例えば、監視システム10は、撮像ユニット100の代わりに、可視光により監視領域の可視光動画を撮像する可視光動画撮像部102を有する可視光動画撮像ユニットと、赤外光により監視領域の赤外光動画を撮像する赤外光動画撮像部104を有する赤外光動画撮像ユニットとを備えていてもよい。
また、撮像ユニット100は、監視領域に含まれるオブジェクトの動きを検知する動き検知部と、動き検知部が検知したオブジェクトの監視領域における位置であるオブジェクト位置を取得するオブジェクト位置取得部と、オブジェクト位置取得部が取得したオブジェクト位置へ可視光動画撮像部102および/または赤外光動画撮像部104の撮像方向を移動させる駆動部を更に有していてもよい。係る構成により、撮像ユニット100は、実質的な監視領域を拡大することができると共に、オブジェクトを追尾して可視光動画および赤外光動画を撮像できる。
動画取得部120は、可視光動画撮像部102が撮像した可視光動画を可視光動画データとして取得する。また、動画取得部120は、赤外光動画撮像部104が撮像した赤外光動画を赤外光動画データとして取得する。動画取得部120は、取得した可視光動画データおよび赤外光動画データを、オブジェクト抽出部130、情報格納部160、および出力部170に供給する。集音部110は、監視領域における音声を集音する。集音部110は、集音した音声を、音声データとして適合判断部150、情報格納部160、および出力部170に供給する。なお、集音部110は、撮像ユニット100が有していてもよい。すなわち、撮像ユニット100が監視カメラである場合には、当該監視カメラが集音部110を有していてもよい。
情報格納部160は、動画取得部120が取得した可視光動画および赤外光動画、並びに集音部110が集音した音声の音声データを格納する。情報格納部160は、可視光動画撮像部102が可視光動画を撮像した時刻、または赤外光動画撮像部104が赤外光動画を撮像した時刻、若しくは集音部110が音声を集音した時刻に対応づけて、可視光動画および赤外光動画、並びに音声データを格納する。なお、情報格納部160は、可視光動画、赤外光動画、および音声データを、それぞれのデータ量を低減させずに格納してもよい。また、他の実施例においては、動画取得部120は、可視光動画および赤外光動画のそれぞれのデータ量を予め定められた圧縮方式(例えば、MotionJPEG方式、またはMPEG方式等)に従って低減して情報格納部160に格納してもよい。
オブジェクト抽出部130は、動画取得部120が取得した可視光動画データが示す可視光動画に含まれるオブジェクトのオブジェクト画像を抽出する。また、オブジェクト抽出部130は、動画取得部120が取得した赤外光動画データが示す赤外光動画に含まれるオブジェクトのオブジェクト画像を抽出する。例えば、オブジェクト抽出部130は、可視光動画および赤外光動画を構成するそれぞれの動画構成画像を画像処理(例えば、テンプレートマッチング、エッジ抽出、および閾値処理等)することによって、可視光動画および赤外光動画に含まれるオブジェクトのオブジェクト画像を抽出する。また、オブジェクト抽出部130は、可視光動画および赤外光動画を構成する複数の動画構成画像間の差分画像から、動きのあるオブジェクトを抽出してもよい。
なお、動画構成画像とは、動画を構成する複数の画像のそれぞれを意図しており、例えばフレーム画像またはフィールド画像は動画構成画像の一例である。そして、赤外光動画は複数の動画構成画像(以下、赤外光動画構成画像とする)を含み、また可視光動画は複数の動画構成画像(以下、可視光動画構成画像とする)を含む。
オブジェクト抽出部130は、抽出したオブジェクト画像を解析ユニット140および適合判断部150に供給する。具体的には、オブジェクト抽出部130は、可視光動画を構成する複数の可視光動画構成画像のそれぞれを識別する可視光動画構成画像識別子に対応づけて、可視光動画構成画像識別子で識別される可視光動画構成画像に含まれるオブジェクトのオブジェクト画像を解析ユニット140に供給する。また、オブジェクト抽出部130は、赤外光動画を構成する複数の赤外光動画構成画像のそれぞれを識別する赤外光動画構成画像識別子に対応づけて、赤外光動画構成画像識別子で識別される赤外光動画構成画像に含まれるオブジェクトのオブジェクト画像を解析ユニット140に供給する。
解析ユニット140が有する変化量検出部142は、可視光動画または赤外光動画におけるオブジェクトの変化量を検出する。具体的には、変化量検出部142は、オブジェクトの位置の変化量を検出する。
例えば、変化量検出部142は、オブジェクト抽出部130から、可視光動画構成画像に対するオブジェクトの位置を示す位置情報を更に受け取り、受け取った複数の位置情報がそれぞれ示す、可視光動画構成画像のそれぞれにおけるオブジェクトの位置から、オブジェクトの可視光動画構成画像上における位置の変化量を算出する。すなわち、変化量検出部142は、第1の可視光動画構成画像におけるオブジェクトの位置と、第2の可視光動画構成画像におけるオブジェクトの位置との差分から、オブジェクトの位置の変化量を検出する。
ここで、第1の可視光動画構成画像と第2の可視光動画構成画像とは時間的に相互に隣接している必要はなく、第2の可視光動画構成画像は第1の可視光動画構成画像から予め定められた時間が経過した後に撮像された可視光動画構成画像であってよい。また、係る場合においては、第1の可視光動画構成画像と第2の可視光動画構成画像とが撮像する監視領域は、略同一であることを前提とする。なお、オブジェクトの位置情報が示す位置は、可視光動画構成画像中に予め基準位置(例えば、可視光動画構成画像の中心点)を定めておき、基準位置からオブジェクトを構成する複数の部分(例えば、オブジェクトの外縁およびオブジェクトの重心)までの、可視光動画構成画像上における複数の距離によって規定される位置であってよい。
なお、変化量検出部142は、オブジェクト抽出部130から、赤外光動画構成画像に対するオブジェクトの位置を示す位置情報を更に受け取り、上記説明における可視光動画構成画像の場合と同様に、オブジェクトの位置の変化量を検出する。変化量検出部142が赤外光動画構成画像を用いてオブジェクトの位置の変化量を検出する方法は、可視光動画構成画像の場合と略同一なので、詳細な説明は省略する。また、変化量検出部142は、オブジェクト抽出部130からオブジェクト画像ではなく、複数の可視光動画構成画像および複数の赤外光動画構成画像を受け取ってもよい。係る場合には、変化量検出部142は、複数の可視光動画構成画像の差分または複数の赤外光動画構成画像の差分からオブジェクトの位置の変化量を算出してもよい。
また、変化量検出部142は、可視光動画または赤外光動画におけるオブジェクトの変化量として、オブジェクトの大きさの変化量を検出する。例えば、変化量検出部142は、オブジェクト抽出部130から可視光動画構成画像および/または赤外光動画構成画像が撮像された時刻の時系列に沿って、可視光動画構成画像および/または赤外光動画構成画像に含まれるオブジェクトの複数のオブジェクト画像を受け取る。そして、変化量検出部142は、受け取った複数のオブジェクト画像の差分を当該時系列に沿って算出して、オブジェクトの大きさの変化量を検出する。
すなわち、変化量検出部142は、第1の時刻において撮像された可視光動画構成画像および/または赤外光動画構成画像に含まれるオブジェクトの第1のオブジェクト画像と、第2の時刻において撮像された可視光動画構成画像および/または赤外光動画構成画像に含まれるオブジェクトの第2のオブジェクト画像との差分から、当該オブジェクトの大きさの変化量を検出する。なお、変化量検出部142は、オブジェクトの位置の変化量とオブジェクトの大きさの変化量とを同時に検出してもよい。変化量検出部142は、検出したオブジェクトの位置の変化量を示すデータ、および/またはオブジェクトの大きさの変化量を示すデータを適合判断部150に供給する。
大きさ検出部144は、可視光動画および/または赤外光動画に含まれるオブジェクトの大きさを検出する。大きさ検出部144は、可視光動画構成画像および/または赤外光動画構成画像に対するオブジェクトの相対的な大きさを検出する。例えば、大きさ検出部144は、オブジェクト抽出部130からオブジェクト画像と共に、可視光動画構成画像および/または赤外光動画構成画像を受け取る。そして、大きさ検出部144は、可視光動画構成画像および/または赤外光動画構成画像に対してオブジェクト画像が占める可視光動画構成画像および/または赤外光動画構成画像上における面積を、オブジェクトの大きさとして検出する。
また、大きさ検出部144は、可視光動画構成画像および/または赤外光動画構成画像に対してオブジェクトのオブジェクト画像が占める可視光動画構成画像および/または赤外光動画構成画像上における面積の割合を、オブジェクトの大きさとして検出してもよい。大きさ検出部144は、検出したオブジェクトの大きさを示すデータを適合判断部150に供給する。
向き特定部146は、可視光動画または赤外光動画に含まれるオブジェクトである人物の向きを特定する。例えば、向き特定部146は、オブジェクト抽出部130から受け取ったオブジェクト画像と、人物の正面の顔を示すテンプレート画像、人物の横の顔を示すテンプレート画像、および人物の斜めの顔を示すテンプレート画像等の複数のテンプレート画像とをマッチングすることにより、人物の向きとして人物の顔の向きを検出する。なお、向き特定部146は、複数のテンプレート画像を記録しているテンプレート画像格納部を含んでいてよい。
また、向き特定部146は、可視光動画構成画像からオブジェクト抽出部130が抽出したオブジェクト画像に含まれる人物の肌が露出した部分を、肌色抽出等の画像処理により抽出してもよい。そして、向き特定部146は、人物の顔を複数の方向から観察した場合に観察される複数の顔の輪郭を示す複数のテンプレート画像と抽出した人物の肌が露出した部分の画像とをマッチングすることにより、人物の顔の向きを検出する。なお、係る場合において、向き特定部146は、テンプレート画像を拡大、縮小、および回転処理してマッチングしてよい。向き特定部146は、特定した人物の向きを示すデータを適合判断部150に供給する。
動き速さ検出部148は、オブジェクトが動く速さを検出する。動き速さ検出部148は、可視光動画構成画像および/または赤外光動画構成画像が撮像された時刻を更に対応づけて、オブジェクト抽出部130から可視光動画構成画像に含まれるオブジェクトの複数のオブジェクト画像、および/または赤外光動画構成画像に含まれるオブジェクトの複数のオブジェクト画像を受け取ってよい。そして、動き速さ検出部148は、複数のオブジェクト画像が示すオブジェクトの可視光動画構成画像および/または赤外光動画構成画像における位置の変化量と、オブジェクト画像を含む可視光動画構成画像および/または赤外光動画構成画像のそれぞれに対応づけられている時刻から算出される時間とからオブジェクトの速さを検出する。なお、動き速さ検出部148がオブジェクトの可視光動画構成画像および/または赤外光動画構成画像における位置の変化量を算出する方法は、上記説明における変化量検出部142が実施する方法と略同一なので、詳細な説明は省略する。動き速さ検出部148は、検出した速さを示すデータを適合判断部150に供給する。
適合判断部150は、可視光動画または赤外光動画に含まれるオブジェクトが予め定められた条件に適合するか否かを判断する。適合判断部150は、オブジェクトが予め定められた条件に適合するか否かと共に、音声データが示す音声が予め定められた条件に適合するか否かを判断する。例えば、適合判断部150は、音声データが示す音声の音量の変化量が予め定められた音声変化量より大きいか否かを判断する。そして、適合判断部150は、音量の変化量が予め定められた音声変化量より大きい場合に、オブジェクトが予め定められた条件に適合すると判断する。すなわち、音量の変化量が予め定められた音声変化量より大きい場合は、音声の音量の変化の前後で監視領域に変化が生じている場合が多いので、適合判断部150は、係る場合にオブジェクトが予め定められた条件に適合すると判断する。
また、適合判断部150は、変化量検出部142が検出したオブジェクトの変化量が予め定められた変化量より大きいか否かを判断する。例えば、適合判断部150は、変化量検出部142が検出したオブジェクトの位置の変化量が予め定められた位置の変化量より大きいか否かを判断する。そして、適合判断部150は、オブジェクトの位置の変化量が予め定められた位置の変化量より大きい場合に、オブジェクトが予め定められた条件に適合すると判断する。すなわち、オブジェクトの位置の変化量が予め定められた位置の変化量より大きい場合は、オブジェクトの位置の変化の前後で監視領域におけるオブジェクトの動作が大きく変化している場合が多いので、適合判断部150は、係る場合にオブジェクトが予め定められた条件に適合すると判断する。
また、適合判断部150は、大きさ検出部144が検出した大きさの変化量が予め定められた大きさの変化量より大きいか否かを判断する。そして、適合判断部150は、大きさ検出部144が検出した大きさの変化量が予め定められた大きさの変化量より大きい場合に、オブジェクトが予め定められた条件に適合すると判断する。また、適合判断部150は、大きさ検出部144が検出したオブジェクトの大きさが予め定められた大きさより大きいか否かを判断してもよい。そして、適合判断部150は、大きさ検出部144が検出した大きさが予め定められた大きさより大きい場合に、オブジェクトが予め定められた条件に適合すると判断してよい。
また、適合判断部150は、向き特定部146が特定した人物の向きが予め定められた向きであるか否かを判断してもよい。例えば、適合判断部150は、向き特定部146が特定した人物の顔の向きが、撮像ユニット100の撮像方向から予め定められた角度、ずれていた場合に、オブジェクトが予め定められた条件に適合すると判断してよい。すなわち、撮像ユニット100において人物の正面の顔を撮像できない場合に、オブジェクトが予め定められた条件に適合すると判断してよい。
また、適合判断部150は、監視領域の明るさが予め定められた明るさであるか否かを判断してもよい。具体的には、適合判断部150は、可視光動画撮像部102が有する撮像素子の受光量に応じて、監視領域の明るさが予め定められた明るさであるか否かを判断する。例えば、適合判断部150は、可視光動画撮像部102が有する複数の撮像素子が受光する可視光の合計の受光量、または複数の撮像素子が受光する可視光の平均の受光量が、予め定められた基準の受光量より多い場合に、監視領域の明るさが予め定められた明るさであると判断する。
また、適合判断部150は、赤外光動画撮像部104が有する撮像素子の受光量に応じて、監視領域の明るさが予め定められた明るさであるか否かを判断する。例えば、適合判断部150は、赤外光動画撮像部104が有する複数の撮像素子が受光する赤外光の合計の受光量、または複数の撮像素子が受光する赤外光の平均の受光量が、予め定められた基準の受光量より多い場合に、監視領域の明るさが予め定められた明るさであると判断する。
更に、適合判断部150は、可視光動画撮像部102が撮像した可視光動画を構成する可視光動画構成画像が含む複数の画素のうち、最大の輝度を示す画素の輝度と最小の輝度を示す画素の輝度との差に応じて、オブジェクトが予め定められた条件に適合するか否かを判断してもよい。例えば、適合判断部150は、輝度の差が予め定められた基準値より小さい場合にオブジェクトが予め定められた条件に適合しないと判断する。一方、適合判断部150は、輝度の差が予め定められた基準値以上の場合にオブジェクトが予め定められた条件に適合すると判断する。
また、適合判断部150は、監視領域の可視光動画構成画像または赤外光動画構成画像の複数の画素が示す輝度分布に応じて、オブジェクトが予め定められた条件に適合するか否かを判断してもよい。例えば、適合判断部150は、輝度分布が略均一の場合にオブジェクトが予め定められた条件に適合すると判断する。一方、適合判断部150は、輝度分布が予め定められた輝度値よりも明るい輝度の側に偏っている場合、および輝度分布が予め定められた輝度値よりも暗い輝度の側に偏っている場合、オブジェクトが予め定められた条件に適合しないと判断する。
なお、適合判断部150は、オブジェクト抽出部130から可視光動画構成画像および赤外光動画構成画像からオブジェクト画像を抽出できなかったことを示す情報を取得した場合、オブジェクトが予め定められた条件に適合していないと判断する。また、適合判断部150は、集音部110から音声を示す音声データを受け取らない場合、オブジェクトが予め定められた条件に適合していないと判断してよい。適合判断部150は、判断結果を出力部170に供給する。
出力部170は、監視領域に含まれるオブジェクトが予め定められた条件に適合するか否かに応じて、可視光動画および赤外光動画のうちの一方のデータ量を低減して他方のデータ量を増加して出力する。係る場合において、出力部170は、単位時間当たりに出力する可視光動画のデータ量と赤外光動画のデータ量との合計量を略一定に調整する。また、出力部170は、監視領域に含まれるオブジェクトが予め定められた条件に適合するか否か、および集音部110から受け取った音声データが示す音声が予め定められた条件に適合するか否かに応じて、可視光動画、赤外光動画、および音声のうちの少なくともいずれかのデータ量を低減して、他のデータ量を増加して出力してもよい。
また、出力部170は、オブジェクトが予め定められた条件に適合するか否か、および音声が予め定められた音声変化量より大きいか否かに応じて、可視光動画、赤外光動画、および音声のうちの少なくともいずれかのデータ量を低減して、他のデータ量を増加して出力してもよい。例えば、適合判断部150が、音量の変化量が予め定められた音声変化量より大きいことにより、オブジェクトが予め定められた条件に適合すると判断した場合、出力部170は、可視光動画および赤外光動画のデータ量を低減して、音声のデータ量を増加する。
また、出力部170は、オブジェクトの変化量が予め定められた変化量より大きいか否かに応じて、可視光動画および赤外光動画のうちの一方のデータ量を低減して他方のデータ量を増加して出力してもよい。具体的には、出力部170は、オブジェクトの位置の変化量が予め定められた位置の変化量より大きいか否かに応じて、可視光動画および赤外光動画のうちの一方のデータ量を低減して他方のデータ量を増加して出力する。例えば、適合判断部150が、オブジェクトの位置の単位時間当たりの変化量が、予め定められた単位置の位時間当たりの変化量より大きいことにより、オブジェクトが予め定められた条件に適合すると判断した場合、すなわち、オブジェクトの位置の単位時間当たりの変化量が予め定められた位置の単位時間当たりの変化量より大きいと判断した場合は、出力部170は、可視光動画のデータ量を低減して、赤外光動画および音声のデータ量を増加してよい。これにより、可視光動画ではオブジェクトの輪郭を適切に判断できない場合でも、赤外光動画においてオブジェクトの輪郭を適切に判断できる。
また、出力部170は、オブジェクトの大きさの変化量が予め定められた大きさの変化量より大きいか否かに応じて、可視光動画および赤外光動画のうちの一方のデータ量を低減して他方のデータ量を増加して出力してもよい。例えば、大きさ検出部144が検出した大きさの変化量が予め定められた大きさの変化量より大きいと判断したことにより、オブジェクトが予め定められた条件に適合すると適合判断部150が判断した場合、出力部170は、可視光動画のデータ量を低減して、赤外光動画および音声のデータ量を増加してよい。なお、他の実施例において、出力部170は、可視光動画のデータ量を増加して、赤外光動画および音声のデータ量を低減してもよく、あるいは、出力部170は、赤外光動画のデータ量を増加して、可視光動画および音声のデータ量を低減してもよい。
また、出力部170は、オブジェクトの大きさが予め定められた大きさより大きいか否かに応じて、可視光動画および赤外光動画のうちの一方のデータ量を低減して他方のデータ量を増加して出力してもよい。例えば、大きさ検出部144が検出したオブジェクトの大きさが予め定められたオブジェクトの大きさより大きいことにより、適合判断部150が、オブジェクトが予め定められた条件に適合すると判断した場合(例えば、可視光動画撮像部102の焦点距離からオブジェクトがずれることにより、オブジェクトの大きさが予め定められたオブジェクトの大きさより大きい場合等)、出力部170は、可視光動画のデータ量を低減して、赤外光動画および音声のデータ量を増加してよい。なお、他の実施例において、出力部170は、可視光動画のデータ量を増加して、赤外光動画および音声のデータ量を低減してもよく、あるいは、出力部170は、赤外光動画のデータ量を増加して、可視光動画および音声のデータ量を低減してもよい。
また、出力部170は、人物の向きが予め定められた向きであるか否かに応じて、可視光動画および赤外光動画のうちの一方のデータ量を低減して他方のデータ量を増加して出力してもよい。具体的には、向き特定部146が特定した人物の顔の向きが、撮像ユニット100の撮像方向から予め定められた角度ずれていることにより、適合判断部150が、オブジェクトが予め定められた条件に適合すると判断した場合、例えば、撮像ユニット100において人物の正面の顔を撮像できないと適合判断部150が判断した場合に、出力部170は、可視光動画のデータ量を低減して、赤外光動画および音声のデータ量を増加する。
なお、出力部170は、オブジェクトが予め定められた条件に適合するか否かに応じて、可視光動画および赤外光動画のうちの一方の解像度および/または階調数を低減して出力してもよい。すなわち、出力部170は、監視領域に侵入したオブジェクトの解析に資する動画について高画質および/または高階調数で撮像すべく、オブジェクトが予め定められた条件に適合するか否かに応じて、可視光動画および赤外光動画のうちの一方の解像度および/または階調数を低減して出力する。
具体的には、出力部170は、解析ユニット140における解析結果と、適合判断部150における判断結果とを用いて、可視光画像および赤外光画像のいずれか一方の解像度および/または階調数を低減して出力する。例えば、出力部170は、大きさ検出部144が検出した大きさが予め定められた大きさより大きいことを条件として、オブジェクトが予め定められた条件(例えば、オブジェクトが人物であって、当該人物の正面の顔を撮像ユニット100が撮像できる場合に合致する条件)に適合するか否かに応じて、可視光動画および赤外光動画のうちの一方の解像度および/または階調数を低減して出力する。例えば、適合判断部150が、オブジェクトである人物の顔の大きさが予め定められた大きさより大きいことにより、人物の顔を認識できると判断したうえで、更に、当該人物の顔の正面を撮像できると判断した場合に、出力部170は、赤外光動画の解像度および/または階調数を低減して、可視光画像および赤外光画像を出力する。
なお、出力部170は、可視光動画のデータ量を低減して出力する場合に、可視光動画に含まれる色数を低減して出力してもよい。出力部170は、可視光動画に含まれる色数を、予め定められた間隔で選択した複数の画素の色数を低減して出力してもよい。また、出力部170は、オブジェクトが予め定められた条件に適合するか否かに応じて、可視光動画および赤外光動画のうちの一方の表示レートを低下して出力することにより、データ量を低減してもよい。更に、出力部170は、オブジェクトが予め定められた条件に適合するか否かに応じて、可視光動画および赤外光動画のうちの一方の圧縮率を上げることによりデータ量を低減してもよい。
また、出力部170は、動き速さ検出部148が検出した速さが予め定められた速さより小さいことを条件として、オブジェクトが予め定められた条件に適合するか否かに応じて、可視光動画および赤外光動画のうちの一方の表示レートを低下して出力してもよい。例えば、オブジェクトが人物であり、動き速さ検出部148が検出した人物の速さが予め定められた速さより小さい場合であって、人物の正面の顔を撮像ユニット100が撮像できない場合には、出力部170は、可視光動画の表示レートを低下して出力してよい。
また、出力部170は、監視領域の明るさが予め定めら得た明るさよりも明るいことを条件として、可視光動画データのデータ量を赤外光動画データのデータ量よりも多くして出力する。係る場合において出力部170は、赤外光動画データのデータ量をゼロにしてもよい。一方、出力部170は、監視領域の明るさが予め定められた明るさよりも暗いことを条件として、赤外光動画データのデータ量を可視光動画データのデータ量よりも多くして出力する。なお、出力部170は、監視領域の明るさが予め定められた明るさよりも暗いことを条件として、赤外光動画データのデータ量と音声データのデータ量との合計量を、可視光動画データのデータ量より多くして出力してもよい。
また、出力部170は、適合判断部150が、可視光動画構成画像が含む複数の画素のうち、最大の輝度を示す画素の輝度と最小の輝度を示す画素の輝度との差が予め定められた基準値より小さいことにより、オブジェクトが予め定められた条件に適合しないと判断した場合、可視光動画データのデータ量を低減して、赤外光動画データのデータ量を増加して出力する。また、出力部170は、適合判断部150が、当該差が予め定められた基準値より大きいことにより、オブジェクトが予め定められた条件に適合すると判断した場合、可視光動画データのデータ量を増加させて、赤外光動画のデータ量を低減して出力する。
また、出力部170は、適合判断部150が、監視領域の可視光動画構成画像または赤外光動画構成画像の複数の画素が示す輝度分布が略均一であることにより、オブジェクトが予め定められた条件に適合すると判断した場合、可視光動画のデータ量を低減して、赤外光動画データのデータ量を増加して出力してよい。また、出力部170は、適合判断部150が、監視領域の可視光動画構成画像または赤外光動画構成画像の複数の画素が示す輝度分布が予め定められた輝度値よりも明るい輝度の側に偏っていることにより、および輝度分布が予め定められた輝度値よりも暗い輝度の側に偏っていることにより、オブジェクトが予め定められた条件に適合しないと判断した場合、可視光動画のデータ量を増加して、赤外光動画データのデータ量を低減して出力してよい。
出力部170は、出力すべき可視光動画データ、赤外光動画データ、および音声データを、単位時間当たりに出力するデータ量に対する可視光動画データ量、赤外光動画データ量、および音声データ量の比率を調整したうえで、データ送受信部180に供給する。
データ送受信部180は、出力部170から受け取った可視光動画データ、赤外光動画データ、および音声データを、可視光動画データ、赤外光動画データ、および音声データを管理するサーバ20に送信する。データ送受信部180は、サーバ20が監視システム10の外部に存在する場合、インターネット等のネットワークを介して可視光動画データ、赤外光動画データ、および音声データをサーバ20に送信する。また、データ送受信部180は、監視システム10とサーバ20との間の通信トラフィックを示すトラフィック情報を外部のサーバ20から受け取ってもよい。データ送受信部180は、トラフィック情報を出力部170に供給する。
データ送受信部180からトラフィック情報を受け取った出力部170は、当該トラフィック情報が示す通信トラフィックに応じて、可視光動画データのデータ量、赤外光動画データのデータ量、および音声データのデータ量の合計量を調整してもよい。例えば、出力部170は、通信トラフィックが予め定められた通信量を超えていた場合、サーバ20に送信すべき可視光動画データ、赤外光動画データ、および音声データそれぞれのデータ量の比率を略一定に保ったまま、データ量の合計量を低減させて出力する。これにより、監視システム10とサーバ20との間の通信トラフィックが変動した場合であっても、監視領域の解析に適切な種類の動画および/または音声をサーバ20に出力することができる。
本実施形態に係る監視システム10によれば、出力すべき可視光動画データ、赤外光動画データ、および音声データのデータ量の比率を、監視領域に含まれるオブジェクトが予め定められた条件に適合するか否かに応じて変化させることができる。これにより、監視領域に含まれるオブジェクトの解析に適した動画を高画質で撮像できると共に、データ量を低減させた動画についても、監視領域に含まれるオブジェクトの解析に補助的に用いることができる。
図3は、本実施形態に係る監視システム10の処理の一例を示す。まず、監視領域300についての可視光動画を可視光動画撮像部102が撮像すると共に、監視領域300についての赤外光動画を赤外光動画撮像部104が撮像する。係る場合において、監視領域300に人物305が存在しない場合、および人物305が存在する場合であっても、人物305の正面の顔を撮像できる場合には、出力部170は、可視光動画データ量3、赤外光動画データ量4、および音声データ量5の順にデータ量が低減する順で、監視領域300の可視光動画データ、赤外光動画データ、および音声データを出力する(グラフ74参照)。
続いて、監視領域300と同一の監視領域である監視領域310を参照する。監視領域310においては、人物305の顔は撮像ユニット100に対して正面を向いていない。係る場合には、適合判断部150は、予め定められた条件の1つである、人物の正面の顔を撮像することができないという条件に合致すると判断する。そして、適合判断部150は当該判断の結果を出力部170に通知する。出力部170は、当該結果を受け取ると、当該結果を受け取った時刻(T1010)から可視光動画データ量3を低減させ、赤外光動画データ量4および音声データ量5を増加させて、可視光動画データ、赤外光動画データ、および音声データをサーバ20に出力する(グラフ76参照)。
これにより、監視システム10は、監視領域300に可視光動画撮像部102が撮像する可視光動画では死角がある場合には、可視光動画の撮像よりも赤外光動画の撮像および音声の集音を優先することができるので、監視領域300の状況を適切に把握できる情報を確実に得ることができる。
図4は、本発明の他の実施形態に係る監視システム50の概要を示す。監視システム50は、監視領域の全体を撮像する広域動画撮像部502および監視領域に含まれ、広域動画撮像部502よりも狭い領域を撮像する細部動画撮像部602を備える。まず、監視領域に人物等の動体が含まれていない場合、監視システム50は、広域動画撮像部502で監視領域を撮像する。一方、細部動画撮像部602は動作させない。従って、細部動画撮像部602は細部動画データを出力しない。例えば、非撮像状態402および非撮像状態412に示すべく、細部動画データは存在しない。
係る場合において、監視システム50は、単位時間当たりに出力するデータ量を広域動画撮像部502が撮像した広域動画データの出力に割り当てる。すなわち、グラフ77に示すべく、監視システム50は、監視システム50とサーバ20との間の通信帯域を広域動画データの送信に割り当て、通信データ量を広域動画データ量64に調整して広域動画像400をサーバ20に出力する。
続いて、監視領域に人物1が存在する場合、監視システム50は、細部動画撮像部602に人物1の特定部分、例えば、人物1の顔、手、または体の一部などの高解像度の動画を撮像させる(例えば、細部動画像422および細部動画像432)。一方、広域動画撮像部502は、監視領域の全体の撮像を続行するものの(例えば、広域動画像420および広域動画像430)、監視領域に人物1が存在しない場合に比べて、サーバ20に出力する広域動画データ量64を低減させる。例えば、監視システム50は、広域動画撮像部502が撮像する動画の解像度の低減、または表示レートの低下等によりデータ量を低減させる。
そして、監視システム50は、グラフ78に示すべく、人物1が監視領域に侵入した時刻(T1020)から、広域動画撮像部502が撮像した広域動画の広域動画データ量64を低減させる一方で、細部動画撮像部602に人物1の顔領域の動画を撮像させる。そして、監視システム50は、細部動画撮像部602が撮像した細部動画を、細部動画データ量66に調整して出力する。なお、係る場合において、監視システム50は、監視領域に人物1が存在する前後における単位時間当たりに出力するデータ量が略一定となるべく、出力する広域動画データおよび細部動画データのそれぞれのデータ量を予め定められた比率に適合させるべく調整する。
図5は、本発明の他の実施形態に係る監視システム50の機能構成の一例を示す。監視システム50は、広域監視ユニット500、細部監視ユニット600、出力部170、およびデータ送受信部180を備える。また、広域監視ユニット500は、広域動画撮像部502、広域動画取得部510、動体検出部520、および広域動画格納部530を有する。更に、細部監視ユニット600は、細部動画撮像部602、動体位置取得部610、位置合わせ部620、細部動画取得部630、および細部動画格納部640を有する。
ここで、出力部170およびデータ送受信部180については、図1から図3の上記説明における出力部170およびデータ送受信部180と略同一の機能を有するので、詳細な説明は省略する。なお、監視システム50は、図1から図3の上記説明における監視システム10の説明において説明した機能および/または構成の一部または全部を更に備えていてもよい。
広域動画撮像部502は、光により監視領域の光動画である広域動画を撮像する。広域動画撮像部502は、撮像した広域動画を示す広域動画データを広域動画取得部510に供給する。広域動画取得部510は、広域動画撮像部502から広域動画データを取得する。そして、広域動画取得部510は、取得して広域動画データを、動体検出部520、広域動画格納部530、および出力部170に供給する。広域動画格納部530は、広域動画取得部510が取得した広域動画データを、広域動画データが示す広域動画が撮像された時刻に対応づけて格納する。
動体検出部520は、広域動画取得部510が取得した広域動画データを構成する複数の動画構成画像(以下、広域動画構成画像とする)を解析して、広域動画構成画像に動体が含まれているか否かを検出する。例えば、動体検出部520は、テンプレートマッチング、エッジ抽出、および閾値処理等の画像処理により広域動画構成画像に含まれるオブジェクトをオブジェクト画像として抽出する。そして、動体検出部520は、広域動画データが示す広域動画が撮像された時刻ごとに抽出したオブジェクト画像の差分を取ることにより、監視領域に含まれるオブジェクトが移動していることを検出する。動体検出部520は検出結果を動体位置取得部610に供給する。
動体位置取得部610は、動体検出部520からオブジェクトが移動していることを示す検出結果を受け取ったことを契機として、監視領域に含まれるオブジェクトの監視領域上における位置を取得する。動体位置取得部610は、取得したオブジェクトの位置を示す情報を位置合わせ部620に供給する。なお、オブジェクトの位置の取得方法は、図2の解析ユニット140における説明で説明したオブジェクトの位置の取得方法と同様にして取得できるので、詳細な説明は省略する。
位置合わせ部620は、動体位置取得部610からオブジェクトの位置を示す情報を受け取った場合、細部動画撮像部602を起動させると共に、細部動画撮像部602の撮像方向を、当該オブジェクトを撮像可能な位置に合わせる。そして、位置合わせ部620は、細部動画撮像部602に撮像方向を当該オブジェクトの移動に合わせて制御する。位置合わせ部620は、当該オブジェクトの特定部分、例えば、当該オブジェクトが人物である場合、当該人物の顔、手、および体の一部の細部動画を細部動画撮像部602が撮像可能となるべく、細部動画撮像部602の撮像方向を制御する。
例えば、位置合わせ部620は、人物の眼、鼻、口、耳、眉、顔の輪郭、手、足、首、胴体、および着衣等のテンプレート画像を有していてよく、テンプレートマッチングによって人物の特定部分を特定する。そして、位置合わせ部620は、細部動画撮像部602の撮像方向を当該人物の特定部分を撮像可能な位置に合わせる。なお、位置合わせ部620が特定する人物の特定部分が複数ある場合、特定する特定部分に優先順位を規定していてよい。優先順位が規定されている場合には、位置合わせ部620は、優先順位の高い順に人物の特定部分の特定を実行する。
細部動画撮像部602は、監視領域に含まれるオブジェクトの特定部分を高解像度および高い表示レートで撮像して、細部動画を撮像する。細部動画撮像部602は、監視領域における撮像方向を移動させる駆動部を含んでいてよく、駆動部は、位置合わせ部620に制御されて、細部動画撮像部602の撮像方向を調整する。細部動画撮像部602は、撮像した細部動画を示す細部動画データを細部動画取得部630に供給する。細部動画取得部630は、細部動画撮像部602が撮像した細部動画を示す細部動画データを取得する。細部動画取得部630は、取得した細部動画を、細部動画格納部640および出力部170に供給する。細部動画格納部640は、細部動画取得部630が取得した細部動画データを、細部動画データが示す細部動画が撮像された時刻に対応づけて格納する。
出力部170は、監視領域にオブジェクトが存在するか否かに応じて、広域動画および細部動画のうちの一方のデータ量を低減して他方のデータ量を増加して出力する。出力部170は、監視領域にオブジェクトが存在しない場合、広域動画だけを出力してもよい。データ送受信部180は、出力部170が出力する広域動画データおよび/または細部動画データを、インターネット等のネットワークを介してサーバ20に送信する。
本実施形態に係る監視システム50によれば、監視領域において動体を検出した場合には、監視領域全体を撮像している広域動画の解像度、表示レート、および圧縮率等を変更してデータ量を低減させて出力すると共に、当該動体の特定の部分の高解像度の細部動画を撮像して出力する。係る場合において、監視システム50は、広域動画のデータ量を低減させることにより生じた通信帯域の空き部分を、細部動画データの出力に用いることができる。これにより、監視システム50は、監視領域の状況を適切に把握できる情報を優先的に出力することができる。
図6は、本実施形態に係る監視システム10および監視システム50のハードウェア構成の一例を示す。本実施形態に係る監視システム10および監視システム50は、ホスト・コントローラ1582により相互に接続されるCPU1505、RAM1520、グラフィック・コントローラ1575、および表示装置1580を有するCPU周辺部と、入出力コントローラ1584によりホスト・コントローラ1582に接続される通信インターフェイス1530、ハードディスクドライブ1540、およびCD−ROMドライブ1560を有する入出力部と、入出力コントローラ1584に接続されるROM1510、フレキシブルディスク・ドライブ1550、および入出力チップ1570を有するレガシー入出力部とを備える。
ホスト・コントローラ1582は、RAM1520と、高い転送レートでRAM1520をアクセスするCPU1505およびグラフィック・コントローラ1575とを接続する。CPU1505は、ROM1510およびRAM1520に格納されたプログラムに基づいて動作して、各部を制御する。グラフィック・コントローラ1575は、CPU1505等がRAM1520内に設けたフレーム・バッファ上に生成する画像データを取得して、表示装置1580上に表示させる。これに代えて、グラフィック・コントローラ1575は、CPU1505等が生成する画像データを格納するフレーム・バッファを、内部に含んでもよい。
入出力コントローラ1584は、ホスト・コントローラ1582と、比較的高速な入出力装置である通信インターフェイス1530、ハードディスクドライブ1540、CD−ROMドライブ1560を接続する。通信インターフェイス1530は、ネットワークを介して他の装置と通信する。ハードディスクドライブ1540は、監視システム10および監視システム50内のCPU1505が使用するプログラムおよびデータを格納する。CD−ROMドライブ1560は、CD−ROM1595からプログラムまたはデータを読み取り、RAM1520を介してハードディスクドライブ1540に提供する。
また、入出力コントローラ1584には、ROM1510と、フレキシブルディスク・ドライブ1550、および入出力チップ1570の比較的低速な入出力装置とが接続される。ROM1510は、監視システム10および監視システム50が起動時に実行するブート・プログラム、監視システム10および監視システム50のハードウェアに依存するプログラム等を格納する。フレキシブルディスク・ドライブ1550は、フレキシブルディスク1590からプログラムまたはデータを読み取り、RAM1520を介してハードディスクドライブ1540に提供する。入出力チップ1570は、フレキシブルディスク・ドライブ1550、例えばパラレル・ポート、シリアル・ポート、キーボード・ポート、マウス・ポート等を介して各種の入出力装置を接続する。
RAM1520を介してハードディスクドライブ1540に提供される監視プログラムは、フレキシブルディスク1590、CD−ROM1595、またはICカード等の記録媒体に格納されて利用者によって提供される。監視プログラムは、記録媒体から読み出され、RAM1520を介して監視システム10および監視システム50内のハードディスクドライブ1540にインストールされ、CPU1505において実行される。
監視システム10および監視システム50にインストールされて実行される監視プログラムは、CPU1505等に働きかけて、監視システム10および監視システム50を、図1から図5にかけて説明した可視光動画撮像部102、赤外光動画撮像部104、集音部110、動画取得部120、オブジェクト抽出部130、変化量検出部142、大きさ検出部144、向き特定部146、動き速さ検出部148、適合判断部150、情報格納部160、出力部170、データ送受信部180、広域動画撮像部502、広域動画取得部510、動体検出部520、広域動画格納部530、細部動画撮像部602、動体位置取得部610、位置合わせ部620、細部動画取得部630、および細部動画格納部640として機能させる。
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加え得ることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
監視システム10の概要図である。 監視システム10の機能構成を示すブロック図である。 監視システム10における処理を示す図である。 監視システム50の概要図である。 監視システム50の機能構成を示すブロック図である。 監視システム10および監視システム50のハードウェア構成を示すブロック図である。
符号の説明
1、2、305 人物
3 可視光動画データ量
4 赤外光動画データ量
5 音声データ量
10 監視システム
20 サーバ
50 監視システム
64 広域動画データ量
66 細部動画データ量
70、72、74、76、77、78 グラフ
100 撮像ユニット
102 可視光動画撮像部
104 赤外光動画撮像部
110 集音部
120 動画取得部
130 オブジェクト抽出部
140 解析ユニット
142 変化量検出部
144 大きさ検出部
146 向き特定部
148 動き速さ検出部
150 適合判断部
160 情報格納部
170 出力部
180 データ送受信部
300、310 監視領域
400、410、420、430 広域動画像
402、412 非撮像状態
422、432 細部動画像
500 広域監視ユニット
502 広域動画撮像部
510 広域動画取得部
520 動体検出部
530 広域動画格納部
600 細部監視ユニット
602 細部動画撮像部
610 動体位置取得部
620 位置合わせ部
630 細部動画取得部
640 細部動画格納部
1505 CPU
1510 ROM
1520 RAM
1530 通信インターフェイス
1540 ハードディスクドライブ
1550 フレキシブルディスク・ドライブ
1560 CD−ROMドライブ
1570 入出力チップ
1575 グラフィック・コントローラ
1580 表示装置
1582 ホスト・コントローラ
1584 入出力コントローラ
1590 フレキシブルディスク
1595 CD−ROM

Claims (23)

  1. 可視光により監視領域の可視光動画を撮像する可視光動画撮像部と、
    赤外光により前記監視領域の赤外光動画を撮像する赤外光動画撮像部と、
    前記可視光動画または前記赤外光動画に含まれるオブジェクトが予め定められた条件に適合するか否かを判断する適合判断部と、
    前記オブジェクトが予め定められた条件に適合するか否かに応じて、前記可視光動画および前記赤外光動画のうちの一方のデータ量を低減して他方のデータ量を増加して出力する出力部と
    を備える監視システム。
  2. 前記出力部は、単位時間当たりに出力する前記可視光動画のデータ量と前記赤外光動画のデータ量との合計量を略一定にする
    請求項1に記載の監視システム。
  3. 前記監視領域における音声を集音する集音部
    を更に備え、
    前記適合判断部は、前記オブジェクトが予め定められた条件に適合するか否か、および前記音声が予め定められた条件に適合するか否かを判断し、
    前記出力部は、前記オブジェクトが予め定められた条件に適合するか否か、および前記音声が予め定められた条件に適合するか否かに応じて、前記可視光動画、前記赤外光動画、および前記音声のうちの少なくともいずれかのデータ量を低減して、他のデータ量を増加して出力する
    請求項1に記載の監視システム。
  4. 前記適合判断部は、前記音声の音量の変化量が予め定められた音声変化量より大きいか否かを判断し、
    前記出力部は、前記オブジェクトが予め定められた条件に適合するか否か、および前記音声が予め定められた音声変化量より大きいか否かに応じて、前記可視光動画、前記赤外光動画、および前記音声のうちの少なくともいずれかのデータ量を低減して、他のデータ量を増加して出力する
    請求項3に記載の監視システム。
  5. 前記可視光動画または前記赤外光動画における前記オブジェクトの変化量を検出する変化量検出部
    を更に備え、
    前記適合判断部は、前記変化量検出部が検出した前記オブジェクトの変化量が予め定められた変化量より大きいか否かを判断し、
    前記出力部は、前記オブジェクトの変化量が予め定められた変化量より大きいか否かに応じて、前記可視光動画および前記赤外光動画のうちの一方のデータ量を低減して他方のデータ量を増加して出力する
    請求項1に記載の監視システム。
  6. 前記変化量検出部は、前記オブジェクトの位置の変化量を検出し、
    前記適合判断部は、前記変化量検出部が検出した前記オブジェクトの位置の変化量が予め定められた位置の変化量より大きいか否かを判断し、
    前記出力部は、前記オブジェクトの位置の変化量が予め定められた位置の変化量より大きいか否かに応じて、前記可視光動画および前記赤外光動画のうちの一方のデータ量を低減して他方のデータ量を増加して出力する
    請求項5に記載の監視システム。
  7. 前記変化量検出部は、前記オブジェクトの大きさの変化量を検出し、
    前記適合判断部は、前記大きさ検出部が検出した大きさの変化量が予め定められた大きさの変化量より大きい場合に、前記オブジェクトが予め定められた条件に適合すると判断し、
    前記出力部は、前記オブジェクトの大きさの変化量が予め定められた大きさの変化量より大きいか否かに応じて、前記可視光動画および前記赤外光動画のうちの一方のデータ量を低減して他方のデータ量を増加して出力する
    請求項5に記載の監視システム。
  8. 前記オブジェクトの大きさを検出する大きさ検出部
    を更に備え、
    前記適合判断部は、前記大きさ検出部が検出した前記オブジェクトの大きさが予め定められた大きさより大きいか否かを判断し、
    前記出力部は、前記オブジェクトの大きさが予め定められた大きさより大きいか否かに応じて、前記可視光動画および前記赤外光動画のうちの一方のデータ量を低減して他方のデータ量を増加して出力する
    請求項1に記載の監視システム。
  9. 前記可視光動画または前記赤外光動画に含まれる人物の向きを特定する向き特定部
    を更に備え、
    前記適合判断部は、前記向き特定部が特定した人物の向きが予め定められた向きであるか否かを判断し、
    前記出力部は、前記人物の向きが予め定められた向きであるか否かに応じて、前記可視光動画および前記赤外光動画のうちの一方のデータ量を低減して他方のデータ量を増加して出力する
    請求項1に記載の監視システム。
  10. 前記出力部は、前記オブジェクトが予め定められた条件に適合するか否かに応じて、前記可視光動画および前記赤外光動画のうちの一方の解像度を低減して出力する
    請求項1に記載の監視システム。
  11. 前記オブジェクトの大きさを検出する大きさ検出部
    を更に備え、
    前記出力部は、前記大きさ検出部が検出した大きさが予め定められた大きさより大きいことを条件として、前記オブジェクトが予め定められた条件に適合するか否かに応じて、前記可視光動画および前記赤外光動画のうちの一方の解像度を低減して出力する
    請求項10に記載の監視システム。
  12. 前記出力部は、前記オブジェクトが予め定められた条件に適合するか否かに応じて、前記可視光動画および前記赤外光動画のうちの一方の階調数を低減して出力する
    請求項1に記載の監視システム。
  13. 前記可視光動画撮像部は複数の色情報を含む可視光動画を撮像し、
    前記出力部は、前記可視光動画のデータ量を低減して出力する場合に、前記可視光動画に含まれる色数を低減して出力する
    請求項1に記載の監視システム。
  14. 前記出力部は、前記オブジェクトが予め定められた条件に適合するか否かに応じて、前記可視光動画および前記赤外光動画のうちの一方の表示レートを低下して出力する
    請求項1に記載の監視システム。
  15. 前記オブジェクトが動く速さを検出する動き速さ検出部
    を更に備え、
    前記出力部は、前記動き速さ検出部が検出した速さが予め定められた速さより小さいことを条件として、前記オブジェクトが予め定められた条件に適合するか否かに応じて、前記可視光動画および前記赤外光動画のうちの一方の表示レートを低下して出力する
    請求項14に記載の監視システム。
  16. 前記出力部は、前記オブジェクトが予め定められた条件に適合するか否かに応じて、前記可視光動画および前記赤外光動画のうちの一方の圧縮率を上げる
    請求項1に記載の監視システム。
  17. 可視光により監視領域の可視光動画を撮像する可視光動画撮像段階と、
    赤外光により前記監視領域の赤外光動画を撮像する赤外光動画撮像段階と、
    前記可視光動画または前記赤外光動画に含まれるオブジェクトが予め定められた条件に適合するか否かを判断する適合判断段階と、
    前記オブジェクトが予め定められた条件に適合するか否かに応じて、前記可視光動画および前記赤外光動画のうちの一方のデータ量を低減して他方のデータ量を増加して出力する出力段階と
    を備える監視方法。
  18. 監視領域を監視する監視システム用の監視プログラムであって、前記監視システムを、
    可視光により監視領域の可視光動画を撮像する可視光動画撮像部、
    赤外光により前記監視領域の赤外光動画を撮像する赤外光動画撮像部、
    前記可視光動画または前記赤外光動画に含まれるオブジェクトが予め定められた条件に適合するか否かを判断する適合判断部、
    前記オブジェクトが予め定められた条件に適合するか否かに応じて、前記可視光動画および前記赤外光動画のうちの一方のデータ量を低減して他方のデータ量を増加して出力する出力部
    として機能させる監視プログラム。
  19. 光により監視領域の光動画を撮像する動画撮像部と、
    前記監視領域から音声を集音する集音部と、
    前記光動画に含まれるオブジェクトが予め定められた条件に適合するか否か、および前記音声が予め定められた条件に適合するか否かを判断する適合判断部と、
    前記オブジェクトが予め定められた条件に適合するか否か、および前記音声が予め定められた条件に適合するか否かに応じて、前記光動画および前記音声のうちの一方のデータ量を低減して、他方のデータ量を増加して出力する出力部と
    を備える監視システム。
  20. 前記出力部は、単位時間当たりに出力する前記光動画のデータ量と前記音声のデータ量との合計量を略一定にする
    請求項19に記載の監視システム。
  21. 前記適合判断部は、前記音声の音量の変化量が予め定められた音声変化量より大きいか否かを判断し、
    前記出力部は、前記音声の変化量が予め定められた音声変化量より大きいか否かに応じて、前記光動画および前記音声のうちの一方のデータ量を低減して、他方のデータ量を増加して出力する
    請求項19に記載の監視システム。
  22. 光により監視領域の光動画を撮像する動画撮像段階と、
    前記監視領域における音声を集音する集音段階と、
    前記光動画に含まれるオブジェクトが予め定められた条件に適合するか否か、および前記音声が予め定められた条件に適合するか否かを判断する適合判断段階と、
    前記オブジェクトが予め定められた条件に適合するか否か、および前記音声が予め定められた条件に適合するか否かに応じて、前記光動画および前記音声のうちの一方のデータ量を低減して、他方のデータ量を増加して出力する出力段階と
    を備える監視方法。
  23. 監視領域を監視する監視システム用の監視プログラムであって、前記監視システムを、
    光により監視領域の光動画を撮像する動画撮像部、
    前記監視領域から音声を集音する集音部、
    前記光動画に含まれるオブジェクトが予め定められた条件に適合するか否か、および前記音声が予め定められた条件に適合するか否かを判断する適合判断部、
    前記オブジェクトが予め定められた条件に適合するか否か、および前記音声が予め定められた条件に適合するか否かに応じて、前記光動画および前記音声のうちの一方のデータ量を低減して、他方のデータ量を増加して出力する出力部
    として機能させる監視プログラム。
JP2007073689A 2007-03-20 2007-03-20 監視システム、監視方法、および監視プログラム Abandoned JP2008236425A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007073689A JP2008236425A (ja) 2007-03-20 2007-03-20 監視システム、監視方法、および監視プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007073689A JP2008236425A (ja) 2007-03-20 2007-03-20 監視システム、監視方法、および監視プログラム

Publications (1)

Publication Number Publication Date
JP2008236425A true JP2008236425A (ja) 2008-10-02

Family

ID=39908658

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007073689A Abandoned JP2008236425A (ja) 2007-03-20 2007-03-20 監視システム、監視方法、および監視プログラム

Country Status (1)

Country Link
JP (1) JP2008236425A (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101120568B1 (ko) 2010-06-11 2012-03-09 주식회사 엘에스엘시스템즈 다중 스펙트럼 전자기파의 영상 촬영 시스템 및 다중 스펙트럼 전자기파의 영상 촬영 방법
JP2017158033A (ja) * 2016-03-01 2017-09-07 住友重機械工業株式会社 作業機械用周辺監視システム
JP2017212544A (ja) * 2016-05-24 2017-11-30 キヤノン株式会社 制御装置、制御方法及びプログラム

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07121789A (ja) * 1993-10-22 1995-05-12 Canon Inc 遠隔監視装置
JP2001036904A (ja) * 1999-07-16 2001-02-09 Fuji Photo Film Co Ltd 信号処理装置
JP2002271688A (ja) * 2001-03-09 2002-09-20 Hitachi Kokusai Electric Inc テレビジョンカメラ
JP2002312769A (ja) * 2001-04-16 2002-10-25 Matsushita Electric Ind Co Ltd 監視装置及びそのパラメータ設定方法
JP2003125365A (ja) * 2001-10-10 2003-04-25 Minolta Co Ltd 制御装置、プログラム、および記録媒体

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07121789A (ja) * 1993-10-22 1995-05-12 Canon Inc 遠隔監視装置
JP2001036904A (ja) * 1999-07-16 2001-02-09 Fuji Photo Film Co Ltd 信号処理装置
JP2002271688A (ja) * 2001-03-09 2002-09-20 Hitachi Kokusai Electric Inc テレビジョンカメラ
JP2002312769A (ja) * 2001-04-16 2002-10-25 Matsushita Electric Ind Co Ltd 監視装置及びそのパラメータ設定方法
JP2003125365A (ja) * 2001-10-10 2003-04-25 Minolta Co Ltd 制御装置、プログラム、および記録媒体

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101120568B1 (ko) 2010-06-11 2012-03-09 주식회사 엘에스엘시스템즈 다중 스펙트럼 전자기파의 영상 촬영 시스템 및 다중 스펙트럼 전자기파의 영상 촬영 방법
JP2017158033A (ja) * 2016-03-01 2017-09-07 住友重機械工業株式会社 作業機械用周辺監視システム
JP2017212544A (ja) * 2016-05-24 2017-11-30 キヤノン株式会社 制御装置、制御方法及びプログラム

Similar Documents

Publication Publication Date Title
JP4800073B2 (ja) 監視システム、監視方法、及び監視プログラム
JP5398341B2 (ja) 物体認識装置及び物体認識方法
KR101337060B1 (ko) 화상 처리 장치 및 화상 처리 방법
JP6555906B2 (ja) 情報処理装置、情報処理方法、およびプログラム
US20090263021A1 (en) Monitoring system, monitoring method and program
JP5072655B2 (ja) 画像処理装置、画像処理方法、プログラム及び記憶媒体
KR20190079574A (ko) 촬상장치, 화상 처리장치, 제어방법 및 기억매체
CN108141568B (zh) Osd信息生成摄像机、合成终端设备及共享系统
US20110090358A1 (en) Image pickup apparatus, information processing apparatus, and information processing method
US20070024710A1 (en) Monitoring system, monitoring apparatus, monitoring method and program therefor
US20060290804A1 (en) Image capturing apparatus, an image capturing method and a machine readable medium storing thereon a computer program for capturing an image
EP1900196A1 (en) Image capturing apparatus, image capturing method, image processing apparatus, image processing method and program
US20110074973A1 (en) Camera and recording method therefor
JP4738914B2 (ja) 監視システム、監視方法、及び監視プログラム
JP3459950B2 (ja) 顔検出及び顔追跡方法並びにその装置
JP2008236425A (ja) 監視システム、監視方法、および監視プログラム
JP4509883B2 (ja) 撮像システム、撮像装置、撮像方法、及び撮像プログラム
JP2008252863A (ja) 撮像システム、撮像方法及びプログラム
JP4694461B2 (ja) 撮像装置、撮像方法、監視システム、監視方法、及びプログラム
JP4979083B2 (ja) 監視システム、監視方法、及びプログラム
JP5150943B2 (ja) 監視システム、監視方法、及びプログラム
JP2008141699A (ja) 監視システム、監視方法、及びプログラム
JP4485423B2 (ja) 監視カメラ、監視方法、及び監視プログラム
JP4977454B2 (ja) 監視システム、監視方法、及びプログラム
JP5033412B2 (ja) 監視システム、監視方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090909

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110826

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110906

A762 Written abandonment of application

Free format text: JAPANESE INTERMEDIATE CODE: A762

Effective date: 20111025