JP4345692B2 - 情報処理システム、情報処理装置および方法、並びにプログラム - Google Patents

情報処理システム、情報処理装置および方法、並びにプログラム Download PDF

Info

Publication number
JP4345692B2
JP4345692B2 JP2005054395A JP2005054395A JP4345692B2 JP 4345692 B2 JP4345692 B2 JP 4345692B2 JP 2005054395 A JP2005054395 A JP 2005054395A JP 2005054395 A JP2005054395 A JP 2005054395A JP 4345692 B2 JP4345692 B2 JP 4345692B2
Authority
JP
Japan
Prior art keywords
moving object
angle
view
information
moving
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2005054395A
Other languages
English (en)
Other versions
JP2006245650A (ja
Inventor
秀宇 宮牧
雅晴 鈴木
朝子 田村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2005054395A priority Critical patent/JP4345692B2/ja
Priority to US11/359,386 priority patent/US7656430B2/en
Priority to CN2006100582506A priority patent/CN1829319B/zh
Publication of JP2006245650A publication Critical patent/JP2006245650A/ja
Application granted granted Critical
Publication of JP4345692B2 publication Critical patent/JP4345692B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices

Description

本発明は、情報処理システム、情報処理装置および方法、並びにプログラムに関し、特に、所定の領域を撮影するとともに、その領域内の動体を正確に撮影できるようにした情報処理システム、情報処理装置および方法、並びにプログラムに関する。
近年、例えば、自動預払機(ATM)を設置している銀行、駐車場、家屋などにおいて、セキュリティの確保のために多地点カメラ監視システム(Multi Camera system)が採用されていることが多い。
このような多地点カメラ監視システムは、複数のビデオカメラと、それらのビデオカメラから取得された画像を記録する記録装置とから構成される。多地点カメラ監視システムにおいては、複数の画像を縮小および合成し、1フレーム画像とする技術が提案されている(例えば、特許文献1参照)。また、複数のビデオカメラからの画像を集めてビデオテープ等の記録媒体に記録することも提案されている(例えば、特許文献2参照)。
図1は、従来の多地点カメラ監視システムの一例を示す外観図である。
図1の多地点カメラ監視システム1は、4台のカメラ11−1乃至11−4から構成される。カメラ11−1乃至11−4は、撮影方向が固定の固定カメラまたは撮影方向が可変のパンチルトズームカメラである。カメラ11−1乃至11−4は、例えば、駐車場内の直径40mの円状の広範囲な領域21を監視している。
図2は、図1の多地点カメラ監視システム1の構成の一例を示している。
図2のカメラ11−1乃至11−4は撮影を行う。カメラ11−1乃至11−4は、それぞれ、記録装置41に接続され、撮影の結果得られる画像のアナログ信号を記録装置41に供給する。記録装置41は、カメラ11−1乃至11−4から供給される画像のアナログ信号をA/D変換するなどして、その結果得られる画像のデジタル信号である画像データを記録する。また、記録装置41は、表示装置42に接続され、画像データに対応する画像を表示装置42に表示させる。
しかしながら、図2の多地点カメラ監視システム1では、記録装置41に接続可能なカメラ11−1乃至11−4が有限であり、多地点カメラ監視システム1の拡張性に乏しい。
図3は、図1の多地点カメラ監視システム1の構成の他の一例を示している。
図3のカメラ11−1乃至11−4は、それぞれネットワーク51を介して、パーソナルコンピュータ(PC)52と接続されている。カメラ11−1乃至11−4は、撮影を行い、その結果得られる画像データを、IP(Internet Protocol)に準拠してネットワーク51を介してPC52に送信する。PC52は、その画像データを記録したり、画像データに対応する画像を表示させる。
次に、図4を参照して、図2の記録装置41またはPC52に記録される画像データを説明する。
図4に示すように、記録装置41またはPC52では、カメラ11−1乃至11−4で得られる画像データがすべて記録される。従って、多地点カメラ監視システム1で監視を行う場合、画像データが所定の圧縮方式で圧縮された場合であっても、記録装置41またはPC52に記録される画像データの容量は非常に大きくなる。
例えば、所定の条件(50KB/フレーム,10フレーム/秒)で、JPEG(Joint Photographic Experts Group)方式にしたがって圧縮した画像データを24時間記録する場合、4台のカメラ11−1乃至11−4から構成される多地点カメラ監視システム1では、記録装置41またはPC52に記録される画像データの容量は、約164GBとなる。また、多地点カメラ監視システム1が、8台のカメラから構成される場合、その容量は約328GBとなり、16台のカメラから構成される場合、その容量は約656GBとなる。
以上のように、多地点カメラ監視システム1では、領域21を監視するために4台のカメラ11−1乃至11−4が必要であり、設置が面倒なうえ、多地点カメラ監視システム1のコストが大きくなる。さらに、高精細な画像を取得する場合、撮影倍率を上げて撮影する必要があるため、より多くのカメラ11−1乃至11−4が必要となる。また、高精細な画像を取得するために、カメラ11−1乃至11−4の台数を増やさない場合は、すべての領域21について高精細な画像を取得することが困難であるため、オペレータが常時通常の画像を監視して、所望の領域を指定し、その領域の高精細な画像を取得する必要がある。
そこで、撮影方向を順にシフトさせながら、被写体を撮影し、複数の単位画像から構成されるパノラマ状の全体画像を得ることにより、1台のカメラで広範囲の状況を監視することができる監視カメラがある。
特開平10−108163号広報 特開2000−243062号広報
しかしながら、このような監視カメラは、1枚の全体画像を生成するために、これを構成する全ての単位画像を取得する必要があり、1枚の全体画像を生成するために多くの時間を要する。従って、撮影範囲内において短時間に生じた僅かな状況変化をもれなく捉えることが困難である。
即ち、移動速度の速い動体(移動被写体)が撮影され、全体画像として取得されてから、次に全体画像が取得されるまでの間に、動体が撮影範囲外に移動してしまうことがある。
また、実際には、監視カメラが、動体を撮影する位置に移動するまでの間の画像をも撮影することになるため、再生時には、監視カメラが動体を捕らえている画像よりも、動体を撮影できる位置までの移動中の画像(パンチルトズームといった処理が実行されている間の画像)が増えてしまい、快適に見ることができない画像が再生されてしまうという課題があった。
本発明は、このような状況に鑑みてなされたものであり、特に、所定の領域を撮影するとともに、その領域内の動体を正確に撮影できるようにするものである。
本発明の情報処理システムは、所定の領域を撮影する領域撮影手段と、領域撮影手段により撮影された結果得られる領域画像に基づいて、所定の領域内に存在する動体を検知する検知手段と、検知手段により検知された動体を撮影する動体撮影手段と、検知手段により検知された動体毎の画角を計算する計算手段と、計算手段により計算された少なくとも1以上の動体のそれぞれの画角の情報を格納する画角情報格納手段と、画角情報格納手段に格納された少なくとも1以上の動体の画角の情報のうちの1の動体の画角に基づいて、動体撮影手段の撮影における水平方向の位置、垂直方向の位置、および望遠倍率を制御する第1の動体撮影制御手段と、第1の動体撮影制御手段により動体撮影手段の撮影における水平方向の位置および垂直方向の位置、または望遠倍率が制御された後のタイミングにおいて、第1の動体撮影制御手段よりも十分短い所定の時間間隔で所定回数だけ、1の動体の最新の画角の情報に基づいて、動体撮影手段の撮影における水平方向の位置および垂直方向の位置繰り返し制御する第2の動体撮影制御手段とを備えることを特徴とする。
本発明の情報処理装置は、所定の領域が撮影された結果得られる領域画像に基づいて、所定の領域内に存在する動体を検知する検知手段と、検知手段により検知された動体毎の画角を計算する計算手段と、計算手段により計算された少なくとも1以上の動体のそれぞれの画角の情報を格納する画角情報格納手段と、画角情報格納手段に格納された少なくとも1以上の動体の画角の情報のうちの1の動体の画角の情報に基づいて、動体の撮影における水平方向の位置、垂直方向の位置、および望遠倍率を制御する第1の動体撮影制御手段と、第1の動体撮影制御手段により動体の撮影における水平方向の位置および垂直方向の位置、または望遠倍率が制御された後のタイミングにおいて、第1の動体撮影制御手段よりも十分短い所定の時間間隔で所定回数だけ、1の動体の最新の画角の情報に基づいて、動体の撮影における水平方向の位置および垂直方向の位置繰り返し制御する第2の動体撮影制御手段とを備えることを特徴とする。
前記画角情報格納手段に格納された少なくとも1以上の動体のそれぞれの画角の情報に、所定の条件に基づいて、優先順位を設定する優先順位設定手段をさらに設けるようにさせることができ、第1の動体撮影制御手段には、画角情報格納手段に格納された少なくとも1以上の動体の画角の情報のうち、優先順位設定手段により設定された優先度の高い順に1の動体を選択し、選択した動体の画角の情報に基づいて、動体の撮影を制御させるようにすることができる。
前記所定の条件には、動体の動いた時刻、動体の領域画像中の位置、動体の領域画像中のサイズ、または動体の縦横の比率を含ませるようにすることができる。
前記1の動体の撮影は、1の動体の画角の情報に基づいて、第1の動体撮影制御手段により制御された後に開始させるようにすることができる。
本発明の情報処理方法は、所定の領域が撮影された結果得られる領域画像に基づいて、所定の領域内に存在する動体を検知する検知ステップと、検知ステップの処理により検知された動体毎の画角を計算する計算ステップと、計算ステップの処理により計算された少なくとも1以上の動体のそれぞれの画角の情報を格納する画角情報格納ステップと、画角情報格納ステップの処理に格納された少なくとも1以上の動体の画角の情報のうちの1の動体の画角に基づいて、動体の撮影における水平方向の位置、垂直方向の位置、および望遠倍率を制御する第1の動体撮影制御ステップと、第1の動体撮影制御ステップの処理により動体の撮影における水平方向の位置および垂直方向の位置、または望遠倍率が制御された後のタイミングにおいて、第1の動体撮影制御手段よりも十分短い所定の時間間隔で所定回数だけ、1の動体の最新の画角の情報に基づいて、動体の撮影における水平方向の位置および垂直方向の位置繰り返し制御する第2の動体撮影制御ステップとを含むことを特徴とする。
本発明のプログラムは、所定の領域が撮影された結果得られる領域画像に基づいて、所定の領域内に存在する動体を検知する検知ステップと、検知ステップの処理により検知された動体毎の画角を計算する計算ステップと、計算ステップの処理により計算された少なくとも1以上の動体のそれぞれの画角の情報を格納する画角情報格納ステップと、画角情報格納ステップの処理に格納された少なくとも1以上の動体の画角の情報のうちの1の動体の画角に基づいて、動体の撮影における水平方向の位置、垂直方向の位置、および望遠倍率を制御する第1の動体撮影制御ステップと、第1の動体撮影制御ステップの処理により動体の撮影における水平方向の位置および垂直方向の位置、または望遠倍率が制御された後のタイミングにおいて、第1の動体撮影制御ステップの処理よりも十分短い所定の時間間隔で所定回数だけ、1の動体の最新の画角の情報に基づいて、動体の撮影における水平方向の位置および垂直方向の位置繰り返し制御する第2の動体撮影制御ステップとを含む処理をコンピュータ実行させることを特徴とする。
本発明の情報処理システムにおいては、所定の領域が撮影され、撮影された結果得られる領域画像に基づいて、所定の領域内に存在する動体が検知され、検知された動体が撮影され、検知された動体毎の画角が計算され、計算された少なくとも1以上の動体のそれぞれの画角の情報が格納され、格納された少なくとも1以上の動体の画角の情報のうちの1の動体の画角に基づいて、撮影における水平方向の位置、垂直方向の位置、および望遠倍率が制御され、撮影における水平方向の位置および垂直方向の位置、または望遠倍率が制御された後のタイミングにおいて、十分短い所定の時間間隔で所定回数だけ、1の動体の最新の画角の情報に基づいて、撮影における水平方向の位置および垂直方向の位置繰り返し制御される。
本発明の情報処理装置および方法、並びにプログラムにおいては、所定の領域が撮影された結果得られる領域画像に基づいて、所定の領域内に存在する動体が検知され、検知された動体毎の画角が計算され、計算された少なくとも1以上の動体のそれぞれの画角の情報が格納され、格納された少なくとも1以上の動体の画角の情報のうちの1の動体の画角に基づいて、動体の撮影における水平方向の位置、垂直方向の位置、および望遠倍率が制御され、1の動体の撮影における水平方向の位置および垂直方向の位置、または望遠倍率が制御された後のタイミングにおいて、十分短い所定の時間間隔で所定回数だけ、1の動体の最新の画角の情報に基づいて、1の動体の撮影における水平方向の位置および垂直方向の位置繰り返し制御される。
本発明の情報処理装置は、独立した装置であっても良いし、情報処理を行うブロックであっても良い。
本発明によれば、特に、撮影領域内に動体を正確に撮影することが可能となる。
以下に本発明の実施の形態を説明するが、請求項に記載の構成要件と、発明の実施の形態における具体例との対応関係を例示すると、次のようになる。この記載は、請求項に記載されている発明をサポートする具体例が、発明の実施の形態に記載されていることを確認するためのものである。従って、発明の実施の形態中には記載されているが、構成要件に対応するものとして、ここには記載されていない具体例があったとしても、そのことは、その具体例が、その構成要件に対応するものではないことを意味するものではない。逆に、具体例が構成要件に対応するものとしてここに記載されていたとしても、そのことは、その具体例が、その構成要件以外の構成要件には対応しないものであることを意味するものでもない。
さらに、この記載は、発明の実施の形態に記載されている具体例に対応する発明が、請求項に全て記載されていることを意味するものではない。換言すれば、この記載は、発明の実施の形態に記載されている具体例に対応する発明であって、この出願の請求項には記載されていない発明の存在、すなわち、将来、分割出願されたり、補正により追加される発明の存在を否定するものではない。
従って、本発明の情報処理システムは、所定の領域を撮影する領域撮影手段(例えば、図8のセンサカメラ121)と、領域撮影手段により撮影された結果得られる領域画像に基づいて、所定の領域内に存在する動体を検知する検知手段(例えば、図8の動体検知モジュール303)と、検知手段により検知された動体を撮影する動体撮影手段と、検知手段により検知された動体毎の画角を計算する計算手段(例えば、図8の計算部302a)と、計算手段により計算された少なくとも1以上の動体のそれぞれの画角の情報を格納する画角情報格納手段(例えば、図8の動体追跡順管理DB304)と、画角情報格納手段に格納された少なくとも1以上の動体の画角の情報のうちの1の動体の画角に基づいて、動体撮影手段の撮影における水平方向の位置、垂直方向の位置、および望遠倍率を制御する第1の動体撮影制御手段(例えば、図8の追跡対象パンチルトズームモジュール305)と、第1の動体撮影制御手段により動体撮影手段の撮影における水平方向の位置および垂直方向の位置、または望遠倍率が制御された後のタイミングにおいて、第1の動体撮影制御手段よりも十分短い所定の時間間隔で所定回数だけ、1の動体の最新の画角の情報に基づいて、動体撮影手段の撮影における水平方向の位置および垂直方向の位置繰り返し制御する第2の動体撮影制御手段(例えば、図8の追加追跡対象パンチルトモジュール306)とを備えることを特徴とする。
本発明の情報処理装置は、所定の領域が撮影された結果得られる領域画像に基づいて、所定の領域内に存在する動体を検知する検知手段(例えば、図8の動体検知モジュール303)と、検知手段により検知された動体毎の画角を計算する計算手段(例えば、図8の計算部302a)と、計算手段により計算された少なくとも1以上の動体のそれぞれの画角の情報を格納する画角情報格納手段(例えば、図8の動体追跡順管理DB304)と、画角情報格納手段に格納された少なくとも1以上の動体の画角の情報のうちの1の動体の画角に基づいて、動体の撮影における水平方向の位置、垂直方向の位置、および望遠倍率を制御する第1の動体撮影制御手段(例えば、図8の追跡対象パンチルトズームモジュール305)と、第1の動体撮影制御手段により動体の撮影における水平方向の位置および垂直方向の位置、または望遠倍率が制御された後のタイミングにおいて、第1の動体撮影制御手段よりも十分短い所定の時間間隔で所定回数だけ、1の動体の最新の画角の情報に基づいて、動体の撮影における水平方向の位置および垂直方向の位置繰り返し制御する第2の動体撮影制御手段(例えば、図8の追加追跡対象パンチルトモジュール306)とを備えることを特徴とする。
前記画角情報格納手段に格納された少なくとも1以上の動体のそれぞれの画角の情報に、所定の条件に基づいて、優先順位を設定する優先順位設定手段(例えば、図8の順位決定部302b)をさらに設けるようにさせることができ、第1の動体撮影制御手段には、画角情報格納手段に格納された少なくとも1以上の動体の画角の情報のうち、優先順位設定手段により設定された優先度の高い順に1の動体を選択し、選択した動体の画角の情報に基づいて、動体の撮影を制御させるようにすることができる。
本発明の情報処理方法は、所定の領域が撮影された結果得られる領域画像に基づいて、所定の領域内に存在する動体を検知する検知ステップ(例えば、図12のフローチャートにおけるステップS41の処理)と、検知ステップの処理により検知された動体毎の画角を計算する計算ステップ(例えば、図11のフローチャートにおけるステップS23の処理)と、計算ステップの処理により計算された少なくとも1以上の動体のそれぞれの画角の情報を格納する画角情報格納ステップ(例えば、図11のフローチャートにおけるステップS25の処理)と、画角情報格納ステップの処理に格納された少なくとも1以上の動体の画角の情報のうちの1の動体の画角に基づいて、動体の撮影における水平方向の位置、垂直方向の位置、および望遠倍率を制御する第1の動体撮影制御ステップ(例えば、図13のフローチャートにおけるステップS64,S68の処理)と、第1の動体撮影制御ステップの処理により動体の撮影における水平方向の位置および垂直方向の位置、または望遠倍率が制御された後のタイミングにおいて、第1の動体撮影制御ステップの処理よりも十分短い所定の時間間隔で所定回数だけ、1の動体の最新の画角の情報に基づいて、動体の撮影における水平方向の位置および垂直方向の位置繰り返し制御する第2の動体撮影制御ステップ(例えば、図14のフローチャートにおけるステップS84の処理)とを含むことを特徴とする。
尚、プログラムについては、情報処理方法と同様であるので、その説明は省略する。
以下、本発明を適用した具体的な実施の形態について、図面を参照しながら詳細に説明する。
図5は、本発明を適用した監視システム101の一実施の形態の構成を示している。
図5の監視システム101は、カメラユニット111から構成される。カメラユニット111は、広範囲な領域を撮影するセンサカメラ121(後述する図6)と、所定の動体をズーム(拡大)して撮影するズームカメラ122とから構成される。センサカメラ121が広範囲な領域を撮影し、その結果得られるセンサ画像121(後述する図6)から検知される動体を、ズームカメラ122がズームして撮影する。これにより、監視システム101では、例えば、駐車場内に監視システムを設ける場合、駐車場内の直径約40mの円状の広範囲な領域21を監視することができる。
その結果、図1に示した多地点カメラ監視システム1に比べて、カメラの台数が少なくて済み、設置が容易であり、コストも削減することができる。
もちろん、図5の監視システム101の構成は一例に過ぎず、例えば、ズームカメラ122の拡大率などを向上させて、これ以上の範囲を監視するようにしても良いし、また、ズームカメラ122だけを増やすようにして、より精細な画像を取得できるようにしても良いことは言うまでもない。
図6は、監視システム101の構成例を示している。
図6の監視システム101は、センサカメラ121とズームカメラ122からなるカメラユニット111、ネットワーク131、およびクライアントPC132から構成され、センサカメラ121により取得されるセンサ画像151と、ズームカメラ122による撮影の結果得られるズーム画像152を、ネットワーク131を介してクライアントPC132に記録したり、その記録したセンサ画像151とズーム画像152を、クライアントPC132により再生する。
カメラユニット111のセンサカメラ121は、パンチルト部121Aとカメラ部121Bとが一体的に構成されている。パンチルト部121Aは、例えば、パン(水平方向
)とチルト(垂直方向)の2軸について撮影方向を自在に変更するための回転台として構成される。カメラ部121Bは、パンチルト部121Aを構成する回転台上に配設され、クライアントPC132の制御にしたがって、パンチルト部121Aを制御し、撮影方向の水平方向または垂直方向を調整しつつ、撮影画角を変更することにより、撮影倍率を拡大または縮小して広範囲の領域(の被写体)を動画像として撮影する。具体的には、例えば、カメラ部121Bは、撮影方向を順にシフトさせながら、被写体を撮影することにより、複数の単位画像を取得し、その複数の単位画像から構成されるパノラマ状の画像をセンサ画像151とする。従って、センサカメラ121は、全方位を撮影できるような撮影機能を備えているものであればよく、例えば、パノラマカメラなどにより代用させることができる。
カメラ部121Bは、撮影の結果得られるセンサ画像151をネットワーク131を介してクライアントPC132に供給する。図6では、センサカメラ121は、動体161,162を含む広範囲な領域を撮影し、動体161,162が含まれるセンサ画像151を取得している。
ズームカメラ122は、センサカメラ121と同様に、パンチルト部122Aとカメラ部122Bとが一体的に構成されている。パンチルト部122Aは、パンチルト部121Aと同様に、例えば、パンとチルトの2軸について撮影方向を自在に変更するための回転台として構成される。カメラ部122Bは、パンチルト部121Aを構成する回転台上に配設され、クライアントPC132の制御にしたがって、パンチルト部122Aを制御し、撮影方向の水平方向または垂直方向を調整しつつ、撮影画角を変更することにより、撮影倍率を拡大または縮小して、所定の動体を動画像としてズーム撮影する。
クライアントPC132は、センサカメラ121から供給されるセンサ画像151に含まれる動体161,162を検知し、動体161または動体162を囲む所定の領域(例えば、四角形の領域)を、それぞれ動体枠171または動体枠172として決定する。
クライアントPC132は、例えば、動体枠172の4つの頂点A乃至D(上述した四角形の動体枠の各頂点A乃至D)のセンサ画像151上のX軸(図中水平方向の軸)とY軸(図中垂直方向の軸)における座標をズームカメラ122に供給する。ズームカメラ122は、その座標に基づいて、動体162(の動体枠172)をズーム撮影し、ズーム画像152を取得する。なお、以下では、センサ画像151とズーム画像152は、フレーム単位で取得されるものとする。ズームカメラ122は、ズーム画像152をネットワーク131を介してクライアントPC132に供給する。
ネットワーク131は、例えば、クライアントPC132と電話回線を介して接続されるインターネット網や、TA(Terminal Adapter)やモデムと接続されるISDN(Integrated Services Digital Network)/B(broadband)−ISDN、LAN(Local Area Network)等であり、データの双方向通信を可能とした通信網である。
クライアントPC132は、例えば、パーソナルコンピュータなどからなり、ネットワーク131を介して、センサカメラ121とズームカメラ122を制御する。また、クライアントPC132は、センサカメラ121からのセンサ画像151とズームカメラ122からのズーム画像152を記録したり、記録したセンサ画像151やズーム画像152を再生して表示させる。
図7は、図6のクライアントPC132の構成例を示すブロック図である。
図6に示されるように、CPU(Central Processing Unit)201は、バス204を介して、ROM(Read Only Memory)202およびRAM(Random Access Memory)203に接続されている。このバス204にはまた、入出力インタフェース205も接続されている。
CPU201は、ROM202に記憶されているプログラム、またはRAM203に記憶されているプログラムにしたがって、各種の処理を実行する。ROM202は、各種のプログラムなどを記憶している。RAM203には、通信部209を介して取得したプログラムが記憶される。また、RAM203には、CPU201が各種の処理を実行する上において必要なデータなども適宜記憶される。
入出力インタフェース205には、キーボードや、マウス、マイク等で構成される入力部206、LCD(Liquid Crystal Display)やスピーカ等で構成される出力部207、ハードディスクなどにより構成される記憶部208、TA、モデムなどより構成される通信部209が接続されている。通信部209は、図6のネットワーク131に接続されており、ネットワーク131を介して、センサカメラ121およびズームカメラ122と通信を行う。
入出力インタフェース205にはまた、必要に応じて、ドライブ210が適宜装着され、ドライブ210に装着されたリムーバブルメディア211からプログラムが読み出されて記憶部208にインストールされる。CPU201は、記憶部208にインストールされたプログラムを、例えばRAM203にロードして実行する。
図8は、図6のクライアントPC132の機能的構成例を示すブロック図である。
なお、図8のクライアントPC132のセンサ画像取得モジュール301、撮影画角計算モジュール302、動体検知モジュール303、追跡対象パンチルトズームモジュール305、追加追跡対象パンチルトモジュール306、ズーム画像取得モジュール307、表示結果モジュール308、および計時モジュール309は、例えば、図7のCPU201により実行されるプログラムモジュールである。また、動体追跡順管理DB304は、例えば、図7の記憶部208に対応する。
さらに、図8の各ブロックで示されるモジュールは、いずれも、単独の機能を備えたハードウェア(例えば、チップセット)として捉えても良いものである。すなわち、図8は、ソフトウェア機能ブロック図と捉えても良いし、各モジュール毎に機能を備えたハードウェアブロック図と捉えても良いものである。
センサ画像取得モジュール301には、ユーザの操作に応じて、入力部206からセンサ画像151の取得の指令が供給され、その指令に応じて、センサカメラ121を制御する。センサカメラ121は、センサ画像取得モジュール301の制御により、広範囲な領域21を撮影し、その結果得られるセンサ画像151と自分自身を表すセンサカメラ121に固有のID(以下、カメラIDという)をセンサ画像取得モジュール301に供給する。また、センサ画像取得モジュール301は、センサカメラ121からのセンサ画像151を撮影画角計算モジュール302および結果表示モジュール308に供給する。
撮影画角計算モジュール302は、センサ画像取得モジュール301より供給されたセンサ画像151を動体検知モジュール303に供給し、センサ画像151に撮影されている動体の位置と大きさを計算させ、供給させる。
撮影画角計算モジュール302の計算部302aは、動体検知モジュール303からの情報に基づいて、動体の発生を検知したセンサ画像151のフレームの、先頭のフレームからの位置を、その動体に対応するセンサ画像151を再生するときの再生開始位置として認識する。さらに、撮影画角計算モジュール302は、発生を検知した動体を捉えている、例えば、四角形の動体枠172(171)を決定し、その動体枠172の頂点A乃至Dの座標を、動体の発生位置(画角)として計算すると共に、各発生位置に対して画角IDを付与する。また、撮影画角計算モジュール302は、計時モジュール309から供給される現在の日時を表す日時情報に基づいて、動体の発生日時、消滅日時、発生位置、画角ID、再生開始位置、およびセンサカメラ121から供給されるカメラIDから構成される動体情報を生成する。さらに、順位決定部302bは、動体追跡順管理DB304を読み出して、今生成した情報を含めて、動体追跡順位を決定して動体追跡順管理DB304に登録する(それまでに動体情報がある場合、それまでの動体情報を含めて順序を並べ替えて更新する)。
追跡対象パンチルトズームモジュール305は、所定の時間間隔で動体追跡順管理DB304の情報に基づいて、ズームカメラ122のパンチルトズームを制御し、未撮影の動体のうち、最も追跡順位の早い画角IDを選択し、選択した発生位置情報に対応する画角で動体をズーム撮影させ、撮影した画像をズーム画像取得モジュール307に供給させる処理を繰り返す。
追加追跡対象パンチルトモジュール306は、追跡対象パンチルトズームモジュール305によりズームカメラ122が制御され、撮影が開始された後、追跡対象パンチルトズームモジュール305よりも十分に短い所定の時間間隔で、追跡対象パンチルトズームモジュール305により選択された画角IDに対応する最新の発生位置情報を取得し、取得した発生位置情報に対応する画角で動体をズーム撮影させるようにズームカメラ122を制御し、撮影した画像をズーム画像取得モジュール307に供給させる処理を繰り返す。
すなわち、追跡対象パンチルトズームモジュール306が、1個の画角IDに対して、1個の画角で(1個の画角IDに対して1回だけ)ズームカメラ122のパンチルトズームを制御するのに対して、追加追跡対象パンチルトモジュール306は、1個の画角IDに対して、追跡対象パンチルトズームモジュール306よりも十分に短い時間間隔で複数個の画角についてズームカメラ122のパンチルトを制御する。
ズーム画像取得モジュール307は、追跡対象パンチルトズームモジュール305および追加追跡対象パンチルトモジュール306によりオンオフが制御され、ズームカメラ122より供給されるズーム画像を取得し、結果表示モジュール308に供給する。
結果表示モジュール308は、ズーム画像取得モジュール307より供給されてくるズーム画像と、センサ画像取得モジュール301より供給されてくるセンサ画像とを取得し、図示せぬディスプレイなどに再生する。
計時モジュール309は、現在の日時を計時し、その日時を表す日時情報を、センサ画像取得モジュール301、追跡対象パンチルトモズームジュール305、および追加追跡対象パンチルトモジュール306に供給する。
次に、図9を参照して、図8の動体追跡順管理DB304に登録される動体情報について説明する。
図9に示すように、動体追跡順管理DB304は、(追跡)順位、動体の発生日時、消滅日時、発生位置、画角ID、再生開始位置、およびカメラIDから構成される。動体追跡順管理DB304には、管理時間帯ごとにファイルが作成される。なお、以下では、管理時間帯は、日にちごとに、1日を9時から順に1時間単位で区切ったものであるものとするが、管理時間帯の区切り方はこれに限定されない。
また、図9では、動体追跡順管理DB304の2004年1月10日の10時から11時という管理時間帯のファイルに登録される動体追跡順管理情報の例を示している。図9に示すように、撮影画角計算モジュール302は、2004年1月10日の10時に発生を検知して画角ID「1」を付与した動体の消滅を同日の11時に検知する。また、撮影画角計算モジュール302は、画角IDが「1」の動体の動体枠(例えば、図6の動体枠171や172)を決定し、その頂点A乃至Dの座標である(1,2)、(1,5)、(2,5)、(2,2)を発生位置として認識している。
さらに、画角IDが「1」の動体の発生が検知されたセンサ画像151のフレームは、先頭から1番目のフレームであるフレーム#1であり、撮影画角計算モジュール302は、フレーム#1を再生開始位置として認識する。なお、以下では、先頭からl番目のフレームをフレーム#lという。また、撮影画角計算モジュール302は、画角IDが「1」の動体の発生が検知されたセンサ画像151を取得したセンサカメラ121のカメラIDとして、「1」が供給されている。
また、撮影画角計算モジュール302は、2004年1月10日10時5分に発生を検知した画角ID「2」が付与された動体の消滅を、同日の10時30分に検知する。撮影画角計算モジュール302は、画角IDが「2」の動体の動体枠(例えば、図6の動体枠171や172)を決定し、その動体枠の頂点A乃至Dの座標である(3,5)、(3,9)、(5,9)、(5,5)を発生位置として認識する。
さらに、画角IDが「2」の動体の発生が検知されたセンサ画像151のフレームは、フレーム#2であり、撮影画角計算モジュール302は、フレーム#2を再生開始位置として認識する。また、センサ画像取得モジュール301には、画角IDが「2」の動体の発生が検知されたセンサ画像151を取得したセンサカメラ121のカメラIDとして、「1」が供給されている。
さらに、図9においては、画角ID=1の動体が、順位決定部302bにより追跡順位が1位で設定され、画角ID=2の動体は、追跡順位が2位に設定されている。
尚、順位決定部302bは、動体の動いた時刻の前後関係、動体のセンサ画像中の画角の位置(例えば、センサ画像中の上に表示されるものを優先するなど)、動体のセンサ画像中のサイズ(例えば、センサ画像中の上に表示される動体の大きさのうち大きいものを優先するなど)、または動体の縦横の比率といった優先条件に応じて順位を決定する。
すなわち、様々な条件の優先順位にしたがって配置することで、優先的に捉えたい動体を発見し易くすることが可能となる。
例えば、センサ画像中の高い位置にある動体を優先させることで、室内の比較的低い位置(2乃至3m)にカメラを設置した場合、人間の顔は高い位置(上の方)にあるので、人間の顔を捉え易くすることが可能となる。
また、センサ画像中の低い位置にある動体を優先させることで、例えば、屋外のビルの上など、高い位置(10m以上)にカメラを設置した場合、空や、ビルの高いところよりも比較的近くの人間・車などの動きを捉えることが可能となる。
さらに、センサ画像中のサイズの大きい動体を優先させることで、例えば、遠くの動体よりも、近くの動体(近いと、センサカメラ122で捉える画像が大きくなる)を優先的に捉えることが可能となる。
また、センサ画像中のサイズが動体を優先させることで、近くの動体の動きよりも、遠くの人間や車などの動きを優先して捉えることが可能となる。
さらに、センサ画像中の縦長の動体を優先させることで、人間を捉えやすくすることが可能となる。すなわち、人間が歩いていて全身が見えている場合、センサカメラ122のセンサ画像では、縦長の動体として人間が捉え易くなる。
次に、図10を参照して、図8のセンサ画像取得モジュール301によるセンサ画像取得処理を説明する。このセンサ画像取得処理は、例えば、ユーザが入力部206を操作することにより、センサ画像151の取得を指令したときに操作される。
ステップS1において、センサ画像取得モジュール301は、センサカメラ121にセンサ画像151の取得を要求する。センサカメラ121のカメラ部122Aは、パンチルト部121Aを制御し、撮影方向の水平方向または垂直方向を調整しつつ、所定の撮影倍率で広範囲の領域を動画像として撮影する。センサカメラ121は、センサ画像取得モジュール301からの要求に応じて、センサ画像151と、自分自身のカメラIDとを、センサ画像取得モジュール301に供給する。
ステップS1の処理後は、ステップS2に進み、センサ画像取得モジュール301は、センサカメラ121からセンサ画像とカメラIDとを取得して、ステップS3に進む。ステップS3において、センサ画像取得モジュール301は、動体検知モジュール303に、センサカメラ121からのセンサ画像151とカメラIDを入力し、ステップS4に進む。
ステップS4において、センサ画像取得モジュール301は、センサカメラ121のクライアント返却用バッファを更新し、ステップS5に進む。ステップS5において、センサ画像取得モジュール301は、入力部206からセンサ画像151とズーム画像152の取得の終了が要求されたかどうか、即ちユーザが入力部206を操作することにより停止が指示されたか否かを判定し、終了が要求されていないと判定した場合、ステップS1に戻り、上述した処理を繰り返す。
一方、ステップS5において、入力部206から終了が要求されたと判定された場合、処理は終了する。
次に、図11を参照して、撮影画角計算モジュール302による撮影画角計算処理について説明する。
ステップS21において、撮影画角計算モジュール302は、センサ画像取得モジュール301より供給されたセンサ画像を動体検知モジュール303に供給する。
このとき、動体検知モジュール303は、動体検知処理を実行する。
ここで、図12のフローチャートを参照して、動体検知モジュール303による動体検知処理について説明する。
ステップS41において、動体検知モジュール303は、入力されたセンサ画像を元に動体の位置と大きさを算出する。
ステップS42において、動体検知モジュール303は、入力されたセンサ画像に基づいて算出した動体の位置と大きさの情報を、呼び出し先である撮影画角計算モジュール302に返却する。
ここで、図11のフローチャートの説明に戻る。
ステップS22において、撮影画角計算モジュール302は、動体検知モジュール303より供給されてくる全ての動体の位置と大きさの情報を受け取る。
ステップS23において、撮影画角計算モジュール302は、計算部302aに動体の位置と大きさの情報に基づいて、動体毎の画角、すなわち、動体毎の動体枠(例えば、図6の動体枠171や172)の頂点A乃至Dの座標を、動体の発生位置(画角)として計算させる。このとき、計算部302aは、センサ画像の中に統合可能な複数の動体については、1の画角を求めるようにしたり、動体追跡順管理DB304に予め登録されている画角IDに対応する動体の画角を求める場合には、登録済みの画角IDを引き継ぐようにして各動体ごとの画角を計算する。
ステップS24において、撮影画角計算モジュール302は、動体追跡順管理DB304の情報を読み出し、順位決定部302bを制御して、今回計算して求められた画角を含めて、追跡順位を決定させる。尚、この追跡順位については、上述したように、予め優先される動体の特徴について設定することが可能であり、動体の動いた時刻の前後関係、動体のセンサ画像中の画角の位置、動体のセンサ画像中のサイズ、または動体の縦横の比率といった条件に適合するように追跡順位が決定される。
ステップS25において、撮影画角計算モジュール302は、計算された各動体枠の4の画角を設定する座標に対して、動体の発生位置として画角IDを付与すると共に、計時モジュール309から供給される現在の日時を表す日時情報に基づいて、動体の発生日時、消滅日時、発生位置、画角ID、再生開始位置、およびセンサカメラ121から供給されるカメラIDから構成される動体情報を生成して、動体追跡順管理DB304に保存させる(既に、蓄積されている場合は、更新する)。
上述したセンサ画像取得モジュール301、撮影画角計算モジュール302、および動体検知モジュール303によるセンサ画像取得処理、撮影画角計算処理、および動体検知処理が、所定の時間間隔で繰り返されることにより、動体追跡順管理DB304には、常に最新の動体情報が蓄積されることになる。尚、センサ画像取得処理、撮影画角計算処理、および動体検知処理が繰り返される所定の時間間隔は、後述する追跡対象パンチルトズーム処理、および追加追跡対象パンチルト処理より短時間で繰り返されることが望ましい。
次に、図13のフローチャートを参照して、追加対象パンチルトズームモジュール305による追加対象パンチルトズーム処理について説明する。
ステップS61において、追跡対象パンチルトズームモジュール305は、追跡対象順管理DB304に記憶されている動体情報を読み出し、ステップS62において、動体が存在するか否かを判定する。すなわち、例えば、動体情報のうち、消滅時刻が設定されている画角IDに対応する動体は、センサ画像内に存在しないことになる。このため、動体情報における全ての画角IDの消滅時刻が設定されていた場合、動体が存在しないと判定されることになり、その処理は、ステップS70に進む。
一方、いずれかの画角IDに対応する消滅時刻が設定されていない場合、動体が存在すると判定され、その処理は、ステップS63に進む。
ステップS63において、追跡対象パンチルトズームモジュール305は、動体情報のうち、優先順位の最も高い未処理の画角IDに対応する、画角の情報である発生位置の情報に基づいて、ズームカメラ122のパンチルトする位置、すなわち、ズームカメラ122を制御するための垂直方向の仰角および水平方向の俯角のそれぞれの値(パンチルト値)を計算する。
ステップS64において、追跡対象パンチルトズームモジュール305は、ステップS63の処理で求められたパンチルト値に基づいて、ズームカメラ122を制御し、パンチルトを要求する。このとき、ズームカメラ122のカメラ部122Bは、その要求に応じて、パンチルト部122Aを制御し、求められた仰角と俯角に設定する。
ステップS65において、追跡対象パンチルトズームモジュール305は、ズーム画像取得モジュール307の画像更新フラグをONに設定させる。すなわち、ズーム画像取得モジュール307は、この処理によりズームカメラ122からの画像が取得できる状態となる。
ステップS66において、追跡対象パンチルトズームモジュール305は、後述する追加追跡対象パンチルトモジュール306を起動させる。
ステップS67において、追跡対象パンチルトズームモジュール305は、今現在自らが処理中の画角IDを追加追跡対象パンチルトモジュール306に送信する。
ステップS68において、追跡対象パンチルトズームモジュール305は、画角IDの画角の情報である発生位置の情報に基づいて、倍率を計算し、ズームカメラ122にズーム命令を出す。
ステップS69において、追跡対象パンチルトズームモジュール305は、終了が要求されたか否かを判定し、終了が要求されたと判定されていない場合、その処理は、ステップS70に進む。
ステップS70において、追跡対象パンチルトズームモジュール305は、所定の時間が経過したか否かを判定し、所定の時間が経過するまで同様の処理を繰り返す。すなわち、所定の時間が経過するまで待機状態となる。そして、ステップS70において、所定の時間が経過したと判定された場合、その処理は、ステップS61に戻り、それ以降の処理が繰り返される。
一方、ステップS69において、終了が指示されたと判定された場合、その処理は、終了する。
以上の処理により、所定の時間間隔で、動体の有無が検出され、動体が存在する限り、優先度の高い動体から順にパンチルト値が設定されて、ズームカメラ122により撮影することが可能となる。
次に、図14のフローチャートを参照して、追加追跡対象パンチルトモジュール306による追加追跡対象パンチルト処理について説明する。
ステップS81において、追加追跡対象パンチルトモジュール306は、追跡対象パンチルトズームモジュール305より起動命令があるか否かを判定し、起動命令があるまで、同様の処理を繰り返し、例えば、図13のフローチャートにおけるステップS66の処理により、起動命令が送られてきた場合、追加追跡対象パンチルトモジュール306は起動し、その処理は、ステップS82に進む。尚、厳密には、追加追跡対象パンチルトモジュール306が、CPU201により実行されるプログラムモジュールであるとすれば、追跡対象パンチルトズームモジュール305からの指示に基づいて、CPU201が追加追跡パンチルトモジュール306を起動することになる。また、追加追跡対象パンチルトモジュール306がハードウェアにより構成されているモジュールである場合、その動作が開始される。
ステップS82において、追加追跡対象パンチルトモジュール306は、例えば、ステップS67の処理により送信されてくる、追跡対象パンチルトズームモジュール305より、今現在ズームカメラ122に指示している画角の画角IDを取得する。
ステップS83において、追加追跡対象パンチルトモジュール306は、追跡対象順管理DB304に記憶されている動体情報のうち、追跡対象パンチルトズームモジュール305より供給された画角IDに対応する発生位置の情報を読み出す。
ステップS84において、追加追跡対象パンチルトモジュール306は、読み出した画角IDに対応する、画角の情報である発生位置の情報に基づいて、ズームカメラ122のパンチルトする位置、すなわち、ズームカメラ122を制御するための垂直方向の仰角および水平方向の俯角のそれぞれの値(パンチルト値)を計算する。
ステップS85において、追加追跡対象パンチルトモジュール306は、ステップS84の処理で求められたパンチルト値に基づいて、ズームカメラ122を制御し、パンチルトを要求する。このとき、ズームカメラ122のカメラ部122Bは、その要求に応じて、パンチルト部122Aを制御し、求められた仰角と俯角に設定する。
ステップS86において、追加追跡対象パンチルトモジュール306は、ステップS82乃至S85の処理を指定回数繰り返したか否かを判定し、繰り返していないと判定された場合、その処理は、ステップS87に進む。
ステップS87において、追加追跡対象パンチルトモジュール306は、所定の時間が経過したか否かを判定し、所定の時間が経過したと判定されるまで、その処理を繰り返す。そして、ステップS87において、所定の時間が経過したと判定された場合、その処理は、ステップS82に戻り、それ以降の処理が繰り返される。尚、ステップS87の処理における所定の時間とは、図13のフローチャートにおけるステップS70の処理における所定の時間よりも十分に短い時間である。
一方、ステップS86において、指定回数実行されたと判定された場合、ステップS88において、追加追跡対象パンチルトモジュール306は、ズーム画像取得モジュール307の画像更新フラグをOFFに設定する。
さらに、ステップS89において、追加追跡対象パンチルトモジュール306は、終了が要求されたか否かを判定し、終了が要求されていないと判定された場合、その処理は、ステップS81に戻り、それ以降の処理が繰り返される。
一方、ステップS89において、終了が要求されたと判定された場合、その処理、終了する。
以上の処理により、追跡対象パンチルトズームモジュール305により優先順位の高い動体の画角IDに基づいた画角でズームカメラ122が設定された後も、短い時間の間隔で指定回数だけ動体の画角の変化に追従してズームカメラ122を制御することが可能となる。結果として、例えば、追跡対象パンチルトズームモジュール305により優先順位の高い動体の画角でズームカメラ122が、設定されて、実際にそのパンチルト状態に至るまでの時間に動体が移動してしまっても(例えば、ズームカメラ122が、自らを180°回転させることにより数秒間経過してしまって、動体がセンサカメラ121により捉えられていた位置とは異なる位置に移動してしまっているような状況になっても)、その後の短い時間間隔で、さらに最新の発生位置の情報に基づいて、ズームカメラ122のパンチルト値を更新して制御することが可能となるので、ズームが完了するまでの間に正確に動体を捉えることが可能となる。したがって、例えば、ズームをすることにより動体が動体枠から外れて撮影できないといった事態を回避することが可能となる。
次に、図15のフローチャートを参照して、ズーム画像取得モジュール307によるズーム画像取得処理について説明する。
ステップS101において、ズーム画像取得モジュール307は、ズームカメラ122に対して画像取得を要求する。このとき、ズームカメラ122は、この要求に応じて画像を供給する。
この結果、ステップS102において、ズーム画像取得モジュール307は、ズームカメラ122から送信されてくる画像を取得する。
ステップS103において、ズーム画像取得モジュール307は、画像更新フラグがONになっているか否かを判定し、例えば、画像更新フラグが、図13のフローチャートにおけるステップS65における処理により画像更新フラグがONにされて、図14のフローチャートにおけるステップS88によりOFFにされていない場合、画像更新フラグがONにされていると判定し、その処理は、ステップS104に進む。
ステップS104において、ズーム画像取得モジュール307は、取得したズームカメラ122より送信されてきた画像で、図示せぬクライアント返却用バッファを更新する。
一方、ステップS103において、画像更新フラグがOFFにされていると判定された場合、ステップS104の処理は、スキップされる。
ステップS105において、ズーム画像取得モジュール307は、終了要求があるか否かを判定し、例えば、終了要求がないと判定された場合、その処理は、ステップS101に戻り、終了要求があると判定された場合、その処理は、終了する。
すなわち、以上の処理により、画像更新フラグがONになっている間は、ズーム画像取得モジュール307により取得されたズーム画像によりクライアント返却用バッファが更新されつづけるようにさせることが可能となる。
次に、図16のフローチャートを参照して、結果表示モジュール308による結果表示処理について説明する。
ステップS121において、結果表示モジュール308は、センサ画像取得モジュール301の図示せぬバッファに蓄積されたセンサ画像を取得する。
ステップS122において、結果表示モジュール308は、ズーム画像取得モジュール307の図示せぬバッファに蓄積されたズーム画像を取得する。
ステップS123において、結果表示モジュール308は、例えば、ディスプレイなどにセンサ画像とズーム画像を表示させる。
以上の処理によりセンサ画像とズーム画像が表示されることにより、動体が検出された場合にのみ、センサ画像とズーム画像を表示させるようにすることができる。尚、動体追跡順管理DB304に保存されている動体情報を読み出し、表示するようにしてもよい。
以上のように説明してきた図5の監視システム101の処理をまとめると、図17のタイミングチャートで示されるようになる。すなわち、センサ画像取得処理(図10)が所定の時間間隔で繰り返され、撮影画角計算処理(図11)のステップS21の処理により供給されたセンサ画像に基づいて、動体検知処理(図12)により、動体が検出されると、撮影画角計算処理により動体の画角が計算され、計算された画角を動体の発生位置として動体情報を生成すると共に、動体の追跡順位が、動体追跡順管理DB304に保存され、この処理が繰り返される。
追跡対象パンチルトズームモジュール305は、動体追跡順管理DB304に記憶された動体情報に基づいて、優先順位の高い順に動体の画角IDに対応する発生位置(画角)で、図17の最上段の時刻t0乃至時刻t1までの間にズームカメラ122のパンチルトを制御する(図中のPTの範囲)。
さらに、図17の最上段で示されるように、時刻t1において、追跡対象パンチルトズームモジュール305が、ズームカメラ122のズームの調整を開始し、図17の最下段で示されるように、ズームカメラ122により撮影されたズーム画像をズーム画像取得モジュール307のクライアント返却用バッファに更新させ始めたとき(クライアント返却用バッファをONにしたとき)、追加追跡対象パンチルトモジュール306は、図17の上から1段目の追加追跡パンチルト処理を、所定の短い間隔で、指定された回数だけ繰り返す(図中の追加PT1の範囲)。尚、図17の下から2段目で示されるように、追加追跡対象パンチルト処理は、追跡対象パンチルトズームモジュール305によりズームが完了した時刻t2からであってもよい(図中の追加PT2の範囲)。
この結果、結果表示モジュール308により表示されるズーム画像においては、図17で示されるように、追跡対象パンチルトズーム処理によりズームカメラ122が大きくパンチルトしているような間は、クライアント返却用バッファがOFFにされているため、ズーム画像が撮影されることがないので、スムーズなパンチルトズーム画像を表示させるようにすることが可能となる。このとき、追跡対象パンチルトズーム処理よりも短い時間間隔で追加追跡対象パンチルト処理が繰り返されることにより、ズームカメラ122は、動体が移動しても最新の画角に基づいて、ズームカメラ122の設定されるべき画角が更新され続けるので、正確に動体を捉えたズーム画像を撮影することが可能となる。尚、この際にも、パンチルト処理が加えられることになるが、追跡対象パンチルトズーム処理におけるパンチルトの処理により、既に、大筋のパンチルト位置に設定された状態で
、かつ、短い時間間隔で追加追跡パンチルト処理が繰り返されることになるため、大きなパンチルト処理にはならないので、スムーズな画像を再生することが可能となる。
尚、以上においては、追加追跡対象パンチルトモジュール306は、追跡対象パンチルトズームモジュール305により追跡対象パンチルトズーム処理が繰り返される時間間隔よりも十分に短い時間間隔で、追加追跡対象パンチルト処理を繰り返すことで、追跡対象パンチルトズーム処理によりズームカメラ122のパンチルトさせた後のタイミングにおける動体の動きに追従させるようにする例を示してきたが、追跡対象パンチルトズーム処理によりズームカメラ122のパンチルトさせた後のタイミングで動体に動きがないこともあるので、例えば、追跡対象パンチルトズーム処理によるパンチルトの動作の後で、動体の動きの有無を検知して、動体に動きがあった場合にのみ、追加で、所定の短い時間間隔で追加追跡対象パンチルト処理を繰り返すようにしてもよい。
また、以上においては、監視すべき領域全体を撮影する手段として、センサカメラ121を用いる例について説明してきたが、領域全体が撮影できるものであれば、これに限るものではなく、例えば、図18で示されるように、図6のセンサカメラ121の代わりに、360度全方位撮影がリアルタイムに可能な固定カメラ451を設けるようにしてもよい。
さらに、図19で示されるように、ネットワーク131に、固定カメラ471を設けるようにすることで、クライアントPC132の動体検知モジュール303が、固定カメラ471により撮影された動画像である固定画像内の動体をも検知し、必要に応じて固定画像を表示させるようにしてもよい。尚、図18,図19は、それぞれ図6の監視システム101のその他の一実施の形態、およびさらにその他の一実施の形態の構成を示しており、図6と同一の構成には、同一の符号を付してある。
また、以上においては、センサカメラ121およびズームカメラ122は、いずれもパンチルト式の駆動方式を採用したカメラであったが、領域21内を撮影できるカメラであればこれに限るものではなく、それ以外の駆動方式のカメラであっても良い。
さらに、以上においては、センサカメラ121とズームカメラ122とからなるカメラユニット111を用いる場合について説明してきたが、カメラユニット111に代えて、センサカメラ121の機能とズームカメラ122の機能を兼ね備えた1個のカメラを用いるようにしても良い。
また、以上においては、本発明を監視システムに適用した例を説明してきたが、本発明は、動体を効率良く撮影するためのシステムに適用できるものであって、その適用は監視システムに限定されるものではない。
以上によれば、動体を撮影できる位置までの移動中の画像(パンチルトズームといった処理が実行されている間の画像)を最小限にすることで、所定の領域を撮影するとともに、その領域内の動体を正確に撮影することが可能となる。結果として、撮影された画像を快適に見ることが可能となる。
上述した一連の処理は、ハードウェアにより実行させることもできるが、ソフトウェアにより実行させることもできる。一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行させることが可能な、例えば汎用のパーソナルコンピュータなどに記録媒体からインストールされる。
プログラムが記録されている記録媒体は、図7に示すように、コンピュータとは別に、ユーザにプログラムを提供するために配布される、プログラムが記録されている磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disk)を含む)、光磁気ディスク(MD(Mini-Disc)を含む)、もしくは半導体メモリなどよりなるリムーバブルメディア211により構成されるだけでなく、コンピュータに予め組み込まれた状態でユーザに提供される、プログラムが記録されている記憶部208に含まれるハードディスクなどで構成される。
ここで、本明細書において、コンピュータに各種の処理を行わせるためのプログラムを記述する処理ステップは、必ずしもフローチャートとして記載された順序に沿って時系列に処理する必要はなく、並列的あるいは個別に実行される処理(例えば、並列処理あるいはオブジェクトによる処理)も含むものである。
また、プログラムは、1のコンピュータにより処理されるものであっても良いし、複数のコンピュータによって分散処理されるものであっても良い。さらに、プログラムは、遠方のコンピュータに転送されて実行されるものであっても良い。
従来の多地点カメラ監視システムの一例を示す外観図である。 図1の多地点カメラ監視システムの構成を示す図である。 図1の多地点カメラ監視システム1の構成の他の例を示す図である。 図2の記録装置またはPCに記録される画像データを説明する図である。 本発明を適用した監視システムの一実施の形態の構成を示す図である。 図5の監視システムの構成を示す図である。 図6のクライアントPCの構成例を示すブロック図である。 図6のクライアントPCの機能的構成例を示すブロック図である。 図8の動体追跡順管理DBに登録される動体情報について説明する図である。 センサ画像取得処理を説明するフローチャートである。 撮影画角計算処理を説明するフローチャートである。 動体検知処理を説明するフローチャートである。 追加対象パンチルトズームモジュール処理を説明するフローチャートである。 追加追跡対象パンチルト処理を説明するフローチャートである。 ズーム画像取得処理を説明するフローチャートである。 結果表示処理を説明するフローチャートである。 本発明の監視システムの処理を説明するフローチャートである。 図5の監視システムのその他の構成を示す図である。 図5の監視システムのさらにその他の構成を示す図である。
符号の説明
121 センサカメラ, 122 ズームカメラ, 132 クライアントPC, 301 センサ画像取得モジュール, 302 撮影画角計算モジュール, 302a 計算部, 302b 順位決定部, 303 動体検知モジュール, 304 動体追跡順管理DB, 305 追跡対象パンチルトモジュール, 306 追加追跡対象パンチルトモジュール, 307 ズーム画像取得モジュール, 308 結果表示モジュール, 309 計時モジュール

Claims (7)

  1. 所定の領域を撮影する領域撮影手段と、
    前記領域撮影手段により撮影された結果得られる領域画像に基づいて、前記所定の領域内に存在する動体を検知する検知手段と、
    前記検知手段により検知された動体を撮影する動体撮影手段と、
    前記検知手段により検知された前記動体毎の画角を計算する計算手段と、
    前記計算手段により計算された少なくとも1以上の動体のそれぞれの画角の情報を格納する画角情報格納手段と、
    前記画角情報格納手段に格納された少なくとも1以上の動体の画角の情報のうちの1の動体の画角に基づいて、前記動体撮影手段の撮影における水平方向の位置、垂直方向の位置、および望遠倍率を制御する第1の動体撮影制御手段と、
    前記第1の動体撮影制御手段により前記動体撮影手段の撮影における水平方向の位置および垂直方向の位置、または望遠倍率が制御された後のタイミングにおいて、前記第1の動体撮影制御手段よりも十分短い所定の時間間隔で所定回数だけ、前記1の動体の最新の画角の情報に基づいて、前記動体撮影手段の撮影における水平方向の位置および垂直方向の位置繰り返し制御する第2の動体撮影制御手段と
    を備えることを特徴とする情報処理システム。
  2. 所定の領域が撮影された結果得られる領域画像に基づいて、前記所定の領域内に存在する動体を検知する検知手段と、
    前記検知手段により検知された前記動体毎の画角を計算する計算手段と、
    前記計算手段により計算された少なくとも1以上の動体のそれぞれの画角の情報を格納する画角情報格納手段と、
    前記画角情報格納手段に格納された少なくとも1以上の動体の画角の情報のうちの1の動体の画角の情報に基づいて、前記動体の撮影における水平方向の位置、垂直方向の位置、および望遠倍率を制御する第1の動体撮影制御手段と、
    前記第1の動体撮影制御手段により前記動体の撮影における水平方向の位置および垂直方向の位置、または望遠倍率が制御された後のタイミングにおいて、前記第1の動体撮影制御手段よりも十分短い所定の時間間隔で所定回数だけ、前記1の動体の最新の画角の情報に基づいて、前記動体の撮影における水平方向の位置および垂直方向の位置繰り返し制御する第2の動体撮影制御手段と
    を備えることを特徴とする情報処理装置。
  3. 前記画角情報格納手段に格納された前記少なくとも1以上の動体のそれぞれの画角の情報に、所定の条件に基づいて、優先順位を設定する優先順位設定手段をさらに備え、
    前記第1の動体撮影制御手段は、前記画角情報格納手段に格納された少なくとも1以上の動体の画角の情報のうち、前記優先順位設定手段により設定された優先度の高い順に前記1の動体を選択し、選択した動体の画角の情報に基づいて、前記動体の撮影を制御する
    ことを特徴とする請求項2に記載の情報処理装置。
  4. 前記所定の条件は、前記動体の動いた時刻、前記動体の前記領域画像中の位置、前記動体の前記領域画像中のサイズ、または前記動体の縦横の比率を含む
    ことを特徴とする請求項3に記載の情報処理装置。
  5. 前記1の動体の撮影は、前記1の動体の画角の情報に基づいて、第1の動体撮影制御手段により制御された後に開始する
    ことを特徴とする請求項2に記載の情報処理装置。
  6. 所定の領域が撮影された結果得られる領域画像に基づいて、前記所定の領域内に存在する動体を検知する検知ステップと、
    前記検知ステップの処理により検知された前記動体毎の画角を計算する計算ステップと、
    前記計算ステップの処理により計算された少なくとも1以上の動体のそれぞれの画角の情報を格納する画角情報格納ステップと、
    前記画角情報格納ステップの処理に格納された少なくとも1以上の動体の画角の情報のうちの1の動体の画角に基づいて、前記動体の撮影における水平方向の位置、垂直方向の位置、および望遠倍率を制御する第1の動体撮影制御ステップと、
    前記第1の動体撮影制御ステップの処理により前記動体の撮影における水平方向の位置および垂直方向の位置、または望遠倍率が制御された後のタイミングにおいて、前記第1の動体撮影制御ステップの処理よりも十分短い所定の時間間隔で所定回数だけ、前記1の動体の最新の画角の情報に基づいて、前記動体の撮影における水平方向の位置および垂直方向の位置繰り返し制御する第2の動体撮影制御ステップと
    を含むことを特徴とする情報処理方法。
  7. 所定の領域が撮影された結果得られる領域画像に基づいて、前記所定の領域内に存在する動体を検知する検知ステップと、
    前記検知ステップの処理により検知された前記動体毎の画角を計算する計算ステップと、
    前記計算ステップの処理により計算された少なくとも1以上の動体のそれぞれの画角の情報を格納する画角情報格納ステップと、
    前記画角情報格納ステップの処理に格納された少なくとも1以上の動体の画角の情報のうちの1の動体の画角に基づいて、前記動体の撮影における水平方向の位置、垂直方向の位置、および望遠倍率を制御する第1の動体撮影制御ステップと、
    前記第1の動体撮影制御ステップの処理により前記動体の撮影における水平方向の位置および垂直方向の位置、または望遠倍率が制御された後のタイミングにおいて、前記第1の動体撮影制御ステップの処理よりも十分短い所定の時間間隔で所定回数だけ、前記1の動体の最新の画角の情報に基づいて、前記動体の撮影における水平方向の位置および垂直方向の位置繰り返し制御する第2の動体撮影制御ステップと
    を含む処理をコンピュータ実行させることを特徴とするプログラム。
JP2005054395A 2005-02-28 2005-02-28 情報処理システム、情報処理装置および方法、並びにプログラム Active JP4345692B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2005054395A JP4345692B2 (ja) 2005-02-28 2005-02-28 情報処理システム、情報処理装置および方法、並びにプログラム
US11/359,386 US7656430B2 (en) 2005-02-28 2006-02-23 Information processing system, information processing apparatus and method, and program
CN2006100582506A CN1829319B (zh) 2005-02-28 2006-02-28 信息处理系统、信息处理装置和方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005054395A JP4345692B2 (ja) 2005-02-28 2005-02-28 情報処理システム、情報処理装置および方法、並びにプログラム

Publications (2)

Publication Number Publication Date
JP2006245650A JP2006245650A (ja) 2006-09-14
JP4345692B2 true JP4345692B2 (ja) 2009-10-14

Family

ID=36931637

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005054395A Active JP4345692B2 (ja) 2005-02-28 2005-02-28 情報処理システム、情報処理装置および方法、並びにプログラム

Country Status (3)

Country Link
US (1) US7656430B2 (ja)
JP (1) JP4345692B2 (ja)
CN (1) CN1829319B (ja)

Families Citing this family (35)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060170956A1 (en) 2005-01-31 2006-08-03 Jung Edward K Shared image devices
US9082456B2 (en) 2005-01-31 2015-07-14 The Invention Science Fund I Llc Shared image device designation
US20060174203A1 (en) 2005-01-31 2006-08-03 Searete Llc, A Limited Liability Corporation Of The State Of Delaware Viewfinder for shared image device
US8902320B2 (en) 2005-01-31 2014-12-02 The Invention Science Fund I, Llc Shared image device synchronization or designation
US9124729B2 (en) 2005-01-31 2015-09-01 The Invention Science Fund I, Llc Shared image device synchronization or designation
US9489717B2 (en) 2005-01-31 2016-11-08 Invention Science Fund I, Llc Shared image device
US8606383B2 (en) 2005-01-31 2013-12-10 The Invention Science Fund I, Llc Audio sharing
US9910341B2 (en) 2005-01-31 2018-03-06 The Invention Science Fund I, Llc Shared image device designation
JP4470759B2 (ja) * 2005-02-28 2010-06-02 ソニー株式会社 情報処理システム、情報処理装置および情報処理方法、プログラム、並びに記録媒体
US9451200B2 (en) 2005-06-02 2016-09-20 Invention Science Fund I, Llc Storage access technique for captured data
US9001215B2 (en) 2005-06-02 2015-04-07 The Invention Science Fund I, Llc Estimating shared image device operational capabilities or resources
US8681225B2 (en) 2005-06-02 2014-03-25 Royce A. Levien Storage access technique for captured data
US9967424B2 (en) 2005-06-02 2018-05-08 Invention Science Fund I, Llc Data storage usage protocol
US9191611B2 (en) 2005-06-02 2015-11-17 Invention Science Fund I, Llc Conditional alteration of a saved image
US9167195B2 (en) 2005-10-31 2015-10-20 Invention Science Fund I, Llc Preservation/degradation of video/audio aspects of a data stream
US8964054B2 (en) 2006-08-18 2015-02-24 The Invention Science Fund I, Llc Capturing selected image objects
US20070222865A1 (en) 2006-03-15 2007-09-27 Searete Llc, A Limited Liability Corporation Of The State Of Delaware Enhanced video/still image correlation
US9621749B2 (en) 2005-06-02 2017-04-11 Invention Science Fund I, Llc Capturing selected image objects
US9819490B2 (en) 2005-05-04 2017-11-14 Invention Science Fund I, Llc Regional proximity for shared image device(s)
US8233042B2 (en) 2005-10-31 2012-07-31 The Invention Science Fund I, Llc Preservation and/or degradation of a video/audio data stream
US9942511B2 (en) 2005-10-31 2018-04-10 Invention Science Fund I, Llc Preservation/degradation of video/audio aspects of a data stream
US10003762B2 (en) 2005-04-26 2018-06-19 Invention Science Fund I, Llc Shared image devices
US9076208B2 (en) 2006-02-28 2015-07-07 The Invention Science Fund I, Llc Imagery processing
US8253821B2 (en) 2005-10-31 2012-08-28 The Invention Science Fund I, Llc Degradation/preservation management of captured data
JP4293236B2 (ja) 2006-12-20 2009-07-08 ソニー株式会社 撮像装置及び撮像方法
ITVI20070062A1 (it) * 2007-03-02 2008-09-03 Emanuele Menegatti Telecamera panoramica ad inseguimento
US20080273754A1 (en) * 2007-05-04 2008-11-06 Leviton Manufacturing Co., Inc. Apparatus and method for defining an area of interest for image sensing
US20090079830A1 (en) * 2007-07-27 2009-03-26 Frank Edughom Ekpar Robust framework for enhancing navigation, surveillance, tele-presence and interactivity
US20090299980A1 (en) * 2008-05-30 2009-12-03 Sultrix Eros Marcus method for searching and displaying content in a directory
US8654197B2 (en) * 2009-03-04 2014-02-18 Raytheon Company System and method for occupancy detection
JP2013219544A (ja) * 2012-04-09 2013-10-24 Ricoh Co Ltd 画像処理装置、画像処理方法、及び画像処理プログラム
JP6532217B2 (ja) * 2014-11-19 2019-06-19 キヤノン株式会社 画像処理装置、画像処理方法、及び画像処理システム
KR102101438B1 (ko) * 2015-01-29 2020-04-20 한국전자통신연구원 연속 시점 전환 서비스에서 객체의 위치 및 크기를 유지하기 위한 다중 카메라 제어 장치 및 방법
CN108377342B (zh) * 2018-05-22 2021-04-20 Oppo广东移动通信有限公司 双摄像头拍照方法、装置、存储介质及终端
EP3841442A1 (en) * 2018-08-24 2021-06-30 Cytiva Sweden AB Monitoring system and method for biopharmaceutical products

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6507779B2 (en) * 1995-06-07 2003-01-14 Automotive Technologies International, Inc. Vehicle rear seat monitor
JPS62109485A (ja) 1985-11-07 1987-05-20 Fujitsu Ltd テレビ会議システムの人物像センタリング方式
CA2155719C (en) * 1994-11-22 2005-11-01 Terry Laurence Glatt Video surveillance system with pilot and slave cameras
US5666157A (en) * 1995-01-03 1997-09-09 Arc Incorporated Abnormality detection and surveillance system
JPH08205131A (ja) 1995-01-25 1996-08-09 Toshiba Corp 監視システム及びその移動物体追跡方法
JPH1139495A (ja) * 1997-07-24 1999-02-12 Nec Corp 画像監視装置
US6215519B1 (en) * 1998-03-04 2001-04-10 The Trustees Of Columbia University In The City Of New York Combined wide angle and narrow angle imaging system and method for surveillance and monitoring
US6545601B1 (en) * 1999-02-25 2003-04-08 David A. Monroe Ground based security surveillance system for aircraft and other commercial vehicles
US7612796B2 (en) * 2000-01-13 2009-11-03 Countwise, Llc Video-based system and method for counting persons traversing areas being monitored
EP1128676B1 (en) * 2000-02-28 2009-04-15 Hitachi Kokusai Electric Inc. Intruding object monitoring method and intruding object monitoring system
JP2003046969A (ja) * 2001-07-30 2003-02-14 Sony Corp 情報処理装置および方法、記録媒体、並びにプログラム
US6909790B2 (en) * 2002-02-15 2005-06-21 Inventec Corporation System and method of monitoring moving objects
US7385626B2 (en) * 2002-10-21 2008-06-10 Sarnoff Corporation Method and system for performing surveillance
JP2004201231A (ja) 2002-12-20 2004-07-15 Victor Co Of Japan Ltd 監視用ビデオカメラシステム
JP4568009B2 (ja) * 2003-04-22 2010-10-27 パナソニック株式会社 カメラ連携による監視装置
US7626608B2 (en) * 2003-07-10 2009-12-01 Sony Corporation Object detecting apparatus and method, program and recording medium used therewith, monitoring system and method, information processing apparatus and method, and recording medium and program used therewith
US7450735B1 (en) * 2003-10-16 2008-11-11 University Of Central Florida Research Foundation, Inc. Tracking across multiple cameras with disjoint views
CN2667571Y (zh) * 2003-10-27 2004-12-29 北京雷波泰克信息技术有限公司 快速多目标人像自动识别与跟踪安全防御装置
US20050104958A1 (en) * 2003-11-13 2005-05-19 Geoffrey Egnal Active camera video-based surveillance systems and methods
US20060007308A1 (en) * 2004-07-12 2006-01-12 Ide Curtis E Environmentally aware, intelligent surveillance device
US7884849B2 (en) * 2005-09-26 2011-02-08 Objectvideo, Inc. Video surveillance system with omni-directional camera

Also Published As

Publication number Publication date
US7656430B2 (en) 2010-02-02
JP2006245650A (ja) 2006-09-14
CN1829319A (zh) 2006-09-06
CN1829319B (zh) 2010-12-08
US20060192887A1 (en) 2006-08-31

Similar Documents

Publication Publication Date Title
JP4345692B2 (ja) 情報処理システム、情報処理装置および方法、並びにプログラム
JP4470759B2 (ja) 情報処理システム、情報処理装置および情報処理方法、プログラム、並びに記録媒体
JP4378636B2 (ja) 情報処理システム、情報処理装置および情報処理方法、プログラム、並びに記録媒体
CN100455014C (zh) 拍摄装置和方法、监视系统
US7732771B2 (en) Monitoring apparatus
JP2006333133A (ja) 撮像装置、撮像方法、プログラム、プログラム記録媒体並びに撮像システム
JP4736381B2 (ja) 撮像装置及び方法、監視システム、プログラム並びに記録媒体
JP2009033450A (ja) 撮影装置、被写体追尾ズーミング方法及び被写体追尾ズーミングプログラム
WO2004066631A1 (ja) パノラマ画像を用いた監視装置及び監視方法
JP4583717B2 (ja) 撮像装置及び方法、画像情報提供システム、プログラム、並びに制御装置
JP3841033B2 (ja) モニタリングシステムおよび方法並びにプログラムおよび記録媒体
JP4172352B2 (ja) 撮像装置及び方法、撮像システム、プログラム
JP2004228711A (ja) 監視装置及び方法、プログラム並びに監視システム
JP2013009435A (ja) 撮影装置、被写体追尾ズーミング方法及び被写体追尾ズーミングプログラム
JP3838149B2 (ja) モニタリングシステムおよび方法、並びにプログラムおよび記録媒体
JP2004241834A (ja) 動画像生成装置及び方法、動画像送信システム、プログラム並びに記録媒体
JP2003324723A (ja) モニタリングシステムおよび方法並びにプログラムおよび記録媒体
JP5531512B2 (ja) 情報処理装置、プログラム、および情報処理方法
JP4333255B2 (ja) 監視装置
JP3838150B2 (ja) モニタリングシステムおよび方法並びにプログラムおよび記録媒体
JP3991816B2 (ja) モニタリングシステムおよび方法並びにプログラムおよび記録媒体
JP4127080B2 (ja) 撮像装置及び方法
JP3838151B2 (ja) モニタリングシステムおよび方法並びにプログラムおよび記録媒体
JP2006025376A (ja) 撮像装置及び処理サーバ

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060616

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080529

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080605

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080729

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20090312

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090501

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20090528

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090623

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090706

R151 Written notification of patent or utility model registration

Ref document number: 4345692

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120724

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130724

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250