JPWO2015001635A1 - 遠隔モニタリングシステムおよびモニタリング方法 - Google Patents

遠隔モニタリングシステムおよびモニタリング方法 Download PDF

Info

Publication number
JPWO2015001635A1
JPWO2015001635A1 JP2015524966A JP2015524966A JPWO2015001635A1 JP WO2015001635 A1 JPWO2015001635 A1 JP WO2015001635A1 JP 2015524966 A JP2015524966 A JP 2015524966A JP 2015524966 A JP2015524966 A JP 2015524966A JP WO2015001635 A1 JPWO2015001635 A1 JP WO2015001635A1
Authority
JP
Japan
Prior art keywords
camera
video
monitoring
image
input
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015524966A
Other languages
English (en)
Other versions
JP6214653B2 (ja
Inventor
栗原 恒弥
恒弥 栗原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Publication of JPWO2015001635A1 publication Critical patent/JPWO2015001635A1/ja
Application granted granted Critical
Publication of JP6214653B2 publication Critical patent/JP6214653B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/156Mixing image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/2224Studio circuitry; Studio devices; Studio equipment related to virtual studio applications
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Processing Or Creating Images (AREA)

Abstract

3次元CGモデルから生成されたCG映像が表示される表示部と、CG映像に対するユーザの入力を受け付ける入力部と、入力に基づいて動かされた後のCG映像を表示部に表示する3次元CG画像生成部と、動かされた後のCG映像に類似したリアル映像を撮像できる監視カメラを特定する最適カメラ算出部と、特定された監視カメラを制御する制御部と、を有し、表示部には、制御された監視カメラからのリアル映像が表示される。

Description

本発明は、遠隔モニタリングシステムおよびモニタリング方法に関する。
防犯システムや、防災システム、現場監督システム、医療など広範囲の分野において、遠距離/近距離を問わず現場と異なる場所で状況を観察するための遠隔モニタリングシステムが用いられている。遠隔モニタリングシステムでは、多数の監視カメラを、ネットワークを介して制御し、送信されてきた画像を選択的にユーザに表示することで、効率よく観察を行うことが可能である。多くの場合、監視カメラはパン角度、チルト角度、ズーム倍率を制御可能であり、ユーザは所望の映像を取得できる。このとき、ユーザは監視カメラの画像を見ながら、パン角度、チルト角度、ズーム倍率を直接操作する方法が用いられる場合が多く、このような監視カメラの直接操作では、監視カメラの動作の遅延やネットワークの遅延のために、映像に遅れが生じてしまい、観察したい箇所に監視カメラを向けることが難しいという問題があった。
さらに、以上のような遠隔モニタリングシステムには、ユーザがどこを見ているのかがわかりにくいという問題がある。これは、監視カメラの台数が増加し、さらに監視カメラのパン角度、チルト角度、ズーム倍率をユーザが制御可能な場合に顕著である。2次元図面上に監視カメラの位置や方向を表示する方法もあるが、実際の現場は3次元空間であり、2次元で表現するには無理があり、観察者が熟練者でなければ、現場のどこからどこまでを観察しているかを想像することが難しい。
遠隔モニタリングのための監視カメラの制御方法としては特許文献1があり、特許文献1には、センサなどの感知装置を用いた方法が記載されている。この方法は、3次元仮想空間を利用したものであり、あらかじめ現場の3次元仮想空間モデルを用意し、3次元仮想空間上に、感知装置の位置、監視カメラの位置と視線、画角領域をリアルタイムで3次元的に表示することで、現在撮像している領域がどこに位置するかを示すものである。
特開2008−259154号公報
特許文献1に記載されている技術では、3次元仮想空間を用いて、現在撮像している領域がどこに位置するかを示せるものの、監視カメラ自体を対話的に制御することはできない。
本発明の目的は、CG映像を用いることで、見たい画像を撮像できる監視カメラの選択を容易にすることである。
本願において開示される発明のうち、代表的なものの概要を簡単に説明すれば、次の通りである。
本発明の一実施の形態は、3次元CGモデルから生成されたCG映像が表示される表示部を有する。また、前記CG映像に対するユーザの入力を受け付ける入力部を有する。また、前記入力に基づいて動かされた後の前記CG映像を前記表示部に表示する3次元CG画像生成部を有する。また、動かされた後の前記CG映像に類似したリアル映像を撮像できる監視カメラを特定する最適カメラ算出部を有する。また、前記特定された前記監視カメラを制御する制御部を有する。また、前記表示部には、制御された前記監視カメラからのリアル映像が表示される。
また、他の実施の形態では、監視カメラの位置および方向を含んだ現実世界を、予め前記3次元CGモデルとして準備し、前記3次元CGモデルから生成されたCG映像を表示するCG映像表示ステップを有する。また、前記CG映像に対するユーザの入力を受け付ける入力ステップを有する。また、ユーザから受け付けた前記入力に基づいて前記CG映像を動かす移動ステップを有する。また、動かされた後の前記CG映像に類似したリアル映像を撮像できる前記監視カメラを特定し、特定された前記監視カメラを制御する制御ステップを有する。また、制御された前記監視カメラからの前記リアル映像を表示するリアル映像表示ステップを有する。
本願において開示される発明のうち、代表的なものによって得られる効果を簡単に説明すれば以下のとおりである。
本発明の一実施の形態によれば、見たい画像を撮像できるカメラの選択が容易になる。
本発明の実施の形態1における遠隔モニタリングシステムの構成例の概要を示す図である。 本発明の実施の形態1における遠隔モニタリングシステムにおいて、仮想カメラパラメータの構成例を示す図である。 本発明の実施の形態1における遠隔モニタリングシステムにおいて、監視カメラ設置データ記憶部が記憶する監視カメラ設置データの構成例を示す図である。 本発明の実施の形態1における遠隔モニタリングシステムにおいて、全体処理の概要を示す図である。 本発明の実施の形態1における遠隔モニタリングシステムにおいて、表示部に表示される映像の例を示す図であり、(a)はリアル映像の例、(b)はリアル映像に対してCG映像が重畳表示された例、(c)はリアル映像に対して動かされた後のCG映像が重畳表示された例、(d)は特定された監視カメラによるリアル映像に対して動かされた後のCG映像が重畳表示された例、(e)は特定された監視カメラによるリアル映像に対する動かされた後のCG映像の重畳表示が外された例を示す図である。 本発明の実施の形態1における遠隔モニタリングシステムにおいて、最適カメラ算出処理の概要を示す。 本発明の実施の形態1における遠隔モニタリングシステムにおいて、注目点を設定する方法を説明する図である。 本発明の実施の形態1における遠隔モニタリングシステムにおいて、注目点を設定する他の方法を説明する図であり、(a)はCG映像、(b)は俯瞰CG映像の例を示す図である。 本発明の実施の形態1における遠隔モニタリングシステムにおいて、最適カメラ算出処理における監視カメラを特定する処理を説明する図である。 本発明の実施の形態2における遠隔モニタリングシステムにおいて、全体処理の概要を示す図である。
以下、本発明の実施の形態を図面に基づいて詳細に説明する。なお、実施の形態を説明するための全図において、同一部には原則として同一の符号を付し、その繰り返しの説明は省略する。
本発明の実施の形態1における遠隔モニタリングシステムは、監視カメラから撮像されたリアル映像を表示し、表示されたリアル映像と同一の映像を表現したCG映像をリアル映像に対して重畳表示する。そして、CG映像に対するユーザの入力を受け付け、CG映像を動かし、動かされた後のCG映像に類似した画像を撮像できる監視カメラを特定し、特定された監視カメラからの映像を表示する。これによって、見たい画像を撮像するように監視カメラを対話的に制御できるようになる。
[実施の形態1]
本発明の実施の形態1を、図1〜図9を用いて説明する。
<システム構成>
図1は、本発明の実施の形態1における遠隔モニタリングシステムの構成例の概要を示す図である。図1において、遠隔モニタリングシステムは、遠隔モニタリングシステム制御部100と、遠隔モニタリングシステム制御部100と接続される複数の監視カメラ201〜204と、これら監視カメラ201〜204を制御する制御部205(例えば、監視カメラ201〜204の方向を制御する機構)と、入力部301と、表示部401とを有する。
また、遠隔モニタリングシステム制御部100のコンピュータは、所定のハードウェアおよびソフトウェアにより実装される。例えば、遠隔モニタリングシステム制御部100は、プロセッサやメモリなどを有し、プロセッサによるメモリ上のプログラムを実行する。
遠隔モニタリングシステム制御部100は、3次元CG画像生成部101と、最適カメラ算出部102と、カメラ制御部103と、画像入力部104と、仮想カメラ対話型設定部105と、対象CGモデル記憶部106と、監視カメラ設置データ記憶部107とを有する。
対象CGモデル記憶部106は、現実世界を表現する3次元仮想空間である3次元CGモデルを記憶する。
3次元CG画像生成部101は、対象CGモデル記憶部106から3次元CGモデルを取得する。また、3次元CG画像生成部101は、対象3次元CGモデルを撮像する仮想カメラのパラメータである仮想カメラパラメータ(後述、図2)を仮想カメラ対話型設定部105から受信する。そして、3次元CG画像生成部101は、取得した3次元CGモデルと受信した仮想カメラパラメータとに基づき、CG映像を生成し、生成したCG映像を表示部401に表示する。
入力部301から受け付けた入力は、仮想カメラ対話型設定部105によって解釈され、仮想カメラ対話型設定部105によって、仮想パラメータが変更される。そして、仮想カメラ対話型設定部105によって、変更後の仮想カメラパラメータが3次元CG画像生成部101に送信される。その後、3次元CG画像生成部101は取得した3次元CGモデルと受信した変更後の仮想カメラパラメータとに基づき、CG映像を生成し、生成したCG映像を表示部401に表示する。これによって、入力部301が受け付けた入力に基づいて、3次元CGモデルと変更前の仮想カメラパラメータとに基づいて表示されるCG映像から、3次元CGモデルと変更後の仮想カメラパラメータとに基づいて表示されるCG映像へとCG映像が対話的に動かされる。
なお、入力部301としては、ジョイスティック、キーボード、マウスなどの入力装置が該当する。また、上述した仮想カメラパラメータの設定には、公知の様々な手法を用いることが可能である。例えば、物体を仮想的に回転させるアークボールやトラックボールにより仮想カメラパラメータを変更し、変更後の仮想カメラパラメータに基づいてCG映像を動かすことで、対話的に仮想カメラを制御するようにしても良い。また、ウォークスルーやフライスル―を用いて仮想カメラの位置や方向を変更するようにしても良い。さらに、仮想カメラの位置、後述する注目点の位置、仮想カメラのアップベクトルなどを対話的に変更するようにしても良い。
監視カメラ201〜204は、現実世界を撮像した映像であるリアル映像を撮像し、撮像したリアル映像をリアルタイムで画像入力部104へ送信する。
ここで、仮想カメラの仮想カメラパラメータは任意のカメラ位置、カメラ方向、カメラ画角を設定可能であるのに対し、現実の空間に設置される監視カメラ201〜204は、設定できるカメラ位置、カメラ方向、カメラ画角に制限がある。よって、最適カメラ算出部102は、仮想カメラから撮像される動かされた後のCG映像と類似するリアル映像を撮像可能な監視カメラ201〜204を、仮想カメラパラメータと監視カメラ設置データ(後述、図3)とに基づき特定する。その後、最適カメラ算出部102は、特定した監視カメラ201〜204について仮想カメラから撮像されるCG映像と類似するリアル映像を撮像するのに最適なパン角度とチルト角度とズーム倍率とを最適カメラパラメータとして算出する。
カメラ制御部103は、監視カメラ201〜204の制御部205に最適カメラパラメータを用いてパン角度とチルト角度とズーム倍率とを設定する。制御部205は、設定された値に基づき、監視カメラ201〜204を制御する。その後、監視カメラ201〜204により撮像されたリアル映像は、画像入力部104を介して、表示部401に表示される。
なお、対象CGモデル記憶部106に記憶される3次元CGモデルは、監視や観察の対象となる現実世界を表現する3次元CGモデルであり、監視カメラ201〜204の位置および方向の情報を含む。また、3次元CGモデルは、3次元CGソフトウェアを用いて対話的に制作することも可能である。また、CAD情報(例えば、DXFファイル)が得られる場合には、3次元CGモデルをCAD情報から生成するようにしても良い。また、3次元CGモデルを、レーザレンジファインダなどによって3次元計測するようにしても良い。さらに、3次元CGモデルを、複数の写真から再構成するようにしても良い。
<仮想カメラパラメータ>
図2は、本発明の実施の形態1における遠隔モニタリングシステムにおいて、仮想カメラパラメータの構成例を示す図である。
図2において、仮想カメラパラメータは、[仮想カメラ位置],[仮想カメラ方向],[仮想カメラ画角]などのデータ項目を有する。
[仮想カメラ位置]は、仮想カメラの位置を特定するための座標を示し、x座標とy座標とz座標とからなる。
[仮想カメラ方向]は、各軸に対する回転成分であるパン角度およびチルト角度を0としたときの仮想カメラの方向を示し、チルト角度θと、パン角度θと、ロール角度θとからなる。
[カメラ画角]は、カメラの画角θを示す。
<監視カメラ設置データ>
図3は、本発明の実施の形態1における遠隔モニタリングシステムにおいて、監視カメラ設置データ記憶部107が記憶する監視カメラ設置データの構成例を示す図である。
監視カメラ設置データ記憶部107が記憶する監視カメラ設置データは、[監視カメラID],[監視カメラ位置],[監視カメラ設置方向],[パン角度,チルト角度,ズーム倍率],[カメラ定格値]などのデータ項目を有する。
[監視カメラ位置]は、監視カメラ201〜204の位置を特定するための座標を示し、x座標とy座標とz座標とからなる。
[監視カメラ設置方向]は、各軸に対する回転成分であるパン角度およびチルト角度を0としたときの監視カメラ201〜204の方向を示し、チルト角度θと、パン角度θと、ロール角度θとからなる。
[パン角度θp]は監視カメラのパン角度,[チルト角度θt]は監視カメラのチルト角度を示す。
[ズーム倍率fz]は、ズーム倍率の値を示す。
[カメラ定格値]は、ズーム倍率が1のときのカメラの画角、制御可能なチルト角度θ、パン角度θと、ズーム倍率の範囲を示す。
実際の監視カメラの方向は、上記の[監視カメラ設置方向]に対して、[パン角度θp]と[チルト角度θt]を合成した方向となる。
<全体処理>
図4は、本発明の実施の形態1における遠隔モニタリングシステムにおいて、全体処理の概要を示す図である。
まず、S401にて、監視カメラ201〜204により撮像されたリアル映像が、図5(a)に示すように表示部401に表示される。
次に、S402にて、3次元CG画像生成部101は、監視カメラ201〜204の監視カメラ設置データと同値の仮想カメラパラメータと、3次元CGモデルとに基づいて、CG映像を生成し、生成したCG映像をリアル映像に対して、図5(b)に示すように重畳して表示する。
ここで、図5(b)に示すCG映像はワイヤーフレームで表現されている。なお、CG映像を立体面で表現するようにしても良い。また、CG映像をリアル映像に対して重畳して表示することに替えて、マルチウィンドウを用いてCG映像とリアル映像とを別ウィンドウに表示するようにしても良い。さらに、表示部401にCG映像だけを表示させるようにしても良い。この場合、CG映像は動かされた後に非表示にされ、その後、制御された監視カメラ201〜204により撮像されたリアル映像が表示部401に表示される。
次に、S403にて、入力部301が、表示部401に表示されたCG映像に対する入力を受け付ける。
次に、S404にて、仮想カメラ対話型設定部105は、S403にて受け付けた入力に基づいて仮想カメラパラメータを変更する。その後、仮想カメラ対話型設定部105は、変更した仮想カメラパラメータを3次元CG画像生成部101に送信する。
次に、S405にて、3次元CG画像生成部101は、S404にて変更された後の仮想カメラパラメータと3次元CGモデルとに基づいて、CG映像を生成し、表示部401に、図5(b)の状態から動かされたCG映像がリアル映像に対して、図5(c)に示すように重畳表示する。図5(c)の例では、仮想カメラパラメータのうち、パン角度θが変更されることで仮想カメラは左の方向にパンされている。その場合、CG映像は、仮想カメラがパンされたのとは逆方向である右の方向に動かされる。
次に、S406にて、最適カメラ特定処理(後述、図6)が行われ、仮想カメラから撮像される動かされた後のCG映像と類似するリアル映像を撮像可能な監視カメラ201〜〜204が特定され、特定された監視カメラ201〜204について、仮想カメラから撮像されるCG映像と類似するリアル映像を撮像するための、最適カメラパラメータが算出される。
次に、S407にて、カメラ制御部103は、最適カメラ算出部102により特定された監視カメラ201〜204の制御部205に最適カメラパラメータを設定する。制御部205は、設定された最適カメラパラメータに基づき、監視カメラ201〜204のパン角度θpとチルト角度θtとズーム倍率fzとを制御する。その後、制御部205により制御された監視カメラ201〜204は、リアル映像を撮像する。表示部401には、制御された監視カメラ201〜204により撮像されたリアル映像が表示されるとともに、動かされた後のCG映像がこのリアル映像に対して、図5(d)に示すように重畳表示される。
最後に、S408にて、3次元CG画像生成部101は、CG画像を表示する処理を終了し、リアル映像に対するCG映像の重畳表示が、図5(e)に示すように外される。
なお、生成されるCG映像と一致するリアル映像を、実際の監視カメラ201〜204では、撮像できない場合が多い。このような場合には、ユーザの入力に基づいて動かされた後のCG映像の仮想カメラパラメータとして、制御された後の監視カメラ201〜204の監視カメラパラメータを適用するようにしても良い。より詳細には、仮想カメラ対話型設定部105は、ユーザから受け付けた入力が終了(例えば、マウスのドラッグが終了)し、CG映像を動かす処理が終了した時点で、仮想カメラパラメータとして最適カメラパラメータを適用する。その後、3次元CG画像生成部101は、新たな仮想カメラパラメータと3次元CGモデルとに基づいて、CG映像を生成し、生成したCG映像を表示部401に表示する。この場合、アニメーション機能によって、仮想カメラパラメータを徐々に最適カメラパラメータに修正し、修正する度にCG映像が表示されるようにしても良い。
<最適カメラ算出処理>
図6は、本発明の実施の形態1における遠隔モニタリングシステムにおいて、最適カメラ算出処理の概要を示す。最適カメラ算出処理では、S601にてユーザが確認したい点の位置(以下、注目点という)が設定され、S602〜S605にて、監視カメラ201〜204が特定され、S606にて、最適カメラパラメータが算出される。
まず、S601にて、動かされた後のCG映像において、注目点を設定する。以下、図7と、図8とを用いて、注目点700を設定する方法について説明する。
図7は、本発明の実施の形態1における遠隔モニタリングシステムにおいて、ユーザが注目点を設定する方法を説明する図である。
図7の例では、動かされた後のCG画像の中心点が注目点700として設定される。ここで、CG画像は2次元画像であるためx座標とy座標は取得できるものの、奥行き方向の座標(z座標)については情報が欠落している。そこで、図7の例では、CG画像に表示されている物体(この物体は、例えば机や椅子など)の最表面の奥行き方向の座標を、注目点700の奥行き方向の座標として用いる。また、CG画像を表示するための3次元CGモデルを用いることで、CG画像の中心の奥行き方向の座標を得ることも可能である。このとき、CG画像の中心に物体が存在しない場合には、エラー表示をするとともに、ユーザから注目点700を設定するための入力を受け付けるようにしても良い。
図8は、本発明の実施の形態1における遠隔モニタリングシステムにおいて、注目点700を設定する他の方法を説明する図である。図8(a)はCG映像を、図8(b)は俯瞰CG映像の例を示す図である。表示部401は、マルチウィンドウを用いて、CG映像と、俯瞰CG映像とを別ウィンドウで表示する。そして、ユーザは、俯瞰CG映像を確認しながら、入力部104を介して注目点700および仮想カメラ位置800を設定する入力ができる。入力部104が、ユーザから仮想カメラ位置800または注目点700の位置を設定する入力を受け付けると、設定された内容に応じて、CG画像はリアルタイムに動かされる。
なお、注目点700を設定する方法については、上述した方法以外にも公知の技術を適宜適用することができる。
次に、S602にて、最適カメラ算出部102は、[監視カメラ位置]を監視カメラ設置データ記憶部107から取得する。
次に、S603にて、最適カメラ算出部102は、仮想カメラパラメータの[仮想カメラ位置]を仮想カメラ対話型設定部105から取得する。
以下、図9を用いて、S604の処理を説明する。図9では、対象の3次元CGモデル901に対して注目点700が設定されている。
S604にて、最適カメラ算出部102は、監視カメラ201〜204ごとの[監視カメラ位置]と注目点700を結んだ直線902〜905と、[仮想カメラ位置]と注目点700を結んだ直線906とが成す角度θc1〜θc4を監視カメラ201〜204ごとに算出する。
なお、監視カメラ201〜204ごとに、監視カメラ201〜204が注目点700の方向を向いた場合の各監視カメラの方向と、仮想カメラパラメータの[仮想カメラ方向]とに基づき、角度θc1〜θc4を算出するようにしても良い。
また、監視カメラ201〜204が注目点700の方向を向けない場合は、できるだけ近い方向を向いた場合の監視カメラの方向と、仮想カメラパラメータの[仮想カメラ方向]とに基づき、角度θc1〜θc4を算出するようにしても良い。
また、各監視カメラ201〜204が撮像する範囲に注目点700が含まれない場合には、最適カメラ算出部102は、注目点700を撮像可能な監視カメラ201〜204が一つもないと判定し、その後、表示部401に、エラー表示をするようにしても良い。この場合、注目点700を撮像可能な監視カメラ201〜204が存在するか否かは、最適カメラ算出部102により、各監視カメラ201〜204が撮像可能な範囲に注目点700が含まれるか否かが判定され、含まれない場合には、撮像可能な監視カメラ201〜204が一つもないと判定される。
次に、S605にて、最適カメラ算出部102は、S604にて算出した角度θc1〜θc4が最少である監視カメラ201〜204を、CG映像と類似するリアル映像を撮像可能な監視カメラ201〜204として特定する。
また、最適カメラ算出部102は、仮想カメラが撮像するCG画像と監視カメラ201〜204が撮像するリアル映像との類似度に基づいて、監視カメラ201〜204を特定するようにしても良い。
次に、S606にて、最適カメラ算出部102は、最適カメラパラメータを算出する。より詳細には、最適カメラ算出部102は、特定した監視カメラ201〜204が注目点700の方向を向いた場合のパン角度θpとチルト角度θを最適カメラパラメータとして算出する。また、この算出したパン角度θpとチルト角度θにて注目点700の方向を向いた場合の注目点700付近の3次元CGモデル901の大きさが、仮想カメラにおける3次元CGモデル901の大きさと等しくなるズーム倍率fzを最適カメラパラメータとして算出する。
ここで、S402がCG映像表示ステップに相当し、S403、S601が入力ステップに相当し、S405が移動ステップに相当し、S407、S602〜S606が制御ステップに相当し、S407がリアル映像表示ステップに相当する。
<実施の形態1の効果>
以上説明した実施の形態1における遠隔モニタリングシステムによれば、動かされた後のCG映像に類似したリアル映像を撮像できる監視カメラ201〜204を特定することで、見たい画像を撮像できる監視カメラ201〜204の選択が容易にできるようになる。
また、仮想カメラの位置と設定された注目点700とを用いて複数台の監視カメラ201〜204からCG映像に類似したリアル映像を撮像できる監視カメラ201〜204を特定することで、注目点700を撮像できる監視カメラ201〜204の選択が容易にできるようになる。
また、ユーザの入力に基づいて動かされた後のCG映像を、監視カメラ201〜204で撮像可能な監視カメラパラメータを用いて調整することで、生成されるCG映像と一致するリアル映像を実際の監視カメラ201〜204では、撮像できないような場合であっても、CG映像をリアル映像に一致させることができるようになる。
さらに、表示部401が、CG映像をリアル映像に対して重畳表示することで、ユーザは、リアル映像との対応関係を把握しながらCG映像を移動させることができるようになる。
[実施の形態2]
実施の形態2が実施の形態1と異なる点は、複数台ある監視カメラ201〜204の中からいずれかの監視カメラ201〜204を選択する入力をユーザから受け付けることで、リアル映像を撮像する監視カメラ201〜204を特定する点である。
以下、本発明の実施の形態2を、図10を用いて説明する。
図10は、本発明の実施の形態2における遠隔モニタリングシステムにおいて、仮想カメラが1台の場合の、最適カメラパラメータ算出処理の概要を示す。
まず、S1001にて、入力部301は、監視カメラ201〜204を識別するための監視カメラIDの入力を受け付ける。
次に、S1002にて、最適カメラ算出部102は、S1001にて入力を受け付けた監視カメラIDに基づいてリアル映像を撮像する監視カメラ201〜204を特定する。
次に、S1003にて、S1002にて特定された監視カメラ201〜204により撮像されたリアル映像が表示部401に表示される。
次に、S1004にて、3次元CG画像生成部101は、監視カメラ201〜204の監視カメラ設置データと同値の仮想カメラパラメータと、3次元CGモデルとに基づいて、CG映像を生成し、生成したCG映像をリアル映像に対して重畳して表示する。
次に、S1005にて、入力部301が、表示部401に表示されたCG映像に対する入力を受け付ける。
次に、S1006にて、仮想カメラ対話型設定部105は、S403にて受け付けた入力に基づいて仮想カメラパラメータの[仮想カメラ方向]を変更する。なお、実施の形態2では、仮想カメラパラメータのうち、[仮想カメラ位置]は、S1002にて特定された監視カメラ201〜204の[監視カメラ位置]と同一の位置に固定される。その後、仮想カメラ対話型設定部105は、変更した仮想カメラパラメータを3次元CG画像生成部101に送信する。
次に、S1007にて、3次元CG画像生成部101は、S1006にて変更された後の仮想カメラパラメータと3次元CGモデルとに基づいて、CG映像を生成し、表示部401は、動かされた後のCG映像をリアル映像に対して重畳表示する。
次に、S1008にて、最適カメラ算出部102は、仮想カメラから撮像されるCG映像と類似するリアル映像を撮像するための最適カメラパラメータとして、S1006にて変更された後の仮想カメラパラメータ(つまり、[仮想カメラ方向])を適用する。そして、最適カメラ算出部102は、最適カメラパラメータをカメラ制御部103へ送信する。
最後に、S1009にて、カメラ制御部103は、監視カメラ201〜204の制御部205に、最適カメラパラメータを用いてパン角度θpとチルト角度θtとズーム倍率fzとを設定する。制御部205は、設定された値に基づき、監視カメラ201〜204を制御する。そして、制御部205により制御された監視カメラ201〜204は、リアル映像を撮像し、表示部401は、制御された監視カメラ201〜204により撮像されたリアル映像を表示するとともに、動かされた後のCG映像をこのリアル映像に重畳表示する。
なお、上述したように監視カメラ201〜204の監視カメラIDを入力部301が受け付ける場合であっても、仮想カメラの仮想カメラ位置800が固定されないユーザインタフェースも考えられる。この場合、注目点700を設定する入力を受け付け、設定された注目点700を用いることで、特定された、監視カメラ201〜204の最適カメラパラメータを設定するようにしても良い。
ここで、S1001が指定ステップに相当し、S1008、S1009が制御ステップに相当する。
<実施2の形態の効果>
以上説明した実施の形態2における遠隔モニタリングシステムによれば、指定された監視カメラ201〜204を制御することで、CG映像に類似するリアル映像を撮像することで、実施の形態1の効果に加えて、注目点700を指定しなくても、リアル映像の表示をCG映像に追従させることができるようになる。
以上、本発明者によってなされた発明を実施の形態に基づき具体的に説明したが、本発明は前記実施の形態に限定されるものではなく、その要旨を逸脱しない範囲で種々変更可能であることはいうまでもない。
100 遠隔モニタリングシステム制御部
101 3次元CG画像生成部
102 最適カメラ算出部
103 カメラ制御部
104 画像入力部
105 仮想カメラ対話型設定部
106 対象CGモデル記憶部
107 監視カメラ設置データ記憶部
201,202,203,204 監視カメラ
205 制御部
301 入力部
401 表示部
700 注目点
800 仮想カメラ位置
901 3次元CGモデル
902,903,904,905,906 直線。

Claims (10)

  1. 3次元CGモデルから生成されたCG映像が表示される表示部と、
    前記CG映像に対するユーザの入力を受け付ける入力部と、
    前記入力に基づいて動かされた後の前記CG映像を前記表示部に表示する3次元CG画像生成部と、
    動かされた後の前記CG映像に類似したリアル映像を撮像できる監視カメラを特定する最適カメラ算出部と、
    前記特定された前記監視カメラを制御する制御部と、
    を有し、
    前記表示部には、制御された前記監視カメラで撮影されたリアル映像が表示される、遠隔モニタリングシステム。
  2. 請求項1に記載の遠隔モニタリングシステムにおいて、
    前記入力部は、注目点を設定する入力を受け付け、
    前記最適カメラ算出部は、前記仮想カメラの位置と設定された前記注目点とを用いて複数台の前記監視カメラから前記CG映像に類似した前記リアル映像を撮像できる前記監視カメラを特定する、遠隔モニタリングシステム。
  3. 請求項1に記載の遠隔モニタリングシステムにおいて、
    前記入力部は、1台の前記監視カメラを指定する入力を受け付け、
    前記制御部は、前記指定された前記監視カメラを制御することで、前記CG映像に類似した前記リアル映像を撮像させる、遠隔モニタリングシステム。
  4. 請求項1に記載の遠隔モニタリングシステムにおいて、
    ユーザの入力に基づいて動かされた後の前記CG映像を、前記監視カメラで撮像可能な監視カメラパラメータを用いて調整する、遠隔モニタリングシステム。
  5. 請求項1に記載の遠隔モニタリングシステムにおいて、
    前記表示部には、前記CG映像が前記リアル映像に対して重畳表示される、遠隔モニタリングシステム。
  6. 3次元CGモデルから生成されたCG映像を表示するCG映像表示ステップと、
    前記CG映像に対するユーザの入力を受け付ける入力ステップと、
    ユーザから受け付けた前記入力に基づいて前記CG映像を動かす移動ステップと、
    動かされた後の前記CG映像に類似したリアル映像を撮像できる前記監視カメラを特定し、特定された前記監視カメラを制御する制御ステップと、
    制御された前記監視カメラで撮影された前記リアル映像を表示するリアル映像表示ステップと、
    を有する、モニタリング方法。
  7. 請求項6に記載のモニタリング方法において、
    前記入力ステップは、注目点を設定する入力を受け付け、
    前記制御ステップは、前記仮想カメラの位置と前記注目点の情報とを用いて複数台の前記監視カメラから前記CG映像に類似した前記リアル映像を撮像できる前記監視カメラを特定し、特定された前記監視カメラを制御する、モニタリング方法。
  8. 請求項6に記載のモニタリング方法において、
    1台の前記監視カメラを指定する指定ステップをさらに有し、
    前記制御ステップは、指定された前記監視カメラを制御することで、前記仮想カメラの前記CG映像に類似した前記リアル映像を撮像する、モニタリング方法。
  9. 請求項6に記載のモニタリング方法において、
    前記移動ステップは、ユーザ入力が完了した後に前記監視カメラで撮像可能なカメラパラメータを用いて動かされた後の前記CG映像を調整する、モニタリング方法。
  10. 請求項6に記載のモニタリング方法において、
    CG映像表示ステップは、前記CG映像を前記リアル映像に対して重畳表示する、
    モニタリング方法。







JP2015524966A 2013-07-03 2013-07-03 遠隔モニタリングシステムおよびモニタリング方法 Expired - Fee Related JP6214653B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2013/068284 WO2015001635A1 (ja) 2013-07-03 2013-07-03 遠隔モニタリングシステムおよびモニタリング方法

Publications (2)

Publication Number Publication Date
JPWO2015001635A1 true JPWO2015001635A1 (ja) 2017-02-23
JP6214653B2 JP6214653B2 (ja) 2017-10-18

Family

ID=52143255

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015524966A Expired - Fee Related JP6214653B2 (ja) 2013-07-03 2013-07-03 遠隔モニタリングシステムおよびモニタリング方法

Country Status (3)

Country Link
US (1) US9967544B2 (ja)
JP (1) JP6214653B2 (ja)
WO (1) WO2015001635A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9332285B1 (en) 2014-05-28 2016-05-03 Lucasfilm Entertainment Company Ltd. Switching modes of a media content item
US10657729B2 (en) * 2018-10-18 2020-05-19 Trimble Inc. Virtual video projection system to synch animation sequences
JP7455524B2 (ja) * 2019-07-11 2024-03-26 キヤノン株式会社 情報処理装置、設定方法、及びプログラム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1042272A (ja) * 1996-07-24 1998-02-13 Nippon Telegr & Teleph Corp <Ntt> 遠隔監視装置
JP2008005450A (ja) * 2006-06-20 2008-01-10 Kubo Tex Corp 3次元仮想空間を利用したビデオカメラのリアルタイム状態把握、制御の方法
JP2012124839A (ja) * 2010-12-10 2012-06-28 Secom Co Ltd 画像監視装置
JP2012213083A (ja) * 2011-03-31 2012-11-01 Secom Co Ltd 監視範囲検知装置

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001249633A (ja) * 2000-03-03 2001-09-14 Hideki Araki 3次元cgモデルによる商品広告方法及びシステム
JP3848092B2 (ja) * 2001-03-13 2006-11-22 キヤノン株式会社 画像処理装置及び方法、並びにプログラム
US8471910B2 (en) * 2005-08-11 2013-06-25 Sightlogix, Inc. Methods and apparatus for providing fault tolerance in a surveillance system
JP2008259154A (ja) 2007-04-06 2008-10-23 Kubo Tex Corp 3次元仮想空間を利用した感知装置のリアルタイム状態把握、制御の方法
JP2010200167A (ja) * 2009-02-26 2010-09-09 Toshiba Corp 監視システム及び監視方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1042272A (ja) * 1996-07-24 1998-02-13 Nippon Telegr & Teleph Corp <Ntt> 遠隔監視装置
JP2008005450A (ja) * 2006-06-20 2008-01-10 Kubo Tex Corp 3次元仮想空間を利用したビデオカメラのリアルタイム状態把握、制御の方法
JP2012124839A (ja) * 2010-12-10 2012-06-28 Secom Co Ltd 画像監視装置
JP2012213083A (ja) * 2011-03-31 2012-11-01 Secom Co Ltd 監視範囲検知装置

Also Published As

Publication number Publication date
US20160205379A1 (en) 2016-07-14
WO2015001635A1 (ja) 2015-01-08
US9967544B2 (en) 2018-05-08
JP6214653B2 (ja) 2017-10-18

Similar Documents

Publication Publication Date Title
US11238666B2 (en) Display of an occluded object in a hybrid-reality system
US9851877B2 (en) Image processing apparatus, image processing method, and computer program product
JP5569329B2 (ja) 会議システム、監視システム、画像処理装置、画像処理方法及び画像処理プログラム等
JP6062039B2 (ja) 画像処理システムおよび画像処理用プログラム
JP6310149B2 (ja) 画像生成装置、画像生成システム及び画像生成方法
CN111373347B (zh) 用于虚拟现实内容的提供的装置、方法和计算机程序
CN108377361B (zh) 一种监控视频的显示控制方法及装置
CN106980378B (zh) 虚拟显示方法和系统
JP6214653B2 (ja) 遠隔モニタリングシステムおよびモニタリング方法
JP6939801B2 (ja) 情報処理装置、情報処理方法およびプログラム
KR20110088995A (ko) 3차원 모델 안에서 감시 카메라 영상을 시각화하기 위한 방법 및 시스템, 및 기록 매체
JP5727207B2 (ja) 画像監視装置
JP2022058753A (ja) 情報処理装置、情報処理方法及びプログラム
JP2017016166A (ja) 画像処理装置及び画像処理方法
KR101572800B1 (ko) 3차원 공간 모델에 대한 카메라 제어 시스템
TW202026861A (zh) 創作裝置、創作方法及儲存媒體
KR101246844B1 (ko) 3d 입체 관제 시스템 및 그 제공방법
WO2021131941A1 (ja) 情報処理装置、情報処理システム及び情報処理方法
JP6358996B2 (ja) 警備シミュレーション装置
JP6358998B2 (ja) 警備シミュレーション装置
JP5960472B2 (ja) 画像監視装置
JP2021197572A (ja) カメラ制御装置及びプログラム
WO2012091537A1 (en) System and method for navigation and visualization
KR20230030076A (ko) 디지털 트윈 기반의 카메라 위치 초기화 시스템 및 방법
JP2022114626A (ja) 情報処理装置、情報処理方法、およびプログラム

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170124

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170309

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170905

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170919

R150 Certificate of patent or registration of utility model

Ref document number: 6214653

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees