JP2004214830A - 一部リアルタイム画像表示装置 - Google Patents
一部リアルタイム画像表示装置 Download PDFInfo
- Publication number
- JP2004214830A JP2004214830A JP2002380052A JP2002380052A JP2004214830A JP 2004214830 A JP2004214830 A JP 2004214830A JP 2002380052 A JP2002380052 A JP 2002380052A JP 2002380052 A JP2002380052 A JP 2002380052A JP 2004214830 A JP2004214830 A JP 2004214830A
- Authority
- JP
- Japan
- Prior art keywords
- image
- real
- time
- camera
- video
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Abstract
【課題】広域画像を不整合なく正確に表示しつつ、広域画像中に所望の対象物を明瞭な動画像として表示する。
【解決手段】所望の視点方向及び画角でビデオ映像を取得するビデオカメラ装置1と、ビデオカメラ装置を制御するカメラ制御装置2と、ビデオ映像の各フレーム画像を球面画像に変換する球面画像変換装置3と、順次変換される球面画像を複合画像として整合させる球面画像整合装置4と、複合画像を仮想球面に貼り付け静止画周辺画像を生成する球面画像生成装置5と、球面画像を平面画像に再変換する平面画像変換装置8と、球面又は平面画像の静止画周辺画像中に周辺表示範囲を指定するリアルタイム画像位置指定装置6と、周辺表示範囲を切り取りビデオ出力そのままのリアルタイム画像を切れ目無くはめ込む画像合成装置7と、合成された静止画周辺画像とリアルタイム画像を表示する表示装置9とを備える。
【選択図】 図1
【解決手段】所望の視点方向及び画角でビデオ映像を取得するビデオカメラ装置1と、ビデオカメラ装置を制御するカメラ制御装置2と、ビデオ映像の各フレーム画像を球面画像に変換する球面画像変換装置3と、順次変換される球面画像を複合画像として整合させる球面画像整合装置4と、複合画像を仮想球面に貼り付け静止画周辺画像を生成する球面画像生成装置5と、球面画像を平面画像に再変換する平面画像変換装置8と、球面又は平面画像の静止画周辺画像中に周辺表示範囲を指定するリアルタイム画像位置指定装置6と、周辺表示範囲を切り取りビデオ出力そのままのリアルタイム画像を切れ目無くはめ込む画像合成装置7と、合成された静止画周辺画像とリアルタイム画像を表示する表示装置9とを備える。
【選択図】 図1
Description
【0001】
【発明の属する技術分野】
本発明は、例えばCCTV(Closed Circuit Tele Vision:閉回路テレビ)カメラ等のように、所望のビデオ映像を撮影し、動画像として表示可能な画像表示装置に関し、特に、背景となる広範囲な画像を結合静止画として生成するとともに、対象物をリアルタイム画像、すなわちビデオ画像で動画として生成し、静止画背景画像の中にリアルタイム画像をはめ込んで表示することで、広域画像を不整合なく正確に表示しつつ、広域画像中に所望の対象物を明瞭な動画像として表示することを可能とした一部リアルタイム画像表示装置に関する。
【0002】
【従来の技術】
一般に、CCTVカメラ等の一台のカメラで広範囲の画像を生成しようとする場合には、広角レンズで広範囲を撮影すれば良いが、このようにすると対象の映像は不明瞭になってしまう。一方で、対象物の画像を高精細に得ようとすれば、画角が小さくなり、全体が見えなくなってしまい、対象物の全体の中での位置関係が分からなくなる。
そこで、背景画像となるような広域の全体画像を表示しつつ、画像中の各対象物も不明瞭とならないように表示する従来技術として、複数のビデオ画像(フレーム画像)で一つの画像を構成し、隣接する各フレーム画像の重複部分の継ぎ目を整合することで、高精細な広域画像を表示する技術が提案されている(例えば、特許文献1参照。)。
【0003】
【特許文献1】
特開平6−169444号公報(第2−3頁、第1−3図)
【0004】
【発明が解決しようとする課題】
しかしながら、複数画像の結合による広域画像は、カメラの移動による不整合や、原理的な不整合や歪みが必ず生じてしまい、その不整合が無視できる小範囲の場合に限って、実用上の問題が生じない場合に利用できるに過ぎなかった。
例えば、このような従来の画像結合方法によってビデオカメラを中心とした全周囲画像を作ろうとしても、画像を結合していくと最終的に不整合や歪みが生じてしまい、全周囲画像を完成することはできなかった。
また、このように複数のビデオ画像を単に継ぎ合わせて一つの広域画像を構成する従来方法では、各フレーム画像がすべて動画となるために、通信データ量が多くなり過ぎて、例えば現在のインターネット等のような狭帯域の回線を使用して動画像を送ろうとしても、動きが遅くなってしまい現実的には使用できないという問題もあった。
【0005】
本発明は、以上のような従来の技術が有する問題を解決するために提案されたものであり、背景となる広範囲な画像を結合静止画として生成するとともに、対象物をリアルタイム画像、即ちビデオ画像で動画として生成し、静止画背景画像の中にリアルタイム画像をはめ込んで表示することで、広域画像を不整合や歪みなく正確に表示しつつ、広域画像中に所望の対象物を明瞭な動画像として表示することを可能とした一部リアルタイム画像表示装置の提供を目的とする。
さらに、本発明は、背景となる周囲画像を静止画として送信するとともに、所望の対象物を狭い範囲の動画像として送信し、動画と静止画を結合したビデオ画像を送ることで、帯域の狭い回線であっても所望の対象物の画像を動画像としてデータ通信が可能となる一部リアルタイム画像表示装置の提供を目的とする。
【0006】
【課題を解決するための手段】
上記目的を達成するため、本発明の一部リアルタイム画像表示装置は、請求項1に記載するように、所望の視点方向及び画角でカメラ周囲の全部又は一部のビデオ映像を撮影する撮影手段と、撮影手段で撮影されるビデオ映像を一又は二以上のフレーム画像として取得し、所望の目的面に整合された静止画周辺画像に変換する静止画周辺画像変換手段と、静止画周辺画像の一部を、撮影手段で撮影されるビデオ映像がそのまま出力されるリアルタイム画像の表示範囲として指定するリアルタイム画像指定手段と、リアルタイム画像と静止画周辺画像とを一体的に表示する画像合成表示手段と、を備える構成としてある。
【0007】
このような構成からなる本発明の一部リアルタイム画像表示装置によれば、背景となるべき広域の全体画像は静止画像として表示し、その中に動画像となるリアルタイム画像を整合して貼りつけて表示することで、広域の全体画像の中にリアルタイム画像を表示することができる。
このようにすることで、例えばCCTVカメラで撮影される映像において、静止画で表示される広域の全体画像の中に、時々刻々変化する現在時点の画像を動画で示すリアルタイム画像を表示されることになり、全体把握と対象物認識の双方が極めて高精細な画像によって行えるようになる。
【0008】
具体的には、請求項2記載の一部リアルタイム画像表示装置では、前記撮影手段が、所望の視点方向及び画角でビデオ映像を取得するビデオカメラ装置と、ビデオカメラ装置を制御し、所望の視点方向及び画角でカメラ周囲の全部又は一部を走査させるとともに、指定した視点方向及び画角でビデオ映像を取得させるカメラ制御装置と、を備え、前記静止画周辺画像変換手段が、ビデオカメラ装置で取得されるビデオ映像の各フレーム画像を、所定の球面画像に変換する球面画像変換装置と、順次変換される球面画像をカメラ周囲の全部又は一部に相当する複合画像として位置合わせし、切れ目無く整合させる球面画像整合装置と、整合された複合画像を仮想球面に貼り付けて球面画像を生成する球面画像生成装置と、を備え、前記リアルタイム画像指定手段が、球面画像からなる静止画周辺画像中に所望の周辺表示範囲を指定するリアルタイム画像位置指定装置を備え、前記画像合成表示手段が、静止画周辺画像から指定された周辺表示範囲を切り取り、当該切り取り部分に球面変換されたビデオ出力そのままのリアルタイム画像を位置合わせして切れ目無くはめ込む画像合成装置と、合成された静止画周辺画像とリアルタイム画像とを同一面に表示する表示装置と、を備える構成としてある。
【0009】
特に、請求項3では、前記静止画周辺画像変換手段が、必要に応じて仮想球面に貼り付けられた画像を平面画像に再変換する平面画像変換装置を更に備え、前記リアルタイム画像位置指定装置が、平面画像からなる静止画周辺画像中に所望の周辺表示範囲を指定し、前記画像合成装置が、指定された周辺表示範囲を切り取り、当該切り取り部分に、平面画像に変換されたリアルタイム画像をはめ込む構成としてある。
【0010】
一方、請求項4記載の一部リアルタイム画像表示装置では、前記撮影手段が、所望の視点方向及び画角でビデオ映像を取得するビデオカメラ装置と、ビデオカメラ装置を制御し、所望の視点方向及び画角でカメラ周囲の所定範囲を走査させるとともに、指定した視点方向及び画角でビデオ映像を取得させるカメラ制御装置と、を備え、前記静止画周辺画像変換手段が、ビデオカメラ装置で取得されるビデオ映像の各フレーム画像を、所定の目的平面画像に変換する目的平面変換装置と、順次変換される平面画像を複合画像として位置合わせし、切れ目無く整合させる複合画像整合装置と、整合された複合画像を仮想平面に貼り付けて広域画像を生成する広域画像生成装置と、を備え、前記リアルタイム画像指定手段が、必要に応じて、広域画像からなる静止画周辺画像中に所望の周辺表示範囲を指定するリアルタイム画像位置指定装置を備え、前記画像合成表示手段が、静止画周辺画像から指定された周辺表示範囲を切り取り、当該切り取り部分に、平面変換されたビデオ出力そのままのリアルタイム画像を位置合わせして切れ目無くはめ込む画像合成装置と、合成された広域画像からなる静止画周辺画像とリアルタイム画像とを同一の目的平面に表示する表示装置と、を備える構成としてある。
【0011】
このような構成からなる本発明の一部リアルタイム画像表示装置によれば、撮影用のカメラの光学中心を球の中心とする仮想球面を設定し、画像をその球面上に貼りつけるように球面画像に変換し、球面上で結合することで、歪みや不整合のないカメラ全周囲を示す広域画像を取得することができる。
また、各視点方向に共通の仮想目的平面を想定し、複数の画像をその目的平面上に貼りつけるように平面変換して、目的平面上で結合することで、歪みや不整合のない平面広域画像を取得することができる。
そして、このような仮想球面又は仮想平面を利用し、視点方向及び視角の制御可能なビデオカメラ装置の視点方向及び画角を移動させ、撮影された映像から、広範囲の全体画像、例えば全周囲360度画像を不整合なく正確な画像として生成することができる。なお、全周囲画像を取得するには、例えばカメラを全周囲について回転撮影し、静止画の360度画像を生成する。
【0012】
このようにして生成された広域の全体画像は、リアルタイムの画像ではないが、指定された時間間隔で次々更新することで、常に最新の画像の360度全体画像や、広域の平面画像を表示することができる。そして、このような全体画像中に明確な観察対象がある場合には、必要に応じて広域の全体画像中に現在時点の画像、即ちリアルタイム画像を貼りつけ、更新される静止画による広域の全体画像の中にリアルタイム動画画像を表示することができる。
これにより、これまで一台のCCTVカメラ等では分からなかった、現在観察している対象や部分が全体のどの部分であるかが、静止画の全体画像の中に表示される動画像として示されることになり、明確に把握できるようになる。
【0013】
特に、静止画で表示される広範の全体画像の上に、所望の対象物のビデオ画像を重ね合わせて表示することで、全体の画像を観察しながら、必要な箇所,対象物のみを動画観察できるようになる。
この場合、基準とすべき所定の目的平面(静止画)をリアルタイム画像の表示平面に常に一致させるようにして、リアルタイムのビデオ画像の平面がカメラの移動にともなって変化(移動)すると、目的平面もそれに追従するように設定することができる。この場合には、取り込んだリアルタイム画像の平面が基準の目的平面となり、カメラ光軸方向の移動に伴って、目的平面もそれに追従変化し、静止画周辺画像がカメラ光軸に一致する平面に常に変換されて、リアルタイム画像と合成表示することが可能となる。
また、静止画中の所望の対象物の画像は、ポインティングデバイスのクリック等によって任意に指定することで、所望の対象物を任意に指定して静止画像からリアルタイム画像に切り替えることができる。
さらに、リアルタイム画像をクローズアップ表示(ズーム表示)に切り替えることも可能で、高精細かつ見易いズームアップ画像により、全体の位置づけが更に分かり易くなるリアルタイム画像を表示させることができる。
【0014】
また特に、請求項5では、前記目的平面変換装置が、単数又は複数の基準仮想平面を設定し、単数又は複数のビデオカメラ装置で取得される各方向の画像を、所望の基準仮想平面に変換し、前記複合画像整合装置が、一又は複数の各方向の画像を所望の準仮想平面上で位置合わせし、継ぎ目無く結合して整合し、当該多方向の結合画像を記録することにより、多方向の結合画像を、必要とする任意の目的平面上に変換して所望の画像表示する構成としてある。
【0015】
このような構成からなる本発明の一部リアルタイム画像表示装置によれば、リアルタイム画像の背景画像となる多方向の画像を、仮想球面に変換して貼りつけるのではなく、また、直接目的平面に変換するのでもなく、一旦基準となる基準仮想平面を設定し、その基準仮想平面に変換して、保存し、その保存データから、必要とする目的平面に変換することができる。
これにより、いつでも自由にどの方向にであっても、所望の背景画像を所望の目的平面に変換表示できるようになる。
このように、本発明では、カメラで取得される単数又は複数の画像を目的平面に貼り付けて表示する方法として、▲1▼仮想球面に変換して貼り付ける方法、▲2▼取得映像を目的平面に直接貼り付ける方法、▲3▼基準仮想平面に基づいて画像データを保存して所望の目的平面に投影画像を貼り付ける方法、があり、これらの方法を観察目的や画像の使用目的等に応じて任意に選択することができる。
【0016】
さらに、請求項6記載の一部リアルタイム画像表示装置は、ビデオ映像撮影用のカメラ側装置と、カメラ側装置を遠隔操作するためのオペレータ側装置とを備え、カメラ側装置に、前記撮影手段と、前記静止画周辺画像変換手段と、前記リアルタイム画像指定手段が備えられ、オペレータ側装置に、前記画像合成表示手段が備えられ、カメラ側装置で取得された静止画周辺画像及び所望のリアルタイム画像がオペレータ側装置に送信され、当該オペレータ側装置で一体的に合成されて表示される構成としてある。
【0017】
具体的には、請求項7に記載するように、前記カメラ側装置には、ビデオ映像撮影用のカメラ側装置と、カメラ側装置を遠隔操作するためのオペレータ側装置とを備え、カメラ側装置には、前記撮影手段として、所望の視点方向及び画角でビデオ映像を取得するビデオカメラ装置と、指定によりビデオカメラ装置を制御し、所望の視点方向及び画角でカメラ周囲の全部又は一部を走査させるとともに、指定した視点方向及び画角でビデオ映像を取得させるカメラ制御装置と、を備えるとともに、前記静止画周辺画像変換手段として、ビデオカメラ装置から画像を取得する画像取得装置と、画像取得装置で取得される画像から静止画周辺画像となるべきフレーム画像を取得する1フレーム画像取得装置と、1フレーム画像を更新する周囲画像更新指定装置と、を備え、前記リアルタイム画像指定手段として、リアルタイム画像切り取り位置を指定するリアルタイム画像位置指定装置と、1フレーム画像内の指定された範囲でリアルタイム画像を切り取るリアルタイム画像切り取り装置と、リアルタイム画像と、背景となるべき周囲静止画像との位置関係を指定するリアルタイム画像位置信号付加装置と、を備え、さらに、オペレータ側に周囲静止画像信号,リアルタイム画像信号,リアルタイム画像の位置を指定する位置指定信号を送信するカメラ側送信装置と、オペレータ側からカメラ制御,周囲画像更新,リアルタイム画像位置の指示を受信するカメラ側受信装置と、を備え、前記オペレータ側装置には、カメラ側装置から周囲静止画像信号,リアルタイム画像信号,リアルタイム画像の位置を指定する位置指定信号を受信するオペレータ側受信装置と、ビデオカメラ装置を遠隔操作し、指定した視点方向及び画角でビデオ映像を取得させるとともに、リアルタイム画像の位置を変更するオペレータ作業装置と、オペレータ作業装置の遠隔操作信号をカメラ側に送信するオペレータ側送信装置と、を備えるとともに、さらに、前記画像合成表示手段として、受信した周囲静止画像とリアルタイム画像とを、受信した位置指定信号により位置合わせする位置合わせ装置と、位置合わせした周囲静止画画像とリアルタイム画像を合成して合成画像を生成する画像合成装置と、生成された合成画像を最終画像として表示する表示装置と、を備える構成としてある。
【0018】
このような構成からなる本発明の一部リアルタイム画像表示装置によれば、背景画となる静止画とリアルタイム画像となる動画をカメラ側装置から別個に送信し、オペレータ側装置で一枚の画像を合成することで、狭帯域の回線を介してもストレスなくデータを送信でき、オペレータ側から遠隔操作されるカメラ装置であっても、本発明に係る一部リアルタイム画像を滑らかに生成,表示させることが可能となる。
一般に、インターネット等の狭帯域の回線で動画を送ろうとしても、データ量が多い場合には動きが遅くなり、現実的に使えないことが多い。その一方で、本発明で得られる合成画像は、リアルタイム画像が狭い範囲であっても、背景画像があれば、その背景画像から必要な箇所の位置づけが容易にでき、効果的な観察が行える。そこで、本発明では、背景となる静止画を間欠的に送り、必要な一部分をリアルタイム画像で送り、それをオペレータ側で合成して一枚の画像を生成することで、広い背景画像中に必要な箇所のリアルタイム画像が表示された合成画像を取得,観察できるようにしてある。
これにより、本発明では、動画については狭い範囲のリアルタイム画像を送信すれば良く、全画像を動画として送ることに比べてデータ量は極めて少なくなり、狭帯域を介して必要な情報を得ることができる。
【0019】
なお、動画データの圧縮方式としてMPEG1方式がある。MPEG1方式では、画像全体を細かいブロックに分割して、動きのある分のみ送ることで、伝送帯域の圧縮が実現されている。しかしながら、MPEG1方式は広域の全体画像の中にリアルタイム画像をはめ込もうする技術ではなく、一台のカメラからの画像をそのままブロック化する画像圧縮技術である。従って、MPEG1方式では、本発明のように、ブロック毎に異なるカメラ方位が対応し、一つのブロックにカメラの一方位が対応することはなく、また、広域の全体画像と現時点での動画像となるリアルタイム画像を明確に分離して、それらを表示の時に合成する本発明のようなことは実現できない。このように、MPEG1方式とは動画の圧縮技術であり、本発明をさらに効率よくするためにMPEG1方式の圧縮技術を利用することは勿論の可能である。例えば、本発明における背景となる広域の全体画像及びリアルタイム画像について、画像圧縮のためにMPEG1方式を利用することは可能で、MPEG1方式は本発明を実現するために利用できる技術の一つである。
【0020】
【発明の実施の形態】
以下、本発明の一部リアルタイム画像表示装置の好ましい実施形態について図面を参照しつつ説明する。
[第一実施形態]
まず、図1〜図6を参照して、一部リアルタイム画像表示装置の第一実施形態について説明する。
図1は、本発明の第一実施形態に係る一部リアルタイム画像表示装置の概略構成を示すブロック図である。図2は、図1に示す一部リアルタイム画像表示装置で球面画像及び平面画像を取得する状態を模式的に示した説明図である。
これらの図に示す本実施形態の画像表示装置は、ビデオカメラ装置1と、カメラ制御装置2,球面画像変換装置3,球面画像整合装置4,球面画像生成装置5,リアルタイム画像位置指定装置6,画像合成処理装置7,平面画像変換装置8及び表示装置9を備えている。
【0021】
ビデオカメラ装置1は、例えば監視用CCTVカメラ等で構成される撮影手段であり、所望の背景画及び背景画中の所望の箇所や対象物を撮影する。
ビデオカメラ装置1は、カメラ制御装置2によって制御され、カメラの視点方向と画角が自由にコントロールされるようにコンピュータで制御される。このカメラ制御装置2の制御により、ビデオカメラ装置1は幾何学的に規則的に走査しながらカメラ全周囲の画像を撮影できる。
ここで、カメラ全周囲の画像を撮影する方法としては、直接カメラを全周回転させる他、例えば、カメラは回転させずにカメラの前方等に設置したミラーを回転させることでも実現できる。
なお、この種のビデオカメラ装置1は、例えば、道路管理用CCTV,河川管理用CCTV,交通安全利用CCTV等に利用されるが、これ以外の用途,目的に使用されるものであっても良い。
【0022】
球面画像変換装置3は、ビデオカメラ装置1で撮影される各フレーム画像を所定の球面変換する。ビデオカメラ装置1で撮影される画像は、個々のフレーム画像は静止画で、フレーム画像自身は平面画像である。このため、原理的にはそのまま連続的に結合しても結合球面画像を生成することはできない。そこで、本実施形態では、球面画像変換装置3で球面画像変換するようにしてある。
本実施形態では、球面画像変換装置3は、あらかじめ球体の中心にカメラ光学中心を位置させ、全方向の映像を球面に投影してできる仮想全画像球面を想定し、所望の球面画像を生成するようにしてある。
【0023】
具体的には、図2に示すように、例えばCCTVカメラからなるビデオカメラ装置1の光学中心を中心とする仮想の球:Aを定義し、定義した球面上の一点の座標を決定し初期位置とし、カメラ制御装置2(図3のS102:カメラ姿勢駆動装置参照)に記憶する。例えば、真北方向とCCTVカメラの水平方向が球面と交差する位置を初期位置とする等、利用する処理内容に応じてCCTVカメラの初期位置を決定する。
そして、この仮想球面に接する平面画像a(フレーム画像)を、仮想球面に整合した球表面画像bに変換,生成する。このようにして得られた球面画像が順次結合されて、整合された全周画像が生成されることになる。
【0024】
球面画像整合装置4は、球面画像変換装置3で順次変換される球面画像を、カメラ周囲の全部又は一部に相当する複合画像として仮想球面(図2参照)上に位置合わせし、切れ目無く整合させる。
球面画像生成装置5は、球面画像整合装置4で生成される各球面画像を仮想平面上で位置あわせして整合し、結合して貼り付け、所望の全周画像を生成する。
なお、全周囲画像は、原理的には各画像を球面変換しないと全周囲画像は整合しないが、例えば、画角が極めて小さい画像の場合、球面に変換してもその違いは極めて少ないため、球面変換をしなくても事実上差し支えない場合がある。このため、変換のための演算時間をかけずに全周画像を生成する必要があるような場合には、簡易的方法として球面変換を省略することは可能である。
また、画角の小さい画像から全周画像が生成される場合、高精細な全周画像を生成できる。一方、比較的広角の画角の大きい画像から全周画像を生成すれば、画角の小さい画像からの画像に比較して、精細度は落ちるが、短時間で全周画像を生成,更新できることになる。
【0025】
リアルタイム画像位置指定装置6は、球面画像(又は平面画像)からなる静止画背景画像の中の目的の箇所や対象物,範囲等、所望の領域をリアルタイム画像として指定するリアルタイム画像指定手段である。
このリアルタイム画像指定装置6としては、画像中の所望の範囲を選択,指定できるマウス等のポインティングデバイスによって構成することができる。リアルタイム画像指定装置6で指定されるリアルタイム画像の静止画像内の位置、リアルタイム画像領域の形状,大きさは、例えばマウスのドラッグ操作,クリック操作によって任意に指定できる。
画像合成処理装置7は、リアルタイム画像位置指定装置6で指定されたリアルタイム画像(周辺表示範囲)を切り取り、切り取った部分に球面変換(又は平面変換)されたビデオ出力そのままのリアルタイム画像を位置合わせして切れ目無くはめ込む。この画像合成処理装置7で合成された合成画像が表示装置9を介して観察者側に表示されることになる(図4及び図5参照)。
【0026】
平面画像変換装置8は、必要に応じて、球面画像生成装置5で仮想球面に貼り付けられた画像を、更に平面画像に再変換する。
この平面画像変換装置8を備えることにより、仮想球面に貼り付けられた全周画像が平面画像に変換され、平面スクリーン等に平面表示できるようになる。
なお、球面画像は、そのまま球面スクリーン等に球面として表示し、その中心部分から観察することが可能であり、その場合には、平面表示画像は必要とならないので、平面画像変換装置8を省略することができる。
【0027】
表示装置9は、合成された静止画周辺画像とリアルタイム画像とを同一面に表示する合成画像表示手段である。
そして、合成画像中のリアルタイム画像が随時更新され、また、リアルタイム画像の視点と画角が移動することにより、表示装置9に表示される全体画像中のリアルタイム画像が更新されたり移動する。このようにして、静止画の全体画像の中に動画のリアルタイムが表示されることで、リアルタイム画像の全体把握と同時に現在の動画画像を観察することができるようになる。
ここで、表示装置9は、全周画像を球面スクリーンに表示し、そこにリアルタイム画像を整合して重ねて結合して表示する場合と、平面スクリーン上に広角静止画面を表示し、その静止画面中にリアルタイム画像を重ねて整合し結合して表示する場合がある。
表示装置9が球面スクリーンの場合には、全周画像を全体画像とすることができる。一方、表示装置9が平面スクリーンの場合は、球面上の全周画像から必要に応じて必要な範囲を切り取ってその画像を平面画像に変換して表示する。
【0028】
次に、以上のような構成からなる本実施形態に係る装置の動作について、図3を参照しつつ説明する。図3は、図1に示す本実施形態の一部リアルタイム画像表示装置の動作の一例を示す説明図である。
同図に示す例は、本実施形態の一部リアルタイム周囲画像表示装置をCCTV装置(例えば道路管理用CCTV、河川管理用CCTV、交通安全利用CCTV等)に利用した場合となっている。
【0029】
[初期設定]
まず、CCTVカメラ(S101参照)からなるビデオカメラ装置1の初期設定を行う。初期設定は、図2で示したように、CCTVカメラの光学中心を中心とする仮想の球:Aを定義し、定義した球面上の一点の座標を決定し初期位置とし、カメラ制御装置2(S102〜S103参照)に記憶する。
【0030】
[全周画像の記録]
初期設定後は、CCTVカメラによってカメラ全周囲の全部又は一部の画像を記録する。ここでは、CCTVカメラ初期位置から全周を記録(又は更新)する流れを説明する。なお、広範囲ではあるが全周は完成しない広域画像の場合もまったく同様である(第二実施形態の図8参照)。
図3に示すように、CCTVカメラ(S101)は、カメラ姿勢駆動装置(S102)によって上下左右に視点が移動される。この視点の可動範囲は、設置状況等で制限されるが、ここでは、カメラ脚部を除いて定義した球面の表面全周を制御可能とする。カメラ姿勢駆動装置(S102)は、カメラ姿勢制御プログラム(S103)及び手動カメラ制御(S104)で駆動制御される。カメラ制御姿勢プログラム(S103)は、概略位置画角検出(S105)でカメラの上下、左右の動きをセンサー等で感知し、カメラの光軸の方向、カメラの上下の角度を得て、カメラの光軸が球面のどの方向を向いているか、記録し制御する。
これにより、CCTVカメラによって所望の背景画像となる静止画像が撮影できるようになる。
【0031】
以下、CCTVカメラ(S101)を制御し、CCTVカメラより得られた静止画像を、定義した球面上で接合し記録する流れを以下に述べる。
CCTVカメラは、カメラ制御プログラム(S103)及び手動カメラ制御(S104)で制御され、カメラ姿勢駆動装置(S102)で初期位置に移動する。
次に、CCTVカメラの映像を画像キャプチャ(S106)して静止画像が得られる。得られた静止画像は、球面収差補正(カメラレンズの歪み補正)がなされ(S107)、球面収差補正後の画像に、定義した球面のパラメータを使用して球面変換処理が行われる(S108)。
次に、カメラ姿勢制御プログラム(S103)の制御により、定義された球面の次の位置にカメラ姿勢駆動装置を制御し、CCTVカメラの光軸を移動する。ここで「次の位置」とは、運用上要求される解像度で画像合成可能な距離分離れた位置をいう。そして、移動した次の位置でS106〜S108の画像キャプチャ〜球面変換処理を行う。
以上の動作を繰り返すことにより、所望の範囲を撮影した複数の球面画像が連続的に生成される。
【0032】
次に、切り替え制御(S109)により、全周静止画像の更新(S110)か、一部リアルタイム画像の更新(S112)かが選択される。全周画像の更新が選択されると(S110)、連続的に生成された静止画像が結合され連続全周結合画像生成(S111)が行われる。その結果、定義した仮想球面に位置合わせして張り付けられた(S113)、歪みのない整合された全周画像が得られる。
得られた全周囲画像は、結合合成画像生成(S114)を経てリアルタイム画像と合成される。さらに、合成画像は、必要に応じて平面投影画像に変換され(S115)、平面表示・記録・再生装置(S116)及び球面表示・記録・再生装置(S117)を介して表示される。
【0033】
[全周画像の更新]
全周画像の更新は、上述した全周画像の記録を繰り返すことで行うことができる。すなわち、全周画像の更新は、既に記録された静止画像を構成する各画像を順次更新する形で行われる。
ここで、CCTVカメラヘッドが1台の場合に、リアルタイム映像を取得するためにCCTVカメラが使用されているときには、更新処理を行えない。従って、その場合には、CCTVカメラがリアルタイム映像用に使用されていない時間帯等に全周画像を更新することになる。また、更新は、明示的に行われていいない場合でも、CCTVの映像を常時更新に使用することは可能である。例えば、リアルタイム画像は常に最新画像であるので、そのリアルタイム画像によって全周画像の該当部分を更新しても良い。
仮に、カメラが複数備えられれば、全周画像撮影用のカメラとリアルタイム画像撮影用のカメラをそれぞれ専用化できるので、全周画像の更新が中断することなく、リアルタイム画像の表示を並行して行うことができる。
【0034】
具体的な更新の流れは、上述した全周画像の記録の場合と同様であり、概略次の通りである。
図3において、カメラ姿勢制御プログラムの制御により、定義された球面の更新位置にカメラ姿勢駆動装置が制御され、CCTVカメラの光軸が移動する。
CCTVカメラで得られた映像は画像キャプチャされ(S106)、静止画像が取得される。この画像が定義球面のパラメータを使用した球面収差補正(カメラレンズの歪み補正)され(S107)、その後、球面変換処理(S108)が行われて、切り替え制御(S109)により全周画像更新(S110)に切り替えられて連続全周結合画像生成(S111)が行われる。このようにして得られた画像は、全周囲画像とリアルタイム画像との結合合成画像生成(S114)により、既に記録されている全周囲画像と結合生成され、必要に応じて平面画像変換され(S115)、平面表示・記録・再生装置(S116)及び球面表示・記録・再生装置(S117)に記録,表示される画像が更新される。
なお、このような静止画像の更新処理は、定期更新,変化時のみ更新,リアルタイム画像周辺の更新頻度を上げる重み付け更新等、使用目的や観察対象等に応じて更新頻度,更新態様を変更することができる。
【0035】
[一部リアルタイム周囲画像表示]
リアルタイム画像は、静止画像中の所望の箇所,対象物等を直接観察するための動画像であり、CCTVカメラは、一般に、ここで言うリアルタイム画像(動画)を見ることを目的としたカメラである。
以下、本実施形態の表示装置の特徴であるリアルタイム映像表示(動画表示)と全周画像を合成し表示する流れを説明する。
まず、手動カメラ制御(S104)又はカメラ姿勢制御プログラムによる制御(S103)でカメラ姿勢駆動装置を制御し、CCTVカメラを所望の撮影対象に向ける(S101)。ここで、CCTVカメラの映像を画像キャプチャし(S106)、球面収差補正を加えて(S107)球面変換処理を行い(S108)、切り替え制御(S109)により、球面変換処理後の画像を一部リアルタイム(S112)とする。また、位置合わせのため、概略位置角検出(S105)よりカメラの光軸の移動量とともに全周画像との位置合わせ(S113)に送られる。
【0036】
これにより、全周囲画像とリアルタイム画像が不整合や歪みなく仮想球面上に画像合成され、結合合成画像が生成される(S114)。合成画像は、必要に応じて平面投影画像生成(S115)により、指定された範囲が、隣接した全周囲画像とともに、歪みのない画像として平面投影画像生成され(S115)、平面表示・記録・再生装置(S116)で表示または記録され、又は、球面表示・記録・再生装置(S117)に表示,記録される。
以上の流れを高速に繰り返すことで、所望の対象物についてのリアルタイム映像を動画として表示又は記録することができる。
【0037】
[全周画像内での位置指定]
リアルタイム画像の指定は、静止画像からなる全周囲画像の全体又は一部を表示し、その中の目的の対象物をマウス等のポインティングデバイスでクリックやドラッグ操作を行うことにより、対象物の動画を、任意の大きさ,形状で、静止画周辺画像中に表示することができる。このように、本実施形態では、部分的なCCTV映像を静止画像全体の中で位置づけながら指定できるようになっている。
マウスを使用したリアルタイム画像の指定は、所望の周辺画像が表示されている画面の中でマウスを使用して、リアルタイム画像でみたい範囲を四角形で指定する、あるいは、例えば牛等の対象物を指定し対象物を中心に四角形で表示することで行える。また、対象物の指定の仕方として、四角形で囲むだけでなく多角形や円等で、対象物を詳細に、しかも一カメラによる画像内の複数の箇所を同時指定することも可能である。さらに、本願出願人が既に提案しているPRM技術(特願2002−506565号)を利用することで、画像認識処理によって対象物の形状そのものを指定することも可能である。
【0038】
図4及び図5に、指定された所望のリアルタイム画像が静止画中に表示される合成画像の一例を示す。
図4に示す例では、25枚のフレーム画像からなる静止画Aが表示され、静止画A中の任意の対象物を含む周辺画像範囲がリアルタイム画像Bとして指定され(同図では白い牛)、静止画Aに整合されて切り目なく合成表示される。
また、リアルタイム画像Bとして指定,生成される画像は、所望の範囲,形状,大きさ等で指定でき、例えば、図5に示すように、対象物の輪郭に沿ったリアルタイム画像(同図では白い牛の輪郭で切り取られたリアルタイム画)を指定し、静止画上に合成表示することもできる。
【0039】
[部分拡大表示]
本実施形態では、CCTVカメラのズーム機能を利用することで、リアルタイム画像又は静止画像の一部分を拡大した映像として表示することができる。
まず、リアルタイム映像の部分拡大について説明する。
上述した全周画像の一部にリアルタイム画像を表示させる処理の流れにおいて、CCTVカメラのズーム機能によりリアルタイム映像部分が拡大されると、表示範囲が狭くなり、リアルタイム映像部分のみ解像度が上がって、平面投影画像生成され(S115)、平面表示・記録・再生装置で表示又は記録することができる(S116)。
また、必要に応じて、球面表示・記録・再生装置(S117)に表示,記録することができる。
ズームによる部分拡大は、映像が断片であり、通常は全体の中で位置づけすることが難しいが、本実施形態では、静止画全周画像中にズーム画像が重ねて表示し、あるいは、別の画面に全周画像を表示し拡大箇所を範囲表示する等することで、部分拡大箇所がより解りやすく把握できるようになる。
【0040】
次に、全周画像の拡大について説明する
まず、全周画像の解像度は、例えば、CCTVカメラの解像度と、定義された球の大きさにより下限の解像度を決めることができる。この解像度を下限とし、上限の解像度はCCTVカメラのズーム倍率で決定される。
全周画像の記録・更新時間を短くするためには、下限の解像度で全周画像を作成することが望ましいが、高解像度画像を必要とする場合には、CCTVカメラのズーム機能を利用して、全周画像記録時に、高解像度画像を取得し全周画像を作成することが考えられる。但し、この場合には、画像作成時間が比較的、長時間に渡ることになる。そこで、全周画像中、部分的に高解像度画像を必要とする範囲を指定し、その部分だけを高解像画像で記録することができる。高解像度画像の範囲は、複数指定できる。
また、リアルタイム画像と全周画像の拡大を同時に使用すれば、リアルタイム画像の拡大率と全種画像の拡大率を同じにし、リアルタイム部分の動画と全周画像の表示を同じ解像度で見ることも可能となる。
さらに、拡大した一部リアルタイム映像を表示中、平面表示・記録・再生装置(S116)と球面表示・記録・再生装置(S117)に記録された画像を更新することにより、拡大映像が部分的に更新されることになる。
【0041】
[巡回表示]
巡回表示は、全周画像上で指定した範囲または対象物を、指定した解像度で、指定した時間表示を繰り返す機能である。例えば、平面投影表示された全周画像上で巡回表示の範囲指定、対象物指定をマウス等ポインティングデバイスで行う。
巡回表示時間は、使用できるカメラの台数、制御に必要な時間、指定範囲数、指定対象物数、指定解像度により決定され、その時間間隔で巡回表示を繰り返すことができる。
巡回表示箇所を、全周画像と重ねてあるいは、別の画面に表示箇所を範囲表示する等することにより非常に解りやすくなる。
また、巡回表示中、必要に応じ、平面表示・記録・再生装置(S116)及び球面表示・記録・再生装置(S117)に記録された画像の更新を行うこともできる。
また、全周囲背景画像は静止画画像であることから、画像更新時に前の画像と更新画像を比較し、変化が有れば、その変化を表示し、記録し、自動的にその場所をリアルタイム画像に切り替えて追跡することもできる。
【0042】
[画像記録]
画像記録は、例えば、平面投影表示された全周画像上でマウス等ポインティングデバイスを利用し範囲、対象物を選択し、指定した解像度で、指定した時間記録する機能である。全周画像上で記録の範囲指定、対象物指定を行う。
記録の時間間隔は、使用できるカメラの台数、制御に必要な時間、指定範囲数、指定対象物数、指定解像度により決定され、その時間間隔で、必要に応じ、平面表示・記録・再生装置(S116)及び球面表示・記録・再生装置(S117)に記録を繰り返すことができる。
【0043】
[全周画像内で対象物の追跡と記録]
さらには、画像内の対象物の移動に自動的に追従して、自動追跡表示することもできる。
全周画像内で対象物を追跡し記録する場合には、例えば、平面投影表示された全周画像上でマウス等ポインティングデバイスを利用し対象物を選択し、指定した解像度で追跡しリアルタイム表示する。
対象物は全周画像の全体又は一部の静止画周辺画像の中で、一部リアルタイム映像として重ね合わせて表示される。あるいは、全周画像の全体又は一部の静止画が別画面表示され、一部リアルタイム映像範囲が明示されるようにしても良い。この場合、対象が移動することによりその明示された範囲も移動する。
また、追跡表示中、必要に応じ、平面表示・記録・再生装置(S116)及び球面表示・記録・再生装置(S117)に記録することも勿論できる。
【0044】
なお、以上説明した本実施形態では、図3に示したように、一部リアルタイム画像は、球面変化処理され、必要に応じて平面画像に再変換されるようになっていたが、この一部リアルタイム画像の球面変換処理については省略することができる。
図6は、本実施形態の一部リアルタイム画像表示装置の動作の他の一例を示す説明図で、一部リアルタイム画像の球面変換処理については省略する場合を示している。なお、同図中、図3と同様の処理,内容は同一の符号を付してある。
このように一部リアルタイム画像の球面変換処理が省略される場合には、球面変換された静止画像中に、平面画像からなるリアルタイム画像が合成表示されることになる。
【0045】
以上説明したように、本実施形態の一部リアルタイム画像表示装置では、背景となるべき広域の全体画像は静止画像として生成,表示し、その静止画像中に動画像となるリアルタイム画像を整合して貼りつけて表示することで、広域の全体画像の中にリアルタイム画像を表示することができる。
これによって、例えばCCTVカメラで撮影される映像において、静止画で表示される広域の全体画像の中に、時々刻々変化する現在時点の画像を動画で示すリアルタイム画像を表示されることになり、全体把握と対象物認識の双方が極めて高精細な画像によって行えるようになる。
【0046】
[第二実施形態]
次に、本発明の一部リアルタイム画像表示装置の第二実施形態について、図7〜図11を参照して説明する。
図7は、本発明の第二実施形態に係る一部リアルタイム画像表示装置の概略構成を示すブロック図である。図8は、図7に示す本実施形態の一部リアルタイム画像表示装置の動作の一例を示す説明図である。
【0047】
これらの図に示すように、第一実施形態では、背景画像となる静止画として、ビデオカメラ装置1で撮影される視点方向の異なる複数の画像を共通の仮想球面に貼り付けるようにしていたが、本実施形態では、仮想平面上に複数画像を貼り付けるようにしたものである。
本実施形態は、貼り付け範囲は狭くなるが実用的な仮想共通平面に貼りつけることで、第一実施形態の場合と同様に、平面の背景静止画にビデオ映像からなるリアルタイム画像を貼り付けて観察できるようにしたものである。
具体的には、図7に示すように、ビデオカメラ装置1aで撮影される映像は、球面変換処理はされず、静止画も動画も目的平面変換装置3aにより、異なる画角の画像を共通の仮想平面に変換され、複合画像整合装置4aで各静止画が目的平面に貼り付けられる。そして、広域画像生成装置5aで、背景静止画像となる広域画像が生成され、画像合成装置7aにより、背景静止画像とリアルタイム画像が合成されて、表示装置9で一部リアルタイム周画像が表示されることになる。
【0048】
上述した第一実施形態の画像表示装置では、仮想球面を設定し、その仮想球面に画像を貼りつけるために、原理的にカメラは固定でなければならなかったが、本実施形態のように、仮想平面となる目的平面に画像を貼り付ける場合は、カメラは固定されていても勿論良いが、移動するカメラからでも画像の貼り付けが可能となり、また、複数の場所の複数のカメラからの画像を目的平面に変換したものを、その所望の目的平面に貼り付けることができる。
このように、本実施形態では、仮想の目的平面を設定して複数の画像を貼り付けることで、原理的に不整合や歪みのない一枚の広域画像を生成することができ、また、それらを背景画像とすることも、リアルタイム画像とすることも可能となり、より実用的な一部リアルタイム画像表示装置を実現できる。
【0049】
ここで、複数の画像を目的平面に貼り付けて表示する方法としては、カメラで取得される映像を目的平面に直接変換して貼り付けて表示することができる他、以下に示すように基準仮想平面に基づいて保存された画像データから、所望の目的平面に投影した画像を生成することができる。
具体的には、予め基準となる基準仮想平面を設定しておき、その基準仮想平面に変換して、保存し、その保存データから、観察者の必要とする目的平面に変換することで、いつでも自由にどの方向にでも変換表示できるようになる。
第一実施形態で示した仮想球面の場合との違いは、仮想球面方式では仮想球面の中心にカメラが存在するという前提で変換がなされるので、複数のカメラの位置関係は球の中心を外れるようには変更できない。しかし、基準仮想平面に変換することで、球の中心には縛られないので、カメラの位置関係が変更されても、それぞれのカメラ自体が移動する場合でも、基準仮想平面を各カメラに共通に設定することができるので、複数のカメラからの複数の画像を結合して保存できることになる。
【0050】
ここで基準仮想平面は任意であるが、全周画像を生成する場合には複数の基準仮想平面を設定しなければならない。目的平面に変換表示する場合には、複数の基準仮想平面から同一の目的平面に変換することになる。
さらに、各カメラの位置関係が決定されていて、各カメラの各光軸方向が固定されている場合には、新たな基準面を想定しなくても、各カメラによって固定された画像平面を基準仮想面として変換し、保存し、そこから任意の目的平面に変換して表示すればよい。
以下、基準仮想平面に基づく目的平面の変換方法を、図9〜図11を参照しつつより具体的に説明する。
【0051】
まず、図9(a)に示すように、一台のカメラの視点方向はまちまちであり、それら画像のもつ撮影平面はそれぞれ異なる。そこで、このような場合に、各カメラの画像を基準仮想平面に変換し、図9(c)に示すように、カメラの各方向毎の画像を位置合わせし、継ぎ目なく結合し、整合し、これを記録する。
また、図9(b)に示すように、設置位置も視点方向もバラバラの複数台のカメラ1〜3を使用する場合にも、対象物が限定されていれば、その画像を基準仮想平面に変換することができる。それぞれのカメラからの画像1〜3の撮影平面はまちまちであるから、図9(b)に示すように、基準仮想平面にカメラ1〜3の画像1〜3を投影し、基準仮想平面上で位置合わせし、継ぎ目なく結合し、整合し、記録することができる。
【0052】
また、カメラ全周囲を示す全周画像の場合にも、各フレーム画像の位置合わせ,結合,整合,記録のために基準仮想平面を利用することができる。この場合には、基準仮想平面を複数設定すれば良い。例えば、図10(a)に示すように、基準仮想平面を六面作成し、基準仮想平面によって立方体を構成することで、全周画像を立方体に位置合わせし、継ぎ目なく結合し、整合し、記録することができる。
そして、この立方体内に、図10(b)に示すように、観測者からの任意の視点を設定し、その任意の視点に基づく目的平面を定義する。
これによって、図10(c)に示すように、任意の視点に基づく目的平面に対して、該当する基準仮想平面1〜2の画像を投影することで所望の画像を作成し、表示することができる。
【0053】
さらに、図11に示すように、複数のカメラ1〜3の位置と光軸の関係が把握できている場合には、基準仮想平面をカメラ1〜3の各画像を基準仮想平面1〜8と考え、任意の目的平面に投影し画像を作成することができる。
本来、カメラ画像は、レンズの歪み等の条件を除けば、2次元のCCD面上に投影された、画素の集まりであり、全周囲画像等広範囲の画像の記録方式にこの基準仮想平面を利用すれば、コンピュータの2次元メモリー上に画像データが効率よく記憶できる。
また、仮想基準平面は任意に設定できるので、もと画像の解像度をできるだけ低下させない基準仮想平面を設定し記録することも可能であり、画像の品質を維持しながら、記録が可能となる。
【0054】
以上説明したように、本実施形態の一部リアルタイム画像表示装置では、背景画像となる静止画として、ビデオカメラ装置1で得られる複数の画像を共通の仮想平面上に複数画像を貼り付けることで、貼り付け範囲は狭くなるが実用的な仮想共通平面に貼りつけることで、平面の背景静止画にビデオ映像からなるリアルタイム画像を合成表示することができる。
これにより、固定されたカメラからの画像だけでなく、移動するカメラからの画像や、複数の異なる場所に設置されたカメラからの画像についても、目的平面に変換して、所望の一部リアルタイム合成画像を取得でき、より実用的な一部リアルタイム画像表示装置を提供することができる。
【0055】
[第三実施形態]
さらに、本発明の一部リアルタイム画像表示装置の第三実施形態について、図12及び図13を参照しつつ説明する。
図12は、本発明の第三実施形態に係る一部リアルタイム画像表示装置の概略構成を示すブロック図である。
同図に示す本実施形態の画像表示装置は、背景画像を撮影,取得するカメラ側装置と、所望の対象物を含む背景画像を観察するオペレータ側装置とが離れた位置に設置され、両装置間が通信回線等を介して接続される場合に、一部リアルタイム画像を含む背景画像を、カメラ側,オペレータ側間でストレスなく送受信できるようにしたものである。
【0056】
一般に、インターネット等の狭帯域の回線で動画を送ろうとしても、動きが遅く、現実的に使えない場合が多い。このような場合に、本発明の一部リアルタイム画像を利用することにより、画像取得側となるカメラ側から、背景となる静止画を間欠的に送信し、必要な一部分をリアルタイム画像で送信し、それをオペレータ側で合成して一枚の画像を生成することにより、広い背景画像のある中の必要な箇所のリアルタイム画像を観察できることになる。リアルタイム画像は狭い範囲でも背景画像があれば、背景画像から必要な箇所の位置づけが簡単にでき、効果的である。
この場合、リアルタイム画像は狭い範囲の表示で済むので、全画像を動画として送ることに比べれば、その分データ量は極めて少なくなり、狭帯域で必要な情報を得ることができる。そして、オペレータ側では、リアルタイム画像の位置を自由に変更し、また、対象物を自動追跡する等によって、必要となる情報は動画として入手できることになる。この場合、例えばWEB等で動画像データを任意に使用,加工して活用できるようになる。
【0057】
具体的には、本実施形態の一部リアルタイム画像表示装置は、図12に示すような構成となっている。なお、同図中、図1又は図7に示した画像表示装置と同様の内容,機能の構成部分は同一の符号を付してある。
まず、所望の映像を取得するビデオカメラ装置1bからの画像出力は、画像取得装置3bで取得され、その1フレームが1フレーム画像取得装置4bで取り出されて静止画として取得される。フレーム画像は周囲画像更新指定装置4−1bにより選択される。
また、ビデオ画像から必要な範囲のリアルタイム画像をリアルタイム画像切り取り装置6−1bで切り取り、その位置と共にカメラ側装置に送られる。リアルタイム画像の切り取り範囲又は切り取り位置はリアルタイム画像位置指定装置6bから送られ、その位置信号はリアルタイム画像位置信号付加装置6−2bからカメラ側送信装置11に送られ、静止画像,動画像とともにオペレータ側に送られる。
【0058】
オペレータ側では、オペレータ側受信装置21でカメラ側からの三信号、すなわち周囲静止画像信号,リアルタイム画像信号,リアルタイム画像位置信号が受信される。
受信された周囲静止画像信号とリアルタイム画像信号は、位置合わせ場所指定装置7−1bを経て、画像合成装置7bで合成されて表示装置9bに送られる。
また、オペレータ側では、オペレータ作業装置22でリアルタイム画像の切り取り位置、又は切り取り範囲が指定され、オペレータ側送信装置23を介してカメラ側に送信され、カメラ側受信装置12で受信される。
このオペレータ側からの信号により、カメラ側では、リアルタイム画像位置指定装置6bでリアルタイム画像の位置が指定,変更,移動され、周囲画像更新指定装置4−1bで静止画の更新が指定され、さらに、カメラ制御装置2bでカメラの方位や画角が制御されることになる。
ここで、オペレータ側に、あるいはカメラ側に自動追跡装置を付加すれば、自動的に目的とする対象物を追いかけながらリアルタイム画像を観察することができる。なお、リアルタイム画像の位置指定はカメラの台数により複数でも可能であり、さらに一カメラの画像内の複数箇所でも位置指定できる。
【0059】
以上のような構成により、本実施形態では、カメラ側とオペレータ側とが離れた位置に設置されている場合にも一部リアルタイム画像表示装置を実現することができ、カメラ側から遠隔の場所にあるオペレータ側において、例えばインターネット等の通信回線を介して目的の動画像を周囲の環境の中に位置づけて観察することができる。
図13に、本実施形態で、オペレータ側で観察される合成画像の具体例を示す。
同図に示すように、本実施形態で得られる合成画像は、一台のカメラの一枚の画像からその一部を切り取って動画として送るようにしてある。この原理と方法によれば、一台のカメラの広角画像を背景画像とし、そのカメラでズームアップした詳細な動画像を示すリアルタイム画像を送り、これをオペレータ側で重ねて表示することで、上述した第一,第二実施形態と同様の本発明の効果を実現することができる。この意味で、本実施形態は第二実施形態の特殊の場合と考えられ、第二実施形態の結合画像による背景画像を、本実施形態では直接一枚の画像から取得するようにしたものである。
なお、複数のカメラを用いて、背景画像とリアルタイム画像を別々に取得することも勿論可能である。
【0060】
このように、本実施形態の一部リアルタイム画像表示装置によれば、背景画となる静止画とリアルタイム画像となる動画をカメラ側装置から別個に送信し、オペレータ側装置で一枚の画像を合成することで、狭帯域の回線を介してもストレスなくデータを送信でき、オペレータ側から遠隔操作されるカメラ装置であっても、本発明に係る一部リアルタイム画像を滑らかに生成,表示させることが可能となる。インターネット等の狭帯域の回線で動画を送ろうとしても、データ量が多い場合には動きが遅くなり、現実的に使えないことが多い。その一方で、本発明で得られる合成画像は、リアルタイム画像が狭い範囲であっても、背景画像があれば、その背景画像から必要な箇所の位置づけが容易にでき、効果的な観察が行える。そこで、本発明では、背景となる静止画を間欠的に送り、必要な一部分をリアルタイム画像で送り、それをオペレータ側で合成して一枚の画像を生成することで、広い背景画像中に必要な箇所のリアルタイム画像が表示された合成画像を取得,観察できるようにしてある。
これにより、本実施形態では、動画については狭い範囲のリアルタイム画像を送信すれば良く、全画像を動画として送ることに比べてデータ量は極めて少なくなり、狭帯域を介して必要な情報を得ることができる。
このようにデータ量を少なくして所望の動画(リアルタイム画像)と静止画(背景画)を送信できる本実施形態によれば、カメラで直接取得された画像(動画及び静止画)のみならず、既に撮影され記録,保存された画像について、静止画中の所望の箇所,対象物を指定してリアルタイム画像として送受信することができ、特にインターネット等の狭帯域回線を利用した画像配信に好適となる。
【0061】
以上、本発明の一部リアルタイム画像表示装置について、好ましい実施形態を示して説明したが、本発明に係る一部リアルタイム画像表示装置は、上述した実施形態にのみ限定されるものではなく、本発明の範囲で種々の変更実施が可能であることは言うまでもない。
例えば、ビデオカメラは任意の複数台備えることができ、背景画像取得用とリアルタイム画像取得用のカメラを別々に備えることもできる。この場合には、背景画像用のカメラの光学中心とリアルタイム画像用の主カメラの光学中心を、ミラー等を用いて光学的に一致させ、あるいは、極めて接近させることで、全周画像の生成を休止せず、リアルタイム画像表示と同時に行うことができる。
また、静止画像やリアルタイム画像中の所望の対象物画像等は、例えば、本願出願人が既に提案している平面展開技術やPRM技術を利用し、画像内を計測して一部分を平面に展開し、あるいは対象物を自動認識させて、3DCG化させることも可能である。
【0062】
さらに、静止画像内には、リアルタイム画像の認識等に必要となる任意の表示を付加することができる。例えば、リアルタイム画像によって表示される対象物の方位を表示することができる。このようにすると、カメラから見て対象物がどの方向にあるが特定でき、対象物の観察,認識をより容易化することができる。また、一度対象物の方位を記録しておけば、次回からは方位を指定することで対象物とその周囲画像を表示することも可能となる。
ここで言う「方位」とは、地図上で指定できる方向のことで、緯度経度や測量等で利用されている公共座標等が該当する。
このような方位情報を付加することにより、例えば、見ている画像にある対象物を選択すると対象物がどの方向にあるかが表示され、地図上で方向を確認するような場合に有効となる。また、緯度経度によりその方向の画像を見ることもできるようになる。
【0063】
【発明の効果】
以上説明したように、本発明の一部リアルタイム画像表示装置によれば、背景となる広範囲な画像を結合静止画として生成するとともに、対象物をリアルタイム画像、即ちビデオ画像で動画として生成することができる。これによって、静止画背景画像の中にリアルタイム画像をはめ込んで表示することが可能となり、広域画像を不整合なく正確に表示しつつ、広域画像中に所望の対象物を明瞭な動画像として表示することができる。
しかも、本発明の一部リアルタイム画像表示装置では、背景となる周囲画像を静止画として送信するとともに、所望の対象物を狭い範囲の動画像として送信することができる。これによって、動画と静止画を結合したビデオ画像を送信することが可能となり、帯域の狭い回線であっても所望の対象物の画像を動画像として送信することができる。
【図面の簡単な説明】
【図1】本発明の第一実施形態に係る一部リアルタイム画像表示装置の概略構成を示すブロック図である。
【図2】図1に示す一部リアルタイム画像表示装置で球面画像及び平面画像を取得する状態を模式的に示した説明図である。
【図3】図1に示す一部リアルタイム画像表示装置の動作の一例を示す説明図である。
【図4】図1に示す一部リアルタイム画像表示装置で取得される合成画像の一例を示す説明図である。
【図5】図1に示す一部リアルタイム画像表示装置で取得される合成画像の他の一例を示す説明図である。
【図6】図1に示す一部リアルタイム画像表示装置の動作の他の一例を示す説明図である。
【図7】本発明の第二実施形態に係る一部リアルタイム画像表示装置の概略構成を示すブロック図である。
【図8】図7に示す一部リアルタイム画像表示装置の動作の一例を示す説明図である。
【図9】図7に示す一部リアルタイム画像表示装置で基準仮想平面上で画像を取得する状態を模式的に示した説明図である。
【図10】図9に示す基準仮想平面に基づいて目的平面上の画像を取得する状態の一例を模式的に示した説明図である。
【図11】図9に示す基準仮想平面に基づいて目的平面上の画像を取得する状態の他の一例を模式的に示した説明図である。
【図12】本発明の第三実施形態に係る一部リアルタイム画像表示装置の概略構成を示すブロック図である。
【図13】図12に示す一部リアルタイム画像表示装置で取得される合成画像の一例を示す説明図である。
【符号の説明】
1 ビデオカメラ装置
2 カメラ制御装置
3 球面画像変換装置
4 球面画像整合装置
5 球面画像生成装置
6 リアルタイム画像位置指定装置
7 画面合成装置
8 平面画像変換装置
9 表示装置
【発明の属する技術分野】
本発明は、例えばCCTV(Closed Circuit Tele Vision:閉回路テレビ)カメラ等のように、所望のビデオ映像を撮影し、動画像として表示可能な画像表示装置に関し、特に、背景となる広範囲な画像を結合静止画として生成するとともに、対象物をリアルタイム画像、すなわちビデオ画像で動画として生成し、静止画背景画像の中にリアルタイム画像をはめ込んで表示することで、広域画像を不整合なく正確に表示しつつ、広域画像中に所望の対象物を明瞭な動画像として表示することを可能とした一部リアルタイム画像表示装置に関する。
【0002】
【従来の技術】
一般に、CCTVカメラ等の一台のカメラで広範囲の画像を生成しようとする場合には、広角レンズで広範囲を撮影すれば良いが、このようにすると対象の映像は不明瞭になってしまう。一方で、対象物の画像を高精細に得ようとすれば、画角が小さくなり、全体が見えなくなってしまい、対象物の全体の中での位置関係が分からなくなる。
そこで、背景画像となるような広域の全体画像を表示しつつ、画像中の各対象物も不明瞭とならないように表示する従来技術として、複数のビデオ画像(フレーム画像)で一つの画像を構成し、隣接する各フレーム画像の重複部分の継ぎ目を整合することで、高精細な広域画像を表示する技術が提案されている(例えば、特許文献1参照。)。
【0003】
【特許文献1】
特開平6−169444号公報(第2−3頁、第1−3図)
【0004】
【発明が解決しようとする課題】
しかしながら、複数画像の結合による広域画像は、カメラの移動による不整合や、原理的な不整合や歪みが必ず生じてしまい、その不整合が無視できる小範囲の場合に限って、実用上の問題が生じない場合に利用できるに過ぎなかった。
例えば、このような従来の画像結合方法によってビデオカメラを中心とした全周囲画像を作ろうとしても、画像を結合していくと最終的に不整合や歪みが生じてしまい、全周囲画像を完成することはできなかった。
また、このように複数のビデオ画像を単に継ぎ合わせて一つの広域画像を構成する従来方法では、各フレーム画像がすべて動画となるために、通信データ量が多くなり過ぎて、例えば現在のインターネット等のような狭帯域の回線を使用して動画像を送ろうとしても、動きが遅くなってしまい現実的には使用できないという問題もあった。
【0005】
本発明は、以上のような従来の技術が有する問題を解決するために提案されたものであり、背景となる広範囲な画像を結合静止画として生成するとともに、対象物をリアルタイム画像、即ちビデオ画像で動画として生成し、静止画背景画像の中にリアルタイム画像をはめ込んで表示することで、広域画像を不整合や歪みなく正確に表示しつつ、広域画像中に所望の対象物を明瞭な動画像として表示することを可能とした一部リアルタイム画像表示装置の提供を目的とする。
さらに、本発明は、背景となる周囲画像を静止画として送信するとともに、所望の対象物を狭い範囲の動画像として送信し、動画と静止画を結合したビデオ画像を送ることで、帯域の狭い回線であっても所望の対象物の画像を動画像としてデータ通信が可能となる一部リアルタイム画像表示装置の提供を目的とする。
【0006】
【課題を解決するための手段】
上記目的を達成するため、本発明の一部リアルタイム画像表示装置は、請求項1に記載するように、所望の視点方向及び画角でカメラ周囲の全部又は一部のビデオ映像を撮影する撮影手段と、撮影手段で撮影されるビデオ映像を一又は二以上のフレーム画像として取得し、所望の目的面に整合された静止画周辺画像に変換する静止画周辺画像変換手段と、静止画周辺画像の一部を、撮影手段で撮影されるビデオ映像がそのまま出力されるリアルタイム画像の表示範囲として指定するリアルタイム画像指定手段と、リアルタイム画像と静止画周辺画像とを一体的に表示する画像合成表示手段と、を備える構成としてある。
【0007】
このような構成からなる本発明の一部リアルタイム画像表示装置によれば、背景となるべき広域の全体画像は静止画像として表示し、その中に動画像となるリアルタイム画像を整合して貼りつけて表示することで、広域の全体画像の中にリアルタイム画像を表示することができる。
このようにすることで、例えばCCTVカメラで撮影される映像において、静止画で表示される広域の全体画像の中に、時々刻々変化する現在時点の画像を動画で示すリアルタイム画像を表示されることになり、全体把握と対象物認識の双方が極めて高精細な画像によって行えるようになる。
【0008】
具体的には、請求項2記載の一部リアルタイム画像表示装置では、前記撮影手段が、所望の視点方向及び画角でビデオ映像を取得するビデオカメラ装置と、ビデオカメラ装置を制御し、所望の視点方向及び画角でカメラ周囲の全部又は一部を走査させるとともに、指定した視点方向及び画角でビデオ映像を取得させるカメラ制御装置と、を備え、前記静止画周辺画像変換手段が、ビデオカメラ装置で取得されるビデオ映像の各フレーム画像を、所定の球面画像に変換する球面画像変換装置と、順次変換される球面画像をカメラ周囲の全部又は一部に相当する複合画像として位置合わせし、切れ目無く整合させる球面画像整合装置と、整合された複合画像を仮想球面に貼り付けて球面画像を生成する球面画像生成装置と、を備え、前記リアルタイム画像指定手段が、球面画像からなる静止画周辺画像中に所望の周辺表示範囲を指定するリアルタイム画像位置指定装置を備え、前記画像合成表示手段が、静止画周辺画像から指定された周辺表示範囲を切り取り、当該切り取り部分に球面変換されたビデオ出力そのままのリアルタイム画像を位置合わせして切れ目無くはめ込む画像合成装置と、合成された静止画周辺画像とリアルタイム画像とを同一面に表示する表示装置と、を備える構成としてある。
【0009】
特に、請求項3では、前記静止画周辺画像変換手段が、必要に応じて仮想球面に貼り付けられた画像を平面画像に再変換する平面画像変換装置を更に備え、前記リアルタイム画像位置指定装置が、平面画像からなる静止画周辺画像中に所望の周辺表示範囲を指定し、前記画像合成装置が、指定された周辺表示範囲を切り取り、当該切り取り部分に、平面画像に変換されたリアルタイム画像をはめ込む構成としてある。
【0010】
一方、請求項4記載の一部リアルタイム画像表示装置では、前記撮影手段が、所望の視点方向及び画角でビデオ映像を取得するビデオカメラ装置と、ビデオカメラ装置を制御し、所望の視点方向及び画角でカメラ周囲の所定範囲を走査させるとともに、指定した視点方向及び画角でビデオ映像を取得させるカメラ制御装置と、を備え、前記静止画周辺画像変換手段が、ビデオカメラ装置で取得されるビデオ映像の各フレーム画像を、所定の目的平面画像に変換する目的平面変換装置と、順次変換される平面画像を複合画像として位置合わせし、切れ目無く整合させる複合画像整合装置と、整合された複合画像を仮想平面に貼り付けて広域画像を生成する広域画像生成装置と、を備え、前記リアルタイム画像指定手段が、必要に応じて、広域画像からなる静止画周辺画像中に所望の周辺表示範囲を指定するリアルタイム画像位置指定装置を備え、前記画像合成表示手段が、静止画周辺画像から指定された周辺表示範囲を切り取り、当該切り取り部分に、平面変換されたビデオ出力そのままのリアルタイム画像を位置合わせして切れ目無くはめ込む画像合成装置と、合成された広域画像からなる静止画周辺画像とリアルタイム画像とを同一の目的平面に表示する表示装置と、を備える構成としてある。
【0011】
このような構成からなる本発明の一部リアルタイム画像表示装置によれば、撮影用のカメラの光学中心を球の中心とする仮想球面を設定し、画像をその球面上に貼りつけるように球面画像に変換し、球面上で結合することで、歪みや不整合のないカメラ全周囲を示す広域画像を取得することができる。
また、各視点方向に共通の仮想目的平面を想定し、複数の画像をその目的平面上に貼りつけるように平面変換して、目的平面上で結合することで、歪みや不整合のない平面広域画像を取得することができる。
そして、このような仮想球面又は仮想平面を利用し、視点方向及び視角の制御可能なビデオカメラ装置の視点方向及び画角を移動させ、撮影された映像から、広範囲の全体画像、例えば全周囲360度画像を不整合なく正確な画像として生成することができる。なお、全周囲画像を取得するには、例えばカメラを全周囲について回転撮影し、静止画の360度画像を生成する。
【0012】
このようにして生成された広域の全体画像は、リアルタイムの画像ではないが、指定された時間間隔で次々更新することで、常に最新の画像の360度全体画像や、広域の平面画像を表示することができる。そして、このような全体画像中に明確な観察対象がある場合には、必要に応じて広域の全体画像中に現在時点の画像、即ちリアルタイム画像を貼りつけ、更新される静止画による広域の全体画像の中にリアルタイム動画画像を表示することができる。
これにより、これまで一台のCCTVカメラ等では分からなかった、現在観察している対象や部分が全体のどの部分であるかが、静止画の全体画像の中に表示される動画像として示されることになり、明確に把握できるようになる。
【0013】
特に、静止画で表示される広範の全体画像の上に、所望の対象物のビデオ画像を重ね合わせて表示することで、全体の画像を観察しながら、必要な箇所,対象物のみを動画観察できるようになる。
この場合、基準とすべき所定の目的平面(静止画)をリアルタイム画像の表示平面に常に一致させるようにして、リアルタイムのビデオ画像の平面がカメラの移動にともなって変化(移動)すると、目的平面もそれに追従するように設定することができる。この場合には、取り込んだリアルタイム画像の平面が基準の目的平面となり、カメラ光軸方向の移動に伴って、目的平面もそれに追従変化し、静止画周辺画像がカメラ光軸に一致する平面に常に変換されて、リアルタイム画像と合成表示することが可能となる。
また、静止画中の所望の対象物の画像は、ポインティングデバイスのクリック等によって任意に指定することで、所望の対象物を任意に指定して静止画像からリアルタイム画像に切り替えることができる。
さらに、リアルタイム画像をクローズアップ表示(ズーム表示)に切り替えることも可能で、高精細かつ見易いズームアップ画像により、全体の位置づけが更に分かり易くなるリアルタイム画像を表示させることができる。
【0014】
また特に、請求項5では、前記目的平面変換装置が、単数又は複数の基準仮想平面を設定し、単数又は複数のビデオカメラ装置で取得される各方向の画像を、所望の基準仮想平面に変換し、前記複合画像整合装置が、一又は複数の各方向の画像を所望の準仮想平面上で位置合わせし、継ぎ目無く結合して整合し、当該多方向の結合画像を記録することにより、多方向の結合画像を、必要とする任意の目的平面上に変換して所望の画像表示する構成としてある。
【0015】
このような構成からなる本発明の一部リアルタイム画像表示装置によれば、リアルタイム画像の背景画像となる多方向の画像を、仮想球面に変換して貼りつけるのではなく、また、直接目的平面に変換するのでもなく、一旦基準となる基準仮想平面を設定し、その基準仮想平面に変換して、保存し、その保存データから、必要とする目的平面に変換することができる。
これにより、いつでも自由にどの方向にであっても、所望の背景画像を所望の目的平面に変換表示できるようになる。
このように、本発明では、カメラで取得される単数又は複数の画像を目的平面に貼り付けて表示する方法として、▲1▼仮想球面に変換して貼り付ける方法、▲2▼取得映像を目的平面に直接貼り付ける方法、▲3▼基準仮想平面に基づいて画像データを保存して所望の目的平面に投影画像を貼り付ける方法、があり、これらの方法を観察目的や画像の使用目的等に応じて任意に選択することができる。
【0016】
さらに、請求項6記載の一部リアルタイム画像表示装置は、ビデオ映像撮影用のカメラ側装置と、カメラ側装置を遠隔操作するためのオペレータ側装置とを備え、カメラ側装置に、前記撮影手段と、前記静止画周辺画像変換手段と、前記リアルタイム画像指定手段が備えられ、オペレータ側装置に、前記画像合成表示手段が備えられ、カメラ側装置で取得された静止画周辺画像及び所望のリアルタイム画像がオペレータ側装置に送信され、当該オペレータ側装置で一体的に合成されて表示される構成としてある。
【0017】
具体的には、請求項7に記載するように、前記カメラ側装置には、ビデオ映像撮影用のカメラ側装置と、カメラ側装置を遠隔操作するためのオペレータ側装置とを備え、カメラ側装置には、前記撮影手段として、所望の視点方向及び画角でビデオ映像を取得するビデオカメラ装置と、指定によりビデオカメラ装置を制御し、所望の視点方向及び画角でカメラ周囲の全部又は一部を走査させるとともに、指定した視点方向及び画角でビデオ映像を取得させるカメラ制御装置と、を備えるとともに、前記静止画周辺画像変換手段として、ビデオカメラ装置から画像を取得する画像取得装置と、画像取得装置で取得される画像から静止画周辺画像となるべきフレーム画像を取得する1フレーム画像取得装置と、1フレーム画像を更新する周囲画像更新指定装置と、を備え、前記リアルタイム画像指定手段として、リアルタイム画像切り取り位置を指定するリアルタイム画像位置指定装置と、1フレーム画像内の指定された範囲でリアルタイム画像を切り取るリアルタイム画像切り取り装置と、リアルタイム画像と、背景となるべき周囲静止画像との位置関係を指定するリアルタイム画像位置信号付加装置と、を備え、さらに、オペレータ側に周囲静止画像信号,リアルタイム画像信号,リアルタイム画像の位置を指定する位置指定信号を送信するカメラ側送信装置と、オペレータ側からカメラ制御,周囲画像更新,リアルタイム画像位置の指示を受信するカメラ側受信装置と、を備え、前記オペレータ側装置には、カメラ側装置から周囲静止画像信号,リアルタイム画像信号,リアルタイム画像の位置を指定する位置指定信号を受信するオペレータ側受信装置と、ビデオカメラ装置を遠隔操作し、指定した視点方向及び画角でビデオ映像を取得させるとともに、リアルタイム画像の位置を変更するオペレータ作業装置と、オペレータ作業装置の遠隔操作信号をカメラ側に送信するオペレータ側送信装置と、を備えるとともに、さらに、前記画像合成表示手段として、受信した周囲静止画像とリアルタイム画像とを、受信した位置指定信号により位置合わせする位置合わせ装置と、位置合わせした周囲静止画画像とリアルタイム画像を合成して合成画像を生成する画像合成装置と、生成された合成画像を最終画像として表示する表示装置と、を備える構成としてある。
【0018】
このような構成からなる本発明の一部リアルタイム画像表示装置によれば、背景画となる静止画とリアルタイム画像となる動画をカメラ側装置から別個に送信し、オペレータ側装置で一枚の画像を合成することで、狭帯域の回線を介してもストレスなくデータを送信でき、オペレータ側から遠隔操作されるカメラ装置であっても、本発明に係る一部リアルタイム画像を滑らかに生成,表示させることが可能となる。
一般に、インターネット等の狭帯域の回線で動画を送ろうとしても、データ量が多い場合には動きが遅くなり、現実的に使えないことが多い。その一方で、本発明で得られる合成画像は、リアルタイム画像が狭い範囲であっても、背景画像があれば、その背景画像から必要な箇所の位置づけが容易にでき、効果的な観察が行える。そこで、本発明では、背景となる静止画を間欠的に送り、必要な一部分をリアルタイム画像で送り、それをオペレータ側で合成して一枚の画像を生成することで、広い背景画像中に必要な箇所のリアルタイム画像が表示された合成画像を取得,観察できるようにしてある。
これにより、本発明では、動画については狭い範囲のリアルタイム画像を送信すれば良く、全画像を動画として送ることに比べてデータ量は極めて少なくなり、狭帯域を介して必要な情報を得ることができる。
【0019】
なお、動画データの圧縮方式としてMPEG1方式がある。MPEG1方式では、画像全体を細かいブロックに分割して、動きのある分のみ送ることで、伝送帯域の圧縮が実現されている。しかしながら、MPEG1方式は広域の全体画像の中にリアルタイム画像をはめ込もうする技術ではなく、一台のカメラからの画像をそのままブロック化する画像圧縮技術である。従って、MPEG1方式では、本発明のように、ブロック毎に異なるカメラ方位が対応し、一つのブロックにカメラの一方位が対応することはなく、また、広域の全体画像と現時点での動画像となるリアルタイム画像を明確に分離して、それらを表示の時に合成する本発明のようなことは実現できない。このように、MPEG1方式とは動画の圧縮技術であり、本発明をさらに効率よくするためにMPEG1方式の圧縮技術を利用することは勿論の可能である。例えば、本発明における背景となる広域の全体画像及びリアルタイム画像について、画像圧縮のためにMPEG1方式を利用することは可能で、MPEG1方式は本発明を実現するために利用できる技術の一つである。
【0020】
【発明の実施の形態】
以下、本発明の一部リアルタイム画像表示装置の好ましい実施形態について図面を参照しつつ説明する。
[第一実施形態]
まず、図1〜図6を参照して、一部リアルタイム画像表示装置の第一実施形態について説明する。
図1は、本発明の第一実施形態に係る一部リアルタイム画像表示装置の概略構成を示すブロック図である。図2は、図1に示す一部リアルタイム画像表示装置で球面画像及び平面画像を取得する状態を模式的に示した説明図である。
これらの図に示す本実施形態の画像表示装置は、ビデオカメラ装置1と、カメラ制御装置2,球面画像変換装置3,球面画像整合装置4,球面画像生成装置5,リアルタイム画像位置指定装置6,画像合成処理装置7,平面画像変換装置8及び表示装置9を備えている。
【0021】
ビデオカメラ装置1は、例えば監視用CCTVカメラ等で構成される撮影手段であり、所望の背景画及び背景画中の所望の箇所や対象物を撮影する。
ビデオカメラ装置1は、カメラ制御装置2によって制御され、カメラの視点方向と画角が自由にコントロールされるようにコンピュータで制御される。このカメラ制御装置2の制御により、ビデオカメラ装置1は幾何学的に規則的に走査しながらカメラ全周囲の画像を撮影できる。
ここで、カメラ全周囲の画像を撮影する方法としては、直接カメラを全周回転させる他、例えば、カメラは回転させずにカメラの前方等に設置したミラーを回転させることでも実現できる。
なお、この種のビデオカメラ装置1は、例えば、道路管理用CCTV,河川管理用CCTV,交通安全利用CCTV等に利用されるが、これ以外の用途,目的に使用されるものであっても良い。
【0022】
球面画像変換装置3は、ビデオカメラ装置1で撮影される各フレーム画像を所定の球面変換する。ビデオカメラ装置1で撮影される画像は、個々のフレーム画像は静止画で、フレーム画像自身は平面画像である。このため、原理的にはそのまま連続的に結合しても結合球面画像を生成することはできない。そこで、本実施形態では、球面画像変換装置3で球面画像変換するようにしてある。
本実施形態では、球面画像変換装置3は、あらかじめ球体の中心にカメラ光学中心を位置させ、全方向の映像を球面に投影してできる仮想全画像球面を想定し、所望の球面画像を生成するようにしてある。
【0023】
具体的には、図2に示すように、例えばCCTVカメラからなるビデオカメラ装置1の光学中心を中心とする仮想の球:Aを定義し、定義した球面上の一点の座標を決定し初期位置とし、カメラ制御装置2(図3のS102:カメラ姿勢駆動装置参照)に記憶する。例えば、真北方向とCCTVカメラの水平方向が球面と交差する位置を初期位置とする等、利用する処理内容に応じてCCTVカメラの初期位置を決定する。
そして、この仮想球面に接する平面画像a(フレーム画像)を、仮想球面に整合した球表面画像bに変換,生成する。このようにして得られた球面画像が順次結合されて、整合された全周画像が生成されることになる。
【0024】
球面画像整合装置4は、球面画像変換装置3で順次変換される球面画像を、カメラ周囲の全部又は一部に相当する複合画像として仮想球面(図2参照)上に位置合わせし、切れ目無く整合させる。
球面画像生成装置5は、球面画像整合装置4で生成される各球面画像を仮想平面上で位置あわせして整合し、結合して貼り付け、所望の全周画像を生成する。
なお、全周囲画像は、原理的には各画像を球面変換しないと全周囲画像は整合しないが、例えば、画角が極めて小さい画像の場合、球面に変換してもその違いは極めて少ないため、球面変換をしなくても事実上差し支えない場合がある。このため、変換のための演算時間をかけずに全周画像を生成する必要があるような場合には、簡易的方法として球面変換を省略することは可能である。
また、画角の小さい画像から全周画像が生成される場合、高精細な全周画像を生成できる。一方、比較的広角の画角の大きい画像から全周画像を生成すれば、画角の小さい画像からの画像に比較して、精細度は落ちるが、短時間で全周画像を生成,更新できることになる。
【0025】
リアルタイム画像位置指定装置6は、球面画像(又は平面画像)からなる静止画背景画像の中の目的の箇所や対象物,範囲等、所望の領域をリアルタイム画像として指定するリアルタイム画像指定手段である。
このリアルタイム画像指定装置6としては、画像中の所望の範囲を選択,指定できるマウス等のポインティングデバイスによって構成することができる。リアルタイム画像指定装置6で指定されるリアルタイム画像の静止画像内の位置、リアルタイム画像領域の形状,大きさは、例えばマウスのドラッグ操作,クリック操作によって任意に指定できる。
画像合成処理装置7は、リアルタイム画像位置指定装置6で指定されたリアルタイム画像(周辺表示範囲)を切り取り、切り取った部分に球面変換(又は平面変換)されたビデオ出力そのままのリアルタイム画像を位置合わせして切れ目無くはめ込む。この画像合成処理装置7で合成された合成画像が表示装置9を介して観察者側に表示されることになる(図4及び図5参照)。
【0026】
平面画像変換装置8は、必要に応じて、球面画像生成装置5で仮想球面に貼り付けられた画像を、更に平面画像に再変換する。
この平面画像変換装置8を備えることにより、仮想球面に貼り付けられた全周画像が平面画像に変換され、平面スクリーン等に平面表示できるようになる。
なお、球面画像は、そのまま球面スクリーン等に球面として表示し、その中心部分から観察することが可能であり、その場合には、平面表示画像は必要とならないので、平面画像変換装置8を省略することができる。
【0027】
表示装置9は、合成された静止画周辺画像とリアルタイム画像とを同一面に表示する合成画像表示手段である。
そして、合成画像中のリアルタイム画像が随時更新され、また、リアルタイム画像の視点と画角が移動することにより、表示装置9に表示される全体画像中のリアルタイム画像が更新されたり移動する。このようにして、静止画の全体画像の中に動画のリアルタイムが表示されることで、リアルタイム画像の全体把握と同時に現在の動画画像を観察することができるようになる。
ここで、表示装置9は、全周画像を球面スクリーンに表示し、そこにリアルタイム画像を整合して重ねて結合して表示する場合と、平面スクリーン上に広角静止画面を表示し、その静止画面中にリアルタイム画像を重ねて整合し結合して表示する場合がある。
表示装置9が球面スクリーンの場合には、全周画像を全体画像とすることができる。一方、表示装置9が平面スクリーンの場合は、球面上の全周画像から必要に応じて必要な範囲を切り取ってその画像を平面画像に変換して表示する。
【0028】
次に、以上のような構成からなる本実施形態に係る装置の動作について、図3を参照しつつ説明する。図3は、図1に示す本実施形態の一部リアルタイム画像表示装置の動作の一例を示す説明図である。
同図に示す例は、本実施形態の一部リアルタイム周囲画像表示装置をCCTV装置(例えば道路管理用CCTV、河川管理用CCTV、交通安全利用CCTV等)に利用した場合となっている。
【0029】
[初期設定]
まず、CCTVカメラ(S101参照)からなるビデオカメラ装置1の初期設定を行う。初期設定は、図2で示したように、CCTVカメラの光学中心を中心とする仮想の球:Aを定義し、定義した球面上の一点の座標を決定し初期位置とし、カメラ制御装置2(S102〜S103参照)に記憶する。
【0030】
[全周画像の記録]
初期設定後は、CCTVカメラによってカメラ全周囲の全部又は一部の画像を記録する。ここでは、CCTVカメラ初期位置から全周を記録(又は更新)する流れを説明する。なお、広範囲ではあるが全周は完成しない広域画像の場合もまったく同様である(第二実施形態の図8参照)。
図3に示すように、CCTVカメラ(S101)は、カメラ姿勢駆動装置(S102)によって上下左右に視点が移動される。この視点の可動範囲は、設置状況等で制限されるが、ここでは、カメラ脚部を除いて定義した球面の表面全周を制御可能とする。カメラ姿勢駆動装置(S102)は、カメラ姿勢制御プログラム(S103)及び手動カメラ制御(S104)で駆動制御される。カメラ制御姿勢プログラム(S103)は、概略位置画角検出(S105)でカメラの上下、左右の動きをセンサー等で感知し、カメラの光軸の方向、カメラの上下の角度を得て、カメラの光軸が球面のどの方向を向いているか、記録し制御する。
これにより、CCTVカメラによって所望の背景画像となる静止画像が撮影できるようになる。
【0031】
以下、CCTVカメラ(S101)を制御し、CCTVカメラより得られた静止画像を、定義した球面上で接合し記録する流れを以下に述べる。
CCTVカメラは、カメラ制御プログラム(S103)及び手動カメラ制御(S104)で制御され、カメラ姿勢駆動装置(S102)で初期位置に移動する。
次に、CCTVカメラの映像を画像キャプチャ(S106)して静止画像が得られる。得られた静止画像は、球面収差補正(カメラレンズの歪み補正)がなされ(S107)、球面収差補正後の画像に、定義した球面のパラメータを使用して球面変換処理が行われる(S108)。
次に、カメラ姿勢制御プログラム(S103)の制御により、定義された球面の次の位置にカメラ姿勢駆動装置を制御し、CCTVカメラの光軸を移動する。ここで「次の位置」とは、運用上要求される解像度で画像合成可能な距離分離れた位置をいう。そして、移動した次の位置でS106〜S108の画像キャプチャ〜球面変換処理を行う。
以上の動作を繰り返すことにより、所望の範囲を撮影した複数の球面画像が連続的に生成される。
【0032】
次に、切り替え制御(S109)により、全周静止画像の更新(S110)か、一部リアルタイム画像の更新(S112)かが選択される。全周画像の更新が選択されると(S110)、連続的に生成された静止画像が結合され連続全周結合画像生成(S111)が行われる。その結果、定義した仮想球面に位置合わせして張り付けられた(S113)、歪みのない整合された全周画像が得られる。
得られた全周囲画像は、結合合成画像生成(S114)を経てリアルタイム画像と合成される。さらに、合成画像は、必要に応じて平面投影画像に変換され(S115)、平面表示・記録・再生装置(S116)及び球面表示・記録・再生装置(S117)を介して表示される。
【0033】
[全周画像の更新]
全周画像の更新は、上述した全周画像の記録を繰り返すことで行うことができる。すなわち、全周画像の更新は、既に記録された静止画像を構成する各画像を順次更新する形で行われる。
ここで、CCTVカメラヘッドが1台の場合に、リアルタイム映像を取得するためにCCTVカメラが使用されているときには、更新処理を行えない。従って、その場合には、CCTVカメラがリアルタイム映像用に使用されていない時間帯等に全周画像を更新することになる。また、更新は、明示的に行われていいない場合でも、CCTVの映像を常時更新に使用することは可能である。例えば、リアルタイム画像は常に最新画像であるので、そのリアルタイム画像によって全周画像の該当部分を更新しても良い。
仮に、カメラが複数備えられれば、全周画像撮影用のカメラとリアルタイム画像撮影用のカメラをそれぞれ専用化できるので、全周画像の更新が中断することなく、リアルタイム画像の表示を並行して行うことができる。
【0034】
具体的な更新の流れは、上述した全周画像の記録の場合と同様であり、概略次の通りである。
図3において、カメラ姿勢制御プログラムの制御により、定義された球面の更新位置にカメラ姿勢駆動装置が制御され、CCTVカメラの光軸が移動する。
CCTVカメラで得られた映像は画像キャプチャされ(S106)、静止画像が取得される。この画像が定義球面のパラメータを使用した球面収差補正(カメラレンズの歪み補正)され(S107)、その後、球面変換処理(S108)が行われて、切り替え制御(S109)により全周画像更新(S110)に切り替えられて連続全周結合画像生成(S111)が行われる。このようにして得られた画像は、全周囲画像とリアルタイム画像との結合合成画像生成(S114)により、既に記録されている全周囲画像と結合生成され、必要に応じて平面画像変換され(S115)、平面表示・記録・再生装置(S116)及び球面表示・記録・再生装置(S117)に記録,表示される画像が更新される。
なお、このような静止画像の更新処理は、定期更新,変化時のみ更新,リアルタイム画像周辺の更新頻度を上げる重み付け更新等、使用目的や観察対象等に応じて更新頻度,更新態様を変更することができる。
【0035】
[一部リアルタイム周囲画像表示]
リアルタイム画像は、静止画像中の所望の箇所,対象物等を直接観察するための動画像であり、CCTVカメラは、一般に、ここで言うリアルタイム画像(動画)を見ることを目的としたカメラである。
以下、本実施形態の表示装置の特徴であるリアルタイム映像表示(動画表示)と全周画像を合成し表示する流れを説明する。
まず、手動カメラ制御(S104)又はカメラ姿勢制御プログラムによる制御(S103)でカメラ姿勢駆動装置を制御し、CCTVカメラを所望の撮影対象に向ける(S101)。ここで、CCTVカメラの映像を画像キャプチャし(S106)、球面収差補正を加えて(S107)球面変換処理を行い(S108)、切り替え制御(S109)により、球面変換処理後の画像を一部リアルタイム(S112)とする。また、位置合わせのため、概略位置角検出(S105)よりカメラの光軸の移動量とともに全周画像との位置合わせ(S113)に送られる。
【0036】
これにより、全周囲画像とリアルタイム画像が不整合や歪みなく仮想球面上に画像合成され、結合合成画像が生成される(S114)。合成画像は、必要に応じて平面投影画像生成(S115)により、指定された範囲が、隣接した全周囲画像とともに、歪みのない画像として平面投影画像生成され(S115)、平面表示・記録・再生装置(S116)で表示または記録され、又は、球面表示・記録・再生装置(S117)に表示,記録される。
以上の流れを高速に繰り返すことで、所望の対象物についてのリアルタイム映像を動画として表示又は記録することができる。
【0037】
[全周画像内での位置指定]
リアルタイム画像の指定は、静止画像からなる全周囲画像の全体又は一部を表示し、その中の目的の対象物をマウス等のポインティングデバイスでクリックやドラッグ操作を行うことにより、対象物の動画を、任意の大きさ,形状で、静止画周辺画像中に表示することができる。このように、本実施形態では、部分的なCCTV映像を静止画像全体の中で位置づけながら指定できるようになっている。
マウスを使用したリアルタイム画像の指定は、所望の周辺画像が表示されている画面の中でマウスを使用して、リアルタイム画像でみたい範囲を四角形で指定する、あるいは、例えば牛等の対象物を指定し対象物を中心に四角形で表示することで行える。また、対象物の指定の仕方として、四角形で囲むだけでなく多角形や円等で、対象物を詳細に、しかも一カメラによる画像内の複数の箇所を同時指定することも可能である。さらに、本願出願人が既に提案しているPRM技術(特願2002−506565号)を利用することで、画像認識処理によって対象物の形状そのものを指定することも可能である。
【0038】
図4及び図5に、指定された所望のリアルタイム画像が静止画中に表示される合成画像の一例を示す。
図4に示す例では、25枚のフレーム画像からなる静止画Aが表示され、静止画A中の任意の対象物を含む周辺画像範囲がリアルタイム画像Bとして指定され(同図では白い牛)、静止画Aに整合されて切り目なく合成表示される。
また、リアルタイム画像Bとして指定,生成される画像は、所望の範囲,形状,大きさ等で指定でき、例えば、図5に示すように、対象物の輪郭に沿ったリアルタイム画像(同図では白い牛の輪郭で切り取られたリアルタイム画)を指定し、静止画上に合成表示することもできる。
【0039】
[部分拡大表示]
本実施形態では、CCTVカメラのズーム機能を利用することで、リアルタイム画像又は静止画像の一部分を拡大した映像として表示することができる。
まず、リアルタイム映像の部分拡大について説明する。
上述した全周画像の一部にリアルタイム画像を表示させる処理の流れにおいて、CCTVカメラのズーム機能によりリアルタイム映像部分が拡大されると、表示範囲が狭くなり、リアルタイム映像部分のみ解像度が上がって、平面投影画像生成され(S115)、平面表示・記録・再生装置で表示又は記録することができる(S116)。
また、必要に応じて、球面表示・記録・再生装置(S117)に表示,記録することができる。
ズームによる部分拡大は、映像が断片であり、通常は全体の中で位置づけすることが難しいが、本実施形態では、静止画全周画像中にズーム画像が重ねて表示し、あるいは、別の画面に全周画像を表示し拡大箇所を範囲表示する等することで、部分拡大箇所がより解りやすく把握できるようになる。
【0040】
次に、全周画像の拡大について説明する
まず、全周画像の解像度は、例えば、CCTVカメラの解像度と、定義された球の大きさにより下限の解像度を決めることができる。この解像度を下限とし、上限の解像度はCCTVカメラのズーム倍率で決定される。
全周画像の記録・更新時間を短くするためには、下限の解像度で全周画像を作成することが望ましいが、高解像度画像を必要とする場合には、CCTVカメラのズーム機能を利用して、全周画像記録時に、高解像度画像を取得し全周画像を作成することが考えられる。但し、この場合には、画像作成時間が比較的、長時間に渡ることになる。そこで、全周画像中、部分的に高解像度画像を必要とする範囲を指定し、その部分だけを高解像画像で記録することができる。高解像度画像の範囲は、複数指定できる。
また、リアルタイム画像と全周画像の拡大を同時に使用すれば、リアルタイム画像の拡大率と全種画像の拡大率を同じにし、リアルタイム部分の動画と全周画像の表示を同じ解像度で見ることも可能となる。
さらに、拡大した一部リアルタイム映像を表示中、平面表示・記録・再生装置(S116)と球面表示・記録・再生装置(S117)に記録された画像を更新することにより、拡大映像が部分的に更新されることになる。
【0041】
[巡回表示]
巡回表示は、全周画像上で指定した範囲または対象物を、指定した解像度で、指定した時間表示を繰り返す機能である。例えば、平面投影表示された全周画像上で巡回表示の範囲指定、対象物指定をマウス等ポインティングデバイスで行う。
巡回表示時間は、使用できるカメラの台数、制御に必要な時間、指定範囲数、指定対象物数、指定解像度により決定され、その時間間隔で巡回表示を繰り返すことができる。
巡回表示箇所を、全周画像と重ねてあるいは、別の画面に表示箇所を範囲表示する等することにより非常に解りやすくなる。
また、巡回表示中、必要に応じ、平面表示・記録・再生装置(S116)及び球面表示・記録・再生装置(S117)に記録された画像の更新を行うこともできる。
また、全周囲背景画像は静止画画像であることから、画像更新時に前の画像と更新画像を比較し、変化が有れば、その変化を表示し、記録し、自動的にその場所をリアルタイム画像に切り替えて追跡することもできる。
【0042】
[画像記録]
画像記録は、例えば、平面投影表示された全周画像上でマウス等ポインティングデバイスを利用し範囲、対象物を選択し、指定した解像度で、指定した時間記録する機能である。全周画像上で記録の範囲指定、対象物指定を行う。
記録の時間間隔は、使用できるカメラの台数、制御に必要な時間、指定範囲数、指定対象物数、指定解像度により決定され、その時間間隔で、必要に応じ、平面表示・記録・再生装置(S116)及び球面表示・記録・再生装置(S117)に記録を繰り返すことができる。
【0043】
[全周画像内で対象物の追跡と記録]
さらには、画像内の対象物の移動に自動的に追従して、自動追跡表示することもできる。
全周画像内で対象物を追跡し記録する場合には、例えば、平面投影表示された全周画像上でマウス等ポインティングデバイスを利用し対象物を選択し、指定した解像度で追跡しリアルタイム表示する。
対象物は全周画像の全体又は一部の静止画周辺画像の中で、一部リアルタイム映像として重ね合わせて表示される。あるいは、全周画像の全体又は一部の静止画が別画面表示され、一部リアルタイム映像範囲が明示されるようにしても良い。この場合、対象が移動することによりその明示された範囲も移動する。
また、追跡表示中、必要に応じ、平面表示・記録・再生装置(S116)及び球面表示・記録・再生装置(S117)に記録することも勿論できる。
【0044】
なお、以上説明した本実施形態では、図3に示したように、一部リアルタイム画像は、球面変化処理され、必要に応じて平面画像に再変換されるようになっていたが、この一部リアルタイム画像の球面変換処理については省略することができる。
図6は、本実施形態の一部リアルタイム画像表示装置の動作の他の一例を示す説明図で、一部リアルタイム画像の球面変換処理については省略する場合を示している。なお、同図中、図3と同様の処理,内容は同一の符号を付してある。
このように一部リアルタイム画像の球面変換処理が省略される場合には、球面変換された静止画像中に、平面画像からなるリアルタイム画像が合成表示されることになる。
【0045】
以上説明したように、本実施形態の一部リアルタイム画像表示装置では、背景となるべき広域の全体画像は静止画像として生成,表示し、その静止画像中に動画像となるリアルタイム画像を整合して貼りつけて表示することで、広域の全体画像の中にリアルタイム画像を表示することができる。
これによって、例えばCCTVカメラで撮影される映像において、静止画で表示される広域の全体画像の中に、時々刻々変化する現在時点の画像を動画で示すリアルタイム画像を表示されることになり、全体把握と対象物認識の双方が極めて高精細な画像によって行えるようになる。
【0046】
[第二実施形態]
次に、本発明の一部リアルタイム画像表示装置の第二実施形態について、図7〜図11を参照して説明する。
図7は、本発明の第二実施形態に係る一部リアルタイム画像表示装置の概略構成を示すブロック図である。図8は、図7に示す本実施形態の一部リアルタイム画像表示装置の動作の一例を示す説明図である。
【0047】
これらの図に示すように、第一実施形態では、背景画像となる静止画として、ビデオカメラ装置1で撮影される視点方向の異なる複数の画像を共通の仮想球面に貼り付けるようにしていたが、本実施形態では、仮想平面上に複数画像を貼り付けるようにしたものである。
本実施形態は、貼り付け範囲は狭くなるが実用的な仮想共通平面に貼りつけることで、第一実施形態の場合と同様に、平面の背景静止画にビデオ映像からなるリアルタイム画像を貼り付けて観察できるようにしたものである。
具体的には、図7に示すように、ビデオカメラ装置1aで撮影される映像は、球面変換処理はされず、静止画も動画も目的平面変換装置3aにより、異なる画角の画像を共通の仮想平面に変換され、複合画像整合装置4aで各静止画が目的平面に貼り付けられる。そして、広域画像生成装置5aで、背景静止画像となる広域画像が生成され、画像合成装置7aにより、背景静止画像とリアルタイム画像が合成されて、表示装置9で一部リアルタイム周画像が表示されることになる。
【0048】
上述した第一実施形態の画像表示装置では、仮想球面を設定し、その仮想球面に画像を貼りつけるために、原理的にカメラは固定でなければならなかったが、本実施形態のように、仮想平面となる目的平面に画像を貼り付ける場合は、カメラは固定されていても勿論良いが、移動するカメラからでも画像の貼り付けが可能となり、また、複数の場所の複数のカメラからの画像を目的平面に変換したものを、その所望の目的平面に貼り付けることができる。
このように、本実施形態では、仮想の目的平面を設定して複数の画像を貼り付けることで、原理的に不整合や歪みのない一枚の広域画像を生成することができ、また、それらを背景画像とすることも、リアルタイム画像とすることも可能となり、より実用的な一部リアルタイム画像表示装置を実現できる。
【0049】
ここで、複数の画像を目的平面に貼り付けて表示する方法としては、カメラで取得される映像を目的平面に直接変換して貼り付けて表示することができる他、以下に示すように基準仮想平面に基づいて保存された画像データから、所望の目的平面に投影した画像を生成することができる。
具体的には、予め基準となる基準仮想平面を設定しておき、その基準仮想平面に変換して、保存し、その保存データから、観察者の必要とする目的平面に変換することで、いつでも自由にどの方向にでも変換表示できるようになる。
第一実施形態で示した仮想球面の場合との違いは、仮想球面方式では仮想球面の中心にカメラが存在するという前提で変換がなされるので、複数のカメラの位置関係は球の中心を外れるようには変更できない。しかし、基準仮想平面に変換することで、球の中心には縛られないので、カメラの位置関係が変更されても、それぞれのカメラ自体が移動する場合でも、基準仮想平面を各カメラに共通に設定することができるので、複数のカメラからの複数の画像を結合して保存できることになる。
【0050】
ここで基準仮想平面は任意であるが、全周画像を生成する場合には複数の基準仮想平面を設定しなければならない。目的平面に変換表示する場合には、複数の基準仮想平面から同一の目的平面に変換することになる。
さらに、各カメラの位置関係が決定されていて、各カメラの各光軸方向が固定されている場合には、新たな基準面を想定しなくても、各カメラによって固定された画像平面を基準仮想面として変換し、保存し、そこから任意の目的平面に変換して表示すればよい。
以下、基準仮想平面に基づく目的平面の変換方法を、図9〜図11を参照しつつより具体的に説明する。
【0051】
まず、図9(a)に示すように、一台のカメラの視点方向はまちまちであり、それら画像のもつ撮影平面はそれぞれ異なる。そこで、このような場合に、各カメラの画像を基準仮想平面に変換し、図9(c)に示すように、カメラの各方向毎の画像を位置合わせし、継ぎ目なく結合し、整合し、これを記録する。
また、図9(b)に示すように、設置位置も視点方向もバラバラの複数台のカメラ1〜3を使用する場合にも、対象物が限定されていれば、その画像を基準仮想平面に変換することができる。それぞれのカメラからの画像1〜3の撮影平面はまちまちであるから、図9(b)に示すように、基準仮想平面にカメラ1〜3の画像1〜3を投影し、基準仮想平面上で位置合わせし、継ぎ目なく結合し、整合し、記録することができる。
【0052】
また、カメラ全周囲を示す全周画像の場合にも、各フレーム画像の位置合わせ,結合,整合,記録のために基準仮想平面を利用することができる。この場合には、基準仮想平面を複数設定すれば良い。例えば、図10(a)に示すように、基準仮想平面を六面作成し、基準仮想平面によって立方体を構成することで、全周画像を立方体に位置合わせし、継ぎ目なく結合し、整合し、記録することができる。
そして、この立方体内に、図10(b)に示すように、観測者からの任意の視点を設定し、その任意の視点に基づく目的平面を定義する。
これによって、図10(c)に示すように、任意の視点に基づく目的平面に対して、該当する基準仮想平面1〜2の画像を投影することで所望の画像を作成し、表示することができる。
【0053】
さらに、図11に示すように、複数のカメラ1〜3の位置と光軸の関係が把握できている場合には、基準仮想平面をカメラ1〜3の各画像を基準仮想平面1〜8と考え、任意の目的平面に投影し画像を作成することができる。
本来、カメラ画像は、レンズの歪み等の条件を除けば、2次元のCCD面上に投影された、画素の集まりであり、全周囲画像等広範囲の画像の記録方式にこの基準仮想平面を利用すれば、コンピュータの2次元メモリー上に画像データが効率よく記憶できる。
また、仮想基準平面は任意に設定できるので、もと画像の解像度をできるだけ低下させない基準仮想平面を設定し記録することも可能であり、画像の品質を維持しながら、記録が可能となる。
【0054】
以上説明したように、本実施形態の一部リアルタイム画像表示装置では、背景画像となる静止画として、ビデオカメラ装置1で得られる複数の画像を共通の仮想平面上に複数画像を貼り付けることで、貼り付け範囲は狭くなるが実用的な仮想共通平面に貼りつけることで、平面の背景静止画にビデオ映像からなるリアルタイム画像を合成表示することができる。
これにより、固定されたカメラからの画像だけでなく、移動するカメラからの画像や、複数の異なる場所に設置されたカメラからの画像についても、目的平面に変換して、所望の一部リアルタイム合成画像を取得でき、より実用的な一部リアルタイム画像表示装置を提供することができる。
【0055】
[第三実施形態]
さらに、本発明の一部リアルタイム画像表示装置の第三実施形態について、図12及び図13を参照しつつ説明する。
図12は、本発明の第三実施形態に係る一部リアルタイム画像表示装置の概略構成を示すブロック図である。
同図に示す本実施形態の画像表示装置は、背景画像を撮影,取得するカメラ側装置と、所望の対象物を含む背景画像を観察するオペレータ側装置とが離れた位置に設置され、両装置間が通信回線等を介して接続される場合に、一部リアルタイム画像を含む背景画像を、カメラ側,オペレータ側間でストレスなく送受信できるようにしたものである。
【0056】
一般に、インターネット等の狭帯域の回線で動画を送ろうとしても、動きが遅く、現実的に使えない場合が多い。このような場合に、本発明の一部リアルタイム画像を利用することにより、画像取得側となるカメラ側から、背景となる静止画を間欠的に送信し、必要な一部分をリアルタイム画像で送信し、それをオペレータ側で合成して一枚の画像を生成することにより、広い背景画像のある中の必要な箇所のリアルタイム画像を観察できることになる。リアルタイム画像は狭い範囲でも背景画像があれば、背景画像から必要な箇所の位置づけが簡単にでき、効果的である。
この場合、リアルタイム画像は狭い範囲の表示で済むので、全画像を動画として送ることに比べれば、その分データ量は極めて少なくなり、狭帯域で必要な情報を得ることができる。そして、オペレータ側では、リアルタイム画像の位置を自由に変更し、また、対象物を自動追跡する等によって、必要となる情報は動画として入手できることになる。この場合、例えばWEB等で動画像データを任意に使用,加工して活用できるようになる。
【0057】
具体的には、本実施形態の一部リアルタイム画像表示装置は、図12に示すような構成となっている。なお、同図中、図1又は図7に示した画像表示装置と同様の内容,機能の構成部分は同一の符号を付してある。
まず、所望の映像を取得するビデオカメラ装置1bからの画像出力は、画像取得装置3bで取得され、その1フレームが1フレーム画像取得装置4bで取り出されて静止画として取得される。フレーム画像は周囲画像更新指定装置4−1bにより選択される。
また、ビデオ画像から必要な範囲のリアルタイム画像をリアルタイム画像切り取り装置6−1bで切り取り、その位置と共にカメラ側装置に送られる。リアルタイム画像の切り取り範囲又は切り取り位置はリアルタイム画像位置指定装置6bから送られ、その位置信号はリアルタイム画像位置信号付加装置6−2bからカメラ側送信装置11に送られ、静止画像,動画像とともにオペレータ側に送られる。
【0058】
オペレータ側では、オペレータ側受信装置21でカメラ側からの三信号、すなわち周囲静止画像信号,リアルタイム画像信号,リアルタイム画像位置信号が受信される。
受信された周囲静止画像信号とリアルタイム画像信号は、位置合わせ場所指定装置7−1bを経て、画像合成装置7bで合成されて表示装置9bに送られる。
また、オペレータ側では、オペレータ作業装置22でリアルタイム画像の切り取り位置、又は切り取り範囲が指定され、オペレータ側送信装置23を介してカメラ側に送信され、カメラ側受信装置12で受信される。
このオペレータ側からの信号により、カメラ側では、リアルタイム画像位置指定装置6bでリアルタイム画像の位置が指定,変更,移動され、周囲画像更新指定装置4−1bで静止画の更新が指定され、さらに、カメラ制御装置2bでカメラの方位や画角が制御されることになる。
ここで、オペレータ側に、あるいはカメラ側に自動追跡装置を付加すれば、自動的に目的とする対象物を追いかけながらリアルタイム画像を観察することができる。なお、リアルタイム画像の位置指定はカメラの台数により複数でも可能であり、さらに一カメラの画像内の複数箇所でも位置指定できる。
【0059】
以上のような構成により、本実施形態では、カメラ側とオペレータ側とが離れた位置に設置されている場合にも一部リアルタイム画像表示装置を実現することができ、カメラ側から遠隔の場所にあるオペレータ側において、例えばインターネット等の通信回線を介して目的の動画像を周囲の環境の中に位置づけて観察することができる。
図13に、本実施形態で、オペレータ側で観察される合成画像の具体例を示す。
同図に示すように、本実施形態で得られる合成画像は、一台のカメラの一枚の画像からその一部を切り取って動画として送るようにしてある。この原理と方法によれば、一台のカメラの広角画像を背景画像とし、そのカメラでズームアップした詳細な動画像を示すリアルタイム画像を送り、これをオペレータ側で重ねて表示することで、上述した第一,第二実施形態と同様の本発明の効果を実現することができる。この意味で、本実施形態は第二実施形態の特殊の場合と考えられ、第二実施形態の結合画像による背景画像を、本実施形態では直接一枚の画像から取得するようにしたものである。
なお、複数のカメラを用いて、背景画像とリアルタイム画像を別々に取得することも勿論可能である。
【0060】
このように、本実施形態の一部リアルタイム画像表示装置によれば、背景画となる静止画とリアルタイム画像となる動画をカメラ側装置から別個に送信し、オペレータ側装置で一枚の画像を合成することで、狭帯域の回線を介してもストレスなくデータを送信でき、オペレータ側から遠隔操作されるカメラ装置であっても、本発明に係る一部リアルタイム画像を滑らかに生成,表示させることが可能となる。インターネット等の狭帯域の回線で動画を送ろうとしても、データ量が多い場合には動きが遅くなり、現実的に使えないことが多い。その一方で、本発明で得られる合成画像は、リアルタイム画像が狭い範囲であっても、背景画像があれば、その背景画像から必要な箇所の位置づけが容易にでき、効果的な観察が行える。そこで、本発明では、背景となる静止画を間欠的に送り、必要な一部分をリアルタイム画像で送り、それをオペレータ側で合成して一枚の画像を生成することで、広い背景画像中に必要な箇所のリアルタイム画像が表示された合成画像を取得,観察できるようにしてある。
これにより、本実施形態では、動画については狭い範囲のリアルタイム画像を送信すれば良く、全画像を動画として送ることに比べてデータ量は極めて少なくなり、狭帯域を介して必要な情報を得ることができる。
このようにデータ量を少なくして所望の動画(リアルタイム画像)と静止画(背景画)を送信できる本実施形態によれば、カメラで直接取得された画像(動画及び静止画)のみならず、既に撮影され記録,保存された画像について、静止画中の所望の箇所,対象物を指定してリアルタイム画像として送受信することができ、特にインターネット等の狭帯域回線を利用した画像配信に好適となる。
【0061】
以上、本発明の一部リアルタイム画像表示装置について、好ましい実施形態を示して説明したが、本発明に係る一部リアルタイム画像表示装置は、上述した実施形態にのみ限定されるものではなく、本発明の範囲で種々の変更実施が可能であることは言うまでもない。
例えば、ビデオカメラは任意の複数台備えることができ、背景画像取得用とリアルタイム画像取得用のカメラを別々に備えることもできる。この場合には、背景画像用のカメラの光学中心とリアルタイム画像用の主カメラの光学中心を、ミラー等を用いて光学的に一致させ、あるいは、極めて接近させることで、全周画像の生成を休止せず、リアルタイム画像表示と同時に行うことができる。
また、静止画像やリアルタイム画像中の所望の対象物画像等は、例えば、本願出願人が既に提案している平面展開技術やPRM技術を利用し、画像内を計測して一部分を平面に展開し、あるいは対象物を自動認識させて、3DCG化させることも可能である。
【0062】
さらに、静止画像内には、リアルタイム画像の認識等に必要となる任意の表示を付加することができる。例えば、リアルタイム画像によって表示される対象物の方位を表示することができる。このようにすると、カメラから見て対象物がどの方向にあるが特定でき、対象物の観察,認識をより容易化することができる。また、一度対象物の方位を記録しておけば、次回からは方位を指定することで対象物とその周囲画像を表示することも可能となる。
ここで言う「方位」とは、地図上で指定できる方向のことで、緯度経度や測量等で利用されている公共座標等が該当する。
このような方位情報を付加することにより、例えば、見ている画像にある対象物を選択すると対象物がどの方向にあるかが表示され、地図上で方向を確認するような場合に有効となる。また、緯度経度によりその方向の画像を見ることもできるようになる。
【0063】
【発明の効果】
以上説明したように、本発明の一部リアルタイム画像表示装置によれば、背景となる広範囲な画像を結合静止画として生成するとともに、対象物をリアルタイム画像、即ちビデオ画像で動画として生成することができる。これによって、静止画背景画像の中にリアルタイム画像をはめ込んで表示することが可能となり、広域画像を不整合なく正確に表示しつつ、広域画像中に所望の対象物を明瞭な動画像として表示することができる。
しかも、本発明の一部リアルタイム画像表示装置では、背景となる周囲画像を静止画として送信するとともに、所望の対象物を狭い範囲の動画像として送信することができる。これによって、動画と静止画を結合したビデオ画像を送信することが可能となり、帯域の狭い回線であっても所望の対象物の画像を動画像として送信することができる。
【図面の簡単な説明】
【図1】本発明の第一実施形態に係る一部リアルタイム画像表示装置の概略構成を示すブロック図である。
【図2】図1に示す一部リアルタイム画像表示装置で球面画像及び平面画像を取得する状態を模式的に示した説明図である。
【図3】図1に示す一部リアルタイム画像表示装置の動作の一例を示す説明図である。
【図4】図1に示す一部リアルタイム画像表示装置で取得される合成画像の一例を示す説明図である。
【図5】図1に示す一部リアルタイム画像表示装置で取得される合成画像の他の一例を示す説明図である。
【図6】図1に示す一部リアルタイム画像表示装置の動作の他の一例を示す説明図である。
【図7】本発明の第二実施形態に係る一部リアルタイム画像表示装置の概略構成を示すブロック図である。
【図8】図7に示す一部リアルタイム画像表示装置の動作の一例を示す説明図である。
【図9】図7に示す一部リアルタイム画像表示装置で基準仮想平面上で画像を取得する状態を模式的に示した説明図である。
【図10】図9に示す基準仮想平面に基づいて目的平面上の画像を取得する状態の一例を模式的に示した説明図である。
【図11】図9に示す基準仮想平面に基づいて目的平面上の画像を取得する状態の他の一例を模式的に示した説明図である。
【図12】本発明の第三実施形態に係る一部リアルタイム画像表示装置の概略構成を示すブロック図である。
【図13】図12に示す一部リアルタイム画像表示装置で取得される合成画像の一例を示す説明図である。
【符号の説明】
1 ビデオカメラ装置
2 カメラ制御装置
3 球面画像変換装置
4 球面画像整合装置
5 球面画像生成装置
6 リアルタイム画像位置指定装置
7 画面合成装置
8 平面画像変換装置
9 表示装置
Claims (7)
- 所望の視点方向及び画角でカメラ周囲の全部又は一部のビデオ映像を撮影する撮影手段と、
撮影手段で撮影されるビデオ映像を一又は二以上のフレーム画像として取得し、所望の目的面に整合された静止画周辺画像に変換する静止画周辺画像変換手段と、
静止画周辺画像の一部を、撮影手段で撮影されるビデオ映像がそのまま出力されるリアルタイム画像の表示範囲として指定するリアルタイム画像指定手段と、
リアルタイム画像と静止画周辺画像とを一体的に表示する画像合成表示手段と、
を備えることを特徴とする一部リアルタイム画像表示装置。 - 前記撮影手段が、所望の視点方向及び画角でビデオ映像を取得するビデオカメラ装置と、ビデオカメラ装置を制御し、所望の視点方向及び画角でカメラ周囲の全部又は一部を走査させるとともに、指定した視点方向及び画角でビデオ映像を取得させるカメラ制御装置と、を備え、
前記静止画周辺画像変換手段が、ビデオカメラ装置で取得されるビデオ映像の各フレーム画像を、所定の球面画像に変換する球面画像変換装置と、順次変換される球面画像をカメラ周囲の全部又は一部に相当する複合画像として位置合わせし、切れ目無く整合させる球面画像整合装置と、整合された複合画像を仮想球面に貼り付けて球面画像を生成する球面画像生成装置と、を備え、
前記リアルタイム画像指定手段が、球面画像からなる静止画周辺画像中に所望の周辺表示範囲を指定するリアルタイム画像位置指定装置を備え、
前記画像合成表示手段が、静止画周辺画像から指定された周辺表示範囲を切り取り、当該切り取り部分に球面変換されたビデオ出力そのままのリアルタイム画像を位置合わせして切れ目無くはめ込む画像合成装置と、合成された静止画周辺画像とリアルタイム画像とを同一面に表示する表示装置と、を備える
請求項1記載の一部リアルタイム画像表示装置。 - 前記静止画周辺画像変換手段が、必要に応じて仮想球面に貼り付けられた画像を平面画像に再変換する平面画像変換装置を更に備え、
前記リアルタイム画像位置指定装置が、平面画像からなる静止画周辺画像中に所望の周辺表示範囲を指定し、
前記画像合成装置が、指定された周辺表示範囲を切り取り、当該切り取り部分に、平面画像に変換されたリアルタイム画像をはめ込む
請求項2記載の一部リアルタイム画像表示装置。 - 前記撮影手段が、所望の視点方向及び画角でビデオ映像を取得するビデオカメラ装置と、ビデオカメラ装置を制御し、所望の視点方向及び画角でカメラ周囲の所定範囲を走査させるとともに、指定した視点方向及び画角でビデオ映像を取得させるカメラ制御装置と、を備え、
前記静止画周辺画像変換手段が、ビデオカメラ装置で取得されるビデオ映像の各フレーム画像を、所定の目的平面画像に変換する目的平面変換装置と、順次変換される平面画像を複合画像として位置合わせし、切れ目無く整合させる複合画像整合装置と、整合された複合画像を仮想平面に貼り付けて広域画像を生成する広域画像生成装置と、を備え、
前記リアルタイム画像指定手段が、必要に応じて、広域画像からなる静止画周辺画像中に所望の周辺表示範囲を指定するリアルタイム画像位置指定装置を備え、
前記画像合成表示手段が、静止画周辺画像から指定された周辺表示範囲を切り取り、当該切り取り部分に、平面変換されたビデオ出力そのままのリアルタイム画像を位置合わせして切れ目無くはめ込む画像合成装置と、合成された広域画像からなる静止画周辺画像とリアルタイム画像とを同一の目的平面に表示する表示装置と、を備える
請求項1記載の一部リアルタイム画像表示装置。 - 前記目的平面変換装置が、単数又は複数の基準仮想平面を設定し、単数又は複数のビデオカメラ装置で取得される各視点方向の画像を、所望の基準仮想平面に変換し、
前記複合画像整合装置が、一又は複数の各視点方向の画像を所望の基準仮想平面上で位置合わせし、継ぎ目無く結合して整合し、
当該多方向の結合画像を記録することにより、多方向の結合画像を、必要とする任意の目的平面上に変換して所望の画像表示する
請求項4記載の一部リアルタイム画像表示装置。 - ビデオ映像撮影用のカメラ側装置と、カメラ側装置を遠隔操作するためのオペレータ側装置とを備え、
カメラ側装置に、前記撮影手段と、前記静止画周辺画像変換手段と、前記リアルタイム画像指定手段が備えられ、
オペレータ側装置に、前記画像合成表示手段が備えられ、
カメラ側装置で取得された静止画周辺画像及び所望のリアルタイム画像がオペレータ側装置に送信され、当該オペレータ側装置で一体的に合成されて表示される請求項1記載の一部リアルタイム画像表示装置。 - 前記カメラ側装置には、
前記撮影手段として、所望の視点方向及び画角でビデオ映像を取得するビデオカメラ装置と、指定によりビデオカメラ装置を制御し、所望の視点方向及び画角でカメラ周囲の全部又は一部を走査させるとともに、指定した視点方向及び画角でビデオ映像を取得させるカメラ制御装置と、を備えるとともに、
前記静止画周辺画像変換手段として、ビデオカメラ装置から画像を取得する画像取得装置と、画像取得装置で取得される画像から静止画周辺画像となるべきフレーム画像を取得する1フレーム画像取得装置と、1フレーム画像を更新する周囲画像更新指定装置と、を備え、
前記リアルタイム画像指定手段として、リアルタイム画像切り取り位置を指定するリアルタイム画像位置指定装置と、1フレーム画像内の指定された範囲でリアルタイム画像を切り取るリアルタイム画像切り取り装置と、リアルタイム画像と、背景となるべき周囲静止画像との位置関係を指定するリアルタイム画像位置信号付加装置と、を備え、
さらに、オペレータ側に周囲静止画像信号,リアルタイム画像信号,リアルタイム画像の位置を指定する位置指定信号を送信するカメラ側送信装置と、
オペレータ側からカメラ制御,周囲画像更新,リアルタイム画像位置の指示を受信するカメラ側受信装置と、を備え、
前記オペレータ側装置には、
カメラ側装置から周囲静止画像信号,リアルタイム画像信号,リアルタイム画像の位置を指定する位置指定信号を受信するオペレータ側受信装置と、
ビデオカメラ装置を遠隔操作し、指定した視点方向及び画角でビデオ映像を取得させるとともに、リアルタイム画像の位置を変更するオペレータ作業装置と、
オペレータ作業装置の遠隔操作信号をカメラ側に送信するオペレータ側送信装置と、を備えるとともに、
さらに、前記画像合成表示手段として、受信した周囲静止画像とリアルタイム画像とを、受信した位置指定信号により位置合わせする位置合わせ装置と、位置合わせした周囲静止画画像とリアルタイム画像を合成して合成画像を生成する画像合成装置と、生成された合成画像を最終画像として表示する表示装置と、
を備える請求項6記載の一部リアルタイム画像表示装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002380052A JP2004214830A (ja) | 2002-12-27 | 2002-12-27 | 一部リアルタイム画像表示装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002380052A JP2004214830A (ja) | 2002-12-27 | 2002-12-27 | 一部リアルタイム画像表示装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004214830A true JP2004214830A (ja) | 2004-07-29 |
Family
ID=32816380
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002380052A Pending JP2004214830A (ja) | 2002-12-27 | 2002-12-27 | 一部リアルタイム画像表示装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004214830A (ja) |
Cited By (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007226580A (ja) * | 2006-02-24 | 2007-09-06 | Advanced Telecommunication Research Institute International | 画像出力装置、及び画像出力方法 |
JP2008278385A (ja) * | 2007-05-02 | 2008-11-13 | Sony Corp | モニタリングシステム、並びにカメラおよび表示部制御装置 |
JP2009010915A (ja) * | 2007-05-31 | 2009-01-15 | Takeshi Yanagisawa | 映像表示方法及び映像システム |
JP2009253976A (ja) * | 2008-04-10 | 2009-10-29 | National Chiao Tung Univ | 統合型画像監視システムおよびその画像ビデオ融合方法 |
WO2010035752A1 (ja) * | 2008-09-24 | 2010-04-01 | 株式会社ニコン | 画像生成装置、撮像装置、画像再生装置、画像再生プログラム |
JP2013255226A (ja) * | 2012-06-05 | 2013-12-19 | Axis Ab | 画像取込装置の改良された制御 |
JP2014502430A (ja) * | 2010-09-14 | 2014-01-30 | マイクロソフト コーポレーション | 既存の静止画像内における映像の可視化 |
JP5457668B2 (ja) * | 2006-04-03 | 2014-04-02 | 健 柳沢 | 映像表示方法及び映像システム |
CN103731630A (zh) * | 2012-10-16 | 2014-04-16 | 华为技术有限公司 | 一种视频监控方法、设备和系统 |
JP2014082764A (ja) * | 2013-11-01 | 2014-05-08 | Sony Computer Entertainment Inc | 画像表示装置、画像表示方法、サーバ装置、および画像データ構造 |
US9124867B2 (en) | 2010-10-05 | 2015-09-01 | Sony Corporation | Apparatus and method for displaying images |
WO2016163342A1 (ja) * | 2015-04-06 | 2016-10-13 | 株式会社リコー | 情報処理装置、情報処理方法、および情報処理プログラム |
JP2018011302A (ja) * | 2013-04-30 | 2018-01-18 | ソニー株式会社 | 画像処理装置、画像処理方法、及びプログラム |
CN110114795A (zh) * | 2017-03-24 | 2019-08-09 | 深圳看到科技有限公司 | 全景画面播放方法及全景画面播放装置 |
CN113055604A (zh) * | 2021-04-01 | 2021-06-29 | 四川新视创伟超高清科技有限公司 | 基于8k视频信号和ai技术的最佳视角视频处理系统及方法 |
JP7016438B1 (ja) | 2021-03-29 | 2022-02-18 | グリー株式会社 | 情報処理システム、情報処理方法およびコンピュータプログラム |
JP2022153263A (ja) * | 2021-03-29 | 2022-10-12 | グリー株式会社 | 情報処理システム、情報処理方法およびコンピュータプログラム |
-
2002
- 2002-12-27 JP JP2002380052A patent/JP2004214830A/ja active Pending
Cited By (41)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007226580A (ja) * | 2006-02-24 | 2007-09-06 | Advanced Telecommunication Research Institute International | 画像出力装置、及び画像出力方法 |
JP5457668B2 (ja) * | 2006-04-03 | 2014-04-02 | 健 柳沢 | 映像表示方法及び映像システム |
JP2008278385A (ja) * | 2007-05-02 | 2008-11-13 | Sony Corp | モニタリングシステム、並びにカメラおよび表示部制御装置 |
JP2009010915A (ja) * | 2007-05-31 | 2009-01-15 | Takeshi Yanagisawa | 映像表示方法及び映像システム |
TWI383680B (zh) * | 2008-04-10 | 2013-01-21 | Univ Nat Chiao Tung | 整合式影像監視系統及其方法 |
US8547434B2 (en) | 2008-04-10 | 2013-10-01 | National Chiao Tung University | Integrated image surveillance system and image synthesis method thereof |
JP2009253976A (ja) * | 2008-04-10 | 2009-10-29 | National Chiao Tung Univ | 統合型画像監視システムおよびその画像ビデオ融合方法 |
JPWO2010035752A1 (ja) * | 2008-09-24 | 2012-02-23 | 株式会社ニコン | 画像生成装置、撮像装置、画像再生装置、画像再生プログラム |
US9060160B2 (en) | 2008-09-24 | 2015-06-16 | Nikon Corporation | Image generation device, imaging device, image reproduction device, and image reproduction program |
JP2013229914A (ja) * | 2008-09-24 | 2013-11-07 | Nikon Corp | 撮像装置、画像再生装置、画像再生プログラム |
WO2010035752A1 (ja) * | 2008-09-24 | 2010-04-01 | 株式会社ニコン | 画像生成装置、撮像装置、画像再生装置、画像再生プログラム |
JP2015053741A (ja) * | 2008-09-24 | 2015-03-19 | 株式会社ニコン | 画像再生装置 |
EP2617007A4 (en) * | 2010-09-14 | 2017-12-20 | Microsoft Technology Licensing, LLC | Visualizing video within existing still images |
JP2014502430A (ja) * | 2010-09-14 | 2014-01-30 | マイクロソフト コーポレーション | 既存の静止画像内における映像の可視化 |
US9594960B2 (en) | 2010-09-14 | 2017-03-14 | Microsoft Technology Licensing, Llc | Visualizing video within existing still images |
US9497391B2 (en) | 2010-10-05 | 2016-11-15 | Sony Corporation | Apparatus and method for displaying images |
US9124867B2 (en) | 2010-10-05 | 2015-09-01 | Sony Corporation | Apparatus and method for displaying images |
JP2013255226A (ja) * | 2012-06-05 | 2013-12-19 | Axis Ab | 画像取込装置の改良された制御 |
KR101520049B1 (ko) | 2012-06-05 | 2015-05-13 | 엑시스 에이비 | 이미지 캡쳐 디바이스의 개선된 제어 |
JP2015532564A (ja) * | 2012-10-16 | 2015-11-09 | 華為技術有限公司Huawei Technologies Co.,Ltd. | ビデオ監視方法、デバイス及びシステム |
CN103731630B (zh) * | 2012-10-16 | 2019-01-11 | 华为技术有限公司 | 一种视频监控方法、设备和系统 |
CN103731630A (zh) * | 2012-10-16 | 2014-04-16 | 华为技术有限公司 | 一种视频监控方法、设备和系统 |
KR101732991B1 (ko) * | 2012-10-16 | 2017-05-08 | 후아웨이 테크놀러지 컴퍼니 리미티드 | 비디오 감시 방법, 장치 및 시스템 |
US9723190B2 (en) | 2012-10-16 | 2017-08-01 | Huawei Technologies Co., Ltd. | Video surveillance method, device, and system |
US10789676B2 (en) | 2013-04-30 | 2020-09-29 | Sony Corporation | Image processing device, image processing method, and program |
US10229477B2 (en) | 2013-04-30 | 2019-03-12 | Sony Corporation | Image processing device, image processing method, and program |
JP2018011302A (ja) * | 2013-04-30 | 2018-01-18 | ソニー株式会社 | 画像処理装置、画像処理方法、及びプログラム |
CN110730296A (zh) * | 2013-04-30 | 2020-01-24 | 索尼公司 | 图像处理装置、图像处理方法及计算机可读介质 |
JP2014082764A (ja) * | 2013-11-01 | 2014-05-08 | Sony Computer Entertainment Inc | 画像表示装置、画像表示方法、サーバ装置、および画像データ構造 |
US10692409B2 (en) | 2015-04-06 | 2020-06-23 | Ricoh Company, Ltd. | Information processing apparatus, information processing method, and computer program product for arranging a planar image in a full-spherical panoramic image obtained by imaging an omnidirectional range |
JP2019024203A (ja) * | 2015-04-06 | 2019-02-14 | 株式会社リコー | 情報処理装置、情報処理方法、および情報処理プログラム |
JP2020053080A (ja) * | 2015-04-06 | 2020-04-02 | 株式会社リコー | プログラムおよび記録媒体 |
JPWO2016163342A1 (ja) * | 2015-04-06 | 2017-11-16 | 株式会社リコー | 情報処理装置、情報処理方法、および情報処理プログラム |
WO2016163342A1 (ja) * | 2015-04-06 | 2016-10-13 | 株式会社リコー | 情報処理装置、情報処理方法、および情報処理プログラム |
US10923004B2 (en) | 2015-04-06 | 2021-02-16 | Ricoh Company, Ltd. | Information processing apparatus, information processing method, and computer program product for arranging a planar image within a panoramic image |
CN110114795A (zh) * | 2017-03-24 | 2019-08-09 | 深圳看到科技有限公司 | 全景画面播放方法及全景画面播放装置 |
JP7016438B1 (ja) | 2021-03-29 | 2022-02-18 | グリー株式会社 | 情報処理システム、情報処理方法およびコンピュータプログラム |
JP2022152443A (ja) * | 2021-03-29 | 2022-10-12 | グリー株式会社 | 情報処理システム、情報処理方法およびコンピュータプログラム |
JP2022153263A (ja) * | 2021-03-29 | 2022-10-12 | グリー株式会社 | 情報処理システム、情報処理方法およびコンピュータプログラム |
JP7317322B2 (ja) | 2021-03-29 | 2023-07-31 | グリー株式会社 | 情報処理システム、情報処理方法およびコンピュータプログラム |
CN113055604A (zh) * | 2021-04-01 | 2021-06-29 | 四川新视创伟超高清科技有限公司 | 基于8k视频信号和ai技术的最佳视角视频处理系统及方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6587113B2 (ja) | 画像処理装置及び画像処理方法 | |
JP4153146B2 (ja) | カメラアレイの画像制御方法、及びカメラアレイ | |
JP2004214830A (ja) | 一部リアルタイム画像表示装置 | |
JP4332231B2 (ja) | 撮像装置コントローラおよび撮像システム | |
US7719568B2 (en) | Image processing system for integrating multi-resolution images | |
JP2000032319A (ja) | カメラ制御システム、カメラ制御方法、カメラ制御装置、及びこれらに用いる画像処理装置、記録媒体 | |
WO2004084542A1 (ja) | パノラマ画像生成方法及びその装置並びにこれらの方法・装置を用いた監視システム | |
JP2006262030A (ja) | 画角調整装置、カメラシステムおよび画角調整方法 | |
KR101096157B1 (ko) | 듀얼 카메라를 이용한 실시간 감시장치 | |
US20170163888A1 (en) | System and method for remote monitoring at least one observation area | |
CN109525816A (zh) | 一种基于三维地理信息的多枪多球融合联动系统及方法 | |
KR100888935B1 (ko) | 지능형 영상 감시 시스템에서 두 카메라 간의 연동 방법 | |
JP3744147B2 (ja) | パノラマ画像生成装置および方法 | |
KR101778744B1 (ko) | 다중 카메라 입력의 합성을 통한 실시간 모니터링 시스템 | |
JPH10136345A (ja) | 情報提供システム | |
JP3232408B2 (ja) | 画像生成装置,画像呈示装置及び画像生成方法 | |
JP2006086671A (ja) | 自動追尾機能を有する撮像装置 | |
JP4211097B2 (ja) | 受像機、その位置認識装置、その位置認識方法及び仮想画像立体合成装置 | |
JPH11308608A (ja) | 動画像生成方法,動画像生成装置及び動画像呈示装置 | |
JP2000253391A (ja) | パノラマ映像生成システム | |
CN108492254A (zh) | 图像采集系统及方法 | |
JP2992617B2 (ja) | 遠隔制御カメラの撮影位置決定方法およびカメラ遠隔制御システム | |
JPH1198342A (ja) | パノラマ画像表示方法及びその装置 | |
JP2006025340A (ja) | 広角撮像装置、撮像システムおよびその制御方法 | |
JP4332580B2 (ja) | 制御装置および制御方法、並びに監視システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20051027 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20071128 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080422 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20080819 |