JP5892060B2 - 表示制御装置、表示制御システム、表示制御方法及びプログラム - Google Patents

表示制御装置、表示制御システム、表示制御方法及びプログラム Download PDF

Info

Publication number
JP5892060B2
JP5892060B2 JP2012280929A JP2012280929A JP5892060B2 JP 5892060 B2 JP5892060 B2 JP 5892060B2 JP 2012280929 A JP2012280929 A JP 2012280929A JP 2012280929 A JP2012280929 A JP 2012280929A JP 5892060 B2 JP5892060 B2 JP 5892060B2
Authority
JP
Japan
Prior art keywords
imaging
viewpoint
subject
display control
imaging devices
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012280929A
Other languages
English (en)
Other versions
JP2014127735A (ja
Inventor
量平 山本
量平 山本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2012280929A priority Critical patent/JP5892060B2/ja
Publication of JP2014127735A publication Critical patent/JP2014127735A/ja
Application granted granted Critical
Publication of JP5892060B2 publication Critical patent/JP5892060B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Studio Devices (AREA)

Description

本発明は、表示制御装置、表示制御システム、表示制御方法及びプログラムに関する。
近年、スポーツ番組などにおいて、被写体の動きを一時的に停止させて視点を自由に移動させる「タイムスライス映像」を用いて選手の動きを多角的に見せることで、フォーム解析に役立てたりするシステムが知られている。このようなシステムは、装置構成が大がかりなものとなってしまうことから、被写体を中心とする円周方向に複数のカメラを配置して、ユーザが任意に指定した視点からの映像を選択的に表示するマルチアングルカメラシステムが開発されている(例えば、特許文献1参照)。
また、このカメラシステムでは、全方位映像を撮像可能となるように複数のカメラを外側に向けて配置して、カメラがない視点からの映像を含めてシームレスに視点を切り換えていく技術も開示されている。
特開2003−115050号公報
しかしながら、上記特許文献1のシステムは、視点のシームレスな移動を実現するために予め複数の撮像装置を略等間隔に配置しておかなければならず、これらの撮像装置が任意の位置に配置されていることは考慮されていない。
そこで、本発明の課題は、被写体を見る視点のシームレスな移動を容易に行うことができる表示制御装置、表示制御システム、表示制御方法及びプログラムを提供することである。
上記課題を解決するため、本発明は、被写体の周囲に配置された少なくとも3つの撮像装置により当該被写体を撮像した複数の動画データを取得し、前記取得された動画データに基づいて、前記被写体を見る視点を移動させながら動画像を表示手段に表示させ、前記少なくとも3つの撮像装置の相対的な位置関係を特定し、前記動画像を表示させる際の視点の移動が所定の移動状態となるような前記少なくとも3つの撮像装置の所定の位置関係を特定し、前記特定された相対的な位置関係に基づいて、前記所定の位置関係に対する各撮像装置の配置のズレ量を特定し、前記特定された各撮像装置の配置のズレ量に基づいて、当該ズレを補正するための案内を行い、前記案内に応じて配置が変更された後に取得された動画データに基づいて、前記被写体を見る視点を所定の移動状態で移動させながら動画像を表示手段に表示させることを特徴とする。
また、他の態様による発明は、被写体の周囲に配置された少なくとも3つの撮像装置により当該被写体を撮像した複数の動画データを取得し、前記取得された動画データに基づいて、前記被写体を見る視点を移動させながら動画像を表示手段に表示させ、前記少なくとも3つの撮像装置の撮像位置、撮像方向の関係を特定し、前記少なくとも3つの撮像装置の撮像タイミングの関係を特定し、前記特定された前記少なくとも3つの撮像装置の撮像位置、撮像方向の関係、及び前記特定された前記少なくとも3つの撮像装置の撮像タイミングの関係に基づいて、表示される動画像の時間進行を一時停止させることなく視点を所定状態で移動させるように制御することを特徴とする。
また、他の態様による発明は、被写体の周囲に配置された少なくとも3つの撮像装置により当該被写体を撮像した複数の動画データを取得し、前記取得された動画データに基づいて、前記被写体を見る視点を移動させながら動画像を表示手段に表示させ、前記少なくとも3つの撮像装置のうち、当該撮像装置の並び方向の一端に配置された撮像装置から前記一端と反対側となる他端に配置された撮像装置までが撮像された複数の画像から生成されたパノラマ画像を取得し、前記取得されたパノラマ画像に基づいて、前記被写体の位置を基準とする前記少なくとも3つの撮像装置の相対的な位置関係を特定し、前記特定された相対的な位置関係に基づいて、動画像を表示させる際の視点の移動を制御することを特徴とする。
本発明によれば、被写体を見る視点のシームレスな移動を容易に行うことができる。
本発明を適用した一実施形態の表示制御システムの概略構成を模式的に示す図である。 図1の表示制御システムを構成する撮像装置の概略構成を示すブロック図である。 図2の撮像装置の撮像制御部、画像データ処理部及び表示制御部の内部構成を示す図である。 図1の表示制御システムによる配置処理に係る動作の一例を示すフローチャートである。 図4の配置処理を説明するための図である。 配置処理の変形例1を説明するための図である。 図1の表示制御システムによる撮像同期処理に係る動作の一例を示すフローチャートである。 図7の撮像同期処理を説明するための図である。 図7の撮像同期処理に係る画像の一例を示す図である。 図1の表示制御システムによる骨格モデル生成処理に係る動作の一例を示すフローチャートである。 図10の骨格モデル生成処理を説明するための図である。 図1の表示制御システムによる自由視点再生処理に係る動作の一例を示すフローチャートである。 図12の自由視点再生処理における第1移動方法に係る処理を説明するための図である。 図13の第1移動方法に係る仮想視点に対応する仮想二次元画像を示す図である。 図12の自由視点再生処理における第2移動方法に係る処理を説明するための図である。
図1は、本発明を適用した一実施形態の表示制御システム100の概略構成を模式的に示す図である。
図1に示すように、本実施形態の表示制御システム100は、被写体(特定の被写体)Sの周囲に配置され、無線通信回線を介して互いに情報通信可能に接続された複数の撮像装置1、…を備え、これらの撮像装置1、…が撮像動作を連携して行うことで所定の動作(例えば、ゴルフのスイング等)を行う被写体Sを略等しいタイミングで撮像する。
ここで、図1には、被写体Sから見て右側方から左前方にかけて当該被写体Sを取り囲むように配置された5つの撮像装置1、…を示しているが、一例であってこれに限られるものではなく、例えば、後述する図5等に示すように、撮像装置1の個数や配置は適宜任意に変更可能である。
また、複数の撮像装置1、…は、例えば、隣合う撮像装置1どうしが被写体Sの位置を基準として略等しい角度(略等しい間隔)を有する位置関係や、被写体Sの位置を基準として略等しい距離を有する位置関係となるように配置されるのが好ましいが、当該被写体Sの位置を基準とする所定の位置関係は必ずしも正確である必要はない。
また、複数の撮像装置1、…の各々は、例えば、三脚に固定された状態となっているが、必ずしも所定位置に固定されている必要はなく、所謂、手持ちで撮像するようにしても良い。
また、複数の撮像装置1、…は、例えば、配置処理(後述)等の各種の処理にて、何れか一の撮像装置1(1A;図5参照)が連携撮像のマスタとなり、残りの他の撮像装置1(1B;図5参照)がスレーブとなる。ここで、撮像装置1は、マスタとなるかスレーブとなるかによって動作の内容が異なるものの、構成自体は略同様となっている。なお、全ての撮像装置1は、必ずしも同一の機種である必要はない。
以下に、撮像装置1について、図2及び図3を参照して説明する。
図2は、撮像装置1の概略構成を示すブロック図である。また、図3(a)は、撮像装置1の撮像制御部103cの内部構成を示す図であり、図3(b)は、撮像装置1の画像データ処理部104の内部構成を示す図であり、図3(c)は、撮像装置1の表示制御部108bの内部構成を示す図である。
図2に示すように、撮像装置1は、中央制御部101と、メモリ102と、撮像部103と、画像データ処理部104と、テーブル記憶部105と、配置制御部106と、視点制御部107と、表示部108と、記録媒体制御部109と、操作入力部110と、無線処理部111とを備えている。
また、中央制御部101、メモリ102、撮像部103、画像データ処理部104、テーブル記憶部105、配置制御部106、視点制御部107、表示部108、記録媒体制御部109及び無線処理部111は、バスライン112を介して接続されている。
中央制御部101は、撮像装置1の各部を制御する。具体的には、中央制御部101は、図示は省略するが、CPU(Central Processing Unit)、RAM(Random Access Memory)、ROM(Read Only Memory)を備え、撮像装置1用の各種処理プログラム(図示略)に従って各種の制御動作を行う。その際に、CPUは、RAM内の格納領域内に各種処理結果を格納させ、必要に応じてその処理結果を表示部108に表示させる。
RAMは、CPUにより実行される処理プログラム等を展開するためのプログラム格納領域や、入力データや上記処理プログラムが実行される際に生じる処理結果等を格納するデータ格納領域などを備える。
ROMは、コンピュータ読み取り可能なプログラムコードの形態で格納されたプログラム、具体的には、撮像装置1で実行可能なシステムプログラム、当該システムプログラムで実行可能な各種処理プログラムや、これら各種処理プログラムを実行する際に使用されるデータ等を記憶する。
メモリ102は、例えば、DRAM(Dynamic Random Access Memory)等により構成され、中央制御部101の他、当該撮像装置1の各部によって処理されるデータ等を一時的に記憶するものである。
撮像部103は、被写体Sを撮像する撮像手段を構成している。具体的には、撮像部103は、レンズ部103aと、電子撮像部103bと、撮像制御部103cとを備えている。
レンズ部103aは、例えば、ズームレンズやフォーカスレンズ等の複数のレンズを備えて構成されている。なお、図示は省略するが、レンズ部103aを通過する光の量を調整する絞りが設けられていても良い。
電子撮像部103bは、例えば、CMOS(Complementary Metal-oxide Semiconductor)等のイメージセンサから構成され、レンズ部103aの各種レンズを通過した光学像を二次元の画像信号に変換する。
撮像制御部103cは、被写体Sの撮像を制御する。即ち、撮像制御部103cは、図示は省略するが、タイミング発生器、ドライバなどを備えている。そして、撮像制御部103cは、タイミング発生器、ドライバにより電子撮像部103bを走査駆動して、所定周期毎にレンズ部103aにより結像された光学像を電子撮像部103bにより二次元の画像信号に変換させ、当該電子撮像部103bの撮像領域から1画面分ずつフレーム画像を読み出して画像データ処理部104に出力させる。
具体的には、撮像制御部103cは、電子撮像部103bの撮像領域を構成する水平方向の各走査ライン毎に所定時間ずつタイミングをずらしながら露光してフレーム画像の画像信号を生成させる。即ち、例えば、ローリングシャッタ方式のCMOS(電子撮像部103b)の場合、電子撮像部103bの垂直方向の一端(例えば、上端)から他端(例えば、下端)にかけて水平方向の各走査ライン毎に信号の読み出し(露光)を行うため、水平方向の各走査ライン毎に所定時間ずつ露光タイミングのずれたライン画像が生成される。例えば、電子撮像部103bの水平方向の隣合う走査ラインどうしは、水平方向の走査周期[ms]ずつ露光タイミングがずれた状態となる。なお、水平方向の走査周期は、水平走査周波数の逆数で表される。
また、撮像制御部103cは、図3(a)に示すように、範囲特定部103c1と、倍率調整部103c2と、時間差特定部103c3と、タイミング調整部103c4とを具備している。
範囲特定部103c1は、フレーム画像内で被写体Sの収まる範囲を特定する。
即ち、例えば、所定の動作を行う被写体Sを所定の距離を空けて撮像する場合、フレーム画像内で当該被写体Sの各部(例えば、腕や足等)の位置が変化する。そこで、範囲特定部103c1は、フレーム画像内で顔検出処理や動体(動く被写体)を解析する処理を行って、当該動く被写体に対応する動きのある領域、つまり、被写体Sの各部がはみ出さずに収まる被写体範囲を特定する。
倍率調整部103c2は、撮像部103のズーム倍率を調整する。
即ち、倍率調整部103c2は、撮像される被写体Sの大きさを他の撮像装置1と揃えるように撮像部103のズーム倍率を調整する。また、倍率調整部103c2は、画像データ処理部104の撮像関連情報特定部104eにより特定された当該撮像装置1の存する撮像位置、撮像方向及び画角の関係に係る撮像関連情報に基づいて、撮像部103のズーム倍率を調整する。具体的には、倍率調整部103c2は、範囲特定部103c1により特定された被写体範囲が電子撮像部103bの撮像領域からはみ出さないように撮像部103の光学ズームや電子ズーム等のズーム倍率を調整する。また、倍率調整部103c2は、被写体範囲の寸法、特に、被写体Sの顔の寸法や身長等が他の撮像装置1と略等しくなるように撮像部103のズーム倍率を調整しても良い。
例えば、マスタとなる撮像装置1Aの倍率調整部103c2は、スレーブとなる他の撮像装置1の範囲特定部103c1により特定された被写体範囲の情報を所定の無線通信回線等を介して取得し、当該マスタとなる撮像装置1Aの範囲特定部103c1により特定された被写体範囲を含む全ての被写体範囲の中で寸法が最も小さい被写体範囲を特定する。そして、倍率調整部103c2は、全ての撮像装置1の範囲特定部103c1により特定された各被写体範囲の寸法を最も小さい被写体範囲に揃えるように撮像部103のズーム倍率を調整するための制御情報を各撮像装置1の識別情報と対応付けて生成する。そして、全ての撮像装置1の倍率調整部103c2は、生成された制御情報に基づいて撮像部103のズーム倍率を調整することで、各撮像装置1により生成されるフレーム画像内から動きのある被写体Sの各部をはみ出させないようにする。
なお、必ずしも倍率調整部103c2を具備する必要はなく、例えば、範囲特定部103c1により特定された被写体範囲が電子撮像部103bの撮像領域からはみ出さないように、被写体Sに対する撮像装置1の距離を調整するようにしても良い。
時間差特定部103c3は、ライン画像毎の明るさ変化に対する電子撮像部103bの各走査ラインの露光タイミングと外部光源の明滅タイミングとの相対的な時間差を特定する。
即ち、例えば、連携撮像のマスタとなる撮像装置1Aが外部光源(例えば、フラッシュ等)を所定時間発光させて消した(明滅させた)場合、連携撮像のスレーブとなった撮像装置1Bにあっては、当該外部光源の明滅タイミングに対して複数の水平方向の各走査ラインの露光タイミングは、上記した通り、水平方向の走査周期[ms]ずつ時間差が生じる。これにより、複数の水平方向の走査ラインに対応するライン画像の各々は、各走査ラインの露光タイミングと外部光源の明滅タイミングとの相対的な時間差の変化に対応して異なるタイミングで明るさ(例えば、輝度値)が変化する。従って、各走査ラインの露光タイミングと外部光源の明滅タイミングとの相対的な時間差の変化に対するライン画像毎の明るさ変化は、各走査ラインの露光条件(例えば、走査周期や走査周波数等)及び外部光源の明滅条件(例えば、フラッシュの発光時間や光量(ガイドナンバー)等)と関係付けられていると考えられる。
そこで、時間差特定部103c3は、電子撮像部103bの水平方向の各走査ラインの露光条件及び外部光源の明滅条件に基づいて、画像データ処理部104の明るさ変化検出部104a(後述)により検出されたライン画像毎の明るさ変化に対する各走査ラインの露光タイミングと外部光源の明滅タイミングとの相対的な時間差を特定する。具体的には、時間差特定部103c3は、明るさ変化検出部104aにより検出された一のフレーム画像を構成する複数のライン画像の明るさ変化に対応させて、各走査ラインの露光タイミングと外部光源の明滅タイミングとの相対的な時間差をそれぞれ特定する。
例えば、連携撮像のスレーブとなった撮像装置1Bは、マスタとなった撮像装置1Aの明るさ変化検出部104aにより特定されたトリガーラインL1のフレーム画像内の垂直方向の位置に係るライン位置情報を所定の無線通信回線を介して取得した後、時間差特定部103c3は、明るさ変化検出部104aにより特定されたズレライン画像L2及びトリガーラインL1のフレーム画像内の垂直方向の位置に基づいて、ズレライン画像L2とトリガーラインL1との間の垂直方向の画素数を算出する。そして、時間差特定部103c3は、当該画素数に電子撮像部103bの水平方向の走査周期[ms]を乗算して、ズレライン画像L2に対応する走査ラインの露光タイミングとトリガーラインL1に対応する外部光源の明滅タイミングとの相対的な時間差を特定する。
タイミング調整部103c4は、外部光源の明滅タイミングに対する相対的な電子撮像部103bの撮像タイミングのズレを所定時間単位で調整する。
即ち、連携撮像のスレーブとなった撮像装置1Bのタイミング調整部103c4は、明るさ変化検出部104aの検出結果に応じて、所定のタイミングで明滅する外部光源の明滅タイミングに対する相対的な電子撮像部103bの撮像タイミングのズレを電子撮像部103bの水平方向の走査周期[ms]単位で調整する。具体的には、タイミング調整部103c4は、時間差特定部103c3により特定されたズレライン画像L2に対応する走査ラインの露光タイミングとトリガーラインL1に対応する外部光源の明滅タイミングとの相対的な時間差だけ電子撮像部103bの撮像タイミングをずらすことで、外部光源の明滅タイミングに対する相対的な電子撮像部103bの撮像タイミングのズレを調整する。
また、連携撮像のスレーブとなった撮像装置1Bのタイミング調整部103c4は、当該撮像制御部103cの制御下にて逐次生成されるフレーム画像毎に、外部光源の明滅タイミングに対する相対的な電子撮像部103bの撮像タイミングのズレを調整する。具体的には、タイミング調整部103c4は、外部光源が電子撮像部103bにより一定の周期で撮像されることで生成されるフレーム画像毎に、時間差特定部103c3により特定される相対的な時間差がなくなるように、電子撮像部103bの撮像タイミング及び撮像の周期のうちの少なくとも一方を調整する。
つまり、連携撮像のスレーブとなった撮像装置1Bのタイミング調整部103c4は、時間差特定部103c3により特定された相対的な時間差がなくなるように、電子撮像部103bの水平方向の走査ラインの露光(信号の読み出し)の開始ライン位置及び開始タイミングを制御する。これにより、連携撮像のスレーブとなった撮像装置1Bの撮像制御部103cは、連携撮像のマスタとなった撮像装置1AにおけるトリガーラインL1の露光タイミング(外部光源の明滅タイミング)に合わせて、電子撮像部103bの水平方向の所定の走査ラインを露光させる。
なお、複数の撮像装置1、…の各々は、他の撮像装置1の電子撮像部103bと同期させて電子撮像部103bにより撮像させる連携撮像を行うようになっているので、タイミング調整部103c4は、フレーム画像毎に時間差特定部103c3により特定される相対的な時間差が他の撮像装置1と同じになるように、一定の周期で繰り返し撮像を行う電子撮像部103bの撮像タイミング及び撮像の周期のうちの少なくとも一方を調整するようにしても良い。
つまり、連携撮像のスレーブとなる複数の撮像装置1B、…のタイミング調整部103c4が、連携撮像のマスタとなる撮像装置1Aの撮像タイミングに合わせるように、電子撮像部103bの撮像タイミングのズレを調整するのではなく、連携撮像のマスタとなる撮像装置1Aも含めて全ての撮像装置1のタイミング調整部103c4が、各々の時間差特定部103c3により特定される相対的な時間差をなくすように電子撮像部103bの撮像タイミング及び撮像の周期のうちの少なくとも一方を調整するようにしても良い。
また、タイミング調整部103c4は、補間画像生成部104gにより生成された補間フレーム画像の画像データを用いて、外部光源の明滅タイミングに対する相対的な他の撮像装置1の撮像タイミングのズレを調整するようにしても良い。即ち、例えば、マスタとなる撮像装置1A等の他の撮像装置1と機種が異なることにより、撮像を同期して行うことができない撮像装置1にあっては、タイミング調整部103c4は、連携撮像のマスタとなる撮像装置1Aにより生成される各フレーム画像に対応する撮像タイミングを、連続する二つのフレーム画像間にて補間フレーム画像が補間されるタイミングとするようにしても良い。
画像データ処理部104は、被写体Sの画像データを生成する。
即ち、画像データ処理部104は、電子撮像部103bから転送されたフレーム画像のアナログ値の信号に対してRGBの各色成分毎に適宜ゲイン調整した後に、サンプルホールド回路(図示略)でサンプルホールドしてA/D変換器(図示略)でデジタルデータに変換し、カラープロセス回路(図示略)で画素補間処理及びγ補正処理を含むカラープロセス処理を行った後、デジタル値の輝度信号Y及び色差信号Cb,Cr(YUVデータ)を生成する。そして、画像データ処理部104は、生成された所定の解像度の画像データをメモリ102に出力する。
また、画像を記録する際には、画像データ処理部104は、被写体SのYUVデータを所定の符号化方式(例えば、モーションJPEG形式、MPEG形式等)に従って圧縮して、記録媒体制御部109に出力する。
また、画像を再生表示する場合には、画像データ処理部104は、記録媒体制御部109により記録媒体Cから読み出された表示対象に係る静止画像や動画像の画像データを対応する所定の符号化方式に従って復号して、表示制御部108bに出力する。このとき、画像データ処理部104は、読み出された画像データを、例えば、表示パネル108aの表示解像度等に基づいて所定サイズ(例えば、VGAやQVGAサイズ)に縮小して表示制御部108bに出力しても良い。
また、画像データ処理部104は、図3(b)に示すように、明るさ変化検出部104aと、第1画像取得部104bと、モデル特定部104cと、仮想画像生成部104dと、撮像関連情報特定部104eと、第2画像取得部104fと、補間画像生成部104gとを具備している。
明るさ変化検出部104aは、電子撮像部103bの各走査ラインに対応するライン画像毎の明るさ変化を検出する。
即ち、上記した通り、外部光源の明滅タイミングに対して複数の水平方向の各走査ラインの露光タイミングは、水平方向の走査周期[ms]ずつ時間差が生じる。
そこで、明るさ変化検出部104aは、複数の水平方向の各走査ライン毎の露光タイミングと外部光源を明滅させた明滅タイミングとの相対的な時間差に応じて変化するライン画像毎の輝度値の変化から明るさ変化を検出する。具体的には、明るさ変化検出部104aは、外部光源の明滅タイミングに対して相対的な時間差が異なる複数回の走査ラインの露光により得られた複数のライン画像の明るさ変化を検出する。また、明るさ変化検出部104aは、外部光源の明滅タイミングに対して相対的な時間差が異なる複数回の走査ラインの露光として、一のフレーム画像を構成する複数の異なる走査ラインの露光により得られた複数のライン画像の明るさ変化を検出する。
例えば、連携撮像のマスタとなる撮像装置1Aの明るさ変化検出部104aは、所定のフレームレートで逐次生成される各フレーム画像の画像データに基づいて、フレーム画像毎に画像全体の輝度値を算出して、時間軸に沿って前後のフレーム画像どうしの輝度値どうしを比較する。そして、明るさ変化検出部104aは、フレーム画像全体の輝度値が一つ前のフレーム画像に対して所定値以上増加したフレーム画像をトリガーフレームとして特定する。続けて、明るさ変化検出部104aは、トリガーフレームとして特定されたフレーム画像の各ライン画像毎の輝度値を一つ前のフレーム画像の対応するライン画像の輝度値と比較して、所定値以上増加したライン画像をトリガーラインL1として特定する(図9(b)参照)。
また、連携撮像のスレーブとなった撮像装置1Bの明るさ変化検出部104aは、所定のフレームレートで逐次生成される複数のフレーム画像の中で、フレーム画像全体の輝度値が一つ前のフレーム画像に対して所定値以上増加したフレーム画像を特定する。そして、明るさ変化検出部104aは、特定されたフレーム画像の各ライン画像毎の輝度値を一つ前のフレーム画像の対応するライン画像の輝度値と比較して、所定値以上増加したライン画像をズレライン画像L2として特定する(図9(a)及び図9(c)参照)。
第1画像取得部104bは、複数の撮像装置1、…により撮像された動画像の画像データを取得する。
即ち、第1画像取得部104bは、連携撮像のマスタとなる撮像装置1A及びスレーブとなる複数の撮像装置1B、…の各々の撮像部103により撮像され画像データ処理部104により生成された動画像の画像データを所定のタイミングでそれぞれ取得する。
具体的には、連携撮像のマスタとなる撮像装置1Aにあっては、第1画像取得部104bは、当該画像データ処理部104により生成された動画像の画像データを取得する。また、第1画像取得部104bは、連携撮像のスレーブとなった撮像装置1Bから所定の無線通信回線を介して送信され無線処理部111により受信された動画像の画像データを取得する。
なお、第1画像取得部104bは、撮像部103による被写体Sの撮像と並行して、即ち、画像データ処理部104により動画像を構成するフレーム画像の画像データが逐次生成される毎に当該フレーム画像を取得しても良いし、撮像部103による被写体Sの撮像の完了後に、画像データ処理部104により生成された動画像の画像データを一括して取得しても良い。
モデル特定部104cは、被写体Sの種類に対応する被写体モデルのモデルデータMを特定する。
即ち、モデル特定部104cは、第1画像取得部104bにより取得された動画像の画像データに基づいて、第1関連付テーブルT1を参照して、複数のモデルデータMの中から被写体Sの種類に対応する被写体モデルのモデルデータMを特定する。具体的には、例えば、モデル特定部104cは、第1画像取得部104bにより取得された動画像の画像データに基づいて、被写体Sの動体解析を行って当該被写体Sの動作に係るスポーツの種類(例えば、ゴルフ等)を特定する。そして、モデル特定部104cは、第1関連付テーブルT1に記憶されているモデルデータMの中で、特定されたスポーツの種類に対応する被写体モデルのモデルデータMを特定する。このとき、モデル特定部104cは、被写体Sの姿勢を特定して、複数のモデルデータMの中で、特定された被写体Sの姿勢に対応する被写体モデルのモデルデータMを特定しても良い。
なお、表示部108に表示された複数の種類のスポーツの中で、ユーザによる操作入力部110の所定操作に基づいて何れか一の種類のスポーツが選択されると、モデル特定部104cは、第1関連付テーブルT1に記憶されているモデルデータMの中で、選択されたスポーツの種類に対応する被写体モデルのモデルデータMを特定するようにしても良い。
仮想画像生成部104dは、被写体Sを仮想視点で見た仮想二次元画像の画像データを生成する。
即ち、画像データ処理部104は、第1関連付テーブルT1に記憶されている複数のモデルデータM、…の中から特定の被写体の三次元の形状を示すモデルデータMを選択して取得する。例えば、画像データ処理部104は、モデル特定部104cにより特定されたモデルデータMを取得する。そして、仮想画像生成部104dは、取得されたモデルデータMと、第2画像取得部104fにより取得された隣合う二つの撮像装置1、1により撮像された動画像の画像データに基づいて、隣合う撮像装置1、1により挟まれた位置からの仮想的な仮想視点で被写体Sを仮想二次元画像の画像データを生成する。
具体的には、仮想画像生成部104dは、例えば、予め被写体Sを中心として所定の角度(例えば、90°等)で挟む位置に対応する二つの視点で見た姿勢の被写体モデルに対応する二つのモデルデータMを特定しておき、これらの各々について、各関節の位置を被写体Sの各関節位置に対応させるように修正することで、被写体Sの各関節の三次元空間における位置座標を特定する。例えば、ゴルフや野球の右投げのピッチングの場合には、被写体Sを正面から見た視点と当該被写体Sを右側方から見た視点とに対応するモデルデータMが特定され、野球の左投げのピッチングの場合には、被写体Sを正面から見た視点と当該被写体Sを左側方から見た視点とに対応するモデルデータMが特定される。
そして、仮想画像生成部104dは、特定された被写体Sの各関節の三次元空間における位置座標に基づいて、関節どうしを結ぶ骨に相当する長さを修正することで、被写体骨格モデルのデータを生成する。その後、仮想画像生成部104dは、当該被写体骨格モデルを仮想視点に対応する角度に回転させたものを二次元画像の画像データとして生成する。
また、仮想画像生成部104dは、隣合う二つの撮像装置1、1により撮像されたそれぞれの動画像の画像データに基づいて、モデルデータMに基づいて生成される仮想視点から見た二次元画像の所定領域に対応する色及びテクスチャのうちの少なくとも一方をマッピングして被写体Sを仮想視点で見た仮想二次元画像の画像データを生成する。
なお、仮想画像生成部104dは、骨格部分のみを表す仮想二次元画像のみを表示パネル108aに表示させても良いし(図14(a)参照)、当該仮想二次元画像の骨格部分を所定の配色で色分けして表示パネル108aに表示させても良い(図14(b)参照)。
また、仮想画像生成部104dは、仮想視点に対応する視点と関連付けて第1関連付テーブルT1に記憶されているモデルデータMを用いて仮想二次元画像の画像データを生成しても良い。
撮像関連情報特定部104eは、撮像関連情報を特定する。
即ち、撮像関連情報特定部104eは、複数の撮像装置1、…の存する撮像位置、撮像方向及び画角の関係に係る撮像関連情報を特定する。ここで、撮像装置1の存する撮像位置は、被写体Sの位置を基準とする相対的な位置を含み、被写体Sとの間の距離に相当する。また、撮像方向は、撮像部103のレンズ部103aの光軸方向と略等しい方向を含む。また、画角は、レンズ部103aの焦点距離や電子ズーム倍率等に応じて変化するものである。
また、撮像関連情報特定部104eは、撮像関連情報として、複数の撮像装置1、…の撮像タイミングの関係を含む情報を特定しても良い。複数の撮像装置1、…の撮像タイミングの関係は、複数の撮像装置1、…の各々の撮像タイミングの相対的な時間差等により規定されている。
第2画像取得部104fは、第1の視点に対応する撮像装置1の周囲に配置された撮像装置1を特定して、当該撮像装置1により撮像された動画像の画像データを取得する。
ここで、被写体Sを見る第1の視点とは、例えば、ユーザによる操作入力部110の所定操作に基づいて指定された視点であっても良いし、デフォルトとして設定されている所定の撮像装置1(例えば、マスタとなる撮像装置1A)の視点であっても良い。
即ち、画像データ処理部104は、複数の撮像装置1、…の各々の配置と被写体Sを見る視点とが関連付けられた第2関連付テーブルT2を参照することで、複数の撮像装置1、…の配置状態を特定する。そして、第2画像取得部104fは、被写体Sが第1の視点で撮像された動画像が表示制御部108bにより表示パネル108aに表示されているときに、複数の撮像装置1、…の配置状態に基づいて、複数の撮像装置1、…のうちの第1の視点に対応する撮像装置1の周囲に配置された撮像装置1を特定し、特定された撮像装置1により撮像された動画像の画像データを取得する。つまり、第1の視点で撮像された動画像の画像データに対応する動画像の再生表示中に、第2画像取得部104fは、所定の無線通信回線を介して撮像装置1の周囲に配置された撮像装置1から動画像の画像データを取得してバッファしておく。
また、例えば、ユーザによる操作入力部110の所定操作に基づいて被写体Sを見る視点の変更指示が逐次入力されて、表示制御部108bにより変更指示に係る視点で撮像された動画像の画像データに対応する動画像を表示パネル108aに表示させる毎に、第2画像取得部104fは、複数の撮像装置1、…の配置状態に基づいて、変更後の視点に対応する撮像装置1の周囲に配置された撮像装置1を特定して、特定された撮像装置1により撮像された動画像の画像データを逐次取得する。つまり、第2画像取得部104fは、被写体Sを見る視点の変更指示に対応する撮像装置1から動画像の画像データを逐次取得して再生表示する際にも、第2画像取得部104fは、所定の無線通信回線を介して変更指示に係る視点と対応付けられた配置の撮像装置1の周囲に配置された撮像装置1から動画像の画像データを逐次取得してバッファしておく。
また、第2画像取得部104fは、表示パネル108aによる被写体Sを第1の視点で見た動画像の再生表示が一時停止された際に、複数の撮像装置1、…の配置状態に基づいて、第1の視点に対応する撮像装置1の周囲に配置された撮像装置1を特定して、特定された撮像装置1により撮像された動画像の画像データを取得するようにしても良い。即ち、被写体Sを第1の視点で見た動画像の再生表示中に、ユーザによる操作入力部110の所定操作に基づいて視点の変更指示が入力されると、当該変更指示が入力される毎に、第2画像取得部104fは、複数の撮像装置1、…の配置状態に基づいて、変更後の視点に対応する撮像装置1の周囲に配置された撮像装置1を特定して、特定された撮像装置1により撮像された動画像の画像データを逐次取得する。
なお、複数の撮像装置1、…のうち、何れか一の撮像装置(第1撮像装置)1により被写体Sが第1の視点で撮像された動画像が表示制御部108bにより表示パネル108aに表示されているときに、第1撮像装置1以外の撮像装置1の第2画像取得部104fは、複数の撮像装置1、…の配置状態に基づいて、第1撮像装置1の周囲に配置された撮像装置1を特定して、特定された撮像装置により撮像された動画像の画像データを取得しても良い。
補間画像生成部104gは、外部光源の明滅タイミングに対応する補間フレーム画像の画像データを生成する。
即ち、連携撮像のスレーブとなる複数の撮像装置1B、…は、その機種がマスタとなる撮像装置1Aと異なっていたり無線通信環境の状態によっては、マスタとなる撮像装置1Aの撮像タイミングとずれてしまい、撮像タイミングを同期させた連携撮像を行うことができない場合がある。
そこで、補間画像生成部104gは、外部光源が撮像部103により一定の周期で連続して撮像されることで生成された前後二つのフレーム画像の画像データを取得し、撮像制御部103cの時間差特定部103c3によりフレーム画像毎に特定された各走査ラインの露光タイミングと外部光源の明滅タイミングとの相対的な時間差に基づいて、当該前後二つのフレーム画像間にて外部光源の明滅タイミングに対応するタイミングの補間フレーム画像の画像データを生成する。
なお、補間フレーム画像の生成の具体的な手法としては、例えば、特開2012−080204号公報に開示されている動き補償予測を利用した手法や、前後二つのフレーム画像どうしのブレンディングを利用した手法等があげられる。具体的には、動き補償予測を利用した手法の場合、基準となるフレーム画像から補間フレーム画像までの時間差に基づいて、当該補間フレーム画像の補間タイミングに合わせるように基準となるフレーム画像の動きベクトルの大きさを補正する。例えば、前後二つのフレーム画像間の時間の1/3の時間の補間フレーム画像が欲しい場合、基準となるフレーム画像の各マクロブロックの動きベクトルを1/3にする。また、前後二つのフレーム画像どうしのブレンディングを利用した手法の場合、前後二つのフレーム画像どうしで差分をとり、差分が所定値以上の領域について、前後二つのフレーム画像から補間フレーム画像までの時間差の比率に応じて当該前後二つのフレーム画像どうしのブレンディングの比率を調整する。
テーブル記憶部105は、第1関連付テーブルT1と、第2関連付テーブルT2とを記憶している。
第1関連付テーブルT1は、モデル作成処理に用いられるテーブルであり、所定の被写体モデルの三次元の形状を示すモデルデータMと当該被写体モデルを見る視点とを関連付けて複数記憶している。
モデルデータMは、被写体モデルの種類に応じて複数設けられ、被写体モデルの種類に応じて当該被写体モデルが所定の姿勢をなすデータを含む。具体的には、被写体モデルは、ヒトの骨格の代表的な部分、例えば、頭、肩、腕、脊椎、脚等が模式的に線で表されている。また、モデルデータMは、スポーツの種類に応じて被写体モデルが当該スポーツ特有の姿勢をなすモデルデータMを含む。例えば、被写体モデルの姿勢としては、所定のスポーツのフォームチェックに用いられる基本的な姿勢(例えば、ゴルフの場合には、アドレス、テイクバックのトップ、インパクト、フィニッシュ等の各種の姿勢、野球のピッチングの場合には、ワインドアップ、リフトアップ、ステップ、テイクバック、リリース、フォロースルー等の各種の姿勢等)を含んでいる。この被写体モデルの姿勢は、後述するように、仮想二次元画像の作成の際に関節位置が分かり易いような姿勢が好ましい。
また、被写体モデルを見る視点としては、被写体Sを取り囲むような複数の視点、例えば、正面から見る視点、右側方(左側方)から見る視点、斜め側方から見る視点等があげられる。つまり、被写体モデルのモデルデータMは、被写体モデルを見る複数の視点に応じて記憶されている。
第2関連付テーブルT2は、再生処理に用いられるテーブルであり、複数の撮像装置1、…の各々の配置と被写体Sを見る視点とを関連付けて記憶している。
複数の撮像装置1、…は、被写体Sを取り囲むように配置されているので、被写体Sに対する各撮像装置1の相対的な位置(配置)に応じて被写体Sを見る視点が必然的に異なることとなる。複数の撮像装置1、…の配置は、これら撮像装置1の並び順を示す情報を含んでいても良い。
配置制御部106は、複数の撮像装置1、…の配置の調整に関する制御を行う。具体的には、配置制御部106は、画像取得部106aと、位置関係特定部106bと、ズレ量特定部106cとを具備している。
画像取得部106aは、複数の撮像装置1、…の配置状況を表す画像を取得する。
即ち、被写体Sの周囲に任意に配置された複数の撮像装置1、…の中で、何れか一の撮像装置1を連携撮像のマスタとする場合、当該マスタとなる撮像装置1Aは、複数の撮像装置1、…のうち、当該撮像装置1の並び方向の一端(例えば、図5における右端等)に配置された撮像装置1から一端と反対側となる他端(例えば、図5における左端等)に配置された撮像装置1までを撮像して複数の画像を生成する(図5参照)。具体的には、ユーザは、マスタとなる撮像装置1Aを三脚から外して被写体Sと略同じ位置に持って行き、複数の撮像装置1、…の一端から他端までを画角内に収めるようにスライドさせながら連続して撮像して複数の画像を生成する。そして、当該マスタとなる撮像装置1Aは、連続して撮像された複数の画像を合成してパノラマ画像を生成し、画像取得部106aは、生成されたパノラマ画像を取得する。
なお、パノラマ画像の生成の具体的な手法は、特開2012−080204号公報に開示されているように、先ず、マスタとなる撮像装置1Aは、連続して撮像された隣合う画像どうしの重なり部分(同一の被写体Sが含まれている部分)を検出し、当該重なり部分を検索範囲として特定する。ここで、撮像装置1が所定量だけ移動する毎(例えば、角度変位量が一定値になる毎)に1回の撮像が行われる場合、当該所定量に基づいてある程度の重なり部分は推定することができると考えられる。
次に、マスタとなる撮像装置1Aは、例えば、隣合う画像どうしの重なり部分(検索範囲)の領域の左端を基準として、基準から右方に等しい距離の位置にある当該隣合う画像の各々のラインどうしの類似度をSSD(Sum of Squared Differences)等を用いて算出する。
そして、マスタとなる撮像装置1Aは、類似度が最も高かった(即ち、SSDが最小であった)隣合う画像の各々のラインの端どうしを張り合わせるように当該隣合う画像の一部分の画像データどうしを合成する。
マスタとなる撮像装置1Aは、上記の各処理を全ての画像どうしについて繰り返していくことで、複数の画像を合成したパノラマ画像を生成する。
位置関係特定部106bは、複数の撮像装置1、…の相対的な位置関係を特定する。
即ち、位置関係特定部106bは、被写体Sの位置を基準とする複数の撮像装置1、…の相対的な位置関係を特定する。具体的には、位置関係特定部106bは、画像取得部106aにより取得された画像、即ち、複数の撮像装置1、…のうち、連携撮像のマスタとなる何れか一の撮像装置1によりスレーブとなる他の複数の撮像装置1、…が撮像されたパノラマ画像に基づいて、複数の撮像装置1、…の相対的な位置関係を特定する。例えば、マスタとなる撮像装置1Aの位置関係特定部106bは、パノラマ画像内で撮像装置1や三脚等の所定の被写体Sを認識する処理を行って、スレーブとなる複数の撮像装置1B、…の位置やマスタとなる撮像装置1Aの位置に相当する三脚の位置を特定する。そして、位置関係特定部106bは、隣合う撮像装置1どうし(マスタとなる撮像装置1Aについては、当該撮像装置1が取付け固定される三脚と隣合う撮像装置1と)の被写体Sの位置を基準とする角度を複数の撮像装置1、…の相対的な位置関係として特定する。また、位置関係特定部106bは、パノラマ画像内での各撮像装置1や三脚等の寸法(画素数)を算出して、これら各撮像装置1や三脚の位置までの被写体Sの位置からの距離を複数の撮像装置1、…の相対的な位置関係として特定する。
また、位置関係特定部106bは、画像取得部106aにより各撮像装置1から動画像の画像データを取得する際に、複数の撮像装置1、…のうちの何れの撮像装置1から取得した画像データであるかを識別するための識別情報と、各撮像装置1の配置されている位置または順番を示す情報とを関連付けることで、複数の撮像装置1、…の相対的な位置関係を特定しても良い。
上記の識別情報は、各々の撮像装置1とマスタとなった撮像装置1Aとの間で各種データ(制御情報や画像データ)の送受信を行う場合などに、送信元と送信先を示す情報として送受信されるデータとともに送信され、当該データがどの撮像装置1の間で送受信されるものかを互いに認識するために使用されるものである。
ズレ量特定部106cは、複数の撮像装置1、…の配置のズレ量を特定する。
即ち、ズレ量特定部106cは、位置関係特定部106bにより特定された複数の撮像装置1、…の相対的な位置関係に基づいて、当該複数の撮像装置1、…の配置の第1の視点から第2の視点までの視点の移動速度が一定の速度となるような所定の位置関係に対する各撮像装置1の配置のズレ量を特定する。例えば、マスタとなる撮像装置1Aのズレ量特定部106cは、隣合う撮像装置1どうしが被写体Sの位置を基準として略等しい角度に配置される基準状態に対しての、位置関係特定部106bにより特定された複数の撮像装置1、…の配置のズレ量(例えば、ズレている角度や間隔等)を算出する。そして、ズレ量特定部106cは、算出されたズレ量を修正するための修正情報を撮像装置1の識別情報と対応付けて生成する。
視点制御部107は、視点移動方法指定部107aと、視点判定部107bと、視点移動制御部107cとを具備している。
視点移動方法指定部107aは、被写体Sを見る視点の変更指示に基づく視点の移動方法を指定する。
即ち、視点移動方法指定部107aは、表示制御部108bの第1制御部108b2の制御下にて表示される動画像の時間進行を一時停止させた後に被写体Sを見る視点の移動を行う第1移動方法と、動画像の時間進行を一時停止させることなく被写体Sを見る視点の移動を行う第2移動方法のうち、何れか一の方法を指定する。具体的には、ユーザによる操作入力部110の所定操作に基づいて、第1移動方法及び第2移動方法のうちの何れか一の方法が選択されると、視点移動方法指定部107aは、選択された一の方法を被写体Sを見る視点の移動方法として指定する。
なお、視点移動方法指定部107aは、第1移動方法及び第2移動方法のうち、予めデフォルトとして設定されている一の方法(例えば、第1移動方法等)を視点の移動方法として指定しても良い。
視点判定部107bは、第2の視点の位置が複数の撮像装置1、…の各々の存する位置と異なるか否かを判定する。
即ち、視点判定部107bは、ユーザによる操作入力部110の所定操作に基づいて入力された視点の移動指示に係る第2の視点の位置が複数の撮像装置1、…の各々の存する位置と異なるか否かを判定する。具体的には、例えば、ユーザによる操作入力部110の所定操作に基づいて視点の移動指示が入力されると、視点判定部107bは、第2関連付テーブルT2を参照して、入力された視点の移動指示に係る第2の視点の位置が複数の撮像装置1、…の各々の存する位置と異なるか否かを判定する。
視点移動制御部107cは、被写体Sを第1の視点とは異なる第2の視点に対応する動画像を表示させる際の視点の移動速度が略一定の速度となるように制御する。
即ち、視点移動制御部107cは、位置関係特定部106bにより特定された被写体Sの位置を基準とする複数の撮像装置1、…の相対的な位置関係に基づいて、表示制御部108bの第2制御部108b3の制御下にて第2の視点に対応する動画像を表示させる際の第1の視点から第2の視点までの視点の移動速度が略一定の速度となるように、つまり、滑らかな視点移動を行うように制御する。
具体的には、視点移動制御部107cは、撮像関連情報特定部104eにより特定された、複数の撮像装置1、…の存する撮像位置、撮像方向及び画角の関係に係る撮像関連情報に基づいて、第1の視点から第2の視点までの視点の移動速度が略一定の速度となるように、撮像部103の光学ズーム倍率や電子ズーム倍率等のズーム倍率を調整する倍率調整部103c2の動作を制御する。
また、視点移動制御部107cは、撮像関連情報特定部104eにより特定された撮像関連情報の複数の撮像装置1、…の撮像タイミングの関係に基づいて、表示される動画像の時間進行を一時停止させることなく視点を移動させる際の視点の移動速度が略一定の速度となるように、電子撮像部103bの撮像タイミングを制御するタイミング調整部103c4の動作を制御する。
また、連携撮像のマスタとなる撮像装置1Aにあっては、視点移動制御部107cは、被写体Sの撮像後に、第2の視点に対応するスレーブとなった撮像装置1Bにより撮像され、第1画像取得部104bにより取得された動画像の画像データのうち、撮像タイミングが当該マスタとなる撮像装置1Aの撮像タイミングに対してズレているフレーム画像を特定する。そして、視点移動制御部107cは、特定されたフレーム画像の前後のフレーム画像を用いてマスタとなる撮像装置1Aの撮像タイミングに対応する補間フレーム画像の画像データを補間画像生成部104gに生成させる。
そして、視点移動制御部107cは、補間画像生成部104gにより生成された補間フレーム画像を第2制御部108b3により表示パネル108aに表示させる。
また、視点の移動方法として、動画像の時間進行を一時停止させた後に被写体Sを見る視点の移動を行う第1移動方法が指定された状態で、視点移動制御部107cは、第2制御部108b3により第2の視点に対応する動画像を表示させる際に、表示される第1の視点に対応する動画像の時間進行を一時停止させて、第1の視点から第2の視点まで視点を移動させるように表示制御部108bを制御する。
一方、視点の移動方法として、動画像の時間進行を一時停止させることなく被写体Sを見る視点の移動を行う第2移動方法が指定された状態で、視点移動制御部107cは、第2制御部108b3により第2の視点に対応する動画像を表示させる際に、表示される第1の視点及び第2の視点に対応する動画像の時間進行を一時停止させることなく、第1の視点から第2の視点まで視点を移動させるように表示制御部108bを制御する。
また、視点判定部107bにより第2の視点(仮想視点)の位置が撮像装置1の各々の存する位置と異なると判定された場合には、視点移動制御部107cは、位置関係特定部106bにより特定された被写体Sの位置を基準とする複数の撮像装置1、…の相対的な位置関係に基づいて、第1画像取得部104bにより取得された動画像の画像データのうち、仮想視点に対応する位置を挟む二つの撮像装置1により撮像された動画像の画像データを用いて当該第2の視点に対応する補間フレーム画像の画像データを補間画像生成部104gに生成させる。ここで、補間フレーム画像を生成する手法としては、例えば、二つの撮像装置1により撮像された二つのフレーム画像どうしのブレンディングを利用した手法があげられる。
そして、視点移動制御部107cは、補間画像生成部104gにより生成された補間フレーム画像を第2制御部108b3により表示パネル108aに表示させる。
表示部108は、表示パネル108aと、表示制御部108bとを具備している。
表示パネル108aは、表示領域内に画像を表示する。また、表示パネル108aとしては、例えば、液晶表示パネルや有機EL表示パネルなどが挙げられるが、一例であってこれらに限られるものではない。
表示制御部108bは、記録媒体Cから読み出され画像データ処理部104により復号された所定サイズの画像データに基づいて、所定の画像を表示パネル108aの表示画面に表示させる制御を行う。具体的には、表示制御部108bは、VRAM(Video Random Access Memory)、VRAMコントローラ、デジタルビデオエンコーダなどを備えている。そして、デジタルビデオエンコーダは、画像データ処理部104により復号されてVRAM(図示略)に記憶されている輝度信号Y及び色差信号Cb,Crを、VRAMコントローラを介してVRAMから所定の再生フレームレート(例えば、60fps)で読み出して、これらのデータを元にビデオ信号を発生して表示パネル108aに出力する。
また、表示制御部108bは、案内表示制御部108b1と、第1制御部108b2と、第2制御部108b3とを具備している。
案内表示制御部108b1は、複数の撮像装置1、…の配置の案内表示を制御する。
即ち、案内表示制御部108b1は、位置関係特定部106bにより特定された複数の撮像装置1、…の相対的な位置関係に基づいて、複数の撮像装置1、…の配置を第1の視点から第2の視点までの視点の移動速度が一定の速度となるような所定の位置関係を有する配置とするための案内表示を表示パネル108aに表示させる制御を行う。具体的には、案内表示制御部108b1は、複数の撮像装置1、…のうち、隣合う撮像装置1どうしが被写体Sの位置を基準として略等しい角度となるように当該複数の撮像装置1、…の配置を修正するための案内表示を表示パネル108aに表示させる。
例えば、スレーブとなった撮像装置1Bにあっては、マスタとなった撮像装置1Aから所定の無線通信回線を介して送信された修正情報を無線処理部111により受信して、案内表示制御部108b1は、受信された修正情報、即ち、マスタとなった撮像装置1Aのズレ量特定部106cにより特定された各撮像装置1の配置のズレ量に係る修正情報に基づいて、当該ズレを補正するための案内表示(例えば、「右に50cm移動させて下さい。」等)を表示パネル108aに表示させる制御を行う。
第1制御部108b2は、被写体Sを第1の視点で見た動画像を表示パネル108aに表示させる。
即ち、第1制御部108b2は、画像データ処理部104の第1画像取得部104bにより取得された動画像の画像データに基づいて、被写体Sを第1の視点で見た動画像を表示パネル108aに表示させる。具体的には、第1制御部108b2は、第1画像取得部104bにより取得された複数の撮像装置1、…に対応する動画像の画像データの中で、被写体Sを第1の視点で見た動画像の画像データを特定して、当該画像データに基づいて動画像を表示パネル108aに表示させる。
第2制御部108b3は、被写体Sを第1の視点とは異なる第2の視点で見るための視点の移動指示の入力に従って、被写体Sを第1の視点で見た動画像に代えて被写体Sを第2の視点で見た動画像を表示パネル108aに表示させる。
即ち、第2制御部108b3は、第2画像取得部104fにより取得された動画像の画像データの中で、ユーザによる操作入力部110の所定操作に基づいて入力された変更指示に係る第2の視点で撮像された動画像の画像データを特定して、当該動画像の画像データに対応する動画像を表示パネル108aに表示させる。つまり、第2制御部108b3は、ユーザによる操作入力部110の所定操作に基づいて被写体を見る視点を何れかの撮像装置1に対応する位置に変更する変更指示が入力された場合に、変更後の視点で撮像された第2画像取得部104fにより取得済みの動画像の画像データに対応する動画像を変更前の視点に対応する動画像に代えて表示パネル108aに表示させる。
具体的には、視点の移動方法として、動画像の時間進行を一時停止させた後に被写体Sを見る視点の移動を行う第1移動方法が指定された状態で、第2制御部108b3は、逐次入力される変更指示に基づいて被写体Sを見る視点が逐次変化する場合に、ユーザによる操作入力部110の所定操作や変更指示の入力が所定時間継続して行われなかった場合等に、被写体Sを見る視点が確定したと判定する。そして、第2制御部108b3は、確定された視点で撮像された動画像の画像データに対応する動画像の表示パネル108aによる再生表示を再開させる。
一方、視点の移動方法として、動画像の時間進行を一時停止させることなく被写体Sを見る視点の移動を行う第2移動方法が指定された状態で、第2制御部108b3は、表示パネル108aにより被写体Sを第1の視点で見た動画像を再生表示中に、ユーザによる操作入力部110の所定操作に基づいて変更指示が入力されると、第2画像取得部104fにより取得され、メモリ102に一時的に記憶されている第1の視点に対応する撮像装置1の周囲に配置された撮像装置1により撮像された動画像の画像データの中で、入力された変更後の視点で撮像された動画像の画像データを特定する。そして、第2制御部108b3は、特定された動画像の画像データに対応する動画像を視点の変更前に継続的に再生表示されていた動画像に代えて表示パネル108aに継続的に再生表示させる。
また、第2制御部108b3は、仮想画像生成部104dにより生成された仮想二次元画像の画像データに基づいて、被写体Sを仮想視点で見た動画像を表示パネル108aに表示させる。
即ち、第2制御部108b3は、ユーザによる操作入力部110の所定操作に基づいて被写体を見る視点が隣合う撮像装置1、1により挟まれた位置からの仮想的な仮想視点に変更する変更指示が入力された場合に、この仮想視点に対応して仮想画像生成部104dにより生成された仮想二次元画像の画像データに基づいて、被写体Sを仮想視点で見た動画像を表示パネル108aに表示させる。具体的には、視点の移動方法として、動画像の時間進行を一時停止させた後に被写体Sを見る視点の移動を行う第1移動方法が指定された状態で、第2制御部108b3は、仮想二次元画像の画像データに基づいて、被写体Sを仮想視点で見た動画像を表示パネル108aに表示させる。例えば、第2制御部108b3は、第1制御部108b2により表示される動画像内の被写体Sが予めスポーツの種類毎に規定された特定の姿勢(例えば、ゴルフの場合には、テイクバックのトップ等)となった場合に、当該動画像の時間進行を一時停止させた後、被写体Sを仮想視点で見た動画像を表示パネル108aに表示させるようにしても良い。
一方、視点の移動方法として、動画像の時間進行を一時停止させることなく被写体Sを見る視点の移動を行う第2移動方法が指定された状態で、第2制御部108b3は、仮想画像生成部104dにより生成された仮想二次元画像を用いることなく、隣合う二つの撮像装置1、1により撮像された動画像の画像データに基づいて、被写体Sを仮想視点で見た動画像を表示パネル108aに表示させる。例えば、第2制御部108b3は、隣合う二つの撮像装置1、1により撮像されたそれぞれの動画像の画像データを、当該二つの撮像装置1、1に対応する各視点の仮想視点に対する相対的な角度差に応じて合成して被写体Sを仮想視点で見た動画像の画像データを生成し、当該動画像を表示パネル108aに表示させる。なお、第2制御部108b3は、隣合う二つの撮像装置1、1により撮像された動画像の画像データのうちの少なくとも一方に基づいて、モーフィング処理により被写体Sを仮想視点で見た動画像の画像データを生成しても良い。
記録媒体制御部109は、記録媒体Cが着脱自在に構成され、装着された記録媒体Cからのデータの読み出しや記録媒体Cに対するデータの書き込みを制御する。
即ち、記録媒体制御部109は、画像データ処理部104の符号化部(図示略)により所定の圧縮形式(例えば、モーションJPEG形式、MPEG形式等)で符号化された記録用のフレーム画像からなる動画像の画像データを記録媒体Cの所定の記録領域に記録させる。
なお、記録媒体Cは、例えば、不揮発性メモリ(フラッシュメモリ)等により構成されている。
操作入力部110は、当該撮像装置1の所定操作を行う。
具体的には、操作入力部110は、例えば、装置本体の電源のON/OFFに係る電源ボタン、被写体Sの撮像指示に係るシャッタボタン、撮像モードや機能等の選択指示に係る選択決定ボタン、ズーム量の調整指示に係るズームボタン(何れも図示略)等の操作部を備えている。また、操作入力部110は、ユーザによる操作部の各ボタンの所定操作に応じて所定の操作信号を中央制御部101に出力する。例えば、操作入力部110は、ユーザによる操作部の所定操作に応じて、被写体Sを見る第1の視点を指定する操作信号や、被写体Sを見る視点を第1の視点から第2の視点(仮想視点を含む)に変更する操作信号等を中央制御部101に出力する。
そして、中央制御部101のCPUは、操作入力部110から出力された所定の操作信号が入力されると、当該所定の操作信号に従って撮像装置1の各部を制御する。
無線処理部111は、所定の無線通信回線を介して接続された他の撮像装置1との間で無線通信を行う。
即ち、無線処理部111は、所定の通信回線を介して通信する通信手段を構成している。具体的には、無線処理部111は、例えば、外部のアクセスポイント(固定基地局)を経由せずに直接他の撮像装置1の無線処理部111との間で無線通信回線を構築するPeer to Peer(アドホックモード)で動作する。例えば、無線処理部111は、無線LANモジュール等から構成され、無線通信可能範囲内に存する他の撮像装置1の無線処理部111との間で無線LAN(Local Area Network)等の所定の無線通信回線を介して信号の送受信を行う。
このとき、無線処理部111は、例えば、当該無線通信回線の通信方式、暗号化情報、チャンネル、IPアドレス等の各種情報を他の撮像装置11の無線処理部111に送信する。
また、無線処理部111は、第1送信制御部111aと、第2送信制御部111bとを具備している。
第1送信制御部111aは、ズレ量特定部106cにより特定された各撮像装置1の配置のズレ量を対応する撮像装置1に所定の無線通信回線を介して送信する。
即ち、マスタとなる撮像装置1Aの第1送信制御部111aは、ズレ量特定部106cにより特定された各撮像装置1の配置のズレ量に係る修正情報を対応する撮像装置1に所定の無線通信回線を介して送信する。
第2送信制御部111bは、各撮像装置1の撮像タイミングを一致させるための制御情報を対応する撮像装置1に所定の無線通信回線を介して送信する。
即ち、マスタとなる撮像装置1Aの第1送信制御部111aは、撮像関連情報特定部104eにより特定された撮像関連情報の複数の撮像装置1、…の撮像タイミングの関係に基づいて、各撮像装置1の撮像タイミングを一致させるための制御情報を対応する撮像装置1に所定の通信回線を介して送信する。
なお、無線処理部111は、例えば、無線通信可能範囲内に存するアクセスポイントとの間で所定の無線通信回線を構築して、当該無線通信回線を介して他の撮像装置1の無線処理部111との間で信号の送受信を行うインフラストラクチャモードで動作しても良い。
また、無線処理部111は、例えば、記録媒体Cに内蔵された構成であっても良いし、当該装置本体に所定のインタフェース(例えば、USB(Universal Serial Bus)等)を介して接続された構成であっても良い。
また、無線通信回線は、無線LAN(Local Area Network)に限られるものではなく、例えば、ブルートゥース(Bluetooth:登録商標)、WAN(Wide Area Network)等の様々な回線形態を適用しても良い。
<配置処理>
次に、表示制御システム100による配置処理について、図4及び図5を参照して説明する。
図4は、配置処理に係る動作の一例を示すフローチャートである。また、図5は、配置処理を説明するための図である。
なお、複数(例えば、7つ等)の撮像装置1、…は、被写体Sの位置(実際に被写体Sが存在しているか否かは問わない)を中心とし、被写体Sから見て右側方から左前方にかけて当該被写体Sを取り囲むように任意の位置に配置されているものとする。また、各撮像装置1は、予め高さを揃えた三脚に固定されているものとする。また、複数の撮像装置1、…どうしは、所定の無線通信回線を介して情報通信可能に接続されているものとする。
図4に示すように、先ず、ユーザによる操作入力部110の所定操作に基づいて、被写体Sの周囲に任意に配置された複数の撮像装置1、…の中で、何れか一の撮像装置1が配置処理におけるマスタとして指定されると(ステップS1)、当該マスタとなった撮像装置1Aは、当該撮像装置1の周囲に存する他の撮像装置1を検索するための信号を出力して、応答のあった撮像装置1の識別情報を記憶する(ステップS2)。
次に、ユーザはマスタとなった撮像装置1Aを三脚から外して、被写体Sの存する位置に移動させた後、当該撮像装置1の撮像部103は、複数の撮像装置1、…の一端(例えば、図5における右端等)から他端(例えば、図5における左端等)までを画角内に収めるようにスライドさせながら連続して撮像して複数の画像を生成する。画像データ処理部104は、連続して撮像された複数の画像を合成してパノラマ画像を生成し、配置制御部106の画像取得部106aは、生成されたパノラマ画像を取得する(ステップS3)。
次に、配置制御部106の位置関係特定部106bは、画像取得部106aにより取得されたパノラマ画像に基づいて、複数の撮像装置1、…の相対的な位置関係(例えば、隣合う撮像装置1どうしの被写体Sの位置を基準とする角度等)を特定する(ステップS4)。
続けて、配置制御部106のズレ量特定部106cは、位置関係特定部106bにより特定された複数の撮像装置1、…の相対的な位置関係に基づいて、隣合う撮像装置1どうしが被写体Sの位置を基準として略等しい角度に配置される基準状態に対する複数の撮像装置1、…の配置のズレ量(例えば、ズレている角度や間隔等)を算出して特定する(ステップS5)。そして、ズレ量特定部106cは、特定された各撮像装置1の配置のズレ量について所定の基準範囲以内に収まっているか否かを判定する(ステップS6)。
ここで、ズレ量が所定の基準範囲以内に収まっていないと判定(ステップS6;NO)された配置の撮像装置1について、ズレ量特定部106cは、ズレ量を修正するための修正情報を当該撮像装置1の識別情報と対応付けて生成する(ステップS7)。
次に、マスタとなった撮像装置1Aは、所定の無線通信回線を介して修正情報を対応する撮像装置1に送信し、当該撮像装置1は、無線処理部111により修正情報を受信し、案内表示制御部108b1は、受信された修正情報に基づいて、当該ズレを補正するための案内表示(例えば、「右に50cm移動させて下さい。」等)を表示パネル108aに表示させる制御を行う(ステップS8)。なお、マスタとなった撮像装置1Aの配置のズレ量が所定の基準範囲以内に収まっていない場合には、当該撮像装置1は、修正情報の無線通信を行うことなく、案内表示制御部108b1は、ズレ量特定部106cにより生成された修正情報に基づいて、案内表示を表示パネル108aに表示させる。
これにより、ユーザは、案内表示に従って撮像装置1やマスタの三脚の配置を修正する。
その後、中央制御部101のCPUは、処理をステップS3に戻し、画像取得部106aは、配置が修正された複数の撮像装置1、…が撮像されたパノラマ画像を取得する(ステップS3)。ステップS4以降の各処理は、上記したものと略同様であり、その詳細な説明は省略する。
そして、ステップS6にて、各撮像装置1の配置のズレ量が所定の基準範囲以内に収まっていると判定(ステップS6;YES)されると、マスタとなった撮像装置1Aの無線処理部111は、ズレ量が所定の基準範囲以内に収まっている配置の撮像装置1に対して配置が正常であることを示す情報を所定の無線通信回線を介して送信する。
その後、マスタとなった撮像装置1Aを三脚に戻した後、被写体Sは所定の動作を行う。このとき、各撮像装置1にあっては、撮像制御部103cの範囲特定部103c1は、フレーム画像内で顔検出処理や動体を解析する処理を行って、動く被写体に対応する動きのある領域、即ち、被写体Sが収まる被写体範囲を特定する(ステップS9)。続けて、撮像制御部103cの倍率調整部103c2は、画像データ処理部104の撮像関連情報特定部104eにより特定された当該撮像装置1の存する撮像位置、撮像方向及び画角の関係に係る撮像関連情報に基づいて、範囲特定部103c1により特定された被写体範囲が電子撮像部103bの撮像領域からはみ出さないように撮像部103の光学ズームや電子ズーム等のズーム倍率を調整する(ステップS10)。このとき、被写体Sに静止して貰い、倍率調整部103c2は、被写体範囲の寸法、特に、被写体Sの顔の寸法が他の撮像装置1と略等しくなるように撮像部103のズーム倍率を調整する。
その後、複数の撮像装置1、…にあっては、テーブル記憶部105の第2関連付テーブルT2は、複数の撮像装置1、…の各々の配置と被写体Sを見る視点とを関連付けて記憶する(ステップS11)。
このようにして、複数の撮像装置1、…の並び順が決定され、各撮像装置1は自己の配置された位置を認識する。また、マスタとなった撮像装置1Aは、全ての撮像装置1の識別情報と配置された位置との関係を関連付けて認識する。
これにより、配置処理を終了する。
なお、上記した配置処理に係る手法は、一例であってこれに限られるものではなく、適宜任意に変更可能である。
<配置処理の変形例1>
複数の撮像装置1、…は、例えば、「このカメラは左から1番目のカメラです」といった案内表示を表示パネル108aに表示する(図6参照)。この状態で、被写体Sから見て最も左に配置される撮像装置1の操作入力部110がユーザにより所定の登録操作されることで、当該撮像装置1が被写体Sから見て最も左に配置されている1番目の撮像装置1として登録される。そして、この1番目の撮像装置1の識別情報と、1番目(最も左)を示す情報とが関連付けられて、1番目の撮像装置1からマスタとなった撮像装置1Aへと送信される。
その後、一つ前に登録された撮像装置1の隣りに配置される撮像装置1の操作入力部110がユーザにより所定操作されることで、「このカメラは左から2番目のカメラです」といった内容の表示に変更される。その後、操作入力部110がユーザにより所定の登録操作されることで、当該撮像装置1が被写体Sから見て左から二つに配置されている2番目の撮像装置1として登録される。そして、この2番目の撮像装置1の識別情報と、2番目(左から二つ目)を示す情報とが関連付けられて、2番目の撮像装置1からマスタとなった撮像装置1Aへと送信される。この識別情報は、各々の撮像装置1とマスタとなった撮像装置1Aとの間で各種データ(制御情報や画像データ)の送受信を行う場合などに、送信元と送信先を示す情報として送受信されるデータとともに送信され、当該データがどの撮像装置の間で送受信されるものかを互いに認識するために使用されるものである。
上記の処理が全ての撮像装置1で繰り返し実行されることで、全ての撮像装置1の並び順を決定し、各々の撮像装置1が自己の配置された位置を認識するとともに、マスタとなった撮像装置1Aが全ての撮像装置1の識別情報と配置された位置との関係を関連付けて認識するようにしても良い。その後、各撮像装置1を決定された並び順どおりに三脚に据え付けて仮配置を完了する。
仮配置後に、上記実施形態の配置処理におけるステップS3以降の各処理が行われることで、複数の撮像装置1、…の配置を決定する。
<配置処理の変形例2>
例えば、複数の撮像装置1、…のうち、ユーザにより選択された何れか一の撮像装置1をマスタとして設定した後、マスタとなった撮像装置1Aは、検索された周囲の撮像装置1の個数分のアイコンを所定の配置態様(例えば、半円状等)で配置して表示パネル108aに表示する。
そして、マスタとなった撮像装置1Aは、被写体Sから見て最も左に配置された撮像装置1に対応するアイコンを強調表示しながら、例えば、「左端の撮像装置1のシャッタを押してください」といった案内表示を表示パネル108aに表示する。ここで、複数の撮像装置1、…のうち、実際にシャッタが操作された撮像装置1が被写体Sから見て最も左に配置されている1番目の撮像装置1として登録される。その後、マスタとなった撮像装置1Aは、登録された撮像装置1に対応するアイコンの色を変えて登録済みであることを表示パネル108aに表示する。
上記の処理が全ての撮像装置1で繰り返し実行されることで、全ての撮像装置1の並び順を決定するようにしても良い。これにより、マスタとなった撮像装置1Aは、全ての撮像装置1の識別情報と配置された位置との関係を関連付けて認識する。また、マスタとなった撮像装置1Aは、複数の撮像装置1、…の並び順を示す情報を各撮像装置1の識別情報と対応付けて送信することで、各々の撮像装置1が自己の配置された位置を認識する。
<配置処理の変形例3>
複数の撮像装置1、…をその表示パネル108aが一方向側から全て見えるような状態に配置した後、例えば、左端の撮像装置1をマスタとし、マスタとなった撮像装置1Aは、当該撮像装置1の周囲の撮像装置1を検索して各撮像装置1の識別情報と対応付けて記憶する。その後、スレーブとなった撮像装置1Bは、他の撮像装置1と異なる特有の模様を表示パネル108aに表示する。
マスタとなった撮像装置1Aは、スレーブとなった撮像装置1Bの表示パネル108aに表示されている特有の模様を撮像して、撮像された画像を認識することで当該模様の並びを特定することで、スレーブとなった撮像装置1Bの並びを認識するようにしても良い。そして、マスタとなった撮像装置1Aは、自己を1番目とする並び順に相当する番号(例えば、一つ隣りの撮像装置1は2番目の撮像装置1等)を対応する撮像装置1に送信する。
このようにして、複数の撮像装置1、…の並び順が決定され、各撮像装置1は自己の配置された位置を認識する。また、マスタとなった撮像装置1Aは、全ての撮像装置1の識別情報と配置された位置との関係を関連付けて認識する。
なお、複数の撮像装置1、…のうち、並びの端に存する撮像装置1以外の撮像装置1をマスタとしても良く、この場合には、当該マスタとなった撮像装置1Aが存する位置は空白となるため、これにより、自己の撮像装置1の位置を認識するようにしても良い。
<配置処理の変形例4>
複数の撮像装置1、…を撮像部103で前の撮像装置1の表示パネル108aを撮像できるように略一列に配置する。そして、先頭の撮像装置1は、ユーザによりシャッタが操作されると、自己が一番目であることを示す案内表示を表示パネル108aに表示する。2番目の撮像装置1は、一番目の撮像装置1の案内表示を撮像して、自己が二番目であること認識して、その旨を示す案内表示各々を表示パネル108aに表示する。
上記の処理が最後の撮像装置1まで繰り返し実行された後、先頭の撮像装置1のシャッタがユーザにより再度操作されることで、並び順を決定する処理を終了する。
また、複数の撮像装置1、…は、当該処理が終了したことを示す案内表示を表示パネル108aに順次表示したり、先頭の撮像装置1が、所定の無線通信回線を介して当該処理が終了したことを示す情報を送信することで、各撮像装置1に当該処理の終了を認識させる。
このようにして、複数の撮像装置1、…の並び順が決定され、各撮像装置1は自己の配置された位置を認識する。また、各撮像装置1は、自己を識別するための識別情報を何れか一(例えば、先頭)の撮像装置1に送信することで、当該撮像装置1はマスタとして、全ての撮像装置1の識別情報と配置された位置との関係を関連付けて認識する。
<配置処理の変形例5>
複数の撮像装置1、…が所定の位置に配置された後、各撮像装置1は、他の撮像装置1と異なる特有の模様を表示パネル108aに表示する。複数の撮像装置1、…のうち、何れか一の撮像装置1をマスタとし、マスタとなった撮像装置1Aは、これらの特有の模様を撮像装置1の並びに従って順次撮像していき、撮像した順序で並び順を認識する。そして、マスタとなった撮像装置1Aが、所定の無線通信回線を介して複数の撮像装置1、…の並び順を示す情報を送信することで、各撮像装置1に並び順を認識させる。
このようにして、複数の撮像装置1、…の並び順が決定され、各撮像装置1は自己の配置された位置を認識する。また、マスタとなった撮像装置1Aは、全ての撮像装置1の識別情報と配置された位置との関係を関連付けて認識する。
<配置処理の変形例6>
複数の撮像装置1、…を所定の配置態様(例えば、半円状等)で配置した後、一端の撮像装置1の向きを他の撮像装置1全体が画角に入るような向きにする。そして、一端の撮像装置1は、所定の無線通信回線を介して他の撮像装置1に対して順次フラッシュの発光を要求する。一端の撮像装置1は、所定の順序でフラッシュを発光する他の撮像装置1を撮像して他の撮像装置1の位置を認識することで、各撮像装置1の並び順を認識する。
これにより、一端の撮像装置1はマスタとして、全ての撮像装置1の識別情報と配置された位置との関係を関連付けて認識する。また、マスタとなった撮像装置1Aは、複数の撮像装置1、…の並び順を示す情報を各撮像装置1の識別情報と対応付けて送信することで、各々の撮像装置1が自己の配置された位置を認識する。
<配置処理の変形例7>
被写体Sの周囲に配置された複数の撮像装置1、…のうち、一端の撮像装置1の撮像部103に所定の姿勢(例えば、Vサイン等)をとった被写体S(特に、顔等)を正対させる。そして、被写体Sが所定の姿勢を維持した状態で、複数の撮像装置1、…のうちの一端と反対となる他端の撮像装置1側まで体の向きを変えていく。各撮像装置1は、被写体Sが向きを変え始めてから当該撮像装置1に正対するまでの時間を計時していく。複数の撮像装置1、…の位置に応じて計時される時間が異なるため、当該時間に応じて一端からの撮像装置1の並び順が特定される。
このようにして、複数の撮像装置1、…の並び順が決定され、各撮像装置1は自己の配置された位置を認識する。また、各撮像装置1は、自己を識別するための識別情報を何れか一(例えば、一端)の撮像装置1に送信することで、当該撮像装置1はマスタとして、全ての撮像装置1の識別情報と配置された位置との関係を関連付けて認識する。
<配置処理の変形例8>
三脚に固定された複数の撮像装置1、…を被写体Sを中心として仮配置した後、並びの略中央の撮像装置1をマスタとして選択し、マスタとなった撮像装置1Aは、当該撮像装置1の周囲の撮像装置1を検索して各撮像装置1の識別情報と対応付けて記憶する。その後、マスタとなった撮像装置1Aを三脚から取り外して、被写体Sの位置まで移動させた後、一端の撮像装置1からマスタの三脚までを画角内に入れた後、所定の無線通信回線を介して他の撮像装置1に対して順次フラッシュの発光を要求する。マスタとなった撮像装置1Aは、所定の順序でフラッシュを発光する他の撮像装置1を撮像して他の撮像装置1の位置を認識することで、各撮像装置1の並び順を認識する。また、マスタとなった撮像装置1Aは、フラッシュの位置から複数の撮像装置1、…の位置を特定して、これら複数の撮像装置1、…を略等しい間隔で配置するための配置の修正情報を生成し、所定の無線通信回線を介して配置の修正が必要な撮像装置1に対して修正情報を送信する。修正情報を受信した撮像装置1は、例えば、「撮像装置1を右に移動してください」といった案内表示を表示パネル108aに表示する。
マスタとなった撮像装置1Aは、自己の表示パネル108aに複数の撮像装置1、…が略等しい間隔に配置された状態を半透過の状態で表示する。そして、マスタとなった撮像装置1Aは、配置が修正された撮像装置1の位置を認識して、誤差が所定範囲に入ったら、「OK」を表示するとともに、各撮像装置1にも送信する。
また、マスタとなった撮像装置1Aは、マスタの三脚から反対側の撮像装置1についても上記と略同様の処理を行う。
このようにして、複数の撮像装置1、…の並び順が決定され、各撮像装置1は自己の配置された位置を認識する。また、マスタとなった撮像装置1Aは、全ての撮像装置1の識別情報と配置された位置との関係を関連付けて認識する。
<撮像同期処理>
次に、表示制御システム100による撮像同期処理について、図7〜図9を参照して説明する。
図7は、撮像同期処理に係る動作の一例を示すフローチャートである。また、図8は、撮像同期処理を説明するための図である。また、図9(a)〜図9(c)は、撮像同期処理を説明するための図である。
ここで、撮像同期処理は、配置処理の後に行われる処理である。複数(例えば、7つ等)の撮像装置1は、被写体Sの位置を中心とし、被写体Sから見て右側方から左前方にかけて当該被写体Sを取り囲むように所定の位置に配置されているものとする。また、各撮像装置1は、予め高さを揃えた三脚に固定されているものとする。また、複数の撮像装置1、…どうしは、所定の無線通信回線を介して情報通信可能に接続されているものとする。
図7に示すように、ユーザによる操作入力部110の所定操作に基づいて、被写体Sの周囲に任意に配置された複数の撮像装置1、…の中で、何れか一の撮像装置1が配置処理におけるマスタとして指定されると(ステップS21)、当該マスタとなった撮像装置1Aは、ユーザによる操作入力部110のシャッタボタンの所定操作に基づいて、撮像部103による被写体Sの撮像を開始する(ステップS22)。具体的には、撮像制御部103cは、レンズ部103aにより結像された光学像を電子撮像部103bにより二次元の画像信号に変換させたフレーム画像を画像データ処理部104に出力させる。画像データ処理部104は、電子撮像部103bから転送されたフレーム画像のアナログ値の信号からデジタル値の輝度信号Y及び色差信号Cb,Cr(YUVデータ)を生成する。
また、無線処理部111は、ユーザによる操作入力部110のシャッタボタンの所定操作をトリガーとして、同期信号をスレーブとなった他の撮像装置1に対して所定の無線通信回線を介して送信する(ステップS23;図8参照)。
スレーブとなった他の撮像装置1にあっては、マスタとなった撮像装置1Aから送信された同期信号が無線処理部111により受信されると、撮像部103による被写体Sの撮像を開始する(ステップS24)。被写体Sの撮像の具体的な処理内容は、上記したステップS12における処理と略同様であり、詳細な説明は省略する。
次に、マスタとなった撮像装置1Aは、同期用のフラッシュを所定時間発光させて消灯(明滅)する(ステップS25)。ここで、フラッシュは、例えば、白色光と近赤外光の2つが用意されており、フラッシュの明滅を被写体Sに意識させた方が良い場合には白色光(可視光)を用い、被写体S或いは周辺の人たちに意識させたくない場合には近赤外光(不可視光)を用いる。
続けて、マスタとなった撮像装置1Aにあっては、画像データ処理部104の明るさ変化検出部104aは、所定のフレームレートで逐次生成される各フレーム画像の画像データに基づいて、フレーム画像全体の輝度値が一つ前のフレーム画像に対して所定値以上増加したフレーム画像をトリガーフレームとして特定する(ステップS26)。その後、明るさ変化検出部104aは、トリガーフレームとして特定されたフレーム画像の各ライン画像毎の輝度値を一つ前のフレーム画像の対応するライン画像の輝度値と比較して、所定値以上増加したライン画像をトリガーラインL1として特定する(ステップS27;図9(b)参照)。
スレーブとなった撮像装置1Bにあっては、画像データ処理部104の明るさ変化検出部104aは、所定のフレームレートで逐次生成される複数のフレーム画像の中で、フレーム画像全体の輝度値が一つ前のフレーム画像に対して所定値以上増加したフレーム画像をトリガーフレームに対応するフレーム画像として特定する(ステップS28)。その後、明るさ変化検出部104aは、特定されたフレーム画像の各ライン画像毎の輝度値を一つ前のフレーム画像の対応するライン画像の輝度値と比較して、所定値以上増加したライン画像をズレライン画像L2として特定する(ステップS29;図9(a)及び図9(c)参照)。
なお、マスタとなった撮像装置1Aの明るさ変化検出部104aによる各処理と、スレーブとなった撮像装置1Bの明るさ変化検出部104aによる各処理の順序は、一例であってこれに限られるものではなく、適宜任意に変更可能であり、例えば、処理の順序を逆としても良い。
次に、スレーブとなった各撮像装置1にあっては、撮像制御部103cの時間差特定部103c3は、ズレライン画像L2に対応する走査ラインの露光タイミングとトリガーラインL1に対応するフラッシュの明滅タイミングとの相対的な時間差を特定する(ステップS30)。
具体的には、マスタとなった撮像装置1Aの無線処理部111は、明るさ変化検出部104aにより特定されたトリガーラインL1のフレーム画像内の垂直方向の位置に係るライン位置情報を所定の無線通信回線を介してスレーブとなった他の撮像装置1に対して送信する。その後、スレーブとなった各撮像装置1Bにあっては、無線処理部111は、マスタとなった撮像装置1Aから送信されたライン位置情報を受信する。そして、時間差特定部103c3は、明るさ変化検出部104aにより特定されたズレライン画像L2及びトリガーラインL1のフレーム画像内の垂直方向の位置に基づいて、ズレライン画像L2とトリガーラインL1との間の垂直方向の画素数を算出し、算出された画素数に電子撮像部103bの水平方向の走査周期[ms]を乗算して、ズレライン画像L2に対応する走査ラインの露光タイミングとトリガーラインL1に対応する外部光源の明滅タイミングとの相対的な時間差を特定する。
その後、スレーブとなった撮像装置1Bにあっては、撮像制御部103cのタイミング調整部103c4は、時間差特定部103c3により特定されたズレライン画像L2に対応する走査ラインの露光タイミングとトリガーラインL1に対応するフラッシュの明滅タイミングとの相対的な時間差がなくなるように、電子撮像部103bの水平方向の走査ラインの露光(信号の読み出し)の開始ライン位置及び開始タイミングを制御することで、フラッシュの明滅タイミングに対する相対的な電子撮像部103bの撮像タイミングのズレを調整する(ステップS31)。
これにより、複数の撮像装置1、…の撮像部103の撮像タイミングが同期した状態となる。
なお、例えば、連携撮像のスレーブとなる撮像装置1Bの機種がマスタとなる撮像装置1Aと異なっていたり無線通信環境の状態によって、マスタとなる撮像装置1Aの撮像タイミングと同期させた連携撮像を行うことができない撮像装置1Bにあっては、補間画像生成部104gは、撮像タイミングがマスタとなった撮像装置1Aの撮像タイミングに対してズレているフレーム画像の前後の二つのフレーム画像を用いてマスタとなった撮像装置1Aの撮像タイミングに対応する補間フレーム画像の画像データを生成するようにしても良い。
<骨格モデル生成処理>
次に、表示制御システム100による骨格モデル生成処理について、図10及び図11を参照して説明する。
図10は、骨格モデル生成処理に係る動作の一例を示すフローチャートである。また、図11(a)及び図11(b)は、骨格モデル生成処理を説明するための図であり、フレーム画像内の被写体Sを模式的に破線で表している。
なお、複数の撮像装置1、…の各記録媒体Cには、予め被写体Sが所定の動作(例えば、ゴルフのスイング等)を行った際に撮像された動画像の画像データが記録されているものとする。また、複数の撮像装置1、…どうしは、所定の無線通信回線を介して情報通信可能に接続されているものとする。
図10に示すように、先ず、ユーザにより被写体Sの略正面に配置された撮像装置1が選択され、当該撮像装置1は、ユーザによる操作入力部110の所定操作に基づいて、動作モードを骨格モデル生成モードに設定する(ステップS41)。
次に、第1関連付テーブルT1に規定されている複数のスポーツの中で、ユーザによる操作入力部110の所定操作に基づいて何れか一の種類のスポーツ(例えば、ゴルフ等)が選択されると、モデル特定部104cは、第1関連付テーブルT1に記憶されているモデルデータMの中で、選択されたスポーツの種類に対応する被写体モデルのモデルデータMを特定する(ステップS42)。
続けて、表示制御部108bは、記録媒体Cに記録されている動画像の画像データに基づいて、被写体Sが所定の動作を行った動画像を表示パネル108aに再生表示させる(ステップS43)。そして、ユーザは動画像の再生中に被写体Sが所定の基本的な姿勢(例えば、テイクバックのトップ等)となった状態で、操作入力部110の所定操作に基づいて表示制御部108bによる動画像の再生を一時的に停止させる。
次に、表示制御部108bは、モデル特定部104cにより特定された被写体モデルのモデルデータMのうち、被写体モデルを正面から見た視点に対応するモデルデータMを第1関連付テーブルT1から取得して、一時停止状態の所定の基本的な姿勢の被写体Sに重畳させて表示させる(ステップS44;図11(a)参照)。
このとき、表示制御部108bは、所定の基本的な姿勢の被写体Sの頭及び足先の位置と略一致させるように被写体モデルのモデルデータMの縮尺を調整しても良い。
続けて、ユーザによる操作入力部110の所定操作に基づいて関節の位置の修正モードが指定されると、仮想画像生成部104dは、ユーザによる操作入力部110の所定操作に基づいて、被写体モデルのモデルデータMの各関節の位置を被写体Sの各関節位置に対応させるように修正する(ステップS45)。このとき、図11(a)に示すように、修正される関節の位置を識別可能となるように所定形状のマーカーが表示される。
次に、仮想画像生成部104dは、ユーザによる操作入力部110の所定操作に基づいて、関節位置の修正の完了が指示されたか否かを判定する(ステップS46)。
ここで、関節位置の修正の完了が指示されていないと判定されると(ステップS46;NO)、仮想画像生成部104dは、処理をステップS45に戻し、関節位置の修正を受け付ける。
一方、関節位置の修正の完了が指示されたと判定されると(ステップS46;YES)、第2画像取得部104fは、被写体Sの右側面の撮像装置1により撮像された同時刻のフレーム画像の画像データを取得する(ステップS47)。具体的には、第2画像取得部104fは、第2関連付テーブルT2を参照して、被写体Sの右側面の撮像装置1を特定し、当該撮像装置1により一時停止状態の所定の基本的な姿勢の被写体Sと略同時刻の撮像タイミングで撮像されたフレーム画像の画像データを所定の無線通信回線を介して取得する。
続けて、表示制御部108bは、モデル特定部104cにより特定された被写体モデルのモデルデータMのうち、被写体モデルを右側面から見た視点に対応するモデルデータMを第1関連付テーブルT1から取得して、一時停止状態の所定の基本的な姿勢の被写体Sに重畳させて表示させる(ステップS48;図11(b)参照)。
次に、ユーザによる操作入力部110の所定操作に基づいて関節の位置の修正モードが指定されると、仮想画像生成部104dは、ユーザによる操作入力部110の所定操作に基づいて、被写体モデルのモデルデータMの各関節の位置を被写体Sの各関節位置に対応させるように修正する(ステップS49)。
その後、仮想画像生成部104dは、ユーザによる操作入力部110の所定操作に基づいて、関節位置の修正の完了が指示されたか否かを判定する(ステップS50)。
ここで、関節位置の修正の完了が指示されていないと判定されると(ステップS50;NO)、仮想画像生成部104dは、処理をステップS49に戻し、関節位置の修正を受け付ける。
一方、関節位置の修正の完了が指示されたと判定されると(ステップS50;YES)、仮想画像生成部104dは、被写体Sを正面から見た視点に対応する当該被写体Sの各関節位置及び被写体Sを右側面から見た視点に対応する当該被写体Sの各関節位置に基づいて、被写体Sの各関節の三次元空間における位置座標を特定する(ステップS51)。
そして、仮想画像生成部104dは、特定された被写体Sの各関節の三次元空間における位置座標に基づいて、関節どうしを結ぶ骨に相当する長さを修正して、被写体骨格モデルのデータを生成する(ステップS52)。
その後、第2画像取得部104fは、第2関連付テーブルT2を参照して、被写体Sを他の視点から見る撮像装置1により撮像された同時刻のフレーム画像の画像データを取得して、表示制御部108bは、各フレーム画像に仮想画像生成部104dにより生成された被写体骨格モデルを重畳させて表示させる(ステップS53)。そして、仮想画像生成部104dは、各フレーム画像と被写体骨格モデルとの画素値を比較して、被写体骨格モデルの形状にズレがないかを確認する。
ここで、被写体骨格モデルの形状にズレがあった場合には、仮想画像生成部104dは、ユーザによる操作入力部110の所定操作に基づいて骨の長さの微調整を行う。
<自由視点再生処理>
次に、表示制御システム100による自由視点再生処理について、図12〜図15を参照して説明する。
図12は、自由視点再生処理に係る動作の一例を示すフローチャートである。また、図13は、自由視点再生処理における第1移動方法に係る処理を説明するための図であり、また、図14(a)及び図14(b)は、仮想視点に対応する仮想二次元画像を示す図である。また、図15は、自由視点再生処理における第2移動方法に係る処理を説明するための図である。
なお、複数の撮像装置1、…の各記録媒体Cには、予め被写体Sが所定の動作(例えば、ゴルフのスイング等)を行った際に撮像された動画像の画像データが記録されているものとする。また、複数の撮像装置1、…どうしは、所定の無線通信回線を介して情報通信可能に接続されているものとする。
図12に示すように、複数の撮像装置1、…の中で、ユーザによる操作入力部110の所定操作に基づいて選択された何れか一の撮像装置1が第1の視点に対応する撮像装置1として指定された後(ステップS61)、視点移動方法指定部107aは、第1移動方法及び第2移動方法のうち、ユーザによる操作入力部110の所定操作に基づいて選択された何れか一の方法を被写体Sを見る視点の移動方法として指定する(ステップS62)。
ここで、第1移動方法は、再生表示される動画像の時間進行を一時停止させた後に被写体Sを見る視点の移動を行う方法であり、第2移動方法は、再生表示される動画像の時間進行を一時停止させることなく被写体Sを見る視点の移動を行う方法である。
次に、第1の視点に対応する撮像装置1にあっては、画像データ処理部104の第1画像取得部104bは、記録媒体Cから動画像の画像データを取得し、表示制御部108bの第1制御部108b2は、取得された動画像の画像データに基づいて、被写体Sを第1の視点で見た動画像を表示パネル108aに表示させる(ステップS63)。
続けて、第1移動方法及び第2移動方法のうち、視点移動方法指定部107aにより指定された視点の移動方法に応じて処理を分岐させる(ステップS64)。
<第1移動方法>
図13に示す第1移動方法では、先ず、動画像の再生表示中に、ユーザが他の視点から見てみたいシーンに来たところで、ユーザによる操作入力部110の所定操作に基づいて再生表示を一時停止させる指示が入力されると(ステップS71)、第1の視点に対応する撮像装置1の無線処理部111は、一時停止した時点を指示する信号を所定の無線通信回線を介して他の撮像装置1に送信する(ステップS72)。
他の撮像装置1の各々にあっては、第1の視点に対応する撮像装置1から送信された一時停止した時点を指示する信号が無線処理部111により受信されると、画像データ処理部104は、記録媒体Cに記録されている動画像の中で、一時停止した時点に対応するフレーム画像を特定して当該フレーム画像の縮小画像(例えば、VGAサイズの画像)を生成し、無線処理部111は、画像データ処理部104により生成された縮小画像の画像データを所定の無線通信回線を介して第1の視点に対応する撮像装置1に送信する(ステップS73)。
第1の視点に対応する撮像装置1にあっては、他の撮像装置1から送信された一時停止した時点に対応する縮小画像の画像データが無線処理部111により受信されると、表示制御部108bの第2制御部108b3は、ユーザによる操作入力部110の所定操作に基づいて逐次入力される被写体Sを見る視点の変更指示に従って、第2関連付テーブルT2を参照して、入力された変更指示に係る視点と対応付けられている撮像装置1を特定して、当該撮像装置1から送信された縮小画像に切り替えながら表示パネル108aに表示させる(ステップS74)。
その後、被写体Sを見る視点の変更後の視点(第2の視点)が確定されると(ステップS75)、第2制御部108b3は、確定された視点に対応する撮像装置1により撮像された動画像の画像データに対応する動画像の表示パネル108aによる再生表示を再開させる(ステップS76)。具体的には、第1の視点に対応する撮像装置1の無線処理部111は、一時停止した時点以降のフレーム画像の画像データの送信指示を所定の無線通信回線を介して第2の視点に対応する撮像装置1に送信する。そして、第2の視点に対応する撮像装置1にあっては、第1の撮像装置1から送信された送信指示が無線処理部111により受信されると、画像データ処理部104は、記録媒体Cに記録されている動画像の中で、一時停止した時点以降に対応するフレーム画像を特定して、無線処理部111は、画像データ処理部104により特定されたフレーム画像の画像データを所定の無線通信回線を介して第1の視点に対応する撮像装置1に送信する。そして、第1の視点に対応する撮像装置1にあっては、第2制御部108b3は、無線処理部111により受信されたフレーム画像の画像データに基づいて、一時停止した時点以降に対応するフレーム画像を表示パネル108aに再生表示させる。
次に、中央制御部101のCPUは、動画像の再生表示を終了する指示が入力されているか否かを判定する(ステップS77)。この動画像の再生表示を終了する指示は、ユーザによる操作入力部110の所定操作に基づいて入力されても良いし、所定の再生時間の経過や全てのフレーム画像を再生してしまった等の所定の終了条件を満たすことで入力されても良い。
そして、動画像の再生表示を終了する指示が入力されていないと判定されると(ステップS77;NO)、中央制御部101のCPUは、処理をステップS71に戻し、それ以降の各処理の実行を制御する。
なお、第1移動方法が指定された状態で、被写体Sを見る視点の変更指示として、隣合う撮像装置1により挟まれた位置からの仮想的な仮想視点に変更する指示が入力されると、仮想画像生成部104dは、被写体骨格モデルを仮想視点に対応する角度に回転させたものを二次元画像の画像データとして生成する。その後、仮想画像生成部104dは、隣合う二つの撮像装置1により撮像されたそれぞれの動画像の画像データに基づいて、仮想視点から見た二次元画像の所定領域に対応する色及びテクスチャのうちの少なくとも一方をマッピングして被写体Sを仮想視点で見た仮想二次元画像の画像データを生成する。そして、第2制御部108b3は、仮想二次元画像を表示パネル108aに表示させたり、骨格部分のみを表す仮想二次元画像のみを表示パネル108aに表示させたり(図14(a)参照)、当該仮想二次元画像の骨格部分を所定の配色で色分けして表示パネル108aに表示させる(図14(b)参照)。
<第2移動方法>
図15に示す第2移動方法では、先ず、動画像の再生表示中に、画像データ処理部104の第2画像取得部104fは、第2関連付テーブルT2を参照して、複数の撮像装置1、…のうちの当該第1の視点に対応する撮像装置1の両隣りに配置された二つの撮像装置1、1を特定し、当該撮像装置1により撮像された動画像を構成するフレーム画像の画像データを取得する(ステップS81)。具体的には、無線処理部111は、第2画像取得部104fにより特定され二つの撮像装置1、1に対してフレーム画像の送信指示を所定の無線通信回線を介して送信する。二つの撮像装置1の各々にあっては、第1の視点に対応する撮像装置1から送信されたフレーム画像の送信指示が無線処理部111により受信されると、画像データ処理部104は、記録媒体Cに記録されている動画像の中で、再生時刻から所定枚数分のフレーム画像を特定して、無線処理部111は、画像データ処理部104により特定された所定枚数分のフレーム画像の画像データを所定の無線通信回線を介して第1の視点に対応する撮像装置1に送信する。そして、第1の視点に対応する撮像装置1の第2画像取得部104fは、二つの撮像装置1の各々から送信されたフレーム画像の画像データを取得して、メモリ102に一時的に記憶させる。
なお、図15にあっては、再生中の動画像の画像データを黒で塗り潰した矢印で表し、一時的に記憶した動画像の画像データを破線付きの矢印で表している。また、白抜きの矢印は、一時的に記憶した動画像の画像データが再生されることを模式的に表している。
その後、ユーザによる操作入力部110の所定操作に基づいて被写体Sを見る視点の変更指示が入力されると、表示制御部108bの第2制御部108b3は、第2関連付テーブルT2を参照して、両隣りの二つの撮像装置1、1の中で入力された変更指示に係る第2の視点と対応付けられている撮像装置1を特定して、当該撮像装置1から送信され第2画像取得部104fにより取得されたフレーム画像に切り替えて表示パネル108aに表示させる(ステップS82)。
次に、第2画像取得部104fは、第2関連付テーブルT2を参照して、複数の撮像装置1、…のうちの第2の視点に対応する撮像装置1の両隣りに配置された二つの撮像装置1を特定し、当該撮像装置1により撮像された動画像を構成するフレーム画像の画像データを取得する(ステップS83)。ここでのフレーム画像の画像データの具体的な取得方法は、上記したステップS81における処理と略同様であり、その詳細な説明は省略する。
その後、中央制御部101のCPUは、動画像の再生表示を終了する指示が入力されているか否かを判定する(ステップS84)。そして、動画像の再生表示を終了する指示が入力されていないと判定されると(ステップS84;NO)、中央制御部101のCPUは、処理をステップS82に戻し、それ以降の各処理の実行を制御する。
一方、ステップS77、或いは、ステップS84にて、動画像の再生表示を終了する指示が入力されたと判定されると(ステップS77;YES、ステップS84;YES)、中央制御部101のCPUは、自由視点再生処理を終了させる。
なお、自由視点再生処理にあっては、動画像の再生開始前に、ユーザにより選択された何れか一の撮像装置1の表示制御部108bは、複数の撮像装置1、…により撮像された動画像に対応するサムネイル画像を一覧表示し、この中でユーザにより選択されたものから再生を開始するようにしても良い。
また、複数の撮像装置1、…の各々は、自由視点再生処理の前に、予め他の撮像装置1により撮像された各視点に対応する動画像の画像データを取得しておくようにしても良く、これにより、全ての撮像装置1により撮像された動画像の画像データの取得に時間が要するものの、視点の切り替え自体をより高速に行うことができる。
以上のように、本実施形態の表示制御システム100によれば、被写体の位置を基準とする少なくとも3つの撮像装置1、…の相対的な位置関係を特定し、特定された相対的な位置関係に基づいて、第2の視点に対応する動画像を表示させる際の第1の視点から第2の視点までの視点の移動速度が略一定の速度となるように制御するので、予め複数の撮像装置1、…を略等間隔に配置しておかなくとも、即ち、複数の撮像装置1、…が任意の位置に配置されていても、被写体を見る視点をシームレスに移動させることができる。つまり、複数の撮像装置1、…の配置を精度良く行わなくとも被写体を見る視点のシームレスな移動を容易に行うことができる。
また、各撮像装置1から動画像の画像データを取得する際に、少なくとも3つの撮像装置1、…のうちの何れの撮像装置1から取得した画像データであるかを識別するための識別情報と、各撮像装置1の配置されている位置または順番を示す情報とを関連付けることで、少なくとも3つの撮像装置1、…の相対的な位置関係を特定することができる。
具体的には、少なくとも3つの撮像装置1、…の配置状況を表す画像に基づいて、より具体的には、少なくとも3つの撮像装置1、…のうち、当該撮像装置1の並び方向の一端に配置された撮像装置1から一端と反対側となる他端に配置された撮像装置1までが撮像された複数の画像から生成されたパノラマ画像に基づいて、被写体の位置を基準とする少なくとも3つの撮像装置1、…の相対的な位置関係を特定するので、当該相対的な位置関係の特定を容易に行うことができ、これにより、被写体を見る視点のシームレスな移動を容易に行うことができる。
また、少なくとも3つの撮像装置1、…の配置を第1の視点から第2の視点までの視点の移動速度が一定の速度となるような所定の位置関係を有する配置とするための案内、具体的には、少なくとも3つの撮像装置1、…のうち、隣合う撮像装置1どうしが被写体の位置を基準として略等しい角度となるような配置の案内を行うので、当該案内に従って、ユーザは少なくとも3つの撮像装置1、…をより適正に配置させることができることとなり、当該案内を利用することで、被写体を見る視点のシームレスな移動を容易に行うことができる。
また、被写体の位置を基準とする少なくとも3つの撮像装置1、…の相対的な位置関係に基づいて、少なくとも3つの撮像装置1、…の第1の視点から第2の視点までの視点の移動速度が一定の速度となるような所定の位置関係に対する各撮像装置1の配置のズレ量を特定し、特定された各撮像装置1の配置のズレ量に基づいて、当該ズレを補正するための案内を行うので、マスタとなった撮像装置1Aにおける当該案内に従って、ユーザは少なくとも3つの撮像装置1、…をより適正に配置させることができることとなる。具体的には、各撮像装置1を識別する識別情報と対応付けられた、所定の位置関係における各撮像装置1の配置を特定する配置情報に基づいて、各撮像装置1の配置のズレを補正するための案内を行うので、配置情報に従って、ユーザは対応する撮像装置1をより適正に配置させることができることとなる。
さらに、スレーブとなった各撮像装置1Bは、マスタとなった撮像装置1Aから送信された各撮像装置1の配置のズレ量を表示部108に表示するので、当該各撮像装置1におけるズレ量の表示に従って、ユーザは対応する撮像装置1をより適正に配置させることができることとなる。
また、少なくとも3つの撮像装置1、…の存する撮像位置、撮像方向及び画角の関係に係る撮像関連情報に基づいて、第2の視点に対応する動画像を表示させる際の第1の視点から第2の視点までの視点の移動速度が略一定の速度となるように制御することができる。
具体的には、第2の視点に対応する動画像を表示させる際に、表示される動画像の時間進行を一時停止させて、第1の視点から第2の視点まで視点を移動させる場合や、表示される動画像の時間進行を一時停止させることなく、第1の視点から第2の視点まで視点を移動させる場合であっても、被写体を見る視点をシームレスに移動させることができる。
また、表示される動画像の時間進行を一時停止させることなく、第1の視点から第2の視点まで視点を移動させる場合には、少なくとも3つの撮像装置1、…の撮像タイミングの関係に基づいて、表示される動画像の時間進行を一時停止させることなく視点を移動させる際の視点の移動速度が略一定の速度となるように制御するので、複数の撮像装置1、…の撮像タイミングの関係を利用することで、被写体を見る視点をシームレスに移動させることができる。
さらに、スレーブとなった各撮像装置1Bは、マスタとなった撮像装置1Aから送信された各撮像装置1の撮像タイミングを一致させるための制御情報に基づいて、撮像タイミングを他の撮像装置1と一致させるように制御するので、スレーブとなった各撮像装置1B毎に被写体を見る視点のシームレスな移動を実現するための制御を行うことで、マスタとなった撮像装置1の処理負担を軽減させることができる。
また、各撮像装置1は、少なくとも3つの撮像装置1、…の撮像タイミングの関係に基づいて、被写体の撮像後に、取得された動画像の画像データのうち、当該撮像装置1により撮像された動画像の画像データ以外の動画像の画像データを構成し、撮像タイミングが所定の基準タイミングに対してズレているフレーム画像を特定し、当該フレーム画像の前後のフレーム画像を用いて所定の基準タイミングに対応する補間フレーム画像を生成させて、表示部108に表示させるので、他の撮像装置1により撮像されたフレーム画像の撮像タイミングが所定の基準タイミングに対してズレている場合に被写体を見る視点を移動させても、補間フレーム画像を利用することで撮像タイミングのずれの違和感を軽減させることができる。
また、第2の視点の位置が少なくとも3つの撮像装置1、…の各々の存する位置と異なる場合に、少なくとも3つの撮像装置1、…の相対的な位置関係に基づいて、第2の視点の周囲に存する撮像装置1により撮像された動画像の画像データを用いて当該第2の視点に対応する補間フレーム画像を生成させて表示部108に表示させるので、各撮像装置1の存する位置と異なる位置に被写体を見る視点を移動させても、補間フレーム画像を利用することで被写体を見る視点のシームレスな移動を実現することができる。
また、スレーブとなった各撮像装置1Bは、撮像される被写体の大きさを他の撮像装置1と揃えるように撮像部103のズーム倍率を調整するので、被写体を見る視点を移動させた際に被写体の大きさがばらつくことを抑制することができる。具体的には、動く被写体の収まる範囲が撮像部103の撮像領域からはみ出さないように撮像部103のズーム倍率を調整することで、各視点から見る被写体の大きさを適正に揃えることができる。
なお、本発明は、上記実施形態に限定されることなく、本発明の趣旨を逸脱しない範囲において、種々の改良並びに設計の変更を行っても良い。
上記実施形態にあっては、仮想視点に対応する補間画像の生成を第1の視点に対応する撮像装置により行うようにしたが、仮想視点に対応する位置を挟む二つの撮像装置1、1のうち、少なくとも一方の撮像装置1により分担して行っても良い。
即ち、第1の視点に対応する撮像装置1にあっては、無線処理部111は、二つの撮像装置1、1のうち、少なくとも一方の撮像装置1に対して、当該二つの撮像装置1、1により撮像された動画像の画像データに基づいて補間画像を生成する生成指示を所定の無線通信回線を介して送信する。隣合う二つの撮像装置1、1のうち、少なくとも一方の撮像装置1にあっては、補間画像生成部104gは、第1の視点に対応する撮像装置1から送信された生成指示の入力に基づいて、当該隣合う二つの撮像装置1、1のうちの他方の撮像装置1により撮像された動画像の画像データを取得して、当該動画像の画像データと一方の撮像装置1により撮像された動画像の画像データに基づいて補間画像の画像データを生成する。その後、無線処理部111は、補間画像生成部104gにより生成された補間画像の画像データを所定の無線通信回線を介して第1の撮像装置1に対して送信する。
これにより、第1の視点に対応する撮像装置1の処理に係る負担を軽減することができ、処理の高速化や省電力化を図ることができる。
また、上記実施形態にあっては、被写体を見る視点の変更指示等をユーザによるタッチパネルの所定操作に基づいて行うようにしても良く、この場合には、各種のジェスチャーコマンドを利用することで、変更指示の入力や早送りや巻き戻し操作等をより簡便に行うことができるようになる。例えば、ユーザが画面を弾く動作で再生/逆転、指を付けたまま移動することで視点移動等を行うことができる。また、例えば、指が「動いていない」と判断するのに要する時間分画像が進んでしまうので、その判断にかかった時間分は動画像を巻き戻して再生表示するようにしても良い。また、例えば、タッチした位置が直線的に移動した場合には表示領域を移動させる指示の入力、円弧を描いた場合には視点を移動させる指示の入力と判断することで、表示領域や視点の移動をより正確に行うことができる。
また、複数の撮像装置1、…の配置処理は、例えば、所定の長さの物体(ゴルフクラブ、バット、ラケット等)をだらりとぶら下げた状態で手に持ち、その手を前に出した状態と横に上げた状態の二つのポーズを仮配置された複数の撮像装置1、…で略等しいタイミングで撮像する。そして、マスタとなる撮像装置1Aは、他の撮像装置1により撮像された画像を取得して、物体の長さが略等しくなるように各画像をトリミングした後、被写体と物体の距離から隣合う撮像装置1どうしが被写体を中心として略等しい角度に配置されているかどうかを特定する。この特定結果を利用して、複数の撮像装置1、…の配置の調整を行うようにしても良い。
また、表示制御システム100の構成は、上記実施形態に例示したものは一例であり、これに限られるものではない。例えば、所定の通信回線として、無線通信回線を例示して説明したが、複数の撮像装置1、…どうしを有線ケーブル等により接続して通信を行う有線通信回線であっても良い。
また、本発明は、動画像を表示する場合だけでなく、静止画像を表示させる場合にも適用可能である。
加えて、上記実施形態にあっては、第1取得手段、第1制御手段、第2制御手段、第1特定手段及び第3制御手段としての機能を、第1画像取得部104b、第1制御部108b2、位置関係特定部106b、第2制御部108b3及び視点移動制御部107cが駆動することにより実現される構成としたが、これに限られることものではなく、中央制御部101のCPUによって所定のプログラム等が実行されることにより実現される構成としても良い。
即ち、プログラムを記憶するプログラムメモリ(図示略)に、第1取得処理ルーチン、第1制御処理ルーチン、第2制御処理ルーチン、第1特定処理ルーチン及び第3制御手段処理ルーチンを含むプログラムを記憶しておく。そして、第1取得処理ルーチンにより中央制御部101のCPUを、少なくとも3つの撮像装置1、…により撮像された動画像の画像データを所定のタイミングでそれぞれ取得する手段として機能させるようにしても良い。また、第1制御処理ルーチンにより中央制御部101のCPUを、取得された動画像の画像データに基づいて、被写体を第1の視点で見た動画像を表示手段に表示させる手段として機能させるようにしても良い。また、第2制御処理ルーチンにより中央制御部101のCPUを、被写体を第1の視点とは異なる第2の視点で見るための視点の移動指示の入力に従って、被写体を前記第1の視点で見た動画像に代えて被写体を第2の視点で見た動画像を表示手段に表示させる手段として機能させるようにしても良い。また、第1特定処理ルーチンにより中央制御部101のCPUを、被写体の位置を基準とする少なくとも3つの撮像装置1、…の相対的な位置関係を特定する手段として機能させるようにしても良い。また、第3制御処理ルーチンにより中央制御部101のCPUを、特定された相対的な位置関係に基づいて、第2の視点に対応する動画像を表示させる際の第1の視点から第2の視点までの視点の移動速度が略一定の速度となるように制御する手段として機能させるようにしても良い。
同様に、第2取得手段、第1案内手段、第2特定手段、第2案内手段、第1送信制御手段、第3特定手段、第2送信制御手段、判定手段、倍率調整手段、範囲特定手段についても、中央制御部101のCPUによって所定のプログラム等が実行されることにより実現される構成としても良い。
さらに、上記の各処理を実行するためのプログラムを格納したコンピュータ読み取り可能な媒体として、ROMやハードディスク等の他、フラッシュメモリ等の不揮発性メモリ、CD−ROM等の可搬型記録媒体を適用することも可能である。また、プログラムのデータを所定の通信回線を介して提供する媒体としては、キャリアウェーブ(搬送波)も適用される。
本発明のいくつかの実施形態を説明したが、本発明の範囲は、上述の実施の形態に限定するものではなく、特許請求の範囲に記載された発明の範囲とその均等の範囲を含む。
以下に、この出願の願書に最初に添付した特許請求の範囲に記載した発明を付記する。付記に記載した請求項の項番は、この出願の願書に最初に添付した特許請求の範囲の通りである。
〔付記〕
<請求項1>
被写体の周囲に配置された少なくとも3つの撮像装置により略等しいタイミングで撮像された動画像の画像データを用いて、被写体を見る視点を移動させながら動画像を表示手段に表示させる表示制御装置であって、
前記少なくとも3つの撮像装置により撮像された動画像の画像データを所定のタイミングでそれぞれ取得する第1取得手段と、
前記第1取得手段により取得された動画像の画像データに基づいて、被写体を第1の視点で見た動画像を前記表示手段に表示させる第1制御手段と、
被写体を前記第1の視点とは異なる第2の視点で見るための視点の移動指示の入力に従って、被写体を前記第1の視点で見た動画像に代えて被写体を前記第2の視点で見た動画像を前記表示手段に表示させる第2制御手段と、
被写体の位置を基準とする前記少なくとも3つの撮像装置の相対的な位置関係を特定する第1特定手段と、
前記第1特定手段により特定された前記相対的な位置関係に基づいて、前記第2制御手段により前記第2の視点に対応する動画像を表示させる際の前記第1の視点から前記第2の視点までの視点の移動速度が略一定の速度となるように制御する第3制御手段と、
を備えたことを特徴とする表示制御装置。
<請求項2>
前記第1特定手段は、前記第1取得手段により各撮像装置から動画像の画像データを取得する際に、前記少なくとも3つの撮像装置のうちの何れの撮像装置から取得した画像データであるかを識別するための識別情報と、各撮像装置の配置されている位置または順番を示す情報とを関連付けることで、前記少なくとも3つの撮像装置の相対的な位置関係を特定することを特徴とする請求項1に記載の表示制御装置。
<請求項3>
前記少なくとも3つの撮像装置の配置状況を表す画像を取得する第2取得手段を更に備え、
前記第1特定手段は、前記第2取得手段により取得された画像に基づいて、前記相対的な位置関係を特定することを特徴とする請求項1又は2に記載の表示制御装置。
<請求項4>
前記第2取得手段は、更に、前記少なくとも3つの撮像装置のうち、当該撮像装置の並び方向の一端に配置された撮像装置から前記一端と反対側となる他端に配置された撮像装置までが撮像された複数の画像から生成されたパノラマ画像を取得し、
前記第1特定手段は、前記第2取得手段により取得されたパノラマ画像に基づいて、前記相対的な位置関係を特定することを特徴とする請求項3に記載の表示制御装置。
<請求項5>
前記第1特定手段により特定された前記相対的な位置関係に基づいて、前記少なくとも3つの撮像装置の配置を前記第1の視点から前記第2の視点までの視点の移動速度が一定の速度となるような所定の位置関係を有する配置とするための案内を行う第1案内手段を更に備えることを特徴とする請求項1〜4の何れか一項に記載の表示制御装置。
<請求項6>
前記第1案内手段は、更に、前記少なくとも3つの撮像装置のうち、隣合う撮像装置どうしが被写体の位置を基準として略等しい角度となるような配置の案内を行うことを特徴とする請求項5に記載の表示制御装置。
<請求項7>
前記第2取得手段は、更に、前記少なくとも3つの撮像装置のうち、何れか一の撮像装置により他の複数の撮像装置が撮像された画像を取得し、
前記第1特定手段は、更に、前記第2取得手段により取得された画像に基づいて、前記少なくとも3つの撮像装置の相対的な位置関係を特定し、
前記第1特定手段により特定された前記相対的な位置関係に基づいて、前記少なくとも3つの撮像装置の前記第1の視点から前記第2の視点までの視点の移動速度が一定の速度となるような所定の位置関係に対する各撮像装置の配置のズレ量を特定する第2特定手段と、
前記第2特定手段により特定された各撮像装置の配置のズレ量に基づいて、当該ズレを補正するための案内を行う第2案内手段と、を更に備えることを特徴とする請求項3又は4に記載の表示制御装置。
<請求項8>
前記第2特定手段により特定された各撮像装置の配置のズレ量を対応する撮像装置に所定の通信回線を介して送信する第1送信制御手段を更に備え、
前記各撮像装置は、前記第1送信制御手段から送信されたズレ量を受信して表示手段に表示することを特徴とする請求項7に記載の表示制御装置。
<請求項9>
前記第2案内手段は、更に、各撮像装置を識別する識別情報と対応付けられた、前記所定の位置関係における各撮像装置の配置を特定する配置情報に基づいて、各撮像装置の配置のズレを補正するための案内を行うことを特徴とする請求項7又は8に記載の表示制御装置。
<請求項10>
前記少なくとも3つの撮像装置の存する撮像位置、撮像方向及び画角の関係に係る撮像関連情報を特定する第3特定手段を更に備え、
前記第3制御手段は、更に、前記第3特定手段により特定された前記撮像関連情報に基づいて、前記第1の視点から前記第2の視点までの視点の移動速度が略一定の速度となるように制御することを特徴とする請求項1〜9の何れか一項に記載の表示制御装置。
<請求項11>
前記第3制御手段は、更に、前記第2の視点に対応する動画像を表示させる際に、表示される動画像の時間進行を一時停止させて、前記第1の視点から前記第2の視点まで視点を移動させることを特徴とする請求項10に記載の表示制御装置。
<請求項12>
前記第3制御手段は、更に、前記第2の視点に対応する動画像を表示させる際に、表示される動画像の時間進行を一時停止させることなく、前記第1の視点から前記第2の視点まで視点を移動させることを特徴とする請求項10に記載の表示制御装置。
<請求項13>
前記第3特定手段は、更に、前記撮像関連情報として、前記少なくとも3つの撮像装置の撮像タイミングの関係を含む情報を特定し、
前記第3制御手段は、前記第3特定手段により特定された前記撮像関連情報の前記少なくとも3つの撮像装置の撮像タイミングの関係に基づいて、表示される動画像の時間進行を一時停止させることなく視点を移動させる際の視点の移動速度が略一定の速度となるように制御することを特徴とする請求項10又は12に記載の表示制御装置。
<請求項14>
前記第3特定手段により特定された前記撮像関連情報の前記少なくとも3つの撮像装置の撮像タイミングの関係に基づいて、各撮像装置の撮像タイミングを一致させるための制御情報を対応する撮像装置に所定の通信回線を介して送信する第2送信制御手段を更に備え、
前記各撮像装置は、前記第2送信制御手段から送信された制御情報に基づいて、撮像タイミングを他の撮像装置と一致させるように制御することを特徴とする請求項13に記載の表示制御装置。
<請求項15>
前記第3制御手段は、更に、
前記第3特定手段により特定された前記撮像関連情報の前記少なくとも3つの撮像装置の撮像タイミングの関係に基づいて、被写体の撮像後に、前記第1取得手段により取得された動画像の画像データのうち、第1撮像装置により撮像された動画像の画像データ以外の動画像の画像データを構成し、撮像タイミングが所定の基準タイミングに対してズレているフレーム画像を特定し、当該フレーム画像の前後のフレーム画像を用いて所定の基準タイミングに対応する補間フレーム画像を生成させて、前記第2制御手段により前記表示手段に表示させることを特徴とする請求項13に記載の表示制御装置。
<請求項16>
入力された前記移動指示に係る前記第2の視点の位置が、前記少なくとも3つの撮像装置の各々の存する位置と異なるか否かを判定する判定手段を更に備え、
前記第3制御手段は、更に、
前記判定手段により前記第2の視点の位置が異なると判定された場合に、前記第1特定手段により特定された前記相対的な位置関係に基づいて、前記第1取得手段により取得された動画像の画像データのうち、前記第2の視点の周囲に存する撮像装置により撮像された動画像の画像データを用いて当該第2の視点に対応する補間フレーム画像を生成させて、前記第2制御手段により前記表示手段に表示させることを特徴とする請求項1〜15の何れか一項に記載の表示制御装置。
<請求項17>
請求項1〜16の何れか一項に記載の表示制御装置と前記少なくとも3つの撮像装置とを備える表示制御システムであって、
前記少なくとも3つの撮像装置は、
撮像される被写体の大きさを他の撮像装置と揃えるように撮像手段のズーム倍率を調整する倍率調整手段を備えることを特徴とする表示制御システム。
<請求項18>
前記少なくとも3つの撮像装置は、
前記撮像手段により撮像される画像の中で動く被写体の収まる範囲を特定する範囲特定手段を更に備え、
前記倍率調整手段は、更に、前記範囲特定手段により特定された動く被写体の収まる範囲が前記撮像手段の撮像領域からはみ出さないように前記撮像手段のズーム倍率を調整することを特徴とする請求項17に記載の表示制御システム。
<請求項19>
異なる位置に配置された少なくとも3つの撮像装置により逐次撮像される画像データを用いて、被写体を見る視点を移動させた複数の画像を連続的に表示手段に表示させる表示制御装置であって、
前記少なくとも3つの撮像装置により撮像された画像データを所定のタイミングでそれぞれ取得する第1取得手段と、
前記第1取得手段により取得された画像データに基づいて、被写体を第1の視点で見た画像を前記表示手段に表示させる第1制御手段と、
被写体を前記第1の視点とは異なる第2の視点で見るための視点の移動指示の入力に従って、被写体を前記第1の視点で見た画像に代えて被写体を前記第2の視点で見た画像を前記表示手段に表示させる第2制御手段と、
被写体の位置を基準とする前記少なくとも3つの撮像装置の相対的な位置関係を特定する第1特定手段と、
前記第1特定手段により特定された前記相対的な位置関係に基づいて、前記第2制御手段により前記第2の視点に対応する画像を連続的に表示させる際の前記第1の視点から前記第2の視点までの視点の移動速度が略一定の速度となるように制御する第3制御手段と、
を備えたことを特徴とする表示制御装置。
<請求項20>
被写体の周囲に配置された少なくとも3つの撮像装置により略等しいタイミングで撮像された動画像の画像データを用いて、被写体を見る視点を移動させながら動画像を表示手段に表示させる表示制御装置を用いた表示制御方法であって、
前記少なくとも3つの撮像装置により撮像された動画像の画像データを所定のタイミングでそれぞれ取得する処理と、
取得された動画像の画像データに基づいて、被写体を第1の視点で見た動画像を前記表示手段に表示させる処理と、
被写体を前記第1の視点とは異なる第2の視点で見るための視点の移動指示の入力に従って、被写体を前記第1の視点で見た動画像に代えて被写体を前記第2の視点で見た動画像を前記表示手段に表示させる処理と、
被写体の位置を基準とする前記少なくとも3つの撮像装置の相対的な位置関係を特定する処理と、
特定された前記相対的な位置関係に基づいて、前記第2の視点に対応する動画像を表示させる際の前記第1の視点から前記第2の視点までの視点の移動速度が略一定の速度となるように制御する処理と、
を含むことを特徴とする表示制御方法。
<請求項21>
被写体の周囲に配置された少なくとも3つの撮像装置により略等しいタイミングで撮像された動画像の画像データを用いて、被写体を見る視点を移動させながら動画像を表示手段に表示させる表示制御装置のコンピュータを、
前記少なくとも3つの撮像装置により撮像された動画像の画像データを所定のタイミングでそれぞれ取得する第1取得手段、
前記第1取得手段により取得された動画像の画像データに基づいて、被写体を第1の視点で見た動画像を前記表示手段に表示させる第1制御手段、
被写体を前記第1の視点とは異なる第2の視点で見るための視点の移動指示の入力に従って、被写体を前記第1の視点で見た動画像に代えて被写体を前記第2の視点で見た動画像を前記表示手段に表示させる第2制御手段、
被写体の位置を基準とする前記少なくとも3つの撮像装置の相対的な位置関係を特定する第1特定手段、
前記第1特定手段により特定された前記相対的な位置関係に基づいて、前記第2制御手段により前記第2の視点に対応する動画像を表示させる際の前記第1の視点から前記第2の視点までの視点の移動速度が略一定の速度となるように制御する第3制御手段、
として機能させることを特徴とするプログラム。
100 表示制御システム
1 撮像装置
101 中央制御部
102 メモリ
103 撮像部
103c 撮像制御部
103c1 範囲特定部
103c2 倍率調整部
104 画像データ処理部
104b 第1画像取得部
104e 撮像関連情報特定部
104f 第2画像取得部
104g 補間画像生成部
106 配置制御部
106a 画像取得部
106b 位置関係特定部
106c ズレ量特定部
107 視点制御部
107b 視点判定部
107c 視点移動制御部
108 表示部
108b 表示制御部
108b1 案内表示制御部
108b2 第1制御部
108b3 第2制御部
110 操作入力部
111 無線処理部
111a 第1送信制御部
111b 第2送信制御部

Claims (21)

  1. 被写体の周囲に配置された少なくとも3つの撮像装置により当該被写体を撮像した複数の動画データを取得する動画取得手段と、
    前記動画取得手段により取得された動画データに基づいて、前記被写体を見る視点を移動させながら動画像を表示手段に表示させる表示制御手段と、
    前記少なくとも3つの撮像装置の相対的な位置関係を特定する第1特定手段と、
    前記表示制御手段により動画像を表示させる際の視点の移動が所定の移動状態となるような前記少なくとも3つの撮像装置の所定の位置関係を特定する第2特定手段と、
    前記第1特定手段により特定された前記相対的な位置関係に基づいて、前記第2特定手段により特定された前記所定の位置関係に対する各撮像装置の配置のズレ量を特定する第3特定手段と、
    前記第3特定手段により特定された各撮像装置の配置のズレ量に基づいて、当該ズレを補正するための案内を行う案内手段と、
    を備えることを特徴とする表示制御装置。
  2. 前記第1特定手段は、前記少なくとも3つの撮像装置のうち、何れか一の撮像装置により他の複数の撮像装置が撮像された画像を取得し、この取得された画像に基づいて、前記少なくとも3つの撮像装置の相対的な位置関係を特定し、
    前記第2特定手段は、前記表示制御手段により動画像を表示させる際の視点の移動速度が一定の速度となるような所定の位置関係を特定する
    ことを特徴とする請求項1に記載の表示制御装置。
  3. 前記第3特定手段により特定された各撮像装置の配置のズレ量を対応する撮像装置に所定の通信回線を介して送信す送信制御手段を更に備え、
    前記各撮像装置は、前記送信制御手段から送信されたズレ量を受信して表示手段に表示することを特徴とする請求項1または2に記載の表示制御装置。
  4. 前記案内手段は、各撮像装置を識別する識別情報と対応付けられた、前記所定の位置関係における各撮像装置の配置を特定する配置情報に基づいて、各撮像装置の配置のズレを補正するための案内を行うことを特徴とする請求項1〜3のいずれか一項に記載の表示制御装置。
  5. 被写体の周囲に配置された少なくとも3つの撮像装置により当該被写体を撮像した複数の動画データを取得する動画取得手段と、
    前記動画取得手段により取得された動画データに基づいて、前記被写体を見る視点を移動させながら動画像を表示手段に表示させる表示制御手段と、
    前記少なくとも3つの撮像装置の撮像位置、撮像方向の関係を特定する第1特定手段と、
    前記少なくとも3つの撮像装置の撮像タイミングの関係を特定する第2特定手段と、
    を備え、
    前記表示制御手段は、前記第1特定手段により特定された前記少なくとも3つの撮像装置の撮像位置、撮像方向の関係、及び前記第2特定手段により特定された前記少なくとも3つの撮像装置の撮像タイミングの関係に基づいて、表示される動画像の時間進行を一時停止させることなく視点を所定状態で移動させるように制御する
    ことを特徴とする表示制御装置。
  6. 前記表示制御手段は、第1の視点から第2の視点までの視点の移動速度が略一定の速度となるように制御することを特徴とする請求項5に記載の表示制御装置。
  7. 前記表示制御手段は、表示される動画像の時間進行を一時停止させた状態で視点を移動させる表示方法と、表示される動画像の時間進行を一時停止させることなく視点を移動させる表示方法とを選択可能であることを特徴とする請求項6に記載の表示制御装置。
  8. 前記第2特定手段により特定された前記少なくとも3つの撮像装置の撮像タイミングの関係に基づいて、各撮像装置の撮像タイミングを一致させるための制御情報を対応する撮像装置に所定の通信回線を介して送信す送信制御手段を更に備え、
    前記各撮像装置は、前記送信制御手段から送信された制御情報に基づいて、撮像タイミングを他の撮像装置と一致させるように制御することを特徴とする請求項5〜7のいずれか一項に記載の表示制御装置。
  9. 前記表示制御手段は、前記第2特定手段により特定された前記少なくとも3つの撮像装置の撮像タイミングの関係に基づいて、前記動画取得手段により取得された動画データを構成するフレーム画像のうち、撮像タイミングが所定の基準タイミングに対してズレているフレーム画像を特定し、当該フレーム画像の前後のフレーム画像を用いて所定の基準タイミングに対応する補間フレーム画像を生成させて、前記表示手段に表示させることを特徴とする請求項5〜8のいずれか一項に記載の表示制御装置。
  10. 被写体の周囲に配置された少なくとも3つの撮像装置により当該被写体を撮像した複数の動画データを取得する動画取得手段と、
    前記動画取得手段により取得された動画データに基づいて、前記被写体を見る視点を移動させながら動画像を表示手段に表示させる表示制御手段と、
    前記少なくとも3つの撮像装置のうち、当該撮像装置の並び方向の一端に配置された撮像装置から前記一端と反対側となる他端に配置された撮像装置までが撮像された複数の画像から生成されたパノラマ画像を取得するパノラマ画像取得手段と、
    前記パノラマ画像取得手段により取得されたパノラマ画像に基づいて、前記被写体の位置を基準とする前記少なくとも3つの撮像装置の相対的な位置関係を特定する第1特定手段と、
    を備え、
    前記表示制御手段は、前記第1特定手段により特定された前記相対的な位置関係に基づいて、動画像を表示させる際の視点の移動を制御する
    ことを特徴とする表示制御装置。
  11. 前記第1特定手段により特定され位置関係に基づいて、前記少なくとも3つの撮像装置の配置を、前記表示制御手段により動画像を表示させる際の視点の移動が一定の速度となるような所定の位置関係を有する配置とするための案内を行案内手段を更に備えることを特徴とする請求項10に記載の表示制御装置。
  12. 前記案内手段は、前記少なくとも3つの撮像装置のうち、隣合う撮像装置どうしが被写体の位置を基準として略等しい角度となるような配置の案内を行うことを特徴とする請求項11に記載の表示制御装置。
  13. 前記表示制御手段は、動画像を表示させる際の第1の視点から第2の視点までの視点の移動速度が略一定の速度となるように制御する
    ことを特徴とする請求項1〜12のいずれか一項に記載の表示制御装置。
  14. 前記動画取得手段は、被写体の周囲に配置された少なくとも3つの撮像装置により当該被写体を略等しいタイミングで撮像した複数の動画データを所定のタイミングでそれぞれ取得し、
    前記表示制御手段は、被写体を見る視点の移動指示の入力に従って、前記被写体を見る視点を移動させながら動画像を表示手段に表示させる
    ことを特徴とする請求項1〜13の何れか一項に記載の表示制御装置。
  15. 前記動画取得手段は、各撮像装置から動画データを取得する際に、前記少なくとも3つの撮像装置のうちの何れの撮像装置から取得した動画データであるかを識別するための識別情報を取得し、
    前記第1特定手段は、前記識別情報により識別される前記少なくとも3つの撮像装置の位置関係を特定する
    ことを特徴とする請求項1〜14の何れか一項に記載の表示制御装置。
  16. 請求項1〜15の何れか一項に記載の表示制御装置と前記少なくとも3つの撮像装置とを備える表示制御システムであって、
    前記少なくとも3つの撮像装置は、
    撮像される被写体の大きさを他の撮像装置と揃えるように撮像手段のズーム倍率を調整する倍率調整手段を備えることを特徴とする表示制御システム。
  17. 前記少なくとも3つの撮像装置は、
    前記撮像手段により撮像される画像の中で動く被写体の収まる範囲を特定する範囲特定手段を更に備え、
    前記倍率調整手段は、更に、前記範囲特定手段により特定された動く被写体の収まる範囲が前記撮像手段の撮像領域からはみ出さないように前記撮像手段のズーム倍率を調整することを特徴とする請求項16に記載の表示制御システム。
  18. 表示制御装置を用いた表示制御方法であって、
    被写体の周囲に配置された少なくとも3つの撮像装置により当該被写体を撮像した複数の動画データを取得し、
    前記取得された動画データに基づいて、前記被写体を見る視点を移動させながら動画像を表示手段に表示させ、
    前記少なくとも3つの撮像装置の相対的な位置関係を特定し、
    前記動画像を表示させる際の視点の移動が所定の移動状態となるような前記少なくとも3つの撮像装置の所定の位置関係を特定し、
    前記特定された相対的な位置関係に基づいて、前記所定の位置関係に対する各撮像装置の配置のズレ量を特定し、
    前記特定された各撮像装置の配置のズレ量に基づいて、当該ズレを補正するための案内を行い、
    前記案内に応じて配置が変更された後に取得された動画データに基づいて、前記被写体を見る視点を所定の移動状態で移動させながら動画像を表示手段に表示させる
    ことを特徴とする表示制御方法。
  19. 表示制御装置を用いた表示制御方法であって、
    被写体の周囲に配置された少なくとも3つの撮像装置により当該被写体を撮像した複数の動画データを取得し、
    前記取得された動画データに基づいて、前記被写体を見る視点を移動させながら動画像を表示手段に表示させ、
    前記少なくとも3つの撮像装置の撮像位置、撮像方向の関係を特定し、
    前記少なくとも3つの撮像装置の撮像タイミングの関係を特定し、
    前記特定された前記少なくとも3つの撮像装置の撮像位置、撮像方向の関係、及び前記特定された前記少なくとも3つの撮像装置の撮像タイミングの関係に基づいて、表示される動画像の時間進行を一時停止させることなく視点を所定状態で移動させるように制御する
    ことを特徴とする表示制御方法。
  20. 表示制御装置を用いた表示制御方法であって、
    被写体の周囲に配置された少なくとも3つの撮像装置により当該被写体を撮像した複数の動画データを取得し、
    前記取得された動画データに基づいて、前記被写体を見る視点を移動させながら動画像を表示手段に表示させ、
    前記少なくとも3つの撮像装置のうち、当該撮像装置の並び方向の一端に配置された撮像装置から前記一端と反対側となる他端に配置された撮像装置までが撮像された複数の画像から生成されたパノラマ画像を取得し、
    前記取得されたパノラマ画像に基づいて、前記被写体の位置を基準とする前記少なくとも3つの撮像装置の相対的な位置関係を特定し、
    前記特定された相対的な位置関係に基づいて、動画像を表示させる際の視点の移動を制御する
    ことを特徴とする表示制御方法。
  21. 表示制御装置のコンピュータを、
    被写体の周囲に配置された少なくとも3つの撮像装置により当該被写体を撮像した複数の動画データを取得する動画取得手段、
    前記動画取得手段により取得された動画データに基づいて、前記被写体を見る視点を移動させながら動画像を表示手段に表示させる表示制御手段、
    前記少なくとも3つの撮像装置の撮像位置、撮像方向の関係を特定する第1特定手段、
    前記少なくとも3つの撮像装置の撮像タイミングの関係を特定する第2特定手段、
    として機能させ、
    前記表示制御手段は、前記第1特定手段により特定された前記少なくとも3つの撮像装置の撮像位置、撮像方向の関係、及び前記第2特定手段により特定された前記少なくとも3つの撮像装置の撮像タイミングの関係に基づいて、表示される動画像の時間進行を一時停止させることなく視点を所定状態で移動させるように制御する
    ことを特徴とするプログラム。
JP2012280929A 2012-12-25 2012-12-25 表示制御装置、表示制御システム、表示制御方法及びプログラム Active JP5892060B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012280929A JP5892060B2 (ja) 2012-12-25 2012-12-25 表示制御装置、表示制御システム、表示制御方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012280929A JP5892060B2 (ja) 2012-12-25 2012-12-25 表示制御装置、表示制御システム、表示制御方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2014127735A JP2014127735A (ja) 2014-07-07
JP5892060B2 true JP5892060B2 (ja) 2016-03-23

Family

ID=51406954

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012280929A Active JP5892060B2 (ja) 2012-12-25 2012-12-25 表示制御装置、表示制御システム、表示制御方法及びプログラム

Country Status (1)

Country Link
JP (1) JP5892060B2 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108028910A (zh) 2015-09-25 2018-05-11 索尼公司 信息处理设备、信息处理方法与程序
KR101741699B1 (ko) 2016-01-27 2017-05-31 서강대학교산학협력단 끊김 현상을 감소시킨 파노라마 비디오 생성 방법
FR3052949B1 (fr) * 2016-06-17 2019-11-08 Alexandre Courtes Procede et systeme de prise de vues a l'aide d'un capteur virtuel
JP6419278B1 (ja) 2017-09-19 2018-11-07 キヤノン株式会社 制御装置、制御方法、及びプログラム
JP6933110B2 (ja) * 2017-11-29 2021-09-08 富士通株式会社 カメラの外部パラメータの推定方法、推定装置および推定プログラム
WO2020039473A1 (ja) * 2018-08-20 2020-02-27 富士フイルムイメージングシステムズ株式会社 画像管理システム、画像管理方法、プログラム、及び画像管理装置

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09187037A (ja) * 1995-12-27 1997-07-15 Canon Inc 画像処理装置
JP5036260B2 (ja) * 2006-09-14 2012-09-26 キヤノン株式会社 位置姿勢算出方法及び装置
JP4988499B2 (ja) * 2007-10-10 2012-08-01 株式会社日本自動車部品総合研究所 画像生成装置及び画像生成プログラム
JP5231119B2 (ja) * 2008-07-31 2013-07-10 オリンパス株式会社 表示装置
JP5520146B2 (ja) * 2010-06-30 2014-06-11 キヤノン株式会社 映像受信装置、及びその制御方法

Also Published As

Publication number Publication date
JP2014127735A (ja) 2014-07-07

Similar Documents

Publication Publication Date Title
JP5874626B2 (ja) 表示制御装置、表示制御システム、表示制御方法及びプログラム
JP5892060B2 (ja) 表示制御装置、表示制御システム、表示制御方法及びプログラム
EP2590396B1 (en) Information processing system and information processing method
KR101062502B1 (ko) 패닝화상을 촬상하기 위한 패닝모드를 구비한 촬상장치
US9264651B2 (en) Moving image reproducing apparatus capable of adjusting display position of indicator for motion analysis based on displacement information of frames, and moving image reproducing method and recording medium for same
US8638372B2 (en) Image capture unit with changeable image capture direction
JP5163676B2 (ja) 撮像装置、撮像方法及びプログラム
US9367746B2 (en) Image processing apparatus for specifying an image relating to a predetermined moment from among a plurality of images
US10397467B2 (en) Imaging apparatus, image processing device, imaging method, and computer-readable recording medium
JPWO2011132364A1 (ja) 立体画像撮影装置および立体画像撮影方法
JP2014183897A (ja) 画像判定装置、画像判定システム、画像特定システム、送信端末、受信端末、画像判定方法、画像特定方法及びプログラム
JP5896102B2 (ja) 撮像装置、撮像制御方法、及びプログラム
JP2011101165A (ja) 連動撮影システム
JP5942844B2 (ja) 表示制御装置、表示制御システム、表示制御方法及びプログラム
JP6693071B2 (ja) 撮像装置、撮像制御方法及びプログラム
JP5267279B2 (ja) 画像合成装置及びプログラム
JP5402166B2 (ja) 画像合成装置及びプログラム
US9621873B2 (en) Apparatus including function to generate stereoscopic image, and method and storage medium for the same
KR20140074808A (ko) 촬상 장치
JP5509986B2 (ja) 画像処理装置、画像処理システム、及び画像処理プログラム
JP5892211B2 (ja) 撮像装置、及びプログラム
JP5703771B2 (ja) 撮像補助装置、撮像補助方法及びプログラム
JP6674630B2 (ja) 画像処理装置、画像処理方法、及びプログラム
US20170111592A1 (en) Composite image creating apparatus
JP6322964B2 (ja) 撮像装置、撮像制御方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140929

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150622

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150707

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150903

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160126

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160208

R150 Certificate of patent or registration of utility model

Ref document number: 5892060

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150