JP6354244B2 - 画像再生端末、画像再生方法、プログラム、及び、多視点画像再生システム - Google Patents

画像再生端末、画像再生方法、プログラム、及び、多視点画像再生システム Download PDF

Info

Publication number
JP6354244B2
JP6354244B2 JP2014062607A JP2014062607A JP6354244B2 JP 6354244 B2 JP6354244 B2 JP 6354244B2 JP 2014062607 A JP2014062607 A JP 2014062607A JP 2014062607 A JP2014062607 A JP 2014062607A JP 6354244 B2 JP6354244 B2 JP 6354244B2
Authority
JP
Japan
Prior art keywords
image
terminal
time
playback
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014062607A
Other languages
English (en)
Other versions
JP2015186148A (ja
Inventor
武藤 英樹
英樹 武藤
一樹 河原
一樹 河原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Dai Nippon Printing Co Ltd
Original Assignee
Dai Nippon Printing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Dai Nippon Printing Co Ltd filed Critical Dai Nippon Printing Co Ltd
Priority to JP2014062607A priority Critical patent/JP6354244B2/ja
Publication of JP2015186148A publication Critical patent/JP2015186148A/ja
Application granted granted Critical
Publication of JP6354244B2 publication Critical patent/JP6354244B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Television Signal Processing For Recording (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本発明は、複数のカメラを並べ様々な方向から被写体を撮影する多視点映像技術に関する。
近年、複数のカメラを並べ撮影対象を様々な方向から撮影した映像を鑑賞できる多視点映像技術が注目されている。多視点映像技術は、映画、CM、スポーツ映像で効果的に使用され、新しい映像表現をユーザに提供している。
特許第4439373号
しかしながら、ユーザは、製作者側が提供する多視点映像コンテンツを受動的に視聴するのがいまだ現状であり、ユーザが多視点映像コンテンツを主体的に楽しむまでには至っていない。
一方、スマートフォンなどの普及により、ユーザは気軽に映像コンテンツを編集でき、また、編集した映像コンテンツを他ユーザと共有するなどして、新たな映像コンテンツの楽しみ方が生まれつつある。
本発明は、かかる課題を解決するためになされたものであり、その目的は、ユーザが多視点映像コンテンツを直感的な操作により容易に編集できる手段を提供することで多視点映像コンテンツの楽しみ方をよりユーザの身近なものとすることにある。
前述した目的を達成するための第1の発明は、撮影対象の周囲を取り囲むように設置される複数の画像撮影装置ごとに撮影された複数の時系列画像を再生する画像再生端末であって、1つの前記時系列画像を再生する再生手段と、当該画像再生端末の姿勢情報を取得するセンサと、取得した前記姿勢情報に基づいて、前記再生手段の再生速度を制御する再生速度制御手段と、取得した前記姿勢情報に基づいて、前記再生手段の再生する前記時系列画像を他の前記時系列画像に切り替える視点切替制御手段と、前記再生速度制御手段、及び、前記視点切替制御手段による制御の時系列の情報であるカメラワーク情報を記憶する記憶手段と、を備えることを特徴とする画像再生端末である。
第1の発明によって、端末を傾けるという直感的な操作により多視点コンテンツを容易に再生できる画像再生端末を提供することができる。また、カメラワーク情報を用いて、端末の操作を再現することができる。
前記再生速度制御手段は、前記姿勢情報が、基準姿勢における基準軸に対して所定方向に傾いている場合には、順方向に再生し、前記所定方向とは逆向きに傾いている場合には、逆方向に再生することが望ましい。
これにより、端末を一方向に傾けると順方向に再生し、逆方向に傾けると逆方向に再生することができる。
前記再生速度制御手段は、前記姿勢情報が、基準姿勢における基準軸に対して傾いている角度の大きさに応じて、再生速度を変更することが望ましい。
これにより、端末の傾ける角度の大きさに応じて再生速度を変更することができる。
前記視点切替制御手段は、前記姿勢情報が、基準姿勢における基準軸に対して所定方向に傾いている場合には、前記再生手段の再生する前記時系列画像に係る前記画像撮影装置の一方に隣接する前記画像撮影装置の撮影した前記時系列画像に切り替え、前記所定方向とは逆向きに傾いている場合には、前記画像撮影装置の他方に隣接する前記画像撮影装置の撮影した前記時系列画像に切り替えることが望ましい。
これにより、端末を一方向に傾けると例えば右隣の画像撮影装置で撮影された時系列画像を再生し、多方向に傾けると左隣の画像撮影装置で撮影された時系列画像を再生することができる。
第2の発明は、撮影対象の周囲を取り囲むように設置される複数の画像撮影装置ごとに撮影された複数の時系列画像を再生する画像再生端末で実行される画像再生方法であって、1つの前記時系列画像を再生する再生ステップと、当該画像再生端末の姿勢情報を取得するステップと、取得した前記姿勢情報に基づいて、前記時系列画像の再生速度を制御する再生速度制御ステップと、取得した前記姿勢情報に基づいて、再生する前記時系列画像を他の前記時系列画像に切り替える視点切替制御ステップと、前記再生速度制御ステップ、及び、前記視点切替制御ステップによる制御の時系列の情報であるカメラワーク情報を記憶する記憶ステップと、を含むことを特徴とする画像再生方法である。
第2の発明によって、端末を傾けるという直感的な操作により多視点コンテンツを容易に再生できる画像再生方法を提供することができる。また、カメラワーク情報を用いて、端末の操作を再現することができる。
第3の発明は、コンピュータを、撮影対象の周囲を取り囲むように設置される複数の画像撮影装置ごとに撮影された複数の時系列画像を再生する画像再生端末として機能させるためのプログラムであって、前記コンピュータを、1つの前記時系列画像を再生する再生手段、当該画像再生端末の姿勢情報を取得するセンサ手段、取得した前記姿勢情報に基づいて、前記再生手段の再生速度を制御する再生速度制御手段、取得した前記姿勢情報に基づいて、前記再生手段の再生する前記時系列画像を他の前記時系列画像に切り替える視点切替制御手段、前記再生速度制御手段、及び、前記視点切替制御手段による制御の時系列の情報であるカメラワーク情報を記憶する記憶手段、として機能させるためのプログラムである。
第3の発明に係るプログラムを画像再生端末にインストールすることにより、第1の発明に係る画像再生端末を得て、第2の発明に係る画像再生方法を実行することができる。
第4の発明は、画像データ管理サーバと、画像再生端末とが、ネットワークを介して接続される多視点画像再生システムであって、前記画像データ管理サーバは、撮影対象の周囲を取り囲むように設置される複数の画像撮影装置ごとに撮影された複数の時系列画像を記憶する記憶手段と、前記複数の時系列画像を送信する送信手段と、を備え、前記画像再生端末は、前記複数の時系列画像を受信する受信手段と、1つの前記時系列画像を再生する再生手段と、当該画像再生端末の姿勢情報を取得するセンサと、取得した前記姿勢情報に基づいて、前記再生手段の再生速度を制御する再生速度制御手段と、取得した前記姿勢情報に基づいて、前記再生手段の再生する前記時系列画像を他の前記時系列画像に切り替える視点切替制御手段と、前記再生速度制御手段、及び、前記視点切替制御手段による制御の時系列の情報であるカメラワーク情報を記憶する記憶手段と、を備えることを特徴とする多視点画像再生システムである。
第4の発明によって、画像データ管理サーバにより管理されている多視点コンテンツを画像再生端末が読み出して、端末を傾けるという直感的な操作により多視点コンテンツを容易に再生できる多視点画像再生システムを提供することができる。また、カメラワーク情報を用いて、端末の操作を再現することができる。
ユーザが多視点映像コンテンツを直感的な操作により容易に編集できる手段を提供することで多視点映像コンテンツの楽しみ方がよりユーザの身近なものとなる。
本発明の実施の形態に係る多視点画像再生システムの構成を示す概念図である。 多視点撮影装置の構成を示す図である。 制御端末100、多視点画像データ管理サーバ200、情報処理端末400のハードウェア構成の例を示す図である。 画像再生端末300のハードウェア構成の例を示す図である。 画像再生端末300の入力表示部305の例を示す図である。 (a)画像再生端末300の座標系を示す側面図である。(b)画像再生端末300の座標系を示す上面図である。 画像再生端末300の傾きθを示す図である。 傾きθによる再生速度制御の例を示す図である。 画像再生端末300の傾きφを示す図である。 傾きφによる視点切替制御の例を示す図である。 傾き基準変更手段の例を示す図である。 本発明の実施の形態に係る多視点画像再生システムの動作を示すフローチャート図である。 本発明の実施の形態に係る多視点画像再生システムの動作を示すフローチャート図である。 本発明の実施の形態に係る多視点画像再生システムの動作を示すフローチャート図である。
以下、図面に基づいて、本発明の好適な実施形態を詳細に説明する。
[本発明の実施の形態]
図1は、本実施形態に係る多視点画像システムの概念図である。多視点画像システムは、主に多視点撮影装置100、多視点画像データ管理サーバ200、画像再生端末300、情報処理端末400から構成され、ネットワーク500を介して相互にデータ通信のやり取りが可能な環境を構築している。
<多視点撮影装置 100>
多視点撮影装置100は、図2に示すように、多視点カメラ100a、制御端末100bから構成される。
多視点カメラ100aは、多数のカメラを撮影対象の周りに配置することにより構成されており、撮影対象を様々な角度から同時に撮影する。本実施形態の場合、図2に示すように撮影対象(図2の中心位置)を囲んで24台のカメラを円周上に等角度(15°間隔)に配置している。
多視点カメラ100aの各カメラは、例えばCCD(Charge
Couple Device)等の撮像素子及びレンズを備え、その映像を電子情報(映像データ)として取得する所謂デジタルビデオカメラであり、動画(時間の経過に従い変化する動きのある映像)を撮影し得るものであるが、必要に応じて静止画(スチル写真)を撮影できるように構成したものであってもよい。各カメラにより撮影された映像情報は、図示しないビデオ端子等のインターフェースを介して、制御端末100bに送信する。
なお、多視点カメラ100aは、様々な方向から撮影対象を撮影できるよう配置されていれば十分であり、本実施形態とは異なり、例えば、撮影対象を囲うように楕円状若しくは四角形状に配置してもよいし、撮影対象に対して直線状に並べて配置してもよい。
制御端末100bは、図3に示すように制御部101、記憶部102、メディア入出力部103、通信制御部104、入力部105、表示部106、周辺機器I/F部107、バス部108などから構成される。
制御部101は、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)等で構成される。
CPUは、記憶部102、ROM、記憶媒体等に格納されるプログラムをRAM上のワークメモリ領域に呼び出して実行し、バス108を介して制御端末100bの全ての処理を実行する。
ROMは、不揮発性メモリであり、制御端末100bのブートプログラムやBIOS等のプログラム、データ等を恒久的に保持している。
RAMは、揮発性メモリであり、記憶部102、ROM、記憶媒体等からロードしたプログラム、データ等を一時的に保持するとともに、制御部101が各種処理を行う為に使用するワークエリアを備える。
記憶部102は、通常はHDD(ハードディスクドライブ)から構成され、制御部101が実行するプログラム、プログラムの実行に必要なデータ等が格納される。プログラムに関しては、OS(オペレーティングシステム)に相当する制御プログラムや、本実施形態に必要な各種プログラムが格納されている。これらの各プログラムは、制御部101により必要に応じて読み出されてRAMに移され、CPUに読み出されて各種の手段として実行される。
メディア入出力部103は、データの入出力を行い、例えば、CDドライブ(−ROM、−R、−RW等)、DVDドライブ(−ROM、−R、−RW等)のメディア入出力装置を有する。
通信制御部104は、通信制御装置、通信ポート等を有し、ネットワーク500を介して外部機器等と接続し、データ通信を行う。例えば、TCP/IPを用いた通信が可能である。
入力部105は、データの入力を行い、例えば、キーボード、マウス等のポインティングデバイス、テンキ―等の入力装置を有する。入力部105を介して、コンピュータに対して、操作指示、動作指示、データ入力等を行うことができる。
表示部106は、CRTモニタ、液晶パネル等のディスプレイ装置を有する。
周辺機器I/F(インターフェース)部107は、コンピュータに周辺機器を接続させるためのポートであり、周辺機器I/F部107を介してコンピュータは周辺機器とのデータ通信を行う。周辺機器I/F部107は、USBやIEEE1394やRS−232C等で構成されており、通常複数の周辺機器I/Fを有する。周辺機器との接続形態は有線、無線を問わない。
バス108は、各装置間の制御信号、データ信号等の授受を媒介する経路である。
制御端末100bの制御部101は、多視点カメラ100aの撮影を行う(多視点映像撮影手段)。具体的には、制御端末100bの制御部101は、入力部105から撮影者などの入力操作を受け付けることによって、多視点カメラ101aの全カメラの撮影を同期して実行する。また、制御端末100bの制御部101は、入力部105から撮影者などの入力操作を受け付けることによって、または、予め設定された撮影時間の経過後に、撮影を停止する。
制御端末100bの制御部101は、図示しないビデオ端子等のインターフェースを介して、多視点カメラ100aで撮影し取得した各カメラの映像情報を、例えばAVI(Audio-Video Interleaved)形式、MPEG(Moving Picture Experts Group)形式などの映像ファイルとして、記憶部102に記憶する(多視点映像記憶手段)。
制御端末100bの制御部101は、記憶部102に記憶した各カメラの映像ファイルから多視点画像データを生成する(多視点画像データ生成手段)。多視点画像データとは、制御端末100bの制御部101が、各カメラで撮影された映像ファイル(動画)を、所定のサンプリング間隔で時系列の静止画像(例えばJPEG(Joint Photographic Experts Group)形式)に変換し、当該変換した時系列の静止画像を所定のフォーマットのデータファイルとして生成したものである。所定のサンプリング間隔は、多視点画像データの容量や、要求される映像の動きの滑らかさ、多視点画像データを再生する画像再生端末300のCPU性能などを考慮して、任意に設定できる。
制御端末100bの制御部101は、生成した多視点画像データを、記憶部102に記憶する(多視点画像データ記憶手段)。なお、記憶される多視点画像データに含まれる静止画像の総数は、例えば、時系列の数が100であれば、24(カメラ数)×100(時系列数)=2400枚となる。また、多視点カメラ100aが静止画(スチル写真)を撮影する場合には、時系列の数は1であるため、24(カメラ数)×1(時系列数)=24枚となる。
制御端末100bの制御部101は、多視点画像データのヘッダ情報として、「多視点画像データID」、「カメラ数」、「カメラID」、「カメラ切替順序」、「カメラ初期視点」、「カメラ位置情報」、「時系列数」、「サンプリング間隔」などの情報を併せて生成し、多視点画像データとともに記憶102に記憶する。
以降、多視点画像データと言った場合には、上記ヘッダ情報も含んだ所定のフォーマットのデータを指し、多視点画像と言った場合には、多視点画像データ中に存在する画像(カメラ数×時系列数の静止画像)そのものを指す。
「カメラ数」とは、多視点カメラ101aのカメラの総数であり、本実施形態では、「カメラ数」には「24」が制御部101によって設定される。
「カメラID」とは、多視点カメラ100аの各カメラを特定するIDを示すものであり、本実施形態では、「カメラID」には「C1、C2、C3、・・・、C24」という配列が制御部101によって設定される。
「カメラ切替順序」とは、上記「カメラID」の配列に基づき各カメラの切替をどのような順番で行うかを設定するものである。本実施形態の場合、各カメラの切替は、カメラを時計回りに「C1→C2→・・・C23→C24」のように順番に切り替えるため、「カメラ切替順序」には「C1、C2、・・・・、C23、C24、R」という配列が制御部101によって設定される。ここで「カメラ切替順序」の最後の「R」は、C24の次にはC1にカメラを切り替えることを意味しており、つまり、この場合、「C1→C2→・・・→C24」→「C1→C2・・・→C24」→「C1→C2→・・・→C24」のようにカメラ切替を繰り返す。
なお、後述するようにカメラを逆方向に切り替える場合(「C1→C24→C23→・・・」)もあるが、この場合、「カメラ切替順序」に保持される配列を逆順にすればよいだけなので、本実施形態では、カメラを逆方向に切り替える切替順序は、ヘッダ情報にはあえて保持していない。
「カメラ初期視点」とは、上記「カメラ切替順序」のどのカメラのカメラ画像から切替をスタートさせるかを示すものであり、カメラ切替の始点を決定するものである。例えば、「カメラ初期視点」が「C4」であれば、実際のカメラ切替順序は、カメラC4を始点として、「C4→C5→C6→・・・→C24→C1→C2→C3・・・」となる。本実施形態では、「カメラ初期視点」には「C1」が制御部101によって設定される。
「カメラ位置情報」は、各カメラの位置を示す情報であり、各カメラの位置情報を保持しておけば、画像再生端末300で多視点画像を再生する際、カメラの位置関係に基づいたより高度な視点切替制御を行うこともできる。
制御端末100bの制御部101は、多視点画像データ生成手段により生成した、又は、多視点画像データ記憶手段により記憶した、多視点画像データを、ネットワーク500を介して、多視点画像データ管理サーバ200へ送信する(多視点画像データ送信手段)。
<多視点画像データ管理サーバ 200>
多視点画像データ管理サーバ200は、図3に示すように、制御部101、記憶部102、メディア入出力部103、通信制御部104、入力部105、表示部106、周辺機器I/F部107、バス部108などにより構成される。
また、多視点画像データ管理サーバ200は、多視点画像データを管理するデータベース(多視点画像データ管理DB)、ユーザ情報を管理するデータベース(ユーザ情報管理DB)、カメラワーク情報を管理するデータベース(カメラワーク情報管理DB)、多視点カメラワーク動画を管理するデータベース(多視点カメラワーク動画DB)を備える。
多視点画像データ管理サーバ200の制御部101は、多視点撮影装置100の制御端末100bからネットワーク500を介して送信される多視点画像データを受信する(多視点画像データ受信手段)。
多視点画像データ管理サーバ200の制御部101は、受信した多視点画像データを、記憶部102に記憶し管理する(多視点画像データ記憶管理手段)。多視点画像データの管理は、制御部101が、多視点画像データ管理DBに登録される「多視点画像データID」と記憶部102に記憶される多視点画像データを紐づけることで実現する。
多視点画像データ管理サーバ200の制御部101は、画像再生端末300からの受信要求に応じて、画像再生端末300のユーザ認証を行い(ユーザ認証手段)、ユーザ認証後、ネットワーク500を介して画像再生端末300に多視点画像データを送信する(多視点画像データ送信手段)。
上記ユーザ認証手段において、多視点画像データ管理サーバ200の制御部101は、ユーザ情報管理DBに登録されている画像再生端末300のユーザの「ユーザID」、「パスワード」に基づく一致認証を行う。以降に記載のユーザ認証も同様の手段で行われるため説明は省略する。
多視点画像データ管理サーバ200の制御部101は、画像再生端末300からの送信要求に応じて、画像再生端末300のユーザ認証を行い、ユーザ認証後、ネットワーク500を介して画像再生端末300から送信されるカメラワーク情報を受信し(カメラワーク情報受信手段)、記憶部102に記憶し管理する(カメラワーク情報記憶管理手段)。カメラワーク情報の管理は、制御部101が、カメラワーク情報管理DBに登録される「ユーザID」、「多視点画像データID」、「カメラワーク名」と記憶部102に記憶されるカメラワーク情報を紐づけることで実現する。
多視点画像データ管理サーバ200の制御部101は、多視点画像データ記憶管理手段により記憶部102に記憶した多視点画像データと、カメラワーク記憶管理手段により記憶部102に記憶したカメラワーク情報と、に基づいて多視点カメラワーク動画を生成する(多視点カメラワーク動画生成手段)。ここで多視点カメラワーク動画とは、画像再生端末300のユーザの画像再生端末300の傾け操作によって画像再生端末300の入力表示部305に表示される時系列のカメラ画像(静止画のコマ送り画像)を、一つの動画データとして生成したものに相当する。多視点カメラワーク動画は、少なくとも情報処理端末400へストリーミング配信できるフォーマットのデータである。
本実施形態においては、多視点カメラワーク動画は、情報処理端末400からの配信要求があったときに、多視点画像データ管理サーバ200の制御部101によって、生成される。
多視点画像データ管理サーバ200の制御部101は、上記生成された多視点カメラワーク動画を記憶部102に記憶し管理する(多視点カメラワーク動画記憶手段)。多視点カメラワーク動画の管理は、制御部101が、多視点カメラワーク動画DBに登録される「ユーザID」、「多視点カメラワーク動画ID」、「多視点カメラワーク動画再生コード(URLなど)」と記憶部102に記憶される多視点カメラワーク動画を紐づけることで実現する。
多視点画像データ管理サーバ200の制御部101は、多視点カメラワーク動画記憶手段により記憶した、又は、多視点カメラワーク動画生成手段により生成した多視点カメラワーク動画を、情報処理端末400の配信要求に応じて、情報処理端末400のユーザ認証を行い、ユーザ認証後、ネットワーク500を介して情報処理端末400に配信する(多視点カメラワーク動画配信手段)。
なお、上記ユーザ認証は、ユーザ情報管理DBに登録されている情報処理端末400の「ユーザID」と「パスワード」の一致認証に加え、ユーザ情報管理DBに登録されている情報処理端末400の「ユーザグループID」と画像再生端末300のユーザの「ユーザグループID」との一致認証も行う。これにより、多視点画像データ管理サーバ200の制御部101は、画像再生端末300のユーザと同じユーザグループIDを持つ情報処理端末に対してのみ、コンテンツ配信を行うようにする。
配信の方法は、例えば、多視点画像データ管理サーバ200の制御部101が、多視点カメラワーク編集動画DBの「多視点カメラワーク動画再生コード(URLなど)」を、ネットワーク500を介して、情報処理端末400に送信し、情報処理端末400が当該多視点カメラワーク動画再生コード(URLなど)にアクセスすることで、多視点カメラワーク動画を視聴できるようにする。
また、多視点画像データ管理サーバ200の制御部101は、画像再生端末300からの受信要求に応じて、画像再生端末300のユーザ認証を行い、ユーザ認証後、データベース(多視点画像データ管理DB、ユーザ情報管理DB、カメラワーク情報管理DB)を参照し、多視点画像データ記憶手段により記憶部102に記憶した多視点画像データと、当該多視点画像データに紐づくカメラワーク情報記憶管理手段により記憶部102に記憶したカメラワーク情報とを取得し、当該取得した多視点画像データとカメラワーク情報とをネットワーク500を介して画像再生端末300に送信する(多視点画像再生データ送信手段)。
これにより、画像再生端末300のユーザが多視点画像を自身のカメラワークで再度確認することができる。
また、多視点画像再生データ送信手段において、多視点画像データ管理サーバ200の制御部101は、ネットワーク500を介して、画像再生端末300のユーザ以外の他ユーザの画像再生端末に上記多視点画像データと上記カメラワーク情報を送信するようにしてもよい。
これにより、他ユーザが、画像再生端末300のユーザと同一のカメラワークで多視点画像を再生することができ、ユーザ間でコンテンツの共有をすることができる。
<画像再生端末 300>
画像再生端末300は、多視点画像を表示再生する画像再生端末であり、例えば、スマートフォン、タブレット端末(携帯情報端末)などを用いることができる。図4に示すように、画像再生端末300は、制御部301、記憶部302、メディア入出力部303、通信制御部304、入力表示部305、周辺機器I/F部306、センサ部307、バス部308などから構成される。
記憶部302、メディア入出力部303、通信制御部304、周辺機器I/F部306部は、バス308は、図3と同様の構成なので説明を省略する。
制御部301は、図3の構成に加えて、再生速度制御部、及び、視点切替制御部を備える。
入力表示部305は液晶などのタッチパネルで構成されており、画面上では多視点画像が表示再生される。
また、入力表示部305には、図5に示すように再生ボタン305−1、停止ボタン305−2、一時停止ボタン305−3、早送りボタン305−4、巻戻しボタン305−5、録画ボタン305−6、カメラ順切替ボタン305−7−1、カメラ逆切替ボタン305−7−2、再生モード切替ボタン305−8、傾き基準変更ボタン305−9、などのアイコンが表示される。
センサ部307は、直交する3軸加速度センサから構成されており、画像再生端末300の傾き(姿勢)を検出する。具体的には、センサ部307は、X、Y、Z軸の重力加速度の時系列データを検出し、当該重力加速度から、画像再生端末300のX軸を中心軸としたY軸の傾き(回転角度)、Y軸を中心軸としたX軸の傾き(回転角度)の時系列データを算出する。以降、画像再生端末300のX軸を中心軸としたY軸の傾き(回転角度)をθと表し、同じく画像再生端末300のY軸を中心軸としたX軸の傾き(回転角度)をφと表す。画像再生端末300の座標系は、図6(a)(b)に示すように、画像再生端末300の中心を原点として、直交するX、Y、Z軸により形成される。
なお、本実施形態では、センサ部307が画像再生端末300の傾きθ、φを算出するように構成しているが、センサ部307ではX、Y、Z軸の重力加速度のみを検出し、傾きθ、φの算出は、制御部301が実行するように構成してもよい。
また、センサ部307は、画像再生端末の傾き(姿勢)を検出できるセンサであればよく、例えば、ジャイロセンサ若しくは加速度センサとジャイロセンサの組み合わせで構成してもよい。
画像再生端末300の制御部301は、多視点画像データ管理サーバ200に多視点画像データの受信要求をし、多視点画像データ管理サーバ200におけるユーザ認証後、多視点画像データ管理サーバ200から多視点画像データを受信し(多視点画像データ受信手段)、当該受信した多視点画像データを記憶部302に記憶する(多視点画像データ記憶手段)。
画像再生端末300の制御部301は、記憶部302に記憶した多視点画像データを読み込むと、多視点画像の所定のカメラ画像を入力表示部305に表示する。ここで、所定のカメラ画像とは、上述した多視点画像データのヘッダ情報に設定されている「カメラ初期視点」のカメラ画像である。つまり、本実施形態においてはカメラC1のカメラ画像が入力表示部305に最初に表示される(図5参照)。
また、多視点画像の各カメラ画像は、時系列の静止画像で構成されているが、読込み時に表示されるのは、時系列中、一番はじめの静止画像である。
画像再生端末300の制御部301は、入力表示部306に表示される多視点画像の再生を行う(多視点画像再生手段)。
(タッチパネルを用いた再生動作)
まず、本実施形態の加速度センサを用いた多視点画像の再生動作を説明する前に、入力表示部305のタッチパネルを用いた多視点画像の再生動作を簡単に説明する。
ユーザが入力表示部305の再生ボタン305−1をタッチ操作すると、画像再生端末300の制御部301は、入力表示部305に表示されているカメラC1のカメラ画像を正の時間方向にコマ送りし(再生動作)、ユーザが入力表示部305の停止ボタン305−2又は一時停止ボタン305−3をタッチ操作すると、画像再生端末300の制御部301は、コマ送りを停止する(停止動作)。
また、ユーザが入力表示部305の早送りボタン305−4をタッチ操作すると、画像再生端末300の制御部301は、入力部305に表示されているカメラC1のカメラ画像を正の時間方向に通常再生時のコマ送り速度より早くコマ送りし(早送り動作)、ユーザが入力表示部305の巻戻しボタン305−5をタッチ操作すると、画像再生端末300の制御部301は、入力部305に表示されているカメラC1のカメラ画像を負の時間方向に通常再生時のコマ送り速度より早くコマ送りする(巻戻し動作)。
なお、上記例において、最初にユーザが入力表示部305の再生ボタン305−1の代わりに録画ボタン305−6をタッチ操作すれば、画像再生端末300の制御部301は、録音ボタン305−6をタッチ操作してから停止ボタン305−2をタッチ操作するまでに入力表示部305に表示されるカメラ画像の時系列データを、記憶部302に記憶する。
また、ユーザが入力表示部305のカメラ順切替ボタン305−7−1をタッチ操作すると、画像再生端末300の制御部301は、現在、入力表示部305に表示し再生されているカメラ画像がカメラC1のカメラ画像であれば、カメラC1のカメラ画像をカメラC2のカメラ画像に時計周りに切り替える(順切替動作)。一方、ユーザが入力表示部305のカメラ逆切替ボタン305−7−2をタッチ操作すると、画像再生端末300の制御部301は、現在、入力表示部305に表示し再生されているカメラ画像がカメラC1のカメラ画像であれば、カメラC1のカメラ画像をカメラC24のカメラ画像に反時計周りに切り替える(逆切替動作)。なお、カメラの切替順序は多視点画像データのヘッダ情報である「カメラ切替順序」に保持されており、これに基づきカメラの切替が行われる。
(センサ利用モード時の再生動作)
次に、本実施形態におけるセンサ部307の加速度センサを用いた多視点画像の再生動作ついて説明する。
まず、ユーザが入力表示部305の再生モード切替ボタン305−8をタッチ操作すると、画像再生端末300の制御部301は、多視点画像の再生モードを「センサ利用モード」に切り替える。これにより、ユーザは、画像再生端末300の傾け操作により、多視点画像の再生を行うことができるようになる。
そして、ユーザが入力表示部305の再生ボタン305−2又は録画ボタン305−6をタッチ操作すると、画像再生端末300の再生速度制御部(制御部301)が、センサ部307からユーザの画像再生端末300の傾け操作に応じた傾きθの値を時々刻々取得し、当該取得される傾きθに基づいて、入力表示部305に表示されるカメラ画像の再生速度の制御を行う。
また、同時に画像再生端末300の視点切替制御部(制御部301)が、センサ部307からユーザの画像再生端末300の傾け操作に応じた傾きφの値を時々刻々取得し、当該取得されるφに基づいて、入力表示部305に表示されるカメラ画像の視点切替制御を行う。
画像再生端末300の再生速度制御部(制御部301)は、具体的には、ユーザが画像再生端末300を初期姿勢(θ=0°、図7(a)参照)からX軸を中心軸としてY軸を時計周りに回転させた場合(センサ部307から取得される傾きθが正(+)の場合、図7(b)参照)には、画像再生端末300の再生速度制御部(制御部301)は、時系列のカメラ画像を正の時間方向にコマ送りし、入力表示部305に表示し再生する(順再生動作)。
一方、ユーザが画像再生端末300を初期姿勢(θ=0°、図7(a)参照)からX軸を中心軸としてY軸を反時計回りに回転させた場合(センサ部307から取得される傾きθが負(−)の場合、図7(c)参照)には、画像再生端末300の再生速度制御部(制御部301)は、時系列のカメラ画像を負の時間方向にコマ送りし、入力表示部305に表示し再生する(逆再生動作)。
また、画像再生端末300の傾きθが0°の場合(図7(a)参照)、画像再生端末300の再生速度制御部(制御部301)は、時系列のカメラ画像のコマ送りを停止する(停止動作)。なお、θが0°の場合というのは、0°に近いという程度の意味であり、物理的厳密な意味を有するものではない点に注意されたい。
さらに、画像再生端末300の再生速度制御部(制御部301)は、センサ部307から取得される傾きθの大きさ|θ|に応じて、時系列のカメラ画像のコマ送り速度を制御する。
図8は、傾きθの関係による再生速度制御の様子を示す図である。図8における傾きθの関係は、θ(負)<θ(=0°)<θ(正)<θ(正)である。再生開始時(T)にセンサ部307から取得される傾きがθの場合、画像再生端末300の再生速度制御部(制御部301)は、まず、正の時間方向に所定の再生速度でカメラ画像のコマ送りを開始する(順再生動作)。所定時間経過後(T)の傾きがθの場合、θ<θの関係より、画像再生端末300の再生速度制御部(制御部301)は、傾きがθのときに比べカメラ画像のコマ送り速度を早くし再生する。そして次の所定時間経過後(T)の傾きがθ(=0°)の場合、画像再生端末300の再生速度制御部(制御部301)は、コマ送りを停止する(停止動作)。さらに次の所定時間経過後(T)の傾きがθの場合、θ(負)<0°の関係より、再生速度制御部(制御部301)は、負の時間方向に所定の再生速度でカメラ画像のコマ送りをする(逆再生動作)。
画像再生端末300の視点切替制御部(制御部301)は、センサ部307から取得される傾きφに応じて、入力表示部305に表示されているカメラ画像を当該カメラ以外のカメラ画像に切り替える。
具体的には、ユーザが画像再生端末300を初期姿勢(φ=0°、図9(a)参照)からY軸を中心軸としてX軸を時計周りに回転させた場合(センサ部307から取得される傾きφが正(+)の場合、図9(b)参照)、画像再生端末300の視点切替制御部(制御部301)は、現在、入力表示部305に表示し再生されている画像がカメラC1のカメラ画像であれば、多視点画像データのヘッダ情報である「カメラ切替順序」に基づき、「カメラC1のカメラ画像→カメラC2のカメラ画像→カメラC3のカメラ画像→カメラC4のカメラ画像・・・」のように時計周りに所定速度でカメラ画像を切り替え、入力表示部305に表示させていく(視点順切替動作)。
一方、画像再生端末300を初期姿勢(φ=0°、図9(a)参照)からY軸を中心軸としてX軸を反時計周りに回転した場合(センサ部307から取得される傾きφが負(−)の場合、図9(c)参照)、画像再生端末300の視点切替制御部(制御部301)は、現在、入力表示部305に表示し再生されているカメラ画像がカメラC1のカメラ画像であれば、多視点画像データのヘッダ情報である「カメラ切替順序」を逆順にさせて、「カメラC1のカメラ画像→カメラC24のカメラ画像、カメラC23のカメラ画像、カメラC22のカメラ画像・・・」のように反時計周りに所定速度でカメラ画像を切り替え、入力表示部305に表示させていく(視点逆切替動作)。
また、センサ部307から取得される傾きφが0°(図9(a)参照)の場合には、画像再生端末300の視点切替制御部(制御部301)は、カメラ画像の切替えを停止する(視点固定動作)。なお、φが0°の場合というのは、0°に近いという程度の意味であり、物理的厳密な意味を有するものではない点に注意されたい。
さらに、画像再生端末300の視点切替制御部(制御部301)は、センサ部307から取得される傾きφの大きさ|φ|に応じて、カメラ画像の切替え速度も制御する。具体的には、|φ|が小さい場合には、画像再生端末300の視点切替制御部(制御部301)は、カメラ画像の切替え速度を遅く制御し、|φ|が大きい場合には、カメラ画像の切替速度を速くするよう制御する。
図10は、傾きφの関係による視点切換制御の様子を示した図である。図10は|φ|<|φ|の場合のカメラ切替速度の関係を示すものであり、傾きがφの場合は、画像再生端末300の視点切替制御部部(制御部301)は、入力表示部305に表示されるカメラ画像をs秒、s(=s×2)秒、s(=s×3)秒、s(=s×4)秒の時間毎に「カメラC1のカメラ画像→カメラC2のカメラ画像→カメラC3のカメラ画像→カメラC4のカメラ画像」のように視点を切替える。一方、φの場合は、画像再生端末300の視点切替制御部(制御部301)は、入力表示部305に表示されるカメラ画像をt秒、t(=t×2)秒、t(=t×3)秒、t(=t×4)秒の時間毎に「カメラC1のカメラ画像→カメラC2のカメラ画像→カメラC3のカメラ画像→カメラC4のカメラ画像」のように視点を切替える。図10から分かるように、画像再生端末300の視点切替制御部(制御部301)は、傾きがφの場合(傾きが小さい場合)には、カメラ画像をゆっくり切替え、傾きがφの場合(傾きが大きい場合)には、カメラ画像を早く切り替える。
以上のように、画像再生端末300の制御部301(再生速度制御部、視点切替制御部)は、センサ部307から取得される画像再生端末300の傾きθ、φの時系列データから、入力表示部305に表示される多視点画像の再生速度制御及び視点切替制御を行う。なお、再生速度制御と視点切替制御は同期処理で実装されていても、非同期処理で実装されていてもかまわない。
また、多視点画像データの「時系列数」が1の場合は、多視点画像の再生は、視点切替制御のみによって実行される。
表1に画像再生端末300の傾きθ、φと多視点画像の表示状態の関係をまとめておく。
Figure 0006354244
なお、表1で言う0°も、0°に近いという程度の意味であり、物理的厳密な意味を有するものではない点に注意されたい。
画像再生端末300の制御部301は、上述したセンサ利用モード時における多視点画像の再生中において取得される「画像再生端末300の傾きθ、φの時系列データ」(カメラワーク)とそれに関連する情報(「多視点画像データID」、「カメラワーク名」など)を含むカメラワーク情報を所定のフォーマットで記憶部302に記憶する(カメラワーク情報記憶手段)。カメラワーク名は、画像再生端末300のユーザが任意に設定できるものである。
なお、画像再生端末300の制御部301は、記憶したカメラワークを記憶部302に記憶されている多視点画像データとともに読み込み、多視点画像を当該カメラワークに基づいて入力表示部305に表示再生できる。これにより、一度再生したカメラワークに基づく再生を再度再現することができる。
画像再生端末300の制御部301は、多視点画像データ管理サーバ200にカメラワーク情報の送信要求をし、多視点画像データ管理サーバ200におけるユーザ認証後、当該カメラワーク情報を多視点画像データ管理サーバ200に送信する(カメラワーク情報送信手段)。
本実施形態においては、画像再生端末300の制御部301が、カメラワーク情報のみを送信することで(表示再生した多視点画像そのものを送信するのではなく)、多視点画像データ管理サーバ200の記憶容量を低減させている。
その他、画像再生端末300の機能を以下に説明しておく。
画像再生端末300の制御部301は、画像再生端末300の傾きの基準(画像再生端末300の傾きθ、φが0°となる画像再生端末300の姿勢)を変更する機能を有する(傾き基準変更手段)。
具体的には、画像再生端末300の制御部301は、まず、ユーザによる入力表示部305の傾き基準変更ボタン306−9のタッチ操作を受け付けると、センサ部307から傾きθ、φの時系列データの取得を開始する。次にユーザが画像再生端末300を傾きの基準としたい位置まで画像再生端末300を傾け、再度、入力表示部305の傾き基準変更ボタン305−9をタッチ操作すると、画像再生端末300の制御部301は、当該タッチ操作をした時点の画像再生端末300の傾きθ、φを基準の傾き(θ、φ=0°)として変更する。
簡単のため、傾きφのみに着目して傾き基準変更手段を図11に基づき説明する。当初、傾きの基準軸は、図11(a)のY軸である。ここで、ユーザが入力表示部305の傾き基準変更ボタン305−9のタッチ操作を行い、ユーザが画像再生端末300を図11(b)の状態(φ=20°)まで傾け、この状態で、ユーザが入力表示部305の傾き基準変更ボタン305−9を再度タッチ操作すると、画像再生端末300の制御部301は、傾きの基準軸を図11(c)のY軸に変更する。これにより、例えば、ユーザが画像再生端末300を見やすい向きに傾けたときの傾きを基準とし、再生速度制御などを行うことができるようになる。
なお、センサ利用モード時においても、画像再生端末300の制御部301は、リアルタイムに傾きの基準を変更することができる。センサ利用モード時において多視点画像を再生している最中に、ユーザが入力表示部305の傾き基準変更ボタン305−9をタッチ操作すると、画像再生端末300の制御部301は、当該タッチ操作をした時点の画像再生端末300の傾きθ、φを基準の傾きとして変更する。
また、画像再生端末300の制御部301は、カメラ視点切替順序を任意に変更することもできる(カメラ切替順序変更手段)。上述したように、「カメラ切替順序」は多視点画像データのヘッダ情報に設定されているが、当該設定は、多視点映像の製作者側で設定されたものであり、必ずしも、ユーザの好みの視点切替順序になっているとは限らない。
具体的には、入力表示部305は、図示しない「カメラ切替順序変更ボタン」を有しており、ユーザのタッチ操作を受け付けると、画像再生端末300の制御部301は、入力表示部305に図示しない「カメラ切替順序編集画面」を表示し、ユーザは当該表示された画面で、カメラ切替順序を任意に編集することができる。カメラ切替順序を編集後、ユーザが図示しない「OKボタン」をタッチ操作すると、画像再生端末300の制御部301は、多視点画像データのヘッダ情報に設定されている「カメラ切替順序」をユーザが編集したカメラ切替順序で更新する。これにより、多視点画像のカメラ切替は、当該更新した「カメラ切替順序」に基づいて、画像再生端末300の視点切替制御部(制御部301)によって行われるため、ユーザの好みのカメラ切替えが実現できる。
また、画像再生端末300の制御部301は、センサ利用モード時において、ユーザの入力表示部305のタッチ操作によって、多視点画像の一時停止及び視点固定を行う(表示固定手段)。具体的には、入力表示部305に「センサ利用モード時」にのみ表示される図示しない「表示固定ボタン」が表示されており、ユーザが当該ボタンをタッチ操作すると、画像再生端末300の制御部301は、センサ部307からの傾きθ、φの取得を停止し、ユーザが当該ボタンを押し(触れ)続けている間はセンサ部307からの傾きθ、φの取得を一切行わない。つまり、ユーザが当該ボタンを押し(触れ)続けている間は、再生速度制御及び視点切替制御を行わないようになり、ユーザはタッチ操作をしたときのカメラ画像を常に入力表示部205に表示させておくことができる。
これは、例えば、画像再生端末300の傾け操作により多視点画像を再生しているとき、ユーザが興味ある画像が表示されたとき、その画像を一時停止したいという要求があるが、センサ利用モード時においては、一時停止する場合には、傾きθ、φを共に0°の位置に戻す必要があり、この戻し動作が間に合わないことがある。そうすると、興味ある画像を見逃したり、意図せず視点が切り替わったりする。これを回避するため、ユーザのタッチ操作という単純操作により、再生速度制御及び視点切替制御を一時停止し、ユーザが興味ある画像を見逃さずにする。
なお、上記「表示固定ボタン」は、通常ユーザが画像再生端末300を片手で操作する場合に親指で直ぐにタッチ操作できる位置である入力表示部305の左上部又は右上部に表示されるのが好ましい。
そして、ユーザが入力表示部307の図示しない「表示固定ボタン」を離すと、画像再生端末300の制御部301は、センサ部307からの傾きθ、φの取得を再開し、再生速度制御及び視点切替制御を行うようになる。
なお、本実施形態では、センサ部307から取得される画像再生端末300の傾きθ、φの時系列データから、画像再生端末300の制御部301が、入力表示部305に表示される多視点画像の再生速度制御及び視点切替制御を行ったが、センサ部307が検出する重力加速度そのものを使って、再生速度制御及び視点切替制御を行ってもよい。この場合、例えば、画像再生端末300の制御部301は、Y軸方向の重力加速度の時系列データにより再生速度制御を行い、X軸方向の重力加速度の時系列データにより視点切替制御を行う、などが考えられる。
<情報処理端末 400>
情報処理端末400は、画像再生端末として機能し、いわゆるパーソナルコンピュータの他、スマートフォンなどの画像再生端末も含む。図3に示すように制御部101、記憶部102、メディア入出力部103、通信制御部104、入力部105、表示部106、周辺機器I/F部107、バス部108などから構成される。
情報処理端末400の制御部101は、ネットワーク500を介して、多視点画像データ管理サーバ200に多視点カメラワーク動画の配信要求をし、多視点画像データ管理サーバ200におけるユーザ認証後、多視点画像データ管理サーバ200からネットワーク500を介してストリーミング配信される多視点カメラワーク動画を受信し、情報処理端末400の表示部106に表示し再生する。
<多視点画像再生システムの動作ステップ>
図12から図14のフローチャートを参照して、多視点画像再生システムの動作ステップを説明する。
図12のステップ1において、制御端末100bの制御部101は、多視点カメラ100aの撮影を行う(多視点映像撮影ステップ)。具体的には、ステップ1において、制御端末100bの制御部101は、入力部105から撮影者などの入力操作を受け付けることによって、多視点カメラ101aの各カメラの撮影を同期して実行する。また、制御部101は、入力部105から撮影者などの入力操作を受け付けることによって、または、予め設定された撮影時間の経過後に、撮影を停止する。
ステップ2において、制御端末100bの制御部101は、図示しないビデオ端子等のインターフェースを介して、多視点カメラ100aで撮影し受信した各カメラの映像情報を、例えばAVI形式、MPEG形式などの映像ファイルとして、記憶部102に記憶する(多視点映像記憶ステップ)。
ステップ3において、制御端末100bの制御部101は、ステップ2において記憶部102に記憶した各カメラの映像ファイルから多視点画像データを生成する(多視点画像データ生成ステップ)。また、ステップ3において、制御端末100bの制御部101は、生成した多視点画像データを記憶部102に記憶する(多視点画像データ記憶ステップ)。
ステップ4において、制御端末100bの制御部101は、ステップ3で生成又は記憶した多視点画像データを、ネットワーク500を介して、多視点画像データ管理サーバ200へ送信する(多視点画像データ送信ステップ)。
ステップ5において、多視点画像データ管理サーバ200の制御部101は、多視点撮影装置100の制御端末100bからネットワーク500を介して送信される多視点画像データを受信する(多視点画像データ受信ステップ)。
ステップ6において、多視点画像データ管理サーバ200の制御部101は、受信した多視点画像データを、記憶部102に記憶し管理する(多視点画像データ記憶管理ステップ)。
続いて、図13のステップ11において、画像再生端末300の制御部301は、多視点画像データ管理サーバ200に多視点画像データの受信要求をする。
ステップ12において、多視点画像データ管理サーバ200の制御部101は、画像再生端末300からの受信要求に応じて、画像再生端末300のユーザ認証を行う。
ステップ13において、ステップ12のユーザ認証後、ネットワーク500を介して画像再生端末300に多視点画像データを送信する(多視点画像データ送信ステップ)。
ステップ14において、画像再生端末300の制御部301は、多視点画像データ管理サーバ200から多視点画像データを受信する(多視点画像データ受信ステップ)。
ステップ15において、画像再生端末300の制御部301は、ステップ14において受信した多視点画像データを記憶部302に記憶する(多視点画像データ記憶ステップ)。
ステップ16において、画像再生端末300の制御部301は、記憶部302に記憶した多視点画像データを読み込み、多視点画像の所定のカメラ画像を入力表示部305に表示する。
また、ステップ16において、画像再生端末300の制御部301は、ユーザの再生モード切替ボタン305−8のタッチ操作を受け付けることによって、多視点画像の再生モードを「センサ利用モード」に切り替える。
そして、ステップ16において、ユーザが再生ボタン305−2又は録画ボタン305−6をタッチ操作すると、画像再生端末300の制御部301(再生速度制御部、視点切替制御部)は、センサ部307から画像再生端末300の傾きθ、φの時系列データを取得しながら、入力表示部305に表示される多視点画像の再生速度制御及び視点切替制御を行う。
最後に、ステップ16において、ユーザの停止ボタン305−2のタッチ操作を受け付けるか、若しくは、多視点画像の再生が全て終了すると、画像再生端末300の制御301(再生速度制御部、視点切替制御部)は制御を終了する。
ステップ17において、画像再生端末300の制御部301は、ステップ16の多視点画像の再生中に取得される画像再生端末300の傾きθ、φの時系列データ(「カメラワーク」)とそれに関連する情報(「多視点画像データID」、「カメラワーク名」など)を含むカメラワーク情報を所定のフォーマットで記憶部302に記憶する(カメラワーク情報記憶ステップ)。
ステップ18において、画像再生端末300の制御部301は、ネットワーク500を介して、多視点画像データ管理サーバ200にカメラワーク情報の送信要求をする。
ステップ19において、多視点画像データ管理サーバ200の制御部101は、画像再生端末300のユーザ認証を行う。
ステップ20において、ステップ19のユーザ認証後、画像再生端末300の制御部301は、ネットワーク500を介して、多視点画像データ管理サーバ200にカメラワーク情報を送信する(カメラワーク情報送信ステップ)。
ステップ21において、多視点画像データ管理サーバ200の制御部101は、ネットワーク500を介して画像再生端末300から送信されるカメラワーク情報を受信する(カメラワーク情報受信ステップ)。
ステップ22において、多視点画像データ管理サーバ200の制御部101は、受信したカメラワーク情報を記憶部102に記憶し管理する(カメラワーク情報記憶ステップ)。
続いて、図14のステップ31において、情報処理端末400の制御部101は、ネットワーク500を介して、多視点画像データ管理サーバ200に多視点カメラワーク動画の配信要求をする。
ステップ32において、多視点画像データ管理サーバ200は、情報処理端末400のユーザ認証を行う。
ステップ33において、ステップ32のユーザ認証後、多視点画像データ管理サーバ200の制御部101は、記憶部102に記憶した多視点画像データとカメラワーク情報とに基づいて多視点カメラワーク動画を生成する(多視点カメラワーク動画生成ステップ)。
ステップ34において、多視点画像データ管理サーバ200の制御部101は、生成した多視点カメラワーク動画を、ネットワーク500を介して情報処理端末400にストリーミング配信する(多視点カメラワーク動画配信ステップ)。
ステップ35において、情報処理端末400の制御部101は、多視点画像データ管理サーバ200からネットワーク500を介してストリーミング配信される多視点カメラワーク動画を受信し、表示部106に表示し再生する。
本実施形態によれば、スマートフォンなどの画像再生端末を用いて、当該画像再生端末の傾け操作という直感的な操作により多視点画像を容易に再生編集することができ、多視点映像コンテンツの楽しみ方をよりユーザの身近なものとすることができる。
また、本実施形態によれば、ユーザが再生した多視点画像を、他ユーザの情報処理端末に配信し、他ユーザとコンテンツ共有をすることができるため、多視点映像コンテンツの楽しみ方をさらにユーザの身近なものとすることができる。
以上、添付図面を参照しながら、本発明に係る多視点画像再生システム等の好適な実施形態について説明したが、本発明はかかる例に限定されない。当業者であれば、本願で開示した技術的思想の範疇内において、各種の変更例又は修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。
1 ・・・・・・多視点画像再生システム
100・・・・・多視点撮影装置
200・・・・・多視点画像データ管理サーバ
300・・・・・画像再生端末
400・・・・・情報処理端末
500・・・・・ネットワーク

Claims (7)

  1. 撮影対象の周囲を取り囲むように設置される複数の画像撮影装置ごとに撮影された複数の時系列画像を再生する画像再生端末であって、
    1つの前記時系列画像を再生する再生手段と、
    当該画像再生端末の姿勢情報を取得するセンサと、
    取得した前記姿勢情報に基づいて、前記再生手段の再生速度を制御する再生速度制御手段と、
    取得した前記姿勢情報に基づいて、前記再生手段の再生する前記時系列画像を他の前記時系列画像に切り替える視点切替制御手段と、
    前記再生速度制御手段、及び、前記視点切替制御手段による制御の時系列の情報であるカメラワーク情報を記憶する記憶手段と、
    を備えることを特徴とする画像再生端末。
  2. 前記再生速度制御手段は、前記姿勢情報が、基準姿勢における基準軸に対して所定方向に傾いている場合には、順方向に再生し、前記所定方向とは逆向きに傾いている場合には、逆方向に再生する
    ことを特徴とする請求項1に記載の画像再生端末。
  3. 前記再生速度制御手段は、前記姿勢情報が、基準姿勢における基準軸に対して傾いている角度の大きさに応じて、再生速度を変更する
    ことを特徴とする請求項1又は請求項2に記載の画像再生端末。
  4. 前記視点切替制御手段は、前記姿勢情報が、基準姿勢における基準軸に対して所定方向に傾いている場合には、前記再生手段の再生する前記時系列画像に係る前記画像撮影装置の一方に隣接する前記画像撮影装置の撮影した前記時系列画像に切り替え、前記所定方向とは逆向きに傾いている場合には、前記画像撮影装置の他方に隣接する前記画像撮影装置の撮影した前記時系列画像に切り替える
    ことを特徴とする請求項1乃至請求項3のいずれかに記載の画像再生端末。
  5. 撮影対象の周囲を取り囲むように設置される複数の画像撮影装置ごとに撮影された複数の時系列画像を再生する画像再生端末で実行される画像再生方法であって、
    1つの前記時系列画像を再生する再生ステップと、
    当該画像再生端末の姿勢情報を取得するステップと、
    取得した前記姿勢情報に基づいて、前記時系列画像の再生速度を制御する再生速度制御ステップと、
    取得した前記姿勢情報に基づいて、再生する前記時系列画像を他の前記時系列画像に切り替える視点切替制御ステップと、
    前記再生速度制御ステップ、及び、前記視点切替制御ステップによる制御の時系列の情報であるカメラワーク情報を記憶する記憶ステップと、
    を含むことを特徴とする画像再生方法。
  6. コンピュータを、撮影対象の周囲を取り囲むように設置される複数の画像撮影装置ごとに撮影された複数の時系列画像を再生する画像再生端末として機能させるためのプログラムであって、
    前記コンピュータを、
    1つの前記時系列画像を再生する再生手段、
    当該画像再生端末の姿勢情報を取得するセンサ手段、
    取得した前記姿勢情報に基づいて、前記再生手段の再生速度を制御する再生速度制御手段、
    取得した前記姿勢情報に基づいて、前記再生手段の再生する前記時系列画像を他の前記時系列画像に切り替える視点切替制御手段、
    前記再生速度制御手段、及び、前記視点切替制御手段による制御の時系列の情報であるカメラワーク情報を記憶する記憶手段、
    として機能させるためのプログラム。
  7. 画像データ管理サーバと、画像再生端末とが、ネットワークを介して接続される多視点画像再生システムであって、
    前記画像データ管理サーバは、
    撮影対象の周囲を取り囲むように設置される複数の画像撮影装置ごとに撮影された複数の時系列画像を記憶する記憶手段と、
    前記複数の時系列画像を送信する送信手段と、
    を備え、
    前記画像再生端末は、
    前記複数の時系列画像を受信する受信手段と、
    1つの前記時系列画像を再生する再生手段と、
    当該画像再生端末の姿勢情報を取得するセンサと、
    取得した前記姿勢情報に基づいて、前記再生手段の再生速度を制御する再生速度制御手段と、
    取得した前記姿勢情報に基づいて、前記再生手段の再生する前記時系列画像を他の前記時系列画像に切り替える視点切替制御手段と、
    前記再生速度制御手段、及び、前記視点切替制御手段による制御の時系列の情報であるカメラワーク情報を記憶する記憶手段と、
    を備える
    ことを特徴とする多視点画像再生システム。
JP2014062607A 2014-03-25 2014-03-25 画像再生端末、画像再生方法、プログラム、及び、多視点画像再生システム Active JP6354244B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014062607A JP6354244B2 (ja) 2014-03-25 2014-03-25 画像再生端末、画像再生方法、プログラム、及び、多視点画像再生システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014062607A JP6354244B2 (ja) 2014-03-25 2014-03-25 画像再生端末、画像再生方法、プログラム、及び、多視点画像再生システム

Publications (2)

Publication Number Publication Date
JP2015186148A JP2015186148A (ja) 2015-10-22
JP6354244B2 true JP6354244B2 (ja) 2018-07-11

Family

ID=54352221

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014062607A Active JP6354244B2 (ja) 2014-03-25 2014-03-25 画像再生端末、画像再生方法、プログラム、及び、多視点画像再生システム

Country Status (1)

Country Link
JP (1) JP6354244B2 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017147711A (ja) * 2016-02-18 2017-08-24 株式会社CodeNext 複数多視点画像による自動3次元立体視撮影装置及び撮影方法、並びに立体視再現方法
US20170316806A1 (en) * 2016-05-02 2017-11-02 Facebook, Inc. Systems and methods for presenting content
JP6622650B2 (ja) * 2016-05-18 2019-12-18 キヤノン株式会社 情報処理装置及びその制御方法、撮影システム
JP6889371B2 (ja) * 2017-09-21 2021-06-18 株式会社ミクシィ 動画情報処理装置並びにその制御方法及び制御プログラム
JP2020053088A (ja) * 2019-12-11 2020-04-02 キヤノン株式会社 制御装置、制御方法、及びプログラム
IL295170A (en) * 2020-01-30 2022-09-01 Amatelus Inc Apparatus, system, method and software for video distribution
CN113572975B (zh) * 2020-04-29 2023-06-06 华为技术有限公司 视频播放方法、装置及系统、计算机存储介质
WO2022234699A1 (ja) * 2021-05-07 2022-11-10 キヤノン株式会社 動画配信装置、表示制御装置、動画配信システム、動画配信方法およびプログラム

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004186824A (ja) * 2002-11-29 2004-07-02 Jikei Univ School Of Medicine 時空間多重画像装置および方法
JP2004325943A (ja) * 2003-04-25 2004-11-18 Olympus Corp ディスプレイ装置及びディスプレイシステム
JP2010072477A (ja) * 2008-09-19 2010-04-02 Toshiba Tec Corp 画像表示装置、画像表示方法及びプログラム

Also Published As

Publication number Publication date
JP2015186148A (ja) 2015-10-22

Similar Documents

Publication Publication Date Title
JP6354244B2 (ja) 画像再生端末、画像再生方法、プログラム、及び、多視点画像再生システム
US10812868B2 (en) Video content switching and synchronization system and method for switching between multiple video formats
US8867886B2 (en) Surround video playback
CN110213616B (zh) 视频提供方法、获取方法、装置及设备
JP4148671B2 (ja) 表示画像制御処理装置、動画像情報送受信システム、および表示画像制御処理方法、動画像情報送受信方法、並びにコンピュータ・プログラム
JP6231804B2 (ja) 電子装置およびその制御方法
WO2017036329A1 (zh) 对视频内容任意位置和时间播放的方法及装置
JP7253279B2 (ja) 映像配信装置、映像配信システム、映像配信方法並びに映像配信プログラム
JP2019121858A (ja) 電子機器及びその制御方法
US20190246094A1 (en) Switching between Multidirectional and Limited Viewport Video Content
TW201113629A (en) Control device, operation setting method, and program
JP7183033B2 (ja) 電子機器、電子機器の制御方法、プログラム、及び、記憶媒体
JP6218480B2 (ja) 電子装置およびその制御方法
JP7491297B2 (ja) 情報処理装置、情報処理方法、プログラム
JP2018082298A (ja) 画像表示システム、通信システム、画像表示方法、及びプログラム
EP2662786A2 (en) Electronic device with multimedia content function
JP2021145297A (ja) 表示制御装置及びその制御方法
JP2017017531A (ja) 画像送信装置、画像送信方法及びプログラム
KR20100092474A (ko) 편집 장치, 편집 방법, 및 편집 프로그램
KR102213073B1 (ko) 영상기반 다시점 촬영 시스템 및 이의 제어 방법
JP2021144599A (ja) 電子機器及びその制御方法
JP6501665B2 (ja) 情報処理装置およびその制御方法およびプログラム
JP6071492B2 (ja) 再生制御装置及びその制御方法
JP6632660B2 (ja) 映像再生装置及びその制御方法、並びにプログラム
JP6992338B2 (ja) 通信システム、通信管理方法、プログラム、システム及び通信方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170124

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20171128

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171205

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171226

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180130

RD13 Notification of appointment of power of sub attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7433

Effective date: 20180302

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180305

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20180302

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180406

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180515

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180528

R150 Certificate of patent or registration of utility model

Ref document number: 6354244

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150