JP2020102687A - 情報処理装置、画像処理装置、画像処理方法、及びプログラム - Google Patents
情報処理装置、画像処理装置、画像処理方法、及びプログラム Download PDFInfo
- Publication number
- JP2020102687A JP2020102687A JP2018238212A JP2018238212A JP2020102687A JP 2020102687 A JP2020102687 A JP 2020102687A JP 2018238212 A JP2018238212 A JP 2018238212A JP 2018238212 A JP2018238212 A JP 2018238212A JP 2020102687 A JP2020102687 A JP 2020102687A
- Authority
- JP
- Japan
- Prior art keywords
- image
- unit
- virtual viewpoint
- virtual
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Processing Or Creating Images (AREA)
- Image Processing (AREA)
- Image Generation (AREA)
- Studio Devices (AREA)
Abstract
【課題】ユーザの意図に応じた仮想視点画像を容易に提供する情報処理装置、画像処理装置、画像処理方法及びプログラムを提供する。【解決手段】端末装置4は、撮影領域の撮影に基づく画像とその画像の撮影に関するパラメータとを表示部415に表示させる。さらに、表示された画像に対応する撮影位置から仮想カメラの撮影位置を変更するための第1のユーザ操作に応じた入力を受け付ける。また、仮想カメラの焦点距離、絞り値、シャッタースピード及び合焦距離の少なくとも何れかに関するパラメータを、表示部415に表示されたパラメータから変更するための第2のユーザ操作に応じた入力を受け付ける。そして、第1のユーザ操作に基づいて決定される撮影位置と第2のユーザ操作に基づいて決定されるパラメータとに応じた仮想視点画像を出力する。【選択図】図2
Description
本発明は、複数の撮影装置により取得される複数の撮影画像に基づいて生成される仮想視点画像に関するものである。
複数の撮影装置を異なる位置に設置して多視点で同期撮影し、当該撮影により得られた複数の画像を用いて、視点を任意に変更可能な仮想視点画像を生成する技術がある。例えば、サッカーやバスケットボールなどのスポーツ競技を撮影した画像に基づいて、ユーザにより設定された視点に応じた仮想視点画像を生成することにより、ユーザは様々な角度から競技を観戦することが出来る。このような仮想視点画像を表示することで、通常の撮影画像を表示する場合と比較して、視聴者により高い臨場感を与えることが出来る。
特許文献1には、撮影領域を取り囲むように配置された複数の撮影装置により撮影した画像を用いて、ユーザにより任意に設定された仮想的なカメラ(仮想カメラ)の視点位置、視線方向、及び時刻に応じた仮想視点画像を生成することが開示されている。
しかしながら、従来の技術では、ユーザの意図に応じた仮想視点画像を容易に提供することができない場合がある。例えば、仮想カメラに関するパラメータがどのような値の場合にどのような仮想視点画像が生成されるかがわからないままユーザがそのパラメータを指定すると、ユーザの意図とは異なる仮想視点画像が生成される虞がある。その結果、ユーザの意図に応じた仮想視点画像が得られるまで、パラメータの指定と仮想視点画像の生成が何度も繰り替えされることになり、ユーザの手間やシステムの処理量が大きくなる。
本発明は上記の課題に鑑みてなされたものであり、ユーザの意図に応じた仮想視点画像を容易に提供できるようにすることを目的とする。
上記の課題を解決するため、本発明に係る情報処理装置は、例えば以下の構成を有する。すなわち、複数の撮影装置により撮影領域を複数の方向から撮影することで得られる複数の画像に基づく仮想視点画像を出力する情報処理装置であって、前記撮影領域の撮影に基づく第1画像と前記第1画像に関するパラメータとを表示部に表示させる表示制御手段と、前記仮想視点画像を空間内に設定された仮想視点から撮影した画像であるとみなした場合における仮想的な当該撮影に係る仮想カメラの位置を、前記表示制御手段により前記表示部に表示された前記第1画像に対応する視点の位置から変更するための、第1のユーザ操作に応じた入力を受け付ける第1受付手段と、前記仮想カメラの焦点距離、絞り値、シャッタースピード、及び合焦距離の少なくとも何れかに関するパラメータを、前記表示制御手段により前記表示部に表示されたパラメータから変更するための、第2のユーザ操作に応じた入力を受け付ける第2受付手段と、前記第1受付手段により受け付けられた入力に基づいて決定される前記仮想カメラの位置と前記第2受付手段により受け付けられた入力に基づいて決定される前記仮想カメラのパラメータとに応じた前記仮想視点画像を出力する出力手段と、を有する。
本発明によれば、ユーザは表示された内容を基準にしてパラメータを指定できるため、ユーザの意図に応じた仮想視点画像を容易に提供できるようになる。
以下、図面を参照して本発明の実施形態を詳細に説明する。ただし、本発明は以下の実施形態に限定されるものではなく、種々の変形及び変更が可能である。
[画像処理システムの構成]
図1は、本実施形態に係る画像処理システム100の構成例を示す図である。画像処理システム100は、複数の撮影装置により撮影領域を複数の方向から撮影することで得られる複数の画像と、指定された仮想視点とに基づいて、指定された仮想視点からの見えを表す仮想視点画像を生成するシステムである。本実施形態における仮想視点画像は、自由視点映像とも呼ばれるものであるが、ユーザが自由に(任意に)指定した視点に対応する画像に限定されず、例えば複数の候補からユーザが選択した視点に対応する画像なども仮想視点画像に含まれる。また、本実施形態では仮想視点の指定がユーザ操作により行われる場合を中心に説明するが、仮想視点の指定が画像解析の結果等に基づいて画像処理システム100により自動で行われてもよい。なお、本実施形態において特に区別して記載しない場合には、仮想視点画像という用語には動画と静止画の何れも含まれるものとする。
図1は、本実施形態に係る画像処理システム100の構成例を示す図である。画像処理システム100は、複数の撮影装置により撮影領域を複数の方向から撮影することで得られる複数の画像と、指定された仮想視点とに基づいて、指定された仮想視点からの見えを表す仮想視点画像を生成するシステムである。本実施形態における仮想視点画像は、自由視点映像とも呼ばれるものであるが、ユーザが自由に(任意に)指定した視点に対応する画像に限定されず、例えば複数の候補からユーザが選択した視点に対応する画像なども仮想視点画像に含まれる。また、本実施形態では仮想視点の指定がユーザ操作により行われる場合を中心に説明するが、仮想視点の指定が画像解析の結果等に基づいて画像処理システム100により自動で行われてもよい。なお、本実施形態において特に区別して記載しない場合には、仮想視点画像という用語には動画と静止画の何れも含まれるものとする。
画像処理システム100は、画像保持部1、オブジェクト情報保持部2、画像処理装置3、及び、端末装置4aから端末装置4zの26セットの端末装置を有する。以降、特に必要がない場合にはこれらの端末装置を区別せず、端末装置4と表記する。各端末装置4が有する構成要素についても同様に、特に区別しない場合には、通信部401、出力制御部402、入力制御部403、及びユーザ情報設定部404と表記する。なお、画像処理システム100に含まれる端末装置4の数は図1の例に限定されず、画像処理装置3と通信可能な1以上の端末装置4が画像処理システム100に含まれていればよい。また以降では、画像処理装置3を操作する操作者と端末装置4を操作して仮想視点画像を視聴する視聴者とを特に区別しない場合、何れもユーザと表記する。
画像保持部1は、ハードディスクドライブやSSD、SDカードなどの記録媒体を有し、撮影領域を複数の撮影装置により複数の方向から撮影することで得られる複数の画像(複数視点画像)を保持する。撮影領域は例えば、歌手、奏者、役者、舞台装置、選手及びボールなどの所定のオブジェクト(以降、前景オブジェクトと表記)が位置する舞台や競技場である。複数の撮影装置がこのような撮影領域を取り囲むようにそれぞれ異なる位置に設置され、それらの撮影装置による同期撮影に基づく所定の撮影期間(例えば競技の開始から終了まで)の画像が画像保持部1へ伝送されて記憶される。なお、画像保持部1により保持される画像は、撮影画像そのものに限らず、複数視点画像に画像処理を行うことで得られるその他の画像であってもよい。例えば、撮影画像から前景オブジェクトに対応する領域を抽出した前景画像や、撮影画像から前景画像を除いた背景画像が画像保持部1により保持されていてもよい。
オブジェクト情報保持部2は、ハードディスクドライブやSSD、SDカードなどの記録媒体を有し、撮影領域内のオブジェクトに関する情報を保持する。例えば、前景オブジェクトの3次元形状を表す3次元形状データと、コンサートホールのステージや競技場のフィールド、及び観客席など、前景オブジェクト以外の動きの少ないオブジェクト(以降、背景オブジェクトと表記)の3次元形状データが保持される。また、オブジェクト情報保持部2は、各オブジェクトを識別するための識別情報や、オブジェクトの姿勢認識に用いられる特徴情報、及び撮影領域内における仮想視点を設定可能な範囲を示す情報などを保持していてもよい。
なお、図1に示す例では画像保持部1とオブジェクト情報保持部2とが別々の装置であるものとしているが、これに限らず、画像保持部1とオブジェクト情報保持部2とが一体となって構成されていてもよい。また、画像保持部1とオブジェクト情報保持部2との少なくとも何れかが画像処理装置3に含まれていてもよい。オブジェクト情報保持部2により保持される各種の情報は、画像保持部1により保持される画像に基づいて生成された情報であってもよい。例えば、画像処理装置3又はその他の装置が、複数の撮影装置により複数の方向からオブジェクトを撮影することで得られる複数視点画像を画像保持部1から取得する。そして、それらの画像を取得した装置が、それらの画像に基づいて当該オブジェクトの3次元形状データを生成し、オブジェクト情報保持部2に記憶してもよい。
画像処理装置3は、仮想視点画像生成部301(以降、画像生成部301と表記)、視点設定部302、設定変更部303、情報生成部304、ユーザ情報管理部305、及び通信部306を有する。画像生成部301は、画像保持部1から取得した画像とオブジェクト情報保持部2から取得した情報に基づいて、視点設定部302から取得した視点情報が示す仮想視点に応じた仮想視点画像を生成する。画像生成部301により生成された仮想視点画像は、通信部306を介して端末装置4へ送信される。
仮想視点画像の生成方法としては、例えば以下の方法がある。まず画像生成部301は、前景オブジェクトの3次元形状データが表す前景モデルと背景オブジェクトの3次元形状データが表す背景モデルに対して、画像保持部1が保持する画像のうち視点情報に応じて決定される画像をテクスチャとしてマッピングする。そして画像生成部301は、テクスチャがマッピングされたモデルと視点情報とに基づくレンダリングを行うことで、仮想視点画像を生成する。ただし、仮想視点画像の生成方法はこれに限定されず、3次元モデルを用いずに撮影に基づく画像の射影変換により仮想視点画像を生成する方法など、種々の方法を用いることができる。
視点設定部302は、端末装置4に対するユーザ操作に応じた指示情報を、通信部306を介して取得し、その指示情報と設定変更部303からの入力とに基づいて、仮想視点画像の生成に係る視点情報を設定する。そして視点設定部302は、設定された視点情報を画像生成部301へ出力する。視点情報には、複数の撮影装置による撮影期間内の時点を表すフレーム番号やタイムコードなどの時間情報と、その時点における仮想カメラの位置、向き、及び焦点距離又は画角を表すパラメータが含まれる。さらに視点情報には、仮想カメラの絞り値(F値)、シャッタースピード、及び合焦距離(仮想カメラからピントが合う位置までの距離)を表すパラメータが含まれていてもよく、その他のパラメータが含まれていてもよい。以下では、仮想カメラによる撮影に関するこれらのパラメータをまとめて仮想カメラパラメータと表記する。
本実施形態における仮想カメラは、撮影領域の周囲に実際に設置された複数の撮影装置とは異なる仮想的なカメラであって、仮想視点画像の生成に係る仮想視点を便宜的に説明するための概念である。すなわち、画像生成部301により生成される仮想視点画像は、撮影領域に関連付けられる仮想空間内に設定された仮想視点から撮影した画像であるとみなすことができる。そして、仮想的な当該撮影における視点の位置及び方向は仮想カメラの位置及び方向として表すことができ、仮想的な当該撮影における絞り値やシャッタースピード等のパラメータは仮想カメラのパラメータとして表すことができる。言い換えれば、画像生成部301により生成される仮想視点画像は、空間内に設定された仮想視点の位置にカメラが存在するものと仮定した場合に、そのカメラにより得られる撮影画像を模擬した画像であると言える。
画像生成部301により動画の仮想視点画像が生成される場合、その生成のために視点設定部302により設定される視点情報には、連続する複数の時点に対応する複数セットの仮想カメラパラメータが含まれる。オブジェクト情報保持部2が仮想視点の設定可能範囲に関する情報を有している場合、視点設定部302はその情報を参照して仮想カメラパラメータの設定を行う。
設定変更部303は、端末装置4から通信部306を介して取得した指示情報に基づいて、画像生成部301による仮想視点画像の生成に関する設定の変更を行うための指示を、視点設定部302及び画像生成部301へ入力する。例えば設定変更部303は、仮想カメラパラメータの変更指示や、特定の前景オブジェクト及び背景オブジェクトの表示有無の指示や、仮想視点画像に特定の照明効果を加えるための仮想照明の設定指示や、仮想視点画像の色調整の指示を行う。ただし設定変更部303による指示の内容はこれに限定されない。また、設定変更部303は、画像生成部301により仮想視点画像が生成された後に、画像処理によってその仮想視点画像に変更を加えてもよい。
情報生成部304は、画像生成部301により生成される仮想視点画像と共に端末装置4に表示されるべき情報を生成する。例えば、仮想視点画像に対応する仮想カメラパラメータを表すテキストや、端末装置4の操作のためのグラフィックなどが生成される。端末装置4に表示される情報の詳細については、図5などを用いて後述する。
ユーザ情報管理部305は、端末装置4を操作するユーザに関するユーザ情報を、通信部306を介して端末装置4から取得して保持する。ユーザ情報は例えば、ユーザを識別するためのユーザIDを含む。さらにユーザ情報は、ユーザの属性、ユーザの位置、及びユーザが画像処理システム100の使用のために支払っている使用料などの情報を含んでいてもよい。ユーザ情報管理部305は、画像処理装置3と端末装置4との間で送受信される画像や各種情報に関連付けられるユーザ情報を管理して画像処理装置3を制御することで、画像処理装置3による各ユーザに応じた異なる処理の実行を実現する。通信部306は、各端末装置4との間で、画像、音声、テキスト、及びユーザ操作に応じた指示情報などの各種データの通信を行う。通信部306による通信は、ユーザ情報管理部305により制御される。
端末装置4は、通信部401、出力制御部402、入力制御部403、およびユーザ情報設定部404を有し、前述の各種データなどの情報を処理する情報処理装置として機能する。通信部401は、画像処理装置3が有する通信部306との間で、前述の各種データの通信を行う。出力制御部402は、画像処理装置3の画像生成部301により生成された仮想視点画像や情報生成部304により生成された情報を、通信部401を介して取得し、端末装置4が有する表示部に出力することでユーザに対して表示させる。なお、出力制御部402による画像や情報の出力先は表示部に限定されず、端末装置4が有する記憶装置や端末装置4に接続される外部の記憶装置に画像や情報が出力されてもよい。また、印刷用紙などの記録媒体に対する印刷によって画像や情報が出力されてもよい。
入力制御部403は、端末装置4が有する操作部に対するユーザ操作に応じた入力を受け付ける。操作部に対するユーザ操作は、例えば、画像処理装置3に要求する仮想視点画像に対応する時点の指定に係る操作や、仮想カメラパラメータの変更及びその他の設定の変更に係る操作である。ただし操作の内容はこれに限定されない。入力制御部403はこれらのユーザ操作に応じた入力に基づく指示情報を生成し、生成された指示情報は通信部401を介して画像処理装置3へ送信される。
なお、ユーザが仮想カメラパラメータを指定するための操作を行う場合、ユーザは視聴したい仮想視点画像に対応するすべての時点に対してすべての仮想カメラパラメータを厳密に指定しなくてもよい。例えばユーザは、特定の歌手や選手に注目した仮想視点画像を視聴したい、特定オブジェクトの周囲の一定範囲の画像を視聴したい、注目すべきイベントが発生している箇所を視聴したい、などの種々の指示を行ってもよい。そして入力制御部403は、その指示に応じた指示情報を生成して出力してもよい。ユーザ情報設定部404は、端末装置4を操作するユーザに関するユーザ情報を設定し、通信部401から画像処理装置3へ送信される情報に対してユーザ情報を付与する。
[装置のハードウェア構成]
次に、端末装置4のハードウェア構成について、図2を用いて説明する。なお、画像処理装置3のハードウェア構成も、以下で説明する端末装置4の構成と同様である。端末装置4は、CPU411、ROM412、RAM413、補助記憶装置414、表示部415、操作部416、通信I/F417、及びバス418を有する。
次に、端末装置4のハードウェア構成について、図2を用いて説明する。なお、画像処理装置3のハードウェア構成も、以下で説明する端末装置4の構成と同様である。端末装置4は、CPU411、ROM412、RAM413、補助記憶装置414、表示部415、操作部416、通信I/F417、及びバス418を有する。
CPU411は、ROM412やRAM413に格納されているコンピュータプログラムやデータを用いて端末装置4の全体を制御することで、図1に示す端末装置4の各機能部を実現する。なお、端末装置4がCPU411とは異なる1又は複数の専用のハードウェアを有し、CPU411による処理の少なくとも一部を専用のハードウェアが実行してもよい。専用のハードウェアの例としては、ASIC(特定用途向け集積回路)、FPGA(フィールドプログラマブルゲートアレイ)、およびDSP(デジタルシグナルプロセッサ)などがある。ROM412は、変更を必要としないプログラムなどを格納する。RAM413は、補助記憶装置414から供給されるプログラムやデータ、及び通信I/F417を介して外部から供給されるデータなどを一時記憶する。補助記憶装置414は、例えばハードディスクドライブ等で構成され、画像データや音声データ、仮想カメラパラメータなどの種々のデータを記憶する。
表示部415は、例えば液晶ディスプレイやLED等で構成され、ユーザが端末装置4を操作するためのGUI(Graphical User Interface)などを表示する。操作部416は、例えばキーボードやマウス、ジョイスティック、タッチパネル等で構成され、ユーザによる操作を受けて各種の指示をCPU411に入力する。通信I/F417は、画像処理装置3などの外部の装置との通信に用いられる。例えば、端末装置4が外部の装置と有線で接続される場合には、通信用のケーブルが通信I/F417に接続される。なお、端末装置4が外部の装置と無線通信する機能を有する場合、通信I/F417はアンテナを備える。バス418は、端末装置4の各部をつないで情報を伝達する。
本実施形態では表示部415と操作部416が端末装置4の内部に存在するものとするが、表示部415と操作部416との少なくとも一方が端末装置4の外部に別の装置として存在していてもよい。この場合、CPU411が、表示部415を制御する表示制御部、及び操作部416を制御する操作制御部として動作してもよい。
[端末装置の動作]
以下では、動画の仮想視点画像から種々の調整が加えられた静止画の仮想視点画像を抽出するための、端末装置4の動作の具体例について、図3のフローチャート及び図4から図6を参照して説明する。図3に示す処理は、例えば、予め生成された動画の仮想視点画像を端末装置4が画像処理装置3から受信し、その動画を再生するためのユーザ操作が端末装置4に対して行われたタイミングで開始される。ただし、図3に示す処理の開始タイミングは上記に限定されない。図3に示す処理は、CPU411がROM412に格納されたプログラムをRAM413に展開して実行することで実現される。なお、図3に示す処理の少なくとも一部を、CPU411とは異なる1又は複数の専用のハードウェアにより実現してもよい。
以下では、動画の仮想視点画像から種々の調整が加えられた静止画の仮想視点画像を抽出するための、端末装置4の動作の具体例について、図3のフローチャート及び図4から図6を参照して説明する。図3に示す処理は、例えば、予め生成された動画の仮想視点画像を端末装置4が画像処理装置3から受信し、その動画を再生するためのユーザ操作が端末装置4に対して行われたタイミングで開始される。ただし、図3に示す処理の開始タイミングは上記に限定されない。図3に示す処理は、CPU411がROM412に格納されたプログラムをRAM413に展開して実行することで実現される。なお、図3に示す処理の少なくとも一部を、CPU411とは異なる1又は複数の専用のハードウェアにより実現してもよい。
出力制御部402は、画像処理装置3から受信した、所定の撮影期間における撮影領域の撮影に基づく動画の仮想視点画像を再生し、表示部415に表示させる(図3のS600)。ここでは、サッカーの試合の撮影に基づく動画が再生されるものとする。図4は、動画の再生期間中のある時点Taにおける仮想視点画像500を示す。仮想視点画像500には、ボール501、選手502、選手503、及び選手504という複数の前景オブジェクトが含まれる。動画に含まれる仮想視点画像500が表示されている際に行われたユーザ操作に応じた入力を入力制御部403が受け付けると、出力制御部402は動画再生を一時停止する(S601)。
図5(a)は、一時停止された際に端末装置4により表示される画像を示す。ここでは、端末装置4がタブレット端末であり、端末装置4に表示された画像に対してユーザがタッチ操作を行うものとする。一時停止画面の右上には、種々のメニュー表示を行うためのメニューアイコン510が表示される。メニューアイコン510に対するタッチ操作が行われてメニュー表示がされ、調整モードの開始を選択する操作がされると、入力制御部403は仮想視点画像の生成に係る仮想カメラパラメータや設定を調整するための調整モードを開始する(S602)。なおメニューアイコン510は、図3に示す処理が行われる間は、図5(a)から図5(d)に示すような何れの表示モードにおいても表示されており、ユーザにより操作可能である。調整モード開始後、入力制御部403はユーザ操作に応じて調整対象の項目を選択する(S603)。選択可能な調整対象項目は、例えば、画像に対応する時間、仮想カメラパラメータ、オブジェクトの表示有無、仮想照明、色調整境界などである。各項目の具体的内容については以降で順に説明する。
図5(b)は、調整対象項目として時間が選択された場合に端末装置4により表示される画像を示す。時間アイコン520は、調整対象項目が時間であることを表す。画像表示領域511には指定された時点に対応する画像が表示され、情報表示領域512にはその画像に関係する仮想カメラパラメータなどの各種の情報が表示される。入力制御部403は、動画に対応する撮影期間内の一時停止によって指定された時点を、さらに調整するためのユーザ操作に応じた入力を受け付ける。具体的には、三角形の時間変更マーク521に対するタッチ操作が行われると、入力制御部403は、画像表示領域511に表示する画像に対応する時点を一時停止時のTaから変更する(S604)。左向きの時間変更マーク521がタッチされるたびに画像がコマ戻しされ、所定時間(例えば1フレーム)前の仮想視点画像が画像表示領域511に表示される。また、右向きの時間変更マーク521がタッチされるたびに画像がコマ送りされ、所定時間後の仮想視点画像が表示される。この所定時間は変更間隔バー522に対するユーザ操作に応じて変化する。図5(b)に示す画面においては、変更間隔バー522の中間部に対してタッチ操作がされたことにより、コマ送りの間隔である上記の所定時間が1/10秒に設定されている。一方、変更間隔バー522の最上部に対してタッチ操作が行われた場合には、例えば上記の所定時間が1/2秒に設定される。また、変更間隔バー522の最下部に対してタッチ操作が行われた場合には、例えば上記の所定時間が1/50秒に設定される。
図5(b)における画像表示領域511には、変更操作によって指定された時点Tbに対応する仮想視点画像が表示される。図4に示した時点Taに対応する画像においては、ボール501が選手503によりキックされて宙に浮いていた。一方、図5(b)の画像表示領域511内の画像は、選手503がまさにボール501をキックしようとする瞬間まで時間を戻した時点Tbの画像である。
調整を終了するユーザ操作に応じて、入力制御部403は時間の調整を終了する(S605)。その後、調整結果を反映させるユーザ操作が行われると、入力制御部403は調整モードを終了する(S606でNO)。一方、調整結果を反映させるユーザ操作が行われない場合、入力制御部403は調整モードを継続し(S606でYES)、新たな調整対象項目をユーザ操作に応じて選択する(S603)。
図5(c)は、調整対象項目として仮想カメラパラメータが選択された場合に端末装置4により表示される画像を示す。カメラ調整アイコン530は、調整対象項目が仮想カメラパラメータであることを表す。入力制御部403は、表示中の仮想視点画像(再生された動画に含まれる指定された時点Tbの画像)に関する仮想カメラパラメータの変更に係るユーザ操作に応じた入力を受け付ける。例えば、視点の位置(撮影位置)に関するパラメータを変更する場合、上下左右の三角形の位置変更マーク535に対するタッチ操作が行われると、入力制御部403は、仮想カメラの位置が上下左右方向に移動するようにパラメータを変更する。一回のタッチに応じたパラメータの変更量は、変更量バー537に対するユーザ操作に応じて変化する。図5(c)に示す画面においては、変更量バー537の中間部に対してタッチ操作がされたことにより、位置変更マーク535に対する一回のタッチに応じた仮想カメラ位置の変更量が0.5mに設定されている。一方、変更量バー537の最上部に対してタッチ操作が行われた場合には、例えば上記の変更量が2.5mに設定される。また、変更量バー537の最下部に対してタッチ操作が行われた場合には、例えば上記の変更が0.1mに設定される。
画像表示領域511上でピンチ/ストレッチ操作が行われると、入力制御部403は、仮想カメラの撮影位置が奥行方向に移動するようにパラメータを変更する。また、視点の方向(撮影方向)に関するパラメータを変更する場合、キュービックマーク536に対してドラッグ/スワイプ操作が行われると、入力制御部403は、仮想カメラの向きがその操作方向に変化するようにパラメータを変更する。
情報表示領域512には、各種の仮想カメラパラメータが表示される。ユーザは各パラメータが表示されている部分にタッチして、数値の入力やタッチ後に表示されるスライドバーの操作などにより、各パラメータの値を指定する。そして入力制御部403は、その操作に応じた入力を受け付けて各パラメータを変更する。図5(c)の例では、情報表示領域512に仮想カメラの焦点距離531、絞り値532、シャッタースピード533、及び合焦距離534が表示されている。これらのうち、焦点距離531、絞り値532、及びシャッタースピード533は、図5(b)の画面で表示されたパラメータからユーザ操作に基づいて変更された値となっている。このように、ユーザ操作に基づいて変更されたパラメータが表示部415に表示されることで、ユーザは変更後のパラメータを容易に認識することができる。これにより、パラメータの設定の誤りを抑制することができ、また、ユーザは複数のパラメータの関係を考慮しながら調整を行うことができる。
なお、例えば仮想カメラのシャッタースピードを、複数視点画像を撮影した撮影装置のシャッタースピードより速くできないようにするなど、各パラメータについて指定可能な値の範囲が複数視点画像の撮影条件などに基づいて制限されていてもよい。また、入力制御部403は、各パラメータの値を指定するユーザ操作の受付の代わりに、又はそれに加えて、変更前の各パラメータの値からの変更量を指定する操作を受け付けてもよい。また、情報表示領域512に表示される各パラメータは、図5(c)に示す表示画面に限らず、図5(b)に示す表示画面などその他の画面においても変更可能であってもよい。指定された時点に対応する仮想視点画像と共にその画像に関する仮想カメラパラメータを表示させ、その表示画面において各パラメータを変更できるようにすることで、ユーザがパラメータ変更後の画像をイメージしやすくなる。ただし、仮想カメラパラメータの変更用画面に仮想視点画像が表示されなくてもよい。
調整を終了するユーザ操作に応じて、入力制御部403は仮想カメラパラメータの調整を終了する(S605)。その後、調整結果を反映させるユーザ操作が行われると、入力制御部403は調整モードを終了し(S606でNO)、調整モード中に行われたユーザ操作に基づく指示情報を画像処理装置3へ送信する。この指示情報は、ユーザ操作に基づいて特定された時点と、ユーザ操作に基づいて決定された仮想カメラパラメータとを表す。また、ユーザ情報設定部404は、端末装置4を操作しているユーザに関するユーザ情報を、送信される指示情報に付与する。画像処理装置3は、受信した指示情報に基づいて、指定された時点に対応する静止画の仮想視点画像を生成する。ここで生成される画像は、変更された仮想カメラパラメータに応じた調整済みの仮想視点画像である。そして、画像処理装置3は生成した画像を端末装置4へ送信し、出力制御部402は受信した調整済みの仮想視点画像を表示する(S607)。
図5(c)における画像表示領域511には、仮想カメラパラメータの変更が反映された仮想視点画像が表示されている。仮想カメラの位置、向き、及び焦点距離が変更された結果、図5(b)に示した仮想視点画像と比較して、選手502と選手503が画像の略中央に、より大きく、やや下から見上げるように表示されている。また、仮想カメラの絞り値及びシャッタースピードが変更された結果、背景のぼけが強くなり、選手503のキックする脚に尾を引く残像が発生している。なお、仮想カメラの焦点距離を変更してズームアップした場合と、仮想カメラの位置をオブジェクトに近づくように奥行方向に変更した場合とでは、画像の表現が異なる。具体的には、特定のオブジェクトの画像内での大きさが一致していても、他のオブジェクト及び背景の画像内での大きさや映りこみ方が異なる。
調整済みの仮想視点画像が表示された後、仮想視点画像を保存するユーザ操作が行われると、入力制御部403は調整結果を確定する(S608でYES)。一方、再調整を行うユーザ操作が行われると、入力制御部403は新たな調整対象項目をユーザ操作に応じて選択する(S603)。
図5(d)は、オブジェクト表示有無、仮想照明、及び色調整境界を調整対象項目として選択するユーザ操作が受け付けられた場合に端末装置4により表示される画像を示す。ここでは、ユーザ操作に基づく変更がされていない仮想カメラパラメータ及びそれに応じた画像(動画が一時停止された際の調整前の仮想視点画像500)に「Shot1」というタイトルが対応付けられている。一方、ユーザ操作に基づいて変更された仮想カメラパラメータ及びそれに応じた画像(調整が反映された画像)に「Shot2」というタイトルが対応付けられている。
画面右側には、仮想カメラの移動可能範囲である3次元のエリア540と、時点Tbにおいてエリア540内に存在する背景オブジェクト及び前景オブジェクトが表示されている。またエリア540内には、「Shot1」に対応する仮想カメラ547と「Shot2」に対応する仮想カメラ548とが、それぞれの位置、向き、及び画角を表すグラフィックで表示されている。具体的には、仮想カメラの位置に球が表示され、その球を頂点とする四角錐により画角が表現されている。表示された「Shot2」の仮想カメラに対してユーザ操作が行われた場合、入力制御部403は上述した処理と同様に仮想カメラパラメータの変更を行う。
画面右下に表示される時間バー549は、「Shot1」に対応する時点Taと「Shot2」に対応する時点Tbとを表している。時間バー549上での複数の位置の間隔とそれに対応する時間差との関係は、TaとTbが適度な間隔で表示されるように自動で決定されてもよい。図5(d)の例では、TaとTbとの時間差が1.5秒であり、時間バー549はTaから−2秒までを表している。時間バー549に表示された「Shot2」に対してユーザ操作が行われた場合、入力制御部403は上述した処理と同様に仮想カメラパラメータの変更を行う。また、入力制御部403は、時間バー549に対するタッチ操作に応じて、仮想視点画像の生成対象の時点Tbをタッチ位置に対応する時点に変更してもよい。
「Shot2」の画像に映り込ませたくないオブジェクトが存在する場合、ユーザは図5(d)に示す画面が表示されている表示モードにおいてメニューアイコン510を操作してオブジェクト表示設定機能を選択する。またユーザは、エリア540内に表示されている前景オブジェクトや背景オブジェクトを指定する。そして入力制御部403は、指定されたオブジェクトの非表示の対象に設定する。非表示の対象になったオブジェクト(図5(d)の例では選手504)は、エリア540内においてワイヤーフレームによって表示される。非表示設定が反映されると、画像表示領域542の画像のように、非表示の対象となった選手504を含まない仮想視点画像が表示される。なお、指定されたオブジェクトを非表示にする代わりに、指定されたオブジェクトの透明度を設定して、そのオブジェクトを半透明に表示できるようにしてもよい。
仮想視点画像に照明効果を付与したい場合、ユーザはメニューアイコン510を操作して照明追加機能を選択し、エリア540内の任意の数の任意の位置を指定する。そして入力制御部403は、指定された位置に仮想照明を設定する。設定される仮想照明は、スポットライトや、太陽光に近い並行光など、複数の種類から選択可能であってもよく、その光の強度や色温度を調整可能であってもよい。また、仮想照明を配置する方法は、エリア540内のオブジェクト上の点を選択する方法や、3次元座標を入力する方法、及び一度配置した位置から移動させる方法などであってもよい。
特定の領域に位置するオブジェクトをカラー表示させ、その領域外に位置するオブジェクトをモノクロ表示させたい場合、ユーザはメニューアイコン510を操作して色調整機能を選択し、エリア540内の領域を指定する。そして入力制御部403は、指定された領域に応じた色調整境界を設定する。図5(d)の例では色調整境界の形状が球であるが、これに限らず立方体や直方体などその他の三次元形状から選択可能であってもよく、そのサイズを調整可能であってもよい。また、境界のぼかし幅を設定することで、境界付近におけるオブジェクトの色がカラーからモノクロへ滑らに変化するように設定可能であってもよい。また、ここでは境界の内側をカラーとし、外側をモノクロとしたが、これに限らず、境界の内外で種々の異なる色調整が可能である。例えば色温度や彩度、明度、コントラストなどの変更や、特定の有彩色だけを際立たせる変更などが、色調整境界に応じて行われてもよい。上記の仮想照明および色調整境界の設定により、特定の注目すべきオブジェクトをより際立たせた仮想視点画像を得ることが可能となる。
図5(d)における画面左側の画像表示領域541には、ユーザ操作に基づく変更がされていない「Shot1」の仮想視点画像が表示されている。一方、画像表示領域542には、ユーザ操作に基づいて変更された仮想カメラパラメータ及び上述の各種設定の変更が反映された「Shot2」の仮想視点画像が表示されている。これらの画像が同じ画面に表示されることで、ユーザは調整前の画像と調整後の画像を容易に比較できる。情報表示領域543には「Shot1」の画像に対応する変更前の仮想カメラパラメータが表示され、情報表示領域544には「Shot2」の画像に対応する変更後の仮想カメラパラメータが表示される。表示された「Shot2」の仮想カメラパラメータに対してユーザ操作が行われた場合、入力制御部403は上述した処理と同様に各パラメータの変更を行う。
なお、図5(d)の例では画面右側に各種設定の変更用の表示がされ、画面左側に調整前と調整後の仮想視点画像が表示されているが、これらの一方が表示されなくてもよい。例えば、入力制御部403は、ユーザによる操作に応じて、画像表示領域541及び画像表示領域542の表示有無を切り替えてもよい。また、図5(b)や図5(c)の表示モードにおいても、図5(d)の画面と同様に、調整前の画像と調整後の画像とが比較可能に表示されてもよい。
以上が各調整対象項目についての説明である。なお、調整される項目やその調整順序は上記に限定されず、ユーザ操作により任意に選択可能である。また、各調整画面におけるメニューアイコン510に対する操作に応じて、入力制御部403は一部又は全部の調整内容を取り消すことができる。ユーザが意図する調整がすべて終わり、画像処理装置3から受信した調整済みの仮想視点画像を保存するユーザ操作が行われると、入力制御部403は調整結果を確定する(S608でYES)。そして出力制御部402は、調整済みの仮想視点画像を静止画として所定の記憶装置に出力して保存する。図6は、最終的に出力される静止画の仮想視点画像550の例を示す。仮想視点画像550は、上記の調整処理において受け付けられたユーザ操作に基づいて特定された時点Tbに対応する仮想視点画像であって、ユーザ操作に基づいて決定された仮想カメラパラメータ及び設定に応じた仮想視点画像である。ただし図示の都合上、色調整境界の設定による効果や、仮想照明によって生じるオブジェクトの影は表現されていない。
以上説明したように、本実施形態に係る端末装置4は、撮影領域の撮影に基づく画像とその画像の撮影に関するパラメータとを表示部415に表示させる。そして端末装置4は、表示された画像に対応する視点の位置から仮想カメラの位置を変更するための第1のユーザ操作に応じた入力を受け付ける。また端末装置4は、仮想カメラの焦点距離、絞り値、シャッタースピード、及び合焦距離の少なくとも何れかに関するパラメータを、表示部415に表示されたパラメータから変更するための第2のユーザ操作に応じた入力を受け付ける。そして端末装置4は、第1のユーザ操作に基づいて決定される仮想カメラの位置と第2のユーザ操作に基づいて決定される仮想カメラのパラメータとに応じた仮想視点画像を出力する。
上記のような構成によれば、仮想カメラの撮影位置及び方向だけでなく、仮想カメラの焦点距離、絞り値、シャッタースピード、及び合焦距離など、種々のパラメータをユーザにより設定可能とし、多様な表現の仮想視点画像をユーザに提供することが可能となる。また、ユーザは表示された画像を見て生成すべき仮想視点画像をイメージしつつ、表示された撮影に関するパラメータを基準として仮想視点画像の生成に係るパラメータを指定することができる。そのため、多種類のパラメータの設定が行われる場合でも、ユーザの意図とは異なる仮想視点画像が生成される虞が低くなり、ユーザの手間やシステムの処理量が大きくなることを抑制できる。すなわち、ユーザの意図に応じた仮想視点画像を容易に提供できるようになる。
上記のように基準となる画像に対応するパラメータを表示することは、仮想カメラの位置及び方向以外の仮想カメラパラメータをユーザにより変更可能とする場合に、特に有意義である。仮想カメラの位置及び方向は、対応する仮想視点画像を見れば容易に把握することができる。しかしながら、仮想カメラの焦点距離、絞り値、シャッタースピード、及び合焦距離等のパラメータは、対応する仮想視点画像を見るだけでは容易に把握することができない。そのため、これらのパラメータを表示することで、ユーザによるパラメータの指定に係る利便性を向上することができる。また、ユーザが画像におけるボケの大きさなどの細かい表現にこだわった仮想視点画像を生成しようとする場合、仮想カメラを撮影対象のオブジェクトにどの程度近づけるかを、仮想カメラの焦点距離や絞り値に応じて決めることも考えられる。そのため、上記のような仮想カメラパラメータを表示することは、ユーザによる仮想カメラの位置の指定に係る利便性も向上することができる。また、表示される上記の仮想カメラパラメータは、実物のカメラを用いた撮影においてユーザが操作するパラメータに対応するものであるため、ユーザは実物のカメラによる撮影と同じような感覚で仮想カメラを操縦することができるようになる。
また、端末装置4は、オブジェクトの表示有無に関する情報、オブジェクトの色調整に関する情報、及び仮想照明に関する情報の少なくとも何れかの設定に係るユーザ操作に応じた入力を受け付ける。そして端末装置4は、受け付けられた入力に基づいて設定された情報に応じた仮想視点画像を出力する。これにより、現実空間における見え方とは異なるような表現を含む、さらに多様な表現の仮想視点画像をユーザに提供することが可能となる。
なお、端末装置4は、上記の例に示した仮想カメラパラメータ及び設定のすべてを調整可能なように構成されていなくてもよく、また、その他のパラメータ及び設定を調整可能なように構成されていてもよい。端末装置4は、図5に示した画面のすべてを表示可能なように構成されていなくてもよく、また、その他の画面を表示可能なように構成されていてもよい。
[画像処理装置の動作]
次に、端末装置4へ仮想視点画像を提供する画像処理装置3の動作の具体例について、図7のフローチャートを参照して説明する。図7に示す処理は、例えば、上述したS600において再生するための動画の要求を端末装置4から受け取ったタイミングで開始される。ただし、図7の処理の開始タイミングは上記に限定されない。図7に示す処理は、画像処理装置3のCPU411がROM412に格納されたプログラムをRAM413に展開して実行することで実現される。なお、図7に示す処理の少なくとも一部を、CPU411とは異なる1又は複数の専用のハードウェアにより実現してもよい。
次に、端末装置4へ仮想視点画像を提供する画像処理装置3の動作の具体例について、図7のフローチャートを参照して説明する。図7に示す処理は、例えば、上述したS600において再生するための動画の要求を端末装置4から受け取ったタイミングで開始される。ただし、図7の処理の開始タイミングは上記に限定されない。図7に示す処理は、画像処理装置3のCPU411がROM412に格納されたプログラムをRAM413に展開して実行することで実現される。なお、図7に示す処理の少なくとも一部を、CPU411とは異なる1又は複数の専用のハードウェアにより実現してもよい。
S700において、画像生成部301は、端末装置4からの要求に応じた撮影対象(例えばサッカーの試合)に関する複数視点画像を画像保持部1から取得し、対応するオブジェクト情報をオブジェクト情報保持部2から取得する。ここで取得されるオブジェクト情報には、複数の撮影装置による複数の方向からのオブジェクトの撮影に基づいて生成された、そのオブジェクトの3次元形状データが含まれる。
S701において、画像生成部301は、S700において取得したデータと、視点設定部302から取得した視点情報とに基づいて、動画像の仮想視点画像を生成する。視点設定部302から取得される視点情報は、画像処理装置3を操作するユーザが予め指定した仮想視点を表す。ただしこれに限らず、例えば端末装置4が画像処理装置3に動画を要求する際に、端末装置4のユーザにより指定された仮想視点に応じた視点情報を送信してもよい。そして画像処理装置3は、端末装置4から取得した視点情報に基づいて動画の仮想視点画像を生成してもよい。また例えば、画像処理装置3は、端末装置4へ複数の仮想視点の候補を提示し、それらの候補の中から端末装置4により選択された仮想視点に基づいて動画の仮想視点画像を生成してもよい。S702において、画像生成部301は、オブジェクトの3次元形状データに基づいて生成された動画の仮想視点画像を、通信部306を介して端末装置4へ送信する。
その後、端末装置4において図3のS600からS606までの仮想カメラパラメータ及び設定の調整処理が行われると、S703において画像処理装置3は、端末装置4からユーザ操作に応じた指示情報を受信する。この指示情報には、動画に対応する撮影期間に含まれる時点を示す時間情報と、その時点の仮想視点画像の生成に係る調整済みの仮想カメラパラメータ及び設定情報が含まれる。
S704において、設定変更部303は、S703において受信した指示情報に基づいて各種設定の変更を行う。具体的には、オブジェクト表示有無の設定や、仮想照明の設定、色調整境界の設定などを行う。視点設定部302は、S703において受信した指示情報に基づいて視点情報の設定を行う。ここで、指示情報が示す仮想カメラパラメータが、オブジェクト情報保持部2が有する仮想視点の設定可能範囲の情報に適合しない場合には、視点設定部302は指示情報が示す仮想カメラパラメータにさらに変更を加えて、視点情報を設定してもよい。ユーザ情報管理部305は、指示情報に付与されたユーザ情報に応じて、設定変更部303及び視点設定部302に対して設定及び仮想カメラパラメータの変更の制約を指示する。画像生成部301は、設定変更部303による各種の設定と、視点設定部302による視点情報の設定と、S700で取得した複数視点画像及びオブジェクト情報とに基づいて、指示情報に応じた調整が反映された静止画の仮想視点画像を生成する。
S705において、画像生成部301は、S704において生成された静止画の仮想視点画像を、通信部306を介して端末装置4へ送信する。また、情報生成部304は、仮想視点画像に対応する仮想カメラパラメータなど、図5を用いて説明した操作画面を表示するための情報を、通信部306を介して端末装置4へ出力する。なお、操作画面を表示するための情報の少なくとも一部が、画像処理装置3から送信される代わりに端末装置4により生成されてもよい。また、画像処理装置3により生成された静止画の仮想視点画像が、端末装置4へ直接送信される代わりに、画像処理装置3に接続された外部の記憶装置へ送信されてもよい。
S706において、画像生成部301は、仮想視点画像の生成処理を継続するか否かを判定する。通信部306が端末装置4から新たな指示情報を受信した場合、S703に戻って画像生成部301は生成処理を継続する。一方、通信部306が端末装置4から調整処理の終了を示す通知を受信した場合、画像生成部301は生成処理を終了する。画像処理装置3が以上のような動作を行うことで、図3から図6を用いて上述したように、端末装置4に対するユーザ操作に応じて動画からユーザの意図に応じた静止画の仮想視点画像を抽出する処理を実現することができる。
以上説明したように、本実施形態に係る画像処理装置3は、複数の方向からのオブジェクトの撮影に基づく当該オブジェクトの3次元形状データを取得し、当該3次元形状データに基づいて生成される動画の仮想視点画像を端末装置4へ送信する。また画像処理装置3は、動画の仮想視点画像が送信された後に、当該動画に対応する撮影期間内の時点を示す時間情報と当該時点の仮想視点画像の生成に係るパラメータとを端末装置4から受信する。そして画像処理装置3は、受信した当該時間情報が示す時点と当該パラメータとに応じた静止画の仮想視点画像を、当該3次元形状データに基づいて生成する。
上記のような構成によれば、端末装置4を操作するユーザは、はじめに提供される動画の仮想視点画像を基準として静止画の仮想視点画像の生成に係るパラメータを指定することで、意図に応じた静止画の仮想視点画像を容易に得ることができる。また、端末装置4からの要求に応じて画像処理装置3が3次元形状データを用いて仮想視点画像の再生成を行うため、端末装置4において2次元的な画像処理による調整を行う場合よりも、多様な画像表現の調整を実現することができる。
また、仮にユーザに対して仮想視点画像を表示する端末装置4が、オブジェクトの3次元形状データなど仮想視点画像の生成に用いられる素材データをすべて取得して仮想視点画像を生成することとすると、端末装置4の記憶容量や通信帯域を圧迫する虞がある。特に、複数の端末装置4が画像処理装置3に接続される場合に、それぞれの端末装置4が素材データを取得することになると、通信帯域が圧迫される虞が大きくなる。一方、本実施形態によれば、端末装置4のユーザが仮想視点画像を調整できるようにしつつも、画像処理装置3により生成された仮想視点画像が端末装置4へ送信されるため、通信されるデータ量や端末装置4に記憶されるデータ量を小さくすることができる。
なお、上記で説明した例においては、図3のS606において仮想カメラパラメータや設定の変更を反映するユーザ操作が行われたことに応じて、端末装置4から画像処理装置3へ仮想視点画像が要求されるものとした。この方法によれば、端末装置4と画像処理装置3との間の通信量及び画像処理装置3の処理量を削減することができる。ただしこれに限らず、端末装置4は、仮想カメラパラメータや設定の変更操作が行われるたびに、画像処理装置3へ変更に応じた仮想視点画像の生成を要求し、生成された仮想視点画像を表示してもよい。この方法によれば、ユーザは調整結果を早い段階で把握することができ、ユーザの利便性が向上する。
また、図3のS608において調整結果が確定されるまでは、調整による画像の変化が把握できる程度の低画質(例えば低解像度)の仮想視点画像が生成及び表示され、調整結果が確定された後に、高画質の仮想視点画像が生成、表示、及び保存されてもよい。この方法によれば、ユーザの利便性を向上しつつ、仮想カメラパラメータの変更のたびに高画質の仮想視点画像を生成する場合よりも画像処理装置3の処理量を削減することができる。なおこの場合に、調整モード中におけるユーザの指示に応じて、高画質の仮想視点画像が生成及び表示されてもよい。
また、上記で説明した操作方法や表示画面は一例であって、これに限定されるものではない。例えば、端末装置4に対する操作として、クリック、ドラッグ、及びスクロールなどのマウスによる操作が行われてもよい。また、上記では動画から静止画の仮想視点画像を抽出して表示するための処理について説明したが、これに限らない。端末装置4は、ユーザ操作に基づいて変更された仮想カメラパラメータ等に応じた動画の仮想視点画像の生成を画像処理装置3に要求し、画像処理装置3により生成された動画を取得して表示する機能を有していてもよい。この場合、動画の生成に係る仮想カメラの操作方法と静止画の生成に係る仮想カメラの操作方法とを共通にすることで、ユーザの操作の利便性を向上できる。
また、変更可能な仮想カメラパラメータや設定の少なくとも一部が、ユーザ操作により直接指定されるのではなく、端末装置4によって自動で決定されてもよい。例えば、ボール501又は選手503などのあるオブジェクトがユーザ操作により選択された場合に、そのオブジェクトの仮想視点画像内における位置が一定となり、且つピントがそのオブジェクトに合うように、仮想カメラパラメータが決定されてもよい。このような状態において仮想カメラのシャッタースピードを遅くすれば、流し撮りをしたような表現の仮想視点画像を得ることができる。また例えば、仮想カメラの焦点距離がユーザ操作に応じて変更された場合に、ユーザにより選択されたオブジェクトの仮想視点画像内における大きさが変化しないように、仮想カメラの位置が自動で変更されてもよい。このようにすることで、注目対象のオブジェクトの見え方を保ちつつ、背景やその他のオブジェクトの映り込み方を変化させることができる。また例えば、端末装置4により表示された画像内の位置をユーザがタッチした場合に、そのタッチ位置に表示されたオブジェクトにピントが合うように、合焦距離が自動で決定されてもよい。
また、変更可能な仮想カメラパラメータや設定の少なくとも一部を、画像処理装置3が提示してもよい。例えば、ユーザが端末装置4を操作して時点Tbとあるオブジェクトを指定した場合に、画像処理装置3はその操作に応じた指示情報に基づいて、時点Tbにおいてそのオブジェクトを最も適切に撮影できる仮想カメラパラメータを端末装置4へ提示してもよい。具体的には、そのオブジェクトの3次元モデルの精度が高い表面が被写されるような仮想カメラ位置及びオブジェクト表示有無の設定を提示してもよい。また、ユーザが時点Taで動画を一時停止した場合に、画像処理装置3は、Taを含む期間における画像に関してシーン判定を行い、その期間に発生した注目すべきイベントに対応する時点を提示してもよい。その他にも、画像処理装置3は、オブジェクトの色、形又は動きを識別し、識別結果に応じて決定した仮想カメラパラメータの組み合わせを提示してもよい。また、画像処理装置3は、あるユーザが指定した仮想カメラパラメータ及び設定の内容や、そのパラメータ等に基づいて生成された仮想視点画像を、他のユーザにより操作されている端末装置4へ提示してもよい。
また、画像処理システム100は、上記で説明した機能を課金に応じたサービスとしてユーザに提供する場合に、調整の自由度を課金額に応じたユーザ情報に基づいて決定してもよい。例えば、時間や仮想カメラパラメータなどを、課金額が大きいユーザほど細かく設定できるようにしてもよい。また例えば、調整可能な項目が課金額に応じて制限されてもよいし、調整のやり直し可能な回数が課金額に応じて決められてもよい。あるいは、最終的に出力される仮想視点画像の解像度、色階調及び画像サイズなどが課金額に応じて決定されてもよい。
また、上述した実施形態では、複数視点画像に基づいて画像処理装置3により生成された動画の仮想視点画像が端末装置4へ送信され、端末装置4により表示された動画の仮想視点画像を基準として、調整処理が行われるものとした。ただし、調整処理のために端末装置4により表示される動画の内容は、これに限定されない。例えば、画像処理装置3は、単一の撮影装置による撮影に基づく動画の撮影画像を画像保持部1から取得し、その動画を端末装置4へ送信してもよい。この場合に、画像処理装置3は、その動画の撮影時における撮影装置の焦点距離や絞り値やシャッタースピードなどの撮影パラメータを取得し、動画と共に撮影パラメータを端末装置4へ送信してもよい。そして端末装置4は、その動画と撮影パラメータとを表示部415に表示して、上述した仮想カメラパラメータ等の調整処理を実行してもよい。
この方法によれば、はじめに画像処理装置3が動画の仮想視点画像を生成する必要がないため、画像処理装置3の処理量を削減できる。一方、はじめに画像処理装置3から動画の仮想視点画像を送信する方法によれば、端末装置4のユーザが仮想視点画像の生成に慣れていない場合であっても、表示される動画を見ることでユーザは生成可能な仮想視点画像のイメージをつかむことができる。なお、端末装置4により表示される動画の種別が、ユーザ情報設定部404により設定されたユーザ情報に応じて異なっていてもよい。例えば、課金額の高いユーザが操作する端末装置4には動画の仮想視点画像が表示され、課金額の低いユーザが操作する端末装置4には動画の撮影画像が表示されてもよい。
また、端末装置4により表示される動画は、画像処理装置3から受信したものに限らず、他の装置から受信した動画や端末装置4が生成した動画であってもよい。さらに、最終的に出力される静止画の仮想視点画像を生成する処理の少なくとも一部を、端末装置4が行ってもよい。例えば、端末装置4は、ユーザ操作に基づいて特定された時点に対応する3次元形状データなどの素材データを画像処理装置3から取得してもよい。そして、その素材データとユーザ操作に基づいて決定された仮想カメラパラメータ等に基づいて静止画の仮想視点画像を生成してもよい。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC等)によっても実現可能である。また、そのプログラムをコンピュータにより読み取り可能な記録媒体に記録して提供してもよい。
3 画像処理装置
4 端末装置
100 画像処理システム
415 表示部
4 端末装置
100 画像処理システム
415 表示部
Claims (24)
- 複数の撮影装置により撮影領域を複数の方向から撮影することで得られる複数の画像に基づく仮想視点画像を出力する情報処理装置であって、
前記撮影領域の撮影に基づく第1画像と前記第1画像に関するパラメータとを表示部に表示させる表示制御手段と、
前記仮想視点画像を空間内に設定された仮想視点から撮影した画像であるとみなした場合における仮想的な当該撮影に係る仮想カメラの位置を、前記表示制御手段により前記表示部に表示された前記第1画像に対応する視点の位置から変更するための、第1のユーザ操作に応じた入力を受け付ける第1受付手段と、
前記仮想カメラの焦点距離、絞り値、シャッタースピード、及び合焦距離の少なくとも何れかに関するパラメータを、前記表示制御手段により前記表示部に表示されたパラメータから変更するための、第2のユーザ操作に応じた入力を受け付ける第2受付手段と、
前記第1受付手段により受け付けられた入力に基づいて決定される前記仮想カメラの位置と前記第2受付手段により受け付けられた入力に基づいて決定される前記仮想カメラのパラメータとに応じた前記仮想視点画像を出力する出力手段と、を有することを特徴とする情報処理装置。 - 前記第1受付手段により受け付けられた入力に基づいて決定される前記仮想カメラの位置と前記第2受付手段により受け付けられた入力に基づいて決定される前記仮想カメラのパラメータとを表す情報を、当該情報に基づいて前記仮想視点画像を生成する画像処理装置へ送信する送信手段を有し、
前記表示制御手段は、前記画像処理装置から受信した前記第1画像を前記表示部に表示させ、
前記出力手段は、前記送信手段による前記情報の送信に応じて前記画像処理装置から受信した前記仮想視点画像を出力することを特徴とする請求項1に記載の情報処理装置。 - 前記表示制御手段により前記表示部に表示される動画に対応する所定の撮影期間内の時点を指定するための、第3のユーザ操作に応じた入力を受け付ける第3受付手段を有し、
前記表示部に表示される前記第1画像は、前記第3受付手段により受け付けられた入力に基づいて特定される時点に対応する画像であることを特徴とする請求項1又は2に記載の情報処理装置。 - 前記出力手段は、前記第3受付手段により受け付けられた入力に基づいて特定される時点に対応する前記仮想視点画像を、静止画として出力することを特徴とする請求項3に記載の情報処理装置。
- 前記第3受付手段は、前記表示制御手段により前記表示部に前記動画が表示されている期間中に前記第3のユーザ操作に応じた入力を受け付けることを特徴とする請求項3又は4に記載の情報処理装置。
- 前記第3のユーザ操作は、前記表示制御手段により前記表示部に表示される前記動画を一時停止するための操作と前記動画をコマ送りするための操作とを含むことを特徴とする請求項5に記載の情報処理装置。
- 前記第2受付手段は、前記第3受付手段により受け付けられた入力に基づいて特定される時点に対応する前記第1画像が前記表示部に表示されている期間中に、前記第2のユーザ操作に応じた入力を受け付けることを特徴とする請求項3乃至6の何れか1項に記載の情報処理装置。
- 前記第2のユーザ操作は、前記パラメータの値を指定する操作と前記パラメータの変更量を指定する操作の少なくとも何れかを含むことを特徴とする請求項1乃至7の何れか1項に記載の情報処理装置。
- 前記第1受付手段により受け付けられる前記第1のユーザ操作は、前記表示制御手段により前記表示部に表示された前記第1画像に対応する視点の向きから前記仮想カメラの向きを変更するための操作を含むことを特徴とする請求項1乃至8の何れか1項に記載の情報処理装置。
- オブジェクトの表示有無に関する情報、オブジェクトの色調整に関する情報、及び仮想照明に関する情報の少なくとも何れかの設定に係る第4のユーザ操作に応じた入力を受け付ける第4受付手段を有し、
前記出力手段は、前記第4受付手段により受け付けられた入力に基づいて設定される情報に応じた前記仮想視点画像を出力することを特徴とする請求項1乃至9の何れか1項に記載の情報処理装置。 - 前記表示制御手段は、前記第2のユーザ操作に基づく変更がされる前の前記パラメータに応じた画像と共に、前記第2のユーザ操作に基づいて変更された後の前記パラメータに応じた画像を、前記表示部に表示させることを特徴とする請求項1乃至10の何れか1項に記載の情報処理装置。
- 前記表示制御手段は、前記第2受付手段による前記第2のユーザ操作に応じた入力の受付に応じて、前記第2のユーザ操作に基づいて変更された前記パラメータを前記表示部に表示させることを特徴とする請求項1乃至11の何れか1項に記載の情報処理装置。
- 前記表示制御手段により前記表示部に表示される前記第1画像は、前記複数の撮影装置による撮影に基づく仮想視点画像であることを特徴とする請求項1乃至12の何れか1項に記載の情報処理装置。
- 前記表示制御手段により前記表示部に表示される前記第1画像は、単一の撮影装置による撮影に基づく撮影画像であることを特徴とする請求項1乃至12の何れか1項に記載の情報処理装置。
- ユーザ情報を設定する設定手段を有し、
前記表示制御手段により前記表示部に表示される前記第1画像の種別は、前記設定手段により設定されたユーザ情報に応じて異なることを特徴とする請求項1乃至12の何れか1項に記載の情報処理装置。 - 複数の撮影装置による複数の方向からのオブジェクトの撮影に基づく前記オブジェクトの3次元形状データを取得する取得手段と、
前記取得手段により取得された3次元形状データに基づいて生成される動画の仮想視点画像を情報処理装置へ送信する送信手段と、
前記送信手段により前記動画の仮想視点画像が送信された後に、前記動画に対応する撮影期間内の時点を示す時間情報と当該時点の仮想視点画像の生成に係るパラメータとを前記情報処理装置から受信する受信手段と、
前記受信手段により受信された前記時間情報が示す時点と前記パラメータとに応じた静止画の仮想視点画像を、前記取得手段により取得された3次元形状データに基づいて生成する生成手段と、を有することを特徴とする画像処理装置。 - 前記受信手段により受信される前記パラメータは、視点の位置及び方向を示すパラメータを含むことを特徴とする請求項16に記載の画像処理装置。
- 前記受信手段により受信される前記パラメータは、焦点距離、絞り値、シャッタースピード、及び合焦距離の少なくとも何れかに関するパラメータを含むことを特徴とする請求項16又は17に記載の画像処理装置。
- 前記送信手段は、前記生成手段により生成された静止画の仮想視点画像を前記情報処理装置へ送信することを特徴とする請求項16乃至18の何れか1項に記載の画像処理装置。
- 複数の撮影装置により撮影領域を複数の方向から撮影することで得られる複数の画像に基づく仮想視点画像を出力する画像処理方法であって、
前記撮影領域の撮影に基づく第1画像と前記第1画像に関するパラメータとを表示部に表示させる表示制御工程と、
前記仮想視点画像を空間内に設定された仮想視点から撮影した画像であるとみなした場合における仮想的な当該撮影に係る仮想カメラの位置を、前記表示制御工程において前記表示部に表示された前記第1画像に対応する視点の位置から変更するための、第1のユーザ操作に応じた入力を受け付ける第1受付工程と、
前記仮想カメラの焦点距離、絞り値、シャッタースピード、及び合焦距離の少なくとも何れかに関するパラメータを、前記表示制御工程において前記表示部に表示されたパラメータから変更するための、第2のユーザ操作に応じた入力を受け付ける第2受付工程と、
前記第1受付工程において受け付けられた入力に基づいて決定される前記仮想カメラの位置と前記第2受付工程において受け付けられた入力に基づいて決定される前記仮想カメラのパラメータとに応じた前記仮想視点画像を出力する出力工程と、を有することを特徴とする画像処理方法。 - 前記第1受付工程において受け付けられた入力に基づいて決定される前記仮想カメラの位置と前記第2受付工程において受け付けられた入力に基づいて決定される前記仮想カメラのパラメータとを表す情報を、当該情報に基づいて仮想視点画像を生成する画像処理装置へ送信する送信工程を有し、
前記表示制御工程は、前記画像処理装置から受信した前記第1画像を前記表示部に表示させ、
前記出力工程は、前記送信工程における前記情報の送信に応じて前記画像処理装置から受信した前記仮想視点画像を出力することを特徴とする請求項20に記載の画像処理方法。 - 複数の撮影装置による複数の方向からのオブジェクトの撮影に基づく前記オブジェクトの3次元形状データを取得する取得工程と、
前記取得工程において取得された3次元形状データに基づいて生成される動画の仮想視点画像を情報処理装置へ送信する送信工程と、
前記送信工程において前記動画の仮想視点画像が送信された後に、前記動画に対応する撮影期間内の時点を示す時間情報と当該時点の仮想視点画像の生成に係るパラメータとを前記情報処理装置から受信する受信工程と、
前記受信工程において受信された前記時間情報が示す時点と前記パラメータとに応じた静止画の仮想視点画像を、前記取得工程において取得された3次元形状データに基づいて生成する生成工程と、を有することを特徴とする画像処理方法。 - コンピュータを、請求項1乃至15の何れか1項に記載の情報処理装置の各手段として機能させるためのプログラム。
- コンピュータを、請求項16乃至19の何れか1項に記載の画像処理装置の各手段として機能させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018238212A JP2020102687A (ja) | 2018-12-20 | 2018-12-20 | 情報処理装置、画像処理装置、画像処理方法、及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018238212A JP2020102687A (ja) | 2018-12-20 | 2018-12-20 | 情報処理装置、画像処理装置、画像処理方法、及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2020102687A true JP2020102687A (ja) | 2020-07-02 |
Family
ID=71139880
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018238212A Pending JP2020102687A (ja) | 2018-12-20 | 2018-12-20 | 情報処理装置、画像処理装置、画像処理方法、及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2020102687A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115134532A (zh) * | 2022-07-26 | 2022-09-30 | Oppo广东移动通信有限公司 | 图像处理方法、装置、存储介质及电子设备 |
CN115272483A (zh) * | 2022-07-22 | 2022-11-01 | 北京城市网邻信息技术有限公司 | 一种图像生成方法、装置、电子设备及存储介质 |
-
2018
- 2018-12-20 JP JP2018238212A patent/JP2020102687A/ja active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115272483A (zh) * | 2022-07-22 | 2022-11-01 | 北京城市网邻信息技术有限公司 | 一种图像生成方法、装置、电子设备及存储介质 |
CN115134532A (zh) * | 2022-07-26 | 2022-09-30 | Oppo广东移动通信有限公司 | 图像处理方法、装置、存储介质及电子设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20170076612A1 (en) | Information processing device, information processing method, program, and imaging system | |
US11202104B2 (en) | Information processing apparatus, information processing method, and medium | |
JP2019079298A (ja) | 情報処理装置、表示制御方法、及び、プログラム | |
TW201501510A (zh) | 多視角影像之顯示系統、方法及其非揮發性電腦可讀取紀錄媒體 | |
JP7366611B2 (ja) | 画像処理装置、画像処理方法、及び、プログラム | |
JP2020024619A (ja) | 情報処理装置、情報処理方法、及びプログラム | |
WO2020213426A1 (ja) | 画像処理装置、画像処理方法、及び、プログラム | |
WO2018086532A1 (zh) | 一种监控视频的显示控制方法及装置 | |
JP6628343B2 (ja) | 装置および関連する方法 | |
CN114327700A (zh) | 一种虚拟现实设备及截屏图片播放方法 | |
KR20180051202A (ko) | 디스플레이장치 및 그 제어방법 | |
KR20210136858A (ko) | 화상표시장치, 제어방법, 및 프로그램 | |
US10732706B2 (en) | Provision of virtual reality content | |
US20200402281A1 (en) | Image processing apparatus, image processing method, and storage medium | |
JP2019220783A (ja) | 情報処理装置、システム、情報処理方法及びプログラム | |
JP2020102687A (ja) | 情報処理装置、画像処理装置、画像処理方法、及びプログラム | |
US20230353717A1 (en) | Image processing system, image processing method, and storage medium | |
EP4125044A2 (en) | Image processing apparatus, image processing method, and program | |
US11758112B2 (en) | Information processing apparatus, control method, and storage medium | |
JPWO2016157996A1 (ja) | 情報処理装置、情報処理方法、プログラム及び画像表示システム | |
JP2022012900A (ja) | 情報処理装置、表示方法、及び、プログラム | |
JP6600399B2 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
KR101843024B1 (ko) | 실시간 환경객체 선택을 통한 합성동영상 재생 시스템 및 컴퓨터 구현 방법 | |
JP6910405B2 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
US11816785B2 (en) | Image processing device and image processing method |