JP2020067716A - 情報処理装置、制御方法、及びプログラム - Google Patents
情報処理装置、制御方法、及びプログラム Download PDFInfo
- Publication number
- JP2020067716A JP2020067716A JP2018198707A JP2018198707A JP2020067716A JP 2020067716 A JP2020067716 A JP 2020067716A JP 2018198707 A JP2018198707 A JP 2018198707A JP 2018198707 A JP2018198707 A JP 2018198707A JP 2020067716 A JP2020067716 A JP 2020067716A
- Authority
- JP
- Japan
- Prior art keywords
- base point
- point
- virtual viewpoint
- information processing
- virtual
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Processing Or Creating Images (AREA)
- Image Generation (AREA)
- Transforming Electric Information Into Light Information (AREA)
Abstract
【課題】仮想視点画像の再生時のユーザの利便性を向上させること。【解決手段】情報処理装置は、仮想視点画像が構成される仮想空間において視点が移動する経路を特定し、その仮想空間における視点の軌道と視線方向とを含んだ仮想視野の状態を取得し、その状態に基づいて、経路における少なくとも1つの基点を決定して出力する。その少なくとも1つの基点は、仮想視点画像の再生制御に用いられる。【選択図】図2
Description
本発明は、仮想視点画像の再生制御のための情報処理技術に関する。
複数のカメラを異なる位置に設置し、それらのカメラを同期させて1つの被写体を多視点で撮影することによって得られた複数視点画像を用いて、任意に指定された仮想視点に応じた仮想視点画像を生成する技術が注目されている。この技術によれば、例えば、サッカーやバスケットボールなどの試合における特定シーン(例えばゴールシーンなど)を視聴者が様々な角度から視聴することができるため、単視点で撮影された画像と比較してユーザに高臨場感を与えることができる。
このとき、サーバなどの画像処理装置は、撮影対象の空間内の特定の位置に関連付けられた(例えばその特定の位置に向けられた)複数のカメラで撮影された画像を集約して、三次元形状データの生成やレンダリング等の処理を行って仮想視点画像を生成する。そして、画像処理装置は、生成した仮想視点画像を、ユーザ端末に伝送する。これにより、ユーザは、複数視点画像に基づいて生成された仮想視点画像を、ユーザ端末により閲覧することができる。また、ユーザは、スマートフォンやタブレットなどの携帯端末等を介して、仮想視点の位置や方向を操作することができる。例えば、ユーザが、自身の観客席の位置から、注目している選手の位置まで仮想視点を移動させ、その選手までの距離が一定距離以下となった後に、その選手を中心に仮想視点を旋回させる等の操作が行われうる。特許文献1には、再生時の仮想視点の基点となる位置を示す視点座標データを1つ以上含むメタデータを用意することにより、制作者の意図を反映しながら、シーン等に応じた適切な視点の仮想視点画像を生成する技術が記載されている。なお、以下では、仮想視点を任意の位置まで移動させる際の経路のことを「動線」と呼ぶ場合がある。
しかしながら、仮想視点画像の再生を行う際の利便性が必ずしも十分でなかった。例えば、視聴者にとって重要なシーンを探すための操作が煩雑となる恐れがあった。また、例えば、予め設定された仮想視点の動線の一部のみをリピート再生する場合の操作が煩雑となる恐れもあった。
本発明は、かかる課題に鑑みてなされたものであり、仮想視点画像の再生時のユーザの利便性を向上させる技術を提供する。
本発明の一態様による情報処理装置は、仮想視点画像が構成される仮想空間において視点が移動する経路を特定する特定手段と、前記仮想空間における前記視点の軌道と視線方向とを含んだ仮想視野の状態を取得する取得手段と、前記状態に基づいて、前記経路における少なくとも1つの基点を決定する決定手段と、前記少なくとも1つの基点の情報を出力する出力手段と、を有し、前記少なくとも1つの基点は、前記仮想視点画像の再生制御に用いられる、ことを特徴とする。
本発明によれば、仮想視点画像の再生時のユーザの利便性を向上させることができる。
以下、図面を参照して実施形態を説明する。
(システム構成)
図1を用いて、本実施形態に係る画像処理システム100の一例を概略的に説明する。図1の画像処理システム100は、スタジアム102に複数のカメラ105が設置されて構成される。スタジアム102には、観客席103と、実際に競技等が行われるフィールド104とが含まれる。複数のカメラ105は、それぞれが撮影対象であるフィールド104の少なくとも一部を撮影すると共に、少なくとも2つのカメラの画角に重なりが生じるように配置される。複数のカメラ105は、例えば、フィールド104と観客席103とを囲むように設置される。また、ユーザ101は、一例として、ユーザ端末を保持しながら、観客席103から競技を観戦しうる。この場合、ユーザ101は、ライブ観戦を楽しむと共に、必要に応じてユーザ端末を操作して、シュート、反則、ゴール等のイベントシーンを再生して確認しうる。画像処理システム100は、この再生の指示に応じて、適切なイベントシーンの仮想視点画像を、ユーザ端末へ提供する。
図1を用いて、本実施形態に係る画像処理システム100の一例を概略的に説明する。図1の画像処理システム100は、スタジアム102に複数のカメラ105が設置されて構成される。スタジアム102には、観客席103と、実際に競技等が行われるフィールド104とが含まれる。複数のカメラ105は、それぞれが撮影対象であるフィールド104の少なくとも一部を撮影すると共に、少なくとも2つのカメラの画角に重なりが生じるように配置される。複数のカメラ105は、例えば、フィールド104と観客席103とを囲むように設置される。また、ユーザ101は、一例として、ユーザ端末を保持しながら、観客席103から競技を観戦しうる。この場合、ユーザ101は、ライブ観戦を楽しむと共に、必要に応じてユーザ端末を操作して、シュート、反則、ゴール等のイベントシーンを再生して確認しうる。画像処理システム100は、この再生の指示に応じて、適切なイベントシーンの仮想視点画像を、ユーザ端末へ提供する。
図2に、画像処理システム100の概略構成例を示す。画像処理システム100は、一例において、スタジアム102に設置された複数のカメラ105と、画像生成装置201と、情報処理装置202と、ユーザ端末203とを含んで構成される。
複数のカメラ105は、例えば伝送ケーブルを介して相互に接続され、かつ、画像生成装置201にも接続される。複数のカメラ105は、それぞれがフィールド104を撮影することにより得られた画像を画像生成装置201へ伝送する。図1の例では、複数のカメラ105は、サッカー場などのスタジアム102の全てまたは一部の範囲が撮影されるように配置される。複数のカメラ105は、静止画像を撮影するように構成されてもよいし、動画像を撮影するように構成されてもよい。また、複数のカメラ105は、静止画像と動画像との両方を撮影するように構成されてもよい。なお、本実施形態では、特に断りがない限り、用語「画像」は、静止画と動画との両方をその意義として含む。
画像生成装置201は、仮想視点画像を生成する装置である。画像生成装置201は、複数のカメラにより撮影された画像(以下、この撮影された画像を「撮影画像」と呼ぶ場合がある。)を蓄積する。画像生成装置201は、複数のカメラ105により撮影された画像を用いて、仮想視点画像群を生成する。仮想視点画像群は、それぞれが異なる視点に対応する複数の仮想視点画像を含む。画像生成装置201は、生成した仮想視点画像群と、注視点データを情報処理装置202に伝送する。注視点データは、撮影対象のスタジアム102内に設定された複数の注視点の位置などを示す情報である。それぞれのカメラ105は、設定された注視点の何れかに向けて設置され、各注視点が、2つ以上のカメラ105によってそれぞれ異なる方向から撮影される。画像生成装置201は、例えばサーバ装置であり、複数の撮影画像や、生成した仮想視点画像群を記憶するデータベース機能と、仮想視点画像を生成するための画像処理機能とを有する。また、スタジアム102内の複数のカメラ105と画像生成装置201は、有線または無線の通信ネットワーク回線や、SDI(Serial Digital Interface)等のケーブル回線によって接続される。画像生成装置201は、複数のカメラ105によって撮影された画像を、この回線を通じて受信して、受信した画像をデータベースに格納する。なお、注視点データの詳細については後述する。
情報処理装置202は、画像生成装置201で生成された仮想視点画像群から、ユーザ端末203に提供する仮想視点画像を選択する。情報処理装置202は、仮想視点を例えばユーザの位置等の所定の位置から任意の位置まで移動させる際の経路である動線と、その動線上を移動する仮想視点の視線方向とを決定する。情報処理装置202は、動線及びその動線上を移動する仮想視点の視線方向を解析し、その解析結果に基づいて動線上の少なくとも1つ(一例において複数)の基点を決定する。情報処理装置202は、複数の基点が決定された場合、その決定した複数の基点の中から1つの基点を特定する。情報処理装置202は、特定した基点に位置する仮想視点の視線方向に基づいて、仮想視点画像を画像生成装置201により生成された仮想視点画像群から選択し、ユーザ端末203へ出力する。なお、複数の基点の中からの1つの基点の特定は、情報処理装置202が自動的に特定する方法で行われてもよいし、ユーザ端末203を介してユーザからの指示を受け付ける方法で行われてもよい。また、情報処理装置202は、自装置が決定した注視点、動線、動線上を移動する仮想視点の視線方向、基点等の情報を、画像生成装置201へ送信してもよい。この場合、画像生成装置201は、スタジアム102に設置された複数のカメラ105によって得られた撮影画像の中から、情報処理装置202によって決定された注視点に対応するカメラ群による撮影画像を選択する。そして、画像生成装置201は、選択された撮影画像を、動線上の基点に位置する仮想視点の視線方向に基づいて処理することにより、仮想視点に応じた仮想視点画像を生成して、その生成した仮想視点画像を情報処理装置202へ出力しうる。
情報処理装置202は、一例において、パーソナルコンピュータである。なお、情報処理装置202は、画像生成装置201やユーザ端末203に組み込まれてもよい。すなわち、情報処理装置202は、画像生成装置201とユーザ端末203との少なくともいずれかと一体の装置として実現されてもよい。
ユーザ端末203は、画像処理システム100を利用するユーザが所持する、情報処理装置である。なお、ユーザ端末203は、ユーザ101のIDと関連付けられている情報処理装置であってもよい。ユーザ端末203は、情報処理装置202から出力される仮想視点画像を、内蔵の(場合によっては外部の)表示画面に表示するための処理を実行する。また、ユーザ端末203は、ユーザ101の入力に基づいて、例えば、仮想視点の位置の移動、仮想視点の視線方向の変更、及び、視点の切り替えの指示を受け付ける。ユーザ端末203は、受け付けた指示の内容を示す仮想視点情報を含む伝送信号を生成し、情報処理装置202へ伝送する。また、ユーザ端末203は、位置情報に基づく仮想視点の自動設定を情報処理装置202に要求しうる。
ユーザ端末203は、例えば、パーソナルコンピュータや、スマートフォンやタブレットなどの携帯端末などでありうる。ユーザ端末203は、マウス、キーボード、6軸コントローラ、及び、タッチパネルの少なくとも1つ等のユーザ操作を受け付けるためのインタフェースを有する。また、ユーザ端末203は、GPS(Global Positioning System)等によって位置情報を取得する機能を有しうる。
画像生成装置201、情報処理装置202及びユーザ端末203は、例えば、インターネットなどのネットワークを介して相互に情報のやり取りが可能となるように構成されうる。なお、装置間の通信は、無線通信と有線通信とのいずれか又はこれらの組み合わせのいずれによって行われてもよい。
(装置のハードウェア構成)
続いて、上述の各装置の構成例について説明する。図3に、画像生成装置201、情報処理装置202、及びユーザ端末203のハードウェア構成例を示す。各装置は、コントローラユニット300、操作ユニット309、および表示装置310を含んで構成される。
続いて、上述の各装置の構成例について説明する。図3に、画像生成装置201、情報処理装置202、及びユーザ端末203のハードウェア構成例を示す。各装置は、コントローラユニット300、操作ユニット309、および表示装置310を含んで構成される。
コントローラユニット300は、CPU301、ROM302、RAM303、HDD304、操作部I/F305、表示部I/F306、及び通信I/F307を含む。なお、これらのハードウェアブロックは、例えばシステムバス308によって相互に通信可能となるように接続される。なお、CPUはCentral Processing Unitの頭字語であり、HDDはHard Disk Driveの頭字語であり、I/Fはインタフェースである。
CPU301は、システムバス308を介して、ROM302、RAM303、HDD304、操作部I/F305、表示部I/F306、及び、通信I/F307の動作を制御しうる。CPU301は、ROM302に格納されているブートプログラムによりOS(Operating System)を起動する。CPU301は、このOS上で、例えばHDD304に格納されているアプリケーションプログラムを実行する。CPU301がアプリケーションプログラムを実行することによって、各装置の各種処理が実現される。RAM303は、例えば、各種一時的な情報の格納やCPU301の作業領域のために用いられる。HDD304は、上述のようにアプリケーションプログラムなどを格納する。なお、CPU301は、1つ以上の任意のプロセッサ(例えば、ASIC(特定用途向け集積回路)、DSP(デジタルシグナルプロセッサ)や、FPGA(フィールドプログラマブルゲートアレイ)等)によって置き換えられてもよい
操作部I/F305は、操作ユニット309とのインタフェースである。操作部I/F305は、操作ユニット309によって受け付けられたユーザ操作の情報をCPU301へ転送する。操作ユニット309は、例えば、マウスやキーボード、タッチパネル等の、ユーザ操作を受付可能な機器を含んで構成される。表示部I/F306は、表示装置310とのインタフェースであり、例えば、表示装置310が表示すべき画像データを表示装置310に対して出力する。表示装置310は、液晶ディスプレイなどのディスプレイを含んで構成される。通信I/F307は、例えばイーサネット(登録商標)等の通信を行うためのインタフェースであり、伝送ケーブルの接続を受け付けるためのコネクタ等を含んで構成される。なお、通信I/F307は、無線通信インタフェースであってもよく、例えばベースバンド回路やRF回路、及びアンテナを含んで構成されてもよい。通信I/F307は、外部装置との間で情報の入出力を行う。
操作部I/F305は、操作ユニット309とのインタフェースである。操作部I/F305は、操作ユニット309によって受け付けられたユーザ操作の情報をCPU301へ転送する。操作ユニット309は、例えば、マウスやキーボード、タッチパネル等の、ユーザ操作を受付可能な機器を含んで構成される。表示部I/F306は、表示装置310とのインタフェースであり、例えば、表示装置310が表示すべき画像データを表示装置310に対して出力する。表示装置310は、液晶ディスプレイなどのディスプレイを含んで構成される。通信I/F307は、例えばイーサネット(登録商標)等の通信を行うためのインタフェースであり、伝送ケーブルの接続を受け付けるためのコネクタ等を含んで構成される。なお、通信I/F307は、無線通信インタフェースであってもよく、例えばベースバンド回路やRF回路、及びアンテナを含んで構成されてもよい。通信I/F307は、外部装置との間で情報の入出力を行う。
なお、各装置は、ケーブルやネットワークを介して接続された外部の表示装置310に画像を表示させる表示制御を行うこともできる。この場合、装置は、表示データを表示装置310に出力させるための表示制御を実行する。なお、図3の構成は一例であり、その一部が省略され又は図示されていない構成が追加され、さらに、図示された構成が組み合わされてもよい。例えば、画像生成装置201は、表示装置310を有しなくてもよい。
(情報処理装置の機能構成)
図4は、情報処理装置202の機能構成例を示すブロック図である。図4の機能構成は、情報処理装置202のCPU301が、ROM302等に記録された各種プログラムを読み出して各部の制御を実行することにより実現される。なお、図4に示す機能部の一部または全部が専用のハードウェア(例えばASICやFPGA)により実現されてもよい。情報処理装置202は、一例において、制御部401、記憶部402、分離部403、取得部404、注視点決定部405、動線決定部406、基点決定部407、画像取得部408、及び、画像出力部409を有する。これらの機能部は、内部バス410によって相互に接続され、制御部401による制御の下で、相互にデータを送受信することができる。
図4は、情報処理装置202の機能構成例を示すブロック図である。図4の機能構成は、情報処理装置202のCPU301が、ROM302等に記録された各種プログラムを読み出して各部の制御を実行することにより実現される。なお、図4に示す機能部の一部または全部が専用のハードウェア(例えばASICやFPGA)により実現されてもよい。情報処理装置202は、一例において、制御部401、記憶部402、分離部403、取得部404、注視点決定部405、動線決定部406、基点決定部407、画像取得部408、及び、画像出力部409を有する。これらの機能部は、内部バス410によって相互に接続され、制御部401による制御の下で、相互にデータを送受信することができる。
制御部401は、記憶部402に格納されているコンピュータプログラムを実行することによって、情報処理装置202全体の動作を制御する。記憶部402は、ハードディスクなどの不揮発性の記憶装置を有する。記憶部402(不揮発性の記憶装置)は、情報処理装置202全体の動作を制御するコンピュータプログラム等を格納する。分離部403は、画像生成装置201から取得した仮想視点画像群と、注視点データとを分離して出力する。
取得部404は、ユーザ101に関する位置情報またはユーザ端末情報を、ユーザ端末203から取得する。取得部404は、例えば、ユーザ端末203がGPSで取得した位置情報を、ユーザの位置情報としてユーザ端末203から取得しうる。また、取得部404は、スタジアム102の観客席103の席番号など位置を示す情報を取得し、その情報に基づいてユーザ101の位置情報を特定してもよい。
注視点決定部405は、画像生成装置201から取得した注視点データの中から、1つの注視点を決定する。注視点決定部405は、例えば、ゴールを決めた選手や反則をした選手を選択し、それらの選手を注視点として決定する。また、注視点決定部405は、ユーザ端末203から入力される操作情報(例えばユーザによる注視点の選択操作に応じた情報や、ユーザによる仮想視点の指定操作に応じた情報など)に基づいて注視点を決定してもよい。
動線決定部406は、ユーザ端末203へ出力する仮想視点画像における仮想視点の動線、及び、その動線上を移動する仮想視点の視線方向を決定する。動線決定部406は、例えば、注視点データやユーザ端末情報などを用いて、動線とその動線上を移動する仮想視点の視線方向とを決定してもよい。例えば、動線決定部406は、ユーザ端末の位置から、着目すべきシーンにおいて重要な役割を果たす被写体(例えばゴールを決めた選手やボール)から所定の距離の位置まで直線的に移動してその後に旋回する経路を動線として決定しうる。また、動線決定部406は、着目すべきシーンに関するプレイに関与する他の被写体(例えば守備選手やゴールを決めた選手に対してパスを供給した選手)等の情報に基づいて、その動線上における視線方向を決定しうる。なお、これは一例であり、任意の手法によって、適宜、動線と視線方向とが決定されうる。動線決定部406は、動線上を移動する各仮想視点の位置として、三次元座標上の位置を決定する。しかしながら、これに限られず、動線決定部406は、二次元平面上の位置を決定してもよい。この場合、動線決定部406は、仮想視点画像に係る仮想視点の位置の高さを、取得部404が取得した位置情報を用いることなく、任意の値または固定値として決定しうる。
基点決定部407は、動線とその動線上を移動する仮想視点の視線方向を解析し、その解析結果に基づいて、動線上の少なくとも1つの点を、基点として決定する。基点決定部407は、例えば、動線の開始地点や終了地点等を基点として決定する。また、基点決定部407は、動線が直線的な動きから注視点を中心に旋回を始める変化点等を基点として決定しうる。また、基点決定部407は、決定した基点のそれぞれについて、優先順位や再生速度などの情報を付加しうる。
画像取得部408は、動線決定部406によって決定された仮想視点の動線とその動線上を移動する仮想視点の視線方向に対応する仮想視点画像を取得する。画像取得部408は、その際に、基点決定部407によって決定された基点位置での仮想視点の、視線方向に対応する仮想視点画像を、画像生成装置201から取得した仮想視点画像群の中から選択する。なお、画像取得部408は、画像生成装置201から受信した情報に基づいて仮想視点画像をレンダリングによって生成する機能を有してもよい。画像出力部409は、画像取得部408によって取得された仮想視点画像を、ユーザ端末203に出力する。
(画像生成装置の機能構成)
図5に、画像生成装置201の機能構成例を示す。図5の機能構成は、画像生成装置201のCPU301が、ROM302等に記録された各種プログラムを読み出して各部の制御を実行することにより実現される。なお、図5に示す構成の一部または全部が専用のハードウェア(例えばASICやFPGA)により実現されてもよい。画像生成装置201は、一例において、制御部501、記憶部502、撮影画像入力部503、画像記憶部504、仮想視点画像生成部505、注視点データ生成部506、画像解析部507、及び、データ出力部508を有する。なお、これらの機能部は、内部バス509によって相互に接続され、制御部501による制御の下で、相互にデータを送受信することができる。
図5に、画像生成装置201の機能構成例を示す。図5の機能構成は、画像生成装置201のCPU301が、ROM302等に記録された各種プログラムを読み出して各部の制御を実行することにより実現される。なお、図5に示す構成の一部または全部が専用のハードウェア(例えばASICやFPGA)により実現されてもよい。画像生成装置201は、一例において、制御部501、記憶部502、撮影画像入力部503、画像記憶部504、仮想視点画像生成部505、注視点データ生成部506、画像解析部507、及び、データ出力部508を有する。なお、これらの機能部は、内部バス509によって相互に接続され、制御部501による制御の下で、相互にデータを送受信することができる。
制御部501は、記憶部502に格納されているコンピュータプログラムを実行することによって、画像生成装置201全体の動作を制御する。記憶部502は、ハードディスクなどの不揮発性の記憶装置を有する。記憶部502(不揮発性の記憶装置)は、画像生成装置201全体の動作を制御するコンピュータプログラム等を格納する。
撮影画像入力部503は、スタジアム102に設置された複数のカメラ105が撮影した画像を所定のフレームレートで取得し、画像記憶部504へ出力する。撮影画像入力部503は、例えば有線もしくは無線の通信モジュール、又はSDI等の画像伝送モジュールにより、カメラ105から撮影画像を取得する。画像記憶部504は、撮影画像入力部503によって取得された撮影画像と、それらの撮影画像に基づいて生成された仮想視点画像群を記憶する大容量の記憶装置でありうる。画像記憶部504は、例えば、磁気ディスク、光ディスク、半導体メモリ等によって実現される。なお、画像記憶部504は、画像生成装置201に内蔵された装置によって実現されてもよいし、画像生成装置201とは物理的に切り離された外部の装置によって実現されてもよい。また、画像記憶部504に記憶される撮影画像及びそれに基づいて生成された仮想視点画像群は、例えば、MXF(Material eXchange Format)形式の画像フォーマットで記憶される。また、これらの撮影画像及び仮想視点画像群は、例えば、MPEG2形式で圧縮される。ただし、画像フォーマットやデータ圧縮方式は、これらに限定されず、任意の画像フォーマットおよびデータ圧縮方式が用いられてもよい。
仮想視点画像生成部505は、画像記憶部504に記憶された複数の撮影画像から仮想視点画像群を生成する。仮想視点画像群は、例えば、イメージベースレンダリングを用いて生成される。イメージベースレンダリングは、モデリング(幾何学図形を使用して物体の形状を作成する過程)を行わず、複数の実際の視点から撮影された画像から仮想視点画像を生成するレンダリング方法である。ただし、イメージベースレンダリングによらずに仮想視点画像群が生成されてもよく、例えば、モデルベースレンダリング(Model−Based Rendering、MBR)を用いて仮想視点画像群が生成されてもよい。MBRは、複数の方向から被写体が撮影された複数の撮影画像に基づいて生成される三次元モデルを用いて、仮想視点画像を生成する方式である。MBRは、例えば、視体積交差法、Multi−View−Stereo(MVS)などの三次元形状復元手法によって得られた対象シーンの三次元形状(モデル)を利用し、仮想視点からのシーンの見えを画像として生成する。また、仮想視点画像生成部505は、生成した仮想視点画像群に含まれる各仮想視点画像に対して、対応する仮想視点、対応する視線の方向、及び、後述の注視点データ生成部506において生成される注視点を示すデータを、付与する。例えば、仮想視点画像生成部505は、仮想視点(の位置)と視線の方向と注視点を示すデータとを含むメタデータを、仮想視点画像に付与しうる。
ここで、仮想視点画像生成部505が生成する仮想視点画像群は、様々な仮想視点の位置及び視線の方向の仮想視点画像を含んでおり、そのような仮想視点画像群が1つの画像ストリームとして空間方向及び時間方向に圧縮符号化される。しかしながらこれに限られず、仮想視点画像群は、1つの画像ストリームではなく、それぞれが独立した複数の画像によって構成されてもよい。また、仮想視点画像群は、圧縮符号化されていなくてもよい。また、画像生成装置201は、仮想視点画像群に代えて、例えば、三次元形状データ等の三次元モデルを示す情報や、その情報が示す三次元モデルにマッピングするための画像等の、仮想視点画像を生成するための情報を生成してもよい。すなわち、仮想視点画像生成部505は、レンダリングされた仮想視点画像を生成することに代えて、情報処理装置202またはユーザ端末203で仮想視点画像をレンダリングするために必要な情報を生成してもよい。
注視点データ生成部506は、画像解析部507によって取得される特定のオブジェクトまたは所定の位置の位置情報を用いて注視点データを生成し、仮想視点画像生成部505へ出力する。図6に、注視点データの構成例を示す。注視点データは、例えば注視点IDと、位置情報と、半径とを含んで構成される。ただし、注視点データは、注視点の位置を特定可能な情報であればよく、具体的な内容はこれに限定されない。注視点IDは、アルファベットや数字で構成され、それぞれの注視点を区別可能となるように注視点ごとに割り振られた識別番号である。位置情報は、緯度経度のDegree形式を用いて、注視点の中心座標を示す。半径は、位置情報により示される中心座標からの距離であり、仮想視点画像を生成する際に有効な範囲を示す。なお、この位置情報と半径とによって規定される有効な範囲を示す円系の領域を、注視点ユニットと呼ぶ。ある1つの注視点に向けられた複数のカメラ105による撮影画像を用いて仮想視点画像が生成される場合、その注視点に関する注視点ユニット内の生成対象については、高画質で生成することができる。なお、注視点データは、画像解析部507による撮影画像の解析により取得されるものに限定されず、画像生成装置201や情報処理装置202に事前に登録されたものであってもよい。
画像解析部507は、撮影画像入力部503に入力された撮影画像を解析し、注視点の位置情報を取得する。画像解析部507は、例えば、ビジュアルハルなどの技術を用いて、特定のオブジェクトまたは特定の位置の位置情報を注視点の位置情報として取得する。特定のオブジェクトは、例えばスポーツ競技の場合、特定の選手や審判などの人物、またはボールなどでありうる。また、注視点は、サッカーの試合の場合、フィールド中央、ゴール前、ペナルティマーク等のフィールド104上の所定の位置でありうる。また、複数のカメラ105の光軸を共通の位置に向けるようにカメラ105が設置されている場合、注視点はその共通の位置でありうる。
データ出力部508は、仮想視点画像生成部505で生成された仮想視点画像群を情報処理装置202へ所定のフレームレートで出力する。
(基点決定処理の流れ)
続いて、基点決定部407によって実行される基点決定処理の流れについて、図7を用いて説明する。本処理は、動線とその動線上を移動する仮想視点の視線方向とを解析し、その解析結果に基づいて、動線上に少なくとも1つ以上の基点を決定する処理である。本処理は、例えば情報処理装置202がユーザ端末203から仮想視点画像の再生要求を受け付けた際に、実行される。
続いて、基点決定部407によって実行される基点決定処理の流れについて、図7を用いて説明する。本処理は、動線とその動線上を移動する仮想視点の視線方向とを解析し、その解析結果に基づいて、動線上に少なくとも1つ以上の基点を決定する処理である。本処理は、例えば情報処理装置202がユーザ端末203から仮想視点画像の再生要求を受け付けた際に、実行される。
まず、基点決定部407は、動線決定部406で決定された動線とその動線上を移動する仮想視点の視線方向とを示す情報を取得する(S701)。ここで、動線決定部406によって決定された動線とその動線上を移動する仮想視点の視線方向との一例を、図8に示す。図8において、801は注視点であり、例えば、ゴールを決めた選手である。また、811〜817は、仮想視点である。図8では、仮想視点が、ユーザ101の位置(仮想視点811)から注視点801方向へ(仮想視点814まで)直線状に進んだ後に、注視点801を中心に旋回する(仮想視点814〜仮想視点817)。また、図8で示す仮想視点の視線方向は、仮想視点811から仮想視点817までのすべてにおいて、注視点801へ向けられている。ただし、図8では、仮想視点813において、視線方向が注視点801へ向けられている状態から一時的に左右方向へスイングしている様子を示している。
続いて、基点決定部407は、S701で取得した動線とその動線上を移動する仮想視点の視線方向とを解析し、その解析結果に基づいて、動線上の少なくとも1つの点を基点として定める。図9に、基点決定部407により決定される基点の一例を示す。図9の911から915は、基点決定部407によって決定された基点である。基点決定部407は、S701で取得した動線を解析し、動線の開始地点と終了地点とを、それぞれ基点911及び基点915として決定する。また、基点決定部407は、動線の変化点を基点として決定する。例えば、図9で示す動線のように、直線的に移動する動線から注視点801を中心に旋回する動線へ切り替わる地点を、基点913として決定する。また、基点決定部407は、旋回のようにある所定の動線を示す期間を任意の間隔で区切り、その区切った地点を基点として決定しうる。基点決定部407は、例えば、旋回の開始地点と終了地点の中間地点を基点914として決定しうる。また、基点決定部407は、S701で取得した仮想視点の視線方向を解析し、視線方向の変化が開始した地点を基点として決定する。例えば、基点決定部407は、図8の仮想視点813のように、視線方向を左右方向へスイングした場合には、そのスイングが開始された地点を基点912として決定しうる。なお、動線が変化した地点や視線方向の変化が開始された地点を基点にすると説明したが、これに限定されず、例えば動線や視線方向の変化点より所定区間だけ動線の開始地点側に遡った地点を基点としてもよい。また、仮想視点の移動速度の変化や移動距離が所定距離に達したこと等に応じて基点が決定されてもよい。このように、仮想視点の状態に基づいて動線上に基点を決定することにより、仮想視点画像の再生時にスキップ操作またはリピート操作をした場合、基点単位の移動が可能となり、重要なシーンの検索が容易となる。また、仮想視点の動きや視線方向が変化するのは、重要なシーンであることが想定されるため、上述のように基点を設定し、その基点からの再生を行うことにより、重要なシーンからの仮想視点画像の再生を行うことが可能となる。また、例えば仮想視点画像のスキップ等のユーザ操作が行われた場合にも、基点からの再生を行うことにより、重要なシーンからの仮想視点画像の再生を行うことが可能となる。
なお、基点決定部407は、S702において決定した基点に対して、付帯情報として優先順位と再生速度とを付与しうる(S703)。
基点決定部407は、各基点に対して優先順位を定める場合、動線の開始地点から終了地点までの間を任意の区間に分割し、その区間ごとに優先順位を決める。このとき、基点決定部407は、動線の終了地点に近い区間から順位を決める。また、基点決定部407は、各区間について、その区間の動線が旋回の場合、動線の終了地点から遠い基点から順位を決定する。また、基点決定部407は、その区間の動線が直線の場合、動線の終了地点から近い基点から順位を決定する。図10に、基点決定部407による、基点に対する優先順位の付与の例を示す。基点決定部407は、動線の開始地点から終了地点までの間を、基点911から基点913までの直線区間と、基点913から基点915までの旋回区間に分割し、動線の終了地点に近い旋回区間の順位を決めた後に、直線区間の順位を決める。基点決定部407は、旋回区間の基点に対する順位の付与において、動線の終了地点から最も遠い基点913に優先順位1を付与し、基点914に優先順位2、基点915に優先順位3を付与する。また、基点決定部407は、直線区間の基点に対する順位の付与において、動線の終了地点から最も近い基点912に優先順位4、基点911に優先順位5を付与する。なお、最も高い優先度を示す優先順位は1である。このように基点の付帯情報として優先順位が付与されることにより、優先度の高い基点からの仮想視点画像の再生が可能となる。例えば、時短再生など再生時間が短く設定されている場合に、動線の終了地点から再生時間だけ遡った地点までの範囲に含まれる基点の中から優先度の高い基点を検出することにより、その検出された基点からの再生を開始することが可能となる。このため、時短再生においても重要なシーンが含まれる仮想視点画像を再生することができる。このときに、上述のように、動線の終了地点と基点との位置関係に基づいて優先順位を決定することにより、重要なシーンが含まれる傾向にある動線の後半部分が時短再生時にも再生されるようにすることができる。なお、基点決定部407は、例えば注視点と基点の間の位置関係に基づいて、優先順位を設定してもよい。すなわち、注視点と各基点との間の距離が短いほど、優先順位を高く設定し、この距離が長いほど、優先順位を低く設定してもよい。
また、基点決定部407は、各基点に対して再生速度を定める場合、動線の開始地点から終了地点までの間を任意の区間で分割し、その区間ごとに再生速度を決める。また、基点決定部407は、区間の動線が旋回の場合、再生速度を1倍速以下に決定する。また、基点決定部407は、区間の動線が直線の場合、動線の終了地点から遠ざかるにつれて再生速度が速くなる倍速に、再生速度を決定する。図11に、基点決定部407による基点に対する再生速度の付与の例を示す。基点決定部407は、動線の開始地点から終了地点までの間を、基点911から基点913までの直線区間と、基点913から基点915までの旋回区間に分割し、動線の終了地点に近い旋回区間の再生速度を決めた後に、直線区間の再生速度を決める。基点決定部407は、旋回区間の基点に対する再生速度の付与において、例えば、基点913と基点915に1倍速、基点914に0倍速(停止)を付与する。この場合、例えば、基点913から基点914の間と基点914から基点915の間において1倍速で再生を行う一方で、基点914において所定期間の間再生を停止するように再生が行われうる。また、基点決定部407は、直線区間の基点に対する再生速度の付与において、例えば、基点912に2倍速、基点911に3倍速を付与する。例えば、基点911から基点912の間は3倍速で、また、基点912から基点913の間は2倍速で、再生が行われるように再生制御が行われうる。このように、重要なシーンが含まれることが想定される動線の終了地点の付近では、等速又は低速再生を行い、動線の終了地点から離れた地点においては高速再生が行われるように、再生速度が決定されうる。なお、各基点に対して付与される再生速度はこれに限定されず、再生時間内に収まるように再生速度が決定されてもよい。例えば、時短再生など再生時間が短い場合、直線区間の基点の再生速度を更に大きな数値としてもよい。このように基点の付帯情報として再生速度を付与することで、動線の開始地点から終了地点までの間に再生速度を可変的に切り替えることができるようになる。したがって、重要なシーンに対応する旋回区間については仮想視点画像をスローで再生し、重要なシーン以外は早送りで再生することができるようになる。なお、2つの基点の間の再生速度は、両端の基点の再生速度に基づいて再生速度が連続的に切り替わる無段階変速となるようにしてもよい。これによれば、基点911から基点912の間は3倍速から2倍速になるように、また、基点912から基点913の間は、2倍速から1倍速になるように、徐々に再生速度を遅くするような再生制御が行われうる。例えば基点913から基点914に向かって、徐々に再生速度を遅くし、基点914において所定期間の間再生を停止し、基点914から基点915に向かって、徐々に再生速度を早くするように再生が行われうる。なお、基点決定部407は、例えば注視点と基点の間の位置関係に基づいて、再生速度を設定してもよい。すなわち、注視点と各基点との間の距離が短いほど、再生速度を遅く設定し、この距離が長いほど、再生速度を速く設定してもよい。なお、上述のような再生速度の制御は、ユーザが可変フレームレート(変速再生)を実行するためのユーザインタフェース上のボタンを押下した場合に、行われてもよく、このボタンの押下がない場合には等速再生を行うようにしてもよい。
本実施形態によれば、動線およびその動線上を移動する仮想視点の視線方向に基づいて、動線上に少なくとも1つ以上の基点を決定することができる。これにより、重要なシーンにおいて又はそのシーンより所定区間だけ前の点において自動で基点を設定することができる。そして、再生時に例えば重要なシーンまでシーンをスキップすること等により、その重要なシーンから仮想視点画像の再生を行うことができる。また、決定した基点ごとに優先順位や再生速度の付帯情報を付与することができる。これにより、例えば再生時間の長さに応じて、重要なシーンを抽出して再生し、又は、相対的に重要でないシーンの再生速度を上げることにより、動線の開始地点から終了地点までの間に含まれる重要なシーンが再生されないことを防ぐことができる。
なお、上述の実施形態は一例に過ぎず、その各構成要素や各処理の組み合わせに対する様々な変形が可能であり、これらの変形物も、当然に本発明の範囲に含まれる。例えば、上述の実施形態では、ユーザ端末203から仮想視点画像の再生要求を受け付けた際に、図7の処理が実行される場合について説明したが、これに限られない。基点決定部407は、取得部404を介してシュートや反則などが発生した際のイベントトリガ信号を受信する度に、図7の処理を実行してもよい。この場合、情報処理装置202は、その都度、例えばユーザの位置からイベントトリガ信号に応じた位置へ向けて仮想視点が移動し、特定の位置で旋回する動線を形成し、その動線上で基点を決定して付帯情報を生成し、ユーザ端末203へ送信しうる。ユーザ端末203は、仮想視点画像群を受信したユーザ端末203は、表示を仮想視点画像の再生に切り替えてもよいし、仮想視点画像の再生を促す通知を画面に表示してもよい。これによれば、ユーザが、直近に発生したイベントに係る仮想視点画像を見逃すことなく視聴することができるようになる。
また、上述の実施形態では、画像生成装置201を含む画像処理システム100を用いて説明したが、これに限定されない。例えば、図12に示すように、画像処理システム1200が、記憶装置204と情報処理装置202とを有して構成されてもよい。画像処理システム1200は、一例において、仮想視点画像の編集システムでありうる。記憶装置204は、仮想視点画像群が記録されており、仮想視点画像群の付帯情報として、動線と動線上を移動する仮想視点の視線方向が記録される。この場合、情報処理装置202は、分離部403において、仮想視点画像と、動線及びその動線上を移動する仮想視点の視線方向の情報とを分離して出力する。基点決定部407は、上述の手法と同様の処理によって、動線上に少なくとも1つの基点を決定し、基点ごとの優先順位や再生速度を付与する。画像取得部408は、分離部403から取得した仮想視点画像群の付帯情報に対して、基点決定部407で決定された基点を追加する。画像出力部409は、基点に係る情報が追加された仮想視点画像群の付帯情報と、仮想視点画像群とを記憶装置204に出力する。これによれば、記憶装置204に記録されている仮想視点画像群の付帯情報に基点を付与することができる。
また、上述の実施形態では、仮想視点の動き(動線)の変化や視線方向の変化に応じて基点が決定される例について説明したが、これに限られない。すなわち、仮想視点画像が構成される仮想空間上の視点の軌道の状態及び視線方向の状態を含んだ仮想視野についての他の状態変化に基づいて、基点が決定されてもよい。例えば、仮想視点が仮想空間において直線移動中に一時動きを停止してその後同じ直線に沿って移動を開始した場合、その停止した点が基点として設定されてもよい。また、仮想視野の状態に一定時間変化がなかった場合に、その一定時間経過の時点で基点が設定されてもよい。すなわち、基点は、仮想空間上の仮想視野の任意の状態に基づいて設定されてもよい。
また、情報処理装置202は、仮想視点画像と基点の情報とをともに出力すると説明したが、これに限られない。例えば、情報処理装置202は、仮想視点画像が構成される仮想空間における視点の移動経路を示す動線の情報と、視点と視線方向とを含んだ仮想視野の状態を示す情報とを取得し、動線上の少なくとも1つの基点を決定して出力するだけでもよい。すなわち、情報処理装置202は、仮想視点画像を出力しなくてもよい。このとき、ユーザ端末203は、例えば、仮想視点画像と、基点の情報とを別個に取得して、基点の情報に基づいて仮想視点画像の再生制御を実行するようにしてもよい。なお、基点に応じた優先順位や再生速度の付与は、情報処理装置202によって行われてもよいし、他の装置によって行われてもよい。これらの優先順位や再生速度の情報も、仮想視点画像とは別個にユーザ端末203に提供されてもよい。同様に、図12のような場合には、情報処理装置202は、記憶装置204に対して、仮想視点画像に付与するのではなく、基点の情報のみを(場合によっては優先順位や再生速度の情報も)提供してもよい。この場合、記憶装置204は、提供された情報を付帯情報として仮想視点画像に付加してもよいし、再生時に、これらの情報を仮想視点画像と別個の情報として再生装置(ユーザ端末203)に提供してもよい。
また、上述の実施形態では、サッカーの試合を撮影する場合の例を説明したが、これに限られない。例えばラグビー、テニス、アイススケート、バスケットボール等の他のスポーツの試合や、ライブやコンサートなどの演奏の撮影にも、上述の議論を適用することができる。
<<その他の実施形態>>
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
201:画像生成装置、202:情報処理装置、203:ユーザ端末、204:記憶装置、405:注視点決定部、406:動線決定部、407:基点決定部、408:画像取得部、409:画像出力部
Claims (14)
- 仮想視点画像が構成される仮想空間において視点が移動する経路を特定する特定手段と、
前記仮想空間における前記視点の軌道と視線方向とを含んだ仮想視野の状態を取得する取得手段と、
前記状態に基づいて、前記経路における少なくとも1つの基点を決定する決定手段と、
前記少なくとも1つの基点の情報を出力する出力手段と、
を有し、
前記少なくとも1つの基点は、前記仮想視点画像の再生制御に用いられる、
ことを特徴とする情報処理装置。 - 前記決定手段は、前記経路の開始地点および終了地点を前記基点として決定することを特徴とする請求項1に記載の情報処理装置。
- 前記決定手段は、前記経路において前記仮想視野の状態の変化があった点を前記基点として決定することを特徴とする請求項1又は2に記載の情報処理装置。
- 前記決定手段は、前記経路において前記仮想視野の状態の変化があった点より所定区間だけ前の点を前記基点として決定することを特徴とする請求項1又は2に記載の情報処理装置。
- 前記決定手段は、前記視線方向の移動を開始した点を、前記仮想視野の状態の変化があった点として、前記基点として決定することを特徴とする請求項3又は4に記載の情報処理装置。
- 前記仮想視野の状態は、前記視点の移動距離と移動速度の少なくともいずれかをさらに含むことを特徴とする請求項1から5のいずれか1項に記載の情報処理装置。
- 前記決定手段は、前記基点に優先順位を付与することを特徴とする請求項1から6のいずれか1項に記載の情報処理装置。
- 前記決定手段は、前記経路の終了地点と前記基点との位置関係または前記仮想空間における注視点と前記基点との位置関係に基づいて、前記優先順位を決定することを特徴とする請求項7に記載の情報処理装置。
- 前記仮想視点画像の再生制御において、再生時間と前記優先順位とに基づいて、当該仮想視点画像の再生を開始する基点が決定されることを特徴とする請求項7又は8に記載の情報処理装置。
- 前記決定手段は、前記基点に対して再生速度を定めることを特徴とする請求項1から9のいずれか1項に記載の情報処理装置。
- 前記決定手段は、前記経路の終了地点と前記基点との位置関係または前記仮想空間における注視点と前記基点との位置関係に基づいて、前記再生速度を定めることを特徴とする請求項10に記載の情報処理装置。
- 前記出力手段は、前記仮想視点画像と共に、当該仮想視点画像に対する付帯情報として、前記少なくとも1つの基点の情報を出力することを特徴とする請求項1から11のいずれか1項に記載の情報処理装置。
- 情報処理装置の制御方法であって、
特定手段が、仮想視点画像が構成される仮想空間において視点が移動する経路を特定する特定工程と、
取得手段が、前記仮想空間における前記視点の軌道と視線方向とを含んだ仮想視野の状態を取得する取得工程と、
決定手段が、前記状態に基づいて、前記経路における少なくとも1つの基点を決定する決定工程と、
出力手段が、前記少なくとも1つの基点の情報を出力する出力工程と、
を有し、
前記少なくとも1つの基点は、前記仮想視点画像の再生制御に用いられる、
ことを特徴とする制御方法。 - コンピュータを、請求項1から12のいずれか1項に記載の情報処理装置が有する各手段として機能させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018198707A JP2020067716A (ja) | 2018-10-22 | 2018-10-22 | 情報処理装置、制御方法、及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018198707A JP2020067716A (ja) | 2018-10-22 | 2018-10-22 | 情報処理装置、制御方法、及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2020067716A true JP2020067716A (ja) | 2020-04-30 |
Family
ID=70390355
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018198707A Pending JP2020067716A (ja) | 2018-10-22 | 2018-10-22 | 情報処理装置、制御方法、及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2020067716A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7458889B2 (ja) | 2020-05-08 | 2024-04-01 | キヤノン株式会社 | 画像表示装置、制御方法、およびプログラム |
-
2018
- 2018-10-22 JP JP2018198707A patent/JP2020067716A/ja active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7458889B2 (ja) | 2020-05-08 | 2024-04-01 | キヤノン株式会社 | 画像表示装置、制御方法、およびプログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7132730B2 (ja) | 情報処理装置および情報処理方法 | |
RU2745414C2 (ru) | Устройство обработки информации, способ генерации изображения, способ управления и носитель данных | |
CN109889914B (zh) | 视频画面推送方法、装置、计算机设备及存储介质 | |
US10902676B2 (en) | System and method of controlling a virtual camera | |
US10771760B2 (en) | Information processing device, control method of information processing device, and storage medium | |
CN108369816B (zh) | 用于从全向视频创建视频剪辑的设备和方法 | |
CN107852476B (zh) | 动画播放装置、动画播放方法、动画播放系统以及动画发送装置 | |
CN111357296B (zh) | 影像分发装置、影像分发系统、影像分发方法及存储介质 | |
JP4965475B2 (ja) | 仮想移動表示装置 | |
JP7466730B2 (ja) | プログラム、電子機器およびデータ記録方法 | |
KR102475994B1 (ko) | 정보 처리장치, 정보 처리방법 및 기억매체 | |
JP2020086983A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
WO2021241430A1 (ja) | 情報処理装置、情報処理方法、プログラム | |
JP2020067716A (ja) | 情報処理装置、制御方法、及びプログラム | |
JP6571859B1 (ja) | 映像配信装置、映像配信システム、映像配信方法及び映像配信プログラム | |
KR20160137924A (ko) | 객체 상태 저장 방식 게임 동영상 녹화 및 재생 방법 | |
JP5552712B2 (ja) | 動画伝送サーバ | |
KR20160114481A (ko) | 객체 상태 저장 방식 게임 동영상 녹화 및 재생 방법 | |
US10137371B2 (en) | Method of recording and replaying game video by using object state recording method | |
JP2020013470A (ja) | 情報処理装置、情報処理方法、及びプログラム | |
WO2023127430A1 (ja) | 情報処理装置、画像処理方法、プログラム | |
JP2024046244A (ja) | 画像処理システム、画像処理方法及びコンピュータプログラム | |
JP2021179687A (ja) | 情報処理装置、情報処理方法およびプログラム | |
JP2023163133A (ja) | 画像処理システム、画像処理方法及びコンピュータプログラム | |
JP2022173865A (ja) | プレイ分析装置、プレイ分析方法、及び、コンピュータプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20210103 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210113 |