JP2019114147A - 情報処理装置、情報処理装置の制御方法及びプログラム - Google Patents
情報処理装置、情報処理装置の制御方法及びプログラム Download PDFInfo
- Publication number
- JP2019114147A JP2019114147A JP2017248475A JP2017248475A JP2019114147A JP 2019114147 A JP2019114147 A JP 2019114147A JP 2017248475 A JP2017248475 A JP 2017248475A JP 2017248475 A JP2017248475 A JP 2017248475A JP 2019114147 A JP2019114147 A JP 2019114147A
- Authority
- JP
- Japan
- Prior art keywords
- processing apparatus
- information processing
- virtual viewpoint
- viewpoint image
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/111—Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
- H04N13/117—Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation the virtual viewpoint locations being selected by the viewers or determined by viewer tracking
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/04815—Interaction with a metaphor-based environment or interaction object displayed as three-dimensional, e.g. changing the user viewpoint with respect to the environment or object
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/30—Arrangements for executing machine instructions, e.g. instruction decode
- G06F9/30003—Arrangements for executing specific machine instructions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/243—Image signal generators using stereoscopic image cameras using three or more 2D image sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/275—Image signal generators from 3D object models, e.g. computer-generated stereoscopic image signals
- H04N13/279—Image signal generators from 3D object models, e.g. computer-generated stereoscopic image signals the virtual viewpoint locations being selected by the viewers or determined by tracking
Abstract
【課題】 仮想視点画像の視点の設定を簡略化することを目的とする。【解決手段】 本発明は、複数の撮影装置により撮影された複数の画像を用いて生成される仮想視点画像に係る視点の位置を決定する情報処理装置であって、前記複数の撮影装置の撮影対象に基づく所定の範囲内の位置を示す位置情報を取得する第1取得手段と、前記第1取得手段により取得された位置情報に基づいて、前記第1取得手段により取得された位置情報が示す位置とは異なる位置を視点として前記撮影対象を写すための仮想視点画像に係る視点の位置を決定する決定手段と、を有することを特徴とする。【選択図】 図3
Description
本発明は、仮想視点画像を生成する技術に関するものである。
複数の撮像装置を異なる位置に設置し、複数の撮像装置が同期して被写体を撮像し、当該撮像により得られた複数の視点の画像を用いて、撮像装置の設置位置の画像だけでなく任意の視点の画像を仮想視点画像として生成する技術がある。例えば、スポーツ競技を撮像した画像から、ユーザにより指定された視点に応じた仮想視点画像を生成することにより、ユーザは、自身の好みの視点で試合を観戦することができる。特許文献1では、複数の撮像装置により撮影された画像から仮想視点画像を生成する技術が開示されている。
例えば、スタジアムでのスポーツ競技を観戦しているユーザが、自身の携帯端末などの表示装置を用いて、スポーツ競技の仮想視点画像を視聴する場合を考える。この場合、ユーザは、ユーザからは見えにくい視点から競技を視聴することができ、利便性が向上し得る。
しかしながら、仮想視点の設定に慣れていないユーザでは、ユーザの位置における視界を考慮した仮想視点の設定に時間がかかってしまったり、所望の位置に仮想視点を設定できなかったりする恐れがあった。この場合、競技がリアルタイムで進行していると、ユーザは、仮想視点の設定のための操作に集中してしまい競技を見逃す可能性があった。このような仮想視点の設定に慣れていないユーザであっても、利便性が向上する仮想視点画像に係る視点の設定を容易にするための技術が望まれる。なお、仮想視点画像に係る視聴対象は、スポーツ競技に限らず、コンサートや他のイベントでも同様な問題が生じ得る。
上述の課題を鑑みて、本発明は、仮想視点画像に係る視点の設定を容易にすることを目的とする。
上述した課題を解決するために、本発明は、
複数の撮影装置により撮影された複数の画像を用いて生成される仮想視点画像に係る視点の位置を決定する情報処理装置であって、
前記複数の撮影装置の撮影対象から所定の範囲内の位置を示す位置情報を取得する第1取得手段と、
前記第1取得手段により取得された位置情報に基づいて、前記第1取得手段により取得された位置情報が示す位置とは異なる位置を視点として前記撮影対象を写すための仮想視点画像に係る視点の位置を決定する決定手段と、
を有することを特徴とする。
複数の撮影装置により撮影された複数の画像を用いて生成される仮想視点画像に係る視点の位置を決定する情報処理装置であって、
前記複数の撮影装置の撮影対象から所定の範囲内の位置を示す位置情報を取得する第1取得手段と、
前記第1取得手段により取得された位置情報に基づいて、前記第1取得手段により取得された位置情報が示す位置とは異なる位置を視点として前記撮影対象を写すための仮想視点画像に係る視点の位置を決定する決定手段と、
を有することを特徴とする。
また、本発明の他の態様は、
複数の撮影装置により撮影された複数の画像を用いて生成される仮想視点画像に係る視点の位置を決定する情報処理装置であって、
ユーザに関する位置情報を取得する第1取得手段と、
前記複数の撮影装置のうちの少なくとも1つ以上により撮影される特定の位置を示す位置情報を取得する第2取得手段と、
前記第1取得手段により取得された位置情報が示す位置と、前記第2取得手段により取得された位置情報が示す位置とに基づいて、前記複数の撮影装置の撮影対象を写すための仮想視点画像に係る視点の位置を決定する決定手段と、
を有することを特徴とする。
複数の撮影装置により撮影された複数の画像を用いて生成される仮想視点画像に係る視点の位置を決定する情報処理装置であって、
ユーザに関する位置情報を取得する第1取得手段と、
前記複数の撮影装置のうちの少なくとも1つ以上により撮影される特定の位置を示す位置情報を取得する第2取得手段と、
前記第1取得手段により取得された位置情報が示す位置と、前記第2取得手段により取得された位置情報が示す位置とに基づいて、前記複数の撮影装置の撮影対象を写すための仮想視点画像に係る視点の位置を決定する決定手段と、
を有することを特徴とする。
本発明によれば、仮想視点画像の視点の設定が容易になる。
以下、図面を参照して実施形態を説明する。図1は、本実施形態の画像処理システムの概略の一例を示す図である。図1に示す通り、競技等を実際に行うフィールドと、観客席を有するスタジアムに、複数のカメラを設置している。複数のカメラは、フィールドと観客席を囲むように設置される。また、ユーザは観客席から競技を観戦している。
次に図2を参照して、本実施形態に係る画像処理システムの構成について説明する。図2に示すように画像処理システムは、スタジアムに設置された複数のカメラと、画像生成装置200と、情報処理装置100と、ユーザ端末300を有する。複数のカメラは、伝送ケーブルを介して相互に接続される。複数のカメラは、撮影画像を画像生成装置200に伝送する。図1に示す例では、サッカー場などのスタジアムの全てまたは一部の範囲が複数のカメラで撮像されるように、複数のカメラが配置される。複数のカメラは、静止画像を撮像するカメラであっても、動画像を撮像するカメラであっても、静止画像および動画像の双方を撮像するカメラであってもよい。本実施形態では、画像という文言を特に断りがない限り静止画および動画を含むものとして説明を行う。
画像生成装置200は、仮想視点画像を生成する装置である。画像生成装置200は、複数のカメラにより撮像された画像を蓄積する。画像生成装置200は、複数のカメラにより撮像された画像を用いて、仮想視点画像群を生成する。仮想視点画像群とは、それぞれが異なる視点である複数の仮想視点画像である。画像生成装置200は、生成した仮想視点画像を、情報処理装置100に伝送する。画像生成装置200は、例えば、サーバ装置であり、複数の撮影画像や生成した仮想視点画像群を記憶するデータベース機能や、仮想視点画像を生成するための画像処理機能を有する。また、スタジアム内の複数のカメラと、画像生成装置200は、有線もしくは無線の通信ネットワーク回線や、SDI(Serial Digital Interface)などのケーブル回線で接続されている。画像生成装置200は、この回線を通じて複数のカメラからの撮影された画像を受信してデータベースに記憶する。
情報処理装置100は、画像生成装置200で生成される仮想視点画像群から、ユーザ端末300に提供する仮想視点画像を選択する。即ち、情報処理装置100は、出力する仮想視点画像に係る視点や視線の方向を決定する装置である。情報処理装置100は、ユーザ端末300からユーザの操作に基づく仮想視点情報を取得した場合、仮想視点情報に対応する位置と方向を、出力する仮想視点画像の視点や視線の方向として決定する。仮想視点情報には、位置情報と方向情報とが少なくとも含まれる。情報処理装置100は、仮想視点情報に対応する仮想視点画像を仮想視点画像群から選択し、出力する。なお、情報処理装置100は、仮想視点情報に対応する仮想視点画像を、画像生成装置200で生成される仮想視点画像群を画像処理することで生成してもよい。
また、情報処理装置100は、ユーザ端末300からユーザの位置情報を取得した場合、ユーザ端末300の位置情報に対応した仮想視点画像を、画像生成装置200で生成される仮想視点画像群から選択して出力する。なお、情報処理装置100は、ユーザ端末300の位置情報に対応する仮想視点画像を、画像生成装置200で生成される仮想視点画像群を画像処理することで生成してもよい。
情報処理装置100は、例えば、パーソナルコンピュータである。なお、情報処理装置100は、画像生成装置200に組み込まれていてもよく、また、ユーザ端末300に組み込まれていてもよい。即ち、情報処理装置100は、画像生成装置200と一体の装置であってもよいし、ユーザ端末300一体の装置であってもよい。
ユーザ端末300は、本実施形態に係る画像処理システムを利用するユーザが所持する情報処理装置である。なお、ユーザ端末300は、ユーザのIDと関連付けられている情報処理装置であってもよい。ユーザ端末300は、情報処理装置100から出力される仮想視点画像をユーザ端末300が備える表示画面に表示する。また、ユーザ端末300は、ユーザの入力に基づいて、例えば、仮想視点の位置の移動、仮想視点の視線方向の変更、および視点の切り替えの指示を受け付け、その内容を示す伝送信号を仮想視点情報として情報処理装置100へ伝送する。また、ユーザ端末300は、位置情報に基づく仮想視点の自動設定を情報処理装置100に要求する。ここで、ユーザ端末300は、例えば、PC(PERSONAL COMPUTER)、スマートフォンなどの携帯電話またはタブレットであり、例えば、マウス、キーボード、6軸コントローラ、およびタッチパネルの少なくとも1つを有する。ユーザ端末300は、GPS(Global Positioning System)などにより位置情報を取得する機能を有する。
画像生成装置200、情報処理装置100及びユーザ端末300は、例えば、インターネットなどのネットワークを介して相互に情報のやり取りが可能である。装置間の通信は、無線通信を介してもよいし、有線通信を介してもよい。
次に、画像生成装置200、情報処理装置100及びユーザ端末300の構成の一例について説明する。図7は、画像生成装置200、情報処理装置100及びユーザ端末300のハードウェアの構成の一例を示す図である。装置7000(ユーザ端末300、画像生成装置200または情報処理装置100)は、コントローラユニット700、操作ユニット709、および表示装置710を含む。
コントローラユニット700は、CPU701を有する。CPU701は、ROM702に格納されているブートプログラムによりOS(OPERATING SYSTEM)を起動する。CPU701は、このOS上で、HDD(HARD DISK DRIVE)704に格納されているアプリケーションプログラムを実行する。CPU701は、アプリケーションプログラムの実行によって各種処理を実現する。CPU701の作業領域としてはRAM703が用いられる。HDD704は、アプリケーションプログラムなどを格納する。なお、CPU701は、一つのプロセッサであっても、複数のプロセッサであってもよい。
CPU701は、システムバス708を介して、ROM702、RAM703、操作部I/F705、表示部I/F706、および通信I/F707と相互に接続される。操作部I/F705は、操作ユニット709とのインターフェースである。操作部I/F705は、操作ユニット709によってユーザにより入力された情報をCPU701に送出する。操作ユニット709は、例えば、マウスおよびキーボードなどを有する。表示部I/F706は、表示装置710に表示すべき画像データを表示装置710に対して出力する。表示装置710は、液晶ディスプレイなどのディスプレイを有する。通信I/F707は、例えばイーサネット(登録商標)などの通信を行うためのインターフェースであり、伝送ケーブルに接続される。通信I/F707は、伝送ケーブルを介して、外部装置との間で情報の入出力を行う。なお、通信I/F707は、無線通信を行うための回路やアンテナであってもよい。また、装置7000は、ケーブルやネットワークを介して接続された外部の表示装置710に画像を表示させる表示制御を行うことも可能である。この場合、装置7000は、表示データを表示装置710に出力することで表示制御を実現する。なお、図7で示した構成のすべてが画像生成装置200または情報処理装置100において必須の構成とは限らない。例えば画像生成装置200において、表示装置710は必須の構成ではない。なお、コントローラユニット700が、CPU701を有するものとして説明を行ったが、これに限らない。例えば、コントローラユニット700は、CPU701の代わりに、または、CPU701と共に、ASICやFPGAなどのハードウェアを有していてもよい。この場合、ASICやFPGAなどのハードウェアが、CPU701が行うべき処理の一部または全てを行ってもよい。
<情報処理装置100>
次に、図3を参照して、情報処理装置100及び画像生成装置200の機能構成の一例を説明する。図3は、本実施形態の情報処理装置100及び画像生成装置200の機能的な構成の一例を示す図である。図3に示す各構成は、図7のCPU701がROM702に記録された各種プログラムを読み出して各部の制御を実行することにより実現される。なお、図3に示す各構成は、一部またはすべてを、専用のハードウェアにより実現されてもよい。専用のハードウェアは、例えば、ASICやFPGAである。
次に、図3を参照して、情報処理装置100及び画像生成装置200の機能構成の一例を説明する。図3は、本実施形態の情報処理装置100及び画像生成装置200の機能的な構成の一例を示す図である。図3に示す各構成は、図7のCPU701がROM702に記録された各種プログラムを読み出して各部の制御を実行することにより実現される。なお、図3に示す各構成は、一部またはすべてを、専用のハードウェアにより実現されてもよい。専用のハードウェアは、例えば、ASICやFPGAである。
情報処理装置100は、図3に示す通り、制御部101、記憶部102、分離部103、取得部104、視点決定部105、画像取得部106及び画像出力部107を有する。これらは、内部バス108によって相互に接続され、制御部101による制御の下、相互にデータを送受信することができる。
制御部101は、記憶部102に格納されているコンピュータプログラムに従って情報処理装置100全体の動作を制御する。記憶部102は、ハードディスクなどの不揮発性メモリを有する。記憶部102の不揮発性メモリには、情報処理装置100全体の動作を制御するコンピュータプログラム等が格納されている。分離部103は、画像生成装置200から取得した仮想視点画像群と、回転基点データとを分離して出力する。回転基点データの詳細については後述する。
取得部104は、ユーザに関する位置情報または仮想視点情報をユーザ端末300から取得する。取得部104は、ユーザ端末300がGPSで取得した位置情報をユーザの位置情報としてユーザ端末300から取得してよい。また、取得部104は、スタジアムの観客席の席番号など位置を示す情報を取得し、取得した情報に基づいてユーザの位置情報を特定してもよい。また、取得部104は、スタジアムなどの地図情報からユーザの選択により特定された位置をユーザ端末300からユーザの位置情報として取得してもよい。また、取得部104は、ユーザ端末300の位置情報とユーザ端末300が測距したユーザとの距離に基づいてユーザの位置情報を特定してもよい。また、取得部104は、スタジアム敷地内であり、複数のカメラによる撮影対象であるフィールド上の選手やフィールドの所定の位置を見ることができる位置を示す位置情報を取得するようにしてもよい。取得部104は、撮影対象であるフィールドから所定の範囲内である位置を示す位置情報を取得するようにしてもよい。ここでの所定の範囲は、フィールドから10m以内など予め定めた範囲であってもよい。また、所定の範囲は、撮影対象であるフィールドを有するスタジアムから数m〜数10mなどの範囲であってもよい。また、所定の範囲は、撮影対象であるフィールドを有するスタジアムなど、人物が存在し得る範囲であってもよい。また、所定の範囲は、ユーザから座席番号を取得し、取得した座席番号からら数m〜数10m以内などの範囲であってもよい。また、所定の範囲は、撮影対象であるフィールドを有する座席がある領域内など、人物が存在し得る範囲であってもよい。また、所定の範囲は、回転基点から数m〜数10mなどの範囲など、人物が存在し得る範囲であってもよい。また、情報処理装置100は、取得した位置情報が示す位置が撮影対象であるフィールドを有するスタジアム内等の定めた所定の範囲内ではない場合、エラーとして処理を終了してもよい。また、情報処理装置100は、取得部104が取得した位置情報により示される位置が、複数のカメラによる撮影対象であるフィールド上の選手やフィールドの所定の位置を見ることができない位置である場合、処理をエラー終了してもよい。また、取得部104は、後述する回転基点から所定の範囲内であって、回転基点を見ることができる位置を示す位置情報を取得するようにしてもよい。また、情報処理装置100は、後述する回転基点から所定の範囲ではなく、回転基点を見ることができない位置を示す位置情報を取得した場合、処理をエラー終了してもよい。
視点決定部105は、ユーザ端末300に出力する仮想時点画像に係る視点の位置及び/または視線の方向を決定する。視点決定部105は、仮想時点画像に係る視点の位置として三次元座標上の位置を決定するものとして説明を行うが、二次元平面上の位置を決定する構成としてもよい。この場合、視点決定部105は、仮想時点画像に係る視点の位置の高さを、取得部104が取得した位置情報を用いることなく、任意の値または固定値に決定してもよい。
視点決定部105は、取得部104が、ユーザ端末300から仮想視点情報を取得した場合、その仮想視点情報が示す位置や方向を、ユーザ端末300に出力する仮想時点画像に係る視点の位置や視線の方向として決定する。また、視点決定部105は、取得部104が、ユーザ端末300から位置情報を取得した場合、分離部103で分離した回転基点データと位置情報をもとに出力する仮想視点画像の視点の位置や視線の方向を決定する。画像取得部106は、視点決定部105で決定した視点に対応する仮想視点画像を取得する。なお、画像取得部106は、画像生成装置200から受信した情報に基づいて仮想視点画像をレンダリングして生成する機能を有していてもよい。画像出力部107は、画像取得部106によって取得された画像を、ユーザ端末300に出力する。
<画像生成装置200>
次に、図3を参照して、画像生成装置200の機能構成の一例を説明する。
次に、図3を参照して、画像生成装置200の機能構成の一例を説明する。
画像生成装置200は、制御部201、記憶部202、撮影画像入力部203、画像記憶部204、仮想視点画像生成部205、回転基点データ生成部206、画像解析部207及びデータ出力部208を有する。これらは、内部バス108によって相互に接続され、制御部201による制御の下、相互にデータを送受信することができる。
制御部201は、記憶部202に格納されているコンピュータプログラムに従って画像生成装置200全体の動作を制御する。記憶部202は、ハードディスクなどの不揮発性メモリを有する。記憶部202の不揮発性メモリには、画像生成装置200全体の動作を制御するコンピュータプログラム等が格納されている。
撮影画像入力部203はスタジアムに設置された複数のカメラが撮影した画像を所定のフレームレートで取得し、画像記憶部204へ出力する。撮影画像入力部203は、有線もしくは無線の通信モジュール、或いはSDI等の画像伝送モジュールにより撮影画像を取得する。画像記憶部204は、撮影画像入力部203より取得した撮影画像、及びそれらを元に生成された仮想視点画像群を記憶する大容量の記憶装置である。画像記憶部204としては、たとえば、磁気ディスク、光ディスク、半導体メモリ、等が使用される。なお、画像記憶部204は、画像生成装置200に対して物理的に外部にあってもよい。また、画像記憶部204に記憶されている撮影画像及びそれを元に生成された仮想視点画像群は、画像フォーマットとして例えば、MXF形式(Material eXchange Format)で記憶される。画像記憶部204に記憶されている撮影画像及びそれを元に生成された仮想視点画像群は、例えば、Mpeg2形式で圧縮される。
仮想視点画像生成部205は、画像記憶部204に記憶される複数の撮影画像から仮想視点画像群を生成する。仮想視点画像群を生成する方式として、例えば、イメージベースレンダリングを用いる方式が挙げられる。イメージベースレンダリングは、モデリング(幾何学図形を使用して物体の形状を作成する過程)をしないで、複数視点の撮影画像から仮想視点画像を生成するレンダリング方法である。また、仮想視点画像群を生成する方法は、イメージベースレンダリングに限られず、モデルベースレンダリング(MODEL−BASED RENDERING:MBR)を用いてもよい。MBRとは、被写体を複数の方向から撮像した複数の撮影画像に基づいて生成される三次元モデルを用いて仮想視点画像を生成する方式である。具体的にMBRは、視体積交差法、MULTI−VIEW−STEREO(MVS)などの三次元形状復元手法により得られた対象シーンの三次元形状(モデル)を利用し、仮想視点からのシーンの見えを画像として生成する技術である。また、仮想視点画像生成部205は、出力した仮想視点画像群に、後述する回転基点データ生成部206で生成される回転基点を示すデータを付与する。
ここで、仮想視点画像生成部205が生成する仮想視点画像群は様々な視点の位置や視線の方向の仮想視点画像を含んでおり、それらを一つの画像ストリームとして空間方向及び時間方向に圧縮符号化されているものとする。なお、仮想視点画像群は、一つの画像ストリームとして空間方向及び時間方向に圧縮符号化されているものとして説明を行うがこれに限らない。仮想視点画像群は、一つの画像ストリームではなく、それぞれが独立した複数の画像であってもよい。また、仮想視点画像群は、圧縮符号化されていなくてもよい。
また、画像生成装置200は、仮想視点画像群に代えて、例えば、三次元モデルを示す情報や三次モデル情報が示す三次元モデルにマッピングするための画像など仮想視点画像を生成するための情報を生成してもよい。即ち、仮想視点画像生成部205は、レンダリングされた仮想視点画像を生成することに代えて、情報処理装置100またはユーザ端末300で仮想視点画像をレンダリングするために必要な情報を生成してもよい。回転基点データ生成部206は、後述する画像解析部207によって取得される特定のオブジェクトまたは特定の位置の位置情報を回転基点として、仮想視点画像生成部205へ出力する。回転基点とは、仮想視点画像の視点を決定する際に用いる基準点である。情報処理装置100は、回転基点を中心として、ユーザ端末300の位置を回転した点を仮想視点画像に係る視点の位置として決定する。なお、回転基点は、回転を行う中心として用いられるだけでなく、仮想視点画像の視点を決定する際に用いる基準として用いられればよい。例えば、情報処理装置100は、仮想視点画像に係る視点から見た回転基点が仮想視点画像の中心になるようにする等、回転基点を仮想視点画像に係る視線の向きを決定するために用いてもよい。また、例えば、情報処理装置100は、ユーザ端末300の位置から回転基点に向かって所定距離移動した点を仮想視点画像に係る視点の位置として決定してもよい。回転基点の位置は、スポーツ競技の場合、特定の選手やレフリーなどの人物、ボールなど、複数のカメラうちの少なくとも一つ以上に撮影される特定のオブジェクトの位置であってよい。また、複数のカメラうちの少なくとも一つ以上に撮影されるフィールドの中央、ゴール前またはペナルティマーク等のフィールド上の特定の固定位置を回転基点としてもよい。また、回転基点は、事前に登録している任意の位置を用いてもよい。
画像解析部207は、撮影画像入力部203に入力された撮影画像を解析し、回転基点の位置情報を取得する。画像解析部207は、例えば、ビジュアルハルなどの技術を用いて回転基点とする特定のオブジェクトまたは特定の位置の位置情報を取得する。上述の通り、特定のオブジェクトは、スポーツ競技の場合、特定の選手レフリーなどの人物またはボールである。また、回転基点は、フィールドの中央、ゴール前、ペナルティマーク等のフィールド上の所定の位置であってもよい。また、複数のカメラの光軸が共通の位置に向けるように設置される場合、回転基点は、その位置であってもよい。また、複数の撮影画像から特定のオブジェクトの位置情報を判定する手法は例えば特開2015−187797号公報に記載の技術を用いてもよい。また、回転基点の位置は、ユーザ端末300の位置情報や向きなどの情報を用いて決定されてもよい。
データ出力部208は、仮想視点画像生成部205で生成された仮想視点画像群を情報処理装置100へ所定のフレームレートで出力する。
以上の構成を有する画像処理システムの動作について後述する。
<仮想視点決定処理>
情報処理装置100で行われる仮想視点決定処理について説明する。仮想視点決定処理は、情報処理装置100がユーザの位置情報に基づいて仮想視点画像の視点を決定する処理である。
情報処理装置100で行われる仮想視点決定処理について説明する。仮想視点決定処理は、情報処理装置100がユーザの位置情報に基づいて仮想視点画像の視点を決定する処理である。
図4は、情報処理装置100で行われる仮想視点決定処理の一例を示すフローチャートである。なお、図4のフローチャートは、例えば、情報処理装置100がユーザ端末300から仮想視点画像決定処理を要求された場合に開始される。なお、図4のフローチャートは、情報処理装置100が仮想視点画像群を取得したことに応じて開始されてもよい。図4のフローチャートに示す処理は、CPU701が情報の演算や各ハードウェアを制御することで実現される。なお、図4のフローチャートの少なくとも一部のステップが専用のハードウェアにより実行されてもよい。専用のハードウェアは、例えば、ASICやFPGAである。
S401において、情報処理装置100は、ユーザに関する位置情報を取得部104により取得する。取得部104は、ユーザ端末300がGPSにより取得した位置情報をユーザの位置を示す情報として取得してもよいし、ユーザにスタジアムの観客席の座席番号を入力してもらい、座席番号から位置情報を算出してもよい。なお、情報処理装置100は、取得した位置情報が撮影対象に基づいて規定される所定の範囲内、例えば、撮影対象であるフィールドを有するスタジアム内ではない場合、エラーとして処理を終了してもよい。また、情報処理装置100は、S401において、複数のカメラによる撮影対象を見ることができない位置を示す位置情報を取得した場合、処理をエラー終了してもよい。また、これらの場合、情報処理装置100は、ユーザ端末300にエラーであることを示す情報を表示させてもよい。ユーザ端末300により表示されるエラーであることを示す情報は、例えば、「不適切な位置情報です。スタジアム内に移動して再度位置情報を取得してください」など、エラーの理由や位置情報の再取得を促す情報であってもよい。
S402において、情報処理装置100は、画像生成装置200から取得した仮想視点画像群に関連付けられた回転基点データを取得し、回転基点データが示す、仮想視点を決定するために用いる回転基点の位置情報を取得する。
S403において、情報処理装置100は、S401で取得したユーザの位置情報とS402で取得した回転基点の位置に基づいて仮想視点画像の視点を決定する。視点決定の方法について図5及び図6を用いて説明する。
図5は、本実施形態に係る仮想視点の決定方法を説明する図であり、スタジアムの俯瞰図である。ユーザ端末300の位置にユーザがいるものとし、回転基点をボールの位置とする。なお、回転基点は、上述の通り、特定の選手やレフリーなどの人物の位置であってもよい。また、複数のカメラの光軸が共通の位置に向けるように設置される場合、回転基点は、その位置であってもよい。また、回転基点は、フィールド上の任意の位置であってもよい。また、情報処理装置100は、ユーザ端末300の位置情報に基づいて、ユーザ端末300(ユーザ)を三次元座標上のある一点に存在するものとして処理を行う。
情報処理装置100は、スタジアムの俯瞰図において、点とみなしたユーザ端末300と回転基点とを結ぶ線と、回転基点と仮想視点との結ぶ線とがなす角度が180°となる位置を仮想視点の位置と決定する。即ち、情報処理装置100は、撮影対象を上から見た場合のユーザ端末300と回転基点とを結ぶ線と、回転基点と仮想視点との結ぶ線とがなす角度が180°となる位置を仮想視点の位置と決定する。また、情報処理装置100は、フィールドと平行な面において、ユーザ端末300を射影した点を、回転基点を射影した点を中心として180°回転した点を仮想視点の位置と決定する。
なお、図5において、決定される仮想視点の位置に仮想カメラを図示する。また、情報処理装置100は、仮想視点の視線方向を回転基点に向けた方向とする。このように、情報処理装置100は、回転基点を中心としたユーザ端末300の位置の点対称となる位置を仮想視点の位置として決定する。また、情報処理装置100は、ユーザ端末300の位置を、回転基点を中心として点対称移動した位置を仮想視点の位置として決定する。したがって、本実施形態によれば、ユーザは、仮想視点画像を生成するために、仮想視点の位置を決定するための煩雑な操作を行わずとも、ユーザからは見えない位置から着目すべき位置を写した仮想視点画像を閲覧することが可能になる。
また、情報処理装置100は、出力される仮想視点画像の画角を決定してもよい。例えば、情報処理装置100は、ユーザと回転基点の距離が近いほど、生成する仮想視点画像に係る画角が大きくなるよう仮想視点画像の画角を設定してよい。この場合、ユーザと回転基点との距離が近いユーザには、全体が見渡せる広い範囲を写す仮想視点画像を提供することでき、回転基点との距離が遠いユーザには、狭い範囲を写す仮想視点画像を提供することできる。なお、情報処理装置100は、ユーザと回転基点の距離が近いほど、生成する仮想視点画像に係る画角を小さくするように設定してもよい。なお、仮想視点画像の画角は、変動させず、固定値を用いてもよい。
また、情報処理装置100は、ユーザ端末300の位置に存在する点を、回転基点を中心として点対称移動した点を所定方向に所定距離移動させた点を仮想視点画像に係る視点の位置としてもよい。例えば、情報処理装置100は、回転後の点を、回転基点に近づける方向または回転基点に遠ざける方向に所定距離移動させた点を仮想視点画像に係る視点の位置としてもよい。
また、情報処理装置100は、撮影対象を俯瞰した場合のユーザ端末300と回転基点とを結ぶ線と、回転基点と仮想視点との結ぶ線とがなす角度が所定の角度となる位置であって、回転基点と仮想視点との結ぶ線上の任意の点を仮想視点の位置と決定してよい。
続いて、仮想視点の高さの決定方法について説明する。図6は、本実施形態に係る仮想視点の高さの決定方法を説明する図であり、スタジアムを横から見た図である。図6において、ユーザ端末300の位置にユーザがいるものとし、その高さをhとする。最高視点位置とはスタジアム内に設置されているカメラの中で高度が最も高いものを示し、その高さをh_maxとする。最低視点位置とはスタジアム内に設置されているカメラの中で高度が最も低いものを示し、その高さをh_minとする。ここで、情報処理装置100は、仮想カメラの高さh’を、h’=h_max−h+h_minとする。このように、情報処理装置100は、ユーザ端末300に高さに応じて、その高さと異なる高さを仮想視点の高さとする。したがって、例えば、ユーザが観客席の高い位置にいる場合はユーザ端末300ではフィールドに近い低い位置からの画像が表示され、ユーザが観客席の低い位置にいる場合はユーザ端末300ではフィールドを高い位置から俯瞰した画像が表示される。このように、ユーザの視点と異なる高さの仮想視点画像を生成することで、ユーザに様々な視界から競技などの撮影対象を鑑賞させることができる。なお、仮想カメラの高さを、ユーザの視点と異なる高さとするものとして説明を行ったが、仮想カメラの高さを、ユーザの視点と同じ高さとしてもよいし、任意の高さを固定値として用いてもよい。
S404において、情報処理装置100はS403で決定した視点に基づく仮想視点画像を、画像取得部106により取得する。画像取得部106はS403で決定した仮想カメラの位置から回転基点を撮影した視点となる仮想視点画像を取得する。
なお、S404において、情報処理装置100は、決定した仮想カメラの位置、画角及び高さに対応する仮想視点画像を仮想視点画像群から選択することで仮想視点画像を取得する。また、情報処理装置100は、決定した仮想カメラの位置、画角及び高さに近い仮想視点画像を仮想視点画像群から選択し、選択した仮想視点画像に対して画像処理を施すことで決定した仮想カメラの位置、画角及び高さに対応する仮想視点画像を取得してよい。
また、情報処理装置100は、仮想視点画像群から決定した仮想視点の位置に対応する仮想視点画像を選択し、選択した仮想視点画像に対してデジタルズームを行ってもよい。情報処理装置100は、仮想視点画像群から選択した仮想視点画像に対してデジタルズームを施すことで決定した画角や決定した高さに対応する仮想視点画像を生成してもよい。
また、情報処理装置100は、画像生成装置200から三次元モデルやマッピングに使用する画像など仮想視点画像を生成するための情報を取得し、決定した仮想視点の位置、高さ及び画角に対応する仮想視点画像をレンダリングすることで取得してもよい。
また、情報処理装置100は、仮想視点画像の画角を一定とし、決定した仮想カメラの位置を光軸方向に前後に移動させ、移動後の仮想カメラの位置に対応する仮想視点画像を取得することで仮想視点画像に写される光景の範囲を変更させてもよい。
S405において、情報処理装置100は、S404で取得した仮想視点画像を画像出力部107によりユーザ端末300へ出力する。
以上説明した通り、本実施形態によれば、ユーザ端末300の位置情報を基に仮想視点画像の視点位置を決定することで、ユーザは煩雑な操作を必要とせずとも、ユーザのいる位置から見えない画像をユーザ端末300に表示することが可能となる。
また、本実施形態によれば、ユーザの位置からの視界では見えにくい視点からの仮想視点画像で競技を表示装置で視聴することができ、利便性が向上し得る。また、仮想視点の設定に慣れていないユーザであっても、煩雑な操作を行うことなく、ユーザの位置と、回転基点とに基づく仮想視点画像を容易に視聴することができる。
(その他の実施形態)
なお、上述の説明において、仮想視点画像の回転基点となる対象物の位置情報を用いて仮想視点を決定したが、これに限らない。例えば、情報処理装置100は、回転基点を用いず、ユーザ端末300の位置情報により示される位置を仮想視点の位置として決定してもよい。即ち、情報処理装置100は、ユーザ端末300の位置を仮想カメラの位置としてもよい。このようにすることで、ユーザ端末300の位置をユーザによる煩雑な操作を伴うことなく仮想視点の位置として設定することができる。また、このようにすることで、ユーザは、ユーザ端末300の位置が仮想カメラの位置となるので、仮想カメラの位置を容易に認識することができる。また、この仮想カメラを移動させる入力を行うことで、所望の位置を仮想視点位置とすることが容易となる。
なお、上述の説明において、仮想視点画像の回転基点となる対象物の位置情報を用いて仮想視点を決定したが、これに限らない。例えば、情報処理装置100は、回転基点を用いず、ユーザ端末300の位置情報により示される位置を仮想視点の位置として決定してもよい。即ち、情報処理装置100は、ユーザ端末300の位置を仮想カメラの位置としてもよい。このようにすることで、ユーザ端末300の位置をユーザによる煩雑な操作を伴うことなく仮想視点の位置として設定することができる。また、このようにすることで、ユーザは、ユーザ端末300の位置が仮想カメラの位置となるので、仮想カメラの位置を容易に認識することができる。また、この仮想カメラを移動させる入力を行うことで、所望の位置を仮想視点位置とすることが容易となる。
また、情報処理装置100は、ユーザの位置情報と、回転基点となる注目すべき被写体の位置情報とに基づいて、ユーザが直接試合や競技を閲覧すべきことを警告する表示をユーザ端末300に表示させる制御を行ってもよい。例えば、ユーザ端末300の位置と回転基点(例えばボールや特定選手)の位置とが所定の距離以内であれば、競技を直接見るべきと判定し、情報処理装置100は、警告をユーザ端末300に表示させる制御を行う。なお、この警告は、ユーザ端末300に出力される仮想視点画像に重畳されて表示されてもよい。このように、ユーザが競技を直接見たほうがよい場面では警告情報を表示することで、ユーザはユーザ端末300の操作に没頭して競技を見逃すことがなくなる。
また、上述の説明において、画像生成装置200は、ユーザ端末300に出力する仮想視点画像の視点が決定する前に予め複数の視点に対応する仮想視点画像群を生成する構成を説明した。しかしながら、これに限らず、画像生成装置200は、ユーザ端末300に出力する仮想視点画像の視点の位置や視線の方向が決定した後に、この視点に関する情報を取得し、決定された視点に対応する仮想視点画像を生成する構成としてもよい。また、画像生成装置200がレンダリングした画像をユーザ端末300が表示する構成として説明を行った。しかしながら、画像生成装置200から受信した情報に基づいて情報処理装置100またはユーザ端末300がレンダリングした仮想視点画像を表示する構成としてもよい。
また、S401において、情報処理装置100は、ユーザ端末300の位置情報に限らず、ユーザ端末300の向きに関する情報をさらに取得する構成としてもよい。この場合、情報処理装置100は、ユーザ端末300の電子コンパスなどにより取得される向きに関する情報を取得する。情報処理装置100は、ユーザ端末300の位置と向きとから回転基点とする被写体を特定してもよい。例えば、情報処理装置100は、ユーザがユーザ端末300を向けている方向に存在する選手を回転基点とするオブジェクトとして特定してもよい。
また、上述の説明において、情報処理装置100は、回転基点を中心としたユーザ端末300の位置の点対称となる位置を仮想視点の位置として決定したが、これに限らない。例えば、情報処理装置100は、ユーザ端末300と回転基点とを結ぶ線と、回転基点と仮想視点との結ぶ線とがなす角度が任意の所定の角度となる位置を仮想視点の位置を決定するようにしてもよい。また、情報処理装置100は、ユーザ端末300と回転基点とを結ぶ線と、回転基点と仮想視点との結ぶ線とがなす角度が一意の角度だけでなく、例えば、150°〜210°など幅がある角度帯から仮想視点の位置を決定するようにしてもよい。
また、上述の実施形態において、回転基点が一つの例を説明したが、回転基点は2つ以上の複数あってよい。この場合、情報処理装置100は、複数の回転基点の位置と、ユーザの位置とに基づいて、仮想視点画像に係る視点の位置や視線の方向を決定してもよい。例えば、情報処理装置100は、撮影対象を上から見た場合のユーザの位置に存在するとみなす点を、第1の回転基点を中心に、第1の角度回転する。また、情報処理装置100は、回転後の点を、第2の回転基点を中心に、第2の角度回転し、回転後の点の位置を仮想視点画像に係る視点としてもよい。なお、第1の角度と第2の角度は同じ値でも異なる値でもよい。また、情報処理装置100は、第1の回転基点と、第2の回転基点と、ユーザの位置とを結ぶ三角形の重心を仮想視点画像に係る視点の位置としてよい。また、例えば、情報処理装置100は、複数の回転基点を写すことができる位置を、仮想視点画像に係る視点の位置としてもよい。このように、複数の回転基点を設けることで、複数の回転基点を考慮した仮想視点画像を生成することができる。
また、上述の説明において、ユーザ端末300と回転基点とを結ぶ線と、回転基点と仮想視点とを結ぶ線とがなす角度を用いて仮想視点の位置及び方向を決定していたが、これに限定しない。情報処理装置100は、ユーザ端末300の位置情報により示される位置を仮想視点の位置として決定した上で、仮想視点の位置から回転基点へ向けた方向を仮想視点の方向として決定してもよい。このようにすることで、実空間におけるユーザ視野に近い仮想視点画像を最初にユーザ端末300に表示することができ、その後のユーザ端末300のユーザによる仮想カメラの操縦が容易となる。また、情報処理装置100は、仮想視点の位置から回転基点までの距離が所定値以上であれば仮想視点の位置を補正してもよい。この場合、仮想視点の位置を回転基点から所定値未満の距離となるように移動させてもよい。このようにすることで、ユーザの視点より撮影対象に近い位置で仮想視点画像を生成できるので視認性を向上させることができる。
また、上述の説明において、仮想視点を水平垂直方向へ移動させる位置補正について説明したが、これに限定しない。仮想視点の位置補正処理の一例を、図8に示すフローチャートを用いて説明する。なお、図8では、図4と同じステップについては同一の符号を付し、その説明を省略する。以下では、図4に示すフローチャートとの差分を説明する。
図8において、S401の処理を行い、S402において回転基点の位置情報を取得した後、S801において、情報処理装置100は、取得部104を介して障害物情報を取得する。障害物情報とは、複数のカメラの撮影範囲おいて、選手やボールなどの特定のオブジェクトや撮影対象であるフィールドを遮蔽する恐れがある物体や構造物の位置やサイズを示す情報である。障害物情報の一例を図9に示す。図9に示す例では、障害物情報には、複数のカメラの撮影範囲であるフィールド上に存在する障害物の設置位置(緯度経度DEG形式)とサイズ(横幅×高さ×奥行)が含まれる。なお、障害物情報は、これらの形式に限らず、例えば、3次元のモデル情報として示されてもよい。また、障害物情報により示される障害物の一例として、ゴール、広告またはベンチなどが一例として挙げられる。なお、障害物情報により示される障害物これに限定されず、他の物体や構造物であってもよい。
S802において、情報処理装置100は、S401で取得したユーザの位置情報とS402で取得した回転基点の位置に基づいて仮想視点の位置と方向を決定する。S803において、情報処理装置100は、S802で決定した補正前の仮想視点の位置と回転基点とを結ぶ直線上に障害物が存在するか否かを判定する。なお、S803における判定は、補正前の仮想視点の位置において仮想視点画像を生成した場合、生成する仮想視点画像に障害物情報により示される障害物が写るか否かを判定してもよい。また、S803における判定は、補正前の仮想視点の位置において仮想視点画像を生成した場合、生成する仮想視点画像において、障害物情報により示される障害物が人物やボールなどの特定のオブジェクトを遮蔽するか否かを判定してもよい。障害物が存在する場合(S803のYes)、S804へ進み補正処理を行う。障害物が存在しない場合(S803のNo)、補正処理をスキップしてS404へ進む。
S804において、情報処理装置100は、補正前の仮想カメラと回転基点とを結ぶ直線上に障害物が存在する場合、障害物が回転基点を遮蔽しない位置まで仮想カメラの位置を移動させる。仮想カメラの位置補正について図10及び図11を用いて説明する。図10はスタジアムを俯瞰した図であり、補正前の仮想カメラ1000と回転基点との間に障害物であるゴールが存在することを示した図である。なお、図10に示す例では、S802で仮想カメラの方向と位置をユーザ端末300の位置から回転基点を向けた方向とした場合の例について説明する。図10において、情報処理装置100は、仮想カメラ1000と回転基点とを結ぶ直線上を回転基点に向けて仮想カメラ1000を移動させ、ゴール手前である仮想カメラ1001の位置まで移動させる。また、水平方向の位置補正だけでなく図11のように垂直方向にも位置補正できる。図11はスタジアムを真横から見た図である。この場合、情報処理装置100は、仮想カメラ1100と回転基点とを結ぶ直線がゴールに接触しなくなるまで上昇させ、仮想カメラ1101の位置まで移動させる。また、S804における仮想視点の位置の変更による補正は、障害物が回転基点または回転基点付近に存在する人物やボールなどの特定のオブジェクトを遮蔽しない位置まで仮想視点の位置を移動することにより行われてもよい。また、S804における仮想視点の位置の変更による補正は、障害物が仮想視点画像に写らない位置まで仮想視点の位置を移動することにより行われてもよい。また、804における仮想視点の位置の変更による補正は、回転基点を中心に仮想視点の位置を回転すること行われてもよい。
このようにすることで、表示する仮想視点画像に障害物が表示されることがなくなるため、その後の仮想カメラの操縦が容易となる。また、障害物が写らないように仮想視点画像に係る視点の位置を決定するので、視認性を向上させる仮想視点画像を生成することができる。なお、障害物情報に含まれる障害物はフィールド上の障害物に限定せず、ユーザ端末300の周辺にいる観客、撮影機材または旗などであってもよい。例えば、ユーザ端末300に搭載される人感センサーによって取得されたデータに基づいて仮想視点の位置を補正してもよい。
また、上述の実施形態において、仮想視点画像に係る視点を決定する際の基準とするものを点(回転基点)として説明を行ったが、仮想視点画像に係る視点を決定する際の基準とするものに軸を用いてもよい。この場合、情報処理装置100は、仮想視点画像に係る視点を決定する際の基準とする軸(回転基軸)を中心にユーザの位置に存在するとみなす点を所定の角度回転した点を仮想視点画像に係る視点の位置としてもよい。
また、上述の実施形態において、情報処理装置100は、回転基点を示す回転基点データを仮想視点画像群に付加された状態で取得したが、回転基点を示す回転基点データを仮想視点画像群とは別途に取得してもよい。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC等)によっても実現可能である。また、そのプログラムをコンピュータにより読み取り可能な記録媒体に記録して提供してもよい。
100 情報処理装置
200 画像生成装置
300 ユーザ端末
104 取得部
105 視点決定部
200 画像生成装置
300 ユーザ端末
104 取得部
105 視点決定部
Claims (26)
- 複数の撮影装置により撮影された複数の画像を用いて生成される仮想視点画像に係る視点の位置を決定する情報処理装置であって、
前記複数の撮影装置の撮影対象から所定の範囲内の位置を示す位置情報を取得する第1取得手段と、
前記第1取得手段により取得された位置情報に基づいて、前記第1取得手段により取得された位置情報が示す位置とは異なる位置を視点として前記撮影対象を写すための仮想視点画像に係る視点の位置を決定する決定手段と、
を有することを特徴とする情報処理装置。 - 前記第1取得手段により取得された位置情報が示す位置が前記所定の範囲内ではない場合、当該位置情報に基づく、仮想視点画像に係る視点の位置を決定する処理をエラーとすることを特徴とする請求項1に記載の情報処理装置。
- 前記所定の範囲内は、前記撮影対象であるフィールドを有するスタジアム内であることを特徴とする請求項1または2に記載の情報処理装置。
- 前記複数の撮影装置のうちの少なくとも1つ以上により撮影される特定の位置を示す位置情報を取得する第2取得手段を有し、
前記決定手段は、前記第1取得手段により取得された位置情報が示す位置と、前記第2取得手段により取得された位置情報が示す位置とに基づいて、前記撮影対象を写すための仮想視点画像に係る視点の位置を決定することを特徴とする請求項1から3までのいずれか1項に記載の情報処理装置。 - 複数の撮影装置により撮影された複数の画像を用いて生成される仮想視点画像に係る視点の位置を決定する情報処理装置であって、
ユーザに関する位置を示す位置情報を取得する第1取得手段と、
前記複数の撮影装置のうちの少なくとも1つ以上により撮影される特定の位置を示す位置情報を取得する第2取得手段と、
前記第1取得手段により取得された位置情報が示す位置と、前記第2取得手段により取得された位置情報が示す位置とに基づいて、前記複数の撮影装置の撮影対象を写すための仮想視点画像に係る視点の位置を決定する決定手段と、
を有することを特徴とする情報処理装置。 - 前記第2取得手段は、特定のオブジェクトの位置またはあらかじめ定められた固定位置を示す位置情報を取得することを特徴とする請求項4または5に記載の情報処理装置。
- 前記決定手段は、前記第1取得手段により取得された位置情報が示す位置と、前記第2取得手段により取得された位置情報が示す位置とを結ぶ線と、前記第2取得手段により取得された位置情報が示す位置と仮想視点画像に係る視点の位置とを結ぶ線とがなす角の角度が、所定の角度となるように仮想視点画像に係る視点の位置を決定することを特徴とする請求項4から6までのいずれか1項に記載の情報処理装置。
- 前記決定手段は、前記第1取得手段により取得された位置情報が示す位置と、前記第2取得手段により取得された位置情報が示す位置とに基づいて、仮想視点画像に係る画角をさらに決定することを特徴とする請求項4から7までのいずれか1項に記載の情報処理装置。
- 前記決定手段は、前記第1取得手段により取得された位置情報が示す位置に基づいて、仮想視点画像に係る視点の高さを決定することを特徴とする請求項1から8までのいずれか1項に記載の情報処理装置。
- 前記決定手段は、前記第1取得手段により取得された位置情報が示す位置の高さと、前記複数の撮影装置が設置されている高さとに基づいて、仮想視点画像に係る視点の高さを決定することを特徴とする請求項9に記載の情報処理装置。
- 前記決定手段は、決定された視点の位置において、前記第2取得手段により取得された位置情報が示す位置が写るよう、仮想視点画像に係る視線の方向を決定することを特徴とする請求項5に記載の情報処理装置。
- 前記決定手段より決定された視点の位置に応じた仮想視点画像を出力するための制御を行う制御手段をさらに有することを特徴とする請求項1から11までのいずれか1項に記載の情報処理装置。
- 前記第1取得手段は、ユーザが所持する他の情報処理装置の位置情報を取得することを特徴とする請求項1または5に記載の情報処理装置。
- 前記決定手段より決定された視点の位置に応じた仮想視点画像を出力するための制御を行う制御手段をさらに有し、
前記第1取得手段は、前記ユーザに関する位置情報として、他の情報処理装置の位置情報を取得し、
前記制御手段は、前記決定手段より決定された視点の位置に応じた仮想視点画像を取得し、取得した仮想視点画像を前記他の情報処理装置に出力することを特徴とする請求項5に記載の情報処理装置。 - 前記第1取得手段は、前記他の情報処理装置がGPS(Global Positioning System)により取得した位置情報を前記他の情報処理装置から取得することを特徴とする請求項13または14に記載の情報処理装置。
- 前記特定のオブジェクトは、人物またはボールであることを特徴とする請求項6に記載の情報処理装置。
- 前記第1取得手段により取得された位置情報が示す位置と、前記第2取得手段により取得された位置情報が示す位置との距離が、所定の距離より短い場合、警告をユーザに出力する出力手段をさらに有することを特徴とする請求項4または5に記載の情報処理装置。
- 前記出力手段は、前記特定の位置を直接見るべきことを促す警告を出力することを特徴とする請求項17に記載の情報処理装置。
- 前記特定の位置は、フィールドの中央、ゴール前またはペナルティマークの位置であることを特徴とする請求項4または5に記載の情報処理装置。
- 前記撮影対象は、競技を行うためのフィールドであることを特徴とする請求項1または請求項5に記載の情報処理装置。
- 前記撮影対象を遮蔽し得る障害物に関する障害物情報を取得する手段を有し、
前記決定手段は、前記障害物情報に基づいて、仮想視点画像に係る視点の位置を決定することを特徴とする請求項1から20までのいずれか1項に記載の情報処理装置。 - 前記決定手段は、前記障害物情報が示す前記障害物が写らないように仮想視点画像に係る視点の位置を決定することを特徴とする請求項21に記載の情報処理装置。
- 前記障害物は、ゴール、広告、ベンチ、撮影機材または観客であることを特徴とする請求項21または22に記載の情報処理装置。
- 複数の撮影装置により撮影された複数の画像を用いて生成される仮想視点画像に係る視点の位置を決定する情報処理装置の制御方法であって、
前記複数の撮影装置の撮影対象から所定の範囲内の位置を示す位置情報を取得する取得工程と、
前記取得工程おいて取得された位置情報に基づいて、前記取得工程おいて取得された位置情報が示す位置とは異なる位置を視点として前記撮影対象を写すための仮想視点画像に係る視点の位置を決定する決定工程と、
を有することを特徴とする情報処理装置の制御方法。 - 複数の撮影装置により撮影された複数の画像を用いて生成される仮想視点画像に係る視点の位置を決定する情報処理装置の制御方法であって、
ユーザに関する位置情報を取得する第1取得工程と、
前記複数の撮影装置のうちの少なくとも1つ以上により撮影される特定の位置を示す位置情報を取得する第2取得工程と、
前記第1取得工程において取得された位置情報が示す位置と、前記第2取得工程において取得された位置情報が示す位置とに基づいて、前記複数の撮影装置の撮影対象を写すための仮想視点画像に係る視点の位置を決定する決定工程と、
を有することを特徴とする情報処理装置の制御方法。 - 請求項1から23までのいずれか1項に記載の情報処理装置としてコンピュータを動作させるためのプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017248475A JP2019114147A (ja) | 2017-12-25 | 2017-12-25 | 情報処理装置、情報処理装置の制御方法及びプログラム |
US16/226,218 US11272153B2 (en) | 2017-12-25 | 2018-12-19 | Information processing apparatus, method for controlling the same, and recording medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017248475A JP2019114147A (ja) | 2017-12-25 | 2017-12-25 | 情報処理装置、情報処理装置の制御方法及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2019114147A true JP2019114147A (ja) | 2019-07-11 |
Family
ID=66951634
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017248475A Pending JP2019114147A (ja) | 2017-12-25 | 2017-12-25 | 情報処理装置、情報処理装置の制御方法及びプログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US11272153B2 (ja) |
JP (1) | JP2019114147A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2021048459A (ja) * | 2019-09-17 | 2021-03-25 | キヤノン株式会社 | 画像処理装置、画像処理方法、及びプログラム |
JP7388623B1 (ja) * | 2022-10-20 | 2023-11-29 | Lineヤフー株式会社 | 情報処理装置、情報処理方法及び情報処理プログラム |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9332285B1 (en) * | 2014-05-28 | 2016-05-03 | Lucasfilm Entertainment Company Ltd. | Switching modes of a media content item |
JP7418101B2 (ja) * | 2019-07-26 | 2024-01-19 | キヤノン株式会社 | 情報処理装置、情報処理方法、及びプログラム |
US11023729B1 (en) * | 2019-11-08 | 2021-06-01 | Msg Entertainment Group, Llc | Providing visual guidance for presenting visual content in a venue |
JP2022073651A (ja) * | 2020-11-02 | 2022-05-17 | キヤノン株式会社 | 情報処理装置、情報処理方法およびプログラム |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008217243A (ja) | 2007-03-01 | 2008-09-18 | Mitsubishi Electric Corp | 画像生成装置 |
JP5182229B2 (ja) * | 2009-06-02 | 2013-04-17 | ソニー株式会社 | 画像処理装置、画像処理方法及びプログラム |
JP5539514B2 (ja) * | 2010-06-30 | 2014-07-02 | 富士フイルム株式会社 | 撮影装置、プログラム、及び撮影方法 |
JP2015187797A (ja) | 2014-03-27 | 2015-10-29 | シャープ株式会社 | 画像データ生成装置および画像データ再生装置 |
WO2016014233A1 (en) * | 2014-07-25 | 2016-01-28 | mindHIVE Inc. | Real-time immersive mediated reality experiences |
US9832449B2 (en) * | 2015-01-30 | 2017-11-28 | Nextvr Inc. | Methods and apparatus for controlling a viewing position |
US10185463B2 (en) * | 2015-02-13 | 2019-01-22 | Nokia Technologies Oy | Method and apparatus for providing model-centered rotation in a three-dimensional user interface |
US10628956B2 (en) * | 2015-09-03 | 2020-04-21 | Sony Corporation | Video processing device, video processing method, and program |
US10003786B2 (en) * | 2015-09-25 | 2018-06-19 | Intel Corporation | Method and system of 3D image capture with dynamic cameras |
US10257490B2 (en) * | 2016-04-28 | 2019-04-09 | Verizon Patent And Licensing Inc. | Methods and systems for creating and providing a real-time volumetric representation of a real-world event |
US10269181B2 (en) * | 2017-05-31 | 2019-04-23 | Verizon Patent And Licensing Inc. | Methods and systems for generating a virtualized projection of a customized view of a real-world scene for inclusion within virtual reality media content |
-
2017
- 2017-12-25 JP JP2017248475A patent/JP2019114147A/ja active Pending
-
2018
- 2018-12-19 US US16/226,218 patent/US11272153B2/en active Active
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2021048459A (ja) * | 2019-09-17 | 2021-03-25 | キヤノン株式会社 | 画像処理装置、画像処理方法、及びプログラム |
JP7395296B2 (ja) | 2019-09-17 | 2023-12-11 | キヤノン株式会社 | 画像処理装置、画像処理方法、及びプログラム |
JP7388623B1 (ja) * | 2022-10-20 | 2023-11-29 | Lineヤフー株式会社 | 情報処理装置、情報処理方法及び情報処理プログラム |
Also Published As
Publication number | Publication date |
---|---|
US11272153B2 (en) | 2022-03-08 |
US20190199992A1 (en) | 2019-06-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10574889B2 (en) | Information processing device, information processing method, and program | |
US10893219B2 (en) | System and method for acquiring virtual and augmented reality scenes by a user | |
JP2019114147A (ja) | 情報処理装置、情報処理装置の制御方法及びプログラム | |
JP7132730B2 (ja) | 情報処理装置および情報処理方法 | |
EP3007038B1 (en) | Interaction with three-dimensional video | |
US9729788B2 (en) | Image generation apparatus and image generation method | |
JP5406813B2 (ja) | パノラマ画像表示装置およびパノラマ画像表示方法 | |
US9894272B2 (en) | Image generation apparatus and image generation method | |
US10924691B2 (en) | Control device of movable type imaging device and control method of movable type imaging device | |
KR100941749B1 (ko) | 증강 현실 장치 및 가상 이미지 합성 방법 | |
JP2020086983A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
TWI630824B (zh) | 電子設備及照片拍攝方法 | |
KR102475994B1 (ko) | 정보 처리장치, 정보 처리방법 및 기억매체 | |
JP2022073651A (ja) | 情報処理装置、情報処理方法およびプログラム | |
WO2019142658A1 (ja) | 画像処理装置および方法、並びにプログラム | |
KR101983727B1 (ko) | 증강현실 가상 스튜디오 시스템 및 그 구현 방법 | |
JP2020204973A (ja) | 情報処理装置、プログラム及び情報処理システム | |
JP5646033B2 (ja) | 画像表示装置および画像表示方法 | |
WO2014008438A1 (en) | Systems and methods for tracking user postures and motions to control display of and navigate panoramas | |
US20240087157A1 (en) | Image processing method, recording medium, image processing apparatus, and image processing system | |
JP2023169697A (ja) | 情報処理装置、情報処理方法およびプログラム | |
JP2022171436A (ja) | 情報処理装置、情報処理方法およびプログラム | |
CN117812455A (zh) | 一种视频处理方法、装置及电子设备 |