JP7301507B2 - 情報処理装置、情報処理方法、及びプログラム - Google Patents

情報処理装置、情報処理方法、及びプログラム Download PDF

Info

Publication number
JP7301507B2
JP7301507B2 JP2018149435A JP2018149435A JP7301507B2 JP 7301507 B2 JP7301507 B2 JP 7301507B2 JP 2018149435 A JP2018149435 A JP 2018149435A JP 2018149435 A JP2018149435 A JP 2018149435A JP 7301507 B2 JP7301507 B2 JP 7301507B2
Authority
JP
Japan
Prior art keywords
virtual viewpoint
information
parameter
viewpoint image
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018149435A
Other languages
English (en)
Other versions
JP2020024619A (ja
Inventor
隆 川井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2018149435A priority Critical patent/JP7301507B2/ja
Priority to US16/532,340 priority patent/US10951873B2/en
Publication of JP2020024619A publication Critical patent/JP2020024619A/ja
Application granted granted Critical
Publication of JP7301507B2 publication Critical patent/JP7301507B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/111Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
    • H04N13/117Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation the virtual viewpoint locations being selected by the viewers or determined by viewer tracking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21Server components or server architectures
    • H04N21/218Source of audio or video content, e.g. local disk arrays
    • H04N21/21805Source of audio or video content, e.g. local disk arrays enabling multiple viewpoints, e.g. using a plurality of cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/111Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/167Synchronising or controlling image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/472End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • H04N21/47217End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for controlling playback functions for recorded or on-demand content, e.g. using progress bars, mode or play-point indicators or bookmarks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/65Transmission of management data between client and server
    • H04N21/658Transmission by the client directed to the server
    • H04N21/6587Control parameters, e.g. trick play commands, viewpoint selection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/254Management at additional data server, e.g. shopping server, rights management server
    • H04N21/2543Billing, e.g. for subscription services

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • Human Computer Interaction (AREA)
  • Processing Or Creating Images (AREA)
  • Image Generation (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)

Description

本発明は、複数の撮影装置により取得される複数の撮影画像に基づいて生成される仮想視点画像に関するものである。
複数の撮影装置(カメラ)を異なる位置に設置して多視点で同期撮影し、当該撮影により得られた複数の画像を用いて、視点を任意に変更可能な仮想視点画像を生成する技術がある。例えば、サッカーやバスケットボールなどのスポーツ競技を撮影した画像に基づいて、ユーザにより設定された視点に応じた仮想視点画像を生成することにより、ユーザは様々な角度から競技を観戦することが出来る。このような仮想視点画像を表示することで、通常の撮影画像を表示する場合と比較して、視聴者により高い臨場感を与えることが出来る。
特許文献1には、複数のユーザに対して各ユーザが指定した仮想視点に応じた仮想視点画像を提供することや、指定された仮想視点を複数のユーザで共有できるようにすることが記載されている。
特開2014-215828号公報
しかしながら、仮想視点画像を提供するシステムにおいて、異なるユーザや異なる仮想視点画像を一様に扱うことが適切でない場合が考えられる。例えば、多数のユーザによってシステムの処理能力を超える数の仮想視点画像の生成が要求された場合に、システムがすべての要求を均等に処理しようとすると、何れの要求に対する処理も完了できない虞がある。また例えば、仮想視点画像の内容によって生成にかかる費用が異なる場合に、仮想視点画像の生成を要求するユーザに対して一様に料金を課すると、適切に費用を回収できない虞がある。
本発明は上記の課題に鑑みてなされたものであり、仮想視点画像を提供するシステムにおいて、提供先のユーザ、提供対象の仮想視点画像、又はその両方に適した処理を行えるようにすることを目的とする。
上記の課題を解決するため、本発明に係る情報処理装置は、例えば以下の構成を有する。すなわち、撮影対象領域を複数の撮影装置により複数の方向から撮影することで得られる画像に基づく仮想視点画像の生成に係る、ユーザによって指定されたパラメータを取得する取得手段と、前記取得手段により取得された前記ユーザによって指定されたパラメータに応じた仮想視点画像の評価値を出力する出力手段であって、当該パラメータと評価値との関係を示す参照情報に基づいて決定された評価値を出力する出力手段とを有する。
本発明によれば、仮想視点画像を提供するシステムにおいて、提供先のユーザ、提供対象の仮想視点画像、又はその両方に適した処理を行えるようになる。
画像処理システムの構成例を示す図である。 カメラ群の設置例を示す図である。 カメラ群の設置例を示す図である。 仮想視点の設定について説明するための図である。 情報処理装置のハードウェア構成例を示す図である。 情報処理装置の動作について説明するためのフローチャートである。 評価値に関する参照情報の例について説明するための図である。 表示部に表示される画像について説明するための図である。 情報処理装置の動作について説明するためのフローチャートである。 制約に関する参照情報の例について説明するための図である。
以下、図面を参照して本発明の実施形態を詳細に説明する。ただし、本発明は以下の実施形態に限定されるものではなく、特許請求の範囲に記載された本発明の要旨の範囲内において、種々の変形及び変更が可能である。
[画像処理システムの構成]
図1は、本実施形態に係る画像処理システム10の構成例を示す図である。画像処理システム10は、複数の撮影装置による撮影に基づく画像と、指定された仮想視点とに基づいて、指定された仮想視点からの見えを表す仮想視点画像を生成するシステムである。本実施形態における仮想視点画像は、自由視点映像とも呼ばれるものであるが、ユーザが自由に(任意に)指定した視点に対応する画像に限定されず、例えば複数の候補からユーザが選択した視点に対応する画像なども仮想視点画像に含まれる。また、本実施形態では仮想視点の指定がユーザ操作により行われる場合を中心に説明するが、仮想視点の指定が画像解析の結果等に基づいて画像処理システム10により自動で行われてもよい。また、本実施形態では仮想視点画像が動画である場合を中心に説明するが、画像処理システム10により処理される仮想視点画像は静止画であってもよい。
画像処理システム10は、情報処理装置100、カメラ群101、撮影制御部102、画像記憶部103、情報記憶部104、及び端末装置105を有する。図1では一例として単一の端末装置105が情報処理装置100と接続されるものとしているが、複数の端末装置105が情報処理装置100に接続されていてもよい。
カメラ群101は、撮影対象領域を複数の方向から撮影する複数のカメラからなる。撮影対象領域は、例えばサッカーや空手などの競技が行われる競技場、もしくはコンサートや演劇が行われる舞台などである。カメラ群101を構成する複数のカメラは、このような撮影対象領域を取り囲むようにそれぞれ異なる位置に設置され、同期して撮影を行う。図2は、カメラ群101の設置例を示す図である。この例において、撮影対象領域201の周囲に設置されたカメラ群101に含まれる複数のカメラは、何れも注視点202に向けられている。なお、カメラ群101は撮影対象領域の全周にわたって設置されていなくてもよく、設置場所の制限等によっては撮影対象領域の一部の方向にのみ設置されていてもよい。
また、カメラ群101に含まれる複数のカメラすべてが単一の注視点202に向けられていなくてもよく、例えばある注視点に向けられるカメラのグループと別の注視点に向けられるカメラのグループがカメラ群101に含まれていてもよい。また、カメラ群101には、望遠カメラと広角カメラなど機能が異なるカメラが含まれていてもよい。図3は、注視点が複数設定される場合のカメラ群101の設置例を示す図である。カメラ群101には、注視点301に向けられるカメラのグループ310と、注視点302に向けられるカメラのグループ311と注視点303に向けられるカメラのグループ312とが含まれる。グループ311に属するカメラは、グループ310に属するカメラよりも注視点302の近くに密集して設置されているため、注視点302の近傍を高い解像度で撮影することができる。同様に、グループ312に属するカメラは注視点303の近傍を高い解像度で撮影することができる。一方、グループ310に属するカメラは、撮影対象領域201の周りに広く配置されており、注視点301を中心とした広い範囲を撮影することができる。
撮影制御部102は、カメラ群101に対して撮影条件の設定指示や、撮影の開始および終了の指示を行う。例えば、撮影制御部102は、各カメラに割り当てられているIPアドレスを指定して、撮影条件としてのシャッタースピード、絞り値、焦点距離などの設定の指示を行う。
画像記憶部103は、カメラ群101による複数方向からの同期撮影に基づく画像(複数視点画像)を、ハードディスクドライブやSSD、SDカードなどの記録媒体に記憶する。本実施形態において、画像記憶部103が記憶する撮影に基づく画像には、撮影画像に含まれる所定のオブジェクトの3次元形状を表す前景モデルや、競技場などの背景の3次元形状を表す背景モデルに色付けするための、テクスチャ画像が含まれる。ただしこれに限らず、画像記憶部103が記憶する撮影に基づく画像は、複数の撮影画像そのものであってもよいし、複数の撮影画像に画像処理を行って得られるその他の画像であってもよい。例えば、撮影画像に含まれる人物やボールなどの所定のオブジェクトに対応する領域を抽出した前景画像や、撮影画像から前景画像を除いた背景画像が、画像記憶部103により記憶されてもよい。また画像記憶部103は、カメラ群101に含まれる各カメラを識別するためのIPアドレスと、各カメラの撮影時の動作状態や撮影条件を示す撮影情報を、撮影に基づく画像と併せて取得して記憶してもよい。
情報記憶部104は、情報処理装置100が仮想視点画像の評価値を決定するために用いる参照情報を、ハードディスクドライブやSSD、SDカードなどの記録媒体に記憶する。参照情報の詳細については、図7を用いて後述する。情報記憶部104により記憶される参照情報は、情報処理装置100から情報記憶部104に入力されて記憶される。ただしこれに限らず、参照情報はその他の装置から情報記憶部104に入力されてもよいし、ユーザが情報記憶部104の操作部を操作することにより手動で入力されてもよい。
端末装置105は、ジョイスティックやボタン、タッチパネルなどの操作部を有し、ユーザから仮想視点画像の生成に関する操作を受け付ける。そして端末装置105は、ユーザ操作に応じた指示情報とユーザを識別するためのユーザ情報とを情報処理装置100へ出力する。さらに端末装置105は、指示情報に応じて情報処理装置100から出力された仮想視点画像を、表示部を介してユーザに対して表示する。ユーザによる仮想視点画像の生成に関する操作は、例えば仮想視点画像の生成開始を指示する操作や、仮想視点の再生モードを指定する操作や、仮想視点の位置及び向きを指定する操作などである。また、ユーザによる仮想視点画像の生成に関する操作は、カメラ群101に含まれるカメラのうち仮想視点画像の生成に用いるカメラを指定する操作であってもよい。すなわち情報処理装置100は、ユーザによる指定操作に応じて、一部のカメラ(例えば図3のグループ311に属するカメラ)による撮影に基づく画像のみを用いて仮想視点画像を生成してもよい。
なお、ユーザは視聴したい仮想視点画像の全期間に対して仮想視点を厳密に指定しなくてもよい。例えば端末装置105は、特定の歌手や選手に注目した画像を視聴したい、特定オブジェクトの周囲の一定範囲の画像を視聴したい、注目すべきイベントが発生している箇所の画像を視聴したい、などの種々のユーザ指示に応じた指示情報を出力してもよい。図4に示すように、撮影対象領域201にオブジェクトとして選手401とボール402が位置する場合であれば、ユーザは仮想視点410を直接操作してもよいし、選手401やボール402を指定することで仮想視点410を半自動的に操作してもよい。また、自動で設定された複数の仮想視点の中から採用すべき仮想視点をユーザが選択してもよい。
また、端末装置105は、情報処理装置100から取得した仮想視点画像の評価値を、スピーカを用いた音声出力や表示部を用いた画像表示によってユーザに通知する。本実施形態では、仮想視点画像の評価値として、その仮想視点画像の金額が出力される場合を中心に説明を行う。例えば端末装置105は、仮想視点などを指定するユーザ操作に応じて情報処理装置100により生成される仮想視点画像の金額をユーザに通知する。そして、その金額での仮想視点画像の購入を承諾する操作がユーザにより行われると、端末装置105は情報処理装置100から生成された仮想視点画像を取得して表示を行う。ただし評価値の内容はこれに限定されず、例えば、仮想視点画像の質を表す評価値や、仮想視点画像において特定の人物又はイベントが映っている期間やその映り方に応じた評価値などが、情報処理装置100から出力されてもよい。
情報処理装置100は、判定部110、視点設定部111、及び画像生成部112を有する。判定部110は、画像記憶部103、視点設定部111、及び端末装置105から仮想視点画像の生成に係る生成パラメータを取得し、その生成パラメータと情報記憶部104から取得した参照情報とに基づいて、生成対象の仮想視点画像の評価値を決定する。そして判定部110は、決定した評価値を端末装置105へ出力する。評価値の決定方法の詳細については、図4などを用いて後述する。また判定部110は、端末装置から取得した指示情報に基づいて仮想視点画像を生成するか否かを判定し、判定結果に応じて画像生成部112に仮想視点画像の生成を指示する。
視点設定部111は、端末装置105から取得した指示情報に基づいて、仮想視点画像の生成に係る仮想視点を設定する。そして視点設定部111は、設定された仮想視点を示す視点情報を、判定部110と画像生成部112へ出力する。視点情報には、具体的には、カメラ群101による撮影期間に含まれる仮想視点画像の生成対象期間を示す時間情報と、その生成対象期間の各時点における仮想視点の位置及び向きの情報が含まれる。さらに視点情報には、仮想視点の画角や焦点距離、焦点位置などの情報が含まれていてもよい。
画像生成部112は、画像記憶部103から取得した撮影に基づく画像と、視点設定部111から取得した視点情報と、判定部110から取得した生成指示とに基づいて、その視点情報が示す仮想視点に応じた仮想視点画像を生成する。そして画像生成部112は、生成した仮想視点画像を端末装置105へ出力する。仮想視点画像の生成方法としては、例えば以下の方法がある。まず画像生成部112は、画像記憶部103から取得した複数視点画像に基づいて、撮影対象領域201内の所定のオブジェクトの3次元形状を表す前景モデルを生成する。そして画像生成部112は、生成した前景モデルと、画像記憶部103から取得した背景モデルに対し、視点設定部111から取得した視点情報に応じたテクスチャ画像をマッピングし、レンダリングを行うことにより、仮想視点画像を生成する。ただし、仮想視点画像の生成方法はこれに限定されず、3次元モデルを用いずに撮影に基づく画像の射影変換により仮想視点画像を生成する方法など、種々の方法を用いることができる。
なお、画像処理システム10の構成は図1に示したものに限定されない。例えば、情報記憶部104や画像記憶部103が情報処理装置100の内部に含まれていてもよい。また、画像生成部112や視点設定部111が情報処理装置100とは別の装置の内部に含まれていてもよい。
[情報処理装置の構成]
次に、情報処理装置100のハードウェア構成について、図5を用いて説明する。情報処理装置100は、CPU501、ROM502、RAM503、補助記憶装置504、表示部505、操作部506、通信I/F507、及びバス508を有する。
CPU501は、ROM502やRAM503に格納されているコンピュータプログラムやデータを用いて情報処理装置100の全体を制御することで、図1に示す情報処理装置100の各機能部を実現する。なお、情報処理装置100がCPU501とは異なる1又は複数の専用のハードウェアを有し、CPU501による処理の少なくとも一部を専用のハードウェアが実行してもよい。専用のハードウェアの例としては、ASIC(特定用途向け集積回路)、FPGA(フィールドプログラマブルゲートアレイ)、およびDSP(デジタルシグナルプロセッサ)などがある。ROM502は、変更を必要としないプログラムやパラメータを格納する。RAM503は、補助記憶装置504から供給されるプログラムやデータ、及び通信I/F507を介して外部から供給されるデータなどを一時記憶する。補助記憶装置504は、例えばハードディスクドライブ等で構成され、画像データや音声データ、仮想カメラパス情報などの種々のデータを記憶する。
表示部505は、例えば液晶ディスプレイやLED等で構成され、ユーザが情報処理装置100を操作するためのGUI(Graphical User Interface)などを表示する。操作部506は、例えばキーボードやマウス、タッチパネル等で構成され、ユーザによる操作を受けて各種の指示をCPU501に入力する。通信I/F507は、端末装置105などの外部の装置との通信に用いられる。例えば、情報処理装置100が外部の装置と有線で接続される場合には、通信用のケーブルが通信I/F507に接続される。なお、情報処理装置100が外部の装置と無線通信する機能を有する場合、通信I/F507はアンテナを備える。バス508は、情報処理装置100の各部を繋いで情報を伝達する。
本実施形態では表示部505と操作部506が情報処理装置100の内部に存在するものとするが、情報処理装置100は表示部505と操作部506との少なくとも一方を備えていなくてもよい。また、表示部505と操作部506との少なくとも一方が情報処理装置100の外部に別の装置として存在していて、CPU501が、表示部505を制御する表示制御部、及び操作部506を制御する操作制御部として動作してもよい。
[情報処理装置の処理フロー]
情報処理装置100の処理フローについて、図6を用いて説明する。図6に示す処理は、例えば、カメラ群101による撮影が終わって撮影に基づく画像が画像記憶部103に記憶された後に、仮想視点画像の生成を開始するための指示情報が端末装置105から情報処理装置100へ入力されたタイミングで開始される。ただし、カメラ群101による撮影が行われている間に指示情報が入力され、撮影と並行して図6に示す処理が実行されてもよく、図6に示す処理の開始タイミングは上記に限定されない。図6に示す処理は、CPU501がROM502に格納されたプログラムをRAM503に展開して実行することで実現される。なお、図6に示す処理の少なくとも一部を、CPU501とは異なる1又は複数の専用のハードウェアにより実現してもよい。後に説明する図9のフローチャートに示す処理についても同様である。
S601において、画像生成部112は、画像記憶部103に記憶された画像、すなわちカメラ群101による複数の方向からの撮影対象領域201の撮影に基づく画像を取得する。なお画像生成部112は、カメラ群101による撮影中にリアルタイムで撮影に基づく画像を取得してもよい。S602において、視点設定部111は、端末装置105から出力される指示情報に基づいて、仮想視点を示す視点情報を取得する。そして視点設定部111は、取得した視点情報を画像生成部112へ出力する。なお、S601における画像の取得とS602における視点情報の取得の順序は逆でもよいし、これらが平行して行われてもよい。
S603において、判定部110は、画像生成部112による仮想視点画像の生成に係る生成パラメータとして、ユーザの指定操作に基づいて設定される設定情報を端末装置105や視点設定部111から取得する。ただし判定部110は、画像記憶部103に記憶されている設定情報を生成パラメータとして取得してもよいし、撮影に基づく画像を解析することで生成パラメータを取得してもよい。判定部110により取得される生成パラメータには、例えば、仮想視点の位置及び向きの少なくとも何れかを示す情報が含まれる。ただしこれに限らず、生成パラメータには、画質に関する情報や、仮想視点の指定方法を示す情報や、仮想視点画像の生成に用いられる画像に対応する撮影装置に関する情報や、再生モードを示す情報などが含まれていてもよい。
仮想視点の指定方法を示す情報とは例えば、ユーザが仮想視点の位置や向きを手動で設定するモードと、ユーザがオブジェクトを指定することで仮想視点を設定するモードと、自動で仮想視点が設定されるモードの、何れを適用するかを示すものである。撮影装置に関する情報とは例えば、カメラの数や、カメラの種類や、カメラが向けられる注視点の数などを示すものである。仮想視点画像の再生モードを示す情報とは例えば、動画像の再生中に仮想視点を変更可能なモードや、動画像が一時停止されている間にのみ仮想視点を変更可能なモード、及び変速再生を行うモードなどを示すものである。
S604において、判定部110は、S603において取得した生成パラメータに応じた仮想視点画像の評価値を決定する。具体的には、判定部110は、情報記憶部104に予め記憶された参照情報のうち取得した生成パラメータに対応する参照情報に基づいて、評価値を決定する。図7に、情報記憶部104に記憶される参照情報の例を示す。ここでは、生成パラメータとしての仮想視点の位置及び向きと評価値との関係を示す参照情報に基づいて、仮想視点画像の評価値としてその仮想視点画像の金額が決定される場合を例に挙げて説明する。
図7(a)に示す参照情報は、仮想視点の位置の高さと仮想視点画像の単位時間当たりの加算金額とを対応づけるものである。この場合、仮想視点が高い位置に設定されるほど、実際のカメラによる撮影画像では実現が難しい視点の仮想視点画像が得られるため、仮想視点画像の評価値が高くなる。図7(b)に示す参照情報は、仮想視点の位置と選手などの特定のオブジェクトとの距離を、仮想視点画像の単位時間当たりの加算金額に対応付けるものである。この場合、仮想視点が選手に近い位置に設定されるほど、選手に近づける距離に限界がある実際のカメラによる撮影画像では実現が難しい仮想視点画像が得られるため、仮想視点画像の評価値が高くなる。図7(c)に示す参照情報は、仮想視点の視界に含まれる(仮想視点画像に映る)オブジェクトと仮想視点画像の単位時間当たりの加算金額とを対応付けるものである。この場合、例えば多くのユーザが見たい人気の選手が仮想視点の視界に含まれるほど、仮想視点画像の評価値が高くなる。このように判定部110は、生成パラメータに応じた仮想視点が所定の領域内に位置する時間、仮想視点と撮影対象領域201内の特定のオブジェクトとの距離、及び仮想視点の視界に含まれるオブジェクトの少なくとも何れかに基づいて評価値を決定する。
なお、判定部110による評価値の決定の基準は上記の例に限定されない。例えば判定部110は、生成パラメータに応じた仮想視点の移動距離、仮想視点の移動速度、及び仮想視点の設定期間の少なくとも何れかに基づいて決定してもよい。具体的には、仮想視点の移動距離が長いほど評価値を高くしたり、移動速度が速いほど評価値を高くしたり、仮想視点の設定期間(仮想視点画像の生成対象の期間)に撮影対象領域201で発生したイベントに応じて評価値を決めたりしてもよい。また単純に、仮想視点の設定期間が長いほど評価値を高くしてもよい。また、情報記憶部104に記憶される参照情報の形式は上記に限定されない。すなわち、参照情報には、図7に示す表のような生成パラメータと評価値とを対応づける配列情報が含まれていてもよいし、例えば生成パラメータから評価値を算出するための計算式などが含まれていてもよい。
S605において、判定部110は、S604で決定された評価値を端末装置105へ出力する。そして端末装置105は、判定部110から取得した評価値をユーザに通知する。図8(a)は、端末装置105が画像表示により評価値を通知する場合における、端末装置の表示部に表示される画像の例を示す。端末装置105の表示部801には、カメラ群101に含まれる何れかのカメラにより撮影された撮影対象領域201の画像が表示されている。ただし、この表示画像は情報処理装置100から出力された仮想視点画像であってもよい。また表示部801には、ユーザが指定した仮想視点の移動経路を示す仮想カメラパス802と、その仮想カメラパス802に基づいて情報処理装置100の判定部110により決定された評価値とが表示されている。
ユーザに評価値を通知した後、端末装置105は、その評価値を承認するか否かについてのユーザ操作を受け付ける。承認する操作を受けつけた場合、端末装置105は、情報処理装置100に仮想視点画像の生成を要求するための指示情報を出力する。一方、評価値が承認されない場合、端末装置105はユーザから、新たな仮想視点を示す情報などを指定する操作を受け付けるか、あるいは仮想視点画像の生成を中止する操作などを受け付け、操作に応じた指示情報を情報処理装置100へ出力する。
S606において、判定部110は、評価値の出力後に端末装置105から取得した指示情報に基づいて、仮想視点画像を生成するか否かを判定する。取得した指示情報が仮想視点画像の生成の要求を示すものである場合、判定部110は仮想視点画像を生成すると判定する。そしてS607において、画像生成部112は、S603において取得した生成パラメータに応じた仮想視点画像を生成して端末装置105へ出力する。仮想視点画像を出力すると、情報処理装置100は図6の処理を終了する。出力された仮想視点画像は、評価値を表示していた端末装置105の表示部801に表示される。なお、評価値と仮想視点画像とはそれぞれ異なる出力先へ出力されてもよい。
一方、S606において判定部110が取得した指示情報が新たな仮想視点の設定を示すものである場合、判定部110は仮想視点画像を生成しないと判定し、S602に戻る。そしてS602からS605において、情報処理装置100は、新たな仮想視点の設定に基づく新たな生成パラメータの取得と評価値の出力を行う。新たな生成パラメータに応じた評価値が承諾された場合には、S607に進んで、画像生成部112が新たな生成パラメータ(最初に評価値が出力された後のユーザ操作に応じて新たに設定された生成パラメータ)に基づく仮想視点画像を生成し出力する。このように情報処理装置100は、指示情報の取得と評価値の出力を繰り返して、最終的に承諾された評価値に対応する仮想視点画像を生成することで、評価値に関するユーザの要望に応じた仮想視点画像を提供することができる。なお、S606において判定部110が取得した指示情報が仮想視点の生成の中止を示すものである場合、情報処理装置100は図6の処理を終了する。
なお、上記の例では、ユーザが端末装置105を用いて仮想視点画像の生成に係る指定操作を完了した後に、情報処理装置100から指定操作に応じた評価値が出力されるものとした。ただしこれに限らず、情報処理装置100は、ユーザによる端末装置105の指定操作中に生成パラメータを逐次取得し、その時点での評価値を出力したり、評価値が閾値を超えた場合に端末装置105に通知を行ったりしてもよい。また、情報処理装置100は、決定された評価値が閾値より小さい場合には仮想視点画像を端末装置105へ出力し、決定された評価値が閾値より大きい場合には仮想視点画像を端末装置105へ出力しないように制御してもよい。また逆に、評価値が閾値より大きい場合にのみ仮想視点画像が出力されてもよい。
また、端末装置105における評価値の表示形態は図8(a)に示すものに限定されない。例えば、ユーザにより指定された複数パターンの生成パラメータに応じた複数の仮想視点画像と、各仮想視点画像に対応する評価値とが、端末装置105の表示部801に表示されてもよい。また例えば、ユーザにより指定された生成パラメータに応じた仮想視点画像と、その生成パラメータに基づいて自動で設定された別の生成パラメータに応じた仮想視点画像と、各仮想視点画像に対応する評価値とが表示されてもよい。このように複数の仮想視点画像とそれらの評価値が表示されることにより、例えば、ユーザは端末装置105に保存する仮想視点画像を評価値に基づいて選択することができる。
以上説明したように、本実施形態における情報処理装置100は、撮影対象領域をカメラ群101により複数の方向から撮影することで得られる画像に基づく仮想視点画像の生成に係る生成パラメータを取得する。そして情報処理装置100は、生成パラメータと評価値との関係を示す情報として情報記憶部104に予め記憶された参照情報に基づいて、その生成パラメータに応じた仮想視点画像の評価値を決定し、評価値を出力する。上記のような構成によれば、仮想視点画像を提供する画像処理システム10において、提供対象の仮想視点画像の評価値に基づいてその仮想視点画像に適した処理を行えるようになる。例えば、評価値に応じて仮想視点画像を区別して扱うことで、仮想視点画像の生成を要求するユーザに対して仮想視点画像の内容に応じた適切な料金を課することができる。
[評価値の決定処理の例]
上述したように、図6のS604における評価値の決定処理は、図7に示すような仮想視点に応じた参照情報に基づいて決定を行うものに限定されない。以下では決定処理の別の例について説明する。例えば判定部110は、カメラ群101のカメラ台数に基づいて評価値を決定してもよい。具体的には、判定部110は、画像記憶部103からカメラ群101に含まれる各カメラのIPアドレスを取得することで、カメラ台数を取得する。そして判定部110は、情報記憶部104に記憶された参照情報のうちカメラ台数に関する参照情報を参照して、評価値を決定する。例えば、カメラ群101が多くのカメラが有しているほど、その仮想視点画像の評価値が高く決定される。
また、判定部110は、カメラ群101に含まれるカメラの台数ではなく、実際に仮想視点画像の生成に用いられるカメラの台数に基づいて評価値を決定してもよい。具体的には、図3に示すように複数のグループがカメラ群101に含まれる場合において、注視点302の周囲に仮想視点が設定されると、判定部110は注視点302に対応するグループ311のカメラの台数を取得する。そして判定部110は、グループ311のカメラの台数と参照情報とを参照して評価値を決定する。なお、仮想視点が注視点302の近傍から注視点301の近傍に移動するように設定される場合には、注視点302に対応するグループ311のカメラ台数と注視点301に対応するグループ310のカメラ台数とを足した数に基づいて評価値が決定されてもよい。
また、判定部110は、カメラの台数ではなく、仮想視点の設定に応じた注視点の数に基づいて評価値を決定してもよい。具体的には、判定部110は、画像記憶部103から各カメラのIPアドレスと各カメラに対応する注視点の情報とを取得する。そして判定部110は、画像記憶部103から取得した情報と仮想視点を示す視点情報とに基づいて、設定された仮想視点に応じた仮想視点画像を生成するためにいくつの注視点に対応するカメラを用いる必要があるかを決定する。その結果に応じて、例えば、2つの注視点に対応するカメラが用いられる場合には、1つの注視点に対応するカメラが用いられる場合よりも仮想視点画像の評価値が高く決定される。以上のように、判定部110による評価値の決定処理には種々の方法が考えられる。なお、決定処理はこれらの例に限定されるものではない。
[制約に関する参照情報に基づく判定処理を行う例]
上述の実施形態では、情報処理装置100が、情報記憶部104に記憶された評価値に関する参照情報に基づいて、仮想視点画像の評価値を決定する場合について説明した。例えば評価値として仮想視点画像の金額が決定される場合、ユーザが端末装置105を操作して仮想視点画像の生成を指示し、出力された金額をユーザがシステムの管理者に支払うことで、仮想視点画像が提供されるようなサービス形態を実現できる。これに対して、ユーザが事前に管理者にシステムの使用料を支払っておき、支払い金額に応じた内容の仮想視点画像をユーザに提供するようなサービス形態も考えられる。以下では、このようなサービス形態を実現可能とするために、画像処理システム10が制約に関する参照情報に基づく判定処理を行う変形例について説明する。ただし、以下で説明する画像処理システム10の使用方法は上記のサービス形態に限定されるものではない。
本変形例において、情報記憶部104は、仮想視点画像の生成に係る制約条件の判定を行うための参照情報を、ハードディスクドライブやSSD、SDカードなどの記録媒体に記憶する。情報記憶部104により記憶される参照情報は、情報処理装置100から情報記憶部104に入力されて記憶される。ただしこれに限らず、情報記憶部104により記憶される参照情報は、その他の装置から情報記憶部104に入力されてもよいし、ユーザが情報記憶部104の操作部を操作することにより手動で入力されてもよい。そして判定部110は、上述の実施形態と同様に仮想視点画像の生成に係る生成パラメータを取得し、情報記憶部104から取得した参照情報が示す制約条件をその生成パラメータが満たすか否かを判定する。さらに判定部110は、制約条件が満たされる場合に、画像生成部112に仮想視点画像の生成及び出力を指示する。
図9を用いて、本変形例における情報処理装置100の処理フローについて説明する。図9において、図6に示した処理と同様の処理については同じ符号を付している。また、図9に示す処理の開始タイミングは、図6に示す処理と同様である。
S601において、画像生成部112は画像記憶部103から、カメラ群101による複数の方向からの撮影対象領域201の撮影に基づく画像を取得する。S911において、判定部110は、端末装置105からユーザ情報を取得する。ここで取得されるユーザ情報には、ユーザを識別するための識別情報と、ユーザの属性を示す属性情報との、少なくとも何れかが含まれる。ユーザを識別するための識別情報は、例えば予め登録されたユーザIDである。ただし、ユーザを識別するための識別情報の内容はこれに限らず、IPアドレスなどの端末装置105の識別情報であってもよいし、ユーザが画像処理システム10を利用する際に発行されるCookieなどであってもよい。ユーザの属性を示す属性情報は、例えば予め設定されたユーザの権限を示す情報である。ただし属性情報の内容はこれに限らず、ユーザによるシステムの使用履歴や管理者への支払金額に応じたユーザの等級を示す情報であってもよいし、ユーザの所属や役職を示す情報であってもよい。また、ユーザ情報の内容は上記に限定されない。
S602において、視点設定部111は端末装置105から、仮想視点画像の生成に係る生成パラメータの指定に応じた指示情報を取得する。この指示情報には、仮想視点を示す視点情報が含まれる。取得された指示情報は判定部110に出力され、判定部110によりS911において取得したユーザ情報と関連付けられる。なお、S601における画像の取得、S911におけるユーザ情報の取得、及びS602における視点情報の取得の順序は図9に示すものに限定されず、また、これらの処理の少なくとも2つが並行して行われてもよい。また、情報処理装置100は、ユーザ情報と視点情報とを別々に取得しなくてもよく、ユーザ情報と視点情報とを含む指示情報を端末装置105から取得してもよい。
S603において、判定部110は、視点設定部111から出力される指示情報により示される生成パラメータを取得する。判定部110により取得される生成パラメータには、例えば、仮想視点の位置及び向きの少なくとも何れかを示す情報が含まれる。ただしこれに限らず、生成パラメータには、画質に関する情報や、仮想視点の指定方法を示す情報や、仮想視点画像の生成に用いられる画像に対応する撮影装置に関する情報や、再生モードを示す情報などが含まれていてもよい。また、判定部110は生成パラメータを示す指示情報を、視点設定部111を介さずに端末装置105から直接取得してもよい。
S912において、判定部110は、S603において取得した生成パラメータが制約条件を満たすか否かを判定する。具体的には、判定部110は、指示情報により示される生成パラメータが、情報記憶部104に予め記憶された参照情報のうちその指示情報に関連付けられたユーザ情報に対応する参照情報により示される制約を満たすかを判定する。図10に、情報記憶部104に記憶される参照情報の例を示す。ここでは、生成パラメータとしての仮想視点の位置及び向きがユーザ属性に応じた制約を満たすか否かについて判定される場合を例に挙げて説明する。
図10(a)に示す参照情報は、仮想視点の位置の高さと、その高さの仮想視点の設定を許可されるユーザの属性とを対応づけるものである。この場合、例えば属性Cのユーザは、300cm未満の高さの仮想視点を設定することはできるが、300cm以上の高さの仮想視点を設定することは許可されない。すなわち、図10(a)に示す参照情報は、属性Cのユーザに対応する制約として、仮想視点の高さが300cm未満であるという条件を示す。図10(b)に示す参照情報は、仮想視点の位置と選手などの特定のオブジェクトとの距離を、その仮想視点の設定を許可されるユーザの属性に対応付けるものである。この場合、オブジェクトと仮想視点との距離が近いと、そのオブジェクトを高解像度で描画するための処理量が大きくなるため、等級の高いユーザしかそのような仮想視点の設定が許可されない。図10(c)に示す参照情報は、仮想視点の視界に含まれる(仮想視点画像に映る)オブジェクトと、その仮想視点の設定を許可されるユーザの属性とを対応付けるものである。この場合、オブジェクトとしての各人物のプライバシーの設定などに応じて、予め定められたユーザしかその人物を視界に含む仮想視点の設定が許可されない。なお、参照情報の内容及び形式は図10に示すものに限定されない。
このように参照情報は、仮想視点を設定可能な領域、仮想視点と撮影対象領域201内の特定のオブジェクトとの距離、及び仮想視点の視界に含まれるオブジェクトの少なくとも何れかについての制約を示す。なお、情報記憶部104に記憶される参照情報の内容は上記の例に限定されない。例えば参照情報は、仮想視点の移動距離、仮想視点の移動速度、及び仮想視点の設定期間の少なくとも何れかについての制約を示すものであってもよい。具体的には、ユーザの等級が低い場合には、仮想視点の移動距離が所定値までしか許可されなかったり、所定速度未満での仮想視点の移動しか許可されなかったり、特定の期間に対応する仮想視点画像の生成が許可されなかったりしてもよい。
S913において、判定部110は、S912における制約の判定結果に基づいて、仮想視点画像を生成するか否かを判断する。端末装置105から取得した指示情報により示される生成パラメータが制約を満たすと判定された場合、判定部110は仮想視点画像を生成すると判断する。例えば図10(a)に示す参照情報が用いられる場合において、属性Cに対応するユーザが250cmの高さの仮想視点を指定すると、判定部110はその仮想視点に応じた仮想視点画像を生成すると判断する。そしてS607において、画像生成部112は、S603において取得した生成パラメータに応じた仮想視点画像を生成して端末装置105へ出力する。仮想視点画像を出力すると、情報処理装置100は図9の処理を終了する。出力された仮想視点画像は、端末装置105の表示部801に表示される。
一方、S912において、指示情報により示される生成パラメータが制約を満たさないと判定された場合、判定部110はその生成パラメータに応じた仮想視点画像の生成及び出力を行わないと判断し、S602に戻る。例えば図10(a)に示す参照情報が用いられる場合において、属性Cに対応するユーザが350cmの高さの仮想視点を指定すると、判定部110はその仮想視点に応じた仮想視点画像を出力しないと判断する。この場合、判定部110は端末装置105に対して、指示情報に応じた仮想視点画像を出力できないことを示す情報や、どの種別の生成パラメータが制約を満たしていないかを示す情報などを出力してもよい。そして端末装置105は、判定部110から受け取った情報に基づく通知を、画像表示や音声出力によりユーザに対して行ってもよい。
図8(b)は、生成パラメータが制約を満たさない場合に端末装置105に表示される画像の一例を示す。ここでは、ユーザにより指定された仮想カメラパス802に含まれる仮想視点が、図10(b)の参照情報により表される制約を満たさないものとする。この場合に表示部801には、エラー情報804と、代替カメラパス805とが表示される。エラー情報804は、生成パラメータが制約を満たしていないことを示す情報(「エラー」の表示)と、制約を満たしていない生成パラメータの種別を示す情報(「仮想視点」の表示)が含まれる。さらにエラー情報804には、仮想視点とオブジェクトとの距離についての制約が満たされていないという、制約の内容を示す情報(「オブジェクト距離」の表示)が含まれる。代替カメラパス805は、制約を満たす仮想視点の移動経路を示す情報であり、ユーザにより指定された仮想カメラパス802に基づいて自動で生成される。ユーザから代替カメラパス805を指定する操作を受け付けると、端末装置105は、代替カメラパス805に対応する生成パラメータを含む指示情報を情報処理装置100へ出力する。
なお、図8(b)に示す表示は通知の一例であり、通知の内容はこれに限定されない。例えば、仮想視点の候補としての代替カメラパス805が複数表示されてもよい。また例えば、画質に関する生成パラメータが制約を満たしていない場合には、その生成パラメータを示す情報や、その生成パラメータの制約を満たす値を示す情報などが、エラー情報804に含まれていてもよい。また、単にエラーを示す情報だけがエラー情報804として表示されてもよい。
S913からS602に戻った場合、S602からS912において、情報処理装置100は、端末装置105から新たな指示情報を取得して制約条件の判定を行う。新たな指示情報により示される新たな生成パラメータが制約を満たす場合には、S607に進んで、画像生成部112が新たな生成パラメータに応じた仮想視点画像を生成し出力する。なお、情報処理装置100が端末装置105から仮想視点の生成の中止を示す指示情報を取得した場合、情報処理装置100は図9の処理を終了する。
なお、上記の例では、ユーザが端末装置105を用いて仮想視点画像の生成に係る指定操作を完了した後に、情報処理装置100がその指定操作に応じた仮想視点画像の出力を行うか否か判定するものとした。ただしこれに限らず、情報処理装置100は、ユーザによる端末装置105の指定操作中に生成パラメータを逐次取得し、その時点での生成パラメータと参照情報とを参照して、仮想視点画像の出力の制御や端末装置105への通知を行ってもよい。
なお、上記の例では、端末装置105から出力されるユーザ操作に応じた指示情報により示される生成パラメータが制約を満たさない限り、画像生成部112は仮想視点画像を生成しないものとした。ただしこれに限らず、画像生成部112は制約が満たされない場合でも仮想視点画像の生成は行い、制約が満たされる場合に生成された仮想視点画像を出力してもよい。また、画像生成部112は、指示情報により示される生成パラメータが制約を満たさない場合に、その生成パラメータに応じた仮想視点画像にエラーを示す画像を重畳した画像を生成して出力してもよい。また、画像生成部112は、指示情報により示される生成パラメータが制約を満たさない場合に、その制約を満たす別の生成パラメータに応じた仮想視点画像を出力してもよい。
例えば、図10(b)に示す参照情報が情報記憶部104に記憶されており、属性Cのユーザがオブジェクトから50cmの距離に仮想視点を位置させるような操作を行った場合を考える。この場合には制約が満たされないため、情報処理装置100は、オブジェクトから100cmの距離に位置する仮想視点に応じた仮想視点画像を出力してもよい。またこの場合に、情報処理装置100は、オブジェクトから50cmの距離に位置する仮想視点に応じた、通常よりも画質の低い仮想視点画像を出力してもよい。このように、情報処理装置100がユーザの指定操作に応じた仮想視点画像の代替となる仮想視点画像を出力することで、ユーザが視聴している仮想視点画像が急に途切れてしまう虞を低減できる。また、代替となる仮想視点画像がユーザの要望に適うものであれば、ユーザが制約を満たす生成パラメータを新たに指定し直す手間を低減することができる。
また、情報処理装置100は、参照情報に応じた仮想視点画像の出力制御を行うか否かを、画像処理システム10の状態に応じて決定してもよい。例えば情報処理装置100は、装置及び通信路の処理負荷が閾値より小さい場合には、端末装置105から取得した指示情報に応じた仮想視点画像を、制約条件の判定を行うことなく出力してもよい。そして情報処理装置100は、装置及び通信路の少なくとも何れかの処理負荷が閾値より大きい場合には、端末装置105から取得した指示情報が制約を満たす場合のみ、その指示情報に応じた仮想視点画像を出力してもよい。これにより、画像処理システム10は、システムのリソースの制限範囲内でできるだけ多くのユーザに仮想視点画像を提供することができる。
以上説明したように、本変形例における情報処理装置100は、仮想視点画像の生成に係る生成パラメータの指定に応じた指示情報であってユーザ情報と関連付けられた指示情報を取得する。そして情報処理装置100は、当該指示情報により示される生成パラメータが、当該指示情報と関連付けられたユーザ情報に対応する制約を満たすかを判定する。そして情報処理装置100は、当該生成パラメータが制約を満たすと判定された場合に、当該生成パラメータに応じた仮想視点画像を出力する。上記のような構成によれば、仮想視点画像を提供する画像処理システム10において、制約に基づいて提供先のユーザに適した処理を行えるようになる。例えば、予め定められた等級の高いユーザには優先して仮想視点画像を提供し、等級の低いユーザに対しては生成に係る処理量が大きいような仮想視点画像は提供しないように、ユーザを区別して扱うことでシステムの処理能力を適切に利用することができる。
[その他の実施形態]
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC等)によっても実現可能である。また、そのプログラムをコンピュータにより読み取り可能な記録媒体に記録して提供してもよい。
10 画像処理システム
100 情報処理装置
101 カメラ群
110 判定部
111 視点設定部
112 画像生成部

Claims (19)

  1. 撮影対象領域を複数の撮影装置により複数の方向から撮影することで得られる画像に基づく仮想視点画像の生成に係る、ユーザによって指定されたパラメータを取得する取得手段と、
    前記取得手段により取得された前記ユーザによって指定されたパラメータに応じた仮想視点画像の評価値を出力する出力手段であって、当該パラメータと評価値との関係を示す参照情報に基づいて決定された評価値を出力する出力手段とを有することを特徴とする情報処理装置。
  2. 前記取得手段により取得される前記ユーザによって指定されたパラメータには、仮想視点の位置及び向きの少なくとも何れかを示すパラメータが含まれることを特徴とする請求項1に記載の情報処理装置。
  3. 前記出力手段により出力される前記評価値は、前記取得手段により取得された前記ユーザによって指定されたパラメータに応じた仮想視点の移動距離、当該仮想視点の移動速度、及び当該仮想視点の設定期間の少なくとも何れかに基づいて決定されることを特徴とする請求項2に記載の情報処理装置。
  4. 前記出力手段により出力される前記評価値は、前記取得手段により取得された前記ユーザによって指定されたパラメータに応じた仮想視点が所定の領域内に位置する時間、当該仮想視点と前記撮影対象領域に含まれる特定のオブジェクトとの距離、及び当該仮想視点の視界に含まれるオブジェクトの少なくとも何れかに基づいて決定されることを特徴とする請求項2又は3に記載の情報処理装置。
  5. 前記出力手段は、前記取得手段により取得されるパラメータに応じた仮想視点画像が表示される表示部へ前記評価値を出力することを特徴とする請求項1乃至4の何れか1項に記載の情報処理装置。
  6. 前記出力手段により前記評価値が出力された後のユーザ操作に応じて新たに設定されたパラメータに基づく仮想視点画像を生成する生成手段を有することを特徴とする請求項1乃至5の何れか1項に記載の情報処理装置。
  7. 前記参照情報には、仮想視点画像の生成に係るパラメータと評価値とを対応付ける配列情報と、仮想視点画像の生成に係るパラメータから評価値を算出するための計算式との、少なくとも何れかが含まれることを特徴とする請求項1乃至6の何れか1項に記載の情報処理装置。
  8. 撮影対象領域を複数の撮影装置により複数の方向から撮影することで得られる画像に基づいて生成される仮想視点画像を出力する情報処理装置であって、
    仮想視点画像の生成に係るパラメータの指定に応じた指示情報であってユーザ情報と関連付けられた指示情報を取得する取得手段と、
    前記取得手段により取得された指示情報により示されるパラメータが、当該指示情報と関連付けられたユーザ情報に対応する制約を満たすかを判定する判定手段と、
    前記取得手段により取得された指示情報により示されるパラメータが前記制約を満たすと前記判定手段により判定された場合に、当該パラメータに応じた仮想視点画像を出力し、前記取得手段により取得された指示情報により示されるパラメータが前記制約を満たさないと前記判定手段により判定された場合に、前記取得手段により取得された指示情報に応じた仮想視点画像を出力できないことを示すエラー情報を出力する出力手段とを有し、
    前記エラー情報は、前記取得手段により取得された指示情報により示されるパラメータが前記制約を満たしていないことを示す情報、前記取得手段により取得された指示情報により示されるパラメータのうち前記制約を満たしていないパラメータの種別を示す情報、および前記制約の内容を示す情報のうち少なくとも一つが含まれる
    ことを特徴とする情報処理装置。
  9. 前記取得手段により取得される指示情報により示されるパラメータには、仮想視点の位置及び向きの少なくとも何れかを示すパラメータが含まれることを特徴とする請求項8に記載の情報処理装置。
  10. 前記判定手段は、前記取得手段により取得された指示情報により示されるパラメータが、仮想視点の移動距離、仮想視点の移動速度、及び仮想視点の設定期間の少なくとも何れかについての前記制約を満たすかを判定することを特徴とする請求項9に記載の情報処理装置。
  11. 前記判定手段は、前記取得手段により取得された指示情報により示されるパラメータが、仮想視点を設定可能な領域、仮想視点と前記撮影対象領域に含まれる特定のオブジェクトとの距離、及び仮想視点の視界に含まれるオブジェクトの少なくとも何れかについての前記制約を満たすかを判定することを特徴とする請求項9又は10に記載の情報処理装置。
  12. 前記出力手段は、前記取得手段により取得された指示情報により示されるパラメータが前記制約を満たさないと前記判定手段により判定された場合に、当該パラメータに応じた仮想視点画像を出力しないことを特徴とする請求項8乃至11の何れか1項に記載の情報処理装置。
  13. 前記出力手段は、前記取得手段により取得された指示情報により示されるパラメータが前記制約を満たさないと前記判定手段により判定された場合に、前記制約を満たす別のパラメータに応じた仮想視点画像を出力することを特徴とする請求項8乃至12の何れか1項に記載の情報処理装置。
  14. 前記ユーザ情報には、ユーザを識別するための識別情報と、ユーザの属性を示す属性情報との、少なくとも何れかが含まれることを特徴とする請求項8乃至13の何れか1項に記載の情報処理装置。
  15. 前記取得手段により取得された指示情報により示されるパラメータが前記制約を満たすと前記判定手段により判定された場合に前記仮想視点画像を生成し、前記取得手段により取得された指示情報により示されるパラメータが前記制約を満たさないと前記判定手段により判定された場合に前記仮想視点画像を生成しない生成手段をさらに有することを特徴とする請求項8乃至14の何れか1項に記載の情報処理装置。
  16. 仮想視点画像の生成に係る前記パラメータには、仮想視点の指定方法を示すパラメータと、仮想視点画像の生成に用いられる画像に対応する撮影装置に関するパラメータとの、少なくとも何れかが含まれることを特徴とする請求項1乃至15の何れか1項に記載の情報処理装置。
  17. 撮影対象領域を複数の撮影装置により複数の方向から撮影することで得られる画像に基づく仮想視点画像の生成に係る、ユーザによって指定されたパラメータを取得する取得工程と、
    前記取得工程において取得された前記ユーザによって指定されたパラメータに応じた仮想視点画像の評価値を出力する出力工程であって、当該パラメータと評価値との関係を示す参照情報に基づいて決定された評価値を出力する出力工程とを有することを特徴とする情報処理方法。
  18. 撮影対象領域を複数の撮影装置により複数の方向から撮影することで得られる画像に基づいて生成される仮想視点画像を出力する情報処理方法であって、
    仮想視点画像の生成に係るパラメータの指定に応じた指示情報であってユーザ情報と関連付けられた指示情報を取得する取得工程と、
    前記取得工程において取得された指示情報により示されるパラメータが、当該指示情報と関連付けられたユーザ情報に対応する制約を満たすかを判定する判定工程と、
    前記取得工程において取得された指示情報により示されるパラメータが前記制約を満たすと前記判定工程において判定された場合に、当該パラメータに応じた仮想視点画像を出力し、前記取得工程により取得された指示情報により示されるパラメータが前記制約を満たさないと前記判定工程により判定された場合に、前記取得工程により取得された指示情報に応じた仮想視点画像を出力できないことを示すエラー情報を出力する出力工程とを有し、
    前記エラー情報は、前記取得手段により取得された指示情報により示されるパラメータが前記制約を満たしていないことを示す情報、前記取得手段により取得された指示情報により示されるパラメータのうち前記制約を満たしていないパラメータの種別を示す情報、および前記制約の内容を示す情報のうち少なくとも一つが含まれることを特徴とする情報処理方法。
  19. コンピュータを、請求項1乃至16の何れか1項に記載の情報処理装置の各手段として機能させるためのプログラム。
JP2018149435A 2018-08-08 2018-08-08 情報処理装置、情報処理方法、及びプログラム Active JP7301507B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2018149435A JP7301507B2 (ja) 2018-08-08 2018-08-08 情報処理装置、情報処理方法、及びプログラム
US16/532,340 US10951873B2 (en) 2018-08-08 2019-08-05 Information processing apparatus, information processing method, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018149435A JP7301507B2 (ja) 2018-08-08 2018-08-08 情報処理装置、情報処理方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2020024619A JP2020024619A (ja) 2020-02-13
JP7301507B2 true JP7301507B2 (ja) 2023-07-03

Family

ID=69407310

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018149435A Active JP7301507B2 (ja) 2018-08-08 2018-08-08 情報処理装置、情報処理方法、及びプログラム

Country Status (2)

Country Link
US (1) US10951873B2 (ja)
JP (1) JP7301507B2 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10600245B1 (en) * 2014-05-28 2020-03-24 Lucasfilm Entertainment Company Ltd. Navigating a virtual environment of a media content item
CN107924690B (zh) * 2015-09-02 2021-06-25 交互数字Ce专利控股公司 用于促进扩展场景中的导航的方法、装置和系统
JP7159057B2 (ja) * 2017-02-10 2022-10-24 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 自由視点映像生成方法及び自由視点映像生成システム
WO2021020200A1 (ja) * 2019-07-26 2021-02-04 富士フイルム株式会社 情報処理装置、情報処理方法、及びプログラム
JP7458889B2 (ja) * 2020-05-08 2024-04-01 キヤノン株式会社 画像表示装置、制御方法、およびプログラム
WO2022070603A1 (ja) * 2020-09-30 2022-04-07 富士フイルム株式会社 情報処理装置、情報処理方法、及びプログラム
JP2022182119A (ja) * 2021-05-27 2022-12-08 キヤノン株式会社 画像処理装置およびその制御方法、プログラム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015114716A (ja) 2013-12-09 2015-06-22 シャープ株式会社 画像データ再生装置および画像データ生成装置
WO2018030206A1 (ja) 2016-08-10 2018-02-15 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ カメラワーク生成方法及び映像処理装置

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014215828A (ja) 2013-04-25 2014-11-17 シャープ株式会社 画像データ再生装置、および視点情報生成装置
JP6124985B1 (ja) * 2015-12-24 2017-05-10 株式会社コロプラ 映像コンテンツ配信システム及びコンテンツ管理サーバ
WO2018079166A1 (ja) * 2016-10-26 2018-05-03 ソニー株式会社 情報処理装置、情報処理システム、および情報処理方法、並びにプログラム
US10733786B2 (en) * 2018-07-20 2020-08-04 Facebook, Inc. Rendering 360 depth content

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015114716A (ja) 2013-12-09 2015-06-22 シャープ株式会社 画像データ再生装置および画像データ生成装置
WO2018030206A1 (ja) 2016-08-10 2018-02-15 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ カメラワーク生成方法及び映像処理装置

Also Published As

Publication number Publication date
JP2020024619A (ja) 2020-02-13
US10951873B2 (en) 2021-03-16
US20200053336A1 (en) 2020-02-13

Similar Documents

Publication Publication Date Title
JP7301507B2 (ja) 情報処理装置、情報処理方法、及びプログラム
JP7051457B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP7140487B2 (ja) 情報処理装置、表示制御方法、及び、プログラム
KR101655078B1 (ko) 움직이는 사진 생성 방법 및 장치
CN109462749B (zh) 信息处理装置、信息处理方法以及介质
JP7023696B2 (ja) 情報処理装置、情報処理方法及びプログラム
US20210150223A1 (en) Information processing apparatus, information processing method, and storage medium
JP7366611B2 (ja) 画像処理装置、画像処理方法、及び、プログラム
JP2020086983A (ja) 画像処理装置、画像処理方法、及びプログラム
JP7073092B2 (ja) 画像処理装置、画像処理方法及びプログラム
AU2018391746B2 (en) Display control device and display control method
US20230353717A1 (en) Image processing system, image processing method, and storage medium
JP6812181B2 (ja) 画像処理装置、画像処理方法、及び、プログラム
JP2024124469A (ja) 画像処理装置、画像処理方法、コンピュータプログラム
JP2019016862A (ja) 情報処理装置、情報処理システム、情報処理装置の制御方法及びプログラム
JP2020102687A (ja) 情報処理装置、画像処理装置、画像処理方法、及びプログラム
JP2019197340A (ja) 情報処理装置、情報処理方法、及び、プログラム
JP2023163182A (ja) 情報処理装置、情報処理方法、及びプログラム
US20230074282A1 (en) Information processing apparatus, information processing method, and program
JP7546676B2 (ja) 情報処理装置、情報処理方法、及びプログラム
JP6910405B2 (ja) 情報処理装置、情報処理方法、及びプログラム
JP2021026435A (ja) 仮想視点映像を生成する装置、システム、方法、及びプログラム
JP2021144522A (ja) 画像処理装置、画像処理方法、プログラム、及び画像処理システム
WO2023145571A1 (ja) 情報処理装置、情報処理方法、データ構造及びプログラム
JP6685364B2 (ja) 表示制御装置、表示制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210728

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220512

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220524

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220721

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221129

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230120

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230523

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230621

R151 Written notification of patent or utility model registration

Ref document number: 7301507

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151