JP7459341B2 - 情報処理装置、情報処理装置の制御方法、及びプログラム - Google Patents

情報処理装置、情報処理装置の制御方法、及びプログラム Download PDF

Info

Publication number
JP7459341B2
JP7459341B2 JP2023055188A JP2023055188A JP7459341B2 JP 7459341 B2 JP7459341 B2 JP 7459341B2 JP 2023055188 A JP2023055188 A JP 2023055188A JP 2023055188 A JP2023055188 A JP 2023055188A JP 7459341 B2 JP7459341 B2 JP 7459341B2
Authority
JP
Japan
Prior art keywords
virtual camera
mode
setting
axis
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2023055188A
Other languages
English (en)
Other versions
JP2023083314A5 (ja
JP2023083314A (ja
Inventor
一弘 松林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2023055188A priority Critical patent/JP7459341B2/ja
Publication of JP2023083314A publication Critical patent/JP2023083314A/ja
Publication of JP2023083314A5 publication Critical patent/JP2023083314A5/ja
Priority to JP2024045441A priority patent/JP2024069646A/ja
Application granted granted Critical
Publication of JP7459341B2 publication Critical patent/JP7459341B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/282Image signal generators for generating image signals corresponding to three or more geometrical viewpoints, e.g. multi-view systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04847Interaction techniques to control parameter settings, e.g. interaction with sliders or dials
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/111Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
    • H04N13/117Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation the virtual viewpoint locations being selected by the viewers or determined by viewer tracking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/2224Studio circuitry; Studio devices; Studio equipment related to virtual studio applications
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04845Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range for image manipulation, e.g. dragging, rotation, expansion or change of colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/147Digital output to display device ; Cooperation and interconnection of the display device with other functional units using display panels
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/10Geometric effects
    • G06T15/20Perspective computation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/167Synchronising or controlling image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/243Image signal generators using stereoscopic image cameras using three or more 2D image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/296Synchronisation thereof; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/366Image reproducers using viewer tracking
    • H04N13/383Image reproducers using viewer tracking for tracking with gaze detection, i.e. detecting the lines of sight of the viewer's eyes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/695Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2628Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/91Television signal processing therefor
    • H04N5/93Regeneration of the television signal or of selected parts thereof
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/10Mixing of images, i.e. displayed pixel being the result of an operation, e.g. adding, on the corresponding input pixels
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/12Overlay of images, i.e. displayed pixel being the result of switching between the corresponding input pixels
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2370/00Aspects of data communication
    • G09G2370/20Details of the management of multiple sources of image data

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Computing Systems (AREA)
  • Geometry (AREA)
  • Computer Graphics (AREA)
  • Processing Or Creating Images (AREA)
  • Studio Devices (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Studio Circuits (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本発明は、仮想視点画像の生成において、任意の仮想視点を指定する操作を行なうための技術に関する。
近年、複数のカメラを異なる位置に配置して複数視点で同期撮影し、当該撮影により得られた複数視点画像を用いて、カメラの配置位置における画像だけでなく任意の視点からなる仮想視点画像を生成する技術が注目されている。複数視点画像に基づく仮想視点画像の生成及び閲覧は、複数のカメラで撮影した画像をサーバ等の画像処理部に集約し、当該画像処理部において、仮想視点に基づくレンダリング等の処理を施し、さらにユーザ端末に仮想視点画像を表示することで実現される。
この仮想視点画像において、視点の変更は、仮想三次元空間上に配置された仮想カメラの位置及び姿勢をコントローラで操作することにより行われる。具体的には、仮想カメラの位置をX、Y、Zの3軸で制御し、また、仮想カメラの姿勢をパン、チルト、ロールの3軸で制御する。さらに、仮想カメラの画角をズーム軸、再生速度を時間軸で制御することも行われている。
これまで、仮想視点画像における視点の変更では、上述の各々の操作軸を操作するために、複数のオペレータが操作軸毎に操作を分担していた。若しくは、1人のオペレータが両手を使って同時に2つのコントローラを操作するか、又は、上述の各々の操作軸に関して同時に操作が可能なコントローラを用いて操作することが行われていた。また、特許文献1には、所望の視点の映像を操作の負担を軽減して取得するために、過去に他のユーザが行った操作の履歴を保持し、その操作の履歴を推奨として提示(配信)するシステムが開示されている。
国際公開第2016/178340号
しかしながら、複数のオペレータが操作を分担する場合、他のオペレータが自分の意図と異なる操作をしてしまう恐れがあった。これにより、所望のカメラパラメータが得られないことがあった。また、多数の仮想視点画像を同時に作成する場合、オペレータの人数が多いと人件費がかさみ、制作コストが高くなる恐れもあった。
一方、1人のオペレータが上述の各々の操作軸に対して同時に操作を行う場合、すべての操作軸の値を正確に調整するのは困難であった。また、一度作成したカメラパラメータに対して、一部の操作軸の値だけを指定して編集(調整)したいときにも、最初からすべての操作軸にして操作をやり直す必要があり、所望の仮想視点画像を得るのが困難であった。この点、特許文献1においても同様であり、つまりは、仮想視点操作の自由度に制約があった。
そこで、本発明は、上記の従来の課題の少なくとも1つを解決するためになされたものであって、仮想視点の操作性を向上させることを目的とする。
上記課題を解決するため、本発明の情報処理装置は、ユーザ操作に従って、仮想カメラが第1の方向に移動することを可能にするモードか前記仮想カメラが前記第1の方向に移動することを禁止するモードのいずれかに第1の設定を行う第1設定手段と、ユーザ操作に従って、前記仮想カメラが第2の方向に移動することを可能にするモードか前記仮想カメラが前記第2の方向に移動することを禁止するモードのいずれかに第2の設定を行う第2設定手段と、ユーザ操作に従って、前記仮想カメラが第3の方向に移動することを可能にするモードか前記仮想カメラが前記第3の方向に移動することを禁止するモードのいずれかに第3の設定を行う第3設定手段と、前記仮想カメラが前記第1の方向に移動することを可能にするモードか前記仮想カメラが前記第1の方向に移動することを禁止するモードのいずれが設定されているかを示す第1の情報と、前記仮想カメラが前記第2の方向に移動することを可能にするモードか前記仮想カメラが前記第2の方向に移動することを禁止するモードのいずれが設定されているかを示す第2の情報と、前記仮想カメラが前記第3の方向に移動することを可能にするモードか前記仮想カメラが前記第3の方向に移動することを禁止するモードのいずれが設定されているかを示す第3の情報と、を表示装置に表示させる表示手段と、を有し、前記第1の設定と前記第2の設定と前記第3の設定とを互いに独立に行うことができる
本発明によれば、仮想視点の操作性が向上する。
画像処理システムについて説明するための図である。 情報処理装置の入出力部の模式図である。 カメラビューウィンドウを説明するための図である。 パイロットウィンドウのパイロットタブを説明するための図である。 パイロットウィンドウのカメラ制御タブを説明するための図である。 カメラ制御タブを選択したときのパイロットウィンドウの一部を抜粋した図である。 リプレイウィンドウを説明するための図である。 3軸コントローラを説明するための図である。 ズームコントローラを説明するための図である。 リプレイコントローラを説明するための図である。 仮想カメラの操作軸について説明するための図である。 情報処理装置の機能ブロックを示す図である。 情報処理装置における処理の手順を示したフローチャートである。 カメラパラメータを編集した結果を示す図である。 仮想カメラの操作軸について説明するための図である。 仮想カメラの操作軸について説明するための図である。
以下、本発明の実施形態について、図面を参照して説明する。なお、以下の実施形態は、本発明を限定するものではなく、本実施形態で説明されている特徴の組み合わせの全てが本発明の解決手段に必須のものとは限らない。その他、本発明の要旨を逸脱しない範囲の様々な形態も本発明に含まれ、また、以下の実施形態の一部を適宜組み合わせることもできる。
図1は、画像処理システム10について説明するための図である。より詳細には、図1(a)は画像処理システム10の全体構成を示す図であり、また、図1(b)は画像処理システム10の情報処理装置103のハードウェア構成を示す図である。以下、図1(a)及び図1(b)の各々について説明する。
画像処理システム10は、図1(a)に示されるように、撮影システム101、仮想視点画像生成サーバ102、情報処理装置103を備える。画像処理システム10は、仮想視点画像を生成することができる。
撮影システム101は、複数のカメラを各々、異なる位置に配置し、複数視点からの複数画像を同期撮影する。撮影システム101は、複数視点から同期撮影した複数画像を、仮想視点画像生成サーバ102に送信する。
仮想視点画像生成サーバ102は、複数視点から同期撮影した複数画像を取得し、当該複数画像に基づいて、仮想カメラから見た仮想視点画像を生成する。なお、ここで、仮想カメラとは、撮影空間内を自由に移動可能な仮想的なカメラのことである。即ち、この仮想カメラでは、撮影空間内において、設置(配置)されたどのカメラとも異なる視点において撮影することができる。但し、仮想カメラの位置及び姿勢に一定の制限が課せられるようにしても良い。仮想カメラの視点は、後述する情報処理装置103が決定するカメラパラメータによって操作される。
仮想視点画像生成サーバ102は、受信した複数画像から逐次、仮想視点画像を生成する。したがって、例えば、ライブ仮想視点画像を生成することができる。なお、画像処理システム10において生成されるライブ仮想視点画像は、現在時刻に対して撮影システム101及び仮想視点画像生成サーバ102での処理遅延が考慮された時刻に撮影システム101により撮影された撮影画像に基づく仮想視点画像である。
さらに、仮想視点画像生成サーバ102は、所定のデータベースを備え、受信した複数画像を記録する機能を有する。そのため、記録した複数画像から、過去の仮想視点画像、つまり、リプレイ仮想視点画像(即ち、任意の時刻において、撮影システム101により撮影された撮影画像に基づく仮想視点画像)を生成することができる。
また、補足として、以降の説明において、特に断りがない限り、画像という用語は、動画と静止画の両方の概念を含むものとする。即ち、画像処理システム10は、静止画像及び動画像のいずれについても、処理することができる。
情報処理装置103は、仮想カメラを制御し、仮想カメラの視点を示すカメラパラメータを決定する。仮想カメラのカメラパラメータは、仮想カメラの位置、姿勢、ズーム、又は時刻の少なくともいずれか1つを指定するためのパラメータを含む。
カメラパラメータにより指定される仮想カメラの位置は、例えば、3次元座標等で示される。具体的には、X軸、Y軸、Z軸の3軸の直交座標系の座標により示すことができる。この場合、カメラパラメータにより指定される仮想カメラの位置は、座標を示すものであり、X軸、Y軸、Z軸の3軸のパラメータから構成される。また、原点を、撮影空間内の任意の位置とすることもできる。
カメラパラメータにより指定される仮想カメラの姿勢は、例えば、パン(Pan)、チルト(Tilt)、ロール(Roll)の3軸との成す角度等で示される。この場合、カメラパラメータにより指定される仮想カメラの姿勢は、パン、チルト、ロールの3軸のパラメータから構成される。カメラパラメータにより指定される仮想カメラのズームは、焦点距離の1軸のパラメータで示される。また、時刻についても、同様に、1軸のパラメータで示される。
このように、仮想カメラのカメラパラメータは、8軸のパラメータを含み、また、情報処理装置103は、これらの8軸を制御することができる。なお、カメラパラメータとして、他の要素を規定するパラメータを含ませることもでき、また、上述した8軸のパラメータの全てを含ませないようにすることもできる。
情報処理装置103は、決定した仮想カメラのカメラパラメータを、仮想視点画像生成サーバ102に送信する。仮想視点画像生成サーバ102は、仮想カメラのカメラパラメータを受信すると、その受信したカメラパラメータに基づいて、仮想視点画像を生成し、さらに、その生成した仮想視点画像を情報処理装置103に送信する。そして、情報処理装置103は、受信した仮想視点画像をカメラビュー301に表示する。なお、本実施形態のように1台の情報処理装置103によりライブ仮想視点画像とリプレイ仮想視点画像を生成しても、2台の情報処理装置を用いて、ライブ仮想視点画像とリプレイ仮想視点画像を各々、異なる情報処理装置により生成してもよい。また、上述の図1(a)では、仮想視点画像生成サーバ102と情報処理装置103とが別体として構成されているが、情報処理装置103に仮想視点画像生成サーバ102を含ませる構成としてもよい。
次に、図1(b)を用いて、情報処理装置103のハードウェア構成について説明する。情報処理装置103は、そのハードウェア構成として、CPU111、RAM112、ROM113、通信部114、入出力部115を備える。
CPU(Central Processing Unit)111は、RAM112に格納されているデータやROM113に格納されているコンピュータプログラムを用いて、情報処理装置103の動作を制御する。RAM(Random Access Memory)112は、ROM113から読み出されたコンピュータプログラム、計算の途中結果である中間データ、通信部114を介して外部から供給されるデータ等を一時的に記憶する。ROM(Read Only Memory)113は、変更を必要としないコンピュータプログラムやデータを保持する。なお、ROM113には、電源が遮断されても保持しておく必要があるデータを記憶するための不揮発メモリも含まれるものとする。
通信部114は、EthernetやUSB(Universal Serial Bus)等の通信手段を備え、仮想視点画像生成サーバ102との通信を行う。入出力部115は、仮想カメラを制御するための複数のコントローラと、仮想カメラの状態等を表示する複数の表示部を備える。
図2は、情報処理装置103の入出力部115の模式図である。入出力部115は、図2に示されるように、3つの表示部(201a、201b、201c)を備える。表示部201aは、カメラビューウィンドウを表示する。カメラビューウィンドウは、仮想視点画像生成サーバ102から受信した仮想視点画像を表示するためのウィンドウである。表示部201bは、パイロットウィンドウを表示する。パイロットウィンドウは、仮想カメラを制御するためのウィンドウである。表示部201cは、リプレイウィンドウを表示する。リプレイウィンドウは、リプレイ仮想視点画像を生成及び編集するためのウィンドウである。
なお、以降の説明において、表示部201a、201b、201cを総称して、表示部201と記載することもある。また、情報処理装置103は、上述の各ウィンドウに対する操作を行うために、不図示のタッチパネル、マウス、キーボード等を備えてもよい。
また、入出力部115は、図2に示されるように、4つのコントローラ202a、202b、203、204を備える。入出力部115は、ユーザによるコントローラ操作に応じた、仮想カメラの制御を行うための指示を受け付ける。即ち、入出力部115は、仮想カメラの位置・姿勢等を変化させるため(制御するため)の指示を受け付ける。
3軸コントローラ202a及び3軸コントローラ202bは、3軸を制御(操作)するコントローラである。3軸コントローラの各々の軸には、設定により任意の制御を割り当てることができる。3軸コントローラ202aの各々の軸には、例えば、仮想カメラの位置を指定するためのX軸、Y軸、Z軸の制御を割り当てることができる。また、3軸コントローラ202bの各々の軸には、例えば、仮想カメラの姿勢を指定するためのパン、チルト、ロールの制御を割り当てることができる。
ズームコントローラ203は、仮想カメラのズームを制御するコントローラである。リプレイコントローラ204は、リプレイ仮想視点画像を生成するための機能を制御するコントローラである。また、リプレイコントローラ204には、仮想カメラの時刻の制御も割り当てられる。
なお、図2では、入出力部115に関して、3つの表示部を備える構成をその一例として示したが、1つ、2つ、又は4つ以上の表示部を備える構成としてもよい。同様に、図2では、入出力部115に関して、4つのコントローラを備える構成をその一例として示したが、3つ以下、又は5つ以上のコントローラを備える構成としてもよい。
図3は、カメラビューウィンドウを説明するための図である。カメラビューウィンドウは、上述のように、表示部201aに表示される。カメラビュー301は、仮想視点画像生成サーバ102から受信した仮想視点画像を表示する表示領域である。この仮想視点画像は、ユーザが制御する仮想カメラから見た仮想視点画像である。また、情報処理装置103は、仮想カメラの時刻を制御することで、過去の仮想視点画像を表示することもできる。
シーン時刻302は、カメラビュー301が表示する仮想視点画像の生成に用いられる撮影画像の撮影時刻である。即ち、カメラビュー301に表示されている仮想視点画像の時刻である。
シーン再生速度303は、カメラビュー301に表示されている仮想視点画像の再生速度である。このシーン再生速度303が100%である場合、仮想視点画像は通常の再生速度で再生される。また、シーン再生速度303が100%より小さい場合、仮想視点画像はスローで再生される。例えば、実時間における1秒間の映像を2秒間で再生する場合、シーン再生速度303は50%となる。また、シーン再生速度303が100%より大きい場合、仮想視点画像は早送りで再生される。
なお、シーン再生速度303が0%である場合、カメラビュー301にはある撮影時刻の仮想視点画像が時間的に停止している状態で表示され、シーン時刻302は変動しない。但し、シーン再生速度303が0%である場合であっても、仮想カメラを制御することは可能である。具体的には、例えば、サッカーにおいて、特定の選手がボールを蹴った瞬間に、その特定の選手の周りをぐるりと回るような仮想視点画像を生成することができる。
カメラビューの状態304は、カメラビュー301に表示されている仮想視点画像の状態である。具体的には、例えば、カメラビューの状態304として、以下の5つの状態(「Review replay clip」、「Live」、「Recording」、「Edit replay」、「None」)がある。
「Review replay clip」は、リプレイクリップの仮想視点画像を再生している状態である。「Live」は、ライブの仮想視点画像を再生している状態である。「Recording」は、リプレイクリップを録画している状態である。「Edit replay」は、録画したリプレイクリップを編集している状態である。「None」は、その他の状態である。
図4は、パイロットウィンドウのパイロットタブを説明するための図である。パイロットウィンドウは、上述のように、表示部201bに表示される。切り換えボタン401は、パイロットウィンドウに表示する内容を切り替えるためのボタンであり、パイロットタブとカメラ制御タブで構成される。パイロットタブを選択すると、表示部201bには、主に仮想カメラの状態が表示される。また、カメラ制御タブを選択すると、表示部201bには、主に仮想カメラの制御に関する情報が表示される。
コンテキストビュー408は、ユーザが制御している仮想カメラの位置・姿勢等を俯瞰的に表示する表示領域である。図4に示す例では、パイロットウィンドウは、コンテキストビュー408を4面含んでいる。図4に示されるように、左上のコンテキストビュー408にはフィールドを真上から見た画像が表示され、左下のコンテキストビュー408には、左上のコンテキストビュー408において、その左側からフィールドの長辺方向に沿って見た画像が表示されている。また、右下のコンテキストビュー408には、左上のコンテキストビュー408において、その下側からフィールドの短辺方向に沿って見た画像が表示され、右上のコンテキストビュー408にはフィールドを斜め上から見下ろした画像が表示されている。
これらの画像は、例えば、スタジアムのモデルのCG(Computer Graphics)画像を用いて生成される。或いは、コンテキストビュー408用の仮想カメラを別途、用意し、仮想視点画像を生成してもよい。ユーザは、コンテキストビュー408を確認することで、撮影空間(例えば、スタジアム)における仮想カメラの位置・姿勢等を容易に把握することができる。
カメラパラメータ表示410は、仮想カメラのカメラパラメータを表示する。ここでは、仮想カメラのカメラパラメータとして、仮想カメラの位置を示す座標値、仮想カメラの姿勢を示すパン、チルト、ロール、及びズーム等を表示する。また、情報処理装置103は、GUI(Graphical User Interface)において、各種パラメータに対応するバーの操作を受け付けた場合、カメラパラメータの値を変更することができる。なお、カメラパラメータのうち、仮想カメラの時刻は、シーン時刻302に表示される。仮想カメラ画角表示412は、撮影空間内で、仮想カメラの位置と姿勢を示すCGである。
図5は、パイロットウィンドウのカメラ制御タブを説明するための図である。X軸制御設定501は、仮想カメラのX軸方向(左右方向)への移動に関する各種の設定を行うための設定部である。Y軸制御設定502は、仮想カメラのY軸方向(前後方向)への移動に関する各種の設定を行うための設定部である。Z軸制御設定503は、仮想カメラのZ軸方向(上下方向)への移動に関する各種の設定を行うための設定部である。
パン制御設定504は、仮想カメラのパン方向への回転に関する各種の設定を行うための設定部である。チルト制御設定505は、仮想カメラのチルト方向への回転に関する各種の設定を行うための設定部である。ロール制御設定506は、仮想カメラのロール方向への回転に関する各種の設定を行うための設定部である。ズーム制御設定507は、仮想カメラのズームに関する各種の設定を行うための設定部である。
図6は、図5のカメラ制御タブを選択したときのパイロットウィンドウの一部を抜粋した図である。図6において、操作軸名511は、各操作軸の項目名を示す。カメラパラメータ値512は、各操作軸に対する操作に応じて決定された各カメラパラメータの現在の値を示す。スライドバー513は、コントローラの操作量に対するカメラパラメータの変化速度等の各種設定を行うためのスライドバーである。
Onスイッチ514は各操作軸の編集操作を有効にするためのスイッチであり、Offスイッチ515は各操作軸の編集操作を無効にするためのスイッチである。具体的には、Onスイッチ514をクリックすると、当該操作軸において編集操作が可能な状態(On状態)となり、当該操作軸のOnスイッチ514が強調表示されるとともに、当該操作軸のOffスイッチ515が非強調表示される。また、Offスイッチ515をクリックすると、当該操作軸において編集操作が不可の状態(Off状態)となり、当該操作軸のOffスイッチ515が強調表示されるとともに、当該操作軸のOnスイッチ514が非強調表示される。図6において、図6(a)はすべての操作軸においてOn状態である場合を示しており、また、図6(b)は仮想カメラの位置を指定するためのX軸、Y軸、Z軸においてOff状態、それ以外の操作軸においてOn状態である場合を示している。
なお、各操作軸の編集操作に関して、有効又は無効を切り替える機能が実装されたものであれば、必ずしも上述の形態(即ち、Onスイッチ514、Offスイッチ515)に限定されない。したがって、例えば、1つのスイッチやボタン等で、各操作軸の編集操作の有効又は無効を切り替えるようにしてもよい。また、Onスイッチ514、Offスイッチ515は、他のウィンドウ(例えば、図4のパイロットタブを選択したときのパイロットウィンドウのカメラパラメータ表示410等)に表示させてもよい。
図7は、リプレイウィンドウを説明するための図である。リプレイウィンドウは、主にリプレイクリップの生成に関連する情報を表示する。リプレイクリップリスト604は、ユーザが生成したリプレイクリップ605を管理するためのリストである。なお、図7のリプレイクリップリスト604において、新しいリプレイクリップ605から順に表示している。
リプレイクリップ605は、仮想カメラのカメラパラメータを記録したものである。即ち、情報処理装置103は、リプレイクリップ605を画像としてではなく、カメラパラメータとして記録する。そして、この記録されたカメラパラメータの仮想視点画像を順に生成したものがリプレイ画像となる。
リプレイウィンドウにおいて、リプレイクリップ編集ボタン606が押下されると、リプレイクリップの編集が開始される。リプレイクリップ編集では、一度作成したカメラパラメータをより良いカメラパラメータにするために、再操作して修正することが行われる。そして、この作成したカメラパラメータの修正では、仮想カメラの操作軸のうち、指定した操作軸の値のみが変化し、それ以外の操作軸においては前回の値が維持(保持)される。これにより、1度の操作(修正)において、操作対象とする操作軸を減らすことができるため、即ち、仮想視点操作の自由度を向上させることができるため、操作の負担を軽減したり、オペレータを減らしたりすることができる。
タイムライン607には、試合の進行に合わせて、1フレーム毎に仮想カメラのカメラパラメータが記録される。なお、タイムライン607には、仮想カメラのパラメータが次のように記録される。情報処理装置103がライブの仮想視点画像の生成に使用されている場合、タイムライン607には、そのときの仮想カメラのカメラパラメータが記録される。情報処理装置103がリプレイの仮想視点画像の生成に使用されている場合、タイムライン607には、仮想カメラのカメラパラメータは記録されない。
タイムライン607上の1点がクリックされると、クリックされた時刻にジャンプし、その時刻に対応するフレームのカメラパラメータの値が仮想カメラに設定される。なお、対応するフレームにカメラパラメータが記録されていない場合には、クリック時の仮想カメラのカメラパラメータが適用される。即ち、この場合、位置・姿勢はそのままで、時刻のみがジャンプすることになる。
図8は、3軸コントローラ202を説明するための図である。3軸コントローラ202は、1つの3軸コントローラ202で3軸の制御が可能であり、6個のつまみ801~806、6個のボタン807~812、シーソースイッチ813、3軸ジョイスティック814を備える。本実施形態では、2つの3軸コントローラ202を用いて、6軸の制御を割り当てる。以下、一方の3軸コントローラ202aにX、Y、Zの3軸の制御を割り当て、他方の3軸コントローラ202bにパン、チルト、ロールの3軸の制御を割り当てる。
次に、3軸コントローラ202aのつまみ、ボタン、シーソースイッチ、及び3軸ジョイスティックに割り当てられる機能について説明する。3軸コントローラ202aにおいて、ボタン807には、X軸のOn/Offが割り当てられ、ボタン808には、Y軸のOn/Offが割り当てられ、さらに、ボタン809には、Z軸のOn/Offが割り当てられる。また、シーソースイッチ813には、Z軸が割り当てられ、3軸ジョイスティック814には、左右への倒しはX軸、前後への倒しはY軸が割り当てられる。なお、左右へのひねりは、3軸コントローラ202aにおいて、割り当てられていない。
同様に、3軸コントローラ202bのつまみ、ボタン、シーソースイッチ、及び3軸ジョイスティックに割り当てられる機能について説明する。3軸コントローラ202bにおいて、ボタン807には、パンのOn/Offが割り当てられ、ボタン808には、チルトのOn/Offが割り当てられ、さらに、ボタン809には、ロールのOn/Offが割り当てられる。また、3軸ジョイスティック814には、左右への倒しはパン、前後への倒しはチルト、左右へのひねりはロールが割り当てられる。なお、3軸コントローラ202bにおいて、シーソースイッチ813には、所定の機能は割り当てられていない。
その他、補足として、ジョイスティックに関して、3軸より多い操作軸の制御が可能なジョイスティックを用いることもできる。例えば、ジョイスティックの左右への平行移動はX軸、前後への平行移動はY軸、引き上げ/押し下げはZ軸、左右への倒しはパン、前後への倒しはチルト、左右へのひねりはロールが割り当てられるようにしてもよい。
図9は、ズームコントローラ203を説明するための図である。ズームコントローラ203は、2個のつまみ901、902、4個のボタン903~906、ダイヤル907、シーソースイッチ908を備える。ズームコントローラ203において、ボタン903には、ズームのOn/Offが割り当てられ、ダイヤル907には、フォーカスが割り当てられ、シーソースイッチ908には、ズームが割り当てられる。
図10は、リプレイコントローラ204を説明するための図である。リプレイコントローラ204は、13個のボタン1001~1013、スライダー1014、ジョグホイール1015、フィンガーホイール1016を備える。以下、リプレイコントローラ204において、割り当てられる機能について説明する。
ボタン1010にはRECが割り当てられ、このボタン1010が押下されると、リプレイクリップの作成が開始され、以降において、ユーザが操作した仮想カメラのパラメータがリプレイクリップとして記録される。ボタン1011にはPLAY/PAUSEが割り当てられ、このボタン1011によりシーンの再生と一時停止が行われる。なお、一時停止されている間は、仮想カメラの時刻を停止する。さらに、ボタン1012にはREVIEWが割り当てられ、このボタン1012が押下されると、リプレイクリップの再生が開始される。
スライダー1014は、シーン再生速度を設定するためのスライダーである。このスライダー1014によりシーン再生速度が設定されると、仮想カメラの時刻は、設定されたシーンの再生速度に応じて、変更される。ジョグホイール1015は、時刻を設定するためのものである。このジョグホイール1015により、時刻の巻き戻し、早送り等が行われる。また、フィンガーホイール1016は、フレーム単位で時刻を設定するためのものである。このフィンガーホイール1016により、時刻の巻き戻し、先送り等がフレーム単位で行われる。即ち、フィンガーホイール1016では、ジョグホイール1015よりも時刻を細かく制御することができる。
なお、コントローラ202、203、204において、上述で説明した以外のつまみ、ボタン、スイッチ等については、本実施形態に関係ないので、その説明を省略する。また、上述の機能以外の機能、例えば、被写界深度調整やフォーカス調整等の機能を割り当てることもできる。以下、図11~図16を参照して、各実施形態について説明する。
実施形態1
図11は、仮想カメラの操作軸について説明するための図である。操作軸のうち、X軸703、Y軸704、Z軸705は、仮想カメラの移動操作方向に対応する。なお、X軸703、Y軸704、Z軸705は互いに直交し、Z軸705は、仮想カメラ701の姿勢によらず、常に地面702に垂直な方向である。そのため、X軸703とY軸704は、カメラの姿勢によらず、常に地面702に水平な方向である。また、X軸703とY軸704は、仮想カメラ701の姿勢によって方向が変わる。仮想カメラ701の光軸を地面702に水平な面に投影した方向がY軸704であり、仮想カメラ701の光軸に直交する方向がX軸703である。操作軸のうち、Pan軸(パン軸)706はZ軸705、Tilt軸(チルト軸)707はX軸703、Roll軸(ロール軸)708はY軸704を各々回転軸とした回転操作方向に対応する。
図11(a)及び図11(b)は、仮想カメラ701をZ軸方向から見た図である。図11(a)の状態から仮想カメラをパンさせる(即ち、Z軸を回転軸として回転させる)と、図11(b)の状態になる。図11(c)及び図11(d)は、仮想カメラ701をY軸方向から見た図である。図11(c)の状態から仮想カメラをロールさせる(即ち、Y軸を回転軸として回転させる)と、図11(d)の状態になる。図11(e)及び図11(f)は、仮想カメラ701をX軸方向から見た図である。図11(e)の状態から仮想カメラをチルトさせる(即ち、X軸を回転軸として回転させる)と、図11(f)の状態になる。
なお、各操作軸への操作に応じて、各カメラパラメータがどのように変化するかは、図6のカメラ制御タブを選択したときのパイロットウィンドウのスライドバー513の設定による。また、操作軸とカメラパラメータの項目とは、1対1に対応するとは限らない。例えば、操作軸のX軸は仮想カメラに対して左右方向、Y軸は仮想カメラに対して前後方向であるが、カメラパラメータのX軸はグラウンドの長辺方向、Y軸はグラウンドの短辺方向としてもよい。この場合、カメラパラメータのX軸の現在値及びY軸の現在値と、操作軸のX軸の値及びY軸の値とを相互に組み合わせることによって、編集後のカメラパラメータのX軸の値及びY軸の値が決定される。具体的には、例えば、X軸をOff(編集不可)、Y軸をOn(編集可能)に設定した場合に、仮想カメラを前後方向に移動させると、グラウンドに対して斜め方向の移動であれば、カメラパラメータのX軸の値及びY軸の値は、いずれも変化する。
図12は、情報処理装置103の機能ブロックを示す図である。入出力部120は、上述のコントローラ202a-204、及び表示部201a-201cで構成される入出力部115により実現される機能であり、仮想カメラを制御するための複数のコントローラと、仮想カメラの状態等を表示する。
設定部121は、コントローラの操作に応じて、各種カメラパラメータを設定する。例えば、図6のカメラ制御タブを選択したときのパイロットウィンドウにおける各種設定や、図8の3軸コントローラの各種ボタンによる設定が該当する。なお、設定部121において設定された値は、設定記憶部122に記憶される。
カメラパラメータ編集部123は、入出力部120を介したユーザからの操作に応じて、カメラパラメータを編集する。具体的には、カメラパラメータ編集部123は、動画のシーンの開始時点からシーンの終了時点までの各フレームにおいて、入出力部120における操作に応じて仮想カメラの位置と視野を設定することで、カメラパラメータを編集する。カメラパラメータ記憶部124は、カメラパラメータ編集部123により編集されたカメラパラメータを、三次元オブジェクトデータの時間経過に対応付けて記憶する。
ウィンドウ制御部125は、カメラビューウィンドウ、パイロットウィンドウ、リプレイウィンドウ等の各種ウィンドウの表示制御を行う。ウィンドウ制御部125は、カメラビューウィンドウにおいて、各フレームにおけるカメラパラメータをカメラパラメータ記憶部124から読み出し、仮想視点画像生成サーバ102に渡す。さらに、ウィンドウ制御部125は、入出力部115の表示部201aのカメラビューウィンドウ内に仮想視点画像生成サーバ102が生成した仮想視点画像を表示させる。また、ウィンドウ制御部125は、パイロットウィンドウにおいて、各フレームにおけるカメラパラメータをカメラパラメータ記憶部124から読み出し、カメラパラメータの位置、姿勢に応じて仮想カメラ画角表示412を描画する。
図13は、情報処理装置103における処理の手順を示したフローチャートである。なお、以下において、フローチャートの説明における記号「S」は、ステップを表すものとする。即ち、ここでは、フローチャートの各処理ステップS101~ステップS114をS101~S114と略記する。
S101において、カメラパラメータ編集部123は、カメラパラメータ記憶部124に記憶済みのカメラパラメータの中からオペレータによって指定された1つのカメラパラメータを読み出す。具体的には、図7に示すリプレイウィンドウにおいて、表示されているリプレイクリップリスト604を表示し、オペレータがリストの中から1つのリプレイクリップ605を選択(指定)する。
S102において、カメラパラメータ編集部123は、シーンの開始フレームを処理対象として設定する。S103において、カメラパラメータ編集部123は、シーンの開始フレームにおける仮想カメラパラメータを読み出す。S104においては、ウィンドウ制御部125は、カメラパラメータ記憶部124から仮想カメラパラメータを読み出して、カメラビューウィンドウ及びパイロットウィンドウを更新する。カメラビューウィンドウの更新では、仮想視点画像生成サーバ102に仮想カメラパラメータを渡し、仮想視点画像生成サーバ102において生成された仮想視点画像をカメラビューウィンドウ(カメラビュー)に表示させる。また、パイロットウィンドウの更新では、仮想カメラ画角表示412をカメラパラメータの位置、姿勢に応じて描画する。なお、S104からS114までの処理は、動画シーンのフレーム毎に実行される処理である。
S105において、カメラパラメータ編集部123は、コントローラの各操作軸に対する操作を取得する。S106において、カメラパラメータ編集部123は、カメラパラメータの最初の操作軸を処理対象とする。具体的には、例えば、X軸、Y軸、Z軸、Pan軸、Tilt軸、Roll軸、Zoom軸の順に処理を行う場合に、先ず、X軸を処理対象とする。
S107において、カメラパラメータ編集部123は、設定記憶部122に記憶されている情報(設定値)を参照して、当該操作軸(処理対象の操作軸)が編集可(On)として指定されているか否かを判定する。即ち、編集可否を判定する。情報処理装置103は、当該操作軸が編集可能として指定されていれば(107 Yes)、処理をS108に移行させ、また、当該操作軸が編集可能として指定されていなければ(S107 No)、処理をS109に移行させる。なお、S107からS112までの処理は、操作軸毎に実行される処理である。
S108において、カメラパラメータ編集部123は、S105で取得したコントローラ操作に基づいて、当該操作軸のカメラパラメータの値を導出(算出)する。他方、S109において、カメラパラメータ編集部123は、S101で指定された既存カメラパラメータの当該フレームの当該操作軸のパラメータの値をカメラパラメータ記憶部124から読み出す。
S110において、カメラパラメータ編集部123は、上述のS108で算出した値、又はS109で取得した値を、編集中のカメラパラメータの当該フレームの当該操作軸の値としてカメラパラメータ記憶部124に記憶する。
S111において、カメラパラメータ編集部123は、当該操作軸(処理対象の操作軸)が処理順序の最後の操作軸であるか否かを判定する。情報処理装置103は、当該操作軸が処理順序の最後の操作軸である場合(S111 Yes)、処理をS113に移行させ、また、当該操作軸が処理順序の最後の操作軸でない場合(S111 No)、処理をS112に移行させる。
S112において、カメラパラメータ編集部123は、その次の操作軸を処理対象として設定し、さらに、処理をS107に返す。具体的には、例えば、X軸、Y軸、Z軸、Pan軸、Tilt軸、Roll軸、Zoom軸の順に処理を行う場合に、現在の処理対象がX軸であれば、その次の処理対象(操作軸)としてY軸を新たに設定する。
S113において、カメラパラメータ編集部123は、現在のフレームがシーンの最後のフレーム(最終のフレーム)であるか否かを判定する。情報処理装置103は、最後のフレームであれば、図13に示すフローチャートの処理を終了し、最後のフレームでなければ、処理をS114に移行させる。S114において、カメラパラメータ編集部123は、現在のフレームの次のフレームを編集対象として設定し、さらに、処理をS104に返す。
図14は、カメラパラメータを編集した結果を示す図である。図14において、オブジェクト1402は軌跡1405に沿って移動しており、オペレータは、オブジェクト1402を追うように、仮想カメラ1401を軌跡1404に沿って移動させている。また、ここでは、3軸コントローラ202aにはX軸、Y軸、Z軸の操作、3軸コントローラ202bにはPan軸、Tilt軸、Roll軸の操作、ズームコントローラ203にはZoom軸の操作が割り当てられているものとする。
1回目の操作では、図6(a)に示されるように、X軸、Y軸、Z軸、Pan軸、Tilt軸、Roll軸、Zoom軸のすべてを編集可能な状態(On)にする。オペレータは、主にパイロットウィンドウのコンテキストビュー408を見ながら、片方の手で3軸コントローラ202aを操作し、X軸、Y軸、Z軸の値を調整し、仮想カメラが所望の軌跡を描くように、仮想カメラを正確に移動させる。それと同時に、オペレータは、もう片方の手で3軸コントローラ202bを操作して、Pan軸、Tilt軸、Roll軸の値を調整するが、これらの操作軸の値は、2回目の操作で正確に調整するので、1回目の操作では正確に操作(調整)されなくてもよい。また、ズームコントローラ203によるZoom軸の調整は、2回目の操作で行うので、1回目の操作では行わない。なお、1回目の操作で出力されたカメラパラメータは、図7のリプレイウィンドウのリプレイクリップ605として表示される。
1回目の操作では、図14(a)に示されるように、仮想カメラ1401の向きは所望の向き(オブジェクトへの向き)から多少ずれており、そのため、所望の構図が十分に得られていない。そこで、2回目の操作では、リプレイウィンドウのリプレイクリップ編集ボタン606を押下して、リプレイクリップ605の編集を開始する。また、2回目の操作では、図6(b)に示されるように、X軸、Y軸、Z軸を編集不可状態(Off)にする。
2回目の操作において、オペレータは、主にカメラビューウィンドウのカメラビュー301を見ながら、片方の手で3軸コントローラ202bを操作して、Pan軸、Tilt軸、Roll軸の値を正確に調整する。それと同時に、オペレータは、もう片方の手でズームコントローラ203を操作して、Zoom軸の値を正確に調整する。そして、このように調整すると、図14(b)に示されるように、仮想カメラの位置及び向きが所望の状態となる。そのため、所望の構図を得ることができる。なお、補足として、上述の操作軸のうち、さらに微調整が必要な操作軸があれば、その操作軸のみ編集可能な状態(On状態)にして、再度、同様に編集してもよい。また、編集対象とする操作軸によっては、パイロットウィンドウ(仮想カメラの位置、姿勢)、カメラビューウィンドウのいずれかを確認することで、操作することもできる。
以上、説明したように、同時に制御する操作軸を減らし、操作軸毎に複数回に分けて操作することで、操作の負担を減らしたり、操作人数を減らしたりすることが可能になる。また、このように操作することで、各操作軸において、正確かつ容易にカメラパラメータを調整することができる。特に、上述のように、コンテキストビューを見ながらの操作と、カメラビューを見ながらの操作を分けて行うことで、オペレータが特定のビューに集中できるので、正確な操作を容易に行うことができる。また、カメラパラメータを微調整したいときに、改めてすべての操作軸の操作をやり直す必要はなく、微調整したい操作軸のみを調整(変更)できるので、調整時の負担を軽減することができる。
実施形態2
次に、実施形態2について、図15を参照して説明する。図15は、仮想カメラの操作軸について説明するための図である。操作軸のうち、X軸703は仮想カメラ701の側面方向、Y軸704は仮想カメラ701の正面方向(光軸方向)、Z軸705は仮想カメラ701の上面方向への移動操作方向に各々、対応し、X軸703、Y軸704、Z軸705は互いに直交する。また、操作軸のうち、Pan軸706はZ軸705、Tilt軸707はX軸703、Roll軸708はY軸704を各々回転軸とした回転操作方向に対応する。
上述の実施形態1では、3軸コントローラ202aで仮想カメラを前方に移動させる操作(即ち、Y軸方向への移動)を行うと、仮想カメラのレンズの上下方向の向き(即ち、Tilt)に依存せず、仮想カメラは、常に地面702に対して水平に移動する。他方、本実施形態(実施形態2)では、同様に3軸コントローラ202aで仮想カメラを前方に移動させる操作(即ち、Y軸方向への移動)を行うと、仮想カメラは、仮想カメラの光軸方向に移動する。そのため、仮想カメラが水平に対して下向き(即ち、Tilt値が負)であれば、仮想カメラは地面に近づくことになる(即ち、Z値が小さくなる)。また、逆に仮想カメラが水平に対して上向き(即ち、Tilt値が正)であれば、仮想カメラは地面から遠ざかることになる(即ち、Z値が大きくなる)。
実施形態3
次に、実施形態3について、図16を参照して説明する。図16は、仮想カメラの操作軸について説明するための図である。操作軸のうち、X軸703、Y軸704、Z軸705は、仮想カメラの位置や姿勢に依存せず、常に一定の方向に各々、対応する。具体的には、例えば、サッカーグラウンド等の施設の場合、X軸703はグラウンドの長辺方向、Y軸704はグラウンドの短辺方向、Z軸705はグラウンド面に垂直な方向への移動操作方向に各々、対応する(即ち、各々の操作軸は施設の形状に対応する)。
なお、X軸703、Y軸704、Z軸705は互いに直交する。また、この場合、操作軸のうち、Pan軸706、Tilt軸707、Roll軸708は、上述の実施形態1、実施形態2と同様に、Z軸、X軸、Y軸の各々を回転軸とした回転操作方向に対応させることができる。但し、この例に限らず、X軸703とPan軸706、Y軸704とTilt軸707、及びZ軸705とRoll軸708が一致しないようにPan軸706、Tilt軸707、Roll軸708を設定するようにしても良い。例えば、X軸703がサッカーグラウンドの長辺方向、Y軸704がサッカーグラウンドの短辺方向を基準とした座標軸であっても、ロールやチルトの回転軸が仮想カメラの光軸の向きを基準に設定されるようにしても良い。
実施形態4
次に、実施形態4について説明する。上述の実施形態では、撮影済みの画像に対してカメラパラメータを編集することで様々な視点から見たリプレイ映像を提供する例について説明したが、ここでは、撮影しながらリアルタイムにカメラパラメータを生成してライブ映像を提供する例について説明する。
例えば、音楽映像や演劇映像等のように、シナリオが予め決まっている場合がある。その場合、リハーサルを撮影して、リハーサル用のカメラパラメータを予め作成しておく。そして、本番において、シナリオの進行に同期させてリハーサル用のカメラパラメータを編集して、本番用のカメラパラメータを作成(生成)する。リハーサルと本番では、演者の動きに微妙な違いがあるので、それに応じて所望の構図になるように仮想カメラの向きを調整(例えば、パン、チルト、ロールのみ調整)しながら本番用のカメラパラメータを作成する。さらに、ライブ映像(ライブ画像)として放送や配信を行う。
実施形態5
次に、実施形態5について説明する。上述のように、操作軸の1つとして、リプレイコントローラ204による時間軸(より詳細には、再生速度を制御する時間軸)がある。スロー再生や一時停止等の仮想カメラ操作を含むカメラパラメータを編集する場合、リプレイコントローラ204による再生速度の調整(編集)可否を切り替えられるようにしてもよい。
編集可能にした場合、既存のカメラパラメータの再生速度によらず、リプレイコントローラ204を操作して新たに再生速度を調整しながら、さらに3軸コントローラ202やズームコントローラ203を操作して任意の操作軸を調整する。また、編集不可にした場合、既存のカメラパラメータの再生速度の変化に従って、さらに任意の操作軸を調整する。
以上、実施形態1から実施形態5までで説明したように、仮想視点画像の生成において、仮想視点操作の自由度を向上させることで、操作上の負担を軽減することができる。また、操作軸の定義は、上述の実施形態1から実施形態5までで記載した定義に必ずしも限定されない。
その他の実施形態
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
103 情報処理装置
121 設定部
123 カメラパラメータ編集部
124 カメラパラメータ記憶部

Claims (7)

  1. ユーザ操作に従って、仮想カメラが第1の方向に移動することを可能にするモードか前記仮想カメラが前記第1の方向に移動することを禁止するモードのいずれかに第1の設定を行う第1設定手段と、
    ユーザ操作に従って、前記仮想カメラが第2の方向に移動することを可能にするモードか前記仮想カメラが前記第2の方向に移動することを禁止するモードのいずれかに第2の設定を行う第2設定手段と、
    ユーザ操作に従って、前記仮想カメラが第3の方向に移動することを可能にするモードか前記仮想カメラが前記第3の方向に移動することを禁止するモードのいずれかに第3の設定を行う第3設定手段と、
    前記仮想カメラが前記第1の方向に移動することを可能にするモードか前記仮想カメラが前記第1の方向に移動することを禁止するモードのいずれが設定されているかを示す第1の情報と、前記仮想カメラが前記第2の方向に移動することを可能にするモードか前記仮想カメラが前記第2の方向に移動することを禁止するモードのいずれが設定されているかを示す第2の情報と、前記仮想カメラが前記第3の方向に移動することを可能にするモードか前記仮想カメラが前記第3の方向に移動することを禁止するモードのいずれが設定されているかを示す第3の情報と、を表示装置に表示させる表示手段と、
    を有し、
    前記第1の設定と前記第2の設定と前記第3の設定とを互いに独立に行うことができること、
    を特徴とする情報処理装置。
  2. ユーザ操作に従って、前記仮想カメラが第1の回転軸に対する回転移動することを可能にするモードか前記仮想カメラが前記第1の回転軸に対する回転移動することを禁止するモードのいずれかに第4の設定を行う第4設定手段と、
    ユーザ操作に従って、前記仮想カメラが第2の回転軸に対する回転移動することを可能にするモードか前記仮想カメラが前記第2の回転軸に対する回転移動することを禁止するモードのいずれかに第5の設定を行う第5設定手段と、
    ユーザ操作に従って、前記仮想カメラが第3の回転軸に対する回転移動することを可能にするモードか前記仮想カメラが前記第3の回転軸に対する回転移動することを禁止するモードのいずれかに第6の設定を行う第6設定手段と、
    を更に有し、
    前記第1の設定と前記第2の設定と前記第3の設定と前記第4の設定と前記第5の設定と前記第6の設定とを互いに独立に行うことができ、
    前記表示手段は、前記仮想カメラが前記第1の回転軸に対する回転移動することを可能にするモードか前記仮想カメラが前記第1の回転軸に対する回転移動することを禁止するモードのいずれが設定されているかを示す第4の情報と、前記仮想カメラが前記第2の回転軸に対する回転移動することを可能にするモードか前記仮想カメラが前記第2の回転軸に対する回転移動することを禁止するモードのいずれが設定されているかを示す第5の情報と、前記仮想カメラが前記第3の回転軸に対する回転移動することを可能にするモードか前記仮想カメラが前記第3の回転軸に対する回転移動することを禁止するモードのいずれが設定されているかを示す第6の情報と、を前記表示装置に表示させること、
    を特徴とする請求項1に記載の情報処理装置。
  3. ユーザ操作に従って、前記仮想カメラの画角を変更することを可能にするモードか前記仮想カメラの画角の変更を禁止するモードのいずれかに第7の設定を行う第7設定手段、
    を更に有し、
    前記第1の設定と前記第2の設定と前記第3の設定と前記第4の設定と前記第5の設定と前記第6の設定と前記第7の設定とを互いに独立に行うことができ、
    前記表示手段は、前記仮想カメラの画角を変更することを可能にするモードか前記仮想カメラの画角の変更を禁止するモードのいずれが設定されているかを示す第7の情報を前記表示装置に更に表示させること、
    を特徴とする請求項2に記載の情報処理装置。
  4. 前記表示手段は、前記仮想カメラの前記第1の方向における位置を示す情報と、前記仮想カメラの前記第2の方向における位置を示す情報と、前記仮想カメラの前記第3の方向における位置を示す情報と、を前記表示装置に更に表示させること、
    を特徴とする請求項1乃至3のいずれか1項に記載の情報処理装置。
  5. 操作装置を介して前記仮想カメラを移動させるための入力情報を取得する取得手段と、
    前記仮想カメラが前記第1の方向に移動することを可能にするモードが設定され、かつ、前記仮想カメラが前記第2の方向に移動することを可能にするモードが設定され、かつ、前記仮想カメラが前記第3の方向に移動することを禁止するモードが設定されている場合には、前記入力情報に、前記第3の方向に沿った前記仮想カメラの移動に関する情報が含まれていても、前記第3の方向への前記仮想カメラの移動を禁止する禁止手段と、
    を更に有すること、
    を特徴とする請求項1乃至4のいずれか1項に記載の情報処理装置。
  6. ユーザ操作に従って、仮想カメラが第1の方向に移動することを可能にするモードか前記仮想カメラが前記第1の方向に移動することを禁止するモードのいずれかに第1の設定を行う第1設定工程と、
    ユーザ操作に従って、前記仮想カメラが第2の方向に移動することを可能にするモードか前記仮想カメラが前記第2の方向に移動することを禁止するモードのいずれかに第2の設定を行う第2設定工程と、
    ユーザ操作に従って、前記仮想カメラが第3の方向に移動することを可能にするモードか前記仮想カメラが前記第3の方向に移動することを禁止するモードのいずれかに第3の設定を行う第3設定工程と、
    前記仮想カメラが前記第1の方向に移動することを可能にするモードか前記仮想カメラが前記第1の方向に移動することを禁止するモードのいずれが設定されているかを示す第1の情報と、前記仮想カメラが前記第2の方向に移動することを可能にするモードか前記仮想カメラが前記第2の方向に移動することを禁止するモードのいずれが設定されているかを示す第2の情報と、前記仮想カメラが前記第3の方向に移動することを可能にするモードか前記仮想カメラが前記第3の方向に移動することを禁止するモードのいずれが設定されているかを示す第3の情報と、を表示装置に表示させる表示工程と、
    を含み、
    前記第1の設定と前記第2の設定と前記第3の設定とを互いに独立に行うことができること、
    を特徴とする情報処理方法。
  7. コンピュータを、請求項1乃至5のいずれか1項に記載された情報処理装置の各手段として機能させるためのプログラム。
JP2023055188A 2018-08-28 2023-03-30 情報処理装置、情報処理装置の制御方法、及びプログラム Active JP7459341B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2023055188A JP7459341B2 (ja) 2018-08-28 2023-03-30 情報処理装置、情報処理装置の制御方法、及びプログラム
JP2024045441A JP2024069646A (ja) 2018-08-28 2024-03-21 情報処理装置、情報処理装置の制御方法、及びプログラム

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2018159231A JP7254464B2 (ja) 2018-08-28 2018-08-28 情報処理装置、情報処理装置の制御方法、及びプログラム
JP2023055188A JP7459341B2 (ja) 2018-08-28 2023-03-30 情報処理装置、情報処理装置の制御方法、及びプログラム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2018159231A Division JP7254464B2 (ja) 2018-08-28 2018-08-28 情報処理装置、情報処理装置の制御方法、及びプログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2024045441A Division JP2024069646A (ja) 2018-08-28 2024-03-21 情報処理装置、情報処理装置の制御方法、及びプログラム

Publications (3)

Publication Number Publication Date
JP2023083314A JP2023083314A (ja) 2023-06-15
JP2023083314A5 JP2023083314A5 (ja) 2023-11-15
JP7459341B2 true JP7459341B2 (ja) 2024-04-01

Family

ID=69641104

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2018159231A Active JP7254464B2 (ja) 2018-08-28 2018-08-28 情報処理装置、情報処理装置の制御方法、及びプログラム
JP2023055188A Active JP7459341B2 (ja) 2018-08-28 2023-03-30 情報処理装置、情報処理装置の制御方法、及びプログラム
JP2024045441A Pending JP2024069646A (ja) 2018-08-28 2024-03-21 情報処理装置、情報処理装置の制御方法、及びプログラム

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2018159231A Active JP7254464B2 (ja) 2018-08-28 2018-08-28 情報処理装置、情報処理装置の制御方法、及びプログラム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2024045441A Pending JP2024069646A (ja) 2018-08-28 2024-03-21 情報処理装置、情報処理装置の制御方法、及びプログラム

Country Status (4)

Country Link
US (2) US11494067B2 (ja)
JP (3) JP7254464B2 (ja)
KR (1) KR102484197B1 (ja)
CN (1) CN110868583A (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10600245B1 (en) * 2014-05-28 2020-03-24 Lucasfilm Entertainment Company Ltd. Navigating a virtual environment of a media content item
JPWO2021199735A1 (ja) * 2020-03-30 2021-10-07
USD1013705S1 (en) * 2021-07-20 2024-02-06 Splunk Inc. Display screen or portion thereof having a graphical user interface with a time slider for a map
CN113794836B (zh) * 2021-09-09 2023-10-13 北京字节跳动网络技术有限公司 一种子弹时间视频生成方法、装置、系统、设备和介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007195091A (ja) 2006-01-23 2007-08-02 Sharp Corp 合成映像生成システム
JP2008502228A (ja) 2004-06-01 2008-01-24 エル‐3 コミュニケーションズ コーポレイション ビデオフラッシュライトを実行する方法およびシステム
WO2012032996A1 (ja) 2010-09-09 2012-03-15 ソニー株式会社 情報処理装置、情報処理方法、およびプログラム

Family Cites Families (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7079177B2 (en) * 1995-02-27 2006-07-18 Canon Kabushiki Kaisha Remote control system and access control method for information input apparatus with limitation by user for image access and camemremote control
JPH11509064A (ja) * 1995-07-10 1999-08-03 サーノフ コーポレイション 画像を表現し組み合わせる方法とシステム
US6014145A (en) * 1997-07-07 2000-01-11 International Business Machines Corporation Navagation with optimum viewpoints in three-dimensional workspace interactive displays having three-dimensional objects with collision barriers
US6699127B1 (en) * 2000-06-20 2004-03-02 Nintendo Of America Inc. Real-time replay system for video game
US7142209B2 (en) * 2004-08-03 2006-11-28 Microsoft Corporation Real-time rendering system and process for interactive viewpoint video that was generated using overlapping images of a scene captured from viewpoints forming a grid
US7893966B2 (en) * 2006-06-30 2011-02-22 Canon Kabushiki Kaisha Apparatus and method for controlling editing and use of image processing parameters in image processing
US8698735B2 (en) * 2006-09-15 2014-04-15 Lucasfilm Entertainment Company Ltd. Constrained virtual camera control
US8274564B2 (en) * 2006-10-13 2012-09-25 Fuji Xerox Co., Ltd. Interface for browsing and viewing video from multiple cameras simultaneously that conveys spatial and temporal proximity
WO2008104897A1 (en) * 2007-03-01 2008-09-04 Koninklijke Philips Electronics, N.V. Image viewing window
JP4226639B1 (ja) 2007-11-01 2009-02-18 株式会社コナミデジタルエンタテインメント 画像処理装置、画像処理方法、ならびに、プログラム
US8355070B2 (en) * 2008-05-23 2013-01-15 Seiko Epson Corporation Development processing device, development processing method, and storage medium of computer program for development process for developing undeveloped image data
US20110157155A1 (en) * 2009-12-31 2011-06-30 Disney Enterprises, Inc. Layer management system for choreographing stereoscopic depth
JP2011221718A (ja) 2010-04-07 2011-11-04 Sony Corp 生成装置、生成方法、及びプログラム
JP5640433B2 (ja) 2010-04-07 2014-12-17 日産自動車株式会社 画像情報提供装置および画像情報提供方法
RU2625954C2 (ru) * 2013-05-31 2017-07-20 Кэнон Кабусики Кайся Система захвата изображения, устройство захвата изображения и способ управления вышеперечисленным
US9286717B2 (en) * 2013-07-30 2016-03-15 Hewlett-Packard Development Company, L.P. 3D modeling motion parameters
US20160205341A1 (en) * 2013-08-20 2016-07-14 Smarter Tv Ltd. System and method for real-time processing of ultra-high resolution digital video
KR101923562B1 (ko) * 2014-04-05 2018-11-29 소니 인터랙티브 엔터테인먼트 아메리카 엘엘씨 가변 렌더링 및 래스터화 파라미터 하에서 가변 뷰포트에 대하여 오브젝트를 효율적으로 리렌더링하는 방법
WO2016017253A1 (ja) 2014-08-01 2016-02-04 ソニー株式会社 情報処理装置、および情報処理方法、並びにプログラム
EP3291563A4 (en) * 2015-05-01 2018-12-05 Dentsu Inc. Free viewpoint video data distribution system
JPWO2017141511A1 (ja) 2016-02-17 2018-12-06 ソニー株式会社 情報処理装置、情報処理システム、および情報処理方法、並びにプログラム
JP6672075B2 (ja) * 2016-05-25 2020-03-25 キヤノン株式会社 制御装置、制御方法、及び、プログラム
JP6482498B2 (ja) * 2016-05-25 2019-03-13 キヤノン株式会社 制御装置、制御方法、及び、プログラム
JP2018085571A (ja) * 2016-11-21 2018-05-31 ソニー株式会社 情報処理装置、情報処理方法、およびプログラム
US10970915B2 (en) 2017-01-06 2021-04-06 Canon Kabushiki Kaisha Virtual viewpoint setting apparatus that sets a virtual viewpoint according to a determined common image capturing area of a plurality of image capturing apparatuses, and related setting method and storage medium
JP6957215B2 (ja) * 2017-06-06 2021-11-02 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
JP7023696B2 (ja) * 2017-12-12 2022-02-22 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
JP7045218B2 (ja) * 2018-02-28 2022-03-31 キヤノン株式会社 情報処理装置および情報処理方法、プログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008502228A (ja) 2004-06-01 2008-01-24 エル‐3 コミュニケーションズ コーポレイション ビデオフラッシュライトを実行する方法およびシステム
JP2007195091A (ja) 2006-01-23 2007-08-02 Sharp Corp 合成映像生成システム
WO2012032996A1 (ja) 2010-09-09 2012-03-15 ソニー株式会社 情報処理装置、情報処理方法、およびプログラム

Also Published As

Publication number Publication date
JP7254464B2 (ja) 2023-04-10
US11494067B2 (en) 2022-11-08
JP2020036116A (ja) 2020-03-05
US20230028531A1 (en) 2023-01-26
JP2024069646A (ja) 2024-05-21
KR20200024717A (ko) 2020-03-09
CN110868583A (zh) 2020-03-06
US20200073541A1 (en) 2020-03-05
KR102484197B1 (ko) 2023-01-03
JP2023083314A (ja) 2023-06-15

Similar Documents

Publication Publication Date Title
JP7459341B2 (ja) 情報処理装置、情報処理装置の制御方法、及びプログラム
CN109889914B (zh) 视频画面推送方法、装置、计算机设备及存储介质
US10497182B2 (en) Mixed reality cinematography using remote activity stations
JP7498209B2 (ja) 情報処理装置、情報処理方法およびコンピュータプログラム
CN112640472B (zh) 信息处理设备、信息处理方法和存储介质
JP2013183249A (ja) 動画提示装置
JP4700476B2 (ja) 多視点映像合成装置及び多視点映像合成システム
JP2024079736A (ja) 画像表示装置、制御方法、およびプログラム
JP2022188095A (ja) 情報処理装置、情報処理装置の制御方法、及びプログラム
JP2020042665A (ja) 情報処理装置、情報処理装置の制御方法及びプログラム
WO2020050103A1 (ja) 仮想視点の制御装置及びその制御方法
US20160344946A1 (en) Screen System
JP2020205549A (ja) 映像処理装置、映像処理方法、及びプログラム
JP7480377B2 (ja) 情報処理装置、情報処理方法、及びプログラム
JP2021197082A (ja) 情報処理装置、情報処理装置の制御方法及びプログラム
JP7455524B2 (ja) 情報処理装置、設定方法、及びプログラム
JP7406528B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP2022043539A (ja) 画像処理装置、画像処理システム、画像処理方法、及びプログラム
JP2024091898A (ja) 情報処理装置、情報処理方法及びプログラム
JP7403956B2 (ja) 情報処理装置、制御方法、及びプログラム
WO2023002792A1 (ja) 情報処理装置、情報処理方法およびコンピュータプログラム
WO2023002793A1 (ja) 情報処理装置、情報処理方法およびコンピュータプログラム
JP2023003765A (ja) 画像生成装置およびその制御方法、画像生成システム、ならびにプログラム
JP2021190917A (ja) 画像処理システム、画像処理システムの制御方法及びプログラム
JP2024058941A (ja) 制御装置、制御方法及びコンピュータプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230427

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231102

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240220

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240319

R151 Written notification of patent or utility model registration

Ref document number: 7459341

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151