JP2020150417A - 情報処理装置、方法、および記録媒体 - Google Patents

情報処理装置、方法、および記録媒体 Download PDF

Info

Publication number
JP2020150417A
JP2020150417A JP2019046427A JP2019046427A JP2020150417A JP 2020150417 A JP2020150417 A JP 2020150417A JP 2019046427 A JP2019046427 A JP 2019046427A JP 2019046427 A JP2019046427 A JP 2019046427A JP 2020150417 A JP2020150417 A JP 2020150417A
Authority
JP
Japan
Prior art keywords
image
viewpoint
imaging
video
moving
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019046427A
Other languages
English (en)
Inventor
石川 毅
Takeshi Ishikawa
毅 石川
安田 亮平
Ryohei Yasuda
亮平 安田
高橋 慧
Kei Takahashi
高橋  慧
惇一 清水
Junichi Shimizu
惇一 清水
孝悌 清水
Kotei Shimizu
孝悌 清水
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2019046427A priority Critical patent/JP2020150417A/ja
Priority to PCT/JP2020/009834 priority patent/WO2020184477A1/ja
Priority to US17/310,902 priority patent/US20220166939A1/en
Publication of JP2020150417A publication Critical patent/JP2020150417A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/268Signal distribution or switching
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U10/00Type of UAV
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/62Control of parameters via user interfaces
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/69Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/695Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U2101/00UAVs specially adapted for particular uses or applications
    • B64U2101/30UAVs specially adapted for particular uses or applications for imaging, photography or videography
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U2201/00UAVs characterised by their flight controls
    • B64U2201/20Remote controls

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Physics & Mathematics (AREA)
  • Mechanical Engineering (AREA)
  • Remote Sensing (AREA)
  • Computer Graphics (AREA)
  • Geometry (AREA)
  • Software Systems (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Studio Circuits (AREA)
  • Processing Or Creating Images (AREA)

Abstract

【課題】実映像と仮想映像との効果的な使い分けを実現する。【解決手段】本開示の一例としての情報処理装置は、ユーザの移動指示に応じて視点および視線のうち少なくとも一方を移動しつつ実映像を取得するよう第1の撮像装置を制御する撮影制御部と、前記移動指示に応じた前記視点および前記視線のうち少なくとも一方の移動中に、前記第1の撮像装置が、当該第1の撮像装置による撮影が不可能な領域として設定された撮影不可領域に近接する場合、前記実映像から、前記撮影不可領域内の仮想映像に連続的に切り替わる映像を生成する映像生成部と、を備える。【選択図】図2

Description

本開示は、情報処理装置、方法、および記録媒体に関する。
空間内の複数の視点(および視線)から実カメラによって収集した実映像から、空間内の任意の視点(および視線)における仮想映像を取得する技術が検討されている。
国際公開第2016/088437号
上記のような仮想映像は、任意の視点(および視線)で自由に取得することはできるものの、あくまで、実映像から計算で求められる計算上の映像であるので、実映像に比べて低品質になる傾向がある。
一方、実映像は、現実に存在する実カメラによる撮影に応じて取得されるので、仮想映像に比べて高品質になる傾向がある。しかしながら、実カメラは、たとえば被写体への接触のおそれがある領域などといった、実カメラでの撮影が不可能な領域として設定された撮影不可領域内における実映像を得ることができない。
したがって、たとえば撮影不可領域を含む任意の領域(空間)の任意の期間における任意の視点(および視線)に対応した一連の映像の高品質化を図るためには、実映像と仮想映像とを効果的に使い分けることが望まれる。
そこで、本開示は、実映像と仮想映像との効果的な使い分けを実現することが可能な情報処理装置、方法、および記録媒体を提案する。
本開示の一例としての情報処理装置は、ユーザの移動指示に応じて視点および視線のうち少なくとも一方を移動しつつ実映像を取得するよう第1の撮像装置を制御する撮影制御部と、前記移動指示に応じた前記視点および前記視線のうち少なくとも一方の移動中に、前記第1の撮像装置が、当該第1の撮像装置による撮影が不可能な領域として設定された撮影不可領域に近接する場合、前記実映像から、前記撮影不可領域内の仮想映像に連続的に切り替わる映像を生成する映像生成部と、を備える。
本開示の実施形態にかかる技術の一つの適用例を示した例示的かつ模式的な図である。 本開示の実施形態にかかる情報処理装置の機能を示した例示的かつ模式的なブロック図である。 本開示の実施形態にかかる移動指示を設定するための設定画面の一例を示した例示的かつ模式的な図である。 本開示の実施形態にかかる撮影不可領域の一例を示した例示的かつ模式的な図である。 本開示の実施形態にかかる一連の映像の構成の一例を示した例示的かつ模式的な図である。 本開示の実施形態にかかる仮想映像から実映像への切り替わりの際に実行される制御の一例を示した例示的かつ模式的な図である。 本開示の実施形態にかかる情報処理装置が撮影計画を作成する際に実行する処理の流れを示した例示的かつ模式的なフローチャートである。 本開示の実施形態にかかる情報処理装置が撮影計画に従った一連の映像を生成する際に実行する処理の流れを示した例示的かつ模式的なフローチャートである。 本開示の実施形態にかかる技術の図1とは異なる適用例を示した例示的かつ模式的な図である。 本開示の実施形態にかかる技術の図1および図9とは異なる適用例を示した例示的かつ模式的な図である。 本開示の実施形態にかかる情報処理装置の機能を実現するコンピュータのハードウェア構成の一例を示した例示的かつ模式的なブロック図である。
以下、本開示の実施形態を図面に基づいて説明する。以下に記載する実施形態の構成、ならびに当該構成によってもたらされる作用および結果(効果)は、あくまで一例であって、以下の記載内容に限られるものではない。
図1は、本開示の実施形態にかかる技術の一つの適用例を示した例示的かつ模式的な図である。図1に示されるように、実施形態にかかる技術は、たとえば、試合会場100において行われるスポーツの試合を、撮像装置110と複数の撮像装置130とで撮影するような状況に適用される。撮像装置110は、「第1の撮像装置」の一例であり、撮像装置130は、「第2の撮像装置」の一例である。
撮像装置110は、試合会場100内を自由に移動可能な実カメラとして構成されている。たとえば、撮像装置110は、カメラを搭載した飛行体としてのドローンによって構成される。なお、実施形態において、撮像装置110は、先端にカメラが設置されたクレーンなどであってもよい。なお、図1に示される例では、撮像装置110が1つしか存在していないが、実施形態にかかる技術は、撮像装置110が複数存在し、複数の撮像装置110が互いに独立して移動可能に構成されているような場合にも適用可能である。
また、複数の撮像装置130は、試合会場100を取り囲むように配置された実カメラとして構成されている。複数の撮像装置130によって得られる実映像は、試合会場100内の空間、すなわち撮像装置110が撮像する撮影対象空間の三次元モデルの生成に利用される。この三次元モデルからは、試合会場100内の任意の視点から任意の視線で見た、自由視点映像などと呼ばれる仮想映像を取得することができる。
なお、図1に示される例では、仮想映像を取得する仮想カメラとしての撮像装置120が便宜的に図示されているが、この撮像装置120は、あくまで仮想的なものであって、実在はしていない。また、実施形態では、三次元モデルの生成に、撮像装置130によって得られる実映像に代えてまたは加えて、撮像装置110によって得られる実映像を利用することができる。
ところで、上記のような仮想映像は、任意の視点(および視線)で自由に生成することはできるものの、三次元モデルに基づいて生成される計算上の映像であるので、実映像に比べて低品質になる傾向がある。
一方、実映像は、現実に存在する実カメラとしての撮像装置110による撮影に応じて取得されるので、仮想映像に比べて高品質になる傾向がある。しかしながら、実カメラとしての撮像装置110は、たとえば被写体への接触のおそれがある領域などといった、実カメラでの撮影が不可能な領域として設定された撮影不可領域内における実映像を得ることができない。
したがって、撮影不可領域を含む任意の領域(空間)の任意の期間における任意の視点(および視線)に対応した一連の映像の高品質化を図るためには、実映像と仮想映像とを効果的に使い分けることが望まれる。
そこで、実施形態は、次の図2に示されるような機能を有した情報処理装置200によって、実映像と仮想映像との効果的な使い分けを実現する。情報処理装置200は、映像制作者(ユーザ)の操作に応じて動作する。
図2は、本開示の実施形態にかかる情報処理装置200の機能を示した例示的かつ模式的なブロック図である。図2に示されるように、情報処理装置200は、移動指示受付部210と、撮影制約条件検出部220と、撮影制約条件管理部230と、撮影計画作成部240と、撮影制御部250と、実映像取得部260と、仮想映像取得部270と、を備えている。
図2に示される各機能は、たとえば、後述するコンピュータ1000(図10参照)におけるソフトウェアとハードウェアとの協働によって実現されるが、実施形態では、図2に示される機能の一部または全部が、専用のハードウェア(回路)によって実現されてもよい。
移動指示受付部210は、映像制作者の入力操作に応じて設定される移動指示を受け付ける。移動指示は、映像制作者によって指定される所定の期間におけるカメラワークを表す情報である。カメラワークとは、所定の期間における視点および視線の少なくとも一方の変化の状態を表す情報である。より具体的に、カメラワークとは、所定の期間における視点の移動軌道および移動速度と、所定の期間における視線の変化軌道および変化速度と、の少なくとも一方を含む情報である。なお、所定の期間は、短期間にも長期間にも任意に設定可能である。
撮影制約条件検出部220は、撮像装置110による撮影が制限される条件を表す撮影制約条件を検出する。撮影制約条件は、たとえば、撮像装置110による撮影が不可能な領域として設定された撮影不可領域や、撮像装置110による撮影が不可能になるほどの撮像装置110の視点(および視線)の移動速度を示す制限速度、撮像装置110のバッテリの残量などに起因する障害の発生可能性などに関する設定情報を含んでいる。
撮影制約条件管理部230は、撮影制約条件検出部220によって検出された撮影制約条件の保持や更新などを含む管理を実行する。
撮影計画作成部240は、移動指示受付部210が受け付けた移動指示と、撮影制約条件管理部230が保持している撮影制約条件と、に基づいて、実映像と仮想映像とをどのように使い分けて所定の期間分の一連の映像を生成するかを示す撮影計画を作成する。詳細は後述するが、撮影計画作成部240は、基本的には撮像装置110による撮影を実行することで実映像を取得し、撮像装置110による撮影が撮影制約条件に抵触する場合は実映像の代わりに仮想映像を取得する、といった撮影計画を作成する。
撮影制御部250は、撮像装置110の移動を制御する移動制御部251を備えており、当該移動制御部251により、撮影計画作成部240が作成した撮影計画に従って、撮像装置110による撮影を制御する。なお、撮影制御部250は、撮像装置110に障害が発生したか否かを検知する障害検知部252も備えているが、障害検知部252の役割については後述する。
実映像取得部260は、撮影制御部250の制御のもとで撮像装置110が撮影した実映像を取得する。
仮想映像取得部270は、複数の撮像装置130によって得られる実映像に基づいて生成される三次元モデルから仮想映像を取得する。仮想映像の取得は、障害検知部252により障害が検知された場合(後述)などを除き、基本的には撮影計画作成部240が作成した撮影計画に従って実行される。
映像生成部280は、実映像取得部260が取得した実映像と、仮想映像取得部270が取得した仮想映像と、に基づいて、ユーザの移動指示に応じた所定の期間における一連の映像を生成する。生成された映像は、後述するコンピュータ1000(図10参照)の通信インターフェイス1500または入出力インターフェイス1600に接続される表示装置(不図示)などに出力される。
ここで、実施形態において、撮影制御部250は、移動指示受付部210が受け付けたユーザの移動指示に応じて視点および視線のうち少なくとも一方を移動しつつ実映像を取得するよう撮像装置110を制御する。そして、映像生成部280は、移動指示に応じた視点および視線のうち少なくとも一方の移動中に、撮像装置110が撮影不可領域に近接する場合、実映像から、撮影不可領域内の仮想映像に連続的に切り替わる映像を生成する。
たとえば、移動指示受付部210が受け付けた移動指示が、少なくとも視点の移動軌道の指定を伴っている場合を想定する。この場合、撮影制御部250は、移動指示において指定された移動軌道に沿って少なくとも視点を移動しつつ実映像を取得するよう撮像装置110を制御する。
そして、映像生成部280は、移動軌道上の視点が撮影不可領域に進入する場合、実映像から、移動軌道上でかつ撮影不可領域内の視点に対応した仮想映像に連続的に切り替わる映像を生成する。そして、撮影制御部250は、視点の撮影不可領域への進入に応じて実行される実映像から仮想映像への切り替わりに対応したタイミングで、撮影不可領域への進入を回避するよう撮像装置110を制御する。
そして、映像生成部280は、移動軌道上の視点が撮影不可領域から進出する場合、仮想映像から、移動軌道上でかつ撮影不可領域外の視点に対応した実映像に連続的に切り替わる映像を生成する。そして、撮影制御部250は、撮影不可領域への進入を回避した後、仮想映像から実映像への切り替わりに対応したタイミング以前に、移動軌道上の視点が撮影不可領域から進出する進出位置の撮影不可領域外の近傍に移動するよう撮像装置110を制御する。
以下、上述した各機能について、具体例とともに詳細に説明する。
まず、映像制作者による移動指示の設定について詳細に説明する。移動指示は、たとえば次の図3に示されるような設定画面IM300を介した映像制作者の入力操作に応じて設定される。
図3は、本開示の実施形態にかかる移動指示を設定するための設定画面IM300の一例を示した例示的かつ模式的な図である。図3に示されるように、設定画面IM300は、動画像を表示可能な表示画面を有した表示装置300に表示される。
なお、実施形態において、表示装置300は、後述するコンピュータ1000(図10参照)の通信インターフェイス1500または入出力インターフェイス1600に接続される。この表示装置300は、映像生成部280により生成される映像が出力される上述した表示装置と同一であってもよいし異なっていてもよい。また、実施形態において、設定画面IM300に対する操作入力は、マウスやキーボードや、表示装置300の表示画面に重なって設けられるタッチパネルなどといった入力デバイスを介して実行することが可能である。
図3に示される例では、設定画面IM300に、カメラを模したアイコン301が表示されている。このアイコン301は、上記のような入力デバイスを介した映像制作者の入力操作に応じて、表示態様(位置および向き)が任意に調整されるように構成されている。
たとえば、アイコン301の位置が調整されると、カメラワークにおける視点が調整され、アイコン301の向き(カメラ部分の方向)が調整されると、カメラワークにおける視線が調整される。図3に示される例では、一例として、視点の移動軌道が、位置P301から位置P302を経て位置P303に至る矢印A300として表され、位置P301、P302、およびP303における視線の向きがそれぞれ矢印A301、A302、およびA303として表されている。
なお、図3に示される例では図示が省略されているが、設定画面IM300は、視点の移動速度や視線の変化速度などを設定するためのGUI(グラフィカルユーザインターフェイス)を有していてもよい。
また、実施形態では、移動指示の設定方法として、図3に示されるような方法の他、ホログラムやAR(拡張現実)、VR(仮想現実)の技術を利用した方法も考えられる。これらの技術を利用すれば、たとえば、撮影対象空間を模したモデルとカメラを模したモデルとを映像制作者の手元に(ミニチュアモデルとして)表示することができる。そして、このような場合、映像制作者がカメラを模したモデルを手で持って移動させるような操作入力を受け付けることで、当該操作入力に応じた移動指示の設定を実現することができる。
次に、実映像と仮想映像とを切り替える基準の一つとしての撮影不可領域について詳細に説明する。実施形態において、撮影不可領域は、たとえば次の図4に示されるような形で、実カメラとしての撮像装置110の撮像対象物を基準として設定される。
図4は、本開示の実施形態にかかる撮影不可領域の一例を示した例示的かつ模式的な図である。図4に示される例では、人間X401が、撮像対象物に対応し、空間SP401が、撮影不可領域に対応する。空間SP401の境界は、たとえば人間X401に対する距離などによって定義される。この距離は、予め固定的に設定されてもよいし、映像制作者によって適宜変更(更新)されてもよい。
図4に示される例では、人間X401が移動すると、それに伴い、空間SP401も移動する。したがって、この場合、撮影制約条件検出部220は、人間X401が映った実映像および仮想映像のうちの少なくとも一方に対してリアルタイム画像処理などを実行し、人間X401の位置を検出することで、人間X401の位置に応じた空間SP401の境界を検出する。
ここで、図4に示される例において、位置P401から空間SP401内を通過して位置P202に至る、矢印A401〜A403で表される移動軌道が、移動指示において設定された場合について考える。この場合、空間SP401の境界の外側にある領域、より具体的には、位置P401から空間SP401への進入位置P403に至る矢印A401と、空間SP401からの進出位置P404から位置P402に至る矢印A403に対応した領域とについては、撮像装置110による撮影が可能である。しかしながら、空間SP401の境界の内側にある領域、より具体的には、進入位置P403から進出位置P404に至る矢印A402に対応した領域については、撮像装置110による撮影が不可能である。
したがって、図4に示される例において、撮影制御部250は、矢印A401に沿って撮像装置110を実際に移動させつつ、撮像装置110が空間SP401に実際に進入しないように、撮像装置110を進入位置P403から空間SP401の外側に退避させる。そして、撮影制御部250は、仮想映像内における矢印A402に沿った視点の移動が完了する以前に、撮像装置110を進出位置P404の近傍に移動させておき、その後、矢印A403に沿って撮像装置110を実際に移動させる。
なお、撮像装置110が1つしか存在しない場合は、進入位置P403から退避させた撮像装置110そのものを、進出位置P404の近傍に移動させる必要がある。しかしながら、撮像装置110が複数存在する場合は、進入位置P403から退避させた撮像装置110とは異なる撮像装置110を進出位置P404の近傍に移動させればよい。この場合、進出位置P404に最も近い撮像装置110を進出位置P404の近傍に移動させれば、最も効率的である。
このように、図4に示される例において、映像生成部280は、矢印A401およびA403に対応した領域の実映像と、矢印A402に対応した領域の仮想映像を、を組み合わせることで、矢印A401〜A403で表される移動軌道の全体に対応した一連の映像を生成する。これにより、映像生成部280は、次の図5に示されるような形で一連の映像を生成する。
図5は、本開示の実施形態にかかる一連の映像の構成の一例を示した例示的かつ模式的な図である。図5に示されるように、実施形態において、映像生成部280は、フレームF11〜F18を含む実映像と、フレームF11〜F18とそれぞれ同タイミングのフレームF21〜F28を含む仮想映像と、の双方を取得することができる。
前述したように、映像生成部280は、撮影不可領域内の映像については仮想映像を採用し、それ以外のたとえば撮影可能領域と表現される領域の映像については実映像を採用する。したがって、図5に示される例において、映像生成部280は、撮影可能領域に対応した期間については実映像のフレームF11、F12、F17、およびF18を採用し、撮影不可領域に対応した期間については仮想映像のフレームF23〜F26を採用する。すなわち、図5に示される例において、映像生成部280は、フレームF11、F12、F23〜F26、F17、およびF18を含む一連の映像を生成する。
なお、実施形態では、撮影計画作成部240が作成する撮影計画も、図5に示される例と同様の概念として捉えることができる。すなわち、撮影計画作成部240は、上述した移動指示および撮影制約条件に基づいて、撮像装置110による撮影が可能な区間においては当該撮影を実行することで実映像を実映像取得部260に取得させ、撮像装置110による撮影が不可能な区間においては仮想映像取得部270に仮想映像を取得させる、という撮影計画を作成する。
ところで、撮像装置110の移動速度には、性能上の限界があるので、撮像装置110による撮影が不可能になるほどの撮像装置110の視点(および視線)の移動速度を示す制限速度というものが存在する。しかしながら、移動指示は、映像制作者の任意に設定するものであるため、移動指示において指定された視点(および視線)の移動速度が閾値としての制限速度を超えることも想定される。
そこで、実施形態において、撮影計画作成部240は、移動指示において指定された視点(および視線)の移動速度が制限速度を超える区間においては、仮想映像取得部270に仮想映像を取得させる、という撮影計画を作成する。そして、映像生成部280は、その後の撮影段階で、移動軌道上でかつ撮影不可領域外を移動中の視点の移動速度が制限速度を超える場合、実映像から仮想映像に連続的に切り替わる映像を生成する。
また、実施形態では、撮影計画の作成段階で撮像装置110にバッテリの残量などに起因する何らかの障害が発生している(または障害が発生することが予測される)場合、その後の撮影段階で撮像装置110を通常通りに制御することができない。したがって、この場合、撮影計画作成部240は、実映像ではなく仮想映像を取得するという撮影計画を作成する。そして、映像生成部280は、その後の撮影段階で、実映像から仮想映像に連続的に切り替わる(あるいは最初から障害が発生している場合は仮想映像のみからなる)映像を生成する。
このように、撮影計画作成部240は、撮影不可領域や制限速度、障害などに関して前述のように決められた撮影制約条件に抵触する状況が発生する区間においては実映像を取得し、それ以外の区間においては仮想映像を取得する、という撮影計画を作成する。これにより、映像生成部280は、実映像と仮想映像とが効果的に使い分けられた一連の映像を生成する。
なお、実施形態では、撮影計画の作成段階では発生していなくても、実際の撮影段階で撮像装置110に何らかの障害が発生した場合は、撮像装置110による撮影が不可能になる。この場合、撮影計画で実映像を取得することになっていたとしても、仮想映像を取得する必要がある。
そこで、図2に戻り、実施形態において、撮影制御部250は、撮像装置110に障害が発生したか否かを検知する障害検知部252を備えている。そして、障害検知部252により撮像装置110の障害の発生が検知されると、仮想映像取得部270は、撮影計画によらずに、仮想映像を取得する。これにより、映像生成部280は、移動軌道上でかつ撮影不可領域外の視点の移動に応じて移動中の撮像装置110に障害が発生した場合、実映像から、撮像装置110の現在の視点および視線に対応した仮想映像に連続的に切り替わる映像を生成する。
このように、実施形態では、映像生成部280が生成する一連の映像内に、実映像から仮想映像への切り替わりと、仮想映像から実映像への切り替わりとが存在しうるが、後者の切り替わりにおいては、撮像装置110の仮想映像への映り込みが発生することがある。
特に、実施形態では、前述したように、撮像装置110は、仮想映像から実映像への切り替わりに対応したタイミング以前に、移動軌道上の視点が撮影不可領域から進出する進出位置の撮影不可領域外の近傍に移動するよう制御される。したがって、このような進出位置への撮像装置110の移動時に、撮像装置110の仮想映像への映り込みが発生することが想定される。
そこで、実施形態は、仮想映像から実映像へ切り替わりの際に、たとえば次の図6に示されるような制御を実行することで、仮想映像における仮想カメラの視界に実カメラとしての撮像装置110が入ることを抑制する。
図6は、本開示の実施形態にかかる仮想映像から実映像への切り替わりの際に実行される制御の一例を示した例示的かつ模式的な図である。図6に示される例では、実カメラとしての撮像装置110と、仮想カメラとしての撮像装置120と、が図示されている。なお、撮像装置120があくまで便宜的に図示されたものであって実在はしていないという留意点は、図1と同様である。
図6に示される例では、撮像装置120を矢印A610に沿って移動させることで撮像装置110に合流させる制御と、撮像装置110および120をそれぞれ矢印A621およびA622に沿って移動させることで両者を合流させる制御と、が例示されている。これらの制御のいずれかを実行すれば、撮像装置120の視界に撮像装置110が入るのを(合流直前まで)回避することができるので、視聴者に違和感を与えることなく、仮想映像から実映像へのスムーズな切り替わりを実現することができる。
さらに、実施形態では、仮想映像から実映像への切り替わりの際のみならず、その前の仮想映像が採用されている間も、上記と同様の観点で、仮想映像における仮想カメラの視界に実カメラとしての撮像装置110が入ることが抑制される。すなわち、実施形態において、撮影制御部250は、移動軌道上の視点が撮影不可領域内に存在する場合、仮想映像に直接的に映るのを回避するよう撮像装置110を制御する。
なお、上記の「直接的に映る」という表現は、撮像装置110の外観がそのまま映ることを意図している。したがって、実施形態では、撮像装置110が仮想映像に映り込むような状況であっても、撮像装置110がたとえば何らかのアイコン化が施された画像として表示されるよう画像処理を実行すれば、視聴者に与える違和感が低減されるので、ある程度は許容される。
以上の構成に基づき、実施形態では、たとえば次の図7および図8に示されるようなフローチャートに従って処理が実行される。
図7は、本開示の実施形態にかかる情報処理装置200が撮影計画を作成する際に実行する処理の流れを示した例示的かつ模式的なフローチャートである。
図7に示されるように、実施形態において撮影計画が作成される場合、まず、ステップS701において、撮影制約条件検出部220は、上述した撮影不可領域や制限速度、障害の発生可能性などに関する設定情報を含む撮影制約条件を検出する。
そして、ステップS702において、撮影制約条件管理部230は、ステップS701で検出された撮影制約条件を保持する。
そして、ステップS703において、移動指示受付部210は、映像制作者(ユーザ)の移動指示を、たとえば上述した設定画面IM300(図3参照)などを介して受け付ける。
そして、ステップS704において、撮影計画作成部240は、ステップS702で保持された撮影制約条件と、ステップS703で受け付けられた移動指示とに基づいて、計画対象時刻において撮影制約条件に抵触する状況が発生するか否かを判断する。なお、計画対象時刻とは、たとえば、移動指示に対応した所定の期間のうち、実映像を取得するか仮想映像を取得するかが決まっていない最初の時刻である。また、撮影制約条件に抵触する状況とは、前述したような、撮像装置110が撮影不可領域に入る状況や、撮像装置110の移動速度が制限速度を超える状況や、撮像装置110に何らかの障害が発生する状況などである。
ステップS704において、計画対象時刻において撮影制約条件に抵触する状況が発生しないと判断された場合、ステップS705に処理が進む。そして、ステップS705において、撮影計画作成部240は、計画対象時刻の次の時刻において撮影制約条件に抵触する状況が発生するか否かを判断する。
ステップS705において、次の時刻においても撮影制約条件に抵触する状況が発生しないと判断された場合、ステップS706に処理が進む。そして、ステップS706において、撮影計画作成部240は、計画対象時刻およびその次の時刻において実映像を連続的に取得する撮影計画を作成する。そして、後述するステップS710に処理が進む。
一方、ステップS705において、次の時刻においては撮影制約条件に抵触する状況が発生すると判断された場合、ステップS707に処理が進む。そして、ステップS707において、撮影計画作成部240は、実映像から仮想映像に連続的に切り替える撮影計画、すなわち、計画対象時刻において実映像を取得し、その次の時刻において仮想映像を取得する撮影計画を作成する。
そして、ステップS708において、撮影計画作成部240は、仮想映像から実映像への切り替わりのポイント、たとえば、移動軌道上の移動する視点の撮影不可領域からの進出位置や進出時刻などが特定可能か否かを判断する。
ステップS708において、仮想映像から実映像への切り替わりのポイントとしての進出位置や進出時刻などが特定可能と判断された場合、ステップS709に処理が進む。そして、ステップS709において、撮影計画作成部240は、仮想映像から実映像への切り替わり以前に撮像装置110を移動させる撮影計画、たとえば、進出時刻以前に進出位置の近傍に撮像装置110を移動させる撮影計画を作成する。
そして、ステップS710において、撮影計画作成部240は、ステップS703で受け付けられた移動指示において指定された期間全体の撮影計画が完成したか否か、すなわち、実映像を取得するか仮想映像を取得するかが未決定の時間が無くなったか否かを判断する。
ステップS710において、撮影計画が完成したと判断された場合、そのまま処理が終了する。
しかしながら、撮影計画が完成していないと判断された場合、ステップS711に処理が進む。そして、ステップS711において、撮影計画作成部240は、計画対象時刻をインクリメントする。そして、ステップS704に処理が戻る。
一方、ステップS704において、計画対象時刻において撮影制約条件に抵触する状況が発生すると判断された場合、ステップS712に処理が進む。そして、ステップS712において、撮影計画作成部240は、計画対象時刻の次の時刻において撮影制約条件に抵触する状況が解消するか否かを判断する。
ステップS712において、次の時刻においては撮影制約条件に抵触する状況が解消すると判断された場合、ステップS713に処理が進む。そして、ステップS713において、撮影計画作成部240は、仮想映像から実映像に連続的に切り替える撮影計画、すなわち、計画対象時刻において仮想映像を取得し、その次の時刻において実映像を取得する撮影計画を作成する。そして、ステップS710に処理が進む。
一方、ステップS712において、次の時刻においても撮影制約条件に抵触する状況が解消しないと判断された場合、ステップS714に処理が進む。そして、ステップS714において、撮影計画作成部240は、計画対象時刻およびその次の時刻において仮想映像を連続的に取得する撮影計画を作成する。そして、ステップS708に処理が進む。
このようにして、実施形態にかかる撮影計画作成部240は、計画対象時刻およびその次の時刻に実映像を取得するか仮想映像を取得するかを、移動指示において指定された期間の全てについて繰り返し決定することで、全体の撮影計画を作成する。
図8は、本開示の実施形態にかかる情報処理装置200が撮影計画に従った一連の映像を生成する際に実行する処理の流れを示した例示的かつ模式的なフローチャートである。
図8に示されるように、実施形態において撮影計画に従った一連の映像が生成される場合、まず、ステップS801において、実映像取得部260/仮想映像取得部270は、図7に示される処理の結果として作成される撮影計画に従って実映像/仮想映像を取得する。実映像取得部260は、撮像装置110が移動しながら撮影した実映像を取得し、仮想映像取得部270は、三次元モデルに基づいて仮想映像を取得する。
ここで、ステップS802において、仮想映像取得部270は、撮像装置110の障害の発生が、撮影制御部250の障害検知部252により検知されたか否かを判断する。
ステップS802において、障害の発生が検知されたと判断された場合、ステップS803に処理が進む。そして、ステップS803において、仮想映像取得部270は、障害の発生が検知された以降、撮影計画によらずに仮想映像を連続的に取得する。
そして、ステップS804において、映像生成部280は、ステップS801(およびステップS803)で取得された実映像および仮想映像を組み合わせて、一連の映像を生成する。そして、処理が終了する。
一方、ステップS802において、障害の発生が検知されていないと判断された場合、ステップS805に処理が進む。そして、ステップS805において、実映像取得部260/仮想映像取得部270は、撮影計画に従った実映像/仮想映像の取得が完了したか否かを判断する。
ステップS805において、撮影計画に従った実映像/仮想映像の取得が完了していないと判断された場合、ステップS801に処理が戻る。しかしながら、ステップS805において、撮影計画に従った実映像/仮想映像の取得が完了したと判断された場合、ステップS804に処理が進む。
このようにして、実施形態にかかる映像生成部280は、障害の発生を検知しながら必要に応じて撮影計画に従ったり従わなかったりしつつ実映像/仮想映像を取得し、取得した実映像/仮想映像をつなげることで、一連の映像を作成する。
なお、上述した実施形態にかかる技術は、次の図9に示されるような状況にも、有効に適用可能である。
図9は、本開示の実施形態にかかる技術の図1とは異なる適用例を示した例示的かつ模式的な図である。図9に示されるように、実施形態にかかる技術は、たとえば、壁W901を通り抜けるイメージの一連の映像を取得するような状況にも適用可能である。
図9に示される例では、撮像装置110が、位置P901から壁W901内を通過して位置P902に至る、矢印A901〜A903で表される移動軌道が、移動指示において設定されるものとする。壁W901の内部は、撮像装置110による撮影(進入)が物理的に不可能であり、前述した撮影不可領域に対応する。
したがって、図9に示される例では、壁W901への進入位置P903から壁W901からの進出位置P904に至る矢印A902に対応した領域について、仮想映像が取得される。進出位置P904での仮想映像から実映像への切り替え時に、撮像装置110が進出位置P904の近傍に予め待機していてもよいことは、上述した図4に示される例などと同様である。
なお、上述した図4や図9などに示される例は、視点の移動を伴う移動指示が設定される例に該当する。しかしながら、実施形態にかかる技術は、次の図10に示されるような、移動指示が視点の移動を伴わない例にも、有効に適用可能である。
図10は、本開示の実施形態にかかる技術の図1および図9とは異なる適用例を示した例示的かつ模式的な図である。図10に示される例では、路面RSを矢印A1001に沿って走行する車両Vを、位置P1001に設置された撮像装置110によって撮像する状況が例示されている。図10では図示が省略されているが、上述した図4などに示される例と同様、車両Vに対しても、当該車両Vを基準とした撮影不可領域が設定される。
図10に示される例において、撮像装置110の視点は固定とし、視線のみを矢印A1002に沿って移動させる移動指示が設定された場合を考える。この場合、車両Vがある程度進むと、撮像装置110の位置に変更はなくても、車両Vの撮影不可領域に撮像装置110が入ることが想定される。
そこで、図10に示される例では、車両Vの撮影不可領域に撮像装置110が入るまでの区間については実映像を採用し、それ以降の区間については仮想映像を採用することで、走行する車両Vを固定視点から撮影した一連の映像を得ることができる。また、このような構成によれば、車両Vと撮像装置110とが衝突し、撮像装置110に障害が発生した場合においても、仮想映像を利用して、走行する車両Vを固定視点から撮影した一連の映像を問題無く得ることができる。
以上説明したように、実施形態にかかる情報処理装置200は、撮影制御部250と、映像生成部280と、を備えている。撮影制御部250は、映像制作者(ユーザ)の移動指示に応じて視点および視線のうち少なくとも一方を移動しつつ実映像を取得するよう、実カメラとしての撮像装置110を制御する。映像生成部280は、移動指示に応じた視点および視線のうち少なくとも一方の移動中に、撮像装置110が撮影不可領域に近接する場合、実映像から、撮影不可領域内の仮想映像に連続的に切り替わる映像を生成する。なお、撮影不可領域とは、撮像装置110による撮影が不可能な領域として設定された領域である。
上記のような構成によれば、撮影中の撮像装置110が撮影不可領域に近接するか否かに応じて、実映像と仮想映像との効果的な使い分けを実現することができる。たとえば、実映像に比べて低品質になる傾向はあるもののカメラワークの制限が無い仮想映像と、仮想映像に比べて高品質になる傾向がある実映像とを効果的に使い分けることで、全体としてより高品質な一連の映像を生成することができる。
また、実施形態では、上述したように、撮影制御部250は、移動指示において指定された移動軌道に沿って少なくとも視点を移動しつつ実映像を取得するよう撮像装置110を制御する場合がある。この場合、映像生成部280は、移動軌道上の視点が撮影不可領域に進入する場合、実映像から、移動軌道上でかつ撮影不可領域内の視点に対応した仮想映像に連続的に切り替わる映像を生成する。このような構成によれば、撮影不可領域への視点の進入に応じて、実映像から仮想映像に適切に切り替えることができる。
上記のような構成において、撮影制御部250は、視点の撮影不可領域への進入に応じて実行される実映像から仮想映像への切り替わりに対応したタイミングで、撮影不可領域への進入を回避するよう撮像装置110を制御する。このような構成によれば、映像の視点に合わせて撮像装置110が撮影不可領域に実際に進入するのを回避することができる。
また、上記のような構成において、映像生成部280は、移動軌道上の視点が撮影不可領域から進出する場合、仮想映像から、移動軌道上でかつ撮影不可領域外の視点に対応した実映像に連続的に切り替わる映像を生成する。このような構成によれば、撮影不可領域からの視点の進出に応じて、仮想映像から実映像に適切に切り替えることができる。
また、上記のような構成において、撮影制御部250は、撮影不可領域への進入を回避した後、仮想映像から実映像への切り替わりに対応したタイミング以前に、移動軌道上の視点が撮影不可領域から進出する進出位置の撮影不可領域外の近傍に移動するよう撮像装置110を制御する。このような構成によれば、進出位置の撮影不可領域外の近傍に撮像装置110を予め移動させておくことで、仮想映像の後の実映像を容易に取得することができる。
また、上記のような構成において、撮影制御部250は、撮像装置110が互いに独立して移動可能に複数存在する場合、当該複数の撮像装置110のうちのいずれか1つを、進出位置の撮影不可領域外の近傍に移動するよう制御する。このような構成によれば、たとえば複数の撮像装置110の全てを進出位置の撮影不可領域外の近傍に移動させるような非効率を回避することができる。
また、上記のような構成において、撮影制御部250は、複数の撮像装置110のうち、進出位置に最も近い1つの撮像装置110を、進出位置の撮影不可領域外の近傍に移動するよう制御する。このような構成によれば、進出位置の撮影不可領域外の近傍への1つの撮像装置110の移動をより効率的に実行することができる。
また、上記のような構成において、撮影制御部250は、移動軌道上の視点が撮影不可領域内に存在する場合、仮想映像に直接的に映るのを回避するよう撮像装置110を制御する。このような構成によれば、仮想映像に直接的に映り込んだ撮像装置110が視聴者に違和感を与えるのを抑制することができる。
また、上記のような構成において、移動指示は、移動軌道に沿った視点の移動速度の指定を含んでいる。そして、映像生成部280は、移動軌道上でかつ撮影不可領域外を移動中の視点の移動速度が閾値を超える場合、実映像から仮想映像に連続的に切り替わる映像を生成する。このような構成によれば、たとえば、視点の移動速度が閾値を超えることで当該視点の移動に応じて移動中の撮像装置110による撮影が困難になる場合に、実映像に代えて仮想映像を採用することができる。
また、上記のような構成において、映像生成部280は、移動軌道上でかつ撮影不可領域外の視点の移動に応じて移動中の撮像装置に障害が発生した場合、実映像から仮想映像に連続的に切り替わる映像を生成する。このような構成によれば、障害の発生により撮像装置110による撮影が困難になる場合に、実映像に代えて仮想映像を採用することができる。
また、上記のような構成において、撮影不可領域は、撮像装置110の撮影対象物を基準として設定される。このような構成によれば、撮影対象物が移動する場合においても撮影不可領域を適切に決定することができる。
また、上記のような構成において、仮想映像は、撮像装置110が撮影する撮影対象空間の三次元モデルに基づいて取得される。このような構成によれば、三次元モデルに基づいて、撮影対象空間内の任意の視点(および視線)に対応した仮想映像を容易に取得することができる。
また、上記のような構成において、三次元モデルは、撮像装置110により取得される実映像と、撮影対象空間を囲むように配置された、撮像装置110とは異なる複数の撮像装置130により取得される実映像と、のうち少なくとも一方に基づいて生成される。このように構成すれば、2種類の撮像装置のうち少なくとも一方に基づいて、三次元モデルを容易に生成することができる。
また、上記のような構成において、移動指示は、たとえば図3に示されるような、表示装置300に表示される設定画面IM300を介したユーザの入力操作に応じて設定される。このような構成によれば、移動指示の設定を視覚的な方法で容易に行うことができる。
また、上記のような構成において、撮像装置110は、たとえば、カメラを搭載した飛行体としてのドローンである。このような構成によれば、小回りの利くドローンによって柔軟に撮影を実行することができる。
なお、上述した実施形態の構成、ならびに当該構成によってもたらされる作用および結果(効果)は、あくまで一例であって、上述した内容に限られるものではない。
たとえば、上述した実施形態では、音声について特に言及されていないが、実施形態にかかる技術は、実映像と仮想映像との切り替えと同様の考え方で、実音声と仮想音声との切り替えを実行してもよい。なお、実音声とは、物理的なマイクによって取得された実際の音声であり、仮想音声とは、複数の物理的なマイクによって取得された複数の実音声に基づいて算出される任意の位置での仮想的な音声である。
また、上述した実施形態では、省電力化などのため、仮想映像を常に取得するのではなく、実映像の取得が困難になる場合にのみ、仮想映像を取得するような構成が採用されてもよい。
また、上述した実施形態では、撮影制約条件に抵触する状況が発生する場合に実映像から仮想映像に切り替わり、その状況が解消する場合に仮想映像から実映像に切り替わる構成が例示されている。しかしながら、たとえばハイライトになりうるシーンなどにおける切り替わりの発生は、視聴者の違和感につながるので、実映像と仮想映像との切り替わりのタイミングは、状況に応じて前倒しや延期などといった調整が施されてもよい。
また、上述した実施形態では、たとえば撮像装置110の周辺にのみ霧が出ている場合などにおいて、仮想映像の方が実映像よりも高品質になる場合も考えられる。この場合、実映像の品質と仮想映像の品質とを評価する何らかの指標を算出し、当該指標に応じて、撮影計画では実映像が採用されることになっていたとしても仮想映像の方を採用するといった構成が採用されてもよい。
ここで、前述したように、実施形態にかかる情報処理装置200は、たとえば次の図11に示されるような構成のコンピュータ1000によって実現することが可能である。
図11は、本開示の実施形態にかかる情報処理装置200の機能を実現するコンピュータ1000の一例を示すハードウェア構成図である。図11に示されるように、コンピュータ1000は、CPU(Central Processing Unit)1100、RAM(Random Access Memory)1200、ROM(Read Only Memory)1300、HDD(Hard Disk Drive)1400、通信インターフェイス1500、および入出力インターフェイス1600を有する。コンピュータ1000の各部は、バス1050によって接続される。
CPU1100は、ROM1300またはHDD1400に格納されたプログラムに基づいて動作し、各部の制御を行う。たとえば、CPU1100は、ROM1300またはHDD1400に格納されたプログラムをRAM1200に展開し、各種プログラムに対応した処理を実行する。
ROM1300は、コンピュータ1000の起動時にCPU1100によって実行されるBIOS(Basic Input Output System)などのブートプログラムや、コンピュータ1000のハードウェアに依存するプログラムなどを格納する。
HDD1400は、CPU1100によって実行されるプログラム、および、かかるプログラムによって使用されるデータなどを非一時的に記録する、コンピュータが読み取り可能な記録媒体である。具体的には、HDD1400は、プログラムデータ1450の一例としての、実施形態にかかる情報処理プログラムを記録する記録媒体である。
通信インターフェイス1500は、コンピュータ1000が外部ネットワーク1550(たとえばインターネット)と接続するためのインターフェイスである。たとえば、CPU1100は、通信インターフェイス1500を介して、他の機器からデータを受信したり、CPU1100が生成したデータを他の機器へ送信したりする。
入出力インターフェイス1600は、入出力デバイス1650とコンピュータ1000とを接続するためのインターフェイスである。たとえば、CPU1100は、入出力インターフェイス1600を介して、キーボードやマウスなどの入力デバイスからデータを受信する。また、CPU1100は、入出力インターフェイス1600を介して、表示装置やスピーカーやプリンタなどの出力デバイスにデータを送信する。また、入出力インターフェイス1600は、所定の記録媒体(メディア)に記録されたプログラムなどを読み取るメディアインターフェイスとして機能してもよい。メディアとは、たとえばDVD(Digital Versatile Disc)、PD(Phase change rewritable Disk)などの光学記録媒体、MO(Magneto-Optical disk)などの光磁気記録媒体、テープ媒体、磁気記録媒体、または半導体メモリなどである。
たとえば、コンピュータ1000が実施形態にかかる情報処理装置200として機能する場合、コンピュータ1000のCPU1100は、RAM1200上にロードされた情報処理プログラムを実行することにより、図2に示された各機能を実現する。また、HDD1400には、本開示にかかる情報処理プログラムや、コンテンツ記憶部121内のデータが格納される。なお、CPU1100は、プログラムデータ1450をHDD1400から読み取って実行するが、他の例として、外部ネットワーク1550を介して、他の装置からこれらのプログラムを取得してもよい。
なお、本開示にかかる技術は、以下のような構成を取ることもできる。
(1)
ユーザの移動指示に応じて視点および視線のうち少なくとも一方を移動しつつ実映像を取得するよう第1の撮像装置を制御する撮影制御部と、
前記移動指示に応じた前記視点および前記視線のうち少なくとも一方の移動中に、前記第1の撮像装置が、当該第1の撮像装置による撮影が不可能な領域として設定された撮影不可領域に近接する場合、前記実映像から、前記撮影不可領域内の仮想映像に連続的に切り替わる映像を生成する映像生成部と、
を備える、情報処理装置。
(2)
前記撮影制御部は、前記移動指示において指定された移動軌道に沿って少なくとも前記視点を移動しつつ前記実映像を取得するよう前記第1の撮像装置を制御し、
前記映像生成部は、前記移動軌道上の前記視点が前記撮影不可領域に進入する場合、前記実映像から、前記移動軌道上でかつ前記撮影不可領域内の前記視点に対応した前記仮想映像に連続的に切り替わる前記映像を生成する、
前記(1)に記載の情報処理装置。
(3)
前記撮影制御部は、前記視点の前記撮影不可領域への進入に応じて実行される前記実映像から前記仮想映像への切り替わりに対応したタイミングで、前記撮影不可領域への進入を回避するよう前記第1の撮像装置を制御する、
前記(2)に記載の情報処理装置。
(4)
前記映像生成部は、前記移動軌道上の前記視点が前記撮影不可領域から進出する場合、前記仮想映像から、前記移動軌道上でかつ前記撮影不可領域外の前記視点に対応した前記実映像に連続的に切り替わる前記映像を生成する、
前記(3)に記載の情報処理装置。
(5)
前記撮影制御部は、前記撮影不可領域への進入を回避した後、前記仮想映像から前記実映像への切り替わりに対応したタイミング以前に、前記移動軌道上の前記視点が前記撮影不可領域から進出する進出位置の前記撮影不可領域外の近傍に移動するよう前記第1の撮像装置を制御する、
前記(4)に記載の情報処理装置。
(6)
前記撮影制御部は、前記第1の撮像装置が互いに独立して移動可能な複数の第1の撮像装置を含む場合、当該複数の第1の撮像装置のうちのいずれか1つの第1の撮像装置を、前記進出位置の前記撮影不可領域外の近傍に移動するよう制御する、
前記(5)に記載の情報処理装置。
(7)
前記撮影制御部は、前記複数の第1の撮像装置のうち、前記進出位置に最も近い前記1つの第1の撮像装置を、前記進出位置の前記撮影不可領域外の近傍に移動するよう制御する、
前記(6)に記載の情報処理装置。
(8)
前記撮影制御部は、前記移動軌道上の前記視点が前記撮影不可領域内に存在する場合、前記仮想映像に直接的に映るのを回避するよう前記第1の撮像装置を制御する、
前記(3)〜(7)のうちいずれかに記載の情報処理装置。
(9)
前記移動指示は、前記移動軌道に沿った前記視点の移動速度の指定を含み、
前記映像生成部は、前記移動軌道上でかつ前記撮影不可領域外を移動中の前記視点の前記移動速度が閾値を超える場合、前記実映像から前記仮想映像に連続的に切り替わる前記映像を生成する、
前記(2)〜(8)のうちいずれかに記載の情報処理装置。
(10)
前記映像生成部は、前記移動軌道上でかつ前記撮影不可領域外の前記視点の移動に応じて移動中の前記第1の撮像装置に障害が発生した場合、前記実映像から前記仮想映像に連続的に切り替わる映像を生成する、
前記(2)〜(9)のうちいずれかに記載の情報処理装置。
(11)
前記撮影不可領域は、前記第1の撮像装置の撮影対象物を基準として設定される、
前記(2)〜(10)のうちいずれかに記載の情報処理装置。
(12)
前記仮想映像は、前記第1の撮像装置が撮影する撮影対象空間の三次元モデルに基づいて取得される、
前記(1)〜(11)のうちいずれかに記載の情報処理装置。
(13)
前記三次元モデルは、前記第1の撮像装置により取得される前記実映像と、前記撮影対象空間を囲むように配置された、前記第1の撮像装置とは異なる複数の第2の撮像装置により取得される前記実映像と、のうち少なくとも一方に基づいて生成される、
前記(12)に記載の情報処理装置。
(14)
前記移動指示は、表示装置に表示される設定画面を介した前記ユーザの入力操作に応じて設定される、
前記(1)〜(13)のうちいずれかに記載の情報処理装置。
(15)
前記第1の撮像装置は、カメラを搭載した飛行体としてのドローンを含む、
前記(1)〜(14)のうちいずれかに記載の情報処理装置。
(16)
ユーザの移動指示に応じて視点および視線のうち少なくとも一方を移動しつつ実映像を取得するよう第1の撮像装置を制御する撮影制御ステップと、
前記移動指示に応じた前記視点および前記視線のうち少なくとも一方の移動中に、前記第1の撮像装置が、当該第1の撮像装置による撮影が不可能な領域として設定された撮影不可領域に近接する場合、前記実映像から、前記撮影不可領域内の仮想映像に連続的に切り替わる映像を生成する映像生成ステップと、
を備える、方法。
(17)
コンピュータに、
ユーザの移動指示に応じて視点および視線のうち少なくとも一方を移動しつつ実映像を取得するよう第1の撮像装置を制御する撮影制御ステップと、
前記移動指示に応じた前記視点および前記視線のうち少なくとも一方の移動中に、前記第1の撮像装置が、当該第1の撮像装置による撮影が不可能な領域として設定された撮影不可領域に近接する場合、前記実映像から、前記撮影不可領域内の仮想映像に連続的に切り替わる映像を生成する映像生成ステップと、
を実行させるためのプログラムが格納された、コンピュータが読み取り可能な非一時的な記録媒体。
110 撮像装置(第1の撮像装置)
130 撮像装置(第2の撮像装置)
200 情報処理装置
250 撮影制御部
280 映像生成部
300 表示装置
IM300 設定画面

Claims (17)

  1. ユーザの移動指示に応じて視点および視線のうち少なくとも一方を移動しつつ実映像を取得するよう第1の撮像装置を制御する撮影制御部と、
    前記移動指示に応じた前記視点および前記視線のうち少なくとも一方の移動中に、前記第1の撮像装置が、当該第1の撮像装置による撮影が不可能な領域として設定された撮影不可領域に近接する場合、前記実映像から、前記撮影不可領域内の仮想映像に連続的に切り替わる映像を生成する映像生成部と、
    を備える、情報処理装置。
  2. 前記撮影制御部は、前記移動指示において指定された移動軌道に沿って少なくとも前記視点を移動しつつ前記実映像を取得するよう前記第1の撮像装置を制御し、
    前記映像生成部は、前記移動軌道上の前記視点が前記撮影不可領域に進入する場合、前記実映像から、前記移動軌道上でかつ前記撮影不可領域内の前記視点に対応した前記仮想映像に連続的に切り替わる前記映像を生成する、
    請求項1に記載の情報処理装置。
  3. 前記撮影制御部は、前記視点の前記撮影不可領域への進入に応じて実行される前記実映像から前記仮想映像への切り替わりに対応したタイミングで、前記撮影不可領域への進入を回避するよう前記第1の撮像装置を制御する、
    請求項2に記載の情報処理装置。
  4. 前記映像生成部は、前記移動軌道上の前記視点が前記撮影不可領域から進出する場合、前記仮想映像から、前記移動軌道上でかつ前記撮影不可領域外の前記視点に対応した前記実映像に連続的に切り替わる前記映像を生成する、
    請求項3に記載の情報処理装置。
  5. 前記撮影制御部は、前記撮影不可領域への進入を回避した後、前記仮想映像から前記実映像への切り替わりに対応したタイミング以前に、前記移動軌道上の前記視点が前記撮影不可領域から進出する進出位置の前記撮影不可領域外の近傍に移動するよう前記第1の撮像装置を制御する、
    請求項4に記載の情報処理装置。
  6. 前記撮影制御部は、前記第1の撮像装置が互いに独立して移動可能な複数の第1の撮像装置を含む場合、当該複数の第1の撮像装置のうちのいずれか1つの第1の撮像装置を、前記進出位置の前記撮影不可領域外の近傍に移動するよう制御する、
    請求項5に記載の情報処理装置。
  7. 前記撮影制御部は、前記複数の第1の撮像装置のうち、前記進出位置に最も近い前記1つの第1の撮像装置を、前記進出位置の前記撮影不可領域外の近傍に移動するよう制御する、
    請求項6に記載の情報処理装置。
  8. 前記撮影制御部は、前記移動軌道上の前記視点が前記撮影不可領域内に存在する場合、前記仮想映像に直接的に映るのを回避するよう前記第1の撮像装置を制御する、
    請求項3に記載の情報処理装置。
  9. 前記移動指示は、前記移動軌道に沿った前記視点の移動速度の指定を含み、
    前記映像生成部は、前記移動軌道上でかつ前記撮影不可領域外を移動中の前記視点の前記移動速度が閾値を超える場合、前記実映像から前記仮想映像に連続的に切り替わる前記映像を生成する、
    請求項2に記載の情報処理装置。
  10. 前記映像生成部は、前記移動軌道上でかつ前記撮影不可領域外の前記視点の移動に応じて移動中の前記第1の撮像装置に障害が発生した場合、前記実映像から前記仮想映像に連続的に切り替わる映像を生成する、
    請求項2に記載の情報処理装置。
  11. 前記撮影不可領域は、前記第1の撮像装置の撮影対象物を基準として設定される、
    請求項2に記載の情報処理装置。
  12. 前記仮想映像は、前記第1の撮像装置が撮影する撮影対象空間の三次元モデルに基づいて取得される、
    請求項1に記載の情報処理装置。
  13. 前記三次元モデルは、前記第1の撮像装置により取得される前記実映像と、前記撮影対象空間を囲むように配置された、前記第1の撮像装置とは異なる複数の第2の撮像装置により取得される前記実映像と、のうち少なくとも一方に基づいて生成される、
    請求項12に記載の情報処理装置。
  14. 前記移動指示は、表示装置に表示される設定画面を介した前記ユーザの入力操作に応じて設定される、
    請求項1に記載の情報処理装置。
  15. 前記第1の撮像装置は、カメラを搭載した飛行体としてのドローンを含む、
    請求項1に記載の情報処理装置。
  16. ユーザの移動指示に応じて視点および視線のうち少なくとも一方を移動しつつ実映像を取得するよう第1の撮像装置を制御する撮影制御ステップと、
    前記移動指示に応じた前記視点および前記視線のうち少なくとも一方の移動中に、前記第1の撮像装置が、当該第1の撮像装置による撮影が不可能な領域として設定された撮影不可領域に近接する場合、前記実映像から、前記撮影不可領域内の仮想映像に連続的に切り替わる映像を生成する映像生成ステップと、
    を備える、方法。
  17. コンピュータに、
    ユーザの移動指示に応じて視点および視線のうち少なくとも一方を移動しつつ実映像を取得するよう第1の撮像装置を制御する撮影制御ステップと、
    前記移動指示に応じた前記視点および前記視線のうち少なくとも一方の移動中に、前記第1の撮像装置が、当該第1の撮像装置による撮影が不可能な領域として設定された撮影不可領域に近接する場合、前記実映像から、前記撮影不可領域内の仮想映像に連続的に切り替わる映像を生成する映像生成ステップと、
    を実行させるためのプログラムが格納された、コンピュータが読み取り可能な非一時的な記録媒体。
JP2019046427A 2019-03-13 2019-03-13 情報処理装置、方法、および記録媒体 Pending JP2020150417A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2019046427A JP2020150417A (ja) 2019-03-13 2019-03-13 情報処理装置、方法、および記録媒体
PCT/JP2020/009834 WO2020184477A1 (ja) 2019-03-13 2020-03-06 情報処理装置、方法、および記録媒体
US17/310,902 US20220166939A1 (en) 2019-03-13 2020-03-06 Information processing apparatus, method, and recording medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019046427A JP2020150417A (ja) 2019-03-13 2019-03-13 情報処理装置、方法、および記録媒体

Publications (1)

Publication Number Publication Date
JP2020150417A true JP2020150417A (ja) 2020-09-17

Family

ID=72426370

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019046427A Pending JP2020150417A (ja) 2019-03-13 2019-03-13 情報処理装置、方法、および記録媒体

Country Status (3)

Country Link
US (1) US20220166939A1 (ja)
JP (1) JP2020150417A (ja)
WO (1) WO2020184477A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US12041376B2 (en) 2021-05-28 2024-07-16 Canon Kabushiki Kaisha Information processing apparatus, system, information processing method, and storage medium

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10762795B2 (en) * 2016-02-08 2020-09-01 Skydio, Inc. Unmanned aerial vehicle privacy controls
JP7113294B2 (ja) * 2016-09-01 2022-08-05 パナソニックIpマネジメント株式会社 多視点撮像システム
JP7159057B2 (ja) * 2017-02-10 2022-10-24 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 自由視点映像生成方法及び自由視点映像生成システム
JP6994901B2 (ja) * 2017-10-24 2022-01-14 キヤノン株式会社 制御装置、制御方法、及びプログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US12041376B2 (en) 2021-05-28 2024-07-16 Canon Kabushiki Kaisha Information processing apparatus, system, information processing method, and storage medium

Also Published As

Publication number Publication date
WO2020184477A1 (ja) 2020-09-17
US20220166939A1 (en) 2022-05-26

Similar Documents

Publication Publication Date Title
US20180160049A1 (en) Information processing apparatus, control method therefor, and non-transitory computer-readable storage medium
KR101484844B1 (ko) 실시간 영상에 프라이버시 마스킹 툴을 제공하는 장치 및 방법
Chen et al. Autonomous camera systems: A survey
JP6520975B2 (ja) 動画像処理装置、動画像処理方法及びプログラム
US20210099734A1 (en) Information processing apparatus, information processing method, and storage medium
WO2020184477A1 (ja) 情報処理装置、方法、および記録媒体
JP2017510922A (ja) ビデオデータのための軌道データの生成
US11494974B2 (en) Information processing apparatus, method of controlling information processing apparatus, and storage medium
US20110200303A1 (en) Method of Video Playback
KR101645427B1 (ko) 유저 인터페이스를 통한 카메라 장치의 동작 방법
JP2017121082A (ja) プログラム及びコンピュータ
JP7497683B2 (ja) 映像再生装置、再生方法、プログラム、3d形状映像データの生成方法
US20220385876A1 (en) Image processing apparatus, control method thereof, and storage medium
JP2008141703A (ja) 撮像システム、映像表示方法、及びコンピュータプログラム
US12041376B2 (en) Information processing apparatus, system, information processing method, and storage medium
CN109740564A (zh) 服务机器人的场景感知方法、装置、设备及存储介质
WO2018207691A1 (ja) 監視装置、監視方法、コンピュータプログラム、及び記憶媒体
WO2020184188A1 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
KR101663593B1 (ko) 가상공간의 네비게이션 방법 및 그 시스템
US20230410417A1 (en) Information processing apparatus, information processing method, and storage medium
JP2018157287A (ja) 映像再生装置、映像再生方法、映像再生プログラム及び映像再生システム
US20240163544A1 (en) Information processing apparatus, information processing method, and storage medium
JP7435621B2 (ja) 画像処理装置、および画像処理システム、並びに画像処理方法
US20230245411A1 (en) Information processing apparatus, information processing method, and medium
US20240305760A1 (en) Information processing apparatus and method, and storage medium