JP2019088025A - 表示制御装置、表示制御方法、およびプログラム - Google Patents

表示制御装置、表示制御方法、およびプログラム Download PDF

Info

Publication number
JP2019088025A
JP2019088025A JP2019023815A JP2019023815A JP2019088025A JP 2019088025 A JP2019088025 A JP 2019088025A JP 2019023815 A JP2019023815 A JP 2019023815A JP 2019023815 A JP2019023815 A JP 2019023815A JP 2019088025 A JP2019088025 A JP 2019088025A
Authority
JP
Japan
Prior art keywords
information
display control
image
display
imaging devices
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019023815A
Other languages
English (en)
Other versions
JP2019088025A5 (ja
JP7146662B2 (ja
Inventor
靖 四方
Yasushi Shikata
靖 四方
良樹 岩切
Yoshiki Iwakiri
良樹 岩切
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Publication of JP2019088025A publication Critical patent/JP2019088025A/ja
Publication of JP2019088025A5 publication Critical patent/JP2019088025A5/ja
Application granted granted Critical
Publication of JP7146662B2 publication Critical patent/JP7146662B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/14Display of multiple viewports
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/349Multi-view displays for displaying three or more geometrical viewpoints without viewer tracking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/282Image signal generators for generating image signals corresponding to three or more geometrical viewpoints, e.g. multi-view systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/398Synchronisation thereof; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21Server components or server architectures
    • H04N21/218Source of audio or video content, e.g. local disk arrays
    • H04N21/21805Source of audio or video content, e.g. local disk arrays enabling multiple viewpoints, e.g. using a plurality of cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21Server components or server architectures
    • H04N21/218Source of audio or video content, e.g. local disk arrays
    • H04N21/2187Live feed
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/23412Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs for generating or manipulating the scene composition of objects, e.g. MPEG-4 objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/23418Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H04N21/2365Multiplexing of several video streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/24Monitoring of processes or resources, e.g. monitoring of server load, available bandwidth, upstream requests
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/266Channel or content management, e.g. generation and management of keys and entitlement messages in a conditional access system, merging a VOD unicast channel into a multicast channel
    • H04N21/26603Channel or content management, e.g. generation and management of keys and entitlement messages in a conditional access system, merging a VOD unicast channel into a multicast channel for automatically generating descriptors from content, e.g. when it is not made available by its provider, using content analysis techniques
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/2224Studio circuitry; Studio devices; Studio equipment related to virtual studio applications
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/37Details of the operation on graphic patterns
    • G09G5/377Details of the operation on graphic patterns for mixing or overlaying two or more graphic patterns

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Image Processing (AREA)

Abstract

【課題】 仮想視点画像の生成に係るシステムの構成要素の状態をユーザが容易に知ることができるようにするための技術を提供することを目的とする。【解決手段】 仮想視点画像を生成するための画像を撮像する複数の撮像装置に関する情報を表示させる表示制御装置であって、複数の撮像装置に関する情報を取得する取得手段と前記取得手段により取得された情報に基づく、前記複数の撮像装置夫々が撮像した画像を伝送するための前記複数の撮像装置の通信接続に関する情報を、表示部に表示させる表示制御を行う表示制御手段と、を有することを特徴とする。【選択図】 図15

Description

本発明は、表示制御装置、表示制御方法、およびプログラムに関する。
近年、複数の撮像装置を異なる位置に設置し、複数の撮像装置が同期して被写体を撮像し、当該撮像により得られた複数の視点の画像を用いて、撮像装置の設置位置の画像だけでなく任意の視点の画像を仮想視点画像として生成する技術が注目されている。
複数の視点の画像に基づく仮想視点画像の生成および閲覧は、例えば、次のようにして実現することができる。まず、複数の撮像装置が撮像した画像をサーバなどの画像生成装置に集約する。そして、画像生成装置は、複数の撮像装置が撮像した画像を用いて、仮想視点に基づくレンダリングなどの処理を施して仮想視点画像を生成し、ユーザの視聴端末に仮想視点画像を表示する。
サッカーやバスケットボールの試合を撮像した画像から、画像コンテンツ制作者により指定された視点に応じた仮想視点画像を生成することにより迫力のある視点のコンテンツを制作することができる。また、コンテンツを視聴しているユーザ自身が視聴端末に備えたコントローラやタブレット等を使用して自由に視点を移動し、画像生成装置がその視点に応じた仮想視点画像を生成することにより、ユーザは、自身の好みの視点で、試合を観戦することができる。従って、仮想視点画像を用いたサービスでは、視点を任意に変更できない従来の撮像画像と比較してユーザにその場面にいるような臨場感を与えることができる。
特許文献1には、一つ以上の画像を元にユーザが好みの視点を選択し、当該画像と当該選択された視点の情報から仮想視点画像を生成する技術が開示されている。また、特許文献1では、ユーザが好みの視点を選択する際のUI(ユーザインターフェース)に関しても開示している。
特開2014−236896号公報
しかしながら、仮想視点画像の生成に係るシステムの構成要素の状態をユーザが容易に知ることができない恐れがあった。
例えば、複数の撮像装置の少なくとも一つが、故障したり、正常な撮影ができなかったり、撮像画像を出力できなかったりする場合、仮想視点画像の品質の低下など不具合が生じ得る。また、複数の撮像装置それぞれの撮影範囲や露光条件を示す撮影パラメータなどが適切に設定されていない場合も、仮想視点画像の品質の低下など不具合が生じ得る。しかしながら、ユーザがこれらの撮像装置の状態を把握することができれば、修理や撮影パラメータの設定などを行うことができ、仮想視点画像の品質の低下などの不具合の発生を低減することができる。なお、上記した構成要素は撮像装置に限らない。例えば、仮想視点画像を生成するサーバ、仮想視点画像を生成するためのシステムを構成するスイッチやルータ、及びネットワークケーブルなども構成要素となりうる。
本発明は、かかる課題に鑑みてなされたものであり、その目的は、仮想視点画像の生成に係るシステムの構成要素の状態をユーザが容易に知ることができるようにするための技術を提供することである。
本発明の表示制御装置は、仮想視点画像を生成するための画像を撮像する複数の撮像装置に関する情報を表示させる表示制御装置であって、複数の撮像装置に関する情報を取得する取得手段と、前記取得手段により取得された情報に基づく、前記複数の撮像装置夫々が撮像した画像を伝送するための前記複数の撮像装置の通信接続に関する情報を、表示部に表示させる表示制御を行う表示制御手段と、を有することを特徴とする。
本発明によれば、仮想視点画像の生成に係るシステムの構成要素の状態をユーザが容易に知ることができるようになる
表示システムの構成を示す図である。 撮像装置の配置を示す図である。 撮像装置のハードウェアの構成を示す図である。 撮像装置の機能的な構成の第1の例を示す図である。 撮像装置の動作の第1の例を示すフローチャートである。 前景画像データおよび背景画像データを示す図である。 装置のハードウェアの構成を示す図である。 画像生成装置の機能的な構成の第1の例を示す図である。 画像生成装置の動作を示すフローチャートである。 情報表示装置の機能的な構成の第1の例を示す図である。 情報表示装置の動作の第1の例を示すフローチャートである。 情報表示装置のデータ保持部が保持しているデータ例を示す図である。 情報表示装置のデータ保持部が保持しているデータ例を示す図である。 情報表示装置のデータ保持部が保持しているデータ例を示す図である。 情報表示装置により表示される表示イメージの一例を示す図である。 情報表示装置のUI生成部の処理を示すフローチャートである。 情報表示装置のUI生成部が生成する表示イメージの例を示す図である。 情報表示装置のUI生成部が生成する表示イメージの例を示す図である。 情報表示装置のUI生成部が生成する表示イメージの例を示す図である。 情報表示装置のUI生成部が生成する表示イメージの例を示す図である。 情報表示装置のUI生成部が生成する表示イメージの例を示す図である。 情報表示装置のUI生成部が生成する表示イメージの例を示す図である。 情報表示装置のUI生成部の処理を示す表示イメージの例を示す図である。 情報表示装置のUI生成部のレイヤー描画処理イメージの例を示す図である。 情報表示装置のUI生成部の表示切替処理のイメージ図である。 情報表示装置のUI生成部の表示切替の表示イメージ例を示す図である。 表示イメージ上の撮像装置の状態を示した例を示す図である。 表示イメージ上の撮像装置の状態をリストして示した例を示す図である。 情報表示装置の表示処理のフローチャートである。 撮像装置の状態をリスト表示した例を示す図である。 リスト表示の切り替え動作のイメージ図である。 撮像装置を操作する操作UIの例を示す図である。 撮像装置を操作する操作UIの例を示す図である。 情報表示装置の機能的な構成の変形例を示す図である。 情報表示装置の画像表示処理の一例を説明するフローチャートである。 情報表示装置により表示される表示イメージの一例を示す図である。 情報表示装置により表示される表示イメージの一例を示す図である。 情報表示装置により表示される表示イメージの一例を示す図である。 情報表示装置の操作UIによる撮像装置の設定のための処理を示すフローチャートである。 情報表示装置により表示される表示イメージの一例を示す図である。 情報表示装置により表示される表示イメージの一例を示す図である。 情報表示装置により表示される表示イメージの一例を示す図である。 情報表示装置により表示される表示イメージの一例を示す図である。 情報表示装置により表示される表示イメージの一例を示す図である。
以下、図面を参照して、実施形態を説明する。本実施形態では、撮影対象であり、撮像装置の設置場所である競技場を模した画像上に、各撮像装置の設置位置、撮像装置間のネットワーク接続関係、及び各撮像装置と撮像対象エリアとの関係のうち少なくとも1つ以上を表示する例を説明する。
図1は、本実施形態の表示システムの構成の一例を示す図である。本実施形態の表示システムは、複数の撮像装置100−1、100−2、・・・100−Mを有する撮像システム100と、画像生成装置200と、ユーザ端末300と、情報表示装置400と、分配装置500とを有する。各々の装置は、画像や制御情報を伝送する為の伝送ケーブルを介して相互に通信可能に接続される。伝送ケーブルの具体例としては、ETHERNET(登録商標)であるIEEE標準準拠のGBE(ギガビットイーサーネット)や10GBEが挙げられる。ただし、伝送ケーブルは、これらに限定されず、他の種別のケーブルであってもよい。また、各々の装置は無線通信を行ってもよい。
撮像システム100は、M個の撮像装置(撮像装置100−1、100−2、・・・、100−M)を有する。以下、特定の撮像装置を示さない場合、撮像装置100−1、100−2、・・・、100−Mを、撮像装置100−Xと称する。なお、ここで記載されるM、N(後述)、Xは、整数値を示す。
相互に隣り合う位置にある撮像装置100−X同士(例えば、撮像装置100−1と撮像装置100−2)は、伝送ケーブルを介して相互に接続される。撮像装置100−Xは、撮像画像や撮像装置100−Xの状態情報を画像生成装置200および情報表示装置400へ伝送する。状態情報については後述する。図1では、撮像装置100−1は、撮像装置100−2と相互に接続される。また、撮像装置100−2は、撮像装置100−1に加え、撮像装置100−2と隣り合う位置にある不図示のもう1つの撮像装置と相互に接続される。そして、撮像装置100−Nは、撮像装置100−Nと隣り合う位置にある不図示の撮像装置と相互に接続される。また、撮像装置100−Nは、分配装置500と相互に接続される。なお、撮像装置間はデイジーチェーンにより接続される例を示すが、例えばスター型接続など他の接続形態により接続されてもよい。本実施形態では、こうした接続グループが2つある。つまり、もう一つは、撮像装置100−(N+1)から撮像装置100−Mまでの撮像システムも同様の接続を行う。なお、この接続グループの数は2つに限らず、1つでも3つ以上あってもよい。
撮像装置100−Xは、サッカー場などの競技場や特定の被写体を取り囲むように配置される。図2は、撮像装置100−Xの配置の一例を示す図である。図2に示す例では、サッカー場などの競技場210の全てまたは一部の範囲が複数の撮像装置100−Xで撮像されるように、複数の撮像装置100−Xが配置される。
複数の撮像装置100−Xは、例えばデジタルカメラであり、不図示の同期装置からの同期信号に基づき、同じタイミングで撮像を行う。撮像装置100−Xにより撮像された画像は、伝送ケーブルと分配装置500とを介し、画像生成装置200および情報表示装置400に伝送される。撮像装置100−Xは、静止画像を撮像するカメラであっても、動画像を撮像するカメラであっても、静止画像および動画像の双方を撮像するカメラであってもよい。本実施形態では、画像という文言を特に断りがない限り静止画および動画を含むものとして説明を行う。
画像生成装置200は、分配装置500を介して撮像装置100−Xと相互に接続される。また、画像生成装置200は、ユーザ端末300や情報表示装置400とも相互に接続される。画像生成装置200は、撮像装置100−Xにより撮像された画像を蓄積する。画像生成装置200は、ユーザ端末300の操作に基づく仮想視点情報を入力した場合、複数の撮像装置100−Xにより撮像された画像を用いて、仮想視点情報に対応した仮想視点画像を生成する。
画像生成装置200は、生成した仮想視点画像を、ユーザ端末300に伝送する。ここで、仮想視点情報には、位置情報と方向情報とが少なくとも含まれる。位置情報は、競技場210の中央などの所定位置に対する相対的な位置(例えば、所定位置を基準とした場合の、前後方向、左右方向及び上下方向の位置)を示す情報である。なお、位置情報は絶対的な座標を示す情報であってもよい。方向情報は、その所定位置からの向き(例えば、所定の位置を原点とし、前後方向、左右方向及び上下方向を軸とする3次元直交座標系での各軸からの角度)を示す情報である。また、方向情報は、絶対的な方向を示す情報であってもよい。仮想視点情報は、仮想視点画像を生成するための、視点の位置及び視線の方向を示す情報である。また、仮想視点情報は、仮想視点画像を生成するための仮想カメラの位置姿勢を示す情報である。
画像生成装置200は、例えば、サーバ装置であり、データベース機能(画像保存部202として後述)や、画像処理機能(仮想視点画像生成部203として後述)を有する。画像生成装置200が用いるデータベースは、競技の開始前の競技会場の場面など、予め選手などの特定の被写体が存在しない状態の競技会場の場面を撮像した画像を背景画像データとして、予め保持する。背景画像データは、撮像画像から特定の被写体を抽出するための前景背景分離処理に用いられる。
ユーザ端末300は、操作用のコントローラを有する。ユーザ端末300は、ユーザのコントローラの操作に基づいて、例えば、仮想視点の位置の移動、仮想視点の視線方向の変更、および視点の切り替えの指示を受け付け、その内容を示す伝送信号を仮想視点情報として画像生成装置200へ伝送する。また、ユーザ端末300は、画像生成装置200から受信した仮想視点画像をユーザ端末300に備えた表示画面に表示する。仮想視点画像は、静止画像であっても動画像であってもよい。ここで、ユーザ端末300は、例えば、PC(PERSONAL COMPUTER)やタブレットであり、コントローラは、例えば、マウス、キーボード、6軸コントローラ、およびタッチパネルの少なくとも1つを有する。
情報表示装置400は、分配装置500を介して撮像装置100−Xや画像生成装置200と相互に接続される。情報表示装置400は、撮像装置100−Xにより撮像された撮像画像や撮像装置100−Xの状態情報を受信し、後述する表示画面(表示部404)に表示する。また、情報表示装置400は、撮像装置100−Xの設置場所や撮像装置間の接続関係や属するグループの情報などをデータベースから取得し、取得した情報を表示画面に表示する。また、情報表示装置400は、画像生成装置200の状態情報も受信し、表示画面に表示する。情報表示装置400に表示された情報を監視担当者が閲覧する。監視担当者は、情報表示装置400の表示画面に表示された撮像画像などを用いて撮像システム100や画像生成装置200の状態を定常的に監視する。
分配装置500は、撮像装置100−Xから受信した撮像画像を、画像生成装置200および情報表示装置400に分配する。
次に、撮像装置100−Xの構成の一例について説明する。図3は、撮像装置100−Xのハードウェアの構成の一例を示す図である。撮像光学系301(光学レンズ系)は、被写体からの光を撮像素子302に結像する。撮像素子302は、結像された光を電気信号に変換し、その電気信号をA/Dコンバータ303に出力する。A/Dコンバータ303は、入力された電気信号をデジタル信号に変換し、変換したデジタル信号を画像処理回路304に入力する。尚、撮像素子302は、受光面上に結像された像による光信号を、対応する位置の受光画素毎に電気信号に変換する光電変換素子である。
システムコントローラ308は、例えば、CPU(CENTRAL PROCESSING UNIT)、ROM(READ ONLY MEMORY)、RAM(RANDOM ACCESS MEMORY)などを有する。システムコントローラ308は、ROMに記録されたコンピュータプログラムを実行すること等により撮像装置100−Xを制御する。
画像処理回路304は、A/Dコンバータ303から入力したデジタル信号(画像信号)に対して各種の画像処理を行う。画像処理としては、例えば、例えば、ホワイトバランス調整、色補正、およびガンマ補正などが含まれる。画像処理回路304により画像処理された画像信号は記録媒体307に保存されたり、表示装置305により表示されたりする。また、画像処理回路304は、撮像部102から入力された撮像画像のうち、競技場210で競技中に撮像された画像から選手などの被写体を抽出する処理を実行する。
撮像光学系制御回路306は、システムコントローラ308からの制御信号に基づいて、撮像光学系301に含まれるレンズなどを駆動する。なお、図示した撮像装置100−Xの構成は例示であり、必ずしもすべての構成を有する必要はないし、他の構成を有していてもよい。例えば、表示装置305は撮像装置100−Xに必須の構成ではない。
図4は、本実施形態の撮像装置100−Xの機能的な構成の一例を示す図である。図5は、本実施形態の撮像装置100−Xの動作の一例を説明するフローチャートである。尚、図5のフローチャートは、例えば、撮像装置100−Xで撮像画像が得られる度に実行される。図5のフローチャートに示す処理は、システムコントローラ308が情報の演算や各ハードウェアを制御することで実現される。なお、図5のフローチャートの少なくとも一部のステップが専用のハードウェアにより実行されてもよい。専用のハードウェアは、例えば、ASICやFPGAである。
図4に示す通り、撮像装置100−Xは、レンズ部101、撮像部102、前景背景分離部103、状態情報保持部104、出力部105、制御部106、及び制御信号入力部107を有する。これらは、内部バス108によって相互に接続され、制御部106による制御の下、相互にデータを送受信することができる。なお、図4のレンズ部101は図3の撮像光学系301及び撮像光学系制御回路306に対応し、図4の撮像部102は図3の撮像素子302及びA/Dコンバータ303に対応する。また、図4の前景背景分離部103が実行すべき処理は図3の画像処理回路304により実行される。また、図4の状態情報保持部104、出力部105、制御部106、及び制御信号入力部107の機能は、図3のシステムコントローラ308により実現される。また、図5の処理は、図3のシステムコントローラ308が記録媒体307に記憶された各種プログラムを読み出して各部の制御を実行することにより実現される。以下、各部の構成の一例を詳細に説明する。
レンズ部101は、撮像部102の前段に設置されており、撮像対象からの入射光を撮像部102へ結像する。レンズ部101は、レンズのズームやフォーカスを調整することができる。撮像部102は、レンズ部101により結像された入射光の露出動作を行い電気信号に変換する。また、撮像部102は、変換後の信号に対して、センサの出力の欠損やレンズ光学特性のバラつきの補正などの信号処理を施す。また、撮像部102は、信号処理の結果に基づいて、RAW、JPEG(JOINT PHOTOGRAPHIC EXPERTS GROUP)、もしくはBMP(BITMAP IMAGE)などの画像フォーマットの撮像画像に変換する。撮像画像は、前景背景分離部103へ出力される。本実施形態では、以上のようにして撮像画像が取得される(S501)。
前景背景分離部103は、撮像部102から入力された撮像画像のうち、競技場210で競技中に撮像された画像から選手などの特定の被写体を抽出し、「前景画像データ」として後段の出力部105へ出力する(S502)。また、前景背景分離部103は、競技の開始前の競技場210の場面など、予め被写体が存在しない状態の競技場210の場面を撮像した画像を「背景画像データ」として、出力部105へ出力する(S502)。なお、前景背景分離部103が撮像画像から特定の被写体を除いた残りの画像を背景画像データとして出力部105へ出力するようにしてもよい。以下、前景背景分離していない撮像画像を、「前景画像データ」および「背景画像データ」と区別するために「前景背景分離前画像データ」と称する。
図6は、「前景背景分離前画像データ」、「前景画像データ」、および「背景画像データ」の一例を示すイメージ図である。図6(A)は、「前景背景分離前画像データ」の一例を示す図である。ここでは、前景背景分離前画像データは、競技場210であるサッカー場で、2人の選手611、612と、サッカーボール620と、サッカーゴール630とを含む撮像画像である。図6(B)は、「前景画像データ」の一例を示す図である。ここでは、2人の選手611、612と、サッカーボール620とが「前景画像データ」として抽出される場合を例に挙げて示す。これらは、それぞれ別の「前景画像データ」として扱われる。つまり図6(B)では、3つの前景画像データが生成される。尚、本実施形態では、「前景画像データ」を矩形データとして扱う(図6(B)の破線を参照)。図6(C)は、「背景画像データ」の一例を示す図である。サッカーゴール630など、競技中ほとんど時間変化のない被写体は「背景画像データ」として扱われる。
特定の被写体である前景の分離方法として、例えば、オブジェクト抽出を含む画像処理を用いた方法を用いることができる。オブジェクト抽出は、撮像画像と背景画像との差分を抽出することにより行われる。尚、前景は、競技する選手だけでなく、例えば、他の特定人物(例えば、控え選手、監督、審判の少なくとも何れか1人)であってもよい。また、前景は、ボールやゴールなど、画像パターンが予め定められている物体であってもよい。また、前景を検出するその他の方法として、例えば、動体が検出されるようにしてもよい。
状態情報保持部104は、撮像装置100―Xの状態情報を保持し、その状態が変化した時などに、その情報を出力部105へ出力する(S503)。状態情報には少なくとも以下のいずれかを含む。・撮像装置100−Xの通信接続状態(接続、非接続など)
・撮像装置100−Xの撮影状態(撮影中、準備中、電源OFF中、電源ON中など)
・撮像装置100−Xの動作状態(ズーム動作中、フォーカス動作中、アイリス設定中など)
・撮像装置100−Xの出力状態(「前景画像データ」や「背景画像データ」を画像生成装置200へ出力中など)
・撮像装置100−Xのエラー有無状態(正常、温度エラー、レンズエラーなど)
・撮像装置の構成状態(雲台有り、マイク有り、ズームレンズ有り、など)
・撮像装置の撮影パラメータ(絞り値(アイリス)、シャッタースピード、ホワイトバランス、露出値、ISO感度、ズーム、フォーカス、NDフィルタ、撮影モードなど)
また、状態情報は、撮像装置100−Xがデイジーチェーン上の何段目に接続されているかを示す情報、アドレス情報または属するネットワークのネットワーク識別子などのネットワーク構成を示す情報であってもよい。
出力部105は、前景背景分離部103から出力された「前景画像データ」や「背景画像データ」を、分配装置500を介して、画像生成装置200および情報表示装置400へ所定のフレームレートで出力する(S504)。また、出力部105は、状態情報保持部104から出力された状態情報を、他の撮像装置100−Xや分配装置500を介して、情報表示装置400へ出力する(S504)。尚、出力するタイミングは、各状態が変化した場合や撮像装置100−Xが起動した場合である。また、出力部105は、撮像装置100−Xが撮影を行うフレームレートに準じたタイミングでデータを出力してもよい。
制御部106は、制御信号入力部107や不図示のユーザI/F部からの制御情報に基づき、撮像装置100−Xの各部に制御指示を出す。例えば、制御部106は、ユーザI/F部または制御信号入力部107から、アイリスやISOなどの露出調整のための調整パラメータを受信すると、撮像部102に対して、当該露出制御を行う。
制御信号入力部107は、後述の情報表示装置400からの制御信号を入力し、制御部106へ出力する。情報表示装置400からの制御信号は、撮影パラメータを設定するための信号であり得る。例えば、撮影パラメータは、ズーム、フォーカス、アイリス、ISO、シャッタースピード、NDフィルタ切替などがある。
なお、図示した撮像装置100−Xの構成の一部を他の装置が有する構成としてもよい。例えば、前景背景分離部103は、撮像装置100−Xと異なる装置が有する構成としてもよい。また、出力部105は、他の装置が有し、他の装置が、撮像装置100−Xから取得したデータを出力する構成としてもよい。
次に、画像生成装置200、情報表示装置400及びユーザ端末300の構成の一例について説明する。図7は、画像生成装置200、情報表示装置400及びユーザ端末300のハードウェアの構成の一例を示す図である。装置7000(ユーザ端末300、画像生成装置200または情報表示装置400)は、コントローラユニット700、操作ユニット709、および表示装置710を含む。
コントローラユニット700は、CPU701を有する。CPU701は、ROM702に格納されているブートプログラムによりOS(OPERATING SYSTEM)を起動する。CPU701は、このOS上で、HDD(HARD DISK DRIVE)704に格納されているアプリケーションプログラムを実行する。CPU701は、アプリケーションプログラムの実行によって各種処理を実現する。CPU701の作業領域としてはRAM703が用いられる。HDD704は、アプリケーションプログラムなどを格納する。
CPU701は、システムバス708を介して、ROM702、RAM703、操作部I/F705、表示部I/F706、および通信I/F707と相互に接続される。操作部I/F705は、操作ユニット709とのインタフェースである。操作部I/F705は、操作ユニット709によってユーザにより入力された情報をCPU701に送出する。操作ユニット709は、例えば、マウスおよびキーボードなどを有する。表示部I/F706は、表示装置710に表示すべき画像データを表示装置710に対して出力する。表示装置710は、コンピュータディスプレイを有する。通信I/F707は、例えばイーサネット(登録商標)などの通信を行うためのインタフェースであり、伝送ケーブルに接続される。通信I/F707は、伝送ケーブルを介して、外部装置との間で情報の入出力を行う。なお、通信I/F707は、無線通信を行うための回路やアンテナであってもよい。また、装置7000は、ケーブルやネットワークを介して接続された外部の表示装置710に画像を表示させる表示制御を行うことも可能である。この場合、装置7000は、表示データを表示装置710に出力することで表示制御を実現する。なお、図7で示した構成のすべてが画像生成装置200または情報表示装置400において必須の構成とは限らない。例えば画像生成装置200において、表示装置710は必須の構成ではない。
図8は、本実施形態の画像生成装置200の機能的な構成の一例を示す図である。図9は、本実施形態の画像生成装置200の動作の一例を説明するフローチャートである。画像生成装置200は、図8に示す通り、画像入力部201、画像保存部202、仮想視点画像生成部203、出力部204、制御部205、およびユーザ入力部206を有する。これらは、内部バス207によって相互に接続され、制御部205による制御の下、相互にデータを送受信することができる。なお、図8の画像入力部201は図7の通信I/F707に対応し、図8のユーザ入力部206は図7の操作部I/F705に対応し、図8の出力部204は図7の表示部I/F706及び通信I/F707に対応する。また、図8の画像保存部202は図7のROM702、RAM703、HDD704に対応し、制御部205はCPU701に対応する。また、図9の処理は、図7のCPU701がROM702に記録された各種プログラムを読み出して各部の制御を実行することにより実現される。以下、各部の一例を詳細に説明する。なお、図9のフローチャートの少なくとも一部のステップが専用のハードウェアにより実行されてもよい。専用のハードウェアは、例えば、ASICやFPGAである。
画像入力部201は、撮像装置100−Xから出力された「前景画像データ」および「背景画像データ」を、分配装置500を介して、各々異なる所定のフレームレートで入力する(S901)。そして、画像入力部201は、入力した「前景画像データ」および「背景画像データ」を画像保存部202へ出力する。尚、撮像装置100−Xから出力された「前景画像データ」および「背景画像データ」を入力していない場合、S902を省略して後述のS903に進む。
画像保存部202は、データベースであり、画像入力部201から入力された「前景画像データ」および「背景画像データ」を保存する(S902)。また、画像保存部202は、後述の仮想視点画像生成部203から指定された「前景画像データ」および「背景画像データ」を仮想視点画像生成部203へ出力する。
仮想視点画像生成部203は、制御部205から仮想視点情報を入力したか否かを判定する(S903)。仮想視点情報の生成方法の一例については後述する。この判定の結果、制御部205から仮想視点情報を入力していない場合、S901に戻る。一方、制御部205から仮想視点情報を入力している場合、仮想視点画像生成部203は、仮想視点情報に対応する「前景画像データ」および「背景画像データ」を、画像保存部202から取得する(S904)。
そして、仮想視点画像生成部203は、画像保存部202から取得した「前景画像データ」および「背景画像データ」を画像処理により合成することで仮想視点画像を生成し、出力部105に出力する(S905)。
仮想視点画像を生成する方式として、例えば、モデルベースレンダリング(MODEL−BASED RENDERING:MBR)を用いる方式が挙げられる。MBRとは、被写体を複数の方向から撮像した複数の撮像画像に基づいて生成される三次元モデルを用いて仮想視点画像を生成する方式である。具体的にMBRは、視体積交差法、MULTI−VIEW−STEREO(MVS)などの三次元形状復元手法により得られた対象シーンの三次元形状(モデル)を利用し、仮想視点からのシーンの見えを画像として生成する技術である。尚、仮想視点画像の生成方法は、MBRを用いる方法に限定されず、例えば、イメージベースレンダリングなどMBR以外のレンダリング手法を用いてもよい。
出力部204は、仮想視点画像生成部203から入力した仮想視点画像をユーザ端末300へ伝送可能な伝送信号に変換して出力する(S906)。
ここで、前述したようにユーザ端末300は、ユーザ端末300に接続されたコントローラのユーザによる操作に基づいて、仮想視点の位置、視線の方向の変更、および視点の切り替えの指示を受け付ける。そして、ユーザ端末300は、その内容を示す伝送信号を画像生成装置200へ伝送する。ユーザ入力部206は、このようにしてユーザ端末300を通して入力された伝送信号を処理可能な仮想視点情報に変換する。そして、ユーザ入力部206は、その仮想視点情報を制御部205に出力する。
制御部205は、ユーザ入力部206からの仮想視点情報に基づき、画像生成装置200の各部に制御指示を出す。例えば、ユーザ入力部206から、仮想視点の情報を受信すると、仮想視点画像生成部203に制御情報として送信する。前述したように、仮想視点画像生成部203は、仮想視点情報を入力すると、仮想視点画像を生成して出力する。
なお、図示した画像生成装置200の構成の一部を他の装置が有する構成としてもよい。例えば、画像保存部202と仮想視点画像生成部203とを別々の装置として構成してもよい。
ユーザ端末300は、ユーザからの仮想視点の位置や方向を受け付け、画像生成装置200から受信したユーザから受け付けた仮想視点の位置や方向に応じた仮想視点画像をユーザ端末300に備えた表示画面に表示する。このようにすることで、ユーザは、自身の操作に基づく視点でコンテンツを視聴する。前述したように、ユーザ端末300は、例えば、PC(PERSONAL COMPUTER)やタブレットであり、コントローラは、例えば、マウス、キーボード、6軸コントローラ、タッチパネルである。ユーザは、これらを用いて仮想視点を操作し、ユーザ端末300に備えた表示画面に任意の視点からの仮想視点画像を表示させる。
次に、情報表示装置400の構成の一例について説明する。図10は、本実施形態の情報表示装置400の機能的な構成の一例を示す図である。図11は、本実施形態の情報表示装置400の動作の一例を説明するフローチャートである。情報表示装置400は、後述のデータ保持部401に保持されている情報と、状態取得部405が取得した情報から撮像装置100−Xや画像生成装置200の状態を示す表示を行う表示装置の一例である。情報表示装置400は、データ保持部401、データ読出部402、UI生成部403、表示部404、状態取得部405、制御部406、ユーザ入力部407、及び制御信号出力部408を有する。これらは、内部バス409によって相互に接続され、制御部406による制御の下、相互にデータを送受信することができる。なお、図10のデータ保持部401は図7のHDD704に対応し、図10のデータ読出部402、UI生成部403、及び制御部406は、図7のCPU701に対応する。また、図10の状態取得部405、及び制御信号出力部408は図7の通信I/F707に対応し、図10の表示部404は、表示部I/Fと表示装置710に対応する。また、図11や情報表示装置400が行う後述の処理は、図7のCPU701がROM702に記録された各種プログラムを読み出して各部の制御を実行することにより実現される。以下、各部の構成の一例を詳細に説明する。なお、図11や情報表示装置400が行う後述のフローチャートの少なくとも一部のステップが専用のハードウェアにより実行されてもよい。専用のハードウェアは、例えば、ASICやFPGAである。
データ保持部401は、UI生成部403がUIを表示するために必要なデータを保持する。当該データには少なくとも以下のいずれかを含む。
・競技場210のレイアウトデータ
・撮像装置100−Xの識別情報
・撮像装置100−Xが属する接続グループ情報
・撮像装置100−Xの接続先
・撮像装置100−Xの設置エリア
・撮像装置100−Xの設置座標情報
・撮像装置100−Xの撮影対象エリア
・撮像装置100−Xの撮影対象エリアの中心座標情報
・撮像装置100−Xの撮影対象エリアの有効エリア情報
・撮像装置100−Xの設置エリアの領域情報
図12にデータ保持部401が保持するデータ例を示す。図12に示すデータでは、例えば、「撮像装置100−1」が「L1」という通信接続グループに属し、「撮像装置100−2」と相互に接続され、「R1」というエリアの、座標(x1、y1)に設置されることを示している。なお、設置座標情報は、所定の位置(例えば、競技場210の中央)を原点とした場合のXY座標情報である。
また、データ保持部401が保持する他のデータ例を図13に示す。エリア中心座標(図12で示す撮影対象エリアの中心座標を示す情報)は、所定の位置(例えば、競技場210の中央)を原点とした場合のXY座標情報である。なお、共通の撮影対象エリアを撮影する撮像装置100−Xのグループは、その光軸をエリア中心座標が示す位置に向けるように設置されるものとする。即ち、同じ撮影対象エリアを撮影する撮像装置100−Xが撮影する画像の中心は、どの撮像装置100−Xにおいても、同じエリア中心座標が示す位置となる。また有効エリア情報とは、中心座標からの半径で示された領域である。なお、仮想視点画像は、共通の撮影対象エリアを撮影する撮像装置100−Xが撮影した画像を用いて生成される。
また、データ保持部401が保持する他のデータ例を図14に示す。頂点座標は少なくとも3つ以上の頂点の座標情報からなり、これらの座標情報で囲まれる領域が設置エリアの領域である。
データ保持部401は、これらの情報をユーザによる操作に応じた入力により取得してもよいし、撮像装置100−Xからの状態情報に基づいて取得してもよい。なお、データ保持部401は、情報表示装置400内にある必要はなく、外部の記録装置にあってもよい。また、撮像装置100−Xに関する情報を保持するデータ保持部401は、各々の撮像装置100−X内にあってもよい。
データ読出部402は、データ保持部401から各種データを読出し、UI生成部403へ出力する(S1101)。UI生成部403は、データ読出部402から出力されたデータと、状態取得部405から出力された状態情報を元に、システムや撮像装置100−Xの状態を示す情報であるUI画像を生成する(S1102)。状態情報、及びUI画像例については後述する。そしてUI生成部403は、生成したUI画像を表示イメージとして表示部404に出力する。
表示部404は、フレームバッファおよび表示パネルを有する。表示部404は、UI生成部403から出力された表示イメージをフレームバッファに格納する(上書きする)。そして、表示部404は、フレームバッファに格納した表示イメージを所定のリフレッシュレートで読み出して表示パネルにて表示する(S1103)。表示パネルとは、例えば、液晶パネルや有機ELパネルである。
状態取得部405は、各撮像装置100―Xの状態情報や画像生成装置200の状態情報を取得し、UI生成部403へ出力する。UI生成部403は、前記状態情報が変化している場合は、生成したUI画像を更新する(S1104、S1105)。
制御部406は、ユーザ入力部407からの操作情報に基づき、情報表示装置400の各部に制御指示を出す。例えば、制御部406は、ユーザ入力部407から表示イメージ種別の切替指示を示す操作情報を受信すると、その操作情報を該当する表示イメージ種別に変換し、UI生成部403に送信する。表示イメージの具体的な内容の一例については後述する。
ユーザ入力部407は、不図示のコントローラから入力された操作情報を受け付け、制御部406に出力する。コントローラは、例えば、キーボード、マウス、およびタッチパネルの少なくとも何れか1つである。制御信号出力部408は、制御部406からの制御信号を外部に出力する。出力先は例えば撮像装置100−Xである。制御信号は、例えば、撮像装置100−Xのズーム、フォーカス、アイリス、ISO、シャッタースピード、NDフィルタ切替などの撮影パラメータを設定するための信号である。
(競技場レイアウト表示の説明)
図15は、本実施形態の情報表示装置400により表示される表示イメージの一例を示す図である。図15では、競技場210を示す情報(1201)上に、以下の情報を表示する。
・撮像装置100−Xを設置する設置エリア(例えば、1202が示すエリア)
・撮像装置100−Xとその設置位置(例えば、1203が示す円形部)
・撮像装置100−X間の接続関係及び接続状態(例えば、1204が示す線)
・撮影対象エリア(例えば、1205が示す破線の円形エリア)
・撮影対象エリアの中心点(例えば、1206が示す六角形)
・撮像装置100−Xの撮影対象とするエリア(例えば、1207が示す点線)
また、図15において、情報表示装置400は、画像生成装置200や情報表示装置400と撮像装置100−Xとの接続状態を表示する。なお、図15において、情報表示装置400は、画像生成装置200などはスタジアム外の放送中継車内等に設置される場合があるため、図15ではこれらを中継車と記載している。
このように図15のような表示を行うため、情報表示装置400は、複数の撮像装置を有する撮像システムに関する情報を一見してユーザに把握させることができる。また、情報表示装置400は、どの撮像装置がどこに配置され、どのように接続されているかを表示させることができる。また、例えば、情報表示装置400は、通信エラーが生じた接続経路の線1204を非表示とする。また、例えば、情報表示装置400は、撮影可能な状態である撮像装置100−Xを示す円形部1203と、故障や調整中であり撮影可能な状態でない撮像装置100−Xを示す円形部1203とを識別可能するための表示をさらに行う。また、情報表示装置400は、撮影可能な状態でない撮像装置100−Xを示す円形部1203を非表示としてもよい。このようにすることで、ユーザに、故障が生じた撮像装置を容易に特定させ、どこに配置されているかを容易に把握させることができる。また、情報表示装置400は、複数の撮像装置のそれぞれの撮影対象エリアを示す情報を表示するので、撮像装置に故障が生じた場合に、不具合が生じる仮想視点の位置をユーザに把握させることができる。また、情報表示装置400は、複数の撮像装置のそれぞれの撮影対象エリアを示す情報を表示するので、撮像システムが仮想視点画像を生成するために十分な撮像画像を撮影できる設置となっているか否かをユーザに把握させることができる。
なお、情報表示装置400は、図15において例示したすべての情報を表示する必要はなく、これらのうち一部のみを表示するようにしてもよい。即ち、情報処理装置400は、撮像装置100−Xの設定場所に関する情報、撮像装置100−Xの通信接続に関する情報、撮像装置100−Xの撮影対象エリアに関する情報などの複数種類の情報のうち少なくとも何れか一つを表示する構成としてもよい。例えば、情報処理装置400は、撮像装置100−Xの設定場所に関する情報を表示することで、撮像システム100の複数の撮像装置それぞれがどのエリアにどのように配置されているかをユーザに容易に把握させることが可能になる。また、情報表示装置400は、撮像装置の通信接続に関する情報を表示することでネットワーク構成をユーザは容易に把握させることができる。また、撮像装置100−Xの通信接続に関する情報の表示により、ネットワーク障害が生じた場合には、ユーザは影響が生じる撮像装置100−Xを容易に識別でき、修理などの対応を即座に行うことが可能となる。また、情報表示装置400は、撮像装置100−Xの撮影対象エリアに関する情報を表示することで、撮像システム100の複数の撮像装置それぞれが注視する撮影領域を容易にユーザに把握させることが可能となる。また、撮像装置100−Xの撮影対象エリアに関する情報を表示することで、ユーザは、仮想視点画像を生成するうえで必要な様々な角度からの多視点撮影が十分に行われているか否かを容易に把握することが可能となる。図16は、情報表示装置400のUI生成部403が、図15の表示イメージを生成するための処理フローである。また図17〜図22は、フロー内の各処理によって描画される具体的な表示イメージである。なお、処理順序はこれに限定されない。また、図16の処理及び後述する各表示処理は、図7のCPU701がROM702に記録された各種プログラムを読み出して各部の制御を実行することにより実現される。以下、各部の構成の一例を詳細に説明する。なお、図16や各表示処理のフローチャートの少なくとも一部のステップが専用のハードウェアにより実行されてもよい。専用のハードウェアは、例えば、ASICやFPGAである。
UI生成部403は、データ読出部402から出力された競技場210のレイアウトデータを描画する(S1401、図17)。その後、UI生成部403は、競技場210の中で撮像装置100−Xを設置するエリアを描画する(S1402、図18)。ここでは設置エリアは4つある(R1、R2、R3、及びR4)。これらのエリアは図14に示した座標情報を元にしている。その後、UI生成部403は、撮像装置100−Xをそれぞれが属する設置エリア内に配置する(S1403、図19)。これらは図12に示した設置エリアや設置座標情報を元にしている。その後、UI生成部403は、各撮像装置100−X間の接続関係を描画する(S1404、図20)。ここでは2つの接続グループがある(L1、L2)。これらは図12に示した接続グループ情報及び接続先の情報を元にしている。なお、UI生成部403は、撮像システム100から取得した状態情報に基づいて、撮像システム100のネットワーク接続を示す表示イメージを動的に作成してもよい。また、UI生成部403は、生成した撮像システム100のネットワーク接続が、事前に記憶していた正しいネットワーク構成と異なる場合、エラーを表示してもよい。その後、UI生成部403は、各撮像装置100−Xが撮影対象とするエリアを描画する(S1405、図21)。ここでは二つの撮影対象エリアがある。これらはそれぞれ撮影エリアの中心点(1206)と、撮影エリアの有効エリア(1205)から成る。有効エリアは仮想視点映像を生成するために適した領域を示す。これらは図13に示した情報を元にしている。なお、後述するように、図17〜図22で示す画像は、それぞれ別レイヤーの画像として描画される。その後、UI生成部403は、各撮像装置100−Xと撮影対象エリアを関連付ける情報としてこれらを結線する(S1406、図22)。同一エリアに撮像装置100−Xが多数あると、図23(A)に示すように、撮像装置100−X(1203−2)と撮影対象エリアを結線したもの(1207―2)が別の撮像装置100−X(1203−1)と交差することがある。UI生成部403は、このような交差の有無を確認(S1407)し、交差が発生する場合は、交差した撮像装置100−Xの描画位置を同一エリア内で交差しない位置へ再配置する(1408)。即ち、情報表示装置400は、撮像装置100−Xを示す情報と、撮影対象エリアの中心点とを結ぶ線がいずれも重ならないように表示制御を行う。このようにすることで、各撮像装置100−Xの撮影対象エリアをユーザが容易に知ることができるようになる。ただし、撮像装置100−Xの位置を移動させなくても良い。
(レイヤー表示とユーザ操作による表示切替)
なお、UI生成部403は、図16の処理フローによって表示イメージを描画する際、図12〜図14の情報を元に、レイヤーを分けて描画する。ここでレイヤーとは、UI生成部403が内包するフレームバッファと同サイズの複数の記録領域であり、具体的には、図7のRAM703の一部に該当する。UI生成部403は複数の描画レイヤーを重ねあわせることで、図15の表示イメージを生成する。
個々の描画レイヤーは、具体的には以下が描画される
・競技場210(S1401、図17に図示)
・各エリア(S1402、図18に図示)
・撮像装置100−X(S1403、図19に図示)
・各接続グループ(S1404、図20に図示)
・各撮影対象エリア(S1405、図21に図示)
・撮像装置100−Xと撮影対象エリアの結線(S1406、図22に図示)
上述のとおり、本実施形態の撮像装置の設置エリアはR1、R2、R3及びR4の4つのである。そのため、S1402では、4つのレイヤーが使用される。同じく接続グループはL1、L2の2つである。そのため、S1403では2つのレイヤーが使用される。図24は、UI生成部403のレイヤー描画処理イメージ例である。最下層に図17の1201に該当する競技場210が描画され、その上部のレイヤーに各エリアのレイヤーが重ねあわされる。そして、最上部に各撮像装置100−Xと撮像最少エリアの結線を描画したレイヤーが重ねあわされる。なお、各レイヤーの重ね合わせの順序は適宜組み替えてもよい。また、必ずしも複数のレイヤーを重ね合わせなければならないわけではない。例えば、図17の画像に、図18〜22で示した内容を追記することで、図15に示すような表示イメージが生成されるようにしても良い。しかしながら、複数のレイヤーごとに描画処理を行うことによって、表示イメージの切替えが容易になるというメリットがある。係る点について、以下で詳述する。
図25は、ユーザ入力部407を介して入力された操作情報に基づいて、図15で描画した表示イメージの表示を切り替える処理フローである。ユーザ入力部407は、キーボードなどのコントローラから操作情報を入力すると、その情報を制御部406へ出力する(S2501)。操作情報を受信した制御部406は、その操作情報を元に表示もしくは非表示にすべき表示内容を特定し、その内容を表示切替指示として、UI生成部403へ出力する。(S2502)。制御部406は、操作情報毎に、表示もしくは非表示にすべき内容を予め有している。
例えば、キーボードで「A」というキーが押された場合は、L1の接続グループに属するカメラを表示する、などの内容を有している。UI生成部403は、表示切替指示を受けると、該当する描画レイヤーを追加、もしくは削除したのち、残った描画レイヤーを重畳後、表示部404へ出力する(S2503)。
図26は、図25の処理結果により生成されるUI画像の一例である。これは接続グループL1に属する撮像装置100−Xのみ表示するための表示切替を行った結果である。また、例えば、情報表示装置400は、図25の処理により、エリアR1に設置された撮像装置100−Xのみの情報を表示することができる。また、情報表示装置400は、図25の処理により、任意の撮像装置100−Xのみの情報を表示することができる。また、情報表示装置400は、図25の処理により、共通の撮影対象エリアが設定されている撮像装置100−Xのみの情報を表示することができる。
なお、表示させるレイヤーをユーザにより選択させる例を示したがこれに限らず、情報表示装置400が表示させるレイヤー自動で選択してもよい。例えば、情報表示装置400は、システムの少なくとも一つの装置が仮想視点画像に不具合が生じ得る状態であることを示す情報を受信した場合、警告をポップアップ表示してもよい。また、この場合、情報表示装置400は、警告をポップアップ表示するとともに、仮想視点画像に不具合が生じ得る状態となった装置の状態を表示するのに適したレイヤーを自動で選択して表示させるようにしてもよい。このようにすることで、ユーザは、仮想視点画像の品質の低下などの不具合が発生し得ることを把握でき、その対策を行うことができる。
このように、情報表示装置400は、各レイヤーを適宜組み合わせたり、削除したりして撮像システムの状態の表示を行う。したがって、情報表示装置400は、撮像システムが多くの撮像装置を有している場合であっても、所望の撮像装置群の状態のみを表示することができ、視認性を向上させることができる。また、UI生成部403は、上述したレイヤー毎の描画に加えて、各レイヤーの背景色を変更することもできる。例えば、情報表示装置400が照度の低い中継車に配置される場合、背景色を黒ベースにして視認性を高めることができる。また、情報表示装置400が照度の高い野外に配置される場合は、白ベースの背景にして視認性を確保できる。なお、表示させるレイヤーを選択する例を示したが、表示させるレイヤーの選択を行わず、図15に表示する情報のすべてまたは一部のみを固定的に表示するようにしてもよい。
(撮像装置100−Xの状態表示の説明)
図27は、図15に示した表示イメージ上の撮像装置100−Xの状態を示した例である。情報表示装置400の状態取得部405は、撮像装置100−Xの状態情報保持部104から撮像装置100−Xの状態情報を取得すると、UI生成部403に出力する。UI生成部403は、その状態情報を元に図15の表示イメージ上の撮像装置100−Xの表示を更新する。図27は、具体的にはある接続グループ(1204)上にある撮像装置100−Xの一部を表示した例である。例えば、撮像装置100−Xの状態の表示には以下のものがある。
・撮像装置100−Xが情報表示装置400や他の撮像装置100−Xと接続して通信可能な状態(図27(A)の2401)
・撮像装置100−Xが情報表示装置400や他の撮像装置100−Xと接続しておらず通信不可な状態(図27(A)の2402)
また、情報表示装置400は図27(A)に加えて、撮像装置100−X自体の状態も表示する。
・撮像装置100−Xがエラー状態(図27(B)の2403)
・撮像装置100−Xがワーニング状態(図27(B)の2404)
・撮像装置100−Xがバイパスされている状態(図27(B)の2405)
ここでエラー状態とは、撮像装置100−X内の温度や光学レンズに異常が発生している状態を示す。エラー状態は、撮像装置100−Xが撮像を行えないまたは撮像に不具合が生じ得る状態であってもよい。ワーニング状態とは、エラー状態になりそうな状態であり、動作上問題ないが、所定の温度上昇や、外部の不図示の同期装置との所定以上の同期ずれなどが生じている状態を示す。また、バイパス状態とは、その撮像装置100−Xが使用されておらず接続状態のみ維持されている状態を示す。また、バイパス状態は、撮像装置100−Xが撮影や画像処理を実行できず、データの伝送のみを行っている状態であってもよい。
また、情報表示装置400は図27(A)(B)に加えて、撮像装置100−Xの構成状態も表示する。
・撮像装置100−Xにズームレンズが付随(図27(C)の2406)
・撮像装置100−Xに集音マイクが付随(図27(C)の2407)
・撮像装置100−Xに雲台が付随(図27(C)の2408)
また、情報表示装置400は図27(A)(B)(C)に加えて、撮像装置100−Xの出力状態も表示する。
・撮像装置100−Xが撮像した「前景画像データ」や「背景画像データ」を、分配装置500を介して、画像生成装置200および情報表示装置400へ所定のフレームレートで出力中(図27(D)の2409)
また、情報表示装置400は、撮像装置100−Xの出力するデータの出力先や出力のフレームレートが複数ある場合は、これらを示す情報を表示してもよい。また、情報表示装置400は、撮像装置100−Xが出力する画質の関する情報(データサイズ、画像サイズ及びファイル形式など)の情報を表示してもよい。
また、情報表示装置400は図27(A)、(B)、(C)及び(D)に加えて、撮像装置100−Xの機械的な状態も表示する。
・撮像装置100−Xのズームレンズ動作中(図27(E)の2410)
このほか、雲台動作やオートフォーカス動作などもこれに含まれる。
撮像装置100−Xの状態の表示例を示したが、表示する内容はこれに限定されない。例えば、各撮像装置100−Xと同期装置との同期状態を表示してもよい。またこうした状態情報に加え、各撮像装置に設定した内容や、その作業完了状態なども表示してもよい。
なお、撮像装置100−Xの状態を、図27の2401〜2410に図示するアイコンで示す例を説明したが、メッセージで撮像装置100−Xの状態を表示してもよい。また、撮像装置100−Xの状態を示す情報のうち表示項目を選択可能であってもよい。また、撮像装置100−Xの状態の表示可否も選択可能であってもよい。また、情報表示装置400は、ユーザによる指示操作のためのカーソルの位置に対応する撮像装置100−Xの状態を示す情報を表示するようにしてもよい。また、情報表示装置400は、ユーザによるタッチパネルに対する指示操作に対応する撮像装置100−Xの状態を示す情報を表示するようにしてもよい。また、情報表示装置400は、撮像装置100−Xの状態を示す情報として撮像装置100−Xに設定されている撮影パラメータを表示してもよい。また、情報表示装置400は、撮像装置100−Xの状態が、例えば、エラー状態、ワーニング状態、通信不可な状態またはデータの出力ができない状態など、仮想視点画像の生成に不具合が生じ得る状態の場合に、警告を別途表示してもよい。また、情報表示装置400は、撮像装置100−Xの状態が仮想視点画像の生成に不具合が生じ得る状態の場合に、画像、色またはメッセージにより警告を表示してもよい。また、情報表示装置400は、撮像装置100−Xに限らず、システムの状態が仮想視点画像の生成に不具合が生じ得る状態の場合に、「システムの状態が、仮想視点画像に不具合が生じる恐れがあります。至急、修理や設定の確認を行ってください。」などのようにメッセージで警告表示を行うと共に不具合を解消することを促すための表示を行ってもよい。
本実施形態によれば、図27に示す撮像装置100−Xの状態を示す情報の表示を行うため、情報表示装置400は、複数の撮像装置を有する撮像システムに関する情報をユーザに把握させることができる。また、情報表示装置400は、どの撮像装置がどのような状態であるかをユーザに容易に把握させることができる。また、例えば、情報表示装置400は、撮影にエラーが生じた撮像装置100−Xを識別可能に表示するため、ユーザは、エラーが生じた撮像装置100−Xを把握させることができる。
(グループ概要リスト表示の説明)
図28は、図15に示した表示イメージ上の撮像装置100−Xの状態をリストして示した別のー例である。図28は、具体的にはある撮影対象エリア(1205及び1206)を撮影対象としている(結線を結んでいる)一つ以上の撮像装置100−X群の状態の概要をリスト表示した例である。以下、この群を撮影対象エリアグループと呼ぶ。また、図28に示すリスト表示をグループ状態概要リスト表示と呼ぶ。
例えば、撮影対象エリアグループのグループ概要リスト表示内容に以下のものがある。・撮影対象エリアグループの撮像装置間の接続状態(接続、非接続)
・撮影対象エリアグループの各撮像装置のエラー状態(エラー有り、無し)
・撮影対象エリアグループの各撮像装置のワーニング状態(ワーニング有り、無し)
・撮影対象エリアグループの各撮像装置のバイパス状態(バイパス有り、無し)
・撮影対象エリアグループの各撮像装置の構成状態(雲台有り/無し、マイク有/無しなど)
・撮影対象エリアグループの各撮像装置の出力状態(出力中、出力なし)
・撮影対象エリアグループの各撮像装置の機械的な動作状態(動作中、非動作)
これらは、図27で示した例と同様の内容である。図28に示すリスト表示では、それ以外にも以下の状態も表示する。
・撮影対象エリアグループの各撮像装置のISO値
・撮影対象エリアグループの各撮像装置のアイリス値
・撮影対象エリアグループの各撮像装置のシャッタースピード値
・撮影対象エリアグループの各撮像装置のND(NEUTRAL DENSITY)フィルタ値
図29は、情報表示装置400の状態取得部405及びUI生成部403による図28に示すグループ状態概要リストの表示処理のフローチャートである。このフローチャートは、ユーザによる所定の操作を受け付けたことにより開始される。状態取得部405は、全ての撮像装置100−Xの状態情報保持部104から撮像装置100−Xの状態情報を取得し、その結果をUI生成部403に出力する(S2901、S2902)。UI生成部403は、リスト表示する撮影対象エリアグループに属する撮像装置100−Xを特定し(S2903)、その状態情報を比較する(S2904)。ここで全ての撮像装置100−Xの状態情報が同一の場合は、その状態情報を表示する(S2905)。一つ以上の撮像装置100−Xの状態情報が異なる場合は、警告表示を行う(S2906)。ここで警告表示とは、図28を例にすると、撮影対象エリアグループV2のエラー状態や、撮影対象エリアグループV1のアイリス値である。これらは、一つ以上の撮像装置100−Xにエラーが発生している、もしくはアイリス値が他の撮像装置100−Xと異なっていることを示している。なお、図28では警告表示をアスタリスクで行う例を示したが、他の情報により警告表示を行ってもよい。例えば、警告表示を「撮影対象エリアグループの各撮像装置の露光条件が一致していないため、仮想視点画像に不具合が生じる恐れがあります。」などのようにメッセージで警告表示を行ってもよい。また、色や警告を意味する画像を表示することで警告表示を行ってもよい。
このように本実施形態によれば、撮影対象エリアグループの撮影対象グループ状態概要リストを行う。したがって、仮想視点画像の生成に用いられ複数の画像を撮影する撮像装置によって露光条件が異なり仮想視点画像に違和感が生じる可能性を容易にユーザに認識させ、その対策を取らせることが可能になる。
(グループ詳細リスト表示の説明)
図30は、図28に示した撮影対象エリアグループV2に属する撮像装置100−X毎の状態をリスト表示した例である(このリスト表示をグループ状態詳細リスト表示と呼ぶ)。これはグループ状態概要リスト表示と異なり、そのグループに属する撮像装置100−X毎の状態がわかる。そのため、グループ状態概要リスト表示で警告表示を見つけた場合、グループ状態詳細リスト表示へ表示切替することで、具体的な警告箇所を特定できる。図30によると、撮像装置100−2が温度エラーを起こしているため、図28にて警告表示が出ていたことがわかる。なお、情報表示装置400は、図30おいて説明したすべての情報を表示する必要はなく、これらのうち一部を表示してもよい。
図31は、UI生成部403によるグループ状態概要リスト表示とグループ状態詳細リスト表示の切り替え動作である。UI生成部403は、ユーザ入力部407を介して入力された操作情報(表示切替操作)に基づいて、グループ状態概要リスト表示とグループ状態詳細リスト表示との間で表示の切り替えを行う。例えば、情報表示装置400は、撮影対象グループ状態概要リストを表示している際に、ユーザから撮影対象エリアグループの識別情報である「V2」に対応する位置に対するタップや指示操作を受け付けた場合、グループ状態詳細リスト表示に切りかえる。また、情報表示装置400は、グループ状態詳細リストを表示している際に、不図示の「戻る」のメッセージアイコンに対応する位置に対するタップや指示操作を受け付けた場合、撮影対象グループ状態概要リストの表示に切り替える。
以上に説明したように、撮像装置100−Xの状態を、撮影対象エリアグループのリスト表示として示す例を説明した。なお、表示する内容はこれに限定されない。各撮像装置100−Xと同期装置との同期状態を表示してもよい。またこうした状態情報に加え、各撮像装置に設定した内容や、その作業完了状態なども表示してもよい。また、グループは撮影対象エリアグループに限定されない。接続グループ毎にリスト表示してもよいし、設置エリアを一つのグループとしてリスト表示してもよい。
(操作UIの説明)
図32及び図33は、本実施形態の情報表示装置400により表示される撮像装置100−Xを操作する操作UIの一例を示す図である。図32には、情報表示装置400が表示する、個別の撮像装置100−Xを操作するための指示を受け付けるためのUIを示す。情報表示装置400は、ユーザによる操作に応じて、撮像装置100−Xの撮影パラメータの設定や撮像装置100−Xを操作するための情報を撮像装置100−Xに送信する。操作UIでは、少なくとも撮像装置100−Xのズーム、フォーカス、露出条件を決めるISO、アイリス、シャッタースピード、及びNDフィルタの設定が可能である。また、撮像装置100−Xが雲台を有する場合、PAN(パン)やTILT(チルト)の設定もできる。
図33は、撮影対象エリアグループに属する撮像装置100−Xを一括で操作する操作イメージである。操作イメージ上では、少なくとも露出条件を決めるISO、アイリス、シャッタースピード、及びNDフィルタの設定が可能である。このように、撮影対象エリアグループに属する複数の撮像装置の設定や操作を情報表示装置400がユーザから受け付け、これらを撮像装置に反映することができる。
図39は、情報表示装置400が操作UIを表示し、ユーザから受け付けた設定を撮像装置100−Xに反映させるための処理を示すフローチャートである。情報表示装置400は、操作UIによる操作対象となる撮像装置100−Xを特定するためのユーザ操作を受け付けたか否かを判定する(S4001)。
S4001の判定は、例えば、図15のように撮像装置100−Xを示す情報を表示するための描画レイヤーを表示している状態で円形部1203に対して操作UIの表示のための操作が行われたか否かを判定する。この場合、操作が行われた円形部1203に対応する撮像装置100−Xを操作UIの表示対象と特定する。また、図15のように撮影対象エリアを表示するための描画レイヤーを表示している状態で撮影対象エリア1205または1206に対して操作UIの表示のための操作が行われたか否かを判定する。この場合、操作が行われた撮影対象エリアに対応する撮影対象エリアグループに属する撮像装置100−Xを操作UIの表示対象と特定する。
また、図15のように接続グループを表示するための描画レイヤーを表示している状態で接続グループを示す線1204に対して操作UIの表示のための操作が行われたか否かを判定する。この場合、操作が行われた接続グループに対応する接続グループに属する撮像装置100−Xを操作UIの表示対象と特定する。
また、図28のようにグループ状態概要リスト表示を表示している状態で、撮影対象エリアグループV1またはV2に対して操作UIの表示のための操作が行われたか否かを判定する。この場合、操作が行われた撮影対象グループに対応する撮影対象グループに属する撮像装置100−Xを操作UIの表示対象と特定する。
また、図30のようにグループ状態詳細リスト表示を表示している状態で、撮像装置100−1〜nのうちの何れかに対して操作UIの表示のための操作が行われたか否かを判定する。この場合、操作が行われた撮像装置100−Xを操作UIの表示対象と特定する。
操作UIによる操作対象となる撮像装置100−Xを特定するための操作を受け付けた場合、情報表示装置400は、図32または図33に示す操作UIを表示する(S4002)。情報表示装置400は、操作UIにより撮像装置の設定または操作するためのユーザ操作を受け付けたか否かを判定する(S4003)。操作UIにより撮像装置の設定または操作するためのユーザ操作を受け付けた場合、情報表示装置400は、撮像装置に設定または操作を反映させるための指示を送信する(S4004)。情報表示装置400は、S4004において指示を送信した場合、送信先の撮像装置100−Xから受信した、指示を反映したか否かを示す情報に基づいて、指示を撮像装置100−Xが反映したか否かを判定する(S4005)。情報表示装置400は、S4005において指示を撮像装置100−Xが反映したと判定した場合、撮像装置100−Xが反映したこと及び反映した撮像装置100−Xの設定または操作の情報を更新し、表示する(S4006)。一方、情報表示装置400は、S4005において指示を撮像装置100−Xが反映していないと判定した場合、エラーを表示する(S4007)。
以上のように本実施形態では、情報表示装置400は、複数の撮像装置100−Xと、接続関係、設置エリア、及び撮影対象エリアを、競技場210の地図上で紐づけて表示する。また、各々の撮像装置100−Xの状態も合わせて表示する。従って、撮像装置100−Xの数が増加しても、それらの接続状態、設置状態、撮影の影響範囲などのシステム状態を一目でユーザが把握することができる。
また、本実施形態では、接続グループだけの表示、撮影対象エリアグループだけの表示など、表示したい情報を適宜加えたり、削除したりすることができる。そのため撮像装置100−Xの数や接続グループの数などが増加しても、特定のグループだけに着目して表示することができる。
また、本実施形態では、接続グループ単位や撮影対象エリアグループ単位としての状態を確認することができる。仮想視点映像を生成する場合、撮影対象エリアグループに属する撮像装置100−Xに不具合が生じると、その生成に大きな影響を受ける。本実施形態では、そうした仮想視点映像の生成への影響度を把握できる。
また、本実施形態では、接続グループ単位や撮影対象エリアグループ単位で撮像装置100−XのISOやアイリスなどの撮影パラメータの制御を行うことができる。撮影中、外光状況が変化すると、同一の撮影対象エリアを撮影している撮影対象エリアグループ毎に、同一の露出条件に変更することが多い。このような場合に、撮影対象エリアグループ単位で一括制御できるため、短時間に撮像装置100−Xを仮想視点画像の生成に適した設定に変更することが可能となる。
(変形例)
次に、上述した実施形態の変形例を説明する。変形例では、撮像装置100−Xの撮影画像をUIに重畳表示する。これにより撮像装置100−Xの状態をより的確に把握させることができる。
図34は、変形例の情報表示装置400の機能的な構成の一例を示す図である。変形例の情報表示装置400は、データ保持部601、データ読出部602、UI生成部603、表示部604、状態取得部605、制御部606、ユーザ入力部607、制御信号出力部608、及び画像取得部610を有する。これらは、内部バス609によって相互に接続され、制御部606による制御の下、相互にデータを送受信することができる。なお、図34に示す機能構成は、図10に示す機能構成と、画像取得部610以外の部分は、同様の機能のため、説明は省略する。画像取得部610は、各撮像装置100−Xから出力された撮影画像を取得し、UI生成部603へ出力する。
図35は、情報表示装置400の画像表示処理の一例を説明するフローチャートである。ここでは、情報表示装置400が、図15で示す情報を表示していることを前提に説明する。情報表示装置400は、撮像装置100−Xを選択するための操作情報を取得する。情報表示装置400は、ユーザ(監視担当者)が表示されているUI上の撮像装置100−X(1203)、接続グループ(1204)、撮影対象エリア(1205、1206)、もしくは設置エリア(1202)の選択操作を受け付ける。ユーザ(監視担当者)がキーボードやマウスなどのコントローラを用いて撮像装置100−Xを選択すると、ユーザ入力部607は、その操作情報を制御部606へ出力する(S3501)。制御部606は、その操作情報と表示イメージから選択された撮像装置100−X、もしくはグループ、もしくはエリアを特定する(S3502)。その後、制御部606は特定した撮像装置100−X、もしくはグループやエリアに含まれる撮像装置100−Xの画像を、画像取得部610を介して取得し、UI生成部603へ出力する(S3503)。UI生成部603は、入力された撮像装置100−Xの画像を、表示イメージ上に重畳して表示する(S3504)。画像が動画の場合、S3503とS3504を繰り返す(S3505)。
図36〜図38は、情報表示装置400により表示される撮像画像を重畳表示する操作UIの一例を示す図である。図36は、ユーザ(監視担当者)が表示イメージ上の個々の撮像装置100−Xを選択した場合の例である。選択された撮像装置100−Xの画像が表示される。図37は、表示イメージ上の撮影対象エリアの中心点を選択した場合の例である。選択された撮影対象エリアに属するすべての撮像装置100−Xの画像の一覧が表示される。図38は、表示イメージ上の接続グループを選択した場合の例である。選択された接続グループに属するすべての撮像装置100−Xの画像の一覧が表示される。
続いて図36〜図38に示した情報表示装置400により表示される撮像画像上に、撮像装置100−Xの姿勢確認用のガイド表示、露出確認用のガイド表示及びフォーカス確認用のガイド表示を更に重畳表示する例を説明する。図40は、撮像装置100−Xの姿勢を確認するためのガイド表示であるセンターマーカーを撮影画像上に表示した例である。図40に示す撮像装置100−Xの姿勢確認用のガイド表示をユーザが確認することにより、撮像装置100−Xが正しく設置されているか否かを確認することができる。
図41は、撮像装置100−Xの露出状態を確認するためのガイド表示である露出ガイドバー4101を撮影画像上に表示した例である。図41に示す露出ガイドバー4101は、撮像装置100−Xに設定されている露出量が、撮像装置100−Xの露出計により測定された適正露出に対して多いか少ないかを示すガイド表示である。露出ガイドバー4101は、一例としてスライドバーである。露出ガイドバー4101において、ゼロの目盛が適正露出を示しており、スライダーが+方向に位置すると露出オーバー、−方向に位置すると露出アンダーであることを示す。また、情報表示装置400は、露出ガイドバー4101のスライダーの位置を変更する操作をユーザから受け付けると、撮像装置100−Xに操作に応じた露出補正を指示するための情報を送信する構成としてもよい。図41に示す撮像装置100−Xの露出確認用のガイド表示を撮影画像とともにユーザが確認することにより、撮像装置100−Xの露出量が正しく設定されているか否かを確認することができる。
図42は、撮像装置100−Xのフォーカス状態を確認するためのフォーカス状態表4201を撮影画像に表示した例である。図42に示すフォーカス状態表4201は、撮像装置100−Xの合焦位置とその調整を行うためのガイド表示である。図42に示すフォーカス状態表4201において、横軸は、フォーカスレンズ位置情報を示す。なお、フォーカスレンズが移動することで、撮像装置100−Xの合掌位置が変化する。図42に示すフォーカス状態表4201において、縦軸はフォーカスレンズの位置に対する撮影画像の周波数情報である。合掌が適切な位置で行われているほど、撮影画像の周波数は高くなる。ここでは、撮影画像の周波数が最も高くなるレンズ位置を「ピーク値」と記載している。また、現状のレンズ位置を「現在値」と記載している。「ピーク値」と「現在値」がかい離していると撮影画像がぼけている可能性が高くなる。また、情報表示装置400は、フォーカス状態表4201へのユーザから現在値を変更する操作を受け付けると、撮像装置100−Xに操作に応じたフォーカスレンズの位置変更を指示するための情報を送信する構成としてもよい。図42に示す撮像装置100−Xのフォーカス状態表のガイド表示を撮影画像とともにユーザが確認することにより、撮像装置100−Xの合焦位置が正しく設定されているか否かを確認することができる。
図43は、図37もしくは図38に示した撮像装置100−Xの画像の一覧に、図40に示すセンターマーカーと図41に示す露出ガイドバーを重畳したUIの一例である。なお、情報表示装置400は、いずれかの露出ガイドバーが操作された場合、対応する撮像装置100−Xに露出補正の指示を送信してもよい。このように、撮影画像とともに撮像装置100−Xの状態を示す情報を一覧表示することで、複数の撮像装置の姿勢や露出を一度により詳細にユーザは確認することができる。なお、図43において、図42に示すフォーカス状態表を更に重畳してもよい。なお、上述のガイド表示の形態は、一例に過ぎず、文字または数値など他の形態によりガイド表示を行ってもよい。以上のように変形例では、選択された撮像装置100−X、もしくは撮影対象エリア、接続グループに属するすべての撮像装置100−Xの画像が表示される。従って、エリアやグループで紐づいた撮像画像100−Xの実際の撮影画像の確認もできることから、よりシステムの状態が正確に把握させることができる。
他の変形例を、図44を用いて説明する。図44は、情報表示装置400により表示される表示イメージの一例を示す図である。図15において説明した表示イメージとの差異を詳細に説明する。図44において、44001〜4404は、撮像装置100−Xにズームレンズが付随していることを示す。また、図44では、ズームレンズが付随しており、画角が比較的狭い撮像装置100−X(44001〜4404)の撮影対象とするエリアを示す線4405を実線や太線など、ズームレンズが付随していない撮像装置100−Xのものと異なる形態で表示する。このように、図44に例示した撮像装置100−Xの画角に関する情報が含まれる表示イメージを表示することにより、複数の撮像装置100−Xそれぞれの画角の違いをユーザは容易に把握することができる。なお、複数の撮像装置100−Xそれぞれの画角に関する情報を文字や数値など他の形態で表示してもよい。
なお、上記の実施形態では、撮像装置100−Xに関する情報を表示させる例を中心に説明したが、これに限らない。つまり、本実施形態の情報表示装置400は、撮像装置100−Xに加えて、又は撮像装置100−Xに代えて、仮想視点画像の生成のためのシステムに関するデバイスの状態を表示させることもできる。情報表示装置400は、仮想視点画像の生成のためのシステムに関するデバイスとして、例えば、スイッチやルータなどのネットワーク機器、画像生成装置200及び同期装置などの状態を表示させることもできる。つまり、情報表示装置400は、仮想視点画像の生成のためのシステムの構成要素の状態を示す画像を表示させることができる。また、情報表示装置400は、撮像装置100−Xからの状態情報に基づいて、状態変化の発生を検出する例を中心に説明したが、この例に限らない。例えば、一定時間、撮像装置100−Xから状態情報を受信しなかったことにより、当該撮像装置100−Xの状態変化が発生したと判定されるようにしても良い。
また、上述の実施形態に記載されている構成要素はあくまで例示であり、本発明の範囲をそれらに限定する趣旨のものではない。また、実施形態で説明されている構成要素の組み合わせのすべてが、課題を解決するための手段に必須のものとは限らず、特許請求の範囲に記載された本発明の要旨の範囲内において、種々の変形及び変更が可能である。例えば、上述の実施形態において、説明した表示イメージの一部のみを表示すること、表示イメージの一部を他の情報に置き換えることおよび表示イメージに追加の情報を重畳することなどの変形及び変更が行われてもよい。
(その他の実施形態)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC等)によっても実現可能である。また、そのプログラムをコンピュータにより読み取り可能な記録媒体に記録して提供してもよい。
100 撮像システム
200 画像生成装置
300 ユーザ端末
400 表示装置
500 分配装置

Claims (21)

  1. 仮想視点画像を生成するための画像を撮像する複数の撮像装置に関する情報を表示させる表示制御装置であって、
    前記複数の撮像装置に関する情報を取得する取得手段と、
    前記取得手段により取得された情報に基づく、前記複数の撮像装置夫々が撮像した画像を伝送するための前記複数の撮像装置の通信接続に関する情報を、表示部に表示させる表示制御を行う表示制御手段と、
    を有することを特徴とする表示制御装置。
  2. 前記表示制御手段は、前記複数の撮像装置の設置場所に対応する表示位置において前記複数の撮像装置の夫々を示す情報と、前記複数の撮像装置夫々が撮像を行う対象である領域に関する情報とのうち少なくともいずれか一つを、前記取得手段により取得された情報に基づいて前記表示部に表示させる表示制御を行うことを特徴とする請求項1に記載の表示制御装置。
  3. 前記表示制御手段は、前記複数の撮像装置の夫々を示す情報と、前記複数の撮像装置の通信接続に関する情報と、前記複数の撮像装置が撮像を行う対象である領域に関する情報とのうち、ユーザにより選択された情報を表示または非表示にさせる表示制御を行うことを特徴とする請求項2に記載の表示制御装置。
  4. 前記表示制御手段は、前記複数の撮像装置の夫々を示す情報と、前記複数の撮像装置が撮像を行う対象である領域に関する情報とを関連付けるための情報をさらに表示させる表示制御を行うことを特徴とする請求項2または3に記載の表示制御装置。
  5. 前記表示制御手段は、前記複数の撮像装置の夫々を示す情報と、前記複数の撮像装置が撮像を行う対象である領域に関する情報とを関連付けるための情報として、前記複数の撮像装置の夫々を示す情報と、前記複数の撮像装置が撮像を行う対象である領域とを結ぶ線を表示させる表示制御を行うことを特徴とする請求項4に記載の表示制御装置。
  6. 前記表示制御手段は、前記複数の撮像装置のうちの第1撮像装置を示す情報と前記第1撮像装置が撮像を行う対象である領域とを結ぶ線と、前記複数の撮像装置のうちの他の撮像装置を示す情報と前記他の撮像装置が撮像を行う対象である領域とを結ぶ線とが重ならないように表示を行う表示制御を行うことを特徴とする請求項5に記載の表示制御装置。
  7. 前記表示制御手段は、前記複数の撮像装置の夫々を示す情報が表示される位置を、前記取得手段により取得された前記複数の撮像装置の設置場所に関する情報に基づいて制御する表示制御を行うことを特徴とする請求項2から6までのいずれか1項に記載の表示制御装置。
  8. 前記複数の撮像装置の夫々を示す情報は、前記複数の撮像装置の夫々の通信接続状態、データの出力状態及びエラー状態のうち少なくとも1つを識別可能にするための情報を含むことを特徴とする請求項2から7までのいずれか1項に記載の表示制御装置。
  9. 前記表示制御手段は、前記複数の撮像装置の夫々を示す情報と、前記複数の撮像装置の通信接続に関する情報と、前記複数の撮像装置が撮像を行う対象である領域に関する情報とを、前記複数の撮像装置の設置場所を示す画像に重畳して表示させる表示制御を行うことを特徴とする請求項2から8までのいずれか1項に記載の表示制御装置。
  10. 前記複数の撮像装置の設置場所を示す画像は、競技場を示す画像であることを特徴とする請求項9に記載の表示制御装置。
  11. 前記表示制御手段は、前記複数の撮像装置のうちの少なくともいずれかが撮像した画像を表示させる表示制御を行うことを特徴とする請求項1から10までのいずれか1項に記載の表示制御装置。
  12. 前記複数の撮像装置のうちの少なくともいずれかの撮影パラメータを設定するための情報を送信する送信手段を有することを特徴とする請求項1から11までのいずれか1項に記載の表示制御装置。
  13. 前記表示制御手段は、前記複数の撮像装置のうちの少なくともいずれに設定されている撮影パラメータを示す情報を表示させる表示制御を行うことを特徴とする請求項1から12までのいずれか1項に記載の表示制御装置。
  14. 前記撮影パラメータは、絞り、シャッタースピード、ISO感度及びズームのうちの少なくともいずれか1つであることを特徴とする請求項12または13に記載の表示制御装置。
  15. 前記取得手段は、前記複数の撮像装置の通信接続状態、前記複数の撮像装置の撮影状態及び前記複数の撮像装置のエラー状態のうちのすくなくともいずれか1つを示す情報を取得することを特徴とする請求項1から14までのいずれか1項に記載の表示制御装置。
  16. 前記取得手段は、前記複数の撮像装置の識別情報、前記複数の撮像装置の接続グループ、前記複数の撮像装置の設置場所及び前記複数の撮像装置の撮像を行う対象である領域のうちのすくなくともいずれか1つを示す情報を取得することを特徴とする請求項1から15までのいずれか1項に記載の表示制御装置。
  17. 前記表示制御手段は、前記複数の撮像装置のうちの少なくとも1つが、データを出力できない状態、通信接続が非接続である状態または撮像を行えないエラー状態である場合、仮想視点画像に不具合が生じ得ることを示す警告を表示させることを特徴とする請求項8に記載の表示制御装置。
  18. 前記表示制御手段は、前記複数の撮像装置のうちの少なくともいずれかが撮像した画像に、当該画像を撮影した撮像装置の、姿勢に関する情報、フォーカスに関する情報または露出に関する情報を重畳して表示させる表示制御を行うことを特徴とする請求項11に記載の表示制御装置。
  19. 前記表示制御手段は、前記複数の撮像装置のうちの少なくともいずれかの画角に関する情報を表示させる表示制御を行うことを特徴とする請求項1から18までのいずれか1項に記載の表示制御装置。
  20. 仮想視点画像を生成するための画像を撮像する複数の撮像装置に関する情報を表示させる表示制御方法であって、
    複数の撮像装置に関する情報を取得し、
    取得された情報に基づく、前記複数の撮像装置夫々が撮像した画像を伝送するための前記複数の撮像装置の通信接続に関する情報を、表示部に表示させる表示制御を行う
    ことを特徴とする表示制御方法。
  21. 請求項1から19までのいずれか1項に記載の表示制御装置としてコンピュータを動作させるためのプログラム。
JP2019023815A 2017-06-23 2019-02-13 画像処理装置、画像処理方法、およびプログラム Active JP7146662B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2017123318 2017-06-23
JP2017123318 2017-06-23

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2018022067A Division JP6482696B2 (ja) 2017-06-23 2018-02-09 表示制御装置、表示制御方法、およびプログラム

Publications (3)

Publication Number Publication Date
JP2019088025A true JP2019088025A (ja) 2019-06-06
JP2019088025A5 JP2019088025A5 (ja) 2021-03-25
JP7146662B2 JP7146662B2 (ja) 2022-10-04

Family

ID=65029120

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2018022067A Active JP6482696B2 (ja) 2017-06-23 2018-02-09 表示制御装置、表示制御方法、およびプログラム
JP2019023815A Active JP7146662B2 (ja) 2017-06-23 2019-02-13 画像処理装置、画像処理方法、およびプログラム

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2018022067A Active JP6482696B2 (ja) 2017-06-23 2018-02-09 表示制御装置、表示制御方法、およびプログラム

Country Status (9)

Country Link
US (2) US10999571B2 (ja)
EP (1) EP3618429B1 (ja)
JP (2) JP6482696B2 (ja)
KR (1) KR102138608B1 (ja)
CN (1) CN110546948B (ja)
AU (1) AU2018289853B2 (ja)
BR (1) BR112019020588A2 (ja)
CA (1) CA3068417C (ja)
RU (1) RU2738220C1 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9332285B1 (en) * 2014-05-28 2016-05-03 Lucasfilm Entertainment Company Ltd. Switching modes of a media content item
WO2018147329A1 (ja) * 2017-02-10 2018-08-16 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 自由視点映像生成方法及び自由視点映像生成システム
EP3595286B1 (en) * 2017-03-10 2022-03-16 Sony Group Corporation Information-processing device, information-processing method, and information-processing program
JP6482696B2 (ja) * 2017-06-23 2019-03-13 キヤノン株式会社 表示制御装置、表示制御方法、およびプログラム
JP7120110B2 (ja) 2019-03-25 2022-08-17 株式会社Jvcケンウッド 制御装置、制御方法及び制御プログラム
JP7297515B2 (ja) * 2019-04-25 2023-06-26 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
JP6780057B1 (ja) * 2019-05-17 2020-11-04 キヤノン株式会社 情報処理装置、情報処理方法、及びプログラム
JP7418101B2 (ja) * 2019-07-26 2024-01-19 キヤノン株式会社 情報処理装置、情報処理方法、及びプログラム
US11436579B2 (en) 2020-05-04 2022-09-06 Bank Of America Corporation Performing enhanced deposit item processing using cognitive automation tools
CN114286016A (zh) * 2020-09-28 2022-04-05 青岛千眼飞凤信息技术有限公司 图像获取装置以及图像获取系统
CN114422865B (zh) * 2020-10-10 2023-10-27 中移(成都)信息通信科技有限公司 数据传输方法、装置、设备及存储介质

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1169341A (ja) * 1997-06-10 1999-03-09 Canon Inc カメラ制御システムおよびコンピュータ端末およびそれらの制御方法およびそれらの制御を実行するプログラムを記憶した記憶媒体
JP2001008194A (ja) * 1999-06-18 2001-01-12 Hitachi Ltd 監視システム
JP2004274779A (ja) * 2004-03-29 2004-09-30 Syst Five:Kk 情報提供装置
JP2007180605A (ja) * 2005-12-26 2007-07-12 Canon Inc 監視システム、監視方法およびプログラム
JP2009060201A (ja) * 2007-08-30 2009-03-19 Panasonic Corp マルチ画面監視システム
JP2010011307A (ja) * 2008-06-30 2010-01-14 Victor Co Of Japan Ltd カメラ情報表示装置及びカメラ情報表示方法
JP2010268186A (ja) * 2009-05-14 2010-11-25 Panasonic Corp 監視画像表示装置
JP2012034343A (ja) * 2010-07-02 2012-02-16 Canon Inc 映像処理装置、及びその制御方法
JP2017055176A (ja) * 2015-09-07 2017-03-16 キヤノン株式会社 撮像装置及び撮像システム
JP2017063320A (ja) * 2015-09-24 2017-03-30 キヤノン株式会社 出力制御装置、出力制御方法、設定装置、設定方法、及びプログラム

Family Cites Families (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5729471A (en) * 1995-03-31 1998-03-17 The Regents Of The University Of California Machine dynamic selection of one video camera/image of a scene from multiple video cameras/images of the scene in accordance with a particular perspective on the scene, an object in the scene, or an event in the scene
JP3710257B2 (ja) 1997-06-10 2005-10-26 キヤノン株式会社 カメラ制御システムおよびその制御方法およびその制御を実行するプログラムを記憶した記憶媒体
JP2003244728A (ja) * 2002-02-15 2003-08-29 Mitsubishi Heavy Ind Ltd 仮想映像作成装置及び仮想映像作成方法
WO2006018951A1 (ja) * 2004-08-18 2006-02-23 Olympus Corporation 画像生成方法および画像生成装置
JP2007020092A (ja) 2005-07-11 2007-01-25 Matsushita Electric Ind Co Ltd 画像表示装置、画像表示方法および画像表示システム
JP4071265B2 (ja) * 2006-08-29 2008-04-02 株式会社コナミデジタルエンタテインメント ゲーム装置、ゲーム装置の制御方法及びプログラム
US9185361B2 (en) * 2008-07-29 2015-11-10 Gerald Curry Camera-based tracking and position determination for sporting events using event information and intelligence data extracted in real-time from position information
JP2010274813A (ja) 2009-05-29 2010-12-09 Fujitsu Ten Ltd 画像生成装置及び画像表示システム
JP5338498B2 (ja) * 2009-06-09 2013-11-13 ソニー株式会社 監視カメラシステムで使用される制御装置、カメラシステム及びプログラム
JP5312371B2 (ja) * 2010-02-23 2013-10-09 三菱電機株式会社 映像監視システム及び監視映像表示装置
JP5603820B2 (ja) 2011-03-30 2014-10-08 日鐵住金建材株式会社 アンカーボックス
JP5927856B2 (ja) * 2011-11-16 2016-06-01 カシオ計算機株式会社 画像処理装置、画像処理方法及びプログラム
JP5924069B2 (ja) * 2012-03-28 2016-05-25 サクサ株式会社 監視システム
JP5812291B2 (ja) * 2012-03-28 2015-11-11 サクサ株式会社 監視システム
CN105284108B (zh) * 2013-06-14 2019-04-02 株式会社日立制作所 影像监视系统、监视装置
JP6347934B2 (ja) 2013-10-11 2018-06-27 株式会社デンソーテン 画像表示装置、画像表示システム、画像表示方法、及び、プログラム
JP2015187797A (ja) * 2014-03-27 2015-10-29 シャープ株式会社 画像データ生成装置および画像データ再生装置
JP2016004493A (ja) 2014-06-18 2016-01-12 キヤノン株式会社 画像処理装置およびその制御方法
JP6502660B2 (ja) * 2014-12-12 2019-04-17 株式会社日立国際電気 映像監視システム
US9832449B2 (en) * 2015-01-30 2017-11-28 Nextvr Inc. Methods and apparatus for controlling a viewing position
US20160330408A1 (en) * 2015-04-13 2016-11-10 Filippo Costanzo Method for progressive generation, storage and delivery of synthesized view transitions in multiple viewpoints interactive fruition environments
JP6808357B2 (ja) * 2016-05-25 2021-01-06 キヤノン株式会社 情報処理装置、制御方法、及び、プログラム
JP6429829B2 (ja) * 2016-05-25 2018-11-28 キヤノン株式会社 画像処理システム、画像処理装置、制御方法、及び、プログラム
JP7121470B2 (ja) * 2017-05-12 2022-08-18 キヤノン株式会社 画像処理システム、制御方法、及び、プログラム
JP6957215B2 (ja) * 2017-06-06 2021-11-02 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
JP6482696B2 (ja) 2017-06-23 2019-03-13 キヤノン株式会社 表示制御装置、表示制御方法、およびプログラム
WO2018235762A1 (ja) 2017-06-23 2018-12-27 キヤノン株式会社 表示制御装置、表示制御方法、およびプログラム
JP7033865B2 (ja) * 2017-08-10 2022-03-11 キヤノン株式会社 画像生成装置、画像生成方法、及びプログラム
JP2019103067A (ja) * 2017-12-06 2019-06-24 キヤノン株式会社 情報処理装置、記憶装置、画像処理装置、画像処理システム、制御方法、及びプログラム

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1169341A (ja) * 1997-06-10 1999-03-09 Canon Inc カメラ制御システムおよびコンピュータ端末およびそれらの制御方法およびそれらの制御を実行するプログラムを記憶した記憶媒体
JP2001008194A (ja) * 1999-06-18 2001-01-12 Hitachi Ltd 監視システム
JP2004274779A (ja) * 2004-03-29 2004-09-30 Syst Five:Kk 情報提供装置
JP2007180605A (ja) * 2005-12-26 2007-07-12 Canon Inc 監視システム、監視方法およびプログラム
JP2009060201A (ja) * 2007-08-30 2009-03-19 Panasonic Corp マルチ画面監視システム
JP2010011307A (ja) * 2008-06-30 2010-01-14 Victor Co Of Japan Ltd カメラ情報表示装置及びカメラ情報表示方法
JP2010268186A (ja) * 2009-05-14 2010-11-25 Panasonic Corp 監視画像表示装置
JP2012034343A (ja) * 2010-07-02 2012-02-16 Canon Inc 映像処理装置、及びその制御方法
JP2017055176A (ja) * 2015-09-07 2017-03-16 キヤノン株式会社 撮像装置及び撮像システム
JP2017063320A (ja) * 2015-09-24 2017-03-30 キヤノン株式会社 出力制御装置、出力制御方法、設定装置、設定方法、及びプログラム

Also Published As

Publication number Publication date
AU2018289853A1 (en) 2019-12-19
JP2019009766A (ja) 2019-01-17
CA3068417C (en) 2021-10-05
AU2018289853B2 (en) 2020-05-07
EP3618429B1 (en) 2023-09-20
US20200128230A1 (en) 2020-04-23
CA3068417A1 (en) 2018-12-27
EP3618429A4 (en) 2020-11-04
BR112019020588A2 (pt) 2020-04-22
CN110546948B (zh) 2020-11-20
JP7146662B2 (ja) 2022-10-04
US11445167B2 (en) 2022-09-13
KR102138608B1 (ko) 2020-07-28
US20210227201A1 (en) 2021-07-22
JP6482696B2 (ja) 2019-03-13
RU2738220C1 (ru) 2020-12-09
EP3618429A1 (en) 2020-03-04
CN110546948A (zh) 2019-12-06
US10999571B2 (en) 2021-05-04
KR20200013777A (ko) 2020-02-07

Similar Documents

Publication Publication Date Title
JP7146662B2 (ja) 画像処理装置、画像処理方法、およびプログラム
US10699473B2 (en) System and method for generating a virtual viewpoint apparatus
JP6849430B2 (ja) 画像処理装置、画像処理方法、及びプログラム
US10970915B2 (en) Virtual viewpoint setting apparatus that sets a virtual viewpoint according to a determined common image capturing area of a plurality of image capturing apparatuses, and related setting method and storage medium
JP7182865B2 (ja) 表示制御装置、表示制御方法、およびプログラム
US10771761B2 (en) Information processing apparatus, information processing method and storing unit
JP2013025649A (ja) 画像処理装置及び画像処理方法、プログラム
JP2014222825A (ja) 映像処理装置および映像処理方法
JP2010166218A (ja) カメラシステム及びその制御方法
WO2018235762A1 (ja) 表示制御装置、表示制御方法、およびプログラム
JP7494273B2 (ja) 表示制御装置、表示制御方法、およびプログラム
US9883103B2 (en) Imaging control apparatus and method for generating a display image, and storage medium
JP7130976B2 (ja) 表示情報作成装置、撮影システムおよびプログラム
JP2015056790A (ja) 画像処理装置、画像処理方法およびプログラム
JP2023122130A (ja) 映像処理装置およびその制御方法、プログラム
JP2022041594A (ja) 情報処理装置、情報処理方法及びプログラム
JP2022050305A (ja) 処理システム及びその制御方法及びプログラム
JP2019118042A (ja) 画像処理装置、画像処理方法及びプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210205

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210205

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220215

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220222

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220421

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220823

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220921

R151 Written notification of patent or utility model registration

Ref document number: 7146662

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151