JP2024097877A - システム - Google Patents

システム Download PDF

Info

Publication number
JP2024097877A
JP2024097877A JP2024075194A JP2024075194A JP2024097877A JP 2024097877 A JP2024097877 A JP 2024097877A JP 2024075194 A JP2024075194 A JP 2024075194A JP 2024075194 A JP2024075194 A JP 2024075194A JP 2024097877 A JP2024097877 A JP 2024097877A
Authority
JP
Japan
Prior art keywords
cameras
target area
camera
placement
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2024075194A
Other languages
English (en)
Inventor
靖 四方
Yasushi Shikata
道雄 相澤
Michio Aizawa
厚 伊達
Atsushi Date
紳一郎 宇野
Shinichiro Uno
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from JP2019172187A external-priority patent/JP7558652B2/ja
Application filed by Canon Inc filed Critical Canon Inc
Publication of JP2024097877A publication Critical patent/JP2024097877A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/111Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
    • H04N13/117Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation the virtual viewpoint locations being selected by the viewers or determined by viewer tracking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/243Image signal generators using stereoscopic image cameras using three or more 2D image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/282Image signal generators for generating image signals corresponding to three or more geometrical viewpoints, e.g. multi-view systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/296Synchronisation thereof; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/265Mixing

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)
  • Stereoscopic And Panoramic Photography (AREA)

Abstract

【課題】 広範囲の撮影対象領域であっても、仮想視点間における被写体の再現精度の差を低減する。【解決手段】 仮想視点画像の生成に用いられる複数のカメラ102の配置を決定する配置決定装置108であって、撮影対象領域503を表す情報を取得し、その情報に基づいて、複数のカメラ102のうち2以上のカメラ102により撮影対象領域503の全域が撮影され、かつ、複数のカメラ102のうち前記2以上のカメラ102とは異なる他の2以上のカメラ102により撮影対象領域503の全域が撮影されるように、複数のカメラ102の配置を決定する。【選択図】 図1

Description

本発明は、複数の撮影装置を有するシステムに関する。
近年、複数の撮影装置を異なる位置に配置して、同期して撮影し、当該撮影により得られた複数の画像を用いて、指定された仮想視点からの仮想視点画像を生成する技術が注目されている。
特許文献1は、仮想視点画像を生成する技術について記載されており、複数の撮影装置を円周に沿って撮影対象領域である円の中心を向くように配置することについて記載されている。
特開2010-79505号公報
特許文献1では、撮影対象領域である円の中心の近傍に存在する被写体を撮影する撮影装置の台数と、そこから離れた位置に存在する被写体を撮影する撮影装置の台数とに差が生じる。さらに、撮影対象領域が大きい場合には、その差が大きくなる。そのため、仮想視点画像における被写体の再現精度について、仮想視点間の差が大きくなる場合がある。
そこで、上記課題に鑑み、本発明では、広範囲の撮影対象領域であっても、仮想視点間における被写体の再現精度の差を低減することを目的とする。
本発明の一つの態様は、以下のとおりである。すなわち、システムは、仮想視点画像の生成に用いられる複数の撮影装置を有し、前記複数の撮影装置のうち2以上の撮影装置は、前記複数の撮影装置による撮影の対象となる撮影対象領域の全域を撮影するように配置され、かつ、前記複数の撮影装置のうち前記2以上の撮影装置とは異なる他の2以上の撮影装置は、前記撮影対象領域の全域を撮影するように配置されていることを特徴とする。
本発明によれば、広範囲の撮影対象領域であっても、仮想視点間における被写体の再現精度の差を低減することができる。
画像処理システムの構成例を示す図 配置決定装置のハードウェア構成例を示す図 実施形態1に係る配置決定装置の構成例を示す図 実施形態1に係る配置決定装置の処理手順例を示すフローチャート 実施形態1に係る撮影対象領域の例を示す図 解像度を説明するための図 配置領域の例を示す図 配置領域における複数のカメラの配置例を示す図 理想的な複数のカメラの配置を示す図 複数のカメラの配置例を示す図 複数のカメラの他の配置例を示す図 複数のカメラの他の配置例を示す図 決定した配置例を示す図 実施形態2に係る配置決定装置の処理手順例を示すフローチャート 配置領域から見た撮影対象領域の角度を説明する図 実施形態2に係る配置決定装置の構成例を示す図 実施形態1に係る配置決定装置が参照する表の一例を示す図 実施形態3に係る配置決定装置の構成例を示す図 実施形態3に係る配置決定装置が参照する表の一例を示す図 実施形態3に係る撮影対象領域の例を示す図 実施形態3に係る配置決定装置の処理手順例を示すフローチャート
以下、図面を参照しながら、本発明を実施するための形態について説明する。なお、以下の実施形態は本発明を限定するものではなく、また、本実施形態で説明されている特徴の組み合わせの全てが本発明の解決手段に必須のものとは限らない。なお、同一の構成については、同じ符号を付して説明する。
<実施形態1>
図1は、画像処理システム100の構成の一例を示す図である。画像処理システム100は、マルチカメラシステム101、ハブ104、制御装置105、仮想視点画像生成装置106を有する。また、画像処理システム100は、仮想視点指定装置107や配置決定装置108を含んでいてもよい。
画像処理システム100は、複数の撮影装置による撮影に基づく複数の画像と、指定された仮想視点とに基づいて、指定された視点からの見えを表す仮想視点画像を生成するシステムである。本実施形態における仮想視点画像は、自由視点映像とも呼ばれるものであるが、ユーザが自由に(任意に)指定した視点に対応する画像に限定されず、例えば複数の候補からユーザが選択した視点に対応する画像なども仮想視点画像に含まれる。また、本実施形態では仮想視点の指定がユーザ操作により行われる場合を中心に説明するが、仮想視点の指定が画像解析の結果等に基づいて自動で行われてもよい。また、本実施形態では仮想視点画像が動画である場合を中心に説明するが、仮想視点画像は静止画であってもよい。
マルチカメラシステム101は、撮影対象空間を複数の方向から撮影する複数のカメラ(撮影装置)102aa~102lcを有する。複数のカメラ102aa~102lcは、複数のカメラグループ103a~103lのうちいずれかのカメラグループに属している。なお、以下では、特に区別する必要がない場合、カメラ102、カメラグループ103と表現する。
それぞれのカメラグループ103は、1台以上のカメラ102を有する。具体的には、カメラグループ103aには、3台のカメラ102aa、102ab、102acが属している。ただし、カメラグループ103に属するカメラの台数は3台に限らず、2台以下でもよいし、4台以上でもよい。また、カメラグループ103のそれぞれに属するカメラ102の台数は同じでもよいし、異なっていてもよい。
複数のカメラ102で撮影された複数の画像は、ハブ104を通して、仮想視点画像生成装置106へ送られる。また、制御装置105は、マルチカメラシステム101の撮影を制御したり、マルチカメラシステム101が有する複数のカメラ102の配置状況を管理する。
仮想視点画像生成装置106は、マルチカメラシステム101で撮影された複数の画像に基づいて、仮想視点指定装置107で指定された視点から見た仮想視点画像を生成する。仮想視点指定装置107で指定される視点情報は、仮想視点の位置及び向きを示す情報である。具体的には、視点情報は、仮想視点の3次元位置を表すパラメータと、パン、チルト、及びロール方向における仮想視点の向きを表すパラメータとを含む、パラメータセットである。なお、視点情報の内容は上記に限定されない。例えば、視点情報としてのパラメータセットには、仮想視点の視野の大きさ(画角)を表すパラメータが含まれてもよい。また、視点情報は複数のパラメータセットを有していてもよい。例えば、視点情報が、仮想視点画像の動画を構成する複数のフレームにそれぞれ対応する複数のパラメータセットを有し、連続する複数の時点それぞれにおける仮想視点の位置及び向きを示す情報であってもよい。なお、仮想視点指定装置107は、仮想視点画像生成装置106又は画像処理システム100と有線もしくは無線で接続されている。
仮想視点画像生成装置106は、例えば以下の方法で仮想視点画像を生成する。まず、複数の撮影装置によりそれぞれ異なる方向から撮影することで複数の画像が取得される。次に、その複数の画像から、人物やボールなどの所定のオブジェクト(被写体)に対応する前景領域を抽出した前景画像と、前景領域以外の背景領域を抽出した背景画像が取得される。また、所定の被写体の3次元形状を表す前景モデルと前景モデルに色付けするためのテクスチャデータとが前景画像に基づいて生成され、競技場などの背景の3次元形状を表す背景モデルに色づけするためのテクスチャデータが背景画像に基づいて生成される。そして、前景モデルと背景モデルに対してテクスチャデータをマッピングし、視点情報が示す仮想視点に応じてレンダリングを行うことにより、仮想視点画像が生成される。なお、背景としてはフィールドやゴールポストである。ただし、仮想視点画像の生成方法はこれに限定されず、3次元モデルを用いずに撮影画像の射影変換により仮想視点画像を生成する方法など、種々の方法を用いることができる。
配置決定装置108は、後述するようにマルチカメラシステム101が有する複数のカメラ102の配置を決定する。この配置決定装置108は、画像処理システム100に含まれていてもよいし、含まれていなくてもよい。配置決定装置108は、制御装置105又は画像処理システム100と有線又は無線で接続されている。
なお、上述した前景画像と背景画像は、仮想視点画像生成装置106で撮影画像からそれぞれ抽出されてもよい、それ以外の装置で、例えばカメラ102で抽出されてもよい。カメラ102で前景画像と背景画像が抽出される場合、複数のカメラ102のそれぞれで前景画像と背景画像の両方ともを抽出してもよいし、複数のカメラ102の一部のカメラが前景画像を抽出し、他の一部が背景画像を抽出するようにしてもよい。また、複数のカメラ102には、前景画像と背景画像のいずれも抽出しないカメラ102が含まれていてもよい。
図2は、配置決定装置108のハードウェア構成の一例を示す図である。CPU201は、ROM202やRAM203に格納されているコンピュータプログラムやデータを用いて情報処理装置の全体を制御することで、情報処理装置の各機能を実現する。なお、情報処理装置がCPU201とは異なる1又は複数の専用のハードウェアを有し、CPU201による処理の少なくとも一部を専用のハードウェアが実行してもよい。専用のハードウェアの例としては、ASIC(特定用途向け集積回路)、FPGA(フィールドプログラマブルゲートアレイ)、およびDSP(デジタルシグナルプロセッサ)などがある。ROM202は、変更を必要としないプログラムなどを格納する。
RAM203は、補助記憶装置204から供給されるプログラムやデータ、及び通信I/F207を介して外部から供給されるデータなどを一時記憶する。補助記憶装置204は、例えばハードディスクドライブ等で構成され、画像データや音声データなどの種々のデータを記憶する。表示部205は、例えば液晶ディスプレイやLED等で構成され、ユーザが情報処理装置を操作するためのGUI(Graphical User Interface)などを表示する。
操作部206は、例えばキーボードやマウス、ジョイスティック、タッチパネル等で構成され、ユーザによる操作を受けて各種の指示をCPU201に入力する。通信I/F207は、情報処理装置の外部の装置との通信に用いられる。例えば、情報処理装置が外部の装置と有線で接続される場合には、通信用のケーブルが通信I/F207に接続される。情報処理装置が外部の装置と無線通信する機能を有する場合には、通信I/F207はアンテナを備える。バス208は、情報処理装置の各部をつないで情報を伝達する。
本実施形態では表示部205と操作部206が配置決定装置108の内部に存在するものとするが、表示部205と操作部206との少なくとも一方が配置決定装置108の外部に別の装置として存在していてもよい。この場合、CPU201が、表示部205を制御する表示制御部、及び操作部206を制御する操作制御部として動作してもよい。
図3は、配置決定装置108の機能構成の一例を示す図である。配置決定装置108は、許容値取得部303、撮影対象領域取得部304、カメラグループ数取得部305、配置決定部306を有している。さらに、配置決定装置108は、イベント情報記憶部301と会場情報記憶部302とを有していてもよい。本実施形態は、配置決定装置108がイベント情報記憶部301と会場情報記憶部302とを有する例で説明を行う。しかし、イベント情報記憶部301と会場情報記憶部302は、配置決定装置108とは別の装置に含まれて、その装置から配置決定装置108が必要な情報を取得するようにしてもよい。
イベント情報記憶部301は、撮影対象のイベントに関する情報を記憶する。イベント情報は、例えば、以下の情報である。イベントの種別やその他のイベントが特定できる情報、フィールドの大きさの情報、被写体の移動範囲の情報、被写体の密集度の情報、仮想視点画像の用途に関する情報、イベントの規模の情報などである。イベントの種別は、ラグビー、サッカー、ボルダリング、野球、陸上競技、水上競技、氷上競技などのスポーツ競技や、コンサートや演劇などであり、特に限定されない。フィールドとは、イベントにおいて被写体である人物やボール、イベントで使用される道具等の動体が移動できる面をいう。被写体の移動範囲は、イベントごとに設定される。被写体の密集度は、イベントにおいて被写体である人物が密集した場合のその密集度を数値化したものである。例えばラグビー、サッカー、野球の密集度を比較すると、ラグビーが最も密集度が大きく、野球が最も密集度が小さい。ラグビーの被写体の密集度が大きい要因は、スクラムやモールなどのプレイが発生するからである。仮想視点画像の用途は、生放送での使用用途、アーカイブ配信での使用用途、行動分析や戦術分析などでの使用用途などがある。
会場情報記憶部302は、複数のカメラ102を配置する会場に関する情報を記憶する。会場情報は、例えば、以下の情報である。会場の名称の情報、会場の大きさの情報、会場内でのカメラ102を配置可能な構造体とその位置に関する情報や、配置可能なカメラ102の台数の情報などである。なお、会場は、ラグビーやサッカーなどの試合会場となるスタジアムや、演劇やコンサートなどの会場などである。また、会場は、スポーツチームの練習場などであってもよい。カメラ102を配置可能な構造体とその位置を示す情報は、2次元画像で表されていてもよいし、3次元データとして表されていてもよい。
許容値取得部303は、所定の基準となる被写体をカメラ102が撮影した際に、その被写体の画像中の大きさである解像度の下限値を設定して取得する。具体的には、仮想視点画像の用途により、下限解像度を設定する。例えば、仮想視点画像の用途が生放送用の俯瞰画像の場合は、下限解像度を小さく設定し、仮想視点画像の用途がリプレイ画像の場合は、下限解像度を大きく設定する。なお、下限解像度については後述する。
許容値取得部303は、イベント情報の一つである仮想視点画像の用途と下限解像度の対応を予め表として記憶しておき、その表を参照して設定するようにしてもよい。つまり、許容値取得部303は、操作部206を介してオペレータからイベントを特定できる情報の入力を受け付けると、イベント情報記憶部301に記憶されているイベント情報とその表を参照し、下限解像度を取得するようにしてもよい。参照される表の一例を図17(a)に示す。なお、参照される表は、仮想視点画像の用途の情報と下限解像度の情報とが対応付けられていればよいが、これに限られない。上記以外のイベント情報と下限解像度の情報とが対応付けられていてもよい。また、参照される表は、イベントの名称等のイベントを特定できる情報と下限解像度とが対応付けられていてもよい。また、参照される表は、イベント情報記憶部301に記憶されていてもよいし、外部の装置に記憶されていてもよい。
また、許容値取得部303は、操作部206を介して、オペレータから直接、下限解像度の数値等の情報を取得してもよい。
撮影対象領域取得部304は、イベント情報に基づいて、マルチカメラシステム101の撮影対象となる領域である撮影対象領域を決定する。具体的には、撮影対象領域取得部304は、次のような構成とすればよい。すなわち、まず、撮影対象領域取得部304はイベント情報の少なくとも一部の情報と撮影対象領域を表す情報とが対応付けた表を記憶する。イベント情報の少なくとも一部の情報とは、フィールドの大きさの情報、被写体の移動範囲の情報などである。そして、撮影対象領域取得部304は、操作部206を介してオペレータからイベントを特定できる情報の入力を受け付けると、イベント情報記憶部301に記憶されているイベント情報とその表を参照し、撮影対象領域を決定する。参照される表の一例を図17(b)に示す。なお、参照される表は、フィールドの大きさの情報と被写体の移動範囲の情報と撮影対象領域の情報とが対応付けられていればよいが、これに限られない。上記以外のイベント情報と撮影対象領域の情報とが対応付けられていてもよい。また、参照される表は、イベントの名称等のイベントを特定できる情報と撮影対象領域とが対応付けられていてもよい。また、参照される表は、イベント情報記憶部301に記憶されていてもよいし、外部の装置に記憶されていてもよい。
また、撮影対象領域取得部304は、操作部206を介して、オペレータから直接、撮影対象領域の情報を取得してもよい。
ここで、撮影対象領域について説明を行う。図5(a)は、撮影対象領域の一例を示す図であり、この図では、イベントがラグビーである場合の例を示している。撮影対象領域503は2次元上の面であり、図5(b)の空間504の一部を構成する。この撮影対象領域503は、撮影対象領域取得部304により、フィールド501の大きさや、人物(選手)やボールなど被写体の移動範囲に基づいて決定される。ここで、移動範囲とは、フィールド501上の移動範囲だけでなく、例えばラインアウトによるスローインを行う際に、タッチラインの外に選手が立つため、フィールド501の周辺も移動範囲に含むものとする。移動範囲はイベントに応じてその大きさが設定されていてもよい。例えば、ラグビーであれば、移動距離はタッチラインやデッドボールライン、タッチインゴールラインやゴールポスト502などからの距離や角度等で規定されていてもよいし、フィールド501を含むように設定された範囲で規定されてもよい。また、サッカーであれば、同様にタッチラインやゴールライン、コーナーフラッグの位置などからの距離や角度で規定されてもよい。また、野球であれば、移動範囲としてファールゾーンを含むように設定されていてもよい。
このように、撮影対象領域503は、プレーエリア(フィールド501)を含み、さらにプレーエリアよりも外側にある所定の範囲を含むように設定される。このように撮影対象領域503が設定されることにより、フィールド501の全域において、高画質な仮想視点画像を生成することができる。
図5(b)は、高さ方向を考慮した空間504を撮影対象領域として設定される例を示す図である。つまり、図5(b)の例では、撮影対象領域は3次元空間である。図5(b)では、主にボールの動く範囲を考慮して、ゴールポスト502の上部の空間を含む範囲を含むように撮影対象領域が設定される。そのほか、撮影対象領域は、フィールド501から所定の高さが考慮された空間であってもよい。例えば所定の高さとは、人物(選手)の身長や人物が跳躍した時の高さ、ラインアウト時にリフトされる選手の到達点などである。
カメラグループ数取得部305は、撮影対象領域503を複数の方向から撮影するように、マルチカメラシステム101を構成するカメラグループ103の数を取得する。具体的には、カメラグループ数取得部305は、被写体の密集度を基に、カメラグループ103の数を設定する。カメラグループ数取得部305は、被写体の密集度が大きい場合は、被写体の密集度が小さい場合に比べ、カメラグループ103の数をより多く設定するようにする。なお、カメラグループ数取得部305は、イベント情報の一つである被写体の密集度と、カメラグループ103の数との対応を予め表として記憶しておき、その表を参照して設定するようにしてもよい。つまり、カメラグループ数取得部305は、操作部206を介してイベントを特定できる情報の入力を受け付けると、イベント情報記憶部301に記憶されているイベント情報とその表とを参照し、カメラグループ103の数を取得するようにしてもよい。参照される表の一例を図17(c)に示す。なお、参照される表は、被写体の密集度の情報とカメラグループ103の数の情報とが対応付けられていればよいが、これに限られない。上記以外のイベント情報とカメラグループ103の数の情報とが対応付けられていてもよい。また、参照される表は、イベントの名称等のイベントを特定できる情報とカメラグループ103の数とが対応付けられていてもよい。また、参照される表は、イベント情報記憶部301に記憶されていてもよいし、外部の装置に記憶されていてもよい。
また、カメラグループ数取得部305は、操作部206を介して、オペレータから直接、カメラグループ103の数の情報を取得してもよい。
配置決定部306は、下限解像度、撮影対象領域503、カメラグループ数、会場情報に基づいて、カメラ102の配置を決定する。下限解像度は許容値取得部303により取得され、撮影対象領域503は、撮影対象領域取得部304により取得され、カメラグループ数は、カメラグループ数取得部305により取得される。また、会場情報は、会場情報記憶部302に記憶されている。配置決定部306は、操作部206を介して入力された会場を特定するための情報に基づいて、会場情報記憶部302から、必要な会場情報を取得する。例えば、取得する会場情報は、会場内でのカメラ102を配置可能な構造体とその位置に関する情報や、配置可能なカメラ102の台数の情報などである。
配置決定部306は、具体的には、まず撮影対象領域503と、カメラグループ数と、会場情報とを基に、カメラグループ103の配置位置を決定する。次に、配置決定部306は、カメラグループ103ごとに、属する複数のカメラ102の配置を決定する。その際、配置決定部306は、カメラグループ103に属する複数のカメラ102により撮影対象領域503の全域が撮影されるように、各カメラグループ103に属する複数のカメラ102の配置を決定する。さらに配置決定部306は、カメラグループ103に属する複数のカメラ102において、撮影対象領域503の全域で、解像度が下限解像度を上回るように、複数のカメラ102の配置を決定する。なお、全カメラグループ103で、上記の撮影対象領域に関する条件、解像度に関する条件を満たすように、複数のカメラ102の配置が決定されるとしたが、これに限られない。例えば、所定数のカメラグループ103に属する複数のカメラ102だけが上記の条件を満たすように、複数のカメラ102の配置が決定されてもよい。また、所定の位置にあるカメラグループ103や所定の関係にあるカメラグループ103が上記の条件を満たすように、そのカメラグループ103に属する複数のカメラ102の配置が決定されてもよい。つまり、一部のカメラグループ103に属する複数のカメラ102によって、撮影対象領域503の全域ではなく一部が撮影されるように、その複数のカメラ102が配置されていてもよい。さらに、一部のカメラグループ103に属する複数のカメラ102において、撮影対象領域503の一部の領域で、解像度が下限解像度を上回らなくてもよい。
図4は、配置決定装置108の処理手順の一例を示すフローチャートである。図4を用いて配置決定装置108が行う処理について説明を行う。
まず、配置決定装置108は、操作部206を介してオペレータからの配置決定の指示を受け付ける。その指示に従って、ステップS401で、許容値取得部303は、下限解像度を取得する。
ここで、下限解像度について説明を行うが、その前に、解像度について説明する。ここでいう解像度は、カメラ102が撮影した画像において、基準となる被写体の大きさであり、画素数で表される。基準となる被写体は、撮影対象となるイベントにおいて、典型的な被写体や仮想的な被写体であってもよいし、特定の被写体や任意の被写体であってもよい。例えば、身長2mの直立した選手を基準となる被写体と定める。その場合は、カメラ102が撮影した画像において、身長2mの直立した選手の頭の先から足の先までの画素数が解像度となる。
図6は、解像度を説明するための図である。フィールド501内の位置602aにおける、基準となる被写体(ここでは、身長2mの直立した選手)の身長を表す撮影画像における画素数を解像度601aとする。また、位置602bにおける、基準となる被写体の身長を表す撮影画像における画素数を解像度601bとする。解像度は、カメラ102からの距離やカメラ102の焦点距離などによって異なる。例えば、カメラ102から近い位置602aの解像度601aは、遠い位置602bの解像度601bより大きくなる。
下限解像度は、カメラ102が撮影した画像における解像度の許容値である。下限解像度は、仮想視点画像における被写体の画質に影響する。つまり、仮想視点画像において、基準となる被写体の画素数が下限解像度よりも大きくなると、デジタルズームと同様の効果により、画質劣化が生じる。よって、下限解像度は、仮想視点画像においてどれだけ被写体を大きく写したいか、どういう構図にしたいかに応じて決定される。例えば、基準となる被写体を、仮想視点画像の4分の1のサイズまで大きく写すことを考える。仮想視点画像のサイズを1920画素×1080画素とする。すると、下限解像度は、1080画素÷4=270画素と決定される。なお、ある程度のデジタルズームを許容するように下限解像度は決定されてもよい。例えば、1.2倍のデジタルズームまで許容できると判断すると、270÷1.2=225画素を下限解像度と決定する。
この下限解像度は、フィールド501内の任意の位置における基準となる被写体を、撮影画像において何画素数以上で表現するかということ表している。ただし、これに限定されるものではない。例えば、下限解像度は、フィールド501内の任意の位置ではなくて、所定の位置あるいは所定の範囲内における基準となる被写体を、撮影画像において何画素数以上で表現するかということ表すようにしてもよい。
許容値取得部303は、上述したように、操作部206を介してオペレータから入力されるイベントを特定できる情報と、予め記憶された表とに基づいて、下限解像度を決定して取得する。
次に、ステップS402で、撮影対象領域取得部304は、撮影対象領域503を決定して取得する。具体的には、上述したように、操作部206を介してオペレータから入力されるイベントを特定できる情報と、予め記憶された表とに基づいて、撮影対象領域503が決定される。なお、撮影対象領域503については、上述したとおりである。
ステップS403で、カメラグループ数取得部305は、カメラグループ103の数を決定して取得する。カメラグループ103の数は、仮想視点画像生成装置106が被写体の3次元形状データを精度よく生成するために必要な方向の数に応じて決定する。被写体の3次元形状データの生成に必要な方向の数は、被写体の密集度によって変化する。カメラグループ数取得部305は、被写体の密集度と必要な方向の数(つまり、カメラグループの数)とを対応付けて、表として予め記憶しておく。例えば、カメラグループ数取得部305は、被写体を模したCG(コンピュータグラフィックス)を用いて仮想視点画像を生成し、その画質を見て必要な方向の数およびその視点位置を、被写体の密集度と対応付けて、表として予め記憶する。例えば、野球のピッチャーなど、被写体が単独で存在する状況では、オクルージョンが発生しにくいので、少ない方向からの撮影でもよいが、ラグビーのスクラムなど、多数の被写体が密集する状況では、多くの方向から撮影する必要がある。ここで決定した方向の数を、カメラグループ103の数と決定する。以下、例として、カメラグループ103の数を12と決定したとする。また、カメラグループ103の配置領域もこのステップで決定されてもよいが、本実施形態では、次のステップS404で決定されるものとする。
ステップS404で、配置決定部306は、カメラグループ数及び会場情報に基づいて、カメラグループ103の配置領域を決定する。配置決定処理について、図7~12を用いて詳細に説明する。図7は、カメラグループ103の配置位置の例を示す図である。まず、会場情報、例えばスタジアム702の設計図などから、カメラ102を配置することが可能な領域を、配置領域701a~701lの候補として決定する。配置領域701a~701lの候補は、スタジアム702の柱、通路、手すり、天井などである。決定された配置領域の候補は、表示部205で表示させるようにしてもよい。なお、以下では、特別な事情がない限り、配置領域701a~701lは、配置領域701という。
次に、配置領域701の候補の中から、以下に述べる基準に沿って、カメラグループ103の配置領域701を決定する。被写体を撮影する隣り合う2つのカメラグループ103の間隔が広くなると、その間に指定された仮想視点から生成した仮想視点画像の画質が劣化する。そのためにカメラグループ103間の間隔が不均一であると、仮想視点画像の画質が指定された仮想視点の位置よってばらついてしまう。よって、撮影対象領域503の被写体から見て、カメラグループ103の配置領域701は、なるべく等間隔になるよう決定されるのがよい。例えば、撮影対象領域503の中心703の被写体から見て、隣り合う配置領域701の間の角度が等しくなるように配置領域701を決定する。カメラグループ103の数が12の場合、隣り合う配置領域701の間の理想的な角度は360度/12=30度である。よって、例えば、配置領域701aと配置領域701bを、その間の角度704abが30度となるように決定する。しかし、柱の位置など、スタジアム702の構造上の理由により、等間隔に配置領域701を決定することができない場合が考えられる。そこで、例えば、理想的な角度の1.5倍を許容範囲とするなど、予め基準を設けて、配置領域701を決定してもよい。つまり、被写体から見て隣り合う配置領域701の間の角度が所定の値を超えないように配置領域701を決定する。
ステップS405で、配置決定部306は、カメラグループ103の配置領域701と、下限解像度と、撮影対象領域503とに基づいて、カメラグループ103ごとに、カメラグループ103に属する2以上のカメラ102の台数及び配置を決定する。その際、以下の条件を満たすように、カメラグループ103に属する2以上のカメラ102の台数及び配置が決定される。すなわち、カメラグループ103ごとに、撮影対象領域503の全域が撮影されるように、2以上のカメラ102の台数及び配置が決定される。さらに、撮影対象領域503の全域で解像度が下限解像度よりも超えるように、カメラ102の台数及び配置が決定される。また、カメラ102の台数がなるべく少なくなるように配置が決定される。なお、ここでいうカメラ102の配置は、カメラ102の位置と向きを含むものとする。
まず、図8を用いて、配置領域701内で、複数のカメラ102を配置する位置を説明する。カメラグループ103に属する複数のカメラ102は、それぞれ対応する配置領域701に配置する。例えば、カメラグループ103aに属する複数のカメラ102は、対応する配置領域701aに配置する。配置領域701内において、カメラグループ103に属する複数のカメラ102をなるべく近い位置に配置する。
図9は、理想的な状態として、同一のカメラグループ103a内の3台のカメラ102aa、102ab、102acを、それぞれの光学中心が重なるように配置した例である。カメラ102aaの撮影範囲が901aaである。カメラ102abの撮影範囲が901abである。カメラ102acの撮影範囲が901acである。カメラ102の撮影範囲901は、放射状に広がる。よって、光学中心が重なる場合は、撮影範囲901aa、901ab、901acが接するように、カメラ102aa、102ab、102acを配置することができる。撮影範囲901が重ならずに接することで、3台のカメラ102aa~102acで効率的に広い領域をカバーすることができる。しかし、実際は、カメラ102の物理的な制約により、光学中心が重なるように配置することはできない。よって、なるべく近い位置に配置することで、撮影範囲901の重なりを少なくする。
図8に戻り、例えば、カメラグループ103hに属する複数のカメラ102ha、102hb、102hcを、撮影対象領域503の中心703から見て、所定の角度801hの範囲内に配置する。例えば、カメラグループ103に属する複数のカメラ102を所定の距離以内に配置する。
別の観点から説明すると、それぞれのカメラ102を、他のカメラグループ103のカメラ102よりも、自分が属するカメラグループ103のカメラ102の近くに配置する。例えば、隣り合うカメラグループ103gと103hについて説明する。カメラグループ103gに、カメラ102ga、102gb、102gcが属するとする。また、カメラグループ103hに、カメラ102ha、102hb、102hcが属するとする。この場合に、カメラ102gcは、カメラ102ha、102hb、102hcよりも、カメラ102ga、102gbの近くに配置する。理由は次のとおりである。仮に、カメラ102gcをカメラ102haの近くに配置したとする。すると、カメラ102gcは、カメラグループ103hとは反対側に位置するカメラグループ103fのカメラ102との間隔が広くなり、仮想視点画像の画質が劣化する方向が生じるからである。
次に、図10~12を用いて、カメラグループ103に属する複数のカメラ102により撮影対象領域503の全域を撮影する一例を説明する。
図10は、カメラグループ103iについて、3台のカメラ102ia、102ib、102icにより、撮影対象領域503の全域を撮影する例である。カメラ102iaの撮影範囲が901iaである。カメラ102ibの撮影範囲が901ibである。カメラ102icの撮影範囲が901icである。撮影対象範囲とは、撮影画像における基準となる被写体の解像度が、下限解像度を超える領域に対応している。図10に示すように、これらの撮影範囲901ia、901ib、901icを合わせると、撮影対象領域503の全域が撮影される。例えば、カメラ102ibを真ん中に配置し、右にカメラ102iaを配置し、左にカメラ102icを配置し、3台のカメラ102が扇状に配置されている。結果として、それぞれの撮影範囲901ia、901ib、901icも扇型に広がる。
図10は、撮影対象領域503の面内方向について、カメラ102ia~102icの撮影範囲901ia~901icについて説明する図である。ただし、撮影対象領域は、フィールド501の所定の高さまでを含む3次元空間であってもよく、その場合は、フィールド501の所定の高さ方向を含めた撮影対象領域を撮影するようにカメラ102を配置する必要がある。なお、3台のカメラ102の光学中心の位置が一致しないため、例えば、撮影範囲901icと901ibの一部が重なっている。3台のカメラ102をなるべく近くに配置することで、撮影範囲901の重なりを減らし、より効率の良い配置が可能になる。つまり、カメラグループ103に必要なカメラ102の台数を減らすことができる。
ここで、カメラ102の光軸とスタジアム702のフィールド501との交点をカメラ102の注視点1001と定義する。図10で、カメラ102iaの注視点が1001iaである。カメラ102ibの注視点が1001ibである。カメラ102icの注視点が1001icである。図10に示すように、注視点1001の位置はすべて異なる。つまり、カメラグループ103に属する複数のカメラ102の注視点はすべて異なる。ただし、1つのカメラグループ103には、同一の注視点となるカメラ102が含まれていてもよい。
また、図10のカメラ102の配置例では、カメラ102ia~102icの光軸は、互いに異なる方向に向けられている。また、カメラ102ia~102icのそれぞれと、それぞれの注視点とを結ぶ線分のフィールド501への射影した線分は互いに交差しない。
図11は、別のカメラグループ103に属するカメラ102の配置の例を示す図である。カメラグループ103gには、6台のカメラ102ga、102gb、102gc、102gd、102ge、102gfが含まれている。このカメラ102ga、102gb、102gc、102gd、102ge、102gfによって、撮影対象領域503の全域が撮影されている。
図11(a)は、撮影対象領域503を上から見た図であり、撮影対象領域503の面内方向について、102ga、102gb、102gc、102gd、102ge、102gfの配置を示す図である。カメラ102gaについて、撮影範囲が901gaであり、注視点が1101gaである。カメラ102gb~102gfについても同様である。6台のカメラ102を、さらに2つのサブグループに分ける。1つ目のサブグループには、カメラ102ga、102gb、102gcが属し、配置領域701から見て、撮影対象領域503の手前側(カメラグループ103gの配置領域701gに近い側)を撮影するように配置する。2つ目のサブグループには、カメラ102gd、102ge、102gfが属し、配置領域701から見て、撮影対象領域503の奥側(カメラグループ103gの配置領域701gから遠い側)を撮影するように配置する。また、図11(a)に示すとおり、それぞれのサブグループ内のカメラ102は、撮影範囲901が扇型に広がるように配置されている。
図11(b)は、撮影対象領域503を横から見た図であり、撮影対象領域503の高さ方向について、カメラ102の配置を示す図である。図11(b)に示すとおり、撮影対象領域503の手前側を撮影するカメラ102ga、102gb、102gcと、撮影対象領域503の奥側を撮影するカメラ102gd、102ge、102gfとが、異なる高さに配置されている。例えば、撮影対象領域503の手前側を撮影するカメラ102gbは、奥側を撮影するカメラ102geに比べ、俯角が大きくなる。よって、撮影対象領域503の手前側を撮影するカメラ102gbを下側に配置することで、物理的に干渉することなく、より近くに配置することができる。つまり、カメラグループ103に属する複数のカメラ102をサブグループに分け、サブグループごとに高さを変えて配置してもよい。
図12は、カメラグループ103gに属するカメラ102の配置の別の例を示す図である。カメラグループ103gには、6台のカメラ102ga、102gb、102gc、102gd、102ge、102gfが含まれている。このカメラ102ga、102gb、102gc、102gd、102ge、102gfにより、撮影対象領域503の全域が撮影される。この例では、サブグループごとに位置が異なるように配置されている。例えば、配置領域701gが、2本の柱を含むように設定される。そして、その2本の柱それぞれに異なるサブグループが割り当てられる。例えば、撮影対象領域503から見て左の柱に、1つ目のサブグループに属するカメラ102ga、102gb、102gcが配置される。撮影対象領域503から見て右の柱に、2つ目のサブグループに属するカメラ102gd、102ge、102gfが配置される。つまり、カメラグループ103に属する複数のカメラ102をサブグループに分け、サブグループごとに位置を変えて配置してもよい。
下限解像度が異なれば、カメラグループ103ごとのカメラ102の台数は異なる。下限解像度を大きくすると、カメラ102の焦点距離を長くする必要がある。そして、焦点距離を長くすると、カメラ102の撮影範囲901が狭くなる。よって、撮影対象領域503の全域を撮影するために必要なカメラ102の台数が増加する。逆に、下限解像度を小さくすると、カメラ102の焦点距離を短くすることができる。焦点距離を短くすると、カメラ102の撮影範囲901が広くなる。よって、撮影対象領域503の全域を撮影するために必要なカメラ102の台数が減少する。
ステップS406で、配置決定部306は、S405で決定したカメラグループ103ごとに決定したカメラ102の台数を合計し、マルチカメラシステム101に必要なカメラ102の台数を決定する。
ステップS407で、配置決定部306は、ステップS406で計算したカメラの台数に問題が無いかを判定する。具体的には、配置決定部306は、カメラの台数が所定の台数より多い、あるいは少ない場合に問題があると判定する。問題がない(YES)と判定した場合は処理を終了する。問題がある(NO)と判定した場合はステップS408に進む。なお、所定の台数は、予算によって設定されてもよいし、仮想視点画像生成装置106の処理能力や、撮影した画像を伝送する際の伝送帯域容量など、を基に設定されてもよい。
ステップS408で、配置決定部306は、どの配置条件を変更するかを決定する。変更可能な配置条件は、撮影対象領域503、下限解像度、カメラグループ103の数のいずれかである。なお、変更する配置条件は、配置決定部306により自動的に決定されてもよいし、オペレータが操作部206を介して、直接入力されてもよい。なお、配置決定部306により自動的に決定される場合であっても、予めオペレータが変更する配置条件に優先度を設定したり、予めどの配置条件を変更するか指定するようにしてもよい。
ステップS409で、配置決定部306は、変更する配置条件が撮影対象領域503であるか否かを判定する。撮影対象領域503の場合(YES)は、ステップS410へ進む。そうでない場合(NO)は、ステップS411へ進む。
ステップS410で、撮影対象領域取得部304は、撮影対象領域503を変更する。ステップS407で問題があると判定した理由が、「カメラの台数が多い」ことである場合は、撮影対象領域503を狭くするように変更する。逆に、「カメラの台数が少ない」ことである場合は、撮影対象領域503を広くするように変更する。撮影対象領域取得部304により撮影対象領域503が変更されると、ステップS405へ進み、変更された撮影対象領域503に基づいて、配置決定部306は、カメラ102の台数及び配置を再度決定する。なお、撮影対象領域取得部304は、オペレータから、操作部206を介して、撮影対象領域を取得するようにしてもよい。
ステップS411で、配置決定部306は、変更する配置条件が下限解像度であるか否かを判定する。下限解像度の場合(YES)は、ステップS412へ進む。そうでない場合(NO)は、ステップS413へ進む。
ステップS412で、許容値取得部303が、下限解像度を変更する。ステップS407で問題が有ると判定した理由が、「カメラの台数が多い」ことである場合は、下限解像度を小さくするように変更する。逆に、「カメラの台数が少ない」ことである場合は、下限解像度を大きくするように変更する。許容値取得部303により下限解像度が変更された後、ステップS405へ進み、変更された下限解像度に基づいて、配置決定部306は、カメラ102の台数及び配置を再度決定する。なお、許容値取得部303は、オペレータから、操作部206を介して、下限解像度を取得するようにしてもよい。
ステップS413で、カメラグループ数取得部305は、カメラグループ103の数を変更する。ステップS407で問題があると判定した理由が、「カメラの台数が多い」ことである場合は、カメラグループ103の数を減らすように変更する。逆に、「カメラの台数が少ない」ことである場合は、カメラグループ103の数を増やすように変更する。カメラグループ数取得部305によりカメラグループ103の数が変更された後、ステップS404へ進み、配置決定部306は、カメラグループ103の配置領域701を再度決定する。そして、ステップS405に進み、配置決定部306は、カメラ102の台数及び配置を再度決定する。なお、カメラグループ数取得部305は、オペレータから、操作部206を介して、カメラグループ数を取得するようにしてもよい。
配置決定装置108が決定した配置の効果について、図13を用いて説明する。それぞれのカメラグループ103は、撮影対象領域503の全域が撮影されるように、属する複数のカメラ102が配置される。つまり、撮影対象領域503の中の任意の位置の被写体が、それぞれのカメラグループ103において、少なくとも1台のカメラ102から撮影されることになる。1301の位置にいる被写体について考える。カメラグループ103aにおいて、カメラ102aaが1301の位置の被写体を撮影する。カメラグループ103bにおいて、カメラ102baが1301の位置の被写体を撮影する。以下同様である。言い換えると、カメラグループ103の数と同数のカメラ102から、撮影対象領域503の中の任意の位置の被写体が撮影されることになる。また、それぞれのカメラグループ103の配置領域701は、なるべく等間隔になるように決定されている。つまり、撮影対象領域503の中の任意の位置の被写体について、画質のよい仮想視点画像を生成することが可能である。
<実施形態2>
本実施形態において、実施形態1とは異なる配置決定装置1600の例について説明する。図16に、本実施形態における配置決定装置1600の機能構成例を示す。図16に示すように、配置決定装置1600は、図3の許容値取得部303の代わりに、カメラ台数取得部1601を有している。また、配置決定装置1600は、図3の配置決定部306に代わりに、配置決定部1602を有している。なお、配置決定装置108のハードウェア構成は、図2と同じであるため省略する。
カメラ台数取得部1601は、操作部206を介して、オペレータから直接、マルチカメラシステム101が有するカメラ102の台数を取得する。例えば、仮想視点画像生成装置106の処理性能を基に、カメラ102の台数が設定されてもよい。仮想視点画像生成装置106の処理性能が高いほど、より多くの画像を処理することができる。つまり、仮想視点画像生成装置106の処理性能が高いほど、カメラ102の台数をより多い値に設定することができる。また、予算に基づいてカメラ102の台数が設定されてもよい。カメラ102の台数を増やすと、配置に必要な費用が増える。つまり、予算が大きいほど、カメラ102の台数をより多い値に設定することができる。
また、カメラ台数取得部1601は、以下の構成でもよい。すなわち、カメラ台数取得部1601は、イベント情報の一つであるイベントの規模や被写体の密集度とカメラ102の台数とを対応付けて、その対応を示す表を記憶しておく。そして、カメラ台数取得部1601は、操作部206を介してオペレータからイベントを特定する情報の入力を受け付けると、イベント情報記憶部301に記憶されているイベント情報とその表を参照し、カメラ102の台数を取得するようにしてもよい。例えば、イベントの規模が大きい場合は、小さい場合に比べ、カメラ102の台数がより多くなるように決定される。また、被写体の密集度が大きい場合は、被写体の密集度が小さい場合に比べて、カメラ102の台数がより多くなるように決定される。
配置決定部1602は、カメラ102の台数、撮影対象領域503、カメラグループ数、会場情報に基づいて、カメラ102の配置を決定する。カメラ102の台数はカメラ台数取得部1601により取得され、撮影対象領域503は、撮影対象領域取得部304により取得され、カメラグループ数は、カメラグループ数取得部305により取得される。
図14は、配置決定装置108の処理手順の一例を示すフローチャートである。ステップS402~ステップS404は、図4と同じ処理であるので、説明は省略する。
ステップS1401で、カメラ台数取得部1601が、カメラ102の台数を取得する。例えば、仮想視点画像生成装置106の処理性能を基に、カメラ102の台数が設定されてもよい。仮想視点画像生成装置106の処理性能が高いほど、より多く画像を処理することができる。つまり、仮想視点画像生成装置106の処理性能が高いほど、カメラ102の台数をより多い値にすることができる。例えば、予算に基づいて、カメラ102の台数が設定されてもよい。カメラ102の台数を増やすと、配置に必要な費用が増える。つまり、予算が大きいほど、カメラ102の台数をより多い値にすることができる。
ステップS1402で、配置決定部1602が、ステップS1401で取得した台数のカメラ102を、ステップS403で取得した数のカメラグループ103に割り当てる。カメラグループ103に必要なカメラ102の台数は、ステップS402で取得した撮影対象領域503と、配置領域701の関係によって変化する。例えば、図15に示すように、配置領域701から見た撮影対象領域503を角度1501で表す。配置領域701aから見た撮影対象領域503の角度1501が1501aである。そして、その角度1501に応じて、カメラグループ103にカメラ102を割り当てる。つまり、配置領域701から見た撮影対象領域503の角度1501が大きいカメラグループ103に、より多くのカメラ102を割り当てる。
ステップS1403で、配置決定部1602は、ステップS1402で割り当てたカメラグループ103ごとのカメラ102の台数と会場情報とに基づいて、カメラグループ103ごとに、カメラ102の配置を決定する。具体的なカメラ102の配置は、撮影対象領域503の全域が撮影されるように決定される。さらに、カメラ102は、撮影対象領域503の全域で、解像度がなるべく高くなるように配置する。
ステップS1404で、配置決定部1602は、カメラグループ103ごとに、撮影対象領域503の全域において解像度を計算する。カメラ102の撮影範囲に重なる領域では複数のカメラ102から被写体が撮影される。その場合は、解像度が大きいカメラ102の値を解像度とする。
ステップS1405で、配置決定部1602は、ステップS1404で計算された解像度に問題がないかを判定する。例えば、解像度が所定の値よりも小さい領域が撮影対象領域503内にある場合に問題があると判定される。問題がない(YES)と判定された場合は処理を終了する。問題がある(NO)と判定された場合はステップS1406へ進む。
ステップS1406で、配置決定部1602は、どの配置条件を変更するかを決定する。変更可能な配置条件は、撮影対象領域503とカメラグループ103の数のいずれかである。
ステップS1407で、配置決定部1602は、変更する条件が撮影対象領域503であるか否かを判定する。変更する条件が撮影対象領域503である場合(YES)は、ステップS1408へ進む。変更する条件が撮影対象領域503ではない場合(NO)は、ステップS1409へ進む。
ステップS1408で、撮影対象領域取得部304は、撮影対象領域503を変更する。具体的には、撮影対象領域取得部304は、計算される解像度がより高くなるように、撮影対象領域503を狭くするように変更する。撮影対象領域取得部304により撮影対象領域503が変更された後、ステップS404へ進み、配置決定部306は、カメラグループ103の配置領域701を再度決定する。そして、ステップ1402、S1403に進み、配置決定部306は、カメラ102の台数及び配置を再度決定する。なお、撮影対象領域取得部304は、オペレータから、操作部206を介して、撮影対象領域を取得するようにしてもよい。
ステップS1409で、カメラグループ数取得部305は、カメラグループ103の数を変更する。具体的には、カメラグループ数取得部305は、計算される解像度をより高くするように、カメラグループ103の数を減らすように変更する。カメラグループ103の数を減らすと、カメラグループ103に割り当てられるカメラ102の台数が増え、解像度が高くなるからである。カメラグループ数取得部305によりカメラグループ103の数が変更された後、ステップS404へ進み、配置決定部306は、カメラグループ103の配置領域701を再度決定する。そして、ステップS1402、S1403に進み、配置決定部306は、カメラ102の台数及び配置を再度決定する。なお、カメラグループ数取得部305は、オペレータから、操作部206を介して、カメラグループ数を取得するようにしてもよい。
本実施形態においても、実施形態1と同様の効果を得ることができる。つまり、カメラグループ103の数と同数のカメラ102から、撮影対象領域503の中の任意の位置の被写体が撮影されることになる。また、それぞれのカメラグループ103の配置領域701は、なるべく等間隔になるように決定されている。つまり、撮影対象領域503の中の任意の位置の被写体について、画質のよい仮想視点画像を生成することが可能である。
<実施形態3>
本実施形態において、実施形態1とは異なる配置決定装置1800の例について説明する。図18に、本実施形態における配置決定装置1800の機能構成例を示す。図18に示すように、配置決定装置1800は、イベント情報記憶部1801、会場情報記憶部1802、許容値取得部1803、撮影対象領域取得部1804、カメラグループ数取得部1805、配置決定部1806を有する。更に、配置決定装置1800は、種別取得部1807、領域設定部1808、レベル情報設定部1809、グループ数設定部1810を有する。ただし、種別取得部1807、領域設定部1808、レベル情報設定部1809、グループ数設定部1810は、イベント情報を生成するために用いられる機能部であり、配置決定装置は、それらの機能部を有していなくてもよい。つまり、イベント情報記憶部1801に種別取得部1807、領域設定部1808、レベル情報設定部1809、グループ数設定部1810により生成されたイベント情報が記憶されていれば、そのイベント情報から、カメラの配置を決定することができる。なお、配置決定装置1800のハードウェア構成は、図2と同じであるため省略する。以下では、実施形態1と異なる点を中心に説明を行う。
本実施形態においては、複数のカメラにより撮影の対象となる空間(例えば、図5(b)の空間504)に対して、複数の空間を定義し、定義された複数の空間それぞれを撮影対象領域とする。そして、本実施形態における配置決定装置1800は、複数の撮影対象領域に対して、カメラグループの数と配置、及び各カメラグループのカメラの数と配置を決定する。ただし、複数の撮影対象領域のうちの全部の撮影対象領域に対して、本実施形態を適用する必要はなく、そのうちの一つに対して本実施形態を適用するようにしてもよい。
定義される複数の空間は、いずれも複数のカメラにより撮影の対象となる空間(図5(b)の空間504)に含まれる。また、定義される複数の空間は、互いに排他的に定義されてもよい。つまり、図5(b)の空間504を分割する複数の空間で構成されるように、複数の空間が定義されてもよい。また、定義される複数の空間のうち、任意の2つの空間が一部重なっていてもよし、さらに一方の空間が他方の空間に包含されていてもよい。
種別取得部1807は、イベントに登場する主となる前景(被写体)の種別と、その移動範囲を取得する。種別取得部1807は、操作部206を介して、オペレータにより、被写体の種別とその移動範囲に関する情報が入力されることで、その情報を取得する。この情報の例を図19(a)に示す。ここでは、イベントとしてラグビーを想定し、主となる被写体の種別として人物(選手)と、ボールが入力され、人物については、静止人物と動く人物に分けて入力された例を示している。さらに、それぞれの被写体が移動する範囲が、被写体の種別と対応して入力される。ここで、移動範囲は、ラグビーの試合中に人物やボールが存在する可能性がある範囲を示している。例えば、静止人物の移動範囲とは、静止人物が存在する可能性のある範囲を示すものである。そのため、静止人物の移動範囲は、フィールドの縦や横の長さとほぼ同等の長さとなる。高さ方向は、例えば選手の身長(例えば2m)と同等となる。一方、動く人物の移動範囲は、静止人物の移動範囲より広くなる。例えば、高さ方向について、ラグビーではラインアウトによるスローインで選手が別の選手をリフトすることがあるため、静止人物の移動範囲より動く人物の移動範囲の方が広くなる。具体的には、高さが5m程度になる。ボールの移動範囲は、更に広くなる。例えば、ラグビーでは蹴ったボールが高く上がるため、ボールの移動範囲の高さを20mとする。また、縦や横方向、つまり、フィールドの面内方向においても、動く人物やボールは静止人物よりも移動範囲が広くなる。
種別取得部1807が取得した情報は、領域設定部1808に出力され、またイベント情報記憶部1801にも出力されて、イベント情報記憶部1801により記憶される。具体的には、イベント情報記憶部1801は、図19(a)で示される表を記憶する。ただし、イベント情報記憶部1801は、図19(a)の表以外の形式で、種別取得部1807より出力された情報を記憶してもよい。
なお、図19(a)に示された情報を入力する上で、オペレータは、実施形態1と同様に、イベントの種別やその他のイベントが特定できる情報、フィールドの大きさの情報、被写体の密集度の情報、仮想視点画像の用途に関する情報を入力する。ただし、配置決定装置1800を特定のイベントにしか使用しない場合は、イベントの種別やその他のイベントが特定できる情報の入力を省略することができる。
領域設定部1808は、種別取得部1807により取得された被写体の種別とその移動範囲を示す情報に基づき、複数の撮影対象領域を設定する。ただし、複数の撮影対象領域のうち、任意の2つ以上の撮影対象領域の一部が部分的に重複していてもよい。図20(a)、(b)は、3つの撮影対象領域を設定した例の撮影対象領域の関係を示す。図20(a)は、フィールドを上から見た模式図であり、3つの撮影対象領域の縦と横の大きさの関係を示している。また、図20(b)は、フィールドを横から見た図であり、3つの撮影対象領域の高さの関係を示している。ここでは、第1撮影対象領域2001は静止人物の移動範囲に対応し、第2撮影対象領域2002は、動く人物の移動範囲に対応し、第3撮影対象領域2003はボールの移動範囲に対応する。第1撮影対象領域2001、第2撮影対象領域2002、第3撮影対象領域2003は、この順で範囲が広くなっている。また、第1撮影対象領域2001は、第2撮影対象領域2002に含まれ、第2撮影対象領域2002は、第3撮影対象領域2003に含まれている。ただし、第1撮影対象領域2001の全部ではなく一部が、第2撮影対象領域2002に含まれるようにしてもよい。第2撮影対象領域2002の全部ではなく一部が、第3撮影対象領域2003に含まれるようにしてもよい。
領域設定部1808で設定された複数の撮影対象領域を示す情報は、レベル情報設定部1809に出力され、イベント情報記憶部1801にも出力され、イベント情報記憶部1801により記憶される。
なお、領域設定部1808は、静止人物と動く人物の移動範囲に対して同じ撮影対象領域を対応させるように撮影対象領域を設定してもよい。具体的には、領域設定部1808は、図20(a)、(b)の第1撮影対象領域2001を設定せず、残りの第2撮影対象領域2002と第3撮影対象領域2003を設定してもよい。
レベル情報設定部1809は、領域設定部1808により設定された複数の撮影対象領域のそれぞれに対して、3次元形状データの品質の要求レベルと、下限解像度の要求レベルを設定する。レベル情報設定部1809は、操作部206を介して、オペレータによる入力を受け付けて、その要求レベルを設定する。各撮影対象領域に対応する3次元形状データの品質の要求レベルと下限解像度の要求レベルの例を、図19(b)に示す。ここでは、3次元形状データの品質の要求レベルと下限解像度の要求レベルを「高」、「中」、「低」の3段階で定義する。なお、下限解像度の要求レベルは、実施形態1で示したように、下限解像度を表す画素数で定義されてもよい。
第1撮影対象領域2001の主たる被写体は、静止人物である。静止人物に対しては、仮想視点画像において、高画質に表示することで、仮想視点画像の画質を向上させることができる。そのため、レベル情報設定部1809は、静止人物の移動範囲に対応する第1撮影対象領域2001に対しては、3次元形状データの品質の要求レベル、及び、下限解像度の要求レベルを、「高」と設定する。なお、下限解像度の要求レベルが「高」とは、少なくとも顔の顔立ちや輪郭が明確になるレベルを意味する。具体的な数値例として、撮影画像において2mの高さに対する画素数を400画素に設定されることが挙げられる。これは少なくとも0.5cm/画素の分解能を要求することに相当する。
第2撮影対象領域2002の主たる被写体は、動く人物である。動く人物は、静止人物とは異なり移動しているため、その画質は、静止人物の画質に比べて低くても許容されうる。そのため、第2撮影対象領域2002に対する3次元形状データの品質の要求レベル、及び下限解像度レベルは、「中」に設定される。具体的な下限解像度レベルの数値例として、撮影画像において2mの高さに対する画素数を200画素に設定されることが挙げられる。
第3撮影対象領域2003の主たる被写体は、ボールである。ラグビーにおいてボールは、人物よりも速く移動することが可能であり、また人物よりも小さいため、その画質は、動く人物の画質と比べ、低くても許容されうる。
なお、図19(b)では、一つの撮影対象領域に対する、3次元形状データの品質の要求レベルと下限解像度の要求レベルが同じレベルであるが、イベントによっては3次元形状データの品質の要求レベルと下限解像度の要求レベルが同じレベルでなくてもよい。例えば、一つの撮影対象領域に対する3次元形状データの品質の要求レベルが「高」で、その撮影対象領域に対する下限解像度の要求レベルが「低」となっても構わない。
レベル情報設定部1809で設定された情報は、グループ数設定部1810とイベント情報記憶部1801に出力され、イベント情報記憶部1801により記憶される。具体的には、イベント情報記憶部1801は、図19(b)で示される表を記憶する。ただし、イベント情報記憶部1801は、図19(b)の表以外の形式で、種別取得部1807より出力された情報を記憶してもよい。
グループ数設定部1810は、レベル情報設定部1809により設定された3次元形状データの品質の要求レベルからカメラグループ103の数を設定する。3次元形状データは、カメラグループ数が大きければ大きいほど、その精度が向上する。そのため、要求レベルが高いほど、カメラグループの数を大きくするようにする。各撮影対象領域とカメラグループ数を、図19(c)に示す。ここでは、3次元形状データの品質の要求レベルが「高」であれば、カメラグループ数を「24」、「中」であれば「12」、「低」であれば「8」と設定された例が示されている。グループ数設定部1810で設定された情報は、イベント情報記憶部1801にも出力され、イベント情報記憶部1801により記憶される。具体的には、イベント情報記憶部1801は、図19(c)で示される表を記憶する。ただし、イベント情報記憶部1801は、図19(c)の表以外の形式で、種別取得部1807より出力された情報を記憶してもよい。
グループ数設定部1810は、カメラグループ数を、3次元形状データの品質の要求レベルに基づいて一意に設定してもよいが、被写体の密集度にも基づいて設定してもよい。ラグビーの例では、第1撮影対象領域2001では、スクラムやモールなどのプレイが発生するため密集度が高いが、第2撮影対象領域2002、第3撮影対象領域2003では、密集度は低い。この点も考慮して、グループ数設定部1810は、カメラグループ数を設定する。すなわち、グループ数設定部1810は、密集度が高いほどカメラグループ数を多くするように設定する。
イベント情報記憶部1801は、撮影対象のイベントに関する情報を記憶する。イベント情報は、実施形態1で示した情報の他、イベントごとに設定された、被写体の種別を示す情報、撮影領域を示す情報、撮影領域ごとの被写体の密集度の情報などを含んでいてもよい。
会場情報記憶部1802は、複数のカメラ102を配置する会場に関する情報を記憶する。会場情報は、実施形態1で示した情報と同様の情報である。
許容値取得部1803は、所定の基準となる被写体をカメラ102が撮影した際に、その被写体の画像中の大きさである解像度の下限値を設定する。具体的には、イベント情報の一つである、イベントごとに設定された複数の撮影対象領域と下限解像度の要求レベルとの対応関係を示す情報に基づいて、許容値取得部1803は、撮影対象領域のそれぞれに下限値を設定する。イベントごとに設定された複数の撮影対象領域と下限解像度の要求レベルとの対応関係を示す情報は、図19(b)で示すような対応表として、イベント情報記憶部1801に記憶されていてもよいし、外部の記憶装置に記憶されていてもよい。これにより、許容値取得部1803は、操作部206を介してオペレータからイベントを特定できる情報の入力を受け付けると、そのイベントに設定された複数の撮影対象領域に対して、下限解像度を設定する。
また、許容値取得部1803は、操作部206を介して、オペレータから直接、下限解像度の数値等の情報を取得してもよい。
撮影対象領域取得部1804は、イベント情報に基づいて、そのイベントに対応する複数の撮影対象領域を決定する。具体的には、撮影対象領域取得部1804は、次のような構成とすればよい。すなわち、まず、撮影対象領域取得部1804はイベント情報の少なくとも一部の情報と複数の撮影対象領域を表す情報とが対応付けた表を記憶する。イベント情報の少なくとも一部の情報とは、被写体の種別を示す情報、被写体の移動範囲の情報、フィールドの大きさの情報などである。そして、撮影対象領域取得部1804は、操作部206を介してオペレータからイベントを特定できる情報の入力を受け付けると、イベント情報記憶部1801に記憶されているイベント情報とその表を参照し、複数の撮影対象領域を決定する。なお、参照される表は、被写体の種別の情報と被写体の移動範囲の情報と複数の撮影対象領域の情報とが対応付けられていればよいが、これに限られない。上記以外のイベント情報と撮影対象領域の情報とが対応付けられていてもよい。また、参照される表は、イベントの名称等のイベントを特定できる情報と複数の撮影対象領域とが対応付けられていてもよい。また、参照される表は、イベント情報記憶部1801に記憶されていてもよいし、外部の装置に記憶されていてもよい。
また、撮影対象領域取得部1804は、操作部206を介して、オペレータから直接、撮影対象領域の情報を取得してもよい。
カメラグループ数取得部1805は、イベント情報とカメラグループ103の数とが対応付けられた表を参照して、カメラグループを設定するようにしてもよい。つまり、カメラグループ数取得部305は、操作部206を介してイベントを特定できる情報の入力を受け付けると、イベント情報記憶部1801に記憶されているイベント情報とその表とを参照し、撮影対象領域ごとにカメラグループ103の数を取得する。参照される表の一例を図19(c)に示す。なお、参照される表は、撮影対象領域の情報とカメラグループ103の数の情報とが対応付けられていればよいが、これに限られない。また、参照される表は、イベント情報記憶部1801に記憶されていてもよいし、外部の装置に記憶されていてもよい。
また、カメラグループ数取得部1805は、操作部206を介して、オペレータから直接、カメラグループ103の数の情報を取得してもよい。
配置決定部1806は、下限解像度、複数の撮影対象領域、撮影対象領域ごとのカメラグループ数、会場情報に基づいて、カメラ102の配置を決定する。下限解像度は許容値取得部1803により取得され、複数の撮影対象領域は、撮影対象領域取得部1804により取得され、カメラグループ数は、カメラグループ数取得部1805により取得される。また、会場情報は、会場情報記憶部302に記憶されている。配置決定部306は、操作部206を介して入力された会場を特定するための情報に基づいて、会場情報記憶部302から、必要な会場情報を取得する。例えば、取得する会場情報は、会場内でのカメラ102を配置可能な構造体とその位置に関する情報や、配置可能なカメラ102の台数の情報などである。
配置決定部1806は、まず、複数の撮影対象領域のそれぞれに対して、実施形態1と同様に、カメラグループ数と、会場情報とを基に、カメラグループ103の配置位置を決定する。次に、配置決定部306は、カメラグループ103ごとに、属する複数のカメラ102の配置を決定する。その際、配置決定部306は、カメラグループ103に属する複数のカメラ102により撮影対象領域のそれぞれの全域が撮影されるように、各カメラグループ103に属する複数のカメラ102の配置を決定する。つまり、第1撮影対象領域2001のカメラグループ103に属する複数のカメラ102により、第1撮影対象領域2001の全域が撮影されるように、このカメラグループ103に属する複数のカメラ102の配置が決定される。第2撮影対象領域2002のカメラグループ103に属する複数のカメラ102や、第3撮影対象領域2003のカメラグループ103に属する複数のカメラ102も同様に、配置が決定される。
さらに、配置決定部1806は、カメラグループ103に属する複数のカメラ102において、撮影対象領域のそれぞれの全域で、解像度が下限解像度を上回るように、複数のカメラ102の配置を決定する。なお、各撮影対象領域に対応する全カメラグループ103で、上記の撮影対象領域に関する条件、解像度に関する条件を満たすように、複数のカメラ102の配置が決定されるとしたが、これに限られない。例えば、所定数のカメラグループ103に属する複数のカメラ102だけが上記の条件を満たすように、複数のカメラ102の配置が決定されてもよい。また、所定の位置にあるカメラグループ103や所定の関係にあるカメラグループ103が上記の条件を満たすように、そのカメラグループ103に属する複数のカメラ102の配置が決定されてもよい。つまり、一部のカメラグループ103に属する複数のカメラ102によって、各撮影対象領域の全域ではなく一部が撮影されるように、その複数のカメラ102が配置されていてもよい。さらに、一部のカメラグループ103に属する複数のカメラ102において、各撮影対象領域の一部の領域で、解像度が下限解像度を上回らなくてもよい。
図21は、配置決定装置1800の処理手順の一例を示すフローチャートである。図21を用いて配置決定装置1800が行う処理について説明を行う。
まず、配置決定装置1800は、操作部206を介してオペレータからの配置決定の指示を受け付ける。そして、ステップS2101において撮影対象領域取得部1804は、複数の撮影対象領域を決定して取得する。具体的には、操作部206を介してオペレータから入力されるイベントを特定できる情報と、予め記憶された表とに基づいて、複数の撮影対象領域が決定される。複数の撮影対象領域としては、図20で示すように第1撮影対象領域2001、第2撮影対象領域2002、第3撮影対象領域2003が設定される。
次に、ステップS2102において、許容値取得部1803は、3次元形状データの品質の要求レベルと下限解像度のレベルを取得する。許容値取得部1803は、操作部206を介してオペレータから入力されるイベントを特定できる情報と、予め記憶された表とに基づいて、撮影対象領域ごとに、3次元形状データの品質の要求レベルと下限解像度のレベルを決定して取得する。
次に、ステップS2103で、カメラグループ数取得部1805は、撮影対象領域ごとにカメラグループ103の数を決定して取得する。カメラグループ103の数は、仮想視点画像生成装置106が生成する3次元形状データの品質の要求レベルに応じて決定される。この3次元形状データの生成に必要な方向の数は、3次元形状データの品質の要求レベルによって変化する。つまり、3次元形状データの品質の要求レベルが高い場合、つまり、3次元形状データの精度を高くする場合、多くの方向から撮影することが必要になるため、カメラグループ103の数は多くなる。一方、3次元形状データの品質の要求レベルが低い場合、3次元形状データの精度が低くてもよいため、撮影方向を少なくしてもよく、その結果、カメラグループ103の数を少なくすることができる。
カメラグループ数取得部1805は、カメラグループ数取得部1805は、3次元形状データの品質の要求レベルと必要な方向の数(つまり、カメラグループの数)とを対応付けて表を参照することで、カメラグループの数を決定することができる。3次元形状データの品質の要求レベルと撮影対象領域とが対応しているため、ここでは、3次元形状データの品質の要求レベルではなく撮影対象領域とカメラグループの数を対応させた表(図19(c))を参照することで、カメラグループの数が決定される。
以下、例として、第1撮影対象領域2001、第2撮影対象領域2002、第3撮影対象領域2003ぞれぞれのカメラグループ103の数を30,24,10と決定したとする。また、カメラグループ103の配置領域もこの処理で決定されてもよいが、本実施形態では、次のステップS2104で決定される例を示す。
ステップS2104で、配置決定部1806は、カメラグループ数及び会場情報に基づいて、撮影対象領域ごとにカメラグループ103の配置領域を決定する。なお、この処理は、複数の撮影対象領域のそれぞれに対して、図4のS404と同様の処理を行ことに相当するため、説明を省略する。
ステップS2105で、配置決定部1806は、カメラグループ103の配置領域と、下限解像度要求レベルと、に基づいて、各撮影対象領域のカメラグループ103ごとに、カメラグループ103に属する2以上のカメラ102の台数及び配置を決定する。この処理は、複数の撮影対象領域のそれぞれに対して、図4のS405と同様の処理を行ことに相当するため、説明を省略する。また、配置決定部1806により決定されるカメラ102の配置についても実施形態1と同様である。
ステップS2106で、配置決定部1806は、S2105で、各撮影対象領域のカメラグループ103ごとに決定したカメラ102の台数を合計し、マルチカメラシステム101に必要なカメラ102の台数を決定する。
ステップS2107は、配置決定部1806は、ステップS2106で計算したカメラの台数に問題が無いかを判定する。なお、ステップS2107は図4のS407と同様の処理のため、詳細な説明は省略する。問題がない(YES)と判定した場合は処理を終了する。問題がある(NO)と判定した場合はステップS2108に進む。
ステップS2108で、配置決定部1806は、どの配置条件を変更するかを決定する。変更可能な配置条件は、撮影対象領域、下限解像度、カメラグループ103の数のいずれかである。ステップS2108は図4のS408と同様の処理のため、詳細な説明は省略する。
ステップS2109で、配置決定部1806は、変更する配置条件が撮影対象領域であるか否かを判定する。撮影対象領域の場合(YES)は、ステップS2110へ進む。そうでない場合(NO)は、ステップS2111へ進む。
ステップS2110で、撮影対象領域取得部1804は、撮影対象領域を変更する。なお、複数の撮影対象領域のうち1以上の撮影対象領域を変更する。つまり、撮影対象領域のすべてを変更しなくてもよい。ステップS2107で問題があると判定した理由が、「カメラの台数が多い」ことである場合は、複数の撮影対象領域のうち1以上の撮影対象領域を狭くするように変更する。逆に、「カメラの台数が少ない」ことである場合は、複数の撮影対象領域のうち1以上の撮影対象領域を広くするように変更する。撮影対象領域取得部1804により撮影対象領域が変更されると、ステップS2105へ進み、変更された撮影対象領域を含む複数の撮影対象領域に基づいて、配置決定部1806は、カメラ102の台数及び配置を再度決定する。なお、撮影対象領域取得部1804は、オペレータから、操作部206を介して、撮影対象領域を取得するようにしてもよい。
ステップS2111で、配置決定部1806は、変更する配置条件が下限解像度であるか否かを判定する。下限解像度の場合(YES)は、ステップS2112へ進む。そうでない場合(NO)は、ステップS2113へ進む。
ステップS2112で、許容値取得部1803が、下限解像度要求レベルを変更する。問題が有ると判定した理由が「カメラの台数が多い」ことである場合は、1つ以上の撮影対象領域の下限解像度要求レベルを小さくするように変更する。逆に、問題が有ると判定した理由が「カメラの台数が少ない」ことである場合は、1つ以上の撮影対象領域の下限解像度要求レベルを大きくするように変更する。許容値取得部1803により下限解像度が変更された後、ステップS2105へ進み、配置決定部1806は、カメラ102の台数及び配置を再度決定する。なお、許容値取得部1803は、オペレータから、操作部206を介して、下限解像度要求レベルを取得するようにしてもよい。
ステップS2113で、カメラグループ数取得部1805は、カメラグループ103の数を変更する。ステップS2107で問題があると判定した理由が「カメラの台数が多い」ことである場合は、1つ以上の撮影対象領域のカメラグループ103の数を減らすように変更する。逆に、問題があると判定した理由が「カメラの台数が少ない」ことである場合は、1つ以上の撮影対象領域のカメラグループ103の数を増やすように変更する。カメラグループ数取得部1805によりカメラグループ103の数が変更された後、ステップS2104へ進み、配置決定部1806は、カメラグループ103の配置領域を再度決定する。そして、ステップS2105に進み、配置決定部1806は、カメラ102の台数及び配置を再度決定する。なお、カメラグループ数取得部1805は、オペレータから、操作部206を介して、カメラグループ数を取得するようにしてもよい。
本実施形態によれば、実施形態1と同様の効果を奏する。つまり、撮影対象領域のカメラグループ103それぞれは、対応する撮影対象領域の全域が撮影されるように、そのカメラグループ103に属する複数のカメラ102が配置される。このため、撮影対象領域の中の任意の位置の被写体が、それぞれのカメラグループ103において、少なくとも1台のカメラ102から撮影されることになる。そして、カメラグループ103の数と同数のカメラ102から、撮影対象領域の中の任意の位置の被写体が撮影されることになる。また、それぞれのカメラグループ103の配置領域は、なるべく等間隔になるように決定されている。つまり、撮影対象領域の中の任意の位置の被写体について、画質のよい仮想視点画像を生成することが可能である。
また、本実施形態では、被写体の種別とその移動範囲により、画像における解像度の要求レベルが、複数ある場合、その複数の要求レベルのそれぞれに対して、撮影対象領域を設定している。そして、その撮影対象領域ごとに、カメラグループ103の数及び配置、そしてカメラグループ内のカメラ102の数及び配置を決定することで、被写体の種別に応じた、適切なカメラの数を適切な位置に配置することができる。例えば、実施形態1の図5の空間504と図20の第3撮影対象領域2003とが同じ場合、実施形態1よりも、カメラ102の数を削減することができる。その理由は、実施形態1では、被写体の種別や移動範囲によらず一律にカメラグループ103の数、カメラ102の数を決定しているからである。例えば、実施形態1では、地上から離れた領域、具体的には、第2撮影対象領域2002に含まれない第3撮影対象領域2003の領域においても、カメラグループに属する全カメラで撮影するようにするため、カメラ102の数が多くなる。ただし、その領域は、ボールのみが被写体となるため、3次元形状データの品質の要求レベルが低くてもよく、高い解像度で撮影する必要がない。そのため、本実施形態によれば、その点を考慮して、その領域を撮影するカメラグループ103の数を削減し、さらに、そのカメラグループ103に属するカメラ102の数も削減している。
なお、実施形態3において、例えば、第1撮影対象領域2001と第2撮影対象領域とで、1以上のカメラグループを共有させてもよい。その場合、よりカメラ102の数を削減することができる。この場合、以下のような処理が行われる。すなわち、S404の処理が以下のように行われる。配置決定部1806は、第1撮影対象領域2001に対してカメラグループ103の配置を決定する。また、配置決定部1806は、第2撮影対象領域2002に対してカメラグループ103の配置を決定する。そして、第1撮影対象領域2001に対して決定されたカメラグループ103のうち、第2撮影対象領域2002に対して決定されたカメラグループ103と位置が近いカメラグループ103があるか判定する。第1撮影対象領域2001のカメラグループ103のうち、第2撮影対象領域2002に対して決定されたカメラグループ103と位置が近いカメラグループ103がある場合、そのカメラグループ103を第1撮影対象領域2001から除くようにする。カメラグループ103に属するカメラ102の数や配置は、そのカメラグループ103に対応する撮影対象領域に基づいて、下限解像度要求レベルや3次元形状データの品質の要求レベルに従い決定される点は、上記の説明と変わらない。例えば、第1撮影対象領域2001に対して、図7で示すような12のカメラグループ701a~701lが決定されたとする。一方、第2撮影対象領域2002に対して、図7で示すようなカメラグループ701b、701d、701f、701h、701j、701kに近い位置が決定されたとする。その場合、カメラグループ701b、701d、701f、701h、701j、701kは、第1撮影対象領域2001のカメラグループから除かれる。つまり、第1撮影対象領域2001のカメラグループとしては、カメラグループ701a、701c、701e、701g、701i、701lが残り、その後の処理が行われる。
このように、第1撮影対象領域2001と第2撮影対象領域2002とで、1以上のカメラグループを共有させたマルチカメラシステムを用いても、3次元形状データを適切に生成することができる。また、第1撮影対象領域2001のカメラグループと第2撮影対象領域2002のカメラグループ103は交互に配置されることで、3次元形状データの生成に際し、品質のレベルが方向による偏りを低減することができる。なお、第2撮影対象領域2002において、被写体の3次元形状データの生成には、第2撮影対象領域2002のカメラグループ103のカメラのみならず、第1撮影対象領域2001のカメラグループ103のカメラの撮影画像も用いられる。ただし、仮想視点画像の画素値を決定する際に、画質を向上させるために、下限解像度の要求レベルの高い第1撮影対象領域2001のカメラグループ103のカメラの撮影画像のみを用いる。なお、第1撮影対象領域2001のカメラグループ103のカメラの撮影画像を優先的に用いれば、第2撮影対象領域2002のカメラグループ103のカメラの撮影画像を用いても構わない。例えば、仮想視点画像の着目画素の画素値を、複数の撮影画像において着目画素と対応する位置の画素値を重みを用いた平均化処理により決定する場合、以下のようにする。すなわち、第1撮影対象領域2001のカメラグループ103のカメラの撮影画像の着目画素と対応する位置の画素値の重みを、第2撮影対象領域2002のカメラグループ103のカメラの撮影画像の着目画素と対応する位置の画素値の重みより大きくする。
なお、第1撮影対象領域2001と第2撮影対象領域2002とを例に挙げたが、複数の撮影対象領域のうち任意の2以上の撮影対象領域の一部のカメラグループを共有化しても、カメラ102の数を軽減できる。
また、種別取得部1807は、被写体の種別の代わりに、複数の撮影対象領域の情報を取得するようにしてもよい。つまり、例えば、図19(a)において、撮影対象領域の種別(第1撮影対象領域2001、第2撮影対象領域2002、第3撮影対象領域2003)と、その撮影対象領域を規定する縦、横、高さの長さを示す情報が取得されてもよい。また、イベントとして、ラグビーを例にして説明を行ったが、サッカーなどの球技や、陸上競技などにも本実施形態は適用できる。例えば、陸上のトラック競技である100m走において、選手が走るトラック上で、ゴール地点近傍においては、その他の場所より、高画質な仮想視点画像が要求されることが考えられる。その場合、ゴール地点近傍の領域に対して、各種の要求レベルを高くし、それ以外の領域の各種の要求レベルを低くするようにしてもよい。
<その他の実施形態>
なお、本発明の目的は、以下でも達成される。前述した実施形態の機能を実現するソフトウェアのプログラムコードを記録した記憶媒体を、システムあるいは装置に供給する。そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記憶媒体に格納されたプログラムコードを読み出し実行する。
この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記憶した記憶媒体は本発明を構成することになる。
プログラムコードを供給するための記憶媒体としては、例えば、フレキシブルディスク、ハードディスク、光ディスク、光磁気ディスク、CD-ROM、CD-R、磁気テープ、不揮発性のメモリカード、ROMなどを用いることができる。
また、以下の処理によって前述した実施形態の機能が実現される場合も含まれる。コンピュータが読出したプログラムコードの指示に基づき、コンピュータ上で稼働しているOS(オペレーティングシステム)などが実際の処理の一部または全部を行う。
さらに、以下の処理によって前述した実施形態の機能が実現される場合も含まれる。まず記憶媒体から読出されたプログラムコードが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込まれる。次にそのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行う。
304 撮影対象領域取得部
306 配置決定部
本発明の一つの態様は、以下のとおりである。すなわち、システムは、撮影対象領域を撮影する複数の撮影装置と、前記複数の撮影装置により取得された撮影画像に基づいて仮想視点画像を生成する生成装置と、を有し、前記複数の撮影装置は、複数の撮影方向に対応する複数のグループのうちの第1の撮影方向から前記撮影対象領域を撮影する第1のグループに含まれる2以上の撮影装置と、前記複数のグループのうち前記第1の撮影方向とは異なる第2の撮影方向から前記撮影対象領域を撮影する第2のグループに含まれる他の2以上の撮影装置と、を有することを特徴とする。

Claims (3)

  1. 仮想視点画像の生成に用いられる複数の撮影装置を有し、
    前記複数の撮影装置のうち2以上の撮影装置は、前記複数の撮影装置による撮影の対象となる撮影対象領域の全域を撮影するように配置され、かつ、前記複数の撮影装置のうち前記2以上の撮影装置とは異なる他の2以上の撮影装置は、前記撮影対象領域の全域を撮影するように配置されていることを特徴とするシステム。
  2. 前記2以上の撮影装置のうち、前記他の2以上の撮影装置に近い撮影装置は、前記他の2以上の撮影装置のうちのいずれの撮影装置よりも前記2以上の撮影装置のうちの他の撮影装置に近くに配置されていることを特徴とする請求項1に記載のシステム。
  3. 前記複数の撮影装置による撮影により取得された画像に基づいて、前記仮想視点画像を生成する生成手段を、さらに有することを特徴とする請求項1又は2に記載のシステム。
JP2024075194A 2019-05-16 2024-05-07 システム Pending JP2024097877A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2019092773 2019-05-16
JP2019092773 2019-05-16
JP2019172187A JP7558652B2 (ja) 2019-05-16 2019-09-20 配置決定装置、配置決定方法、及びプログラム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2019172187A Division JP7558652B2 (ja) 2019-05-16 2019-09-20 配置決定装置、配置決定方法、及びプログラム

Publications (1)

Publication Number Publication Date
JP2024097877A true JP2024097877A (ja) 2024-07-19

Family

ID=73289390

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2024075194A Pending JP2024097877A (ja) 2019-05-16 2024-05-07 システム

Country Status (6)

Country Link
US (2) US12010437B2 (ja)
EP (1) EP3972238A4 (ja)
JP (1) JP2024097877A (ja)
KR (1) KR102629225B1 (ja)
CN (1) CN113826378B (ja)
WO (1) WO2020230751A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114900651B (zh) * 2022-03-30 2023-10-27 联想(北京)有限公司 一种信息处理方法、装置和电子设备

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005012619A (ja) * 2003-06-20 2005-01-13 Mitsubishi Electric Corp パノラマ画像生成装置
KR100548403B1 (ko) * 2003-08-23 2006-02-02 엘지전자 주식회사 카메라를 구비한 이동 통신 단말기 및 이를 이용한 영상촬영 방법
US8154599B2 (en) * 2005-07-29 2012-04-10 Panasonic Corporation Imaging region adjustment device
US8675068B2 (en) * 2008-04-11 2014-03-18 Nearmap Australia Pty Ltd Systems and methods of capturing large area images in detail including cascaded cameras and/or calibration features
JP5035195B2 (ja) 2008-09-25 2012-09-26 Kddi株式会社 画像生成装置及びプログラム
EP2354893B1 (en) * 2009-12-31 2018-10-24 Sony Interactive Entertainment Europe Limited Reducing inertial-based motion estimation drift of a game input controller with an image-based motion estimation
JP5548002B2 (ja) * 2010-03-25 2014-07-16 富士通テン株式会社 画像生成装置、画像表示システム及び画像生成方法
JP2011237713A (ja) * 2010-05-13 2011-11-24 Canon Inc 画像撮影装置、及び画像撮影方法
JP6148896B2 (ja) * 2013-04-26 2017-06-14 富士通テン株式会社 画像生成装置及び画像生成方法
JP6416741B2 (ja) * 2015-11-27 2018-10-31 日本電信電話株式会社 画像処理装置、画像処理方法及びコンピュータプログラム
CN109196854B (zh) * 2016-03-31 2022-05-17 株式会社尼康 摄像装置、图像处理装置及电子设备
JP7034666B2 (ja) * 2016-12-27 2022-03-14 キヤノン株式会社 仮想視点画像の生成装置、生成方法及びプログラム
US10762653B2 (en) * 2016-12-27 2020-09-01 Canon Kabushiki Kaisha Generation apparatus of virtual viewpoint image, generation method, and storage medium
JP7121470B2 (ja) * 2017-05-12 2022-08-18 キヤノン株式会社 画像処理システム、制御方法、及び、プログラム
JP7027049B2 (ja) * 2017-06-15 2022-03-01 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
CN107330917B (zh) * 2017-06-23 2019-06-25 歌尔股份有限公司 移动目标的跟踪拍摄方法和跟踪设备
JP7033865B2 (ja) * 2017-08-10 2022-03-11 キヤノン株式会社 画像生成装置、画像生成方法、及びプログラム
JP7042571B2 (ja) * 2017-08-10 2022-03-28 キヤノン株式会社 画像処理装置およびその制御方法、プログラム
JP6425780B1 (ja) * 2017-09-22 2018-11-21 キヤノン株式会社 画像処理システム、画像処理装置、画像処理方法及びプログラム
JP7106202B2 (ja) 2017-11-22 2022-07-26 株式会社大一商会 遊技機
JP7026555B2 (ja) 2018-03-29 2022-02-28 しげる工業株式会社 部品接合方法、車両外装品およびルーフスポイラのサイド部とその製造方法
KR102300570B1 (ko) 2020-07-31 2021-09-09 주식회사 쓰리아이 전방위 이미지 촬영 어셈블리 및 이에 의해 수행되는 방법

Also Published As

Publication number Publication date
EP3972238A1 (en) 2022-03-23
EP3972238A4 (en) 2023-10-25
US20240292117A1 (en) 2024-08-29
WO2020230751A1 (ja) 2020-11-19
US12010437B2 (en) 2024-06-11
CN113826378B (zh) 2024-05-07
US20220060638A1 (en) 2022-02-24
CN113826378A (zh) 2021-12-21
KR102629225B1 (ko) 2024-01-29
KR20220003608A (ko) 2022-01-10

Similar Documents

Publication Publication Date Title
US20200404247A1 (en) System for and method of social interaction using user-selectable novel views
JP5806215B2 (ja) 複数のカメラの相対制御のための方法及び装置
US11006089B2 (en) Information processing apparatus and information processing method
US8154633B2 (en) Line removal and object detection in an image
JP2024097877A (ja) システム
US20090128563A1 (en) User interface for accessing virtual viewpoint animations
JP2020095717A (ja) 自由視点映像用画像データのキャプチャ方法、キャプチャシステム及びキャプチャ装置
KR102475994B1 (ko) 정보 처리장치, 정보 처리방법 및 기억매체
US20230353717A1 (en) Image processing system, image processing method, and storage medium
JP7558652B2 (ja) 配置決定装置、配置決定方法、及びプログラム
JP2023019088A (ja) 画像処理装置、画像処理方法、及びプログラム
JP2022077380A (ja) 画像処理装置、画像処理方法、およびプログラム
US11928831B2 (en) Information processing apparatus, shape data generation method, and storage medium
US20240314280A1 (en) Image processing system, image processing method, and storage medium
US20230291883A1 (en) Image processing system, image processing method, and storage medium
US20230169720A1 (en) Information processing apparatus, information processing system, and storage medium
US20240242422A1 (en) Information processing apparatus, information processing method, and non-transitory computer-readable medium
US20240275931A1 (en) Information processing apparatus, information processing method, and storage medium
JP2023184358A (ja) 画像処理システム、画像処理システムの制御方法、及びプログラム
JP2024062300A (ja) 画像処理装置、画像処理方法及びコンピュータプログラム
JP2024022484A (ja) 生成装置、生成方法及びプログラム
CN117547817A (zh) 虚拟镜头的位置调整方法、装置、电子设备及存储介质
JP2023163133A (ja) 画像処理システム、画像処理方法及びコンピュータプログラム
JP2022171436A (ja) 情報処理装置、情報処理方法およびプログラム
JP2023019727A (ja) 撮影制御システム及びその動作方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240605

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240605