JP2020136776A - 画像生成システムおよび画像生成方法、制御装置および制御方法 - Google Patents
画像生成システムおよび画像生成方法、制御装置および制御方法 Download PDFInfo
- Publication number
- JP2020136776A JP2020136776A JP2019024695A JP2019024695A JP2020136776A JP 2020136776 A JP2020136776 A JP 2020136776A JP 2019024695 A JP2019024695 A JP 2019024695A JP 2019024695 A JP2019024695 A JP 2019024695A JP 2020136776 A JP2020136776 A JP 2020136776A
- Authority
- JP
- Japan
- Prior art keywords
- groups
- frame rate
- camera
- reference time
- imaging
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
- G01B11/245—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures using a plurality of fixed, simultaneously operating transducers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/62—Control of parameters via user interfaces
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/66—Remote control of cameras or camera parts, e.g. by remote control devices
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Studio Devices (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Details Of Cameras Including Film Mechanisms (AREA)
- Stereoscopic And Panoramic Photography (AREA)
- Processing Or Creating Images (AREA)
- Image Generation (AREA)
Abstract
【課題】複数のカメラを用いることにより、カメラのフレームレート以上のフレームレートで仮想視点画像を生成する。【解決手段】制御ステーション124は、複数のカメラ112が所属する複数のカメラグループからなるセットを管理し、複数のカメラグループにそれぞれ異なる基準時刻を決定し、複数のカメラグループのそれぞれに所属するカメラ112が決定された基準時刻に従った撮影を実行するように、複数のカメラ112を制御する。【選択図】 図2
Description
本発明は、複数のカメラからの撮影画像を用いて仮想視点画像を生成するための画像生成システムおよび画像生成方法、制御装置および制御方法に関する。
昨今、複数のカメラを異なる位置に設置して多視点で同期撮影し、当該撮影により得られた複数の画像を用いて仮想視点コンテンツを生成する技術が注目されている。複数の画像から仮想視点コンテンツを生成する技術によれば、例えば、サッカーやバスケットボールのハイライトシーンを様々な角度から視聴することが出来るため、通常の画像と比較してユーザに高臨場感を与えることが出来る。このような仮想視点コンテンツは、複数のカメラが撮影した画像をサーバなどの画像生成装置に集約し、当該画像生成装置にて三次元モデル生成、レンダリングなどの処理を施すことで生成される。生成された仮想視点コンテンツは、画像生成装置からユーザ端末に送付され、ユーザにより閲覧される。
仮想視点コンテンツの画質は、基本的には撮影に使用するカメラの台数に依存する。ただし、設置する場所の制約やコストの観点から、設置可能なカメラの台数は限られる。高画質の仮想視点コンテンツを生成するためには、設置可能なカメラ台数の中で、適切なカメラの配置を行うことが重要となる。特許文献1では、複数のカメラを、複数のカメラグループに割り当てて撮影を行い、各カメラグループが異なる撮影エリアをカバーすることで、広範囲の撮影対象全域をカバーした仮想視点コンテンツを生成可能とすることを提案している。
例えば撮影エリアが広く無い場合は、複数のカメラグループに分けて撮影する必要性がない可能性があり、結果として複数のカメラグループによる撮影を効果的に使用することができないという課題があった。
本発明は、仮想視点画像の生成における複数のカメラグループの新たな活用方法を提案する。本発明は、複数のカメラを用いることにより、カメラのフレームレート以上のフレームレートで仮想視点画像を生成可能にすることを目的とする。
本発明の一態様による制御装置は以下の構成を備える。すなわち、
複数の撮影装置が所属する複数のグループからなるセットを管理する管理手段と、
前記管理手段が管理する前記セットを構成する前記複数のグループにそれぞれ異なる基準時刻を決定する決定手段と、
前記複数のグループのそれぞれに所属する撮影装置が前記決定手段により決定された基準時刻に従った撮影を実行するように、前記複数の撮影装置を制御する制御手段と、を備える。
複数の撮影装置が所属する複数のグループからなるセットを管理する管理手段と、
前記管理手段が管理する前記セットを構成する前記複数のグループにそれぞれ異なる基準時刻を決定する決定手段と、
前記複数のグループのそれぞれに所属する撮影装置が前記決定手段により決定された基準時刻に従った撮影を実行するように、前記複数の撮影装置を制御する制御手段と、を備える。
本発明によれば、カメラのフレームレート以上のフレームレートで仮想視点画像を生成することが可能になる。
以下、添付図面を参照して実施形態を詳しく説明する。尚、以下の実施形態は特許請求の範囲に係る発明を限定するものではない。実施形態には複数の特徴が記載されているが、これらの複数の特徴の全てが発明に必須のものとは限らず、また、複数の特徴は任意に組み合わせられてもよい。さらに、添付図面においては、同一若しくは同様の構成に同一の参照番号を付し、重複した説明は省略する。
<第1実施形態>
第1実施形態では、二つのカメラグループによって撮影を行い、仮想視点画像を生成する画像生成システムを例示する。第1実施形態の画像生成システムは、それぞれのカメラグループの基準時刻(撮影時刻)を異ならせることで、得られる仮想視点画像のフレームレートを向上させる。
第1実施形態では、二つのカメラグループによって撮影を行い、仮想視点画像を生成する画像生成システムを例示する。第1実施形態の画像生成システムは、それぞれのカメラグループの基準時刻(撮影時刻)を異ならせることで、得られる仮想視点画像のフレームレートを向上させる。
図1は、第1実施形態による画像生成システムの構成例を示すブロック図である。画像生成システムは、競技場(スタジアム)、または、コンサートホールなどの施設に設置された複数のカメラ及びマイクを用いて撮影及び集音を行うことにより仮想視点画像を生成する。以下、第1実施形態に関わる画像生成システムについて図1を参照して説明する。
画像生成システム100は、センサシステム110a−110z、画像生成装置122、コントローラ123、スイッチングハブ121、エンドユーザ端末126、及びタイムサーバ127を有する。なお、以下では、センサシステム110a〜110zの集合を撮影システム101と記載する。
コントローラ123は制御ステーション124と仮想カメラ操作UI125を有する。コントローラ123は画像生成システム100を構成するそれぞれのブロックに対して、ネットワーク180a−180z、190a−190cを通じて動作状態の管理及びパラメータ設定制御などを行う。ここで、ネットワークはEthernet(登録商標)であるIEEE標準準拠のGbE(ギガビットイーサーネット)または10GbEでもよいし、インターコネクトInfiniband、産業用イーサーネット等を組合せて構成されてもよい。また、これらに限定されず、他の種別のネットワークであってもよい。
次に、センサシステム110a−110zにより得られる26セットの画像及び音声を、それぞれのセンサシステムから画像生成装置122へ送信する動作を説明する。第1実施形態の画像生成システム100では、センサシステム110a−110zがそれぞれスイッチングハブ121を介して画像生成装置122に接続される。
なお、本実施形態において、センサシステム110a−110zのセンサシステムを区別して記載する必要がない場合には、これら26台のセンサシステムを区別せずセンサシステム110と記載する場合がある。また、各センサシステム110内の装置についても同様に、区別する必要がない場合には、マイク111、カメラ112、雲台113、外部センサ114、及びカメラアダプタ120と記載する場合がある。また、図1ではセンサシステムの台数を26としているが、あくまでも一例であり、センサシステムの台数をこれに限定するものではない。なお、本明細書では、特に断りがない限り、画像という文言が、動画と静止画の概念を含むものとして説明する。すなわち、本実施形態の画像生成システム100は、静止画及び動画の何れについても処理可能である。また、本実施形態では、画像生成システム100により提供される仮想視点コンテンツには、仮想視点画像と仮想視点音声が含まれる例を中心に説明するが、これに限られるものではない。例えば、仮想視点コンテンツに音声が含まれていなくても良い。また例えば、仮想視点コンテンツに含まれる音声が、仮想視点に最も近いマイクにより集音された音声であっても良い。また、本実施形態では、説明の簡略化のため、部分的に音声についての記載を省略しているが、基本的に画像と音声は共に処理されるものとする。
センサシステム110a−110zは、それぞれ1台ずつのカメラ112a−112zを有する。即ち、画像生成システム100は、被写体を複数の方向から撮影するための複数の撮影装置としての複数のカメラを有する。センサシステム110a−110zはスイッチングハブ121に接続されてスター型のネットワークを構成し、スイッチングハブ121を経由して相互にデータの送受信を行う。
センサシステム110はマイク111、カメラ112、雲台113、外部センサ114、及びカメラアダプタ120を有する。マイク111にて集音された音声と、カメラ112にて撮影された画像は、カメラアダプタ120を介し、スイッチングハブ121へ伝送される。なお、センサシステム110の構成は、これに限定されるものではなく、少なくとも1台のカメラアダプタ120と、1台のカメラ112または1台のマイク111を有していれば良い。また例えば、センサシステム110は、1台のカメラアダプタ120と複数のカメラ112で構成されてもよいし、1台のカメラ112と複数のカメラアダプタ120で構成されてもよい。即ち、画像生成システム100内の複数のカメラ112と複数のカメラアダプタ120はN対M(NとMは共に1以上の整数)で対応する。また、カメラ112とカメラアダプタ120が一体となって構成されていてもよい。
また、本実施形態では、センサシステム110b−110zが同じ構成を有するものとするが、これに限定されるものではなく、それぞれのセンサシステム110が異なる構成でもよい。また、本実施形態では、カメラ112とカメラアダプタ120が分離された構成となっているが、これらが同一筺体で一体化されていてもよい。その場合、マイク111は一体化されたカメラ112に内蔵されてもよいし、カメラ112の外部に接続されていてもよい。
タイムサーバ127は時刻及び同期信号を配信する機能を有し、スイッチングハブ121を介してセンサシステム110a−110zに時刻及び同期信号を配信する。時刻と同期信号を受信したカメラアダプタ120a−120zは、時刻と同期信号を基にカメラ112a−112zをGenlockさせ画像フレーム同期を行う。即ち、タイムサーバ127は、複数のカメラ112の撮影タイミングを同期させる。これにより、画像生成システム100は同じタイミングで撮影された複数の撮影画像に基づいて仮想視点画像を生成できるため、撮影タイミングのずれによる仮想視点画像の品質低下を抑制できる。なお、本実施形態ではタイムサーバ127が複数のカメラ112の時刻同期を管理するものとするが、これに限らず、時刻同期のための処理を個々のカメラ112又は個々のカメラアダプタ120が独立して行ってもよい。
画像生成装置122は、センサシステム110から取得したデータ(カメラ撮影画像)を基に、仮想視点画像を生成する処理を行う。画像生成装置122によって生成された仮想視点画像は、エンドユーザ端末126に送信される。エンドユーザ端末126を操作するユーザは、視点の指定に応じた仮想視点画像の閲覧及び音声視聴が出来る。視点の指定は、例えば視点の位置及び向きの指定を含む。エンドユーザ端末126を介して視点に関する情報、すなわち少なくとも視点の位置及び向きを示す情報を画像生成装置122は取得する。また、視点の指定は、ユーザよる指定でなくても、エンドユーザ端末126や画像生成装置122などで自動的に指定されてもよい。なお、本実施形態では、仮想視点コンテンツに音声データ(オーディオデータ)が含まれる場合の例を中心に説明するが、必ずしも音声データが含まれていなくても良い。また、画像生成装置122は、仮想視点画像をH.264やHEVCに代表される標準技術により圧縮符号化したうえで、MPEG−DASHプロトコルを使ってエンドユーザ端末126へ送信する。また、画像生成装置122は、仮想視点画像を非圧縮でエンドユーザ端末126へ送信することができる。圧縮符号化が行われる前者はエンドユーザ端末126としてスマートフォンやタブレットを想定しており、圧縮符号化が行われない後者はエンドユーザ端末126として非圧縮画像を表示可能なディスプレイを想定している。すなわち、エンドユーザ端末126の種別に応じて仮想視点画像の画像フォーマットが切り替え可能である。また、画像の送信プロトコルはMPEG−DASHに限らず、例えば、HLS(HTTP Live Streaming)やその他の送信方法を用いても良い。
コントローラ123において、制御ステーション124は、画像生成システム100全体の制御、画像生成システム100についての各種設定を実行する。また、制御ステーション124は、仮想視点画像を生成する対象のスタジアム等の三次元モデル(三次元形状データ)を、ネットワーク190bを介して画像生成装置122に送信する。さらに、制御ステーション124はカメラ設置時に、キャリブレーションを実施する。より具体的には、制御ステーション124は、撮影対象のフィールド上に設置されたマーカをカメラ112で撮影して得られた撮影画像に基づいて、カメラ112の世界座標における位置と向き、および焦点距離を算出する。制御ステーション124は、算出した各カメラの位置、向き、焦点距離の情報を、画像生成装置122に送信する。画像生成装置122は、仮想視点画像を生成する際に、送信された三次元モデルおよび各カメラの情報を使用する。
コントローラ123の仮想カメラ操作UI125は、ユーザ操作により指定された仮想視点を、ネットワーク190cを介して画像生成装置122に送信する。画像生成装置122は、指定された仮想視点の画像を生成し、エンドユーザ端末126へ送信する。
次に、第1実施形態による制御ステーション124の機能構成について説明する。図2は、制御ステーション124の機能構成例を示すブロック図である。制御ステーション124は、複数のカメラの同期撮影を制御する撮影制御装置の一例である。
設定制御部201は、図1の画像生成システム100にて生成する仮想視点画像の設定情報を管理し、設定を反映する処理を行う。設定の具体例としては、生成する仮想視点画像のフレームレートなどがあげられる。また、設定制御部201は、複数のカメラが所属するカメラグループのセット(図5Aの参照により後述する)を管理している。グループ設定部202は、図1の撮影システム101を構成する複数台のカメラを、設定制御部201の指示に基づいてグルーピングする。ここでのグルーピングとは、複数台のカメラを、同じ基準時刻に従って撮影を行うカメラグループに分類し、各カメラに所属するカメラグループを設定する(例えば、カメラグループのIDを各カメラに設定する)ことを指す。時刻設定部203は、設定制御部201の指示に基づき、グループ設定部202により設定されたカメラグループ毎に基準時刻の設定を行う。すなわち、時刻設定部203は、各カメラが撮影を実行するべき時刻である基準時刻を設定する。
制御ステーション124のハードウェア構成について、図11を用いて説明する。なお、画像生成装置122のハードウェア構成も、以下で説明する制御ステーション124の構成と同様である。制御ステーション124は、CPU1111、ROM1112、RAM1113、補助記憶装置1114、通信I/F1115、及びバス1116を有する。
CPU1111は、ROM1112やRAM1113に格納されているコンピュータプログラムやデータを用いて制御ステーション124の全体を制御することで、図2に示す制御ステーション124の各機能を実現する。なお、制御ステーション124がCPU1111とは異なる1又は複数の専用のハードウェアを有し、CPU1111による処理の少なくとも一部を専用のハードウェアが実行してもよい。専用のハードウェアの例としては、ASIC(特定用途向け集積回路)、FPGA(フィールドプログラマブルゲートアレイ)、およびDSP(デジタルシグナルプロセッサ)などがある。
ROM1112は、変更を必要としないプログラムなどを格納する。RAM1113は、補助記憶装置1114から供給されるプログラムやデータ、及び通信I/F1115を介して外部から供給されるデータなどを一時記憶する。補助記憶装置1114は、例えばハードディスクドライブ等で構成され、画像データや音声データなどの種々のデータを記憶する。
通信I/F1115は、制御ステーション124の外部の装置との通信に用いられる。例えば、制御ステーション124が外部の装置と有線で接続される場合には、通信用のケーブルが通信I/F1115に接続される。制御ステーション124が外部の装置と無線通信する機能を有する場合には、通信I/F1115はアンテナを備える。バス1116は、制御ステーション124の各部をつないで情報を伝達する。
次に、第1実施形態による撮影システム101を構成するカメラの配置について説明する。図3は、スタジアムへのカメラの配置例を示す模式図である。図1では、撮影システム101がカメラ112a−112zからなる構成を説明したが、図3では、撮影システム101としてカメラ301からカメラ312の12台のカメラが配置された様子が示されている。また、図3において、フィールド320はカメラ301〜310の撮影領域を示している。カメラ301からカメラ312はフィールド320の周囲に設置され、各カメラはフィールド320を向いている。以下、図3に示すカメラの配置とカメラの台数を前提として、第1実施形態の動作を説明する。なお、撮影システム101を構成するカメラは、特定の位置又は特定の領域を撮影するように向けられていてもよい。また、各カメラの光軸は一点で交差してもよいし、交差しなくてもよい。
第1実施形態によるカメラの同期制御について説明する。図4は、第1実施形態における、仮想視点画像のフレームレートの設定処理およびカメラの同期制御を説明するフローチャートである。
まず、ステップS401にて、設定制御部201は、生成する仮想視点画像のフレームレートを決定する。仮想視点画像のフレームレートは、例えば、ユーザ操作により指定され得る。本実施形態では、ユーザは、仮想視点画像のフレームレートとして60Hzか120Hzのいずれかを指定できる。なお、60Hzを画質優先、120Hzをフレームレート優先として、ユーザが画質優先かフレームレート優先化を選択することによりフレームレートが決定されるようにしてもよい。次に、ステップS402にて、設定制御部201は、ステップS401にて決定したフレームレートに従ってカメラグループを決定する。図5Aにより後述するように、設定制御部201は、テーブルを用いて、複数のカメラが所属するカメラグループのセットを管理している。例えば、図5Aでは、すべてのカメラが属している一つのカメラグループのセットと、半数ずつのカメラが所属する二つのカメラグループを有するセットが管理されている。このように、設定制御部201は、カメラグループのテーブルを用いて、複数のカメラが所属するカメラグループのセットを管理する管理部を実現している。また、本実施形態では、1つまたは複数のカメラグループからなるセットであって、それぞれが異なる数のカメラグループからなる複数のセットが管理され、複数のセットはカメラグループの数に応じて対応するフレームレートが決定される。このフレームレートは、仮想視点画像のフレームレートとして用いられる。また、設定制御部201は、ユーザ操作により指定されたフレームレートに対応するセットを複数のセットから選択する選択部として機能する構成の一例である。
本実施形態では、設定制御部201は、決定したフレームレートが60Hzの場合には一つのカメラグループからなるセットを、決定したフレームレートが30Hzの場合には二つのカメラグループからなるセットを選択し、使用するカメラグループを決定する。設定制御部201は、決定したカメラグループをグループ設定部202に通知する。カメラグループについては詳細を後述する。ステップS403において、グループ設定部202は、ステップS402で通知されたカメラグループに従って、撮影システム101を構成するカメラ301〜312のカメラグループを設定する。例えば、グループ設定部202は、カメラ301〜312のカメラアダプタに、グループID(図5Aの「A」または「B」)を設定する。
次に、ステップS404において、設定制御部201は、ステップS401にて決定したフレームレートに従ってカメラグループ毎の基準時刻を決定し、決定した基準時刻を、時刻設定部203に通知する。設定制御部201は、管理部が管理するセットに含まれているカメラグループごとに、同じカメラグループに属するカメラが同期撮影を行うための基準時刻を決定する決定部として機能する構成の一例である。ステップS405にて、時刻設定部203は、ステップS404で通知された基準時刻に基づき、撮影システム101を構成するカメラ301〜312のそれぞれの基準時刻を設定する。基準時刻は、例えば、センサシステム110のカメラアダプタ120に設定される。
本実施形態では、グループ設定部202はそれぞれのカメラにグループA、Bのいずれに属しているかを設定し、時刻設定部203はそれぞれのカメラにグループAの基準時刻とグループBの基準時刻を設定する。各カメラは、自身がグループA,Bのいずれに属しているかに応じて、グループAとBの基準時刻のいずれかを選択して撮影を実行する。なお、時刻設定部203がグループAに属しているカメラにはグループAの基準時刻を設定し、グループBに属しているカメラにグループBの基準時刻を設定するように構成してもよい。この場合、カメラは設定された基準時刻に従って撮影を実行すればよく、当該カメラがグループAとBのいずれに属しているかを知る必要はない。よって、グループ設定部202によるカメラグループのIDの設定は省略可能である。以上のように、ステップS403、S405を実行するグループ設定部202と時刻設定部203は、決定された基準時刻を複数のカメラに設定するための情報を出力する。こうして、グループ設定部202と時刻設定部203は、複数のカメラグループごとに、カメラグループに所属するカメラが決定された基準時刻に従って同期撮影を実行するように、複数のカメラを設定する。
ステップS406において、設定制御部201は、ステップS401で決定したフレームレートとステップS402で決定したカメラグループを画像生成装置122に通知する。画像生成装置122は、通知されたフレームレートとカメラグループに従って仮想視点画像を生成する。
次に、設定制御部201がフレームレートに基づいてカメラグループを決定する処理について説明する。図5Aは、カメラグループを決定するためのテーブルのデータ構成例を示す図である。なお、第1実施形態では、テーブル501によってカメラグループを決定する例を説明するが、この方法に限られるものではない。
テーブル501は、フレームレートによりそれぞれのカメラがどのグループに属するかを示している。設定制御部201は、あらかじめ用意されたテーブル501を参照して、指定されたフレームレートに応じてカメラグループを決定する。第1実施形態では、フレームレートが60Hzと120Hzの二つの場合においてカメラグループを決定する例を示す。テーブル501には、フレームレートが60Hzの場合のカメラグループのセット(一つのカメラグループAからなるセット)と、120Hzの場合のカメラグループのセット(二つのカメラグループA、Bからなるセット)が規定されている。テーブル501によれば、フレームレートが60Hzの場合には、全てのカメラがカメラグループ「A」に属するように決定される。また、フレームレートが120Hzの場合には、半数のカメラがカメラグループ「A」に属し、残りがカメラグループ「B」に属するように決定される。
フレームレートとして120Hzが指定された際のカメラのグループ分けの例を、図5Bに模式的に示す。図3で説明したカメラ配置において、カメラ301、303、305、307、309、311がカメラグループAに属し、残りがカメラグループBに属する。図5Bに示されるように、一つ置きで異なるカメラグループに属するように配置することで、画像生成装置122にて生成される仮想視点画像のための三次元モデルの精度の劣化が抑制される。
次に基準時刻の決定方法について説明する。図6は、設定制御部201が、決定されたフレームレートに基づいてカメラグループ毎の基準時刻を決定するために参照するテーブルを示す図である。なお、本実施形態では、テーブル601によって基準時刻を決定する例を説明するが、この方法に限られるものではない。
テーブル601は、フレームレートとカメラグループ毎の基準時刻との対応を示す。但し、テーブル601では、基準時刻はミリ秒単位以下のみを示している。時刻は図1のタイムサーバ127によって配信され、それぞれのカメラグループに属するカメラは、この基準時刻のタイミングにて画像を撮影する。例えば、120Hzのフレームレートが設定された場合、カメラグループAに属するカメラは、開始時刻を0ミリ秒とし、16.6ミリ秒毎に撮影を行い、カメラグループBに属するカメラは、開始時刻を8.3ミリ秒とし、16.6ミリ秒毎に撮影を行う。
図7は、カメラグループAに属するカメラの基準時刻と、カメラグループBに属するカメラの基準時刻を、横軸を時間として図示している。カメラはいずれも16.6ミリ秒毎に撮影するが、カメラグループAとカメラグループBの撮影時刻は、16.6ミリ秒の半分の時間となる8.3ミリ秒ずれている。これにより、カメラグループAとカメラグループBそれぞれは16.6ミリ秒毎に撮影、つまり60Hzにて撮影を行うが、カメラグループAとカメラグループBを併せてみると、撮影間隔が8.3ミリ秒、つまり120Hzで撮影を行っていることになる。
以上のように、時刻設定部203は、カメラが指定された基準時刻を先頭に所定の撮影周期で撮影を繰り返すように、決定された基準時刻を示す情報をカメラに対して出力する。各カメラは、通知された基準時刻を先頭に、撮影周期(例えば、16.6ミリ秒)で繰り返し撮影を行う。なお、時刻設定部203によるカメラへの基準時刻の設定は、これに限られるものではない。例えば、時刻設定部203、指定された基準時刻で撮影を実行することにより所定の撮影周期の撮影が実現されるように、決定された基準時刻に所定の撮影周期を加算することにより得られる複数の基準時刻を示す情報を出力するようにしてもよい。例えば、時刻設定部203は、00時00分00秒00msec、00時00分00秒16.6msec、00時00分00秒33.2msec、...、のように複数の基準時刻を示す情報をカメラに対して出力するようにしてもよい。
図8にて、フレームレートが60Hzと120Hzの際に、画像生成装置122が実施する三次元モデルの生成タイミングについて説明する。第1実施形態においては、フレームレートが60Hzの際にはカメラ301−312の全てが同じ基準時刻で撮影を行うため、60Hzにて12台のカメラを使用した三次元モデルの生成が実施される。一方、フレームレートが120Hzの際には、図7で説明したように二つのカメラグループが基準時刻をずらした状態で撮影することにより、6台のカメラによる三次元モデル生成を120Hzにて実施する。
以上説明したように第1実施形態によれば、フレームレートに応じてカメラグループを設定し、それぞれに異なる基準時刻を割り当てて撮影を行うことができる。これにより、フレームレートを向上させた仮想視点画像の生成を行うことが可能となり、複数台のカメラを有効に活用することができる。
なお、本実施形態では、カメラグループを二つとして説明を行ったが、生成する仮想視点画像のフレームレートに応じてカメラグループを分割することで、より高速なフレームレートを実現することが可能となる。例えば、240Hzの仮想視点画像を生成する場合は、カメラグループを四つとし、それぞれ異なる基準時刻を設定して撮影することで実現できる。
すなわち、設定制御部201が管理するカメラグループのセットに複数のカメラグループが含まれていている場合、それらカメラグループの数だけ基準時刻が設定される。設定制御部201は、セットに含まれているカメラの撮影周期をT、カメラグループの数をnとした場合に、当該セットに含まれているカメラグループのそれぞれの基準時刻を、T/nずつずれた時刻に決定する。例えば、カメラのフレームレートが60Hz(撮影周期T=16.7mS)、カメラグループの数n=4の場合、T/n=4.18mSずつずらした基準時刻を各カメラグループに設定することにより、240Hzのフレームレートで仮想視点画像が生成され得る。
また、上記実施形態では、フレームレートを優先する場合のカメラグループの数は2、画質(三次元モデルの精度)を優先する場合のカメラグループの数は1としたがこれに限られるものではない。フレームレートを優先する場合のカメラグループの数が、三次元モデルの精度を優先する場合のカメラグループの数よりも多くなるようにすればよい。
また、本実施形態では、それぞれのカメラグループに属するカメラの台数が等しいとして説明を行ったが、これに限らない。ただし、生成する三次元モデルの精度をグループ毎に揃えるために、各カメラグループに属するカメラの台数は同程度の数とすることが望ましい。
<第2実施形態>
図面を利用して第2実施形態について説明する。第2実施形態は、フレームレートの設定をユーザが行うことにより、ユーザが任意に仮想視点画像のフレームレートを変更可能とする例である。なお、第2実施形態による画像生成システムの構成は第1実施形態(図1)と同様である。
図面を利用して第2実施形態について説明する。第2実施形態は、フレームレートの設定をユーザが行うことにより、ユーザが任意に仮想視点画像のフレームレートを変更可能とする例である。なお、第2実施形態による画像生成システムの構成は第1実施形態(図1)と同様である。
図9は、第2実施形態による制御ステーション124の機能構成例を示すブロック図である。第1実施形態(図2)と同様の機能ブロックについては、同一の参照番号が付されている。図9において、ユーザ設定受信部901は、例えば仮想カメラ操作UI125からのユーザ指示を制御ステーション124にて受け付けるためのインタフェースである。第2実施形態では、ユーザ設定受信部901は、ユーザから生成する仮想視点画像のフレームレートを受け付ける。
次に、図10を用いて、第2実施形態によるフレームレートの設定処理を説明する。図10は、第2実施形態による、仮想視点画像のフレームレートの設定処理を示すフローチャートである。
ユーザ設定受信部901は、ステップS1001にて、ユーザから画像のフレームレートを受信し、その後、ステップS1002にて、受信したフレームレートを設定制御部201へ通知する。ステップS1003にて、設定制御部201は、指定されたフレームレートの設定が可能であるかを判定する。例えば、設定制御部201は、指定されたフレームレートが管理しているカメラグループの最大数により実現可能なフレームレートを超える場合、設定が不可能であると判定する。図5Aのテーブル501の場合、実現可能なフレームレートは120Hzである。指定されたフレームレートを設定することが不可能と判定された場合、ステップS1004にて、設定制御部201は、別のフレームレートを指定するようにユーザにフレームレートの再入力を促し、ステップS1001からの処理を繰り返す。なお、ユーザによるフレームレートの入力、再入力は不図示の操作パネルを用いて実行され得る。
一方、指定されたフレームレートが、設定制御部201が管理しているカメラグループの最大数により実現可能なフレームレート以下である場合、設定可能であると判定され、処理はステップS1003からステップS1005に進む。ステップS1005において、設定制御部201は、ステップS1002で通知されたフレームレートに従い、カメラのグループ情報及び基準時刻を決定する。例えば、図5Aに示したテーブル501を用いてカメラグループが管理されている場合、ユーザは、120Hz以下の任意のフレームレートを指定することができる。設定制御部201は、指定されたフレームレートが60Hz以下であればフレームレートが60Hzのセット(一つのカメラグループからなるセット)とこれに対応した基準時刻を採用する。また、指定されたフレームレートが60Hzより大きく120Hz以下であれば、設定制御部201は、フレームレートが120Hzのセット(二つのカメラグループからなるセット)とこれに対応した基準時刻を採用する。すなわち、設定制御部201は、ユーザ操作により指定されたフレームレート以上であって、当該指定されたフレームレートに最も近いフレームレートに対応したセットを、複数のセットから選択する。
次に、ステップS1006にて、設定制御部201は、ステップS1006で決定したカメラグループをグループ設定部202に通知する。ステップS1007にて、グループ設定部202は、ステップS1006で通知されたカメラグループを、撮影システム101の各カメラに設定する。次に、ステップS1008にて、設定制御部201は、ステップS1005で決定した基準時刻を時刻設定部203に通知する。ステップS1009にて、時刻設定部203は、ステップS1008で通知された基準時刻を、撮影システム101のそれぞれのカメラに設定する。ステップS1010にて、設定制御部201は、ステップS1002で通知されたフレームレートとステップS1005で決定したカメラグループとこれに対応するフレームレートを画像生成装置に122に通知する。
画像生成装置122は、通知されたフレームレートとカメラグループに従って、複数視点画像を収集し、仮想視点画像を生成する。例えば、画像生成装置122は、カメラグループとこれに対応するフレームレートに基づいて仮想視点画像を生成する。例えば、図5Aのテーブル501に示されるカメラグループA,Bからなるセットが採用された場合、画像生成装置122は120Hzのフレームレートの仮想視点画像を生成し、その後、ユーザにより指定されたフレームレートに変換する。こうして、ユーザ指定されたフレームレートを有する仮想視点画像が生成される。
以上説明したように第2実施形態によれば、ユーザの指示に基づき仮想視点画像のフレームレートを変更することが可能となる。従って、ユーザは、例えばシーンごとに、仮想視点画像のフレームレートを所望するフレームレートに変更することが可能となる。
以上説明したように、上記実施形態によれば、複数のカメラ群(カメラグループ)のそれぞれに異なる基準時刻を設定して撮影を行うことにより、カメラのフレームレートよりも高いフレームレートで最終的な仮想視点画像を生成することが可能となる。
(その他の実施例)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
本発明は上記実施形態に制限されるものではなく、発明の精神及び範囲から離脱することなく、様々な変更及び変形が可能である。従って、発明の範囲を公にするために請求項を添付する。
124:制御ステーション、201:設定制御部、202:グループ設定部、203:時刻設定部
Claims (18)
- 複数の撮影装置が所属する複数のグループからなるセットを管理する管理手段と、
前記管理手段が管理する前記セットを構成する前記複数のグループにそれぞれ異なる基準時刻を決定する決定手段と、
前記複数のグループのそれぞれに所属する撮影装置が前記決定手段により決定された基準時刻に従った撮影を実行するように、前記複数の撮影装置を制御する制御手段と、を備えることを特徴とする制御装置。 - 前記セットには複数のグループが含まれており、前記複数の撮影装置の撮影周期をT、前記複数のグループの数をnとした場合に、前記決定手段は、前記セットに含まれているグループのそれぞれの基準時刻を、それぞれT/nずれた時刻に決定することを特徴とする請求項1に記載の制御装置。
- 前記制御手段は、撮影装置が指定された基準時刻を先頭に所定の撮影周期で撮影を繰り返すように、前記決定された基準時刻を前記複数の撮影装置に設定することを特徴とする請求項1または2に記載の制御装置。
- 前記制御手段は、撮影装置が指定された基準時刻で撮影を実行することにより所定の撮影周期の撮影が実現されるように、前記決定手段により決定された基準時刻に前記所定の撮影周期を加算することにより得られる複数の基準時刻を前記複数の撮影装置に設定することを特徴とする請求項1または2に記載の制御装置。
- フレームレートを優先する場合のグループの数は、三次元モデルの精度を優先する場合のグループの数よりも多いことを特徴とする請求項1乃至4のいずれか1項に記載の制御装置。
- フレームレートを優先する場合のグループの数は2、三次元モデルの精度を優先する場合のグループの数は1であることを特徴とする請求項5に記載の制御装置。
- 前記管理手段は、1つまたは複数のグループからなるセットであって、それぞれが異なる数のグループからなる複数のセットを管理し、前記複数のセットはグループの数に応じて対応するフレームレートが決定され、
前記複数のセットから前記決定手段が用いるセットをユーザ操作に応じて選択する選択手段をさらに備えることを特徴とする請求項1乃至6のいずれか1項に記載の制御装置。 - 前記選択手段は、ユーザ操作により指定されたフレームレートに対応するセットを前記複数のセットから選択することを特徴とする請求項7に記載の制御装置。
- 前記選択手段は、ユーザ操作により指定されたフレームレート以上であって、当該指定されたフレームレートに最も近いフレームレートに対応したセットを選択することを特徴とする請求項7に記載の制御装置。
- 複数の撮影装置が所属する複数のグループからなるセットを管理する管理手段と、
前記管理手段が管理する前記セットを構成する前記複数のグループにそれぞれ異なる基準時刻を決定する決定手段と、
前記複数のグループのそれぞれに所属する撮影装置が前記決定手段により決定された基準時刻に従った撮影を実行するように、前記複数の撮影装置を制御する制御手段と、
前記複数の撮影装置により得られた画像に基づいて、指定された視点に対応する画像を生成する生成手段と、を備えることを特徴とする画像生成システム。 - 前記生成手段は、前記複数のグループに対して決定された基準時刻に対応したフレームレートで、前記指定された視点に対応する画像を生成することを特徴とする請求項10に記載の画像生成システム。
- 複数の撮影装置が所属する複数のグループからなるセットの前記複数のグループにそれぞれ異なる基準時刻を決定する決定工程と、
前記複数のグループのそれぞれに所属する撮影装置が前記決定工程により決定された基準時刻に従った撮影を実行するように、前記複数の撮影装置を制御する制御工程と、を備えることを特徴とする制御方法。 - 前記セットには複数のグループが含まれており、前記複数の撮影装置の撮影周期をT、前記複数のグループの数をnとした場合に、前記決定工程は、前記セットに含まれているグループのそれぞれの基準時刻を、それぞれT/nずれた時刻に決定することを特徴とする請求項12に記載の制御方法。
- 前記制御工程は、撮影装置が指定された基準時刻を先頭に所定の撮影周期で撮影を繰り返すように、前記決定された基準時刻を前記複数の撮影装置に設定することを特徴とする請求項12または13に記載の制御方法。
- 前記制御工程は、撮影装置が指定された基準時刻で撮影を実行することにより所定の撮影周期の撮影が実現されるように、前記決定工程で決定された基準時刻に前記所定の撮影周期を加算することにより得られる複数の基準時刻を前記複数の撮影装置に設定することを特徴とする請求項12または13に記載の制御方法。
- 複数の撮影装置が所属する複数のグループからなるセットの前記複数のグループにそれぞれ異なる基準時刻を決定する決定工程と、
前記複数のグループのそれぞれに所属する撮影装置が前記決定工程により決定された基準時刻に従った撮影を実行するように、前記複数の撮影装置を制御する制御工程と、
前記複数の撮影装置により得られた画像に基づいて、指定された視点に対応する画像を生成する生成工程と、を備えることを特徴とする画像生成方法。 - 前記生成工程では、前記複数のグループに対して決定された基準時刻に対応したフレームレートで、前記指定された視点に対応する画像を生成することを特徴とする請求項16に記載の画像生成方法。
- コンピュータを、請求項1乃至9のいずれか1項に記載された制御装置の各手段として機能させるためのプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019024695A JP2020136776A (ja) | 2019-02-14 | 2019-02-14 | 画像生成システムおよび画像生成方法、制御装置および制御方法 |
US16/778,279 US11184557B2 (en) | 2019-02-14 | 2020-01-31 | Image generating system, image generation method, control apparatus, and control method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019024695A JP2020136776A (ja) | 2019-02-14 | 2019-02-14 | 画像生成システムおよび画像生成方法、制御装置および制御方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2020136776A true JP2020136776A (ja) | 2020-08-31 |
Family
ID=72040921
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019024695A Pending JP2020136776A (ja) | 2019-02-14 | 2019-02-14 | 画像生成システムおよび画像生成方法、制御装置および制御方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US11184557B2 (ja) |
JP (1) | JP2020136776A (ja) |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20020049979A1 (en) * | 2000-05-18 | 2002-04-25 | Patrick White | Multiple camera video system which displays selected images |
US7573480B2 (en) * | 2003-05-01 | 2009-08-11 | Sony Corporation | System and method for capturing facial and body motion |
US20090290848A1 (en) * | 2007-01-11 | 2009-11-26 | Michael James Brown | Method and System for Generating a Replay Video |
US9462301B2 (en) * | 2013-03-15 | 2016-10-04 | Google Inc. | Generating videos with multiple viewpoints |
US20150304629A1 (en) * | 2014-04-21 | 2015-10-22 | Xiuchuan Zhang | System and method for stereophotogrammetry |
KR102150703B1 (ko) * | 2014-08-14 | 2020-09-01 | 한화테크윈 주식회사 | 지능형 비디오 분석 시스템에서 비디오를 분석하는 방법 및 시스템 |
WO2016088437A1 (ja) * | 2014-12-04 | 2016-06-09 | ソニー株式会社 | 情報処理装置、情報処理方法およびプログラム |
US9445081B1 (en) * | 2015-09-25 | 2016-09-13 | Intel Corporation | Method and system of 3D image capture with dynamic cameras |
US10257490B2 (en) * | 2016-04-28 | 2019-04-09 | Verizon Patent And Licensing Inc. | Methods and systems for creating and providing a real-time volumetric representation of a real-world event |
JP6434947B2 (ja) | 2016-09-30 | 2018-12-05 | キヤノン株式会社 | 撮像システム、画像処理装置、画像処理方法、及びプログラム |
US11481915B2 (en) * | 2018-05-04 | 2022-10-25 | Packsize Llc | Systems and methods for three-dimensional data acquisition and processing under timing constraints |
US11132838B2 (en) * | 2018-11-06 | 2021-09-28 | Lucasfilm Entertainment Company Ltd. LLC | Immersive content production system |
-
2019
- 2019-02-14 JP JP2019024695A patent/JP2020136776A/ja active Pending
-
2020
- 2020-01-31 US US16/778,279 patent/US11184557B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US11184557B2 (en) | 2021-11-23 |
US20200267329A1 (en) | 2020-08-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7121470B2 (ja) | 画像処理システム、制御方法、及び、プログラム | |
JP6894687B2 (ja) | 画像処理システム、画像処理装置、制御方法、及び、プログラム | |
US11032490B2 (en) | Camera array including camera modules | |
JP7179515B2 (ja) | 装置、制御方法、及びプログラム | |
JP2018207336A (ja) | 情報処理装置、情報処理システム、情報処理方法及びプログラム | |
JP7042571B2 (ja) | 画像処理装置およびその制御方法、プログラム | |
JP2019106064A (ja) | 画像生成装置およびその制御方法、画像生成システム | |
JP2019103067A (ja) | 情報処理装置、記憶装置、画像処理装置、画像処理システム、制御方法、及びプログラム | |
JP2019191989A (ja) | 仮想視点画像を生成するシステム、方法及びプログラム | |
JP2019197348A (ja) | 情報処理装置、情報処理方法、及びプログラム | |
JP3488096B2 (ja) | 3次元共有仮想空間通信サービスにおける顔画像制御方法,3次元共有仮想空間通信用装置およびそのプログラム記録媒体 | |
JP7281923B2 (ja) | 制御装置、画像処理システム、制御方法及びプログラム | |
JP2010166218A (ja) | カメラシステム及びその制御方法 | |
JP2018191251A (ja) | 情報処理システム、情報処理方法、およびプログラム | |
JP2020136776A (ja) | 画像生成システムおよび画像生成方法、制御装置および制御方法 | |
JP2020092301A (ja) | 画像処理装置、画像処理システム、画像処理方法、及びプログラム | |
JP7104504B2 (ja) | 画像処理システム、画像処理装置、画像伝送方法、及び、プログラム | |
JP2023075859A (ja) | 情報処理装置、情報処理方法、及び、プログラム | |
JP2019050593A (ja) | 画像処理システム、画像処理装置、制御方法、及び、プログラム | |
JP7190849B2 (ja) | 画像生成装置、画像生成装置の制御方法及びプログラム | |
JP2021090155A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2019003325A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP7129283B2 (ja) | 処理装置、制御方法、及びプログラム | |
JP2020077997A (ja) | 画像処理装置、システム、情報処理方法及びプログラム | |
JP2019071650A (ja) | 制御装置、制御方法、及び、プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20210103 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210113 |