JP2020077997A - 画像処理装置、システム、情報処理方法及びプログラム - Google Patents
画像処理装置、システム、情報処理方法及びプログラム Download PDFInfo
- Publication number
- JP2020077997A JP2020077997A JP2018210688A JP2018210688A JP2020077997A JP 2020077997 A JP2020077997 A JP 2020077997A JP 2018210688 A JP2018210688 A JP 2018210688A JP 2018210688 A JP2018210688 A JP 2018210688A JP 2020077997 A JP2020077997 A JP 2020077997A
- Authority
- JP
- Japan
- Prior art keywords
- image data
- image
- priority
- transmission
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Abstract
【課題】適切に仮想視点画像の生成に係る画像データの送信の制御を行うことを目的とする。【解決手段】カメラアダプタ120は、自装置に対応するカメラ112により撮影された画像データを、複数のカメラ112それぞれに定められた優先度と、画像データのデータタイプそれぞれに定められた優先度と、の少なくとも1つに応じて定まる送信順位にしたがって、仮想視点画像に関する処理を行う画像サーバ装置200に送信し、予め定められた送信期間が経過した際に、自装置に対応するカメラ112により撮影された画像データの送信が完了していない場合、その画像データの送信を中止する。【選択図】図8
Description
本発明は、画像処理装置、システム、情報処理方法及びプログラムに関する。
複数の撮影装置を異なる位置に設置して多視点で同期撮影し、得られた複数視点画像を用いて仮想視点画像を生成する技術がある。このようにして複数視点画像から仮想視点画像を生成する技術によれば、例えば、サッカーやバスケットボールのハイライトシーンを様々な角度から視聴することができるため、通常の画像と比較してユーザに高臨場感を与えることができる。
複数視点画像に基づく仮想視点画像の生成及び閲覧は、複数のカメラが撮影した画像をサーバ等の画像処理部に集約し、この画像処理部にて、三次元モデル生成、レンダリング等の処理を施し、ユーザ端末に伝送を行うことで実現される。
また、複数の撮影装置により同期して撮影された複数の画像をサーバ等に送信し、送信先で送信された複数の画像を合成し、新たな画像を生成する技術がある。また、特許文献1では、複数のカメラから送信されるデータ量からネットワーク帯域の使用率を算出し、許容レベルを超える場合は一部のカメラの送信タイミングをずらしたり、データの順序を入れ替えたりして伝送帯域を効率的に使う手法が記載されている。
複数視点画像に基づく仮想視点画像の生成及び閲覧は、複数のカメラが撮影した画像をサーバ等の画像処理部に集約し、この画像処理部にて、三次元モデル生成、レンダリング等の処理を施し、ユーザ端末に伝送を行うことで実現される。
また、複数の撮影装置により同期して撮影された複数の画像をサーバ等に送信し、送信先で送信された複数の画像を合成し、新たな画像を生成する技術がある。また、特許文献1では、複数のカメラから送信されるデータ量からネットワーク帯域の使用率を算出し、許容レベルを超える場合は一部のカメラの送信タイミングをずらしたり、データの順序を入れ替えたりして伝送帯域を効率的に使う手法が記載されている。
しかしながら、特許文献1の技術では、複数の撮影装置からの送信データ量がネットワーク帯域を継続して越え続け、一部の撮影装置の送信タイミングを制御しても送信対象のデータがネットワーク帯域内に収められない場合がある。このため、送信されたデータを用いて処理を行う装置に対して、予め定められた送信期間内にその処理で用いる画像データが送信されなかったり、送信期間内に送信されなかった画像データがその処理に用いられないにもかかわらず、送信期間後に送信されたりする場合が生じる。
例えば、以下のような場合である。すなわち、撮影とほぼ同時に仮想視点画像を閲覧できるようにするために、ある定められた期間ごとに仮想視点画像を生成することが考えられる。その仮想視点画像の生成には、その期間に対応する送信期間ごとに送信された画像データが用いられることが考えられる。しかし、特許文献1の技術を用いて画像データの送信を行うと、仮想視点画像の画質に影響する画像データが送信期間内に送信されない可能性が生じる。さらに、送信期間内に送信されなかった画像データが、仮想視点画像の生成に用いられないにもかかわらず、送信期間後に送信されるという不要な送信が行われてしまう。
本発明は、適切に仮想視点画像の生成に係る画像データの送信の制御を行うことを目的とする。
例えば、以下のような場合である。すなわち、撮影とほぼ同時に仮想視点画像を閲覧できるようにするために、ある定められた期間ごとに仮想視点画像を生成することが考えられる。その仮想視点画像の生成には、その期間に対応する送信期間ごとに送信された画像データが用いられることが考えられる。しかし、特許文献1の技術を用いて画像データの送信を行うと、仮想視点画像の画質に影響する画像データが送信期間内に送信されない可能性が生じる。さらに、送信期間内に送信されなかった画像データが、仮想視点画像の生成に用いられないにもかかわらず、送信期間後に送信されるという不要な送信が行われてしまう。
本発明は、適切に仮想視点画像の生成に係る画像データの送信の制御を行うことを目的とする。
本発明の一態様に係る画像処理装置は、送信期間内に送信された画像データに基づいて仮想視点画像に関する処理を行う生成装置に、前記画像データを送信する画像処理装置であって、複数の撮影手段による撮影に基づく複数の画像データのうち、前記画像処理装置に対応する撮影手段による撮影に基づく画像データを取得する取得手段と、前記取得手段により取得された画像データを、前記複数の撮影手段それぞれに定められた優先度と、画像データのデータタイプそれぞれに定められた優先度と、の少なくとも1つに応じて定まる前記複数の画像データの送信順位にしたがって、前記生成装置に送信する送信手段と、前記送信期間が経過した際に、前記画像処理装置に対応する撮影手段による撮影に基づく画像データの送信が完了していない場合、当該画像データの送信を中止する中止手段と、
を有することを特徴とする。
を有することを特徴とする。
本発明によれば、適切に仮想視点画像の生成に係る画像データの送信の制御を行うことができる。
以下に、本発明の実施の形態の一例を、図面に基づいて詳細に説明する。
<実施形態1>
図1を用いて、本実施形態の画像処理システム100のシステム構成を説明する。画像処理システム100は、カメラ112a−112h、カメラアダプタ120a−120h、スイッチングハブ180、画像サーバ装置200、タイムサーバ装置290、コントローラ装置300を含む。カメラ112a−112hそれぞれは、予め定められた環境(例えば、競技場(スタジアム)やコンサートホール等の施設)における異なる位置に配置されている。画像処理システム100は、カメラ112a−112hを用いて同期して撮影された画像から仮想視点画像(仮想的な視点から見た画像)を生成するシステムである。以下では、カメラ112a−112hによる同期した撮影を、同期撮影とする。
以下では、カメラ112a−112hを、適宜カメラ112と総称する。また、同様に以下では、カメラアダプタ120a−120hを、適宜カメラアダプタ120と総称する。また、カメラ112とカメラアダプタ120は、同一の装置であってもよいし、別の装置であってもよい。
なお、本実施形態では、特に断りがない限り、画像には、動画と静止画とが含まれるものとする。本実施形態のカメラ112a−112hそれぞれは、静止画及び動画の何れについても撮影できる。
図1を用いて、本実施形態の画像処理システム100のシステム構成を説明する。画像処理システム100は、カメラ112a−112h、カメラアダプタ120a−120h、スイッチングハブ180、画像サーバ装置200、タイムサーバ装置290、コントローラ装置300を含む。カメラ112a−112hそれぞれは、予め定められた環境(例えば、競技場(スタジアム)やコンサートホール等の施設)における異なる位置に配置されている。画像処理システム100は、カメラ112a−112hを用いて同期して撮影された画像から仮想視点画像(仮想的な視点から見た画像)を生成するシステムである。以下では、カメラ112a−112hによる同期した撮影を、同期撮影とする。
以下では、カメラ112a−112hを、適宜カメラ112と総称する。また、同様に以下では、カメラアダプタ120a−120hを、適宜カメラアダプタ120と総称する。また、カメラ112とカメラアダプタ120は、同一の装置であってもよいし、別の装置であってもよい。
なお、本実施形態では、特に断りがない限り、画像には、動画と静止画とが含まれるものとする。本実施形態のカメラ112a−112hそれぞれは、静止画及び動画の何れについても撮影できる。
スイッチングハブ180は、ネットワークを介した通信の中継を行う装置である。スイッチングハブ180は、コントローラ装置300、画像サーバ装置200、タイムサーバ装置290、カメラアダプタ120a、カメラアダプタ120hそれぞれと接続されている。また、カメラアダプタ120a−120hは、デイジーチェーン接続されている。また、カメラ112a−112hは、それぞれカメラアダプタ120a−120hと接続されている。
また、カメラアダプタ120a−120hは、デイジーチェーン接続されていないこととしてもよい。例えば、カメラアダプタ120a−120hは、それぞれスイッチングハブ180に接続されることしてもよい。その場合、スイッチングハブ180を経由してカメラアダプタ120a−120h間のデータ送受信を行うスター型のネットワークが構成される。
また、カメラアダプタ120a−120hは、デイジーチェーン接続されていないこととしてもよい。例えば、カメラアダプタ120a−120hは、それぞれスイッチングハブ180に接続されることしてもよい。その場合、スイッチングハブ180を経由してカメラアダプタ120a−120h間のデータ送受信を行うスター型のネットワークが構成される。
カメラ112は、レンズ、光学素子等を含み画像の撮影を行うカメラである。カメラアダプタ120は、対応するカメラ112の制御、撮影画像の取得、同期信号の提供、時刻設定等を行うアダプタである。カメラアダプタ120は、画像処理装置の一例である。カメラ112は、撮影部の一例である。カメラ112の制御には、例えば、撮影パラメータ(画素数、色深度、フレームレート、及びホワイトバランスの設定など)の設定及び参照、カメラ112の状態(撮影中、停止中、同期中、及びエラーなど)の取得、撮影の開始及び停止や、ピント調整等がある。
同期信号とは、カメラ112a−112hそれぞれに対して同期したタイミングでの撮影を指示するための信号である。カメラ112a−112hは、受け付けた同期信号に応じたタイミングで、撮影を行うことで、同一のタイミングで同期して撮影することができる。カメラアダプタ120は、タイムサーバ装置290と同期した時刻に基づいて決定した撮影タイミング(制御クロック)を、同期信号として、対応するカメラ112に提供する。
カメラアダプタ120それぞれは、タイムサーバ装置290と同期した時刻を、SMPTE12Mのフォーマットに準拠したタイムコードで、対応するカメラ112に提供する。これにより、カメラ112から受取る画像データに提供したタイムコードが付与されることになる。なお、タイムコードのフォーマットはSMPTE12Mに限定されるわけではなく、他のフォーマットであってもよい。
同期信号とは、カメラ112a−112hそれぞれに対して同期したタイミングでの撮影を指示するための信号である。カメラ112a−112hは、受け付けた同期信号に応じたタイミングで、撮影を行うことで、同一のタイミングで同期して撮影することができる。カメラアダプタ120は、タイムサーバ装置290と同期した時刻に基づいて決定した撮影タイミング(制御クロック)を、同期信号として、対応するカメラ112に提供する。
カメラアダプタ120それぞれは、タイムサーバ装置290と同期した時刻を、SMPTE12Mのフォーマットに準拠したタイムコードで、対応するカメラ112に提供する。これにより、カメラ112から受取る画像データに提供したタイムコードが付与されることになる。なお、タイムコードのフォーマットはSMPTE12Mに限定されるわけではなく、他のフォーマットであってもよい。
画像サーバ装置200は、カメラ112により同一のタイミングで同期して撮影された複数の画像から仮想視点画像を生成する情報処理装置である。タイムサーバ装置290は、時刻情報を外部の装置に対して提供する情報処理装置である。なお、画像サーバ装置200は、カメラ112により同一のタイミングで同期して撮影された複数の画像からオブジェクトの3次元形状データを生成してもよい。そして、画像サーバ装置200は、その3次元形状データと仮想視点の位置や方向を示す情報とに基づいて仮想視点画像を生成する。また、画像サーバ装置200は、オブジェクトの3次元形状データの生成モジュールと、仮想視点画像を生成するモジュールが分かれていてもよいし、それらの機能が1つのモジュールに搭載されていてもよい。
コントローラ装置300は、ネットワークを介して、カメラアダプタ120それぞれに制御信号を送ることで、カメラ112それぞれを制御する情報処理装置である。コントローラ装置300は、制御装置の一例である。コントローラ装置300は、例えば、パーソナルコンピュータ(PC)、サーバ装置、タブレット装置等である。また、コントローラ装置300は、ネットワークを介して、カメラ112それぞれが撮影した画像データを画像サーバ装置200に送信するよう制御する。また、コントローラ装置300は、画像サーバ装置200から選択した画像データを取り出す。
なお、画像データは、カメラ112が撮影した撮影画像を例にして以下では説明するが、これに限られない。本実施形態における画像データは、撮影画像を基に、カメラアダプタ120で前景背景分離処理が行われ生成された前景データや背景データであってもよい。ここで、前景データは、動体などのオブジェクトの領域を示す画像データである。背景は、前景とは異なる領域を示す画像データである。
コントローラ装置300は、ネットワークを介して、カメラアダプタ120それぞれに制御信号を送ることで、カメラ112それぞれを制御する情報処理装置である。コントローラ装置300は、制御装置の一例である。コントローラ装置300は、例えば、パーソナルコンピュータ(PC)、サーバ装置、タブレット装置等である。また、コントローラ装置300は、ネットワークを介して、カメラ112それぞれが撮影した画像データを画像サーバ装置200に送信するよう制御する。また、コントローラ装置300は、画像サーバ装置200から選択した画像データを取り出す。
なお、画像データは、カメラ112が撮影した撮影画像を例にして以下では説明するが、これに限られない。本実施形態における画像データは、撮影画像を基に、カメラアダプタ120で前景背景分離処理が行われ生成された前景データや背景データであってもよい。ここで、前景データは、動体などのオブジェクトの領域を示す画像データである。背景は、前景とは異なる領域を示す画像データである。
図2(a)は、コントローラ装置300のハードウェア構成の一例を示す図である。コントローラ装置300は、CPU201、主記憶装置202、補助記憶装置203、ネットワークI/F204を含む。各要素は、システムバス205を介して相互に通信可能に接続されている。
CPU201は、コントローラ装置300を制御する中央演算装置である。主記憶装置202は、CPU201のワークエリア、データの一時的な記憶領域等として機能するRandom Access Memory(RAM)等の記憶装置である。補助記憶装置203は、各種プログラム、各種設定情報等を記憶する記憶装置である。補助記憶装置203は、例えば、Read Only Memory(ROM)、ハードディスクドライブ(HDD)、ソリッドステートドライブ(SSD)等である。ネットワークI/F204は、カメラアダプタ120等の外部の装置との間でのネットワークを介した通信に用いられるインターフェースである。
CPU201が、補助記憶装置203に記憶されたプログラムにしたがって処理を実行することで、コントローラ装置300の機能、図6のフローチャートの処理等が実現される。
CPU201は、コントローラ装置300を制御する中央演算装置である。主記憶装置202は、CPU201のワークエリア、データの一時的な記憶領域等として機能するRandom Access Memory(RAM)等の記憶装置である。補助記憶装置203は、各種プログラム、各種設定情報等を記憶する記憶装置である。補助記憶装置203は、例えば、Read Only Memory(ROM)、ハードディスクドライブ(HDD)、ソリッドステートドライブ(SSD)等である。ネットワークI/F204は、カメラアダプタ120等の外部の装置との間でのネットワークを介した通信に用いられるインターフェースである。
CPU201が、補助記憶装置203に記憶されたプログラムにしたがって処理を実行することで、コントローラ装置300の機能、図6のフローチャートの処理等が実現される。
図2(b)は、カメラアダプタ120aのハードウェア構成の一例を示す図である。カメラアダプタ120aは、CPU211、主記憶装置212、補助記憶装置213、デバイスI/F214、ネットワークI/F215を含む。各要素は、システムバス216を介して相互に通信可能に接続されている。
CPU211は、カメラアダプタ120aを制御する中央演算装置である。主記憶装置212は、CPU211のワークエリア、データの一時的な記憶領域等として機能するRAM等の記憶装置である。補助記憶装置213は、各種プログラム、各種設定情報等を記憶する、ROM、HDD、SSD等の記憶装置である。デバイスI/F214は、カメラ112等の外部のデバイスとの接続に用いられるインターフェースである。ネットワークI/F215は、画像サーバ装置200、コントローラ装置300等の外部の装置との間でのネットワークを介した通信に用いられるインターフェースである。
CPU211が、補助記憶装置213に記憶されたプログラムにしたがって処理を実行することで、カメラアダプタ120aの機能、図8のフローチャートの処理等が実現される。
CPU211は、カメラアダプタ120aを制御する中央演算装置である。主記憶装置212は、CPU211のワークエリア、データの一時的な記憶領域等として機能するRAM等の記憶装置である。補助記憶装置213は、各種プログラム、各種設定情報等を記憶する、ROM、HDD、SSD等の記憶装置である。デバイスI/F214は、カメラ112等の外部のデバイスとの接続に用いられるインターフェースである。ネットワークI/F215は、画像サーバ装置200、コントローラ装置300等の外部の装置との間でのネットワークを介した通信に用いられるインターフェースである。
CPU211が、補助記憶装置213に記憶されたプログラムにしたがって処理を実行することで、カメラアダプタ120aの機能、図8のフローチャートの処理等が実現される。
また、本実施形態では、カメラアダプタ120b−120hそれぞれのハードウェア構成は、図2(b)に示すカメラアダプタ120aのハードウェア構成と同様であるとする。
カメラアダプタ120b−120hそれぞれのCPUが、カメラアダプタ120b−120hそれぞれの補助記憶装置に記憶されたプログラムにしたがって処理を実行することで、以下の機能、処理が実現される。即ち、カメラアダプタ120b−120hそれぞれの機能、カメラアダプタ120b−120hそれぞれによる図8のフローチャートの処理と同様の処理等が実現される。
カメラアダプタ120b−120hそれぞれのCPUが、カメラアダプタ120b−120hそれぞれの補助記憶装置に記憶されたプログラムにしたがって処理を実行することで、以下の機能、処理が実現される。即ち、カメラアダプタ120b−120hそれぞれの機能、カメラアダプタ120b−120hそれぞれによる図8のフローチャートの処理と同様の処理等が実現される。
図3は、本実施形態におけるカメラ112a−112hの設置例を示す図である。図3の例では、カメラ112a、112c、112e、112gは、何れも光軸が同一の注視点6302を向くように設置されている。また、カメラ112b、112d、112f、112hは、光軸が同一の注視点6303を向くように設置される。なお、本実施形態はこれに限られない。つまり、各カメラの光軸が同一の注視点に向けられていない場合においても、本実施形態を適用することができる。
図4は、カメラ112a−112hそれぞれの優先度の一例を説明する図である。カメラの優先度とは、対応するカメラにより撮影される画像の仮想視点画像の生成における重要度を示す指標である。カメラ112a−112hそれぞれの優先度は、例えば、シーン毎に、カメラが注視点6302、6303のどちらを向いているか、どの方向からの画像が重要か等の指標に基づいて決定される。図4の例では、カメラ112a−112hを、優先度の高い順に並べると、カメラ112e、112g、112c、112a、112f、112h、112d、112bとなる。即ち、カメラ112eの優先度が最も高く、カメラ112bの優先度が最も低い。
図4は、カメラ112a−112hそれぞれの優先度の一例を説明する図である。カメラの優先度とは、対応するカメラにより撮影される画像の仮想視点画像の生成における重要度を示す指標である。カメラ112a−112hそれぞれの優先度は、例えば、シーン毎に、カメラが注視点6302、6303のどちらを向いているか、どの方向からの画像が重要か等の指標に基づいて決定される。図4の例では、カメラ112a−112hを、優先度の高い順に並べると、カメラ112e、112g、112c、112a、112f、112h、112d、112bとなる。即ち、カメラ112eの優先度が最も高く、カメラ112bの優先度が最も低い。
図5は、本実施形態のカメラ112a−112hによる同期撮影、及びフレームデータの送信のタイミングの一例を説明するタイミングチャートである。フレームデータとは、1台のカメラ112により撮影される1フレーム分の画像データである。以下では、カメラ112それぞれにより同期して撮影された一群のフレームデータを、同期フレームデータ群とする。図5のチャートが示すように、同期信号がカメラ112に入力されたことに応じて、カメラ112それぞれにより同期した撮影が行われ、同期フレームデータ群が取得される。
図5に示す同期フレームデータ群Nは、タイミングNにおいて得られた複数のフレームデータの同期フレームデータ群である。同様に、同期フレームデータ群N+1〜N+6は、それぞれタイミングN+1〜タイミングN+6に得られた複数のフレームデータの同期フレームデータ群である。カメラ112a−112hは、1フレームの画像の撮影期間の間に同期撮影を行う。そして、カメラアダプタ120a−120hは、対応するカメラ112で撮影されたフレームデータを、補助記憶装置213に記憶する。そして、カメラ112a−112hが次のフレームの同期撮影を行っている間に、カメラアダプタ120a−120hそれぞれは、送信を指示するトークンを受信し、送信の指示を受付けた後で、記憶したフレームデータを画像サーバ装置200に送信する。トークンとは、データの送信を行う権利を示す情報である。即ち、カメラアダプタ120a−120hのうちトークンを受信しているカメラアダプタが、フレームデータを送信する権利を有することとなる。
カメラアダプタ120a−120hそれぞれは、図5に示す同期フレームデータ群N+3、N+4、N+5のように、同期フレームデータ群の送信期間として予め定められた期間内にトークンを受信できなかった場合、フレームデータの送信を中止する。本実施形態では、カメラアダプタ120a−120hそれぞれは、記憶したフレームデータを破棄することで、フレームデータの送信を中止する。
図5に示す同期フレームデータ群Nは、タイミングNにおいて得られた複数のフレームデータの同期フレームデータ群である。同様に、同期フレームデータ群N+1〜N+6は、それぞれタイミングN+1〜タイミングN+6に得られた複数のフレームデータの同期フレームデータ群である。カメラ112a−112hは、1フレームの画像の撮影期間の間に同期撮影を行う。そして、カメラアダプタ120a−120hは、対応するカメラ112で撮影されたフレームデータを、補助記憶装置213に記憶する。そして、カメラ112a−112hが次のフレームの同期撮影を行っている間に、カメラアダプタ120a−120hそれぞれは、送信を指示するトークンを受信し、送信の指示を受付けた後で、記憶したフレームデータを画像サーバ装置200に送信する。トークンとは、データの送信を行う権利を示す情報である。即ち、カメラアダプタ120a−120hのうちトークンを受信しているカメラアダプタが、フレームデータを送信する権利を有することとなる。
カメラアダプタ120a−120hそれぞれは、図5に示す同期フレームデータ群N+3、N+4、N+5のように、同期フレームデータ群の送信期間として予め定められた期間内にトークンを受信できなかった場合、フレームデータの送信を中止する。本実施形態では、カメラアダプタ120a−120hそれぞれは、記憶したフレームデータを破棄することで、フレームデータの送信を中止する。
図6を用いて、コントローラ装置300がカメラアダプタ120a−120hの何れかにトークンを送信する処理について説明する。カメラ112a−112hそれぞれは、内部で管理している時刻情報がタイムサーバ装置290と同期されている。カメラ112a−112hそれぞれは、カメラアダプタ120a−120hそれぞれから指定された同一時刻において撮影を行うことで、同期して撮影する。カメラアダプタ120a−120hそれぞれは、同期フレームデータ群のフレームデータそれぞれを画像サーバ装置200に送信する。
S401において、CPU201は、カメラ112a−112hにより処理時点よりも過去に同期して撮影された複数のフレームデータのうち最も新しい複数のフレームデータを、画像サーバ装置200から取得する。そして、CPU201は、取得した複数のフレームデータに基づいて、カメラ112a−112hの撮影シーンを解析し、カメラ112a−112hの優先度を決定する。CPU201は、例えば、カメラ112a−112hの撮影シーンを特定し、特定した撮影シーンにおけるオブジェクトの位置に近い程、優先度を高くするように、カメラ112a−112hの優先度を決定する。本実施形態では、CPU201は、カメラ112a−112hの優先度として、図4に示す優先度を決定する。
S401において、CPU201は、カメラ112a−112hにより処理時点よりも過去に同期して撮影された複数のフレームデータのうち最も新しい複数のフレームデータを、画像サーバ装置200から取得する。そして、CPU201は、取得した複数のフレームデータに基づいて、カメラ112a−112hの撮影シーンを解析し、カメラ112a−112hの優先度を決定する。CPU201は、例えば、カメラ112a−112hの撮影シーンを特定し、特定した撮影シーンにおけるオブジェクトの位置に近い程、優先度を高くするように、カメラ112a−112hの優先度を決定する。本実施形態では、CPU201は、カメラ112a−112hの優先度として、図4に示す優先度を決定する。
S402において、CPU201は、S401で決定したカメラ112a−112hの優先度に基づいて、カメラ112a−112hにより同期して撮影された複数のフレームデータそれぞれの送信の順位を決定する。以下では、この決定された順位を送信順位とする。CPU201は、優先度が高いカメラにより撮影されたフレームデータ程、順位が高くなるように、送信順位を決定する。そして、CPU201は、決定した送信順位の情報に基づいてトークンを生成する。
図7を用いて、S402で生成されるトークンについて説明する。トークンは、送信元アドレス、送信先アドレス、ペイロードデータを含む。
CPU201は、送信元アドレスがコントローラ装置300のアドレスとなり、送信先アドレスが送信順位の最も高いフレームデータに対応するカメラアダプタ120eのアドレスとなるトークンを生成する。また、CPU201は、トークン内のペイロードデータに、送信順位が2番目以降のフレームデータに対応するカメラアダプタ120のアドレスを送信順位順に連結したアドレス情報を含ませる。
図7を用いて、S402で生成されるトークンについて説明する。トークンは、送信元アドレス、送信先アドレス、ペイロードデータを含む。
CPU201は、送信元アドレスがコントローラ装置300のアドレスとなり、送信先アドレスが送信順位の最も高いフレームデータに対応するカメラアダプタ120eのアドレスとなるトークンを生成する。また、CPU201は、トークン内のペイロードデータに、送信順位が2番目以降のフレームデータに対応するカメラアダプタ120のアドレスを送信順位順に連結したアドレス情報を含ませる。
S403において、CPU201は、カメラ112a−112hによる同期した撮影が開始されたことを示す情報を、カメラアダプタ120a−120h全てから受信したか否かを判定する。CPU201は、カメラ112a−112hによる同期した撮影が開始されたことを示す情報を、カメラアダプタ120a−120hそれぞれから受信したと判定した場合、処理をS404に進める。また、CPU201は、カメラ112a−112hによる同期した撮影が開始されたことを示す情報を、カメラアダプタ120a−120h全てからは受信していないと判定した場合、S403の処理を繰り返す。
S404において、CPU201は、S401で決定した優先度が最も高いカメラ112eに対応するカメラアダプタ120eに対して、S402で生成したトークンを送信する。
S404において、CPU201は、S401で決定した優先度が最も高いカメラ112eに対応するカメラアダプタ120eに対して、S402で生成したトークンを送信する。
図8を用いて、図6のS404でトークンを送信されたカメラアダプタ120eがフレームデータを画像サーバ装置200に送信する処理について説明する。
S501において、カメラアダプタ120eのCPUは、カメラ112a−112hによる同期撮影が開始されたか否かを判定する。カメラアダプタ120eのCPUは、カメラ112a−112hによる同期撮影が開始されたと判定した場合、同期撮影により対応するカメラ(カメラ112e)により撮影されたフレームデータを取得し、処理をS502に進める。また、カメラアダプタ120eのCPUは、カメラ112a−112hによる同期撮影が開始されていないと判定した場合、S501の処理を繰り返す。
S502において、カメラアダプタ120eのCPUは、カメラ112a−112hによる同期撮影により撮影された同期フレームデータ群の送信期間として予め定められた期間を経過したか否かを判定する。カメラアダプタ120eのCPUは、送信期間を経過したと判定した場合、処理をS503に進め、経過していないと判定した場合、処理をS504に進める。
S501において、カメラアダプタ120eのCPUは、カメラ112a−112hによる同期撮影が開始されたか否かを判定する。カメラアダプタ120eのCPUは、カメラ112a−112hによる同期撮影が開始されたと判定した場合、同期撮影により対応するカメラ(カメラ112e)により撮影されたフレームデータを取得し、処理をS502に進める。また、カメラアダプタ120eのCPUは、カメラ112a−112hによる同期撮影が開始されていないと判定した場合、S501の処理を繰り返す。
S502において、カメラアダプタ120eのCPUは、カメラ112a−112hによる同期撮影により撮影された同期フレームデータ群の送信期間として予め定められた期間を経過したか否かを判定する。カメラアダプタ120eのCPUは、送信期間を経過したと判定した場合、処理をS503に進め、経過していないと判定した場合、処理をS504に進める。
S503において、カメラアダプタ120eのCPUは、S501で取得したフレームデータを破棄し、このフレームデータの送信を中止する。また、カメラアダプタ120eのCPUは、受信したトークンも破棄する。
S504において、カメラアダプタ120eのCPUは、トークンを受信しているか否かを判定する。カメラアダプタ120eのCPUは、トークンを受信していると判定した場合、処理をS505に進め、受信していないと判定した場合、処理をS502に進める。
S505において、カメラアダプタ120eのCPUは、S501で取得したフレームデータを画像サーバ装置200へ送信する。
S504において、カメラアダプタ120eのCPUは、トークンを受信しているか否かを判定する。カメラアダプタ120eのCPUは、トークンを受信していると判定した場合、処理をS505に進め、受信していないと判定した場合、処理をS502に進める。
S505において、カメラアダプタ120eのCPUは、S501で取得したフレームデータを画像サーバ装置200へ送信する。
S506において、カメラアダプタ120eのCPUは、S504で受信したと判定したトークンに基づいて、次の送信順位のフレームデータに対応するカメラアダプタに送信するトークンを生成する。
図9を用いて、カメラアダプタ120eのCPUがS506で生成するトークンについて説明する。カメラアダプタ120eのCPUは、生成したトークンにおける送信元アドレスをカメラアダプタ120eのアドレスとする。また、カメラアダプタ120eのCPUは、生成したトークンにおける送信先アドレスを、送信順位が第2位に対応するカメラアダプタ120gのアドレスとする。カメラアダプタ120eが受信したトークンのペイロードデータは、送信順位第2位以降のカメラアダプタのアドレスを含んでいる。カメラアダプタ120eのCPUは、このペイロードデータから送信順位第2位であるカメラアダプタ120gのアドレスを取り出し、生成するトークンの送信先アドレスとする。また、カメラアダプタ120eのCPUは、受信したトークンのペイロードデータから送信順位第2位であるカメラアダプタ120gのアドレスを削除したデータを、生成するトークンのペイロードデータとする。
S507において、カメラアダプタ120eのCPUは、S506で生成したトークンを次の送信順位(送信順位第2位)であるカメラアダプタ120gに送信し、処理をS501に進める。
図9を用いて、カメラアダプタ120eのCPUがS506で生成するトークンについて説明する。カメラアダプタ120eのCPUは、生成したトークンにおける送信元アドレスをカメラアダプタ120eのアドレスとする。また、カメラアダプタ120eのCPUは、生成したトークンにおける送信先アドレスを、送信順位が第2位に対応するカメラアダプタ120gのアドレスとする。カメラアダプタ120eが受信したトークンのペイロードデータは、送信順位第2位以降のカメラアダプタのアドレスを含んでいる。カメラアダプタ120eのCPUは、このペイロードデータから送信順位第2位であるカメラアダプタ120gのアドレスを取り出し、生成するトークンの送信先アドレスとする。また、カメラアダプタ120eのCPUは、受信したトークンのペイロードデータから送信順位第2位であるカメラアダプタ120gのアドレスを削除したデータを、生成するトークンのペイロードデータとする。
S507において、カメラアダプタ120eのCPUは、S506で生成したトークンを次の送信順位(送信順位第2位)であるカメラアダプタ120gに送信し、処理をS501に進める。
カメラアダプタ120a−120d、120f−120hそれぞれの処理については、図8を用いて説明したカメラアダプタ120eの処理と同様の処理である。
ただし、カメラアダプタ120のCPUは、トークンを受信していない場合、S503で、トークンの破棄を行わない。また、カメラアダプタ120のCPUは、S506で、以下のようなトークンを生成する。即ち、送信元アドレスが自己のアドレスであり、送信先アドレスが次の送信順位に対応するカメラアダプタ120のアドレスであるトークンである。また、このトークンのペイロードは、受信したトークンのペイロードから次の送信順位に対応するカメラアダプタ120のアドレスを削除したデータとなる。
ただし、カメラアダプタ120のCPUは、トークンを受信していない場合、S503で、トークンの破棄を行わない。また、カメラアダプタ120のCPUは、S506で、以下のようなトークンを生成する。即ち、送信元アドレスが自己のアドレスであり、送信先アドレスが次の送信順位に対応するカメラアダプタ120のアドレスであるトークンである。また、このトークンのペイロードは、受信したトークンのペイロードから次の送信順位に対応するカメラアダプタ120のアドレスを削除したデータとなる。
以上、本実施形態の画像処理システム100は、カメラ112a−112hにより同期撮影されたフレームデータのうち、カメラ112a−112hの優先度に応じた送信順位の高いフレームデータから送信する。また、画像処理システム100は、予め定められた期間が経過した際には、未送信のフレームデータの送信を中止する。このようにすることで、画像処理システム100は、重要なフレームデータを優先的に送信でき、かつ、予め定められた期間が経過した際に未送信のフレームデータの送信を中止することで伝送帯域が逼迫することを防止できる。これにより、画像処理システム100は、カメラ112a−112hにより同期して撮影される画像から合成される仮想視点画像の品質の劣化を低減できる。
<実施形態2>
本実施形態では、カメラ112a−112hの優先度とフレームデータのデータタイプの優先度とに応じた送信順位でフレームデータの送信を行う処理について説明する。
本実施形態の画像処理システム100のシステム構成は、実施形態1と同様である。また、画像処理システム100の各要素のハードウェア構成についても、実施形態1と同様である。
本実施形態では、カメラ112a−112hの優先度とフレームデータのデータタイプの優先度とに応じた送信順位でフレームデータの送信を行う処理について説明する。
本実施形態の画像処理システム100のシステム構成は、実施形態1と同様である。また、画像処理システム100の各要素のハードウェア構成についても、実施形態1と同様である。
本実施形態では、CPU201は、S401と同様の処理で決定したカメラ112a−112hそれぞれの優先度を決定する。本実施形態では、カメラ112a−112hの優先度は、実施形態1と同様に図4に示される優先度である。また、CPU201は、フレームデータのデータタイプごとの優先度を決定する。データタイプとは、フレームデータの種類を示す情報であり、本実施形態では、前景データと背景データとがある。CPU201は、フレームデータのデータタイプごとの優先度を、予め定められた優先度に決定する。本実施形態では、CPU201は、前景データの優先度を背景データの優先度よりも高く決定する。
そして、CPU201は、対応するカメラアダプタ120のアドレスと関連づけられたカメラ112a−112hそれぞれの優先度と、フレームデータのデータタイプごとの優先度と、の情報を、カメラアダプタ120a−120hに通知する。そして、CPU201は、この通知により、カメラアダプタ120a−120hに対して、データタイプの優先度が高いフレームデータから順に、カメラ112a−112hの優先度に応じた順位で送信を行うよう指示する。即ち、CPU201は、カメラ112a−112hそれぞれの優先度と、フレームデータのデータタイプごとの優先度と、を決定することで、フレームデータの送信順位を決定する。
そして、CPU201は、対応するカメラアダプタ120のアドレスと関連づけられたカメラ112a−112hそれぞれの優先度と、フレームデータのデータタイプごとの優先度と、の情報を、カメラアダプタ120a−120hに通知する。そして、CPU201は、この通知により、カメラアダプタ120a−120hに対して、データタイプの優先度が高いフレームデータから順に、カメラ112a−112hの優先度に応じた順位で送信を行うよう指示する。即ち、CPU201は、カメラ112a−112hそれぞれの優先度と、フレームデータのデータタイプごとの優先度と、を決定することで、フレームデータの送信順位を決定する。
図10を用いて、優先度の最も高いカメラアダプタ120eのフレームデータ送信処理について説明する。
S901において、カメラアダプタ120eのCPUは、コントローラ装置300からの通知に含まれる情報をカメラアダプタ120eのレジスタに記憶する。より具体的には、カメラアダプタ120eのCPUは、対応するカメラアダプタ120のアドレスと関連づけられたカメラ112a−112hそれぞれの優先度と、データタイプごとの優先度と、の情報をレジスタに記憶する。
図11は、カメラアダプタ120eのレジスタに記憶されるカメラ112a−112hそれぞれの優先度と、データタイプごとの優先度と、の情報の一例を示す図である。カメラアダプタ120eのCPUは、レジスタに記憶されたこれらの情報に基づいて、送信するフレームデータを決定したり、他のカメラアダプタ120に対してフレームデータの送信指示を行ったりする。
S901において、カメラアダプタ120eのCPUは、コントローラ装置300からの通知に含まれる情報をカメラアダプタ120eのレジスタに記憶する。より具体的には、カメラアダプタ120eのCPUは、対応するカメラアダプタ120のアドレスと関連づけられたカメラ112a−112hそれぞれの優先度と、データタイプごとの優先度と、の情報をレジスタに記憶する。
図11は、カメラアダプタ120eのレジスタに記憶されるカメラ112a−112hそれぞれの優先度と、データタイプごとの優先度と、の情報の一例を示す図である。カメラアダプタ120eのCPUは、レジスタに記憶されたこれらの情報に基づいて、送信するフレームデータを決定したり、他のカメラアダプタ120に対してフレームデータの送信指示を行ったりする。
S902において、カメラアダプタ120eのCPUは、接続されたカメラ112の優先度が1位であるか否かを判定する。カメラアダプタ120eのCPUは、接続されたカメラ112の優先度が1位であると判定した場合、処理をS903に進め、1位でないと判定した場合、処理をS907に進める。本実施形態では、カメラアダプタ120eに接続されたカメラ112eの優先度が1位なので、カメラアダプタ120eのCPUは、処理をS903に進めることとなる。
S903において、カメラアダプタ120eのCPUは、カメラ112a−112hによる同期撮影が開始しているか否かを判定する。カメラアダプタ120eのCPUは、カメラ112a−112hによる同期撮影が開始していると判定した場合、処理をS904に進め、開始していないと判定した場合、S903の処理を繰り返す。
S904において、カメラアダプタ120eのCPUは、同期撮影においてカメラ112eにより撮影された優先度が1位のデータタイプのフレームデータ(前景データ)を画像サーバ装置200へ送信する。
S903において、カメラアダプタ120eのCPUは、カメラ112a−112hによる同期撮影が開始しているか否かを判定する。カメラアダプタ120eのCPUは、カメラ112a−112hによる同期撮影が開始していると判定した場合、処理をS904に進め、開始していないと判定した場合、S903の処理を繰り返す。
S904において、カメラアダプタ120eのCPUは、同期撮影においてカメラ112eにより撮影された優先度が1位のデータタイプのフレームデータ(前景データ)を画像サーバ装置200へ送信する。
S905において、カメラアダプタ120eのCPUは、次の送信順位のカメラアダプタ120gに送信するためのトークンを生成する。
カメラアダプタ120eのCPUは、S905で、図12に示すフォーマットのトークンを生成する。このトークンは、送信元アドレス、送信先アドレス、送信するデータタイプを含む。カメラアダプタ120eのCPUは、このトークンの送信元アドレスをカメラアダプタ120eのアドレスとして、送信先アドレスを優先度2位のカメラアダプタ120gのアドレスとして、データタイプを前景データの情報とする。
S906において、カメラアダプタ120eのCPUは、カメラアダプタ120gにトークンを送信し、処理をS908に進める。
カメラアダプタ120eのCPUは、S905で、図12に示すフォーマットのトークンを生成する。このトークンは、送信元アドレス、送信先アドレス、送信するデータタイプを含む。カメラアダプタ120eのCPUは、このトークンの送信元アドレスをカメラアダプタ120eのアドレスとして、送信先アドレスを優先度2位のカメラアダプタ120gのアドレスとして、データタイプを前景データの情報とする。
S906において、カメラアダプタ120eのCPUは、カメラアダプタ120gにトークンを送信し、処理をS908に進める。
S907において、カメラアダプタ120eのCPUは、カメラ112a−112hによる同期撮影が開始しているか否かを判定する。カメラアダプタ120eのCPUは、カメラ112a−112hによる同期撮影が開始していると判定した場合、処理をS908の処理に進め、開始していないと判定した場合、S907の処理を繰り返す。
S908において、カメラアダプタ120eのCPUは、カメラ112a−112hによる同期撮影により撮影された同期フレームデータ群の送信期間として予め定められた期間を経過したか否かを判定する。カメラアダプタ120eのCPUは、送信期間を経過したと判定した場合、処理をS909に進め、経過していないと判定した場合、処理をS910に進める。
S909において、カメラアダプタ120eのCPUは、フレームデータの送信を中止し、フレームデータを破棄し、処理をS907に進める。
S908において、カメラアダプタ120eのCPUは、カメラ112a−112hによる同期撮影により撮影された同期フレームデータ群の送信期間として予め定められた期間を経過したか否かを判定する。カメラアダプタ120eのCPUは、送信期間を経過したと判定した場合、処理をS909に進め、経過していないと判定した場合、処理をS910に進める。
S909において、カメラアダプタ120eのCPUは、フレームデータの送信を中止し、フレームデータを破棄し、処理をS907に進める。
S910において、カメラアダプタ120eのCPUは、他のカメラアダプタ120からトークンを受信したか否かを判定する。カメラアダプタ120eのCPUは、他のカメラアダプタ120からトークンを受信したと判定した場合、処理をS911に進め、受信していないと判定した場合、処理をS908に進める。本実施形態では、カメラアダプタ120eのCPUは、他のカメラアダプタから背景データのフレームデータの送信を指示するトークンを受信することとなる。
S911において、カメラアダプタ120eのCPUは、受信したトークンに対応するフレームデータを画像サーバ装置200へ送信する。
S911において、カメラアダプタ120eのCPUは、受信したトークンに対応するフレームデータを画像サーバ装置200へ送信する。
S912において、カメラアダプタ120eのCPUは、次の送信順位のカメラアダプタ120に送信するための図12に示すフォーマットのトークンを生成する。カメラアダプタ120eのCPUは、対応するカメラ112の優先度が自己よりも1つ低いカメラアダプタを特定する。そして、カメラアダプタ120eのCPUは、生成するトークンの送信先アドレスを、特定したカメラアダプタのアドレスとする。また、カメラアダプタ120eのCPUは、カメラアダプタ120a−120h全てについて送信が完了していないデータタイプのフレームデータのうち、最も優先度が高いデータタイプを特定する。そして、カメラアダプタ120eのCPUは、生成するトークンのデータタイプを、特定したデータタイプの情報とする。
本実施形態では、カメラアダプタ120eのCPUは、送信元アドレスがカメラアダプタ120eのアドレスであり、送信先アドレスを優先度2位のカメラアダプタ120gのアドレスであり、データタイプが背景データの情報となるトークンを生成する。
S913において、カメラアダプタ120eのCPUは、S912で生成したトークンを送信先に送信する。
本実施形態では、カメラアダプタ120eのCPUは、送信元アドレスがカメラアダプタ120eのアドレスであり、送信先アドレスを優先度2位のカメラアダプタ120gのアドレスであり、データタイプが背景データの情報となるトークンを生成する。
S913において、カメラアダプタ120eのCPUは、S912で生成したトークンを送信先に送信する。
本実施形態では、カメラアダプタ120a−120d、120f−120hそれぞれは、図10で説明した処理と同様の処理を実行する。ただし、本実施形態では、カメラアダプタ120a−120d、120f−120hは、優先度が1位でないため、S903〜S906の処理を実行しない。
以上、本実施形態の処理により、画像処理システム100は、送信対象のフレームデータのデータタイプの優先度を考慮した上で重要なフレームデータを優先的に送信できる。これにより、画像処理システム100は、より適切に同期撮影された画像から合成される仮想視点画像の品質の低下を低減できる。
本実施形態では、画像処理システム100は、カメラ112a−112hの優先度とフレームデータのデータタイプの優先度とに応じた送信順位でフレームデータの送信を行うこととした。ただし、画像処理システム100は、カメラ112a−112hの優先度を用いずに、フレームデータのデータタイプの優先度に応じた送信順位でフレームデータの送信を行うこととしてもよい。
例えば、画像処理システム100は、フレームデータのデータタイプの優先度を決定して、決定したフレームデータのデータタイプの優先度の情報をカメラアダプタ120a−120hそれぞれに通知する。そして、この場合、カメラアダプタ120a―120hそれぞれは、カメラアダプタ120a―120hの順に巡回させるように、トークンの送受信を行う。
例えば、画像処理システム100は、フレームデータのデータタイプの優先度を決定して、決定したフレームデータのデータタイプの優先度の情報をカメラアダプタ120a−120hそれぞれに通知する。そして、この場合、カメラアダプタ120a―120hそれぞれは、カメラアダプタ120a―120hの順に巡回させるように、トークンの送受信を行う。
より具体的には、まず、カメラアダプタ120aのCPUは、送信対象のフレームデータのうち、優先度が最も高いフレームデータの送信を行う。そして、カメラアダプタ120aのCPUは、送信を指示するトークンをカメラアダプタ120bに送信する。次に、カメラアダプタ120bのCPUが、優先度が最も高いフレームデータの送信を行い、トークンをカメラアダプタ120cに送信する。そして、カメラアダプタ120hのCPUは、トークンを受信し、優先度が最も高いフレームデータの送信を行った際に、カメラアダプタ120aに対してトークンを送信する。
カメラアダプタ120aのCPUは、カメラアダプタ120hからトークンを受信した場合、未送信のフレームデータのうち、最も優先度が高いフレームデータの送信を行い、トークンをカメラアダプタ120bに送信する。カメラアダプタ120b−120hも同様の処理を行う。
画像処理システム100は、以上のような処理を繰り返すことで、フレームデータのデータタイプの優先度のみに応じた送信順位でフレームデータの送信を行うこととしてもよい。
ただし、カメラアダプタ120a―120hそれぞれは、カメラアダプタ120a―120hの順と異なる予め定められた順に巡回させるように、トークンの送受信を行ってもよい。
カメラアダプタ120aのCPUは、カメラアダプタ120hからトークンを受信した場合、未送信のフレームデータのうち、最も優先度が高いフレームデータの送信を行い、トークンをカメラアダプタ120bに送信する。カメラアダプタ120b−120hも同様の処理を行う。
画像処理システム100は、以上のような処理を繰り返すことで、フレームデータのデータタイプの優先度のみに応じた送信順位でフレームデータの送信を行うこととしてもよい。
ただし、カメラアダプタ120a―120hそれぞれは、カメラアダプタ120a―120hの順と異なる予め定められた順に巡回させるように、トークンの送受信を行ってもよい。
<実施形態3>
本実施形態では、過去のフレームデータの送信状況に基づいて、同期フレームデータ群の各フレームデータの送信順位を調整する処理を説明する。
本実施形態の画像処理システム100のシステム構成は、実施形態1と同様である。また、画像処理システム100の各要素のハードウェア構成についても、実施形態1と同様である。
本実施形態では、過去のフレームデータの送信状況に基づいて、同期フレームデータ群の各フレームデータの送信順位を調整する処理を説明する。
本実施形態の画像処理システム100のシステム構成は、実施形態1と同様である。また、画像処理システム100の各要素のハードウェア構成についても、実施形態1と同様である。
本実施形態では、CPU201は、送信対象となる同期フレームデータ群の1つ前にカメラ112a−112hにより撮影された同期フレームデータ群(以下では、過去フレームデータ群とする)の送信状況を特定する。そして、CPU201は、特定した送信状況に基づいて、カメラ112a−112hそれぞれの優先度と、フレームデータのデータタイプそれぞれの優先度と、を決定する。過去フレームデータ群のフレームデータそれぞれは、過去画像データの一例である。
CPU201は、画像サーバ装置200から過去フレームデータ群のうち、送信されたフレームデータと送信が中止されたフレームデータとの情報を取得することで、過去フレームデータ群の送信状況を把握する。
CPU201は、過去フレームデータ群のうち送信が中止されたフレームデータに対応するカメラ112の優先度が、送信が行われたフレームデータに対応するカメラ112の優先度よりも高くなるように、カメラ112a−112hそれぞれの優先度を決定する。
CPU201は、画像サーバ装置200から過去フレームデータ群のうち、送信されたフレームデータと送信が中止されたフレームデータとの情報を取得することで、過去フレームデータ群の送信状況を把握する。
CPU201は、過去フレームデータ群のうち送信が中止されたフレームデータに対応するカメラ112の優先度が、送信が行われたフレームデータに対応するカメラ112の優先度よりも高くなるように、カメラ112a−112hそれぞれの優先度を決定する。
また、CPU201は、過去フレームデータ群のうちどのデータタイプのフレームデータがカメラ112a−112h全てについて送信が完了しているかを特定する。CPU201は、過去フレームデータ群のうちどのデータタイプのフレームデータが、送信が中止されたかを特定する。そして、CPU201は、送信が中止されたフレームデータのデータタイプの優先度を、カメラ112a−112h全てについて送信が完了しているフレームデータのデータタイプの優先度よりも高くなるように、データタイプそれぞれの優先度を決定する。
本実施形態では、過去フレームデータ群において前景データのフレームデータは、カメラ112a−112h全てについて送信が完了しているとする。また、過去フレームデータ群において背景データのフレームデータには、送信が中止されたフレームデータも含まれるとする。そのため、CPU201は、背景データの優先度を、前景データの優先度よりも高く決定する。
本実施形態では、過去フレームデータ群において前景データのフレームデータは、カメラ112a−112h全てについて送信が完了しているとする。また、過去フレームデータ群において背景データのフレームデータには、送信が中止されたフレームデータも含まれるとする。そのため、CPU201は、背景データの優先度を、前景データの優先度よりも高く決定する。
そして、CPU201は、対応するカメラアダプタのアドレスと関連付けられたカメラ112a−112hそれぞれの優先度と、フレームデータのデータタイプごとの優先度と、の情報を、カメラアダプタ120a−120hに通知する。そして、CPU201は、この通知により、カメラアダプタ120a−120hに対して、データタイプの優先度が高いフレームデータから順に、カメラ112a−112hの優先度に応じた順位で送信を行うよう指示する。即ち、CPU201は、カメラ112a−112hそれぞれの優先度と、フレームデータのデータタイプごとの優先度と、を決定することで、フレームデータの送信順位を決定する。
カメラアダプタ120a−120hそれぞれの処理は、実施形態2と同様である。
カメラアダプタ120a−120hそれぞれの処理は、実施形態2と同様である。
本実施形態の送信態様の一例を、図13を用いて説明する。図13のタイムチャートが示すように、同期フレームデータ群N−1から同期フレームデータ群N+2までは1フレームの送信期間内で前景データ、背景データの送信が完了している。しかし、同期フレームデータ群N+3については前景データのみの送信しか完了しておらず、タイムアウトのため背景データの送信が中止されている。そのため、次の同期フレームデータ群N+4については背景データから先にフレームデータが送信され、次に前景データが送信される。
以上、本実施形態の処理により、画像処理システム100は、直前に送信に失敗したフレームデータに対応するカメラ112により撮影されたフレームデータを優先的に送信できる。これにより、画像処理システム100は、一部のカメラ112からのフレームデータが継続して欠落するという事態を防止でき、生成される仮想視点画像の品質の劣化をより低減できる。
また、本実施形態の処理により、画像処理システム100は、直前に送信に失敗したデータタイプのフレームデータを優先的に送信できる。これにより、画像処理システム100は、一部のデータタイプのフレームデータが継続して欠落するという事態を防止でき、生成される仮想視点画像の品質の劣化をより低減できる。
また、本実施形態の処理により、画像処理システム100は、直前に送信に失敗したデータタイプのフレームデータを優先的に送信できる。これにより、画像処理システム100は、一部のデータタイプのフレームデータが継続して欠落するという事態を防止でき、生成される仮想視点画像の品質の劣化をより低減できる。
本実施形態では、画像処理システム100は、過去フレームデータ群の送信状況に基づいて、カメラ112a−112hそれぞれと、フレームデータのデータタイプそれぞれと、について優先度を決定した。ただし、画像処理システム100は、過去フレームデータ群の送信状況に基づいて、カメラ112a−112hそれぞれと、フレームデータのデータタイプそれぞれと、のうちの何れか一方についてのみ優先度を決定することとしてもよい。
また、画像処理システム100は、実施形態1と同様の処理を行い、S401で過去フレームデータ群の送信状況に基づいて、カメラ112a−112hそれぞれについてのみ優先度を決定することとしてもよい。
また、画像処理システム100は、実施形態1と同様の処理を行い、S401で過去フレームデータ群の送信状況に基づいて、カメラ112a−112hそれぞれについてのみ優先度を決定することとしてもよい。
<その他の実施形態>
実施形態1−3では、カメラアダプタ120が1台ずつ画像サーバ装置200へのフレームデータを送信した。ただし、複数台のカメラアダプタ120が同時に画像サーバ装置200へフレームデータを送信することとしてもよい。
例えば、画像処理システムは、カメラ112それぞれをカメラ112それぞれの優先度に基づいて、複数のグループに分ける。そして、画像処理システムは、優先度の1位のグループのカメラ112それぞれに対応するカメラアダプタ120それぞれにトークンを送信し、フレームデータを送信させる。そして、これらのカメラアダプタ120それぞれは、フレームデータの送信を完了すると、次に優先度2位のグループのカメラ112それぞれに対応するカメラアダプタ120に対してトークンを送信する。優先度2位のグループのカメラ112それぞれは、優先度の最も高いグループのカメラ112全てからトークンを受信した場合、フレームデータの送信を行う。優先度3位以下のグループに対応するカメラアダプタ120それぞれは、以上の処理と同様の処理を繰り返す。
実施形態1−3では、カメラアダプタ120が1台ずつ画像サーバ装置200へのフレームデータを送信した。ただし、複数台のカメラアダプタ120が同時に画像サーバ装置200へフレームデータを送信することとしてもよい。
例えば、画像処理システムは、カメラ112それぞれをカメラ112それぞれの優先度に基づいて、複数のグループに分ける。そして、画像処理システムは、優先度の1位のグループのカメラ112それぞれに対応するカメラアダプタ120それぞれにトークンを送信し、フレームデータを送信させる。そして、これらのカメラアダプタ120それぞれは、フレームデータの送信を完了すると、次に優先度2位のグループのカメラ112それぞれに対応するカメラアダプタ120に対してトークンを送信する。優先度2位のグループのカメラ112それぞれは、優先度の最も高いグループのカメラ112全てからトークンを受信した場合、フレームデータの送信を行う。優先度3位以下のグループに対応するカメラアダプタ120それぞれは、以上の処理と同様の処理を繰り返す。
また、実施形態1−3では、画像処理システム100は、トークンをカメラアダプタ120間で送受信させることで、フレームデータの送信の順位を調整した。ただし、画像処理システム100は、他の方法でフレームデータの送信の順位を調整してもよい。
例えば、コントローラ装置300は、送信順位1位のカメラアダプタ120にフレームデータの送信指示を行い、このカメラアダプタ120からフレームデータを受信したら、送信順位2のカメラアダプタ120にフレームデータの送信指示を行ってもよい。そして、コントローラ装置300は、以上の処理を繰り返すことで、フレームデータの送信の順位を調整してもよい。
例えば、コントローラ装置300は、送信順位1位のカメラアダプタ120にフレームデータの送信指示を行い、このカメラアダプタ120からフレームデータを受信したら、送信順位2のカメラアダプタ120にフレームデータの送信指示を行ってもよい。そして、コントローラ装置300は、以上の処理を繰り返すことで、フレームデータの送信の順位を調整してもよい。
また、実施形態1−3では、カメラ112と、対応するカメラアダプタ120と、が別個の装置であるとした。しかし、カメラ112と、対応するカメラアダプタ120と、が一体の装置であるとしてもよい。
また、実施形態1−3では、コントローラ装置300は、カメラ112a−112hそれぞれの優先度を決定することとした。ただし、コントローラ装置300は、カメラ112a−112hそれぞれの優先度を決定しないこととしてもよい。例えば、カメラ112a−112hそれぞれの優先度は、予め定められていることとしてもよい。
なお、他の例としては、カメラアダプタ120a−120hの何れかがコントローラ装置300と同様の機能を有し、実施形態1−3で説明したコントローラ装置300と同様の処理を行うこととしてもよい。すなわち、この場合には、カメラアダプタ120a−120hの何れかが、図6を参照しつつ説明した処理により、優先度の決定、トークンの生成、トークンの送信を行う。
また、実施形態1−3では、コントローラ装置300は、カメラ112a−112hそれぞれの優先度を決定することとした。ただし、コントローラ装置300は、カメラ112a−112hそれぞれの優先度を決定しないこととしてもよい。例えば、カメラ112a−112hそれぞれの優先度は、予め定められていることとしてもよい。
なお、他の例としては、カメラアダプタ120a−120hの何れかがコントローラ装置300と同様の機能を有し、実施形態1−3で説明したコントローラ装置300と同様の処理を行うこととしてもよい。すなわち、この場合には、カメラアダプタ120a−120hの何れかが、図6を参照しつつ説明した処理により、優先度の決定、トークンの生成、トークンの送信を行う。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読み出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
例えば、上述した画像処理システムの機能構成の一部又は全てをハードウェアとしてコントローラ装置300、カメラアダプタ120等に実装してもよい。以上、本発明の実施形態の一例について詳述したが、本発明は係る特定の実施形態に限定されるものではない。例えば、上述した各実施形態を任意に組み合わせる等してもよい。
100 画像処理システム
112 カメラ
120 カメラアダプタ
300 コントローラ装置
112 カメラ
120 カメラアダプタ
300 コントローラ装置
Claims (23)
- 送信期間内に送信された画像データに基づいて仮想視点画像に関する処理を行う生成装置に、前記画像データを送信する画像処理装置であって、
複数の撮影手段による撮影に基づく複数の画像データのうち、前記画像処理装置に対応する撮影手段による撮影に基づく画像データを取得する取得手段と、
前記取得手段により取得された画像データを、前記複数の撮影手段それぞれに定められた優先度と、画像データのデータタイプそれぞれに定められた優先度と、の少なくとも1つに応じて定まる前記複数の画像データの送信順位にしたがって、前記生成装置に送信する送信手段と、
前記送信期間が経過した際に、前記画像処理装置に対応する撮影手段による撮影に基づく画像データの送信が完了していない場合、当該画像データの送信を中止する中止手段と、
を有することを特徴とする画像処理装置。 - 前記複数の撮影手段それぞれの優先度と、画像データのデータタイプそれぞれの優先度と、のうちの少なくとも1つを決定する決定手段を更に有し、
前記送信手段は、前記取得手段により取得された画像データを、前記決定手段により決定された前記複数の撮影手段それぞれに定められた優先度と、画像データのデータタイプそれぞれに定められた優先度と、の少なくとも1つに応じて定まる前記複数の画像データの送信順位にしたがって、送信することを特徴とする請求項1記載の画像処理装置。 - 前記決定手段は、前記複数の撮影手段それぞれの優先度を決定し、
前記送信手段は、前記取得手段により取得された画像データを、前記決定手段により決定された前記複数の撮影手段それぞれに定められた優先度に応じて定まる前記複数の画像データの送信順位にしたがって、送信することを特徴とする請求項2記載の画像処理装置。 - 前記決定手段は、前記複数の撮影手段の撮影シーンに基づいて、前記複数の撮影手段それぞれの優先度を決定することを特徴とする請求項3記載の画像処理装置。
- 前記複数の撮影手段は、同期して画像を撮影し、
前記決定手段は、前記複数の撮影手段による前記複数の画像データに対応する撮影の1つ前の撮影に基づく複数の過去画像データのうち送信が中止された過去画像データに対応する撮影を行った撮影手段の優先度が、前記複数の過去画像データのうち送信が行われた過去画像データに対応する撮影を行った撮影手段の優先度よりも高くなるように、前記複数の撮影手段それぞれの優先度を決定することを特徴とする請求項3又は4記載の画像処理装置。 - 前記決定手段は、画像データのデータタイプそれぞれの優先度を決定し、
前記送信手段は、前記取得手段により取得された画像データを、前記決定手段により決定された画像データのデータタイプそれぞれに定められた優先度に応じて定まる前記複数の画像データの送信順位にしたがって、送信することを特徴とする請求項2記載の画像処理装置。 - 前記決定手段は、前記複数の撮影手段による前記複数の画像データに対応する撮影の1つ前の撮影に基づく複数の過去画像データのうち送信が中止された過去画像データのデータタイプの優先度が、前記複数の過去画像データのうち前記複数の撮影手段の全てについて送信が完了した過去画像データのデータタイプの優先度よりも高くなるように、画像データのデータタイプそれぞれの優先度を決定することを特徴とする請求項6記載の画像処理装置。
- 前記送信手段は、送信指示を受付けた場合、前記取得手段により取得された画像データの送信を実行し、前記複数の画像データに含まれる、送信が完了していない画像データのうち最も送信順位の高い画像データを撮影した撮影手段に対応する他の画像処理装置に対して、前記画像データの送信指示を行うことを特徴とする請求項1乃至7のうち何れか1項記載の画像処理装置。
- 前記画像処理装置は、前記複数の撮影手段のうち前記画像処理装置に対応する撮影手段と異なる撮影手段に対応する他の画像処理装置とデイジーチェーン接続されていることを特徴とする請求項1乃至8のうち何れか1項記載の画像処理装置。
- 前記生成装置は、前記仮想視点画像に関する処理として、前記仮想視点画像を生成する処理を行うことを特徴とする請求項1乃至9のうち何れか1項記載の画像処理装置。
- 前記生成装置は、前記仮想視点画像に関する処理として、前記仮想視点画像を生成するために、前記画像処理装置から送信された画像データに基づき、オブジェクトの3次元形状データを生成する処理を行うことを特徴とする請求項1乃至9のうち何れか1項記載の画像処理装置。
- 送信期間内に送信された画像データに基づいて仮想視点画像に関する処理を行う生成装置に、前記画像データを送信する複数の画像処理装置を含むシステムであって、
前記画像処理装置は、
前記複数の画像処理装置にそれぞれ対応する複数の撮影手段による撮影に基づく複数の画像データのうち、前記画像処理装置に対応する撮影手段による撮影に基づく画像データを取得する取得手段と、
前記取得手段により取得された画像データを、前記複数の撮影手段それぞれに定められた優先度と、画像データのデータタイプそれぞれに定められた優先度と、の少なくとも1つに応じて定まる前記複数の画像データの送信順位にしたがって、前記生成装置に送信する送信手段と、
予め定められた送信期間が経過した際に、前記画像処理装置に対応する撮影手段による撮影に基づく画像データの送信が完了していない場合、当該画像データの送信を中止する中止手段と、
を有することを特徴とするシステム。 - 前記複数の画像処理装置それぞれを制御する制御装置を更に有し、
前記制御装置は、
前記複数の撮影手段それぞれの優先度と、画像データのデータタイプそれぞれの優先度と、のうちの少なくとも1つを決定する決定手段を有し、
前記送信手段は、前記取得手段により取得された画像データを、前記決定手段により決定された前記複数の撮影手段それぞれに定められた優先度と、画像データのデータタイプそれぞれに定められた優先度と、の少なくとも1つに応じて定まる前記複数の画像データの送信順位にしたがって、送信することを特徴とする請求項12記載のシステム。 - 前記決定手段は、前記複数の撮影手段それぞれの優先度を決定し、
前記送信手段は、前記取得手段により取得された画像データを、前記決定手段により決定された前記複数の撮影手段それぞれに定められた優先度に応じて定まる前記複数の画像データの送信順位にしたがって、送信することを特徴とする請求項13記載のシステム。 - 前記決定手段は、前記複数の撮影手段の撮影シーンに基づいて、前記複数の撮影手段それぞれの優先度を決定することを特徴とする請求項14記載のシステム。
- 前記複数の撮影手段は、同期して画像を撮影し、
前記決定手段は、前記複数の撮影手段による前記複数の画像データに対応する撮影の1つ前の撮影に基づく複数の過去画像データのうち送信が中止された過去画像データに対応する撮影を行った撮影手段の優先度が、前記複数の過去画像データのうち送信が行われた過去画像データに対応する撮影を行った撮影手段の優先度よりも高くなるように、前記複数の撮影手段それぞれの優先度を決定することを特徴とする請求項14又は15記載のシステム。 - 前記決定手段は、画像データのデータタイプそれぞれの優先度を決定し、
前記送信手段は、前記取得手段により取得された画像データを、前記決定手段により決定された画像データのデータタイプそれぞれに定められた優先度に応じて定まる前記複数の画像データの送信順位にしたがって、送信することを特徴とする請求項13記載のシステム。 - 前記決定手段は、前記複数の撮影手段による前記複数の画像データに対応する撮影の1つ前の撮影に基づく複数の過去画像データのうち送信が中止された過去画像データのデータタイプの優先度が、前記複数の過去画像データのうち前記複数の撮影手段の全てについて送信が完了した過去画像データのデータタイプの優先度よりも高くなるように、画像データのデータタイプそれぞれの優先度を決定することを特徴とする請求項17記載のシステム。
- 前記送信手段は、送信指示を受付けた場合、前記取得手段により取得された画像データの送信を実行し、前記複数の画像データに含まれる、送信が完了していない画像データのうち最も送信順位の高い画像データを撮影した撮影手段に対応する他の画像処理装置に対して、前記画像データの送信指示を行うことを特徴とする請求項12乃至18のうち何れか1項記載のシステム。
- 送信期間内に送信された画像データに基づいて仮想視点画像に関する処理を行う生成装置に、前記画像データを送信する画像処理装置が実行する情報処理方法であって、
複数の撮影手段による撮影に基づく複数の画像データのうち、前記画像処理装置に対応する撮影手段による撮影に基づく画像データを取得する取得ステップと、
前記取得ステップで取得された画像データを、前記複数の撮影手段それぞれに定められた優先度と、画像データのデータタイプそれぞれに定められた優先度と、の少なくとも1つに応じて定まる前記複数の画像データの送信順位にしたがって、前記生成装置に送信する送信ステップと、
予め定められた送信期間が経過した際に、前記画像処理装置に対応する撮影手段による撮影に基づく画像データの送信が完了していない場合、当該画像データの送信を中止する中止ステップと、
を含むことを特徴とする情報処理方法。 - 前記送信ステップでは、前記取得ステップで取得された画像データを、前記複数の撮影手段それぞれに定められた優先度に応じて定まる前記複数の画像データの送信順位にしたがって、送信し、
前記複数の撮影手段それぞれの優先度は、前記複数の撮影手段の撮影シーンに基づいて決定されることを特徴とする請求項20記載の情報処理方法。 - 前記送信ステップでは、前記取得ステップで取得された画像データを、画像データのデータタイプそれぞれに定められた優先度に応じて定まる前記複数の画像データの送信順位にしたがって、送信し、
前記複数の撮影手段による前記複数の画像データに対応する撮影の1つ前の撮影に基づく複数の過去画像データのうち送信が中止された過去画像データのデータタイプの優先度が、前記複数の過去画像データのうち前記複数の撮影手段の全てについて送信が完了した過去画像データのデータタイプの優先度よりも高くなるように、画像データのデータタイプそれぞれの優先度が決定されることを特徴とする請求項20記載の情報処理方法。 - 送信期間内に送信された画像データに基づいて仮想視点画像に関する処理を行う生成装置に、前記画像データを送信するコンピュータに、
複数の撮影手段による撮影に基づく複数の画像データのうち、前記コンピュータに対応する撮影手段による撮影に基づく画像データを取得する取得ステップと、
前記取得ステップで取得された画像データを、前記複数の撮影手段それぞれに定められた優先度と、画像データのデータタイプそれぞれに定められた優先度と、の少なくとも1つに応じて定まる前記複数の画像データの送信順位にしたがって、前記生成装置に送信する送信ステップと、
予め定められた送信期間が経過した際に、前記コンピュータに対応する撮影手段による撮影に基づく画像データの送信が完了していない場合、当該画像データの送信を中止する中止ステップと、
を実行させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018210688A JP2020077997A (ja) | 2018-11-08 | 2018-11-08 | 画像処理装置、システム、情報処理方法及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018210688A JP2020077997A (ja) | 2018-11-08 | 2018-11-08 | 画像処理装置、システム、情報処理方法及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2020077997A true JP2020077997A (ja) | 2020-05-21 |
Family
ID=70725183
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018210688A Pending JP2020077997A (ja) | 2018-11-08 | 2018-11-08 | 画像処理装置、システム、情報処理方法及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2020077997A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116647750A (zh) * | 2023-04-24 | 2023-08-25 | 北京代码空间科技有限公司 | 一种平面图像获取方法、系统及终端设备 |
-
2018
- 2018-11-08 JP JP2018210688A patent/JP2020077997A/ja active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116647750A (zh) * | 2023-04-24 | 2023-08-25 | 北京代码空间科技有限公司 | 一种平面图像获取方法、系统及终端设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10958820B2 (en) | Intelligent interface for interchangeable sensors | |
US10425570B2 (en) | Camera array including camera modules | |
JP6439837B2 (ja) | 電子機器および表示方法 | |
CN106576160B (zh) | 用于具有模式切换的深度相机模式的成像架构 | |
JP7179515B2 (ja) | 装置、制御方法、及びプログラム | |
CN110300240B (zh) | 图像处理器、图像处理方法、拍照装置及电子设备 | |
JP2020036253A (ja) | コンテンツ配信サーバ、コンテンツ配信システム、コンテンツ配信方法及びプログラム | |
KR101915036B1 (ko) | 실시간 비디오 스티칭 방법, 시스템 및 컴퓨터 판독 가능 기록매체 | |
JP2019191989A (ja) | 仮想視点画像を生成するシステム、方法及びプログラム | |
JP2019050451A (ja) | 画像処理装置及びその制御方法及びプログラム及び画像処理システム | |
WO2008075635A1 (ja) | 撮像装置および撮像システム | |
US9258543B2 (en) | Method and device for generating three-dimensional image | |
JP2010166218A (ja) | カメラシステム及びその制御方法 | |
JP2018191251A (ja) | 情報処理システム、情報処理方法、およびプログラム | |
JP2020077997A (ja) | 画像処理装置、システム、情報処理方法及びプログラム | |
JP5562101B2 (ja) | 撮像装置、撮像装置の制御方法及びプログラム | |
TW201801515A (zh) | 影像產生方法及影像拍攝裝置 | |
JP2020039112A (ja) | コンテンツ配信サーバ、コンテンツ配信システム、コンテンツ配信方法及びプログラム | |
US11210261B2 (en) | Systems and methods for synchronizing frame processing within a multi-stage modular architecture | |
JP2013085239A (ja) | 撮像装置 | |
WO2019091423A1 (en) | An image‐processing microprocessor for supporting an application processor and multiple cameras | |
JP2020039072A (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP7178619B1 (ja) | 通信装置、制御装置及び通信方法 | |
JP2019003325A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP7281651B1 (ja) | 通信装置及び制御装置 |