JP2020028096A - 画像処理装置、画像処理装置の制御方法及びプログラム - Google Patents
画像処理装置、画像処理装置の制御方法及びプログラム Download PDFInfo
- Publication number
- JP2020028096A JP2020028096A JP2018153582A JP2018153582A JP2020028096A JP 2020028096 A JP2020028096 A JP 2020028096A JP 2018153582 A JP2018153582 A JP 2018153582A JP 2018153582 A JP2018153582 A JP 2018153582A JP 2020028096 A JP2020028096 A JP 2020028096A
- Authority
- JP
- Japan
- Prior art keywords
- image
- virtual viewpoint
- target
- advertisement
- processing apparatus
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Image Generation (AREA)
- Closed-Circuit Television Systems (AREA)
- Studio Devices (AREA)
Abstract
【課題】仮想視点画像内に適切なタイミングで合成対象の画像を表示可能にする。【解決手段】撮影対象領域を複数の方向から撮影する複数の撮影装置により得られる撮影画像に基づく仮想視点画像であって対象画像が合成された仮想視点画像を生成する画像処理装置であって、保存手段に保存されている複数の対象画像の中から、前記撮影対象領域における対象画像の表示タイミングに基づいて、前記仮想視点画像に合成する対象画像を決定する決定手段と、前記決定手段により決定された対象画像が合成された前記仮想視点画像を生成する生成手段とを備える。【選択図】 図1
Description
本発明は、画像処理装置、画像処理装置の制御方法及びプログラムに関するものである。
近年、複数のカメラを異なる位置に設置して多視点で同期撮影し、当該撮影により得られた多視点画像を用いて仮想視点画像を生成する技術が注目されている。
多視点画像から仮想視点画像を生成する技術によれば、例えば、サッカーやバスケットボールのハイライトシーンを様々な角度から視聴することが出来るため、通常の画像と比較してユーザに高臨場感を与えることができる。
このような多視点画像に基づく仮想視点画像の生成及び閲覧は、複数のカメラが撮影した画像をサーバなどの画像処理部に集約し、当該画像処理部にて、三次元モデル生成、レンダリングなどの処理を施し、ユーザ端末に伝送を行うことで実現できる。
このようにして生成された仮想視点画像内にスポンサー広告を表示させ、視聴者に広告活動を行う場合がある。特許文献1では、仮想視点画像内に広告画像を表示させる際に、視聴者が認識しやすい位置に広告を表示する技術が開示されている。
しかし、特許文献1に記載の技術では、広告の表示タイミングについて考慮されていない。例えば、フィールド脇に設置されたディスプレイ等に表示されるスポンサー広告を、画像合成により仮想視点画像内に表示させる場合を考える。この場合に、事前に準備された広告画像をタイミングの制御を行うことなく合成すると、仮想視点画像における広告画像の表示タイミングが、実際の撮影シーンにおけるディスプレイへの広告表示タイミングと異なってしまうことがある。その結果、広告の表示タイミングが実際と異なることで広告主に不平等が生じてしまったり、広告効果が低下してしまったりする可能性があるという課題がある。
本発明は、上記の課題に鑑みてなされたものであり、仮想視点画像内に適切なタイミングで合成対象の画像を表示可能にするための技術を提供することを目的とする。
上記の目的を達成する本発明に係る画像処理装置は、
撮影対象領域を複数の方向から撮影する複数の撮影装置により得られる撮影画像に基づく仮想視点画像であって対象画像が合成された仮想視点画像を生成する画像処理装置であって、
保存手段に保存されている複数の対象画像の中から、前記撮影対象領域における対象画像の表示タイミングに基づいて、前記仮想視点画像に合成する対象画像を決定する決定手段と、
前記決定手段により決定された対象画像が合成された前記仮想視点画像を生成する生成手段と、
を備えることを特徴とする。
撮影対象領域を複数の方向から撮影する複数の撮影装置により得られる撮影画像に基づく仮想視点画像であって対象画像が合成された仮想視点画像を生成する画像処理装置であって、
保存手段に保存されている複数の対象画像の中から、前記撮影対象領域における対象画像の表示タイミングに基づいて、前記仮想視点画像に合成する対象画像を決定する決定手段と、
前記決定手段により決定された対象画像が合成された前記仮想視点画像を生成する生成手段と、
を備えることを特徴とする。
本発明によれば、仮想視点画像内に適切なタイミングで合成対象の画像を表示することが可能となる。
以下、図面を参照しながら実施形態を説明する。なお、以下の実施形態において示す構成は一例に過ぎず、本発明は図示された構成に限定されるものではない。
(実施形態1)
<概略>
本実施形態では、予め保存されている対象画像(例えば広告画像)の中から、対象画像の実際の表示タイミングに合うように、仮想視点画像に合成する対象画像を決定し、決定された対象画像を仮想視点画像中の特定の表示領域に対して合成する例を説明する。より具体的には、仮想視点画像の時刻情報と、周期的画像である対象画像(例えば広告画像)の時刻情報とに基づいて、仮想視点画像に合成する対象画像を決定する。
<概略>
本実施形態では、予め保存されている対象画像(例えば広告画像)の中から、対象画像の実際の表示タイミングに合うように、仮想視点画像に合成する対象画像を決定し、決定された対象画像を仮想視点画像中の特定の表示領域に対して合成する例を説明する。より具体的には、仮想視点画像の時刻情報と、周期的画像である対象画像(例えば広告画像)の時刻情報とに基づいて、仮想視点画像に合成する対象画像を決定する。
これにより、仮想視点画像内に適切なタイミングで必要な画像を表示することが可能となる。例えば、対象画像が広告画像である場合には、実際の表示に即した広告画像の表示が可能となるため広告主に不平等が生じることを防止できる。さらに、予め保持されている高解像度の広告画像を合成するため、より視認しやすい仮想視点画像を提供でき、従って広告効果を増大することも可能となる。
<画像処理システムの構成>
まず、図1(a)を参照して、本実施形態に係る画像処理システム及び画像処理装置の構成の一例を説明する。本実施形態に係る画像処理システムは、画像処理装置1000、複数の撮影装置1100、仮想視点画像生成装置1200及び画像保存装置1300を含んで構成されている。
まず、図1(a)を参照して、本実施形態に係る画像処理システム及び画像処理装置の構成の一例を説明する。本実施形態に係る画像処理システムは、画像処理装置1000、複数の撮影装置1100、仮想視点画像生成装置1200及び画像保存装置1300を含んで構成されている。
[画像処理装置]
画像処理装置1000は、撮影装置1100、仮想視点画像生成装置1200及び画像保存装置1300と接続されている。画像処理装置1000には、撮影装置1100から後述する時刻情報が入力され、仮想視点画像生成装置1200から仮想視点画像データが入力される。さらに、画像処理装置1000は、入力された仮想視点画像データに対して、広告に代表される画像を合成し、画像保存装置1300へ画像データを出力する。
画像処理装置1000は、撮影装置1100、仮想視点画像生成装置1200及び画像保存装置1300と接続されている。画像処理装置1000には、撮影装置1100から後述する時刻情報が入力され、仮想視点画像生成装置1200から仮想視点画像データが入力される。さらに、画像処理装置1000は、入力された仮想視点画像データに対して、広告に代表される画像を合成し、画像保存装置1300へ画像データを出力する。
撮影装置1100は、ビデオカメラ等の装置である。撮影装置1100は、例えば、シリアルデジタルインターフェイス(SDI)に代表される画像信号インターフェイスを備えたデジタルビデオカメラである。なお、図中では1つの撮影装置1100が示されているが、複数の撮影装置により構成されており、各撮影装置により同時期に撮影された画像から仮想視点画像を生成することができる。
[撮影装置]
撮影装置1100は、画像信号インターフェイスにタイムコードに代表される時刻情報を重畳させ、画像処理装置1000へ画像信号及び時刻情報を出力する。なお、撮影装置1100から画像処理装置1000へ必ずしも画像信号を出力する必要はなく、時刻情報のみを出力してもよい。実施形態1では、撮影装置1100から画像処理装置1000へ画像信号を出力せず、後述する特定シーンの時刻情報を出力するものとする。
撮影装置1100は、画像信号インターフェイスにタイムコードに代表される時刻情報を重畳させ、画像処理装置1000へ画像信号及び時刻情報を出力する。なお、撮影装置1100から画像処理装置1000へ必ずしも画像信号を出力する必要はなく、時刻情報のみを出力してもよい。実施形態1では、撮影装置1100から画像処理装置1000へ画像信号を出力せず、後述する特定シーンの時刻情報を出力するものとする。
[仮想視点画像生成装置]
仮想視点画像生成装置1200は、撮影装置1100から受信した撮影画像データから仮想視点画像を生成するサーバである。例えば、仮想視点画像生成装置1200は、ネットワークケーブル等を介して撮影装置1100から撮影画像データを取得する。なお、撮影装置1100は、撮影対象領域を複数の方向から撮影する複数の撮影装置を有する撮影装置群に含まれており、仮想視点画像生成装置1200は、撮影装置群に含まれる複数の撮影装置から撮影画像データを取得する。そして仮想視点画像生成装置1200は、取得した撮影画像データに基づいて三次元モデル生成、レンダリングなどの処理を行い、仮想視点画像を生成する。
仮想視点画像生成装置1200は、撮影装置1100から受信した撮影画像データから仮想視点画像を生成するサーバである。例えば、仮想視点画像生成装置1200は、ネットワークケーブル等を介して撮影装置1100から撮影画像データを取得する。なお、撮影装置1100は、撮影対象領域を複数の方向から撮影する複数の撮影装置を有する撮影装置群に含まれており、仮想視点画像生成装置1200は、撮影装置群に含まれる複数の撮影装置から撮影画像データを取得する。そして仮想視点画像生成装置1200は、取得した撮影画像データに基づいて三次元モデル生成、レンダリングなどの処理を行い、仮想視点画像を生成する。
そして、仮想視点画像生成装置1200は、生成した仮想視点画像を画像処理装置1000へ出力する。出力される仮想視点画像は、三次元モデル情報と、レンダリングに必要なテクスチャ情報とであってもよいし、或いは、仮想視点を決定した後の画像データであってもよい。なお、本実施形態では、仮想視点画像生成装置1200は、画像処理装置1000の外部に設けられているが、画像処理装置1000の内部に仮想視点画像生成装置1200の機能の一部又は全部が含まれてもよい。
[画像保存装置]
画像保存装置1300は、画像処理装置1000から出力された仮想視点画像を保存する。例えば、画像保存装置1300は、ハードディスクやSSD(Solid State Drive)に代表されるデータ保存部である。画像処理装置1000が出力する仮想視点画像は画像保存装置1300に蓄えられ、ユーザが不図示の画像表示装置等で視聴することができる。なお、画像処理装置1000が出力する仮想視点画像は、画像保存装置1300だけでなく、ディスプレイなどの画像表示装置にも出力し、ユーザに提供してもよい。
画像保存装置1300は、画像処理装置1000から出力された仮想視点画像を保存する。例えば、画像保存装置1300は、ハードディスクやSSD(Solid State Drive)に代表されるデータ保存部である。画像処理装置1000が出力する仮想視点画像は画像保存装置1300に蓄えられ、ユーザが不図示の画像表示装置等で視聴することができる。なお、画像処理装置1000が出力する仮想視点画像は、画像保存装置1300だけでなく、ディスプレイなどの画像表示装置にも出力し、ユーザに提供してもよい。
<画像処理装置の構成>
次に、本実施形態に係る画像処理装置1000の機能構成の一例を説明する。画像処理装置1000は、合成画像保存部1010と、画像合成部1020と、合成画像決定部1030とを備えている。各処理部の機能は後述のハードウェア構成で示すCPU等の制御部により実行される。
次に、本実施形態に係る画像処理装置1000の機能構成の一例を説明する。画像処理装置1000は、合成画像保存部1010と、画像合成部1020と、合成画像決定部1030とを備えている。各処理部の機能は後述のハードウェア構成で示すCPU等の制御部により実行される。
[合成画像保存部]
合成画像保存部1010は、撮影装置1100が撮影している場所に設置された(撮影構図内の)ディスプレイに表示される画像データ(例えば、広告画像)を保存している。例えば、撮影対象がサッカーの試合である場合、スタジアムのフィールド脇には広告表示用のディスプレイが設置されている場合がある。これらのディスプレイは、時々刻々と広告画像を変化させる効果を加えることで広告効果をあげている。合成画像保存部1010は、ディスプレイに表示されるべき広告に代表する画像を保存している。フィールド脇に設置されたディスプレイ広告は、仮想視点画像内においても重要な広告媒体である。そのため、仮想視点の位置がどのような位置にある場合でも広告画像は高画質であるべきである。仮に仮想視点の位置がフィールド脇のディスプレイに寄った場合に、広告画像が拡大処理を施したような解像感の低い画像になってしまっては広告効果を低下させてしまう。そのため、合成画像保存部1010は、事前に高解像度および高フレームレートの広告画像を保存しておく。合成画像保存部1010に保存する広告画像は、事前に広告主から得てもよいし、撮影装置1100によって撮影してもよい。また、保存される画像は広告画像に限られるものではなく、スタジアムのオーロラビジョンなどに表示される広告以外の画像であってもよい。本実施形態では、合成画像保存部1010に保存されている画像は、フィールド脇に設置されたディスプレイに表示さる広告画像であって、周期的に表示内容を繰り返す広告画像であるものとして説明を行う。合成画像保存部1010に保存されている画像の詳細については後述する。なお、合成画像保存部1010は画像処理装置1000の外部に存在していてもよい。
合成画像保存部1010は、撮影装置1100が撮影している場所に設置された(撮影構図内の)ディスプレイに表示される画像データ(例えば、広告画像)を保存している。例えば、撮影対象がサッカーの試合である場合、スタジアムのフィールド脇には広告表示用のディスプレイが設置されている場合がある。これらのディスプレイは、時々刻々と広告画像を変化させる効果を加えることで広告効果をあげている。合成画像保存部1010は、ディスプレイに表示されるべき広告に代表する画像を保存している。フィールド脇に設置されたディスプレイ広告は、仮想視点画像内においても重要な広告媒体である。そのため、仮想視点の位置がどのような位置にある場合でも広告画像は高画質であるべきである。仮に仮想視点の位置がフィールド脇のディスプレイに寄った場合に、広告画像が拡大処理を施したような解像感の低い画像になってしまっては広告効果を低下させてしまう。そのため、合成画像保存部1010は、事前に高解像度および高フレームレートの広告画像を保存しておく。合成画像保存部1010に保存する広告画像は、事前に広告主から得てもよいし、撮影装置1100によって撮影してもよい。また、保存される画像は広告画像に限られるものではなく、スタジアムのオーロラビジョンなどに表示される広告以外の画像であってもよい。本実施形態では、合成画像保存部1010に保存されている画像は、フィールド脇に設置されたディスプレイに表示さる広告画像であって、周期的に表示内容を繰り返す広告画像であるものとして説明を行う。合成画像保存部1010に保存されている画像の詳細については後述する。なお、合成画像保存部1010は画像処理装置1000の外部に存在していてもよい。
[画像合成部]
画像合成部1020は、合成画像保存部1010が保存する画像データを仮想視点画像に対して合成する。画像合成部1020は、例えばPCIExpressなどに代表される高速なデータ入出力インターフェイスを有するサーバやCPUである。本実施形態において、画像合成部1020は、仮想視点画像生成装置1200から仮想視点画像を受信する。そして画像合成部1020は、合成画像保存部1010から合成対象となる画像データを読み出して、仮想視点画像生成装置1200から受信した仮想視点画像に合成する。なお、画像合成部1020は、3次元モデル情報、テクスチャ情報、及び仮想視点情報などの、仮想視点画像を生成するための素材データを、仮想視点画像生成装置1200から受信してもよい。そして画像合成部1020は、それらの素材データと合成画像保存部1010から読みだした合成対象の画像データとを用いてレンダリング等の画像処理を行い、対象画像が合成された仮想視点画像を生成してもよい。
画像合成部1020は、合成画像保存部1010が保存する画像データを仮想視点画像に対して合成する。画像合成部1020は、例えばPCIExpressなどに代表される高速なデータ入出力インターフェイスを有するサーバやCPUである。本実施形態において、画像合成部1020は、仮想視点画像生成装置1200から仮想視点画像を受信する。そして画像合成部1020は、合成画像保存部1010から合成対象となる画像データを読み出して、仮想視点画像生成装置1200から受信した仮想視点画像に合成する。なお、画像合成部1020は、3次元モデル情報、テクスチャ情報、及び仮想視点情報などの、仮想視点画像を生成するための素材データを、仮想視点画像生成装置1200から受信してもよい。そして画像合成部1020は、それらの素材データと合成画像保存部1010から読みだした合成対象の画像データとを用いてレンダリング等の画像処理を行い、対象画像が合成された仮想視点画像を生成してもよい。
[合成画像決定部]
合成画像決定部1030は、合成画像保存部1010が保存する画像データから、仮想視点画像に合成する対象となる画像データを決定する。例えば、合成画像決定部1030は、演算可能なサーバやCPUである。本実施形態では、合成画像決定部1030は、撮影装置1100から特定シーンの時刻情報を受信し、この時刻情報を基準として仮想視点画像に合成する対象となる画像データを決定する。
合成画像決定部1030は、合成画像保存部1010が保存する画像データから、仮想視点画像に合成する対象となる画像データを決定する。例えば、合成画像決定部1030は、演算可能なサーバやCPUである。本実施形態では、合成画像決定部1030は、撮影装置1100から特定シーンの時刻情報を受信し、この時刻情報を基準として仮想視点画像に合成する対象となる画像データを決定する。
続いて、図1(b)を参照して、本実施形態に係る画像処理装置1000のハードウェア構成の一例を説明する。画像処理装置1000は、CPU1001、ROM1002、RAM1003、記憶装置1004、バス1005を備え、入力装置1006及び表示装置1007と接続されている。
CPU1001は、本実施形態に係る画像処理装置1000の上述の機能ブロックによる各種動作を制御する。その制御内容は、後述するROM1002やRAM1003上のプログラムによって指示される。また、CPU1001は、複数の計算機プログラムを並列に動作させることもできる。ROM1002は、CPU1001による制御の手順を記憶させた計算機プログラムやデータを格納している。RAM1003は、CPU1001が処理するための制御プログラムを格納するとともに、CPU1001が各種制御を実行する際の様々なデータの作業領域を提供する。ROM1002やRAM1003などの記録媒体に格納されたプログラムコードの機能は、CPU1001が読み出して実行することによって実現されるが、記録媒体の種類は問われない。
記憶装置1004は、さまざまなデータ等を記憶することができる。記憶装置1004は、ハードディスクやフロッピーディスク、光ディスク、磁気ディスク、光磁気ディスク、磁気テープ、不揮発性のメモリカード等の記録媒体と、当該記録媒体を駆動して情報を記録するドライブとを有する。保管された計算機プログラムやデータはキーボード等の指示や、各種計算機プログラムの指示により、必要な時にRAM1003上に呼び出される。
バス1005は、各構成要素と接続されているデータバスなどであり、各構成要素間の通信を実現し、情報のやり取りを高速に実現するためのものである。入力装置1006は、ユーザによる各種入力環境を提供する。各種入力操作環境を提供するものとして、キーボードやマウス等が考えられるが、タッチパネル、スタイラスペン等であってもよい。表示装置1007は、LCDディスプレイなどで構成され、各種入力操作の状態やそれに応じた計算結果などをユーザに対して表示する。なお、以上述べてきた構成は一例であり、説明した構成に限定されるものでない。
<仮想視点画像への画像データの合成>
次に、図2(a)−図2(c)を参照して、撮影装置1100が取得した撮影画像と仮想視点画像生成装置1200が生成した仮想視点画像との例を説明する。図2(d)については後述する。撮影画像2000、撮影画像2100は、撮影装置1100が取得した撮影画像であり、仮想視点画像2200は、仮想視点画像生成装置1200が生成した仮想視点画像である。
次に、図2(a)−図2(c)を参照して、撮影装置1100が取得した撮影画像と仮想視点画像生成装置1200が生成した仮想視点画像との例を説明する。図2(d)については後述する。撮影画像2000、撮影画像2100は、撮影装置1100が取得した撮影画像であり、仮想視点画像2200は、仮想視点画像生成装置1200が生成した仮想視点画像である。
撮影対象領域はサッカーの試合が行われるフィールドであり、図2(a)の撮影画像2000において、サッカーフィールド2003の脇に広告表示用ディスプレイ2001が設置されている画像が表示されている。広告表示用ディスプレイ2001は、広告効果を上げるために時々刻々と表示する広告画像を周期的に変化させている。例えば、図2(a)の撮影画像2000の状態では、広告表示用ディスプレイ2001が広告画像3001(A社の広告画像)を表示している。これに対して、一定時刻が経過した図2(b)の撮影画像2100の状態では、広告表示用ディスプレイ2001は、異なる広告画像3003(B社の広告画像)を表示している。
次に、仮想視点画像生成装置1200から画像処理装置1000へ出力される、図2(c)の仮想視点画像2200の説明を行う。仮想視点画像2200は、仮想視点生成装置1200が生成した仮想視点画像である。仮想視点画像2200の時刻は、撮影画像2100と同じ時刻である。仮想視点画像2200では、撮影装置1100が撮影した実際の撮影画像2100の撮影視点とは異なる仮想視点からの画像が表示される。しかしながら、広告表示用ディスプレイ2201には、実際の撮影画像では図2(b)に示される通り「B社」が表示されているのに対し、図2(c)の仮想視点画像2200では「A社」が表示されてしまっている。これは、仮想視点画像を生成する際に、画像の伝送データ量を削減するために背景画像の更新レートを低くしているため、実際の画像よりも以前の状態が表示されてしまっているためである。このように、仮想視点画像においてゴールシーンなど決定的な場面に表示されている広告画像が現実にその時刻に表示されている広告と異なる場合には、広告主に対して不平等が生じ、広告効果を低下させてしまう可能性がある。
続いて、図2(d)を参照して、本実施形態に係る画像処理装置1000から出力される仮想視点画像2300の説明を行う。仮想視点画像2300の広告表示ディスプレイ2301には、広告画像3003が合成されており、実際に撮影された図2(b)の画像2100と同じ「B社」の広告が表示されている。このように、実際に表示されているタイミングに合うように画像を表示することにより、広告効果の低下を防ぐことができる。広告画像3003を表示する処理の詳細については後述する。
<広告画像の例>
次に、図3を参照して、本実施形態に係る広告表示用ディスプレイ2001に表示される広告画像の例を説明する。本実施形態に係る広告表示用ディスプレイ2001は、図3の広告画像3000に示すようにスポンサー名の入った広告画像を周期的に表示するものとする。合成画像保存部1010にも、実際の広告画像と同じ内容の画像データが保存されており、広告画像3000が保存されている。
次に、図3を参照して、本実施形態に係る広告表示用ディスプレイ2001に表示される広告画像の例を説明する。本実施形態に係る広告表示用ディスプレイ2001は、図3の広告画像3000に示すようにスポンサー名の入った広告画像を周期的に表示するものとする。合成画像保存部1010にも、実際の広告画像と同じ内容の画像データが保存されており、広告画像3000が保存されている。
図3に示す広告画像3000は、広告画像3001から広告画像3002、広告画像3003へと順次変化を開始し、広告画像3006へ変化した後、再び広告画像3001に戻る。本実施形態に係る広告画像30000は、図3の広告画像の時刻情報3100に示すように、60秒間で周期的に繰り返すような画像になっている。
画像保存装置1300は、広告画像3001〜広告画像3006に対応した時刻情報3100を保存している。広告画像の開始フレーム3001の時刻情報を「XX:XX:00.00」として、各フレームに時刻情報が付与されているものとする。
<処理>
続いて、図2及び図3の画像例、及び図4のフローチャートを参照しながら、本実施形態に係る画像処理装置1000が実施する処理の手順を説明する。
続いて、図2及び図3の画像例、及び図4のフローチャートを参照しながら、本実施形態に係る画像処理装置1000が実施する処理の手順を説明する。
(S4010)
S4010において、合成画像決定部1030は、仮想視点画像に合成する対象画像(例えば広告画像3000)の周期時刻情報を取得する。図3に示したように、広告画像3000は広告画像3001から順次変化を開始し、広告画像3006に変化した後、再び広告画像3001に戻る。本実施形態に係る対象画像(広告画像)は、時刻情報3100により示されるように60秒間で周期的に広告表示を繰り返すような画像になっている。ここでは、合成画像決定部1030は、対象画像(広告画像)の周期情報として「60秒」を取得する。
S4010において、合成画像決定部1030は、仮想視点画像に合成する対象画像(例えば広告画像3000)の周期時刻情報を取得する。図3に示したように、広告画像3000は広告画像3001から順次変化を開始し、広告画像3006に変化した後、再び広告画像3001に戻る。本実施形態に係る対象画像(広告画像)は、時刻情報3100により示されるように60秒間で周期的に広告表示を繰り返すような画像になっている。ここでは、合成画像決定部1030は、対象画像(広告画像)の周期情報として「60秒」を取得する。
(S4020)
S4020において、合成画像決定部1030は、基準フレームの時刻情報を撮影装置1100から取得する。本実施形態では、周期的に変化する対象画像(例えば広告画像3000)の周期の開始フレームが撮影装置1100により撮影されているフレーム、すなわち周期的画像の周期の基準となるフレームを基準フレームと呼ぶこととする。広告画像3000は、広告画像3001から変化を開始し、広告画像3006に変化した後、再び広告画像3001に戻る。よって、広告画像3000の変化の開始フレームは広告画像3001である。この広告画像3001が表示されている開始フレームが基準フレームとなる。なお、基準フレームは開始フレームに限定されるものではなく、終了フレームを基準としてもよいし、或いは、何れか特定のフレームを基準フレームとしてもよい。
S4020において、合成画像決定部1030は、基準フレームの時刻情報を撮影装置1100から取得する。本実施形態では、周期的に変化する対象画像(例えば広告画像3000)の周期の開始フレームが撮影装置1100により撮影されているフレーム、すなわち周期的画像の周期の基準となるフレームを基準フレームと呼ぶこととする。広告画像3000は、広告画像3001から変化を開始し、広告画像3006に変化した後、再び広告画像3001に戻る。よって、広告画像3000の変化の開始フレームは広告画像3001である。この広告画像3001が表示されている開始フレームが基準フレームとなる。なお、基準フレームは開始フレームに限定されるものではなく、終了フレームを基準としてもよいし、或いは、何れか特定のフレームを基準フレームとしてもよい。
撮影画像2000は、広告表示用ディスプレイ2001が広告画像3001を表示している状態であるので、撮影画像2000が基準フレームに該当する。本実施形態では、撮影画像2000の時刻情報は、図2(a)の時刻情報2002に示されるように00:05:20.00である。このように、合成画像決定部1030は、基準フレームの時刻情報として00:05:20.00を撮影装置1100から取得する。
なお、このような基準フレームとなる撮影画像2000の状態は、撮影対象であるサッカーの試合などが開始される前の状態であってもよく、広告表示用ディスプレイ2001が周期的な広告画像を表示している状態であればよい。また、本実施形態に係る基準フレームの時刻情報を撮影装置1100から取得する例を説明しているが、ユーザが広告画像の基準フレームとなる時刻情報を、ユーザインターフェイスを介して入力することで取得してもよい。その場合、画像処理装置1000が入力装置1006としてのユーザインターフェイスを備えるように構成すればよい。
(S4030)
S4030において、合成画像決定部1030は、合成する仮想視点画像の時刻情報を取得する。例えば、撮影対象は、図2(b)の撮影画像2100に示されるように、サッカーの試合であり、ここではサッカーの試合が開始されている状態である。
S4030において、合成画像決定部1030は、合成する仮想視点画像の時刻情報を取得する。例えば、撮影対象は、図2(b)の撮影画像2100に示されるように、サッカーの試合であり、ここではサッカーの試合が開始されている状態である。
この時点では、撮影装置1100は、撮影画像を仮想視点画像生成装置1200へ伝送し、仮想視点画像生成装置1200は、撮影装置1100から取得した情報に基づいて仮想視点画像を生成している状態である。ここで、仮想視点画像生成装置1200は、一般的な公知の手法により仮想視点画像を生成するため、仮想視点画像生成の方法などの説明は省略する。仮想視点画像生成装置1200は、生成した仮想視点画像2200、及び仮想視点画像2200の時刻情報を画像処理装置1000に対して出力する。
このようにして、合成画像決定部1030は、入力された仮想視点画像2200の時刻情報を取得する。本実施形態では仮想視点画像の時刻情報は、図2(c)の時刻情報2201に示されるように01:12:40.00である。
(S4040)
S4040において、合成画像決定部1030は、合成する対象画像データの時刻情報を算出する。本実施形態では、合成画像決定部1030は、以下の式に基づいて合成する対象画像データの時刻情報を算出する。
S4040において、合成画像決定部1030は、合成する対象画像データの時刻情報を算出する。本実施形態では、合成画像決定部1030は、以下の式に基づいて合成する対象画像データの時刻情報を算出する。
対象画像の時刻情報=(仮想視点画像の時刻−基準フレームの時刻)%(対象画像の周期)
ここで、上記式において、仮想視点画像の時刻は01:12:40.00であり、基準フレームの時刻は00:05:20.00である。よって、仮想視点画像の時刻と基準フレームの時刻との差分は01:07:20.00となる。対象画像の周期情報は60秒であることから、差分を周期で割った余りを算出すると、対象画像の時刻情報は00:00:20.00として算出される。なお、本実施形態では簡単化のために秒単位までの算出に留めているが、秒よりも小さい単位まで算出するようにしてもよい。また、本実施形態ではフレーム番号については特に言及していないが、同様の方法で演算が可能である。
ここで、上記式において、仮想視点画像の時刻は01:12:40.00であり、基準フレームの時刻は00:05:20.00である。よって、仮想視点画像の時刻と基準フレームの時刻との差分は01:07:20.00となる。対象画像の周期情報は60秒であることから、差分を周期で割った余りを算出すると、対象画像の時刻情報は00:00:20.00として算出される。なお、本実施形態では簡単化のために秒単位までの算出に留めているが、秒よりも小さい単位まで算出するようにしてもよい。また、本実施形態ではフレーム番号については特に言及していないが、同様の方法で演算が可能である。
合成画像決定部1030は、画像合成部1020に対して、算出した対象画像の時刻情報を通知する。本実施形態では、合成画像決定部1030は、対象画像の時刻情報として00:00:20.00を画像合成部1020に対して通知する。
(S4050)
S4050において、画像合成部1020は、合成画像決定部1030からS4040で通知された時刻情報に基づいて、合成画像保存部1010から対象画像を取得する。時刻情報00:00:20.00の対象画像は、図3の広告画像3003に示されるようにB社のスポンサー広告である。そして、画像合成部1020は、取得した対象画像3003を仮想視点画像2200の中の表示領域(広告表示用ディスプレイ2301の領域)に対して合成し、図2(d)に示されるような仮想視点画像2300を生成する。このようにして生成された仮想視点画像2300の広告表示用ディスプレイ2301には、B社のスポンサー広告である広告画像3003が表示されている。
S4050において、画像合成部1020は、合成画像決定部1030からS4040で通知された時刻情報に基づいて、合成画像保存部1010から対象画像を取得する。時刻情報00:00:20.00の対象画像は、図3の広告画像3003に示されるようにB社のスポンサー広告である。そして、画像合成部1020は、取得した対象画像3003を仮想視点画像2200の中の表示領域(広告表示用ディスプレイ2301の領域)に対して合成し、図2(d)に示されるような仮想視点画像2300を生成する。このようにして生成された仮想視点画像2300の広告表示用ディスプレイ2301には、B社のスポンサー広告である広告画像3003が表示されている。
これらの処理により、実際に撮影されている撮影画像2100の広告表示用ディスプレイ2001に表示されている広告画像を、仮想視点画像2300にも表示することが可能となる。さらに、仮想視点画像2300に合成した広告画像3003は、事前に準備した高解像度の画像であるので、実際に撮影装置1100により撮影した画像を合成するよりも高画質な広告画像を提供することが可能となる。すなわち、保存されている対象画像の解像度は、撮影装置1100により撮影された撮影画像内の特定領域の解像度よりも高解像度である。
(S4060)
S4060において、合成画像決定部1030は、仮想視点画像の全フレームの処理が完了しているか否かを判定する。全フレームの処理が完了している場合、処理を終了する。一方、全フレームの処理が完了していない場合、S4030に戻って一連の処理を繰り返す。
S4060において、合成画像決定部1030は、仮想視点画像の全フレームの処理が完了しているか否かを判定する。全フレームの処理が完了している場合、処理を終了する。一方、全フレームの処理が完了していない場合、S4030に戻って一連の処理を繰り返す。
以上説明したように、本実施形態によれば、仮想視点画像内に適切なタイミングで必要な画像を表示することが可能となる。また、必要な画像が広告画像である場合には、現実空間で実際に表示された広告画像を適切なタイミングで仮想視点画像内に表示することが可能となる。また、仮想視点画像内で高画質な広告画像を提供することができる。従って、広告効果を維持・増大させることが可能となる。
(実施形態2)
<概略>
実施形態1では、画像処理装置1000が、撮影装置1100から特定シーンの時刻情報を取得し、取得した時刻情報に基づいて、合成する対象画像を決定する例を説明した。これに対して、実施形態2では、画像処理装置1000が、撮影装置1100から特定シーンの時刻情報を取得せず、画像データを受信する。そして、受信した画像データから特定シーンを検出し、検出した特定シーンに基づいて対象画像を決定する例を説明する。
<概略>
実施形態1では、画像処理装置1000が、撮影装置1100から特定シーンの時刻情報を取得し、取得した時刻情報に基づいて、合成する対象画像を決定する例を説明した。これに対して、実施形態2では、画像処理装置1000が、撮影装置1100から特定シーンの時刻情報を取得せず、画像データを受信する。そして、受信した画像データから特定シーンを検出し、検出した特定シーンに基づいて対象画像を決定する例を説明する。
<画像処理システム及び画像処理装置の構成>
本実施形態に係る構成は実施形態1で図1に示した構成と同様である。合成画像保存部1010と、画像合成部1020の機能は実施形態1と同様なので説明を省略する。
本実施形態に係る構成は実施形態1で図1に示した構成と同様である。合成画像保存部1010と、画像合成部1020の機能は実施形態1と同様なので説明を省略する。
本実施形態に係る合成画像決定部1030は、撮影装置1100から撮影画像データを受信する。そして、受信した画像データ内の広告表示領域(広告表示用ディスプレイの領域)の画像と、合成画像保存部1010に保存されている対象画像データとを比較することにより合成する対象画像を決定する。そのため、撮影装置1100から時刻情報を取得する必要はない。
<処理>
続いて、図2、図3の画像例、及び図5のフローチャートを参照しながら、本実施形態に係る画像処理装置が実施する処理の手順を説明する。
続いて、図2、図3の画像例、及び図5のフローチャートを参照しながら、本実施形態に係る画像処理装置が実施する処理の手順を説明する。
(S5010)
S5010において、合成画像決定部1030は、撮影装置1100から撮影画像データを受信し、撮影画像中の対象画像(例えば広告画像)の表示領域を特定する。すなわち、撮影装置1100から受信した撮影画像のどの位置に表示領域が存在するかを特定する。ここで表示領域とは、例えば前述の広告画像が表示される広告表示用ディスプレイが存在する領域である。本実施形態では、表示領域は、合成画像決定部1030が予め保持している特定の領域として指定されているものとする。
S5010において、合成画像決定部1030は、撮影装置1100から撮影画像データを受信し、撮影画像中の対象画像(例えば広告画像)の表示領域を特定する。すなわち、撮影装置1100から受信した撮影画像のどの位置に表示領域が存在するかを特定する。ここで表示領域とは、例えば前述の広告画像が表示される広告表示用ディスプレイが存在する領域である。本実施形態では、表示領域は、合成画像決定部1030が予め保持している特定の領域として指定されているものとする。
なお、表示領域は、撮影装置1100から受信する撮影画像データから導出してもよい。例えば、スタジアムで行われるイベント準備期間中にディスプレイ広告画像のリハーサルがあり、ディスプレイ広告画像が表示されている期間があるものとする。その場合には、ディスプレイ広告画像が表示されている期間の撮影画像データを用いて、フレーム間の画素値の差分を積算し、積算値が一定値以上である領域を表示領域として特定することができる。ディスプレイ広告画像が表示される領域は、時間経過と共に表示内容が変化するため、差分が大きい領域を表示領域と判定できる。
(S5020)
S5020において、合成画像決定部1030は、S5010で特定された表示領域の画像と、実施形態1で説明した合成画像保存部1010に保存されている対象画像とを比較し、比較結果に基づいて、合成する対象画像を決定する。
S5020において、合成画像決定部1030は、S5010で特定された表示領域の画像と、実施形態1で説明した合成画像保存部1010に保存されている対象画像とを比較し、比較結果に基づいて、合成する対象画像を決定する。
画像同士の比較には、画像データの比較で用いられる平均2乗誤差などに代表される手法を用いることができる。本実施形態では、各画素の平均2乗誤差値が閾値以下である場合に、背景変化記録が一致したと判定する。なお、画像比較の際には、スケーリングや変形等の画像処理を行った後に画素値の差分を取るものとするが、これらの前処理は必須ではなく、画像比較が可能であれば行わなくてもよい。
具体的に、実施形態1で示した図2の撮影画像2100と、図3の広告画像3000とを用いて説明を行う。合成画像決定部1030は、撮影画像2100の表示領域(広告表示用ディスプレイ2001が存在する領域)と、広告画像3000の各フレーム3001〜3006との画素差分値をそれぞれ算出する。その結果、合成画像決定部1030は、画素値の差分が最も小さいフレーム3003を対象画像として求めることができる。
(S5030)
S5030において、合成画像決定部1030は、S5020で決定された対象画像を仮想視点画像に対して合成する。ここでは、画素差分が最も少ないフレーム3003が対象画像であり、当該対象画像を仮想視点画像に合成する。
S5030において、合成画像決定部1030は、S5020で決定された対象画像を仮想視点画像に対して合成する。ここでは、画素差分が最も少ないフレーム3003が対象画像であり、当該対象画像を仮想視点画像に合成する。
これにより、実際に撮影されている画像2100の広告表示用ディスプレイ2001に表示されている広告画像を、仮想視点画像2300にも表示することが可能となる。さらに、仮想視点画像2300に合成された広告画像3003は事前に準備した高解像度画像であるので、実際に撮影した画像を合成するよりも高画質な広告画像を提供することが可能となる。
(S5040)
S5040において、合成画像決定部1030は、仮想視点画像の全フレームの処理が完了しているか否かを判定する。全フレームの処理が完了している場合、処理を終了する。一方、全フレームの処理が完了していない場合、S5020に戻って一連の処理を繰り返す。
S5040において、合成画像決定部1030は、仮想視点画像の全フレームの処理が完了しているか否かを判定する。全フレームの処理が完了している場合、処理を終了する。一方、全フレームの処理が完了していない場合、S5020に戻って一連の処理を繰り返す。
以上説明したように、本実施形態によれば、仮想視点画像内に適切なタイミングで必要な画像を表示することが可能となる。また、必要な画像が広告画像である場合には、現実空間で実際に表示された広告画像を仮想視点画像内で表示することが可能となる。また、仮想視点画像内で高画質な広告画像を提供することができる。従って、広告効果を維持・増大させることが可能となる。さらに、実施形態1と比較すると、撮影装置から時刻情報を受信する必要がないことから、撮影装置から時刻情報を受信できないような環境であったとしても処理を実行することができる。
(その他の実施形態)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
1000:画像処理装置、1010:合成画像保存部、1020:画像合成部、1030:合成画像決定部、1100:撮影装置、1200:仮想視点画像生成装置、1300:画像保存装置
Claims (8)
- 撮影対象領域を複数の方向から撮影する複数の撮影装置により得られる撮影画像に基づく仮想視点画像であって対象画像が合成された仮想視点画像を生成する画像処理装置であって、
保存手段に保存されている複数の対象画像の中から、前記撮影対象領域における対象画像の表示タイミングに基づいて、前記仮想視点画像に合成する対象画像を決定する決定手段と、
前記決定手段により決定された対象画像が合成された前記仮想視点画像を生成する生成手段と、
を備えることを特徴とする画像処理装置。 - 前記対象画像は、周期的に表示内容が変化する周期的画像に含まれ、
前記決定手段は、前記仮想視点画像の時刻情報と、前記周期的画像の時刻情報とに基づいて、前記仮想視点画像に合成する対象画像を決定することを特徴とする請求項1に記載の画像処理装置。 - 前記決定手段は、前記周期的画像の周期の基準となる基準フレームの時刻情報を前記撮影装置から取得し、
前記決定手段は、前記仮想視点画像の時刻情報と、前記基準フレームの時刻情報と、前記周期的画像の周期情報とに基づいて、前記仮想視点画像に合成する対象画像を決定することを特徴とする請求項2に記載の画像処理装置。 - 前記決定手段は、前記撮影装置により撮影された撮影画像を取得するとともに、前記撮影画像内の特定領域の画像と、前記保存手段に保存されている対象画像とを比較し、当該比較の結果に基づいて、前記仮想視点画像に合成する対象画像を決定することを特徴とする請求項1に記載の画像処理装置。
- 前記決定手段は、前記特定領域の画像の画素値と、前記保存手段に保存されている対象画像の画素値との差分が閾値以下となる対象画像を、前記仮想視点画像に合成する対象画像として決定することを特徴とする請求項4に記載の画像処理装置。
- 前記保存手段に保存されている対象画像の解像度は、前記撮影装置により撮影された撮影画像内の特定領域の解像度よりも高解像度であることを特徴とする請求項1乃至5の何れか1項に記載の画像処理装置。
- 撮影対象領域を複数の方向から撮影する複数の撮影装置により得られる撮影画像に基づく仮想視点画像であって対象画像が合成された仮想視点画像を生成する画像処理装置の制御方法であって、
保存手段に保存されている複数の対象画像の中から、前記撮影対象領域における対象画像の表示タイミングに基づいて、前記仮想視点画像に合成する対象画像を決定する決定工程と、
前記決定工程により決定された対象画像が合成された前記仮想視点画像を生成する生成工程と、
を有することを特徴とする画像処理装置の制御方法。 - コンピュータを、請求項1乃至6の何れか1項に記載の画像処理装置の各手段として機能させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018153582A JP2020028096A (ja) | 2018-08-17 | 2018-08-17 | 画像処理装置、画像処理装置の制御方法及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018153582A JP2020028096A (ja) | 2018-08-17 | 2018-08-17 | 画像処理装置、画像処理装置の制御方法及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2020028096A true JP2020028096A (ja) | 2020-02-20 |
Family
ID=69620436
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018153582A Pending JP2020028096A (ja) | 2018-08-17 | 2018-08-17 | 画像処理装置、画像処理装置の制御方法及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2020028096A (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022181378A1 (ja) * | 2021-02-26 | 2022-09-01 | 富士フイルム株式会社 | 画像処理装置、画像処理方法、及びプログラム |
US11472638B2 (en) * | 2020-02-07 | 2022-10-18 | Canon Kabushiki Kaisha | Conveyance apparatus, production system, and method for manufacturing article |
JP7393572B1 (ja) | 2023-02-06 | 2023-12-06 | Kddi株式会社 | 情報処理装置及び情報処理方法 |
JP7444655B2 (ja) | 2020-03-17 | 2024-03-06 | キヤノン株式会社 | 画像処理装置およびその制御方法、プログラム |
-
2018
- 2018-08-17 JP JP2018153582A patent/JP2020028096A/ja active Pending
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11472638B2 (en) * | 2020-02-07 | 2022-10-18 | Canon Kabushiki Kaisha | Conveyance apparatus, production system, and method for manufacturing article |
JP7444655B2 (ja) | 2020-03-17 | 2024-03-06 | キヤノン株式会社 | 画像処理装置およびその制御方法、プログラム |
WO2022181378A1 (ja) * | 2021-02-26 | 2022-09-01 | 富士フイルム株式会社 | 画像処理装置、画像処理方法、及びプログラム |
JP7393572B1 (ja) | 2023-02-06 | 2023-12-06 | Kddi株式会社 | 情報処理装置及び情報処理方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10277812B2 (en) | Image processing to obtain high-quality loop moving image | |
JP7051457B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP2020028096A (ja) | 画像処理装置、画像処理装置の制御方法及びプログラム | |
JP4879326B2 (ja) | 3次元画像を合成するシステム及び方法 | |
US11025879B2 (en) | Image processing apparatus, image processing method, and storage medium storing program | |
US8687002B2 (en) | Method, medium and system rendering 3-D graphics data having an object to which a motion blur effect is to be applied | |
US20050200706A1 (en) | Generation of static image data from multiple image data | |
JP6319972B2 (ja) | 画像処理装置、撮像装置、画像処理方法、およびプログラム | |
US10078918B2 (en) | Information processing apparatus, information processing method, and storage medium | |
JP2004234624A (ja) | 静止画像生成装置、静止画像生成方法、静止画像生成プログラム、および静止画像生成プログラムを記録した記録媒体 | |
EP3151243B1 (en) | Accessing a video segment | |
JP2019532319A (ja) | 合成ユーザ・インタフェース | |
JP5662088B2 (ja) | 遠隔目視検査装置 | |
US20230056459A1 (en) | Image processing device, method of generating 3d model, learning method, and program | |
CN111314777B (zh) | 视频生成方法及装置、计算机存储介质、电子设备 | |
JP7296735B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
CN109448085B (zh) | 影像渲染装置、方法及其非暂态电脑可读取存储媒体 | |
US20230410444A1 (en) | Display system for displaying mixed reality space image andprocessing method for use of display system | |
JP2016042661A (ja) | 情報処理装置、システム、情報処理方法及びプログラム | |
JP2005164832A (ja) | 立体視画像生成装置および方法並びにプログラム | |
JP7493542B2 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
JP2023111639A (ja) | 情報処理装置、情報処理方法、及びプログラム | |
US20220385835A1 (en) | Information processing apparatus, system, information processing method, and storage medium | |
WO2019044608A1 (ja) | 情報処理装置、情報処理方法、及び、記録媒体 | |
KR101368445B1 (ko) | Gpu를 이용한 이미지 합성 소프트웨어에서의 메모리 관리 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20210103 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210113 |