JP2019003320A - 画像生成装置、画像生成方法、及びプログラム - Google Patents
画像生成装置、画像生成方法、及びプログラム Download PDFInfo
- Publication number
- JP2019003320A JP2019003320A JP2017115933A JP2017115933A JP2019003320A JP 2019003320 A JP2019003320 A JP 2019003320A JP 2017115933 A JP2017115933 A JP 2017115933A JP 2017115933 A JP2017115933 A JP 2017115933A JP 2019003320 A JP2019003320 A JP 2019003320A
- Authority
- JP
- Japan
- Prior art keywords
- image
- image quality
- change
- rendering method
- virtual camera
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/111—Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformation in the plane of the image
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
- G01B11/245—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures using a plurality of fixed, simultaneously operating transducers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/128—Adjusting depth or disparity
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/167—Synchronising or controlling image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/275—Image signal generators from 3D object models, e.g. computer-generated stereoscopic image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/282—Image signal generators for generating image signals corresponding to three or more geometrical viewpoints, e.g. multi-view systems
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
Abstract
【課題】自由視点画像の生成におけるレンダリング方式の切替えに伴う画質の変化を抑制し、映像の連続性を確保することで、視覚的な違和感を低減する。【解決手段】本発明の画像生成装置は、自由視点画像のレンダリング方式を動的に決定するレンダリング方式決定手段と、レンダリング方式の切換え前後における画像の画質の変化が所定の閾値以上であるか否かを判定する画質変化判定手段と、画質変化判定手段により画質の変化が所定の閾値以上であると判定されると、レンダリング方式の切換えによる画質の変化を抑制するように制御する画質変化抑制手段と、画質変化抑制手段の制御に基づいて、自由視点画像を生成するレンダリング処理手段とを備える。【選択図】図2
Description
本発明は、レンダリング方式を切り替えて画像を生成する画像生成装置、画像生成方法、及びプログラムに関する。
近年、複数のカメラの各々を異なる位置に設置し、現実空間のあるシーンを複数の視点で同期して撮影し、その撮影した画像群に基づいて、任意の視点(仮想視点)からの見えを再現した画像(自由視点画像)を生成する技術が知られている。この自由視点画像では、例えば、サッカーやバスケットボールのハイライトシーン等を様々な角度から視ることができるため、通常の画像と比較して、ユーザに高い臨場感を与えることができる。
自由視点画像のレンダリング処理において、シーンの三次元形状を用いるMBR(Model−Based Rendering)や、撮影した画像群を用いるIBR(Image−Based Rendering)が、一般にその方式として採用される。
ここで、MBRとは、対象シーンの三次元形状を復元(生成)し、仮想視点からのシーンの見えを画像として生成する方式である。この方式では、三次元形状を復元するため、視点の自由度が高く、実際の見えとの相違が小さい画像を生成することができる。但し、高精度な三次元形状の復元には限界があり、物体の細かい表面の描画や凹物体の再現が困難である。さらに、複雑な形状が複数存在する場合、計算量が膨大となり、リアルタイムな三次元形状の復元は困難である。
また、IBRとは、対象のシーンを撮影した入力画像群を変形、合成して仮想視点からの見えを画像として生成する方式である。この方式では、複雑な形状をテクスチャとして再現した写実性が高い画像を生成できる。但し、視点の自由度は低く、あらゆる視点からの見えを再現するには多数の撮影画像が必要となる。なお、三次元形状の複雑さには依存しないため、計算量は一定である。
特許文献1には、計算量の異なる複数のレンダリング方式から計算機の状況に応じて、レンダリング方式を動的に切り替え、1フレーム内に処理を完了させる表示制御方法が開示されている。また、特許文献2には、三次元仮想空間における着目物体位置に基づいて、レンダリングの処理内容をダイナミックに切り替える画像生成装置が開示されている。
しかしながら、レンダリング方式を動的に切り替えると、連続性が欠けた映像が生成される恐れがあった。例えば、IBRでは撮影画像の透視変換で画像を生成し、MBRは三次元モデルに基づいて画像を生成するため、撮影カメラの配置、オブジェクトの形状・質感によっては方式による画像の見え方が大きく異なり、視覚的な差異が大きくなりやすい。また、例えば複数のMBRの方式を切り替え可能なシステムにおいては、第1MBRから第2MBRへ方式を切り替える際にも連続性が欠けた映像が生成される恐れがある。IBRについても同様であるし、MBRやIBR以外のレンダリング方式を利用する場合にも同様に、方式の切替えによって映像の連続性が欠け得る。
本発明は、前記従来の問題に鑑みてなされたものであって、自由視点画像の生成におけるレンダリング方式の切替えに伴う画質の変化を抑制し、映像の連続性を確保することで、視覚的な違和感を低減することを目的とする。
上記目的を達成するために、本発明の画像生成装置は、自由視点画像のレンダリング方式を動的に決定するレンダリング方式決定手段と、前記レンダリング方式の切換え前後における画像の画質の変化が所定の閾値以上であるか否かを判定する画質変化判定手段と、前記画質変化判定手段により前記画質の変化が所定の閾値以上であると判定されると、レンダリング方式の切換えによる画質の変化を抑制するように制御する画質変化抑制手段と、前記画質変化抑制手段の制御に基づいて、前記自由視点画像を生成するレンダリング処理手段とを備えることを特徴とする。
本発明によれば、自由視点画像の生成におけるレンダリング方式の切替えに伴う画質の変化を抑制し、映像の連続性を確保することで、視覚的な違和感を低減することができる。
以下、本発明の実施形態について、図面を参照して説明する。なお、以下の実施形態は、本発明を限定するものではなく、また、本実施形態で説明されている特徴の組み合わせの全てが本発明の解決手段に必須のものとは限らない。
[実施形態1]
第1の実施形態では、レンダリング方式を切り替えることに応じて、画質変化の程度が所定の条件を満たす場合に、レンダリング方式の切替えを中止することで、レンダリング方式の切替えによる映像品質の低下を抑制する。なお、画質変化の程度に関しては、図4において詳述する。
第1の実施形態では、レンダリング方式を切り替えることに応じて、画質変化の程度が所定の条件を満たす場合に、レンダリング方式の切替えを中止することで、レンダリング方式の切替えによる映像品質の低下を抑制する。なお、画質変化の程度に関しては、図4において詳述する。
(システムブロック)
図1は、第1の実施形態に係る画像生成装置を備えた自由視点画像生成システム1の構成を示すブロック図である。自由視点画像生成システム1は、複数のカメラ11a−カメラ11zを有するカメラアレイ11、前段処理装置12、画像生成装置10、仮想カメラパス操作装置13を備える。カメラアレイ11は、複数のカメラ11a−カメラ11zで構成され、様々な角度から被写体を撮影し、その撮影した画像を前段処理装置12に出力する撮影装置群である。本実施形態において、カメラ11a−カメラ11zと前段処理装置12を、スター型のトポロジーで接続しているが、ディジーチェーン接続によるリング型、バス型等のトポロジーで接続することもできる。
図1は、第1の実施形態に係る画像生成装置を備えた自由視点画像生成システム1の構成を示すブロック図である。自由視点画像生成システム1は、複数のカメラ11a−カメラ11zを有するカメラアレイ11、前段処理装置12、画像生成装置10、仮想カメラパス操作装置13を備える。カメラアレイ11は、複数のカメラ11a−カメラ11zで構成され、様々な角度から被写体を撮影し、その撮影した画像を前段処理装置12に出力する撮影装置群である。本実施形態において、カメラ11a−カメラ11zと前段処理装置12を、スター型のトポロジーで接続しているが、ディジーチェーン接続によるリング型、バス型等のトポロジーで接続することもできる。
前段処理装置12は、カメラアレイ11から出力された画像群とカメラ情報に基づいて、各カメラの位置姿勢を推定するキャリブレーションと前景背景分離を実行し、カメラパラメータと前景画像及び背景画像を画像生成装置10に出力する。なお、キャリブレーションとは、各カメラの撮影画像を用いて、各カメラのカメラパラメータを求める処理のことである。加えて、カメラパラメータとは、カメラ固有の内部パラメータ(例えば、焦点距離、画像中心、レンズ歪みパラメータ等)と、カメラの位置姿勢を示す外部パラメータ(例えば、回転行列、位置ベクトル等)とを含む情報である。また、前景背景分離とは、撮影した画像と前景が映っていない画像との差分に基づいて、前景画像と背景画像を抽出する処理のことである。例えば、スタジアムでサッカーの試合を撮影した画像を例として、選手、ボール、ゴールが前景画像、フィールドや観客席が背景画像として分離される。
画像生成装置10は、前段処理装置12からカメラパラメータと前景画像及び背景画像群を、また、仮想カメラパス操作装置13から仮想カメラパスを受信し、設定されたレンダリング方式により自由視点画像を生成して出力する。なお、仮想カメラパスとは、仮想カメラの1フレーム毎の位置、姿勢、ズーム値等を示す情報である。また、仮想カメラとは、設置されたカメラ11a−カメラ11zのいずれのカメラとも異なる視点において撮影することができる仮想的なカメラである。即ち、自由視点画像生成システム1において生成される自由視点画像は、仮想カメラによる撮影画像である。その他、レンダリングとは、抽象的で高次の情報から、所定のアルゴリズムを用いて画像、映像、音声を生成することである。本実施形態では、カメラパラメータ、仮想カメラパス、前景及び背景画像から自由視点画像を生成することが、レンダリングに該当する。
仮想カメラパス操作装置13は、オペレータが所望の自由視点画像を生成するためのジョイスティック、ジョグダイヤル、タッチパネル、キーボード、及びマウス等の走査装置(入力装置)である。オペレータは、仮想カメラパス操作装置13を用いて、仮想カメラパスを生成し、画像生成装置10に出力する。オペレータの操作内容は、例えば、仮想カメラの位置の変更(移動)、姿勢の変更(回転)、及びズーム倍率の変更等である。
(機能ブロック図)
図2は、第1の実施形態に係る画像生成装置10の機能構成を示す機能ブロック図である。画像入力部101は、カメラ11a−カメラ11zで撮影された画像の前景画像及び背景画像を受信する。パラメータ入力部102は、前段処理装置12で算出され、カメラ11a−カメラ11zの各カメラ固有の情報と位置姿勢を示すカメラパラメータを受信する。仮想カメラパス入力部103は、仮想カメラパス操作装置13において、オペレータが操作することで生成された仮想カメラパスを受信する。
図2は、第1の実施形態に係る画像生成装置10の機能構成を示す機能ブロック図である。画像入力部101は、カメラ11a−カメラ11zで撮影された画像の前景画像及び背景画像を受信する。パラメータ入力部102は、前段処理装置12で算出され、カメラ11a−カメラ11zの各カメラ固有の情報と位置姿勢を示すカメラパラメータを受信する。仮想カメラパス入力部103は、仮想カメラパス操作装置13において、オペレータが操作することで生成された仮想カメラパスを受信する。
一時記憶部104は、受信した画像群、カメラパラメータ、及び仮想カメラパスを一時的に記憶する。なお、一時記憶部104に記憶される、画像群、カメラパラメータ、及び仮想カメラパスは、フレーム毎に更新される。レンダリング処理部105は、一時記憶部104に格納された画像群、カメラパラメータ、及び仮想カメラパスと、レンダリング方式決定部106で決定されたレンダリング方式に従って、自由視点画像を生成する。
レンダリング処理部105は、レンダリング方式がIBRの場合、先ず、一時記憶部104に格納された複数の前景画像とカメラパラメータから前景オブジェクトの三次元位置を算出する。ここでは、複数のカメラで撮影された前景オブジェクトから特徴点を抽出し、各撮影カメラの物理的な位置と撮影画像内での特徴点の位置関係よりオブジェクトの位置を算出する。そして、仮想カメラに最も近い位置から撮影された前景画像を、仮想カメラの位置からの見えになるように透視変換し、算出した前景オブジェクトの位置に貼り付けることで自由視点画像を生成する。なお、必ずしも最も近い位置から撮影された前景画像を用いなければならないわけではない。例えばオクルージョンが発生している場合は、他の位置から撮影された前景画像を投資変換して自由視点画像を生成する場合もありうる。
また、本実施形態では、前景オブジェクトの位置を算出し、前景画像を透視変換して自由視点画像を生成したが、複数の前景画像間の対応点を算出して2つの画像間の対応点をモーフィングやブレンドにより合成することで画像生成してもよい。また、前景オブジェクトの三次元位置を、前景オブジェクトの対応点を求めることで算出したが、算出方法は必ずしもこれに限定されない。したがって、例えば、前景画像を床面に投影して、その前景の重なりの重心から前景オブジェクトの位置を算出してもよい。
また、レンダリング方式がMBRの場合、レンダリング処理部105は、一時記憶部104に格納された複数の前景画像のシルエット画像から前景オブジェクトの三次元モデルを生成する。そして、その生成した三次元モデルに基づいて、仮想カメラの位置からの見えとなるよう形状を算出し、三次元モデルに色付けやテクスチャを貼り付けることで自由視点画像を生成する。なお、本実施形態では、複数の前景画像のシルエット画像から三次元モデルを生成したが、三次元モデルの生成方法は必ずしもこれに限定されない。したがって、例えば、前景オブジェクトの距離を計測し、三次元モデルを生成してもよい。
レンダリング方式決定部106は、一時記憶部104に格納された画像群、カメラパラメータ、仮想カメラパス等を用いて、画質や処理負荷の観点で最適なレンダリング方式を動的に決定し、判定結果を画質変化判定部107に出力する。また、レンダリング方式決定部106は、画質変化抑制部108から処理結果を受信すると、最終的なレンダリング方式を決定し、レンダリング処理部105にレンダリング方式を通知する。
画質変化判定部107は、レンダリング方式を切り替えることに応じて、画質の変化が所定の条件を満たすか否かを判定し、その判定結果を画質変化抑制部108に出力する。なお、画質変化の判定方法については後述する。
画質変化抑制部108は、画質変化判定部107において所定の条件を満たす画質変化があると判定された場合に、レンダリング方式の切替えに応じた画質変化を抑制するために、仮想カメラの位置が画質変化の生じない位置になるまで、レンダリング方式の切替えを中断する。画像出力部109は、レンダリング処理部105により生成された画像を外部に出力する。
(処理フロー)
次に、第1の実施形態に係る画像生成装置における、レンダリング方式の切替えに応じて生じる画質変化を抑制する処理の手順を、図3に示すフローチャートを用いて説明する。レンダリング方式決定部106は、先ず、前段処理装置12及び仮想カメラパス操作装置13から受信した画像群、カメラパラメータ、仮想カメラパス等に基づいて、最適なレンダリング方式を判定する(S1001)。
次に、第1の実施形態に係る画像生成装置における、レンダリング方式の切替えに応じて生じる画質変化を抑制する処理の手順を、図3に示すフローチャートを用いて説明する。レンダリング方式決定部106は、先ず、前段処理装置12及び仮想カメラパス操作装置13から受信した画像群、カメラパラメータ、仮想カメラパス等に基づいて、最適なレンダリング方式を判定する(S1001)。
なお、本実施形態では、レンダリング方式として、IBRとMBRを用いることを前提とする。レンダリング方式決定部106は、例えば、仮想カメラの位置が撮影カメラの位置より十分に高い場合に、レンダリング方式として、IBRが適さないことから、MBRを用いるように判定する。この場合、撮影画像を透視変換して画像を生成するIBRでは、低い位置で撮影した画像を透視変換して高い位置から見たように変換するため、実際の仮想カメラ位置から見た画像とは大きく異なってしまうからである。
図4に、レンダリング方式として、IBRが適さない画像を例示する。図4において、図4(a)は横から見た人物の画像、図4(b)は実際に上空から見た人物の画像、図4(c)は、図4(a)の画像に基づいて、レンダリング方式としてIBRを用いて生成された上空から見た人物の画像を示す。IBRを用いて生成された画像(c)は、画像(a)の透視変換であることから、実際に上空から見た画像(b)と大きく相違し、画像として違和感が生じることになる。
また、レンダリング方式決定部106は、例えば、撮影画像に凹物体や光に反射した物体が含まれる場合に、レンダリング方式の判定方法として、MBRは適さないことから、IBRを用いるように判定する。この場合、複数の前景画像のシルエット画像から前景オブジェクトの三次元モデルを生成するMBRでは、三次元モデルの生成が困難となり、前景オブジェクトの形状が破綻してしまうからである。
その他、レンダリング方式決定部106は、リアルタイム性が求められる自由視点画像の生成が複数同時に実行される場合、計算負荷の大きいMBRはレンダリング方式として適さないことから、計算負荷の小さいIBRを用いるように判定する。このように、画像、画質及び計算負荷の観点から、自由視点画像を生成する上で最適なレンダリング方式がフレーム毎に判定される。
レンダリング方式決定部106は、次に、ステップS1001で判定したレンダリング方式が直前のフレームにおけるレンダリング方式と異なるか否か、即ち、レンダリング方式の切替えが生じるか否かを判定する(S1002)。そして、レンダリング方式の切替えが生じた場合(S1002 Yes)、画質変化判定部107は、直前のフレームで生成した画像から所定の条件を満たす画質変化が生じるか否かを判定する(S1003)。
ここで、画質変化判定部107は、仮想カメラの位置と仮想カメラの位置に最も近い撮影カメラの位置との距離が閾値以上である場合に、レンダリング方式を切り替えると、著しい画質変化(所定の条件を満たす画質変化)が生じると判定する。この点、レンダリング方式として、IBRを用いた場合と、MBRを用いた場合とで比較して説明する。
先ず、IBRでは、仮想カメラから最も近いカメラで撮影された前景画像を透視変換して仮想カメラの位置からの見えに近似させる。そのため、透視変換に用いる撮影カメラと仮想カメラの距離が離れるほど、実際の前景オブジェクトの形状と差分が大きくなる。一方、MBRでは、複数カメラで撮影した前景画像から三次元モデルを生成するため、撮影したカメラの位置と仮想カメラの位置に前景オブジェクトの形状は影響されない。したがって、仮想カメラと撮影カメラの距離が離れるほど、レンダリング方式(即ち、IBRとMBR)を切り替えた場合に、画質の変化が大きくなるといえる。
補足として、撮影カメラの位置情報はカメラパラメータから算出し、仮想カメラの位置は仮想カメラパスから取得できる。また、本実施形態では、上述のように、画質変化の判定基準として、撮影カメラと仮想カメラの距離を用いたが、レンダリング方式の切替え前後におけるレンダリング結果の画像差分値を判定基準として用いてもよい。なお、ここでの画像差分値として、例えば、全画素の色成分の最小二乗誤差を用いることができる。
その他、画質変化の判定基準として、仮想カメラの移動速度やズーム速度が閾値以上であるか否かを判定基準として用いてもよい。これは、仮想カメラの移動やズーム速度が相応に速いと、画像の視認性が低下することになり、レンダリング方式の違いにより画質変化が生じても、ユーザには知覚されにくいからである。また、画質変化の判定基準として、仮想カメラで生成する前景画像の大きさが閾値以下であるか否かを判定基準として用いてもよい。これは、前景オブジェクトの大きさが生成画像に対して十分に小さいと前景オブジェクトの視認性が低下し、レンダリング方式の違いにより画質変化が生じても、ユーザには知覚されにくいからである。
画質変化判定部107により直前のフレームから著しい画質変化(所定の条件を満たす画質変化)が生じると判定された場合(S1003 Yes)、画質変化抑制部108は、レンダリング方式決定部106にレンダリング方式の切替えの中断を通知する(S1004)。
ここで、レンダリング方式の切替えを中断する場合に関して、カメラの台数との関係を絡めて、内容をより詳細に補足する。一般に、レンダリング方式を切り替えるにあたり、例えば、仮想カメラに映る前景オブジェクトを撮影したカメラの台数が多い場合にはレンダリング方式としてMBRに切り替え、また、少ない場合にはレンダリング方式としてIBRに切り替える。これは、前景オブジェクトを捉えたカメラの台数が多い場合、レンダリング方式をMBRにすると高精度な三次元モデルの生成が可能となり、高画質な自由視点画像を生成できるためである。また、逆に、前景オブジェクトを捉えたカメラの台数が少ない場合、レンダリング方式をMBRにするとオブジェクトの三次元モデルが生成できなくなり、画像を透視変換するIBRの方が前景オブジェクトの見えが良いためである。
但し、このようなレンダリング方式の切替えにおいて、例えば、仮想カメラに映る前景オブジェクトを撮影したカメラの台数が減少した場合、上述のように、レンダリング方式として、MBRからIBRに切り替わる。しかしながら、仮想カメラと撮影カメラの位置が異なると、IBRでは画像の透視変換を用いることから、画質の違いが明確になってしまう。そこで、仮想カメラが撮影カメラの位置に近付くまでレンダリング方式の切替えを中断し、仮想カメラが撮影カメラの位置に近付くと、レンダリング方式を切り替えることで、実際の見えとMBRとの見えの差異を小さくし、連続性のある映像を生成する。
レンダリング方式決定部106は、レンダリング方式の切替えの中断に関する通知を受けると、レンダリング方式を切り替えずに直前のフレームと同様のレンダリング方式で画像を生成するように、レンダリング処理部105に通知する(S1005)。また、ステップS1003において、直前のフレームと画質の変化がないと判定された場合、レンダリング方式決定部106により最適と判定されたレンダリング方式に切り替えてレンダリング処理を実行する(S1006)。
以上のように処理することで、自由視点画像の生成におけるレンダリング方式の切替えにおいて、著しい画質変化が生じると判定した場合にレンダリング方式の切替えを制限することで、視覚的な違和感を抑制することができる。
なお、本実施形態では、画質変化が著しくなる場合に、レンダリング方式の切替えを中止しているが、最適でないレンダリング方式が継続することを回避するために、時間経過に応じて閾値を緩和する等してもよい。また、本実施形態では、レンダリング方式としてIBRとMBRを前提に説明したが、レンダリング方式は必ずしもこれらに限定されない。したがって、例えば、IBR間の切替え、MBR間の切替え、IBRとMRBを統合したハイブリッドなレンダリング方式との切替えに対応するようにしてもよい。
加えて、本実施形態において、特に断りがない限り、画像という文言は、動画像と静止画像の双方の概念を含むものとする。即ち、本実施形態に係る画像生成装置10は、静止画像及び/又は動画像の何れについても、処理対象とすることができる。その他、本実施形態では、IBRとMBRで生成した画像の前景オブジェクトの形状の違いに着目して説明したが、その対象は必ずしも前景オブジェクトの形状に限定されない。したがって、IBRとMBRで生成した画像の色、明るさ、解像度について同様に処理することで、レンダリング方式の切替えによる変化を抑制することができる。
[実施形態2]
第2の実施形態では、レンダリング方式の切替えの前後におけるレンダリング結果(画像)を合成することで、画質の著しい変化を抑制する。
第2の実施形態では、レンダリング方式の切替えの前後におけるレンダリング結果(画像)を合成することで、画質の著しい変化を抑制する。
(機能ブロック図)
図5は、第2の実施形態に係る画像生成装置の機能構成を示す機能ブロック図である。以下、実施形態1と異なる機能ブロックに関して説明する。
図5は、第2の実施形態に係る画像生成装置の機能構成を示す機能ブロック図である。以下、実施形態1と異なる機能ブロックに関して説明する。
画質変化抑制部108は、レンダリング方式決定部106においてレンダリング方式に変更が生じた場合、切替え前後のレンダリング方式により生成した画像を合成するように、画像合成部110に通知する。また、画質変化抑制部108は、レンダリング方式決定部106に対して、切替え前後の双方の方式でレンダリングするように通知する。
画像合成部110は、レンダリング処理部105から出力される、切替え前後のレンダリング方式で生成された画像をモーフィングにより合成する。ここで、モーフィングとは、ある形状から別の形状に、徐々に変化させる様子を映像で表現するために、その中間を補完する処理であり、本実施形態では、直前のフレームと現在のフレームで複数の対応点を抽出し、その中間点を推定することで描画する。
なお、フレーム間における対応点は、形状や色等の画像特徴から各フレームにおいて同一の前景オブジェクトを推定し、さらに前景オブジェクトから例えば、頭や足等、予め設定された対応点を各フレームの前景から算出することで抽出される。また、本実施形態では、画像の合成方法としてモーフィングを用いたが、画像の合成方法は必ずしもこれに限定されず、例えば、アルファブレンド等の画像合成方法を用いることもできる。
(処理フロー)
次に、第2の実施形態に係る画像生成装置における、レンダリング方式の切替えの前後におけるレンダリング結果(画像)を合成することで、画質変化を抑制する処理の手順を、図6に示すフローチャートを用いて説明する。
次に、第2の実施形態に係る画像生成装置における、レンダリング方式の切替えの前後におけるレンダリング結果(画像)を合成することで、画質変化を抑制する処理の手順を、図6に示すフローチャートを用いて説明する。
先ず、レンダリング方式決定部106は、実施形態1と同様に、最適なレンダリング方式を判定し(S2001)、直前のフレームからレンダリング方式の切替えが生じたか否かを判定し、その判定した結果を画質変化抑制部108に通知する(S2002)。
判定した結果、レンダリング方式の切替えが生じた場合(S2002 Yes)、画質変化判定部107は、直前のフレームで生成した画像から著しい画質変化が生じるか否かを判定する(S2003)。そして、著しい画質変化が生じると判定されると、画質変化抑制部108は、切替え前の方式でレンダリングするように、レンダリング方式決定部106に通知する(S2004)。画質変化抑制部108は、次に、レンダリング方式の切替え完了までに要するフレーム数をカウントするフレームカウント値をリセットして保持する(S2005)。なお、ステップS2003において、著しい画質変化が生じないと判定されると、画質変化抑制部108は、切替え後の方式でレンダリングするように、レンダリング方式決定部106に通知する(S2006)。
また、ステップS2002において、レンダリング方式の切替えが生じなかったと判定された場合(S2002 No)、画質変化抑制部108は、フレームカウント値が閾値以下であるか判定する(S2007)。ここで、フレームカウント値は、前述のように、フレーム数をカウントした値であり、また、フレームカウント値の閾値は、レンダリング方式の切替えの前後におけるレンダリング結果を合成する上で、必要なフレーム数として定義される。したがって、例えば、フレームカウント値の閾値を「100」に設定した場合、レンダリング方式の切替え時の画質変化を100フレームかけて、徐々に変化させることを意味する。なお、フレームカウント値は、予め設定された固定値であっても、またレンダリング方式の切換え前後における画質変化の大きさに基づいて動的に設定してもよい。
ステップS2007において、フレームカウント値が閾値以下と判定されると(S2007 Yes)、画質変化抑制部108は、レンダリング方式決定部106に、切換え前と切換え後の方式でレンダリング処理を実行するように通知する(S2008)。画像合成部110は、レンダリング処理部105において切換え前後のレンダリング方式でレンダリングされた生成画像を合成(モーフィング)する(S2009)。ここで、画質変化抑制部108は、フレームカウント値が小さい場合は切替え前の画像成分を強く、フレームカウント値が大きい場合は切替え後の画像成分を強くする等、フレームカウント値に応じて切替え前後の画像の合成比率を調整してもよい。画像を合成すると(S2009)、画質変化抑制部108は、フレームカウント値をインクリメントする(S2010)。
また、ステップS2007において、フレームカウント値が閾値より大きいと判定されると、画質変化抑制部108は、切換え後のレンダリング方式でレンダリングして画像を生成するように、レンダリング方式決定部106に通知する(S2011)。
上述のように、図6に示す処理により、自由視点画像の生成におけるレンダリング方式の切換えにおいて、著しい画質変化が生じると判定した場合、切替え前後で生成した画像を合成することで視覚的な違和感を抑制することができる。
[実施形態3]
第3の実施形態では、レンダリング方式の切替えに伴う画質変化が大きい場合に、画質変化を抑制するために仮想カメラパスを制御することで画質の著しい変化を抑制する。
第3の実施形態では、レンダリング方式の切替えに伴う画質変化が大きい場合に、画質変化を抑制するために仮想カメラパスを制御することで画質の著しい変化を抑制する。
(画像生成装置ブロック)
図7は、第3の実施形態に係る画像生成装置の構成を示す機能ブロック図である。以下、実施形態1と相違のある機能ブロックのみ説明する。
図7は、第3の実施形態に係る画像生成装置の構成を示す機能ブロック図である。以下、実施形態1と相違のある機能ブロックのみ説明する。
画質変化抑制部108は、画質変化判定部107においてレンダリング方式の切替えに伴う画質変化があると判定された場合、仮想カメラパスを制御して画質変化を抑制するように仮想カメラパス設定部111に通知する。
仮想カメラパス設定部111は、通常時において、入力画像群、撮影情報等から最適な仮想カメラパスを算出する。ここで、算出する仮想カメラパスとして、例えば、ある特定選手の追尾、ハイライトシーンを検出して注目領域の仮想カメラのズーム等が想定される。仮想カメラパス設定部111は、画質変化抑制部108から仮想カメラを制御することで画質変化を抑制するように通知された場合、仮想カメラの移動速度を閾値以上に設定することでユーザの視認性を低下させ、画質変化を知覚されないようにする。
(処理フロー)
次に、第3の実施形態に係る画像生成装置における、レンダリング方式の切換えに応じて生じる画質変化を抑制する処理の手順を、図8に示すフローチャートを用いて説明する。レンダリング方式決定部106は、実施形態1と同様に、最適なレンダリング方式を判定し(S3001)、直前のフレームからレンダリング方式の切換えが生じたか否かを判定する(S3002)。
次に、第3の実施形態に係る画像生成装置における、レンダリング方式の切換えに応じて生じる画質変化を抑制する処理の手順を、図8に示すフローチャートを用いて説明する。レンダリング方式決定部106は、実施形態1と同様に、最適なレンダリング方式を判定し(S3001)、直前のフレームからレンダリング方式の切換えが生じたか否かを判定する(S3002)。
ステップS3002において、レンダリング方式の切替えが生じた場合、画質変化判定部107は、レンダリング方式の切替え前後において著しい画質の変化が生じるか否かを判定し、その判定結果を画質変化抑制部108に通知する(S3003)。著しい画質変化が生じるか否かに関する判定は、実施形態1と同様であることから、ここでは説明を省略する。
ステップS3003において、著しい画質変化があると判定された場合、画質変化抑制部108は、レンダリング方式の切替え完了までに要するフレーム数を示すフレームカウント値をリセットする(S3004)。
画質変化抑制部108は、画質変化を抑制するように、仮想カメラパス設定部111に通知し、仮想カメラパス設定部111は、知覚的な画質の変化を抑制する仮想カメラパスを設定する(S3005)。ここで、知覚的な画質の変化を抑制する仮想カメラパスとして、仮想カメラの移動速度を閾値以上になるよう設定する。
これは、仮想カメラの移動速度を大きくすることで、ユーザの前景オブジェクトにおける視認性を低下させ、ユーザに前景オブジェクトの形状の変化を知覚されないようにするためである。なお、本実施形態では、知覚的な画質の変化を抑制する仮想カメラパスの設定方法として、仮想カメラの移動速度を増加させることとしたが、知覚的な画質の変化を抑制する仮想カメラパスの設定方法は、必ずしもこれに限定されない。したがって、例えば、仮想カメラのズーム速度の増加、仮想カメラのズームアウト(ズーム値)、仮想カメラの位置を撮影カメラ(実カメラ)の位置に一致させること等、設定することができる。
補足として、仮想カメラのズーム速度の増加及び仮想カメラのズームアウトは、ユーザの前景オブジェクトの視認性の低下により、ユーザに画質の変化を知覚されないようにするためである。また、仮想カメラの実カメラ位置への移動は、撮影カメラに近い位置において、IBRとMBRで、レンダリング結果に差異が小さいためである。
画質変化抑制部108は、仮想カメラパス設定部111に、画質変化を知覚されないように通知すると(S3005)、そのフレームに関して、レンダリング方式決定部106に、切替え前のレンダリング方式でレンダリングするように通知する(S3006)。これは、仮想カメラパスの変更が複数のフレームを跨いで実行されるため、レンダリング方式の切替えの判定がなされたフレームでは切替えを行わないようにするためである。
また、ステップS3003において、著しい画質の変化が無いと判定された場合、仮想カメラパス設定部111は、画質変化の抑制が不要であると通知されると、入力画像やカメラパラメータから仮想カメラパスを設定する(S3007)。そして、レンダリング処理部105に仮想カメラパスが出力されると、レンダリング処理部105は、切替え後の方式でレンダリングを実行する(S3008)。
また、ステップS3002において、レンダリング方式の切替えが無いと判定された場合、画質変化抑制部108は、フレームカウント値が閾値以下であるか否かを判定する(S3009)。この閾値は、レンダリング方式の切替えに伴う画質の変化を抑制する期間として設定される。画質変化抑制部108は、画質変化を抑制するように、仮想カメラパス設定部111に通知し、仮想カメラパス設定部111は、画質変化を抑制する仮想カメラパスを設定する(S3010)。
仮想カメラパスを設定すると、画質変化抑制部108は、フレームカウント値をインクリメントする(S3011)。仮想カメラパス設定部111は、画質変化を抑制する仮想カメラパスをレンダリング処理部105に出力し、レンダリング処理部105は、切替え後のレンダリング方式でレンダリングする(S3012)。
また、ステップS3009において、フレームカウント値が閾値より大きい場合(S309 No)、仮想カメラパス設定部111は画質変化の抑制が必要のない仮想カメラパスを設定して、レンダリング処理部105に出力する(S3013)。なお、画質変化の抑制を伴わない仮想カメラパスの生成方法として、特定選手を判別して追尾したり、ハイライトシーンを判別してズームしたりすることが想定される。そして、レンダリング処理部105は、入力されたレンダリング方式と仮想カメラパスでレンダリングして画像を出力する(S3014)。
以上の処理により、自由視点画像の生成におけるレンダリング方式の切替えにおいて、著しい画質変化が生じると判定された場合、画質の変化が知覚されにくい仮想カメラパスに設定することで視覚的な違和感を抑制することができる。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
105 レンダリング処理部
106 レンダリング方式決定部
107 画質変化判定部
108 画質変化抑制部
106 レンダリング方式決定部
107 画質変化判定部
108 画質変化抑制部
Claims (13)
- 自由視点画像のレンダリング方式を動的に決定するレンダリング方式決定手段と、
前記レンダリング方式の切換え前後における画像の画質の変化が所定の閾値以上であるか否かを判定する画質変化判定手段と、
前記画質変化判定手段により前記画質の変化が所定の閾値以上であると判定されると、レンダリング方式の切換えによる画質の変化を抑制するように制御する画質変化抑制手段と、
前記画質変化抑制手段の制御に基づいて、前記自由視点画像を生成するレンダリング処理手段と
を備えることを特徴とする画像生成装置。 - 前記画質変化判定手段は、仮想カメラの位置と前記仮想カメラの位置に最も近い撮影カメラの位置との距離に基づいて、前記画質の変化が所定の閾値以上であるか否かを判定することを特徴とする請求項1に記載の画像生成装置。
- 前記画質変化判定手段は、前記レンダリング方式の切換え前後における画像の全画素の色成分の最小二乗誤差に基づいて、前記画質の変化が所定の閾値以上であるか否かを判定することを特徴とする請求項1に記載の画像生成装置。
- 前記画質変化判定手段は、仮想カメラの移動速度、又はズーム速度に基づいて、前記画質の変化が所定の閾値以上であるか否かを判定することを特徴とする請求項1に記載の画像生成装置。
- 前記画質変化判定手段は、仮想カメラで生成される前景オブジェクトの大きさに基づいて、前記画質の変化が所定の閾値以上であるか否かを判定することを特徴とする請求項1に記載の画像生成装置。
- 前記画質変化抑制手段は、仮想カメラの位置が前記画質の変化の生じない位置になるまで、前記レンダリング方式決定手段で決定されたレンダリング方式への切換えを中断し、切換え前のレンダリング方式でレンダリングするように制御することを特徴とする請求項1から5のいずれか1項に記載の画像生成装置。
- 複数の画像を合成する画像合成手段を備え、
前記画質変化抑制手段は、切換え前のレンダリング方式で生成された画像と、切換え後のレンダリング方式で生成された画像とを合成するように、前記画像合成手段を制御することを特徴とする請求項1から5のいずれか1項に記載の画像生成装置。 - 仮想カメラパスを設定する仮想カメラパス設定手段を備え、
前記画質変化抑制手段は、画質の変化が知覚されにくいように、前記仮想カメラパスが設定されるように、前記仮想カメラパス設定手段を制御することを特徴とする請求項1から5のいずれか1項に記載の画像生成装置。 - 前記画質変化抑制手段は、前記仮想カメラパスの移動速度及び/又はズーム速度が閾値以上に設定されるように制御することを特徴とする請求項8に記載の画像生成装置。
- 前記画質変化抑制手段は、前記仮想カメラパスのズーム値が閾値以下に設定されるように制御することを特徴とする請求項8に記載の画像生成装置。
- 前記画質変化抑制手段は、仮想カメラの位置と撮影カメラの位置とが一致するように制御することを特徴とする請求項8に記載の画像生成装置。
- レンダリング方式決定手段により、自由視点画像のレンダリング方式を動的に決定するレンダリング方式決定ステップと、
画質変化判定手段により、前記レンダリング方式の切換え前後における画像の画質の変化が所定の閾値以上であるか否かを判定する画質変化判定ステップと、
画質変化抑制手段により、前記画質変化判定ステップにおいて、前記画質の変化が所定の閾値以上であると判定されると、レンダリング方式の切換えによる画質の変化を抑制するように制御する画質変化抑制ステップと、
レンダリング処理手段により、前記画質変化抑制手段の制御に基づいて、前記自由視点画像を生成するレンダリング処理ステップと、
を含むことを特徴とする画像生成方法。 - コンピュータを、請求項1から11のいずれか1項に記載の画像生成装置の各手段として機能させるためのプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017115933A JP2019003320A (ja) | 2017-06-13 | 2017-06-13 | 画像生成装置、画像生成方法、及びプログラム |
US15/996,818 US10834371B2 (en) | 2017-06-13 | 2018-06-04 | Generation apparatus of virtual viewpoint image, control method of apparatus, and storage medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017115933A JP2019003320A (ja) | 2017-06-13 | 2017-06-13 | 画像生成装置、画像生成方法、及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2019003320A true JP2019003320A (ja) | 2019-01-10 |
Family
ID=64563927
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017115933A Pending JP2019003320A (ja) | 2017-06-13 | 2017-06-13 | 画像生成装置、画像生成方法、及びプログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US10834371B2 (ja) |
JP (1) | JP2019003320A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023053411A1 (ja) * | 2021-09-30 | 2023-04-06 | 日本電気株式会社 | 情報処理システム、情報処理方法、及び情報処理装置 |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7341674B2 (ja) * | 2019-02-27 | 2023-09-11 | キヤノン株式会社 | 情報処理装置、情報処理方法及びプログラム |
JP2022067171A (ja) * | 2020-10-20 | 2022-05-06 | キヤノン株式会社 | 生成装置、生成方法、及び、プログラム |
JP2022182119A (ja) * | 2021-05-27 | 2022-12-08 | キヤノン株式会社 | 画像処理装置およびその制御方法、プログラム |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003115055A (ja) * | 2001-10-05 | 2003-04-18 | Canon Inc | 画像生成装置 |
JP2004086508A (ja) | 2002-08-26 | 2004-03-18 | Alpine Electronics Inc | 3次元形状データに基づく動画の表示制御方法及びナビゲーション装置 |
JP3855053B2 (ja) * | 2003-01-30 | 2006-12-06 | 国立大学法人 東京大学 | 画像処理装置、画像処理方法、及び画像処理プログラム |
JP6299492B2 (ja) * | 2014-07-03 | 2018-03-28 | ソニー株式会社 | 情報処理装置、情報処理方法、およびプログラム |
-
2017
- 2017-06-13 JP JP2017115933A patent/JP2019003320A/ja active Pending
-
2018
- 2018-06-04 US US15/996,818 patent/US10834371B2/en active Active
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023053411A1 (ja) * | 2021-09-30 | 2023-04-06 | 日本電気株式会社 | 情報処理システム、情報処理方法、及び情報処理装置 |
Also Published As
Publication number | Publication date |
---|---|
US10834371B2 (en) | 2020-11-10 |
US20180359457A1 (en) | 2018-12-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102351542B1 (ko) | 시차 보상 기능을 갖는 애플리케이션 프로세서, 및 이를 구비하는 디지털 촬영 장치 | |
US10916048B2 (en) | Image processing apparatus, image processing method, and storage medium | |
JP2019003320A (ja) | 画像生成装置、画像生成方法、及びプログラム | |
CN110493525B (zh) | 变焦图像确定方法及装置、存储介质、终端 | |
JP4658223B2 (ja) | 画像生成方法、装置、およびそのプログラム並びにプログラムを記録した記録媒体 | |
JP5645450B2 (ja) | 画像処理装置および方法 | |
JP2018056971A (ja) | 撮像システム、画像処理装置、画像処理方法、及びプログラム | |
Eng et al. | Gaze correction for 3D tele-immersive communication system | |
JP2000215311A (ja) | 仮想視点画像生成方法およびその装置 | |
US20140204086A1 (en) | Imaging apparatus capable of generating three-dimensional images, three-dimensional image generating method, and recording medium | |
US11244423B2 (en) | Image processing apparatus, image processing method, and storage medium for generating a panoramic image | |
JP5225313B2 (ja) | 画像生成装置、画像生成方法、及びプログラム | |
JP2019201325A (ja) | 撮像装置、その制御方法、および、プログラム | |
KR20190062102A (ko) | 비디오 영상기반 2d/3d ar 실감체험 방법 및 장치 | |
JP6552256B2 (ja) | 画像処理装置及び画像処理装置の制御方法 | |
WO2013014872A1 (ja) | 画像変換装置、カメラ、映像システム、画像変換方法およびプログラムを記録した記録媒体 | |
JP2004193962A (ja) | 画像通信装置、および画像通信方法、並びにコンピュータ・プログラム | |
CN113286138A (zh) | 一种全景视频显示方法及显示设备 | |
CN115002342A (zh) | 目标对象跟踪方法、装置、摄像机及存储介质 | |
JPH10327349A (ja) | 画像生成装置および画像生成方法 | |
JP6320165B2 (ja) | 画像処理装置及びその制御方法、並びにプログラム | |
JPH07296195A (ja) | 画像処理装置及び方法 | |
JPH04329484A (ja) | 画像合成装置 | |
JP2002077941A (ja) | 奥行き画像生成装置、奥行き画像生成方法およびその方法をコンピュータに実行させるプログラムを記録したコンピュータ読み取り可能な記録媒体 | |
JP7332326B2 (ja) | 映像効果装置及びプログラム |