JP6898264B2 - 合成装置、方法及びプログラム - Google Patents
合成装置、方法及びプログラム Download PDFInfo
- Publication number
- JP6898264B2 JP6898264B2 JP2018034847A JP2018034847A JP6898264B2 JP 6898264 B2 JP6898264 B2 JP 6898264B2 JP 2018034847 A JP2018034847 A JP 2018034847A JP 2018034847 A JP2018034847 A JP 2018034847A JP 6898264 B2 JP6898264 B2 JP 6898264B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- viewpoint
- viewpoint image
- unit
- likelihood
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Image Processing (AREA)
- Image Generation (AREA)
Description
校正部1は、いわゆるカメラ校正を行うものであり、多視点画像(における各カメラcの画像)Vc,t(u,v)を入力として、カメラcごとに実空間の地面(フィールド)の座標(x,y,z)とカメラ画像Vc,t(u,v)との対応付けを取り、得られたキャリブレーション(校正)データ(すなわち、カメラパラメータ)のうちの外部パラメータを逆投影部6及び描画部7へと出力する。当該各部2,6,7は当該得られた校正データを用いることでそれぞれの処理が可能となる。(なお、周知のように、キャリブレーションではレンズ歪を解消する内部パラメータも得ることができるが、合成装置10の各部では当該内部パラメータを用いた歪補正済みのデータを利用してよい。内部パラメータに関するデータ授受の流れは図2では省略している。)
抽出部2では、各カメラcの画像Vc,t(u,v)に対して、既存手法である背景差分法を用いて画像内の背景と前景を分類し、当該分類を表現する2値又は前景の尤度(グレースケール階調等で与えればよい)を画素値とするマスク画像Mc,t(u,v)を得て、算出部3へと出力する。ここで、当該分類される前景は画像Vc,t(u,v)において撮影されている対象(例えば、人物等)の領域となる。
算出部3は、抽出部2で生成されたマスク画像Mc,t(u,v)を用い、後段側に位置している機能部(この後の処理を担う機能部)である逆投影部6によって逆投影面群に逆投影するために用いるアルファ値α1c,t(u,v)を、各視点画像としてのカメラ画像c毎に算出し、当該アルファ値α1c,t(u,v)を逆投影部6へと出力する。なお、当該算出されるアルファ値は、後段側の描画部7において最終的に合成される自由視点画像SYt(u,v)におけるオブジェクトの輪郭の残り具合を加減するパラメータとしての役割を果たすこととなる。算出部3では具体的に以下の各実施形態でアルファ値α1c,t(u,v)を算出することができる。
(1) α=θ・f(d)
を用いて算出することができる。ここで、f(d)はアルファ値を返すdの単調減少関数であり、θはアルファ値の減衰率である。
面群設定部4は、多視点画像Vc,t(u,v)の世界座標系xyzをモデル化した3次元モデル空間内に、後段側処理部の逆投影部6等で用いる投影先としての複数の面である逆投影面群Pを設定して、順設定部5へと当該設定結果(すなわち、面群Pを構成する各面が3次元モデル空間内において占める座標位置・範囲)を出力する。詳細を後述する通り、この逆投影面群Pは、入力された多視点画像Vc,t(u,v)を3次元モデル空間へ逆投影する際の基準として用いられるものである。
順設定部5は、面群設定部4で以上のように設定した面群Pを構成する各平面Pt,kに対して順番を設定して、当該順番設定された面群P={Pt,k|k=1,2,…,K}を描画部7へと出力する。後述する描画部7では当該出力された順番に従って面群Pを用いた処理を行う。
レンダリング部20は、校正部1で得たキャリブレーションデータと、算出部3で算出されたアルファ値α1c,t(u,v)と、順設定部5で設定された順序付与された面群P={Pt,k|k=1,2,…,K}と、を用いることにより、合成装置10への入力としての多視点画像Vc,t(u,v)における対象を自由視点化してディスプレイ領域にレンダリングした結果として、合成画像SYt(u,v)を得る。
図6は逆投影部6の処理を、カメラが3個(c=1,2,3)及び面群Pが3個の面(k=1,2,3)で構成される場合に関して、模式的に示すものである。逆投影部6は、算出部3から得た各カメラc(c=1,2,…,N)に関するアルファ値α1c,t(u,v)を、順設定部5で得た面群P={Pt,k|k=1,2,…,K}の各々の面Pt,k上に逆投影したうえで積算することにより、各面Pt,k上における積算されたアルファ値α2t,k(i,j)を得る。
描画部7では、面群設定部4においてユーザ入力等で指定された仮想視点CVから見た自由視点画像として、合成画像SYt(u,v)を合成する。ここで、多視点画像Vc,t(u,v)に撮影されている対象を当該仮想視点CVから見た状態として前景テクスチャTXc,t(u,v)としてレンダリングすると共に、既に説明した通りの公知の手法で当該仮想視点CVから見た状態での背景BGt(u,v)を合成することにより、合成画像SYt(u,v)を得る。
また、描画部7における逆投影面Pt,kに関する描画において、当該n個のカメラにおける多視点画像Vc,t(u,v)の中からそれぞれ、実際に当該描画に用いるための領域Sc,t,k(u,v)の設定を行うのが再投影部8である。再投影部8は領域Sc,t,k(u,v)を求めて描画部7及び付与部9へと出力する。
また、描画部7が当該描画するために用いる領域Sc,t,k(u,v)(画像Vc,t(u,v)の一部に相当)の各画素位置(u,v)に関しては、順番kに従って逆投影面Pt,kの順で描画を行っていくに際して、既にテクスチャTXc,t(u,v)の描画に用いられたか否か等の描画履歴を反映した情報が制御値dc,t,k-1(u,v)として保持・更新されており、描画部7では当該制御値dc,t,k-1(u,v)を考慮して描画を行う。付与部9は、当該描画の際に考慮される制御値dc,t,k-1(u,v)を求め、描画部7へと出力するものである。
ステップS1では、付与部9が制御値dc,t,k-1(u,v)の初期値「k=1」における初期値dc,t,0(u,v)を、描画に用いる対象となっている各カメラc=1,2,…,nの画像Vc,t(u,v)の各画素位置(u,v)に対応するものとして設定してから、ステップS2へと進む。(なお、「初期値dc,t,0(u,v)」との記載に関して、「k=0」の逆投影面Pt,kは存在しないが、以下に説明するように「制御値dc,t,k-1(u,v)」(k≧1)は逆投影面Pt,k(k≧1)に対する描画の際に利用する制御値であるので、初回k=1の逆投影面Pt,1で利用する制御値として「初期値dc,t,0(u,v)」が存在する。)
ステップS2では、再投影部8が、描画対象の各カメラc=1,2,…,nにおける画像Vc,t(u,v)内の部分領域として、再投影領域Sc,t,k(u,v)を設定してからステップS3へと進む。
ステップS3では、描画部7が、各カメラ画像Vc,t(u,v)(c=1,2,…,n)内の再投影領域Sc,t,k(u,v)のテクスチャを、当該インデクスkで指定される逆投影面Pt,kへと逆投影((u,v)c→(x,y,z)の投影)することにより、逆投影面Pt,k上にテクスチャを描画してから、ステップS4へと進む。(当該描画される範囲はアルファ値α2t,k(i,j)の断面領域となる。)
TXt,k(i,j)=Σc Ec* Vc,t(u[i,v],v[i,v])
αc,t,k-1(u[i,v],v[i,v])=g(dc,t,k-1(u[i,v],v[i,v]))
TXt,k(i,j)=α*{1-m1/(m1+m2)}*V1,t(u[i,v],v[i,v])
+[1-m2/(m1+m2)+(1-α)*{1- m1/(m1+m2)}]*V2,t(u[i,v],v[i,v])
ここで、α=α1,t,k-1(u[i,v],v[i,v])、すなわちαはカメラc=1のアルファ値である。
TXt,k(i,j)=[α*{1-m1/(m1+m2)} +(1-β)*{1- m2/(m1+m2)}]*V1,t(u[i,v],v[i,v])
+[β*{1-m2/(m1+m2)}+(1-α)*{1- m1/(m1+m2)}]*V2,t(u[i,v],v[i,v])
上記の式において明らかなように、V1,t(u[i,v],v[i,v])及びV2,t(u[i,v],v[i,v])のそれぞれの係数は、カメラc=1,2の区別と、その距離m1,m2と、の両方を考慮した、規格化されたアルファ値となっている。
また、カメラが3個以上の場合も同様に、アルファ値により透明化されたカメラのテクスチャ分をその他のカメラに分配するようにすればよい。
ステップS4では、直近のステップS3での描画部7での描画結果に基づき、付与部9が次(k+1回目)のステップS3で描画部7が用いるための制御値dc,t,k+1(u,v)を求めてからステップS5へと進む。前述の通り、当該制御値dc,t,k+1(u,v)は、カメラcの画像Vc,t(u,v)の画素(u,v)が当該時点までに描画に用いられた回数として求めればよい。
ステップS5では全ての逆投影面Pt,k(i,j)についての描画が完了したか否かを判定し、完了していれば、すなわち当該時点でのk=KであればステップS7へと進み、完了していなければ、すなわちk<KであればステップS6へと進む。
ステップS6ではkに次の値k+1を設定して、すなわちkの値を1だけ増分してからステップS2に戻る。
ステップS7では、以上のK回の繰り返しで全ての逆投影面Pt,k(i,j)(k=1,2,…,K)に関して得られているテクスチャTX t,k(i,j)(当該テクスチャはすなわちxyz空間内での対象の描画結果となっている)を、描画部7が仮想視点CVの画像平面(u,v)へと投影することで対象(前景)のレンダリング結果を得ると共に、背景を前述の通り公知手法でレンダリングすることにより、合成映像SYt(u,v)を得て、当該フローは終了する。
Claims (11)
- 多視点画像の各視点画像から撮影されている対象の領域の尤度画像を求める算出部と、
前記尤度画像の各々を3次元空間内に配置された複数の逆投影平面へと逆投影して各々の逆投影平面上で各々の尤度画像の尤度を積算したものとして逆投影データを得る逆投影部と、
前記逆投影データの尤度によって前景領域を判定し、当該前景領域を前記多視点画像の各々へと投影して再投影領域を定め、前記多視点画像の全部又は一部の視点画像のテクスチャのうち当該再投影領域に属するものを、前記複数の逆投影平面へと順番に逆投影して描画して前記対象をレンダリングすることで、前記対象の自由視点画像を合成する描画部と、を備えることを特徴とした合成装置。 - 前記描画部では、前記多視点画像の全部又は一部の視点画像のテクスチャを前記逆投影して描画する際に、視点画像の各画素において既に当該描画に用いられているか否かに関する履歴を考慮することを特徴とする請求項1に記載の合成装置。
- 前記描画部では、前記多視点画像の全部又は一部の視点画像のテクスチャを前記逆投影して描画する際に、視点画像の各画素において既に当該描画に用いられている回数に基づき、当該回数が多い画素は描画に用いる割合を下げることを特徴とする請求項1に記載の合成装置。
- 前記描画部では、前記回数が多いほど透過度合いを増すアルファ値を用いて、前記描画を行うことを特徴とする請求項3に記載の合成装置。
- 前記描画部では、前記多視点画像の全部又は一部の視点画像のテクスチャを前記逆投影して描画する際に、同一箇所を描画するのに用いるテクスチャにおける前記アルファ値の総和が一定となるよう規格化したうえで描画することを特徴とする請求項4に記載の合成装置。
- 前記描画部では、前記多視点画像の全部又は一部の視点画像のテクスチャを前記逆投影して描画する際に、前記合成される自由視点画像の仮想視点の位置と各視点画像の視点の位置との相違に応じた描画を行うことを特徴とする請求項1ないし5のいずれかに記載の合成装置。
- 前記描画部では、前記相違が大きい視点画像ほど、描画に用いる割合を下げることを特徴とする請求項6に記載の合成装置。
- 前記順番は、前記合成される自由視点画像の仮想視点と前記複数の逆投影平面との位置関係に応じた順番であることを特徴とする請求項1ないし7のいずれかに記載の合成装置。
- 前記順番は、前記合成される自由視点画像の仮想視点に対して前記複数の逆投影平面の各々が近いほど、早い順番であることを特徴とする請求項8に記載の合成装置。
- 多視点画像の各視点画像から撮影されている対象の領域の尤度画像を求める算出段階と、
前記尤度画像の各々を3次元空間内に配置された複数の逆投影平面へと逆投影して各々の逆投影平面上で各々の尤度画像の尤度を積算したものとして逆投影データを得る逆投影段階と、
前記逆投影データの尤度によって前景領域を判定し、当該前景領域を前記多視点画像の各々へと投影して再投影領域を定め、前記多視点画像の全部又は一部の視点画像のテクスチャのうち当該再投影領域に属するものを、前記複数の逆投影平面へと順番に逆投影して描画して前記対象をレンダリングすることで、前記対象の自由視点画像を合成する描画段階と、を備えることを特徴とした合成方法。 - コンピュータを、合成装置であって、
多視点画像の各視点画像から撮影されている対象の領域の尤度画像を求める算出部と、
前記尤度画像の各々を3次元空間内に配置された複数の逆投影平面へと逆投影して各々の逆投影平面上で各々の尤度画像の尤度を積算したものとして逆投影データを得る逆投影部と、
前記逆投影データの尤度によって前景領域を判定し、当該前景領域を前記多視点画像の各々へと投影して再投影領域を定め、前記多視点画像の全部又は一部の視点画像のテクスチャのうち当該再投影領域に属するものを、前記複数の逆投影平面へと順番に逆投影して描画して前記対象をレンダリングすることで、前記対象の自由視点画像を合成する描画部と、を備える合成装置として機能させることを特徴とするプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018034847A JP6898264B2 (ja) | 2018-02-28 | 2018-02-28 | 合成装置、方法及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018034847A JP6898264B2 (ja) | 2018-02-28 | 2018-02-28 | 合成装置、方法及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019149112A JP2019149112A (ja) | 2019-09-05 |
JP6898264B2 true JP6898264B2 (ja) | 2021-07-07 |
Family
ID=67849446
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018034847A Active JP6898264B2 (ja) | 2018-02-28 | 2018-02-28 | 合成装置、方法及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6898264B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7078564B2 (ja) * | 2019-02-21 | 2022-05-31 | Kddi株式会社 | 画像処理装置及びプログラム |
JP7405702B2 (ja) | 2020-06-15 | 2023-12-26 | Kddi株式会社 | 仮想視点レンダリング装置、方法及びプログラム |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4828506B2 (ja) * | 2007-11-05 | 2011-11-30 | 日本電信電話株式会社 | 仮想視点画像生成装置、プログラムおよび記録媒体 |
JP5361758B2 (ja) * | 2010-02-12 | 2013-12-04 | 日本電信電話株式会社 | 画像生成方法、画像生成装置、及びプログラム |
JP2016001386A (ja) * | 2014-06-11 | 2016-01-07 | 日本電信電話株式会社 | 画像生成方法、画像生成装置、コンピュータプログラム及び記録媒体 |
-
2018
- 2018-02-28 JP JP2018034847A patent/JP6898264B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2019149112A (ja) | 2019-09-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111656407B (zh) | 对动态三维模型的视图进行融合、纹理化和绘制 | |
US9020241B2 (en) | Image providing device, image providing method, and image providing program for providing past-experience images | |
US5694533A (en) | 3-Dimensional model composed against textured midground image and perspective enhancing hemispherically mapped backdrop image for visual realism | |
Goesele et al. | Ambient point clouds for view interpolation | |
CN111508052B (zh) | 三维网格体的渲染方法和装置 | |
JP3759971B2 (ja) | 3次元像を陰影付けする方法 | |
US8884947B2 (en) | Image processing apparatus and image processing method | |
KR101724360B1 (ko) | 혼합현실 디스플레이 장치 | |
WO2020023383A1 (en) | Mixed reality system with virtual content warping and method of generating virtual content using same | |
WO1995004331A1 (en) | Three-dimensional image synthesis using view interpolation | |
AU2693700A (en) | Method and apparatus for processing images | |
GB2406252A (en) | Generation of texture maps for use in 3D computer graphics | |
JP2020524851A (ja) | テクスチャマップ及びメッシュに基づく3d画像情報の処理 | |
JP2022179473A (ja) | 前の目線からのレンダリングされたコンテンツおよびレンダリングされなかったコンテンツを使用した新しいフレームの生成 | |
US20230230311A1 (en) | Rendering Method and Apparatus, and Device | |
US20230281912A1 (en) | Method and system for generating a target image from plural multi-plane images | |
JP2021056679A (ja) | 画像処理装置、方法及びプログラム | |
CN109510975A (zh) | 一种视频图像的提取方法、设备及系统 | |
JP2021022032A (ja) | 合成装置、方法及びプログラム | |
JP6898264B2 (ja) | 合成装置、方法及びプログラム | |
JPWO2019123547A1 (ja) | 画像生成装置、基準画像データ生成装置、画像生成方法、および基準画像データ生成方法 | |
Nicolet et al. | Repurposing a relighting network for realistic compositions of captured scenes | |
JP7476511B2 (ja) | 画像処理システム、画像処理方法及びプログラム | |
Shi et al. | Stereo-consistent screen-space ambient occlusion | |
EP2249312A1 (en) | Layered-depth generation of images for 3D multiview display devices |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200109 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210331 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210521 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210602 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210610 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6898264 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |