JP4208142B2 - 自由視点画像の隠蔽領域補完方式 - Google Patents
自由視点画像の隠蔽領域補完方式 Download PDFInfo
- Publication number
- JP4208142B2 JP4208142B2 JP2004019718A JP2004019718A JP4208142B2 JP 4208142 B2 JP4208142 B2 JP 4208142B2 JP 2004019718 A JP2004019718 A JP 2004019718A JP 2004019718 A JP2004019718 A JP 2004019718A JP 4208142 B2 JP4208142 B2 JP 4208142B2
- Authority
- JP
- Japan
- Prior art keywords
- background
- image
- buffer
- layer
- free viewpoint
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims description 67
- 239000000872 buffer Substances 0.000 claims description 95
- 239000002356 single layer Substances 0.000 claims description 46
- 239000010410 layer Substances 0.000 claims description 14
- 238000003169 complementation method Methods 0.000 claims description 11
- 239000011159 matrix material Substances 0.000 claims description 9
- 230000009466 transformation Effects 0.000 claims description 8
- 238000000605 extraction Methods 0.000 claims description 6
- 230000000295 complement effect Effects 0.000 description 25
- 230000005540 biological transmission Effects 0.000 description 4
- 239000000463 material Substances 0.000 description 4
- 238000012545 processing Methods 0.000 description 4
- 238000002474 experimental method Methods 0.000 description 3
- 238000012795 verification Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
- Image Analysis (AREA)
Description
Saied Moezzi, Li-Cheng Tai, and Philippe Gerard "Virtual View Generation for 3D Digital Video", IEEE Multimedia, Vol.4, No.1, pp.18-26, 1997 橋本奈穂,斎藤英雄"サッカーシーンにおける多視点映像からの中間映像生成"電子情報通信学会技術報告,PRMU2001-151, Nov.2001. pp.87-94 松村篤志,内藤整,川田亮一,小池淳,松本修一"任意視点動画像の高圧縮伝送を目的とした隠蔽領域補完方式の提案"電子情報通信学会技術報告 Vol. OIS2003-41, IE2003-66 Sep.2003. pp.63-68 松村篤志,内藤整,川田亮一,小池淳,松本修一"複数枚の背景バッファを用いた自由視点動画像に対する高精度な補完方式"映像情報メディア学会冬季大会 No.8-8, Dec. 2003.
(1)単層背景バッファを用いた補完手法は、多層背景バッファを用いた補完手法に比べ、より広範囲の領域の画素を補完する。これは、多層背景バッファを用いた補完手法では補完領域が重複し、補完領域間の境界で隙間が生じるためであると考えられる。
(2)多層背景バッファを用いた補完手法は、各画素において、より高精度に画素を補完する。
1.仮の自由視点画像の生成(S1)
まず、参照画像Iを撮影した視点から自由視点への回転、および平行移動を3×3の行列R′、および1×3のベクトルt′として定義すると、参照画像Iにおける画素の位置(u,v,1)と自由視点画像Aにおけるその画素に対応する画素(以下、対応点と称す。)の位置(u″,v″、1)との関係は、式(1)によって表される。ここで、DI(u,v)は参照画像Iにおける画素の位置(u,v)の奥行きを表し、(u,v,1)や(u″,v″、1)は3次元上での画素の位置を表す。なお、奥行きの単位は奥行きマップの定義に従うものとする。
(DI(u,v)(u,v,1)T−t′)×R′(u″,v″,1)T=0 (1)
式(1)を(u″,v″,1)Tについて解くことにより、参照画像Iと自由視点画像Aとの間の対応点を求めることができる。この対応関係で式(2)により描画を行い、仮の自由視点画像Aを生成する。なお、式(2)において、A(u″,v″)は自由視点画像Aの位置(u″,v″)の画素値を表し、I(u,v)は参照画像Iの位置(u,v)の画素値を表す。
A(u″,v″)=I(u,v) (2)
背景領域の抽出は、多層背景バッファおよび単層背景バッファに保存する背景画像うぃ抽出する処理であり、背景画像の生成・更新の前処理として行われる。ここでは、まず、式(3)を用いて参照画像Iの奥行き分布の統計をとる。式(3)の右辺は、参照画像Iにおける奥行きがnS以上、(n+1)S未満である画素の個数を意味し、Sは統計をとる際のステップ幅を表す。また、nは整数である。
ここでは、背景領域の抽出(S2)で抽出された画像Im(m=1,・・・,M,all)を背景バッファ(多層背景バッファおよび単層背景バッファ)に保存し、それをフレームごとに更新する。画像Im(m=1,・・・,M,all)のそれぞれに背景バッファUm(m=1,・・・,M,all)が対応するとする。なお、画像I0は前景画像であるため、それに対応する背景バッファU0は存在しない。
(uIm ,vIm ,1)T×Bm(u′Um ,v′Um ,1)T=0 (6)
仮の自由視点画像Aを背景バッファUm(m=1,・・・,M,all)に保存された背景画像で補完することにより出力画像を生成する。補完は、対応点が存在しない画素に対して行う。
(u′Um ,v′Um ,1)T×B′m(u″,v″,1)T=0 (8)
Claims (4)
- 自由視点画像を出力させる際に、参照画像における前景領域で隠蔽されていた背景領域に対する画素を補完する自由視点画像の隠蔽領域補完方式において、
入力された画像から単層の背景画像および奥行きに従って分割された複数層の背景画像として背景領域を抽出する背景領域抽出手段と、
前記単層の背景画像を保存するための単層背景バッファと、
前記複数層の背景画像を保存するための多層背景バッファとを備え、
自由視点画像の出力に際しては、まず、前記多層背景バッファに保存された複数層の背景画像の画素を用いて参照画像における前景領域で隠蔽されていた背景領域に対する画素を補完し、これにより補完されない画素を前記単層背景バッファに保存された単層の背景画像の画素を用いて補完することを特徴とする自由視点画像の隠蔽領域補完方式。 - 前記単層背景バッファに保存される単層の背景画像および前記多層背景バッファに保存される複数層の背景画像を、フレームごとに生成、更新することを特徴とする請求項1に記載の自由視点画像の隠蔽領域補完方式。
- 前記単層背景バッファおよび多層背景バッファに保存された背景画像と新たに入力されたフレーム画像との対応点を探索して射影変換行列を算出し、該射影変換行列を用いて前記単層背景バッファおよび多層背景バッファに保存する背景画像を更新することを特徴とする請求項2に記載の自由視点画像の隠蔽領域補完方式。
- 前記単層背景バッファおよび多層背景バッファに保存された背景画像と前記自由視点画像との対応点を探索して射影変換行列を算出し、該射影変換行列を用いて隠蔽されていた背景領域に対する画素を補完することを特徴とする請求項1に記載の自由視点画像の隠蔽領域補完方式。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004019718A JP4208142B2 (ja) | 2004-01-28 | 2004-01-28 | 自由視点画像の隠蔽領域補完方式 |
US10/898,166 US7675540B2 (en) | 2003-08-19 | 2004-07-26 | Concealed regions complementing system of free viewpoint video images |
US12/630,191 US8189036B2 (en) | 2003-08-19 | 2009-12-03 | Concealed regions complementing system of free viewpoint video images |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004019718A JP4208142B2 (ja) | 2004-01-28 | 2004-01-28 | 自由視点画像の隠蔽領域補完方式 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2005215848A JP2005215848A (ja) | 2005-08-11 |
JP4208142B2 true JP4208142B2 (ja) | 2009-01-14 |
Family
ID=34903857
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004019718A Expired - Fee Related JP4208142B2 (ja) | 2003-08-19 | 2004-01-28 | 自由視点画像の隠蔽領域補完方式 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4208142B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100663708B1 (ko) | 2005-12-07 | 2007-01-03 | 한국지질자원연구원 | 영상 이미지 상에서 특정 대상물을 은폐 처리하기 위한장치 및 방법 |
EP3291563A4 (en) | 2015-05-01 | 2018-12-05 | Dentsu Inc. | Free viewpoint video data distribution system |
-
2004
- 2004-01-28 JP JP2004019718A patent/JP4208142B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2005215848A (ja) | 2005-08-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN101682794B (zh) | 用于处理深度相关信息的方法、装置和系统 | |
Po et al. | Automatic 2D-to-3D video conversion technique based on depth-from-motion and color segmentation | |
KR100902353B1 (ko) | 깊이맵 추정장치와 방법, 이를 이용한 중간 영상 생성 방법및 다시점 비디오의 인코딩 방법 | |
US20090129667A1 (en) | Device and method for estimatiming depth map, and method for generating intermediate image and method for encoding multi-view video using the same | |
US8189036B2 (en) | Concealed regions complementing system of free viewpoint video images | |
KR20070040645A (ko) | 3d 입체 영상 처리 장치 및 방법 | |
Pearson et al. | Plenoptic layer-based modeling for image based rendering | |
KR102380862B1 (ko) | 영상 처리 방법 및 장치 | |
US9661307B1 (en) | Depth map generation using motion cues for conversion of monoscopic visual content to stereoscopic 3D | |
KR20100008677A (ko) | 깊이맵 추정장치와 방법, 이를 이용한 중간 영상 생성 방법및 다시점 비디오의 인코딩 방법 | |
Schmeing et al. | Depth image based rendering: A faithful approach for the disocclusion problem | |
US20170064279A1 (en) | Multi-view 3d video method and system | |
JPH09275578A (ja) | 多視点画像符号化装置および復号装置 | |
Muddala et al. | Spatio-temporal consistent depth-image-based rendering using layered depth image and inpainting | |
JP2006041811A (ja) | 自由視点画像ストリーミング方式 | |
WO2008152607A1 (en) | Method, apparatus, system and computer program product for depth-related information propagation | |
Mieloch et al. | Graph-based multiview depth estimation using segmentation | |
JP4208142B2 (ja) | 自由視点画像の隠蔽領域補完方式 | |
JP4707093B2 (ja) | 自由視点映像生成システム | |
JP4591955B2 (ja) | 自由視点映像の隠蔽領域補完装置 | |
Farid et al. | A panoramic 3D video coding with directional depth aided inpainting | |
Lee et al. | Temporally consistent depth map estimation for 3D video generation and coding | |
Ružić et al. | Depth-guided patch-based disocclusion filling for view synthesis via Markov random field modelling | |
Lin et al. | Sprite generation for hole filling in depth image-based rendering | |
KR20110132704A (ko) | 입체 영상 인코딩 장치 및 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050831 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20081002 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20081015 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20081016 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111031 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20141031 Year of fee payment: 6 |
|
LAPS | Cancellation because of no payment of annual fees |