JP2020016975A - 画像処理装置、方法及びプログラム - Google Patents
画像処理装置、方法及びプログラム Download PDFInfo
- Publication number
- JP2020016975A JP2020016975A JP2018138177A JP2018138177A JP2020016975A JP 2020016975 A JP2020016975 A JP 2020016975A JP 2018138177 A JP2018138177 A JP 2018138177A JP 2018138177 A JP2018138177 A JP 2018138177A JP 2020016975 A JP2020016975 A JP 2020016975A
- Authority
- JP
- Japan
- Prior art keywords
- image
- point
- point cloud
- target
- cloud data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Processing Or Creating Images (AREA)
Abstract
Description
点群生成部1の役割は、前掲の非特許文献1のような完全な3次元再構成の結果としてポリゴンメッシュ等の形で与えられるビジュアル・ハルに相当するものを、ビルボード方式に基づいて自由視点画像を生成する画像処理装置10において高速に求めるものである。これにより、画像処理装置10は従来のビルボード方式では困難であったオクルージョン耐性を確保することができる。点群生成部1では具体的には点群として、当該ビジュアル・ハルに相当するものを求める。
(手順1)ターゲット画像P1の前景領域R1(図2にて画像P1内に灰色で示す領域)と背景領域との境界上の点piを新たに選択し、手順2へ進む。
(手順2)ターゲット画像P1の光学中心C1から点piへと向かう視線VL1と、各画像P1及びP2の光学中心C1及びC2を通る直線と、によって張られる平面(エピポーラ面)と、リファレンス画像P2における前景領域R2(図2にて画像P2内に灰色で示す領域)と、が交差する箇所として、前景領域R2内の線分(一般に複数)を求め、光学中心C2から当該交差箇所の線分を視線VL1へと投影することで、視線エッジ集合VE(P1,P2)に属する線分を求めてから、手順3へと進む。
(手順3)ここまでに繰り返された一連の手順1において点piを全て選択済みであれば、ここまでの一連の手順2において得られた視線エッジ集合VE(P1,P2)を出力して、当該フローを終了する。点piが全て選択済みでなければ、手順1へと戻り、それまでに選択されていない新たな点piを選択するようにする。
分別部2では、点群生成部1で得た点群データ(3次元空間内の複数の点座標データ)に対してクラスタリングを行い、結果としての各クラスタが多視点画像において撮影されている個別対象に該当するものとして、クラスタリング結果を得る。一実施形態では、点群生成部1で得た3次元の点群データPG∋{(x, y, z)}に対して直接、クラスタリングを行うようにすればよい。別の一実施形態では、点群生成部1で得た3次元の点群データPGを所定平面(XY平面とする)上に投影した2次元データPXY∋{(X, Y)}を対象として、クラスタリングを行うようにしてもよい。(この場合、2次元データに投影したうえでのクラスタリング結果を、元の3次元の点群データに対するクラスタリング結果として採用することとなる。)
近傍取得部3の役割は、後段側の抽出部5において対象の領域を適切に抽出可能とするための情報としての、各点の近傍点がいずれの点であるかの情報を得ることである。なお、その意義は後述の抽出部5の説明の際にも説明する。近傍取得部3では具体的に、分別部2で得た個別対象oi(前述の通りクラスタoiが個別対象oiに該当する)ごとの点群データ(個別対象ごとの各点の3次元位置座標のデータ)の各点tに関して、同クラスタoi内での所定数k個の最近傍pt1, pt2, …, ptk(∈oi)の情報を取得する。この際、各点tについて同クラスタoi内の他の点との距離を計算したうえで、距離が近い上位のk個を選択すればよい。すなわち、近傍取得部3の処理は、クラスタoi内において点tのk近傍を求める関数find_nearest_pointによって形式的に以下の式(3)のように表すことができる。この際、任意の既存のk近傍法(KNN)を利用してよい。
逆投影部4は、分別部2から得られた個別対象oiごとの点群データを、ユーザが設定する仮想視点に対応する画像平面へと逆投影する。当該逆投影の結果は、ユーザが設定する仮想視点に対応する画像平面(u,v)での画像において、2値画像として表現することができる。すなわち、当該画像平面上のある画素位置(u,v)に関して、点群データに属する点が少なくとも1つ逆投影されていれば値を1(白色)とし、1つも逆投影される点がなければ値を0(黒色)とした2値画像として、逆投影部4の出力を得ることができる。
抽出部5では、逆投影部4で得たユーザが設定する仮想視点に対応する画像上での個別対象oiごとの点群データ(図5の[i]の例のように、当該画像上で一般に離散的且つスパースに分布するものとなっている)に関して、当該離散的且つスパースな各点の間に形成される領域のうち、個別対象oiが占める領域に該当すると判定される領域を埋めていくことにより、個別対象oiが占める領域を抽出する。当該埋めていく際に、近傍取得部3で各点tに関して近傍と判定されたk個の点の情報、すなわち、集合{t, pt1, pt2, …, ptk}の情報を参照することにより、当該k近傍と判定された(3次元空間内の)集合{t, pt1, pt2, …, ptk}は、逆投影部4によって2次元画像上に投影された際にも個別対象oiが占める領域に含まれる凸包を形成しているという前提を用いて、三角形化(三角形の3つの頂点を選んでその内部を埋める処理)によって個別対象oiが占める領域を抽出する。
描画部6では、抽出部5で得たユーザが設定する仮想視点に対応する画像内における各個別対象の領域(前景)に対して、入力された多視点画像から当該仮想視点に近いと判定される1つ以上の画像を用いてテクスチャマッピングを行うことにより、当該仮想視点での自由視点画像を生成する。ここで、各個別対象の領域(前景)に関して、入力される多視点画像に対して予めデプス情報を付与しておくことで、あるいは、多視点画像内の個別対象に対してステレオマッチングを適用することで、抽出部5で得た個別対象の領域(前景)に関してデプス情報を与えてビルボードを生成したうえで、任意の既存手法(ビルボード方式)によって自由視点画像を生成することができる。この際、背景の情報は予め既知のものとして与えておくようにすればよい。ビルボード方式での自由視点画像の生成は既存手法として例えば、前掲の非特許文献2や以下のものを利用してよい。
HAYASHI, Kunihiko; SAITO, Hideo. Synthesizing free-viewpoint images from multiple view videos in soccer stadium. In: Computer Graphics, Imaging and Visualisation, 2006 International Conference on. IEEE, 2006. p. 220-225.
(1)完全な3次元モデルとしてのビジュアル・ハルを生成することに代えて、点群生成部1においてその近似として高速に計算可能な点群データを得ている。
(2)当該点群データは、多視点画像の各画像における前景及び背景の境界の点に基づいて生成するものであるため、ビジュアル・ハルの近似であっても形状を正確に反映したものとなっている。
(3)非特許文献3におけるような多面体モデルを用いることなく、分別部2においてクラスタリングにより高速に、撮影されている複数の個別対象をそれぞれ分離することができる。
(4)個別対象に凹部がある場合にも、近傍取得部3によって得られる各点の近傍点の情報によって対処することが可能である。
(5)抽出部5において局所的な三角形化という簡素な処理によって、個別対象の領域を得ることができる。
Claims (9)
- 多視点画像から、各画像における視点位置と、前景及び背景の境界上の点と、に基づいて対象の点群データを得る点群生成部と、
前記点群データをクラスタリングして個別対象ごとの点群データとなす分別部と、
当該個別対象ごとの点群データにおいて各点の近傍点を取得する近傍取得部と、
前記個別対象ごとの点群データを指定される仮想視点での画像平面へと逆投影する逆投影部と、
前記取得された各点の近傍点を前記画像平面上の各点が接続する近傍点とすることで、当該接続する関係で定義される領域として、当該画像平面における個別対象の領域を抽出する抽出部と、を備えることを特徴とする画像処理装置。 - 前記点群生成部は、多視点画像のうちの1つをターゲット画像とし別のもう1つをリファレンス画像とし、ターゲット画像における前景及び背景上の境界上の第一点と、ターゲット画像の光学中心である第二点と、リファレンス画像の光学中心である第三点と、によって定まるエピポーラ面が、リファレンス画像の前景の領域から切り取る線分を、第二点及び第一点を通るターゲット画像における視線へと投影した線分より、前記対象の点群を得ることを特徴とする請求項1に記載の画像処理装置。
- 前記点群生成部は、前記投影した線分の両端の点が含まれるものとして、前記対象の点群を得ることを特徴とする請求項2に記載の画像処理装置。
- 前記点群生成部は、ターゲット画像における前景及び背景上の境界上の第一点を、当該境界上から画像上の距離で一定間隔ごとに選出したうえで、前記対象の点群を得ることを特徴とする請求項2または3に記載の画像処理装置。
- 前記分別部は、前記点群データを所定平面に投影した際の当該所定平面上での位置関係に基づいて、前記点群データをクラスタリングすることを特徴とする請求項1ないし4のいずれかに特徴の画像処理装置。
- 前記抽出部は、各点に関して前記取得された近傍点との間に形成される線分を、辺として有する三角形領域の和として、前記画像平面における個別対象の領域を抽出することを特徴とする請求項1ないし5のいずれかに記載の画像処理装置。
- 前記多視点画像と、前記抽出された個別対象の領域と、に基づいて、前記指定された仮想視点における自由視点画像を生成する描画部をさらに備えることを特徴とする請求項1ないし6のいずれかに記載の画像処理装置。
- 多視点画像から、各画像における視点位置と、前景及び背景の境界上の点と、に基づいて対象の点群データを得る点群生成段階と、
前記点群データをクラスタリングして個別対象ごとの点群データとなす分別段階と、
当該個別対象ごとの点群データにおいて各点の近傍点を取得する近傍取得段階と、
前記個別対象ごとの点群データを指定される仮想視点での画像平面へと逆投影する逆投影段階と、
前記取得された各点の近傍点を前記画像平面上の各点が接続する近傍点とすることで、当該接続する関係で定義される領域として、当該画像平面における個別対象の領域を抽出する抽出段階と、を備えることを特徴とする画像処理方法。 - 多視点画像から、各画像における視点位置と、前景及び背景の境界上の点と、に基づいて対象の点群データを得る点群生成部と、
前記点群データをクラスタリングして個別対象ごとの点群データとなす分別部と、
当該個別対象ごとの点群データにおいて各点の近傍点を取得する近傍取得部と、
前記個別対象ごとの点群データを指定される仮想視点での画像平面へと逆投影する逆投影部と、
前記取得された各点の近傍点を前記画像平面上の各点が接続する近傍点とすることで、当該接続する関係で定義される領域として、当該画像平面における個別対象の領域を抽出する抽出部と、を備える画像処理装置として、コンピュータを機能させることを特徴とする画像処理プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018138177A JP6894873B2 (ja) | 2018-07-24 | 2018-07-24 | 画像処理装置、方法及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018138177A JP6894873B2 (ja) | 2018-07-24 | 2018-07-24 | 画像処理装置、方法及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020016975A true JP2020016975A (ja) | 2020-01-30 |
JP6894873B2 JP6894873B2 (ja) | 2021-06-30 |
Family
ID=69581770
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018138177A Active JP6894873B2 (ja) | 2018-07-24 | 2018-07-24 | 画像処理装置、方法及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6894873B2 (ja) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002236909A (ja) * | 2001-02-09 | 2002-08-23 | Minolta Co Ltd | 画像データ処理方法およびモデリング装置 |
JP2006054681A (ja) * | 2004-08-11 | 2006-02-23 | Tokyo Institute Of Technology | 移動体周辺監視装置 |
JP2013134706A (ja) * | 2011-12-27 | 2013-07-08 | Canon Inc | 情報処理装置、情報処理方法、及びそのプログラム |
WO2017094536A1 (ja) * | 2015-12-01 | 2017-06-08 | ソニー株式会社 | 画像処理装置および画像処理方法 |
-
2018
- 2018-07-24 JP JP2018138177A patent/JP6894873B2/ja active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002236909A (ja) * | 2001-02-09 | 2002-08-23 | Minolta Co Ltd | 画像データ処理方法およびモデリング装置 |
JP2006054681A (ja) * | 2004-08-11 | 2006-02-23 | Tokyo Institute Of Technology | 移動体周辺監視装置 |
JP2013134706A (ja) * | 2011-12-27 | 2013-07-08 | Canon Inc | 情報処理装置、情報処理方法、及びそのプログラム |
WO2017094536A1 (ja) * | 2015-12-01 | 2017-06-08 | ソニー株式会社 | 画像処理装置および画像処理方法 |
Also Published As
Publication number | Publication date |
---|---|
JP6894873B2 (ja) | 2021-06-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11410320B2 (en) | Image processing method, apparatus, and storage medium | |
Matsuyama et al. | Real-time dynamic 3-D object shape reconstruction and high-fidelity texture mapping for 3-D video | |
CN111243093B (zh) | 三维人脸网格的生成方法、装置、设备及存储介质 | |
US8270704B2 (en) | Method and apparatus for reconstructing 3D shape model of object by using multi-view image information | |
CN109906600B (zh) | 模拟景深 | |
CN104915978A (zh) | 基于体感相机Kinect的真实感动画生成方法 | |
CN112784621A (zh) | 图像显示方法及设备 | |
CN111951368A (zh) | 一种点云、体素和多视图融合的深度学习方法 | |
WO2022018454A1 (en) | Method and system for generating a target image from plural multi-plane images | |
Tian et al. | Occlusion handling using moving volume and ray casting techniques for augmented reality systems | |
Sankoh et al. | Robust billboard-based, free-viewpoint video synthesis algorithm to overcome occlusions under challenging outdoor sport scenes | |
JP6555755B2 (ja) | 画像処理装置、画像処理方法および画像処理プログラム | |
Musialski et al. | Interactive Multi-View Facade Image Editing. | |
CN116342831A (zh) | 三维场景重建方法、装置、计算机设备及存储介质 | |
PP et al. | Efficient 3D visual hull reconstruction based on marching cube algorithm | |
JP6894873B2 (ja) | 画像処理装置、方法及びプログラム | |
CN111652025A (zh) | 一种人脸的处理、直播方法、装置、电子设备和存储介质 | |
JP2020035216A (ja) | 画像処理装置、方法及びプログラム | |
CN111652807B (zh) | 眼部的调整、直播方法、装置、电子设备和存储介质 | |
CN112002019B (zh) | 一种基于mr混合现实的模拟人物阴影的方法 | |
Matsuyama | Exploitation of 3D video technologies | |
Chen et al. | A quality controllable multi-view object reconstruction method for 3D imaging systems | |
Hwang et al. | Image-based object reconstruction using run-length representation | |
JP2022029239A (ja) | 画像処理装置、画像処理方法、およびプログラム | |
JP2021047468A (ja) | 画像処理装置、画像処理方法、および画像処理プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200608 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210430 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210526 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210604 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6894873 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |