JP3940484B2 - 三次元形状復元装置及び方法並びに三次元形状復元プログラムを記録したコンピュータ読取り可能な記録媒体 - Google Patents

三次元形状復元装置及び方法並びに三次元形状復元プログラムを記録したコンピュータ読取り可能な記録媒体 Download PDF

Info

Publication number
JP3940484B2
JP3940484B2 JP01413198A JP1413198A JP3940484B2 JP 3940484 B2 JP3940484 B2 JP 3940484B2 JP 01413198 A JP01413198 A JP 01413198A JP 1413198 A JP1413198 A JP 1413198A JP 3940484 B2 JP3940484 B2 JP 3940484B2
Authority
JP
Japan
Prior art keywords
luminance
normal vector
image
dimensional shape
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP01413198A
Other languages
English (en)
Other versions
JPH11211440A (ja
Inventor
郁夫 神涼
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu FIP Corp
Original Assignee
Fujitsu FIP Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu FIP Corp filed Critical Fujitsu FIP Corp
Priority to JP01413198A priority Critical patent/JP3940484B2/ja
Publication of JPH11211440A publication Critical patent/JPH11211440A/ja
Application granted granted Critical
Publication of JP3940484B2 publication Critical patent/JP3940484B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

【0001】
【産業上の利用分野】
本発明は、三次元形状を有する対象物を撮影したカラー画像から対象物の三次元形状データを作成してコンピュータグラフィックスにより復元するための三次元形状復元装置及び方法並びに三次元形状復元プログラムを記録したコンピュータ読取り可能な記録媒体に関し、特に、三次元対象物のカラー画像から変換した輝度画像に基づいて短時間でかつ正確に対象物の三次元形状を復元するための三次元形状復元装置及び方法並びに三次元形状復元プログラムを記録したコンピュータ読取り可能な記録媒体に関する。
【0002】
【従来の技術】
近年、デジタルカメラやデジタルビデオ等の普及に伴い、撮影した画像データをパーソナルコンピュータに取り込んでプレゼンテーション等に利用することが盛んに行われている。この場合、撮影した画像データからパーソナルコンピュータ上で三次元形状データを生成することができれば、コンピュータグラフィックスによって撮影した対象物を復元することができ、撮影画像データの利用範囲が大幅に拡大する。
【0003】
従来、三次元形状を持つ対象物を撮影した画像データのうちの輝度情報をもとに、対象物の三次元形状を復元する方法は、一般に「Shape From Shading」問題として知られており、各種のアプローチが試みられている。この復元方法としては、例えば特性曲線展開法と弛緩法が代表的なものとしてある。
特性曲線展開法は、Hornにより定式化され、画像の照明の方程式、即ち、面の傾きに関する非線形1階微分方程式を特性曲線に沿って解くことによって三次元形状情報を得るという方法である。具体的には、画面上の任意の点を中心として明暗の差がもっとも大きくなる点を順次結ぶことで特性曲線を求める。この特性曲線と反射率分布図により特性曲線上での面の傾きを求め、三次元形状を再構成する。
【0004】
弛緩法は、外縁線拘束と滑らか拘束による方法である。曲面体の外縁線、即ち見かけ上の輪郭線上では、面の法線ベクトルは視線に直交するという初期条件を用いて、画素近傍の2乗誤差及び反射関数と観測される画像の輝度との2乗誤差の和を最小にするように、画素数に比例した連立方程式をガウス・ザイデルの繰り返し法によって面の傾きを解く方法である。
【0005】
換言すると、弛緩法は、物体の輪郭線上では、面の傾きが輪郭線の接線の傾きにより決定できることを利用し、これを境界条件として形状全体の面の傾きを求めて三次元形状を再構成する。
【0006】
【発明が解決しようとする課題】
しかしながら、このような従来の撮影画像の輝度情報に基づいて三次元形状を復元する方法は、次のような問題がある。
まず特性曲線展開法においては、特性曲線に沿って解を求めるため、特性曲線が得られない部分においては解を求めることができない。また、特性曲線の開始点では、近似的に面の傾きを人為的に与える必要があるが、この際の誤差が全体の復元形状に影響を与えやすい。
【0007】
また弛緩法においては、自然画像などでは見かけ上の輪郭線を正確に求めることは難しく、初期条件に誤差が含まれやすい。また、画素数に比例した連立方程式を繰り返し法によって解くため、処理に時間を要する。
本発明は、このような従来の問題点に鑑みてなされたもので、三次元対象物を撮影した画像データから、輝度情報に基づいて短時間で且つ正確に三次元形状を復元することのできる三次元形状復元装置及び方法並びに三次元形状復元プログラムを記録したコンピュータ読取り可能な記録媒体を提供することを目的とする。
【0008】
【課題を解決するための手段】
図1は本発明の原理説明図である。本発明の三次元形状復元装置は、図1(A)のように、三次元形状を有する対象物を撮影したカラー画像データを取り込む画像取込部24と、対象物を例えば画素単位の微小面に分割し輝度情報に基づいて各微小面の法線ベクトルを抽出する法線ベクトル抽出部26、及び法線ベクトル群に基づいて対象物の三次元形状データを算出して復元表示する三次元形状復元部50で構成される。
【0009】
本発明にあっては、図1(B)のように、撮影する対象物体66における微小面70の法線ベクトル72を、視線方向68のベクトル垂直成分76と視線方向に直交する面78のベクトル水平成分74に分解し、垂直成分76は微小面の輝度に比例し、水平成分74は輝度の等値線の接線方向から決定するものである。法線ベクトル検出部26は、カラー取込画像を輝度画像に変換する輝度画像変換部28、輝度画像に基づき各微小面の法線ベクトルの水平成分を抽出する水平成分抽出部30、輝度画像に基づき各微小面の法線ベクトルの垂直成分を抽出する垂直成分算出部32、及び各微小面の法線ベクトルの水平成分と垂直成分により正規化された法線ベクトルを算出する法線ベクトル正規化部48を備える。
【0010】
水平成分抽出部30で抽出する法線ベクトルの水平成分74は、図1(B)の対象物66の視線方向68に直交する面に投影した単位ベクトル長(大きさ1.0)の成分であり、垂直成分抽出部32で抽出する法線ベクトルの垂直成分76は、対象物の輝度に比例した視線方向の成分である。
水平成分抽出部30は、輝度画像を平滑化する輝度画像平滑部34、平滑化した輝度画像の画素輝度値を任意の刻み幅で丸め込んで輝度コンター画像(輝度等高線画像)に変換する輝度コンター変換部36、輝度コンター画像に基づき任意の刻み幅で輝度等値線線を生成する輝度等値線生成部38、輝度等値線上での微小領域の各面について法線ベクトルの水平成分を算出する水平成分算出部40を備える。
【0011】
輝度等値線生成部38は、例えばコンター画像上で輝度値が変化する画素を探索して追跡開始点とし、この追跡開始点を中心に所定回りに周囲の8画素を調べ、着目した画素の輝度値が追跡開始点と同じで、次に着目する画素の輝度値が追跡開始点より大きい場合、現在の着目画素を次の追跡開始点とし、複数の追跡開始点を結んで輝度等値線を生成する。
【0012】
水平成分算出部40は、微小面を通る輝度等値線の接線ベクトルを生成し、接線ベクトルを90度回転して法線ベクトルの水平成分を求める。この場合、微小面が存在する面形状が凸面であった場合、輝度等値線の接線ベクトルを輝度の暗くなる方向に90度回転して法線ベクトルの水平成分を求める。また微小面が存在する面形状が凹面であった場合には、逆に輝度等値線の接線ベクトルを輝度の明るくなる方向に90度回転して法線ベクトルの水平成分を求める。
【0013】
垂直成分抽出部32は、法線ベクトルの垂直成分を、平滑化した輝度画像の各微小面の輝度値に比例した値として算出する。具体的には、カラー画像を撮影した際の視線方向、撮像方向等の撮影条件を入力する撮影条件入力部42、視線方向に対する処理対象物の面角度と輝度値との関係を定義した反射テーブルを作成する反射テーブル作成部44、及び輝度画像の各微小面の輝度値による反射テーブルの参照で、各面の法線ベクトルの垂直成分を算出する垂直成分算出部46を備える。
【0014】
反射テーブル生成部44は、面角度θに比例する輝度値Bを格納した線形反射テーブルを生成し、垂直成分算出部46は、輝度画像の各微小面の輝度Bsに所定のスケール係数Kを乗じて線形反射テーブルの輝度値Bに変換し、この輝度値Bによる線形反射テーブルの参照で対応する面角度θを求め、長さ1の法線ベクトルの垂直成分Nzを
Nz=sinθ
により算出する。
【0015】
また反射テーブル生成部44は、面角度θに比例する輝度値Bを格納した線形反射テーブルに加え、更に、線形反射テーブルの面角度θに対する輝度値Bの関係を対象物の材質、光源の種類等に基づき変形した非線形反射テーブルを生成する。
この場合、垂直成分算出部46は、平滑化された輝度画像の各微小面の輝度Bsに所定のスケール係数Kを乗じて反射テーブルの輝度値Bを求め、次にテーブル輝度値Bにより非線形反射テーブルを参照して面角度θを求め、法線ベクトルの垂直成分Nzを算出する。
【0016】
垂直成分算出部46で使用するスケール係数Kとしては、同じ面角度θにおける反射テーブルの輝度値Bと撮影画像の輝度値Bsとの比率
K=(B/Bs)
を算出する。例えば、光源方向に直交する面角度90度における反射テーブルの輝度最大値Bmax と撮影画像の輝度値Bsmaxとの比率
K=(Bmax /Bsmax)
を算出する。
【0017】
法線ベクトル正規化部48は、単位ベクトル長(大きさ1)の水平成分(Nx,Ny)と垂直成分(Nz)の合成で得られる法線ベクトルを、単位ベクトル長(大きさ1.0)の法線ベクトルに正規化する。即ち、法線ベクトル正規化部48は、垂直成分Nzに基づいて単位ベクトル長の法線ベクトルを合成するための正規化水平成分HLを
HL=√(1−Nz2
として算出する。
【0018】
次に正規化水平成分HLの単位ベクトル長1.0に対する比率(HL/1.0)を、法線ベクトルの水平成分(Nx,Ny)の各々に乗じて正規化水平成分(Nnx,Nny)を
Nxn=Nx・(HL/1.0)
Nyn=Ny・(HL/1.0)
として求め、法線ベクトルを正規化する。
【0019】
図1(A)の三次元形状復元部50は、正規化された法線ベクトルを積分することで対象範囲の三次元形状を生成する積分処理部51、及び三次元形状を復元結果として表示する復元表示部52を備える。
積分処理部51は、視線方向に直交する基準面を設定し、対象物体の任意の微小面を初期位置として基準面上の投影微小面までの視線方向の高さを初期値として設定し、初期位置の微小面に隣接する他の微小面の高さ方向の変異を、法線ベクトルに基づく面の傾きから求めて高さの初期値に加算することで、基準面からの高さを順次算出して三次元形状データを生成する。
【0020】
更に、取り込んだカラー画像に対し三次元形状を復元する画像範囲を選択する画像範囲選択部25を設ける。画像範囲選択部25は、各画素データの選択回数をラベル番号に使用して選択範囲をラベリングする。
画像範囲選択部25は、例えば対象物に含まれる任意のカラー画素を指定し、指定画素のカラー画素値に対し所定の許容範囲のカラー画素値をもち且つ指定画素に連続する画素を選択する。
【0021】
また本発明は、三次元形状復元方法を提供するもので、
三次元形状を有する対象物を撮影したカラー画像データを取り込む画像取込過程;
対象物を微小面に分割し、輝度情報に基づいて各微小面の法線ベクトルを抽出する法線ベクトル抽出過程;
法線ベクトル群に基づいて対象物の三次元形状データを算出して復元表示する三次元形状復元過程;
を備えたことを特徴とする。
【0022】
三次元形状復元過程の法線ベクトル検出過程は、
カラー取込画像を輝度画像に変換する輝度画像変換過程;
輝度画像に基づき各微小面の法線ベクトルの水平成分を抽出する水平成分抽出過程;
輝度画像に基づき各微小面の法線ベクトルの垂直成分を抽出する垂直成分抽出過程;
各微小面の法線ベクトルの水平成分と垂直成分により正規化された法線ベクトルを算出する法線ベクトル正規化過程;
を備える。
【0023】
また三次元形状復元過程は、
正規化された法線ベクトルを積分することで対象範囲の三次元形状を生成する積分処理過程;
三次元形状を復元結果として表示する復元表示過程;
を備える。これ以外の点は、三次元形状復元装置と同じである。
【0024】
更に、本発明は、三次元形状復元プログラムを記憶したコンピュータ読取り可能な記録媒体を提供するもので、三次元形状を有する対象物を撮影したカラー画像データを取り込む画像取込部、対象物を微小面に分割し、輝度情報に基づいて各微小面の法線ベクトルを抽出する法線ベクトル抽出部、及び法線ベクトル群に基づいて対象物の三次元形状データを算出して復元表示する三次元形状復元部を備えたことを特徴とする。
【0025】
ここで法線ベクトル検出部は、カラー取込画像を輝度画像に変換する輝度画像変換部、輝度画像を平滑化する輝度画像平滑部、輝度画像に基づき各微小面の法線ベクトルの水平成分を抽出する水平成分抽出部、輝度画像に基づき各微小面の法線ベクトルの垂直成分を抽出する垂直成分抽出部、微小領域の各面の法線ベクトルの水平成分と垂直成分により正規化された法線ベクトルを算出する法線ベクトル正規化部を備える。
【0026】
また三次元形状復元部は、正規化された法線ベクトルを積分することで対象範囲の三次元形状を生成する積分処理部、及び三次元形状を復元結果として表示する復元表示部を備える。これ以外の点は、三次元形状復元装置と同じである。
【0027】
【発明の実施の形態】
<目次>
1.装置構成と機能
2.画像取込みと範囲選択
3.法線ベクトル水平成分の抽出
4.法線ベクトル垂直成分の抽出
5.法線ベクトルの正規化
6.三次元形状の復元
1.装置構成と機能
図2は本発明による三次元形状復元装置のハードウェア構成のブロック図である。図2において、本発明の三次元形状復元装置は、例えばPC/AT互換器等のコンピュータ装置を用いた処理装置10を有し、処理装置10に対し処理対象とするカラー画像を入力するための撮像装置として、例えばデジタルカメラ装置12、ビデオカメラ装置14、イメージスキャナ装置16を設けている。
【0028】
デジタルカメラ装置12、ビデオカメラ装置14及びイメージスキャナ装置16の処理装置10とのインタフェースは、例えばSCSIもしくはRS232C等が使用される。PC/AT互換器を使用した処理装置10は、例えば32メガバイト以上の主メモリ18を備えている。
処理装置10はデジタルカメラ装置12、ビデオカメラ装置14またはイメージスキャナ装置16からカラー画像データを取り込み、カラー画像データに含まれる任意の対象物(又は対象範囲)について、輝度画像に変換した後に対象物を構成する例えば画素単位となる微小面ごとの面の法線ベクトルを求め、求めた法線ベクトル群を作り出す形状を逆に求めることで、対象物の三次元形状データを生成し、対象物を復元表示させる。
【0029】
処理装置10に続いては3Dアクセラレータ20が設けられ、処理装置10で微小面の法線ベクトル群から作り出された三次元形状データを入力して、コンピュータグラフィックスの手法により、任意の視線方向から見た対象物の画像をディスプレイ22上に復元表示させる。
図3は図2の処理装置10にインストールされた三次元形状復元ソフトウェアによって実現される本発明の三次元形状復元処理の機能ブロック図である。
【0030】
図3において、本発明の三次元形状復元装置は、画像取込部24、画像範囲選択部25、法線ベクトル抽出部26及び形状復元部50で構成されている。画像取込部24はデジタルカメラ装置12、ビデオカメラ装置14またはイメージスキャナ装置16から例えばRGBカラー画像データを取り込む。
画像範囲選択部25は、画像取込部24で取り込んだカラー画像の中の三次元形状の復元を行う画像範囲の選択するためのラベリングを行う。法線ベクトル抽出部26は、対象物を構成している微小面ごとの面の法線ベクトルを求めるため、カラー画像の輝度情報に着目し、微小面の法線ベクトルを水平成分と垂直成分に分けて抽出する。
【0031】
ここで、対象物の微小面の法線ベクトルを分解した水平成分と垂直成分は図4のように定められている。図4は、対象物66に光源方向69から光を照射し、視線方向68から対象物を撮像している。この対象物66上のある微小面70に着目すると、微小面70の面方向に直交する外側に法線ベクトル72が設定される。
【0032】
本発明にあっては、法線ベクトル72を水平成分74と垂直成分76に分解して抽出する。水平成分74は、対象物66に対する視線方向68に対し直交する面78に平行なベクトル成分である。また垂直成分76は、対象物66に対する視線方向68に平行なベクトル成分である。
ここで三次元座標(X,Y,Z)として視線方向68に直交する面78を二次元座標(X,Y)平面とし、視線方向68をZ軸方向としている。このため、法線ベクトル72の大きさをNとすると、水平成分74は(Nx,Ny)で表され、垂直成分76は(Nz)で表される。
【0033】
再び図3を参照するに、法線ベクトル抽出部26にあっては、図4に示した法線ベクトル72の垂直成分76は微小面70の輝度値の大きさに比例していると考え、また水平成分74は対象物66上で輝度の等値線を考え、微小面70を通る輝度等値線の接線方向により決定する。
このように法線ベクトルを水平成分と垂直成分に分解して抽出するため、法線ベクトル抽出部26には輝度画像変換部28が設けられ、これに続いて水平成分抽出部30と垂直成分抽出部32が設けられている。
【0034】
水平成分抽出部30は、輝度画像平滑部34、輝度コンター変換部36、輝度等値線生成部38及び水平成分算出部40で構成される。一方、垂直成分抽出部32は、光源方向及び撮影方向を設定する撮影条件入力部42、反射テーブル作成部44及び垂直成分算出部46で構成される。
更に法線ベクトル抽出部26には法線ベクトル正規化部48が設けられる。法線ベクトル正規化部48は、後の説明で明らかにするように、水平成分抽出部30における法線ベクトルの水平成分が大きさ1の単位ベクトル成分として求められており、これに対し垂直成分が実際の輝度値に比例した正しいベクトルの大きさとして求められていることから、垂直成分に基づいて水平成分を、大きさ1の単位ベクトル長となる法線ベクトルの水平成分となるように垂直成分に基づいて正規化する。
【0035】
法線ベクトル抽出部26に続いて設けられた形状復元部50には積分処理部51と復元表示部52が設けられる。積分処理部51は、法線ベクトル抽出部26で抽出された対象物の各微小面の法線ベクトル群を作り出す三次元形状を逆に求める積分処理を行い、対象物の三次元形状データを生成する。復元表示部52は積分処理部51で求められた対象物の三次元形状データに任意の視線方向を設定することで二次元表示データを作成し、読取りカラー画像から得られたRGBデータを使用したコンピュータグラフィックスにより、対象物を復元してディスプレイに表示する。
【0036】
図5,図6には、図3に示した本発明の三次元形状復元装置の処理手順に従った処理画像を示している。まず図5(A)は図3の画像取込部24で適宜の撮像装置から取り込まれたカラー取込画像54であり、右手を握った拳の撮影画像54を取り込んでいる。このカラー取込画像54は、図3の法線ベクトル抽出部26に設けている輝度画像変換部28により、図5(B)のような輝度変換画像56に変換される。
【0037】
この輝度変換画像56は、更に図3の輝度コンター変換部36及び輝度等値線生成部38の処理により、図5(C)のような輝度等値線画像58が生成される。この輝度等値線画像58は、輝度変換画像56における同一輝度の画素を結んだ線の集合である。
続いて図3の法線ベクトル抽出部26に設けている水平成分算出部40によって抽出された水平成分の集合である図6(D)のような法線ベクトル水平成分抽出画像60が図5(C)の輝度等値線画像58に基づいて求められる。
【0038】
一方、図3の垂直成分抽出部32において、図5(B)の輝度変換画像56の輝度情報に基づき、図6(E)のような各微小面についての法線ベクトル垂直成分抽出画像62が求められる。尚、図6(D)の法線ベクトル水平成分抽出画像60は、図3の法線ベクトル正規化部48において垂直成分に基づいて正規化したベクトル水平成分となっている。
【0039】
このようにして図6(D)の法線ベクトル水平成分抽出画像60及び図6(E)の法線ベクトル垂直成分抽出画像62が得られると、この法線ベクトル群について図3の形状復元部50に設けている積分処理部51で、法線ベクトル群を作り出す三次元形状を逆に求める積分処理を行って対象物の三次元形状データを生成し、この三次元形状データに基づき復元表示部52で図6(F)のような三次元形状復元画像64を生成して表示する。この三次元形状復元画像64は、図5(A)の正面から見たカラー取込画像54の対象物について、視線方向を斜め方向に設定して復元表示している。
【0040】
図7は図3に示した本発明の三次元形状復元装置の処理手順のフローチャートである。まずステップS1で、デジタルカメラ装置12、ビデオカメラ装置14またはイメージスキャナ装置16で撮像したカラー画像を画像取込部24によって取り込む。次にステップS2で、取り込んだカラー画像を対象に画像範囲選択部25で任意の対象範囲を選択して1以上の値を使用したラベル番号によるラベリングを行う。
【0041】
ここでカラー取込画像に対する対象範囲の選択は、ユーザが必要に応じて自由に行うことができ、また特に必要がなければ全範囲をラベリングして選択してもよい。また対象範囲を選択する際に、復元対象としない部分についてはユーザが任意にラベル番号0を設定することで、本発明による三次元形状の復元処理から除外し、本発明による三次元形状の復元処理が終了した後の後処理で補足的に三次元形状を補うようにしてもよい。
【0042】
次にステップS3で、取り込んだカラー画像を輝度画像変換部28によって輝度画像に変換し、更に、ステップS4で輝度画像を平滑化する。この輝度画像の平滑化は、自然画像等では人間の目で見ると同一色と認識されても、輝度値としての数値で見ると極端に値が異なる部分があり、この輝度値の急激な変化が三次元形状の復元時にはノイズとして悪影響を及ぼすことから、極端な輝度値のずれを無くすために平滑化する。
【0043】
次にステップS4で、輝度画像に基づき微小面を構成する画素の法線ベクトルの水平成分を抽出する。この水平成分の抽出は、輝度コンター画像に変換した後に、輝度等値線を生成し、最終的に輝度等値線を接線ベクトルに基づき水平成分も算出する。
続いてステップS6で、輝度画像の微小面に対応した各画素の法線ベクトルの垂直成分を抽出する。この法線ベクトルの垂直成分の抽出は、光源方向及び撮影方向等の撮影条件を入力し、対象物について輝度と微小面の面角度との対応関係を定義する反射テーブルを作成し、取込画像の画素輝度値による反射テーブルの参照で法線ベクトルの垂直成分も算出する。
【0044】
次にステップS7で、対象物を構成する各画素の法線ベクトルの水平成分と垂直成分により正規化された大きさ1の法線ベクトルを算出する。具体的には、垂直成分に基づき、大きさ1の法線ベクトルに対応した水平成分を求める。
このようにして対象物の各微小面に対応した画素の法線ベクトル群が抽出できたならば、ステップS8で、正規化された法線ベクトル群を作り出す微小面の形状を逆に求める積分処理により三次元形状データを作成し、ステップS9で、任意の視線方向の設定により作成された三次元形状データから二次元形状データを生成し、且つステップS1で取り込んだカラー画像の対応するカラー画素値を使用して対象物を復元表示する。
【0045】
次に図3及び図7に示した本発明の三次元形状復元処理の詳細を説明する。
2.画像取込みと範囲選択
図3のデジタルカメラ装置12にあっては、撮影した画像を内蔵したメモリやミニディスク等の記憶装置に格納している。またビデオカメラ装置14は撮影した画像をテープに格納している。更に紙やフィルム等に記録された画像はイメージスキャナ装置16で読み取ることで、電子化されたカラー画像データとすることができる。
【0046】
このようなデジタルカメラ装置12、ビデオカメラ装置14またはイメージスキャナ装置16からのカラー画像データは、画像取込部24が例えば図5(A)のようなカラー取込画像として取り込み、取込結果は例えば図8のようなRGBテーブル82に格納される。RGBテーブル82は一例として(4×4)ドットの画素P11〜P44を例にとっており、例えば画素P14のようにR成分84,G成分85,B成分86のRGB画素値を格納している。
【0047】
R成分84,G成分85,B成分86は各々8ビットデータであり、0〜255の値をとる。更に有効フラグ88が設けられ、ビット1をセットすることでRGB画素値を有効とし、ビット0をセットすることでRBG画素値を無効とする。この有効フラグ88は、テーブルに格納されている値が処理上意味があるか否かを示し、有効フラグ88が有効となっている画素についてのみ処理を行うことで全体での処理速度の向上を図っている。
【0048】
図8のRGBテーブル82の場合、画像読み込み時に有効フラグ88は全て有効となっており、後に説明する対象範囲を選択した場合には、対象範囲内は有効、対象範囲外は無効となる。この図8のRGBテーブル82のように取り込まれたカラー画像データは、図3の画像範囲選択部25に与えられ、三次元形状の復元対象とする対象範囲の選択が行われる。
【0049】
図9のフローチャートは、図3の画像範囲選択部25による対象範囲選択処理のフローチャートであり、カラー画像上の任意の画素を指定することで自動的に対象範囲を選択することができる。即ち、ステップS1でカラー画像上の任意の画素を指定すると、ステップS2で、指定された画素の画素値、即ちRGB値を基準に任意の許容幅αに含まれるRGB値を持つ画素の内、指定された画素に連続する画素を選択し、ステップS3で図10に示すようなラベルテーブル90に登録する。
【0050】
図10のラベルテーブル90は、画素P11〜P44ごとにラベル値として使用する選択回数92と有効フラグ88を設けている。有効フラグ88は画像読み込み時は全て無効となっている。選択回数92は初期状態にあっては「0」であり、図9の選択処理により対象範囲の画素として選択されると、選択回数92の値が「0」から「1」となる。また選択回数92は、複数回選択された場合には選択回数の累積値が格納される。
【0051】
この結果、ラベルテーブル90に登録された選択回数92の値が「1」以上の領域について有効フラグ88がビット1にセットされて有効となり、対象範囲としての選択が行われる。
例えば図5(A)のカラー取込画像54を例にとると、図9のステップS1でカラー取込画像54の中の手の部分の任意の「肌色」の画素を指定すると、指定した肌色画素に対し所定の許容範囲±αをもつ他の連続する画素の選択が自動的に行われ、手の部分となる肌色領域を対象範囲として選択することができる。
【0052】
ここで図9の選択処理にあっては、任意の画素を指定することによる対象範囲の自動選択を例にとっているが、これ以外の選択処理として多角形、直線等により任意の閉ループ形状をディスプレイ上で設定し、この閉ループ形状に囲まれる領域の内側に含まれる画素を対象範囲として選択するようにしてもよい。
3.法線ベクトル水平成分の抽出
図3の法線ベクトル抽出部26にあっては、まず輝度画像変換部28で取り込んだカラー画像を輝度画像に変換している。図11は本発明における輝度画像変換処理のフローチャートである。まずステップS1で、図10のように作成したラベルテーブル90の参照により対象範囲を認識し、対象範囲の画素について、図8のRGBテーブル82から画素値を抽出する。
【0053】
続いてステップS2で、0.0〜1.0の値を持つ正規化輝度値Yと、0〜255の階調値を持つ輝度値ynを次式により算出する。
Y =0.299 R+0.587 ・G+0.114 ・B (1)
Yn=Y・255 (2)
この輝度値への変換式は、RGBカラー空間からYIQ原色系への変換式として知られたY信号への変換式と同じである。ステップS2で正規化輝度値Yと輝度値Ynの算出が済むと、ステップS3で図12のように輝度テーブル94に登録し、ステップS4で全対象範囲の画素について処理を繰り返す。
【0054】
図12の輝度テーブル94は、画素P11〜P44のそれぞれについて、例えば画素P14に示すように、正規化輝度値Yと輝度値Yn、更に有効フラグ88を登録している。有効フラグ88は、対象範囲の選択が行われたRGBテーブル82と同じ内容を格納している。このカラー画像から輝度画像への変換は、対象物の表面に対する光源の影響を取り出し易くして法線ベクトルを正確に抽出するためであり、変換式としては(1)式以外に他の変換式を利用してもよい。
【0055】
図13は図11の輝度画像変換処理に続いて、図3の輝度画像平滑部34より行われる輝度画像平滑化処理のフローチャートである。この輝度画像平滑化処理は、自然画像等のカラー画像にあっては、カラー画像から変換された輝度画像において、自然画像等については人間の目では同じ色と認識できても輝度値としての数値を見ると極端に値が異なっている部分がある。
【0056】
このような輝度値の極端な変化は、本発明の処理による三次元形状復元の際にはノイズとして復元画像に悪影響を及ぼす。そこで、着目する画素と周囲の画素の値を比較し、その間における極端な値のずれを補正する平滑化処理を行う。即ち図13の輝度画像平滑化処理にあっては、まずステップS1で図12の輝度テーブル94の画素を1つ抽出し、ステップS2で平滑化演算を行う。この平滑化演算は、例えば次のいずれかとする。
【0057】
▲1▼周囲画素の平均を着目画素の画素値とする。
▲2▼周囲画素を大きさの順に並べ、中央画素の画素値を着目画素の画素値とする。
続いてステップS3で、平滑化が済んだ画素値を再び図12の輝度テーブル94に格納し、これをステップS4で全対象画素について繰り返す。
【0058】
図14は図13の輝度画像平滑化処理に続いて、図3の輝度コンター変換部36で行われる輝度コンター変換処理のフローチャートである。この輝度コンター変換処理は、平滑化した画像を任意の輝度値の刻み幅で丸め込む演算処理を行うことで、等高線的な画素分布を持った輝度画像に変換する。即ちステップS1で図13による平滑化処理が済んだ図12の輝度テーブル94から画素を1つ抽出し、ステップS2で画素の輝度値を所定の刻み幅で丸め込む。
【0059】
この丸め込みは、例えば0〜255の階調値を持つ輝度値の第1位の切り捨て、四捨五入または繰り上げ等がある。この丸め込みにより得られたコンター画素は、ステップS3で図15のコンターテーブル100に格納し、ステップS4で全対象画素についてこの同じ処理を繰り返す。図15のコンターテーブル100は、画素P11〜P14について、例えば画素P14のようにコンター輝度値102と有効フラグ88が格納されている。有効フラグ88は図12の輝度テーブル94と同じ内容を格納している。
【0060】
図16は、図14の輝度コンター変換処理に続いて図3の輝度等値線生成部38で行われる輝度等値線変換処理のフローチャートである。ここで輝度等値線とは、図14の処理で生成されたコンター画像について、異なる輝度値の境界画素を結んだ一種の等高線ということができる。
図17は図16の輝度等値線変換処理の処理内容を説明する。図17(A)は図14の輝度コンター変換処理で生成されたコンター画像の一例であり、(5×9)の45画素を例にとっている。図16の輝度等値線変換処理にあっては、例えば図17(A)の輝度値「20」をもつ画素P0を追跡開始点とし、この追跡開始点の画素P0につき、図17(B)に取り出して示すように、隣接する周囲の8画素を反時計回り(左回り)に調べる。
【0061】
このとき次の条件を満足すれば、その隣接画素を次の追跡開始点として登録する。
条件▲1▼:着目した画素値が追跡開始点と同じであること。
条件▲2▼:次の着目画素の画素値が追跡開始点より大きいこと。
このような条件▲1▼▲2▼を図17(B)の追跡開始点の画素P0の周囲の画素P1から反時計回りに順番に調べると、6番目の画素P6が条件▲1▼▲2▼を満足する。このため、画素P6が次の追跡開始点として記録される。このような処理を図17(A)のコンター画素104について行うと、図17(C)のように、輝度等値線106を生成することができる。
【0062】
この追跡開始点の検出処理は、検出済みの着目点を検出した場合あるいは次の追跡開始点が検出できない場合には終了し、次の新たな追跡開始点の設定による処理に移行する。
この輝度等値線の変換処理を図16のフローチャートについて説明すると次のようになる。まずステップS1で、例えば図17(A)のようにコンターテーブル上のコンター画像104につき輝度値の変化する境界を探索して追跡開始点として記憶する。続いてステップS2を介してステップS3に進み、図17(B)のように追跡開始点の周囲の隣接8画素を左回りに順番に着目する。
【0063】
隣接画素の1つに着目した場合には、まずステップS4で着目画素の輝度値が追跡開始点と同じか否かチェックする。同じであればステップS5で次の着目画素の輝度値が追跡開始点より大きいか否かチェックする。追跡開始点より大きければ、ステップS6で検出済みの着目画素か否かチェックし、検出済みの着目画素でなければ、ステップS7で現在の着目画素を次の追跡開始点として記憶する。
【0064】
ステップS4またはステップS5の条件を満足しない場合には、ステップS3に戻って次の隣接画素に着目して同じ処理を繰り返す。このような処理をステップS2で新たな追跡開始点がなくなるまで繰り返す。
図18は、図16の輝度等値線変換処理に続いて図3の水平成分算出部40で行われる水平成分抽出処理のフローチャートである。この水平成分抽出処理は、図16の輝度等値線変換処理で図17(C)のように求めた輝度等値線106上の各画素について、各画素の輝度等値線に対する接線ベクトルを求め、この接線ベクトルを90度回転したベクトルを法線ベクトルの水平成分とする処理である。
【0065】
図19は図18の水平成分抽出処理の原理を説明する。図19(A)は微笑面で形成される球体の対象物の一部を取り出しており、微小面70は法線ベクトル72を備えている。この法線ベクトル72の水平成分は、光源方向68に直交する投影平面78に法線ベクトル72を平行投影した水平成分74である。
一方、図19(B)は対象物66の輝度情報に基づいて生成された微小面70を通る輝度等値線106の接線ベクトル110である。この接線ベクトル110を対象物の輝度の暗くなる方向、即ち反時計回りに90度回転すると、90度回転したベクトルは、図19(A)の投影平面78に投影した法線ベクトル72の投影成分となる水平成分74に一致している。
【0066】
そこで本発明にあっては、図19(B)のように輝度画像の等値線から求めた接線ベクトル110を輝度が暗くなる方向に90度回転することによって、法線ベクトル72の水平成分74を算出している。
図8のフローチャートについて水平成分抽出処理を説明すると次のようになる。まずステップS1で、例えば図5(C)のように得られた輝度等値線画像58における任意の等高線上の画素に着目する。次にステップS2で、同じ等高線上の前後の画素から着目画素の接線方向の単位ベクトルを求める。この接線方向の単位ベクトルの求め方としては、例えば図20のように、黒丸の着目画素P7を例にとると、輝度等値線106上に位置する前後の画素P1〜P6、P8〜P13とのそれぞれを結んだ方向ベクトルの和の平均として着目画素P7の接線ベクトルを決定する。
【0067】
ここで輝度等値線106は折れ線で表現した場合を例にとっているが、曲線に変換できる場合には、画素を通る曲線部分の曲率中心を求め、曲率中心に対する90度方向の接線ベクトルを求めればよい。
再び図18を参照するに、ステップS2で輝度等値線に対する接線方向の大きさ1の単位ベクトルを求めたならば、ステップS3で対象面が凸面か否かチェックする。ここで図19(A)(B)のように対象物の微小面70が存在する面が凸面であった場合には、ステップS4に進み、接線方向の単位ベクトルを輝度が暗くなる方向に90度回転させて法線ベクトルの水平成分とする。
【0068】
ここで法線ベクトルの水平成分は、図4の視線方向68に直交する面78に平行な面であることから二次元の水平成分(Nx,Ny)で表される。これに対し対象物の面が窪んだ凹面の場合にはステップS5に進み、接線方向の単位ベクトルを逆に明るくなる方向に90度回転させて法線ベクトルの水平成分(Nx,Ny)とする。
【0069】
このようにして法線ベクトルの水平成分(Nx,Ny)が得られたならば、ステップS6で図21のような法線ベクトルテーブル114に登録する。法線ベクトルテーブル114は、例えは画素P14に示すように、X軸水平成分Nx、Y軸水平成分Ny、及び垂直成分Nz、更に有効フラグ88を格納している。有効フラグ88は図15のコンターテーブル100と同じ内容を格納している。このようなステップS1〜S6の処理を、ステップS7で全対象画素が終了するまで繰り返す。
4.法線ベクトル垂直成分の抽出
図22は、図3の垂直成分抽出部32による法線ベクトルの垂直成分の抽出処理のフローチャートである。ここでは、光源の方向と視線方向の開きが無視できる程度に小さいものとして説明を行う。垂直成分抽出処理にあっては、まずステップS1で図3の反射テーブル作成部44が撮影条件入力部42から得られた撮影条件に基づいて反射テーブルを作成する。ここで図4のような視線方向68で照明された対象物66に着目すると、対象物66の表面の内、視線方向68に向いている部分は明るく、したがって輝度が高く、光源とは別の方向を向いている部分は暗く、輝度が低くなっている。
【0070】
したがって、対象物66について得られた輝度画像上の各画素の輝度は、画素が存在する微小面の光源への向き具合に対応していると考えることができる。この画素の輝度値から画素が存在する微小面の光源への向き具合の変換を、図22のステップS1で作成する反射テーブルを使用して行う。
図23は図22のステップS1で作成する反射テーブルの特性である。この反射テーブルは、横軸にテーブル輝度値Bをもち、縦軸に光源方向に対する面の角度θをもっている。ここでテーブル輝度値Bを0.0〜1.0で正規化して表すと、面の輝度が最も大きいθ=90度では理想的にはテーブル輝度Bは1.0であり、光源方向に対する角度θ=0度の場合にはテーブル輝度値Bは0.0となる。
【0071】
しかし、実際には面角度θ=90度でテーブル輝度値Bは1.0とはならず、例えば図24のようにθ=90度で例えば0.8〜0.7の値となる。また面角度θ=0でテーブル輝度値Bが0.0となるのではなく、図24のように例えばθ=30度で輝度値B=0.2〜0.0となる。その結果、面角度θに対し輝度値Bとの間に比例関係があったとすると、この場合の特性は直線で現わした線形テーブル特性124のようになる。
【0072】
この線形反射テーブル特性124を用いた輝度値に比例した法線ベクトルの垂直成分Nzの算出は、次のようにして行う。まず対象物上の光源方向に対する角度θが判明している微小面、即ち画素の輝度値Bsを撮影条件入力部42によって取得する。この場合の画素輝度値Bsとしては、光源方向に対する面角度θがθ=90度となった場合の画素輝度最大値B smax が望ましい。
【0073】
このようにして対象物のθ=90度の画素輝度最大値Bmax が得られたならば、図23のテーブル輝度値Bの最大値Bmax のスケールに変換するためのスケール係数Kを次式により求める。
K=Bmax /Bsmax (3)
このようにしてスケール係数Kが算出できたならば、対象範囲の各画素の輝度値Bsにスケール係数Kを乗じてテーブル輝度値Bを算出することができる。算出された輝度値Bにより線形反射テーブル124を参照して対応する面角度θ1を求め、長さを1とした法線ベクトルの垂直成分Nzを
Nz=sinθ (4)
により求める。
【0074】
一方、対象物の光源方向に対する面角度θとテーブル輝度値Bとの間の関係は図23の線形反射テーブル特性124のような直線関係とは必ずしも限らず、面角度θに対する輝度値Bの変化は対象物の材質、光源の種類等により複数の近似関数となる場合が多い。そこで、このような対象物の材質、光源の種類等を考慮することで、例えば図23の非線形反射テーブル特性126を作成することもできる。
【0075】
この非線形反射テーブル特性126を使用した法線ベクトルの垂直成分Nzの算出は、次のようにして行う。まず対象範囲の画素輝度値Bsを抽出し、これに線形反射テーブル特性124で算出しているスケール係数Kを乗じてテーブル輝度値Bを求める。次にスケール係数Kから算出したテーブル輝度値B=K×Bsにより、非線形反射テーブル126を参照して対応する面角度θを求め、(4)式から法線ベクトルの垂直成分Nzを算出する。
【0076】
例えば図23に示すように、画素輝度値Bs1から垂直成分Nzを算出する場合には、画素輝度値Bs1にスケール係数Kを乗じてテーブル輝度値B1を求め、テーブル輝度値B1による非線形反射テーブル特性126の参照で対応する面角度θ2を求め、(4)式から法線ベクトルの垂直成分Nzを求める。
図23の反射テーブルを使用した法線ベクトルの垂直成分の抽出処理を図22のフローチャートを参照して説明すると次のようになる。ステップS1で線形または非線形の反射テーブルが作成されたならば、ステップS2では面角度90度の既知の対象物の輝度値Bsmaxと反射テーブルのフルスケール輝度値Bmax からスケール係数Kを算出する。
【0077】
次にステップS3で対象画素の輝度値Bsにスケール係数Kを乗じてテーブル参照画素の輝度値Bを算出する。続いてステップS4では、ステップS3で求めた輝度値Bにより対応する面角度θを線形または非線形反射テーブルの参照で求め、(4)式に代入して法線ベクトルの垂直成分Nzを求める。
ステップS5では、求めた面角度θに対応した法線ベクトルの垂直成分Nzを法線ベクトルテーブルに登録する。このステップS3からS5までの処理をステップS6で全対象画素が終了するまで繰り返す。
【0078】
また、光源の方向と視線方向との開きが大きい場合には、面の法線ベクトルの水平成分ごとに線形または非線形の反射テーブルを作成し、法線ベクトルの水平成分値に対応した反射テーブルを参照することで面角度θを求めて法線ベクトルの垂直成分Nzを算出する。
5.法線ベクトルの正規化
図25は、図22の法線ベクトルの垂直成分の抽出処理に続いて図3の法線ベクトル正規化部48で行われる法線ベクトル正規化処理のフローチャートである。この法線ベクトルの正規化処理は、図18の処理で求めた法線ベクトルの水平成分(Nx,Ny)が大きさ1の単位ベクトルであり、図22の処理で求めた法線ベクトルの垂直成分(Nz)との合成により得られる法線ベクトルが大きさ1の単位ベクトルとはならないことから、これを大きさ1の単位法線ベクトルに正規化する処理を行う。
【0079】
図26(A)は正規化前の法線ベクトル72であり、大きさ1をもつ水平成分(Nx,Ny)の水平ベクトル74と、大きさNzの垂直ベクトル75との合成ベクトルとなっている。このため、法線ベクトル72は大きさ1の単位ベクトルとはなっていない。そこで図26(B)のように、法線ベクトル72が大きさ1の単位ベクトルとなるように、垂直ベクトル75の垂直成分Nzに基づいて水平ベクトル74の水平成分を正規化水平成分(Nxn,Nyn)に変換する正規化処理を行う。
【0080】
この図26(A)の法線ベクトル72の図26(D)への大きさ1の法線ベクトル70への正規化は、図25のフローチャートに従って行われる。まずステップS1で対象画素を図21の法線ベクトルテーブル114から取り出し、ステップS2で垂直成分Nzに基づき、図26(B)の大きさ1の法線ベクトル72となるための水平ベクトル74の大きさHLを次式で算出する。
【0081】
HL=√(1−Nz2 ) (4)
次にステップS3で大きさ1の法線ベクトル70が合成できる大きさHLを持った水平ベクトル74を与える正規化水平成分(Nxn,Nyn)を次式により算出する。
Nxn=Nx・(HL/1.0) (5)
Nyn=Ny・(HL/1.0) (6)
このようにして法線ベクトルを正規化するための水平成分(Nxy,Nyn)の算出ができたならば、ステップS4で、これを図21の法線ベクトルテーブル114に登録する。法線ベクトルテーブル114の有効フラグ88は、図21の法線テーブル114と同じ内容を格納している。このようなステップS1〜S4の処理を、ステップS5で全ての対象画素が終了するまで繰り返す。
6.三次元形状の復元
図27は、図25の法線ベクトル正規化処理に続いて図3の形状復元部50に設けた積分処理部51で行われる法線ベクトル積分処理のフローチャートである。この法線ベクトル積分処理は、対象物の微小面となる各画素ごとに求めた法線ベクトル群を作り出す面形状を逆に求める処理である。
【0082】
図29は本発明による法線ベクトル積分処理の一例である。図29にあっては、対象物66に対し任意の位置に視線方向に直交する基準面134を設定する。まず対象物66を形成する任意の画素、例えば視線方向68に一致する法線ベクトル72−1をもつ画素P1を初期位置として、基準面134からの高さh0を初期値として設定する。
【0083】
次に画素P1に隣接する画素P2に着目し、その中心140を通る視線方向の高さの変位Δhを法線ベクトルに基づいて算出する。この変位Δhは、画素P1とP2の基準面134における間隔が一定値Lであり、また画素P2の中心点140の法線ベクトル72−2の垂直成分Nz及びX軸成分Nxが判明していることから、次式の関係が得られる。
【0084】
Nx/Nz=Δh/(L/2) (7)
この(7)式から変位Δhを求めると、
Δh=(Nx/Nz)(P/2) (8)
が得られる。したがって、画素P2の基準面134からの高さhは
h=h0+Δh
=h0+(Nx/Nz)(P/2) (9)
となる。このようにして画素P2について高さhが求められたならば、この求めた高さを新たな初期値h0として、隣接する次の画素P3について基準面134からの高さhを求める。
【0085】
このような法線ベクトル積分処理による基準面からの高さの算出処理を図27のフローチャートについて説明すると、まずステップS1で、視線方向に法線ベクトルが一致する対象物上の画素を開始位置として、図29のように視線方向に直交する面として設定した基準面134からの高さを初期値h0に設定する。
次にステップS2で、隣接画素の法線ベクトルから光軸方向のNΔhを算出して、その高さhを求める。そしてステップS3で図28のような高さテーブル128に格納する。次にステップS4で現在求めた算出高さhを次の初期値h0とし、ステップS5で全対象画素が終了するまで、ステップS1〜S3の処理を繰り返す。
【0086】
このような法線ベクトルの積分処理によって、図29の基準面134に対する対象物66の各画素の高さh0、即ち相対的な座標値Zが求められ、各画素の基準面134に対する二次元座標値(X,Y)と合わせて対象物の三次元形状データを得ることができる。このようにして対象物の三次元形状データが得られたならば、図3の形状復元部50に設けた復元表示部52が通常のコンピュータグラフィックスの処理機能によって、例えば図6(F)のように任意の視線方向を設定することにより三次元形状から二次元投影形状を生成し、且つ図5(A)のカラー取込画像から得られた各画素のRGB値を使用して復元画像を表示することができる。
【0087】
ここで法線ベクトルから三次元形状データを得るための積分処理は、法線ベクトルが対象物を構成する微小面の傾斜角の微分値であることから、図27のような水平基準面に対する高さを順次求める積分処理以外に、法線ベクトル群を一括して積分処理することにより基準面からの高さhを求めることが可能である。
また本発明の三次元形状復元処理にあっては、図5,図6のような例えば肌色の指定により抽出可能な手といった単色の対象物については問題ないが、例えば人の顔の形状復元処理を行おうとした場合、色の異なる目、口等の肌色以外の部分については、図5(B)のように輝度変換画像56を生成した場合の輝度値が大きく異なり、図5(C)のような輝度等値線画像58が得られず、法線ベクトルの生成が適切にできない。
【0088】
このような場合については、肌色部分を除いた三次元形状復元処理を行い、終了後に未処理部分となっている目や口の部分を、処理済みの周囲の高さhから補間して目や口の三次元形状を決定すればよい。
更に本発明は三次元形状復元処理を実行するプログラムを記録したコンピュータ読取可能な記録媒体として実施されるものであり、この記録媒体にはCD−ROMやフロッピディスク等のリムーバブルな可搬型記憶媒体、回線によりプログラムを提供するプログラム提供者の記憶装置、更にはプログラムをインストールした処理装置のRAMやハードディスク等のメモリ装置がある。また記録媒体によって提供された三次元形状復元プログラムは処理装置にローディングされ、その主メモリ上で実行される。
【0089】
尚、本発明は上記の実施形態に限定されず、その目的と利点を損なわない範囲で適宜の変形が可能である。また本発明は実施形態に示した数値による限定は受けない。
【0090】
【発明の効果】
以上説明してきたように本発明によれば、三次元の対象物を撮影した画像データの輝度情報に着目し、輝度情報から対象物を構成する微小面の法線ベクトルを水平成分と垂直成分に分けて抽出し、特に垂直成分は輝度値の大きさに比例し、また水平成分は輝度の等値線の接線ベクトルを90度回転することにより決定し、これによって従来の特性曲線展開法における特性曲線が得られる範囲でしか三次元形状を再構成できないという問題を解消し、画像全体で確実に三次元形状を再構築できる。
【0091】
また従来の弛緩法における対象物の輪郭線が得られなければ適用できず、また輪郭線が得られても画素ごとに計算を繰り返すために時間を要する問題が解消できる。
更に本発明は、画像全体についてパーソナルコンピュータレベルの処理能力で十分な実用的な処理時間をもって効率よく撮影された画像データから画像全領域について均一な精度で三次元形状を再構成することができる。
【図面の簡単な説明】
【図1】本発明の原理説明図
【図2】本発明の装置構成のブロック図
【図3】本発明の機能ブロック図
【図4】本発明における法線ベクトルの水平成分と垂直成分の説明図
【図5】本発明における取込み画像、輝度変換画像及び輝度コンター画像の説明図
【図6】本発明における法線ベクトルの水平成分、垂直成分及び復元画像の説明図
【図7】本発明の三次元形状復元処理のフローチャート
【図8】取込み画像のRGBテーブルの説明図
【図9】本発明の対象範囲選択処理のフローチャート
【図10】図9の選択処理で生成されたラベルテーブルの説明図
【図11】本発明の輝度画像変換処理のフローチャート
【図12】図11の処理で生成された輝度テーブルの説明図
【図13】本発明の輝度画像平滑化処理のフローチャート
【図14】本発明の輝度コンター変換処理のフローチャート
【図15】図14の処理で生成されたコンターテーブルの説明図
【図16】本発明の輝度等値線変換処理のフローチャート
【図17】図15の輝度等値線変換処理の説明図
【図18】本発明の水平成分抽出処理のフローチャート
【図19】水平成分の抽出原理の説明図
【図20】輝度等値線上の画素における接線ベクトルの算出方法の説明図
【図21】法線の水平成分と垂直成分を格納する法線テーブルの説明図
【図22】本発明の垂直成分抽出処理のフローチャート
【図23】垂直成分抽出に使用する反射テーブルの説明図
【図24】図23の線形反射テーブルを生成する輝度値と面角度の説明図
【図25】本発明の法線ベクトル正規化処理のフローチャート
【図26】法線ベクトルを正規化する説明図
【図27】本発明の法線ベクトル積分処理のフローチャート
【図28】図27の積分処理で得られた高さテーブルの説明図
【図29】図27の積分処理の説明図
【符号の説明】
10:処理装置
12:デジタルカメラ装置
14:ビデオカメラ装置
16:イメージスキャナ装置
18:主メモリ
20:3Dアクセラレータ
22:ディスプレイ
24:画像取込部
25:対象範囲選択部
26:法線ベクトル抽出部
28:輝度画像変換部
30:水平成分抽出部
32:垂直成分抽出部
34:輝度画像平滑部
36:輝度コンター変換部
38:輝度等値線生成部
40:水平成分算出部
42:撮影条件入力部
44:反射テーブル作成部
46:垂直成分算出部
50:形状復元部
51:積分処理部
52:復元表示部
54:カラー取込画像
56:輝度変換画像
58:輝度等値線画像
60:法線ベクトル水平成分抽出画像
62:法線ベクトル垂直成分抽出画像
64:三次元形状復元画像
66:対象物
68:視線方向
70:微小面
72:法線ベクトル
74:水平成分
76:垂直成分
78:水平成分投影面
80:投影像
82:RGBテーブル
84:R成分
85:G成分
86:B成分
88:有効フラグ
90:ラベルテーブル
92:選択累積番号
94:輝度テーブル
96:正規化輝度値
98:輝度値
100:コンターテーブル
102:コンター輝度値
104:コンター画像
106,106−1:輝度等値線
110:接線ベクトル
114:法線テーブル
116:X軸水平成分Nx
118:Y軸水平成分Ny
120:垂直成分Nz
124:線形反射テーブル特性
126:非線形反射テーブル特性
128:高さテーブル
130:高さh
134:基準面
136:対象物

Claims (7)

  1. 三次元形状を有する対象物を撮影したカラー画像データを取り込む画像取込部と、
    前記対象物を微小面に分割し、輝度情報に基づいて各微小面の法線ベクトルを抽出する法線ベクトル抽出部と、
    前記法線ベクトル群に基づいて前記対象物の三次元形状データを算出して三次元形状を復元表示する三次元形状復元部と、
    を備え、
    前記法線ベクトル抽出部は、
    カラー取込画像を輝度画像に変換する輝度画像変換部と、
    前記輝度画像に基づき前記各微小面の法線ベクトルの水平成分を抽出する水平成分抽出部と、
    前記輝度画像に基づき前記各微小面の法線ベクトルの垂直成分を抽出する垂直成分抽出部と、
    前記微小面の各面の法線ベクトルの水平成分と垂直成分により正規化された法線ベクトルを算出する法線ベクトル正規化部と、
    からなり、
    前記水平成分抽出部で抽出する前記法線ベクトルの水平成分は、前記対象物体を撮影した視線方向に直交する面に投影した単位長のベクトル成分であり、
    前記垂直成分抽出部で抽出する法線ベクトルの垂直成分は、前記対象物体の視線方向のベクトル成分であり、
    前記水平成分抽出部は、前記微小面を通る輝度等値線の接線ベクトルを生成し、
    前記微小面が存在する面形状が凸面であった場合、前記輝度等値線の接線ベクトルを輝度の暗くなる方向に90度回転して前記法線ベクトルの水平成分を求め、
    前記微小面が存在する面形状が凹面であった場合、前記輝度等値線の接線ベクトルを輝度の明るくなる方向に90度回転して前記法線ベクトルの水平成分を求め、
    前記垂直成分抽出部は、前記法線ベクトルの垂直成分を、平滑化した輝度画像の各微小面の輝度値に比例した値として算出することを特徴とする三次元形状復元装置。
  2. 請求項記載の三次元画像復元装置に於いて、前記水平成分抽出部は、
    前記輝度画像を平滑化する輝度画像平滑部と、
    前記平滑化した輝度画像の画素輝度値を任意の刻み幅で丸め込んで輝度コンター画像に変換する輝度コンター変換部と、
    前記輝度コンター画像に基づき任意の刻み幅で輝度等値線を生成する輝度等値線生成部と、
    前記輝度等値線上での前記各微小面について法線ベクトルの水平成分を算出する水平成分算出部と、
    を備えたことを特徴とする三次元形状復元装置。
  3. 請求項記載の三次元画像復元装置に於いて、
    前記輝度等値線生成部は、前記コンター画像上で輝度値が変化する画素を探索して追跡開始点とし、該追跡開始点を中心に所定回りに周囲の隣接8画素に着目して順次調べ、着目した画素の輝度値が追跡開始点と同じで、次に着目する画素の輝度値が追跡開始点より大きい場合、現在の着目画素を次の追跡開始点とし、前記複数の追跡開始点を結んで輝度等値線を生成することを特徴とする三次元形状復元装置。
  4. 請求項1記載の三次元形状復元装置に於いて、
    前記三次元形状復元部は、
    前記正規化された法線ベクトルを積分することで前記対象物の三次元形状を生成する積分処理部と、
    前記三次元形状を復元結果として表示する復元表示部と、を備えたことを特徴とする三次元形状復元装置。
  5. 画像取込部により三次元形状を有する対象物を撮影したカラー画像データを取り込み、
    法線ベクトル抽出部により前記対象物を微小面に分割し、輝度情報に基づいて各微小面の法線ベクトルを抽出し、
    三次元形状復元部により前記法線ベクトル群に基づいて前記対象物の三次元形状データを算出して復元表示し、
    前記法線ベクトルの抽出は、
    輝度画像変換部によりカラー取込画像を輝度画像に変換し、
    水平成分抽出部により前記輝度画像に基づき前記各微小面の法線ベクトルの水平成分を抽出し、
    垂直成分抽出部により前記輝度画像に基づき前記各微小面の法線ベクトルの垂直成分を抽出し、
    法線ベクトル正規化部により前記微小面の各面の法線ベクトルの水平成分と垂直成分により正規化された法線ベクトルを算出し、
    前記水平成分抽出部で抽出する前記法線ベクトルの水平成分は、前記対象物を撮影した視線方向に直交する面に投影した単位長のベクトル成分であり、
    前記垂直成分抽出部で抽出する法線ベクトルの垂直成分は、前記対象物の視線方向のベクトル成分であり、
    前記水平成分抽出部によって、前記微小面を通る輝度等値線の接線ベクトルを生成し、
    前記微小面が存在する面形状が凸面であった場合、前記輝度等値線の接線ベクトルを輝度の暗くなる方向に90度回転して前記法線ベクトルの水平成分を求め、
    前記微小面が存在する面形状が凹面であった場合、前記輝度等値線の接線ベクトルを輝度の明るくなる方向に90度回転して前記法線ベクトルの水平成分を求め、
    前記垂直成分抽出部によって、前記法線ベクトルの垂直成分を、平滑化した輝度画像の各微小面の輝度値に比例した値として算出することを特徴とする三次元形状復元方法。
  6. 請求項記載の三次元形状復元方法に於いて、
    三次元形状データ算出による復元表示は、
    積分処理部により前記正規化された法線ベクトルを積分することで前記対象の三次元形状を生成
    復元表示部により前記三次元形状を復元結果として表示する
    ことを特徴とする三次元形状復元方法。
  7. コンピュータに、
    三次元形状を有する対象物を撮影したカラー画像データを取り込む画像取込ステップと、
    前記対象物を微小面に分割し、輝度情報に基づいて各微小面の法線ベクトルを抽出するため、カラー取込画像を輝度画像に変換する輝度画像変換ステップと:前記輝度画像に基づき前記各微小面の法線ベクトルの水平成分を抽出する水平成分抽出ステップと、前記輝度画像に基づき前記各微小面の法線ベクトルの垂直成分を抽出する垂直成分抽出ステップと、前記微小領域の各面の法線ベクトルの水平成分と垂直成分により正規化された法線ベクトルを算出する法線ベクトル正規化ステップとを実行させるためのプログラムとを記録したコンピュータ読み取り可能な記録媒体であって、
    前記水平成分抽出ステップで抽出する前記法線ベクトルの水平成分は、前記対象物を撮影した視線方向に直交する面に投影した単位長のベクトル成分であり、
    前記垂直成分抽出ステップで抽出する法線ベクトルの垂直成分は、前記対象物の視線方向のベクトル成分であり、
    前記水平成分抽出ステップは、前記微小面を通る輝度等値線の接線ベクトルを生成し、
    前記微小面が存在する面形状が凸面であった場合、前記輝度等値線の接線ベクトルを輝度の暗くなる方向に90度回転して前記法線ベクトルの水平成分を求め:前記微小面が存在する面形状が凹面であった場合、前記輝度等値線の接線ベクトルを輝度の明るくなる方向に90度回転して前記法線ベクトルの水平成分を求め:前記垂直成分抽出ステップは、前記法線ベクトルの垂直成分を、平滑化した輝度画像の各微小面の輝度値に比例した値として算出する法線ベクトル抽出ステップと、
    前記法線ベクトル群に基づいて前記対象物の三次元形状データを算出して三次元形状を復元表示する三次元形状復元ステップによって構成されることを特徴とするコンピュータ読み取り可能な記録媒体。
JP01413198A 1998-01-27 1998-01-27 三次元形状復元装置及び方法並びに三次元形状復元プログラムを記録したコンピュータ読取り可能な記録媒体 Expired - Fee Related JP3940484B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP01413198A JP3940484B2 (ja) 1998-01-27 1998-01-27 三次元形状復元装置及び方法並びに三次元形状復元プログラムを記録したコンピュータ読取り可能な記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP01413198A JP3940484B2 (ja) 1998-01-27 1998-01-27 三次元形状復元装置及び方法並びに三次元形状復元プログラムを記録したコンピュータ読取り可能な記録媒体

Publications (2)

Publication Number Publication Date
JPH11211440A JPH11211440A (ja) 1999-08-06
JP3940484B2 true JP3940484B2 (ja) 2007-07-04

Family

ID=11852592

Family Applications (1)

Application Number Title Priority Date Filing Date
JP01413198A Expired - Fee Related JP3940484B2 (ja) 1998-01-27 1998-01-27 三次元形状復元装置及び方法並びに三次元形状復元プログラムを記録したコンピュータ読取り可能な記録媒体

Country Status (1)

Country Link
JP (1) JP3940484B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000126182A (ja) * 1998-10-27 2000-05-09 Mitani Sangyo Co Ltd 腫瘍診断方法
JP2006208187A (ja) * 2005-01-27 2006-08-10 Nagoya Electric Works Co Ltd 形状良否判定装置および形状良否判定方法
WO2007010875A1 (ja) 2005-07-15 2007-01-25 Asahi Glass Company, Limited 形状検査方法および装置
US8334985B2 (en) * 2010-10-08 2012-12-18 Omron Corporation Shape measuring apparatus and shape measuring method

Also Published As

Publication number Publication date
JPH11211440A (ja) 1999-08-06

Similar Documents

Publication Publication Date Title
US9317973B2 (en) Augmented reality method applied to the integration of a pair of spectacles into an image of a face
KR101956149B1 (ko) 이미지 사이의 광학 흐름의 효율적 결정
JP6685827B2 (ja) 画像処理装置、画像処理方法及びプログラム
Paris et al. Capture of hair geometry from multiple images
JP4865093B2 (ja) 顔の特徴をアニメーション化する方法およびシステムならびに表情変換のための方法およびシステム
JP4723834B2 (ja) 映像に基づいたフォトリアリスティックな3次元の顔モデリング方法及び装置
US7860340B2 (en) Three-dimensional shape estimation system and image generation system
US6278460B1 (en) Creating a three-dimensional model from two-dimensional images
JP5586594B2 (ja) イメージングシステム及び方法
CN108010118B (zh) 虚拟对象处理方法、虚拟对象处理装置、介质和计算设备
Wu et al. Interactive normal reconstruction from a single image
US7684614B2 (en) Method for modeling three dimensional shape of objects using level set solutions on partial differential equation derived from helmholtz reciprocity condition
JP2011170891A (ja) 顔画像処理方法およびシステム
KR20050022306A (ko) 영상에 기반한 사실감 있는 3차원 얼굴 모델링 방법 및 장치
US11908150B2 (en) System and method for mobile 3D scanning and measurement
MacDonald et al. Three-dimensional reconstruction of Roman coins from photometric image sets
CN106997366B (zh) 数据库构建方法、增强现实融合追踪方法及终端设备
US20200082609A1 (en) Image processing method and image processing device
Ahmad et al. 3D reconstruction of gastrointestinal regions using single-view methods
JP3940484B2 (ja) 三次元形状復元装置及び方法並びに三次元形状復元プログラムを記録したコンピュータ読取り可能な記録媒体
JP5795556B2 (ja) 陰影情報導出装置、陰影情報導出方法及びプログラム
Park et al. Image-based 3D face modeling system
CN109166176B (zh) 三维人脸图像的生成方法与装置
JP2017122993A (ja) 画像処理装置、画像処理方法及びプログラム
JP3625624B2 (ja) テクスチャ情報付与方法、テクスチャ情報付与プログラムを記録した媒体およびテクスチャ情報付与装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050113

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20061002

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20061010

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20061201

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070306

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070402

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100406

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313532

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100406

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130406

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160406

Year of fee payment: 9

LAPS Cancellation because of no payment of annual fees