JPWO2006049147A1 - 三次元形状推定システム及び画像生成システム - Google Patents
三次元形状推定システム及び画像生成システム Download PDFInfo
- Publication number
- JPWO2006049147A1 JPWO2006049147A1 JP2006542385A JP2006542385A JPWO2006049147A1 JP WO2006049147 A1 JPWO2006049147 A1 JP WO2006049147A1 JP 2006542385 A JP2006542385 A JP 2006542385A JP 2006542385 A JP2006542385 A JP 2006542385A JP WO2006049147 A1 JPWO2006049147 A1 JP WO2006049147A1
- Authority
- JP
- Japan
- Prior art keywords
- shape
- dimensional
- relative
- shape function
- illumination
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
- G06T17/10—Constructive solid geometry [CSG] using solid primitives, e.g. cylinders, cubes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/507—Depth or shape recovery from shading
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
- G06T2207/30201—Face
Abstract
Description
図3は、本発明の第1の実施の形態に係る三次元形状推定システムの構成を示すブロック図である。この三次元形状推定システム1は、相対形状分析装置10、特徴点位置探索装置20、及び絶対形状分析装置30を備えている。相対形状分析装置10は、ある顔の二次元画像を示す顔画像データ50を受け取り、輝度情報及び予め蓄積された学習反射情報に基づいて、その顔の相対形状関数(fx,fy)を推定する。推定された相対形状関数(fx,fy)を示す相対形状データ51は、特徴点位置探索装置20及び絶対形状分析装置30に出力される。特徴点位置探索装置20は、顔画像データ50及び相対形状データ51を受け取り、両目、鼻などの顔の「特徴点」を自動的に検出する。その「特徴点」の位置を示す特徴点位置データ52は、絶対形状分析装置30に出力される。絶対形状分析装置30は、相対形状関数(fx,fy)、特徴点の位置及び予め蓄積された学習形状データに基づいて、その顔の形状関数f(x,y)を推定する。推定された形状関数f(x,y)を示す三次元絶対形状データ53は、絶対形状分析装置30から出力される。このように、本実施の形態に係る三次元形状推定システム1によれば、顔画像データ50(図2参照)から、三次元絶対形状データ53(図1参照)が得られる。
まず、複数の人物の顔に対して様々な方向から照明が照射され、撮影が行われる。これにより、テクスチャ付きの複数の三次元形状データ60が得られる。この複数人の顔の三次元形状データ60が、入力部11を介して学習データ作成部12に入力される。
次に、学習データ作成部12は、上述の式(6)に基づいて、三次元形状データ60から各人の顔の照明基底Bを算出する。
次に、学習データ作成部12は、主成分分析などの方法によって、複数の人物の顔の照明基底Bを成分A1,A2,…Anに分解する。これにより、一般的な顔の照明基底(一般化照明基底)Bを、次のように記述することが可能となる。
学習データ作成部12は、上記ステップS103で求められた一般化照明基底Bを示す一般化照明基底データ61を、記憶部13に出力し格納する。
まず、ある人物の顔の二次元画像を示す顔画像データ50(図2参照)が、入力部11を介して相対形状算出部14に入力される。
二次元顔画像は、輝度情報と色情報を有している。よって、相対形状算出部14は、顔画像データ50から、上述の式(5)に示される輝度ベクトルX={Xi}を抽出することができる。
次に、相対形状算出部14は、記憶部13から一般化照明基底データ61を読み出し、一般化照明基底F(β1,β2,…βm,A1,A2,…An)を取得する。これら輝度ベクトルX、一般化照明基底F、及び照明強度ベクトルsを用いて、相対形状算出部14は、次式で表される汎関数E1を作成する。
次に、相対形状算出部14は、この汎関数E1が最小となるパラメータβ1,β2,…βmを求める。計算が非線形になる場合、相対形状算出部14は、山登り法など反復計算法を用いてそれらパラメータを計算する。そして、相対形状算出部14は、求められたパラメータβ1,β2,…βmの場合の照明基底F(β1,β2,…βm,A1,A2,…An)を、この顔の照明基底B*とする。このように、一般化照明基底データ(第1学習データ)61を用いることによって、ある顔の二次元画像からその顔の照明基底B*が算出される。
照明基底B*は、上記式(7)で表されることもできる。本発明によれば、相対形状算出部14は、この照明基底B*に基づき、この顔に関する相対形状関数(fx,fy)を次の式によって算出する。
相対形状算出部14は、求められた相対形状関数(fx,fy)を示す相対形状データ51を、出力部15を介して、特徴点位置探索装置20及び絶対形状分析装置30に出力する。また、相対形状算出部14は、その相対形状データ15を、記憶部13に格納してもよい。
ステップS201:
上述の顔画像データ50及び相対形状分析装置10によって得られた相対形状データ51が、入力部21を介して特徴点抽出部22に入力される。
まず、色・輝度特徴点抽出部23が、顔画像データ50に含まれる色・輝度情報を用いることによって、「色・輝度特徴点」を抽出する。この色・輝度特徴点の位置に関する情報は、形状特徴点抽出部24に出力される。
次に、鼻などの形状特徴点の抽出が行われる。図9は、側面から見た時のある顔の輪郭、すなわち、あるx座標における形状関数z=f(y)を示している。ここで、そのあるx座標は、両目の中心に対応しているものとする。図9に示されるように、目の位置a1から+y方向にある形状関数z=f(y)で、最初の極小点が鼻の頂点の位置a2に対応すると考えられる。また、最初の極大点が鼻の下の位置a3に対応すると考えられる。更に、次の極小点が、唇の頂点の位置a4に対応すると考えられる。よって、このような極小点・極大点を探索すればよい。ここで、顔の形状関数f(x,y)は、未だ得られていない。従って、形状特徴点抽出部24は、次の式に基づいて、顔表面の曲率Hを計算する。
特徴点抽出部22は、上記ステップS202、S203で得られた色・輝度特徴点と形状特徴点の位置を示す特徴点位置データ52を出力する。この特徴点位置データ52は、出力部26を介して絶対形状分析装置30に出力される。また、この特徴点位置データ52は、記憶部25に格納されてもよい。
まず、レンジファインダ等の三次元形状計測機器を用いることによって、複数の人物の顔の三次元形状データ(形状関数z=f(x,y))が取得される。取得された三次元形状データにおいて、正面はxy面で表され、奥行きやz方向で表される(図1参照)。この複数人の顔の三次元形状データ60が、入力部31を介して学習データ作成部32に入力される。
次に、学習データ作成部32は、取得した複数の三次元形状データのそれぞれにおいて、特徴点を見つける。具体的には、学習データ作成部32は、上述の特徴点抽出部22と同様の方法で、特徴点の位置を探索する。すなわち、特徴点抽出部22が抽出する部位と同じ部位が抽出される。ここで、各々の顔の形状関数z=f(x,y)がわかっているので、学習データ作成部32は、その形状関数zを用いて特徴点の位置を探索してもよい。あるいは、この学習データの作成は事前に一度だけ行われるものなので、ユーザが手動で行ってもよい。このステップにおいて、一人一人の顔について、複数の特徴点の位置が決定される。
次に、学習データ作成部32は、抽出された複数の特徴点(部位)のうち一点を「基点O」として設定する。この「基点O」は、全ての三次元顔形状の座標を固定するための基準点(原点)であり、全ての顔で共通に設定される。例えば、この基点Oとして、顔の中心付近に存在する鼻の下が選択される。
次に、学習データ作成部32は、基点O以外の複数の特徴点の、基点Oに対する相対位置を計算する。例えば、図12は、ある人物の顔を示している。この顔において、両目の中心(P1,P2)、鼻の下、口の左右両端(P3,P4)の5点が特徴点として抽出されている。また、そのうち鼻の下が、基点Oとして選択されている。この時、基点(原点)Oに対する特徴点P1〜P4のそれぞれの相対位置、すなわち、基点Oを原点とする座標系における特徴点P1〜P4のぞれぞれの座標が計算される。この計算は、全ての三次元形状データ60に対して実行される。その後、学習データ作成部32は、全ての顔に対する相対位置の平均値(平均相対位置)を、各特徴点(P1,P2,P3,P4)に対して計算する。つまり、各特徴点の座標の平均値が計算され、特徴点P1〜P4のそれぞれに対する4つの平均相対位置が算出される。
次に、学習データ作成部32は、全ての顔に対して、複数の特徴点がそれぞれの平均相対位置と一致するように、形状関数f(x,y)を座標変換する。具体的には、各特徴点の周辺領域の拡大/縮小が行われる。例えば、図12において、基点Oを通る座標軸uvによって、顔が4つの領域R1〜R4に区分けされている。領域R1〜R4のそれぞれは、特徴点P1〜P4のそれぞれを含んでいる。この時、複数の特徴点P1〜P4がそれぞれの平均相対位置と一致するような拡大/縮小率で、領域R1〜R4のそれぞれが拡大/縮小される。例えば、基点Oと特徴点P1との間の距離をOP1、基点Oと領域R1内の任意の点X1との間の距離をOX1とする。また、基点Oから特徴点P1の平均相対位置への距離をOP1’とする。また、領域R1内の任意の点X1が、拡大/縮小操作によって点X1’に移動し、基点Oと点X1’との間の距離がOX1’であるとする。この時、距離OP1、OP1’、OX1、OX1’の間には、以下の関係が成り立つ。
次に、学習データ作成部32は、全ての顔の修正形状関数g(x,y)を用いて成分分析を行い、成分分析データを作成する。上記ステップS305で得られた全ての修正形状関数g(x,y)においては、基点Oを含めた複数の特徴点が一致している。これらを一致させて主成分分析などの成分分析が行われる。例えば、n個の修正形状関数z’があるとする。このうち第1番目の修正形状関数g(x,y)の、あるデータ(画素)の位置x,yにおける値をzk 1で表す。ここで、kは、二次元上の画素の位置を一次元で表すためのパラメータであり、k=y×w+x(wは、x方向の画素数;図2参照)で表される。また、第n番目の修正形状関数g(x,y)のその位置kでの値は、zk nで表される。この時、その位置(画素)kに対して、次の式で表されるn次のベクトルZkが定義される。
同様に、学習データ作成部32は、全ての顔の修正相対形状関数(gx,gy)を用いて成分分析を行い、成分分析データを作成する。第1番目の修正相対形状関数gxのある位置(画素)kにおける値をdk 1で表す。また、第n番目の修正相対形状関数gxのその位置kにおける値をdk nで表す。また、第1番目の修正相対形状関数gyのその位置kにおける値をek 1で表す。また、第n番目の修正相対形状関数gyのその位置kにおける値をek nで表す。この時、その位置kに対して、次の式で表されるn次のベクトルDk,Ekが定義される。
学習データ作成部32は、このようにして得られた修正形状関数g(x,y)に関する情報Uz、修正相対形状関数(gx,gy)に関する情報Ud,Ue、及び各特徴点の平均相対位置を示すデータを、三次元形状学習データ62として記憶部33に格納する。
まず、相対形状分析装置10によって作成された相対形状データ51及び特徴点位置探索装置20によって作成された特徴点位置データ52が、入力部31を介して絶対形状算出部34に入力される。
次に、絶対形状算出部34は、特徴点位置データ52に示される複数の特徴点の位置に基づいて、相対形状データ51に示される相対形状関数(fx,fy)中に特徴点を設定する。また、絶対形状算出部34は、それら複数の特徴点の中から1つを「基点」として設定する。この基点は、上述のステップS303で設定された基点と同じ場所を示す。更に、絶対形状算出部34は、基点O以外の複数の特徴点の、基点Oに対する相対位置を計算する。これにより、処理中の人物の顔における複数の特徴点のそれぞれについて相対位置が得られる。
次に、絶対形状算出部34は、記憶部33に格納された三次元学習データ62を読み込み、各特徴点の「平均相対位置」を取得する。そして、絶対形状算出部34は、複数の特徴点がそれぞれの平均相対位置と一致するように、相対形状関数(fx,fy)を座標変換する。具体的には、上述のステップS305と同様の方法で、各特徴点の周辺領域の拡大/縮小が行われる。この座標変換処理によって、相対形状データ51に示される相対形状関数(fx,fy)から、処理中の顔に関する修正相対形状関数z’=(gx,gy)が算出される(式(14)参照)。
次に、絶対形状算出部34は、三次元学習データ62から、複数人の修正形状関数g(x,y)に関する情報Uz、修正相対形状関数(gx,gy)に関する情報Ud,Ueを取得する。これら学習データと上記ステップS313で算出された修正相対形状関数(gx,gy)に基づいて、絶対形状算出部34は、処理中の顔に関する修正形状関数g(x,y)を算出する。具体的には、ある位置k(k=y×w+x)における修正相対形状関数(gx,gy)の値をそれぞれgx(k)及びgy(k)とする時、絶対形状算出部34は、次の式で与えられる列ベクトルG及びn次の列ベクトルcを作成する。
次に、絶対形状算出部34は、得られた修正形状関数g(x,y)における複数の特徴点の位置が、特徴点位置データ52が示す元の位置に戻るように、その修正形状関数g(x,y)を座標変換する。具体的には、上述のステップS305と逆の処理で、各特徴点の周辺領域の拡大/縮小が行われる。この座標変換処理によって、修正形状関数g(x,y)から、処理中の顔に関する形状関数f(x,y)が算出される。すなわち、処理中の顔の三次元形状が推定される。
絶対形状算出部34は、このようにして得られた形状関数f(x,y)を示す三次元絶対形状データ53を、出力部35を介して出力する。また、絶対形状算出部34は、その三次元絶対形状データ53を、記憶部33に格納してもよい。このように、絶対形状分析装置30は、三次元形状学習データ62と特徴点位置データ52を参照することによって、相対形状データ51に示されたある顔の相対形状関数(fx,fy)を、その顔の形状関数f(x,y)に変換する。
第1の実施の形態による機能は、コンピュータシステム及びコンピュータプログラムによって実現することも可能である。図14は、本発明の第2の実施の形態に係る三次元形状推定システムの構成を示すブロック図である。この三次元形状推定システム1’は、記憶装置70、演算処理装置71、入力装置72、表示装置73、データ入出力インターフェース74、及び三次元形状推定プログラム80を備えている。
図15は、本発明の第3の実施の形態に係る画像生成システムの構成を示すブロック図である。この画像生成システム100は、相対形状分析装置110、特徴点位置探索装置120、絶対形状分析装置130、及び画像生成装置140を備えている。この画像生成システム100は、ある顔の二次元画像を示す顔画像データ50(図2参照)から、異なる照明条件を有する二次元画像(照明変換画像)、あるいは異なる照明条件と異なる顔の向きを有する二次元画像(回転変換画像)を示す変換画像データ55を作成する。
ステップS401:
まず、相対形状分析装置110から照明基底データ54が、また、絶対形状分析装置130から三次元絶対形状データ53が、入力部141を介して画像生成部142に入力される。
二次元画像変換部143は、上記式(6)のように、照明基底データ54が示すある人物の照明基底Bに、任意の照明強度ベクトルsを掛け合わせる。これによって、顔画像データ50が示す二次元顔画像とは異なる照明条件の下での二次元顔画像(照明変換画像)が得られる。二次元画像変換部143は、この照明変換画像を示す照明変換画像データ56を出力する。
回転変換画像が必要な場合(ステップS403;Yes)、三次元画像変換部144は、三次元絶対形状データ53に加えて、上記ステップS402で作成された照明変換画像データ56を受け取る。つまり、三次元画像変換部144は、処理中の顔に関する、「推定された三次元形状(形状関数f(x,y))」と「照明条件の異なる照明変換画像」を取得する。そして、三次元画像変換部144は、その照明変換画像とその三次元形状を組み合わせる、すなわち、その照明変換画像をその三次元形状に張り合わせる。これによって、「照明条件の異なる新たな三次元形状」が作成される。
次に、三次元画像変換部144は、その新たな三次元形状を三次元的に回転させ、顔の向きを所望の向きに設定する。これによって、元の二次元画像と異なる照明条件・顔の向きを有する二次元画像(回転変換画像)が得られる。三次元画像変換部144は、この回転変換画像を示す回転変換データ57を出力する。
画像生成部142は、このようにして作成された照明変換画像データ56及び回転変換画像データ57の少なくとも1つを、変換画像データ55として出力する。その変換画像データ55は、出力部146を介して外部に出力される、あるいは記憶部145に格納される。
第3の実施の形態による機能は、コンピュータシステム及びコンピュータプログラムによって実現することも可能である。図18は、本発明の第4の実施の形態に係る画像生成システムの構成を示すブロック図である。この画像生成システム100’は、記憶装置170、演算処理装置171、入力装置172、表示装置173、データ入出力インターフェース174、及び画像生成プログラム180を備えている。
Claims (23)
- 複数の物体の照明基底及び三次元形状のそれぞれを示す第1学習データ及び第2学習データを格納する記憶装置と、
ある物体の二次元画像及び前記第1学習データに基づいて前記ある物体の照明基底を算出し、前記ある物体の三次元形状を表現する形状関数の偏微分形である相対形状関数を前記算出された照明基底から算出し、前記相対形状関数を示す相対形状データを出力する相対形状分析装置と、
前記二次元画像及び前記相対形状データに基づいて前記二次元顔画像から複数の特徴点を抽出し、前記複数の特徴点の位置を示す特徴点位置データを出力する特徴点位置探索装置と、
前記相対形状データと前記特徴点位置データを受け取り、前記第2学習データと前記複数の特徴点の位置を参照することによって前記相対形状関数を前記形状関数に変換し、前記形状関数を示す三次元絶対形状データを出力する絶対形状分析装置と
を具備する
三次元形状推定システム。 - 請求項1に記載の三次元形状推定システムであって、
前記複数の特徴点は、色・輝度に特徴を有する少なくとも1つの第1特徴点と、形状に特徴を有する少なくとも1つの第2特徴点を含み、
前記特徴点位置探索装置は、前記二次元画像を用いて前記第1特徴点を抽出し、
前記特徴点位置探索装置は、前記相対形状データが示す前記相対形状関数を用いて前記ある物体の表面の曲率を算出し、前記第1特徴点の位置及び前記曲率に基づいて前記第2特徴点を抽出する
三次元形状推定システム。 - 請求項1又は2に記載の三次元形状推定システムであって、
前記二次元画像がxy座標系を用いて表されるとき、
前記形状関数はf(x,y)で表され、
前記相対形状関数は(fx,fy)=(∂f/∂x,∂f/∂y)で表され、
前記照明基底は、B={Bx,By,Bz}で表され、ここで、Bα={bi,α}(α=x,y,z;iは各画素の番号)であり、
前記相対形状分析装置は、前記算出された照明基底に基づいて、前記相対形状関数(fx,fy)を(fx,fy)=(bi,x/bi,z,bi,y/bi,z)として算出する
三次元形状推定システム。 - 請求項1乃至3のいずれかに記載の三次元形状推定システムであって、
前記二次元画像がxy座標系を用いて表されるとき、
前記形状関数はf(x,y)で表され、
前記相対形状関数は(fx,fy)=(∂f/∂x,∂f/∂y)で表され、
前記複数の特徴点のうちの1つを原点として、前記複数の特徴点の各々の位置が相対位置として表されるとき、
前記第2学習データは、
前記複数の物体における前記相対位置の平均値を、前記複数の特徴点の各々に対して示す情報と、
前記複数の物体の各々に対して、前記複数の特徴点のそれぞれの前記相対位置が前記平均値と一致するように前記形状関数f(x,y)を座標変換することによって得られる修正形状関数g(x,y)に関する情報と、
前記修正形状関数g(x,y)の偏微分形である修正相対形状関数(gx,gy)=(∂g/∂x,∂g/∂y)に関する情報とを含む
三次元形状推定システム。 - 請求項4に記載の三次元形状推定システムであって、
前記絶対形状分析装置は、
前記特徴点位置データに基づいて、前記ある物体の前記複数の特徴点の前記原点に対する相対位置を算出し、
前記複数の特徴点のそれぞれの前記相対位置が前記第2学習データが示す前記平均値と一致するように、前記相対形状データが示す前記相対形状関数(fx,fy)を座標変換することによって、前記ある物体に関する修正相対形状関数(gx,gy)を算出し、
前記第2学習データが示す前記修正形状関数g(x,y)及び前記修正相対形状関数(gx,gy)に関する情報を参照することによって、前記ある物体に関する前記修正相対形状関数(gx,gy)を、前記ある物体に関する修正形状関数g(x,y)に変換し、
前記複数の特徴点の位置が前記特徴点位置データが示す位置に戻るように前記修正形状関数g(x,y)を座標変換することによって、前記ある物体に関する前記形状関数f(x,y)を算出する
三次元形状推定システム。 - 請求項1乃至5のいずれかに記載の三次元形状推定システムであって、
前記複数の物体及び前記ある物体は、人間の顔である
三次元形状推定システム。 - 請求項1乃至6のいずれかに記載の三次元形状推定システムと、
画像生成装置と
を具備し、
前記画像生成装置は、
前記三次元形状推定システムの前記相対形状分析装置から、前記ある物体の前記照明基底を示す照明基底データを受け取り、
前記照明基底と任意の照明強度に基づいて、前記二次元画像と異なる照明条件を有する照明変換画像を生成する
画像生成システム。 - 請求項7に記載の画像生成システムであって、
前記画像生成装置は、
前記三次元形状推定システムの前記絶対形状分析装置から、前記ある物体に関する三次元絶対形状データを受け取り、
前記照明変換画像と前記三次元形状を組み合わせることによって、照明条件の異なる新たな三次元形状を作成し、
前記新たな三次元形状を回転させることによって、前記二次元画像と異なる照明条件及び前記ある物体の向きを有する回転変換画像を生成する
画像生成システム。 - 複数の物体の照明基底を示す第1学習データを格納する記憶装置と、
ある物体の二次元画像及び前記第1学習データに基づいて前記ある物体の照明基底を算出し、前記算出された照明基底を示す照明基底データを出力する相対形状分析装置と、
前記照明基底と任意の照明強度に基づいて、前記二次元画像と異なる照明条件を有する照明変換画像を生成する画像生成装置と
を具備する
画像生成システム。 - コンピュータが読み取り可能な記録媒体に記録され、実行された時にコンピュータに次のステップ:
(A)複数の物体の照明基底及び三次元形状のそれぞれを示す第1学習データ及び第2学習データを記憶装置に格納するステップと、
(B)ある物体の二次元画像及び前記第1学習データに基づいて、前記ある物体の照明基底を算出するステップと、
(C)前記算出された照明基底に基づいて、前記ある物体の三次元形状を表現する形状関数の偏微分形である相対形状関数を算出するステップと、
(D)前記二次元画像及び前記相対形状関数に基づいて、前記二次元顔画像から複数の特徴点を抽出するステップと、
(E)前記第2学習データと前記複数の特徴点の位置を参照することによって、前記算出された相対形状関数を前記形状関数に変換するステップと
を実行させる三次元形状推定プログラム。 - 請求項10に記載の三次元形状推定プログラムであって、
前記複数の特徴点は、色・輝度に特徴を有する少なくとも1つの第1特徴点と、形状に特徴を有する少なくとも1つの第2特徴点を含み、
前記(D)ステップは、
(D1)前記二次元顔画像を用いて前記第1特徴点を抽出するステップと、
(D2)前記相対形状関数を用いて前記ある物体の表面の曲率を算出するステップと、
(D3)前記第1特徴点の位置及び前記算出された曲率に基づいて前記第2特徴点を抽出するステップと
を有する
三次元形状推定プログラム。 - 請求項10又は11に記載の三次元形状推定プログラムであって、
前記二次元画像がxy座標系を用いて表されるとき、
前記形状関数はf(x,y)で表され、
前記相対形状関数は(fx,fy)=(∂f/∂x,∂f/∂y)で表され、
前記照明基底は、B={Bx,By,Bz}で表され、ここで、Bα={bi,α}(α=x,y,z;iは各画素の番号)であり、
前記(C)ステップにおいて、前記相対形状関数(fx,fy)は、前記算出された照明基底に基づいて、(fx,fy)=(bi,x/bi,z,bi,y/bi,z)として算出される
三次元形状推定プログラム。 - 請求項10乃至12のいずれかに記載の三次元形状推定プログラムであって、
前記二次元画像がxy座標系を用いて表されるとき、
前記形状関数はf(x,y)で表され、
前記相対形状関数は(fx,fy)=(∂f/∂x,∂f/∂y)で表され、
前記(A)ステップは、
(A1)前記複数の物体のそれぞれの前記三次元形状を読み込むステップと、
(A2)前記三次元形状に基づいて、前記複数の物体のそれぞれに対して複数の特徴点の位置を決定するステップと、
(A3)前記複数の特徴点のうち1つを原点として決定するステップと、
(A4)前記複数の特徴点の各々の前記原点に対する位置を相対位置として算出するステップと、
(A5)前記複数の物体における前記相対位置の平均値を、前記複数の特徴点の各々に対して算出するステップと、
(A6)前記複数の特徴点のそれぞれの前記相対位置が前記平均値と一致するように、前記形状関数f(x,y)を座標変換することによって修正形状関数g(x,y)を算出するステップと、
(A7)前記修正形状関数g(x,y)の偏微分形である修正相対形状関数(gx,gy)=(∂g/∂x,∂g/∂y)を算出するステップと、
(A8)前記修正形状関数g(x,y)に関する情報、前記修正相対形状関数(gx,gy)に関する情報、及び前記複数の特徴点の各々に対する前記平均値を示すデータを、前記第2学習データとして前記記憶装置に格納するステップと
を有する
三次元形状推定プログラム。 - 請求項13に記載の三次元形状推定プログラムであって、
前記(E)ステップは、
(E1)前記ある物体の前記複数の特徴点の各々の前記原点に対する相対位置を算出するステップと、
(E2)前記複数の特徴点のそれぞれの前記相対位置が前記第2学習データが示す前記平均値と一致するように、前記相対形状関数(fx,fy)を座標変換することにより、前記ある物体に関する修正相対形状関数(gx,gy)を算出するステップと、
(E3)前記第2学習データが示す前記修正形状関数g(x,y)及び前記修正相対形状関数(gx,gy)に関する情報を参照することによって、前記ある物体に関する前記修正相対形状関数(gx,gy)を、前記ある物体に関する修正形状関数g(x,y)に変換するステップと、
(E4)前記複数の特徴点の位置が前記二次元画像が示す位置に戻るように、前記修正形状関数g(x,y)を座標変換することによって、前記ある物体に関する前記形状関数f(x,y)を算出するステップと
を有する
三次元形状推定プログラム。 - コンピュータが読み取り可能な記録媒体に記録され、実行された時にコンピュータに次のステップ:
(a)複数の物体の照明基底を示す第1学習データを記憶装置に格納するステップと、
(b)ある物体の二次元画像及び前記第1学習データに基づいて、前記ある物体の照明基底を算出するステップと、
(c)前記照明基底と任意の照明強度に基づいて、前記二次元画像と異なる照明条件を有する照明変換画像を生成するステップと
を実行させる画像生成プログラム。 - 請求項15に記載の画像生成プログラムであって、
更に、
(d)前記複数の物体の三次元形状を示す第2学習データを前記記憶装置に格納するステップと、
(e)前記算出された照明基底に基づいて、前記ある物体の三次元形状を表現する形状関数の偏微分形である相対形状関数を算出するステップと、
(f)前記二次元画像及び前記相対形状関数に基づいて、前記二次元顔画像から複数の特徴点を抽出するステップと、
(g)前記第2学習データと前記複数の特徴点の位置を参照することによって、前記算出された相対形状関数を前記形状関数に変換するステップと、
(h)前記照明変換画像と前記形状関数に基づいて、照明条件の異なる新たな三次元形状を作成するステップと、
(i)前記新たな三次元形状を回転させることによって、前記二次元画像と異なる照明条件及び前記ある物体の向きを有する回転変換画像を生成するステップと
を前記コンピュータに実行させる
画像生成プログラム。 - コンピュータプログラムの命令に従って動作する演算処理装置と前記演算処理装置に接続された記憶装置を備える三次元形状推定システムにおける三次元形状推定方法であって、
(A)前記演算処理装置が、複数の物体の照明基底及び三次元形状のそれぞれを示す第1学習データ及び第2学習データを前記記憶装置に格納するステップと、
(B)前記演算処理装置が、ある物体の二次元画像及び前記第1学習データに基づいて、前記ある物体の照明基底を算出するステップと、
(C)前記演算処理装置が、前記算出された照明基底に基づいて、前記ある物体の三次元形状を表現する形状関数の偏微分形である相対形状関数を算出するステップと、
(D)前記演算処理装置が、前記二次元画像及び前記相対形状関数に基づいて、前記二次元顔画像から複数の特徴点を抽出するステップと、
(E)前記演算処理装置が、前記第2学習データと前記複数の特徴点の位置を参照することによって、前記算出された相対形状関数を前記形状関数に変換するステップとを含む
三次元形状推定方法。 - 請求項17に記載の三次元形状推定方法であって、
前記複数の特徴点は、色・輝度に特徴を有する少なくとも1つの第1特徴点と、形状に特徴を有する少なくとも1つの第2特徴点を含み、
前記(D)ステップは、
(D1)前記演算処理装置が、前記二次元顔画像を用いて前記第1特徴点を抽出するステップと、
(D2)前記演算処理装置が、前記相対形状関数を用いて前記ある物体の表面の曲率を算出するステップと、
(D3)前記演算処理装置が、前記第1特徴点の位置及び前記算出された曲率に基づいて前記第2特徴点を抽出するステップとを含む
三次元形状推定方法。 - 請求項17又は18に記載の三次元形状推定方法であって、
前記二次元画像がxy座標系を用いて表されるとき、
前記形状関数はf(x,y)で表され、
前記相対形状関数は(fx,fy)=(∂f/∂x,∂f/∂y)で表され、
前記照明基底は、B={Bx,By,Bz}で表され、ここで、Bα={bi,α}(α=x,y,z;iは各画素の番号)であり、
前記(C)ステップにおいて、前記相対形状関数(fx,fy)が、前記算出された照明基底に基づいて、(fx,fy)=(bi,x/bi,z,bi,y/bi,z)として算出される
三次元形状推定方法。 - 請求項17乃至19のいずれかに記載の三次元形状推定方法であって、
前記二次元画像がxy座標系を用いて表されるとき、
前記形状関数はf(x,y)で表され、
前記相対形状関数は(fx,fy)=(∂f/∂x,∂f/∂y)で表され、
前記(A)ステップは、
(A1)前記演算処理装置が、前記複数の物体のそれぞれの前記三次元形状を読み込むステップと、
(A2)前記演算処理装置が、前記三次元形状に基づいて、前記複数の物体のそれぞれに対して複数の特徴点の位置を決定するステップと、
(A3)前記演算処理装置が、前記複数の特徴点のうち1つを原点として決定するステップと、
(A4)前記演算処理装置が、前記複数の特徴点の各々の前記原点に対する位置を相対位置として算出するステップと、
(A5)前記演算処理装置が、前記複数の物体における前記相対位置の平均値を、前記複数の特徴点の各々に対して算出するステップと、
(A6)前記演算処理装置が、前記複数の特徴点のそれぞれの前記相対位置が前記平均値と一致するように、前記形状関数f(x,y)を座標変換することによって修正形状関数g(x,y)を算出するステップと、
(A7)前記演算処理装置が、前記修正形状関数g(x,y)の偏微分形である修正相対形状関数(gx,gy)=(∂g/∂x,∂g/∂y)を算出するステップと、
(A8)前記演算処理装置が、前記修正形状関数g(x,y)に関する情報、前記修正相対形状関数(gx,gy)に関する情報、及び前記複数の特徴点の各々に対する前記平均値を示すデータを、前記第2学習データとして前記記憶装置に格納するステップとを含む
三次元形状推定方法。 - 請求項20に記載の三次元形状推定方法であって、
前記(E)ステップは、
(E1)前記演算処理装置が、前記ある物体の前記複数の特徴点の各々の前記原点に対する相対位置を算出するステップと、
(E2)前記演算処理装置が、前記複数の特徴点のそれぞれの前記相対位置が前記第2学習データが示す前記平均値と一致するように、前記相対形状関数(fx,fy)を座標変換することにより、前記ある物体に関する修正相対形状関数(gx,gy)を算出するステップと、
(E3)前記演算処理装置が、前記第2学習データが示す前記修正形状関数g(x,y)及び前記修正相対形状関数(gx,gy)に関する情報を参照することによって、前記ある物体に関する前記修正相対形状関数(gx,gy)を、前記ある物体に関する修正形状関数g(x,y)に変換するステップと、
(E4)前記演算処理装置が、前記複数の特徴点の位置が前記二次元画像が示す位置に戻るように、前記修正形状関数g(x,y)を座標変換することによって、前記ある物体に関する前記形状関数f(x,y)を算出するステップとを含む
三次元形状推定方法。 - コンピュータプログラムの命令に従って動作する演算処理装置と前記演算処理装置に接続された記憶装置を備える画像生成システムにおける画像生成方法であって、
(a)前記演算処理装置が、複数の物体の照明基底を示す第1学習データを前記記憶装置に格納するステップと、
(b)前記演算処理装置が、ある物体の二次元画像及び前記第1学習データに基づいて、前記ある物体の照明基底を算出するステップと、
(c)前記演算処理装置が、前記照明基底と任意の照明強度に基づいて、前記二次元画像と異なる照明条件を有する照明変換画像を生成するステップとを含む
画像生成方法。 - 請求項22に記載の画像生成方法であって、
更に、
(d)前記演算処理装置が、前記複数の物体の三次元形状を示す第2学習データを前記記憶装置に格納するステップと、
(e)前記演算処理装置が、前記算出された照明基底に基づいて、前記ある物体の三次元形状を表現する形状関数の偏微分形である相対形状関数を算出するステップと、
(f)前記演算処理装置が、前記二次元画像及び前記相対形状関数に基づいて、前記二次元顔画像から複数の特徴点を抽出するステップと、
(g)前記演算処理装置が、前記第2学習データと前記複数の特徴点の位置を参照することによって、前記算出された相対形状関数を前記形状関数に変換するステップと、
(h)前記演算処理装置が、前記照明変換画像と前記形状関数に基づいて、照明条件の異なる新たな三次元形状を作成するステップと、
(i)前記演算処理装置が、前記新たな三次元形状を回転させることによって、前記二次元画像と異なる照明条件及び前記ある物体の向きを有する回転変換画像を生成するステップとを含む
画像生成方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004321159 | 2004-11-04 | ||
JP2004321159 | 2004-11-04 | ||
PCT/JP2005/020067 WO2006049147A1 (ja) | 2004-11-04 | 2005-11-01 | 三次元形状推定システム及び画像生成システム |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007223223A Division JP4623320B2 (ja) | 2004-11-04 | 2007-08-29 | 三次元形状推定システム及び画像生成システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2006049147A1 true JPWO2006049147A1 (ja) | 2008-08-07 |
JP4284664B2 JP4284664B2 (ja) | 2009-06-24 |
Family
ID=36319153
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006542385A Active JP4284664B2 (ja) | 2004-11-04 | 2005-11-01 | 三次元形状推定システム及び画像生成システム |
Country Status (4)
Country | Link |
---|---|
US (1) | US7860340B2 (ja) |
EP (1) | EP1808810A4 (ja) |
JP (1) | JP4284664B2 (ja) |
WO (1) | WO2006049147A1 (ja) |
Families Citing this family (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8532344B2 (en) * | 2008-01-09 | 2013-09-10 | International Business Machines Corporation | Methods and apparatus for generation of cancelable face template |
JP5071198B2 (ja) * | 2008-03-28 | 2012-11-14 | 富士通株式会社 | 信号機認識装置,信号機認識方法および信号機認識プログラム |
JP5106459B2 (ja) * | 2009-03-26 | 2012-12-26 | 株式会社東芝 | 立体物判定装置、立体物判定方法及び立体物判定プログラム |
US8861800B2 (en) * | 2010-07-19 | 2014-10-14 | Carnegie Mellon University | Rapid 3D face reconstruction from a 2D image and methods using such rapid 3D face reconstruction |
MY160274A (en) | 2010-08-19 | 2017-02-28 | Nissan Motor | Three-dimensional object detection device and three-dimensional object detection method |
US8334985B2 (en) * | 2010-10-08 | 2012-12-18 | Omron Corporation | Shape measuring apparatus and shape measuring method |
US8860660B2 (en) * | 2011-12-29 | 2014-10-14 | Grinbath, Llc | System and method of determining pupil center position |
US9910490B2 (en) | 2011-12-29 | 2018-03-06 | Eyeguide, Inc. | System and method of cursor position control based on the vestibulo-ocular reflex |
US9292086B2 (en) | 2012-09-26 | 2016-03-22 | Grinbath, Llc | Correlating pupil position to gaze location within a scene |
US10179031B2 (en) * | 2013-10-28 | 2019-01-15 | Brainlab Ag | Interrelated point acquisition for navigated surgery |
JP5744161B2 (ja) * | 2013-11-18 | 2015-07-01 | シャープ株式会社 | 画像処理装置 |
JP6576083B2 (ja) * | 2015-04-15 | 2019-09-18 | キヤノン株式会社 | 画像処理装置、画像処理方法、およびプログラム |
CN105809107B (zh) * | 2016-02-23 | 2019-12-03 | 深圳大学 | 基于面部特征点的单样本人脸识别方法及系统 |
US20180357819A1 (en) * | 2017-06-13 | 2018-12-13 | Fotonation Limited | Method for generating a set of annotated images |
JP2020204790A (ja) * | 2017-08-31 | 2020-12-24 | らしさ・ドット・コム株式会社 | シミュレーション装置、シミュレーション方法、及びコンピュータプログラム |
JP6601825B2 (ja) | 2018-04-06 | 2019-11-06 | 株式会社EmbodyMe | 画像処理装置および2次元画像生成用プログラム |
US11521460B2 (en) | 2018-07-25 | 2022-12-06 | Konami Gaming, Inc. | Casino management system with a patron facial recognition system and methods of operating same |
AU2019208182B2 (en) | 2018-07-25 | 2021-04-08 | Konami Gaming, Inc. | Casino management system with a patron facial recognition system and methods of operating same |
KR102526700B1 (ko) * | 2018-12-12 | 2023-04-28 | 삼성전자주식회사 | 전자 장치 및 그의 3d 이미지 표시 방법 |
Family Cites Families (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB9201006D0 (en) | 1992-01-17 | 1992-03-11 | Philip Electronic And Associat | Classifying faces |
JPH11242745A (ja) | 1998-02-25 | 1999-09-07 | Victor Co Of Japan Ltd | 顔画像の計測・処理方法 |
JP4213327B2 (ja) | 1999-07-12 | 2009-01-21 | 富士フイルム株式会社 | 光源方向と3次元形状の推定方法および装置並びに記録媒体 |
JP2001283216A (ja) * | 2000-04-03 | 2001-10-12 | Nec Corp | 画像照合装置、画像照合方法、及びそのプログラムを記録した記録媒体 |
WO2002007095A1 (fr) | 2000-07-17 | 2002-01-24 | Mitsubishi Denki Kabushiki Kaisha | Dispositif de representation en 3d du visage et dispositif de reconnaissance peripherique comprenant ce dernier |
JP4036005B2 (ja) | 2002-02-04 | 2008-01-23 | コニカミノルタホールディングス株式会社 | 撮影条件検出装置および撮影条件検出プログラム |
JP3940690B2 (ja) | 2002-03-25 | 2007-07-04 | 株式会社東芝 | 画像処理装置及びその方法 |
JP2004021924A (ja) * | 2002-06-20 | 2004-01-22 | Nec Corp | 顔特徴抽出方法、装置および情報記憶媒体 |
JP2004054947A (ja) | 2002-07-16 | 2004-02-19 | Nec Corp | 物体照合システム、物体照合方法および物体照合プログラム |
JP2004094773A (ja) * | 2002-09-03 | 2004-03-25 | Nec Corp | 頭部装着物画像合成方法、化粧画像合成方法、頭部装着物画像合成装置、化粧画像合成装置及びプログラム |
EP1679657B1 (en) * | 2003-10-30 | 2017-12-27 | NEC Corporation | Estimation system, estimation method, and estimation program for estimating object state |
JP4552431B2 (ja) * | 2003-12-08 | 2010-09-29 | 日本電気株式会社 | 画像照合装置、画像照合方法及び画像照合プログラム |
US7609860B2 (en) * | 2005-06-14 | 2009-10-27 | Mitsubishi Electric Research Laboratories, Inc. | Bilinear illumination model for robust face recognition |
US7609859B2 (en) * | 2005-06-14 | 2009-10-27 | Mitsubishi Electric Research Laboratories, Inc. | Method and system for generating bi-linear models for faces |
-
2005
- 2005-11-01 EP EP05800381.5A patent/EP1808810A4/en not_active Withdrawn
- 2005-11-01 US US11/718,601 patent/US7860340B2/en active Active
- 2005-11-01 WO PCT/JP2005/020067 patent/WO2006049147A1/ja active Application Filing
- 2005-11-01 JP JP2006542385A patent/JP4284664B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
EP1808810A1 (en) | 2007-07-18 |
WO2006049147A1 (ja) | 2006-05-11 |
EP1808810A4 (en) | 2013-07-24 |
US20080008399A1 (en) | 2008-01-10 |
US7860340B2 (en) | 2010-12-28 |
JP4284664B2 (ja) | 2009-06-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4284664B2 (ja) | 三次元形状推定システム及び画像生成システム | |
Wechsler | Reliable Face Recognition Methods: System Design, Impementation and Evaluation | |
US6072903A (en) | Image processing apparatus and image processing method | |
Pighin et al. | Modeling and animating realistic faces from images | |
US6278460B1 (en) | Creating a three-dimensional model from two-dimensional images | |
JP4950787B2 (ja) | 画像処理装置及びその方法 | |
AU2019203928B2 (en) | Face location detection | |
WO2019035155A1 (ja) | 画像処理システム、画像処理方法、及びプログラム | |
JP6207210B2 (ja) | 情報処理装置およびその方法 | |
JP2006249618A (ja) | 仮想試着装置 | |
JP2006520055A (ja) | 2次元画像からの3次元オブジェクトの不変視点検出および識別 | |
JP2002133446A (ja) | 顔画像処理方法およびシステム | |
CN111553284A (zh) | 人脸图像处理方法、装置、计算机设备和存储介质 | |
US11120624B2 (en) | Three-dimensional head portrait generating method and electronic device | |
JP5503510B2 (ja) | 姿勢推定装置および姿勢推定プログラム | |
JP5419777B2 (ja) | 顔画像合成装置 | |
JP4623320B2 (ja) | 三次元形状推定システム及び画像生成システム | |
JP2017122993A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JPH0273471A (ja) | 三次元形状推定方法 | |
JP5865092B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
Jian et al. | Realistic face animation generation from videos | |
Chouvatut et al. | Face reconstruction and camera pose using multi-dimensional descent | |
Zhang et al. | Anthropometric modeling of faces from range scans | |
Šimkutė et al. | An Overview of 3D Modelling for Facial Recognition |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20081016 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090227 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090312 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120403 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4284664 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120403 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130403 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130403 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140403 Year of fee payment: 5 |