JP3639475B2 - 3次元モデル生成装置および3次元モデル生成方法ならびに3次元モデル生成プログラムを記録した記録媒体 - Google Patents
3次元モデル生成装置および3次元モデル生成方法ならびに3次元モデル生成プログラムを記録した記録媒体 Download PDFInfo
- Publication number
- JP3639475B2 JP3639475B2 JP28338799A JP28338799A JP3639475B2 JP 3639475 B2 JP3639475 B2 JP 3639475B2 JP 28338799 A JP28338799 A JP 28338799A JP 28338799 A JP28338799 A JP 28338799A JP 3639475 B2 JP3639475 B2 JP 3639475B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- dimensional model
- face
- shape
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Computer Graphics (AREA)
- Geometry (AREA)
- Software Systems (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Analysis (AREA)
- Processing Or Creating Images (AREA)
- Image Processing (AREA)
- Image Generation (AREA)
Description
【発明の属する技術分野】
本発明は、画像を利用したリアルな3次元モデルを生成する3次元モデル生成装置および3次元モデル生成方法ならびに3次元モデル生成プログラムを記録した記録媒体に関する。
【0002】
【従来の技術】
従来より、画像を利用したリアルな3次元モデルを生成する技術が種々提案されている。
【0003】
例えば、参考文献1(金子正秀他,「形状変化の検出と3次元形状モデルに基づく顔動画像の符号化」,IE87−101)に記載されているように、顔の画像上に、あらかじめ顔の形状に関する知験を利用して作成された3次元の概略形状モデルを投影し、3次元モデルの投影座標と顔の画像との対応から、3次元モデルに貼り付けるテクスチャを生成し、これによりテクスチャ付き3次元モデルを生成する。そして、必要に応じ加工して表情を生成し、また、入力画像に投影したときとは違う方向から投影することにより、擬似的に違う方向から見た場合の画像を生成して、表示することが行われてきた。
【0004】
また、よりリアルな3次元モデルを生成するために、対象物体の画像上に、あらかじめ対象物体の形状に関する知験を利用して作成された3次元の概略形状モデルを投影し、この投影した3次元の概略形状モデル上の各頂点もしくは特徴点の座標を、画像上の対象物体上の各頂点もしくは特徴点に対応する点と一致するよう変形等の操作を行って微調整する、といった手法も採られていた。
【0005】
例えば、特開平4−289976号公報には、対象となる3次元物体の2次元図形情報と、対象物体の基本形状が近似する3次元基本形状モデルとを入力として、操作者が2次元図形情報上の特徴点と3次元基本形状モデル上の制御点とを対応付けることにより、3次元基本形状モデルを変形して所望の3次元形状モデルを生成する手法が開示されている。
【0006】
また、複雑な3次元モデルを生成するために、単純な形状の3次元モデルや、何らかの方法で作成した3次元モデルを部品として組み合わせたり、組み合わせてできた3次元モデルをまた1つの部品として扱い、さらにそれらの部品を組み合わせることで、より複雑な3次元モデルを生成するといった手法も採られていた。
【0007】
【発明が解決しようとする課題】
一般に、画像の撮影を行う場合、「正面から」とか、「この方向から」とか指定をしても、厳密には異なる方向から撮影されてしまう場合がほとんどである。例えば、人間の顔を撮影する場合、被写体が「正面」を向いているつもりでも、実際には個人の癖などにより少し上や少し下を向いている場合が多い。従って、正面から撮影された画像をテクスチャデータとして貼ることを前提としたシステムでは、何らかの方法で被写体に対し厳密に「正面」を向かせて撮影する必要がある。しかし、これでは手軽に撮影することが不可能であるし、一般の撮影済みの顔写真を入力画像として使用することができないといった問題があった。
【0008】
また、このような問題が解決されたとしても、概略形状モデルの輪郭と、実際の画像上の対象物体の輪郭とが厳密に一致しないことがあり、この場合には、生成された3次元モデルの輪郭付近に、背景などの色が紛れ込み、色的に不自然な3次元モデルが生成されてしまうといった問題もあった。
【0009】
また、上記した従来技術では、異なる形状モデルを複数用意するために、用意する形状モデルの全てについて、個別にテクスチャを用意する必要があり、大変な手間がかかるといった問題もあった。
【0010】
また、上記した2つ以上の部品を組み合わせて3次元モデルを生成する従来技術では、その組み合わせ方が問題となる。ここでいう組み合わせ方とは、具体的には位置や大きさなどをいうが、場合によっては形状そのものが問題となることもある。例えば、顔の3次元モデルと髪型の3次元モデルとを組み合わせる場合を考えると、顔が大きすぎると、髪型が顔の中に埋没してしまい不自然になる。また逆に、髪型が大きすぎると、髪が浮いてしまって不自然になる。また、顔の上側の形状と髪型の下側の形状(いわゆる境界部分)が一致していないと、髪の一部が浮いたり、埋没したりすることがあり、これも不自然になる。さらに、大きさや形状が一致していても、位置がずれると不自然になることはいうまでもない。
【0011】
従来は、このような不自然さを無くすために、組み合わせるたびに大きさや位置、接合部付近の形状を操作者が調整することで対応していたが、この作業には多大な手間と時間がかかるといった問題があった。また、あらかじめ調整用のテーブルを用意し、組み合わせた部品によりこのテーブルを参照して調整する方法も採用されているが、テーブルの作成に手間と時間がかかるといった同様の問題があった。
【0012】
また、よりリアルな3次元モデルを生成するためには、より多くの概略形状モデルを用意する必要があるが、用意する概略形状モデルの数が多くなると、これを選択する操作者の負担が増大するといった問題もあった。
【0013】
さらに、顔は複雑な形状をした物体であり、リアルな顔の3次元モデルを作成することは、上記した従来技術を駆使しても大変な手間と技術とが必要であった。
【0014】
本発明はかかる問題点を解決すべく創案されたもので、その目的は、リアルで複雑な3次元モデルを簡単な操作で生成することができる3次元モデル生成装置および3次元モデル生成方法ならびに3次元モデル生成プログラムを記録した記録媒体を提供することにある。
【0019】
【課題を解決するための手段】
上記課題を解決するため、本発明の3次元モデルを生成する装置では、画像を入力する入力部と、入力された画像中の任意の位置を指定することのできる位置指定部と、前記画像中の対象物体の概略形状モデルを含む各種データをあらかじめ記憶している記憶部と、これら入力部より入力された画像情報、位置指定部により指定された位置情報および記憶部に記憶されている各種データに基づいて3次元モデルを生成する3次元モデル生成部とからなり、前記3次元モデル生成部は、入力された画像中の対象物体の大きさ、位置および方向を検出する手段と、前記記憶部に記憶されている概略形状モデルを、検出した同じ大きさ、位置および方向に投影した場合の各頂点の画像上の位置を計算する第1の計算手段と、同じ概略形状モデルをあらかじめ定めた規定の大きさ、位置および方向に投影した場合の各頂点の画像上の位置を計算する第2の計算手段と、これら第1の計算手段および第2の計算手段により計算された同じ頂点の両画像上の座標の対応関係に基づいて画像の変形を行う手段と、前記概略形状モデルをあらかじめ定めた規定の大きさ、位置および方向に投影した場合の輪郭付近および/または輪郭の外側に相当する領域を、輪郭の内側の画素値により埋めることにより、対象物体をあらかじめ定めた規定の大きさ、位置および方向から見た場合の近似画像を生成する手段と、この近似画像を概略形状モデルに貼り付けるテクスチャマップデータとしてテクスチャ付き3次元モデルを生成する手段と、を備えていることを特徴とする。
【0020】
また、本発明の3次元モデル生成方法は、入力部から対象物体の画像を入力するステップと、入力された画像中の対象物体の大きさ、位置および方向を検出するステップと、記憶部に記憶されている概略形状モデルを、検出した同じ大きさ、位置および方向に投影した場合の各頂点の画像上の位置を計算するステップと、同じ概略形状モデルをあらかじめ定めた規定の大きさ、位置および方向に投影した場合の各頂点の画像上の位置を計算するステップと、これらのステップにより計算された同じ頂点の両画像上の座標の対応関係に基づいて画像の変形を行うステップと、前記概略形状モデルをあらかじめ定めた規定の大きさ、位置および方向に投影した場合の輪郭付近および/または輪郭の外側に相当する領域を、輪郭の内側の画素値により埋めることにより、対象物体をあらかじめ定めた規定の大きさ、位置および方向から見た場合の近似画像を生成するステップと、この近似画像を概略形状モデルに貼り付けるテクスチャマップデータとしてテクスチャ付き3次元モデルを生成するステップと、を備えたことを特徴とする。
【0021】
また、本発明の3次元モデル生成プログラムを記録した記録媒体は、入力部から対象物体の画像を入力するステップと、入力された画像中の対象物体の大きさ、位置および方向を検出するステップと、記憶部に記憶されている概略形状モデルを、検出した同じ大きさ、位置および方向に投影した場合の各頂点の画像上の位置を計算するステップと、同じ概略形状モデルをあらかじめ定めた規定の大きさ、位置および方向に投影した場合の各頂点の画像上の位置を計算するステップと、これらのステップにより計算された同じ頂点の両画像上の座標の対応関係に基づいて画像の変形を行うステップと、前記概略形状モデルをあらかじめ定めた規定の大きさ、位置および方向に投影した場合の輪郭付近および/または輪郭の外側に相当する領域を、輪郭の内側の画素値により埋めることにより、対象物体をあらかじめ定めた規定の大きさ、位置および方向から見た場合の近似画像を生成するステップと、この近似画像を概略形状モデルに貼り付けるテクスチャマップデータとしてテクスチャ付き3次元モデルを生成するステップと、を含むことを特徴とする。
【0022】
このような特徴を有する本発明の装置、方法および記録媒体によれば、あらかじめ対象物体の概略形状モデルに関する知験がある場合であり、かつ輪郭付近とその他の領域において色に共通性がみられる場合においては、生成モデルの輪郭付近に当たるテクスチャデータの画素値を、概略形状モデルにおける輪郭の内側の領域の1つ、もしくは複数の画素値から決定することにより、輪郭付近においてもより自然な色をもった3次元モデルを生成することが可能となる。
【0023】
また、本発明の3次元モデル生成装置は、上記構成の3次元モデル生成装置において、記憶部は、あらかじめテクスチャの貼り付け規則を一定に定めた複数の概略形状モデルを記憶しており、3次元モデル生成部は、あらかじめ定めたテクスチャの貼り付け規則に適合するようにテクスチャを作成し、用意された複数の概略形状モデルから1つのモデルを選択し、選択した概略形状モデルと作成されたテクスチャとを組み合わせてテクスチャ付き3次元モデルを生成することを特徴とする。
【0024】
このような特徴を有する本発明の装置によれば、あらかじめ対象物体の概略形状モデルに関する知験がある場合において、複数の概略形状モデル間における差異が対象物体の形状のバリエーションを表すものである場合、すなわち、概略形状モデルがある程度共通である場合に、どの概略形状モデルにおいても、その特徴点の位置が、テクスチャデータ画面上における特徴点の位置に対応するようテクスチャの貼り付け規則を定めておくことにより、どの概略形状モデルにおいても同一のテクスチャ画像を使用することが可能となる。
【0027】
また、本発明の3次元モデル生成装置は、入力画像からその画像に含まれる顔の3次元モデルを生成する装置であって、顔の画像を入力する入力部と、入力された顔の各部位を指定することのできる位置指定部と、これら入力部より入力された画像情報、位置指定部により指定された位置情報に基づいて顔の3次元モデルを生成する3次元モデル生成部とからなり、前記3次元モデル生成部は、前記位置指定部により指定された1つ以上の位置情報に基づいて顎の輪郭特徴を検出し、その検出した顎の輪郭特徴から顎の形状を判定する特徴検出・判定手段と、この判定結果に対応する構造の3次元モデルを選択して、所望の3次元モデルを生成する3次元モデルを生成する3次元モデル生成手段と、を備えたことを特徴とする。
【0028】
また、本発明の3次元モデル生成方法は、入力部から顔の画像を入力するステップと、入力された顔の各部位を位置指定部によって指定するステップと、位置指定部により指定された1つ以上の位置情報に基づいて顎の輪郭特徴を検出し、その検出した顎の輪郭特徴から顎の形状を判定するステップと、この判定結果に対応する構造の3次元モデルを選択し、所望の3次元モデルを生成するステップと、を備えたことを特徴とする。
【0029】
また、本発明の3次元モデル生成プログラムを記録した記録媒体は、入力部から顔の画像を入力するステップと、入力された顔の各部位を位置指定部によって指定するステップと、位置指定部により指定された1つ以上の位置情報に基づいて顎の輪郭特徴を検出し、その検出した顎の輪郭特徴から顎の形状を判定するステップと、この判定結果に対応する構造の3次元モデルを選択し、所望の3次元モデルを生成するステップと、を含むことを特徴とする。
【0030】
このような特徴を有する本発明の装置、方法および記録媒体によれば、操作者は、最初に位置指定部により、入力画像中に含まれている人物の顔の特徴点(例えば、両目、口の中心位置など)となる位置情報を入力する。次に、入力された特徴点情報から、顔の輪郭特徴(輪郭線など)を検出する。次に、その検出結果から顎の形状(例えば、顔形状の種類として、丸型、卵型、四角型など)を判定する。ここで、形状の判定は、例えば、検出した輪郭線とあらかじめ用意した基準となる複数の顔輪郭線(基準顔輪郭)とを比較し、もっもと近似している基準顔輪郭の形状を所望の顔輪郭形状とする。
【0031】
一方、あらかじめ基準顔輪郭に対応する顔の3次元モデルを用意しておく。なお、顔の3次元モデルは、輪郭の特徴だけを、基準顔輪郭の特徴に合わせてプロのデザイナーなどがあらかじめ作成し、記憶部に3次元モデル構造情報として記憶しておくこととする。
【0032】
最後に、最終的に求めた基準輪郭形状に基づいて、対応する顔の3次元モデルを決定する。すなわち、所望の顔の3次元モデルは、上記の記憶部の中から決定した顔の3次元モデル構造情報を読み出して生成すればよい。
【0033】
このように、操作者は、顔の目や口などの数点の特徴点を入力するだけで、顔の顎形状の特徴を捉えた3次元モデルを容易に生成し、利用することが可能となる。
【0034】
なお、顔輪郭特徴から輪郭線を抽出し、形状を判定する手法としては、例えば前記の参考文献1に示されているような手法、すなわち、動的輪郭モデルを用いて実写画像中の物体の輪郭線を抽出し、基準顔輪郭の輪郭線と輪郭距離関数の特徴点とを比較することにより、顎形状を判定する手法を用いることができる。
【0035】
また、本発明の3次元モデル生成装置は、上記構成の3次元モデル生成装置において、特徴検出・判定手段は、顔の特徴点の位置情報を前記位置指定部により指定して、画像上の顔の中心位置を確定する手段と、顔輪郭の近傍に初期輪郭の配置を行う手段と、画像上の顔の中心位置と初期輪郭とに基づいて、顔中心座標と初期輪郭上の各座標とを結ぶ直線上の隣り合う画素間の色差を算出し、対象画素間の座標中点を座標値として、算出した色差を画素値にもつ色差マップ画像を作成する手段と、作成した色差マップ画像を利用して、初期輪郭を動的輪郭モデルに従って移動させることにより、輪郭線を抽出する手段と、抽出した輪郭線を元に距離関数を算出する手段と、算出した距離関数の特徴を、基準となる顎形状の輪郭線からあらかじめ作成しておいた距離関数と比較することにより、顎の形状を判定する手段とを含むことを特徴とする。
【0036】
また、本発明の3次元モデル生成方法は、入力部から顔の画像を入力するステップと、入力された顔の特徴点の位置情報を位置指定部により指定して、画像上の顔の中心位置を確定するステップと、顔輪郭の近傍に初期輪郭の配置を行うステップと、画像上の顔の中心位置と初期輪郭とに基づいて、顔中心座標と初期輪郭上の各座標とを結ぶ直線上の隣り合う画素間の色差を算出し、対象画素間の座標中点を座標値として、算出した色差を画素値にもつ色差マップ画像を作成するステップと、作成した色差マップ画像を利用して、初期輪郭を動的輪郭モデルに従って移動させることにより、輪郭線を抽出するステップと、抽出した輪郭線を元に距離関数を算出するステップと、算出した距離関数の特徴を、基準となる顎形状の輪郭線からあらかじめ作成しておいた距離関数と比較することにより、顎の形状を判定するステップと、を含むことを特徴とする。
【0037】
また、本発明の3次元モデル生成プログラムを記録した記録媒体は、入力部から顔の画像を入力するステップと、入力された顔の特徴点の位置情報を位置指定部により指定して、画像上の顔の中心位置を確定するステップと、顔輪郭の近傍に初期輪郭の配置を行うステップと、画像上の顔の中心位置と初期輪郭とに基づいて、顔中心座標と初期輪郭上の各座標とを結ぶ直線上の隣り合う画素間の色差を算出し、対象画素間の座標中点を座標値として、算出した色差を画素値にもつ色差マップ画像を作成するステップと、作成した色差マップ画像を利用して、初期輪郭を動的輪郭モデルに従って移動させることにより、輪郭線を抽出するステップと、抽出した輪郭線を元に距離関数を算出するステップと、算出した距離関数の特徴を、基準となる顎形状の輪郭線からあらかじめ作成しておいた距離関数と比較することにより、顎の形状を判定するステップと、この判定結果に対応する構造の3次元モデルを選択して、所望の3次元モデルを生成するステップと、を含むことを特徴とする。
また、本発明の3次元モデル生成装置は、上記構成の3次元モデル生成装置において、前記特徴検出・判定手段は、位置指定部により指定された1つ以上の位置情報に基づいて顔の各部位の特徴量を検出する特徴量検出手段をさらに含み、前記3次元モデル生成手段は、検出した顔の各部位の特徴量に基づいて、前記選択手段により選択された3次元モデルの構造を変形する手段を含むことを特徴とする。
【0038】
このような特徴を有する本発明の装置によれば、操作者が位置指定部により指定した顔の各部位の特徴量、例えば、目や口の大きさなどの各部位の大きさや、両目の間隔や顔幅などの各部位間の距離を検出する。また、上記と同様にして、顎形状によって選択された3次元モデルを、検出された特徴量に基づき、変形させる。すなわち、顎形状によって、同じ卵型の3次元モデルが選択された場合でも、例えば、顔幅の広い人や狭い人などの個人差に応じて、個人の特徴を生かした3次元モデルを生成することが可能となる。
【0039】
【発明の実施の形態】
以下、本発明の実施の形態について、図面を参照して説明する。ここでは、説明を容易にするために、対象物体を顔の形状に特化して説明する。
【0040】
図1は、本発明の3次元モデル生成装置の一実施の形態を示すシステム構成図である。
【0041】
本実施の形態の3次元モデル生成装置は、記憶部1、画像入力部2、ユーザ入力部3、表示部4および3次元モデル生成部5によって構成されている。
【0042】
記憶部1は、画像中の対象物体の概略形状モデルを含む各種データをあらかじめ記憶している。
【0043】
また、画像入力部2としては、例えばデジタルスチルカメラ、スキャナ、ビデオキャプチャ等のさまざまな入力手段を用いることができるが、本実施の形態では、このような特定の入力手段だけでなく、任意の静止画像入力手段を用いることができる。
【0044】
ユーザ入力部3は、操作者の操作により各種の情報を入力するブロックであり、ここでは、例えばキーボード類やマウス等のポインティングデバイス類を用いているが、この他にもさまざまな入力方法が可能である。
【0045】
表示部4は、CRTや液晶ディスプレイ等からなり、生成された3次元モデルの表示や、操作者が選択等を行う際の選択候補の表示などに使用される。
【0046】
3次元モデル生成部5は、演算処理装置であるCPU51、3次元モデル生成プログラムを格納しているROM52、プログラム動作時のワークエリア等として用いられるRAM53からなり、ROM52に格納されている3次元モデル生成プログラムに従い、画像入力部2から入力された画像情報、ユーザ入力部3から入力された各種の情報、記憶部1に記憶されている各種データ等に基づいて各種の演算処理を行い、3次元モデルを生成するブロックである。
【0047】
この3次元モデル生成部5を機能的に分けると、入力された画像中の対象物体の大きさ、位置および方向を検出する手段と、記憶部1に記憶されている概略形状モデルを、検出した同じ大きさ、位置および方向に投影した場合の各頂点の画像上の位置を計算する第1の計算手段と、同じ概略形状モデルをあらかじめ定めた規定の大きさ、位置および方向に投影した場合の各頂点の画像上の位置を計算する第2の計算手段と、これら第1の計算手段および第2の計算手段により計算された同じ頂点の両画像上の座標の対応関係に基づいて画像の変形を行うことにより、対象物体をあらかじめ定めた規定の大きさ、位置および方向から見た場合の近似画像を生成する手段と、その近似画像を概略形状モデルに貼り付けるテクスチャマップデータとしてテクスチャ付き3次元モデルを生成する手段とを含んだ構成となっている。また、概略形状モデルをあらかじめ定めた規定の大きさ、位置および方向に投影した場合の輪郭付近および/または輪郭の外側に相当する領域を、輪郭の内側の画素値により埋めることにより、対象物体をあらかじめ定めた規定の大きさ、位置および方向から見た場合の近似画像を生成する手段をさらに含んだ構成となっている。
【0048】
図2は、上記構成の3次元モデル生成装置による3次元モデルの生成動作(ROM52に格納されている3次元モデル生成プログラムの処理動作)を示すフローチャートである。以下の説明は、このフローチャートに沿って説明する。
【0049】
操作者は、まず、画像入力部2より顔画像を入力する(ステップS1)。入力された顔画像は、表示部4に表示される。図3(a)は、表示部4に表示された入力画像(顔画像)301の例を示している。
【0050】
次に操作者は、この顔画像301に対して、座標指定を行う(ステップS2)。すなわち、表示された顔画像301の目、鼻、口、輪郭上の点等の座標を入力する。図4は、座標指定の例を示しており、入力画像301の上にある十字が操作者によって座標指定されたポイントである。本実施の形態では、両目、鼻、口と、輪郭上での顎の先、左右の耳付近の計7点を入力している。
【0051】
次に、このように入力された顔の座標情報から、顔の大きさ、位置および方向を推定(検出)する(ステップS3)。この顔の大きさ、位置および方向の推定方法にはさまざまな方法が考えられるが、本実施の形態では、標準顔形状モデルを、仮に推定した大きさ、位置および方向で画像上に投影する。そして、標準顔形状モデル上の目、鼻、口が投影された座標と、操作者の指定した点(目、鼻、口の点)との位置ずれを計算する。次に、この仮に推定した大きさ、位置および方向から少しずらした位置および方向に投影し、同様にして標準顔形状モデル上の目、鼻、口が投影された座標と、操作者の指定した点(目、鼻、口の点)との位置ずれを計算する。そして、このずれが最小となる大きさ、位置および方向を求め、これを次の仮に推定した大きさ、位置および方向として、上記の処理を繰り返す。このような処理を繰り返し、最後に、これ以上ずれが小さくならなくなったときの大きさ、位置および方向を、入力画像の顔の大きさ、位置および方向とする。
【0052】
このようにして、ステップS3で顔の大きさ、位置および方向を推定すると、次に、画像上に標準顔形状データを投影して、テクスチャ画像を生成する(ステップS4)。すなわち、ステップS3で推定した顔の大きさ、位置および方向で標準顔形状データを画面上に投影し、標準顔形状データの全ての頂点の座標を計算する。図3(b)に符号303で示す3次元モデルが、この推定した位置および方向による標準顔形状データの投影結果を模式的に表したものである。また、これと同時に、テクスチャ画像上に標準顔形状データを所定の大きさおよび位置で正面から平行投影し、標準顔形状データの全ての頂点の座標を計算する。図3(d)に符号304で示す3次元モデルが、この所定の大きさおよび位置で正面から標準顔形状モデルを投影した結果を模式的に表したものである。すなわち、ある頂点の顔画像上での投影座標が、同一の頂点のテクスチャ画像上での投影座標に対応するものとし、この対応情報に基づき、画像変形の手法を用いて、顔画像からテクスチャ画像上に転写する。つまり、図3(b)により表現される図形が、図3(d)により表現される図形に画像変形しつつ転写されることになる。ここで用いられる画像変形の手法は、画像処理の分野ではよく知られた技術であり、この技術分野に属する技術者にとっては容易に実現できるものである。そのため、ここでは画像変形のより具体的な手法の説明を省略する。
【0053】
ここで、このままでは場合により輪郭付近のテクスチャの色が不安定になることがあるため、輪郭付近を物体の色で塗ることにより、輪郭付近の色が安定するようにする(ステップS4−1)。図5は、この操作を模式的に説明する図である。すなわち、標準顔形状データの輪郭(符号501により示す)より少し中央寄りにエリア502を設定し、このエリア502の画素値の平均を取り、この画素値の平均となるように、標準顔形状データの輪郭付近の画素およびその外側の画素(符号503により示すエリア)を塗り潰す。この転写および塗り潰しの結果は、対象物体を所定の大きさおよび位置となるように正面から撮影した画素に近似した画像となっている。この画像を、標準顔形状データに対して正面から平行投影により貼り付けるテクスチャ画像として使用する。図3(c)は、入力画像301(図3(a)参照)から作成されるテクスチャ画像302の例を示している。
【0054】
次に、複数用意された顔形状モデル(概略形状モデル)から、モデルの選択を行う。本実施の形態では、まず自動顔形状モデル選択ステップにて自動的に顔形状モデルの選択を行い、次いで操作者による選択指示入力により顔形状モデルの選択を行う(ステップS5−1)。この場合、操作者は、自動で選択された顔形状モデルをそのまま使用してもよいが、ユーザ入力部3より選択指示を入力することにより、別の顔形状モデルを選択できるようになっている。
【0055】
この自動顔形状モデル選択ステップ(ステップS5−1)は、以下の方法で実施される。
【0056】
まず、入力画像中の対象物体である顔の外周に相当する部分付近でエッジ検出を行う。このエッジ検出はさまざまな手法が知られており、この技術分野に属する技術者にとっては容易に実現できるものであるため、エッジ検出の詳細については説明を省略する。また、エッジ検出を含め、輪郭検出にはさまざまな手法が考えられるが、それらの手法を本実施の形態の輪郭検出に適用することも容易に可能である。
【0057】
次いで、この検出されたエッジの形状と、選択可能な顔形状モデルの外周部の形状との比較を行う。本実施の形態では、顔の中心から放射状に伸ばした線を考え、その線上において検出されたエッジと顔形状モデルの外周部との距離の差の自乗和を求めることを比較方法としている。図6はこの比較の様子を模式的に表した図である。同図において、符号601は検出された輪郭、符号602は顔形状モデルの外周部の形状、符号603は顔の中心、符号604は中心から放射状に伸ばした線のうちの1本、符号605は別の放射状に伸ばした線と、検出された輪郭601との交点、符号606は同じ別の放射状に伸ばした線と、顔形状モデルの外周部の形状602との交点、符号607はこの両交点605、606間の距離を表している。なお、図が複雑になるため説明を省略しているが、全ての放射状に伸ばした線に対して、輪郭601との交点および顔形状モデルの外周部の形状602との交点を求め、その交点間の距離を算出するこというまでもない。そして、これら全ての交点間の距離の自乗和を算出し、それを全てのあらかじめ用意された選択可能な顔形状3次元モデルに関して計算し、その計算された自乗和の値が最小値となる顔形状3次元モデルを選択する。以上が、自動顔形状モデル選択ステップの説明である。ただし、この方法以外にもさまざまな比較の方法が可能であり、それらの方法を本実施の形態の顔形状モデル選択に適用することは容易に可能である。
【0058】
なお、本実施の形態では、顔形状モデル(概略形状モデル)は、あらかじめ所定の大きさおよび位置で正面から投影された画像をテクスチャ画像とするよう、あらかじめテクスチャ画像を貼り付けるための情報が付加されており、所定の大きさおよび位置で正面から投影された画像であれば、どの画像とどのモデルとの組み合わせであっても、正しい顔3次元モデルが生成されるようになっている。従って、どの顔形状モデルが選択されたとしても、テクスチャデータは上記で生成した1枚をそのまま使うだけでよい。つまり、操作者は、自動モデル選択ステップによるモデル選択結果に関わらず、モデルごとにテクスチャ画像の作り直しや、テクスチャ画像の貼り付けの微調整といった作業が全く不要となり、容易にモデルの選択が行えるようになっている。
【0059】
図7は、このことを模式的に表現した図である。すなわち、複数ある顔形状3次元モデル(ここでは、701、702の2例を示している)のどちらを選択したとしても、単一のテクスチャ画像703との組み合わせにより、それぞれ顔3次元モデル704、705を得ることができる。
【0060】
次に、髪型の形状モデルを選択する(ステップS5−2)。髪型の形状モデルは、顔形状モデルと整合させるため、あらかじめ接合面の形状や位置が全ての顔型(顔形状モデル)および髪型で統一されて作成されている。ただし、ここでいう統一とは、必ずしも完全に同一の形状をしていることを意味するものではなく、例えば接合面が同一形状の一部分のみで構成されるような形状も含んでいる。また、他にも組み合わせた場合に不整合が発生しない形状を考えることもでき、それらを本実施の形態の髪型の形状モデルの選択に適用することは容易に可能である。
【0061】
このようにしてあらかじめ接合面の統一がなされているため、任意の顔型の3次元モデル(顔形状3次元モデル)が選択された状態で、任意の髪型の3次元モデルが選択された場合でも、大きさ、位置および方向の調整等をなんら行うことなく、単純に3次元モデルを組み合わせるだけで、顔に髪型の付いた3次元モデルを生成することができる。
【0062】
図8は、このことを模式的に表現した図である。図中の符号801〜803は髪型の3次元モデル、符号804、805は顔の3次元モデルを模式的に表現したものである。801〜803の髪型の3次元モデルの接合部分(接合面)の形状は同一の形状であり、803の髪型の3次元モデルの接合部分の形状は、他の髪型の3次元モデル801、802の接合部分の一部分の形状で構成されている。また、符号806、807は、それぞれ髪型の3次元モデルと顔の3次元モデルとを組み合わせた例であり、符号806は髪型の3次元モデル803と顔の3次元モデル804とを組み合わせた例、符号807は髪型の3次元モデル801と顔の3次元モデル805とを組み合わせた例である。このように、任意の髪型と任意の顔の3次元モデルを組み合わせたとしても、全ての3次元モデルの接合部分の形状が統一されているため、接合部の不整合が発生することはなく、好ましい頭部3次元モデルが生成されている。
【0063】
最後に、組み合わせて生成した頭部3次元モデルの全体に対し、横方向の拡大/縮小の操作を行う。顔形状3次元モデルの自動選択の過程(ステップS5−1)で取得した入力画像中の輪郭情報を元に、入力画像中の顔の幅が、あらかじめ定めておいた標準的な幅より広い場合には横方向に拡大し、入力画像中の顔の幅が、あらかじめ定めておいた標準的な幅より狭い場合には横方向に縮小する。操作者は、このような拡大/縮小率をそのまま使用してもよいし、ユーザ入力部3により拡大/縮小率を入力することにより、拡大/縮小率を変更してもよい。
【0064】
このようにして生成されたテクスチャ画像と、自動もしくは操作者により選択された顔形状モデルおよび髪型形状モデルと、自動もしくは操作者により選択された頭部の拡大/縮小率とにより、頭部の3次元モデルを生成し、必要に応じて表示部4への表示や、図示しない出力部からの出力を行う。図9は、このようにして生成された頭部の3次元モデル901の例を示している。
【0065】
図10は、本発明の3次元モデル生成装置の他の実施の形態を示すシステム構成図である。
【0066】
本実施の形態においては、外部から入力された画像、すなわち装置が外部から取得した画像(入力画像)に含まれる人物顔の顎の輪郭特徴を検出して、顎の形状を判定し、その形状判定結果に基づき、入力画像中の人物顔に対応する顔の3次元モデルを生成するものである。
【0067】
すなわち、本実施の形態の3次元モデル生成装置は、電子画像を取得する画像取得手段としての画像入力部11、入力画像の任意の位置を指定する手段としての位置指定部12、入力画像中の特徴量を検出して、顎の形状を判定する特徴検出・判定手段13、特徴に応じた3次元モデルを生成する3次元モデル生成手段14、および生成した3次元モデルを外部に出力する出力部15によって構成されている。
【0068】
特徴検出・判定手段13および3次元モデル生成手段14は、その処理動作を行うために、演算装置13a、14aと記憶装置(ROM、RAM等)13b、14bとをそれぞれ備えている。なお、3次元モデル生成プログラムは、記憶装置13b、14bのROMに格納されている。
【0069】
また、特徴検出・判定手段13をさらに機能的に分けると、顔の特徴点の位置情報を位置指定部12により指定して、画像上の顔の中心位置を確定する手段と、顔輪郭の近傍に初期輪郭の配置を行う手段と、画像上の顔の中心位置と初期輪郭とに基づいて、顔中心座標と初期輪郭上の各座標とを結ぶ直線上の隣り合う画素間の色差を算出し、対象画素間の座標中点を座標値として、算出した色差を画素値にもつ色差マップ画像を作成する手段と、作成した色差マップ画像を利用して、初期輪郭を動的輪郭モデルに従って移動させることにより、輪郭線を抽出する手段と、抽出した輪郭線を元に距離関数を算出する手段と、算出した距離関数の特徴を、基準となる顎形状の輪郭線からあらかじめ作成しておいた距離関数と比較することにより、顎の形状を判定する手段とを含んだ構成となっている。
【0070】
図11は、上記構成の3次元モデル生成装置による3次元モデル生成動作を示すフローチャートである。以下の説明は、このフローチャートに沿って説明する。
【0071】
まず、前提として、画像入力部11により、対象となる物体(以下、本実施の形態では原画像という)が記憶装置13b、14bに格納されているものとする。
【0072】
この状態で、操作者は、まず最初に顔の特徴点(目、口など)の位置情報を位置指定部12により指定し、原画像上の顔の中心位置を確定する(ステップS21)。この顔の中心位置は、操作者が、別に直接指定してもよいし、図12に示すように、右目、左目、口の中心座標を指定(図中の符号121、122、123により示す)し、その中心を顔の中心位置として算出してもよい。
【0073】
このようにして顔の中心位置を確定すると、次に顔輪郭の近傍に初期輪郭の配置を行う(ステップS22)。初期の配置は、例えば、目と口の領域を囲むような閉領域を初期輪郭とする。すなわち、目や口の相対距離を統計的にあらかじめ調べておいて、目と口を囲むよな楕円輪郭線を配置すればよい。このようにして中心位置131および初期輪郭132を確定した画像を図13に示す。
【0074】
次に、このようにして確定した原画像と中心位置131および初期輪郭132とに基づいて、顔中心座標と初期輪郭上の各座標とを結ぶ直線上の隣り合う画素間の色差を算出し、対象画素間の座標中点を座標値として、算出した色差を画素値にもつ画像(色差マップ画像)を作成する(ステップS23)。
【0075】
ここで、色差を算出する方法としては、例えば、画像データの各単色光ごとの輝度値を画素間でそれぞれ減算処理することにより差分値を算出し、各単色光ごとに算出した差分値の合計値を色差として算出する。また、別の方法としては、例えば画素データを各単色光の輝度値から、色相(H)、彩度(S)、輝度(V)で表現されるHSV値に変換し、色差を求める2画素のHSV空間上での位置を求め、その間の距離値を色差としてもよい。また、隣り合う画素間ではなく、例えば連続する複数の画素単位ごとに平均色を求め、その平均色同士の色差を求めてもよい。
【0076】
また、色差の算出時には、対象が人物顔であることを利用して色差の検出精度を変更してもよい。例えば、色差を算出する際に比較する2画素の画素値が肌色を表す画素値に近い値をもつ場合、その2点の画素は顔輪郭内の画素である可能性が高いとみなし、色差の検出精度を低くして、ノイズ等の影響を軽減することができる。一方、顎と首とはどちらも肌色を表す画素値をもつ可能性が高く、その境目である顎境界を検出する際には、検出精度を上げた方がよい。従って、中心から首方向への直線上の色差検出では、色差の検出精度を高めるようにして、顎境界を検出し易くする。なお、首の位置は、例えば口の座標が既知であるならば、その座標から方向を推定することが可能である。
【0077】
例えば、図14に示すような顔中心131と初期輪郭132の上の座標点141を結ぶ直線142上の色差を求める場合の模式図を図15に示す。図15において、符号151で示す各値が直線上の画素値の並びを示し、符号152で示す値が隣り合う2点間の画素値の差分を示している。すなわち、この例では、符号152で示す配列が色差の並びを示している。
【0078】
また、このようにして色差を検出した後に、さらに人物顔輪郭独自の特徴性を利用して、より顔輪郭形状に特化した色差マップ画像を作成してもよい。例えば、顔を楕円の相似形であると仮定し、図16(a)、(b)に示すように、顔中心を中心とする任意の大きさの楕円曲線161〜163上の1点と、これに隣り合う2点の計3点の色差(符号164により示す)を平均化して、その座標の色差として再格納することによりノイズの影響を抑制するようにしてもよい。図16(b)では、3点の色差がそれぞれ32、28、34であるので、これを平均化して32[(32+28+34)÷3=31.33、、、(端数切り上げ)]としている。
【0079】
このように、人物顔であることを制約条件に用いることにより、鮮明な輪郭線が現れていない入力画像やノイズの多い画像に対しても、顎形状の特徴を特化した、より安定な色差マップ画像を作成することができる。
【0080】
次に、このようにして作成した色差マップ画像を利用して、初期輪郭を動的輪郭モデルに従って移動させることにより、輪郭線を抽出(検出)する(ステップS24)。
【0081】
ここで、エネルギー関数Eとして、例えば、輪郭線のなめらかさを表す内部エネルギーE1、輪郭を収縮しようとするエネルギーE2、物体輪郭を特徴付ける画像エネルギーE3の和E=E1+E2+E3を求め、このEを最小化するように輪郭を移動させる。なお、動的輪郭モデルを用いて輪郭抽出を行う手法として、ここではSnake法を利用している。Snake法は、参考文献2(M.Kass.「Snakes:Active Contour Models」,Int.J.Comput.Vision,p.321,1988)に開示されている。
【0082】
ここで、画像エネルギーE3には、ステップS23で作成した色差マップ画像を利用する。すなわち、画像上の任意のP(x,y)における画像エネルギーE3(P)は、Pに対応する色差マップ画像上の色差値をD(P)としたとき、下式(1)から求められる。
【0083】
E3(P)=α×(MAX(D)−D(P)) ・・・(1)
ただし、MAX(D):色差マップ画像中の色差の最大値、係数α:エネルギー関数Eにおける画像エネルギーの度合、である。
【0084】
この式(1)に従えば、色差の小さいところほど画像エネルギーは大きくなるので、エネルギーを最小化する方向へと輪郭が移動しやすくなる。逆に色差が大きいところほど画像エネルギーは小さくなり、輪郭はそこから移動しにくくなる。すなわち、顔領域と背景領域との境目のような物体の色領域の境目で画像エネルギーが低くなるので、輪郭はそのような領域の境目で収束しやすくなる。
【0085】
このように、画像エネルギーとしてステップS23で求めた色差マップ画像を利用することにより、顎形状の特徴を加味したエネルギー画像を作成することができ、鮮明な輪郭線が現れていない入力画像やノイズの多い画像に対しても、より安定な顎検出を行うことができる。
【0086】
次に、このようにして求めた輪郭線を元に距離関数を算出する(ステップS25)。すなわち、輪郭線を顔内部の既知の座標、例えば顔中心からの距離rと方向(角度)θとからなる関数r=L(θ)として表現する。この様子を模式的に示したのが図17である。
【0087】
L(θ)は、θの値を単位角度ずつ変えたときのrを求めてもよいし、例えば顎形状をより顕著に表す範囲(顔中心からみて首のある方向)は、単位角度を狭くし、他の方向に比べてより情報量を多くしてもよい。また、距離関数を例えば下式(2)によって表されるフーリエ記述子として表現してもよい。
【0088】
ここで、A(n):曲線形状を表す係数、exp():自然対数の底のベキ乗、s:曲線上の距離、L:閉曲線の全長、である。フーリエ記述子に関する詳細は、例えば参考文献3(高木幹雄,下田陽久 監修,「画像解析ハンドブック」,東京大学出版会,1991.)に開示されている。
【0089】
次に、このようにして求めた距離関数の特徴を、基準距離関数と比較することにより、顎の形状を判定する(ステップS26)。ここで、基準距離関数とは、基準となる顎形状の輪郭線からあらかじめ作成しておいた距離関数のことである。基準となる顎形状の輪郭線は、輪郭線があらかじめ手動で検出されている画像を、類似の顎形状、例えば、ベース型、丸型等に分類し、その分類ごとに手動検出の輪郭線を平均化したものを利用すればよい。
【0090】
距離関数の比較は、例えば、距離関数上の変曲点の位置、変曲点数、変曲点間の傾きなどを、その距離関数のもつ特徴と位置づけ、基準となる輪郭形状の距離関数の特徴とそれぞれ比較することにより行う。比較を行う際には、あらかじめ基準距離関数と位置とが整合するように正規化を行っておく必要がある。
【0091】
なお、変曲点の位置や数、変曲点間の傾きは、基準形状の場合はあらかじめ求めておき、その情報をメモリ(記憶装置13b)に格納しておき、ステップS25で求めた距離関数の変曲点の情報と適宜比較すればよい。そして、比較結果が最も近い基準距離関数をもつ形状を、判定結果として決定する。
【0092】
なお、距離関数の比較は、より単純に基準距離関数との差分和を比較することことにより行うこともできる。図18は、この様子を模式的に表現している。図18中の符号zは、基準距離関数との差を示している。ここで、基準距離関数をB(θ)としたとき、差分和Z1は下式(3)により与えられる。
【0093】
すなわち、Z1が最小となるB(θ)をもつ形状を判定形状として決定すればよい。この方法の場合は、θの範囲分のB(θ)を基準形状分だけメモリ(記憶装置13b)に用意しておく必要があるが、より詳細な形状の分類、判定を簡便に行うことができる利点がある。
【0094】
また、平面上の曲線を周波数領域で記述する手法、例えばフーリエ記述子を用いて距離関数を表現すれば、これにより算出されるフーリエ係数をその距離関数のもつ特徴として位置づけることができるので、このフーリエ係数と、基準となる輪郭形状の距離関数のフーリエ係数との比較を行うことにより、上記と同様に形状判定を行うことができる。
【0095】
基準距離関数をフーリエ記述子で表現し、そのフーリエ係数をAb(n)としたとき、対象距離関数のフーリエ係数との差分Z2を下式(4)により求め、その求めたZ2が最小となるAb(n)をもつ形状を判定形状として決定する。
【0096】
一般に、フーリエ係数の低次の項にはおおまかな曲線形状、高次の項にはより詳細な曲線形状が反映されている。従って、低次の項の比較、すなわち上記の式(4)におけるnの範囲を小さくしてZ2を求めることにより、ノイズや個人差などの影響をなるべく排除した判定結果を得ることができる。
【0097】
以上の処理動作(ステップS21〜ステップS26)は、特徴検出・判定手段13によって行われる。特徴点に基づいて得られた顎形状結果は、3次元モデル生成手段14に送られる。
【0098】
3次元モデル生成手段14では、特徴検出・判定手段13において判定された顎形状に基づいて3次元モデルを決定し、所望の3次元モデルを生成する(ステップS27)。
【0099】
すなわち、顎形状の種類に応じて、プロのデザイナーなどが作成した3次元モデルの構造情報を記憶装置14bにあらかじめ格納しておき、判定された顎形状に対応する顔の3次元モデル構造情報を記憶装置14bから読み出して再生成すればよい。その結果は、CRTなどの出力部15によって表示される。ここで、判定された顎形状に対応する顔が卵型、丸型、四角型であった場合に、それぞれの形状結果が対応する3次元モデルの生成例を図19に示す。図19中、符号191で示す3次元モデルが卵型、符号192で示す3次元モデルが丸型、符号193で示す3次元モデルが四角型である。
【0100】
以上の処理動作により、実写画像などの2次元情報から、より安定な顎形状の検出と、その形状判定とを行い、その判定結果に基づいて3次元モデルを生成することができる。
【0101】
ところで、上記したように、顎形状によって例えば同じ卵型の3次元モデルが選択された場合でも、顔幅の広い人や狭い人など、個人差がある。そこで、このような個人差を考慮し、3次元モデルを生成する際に、別途求めた顔の各部位の特徴量を利用して、あらかじめ用意した基本となる3次元モデル構造を変形し、3次元モデルを生成することが考えられる。
【0102】
このようにするためには、図10に示す特徴検出・判定手段13に、顎形状の特徴検出だけでなく、例えば両目間の距離、目と口との距離などといった顔の各部位間の距離や、距離の比率を検出する機能を追加し、その検出結果を3次元モデル生成手段14での3次元モデル生成時に利用すればよい。この場合、3次元モデル生成手段14は、3次元モデルを生成する際に、同時に変形処理も行うように機能追加しておく必要がある。
【0103】
すなわち、各部位間の距離は、操作者が位置指定部12で指定した各部位の位置情報に基づき、算出する。ここで、人物顔においては、各顔部品の位置関係および大きさは一定の拘束条件に従っているため、両目と口との位置関係や、両目間の距離と顔幅との比率関係など、各部位の位置関係はある範囲内での推定が可能である。すなわち、これら顔特有の各部位の位置関係を、あらかじめ複数の人物顔について計測(例えば、両目間の距離と顔幅について計測)し、その比率の平均や分散を求めておけば、顔幅などの情報を操作者が入力しなくても、両目の間隔などから推定することが可能となる。これにより、顔の各部位の特徴量を検出する際の操作者の負担を軽減することができる。
【0104】
このようにして検出した顔の各部位の特徴量に基づき、顔の3次元モデルを変形する。変形の対象となる顔の基本モデルは、上記した顎形状の判定結果に基づいて決定する。
【0105】
ここでは、顔の各部位の特徴量として、各部位間の距離の比率、例えば両目間の距離と、目口間の距離の比率(縦横比)を用いる場合について説明する。
【0106】
あらかじめ複数の人物顔について求めておいた比率の平均値と入力画像中の人物顔から得た比率とを比較し、顔の3次元モデル全体を比率に合わせて拡大、縮小する。
【0107】
例えば、入力画像中の人物顔から、図20に符号201で示す3次元モデルが基準3次元モデルとして選択されている場合に、特徴量から得た縦横比が平均の比率と比べて縦方向が長い場合の変形例を同図の符号202により示し、横方向が長い場合の変形例を同図の符号203により示す。
【0108】
以上の処理動作により、操作者が位置指定部12にりよ指定した顔の各部位の位置情報に基づいて、基準となる3次元モデルを変形させることができる。これにより、同じ3次元モデルが選択された場合でも、例えば顔幅の広い人や狭い人などの個人差に応じて、その人の特徴を生かした3次元モデルを容易に生成することが可能となる。
【0109】
以上、上記各実施の形態の3次元モデル生成装置は、その装置の3次元モデルの生成処理を、記憶部1および記憶装置13b、14bに格納されている3次元モデル生成プログラムによって実現される。このプログラムは、コンピュータ読み取り可能な記録媒体に格納されている。本発明では、この記録媒体は、図示していないが、3次元モデル生成装置の内部にプログラム読み取り装置を備え、そこに記録媒体を挿入することで読み取り可能なプログラムメディアであってもよいし、あるいは本実施の形態のように、装置内部のプログラムメモリ等の記憶手段に格納されているものであってもよい。いずれの場合においても、格納されているプログラムは直接アクセスして実行させる構成であってもよいし、あるいはいずれの場合もプログラムを読み出し、読み出されたプログラムは、図示していない主記憶メモリにダウンロードされて、そのプログラムが実行される方式であってもよい。このダウンロード用のプログラムは、あらかじめ装置本体に格納されているものとする。
【0110】
ここで、上記プログラムメディアは、本体と分離可能に構成される記録媒体であり、磁気テープやカセットテープ等のテープ系、フロッピディスクやハードディスク等の磁気ディスクや、CD−ROM、MO、MD、DVD等の光ディスクのディスク系、ICカードや光カード等のカード系、あるいはマスクROM、EPROM、EEPROM、フラッシュROM等による半導体メモリを含めた固定的にプログラムを担持する媒体であってもよい。
【0111】
また、本発明においては外部との通信が可能な手段(無線通信機能、あるいはインターネット等の公衆回線を介する有線通信機能)を備えている場合には、これを用いて外部と接続し、そこからプログラムをダウンロードするように流動的にプログラムを担持する媒体であってもよい。なお、このように通信ネットワークからプログラムをダウンロードする場合には、そのダウンロード用プログラムはあらかじめ装置本体に格納しておくか、あるいは別の記録媒体からインストールされるものであってもよい。
【0112】
【発明の効果】
本発明の3次元モデル生成装置、3次元モデル生成方法および3次元モデル生成プログラムを記録した記録媒体によれば、以下に示す種々の効果を奏する。
【0113】
すなわち、あらかじめ定めた方向以外の方向から撮影された画像を入力画像とした場合であっても、あらかじめ定めた方向から入力した画像と同様に扱い、かつ容易に3次元モデルを生成することができる。
【0114】
また、あらかじめ定めた方向以外の方向から撮影された画像を入力画像とした場合であっても、あらかじめ定めた方向から入力した画像と同様に扱って3次元モデルを生成することができ、かつ、概略形状と対象物体の形状とに差異がある場合でも、生成される3次元モデルの輪郭付近への対象物体以外の色の混入を防ぎ、より質の高い3次元モデルを生成することができる。
【0115】
また、あらかじめ定めた方向からの画像を使用することにより、複数のモデルに対して単一のテクスチャデータを用意するだけでよいので、3次元モデルを生成する際の手間が大幅に軽減される。
【0116】
また、テクスチャデータの作成に関し、あらかじめ定めた方向以外から撮影された画像でも使用可能となるので、さまざまな画像から3次元モデルを作成することができる。また、形状モデル同士の組み合わせに関し、あらかじめ整合するように作成されているため、操作者が調整や整合を行う必要がないので、操作者の負担が大きく軽減される。また、形状モデル同士の組み合わせに関し、組み合わせるための形状モデルを用意する場合に、さまざまな画像から3次元モデルを作成し、用意することが可能となるので、3次元モデルを作成し用意する手間が大きく軽減される。また、入力画像上の対象物体の形状に近い形状のモデルが自動的に選択されるため、操作者が形状モデルを選択する必要がなくなるので、操作者の負担が軽減される。
【0117】
また、操作者は、顔の目や口などの数箇所の特徴点を入力するだけで、実写画像などの2次元の顔画像から、より安定な顎検出とその形状判定とを行い、その判定結果に基づいて3次元モデルを容易に生成することができる。また、操作者は、顔の目や口などの数箇所の特徴点を入力するだけで、実写画像などの2次元の顔画像から、その顔画像の特徴を生かした3次元モデルを容易に生成することができる。
【図面の簡単な説明】
【図1】本発明の3次元モデル生成装置の一実施の形態を示すシステム構成図である。
【図2】本発明の3次元モデル生成装置による3次元モデルの生成動作を示すフローチャートである。
【図3】(a)は画像入力部より入力された画像例を示す説明図、(b)は推定した位置および方向による標準顔形状データの投影結果も模式的に表した図、(c)は入力画像から生成されたテクスチャ画像の説明図、(d)は所定の大きさおよび位置で正面から標準顔形状モデルを投影した結果を模式的に表した図である。
【図4】入力画像の座標指定の例を示す説明図である。
【図5】(a)は輪郭付近で画素値を取得するエリアの例を示す説明図、(b)は輪郭付近で色を塗るエリアの例を示す説明図である。
【図6】輪郭の比較の様子を模式に表した説明図である。
【図7】複数の概略顔形状モデルに対し、単一のテクスチャ画像を適用して3次元モデルを生成する様子を模式的に表した説明図である。
【図8】任意の顔と髪型の3次元モデルの組み合わせを可能にする方法を模式的に表した説明図である。
【図9】生成された3頭部の3次元モデルの例を示す説明図である。
【図10】本発明の3次元モデル生成装置の他の実施の形態を示すシステム構成図である。
【図11】他の実施の形態における3次元モデル生成動作を示すフローチャートである。
【図12】位置指定の例を示す説明図である。
【図13】入力画像中の中心座標および初期輪郭の配置を示す説明図である。
【図14】初期輪郭上の一点と中心座標とを結ぶ直線上の色差算出を行う方法を説明するための図である。
【図15】色差の算出例を模式的に示した説明図である。
【図16】(a)、(b)は顔輪郭形状に特化した色差算出を行う手法として顔が楕円形状であることを利用する場合について説明するための図である。
【図17】抽出した顔輪郭線から距離関数を算出する手法を説明するための図である。
【図18】入力画像から得られた距離関数と基準距離関数とを比較する手法を説明するための図である。
【図19】顎形状の判定結果に対する顔の3次元モデルの例を示す説明図である。
【図20】顔の特徴量に基づいて3次元モデルを変形した例を示す説明図である。
【符号の説明】
1 記憶部
2 画像入力部
3 ユーザ入力部
4 表示部
5 3次元モデル生成部
11 画像入力部
12 位置指定部
13 特徴検出・判定手段
14 3次元モデル生成手段
13a、14a 演算装置
13b、14b 記憶装置
15 出力部
Claims (11)
- 入力画像からその画像に含まれる対象物体の3次元モデルを生成する装置であって、画像を入力する入力部と、入力された画像中の任意の位置を指定することのできる位置指定部と、前記画像中の対象物体の概略形状モデルを含む各種データをあらかじめ記憶している記憶部と、これら入力部より入力された画像情報、位置指定部により指定された位置情報および記憶部に記憶されている各種データに基づいて3次元モデルを生成する3次元モデル生成部とからなり、
前記3次元モデル生成部は、
入力された画像中の対象物体の大きさ、位置および方向を検出する手段と、
前記記憶部に記憶されている概略形状モデルを、検出した同じ大きさ、位置および方向に投影した場合の各頂点の画像上の位置を計算する第1の計算手段と、
同じ概略形状モデルをあらかじめ定めた規定の大きさ、位置および方向に投影した場合の各頂点の画像上の位置を計算する第2の計算手段と、
これら第1の計算手段および第2の計算手段により計算された同じ頂点の両画像上の座標の対応関係に基づいて画像の変形を行う手段と、
前記概略形状モデルをあらかじめ定めた規定の大きさ、位置および方向に投影した場合の輪郭付近および/または輪郭の外側に相当する領域を、輪郭の内側の画素値により埋めることにより、対象物体をあらかじめ定めた規定の大きさ、位置および方向から見た場合の近似画像を生成する手段と、
この近似画像を概略形状モデルに貼り付けるテクスチャマップデータとしてテクスチャ付き3次元モデルを生成する手段と、を備えていることを特徴とする3次元モデル生成装置。 - 前記記憶部は、あらかじめテクスチャの貼り付け規則を一定に定めた複数の概略形状モデルを記憶しており、前記3次元モデル生成部は、あらかじめ定めたテクスチャの貼り付け規則に適合するようにテクスチャを作成し、用意された複数の概略形状モデルから1つのモデルを選択し、選択した概略形状モデルと作成されたテクスチャとを組み合わせてテクスチャ付き3次元モデルを生成することを特徴とする請求項1に記載の3次元モデル生成装置。
- 入力画像からその画像に含まれる顔の3次元モデルを生成する装置であって、顔の画像を入力する入力部と、入力された顔の各部位を指定することのできる位置指定部と、これら入力部より入力された画像情報、位置指定部により指定された位置情報に基づいて顔の3次元モデルを生成する3次元モデル生成部とからなり、
前記3次元モデル生成部は、
前記位置指定部により指定された1つ以上の位置情報に基づいて顎の特徴を検出し、その検出した顎の輪郭特徴から顎の形状を判定する特徴検出・判定手段と、
この判定結果に対応する構造の3次元モデルを選択して、所望の3次元モデルを生成する3次元モデル生成手段と、を備えたことを特徴とする3次元モデル生成装置。 - 前記特徴検出・判定手段は、
顔の特徴点の位置情報を前記位置指定部により指定して、画像上の顔の中心位置を確定する手段と、
顔輪郭の近傍に初期輪郭の配置を行う手段と、
画像上の顔の中心位置と初期輪郭とに基づいて、顔中心座標と初期輪郭上の各座標とを結ぶ直線上の隣り合う画素間の色差を算出し、対象画素間の座標中点を座標値として、算出した色差を画素値にもつ色差マップ画像を作成する手段と、
作成した色差マップ画像を利用して、初期輪郭を動的輪郭モデルに従って移動させることにより、輪郭線を抽出する手段と、
抽出した輪郭線を元に距離関数を算出する手段と、
算出した距離関数の特徴を、基準となる顎形状の輪郭線からあらかじめ作成しておいた距離関数と比較することにより、顎の形状を判定する手段とを含むことを特徴とする請求項3に記載の3次元モデル生成装置。 - 前記特徴検出・判定手段は、前記位置指定部により指定された1つ以上の位置情報に基づいて顔の各部位の特徴量を検出する特徴量検出手段をさらに含み、
前記3次元モデル生成手段は、検出した顔の各部位の特徴量に基づいて、選択された3次元モデルの構造を変形する手段を含むことを特徴とする請求項4に記載の3次元モデル生成装置。 - 入力画像からその画像に含まれる対象物体の3次元モデルを生成する3次元モデル生成装置による3次元モデル生成方法であって、
入力部から対象物体の画像を入力するステップと、
入力された画像中の対象物体の大きさ、位置および方向を検出するステップと、
記憶部に記憶されている概略形状モデルを、検出した同じ大きさ、位置および方向に投影した場合の各頂点の画像上の位置を計算するステップと、
同じ概略形状モデルをあらかじめ定めた規定の大きさ、位置および方向に投影した場合の各頂点の画像上の位置を計算するステップと、
これらのステップにより計算された同じ頂点の両画像上の座標の対応関係に基づいて画像の変形を行うステップと、
前記概略形状モデルをあらかじめ定めた規定の大きさ、位置および方向に投影した場合の輪郭付近および/または輪郭の外側に相当する領域を、輪郭の内側の画素値により埋めることにより、対象物体をあらかじめ定めた規定の大きさ、位置および方向から見た場合の近似画像を生成するステップと、
この近似画像を概略形状モデルに貼り付けるテクスチャマップデータとしてテクスチャ付き3次元モデルを生成するステップと、を備えたことを特徴とする3次元モデル生成方法。 - 入力画像からその画像に含まれる顔の3次元モデルを生成する方法であって、
入力部から顔の画像を入力するステップと、
入力された顔の各部位を位置指定部によって指定するステップと、
位置指定部により指定された1つ以上の位置情報に基づいて顎の輪郭特徴を検出し、その検出した顎の輪郭特徴から顎の形状を判定するステップと、
この判定結果に対応する構造の3次元モデルを選択して、所望の3次元モデルを生成するステップと、を備えたことを特徴とする3次元モデル生成方法。 - 入力画像からその画像に含まれる顔の3次元モデルを生成する方法であって、
入力部から顔の画像を入力するステップと、
入力された顔の特徴点の位置情報を位置指定部により指定して、画像上の顔の中心位置を確定するステップと、
顔輪郭の近傍に初期輪郭の配置を行うステップと、
画像上の顔の中心位置と初期輪郭とに基づいて、顔中心座標と初期輪郭上の各座標とを結ぶ直線上の隣り合う画素間の色差を算出し、対象画素間の座標中点を座標値として、算出した色差を画素値にもつ色差マップ画像を作成するステップと、
作成した色差マップ画像を利用して、初期輪郭を動的輪郭モデルに従って移動させることにより、輪郭線を抽出するステップと、
抽出した輪郭線を元に距離関数を算出するステップと、
算出した距離関数の特徴を、基準となる顎形状の輪郭線からあらかじめ作成しておいた距離関数と比較することにより、顎の形状を判定するステップと、
この判定結果に対応する構造の3次元モデルを選択して、所望の3次元モデルを生成するステップと、を含むことを特徴とする3次元モデル生成方法。 - 入力画像からその画像に含まれる対象物体の3次元モデルを生成するプログラムを記録したコンピュータ読み取り可能な記録媒体であって、
入力部から対象物体の画像を入力するステップと、
入力された画像中の対象物体の大きさ、位置および方向を検出するステップと、
記憶部に記憶されている概略形状モデルを、検出した同じ大きさ、位置および方向に投影した場合の各頂点の画像上の位置を計算するステップと、
同じ概略形状モデルをあらかじめ定めた規定の大きさ、位置および方向に投影した場合の各頂点の画像上の位置を計算するステップと、
これらのステップにより計算された同じ頂点の両画像上の座標の対応関係に基づいて画像の変形を行うステップと、
前記概略形状モデルをあらかじめ定めた規定の大きさ、位置および方向に投影した場合の輪郭付近および/または輪郭の外側に相当する領域を、輪郭の内側の画素値により埋めることにより、対象物体をあらかじめ定めた規定の大きさ、位置および方向から見た場合の近似画像を生成するステップと、
この近似画像を概略形状モデルに貼り付けるテクスチャマップデータとしてテクスチャ付き3次元モデルを生成するステップと、を含むことを特徴とする3次元モデル生成プログラムを記録した記録媒体。 - 画像からその画像に含まれる顔の3次元モデルを生成するプログラムを記録したコンピュータ読み取り可能な記録媒体であって、
入力部から顔の画像を入力するステップと、
入力された顔の各部位を位置指定部によって指定するステップと、
位置指定部により指定された1つ以上の位置情報に基づいて顎の輪郭特徴を検出し、その検出した顎の輪郭特徴から顎の形状を判定するステップと、
この判定結果に対応する構造の3次元モデルを選択して、所望の3次元モデルを生成するステップと、を含むことを特徴とする3次元モデル生成プログラムを記録した記録媒体。 - 画像からその画像に含まれる顔の3次元モデルを生成するプログラムを記録したコンピュータ読み取り可能な記録媒体であって、
入力部から顔の画像を入力するステップと、
入力された顔の特徴点の位置情報を位置指定部により指定して、画像上の顔の中心位置を確定するステップと、
顔輪郭の近傍に初期輪郭の配置を行うステップと、
画像上の顔の中心位置と初期輪郭とに基づいて、顔中心座標と初期輪郭上の各座標とを結ぶ直線上の隣り合う画素間の色差を算出し、対象画素間の座標中点を座標値として、算出した色差を画素値にもつ色差マップ画像を作成するステップと、
作成した色差マップ画像を利用して、初期輪郭を動的輪郭モデルに従って移動させることにより、輪郭線を抽出するステップと、
抽出した輪郭線を元に距離関数を算出するステップと、
算出した距離関数の特徴を、基準となる顎形状の輪郭線からあらかじめ作成しておいた距離関数と比較することにより、顎の形状を判定するステップと、
この判定結果に対応する構造の3次元モデルを選択して、所望の3次元モデルを生成するステップと、を含むことを特徴とする3次元モデル生成プログラムを記録した記録媒体。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP28338799A JP3639475B2 (ja) | 1999-10-04 | 1999-10-04 | 3次元モデル生成装置および3次元モデル生成方法ならびに3次元モデル生成プログラムを記録した記録媒体 |
US09/679,482 US6879323B1 (en) | 1999-10-04 | 2000-10-04 | Three-dimensional model generation device, three-dimensional model generation method, and recording medium for storing the three-dimensional model generation method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP28338799A JP3639475B2 (ja) | 1999-10-04 | 1999-10-04 | 3次元モデル生成装置および3次元モデル生成方法ならびに3次元モデル生成プログラムを記録した記録媒体 |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002180541A Division JP2003044841A (ja) | 2002-06-20 | 2002-06-20 | モデル生成装置およびモデル生成方法ならびにモデル生成プログラムを記録した記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2001109907A JP2001109907A (ja) | 2001-04-20 |
JP3639475B2 true JP3639475B2 (ja) | 2005-04-20 |
Family
ID=17664868
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP28338799A Expired - Fee Related JP3639475B2 (ja) | 1999-10-04 | 1999-10-04 | 3次元モデル生成装置および3次元モデル生成方法ならびに3次元モデル生成プログラムを記録した記録媒体 |
Country Status (2)
Country | Link |
---|---|
US (1) | US6879323B1 (ja) |
JP (1) | JP3639475B2 (ja) |
Families Citing this family (46)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3848101B2 (ja) * | 2001-05-17 | 2006-11-22 | シャープ株式会社 | 画像処理装置および画像処理方法ならびに画像処理プログラム |
JP4611575B2 (ja) * | 2001-06-20 | 2011-01-12 | セコム株式会社 | 本人認証用の顔画像照合装置 |
JP4708619B2 (ja) * | 2001-07-31 | 2011-06-22 | キヤノン株式会社 | 立体画像形成システムおよび立体画像形成方法 |
CA2457839C (en) * | 2001-08-14 | 2010-04-27 | Pulse Entertainment, Inc. | Automatic 3d modeling system and method |
EP1365359A1 (en) * | 2002-05-24 | 2003-11-26 | BRITISH TELECOMMUNICATIONS public limited company | Image processing method and system |
JP2004040445A (ja) * | 2002-07-03 | 2004-02-05 | Sharp Corp | 3d表示機能を備える携帯機器、及び3d変換プログラム |
JP2004252511A (ja) * | 2003-02-18 | 2004-09-09 | Hitachi Ltd | 顔向き推定方法 |
JP2005049913A (ja) * | 2003-05-30 | 2005-02-24 | Konami Computer Entertainment Yokyo Inc | 画像処理装置、画像処理方法及びプログラム |
US7643684B2 (en) * | 2003-07-15 | 2010-01-05 | Samsung Electronics Co., Ltd. | Apparatus for and method of constructing multi-view face database, and apparatus for and method of generating multi-view face descriptor |
JP2005092588A (ja) * | 2003-09-18 | 2005-04-07 | Hitachi Software Eng Co Ltd | 合成画像プリント装置及び画像編集方法 |
JP4449723B2 (ja) | 2004-12-08 | 2010-04-14 | ソニー株式会社 | 画像処理装置、画像処理方法、およびプログラム |
CN101120379B (zh) * | 2005-02-17 | 2010-12-08 | 富士通株式会社 | 图像处理方法和图像处理系统 |
JP2007026088A (ja) * | 2005-07-15 | 2007-02-01 | Oki Electric Ind Co Ltd | モデル生成装置 |
US20070071288A1 (en) * | 2005-09-29 | 2007-03-29 | Quen-Zong Wu | Facial features based human face recognition method |
US20070174010A1 (en) * | 2006-01-24 | 2007-07-26 | Kiran Bhat | Collective Behavior Modeling for Content Synthesis |
JP4345755B2 (ja) * | 2006-02-16 | 2009-10-14 | セイコーエプソン株式会社 | 入力位置設定方法、入力位置設定装置、入力位置設定プログラムおよび情報入力システム |
JP2007272318A (ja) * | 2006-03-30 | 2007-10-18 | Rozefu Technol:Kk | 人物写真画像の加工方法 |
US7778491B2 (en) * | 2006-04-10 | 2010-08-17 | Microsoft Corporation | Oblique image stitching |
US8446410B2 (en) * | 2006-05-11 | 2013-05-21 | Anatomage Inc. | Apparatus for generating volumetric image and matching color textured external surface |
JP4986279B2 (ja) * | 2006-09-08 | 2012-07-25 | 任天堂株式会社 | ゲームプログラムおよびゲーム装置 |
ES2319592B1 (es) * | 2006-09-25 | 2010-01-29 | Insca Internacional, S.L. | Sistema de simulacion virtual de espacios, decorados y similares. |
KR100810326B1 (ko) * | 2006-10-10 | 2008-03-04 | 삼성전자주식회사 | 다해상도 3차원 모델 생성 방법 |
US7978191B2 (en) * | 2007-09-24 | 2011-07-12 | Dolphin Imaging Systems, Llc | System and method for locating anatomies of interest in a 3D volume |
JP4625067B2 (ja) * | 2007-11-20 | 2011-02-02 | 富士フイルム株式会社 | 撮像装置および方法並びにプログラム |
US9536344B1 (en) * | 2007-11-30 | 2017-01-03 | Roblox Corporation | Automatic decoration of a three-dimensional model |
US8253726B1 (en) | 2008-01-09 | 2012-08-28 | Spaceclaim Corporation, Inc. | Systems and methods for modifying three dimensional geometry using an arbitrary cross-section plane |
JP2010186288A (ja) * | 2009-02-12 | 2010-08-26 | Seiko Epson Corp | 顔画像の所定のテクスチャー特徴量を変更する画像処理 |
JP5463866B2 (ja) * | 2009-11-16 | 2014-04-09 | ソニー株式会社 | 画像処理装置および画像処理方法、並びにプログラム |
JP5419757B2 (ja) * | 2010-03-09 | 2014-02-19 | セコム株式会社 | 顔画像合成装置 |
JP5430456B2 (ja) * | 2010-03-16 | 2014-02-26 | キヤノン株式会社 | 幾何特徴抽出装置、幾何特徴抽出方法、及びプログラム、三次元計測装置、物体認識装置 |
EP2503513A1 (en) * | 2010-06-11 | 2012-09-26 | Altron Corporation | Character generation system, character generation method, and program |
TWI430185B (zh) * | 2010-06-17 | 2014-03-11 | Inst Information Industry | 臉部表情辨識系統及其辨識方法及其電腦程式產品 |
US8861800B2 (en) * | 2010-07-19 | 2014-10-14 | Carnegie Mellon University | Rapid 3D face reconstruction from a 2D image and methods using such rapid 3D face reconstruction |
JP5406813B2 (ja) | 2010-10-05 | 2014-02-05 | 株式会社ソニー・コンピュータエンタテインメント | パノラマ画像表示装置およびパノラマ画像表示方法 |
JP2012244526A (ja) * | 2011-05-23 | 2012-12-10 | Sony Corp | 情報処理装置、情報処理方法及びコンピュータプログラム |
JP5842541B2 (ja) * | 2011-11-01 | 2016-01-13 | 大日本印刷株式会社 | 三次元ポートレートの作成装置 |
US8933928B2 (en) * | 2011-11-22 | 2015-01-13 | Seiko Epson Corporation | Multiview face content creation |
JP5841418B2 (ja) * | 2011-12-01 | 2016-01-13 | キヤノン株式会社 | 情報処理装置、情報処理方法、及びプログラム |
JP5450739B2 (ja) * | 2012-08-30 | 2014-03-26 | シャープ株式会社 | 画像処理装置及び画像表示装置 |
KR101696007B1 (ko) * | 2013-01-18 | 2017-01-13 | 한국전자통신연구원 | 3d 몽타주 생성 장치 및 방법 |
JP5790692B2 (ja) | 2013-03-29 | 2015-10-07 | ソニー株式会社 | 情報処理装置、情報処理方法および記録媒体 |
SG10201804876PA (en) * | 2013-12-15 | 2018-07-30 | 7893159 Canada Inc | Method and system for comparing 3d models |
KR101997500B1 (ko) | 2014-11-25 | 2019-07-08 | 삼성전자주식회사 | 개인화된 3d 얼굴 모델 생성 방법 및 장치 |
KR102229061B1 (ko) * | 2018-08-09 | 2021-03-17 | 에스케이텔레콤 주식회사 | 표정 인식 모델 생성 장치 및 방법, 및 이를 이용한 표정 인식 장치 및 방법 |
WO2020116685A1 (ko) * | 2018-12-06 | 2020-06-11 | 주식회사 딥픽셀 | 표준 얼굴 모델 기반 얼굴 특징점 추정 영상 처리장치 및 표준 얼굴 모델 기반 얼굴 특징점 추정 영상 처리를 수행하기 위한 프로그램이 기록된 컴퓨터로 읽을 수 있는 물리적 기록매체 |
CN111402124B (zh) * | 2020-03-24 | 2022-05-17 | 支付宝(杭州)信息技术有限公司 | 一种纹理图像和合成图像的生成方法和装置 |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH04289976A (ja) * | 1991-03-19 | 1992-10-14 | Hitachi Ltd | 三次元形状モデル生成方法およびシステム |
JPH06282652A (ja) * | 1993-03-29 | 1994-10-07 | Olympus Optical Co Ltd | 画像の輪郭抽出装置 |
JPH08315152A (ja) * | 1995-05-22 | 1996-11-29 | Sony Corp | 画像認識装置 |
JP3735893B2 (ja) * | 1995-06-22 | 2006-01-18 | セイコーエプソン株式会社 | 顔画像処理方法および顔画像処理装置 |
JPH0997344A (ja) * | 1995-09-29 | 1997-04-08 | Fujitsu Ltd | テクスチャ生成方法およびテクスチャ生成システム |
US5963209A (en) * | 1996-01-11 | 1999-10-05 | Microsoft Corporation | Encoding and progressive transmission of progressive meshes |
US6016148A (en) * | 1997-06-06 | 2000-01-18 | Digital Equipment Corporation | Automated mapping of facial images to animation wireframes topologies |
US6381346B1 (en) * | 1997-12-01 | 2002-04-30 | Wheeling Jesuit University | Three-dimensional face identification system |
US6256039B1 (en) * | 1998-08-14 | 2001-07-03 | The Board Of The Leland Stanford Junior University | Methods for manipulating curves constrained to unparameterized surfaces |
US6456287B1 (en) * | 1999-02-03 | 2002-09-24 | Isurftv | Method and apparatus for 3D model creation based on 2D images |
-
1999
- 1999-10-04 JP JP28338799A patent/JP3639475B2/ja not_active Expired - Fee Related
-
2000
- 2000-10-04 US US09/679,482 patent/US6879323B1/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2001109907A (ja) | 2001-04-20 |
US6879323B1 (en) | 2005-04-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3639475B2 (ja) | 3次元モデル生成装置および3次元モデル生成方法ならびに3次元モデル生成プログラムを記録した記録媒体 | |
US6532011B1 (en) | Method of creating 3-D facial models starting from face images | |
Pighin et al. | Modeling and animating realistic faces from images | |
US7363201B2 (en) | Facial image processing methods and systems | |
CN102419868B (zh) | 基于3d头发模板进行3d头发建模的设备和方法 | |
KR100682889B1 (ko) | 영상에 기반한 사실감 있는 3차원 얼굴 모델링 방법 및 장치 | |
JP3954211B2 (ja) | 三次元シーンにおける形状及び模様の復元方法及び装置 | |
WO2022095721A1 (zh) | 参数估算模型的训练方法、装置、设备和存储介质 | |
JP4999731B2 (ja) | 顔画像処理装置 | |
EP3992919B1 (en) | Three-dimensional facial model generation method and apparatus, device, and medium | |
US9224245B2 (en) | Mesh animation | |
JP5842541B2 (ja) | 三次元ポートレートの作成装置 | |
JP2001109913A (ja) | 画像処理装置および画像処理方法ならびに画像処理プログラムを記録した記録媒体 | |
WO1994023390A1 (en) | Apparatus for identifying person | |
JP2010507854A (ja) | ビデオイメージシーケンスを仮想シミュレーションする方法及び装置 | |
CN111127642A (zh) | 一种人脸三维重建方法 | |
Song et al. | A generic framework for efficient 2-D and 3-D facial expression analogy | |
US10755476B2 (en) | Image processing method and image processing device | |
JP2003044841A (ja) | モデル生成装置およびモデル生成方法ならびにモデル生成プログラムを記録した記録媒体 | |
Jeong et al. | Automatic generation of subdivision surface head models from point cloud data | |
KR20010084996A (ko) | 단일 이미지를 이용한 3차원 아바타 제작 방법 및 이를이용한 자판기 | |
JP4316114B2 (ja) | モデルの変形方法およびモデリング装置 | |
JP2002525764A (ja) | グラフィックスおよび画像処理システム | |
JP2001012922A (ja) | 3次元データ処理装置 | |
JPH1145349A (ja) | ワイヤーフレームモデル整合装置及び方法と記録媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040921 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20041122 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20050111 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20050114 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080121 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090121 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100121 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110121 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120121 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130121 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130121 Year of fee payment: 8 |
|
LAPS | Cancellation because of no payment of annual fees |