JP3055666B2 - 3次元画像作成装置 - Google Patents

3次元画像作成装置

Info

Publication number
JP3055666B2
JP3055666B2 JP5628597A JP5628597A JP3055666B2 JP 3055666 B2 JP3055666 B2 JP 3055666B2 JP 5628597 A JP5628597 A JP 5628597A JP 5628597 A JP5628597 A JP 5628597A JP 3055666 B2 JP3055666 B2 JP 3055666B2
Authority
JP
Japan
Prior art keywords
face
person
expression
image
dimensional
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP5628597A
Other languages
English (en)
Other versions
JPH10255070A (ja
Inventor
尚宏 大塚
淳 大谷
Original Assignee
株式会社エイ・ティ・アール知能映像通信研究所
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社エイ・ティ・アール知能映像通信研究所 filed Critical 株式会社エイ・ティ・アール知能映像通信研究所
Priority to JP5628597A priority Critical patent/JP3055666B2/ja
Publication of JPH10255070A publication Critical patent/JPH10255070A/ja
Application granted granted Critical
Publication of JP3055666B2 publication Critical patent/JP3055666B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Processing Or Creating Images (AREA)

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、3次元画像を作成
する3次元画像作成装置に関するものである。
【0002】
【従来の技術】異なる場所の人物同士の仮想的なシーン
を介した新しいコミュニケーション手段などの仮想的環
境の実現のためには、3次元人物像の表示法が重要であ
り、実際の人物の姿の忠実な再現、人物の姿を別の姿に
変換する仮想変身、の大別して2通りの表示法が存在す
ると考えられる。ここで、仮想変身システムの応用とし
ては娯楽や芸術がまず考えられるが、一方でテレビ電話
などの映像通信が必ずしも盛んでない要因の1つに、自
分の素顔が相手のテレビに映ることへの抵抗感があるこ
とを考えると、仮想変身は映像通信の普及のためのポイ
ントの1つということができる。
【0003】ある人物の表情を別の人物の表情に変換す
る従来の技術としては、顔の3次元コンピュータグラフ
ィック(CG)モデルにおいて、ある人物より検出され
た表情を再現する技術がある。
【0004】
【発明が解決しようとする課題】しかしながら、これら
従来の表情再現法に関する技術では、顔の表情筋の動作
に伴う皮膚表面の収縮量の推定結果に基づき、3次元ワ
イヤフレームモデル(3DWFM)を変形して表情を生
成するにとどまっていた。すなわち、これらの従来技術
では、表情認識における特徴抽出処理と、表情生成とが
概念的には直結されていたため、異なる人物同士などの
表情変換処理は全く考慮されていなかった。
【0005】そこで、本発明は、表情筋の動作量の検出
結果だけでなく、表情の認識処理結果も併せて利用する
ことにより、ある人物の表情を他の人物の表情に変換し
て3次元顔画像を生成する3次元画像作成装置を提供す
ることを目的とする。
【0006】
【課題を解決するための手段】請求項1に係る3次元画
像作成装置は、入力される第1の人物の顔動画像に基づ
き、第2の人物の予め作成された3次元顔モデルを変形
して前記第2の人物の3次元顔画像を作成する3次元画
像作成装置において、入力される第1の人物の顔動画像
から顔要素の変形量を計測し、変形量から得られる特徴
ベクトルに基づいて第1のパラメータを決定することに
より第1の人物の表情を認識する表情認識手段と、第
のパラメータを、第2の人物の表情変化から予め得られ
顔要素の変化率に基づいて、第2の人物の3次元顔モ
デルを変形するための第2のパラメータに変換する表情
変換手段とを備えるものである。
【0007】
【発明の実施の形態】以下、本発明の実施の形態を図面
を参照して詳しく説明する。
【0008】図1は、本発明の実施の形態に係る3次元
画像作成装置の構成を示すブロック図である。図1に示
されるように、この3次元画像作成装置は、ある人物の
顔入力動画像において、顔要素の変形量を計測し、その
変形量から得られる特徴ベクトルに基づいて、第1のパ
ラメータとしての状態確率を算出することにより上記顔
入力動画像の表情を認識する表情認識部1と、他の人物
の顔の形状を入力する形状入力部7と、形状入力部7に
入力されたデータに基づいて3次元(3D)顔ワイヤフ
レームモデル(WFM)を生成する3D顔WFM生成部
9と、表情認識部1で算出された状態確率を、表情認識
部1で計測された変形量に基づいて、上記3D顔WFM
を変形するための第2のパラメータとしての顔モデル変
形パラメータに変換する表情変換部3と、上記他の人物
の顔の映像を入力する映像入力部11と、映像入力部1
1に入力された映像に基づいて顔表面の色彩情報を獲得
するカラーテクスチャ記憶部13と、表情生成部5とを
備える。ここで、表情生成部5は、表情変換部3で算出
された顔モデル変形パラメータに基づいて3D顔WFM
生成部9で生成された3D顔WFMを変形する3D顔W
FM変形部51と、変形された3D顔WFMにカラーテ
クスチャ記憶部13で得られた色彩情報に基づいて色彩
を付するテクスチャマッピング部53とを含む。
【0009】以下において、上記の主要な各部について
詳しく説明する。図2は、図1に示される表情認識部1
の動作を示すフローチャートである。図2に示されるよ
うに、まず最初にステップS1では、入力される動画像
のフレーム毎に顔の各部位の速度ベクトルを推定する。
具体的には、顔入力動画像の隣接する2つのフレームか
らオプティカルフローアルゴリズムを用いて速度ベクト
ルを求める。画像処理においては、たとえば、右目およ
び口をそれぞれ中心とする2つの領域に対して行なう。
この2つの領域の位置合わせは、動画像の第1フレーム
において手動で行なう。なお、動画像はヘルメットに装
着された小型CCDカメラにより撮影されているので頭
部の動きの影響はない。
【0010】次に、ステップS2では、ステップS1で
得られた速度ベクトルの各成分に離散フーリエ変換を施
し、フーリエ変換係数の低周波成分(右目・口領域から
7,8個、合計15個)を特徴ベクトルとして抽出す
る。これらの特徴ベクトルの成分は、表情変化の開始時
および終了時に値が0となり2つの時刻での区別がつか
ないため、右目および口領域の速度ベクトルの自乗和を
時間積分した値を特徴ベクトルの成分として加える。
【0011】次に、ステップS3,S4では、それぞれ
隠れマルコフモデル(HMM)を用いて各表情カテゴリ
の出力・状態確率を算出する。
【0012】HMMは状態数Nと、状態Si から次の時
刻に状態Sj に遷移する確率aij、状態Sj への遷移に
伴って特徴ベクトルVを出力する出力確率bj (V)に
よって特徴付けられる。ここでは、表情の変化が3つの
筋肉の状態(弛緩、収縮中、収縮終了)の変化により引
起こされると仮定し、さらに、その変化は1方向である
として図3に示すLeft−to−right型のHM
Mによりモデル化する。
【0013】ステップS3で算出される出力確率b
j (V)は、以下のように平均値ベクトルμ、共分散行
列Uをパラメータとする多変数正規分布N[V,μ,
U]の荷重平均(混合数M、荷重cjk)により近似す
る。
【0014】
【数1】
【0015】ここで、j番目の混合要素におけるパラメ
ータμjk,Ujkは学習データからクラスタリング手法に
より初期値を設定し、Baum−Welchアルゴリズ
ムを用いて求める。
【0016】一方、ステップS4での状態確率算出にお
いては、遷移確率aijは乱数により初期値を設定し、B
aum−Welchアルゴリズムを用いて求められる。
【0017】特徴ベクトルVの時系列Vtが与えられた
とき、HMMの状態Si の時刻tでの第1のパラメータ
としての状態確率pi (t)は以下の前向きパスアルゴ
リズムにより求められる。
【0018】
【数2】
【0019】次に、ステップS5では、筋肉の収縮が終
了した状態S3 の確率が最大となる表情カテゴリを認識
結果とするが、表情変換においては、筋肉が収縮中の状
態S 2 の確率を表情変換部3に出力する。
【0020】表情変換部3では、次式のように表情認識
部1で得られた表情カテゴリの確率(状態S2 の確率)
を要素とするベクトルPに表情変換行列Tを乗算して、
以下で説明する第2のパラメータとしての顔モデル変形
パラメータを要素とするベクトルDを求める。
【0021】
【数3】
【0022】表情変換行列Tの(i,j)要素は各表情
に対する変形パラメータDi のフレーム間隔当りの変化
量を表わす。この行列Tの要素の設定には、Ekman
らが表情分析の手法として提案したFACS(Facial A
ction Coding System )を適用する。
【0023】具体的には、行列Tの要素の値は、表情と
顔モデル変形パラメータとの相関がある要素に対して、
上記他の人物の表情変化を示す顔動画像から予め得られ
る筋肉の収縮速度、顎の回転の角速度、目および口の形
状変化の高さあるいは幅の変化率であり、変換した表情
を形成する他の人物の顔モデルの種類に依存しないもの
である。
【0024】表情生成部5は、3D顔WFM変形部51
で29個の顔モデル変形パラメータにより3D顔WFM
を変形し、テクスチャマッピング部53でその3D顔W
FMの上にテクスチャをマッピングする。顔モデル変形
パラメータは、具体的には、表情筋の収縮につき自由度
26、顎の回転につき自由度1、目の開閉につき自由度
1、口を尖らすことにつき自由度1を有するものであ
る。表情筋の中で、大頬骨筋などの線型筋肉は骨(筋肉
の始点と呼ぶ)と皮膚(筋肉の終点と呼ぶ)とに端点を
持ち、筋肉の収縮により終点の近傍の皮膚を始点の方向
に移動させる作用をする。ここで、この作用を3D顔W
FMにおいては終点の近傍の頂点を始点の方向に移動さ
せることにより実現する方法も考えられているが、本実
施の形態においては、皮膚の弾性体モデルに基づいて皮
膚の移動量を算出する。
【0025】まず、1次元のモデルで考える。x軸の原
点に筋肉の終点があり、x軸の負方向に筋肉が収縮した
ときの点xでのずれをu(x)とする。皮膚の微小部分
に働く両側からの応力と皮膚の位置のずれに伴う張力と
は釣り合っているので、応力の差F1 および張力F2
表わす以下の式を等しいとおいて微分方程式を解くと解
(6)が得られる。
【0026】
【数4】
【0027】
【数5】
【0028】
【数6】
【0029】ここで、Y,k,Aは皮膚のヤング率、張
力係数、厚みである。以上のモデルを2次元に拡張して
原点に筋肉の終点があり、始点が負のx軸上にある座標
系で考えると、筋肉がx軸方向に収縮したときの点
(x,y)でのx軸方向のずれu(x,y)は以下の式
で書ける。
【0030】
【数7】
【0031】ここで、Sは皮膚の剛性率である。剛性率
の値をヤング率の1/3とし、係数を新たにαと定義す
ると式(6)は次式のように書ける。
【0032】
【数8】
【0033】ここで、筋肉の幅を考慮して式(7)のy
として筋肉の端からの長さが用いられる。
【0034】係数αは皮膚の柔軟性に比例しており、値
が大きいほど柔軟となり筋肉の影響は局所化される。こ
こで、係数αを操作することにより、表情を強調したり
抑制したりすることができる。
【0035】たとえば、表情の生成において、顎の回転
は、まず顎骨の近傍の頂点を顎の回転角分回転させ、次
に、隣り合う頂点の移動量の変化が滑らかになるように
調整する。そして、口の輪郭部は式(6)を用いて張力
によるずれを求めて補正する。
【0036】一方、眼輪筋と口輪筋は、楕円型の形状で
楕円の中心に向かって収縮するため、線型筋のように簡
単にモデル化することはできない。そこで、目の開閉お
よび口を尖らす動作に対して3Dモデルの頂点の速度ベ
クトルを予め用意しておき、動作の大きさに応じて速度
ベクトルの長さを変えることにより表情を生成する。
【0037】以上より、本発明の実施の形態に係る3次
元画像作成装置によれば、ある人物の入力動画像に対し
て、入力動画像の表情の変化に追随したリアリズムの高
い表情を他の人物の顔に対応する3D顔WFM上に生成
することができ、ユーザの所望の顔を用いたインタフェ
ースを容易に作成することができる。また、ある人物の
表情を強調等し、その強調等された表情を他の人物の表
情として表わすことができるため、ある人物の心情を容
易に理解させることのできる3次元顔画像を作成するこ
とができる。
【0038】
【発明の効果】請求項1に係る3次元画像作成装置によ
れば、動画像中のある人物の表情を他の人物の3次元顔
モデルにおける表情に変換した3次元顔画像を作成する
ことができる。
【図面の簡単な説明】
【図1】本発明の実施の形態に係る3次元画像作成装置
の構成を示すブロック図である。
【図2】図1に示される表情認識部の動作を説明するた
めのフローチャートである。
【図3】状態数が3のときのLeft−to−righ
t型HMMの構成を示す図である。
【符号の説明】
1 表情認識部 3 表情変換部 5 表情生成部 9 3D顔WFM生成部 51 3D顔WFM変形部
───────────────────────────────────────────────────── フロントページの続き (56)参考文献 電子情報通信学会技術研究報告,IE 96−117「バーチャル歌舞伎システム」, 平成9年2月3日 (58)調査した分野(Int.Cl.7,DB名) G06T 15/00 - 17/40 JICSTファイル(JOIS)

Claims (1)

    (57)【特許請求の範囲】
  1. 【請求項1】 入力される第1の人物の顔動画像に基づ
    き、第2の人物の予め作成された3次元顔モデルを変形
    して前記第2の人物の3次元顔画像を作成する3次元画
    像作成装置において、 入力される第1の人物の顔動画像から顔要素の変形量を
    計測し、前記変形量から得られる特徴ベクトルに基づい
    て第1のパラメータを決定することにより前記第1の人
    物の表情を認識する表情認識手段と 記第1のパラメータを、前記第2の人物の表情変化か
    予め得られ顔要素の変化率に基づいて、前記第2の
    人物の3次元顔モデルを変形するための第2のパラメー
    タに変換する表情変換手段とを備えたことを特徴とする
    3次元画像作成装置。
JP5628597A 1997-03-11 1997-03-11 3次元画像作成装置 Expired - Fee Related JP3055666B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP5628597A JP3055666B2 (ja) 1997-03-11 1997-03-11 3次元画像作成装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP5628597A JP3055666B2 (ja) 1997-03-11 1997-03-11 3次元画像作成装置

Publications (2)

Publication Number Publication Date
JPH10255070A JPH10255070A (ja) 1998-09-25
JP3055666B2 true JP3055666B2 (ja) 2000-06-26

Family

ID=13022837

Family Applications (1)

Application Number Title Priority Date Filing Date
JP5628597A Expired - Fee Related JP3055666B2 (ja) 1997-03-11 1997-03-11 3次元画像作成装置

Country Status (1)

Country Link
JP (1) JP3055666B2 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100421740B1 (ko) * 2000-11-14 2004-03-10 삼성전자주식회사 객체 활동 모델링 방법
KR20020049382A (ko) * 2000-12-19 2002-06-26 이형민 표정 생성 시스템 및 이를 이용한 표정 생성 방법
US9400921B2 (en) * 2001-05-09 2016-07-26 Intel Corporation Method and system using a data-driven model for monocular face tracking
US7068277B2 (en) * 2003-03-13 2006-06-27 Sony Corporation System and method for animating a digital facial model
US20070268293A1 (en) 2006-05-19 2007-11-22 Erick Miller Musculo-skeletal shape skinning
WO2009038484A1 (en) * 2007-09-19 2009-03-26 David Aaron Bennett Deformable robotic surface
KR100896065B1 (ko) 2007-12-17 2009-05-07 한국전자통신연구원 3차원 얼굴 표정 애니메이션 생성 방법
JP2014085952A (ja) * 2012-10-25 2014-05-12 Kddi Corp 表情生成装置およびプログラム
JP2014167737A (ja) * 2013-02-28 2014-09-11 Kddi Corp 仕草生成装置およびプログラム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
電子情報通信学会技術研究報告,IE96−117「バーチャル歌舞伎システム」,平成9年2月3日

Also Published As

Publication number Publication date
JPH10255070A (ja) 1998-09-25

Similar Documents

Publication Publication Date Title
Terzopoulos et al. Analysis and synthesis of facial image sequences using physical and anatomical models
KR100715735B1 (ko) 디지털 안면 모델을 애니메이팅하기 위한 시스템 및 방법
Choe et al. Performance‐driven muscle‐based facial animation
US6967658B2 (en) Non-linear morphing of faces and their dynamics
Noh et al. A survey of facial modeling and animation techniques
JP5344358B2 (ja) 演技から作り出される顔アニメーション
Ersotelos et al. Building highly realistic facial modeling and animation: a survey
US20050057569A1 (en) Static and dynamic 3-D human face reconstruction
KR20010042673A (ko) 아바타 애니메이션을 위한 웨이브렛-기본 얼굴 움직임 캡쳐
JP2003044873A (ja) 顔の3次元モデルの作成方法及びその変形方法
Suetens et al. Statistically deformable face models for cranio-facial reconstruction
JP3055666B2 (ja) 3次元画像作成装置
Tao et al. Bezier volume deformation model for facial animation and video tracking
Pitermann et al. An inverse dynamics approach to face animation
Otsuka et al. Extracting facial motion parameters by tracking feature points
Zhang et al. Constructing a realistic face model of an individual for expression animation
Ma et al. Animating visible speech and facial expressions
KR100827749B1 (ko) 피디에이를 이용한 맞춤형 쓰리디 얼굴 생성/표정구현시스템 및 구현 방법
Ishikawa et al. 3D face expression estimation and generation from 2D image based on a physically constraint model
Basu A three-dimensional model of human lip motion
Erkoç et al. An observation based muscle model for simulation of facial expressions
WO2015042867A1 (zh) 一种基于单摄像头与运动捕捉数据的人脸表情编辑方法
Cowe Example-based computer-generated facial mimicry
Otsuka et al. Converting facial expressions using recognition-based analysis of image sequences
Lee The construction and animation of functional facial models from cylindrical range/reflectance data.

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20000321

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090414

Year of fee payment: 9

LAPS Cancellation because of no payment of annual fees