JP2000322577A - 画像照合装置及びその画像照合方法並びにその制御プログラムを記録した記録媒体 - Google Patents

画像照合装置及びその画像照合方法並びにその制御プログラムを記録した記録媒体

Info

Publication number
JP2000322577A
JP2000322577A JP11130715A JP13071599A JP2000322577A JP 2000322577 A JP2000322577 A JP 2000322577A JP 11130715 A JP11130715 A JP 11130715A JP 13071599 A JP13071599 A JP 13071599A JP 2000322577 A JP2000322577 A JP 2000322577A
Authority
JP
Japan
Prior art keywords
image
face
matching
subject
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP11130715A
Other languages
English (en)
Other versions
JP3926059B2 (ja
Inventor
Hitoshi Imaoka
仁 今岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP13071599A priority Critical patent/JP3926059B2/ja
Publication of JP2000322577A publication Critical patent/JP2000322577A/ja
Application granted granted Critical
Publication of JP3926059B2 publication Critical patent/JP3926059B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Image Processing (AREA)
  • Collating Specific Patterns (AREA)

Abstract

(57)【要約】 【課題】 データベースに登録する画像として各人物に
ついて1枚のみしか必要とせず、かつ高い照合性能を得
ることが可能な画像照合装置を提供する。 【解決手段】 画像変換手段10には入力画像信号11
0及び参照画像信号111によって照合対象となる2枚
の顔画像とこれらの顔画像における顔特徴点位置座標と
顔の向きとが入力される。画像変換手段10は形状モデ
ル信号112から供給された標準的な顔立体形状モデル
を用い、入力画像については参照画像の向きを持つ顔の
部分画像を生成し、参照画像については入力画像と同じ
部位を切り出す処理を行う。画像照合手段11は画像変
換手段10から入力された顔部分画像の照合を行い、人
物判定手段12は画像照合手段11で得られた照合結果
を用いて照合対象画像における被写体が同一人物である
かどうかを判定する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は画像照合装置及びそ
の画像照合方法並びにその制御プログラムを記録した記
録媒体に関し、特に二つの画像情報(人物の顔が撮影さ
れた画像)を比較照合する画像照合方法に関する。
【0002】
【従来の技術】人間の顔画像を利用して計算機によって
照合検索する技術について、これまで多くの研究がなさ
れてきているが、現状ではまだ実用化には遠い状況であ
る。この原因は顔が人によらず類似しているにもかかわ
らず、同一人物の顔であっても画像上では非常に大きな
変動が生じるためである。
【0003】変動として考えられる原因の最も大きなも
のの一つとして、画像上での顔の向きが異なるという問
題を挙げることができる。これまで提案された顔画像照
合方法のうち、入力画像の顔の姿勢変化に強いとされて
いる照合方法は以下の3つの手法に分類することができ
る。
【0004】まず、人物毎に複数の異なる方向から顔画
像を予め撮影しておく第1の手法がある。この第1の手
法では予め複数の異なる方向から撮影した顔画像を用意
しておき、入力画像と比較することによって顔の向きに
よらず照合を行っている。
【0005】第1の手法の一例が、1995年に電子情
報通信学会論文誌D−IIの第1639頁乃至第1649
頁に掲載された「顔の向きによらない人物識別のための
辞書構成法」と題する嶌田らの論文に記載されている。
その論文によると、入力画像との間の顔の向きが15度
以下となるような顔画像を予め用意しておくことで、登
録人物20名の中から一位に照合された人物が正解であ
る照合率が98%との結果が得られている。
【0006】次に、人物毎に顔の3次元立体形状等の向
き変動を記述するに足る情報を予め得ておく第2の手法
がある。この第2の手法では顔の3次元立体形状を利用
して向きの異なる顔画像を生成して照合を行っている。
【0007】第2の手法の代表的な例が、1991年に
Proceedings of SPIEの第204頁
乃至第216頁に掲載された「A new metho
dfor designing face image
classifierusing 3D CG mo
del」と題するAkamatsuらによる論文に記載
されている。
【0008】その論文に記載された手法では顔の全表面
を覆うように多方向から撮影された顔画像と、顔表面の
3次元位置座標を詳細に計測したデータとを予め参照デ
ータとして保持しておき、このデータから任意の向きの
顔画像を生成して照合を行っている。その場合、向きの
異なる顔画像はまず計測された3次元位置座標を求めた
い向きに回転させ、求めたい向きの立体形状を計算し、
その表面に対応する点の顔画像を張り合わせることによ
って生成している。
【0009】さらに、人物に依存しない標準的な顔の3
次元立体形状等、向き変動を記述するに足る情報を予め
得ておく第3の手法がある。この第3の手法では人物に
依存しない標準的な顔の3次元立体形状をモデルとして
保持しておくことで、各人物についての顔画像が1枚だ
けであっても、顔の向きを補正して照合することを可能
としている。
【0010】第3の手法の一例が、1995年にPro
ceedings of theInternatio
nal Workshop on Automatic
Face− and Gesture−Recogni
tionの第26頁乃至第28頁に掲載された「Sin
gle−View Based Recognitio
n of Faces Rotated in Dep
th」と題するMaurerらによる論文に記載されて
いる。
【0011】その論文に記載された手法では標準的な顔
の3次元立体形状を予め2方向から撮影された複数人の
顔画像を学習データとして用意しておき、これら画像デ
ータから標準的な顔の立体形状を推定しておくことに特
徴がある。顔の立体形状は顔の中の瞳中心や目尻・目頭
・鼻先等の各特徴点周辺毎に平面で近似することで、学
習を容易としている。
【0012】このとき、その領域毎の平面の傾きは上記
学習データによって推定する方法を提案している。この
論文に記載された手法では実際の顔画像に上記の方法を
適用し、45度横方向を向いた顔の画像と正面向きの顔
とを比較することで、登録人物90名中から一位に照合
された人物が正解である照合率が50%との結果を得て
いる。
【0013】
【発明が解決しようとする課題】上述した従来の画像照
合方法では、第1の手法の場合、各人物に対して異なる
視線方向から撮影した顔画像を複数枚得ておく必要があ
る。そのためには複数台のカメラを設置して撮影する
か、もしくは顔の向きを変更しながら撮影する等の工夫
が必要となる。また、予め撮影できない向きの顔画像に
は対処できない等の問題がある。
【0014】第2の手法の場合には顔画像登録の際に必
ず3次元形状計測装置(レンジファインダ)が必要とな
る。レンジファインダは高価であったり、取り扱いが難
しかったりする等、一般的な装置とはいえないため、第
2の手法は特殊用途のシステムとしてしか適用できな
い。
【0015】同時に、現在まで蓄積されてきている顔画
像は顔情報を2次元画像として保持しているものが一般
的であるが、第2の手法を採用すると、これらの画像の
利用ができないことになってしまう。以上の第1及び第
2の手法の共通の問題としては、登録データの量が著し
く増加してしまうという点も挙げられる。
【0016】第3の手法は登録する顔画像が一枚で良い
ため、上記の第1及び第2の手法の問題を解消している
といえる。しかしながら、その照合率は上記の論文「S
ingle−View Based Recognit
ion of FacesRotated in De
pth」に記載されているように、登録人物が90名で
照合率50%と、実用的であるとはいえない。
【0017】その原因は上記の論文における標準的な顔
の形状を、瞳中心や目尻・目頭・鼻先等を中心とした部
分領域が平面で十分よく近似できるとした現実に合致し
ない仮定にある。
【0018】そこで、本発明の目的は上記の問題点を解
消し、データベースに登録する画像として各人物につい
て1枚のみしか必要とせず、かつ高い照合性能を得るこ
とができる画像照合装置及びその画像照合方法並びにそ
の制御プログラムを記録した記録媒体を提供することに
ある。
【0019】
【課題を解決するための手段】本発明による画像照合装
置は、人の顔の標準的な立体形状を記述した顔立体形状
モデルを用いて入力顔画像の被写体と識別対象である参
照画像の被写体とが同じ向きになる画像を生成する画像
変換手段と、前記画像変換手段で生成された顔画像を前
記識別対象画像と比較照合する画像照合手段とを備えて
いる。
【0020】本発明による他の画像照合装置は、人の顔
の標準的な立体形状を記述した顔立体形状モデルを用い
て入力顔画像の被写体が識別対象である参照画像の被写
体と同じ向きになる画像を生成する入力画像変換手段
と、前記入力画像変換手段で生成された顔の部分画像を
張り合わせることで顔全体を再構成する画像再構成手段
と、前記画像再構成手段で再構成された画像と前記参照
画像とを比較することで照合を行う全体画像照合手段と
を備えている。
【0021】本発明による別の画像照合装置は、人の顔
の標準的な立体形状を記述した顔立体形状モデルを用い
て入力顔画像の被写体を複数の人の顔画像を記憶するデ
ータベース画像の被写体と同一の向きである画像を生成
する画像変換手段と、前記画像変換手段で生成された顔
画像を比較照合する画像照合手段と、前記画像照合手段
の照合結果を用いて前記データベース画像の顔画像中か
ら人物を検索する人物検索手段とを備えている。
【0022】本発明による画像照合方法は、人の顔の標
準的な立体形状を記述した顔立体形状モデルを用いて照
合対象となる2枚の顔画像における被写体が同一方向を
向いた画像を顔の部位毎に生成するステップと、生成さ
れた画像を用いて照合を行うステップとを備えている。
【0023】本発明による他の画像照合方法は、人の顔
の標準的な立体形状を記述した顔立体形状モデルを用い
て照合対象となる顔画像における顔の向きが参照画像に
おける顔の向きと同じとなる画像を生成するステップ
と、生成された顔の部分画像を張り合わせることにより
顔全体を再構成するステップと、生成された顔画像を前
記参照画像と比較することで照合を行うステップとを備
えている。
【0024】本発明による別の画像照合方法は、人の顔
の標準的な立体形状を記述した顔立体形状モデルを用い
て照合対象となる顔画像における顔の向きが複数の参照
画像からなるデータベース画像における顔の向きと同じ
となる画像を生成するステップと、生成された画像を比
較することで照合を行うステップと、その照合結果を用
いて前記データベース画像中の人物を検索するステップ
とを備えている。
【0025】本発明による画像照合制御プログラムを記
録した記録媒体は、コンピュータに二つの画像情報を比
較照合させるための画像照合制御プログラムを記録した
記録媒体であって、前記画像照合制御プログラムは前記
コンピュータに、顔立体形状モデルを用いて被写体が同
じ向きになる画像を生成させ、生成された顔画像を比較
照合させている。
【0026】本発明による他の画像照合制御プログラム
を記録した記録媒体は、コンピュータに二つの画像情報
を比較照合させるための画像照合制御プログラムを記録
した記録媒体であって、前記画像照合制御プログラムは
前記コンピュータに、立体形状モデルを用いて被写体が
同じ向きになる画像を生成させ、生成された顔の部分画
像を張り合わさせて顔全体を再構成させ、生成された画
像と参照画像とを比較照合させている。
【0027】本発明による別の画像照合制御プログラム
を記録した記録媒体は、コンピュータに二つの画像情報
を比較照合させるための画像照合制御プログラムを記録
した記録媒体であって、前記画像照合制御プログラムは
前記コンピュータに、人の標準的な顔立体形状モデルを
用いて入力画像の被写体を複数の参照画像からなるデー
タベース画像の被写体と同一の向きである画像を生成さ
せ、生成された顔画像を比較照合させ、その比較照合結
果を用いて前記データベース画像の顔画像中から人物を
検索させている。
【0028】すなわち、本発明の第1の画像照合方法で
は、人の顔の標準的な立体形状を記述した顔立体形状モ
デルを用い、照合対象となる2枚の顔画像における被写
体が同一方向を向いた画像を顔の部位毎に生成し、生成
された画像を用いて照合を行っている。
【0029】本発明の第2の画像照合方法では、人の顔
の標準的な立体形状を記述した顔立体形状モデルを用
い、照合対象となる2枚の顔画像における被写体が同一
方向を向いた画像を顔の部位毎に生成し、生成された画
像を用いて照合を行い、その結果を閾値処理することに
よって顔画像に含まれる被写体が同一人物であるか否か
を判別している。
【0030】本発明の第3の画像照合方法では、複数の
照合対象画像の中から顔の向きが近い画像を選び出し、
人の顔の標準的な立体形状を記述した顔立体形状モデル
を使い、選定された2枚の顔画像における被写体が同一
方向を向いた画像を顔の部位毎に生成し、生成された画
像を用いて照合を行い、その結果を閾値処理することに
よって顔画像に含まれる被写体が同一人物であるか否か
を判別している。
【0031】本発明の第4の画像照合方法では、複数の
顔立体形状モデルの中から照合対象画像の被写体に近い
モデルを選び出し、選定された形状モデルを使って該被
写体における顔の向きが異なる画像を顔の部位毎に生成
し、生成された画像を用いて照合を行い、その結果を閾
値処理することによって顔画像に含まれる被写体が同一
人物であるか否かを判別している。
【0032】本発明の第5の画像照合方法では、人の顔
の標準的な立体形状を記述した顔立体形状モデルを用
い、照合対象となる顔画像における顔の向きが異なる画
像を生成し、生成された顔の部分画像を張り合わせるこ
とによって顔全体を再構成し、生成された顔画像を比較
することで照合を行い、その結果を閾値処理することに
よって顔画像に含まれる被写体が同一人物であるか否か
を判別している。
【0033】本発明の第6の画像照合方法では、人の顔
の標準的な立体形状を記述した顔立体形状モデルを用
い、照合対象となる顔画像における顔の向きが異なる画
像を生成し、生成された画像を比較することで照合を行
い、照合結果を用いてデータベース画像中の人物として
いる。
【0034】尚、上記の第1の画像照合方法から第6の
画像照合方法までの手法を組合せて画像照合を行うこと
も可能である。
【0035】上述した方法を実現するために、本発明の
第1の画像照合装置は、識別対象画像を記憶する参照画
像記憶部と、人の顔の標準的な立体形状を記述した顔立
体形状モデルを記憶する形状モデル記憶部と、顔立体形
状モデルを用いて被写体が同じ向きになる画像を生成す
る画像変換手段と、画像変換手段で生成された顔画像を
比較照合する画像照合手段と、照合結果を閾値処理する
ことで顔画像中の被写体が同一人物であるか否かを判定
する人物判定手段とを有している。
【0036】本発明の第2の画像照合装置は、同一人物
を複数方向から撮影した顔画像を保持する参照画像記憶
部と、人の顔の標準的な立体形状を記述した顔立体形状
モデルを記憶する形状モデル記憶部と、複数枚の入力画
像と参照画像の中から顔の向きの近い画像を選び出す画
像選定手段と、選定された2枚の顔画像に対して被写体
が同じ向きになる画像を生成する画像変換手段と、画像
変換手段で生成された顔画像を比較照合する画像照合手
段と、照合結果を閾値処理することで顔画像中の被写体
が同一人物であるか否かを判定する人物判定手段とを有
している。
【0037】本発明の第3の画像照合装置は、識別対象
画像を記憶する参照画像記憶部と、複数の人の顔立体形
状モデルを記憶する形状モデル記憶部と、顔立体形状モ
デルの中から照合対象画像の被写体に近い形状モデルを
選定する形状選定手段と、選定された形状モデルを用い
て照合対象となる2枚の顔画像で被写体が同じ向きにな
る画像を生成する画像変換手段と、画像変換手段で生成
された顔画像を比較照合する画像照合手段と、照合結果
を閾値処理することで顔画像中の被写体が同一人物であ
るか否かを判定する人物判定手段とを有している。
【0038】本発明の第4の画像照合装置は、識別対象
画像を記憶する参照画像記憶部と、人の顔の標準的な立
体形状を記述した顔立体形状モデルを記憶する形状モデ
ル記憶部と、顔立体形状モデルを用いて被写体が同じ向
きになる画像を生成する入力画像変換手段と、生成され
た顔の部分画像を張り合わせることで顔全体を再構成す
る画像再構成手段と、生成された画像と参照画像とを比
較することで照合を行う全体画像照合手段と、照合結果
を閾値処理することで顔画像中の被写体が同一人物であ
るか否かを判定する人物判定手段とを有している。
【0039】本発明の第5の画像照合装置は、複数の人
の顔画像を記憶する参照画像記憶部と、人の顔の標準的
な立体形状を記述した顔立体形状モデルを記憶する形状
モデル記憶部と、人の標準的な顔立体形状モデルを用い
て入力画像の被写体をデータベース画像の被写体と同一
の向きである画像を生成する画像変換手段と、画像変換
手段で生成された顔画像を比較照合する画像照合手段
と、照合結果を用いて参照画像記憶部の顔画像中から人
物を検索する人物検索手段とを有している。
【0040】尚、上述した第1の画像照合装置から第5
の画像照合装置の各構成要素を組合せて一つの画像照合
装置を構成することも可能である。
【0041】本発明の第1の記録媒体に記録されたプロ
グラムはコンピュータに、顔立体形状モデルを用いて被
写体が同じ向きになる画像を生成する画像変換処理と、
画像変換手段で生成された顔画像を比較照合する画像照
合処理と、照合結果を閾値処理することで顔画像中の被
写体が同一人物であるか否かを判定する人物判定処理と
を実行させている。
【0042】本発明の第2の記録媒体に記録されたプロ
グラムはコンピュータに、複数枚の入力画像及び参照画
像の中から顔の向きの近い画像を選び出す画像選定処理
と、選定された2枚の顔画像に対して被写体が同じ向き
になる画像を生成する画像変換処理と、画像変換手段で
生成された顔画像を比較照合する画像照合処理と、照合
結果を閾値処理することで顔画像中の被写体が同一人物
であるか否かを判定する人物判定処理とを実行させてい
る。
【0043】本発明の第3の記録媒体に記録されたプロ
グラムはコンピュータに、立体形状モデルの中から照合
対象画像の被写体に近い形状モデルを選定する形状選定
処理と、選定された形状モデルを用いて照合対象となる
2枚の顔画像で被写体が同じ向きになる画像を生成する
画像変換処理と、画像変換手段で生成された顔画像を比
較照合する画像照合処理と、照合結果を閾値処理するこ
とで顔画像中の被写体が同一人物であるか否かを判定す
る人物判定処理とを実行させている。
【0044】本発明の第4の記録媒体に記録されたプロ
グラムはコンピュータに、立体形状モデルを用いて被写
体が同じ向きになる画像を生成する入力画像変換処理
と、生成された顔の部分画像を張り合わせることで顔全
体を再構成する画像再構成処理と、生成された画像と参
照画像とを比較することで照合を行う全体画像照合処理
と、照合結果を閾値処理することで顔画像中の被写体が
同一人物であるか否かを判定する人物判定処理とを実行
させている。
【0045】本発明の第5の記録媒体に記録されたプロ
グラムはコンピュータに、人の標準的な顔立体形状モデ
ルを用いて入力画像の被写体からデータベース画像の被
写体と同一の向きである画像を生成する画像変換処理
と、画像変換手段で生成された顔画像を比較照合する画
像照合処理と、照合結果を用いて参照画像記憶部の顔画
像中から人物を検索する人物検索処理とを実行させてい
る。
【0046】尚、上述した第1の記録媒体から第5の記
録媒体に記録された各プログラムを組合せて、コンピュ
ータに上記の各処理を実行させることも可能である。こ
れによって、適応条件が限定されかつ照合正解率が低い
という従来の問題を解決することが可能となる。つま
り、データベースに登録する画像として各人物について
1枚のみしか必要とせず、かつ高い照合性能を得ること
が可能となる。
【0047】
【発明の実施の形態】次に、本発明の実施例について図
面を参照して説明する。図1は本発明の第1の実施例に
よる画像照合装置の主要部構成を示すブロック図であ
る。図1において、本発明の第1の実施例による画像照
合装置の主要部は画像変換手段10と、画像照合手段1
1と、人物判定手段12とから構成されている。
【0048】図2は本発明の第1の実施例による画像照
合装置の構成を示すブロック図である。図2において、
本発明の第1の実施例による画像照合装置はスキャナや
キーボード等の入力装置1と、プログラム制御によって
動作するデータ処理装置2と、情報を記憶する記憶装置
3と、ディスプレイ装置や印刷装置等の出力装置4とか
ら構成されている。
【0049】データ処理装置2は本発明の第1の実施例
による画像照合装置の主要部である画像変換手段10と
画像照合手段11と人物判定手段12とから構成されて
おり、記憶装置2は参照画像記憶部60と形状モデル記
憶部61とから構成されている。
【0050】図3は本発明の第1の実施例による画像照
合装置の処理動作を示すフローチャートであり、図4は
顔の向きが異なる画像の例を示す図であり、図5は特徴
点の例を示す図であり、図6は立体形状モデルの例を示
す図であり、図7は顔画像の正規化方法を説明するため
の図であり、図8は顔の向きが異なる画像を生成する方
法を説明するための図である。
【0051】これら図1〜図8を参照して本発明の第1
の実施例による画像照合装置の処理動作について説明す
る。尚、図3に示す処理動作はデータ処理装置2が図示
せぬ制御メモリのプログラムを実行することで実現さ
れ、制御メモリとしてはROM(リードオンリメモリ)
やフロッピディスク等が使用可能である。
【0052】本発明の第1の実施例は顔の向きが異なる
2枚の顔画像を比較照合することによって、これらの画
像中の被写体が同一人物であるかどうかを判定する方法
である。以下の説明においては照合対象となる2枚の顔
画像を区別するため、入力画像及び参照画像と呼ぶこと
とする。
【0053】また、本実施例ではこれら2枚の顔画像で
顔の向きが異なる場合を考える。このような画像の例を
図4に示す。図4(a)では顔は図示せぬカメラ方向に
対して正面を向いているが、(b)では画像中の人物か
ら見て左向きに45度斜めを向いている。以下の説明で
は図4(a)のような顔を正面顔と呼び、図4(b)の
ような顔を左斜め45度向きの顔と呼ぶことにする。
【0054】入力画像信号110からは入力画像とその
入力画像における顔特徴点位置座標と顔の向き情報とが
画像変換手段10へ供給される。ここで、顔の特徴点と
は図5に示すように、瞳中心や目尻・目頭・鼻先等、そ
の点の位置が顔面上で比較的一意に特定しやすい点のこ
とである。
【0055】図5においては×印が特徴点であり、その
近くの番号(1〜7)は特徴点を識別するための番号で
ある。識別番号が小さい順に、右瞳中心(1)、左瞳中
心(2)、右目頭(3)、右目尻(4)、右鼻翼
(5)、鼻下(6)、右口端(7)をそれぞれ指してい
る。また、顔の向き情報とはカメラ方向に対する顔の回
転角のことである。
【0056】参照画像信号111からは参照画像とその
参照画像における顔特徴点位置座標と顔の向きとが供給
される。形状モデル信号112からは人物に依存しない
標準顔の立体形状モデル及びその立体形状モデル上にお
ける顔特徴点位置座標が供給される。図6に立体形状モ
デルの例を示す。この像はギリシャ神話上の登場人物で
あるブルータスの石膏像を3次元形状計測用のレンジフ
ァインダで計測したものである。
【0057】画像変換手段10は入力画像と参照画像と
のうちどちらかまたは両方の画像を変換することによっ
て、両画像での被写体が同じ向きの顔を持つ画像を生成
する(図3ステップS1)。本実施例では入力画像にお
ける顔の向きを変換することによって、参照画像の向き
を持つ顔画像にするものとして以下の説明を行う。しか
しながら、参照画像を変換する場合や両方の画像を変換
する場合についても同様な方法を適用することが可能で
ある。
【0058】画像変換手段10ではまず、特徴点位置座
標を用いて入力画像と参照画像と立体形状モデルにおけ
る顔の大きさとを正規化する。この正規化方法の一例を
図7に示す。
【0059】図7では顔の短軸方向に対して両瞳中心間
の距離をdx、長軸方向に対しては瞳中心と口端との間
の距離をdyとしている。これらの距離を入力画像と参
照画像と立体形状モデルとで等しくなるように画像及び
モデルを変形する。一般には与えられている特徴点位置
座標のうち、なるべくその間の距離が広いものを利用し
て正規化する。
【0060】次に、入力画像を変換することによって、
入力画像上の被写体が参照画像の向きを持つ画像を生成
する。但し、この処理は顔の特徴点毎に行われ、各特徴
点での生成結果として特徴点周辺の顔画像が出力され
る。
【0061】この画像生成方法を図8を用いて説明す
る。図8における特徴点は右瞳中心であり、右上図が入
力画像、左上図及び左下図が立体形状モデルである。右
下の枠は変換によって生成される予定の画像である。ま
た、入力画像は左斜め45度向き、参照画像は正面顔と
する。すなわち、入力画像から右瞳を中心とした正面向
きの画像を生成することが目的である。以下ではこの生
成される予定の画像のことを顔部分画像と呼ぶことにす
る。
【0062】まず、顔部分画像の大きさを決定する。顔
部分画像の大きさは顔立体形状の個人差があまり影響し
ない範囲にする。続いて、入力画像におけるある点が顔
の向き変化によって顔部分画像上のどの点に対応するか
を、立体形状モデルを用いて求める。この対応点の算出
方法を以下に示す。
【0063】入力画像に対して特徴点位置に原点、画像
の横方向にx軸、縦方向にy軸をとる。立体形状モデル
に対して立体形状モデルを3次元空間座標系からx−y
平面へ射影した時に入力画像の向きになるようにx軸と
y軸とをとり、それと垂直方向、すなわち奥行き方向に
z軸をとる。顔部分画像に対して中心位置に原点、画像
の横方向にx軸,縦方向にy軸をとる。
【0064】入力画像上のある点P=(px,py)に
ついて考える。点Pに対応する立体形状モデル上の点を
P’、点P’での奥行きをpzとし、x軸及びy軸を中
心とした顔の回転角をそれぞれsx,syとすると、顔
の向きの変化によって点P’=(px,py,pz)は
点Q’=(qx,qy,qz)に移る。
【0065】点Q’のqx,qy,qzは、 qx=cos(sy)px+sin(sy)pz qy=sin(sx)sin(sy)px +cos(sx)py−sin(sx)cos(sy)pz qz=−cos(sx)sin(sy)px +sin(sx)py+cos(sx)cos(sy)pz ……(1) で表される。ここで、qzは奥行き成分であり、顔部分
画像は2次元平面であるので、点Q’からz成分を除い
た点Q=(qx,qy)が点Pの顔部分画像での対応点
になる。
【0066】このような方法で顔部分画像上のすべての
点での入力画像との対応点を求め、入力画像における輝
度値を顔部分画像上に置換えることよって顔部分画像を
生成する。以上の処理を全ての特徴点について行い、全
特徴点についてその周辺の輝度情報を持った顔部分画像
を生成する。
【0067】また、参照画像については入力画像で生成
された顔部分画像と同じ大きさの画像を切り出してお
く。これは入力画像と同じ部位を切り出しておくことに
よって、照合をしやすくするためである。部分画像信号
113としては入力画像から生成された顔部分画像と参
照画像から生成された顔部分画像とが出力される。
【0068】画像照合手段11では画像変換手段10で
得られた顔部分画像の照合処理が行われる(図3ステッ
プS2)。画像変換手段10で得られた顔部分画像に対
し、これらの画像の類似度を計算するために、
【数1】
【数2】 という関数を導入する。
【0069】ここで、f(i,x),g(i,x)はそ
れぞれ入力画像及び参照画像から生成された顔部分画像
の輝度値である。変数iは特徴点の番号、xは画像上の
空間位置である。Nは特徴点の数、Mは全画素数であ
る。この関数は各部分画像毎に正規化相関を求め、それ
をすべての部分画像で平均したものである。
【0070】画像類似度信号114からは類似度の値R
が供給される。但し、画像照合方法についてはこれ以外
の方法、例えばKL展開を用いた方法等、他の方法でも
本発明で実現することができる。KL展開の方法につい
ては、例えば「画像認識の基礎[II]」(森俊二・板倉
栂子著、オーム社刊、1990年)に詳細に記載されて
いる。
【0071】人物判定手段12は画像照合手段11で得
られた類似度を用いて入力画像の被写体と参照画像の被
写体とが同一人物かどうかを判定する処理を行う(図3
ステップS3)。人物判定手段12では類似度に対して
ある閾値を設定し、類似度が閾値より大きい場合には
“1”が出力され、閾値より小さい場合には“0”が出
力されるようにする。
【0072】これによって、同一人物であると判定され
た場合には出力信号115として“1”が出力され、同
一人物であると判定されない場合には出力信号115と
して“0”が出力される(図3ステップS4)。
【0073】本実施例では向きの異なる顔画像を生成す
る際に、顔の部分毎に画像変換を行うため、顔全体を立
体形状モデルで一括変換した場合に比べ、得られた画像
の変形が少なく、照合率が良くなるという利点がある。
【0074】また、本実施例では照合に顔画像を2枚し
か必要としないため、従来の第1の手法の人物毎に複数
の異なる方向から顔画像を予め撮影しておく手法や、従
来の第2の手法の人物毎に顔の3次元立体形状等の向き
変動を記述するに足る情報を予め得ておく手法と比較し
て記憶容量が少なくてすむという利点もある。
【0075】図9は本発明の第2の実施例による画像照
合装置の主要部構成を示すブロック図である。図9にお
いて、本発明の第2の実施例による画像照合装置の主要
部は画像選定手段20を設けた以外は図1に示す本発明
の第1の実施例による画像照合装置の主要部と同様の構
成となっており、同一構成要素には同一符号を付してあ
る。
【0076】また、同一構成要素の動作は本発明の第1
の実施例による画像照合装置の主要部と同様である。さ
らに、本発明の第2の実施例による画像照合装置は図2
に示すデータ処理装置2の構成が図9に示す構成となっ
ている以外は本発明の第1の実施例による画像照合装置
と同様である。
【0077】本発明の第2の実施例は入力画像信号や参
照画像信号から供給される顔画像が各一枚でなく、各信
号で同一人物を複数の角度から撮影された顔画像が複数
枚供給される場合に用いられる。
【0078】入力画像や参照画像に含まれる画像が1枚
以上であることを示すために、画像を供給する信号の信
号名には入力画像群信号120及び参照画像群信号12
1という名称をつけることにする。
【0079】図10は本発明の第2の実施例による画像
照合装置の処理動作を示すフローチャートである。これ
ら図9及び図10を参照して本発明の第2の実施例によ
る画像照合装置の処理動作について説明する。
【0080】まず、入力画像群信号120によって複数
方向から撮影された顔画像と各顔画像における顔特徴点
位置座標と顔の向きとが供給される。同様に、参照画像
群信号121によって複数方向から撮影された顔画像と
各顔画像における顔特徴点位置座標と顔の向きとが供給
される。
【0081】画像選定手段20は入力画像群の中から1
枚、参照画像群の中から1枚それぞれ画像を選び出す方
式で、その中で最も顔の向きが近いものを選定する(図
10ステップS11)。画像選定手段20からは画像信
号122で、選定された2枚の顔画像とこれらの画像に
おける特徴点位置座標と顔の向きとが出力される。
【0082】画像変換手段10は入力画像群中の1枚の
画像と参照画像群中の1枚の画像とのうちどちらかまた
は両方の画像を変換することによって、両画像での被写
体が同じ向きの顔を持つ画像を生成する(図10ステッ
プS12)。
【0083】画像照合手段11では画像変換手段10で
得られた顔部分画像の照合処理が行われる(図10ステ
ップS13)。人物判定手段12は画像照合手段11で
得られた類似度を用いて入力画像の被写体と参照画像の
被写体とが同一人物かどうかを判定する処理を行う(図
10ステップS14)。
【0084】人物判定手段12からは同一人物であると
判定された場合に出力信号115として“1”が出力さ
れ、同一人物であると判定されない場合に出力信号11
5として“0”が出力される(図10ステップS1
5)。
【0085】本実施例は複数の方向から撮影された顔画
像が入力画像及び参照画像として供給される時に向きの
近い画像を選定しているので、照合精度がよくなるとい
う利点がある。
【0086】図11は本発明の第3の実施例による画像
照合装置の主要部構成を示すブロック図である。図11
において、本発明の第3の実施例による画像照合装置の
主要部は形状選定手段30を設けた以外は図1に示す本
発明の第1の実施例による画像照合装置の主要部と同様
の構成となっており、同一構成要素には同一符号を付し
てある。
【0087】また、同一構成要素の動作は本発明の第1
の実施例による画像照合装置の主要部と同様である。さ
らに、本発明の第3の実施例による画像照合装置は図2
に示すデータ処理装置2の構成が図11に示す構成とな
っている以外は本発明の第1の実施例による画像照合装
置と同様である。
【0088】本発明の第3の実施例は立体形状モデルが
形状モデル信号から複数供給される場合に、最適な立体
形状モデル選定することによって照合の精度を上げる方
法を示している。
【0089】図12は本発明の第3の実施例による画像
照合装置の処理動作を示すフローチャートである。これ
ら図11及び図12を参照して本発明の第3の実施例に
よる画像照合装置の処理動作について説明する。
【0090】形状選定手段30は形状モデル群信号13
0として送られてくる複数の形状モデルから、入力画像
の被写体に最も近い形状モデルを選定する(図12ステ
ップS21)。形状選定手段30ではまず、入力画像及
び全ての形状モデルに対して、瞳中心や口端等の特徴点
位置座標を用いてその大きさの正規化する。次に、形状
選定手段30は全ての形状モデルに対して、入力画像と
同じ向きを持つ形状モデルでの特徴点位置座標を算出す
る。
【0091】形状選定手段30は算出された各形状モデ
ルでの特徴点位置情報及び入力画像の特徴点位置座標を
用いて、 D=Σi{(Rxi−Wxi)(Rxi−Wxi) +(Ryi−Wyi)(Ryi−Wyi)} ……(3) という(3)式を最小にする形状モデルを選び出す。こ
こで、(Rxi,Ryi)は入力画像のi番目の特徴点
での位置座標、(Wxi,Wyi)は形状モデルのi番
目の特徴点での位置座標を表す。すなわち、この(3)
式を最小にすることは特徴点間のずれが最小である形状
モデルを選定することを意味している。
【0092】形状選定手段30からの画像・形状信号1
31には入力画像及び参照画像とこれらの画像の特徴点
位置座標と顔の向きと形状選定検定手段30で選定され
た形状モデルとが出力される。
【0093】画像変換手段10は形状選定検定手段30
で選定された形状モデルを用いて、形状選定手段30か
らの入力画像及び参照画像のうちどちらかまたは両方の
画像を変換することによって、両画像での被写体が同じ
向きの顔を持つ画像を生成する(図12ステップS2
2)。
【0094】画像照合手段11では画像変換手段10で
得られた顔部分画像の照合処理が行われる(図12ステ
ップS23)。人物判定手段12は画像照合手段11で
得られた類似度を用いて入力画像の被写体と参照画像の
被写体とが同一人物かどうかを判定する処理を行う(図
12ステップS24)。
【0095】人物判定手段12からは同一人物であると
判定された場合に出力信号115として“1”が出力さ
れ、同一人物であると判定されない場合に出力信号11
5として“0”が出力される(図12ステップS2
5)。
【0096】本実施例では本発明の第1の実施例に比
べ、より入力画像の被写体に近い形状モデルを選定する
ことができるため、照合精度がよくなるという利点を得
ることができる。
【0097】図13は本発明の第4の実施例による画像
照合装置の主要部構成を示すブロック図である。図13
において、本発明の第4の実施例による画像照合装置の
主要部は入力画像変換手段40と、画像再構成手段41
と、全体画像照合手段42と、人物判定手段12とから
構成されている。尚、本発明の第4の実施例による画像
照合装置は図2に示すデータ処理装置2の構成が図13
に示す構成となっている以外は本発明の第1の実施例に
よる画像照合装置と同様である。
【0098】本発明の第4の実施例は本発明の第1の実
施例における画像変換手段10で生成した顔の部分画像
を一つの顔画像に再構成する処理を付け加えることによ
って顔全体を用いた照合方法を可能にする方法を示して
いる。
【0099】図14は本発明の第4の実施例による画像
照合装置の処理動作を示すフローチャートである。これ
ら図13及び図14を参照して本発明の第4の実施例に
よる画像照合装置の処理動作について説明する。
【0100】参照画像向き信号140からは参照画像の
向きに関する情報のみが供給される。入力画像変換手段
40は入力画像に関して画像変換手段10と同一の処理
を行い、入力画像とは顔の向きが異なる顔部分画像、つ
まり入力画像を変更して参照画像と顔の向きが同じ顔部
分画像を生成する(図14ステップS31)。入力画像
変換手段40からは部分入力画像信号141として入力
画像における顔部分画像が出力される。
【0101】画像再構成手段41は部分入力画像信号か
ら供給された顔部分画像から顔全体の画像を再構成する
(図14ステップS32)。画像再構成手段41は各部
分画像を部分画像の向きに射影された立体形状モデルの
特徴点位置に重ね合わせ、顔全体を再構成する。但し、
部分画像の重なった部分に関しては部分画像の輝度値の
平均値をとり、それを顔全体画像の輝度値とする。画像
再構成手段41からは全体入力画像信号142として再
構成された顔全体画像が出力される。
【0102】全体画像照合手段42は全体入力画像信号
142から供給された入力画像の顔全体画像と参照画像
輝度信号143から供給された参照画像とによって、顔
全体の画像情報を用いて照合を行う(図14ステップS
33)。
【0103】人物判定手段12は全体画像照合手段42
で得られた全体画像類似度を用いて入力画像の被写体と
参照画像の被写体とが同一人物かどうかを判定する処理
を行う(図14ステップS34)。
【0104】人物判定手段12からは同一人物であると
判定された場合に出力信号115として“1”が出力さ
れ、同一人物であると判定されない場合に出力信号11
5として“0”が出力される(図14ステップS3
5)。
【0105】本実施例では本発明の第1の実施例に比
べ、参照画像での特徴点位置を必要としないため、特徴
点位置座標の記憶がない場合でも照合が可能である。そ
のため、参照画像の特徴点位置座標を指定する処理が不
要になり、参照画像情報の生成が容易になるという利点
がある。
【0106】図15は本発明の第5の実施例による画像
照合装置の主要部構成を示すブロック図である。図15
において、本発明の第5の実施例による画像照合装置の
主要部は人物判定手段12の代りに人物検索手段50を
設けた以外は図1に示す本発明の第1の実施例による画
像照合装置の主要部と同様の構成となっており、同一構
成要素には同一符号を付してある。
【0107】また、同一構成要素の動作は本発明の第1
の実施例による画像照合装置の主要部と同様である。さ
らに、本発明の第4の実施例による画像照合装置は図2
に示すデータ処理装置2の構成が図15に示す構成とな
っている以外は本発明の第1の実施例による画像照合装
置と同様である。
【0108】本発明の第5の実施例は画像データベース
等に記憶されている複数人分の顔画像の中から入力画像
の被写体に相当する画像を選び出すことによって、入力
画像での被写体を特定する方法を示している。本発明の
第5の実施例と本発明の第1の実施例との相違は、参照
画像信号111の代わりにデータベース画像信号150
が画像変換手段10に入力されている点及び人物判定手
段12の代りに人物検索手段50を設けた点である。
【0109】図16は本発明の第5の実施例による画像
照合装置の処理動作を示すフローチャートである。これ
ら図15及び図16を参照して本発明の第5の実施例に
よる画像照合装置の処理動作について説明する。
【0110】データベース画像信号150とは記憶媒体
(図示せず)上等に保持されているいろいろな人物が含
まれている顔画像の集合の中から、照合対象となる顔画
像と顔特徴点位置と顔の向きとを画像変換手段10に供
給する信号のことである。
【0111】データベース画像信号150からは照合対
象となる顔画像とその顔画像における顔特徴点位置と顔
の向きとが連続的に画像変換手段10に供給される。こ
こではデータベース画像信号150をデータベース画像
を想定して説明したが、複数人分の顔画像と顔特徴点位
置と顔の向きとを供給する手段であれば、どのような手
段でもよい。
【0112】画像変換手段10は本発明の第1の実施例
と同様な方法によって、人の標準的な顔立体形状モデル
を用いて、入力画像の被写体からデータベース画像の被
写体と同一の向きである画像を生成する(図16ステッ
プS41)。
【0113】画像照合手段11は本発明の第1の実施例
と同様な方法によって、画像変換手段10で得られた画
像の類似度の計算し、画像変換手段10で得られた顔画
像の照合処理が行われる(図16ステップS42)。
【0114】人物検索手段50は画像照合手段11から
引き渡された画像の類似度を受取り、すべての照合対象
画像における類似度を受取った時点で、最も類似度が高
かったデータベース画像を選び出す(図16ステップS
43)。人物検索手段50は出力信号から選び出された
データベース画像の識別番号を検索結果として出力する
(図16ステップS44)。
【0115】本実施例において実際の画像を用いて実験
した結果について述べる。使用した画像はデータベース
画像が全て正面向きで70名分、入力画像が全て左45
度向きで70名分である。
【0116】ここで、入力画像中の人物は全てデータベ
ースに登録されているものとする。また、立体形状モデ
ルにはギリシャ神話上の登場人物であるブルータスの石
膏像(図7参照)をレンジファインダで計測したものを
使用している。特徴点には図5に示す7点を使用してい
る。
【0117】本発明の第2の実施例に示す手法をすべて
の入力画像に対して適用し、出力信号から得られた人物
が入力画像の被写体と一致する割合について求める。そ
の結果、本手法による正当率は94.3%が得られた。
【0118】本手法で用いた2枚の画像情報から照合を
行う方法は、従来の第3の手法のMaurerらによる
方法と同じ条件であるが、彼らの論文では同じ画像条件
(正面顔と45度向きの顔との比較)で照合率が50%
であると記載されている。使用する画像が異なるため、
単純な比較はできないが、本結果は従来の技術では達成
できない結果である。
【0119】図17は本発明の第6の実施例による画像
照合装置の構成を示すブロック図である。図17におい
て、本発明の第6の実施例による画像照合装置はデータ
処理装置2の代りにデータ処理装置6を設け、記録媒体
5を追加した以外は図2に示す本発明の第1の実施例に
よる画像照合装置と同様の構成となっており、同一構成
要素には同一符号を付してある。また、同一構成要素の
動作は本発明の第1の実施例による画像照合装置と同様
である。
【0120】記録媒体5には上述した第1から第5の実
施例の処理動作を行うための顔画像照合用プログラムが
記録されており、磁気ディスクや半導体メモリ、及びC
D−ROM等の記録媒体が使用可能である。
【0121】顔画像照合用プログラムは記録媒体5から
データ処理装置6に読込まれ、データ処理装置6の動作
を制御し、記録装置3に参照画像記憶部60と形状モデ
ル記憶部61とを生成する。データ処理装置6は顔画像
照合用プログラムの制御によって、上述したデータ処理
装置2による処理と同一の処理を実行する。
【0122】このように、立体形状モデルを顔の部分毎
に適用し、立体形状モデルによる個人差の影響を少なく
する工夫を行うことによって、従来の手法に比べて高い
照合率を得ることができる。
【0123】また、照合に必要とする画像情報が各人に
つき最低顔画像1枚であるので、画像を記憶するために
必要とする記憶媒体の容量を少なくすることができ、デ
ータベースを容易に構築することができる。
【0124】さらに、顔の立体形状モデルを個人毎に持
つ代わりに、標準な立体形状モデルを一つないし数個持
つことで、立体形状モデルを記憶するための記憶媒体の
容量を少なくすることができる。その際、立体形状デー
タの収集には特別な計測装置が必要であることから、各
人の立体形状データを収集する必要がないことはデータ
ベース情報の収集に関しても容易となる。
【0125】さらにまた、照合対象となる顔画像が複数
存在する場合に、照合に最適な顔画像を選び出す処理を
行うことによって、より最適な照合を行うことができ、
立体形状モデルが複数存在する場合に、最適な立体形状
モデルを選定する処理を行うことによって、立体形状モ
デルによる顔画像変換時のゆがみを少なくすることがで
き、高い照合率を得ることができる。
【0126】一方、画像変換によって得られた顔の部分
画像から顔全体の画像を再構成する処理を行うことによ
って、参照画像では特徴点の位置を記憶することが不要
になる。
【0127】
【発明の効果】以上説明したように本発明によれば、人
の顔の標準的な立体形状を記述した顔立体形状モデルを
用いて入力顔画像の被写体と識別対象である参照画像の
被写体とが同じ向きになる画像を生成し、生成された顔
画像を識別対象画像と比較照合することによって、デー
タベースに登録する画像として各人物について1枚のみ
しか必要とせず、かつ高い照合性能を得ることができる
という効果がある。
【図面の簡単な説明】
【図1】本発明の第1の実施例による画像照合装置の主
要部構成を示すブロック図である。
【図2】本発明の第1の実施例による画像照合装置の構
成を示すブロック図である。
【図3】本発明の第1の実施例による画像照合装置の処
理動作を示すフローチャートである。
【図4】顔の向きが異なる画像の例を示す図である。
【図5】特徴点の例を示す図である。
【図6】立体形状モデルの例を示す図である。
【図7】顔画像の正規化方法を説明するための図であ
る。
【図8】顔の向きが異なる画像を生成する方法を説明す
るための図である。
【図9】本発明の第2の実施例による画像照合装置の主
要部構成を示すブロック図である。
【図10】本発明の第2の実施例による画像照合装置の
処理動作を示すフローチャートである。
【図11】本発明の第3の実施例による画像照合装置の
主要部構成を示すブロック図である。
【図12】本発明の第3の実施例による画像照合装置の
処理動作を示すフローチャートである。
【図13】本発明の第4の実施例による画像照合装置の
主要部構成を示すブロック図である。
【図14】本発明の第4の実施例による画像照合装置の
処理動作を示すフローチャートである。
【図15】本発明の第5の実施例による画像照合装置の
主要部構成を示すブロック図である。
【図16】本発明の第5の実施例による画像照合装置の
処理動作を示すフローチャートである。
【図17】本発明の第6の実施例による画像照合装置の
構成を示すブロック図である。
【符号の説明】
1 入力装置 2 データ処理装置 3 記憶装置 4 出力装置 5 記録媒体 6 データ処理装置 10 画像変換手段 11 画像照合手段 12 人物判定手段 20 画像選定手段 30 形状選定手段 40 入力画像変換手段 41 画像再構成手段 42 全体画像照合手段 50 人物検索手段 60 参照画像記憶部 61 形状モデル記憶部 110 入力画像信号 111 参照画像信号 112 形状モデル信号 113 部分画像信号 114 画像類似度信号 115 出力信号 120 入力画像群信号 121 参照画像群信号 122 画像信号 130 形状モデル群信号 131 画像・形状信号 140 参照画像向き信号 141 部分入力画像信号 142 全体入力画像信号 143 参照画像輝度信号 144 全体画像類似度信号 150 データベース画像信号 151 識別信号

Claims (33)

    【特許請求の範囲】
  1. 【請求項1】 人の顔の標準的な立体形状を記述した顔
    立体形状モデルを用いて入力顔画像の被写体と識別対象
    である参照画像の被写体とが同じ向きになる画像を生成
    する画像変換手段と、前記画像変換手段で生成された顔
    画像を前記参照画像と比較照合する画像照合手段とを有
    することを特徴とする画像照合装置。
  2. 【請求項2】 前記画像照合手段の照合結果を閾値処理
    することによって前記入力顔画像中の被写体が同一人物
    であるか否かを判定する人物判定手段を含むことを特徴
    とする請求項1記載の画像照合装置。
  3. 【請求項3】 複数の入力顔画像及び複数の参照画像の
    中から顔の向きの近い2枚の顔画像を選び出す画像選定
    手段を含み、前記画像変換手段は前記画像選定手段で選
    定された2枚の顔画像に対して被写体が同じ向きになる
    画像を生成するよう構成したことを特徴とする請求項1
    または請求項2記載の画像照合装置。
  4. 【請求項4】 複数の人の顔立体形状モデルの中から照
    合対象画像の被写体に近い形状モデルを選定する形状選
    定手段を含み、前記画像変換手段は前記形状選定手段で
    選定された形状モデルを用いて照合対象となる2枚の顔
    画像で被写体が同じ向きになる画像を生成するよう構成
    したことを特徴とする請求項1から請求項3のいずれか
    記載の画像照合装置。
  5. 【請求項5】 人の顔の標準的な立体形状を記述した顔
    立体形状モデルを用いて入力顔画像の被写体が識別対象
    である参照画像の被写体と同じ向きになる画像を生成す
    る入力画像変換手段と、前記入力画像変換手段で生成さ
    れた顔の部分画像を張り合わせることで顔全体を再構成
    する画像再構成手段と、前記画像再構成手段で再構成さ
    れた画像と前記参照画像とを比較することで照合を行う
    全体画像照合手段とを有することを特徴とする画像照合
    装置。
  6. 【請求項6】 前記全体画像照合手段の照合結果を閾値
    処理することで前記入力顔画像中の被写体が同一人物で
    あるか否かを判定する人物判定手段を含むことを特徴と
    する請求項5記載の画像照合装置。
  7. 【請求項7】 複数の入力顔画像及び複数の参照画像の
    中から顔の向きの近い2枚の顔画像を選び出す画像選定
    手段を含み、前記入力画像変換手段は前記画像選定手段
    で選定された2枚の顔画像に対して被写体が同じ向きに
    なる画像を生成するよう構成したことを特徴とする請求
    項5または請求項6記載の画像照合装置。
  8. 【請求項8】 複数の人の顔立体形状モデルの中から照
    合対象画像の被写体に近い形状モデルを選定する形状選
    定手段を含み、前記入力画像変換手段は前記形状選定手
    段で選定された形状モデルを用いて照合対象となる2枚
    の顔画像で被写体が同じ向きになる画像を生成するよう
    構成したことを特徴とする請求項5から請求項7のいず
    れか記載の画像照合装置。
  9. 【請求項9】 人の顔の標準的な立体形状を記述した顔
    立体形状モデルを用いて入力顔画像の被写体を複数の人
    の顔画像を記憶するデータベース画像の被写体と同一の
    向きである画像を生成する画像変換手段と、前記画像変
    換手段で生成された顔画像を比較照合する画像照合手段
    と、前記画像照合手段の照合結果を用いて前記データベ
    ース画像の顔画像中から人物を検索する人物検索手段と
    を有することを特徴とする画像照合装置。
  10. 【請求項10】 複数の入力顔画像及び前記データベー
    ス画像の中から顔の向きの近い2枚の顔画像を選び出す
    画像選定手段を含み、前記画像変換手段は前記画像選定
    手段で選定された2枚の顔画像に対して被写体が同じ向
    きになる画像を生成するよう構成したことを特徴とする
    請求項9記載の画像照合装置。
  11. 【請求項11】 複数の人の顔立体形状モデルの中から
    照合対象画像の被写体に近い形状モデルを選定する形状
    選定手段を含み、前記画像変換手段は前記形状選定手段
    で選定された形状モデルを用いて照合対象となる2枚の
    顔画像で被写体が同じ向きになる画像を生成するよう構
    成したことを特徴とする請求項9または請求項10記載
    の画像照合装置。
  12. 【請求項12】 人の顔の標準的な立体形状を記述した
    顔立体形状モデルを用いて照合対象となる2枚の顔画像
    における被写体が同一方向を向いた画像を顔の部位毎に
    生成するステップと、生成された画像を用いて照合を行
    うステップとを有することを特徴とする画像照合方法。
  13. 【請求項13】 前記照合を行うステップの照合結果を
    閾値処理することで顔画像に含まれる被写体が同一人物
    であるか否かを判別するステップを含むことを特徴とす
    る請求項12記載の画像照合方法。
  14. 【請求項14】 複数の照合対象画像の中から顔の向き
    が近い画像を選び出すステップを含み、前記同一方向を
    向いた画像を顔の部位毎に生成するステップは選定され
    た2枚の顔画像における被写体が同一方向を向いた画像
    を顔の部位毎に生成するようにしたことを特徴とする請
    求項12または請求項13記載の画像照合方法。
  15. 【請求項15】 複数の顔立体形状モデルの中から照合
    対象画像の被写体に近いモデルを選び出すステップを含
    み、前記同一方向を向いた画像を顔の部位毎に生成する
    ステップは選定された形状モデルを用いて2枚の顔画像
    における被写体が同一方向を向いた画像を顔の部位毎に
    生成するようにしたことを特徴とする請求項12から請
    求項14のいずれか記載の画像照合方法。
  16. 【請求項16】 人の顔の標準的な立体形状を記述した
    顔立体形状モデルを用いて照合対象となる顔画像におけ
    る顔の向きが参照画像における顔の向きと同じとなる画
    像を生成するステップと、生成された顔の部分画像を張
    り合わせることにより顔全体を再構成するステップと、
    生成された顔画像を前記参照画像と比較することで照合
    を行うステップとを有することを特徴とする画像照合方
    法。
  17. 【請求項17】 前記照合を行うステップの照合結果を
    閾値処理することで顔画像に含まれる被写体が同一人物
    であるか否かを判別するステップを含むことを特徴とす
    る請求項16記載の画像照合方法。
  18. 【請求項18】 複数の照合対象画像の中から顔の向き
    が近い画像を選び出すステップを含み、前記照合対象と
    なる顔画像における顔の向きが参照画像における顔の向
    きと同じとなる画像を生成するステップは選定された2
    枚の顔画像における被写体が同一方向を向いた画像を生
    成するようにしたことを特徴とする請求項16または請
    求項17記載の画像照合方法。
  19. 【請求項19】 複数の顔立体形状モデルの中から照合
    対象画像の被写体に近いモデルを選び出すステップを含
    み、前記照合対象となる顔画像における顔の向きが参照
    画像における顔の向きと同じとなる画像を生成するステ
    ップは選定された形状モデルを用いて2枚の顔画像にお
    ける被写体が同一方向を向いた画像を生成するようにし
    たことを特徴とする請求項16から請求項18のいずれ
    か記載の画像照合方法。
  20. 【請求項20】 人の顔の標準的な立体形状を記述した
    顔立体形状モデルを用いて照合対象となる顔画像におけ
    る顔の向きが複数の参照画像からなるデータベース画像
    における顔の向きと同じとなる画像を生成するステップ
    と、生成された画像を比較することで照合を行うステッ
    プと、その照合結果を用いて前記データベース画像中の
    人物を検索するステップとを有することを特徴とする画
    像照合方法。
  21. 【請求項21】 複数の照合対象画像の中から顔の向き
    が近い画像を選び出すステップを含み、前記照合対象と
    なる顔画像における顔の向きが参照画像における顔の向
    きと同じとなる画像を生成するステップは選定された2
    枚の顔画像における被写体が同一方向を向いた画像を生
    成するようにしたことを特徴とする請求項20記載の画
    像照合方法。
  22. 【請求項22】 複数の顔立体形状モデルの中から照合
    対象画像の被写体に近いモデルを選び出すステップを含
    み、前記照合対象となる顔画像における顔の向きが参照
    画像における顔の向きと同じとなる画像を生成するステ
    ップは選定された形状モデルを用いて2枚の顔画像にお
    ける被写体が同一方向を向いた画像を生成するようにし
    たことを特徴とする請求項20または請求項21記載の
    画像照合方法。
  23. 【請求項23】 コンピュータに二つの画像情報を比較
    照合させるための画像照合制御プログラムを記録した記
    録媒体であって、前記画像照合制御プログラムは前記コ
    ンピュータに、顔立体形状モデルを用いて被写体が同じ
    向きになる画像を生成させ、生成された顔画像を比較照
    合させることを特徴とする画像照合制御プログラムを記
    録した記録媒体。
  24. 【請求項24】 前記画像照合制御プログラムは前記コ
    ンピュータに、前記顔画像の比較照合結果を閾値処理さ
    せて前記顔画像中の被写体が同一人物であるか否かを判
    定させることを特徴とする請求項23記載の画像照合制
    御プログラムを記録した記録媒体。
  25. 【請求項25】 前記画像照合制御プログラムは前記コ
    ンピュータに、複数枚の入力画像と参照画像の中から顔
    の向きの近い画像を選び出させ、前記被写体が同じ向き
    になる画像を生成させる際に、選定された2枚の顔画像
    に対して被写体が同じ向きになる画像を生成させること
    を特徴とする請求項23または請求項24記載の画像照
    合制御プログラムを記録した記録媒体。
  26. 【請求項26】 前記画像照合制御プログラムは前記コ
    ンピュータに、立体形状モデルの中から照合対象画像の
    被写体に近い形状モデルを選定させ、前記被写体が同じ
    向きになる画像を生成させる際に、選定された形状モデ
    ルを用いて照合対象となる2枚の顔画像で被写体が同じ
    向きになる画像を生成させることを特徴とする請求項2
    3から請求項25のいずれか記載の画像照合制御プログ
    ラムを記録した記録媒体。
  27. 【請求項27】 コンピュータに二つの画像情報を比較
    照合させるための画像照合制御プログラムを記録した記
    録媒体であって、前記画像照合制御プログラムは前記コ
    ンピュータに、立体形状モデルを用いて被写体が同じ向
    きになる画像を生成させ、生成された顔の部分画像を張
    り合わさせて顔全体を再構成させ、生成された画像と参
    照画像とを比較照合させることを特徴とする画像照合制
    御プログラムを記録した記録媒体。
  28. 【請求項28】 前記画像照合制御プログラムは前記コ
    ンピュータに、前記顔画像の比較照合結果を閾値処理さ
    せて前記顔画像中の被写体が同一人物であるか否かを判
    定させることを特徴とする請求項27記載の画像照合制
    御プログラムを記録した記録媒体。
  29. 【請求項29】 前記画像照合制御プログラムは前記コ
    ンピュータに、複数枚の入力画像と参照画像の中から顔
    の向きの近い画像を選び出させ、前記被写体が同じ向き
    になる画像を生成させる際に、選定された2枚の顔画像
    に対して被写体が同じ向きになる画像を生成させること
    を特徴とする請求項27または請求項28記載の画像照
    合制御プログラムを記録した記録媒体。
  30. 【請求項30】 前記画像照合制御プログラムは前記コ
    ンピュータに、立体形状モデルの中から照合対象画像の
    被写体に近い形状モデルを選定させ、前記被写体が同じ
    向きになる画像を生成させる際に、選定された形状モデ
    ルを用いて照合対象となる2枚の顔画像で被写体が同じ
    向きになる画像を生成させることを特徴とする請求項2
    7から請求項29のいずれか記載の画像照合制御プログ
    ラムを記録した記録媒体。
  31. 【請求項31】 コンピュータに二つの画像情報を比較
    照合させるための画像照合制御プログラムを記録した記
    録媒体であって、前記画像照合制御プログラムは前記コ
    ンピュータに、人の標準的な顔立体形状モデルを用いて
    入力画像の被写体を複数の参照画像からなるデータベー
    ス画像の被写体と同一の向きである画像を生成させ、生
    成された顔画像を比較照合させ、その比較照合結果を用
    いて前記データベース画像の顔画像中から人物を検索さ
    せることを特徴とする画像照合制御プログラムを記録し
    た記録媒体。
  32. 【請求項32】 前記画像照合制御プログラムは前記コ
    ンピュータに、複数枚の入力画像と参照画像の中から顔
    の向きの近い画像を選び出させ、前記被写体と同一の向
    きである画像を生成させる際に、選定された2枚の顔画
    像に対して被写体と同一の向きである画像を生成させる
    ことを特徴とする請求項31記載の画像照合制御プログ
    ラムを記録した記録媒体。
  33. 【請求項33】 前記画像照合制御プログラムは前記コ
    ンピュータに、立体形状モデルの中から照合対象画像の
    被写体に近い形状モデルを選定させ、前記被写体と同一
    の向きである画像を生成させる際に、選定された形状モ
    デルを用いて照合対象となる2枚の顔画像で被写体と同
    一の向きである画像を生成させることを特徴とする請求
    項31または請求項32記載の画像照合制御プログラム
    を記録した記録媒体。
JP13071599A 1999-05-12 1999-05-12 画像照合装置及びその画像照合方法並びにその制御プログラムを記録した記録媒体 Expired - Lifetime JP3926059B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP13071599A JP3926059B2 (ja) 1999-05-12 1999-05-12 画像照合装置及びその画像照合方法並びにその制御プログラムを記録した記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP13071599A JP3926059B2 (ja) 1999-05-12 1999-05-12 画像照合装置及びその画像照合方法並びにその制御プログラムを記録した記録媒体

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2004205993A Division JP2004288222A (ja) 2004-07-13 2004-07-13 画像照合装置及びその画像照合方法並びにその制御プログラムを記録した記録媒体

Publications (2)

Publication Number Publication Date
JP2000322577A true JP2000322577A (ja) 2000-11-24
JP3926059B2 JP3926059B2 (ja) 2007-06-06

Family

ID=15040902

Family Applications (1)

Application Number Title Priority Date Filing Date
JP13071599A Expired - Lifetime JP3926059B2 (ja) 1999-05-12 1999-05-12 画像照合装置及びその画像照合方法並びにその制御プログラムを記録した記録媒体

Country Status (1)

Country Link
JP (1) JP3926059B2 (ja)

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2004025564A1 (ja) * 2002-08-30 2004-03-25 Nec Corporation 顔向き推定装置および顔向き推定方法ならびに顔向き推定プログラム
JP2006215743A (ja) * 2005-02-02 2006-08-17 Toyota Motor Corp 画像処理装置及び画像処理方法
JP2007272578A (ja) * 2006-03-31 2007-10-18 Toyota Motor Corp 画像処理装置および画像処理方法
JP2009043065A (ja) * 2007-08-09 2009-02-26 Panasonic Corp 顔認証装置
US7545973B2 (en) 2002-07-10 2009-06-09 Nec Corporation Image matching system using 3-dimensional object model, image matching method, and image matching program
JP2009157767A (ja) * 2007-12-27 2009-07-16 Nippon Telegr & Teleph Corp <Ntt> 顔画像認識装置、顔画像認識方法、顔画像認識プログラムおよびそのプログラムを記録した記録媒体
EP2088535A1 (en) 2008-02-05 2009-08-12 Sony Corporation Image processing apparatus and method, and program
JP2009301170A (ja) * 2008-06-11 2009-12-24 Sony Corp 画像処理装置および画像処理方法
US7715619B2 (en) 2003-10-21 2010-05-11 Nec Corporation Image collation system and image collation method
US8249310B2 (en) 2005-08-29 2012-08-21 Sony Corporation Image processing apparatus and method and program
JP2013239211A (ja) * 2002-02-27 2013-11-28 Nec Corp 画像認識システム及びその認識方法並びにプログラム
US20140254939A1 (en) * 2011-11-24 2014-09-11 Ntt Docomo, Inc. Apparatus and method for outputting information on facial expression
JP2015184810A (ja) * 2014-03-20 2015-10-22 株式会社東芝 画像処理装置、画像処理方法および画像処理プログラム
US9881204B2 (en) 2015-06-26 2018-01-30 Kabushiki Kaisha Toshiba Method for determining authenticity of a three-dimensional object
WO2022190358A1 (ja) 2021-03-12 2022-09-15 日本電気株式会社 画像処理装置、画像処理方法、プログラム

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9836662B2 (en) 2013-02-26 2017-12-05 Nec Corporation Authentication device, authentication method and program storage medium
US11521460B2 (en) 2018-07-25 2022-12-06 Konami Gaming, Inc. Casino management system with a patron facial recognition system and methods of operating same
AU2019208182B2 (en) 2018-07-25 2021-04-08 Konami Gaming, Inc. Casino management system with a patron facial recognition system and methods of operating same

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013239211A (ja) * 2002-02-27 2013-11-28 Nec Corp 画像認識システム及びその認識方法並びにプログラム
US7545973B2 (en) 2002-07-10 2009-06-09 Nec Corporation Image matching system using 3-dimensional object model, image matching method, and image matching program
US7873208B2 (en) 2002-07-10 2011-01-18 Nec Corporation Image matching system using three-dimensional object model, image matching method, and image matching program
WO2004025564A1 (ja) * 2002-08-30 2004-03-25 Nec Corporation 顔向き推定装置および顔向き推定方法ならびに顔向き推定プログラム
US7715619B2 (en) 2003-10-21 2010-05-11 Nec Corporation Image collation system and image collation method
EP2479726A1 (en) 2003-10-21 2012-07-25 Nec Corporation Image comparison system and image comparison method
JP2006215743A (ja) * 2005-02-02 2006-08-17 Toyota Motor Corp 画像処理装置及び画像処理方法
US8249310B2 (en) 2005-08-29 2012-08-21 Sony Corporation Image processing apparatus and method and program
JP2007272578A (ja) * 2006-03-31 2007-10-18 Toyota Motor Corp 画像処理装置および画像処理方法
JP2009043065A (ja) * 2007-08-09 2009-02-26 Panasonic Corp 顔認証装置
JP2009157767A (ja) * 2007-12-27 2009-07-16 Nippon Telegr & Teleph Corp <Ntt> 顔画像認識装置、顔画像認識方法、顔画像認識プログラムおよびそのプログラムを記録した記録媒体
EP2088535A1 (en) 2008-02-05 2009-08-12 Sony Corporation Image processing apparatus and method, and program
US8254645B2 (en) 2008-02-05 2012-08-28 Sony Corporation Image processing apparatus and method, and program
JP2009301170A (ja) * 2008-06-11 2009-12-24 Sony Corp 画像処理装置および画像処理方法
JP4569670B2 (ja) * 2008-06-11 2010-10-27 ソニー株式会社 画像処理装置、画像処理方法およびプログラム
US20140254939A1 (en) * 2011-11-24 2014-09-11 Ntt Docomo, Inc. Apparatus and method for outputting information on facial expression
JP2015184810A (ja) * 2014-03-20 2015-10-22 株式会社東芝 画像処理装置、画像処理方法および画像処理プログラム
US9881204B2 (en) 2015-06-26 2018-01-30 Kabushiki Kaisha Toshiba Method for determining authenticity of a three-dimensional object
WO2022190358A1 (ja) 2021-03-12 2022-09-15 日本電気株式会社 画像処理装置、画像処理方法、プログラム

Also Published As

Publication number Publication date
JP3926059B2 (ja) 2007-06-06

Similar Documents

Publication Publication Date Title
JP3926059B2 (ja) 画像照合装置及びその画像照合方法並びにその制御プログラムを記録した記録媒体
JP4556873B2 (ja) 画像照合システム及び画像照合方法
US7415152B2 (en) Method and system for constructing a 3D representation of a face from a 2D representation
JP4560832B2 (ja) 3次元物体モデルを用いた画像照合システム及び画像照合プログラム
CN108875524B (zh) 视线估计方法、装置、系统和存储介质
Papazov et al. Real-time 3D head pose and facial landmark estimation from depth images using triangular surface patch features
JP4553141B2 (ja) 重み情報を用いた物体姿勢推定・照合システム
JP4951498B2 (ja) 顔画像認識装置、顔画像認識方法、顔画像認識プログラムおよびそのプログラムを記録した記録媒体
KR100714724B1 (ko) 얼굴 포즈 추정 장치와 추정 방법 그리고 상기 방법에 의한얼굴 인식 시스템
JP5715833B2 (ja) 姿勢状態推定装置および姿勢状態推定方法
JP2000306095A (ja) 画像照合・検索システム
JP2012160178A (ja) オブジェクト認識デバイス、オブジェクト認識を実施する方法および動的アピアランスモデルを実施する方法
Ratan et al. Object detection and localization by dynamic template warping
Ouanan et al. Facial landmark localization: Past, present and future
CN111680550B (zh) 情感信息识别方法、装置、存储介质及计算机设备
CN107038400A (zh) 人脸识别装置及方法和利用其的目标人跟踪装置及方法
JP3577908B2 (ja) 顔画像認識システム
CN111652018A (zh) 一种人脸注册方法和认证方法
Conde et al. 3D Facial Feature Location with Spin Images.
Tin Robust Algorithm for face detection in color images
JP2011223250A (ja) 撮影支援装置、撮影支援方法並びにそのプログラム
JP2004288222A (ja) 画像照合装置及びその画像照合方法並びにその制御プログラムを記録した記録媒体
TWI620076B (zh) 人體動作的分析系統
JP2003216935A (ja) 顔抽出装置及び方法及びそれを記憶した記録媒体
Jiménez et al. Face pose estimation and tracking using automatic 3D model construction

Legal Events

Date Code Title Description
A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20040615

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040713

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20040713

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20040713

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20040906

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20041119

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20050311

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20070110

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070117

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070227

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100309

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110309

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110309

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120309

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120309

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130309

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130309

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140309

Year of fee payment: 7

EXPY Cancellation because of completion of term