JP2003006645A - 本人認証用の顔画像照合装置 - Google Patents

本人認証用の顔画像照合装置

Info

Publication number
JP2003006645A
JP2003006645A JP2001187237A JP2001187237A JP2003006645A JP 2003006645 A JP2003006645 A JP 2003006645A JP 2001187237 A JP2001187237 A JP 2001187237A JP 2001187237 A JP2001187237 A JP 2001187237A JP 2003006645 A JP2003006645 A JP 2003006645A
Authority
JP
Japan
Prior art keywords
face image
face
image
model
dimensional
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2001187237A
Other languages
English (en)
Other versions
JP4611575B2 (ja
Inventor
Osamu Tokumi
修 徳見
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Secom Co Ltd
Original Assignee
Secom Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Secom Co Ltd filed Critical Secom Co Ltd
Priority to JP2001187237A priority Critical patent/JP4611575B2/ja
Publication of JP2003006645A publication Critical patent/JP2003006645A/ja
Application granted granted Critical
Publication of JP4611575B2 publication Critical patent/JP4611575B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Collating Specific Patterns (AREA)
  • Processing Or Creating Images (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

(57)【要約】 【課題】 本人登録が容易に行えることができ、また誤
り率の低い顔画像照合装置を提供すること。 【解決手段】 登録手段26は、本人登録に用いられる
本人登録画像を入力する。3次元顔モデル生成手段44
は入力された本人登録画像と予め記憶された一般的な顔
をあらわす標準モデルとを合成して、登録者本人の顔に
対応した3次元顔モデルを生成する。参照顔画像生成手
段46は、認証時に想定される顔画像の変動要因を考慮
して複数の参照顔画像を生成する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は本人認証用の顔画像
照合装置に関し、特に複数の参照用画像を生成する本人
認証用の顔画像照合装置に関する。
【0002】
【従来の技術】近年、高度のセキュリティーが必要とさ
れる施設において利用者の入退出を管理する場合や機密
データへのアクセスを制限する場合に、身体的特徴をも
とに個人を識別するいわゆるバイオメトリクスの手法が
利用されている。識別には、指紋、眼球の虹彩、顔等す
べての人で異なる身体的特徴が用いられる。
【0003】人間の顔画像を用いた顔画像照合装置にお
いては、ビデオカメラ等により撮影された顔画像と予め
登録しておいた顔画像とを比較して本人かどうかの認証
が行われる。
【0004】顔画像照合装置が施錠システムに用いられ
たときに、照合者が本人と判断された場合には、電気錠
の解除信号を出力し施設等の入退室を許可する。一方、
本人でないと判断された場合には照合を行った者を詐称
者と判断し、管理人室や警備室等に警報信号を出力す
る。顔画像照合装置の利点は、不正利用の場合にビデオ
カメラの履歴をみることにより不審者の特定が容易であ
ることがあげられる。
【0005】一方、顔画像照合装置には次のような問題
がある。認証時にビデオカメラで撮影される顔画像は、
その時々で変動する照合者の姿勢や周囲の照明状態等に
応じて多様であり、そのために、たとえば、照合者が本
人であるにもかかわらず、照合時の画像が登録時の画像
と著しく異なってしまって、照合装置が本人を棄却して
しまう等の問題があった。一般に、個人照合装置の性能
を評価する尺度として、本人棄却率或いは詐称者受理率
の2種類の誤り率が用いられる。本人棄却率とは、登録
している本人であるにもかかわらず、詐称者と判断され
てしまう確率である。詐称者受理率は、認証対象となる
人物が照合装置に登録されていないにもかかわらず、登
録されている人物と判断してしまう確率である。これら
の誤り率は一般的にトレードオフの関係にあり、一方の
誤り率を低くすると他方の誤り率が高くなる。これらは
可能な限り低減されることが望ましい。
【0006】そこで、上記誤り率を低減するために、従
来H4−256185号公報に見られる技術が開示され
ている。そこでは、まず、表面計測装置を用いて得た登
録人物の3次元画像データからの頭部の3次元モデルを
構成する。次に、その3次元モデルの姿勢を変化させた
り、光源位置、及び光源属性を表わすパラメータを変化
させて、上記モデルを正面から見た2次元画像を複数生
成する。生成された複数の2次元画像を参照画像として
登録しておき、認証時に入力される画像と比較して本人
認証が行われる。上記従来技術では、参照画像が複数用
意されているので、ある程度までは誤り率を低くするこ
とが可能である。
【0007】
【発明が解決しようとする課題】しかしながら、表面計
測装置は通常のカメラ以外に特殊な計測装置を用いる必
要があり、その取り扱いは必ずしも容易とはいえなかっ
た。また、照合時のビデオカメラに対する照合者の姿勢
や、照明条件以外にも、たとえば髪型の変化や、化粧の
変化等の影響により照合装置の誤り率が高くなるといっ
た問題があった。
【0008】本発明は上記課題に鑑みてなされたもので
あり、その第1の目的は本人登録が容易に行える顔画像
照合装置を提供することにある。
【0009】また本発明の第2の目的は、誤り率の低い
顔画像照合装置を提供することにある。
【0010】
【課題を解決するための手段】上記目的を達成するため
に、本発明に係る本人認証用の顔画像照合装置は、予め
登録されている人物の認証に用いられる顔画像照合装置
であって、認証対象として入力される2次元顔画像であ
る対象顔画像から抽出される対象データと、前記対象顔
画像の照合に用いられる2次元顔画像である参照顔画像
から抽出される参照データと、を照合して本人認証を行
う顔画像照合装置において、本人登録に用いられる本人
の2次元顔画像を入力するための本人登録画像入力手段
と、標準的な顔の3次元形状を表わす標準フレームモデ
ルを記憶する標準モデル記憶手段と、前記本人の2次元
顔画像と前記標準フレームモデルとを合成し、本人の顔
に対応した3次元顔モデルを生成する個人モデル生成手
段と、前記3次元顔モデルから複数のレンダリング条件
に従って複数の前記参照顔画像を生成する参照顔画像生
成手段と、を備えることを特徴とする。
【0011】上記構成によれば、複数のレンダリング条
件に従って複数の参照顔画像を生成することができるの
で、対象顔画像の人物の姿勢や、照明条件が変動した場
合でも誤り率を低減することができる。ここで、レンダ
リング条件は、前記3次元顔モデルから参照顔画像を生
成するために用いられる条件であって、3次元顔モデル
の姿勢、光源位置、及び光源属性等に関するものであ
る。
【0012】本人の顔に対応した3次元顔モデルは、本
人の2次元顔画像と標準フレームモデルとを合成するこ
とにより生成されるが、本人の2次元顔画像は、表面計
測装置等特殊な計測装置を用いる必要がなく、本人登録
を容易に行うことができる。前記標準フレームモデル
は、標準的な人物の顔の3次元形状をあらわす3次元モ
デルであって、ワイヤーフレームモデル或いはサーフェ
スモデル等が用いられる。また、標準フレームモデルは
その表面に標準的な顔画像を有するよう構成してもよ
い。
【0013】本発明の別の態様では、顔の各変化パター
ンに基づいて前記3次元顔モデルを変形する個人モデル
変形手段を備え、変形された前記3次元顔モデルをもと
に複数の前記参照顔画像を生成可能とする。上記変化パ
ターンは、対象顔画像における人物の姿勢や、照明条件
以外の変動要因に関するもので、たとえば顔の表情や、
化粧(アイライン、口紅等)等に関するものである。上
記変化パターンに基づき複数の参照顔画像を生成するこ
とができるので、対象顔画像の顔の表情や、化粧(アイ
ライン、口紅、眉書等)等に関する誤り率を低減するこ
とができる。好適には、前記変化パターンを設定するた
めの変化パターン設定手段を備える。
【0014】さらなる態様では、本発明に係る本人認証
用の顔画像照合装置は、前記参照顔画像生成手段により
生成された複数の参照顔画像を提示する提示手段と、提
示された複数の参照顔画像のなかから照合に用いない顔
画像を指定するための棄却画像指定手段と、を備え、前
記棄却画像指定手段で指定された参照顔画像を棄却す
る。上記構成によれば、提示された参照顔画像のなかか
ら照合時に必要と思われる参照顔画像のみを残すことが
できるので、登録時に余分な参照データを用いる必要が
なく効率良く認証をおこなうことができる。
【0015】望ましくは、前記標準モデル記憶手段は、
複数の標準フレームモデルを記憶しており、前記個人モ
デル生成手段は、本人の属性情報を入力するための属性
情報入力手段と、前記属性情報に基づいて前記複数の標
準フレームモデルのうちからひとつの標準フレームモデ
ルを選択する標準モデル選択手段と、を備えることを特
徴とする。属性情報は、たとえば本人の顔の輪郭形状、
年齢、性別等であって、上記構成によれば、それら属性
情報に応じて好適な標準フレームモデルを選択すること
ができる。
【0016】さらに、前記個人モデル生成手段は、前記
本人の2次元顔画像から顔の所定の部位の画像を抽出す
る抽出手段と、前記所定の部位の画像をもとに前記標準
フレームモデルの3次元形状を変形する手段と、を備え
ることを特徴とする。
【0017】上記構成によれば、照合に必要な部位の画
像あみを用いて標準フレームモデルの変形を行えるので
処理スピードが向上する。
【0018】また、上記第2の目的を達成するために、
本発明に係る本人認証用の顔画像照合装置は、予め登録
されている人物の認証をおこなう顔画像照合装置であっ
て、入力された認証顔画像を登録されている参照顔画像
と照合して本人認証をおこなう顔画像照合装置におい
て、前記認証顔画像からその顔の肌の色成分を算出する
肌色算出手段と、前記肌の色成分をもとに前記認証顔画
像において肌色でない領域を特定し、その領域を照合対
象範囲から除外する除去手段と、を備えることを特徴と
する。
【0019】上記構成によれば、肌色算出手段により算
出した認証者の顔の肌色成分を用いて、顔画像の肌色で
ない部分であって、照合時の誤り率の原因となるもの、
例えば眼鏡、髪、髭等に対応する画像領域を照合対象範
囲から除外することができる。
【0020】
【発明の実施の形態】以下、本発明の実施の形態(以下
実施形態という)を、図面に従って説明する。
【0021】本実施形態に係る本人認証用の顔画像照合
装置は、出入口に電気錠が設置されている部屋へのアク
セス制御システムに用いられるものである。
【0022】[第1の実施の形態]図1は、第1の実施形
態に係る顔画像照合装置10を備えたアクセス制御シス
テム12の全体構成を表すブロック図である。
【0023】符号14は入力手段であり、利用者によっ
て、アクセス制御システム12に備えられたボタン(図
示せず)の押下あるいは超音波センサ(図示せず)等に
より利用者の接近を検知し、アナログあるいはデジタル
出力が可能なカメラ16によって撮影された人物の顔画
像の映像信号を受信し、制御手段18に出力する。
【0024】符号20は選択入力手段であり、テンキー
22等により利用者が提示された画像を選択、あるいは
個人の属性情報(性別や年齢等)を入力した信号を受信
し、制御手段18に出力する。ここで、テンキー22の
代わりにタッチパネル等を使用しても良い。
【0025】符号24はメモリで構成される記憶手段で
あり、後述するように3次元顔モデルから複数の参照顔
画像を生成する際に用いられるレンダリング条件、3次
元顔モデルを変形するための変化パターン、標準的な顔
の3次元形状及びその表面に顔画像を備えた複数の標準
モデル、及びこれらを用いて生成された複数の参照顔画
像を記憶している。また照合時に用いられる参照顔画像
から抽出した本人の顔の特徴量(参照データ)を記憶す
る。ここで、標準モデルとは、カメラに人物が正対した
状態で、両目を結ぶ直線の傾き及び両目の間隔を用いて
所定の大きさに正規化された複数人物の顔画像から得ら
れたワイヤーフレームモデルを年齢や性別の構成比率を
考慮して平均化することにより作成した3次元顔モデル
であって、その表面に平均化された顔画像を備えた3次
元モデルである。
【0026】制御手段18は、登録手段26,照合手段
28,電気錠制御手段30,特徴量抽出手段32から構
成される。
【0027】登録手段26は本人登録時に用いられ、入
力された一枚の顔画像に対して、予め記憶されている標
準モデル、レンダリング条件、変化パターンに基づき、
複数の参照顔画像を生成し記憶手段24に記憶する。
【0028】照合手段28は人物の照合時に用いられ、
記憶されている個々の参照顔画像と照合時に入力された
認証対象の対象顔画像とを照合し、顔の各部位毎に両者
の類似度を複数算出する。算出された類似度を総合的に
判断し、登録者本人の顔画像である場合には電気錠制御
手段30及び出力手段34を介して電気錠36を解錠す
る。本人の顔画像でない場合には電気錠の解錠を行わ
ず、例えば入力された顔画像を撮影された日時情報と共
に記憶手段24に記憶する。
【0029】特徴量抽出手段32は、照合時に入力され
た認証対象の対象顔画像から抽出され照合に用いられる
特徴量(対象データ)を抽出する。参照顔画像から抽出
された特徴量(参照データ)は、予め記憶手段24に記
憶され、照合時に入力される対象顔画像から抽出した特
徴量と比較される。特徴量としては、例えば顔画像に含
まれている目や口といった顔の各部位の輝度情報、エッ
ジ強度、エッジ勾配等を用いる。また顔の所定の部位毎
ではなく、顔画像全体から抽出された特徴量を用いるこ
とも可能である。
【0030】符号34は出力手段であり、登録手段26
により生成された複数の参照顔画像をモニター38に表
示したり、電気錠制御手段30の結果に基づき電気錠3
6の制御を行う。
【0031】以上のように構成された顔画像照合装置1
0の本人登録モードの動作について図2を用いて説明す
る。図2には登録手段26の詳細な構成を示す。
【0032】ここで本人登録モードとは、本人登録時に
入力される本人顔画像及び前記本人顔画像の変動要因を
考慮した顔画像を参照顔画像として照合装置10に登録
するモードのことである。本モードを使用する場合は、
照合装置10の権限を持つ管理者が通常の照合動作を行
うモードからモードを切り換えることにより移行する。
【0033】最初に、登録者本人の2次元顔画像をカメ
ラ16等で撮影する。次に、撮影された画像をモニター
38(図1参照)等に表示しておき、登録者がカメラに
正対した状態でその顔が傾いていないことを登録者本人
か管理者が目視で判断し、その状態における画像を入力
手段14を介して登録手段26に入力する。その際モニ
ター38に、顔が傾むいた顔画像が入力されない様に、
例えば顔の両目の位置の基準となる水平線等を表示する
ようにしてもよい。次に、入力された顔画像を両目を結
ぶ直線の傾き及び両目の間隔を用いて所定の大きさに正
規化する。以後、この正規化された顔画像を本人登録画
像と呼ぶ。この本人登録画像に対して認証時に想定でき
る顔の変動要因を考慮して複数の参照顔画像が生成され
る。
【0034】まず、部位抽出手段42により、本人登録
画像及び標準モデルが有する顔画像から顔の頭部領域及
び各部位領域を抽出する。
【0035】例えば、顔画像から頭部領域を抽出する場
合は、顔画像と事前に撮影した人物が写っていない背景
画像との差分画像を作成し、これを所定の閾値を用いて
二値化する。得られた2次元画像から垂直及び水平方向
のヒストグラムを算出することにより、登録者の二値化
頭部領域画像が得られる。この画像と顔画像との論理積
を演算することにより、顔画像中から頭部領域を抽出す
ることができる。
【0036】次に、目領域を抽出する。顔画像の中で目
は水平エッジが強いという特徴を持っているので、エッ
ジ強度と頭部領域内での相対的な位置関係(例えば頭部
領域の水平方向における中央より上であってかつ頭部領
域の中央に位置する垂直方向の直線に対してほぼ対称に
位置し、水平エッジが強い等)を組み合わせることによ
り、一定面積の方形領域として目領域を抽出する。
【0037】次に、鼻及び唇領域を抽出する。これらに
関しては、目領域からの相対的な位置(例えば左右の目
領域の中央下部に所定の距離離れて位置している等)を
考慮し、一定面積の方形領域として抽出する。
【0038】尚、上記各部位領域は、頭部領域内におい
て、予め記憶されている平均的な部位領域のテンプレー
トを用いてずらしマッチングを行い、類似度が最も高い
領域を対象部位が存在する領域とすることも可能であ
る。
【0039】次に、3次元顔モデル生成手段44は、予
め記憶されている標準モデルを、利用者の頭部領域、各
部位領域の形状及びそれらの相対的な位置関係を基にモ
デルの対応部分を変形して登録者本人の3次元顔モデル
を生成する。
【0040】具体的には、標準モデルが有する顔画像の
頭部領域の大きさ、及び各部位領域から抽出したエッジ
の大きさ及びそれらの位置関係が、本人登録画像のもの
と一致するように非線形変換を施した後、標準モデルの
各部位領域を本人登録画像の相当する部位領域で入れ換
える。この結果、本人登録画像の3次元顔モデルが得ら
れる。
【0041】次に、参照画像生成手段46では、生成さ
れた3次元顔モデルと予め記憶されているレンダリング
条件、及び変形パターンを考慮して、標準モデルと同じ
視点から見た2次元画像である参照顔画像を生成する。
【0042】ここで、レンダリング条件として考慮され
るものは、登録者本人の3次元顔モデルの姿勢、光源位
置、及び光源属性等といった変動要因である。例えば姿
勢による変動を考慮する場合には、3次元顔モデルをピ
ッチ、ヨー、ロール方向に5°刻みで±15°まで頭部
を回転させる条件を用いて、計19個の参照画像を生成
する。
【0043】また、変形パターンとして考慮される顔の
変動要因は、化粧及び表情によるものである。変形パタ
ーンの具体的な内容は、化粧の場合、例えば目、唇、眉
の部位毎にアイライン、口紅、眉書等に対する化粧の種
類(色情報及びその分布形状等)に関する制御情報であ
る。表情変化の場合には、例えばワイヤーフレームモデ
ルにおける喜怒哀楽に対応した表情筋の変化に関する制
御情報である。これら制御情報に基づいて参照画像生成
手段46は3次元顔モデルを変形して複数の参照顔画像
を生成する。
【0044】参照顔画像提示手段48は、参照顔画像生
成手段46により生成された複数の参照顔画像をモニタ
ー38等を用いて登録者に提示する。登録者がテンキー
等により自分の趣向(例えば口紅の色や形状、カメラに
対してやや左向きに構えやすい等)を考慮して照合に用
いる参照顔画像をテンキー等により選ぶ。この情報は参
照顔画像指定手段50に入力され、参照顔画像登録手段
52により参照顔画像として本人登録画像と共に記憶手
段24に記憶される。一方、選ばれなかった参照顔画像
は照合時に用いられないものとして棄却される。参照顔
画像指定手段50は、棄却するべき参照顔画像を選択す
るようにしても良い。
【0045】なお、記憶手段24に記憶されている化粧
(口紅、アイライン、眉書等)や表情といった変化パタ
ーン、あるいはこれらを付与した参照顔画像をモニター
38上に提示し、利用者に自分の趣向に合ったものをテ
ンキー22等により選択させることも可能である。
【0046】また、登録者にテンキー22等により性別
や年齢等の属性情報を入力させることにより、例えば登
録者が女性の場合には年代及び流行に応じて提示する化
粧のパターンを変える等、適切な変形パターンを選ぶこ
とにより、効率的に参照顔画像を生成することも可能で
ある。
【0047】次に各特徴量がどの程度その人の個人性を
表しているのかを表す量として、照合時の類似度算出に
用いる個人毎の重み係数を求める。
【0048】具体的には、複数の参照顔画像の各部位毎
に求めた特徴量から分散を求め、この値が小さい特徴量
に対して大きな重みを与える。これ以外に、別途用意し
た詐称者データベースを用いてfisher法やSupport Vect
or Machineといった一般的なパターン識別器に登録者の
参照顔画像から求めた特徴量及びデータベースに記憶さ
れている登録者以外の第三者の顔画像から求めた特徴量
を入力し、これらの顔画像の識別率が最大となるような
重みを与えることも可能である。
【0049】抽出された特徴量を照合時に用いる参照デ
ータとして、登録者毎に得られた重み係数と共に記憶手
段24に記憶する。
【0050】登録処理が終了すると、管理者は動作モー
ドを照合モードに切り替える。
【0051】次に、照合時の処理について説明する。
【0052】まず、認証対象の対象顔画像を入力し、部
位抽出手段42により、複数の部位領域を抽出してこれ
らの特徴量を算出する。
【0053】算出された特徴量と各参照顔画像から求め
た特徴量との類似度を算出し、これらに登録時に求めた
個人重み係数を掛け合わせて加算することにより、参照
顔画像毎に対象顔画像との類似度を算出する。
【0054】具体的には、登録時に生成した19個の姿
勢の異なる参照顔画像及び対象顔画像から各部位領域画
像を抽出し、画像に含まれる画素間の輝度差分や相関を
算出することにより部位毎に類似度(以後、部位類似度
と呼ぶ)を求める。
【0055】全ての部位類似度に対し、登録時に求めた
個人重み係数を掛け合わせたものの総和を求め、これを
参照顔画像全体における類似度(以後、顔画像類似度と
呼ぶ)とし、顔画像類似度を全参照顔画像に対して算出
し、その後、得られた複数の顔画像類似度を用いて、総
合判定を行う。
【0056】総合判定の結果、本人と判定された場合に
は、例えば扉の電気錠に対して解除信号を送出する。本
人と判定されなかった場合には、電気錠の解除等は行わ
ない。
【0057】また、照合時に本人と判定された顔画像を
用いて、参照顔画像及び個人重み係数を更新することも
可能である。
【0058】例えば、本人として受理された対象顔画像
が複数の参照顔画像のうちどの画像に最も類似している
かを調べ、最も類似している参照顔画像を本人登録画像
として再度上記登録処理を繰返すことにより参照顔画像
の登録更新を行う。この結果、参照顔画像が実際に本人
認証された顔画像(実変動顔画像)に近いものに置き換
えられる為、より認証時に実現される顔画像の変動を反
映した参照顔画像を得ることができる。
【0059】また、例えば参照顔画像毎に最も類似して
いると判定された頻度を記憶し、頻度の高い参照顔画像
から得られる特徴ほど重視して重み係数を再度計算する
ことにより個人重み係数の更新を行うことも可能であ
る。
【0060】尚、本実施例では、複数の3次元モデル及
び顔画像を平均化することにより求めた1つの標準モデ
ルを用いたが、標準モデルはこれに限定されるものでは
なく、例えば性別や年代、あるいは典型的な顔の3次元
輪郭形状毎に平均化したモデルを複数用いることも可能
である。この場合には、登録時に利用者の属性情報(例
えば性別や年齢、鼻の高さ等)をテンキー22等により
入力し、入力された属性情報を基に複数ある標準モデル
の中から一つのものを選択し、その標準モデルに基づい
て参照顔画像を生成するようにしてもよい。
【0061】また、本実施例においては、記憶手段24
は複数の参照顔画像を記憶していたが、本人登録画像
と、照合に用いられる参照顔画像を指定する情報のみを
記録しておき、認証する度に、前記情報で指定された参
照顔画像を生成するようにしてもよい。また、参照デー
タのみを記憶する様にしてもよい。こうすれば、メモリ
の容量を効率的に使用することができる。
【0062】[第2の実施の形態]次に、認証対象顔画像
に含まれる髭や眼鏡、髪型といった変動要因となる画像
領域を顔画像の肌色情報をもとに除外する例について説
明する。
【0063】図3は、第2の実施の形態にかかる顔画像
照合装置10を備えたアクセス制御システム12の全体
構成を表すブロック図である。尚、図1と共通する部分
については同一符号を付して説明を省略する。
【0064】符号14は入力手段であり、利用者によっ
て、アクセス制御システム12に備えられたボタン(図
示せず)の押下あるいは超音波センサ(図示せず)等に
より利用者の接近を検知し、アナログあるいはデジタル
出力が可能なカラーカメラ54によって撮影された人物
の顔画像の映像信号を受信し、制御手段18に出力す
る。
【0065】符号24はメモリで構成される記憶手段で
あり、参照顔画像及び該顔画像から抽出した照合に用い
る特徴量(参照データ)を記憶する。
【0066】符号18は制御手段であり、登録手段2
6,照合手段28,電気錠制御手段30,特徴量抽出手
段32、変動除去手段56から構成される。
【0067】登録手段26は、登録時に入力された顔画
像を本人登録顔画像として記憶手段24に記憶する。変
動除去手段56は、顔画像から算出した肌色情報を用い
て、肌色以外の画像領域を除去することにより、髭や眼
鏡、髪型といった変動要因の除去を行う。
【0068】次に、図4を用いて、変動除去手段56に
ついて詳細に説明する。
【0069】部位抽出手段58は、利用者によるボタン
の押下あるいは別途設置した超音波センサ等により利用
者の接近を検知し、カラーカメラにより撮影された認証
対象となるカラーの対象顔画像から、目や口といった部
位を含んだ複数の画像領域を抽出する。具体的な抽出方
法については、第1の実施形態における部位抽出手段4
2のものと同様であるので、ここでは説明を省略する。
【0070】尚、この段階では眼鏡や髭等の影響が考え
られるので、正確に上記顔の所定部位を抽出できない可
能性がある。しかし、本処理の目的は基準肌色算出手段
62にて顔の画像の基準肌色の色成分を算出するための
領域を求めることにあるので、例えば各部位領域のテン
プレートを大きめに作成し、部位の概略位置が抽出でき
るようにしておくことが好ましい。
【0071】色分解手段60は、入力手段14より得ら
れた認証対象となるカラー対象顔画像を、各表色系に対
応した色フィルターを用いて複数の表色系(YIQ表色
系、XYZ表色系、HVS表色系等)に分解し、各色成分毎に
輝度情報を抽出する。この結果、各表色系の成分毎に輝
度情報、すなわち各色空間上での座標値を得ることがで
きる。
【0072】基準肌色算出手段62では、認証者の顔の
肌色成分を算出する。顔の肌色は、色白、色黒、赤ら顔
等個人により千差万別であるため、肌色の色成分を固定
したのでは、高精度に肌色領域と非肌色領域を抽出して
これを分離することができない。そこで、本実施形態に
係る顔画像照合装置においては、個人毎に肌色の色成分
を抽出し、この色成分を基準として肌色領域と非肌色領
域との分離を行う。
【0073】具体的には、顔画像から肌色に相当する表
色系(例えばHVS表色系)の色成分(例えばH成分
(これを色相と呼ぶ))が所定範囲内にある領域を抽出
し、この領域における輝度の平均値として基準肌色を算
出する。
【0074】非肌色領域除去手段64は、入力された認
証対象となるカラー対象顔画像から部位抽出手段58に
て抽出された部位領域を除いた領域の各表色系における
色成分と、前記基準肌色算出手段62にて算出した認証
対象者の顔の基準肌色の色成分とを比較し、色成分が所
定の閾値以上となる画像領域を非肌色領域としてカラー
対象顔画像より抽出する。この領域を基準肌色あるいは
該領域近傍の色成分で置き換えることにより、顔画像か
ら変動要因を除去する。
【0075】この結果、髪や髭、メガネフレームといっ
た変動要因を対象顔画像から取り除くことができる為、
参照顔画像と照合する場合により高精度に部位及び特徴
量抽出を行うことができる。
【0076】以上述べたように、第1及び第2の実施形
態においては、本人のみが登録されている場合を例に説
明したが、これに限定されるものではない。複数人が登
録されている場合には、全ての登録者の参照顔画像に対
して総当たりで照合を行うことも可能である。また、登
録人数が増えたり、あるいは変形パターンを大量に用意
した場合等、照合処理に時間が掛かってしまう場合に
は、例えば照合に際して利用者が暗証番号を入力するこ
とにより特定個人の登録顔画像を選択し、これとの照合
を行うことも可能である。
【0077】更に、照合時に入力された顔画像を撮影日
時と共に履歴として保存すると共に、撮影された顔画像
を記録した旨を音声あるいは画像にて利用者に提示する
ことも可能である。この結果、詐称に対する抑止効果を
期待することが可能となり、高いセキュリティーを確保
することができる。また、万が一第三者による詐称が発
生した場合であっても、保存された顔画像を犯人捜査に
活用することが可能となる。
【0078】
【発明の効果】上記のように構成したので、本発明に係
る本人認証用の顔画像照合装置は本人登録を容易に行え
ることができる。また誤り率の低い顔画像照合装置を提
供することができる。
【図面の簡単な説明】
【図1】 第1の実施の形態にかかる顔画像照合装置を
備えたアクセス制御システムの全体構成を表す図であ
る。
【図2】 登録手段の構成を示した図である。
【図3】 第2の実施の形態にかかる顔画像照合装置を
備えたアクセス制御システムの全体構成を表す図であ
る。
【図4】 変動除去手段の構成を示した図である。
【符号の説明】
10 顔画像照合装置、12 アクセス制御システム、
14 入力手段、16カメラ、18 制御手段、22
テンキー、24 記憶手段、26 登録手段、28 照
合手段、30 電気錠制御手段、32 特徴量抽出手
段、34 出力手段、36 電気錠、38 モニター、
42 部位抽出手段、44 3次元顔モデル生成手段、
46 参照顔画像生成手段、48 参照顔画像提示手
段、50参照顔画像指定手段、52 参照顔画像登録手
段、54 カラーカメラ、56変動除去手段、58 部
位抽出手段、60 色分解手段、62 基準肌色算出手
段、64 非肌色領域除去手段 。
───────────────────────────────────────────────────── フロントページの続き Fターム(参考) 5B043 AA09 BA04 FA08 5B050 BA06 BA07 BA09 BA10 BA12 DA03 EA19 EA27 EA28 5B057 CA12 CA13 CA16 CD00 DA11 DB02 DB03 DC36 5L096 AA09 FA00 HA07 JA11 KA03

Claims (7)

    【特許請求の範囲】
  1. 【請求項1】 予め登録されている人物の認証に用いら
    れる顔画像照合装置であって、認証対象として入力され
    る2次元顔画像である対象顔画像から抽出される対象デ
    ータと、前記対象顔画像の照合に用いられる2次元顔画
    像である参照顔画像から抽出される参照データと、を照
    合して本人認証を行う顔画像照合装置において、 本人登録に用いられる本人の2次元顔画像を入力するた
    めの本人登録画像入力手段と、 標準的な顔の3次元形状を表わす標準フレームモデルを
    記憶する標準モデル記憶手段と、 前記本人の2次元顔画像と前記標準フレームモデルとを
    合成し、本人の顔に対応した3次元顔モデルを生成する
    個人モデル生成手段と、 前記3次元顔モデルから複数のレンダリング条件に従っ
    て複数の前記参照顔画像を生成する参照顔画像生成手段
    と、 を備えることを特徴とする本人認証用の顔画像照合装
    置。
  2. 【請求項2】 請求項1記載の顔画像照合装置におい
    て、 前記参照顔画像生成手段は、 顔の各変化パターンに基づいて前記3次元顔モデルを変
    形する個人モデル変形手段を備え、 変形された前記3次元顔モデルをもとに複数の前記参照
    顔画像を生成可能としたことを特徴とする本人認証用の
    顔画像照合装置。
  3. 【請求項3】 請求項2に記載の顔画像照合装置であっ
    て、 前記変化パターンを設定するための変化パターン設定手
    段を備えることを特徴とする本人認証用の顔画像照合装
    置。
  4. 【請求項4】 請求項1〜3いずれかに記載の顔画像照
    合装置において、 前記参照顔画像生成手段により生成された複数の参照顔
    画像を提示する提示手段と、 提示された複数の参照顔画像のなかから照合に用いない
    顔画像を指定するための棄却画像指定手段と、 を備え、 前記棄却画像指定手段で指定された参照顔画像を棄却す
    ることを特徴とする本人認証用の顔画像照合装置。
  5. 【請求項5】 請求項1〜4いずれかに記載の顔画像照
    合装置であって、 前記標準モデル記憶手段は、複数の標準フレームモデル
    を記憶しており、 前記個人モデル生成手段は、 本人の属性情報を入力するための属性情報入力手段と、 前記属性情報に基づいて前記複数の標準フレームモデル
    のうちからひとつの標準フレームモデルを選択する標準
    モデル選択手段と、 を備えることを特徴とする本人認証用の顔画像照合装
    置。
  6. 【請求項6】 請求項1〜5いずれかに記載の顔画像照
    合装置であって、 前記個人モデル生成手段は、 前記本人の2次元顔画像から顔の所定の部位の画像を抽
    出する抽出手段と、 前記所定の部位の画像をもとに前記標準フレームモデル
    の3次元形状を変形する手段と、 を備えることを特徴とする本人認証用の顔画像照合装
    置。
  7. 【請求項7】 予め登録されている人物の認証をおこな
    う顔画像照合装置であって、入力された認証顔画像を登
    録されている参照顔画像と照合して本人認証をおこなう
    顔画像照合装置において、 前記認証顔画像からその顔の肌の色成分を算出する肌色
    算出手段と、 前記肌の色成分をもとに前記認証顔画像において肌色で
    ない領域を特定し、その領域を照合対象範囲から除外す
    る除去手段と、 を備えることを特徴とする本人認証用の顔画像照合装
    置。
JP2001187237A 2001-06-20 2001-06-20 本人認証用の顔画像照合装置 Expired - Fee Related JP4611575B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001187237A JP4611575B2 (ja) 2001-06-20 2001-06-20 本人認証用の顔画像照合装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001187237A JP4611575B2 (ja) 2001-06-20 2001-06-20 本人認証用の顔画像照合装置

Publications (2)

Publication Number Publication Date
JP2003006645A true JP2003006645A (ja) 2003-01-10
JP4611575B2 JP4611575B2 (ja) 2011-01-12

Family

ID=19026557

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001187237A Expired - Fee Related JP4611575B2 (ja) 2001-06-20 2001-06-20 本人認証用の顔画像照合装置

Country Status (1)

Country Link
JP (1) JP4611575B2 (ja)

Cited By (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006059200A (ja) * 2004-08-20 2006-03-02 Fuji Photo Film Co Ltd 顔画像格納システム、顔画像格納方法、及び顔画像格納プログラム
JP2006185299A (ja) * 2004-12-28 2006-07-13 Media Technology:Kk アイリス識別装置
JP2007004767A (ja) * 2005-05-23 2007-01-11 Toshiba Corp 画像認識装置、方法およびプログラム
JP2007058393A (ja) * 2005-08-23 2007-03-08 Konica Minolta Holdings Inc 認証装置、認証方法及びプログラム
JP2007109234A (ja) * 2005-10-14 2007-04-26 Mitsubishi Electric Research Laboratories Inc 画像中の顔を認識する方法
JP2007122454A (ja) * 2005-10-28 2007-05-17 Konica Minolta Holdings Inc 認証システム、登録システム及びプログラム
JP2007140868A (ja) * 2005-11-17 2007-06-07 Konica Minolta Holdings Inc 認証システム、認証方法およびプログラム
JP2007257310A (ja) * 2006-03-23 2007-10-04 Space Vision:Kk 顔解析システム
JP2007299070A (ja) * 2006-04-27 2007-11-15 Toshiba Corp 顔形状モデル生成装置及びその方法
JP2007318564A (ja) * 2006-05-26 2007-12-06 Canon Inc 画像処理方法および画像処理装置
JP2008059108A (ja) * 2006-08-30 2008-03-13 Hitachi Ltd 画像処理装置,画像処理方法、そのプログラムおよび人流監視システム
JP2008191785A (ja) * 2007-02-01 2008-08-21 Toyota Motor Corp 閉眼検知装置、居眠り検知装置、閉眼検知方法及び閉眼検知のためのプログラム
JP2009211148A (ja) * 2008-02-29 2009-09-17 Secom Co Ltd 顔画像処理装置
JP2009211151A (ja) * 2008-02-29 2009-09-17 Secom Co Ltd 顔画像処理装置
JP2009301170A (ja) * 2008-06-11 2009-12-24 Sony Corp 画像処理装置および画像処理方法
US7734062B2 (en) 2003-08-29 2010-06-08 Fuji Xerox Co., Ltd. Action recognition apparatus and apparatus for recognizing attitude of object
JP2011039869A (ja) * 2009-08-13 2011-02-24 Nippon Hoso Kyokai <Nhk> 顔画像処理装置およびコンピュータプログラム
WO2011058837A1 (ja) * 2009-11-10 2011-05-19 日本電気株式会社 偽指判定装置、偽指判定方法および偽指判定プログラム
WO2011058836A1 (ja) * 2009-11-10 2011-05-19 日本電気株式会社 偽指判定装置、偽指判定方法および偽指判定プログラム
WO2011108582A1 (ja) * 2010-03-04 2011-09-09 日本電気株式会社 異物判定装置、異物判定方法および異物判定プログラム
US8035640B2 (en) 2006-03-29 2011-10-11 Nec Corporation Restoring and collating system and method for 3-dimensional face data
JP2011215843A (ja) * 2010-03-31 2011-10-27 Secom Co Ltd 顔画像処理装置
JP2013097588A (ja) * 2011-11-01 2013-05-20 Dainippon Printing Co Ltd 三次元ポートレートの作成装置
WO2015136716A1 (ja) * 2014-03-14 2015-09-17 オムロン株式会社 画像処理装置、画像センサ、画像処理方法
CN108846793A (zh) * 2018-05-25 2018-11-20 深圳市商汤科技有限公司 基于图像风格转换模型的图像处理方法和终端设备
JP2020098422A (ja) * 2018-12-17 2020-06-25 株式会社東芝 画像処理装置、方法及びプログラム

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102285376B1 (ko) 2015-12-01 2021-08-03 삼성전자주식회사 3d 얼굴 모델링 방법 및 3d 얼굴 모델링 장치

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04256185A (ja) * 1991-02-08 1992-09-10 Nippon Telegr & Teleph Corp <Ntt> 画像認識システムのサンプル画像収集方法
JPH04306782A (ja) * 1991-04-03 1992-10-29 Mitsubishi Electric Corp 画像合成器
JP2000163592A (ja) * 1998-11-26 2000-06-16 Victor Co Of Japan Ltd 顔画像認識方法
JP2001056861A (ja) * 1999-06-08 2001-02-27 Matsushita Electric Ind Co Ltd 手の形状と姿勢の認識装置および手の形状と姿勢の認識方法並びに当該方法を実施するプログラムを記録した記録媒体
JP2001109907A (ja) * 1999-10-04 2001-04-20 Sharp Corp 3次元モデル生成装置および3次元モデル生成方法ならびに3次元モデル生成プログラムを記録した記録媒体

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04256185A (ja) * 1991-02-08 1992-09-10 Nippon Telegr & Teleph Corp <Ntt> 画像認識システムのサンプル画像収集方法
JPH04306782A (ja) * 1991-04-03 1992-10-29 Mitsubishi Electric Corp 画像合成器
JP2000163592A (ja) * 1998-11-26 2000-06-16 Victor Co Of Japan Ltd 顔画像認識方法
JP2001056861A (ja) * 1999-06-08 2001-02-27 Matsushita Electric Ind Co Ltd 手の形状と姿勢の認識装置および手の形状と姿勢の認識方法並びに当該方法を実施するプログラムを記録した記録媒体
JP2001109907A (ja) * 1999-10-04 2001-04-20 Sharp Corp 3次元モデル生成装置および3次元モデル生成方法ならびに3次元モデル生成プログラムを記録した記録媒体

Cited By (46)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7734062B2 (en) 2003-08-29 2010-06-08 Fuji Xerox Co., Ltd. Action recognition apparatus and apparatus for recognizing attitude of object
JP2006059200A (ja) * 2004-08-20 2006-03-02 Fuji Photo Film Co Ltd 顔画像格納システム、顔画像格納方法、及び顔画像格納プログラム
JP2006185299A (ja) * 2004-12-28 2006-07-13 Media Technology:Kk アイリス識別装置
JP4634140B2 (ja) * 2004-12-28 2011-02-16 春雄 伊藤 アイリス識別装置
JP2007004767A (ja) * 2005-05-23 2007-01-11 Toshiba Corp 画像認識装置、方法およびプログラム
JP4653606B2 (ja) * 2005-05-23 2011-03-16 株式会社東芝 画像認識装置、方法およびプログラム
US7894636B2 (en) 2005-05-23 2011-02-22 Kabushiki Kaisha Toshiba Apparatus and method for performing facial recognition from arbitrary viewing angles by texturing a 3D model
JP2007058393A (ja) * 2005-08-23 2007-03-08 Konica Minolta Holdings Inc 認証装置、認証方法及びプログラム
JP4696778B2 (ja) * 2005-08-23 2011-06-08 コニカミノルタホールディングス株式会社 認証装置、認証方法及びプログラム
JP2007109234A (ja) * 2005-10-14 2007-04-26 Mitsubishi Electric Research Laboratories Inc 画像中の顔を認識する方法
JP2007122454A (ja) * 2005-10-28 2007-05-17 Konica Minolta Holdings Inc 認証システム、登録システム及びプログラム
JP4645411B2 (ja) * 2005-10-28 2011-03-09 コニカミノルタホールディングス株式会社 認証システム、登録システム及びプログラム
JP2007140868A (ja) * 2005-11-17 2007-06-07 Konica Minolta Holdings Inc 認証システム、認証方法およびプログラム
JP2007257310A (ja) * 2006-03-23 2007-10-04 Space Vision:Kk 顔解析システム
US8035640B2 (en) 2006-03-29 2011-10-11 Nec Corporation Restoring and collating system and method for 3-dimensional face data
JP2007299070A (ja) * 2006-04-27 2007-11-15 Toshiba Corp 顔形状モデル生成装置及びその方法
JP2007318564A (ja) * 2006-05-26 2007-12-06 Canon Inc 画像処理方法および画像処理装置
US8391595B2 (en) 2006-05-26 2013-03-05 Canon Kabushiki Kaisha Image processing method and image processing apparatus
JP2008059108A (ja) * 2006-08-30 2008-03-13 Hitachi Ltd 画像処理装置,画像処理方法、そのプログラムおよび人流監視システム
JP2008191785A (ja) * 2007-02-01 2008-08-21 Toyota Motor Corp 閉眼検知装置、居眠り検知装置、閉眼検知方法及び閉眼検知のためのプログラム
JP2009211151A (ja) * 2008-02-29 2009-09-17 Secom Co Ltd 顔画像処理装置
JP2009211148A (ja) * 2008-02-29 2009-09-17 Secom Co Ltd 顔画像処理装置
JP2009301170A (ja) * 2008-06-11 2009-12-24 Sony Corp 画像処理装置および画像処理方法
JP4569670B2 (ja) * 2008-06-11 2010-10-27 ソニー株式会社 画像処理装置、画像処理方法およびプログラム
JP2011039869A (ja) * 2009-08-13 2011-02-24 Nippon Hoso Kyokai <Nhk> 顔画像処理装置およびコンピュータプログラム
WO2011058837A1 (ja) * 2009-11-10 2011-05-19 日本電気株式会社 偽指判定装置、偽指判定方法および偽指判定プログラム
CN102612706B (zh) * 2009-11-10 2015-09-02 日本电气株式会社 假手指判定设备、假手指判定方法和假手指判定程序
US12106602B2 (en) 2009-11-10 2024-10-01 Nec Corporation Fake-finger determination device, fake-finger determination method and fake-finger determination program
CN102612706A (zh) * 2009-11-10 2012-07-25 日本电气株式会社 假手指判定设备、假手指判定方法和假手指判定程序
US20120224041A1 (en) * 2009-11-10 2012-09-06 Nec Corporation Fake-finger determination device, fake-finger determination method, and fake-finger determination program
US11734951B2 (en) 2009-11-10 2023-08-22 Nec Corporation Fake-finger determination device, fake-finger determination method, and fake-finger determination program
WO2011058836A1 (ja) * 2009-11-10 2011-05-19 日本電気株式会社 偽指判定装置、偽指判定方法および偽指判定プログラム
US11443548B2 (en) 2009-11-10 2022-09-13 Nec Corporation Fake-finger determination device, fake-finger determination method and fake-finger determination program
US10496871B2 (en) 2009-11-10 2019-12-03 Nec Corporation Fake-finger determination device, fake-finger determination method, and fake-finger determination program
US8855381B2 (en) 2009-11-10 2014-10-07 Nec Corporation Fake-finger determination device, fake-finger determination method and fake-finger determination program
JP5725012B2 (ja) * 2010-03-04 2015-05-27 日本電気株式会社 異物判定装置、異物判定方法および異物判定プログラム
WO2011108582A1 (ja) * 2010-03-04 2011-09-09 日本電気株式会社 異物判定装置、異物判定方法および異物判定プログラム
US9295415B2 (en) 2010-03-04 2016-03-29 Nec Corporation Foreign object determination device, foreign object determination method and foreign object determination program
KR101413413B1 (ko) 2010-03-04 2014-06-27 닛본 덴끼 가부시끼가이샤 이물 판정 장치, 이물 판정 방법 및 이물 판정 프로그램
CN102782724A (zh) * 2010-03-04 2012-11-14 日本电气株式会社 异物判定装置、异物判定方法及异物判定程序
JP2011215843A (ja) * 2010-03-31 2011-10-27 Secom Co Ltd 顔画像処理装置
JP2013097588A (ja) * 2011-11-01 2013-05-20 Dainippon Printing Co Ltd 三次元ポートレートの作成装置
WO2015136716A1 (ja) * 2014-03-14 2015-09-17 オムロン株式会社 画像処理装置、画像センサ、画像処理方法
CN108846793A (zh) * 2018-05-25 2018-11-20 深圳市商汤科技有限公司 基于图像风格转换模型的图像处理方法和终端设备
CN108846793B (zh) * 2018-05-25 2022-04-22 深圳市商汤科技有限公司 基于图像风格转换模型的图像处理方法和终端设备
JP2020098422A (ja) * 2018-12-17 2020-06-25 株式会社東芝 画像処理装置、方法及びプログラム

Also Published As

Publication number Publication date
JP4611575B2 (ja) 2011-01-12

Similar Documents

Publication Publication Date Title
JP4611575B2 (ja) 本人認証用の顔画像照合装置
JP5043097B2 (ja) まつげ分析による人物識別方法
US6496594B1 (en) Method and apparatus for aligning and comparing images of the face and body from different imagers
JP3469031B2 (ja) 顔画像登録装置及びその方法
JP4406547B2 (ja) Idカード作成装置、idカード、顔認証端末装置、顔認証装置およびシステム
JP4862447B2 (ja) 顔認識システム
US7412081B2 (en) Personal authentication apparatus and personal authentication method
CN106599660A (zh) 终端安全验证方法及装置
JP2007135149A (ja) 移動携帯端末
JP7188446B2 (ja) 認証装置、認証方法、認証プログラムおよび記録媒体
JP4553526B2 (ja) 個人照合装置
JP5480532B2 (ja) 画像処理装置、画像処理方法、及び同方法をコンピュータに実行させるプログラム
JPH09134428A (ja) 個人識別方法および個人識別装置
Pigeon et al. Image-based multimodal face authentication
CN109255618A (zh) 针对动态视频的人脸识别支付信息防伪方法
JP2003233816A (ja) アクセスコントロールシステム
CN114219868A (zh) 一种护肤方案推荐方法和系统
JP2001005836A (ja) アイリス登録システム
JP4937639B2 (ja) 認証方法、認証装置、認証プログラム、及び該プログラムが記録された記録媒体
GB2356961A (en) Biometrics system
JP2690132B2 (ja) 個人照合方法および装置
JP2002208011A (ja) 画像照合処理システムおよび画像照合方法
JP4497740B2 (ja) 個人認証装置
JP2004318501A (ja) 人物認証装置
Kumari et al. A novel approach for secure multimodal biometric system using multiple biometric traits

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070810

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20070810

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100702

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100713

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100910

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20101005

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20101014

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131022

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4611575

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees