JPWO2006051607A1 - 顔特徴点検出装置、特徴点検出装置 - Google Patents
顔特徴点検出装置、特徴点検出装置 Download PDFInfo
- Publication number
- JPWO2006051607A1 JPWO2006051607A1 JP2006544712A JP2006544712A JPWO2006051607A1 JP WO2006051607 A1 JPWO2006051607 A1 JP WO2006051607A1 JP 2006544712 A JP2006544712 A JP 2006544712A JP 2006544712 A JP2006544712 A JP 2006544712A JP WO2006051607 A1 JPWO2006051607 A1 JP WO2006051607A1
- Authority
- JP
- Japan
- Prior art keywords
- node
- face
- feature
- feature point
- shape model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000001514 detection method Methods 0.000 title claims description 151
- 230000001815 facial effect Effects 0.000 title claims description 21
- 238000005070 sampling Methods 0.000 claims abstract description 87
- 238000000034 method Methods 0.000 claims description 99
- 238000012545 processing Methods 0.000 claims description 68
- 239000013598 vector Substances 0.000 claims description 48
- 210000001525 retina Anatomy 0.000 claims description 45
- 239000011159 matrix material Substances 0.000 claims description 44
- 230000010365 information processing Effects 0.000 claims description 30
- 238000010219 correlation analysis Methods 0.000 claims description 18
- 230000008859 change Effects 0.000 claims description 7
- 238000012804 iterative process Methods 0.000 claims description 4
- 230000008569 process Effects 0.000 description 70
- 238000010606 normalization Methods 0.000 description 19
- 238000012937 correction Methods 0.000 description 14
- 238000004364 calculation method Methods 0.000 description 12
- 210000001508 eye Anatomy 0.000 description 11
- 238000010586 diagram Methods 0.000 description 9
- 230000009466 transformation Effects 0.000 description 9
- 210000000214 mouth Anatomy 0.000 description 7
- 230000015654 memory Effects 0.000 description 6
- 230000004048 modification Effects 0.000 description 6
- 238000012986 modification Methods 0.000 description 6
- 238000012417 linear regression Methods 0.000 description 5
- 238000004458 analytical method Methods 0.000 description 4
- 238000006243 chemical reaction Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 210000001331 nose Anatomy 0.000 description 4
- 238000000513 principal component analysis Methods 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000009467 reduction Effects 0.000 description 3
- 238000006073 displacement reaction Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 210000000887 face Anatomy 0.000 description 2
- 230000008921 facial expression Effects 0.000 description 2
- 230000005484 gravity Effects 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 210000000056 organ Anatomy 0.000 description 2
- 230000003252 repetitive effect Effects 0.000 description 2
- 230000004043 responsiveness Effects 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 210000005069 ears Anatomy 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 210000004709 eyebrow Anatomy 0.000 description 1
- 210000001061 forehead Anatomy 0.000 description 1
- 210000003128 head Anatomy 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000003325 tomography Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
- G06T7/75—Determining position or orientation of objects or cameras using feature-based methods involving models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
- G06V40/171—Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
- G06T2207/30201—Face
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Oral & Maxillofacial Surgery (AREA)
- General Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
Description
まず、顔特徴点検出装置1を動作させるために必要となる学習処理について説明する。この学習処理は、顔特徴点検出装置1によって顔画像から顔特徴点(以下、単に「特徴点」と呼ぶ)の位置を検出するために予め実施しておく必要のある処理である。まず、本学習処理のフローを説明するにあたって必要となる処理、顔形状モデルの取得、レティナサンプリング、及び誤差推定行列の取得について説明する。その後、学習処理の具体的なフローの例について説明する。
学習処理では、まず、複数の学習用顔画像(以下、学習処理の説明において「顔画像」と呼ぶ)を用意し、各画像において特徴点を抽出する。この処理は、学習処理の精度を高めるためにも、人間によって実施されることが望ましい。図1は、顔画像から抽出された特徴点の例を示す図である。図1において、斜線を含む円の中心位置が特徴点となる。具体的には、両目の両端(目頭と目尻)及び中心部分、左右のほお骨部分(眼窩底部分)、鼻の頂点、左右の口角、口の中心、鼻の左右端点と左右の口角の中間点などを特徴点とすることができる。なお、特徴点の抽出は、上記した非特許文献1に記載された方法が適用されても良い。各特徴点piの座標を、pi(xi,yi)とする。このとき、iは、1からn(nは特徴点の数を示す)の値を示す。
次に、特徴量のサンプリングについて説明する。特徴量のサンプリングは、顔形状モデルに対し可変レティナ構造を組み合わせることによって行う。レティナ構造とは、ある着目したい特徴点(ノード)の周囲に放射状にサンプリング点を配置した構造のことである。図2は、レティナ構造の例を示す図である。図2では、注目したい特徴点の座標は原点であり、その他の座標に位置する各点がレティナ構造におけるサンプリング点を示す。レティナ構造によるサンプリングを実施することにより、特徴点周りの情報を、低次元で効率的にサンプリングすることが可能となる。本学習処理では、顔形状モデルの各ノード(各点p)においてレティナ構造によるサンプリングを実施する。図3は、顔形状モデルのある一つのノードに対してレティナ構造を適用した場合のサンプリング点の分布例を示す図である。図3において、斜線を含む円は顔形状モデルのノードを示し、黒丸はレティナ構造におけるサンプリング点を示す。
次に、本学習処理において実行する誤差推定行列の取得について説明する。誤差推定行列の取得は、正準相関分析(Canonical Correlation Analysis)を用いることにより実施する。正準相関分析は、二つの次元の異なる変量間の相関関係を求める手法の一つである。正準相関分析により、顔形状モデルの各ノードが誤った位置(検出すべき特徴点と異なる位置)に配置されてしまった際にどの方向に修正すべきかの相関関係について学習結果を得ることができる。
以上、本学習処理に必要となる三つの処理、即ち顔形状モデルの取得、レティナサンプリング、及び誤差推定行列の取得について説明した。次に、これらの処理を用いて学習処理を行う際のフローについて説明する。図5は、学習処理のフローの例を示すフローチャートである。以下、図5を用いて学習処理の流れの例について説明する。なお、以下に説明する処理は、学習処理プログラムがインストールされた情報処理装置によって実行される。この情報処理装置は、接続された記憶装置から学習用の顔画像及び各顔画像において予め抽出されている各特徴点の座標位置(特徴点の正解座標)を読み出すことが可能に構成される。この情報処理装置は、上記した記憶装置からのみならず、ネットワークを介することにより、又は記録媒体にアクセスすること等によって、上記データを読み出すことが可能に構成されても良い。
次に、顔特徴点検出装置1について説明する。顔特徴点検出装置1は、上記した学習処理によって得られる誤差推定行列や正規化パラメタ等に基づいて、入力された顔画像から特徴点を検出する。まず、顔特徴点検出装置1の装置構成について説明する。
例えば、顔特徴点検出装置1は、ハードウェア的には、バスを介して接続されたCPU(中央演算処理装置),主記憶装置(RAM),補助記憶装置などを備えるように構成されても良い。この場合は、プログラムがCPUによって実行されることにより、顔特徴点検出装置1が実現される。ここで言う補助記憶装置は、不揮発性記憶装置を用いて構成される。不揮発瀬記憶装置とは、いわゆるROM(Read−Only Memory:EPROM(Erasable Programmable Read−Only Memory),EEPROM(Electrically Erasable Programmable Read−Only Memory),マスクROM等を含む),FRAM(Ferroelectric RAM),ハードディスク等を指す。
図7は、顔特徴点検出装置1の動作例を示すフローチャートである。以下、図7を用いて顔特徴点検出装置1の動作例について説明する。まず、顔特徴点検出装置1は、画像入力部2を介して、処理対象となる画像を読み込む(S12)。次に、顔検出部3は、処理対象となる画像から人の顔を検出する。次に、特徴量取得部4は、初期パラメタkinitに基づいた顔形状モデルを、顔検出部3による顔検出処理の結果に従って得られる初期位置に配置する(S13)。次に、特徴量取得部4は、変数iを定義し1を代入する。また、特徴量取得部4は、kiを定義し、初期パラメタkinitを代入する(S14)。そして、特徴量取得部4は、kiに従って、レティナ構造に基づき、サンプリング特徴量fを取得する(S15)。
従来のASMでは、顔形状モデルの各ノード周囲において探索処理を繰り返す必要があった。また、従来のAAMでは、各ノードによって構成されるパッチ内で均質且つ高密度なサンプリングを行い、さらにこの結果に対し形状修正処理を行う必要があった。具体的には、従来のAAMでは通常1万点以上のサンプリングが必要とされていた。即ち、顔特徴点の検出処理には処理速度や応答性が要求されているにも関わらず、従来のこれらの技術では、計算量を削減することが十分には実現されていなかった。
学習結果記憶部5は、予め複数の顔の状態を示す初期パラメタkinitを記憶していても良い。例えば、学習結果記憶部5は、横を向いた顔や上を向いた顔などに対応する初期パラメタkinitの値を記憶していても良い。そして、特徴量取得部4は、取得されるki+1の値によっては、使用する顔形状モデルを変更しても良い。具体的には、特徴量取得部4は、誤差推定部6によって新たに取得されたki+1の値によっては、このki+1の値を破棄して、使用された初期パラメタkinitとは異なる別の初期パラメタkinitを学習結果記憶部5から読み出し、その値に基づいてS13以降の処理を再度実行するように構成されても良い。また、特徴量取得部4は、例えば、顔特徴点の検出処理が繰り返し実行される場合には、ある時点で得られたkestの値に応じて次に入力される顔画像に対する検出処理で用いる初期パラメタを変更しても良い。処理対象となっている画像に含まれる顔が横を向いている場合などには、正面を向いた顔の顔形状モデルを示す初期パラメタkinitよりも、横を向いた顔の顔形状モデルを示す初期パラメタkinitを用いて処理を行った方がより精度の高い結果を得られる場合がある。従って、このような場合には、上記の変形例に従って構成することが有効である。また、特徴量取得部4は、初期パラメタkinitではなく、レティナ構造や、誤差推定行列などを切り替えるように構成されても良い。
次に、顔姿勢推定のための学習処理について説明する。顔姿勢推定とは、特徴点の位置の検出と共に、処理対象の画像に含まれる顔の顔姿勢を推定する処理である。顔姿勢とは、顔が向いている方向やその角度などを意味する。
上記「学習処理」の節では、顔特徴点を検出するために必要となる誤差推定行列の取得処理について説明した。この節では、顔特徴点を検出することを目的とするのではなく、顔画像の人物の顔姿勢を推定することを目的とする姿勢推定処理のための学習処理(姿勢相関学習)について説明する。
次に、姿勢推定行列を取得するための処理例についてフローチャートを用いて説明する。図8は、姿勢推定行列を取得するための処理例、即ち姿勢相関学習の処理例を示すフローチャートである。なお、以下に説明する処理は、姿勢相関学習処理プログラムがインストールされた情報処理装置によって実行される。この情報処理装置は、接続された記憶装置から学習用の顔画像及び各顔画像において予め抽出されている各特徴点の座標位置(特徴点の正解座標)を読み出すことが可能に構成される。この情報処理装置は、上記した記憶装置からのみならず、ネットワークを介することにより、又は記録媒体にアクセスすること等によって、上記データを読み出すことが可能に構成されても良い。
図9は、顔特徴点検出装置1aの機能ブロック例を示す図である。顔特徴点検出装置1aは、顔姿勢の推定をさらに行う点で、顔特徴点検出装置1と異なる。このような作用を導くため、顔特徴点検出装置1aは、顔姿勢推定部7をさらに備える。また、顔特徴点検出装置1aは、学習結果記憶部5に代えて学習結果記憶部5aを備える。顔特徴点検出装置1aが備える他の機能部は、顔特徴点検出装置1に備えられる各機能部と同じであるため、その説明は省く。
このように構成された顔特徴点検出装置1aによれば、誤差推定部6によって取得されたkestに基づいて、入力された画像における人の顔の顔姿勢を検出することが可能となる。例えば、運転手の顔の姿勢検出を必要とする居眠り検出装置などに適用されると有効である。
顔姿勢推定部7は、最終的に誤差推定部6から得られるkestではなく、各iの値において得られるkiの値を用いて、iの値ごとに姿勢推定量giを取得するように構成されても良い。そして、顔姿勢推定部7は、最終的に、kestの値を用いて、姿勢推定量gestを取得するように構成されても良い。
2 画像入力部
3 顔検出部
4 特徴量取得部
5,5a 学習結果記憶部
6 誤差推定部
7 顔姿勢推定部
Claims (20)
- 入力された画像に対し、人の顔画像における複数の特徴点にそれぞれ対応する複数のノードを予め決められた初期位置に配置する配置手段と、
前記配置手段によって配置された各ノードの周囲に複数のサンプリング点を配置し、前記複数のサンプリング点における特徴量を、対応する各ノードのノード特徴量として取得する特徴量取得手段と、
学習用の画像において、複数のノードがそれぞれに対応する特徴点の正しい位置に配置された状態で取得される前記ノード特徴量と、複数のノードがそれぞれに対応する特徴点の正しい位置からずれた位置に配置された状態で取得される前記ノード特徴量との差、及び各ノードにおける前記正しい位置と前記ずれた位置との差、についての相関関係の情報を予め記憶している記憶手段と、
前記記憶手段に記憶される前記相関関係の情報と、前記特徴量取得手段によって取得された各ノードのノード特徴量とに基づいて、現在の各ノードの位置とそれぞれに対応する特徴点の位置とのずれを示す誤差推定量を取得する誤差推定量取得手段と、
前記誤差推定量取得手段によって得られた前記誤差推定量と、現在の各ノードの位置とに基づいて、入力された画像における各特徴点の位置を推定する推定手段と
を備える顔特徴点検出装置。 - 繰り返し処理の終了を判定する終了判定手段をさらに備え、
前記配置手段は、前記誤差推定量が得られた場合は、この誤差推定量に基づいて現在の各ノードの位置を移動させ、
前記配置手段と前記誤差推定量取得手段とは、繰り返して処理を実行し、
前記推定手段は、前記終了判定手段によって終了が判定された時点での誤差推定量と、この時点での各ノードの位置とに基づいて、入力された画像における各特徴点の位置を推定する
請求項1に記載の顔特徴点検出装置。 - 前記終了判定手段は、前記誤差推定量取得手段によって得られた誤差推定量が閾値以下になった場合に、繰り返し処理の終了と判定する請求項2に記載の顔特徴点検出装置。
- 前記入力された画像から少なくとも人の顔又は人の顔の要素の位置を検出する顔検出手段をさらに備え、
前記配置手段は、前記検出された人の顔又は人の顔の要素の位置に基づいて、前記各ノードの初期位置を決定する請求項1〜3のいずれかに記載の顔特徴点検出装置。 - 前記顔検出手段は、人の顔の向きをさらに検出し、
前記配置手段は、各ノードの相対的な位置関係を定めたノードモデルを有し、前記ノードモデルに基づいて各ノードを前記初期位置に配置する際に、前記顔検出手段によって検出された顔の向きに基づいて、ノードモデルを変形させて使用する請求項4に記載の顔特徴点検出装置。 - 前記顔検出手段は、人の顔の大きさをさらに検出し、
前記配置手段は、各ノードの相対的な位置関係を定めたノードモデルを有し、前記ノードモデルに基づいて各ノードを前記初期位置に配置する際に、前記顔検出手段によって検出された顔の大きさに基づいて、ノードモデルを変形させて使用する請求項4に記載の顔特徴点検出装置。 - 前記顔検出手段は、人の顔の向きをさらに検出し、
前記配置手段は、各ノードの相対的な位置関係を定めたノードモデルを、顔の向きに応じて複数有し、
前記記憶手段は、それぞれに対応する向きの顔が撮像された前記学習用画像を用いて予め得られた各ノードモデルに対応する前記相関関係の情報を記憶し、
前記配置手段は、前記ノードモデルに基づいて各ノードを前記初期位置に配置する際に、前記顔検出手段によって検出された顔の向きに基づいて、使用するノードモデルを選択し、
前記誤差推定量取得手段は、前記配置手段によって選択されたノードモデルに対応する前記相関関係の情報を前記記憶手段から読み出し使用する
請求項4に記載の顔特徴点検出装置。 - 前記顔検出手段は、人の顔の大きさをさらに検出し、
前記配置手段は、各ノードの相対的な位置関係を定めたノードモデルを、顔の大きさに応じて複数有し、
前記記憶手段は、それぞれに対応する大きさの顔が撮像された前記学習用画像を用いて予め得られた各ノードモデルに対応する前記相関関係の情報を記憶し、
前記配置手段は、前記ノードモデルに基づいて各ノードを前記初期位置に配置する際に、前記顔検出手段によって検出された顔の大きさに基づいて、使用するノードモデルを選択し、
前記誤差推定量取得手段は、前記配置手段によって選択されたノードモデルに対応する前記相関関係の情報を前記記憶手段から読み出し使用する
請求項4に記載の顔特徴点検出装置。 - 前記特徴量取得手段は、ノードに近いほど密に、ノードから遠いほど疎にサンプリング点を配置する請求項1〜8のいずれかに記載の顔特徴点検出装置。
- 前記特徴量取得手段は、レティナ構造に従ってサンプリング点の配置を行う請求項9に記載の顔特徴点検出装置。
- 前記特徴量取得手段は、複数の異なるレティナ構造を記憶し、各ノードに応じたレティナ構造に従って前記サンプリング点を配置する請求項10に記載の顔特徴点検出装置。
- 前記記憶手段は、学習用の画像において、複数のノードがそれぞれに対応する特徴点の正しい位置に配置された状態で取得される前記ノード特徴量と、その画像における人の顔の姿勢を示す情報と、についての相関関係の情報をさらに予め記憶し、
前記推定手段によって推定された各ノードの位置と、前記記憶手段に記憶される顔の姿勢についての相関関係の情報とに基づいて、前記入力された画像に撮像された人の顔の姿勢を推定する姿勢推定手段をさらに備える請求項1〜11のいずれかに記載の顔特徴点検出装置。 - アクティブシェイプモデル(Active Shape Model)で使用される顔形状モデルを用いて、入力画像における顔の特徴点検出を行う顔特徴点検出装置であって、
入力された画像に対し前記顔形状モデルを初期位置に配置する配置手段と、
前記配置手段によって配置された顔形状モデルの各ノード位置に基づいてレティナ構造に従って複数の特徴量を取得し、同一のノード位置に基づいて取得された複数の特徴量を一つのノード特徴量として取得する特徴量取得手段と、
前記顔形状モデルが正しい位置に配置された場合に顔形状モデルの各ノードについて得られるノード特徴量の集合と、前記顔形状モデルが誤った位置に配置された場合に各ノードについて得られるノート特徴量の集合との差、及び前記正しい位置に配置された場合と前記誤った位置に配置された場合における各ノードの位置の差を示すベクトルの集合、を入力とした正準相関分析により予め取得された変換ベクトル行列を誤差推定行列として記憶する記憶手段と、
前記記憶手段に記憶される誤差推定行列と、前記特徴量取得手段によって取得されたノード特徴量の集合とに基づいて、顔形状モデルの各ノードの現在位置と顔の特徴点の位置とのずれを示す誤差推定量を取得する誤差推定量取得手段と、
前記誤差推定量取得手段によって得られた前記誤差推定量に基づいて、現在の顔形状モデルの各ノード位置を変更する変更手段と、
前記変更手段によって位置が変更された後の各ノード位置を顔特徴点の位置として推定する推定手段と
を備える顔特徴点検出装置。 - 入力された画像に対し、所定の対象物の画像における複数の特徴点にそれぞれ対応する複数のノードを予め決められた初期位置に配置する配置手段と、
前記配置手段によって配置された各ノードの周囲に複数のサンプリング点を配置し、前記複数のサンプリング点における特徴量を、対応する各ノードのノード特徴量として取得する特徴量取得手段と、
学習用の画像において、複数のノードがそれぞれに対応する特徴点の正しい位置に配置された状態で取得される前記ノード特徴量と、複数のノードがそれぞれに対応する特徴点の正しい位置からずれた位置に配置された状態で取得される前記ノード特徴量との差、及び各ノードにおける前記正しい位置と前記ずれた位置との差、についての相関関係の情報を予め記憶している記憶手段と、
前記記憶手段に記憶される前記相関関係の情報と、前記特徴量取得手段によって取得された各ノードのノード特徴量とに基づいて、現在の各ノードの位置とそれぞれに対応する特徴点の位置とのずれを示す誤差推定量を取得する誤差推定量取得手段と、
前記誤差推定量取得手段によって得られた前記誤差推定量と、現在の各ノードの位置とに基づいて、入力された画像における各特徴点の位置を推定する推定手段と
を備える特徴点検出装置。 - 情報処理装置が、入力された画像に対し、人の顔画像における複数の特徴点にそれぞれ対応する複数のノードを予め決められた初期位置に配置するステップと、
情報処理装置が、配置された各ノードの周囲に複数のサンプリング点を配置するステップと、
情報処理装置が、前記複数のサンプリング点における特徴量を、対応する各ノードのノード特徴量として取得するステップと、
学習用の画像において、複数のノードがそれぞれに対応する特徴点の正しい位置に配置された状態で取得される前記ノード特徴量と、複数のノードがそれぞれに対応する特徴点の正しい位置からずれた位置に配置された状態で取得される前記ノード特徴量との差、及び各ノードにおける前記正しい位置と前記ずれた位置との差、についての相関関係の情報を予め記憶している記憶手段に記憶される前記相関関係の情報と、前記特徴量取得手段によって取得された各ノードのノード特徴量とに基づいて、情報処理手段が、現在の各ノードの位置とそれぞれに対応する特徴点の位置とのずれを示す誤差推定量を取得するステップと、
情報処理手段が、前記誤差推定量と、現在の各ノードの位置とに基づいて、入力された画像における各特徴点の位置を推定するステップと
を含む顔特徴点検出方法。 - 情報処理装置が、入力された画像に対し、所定の対象物の画像における複数の特徴点にそれぞれ対応する複数のノードを予め決められた初期位置に配置するステップと、
情報処理装置が、配置された各ノードの周囲に複数のサンプリング点を配置するステップと、
情報処理装置が、前記複数のサンプリング点における特徴量を、対応する各ノードのノード特徴量として取得するステップと、
学習用の画像において、複数のノードがそれぞれに対応する特徴点の正しい位置に配置された状態で取得される前記ノード特徴量と、複数のノードがそれぞれに対応する特徴点の正しい位置からずれた位置に配置された状態で取得される前記ノード特徴量との差、及び各ノードにおける前記正しい位置と前記ずれた位置との差、についての相関関係の情報を予め記憶している記憶手段に記憶される前記相関関係の情報と、前記特徴量取得手段によって取得された各ノードのノード特徴量とに基づいて、情報処理手段が、現在の各ノードの位置とそれぞれに対応する特徴点の位置とのずれを示す誤差推定量を取得するステップと、
情報処理手段が、前記誤差推定量と、現在の各ノードの位置とに基づいて、入力された画像における各特徴点の位置を推定するステップと
を含む特徴点検出方法。 - 入力された画像に対し、人の顔画像における複数の特徴点にそれぞれ対応する複数のノードを予め決められた初期位置に配置するステップと、
配置された各ノードの周囲に複数のサンプリング点を配置するステップと、
前記複数のサンプリング点における特徴量を、対応する各ノードのノード特徴量として取得するステップと、
学習用の画像において、複数のノードがそれぞれに対応する特徴点の正しい位置に配置された状態で取得される前記ノード特徴量と、複数のノードがそれぞれに対応する特徴点の正しい位置からずれた位置に配置された状態で取得される前記ノード特徴量との差、及び各ノードにおける前記正しい位置と前記ずれた位置との差、についての相関関係の情報を予め記憶している記憶手段に記憶される前記相関関係の情報と、前記特徴量取得手段によって取得された各ノードのノード特徴量とに基づいて、現在の各ノードの位置とそれぞれに対応する特徴点の位置とのずれを示す誤差推定量を取得するステップと、
前記誤差推定量と、現在の各ノードの位置とに基づいて、入力された画像における各特徴点の位置を推定するステップと
を情報処理装置に実行させるためのプログラム。 - 入力された画像に対し、所定の対象物の画像における複数の特徴点にそれぞれ対応する複数のノードを予め決められた初期位置に配置するステップと、
配置された各ノードの周囲に複数のサンプリング点を配置するステップと、
前記複数のサンプリング点における特徴量を、対応する各ノードのノード特徴量として取得するステップと、
学習用の画像において、複数のノードがそれぞれに対応する特徴点の正しい位置に配置された状態で取得される前記ノード特徴量と、複数のノードがそれぞれに対応する特徴点の正しい位置からずれた位置に配置された状態で取得される前記ノード特徴量との差、及び各ノードにおける前記正しい位置と前記ずれた位置との差、についての相関関係の情報を予め記憶している記憶手段に記憶される前記相関関係の情報と、前記特徴量取得手段によって取得された各ノードのノード特徴量とに基づいて、現在の各ノードの位置とそれぞれに対応する特徴点の位置とのずれを示す誤差推定量を取得するステップと、
前記誤差推定量と、現在の各ノードの位置とに基づいて、入力された画像における各特徴点の位置を推定するステップと
を情報処理装置に実行させるためのプログラム。 - 情報処理装置が、アクティブシェイプモデル(Active Shape Model)で使用される顔形状モデルを用いて、入力画像における顔の特徴点検出を行う方法であって、
情報処理装置が、入力された画像に対し前記顔形状モデルを初期位置に配置するステップと、
情報処理装置が、配置された顔形状モデルの各ノード位置に基づいてレティナ構造に従って複数の特徴量を取得し、同一のノード位置に基づいて取得された複数の特徴量を一つのノード特徴量として取得するステップと、
前記顔形状モデルが正しい位置に配置された場合に顔形状モデルの各ノードについて得られるノード特徴量の集合と、前記顔形状モデルが誤った位置に配置された場合に各ノードについて得られるノート特徴量の集合との差、及び前記正しい位置に配置された場合と前記誤った位置に配置された場合における各ノードの位置の差を示すベクトルの集合、を入力とした正準相関分析により予め取得された変換ベクトル行列を誤差推定行列として記憶する記憶手段に記憶される誤差推定行列と、取得されたノード特徴量の集合とに基づいて、情報処理装置が、顔形状モデルの各ノードの現在位置と顔の特徴点の位置とのずれを示す誤差推定量を取得するステップと、
情報処理装置が、得られた前記誤差推定量に基づいて、現在の顔形状モデルの各ノード位置を変更するステップと、
情報処理装置が、位置が変更された後の各ノード位置を顔特徴点の位置として推定するステップと
を含む方法。 - 情報処理装置に、アクティブシェイプモデル(Active Shape Model)で使用される顔形状モデルを用いて、入力画像における顔の特徴点検出を実行させるためのプログラムであって、
入力された画像に対し前記顔形状モデルを初期位置に配置するステップと、
配置された顔形状モデルの各ノード位置に基づいてレティナ構造に従って複数の特徴量を取得し、同一のノード位置に基づいて取得された複数の特徴量を一つのノード特徴量として取得するステップと、
前記顔形状モデルが正しい位置に配置された場合に顔形状モデルの各ノードについて得られるノード特徴量の集合と、前記顔形状モデルが誤った位置に配置された場合に各ノードについて得られるノート特徴量の集合との差、及び前記正しい位置に配置された場合と前記誤った位置に配置された場合における各ノードの位置の差を示すベクトルの集合、を入力とした正準相関分析により予め取得された変換ベクトル行列を誤差推定行列として記憶する記憶手段に記憶される誤差推定行列と、取得されたノード特徴量の集合とに基づいて、顔形状モデルの各ノードの現在位置と顔の特徴点の位置とのずれを示す誤差推定量を取得するステップと、
得られた前記誤差推定量に基づいて、現在の顔形状モデルの各ノード位置を変更するステップと、
位置が変更された後の各ノード位置を顔特徴点の位置として推定するステップと
を情報処理装置に実行させるためのプログラム。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2004/016889 WO2006051607A1 (ja) | 2004-11-12 | 2004-11-12 | 顔特徴点検出装置、特徴点検出装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2006051607A1 true JPWO2006051607A1 (ja) | 2008-05-29 |
JP4501937B2 JP4501937B2 (ja) | 2010-07-14 |
Family
ID=36336293
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006544712A Active JP4501937B2 (ja) | 2004-11-12 | 2004-11-12 | 顔特徴点検出装置、特徴点検出装置 |
Country Status (5)
Country | Link |
---|---|
US (1) | US7936902B2 (ja) |
EP (1) | EP1811456B1 (ja) |
JP (1) | JP4501937B2 (ja) |
CN (1) | CN100565583C (ja) |
WO (1) | WO2006051607A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015522200A (ja) * | 2012-08-28 | 2015-08-03 | 騰訊科技(深▲セン▼)有限公司Tencent Technology(Shenzhen)Company Limited | 人顔特徴点の位置決め方法、装置及び記憶媒体 |
Families Citing this family (59)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8675059B2 (en) * | 2010-07-29 | 2014-03-18 | Careview Communications, Inc. | System and method for using a video monitoring system to prevent and manage decubitus ulcers in patients |
US9311540B2 (en) * | 2003-12-12 | 2016-04-12 | Careview Communications, Inc. | System and method for predicting patient falls |
JP4501937B2 (ja) * | 2004-11-12 | 2010-07-14 | オムロン株式会社 | 顔特徴点検出装置、特徴点検出装置 |
US8370639B2 (en) * | 2005-06-16 | 2013-02-05 | Sensible Vision, Inc. | System and method for providing secure access to an electronic device using continuous facial biometrics |
JP4093273B2 (ja) * | 2006-03-13 | 2008-06-04 | オムロン株式会社 | 特徴点検出装置、特徴点検出方法および特徴点検出プログラム |
JP5109564B2 (ja) * | 2007-10-02 | 2012-12-26 | ソニー株式会社 | 画像処理装置、撮像装置、これらにおける処理方法およびプログラム |
US9866797B2 (en) | 2012-09-28 | 2018-01-09 | Careview Communications, Inc. | System and method for monitoring a fall state of a patient while minimizing false alarms |
US9579047B2 (en) | 2013-03-15 | 2017-02-28 | Careview Communications, Inc. | Systems and methods for dynamically identifying a patient support surface and patient monitoring |
US10645346B2 (en) | 2013-01-18 | 2020-05-05 | Careview Communications, Inc. | Patient video monitoring systems and methods having detection algorithm recovery from changes in illumination |
US9959471B2 (en) | 2008-05-06 | 2018-05-01 | Careview Communications, Inc. | Patient video monitoring systems and methods for thermal detection of liquids |
US9794523B2 (en) | 2011-12-19 | 2017-10-17 | Careview Communications, Inc. | Electronic patient sitter management system and method for implementing |
US8471899B2 (en) | 2008-12-02 | 2013-06-25 | Careview Communications, Inc. | System and method for documenting patient procedures |
CN101464132B (zh) * | 2008-12-31 | 2014-09-10 | 北京中星微电子有限公司 | 位置确定方法及位置确定装置 |
JP2010170184A (ja) * | 2009-01-20 | 2010-08-05 | Seiko Epson Corp | 顔画像における特徴部位の位置の特定 |
JP5272886B2 (ja) | 2009-05-14 | 2013-08-28 | ソニー株式会社 | 動体検出装置と動体検出方法およびコンピュータ・プログラム |
JP5451302B2 (ja) * | 2009-10-19 | 2014-03-26 | キヤノン株式会社 | 画像処理装置及び方法、プログラム及び記憶媒体 |
KR101365789B1 (ko) * | 2010-05-26 | 2014-02-20 | 닛본 덴끼 가부시끼가이샤 | 얼굴 특징점 위치 보정 장치, 얼굴 특징점 위치 보정 방법, 및 얼굴 특징점 위치 보정 프로그램을 기록한 컴퓨터 판독가능 기록 매체 |
JP5218876B2 (ja) * | 2011-02-28 | 2013-06-26 | ブラザー工業株式会社 | 印刷指示装置及び印刷指示システム |
JP5755012B2 (ja) * | 2011-04-21 | 2015-07-29 | キヤノン株式会社 | 情報処理装置、その処理方法、プログラム及び撮像装置 |
JP4998637B1 (ja) * | 2011-06-07 | 2012-08-15 | オムロン株式会社 | 画像処理装置、情報生成装置、画像処理方法、情報生成方法、制御プログラムおよび記録媒体 |
US9519769B2 (en) * | 2012-01-09 | 2016-12-13 | Sensible Vision, Inc. | System and method for disabling secure access to an electronic device using detection of a predetermined device orientation |
JP6026119B2 (ja) * | 2012-03-19 | 2016-11-16 | 株式会社東芝 | 生体情報処理装置 |
US9104908B1 (en) * | 2012-05-22 | 2015-08-11 | Image Metrics Limited | Building systems for adaptive tracking of facial features across individuals and groups |
US9111134B1 (en) | 2012-05-22 | 2015-08-18 | Image Metrics Limited | Building systems for tracking facial features across individuals and groups |
CN102750546B (zh) * | 2012-06-07 | 2014-10-29 | 中山大学 | 基于结构化误差编码的人脸遮挡检测方法 |
CN103530900B (zh) * | 2012-07-05 | 2019-03-19 | 北京三星通信技术研究有限公司 | 三维人脸模型的建模方法、人脸跟踪方法以及设备 |
JP6387831B2 (ja) * | 2013-01-15 | 2018-09-12 | 日本電気株式会社 | 特徴点位置検出装置、特徴点位置検出方法および特徴点位置検出プログラム |
TW201434008A (zh) * | 2013-02-27 | 2014-09-01 | 萬國商業機器公司 | 健康狀態的個人化地視覺化呈現 |
JP2014206932A (ja) * | 2013-04-15 | 2014-10-30 | オムロン株式会社 | 認証装置、認証方法、制御プログラムおよび記録媒体 |
JP6304999B2 (ja) * | 2013-10-09 | 2018-04-04 | アイシン精機株式会社 | 顔検出装置、方法およびプログラム |
FR3015092A1 (fr) * | 2013-12-17 | 2015-06-19 | Scotler France | Controle d'un pointeur sur un ecran numerique |
JP6331517B2 (ja) * | 2014-03-13 | 2018-05-30 | オムロン株式会社 | 画像処理装置、システム、画像処理方法、および画像処理プログラム |
WO2015146101A1 (ja) * | 2014-03-28 | 2015-10-01 | 日本電気株式会社 | 顔照合装置、方法、及び、記録媒体 |
CN106462967B (zh) * | 2014-05-14 | 2020-06-30 | 皇家飞利浦有限公司 | 用于超声图像的基于模型的分割的采集取向相关特征 |
US9684776B2 (en) | 2014-07-29 | 2017-06-20 | Google Inc. | Allowing access to applications based on user authentication |
US9639680B2 (en) | 2014-07-29 | 2017-05-02 | Google Inc. | Allowing access to applications based on user handling measurements |
US9898674B2 (en) * | 2015-12-10 | 2018-02-20 | International Business Machines Corporation | Spoof detection for facial recognition |
EP3232368A1 (en) * | 2016-04-14 | 2017-10-18 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Determining facial parameters |
JP2017209486A (ja) * | 2016-05-19 | 2017-11-30 | パナソニックIpマネジメント株式会社 | 血圧計測装置 |
US9875398B1 (en) | 2016-06-30 | 2018-01-23 | The United States Of America As Represented By The Secretary Of The Army | System and method for face recognition with two-dimensional sensing modality |
CN106067013B (zh) * | 2016-06-30 | 2022-04-12 | 美的集团股份有限公司 | 嵌入式系统人脸识别方法及装置 |
US10089543B2 (en) * | 2016-07-29 | 2018-10-02 | Honda Motor Co., Ltd. | System and method for detecting distraction and a downward vertical head pose in a vehicle |
US10055667B2 (en) | 2016-08-03 | 2018-08-21 | X Development Llc | Generating a model for an object encountered by a robot |
CN106599830B (zh) * | 2016-12-09 | 2020-03-17 | 中国科学院自动化研究所 | 人脸关键点定位方法及装置 |
FR3060170B1 (fr) * | 2016-12-14 | 2019-05-24 | Smart Me Up | Systeme de reconnaissance d'objets base sur un modele generique 3d adaptatif |
JP6558388B2 (ja) | 2017-03-14 | 2019-08-14 | オムロン株式会社 | 画像処理装置 |
CN109952594B (zh) * | 2017-10-18 | 2022-01-07 | 腾讯科技(深圳)有限公司 | 图像处理方法、装置、终端及存储介质 |
CN109960986A (zh) | 2017-12-25 | 2019-07-02 | 北京市商汤科技开发有限公司 | 人脸姿态分析方法、装置、设备、存储介质以及程序 |
JP7099036B2 (ja) | 2018-05-07 | 2022-07-12 | オムロン株式会社 | データ処理装置、モニタリングシステム、覚醒システム、データ処理方法、及びデータ処理プログラム |
JP7099037B2 (ja) | 2018-05-07 | 2022-07-12 | オムロン株式会社 | データ処理装置、モニタリングシステム、覚醒システム、データ処理方法、及びデータ処理プログラム |
JP7230345B2 (ja) * | 2018-06-07 | 2023-03-01 | 富士フイルムビジネスイノベーション株式会社 | 情報処理装置及び情報処理プログラム |
CN109190515A (zh) * | 2018-08-14 | 2019-01-11 | 深圳壹账通智能科技有限公司 | 一种疲劳驾驶检测方法、计算机可读存储介质及终端设备 |
JP7074888B2 (ja) | 2018-08-20 | 2022-05-24 | ベイジン センスタイム テクノロジー デベロップメント カンパニー, リミテッド | 位置姿勢検出方法及び装置、電子機器並びに記憶媒体 |
CN109284681B (zh) * | 2018-08-20 | 2020-11-27 | 北京市商汤科技开发有限公司 | 位姿检测方法及装置、电子设备和存储介质 |
US10949649B2 (en) | 2019-02-22 | 2021-03-16 | Image Metrics, Ltd. | Real-time tracking of facial features in unconstrained video |
JP6751540B1 (ja) * | 2019-05-31 | 2020-09-09 | みずほ情報総研株式会社 | 形状予測システム、形状予測方法及び形状予測プログラム |
JP7419720B2 (ja) * | 2019-09-24 | 2024-01-23 | カシオ計算機株式会社 | 画像処理装置、画像処理方法及び画像処理プログラム |
JP7388258B2 (ja) | 2020-03-13 | 2023-11-29 | オムロン株式会社 | アクセシビリティ判定装置、アクセシビリティ判定方法、及びプログラム |
CN112287753A (zh) * | 2020-09-23 | 2021-01-29 | 武汉天宝莱信息技术有限公司 | 一种基于机器学习提升人脸识别精度的系统及其算法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05210739A (ja) * | 1991-09-12 | 1993-08-20 | Fuji Photo Film Co Ltd | 被写体認識方法 |
JPH09251534A (ja) * | 1996-03-18 | 1997-09-22 | Toshiba Corp | 人物認証装置及び人物認証方法 |
JP2004030668A (ja) * | 2002-06-25 | 2004-01-29 | Eastman Kodak Co | ポートレイト画像修正方法 |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR0158038B1 (ko) * | 1993-03-29 | 1998-12-15 | 모리시다 요오이찌 | 개인식별장치 |
JP3454726B2 (ja) | 1998-09-24 | 2003-10-06 | 三洋電機株式会社 | 顔向き検出方法及びその装置 |
JP3822482B2 (ja) | 2001-10-31 | 2006-09-20 | 株式会社東芝 | 顔向き計算方法及びその装置 |
JP4501937B2 (ja) * | 2004-11-12 | 2010-07-14 | オムロン株式会社 | 顔特徴点検出装置、特徴点検出装置 |
WO2006093250A1 (ja) * | 2005-03-04 | 2006-09-08 | National University Corporation NARA Institute of Science and Technology | 動き計測装置、動き計測システム、車載機器、動き計測方法、動き計測プログラム、およびコンピュータ読み取り可能な記録媒体 |
JP4653606B2 (ja) * | 2005-05-23 | 2011-03-16 | 株式会社東芝 | 画像認識装置、方法およびプログラム |
US7756325B2 (en) * | 2005-06-20 | 2010-07-13 | University Of Basel | Estimating 3D shape and texture of a 3D object based on a 2D image of the 3D object |
JP4991317B2 (ja) * | 2006-02-06 | 2012-08-01 | 株式会社東芝 | 顔特徴点検出装置及びその方法 |
US20070183665A1 (en) * | 2006-02-06 | 2007-08-09 | Mayumi Yuasa | Face feature point detecting device and method |
US8571272B2 (en) * | 2006-03-12 | 2013-10-29 | Google Inc. | Techniques for enabling or establishing the use of face recognition algorithms |
JP4093273B2 (ja) * | 2006-03-13 | 2008-06-04 | オムロン株式会社 | 特徴点検出装置、特徴点検出方法および特徴点検出プログラム |
JP4829141B2 (ja) * | 2007-02-09 | 2011-12-07 | 株式会社東芝 | 視線検出装置及びその方法 |
-
2004
- 2004-11-12 JP JP2006544712A patent/JP4501937B2/ja active Active
- 2004-11-12 CN CNB2004800443983A patent/CN100565583C/zh active Active
- 2004-11-12 WO PCT/JP2004/016889 patent/WO2006051607A1/ja active Application Filing
- 2004-11-12 EP EP04799674A patent/EP1811456B1/en active Active
- 2004-11-12 US US11/667,670 patent/US7936902B2/en active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05210739A (ja) * | 1991-09-12 | 1993-08-20 | Fuji Photo Film Co Ltd | 被写体認識方法 |
JPH09251534A (ja) * | 1996-03-18 | 1997-09-22 | Toshiba Corp | 人物認証装置及び人物認証方法 |
JP2004030668A (ja) * | 2002-06-25 | 2004-01-29 | Eastman Kodak Co | ポートレイト画像修正方法 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015522200A (ja) * | 2012-08-28 | 2015-08-03 | 騰訊科技(深▲セン▼)有限公司Tencent Technology(Shenzhen)Company Limited | 人顔特徴点の位置決め方法、装置及び記憶媒体 |
Also Published As
Publication number | Publication date |
---|---|
CN101057257A (zh) | 2007-10-17 |
US20080130961A1 (en) | 2008-06-05 |
EP1811456A4 (en) | 2010-09-01 |
US7936902B2 (en) | 2011-05-03 |
JP4501937B2 (ja) | 2010-07-14 |
WO2006051607A1 (ja) | 2006-05-18 |
CN100565583C (zh) | 2009-12-02 |
EP1811456A1 (en) | 2007-07-25 |
EP1811456B1 (en) | 2011-09-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4501937B2 (ja) | 顔特徴点検出装置、特徴点検出装置 | |
JP4093273B2 (ja) | 特徴点検出装置、特徴点検出方法および特徴点検出プログラム | |
CN110378181B (zh) | 图像解析装置、图像解析方法及记录介质 | |
JP4553141B2 (ja) | 重み情報を用いた物体姿勢推定・照合システム | |
US20180300589A1 (en) | System and method using machine learning for iris tracking, measurement, and simulation | |
JP4321350B2 (ja) | パラメタ推定方法、パラメタ推定装置および照合方法 | |
US8515180B2 (en) | Image data correction apparatus and method using feature points vector data | |
JP4774818B2 (ja) | 画像処理装置及び画像処理方法 | |
CN110378182B (zh) | 图像解析装置、图像解析方法及记录介质 | |
MX2012010602A (es) | Aparato para el reconocimiento de la cara y metodo para el reconocimiento de la cara. | |
JP6822482B2 (ja) | 視線推定装置、視線推定方法及びプログラム記録媒体 | |
JP6071002B2 (ja) | 信頼度取得装置、信頼度取得方法および信頼度取得プログラム | |
JP5241606B2 (ja) | オブジェクト識別装置及びオブジェクト識別方法 | |
JP2021503139A (ja) | 画像処理装置、画像処理方法および画像処理プログラム | |
JP4952267B2 (ja) | 3次元形状処理装置、3次元形状処理装置の制御方法、および3次元形状処理装置の制御プログラム | |
WO2022083479A1 (zh) | 采集人脸图像的方法、装置及电子设备 | |
JPWO2020213166A1 (ja) | 画像処理装置、画像処理方法、及び画像処理プログラム | |
WO2021084972A1 (ja) | 物体追跡装置および物体追跡方法 | |
JP4816874B2 (ja) | パラメータ学習装置、パラメータ学習方法、およびプログラム | |
CN113436735A (zh) | 基于人脸结构度量的体重指数预测方法、设备和存储介质 | |
JP4036005B2 (ja) | 撮影条件検出装置および撮影条件検出プログラム | |
JP2021043914A (ja) | 画像処理装置、画像処理方法、及び画像処理プログラム | |
JP7103443B2 (ja) | 情報処理装置、情報処理方法、およびプログラム | |
JP2018088064A (ja) | 画像処理装置、画像処理方法及び画像処理プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100330 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20100412 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4501937 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130430 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130430 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140430 Year of fee payment: 4 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |