JP4744655B2 - ディジタル画像中の人間の目を自動的に検出する方法 - Google Patents
ディジタル画像中の人間の目を自動的に検出する方法 Download PDFInfo
- Publication number
- JP4744655B2 JP4744655B2 JP24327698A JP24327698A JP4744655B2 JP 4744655 B2 JP4744655 B2 JP 4744655B2 JP 24327698 A JP24327698 A JP 24327698A JP 24327698 A JP24327698 A JP 24327698A JP 4744655 B2 JP4744655 B2 JP 4744655B2
- Authority
- JP
- Japan
- Prior art keywords
- eye
- template
- orientation
- region
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/18—Eye characteristics, e.g. of the iris
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Ophthalmology & Optometry (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Image Analysis (AREA)
- Collating Specific Patterns (AREA)
- Image Processing (AREA)
Description
【発明の属する技術分野】
本発明は概してディジタル画像処理に関し、更に特定的にはディジタル画像中で対象を探し出す方法に関する。
【0002】
【従来の技術】
画像中における対象の同定は様々な画像処理機能によって実行される。例えば、画像中の赤目を修正するために、人間の目が探し出され、目の中の望ましくない赤色の部分は審美的により満足のいく色によって置換される。「KODAK」ディジタルプリントステーションでは、画像はタッチスクリーン上に表示され、1回触るたびに目の赤い部分を更にズームさせるため1つの目が繰り返し触られる。目の赤い部分はズームプロセスによって画成された領域の中で赤い画素に対するサーチによって同定され、同定された赤い画素は画像を審美的により満足のいくようにさせるため所定の色によって置換される。処理は次に他方の目に対して繰り返される。
【0003】
人間の目を探し出すニューラルネットワーク方法は、1995年11月のMIT の人工知能研究所のK.K.Sungによる「Learning An Example Selection for Object and Pattern Recognition」に開示される。この方法は、予め選択された目のテンプレートから許容可能な歪みを有する目を認識するためにニューラルネットを学習する方法を開示する。操作者は元の目のテンプレートを繰り返し歪ませ、目を歪ませることによって生成された全ての変形は許容可能又は許容不可能のいずれかとしてラベル付けされる。歪んだサンプル、即ち学習画像及び関連づけられたラベル付け情報はニューラルネットへ供給される。この学習プロセスはニューラルネットが学習画像に対して満足のいく認識性能を達成するまで繰り返される。学習されたニューラルネットは目の可能な変形を効果的に記憶している。目の探索は、所望の出力、即ち一致が生ずるかどうかを決定するよう画像中の領域をニューラルネットへ供給することによって行われる。全ての一致は目として同定される。
【0004】
【発明が解決しようとする課題】
目を同定するための現在既知であり使用されている方法は充分であるが、欠点がないわけではない。タッチスクリーン方法は目をズームさせるためにタッチスクリーンを繰り返し触るという一定の人間の相互作用を必要とし、結果として幾らか労働集約的となる。更に、ニューラルネット方法は広い学習を必要とし、また目の全ての可能な大きさ及び向きに対して徹底的なサーチが実行されねばならないためマッチングプロセスにおいて計算に関して集約的である。
【0005】
従って、上述の欠点を克服するよう画像中で対象を探し出す方法を改善する必要性がある。
【0006】
【課題を解決するための手段】
本発明は上述の1つ以上の問題を克服することを目的とする。概略するに、本発明の1つの面によれば、第1及び第2の対象の間の距離の比率及び各対象の大きさが略不変である夫々が略同じ物理特徴を有する第1及び第2の対象を探し出すためのコンピュータプログラム物であって、
(a)画像中の潜在肌領域を決定する段階と、
(b)画像中の谷領域を決定する段階と、
(c)テンプレートに対して対象の所望の一致を与える複数の位置を決定するテンプレートマッチングを実行する段階と、
(d)1対の潜在対象候補が上記段階(c)において決定される位置にある可能性を決定する確認を実行する段階とを実行するためのコンピュータプログラムを記憶されたコンピュータ読取り可能な記憶媒体を有するコンピュータプログラム物を提供する。
【0007】
本発明は上述の欠点を克服する画像中で対象を見つける方法を提供することを目的とする。
本発明はまた自動的に画像中で対象を見つける方法を提供することを目的とする。
本発明は見つけられるべき対象の物理的な大きさを推定する方法を提供することを更なる目的とする。
【0008】
本発明は見つけられるべき対象の物理的な向きを推定する方法を提供することを更なる目的とする。
本発明は画像中で対象を探し出す有効な方法を提供することを利点とする。
本発明は各対象の潜在的な領域の形状及び大きさに基づいて各対象の推定される大きさを決定することを特徴とする。
【0009】
本発明は各対象の潜在的な領域の形状及び向きに基づいて各対象の推定される向きを決定することを特徴とする。本発明は第1の対象と第2の対象との間の関係に対する事前の知識に基づいて決定される複数の性能指数に基づいて対象の対(又はグループ)を決定することを特徴とする。
【0010】
【発明の実施の形態】
本発明の上述及び他の目的は、図面に共通な同一要素を示すために可能な限り同一の参照番号が使用されている以下の説明及び図面に関連してより明らかとなろう。
以下の説明では、本発明はソフトウエアプログラムとしての望ましい実施例として説明される。当業者はそのようなソフトウエアの等価物がハードウエア中に構築されうることを容易に認識するであろう。
【0011】
更にここでは、コンピュータ読取り可能な記憶媒体は、例えば、(フロッピーディスクといった)磁気ディスク又は磁気テープといった磁気記憶媒体と、光ディスク、光学テープ又は機械読取り可能なバーコードといった光学記憶媒体と、ランダムアクセスメモリ(RAM)又は読み取り可能メモリ(ROM)といった固体電子記憶装置と、コンピュータプログラムを記憶するのに使用される任意の他の物理的装置又は媒体とのいずれかを有しうる。
【0012】
図1を参照するに、本発明を実施するためのコンピュータシステム10が図示されている。望ましい実施例を図示するためにコンピュータシステム10が示されているが、本発明はコンピュータシステム10に制限されるものではなく任意の電子処理システムで使用されうる。コンピュータシステム10はソフトウエアプログラムを受信及び処理し、他の処理機能を実行するためのマイクロプロセッサベースドユニット20を含む。タッチスクリーンディスプレイ30は、ソフトウエアに関連づけられたユーザ関連情報を表示し、スクリーンを触ることによるユーザ入力を受信するよう、マイクロプロセッサベースドユニット20に電気的に接続されている。キーボード40もまた、ユーザがソフトウエアに情報を入力することを許すよう、マイクロプロセッサベースドユニット20に接続されている。入力のためにキーボード40を使用する代わりに、従来技術で周知のように、ディスプレイ30上のセレクタ52を動かし、セレクタ52が重なっている項目を選択するためにマウス50が使用されうる。
【0013】
コンパクトディスク読出し専用メモリ(CD−ROM)55は、ソフトウエアプログラムを受信し、典型的にソフトウエアプログラムを含むコンパクトディスク57によってマイクロプロセッサベースドユニット20へソフトウエアプログラム及び他の情報を入力する手段を与えるためにマイクロプロセッサベースドユニット20に接続される。更に、フロッピーディスク61もまたソフトウエアプログラムを含むことができ、ソフトウエアプログラムを入力するためにマイクロプロセッサベースドユニット20の中に挿入される。更に、マイクロプロセッサベースドユニット20は従来技術で周知のように、内部的にソフトウエアプログラムを記憶するようプログラムされうる。プリンタ56はコンピュータシステム10の出力のハードコピーを印刷するためにマイクロプロセッサベースドユニット20に接続される。
【0014】
画像はまた、パーソナルコンピュータカード(PCカード)62、又は従来既知であるように、カード62を電子的に実施したディジタル化画像を含むパーソナルコンピュータメモリカード国際協会カード(PCMCIAカード)によってディスプレイ30上に表示されうる。PCカード62は最後に画像をディスプレイ30上に可視に表示することを許すようマイクロプロセッサベースドユニット20の中に挿入される。
【0015】
図2を参照するに、本発明のソフトウエアプログラムのフローチャートが示されている。フローチャートの細部を議論する前に、当業者によって明らかとなるように、プログラムの一部は人間の肌を検出することを含むが、プログラムが変更されれば任意の動物の肌もまた検出されうることに注意すべきである。プログラムはS2で始動され、次に肌マップを形成するよう人間の肌の検出が行われる(S4)。
【0016】
図5を参照するに、図2中のS4の肌マップを形成する段階の詳細なフローチャートが示されている。これに関して、カラー画像はPCカード62といった任意の周知の手段によってマイクロプロセッサベースドユニット20へ入力され(S4a)、望ましくはLSTカラー空間であるカラー空間へ変換される(S4b)。次にヒストグラムのbinの総数を減少させるため、画像符号値は量子化される(S4c)。典型的に3つのチャネルを有するカラー画像に対して3次元(3D)のヒストグラムが形成される(S4d)。この3次元ヒストグラムは雑音を減少させるために平滑化され(S4e)、3次元ヒストグラム中のピークが探し出される(S4f)。ピークをヒストグラムの各binに割り当てることによってbinのクラスタ化が実行される(S4g)。カラー画像中の各画素に対して画素の色に対応するbinに基づいて値が割り当てられる(S4h)。少なくとも最小画素数(MinNoPixels)を有する連結された領域はラベル付けされる(S4i)。最小画素数は望ましくは50個の画素であるが、他の値もまた使用されうる。許可される領域数の最大数はMaxNoRegionsであり(S4i)、この最大数は望ましくは20の領域であるが、他の値もまた使用されうる。人間の肌の平均変換カラー成分値及び所与の領域の平均カラー値に基づいて、各ラベル付けされた領域に対して肌確率Pskinが計算される(S4j)。SkinThreshold よりも大きいPskinを有する領域に固有のラベルが割り当てられる(S4k)。SkinThreshold は望ましくは7であるが、他の値もまた使用されうる。全ての非肌画素はゼロに設定される。2つ以上の肌領域が接触していれば、これらは単一の肌領域へとマージされる(S4l)。
【0017】
図6を参照するに、プログラムは肌マップデータを受信し、各連結された肌領域に対して周知の楕円形当てはめ技術を実行する。当てはめられた楕円形のアスペクト比及びコンパクトさは不規則な形状の肌領域を排除するために測定される。アスペクト比は長軸と短軸との比として定義され、コンパクトさは当てはめられた楕円形によって囲まれる領域と肌領域全体との比として定義される。当てはめられた楕円形は、そのアスペクト比が3より上であれば排除され、又はそのコンパクトさが9より下であれば排除される。再び図2を参照するに、プログラムは、夫々の残る肌領域に当てはめられた楕円形によって目のプログラムによって推定される大きさ及び向きを決定する(S6)。この決定は、bをピクセルで表わされる当てはめられた楕円形の短軸の長さとし、sをピクセルで表わされる目の推定の大きさ又は長さとすると、
s=b/4 (1)
によって表される、図6にグラフによって示される式を使用して実行される。
【0018】
目の推定される向きもまた、図6に示されるように当てはめられた楕円形の向きから発生される(S6)。2つの目は整列しており、従って夫々の目の向きは当てはめられた楕円形の短軸の向きと略同じであることが仮定される。θによって示されるこの角度は、短軸と水平な線との間に形成される。副画像は各肌領域に対して抽出される(S8)。この推定される目の大きさから、画像中の目が目のテンプレートと略同じ大きさを有するよう抽出された副画像の解像度が変更されうることに注意すべきである(S8)。図8に示されるように、特定の目のテンプレートは水平方向に19ピクセル、垂直方向に13ピクセルの解像度を有する。以下詳述されるように、この解像度の変化、又はリサイズ処理は画像中の目がテンプレートと同じ解像度で、同じ量の構造的細部と一致されることを可能にする。或いは、異なる量の細部を有する一組のテンプレートを設計し、画像の解像度を変化させないことである。そのような他の設計は当業者によって容易に達成される。
【0019】
再び図2を参照するに、各抽出された副画像に対する谷マップを形成するよう谷検出が実行される(S10)。谷検出は、平坦な肌領域を更なる考慮から除去することを目的とする。図7を参照するに、谷検出は複数の段階からなる。まず望ましくは形態学的オープン操作とそれに続く形態学的クローズ操作とを使用して、存在しうる目又は眼鏡の中の全ての雑音及び小さな反射ハイライトを減少させるために平滑化操作が行われる(S10a)。平滑化された画像中の谷領域は望ましくは形態学的にクローズされた画像と谷領域自体との間の差の出力として同定される(S10b)。この出力画像の符号値は谷の存在の確実性を表している。画像中の雑音及び長細い構造を減少させるよう獲得された谷領域に対してメディアンフィルタリング動作が適用される(S10c)。概して、目は谷画像中の長細い領域の中には無い。また、谷画像中の絶対符号値は必ずしも眼窩である可能性に対応しない。しかしながら、望ましくは谷画像とその形態学的にクローズされた変形との間の差を使用して、処理された谷画像中の局部最大は強調される(S10d)。S10dの結果は、テクスチャ抑制の結果に組み合わせられる(S10e)と共に、他の抑制的な機構、例えばS10gの論理AND演算による赤目検出の場合は目の「赤さ」に組み合わせられる(S10f)。
【0020】
S10gの後、所定の閾値よりも大きい符号値を有する画素は1に設定され、閾値以下であればゼロに設定される。このようにして2値谷マップが形成される(S10h)。続くサーチを指示するマスクマップは肌マップと谷マップとの交点として形成される(S12)。
以下説明されるようにS14において、テンプレートと画像との間の相互相関は、テンプレートの中心の画素を各肌領域のサーチするマスクマップの中の各画素に値して順番に移動させ、目の中心の画素を決定するために各画素の位置において特定のタイプのゾーンベースド相互相関を実行することによって計算される。
【0021】
図3及び図4を参照するに、ゾーンベースド相互相関(S14)は初期化される(S14a)。ただし、図3はゾーンベースド相互相関プロセスの前半を示す詳細なフローチャートであり、図4はゾーンベースド相互相関プロセスの後半を示す詳細なフローチャートである。次にテンプレートが検索され(S14b)、既に正規化された状態で記憶されていなければ正規化される。図8を参照するに、テンプレートは複数の目をサンプリングし、例えば各画素位置において平均値をとることによって、それらの対応する画素を関連づけることによって発生されることが望ましい。次にテンプレートは瞼、虹彩及び目の2つの端を表わす4つの副領域へ分割される。テンプレートを正規化するためには、テンプレート画像全体に対する平均画素値は各画素値から引き算され、正規化された画素値を獲得するために結果としての画素値はテンプレート画像全体の標準偏差によって割り算される。結果としてのテンプレートは従って、ゼロの平均値を有し、1の分散を有する。
【0022】
更に特定的には、図3及び図4を参照するに、テンプレートの中心を関心となる画素位置にしたとき、ゾーンベースド相互相関は、まずその中心を現在の画素にし、その大きさ/向きをテンプレートと同じにしたブロックを抽出し(S14c)、抽出されたブロックを正規化し(S14d)、抽出された各副領域と、画像の画素を副領域の中心にしたテンプレート中の同等物との間の相関を計算する段階(S14e)を含み、これはゾーンベースド相関と称される。各副ゾーンに対する相互相関が望ましくは0.5である所定の閾値以上であるとき、相互相関はテンプレート全体によって同じ関心となる画像画素に対して実行され(S14f)、これは以下完全な相関と称される。望ましくは0.7である閾値が再び満たされれば、プログラムはバッファの中に相関値及びテンプレートの大きさ/向きを一時的に記憶する(S14h)。1つ以上の副ゾーンに対する相互相関が閾値に達しなければ、又はテンプレート全体に対する相互相関が閾値に達しなければ、関心となる画素のおける相互相関は「0」に設定され関連する大きさ/向きは「N/A」に設定される(S14i)。上述の分割された相関及び完全な相関動作を繰り返すためにプログラムはサーチマスクマップ中の次の画素位置へ続き、そうでなければ非ゼロマスク値を有する最後の画素へ続く(S14l)。
【0023】
上述のゾーンベースド相関及び完全な相関は目の大きさ及び向きを洗練させるために、テンプレートを推定される大きさの付近の複数の大きさに変化(増加及び減少)させること、及び推定される向きの付近の複数の向きに変化(時計回り及び反時計回りの回転)させることによって繰り返される(S14j)。そのようなテンプレートの大きさ/向きの増加及び減少は当業者によって容易に達成される。この洗練処理は上述のステップS14c乃至14iと同じ段階を含む。関心となる画素位置における1つ以上の完全な相関スコアが閾値以上の値となれば、プログラムは一時バッファの中の最も高い相関値及び最も高い値を獲得するのに使用されるその対応するテンプレートの大きさ/向きを選択し、それらをメモリの中に配置する(S14k)。これは上述のテンプレートの大きさの変化が式1からの目の推定される大きさの更なる洗練のためであり、最もよく一致するテンプレートの変形の大きさ/向きは次に実際の目の正確な大きさ/向きを示すということに対する理解を容易にさせるであろう。
【0024】
例えば、テンプレートの大きさが10%x10%だけ増加されるとする。最も高い相関値が19x13の解像度のテンプレートからの値であれば、目の推定される大きさは調整されない。他の解像度の両方が最も高い相関値を生成すれば、目の推定される大きさは最も高い相関スコアを生成するテンプレートの大きさに一致するよう調整される。同様に、テンプレートの向きは10度x10度だけ増加される。関心となる結果の画素の位置における1つ以上の完全な相関のスコアが閾値より上の値であれば、プログラムは一時バッファの中の最も高い相関値と最も高い値を獲得するために使用される対応するテンプレートの向きを選択し、メモリの中に配置する。最も高い相関値が元の推定される向きにおけるテンプレートからの値であれば、目の推定される向きは調整されない。他の向きの両方が最も高い相関値を生成すれば、目の推定される向きは最も高い相関値を生成するテンプレートの向きと一致するよう調整される。
【0025】
上述のように、プログラムは、関心となる画素に対する大きさ及び向きが洗練された後(S14k)、上述のゾーンベースド及び完全な相関を繰り返すためにサーチマスクによって同定される次の画素位置へ続く(S14l)。プログラムは次に、各窓の中の複数のピーク相関点のうち目の中心の画素である可能性が最も高い候補を確認する(S16乃至S24)。ピーク点は局部最大完全相関スコアを有する点として探し出される(S16)。これらのピークの位置はバッファの中に記憶される(S18)。図8を参照するに、確認するために、複数の確認段階が使用される。これらの段階は1対の目に対する既知の特徴を相関の間に選択された画素の全ての組み合わせに対してマッチングさせる段階を含み、目の中心の位置の対である可能性が最も高い対を選択するためにスコアリング技術(性能指数)が使用される。
【0026】
図2及び図8を参照するに、第1の段階は、関連する肌領域の中で可能性のある候補として選択された全ての画素の組み合わせを形成することである(S20)。換言すれば、各ピーク画素は同じ肌領域中の全ての他のピーク画像と対にされる。図9を参照するに、角度的な向き、即ち関心となる2つの画素とそのうちの1つの画素を通る水平な線との間に形成される、望ましくは左の方に向いた角度が決定される。角度的な向きが推定される角度的な向きの10度以内でなければ(S14c)、対は両目の中心である可能性のある候補から除去される。角度的な向きが推定される角度的な向きの5度以内であれば、対はその特定のスコアと共に記憶される。
【0027】
また図9を参照するに、2つの候補の目の間の距離が決定される。距離が人間の顔としての知識による目の大きさに比例しなければ、対は両目の中心である可能性のある候補から除去される。比率が通常の比率の20%以内であれば、対はその特定のスコアと共に記憶される。
図10を参照するに、次の段階は可能な組み合わせで2つの画素を通る水平な線に沿って画素を取ることを含む。図10は、各組み合わせに対する符号値対画素位置を示すグラフ形状を示す図である。グラフ形状が実質的に逸脱すれば、対は両目の中心である可能性のある候補から除去される。実質的に逸脱しなければ、対はその特定のスコアと共に記憶される。当業者は他の適当な逸脱の尺度を決定しうるが、逸脱は中心のピーク点と2つの谷点の平均との比率によって決定されることが望ましい。
【0028】
図12を参照するに、次に全ての組み合わせは対称について検査される。これは全ての組み合わせの間の距離を取り、その間の半分の距離の点からこの半分の距離の点を垂直に通る画素を通る画像の両側の対称を探すことを含む。顔を含む対称となる領域は、目の間の距離の2倍の幅を有し、目の間の距離の3倍の高さを有することが望ましい。顔領域は目の位置によって左側と右側の半分に分割される。当業者は対称性の他の尺度によって決定しうるが、対称性は左側と、右側の鏡像との間の相関によって決定されることが望ましい。対称性が2つの側について存在すれば、対及びその特定的なスコアは再び記憶される。対称性がなければ、対は両目の中心である可能性のある候補から除去される。
【0029】
全ての組み合わせはまた、抽出された副画像又は当てはめられた楕円形の中の中心性について検査される。当業者は逸脱の他の適当な尺度を決定しうるが、そのような中心性の望ましい尺度は2つの対称の中心点及び当てはめられた楕円形の長軸の間の距離として定義されることが望ましい。
また図12を参照するに、画像は次に推定される位置に口が存在するかどうかについて検査される。プログラムは目の間の距離に等しい幅を有し、分析される1対の画素から所定の距離にある矩形のボックスの中の3又は4の平行線(縁)を探す。当業者は他の距離値又は同様の規準を決定しうるが、この距離は候補対の間の距離の1.2倍である。線(縁)が存在すれば、対及びその特定のスコアは記憶される。存在しなければ対は可能な候補から除去される。
【0030】
組み合わせは次に2つの候補の結合相関について検査される。結合相関は2つの候補位置における完全な相関のスコアの合計である。結合相関が所定の閾値以上であれば、対及びそれらのスコアは記憶される。閾値より下であれば対は可能な候補から除去される。
最も可能性の高い対は、最も高い累積スコアを有する対である(S22)。目の最終的な位置はこの対によって決定される(S24)。S8乃至S24のプロセスは、最後の肌領域が処理されるまで次の同定された肌領域に対して繰り返される。
【0031】
図11は、上述の性能指数の夫々に対するスコアリング関数の形状を示す図である。このスコアリング関数では、組み合わせは特定の性能指数の閾値に達しなくても大きなペナルティーを割り当てられるが、上述のように除去される代わりに更なる考慮のため保持される。性能指数xが閾値T0に関して十分であれば、スコアアキュムレータへの入力であるスコアリング関数の出力は正規化された最大値1.0に近い。xが閾値に達しなければ、どれだけxが閾値に達していないかによって増加する量のペナルティーを得る。このようなスコアリング関数を使用することにより、候補対が閾値をわずかに閾値に達していないが最も高い累積スコアを有するときにより高い強さを与えるという利点を有する。
【0032】
本発明は望ましい実施例を参照して説明された。しかしながら、本発明の範囲を逸脱することなく当業者によって変更及び修正がなされることは認められる。ここで以下の通り著作権保護を主張する。著作権所有者は米国特許商標庁のファイル及び記録にあるような特許書類又は特許開示の複製を許すが、他の全ての権利は留保される。
【図面の簡単な説明】
【図1】本発明を実施するためのコンピュータシステムを示す斜視図である。
【図2】本発明によって使用されるサーチ手続きの示すフローチャートである。
【図3】ゾーンベースド相互相関プロセスの前半を示す詳細図である。
【図4】ゾーンベースド相互相関プロセスの後半を示す詳細図である。
【図5】肌検出プロセスを示す詳細図である。
【図6】谷検出プロセスを示す詳細図である。
【図7】本発明によるテンプレートのゾーン分割を示す図である。
【図8】目の候補のペアリングを示す図である。
【図9】2つの目の間の距離及び向きのための確認手続きを示す図である。
【図10】目の間のプロファイルのマッチングを示す図である。
【図11】スコアリング関数を示す図である。
【図12】顔ボックス及び口ボックスを示す図である。
【符号の説明】
10 コンピュータシステム
20 マイクロプロセッサベースドユニット
30 ディスプレイ
40 キーボード
50 マウス
52 セレクタ
55 CD−ROM
56 プリンタ
57 コンパクトディスク
61 フロッピーディスク
62 PCカード
Claims (2)
- 対象としての人間の第1の眼及び第2の眼の大きさと前記第1の眼及び前記第2の眼間の距離との比率が実質的に不変である、夫々が実質的に同じ物理特性を有する前記第1の眼及び第2の眼を探し出すためのプログラムを有するコンピュータ読み取り可能記憶媒体であって、
(a)強度画像内で楕円を当てはめることにより、有効である可能性のある肌領域を決定する段階と、
(b)前記決定された肌領域の形状及び大きさに基づいて、前記第1の眼及び第2の眼の両方の大きさを決定する手順、並びに、前記決定された肌領域の形状及び角度的な向きに基づいて、前記第1の眼及び第2の眼の両方の角度的な向きを決定する手順、を有する段階であって、前記第1の眼又は第2の眼の推定される角度的な向きは、前記当てはめられた楕円の短軸と水平線との間の角度で表される、段階と、
(c)前記強度画像の局所領域で小さい強度値を有する実質的に非平坦な領域を決定するために、強度画像内で谷領域を決定する段階と、
(d)強度に基づくテンプレートに対して、前記第1の眼及び第2の眼の所望の一致を与える複数の位置を決定するように、前記肌領域内の前記谷領域の近傍で前記テンプレートを用いて前記強度画像内で一致化を実行する段階であって、前記テンプレートの推定される位置を決定するように、前記第1の眼及び第2の眼と前記テンプレートとの間の相互相関を用いる、段階と、
(e)前記テンプレートが一致化された前記第1の眼及び第2の眼の対の向き、比率、形状、対称性及び中心性を有する群から選択された確認基準を用いて、前記第1の眼及び第2の眼の対が、前記テンプレートに対応する所望の一致化と適合されることを確認する段階であって、該段階は、複数の確認基準についての組み合わせにおいて又は個別に性能指数を計算することにより、最適な前記第1の眼及び第2の眼の位置の対を求める手順を有し、該手順において、向きについての前記性能指数は、前記第1の眼及び第2の眼を結ぶ直線と前記第1の眼又は第2の眼の一を通る水平線との間の角度的な向きが前記推定される角度的な向きに対して10度以内であるように、判定される、段階と、
を実行する、コンピュータ読み取り可能記憶媒体。 - 前記第1の眼及び第2の眼をサーチするためのマスク画像を形成する段階であって、サーチが実行される位置は前記決定された肌領域の中の谷領域によって決定される、段階を更に有する請求項1記載のコンピュータ読み取り可能記憶媒体。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US08/920,844 US6151403A (en) | 1997-08-29 | 1997-08-29 | Method for automatic detection of human eyes in digital images |
US920844 | 1997-08-29 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH11149559A JPH11149559A (ja) | 1999-06-02 |
JP4744655B2 true JP4744655B2 (ja) | 2011-08-10 |
Family
ID=25444502
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP24327698A Expired - Fee Related JP4744655B2 (ja) | 1997-08-29 | 1998-08-28 | ディジタル画像中の人間の目を自動的に検出する方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US6151403A (ja) |
EP (1) | EP0899680B1 (ja) |
JP (1) | JP4744655B2 (ja) |
DE (1) | DE69833999T2 (ja) |
Families Citing this family (98)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6373968B2 (en) | 1997-06-06 | 2002-04-16 | Oki Electric Industry Co., Ltd. | System for identifying individuals |
US7738015B2 (en) | 1997-10-09 | 2010-06-15 | Fotonation Vision Limited | Red-eye filter method and apparatus |
US7630006B2 (en) | 1997-10-09 | 2009-12-08 | Fotonation Ireland Limited | Detecting red eye filter and apparatus using meta-data |
US7042505B1 (en) | 1997-10-09 | 2006-05-09 | Fotonation Ireland Ltd. | Red-eye filter method and apparatus |
US7352394B1 (en) | 1997-10-09 | 2008-04-01 | Fotonation Vision Limited | Image modification based on red-eye filter analysis |
JPH11175699A (ja) * | 1997-12-12 | 1999-07-02 | Fuji Photo Film Co Ltd | 画像処理装置 |
JP3271750B2 (ja) * | 1998-03-05 | 2002-04-08 | 沖電気工業株式会社 | アイリス識別コード抽出方法及び装置、アイリス認識方法及び装置、データ暗号化装置 |
US6285410B1 (en) * | 1998-09-11 | 2001-09-04 | Mgi Software Corporation | Method and system for removal of flash artifacts from digital images |
JP2001101429A (ja) * | 1999-09-28 | 2001-04-13 | Omron Corp | 顔面の観測方法および顔観測装置ならびに顔観測処理用の記録媒体 |
JP4469476B2 (ja) * | 2000-08-09 | 2010-05-26 | パナソニック株式会社 | 眼位置検出方法および眼位置検出装置 |
US6718051B1 (en) * | 2000-10-16 | 2004-04-06 | Xerox Corporation | Red-eye detection method |
US6792134B2 (en) * | 2000-12-19 | 2004-09-14 | Eastman Kodak Company | Multi-mode digital image processing method for detecting eyes |
US6920237B2 (en) | 2000-12-19 | 2005-07-19 | Eastman Kodak Company | Digital image processing method and computer program product for detecting human irises in an image |
US6895112B2 (en) * | 2001-02-13 | 2005-05-17 | Microsoft Corporation | Red-eye detection based on red region detection with eye confirmation |
US7174034B2 (en) * | 2001-04-13 | 2007-02-06 | Seiko Epson Corporation | Redeye reduction of digital images |
US7092554B2 (en) * | 2001-05-01 | 2006-08-15 | Eastman Kodak Company | Method for detecting eye and mouth positions in a digital image |
US6859550B2 (en) * | 2001-05-31 | 2005-02-22 | Seho Oh | Robust method for image feature estimation |
US6895103B2 (en) * | 2001-06-19 | 2005-05-17 | Eastman Kodak Company | Method for automatically locating eyes in an image |
US6980691B2 (en) * | 2001-07-05 | 2005-12-27 | Corel Corporation | Correction of “red-eye” effects in images |
EP1288859A1 (de) * | 2001-09-03 | 2003-03-05 | Agfa-Gevaert AG | Verfahren zum automatischen Erkennen von rote-Augen-Defekten in fotografischen Bilddaten |
US7133070B2 (en) * | 2001-09-20 | 2006-11-07 | Eastman Kodak Company | System and method for deciding when to correct image-specific defects based on camera, scene, display and demographic data |
US7058209B2 (en) * | 2001-09-20 | 2006-06-06 | Eastman Kodak Company | Method and computer program product for locating facial features |
US7324246B2 (en) * | 2001-09-27 | 2008-01-29 | Fujifilm Corporation | Apparatus and method for image processing |
JP3903783B2 (ja) * | 2001-12-14 | 2007-04-11 | 日本電気株式会社 | 顔メタデータ生成方法および装置、並びに顔類似度算出方法および装置 |
WO2003056500A1 (en) | 2001-12-24 | 2003-07-10 | Digimarc Id Systems, Llc | Covert variable information on id documents and methods of making same |
US7694887B2 (en) | 2001-12-24 | 2010-04-13 | L-1 Secure Credentialing, Inc. | Optically variable personalized indicia for identification documents |
CA2470547C (en) | 2001-12-24 | 2008-05-20 | Digimarc Id Systems, Llc | Laser etched security features for identification documents and methods of making same |
EP1353516A1 (en) | 2002-04-08 | 2003-10-15 | Mitsubishi Electric Information Technology Centre Europe B.V. | A method and apparatus for detecting and/or tracking one or more colour regions in an image or sequence of images |
WO2003088144A2 (en) | 2002-04-09 | 2003-10-23 | Digimarc Id Systems, Llc | Image processing techniques for printing identification cards and documents |
US7872670B2 (en) * | 2002-04-22 | 2011-01-18 | Sanyo Electric Co., Ltd. | Camera performing photographing in accordance with photographing mode depending on object scene |
US7824029B2 (en) | 2002-05-10 | 2010-11-02 | L-1 Secure Credentialing, Inc. | Identification card printer-assembler for over the counter card issuing |
US7035462B2 (en) * | 2002-08-29 | 2006-04-25 | Eastman Kodak Company | Apparatus and method for processing digital images having eye color defects |
DE50212936D1 (de) * | 2002-10-24 | 2008-12-04 | L 1 Identity Solutions Ag | Prüfung von Bildaufnahmen von Personen |
WO2004049242A2 (en) * | 2002-11-26 | 2004-06-10 | Digimarc Id Systems | Systems and methods for managing and detecting fraud in image databases used with identification documents |
EP1431810A1 (de) * | 2002-12-16 | 2004-06-23 | Agfa-Gevaert AG | Verfahren zur automatischen Bestimmung von Farbdichte-Korrekturwerten für die Wiedergabe von digitalen Bilddaten |
DE602004030434D1 (de) | 2003-04-16 | 2011-01-20 | L 1 Secure Credentialing Inc | Dreidimensionale datenspeicherung |
US7970182B2 (en) | 2005-11-18 | 2011-06-28 | Tessera Technologies Ireland Limited | Two stage detection for photographic eye artifacts |
US8170294B2 (en) | 2006-11-10 | 2012-05-01 | DigitalOptics Corporation Europe Limited | Method of detecting redeye in a digital image |
US7792970B2 (en) | 2005-06-17 | 2010-09-07 | Fotonation Vision Limited | Method for establishing a paired connection between media devices |
US7689009B2 (en) | 2005-11-18 | 2010-03-30 | Fotonation Vision Ltd. | Two stage detection for photographic eye artifacts |
US7574016B2 (en) | 2003-06-26 | 2009-08-11 | Fotonation Vision Limited | Digital image processing using face detection information |
US8254674B2 (en) | 2004-10-28 | 2012-08-28 | DigitalOptics Corporation Europe Limited | Analyzing partial face regions for red-eye detection in acquired digital images |
US7920723B2 (en) | 2005-11-18 | 2011-04-05 | Tessera Technologies Ireland Limited | Two stage detection for photographic eye artifacts |
US7587085B2 (en) | 2004-10-28 | 2009-09-08 | Fotonation Vision Limited | Method and apparatus for red-eye detection in an acquired digital image |
US7536036B2 (en) * | 2004-10-28 | 2009-05-19 | Fotonation Vision Limited | Method and apparatus for red-eye detection in an acquired digital image |
US8036458B2 (en) | 2007-11-08 | 2011-10-11 | DigitalOptics Corporation Europe Limited | Detecting redeye defects in digital images |
US9412007B2 (en) | 2003-08-05 | 2016-08-09 | Fotonation Limited | Partial face detector red-eye filter method and apparatus |
US20050031224A1 (en) * | 2003-08-05 | 2005-02-10 | Yury Prilutsky | Detecting red eye filter and apparatus using meta-data |
US8520093B2 (en) | 2003-08-05 | 2013-08-27 | DigitalOptics Corporation Europe Limited | Face tracker and partial face tracker for red-eye filter method and apparatus |
US7333653B2 (en) * | 2003-08-29 | 2008-02-19 | Hewlett-Packard Development Company, L.P. | Detecting and correcting redeye in an image |
US7593550B2 (en) | 2005-01-26 | 2009-09-22 | Honeywell International Inc. | Distance iris recognition |
US8090157B2 (en) | 2005-01-26 | 2012-01-03 | Honeywell International Inc. | Approaches and apparatus for eye detection in a digital image |
US8098901B2 (en) | 2005-01-26 | 2012-01-17 | Honeywell International Inc. | Standoff iris recognition system |
US8064647B2 (en) | 2006-03-03 | 2011-11-22 | Honeywell International Inc. | System for iris detection tracking and recognition at a distance |
US8705808B2 (en) | 2003-09-05 | 2014-04-22 | Honeywell International Inc. | Combined face and iris recognition system |
US8049812B2 (en) | 2006-03-03 | 2011-11-01 | Honeywell International Inc. | Camera with auto focus capability |
US8442276B2 (en) | 2006-03-03 | 2013-05-14 | Honeywell International Inc. | Invariant radial iris segmentation |
US20050063568A1 (en) * | 2003-09-24 | 2005-03-24 | Shih-Ching Sun | Robust face detection algorithm for real-time video sequence |
US7835572B2 (en) * | 2003-09-30 | 2010-11-16 | Sharp Laboratories Of America, Inc. | Red eye reduction technique |
JP4396387B2 (ja) * | 2004-05-13 | 2010-01-13 | オムロン株式会社 | 画像補正装置 |
US20060008169A1 (en) * | 2004-06-30 | 2006-01-12 | Deer Anna Y | Red eye reduction apparatus and method |
FR2880969B1 (fr) * | 2005-01-20 | 2007-06-15 | Sagem | Dispositif pour detecter des yeux rouges sur une image et dispositif d'impression d'image mettant en oeuvre ce procede |
JP4405942B2 (ja) * | 2005-06-14 | 2010-01-27 | キヤノン株式会社 | 画像処理装置およびその方法 |
JP4420459B2 (ja) | 2005-06-14 | 2010-02-24 | キヤノン株式会社 | 画像処理装置およびその方法 |
JP4498224B2 (ja) * | 2005-06-14 | 2010-07-07 | キヤノン株式会社 | 画像処理装置およびその方法 |
US7747071B2 (en) * | 2005-10-27 | 2010-06-29 | Hewlett-Packard Development Company, L.P. | Detecting and correcting peteye |
US7599577B2 (en) | 2005-11-18 | 2009-10-06 | Fotonation Vision Limited | Method and apparatus of correcting hybrid flash artifacts in digital images |
WO2007095553A2 (en) | 2006-02-14 | 2007-08-23 | Fotonation Vision Limited | Automatic detection and correction of non-red eye flash defects |
GB2450023B (en) | 2006-03-03 | 2011-06-08 | Honeywell Int Inc | An iris image encoding method |
JP2009529197A (ja) | 2006-03-03 | 2009-08-13 | ハネウェル・インターナショナル・インコーポレーテッド | モジュールバイオメトリクス収集システムアーキテクチャ |
KR101308368B1 (ko) | 2006-03-03 | 2013-09-16 | 허니웰 인터내셔널 인코포레이티드 | 홍채 품질 측정을 갖는 홍채 인식 시스템 |
WO2007101276A1 (en) | 2006-03-03 | 2007-09-07 | Honeywell International, Inc. | Single lens splitter camera |
US7787664B2 (en) * | 2006-03-29 | 2010-08-31 | Eastman Kodak Company | Recomposing photographs from multiple frames |
US7965875B2 (en) | 2006-06-12 | 2011-06-21 | Tessera Technologies Ireland Limited | Advances in extending the AAM techniques from grayscale to color images |
US8103061B2 (en) * | 2006-10-02 | 2012-01-24 | Johnson & Johnson Consumer Companies, Inc. | Method and apparatus for identifying facial regions |
US8055067B2 (en) | 2007-01-18 | 2011-11-08 | DigitalOptics Corporation Europe Limited | Color segmentation |
EP2145288A4 (en) | 2007-03-05 | 2013-09-04 | Digitaloptics Corp Europe Ltd | FILTERING OF POSITIVE FALSE OF RED EYES USING A LOCATION AND FACE ORIENTATION |
US8063889B2 (en) | 2007-04-25 | 2011-11-22 | Honeywell International Inc. | Biometric data collection system |
DE102007050568A1 (de) * | 2007-08-04 | 2009-02-05 | Continental Teves Ag & Co. Ohg | Verfahren und Einrichtung zur Objekterkennung in einem Bild |
US8503818B2 (en) | 2007-09-25 | 2013-08-06 | DigitalOptics Corporation Europe Limited | Eye defect detection in international standards organization images |
US8391596B2 (en) * | 2007-10-17 | 2013-03-05 | Qualcomm Incorporated | Effective red eye removal in digital images without face detection |
US8212864B2 (en) | 2008-01-30 | 2012-07-03 | DigitalOptics Corporation Europe Limited | Methods and apparatuses for using image acquisition data to detect and correct image defects |
US20090202175A1 (en) * | 2008-02-12 | 2009-08-13 | Michael Guerzhoy | Methods And Apparatus For Object Detection Within An Image |
US8436907B2 (en) | 2008-05-09 | 2013-05-07 | Honeywell International Inc. | Heterogeneous video capturing system |
US8090246B2 (en) | 2008-08-08 | 2012-01-03 | Honeywell International Inc. | Image acquisition system |
US8081254B2 (en) | 2008-08-14 | 2011-12-20 | DigitalOptics Corporation Europe Limited | In-camera based method of detecting defect eye with high accuracy |
US8280119B2 (en) | 2008-12-05 | 2012-10-02 | Honeywell International Inc. | Iris recognition system using quality metrics |
US8630464B2 (en) | 2009-06-15 | 2014-01-14 | Honeywell International Inc. | Adaptive iris matching using database indexing |
US8472681B2 (en) | 2009-06-15 | 2013-06-25 | Honeywell International Inc. | Iris and ocular recognition system using trace transforms |
US8742887B2 (en) | 2010-09-03 | 2014-06-03 | Honeywell International Inc. | Biometric visitor check system |
AU2011224051B2 (en) * | 2011-09-14 | 2014-05-01 | Canon Kabushiki Kaisha | Determining a depth map from images of a scene |
US9456187B1 (en) | 2012-06-01 | 2016-09-27 | Amazon Technologies, Inc. | Edge-based pose detection |
US10528853B1 (en) | 2012-06-29 | 2020-01-07 | Amazon Technologies, Inc. | Shape-Based Edge Detection |
JP6188453B2 (ja) | 2013-06-28 | 2017-08-30 | キヤノン株式会社 | 画像処理装置、画像処理方法、及びプログラム |
WO2015017868A1 (en) * | 2013-08-02 | 2015-02-05 | Emotient | Filter and shutter based on image emotion content |
KR101673701B1 (ko) * | 2014-11-24 | 2016-11-07 | 현대자동차주식회사 | 눈 검출장치 및 방법 |
JP7455575B2 (ja) * | 2019-12-25 | 2024-03-26 | キヤノン株式会社 | 画像処理装置、画像処理方法、学習装置、学習方法、プログラムおよびシステム |
CN112561787B (zh) * | 2020-12-22 | 2024-03-22 | 维沃移动通信有限公司 | 图像处理方法、装置、电子设备及存储介质 |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB8905926D0 (en) * | 1989-03-15 | 1990-04-25 | British Aerospace | Target aim point location |
US5128711A (en) * | 1989-04-28 | 1992-07-07 | Fuji Photo Film Co., Ltd. | Apparatus for recording position information of principal image and method of detecting principal image |
US5063603A (en) * | 1989-11-06 | 1991-11-05 | David Sarnoff Research Center, Inc. | Dynamic method for recognizing objects and image processing system therefor |
DE69131350T2 (de) * | 1990-07-17 | 1999-12-30 | British Telecommunications P.L.C., London | Verfahren und vorrichtung zur bildverarbeitung |
US5164992A (en) * | 1990-11-01 | 1992-11-17 | Massachusetts Institute Of Technology | Face recognition system |
US5450504A (en) * | 1992-05-19 | 1995-09-12 | Calia; James | Method for finding a most likely matching of a target facial image in a data base of facial images |
JP3298072B2 (ja) * | 1992-07-10 | 2002-07-02 | ソニー株式会社 | ビデオカメラシステム |
IT1257073B (it) * | 1992-08-11 | 1996-01-05 | Ist Trentino Di Cultura | Sistema di riconoscimento, particolarmente per il riconoscimento di persone. |
US5689575A (en) * | 1993-11-22 | 1997-11-18 | Hitachi, Ltd. | Method and apparatus for processing images of facial expressions |
US5572596A (en) * | 1994-09-02 | 1996-11-05 | David Sarnoff Research Center, Inc. | Automated, non-invasive iris recognition system and method |
-
1997
- 1997-08-29 US US08/920,844 patent/US6151403A/en not_active Expired - Lifetime
-
1998
- 1998-08-15 DE DE69833999T patent/DE69833999T2/de not_active Expired - Lifetime
- 1998-08-15 EP EP98202738A patent/EP0899680B1/en not_active Expired - Lifetime
- 1998-08-28 JP JP24327698A patent/JP4744655B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
DE69833999D1 (de) | 2006-05-18 |
EP0899680A3 (en) | 2000-04-12 |
EP0899680B1 (en) | 2006-03-29 |
US6151403A (en) | 2000-11-21 |
JPH11149559A (ja) | 1999-06-02 |
EP0899680A2 (en) | 1999-03-03 |
DE69833999T2 (de) | 2007-01-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4744655B2 (ja) | ディジタル画像中の人間の目を自動的に検出する方法 | |
US5892837A (en) | Computer program product for locating objects in an image | |
US7092554B2 (en) | Method for detecting eye and mouth positions in a digital image | |
US6895103B2 (en) | Method for automatically locating eyes in an image | |
Kawaguchi et al. | Iris detection using intensity and edge information | |
EP1229493B1 (en) | Multi-mode digital image processing method for detecting eyes | |
US7460693B2 (en) | Method and apparatus for the automatic detection of facial features | |
US7376270B2 (en) | Detecting human faces and detecting red eyes | |
JP4903854B2 (ja) | デジタル画像におけるオブジェクト検出方法 | |
CN103093215B (zh) | 人眼定位方法及装置 | |
US6920237B2 (en) | Digital image processing method and computer program product for detecting human irises in an image | |
EP1426898B1 (en) | Human detection through face detection and motion detection | |
KR100480781B1 (ko) | 치아영상으로부터 치아영역 추출방법 및 치아영상을이용한 신원확인방법 및 장치 | |
WO2005024708A1 (en) | The pupil detection method and shape descriptor extraction method for a iris recognition, iris feature extraction apparatus and method, and iris recognition system and method using its | |
EP1210687A1 (en) | Method and apparatus for rolled fingerprint capture | |
CN109376717A (zh) | 人脸对比的身份识别方法、装置、电子设备及存储介质 | |
Martinikorena et al. | Fast and robust ellipse detection algorithm for head-mounted eye tracking systems | |
US5832102A (en) | Apparatus for extracting fingerprint features | |
De Smet et al. | A generalized EM approach for 3D model based face recognition under occlusions | |
Boles et al. | Personal identification using images of the human palm | |
JP3319408B2 (ja) | 顔の特徴抽出装置 | |
Karungaru et al. | Face recognition in colour images using neural networks and genetic algorithms | |
Murphy et al. | Shape representation by a network of V4-like cells | |
Jing et al. | A novel method for horizontal eye line detection under various environments | |
JPH05108806A (ja) | 画像特徴抽出方法及びその装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050819 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080205 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20080430 |
|
A602 | Written permission of extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A602 Effective date: 20080507 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080530 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080624 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080922 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20081021 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090114 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20090220 |
|
A912 | Re-examination (zenchi) completed and case transferred to appeal board |
Free format text: JAPANESE INTERMEDIATE CODE: A912 Effective date: 20090313 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110203 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110318 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20110511 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140520 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |