JP2006146737A - Collation method, computer, and program - Google Patents
Collation method, computer, and program Download PDFInfo
- Publication number
- JP2006146737A JP2006146737A JP2004338337A JP2004338337A JP2006146737A JP 2006146737 A JP2006146737 A JP 2006146737A JP 2004338337 A JP2004338337 A JP 2004338337A JP 2004338337 A JP2004338337 A JP 2004338337A JP 2006146737 A JP2006146737 A JP 2006146737A
- Authority
- JP
- Japan
- Prior art keywords
- image
- collation
- registered images
- correlation value
- images
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Collating Specific Patterns (AREA)
- Image Analysis (AREA)
Abstract
Description
本発明は、例えば、画像を照合する照合方法、コンピュータ、およびプログラムに関するものである。 The present invention relates to a collation method, a computer, and a program for collating images, for example.
画像処理の分野において、ユーザ固有の生体特徴を撮像して得られた画像を利用してバイオメトリクス認証を行なう照合装置が知られている。
例えば上述した装置では、データベース内に複数の登録画像を記憶し、照合時には、入力された画像とデータベースに記憶されている複数の登録画像を、逐次比較することで画像照合処理を行う。
In the field of image processing, a collation device that performs biometric authentication using an image obtained by imaging a biometric feature unique to a user is known.
For example, in the apparatus described above, a plurality of registered images are stored in a database, and at the time of collation, image collation processing is performed by sequentially comparing the input image and the plurality of registered images stored in the database.
しかし、上述した装置では、複数の登録画像と入力された画像とを逐次比較するので、データベースに記憶する登録画像の個数が増えるほど、照合時間が著しく増大する。このため、高速に画像照合を行うことができる装置が望まれている。 However, since the above-described apparatus sequentially compares a plurality of registered images and input images, the matching time increases remarkably as the number of registered images stored in the database increases. For this reason, an apparatus capable of performing image collation at high speed is desired.
本発明は、かかる事情に鑑みてなされたものであり、その目的は、登録画像の個数が多い場合であっても高速に照合処理を行うことができる照合方法、コンピュータ、およびプログラムを提供することにある。 The present invention has been made in view of such circumstances, and an object thereof is to provide a collation method, a computer, and a program capable of performing collation processing at high speed even when the number of registered images is large. It is in.
前記目的を達成するために、本発明の第1の観点の照合方法は、画像照合を行うコンピュータの照合方法であって、基準画像と被照合画像との間の第1の相関値を生成する第1のステップと、前記基準画像と複数の登録画像それぞれとの間の複数の第2の相関値であって、前記第1のステップよりも前に生成された前記第2の相関値、および前記第1のステップにより生成された前記第1の相関値に基づいて、前記複数の登録画像のうち前記被照合画像との照合に用いるための一部の前記登録画像を特定し、または前記登録画像の前記照合に用いる順番を決定する第2のステップとを有する。 In order to achieve the above object, a collation method according to a first aspect of the present invention is a computer collation method that performs image collation, and generates a first correlation value between a reference image and a collated image. A plurality of second correlation values between the first step and the reference image and each of the plurality of registered images, the second correlation values generated before the first step; and Based on the first correlation value generated in the first step, a part of the registered images to be used for collation with the image to be collated among the plurality of registered images is specified, or the registration And a second step of determining an order used for the image collation.
本発明によれば、登録画像の個数が多い場合であっても高速に照合処理を行うことができる照合方法、コンピュータ、およびプログラムを提供することができる。 According to the present invention, it is possible to provide a collation method, a computer, and a program that can perform collation processing at high speed even when the number of registered images is large.
図1は、本発明の一実施形態に係る照合装置1の機能ブロック図である。
本実施形態に係る照合装置1は、基準画像と被照合画像(単に照合画像ともいう)との間の第1の相関値を生成する第1のステップと、基準画像と複数の登録画像それぞれとの間の複数の第2の相関値であって、第1のステップよりも前に生成された第2の相関値、および第1のステップにより生成された第1の相関値に基づいて、複数の登録画像のうち被照合画像との照合に用いる一部の登録画像を特定し、または登録画像の照合に用いる順番を決定し、その照合に用いる登録画像と被照合画像RIMを照合する。
FIG. 1 is a functional block diagram of a
The
本実施形態に係る照合装置1は、例えば図1に示すように、画像入力部10、データベース11、位置合わせ処理部12、ハフ(Hough)変換処理部13、マスク処理部14、マハラノビス距離(相関値)演算部15、検索順位決定部16、メモリ17、制御回路(CPU:Central processing unit)18、および動作処理部19を有する。
各構成要素間はデータ線BS1により接続されている。
As shown in FIG. 1, for example, the
Each component is connected by a data line BS1.
照合装置1は本発明に係るコンピュータの一例に相当する。位置合わせ処理部12、ハフ変換処理部13、マスク処理部14、マハラノビス距離(相関値)演算部15、検索順位決定部16、および制御回路18は、本発明に係る制御手段の一例に相当する。
The
画像入力部10は、例えば制御回路18の制御により、外部からの画像を入力するための入力部である。例えば画像入力部10には、登録時には登録画像AIMが入力され、照合時には照合画像RIMが入力され、その画像を制御回路18に出力する。
The
例えば画像入力部10は、CCD(Charge coupled device)や、CMOS(Complementary metal-oxide semiconductor)等の撮像素子や、外部装置から画像信号を入力するためのインタフェース等により構成される。
For example, the
データベース11には、複数の画像、例えば複数の登録画像AIMや、基準画像BI1,基準画像BI2、後述する登録画像AIMに対応付けられた相関値(マハラノビス距離)、参照画像DI1、テーブルT等が記憶されている。例えばデータベース11はハードディスク装置や光磁気ディスク、半導体記憶装置等の記憶装置を含む。 The database 11 includes a plurality of images, for example, a plurality of registered images AIM, a reference image BI1, a reference image BI2, a correlation value (Mahalanobis distance) associated with a registered image AIM described later, a reference image DI1, a table T, and the like. It is remembered. For example, the database 11 includes storage devices such as a hard disk device, a magneto-optical disk, and a semiconductor storage device.
位置合わせ処理部12は、制御回路18の制御により、例えば画像入力部10から入力された画像と、データベース11から読み出された画像に対して位置合わせを行う。
The
ハフ変換処理部13は、制御回路18の制御により、例えば画像入力部10から入力された画像や、データベース11から読み出された画像に、後述する画像変換処理、例えばハフ(Hough )変換処理を行い、処理結果を制御回路18に出力する。
ハフ変換処理部13は、例えば高速に画像変換処理を行うために、ハードウェアで構成された専用回路を用いることが好ましい。
Under the control of the
The Hough
マスク処理部14は、制御回路18の制御により、例えばハフ変換処理部13で処理された画像に対して、予め設定された値より大きい部分を抽出する処理(マスク処理ともいう)を行い、処理結果を制御回路18に出力する。マスク処理部14は、例えば高速に抽出処理を行うために、ハードウェアで構成された専用回路を用いることが好ましい
Under the control of the
相関値演算部15は、制御回路18の制御により、例えば入力された画像や登録画像と、基準画像BI1との相関値を生成し、その結果を制御回路18に出力する。
また、相関値演算部15は、後述するマハラノビス距離を演算により生成する。
The correlation
Moreover, the correlation
検索順位決定部16は、制御回路18の制御により、例えば入力された照合画像RIMと基準画像BI1との間の相関値と、基準画像BI1と複数の登録画像AIMそれぞれとの間の複数の相関値に基づいて、複数の登録画像AIMのうち照合に用いるための一部の登録画像AIMを特定し、または照合に用いる登録画像AIMの順番を決定する。
The search
メモリ17は、例えば制御回路18のワークスペースとして用いられる。メモリ17は、例えば図1に示すように本発明に係る機能を含むプログラムPRG等が記憶されている。プログラムPRGは、例えば制御回路18により実行され、本発明に係る機能を実現する手順を含む。
The
制御回路(CPU)18は、装置全体を制御する。制御回路18は、例えばプログラムPRGを実行することにより本発明に係る機能を実現する。
制御回路18は、上述した構成要素による処理結果を基に照合処理を行う。
A control circuit (CPU) 18 controls the entire apparatus. The
The
動作処理部19は、後述する制御回路18の処理の結果に基づいて、例えば登録画像AIMと照合画像RIMが一致した場合には、電子鍵を解除する等の所定処理を行う。
The
図2は、図1に示した照合装置1のハフ変換処理部13の動作を説明するための図である。図3は、図2に示したハフ変換処理を説明するための図である。
FIG. 2 is a diagram for explaining the operation of the Hough
本実施形態では画像処理としてハフ変換処理を行う。以下図面を参照しながら説明する。 In the present embodiment, Hough conversion processing is performed as image processing. This will be described below with reference to the drawings.
ハフ変換処理部13は、例えば画像内の基準位置からの距離、および基準位置を通る直線と基準位置を含む基準軸との角度に基づいて画像変換処理を行い、距離および角度で規定される2次元空間の変換登録画像および変換照合画像を生成する。
The Hough
詳細には、ハフ変換処理部13は、登録画像AIMおよび照合画像RIMそれぞれについて、基準位置から画像内の点を通る直線L0への最短の点P0までの距離ρ0、および、基準位置Oと最短の点P0を通る直線n0と基準位置Oを含む基準軸との角度θ0に基づいて、画像内の点を曲線のパターンに変換し、画像内の直線成分を、複数の重なり合った曲線のパターンに変換する画像処理を行い、変換登録画像および変換照合画像を生成する。
Specifically, for each of the registered image AIM and the collation image RIM, the Hough
簡単に説明するため、例えば図2に示すように、x−y平面上に、直線L0、直線L0上の点P1(x1,y1),点P2(x2,y2),点P3(x3,y3)があるとする。
原点(基準位置)Oを通り直線L0に垂直な直線をn0とすると、例えば直線n0と基準軸としてのx軸とは角度θ0の関係があり、原点Oから直線L0まで距離|ρ0|の関係があるとする。ここで|ρ0|はρ0の絶対値を示す。直線L0は、(ρ0,θ0)というパラメータで表現できる。
x−y平面上の座標(x,y)に対する、本発明に係る画像変換処理は、例えば数式(1)により定義される。
For simple explanation, for example, as shown in FIG. 2, on the xy plane, the straight line L0, the point P1 (x1, y1), the point P2 (x2, y2), the point P3 (x3, y3) on the straight line L0 ).
Assuming that the straight line passing through the origin (reference position) O and perpendicular to the straight line L0 is n0, for example, the straight line n0 and the x-axis as the reference axis have a relationship of angle θ0, and the relationship of the distance | ρ0 | from the origin O to the straight line L0 Suppose there is. Here, | ρ0 | indicates the absolute value of ρ0. The straight line L0 can be expressed by a parameter (ρ0, θ0).
The image conversion processing according to the present invention for the coordinates (x, y) on the xy plane is defined by, for example, Expression (1).
例えば点P1,P2,P3それぞれについて数式(1)に示す変換処理を行うと、図3に示すようにρ−θ空間上の曲線に変換される。詳細には変換処理は、点P1(x1,y1)は曲線PL1(x1・cosθ+y1・sinθ)に、点P2(x2,y2)は曲線PL2(x2・cosθ+y2・sinθ)に、点P3(x3,y3)は曲線PL3(x3・cosθ+y3・sinθ)に変換する。
この曲線PL1,PL2,PL3のパターンは、ρ−θ空間上で交点CP(ρ0,θ0)で交わる。ρ−θ空間上では交点CP(ρ0,θ0)は、x−y平面上では直線成分L0に相当する。
逆に、図3に示すようにx−y平面上の直線成分L0は、ρ−θ空間では曲線PL1,PL2,PL3のパターンの交点CPに相当する。
For example, when the conversion process shown in Equation (1) is performed for each of the points P1, P2, and P3, the points are converted into curves in the ρ-θ space as shown in FIG. Specifically, in the conversion process, the point P1 (x1, y1) is on the curve PL1 (x1 · cos θ + y1 · sin θ), the point P2 (x2, y2) is on the curve PL2 (x2 · cos θ + y2 · sin θ), and the point P3 (x3, x3) y3) is converted into a curve PL3 (x3 · cos θ + y3 · sin θ).
The patterns of the curves PL1, PL2, and PL3 intersect at an intersection CP (ρ0, θ0) in the ρ-θ space. The intersection CP (ρ0, θ0) on the ρ-θ space corresponds to the linear component L0 on the xy plane.
Conversely, as shown in FIG. 3, the linear component L0 on the xy plane corresponds to the intersection CP of the patterns PL1, PL2, and PL3 in the ρ-θ space.
上述したように、2値化した画像変換処理を行い、処理結果のρ−θ空間上での曲線のパターンの重なりの度合いにより、変換前のx−y平面上においてどのような直線成分が支配的であるかを判別することができる。
このx−y平面における画像の回転、平行移動は、画像変換処理後のρ−θ空間において、それぞれθ方向、ρ方向の平行移動に相当する。
As described above, binarized image conversion processing is performed, and what kind of linear component dominates on the xy plane before conversion depending on the degree of overlapping of the pattern of the curve in the ρ-θ space of the processing result. Can be determined.
The rotation and translation of the image in the xy plane correspond to translation in the θ direction and the ρ direction, respectively, in the ρ-θ space after the image conversion process.
図4は、図1に示した照合装置1の画像変換処理を説明するための図である。
マスク処理部14は、例えば図4(a)に示す照合画像RIMに画像変換処理を施して、図4(c)に示す画像S1311を生成し、図4(b)に示す登録画像AIMに画像変換処理を施し、図4(d)に示す画像S1312を生成する。
画像S1311,S1312の内の各画素には,曲線のパターンの重なりの度合いに応じた値が設定される。本実施形態では所定の階調で示される画像の内、曲線のパターンの重なりの度合いが高いほど白くなるように表示されている。
FIG. 4 is a diagram for explaining the image conversion process of the
For example, the
A value corresponding to the degree of overlap of the curve patterns is set for each pixel in the images S1311, S1312. In the present embodiment, the image is displayed so as to become whiter as the degree of overlapping of the curved pattern pattern increases in the image indicated by the predetermined gradation.
マスク処理部14は、変換登録画像および変換照合画像それぞれについて、1つの画像内の曲線のパターンの重なりの度合いが予め設定された閾値以上の領域を抽出する。
具体的には、マスク処理部14は、図4(c)に示す画像S1311に基づいて、1つの画像内の曲線のパターンの重なりの度合いが予め設定された閾値以上の領域を抽出して、図4(e)に示す画像S1321を生成し、制御回路18に出力する。
The
Specifically, based on the image S1311 shown in FIG. 4C, the
また、マスク処理部14は、図4(d)に示す画像S1312に基づいて、1つの画像内の曲線の重なりの度合いが予め設定された閾値以上の領域を抽出して、図4(f)に示す画像S1322を生成し、制御回路18に出力する。
In addition, the
本実施形態では、照合画像RIMおよび登録画像AIMをハフ変換処理部13およびマスク処理部14により画像S1321、および画像S1322を生成したが、マスク処理部14の処理は、必要に応じて行う。
In this embodiment, the image S1321 and the image S1322 are generated from the collation image RIM and the registered image AIM by the Hough
この抽出処理(マスク処理)を行うことにより、例えば登録画像AIMおよび照合画像RIMのx−y空間上の直線成分と異なるノイズ成分、例えば点成分を除去し、画素単位で相関値を生成する場合と比べノイズの影響を受けにくい。 When this extraction process (mask process) is performed, for example, noise components different from the linear components in the xy space of the registered image AIM and the collation image RIM, such as point components, are removed, and correlation values are generated in units of pixels. Less susceptible to noise than
相関値演算部15は、画像間の相関値を生成する。
具体的には、相関値演算部15は、例えば画像間の類似度を生成する。
The correlation
Specifically, the correlation
図5は、図1に示した相関値演算部15の動作の一実施形態を説明するための図である。
具体的には、相関値演算部15は、2つの画像それぞれをf1(m,n),f2(m,n)とすると、例えば類似度Simを数式(2)により算出し、算出結果を制御回路18に出力する。
FIG. 5 is a diagram for explaining an embodiment of the operation of the correlation
Specifically, the correlation
相関値演算部15は、例えば図5(a),(b)に示す線成分(線形状ともいう)を含む2つの画像の相関度(類似度)を生成する場合には、図5(c)に示すように、2つの画像の交点CPの数に応じた類似度を生成する。ここでは、簡単な説明のために、線成分をビット値’1’の黒画素を示し、その他をビット値’0’の白画素で示した。
For example, when the correlation
図6は、本発明に係るマハラノビス距離を説明するための図である。図6(a)は、例えば基準画像BI1と、複数の参照画像DI1との相関度を生成した場合の度数分布パターンを示す図である。図6(b)は、例えば基準画像BI2と、複数の参照画像DI1との相関度を生成した場合の度数分布パターンを示す図である。 FIG. 6 is a diagram for explaining the Mahalanobis distance according to the present invention. FIG. 6A is a diagram illustrating a frequency distribution pattern when, for example, the correlation between the base image BI1 and a plurality of reference images DI1 is generated. FIG. 6B is a diagram illustrating a frequency distribution pattern in a case where the degree of correlation between the base image BI2 and a plurality of reference images DI1, for example, is generated.
相関値演算部15は、例えば血管を撮像した画像パターンを利用した個人認証の場合に、ある血管パターンデータを基準画像として、異なる複数の血管パターンデータを参照用画像として相関度を生成した場合の相関度分布パターンを生成する。
相関値演算部15は、例えば数式(2)に示すような類似度SIMを生成する。
For example, in the case of personal authentication using an image pattern obtained by imaging a blood vessel, the correlation
The correlation
図6(a),(b)に示すように、基準画像BI1,BI2に対してある画像データとの類似度を算出した結果がそれぞれ閾値th1、th2を超えた場合に、同一の画像データと判定することができる。 As shown in FIGS. 6A and 6B, when the result of calculating the similarity between the reference image BI1 and BI2 and certain image data exceeds the threshold values th1 and th2, respectively, the same image data and Can be determined.
しかし基準画像によって閾値が変化するため、統一的な値を閾値として利用することができない。
本実施形態に係る照合装置1は、各度数分布の平均値と分散を考慮したマハラノビス距離を用いる。
However, since the threshold value varies depending on the reference image, a unified value cannot be used as the threshold value.
The
相関値演算部15は、マハラノビス距離Dとして、例えば数式(3)に示すように、類似度(SIM)の平均値μ、および類似度の度数分布の標準偏差値σにより演算により生成する。
The correlation
[数3]
D=(r−μ)/σ …(3)
[Equation 3]
D = (r−μ) / σ (3)
図6(a),(b)に示すように、例えば演算により生成された類似度rの値が0.55であった場合、それぞれの度数分布の平均値μ、および分散値σによりマハラノビス距離Dを演算により生成すると例えばマハラノビス距離Dは4.44、1.43となる。 As shown in FIGS. 6 (a) and 6 (b), for example, when the value of the similarity r generated by the calculation is 0.55, the Mahalanobis distance is determined by the average value μ and the variance value σ of each frequency distribution. When D is generated by calculation, for example, the Mahalanobis distance D is 4.44 and 1.43.
図7は、マハラノビス距離と標準正規分布との関係を示す図である。
図7に示すように、参照画像と基準画像に基づいて生成した度数分布を標準正規分布へと正規化することにより、求められたマハラノビス距離を統一的な指標として評価することができる。
FIG. 7 is a diagram illustrating the relationship between the Mahalanobis distance and the standard normal distribution.
As shown in FIG. 7, by normalizing the frequency distribution generated based on the reference image and the standard image to the standard normal distribution, the obtained Mahalanobis distance can be evaluated as a unified index.
図8は、図1に示した照合装置1の動作の一具体例を説明するためのフローチャートである。図8を参照しながら、照合装置1の動作の一具体例を、制御回路18の動作を中心に説明する。
ステップST1において、制御回路18は、基準画像BI1と複数の登録画像AIMそれぞれとの間の複数の第2の相関値を生成して、データベース11に記憶する。
FIG. 8 is a flowchart for explaining a specific example of the operation of the
In step ST1, the
ステップST2において、制御回路18は、基準画像BI1と被照合画像(照合画像RIM)との間の第1の相関値を生成する。
In step ST2, the
ステップST3において、制御回路18は、ステップST2よりも前に生成された第2の相関値、および第1の相関値に基づいて、複数の登録画像AIMのうち被照合画像(照合画像RIM)との照合に用いる一部の登録画像AIMを特定する。
この際、制御回路18は、第1の相関値と第2の相関値との差が小さい順に設定個数だけ、第2の相関値に対応する複数の登録画像AIMのうち照合に用いる一部の登録画像AIMを特定する。
In step ST3, the
At this time, the
ステップST4において、制御回路18は、特定された登録画像AIMと被照合画像とを比較して照合処理を行う。
In step ST4, the
以上、説明したように、制御回路18は、登録時に予め基準画像BI1と複数の登録画像AIMそれぞれとの間の複数の相関値を生成してデータベース11に記憶し、照合時に、特定された登録画像AIMと被照合画像とを比較して照合処理を行うので、データベース11に記憶されている登録画像AIMの個数が多い場合であっても、複数の登録画像AIMと遂次照合を行う場合と比べて高速に照合処理を行うことができる。
As described above, the
図9は、図1に示した照合装置1の動作の他の具体例を説明するためのフローチャートである。図8に示した照合装置1の動作との大きな相違点は、ステップST3aにおいて、登録画像AIMの照合に用いる順番を決定する点である。
FIG. 9 is a flowchart for explaining another specific example of the operation of the
ステップST1において、制御回路18は、基準画像BI1と複数の登録画像AIMそれぞれとの間の複数の第2の相関値を生成して、データベース11に記憶する。
In step ST1, the
ステップST2において、制御回路18は、基準画像BI1と被照合画像(照合画像RIM)との間の第1の相関値を生成する。
In step ST2, the
ステップST3aにおいて、制御回路18は、ステップST2よりも前に生成された第2の相関値、および第1の相関値に基づいて、複数の登録画像AIMの照合に用いる順番を決定する。
この際、制御回路18は、第1の相関値および第2の相関値との差が小さい順に、照合に用いる登録画像AIMの順番を決定する。
In step ST3a, the
At this time, the
ステップST4において、制御回路18は、決定された順番で登録画像AIMと被照合画像(照合画像RIM)を比較して照合処理を行う。
In step ST4, the
ステップST5において、制御回路18は、ステップST4にて順番に照合処理を行っている際に、規定された条件を満たしているか否かを判断し、条件を満たしていないと判断した場合には、ステップSTST4aに戻り、次の順番の登録画像AIMと照合画像RIMとの照合を行う。
一方、条件を満たしていると判断した場合には、制御回路18は、条件を満たした登録画像AIM以降の順番の登録画像AIMについて照合を行わない。
例えば、上述の既定された条件は、順に照合を行っている場合に照合の結果が確定した場合や、全ての登録画像について照合を行った場合などである。
In step ST5, the
On the other hand, if it is determined that the condition is satisfied, the
For example, the above-described predetermined condition is when the collation result is confirmed when collation is sequentially performed, or when collation is performed for all registered images.
以上、説明したように、第1および第2の相関値に基づいて、複数の登録画像AIMのうち、被照合画像(照合画像RIM)との照合に用いる登録画像AIMの照合に用いる順番を決定し、決定した順番で照合を行うので、遂次照合を行う場合と比べて、早い段階で照合OKの場合があり、照合時間が低減する。
また、規定された条件を満たしていると判断した場合には、制御回路18は、条件を満たした登録画像AIM以降の順番の登録画像AIMについて照合を行わないので、遂次全ての登録画像AIMと照合画像RIMとの間で照合を行う場合と比べて、処理時間が低減する。
As described above, based on the first and second correlation values, the order used for collation of the registered image AIM used for collation with the image to be collated (collation image RIM) is determined based on the first and second correlation values. However, since collation is performed in the determined order, collation may be OK at an earlier stage than when sequential collation is performed, and collation time is reduced.
If it is determined that the prescribed condition is satisfied, the
次に、より具体的な照合装置1の動作を説明する。
〔登録時〕
図10は、図1に示した照合装置1の登録時の動作を説明するためのフローチャートである。
以下、図10を参照しながら、画像登録時の動作を、制御回路18の動作を中心に説明する。
Next, a more specific operation of the
〔At the time of registration〕
FIG. 10 is a flowchart for explaining the operation at the time of registration of the
Hereinafter, the operation at the time of image registration will be described focusing on the operation of the
なお、本実施例では、予め基準画像BI1,BI2を用いて、照合処理時に階層的に検索順位を決定する場合を説明する。 In the present embodiment, a case will be described in which the reference order BI1 and BI2 are used in advance to determine the search order hierarchically during the matching process.
ステップST101において、制御回路18は、画像入力部10から、登録を行なうための画像データ(以下登録画像AIMと呼ぶ)を取り込む。
In step ST101, the
ステップST102において、制御回路18は、登録画像AIMに対して例えば図6(a),(b)に示すような度数分布を求めるため、例えば予めデータベース11に記憶されている複数の参照画像DI1の中から参照画像DI1を読み出す。
In step ST102, the
ステップST103において、制御回路18は、位置合わせ処理部12により、入力された登録画像AIMと読み出した参照用画像の位置合わせを行う。
In step ST103, the
ステップST104において、制御回路18は、ハフ変換処理部13に、位置合わせが施された登録画像AIMと参照画像DI1それぞれにハフ変換処理を施させる。
In step ST104, the
ステップST105において、制御回路18は、ハフ変換処理が施された登録画像AIMおよび参照画像DI1それぞれに、マスク処理部14に、規定された閾値よりも大きいパラメータのみが抽出されるようマスク処理を行わせる。
In step ST105, the
ステップST106において、制御回路18は、相関値演算部15に、マスク処理が施された登録画像AIMおよび参照画像DI1間の相関値を演算させる。
In step ST106, the
相関値の算出には、例えば数式(3)に示したような類似度(SIM)rを用いる。 For the calculation of the correlation value, for example, a similarity (SIM) r as shown in Equation (3) is used.
ステップST107において、制御回路18は、登録画像AIMに対して、例えば複数の参照画像DI1の全てを読み出してステップST102〜ST106の処理を行ったか否かを判断する。制御回路18は、判断の結果、例えば複数の参照画像DI1の全てを読み出していないと判断した場合には、ステップST102の処理に戻り、一方複数の参照画像DI1の全てを読み出したと判断した場合には、ステップST108の処理に進む。
In step ST107, the
ステップST108において、制御回路18は、例えば、複数の参照画像DI1と登録画像AIMとの相関値の平均値μと標準偏差値σを演算により生成する。
この平均値μと標準偏差値σは、照合処理時に判定基準として用いるためのマハラノビス距離を生成する際に利用される。
In step ST108, the
The average value μ and the standard deviation value σ are used when generating a Mahalanobis distance for use as a determination criterion during the matching process.
ステップST109において、制御回路18は、データベース11から基準画像BI1,BI2を読み出す。
In step ST109, the
ステップST110において、制御回路18は、相関値演算部15に、基準画像BI1,BI2それぞれと登録画像AIMとの相関値を演算により生成させる。
In step ST110, the
ステップST111において、制御回路18は、相関値演算部15に、例えば数式(3)により、登録画像AIMに対して基準画像BI1,BI2それぞれに応じたマハラノビス距離D1、D2を演算により生成する。
In step ST111, the
ここで登録画像AIMと、基準画像BI1,BI2とに応じたマハラノビス距離算出時に使用する平均値μ、および標準偏差値σは、上述したST102〜ST107の処理と同様に、予め基準画像BI1,BI2それぞれに対して、複数の参照画像との間で演算により生成した相関値の平均値(μc1、μc2)および標準偏差値(σc1、σc2)を使用する。 Here, the average value μ and the standard deviation value σ used when calculating the Mahalanobis distance according to the registered image AIM and the reference images BI1 and BI2 are set in advance in the same manner as in the above-described processing of ST102 to ST107. For each, an average value (μc1, μc2) and a standard deviation value (σc1, σc2) of correlation values generated by calculation with a plurality of reference images are used.
生成したマハラノビス距離D1、D2は、照合処理時に検索順序を決定する際の指標として利用する。 The generated Mahalanobis distances D1 and D2 are used as an index for determining the search order during the matching process.
図11は、図1に示した照合装置1が記憶するテーブルTの一具体例を示す図である。
FIG. 11 is a diagram showing a specific example of the table T stored in the
制御回路18は、上述した登録処理を行なった結果を基に、基準画像BI1,BI2、および各登録画像AIM、マハラノビス距離D1,D2とを関連付けるテーブルTを生成し、データベース11に記憶する。
The
詳細には、図11に示すように、テーブルTは、複数の参照画像DI1(参照画像群)の画像データに応じて生成された平均値μおよび標準偏差値σ、ならびに、基準画像BI1を基に生成されたマハラノビス距離D1(平均値μc1および標準偏差値σc1を使用),基準画像BI2を基に生成されたマハラノビス距離D2(平均値μc2および標準偏差値σc2を使用)が、基準画像BI1,BI2,および登録画像AIM(1,2,…,N)が関連付けて記憶する。 Specifically, as shown in FIG. 11, the table T is based on the average value μ and the standard deviation value σ generated according to the image data of the plurality of reference images DI1 (reference image group), and the standard image BI1. The Mahalanobis distance D1 (using the average value μc1 and the standard deviation value σc1) and the Mahalanobis distance D2 (using the average value μc2 and the standard deviation value σc2) generated based on the reference image BI2 are the reference image BI1, BI2 and registered image AIM (1, 2,..., N) are stored in association with each other.
より詳細には、図11に示すように、データベースに記憶されている登録画像AIMの個数がN個の場合には、登録画像AIM(1)〜AIM(N)に対して、テーブルTの各行は、左列から順に(AIM(1),μ1,σ1,d11,d21),(AIM(2),μ2,σ2,d12,d22),(AIM(3),μ3,σ3,d13,d23),…,(AIM(N),μN,σN,d1N,d2N)である。 More specifically, as shown in FIG. 11, when the number of registered images AIM stored in the database is N, each row of the table T is registered for the registered images AIM (1) to AIM (N). Are sequentially (AIM (1), μ1, σ1, d11, d21), (AIM (2), μ2, σ2, d12, d22), (AIM (3), μ3, σ3, d13, d23) from the left column. ,... (AIM (N), μN, σN, d1N, d2N).
〔照合処理〕
図12は、図1に示した照合装置1の照合時の動作を説明するための図である。図12を参照しながら、照合装置1の照合時の動作を制御回路18の動作を中心に説明する。
[Verification processing]
FIG. 12 is a diagram for explaining the operation at the time of collation of
ステップST201において、制御回路18は、例えば画像入力部10から、登録画像AIMと比較照合を行うための画像(以下照合画像RIMという)を入力する。
In step ST201, the
ステップST202において、制御回路18は、データベース11から予め規定された基準画像BI1を読み出す。
In step ST202, the
ステップST203において、制御回路18は、位置合わせ処理部12に、照合画像RIMと基準画像BI1との位置合わせを行わせる。
In step ST203, the
ステップST204において、制御回路18は、ハフ変換処理部13に、位置合わせ処理が施された照合画像RIMと基準画像BI1にハフ変換処理を施させる。
In step ST204, the
ステップST205において、制御回路18は、マスク処理部14に、ハフ変換処理が施された照合画像RIMと基準画像BI1に、規定された閾値をより大きいパラメータのみが抽出されるようマスク処理を行わせる。
In step ST205, the
ステップST206において、制御回路18は、相関値演算部15に、マスク処理後の照合画像RIMと基準画像BI1の相関値を演算により生成させる。
例えば相関値の生成には、例えば数式(2)に示すような類似度(SIM)rを用いる。
In step ST206, the
For example, for the generation of the correlation value, for example, a similarity (SIM) r as shown in Equation (2) is used.
ステップST207において、制御回路18は、ステップST206で生成された相関値を基に、照合画像RIMと基準画像BI1とのマハラノビス距離D'1を演算により生成する。
In step ST207, the
ここでマハラノビス距離D'1の生成には、例えば図9に示すように、基準画像BI1と複数の参照画像DI1(参照画像群ともいう)の画像データから求めた相関値の平均値μc1、および標準偏差値σc1を用いる。 Here, in order to generate the Mahalanobis distance D′ 1, for example, as shown in FIG. 9, an average value μc1 of correlation values obtained from image data of the base image BI1 and a plurality of reference images DI1 (also referred to as a reference image group), and A standard deviation value σc1 is used.
ステップST208において、制御回路18は、生成したマハラノビス距離を基に、検索順位決定部16にマハラノビス距離D'1に近いマハラノビス距離D1を有するM個の相関値を特定し、特定された相関値に対応し、照合に用いる一部の登録画像AIMを特定する。
制御回路18は、その特定した登録画像AIMを、データベース11から読み出す。
In step ST208, the
The
ステップST209において、制御回路18は、基準画像BI2に関してステップSTST202〜ST207と略同様の処理を行い、照合画像RIMとのマハラノビス距離D'2を演算により生成する(ST209〜ST214)。
In step ST209, the
ステップST215において、制御回路18は、ステップST208により抽出した複数の登録画像AIMの中からマハラノビス距離D'2に近いマハラノビス距離Dを有するN個の相関値を照合対象として特定する。
マハラノビス距離D'2の生成には、例えば図11に示すように、基準画像BI2と複数の参照画像DI1(参照画像群)の画像データから求めた相関値の平均値μc2、および標準偏差値σc2を用いる。
In step ST215, the
In order to generate the Mahalanobis distance D′ 2, for example, as shown in FIG. 11, the average value μc2 of the correlation values obtained from the image data of the base image BI2 and the plurality of reference images DI1 (reference image group), and the standard deviation value σc2 Is used.
ここで制御回路18は、基準画像BI2と複数の参照画像DI1(参照画像群)の画像データから求めた相関値の平均値μc2、標準偏差値σc2の値を用いてマハラノビス距離D’2を演算により生成する。
Here, the
また、照合の順番の決定には、類似した複数の画像データと基準画像BI1との間でそれぞれ生成した相関値は近い値を示すという特徴を利用している。 Further, the determination of the collation order uses the feature that the correlation values generated between a plurality of similar image data and the reference image BI1 show close values.
ステップST216において、制御回路18は、ステップST215で特定された各登録画像AIMに、前述の手順と同様に位置合わせ処理、ハフ変換処理、マスク処理を施し、照合画像RIMとの相関値およびマハラノビス距離を演算により生成する。
ここでのマハラノビス距離の生成には、例えば図11に示すように、照合対象として特定された各登録画像を登録する際に生成した平均値、標準偏差値を用いる。
In step ST216, the
For the generation of the Mahalanobis distance here, for example, as shown in FIG. 11, an average value and a standard deviation value generated when registering each registered image specified as a verification target are used.
例えば、登録画像AIM(1)が照合対象として特定された場合、平均値μ1、標準偏差値σ1を基に、照合画像RIMとのマハラノビス距離を生成する。 For example, when the registered image AIM (1) is specified as a verification target, the Mahalanobis distance from the verification image RIM is generated based on the average value μ1 and the standard deviation value σ1.
ステップST217において、制御回路18は、ステップST216で生成したマハラノビス距離が、予め設定された閾値よりも大きいか否か判断する。閾値よりも大きいと判断した場合にステップST220の処理に進む。一方、閾値以下である判断した場合にステップST218の処理に進む。
In step ST217, the
ステップST218において、制御回路18は、閾値以下と判断した場合に、ステップST215で照合対象として特定したN個の登録画像AIM全てに照合処理を行ったか否かを判断し、判断の結果、
特定した全てのN個の登録画像AIMに照合処理を施していないと判断した場合に、ステップST216の処理に戻り、次の照合対象の登録画像AIMに対して前述と同様に照合処理を行う。一方、制御回路18は、特定した全てのN個の登録画像AIMに照合処理を施したと判断した場合に、ステップST219の処理に進む。
In step ST218, when the
When it is determined that no matching process has been performed on all the specified N registered images AIM, the process returns to the process of step ST216, and the matching process is performed on the next registered image AIM to be collated in the same manner as described above. On the other hand, if the
ステップST219において、制御回路18は、照合対象として特定した全ての登録画像AIMに対して照合処理が終わっていると判断した場合に、照合画像RIMと登録画像AIMとが一致しないと判断する。
In step ST219, the
ステップST220において、制御回路18は、閾値を超えている場合は検索対象として特定された登録画像AIMと照合画像RIMとが一致したと判断し、例えば動作処理部19に所定処理を行わせる。
例えば本発明に係る照合装置1をセキュリティ分野における静脈パターン照合装置に応用した場合には、制御回路18は、動作処理部19により電子錠を解除させる等の処理を行わせる。
In step ST220, if the threshold value is exceeded, the
For example, when the
以上、説明したように、相関値の度数分布パターンの平均値μと標準偏差値σを基に、相関値を正規化するマハラノビス距離を用いて照合処理を行うので、より高精度に照合処理を行うことができる。 As described above, since the matching process is performed using the Mahalanobis distance that normalizes the correlation value based on the average value μ and the standard deviation value σ of the frequency distribution pattern of the correlation value, the matching process is performed with higher accuracy. It can be carried out.
また、ハフ変換処理を施した登録画像AIMや照合画像RIM、基準画像BI1等を基に各相関値を生成したので、線形状パターンを含む画像を照合する場合に、より高精度に照合処理を行うことができる。 In addition, since each correlation value is generated based on the registered image AIM, the collation image RIM, the reference image BI1, etc. that have undergone the Hough transform process, the collation process can be performed with higher accuracy when collating images including line shape patterns. It can be carried out.
また、入力された被照合画像とデータベース11に記憶された複数の登録画像との照合を行なう際に、入力された画像データから抽出した特徴量と予め用意された基準画像データから抽出された特徴量との相関度を算出し、データベース内に格納されている各画像データと基準画像データによって同様に算出された相関度とを比較して、相関度が近い画像データのみ照合処理を行なうことにより、データベースに格納された全画像データと逐次照合処理を行なう場合に比べ、処理時間を大幅に短縮することが可能となる。 Further, when collating the input image to be collated with a plurality of registered images stored in the database 11, the feature amount extracted from the input image data and the feature extracted from reference image data prepared in advance are used. By calculating the degree of correlation with the quantity, comparing each image data stored in the database with the degree of correlation calculated in the same way with the reference image data, and performing the matching process only on image data with a close degree of correlation The processing time can be greatly reduced as compared with the case where sequential verification processing is performed with all the image data stored in the database.
なお、本発明は本実施形態に限られるものではなく、任意好適な改変が可能である。
例えば、本実施形態では、2個の基準画像BI1,BI2を用いて、照合処理時に階層的に照合に用いる登録画像を特定したが、この形態に限られるものではない。基準画像を3つ以上用いて照合対象の登録画像を絞り込んでもよいし、基準画像を1つとする構成としてもよい。
Note that the present invention is not limited to this embodiment, and any suitable modification can be made.
For example, in the present embodiment, the registered images used for collation are identified hierarchically during the collation process using the two reference images BI1 and BI2, but the present invention is not limited to this mode. The registered images to be collated may be narrowed down by using three or more reference images, or a single reference image may be used.
また、照合の順番を決定する指標としてマハラノビス距離を導入したが、マハラノビス距離を算出する前段の相関値(類似度)の段階で照合の順位を決定してもよい。 Further, although the Mahalanobis distance is introduced as an index for determining the collation order, the collation order may be determined at the previous correlation value (similarity) stage for calculating the Mahalanobis distance.
また、本実施形態では、相関値として、予め規定された複数の参照画像と基準画像との間の複数の相関値に基づいて、第1および第2の相関値を正規化して生成されるマハラノビス距離を用いたが、この形態に限られるものではない。 In the present embodiment, the Mahalanobis generated by normalizing the first and second correlation values based on a plurality of correlation values between a plurality of reference images defined in advance and a standard image as the correlation value. Although the distance is used, it is not limited to this form.
また、本実施形態では制御回路18がプログラムPRGを実行することにより本発明に係る機能を実現したが、この形態に限られるものではない。例えば、ハードワイヤドにより実現してもよい。
また、上述した実施形態を組み合わせてもよい。
In the present embodiment, the function according to the present invention is realized by the
Moreover, you may combine embodiment mentioned above.
本発明は、画像を照合する照合システムに適用できる。 The present invention can be applied to a collation system that collates images.
1…照合装置、10…画像入力部、11…データベース、12…位置合わせ処理部、13…ハフ(Hough)変換処理部、14…マスク処理部、15…マハラノビス距離(相関値)演算部、16…検索順位決定部、17…メモリ、18…制御回路(CPU)、19…動作処理部。
DESCRIPTION OF
Claims (8)
基準画像と被照合画像との間の第1の相関値を生成する第1のステップと、
前記基準画像と複数の登録画像それぞれとの間の複数の第2の相関値であって、前記第1のステップよりも前に生成された前記第2の相関値、および前記第1のステップにより生成された前記第1の相関値に基づいて、前記複数の登録画像のうち前記被照合画像との照合に用いる一部の前記登録画像を特定し、または前記登録画像の前記照合に用いる順番を決定する第2のステップと
を有する照合方法。 A computer verification method for image verification,
A first step of generating a first correlation value between the reference image and the image to be matched;
A plurality of second correlation values between the reference image and each of the plurality of registered images, the second correlation values generated before the first step, and the first step. Based on the generated first correlation value, a part of the registered images used for collation with the image to be collated among the plurality of registered images is specified, or an order used for the collation of the registered images is determined. A verification method comprising: a second step of determining.
請求項1に記載の照合方法。 The second step is used for the collation among the plurality of registered images corresponding to the second correlation value by a set number in ascending order of difference between the first correlation value and the second correlation value. The collation method according to claim 1, wherein a part of the registered images is specified.
照合時に、規定された条件を満たしたことを条件に、前記条件を満たした登録画像以降の順番の前記登録画像について前記照合を行わない
請求項1記載の照合方法。 The second step determines the order of the registered images used for the collation in ascending order of difference between the first correlation value and the second correlation value generated in the first step,
The collation method according to claim 1, wherein the collation is not performed on the registered images in the order after the registered image satisfying the condition, on condition that a prescribed condition is satisfied at the time of collation.
前記第2のステップにおいて、前記ハフ変換処理が施された前記基準画像と複数の登録画像それぞれとの間の複数の第2の相関値を前記第1ステップよりも前に生成する
請求項1に記載の照合方法。 In the first step, a first correlation value between the reference image subjected to the Hough transform process and the image to be verified is generated,
In the second step, a plurality of second correlation values between the reference image subjected to the Hough transform process and a plurality of registered images are generated before the first step. The verification method described.
請求項1に記載の照合方法。 The matching method according to claim 1, wherein the first and second correlation values are normalized based on a plurality of correlation values between a plurality of predefined reference images and the reference image.
請求項1に記載の照合方法。 Generating a plurality of correlation values between the first and second reference images defined in advance and each of the plurality of registered images, and generating the plurality of correlation values and the step generated by the first step The partial image used for collation with the image to be collated among the plurality of registered images is specified based on a first correlation value, or an order used for the collation of the registered images is determined. The collation method according to 1.
を有するコンピュータ。 Based on the first correlation value between the reference image and the image to be collated and the plurality of second correlation values between the reference image and each of the plurality of registered images, the subject image of the plurality of registered images. A computer having control means for identifying a part of the registered images used for collation with a collation image or determining an order used for collation of the registration images.
基準画像と照合画像との間の第1の相関値を生成する第1のステップと、
前記基準画像と複数の登録画像それぞれとの間の複数の第2の相関値であって、前記第1のステップよりも前に生成された前記第2の相関値、および前記第1のステップにより生成された前記第1の相関値に基づいて、前記複数の登録画像のうち前記照合に用いる一部の前記登録画像を特定し、または前記照合に用いる前記登録画像の順番を決定する第2のステップと
を有するプログラム。
A program executed on a computer that performs image matching,
A first step of generating a first correlation value between the reference image and the collation image;
A plurality of second correlation values between the reference image and each of the plurality of registered images, the second correlation values generated before the first step, and the first step. Based on the generated first correlation value, a part of the plurality of registered images is used to identify a part of the registered images used for the collation or to determine the order of the registered images used for the collation A program having steps.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004338337A JP4622477B2 (en) | 2004-11-24 | 2004-11-24 | Collation method, computer, and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004338337A JP4622477B2 (en) | 2004-11-24 | 2004-11-24 | Collation method, computer, and program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2006146737A true JP2006146737A (en) | 2006-06-08 |
JP4622477B2 JP4622477B2 (en) | 2011-02-02 |
Family
ID=36626320
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004338337A Expired - Fee Related JP4622477B2 (en) | 2004-11-24 | 2004-11-24 | Collation method, computer, and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4622477B2 (en) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008242638A (en) * | 2007-03-26 | 2008-10-09 | Seiko Epson Corp | Image discrimination method, image discrimination device, and program |
JP2008287439A (en) * | 2007-05-16 | 2008-11-27 | Canon Inc | Image processing device and image retrieval method |
WO2021199123A1 (en) * | 2020-03-30 | 2021-10-07 | 日本電気株式会社 | Individual identification system, individual identification method, and computer-readable recording medium |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH048392A (en) * | 1990-04-26 | 1992-01-13 | Juki Corp | Lower looper thread guard device in overlock sewing machine |
-
2004
- 2004-11-24 JP JP2004338337A patent/JP4622477B2/en not_active Expired - Fee Related
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH048392A (en) * | 1990-04-26 | 1992-01-13 | Juki Corp | Lower looper thread guard device in overlock sewing machine |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008242638A (en) * | 2007-03-26 | 2008-10-09 | Seiko Epson Corp | Image discrimination method, image discrimination device, and program |
JP2008287439A (en) * | 2007-05-16 | 2008-11-27 | Canon Inc | Image processing device and image retrieval method |
US8170379B2 (en) | 2007-05-16 | 2012-05-01 | Canon Kabushiki Kaisha | Image processing apparatus and image retrieval method |
WO2021199123A1 (en) * | 2020-03-30 | 2021-10-07 | 日本電気株式会社 | Individual identification system, individual identification method, and computer-readable recording medium |
JPWO2021199123A1 (en) * | 2020-03-30 | 2021-10-07 | ||
JP7311033B2 (en) | 2020-03-30 | 2023-07-19 | 日本電気株式会社 | Individual identification system, individual identification method, and program |
Also Published As
Publication number | Publication date |
---|---|
JP4622477B2 (en) | 2011-02-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10509943B2 (en) | Method of processing fingerprint information | |
KR101829784B1 (en) | Fingerprint authentication using stitch and cut | |
US8908934B2 (en) | Fingerprint recognition for low computing power applications | |
CN107209848B (en) | System and method for personal identification based on multimodal biometric information | |
JP5798691B2 (en) | Face recognition method, apparatus, and computer-readable recording medium for executing the method | |
JP6840973B2 (en) | Collation method, collation device, collation program | |
TW201528030A (en) | System and method for biometric authentication in connection with camera-equipped devices | |
JP2019527868A (en) | Biological feature identification apparatus and method, and biological feature template registration method | |
CN108875549B (en) | Image recognition method, device, system and computer storage medium | |
JP6908843B2 (en) | Image processing equipment, image processing method, and image processing program | |
KR102558736B1 (en) | Method and apparatus for recognizing finger print | |
JP4622477B2 (en) | Collation method, computer, and program | |
JP2007164401A (en) | Solid body registration device, solid body authentication device, solid body authentication system and solid body authentication method | |
US10133471B2 (en) | Biometric shortcuts | |
TWI459309B (en) | System and method for identifying irises | |
KR100456463B1 (en) | A Hybrid Fingerprint Verification Method using Global and Local Features | |
JP2909136B2 (en) | Fingerprint image processing device | |
Al Taee et al. | A new approach for fingerprint authentication in biometric systems using BRISK algorithm | |
JP2002358524A (en) | Device and method for collating fingerprint | |
TWI590170B (en) | Iterative matching method and system for partial fingerprint verification | |
JP2007179267A (en) | Pattern matching device | |
JP2010118068A (en) | Biometrics authentication apparatus, biometrics authentication method, blood-vessel information storing apparatus and blood-vessel information storing method | |
JP5729029B2 (en) | Identification device and identification method | |
WO2004074978A2 (en) | Methods, computer program products and devices for check of identity | |
JPWO2022014062A5 (en) | Value transfer device, value transfer system, value transfer method and value transfer program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20071116 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20100624 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100629 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100823 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20101005 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20101018 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 4622477 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131112 Year of fee payment: 3 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |