JP2007164816A - 画像中のパターンを自動的に位置付けるベクトル相関システム - Google Patents

画像中のパターンを自動的に位置付けるベクトル相関システム Download PDF

Info

Publication number
JP2007164816A
JP2007164816A JP2007037104A JP2007037104A JP2007164816A JP 2007164816 A JP2007164816 A JP 2007164816A JP 2007037104 A JP2007037104 A JP 2007037104A JP 2007037104 A JP2007037104 A JP 2007037104A JP 2007164816 A JP2007164816 A JP 2007164816A
Authority
JP
Japan
Prior art keywords
image
template
correlation
vector
ranging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007037104A
Other languages
English (en)
Other versions
JP4494427B2 (ja
Inventor
Stephen S Wilson
エス ウイルソン、ステファン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Applied Intelligent Systems Inc
Original Assignee
Applied Intelligent Systems Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Applied Intelligent Systems Inc filed Critical Applied Intelligent Systems Inc
Publication of JP2007164816A publication Critical patent/JP2007164816A/ja
Application granted granted Critical
Publication of JP4494427B2 publication Critical patent/JP4494427B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/751Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
    • G06V10/7515Shifting the patterns to accommodate for positional errors

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Databases & Information Systems (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Image Analysis (AREA)

Abstract

【課題】 処理量が小さく、きめ細かい探索を可能とする。
【解決手段】 画像中で位置づけるべき対象物の重要なエッジのみをモデル化した座標点の散在的なセットからテンプレートが考案されている。画像中の対象物の位置の見積もりがより正確となるように、異なるデンプレートが動的に再構成される。これにより、エッジ検出とパターン探索とが1つの処理に結合された、画像及びテンプレート相関とベクトル相関とを複合した接近法に関し、大きな計算装置を必要とすることなく多大な柔軟性を提供する
【選択図】図3A

Description

本発明は、画像をデジタル処理するためのシステムに関し、とりわけエッジで特徴付けられるパターンを自動的に位置付けるためのシステムに関する。特別に構成されたテンプレートが画像中で様々な点の周りを変位させられ、パターンを位置付ける。
電子デジタル処理ハードウェアにおいて、画像は離散的な記憶装置に記憶される。画像は、通常数値からなる配列に分割され、各記憶位置が固有の空間座標点に対応し、画素(ピクセル)と呼ばれる記憶位置内の値がその座標点での画像の階調に対応する。図1Aは、各画素座標点における階調が値で与えられている画像中の対象物の例を示す。
画像とテンプレートの相関
コンピュータ画像システムにおいて画像中の対象物を自動的に位置づける一般的な技術の1つに、相関或いはコンボリューションを用いるものがある。画像相関法には、コンボリューション、最小平均2乗誤差、最小平均絶対誤差を含む様々な種類のものがある。相関法の定義には、位置付けられるべき対象物と同様の形状を有する個別の小さな画像であるテンプレートすなわち核の決定と使用とが必要とされる。図1Bは、図1Aに示す対象物と同様の形状をしたデンプレートを示す。対象物と同様に、テンブレートは各点での階調値を有する固有の座標点で表される。テンプレートは、画像中の関連領域の周囲でその位置を選択的に変位されて動かされる。画像中の新たなテンプレートの位置のそれぞれにおいて、共通の空間座標点における各画像画素に対応する値を有する各テンプレート画素の値を求めるために、積和が計算される。図1Cは、画像上で移動された図1Bのテンプレートの一位置を示す。この場合、変位に重なりがなく、積の合計は0である。相関或いはコンボリューションの計算出力は、テンプレートの形状が画像中のパターンの形状と最もマッチする位置において最大となる。図1Dは、画像を横断するテンプレートのすべての可能な相関を示す。数値はかなり大きくなるため、図1Dは、相関のおおよその相対的な指標のみを陰影の濃度によって示す。
離散2次元のコンボリューションの公式は、数式(1)で与えられる。
Figure 2007164816

ここで、Iは画像、Kは核、x及びyは空間座標点で定義される画像座標である。uとvとの総和は、テンプレート上の範囲となる。実際上、テンプレートは、位置が決定された対象物を含む画像よりも小さいものとなる。
正規化相関は、テンプレートの各要素の値に一定の階調因子が乗じられ、一定のオフセットが加算されることを除いて、相関に類似する方法として知られている。各テンプレート変位において、階調因子とオフセットとは、画像位置のそれぞれにおけるテンプレートの相関における誤差が最小となるように独立して調整される。テンプレートマッチングにおける正規化相関は、VISION '87 Conference Proceedingの5-33〜5-55ページにあるWillian Silverによる"Alignment and Gauging Using Normalized Correlation Search"と題された記事に詳細に述べられており、引用して具体化する。
最小平均2乗誤差法では、各テンプレートの点が対応する画像の点から減算され、それぞれの差が2乗される。そして、すべての差の平均が計算される。最小2乗誤差の公式は、数式(2)で与えられる。
Figure 2007164816

ここで、Nは核中の画素の数である。最小平均2乗誤差の計算出力は、テンブレートの形状が画像中のパターンの形状と最もマッチする位置において最小となる。最小平均絶対誤差法では、各テンプレートの点が対応する画素の点から減算され、それぞれの差の絶対値が計算される。そしてすべての差の平均が計算される。最小絶対誤差の公式は、数式(3)で与えられる。
Figure 2007164816
最小絶対誤差の計算結果も、テンプレートの形状が画像中のパターンの形状と最もマッチする位置において最小となる。上記の技術は、それ自体が濃淡画像であるテンプレートを、座標位置が関連する画像の範囲内にある対象物を含む対応する濃淡画像の周囲で、その位置を変位させるという意味において実質的に同一である。各位置において、隣接する画像の画素の値と共通の座標点において対応するテンプレートの値とにある関数が適用される。その結果は、座標点での各画素が、デンブレートがその点における画像中の対象物とどれくらい一致するかを示す1つの数値となる別の画像となる。
2値ベクトル相関
ベクトル相関或いはコンボリューションは、上述した相関法の代わりとなる接近法を提供するものである。ベクトル相関では、画像と選択されたテンプレートとは、ベクトルである画素によって構成される。2値ベクトル相関の理論は、IEEE Transactions on Systems, Man, and Cybernetics, Nov./Dec., 1989, vol.19, no.6の16 36~16 44ページにあるS. S. Wilsonによる"Vector Morphology and Iconic Neural Networks"と題された論文に述べられており、引用して具体化する。同様の技術が、19 91年Wiley‐Interscience刊のNeural and Intelligent Systems Integrationの135〜160ページにあるS. S. Wilsonによる"Teaching network connections for real‐time object recognition"と題された論文にさらに述べられている。簡単にいえば、2値ベクトル相関は、濃淡画像をいくつかの2値画像に変容させることからなる。ここで、2値画像の合成画像は、ベクトル画像中の各画素が2値画像の1つからそれぞれなるいくつかの構成要素を有するという意味でのベクトルで表される。次に、パターンを認識するために、ベクトルテンプレートが定義される。ベクトルテンプレートも、同数のベクトル画像としての構成要素からなる。
ベクトルテンプレートの位置は、画像中の関連領域の周囲でその位置を変位され、動かされる。各位置においてンテンプレート中のベクトル画素と、対応する座標点での画像中のベクトル画素とを求めるために内部積(すなわちドット積)の合計が計算される。数学的な観点では、離散2次元ベクトルコンボリューションの公式は、(4)で与えられる。
Figure 2007164816

ここで、Jはベクトル画像、Kはベクトル核、x及びyは画像座標である。uとvとの総和は、テンプレート上の範囲となる。
以下、ベクトル相関の技術を詳細に示す。画像を入力すると、最初に、水平有限差分と呼ばれる異なる画像を、入力画像の画素の値から右側に最小距離で変位する隣接画素の値を減算することによって形成する。結果の画像は、際だった垂直エッジがある座標点の周囲で正または負の大きな値を含むものとなる。水平有限差分画像中の正の値はイーストエッジと呼ばれ、左から右に向かって濃度が減少するエッジであることを示す。水平有限差分画像中の負の値はウエストエッジと呼ばれ、左から右に向かって濃度が増加するエッジであることを示す。
2番目に、垂直有限差分と呼ばれる異なる画像を、入力画像の画素の値から上方に最小距離で変位する隣接画素の値を減算することによって形成する。結果の画像は、際だった水平エッジがある座標点の周囲で正または負の大きな値を含むものとなる。垂直有限差分画像中の正の値はノースエッジと呼ばれ、上方に向かって濃度が減少するエッジであることを示す。垂直有限差分画像中の負の値はサウスエッジと呼ばれ、下方に向かって濃度が増加するエッジであることを示す。
2値ベクトル相関では3番目に、各画素が4つの磁針方向に対応するN、S、E及びWとラベルされた4つの2進数値からなるベクトルを含む2値ベクトル画像を形成する。2進数Nは、垂直有限差分を閾値と呼ばれる小さな正の数と比較し、それらの値が閾値を超える場合には2進数の1を、それ以外は2進数の0を割り当てることによって計算される。2進数Sは、垂直有限差分を負の閾値と比較し、それらの値が閾値より小さい場合には2進数の1を、それ以外は2進数の0を割り当てることによって計算される。EとWの2値要素は、水平有限差分画像を用いて同様の方法で計算される。
最後に4番目として、ベクトルテンプレートの位置を、原画像の関連領域の範囲内で変位させる。画像中の新たな位置のそれぞれで、内部積の合計が、対応する座標点で原画像中の各ベクトル画素に対応するデンプレート中の各ベクトル画素の値を求めるために計算される。
図2Aは、水平有限差分と垂直有限差分との両方を用いたエッジ検出後のベクトル画像の例である。画像中での各座標点がベクトルとして描かれているが、0でない要素のラベルのみを描いて簡略化している。実際には2つの要素が、N及びWなどの0でないものとすることはできるが、図2Aの例では示されていない。図2Bは、水平有限差分画像と垂直有限差分画像の両方と所定の閾値とを用いて形成された、対応するベクトルテンプレートである。図2Bのテンプレートが図2Aの画像の周囲でその位置を移動されたとき、図2Cにおおよそ示す相関結果が得られるのは明らかである。
ベクトル相関の利点
ベクトル相関は、パターンのエッジとの相関であり、非常に正確である。図2Cを参照すると、画像中のパターンの正確な位置からのテンプレートのわずかなオフセットは、テンプレートのエッジのほとんどがパターンと完全にミスコンタクトし、相関が得られないことを意味している。しかしながら、図1Dに示すように、通常の相関が用いられた場合には、画像がテンプレートと部分的にコンタクトする広い領域がある。
ベクトル相関は、パターンのエッジがひどく劣化していない限り、劣化した画像中のパターンを位置させることができる。劣化した画像は、関連するパターンを取り囲んで大きく乱れ、或いはパターン中で断片を失っている。通常の相関では、パターンを取り囲んでいる雑音から区別することができない。通常の相関では、テンプレートの画像が使用される。このため、対象物の視覚的特質がテンプレートとして用いられている対象物と実質的に異なれば、テンプレートマッチングは正確な結果を与えることができない。ベクトル相関は、対象物の重要なエッジ形状のみが対象物を識別するために用いられるので、通常の相関よりも優れている。
ベクトル相関の問題点
ベクトル相関においては、ベクトル画像を形成して処理する特別なステップのために、徹底的な計算がされる。第1に、有限差分と算出されたエッジとを記憶するための記憶装置の必要量が増加する。第2に、探索すべきパターンを特徴付けるために使用されるテンブレートはベクトルであり、定義するのがより複雑となる。第3に、斜めのエッジは、正確に表されない。ノース方向とイースト方向とに斜めとなっているエッジは、同一の点に表されたノース及びイーストのエッジの両方を有するデンプレートによって表されなければならない。テンプレート中の斜めの点は、取り扱いがより困難になる。最後に、この方法は、高性能の並列プロセッサに限定される。
1または2のユニットを取り囲む小さな有限差分座標変位を使用すると、非常に狭小な有限差分画像のエッジが生成される。相関デンプレートがベクトル画像上で動かされると、狭小なエッジは相関に強度の局所性を与え、画像へのテンプレートのパターンマッチングに高い正確性をもたらす。しかしながら、パターンの位置は未知なので、一般に、パターンが探索されるまでに、テンプレートは多くの位置上を移動されなければならない。このことが、きめ細かい探索として引用される。この場合の未知のパターンは、デンプレートがどの位置でもフィットしないようにわずかに回転させられれば、失われてしまう。
有限差分は、単純な画像にはより大きく作成される。たとえば、10のユニットを取り囲む有限差分座標変位は、10画素の幅で探索すべき回転されたパターンを許すエッジを導く。さらに、パターンは、水平及び垂直方向の両方で10ユニットまでを取り囲むステップにおいて徹底的にではなく、粗い格子内で画像上でテンプレートをサンプリングすることによって探索される。この例では、探索は10の2乗、すなわち100倍速くなる。しかしながら、パターンが探索された場合、正確性に乏しいものとなる。
妥協点として、エッジ検出は、粗く探索してパターンのおおよその位置を得、きめ細かい探索でパターンを合わせることが行われる。大きな有限差分で1回、小さな有限差分で1回の計2回行わなければならない。大容量の記憶装置と高性能の並列プロセッサとが、依然として必要とされる。
本発明は、画像中で対象物を自動的に位置させるシステムを教示する。画像は、それぞれ既知の階調値と既知の座標点とを有する複数の画像画素によって定義される。
本発明は、1つの処理に結合されたエッジ検出とパターン探索との組み合わせを用い、計算の複雑性が限られた範囲で、非常な柔軟性を提供する。最初に、対象物の見積もりに対応するマニュアルデンプレートが決定される。マニュアルテンプレートは、座標点と対応するエッジ方向のセットからなるベクトルの散在的なセットから構成されるアブストラクトテンプレートに変換される。各座標点は、マニュアルテンプレートのエッジ上にあり、対応するエッジ方向は、その座標点におけるエッジと垂直にその座標点を通過する。次に、アブストラクトテンプレートは、レンジングテンプレートに変換される。レンジングデンブレートは。対応するエッジ方向に沿ったアブストラクトテンプレートの各ベクトルの座標点から等間隔で配置されるように定義された座標点の対から構成される。正の座標点は、予め選択された変位の正の値に対応し、負の座標点は、同様の変位の負の値に対応する。レンジングテンプレートは、画像の範囲内で複数の既知の座標点位置のそれぞれに変位させられる。各位置において、レンジングテンプレートは画像と相関される。相関が向上し、画像の範囲での対象物の位置の見積もりがより正確となるように、異なるアブストラクト及びレンジングテンプレートが動的に再構成され、回転させられる。ベクトル相関の利点は保持されるが、エッジ検出が削減され、限られた数のみの座標点が必要とされるので、計算の負荷が削減される。エッジ検出した画像が記憶されないという点において、計算に要求される記憶装置が少なくなる。
図3A〜図3Dに図示するように、本発明は、画像22内における対象物20の座標点位置を位置づけるために用いられる自動画像処理システムに関する。図示した画像22は、複数の画像画素からなる2次元のものである。各画像画素は、それぞれ既知の階調値と既知の座標点とを有する。座標点は、水平方向のx軸と垂直方向のy軸とによって定義される。このシステムは、最終的に画像22内における対象物20の座標点を決定する。
最初に、システムは、エッジ26によって境界を定義したポシブルテンプレート24をマニュアル操作で決定する。図示するように、テンプレート24は、対象物と可能な限り一致する形状及び大きさに設定される。テンプレート24が定義されると、コンピュータの記憶位置に容易に格納されるN個のベクトル(u,V,θ)、(u,v,θ)、…(u,v,θ)によって定義されるアブストラクトテンプレート28に変換される。
図3Aに図式的に、及び図3Bにテーブルの形態で示すように、A〜Iの各ベクトルは、それぞれテンプレートのエッジ26の水平及び垂直座標及び水平座標点(u,v)となる座標点u,vでの組で与えられる。座標点は、以下に述べるように、画像20の座標系にマップすることができる。各座標点と関連付けて、座標点の位置で対応するエッジ26に直交する対応する矢印θで示すエッジ方向がある。各矢印の末端はテンプレート24の境界より内側あり、−方、各矢印の先端はテンプレートの外側にある。画像22のx及びy軸に沿った対象物20の位置の決定を同等に正確にするため、マニュアルテンプレート24の実質的に垂直及び実質的に水平な範囲に沿ってNとほぼ同数のベクトルがある。同一のベクトルが、水平及び垂直成分の両方を同時に有していてもよい。図3Aに示すように、3つのベクトルが各水平及び垂直範囲に存在し、1つ以上のエッジを含む。たとえば、これら3つのエッジは、図3Aの最右の垂直範囲を含む。
計算の複雑性を最小にするため、限られた数だけのエッジの点がベクトル(u,v,θ)に変換されることが必要とされる。しかしながら、エッジ間に十分に大きな角度差がない隣接するエッジでない限り、少なくとも1つのベクトルがマニュアル決定テンプレートのそれぞれ異なるエッジに用いられることが望ましい。図3Aに示すように、エッジ26のそれぞれは、アブストラクトテンプレート28の一部分からなる少なくとも1つのベクトルを含む。
テンプレート24がアブストラクトテンプレート28のベクトルに変換されると、図3Cに示すように、レンジングテンプレート30が形成される。レンジングテンプレートは、アブストラクトテンプレート28の各ベクトル(u,v,θ)用の座標点(up,vp)及び(un,vn)を用いて定義される。点(up,vp)は、方向θに沿った正の変位δによって生成され、点(un,vn)は、方向θに沿った負の変位δによって生成される。前者の座標点は、マニュアル決定テンプレート24のエッジ26で定義される境界の外側に存在し、一方、後者の座標点は、境界の内側に存在する。数学的には、(up,vp)=(u+δcosθ,v+δsinθ)及び(un,vn)=(u−δcosθ,v−δsinθ)である。しかしながら、レンジングテンプレート30が用いられる前に、テンプレートの座標点に重みを割り当てなければならない。たとえば、例示した実施の形態では、正の変位を有する点(up,vp)用の重みは+1であり、負の変位を有する点(un,vn)用の重みは−1である。小さな白四角は負の重みを有するレンジングテンプレートの座標点を表し、小さな黒四角は正の重みを有するレンジングテンプレートの座標点を表す。レンジングテンプレート30における非常に散在した座標点の組み合わせによる+1または−1の重みを有することによって、相関の公式は非常に単純となる。
Figure 2007164816

ここで、Iは画像22、x及びyは画像の座標点、u及びvは上記で定義したレンジングデンプレート30の座標点である。この公式での表記は、正の項P=I(x−up,y−vp)及び負の項N=I(x−un,y−vn)を代入することによって簡略化される。
Figure 2007164816

変位δが大きければ計算速度は向上するが、少なくとも1つのベクトルを有するテンプレート24のうちのエッジの最小サイズの半分程度よりは大きくならない。しかしながら、計算結果が不正確となりうる。図3Cに例示するように、アブストラクトテンプレート28のベクトルC及びDを用いて決定した座標点(un,vn)は、互いに非常に隣接したものとなる。変位δがさらに大きくなれば、座標点が互いに通り抜け、望ましくない結果となる。たとえば、アブストラクトテンプレート28では、最短のサイズは10ユニット程度の長さとなる。変位δが3ユニットに設定されると、結果として得られたレンジングテンプレート30は、3ユニットまでの範囲で対象物の中心から外れていても、対象物20のパターンを検出することができる。このため、対象物20は、6×6格子を用いて散在的に探索することによって探し出すことができる。しかしながら、画像22における対象物20の位置は、±3画素以上正確には探索されない。図3Dは、テンプレートが際だって中心から外れ、対象物20が際だって回転している場合でも、レンジングテンプレート30と画像22内の対象物20とが一致することを示す。
図4Aは、回転されていない対象物のx軸に沿ったレンジングテンプレートの動きの関数として数式(6)を用いた相関のプロファイルである。レンジングテンプレート30は変位δ=3を有するので、最大相関は、6ユニットの幅を有する。本発明が使用される産業環境における実際の対象物の不規則でわずかにかすんだエッジは、0相関となるように最大相関から徐々に減少する結果となる。
図4Bを参照すると、他のレンジングテンプレート30’が変位δ=1ユニットを選択することによって生成される。得られたレンジングテンプレート30’は、テンプレートが1ユニット以下の範囲で対象物20の中心から外れている場合のみに、画像22中の対象物20を検出することができる。このため、対象物20は、入力画像22中のすべての位置を探索することによってのみ探し出される。しかしながら、対象物20の中心は、1ユニットの正確性で探し出すことができる。図4Cは、水平方向x軸に沿ってδ=1であるレンジングテンプレート30’の動きとして数式(6)を用いた相関のプロファイルである。産業環境での画像にとって、相関プロファイルは、相関のピークについて放物線を逆にしたものとほぼ同様になる。最もフィットする放物線の数学的な中心が画素のサイズよりもかなり小さいほどの正確性を導けることがわかるであろう。
図4A及び4Cに示すプロファイルは、公式(6)でのベクトル相関の公式が、正規化相関の方法に従って変化しうることを示している。この発明の正規化公式は数式(7)で示される。
Figure 2007164816

画像22中の画素を示す各座標点の照度に任意の定数が乗算され、他の任意の定数が画素を表す各座標点の値に加算されるのであれば、相関corr’(x,y)の結果が変化しないことは、当技術分野の技術者には容易に立証できる。このため、正規化相関の公式は、照明レベル及びコントラストに従属しない相関の値を生成する。さらに、相関の値は、完全相関の1以下で、質の悪い相関の0以上となる。
本発明のシステムにおける動的処理を、図5のフローチャートに示す。ここでは、画像22中で位置付けられる対象物20の水平及び垂直方向の最小長は、16ユニット程度であるものと仮定する。変位δは、上記した理由により16ユニットの半分の8ユニットの最大値が設定される。最初に、対象物22は回転されていないものと仮定する。従って、θTiの値は、0に等しくなる。しかしながら、回転Δθの可能な範囲の正の変化は、後に使用する所定の値に設定される。ここでは、8に設定される。その後、位置52においてポシブルテンプレート24’がマニュアル操作で決定される(52)。このマニュアルテンプレートは、上述したように、位置54において簡略化したベクトル表記を用いてアブストラクトテンプレート28’に変換される。次に、ベクトル表記の形態のアブストラクトデンプレート28’は、位置56においてレンジングテンプレート30’’に変換される。位置58では、レンジングデンプレート30’’は、画像22の範囲内での新たな位置に動かされる。レンジングデンプレート30’’のサイズは、8ユニットの値をとるδの使用を含むので、レンジングテンプレートは16×16探索格子内の画像上で動かされ、位置60においてそれぞれの新しい位置での正規化相関が計算される。新たな位置のそれぞれにおいて正規化ベクトル相関が計算されると、位置62においてその値が予め設定された閾値と比較される。ここでは、この値は0.5に設定されている。この値が0.5よりも小さい場合には、位置64に示すように、すべての画像位置が試行されていない限り、レンジングテンプレート30’’は、画像22の範囲で新たな探索範囲に動かされる。
すべての画像位置が試行され、受け入れ可能な最小の閾値に達しない場合には、対象物20が画像22中になかったとして、位置65において正確に対象物が探索されないとことをシステムが応答することも可能である。しかしながら、システムが対象物を探索できなくても、対象物が実際に存在することが確証できる場合には、点線矢印66,68及び70で示すように、3つの選択肢をとることができる。典型としては、位置56において変位δにより大きな値を選択する。また、位置54においてマニュアルテンプレート24からアブストラクトテンプレート28’への変換により多くのベクトルを用いてもよい。さらに、位置52において異なるマニュアルデンプレート24をマニュアル操作で選択してもよい。その後、位置62で閾値が満足させられるまで、正規化されたベクトル表記が画像22中の異なる位置のそれぞれで再び計算される。位置62で正規化相関の最小の閾値が満足すると、画像中22中の対象物20の座標位置に最もよく対応して求められた相関における画像22の範囲でのレンジングテンプレート30’’の位置x、yを保存する。そして、位置76で変位δを半分に削減し、対象物20の回転可能範囲△θTを半分に削減する。これにより、上記に与えられた情報を使用すると、δ及び△θは、いずれも4となる。θTIが0の時、対象物22の回転角度に対応するθの値は、−4となる。これら新しい値を用いて、位置78では、2次元空間において座標点を回転するための標準公式に従ってアブストラクトデンプレート28’が新たなアブストラクトテンプレート28’’に変換される。
Figure 2007164816

Figure 2007164816

Figure 2007164816
アブストラクトテンプレートにおけるエッジ方向の角度も、回転させられる。そして、図5のフローチャートの位置80に示すように、新たなアブストラクトテンプレート28’’が新たなしンジングテンプレート30’’’に変換される。レンジングテンプレート30’’のための16×16の最初の格子サイズと異なり、レンジングテンブレート30’’’のための格子サイズは、半分すなわち8×8となる。フローチャートの位置82に示すように、最初に記憶された位置x、yの周囲で異なる位置にレンジングテンプレート30’’’を動かすことによって、最大正規化相関は、記憶すべき最大正規化相関に対応する最良の位置を用いたx、yのより正確な仕様とθの値とを決定することができる。位置84に示すように、次に、直前のθTの値を取得し、位置76で決定した△θの値を加算することで、θを再計算する。フローチャートの位置86でθ≦θTi+△θTiが満たされている限り、位置78、80、82及び84のステップが繰り返される。こうして、ここでは、最大相関の値が、3つの異なるθTの値−4、0及び+4に対応する3つの異なる画像22中のレンジングデンプレートの位置x、y用として保存される。位置88では、保存された値のうちで最大相関δ=4を与えるθTが決定され、レンジングテンプレート30’’’による対象物22の対応する位置が決定され、x、y及びθTiとして保存される。変位δ=4であるデンプレート30’’の強度が最も強い相関の位置と角度とが、さらに小さい変位δ=2ユニットを有するレンジングテンプレート30’’’’を使用した新たな探索のための開始ポイントとなる。直前で最良だった角度から回転角度θT=−2、0及び+2度が、よりおおよその回転θT及び位置x、yを探索するために用いられる。より小さな変位と角度とがアブストラクトデンプレート28から新たなレンジングテンプレートを算出するために用いられ、変位δが所定の最小値となるまで同様の方法によって関連パターンの探索が続けられる。フローチャートの位置90に示す値は、1である。変位が1となると、本発明のシステムは、位置92に示すように、適切な回転角度θに対応する画像22中の対象物20の座標位置x、yを決定することを中止する。当技術分野における技術者であれば、多次元空間で関数の最大値を位置付けるための方法も、上記方法の一部と類似することがわかるであろう。多次元空間における勾配法は、1986年Cambridge University Press刊のW. Press, B Flannery, S. Teukolsky及びW. Vetterlingによる”Numerical Recipes the Art of Scientific Computing”の第10章に述べられており、引用して具体化する。
1つの処理でエッジ検出とパターン探索とを使用することにより、大変な柔軟性が与えられると共に、複雑なコンピュータ操作の必要性が削減される。このため、簡略化したベクトル表記を有するアブストラクトテンプレートを使用することにより、解像度の増加した画像22の周囲で異なる位置に動かすことができる広い範囲の互いに異なるレンジングテンプレートを動的に変化させて生成できるという利点がある。画像22中の対象物の位置及び回転角度を、各座標位置や最初にマニュアル操作で決定されたテンプレート24のエッジを含む各点の対応する階調を記憶することなく、所望の正確性で、高速に位置あわせすることができる。好ましくは、本発明のシステムは、当技術分野における技術者に公知の標準的なコンピュータハードウェア及びソフトウェアを用いて実行されるものとすることができる。画像22の対象物20は、陰極管線(CRT)から構成される通常のスクリーン上に表示されるものとすることができる。このシステムは、これらに限定されるものではないが、磁気テープ及びディスク、光学ドライブ、コンパクトディスクドライブ及び紙を含む様々な記憶媒体によってソフトウェアとして記憶させてもよい。本発明の好ましい実施の形態を開示した。しかしながら、当技術分野における通常の技術を有するものは、ある程度の変形がこの発明の教示の範囲に含まれることがわかるであろう。従って、以下の請求の範囲が、本発明の本来の範囲及び内容を決定するために検討されるべきである。
対象物の階調画像の例である。 図1Aの画像中の対象物の位置を探し出すためのデンプレートの例である。 図1Aの画像上で位置をずらされた図1Bのテンプレートの一位置を示す。 画像中の対象物と画像の周囲を移動させられるテンプレートとの相関のおおよその指標を陰影の濃度によって示す。 2値ベクトル画像の例である。 2値ベクトルテンプレートの例である。 2値ベクトル画像中の対象物と画像の周囲で移動された2値ベクトルテンプレートとのベクトル相関の結果を示す。 本発明にかかる簡略したベクトル形式に変換されたマニュアル決定テンプレートを示す。 図3Aのアブストラクトベクトルテンプレート用のテーブルを示す。 δ=3の変位を有する図3Bのアブストラクトテンプレートから得られたレンジングテンプレートを示す。 画像中でずれて回転された対象物に一致する図3Cのレンジングテンプレートを示す。 図3Cのレンジングテンプレートのための相関の水平プロファイルである。 δ=1の変位を有する作成されたレンジングテンプレートである。 図4Bのレンジングテンプレートのための相関の水平プロファイルである。 本発明のシステムを使用して対象物を探し出すための有効な方法を示すフロー図である。
符号の説明
20 対象物
22 画像
24 ポシブルテンプレート
26 エッジ
28 アブストラクトテンプレート
30 レンジングテンプレート

Claims (1)

  1. 自動画像処理システムに使用され、それぞれ既知の階調値と既知の座標点とを有する複数の画像画素で定義される画像の範囲内で対象物の位置を位置づける方法であって、
    対象物の評価に対応するテンプレートをマニュアル操作で決定し、
    前記テンプレートをアブストラクトテンプレートに変換し、
    前記アブストラクトテンプレートをレンジングテンプレートに転換し、
    前記レンジングテンプレートを前記画像の範囲内で複数の既知の座標点位置に変位させ、
    前記レンジングテンプレートを前記各位置で前記画像と相関させ、
    予め定義された閾値に達した前記相関に対応する位置を保存する
    ステップを含むことを特徴とする。
JP2007037104A 1995-11-13 2007-02-16 画像中のパターンを自動的に位置付けるベクトル相関システム Expired - Fee Related JP4494427B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
US08/556,367 US6023530A (en) 1995-11-13 1995-11-13 Vector correlation system for automatically locating patterns in an image

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP51889697A Division JP3942193B2 (ja) 1995-11-13 1996-11-05 画像中のパターンを自動的に位置付けるベクトル相関システム

Publications (2)

Publication Number Publication Date
JP2007164816A true JP2007164816A (ja) 2007-06-28
JP4494427B2 JP4494427B2 (ja) 2010-06-30

Family

ID=24221057

Family Applications (2)

Application Number Title Priority Date Filing Date
JP51889697A Expired - Lifetime JP3942193B2 (ja) 1995-11-13 1996-11-05 画像中のパターンを自動的に位置付けるベクトル相関システム
JP2007037104A Expired - Fee Related JP4494427B2 (ja) 1995-11-13 2007-02-16 画像中のパターンを自動的に位置付けるベクトル相関システム

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP51889697A Expired - Lifetime JP3942193B2 (ja) 1995-11-13 1996-11-05 画像中のパターンを自動的に位置付けるベクトル相関システム

Country Status (6)

Country Link
US (2) US6023530A (ja)
EP (1) EP0864134B1 (ja)
JP (2) JP3942193B2 (ja)
KR (1) KR100367303B1 (ja)
DE (1) DE69623642T2 (ja)
WO (1) WO1997018524A2 (ja)

Families Citing this family (59)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
USRE46310E1 (en) 1991-12-23 2017-02-14 Blanding Hovenweep, Llc Ergonomic man-machine interface incorporating adaptive pattern recognition based control system
US6850252B1 (en) 1999-10-05 2005-02-01 Steven M. Hoffberg Intelligent electronic appliance system and method
US5903454A (en) 1991-12-23 1999-05-11 Hoffberg; Linda Irene Human-factored interface corporating adaptive pattern recognition based controller apparatus
USRE47908E1 (en) 1991-12-23 2020-03-17 Blanding Hovenweep, Llc Ergonomic man-machine interface incorporating adaptive pattern recognition based control system
USRE48056E1 (en) 1991-12-23 2020-06-16 Blanding Hovenweep, Llc Ergonomic man-machine interface incorporating adaptive pattern recognition based control system
US10361802B1 (en) 1999-02-01 2019-07-23 Blanding Hovenweep, Llc Adaptive pattern recognition based control system and method
US6023530A (en) * 1995-11-13 2000-02-08 Applied Intelligent Systems, Inc. Vector correlation system for automatically locating patterns in an image
JP3506200B2 (ja) * 1997-02-05 2004-03-15 シャープ株式会社 位置合わせ装置
US6252986B1 (en) * 1998-04-03 2001-06-26 Cognex Corporation Locating an image of an object having a concentric profile
JP3606430B2 (ja) * 1998-04-14 2005-01-05 松下電器産業株式会社 画像整合性判定装置
US6201527B1 (en) * 1998-06-25 2001-03-13 Textronix, Inc. Technique for displaying enveloped waveform
US7016539B1 (en) 1998-07-13 2006-03-21 Cognex Corporation Method for fast, robust, multi-dimensional pattern recognition
US7620527B1 (en) * 1999-05-10 2009-11-17 Johan Leo Alfons Gielis Method and apparatus for synthesizing and analyzing patterns utilizing novel “super-formula” operator
US6501857B1 (en) * 1999-07-20 2002-12-31 Craig Gotsman Method and system for detecting and classifying objects in an image
US6546122B1 (en) * 1999-07-29 2003-04-08 Veridicom, Inc. Method for combining fingerprint templates representing various sensed areas of a fingerprint to derive one fingerprint template representing the fingerprint
US6766058B1 (en) * 1999-08-04 2004-07-20 Electro Scientific Industries Pattern recognition using multiple templates
US7817844B2 (en) * 1999-08-26 2010-10-19 Nanogeometry Research Inc. Pattern inspection apparatus and method
US7796801B2 (en) * 1999-08-26 2010-09-14 Nanogeometry Research Inc. Pattern inspection apparatus and method
US6868175B1 (en) * 1999-08-26 2005-03-15 Nanogeometry Research Pattern inspection apparatus, pattern inspection method, and recording medium
JP2001092972A (ja) * 1999-09-24 2001-04-06 Mamoru Minami 画像認識方法
US7003403B1 (en) 2000-06-15 2006-02-21 The United States Of America As Represented By The Department Of Health And Human Services Quantifying gene relatedness via nonlinear prediction of gene
US7058221B1 (en) * 2000-07-07 2006-06-06 Tani Electronics Industry Co., Ltd. Method of recognizing object based on pattern matching and medium for recording computer program having same
US6683984B1 (en) * 2000-07-31 2004-01-27 Hewlett-Packard Development Company, L.P. Digital imaging device with background training
US7203367B2 (en) 2000-08-29 2007-04-10 Imageid Ltd. Indexing, storage and retrieval of digital images
ATE292307T1 (de) * 2000-09-27 2005-04-15 Mvtec Software Gmbh System und verfahren zur objekterkennung
JP3776340B2 (ja) * 2000-09-27 2006-05-17 エムヴイテック・ソフトウェア・ゲーエムベーハー 対象物認識システム及び方法
US7274372B1 (en) * 2000-11-06 2007-09-25 Intel Corporation Real-time digital three dimensional engraving
US6766042B2 (en) 2001-04-26 2004-07-20 Memphis Eye & Contact Associates System to automatically detect eye corneal striae
US6845178B1 (en) * 2001-06-27 2005-01-18 Electro Scientific Industries, Inc. Automatic separation of subject pixels using segmentation based on multiple planes of measurement data
US6959112B1 (en) * 2001-06-29 2005-10-25 Cognex Technology And Investment Corporation Method for finding a pattern which may fall partially outside an image
US7034963B2 (en) * 2001-07-11 2006-04-25 Applied Materials, Inc. Method for adjusting edges of grayscale pixel-map images
US7420710B2 (en) * 2001-07-11 2008-09-02 Applied Materials, Inc. Optical proximity correction in raster scan printing based on grayscale manipulation of the bitmap
US6801245B2 (en) * 2002-01-18 2004-10-05 Imageid Ltd. Method for automatic identification and data capture
US7453472B2 (en) * 2002-05-31 2008-11-18 University Of Utah Research Foundation System and method for visual annotation and knowledge representation
US8081820B2 (en) 2003-07-22 2011-12-20 Cognex Technology And Investment Corporation Method for partitioning a pattern into optimized sub-patterns
US7190834B2 (en) * 2003-07-22 2007-03-13 Cognex Technology And Investment Corporation Methods for finding and characterizing a deformed pattern in an image
GB2414616A (en) * 2004-05-28 2005-11-30 Sony Uk Ltd Comparing test image with a set of reference images
US7349567B2 (en) * 2004-03-05 2008-03-25 Electro Scientific Industries, Inc. Method and apparatus for determining angular pose of an object
US7529421B2 (en) 2004-07-01 2009-05-05 Applied Materials, Inc. Optical proximity correction in raster scan printing based on corner matching templates
US7407252B2 (en) * 2004-07-01 2008-08-05 Applied Materials, Inc. Area based optical proximity correction in raster scan printing
US7423280B2 (en) 2004-08-09 2008-09-09 Quad/Tech, Inc. Web inspection module including contact image sensors
US8437502B1 (en) 2004-09-25 2013-05-07 Cognex Technology And Investment Corporation General pose refinement and tracking tool
JP4736121B2 (ja) * 2005-11-21 2011-07-27 富士ゼロックス株式会社 画像解析装置、画像処理装置、画像解析方法、画像解析プログラム及びこれを記録した記録媒体
US7715620B2 (en) * 2006-01-27 2010-05-11 Lockheed Martin Corporation Color form dropout using dynamic geometric solid thresholding
US20070219810A1 (en) * 2006-03-17 2007-09-20 Moore Barrett H Personal profile-based private civil security subscription method
EP1914666A3 (en) * 2006-03-24 2008-05-07 MVTec Software GmbH System and methods for automatic parameter determination in machine vision
US7589310B2 (en) * 2006-06-05 2009-09-15 Blaise Laurent Mouttet Image correlation sensor
JP4943304B2 (ja) * 2006-12-05 2012-05-30 株式会社 Ngr パターン検査装置および方法
US8019164B2 (en) * 2007-01-29 2011-09-13 Hitachi High-Technologies Corporation Apparatus, method and program product for matching with a template
US7978906B2 (en) * 2007-06-14 2011-07-12 Microsoft Corporation Capturing long-range correlations in patch models
US8103085B1 (en) 2007-09-25 2012-01-24 Cognex Corporation System and method for detecting flaws in objects using machine vision
JP5429869B2 (ja) * 2008-12-22 2014-02-26 株式会社 Ngr パターン検査装置および方法
US8150140B2 (en) * 2008-12-22 2012-04-03 Ngr Inc. System and method for a semiconductor lithographic process control using statistical information in defect identification
US9679224B2 (en) 2013-06-28 2017-06-13 Cognex Corporation Semi-supervised method for training multiple pattern recognition and registration tool models
US9076195B2 (en) * 2013-08-29 2015-07-07 The Boeing Company Methods and apparatus to identify components from images of the components
US9569667B1 (en) * 2015-05-04 2017-02-14 Exelis Inc Cloud resilient algorithm for coastline registration
JP6682832B2 (ja) * 2015-12-03 2020-04-15 株式会社リコー 光電変換素子、画像読取装置、画像形成装置及び画像読取方法
EP3825842B1 (en) * 2019-04-04 2023-09-06 Cambricon Technologies Corporation Limited Data processing method and apparatus, and related product
US11527329B2 (en) 2020-07-28 2022-12-13 Xifin, Inc. Automatically determining a medical recommendation for a patient based on multiple medical images from multiple different medical imaging modalities

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06282652A (ja) * 1993-03-29 1994-10-07 Olympus Optical Co Ltd 画像の輪郭抽出装置
JPH07146937A (ja) * 1993-11-25 1995-06-06 Matsushita Electric Works Ltd パターンマッチング方法
JP3942193B2 (ja) * 1995-11-13 2007-07-11 アプライドインテリジェントシステムズ、インク 画像中のパターンを自動的に位置付けるベクトル相関システム

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5839357B2 (ja) * 1976-01-26 1983-08-29 株式会社日立製作所 パタ−ンの位置検出方法
US4736437A (en) * 1982-11-22 1988-04-05 View Engineering, Inc. High speed pattern recognizer
EP0153439B1 (en) * 1983-06-03 1993-08-04 Fondazione Pro Juventute Don Carlo Gnocchi Modularly expansible system for real time processing of a TV display, useful in particular for the acquisition of coordinates of known shape objects and method using said system in radiography.
SE8500799L (sv) * 1984-02-21 1985-08-22 Komatsu Mfg Co Ltd Sett att identifiera foremal
US4648119A (en) * 1985-03-18 1987-03-03 Tektronix, Inc. Method and apparatus for forming 3×3 pixel arrays and for performing programmable pattern contingent modifications of those arrays
US4864629A (en) * 1985-12-31 1989-09-05 Schlumberger Technologies, Inc. Image correlation system
US5046109A (en) * 1986-03-12 1991-09-03 Nikon Corporation Pattern inspection apparatus
US4969202A (en) * 1988-03-31 1990-11-06 Honeywell Inc. Image recognition edge detection method and system
US5054095A (en) * 1988-08-23 1991-10-01 U.S. Philips Corp. Method of recognizing a pattern in a field having a multi-valent amplitude, and device for performing such a method
US5173949A (en) * 1988-08-29 1992-12-22 Raytheon Company Confirmed boundary pattern matching
JPH0762606B2 (ja) * 1988-12-09 1995-07-05 松下電器産業株式会社 パターン位置認識装置
JPH02306386A (ja) * 1989-05-20 1990-12-19 Toshiba Corp 文字認識装置
JPH0528273A (ja) * 1991-05-13 1993-02-05 Nikon Corp 画像処理方法および装置
US5317652A (en) * 1991-06-05 1994-05-31 Phoenix Imaging Rotation and position invariant optical character recognition
JPH05189571A (ja) * 1992-01-13 1993-07-30 Nikon Corp パターンマッチング方法及び装置
US5548665A (en) * 1992-09-09 1996-08-20 Matsushita Electric Industrial Co., Ltd. Vector correlation detecting circuit
JP3706646B2 (ja) * 1993-10-22 2005-10-12 キヤノン株式会社 Ocrの制御方法並びに分類方法及び装置
US5600733A (en) * 1993-11-01 1997-02-04 Kulicke And Soffa Investments, Inc Method for locating eye points on objects subject to size variations
US5500906A (en) * 1994-01-14 1996-03-19 Cognex Corporation Locating curvilinear objects using feathered fiducials
US5754677A (en) * 1994-10-25 1998-05-19 Fuji Machine Mfg. Co., Ltd. Image processing apparatus

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06282652A (ja) * 1993-03-29 1994-10-07 Olympus Optical Co Ltd 画像の輪郭抽出装置
JPH07146937A (ja) * 1993-11-25 1995-06-06 Matsushita Electric Works Ltd パターンマッチング方法
JP3942193B2 (ja) * 1995-11-13 2007-07-11 アプライドインテリジェントシステムズ、インク 画像中のパターンを自動的に位置付けるベクトル相関システム

Also Published As

Publication number Publication date
US6023530A (en) 2000-02-08
JP4494427B2 (ja) 2010-06-30
DE69623642D1 (de) 2002-10-17
EP0864134B1 (en) 2002-09-11
US6385340B1 (en) 2002-05-07
KR100367303B1 (ko) 2003-04-11
EP0864134A4 (en) 1999-08-04
JP2000500594A (ja) 2000-01-18
DE69623642T2 (de) 2003-08-21
KR19990067567A (ko) 1999-08-25
WO1997018524A3 (en) 1997-06-19
EP0864134A2 (en) 1998-09-16
WO1997018524A2 (en) 1997-05-22
JP3942193B2 (ja) 2007-07-11

Similar Documents

Publication Publication Date Title
JP4494427B2 (ja) 画像中のパターンを自動的に位置付けるベクトル相関システム
US5987172A (en) Edge peak contour tracker
US5577130A (en) Method and apparatus for determining the distance between an image and an object
US5222155A (en) Computer apparatus and method for fuzzy template shape matching using a scoring function
JP2002516440A (ja) 画像認識および相関システム
JP2002517045A (ja) テンプレート・マッチポイントの部分位置を正確に位置決定する方法
KR20020052186A (ko) 그래픽 이용자 인터페이스를 통한 카메라의 외부 조정을위한 방법 및 장치
Cootes et al. Modelling Object Appearance using The Grey-Level Surface.
JP3236362B2 (ja) 皮膚表面に関する画像からの3次元形状の復元に基づく皮膚表面形状の特徴抽出装置
JP2001194126A (ja) 三次元形状計測装置および三次元形状計測方法、並びにプログラム提供媒体
JP2009302731A (ja) 画像処理装置、画像処理プログラム、画像処理方法、および電子機器
US5475810A (en) Pie chart processing method and processor
TW202020732A (zh) 物體辨識方法及其裝置
JPH09119982A (ja) 飛しょう体誘導装置
JP3527588B2 (ja) テンプレートマッチング方法
WO2021166574A1 (ja) 画像処理装置、画像処理方法、及びコンピュータ読み取り可能な記録媒体
JP2881530B2 (ja) 画像処理方法
JPH06243258A (ja) 奥行き検出装置
Xue The image processing for the target centre detection in digital image
JPH05114028A (ja) 濃淡パターンのマツチング方法、濃淡パターンのマツ チング回路
JP2002150269A (ja) 実写画像とレンジデータの位置合わせ方法及び装置、並びにこの方法の実行プログラムを記録した記録媒体
JPH10239054A (ja) 視点・物点位置計測方法及び装置
JPH07253310A (ja) ステレオ画像処理装置
JPH10334244A (ja) ステレオマッチング装置
US6792139B1 (en) Determining the orientation of subject data in a two-dimensional data set

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070319

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070403

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20091124

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091201

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100301

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100323

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100407

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130416

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130416

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140416

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees