JP2008123035A - 画像処理装置、画像の登録方法、画像の登録方法をコンピュータに実行させるためのプログラムおよびそのプログラムを記録した記録媒体 - Google Patents

画像処理装置、画像の登録方法、画像の登録方法をコンピュータに実行させるためのプログラムおよびそのプログラムを記録した記録媒体 Download PDF

Info

Publication number
JP2008123035A
JP2008123035A JP2006302949A JP2006302949A JP2008123035A JP 2008123035 A JP2008123035 A JP 2008123035A JP 2006302949 A JP2006302949 A JP 2006302949A JP 2006302949 A JP2006302949 A JP 2006302949A JP 2008123035 A JP2008123035 A JP 2008123035A
Authority
JP
Japan
Prior art keywords
image
input
input unit
edge
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006302949A
Other languages
English (en)
Other versions
JP4935307B2 (ja
Inventor
Koji Shimada
浩二 嶋田
Mai Takami
舞 高見
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Omron Tateisi Electronics Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp, Omron Tateisi Electronics Co filed Critical Omron Corp
Priority to JP2006302949A priority Critical patent/JP4935307B2/ja
Priority to EP07119595A priority patent/EP1921582B1/en
Priority to DE602007013994T priority patent/DE602007013994D1/de
Priority to CN2007101671982A priority patent/CN101178810B/zh
Priority to US11/936,427 priority patent/US8712164B2/en
Publication of JP2008123035A publication Critical patent/JP2008123035A/ja
Application granted granted Critical
Publication of JP4935307B2 publication Critical patent/JP4935307B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformation in the plane of the image
    • G06T3/40Scaling the whole image or part thereof
    • G06T3/403Edge-driven scaling
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/0006Industrial image inspection using a design-rule based approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods

Abstract

【課題】マスターモデルとしての幾何学情報を簡易な操作で設定可能な画像処理装置を提供する。
【解決手段】画像処理装置は、表示部と操作者からの入力を与える入力部とを含むLCDタッチパネル11と、登録画像と処理対象画像との一致度の高い部分を探索する探索処理と、登録画像を作成して登録する登録処理とを実行する画像処理部である中央制御回路30とを備える。中央制御回路30は、探索処理を実行する場合には、入力画像を処理対象画像として扱い、登録処理を実行する場合には、入力画像を表示部に表示させ、かつ表示部に表示された入力画像に対して入力部の操作に基づき登録画像の作成に用いる画像を重ねて描画する。
【選択図】図3

Description

この発明は、画像処理装置、画像の登録方法、画像の登録方法をコンピュータに実行させるためのプログラムおよびそのプログラムを記録した記録媒体に関する。より特定的には、この発明は、画像処理技術において、幾何学マッチングに用いるモデルの設定手段に関するものである。
カメラで撮像されたカメラ画像画面と、文字列やアイコン等で構成される設定項目画面が、モニタ上に同時表示(マルチ表示)される各種の画像処理装置が存在する。たとえば、カメラで撮像されたカメラ画像を用いて物体の有無を検出したり、物体の形状や寸法を測定し判別したりする視覚センサもこのような画像処理装置の1つである。
特開2006−72913号公報(特許文献1)には、このような視覚センサを応用した基板検査装置が開示されている。
特開2006−72913号公報 特開2000−148974号公報 特開2002−230549号公報 特開2002−133427号公報 特開2005−228062号公報
このような視覚センサを応用した装置であって、計測対象画像において、登録済みの画像(マスターモデル)を探索する手法のうち、幾何学情報を用いるものがある。ここで述べる幾何学情報とは、画像の形状(エッジ情報に着目した)情報のことを指す。
従来の幾何学情報を用いたマッチング処理を正確に行なうためには、幾何学情報を適切に抽出したマスターモデルを作成する必要がある。
それらのマスターモデルは、任意の条件で撮像された画像から、必要な情報のみを抽出する必要がある。しかしながら、任意の条件下で撮像された画像では、適切な幾何学情報のみを抽出するためには、不要な情報を落とす必要があり、その抽出技術が困難であるといった課題がある。
この発明の目的は、マスターモデルとしての幾何学情報を簡易な操作で設定可能な画像処理装置、画像の登録方法、画像の登録方法をコンピュータに実行させるためのプログラムおよびそのプログラムを記録した記録媒体を提供することである。
この発明は、要約すると、画像処理装置であって、表示部と、操作者からの入力を与える入力部と、登録画像と処理対象画像との一致度の高い部分を探索する探索処理と、登録画像を作成して登録する登録処理とを実行する画像処理部とを備える。画像処理部は、探索処理を実行する場合には、入力画像を処理対象画像として扱い、登録処理を実行する場合には、入力画像を表示部に表示させ、かつ表示部に表示された入力画像に対して入力部の操作に基づき登録画像の作成に用いる画像を重ねて描画する。
好ましくは、登録画像は、エッジ画像である。入力部は、表示部に表示される画像上の位置を指定することが可能である。登録処理は、入力部で指定される位置によって特定される入力画像の一部の領域からエッジ画像を抽出する処理を含む。
好ましくは、入力部は、表示部に表示される画像上の位置を指定することが可能である。登録処理は、入力部の操作に応じて描画される画像を登録画像に加える処理を含む。
好ましくは、登録画像は、エッジ画像である。入力部は、表示部に表示される画像上の位置を指定することが可能である。登録処理は、入力画像からエッジ画像を抽出する処理と、入力部の操作に応じて描画される画像を抽出されたエッジ画像に加える処理とを含む。
好ましくは、入力部は、表示部に表示される画像上の位置を指定することが可能である。登録処理は、入力部で指定される位置によって特定される登録画像の一部の領域を消去する処理を含む。
好ましくは、入力部は、表示部上に形成されるタッチパネルである。
好ましくは、入力部は、ポインティングデバイスを含む。
この発明の他の局面に従うと、表示部と操作者からの入力を与える入力部とを有する画像処理装置に対する画像の登録方法であって、画像処理装置は、登録画像と処理対象画像との一致度の高い部分を探索する処理と、登録画像を作成する登録処理とを実行する。登録方法は、入力画像を表示部に表示させるステップと、表示部に表示された入力画像に対して入力部の操作に基づき登録画像の作成に用いる画像を重ねて描画するステップとを含む。
好ましくは、登録画像は、エッジ画像である。入力部は、表示部に表示される画像上の位置を指定することが可能である。登録方法は、入力部で指定される位置によって特定される入力画像の一部の領域からエッジ画像を抽出するステップをさらに含む。
好ましくは、入力部は、表示部に表示される画像上の位置を指定することが可能である。描画するステップは、前記登録画像がすでに存在している場合には、前記入力部の操作に応じて描画される画像を前記登録画像に加える。
好ましくは、登録画像は、エッジ画像である。入力部は、表示部に表示される画像上の位置を指定することが可能である。登録方法は、入力画像からエッジ画像を抽出するステップをさらに含む。描画するステップは、抽出されたエッジ画像がすでに存在している場合には、入力部の操作に応じて描画される画像をエッジ画像に加えるステップを含む。
好ましくは、入力部は、表示部に表示される画像上の位置を指定することが可能である。描画するステップは、入力部で指定される位置によって特定される登録画像の一部の領域を消去するステップを含む。
好ましくは、入力部は、表示部上に形成されるタッチパネルである。
好ましくは、入力部は、ポインティングデバイスを含む。
この発明は、さらに他の局面に従うと、上記いずれかの画像の登録方法をコンピュータに実行させるためのプログラムである。
この発明は、さらに他の局面に従うと、上記いずれかの画像の登録方法をコンピュータに実行させるためのプログラムをコンピュータ読取り可能に記録した記録媒体である。
本発明によれば、最適な幾何学情報を抽出するためのノウハウや習熟度が不要となり、簡単かつ直感的に最適な幾何学情報を設定することが可能となる。
以下、本発明の実施の形態について図面を参照しながら詳細に説明する。なお、図中同一または相当部分には同一符号を付してその説明は繰返さない。
図1は、本発明の実施の形態に係る画像処理装置の斜視図である。
図2は、図1の画像処理装置のコントローラ10の正面図である。
図1、図2を参照して、画像処理装置は、コントローラ10とカメラ部20とを含む。
コントローラ10には、設定ボタン12、LCD(液晶素子)タッチパネル11、コンソール用コネクタ13からの入力が可能で、計測パラメータ設定や計測タイミング入力を行なうことができる。
コントローラ10は、計測タイミング入力に応じて、カメラインタフェースを通してカメラ部20で撮像された撮像画像を取得して、設定された計測パラメータでの計測処理を画像データに対して行ない、結果を出力する。結果出力は、外部モニタやLCDタッチパネル11の画面に出力される。カメラインタフェースにはコネクタ14が設けられており、2台のカメラが接続可能である。
また、LCDタッチパネル11の画面上には、各種パラメータ設定を容易にするために、文字や画像データが設定メニューとして表示される。LCDタッチパネル11は、画面上に表示された各種設定メニューやアイコンなどを選択するための入力装置としても機能する。
カメラ部20は照明22が一体化されたものであり、コントローラ10からのタイミング入力に応じて、ユーザに設定されたタイミングで照明を点灯し、受光部21に内蔵された撮像素子で撮像した画像データをコントローラ10側に送る。
操作部カバー25を開くと、USBやSDカード等の外部入出力インタフェース用コネクタ16と設定ボタン17とが設けられている。
設定ボタン17は、「AUTO」ボタン17Aと、「ESC」ボタン17Bと、「SET」ボタン17Cと、上下左右のカーソル移動ボタン17Dとを含む。
LCDタッチパネル11の画面には、幾何学情報の登録に使用する撮像画像である入力画像50が表示されている。そして、その入力画像50の周囲には、登録エリア27が示されている。登録エリア27は、幾何学情報を設定する領域である。
また、LCDタッチパネル11の画面には、さらに、描画図形選択エリア26と、「キャンセル」、「確定」等の指示を与えるためのボタン28とが設けられている。描画図形選択エリア26には、マスターモデルとしての幾何学情報の作成に用いる画像を描画するための描画図形を示すアイコンが表示されている。
幾何学情報は、任意に追加・削除ができ、幾何学情報の追加・登録は、LCDタッチパネル11ルもしくは設定ボタン12,17からの入力に応じて行なわれる。
図3は、コントローラ10の構成を示すブロック図である。
図3を参照して、コントローラ10は、中央制御回路30と、LCDコントローラ34と、LCDタッチパネル11と、タッチパネルコントローラ32と、設定ボタン12,17と、外部モニタ用インタフェース回路19と、外部モニタ用コネクタ36と、コンソール用コネクタ13とを含む。外部モニタ用コネクタ36には、LCDタッチパネル11とは別の外部モニタを接続することができる。コンソール用コネクタ13には、設定ボタン12,17の代わりに入力指示を与えられるコンソールを接続することができる。
コントローラ10は、さらに、カメラインタフェース回路18と、カメラ用コネクタ14と、外部入出力インタフェース用回路15と、外部入出力インタフェース用コネクタ16とを含む。カメラ用コネクタ14には、図1に示したカメラ部20を2台接続することができる。
中央制御回路30は、たとえば、CPU、メモリ、ASICなどを含み、本設定に関する処理においては、LCDタッチパネル11や設定ボタン12,17などの各入力に応じたHMI(Human Machine Interface)制御や、幾何学情報の自動抽出処理、幾何学情報の描画処理、カメラ部20から入力された画像をLCDタッチパネル11の画面に表示する機能などを実行する。
LCDコントローラ34は、中央制御回路30から送られてきたデータをLCDタッチパネル11の画面に表示する。
タッチパネルコントローラ32は、LCDタッチパネル11から送られてきた画像上の位置データを中央制御回路30に送信する。
設定ボタン12,17のオン・オフ状態は中央制御回路に入力される。
外部入出力インタフェース用回路15は、たとえば、USB(Universal Serial Bus)、RS-232C/422などのシリアルインタフェース回路やパラレルI/O入力回路やEthernet(登録商標)インタフェース回路等であり、外部入出力インタフェース用コネクタ16を介して、中央制御回路30と外部に接続されたパソコンやPLC(Programmable Logic Controller)などとの間の通信を行なう。
カメラインタフェース回路18は、たとえば、LVDS(Low Voltage Differential Signaling)回路であり、カメラ用コネクタ14を介して、中央制御回路30と外部に接続されたカメラ部20との間で、画像データや制御データの通信を行なう。
また、アナログRGB出力インタフェース等の外部モニタ用インタフェース回路19を通して、外部モニタ用コネクタと接続された外部モニタに、コントローラに一体化されているLCDタッチパネル11上の画像と同じ画像を出力することができる。
図3に示される画像処理装置は、表示部と操作者からの入力を与える入力部とを含むLCDタッチパネル11と、登録画像と処理対象画像との一致度の高い部分を探索する探索処理と、登録画像を作成して登録する登録処理とを実行する画像処理部である中央制御回路30とを備える。中央制御回路30は、探索処理を実行する場合には、入力画像を処理対象画像として扱い、登録処理を実行する場合には、入力画像を表示部に表示させ、かつ表示部に表示された入力画像に対して入力部の操作に基づき登録画像の作成に用いる画像を重ねて描画する。なお、入力部は、マウスやトラックボールなどのポインティングデバイスを含むものであっても良い。
図4は、本実施の形態における画像データの遷移を示した状態遷移図である。
図4を参照して、入力画像P1は、カメラで撮像された生データである。エッジ画像P2は、入力画像P1から抽出されたり入力画像P1を参照しながら描画したりして作成された中間的なデータである。幾何学モデルP3は、計測処理を実行するときに入力画像P1と比較されるデータであり、登録処理で作成される最終データである。
図5は、図3の中央制御回路30において実行される登録処理についてのプログラムの制御構造を示すフローチャートである。
以下、図4、図5を参照して幾何学情報を設定するフローについて説明する。
ステップS1において幾何学モデル登録処理が開始されると、ステップS2において幾何学情報を取得するための基準となる入力画像P1が撮像され、LCDタッチパネル11上に表示する。
続いて、ステップS3において設定ボタンまたはタッチパネルの入力待ち状態となる。ステップS3で入力があった場合には、与えられた設定ボタンもしくはタッチパネルの入力に応じて、幾何学情報の自動算出や、幾何学図形の描画、消去、表示内容の更新、幾何学モデルの登録処理が実行される。
ステップS4では「AUTO」ボタン17A、ステップS6ではLCDタッチパネル11上の描画図形選択ボタン、ステップS8では「SET」ボタン17C、ステップS10では「ESC」ボタン17Bがそれぞれ押されているかどうかが順に判断される。
ステップS4において、「AUTO」ボタン17Aが押されていたと判断されると、ステップS5に処理が進み、幾何学情報が自動抽出される。自動抽出の方法として、エッジ画像から2値化レベルを自動算出して、外形情報を自動抽出する方法が実行される。2値化レベルは、後に図9で説明するように、エッジ画像の濃度分布データから算出する。
ステップS6においてLCDタッチパネル11上の描画図形選択ボタンが押されていると判断されると、ステップS7の図形描画処理が実行され、選択された図形情報を、LCDタッチパネル11上に表示する。図形情報は、設定ボタンやタッチパネルの入力に応じて、その形状や大きさ、傾きなどを調整することが可能である。
ステップS5またはステップS7の処理が終了すると、ステップS11に処理が進みLCDタッチパネル11上の表示内容が更新される。
ステップS8で、「SET」ボタン17Cが押されていた場合には、エッジ画像P2を最終データとして確定してよいと判断してステップS9の幾何学モデル登録処理が実行される。ステップS9で登録完了すると、ステップS12において処理を終了する。
ステップS10で「ESC」ボタン17Bが押されていた場合には、本設定処理をキャンセルして、ステップS12において処理を終了する。
ステップS10で「ESC」ボタン17Bが押されていなかった場合、または、ステップS11で表示内容が更新された場合には、再びステップS3に進み入力待ち状態となる。
本実施の形態に開示される画像の登録方法は、表示部と操作者からの入力を与える入力部とを有する画像処理装置に対する画像の登録方法であって、画像処理装置は、登録画像と処理対象画像との一致度の高い部分を探索する処理と、登録画像を作成する登録処理とを実行する。登録方法は、入力画像を表示部に表示させるステップ(S2)と、表示部に表示された入力画像に対して入力部の操作に基づき登録画像の作成に用いる画像を重ねて描画するステップ(S7)とを含む。
図6は、図5のステップS5で実行される幾何学情報を自動抽出する処理の詳細を示すフローチャートである。
図6を参照して、このフローチャートの処理は大きく分けて2つの処理モードで構成されている。1つは、ステップS23からステップS25に示す自動抽出を行なうモードであり、他の1つはステップS26からステップS28に示す範囲を限定して抽出を行なうモードである。
ステップS21において幾何学情報自動抽出処理が開始されると、ステップS22でエッジ指定が有るか否かが判断される。エッジ指定有りとは、図4の中間データであるエッジ画像P2が既に存在している場合であり、エッジ指定無しとは、エッジ画像P2がまだ全く存在していない場合である。
ステップS21においてエッジ指定有りの場合には、ステップS26に処理が進み、エッジ指定無しの場合にはステップS23に処理が進む。
ステップS23では、入力画像P1に対して、矢印H1に示すようにエッジ画像P2を生成する。エッジ画像P2の生成は、矢印H1の処理では汎用的なフィルタ処理(たとえばソーベルフィルタ、線形フィルタ等の公知のエッジ抽出フィルタを用いて行なわれる。
図7は、ステップS23〜S25の処理の結果を示した画像である。
ステップS23の処理において、図7(A)で示された入力画像に基づいて、図7(B)に示すエッジ画像が生成される。
ステップS23に続いてステップS24の2値化レベル自動算出処理が行なわれる。この処理では、生成されたエッジ画像に対して、候補となるエッジ情報を抽出するために、2値化レベルの自動算出を行なう。
図8は、2値化レベルの自動算出について説明するための図である。
図8において横軸は、エッジ画像の各画素が有する値B(たとえば、濃淡が0〜255の階調で表わされる)を示し、縦軸はエッジ画像中に該当する値Bを有する画素がいくつ存在したかの画素数Nを示す。図8のグラフは、エッジ画像の値Bの分布を示すグラフである。
エッジ画像の座標(x,y)の画素の値をB(x,y)とし、ノイズ成分を除去するための有効画素判断レベルをTHとする。
2値化レベルの算出は、以下(1)〜(3)の手順で実行される。(1)2値化レベルを算出する対象範囲内においてB(x,y)>THを満たす範囲(平均値算出範囲R)に分布する各画素の数値B(x,y)の総和SUMBを算出する。(2)総和SUMBを有効画素数で割って平均値を算出する。(3)そして平均値の1/2を2値化レベルに決定する。
さらに図6のステップS25において、ステップS24で算出された2値化レベルを用いて、エッジ画像の2値化が行なわれる。すると図7(C)に示すような2値化画像が得られる。これにより、エッジ画像の淡い部分がノイズとして消去され、エッジ画像も細線化されエッジ部分が特定される。この2値化レベルより大きい座標情報を中間データである幾何学情報としてメモリに保存して、ステップS29において本処理を終了する。
続いて図6のステップS22において、エッジ指定有りと判断された場合について説明する。エッジ指定は、入力画像全体から図7で示したような有効画素の抽出が難しい場合に行なわれる。たとえば、抽出したい図形の背景が無地ではなく柄があったり、背景に段差が有ったりする場合にその柄や段差が抽出されないようにする必要がある。エッジ指定がされると、図6のステップS26〜S28において範囲を限定した抽出処理が行なわれる。
図9は、ステップS26〜S28の処理の結果を示した画像である。
図9(A)では、入力画像が表示され、その上にエッジ抽出をするための領域指定40がなされている状態が示されている。入力画像は、縦縞がある曲面上に矢印が印刷された画像である。この矢印を抽出するために、矢印部分をなぞるようにして領域指定40がなされている。この領域指定は、後に詳細を説明する図5のステップS7の図形描画処理で描画された図形に基づいて行なわれる。領域指定40が存在している場合には図6のステップS22からステップS26に処理が進む。
ステップS26においては、入力画像に対して、エッジコードの算出が行なわれる。
エッジコードは、処理対象画像(ステップS26では入力画像)の画素毎の濃度勾配方向に基づく角度データをいい、特開2005−228062(特許文献5)にも記載されている。
ここで、エッジコードの求め方およびエッジコードに関連のあるエッジ強度の求め方について説明しておく。
入力画像上の画素毎に、水平方向(x軸方向)における濃度の変化量Ex(x,y)と垂直方向(y軸方向)における濃度の変化量Ey(x,y)とを求める。そして、これらEx(x,y),Ey(x,y)が示すベクトルの合成ベクトルFについて、つぎの(1)式により、ベクトルの長さIE(x,y)を算出する。このIE(x,y)がエッジ強度である。
IE(x,y)=√((Ex(x,y))2+(Ey(x,y))2) … (1)
また、上記合成ベクトルF=(Ex(x,y),Ey(x,y))の示す方向は、着目画素における濃度勾配方向に対応する。所定の座標位置(x,y)にある画素Eについて、濃度勾配方向を示すベクトルFに直交するベクトルCを設定し、このベクトルCの方向を示す角度EC(x,y)をエッジコードとする。なお、ベクトルFは、明るい方(濃度が濃い方)から暗い方(濃度が淡い方)に向かう方向であり、ベクトルCは、ベクトルFを時計回り方向に90度回転させた方向に相当する。すなわち、ベクトルFは入力画像の輪郭線に直交し、ベクトルCは輪郭線に沿う方向となる。
またエッジコードEC(x,y)は、画素Eからx軸の正方向に向かうベクトルを基準に表されるもので、Ex(x,y),Ey(x,y)の値に応じて、下記(2a)〜(2e)のいずれかの式により求められる。
Ex(x,y)>0 および Ey(x,y)≧0のとき、
EC(x,y)=atan(Ey(x,y)/Ex(x,y)) … (2a)
Ex(x,y)>0 および Ey(x,y)<0のとき、
EC(x,y)=360+atan(Ey(x,y)/Ex(x,y)) … (2b)
Ex(x,y)<0のとき、
EC(x,y)=180+atan(Ey(x,y)/Ex(x,y)) … (2c)
Ex(x,y)=0 および Ey(x,y)>0のとき、
EC(x,y)=0 … (2d)
Ex(x,y)=0 および Ey(x,y)<0のとき、
EC(x,y)=180 … (2e)
図9(B)は、図9(A)の入力画像の各画素のエッジコードが求められ、その各画素のエッジコードをその画素に対応する座標に濃淡や色で表示した画像(エッジコード画像と呼ぶ)が示されている。この段階の画像は特にLCDパネルに表示する必要はないが、説明の便宜のためエッジコード画像に領域指定40を重ねた画像が図8(B)に示されている。
ステップS26のエッジコードの算出が終了すると、続いてステップS27において与えられたエッジ情報(領域指定40)に対して、エッジ抽出範囲を算出する処理が実行される。
図10は、エッジ抽出範囲の算出について説明するための図である。
図10を参照して、与えられたエッジ情報は領域指定40として処理される。領域指定40が画面上に存在している場合、中央制御回路30は、その領域指定40を幅W分だけ外側に広げて線40Bを発生する。また、中央制御回路30は、領域指定40を幅W分だけ内側に狭めて線40Cを発生する。そして、中央制御回路30は、線40Bと線40Cで挟まれた領域をエッジ抽出範囲に設定する。図9(C)には、エッジコード画像にエッジ抽出範囲を示す線40Bと線40Cとを重ねた状態が示されている。
ステップS27でエッジ抽出範囲の設定が終了すると、ステップS28に処理が進み中央制御回路30は、エッジコードが一致する箇所の画素情報を抽出する。具体的には、中央制御回路30は、線40Bと線40Cとで挟まれたエッジ抽出範囲内において、エッジ情報(もともとの領域指定40)が持っているエッジコードの情報と、一致するエッジコードを持つ座標の情報を取得する。
ここで述べているエッジコードとは、方向情報のことである。要するに、ステップS28では、入力画像上に描画されていたエッジ情報と同じ方向(平行)である部分の座標をエッジコード画像から取得する処理が行なわれる。図9(D)には、線40Bと線40Cとで挟まれたエッジ抽出範囲内からもともとの領域指定40にエッジコードが似ている有効画素の座標が抽出された状態が示されている。
そして、ステップS29において、ステップS28で抽出された座標情報を幾何学情報としてメモリに保存して、図4のステップS5で実行される幾何学情報自動抽出処理が終了する。
つまり、この自動抽出処理では、既に抽出されたエッジ画像や描画された画像(図4のエッジ画像P2)がある場合にはその画像基づいて抽出領域を特定して選択的に入力画像P1からの抽出を行なうことができるし(図4の矢印H4に該当)、全くエッジ画像P2が無い場合には入力画像P1全体からエッジ画像P2を抽出することができる(図4の矢印H1に該当)。
以上説明したように、登録画像は、エッジ画像を含むものである。入力部であるタッチパネルは、表示部に表示される画像上の位置を指定することが可能である。画像の登録方法は、入力部で指定される位置によって特定される入力画像の一部の領域からエッジ画像を抽出するステップ(S26-S28)を含む。
続いて、図5のステップS7で実行される図形描画処理について説明する。
図11は、図5のステップS7で実行される図形描画処理の詳細を示したフローチャートである。
図11を参照して、描画図形選択ボタンが押され図形描画処理がステップS40において開始されると、まずステップS41で描画図形選択入力待ちとなる。そして、ステップS42において入力された内容に基づいて図形の描画もしくは削除の処理が行なわれる。その後、ステップS43においてこの図形描画処理は終了し、制御は図5のフローチャートに移される。
図12は、図11のステップS41、S42において図形描画処理が実行される様子を説明するための図である。
図12を参照して、左側には、図7で自動抽出された輪郭線52,54,56,58,60が入力画像50に重ねて表示されている状態が示されている。右側には図2の描画図形選択エリア26の図形追加に関する一例26Aが示されている。
たとえば、入力画像50から中央の輪郭線54がうまく抽出できなかった場合には、アイコン73を選択して入力画像50に重ねて輪郭線54を描画させる。描画は、種々の指定方法が考えられるが、たとえばアイコン73選択後に直径の両端の座標をタッチパネルから入力する等により円の描画をさせることができる。また、図形の一部が途切れていた場合に、その部分を補うように描画することもできる。
また、図5のステップS5の自動抽出がうまくいかない場合には、自動抽出を用いずに、入力画像50を表示させておいてその輪郭に重ねるように輪郭線52を矩形のアイコン72を用いて描画させ、輪郭線54,56,58,60を円形のアイコン73を用いて描画させても良い。
つまり、この図形描画処理では、既に抽出されたエッジ画像や描画された画像(図4のエッジ画像P2)がある場合にはその画像に追加描画することができる。(図4の矢印H3に該当)。
一方、全くエッジ画像P2が無い場合には入力画像を見ながら一から描画することができる(図4の矢印H2に該当)。
描画する図形は、円形や矩形以外にも、種々考えられる。たとえば、アイコン74で楕円を描いたり、アイコン75で直線を描いたり、アイコン76で円弧を描いたり、アイコン77で自由図形を描いたりすることができる。
つまり、入力部は、表示部に表示される画像上の位置を指定することが可能である。描画するステップ(S7)は、登録画像がすでに存在している場合には、入力部の操作に応じて描画される画像を登録画像に加える。
また、画像の登録方法は、入力画像からエッジ画像を抽出するステップ(S23-S25)を含む。描画するステップ(S7)は、抽出されたエッジ画像がすでに存在している場合には、入力部の操作に応じて描画される画像をエッジ画像に加えるステップ(S41,S42)を含む。
図13は、図11のステップS41、S42において図形削除処理が実行される様子を説明するための図である。
図13を参照して、左側には図2の描画図形選択エリア26の図形追加に関する一例26Bが示されている。右側には、図7で自動抽出された輪郭線52,54,56,58,60のうち輪郭線56,58,60が削除され入力画像50に重ねて表示されている状態が示されている。
自動抽出された輪郭線のうち、一部の輪郭線は重要な情報をしめし、残りの輪郭線は不要な情報である場合がある。不要な情報の比率が少ない場合には、抽出後に不要な部分を選択的に消去するほうが、必要な情報を図12で説明したように描画するよりも効率が良い。
その場合には、描画図形選択エリア26B中の矩形領域のデータを削除するアイコン82で輪郭線56,58,60を順に囲んで消去ボタン81を押すことで必要な輪郭線52,54のみを登録するためのデータとして残すことができる。
つまり、この図形描画処理では、既に抽出されたエッジ画像や描画された画像(図4のエッジ画像P2)がある場合に、その画像の一部を消去することができる(図4の矢印H3に該当)。
すなわち、描画するステップ(S7)は、入力部で指定される位置によって特定される登録画像の一部の領域を消去するステップ(S41,S42)を含む。
図14は、図5のステップS9で実行される幾何学モデルを登録する処理の詳細を示すフローチャートである。
幾何学モデル登録処理では、描画された図形情報(図4のエッジ画像P2)に対して、エッジ強度およびエッジコードという特徴量を抽出する。そして、これらの抽出した特徴量と座標情報と関連付けたデータを幾何学モデル情報として登録する。
なお、幾何学モデルとは、画像処理を用いて得られるエッジ抽出点の強度情報や、各画素の濃度勾配方向に関する情報など、様々な定義付けがあるが、本実施の形態では、各画素の濃度勾配の大きさ(エッジ強度)と、濃度勾配に基づく角度データ(エッジコード)を扱うものを一例として示す。
図14を参照して、ステップS50において幾何学モデル登録処理が開始されると、ステップS51で、まずエッジ情報を取得する処理が行なわれる。ここでエッジ情報とはメモリ中に保存されている図4のエッジ画像(中間データ)P2のことであり、自動算出結果(幾何学情報自動抽出の結果)、および、幾何学図形描画の結果にて取得された図形情報が含まれる。
つづいて、ステップS52において、エッジ画像の各画素についてエッジ強度を算出する処理が実行される。エッジ強度は、画素毎の濃度勾配の大きさのことである。エッジ強度の算出については、式(1)で既に説明したので説明は繰返さない。そして、各画素のエッジ強度と座標とを対応付けたデータを作成する。このデータがエッジ強度画像である。
つづいて、ステップS53において、エッジ画像の各画素についてエッジコードを算出する処理が実行される。エッジコードは、画素毎の濃度勾配に基づく角度データのことである。エッジコードの算出については、式(2a)〜(2e)で既に説明したので説明は繰返さない。そして、各画素のエッジコードと座標とを対応付けたデータを作成する。このデータがエッジコード画像である。
そして、算出されたエッジ強度画像およびエッジコード画像を、ステップS54において幾何学モデル情報として登録し、幾何学モデル登録処理が終了する(ステップS55)。
図15は、幾何学モデル登録処理を説明するための図である。
図15において、まず入力画像に重ねた状態でエッジ情報が画面上に描画されており、このエッジ情報を登録してよいと操作者が判断したら「SET」ボタンで登録指示を行なうと、現在のエッジ情報からエッジ強度画像とエッジコード画像が作成され、これが画像処理装置中のハードディスクドライブや不揮発性メモリなどに保存される。
以上説明したように、本実施の形態に示した画像処理装置では、任意の画像に対して適切な幾何学情報の作成を簡単に実現するために、幾何学情報を入力画像から自動抽出したり、タッチパネルを用いて、不要な情報を削除したり必要な情報を追加したりすることができる。これにより、工場ライン等への画像処理装置設置時の作業時間が短縮される。
なお本実施の形態は、画像の登録方法をコンピュータ(図3の中央制御回路30)に実行させるためのプログラムについても説明したものである。このプログラムは、SDカード等の記録媒体からコンピュータに読み込ませることもできるし、また外部入出力インタフェース用回路を経由してコンピュータに読み込ませることもできる。
今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
本発明の実施の形態に係る画像処理装置の斜視図である。 図1の画像処理装置のコントローラ10の正面図である。 コントローラ10の構成を示すブロック図である。 本実施の形態における画像データの遷移を示した状態遷移図である。 図3の中央制御回路30において実行される登録処理についてのプログラムの制御構造を示すフローチャートである。 図5のステップS5で実行される幾何学情報を自動抽出する処理の詳細を示すフローチャートである。 ステップS23〜S25の処理の結果を示した画像である。 2値化レベルの自動算出について説明するための図である。 ステップS26〜S28の処理の結果を示した画像である。 エッジ抽出範囲の算出について説明するための図である。 図5のステップS7で実行される図形描画処理の詳細を示したフローチャートである。 図11のステップS41、S42において図形描画処理が実行される様子を説明するための図である。 図11のステップS41、S42において図形削除処理が実行される様子を説明するための図である。 図5のステップS9で実行される幾何学モデルを登録する処理の詳細を示すフローチャートである。 幾何学モデル登録処理を説明するための図である。
符号の説明
10 コントローラ、11 LCDタッチパネル、12,17 設定ボタン、13 コンソール用コネクタ、14 カメラ用コネクタ、15 外部入出力インタフェース用回路、16 外部入出力インタフェース用コネクタ、17 設定ボタン、18 カメラインタフェース回路、19 外部モニタ用インタフェース回路、20 カメラ部、21 受光部、22 照明、25 操作部カバー、26 描画図形選択エリア、27 登録エリア、30 中央制御回路、32 タッチパネルコントローラ、34 LCDコントローラ、36 外部モニタ用コネクタ、72,73,74,75,76,77,82 アイコン。

Claims (16)

  1. 表示部と、
    操作者からの入力を与える入力部と、
    登録画像と処理対象画像との一致度の高い部分を探索する探索処理と、前記登録画像を作成して登録する登録処理とを実行する画像処理部とを備え、
    前記画像処理部は、前記探索処理を実行する場合には、入力画像を前記処理対象画像として扱い、前記登録処理を実行する場合には、前記入力画像を前記表示部に表示させ、かつ前記表示部に表示された前記入力画像に対して前記入力部の操作に基づき前記登録画像の作成に用いる画像を重ねて描画する、画像処理装置。
  2. 前記登録画像は、エッジ画像であり、
    前記入力部は、前記表示部に表示される画像上の位置を指定することが可能であり、
    前記登録処理は、
    前記入力部で指定される位置によって特定される前記入力画像の一部の領域からエッジ画像を抽出する処理を含む、請求項1に記載の画像処理装置。
  3. 前記入力部は、前記表示部に表示される画像上の位置を指定することが可能であり、
    前記登録処理は、
    前記入力部の操作に応じて描画される画像を前記登録画像に加える処理を含む、請求項1に記載の画像処理装置。
  4. 前記登録画像は、エッジ画像であり、
    前記入力部は、前記表示部に表示される画像上の位置を指定することが可能であり、
    前記登録処理は、
    前記入力画像からエッジ画像を抽出する処理と、
    前記入力部の操作に応じて描画される画像を抽出されたエッジ画像に加える処理とを含む、請求項1に記載の画像処理装置。
  5. 前記入力部は、前記表示部に表示される画像上の位置を指定することが可能であり、
    前記登録処理は、
    前記入力部で指定される位置によって特定される前記登録画像の一部の領域を消去する処理を含む、請求項1に記載の画像処理装置。
  6. 前記入力部は、前記表示部上に形成されるタッチパネルである、請求項1〜5のいずれか1項に記載の画像処理装置。
  7. 前記入力部は、ポインティングデバイスを含む、請求項1〜5のいずれか1項に記載の画像処理装置。
  8. 表示部と操作者からの入力を与える入力部とを有する画像処理装置に対する画像の登録方法であって、
    前記画像処理装置は、登録画像と処理対象画像との一致度の高い部分を探索する処理と、前記登録画像を作成する登録処理とを実行し、
    前記登録方法は、
    入力画像を前記表示部に表示させるステップと、
    前記表示部に表示された前記入力画像に対して前記入力部の操作に基づき前記登録画像の作成に用いる画像を重ねて描画するステップとを含む、画像の登録方法。
  9. 前記登録画像は、エッジ画像であり、
    前記入力部は、前記表示部に表示される画像上の位置を指定することが可能であり、
    前記登録方法は、
    前記入力部で指定される位置によって特定される前記入力画像の一部の領域からエッジ画像を抽出するステップをさらに含む、請求項8に記載の画像の登録方法。
  10. 前記入力部は、前記表示部に表示される画像上の位置を指定することが可能であり、
    前記描画するステップは、前記登録画像がすでに存在している場合には、前記入力部の操作に応じて描画される画像を前記登録画像に加える、請求項8に記載の画像の登録方法。
  11. 前記登録画像は、エッジ画像であり、
    前記入力部は、前記表示部に表示される画像上の位置を指定することが可能であり、
    前記登録方法は、
    前記入力画像からエッジ画像を抽出するステップをさらに含み、
    前記描画するステップは、
    抽出された前記エッジ画像がすでに存在している場合には、前記入力部の操作に応じて描画される画像を前記エッジ画像に加えるステップを含む、請求項8に記載の画像の登録方法。
  12. 前記入力部は、前記表示部に表示される画像上の位置を指定することが可能であり、
    前記描画するステップは、
    前記入力部で指定される位置によって特定される前記登録画像の一部の領域を消去するステップを含む、請求項8に記載の画像の登録方法。
  13. 前記入力部は、前記表示部上に形成されるタッチパネルである、請求項8〜12のいずれか1項に記載の画像の登録方法。
  14. 前記入力部は、ポインティングデバイスを含む、請求項8〜12のいずれか1項に記載の画像の登録方法。
  15. 請求項8〜14のいずれか1項に記載の画像の登録方法をコンピュータに実行させるためのプログラム。
  16. 請求項8〜14のいずれか1項に記載の画像の登録方法をコンピュータに実行させるためのプログラムをコンピュータ読取り可能に記録した記録媒体。
JP2006302949A 2006-11-08 2006-11-08 画像処理装置、画像の登録方法、画像の登録方法をコンピュータに実行させるためのプログラムおよびそのプログラムを記録した記録媒体 Active JP4935307B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2006302949A JP4935307B2 (ja) 2006-11-08 2006-11-08 画像処理装置、画像の登録方法、画像の登録方法をコンピュータに実行させるためのプログラムおよびそのプログラムを記録した記録媒体
EP07119595A EP1921582B1 (en) 2006-11-08 2007-10-30 Image processing apparatus, image registering method, program causing computer to execute image registering method, and recording medium on which a program is recorded
DE602007013994T DE602007013994D1 (de) 2006-11-08 2007-10-30 Bildverarbeitungsvorrichtung, Bilderfassungsverfahren, Programm zur Ausführung des Bilderfassungsverfahrens durch einen Computer und Aufzeichnungsmedium, auf dem das Programm aufgezeichnet wird
CN2007101671982A CN101178810B (zh) 2006-11-08 2007-11-02 图像处理装置、图像的登录方法
US11/936,427 US8712164B2 (en) 2006-11-08 2007-11-07 Image processing apparatus, image registering method, program causing computer to execute image registering method, and recording medium in which program is recorded

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006302949A JP4935307B2 (ja) 2006-11-08 2006-11-08 画像処理装置、画像の登録方法、画像の登録方法をコンピュータに実行させるためのプログラムおよびそのプログラムを記録した記録媒体

Publications (2)

Publication Number Publication Date
JP2008123035A true JP2008123035A (ja) 2008-05-29
JP4935307B2 JP4935307B2 (ja) 2012-05-23

Family

ID=39092320

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006302949A Active JP4935307B2 (ja) 2006-11-08 2006-11-08 画像処理装置、画像の登録方法、画像の登録方法をコンピュータに実行させるためのプログラムおよびそのプログラムを記録した記録媒体

Country Status (5)

Country Link
US (1) US8712164B2 (ja)
EP (1) EP1921582B1 (ja)
JP (1) JP4935307B2 (ja)
CN (1) CN101178810B (ja)
DE (1) DE602007013994D1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010092426A (ja) * 2008-10-10 2010-04-22 Canon Inc 画像処理装置、画像処理方法およびプログラム
JP2014203836A (ja) * 2013-04-01 2014-10-27 株式会社ディスコ ターゲットパターン設定方法、及び、キーパターン検出方法

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4627782B2 (ja) * 2008-03-05 2011-02-09 株式会社日立ハイテクノロジーズ エッジ検出方法、及び荷電粒子線装置
DE102008040804B4 (de) * 2008-07-28 2021-07-29 Carl Zeiss Meditec Ag Verfahren, Operationsmikroskop und Analysesystem zur quantitativen Darstellung des Blutflusses
JP2011050038A (ja) * 2009-07-27 2011-03-10 Sanyo Electric Co Ltd 画像再生装置及び撮像装置
TWI482147B (zh) * 2013-04-02 2015-04-21 Qisda Corp 影像處理方法及影像顯示裝置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0554144A (ja) * 1991-08-27 1993-03-05 Meidensha Corp パターン認識辞書の登録装置
JPH07129770A (ja) * 1993-10-28 1995-05-19 Mitsubishi Electric Corp 画像処理装置
WO1999052072A1 (fr) * 1998-04-07 1999-10-14 Omron Corporation Dispositif et procede de traitement d'images, support de stockage de programme pour traitement d'images, et dispositif d'inspection
JP2003109004A (ja) * 2001-10-02 2003-04-11 Yamatake Corp 画像検査装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5926568A (en) * 1997-06-30 1999-07-20 The University Of North Carolina At Chapel Hill Image object matching using core analysis and deformable shape loci
JP2000148974A (ja) 1998-11-09 2000-05-30 Omron Corp 画像処理装置
JP2002133427A (ja) 2000-10-23 2002-05-10 Omron Corp 輪郭パターン検査方法およびその装置
JP4023096B2 (ja) 2001-02-05 2007-12-19 オムロン株式会社 画像処理方法およびその装置
GB2389178B (en) * 2001-12-31 2004-10-27 Orbotech Ltd Method for inspecting patterns
JP3870872B2 (ja) * 2002-08-06 2007-01-24 オムロン株式会社 検査データ作成方法およびこの方法を用いた基板検査装置
JP4470513B2 (ja) 2004-02-13 2010-06-02 オムロン株式会社 検査方法および検査装置
DE602004015739D1 (de) * 2004-05-18 2008-09-25 Agfa Healthcare Nv Verfahren zur automatischen Positionierung von geometrischen Objekten in medizinischen Bildern
JP4470659B2 (ja) 2004-09-06 2010-06-02 オムロン株式会社 部品検査用のモデル登録方法およびこの方法を用いた検査データ作成装置
US7477785B2 (en) * 2004-11-19 2009-01-13 Microsoft Corporation Fuzzy image comparator

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0554144A (ja) * 1991-08-27 1993-03-05 Meidensha Corp パターン認識辞書の登録装置
JPH07129770A (ja) * 1993-10-28 1995-05-19 Mitsubishi Electric Corp 画像処理装置
WO1999052072A1 (fr) * 1998-04-07 1999-10-14 Omron Corporation Dispositif et procede de traitement d'images, support de stockage de programme pour traitement d'images, et dispositif d'inspection
JP2003109004A (ja) * 2001-10-02 2003-04-11 Yamatake Corp 画像検査装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010092426A (ja) * 2008-10-10 2010-04-22 Canon Inc 画像処理装置、画像処理方法およびプログラム
JP2014203836A (ja) * 2013-04-01 2014-10-27 株式会社ディスコ ターゲットパターン設定方法、及び、キーパターン検出方法

Also Published As

Publication number Publication date
DE602007013994D1 (de) 2011-06-01
EP1921582A1 (en) 2008-05-14
CN101178810A (zh) 2008-05-14
JP4935307B2 (ja) 2012-05-23
EP1921582B1 (en) 2011-04-20
US20080219593A1 (en) 2008-09-11
CN101178810B (zh) 2010-09-29
US8712164B2 (en) 2014-04-29

Similar Documents

Publication Publication Date Title
JP6323040B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP4935307B2 (ja) 画像処理装置、画像の登録方法、画像の登録方法をコンピュータに実行させるためのプログラムおよびそのプログラムを記録した記録媒体
US9547791B2 (en) Image processing system, image processing apparatus, image processing method, and program
US9858728B2 (en) Interactive tool for inspecting and repairing three dimensional models
US20140118396A1 (en) Image processing device, image processing method, and computer program product
JP5509173B2 (ja) 表示装置及び表示方法
US20200118305A1 (en) Automatic line drawing coloring program, automatic line drawing coloring apparatus, and graphical user interface program
Stanimirovic et al. [Poster] A Mobile Augmented reality system to assist auto mechanics
KR20150106330A (ko) 화상 표시 장치 및 화상 표시 방법
JP2013114547A (ja) 画像処理装置、画像処理プログラム、ロボット装置及び画像処理方法
JP2009075846A (ja) 輪郭抽出装置及びプログラム
US8416237B1 (en) Perspective aware automatic guide generation
WO2016204241A1 (ja) 画像処理装置、画像処理方法、プログラム及び記録媒体
KR101503640B1 (ko) 전자 서명 지원 장치 및 방법
JP4908867B2 (ja) 地理画像処理システム
JP5074622B2 (ja) 地理画像処理システム
CN106527774B (zh) 非接触式输入笔迹的处理方法和装置
US7046241B2 (en) Oriented three-dimensional editing glyphs
TWI439962B (zh) 直覺式深度影像產生系統及深度影像生成方法
JP2016136325A (ja) 画像処理装置及びプログラム
JP2017016542A (ja) 装着型表示装置、表示制御方法および表示制御プログラム
JP2009015729A (ja) 基準モデル作成方法および基準モデル作成装置
JP2006174949A (ja) 医用画像処理装置
JP2005115467A (ja) 仮想オブジェクト操作プログラム
TWI420334B (zh) 印刷電路板佈線系統及印刷電路板上的多邊形合併方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090120

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110414

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110419

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110525

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110705

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110901

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111011

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111201

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120124

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120206

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150302

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4935307

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150