JP2015007972A - 画像照合方法、画像照合装置、モデルテンプレート生成方法、モデルテンプレート生成装置、およびプログラム - Google Patents

画像照合方法、画像照合装置、モデルテンプレート生成方法、モデルテンプレート生成装置、およびプログラム Download PDF

Info

Publication number
JP2015007972A
JP2015007972A JP2014112653A JP2014112653A JP2015007972A JP 2015007972 A JP2015007972 A JP 2015007972A JP 2014112653 A JP2014112653 A JP 2014112653A JP 2014112653 A JP2014112653 A JP 2014112653A JP 2015007972 A JP2015007972 A JP 2015007972A
Authority
JP
Japan
Prior art keywords
image
feature amount
model
template
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014112653A
Other languages
English (en)
Other versions
JP6432162B2 (ja
Inventor
嘉典 小西
Yoshinori Konishi
嘉典 小西
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Omron Tateisi Electronics Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp, Omron Tateisi Electronics Co filed Critical Omron Corp
Priority to JP2014112653A priority Critical patent/JP6432162B2/ja
Publication of JP2015007972A publication Critical patent/JP2015007972A/ja
Application granted granted Critical
Publication of JP6432162B2 publication Critical patent/JP6432162B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/50Extraction of image or video features by performing operations within image blocks; by using histograms, e.g. histogram of oriented gradients [HoG]; by summing image-intensity values; Projection analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/751Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Image Analysis (AREA)

Abstract

【課題】変動に対してロバストなテンプレートマッチング技術を提供する。【解決手段】画像照合方法であって、モデル画像を取得する取得ステップと、前記モデル画像にそれぞれ異なる変動を加えて複数の変動画像を生成する変動画像生成ステップと、前記複数の変動画像のそれぞれから特徴量を抽出する特徴量抽出ステップと、前記特徴量に基づいてモデルテンプレートを生成するテンプレート生成ステップと、入力画像と前記モデルテンプレートを用いてテンプレートマッチングを行う照合ステップと、を含む。領域毎に、特徴量ステップにおいて抽出される割合が多い特徴量を用いたりモデルテンプレートを生成したり、抽出される特徴量の数が多い領域や特徴量分布の尖度が高い領域の特徴量を優先的に用いてモデルテンプレートを生成したりすることが好ましい。【選択図】図1

Description

本発明は、テンプレートマッチングによって画像照合を行う技術に関する。
テンプレートマッチングによって物体検出をする場合に、登録されたモデル画像と照合対象の画像の間で変動が生じると、検出精度が低下する。ここでいう変動は、例えば、位置ずれや回転、拡大・縮小、物体のわずかな変形、照明の変化や画像ノイズの付加などを指す。
この問題への対処法として、種々の変動に対応した複数のモデルテンプレートを用意することが考えられる。例えば、異なる角度から撮影したモデル画像や、照明を変更して撮影したモデル画像や、ノイズを加えたモデル画像から、それぞれモデルテンプレートを生成する。これにより、変動が加わった場合でも検出が可能となる。
別の対処法として、非特許文献1ではGeometric Blurと呼ばれる手法を提案している。この手法では、特徴量の位置を考慮して、原点からの距離が遠いほど分散の大きいガウシアンフィルタを適用することで、変動に対してロバストなテンプレートマッチングが実現できる。
Berg, Alexander C., and Jitendra Malik. "Geometric blur for template matching." Computer Vision and Pattern Recognition, 2001. CVPR 2001. Proceedings of the 2001 IEEE Computer Society Conference on. Vol. 1. IEEE, 2001.
複数のモデルテンプレートを生成して利用する手法では、モデルテンプレートの数だけ探索処理を行う必要があるため、モデルテンプレートの数に応じて線型的に処理時間が増加するという問題がある。
また、非特許文献1に記載の手法では、ガウシアンフィルタを適用するため、連続量であり単峰性の分布を取る特徴量(例えば、輝度特徴量)に対してのみ適用可能である。輝度勾配の方向を量子化したものを特徴量として用いる場合など上記の条件を満たさない場合には、非特許文献1に記載の手法は適用できない。
本発明は、変動に対してロバストなテンプレートマッチング技術を提供することを目的とする。
上記の課題を解決するために、本発明の第1の態様にかかる画像照合方法では、モデル画像に予測される種々の変動を加え、これらの変動画像から特徴抽出をし、様々な変動下において安定して現れる特徴量を用いてテンプレートを生成する。
より具体的には、本発明の第1の態様にかかる画像照合方法は、画像照合装置によって実行される画像照合方法であって、
モデル画像を取得する取得ステップと、
前記モデル画像にそれぞれ異なる変動を加えて複数の変動画像を生成する変動画像生成ステップと、
前記複数の変動画像のそれぞれから特徴量を抽出する特徴量抽出ステップと、
前記特徴量に基づいてモデルテンプレートを生成するテンプレート生成ステップと、
照合画像から抽出される特徴量と前記モデルテンプレートを用いてテンプレートマッチングを行う照合ステップと、
を含む。
なお、モデル画像に加える変動は任意のものであって良いが、例えば、回転、拡大・縮小、変形、照明の変化、画像ノイズの付加の少なくともいずれかとすることが好ましい。
このようにすることで、照合時に変動が生じた場合であっても、その変動がモデルテンプレート生成時に考慮されていれば物体を正確に検出することが可能となる。また、モデル画像に多くの変動を加えているが、生成するテンプレートは1つであるため、照合時に処理速度の低下を招かない。
本発明において、特徴量抽出ステップでは、それぞれの変動画像から、当該変動画像を複数の領域に分割し、領域毎の特徴量を抽出することが好ましい。この場合、1つの領域から1つの特徴量を抽出しても良いし、1つの領域を構成する複数のサブ領域からそれぞれ特徴量を抽出してもよい。いずれの場合であっても、複数の変動画像から領域毎に特徴量を抽出することにより、各領域における特徴量の分布が得られる。特徴量として、たとえば、輝度の勾配方向を量子化したものを用いることができる。
本発明におけるテンプレート生成ステップでは、前記特徴量抽出ステップにおいて上記領域毎に抽出された特徴量の分布を用いて、モデルテンプレートを生成することが好ましい。ここでは、特徴量の分布自体を用いてモデルテンプレートを生成しても良いし、特徴量の分布を特徴付けるパラメータ(最頻値や平均値など)を用いてモデルテンプレートを生成しても良い。
あるいは、各領域において抽出される割合が高い特徴量を用いてモデルテンプレートを生成することも好ましい。ここで、抽出される割合が高い特徴量とは、出現頻度が高い方から所定数の特徴量を意味しても良いし、出現確率が所定値以上の特徴量を意味しても良い。例えば、特徴量の最頻値を用いたり、出現確率が閾値(例えば20%)以上の特徴量を用いたりして、モデルテンプレートを生成することが考えられる。
また、本発明におけるテンプレート生成ステップでは、特徴量抽出ステップにおいて特徴量が抽出される数が多い領域の特徴量を用いて、モデルテンプレートを生成することも好ましい。ここでは、特徴量が領域から取得されたりされなかったりするものであることを想定する。このような特徴量の例として、輝度勾配に関する特徴量が挙げられる。エッジがある領域からは輝度勾配特徴量が得られるが、エッジがない領域からは輝度勾配特徴量は得られない。したがって、複数の変動画像からこのような特徴量を抽出すると、領域によって抽出される特徴量の数(抽出頻度)が異なる。上述のように、抽出される特徴量の数が多い領域の特徴量を用いてテンプレートモデルを生成することで、種々の変動下において共通して現れる可能性が高い特徴量をモデルテンプレートに反映させられるので、変動下における照合精度が向上する。また、特徴量の数が少なくて済むため照合処理が高速になる。なお、抽出される特徴量の数が多い領域というのは、その領域から抽出される特徴量の数が所定の閾値以上の領域を意味しても良いし、抽出される特徴量の数が上位所定割合に属する領域を意味しても良い。
また、本発明におけるテンプレート生成ステップでは、特徴量の分布の尖度が高い領域の特徴量を用いてモデルテンプレートを生成することも好ましい。特徴量分布の尖度が高いということは、種々の変動下において共通した特徴量が得られることを意味する。したがって、このような特徴量を用いてモデルテンプレートを生成することで、変動下における照合精度を向上させられるとともに、照合処理を高速化できる。
上記では特徴量の出現頻度が高い領域や特徴量分布の尖度が高い領域の特徴量のみを用いてモデルテンプレートを生成しているが、出現頻度や尖度を照合時における重みとして利用しても良い。すなわち、各領域における特徴量の出現頻度や特徴量分布の尖度に基づいてその領域の指標値を求めて割り当て、照合ステップにおいて各領域に割り当てられた指標値に基づいた重み付けをして入力画像とモデルテンプレートとのテンプレートマッチングを行うことも好ましい。この際、出現頻度や尖度が大きいほど重みを大きくする。換言すると、特徴量の出現頻度が高い領域や特徴量分布の尖度が高い領域ほど照合スコアに与える影響度を大きくする。このようにすることで、変動が加えられた場合でも照合精度を向上させることができる。
なお、本発明は、上記処理の少なくとも一部を含む画像照合方法として捉えることができる。また、本発明は、上記画像照合方法において用いられるモデルテンプレートを生成するためのモデルテンプレート生成方法として捉えることもできる。また、本発明は上記画像照合方法およびモデルテンプレート生成方法を実施するための手段を備える画像照合装置およびモデルテンプレート生成装置として捉えることもできる。また、本発明は、上記画像照合方法およびモデルテンプレート生成方法をコンピュータに実行させるためのコンピュータプログラムとして捉えることもできる。上記手段および処理の各々は可能な限り互いに組み合わせて本発明を構成することができる。
本発明によれば、変動に対してロバストなテンプレートマッチングを実現できる。
本実施形態にかかる画像照合装置の機能ブロックを示す図である。 本実施形態にかかる画像照合装置のハードウェア構成を示す図である。 モデルテンプレート生成処理の流れを示すフローチャートである。 特徴量抽出を説明する図であり、(A)はモデル画像の領域分割、(B)は分割された領域、(C)は領域からの特徴量算出、(D)は輝度勾配方向特徴量の量子化をそれぞれ示す。 特徴量分布の作成処理について説明する図であり、(A)はモデル画像、(B)は変動画像、(C)は各変動画像から抽出される輝度勾配方向特徴量、(D)は輝度勾配方向特徴量の分布をそれぞれ示す。 特徴量分布に基づくモデルテンプレート生成処理について説明する図であり、(A)はモデル画像、(B)〜(D)は各領域における特徴量分布を示す。 画像照合処理の流れを示すフローチャートである。
以下に図面を参照して、この発明を実施するための形態を、実施例に基づいて例示的に詳しく説明する。ただし、この実施例に記載されている構成部品の寸法、材質、形状、その相対配置などは、特に記載がない限りは、この発明の範囲をそれらのみに限定する趣旨のものではない。
本実施形態にかかる画像照合装置100は、生産ラインなどに組み込まれ、ベルトコンベア上を搬送されるワークの画像を取得して、この画像に対して予め登録されたモデル(
モデルテンプレート)を用いてパターンマッチング処理を行う。
図2は、本発明の実施の形態に係る画像照合装置100の概略構成図である。図2を参照して、画像照合装置100は、演算処理部であるCPU(Central Processing Unit)
101と、メモリ部であるメインメモリ102およびハードディスク103と、カメラインターフェイス104と、入力インターフェイス105と、表示コントローラ106と、PLC(Programmable Logic Controller)インターフェイス107と、通信インターフ
ェイス108と、データリーダ/ライタ109とを含む。これらの各部は、バスBを介して、互いにデータ通信可能に接続される。
CPU101は、ハードディスク103に格納されたプログラム(コード)をメインメモリ102に展開して、これらを所定順序で実行することで、各種の演算を実施する。メインメモリ102は、典型的には、DRAM(Dynamic Random Access Memory)などの揮発性の記憶装置であり、ハードディスク103から読み出されたプログラムに加えて、撮像装置8によって取得された画像データ、ワークデータ、モデルに関する情報などを保持する。さらに、ハードディスク103には、各種設定値などが格納されてもよい。なお、ハードディスク103に加えて、あるいは、ハードディスク103に代えて、フラッシュメモリなどの半導体記憶装置を採用してもよい。
カメラインターフェイス104は、CPU101と撮像装置8との間のデータ伝送を仲介する。すなわち、カメラインターフェイス104は、ワークを撮像して画像データを生成するための撮像装置8と接続される。より具体的には、カメラインターフェイス104は、1つ以上の撮像装置8と接続が可能であり、撮像装置8からの画像データを一時的に蓄積するための画像バッファ104aを含む。そして、カメラインターフェイス104は、画像バッファ104aに所定コマ数の画像データが蓄積されると、その蓄積されたデータをメインメモリ102へ転送する。また、カメラインターフェイス104は、CPU101が発生した内部コマンドに従って、撮像装置8に対して撮像コマンドを与える。
入力インターフェイス105は、CPU101とマウス4、キーボード、タッチパネルなどの入力部との間のデータ伝送を仲介する。すなわち、入力インターフェイス105は、ユーザが入力部を操作することで与えられる操作指令を受付ける。
表示コントローラ106は、表示装置の典型例であるディスプレイ2と接続され、CPU101における画像処理の結果などをユーザに通知する。すなわち、表示コントローラ106は、ディスプレイ2に接続され、当該ディスプレイ2での表示を制御する。
PLCインターフェイス107は、CPU101とワーク搬送機構を制御するPLC5との間のデータ伝送を仲介する。より具体的には、PLCインターフェイス107は、PLC5によって制御される生産ラインの状態に係る情報やワークに係る情報などをCPU101へ伝送する。
通信インターフェイス108は、CPU101とコンソール(あるいは、パーソナルコンピュータやサーバ装置)などとの間のデータ伝送を仲介する。通信インターフェイス108は、典型的には、イーサネット(登録商標)やUSB(Universal Serial Bus)などからなる。なお、後述するように、メモリカード6に格納されたプログラムを画像照合装置100にインストールする形態に代えて、通信インターフェイス108を介して、配信サーバなどからダウンロードしたプログラムを画像照合装置100にインストールしてもよい。
データリーダ/ライタ109は、CPU101と記録媒体であるメモリカード6との間
のデータ伝送を仲介する。すなわち、メモリカード6には、画像照合装置100で実行されるプログラムなどが格納された状態で流通し、データリーダ/ライタ109は、このメモリカード6からプログラムを読出す。また、データリーダ/ライタ109は、CPU101の内部指令に応答して、撮像装置8によって取得された画像データおよび/または画像照合装置100における処理結果などをメモリカード6へ書込む。なお、メモリカード6は、CF(Compact Flash)、SD(Secure Digital)などの汎用的な半導体記憶デバ
イスや、フレキシブルディスク(Flexible Disk)などの磁気記憶媒体や、CD−ROM
(Compact Disk Read Only Memory)などの光学記憶媒体等からなる。
また、画像照合装置100には、必要に応じて、プリンタなどの他の出力装置が接続されてもよい。
本実施形態にかかる画像照合装置100の機能ブロックを図1に示す。上述のように、画像照合装置100のCPU101が、予めインストールされたプログラム(OSやアプリケーションプログラム等)を実行することによって、図1に示す機能が実現される。なお、図1に示す機能の一部または全部は専用のハードウェアとして実現されても良い。
図1に示すように、画像照合装置100は、大まかに分けて、モデルテンプレート生成処理部110とテンプレートマッチング部120とを備える。モデルテンプレート生成処理部110は、モデル画像からモデルテンプレートを生成する機能部である。モデルテンプレート生成処理部110によって生成されたモデルテンプレートは、モデルテンプレート記憶部130に記憶される。テンプレートマッチング部120は、照合対象の画像(照合画像)を入力として受け付け、モデルテンプレート記憶部130に記憶されたモデルテンプレートを用いて、照合画像がモデルテンプレートと一致するか否かを判定する機能部である。
モデルテンプレート生成処理部110は、モデル画像取得部111、変動画像生成部112、特徴量抽出部113、モデルテンプレート生成部114を備える。図3は、モデルテンプレート生成処理部110によって実行されるモデルテンプレート生成処理の流れを示すフローチャートである。また、テンプレートマッチング部120は、照合画像取得部121、特徴量抽出部122、画像照合部123を備える。図7は、テンプレートマッチング部120によって実行される画像照合処理(テンプレートマッチング処理)の流れを示すフローチャートである。各機能部の詳細については、図面を参照しつつ、以下で順次説明する。
<モデルテンプレート生成処理>
まず、モデルテンプレート生成処理部110によって実行されるモデルテンプレート生成処理について説明する。本実施形態では、モデルテンプレート生成時に使用されるモデル画像の撮影環境と照合対象の画像の撮影環境とが変化する場合であってもロバストに物体検出が可能なモデルテンプレートを生成する。環境の違いとして、例えば、明るさ、画像ノイズ、物体の回転や大きさの変化、変形などが存在する。ロバストな画像照合を可能とするために、モデルテンプレート生成処理部110は、入力されるモデル画像に対して、想定される種々の変動を加えた変動画像を複数生成し、複数の変動画像から得られる特徴量の分布に基づいて、1つのモデルテンプレートを生成する。
[モデル画像取得]
モデルテンプレートを生成するために、まずモデル画像取得部111がモデル画像を取得する(S11)。モデル画像は、テンプレートマッチングによって検出すべき物体が撮影された画像である。モデル画像取得部111によるモデル画像の取得方法は任意であって良い。例えば、記憶媒体に記憶されたモデル画像データを読み込んでも良いし、ネット
ワーク経由でモデル画像データを取得しても良い。また、画像照合装置100に撮像装置を組み込み、撮像装置によって撮影されたデータをモデル画像取得部111が取得しても良い。
[変動画像生成]
次に、変動画像生成部112が、モデル画像に対してそれぞれ異なる種々の変動を加えて、複数の変動画像を生成する(S12)。変動の例として、回転、拡大・縮小、変形、照明の変化、画像ノイズの付加などがある。変動画像生成部112は、これらの変動の1つまたは複数を組み合わせた変動をモデル画像に加えて変動画像を生成する。どのような種類の変動を与えるかや、それぞれの変動をどの程度にするかは、実際に物体検出を行う際に想定される変動を考慮して決定することが好ましい。変動画像生成部112が生成する変動画像の枚数は任意であって良いが、例えば数千枚から数万枚程度の変動画像を生成することが考えられる。
[特徴量抽出]
次に、特徴量抽出部113が、複数の変動画像のそれぞれから特徴量を抽出する(S13)。本実施形態では、抽出する特徴量として輝度勾配方向特徴量を採用する。以下、輝度勾配方向特徴量について図4を参照しながら説明する。図4(A)に示すように、特徴量抽出部113は、変動画像30を複数の領域に分割する。本実施形態では、3ピクセル×3ピクセルの大きさを有する領域に分割する。図4(B)は、図4(A)における領域31を拡大して示した図である。図4(B)に示すように、領域31は3×3の9個のピクセル31A〜31Iから構成される。なお、各領域の大きさは3×3以外の任意の大きさであってもよい。また、各領域が互いに重複するように領域分割をしても良い。
特徴量抽出部113は、分割領域内の各ピクセルについて輝度勾配の方向および大きさ(強度)を求める。輝度勾配は、対象ピクセルおよびその周囲のピクセルから求めることができる。図4(C)は、領域31内の各ピクセルについて求められる輝度勾配を表す。ここで、矢印の方向は輝度勾配の方向を表わし、矢印の長さは輝度勾配の大きさを表す。図4(C)において太線で示される矢印は、輝度勾配強度が所定の閾値以上であることを示している。本実施形態においては、あるピクセルにおける輝度勾配強度が所定の閾値未満である場合には、そのピクセルから輝度勾配が検出されなかったとみなす。図4(C)の例では、3つのピクセル31C,31E,31Gからのみ輝度勾配が検出されたものとみなす。
輝度勾配の方向は、図4(D)に示すように量子化されて表される。本実施形態では、輝度勾配方向を8つの方向に分類している。したがって、図4(C)に示す領域31からは、方向1の輝度勾配が1つと、方向2の特徴量が2つ抽出される。なお、輝度勾配方向を量子化する際の量子化方法は任意であって構わない。
以上の処理をモデル画像30内の全ての領域に対して実施することで、1枚の変動画像に対する輝度勾配方向特徴量の抽出が完了する。
特徴量抽出部113は、全ての変動画像に対して上記の処理を施し、各領域の輝度勾配方向特徴量の分布を統合することにより、各領域における特徴量分布を作成する(S14)。複数の変動画像から特徴量分布を作成する処理について、図5を参照して説明する。図5(A)は、モデル画像40を示す図である。モデル画像40には、検出対象物体42が写っている。なお、図中では検出対象物体42の内部をハッチングで示しているが、内部と境界線とは同じ輝度を有するものとする。以下、モデル画像40における領域41を例にとって、特徴量分布作成処理を説明する。
図5(B)は、モデル画像40に種々の変動(ただし、ここでは回転および拡大・縮小に限定している)を加えた場合の、領域41における画像を示している。変動がなければ領域41には物体42の角部(縦方向エッジおよび横方向エッジ)が含まれるが、変動によって、エッジの向きが変動したり、いずれか一方のエッジまたは両方のエッジが領域41からはずれてしまったりする。図5(B)に示すそれぞれの変動画像の領域41から、輝度勾配方向特徴量を抽出した結果を図5(C)に示す。それぞれの変動画像から、1つまたは複数の輝度勾配方向特徴量が得られる。加えられる変動によって抽出される輝度勾配は異なるものとなるが、平均するとモデル画像の輝度勾配と類似する輝度勾配が得られる確率が高い。
図5の例では、モデル画像に加える変動を回転や拡大・縮小として説明しているが、照明を変化させたり、画像ノイズを付加したりするといった変動を加える場合であっても同様の処理が行えることは明らかであろう。
特徴量抽出部113は、このようにして複数の変動画像から得られる1つの領域に関する輝度勾配方向特徴量の分布を作成する。図5(D)は、モデル画像40の領域41における特徴量分布を示す図である。図5(D)においては、横軸は量子化された輝度勾配方向特徴量、縦軸は各輝度勾配方向特徴量の出現確率を表す。出現確率は、ある領域から抽出される特徴量全体に占める、ある方向の特徴量の割合を意味する。この例では、領域41から抽出される輝度勾配方向特徴量として出現頻度が高いものは、方向1および8であることが示されている。
特徴量抽出部113は、ステップS14で作成された輝度勾配方向特徴量の分布に基づいて、モデル画像の領域毎にモデルテンプレート生成の際に用いる特徴量を算出する(S15)。本実施形態においては、領域毎にその領域内における出現確率(出現割合)が高い輝度勾配方向特徴量をモデルテンプレート生成の際に用いる特徴量とする。ここで、出現確率(出現割合)が高い輝度勾配方向特徴量とは、当該領域において出現確率(出現割合)が所定の閾値以上の輝度勾配方向特徴量を指す。閾値として20%を採用した場合は、図5(D)に示す分布からは方向1および8の輝度勾配方向特徴量が、モデルテンプレート生成の際に用いる特徴量として決定される。
なお、モデルテンプレート生成の際に用いる特徴量は上記以外の基準によって選択しても良い。例えば、ステップS14で作成された輝度勾配方向特徴量の分布自体をモデルテンプレート生成の際の特徴量として利用しても良い。その他にも、分布における最頻値や、特徴量の有無を0または1で表したものや、出現確率自体を特徴量として利用しても良い。
[モデルテンプレート生成]
モデルテンプレート生成部114は、特徴量抽出部113が算出した特徴量に基づいてモデルテンプレートを生成する(S16)。モデルテンプレートは、モデル画像および変動画像の各領域に対応付けられた特徴量の集合であり、例えば2次元配列(特徴量マップ)として表現できる。この際、モデル画像の全ての領域に対応する特徴量を用いてモデルテンプレートを生成する必要はなく、特徴量の出現数が多い領域、あるいは分布の尖度が大きい領域から優先してモデルテンプレートを生成する。
例えば、特徴量の出現数が多い領域から優先してモデルテンプレートを生成する場合には、特徴量の出現数が所定の閾値以上の領域、あるいは、特徴量の出現数が所定の上位割合(例えば、上位25%)に属する領域の特徴量を用いてモデルテンプレートを生成する。図6を例にして説明する。図6(A)は、モデル画像50と、その中の3つの領域51,52,53を示している。図6(B)〜(D)は、それぞれ領域51〜53における輝
度勾配方向特徴量の分布を示す。図6(B)〜(D)においては、縦軸は、ステップS13において抽出される特徴量の数を表す。この例では、例えば、領域51と52における特徴量の出現数(全体の合計)は閾値以上であると判断され、領域53における特徴量の出現数は閾値未満であると判断される。このように判断される場合は、モデルテンプレート生成部114は、領域51および52から取得される特徴を用いてモデルテンプレートを生成する。すなわち、モデルテンプレートは、領域51および領域52に対応した特徴量を含むが、領域53に対応した特徴量は含まない。
特徴量の分布の尖度が大きい領域からモデルテンプレートを生成する場合も、上記と同様である。すなわち、特徴量分布の尖度が所定の閾値以上の領域の特徴量を用いてモデルテンプレートを生成する。なお、ここでの尖度は、頻度分布のピークのシャープさを表しピークがシャープなほど高い値をとる指標であれば任意のものを採用可能であり、統計学の分野において定義される尖度に限定されるわけではない。
また、特徴量の出現数が多い領域や、分布の尖度が大きい領域から優先してモデルテンプレートを生成する手法として、そのような領域ほど重み付けを大きくすることも好ましい。この場合、領域毎に特徴量の出現数や分布の尖度に基づいてその領域に対する指標値を算出して、この指標値を当該領域における照合時の重みとしてモデルテンプレートを生成する。
モデルテンプレート生成部114によって生成されたモデルテンプレートは、モデルテンプレート記憶部130に格納される。
<テンプレートマッチング処理>
次に、テンプレートマッチング部120によって実行されるテンプレートマッチング処理(画像照合処理)について、図7のフローチャートを参照しながら説明する。まず、照合画像取得部121が、照合画像を取得する(S21)。照合画像は、モデルテンプレートを用いてその画像の中から物体を検出する対象となる画像である。照合画像取得部121による照合画像の取得方法は、モデル画像取得部111の場合と同様に任意であって構わない。
特徴量抽出部122は、照合画像から輝度勾配方向特徴量を抽出する(S22)。この特徴量抽出処理は、特徴量抽出部113による処理(ステップS13および図4)と同様である。特徴量抽出部113は、照合画像の各領域から輝度勾配方向特徴量を取得して特徴量マップを得る。
次に、画像照合部123は、特徴量抽出部122によって取得された特徴量マップと、モデルテンプレートとを比較することによって、照合画像に照合対象の物体が含まれるか否かを判定する。具体的には、照合画像から得られる特徴量マップとモデルテンプレートを領域ベースで比較して、その一致度合い(類似度)に基づいて、上記の判定が行われる。照合画像における処理対象位置をずらしながら照合を行うことで、類似度が所定値以上となる位置に検出対象の物体が存在することを検出できる。
照合画像の特徴量とモデルテンプレートの特徴量が一致するか否かは、次のように判定することができる。例えば、照合画像のある領域から得られる輝度勾配方向が、モデルテンプレートの同じ領域の特徴量分布に含まれていれば、当該領域において特徴量が一致すると判断できる。より具体的には、モデルテンプレートの輝度勾配方向特徴量分布が図5(D)に示すように方向1および8である場合に、照合画像における輝度勾配方向が1(あるいは、8、または、1および8)であれば、これらの特徴が一致すると判断できる。
ただし、上記の判定手法は一例であり、特徴量同士が一致するか否かの判定はその他の方法により行ってもよい。例えば、モデルテンプレートの特徴量に含まれる輝度勾配方向の全てが照合画像の特徴量に含まれる場合に、これらの特徴量が一致すると判定するようにしてもよい。また、照合画像から得られる輝度勾配方向の、モデルテンプレートの特徴量(分布)における出現率に基づいて判定をしてもよい。例えば、照合画像から得られる輝度勾配方向の、モデルテンプレートの分布における出現率(方向が複数ある場合は最大の出現率)が所定の閾値以上であるときに、一致すると判定してもよい。あるいは、照合画像から得られる全ての輝度勾配方向について、モデルテンプレートの分布における出現率を合計し、その合計が閾値以上であるときに、一致すると判定してもよい。
画像照合部123は、モデルテンプレートに含まれる複数の特徴量のうち、照合画像から得られる特徴量と一致するものの割合を類似度(照合スコア)とし、当該類似度が照合閾値以上である場合に、照合画像に照合画像の物体が含まれていると判定する。なお、モデルテンプレートに重み(特徴量の出現数や分布の尖度に基づく領域毎の指標値)が含まれる場合には、画像全体の類似度(照合スコア)を算出する際に領域毎にこの指標値に基づく重み付けをして類似度を算出する。
<本実施形態の作用・効果>
本実施形態によれば、モデル画像に対して種々の変動を加えた画像から特徴量抽出をしてモデルテンプレートを生成しているので、照合時における環境や物体の変動に対してロバストな検出が可能となる。
出現頻度の高い特徴量のみを使用してモデルテンプレートを生成しているので、照合処理が高速になる。また、出現頻度の低い特徴量は照合スコアに対する貢献度が小さいため、予期しない変動に対してもロバストな検出が可能となる。
物体を特徴付ける画像領域(出現数が多い領域や尖度の高い領域)の特徴量のみを使用している場合は、処理が高速になる。さらに、種々の変動に対して安定しない領域を使用しないことから、予期しない変動に対してもロバストな検出が可能となる。なお、出現数の多さや尖度の高さに基づいて領域毎の重みを採用する場合は、より正確な検出が可能となる。
本実施形態では、連続量を取らない特徴量を利用する場合にも適用可能である。また、特徴量分布が複数のピークを持つ場合であっても適用可能である。非特許文献1に記載のGeometric Blurでは、連続量を取り、単峰性の分布を取る特徴量に対してのみ適用可能である。したがって、本実施形態の方がより多くの種類の特徴量に対して適用可能である。
<変形例>
本実施形態では、輝度勾配方向特徴量を採用したが、量子化される値であれば任意の特徴量を採用可能である。例えば、輝度値(例:0〜255)、輝度値比較(相対位置関係ごとに大小関係を0,1で表現)、ウェーブレット変換特徴量などを採用可能である。
上記の説明では、照合画像から得られる特徴量マップとモデルテンプレートとを領域ベースで比較する手法を説明したが、テンプレートマッチングの手法は領域ベースの手法に限られず、特徴ベースのマッチングであってもよい。特徴ベースのマッチングでは、モデル画像から特徴点を抽出してモデルテンプレートを生成し、同様の手法により照合画像から特徴点を抽出する。特徴点抽出は、例えば、SIFTやSURF特徴量などを用いて行うこともできる。そして、照合画像の特徴点とモデルテンプレートの特徴点を総当たりで比較し、照合スコアが最も高い点を対応する特徴点と判断する。複数の特徴点同士の対応関係から、射影変換や相似変換やアフィン変換などの変換パラメータを求めて、照合画像
中における検出対象物体の位置を判断することができる。
上記の説明では、モデル画像および照合画像が静止画であるものとして説明したが、モデル画像および照合画像は静止画像列(動画像)であっても構わない。動画像に対するモデルテンプレートの生成および照合処理も、上記で説明した静止画像に対する処理と同様に実現可能であり、したがって本実施形態は動画像に対しても適用可能である。なお、動画像に対して変動を加える場合には、各静止画像に対して上記で説明した変動を加える以外にも、明るさを徐々に変化させるという変動や、各画像の時系列間隔をランダムに変化させるといった変動を新たに加えることもできる。
上記の説明では、モデルテンプレートの生成と画像照合処理とを1つの装置によって実行しているが、モデルテンプレートの生成と画像照合は異なる装置によって行われてもかまわない。
100 画像照合装置
110 モデルテンプレート生成処理部
111 モデル画像取得部
112 変動画像生成部
113 特徴量抽出部
114 モデルテンプレート生成部
120 テンプレートマッチング部
121 照合画像取得部
122 特徴量抽出部
123 画像照合部
130 モデルテンプレート記憶部

Claims (16)

  1. 画像照合装置によって実行される画像照合方法であって、
    モデル画像を取得する取得ステップと、
    前記モデル画像にそれぞれ異なる変動を加えて複数の変動画像を生成する変動画像生成ステップと、
    前記複数の変動画像のそれぞれから特徴量を抽出する特徴量抽出ステップと、
    前記特徴量に基づいてモデルテンプレートを生成するテンプレート生成ステップと、
    照合画像から抽出される特徴量と前記モデルテンプレートを用いてテンプレートマッチングを行う照合ステップと、
    を含む、画像照合方法。
  2. 前記特徴量抽出ステップでは、変動画像を複数の領域に分割し、領域毎の特徴量を抽出する、
    請求項1に記載の画像照合方法。
  3. 前記テンプレート生成ステップでは、前記領域毎に、前記特徴量抽出ステップにおいて抽出される特徴量の分布を用いて、前記モデルテンプレートを生成する、
    請求項2に記載の画像照合方法。
  4. 前記テンプレート生成ステップでは、前記領域毎に、前記特徴量抽出ステップにおいて抽出される割合が多い特徴量を用いて、前記モデルテンプレートを生成する、
    請求項2に記載の画像照合方法。
  5. 前記テンプレート生成ステップでは、前記特徴量抽出ステップにおいて特徴量が抽出される数が多い領域の特徴量を用いて、前記モデルテンプレートを生成する、
    請求項2〜4のいずれかに記載の画像照合方法。
  6. 前記テンプレート生成ステップでは、前記特徴量の分布の尖度が高い領域の特徴量を用いて、前記モデルテンプレートを生成する、
    請求項2〜4のいずれかに記載の画像照合方法。
  7. 前記テンプレート生成ステップでは、前記領域毎に、前記特徴量抽出ステップにおいて特徴量が抽出される数に基づいて当該領域の指標値を割り当て、
    前記照合ステップでは、各領域に割り当てられた指標値を重みとして用いる、
    請求項2〜4のいずれかに記載の画像照合方法。
  8. 前記テンプレート生成ステップでは、前記領域毎に、前記特徴量抽出ステップにおいて抽出される特徴量の分布の尖度に基づいて当該領域の指標値を割り当て、
    前記照合ステップでは、各領域に割り当てられた指標値を重みとして用いる、
    請求項2〜4のいずれかに記載の画像照合方法。
  9. 前記変動画像生成ステップにおいて前記モデル画像に加えられる変動は、回転、拡大・縮小、変形、照明の変化、画像ノイズの付加の少なくともいずれかである、
    請求項1〜8のいずれかに記載の画像照合方法。
  10. 前記特徴量は、輝度勾配の方向である、
    請求項1〜9のいずれかに記載の画像照合方法。
  11. 前記特徴量は、輝度値である、
    請求項1〜9のいずれかに記載の画像照合方法。
  12. モデル画像を取得する取得部と、
    前記モデル画像にそれぞれ異なる変動を加えて複数の変動画像を生成する変動画像生成部と、
    前記複数の変動画像のそれぞれから特徴量を抽出する特徴量抽出部と、
    前記特徴量に基づいてモデルテンプレートを生成するテンプレート生成部と、
    照合画像から抽出される特徴量と前記モデルテンプレートを用いてテンプレートマッチングを行う照合部と、
    を備える画像照合装置。
  13. 請求項1〜11のいずれかに記載の方法の各ステップをコンピュータに実行させるためのコンピュータプログラム。
  14. モデルテンプレート生成装置によって実行されるモデルテンプレート生成方法であって、
    モデル画像を取得する取得ステップと、
    前記モデル画像にそれぞれ異なる変動を加えて複数の変動画像を生成する変動画像生成ステップと、
    前記複数の変動画像のそれぞれから特徴量を抽出する特徴量抽出ステップと、
    前記特徴量に基づいてモデルテンプレートを生成するテンプレート生成ステップと、
    を含む、モデルテンプレート生成方法。
  15. モデル画像を取得する取得部と、
    前記モデル画像にそれぞれ異なる変動を加えて複数の変動画像を生成する変動画像生成部と、
    前記複数の変動画像のそれぞれから特徴量を抽出する特徴量抽出部と、
    前記特徴量に基づいてモデルテンプレートを生成するテンプレート生成部と、
    を備えるモデルテンプレート生成装置。
  16. 請求項14に記載の方法の各ステップをコンピュータに実行させるためのコンピュータプログラム。
JP2014112653A 2013-05-31 2014-05-30 画像照合方法、画像照合装置、モデルテンプレート生成方法、モデルテンプレート生成装置、およびプログラム Active JP6432162B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014112653A JP6432162B2 (ja) 2013-05-31 2014-05-30 画像照合方法、画像照合装置、モデルテンプレート生成方法、モデルテンプレート生成装置、およびプログラム

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2013115617 2013-05-31
JP2013115617 2013-05-31
JP2014112653A JP6432162B2 (ja) 2013-05-31 2014-05-30 画像照合方法、画像照合装置、モデルテンプレート生成方法、モデルテンプレート生成装置、およびプログラム

Publications (2)

Publication Number Publication Date
JP2015007972A true JP2015007972A (ja) 2015-01-15
JP6432162B2 JP6432162B2 (ja) 2018-12-05

Family

ID=50685757

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014112653A Active JP6432162B2 (ja) 2013-05-31 2014-05-30 画像照合方法、画像照合装置、モデルテンプレート生成方法、モデルテンプレート生成装置、およびプログラム

Country Status (4)

Country Link
US (1) US9384419B2 (ja)
EP (1) EP2808828B1 (ja)
JP (1) JP6432162B2 (ja)
CN (1) CN104217194B (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102016013274A1 (de) 2015-11-06 2017-05-11 Fanuc Corporation Bildverarbeitungsvorrichtung und verfahren zur erkennung eines bilds eines zu erkennenden objekts aus eingabedaten
WO2018070032A1 (ja) * 2016-10-14 2018-04-19 富士機械製造株式会社 画像処理装置

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6554900B2 (ja) * 2015-04-28 2019-08-07 オムロン株式会社 テンプレート作成装置及びテンプレート作成方法
CN105389566B (zh) * 2015-11-13 2018-09-11 广东欧珀移动通信有限公司 指纹识别方法、指纹模板的更新方法、装置和移动终端
CN108133492B (zh) * 2016-12-01 2022-04-26 京东方科技集团股份有限公司 图像匹配方法、装置和系统
JP6732214B2 (ja) * 2017-03-10 2020-07-29 オムロン株式会社 画像処理装置、画像処理方法、テンプレート作成装置、物体認識処理装置及びプログラム
CN107516105B (zh) * 2017-07-20 2020-06-16 阿里巴巴集团控股有限公司 图像处理方法及装置
WO2019101345A1 (de) * 2017-11-27 2019-05-31 Siemens Aktiengesellschaft Verfahren und vorrichtung zur projektierung einer spezifi-schen verfahrenstechnischen anlage
US11164015B2 (en) * 2018-05-08 2021-11-02 Ford Global Technologies, Llc Simultaneous diagnosis and shape estimation from a perceptual system derived from range sensors
CN111079802B (zh) * 2019-12-02 2023-04-07 易思维(杭州)科技有限公司 一种基于梯度信息的匹配方法
CN116310763B (zh) * 2023-05-10 2023-07-21 合肥英特灵达信息技术有限公司 一种模板图像生成方法、装置、电子设备及存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01250184A (ja) * 1987-12-09 1989-10-05 Ricoh Co Ltd 文字認識方法及び文字の回転角度判定方法
JPH09223197A (ja) * 1996-02-15 1997-08-26 Fujitsu Ltd 文字認識装置
JP2008293073A (ja) * 2007-05-22 2008-12-04 Juki Corp 画像のマッチング処理方法
JP2012123626A (ja) * 2010-12-08 2012-06-28 Toyota Central R&D Labs Inc 対象物検出装置及びプログラム

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7512807B2 (en) * 2003-02-25 2009-03-31 Activcard Ireland, Limited Method and apparatus for biometric verification with data packet transmission prioritization
JP4575738B2 (ja) * 2004-09-29 2010-11-04 富士フイルム株式会社 超音波画像境界抽出方法及び超音波画像境界抽出装置、並びに、超音波撮像装置
JP2009118009A (ja) * 2007-11-02 2009-05-28 Sony Corp 撮像装置、その制御方法およびプログラム
US8577118B2 (en) * 2008-01-18 2013-11-05 Mitek Systems Systems for mobile image capture and remittance processing
US8004576B2 (en) * 2008-10-31 2011-08-23 Digimarc Corporation Histogram methods and systems for object recognition
JP4816717B2 (ja) * 2008-12-09 2011-11-16 ソニー株式会社 画像処理装置、撮像装置、画像処理方法およびプログラム
JP5550301B2 (ja) * 2009-10-16 2014-07-16 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
US8913783B2 (en) * 2009-10-29 2014-12-16 Sri International 3-D model based method for detecting and classifying vehicles in aerial imagery
US9031317B2 (en) * 2012-09-18 2015-05-12 Seiko Epson Corporation Method and apparatus for improved training of object detecting system
US9129189B2 (en) * 2013-08-14 2015-09-08 Qualcomm Incorporated Performing vocabulary-based visual search using multi-resolution feature descriptors

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01250184A (ja) * 1987-12-09 1989-10-05 Ricoh Co Ltd 文字認識方法及び文字の回転角度判定方法
JPH09223197A (ja) * 1996-02-15 1997-08-26 Fujitsu Ltd 文字認識装置
JP2008293073A (ja) * 2007-05-22 2008-12-04 Juki Corp 画像のマッチング処理方法
JP2012123626A (ja) * 2010-12-08 2012-06-28 Toyota Central R&D Labs Inc 対象物検出装置及びプログラム

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
BERG, ALEXANDER C., AND JITENDRA MALIK.: "Geometric blur for template matching.", COMPUTER VISION AND PATTERN RECOGNITION, 2001. CVPR 2001. PROCEEDINGS OF THE 2001 IEEE COMPUTER SOCI, JPN7018000650, 2001, pages 1 - 8 *
新井 啓介 外2名: "特徴領域の位置関係に着目したテンプレートマッチングによる類似物体検出", 特徴領域の位置関係に着目したテンプレートマッチングによる類似物体検出,情報処理学会研究報告 平成22, JPN6018007343, 15 June 2010 (2010-06-15), JP, pages 1 - 8 *
田中 弘一 外3名: "パラメトリックテンプレート法とその高精度ロバストマッチングへの応用", 電子情報通信学会論文誌 (J83−D−II) 第4号 情報・システムII−パターン処理, vol. 第J83-D-II巻 第4号, JPN6018007347, 25 April 2000 (2000-04-25), JP, pages 1119 - 1130 *

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102016013274A1 (de) 2015-11-06 2017-05-11 Fanuc Corporation Bildverarbeitungsvorrichtung und verfahren zur erkennung eines bilds eines zu erkennenden objekts aus eingabedaten
US11227144B2 (en) 2015-11-06 2022-01-18 Fanuc Corporation Image processing device and method for detecting image of object to be detected from input data
WO2018070032A1 (ja) * 2016-10-14 2018-04-19 富士機械製造株式会社 画像処理装置
JPWO2018070032A1 (ja) * 2016-10-14 2019-08-08 株式会社Fuji 画像処理装置

Also Published As

Publication number Publication date
CN104217194A (zh) 2014-12-17
US20140355886A1 (en) 2014-12-04
EP2808828A2 (en) 2014-12-03
JP6432162B2 (ja) 2018-12-05
EP2808828A3 (en) 2015-04-08
US9384419B2 (en) 2016-07-05
EP2808828B1 (en) 2020-08-05
CN104217194B (zh) 2017-08-25

Similar Documents

Publication Publication Date Title
JP6432162B2 (ja) 画像照合方法、画像照合装置、モデルテンプレート生成方法、モデルテンプレート生成装置、およびプログラム
US10936911B2 (en) Logo detection
Hannuna et al. Ds-kcf: a real-time tracker for rgb-d data
CA2789887C (en) Face feature vector construction
US8542928B2 (en) Information processing apparatus and control method therefor
US8718324B2 (en) Method, apparatus and computer program product for providing object tracking using template switching and feature adaptation
JP5261501B2 (ja) 不変の視覚場面及び物体の認識
JP5449329B2 (ja) 強化された画像整合のための方法およびシステム
JP6393230B2 (ja) オブジェクト検出方法及び画像検索システム
JP2011134102A (ja) 情報処理装置及び情報処理方法
JP2018045302A (ja) 情報処理装置、情報処理方法及びプログラム
JP5656768B2 (ja) 画像特徴量抽出装置およびそのプログラム
JP6278108B2 (ja) 画像処理装置、画像センサ、画像処理方法
CN112101386A (zh) 文本检测方法、装置、计算机设备和存储介质
Tarrataca et al. The current feasibility of gesture recognition for a smartphone using J2ME
Khan et al. Feature-Based Tracking via SURF Detector and BRISK Descriptor
WO2015178001A1 (ja) 画像照合システム、画像照合方法、およびプログラムを記憶する記録媒体
Nguyen et al. Unconstrained gender classification by multi-resolution LPQ and SIFT
KR101627974B1 (ko) 영상 블러에 강인한 영상 특징 기술자 생성 방법 및 장치
Wang et al. Ultra-Fast Mini License Plate Recognition System Based-on Vision Processing Unit
JP2007304899A (ja) 識別辞書生成装置及び識別辞書生成方法
EP4242985A1 (en) Information processing apparatus, program, and information processing method
WO2012147844A1 (ja) 物体又は形状の認識又は検索方法およびそのシステムおよびそのプログラム
US20220092769A1 (en) Collation apparatus, collation method, and computer readable recording medium
Danielsson et al. Comparing Two Generations of Embedded GPUs Running a Feature Detection Algorithm

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170209

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180126

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180306

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180502

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181009

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181022

R150 Certificate of patent or registration of utility model

Ref document number: 6432162

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150