JP6455011B2 - 画像処理装置、輪郭抽出方法及びプログラム - Google Patents

画像処理装置、輪郭抽出方法及びプログラム Download PDF

Info

Publication number
JP6455011B2
JP6455011B2 JP2014160181A JP2014160181A JP6455011B2 JP 6455011 B2 JP6455011 B2 JP 6455011B2 JP 2014160181 A JP2014160181 A JP 2014160181A JP 2014160181 A JP2014160181 A JP 2014160181A JP 6455011 B2 JP6455011 B2 JP 6455011B2
Authority
JP
Japan
Prior art keywords
image
pixel
contour
luminance
distance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014160181A
Other languages
English (en)
Other versions
JP2016038654A (ja
JP2016038654A5 (ja
Inventor
洋昭 ▲角▼田
洋昭 ▲角▼田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2014160181A priority Critical patent/JP6455011B2/ja
Publication of JP2016038654A publication Critical patent/JP2016038654A/ja
Publication of JP2016038654A5 publication Critical patent/JP2016038654A5/ja
Application granted granted Critical
Publication of JP6455011B2 publication Critical patent/JP6455011B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本発明は、画像処理装置、輪郭抽出方法及びプログラムに関する。
画像データの示す画像の輪郭(エッジ)を抽出する処理として、SobelフィルタやPrewittフィルタなどを用いた画像処理(輪郭抽出処理)が知られている。これらの画像処理では、注目画素と周囲画素との輝度差の大きい画素が輪郭(エッジ)として抽出されることになる。
また、コントラストの低い画像の輪郭を抽出する処理として、例えば特許文献1記載の処理が知られている。
特開2010−140323号公報
SobelフィルタやPrewittフィルタなどを用いた画像処理(輪郭抽出処理)では、高コントラストの画像であれば輪郭を良好に抽出できるが、低コントラストの画像の場合、注目画素と周囲画素との輝度差が小さくなるため、輪郭を抽出しにくくなる。一方、注目画素と周囲画素との輝度差の小さい画素を輪郭として抽出してしまうと、ノイズを輪郭として抽出するおそれがある。
特許文献1記載の画像処理は輪郭の方向を限定しない方法であるため、輪郭と無関係の輝度変化(例えば濃淡むら)が存在する場合に、輪郭を正確に抽出できないおそれがある。
本発明は、精度良く輪郭を抽出することを目的とする。
上記の目的を達成するための主たる発明は、被撮像物を撮像した画像から輪郭を判別する画像処理装置であって、前記画像の画素のデータを記憶する画素データ記憶部と、前記画素データ記憶部に記憶された前記画像の画素のデータから、前記画像の一の画素の輝度と前記画像の他の画素の輝度とを取得する輝度取得部と、前記画素データ記憶部に記憶された前記画像の画素のデータから、前記画像の一の画素と前記画像の他の画素との間の距離を取得する画素間距離取得部と、前記画素間距離に基づいた係数を記憶する係数記憶部と、前記画像の一の画素の輝度と前記画像の他の画素の輝度との差分と前記画素間距離に基づいた係数とを乗算した値の総和を前記画像の一の画素の算出値として算出する総和算出部と、前記画素の算出値を閾値と比較する閾値比較部と、前記閾値比較部の結果に基づいて前記画像から前記輪郭を判別する輪郭判別部と、を含む、ことを特徴とする画像処理装置である。
本発明の他の特徴については、本明細書及び添付図面の記載により明らかにする。
図1は、検査システムの概要の説明図である。 図2は、画像データの示す画像の説明図である。 図3は、ヘッド41を下から見た図である。 図4は、ヘッド41の分解斜視図である。 図5は、ヘッド41の内部構成を説明するための概略断面図である。 図6Aは、画像データにおける圧力発生室120の輪郭の概念図である。図6Bは、カメラ15で撮影された圧力発生室120の画像である。 図7Aは、オリジナル画像データに対するSobel処理後の多階調画像である。図7B及び図7Cは、図7Aの画像データに対する2値化処理後の2値画像である。 図8Aは、第2参考例の画像処理に用いられるフィルタの説明図である。図8B〜図8Eは、第2参考例の別のフィルタの説明図である。 図9A〜図9Eは、第2参考例の画像処理後の差分画像F’_dである。図9A〜図9Eは、それぞれ距離dの異なる差分画像F’_dである(d=1,2,4,8,16,32)。 図10は、第1実施形態の輪郭抽出処理のフロー図である。 図11Aは、差分合成画像F’_tである。図11Bは、2値画像である。 図12は、第2実施形態のフィルタの説明図である。 図13は、第3実施形態のフロー図である。 図14は、第4実施形態のフロー図である。 図15は、第5実施形態のフィルタの説明図である。
本明細書及び添付図面の記載により、少なくとも、以下の事項が明らかとなる。
被撮像物を撮像した画像から輪郭を判別する画像処理装置であって、前記画像の画素のデータを記憶する画素データ記憶部と、前記画素データ記憶部に記憶された前記画像の画素のデータから、前記画像の一の画素の輝度と前記画像の他の画素の輝度とを取得する輝度取得部と、前記画素データ記憶部に記憶された前記画像の画素のデータから、前記画像の一の画素と前記画像の他の画素との間の距離を取得する画素間距離取得部と、前記画素間距離に基づいた係数を記憶する係数記憶部と、前記画像の一の画素の輝度と前記画像の他の画素の輝度との差分と前記画素間距離に基づいた係数とを乗算した値の総和を前記画像の一の画素の算出値として算出する総和算出部と、前記画素の算出値を閾値と比較する閾値比較部と、前記閾値比較部の結果に基づいて前記画像から前記輪郭を判別する輪郭判別部と、を含む、ことを特徴とする画像処理装置が明らかとなる。
このような画像処理装置によれば、精度良く輪郭を抽出することができる。
請求項1に記載の画像処理装置であって、前記画素間距離が離れるほど前記係数が小さくなる、ことが望ましい。これにより、鮮明な輪郭を抽出できる。
最小の前記画素間距離に基づいた前記係数は他の前記係数よりも小さい、ことが望ましい。これにより、ノイズの影響を低減できる。
前記輪郭判別部は、前記画素間距離に基づいた係数を再設定し、再設定された前記係数に基づいて前記総和を再度算出する、ことが望ましい。これにより、適した係数を用いて輪郭抽出処理を行うことができる。
前記輪郭判別部は、前記画像の画素のデータに基づき2値画像を取得し、前記2値画像から前記輪郭を判別するものであり、前記画像の画素のデータに基づき、前記画素間距離に基づいた係数と前記閾値とを再設定し、再設定された前記係数に基づいて前記総和を再度算出し、再設定された前記係数に基づいて前記総和を再度算出する、ことが望ましい。これにより、適した係数及び閾値を用いて輪郭抽出処理を行うことができる。
前記画像の画素のデータは、階調値を示すデータである、ことが望ましい。
被撮像物の画像の画素のデータを記憶する工程と、前記画素データ記憶部に記憶された前記画像の画素のデータから、前記画像の一の画素の輝度と前記画像の他の画素の輝度とを取得する工程と、記憶された前記画像の画素のデータから、前記画像の一の画素と前記画像の他の画素との間の距離を取得する工程と、前記画素間距離に基づいた係数を記憶する工程と、前記画像の一の画素の輝度と前記画像の他の画素の輝度との差分と前記画素間距離に基づいた係数とを乗算した値の総和を前記画像の一の画素の算出値として算出する工程と、前記画素の算出値を閾値と比較する工程と、前記閾値と比較する工程の結果に基づいて前記画像から前記輪郭を判別する工程と、を含む、ことを特徴とする画像処理方法が明らかとなる。このような画像処理方法によれば、精度良く輪郭を抽出することができる。
被撮像物を撮像した画像から輪郭を判別する画像処理装置に、前記被撮像物の画像の画素のデータを記憶することと、前記画素データ記憶部に記憶された前記画像の画素のデータから、前記画像の一の画素の輝度と前記画像の他の画素の輝度とを取得することと、記憶された前記画像の画素のデータから一の前記画素と他の前記画素との間の距離を取得することと、前記画素間距離に基づいた係数を記憶することと、前記画像の一の画素の輝度と前記画像の他の画素の輝度との差分と前記画素間距離に基づいた係数とを乗算した値の総和を前記画像の一の画素の算出値として算出することと、前記画像の画素の算出値を閾値と比較することと、前記閾値と比較する結果に基づいて前記画像から前記輪郭を判別することと、を実行させることを特徴とするプログラムが明らかとなる。このようなプログラムによれば、精度良く輪郭を抽出することができる。
===第1実施形態===
<検査システムの概要>
図1は、検査システムの概要の説明図である。検査システムは、コンピューター10と、カメラ15と、ステージ装置20と、位置検出器30とを有する。検査システムは、カメラ15で撮影した被撮像物の輪郭を検出(抽出)することによって、被撮像物を検査する。
コンピューター10は、検査システムの全体の制御を司る制御装置である。コンピューター10は、後述する画像処理(輪郭抽出処理)を行う画像処理装置となる。コンピューター10は、画像処理部11Aと、カメラ制御部11Bと、モーター制御部11Cと、位置検出部11Dとを有する。画像処理部11Aは、画素データ記憶部12Aと、輝度取得部12Bと、画素間距離取得部12Cと、係数記憶部12Dと、総和算出部12Eと、閾値比較部12Fと、輪郭判別部12Gとを有する。これらの各部の機能は、コンピューター10のCPUやメモリーや制御基板等のハードウェアと、コンピューター10上で起動されたプログラムとによって実現される。なお、コンピューター10には、マウスやキーボード等の入力装置やディスプレイ等の出力装置も接続されている。
画像処理部11Aは、被撮像物を撮像した画像から輪郭を判別することを行う。画像処理部11Aの画素データ記憶部12Aは、画像の画素のデータ(画素データ)を記憶することを行う。輝度取得部12Bは、画素データ記憶部12Aに記憶された画素データから、画像の一の画素の輝度と画像の他の画素の輝度とを取得することを行う。画素間距離取得部12Cは、画素データ記憶部12Aに記憶された画素データから、画像の一の画素と画像の他の画素との間の距離(画素間距離)を取得することを行う。係数記憶部12Dは、画素間距離に基づいた係数(重み係数)を記憶することを行う。総和算出部12Eは、一の画素の輝度と他の画素の輝度との差分と画素間距離に基づいた重み係数とを乗算した値の総和を画像の一の画素の算出値として算出することを行う。閾値比較部12Fは、総和算出部12Eの算出した算出値を閾値と比較することを行う。輪郭判別部12Gは、閾値比較部12Fの結果に基づいて画像から輪郭を判別することを行う。画像処理部11Aの各部の行う輪郭抽出処理については、後述する。
カメラ15は、被撮像物(撮像対象物)を撮影し、画像データを出力する撮像装置である。ここでは、カメラ15は、赤外線デジタルカメラである。カメラ15が撮影した画像は、デジタル画像データとしてコンピューター10に出力される。コンピューター10のカメラ制御部11Bは、カメラ15の制御を行い、カメラ15から受信した被撮像物の画像データを画素データ記憶部12Aに記憶させる。ここでは、カメラ15の光軸の方向を「Z方向」とする。また、Z方向と垂直な方向を「XY平面」とする。カメラ15が撮影した画像は、XY平面の2次元画像である。
図2は、画像データの示す画像の説明図である。「画像データ」とは、画像を示すデータである。本実施形態では、画像データの示す画像は2次元画像であり、M×N画素(x方向にM画素、y方向にN画素)で構成される画像である。「画素」とは、画像を構成する最小単位である。「画素データ」とは、画素に対応付けられたデータである。画像データは多数の画素データから構成されている。本実施形態では、画素データは、画素の階調値(明るさ又は輝度)を示すデータである。以下の説明では、x方向のi番目、y方向のj番目の画素のことを「画素(i,j)」と呼ぶことがある。また、画素(i,j)に対応する画素データを「f(i,j)」などと表記することがある。画像データが256階調の画像を示す場合、画素データは、0〜255の範囲の値を示す。また、画像データが2階調の画像(2値画像)を示す場合、画素データは、0又は1の値を示す。
ステージ装置20は、カメラ15と被撮像物とを相対的に移動させる装置である。ステージ装置20は、被撮像物を保持する治具21と、治具21を搭載して移動可能なステージ22と、ステージ22を移動させる駆動モーター23とを有する。ステージ22は、例えばXY平面で移動可能なXYステージであるが、更にZ方向に移動可能なZステージや、治具21を回転させる回転ステージを備えていても良い。また、ステージ装置20は、治具21を移動させる代わりにカメラ15を移動させても良いし、治具21とカメラ15の双方を移動させても良い。コンピューター10のモーター制御部11Cは、駆動モーター23を制御して、ステージ22の位置を制御する。
位置検出器30は、ステージ22(若しくは治具21)の位置を検出するための装置である。位置検出器30は、例えばレーザー測長器である。位置検出器30の検出結果は、位置情報としてコンピューター10に出力される。コンピューター10の位置検出部11Dは、位置情報を画素データ記憶部12Aに記憶させる。この位置情報は、モーター制御部11Cへのフィードバックに用いられたり、カメラ15が撮影した画像の位置情報として用いられたりする。
<被撮像物の構成>
本実施形態では、インクジェットプリンターにおけるインク吐出ヘッド(以下、ヘッドという)が被撮像物となる。
図3は、ヘッド41を下から見た図である。ヘッド41は、6色(ブラックK、イエローY、濃マゼンタDM、淡マゼンタLM、濃シアンDC、淡シアンLC)のノズル列を備えている。6個のノズル列は、それぞれ、インクを吐出するための吐出口であるノズルを800個備えている。800個のノズルは、1/300インチの間隔(300dpi)で並んでいる。
図4は、ヘッド41の分解斜視図である。図4では、図面の簡略化のため、ノズル数を減らして図示している。図5は、ヘッド41の内部構成を説明するための概略断面図である。
ヘッド41は、流路形成基板100と、ノズルプレート200と、保護基板300と、コンプライアンス基板400とを備えている。流路形成基板100とノズルプレート200と保護基板300とは、流路形成基板100をノズルプレート200と保護基板300とで挟むように積み重ねられ、保護基板300上には、コンプライアンス基板400が設けられている。さらに、コンプライアンス基板400上には、保持部材であるケースヘッド600が設けられ、その上にホルダー部材700、中継基板800が設けられている。
流路形成基板100には、隔壁によって区画された複数の圧力発生室120が、その幅方向に並設された列として2列設けられている。ここで圧力発生室120は対をなして設けられている。
また、各列の圧力発生室120の長手方向外側の領域には連通部130が形成され、連通部130と各圧力発生室120とが、圧力発生室120毎に設けられたインク供給路140および連通路150を介して連通されている。連通部130は、保護基板300のリザーバー部310と連通して圧力発生室120の列毎に共通のインク室となるマニホールド900の一部を構成する。インク供給路140は、圧力発生室120よりも狭い幅で形成されており、連通部130から圧力発生室120に流入するインクの流路抵抗を一定に保持している。
一方、このような流路形成基板100の開口面とは反対側には、弾性膜170が形成され、この弾性膜170上には、絶縁体膜180が形成されている。さらに、この絶縁体膜180上には、圧力発生素子となるピエゾ素子47が構成されている。ここで、ピエゾ素子47は、下電極47a、圧電体層47bおよび上電極47cを含む部分をいう。ピエゾ素子47は、圧力発生室120に対応して対をなしている。
フレキシブルプリント基板FPCの第1の端部511は保護基板300に差し込まれ、第2の端部212は中継基板800と接続されている。なお、第1の端部511は対向するピエゾ素子47に向けて配置されている。フレキシブルプリント基板FPCの第1の端部511側の配線520は、リード電極530を介して、ピエゾ素子47の上電極47cと電気的に接続されている。
フレキシブルプリント基板FPCの第2の端部512は、ホルダー部材700のスリットおよび中継基板800のスリットに通されている。そして、第2の端部512の配線520は中継基板800の端子810に接合されている。また、フレキシブルプリント基板FPCには、各ピエゾ素子47の駆動を制御するヘッド制御部HCが実装されている。
図6Aは、画像データにおける圧力発生室120の輪郭の概念図である。カメラ15(赤外線デジタルカメラ)でヘッド41をノズルプレート200の側から撮影すると、圧力発生室120の画像が撮影可能である。ヘッド41は特定の形状(既知の形状)であるため、カメラ15に対するヘッド41の向きが特定されていれば、圧力発生室120の画像の向きを特定可能である。ここでは、画像データにおける圧力発生室120の幅方向をx方向とし、圧力発生室120の輪郭の方向をy方向とする。言い換えると、画像データにおける圧力発生室120の幅方向がx方向となり、圧力発生室120の輪郭の方向がy方向となるように、ヘッド41を治具21にセットして、カメラ15でヘッド41を撮影する。
また、カメラ15の解像度や画角なども予め決まっているため、画像データにおける圧力発生室120の画像の大きさも、ある程度の範囲内に特定可能である。ここでは、画像データにおける圧力発生室120の幅は67画素程度である。また、圧力発生室120の幅方向における圧力発生室120と圧力発生室120との間隔(隔壁の幅)は94画素程度である。
図6Bは、カメラ15で撮影された圧力発生室120の画像である。カメラ15で撮影された圧力発生室120の画像は低コントラストの画像である。以下の説明では、この画像のことを「オリジナル画像(原画像)」と呼び、この画像の画像データのことを「オリジナル画像データ(原画像データ)」と呼ぶ。本実施形態では、オリジナル画像データに基づいて、低コントラストのオリジナル画像から圧力発生室120の輪郭を抽出することになる。
<第1参考例の画像処理方法>
第1参考例では、256階調のオリジナル画像データに対して公知のSobel処理(Sobelフィルタを用いた画像処理)を施した後、Sobel処理後の多階調画像に対して2値化処理を施して、2値画像から輪郭を抽出する。
図7Aは、オリジナル画像データに対するSobel処理後の多階調画像である。図7B及び図7Cは、図7Aの画像データに対する2値化処理後の2値画像である。2値化処理に用いられる閾値は、図7Bでは低い値であり、図7Cでは高い値である。
オリジナル画像(図6B参照)には輪郭の方向と垂直な方向(x方向)に濃淡差の発生している領域があるため、Sobel処理後の多階調画像(図7A)には、輪郭に位置する画素だけでなく、輪郭とは異なる領域(濃淡差のある領域)の画素も、高い階調値を示すものがある。このため、低い閾値で2値化処理を行うと、図7Bに示すように、2値画像に多くのノイズが含まれてしまい、輪郭抽出が困難になる。一方、高い閾値で2値化処理を行うと、図7Cに示すように、2値画像のノイズが低減するものの、輪郭を示す画素も少なくなり、輪郭抽出が困難になる。
<第2参考例の画像処理方法>
図8Aは、第2参考例の画像処理に用いられるフィルタの説明図である。このフィルタを用いてオリジナル画像Fの画像データを画像処理すると、画像処理後の画像F’_1の画素(i,j)の画素データf’_1(i,j)は次の通りになる。
f’_1(i,j)=f(i+1,j)−f(i−1,j)
すなわち、図8Aのフィルタを用いた画像処理は、オリジナル画像Fの注目画素(i,j)をx方向から挟む2つの画素であって、注目画素(i,j)から1画素離れている2つの画素(画素(i+1,j)及び画素(i−1,j))を抽出し、注目画素(i,j)の画素データf(i,j)をその2つの画素の画素データの差分値f’_1(i,j)に変換する処理である。なお、オリジナル画像Fにおける輪郭の方向がy方向であるため(図6A参照)、輪郭の方向と直交するx方向から注目画素(i,j)を挟む2つの画素を抽出している。
同様に、図8B〜図8Eは、第2参考例の別のフィルタの説明図である。これらのフィルタを用いた画像処理は、オリジナル画像Fの注目画素(i,j)をx方向から挟む2つの画素であって、注目画素(i,j)から距離d(ここではd=2,4,8,16)だけ離れている2つの画素(画素(i+d,j)及び画素(i−d,j))を抽出し、注目画素(i,j)の画素データf(i,j)をその2つの画素の画素データの差分値に変換する処理である。
以下の説明では、注目画素から距離dだけ離れた2つの画素の画素データの差分値に変換する画像処理後の画像のことを「差分画像F’_d」と呼ぶことがある。また、差分画像F’_dの画素(i,j)の画素データを「f’_d(i,j)」と表記することがある。
図9A〜図9Eは、第2参考例の画像処理後の差分画像F’_dである。図9A〜図9Eは、それぞれ距離dの異なる差分画像F’_dである(d=1,2,4,8,16,32)。
オリジナル画像Fが低コントラストの画像の場合、注目画素から近い2つの画素(言い換えると、画素間距離の近い2つの画素)の差分値は小さい値になる。このため、注目画素から近い2つの画素の差分値に変換する画像処理を行った場合、輪郭に位置する画素の画素データは小さな値になり、例えば図9Aに示すように差分画像F’_1における輪郭の強度(エッジ強度)は弱くなる。この結果、差分画像F’_1に対して低い閾値で2値化処理を行うと、2値画像に多くのノイズが含まれてしまい、輪郭抽出が困難になる。一方、差分画像F’_1に対して高い閾値で2値化処理を行うと、2値画像のノイズが低減するものの、輪郭を示す画素も少なくなり、輪郭抽出が困難になる。
また、オリジナル画像Fが低コントラストの画像であっても、注目画素から離れた2つの画素(言い換えると、画素間距離の離れた2つの画素)の差分値は大きい値になる。このため、注目画素から離れた2つの画素の差分値に変換する画像処理を行った場合、輪郭に位置する画素の画素データは大きな値になり、例えば図9Eに示すように差分画像F’_16における輪郭の強度は強くなり、ノイズの影響が低減する。但し、この場合、輪郭が太くなってしまい、輪郭の位置を精度良く特定できなくなってしまう。
<第1実施形態の輪郭抽出処理>
図10は、第1実施形態の輪郭抽出処理のフロー図である。コンピューター10のプログラムが、コンピューター10のCPUやメモリーなどのハードウェアを用いて画像処理部11Aとして機能することによって、図中の各工程を実現させることになる。
なお、輪郭抽出処理を行う前に、コンピューター10のカメラ制御部11Bは、カメラ15に被撮像物(ここではヘッド41)を撮影させて、256階調のオリジナル画像データを画素データ記憶部12Aに記憶させる。すなわち、画素データ記憶部12A(図1参照)は、オリジナル画像の画素データを記憶することを行う。なお、既に説明した通り、オリジナル画像における圧力発生室120の幅方向はx方向であり、圧力発生室120の輪郭の方向はy方向である。
コンピューター10の画像処理部11Aは、オリジナル画像データに基づいて、図9A〜図9Eの差分画像F’_dをそれぞれ作成する(S001)。このとき、輝度取得部12B(図1参照)が、画素データ記憶部12Aに記憶された画素データから、オリジナル画像の一の画素の輝度と他の画素の輝度とを取得し、画素間距離取得部12Cが、画素データ記憶部12Aに記憶された画素データから、オリジナル画像の一の画素と他の画素との間の距離となる画素間距離を取得する。また、総和算出部12Eは、一の画素の輝度と他の画素の輝度との差分を算出する(なお、総和算出部12Eは、この差分と画素間距離に基づいた重み係数とを乗算した値の総和を画像の一の画素の算出値として算出することになる)。画像処理部11Aは、オリジナル画像Fの注目画素(i,j)をx方向から挟む2つの画素の対(以下、「画素対」という)を、注目画素からの距離dを異ならせて複数抽出し、各画素対の2つの画素の画素データの差分値をそれぞれ算出し、注目画素(i,j)の画素データf(i,j)を差分値f’_d(i,j)にそれぞれ変換することによって、複数の差分画像F’_dをそれぞれ作成する(ここではd=1,2,4,8,16の5種類の差分画像F’_dを作成する)。
なお、複数の画素対のうちの最も離れた2つの画素は、32画素離れている(d=16)。このように、複数の画素対のうちの最も離れた2つの画素は、想定される輪郭画像の間隔(ここでは67画素程度、図6A参照)よりも狭いことが望ましく、想定される輪郭画像の間隔の半分以下であることが更に望ましい。仮に複数の画素対のうちの最も離れた2つの画素が64画素(d=32)まで離れてしまうと、抽出される2つの画素が、異なる輪郭に属する画素になり得るからである。
次に、画像処理部11Aは、距離dに応じた重み付けをしつつ、複数の差分画像F’_dを合成し、差分合成画像F’_tを作成する(S002)。ここで、距離dに応じた重み係数w_dは、予め次のように設定されている(つまり、図1に示す係数記憶部12Dは、画素間距離に基づいた重み係数w_dを記憶している)。
w_1=0.26
w_2=0.59
w_4=0.34
w_8=0.08
w_16=0.03
なお、差分合成画像F’_tの画素(i,j)の画素データを「f’_t(i,j)」と表記すると、画像処理部11Aの総和算出部12E(図1参照)は、S002の処理の際に、次式に示すように、2つの画素の輝度の差分値(差分画像F’_dの画素データf’_d(i,j))と距離dに応じた重み係数w_d(画素間距離に基づいた係数)とを乗算した値の総和であるf’_t(i,j)を注目画素(i,j)の算出値(前記画像の一の画素の算出値)として算出する。
f’_t(i,j)=f’_1(i,j)×w_1
+f’_2(i,j)×w_2
+f’_4(i,j)×w_4
+f’_8(i,j)×w_8
+f’_16(i,j)×w_16
図11Aは、差分合成画像F’_tである。
図9Aの差分画像F’_1と比較して理解できる通り、差分合成画像F’_tでは、輪郭に位置する画素の画素データは大きな値になり、輪郭の強度は強くなり、ノイズの影響が低減する。これは、差分合成画像F’_tの画素データf’_t(i,j)を算出する際に、注目画素から離れた2つの画素(言い換えると、画素間距離の離れた2つの画素)の差分値が加算されているためである。
また、差分合成画像F’_tでは、図9Eの差分画像F’_16と比較して、輪郭が細くなっている。これは、差分合成画像F’_tの画素データf’_t(i,j)を算出する際に、注目画素から近い2つの画素(言い換えると、画素間距離の近い2つの画素)の差分値が加算されているためである。
注目画素から近い2つの画素(言い換えると、画素間距離の近い2つの画素)の差分値は小さい値になり、注目画素から遠い2つの画素(言い換えると、画素間距離の離れた2つの画素)の差分値は大きい値になるため、距離dが小さいほど重み係数w_dが大きい値に設定されており、距離dが大きいほど重み係数w_dが小さい値に設定されている。つまり、画素間距離が離れるほど、重み係数w_dが小さくなる。
但し、最小の距離d=1に対応する重み係数w_1(最小の画素間距離に基づいた係数)は、2番目に小さい距離d=2に対応する重み係数w_2よりも小さい値に設定されている。これは、図9Aに示すように差分画像F’_1はノイズの影響が強いため、仮に重み係数w_1を大きい値に設定してしまうと、差分合成画像F’_tにノイズの影響が残りやすくなってしまうからである。
次に、画像処理部11Aの閾値比較部12F(図1参照)は、256階調の差分合成画像F’_tに対して2値化処理を行い、2値画像を作成する(S003)。すなわち、画像処理部11Aの閾値比較部12Fは、S002で算出した算出値である画素データf’_t(i,j)を閾値と比較し、差分合成画像F’_tの画素データf’_t(i,j)が閾値未満の場合には0(黒)とし、閾値以上であれば1(白)とすることによって、256階調の画素データを2階調の画素データに変換する。また、画像処理部11Aの輪郭判別部12G(図1参照)は、閾値比較部12Fの2値化処理結果に基づいて、2階調で1(白)の画素を輪郭として判別する。
図11Bは、2値画像である。ここでは、2値化処理の閾値は80に設定されている。2値画像において白(画素データが1)の画素が、輪郭画像を示す輪郭画素として抽出された画素である。本実施形態では、2値画像において、y方向に沿った輪郭が抽出できている(図6Aも参照)。これは、2値化処理前の差分合成画像F’_tにおいて輪郭の強度が強く、ノイズの影響が弱いため、2値化処理によってノイズを適切に除去できたためである。また、本実施形態の2値画像では、y方向に沿った輪郭画像のx方向の幅が狭いため、差分合成画像F’_tを用いて輪郭のx方向の位置を精度良く特定することが可能である。
上記の第1実施形態によれば、画像処理部11Aの総和算出部12Eは、2つの画素の輝度の差分値と画素間距離に基づいた重み係数とを乗算した値の総和であるf’_t(i,j)を算出値として算出し、閾値比較部12Fが、この算出値f’_t(i,j)を閾値と比較し、輪郭判別部12Gが、閾値比較部12Fの比較結果に基づいて輪郭を判別している。これにより、図11Bに示すように、低コントラストのオリジナル画像から精度良く輪郭を抽出することが可能である。
また、第1実施形態によれば、2つの画素の距離が離れるほど(画素間距離が離れるほど)、重み係数w_dが小さい値に設定されている。画素間距離の離れた2つの画素の差分値は大きい値であるため、輪郭の強度は強いものの、このような差分値から作成される差分画像F’では輪郭が太くなるため、2つの画素の距離が離れるほど重み係数w_dを小さくすることによって、差分合成画像における輪郭画像の幅を狭めることができ、鮮明な輪郭を抽出できる。
また、第1実施形態によれば、最小の距離d=1に対応する重み係数w_1(最小の画素間距離に基づいた係数)は、2番目に小さい距離d=2に対応する重み係数w_2よりも小さい値に設定されている。これにより、差分合成画像F’_tでは、差分画像F’_1に多く含まれているノイズの影響を低減できる。
===第2実施形態===
第1実施形態では、図8に示す複数のフィルタを用いて複数の差分画像F’_dを作成した後(S001)、複数の差分画像F’_dを合成することによって、差分合成画像F’_tを作成していた(S002)。但し、差分合成画像F’_tの作成方法は、これに限られるものではない。
図12は、第2実施形態のフィルタの説明図である。このフィルタを用いてオリジナル画像Fの画像データを画像処理すると、画像処理後の差分合成画像F’_tの画素(i,j)の画素データf’_t(i,j)は次の通りになる。
f’_t(i,j)={f(i+1,j)−f(i−1,j)}×w_1
+{f(i+2,j)−f(i−2,j)}×w_2
+{f(i+4,j)−f(i−4,j)}×w_4
+{f(i+8,j)−f(i−8,j)}×w_8
+{f(i+16,j)−f(i−16,j)}×w_16
第2実施形態によれば、コンピューター10の画像処理部11Aは、図12に示すフィルタをオリジナル画像Fに適用することによって、差分画像F’_dを作成しなくても、差分合成画像F’_tを作成できる。このとき、画像処理部11Aの輝度取得部12B(図1参照)が、画素データ記憶部12Aに記憶された画素データから、オリジナル画像の一の画素の輝度と他の画素の輝度とを取得し、画素間距離取得部12Cが、画素データ記憶部12Aに記憶された画素データから、オリジナル画像の一の画素と他の画素との間の距離となる画素間距離を取得し、総和算出部12Eは、一の画素の輝度と他の画素の輝度との差分と画素間距離に基づいた重み係数とを乗算した値の総和を画像の一の画素の算出値として算出する。そして、前述の実施形態と同様に、画像処理部11Aの閾値比較部12F(図1参照)は、総和算出部の算出した算出値である画素データf’_t(i,j)を閾値と比較し、輪郭判別部12Gは、閾値比較部12Fの2値化処理結果に基づいて画像の輪郭を判別することになる。
第2実施形態においても、画像処理部11Aは、注目画素からの距離dの異なる画素対(注目画素をx方向から挟む2つの画素の対)を複数抽出し、画素対の2つの画素の画素データの差分値と重み係数とを乗算した値の総和であるf’_t(i,j)に基づいて、オリジナル画像Fの注目画素(i,j)の画素データf(i,j)を変換している。これにより、第1実施形態と同様に、低コントラストのオリジナル画像から精度良く輪郭を抽出することが可能である。
===第3実施形態===
予め定められた重み係数では、差分合成画像F’_tにノイズの影響が残り、この結果、2値画像から輪郭を適切に抽出できないことがある。そこで、第3実施形態では、輪郭を適切に抽出できるように重み係数を再設定する。
図13は、第3実施形態のフロー図である。
まず、コンピューター10の画像処理部11Aは、重み係数w_dを初期値に設定し(S101)、第1実施形態(又は第2実施形態)の輪郭抽出処理を行う(S102、図10のS001〜S003)。
次に、コンピューター10の画像処理部11Aは、輪郭を適切に抽出できたか否かを判断する(S103)。2値画像にノイズが多く含まれている場合や、ノイズが少なくても輪郭画像の幅が太い場合には、コンピューター10の画像処理部11Aは、輪郭を適切に抽出できていないと判断する(S103でNO)。
S103でNOの場合、コンピューター10の画像処理部11A(輪郭判別部12G)は、重み係数w_dを再設定する(S104)。例えば、S103において2値画像にノイズが多く含まれていた場合には、コンピューター10の画像処理部11Aは、小さい距離dに対応する重み係数を減少させ、大きい距離dに対応する重み係数を増加させるように、重み係数w_dを再設定する。また、S103において2値画像の輪郭画像の幅が太かった場合には、コンピューター10の画像処理部11Aは、小さい距離dに対応する重み係数を増加させ、大きい距離dに対応する重み係数を減少させるように、重み係数w_dを再設定する。
S104による重み係数w_dの再設定後、コンピューター10の画像処理部11A(輪郭判別部12G)は、再設定された重み係数w_dに基づいて、第1実施形態(又は第2実施形態)の輪郭抽出処理を再び行う(S102、図10のS001〜S003)。そして、コンピューター10の画像処理部11Aは、輪郭を適切に抽出できるまで(S103でYES)、重み係数wの再設定(S104)と画像抽出処理(S102)とを繰り返す。これにより、輪郭抽出処理に適した重み係数を探索でき、適した重み係数を用いて輪郭抽出処理を行うことができる。
===第4実施形態===
予め定められている閾値では、2値画像から輪郭を適切に抽出できないことがある。そこで、第4実施形態では、重み係数だけでなく、2値化処理の閾値も再設定する。
図14は、第4実施形態のフロー図である。
まず、コンピューター10の画像処理部11Aは、重み係数w_d及び閾値を初期値に設定し(S201)、第1実施形態(又は第2実施形態)の輪郭抽出処理を行う(S202、図10のS001〜S003)。
次に、コンピューター10の画像処理部11Aは、輪郭を適切に抽出できたか否かを判断する(S203)。2値画像の輪郭画像が現れていない場合や、2値画像にノイズが多く含まれている場合や、ノイズが少なくても輪郭画像の幅が太い場合には、コンピューター10の画像処理部11Aは、輪郭を適切に抽出できていないと判断する(S203でNO)。
S203でNOの場合、コンピューター10の画像処理部11A(輪郭判別部12G)は、重み係数w_dと閾値を再設定する(S204)。例えば、S203において2値画像に輪郭画像が現れていない場合には閾値を小さくし、ノイズが多く含まれていた場合には閾値を大きくする。閾値を変更しても輪郭を適切に抽出できなければ、第3実施形態と同様に重み係数を変更する。
S204による重み係数w_dと閾値の再設定後、コンピューター10の画像処理部11A(輪郭判別部12G)は、再設定された重み係数w_dと閾値とに基づいて、第1実施形態(又は第2実施形態)の輪郭抽出処理を再び行う(S202、図10のS001〜S003)。そして、コンピューター10の画像処理部11Aは、輪郭を適切に抽出できるまで(S203でYES)、重み係数w及び閾値の再設定(S204)と画像抽出処理(S202)とを繰り返す。これにより、輪郭抽出処理に適した重み係数及び閾値を探索でき、適した重み係数及び閾値を用いて輪郭抽出処理を行うことができる。
===第5実施形態===
前述のフィルタによれば、注目画素を挟む2つの画素を抽出し、その2つの画素の画素データの差分値を算出していた。但し、差分値の算出時に抽出される2つの画素は、注目画素を挟んでいなくても良い。
図15A〜図15Eは、第5実施形態のフィルタの説明図である。画像処理部11Aの総和算出部12Eは、次式のように、注目画素の輝度と画素間距離dだけ離れた画素の輝度との差分を算出する。
f’_d(i,j)=f(i,j)−f(i+d,j)
なお、第5実施形態の画像処理部11Aの総和算出部12Eは、第1実施形態と同様に、次式に示すように、2つの画素の輝度の差分値f’_d(i,j)と距離dに応じた重み係数w_d(画素間距離に基づいた係数)とを乗算した値の総和であるf’_t(i,j)を注目画素(i,j)の算出値(前記画像の一の画素の算出値)として算出することになる。
f’_t(i,j)=f’_1(i,j)×w_1
+f’_2(i,j)×w_2
+f’_4(i,j)×w_4
+f’_8(i,j)×w_8
+f’_16(i,j)×w_16
そして、第5実施形態においても、閾値比較部12Fが、この算出値f’_t(i,j)を閾値と比較し、輪郭判別部12Gが、閾値比較部12Fの比較結果に基づいて輪郭を判別することが可能である。
===その他の実施の形態===
上記の実施形態は、本発明の理解を容易にするためのものであり、本発明を限定して解釈するためのものではない。本発明は、その趣旨を逸脱することなく、変更、改良され得ると共に、本発明にはその等価物が含まれることは言うまでもない。
<被撮像物について>
被撮像物は、ヘッド41に限られるものではない。但し、被撮像物の輪郭は、所定の方向に沿っていることが望ましい。
また、前述の実施形態では、オリジナル画像データにおける輪郭の方向がy方向になるように、被撮像物を撮影していた。但し、オリジナル画像データにおける輪郭の方向は、予め決められていなくても良い。オリジナル画像データにおける輪郭の方向が不明な場合には、オリジナル画像データの画像を複数の回転角度で回転させた画像をそれぞれ作成し、回転後のそれぞれの画像に対して前述の輪郭抽出処理をそれぞれ行い、最も鮮明に輪郭を抽出できたものを採用すれば、輪郭の方向を特定可能である。
<フィルタについて1>
前述の第1、第2実施形態によれば、33×1画素(x方向に33画素、y方向に1画素)のフィルタを用いて輪郭抽出処理が行われていた(図8E、図12参照)。但し、フィルタの大きさは、x方向に33画素(注目画素から16画素近傍)のものに限られるものではない。また、フィルタのy方向も1画素のものに限られるものではない。
<フィルタについて2>
前述の第1、第2実施形態のフィルタによれば、注目画素を所定方向(x方向)から挟む2つの画素(画素対)は、注目画素から等距離で離れていた。但し、注目画素を挟む2つの画素は、注目画素から等距離で離れていなくても良い。例えば、注目画素を挟む2つの画素のうちのプラス側の画素が、マイナス側の画素よりも、注目画素から離れていても良い。
<重み係数について>
重み係数w_dは、前述の数値に限られるものではない。また、最小の距離d=1に対応する重み係数w_1が、2番目に小さい距離d=2に対応する重み係数w_2よりも大きい値であっても良い。この場合、第1実施形態と比べてノイズの影響を受けやすくなるものの、距離dが大きいほど重み係数w_dが小さい値に設定されているため、鮮明な輪郭を抽出できる。
10 コンピューター、
11A 画像処理部、11B カメラ制御部、
11C モーター制御部、11D 位置検出部、
12A 画素データ記憶部、12B 輝度取得部、
12C 画素間距離取得部、12D 係数記憶部、
12E 総和算出部、12F 閾値比較部、12G 輪郭判別部、
15 カメラ、16 3次元測定装置、
20 ステージ装置、21 治具、
22 ステージ、23 駆動モーター、
30 位置検出器、120 圧力発生室

Claims (8)

  1. 被撮像物を撮像した画像から輪郭を判別する画像処理装置であって、
    前記画像の画素のデータを記憶する画素データ記憶部と、
    前記画素データ記憶部に記憶された前記画像の画素のデータから、前記画像の一の画素の輝度と前記画像の他の画素の輝度とを取得する輝度取得部と、
    前記画素データ記憶部に記憶された前記画像の画素のデータから、前記画像の一の画素と前記画像の他の画素との間の距離を取得する画素間距離取得部と、
    前記画素間距離に基づいた係数を記憶する係数記憶部と、
    前記画像の一の画素の輝度と前記画像の他の画素の輝度との差分と前記画素間距離に基づいた係数とを乗算した値の総和を前記画像の一の画素の算出値として算出する総和算出部と、
    前記画素の算出値を閾値と比較する閾値比較部と、
    前記閾値比較部の結果に基づいて前記画像から前記輪郭を判別する輪郭判別部と、
    を含む、
    ことを特徴とする画像処理装置。
  2. 請求項1に記載の画像処理装置であって、
    前記画素間距離が離れるほど前記係数が小さくなる、
    ことを特徴とする画像処理装置。
  3. 請求項2に記載の画像処理装置であって、
    最小の前記画素間距離に基づいた前記係数は他の前記係数よりも小さい、
    ことを特徴とする画像処理装置。
  4. 請求項1〜3のいずれか一項に記載の画像処理装置であって、
    前記輪郭判別部は、前記画素間距離に基づいた係数を再設定し、再設定された前記係数に基づいて前記総和を再度算出する、
    ことを特徴とする画像処理装置。
  5. 請求項4に記載の画像処理装置であって、
    前記輪郭判別部は、前記画像の画素のデータに基づき2値画像を取得し、前記2値画像から前記輪郭を判別するものであり、
    前記画像の画素のデータに基づき、前記画素間距離に基づいた係数と前記閾値とを再設定し、再設定された前記係数に基づいて前記総和を前記算出値として再度算出し、再設定された前記閾値を前記算出値と再度比較する、
    ことを特徴とする画像処理装置。
  6. 請求項1〜5のいずれか一項に記載の画像処理装置であって、
    前記画像の画素のデータは、階調値を示すデータである、
    ことを特徴とする画像処理装置。
  7. 被撮像物の画像の画素のデータを記憶する工程と、
    素データ記憶部に記憶された前記画像の画素のデータから、前記画像の一の画素の輝度と前記画像の他の画素の輝度とを取得する工程と、
    記憶された前記画像の画素のデータから、前記画像の一の画素と前記画像の他の画素との間の距離を取得する工程と、
    前記画素間距離に基づいた係数を記憶する工程と、
    前記画像の一の画素の輝度と前記画像の他の画素の輝度との差分と前記画素間距離に基づいた係数とを乗算した値の総和を前記画像の一の画素の算出値として算出する工程と、
    前記画素の算出値を閾値と比較する工程と、
    前記閾値と比較する工程の結果に基づいて前記画像から輪郭を判別する工程と、
    を含む、
    ことを特徴とする画像処理方法。
  8. 被撮像物を撮像した画像から輪郭を判別する画像処理装置に、
    前記被撮像物の画像の画素のデータを記憶することと、
    素データ記憶部に記憶された前記画像の画素のデータから、前記画像の一の画素の輝度と前記画像の他の画素の輝度とを取得することと、
    記憶された前記画像の画素のデータから一の前記画素と他の前記画素との間の距離を取得することと、
    前記画素間距離に基づいた係数を記憶することと、
    前記画像の一の画素の輝度と前記画像の他の画素の輝度との差分と前記画素間距離に基づいた係数とを乗算した値の総和を前記画像の一の画素の算出値として算出することと、
    前記画像の画素の算出値を閾値と比較することと、
    前記閾値と比較する結果に基づいて前記画像から前記輪郭を判別することと、
    を実行させることを特徴とするプログラム。
JP2014160181A 2014-08-06 2014-08-06 画像処理装置、輪郭抽出方法及びプログラム Active JP6455011B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014160181A JP6455011B2 (ja) 2014-08-06 2014-08-06 画像処理装置、輪郭抽出方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014160181A JP6455011B2 (ja) 2014-08-06 2014-08-06 画像処理装置、輪郭抽出方法及びプログラム

Publications (3)

Publication Number Publication Date
JP2016038654A JP2016038654A (ja) 2016-03-22
JP2016038654A5 JP2016038654A5 (ja) 2017-08-10
JP6455011B2 true JP6455011B2 (ja) 2019-01-23

Family

ID=55529699

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014160181A Active JP6455011B2 (ja) 2014-08-06 2014-08-06 画像処理装置、輪郭抽出方法及びプログラム

Country Status (1)

Country Link
JP (1) JP6455011B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018136896A (ja) 2017-02-24 2018-08-30 キヤノン株式会社 情報処理装置、システム、情報処理方法、および物品の製造方法
CN116952931A (zh) * 2023-05-31 2023-10-27 浙江大学 一种基于图像法的污泥颗粒含水率测量系统及方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000165670A (ja) * 1998-11-26 2000-06-16 Minolta Co Ltd 画像処理装置および方法ならびに画像処理プログラムを記録した記録媒体
JP4730121B2 (ja) * 2006-02-07 2011-07-20 ソニー株式会社 画像処理装置および方法、記録媒体、並びに、プログラム
JP2009157449A (ja) * 2007-12-25 2009-07-16 Nec Corp 画像処理システム、画像処理方法および画像処理用プログラム

Also Published As

Publication number Publication date
JP2016038654A (ja) 2016-03-22

Similar Documents

Publication Publication Date Title
US20230054821A1 (en) Systems and methods for keypoint detection with convolutional neural networks
JP6967060B2 (ja) 複数のパターン認識及び登録ツールモデルをトレーニングするための半教師付き方法
Rafi et al. Application of DenseNet in Camera Model Identification and Post-processing Detection.
KR100997451B1 (ko) 잉크 드롭 체적 측정장치 및 방법
JP6394081B2 (ja) 画像処理装置、画像処理システム、画像処理方法、及びプログラム
JP6512965B2 (ja) 画像処理装置および画像処理方法
EP3242272B1 (en) Image processing apparatus, image processing method and program
US9718292B2 (en) Examining apparatus, examining method and image recording apparatus
CN106715084A (zh) 机器视觉辅助的增材制造的系统和方法
JP2006172417A (ja) 画像評価方法、画像評価装置、及び印刷装置
RU2012145349A (ru) Способ и устройство обработки изображений для устранения артефактов глубины
JP5672112B2 (ja) ステレオ画像較正方法、ステレオ画像較正装置及びステレオ画像較正用コンピュータプログラム
JP6669397B2 (ja) 信号抽出処理装置および信号抽出処理方法
US20170028648A1 (en) 3d data generation apparatus and method, and storage medium
US20170313111A1 (en) Image processing apparatus, image processing method, and storage medium
JP6455011B2 (ja) 画像処理装置、輪郭抽出方法及びプログラム
JP2016030424A (ja) 記録装置および記録制御方法
JP5303503B2 (ja) 画像検査装置および印刷装置、並びに、画像検査方法
CN107273064B (zh) 信号处理装置及信号处理方法
Shibata et al. Accurate joint geometric camera calibration of visible and far-infrared cameras
JP5900017B2 (ja) 奥行き推定装置、再構成画像生成装置、奥行き推定方法、再構成画像生成方法及びプログラム
JP7268471B2 (ja) 検証方法
JP6537389B2 (ja) 記録装置および記録方法
JP6971894B2 (ja) 画像処理装置
JP5273869B2 (ja) 画像処理装置および画像処理方法

Legal Events

Date Code Title Description
RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20160622

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170630

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170630

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180412

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180515

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180615

RD05 Notification of revocation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7425

Effective date: 20180904

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20181107

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181120

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181203

R150 Certificate of patent or registration of utility model

Ref document number: 6455011

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150