JP2013219591A - 画像処理装置および画像処理プログラム - Google Patents

画像処理装置および画像処理プログラム Download PDF

Info

Publication number
JP2013219591A
JP2013219591A JP2012089312A JP2012089312A JP2013219591A JP 2013219591 A JP2013219591 A JP 2013219591A JP 2012089312 A JP2012089312 A JP 2012089312A JP 2012089312 A JP2012089312 A JP 2012089312A JP 2013219591 A JP2013219591 A JP 2013219591A
Authority
JP
Japan
Prior art keywords
image
harmony
color
image processing
areas
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012089312A
Other languages
English (en)
Other versions
JP5957270B2 (ja
Inventor
Haruhiko Tanaka
晴彦 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Systems Inc
Original Assignee
Nikon Systems Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Systems Inc filed Critical Nikon Systems Inc
Priority to JP2012089312A priority Critical patent/JP5957270B2/ja
Publication of JP2013219591A publication Critical patent/JP2013219591A/ja
Application granted granted Critical
Publication of JP5957270B2 publication Critical patent/JP5957270B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Color Image Communication Systems (AREA)

Abstract

【課題】 人間の色認識を考慮しつつ画像の色彩調和を評価することができる技術を提供することを目的とする。
【解決手段】 画像を複数の画像領域に分割する画像分割部と、画像領域が有する色の色空間上の座標を求める演算部と、複数の画像領域のうち評価対象の対象領域として複数抽出し、抽出した複数の対象領域の座標に基づいて画像における色彩調和を評価する調和評価部と、を備える。
【選択図】 図1

Description

本発明は、画像処理装置および画像処理プログラムに関する。
従来、部屋や画像などにおける色彩分布と人間の色認識に基づく心理状態とは密接に関係しており、その関係を客観的に測定する様々な技術が開発されている。
例えば、撮像された画像の色データを用いて画像に分布する色を測色学的に計測し、色度図上にプロットすることにより、複数の色のグループに分解して色彩数および鮮やかさを算出し視覚的快適度を算出する技術がある(特許文献1など参照)。
特開2005−283184号公報
ところで、人間の色認識に基づいた心理状態は、画像全体の色彩分布というよりはその画像を代表する幾つかの色の調和によって決まると考えられる。しかしながら、従来技術のように画像全体の色度図上の分布に基づいて算出される視覚的快適度では、実際の人間の色認識に基づいた心理状態と必ずしも一致しない場合がある。
上記従来技術が有する問題に鑑み、本発明の目的は、人間の色認識を考慮しつつ画像の色彩調和を評価することができる技術を提供することにある。
上記課題を解決するために、本発明を例示する画像処理装置の一態様は、画像を複数の画像領域に分割する画像分割部と、画像領域が有する色の色空間上の座標を求める演算部と、複数の画像領域のうち評価対象の対象領域として複数抽出し、抽出した複数の対象領域の座標に基づいて画像における色彩調和を評価する調和評価部と、を備える。
また、調和評価部は、複数の画像領域の大きさに基づいて、複数の対象領域を抽出してもよい。
また、画像領域と隣接する画像領域とを結合する領域結合部を備え、演算部は、座標に対応する色調および色名を取得し、領域結合部は、座標とともに色調および色名に基づいて、画像領域と隣接する画像領域とを結合してもよい。
また、調和評価部は、複数の対象領域における2つの対象領域の組み合わせそれぞれの調和関係を座標の相対的な位置関係に基づいて求め、画像における色彩調和を評価してもよい。
また、調和評価部は、組み合わせにおける座標の相対的な位置関係から、組み合わせの調和関係を、2つの対象領域間の色が同じである同一調和、類似している類似調和、または対比している対比調和として求めて、複数の対象領域における同一調和、類似調和および対比調和それぞれの頻度を算出し、画像における色彩調和を評価してもよい。
また、調和評価部は、同一調和、類似調和および対比調和の頻度Ri、RsおよびRcを下記式を用いて算出してもよい。
Figure 2013219591
なお、Nは対象領域の数を示し、Ni、NsおよびNcは複数の対象領域において同一調和、類似調和および対比調和とされた組み合わせの数を示す。
本発明を例示する画像処理プログラムの一態様は、画像を読み込む入力手順、画像を複数の画像領域に分割する画像分割手順、画像領域が有する色の色空間上の座標を求める演算手順、複数の画像領域のうち評価対象の対象領域として複数抽出し、抽出した複数の対象領域の座標に基づいて画像における色彩調和を評価する調和評価手順、をコンピュータに実行させる。
本発明によれば、人間の色認識を考慮しつつ画像の色彩調和を評価することができる。
本発明の一の実施形態に係るコンピュータの構成を示すブロック図 一の実施形態に係るコンピュータによる画像処理を示すフローチャート Moon−Spencerモデルの一例を示す図
図1は、本発明の一の実施形態に係る画像処理装置として動作するコンピュータ100の構成を示す。
本実施形態のコンピュータ100は、図1(a)に示すように、CPU10、記憶部20、入出力インタフェース(入出力I/F)30、バス40から構成され、CPU10、記憶部20、入出力I/F30は、バス40を介して情報伝達可能に接続される。また、コンピュータ100には、入出力I/F30を介して、画像処理の途中経過や処理結果を表示する出力装置50、ユーザからの入力を受け付ける入力装置60がそれぞれ接続される。出力装置50には、一般的な液晶モニタやプリンタなどを、入力装置60には、キーボードやマウスなどをそれぞれ適宜選択して使用することができる。
CPU10は、記憶部20に記憶されている制御プログラムを実行し、コンピュータ100の各部を制御するマイクロプロセッサである。また、CPU10は、入力装置60を介して受け付けたユーザからの指示に基づいて、記憶部20に記憶されている画像処理プログラムを実行することにより、図1(b)に示すように、画像分割部11、演算部12、領域結合部13、調和評価部14として動作する。CPU10は、画像の処理結果を出力装置50に表示する。なお、画像分割部11、演算部12、領域結合部13、調和評価部14の動作については後ほど説明する。
記憶部20は、制御プログラムおよび画像処理プログラムとともに、処理対象の画像および後述する日本工業規格(JIS)の色に関するデータなどを記憶する。記憶部20に記憶されるプログラムや各種データは、バス40を介して、CPU10から適宜参照することができる。記憶部20には、一般的なハードディスク装置、光磁気ディスク装置などの記憶装置を選択して用いることができる。
次に、コンピュータ100による画像処理について、図2のフローチャートを参照しつつ説明する。なお、コンピュータ100が処理対象とする画像は、記憶部20に予め記憶されているとする。また、処理対象の画像は、静止画像であっても動画像のフレームであってもよい。
ユーザが、入力装置60を用いて、画像処理プログラムのコマンドを入力、またはそのプログラムのアイコンをダブルクリックすることにより、プログラムの起動命令を出す。CPU10は、その命令を入出力I/F30を通じて受け付け、記憶部20に記憶されている画像処理プログラムを実行する。CPU10は、ステップS101からの処理を開始する。
ステップS101:CPU10は、記憶部20に記憶されている処理対象の画像を読み込む。
ステップS102:CPU10の画像分割部11は、読み込んだ画像を公知の手法を用いて複数の画像領域に分割する。本実施形態では、公知の手法として、分割・統合(Split & Marge)法およびウォーターシェッド法を組み合わせて用い、画像分割部11は、画像のエッジや彩度などの特徴量に基づいて画像を分割するものとする。CPU10は、画像分割部11による分割結果を出力装置50に出力し表示させる。
ステップS103:CPU10の演算部12は、画像分割部11により分割された画像領域ごとに、マンセル表色系の座標である色彩値を求める。そのために、演算部12は、各画像領域における画素値の平均値をRGBの色成分ごとに求め取得する。演算部12は、例えば、次式(1)を用いて、上記RGBの平均値からXYZ表色系の三刺激値に変換する。
Figure 2013219591
そして、演算部12は、それらのXYZ表色系の三刺激値をさらに次式(2)に適用してxyY表色系に変換し、記憶部20に記憶されたJISZ 8721「色の表示方法―三属性による表示」の付表1、2のデータに基づいて、各画像領域におけるマンセル表色系の色彩値(色相H、明度C、彩度V)を取得する。
x=X/(X+Y+Z) ・・・(2)
y=Y/(X+Y+Z)
ステップS104:演算部12は、上記マンセル表色系の色彩値と記憶部20に記憶されたJISZ 8102「物体色の色名」の付図1〜25のデータとに基づいて、各画像領域の系統色名を取得する。
ステップS105:CPU10の領域結合部13は、画像分割部11により分割された画像領域を、色彩値および系統色名に基づいて画像領域を結合する。つまり、たとえ単色の被写体であっても、被写体自身の形状や光の具合により色が微妙に変化するために、人間の色認識では単色の被写体と認識できるとしても、ステップS102の画像分割部11は、異なる色と判定し複数の画像領域に分割してしまう。そのために、領域結合部13は、細分化された画像領域を人間の色認識と合わせるために再結合する。
そこで、領域結合部13が、色彩値および系統色名に基づいて、どのように画像領域を結合するかについて簡単に説明する。系統色名は、色相H、明度C、彩度Vを形容する修飾語(以下、色調(トーン)と称す)と基本色名とからなる。例えば、色が海老茶(マンセル値は8R3/4.5)の場合、系統色名はdk−yR(暗い黄みの赤)と表され、dkが色調でyRが基本色名である。そして、本実施形態の領域結合部13は、色彩値、色調および基本色名に基づいて、隣接する画像領域間における色の類似の度合いを示す結合度を判定する。すなわち、隣接する画像領域iと画像領域jとの色調Tおよび基本色名Nが、Ti=Tj且つNi=Nj(ただし、無彩色の場合はTi=Tjのみ)の場合、領域結合部13は、画像領域iと画像領域jとの系統色名が同じであることから、「強い結合度」を有すると判定する。なお、Ti、NiおよびTj、Njは、画像領域iおよび画像領域jの色調および基本色名を示す。
一方、領域結合部13は、画像領域iと画像領域jとにおける系統色名が有彩色で、Ni=Nj且つ色彩値が次式(3)の条件を満たす場合、画像領域iと画像領域jとは「中位の結合度」を有すると判定する。
Vi−dV<Vj<Vi+dV 且つ Ci−dC<Cj<Ci+dC ・・・(3)
あるいは、領域結合部13は、画像領域iと画像領域jとにおける系統色名が有彩色で、Ti=Tj且つ色彩値が次式(4)の条件を満たす場合、画像領域iと画像領域jとは「中位の結合度」を有すると判定する。
Hi−dH<Hj<Hi−dH ・・・(4)
なお、dV、dC、dHそれぞれは、本実施形態において、例えば、0.5,0.5,5.0にそれぞれ設定されるが、被写体の色分布などに応じて適宜設定されるのが好ましい。
そして、画像領域iと画像領域jとが「強い結合度」または「中位の結合度」のいずれにも該当しない場合、領域結合部13は、画像領域iと画像領域jとの色は異なるとして「弱い結合度」と判定する。
本実施形態の領域結合部13は、全ての画像領域について隣接する画像領域と「強い結合度」、「中位の結合度」または「弱い結合度」のいずれかを判定する。本実施形態の領域結合部13は、「強い結合度」または「中位の結合度」と判定された画像領域同士を結合する。これにより、同系色の画像領域をまとめることができる。
ステップS106:CPU10の調和評価部14は、複数の画像領域のうち代表する色を有する画像領域(評価対象の対象領域)として、面積が大きい上位3つの画像領域を抽出する。調和評価部14は、抽出した各対象領域の色彩値として、ステップS105で結合された画像領域のうち最大の面積を有した画像領域の色彩値とする。ただし、調和評価部14は、各対象領域の色彩値として、ステップS103と同様に、その対象領域の画素値を用いて算出し直してもよい。
ステップS107:調和評価部14は、抽出した3つの対象領域のうち2つの対象領域の組み合わせそれぞれについて、公知の色彩調和の評価手法を適用して調和関係を求め、処理対象の画像の色彩調和を評価する。
具体的に、調和評価部14は、各組み合わせの2つの対象領域における色彩値の差分(相対的な位置関係)を、公知の色彩調和の評価手法である、例えば、Moon−Spencerモデルに適用して、2つの対象領域間の色彩の調和関係を求める。図3は、Moon−Spencerモデルにおける色彩の調和関係の一例を示す。図3(a)は、2つの対象領域の色のうち一方の色を基準にした場合で色相差に応じて、同一調和、第一不明瞭、類似調和、第二不明瞭および対比調和の範囲の分布を示す。図3(b)は、2つの対象領域の色の彩度差および明度差に応じて、同一調和、第一不明瞭、類似調和、第二不明瞭および対比調和の範囲の分布を示す。なお、同一調和は2つの色が同じで調和し、類似調和は2つの色が類似して調和し、対比調和は2つの色が対比して調和していることを示す。一方、第一不明瞭および第二不明瞭は調和していないことを示す。
本実施形態の調和評価部14は、3つの対象領域における各組み合わせの調和関係を、図3(a)の色相差に基づく場合と図3(b)の彩度差および明度差に基づく場合とについてそれぞれ求める。調和評価部14は、同一調和、類似調和または対比調和が求められた回数をNi、Ns、Ncとし、次式(5)を用いて同一調和、類似調和、対比調和の頻度Ri、Rs、Rcを算出する。
Figure 2013219591
ここで、Nは対象領域の数を示し、本実施形態ではN=3である。
そして、調和評価部14は、頻度Ri、RsおよびRcの値に基づいて、例えば、一番大きな頻度または50%以上の頻度の調和に基づいて、画像の色彩調和を評価する。一例として、調和評価部14は、類似調和の場合、類似する色で調和していることから、「画像は自然な調和」と評価したり、対比調和の場合、対比する色で調和することは自然界では少ないことから、「画像は人工的な調和」と評価したりする。その後、CPU10は一連の処理を終了する。
このように、本実施形態では、画像を複数の画像領域に分割した後、その画像を代表する色を有する画像領域を、画像領域の大きさに基づいて評価対象の対象領域として抽出し、抽出された対象領域における色彩の調和関係に関する頻度を求めることにより、人間の色認識を考慮しつつ画像の色彩調和を評価することができる。
また、分割された画像領域を人間の色認識に合わせて画像領域を再結合することにより、より人間の色認識に近い画像の色彩調和の評価が可能となる。
《実施形態の補足事項》
・上記実施形態では、処理対象の画像が記憶部20に予め記憶されたが、本発明はこれに限定されず、例えば、入出力I/F30を介して、コンピュータ100とデジタルカメラやデジタルビデオカメラなどとをUSB(Universal Serial Bus)ケーブルなどで接続して、静止画像や動画像を直接読み込んでもよい。
・上記実施形態では、コンピュータ100を画像処理装置として動作させたが、本発明はこれに限定されず、例えば、デジタルカメラなどを画像処理装置として動作させ、被写体の色彩調和を評価しながら画像を撮像してもよい。
・上記実施形態では、画像分割部11は、分割・統合法およびウォーターシェッド法を組み合わせて画像分割を行ったが、本発明はこれに限定されず、他の手法を用いて画像分割してもよい。
・上記実施形態では、演算部12は、各画像領域の色彩値および系統色名を求めるにあたり、JIS規格のデータを用いたが、本発明はこれに限定されず、他のデータを用いてもよい。
・上記実施形態では、隣接する画像領域間の結合の度合いを、「強い結合度」、「中位の結合度」、「弱い結合度」の3つに判定したが、本発明はこれに限定されない。例えば、「強い結合度」は、「中位の結合度」の条件である式(3)および式(4)において、dV、dC、dHの値が0の場合に相当することから、例えば、「強い結合度」と「中位の結合度」とは1つの結合度として扱ってもよい。
・上記実施形態では、対象領域として、面積の大きさが上位3つの画像領域を抽出したが、本発明はこれ限定されず、4つ以上の画像領域を対象領域として抽出してもよい。
また、抽出した対象領域のうち、少なくとも2つの対象領域の色が同一の場合には、それらを1つの対象領域として結合し、抽出された対象領域の色が互いに異なるようにすることが好ましい。
・上記実施形態では、調和評価部14は、Moon−Spencerモデルを適用して、対象領域における色彩調和を評価したが、本発明はこれに限定されず、他の公知の色彩調和の評価手法を用いてもよい。
以上の詳細な説明により、実施形態の特徴点および利点は明らかになるであろう。これは、特許請求の範囲が、その精神および権利範囲を逸脱しない範囲で前述のような実施形態の特徴点および利点にまで及ぶことを意図する。また、当該技術分野において通常の知識を有する者であれば、あらゆる改良および変更に容易に想到できるはずであり、発明性を有する実施形態の範囲を前述したものに限定する意図はなく、実施形態に開示された範囲に含まれる適当な改良物および均等物によることも可能である。
10…CPU、20…記憶部、30…入出力I/F、40…バス、50…出力装置、60…入力装置、100…コンピュータ

Claims (7)

  1. 画像を複数の画像領域に分割する画像分割部と、
    前記画像領域が有する色の色空間上の座標を求める演算部と、
    前記複数の画像領域のうち評価対象の対象領域として複数抽出し、抽出した複数の前記対象領域の前記座標に基づいて前記画像における色彩調和を評価する調和評価部と、
    を備えることを特徴とする画像処理装置。
  2. 請求項1に記載の画像処理装置において、
    前記調和評価部は、前記複数の画像領域の大きさに基づいて、前記複数の対象領域を抽出することを特徴とする画像処理装置。
  3. 請求項1または請求項2に記載の画像処理装置において、
    前記画像領域と隣接する画像領域とを結合する領域結合部を備え、
    前記演算部は、前記座標に対応する色調および色名を取得し、
    前記領域結合部は、前記座標とともに前記色調および色名に基づいて、前記画像領域と隣接する画像領域とを結合する
    ことを特徴とする画像処理装置。
  4. 請求項1ないし請求項3のいずれか1項に記載の画像処理装置において、
    前記調和評価部は、前記複数の対象領域における2つの前記対象領域の組み合わせそれぞれの調和関係を前記座標の相対的な位置関係に基づいて求め、前記画像における色彩調和を評価する
    ことを特徴とする画像処理装置。
  5. 請求項4に記載の画像処理装置において、
    前記調和評価部は、前記組み合わせにおける前記座標の相対的な位置関係から、前記組み合わせの前記調和関係を、前記2つの対象領域間の色が同じである同一調和、類似している類似調和、または対比している対比調和として求めて、前記複数の対象領域における前記同一調和、前記類似調和および前記対比調和それぞれの頻度を算出し、前記画像における色彩調和を評価する
    ことを特徴とする画像処理装置。
  6. 請求項5に記載の画像処理装置において、
    前記調和評価部は、前記同一調和、前記類似調和および前記対比調和の頻度Ri、RsおよびRcを下記式を用いて算出する
    Figure 2013219591
    ことを特徴とする画像処理装置。
    なお、Nは前記対象領域の数を示し、Ni、NsおよびNcは前記複数の対象領域において前記同一調和、前記類似調和および前記対比調和とされた前記組み合わせの数を示す。
  7. 画像を読み込む入力手順、
    前記画像を複数の画像領域に分割する画像分割手順、
    前記画像領域が有する色の色空間上の座標を求める演算手順、
    前記複数の画像領域のうち評価対象の対象領域として複数抽出し、抽出した複数の前記対象領域の前記座標に基づいて前記画像における色彩調和を評価する調和評価手順、
    をコンピュータに実行させることを特徴とする画像処理プログラム。
JP2012089312A 2012-04-10 2012-04-10 画像処理装置および画像処理プログラム Active JP5957270B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012089312A JP5957270B2 (ja) 2012-04-10 2012-04-10 画像処理装置および画像処理プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012089312A JP5957270B2 (ja) 2012-04-10 2012-04-10 画像処理装置および画像処理プログラム

Publications (2)

Publication Number Publication Date
JP2013219591A true JP2013219591A (ja) 2013-10-24
JP5957270B2 JP5957270B2 (ja) 2016-08-10

Family

ID=49591232

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012089312A Active JP5957270B2 (ja) 2012-04-10 2012-04-10 画像処理装置および画像処理プログラム

Country Status (1)

Country Link
JP (1) JP5957270B2 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06203118A (ja) * 1991-10-04 1994-07-22 Nec Corp 配色支援方法および装置
JP2002314825A (ja) * 2001-04-09 2002-10-25 Sharp Corp 色彩調整装置、及び色彩調整方法
JP2005165437A (ja) * 2003-11-28 2005-06-23 Kyocera Mita Corp デザイン支援システム
US20050157926A1 (en) * 2004-01-15 2005-07-21 Xerox Corporation Method and apparatus for automatically determining image foreground color
JP2012151572A (ja) * 2011-01-17 2012-08-09 Casio Comput Co Ltd 画像出力装置、画像出力方法及びプログラム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06203118A (ja) * 1991-10-04 1994-07-22 Nec Corp 配色支援方法および装置
JP2002314825A (ja) * 2001-04-09 2002-10-25 Sharp Corp 色彩調整装置、及び色彩調整方法
JP2005165437A (ja) * 2003-11-28 2005-06-23 Kyocera Mita Corp デザイン支援システム
US20050157926A1 (en) * 2004-01-15 2005-07-21 Xerox Corporation Method and apparatus for automatically determining image foreground color
JP2012151572A (ja) * 2011-01-17 2012-08-09 Casio Comput Co Ltd 画像出力装置、画像出力方法及びプログラム

Also Published As

Publication number Publication date
JP5957270B2 (ja) 2016-08-10

Similar Documents

Publication Publication Date Title
US10230908B2 (en) Thermal imaging device and thermal image photographing method
US20150009336A1 (en) Thermal imaging device and normative photographing method for thermal image
JP2006305184A (ja) 肌状態解析方法、肌状態解析装置、肌状態解析プログラム、及び該プログラムが記録された記録媒体
JP5870598B2 (ja) 画像のホワイトバランス処理方法及び装置
US20130243289A1 (en) Graph cuts-based interactive segmentation of teeth in 3-d ct volumetric data
JP6485146B2 (ja) 色変換情報生成装置及びプログラム
WO2018090450A1 (zh) 显示屏均匀性测试方法及显示屏均匀性测试系统
JP4972004B2 (ja) 画像変換方法およびプログラム
JP5903315B2 (ja) 画像処理装置および画像処理プログラム
JP2008271303A (ja) 色処理方法および装置
JP3793137B2 (ja) 画像処理装置、画像処理方法、プログラム、および記憶媒体
Kang et al. Dental plaque quantification using mean-shift-based image segmentation
US20150287202A1 (en) Device and method for analyzing thermal images
JP5957270B2 (ja) 画像処理装置および画像処理プログラム
US20180116582A1 (en) Elasticity evaluation apparatus, elasticity evaluation method, and elasticity evaluation program
JP2009171158A (ja) モザイク画像生成装置、方法及びプログラム
JP5203159B2 (ja) 画像処理方法、画像処理システムおよび画像処理プログラム
US20180040124A1 (en) Disease diagnostic apparatus, image processing method in the same apparatus, and medium storing program associated with the same method
JP2007243987A (ja) 画像処理方法、画像処理システムおよび画像処理プログラム
JP2009069213A (ja) 地図年代判定装置、地図年代判定方法、及びプログラム
JP4148114B2 (ja) 画像処理装置および処理方法
WO2013118436A1 (ja) 生体画像解析システム、生体画像解析方法および生体画像解析プログラム
JP6577766B2 (ja) 画像処理装置
JP2020088709A (ja) 画像処理装置、画像処理方法及びプログラム
JP5903292B2 (ja) 画像評価装置および画像評価プログラム

Legal Events

Date Code Title Description
A625 Written request for application examination (by other person)

Free format text: JAPANESE INTERMEDIATE CODE: A625

Effective date: 20150409

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160219

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160315

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160428

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160524

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160620

R150 Certificate of patent or registration of utility model

Ref document number: 5957270

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250