JP2014071853A - 画像処理装置及び画像処理プログラム - Google Patents

画像処理装置及び画像処理プログラム Download PDF

Info

Publication number
JP2014071853A
JP2014071853A JP2012220105A JP2012220105A JP2014071853A JP 2014071853 A JP2014071853 A JP 2014071853A JP 2012220105 A JP2012220105 A JP 2012220105A JP 2012220105 A JP2012220105 A JP 2012220105A JP 2014071853 A JP2014071853 A JP 2014071853A
Authority
JP
Japan
Prior art keywords
image
band
color
enhancement
luminance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012220105A
Other languages
English (en)
Other versions
JP5975213B2 (ja
Inventor
Makoto Sasaki
信 佐々木
Masaomi Sakamoto
正臣 坂本
Masaru Okutsu
優 奥津
Daigo Hama
大悟 浜
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd filed Critical Fuji Xerox Co Ltd
Priority to JP2012220105A priority Critical patent/JP5975213B2/ja
Priority to US13/891,912 priority patent/US9053552B2/en
Publication of JP2014071853A publication Critical patent/JP2014071853A/ja
Application granted granted Critical
Publication of JP5975213B2 publication Critical patent/JP5975213B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/92Dynamic range modification of images or parts thereof based on global image properties
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration using histogram techniques
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/20Circuitry for controlling amplitude response
    • H04N5/205Circuitry for controlling amplitude response for correcting amplitude versus frequency characteristic
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Color Image Communication Systems (AREA)
  • Facsimile Image Signal Circuits (AREA)

Abstract

【課題】帯域の強調処理と色特性の調整処理をバランスよく行うことができる画像処理装置を提供する。
【解決手段】係数設定部16は、例えば原画像のシーンなどに応じて、少なくとも色特性調整部11に対する色度強弱係数の設定、帯域強調部14に対する帯域強調係数の設定を行う。色特性調整部11は、色度強弱係数に従って、与えられたカラーの原画像に対して色特性の調整を行い、色特性調整画像を得る。色変換部12は、色特性調整画像を輝度色度画像へ色空間変換する。帯域画像生成部13は、輝度色度画像の輝度成分である輝度画像から、帯域選択係数に従った周波数帯域の帯域画像を生成する。帯域強調部14は、帯域強調係数に従って、帯域画像に対して強調処理を行い、帯域強調画像を得る。輝度色度画像のうちの色度成分と、帯域強調画像の輝度成分とを用い、特性強調画像を得る。
【選択図】図1

Description

本発明は、画像処理装置及び画像処理プログラムに関するものである。
デジタル画像の補正は一般に、輝度、色度、周波数などの情報を用いて行われる。輝度は画像全体を元の明るさよりも明るくまたは暗くしたり、明暗差(コントラスト)をつけることで絵柄を強調している。また、色度に関しては、色相をシフトさせた色かぶりの補正(カラーバランス補正)や、彩度を強調して色鮮やかな再現を行っている。
輝度と彩度の両方を調整する場合もある。図10は、従来の補正処理の一例の説明図である。図中、21は色変換部、22は輝度調整部、23は彩度調整部、24は色変換部である。例えばデジタルカメラなどの撮像装置で撮影された補正対象のカラー画像は、ここではsRGB等のRGB信号(原色信号)で表されるものとする。このRGB信号は、まず色変換部21において、輝度信号Yと色度信号CbCrに変換される。次に、輝度信号は輝度調整部22で調整されて輝度信号Y’となる。輝度の調整はトーンカーブによる補正や、輝度画像で輝度周波数(帯域)情報を補正して、被写体等の輪郭を強調して絵柄が表す細部を再現している。また、色度信号CbCrは彩度調整部23で彩度が調整されて色度信号Cb’Cr’となる。輝度調整部22で調整された輝度信号Y’と彩度調整部23で調整された色度信号Cb’Cr’とは、色変換部24でRGB信号R’G’B’に戻される。このような処理を、与えられたカラー画像の各画素に対して行い、調整後のカラー画像を得る。
図10に示す構成をとる例として、特許文献1が挙げられる。この特許文献1では輝度の調整として帯域補正によるエッジ強調処理を行っている。周波数帯域の補正による強調は、フィルタによって輝度に明暗差をつけることと等価であり、この場合の輝度調整は、周波数強調を表す。特許文献2も図10に示す構成であるが、輝度の強調は周波数強調ではなく、階調補正を行っている。
また、彩度調整に関しては、例えば特許文献3、特許文献4、特許文献5に記載されている方法がある。一般に彩度調整とは、従来は、特許文献3に記載されているように彩度を強調することを表す。特許文献4は、彩度ヒストグラムによりイコライゼーションを行うことで彩度の偏りを調整するものであるが、彩度の強弱をつける処理ではない。特許文献5に記載の方法では、彩度の強弱をつける処理を行っている。
これらの従来の技術では、帯域の強調処理と彩度の強調処理のいずれかを行ったり、両者を行う場合でもそれぞれを独立して行っている。画質や、画像中のシーンや被写体の質感への要求に対して、帯域の強調と彩度の強調をバランスさせた処理が望まれている。
特開2007−066138号公報 特開2008−219198号公報 特開平10−023279号公報 特開2008−072252号公報 特開2010−278516号公報
本発明は、帯域の強調処理と色特性の調整処理をバランスよく行うことができる画像処理装置および画像処理プログラムを提供することを目的とするものである。
本願請求項1に記載の発明は、カラー画像に対して色特性の調整を行う調整手段と、前記調整手段で色特性が調整されたカラー画像を輝度色度画像に変換する変換手段と、前記輝度色度画像のうちの輝度画像から予め設定された帯域を表す帯域画像を生成する帯域画像生成手段と、前記輝度画像と前記帯域画像を用いて帯域を強調した帯域強調画像を得る強調手段と、前記強調手段で行う前記帯域の強調の度合いと前記調整手段で行う色特性の調整の度合いを設定する設定手段を有することを特徴とする画像処理装置である。
本願請求項2に記載の発明は、カラー画像から輝度画像を生成する輝度画像生成手段と、前記輝度画像から予め設定された帯域を表す帯域画像を生成する帯域画像生成手段と、前記輝度画像と前記帯域画像を用いて帯域を強調した帯域強調画像を得る強調手段と、前記カラー画像に対して色特性の調整を行う調整手段と、前記調整手段で色特性が調整されたカラー画像を輝度色度画像に変換する変換手段と、前記強調手段で行う前記帯域の強調の度合いと前記調整手段で行う色特性の調整の度合いを設定する設定手段を有することを特徴とする画像処理装置である。
本願請求項3に記載の発明は、本願請求項1または請求項2に記載の発明における前記設定手段が、前記カラー画像のシーンに応じて前記特性強調手段で行う前記帯域の強調の度合いと前記色特性の調整の度合いを設定することを特徴とする画像処理装置である。
本願請求項4に記載の発明は、本願請求項1から請求項3のいずれか1項に記載の発明における前記設定手段が、前記特性強調画像の画素値が色域内になるように前記特性強調手段で行う前記帯域の強調の度合いと前記色特性の調整の度合いを設定することを特徴とする画像処理装置である。
本願請求項5に記載の発明は、本願請求項1から請求項4のいずれか1項に記載の発明における前記設定手段が、前記調整手段で色特性が調整された画像を用いて前記特性強調手段で行う前記帯域の強調の度合いと前記色特性の調整の度合いを設定することを特徴とする画像処理装置である。
本願請求項6に記載の発明は、本願請求項1から請求項5のいずれか1項に記載の発明における前記設定手段が、さらに、前記帯域画像生成手段が前記帯域画像を生成する際の帯域を設定することを特徴とする画像処理装置である。
本願請求項7に記載の発明は、コンピュータに、請求項1から請求項6のいずれか1項に記載の画像処理装置の機能を実行させるものであることを特徴とする画像処理プログラムである。
本願請求項1及び請求項2に記載の発明によれば、帯域の強調と色特性の調整をバランスよく行うことができるという効果がある。
本願請求項3に記載の発明によれば、カラー画像のシーンに応じたバランスで帯域の強調と色特性の調整を行うことができる。
本願請求項4に記載の発明によれば、帯域の強調処理と色特性の調整処理を、結果が破綻することなく行うことができる。
本願請求項5に記載の発明によれば、色特性の調整結果に応じて帯域の強調処理及び色特性の調整処理を行うことができる。
本願請求項6に記載の発明によれば、強調すべき帯域を、帯域の強調の度合いと色特性の調整の度合いとともに設定することができる。
本願請求項7に記載の発明によれば、本願請求項1から請求項6のいずれか1項に記載の発明の効果を得ることができる。
本発明の実施の一形態を示す構成図である。 色度強弱係数の一例の説明図である。 DOG関数の一例の説明図である。 帯域画像としてぼかし画像を用いた場合の周波数と強調度合いの一例の説明図である。 帯域画像としてDOGフィルタを用いて得た画像を用いた場合の周波数と強調度合いの一例の説明図である。 本発明の実施の一形態における動作の一例を示す流れ図である。 本発明の実施の一形態の変形例を示す構成図である。 本発明の実施の一形態の変形例における動作の一例を示す流れ図である。 本発明の実施の一形態及びその変形例で説明した機能をコンピュータプログラムで実現した場合におけるコンピュータプログラム及びそのコンピュータプログラムを格納した記憶媒体とコンピュータの一例の説明図である。 従来の補正処理の一例の説明図である。
図1は、本発明の実施の一形態を示す構成図である。図中、11は色特性調整部、12は色変換部、13は帯域画像生成部、14は帯域強調部、15は色逆変換部、16は係数設定部である。この例では、与えられた原画像及び処理後の特性強調画像の色空間をRGB色空間とした。しかしこれに限らず、他の色空間の画像でもよいし、原画像と特性強調画像とで色空間が異なっていてもよい。また、処理の途中で使用する輝度色度色空間をYCbCr色空間としているが、例えば輝度がL* 、色度がa* * であるLAB色空間や、HSV色空間など、輝度を1つの軸として表される色空間であれば、どのような色空間であってもよい。
色特性調整部11は、係数設定部16が設定した色度強弱係数に従い、与えられたカラーの原画像に対して色特性の調整を行う。色特性の調整は、原画像の色空間の信号、この例ではRGB信号を用いて行う。図10に示した従来の色特性の調整はCbCr信号などの色度で行っているが、RGB信号のような原色信号を用いて調整を行えば、撮像素子の分光感度等に対して自然な強弱をつける処理が行われる。
色特性として色度の強弱を調整する一つの方法としては、原画像の画素をRoGoBoとし、max(RoGoBo)をRo、Go、Boのうち最も大きい値、min(RoGoBo)をRo、Go、Boのうち最も小さい値として、max(RoGoBo)とmin(RoGoBo)の差に対して強弱をつけような処理を行えばよい。例えば、
Rs=αd(Ro−min(RoGoBo))+min(RoGoBo)
Gs=αd(Go−min(RoGoBo))+min(RoGoBo)
Bs=αd(Bo−min(RoGoBo))+min(RoGoBo)
(数式1)
により彩度の強弱をつければよい。ここで、RsGsBsは彩度の強弱をつけた後の画素値のRGB信号であり、以後、色特性調整画素値と呼ぶことにする。また、色特性の調整の度合いを表す係数が色度強弱係数であり、係数設定部16により設定される。数式1においては、αdが彩度の強弱の度合いを表すことから色度強弱係数となる。αd=1であれば強弱はつかない。
図2は、色度強弱係数の一例の説明図である。色度強弱係数αdは、一例として図2に示す折れ線近似関数で得られる値とするとよい。横軸のdは、
d=max(RoGoBo)−min(RoGoBo)
であり、最大原色成分と最小原色成分の差である。画素ごとに最大原色成分と最小原色成分の差dを算出し、d≧dthならばαd≧1、d<dthならばαd<1となるように、係数αdを算出すればよい。dthは予め設定した値を用いてもよいし、原画像の各画素からdを求め、その平均を求めてdthとしてもよい。または、dのヒストグラムを参照して、分布の偏りから決めてもよい。
図2に示した関数は一例であり、傾きや形状などはこの例に限らず、数式1により彩度の強弱をつけられるものであればどのようなものでもよい。原色成分の差を大きくする、または、小さくすることで、各画素で彩度の強弱をつけるものであれば方法は問わない。使用する方法において調整の度合いを表す係数が色度強弱係数である。
色変換部12は、色特性調整部11で色特性が調整されたカラー画像である色特性調整画像を輝度色度画像に変換する色空間の変換処理を行う。この色空間の変換処理は、後述する帯域画像生成部13が用いる輝度画像を生成する機能と、後述する帯域強調部14から得られた帯域強調画像と色特性調整部11で得られた色特性調整画像との色空間を合わせる機能を併せ持つ。色特性調整部11で色度の強弱を調整して得られた色特性調整画像の画素値RsGsBsでは、要素として輝度成分を有していないので、輝度成分を有する色空間、例えばここではYCbCr色空間に変換し、Y成分により表現される画像を輝度画像とすればよい。また、この色空間の変換により、後述する帯域強調部14の強調処理で得られた帯域強調画像の輝度信号Yeと共通する色空間の色信号となる。なお、輝度成分を有する色空間としてLAB色空間やHSV色空間などの他の色空間への変換でもよく、LAB色空間であればL* 成分を、HSV色空間であればV成分を用いて輝度画像を得ればよい。
RGB信号は、次の数式2によりYCbCr信号に変換される。
Figure 2014071853
係数m11,…m33は既知の値であり、線形変換により処理が行われる。色特性調整画像の各画素に対して数式2で変換を行い、輝度色度画像YsCbsCrsを得る。この輝度色度画像YsCbsCrsのうち、輝度成分であるY成分により表現される画像を輝度画像として、帯域画像生成部13及び帯域強調部14へ渡す。輝度色度画像YsCbsCrsのうち、色度成分であるCbCr成分については色逆変換部15へ渡す。
帯域画像生成部13は、色変換部12で変換された輝度色度画像YsCbsCrsのうち、輝度成分であるY成分により表現される画像を輝度画像として受け取り、その輝度画像から予め設定された帯域を表す帯域画像を生成する。例えば、輝度画像よりも低周波の画像を生成したり、輝度画像の低周波成分と高周波成分を除いた中間周波数帯の画像を生成するなどがある。
例えば、輝度画像よりも低周波の画像を生成する場合には、一例としてはフィルタリング処理、移動平均、FFT(高速フーリエ変換)を用いる方法などが挙げられる。フィルタリング処理(コンボリューション、積和演算)で行う場合は、数式3として示したような2次元Gaussフィルタを用いて行えばよい。
Figure 2014071853
画像が2次元なので、2次元Gaussフィルタの広がりを(x,y)で表した。σは低周波の度合いを決める係数であり、大きいほど画像がぼける。画像のぼけが大きいほど、後述の帯域強調部14では、低周波側の帯域が強調される(輪郭や大まかな形状の強調)。ぼけが小さいほど、高周波側の帯域が強調される(エッジやファブリック感の強調)。
低周波画像を得る別の方法として、画像の縮小拡大がある。例えば、輝度画像を一度縮小させて情報量を落とし、縮小画像を元の輝度画像の大きさに拡大すればよい。この方法では、数式3のσに当たるぼかし度合いは、画像の縮小率となる。
このように帯域画像としてぼかし画像を用いるほか、中間周波フィルタやDOG(Difference Of two Gaussian)フィルタなどにより、ある帯域を抽出した画像(サブバンド画像)を生成し、帯域画像としてもよい。図3は、DOG関数の一例の説明図である。DOG関数は以下の数式4で表される。
Figure 2014071853
このDOG関数は、人間の脳内における視覚特性の数学的モデルとして知られており、係数であるσe、σi、Aを変更すれば、周波数帯域やその周波数帯域に対する反応の強さなどが制御される。σeが小さいほど高周波への反応が強くなり、σiはσeよりも大きな値を設定する。Aは正のガウスと負のガウスの相対的な強さを制御し、Aが0に近づくほど「ぼかし」のフィルタに近づく。DOG関数の一例を図3に示している。数式4の関数をフィルタとして画像をフィルタリングすれば、設定されている係数に応じたサブバンド画像が帯域画像として得られる。
もちろん、予め設定された帯域の画像を得る方法は、これらの方法に限られず、種々の方法を用いてよい。いずれにしても、予め設定される帯域を表す画像が生成されればよく、その方法は限定されない。生成された画像を帯域画像とする。
帯域の設定は帯域選択係数により行われる。この帯域選択係数は、例えば2次元Gaussフィルタの場合には数式3のσであり、縮小拡大の場合には縮小率であり、DOG関数を用いる場合には数式4のσe、σi、Aである。その他の方法においても、帯域画像における帯域を表す係数が待機選択係数となる。帯域選択係数は、固定されていてもよいし、係数設定部16によって設定されるように構成されていてもよい。
帯域強調部14は、係数設定部16で設定された帯域の強調の度合いを示す帯域強調係数に従い、輝度画像と帯域画像を用いて帯域を強調した帯域強調画像を得る。帯域画像生成部13で予め設定されている帯域を表す帯域画像を生成しているので、当該帯域が強調されることになる。
上述した帯域画像生成部13でぼけ画像を帯域画像として生成している場合、ぼけを大きくするほど低周波の画像が得られており、この帯域強調部14により低周波側の帯域が強調される。具体例としては、物体の輪郭や形状そのものなどを強調する場合に適している。また、帯域画像生成部13におけるぼけが小さいほど高周波が残る画像が得られており、この帯域強調部14により高周波側の帯域まで強調される。具体例としては、毛などのファブリック感を高めたい場合に適している。
この場合の帯域強調部14における強調処理の一例としては、輝度画像の画素値をYo、帯域画像の画素値をYbとし、この輝度画像の画素値Yoと帯域画像の画素値Ybの差を強調して強調後の画素値Yeを算出すればよい。例えば、
Ye=αy(Yo−Yb)+Yo (数式5)
により算出するとよい。強調後の画素値Yeを帯域強調信号と呼ぶことにする。また、上述したが強調度合いを表す係数が帯域強調係数であり、数式5による強調処理では、αyが帯域強調係数である。帯域強調係数は、画像に応じて設定すればよいが、帯域強調係数が大きいほど強調される度合いが大きくなる。
図4は、帯域画像としてぼかし画像を用いた場合の周波数と強調度合いの一例の説明図である。帯域画像としてぼかし画像を用いた場合には、図4に示すように、帯域画像生成部13で少しぼかして帯域強調部14で強調することにより高周波帯域が強調され、帯域画像生成部13で大きくぼかして帯域強調部14で強調することにより、ぼかしが小さい場合に比べて低い周波数から強調され、その強調度合いが帯域強調係数αyによって変化する。
帯域画像生成部13で数式4を用いたDOGフィルタにより帯域画像を生成した場合は、数式5に代えて以下の数式6を用いて計算し、帯域の強調を行えばよい。
Ye=αyYb+Yo (数式6)
数式4のフィルタ特性がそもそも帯域の差分を意味する式になっているので、数式6により強調結果が得られる。数式6に準じた算出方法であればどのようなものでもよいことは言うまでもない。なお、この場合の帯域強調係数もαyである。
図5は、帯域画像としてDOGフィルタを用いて得た画像を用いた場合の周波数と強調度合いの一例の説明図である。数式4によるフィルタリングでは、ある帯域がピンポイントで検出される。図5では、一例として、数式4で高周波のサブバンド画像を生成して数式6で強調した場合と、数式4で中周波のサブバンド画像を生成して数式6で強調した場合について、周波数と強調度合いの関係を示している。図4に示したぼかし画像を用いる場合と比べて、中周波のサブバンド画像を生成して強調すると、低周波と高周波の強調を抑えて中周波を強調した帯域強調信号が得られる。
もちろん、ぼかし画像を用いた場合に数式5以外の方法により、DOGフィルタを用いた場合に数式6以外の方法により、強調処理を行ってもよい。さらに、他の方法により帯域画像が生成されている場合、対応する強調処理を行えばよい。また、帯域強調係数についても、それぞれの方法における強調度合いを表す係数を帯域強調係数とすればよい。
色逆変換部15は、帯域強調部14で強調された帯域強調画像と、色変換部12で変換された輝度色度画像のうちの色度成分の画像を組み合わせて、カラー画像の色空間の画像に逆変換する。言い換えると、色変換部12で変換された輝度色度画像のうちの輝度成分を、輝度成分で構成される帯域強調画像の画素値に入れ替えることになる。色変換部12で輝度色度色空間への変換を行い、帯域画像生成部13及び帯域強調部14では色空間を変更していないので、共通した色空間における成分の組み合わせとなり、このような輝度成分の値を変更してもかまわない。なお、特性強調画像として輝度色度画像を得ようとする場合には、帯域強調画像と輝度色度画像のうちの色度成分を組み合わせた後に、色空間の変換を行わずに出力してもよい。
YCbCr空間からRGB空間への逆変換は、数式2の変換行列の逆行列を用いて、以下のように行えばよい。
Figure 2014071853
この例では、帯域強調信号Yeと、輝度色度信号YsCbsCrsのうちの色度信号CbsCrsを組み合わせたYeCbsCrsから、RGB色空間の信号に変換すればよい。変換された信号をResGesBesとする。それぞれの画素についてResGesBesを求めれば、出力である特性強調画像が得られる。
数式7の逆行列の係数は既知であり、計算結果を
Figure 2014071853
とおくと、m11,…,m33が既知でありn11,…,n33も計算により求まるので、YeCbsCrsとResGesBesの関係は以下のようになる。
Res=n11Ye+n12Cbs+n13Crs
Ges=n21Ye+n22Cbs+n23Crs
Bes=n31Ye+n32Cbs+n33Crs
(数式8)
この数式8で得られたResGesBesを画素信号とする画像が、帯域の強調と色特性の調整が行われた特性強調画像である。この特性強調画像が処理結果として出力される。
係数設定部16は、色特性調整部11で行う色特性の調整の度合いを示す色度強弱係数と、帯域強調部14で行う帯域の強調の度合いを示す帯域強調係数を設定する。あるいはさらに、帯域画像生成部13が帯域画像を生成する際の帯域を示す帯域選択係数を設定してもよい。これらの設定は、例えばカラーの原画像のシーンに応じて設定するとよい。各係数の設定は、予め行っておくほか、再現意図が異なるいくつかの各係数の組を選択肢として用意しておき、外部からの指示により選択してもよい。あるいは、与えられたカラー画像の解析により各係数を設定、あるいは選択的に設定してもよい。自然画像を既存の画像解析手法で解析した場合、類似した絵柄でも異なる解析結果が算出されることもあり、絵柄の類似性にとらわれずに各係数を設定して、画像に応じた処理が行われる。
また、上述した帯域の強調と色特性の調整を合成した際に色域外となる不具合が生じる場合に対応して、出力される特性強調画像の画素値が色域内になるように、色特性調整部11で行う色特性の調整の度合いを示す色度強弱係数と、帯域強調部14で行う帯域の強調の度合いを示す帯域強調係数を設定するとよい。この場合、例えば色特性調整部11で色特性の調整を行った色特性調整画素値と、帯域強調部14で帯域の強調を行った帯域強調信号を用いて、各係数の設定を行うとよい。
特性強調画像の画素値が色域内になるように各係数を設定する場合について、さらに説明する。色特性調整部11で色特性の調整が行われた色特性調整画素値RsGsBsと、その色特性調整画素値RsGsBsを色変換部12で色変換した輝度色度信号YsCbsCrsとは、双方向で対応関係がある。しかし、帯域強調信号Yeと輝度色度信号の色度信号CbsCrsを組み合わせたYeCbsCrs信号は、輝度色度信号YsCbsCrsとは輝度が異なるため、色逆変換部15で変換した特性強調画像の画素値ResGesBesは色域外になる場合がある。そこで、係数設定部16ではさらに、帯域強調係数と色度強弱係数を制御して、特性強調画像の画素値が色域内となるようにするとよい。
色特性調整部11で色特性の調整が行われた色特性調整画素値RsGsBsと、色変換部12で色変換した輝度色度信号YsCbsCrsとは、数式2より、
Figure 2014071853
が成り立つ。輝度色度信号のうちの輝度信号Ysが帯域強調信号Yeに変わった場合、数式8より特性強調画像の画素値ResGesBesが算出される。算出されたRes、Ges、Besのいずれの値も予め定められた範囲の値であれば色域内であるとし、各係数はそのままでよい。
しかし、Res、Ges、Besの1以上について、予め定められた範囲から外れた値が算出される場合がある。例えば、Res、Ges、Besの値がいずれも0以上255以下の値を取るものと定められている場合、0より小さい値、あるいは255よりも大きい値が算出されることがある。もちろん、予め定められた範囲はこの例に限らず、0以上1以下であるなど、種々の範囲が設定されている場合があるが、いずれの範囲の設定でも、その範囲から外れた値が算出される場合がある。範囲から外れた値が算出された場合、特性強調画像の画素値ResGesBesは色域外となる。
算出された特性強調画像の画素値ResGesBesが色域外となる場合、帯域バランス係数wyと色度バランス係数wdを用い、数式8を
Res=n11Ye・wy+(n12Cbs+n13Crs)・wd
Ges=n21Ye・wy+(n22Cbs+n23Crs)・wd
Bes=n31Ye・wy+(n32Cbs+n33Crs)・wd
(数式10)
とする。n11,…,n33は既知であり、Ye、Cbs、Crsもすでに算出されている値を用いる。Res、Ges、Besの値については、予め定められた範囲外となっている成分を予め定められた範囲の下限値または上限値とする。そして、例えば帯域バランス係数wy=1として、数式10から色度バランス係数wdを算出する。得られた色度バランス係数wdを色度強弱係数に乗算して新たな色度強弱係数とすればよい。例えば数式1により色特性の調整を行う場合、色度強弱係数はαdであるので、数式1のαdは、(wd・αd−wd+1)により色度強弱係数αdを更新して設定すればよい。なお、この場合には帯域バランス係数wy=1としているが、これは帯域強調信号Ysをそのまま使用することを示しており、帯域強調係数については変更しないことになる。
もちろん、色度バランス係数wd=1とし、範囲外となる成分を予め定められた範囲の下限値または上限値として、数式10から帯域バランス係数wyを算出してもよい。例えば数式5により帯域の強調を行う場合、帯域強調係数はαyであるので、wy・αyにより帯域強調係数αyを更新して設定すればよい。さらに、帯域バランス係数wyと色度バランス係数wdとを予め決められた関係で変更するようにし、数式10を満たす帯域バランス係数wyと色度バランス係数wdを求めて、帯域強調係数及び色度強弱係数を更新して設定してもよい。
なお、係数設定部16としては、色特性調整部11から出力される色特性調整画素値RsGsBsと帯域強調信号Yeを取得すれば、係数設定部16で上述の演算を行って更新された各係数が得られるが、色変換部12で変換を行って輝度色度信号YsCbsCrsを取得し、あるいはさらに色逆変換部15で変換を行って特性強調画像の画素値ResGesBesを取得してもよいことは言うまでもない。
図6は、本発明の実施の一形態における動作の一例を示す流れ図である。この例では、係数設定部16で各係数の更新を行う場合について示している。
S61において、係数設定部16は色特性調整部11に対する色度強弱係数の設定、帯域強調部14に対する帯域強調係数の設定、あるいはさらに、帯域画像生成部13に対する帯域選択係数の設定などの各種の係数の設定を行う。
S62において、色特性調整部11は、係数設定部16により設定された色度強弱係数に従って、与えられたカラーの原画像に対して色特性の調整を行い、色特性調整画像を得る。
S63において、色変換部12は、色特性が調整された色特性調整画像に対して色空間変換を行い、輝度色度画像を得る。
S64において、帯域画像生成部13は、S63で得た輝度色度画像の輝度成分により表される画像である輝度画像から、予め設定され、あるいは係数設定部16により設定された帯域選択係数に従った周波数帯域の帯域画像を生成する。
S65において、帯域強調部14は、係数設定部16により設定された帯域強調係数に従い、S64で帯域画像生成部13により生成された帯域画像に対して強調処理を行い、帯域強調画像を得る。
S66において、S63で得た輝度色度画像のうちの色度成分と、S65で得た帯域強調画像の輝度成分とを用いて色空間変換を行い、特性強調画像を得る。
S67において、S66で得た特性強調画像の画素値が予め定められた範囲内の値であるか否かを判定する。範囲内であれば、特性強調画像を出力すればよい。
S67で範囲外の値の存在が判定された場合には、S68において、係数設定部16は範囲内となるように各係数の設定を更新する。ここでは、帯域強調係数と色度強弱係数の設定を更新するものとしている。
S69において、色特性調整部11は、係数設定部16によりS68で更新された色度強弱係数に従って、与えられたカラーの原画像に対して色特性の調整を行い、S70において、色特性が調整された色特性調整画像に対して色空間変換を行って輝度色度画像を得る。
S71において、帯域画像生成部13は、S70で得た輝度色度画像の輝度成分により表される画像である輝度画像から、予め設定され、あるいは係数設定部16により設定された帯域選択係数に従った周波数帯域の帯域画像を生成する。さらにS72において、帯域強調部14は、係数設定部16によりS68で更新された帯域強調係数に従い、帯域画像生成部13で生成された帯域画像に対して強調処理を行い、帯域強調画像を得る。
S73において、S71で得た輝度色度画像のうちの色度と、S72で得た帯域強調画像の輝度とを用いて色空間変換を行い、特性強調画像を得る。
この動作例では、S68で係数設定部16が帯域強調係数と色度強弱係数を更新するものとしているが、例えば色度強弱係数を更新せずに帯域強調係数を更新する場合には、改めてS69及びS70,S71の処理を行わずにS62,S63の処理結果とS64の処理結果を用いるように構成してもよい。また、係数設定部16で係数の更新を行わない場合には、S67以降の処理を行わなくてもよい。あるいは、S67の判定は行って、特性強調画像の画素値に予め定められた範囲外となる値が存在している場合にはエラーとするように構成してもよい。
図7は、本発明の実施の一形態の変形例を示す構成図である。図中、17は輝度画像生成部である。上述の例では、帯域の強調を色特性の調整後に行っているが、この変形例では、帯域の強調の処理を色特性の調整とは独立して、与えられたカラーの原画像に対して行う例を示している。以下、図1に示した構成と異なる点について主に説明してゆく。
輝度画像生成部17は、与えられたカラーの原画像から輝度画像を生成する。輝度画像を得るには、原画像の信号を輝度色度の信号へ変換して輝度の信号を抽出すればよい。この例では輝度色度の色空間としてYCbCr色空間を用いているので、原画像のRGB色空間の信号をYCbCr色空間の信号に変換し、Y成分を抽出すれば輝度画像が得られる。この変換は数式2により行えばよい。なお、輝度色度の色空間がLAB色空間であればL* 成分を、HSV色空間であればV成分を用いて輝度画像を得ればよい。
帯域画像生成部12は、輝度画像生成部17で生成した輝度画像から、予め設定された帯域を表す帯域画像を生成する。これにより、帯域の強調処理が与えられた原画像から得た輝度画像に対して行われることになる。このほかの帯域画像生成部12の処理及びその他の構成については、上述したとおりである。
図8は、本発明の実施の一形態の変形例における動作の一例を示す流れ図である。この例では、色特性の調整と帯域の強調の処理を並行して行う場合の動作の一例を示している。この例でも、係数設定部16で各係数の更新を行うものとしている。
S81において、係数設定部16は帯域強調部14に対する帯域強調係数の設定、色特性調整部11に対する色度強弱係数の設定、あるいはさらに、帯域画像生成部13に対する帯域選択係数の設定などの各種の係数の設定を行う。
一方の処理として、S82において、色特性調整部11は、係数設定部16により設定された色度強弱係数に従って、与えられたカラーの原画像に対して色特性の調整を行う。またS83において、色変換部12は、色特性が調整された色特性調整画像に対して色空間変換を行い、輝度色度画像を得る。
他方の処理として、S84において、輝度画像生成部17は与えられたカラーの原画像に対して輝度を成分とする色空間への変換を行い、輝度画像を生成する。またS85において、帯域画像生成部13は、S84で生成した輝度画像から、予め与えられ、あるいは係数設定部16により設定された帯域選択係数に従った周波数帯域の帯域画像を生成する。さらにS86において、帯域強調部14は、係数設定部16により設定された帯域強調係数に従い、帯域画像生成部13で生成された帯域画像に対して強調処理を行い、帯域強調画像を得る。
両方の処理が終了したら、S87において、S83で得た輝度色度画像のうちの色度と、S86で得た帯域強調画像の輝度とを用いて色空間変換を行い、特性強調画像を得る。
S88において、S87で得た特性強調画像の画素値が予め定められた範囲内の値であるか否かを判定する。範囲内であれば、特性強調画像を出力すればよい。
S88で範囲外の値の存在が判定された場合には、S89において、係数設定部16は範囲内となるように各係数の設定を更新する。ここでは、帯域強調係数と色度強弱係数の設定を更新するものとしている。
更新された各係数を用い、色特性の調整と帯域の強調の処理を並行して行う。一方の処理として、S90において、色特性調整部11は、係数設定部16によりS89で更新された色度強弱係数に従って、与えられたカラーの原画像に対して色特性の調整を行い、S91において、色特性が調整された色特性調整画像に対して色空間変換を行って輝度色度画像を得る。
他方の処理として、S92において、帯域強調部14は、係数設定部16によりS89で更新された帯域強調係数に従い、帯域画像生成部13で生成された帯域画像に対して強調処理を行い、帯域強調画像を得る。
両方の処理が終了したら、S93において、S91で得た輝度色度画像のうちの色度と、S92で得た帯域強調画像の輝度とを用いて色空間変換を行い、特性強調画像を得る。
この動作例でも、係数設定部16で係数の更新を行わない場合には、S88以降の処理を行わなくてもよい。あるいは、S88の判定は行って、特性強調画像の画素値に予め定められた範囲外となる値が存在している場合にはエラーとするように構成してもよい。もちろん、この変形例においても図6に示した動作例のように色特性の調整と帯域の強調の処理を順に行ってもよく、その場合に色特性の調整後に帯域の強調処理を行っても、帯域の強調後に色特性の調整を行ってもよい。この場合、帯域画像を生成する際に輝度画像生成部17で輝度画像を生成し、その輝度画像を用いて帯域画像を生成することになる。
図9は、本発明の実施の一形態及びその変形例で説明した機能をコンピュータプログラムで実現した場合におけるコンピュータプログラム及びそのコンピュータプログラムを格納した記憶媒体とコンピュータの一例の説明図である。図中、31はプログラム、32はコンピュータ、41は光磁気ディスク、42は光ディスク、43は磁気ディスク、44はメモリ、51はCPU、52は内部メモリ、53は読取部、54はハードディスク、55はインタフェース、56は通信部である。
上述の本発明の実施の一形態及びその変形例として説明した各部の機能の全部または部分的に、コンピュータが実行するプログラム31によって実現してもよい。その場合、そのプログラム31およびそのプログラムが用いるデータなどは、コンピュータによって読み取られる記憶媒体に記憶させておけばよい。記憶媒体とは、コンピュータのハードウェア資源に備えられている読取部53に対して、プログラムの記述内容に応じて、磁気、光、電気等のエネルギーの変化状態を引き起こして、それに対応する信号の形式で、読取部53にプログラムの記述内容を伝達するものである。例えば、光磁気ディスク41,光ディスク42(CDやDVDなどを含む)、磁気ディスク43,メモリ44(ICカード、メモリカード、フラッシュメモリなどを含む)等である。もちろんこれらの記憶媒体は、可搬型に限られるものではない。
これらの記憶媒体にプログラム31を格納しておき、例えばコンピュータ32の読取部53あるいはインタフェース55にこれらの記憶媒体を装着して、コンピュータからプログラム31を読み出し、内部メモリ52またはハードディスク54(磁気ディスクやシリコンディスクなどを含む)に記憶し、CPU51によってプログラム31を実行し、上述の本発明の実施の一形態及びその変形例として説明した機能が全部又は部分的に実現される。あるいは、通信路を介してプログラム31をコンピュータ32に転送し、コンピュータ32では通信部56でプログラム31を受信して内部メモリ52またはハードディスク54に記憶し、CPU51によってプログラム31を実行して実現してもよい。
コンピュータ32には、このほかインタフェース55を介して様々な装置と接続してもよい。例えば情報を表示する表示手段が接続され、原画像や特性強調画像が表示されてもよい。また、利用者からの情報を受け付ける受付手段が接続され、係数設定部16に対して設定の指示や選択を行ってもよい。もちろん、その他の装置が接続されていてもよい。なお、各構成が1台のコンピュータにおいて動作する必要はなく、処理段階に応じて別のコンピュータにより処理が実行されてもよい。
11…色特性調整部、12…色変換部、13…帯域画像生成部、14…帯域強調部、15…色逆変換部、16…係数設定部、17…輝度画像生成部、21…色変換部、22…輝度調整部、23…彩度調整部、24…色変換部、31…プログラム、32…コンピュータ、41…光磁気ディスク、42…光ディスク、43…磁気ディスク、44…メモリ、51…CPU、52…内部メモリ、53…読取部、54…ハードディスク、55…インタフェース、56…通信部。

Claims (7)

  1. カラー画像に対して色特性の調整を行う調整手段と、前記調整手段で色特性が調整されたカラー画像を輝度色度画像に変換する変換手段と、前記輝度色度画像のうちの輝度画像から予め設定された帯域を表す帯域画像を生成する帯域画像生成手段と、前記輝度画像と前記帯域画像を用いて帯域を強調した帯域強調画像を得る強調手段と、前記強調手段で行う前記帯域の強調の度合いと前記調整手段で行う色特性の調整の度合いを設定する設定手段を有することを特徴とする画像処理装置。
  2. カラー画像から輝度画像を生成する輝度画像生成手段と、前記輝度画像から予め設定された帯域を表す帯域画像を生成する帯域画像生成手段と、前記輝度画像と前記帯域画像を用いて帯域を強調した帯域強調画像を得る強調手段と、前記カラー画像に対して色特性の調整を行う調整手段と、前記調整手段で色特性が調整されたカラー画像を輝度色度画像に変換する変換手段と、前記強調手段で行う前記帯域の強調の度合いと前記調整手段で行う色特性の調整の度合いを設定する設定手段を有することを特徴とする画像処理装置。
  3. 前記設定手段は、前記カラー画像のシーンに応じて前記特性強調手段で行う前記帯域の強調の度合いと前記色特性の調整の度合いを設定することを特徴とする請求項1または請求項2に記載の画像処理装置。
  4. 前記設定手段は、前記特性強調画像の画素値が色域内になるように前記特性強調手段で行う前記帯域の強調の度合いと前記色特性の調整の度合いを設定することを特徴とする請求項1から請求項3のいずれか1項に記載の画像処理装置。
  5. 前記設定手段は、前記調整手段で色特性が調整された画像を用いて前記特性強調手段で行う前記帯域の強調の度合いと前記色特性の調整の度合いを設定することを特徴とする請求項1から請求項4のいずれか1項に記載の画像処理装置。
  6. 前記設定手段は、さらに、前記帯域画像生成手段が前記帯域画像を生成する際の帯域を設定することを特徴とする請求項1から請求項5のいずれか1項に記載の画像処理装置。
  7. コンピュータに、請求項1から請求項6のいずれか1項に記載の画像処理装置の機能を実行させるものであることを特徴とする画像処理プログラム。
JP2012220105A 2012-10-02 2012-10-02 画像処理装置及び画像処理プログラム Expired - Fee Related JP5975213B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2012220105A JP5975213B2 (ja) 2012-10-02 2012-10-02 画像処理装置及び画像処理プログラム
US13/891,912 US9053552B2 (en) 2012-10-02 2013-05-10 Image processing apparatus, image processing method and non-transitory computer readable medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012220105A JP5975213B2 (ja) 2012-10-02 2012-10-02 画像処理装置及び画像処理プログラム

Publications (2)

Publication Number Publication Date
JP2014071853A true JP2014071853A (ja) 2014-04-21
JP5975213B2 JP5975213B2 (ja) 2016-08-23

Family

ID=50385276

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012220105A Expired - Fee Related JP5975213B2 (ja) 2012-10-02 2012-10-02 画像処理装置及び画像処理プログラム

Country Status (2)

Country Link
US (1) US9053552B2 (ja)
JP (1) JP5975213B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016127403A (ja) * 2014-12-26 2016-07-11 株式会社リコー 画像処理装置、画像処理方法、プログラム、及び記録媒体

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109919846B (zh) * 2017-12-12 2022-09-23 腾讯科技(深圳)有限公司 一种图像增强方法、装置及计算设备
US11423515B2 (en) 2019-11-06 2022-08-23 Canon Kabushiki Kaisha Image processing apparatus
US11216922B2 (en) 2019-12-17 2022-01-04 Capital One Services, Llc Systems and methods for recognition of user-provided images
CN112446839B (zh) * 2020-11-30 2023-11-07 平安科技(深圳)有限公司 图像增强方法、装置、电子设备及计算机可读存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0997333A (ja) * 1995-07-25 1997-04-08 Toyota Central Res & Dev Lab Inc 画像処理装置
JP2000013642A (ja) * 1998-06-18 2000-01-14 Sony Corp ビデオ信号処理装置
JP2007094742A (ja) * 2005-09-28 2007-04-12 Olympus Corp 画像信号処理装置及び画像信号処理プログラム
JP2010219797A (ja) * 2009-03-16 2010-09-30 Fujitsu Semiconductor Ltd エッジ強調画像処理装置

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE69032589T2 (de) * 1989-05-31 1999-02-18 Canon Kk Farbbildverarbeitungsvorrichtung
JPH1023279A (ja) 1996-06-28 1998-01-23 Fuji Xerox Co Ltd 画像処理装置
JP2003304549A (ja) * 2002-04-11 2003-10-24 Olympus Optical Co Ltd カメラ及び画像信号処理システム
JP4700445B2 (ja) 2005-09-01 2011-06-15 オリンパス株式会社 画像処理装置および画像処理プログラム
GB2450295B (en) * 2006-04-18 2010-12-01 Tokyo Inst Tech Image transform apparatus and image transform program
JP4416771B2 (ja) 2006-09-12 2010-02-17 キヤノン株式会社 画像処理装置およびその方法
JP4994825B2 (ja) * 2006-12-22 2012-08-08 キヤノン株式会社 撮像装置及びその制御方法及びプログラム及び記憶媒体
JP4916341B2 (ja) 2007-02-28 2012-04-11 オリンパス株式会社 画像処理装置及び画像処理プログラム
JP4810473B2 (ja) * 2007-03-13 2011-11-09 オリンパス株式会社 画像処理装置および画像処理プログラム
JP2009005008A (ja) * 2007-06-20 2009-01-08 Olympus Corp 画像データ処理装置及び画像データ処理方法
JP5182221B2 (ja) 2009-05-26 2013-04-17 富士ゼロックス株式会社 画像処理装置、画像処理プログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0997333A (ja) * 1995-07-25 1997-04-08 Toyota Central Res & Dev Lab Inc 画像処理装置
JP2000013642A (ja) * 1998-06-18 2000-01-14 Sony Corp ビデオ信号処理装置
JP2007094742A (ja) * 2005-09-28 2007-04-12 Olympus Corp 画像信号処理装置及び画像信号処理プログラム
JP2010219797A (ja) * 2009-03-16 2010-09-30 Fujitsu Semiconductor Ltd エッジ強調画像処理装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016127403A (ja) * 2014-12-26 2016-07-11 株式会社リコー 画像処理装置、画像処理方法、プログラム、及び記録媒体

Also Published As

Publication number Publication date
JP5975213B2 (ja) 2016-08-23
US20140093168A1 (en) 2014-04-03
US9053552B2 (en) 2015-06-09

Similar Documents

Publication Publication Date Title
US20180367774A1 (en) Convolutional Color Correction in Digital Images
JP5251637B2 (ja) ノイズ低減装置、ノイズ低減方法、ノイズ低減プログラム、記録媒体
JP6415062B2 (ja) 画像処理装置、画像処理方法、制御プログラム、および記録媒体
JP5975213B2 (ja) 画像処理装置及び画像処理プログラム
EP2672691B1 (en) Image processing apparatus and image processing method
US10580122B2 (en) Method and system for image enhancement
CN109478316B (zh) 实时自适应阴影和高光增强
JP2017502423A (ja) 画像コントラストの強調装置、電子機器及び方法
Kim et al. Tone mapping with contrast preservation and lightness correction in high dynamic range imaging
CN109219833A (zh) 使用深度信息增强图像中的边缘
CN109636739B (zh) 图像饱和度增强的细节处理方法及装置
KR101349968B1 (ko) 자동 영상보정을 위한 영상 처리 장치 및 방법
WO2016026072A1 (en) Method, apparatus and computer program product for generation of extended dynamic range color images
JP5410378B2 (ja) 映像信号補正装置および映像信号補正プログラム
JP6677222B2 (ja) 検出装置、画像処理装置、検出方法、及び画像処理方法
JP5975215B2 (ja) 画像処理装置及び画像処理プログラム、画像調整装置及び画像調整プログラム
JP6335614B2 (ja) 画像処理装置、その制御方法、及びプログラム
JP5203159B2 (ja) 画像処理方法、画像処理システムおよび画像処理プログラム
JP2020145553A (ja) 画像処理装置、画像処理方法、及びプログラム
JPWO2006106750A1 (ja) 画像処理装置、画像処理方法、および画像処理プログラム
JP5810593B2 (ja) 画像処理装置、撮像装置およびプログラム
Chong et al. Dual image fusion technique for underwater image contrast enhancement
Cyriac et al. A nonlocal variational formulation for the improvement of tone mapped images
Adams et al. Perceptually based image processing algorithm design
JP2006024097A (ja) シャープネス計測装置、シャープネス計測方法、画像処理装置、画像処理方法、シャープネス計測プログラム、画像処理プログラム、及び記憶媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150306

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20151130

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20151209

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160201

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160622

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160705

R150 Certificate of patent or registration of utility model

Ref document number: 5975213

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees