JP2017106991A - バックライト制御装置、画像表示装置及びバックライト制御方法 - Google Patents

バックライト制御装置、画像表示装置及びバックライト制御方法 Download PDF

Info

Publication number
JP2017106991A
JP2017106991A JP2015239019A JP2015239019A JP2017106991A JP 2017106991 A JP2017106991 A JP 2017106991A JP 2015239019 A JP2015239019 A JP 2015239019A JP 2015239019 A JP2015239019 A JP 2015239019A JP 2017106991 A JP2017106991 A JP 2017106991A
Authority
JP
Japan
Prior art keywords
partial
average value
value
calculation unit
weighted average
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015239019A
Other languages
English (en)
Other versions
JP2017106991A5 (ja
JP6505007B2 (ja
Inventor
秀樹 吉井
Hideki Yoshii
秀樹 吉井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2015239019A priority Critical patent/JP6505007B2/ja
Publication of JP2017106991A publication Critical patent/JP2017106991A/ja
Publication of JP2017106991A5 publication Critical patent/JP2017106991A5/ja
Application granted granted Critical
Publication of JP6505007B2 publication Critical patent/JP6505007B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Liquid Crystal (AREA)
  • Liquid Crystal Display Device Control (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)

Abstract

【課題】バックライトの省電力制御と高輝度制御とを連続的に行えるようにすること。
【解決手段】入力画像の画素毎に特徴量を算出する特徴量算出部102と、部分領域における特徴量の最大値である部分最大値を検出する部分最大値検出部103と、部分領域における特徴量の平均値である部分平均値を算出する部分平均値算出部104と、予め定められた範囲における特徴量の平均値が大きいほど部分平均値の割合が高くなるように加重平均係数を算出する加重平均係数算出部106と、加重平均係数を用いて、部分最大値及び部分平均値の加重平均値を算出する加重平均算出部107と、加重平均値の平均値である基準平均値を算出する平均値算出部108と、部分領域毎に、加重平均値が基準平均値よりも大きいほど、バックライトの対応する部分が明るくなるように部分制御値を算出する部分制御値算出部111とを備える。
【選択図】図1

Description

本発明は、バックライト制御装置、画像表示装置及びバックライト制御方法に関し、特に、部分領域毎にバックライトの明るさを制御するバックライト制御装置、画像表示装置及びバックライト制御方法に関する。
液晶表示装置等、バックライトを備えた画像表示装置では、バックライトのエリアを区切って、部分的に発光輝度を制御することにより、コントラストの向上と消費電力の低減とを行ってきた。近年、HDR(High Dynamic Range)規格等もあり、消費電力低減だけでなく、例えば、明るく輝く部分の描写力等がより求められるようになってきている。
例えば、特許文献1に記載された画像表示装置は、各エリア内の画素の輝度の最大値を検出し、また、各エリア内の画素の輝度の平均値を算出し、好適な値に設定された閾値と各エリアの輝度最大値とを比較する。そして、この画像表示装置は、閾値よりもエリア輝度最大値の方が大きい場合、最大値に対応する値を出力し、エリア輝度最大値が閾値以下の場合、平均値に対応する値を出力する。
特許文献1では、上記のように、バックライトであるLED(Light Emitting Diode)の出力値が決定される。閾値が好適な値に設定されていれば、高階調表示が行われるべき画素を含むエリアにおいて、LED出力値が領域最大値に基づいて決定されることにより、輝度不足の発生が抑制される。一方、高階調表示が行われるべき画素を含まないエリアにおいては、LED出力値が領域平均値に基づいて決定されることにより消費電力が低減される。
特願2011−529834号公報(段落0050〜0054、段落0068、図1)
しかしながら、ある値に設定された閾値とエリア輝度最大値とを比較して、バックライトであるLEDの出力値が決定される場合、エリア輝度最大値が閾値を挟んで変化すると、バックライトの輝度に不連続が生じる。ここでバックライトは、LEDが用いられているが、他の光源であっても、同じである。
例えば、時間軸で考えた場合、エリア輝度最大値が閾値を挟んで変化を繰り返すと、バックライトの輝度は、明るくなったり暗くなったりを繰り返し、視聴者に違和感を与える。また、映像に含まれる意図しない信号(ノイズ)が原因で上記のような状況を生じる場合もあり、大きく画質劣化する場合がある。
閾値や、閾値と比較する値を変えても、上記のような問題は同じく発生する。
そこで、本発明は、バックライトの省電力制御と高輝度制御とを連続的に行うことができるようにすることを目的とする。
本発明の一態様に係るバックライト制御装置は、入力画像の画素毎に特徴量を算出する特徴量算出部と、前記入力画像に含まれる部分領域における前記特徴量の最大値である部分最大値を、前記入力画像に含まれる部分領域毎に検出する部分最大値検出部と、前記部分領域における前記特徴量の平均値である部分平均値を、前記部分領域毎に算出する部分平均値算出部と、予め定められた範囲における前記特徴量の平均値が大きいほど前記部分平均値の割合が高くなるように加重平均係数を算出する加重平均係数算出部と、前記部分領域毎に、前記加重平均係数を用いて、前記部分最大値及び前記部分平均値の加重平均値を算出する加重平均算出部と、前記加重平均値の平均値である基準平均値を算出する平均値算出部と、前記部分領域毎に、前記加重平均値と、前記基準平均値とを比較する比較部と、前記比較部の比較結果に基づいて、前記部分領域毎に、前記加重平均値が前記基準平均値よりも大きいほど、バックライトの対応する部分が明るくなるように部分制御値を算出する部分制御値算出部と、を備えることを特徴とする。
本発明の一態様に係る画像表示装置は、バックライトと、入力画像の画素毎に特徴量を算出する特徴量算出部と、前記入力画像に含まれる部分領域における前記特徴量の最大値である部分最大値を、前記入力画像に含まれる部分領域毎に検出する部分最大値検出部と、前記部分領域における前記特徴量の平均値である部分平均値を、前記部分領域毎に算出する部分平均値算出部と、予め定められた範囲における前記特徴量の平均値が大きいほど前記部分平均値の割合が高くなるように加重平均係数を算出する加重平均係数算出部と、前記部分領域毎に、前記加重平均係数を用いて、前記部分最大値及び前記部分平均値の加重平均値を算出する加重平均算出部と、前記加重平均値の平均値である基準平均値を算出する平均値算出部と、前記部分領域毎に、前記加重平均値と、前記基準平均値とを比較する比較部と、前記比較部の比較結果に基づいて、前記部分領域毎に、前記加重平均値が前記基準平均値よりも大きいほど、前記バックライトの対応する部分が明るくなるように部分制御値を算出する部分制御値算出部と、前記入力画像に基づいて画像を表示する表示部と、を備え、前記バックライトは、前記部分制御値に基づいて、部分毎に明るさを制御することを特徴とする。
本発明の一態様に係るバックライト制御方法は、入力画像の画素毎に特徴量を算出し、前記入力画像に含まれる部分領域における前記特徴量の最大値である部分最大値を、前記入力画像に含まれる部分領域毎に検出し、前記部分領域における前記特徴量の平均値である部分平均値を、前記部分領域毎に算出し、予め定められた範囲における前記特徴量の平均値が大きいほど前記部分平均値の割合が高くなるように加重平均係数を算出し、前記部分領域毎に、前記加重平均係数を用いて、前記部分最大値及び前記部分平均値の加重平均値を算出し、前記加重平均値の平均値である基準平均値を算出し、前記部分領域毎に、前記加重平均値と、前記基準平均値とを比較して、前記部分領域毎に、前記加重平均値が前記基準平均値よりも大きいほど、バックライトの対応する部分が明るくなるように部分制御値を算出することを特徴とする。
本発明の一態様によれば、閾値を用いて制御を行っていないため、バックライトの省電力制御と高輝度制御とを連続的に行うことができる。
実施の形態1に係る画像処理装置の構成を概略的に示すブロック図である。 実施の形態1におけるバックライト制御方法を示すフローチャートである。 実施の形態1において全体平均輝度が低い場合の映像例を示す概略図である。 実施の形態1における映像に含まれる部分領域毎の最大輝度と平均輝度とを示す概略図である。 実施の形態1において全体平均輝度が低い場合の映像例を示す概略図である。 実施の形態1における映像に含まれる部分領域毎の最大輝度と平均輝度とを示す概略図である。 実施の形態2に係る画像処理装置の構成を概略的に示すブロック図である。 実施の形態2においてバックライトの領域分割数が比較的多い場合の映像例を示す概略図である。 実施の形態3に係る画像処理装置の構成を概略的に示すブロック図である。 実施の形態4に係る画像処理装置の構成を概略的に示すブロック図である。 実施の形態5に係る画像処理装置の構成を概略的に示すブロック図である。 (A)及び(B)は、実施の形態1から5におけるバックライト制御装置のハードウェア構成例を示す概略図である。
実施の形態1.
図1は、実施の形態1に係る画像処理装置100の構成を概略的に示すブロック図である。
画像処理装置100は、映像入力端子101と、特徴量算出部102と、部分最大値検出部103と、部分平均値算出部104と、全体平均値算出部105と、加重平均係数算出部106と、加重平均算出部107と、平均値算出部108と、比較部109と、全体制御値算出部110と、部分制御値算出部111と、出力端子112とを備える。
ここで、部分最大値検出部103、部分平均値算出部104、全体平均値算出部105、加重平均係数算出部106、加重平均算出部107、平均値算出部108及び比較部109により、部分相対制御値算出部120が構成される。
また、特徴量算出部102、部分相対制御値算出部120、全体制御値算出部110及び部分制御値算出部111により、バックライト制御装置130が構成される。
映像入力端子101は、映像信号の入力を受ける。
特徴量算出部102は、映像入力端子101に入力された映像信号から、入力画像の画素毎に輝度等の特徴量を算出する。
部分最大値検出部103は、有効映像領域に含まれる入力画像の部分領域における特徴量の最大値を部分特徴量最大値(部分最大値)として、部分領域毎に検出する。
部分平均値算出部104は、部分最大値検出部103で特徴量最大値が検出された部分領域と同じ部分領域の特徴量の平均値を部分特徴量平均値(部分平均値)として、部分領域毎に検出する。
全体平均値算出部105は、有効映像領域の入力画像の全体の特徴量の平均値である特徴量平均値を検出する。
加重平均係数算出部106は、加重平均算出部107で、部分特徴量最大値及び部分特徴量平均値の加重平均を算出する際に用いられる係数である加重平均係数を算出する。例えば、加重平均係数算出部106は、予め定められた範囲における特徴量の平均値が大きいほど、部分特徴量平均値の割合が高くなるように加重平均係数を算出する。ここで、実施の形態1においては、予め定められた範囲は、有効映像領域の入力画像の全体である。
加重平均算出部107は、部分最大値検出部103から与えられた部分特徴量最大値と、部分平均値算出部104から与えられた部分特徴量平均値とを、加重平均係数算出部106から与えられた加重平均係数により加重平均することで、加重平均値を算出する。
平均値算出部108は、加重平均算出部107で算出された加重平均値の平均値を、基準平均値として算出する。例えば、平均値算出部108は、有効映像領域に含まれる全ての部分領域の加重平均値の平均値を、基準平均値として算出する。
比較部109は、加重平均算出部107から与えられた一つの部分領域の加重平均値と、平均値算出部108から与えられた基準平均値とを比較する。ここでは、比較部109は、加重平均値から基準平均値を減算することで、一つの部分領域の加重平均値の偏差を算出する。
全体制御値算出部110は、全体平均値算出部105から与えられた特徴量平均値から、全体のバックライト制御値である全体制御値を算出する。例えば、全体制御値算出部110は、特徴量平均値が高いほど、バックライトが明るくなるように、全体制御値を算出する。
部分制御値算出部111は、比較部109での比較結果に基づいて、部分領域毎に、加重平均値が基準平均値よりも大きいほど、バックライトの対応する部分が明るくなるように部分制御値を算出する。また、部分制御値算出部111は、比較部109での比較結果に基づいて、部分領域毎に、加重平均値が基準平均値よりも小さいほど、バックライトの対応する部分が暗くなるように部分制御値を算出する。例えば、部分制御値算出部111は、比較部109から与えられた値(偏差)に予め定められた設定値Gを乗算し、その乗算値を、全体制御値算出部110から与えられた全体制御値に加算することで、一つの部分領域に対応するバックライト制御値である部分制御値を算出する。この設定値Gは、バックライト制御をどの程度作用させるかを決める係数であって、ユーザにより予め定められていればよい。
出力端子112は、部分制御値算出部111から与えられる部分制御値を出力する。出力された部分制御値に基づいて、図示しないバックライトの明るさが制御される。
ここで、それぞれの部分領域のバックライトの部分制御値が、どのように算出されるかを説明する。
ここでは、有効映像領域が、部分領域A、部分領域B及び部分領域Cの三つの部分領域に分割されているものとして説明する。
まず、特徴量算出部102は、映像入力端子101から入力された映像信号から、特徴量として、例えば、輝度を算出する。以下、特徴量は、輝度であるものとし、輝度の最大値は、100であるものとする。ここで、輝度の最大値は、相対値であり、いくらであってもよいものとする。
部分最大値検出部103は、これらの部分領域のそれぞれについて、部分特徴量最大値として部分最大輝度を検出する。例えば、部分領域Aの部分最大輝度が80であったとする。
部分平均値算出部104は、これらの部分領域のそれぞれについて、部分特徴量平均値として部分平均輝度を算出する。例えば、部分領域Aの部分平均輝度が30であったとする。
全体平均値算出部105は、有効映像領域全体の特徴量平均値として、有効映像領域全体の平均輝度である全体平均輝度を算出する。ここでは、全体平均輝度が低く、15であるものとする。
加重平均係数算出部106は、全体平均値算出部105で算出された全体平均輝度に基づいて、加重平均係数を算出する。ここで、加重平均係数(CE)は、全体平均輝度(ALLAVG)が低い時、低くなるように算出される。加重平均係数は、例えば、下記の(1)式により算出される。
CE=ALLAVG×0.01+0.05 (1)
但し、加重平均係数の最大値は、1である。
(1)式によれば、全体平均輝度が15の場合には、加重平均係数は0.2となる。
加重平均算出部107は、部分最大値検出部103から与えられる部分最大輝度(PMAX)と、部分平均値算出部104から与えられる部分平均輝度(PAVG)とを、加重平均係数算出部106から与えられる加重平均係数(CE)とに基づいて、下記の(2)式により、加重平均値としての加重平均輝度(WAVG)を算出する。
WAVG=PAVG×CE+PMAX×(1−CE) (2)
以上のように、PMAX=80、PAVG=30及びCE=0.2の場合には、下記の(2−1)式により、部分領域Aの加重平均輝度は、70になる。
30×0.2+80×(1−0.2)=70 (2−1)
部分領域B及び部分領域Cに対しても、上述のようにして、加重平均輝度が算出される。ここでは、部分領域Bの加重平均輝度が60、部分領域Cの加重平均輝度が50であったとする。
平均値算出部108は、加重平均輝度を有効映像領域全体で平均した基準平均値(AWAVG)を算出する。ここでは、下記の(3)式に示されているように、この基準平均値は、60となる。
(70+60+50)÷3=60 (3)
比較部109は、それぞれの部分領域の加重平均輝度と、平均値算出部108から与えられる基準平均値とを比較する。ここでは、比較部109は、下記の(4)式に示されているように、それぞれの部分領域の加重平均輝度(WAVG)から全体の基準平均値(AWAVG)を減算することで、その偏差(DE)を算出する。
DE=WAVG−AWAVG (4)
以上の例では、部分領域Aの偏差は下記の(4−1)式により10、部分領域Bの偏差は下記の(4−2)式により0、及び、部分領域Cの偏差は下記の(4−3)式により−10になる。
70−60=10 (4−1)
60−60=0 (4−2)
50−60=−10 (4−3)
一方、全体制御値算出部110は、全体平均値算出部105で算出された全体平均輝度(ALLAVG)から、バックライト全体の全体制御値を算出する。全体平均輝度が低い場合(ここでは15)、全体制御値も小さくなるようにする。例えば、下記の(7)式により、全体制御部(AC)が算出される。
ACV=ALLAVG×2+5 (7)
但し、全体制御値(ACV)の最大値は、100とする。ここで、全体制御値の最大値は相対値であり、いくらであってもよい。
ここで、全体平均輝度が15である場合には、(7)式により、全体制御値は、35となる。
部分制御値算出部111は、全体制御値算出部110から与えられる全体制御値(ACV)と、比較部109から与えられる偏差(DE)と、予め定められている設定値(G)とを用いて、下記の(8)式により、各部分領域の部分制御値(PCV)を算出する。
PCV=ACV+DE×G (8)
以上に記載された例では、ACV=35、部分領域AのDE=10、部分領域BのDE=0、及び、部分領域CのDE=−10である。このため、部分領域A、部分領域B及び部分領域Cの部分制御値は、それぞれ、下記の(8−1)式、(8−2)式及び(8−3)式により求められる。
35+10×G (8−1)
35+0×G (8−2)
35−10×G (8−3)
例えば、G=1と設定されている場合には、部分領域Aの部分制御値は45、部分領域Bの部分制御値は35、及び、部分領域Cの部分制御値は25となる。
また、G=2と設定されている場合には、部分領域Aの部分制御値は55、部分領域Bの部分制御値は35、及び、部分領域Cの部分制御値は15となる。
一方、G=0と設定されている場合には、部分領域A、部分領域B及び部分領域Cの部分制御値は、全て35となる。この場合には、それぞれの部分領域でバックライトの明るさが異ならない、全面バックライト制御となる。即ち、設定値Gを自由に設定することで、視聴者の好みのバックライト動作を実現することができる。
図2は、実施の形態1におけるバックライト制御方法を示すフローチャートである。
まず、映像入力端子101に入力された映像信号に基づいて、特徴量算出部102は、特徴量を算出する(S10)。
次に、部分最大値検出部103は、各部分領域で部分特徴量最大値を検出する(S11)。
また、部分平均値算出部104は、各部分領域で部分特徴量平均値を算出する(S12)。
全体平均値算出部105は、全画面で特徴量平均値を算出する(S13)。
加重平均係数算出部106は、全体平均値算出部105で算出された全画面の特徴量平均値から加重平均係数を算出する(S14)。
そして、加重平均算出部は、加重平均係数算出部106で算出された加重平均係数を用いて、部分領域毎に、その部分特徴量最大値と、その部分特徴量平均値とを加重平均する(S15)。
平均値算出部108は、加重平均算出部107で算出された加重平均値の平均値である基準平均値を算出する(S16)。
そして、比較部109は、加重平均算出部107から与えられた一つの部分領域の加重平均値と、平均値算出部108から与えられた基準平均値とを比較する。
部分制御値算出部111は、全体平均値算出部105で算出された特徴量平均値に基づいて全体制御値算出部110で算出された全体制御値を受け取る。そして、部分制御値算出部111は、比較部109での比較結果に応じて、全体制御値から各部分領域のバックライト制御値である部分制御値を算出する(S18)。
そして、映像信号の入力が続く等、特に終了する必要がない場合(S19でYES)には、処理はステップS10に戻り、これらのステップが繰り返される。全てのステップは、一般的に映像信号の時系列的な入力に対し、繰り返し行われる。
具体的な数値を挙げて、計算方法を示したが、以下に、具体的な映像を例に、効果を説明する。
図3は、全体平均輝度が低い場合の映像例を示す概略図である。
図3に示されている映像170では、左上に月があり、右にビルがある。ビルの窓は、明るく光っている場合を想定している。簡単のため、背景は一様であるとする。
図4は、図3に示された映像170に含まれる部分領域毎の最大輝度と平均輝度とを示す概略図である。
図4に示されている上側の数字が最大輝度、下側の数字が平均輝度である。全体平均輝度は、簡単のため10とする。
図4に示されているように、左上の区域を区域A、右上のビルが一部分ある区域を区域B、右側のビルがある区域を区域C、背景の区域を区域Dとする。
全体平均輝度が10であるため、(1)式により、加重平均係数は、0.15となる。
そして、それぞれの区域に含まれる部分領域の加重平均輝度は、(2)式に基づいて、以下の(9)式から(12)式により求められる。
区域A: 15×0.15+90×(1−0.15)= 78.75 (9)
区域B: 10×0.15+80×(1−0.15)= 69.5 (10)
区域C: 20×0.15+80×(1−0.15)= 71 (11)
区域D: 5×0.15+ 5×(1−0.15)= 5 (12)
この時、各区域に含まれる部分領域の加重平均輝度を有効映像領域全体で平均した基準平均値は、下記の(13)により、およそ27.5になる。
(78.75+69.5+71×2+5×8)÷12=27.5 (13)
そして、比較部109で算出される各区域に含まれる部分領域の偏差は、(4)式に従って、下記の(14)式から(17)式により求められる。
区域A: 78.75−27.5=51.25 (14)
区域B: 69.5−27.5=42 (15)
区域C: 71−27.5=43.5 (16)
区域D: 5−27.5=−22.5 (17)
全体制御値算出部110は、全体平均輝度から、全体制御値を算出する。全体平均輝度が低い場合、全体制御値は小さくなる。この例では、全体平均輝度が10と低いため、(7)式により、全体制御値は25となる。
次に、部分制御値算出部111は、(8)式に基づいて、下記の(18)式から(21)式により、各区域に含まれる部分領域の部分制御値を算出する。
区域A: 25+51.25×G (18)
区域B: 25+42×G (19)
区域C: 25+43.5×G (20)
区域D: 25−22.5×G (21)
例えば、G=1とすれば、(18)式〜(21)式により、区域Aに含まれる部分領域の部分制御値は76.25、区域Bに含まれる部分領域の部分制御値は67、区域Cに含まれる部分領域の部分制御値は68.5、区域Dに含まれる部分領域の部分制御値は2.5となる。
ここで、部分制御値には、最大値及び最小値が設定されており、部分制御値算出部111は、算出された部分制御値が最小値よりも小さい場合には、最小値を採用し、算出された部分制御部が最大値よりも大きい場合には、最大値を採用する。例えば、最小値は、0、5又は20に設定されている。最小値が0である場合には、算出された部分制御値が負の値となった場合は、設定された最小値が出力される。
このように、各区域での平均輝度にあまり差がなくても、各区域の部分制御値は、大きく異なる。このため、メリハリのあるバックライト制御を行うことができる。具体的には、月及びビルの窓が明るく輝いて見える。
次に、全体平均輝度が高い場合の例を示す。
図5は、全体平均輝度が高い場合の映像例を示す概略図である。
図5に示されている映像171では、左上に太陽があり、右にビルがある。また、中央下部に木とその影がある。簡単のため、背景は一様であるとする。
図6は、図5に示された映像171に含まれる部分領域毎の最大輝度と平均輝度とを示す概略図である。
図6に示されている上側の数字が最大輝度、下側の数字が平均輝度である。全体平均輝度は、簡単のため50とする。
図6に示されているように、左上の区域を区域A、右上のビルが一部分ある区域を区域B、右側のビルがある区域を区域C、木がある区域を区域域D、木の影がある区域を区域E、背景の区域を区域Fとする。
全体平均輝度が50であるため、(1)式により、加重平均係数は、0.55となる。
そして、それぞれの区域に含まれる部分領域の加重平均輝度は、(2)式に基づいて、以下の(22)式から(27)式により求められる。
区域A: 70×0.55+100×(1−0.55)= 83.5 (22)
区域B: 55×0.55+80 ×(1−0.55)= 66.25 (23)
区域C: 60×0.55+80 ×(1−0.55)= 69 (24)
区域D: 40×0.55+50 ×(1−0.55)= 44.5 (25)
区域E: 20×0.55+50 ×(1−0.55)= 33.5 (26)
区域F: 50×0.55+50 ×(1−0.55)= 50 (27)
この時、各区域に含まれる部分領域の加重平均輝度を有効映像領域全体で平均した平均値は、下記の(28)により、およそ55.5になる。
(83.5+66.25+69×2+44.5+33.5+50×6)÷12
=55.5 (28)
そして、比較部109で算出される各区域に含まれる部分領域の偏差は、(4)式に従って、下記の(29)式〜(34)式により求められる。
区域A: 83.5 −55.5=28 (29)
区域B: 66.25−55.5=10.75 (30)
区域C: 69 −55.5=13.5 (31)
区域D: 44.5 −55.5=−11 (32)
区域E: 33.5 −55.5=−22 (33)
区域F: 50 −55.5=−5.5 (34)
全体制御値算出部110は、全体平均輝度から、全体制御値を算出する。全体平均輝度が高い場合、全体制御値は大きくなる。この例では、全体平均輝度が50と比較的高いため、(7)式により、全体制御値は100となる。
次に、部分制御値算出部111は、(8)式に基づいて、下記の(35)式〜(40)式により、各区域に含まれる部分領域の部分制御値を算出する。
区域A 100+28×G (35)
区域B 100+10.75×G (36)
区域C 100+13.5×G (37)
区域D 100−11×G (38)
区域E 100−22×G (39)
区域F 100−5.5×G (40)
例えば、G=1とすれば、式(35)〜式(40)により、区域Aに含まれる部分領域の部分制御値は128、区域Bに含まれる部分領域の部分制御値は110.75、区域Cに含まれる部分領域の部分制御値は113.5、区域Dに含まれる部分領域の部分制御値は89、区域Eに含まれる部分領域の部分制御値は78、区域Fに含まれる部分領域の部分制御値は94.5となる。
ここで、区域Aは128、区域Bは110.75、区域Cは113.5となるが、部分制御値には最大値及び最小値が設定されているため、これらの区域に含まれる部分領域の部分制御値は、最大値(例えば、100、95又は80等)に設定される。例えば、最大値が80の場合は、区域A、区域B及び区域Cの他、区域D及び区域Fの部分制御値も80となる。
このように、各区域での平均輝度にあまり差がなくても、各区域の部分制御値は、大きく異なる。このため、メリハリのあるバックライト制御を行うことができる。具体的には、木の影が黒く引き締まり、コントラストが高くなり、高画質化が可能となる。
なお、最大輝度を検出する際には、意図しない信号(ノイズ)による影響を和らげるため、近隣の画素間で、ローパスフィルタ(LPF)を用いて、突出した最大値を抑制することができる。また、時間方向でもLPFを用いることで、例えば、それぞれの部分領域で、1画面前の最大輝度に現画面の最大輝度を一定の割合(この割合については設定可能)で加算することで、時間的に突出した最大値を抑制することができる。
以上の説明では、特徴量の例として輝度を用いたが、例えば、入力映像が赤、緑及び青の3原色であった場合は、輝度に準ずる値が簡易的な計算式で求められてもよい。入力映像が明るい時に大きくなる数値であれば、輝度に代えて用いることができる。
また、各画素で、画素毎に特定される値の最大値、例えば、赤、緑及び青の画素値の最大値を特徴量としても良い。例えば、赤、緑及び青の画素値の最大値を特徴量とした場合、赤いバラ等は、高い特徴量になり、特徴量を輝度とした時より、バックライトを明るく制御することができる。この場合には、色鮮やかな物を明るく表示したい表示装置等と組み合わせると、効果が期待できる。
以上では、加重平均係数の算出例として、(1)式を用いて算出しているが、加重平均係数の最大値は、1より小さい値であってもよい。また、加重平均係数の最小値が、例えば、0.5等と予め定められた値に決められていてもよい。
また、(1)式のように、加重平均係数の算出式は、必ずしも、全体平均輝度(ALLAVG)の1次式である必要はない。例えば、全体として特徴量の平均を重視したい場合、又は、特徴量の最大値を重視したい場合等、コンテンツ、ディスプレイの性能又はディスプレイの周辺環境により、適切な最大値、最小値及び計算式を用いることで、様々な調整が可能である。例えば、各部分領域において、特徴量の平均の差が小さいが特徴量の最大値に比較的大きな差があるとき、特徴量の最大値の差が小さいが特徴量の平均に比較的大きな差があるとき等に、各部分領域間のバックライトの輝度差が大きい方がよいか又は小さい方がよいかで、様々な調整が可能である。
また、実施の形態1では、比較部109は、減算を行っているが、除算を行ってもよい。即ち、比較部109は、基準平均値に対する加重平均値の割合を求めてもよい。その場合は、部分制御値算出部111は、加算ではなく、乗算を行う。
実施の形態2.
図7は、実施の形態2に係る画像処理装置200の構成を概略的に示すブロック図である。
画像処理装置200は、映像入力端子101と、特徴量算出部102と、部分最大値検出部103と、部分平均値算出部104と、全体平均値算出部105と、加重平均係数算出部206と、加重平均算出部107と、平均値算出部108と、比較部109と、全体制御値算出部110と、部分制御値算出部111と、周辺部分平均値算出部213と、出力端子112とを備える。
実施の形態2に係る画像処理装置200は、周辺部分平均値算出部213及び加重平均係数算出部206を除いて、実施の形態1に係る画像処理装置100と同様に構成されている。以下では、主に、周辺部分平均値算出部213及び加重平均係数算出部206について説明する。実施の形態2では、加重平均係数を算出する際に用いられる平均値を算出する範囲が、部分領域毎に異なる範囲となっている。
ここで、部分最大値検出部103、部分平均値算出部104、加重平均係数算出部206、加重平均算出部107、平均値算出部108、比較部109及び周辺部分平均値算出部213により、部分相対制御値算出部220が構成される。
また、特徴量算出部102、全体平均値算出部105、部分相対制御値算出部220、全体制御値算出部110及び部分制御値算出部111により、バックライト制御装置230が構成される。
周辺部分平均値算出部213は、部分最大値検出部103で特徴量最大値が検出された部分領域と同じ部分領域を含む予め定められた周辺部分の特徴量の平均値である周辺部分平均値を算出する。周辺部分は、例えば、それぞれの部分領域と、その周辺の8個の部分領域とを含む9個の部分領域であってもよい。また、周辺部分は、それぞれの部分領域を中心とする、水平方向に5個の部分領域と、垂直方向に3個の部分領域とに構成される15個の部分領域であってもよい。さらに、周辺部分は、それぞれの部分領域を中心とする、水平方向に7個の部分領域と、垂直方向に5個の部分領域とに構成される35個の部分領域であってもよい。
加重平均係数算出部206は、周辺部分平均値算出部213から与えられる周辺部分平均値から加重平均係数を算出する。
例えば、加重平均係数算出部206は、周辺部分平均値算出部213から与えられる周辺部分平均値である周辺部分平均輝度(PARTAVG)を用いて、下記の(41)式から、加重平均係数(CE)を算出する。
CE=PARTAVG×0.01+0.05 (41)
但し、加重平均係数(CE)の最大値は1である。
以下に、具体的な映像を例に、効果を説明する。
図8は、バックライトの領域分割数が比較的多い場合の映像例を示す概略図である。
図8に示されている映像272には、明るさの異なる様々な物が含まれている。
例えば、映像272に含まれている木の影に着目すると、木の影の領域の明るさは暗めに制御することが望まれる。映像全体の平均輝度が比較的高く、かつ、木の影の周辺の領域の平均輝度の方が映像全体の平均輝度より高い場合、映像全体の平均輝度により加重平均係数を算出するより、木の影の周辺部分の平均輝度から加重平均係数を算出した方が、最大輝度よりも平均輝度を重視する計算になる。このため、より望ましい明るさ制御が可能となる。これは、全体が暗い映像の場合でも同じことが言える。
加重平均係数を算出するための平均輝度を計算するための最適な範囲は、人の目が一度に認識できる範囲等のように、都合のよい範囲設定が可能か否が関わるので、画面全体の大きさが大きく、バックライトの領域分割数が比較的多い場合に、このような周辺部分平均輝度による加重平均係数の算出方法に効果がある。
実施の形態3.
図9は、実施の形態3に係る画像処理装置300の構成を概略的に示すブロック図である。
画像処理装置300は、映像入力端子101と、特徴量算出部102と、部分相対制御値算出部120、220と、部分制御値算出部111と、出力端子112と、全体制御値入力端子314とを備える。
実施の形態3に係る画像処理装置300は、全体制御値入力端子314を除いて、実施の形態1に係る画像処理装置100又は実施の形態2に係る画像処理装置200と同様に構成されている。以下では、主に、全体制御値入力端子314について説明する。
ここで、特徴量算出部102、部分相対制御値算出部120、220及び部分制御値算出部111により、バックライト制御装置330が構成される。
実施の形態3におけるバックライト制御装置330には、全体制御値が外部から入力される。
なお、部分相対制御値算出部120、220は、実施の形態1における部分相対制御値算出部120及び実施の形態2における部分相対制御値算出部220の何れか一方である。
全体制御値入力端子314は、全体制御値の入力を受け付ける。
実施の形態3における部分制御値算出部111は、部分相対制御値算出部120、220から与えられた値に設定値Gを乗算し、全体制御値入力端子314から与えられた全体制御値に加算する。
実施の形態3は、全面のバックライト制御機能はあるが部分領域毎に制御する機能がない回路(集積回路:IC等)に、バックライトを部分領域毎に制御する機能を付加する時に有効な構成である。
実施の形態4.
図10は、実施の形態4に係る画像表示装置としての画像処理装置400の構成を概略的に示すブロック図である。
画像処理装置400は、映像入力端子101と、バックライト制御装置130、230と、バックライト440と、映像信号処理部450と、光学パネル451とを備える。
実施の形態4における映像入力端子101は、実施の形態1と同様に構成されている。
実施の形態4におけるバックライト制御装置130、230は、実施の形態1におけるバックライト制御装置130及び実施の形態2におけるバックライト制御装置230の何れか一方である。
バックライト440は、バックライト制御装置130、230からの部分制御値に基づいて、部分領域毎に光を発する。ここで、バックライト440は、複数の部分領域で明るさを制御することができる。
映像信号処理部450は、映像入力端子101に入力された映像信号に高画質化処理等を施して出力する。例えば、映像信号処理部450は、一般的な映像信号処理、例えば、ノイズ除去、輝度補正、色補正、輪郭補正又は超解像処理等を行う。
光学パネル451は、映像信号処理部450から入力された映像信号により、光の透過率を変化させる。光学パネル451は、例えば、液晶パネルである。
ここで、映像信号処理部450及び光学パネル451により、入力画像に基づいて画像を表示する表示部452が構成される。
以上のような構成により、実施の形態4に係る画像処理装置400は、実施の形態1又は実施の形態2で説明したような画像を出力することができる。
実施の形態5.
図11は、実施の形態5に係る画像表示装置としての画像処理装置500の構成を概略的に示すブロック図である。
画像処理装置500は、映像入力端子101と、全体制御値入力端子314と、バックライト制御装置330と、バックライト440と、映像信号処理部450と、光学パネル451とを備える。
実施の形態5における画像処理装置500は、全体制御値入力端子314及びバックライト制御装置330を除いて、実施の形態4に係る画像処理装置400と同様に構成されている。
実施の形態5における全体制御値入力端子314は、実施の形態3における全体制御値入力端子314である。
実施の形態5におけるバックライト制御装置330は、実施の形態3におけるバックライト制御装置330である。
以上のような構成により、実施の形態5に係る画像処理装置500は、実施の形態3で説明したような画像を出力することができる。
以上に記載されたバックライト制御装置130、230、330の一部又は全部は、例えば、図12(A)に示されているように、メモリ661と、メモリ661に格納されているプログラムを実行するCPU(Central Processing Unit)等のプロセッサ662とにより構成することができる。このようなプログラムは、ネットワークを通じて提供されてもよく、また、記録媒体に記録されて提供されてもよい。即ち、このようなプログラムを記録したコンピュータで読み取り可能な記憶媒体もまた本発明の一部を成す。
また、バックライト制御装置130、230、330の一部又は全部は、例えば、図12(B)に示されているように、単一回路、復号回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ASIC(Application Specific Integrated Circuits)又はFPGA(Field Programmable Gate Array)等の処理回路663で構成することもできる。
以上の実施の形態によれば、バックライトの制御は連続して変化するため、バックライトの輝度は、なめらかに変化し、画質が劣化しない。
また、以上の実施の形態1によれば、映像全体の全体平均輝度によって、部分領域内の部分平均輝度と部分領域内の部分最大輝度が加重平均される。このため、例えば、全体に明るい画像では、部分領域内の部分平均輝度が重視され、部分領域間で、部分領域内の部分最大輝度の差が少なくなっても、メリハリのあるバックライト制御を行うことができる。また、全体に暗い画像では、部分領域内の部分最大輝度が重視され、部分領域内の一部に明るい部分がある場合でも、バックライトを明るく制御し、明るく輝く部分を好ましく表現することができる。
また、以上の実施の形態2によれば、対象となる部分領域とその周辺の部分領域を含む範囲の平均輝度によって、部分領域内の部分平均輝度と部分領域内の部分最大輝度とが加重平均される。このため、例えば、一定程度のエリアにまたがって暗いエリアがあり、その中の一部エリア内に明るい部分がある場合に、部分領域内の部分最大輝度が重視されることで、バックライトを明るく制御し、明るく輝く部分を好ましく表現することができる。
さらに、各部分領域内で、加重平均によって得られた値を全ての部分領域で平均した基準平均値と、各部分領域で加重平均によって得られた値とを比較し、全体のバックエリア制御値に加算するため、各部分領域のバックライト輝度の偏りの強さを簡単に制御でき、全体のバックライト制御と違和感なく融合することができる。
100,200,300,400,500 画像処理装置、 101 映像入力端子、 102 特徴量算出部、 103 部分最大値検出部、 104 部分平均値算出部、 105 全体平均値算出部、 106,206 加重平均係数算出部、 107 加重平均算出部、 108 平均値算出部、 109 比較部、 110 全体制御値算出部、 111 部分制御値算出部、 112 出力端子、 213 周辺部分平均値算出部、 314 全体制御値入力端子、 120,220 部分相対制御値算出部、 130,230,330 バックライト制御装置、 440 バックライト、 450 映像信号処理部、 451 光学パネル、 452 表示部、 661 メモリ、 662 プロセッサ、 663 処理回路。

Claims (11)

  1. 入力画像の画素毎に特徴量を算出する特徴量算出部と、
    前記入力画像に含まれる部分領域における前記特徴量の最大値である部分最大値を、前記入力画像に含まれる部分領域毎に検出する部分最大値検出部と、
    前記部分領域における前記特徴量の平均値である部分平均値を、前記部分領域毎に算出する部分平均値算出部と、
    予め定められた範囲における前記特徴量の平均値が大きいほど前記部分平均値の割合が高くなるように加重平均係数を算出する加重平均係数算出部と、
    前記部分領域毎に、前記加重平均係数を用いて、前記部分最大値及び前記部分平均値の加重平均値を算出する加重平均算出部と、
    前記加重平均値の平均値である基準平均値を算出する平均値算出部と、
    前記部分領域毎に、前記加重平均値と、前記基準平均値とを比較する比較部と、
    前記比較部の比較結果に基づいて、前記部分領域毎に、前記加重平均値が前記基準平均値よりも大きいほど、バックライトの対応する部分が明るくなるように部分制御値を算出する部分制御値算出部と、を備えること
    を特徴とするバックライト制御装置。
  2. 前記予め定められた範囲は、前記入力画像の全体であること
    を特徴とする請求項1に記載のバックライト制御装置。
  3. 前記予め定められた範囲は、前記部分平均値を算出する対象となる部分領域毎に異なる範囲であること
    を特徴とする請求項1に記載のバックライト制御装置。
  4. 前記予め定められた範囲は、前記部分平均値を算出する対象となる部分領域と、前記部分平均値を算出する対象となる部分領域の周辺の部分領域とを含む範囲であること
    を特徴とする請求項3に記載のバックライト制御装置。
  5. 前記比較部は、前記基準平均値を用いて前記加重平均値の偏差を求め、
    前記部分制御値算出部は、前記バックライトの全体の明るさを示す全体制御値に前記偏差を加算することで、前記部分制御値を算出すること
    を特徴とする請求項1から4の何れか一項に記載のバックライト制御装置。
  6. 前記比較部は、前記基準平均値に対する前記加重平均値の割合を求め、
    前記部分制御値算出部は、前記バックライトの全体の明るさを示す全体制御値に前記割合を乗算することで、前記部分制御値を算出すること
    を特徴とする請求項1から4の何れか一項に記載のバックライト制御装置。
  7. 前記入力画像の全体における前記特徴量の平均値である特徴量平均値を算出する全体平均値算出部と、
    前記特徴量平均値に基づいて、前記全体制御値を算出する全体制御値算出部をさらに備えること
    を特徴とする請求項5又は6に記載のバックライト制御装置。
  8. 前記特徴量は輝度であること
    を特徴とする請求項1から7の何れか一項に記載のバックライト制御装置。
  9. 前記特徴量は、画素毎に特定される値の最大値であること
    を特徴とする請求項1から7の何れか一項に記載のバックライト制御装置。
  10. バックライトと、
    入力画像の画素毎に特徴量を算出する特徴量算出部と、
    前記入力画像に含まれる部分領域における前記特徴量の最大値である部分最大値を、前記入力画像に含まれる部分領域毎に検出する部分最大値検出部と、
    前記部分領域における前記特徴量の平均値である部分平均値を、前記部分領域毎に算出する部分平均値算出部と、
    予め定められた範囲における前記特徴量の平均値が大きいほど前記部分平均値の割合が高くなるように加重平均係数を算出する加重平均係数算出部と、
    前記部分領域毎に、前記加重平均係数を用いて、前記部分最大値及び前記部分平均値の加重平均値を算出する加重平均算出部と、
    前記加重平均値の平均値である基準平均値を算出する平均値算出部と、
    前記部分領域毎に、前記加重平均値と、前記基準平均値とを比較する比較部と、
    前記比較部の比較結果に基づいて、前記部分領域毎に、前記加重平均値が前記基準平均値よりも大きいほど、前記バックライトの対応する部分が明るくなるように部分制御値を算出する部分制御値算出部と、
    前記入力画像に基づいて画像を表示する表示部と、を備え、
    前記バックライトは、前記部分制御値に基づいて、部分毎に明るさを制御すること
    を特徴とする画像表示装置。
  11. 入力画像の画素毎に特徴量を算出し、
    前記入力画像に含まれる部分領域における前記特徴量の最大値である部分最大値を、前記入力画像に含まれる部分領域毎に検出し、
    前記部分領域における前記特徴量の平均値である部分平均値を、前記部分領域毎に算出し、
    予め定められた範囲における前記特徴量の平均値が大きいほど前記部分平均値の割合が高くなるように加重平均係数を算出し、
    前記部分領域毎に、前記加重平均係数を用いて、前記部分最大値及び前記部分平均値の加重平均値を算出し、
    前記加重平均値の平均値である基準平均値を算出し、
    前記部分領域毎に、前記加重平均値と、前記基準平均値とを比較して、前記部分領域毎に、前記加重平均値が前記基準平均値よりも大きいほど、バックライトの対応する部分が明るくなるように部分制御値を算出すること
    を特徴とするバックライト制御方法。
JP2015239019A 2015-12-08 2015-12-08 バックライト制御装置、画像表示装置及びバックライト制御方法 Expired - Fee Related JP6505007B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015239019A JP6505007B2 (ja) 2015-12-08 2015-12-08 バックライト制御装置、画像表示装置及びバックライト制御方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015239019A JP6505007B2 (ja) 2015-12-08 2015-12-08 バックライト制御装置、画像表示装置及びバックライト制御方法

Publications (3)

Publication Number Publication Date
JP2017106991A true JP2017106991A (ja) 2017-06-15
JP2017106991A5 JP2017106991A5 (ja) 2017-11-16
JP6505007B2 JP6505007B2 (ja) 2019-04-24

Family

ID=59060769

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015239019A Expired - Fee Related JP6505007B2 (ja) 2015-12-08 2015-12-08 バックライト制御装置、画像表示装置及びバックライト制御方法

Country Status (1)

Country Link
JP (1) JP6505007B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101988555B1 (ko) * 2017-12-05 2019-06-12 충북대학교 산학협력단 조명 불변 영상을 사용한 slam 시스템 및 점구름 지도 생성 방법
WO2023050189A1 (zh) * 2021-09-29 2023-04-06 京东方科技集团股份有限公司 亮度调节方法、调节系统、显示装置

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6610589B2 (ja) * 2017-03-17 2019-11-27 三菱電機株式会社 バックライト制御装置、映像表示装置及びバックライト制御方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011242604A (ja) * 2010-05-18 2011-12-01 Sony Corp 液晶表示装置
WO2012090358A1 (ja) * 2010-12-28 2012-07-05 パナソニック株式会社 映像信号処理装置
WO2012108095A1 (ja) * 2011-02-09 2012-08-16 三菱電機株式会社 発光制御装置及び方法、発光装置、画像表示装置、プログラム、並びに記録媒体
JP2014137390A (ja) * 2013-01-15 2014-07-28 Canon Inc 表示装置及びその制御方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011242604A (ja) * 2010-05-18 2011-12-01 Sony Corp 液晶表示装置
WO2012090358A1 (ja) * 2010-12-28 2012-07-05 パナソニック株式会社 映像信号処理装置
WO2012108095A1 (ja) * 2011-02-09 2012-08-16 三菱電機株式会社 発光制御装置及び方法、発光装置、画像表示装置、プログラム、並びに記録媒体
JP2014137390A (ja) * 2013-01-15 2014-07-28 Canon Inc 表示装置及びその制御方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101988555B1 (ko) * 2017-12-05 2019-06-12 충북대학교 산학협력단 조명 불변 영상을 사용한 slam 시스템 및 점구름 지도 생성 방법
WO2023050189A1 (zh) * 2021-09-29 2023-04-06 京东方科技集团股份有限公司 亮度调节方法、调节系统、显示装置

Also Published As

Publication number Publication date
JP6505007B2 (ja) 2019-04-24

Similar Documents

Publication Publication Date Title
CN108877694B (zh) 一种双层液晶屏、背光亮度控制方法、装置及电子设备
CN109979401B (zh) 驱动方法、驱动装置、显示设备和计算机可读介质
JP4979776B2 (ja) 画像表示装置および画像表示方法
CN102726036B (zh) 用于在液晶显示器上显示的图像的增强
KR102646685B1 (ko) 디스플레이 장치 및 그 제어 방법
US20170039967A1 (en) Devices and methods of adaptive dimming using local tone mapping
CN108665857B (zh) 一种显示装置的驱动方法、其驱动装置及相关装置
JP2013546006A (ja) 電力消費を削減しながら画像表示品質を実質的に維持するために、照明の動的調整およびディスプレイ用ビデオ画素データの調整のために制御データを提供するためのシステムおよび方法
JP2013513835A (ja) 画像データ・ブロックの統計的属性を使ったバックライト制御のための方法およびシステム
JPWO2011027592A1 (ja) 画像表示装置および画像表示方法
CN101281731A (zh) 液晶显示方法
CN103069478B (zh) 视频显示控制装置
CN105513559A (zh) 一种图像处理方法及显示装置
KR20120117887A (ko) 듀얼 변조 디스플레이들에서의 전력 소모를 감소시키기 위한 방법들 및 시스템들
CN101777309A (zh) 自适应背光控制方法及装置
JP6505007B2 (ja) バックライト制御装置、画像表示装置及びバックライト制御方法
JP6265710B2 (ja) 画像処理装置、コンピュータプログラム及び画像処理方法
JP2012118419A (ja) 画像表示装置
JP6395232B2 (ja) 画像表示装置及び光源調光方法
EP2811481B1 (en) Video display control device
WO2016046885A1 (ja) 画像表示装置及び光源調光方法
US20160019863A1 (en) Image processing method and device
JP2015215584A (ja) 制御回路及びその表示装置
WO2012114989A1 (ja) 画像表示装置および画像表示方法
JP2013015630A (ja) 映像表示装置、映像表示方法及び映像処理装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171004

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171004

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180706

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180807

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180927

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190226

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190326

R150 Certificate of patent or registration of utility model

Ref document number: 6505007

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees