JP5353990B2 - 画像表示装置、及び画像表示方法 - Google Patents

画像表示装置、及び画像表示方法 Download PDF

Info

Publication number
JP5353990B2
JP5353990B2 JP2011238399A JP2011238399A JP5353990B2 JP 5353990 B2 JP5353990 B2 JP 5353990B2 JP 2011238399 A JP2011238399 A JP 2011238399A JP 2011238399 A JP2011238399 A JP 2011238399A JP 5353990 B2 JP5353990 B2 JP 5353990B2
Authority
JP
Japan
Prior art keywords
image
area
parameter
image display
display device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2011238399A
Other languages
English (en)
Other versions
JP2012073621A (ja
Inventor
達彦 昇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2011238399A priority Critical patent/JP5353990B2/ja
Publication of JP2012073621A publication Critical patent/JP2012073621A/ja
Application granted granted Critical
Publication of JP5353990B2 publication Critical patent/JP5353990B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Liquid Crystal (AREA)
  • Projection Apparatus (AREA)
  • Liquid Crystal Display Device Control (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)

Description

本発明は、画像信号を入力し、前記画像信号に応じた画像を表示する画像表示装置、及び画像表示方法に関する。
画像表示装置の一形態として、光源から射出された光を、光変調装置(液晶ライトバルブ等)で画像信号に応じて変調し、この変調光をスクリーン等に拡大投写して画像を表示するプロジェクタが知られている。光変調装置は、複数の画素を備えており、画像信号が表す階調情報に応じて、光の透過率を画素毎に制御することにより、画像信号に応じた画像を形成している。
さらに、有効な階調範囲を伸張するために各画素の階調(透過率)を補正する伸張手段と、前記補正に合わせて、光変調装置の各画素に入射する光量を略一様に低減することが可能な調光手段を備えたプロジェクタが提案されている。これによれば、例えば、暗い画像を表示する際に、調光手段による光量の低減と、伸張手段による階調範囲の伸張とを行うことにより、有効な階調数を増やし(ダイナミックレンジを拡大し)、コントラスト感を向上させることが可能になる。
このようなプロジェクタでは、伸張処理や調光処理が画像の変化に追従できないと、シーンの切り替わりの直後において画像の劣化(白飛びや黒潰れ等)が生じやすい。例えば、暗いシーンから急に明るいシーンへ切り替わる際に、輝度変化に追従できずに暗いシーンに適した過剰な伸張を施してしまい、白飛びが生じてしまう。一方、逐次変化する画像の明るさに追従して伸張や調光を行うと、白飛び等を抑制することは可能となるが、画面がちらついてしまうという問題を有している。このため、シーンの変化を検出し、その検出結果に応じた調光や伸張が可能なプロジェクタが提案されている(例えば、特許文献1参照)。
特開2005−79994号公報
しかしながら、特許文献1に記載の映像表示装置のように、1フレーム内における平均輝度等を抽出し、その時間的な変化に基づいてシーンの変化を検出する構成では、画像全体における明るさの傾向しか把握できず、劣化が発生する位置を考慮した調光や伸張ができないという問題を有している。このため、例えば、鑑賞者が注視しがちな画像の中央部で白飛びが発生する場合でも、その範囲が小さければ大きな輝度変化とはならず、シーンの変化として検出されないため、白飛びの抑制がされないでしまったり、鑑賞者が注視することが少ない画像の周縁部で発生する白飛びを抑制しようとして、画像がちらついてしまったりする恐れがある。
本発明は上記問題を鑑みてなされたものであり、その目的は、階調範囲の伸張に伴って画像が劣化する場合に、その劣化位置に応じた伸張処理を行うことが可能な画像表示装置、及び画像表示方法を提供することにある。
本発明の画像表示装置は、入射した光を光変調装置によって変調し、入力した画像信号に応じた画像を表示する画像表示装置であって、前記画像信号に基づいて、前記画像信号が表す階調情報に応じた特徴量を抽出する特徴量抽出部と、前記特徴量に基づいて、前記階調情報の階調範囲を伸張するための伸張パラメータを決定するパラメータ決定部と、前記階調範囲を伸張するために、前記伸張パラメータを用いて前記階調情報を補正する伸張処理部と、前記伸張処理部で補正された階調情報に基づいて、前記光変調装置を駆動する変調駆動部とを備え、前記パラメータ決定部は、前記階調範囲の伸張に伴って画像が劣化する劣化領域を検出するとともに、当該劣化領域について、その面積及び位置に応じた評価を行い、当該評価結果に基づいて前記伸張パラメータを決定することを特徴とする。
この画像表示装置によれば、パラメータ決定部が、階調範囲の伸張に伴って画像が劣化する劣化領域を検出するとともに、伸張するためのパラメータを当該劣化領域の位置に応じて決定するため、劣化の発生位置に応じた伸張処理を行うことが可能となる。
この画像表示装置において、前記パラメータ決定部は、前記画像を複数の小領域に区分するとともに、前記各小領域に対して、その位置に応じた重み付けを行い、前記各小領域内における劣化領域の面積、及び前記各小領域に付与された重みに応じて前記評価を行うようにしてもよい。
この画像表示装置によれば、位置に応じて重み付けがなされた小領域毎に、劣化領域の評価を行うため、劣化領域の位置の特定が容易になり、位置に応じた評価を容易に行うことが可能となる。
この画像表示装置において、前記パラメータ決定部は、前記画像を、位置に応じた重みによって異なる面積を有する小領域に区分し、前記各小領域の面積に対する前記各小領域内の劣化領域の面積に応じて前記評価を行うようにしてもよい。
この画像表示装置によれば、区分された小領域は、その面積によって位置に応じた重み付けがなされているため、前記評価を行う際に、位置に応じた重みをあらためて考慮する必要がない。
この画像表示装置において、前記パラメータ決定部は、前記階調範囲を明るい側に伸張するのに伴って画像が白飛びする白飛び領域を検出するとともに、当該白飛び領域について、その面積及び位置に応じた評価を行い、当該評価結果に基づいて、前記階調範囲を明るい側に伸張するための伸張パラメータを決定することが望ましい。
この画像表示装置によれば、パラメータ決定部が、階調範囲を明るい側へ伸張(白側伸張)するのに伴って画像が白飛びする白飛び領域を検出するとともに、伸張するためのパラメータを当該白飛び領域の位置に応じて決定するため、白飛びの発生位置に応じた伸張処理を行うことが可能となる。
この画像表示装置において、前記パラメータ決定部は、前記劣化領域が前記画像の中央に位置するほど、前記劣化を抑制可能な伸張パラメータに決定することが望ましい。
この画像表示装置によれば、鑑賞者が注視しがちな画像の中央部の劣化を抑制することが可能となるため、鑑賞者に劣化の発生を意識させずに済む。なお、劣化領域が、鑑賞者が注視することが少ない画像の周縁部に発生する場合には、劣化の抑制よりもちらつきの防止を重視した伸張パラメータに決定することにより、劣化の抑制に伴って画像がちらつくのを防ぐことが可能となる。
この画像表示装置において、前記パラメータ決定部は、前記劣化領域が前記画像の中央に位置する場合には、前記劣化を生じさせない範囲で、前記階調範囲を最も伸張可能な伸張パラメータに決定することが望ましい。
この画像表示装置によれば、鑑賞者が注視しがちな画像の中央部での劣化の発生を抑制するため、鑑賞者に劣化を注視されずに済むとともに、階調範囲を最も伸張可能な伸張パラメータに決定するため、画像のコントラスト感を向上することが可能となる。
この画像表示装置において、前記光変調装置に入射する光、及び前記光変調装置によって変調された光の少なくとも一方の光量を調整可能な調光手段と、前記調光手段を駆動する調光駆動部とを備え、前記パラメータ決定部は、前記評価結果に基づいて、前記調光手段による調光量を定めるための調光パラメータを決定し、前記調光駆動部は、前記調光パラメータを用いて前記調光手段を駆動するようにしてもよい。
この画像表示装置によれば、調光手段を備えているため、階調範囲の伸張に伴う輝度の変化を、調光手段による調光によって抑制することが可能となる。
本発明の画像表示方法は、入力した画像信号に基づいて、前記画像信号が表す階調情報に応じた特徴量を抽出する特徴量抽出工程と、前記特徴量に基づいて、前記階調情報の階調範囲を伸張するための伸張パラメータを決定するパラメータ決定工程と、前記階調範囲を伸張するために、前記伸張パラメータを用いて前記階調情報を補正する伸張処理工程と、前記伸張処理工程で補正された階調情報に基づいて、入射した光を光変調装置によって変調する変調工程とを備え、前記パラメータ決定工程では、前記階調情報の伸張に伴って画像が劣化する劣化領域を検出するとともに、当該劣化領域について、その面積及び位置に応じた評価を行い、当該評価結果に基づいて前記伸張パラメータを決定することを特徴とする。
この画像表示方法によれば、パラメータ決定工程において、階調範囲の伸張に伴って画像が劣化する劣化領域を検出するとともに、伸張するためのパラメータを当該劣化領域の位置に応じて決定するため、劣化の発生位置に応じた伸張処理を行うことが可能となる。
また、上述した画像表示装置及び画像表示方法が、画像表示装置に備えられたコンピュータを用いて構築されている場合には、本発明は、その機能を実現するためのプログラム、或いは当該プログラムを前記コンピュータで読み取り可能に記録した記録媒体等の態様で構成することも可能である。記録媒体としては、フレキシブルディスクやCD−ROM、光磁気ディスク、ICカード、ROMカートリッジ、パンチカード、バーコード等の符号が印刷された印刷物、プロジェクタの内部記憶装置(RAMやROM等のメモリ)、及び外部記憶装置等、前記コンピュータが読み取り可能な種々の媒体を利用することができる。
実施形態に係るプロジェクタの概略構成を示す構成図。 プロジェクタの回路構成を説明するためのブロック図。 シーンチェンジ検出部の詳細構成を示すブロック図。 第1の検出部72aの動作を説明するフローチャート。 第2の検出部72bの動作を説明するフローチャート。 第3の検出部72cの動作を説明するフローチャート。 白飛び評価値計算部の動作を説明する説明図。 白飛び評価値の導出方法の変形例を説明する第1の説明図。 白飛び評価値の導出方法の変形例を説明する第2の説明図。
以下、本発明の実施形態に係る画像表示装置として、光源から射出された光を画像信号に応じて変調し、この変調光をスクリーン等に拡大投写して画像を表示するプロジェクタについて説明する。
図1は、本実施形態のプロジェクタの概略構成を示す構成図であり、光源から射出された光がスクリーンに至るまでの光路を示している。
図1に示すように、プロジェクタ1は、照明光学系10と、色光分離光学系20と、リレー光学系30と、光変調装置としての3つの液晶ライトバルブ40R,40G,40Bと、クロスダイクロイックプリズム50と、投写レンズ60とを備えている。
照明光学系10は、超高圧水銀ランプやメタルハライドランプ等の放電型光源ランプからなる光源11と、第1のレンズアレイ12と、第2のレンズアレイ13と、偏光変換素子14と、重畳レンズ15と、調光素子16とを備えている。光源11から射出された光線束は、微小なレンズ12aがマトリクス状に配置された第1のレンズアレイ12によって多数の微小な光線束に分割される。第2のレンズアレイ13及び重畳レンズ15は、分割された光線束のそれぞれが、照明対象である3つの液晶ライトバルブ40R,40G,40Bの全体を照射するように備えられている。このため、各光線束が液晶ライトバルブ40R,40G,40Bで重畳され、液晶ライトバルブ40R,40G,40Bの全体がほぼ均一に照明される。
ここで、第1及び第2のレンズアレイ12,13間の光路には、調光素子16が備えられている。調光素子16は、ルーバー16aの回動により第1のレンズアレイ12から射出される光を絞ることが可能となっており、第1のレンズアレイ12によって分割された光線束の一部を遮ることができる。このため、調光素子16の絞り量に応じて、液晶ライトバルブ40R,40G,40Bを照明する光の量が略一様に制限される。
偏光変換素子14は、光源11からの光を液晶ライトバルブ40R,40G,40Bで効率よく利用可能とするため、特定の偏光方向を有する偏光光に揃える機能を有している。照明光学系10を射出した偏光光は、色光分離光学系20に入射する。
色光分離光学系20は、第1のダイクロイックミラー21と、第1の反射ミラー22と、第2のダイクロイックミラー23とを備えており、照明光学系10から射出された光を、波長域の異なる3色の光に分離する。第1のダイクロイックミラー21は、略赤色の光を透過させるとともに、透過する光よりも短波長の光を反射する。第1のダイクロイックミラー21を透過した赤色光Rは、第1の反射ミラー22で反射されて赤色光用の液晶ライトバルブ40Rを照明する。
第1のダイクロイックミラー21で反射された光のうち、緑色光Gは、第2のダイクロイックミラー23によって反射されて緑色光用の液晶ライトバルブ40Gを照明する。また、青色光Bは、第2のダイクロイックミラー23を透過し、リレー光学系30を通過して、青色光用の液晶ライトバルブ40Bを照明する。
なお、青色光Bの経路は、他の色光の経路に比べて長くなってしまうことから、光線束の発散によって液晶ライトバルブ40Bへの照明効率が低下するのを抑制するために、青色光Bの経路には、リレー光学系30が設けられている。リレー光学系30は、入射側レンズ31と、第2の反射ミラー32と、リレーレンズ33と、第3の反射ミラー34と、射出側レンズ35とを備えている。色光分離光学系20から射出した青色光Bは、入射側レンズ31によってリレーレンズ33の近傍で収束し、射出側レンズ35に向けて発散する。
液晶ライトバルブ40R,40G,40Bのそれぞれは、一対の透明基板間に液晶が封入された液晶パネル41を備えており、液晶パネル41の内面には、液晶に対して微小領域(画素)毎に駆動電圧を印加可能な透明電極(画素電極)がマトリクス状に形成されている。液晶パネル41の入射側表面及び射出側表面には、それぞれ入射側偏光板42及び射出側偏光板43が貼り付けられている。入射側偏光板42及び射出側偏光板43は、それぞれ特定の偏光方向の偏光光のみを透過可能であり、入射側偏光板42は、偏光変換素子14によって揃えられた偏光方向の偏光光を透過可能となっている。このため、各液晶ライトバルブ40R,40G,40Bに入射する各色光の大部分は入射側偏光板42を透過して、液晶パネル41に入射する。
ここで、液晶パネル41の各画素に、画像信号に応じた駆動電圧が印加されると、液晶パネル41に入射した光は、駆動電圧に応じて変調され、画素毎に異なる偏光方向を有した偏光光となる。この偏光光のうち、射出側偏光板43を透過可能な偏光成分のみが液晶ライトバルブ40R,40G,40Bから射出される。つまり、液晶ライトバルブ40R,40G,40Bが、画像信号に応じて、画素毎に異なる透過率で入射光を透過させることによって、階調を有する光学像が色光毎に形成される。液晶ライトバルブ40R,40G,40Bから射出した各色光からなる光学像は、クロスダイクロイックプリズム50に入射する。
クロスダイクロイックプリズム50は、各液晶ライトバルブ40R,40G,40Bから射出された各色の光学像を、画素毎に合成してカラー画像を表す光学像を形成する。クロスダイクロイックプリズム50によって合成された光学像は、投写レンズ60によってスクリーンSCに拡大投写され、画像として表示される。
図2は、プロジェクタ1の回路構成を説明するためのブロック図である。
図2に示すように、プロジェクタ1は、図1に示した構成要素に加えて、画像信号処理部70、特徴量抽出部71、シーンチェンジ検出部72、伸張係数計算部73、調光係数計算部74、係数切換部75、伸張処理部76、調光駆動部77、変調駆動部としてのライトバルブ駆動部78等を備えている。プロジェクタ1は、暗い画像を表示する際、伸張処理部76によって階調範囲を明るい側に伸張するとともに、調光素子16による調光(光量の低減)を行うことによって、有効な階調数を増やし(ダイナミックレンジを拡大し)、コントラスト感を向上させることができる。なお、具体的には、プロジェクタ1は、CPUやROM、RAM等からなるコンピュータを備えており、前記CPUが前記ROMに記憶されている制御プログラムに従って動作することにより、上記各部70〜76が実現されている。
画像信号処理部70は、外部から各種形式の画像信号を入力可能になっており、入力した画像信号に基づいて、R(赤)、G(緑)、B(青)、各色の階調を10ビットの輝度値(0〜1023)で表したデジタルの画像信号RGB及び輝度信号Yを生成する。なお、輝度信号Yは、各色を合成した際の輝度を表す10ビットの輝度値からなり、画像信号RGBに基づいて、Y=0.299R+0.587G+0.144B(R,G,Bは、各色の輝度値)のように算出することも可能である。生成した画像信号RGBは伸張処理部76に出力され、輝度信号Yは、特徴量抽出部71及びシーンチェンジ検出部72に出力される。
特徴量抽出部71は、入力した輝度信号Yから、画像の明るさ(輝度値)に基づいた各種特徴量を1フレーム(1画面)毎に抽出する。特徴量としては、1フレーム内の最大輝度値(白ピーク値)や、1フレーム内の平均輝度を表すAPL(Average Picture Level:平均画像レベル)、1フレーム内における各輝度値の度数分布を表すヒストグラム等が抽出又は導出され、本実施形態では、白ピーク値及びヒストグラムがシーンチェンジ検出部72に、白ピーク値及びAPLが伸張係数計算部73及び調光係数計算部74に出力される。
伸張係数計算部73は、入力した白ピーク値とAPLとに基づき、LUT(Look Up Table)等を用いて、画像信号RGBの各輝度値を伸張する倍率(伸張率)を導くための伸張係数Gを導出する。ここで、伸張係数Gは、8ビットの数値(0〜255)で表すものとし、伸張率を1+G/256と定義することにより、各輝度値を1倍〜約2倍の範囲で伸張することができる。
調光係数計算部74は、入力した白ピーク値とAPLとに基づき、LUT等を用いて、調光素子16の調光量(絞り量)を導くための調光係数Lを導出する。調光係数Lについても、8ビットの数値(0〜255)で表すものとし、数値が小さいほど、絞り量が大きくなる(液晶ライトバルブ40R,40G,40Bを照明する光量が小さくなる)。なお、設定すべき調光量(絞り量)は、導出した伸張率に応じて変化する(伸張率が大きいほど光量を減らす必要がある)ため、伸張係数計算部73で導出した伸張係数Gに基づいて調光係数Lを導出するようにしてもよい。
本実施形態では、伸張係数計算部73及び調光係数計算部74は、入力した特徴量(白ピーク値やAPL)に応じて、それぞれ2種類の伸張係数G0,GNewと、2種類の調光係数L0,LNewを導出可能になっている。
伸張係数G0、調光係数L0は、処理対象となる1つのフレームにおいて、ダイナミックレンジを拡大するには理想的な係数であり、当該フレームの白ピーク値及びAPLから導出した係数である。この伸張係数G0及び調光係数L0を用いて伸張処理、調光処理を行うと、各フレームにおいて、高いコントラスト感を得ることが可能となるが、画像の時間的な輝度変化に伴うちらつきが目立ちやすい。一方、伸張係数GNew、調光係数LNewは、平準化された係数であり、過去(1フレーム前〜数フレーム前)に用いた係数を加味して定められる。この伸張係数GNew及び調光係数LNewを用いて伸張処理、調光処理を行うと、平準化された伸張・調光処理が施されるため、ちらつきを目立たなくすることが可能となるが、画像の時間的な輝度変化に追従できず、白飛びが生じやすい。
なお、入力した白ピーク値が小さいほど、白飛びを発生させずに輝度値を大きく伸張することが可能であるため、伸張係数計算部73及び調光係数計算部74において各係数を導出する際には、白ピーク値が小さいほど、伸張係数Gを大きく(調光係数Lは小さく)するのが望ましい。また、入力したAPLの値が小さく白ピーク値から離れているほど、伸張処理により白飛びが発生する画素が限られることから、APLが小さいほど伸張係数Gが大きく(調光係数Lは小さく)なるよう加味するのが望ましい。
伸張係数計算部73で導出された2つの伸張係数G0,GNewは、シーンチェンジ検出部72及び係数切換部75に出力され、調光係数計算部74で導出された2つの調光係数L0,LNewは、係数切換部75に出力される。
係数切換部75は、シーンチェンジ検出部72からの制御信号に基づいて、入力した2つの伸張係数G0,GNewと、2つの調光係数L0,LNewのうち、伸張係数G0及び調光係数L0、或いは、伸張係数GNew及び調光係数LNewのいずれかの組み合わせを、それぞれ伸張処理部76及び調光駆動部77に出力する。
伸張処理部76は、画像信号処理部70から入力した画像信号RGBの各輝度値に対して、係数切換部75から入力した伸張係数G(G0又はGNew)に応じた伸張率(1+G/256)を乗じて伸張(補正)する。なお、伸張率を乗じた結果、輝度値の最大値(1023)を超える画素については、1023をその輝度値とする。伸張された輝度値は、ライトバルブ駆動部78に出力され、ライトバルブ駆動部78は、伸張された輝度値に応じて液晶ライトバルブ40R,40G,40Bを駆動する。
調光駆動部77は、調光素子16の絞り量が、入力した調光係数L(L0又はLNew)に応じた値となるように、調光素子16のルーバー16aを駆動する。
シーンチェンジ検出部72は、フレーム毎に特徴量抽出部71から入力する1フレーム内の白ピーク値とヒストグラムとに基づいて、暗い画像から明るい画像へと切り替わるシーンチェンジを検出可能になっており、この検出結果に応じた制御信号を係数切換部75に出力する。より具体的には、シーンチェンジ検出部72は、シーンチェンジが検出されない期間においては、ちらつきを抑制可能な係数(伸張係数GNew及び調光係数LNew)が選択されるような制御信号を係数切換部75に出力し、シーンチェンジを検出した場合には、理想の係数(伸張係数G0及び調光係数L0)を選択させることにより、白飛びを抑制する。なお、理想の係数を用いた伸張処理、調光処理は、時間的な平準化を伴わず、画像の輝度変化に敏感に追従するため、当該処理のことを、高速化処理とも呼ぶ。
本実施形態のシーンチェンジ検出部72は、以下の3つの状態を検出したときに、シーンチェンジとして認識し、高速化処理を行うべき制御信号を出力する。
(1)シーンの変わり目に意図的に挿入されることが多い黒画面(全体が黒若しくは暗い画面)の状態から急に明るい画面に切り替わったとき。
(2)伸張係数GNewを用いて伸張処理することにより、全体(大域)的に多くの画素で白飛びが発生しそうなとき。
(3)伸張係数GNewを用いて伸張処理することにより、鑑賞者が注視する画像中央部(局所)で所定量の白飛びが発生しそうなとき。
ここで、シーンチェンジ検出部72の詳細について、図面を用いて詳述する。
図3は、シーンチェンジ検出部72の詳細構成を示すブロック図である。
図3に示すように、シーンチェンジ検出部72は、黒画面からの輝度上昇に基づいてシーンチェンジを検出する第1の検出部72aと、大域的な白飛びに基づいてシーンチェンジを検出する第2の検出部72bと、局所的な白飛びに基づいてシーンチェンジを検出する第3の検出部72cと、論理和回路72dと、各種設定値等を記憶するメモリ(図示せず)とを有している。
第1の検出部72aは、黒画面検出部81と、高速化処理開始判定部82とで構成される。黒画面検出部81は、対象とするフレーム(以降、現フレームとも言う)が黒画面の状態にあるか否かを判断し、黒画面である場合にフラグFBlackを真にする。高速化処理開始判定部82は、フラグFBlackが真である場合、つまり現フレーム以前に黒画面の状態にあった場合に、現フレームにおいて急に明るい画面に切り替わったか否かを判断し、切り替わった場合には、シーンチェンジと認識し、フラグFBStartを真にする。
図4は、第1の検出部72aの動作を説明するフローチャートである。
図4に示すように、ステップS101では、黒画面検出部81が、フラグFBlackが真(TRUE)であるか否か、即ち、過去のフレームにおいて黒画面が検出された状態であるか否かを判断する。フラグFBlackが偽(FALSE)である場合にはステップS102に移行し、フラグFBlackが真である場合にはステップS104に移行する。
フラグFBlackが偽であり、ステップS102に移行した場合には、黒画面検出部81は、現フレームが黒画面であるか否かを判断する。具体的には、特徴量抽出部71から入力した白ピーク値と、事前にメモリに記憶されている閾値ThBlackとを比較して、白ピーク値が閾値ThBlack未満である場合に黒画面と判断する。黒画面と判断された場合にはステップS103に移行し、黒画面と判断されなかった場合には、現フレームでの処理を終了する。
黒画面と判断されてステップS103に移行した場合には、黒画面検出部81は、フラグFBlackを真として、現フレームでの処理を終了する。
フラグFBlackが真であって、ステップS104に移行した場合には、高速化処理開始判定部82が、黒画面の状態から急に明るい画面に切り替わったか否かを判断する。具体的には、まず、伸張係数計算部73から入力した2つの伸張係数G0,GNewの差GNew−G0を算出する。ここで、伸張係数GNewは過去のフレームにおける輝度状態を考慮した係数であり、伸張係数G0は現フレームのみの輝度状態に依存する係数であるため、過去よりも輝度が明るくなる場合には、GNew>G0となり、輝度の変化が大きいほどその差GNew−G0は大きくなる。このため、高速化処理開始判定部82は、算出した差GNew−G0と、事前にメモリに記憶されている閾値ThStartとを比較して、差GNew−G0が閾値ThStartを超える場合に、黒画面から急に明るくなったと判断する。黒画面から急に明るくなったと判断された場合、つまり、差GNew−G0が閾値ThStartを超える場合には、ステップS105に移行し、差GNew−G0が閾値ThStart以下である場合には、現フレームでの処理を終了する。
黒画面から急に明るくなったと判断されてステップS105に移行した場合には、高速化処理開始判定部82は、フラグFBStartを真として、現フレームでの処理を終了する。
図3に戻って、第2の検出部72bは、ヒストグラム解析部83と、大域白飛び判定部84とで構成される。ヒストグラム解析部83は、特徴量抽出部71から入力したヒストグラムと、伸張係数計算部73から入力した伸張係数GNewとから、伸張処理によって白飛びが生じ得る画素数PSatを推定する。大域白飛び判定部84は、画像を構成する全画素数に対する白飛び画素数PSatの比率を求め、この比率が所定値を上回る場合にシーンチェンジと認識し、フラグFGSatを真とする。
図5は、第2の検出部72bの動作を説明するフローチャートである。
図5に示すように、ステップS201では、ヒストグラム解析部83は、臨界輝度値ILimitを計算する。臨界輝度値ILimitとは、伸張率(1+GNew/256)を乗じると最大輝度値(1023)となる輝度値であり、ILimit=1023/(1+GNew/256)により求めることができる。
ステップS202では、ヒストグラム解析部83が、特徴量抽出部71から入力したヒストグラムに基づいて、伸張係数GNewを用いた伸張処理により白飛びとなる画素、即ち、輝度値が臨界輝度値ILimit以上かつ1022以下の画素の数(画素数PSat)を計数し、計数結果を大域白飛び判定部84に出力する。なお、伸張前の輝度値が最大値(1023)である画素は、画像の製作者が意図して最大輝度とした可能性が高く、伸張による白飛びとは区別するために計数から除外している。
ステップS203では、大域白飛び判定部84が、画像を構成する全画素の画素数PMaxに対する白飛び画素数PSatの比率を算出し、この比率が事前にメモリに記憶されている閾値ThGSatを超えているか否かを判断する。この結果、閾値ThGSatを超えている場合にのみフラグFGSatを真として(ステップS204)、現フレームでの処理を終了する。
図3に戻って、第3の検出部72cは、白飛び領域検出部85と、白飛び評価値計算部86と、局所白飛び判定部87とで構成される。白飛び領域検出部85は、画像信号処理部70から入力した輝度信号Y、及びヒストグラム解析部83が算出した臨界輝度値ILimitに基づいて、フレーム内において白飛びが生じ得る白飛び領域(画素群)を検出する。白飛び評価値計算部86は、検出した白飛び領域毎に、その位置や面積に応じた白飛び評価値を算出した後、その中の最大値(最大評価値VLSat)を導き、局所白飛び判定部87は、最大評価値VLSatが所定値を上回る場合に、シーンチェンジとして認識しフラグFLSatを真とする。
図6は、第3の検出部72cの動作を説明するフローチャートである。
図6に示すように、ステップS301では、白飛び領域検出部85が、画像信号処理部70から入力した輝度信号Yと、ヒストグラム解析部83が算出した臨界輝度値ILimitとに基づいて、画像を構成する全画素の中から、輝度値が臨界輝度値ILimit以上かつ1022以下の画素を抽出する。このとき、抽出する各画素の位置関係を考慮することにより、伸張処理により白飛びが生じ得る画素からなる白飛び領域が抽出される。さらに、白飛び領域検出部85は、抽出された各白飛び領域の面積、即ち、各白飛び領域を構成する画素数を求める。
ステップS302では、白飛び評価値計算部86が、抽出した各白飛び領域毎に、その面積と、位置に応じた重みとを乗じた評価値を算出し、ステップS303では、各白飛び領域の評価値の中から最大の評価値VLSatを導出して、局所白飛び判定部87に出力する。
図7は、白飛び評価値計算部86の動作を説明する説明図であり、現フレームが表す画像(フレーム画像)から抽出された2つの白飛び領域を表している。
図7に示すように、フレーム画像Aは、中央部Aiと周縁部Aoとに区分されており、それぞれWi,Woの重みが付与されている。なお、本実施形態では、鑑賞者が注視しやすい中央部Aiの重みを大きくしている(Wi>Wo)。白飛び領域B1(面積:S1)は、中央部Aiから抽出されたものであるため、その白飛び評価値は、S1×Wiとなり、白飛び領域B2(面積:S2)は、周縁部Aoから抽出されたものであるため、その白飛び評価値は、S2×Woとなる。例えば、各白飛び領域B1,B2の面積が、それぞれS1=100,S2=200、中央部Ai及び周縁部Aoの重みが、それぞれWi=3,Wo=1である場合には、各白飛び領域B1,B2の評価値V1,V2は、それぞれ300,200となり、最大評価値VLSatとして、白飛び領域B1の評価値V1(300)が導出される。
図6に戻って、ステップS304では、局所白飛び判定部87が、入力した最大評価値VLSatと、事前にメモリに記憶されている閾値ThLSatとを比較して、最大評価値VLSatが閾値ThLSatを超えているか否かを判断する。この結果、閾値ThLSatを超えている場合にのみフラグFLSatを真として(ステップS305)、現フレームでの処理を終了する。
図3に戻り、第1〜第3の検出部72a〜72cから出力されるフラグFBStart,FGSat,FLSatは、3入力の論理和回路72dに入力する。このため、第1〜第3の検出部72a〜72cの少なくとも1つがシーンチェンジを検出してフラグを真にすると、論理和回路72dは、その出力(高速化処理フラグ)を真とし、第1〜第3の検出部72a〜72cのすべてがシーンチェンジを検出せずにフラグを偽とすると、論理和回路72dは、高速化処理フラグを偽とする。高速化処理フラグは、係数切換部75に制御信号として出力され(図2参照)、係数切換部75は、当該信号が偽の場合(シーンチェンジが検出されない場合)に、伸張係数GNew、調光係数LNewの組み合わせを伸張処理部76及び調光駆動部77に出力し続け、当該信号が真の場合(シーンチェンジが検出された場合)に、伸張係数G0、調光係数L0の組み合わせを出力する高速化処理に移行する。
一方、高速化処理を行っている際に、フレーム毎に算出される伸張係数G0と伸張係数GNewとの差が十分に小さくなった場合には、伸張係数GNewと調光係数LNewとを出力するものとしても不具合が発生する可能性が小さいので、伸張係数GNewと調光係数LNewとを出力する通常状態に復帰するものとする。また、この時に、フラグFBlack,FBStart,FGSat,FLSatはそれぞれ偽に戻される。なお、復帰の条件はこれに限る必要はない。
以上の動作により、通常(シーンチェンジ時以外)は、伸張係数GNew、調光係数LNewを用いた伸張処理、調光処理を行うことにより、ちらつきを抑制することが可能となり、暗い画像から明るい画像へのシーンチェンジ時には、伸張係数G0、調光係数L0を用いた伸張処理、調光処理を行うことにより、伸張処理に伴う白飛びを抑制することが可能となる。
なお、シーンチェンジ検出部72と、伸張係数計算部73と、係数切換部75とは、階調範囲の伸張に伴って画像が劣化する劣化領域(白飛び領域)を検出するとともに、当該劣化領域について、その面積及び位置に応じた評価を行い、当該評価結果に基づいて伸張係数(伸張パラメータ)や調光係数(調光パラメータ)を決定することから、本発明のパラメータ決定部に相当する。
以上説明したように、本実施形態のプロジェクタ1によれば、以下の効果を得ることができる。
本実施形態のプロジェクタ1によれば、第3の検出部72cが、階調範囲の伸張に伴って画像が白飛びする白飛び領域を検出するとともに、白飛び領域の位置に応じた白飛び評価値を算出し、この白飛び評価値が所定値(閾値ThLSat)よりも高い白飛び領域が存在する場合に、白飛びを抑制可能な伸張係数(G0)が選択されるようになっている。ここで、白飛び領域は、画像中央部にあるほど白飛び評価値が高くなるような重み付けがなされているため、鑑賞者が注視しやすい画像の中央部で白飛びが発生しそうな場合には、周縁部で発生する場合に比べて白飛びが抑制されやすくなり、鑑賞者に白飛びの発生を意識させずに済む。一方、白飛び領域が、鑑賞者が注視することが少ない画像の周縁部に発生する場合には、ちらつきの防止を重視した伸張係数(GNew)が選択されるため、白飛びの抑制に伴って画像がちらつくのを防ぐことが可能となる。
(変形例)
なお、本発明の実施形態は、以下のように変更してもよい。
・前記実施形態において、白飛び領域B1,B2が中央部Aiと周縁部Aoとに跨って分布している場合には、より多く分布している側の重みを採用してもよいし、分布に応じて、周縁部Aoの重みと中央部Aiの重みの間の値を採用するようにしてもよい。
・前記実施形態では、白飛び領域B1,B2の位置に応じた重み付けをするために、フレーム画像Aを中央部Ai及び周縁部Aoの2つに区分しているが、重み付けを行うための区分は2つに限られず、3つ以上であってもよい。或いは、フレーム画像Aを区分することなく、フレーム画像Aの基準点(中心点など)と白飛び領域B1,B2の基準点(重心等)との距離に応じた重み付けを行うようにしてもよい。
・前記実施形態では、フレーム画像A中の白飛び領域B1,B2を検出し、当該白飛び領域B1,B2毎に白飛び評価値を導いているが、図8に示すように、予め、フレーム画像Aを複数の小領域に区分(例えば、Ai1〜Ai4、Ao1〜Ao12の16等分)して、各小領域に含まれる白飛び領域の面積と、各小領域の位置に応じた重みとに応じて、小領域毎に白飛び評価値を導いてもよい。例えば、中央部の小領域Ai1〜Ai4の重みをWi、周縁部の小領域Ao1〜Ao12の重みをWo(Wi>Wo)とし、各小領域に含まれる白飛び領域の面積に当該小領域の重み(Wi又はWo)を乗じた白飛び評価値を算出した後、各白飛び評価値のうち、最大の評価値が閾値を超える場合にフラグFLSatを真とする。これにより、白飛び領域の位置を容易に特定することが可能となる。
また、各小領域を、位置に応じた重みによって異なる面積とし、各小領域に対する白飛び領域の面積比を白飛び評価値としてもよい。例えば、図9に示すように、重みを大きくしたい中央部の小領域(Ai1〜Ai16)の面積を、周縁部の小領域(Ao1〜Ao12)よりも小さくすることにより、同じ面積の白飛び領域B3,B4でも、中央部では白飛び評価値を高く、周縁部では低くすることができる。このため、当該白飛び領域B3,B4が中央部にある場合と周縁部にある場合とで、用いる伸張係数、調光係数を変更することが可能となる。つまり、この場合には、小領域の面積によって、位置に応じた重み付けがなされていることになるため、あらためて重みを乗じる計算を行う必要がなくなる。
・前記実施形態では、フレーム画像Aの中央部Aiの重みを高くしているが、これに限定されず、例えば、字幕が黒帯以外の領域に重畳表示される場合には、当該領域周辺の重みを高くするようにしてもよい。
・前記実施形態では、伸張係数計算部73及び調光係数計算部74がそれぞれ算出した2つの係数の中から、いずれか1つの係数を採用する構成になっているが、算出する係数は2つに限定されず、3つ以上の中から1つを採用するようにしてもよい。
・前記実施形態では、伸張係数や調光係数を導出するための特徴量として、白ピーク値とAPLとを用い、シーンチェンジを検出するための特徴量として、白ピーク値とヒストグラムとを用いているが、利用する特徴量は前記に限定されず、例えば、1フレーム内の最小輝度値(黒ピーク値)や、最頻輝度値、分散等の各種統計値を用いることも可能である。
・前記実施形態では、階調範囲を白側(明るい側)に伸張し、当該伸張処理に伴う画像の劣化として、白飛びを抑制可能な構成を説明しているが、階調範囲を黒側(暗い側)に伸張し、当該伸張処理に伴う黒潰れを抑制するようにしてもよいし、白黒両側に伸張可能な構成としてもよい。黒潰れの抑制は、例えば、黒ピーク値等に基づいて、シーンチェンジ検出部72に、明るい画像から暗い画像へと切り替わるシーンチェンジを検出させることにより実現することが可能である。なお、黒側への伸張のみを行う場合には、調光素子16による調光の必要はない。
・前記実施形態では、光源11として超高圧水銀ランプやメタルハライドランプ等の放電型光源ランプを用いているが、LED(発光ダイオード)からなるLED光源等、他の光源を用いてもよい。
・前記実施形態では、画像表示装置として、外部のスクリーン等に画像を投写するプロジェクタを例に説明しているが、透過型のスクリーンが一体的に備えられ、その背面側に画像を投写するリアプロジェクタにも適用可能である。また、バックライトの光等を変調する液晶表示装置等にも適用することができる。
・前記実施形態では、光源11の光を調光するために、ルーバー16aにより光量を絞る調光素子16を用いているが、絞り羽根等の他の絞り機構、或いは、光源やバックライトの発光光量を制御可能な制御回路を用いることもできる。また、印加する電圧に応じて光の透過率を変更可能な液晶素子やエレクトロクロミックガラス等を用い、光源11から透過型スクリーンSCに至る光路の途中、或いは、スクリーンSCが透過型である場合には、その前面に備えるようにしてもよい。
・前記実施形態では、光変調装置として、透過型の液晶ライトバルブ40R,40G,40Bを用いているが、反射型の光変調装置であるLCOS(Liquid Crystal On Silicon)等を用いることも可能である。また、入射した光の射出方向を、マイクロミラー毎に制御することにより、光源から射出した光を変調するDMD(テキサスインスツルメンツ社の登録商標)(デジタル・マイクロミラー・デバイス)等を用いることもできる。
1…プロジェクタ、10…照明光学系、11…光源、12…第1のレンズアレイ、12a…レンズ、13…第2のレンズアレイ、14…偏光変換素子、15…重畳レンズ、16…調光素子、16a…ルーバー、20…色光分離光学系、21…第1のダイクロイックミラー、22…第1の反射ミラー、23…第2のダイクロイックミラー、30…リレー光学系、31…入射側レンズ、32…第2の反射ミラー、33…リレーレンズ、34…第3の反射ミラー、35…射出側レンズ、40R,40G,40B…液晶ライトバルブ、41…液晶パネル、42…入射側偏光板、43…射出側偏光板、50…クロスダイクロイックプリズム、60…投写レンズ、70…画像信号処理部、71…特徴量抽出部、72…シーンチェンジ検出部、72a…第1の検出部、72b…第2の検出部、72c…第3の検出部、72d…論理和回路、73…伸張係数計算部、74…調光係数計算部、75…係数切換部、76…伸張処理部、77…調光駆動部、78…ライトバルブ駆動部、81…黒画面検出部、82…高速化処理開始判定部、83…ヒストグラム解析部、84…大域白飛び判定部、85…白飛び領域検出部、86…白飛び評価値計算部、87…局所白飛び判定部。

Claims (9)

  1. 入射した光を光変調装置によって変調し、入力した画像信号に応じた画像を表示する画像表示装置であって、
    前記画像信号に基づいて、前記画像信号が表す階調情報に応じた特徴量を抽出する特徴量抽出部と、
    前記特徴量に基づいて、前記階調情報の階調範囲を伸張するための伸張パラメータを決定するパラメータ決定部と、
    前記階調範囲を伸張するために、前記伸張パラメータを用いて前記階調情報を補正する伸張処理部と、
    前記伸張処理部で補正された階調情報に基づいて、前記光変調装置を駆動する変調駆動部と、を備え、
    前記パラメータ決定部は、前記階調範囲の伸張に伴って画像が劣化する劣化領域を検出し、前記画像を、第1の小領域及び第2の小領域を含む複数の小領域に区分し、前記劣化領域について、前記第1の小領域における前記劣化領域の面積である第1の面積、前記第2の小領域における前記劣化領域の面積である第2の面積、第1の小領域に付与された第1の重み、及び第2の小領域に付与され、前記第1の重みとは異なる第2の重みに基づいて評価を行い、当該評価結果に基づいて前記伸張パラメータを決定することを特徴とする画像表示装置。
  2. 請求項1に記載の画像表示装置であって、前記パラメータ決定部は、前記各小領域に対して、その位置に応じた重み付けを行い、前記各小領域内における劣化領域の面積、及び前記各小領域に付与された重みに応じて前記評価を行うことを特徴とする画像表示装置。
  3. 請求項1に記載の画像表示装置であって、前記パラメータ決定部は、前記画像を、位置に応じた重みによって異なる面積を有する小領域に区分し、前記各小領域の面積に対する前記各小領域内の劣化領域の面積に応じて前記評価を行うことを特徴とする画像表示装置。
  4. 請求項1〜3のいずれか1項に記載の画像表示装置であって、前記パラメータ決定部は、前記階調範囲を明るい側に伸張するのに伴って画像が白飛びする白飛び領域を検出するとともに、当該白飛び領域について、その面積及び位置に応じた評価を行い、当該評価結果に基づいて、前記階調範囲を明るい側に伸張するための伸張パラメータを決定することを特徴とする画像表示装置。
  5. 請求項1〜4のいずれか1項に記載の画像表示装置であって、前記パラメータ決定部は、前記劣化領域が前記画像の中央に位置するほど、前記劣化を抑制可能な伸張パラメータに決定することを特徴とする画像表示装置。
  6. 請求項5に記載の画像表示装置であって、前記パラメータ決定部は、前記劣化領域が前記画像の中央に位置する場合には、前記劣化を生じさせない範囲で、前記階調範囲を最も伸張可能な伸張パラメータに決定することを特徴とする画像表示装置。
  7. 請求項1〜6のいずれか1項に記載の画像表示装置であって、
    前記光変調装置に入射する光、及び前記光変調装置によって変調された光の少なくとも一方の光量を調整可能な調光手段と、
    前記調光手段を駆動する調光駆動部と、を備え、
    前記パラメータ決定部は、前記評価結果に基づいて、前記調光手段による調光量を定めるための調光パラメータを決定し、前記調光駆動部は、前記調光パラメータを用いて前記調光手段を駆動することを特徴とする画像表示装置。
  8. 請求項1〜7のいずれか1項に記載の画像表示装置であって、
    前記パラメータ設定部は、前記評価結果に基づき、理想的な伸張パラメータ及び平準化された伸張パラメータのいずれを用いるかを決定することを特徴とする画像表示装置。
  9. 入力した画像信号に基づいて、前記画像信号が表す階調情報に応じた特徴量を抽出する特徴量抽出工程と、
    前記特徴量に基づいて、前記階調情報の階調範囲を伸張するための伸張パラメータを決定するパラメータ決定工程と、
    前記階調範囲を伸張するために、前記伸張パラメータを用いて前記階調情報を補正する伸張処理工程と、
    前記伸張処理工程で補正された階調情報に基づいて、入射した光を光変調装置によって変調する変調工程と、を備え、
    前記パラメータ決定工程では、前記階調情報の伸張に伴って画像が劣化する劣化領域を検出前記画像を、第1の小領域及び第2の小領域を含む複数の小領域に区分し、前記劣化領域について、前記第1の小領域における前記劣化領域の面積である第1の面積、前記第2の小領域における前記劣化領域の面積である第2の面積、第1の小領域に付与された第1の重み、及び第2の小領域に付与され、前記第1の重みとは異なる第2の重みに基づいて評価を行い、当該評価結果に基づいて前記伸張パラメータを決定することを特徴とする画像表示方法。
JP2011238399A 2011-10-31 2011-10-31 画像表示装置、及び画像表示方法 Expired - Fee Related JP5353990B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011238399A JP5353990B2 (ja) 2011-10-31 2011-10-31 画像表示装置、及び画像表示方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011238399A JP5353990B2 (ja) 2011-10-31 2011-10-31 画像表示装置、及び画像表示方法

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2005229146A Division JP4956932B2 (ja) 2005-08-08 2005-08-08 画像表示装置、及び画像表示方法

Publications (2)

Publication Number Publication Date
JP2012073621A JP2012073621A (ja) 2012-04-12
JP5353990B2 true JP5353990B2 (ja) 2013-11-27

Family

ID=46169775

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011238399A Expired - Fee Related JP5353990B2 (ja) 2011-10-31 2011-10-31 画像表示装置、及び画像表示方法

Country Status (1)

Country Link
JP (1) JP5353990B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5924494B2 (ja) * 2012-08-01 2016-05-25 ウシオ電機株式会社 放電ランプ点灯装置およびプロジェクタ
JP6337506B2 (ja) 2014-02-24 2018-06-06 セイコーエプソン株式会社 画像表示装置、及び、画像表示装置の制御方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4089483B2 (ja) * 2003-03-27 2008-05-28 セイコーエプソン株式会社 異なった特徴の画像が混在する画像を表す画像信号の階調特性制御

Also Published As

Publication number Publication date
JP2012073621A (ja) 2012-04-12

Similar Documents

Publication Publication Date Title
JP4956932B2 (ja) 画像表示装置、及び画像表示方法
US7088058B2 (en) Image display
US7809209B2 (en) Image display device, and control method for the same
JP5984482B2 (ja) 投射型プロジェクタ
JP2007272023A (ja) 映像表示装置
US9773459B2 (en) Image display apparatus that has a light emitting unit and method of controlling same
KR20060061896A (ko) 화상 표시 방법, 화상 표시 장치 및 프로젝터
JP2013218000A (ja) 投射型プロジェクタ
JP2006284982A (ja) 調光情報生成装置、その方法、そのプログラム、そのプログラムを記録した記録媒体、および画像表示装置
JP4862354B2 (ja) 画像表示装置、及び画像表示方法
JP4428298B2 (ja) 画像表示装置及びその制御方法
JP4956980B2 (ja) 画像表示方法及び装置、並びにプロジェクタ
JP5353990B2 (ja) 画像表示装置、及び画像表示方法
JP6232796B2 (ja) 画像表示装置および画像表示方法
US10210816B2 (en) Image display apparatus and method for dimming light source
JP2008176024A (ja) 画像表示装置およびプロジェクタ
JP4552985B2 (ja) 画像表示装置
JP2004325644A (ja) プロジェクタ
JP2004177722A (ja) 画像表示装置及び画像表示方法並びに投射型表示装置
JP2004163809A (ja) 画像検出装置、画像検出方法、画像検出プログラムおよび画像表示装置
JP2005257761A (ja) 画像表示装置及び画像表示方法
JP5392345B2 (ja) プロジェクタ及びプロジェクタの制御方法
JP2009175771A (ja) プロジェクタの制御方法
US20190094666A1 (en) Liquid crystal driving apparatus and image display apparatus
JP2003295837A (ja) 映像表示装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130321

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130326

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130514

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130730

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130812

R150 Certificate of patent or registration of utility model

Ref document number: 5353990

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees