JP6046238B2 - 映像表示装置 - Google Patents

映像表示装置 Download PDF

Info

Publication number
JP6046238B2
JP6046238B2 JP2015509785A JP2015509785A JP6046238B2 JP 6046238 B2 JP6046238 B2 JP 6046238B2 JP 2015509785 A JP2015509785 A JP 2015509785A JP 2015509785 A JP2015509785 A JP 2015509785A JP 6046238 B2 JP6046238 B2 JP 6046238B2
Authority
JP
Japan
Prior art keywords
video
retinex
unit
image
display device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015509785A
Other languages
English (en)
Other versions
JPWO2014162533A1 (ja
Inventor
中嶋 満雄
満雄 中嶋
伸宏 福田
伸宏 福田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Maxell Energy Ltd
Original Assignee
Hitachi Maxell Energy Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Maxell Energy Ltd filed Critical Hitachi Maxell Energy Ltd
Application granted granted Critical
Publication of JP6046238B2 publication Critical patent/JP6046238B2/ja
Publication of JPWO2014162533A1 publication Critical patent/JPWO2014162533A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/44Receiver circuitry for the reception of television signals according to analogue transmission standards
    • H04N5/57Control of contrast or brightness
    • H04N5/58Control of contrast or brightness in dependence upon ambient light
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/94Dynamic range modification of images or parts thereof based on local image properties, e.g. for local contrast enhancement
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/73Colour balance circuits, e.g. white balance circuits or colour temperature control
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/485End-user interface for client configuration

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)

Description

本発明は、映像処理技術に関する。
本技術分野の背景技術として、特許文献1がある。この公報には、Multi Scale Retinex処理において、処理対象となる原画像の画素値レベルに応じて、スケールの異なる複数の周辺関数から生成されるぼやけ具合の異なる複数のぼやけ画像からいずれかを画素毎に選択することで、合成ぼやけ画像を作成する。合成ぼやけ画像に対してローパスフィルタを施すことによって、不自然な境界の不連続の発生を防止し、Retinex処理を行なう、と記載されている(要約参照)。
特開2005−004506号公報
映像信号中に撮影されている被写体の特性を示すパラメータとして、例えば輝度、色、周波数成分など、様々なパラメータを有しているが、映像のシーンが異なるとそれらの値も異なる。視認性の良好な映像表示を行うためには、映像の特徴に応じて映像のコントラスト補正などの特性を変更して映像補正を行う必要がある。
しかし、前記特許文献1のような、MSRに於いて、複数のスケールを調整してダイナミックレンジ圧縮の高性能化を行う技術では、複数のスケールに対する映像の寄与は考慮されているが、被写体の特徴は考慮されていない。それ故、映像中の被写体の特徴に係わらず、一様な補正となる。
また、前記特許文献1のような、MSRに於いて、複数のスケールを調整してダイナミックレンジ圧縮の高性能化を行う技術では、複数のスケールに対する映像の寄与は考慮されているが、反射の性質の違いに対する映像の寄与は考慮されていない。
上記課題を解決するために、本発明の一実施の態様は、例えば、映像入力部と、映像入力部から入力された映像について第1のレティネックス処理を行う第1のレティネックス処理部と、映像入力部から入力された映像について、前記第1のレティネックス処理と方式の異なる第2のレティネックス処理を行う第2のレティネックス処理部とを備え、映像入力部から入力された映像の特徴に応じて第1のレティネックス処理部が処理した映像と第2のレティネックス処理部が処理した映像とを合成可能な映像合成部と、映像合成部の出力映像を表示可能な表示部とを備えるように構成すればよい。
本発明によれば、より好適に視認性を向上した映像を得ることができる。
本発明の実施例1に係る映像表示装置の構成例の図である。 映像補正部の構成例の図である。 映像合成部の構成例の図である。 第1のレティネックス処理部の特性の一例である。 第2のレティネックス処理部の特性の一例である。 映像合成制御信号の特性の一例である。 映像の輝度ヒストグラムの一例である。 映像の入出力特性の一例である。 映像の輝度ヒストグラムの一例である。 映像の入出力特性の一例である。 映像の輝度ヒストグラムの一例である。 映像の入出力特性の一例である。 特徴分析部の動作特性の図である。 本発明の実施例3に係るレティネックス処理部の構成の一例である。 反射光検出部の構成の一例である。 反射光制御部の構成の一例である。 反射光制御部の構成の一例である。 Phong反射モデルによる反射光の性質を説明する図である。 ガウシアン分布を説明する図である。 余弦による輝度分布を説明する図である。 余弦のべき乗による輝度分布を説明する図である。 映像の輝度値によるスペキュラ補正ゲインを説明する図である。 映像の輝度値によるディフューズ補正ゲインを説明する図である。 本発明の実施例4に係る映像表示装置の構成図の例である。 映像補正部の構成の一例である。 映像合成部の構成の一例である。 照度による制御特性の一例を示す図である。 本発明の実施例5に係る映像表示装置の構成図の例である。 本発明の実施例5に係る設定メニュー画面の一例である。
以下、本発明の実施の形態について図面に基づいて説明するが、本発明は必ずしもこれらの実施形態に限定されるものではない。なお、実施形態を説明する各図面において、同一の部材には同一の符号を付し、その繰り返しの説明は省略する。
本実施例では、光の反射の性質毎に映像を分解して映像補正を行う映像表示装置をプロジェクタの構成にて説明する。なお、以下ではフロントプロジェクタの例で説明するが、その形態は、リヤプロジェクションテレビでもよい。また、パネルの拡大投影を行なわず、液晶ディスプレイ、プラズマディスプレイ、有機ELディスプレイなどの直視平面ディスプレイを用いた表示装置でも構わない。この点については、以降のいずれの実施例でも同様である。
図1は、本実施例の映像表示装置の構成図の例である。
本映像表示装置は、映像入力信号10を入力とし、例えば圧縮映像信号のデコーダ、IP変換、スケーラ等により内部映像信号12に変換する入力信号処理部11と、内部映像信号12を入力とする映像補正部100と、補正映像信号13を入力とし、補正映像信号を表示画面の水平・垂直同期信号に基づいて表示制御信号15を生成するタイミング制御部14と、映像を表示する光学系装置200で構成される。
光学系装置200は、スクリーンへ映像を投影するための光線を照射する光源203と、表示制御信号15を入力とし、光源203からの光線の階調を画素毎に調整し、投射映像を作成するパネル202と、投射映像をスクリーンに拡大投影するためのレンズ201で構成される。
なお、映像表示装置が、液晶ディスプレイ、プラズマディスプレイ、有機ELディスプレイなどの直視平面ディスプレイである場合は、光学系装置200のレンズ201は不要である。ユーザーはパネル202を直視することとなる。
映像補正部100の構成の一例を図2に示す。第1のレティネックス処理部20および第2のレティネックス処理部22は、内部映像信号12に対してレティネックス理論に基づく映像処理を行い、第1の補正映像信号21および第2の補正映像信号23を出力する。
ここで、レティネックス(Retinex)理論とは、色恒常性や明るさ恒常性といった人間の目の視覚特性を示した理論である。この理論によれば、映像から照明光成分を分離し、反射光成分を抽出することができる。
それ故、Retinex理論に基づいた映像補正処理では、暗い室内や明るい逆光下の映像も、該映像中の人物等の被写体を見づらくする原因である照明光成分の影響を取り除き、反射光成分を抽出することで、視認性の高い映像が得られる。このため、人間が見て感じる、自然なダイナミックレンジをデジタル階調でも好適に圧縮できる。
Retinex理論には、照明光成分または反射光成分の推定手法により、多くのモデルが存在する。例えば、下記参考文献1では、McCann99、PSEUDO、Poisson、QPのモデルについて比較されている。
また、局所的な照明光成分がガウシアン分布に従うと推定し、反射光成分を抽出するRetinexをCenter/Surround(以下、C/Sと記載する) Retinexと呼ぶ。このRetinexに代表されるモデルには、Single Scale Retinexモデル(以下、SSR)やMultiscale Retinexモデル(以下、MSRと呼ぶ)等がある。
SSRは、一つのスケールに対する反射光の輝度成分を映像中から抽出するモデル(例えば、下記参考文献2参照)で、SSRを拡張し、複数のスケールに対する反射光の輝度成分を映像中から抽出するモデル(例えば、下記参考文献3参照)がMSRである。
〔参考文献1〕野里 良裕,他 「適応的階調補正のハードウェア実現における Retinex理論の比較評価」, 信学技報, SIS2005-16, (2005).
〔参考文献2〕D.J.Jobson and G.A.Woodell, Properties of a Center/Surround Retinex: Part 2.Surround Design,NASA Technical Memorandum,110188,1995.
〔参考文献3〕Zia−ur Rahman, Daniel J. Jobson, and Glenn A. Woodell, ”Multiscale Retinex For Color Image Enhancement”, ICIP ’96
本実施例では、一例として、第1のレティネックス処理部20は、照明光推定性能に優れるMcCann99モデルを用い、第2のレティネックス処理部22は、コントラスト補正性能に優れるMSRモデルを用いることとする。特徴分析部24は、内部映像信号12の特徴を分析し、映像合成部26へ第1の映像合成制御信号29および第2の映像合成制御信号25を出力する。映像合成部26では、第1の映像合成制御信号29および第2の映像合成制御信号25に基づき、補正映像信号21および補正映像信号23を合成して補正映像信号13を出力する。
図3は、映像合成部26の構成の一例を示している。補正映像信号21は、利得制御部27でα倍され、補正映像信号23は、利得制御部28で(1−α)倍され、加算部30で加算処理された後、利得制御部31でβ倍されて補正映像信号13が得られる。
次に、図1から図3に示した構成の動作の一例を図4A〜C、図5A〜Fを用いて説明する。 まず、本実施例における第1の映像合成制御信号29による制御について説明する。
図4Aおよび図4Bは、横軸が輝度レベル、縦軸がゲインを示しており、それぞれ第1のレティネックス処理部20、第2のレティネックス処理部22の輝度レベルに対するゲイン特性の一例を示している。本実施例における、第1のレティネックス処理部20にMcCann99モデルを用い、第2のレティネックス処理部22にMSRモデルを用いた場合の一例を示している。図4Aの例では、McCann99モデルによる第1のレティネックス処理部20は、輝度レベルLV1とLV2の間にゲインのピークg1を有している。図4Bの例では、MSRモデルを用いた第2のレティネックス処理部22はLV2とLV3の間にゲインのピークg2を有している。
図4Cは、第1のレティネックス処理部20および第2のレティネックス処理部22の特性が、上述の図4Aおよび図4Aの場合の、図2に示した特徴分析部24から出力する第1の映像合成制御信号29による合成制御値αの一例を示す図である。構成制御値は、図4Cのように、第1のレティネックス処理部20のゲインが、第2のレティネックス処理部22のゲインよりも高い輝度レベルでは合成制御値αを小さくし、逆に第1のレティネックス処理部20のゲインが、第2のレティネックス処理部22のゲインよりも低い輝度レベルでは合成制御値αを大きくするように制御する。これにより、加算部30から出力される、第1のレティネックス処理部20と第2のレティネックス処理部22の合成出力映像の入出力特性をリニアな特性とする。
以上の処理により、照明光推定性能に優れるMcCann99モデルによるレティネックス処理とコントラスト補正性能に優れるMSRモデルによるレティネックス処理の両者の利点を得る合成映像を得ることができる。
次に、本実施例における第2の映像合成制御信号25による制御について説明する。
図5Aおよび図5Bは、特徴分析部24から出力する第2の映像合成制御信号25の制御の一例を示している。
まず図5Aは、横軸が映像の輝度レベル、縦軸が1画面中の画素の個数を表しており、各輝度レベルの分布をヒストグラムとしてグラフ化したものである。図5Aの例において、ヒストグラムh1は、輝度レベルLV1からLV3までの範囲の分布が、LV1以下およびLV3以上の輝度レベルの分布よりも多いことを示している。なお、輝度レベルLV1からLV3までの範囲の分布がフラットな場合は、一点鎖線で示すヒストグラムh0になる。
図5Bは、横軸が入力映像の輝度レベル、縦軸が出力映像の輝度レベルを表しており、上述した図5Aの輝度分布がヒストグラムh1の場合に、特徴分析部24から出力される第2の映像合成制御信号25の一例を示している。これは、利得制御値βにより制御される入出力レベル特性である。図5Aの輝度分布がヒストグラムh0の場合には図5Bの点線で示した特性となり、図5Aの輝度分布がヒストグラムh1の場合には図5Bの実線で示した特性となる。ここで、βは、点線で示すリニアな特性を基準(β=1)とするものである。当該βを入力レベルに応じて可変することにより、図5Bの実線で示すような特性が得られる。図5Bの例では、βはLV2では1であるが、LV1では1より小さく、LV3では1より大きい値である。このように、図5Aのヒストグラムh1の場合には、利得制御値βにより、輝度分布が多いLV1からLV3の範囲の入出力特性曲線の傾きが、それ以外の領域の傾きに対して急峻になるよう制御される。このような特性で補正映像信号13を得ることにより映像中の分布が多い領域に対して、より多くの出力輝度レベルを割り当てることになるので、視認性の良好な映像を得ることができる。
図5Cから図5Fは、輝度分布が図5Aとは異なる場合の制御の一例を説明する図である。
まず、図5CはLV2以下の輝度レベルの輝度分布がLV2以上の輝度レベルよりも多い場合のヒストグラムの一例を示している。この場合の利得制御値βの一例を図5Dに示している。図5Dのように、輝度分布が多いLV2以下の特性曲線の傾きがLV2以上の輝度レベルと比較して急峻になるように制御することで、映像の分布が多い輝度帯域に対して、より多くの出力輝度レベルを割り当てる。これにより、視認性の良好な映像を得ることができる。
次に、図5EはLV2以上の輝度レベルの輝度分布がLV2以下の輝度レベルよりも多い場合のヒストグラムの一例を示している。この場合の利得制御値βの一例を図5Fに示している。図5Fのように、輝度分布が多いLV2以上の特性曲線の傾きがLV2以下の輝度レベルと比較して急峻になるように制御することで、映像の分布が多い輝度帯域に対して、より多くの出力輝度レベルを割り当てることになるので、視認性の良好な映像を得ることができる。
以上説明した映像合成部26の一連の制御によって、照明光推定性能に優れるMcCann99モデルによるレティネックス処理とコントラスト補正性能に優れるMSRモデルによるレティネックス処理の両者の利点を得ながら、かつ視認性の良い補正映像が得られる。
なお、以上の説明において、レティネックスモデルの組み合わせは上述の例に限ったものではなく、異なる方式のレティネックスデモルの組み合わせでもよい。また、2方式のモデルの組み合わせに限ったものでなく、3つ以上のモデルの組み合わせでも良い。その場合は、図2に示す複数のレティネックス処理部は、並列に並べて各レティネックス処理部の補正映像を合成処理部26で合成して補正映像信号13を得るように構成すればよい。
実施例2は、図1の映像表示装置における映像補正部100の動作が、実施例1と異なる例である。以下に実施例1との相違について説明する。特に説明の無い部分は実施例1と同様であるため、説明を省略する。
実施例2の映像補正部100について、図2を用いて説明する。第1のレティネックス処理部20および第2のレティネックス処理部22は、内部映像信号12に対して、それぞれ異なる方式のレティネックス理論に基づく映像処理を行い、補正映像信号21および補正映像信号23を出力する。本実施例では、第1のレティネックス処理部20よりも第2のレティネックス処理部22の方がスケールの大きなレティネックス処理を行うものとする。ここで、レティネックス処理のスケールとは、レティネックス処理において参照する画素範囲の大きさである。
特徴分析部24は、内部映像信号12の特徴を分析し、第1の映像合成制御信号29および第2の映像合成制御信号25を映像合成部26へ出力する。映像合成部26では、映像合成制御信号29および映像合成制御信号25に基づき、補正映像信号21および補正映像信号23を合成して補正映像信号13を出力する。
ここで、実施例2の第2の映像合成制御信号25および利得制御値βは、実施例1と同様であるため、説明を省略する。
実施例2の第1の映像合成制御信号29による利得制御値αは、実施例1と異なるものである。以下にこれを説明する。
図6に、実施例2における、特徴分析部24における第1の映像合成制御信号の出力特性の一例を示す。図6は、横軸が映像の輝度レベル、縦軸が第1の映像合成制御信号29の値を示している。図6のように、例えば、輝度レベルが低い場合はαを小さく、高い場合はαを大きくする。このようにαを制御することで合成比率を輝度レベルに応じて可変できる。映像合成部26によって得る補正映像信号13において、輝度レベルが小さい場合は、第2のレティネックス処理部22の割合を大きくできる。また、輝度レベルが大きい場合は、第1のレティネックス処理部20の割合を大きくできる。つまり、レティネックス処理のスケールが小さい第1のレティネクス処理部20からは比較的高い周波数成分の反射光成分を多く含むため、輝度が高い映像領域にて合成割合を大きくとることで、映像の精細感を高めることができる。また、レティネックス処理のスケールが大きな第2のレティネクス処理部22からは比較的低い周波数成分の反射光成分を多く含むため、輝度が低い映像領域にて合成割合を大きくとることで、映像の陰影部分の視認性を高めることができる。なお、図6に示した特性は一例であり、各輝度レベルにおける最大値、最小値や特性の傾きなどは、レティネックス処理の特性に応じて決定すればよい。
以上説明した実施例において、映像合成制御信号29は、映像の輝度レベルに応じて生成する一例を示したが、周波数成分に応じた制御であってもよい。周波数成分に応じて制御をする場合は、例えば、映像信号の領域毎の周波数成分が高い場合には、補正映像信号13において、スケールサイズの小さいレティネックス処理部から得られる映像信号の割合を大きくし、映像信号の領域毎の周波数成分が低い場合には、補正映像信号13において、スケールサイズの大きなレティネックス処理部から得られる映像信号の割合を大きくする。さらに、映像の輝度レベルと周波数成分の両者を用いた合成制御を行ってもよく、その場合は、例えば、輝度レベルに応じた上述の制御値と、周波数成分に応じた制御値の加算または積算して正規化した値にて制御を行えばよい。
以上説明した本発明の実施例2によれば、異なる複数のレティネックス処理の補正映像をレティネックス処理のスケールに応じて合成することにより、映像の精細感と陰影部分の視認性を両立することが可能となる。
次に図1に示した映像表示装置における映像補正部100に異なるレティネックスモデルを用いた場合の実施例について説明する。映像補正部100の構成は、一例として図5の構成を用いることとするが、これに限ったものではない。図7は、第1のレティネックス処理部20の構成例であり、内部映像信号12を入力信号とし、Retinex理論に基づく映像処理を行うことで、2つの反射光成分101と102とを検出する反射光検出部150と、検出された2つの反射光成分を入力とし、反射光を調整した後、再合成を行うことで補正映像信号13を出力する反射光制御部180で構成される。
次に、反射光検出部150および反射光制御部180について説明する。
光の反射は、被写体の性質により、例えば、滑らかな表面で鏡のような鏡面反射をする光(以下、スペキュラと呼ぶ)、ざらざらした表面の細かな凹凸により拡散反射する光(以下、ディフューズと呼ぶ)、そして周囲の環境に対し反射等を繰り返すことで散乱した光である環境光(以下、アンビエントと呼ぶ)等に分類される。
例えば、3次元コンピュータグラフィックス分野に於いて、これら3つの光の性質を用いて物体表面の陰影を表現する反射モデルに、Phong反射モデルがある。Phong反射モデルによれば、材質は光の反射具合により表現できる。
例えば、プラスチック球体にスポットライトを当てた場合、輝度の高い小さな円形のハイライトができる。また、ゴム状の球体ではプラスチックよりハイライトの半径が広がるが、輝度は低くなる。このハイライトの部分がスペキュラである。また、ディフューズやアンビエントも材質に応じて輝度が異なる。
図10は、Phong反射モデルの例を説明する図である。図は、光源と光源から延びる光線、光線が到達した球体と球体を載せた床、この様子を観測する観測者で構成される。観測は、視点の位置で行われ、実際に目で観測しても、カメラ等の観測機器を使用してもよい。
図10に於いてスペキュラは、光線が球体表面で視線方向に反射した光501である。これは、光源が球体表面に映りこんだものであり、図中の円形のハイライト504がスペキュラの範囲である。例えば、プラスチックの球体の場合、輝度の高い小さな円形のハイライトができる。また、ゴム状の球体ではプラスチックよりハイライトの半径が広がるが、輝度は低くなる。Phong反射モデルでは、スペキュラは視線と反射光の余弦のべき乗に従うと仮定している。
図10に於いてディフューズは、光線が球体表面に当たった光502が拡散反射する光である。ディフューズの輝度は、光線と球体表面の向き、すなわち光線と法線との余弦で決まるため、球体表面で光が直接当たる部分がディフューズの範囲である。
図10に於いてアンビエントは、影となる部分に回りこんだ光503である。これは、周囲で幾度も反射し、散乱した光が環境全体に平均化されて留まったものあるため、直接光が届かない影の部分にも一定の輝度がある。影となる拡散反射する光で、光線と球体表面の向き、光線ベクトルすなわち法線との余弦で明るさが決まる。
以上より、Phong反射モデルは、次の式で表される。
Figure 0006046238
そこで、本実施例による反射光検出部に於ける反射光は、アンビエント、ディフューズ、スペキュラで構成されるとし、映像中のアンビエントは、広いスケールのガウシアンに従い、ディフューズは余弦による輝度分布に従い、スペキュラは余弦のべき乗による輝度分布に従うとする。アンビエントのフィルタをFa(x,y)、ディフューズのフィルタをFd(x,y)、スペキュラのフィルタをFs(x,y)とすると、各フィルタは次式となる。
Figure 0006046238
Figure 0006046238
Figure 0006046238
また、図11A、図11B、図11Cは、それぞれ縦軸を輝度のレベル、横軸を1次元位置座標で表現したアンビエント、ディフューズ、スペキュラの分布を説明する図である。このように、アンビエントのガウシアン分布に比べ、ディフューズ、スペキュラの分布は急峻にレベルが下がることが分かる。
ここで、アンビエントのフィルタによる映像Iaは、全体を平均化するため、ほぼアンビエント成分のみとなる。ディフューズのフィルタによる映像Idは、スペキュラの成分はフィルタにより平均化され、ほぼアンビエント成分とディフューズ成分のみとなる。スペキュラのフィルタによる映像Isは、殆ど平均化されないため、アンビエント成分とディフューズ成分とスペキュラ成分すべてが残る。これを数式5に示す。
Figure 0006046238
これを、MSRと同様に対数空間による反射成分を求めると数式6となる。
Figure 0006046238
また、鏡や金属等のスペキュラは、全反射と考えられるため、余弦のべき乗は無限大となる。この時、スペキュラによる反射成分は、数式7を用いてもよい。
Figure 0006046238
また、アンビエントは環境全体の平均的な光であるため、ガウシアンフィルタの代わりに平均値フィルタまたは平均輝度を用いてもよい。例えば平均輝度を用いると数式8となる。
Figure 0006046238
また、スペキュラが目立つのは高輝度のハイライトであることが多く、ディフューズは中低輝度の場合が多い。そこで、例えば、数式6のスペキュラRspecularに対しては、図12Aに示すような高輝度領域のゲインを加え、ディフューズRdiffuseに対しては、図12Bに示すような中低輝度度領域のゲインを加えてもよい。ここで、図12Aの入出力曲線をg(I)とすると、入力輝度Iが低輝度の時はゲインが0となり、中輝度から徐々にゲインが高くなり、高輝度になるとゲインは1となる。図12Bの入出力曲線は1−g(I)で、低輝度の時にゲインが1で、中輝度から徐々にゲインが低くなり、高輝度でゲインが0となる。
また、MSRの例と同様、数式6は、加重平均後にゲインと指数関数を加えると準同型フィルタとなる。この準同型フィルタに対し、対数関数および指数関数を、例えばべき乗を用いた関数およびその逆関数で近似してもよい。この場合、関数fとすると数式9となる。
Figure 0006046238
以上により、Phong反射モデルを用いて、反射の性質を考慮した補正が行える。
図8および図9を用いて、数式9を説明する。
図8は、実施例3による反射光検出部の処理を説明する図である。反射光検出部150は、スペキュラフィルタ部151、ディフューズフィルタ部153と、アンビエントフィルタ部155と、関数変換部157、159、161と、スペキュラ検出部163と、ディフューズ検出部164とで構成される。尚、関数変換部は、対数関数でもよく、べき乗関数で近似してもよい。
図9Aは、実施例1による反射光制御部の処理を説明する図である。反射光制御部180は、重みW1とW2による加重平均で構成してもよく、重みW1とW2による加重平均と、ゲインGと、逆関数変換部182にて構成してもよい。ただし、逆関数変換部は、関数変換部で用いた関数の逆関数である。また、図9Bに示すように、図9Aの構成に図12Aの高輝度域に高いゲインを持つスペキュラ補正ゲイン183と図12Bの中低輝度域に高いゲインを持つディフューズ補正ゲイン184を加えてもよい。
以上の構成によれば、反射光成分を抽出する際に、光の反射の性質毎、すなわちスペキュラ、ディフューズ、アンビエント毎に映像を分解し、それぞれの性質に応じて補正量を変えることで、第1のレティネックス処理部20から映像中のオブジェクトの材質を考慮した、質感の高い第1の補正映像信号21を得ることができる。
次に、第2のレティネックス処理部22は、MSRモデルを用いた映像補正を行うものとする。このとき、上述した第1のレティネックス処理部20よりもスケールサイズを大きくとった処理を行う。
以上のような構成とすることで、第1の補正映像信号21はオブジェクトの性質を考慮した映像信号となり、第2の補正映像信号23は映像の比較的大きな面積でのコントラスト補正を行った映像信号となる。これらの補正映像信号に対して、実施例2で説明した映像合成部26の動作と同様に合成を行う。これにより、映像の輝度レベルが低い領域では、第2の補正映像信号の割合が大きくできるので、コントラスト改善効果を大きくでき、映像の輝度レベルが高い領域ではオブジェクトの性質を考慮した映像補正信号の割合を大きくできるので、補正映像信号13として映像の輝度レベルの全帯域に渡って視認性の良好な映像を得ることができる。
以上説明した本発明の実施例3によれば、上述した実施例2の効果に加えて、より質感の高い出力映像を得ることが可能となる。
本実施例では、本発明の映像表示装置において、使用環境における外光を考慮した適応制御例を説明する。
図13は、本実施例の映像表示装置の構成図の例である。
本映像表示装置は、映像入力信号10を入力とし、例えば圧縮映像信号のデコーダ、IP変換、スケーラ等により内部映像信号12に変換する入力信号処理部11と、外光を入力とし、例えば256段階の照度レベル信号32を出力する照度センサ31と、内部映像信号12と照度レベル信号32とを入力とする映像補正部300と、補正映像信号33を入力とし、補正映像信号を表示画面の水平・垂直同期信号に基づいて表示制御信号15を生成するタイミング制御部14と、映像を表示する光学系装置200で構成される。
次に、図14は、映像補正部300の構成例を示している。映像合成部261は、第1の補正映像信号21と第2の補正映像信号23を、第1の映像合成制御信号29、第2の映像合成制御信号25、および照度レベル信号32によって適応的に合成し、補正映像信号13として出力する。
ここで、図15は、映像合成部261の構成の一例を示している。第1の映像合成制御信号29と第2の映像合成制御信号25は、照度ゲイン調整部262において照度レベル信号32によって調整される。次に、それぞれ第2の照度補正信号251、第1の照度補正信号291として出力され、図15のように利得制御部27、28、31へ加えられる。これにより、補正映像信号13の合成特性が決められる。
以上の構成において、まず、第1の映像合成制御信号29は、照度レベル信号32に従って、例えば、照度が高い場合には、スケールサイズが小さなレティネックス処理部の合成比率を大きくするよう補正して第1の照度補正信号291を出力する。つまり、実施例2で説明した構成例においては、図6に示すα値が大きくなる方向にオフセットを付加すればよい。
次に、第2の映像合成制御信号25は、照度レベル信号32の大きさに従って、例えば、図16に示すゲイン制御信号との積をとり、第2の照度補正信号251とする。これにより、周囲の照度が低い場合には、利得制御値βが小さくなり映像の補正量が小さくなるので、原画に近い映像が再生でき、照度が高い場合には、利得制御値が大きくなり映像の補正量が大きくなるので、明るい環境下の映像の視認性が向上できる。補正の方法としては、これに限ったものではなく、例えば、第2の映像合成補正信号25に対して、照度レベル信号32に従ったオフセットを付加するように補正してもよい。つまり、照度レベルに応じて明るい環境下での補正量を大きくするよう制御すればよい。
以上説明した本発明の実施例4によれば、外光の影響を考慮して映像処理を制御することにより、明るい環境下であっても映像の視認性を向上させることができる。
本実施例では、本発明の映像表示装置において、使用者が補正特性を設定する場合の制御方法の一例を説明する。図17は、本実施例の構成の一例を示したものであり、ユーザー設定部400を設ける。ユーザー設定部400は、リモコンや装置本体の操作ボタンの操作を介してユーザーからの操作信号401を入力し、操作信号に応じて、操作命令信号を映像補正部100に出力して、映像表示装置における映像処理での補正の有無や補正量などを設定できるように構成している。これにより、表示部に表示される映像をユーザーの所望の状態に切り替える設定を行なうことができる。
なお、図17の例では、図1の映像表示装置の構成例にユーザー設定部400を設けた構成となっているが、これに限られず、図13に示す照度センサを有する映像表示装置の構成例にユーザー設定部400を設けてもよい。すなわち、本実施例は、上述のいずれの実施例に対して適用してもよい。
図18に、本実施例のユーザー設定部で設定可能な設定項目の例を、映像表示装置が表示する設定メニュー画面1800を用いて説明する。
設定メニュー画面1800は、映像表示装置のメニュー画面信号生成部(図示省略)で生成され、補正映像信号13に替えて出力される。または、設定メニュー画面1800は補正映像信号13に重畳して出力される。
設定メニュー画面1800の例の「Retinex方式選択」1810の項目について説明する。「Retinex方式選択」1810の項目により、各実施例で説明した第1のレティネックス処理部20および第2のレティネックス処理部22の両者のレティネックス処理の使用の要否を選択できる。選択は、リモコンや装置本体の操作ボタンの操作を介して、カーソル1811を移動させることにより行なうように構成する。選択項目とその場合の処理について説明する。例えば、「Retinex1 only 」の選択項目が選択された場合は、第1のレティネックス処理部20の処理のみを映像補正部の処理に適用し、第2のレティネックス処理部22の処理は映像補正部の処理に適用しない。具体的には、合成制御値αを1にしてもよく、第2のレティネックス処理部22の動作自体をOFFしてもよい。次に、「Retinex2 only 」の選択項目が選択された場合は、逆に、第2のレティネックス処理部22の処理のみを映像補正部の処理に適用し、第1のレティネックス処理部20の処理は映像補正部の処理に適用しない。具体的には、合成制御値αを0にしてもよく、第1のレティネックス処理部20の動作自体をOFFしてもよい。「Combining Retinex1 and 2」の選択項目が選択された場合は、上述の実施例で説明したように、第1のレティネックス処理部20の処理と第2のレティネックス処理部22の処理とを合成して出力する。「Retinex OFF」の選択項目が選択された場合は、第1のレティネックス処理部20の処理と第2のレティネックス処理部22の処理との両者とも映像補正部の処理に適用しない。両者の動作をOFFにしてもよく、映像補正部に入力される映像について、映像補正部をバイパスして出力してもよい。
上述の「Retinex方式選択」1810の項目では、必ずしも、上述の4つの選択項目をユーザーに提示する必要はなく、例えば、「Combining Retinex1 and 2」の選択項目および「Retinex OFF」の選択項目の2つを提示するだけでもよい。また、「Combining Retinex1 and 2」の選択項目、「Retinex1 only 」の選択項目、「Retinex OFF」の選択項目の3つを提示してもよい。すなわち、例示した選択肢のうち少なくとも2項目を提示すればよい。
次に、設定メニュー画面1800の例の「Retinex強度設定」1820の項目について説明する。「Retinex強度設定」1820の項目では、それぞれのレティネックス処理の強度を設定できる。具体的には、リモコンや装置本体の操作ボタンの操作を介して、スライドバー1821や1822を移動して、それぞれのレティネックス処理の強度を設定する。その場合の処理は、例えば、図4Aと図4Bに示しているそれぞれのレティネックス処理のゲインに、強度に応じたオフセットを付加することで実現できる。例えば、強度が強い場合には、図4Aおよび図4Bのゲインに対してプラス方向のオフセット、強度が弱い場合にはマイナス方向のオフセットを付加する。このオフセットを付加する処理については、第1のレティネックス処理部20および第2のレティネックス処理部22の内部もしくは、補正映像信号21および補正映像信号23に対して、オフセットを付加する処理を挿入することで実現できる。
なお、「Retinex強度設定」1820の項目は、「Retinex方式選択」1810の項目の選択状態に応じて、アクティブ、非アクティブの状態を切り替えるようにに構成してもよい。すなわち、「Retinex方式選択」1810の項目でOFFになっている処理についてのスライドバーは、非アクティブ状態としてもよい。
次に、設定メニュー画面1800の例の「合成設定」1830の項目について説明する。「合成設定」1830の項目では、それぞれのレティネックス処理の合成比率を設定できる。上述の各実施例で説明したαの値を制御してこれを実現する。具体的には、まず、リモコンや装置本体の操作ボタンの操作を介して、ユーザがカーソル1831を移動させ、「Variable」か「Fixed」のいずれかを選択可能とする。「Variable」が選択された場合には、上述の各実施例で説明したように、合成制御値αを入力映像信号に応じて可変とする。「Fixed」が選択された場合には、合成制御値αは、入力映像信号に対して可変にせず、ユーザーが設定した状態で固定する。具体的には、リモコンや装置本体の操作ボタンの操作を介してユーザーがスライドバー1832を調整し、その位置に応じた合成制御値αに固定した状態で設定される。図18の例では、バーが左に行くほどαを大きくし、第1のレティネックス処理部20の処理が優先されて合成される。バーが右に行くほどαが小さくなり、第2のレティネックス処理部22の処理が優先されて合成される。
なお、「合成設定」1830の項目は、「Retinex方式選択」1810の項目の選択状態に応じて、アクティブ、非アクティブの状態を切り替えるようにに構成してもよい。すなわち、「Combining Retinex1 and 2」の選択項目が選択されていない場合は、「合成設定」1830の項目の全体を非アクティブとしてもよい。
次に、設定メニュー画面1800の例の「視認性向上処理強度設定」1840の項目について説明する。当該項目は、図3の利得制御部31の処理の効果の大小を設定できる。具体的には、スライドバー1840の移動に応じて、利得制御値βの変化量の振幅の大小を変更する。図5B、図5D、図5Fのいずれの特性においても、利得制御値βの変化量の振幅が大きくなれば、視認性向上処理が強くなることとなる。
次に、設定メニュー画面1800の例の「照度センサ適応処理」1850の項目について説明する。当該項目は、実施例4の図13に示す照度センサを有する映像表示装置の構成例にユーザー設定部400を設けた場合に用いられるメニュー項目である。「照度センサ適応処理」1850の項目では、リモコンや装置本体の操作ボタンの操作を介して、ユーザがカーソル1851を移動させ、「ON」か「OFF」のいずれかを選択可能とする。「OFF」が選択された場合には、実施例4で説明した図16のゲイン制御値を1で固定する。
以上説明した本発明の実施例5で説明したユーザー設定部400を搭載した映像表示装置によれば、本発明の各実施例における映像補正処理をユーザの好みや映像表示装置の使用目的または使用環境にあわせてユーザが調整することが可能である。これにより、より使い勝手のよい映像表示装置が提供できる。
10 映像入力信号
12 内部映像信号
13 補正映像信号
15 表示制御信号
20 第1のレティネックス処理部
21 第1の補正映像信号
22 第2レティネックス処理部
23 第2の補正映像信号
24 特徴分析部
25 映像合成制御信号
26 映像合成部
27、28、31 利得制御部
29 映像合成制御信号
30 加算器
32 照度レベル信号
33 適応制御による補正映像信号
100 映像補正部
101 スケール1による反射光成分
102 スケール2による反射光成分
120 MSRによる反射光検出部
122 スケール1フィルタによるコンボリューション積の結果
124 スケール2フィルタによるコンボリューション積の結果
126 スケール1によるSSRの結果値
128 スケール2によるSSRの結果値
130 MSRによる反射光制御部
131 各SSRの結果に対する加重平均結果値(ゲイン含む)
152 スペキュラフィルタによるコンボリューション積の結果
154 ディフューズフィルタによるコンボリューション積の結果
156 アンビエントフィルタによるコンボリューション積の結果
158 スペキュラフィルタに対する関数変換の結果
160 ディフューズフィルタに対する関数変換の結果
162 アンビエントフィルタに対する関数変換の結果
181 スペキュラおよびディフューズに対する加重平均結果値(ゲイン含む)
302 エッジ信号

Claims (5)

  1. 映像入力部と、
    前記映像入力部から入力された映像について第1のレティネックス処理を行う第1のレティネックス処理部と、
    前記映像入力部から入力された映像について、前記第1のレティネックス処理と方式の異なる第2のレティネックス処理を行う第2のレティネックス処理部とを備え、
    前記映像入力部から入力された映像の特徴に応じて前記第1のレティネックス処理部が処理した映像と前記第2のレティネックス処理部が処理した映像とを合成可能な映像合成部と、
    前記映像合成部の出力映像を表示可能な表示部とを備え
    前記第1のレティネックス処理は、入力映像を複数の反射光成分に分離し、分離された前記複数の反射光成分のそれぞれを重み値によって調整し、加重平均し、映像中の反射光の割合を制御する処理であり、
    前記第2のレティネックス処理は、前記第1のレティネックス処理よりもスケールの大きなレティネックス処理であることを特徴とする映像表示装置。
  2. 請求項1に記載の映像表示装置であって、
    前記表示部には、設定メニュー画面が表示可能であり、
    前記設定メニュー画面では、前記表示部での映像表示状態の切替設定として、
    前記第1のレティネックス処理を施した映像と前記第2のレティネックス処理を施した映像とを映像合成して表示する第1の状態、
    前記第2のレティネックス処理を施さず、前記第1のレティネックス処理を施した映像を表示する第2の状態、
    前記第1のレティネックス処理を施さず、前記第2のレティネックス処理を施した映像を表示する第3の状態、
    前記第1のレティネックス処理も前記第2のレティネックス処理も施していない映像を表示する第4の状態、
    のうち、少なくとも2つの表示状態を切り替え可能であることを特徴とする映像表示装置。
  3. 請求項2に記載の映像表示装置であって、
    前記設定メニュー画面では、
    前記第1のレティネックス処理を施した映像と前記第2のレティネックス処理を施した映像とを映像合成する際の合成比率を変更可能であることを特徴とする映像表示装置。
  4. 請求項に記載の映像表示装置であって、
    前記映像合成部は、前記映像入力部から入力された映像の輝度情報または周波数情報に応じて、前記第1のレティネックス処理を施した映像と前記第2のレティネックス処理を施した映像との合成比率を変更することを特徴とする映像表示装置。
  5. 請求項1から請求項のいずれか一項に記載の映像表示装置であって、
    さらに、外光の照度を測る照度センサを備え、
    前記照度センサの測定結果に応じて、前記映像合成部の処理を変更することを特徴とする映像表示装置。
JP2015509785A 2013-04-03 2013-04-03 映像表示装置 Active JP6046238B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2013/060149 WO2014162533A1 (ja) 2013-04-03 2013-04-03 映像表示装置

Publications (2)

Publication Number Publication Date
JP6046238B2 true JP6046238B2 (ja) 2016-12-14
JPWO2014162533A1 JPWO2014162533A1 (ja) 2017-02-16

Family

ID=51657866

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015509785A Active JP6046238B2 (ja) 2013-04-03 2013-04-03 映像表示装置

Country Status (5)

Country Link
US (1) US9565388B2 (ja)
EP (2) EP2983350B1 (ja)
JP (1) JP6046238B2 (ja)
CN (1) CN105210360B (ja)
WO (1) WO2014162533A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5901667B2 (ja) * 2014-02-10 2016-04-13 オリンパス株式会社 画像処理装置及び方法、画像処理プログラム、撮像装置
EP3057067B1 (en) * 2015-02-16 2017-08-23 Thomson Licensing Device and method for estimating a glossy part of radiation
FR3034233B1 (fr) * 2015-03-25 2018-08-10 Morpho Procede de correction d'une image d'au moins un objet presente a distance devant un imageur et eclaire par un systeme d'eclairage et systeme de prise de vues pour la mise en œuvre dudit procede
US11025833B2 (en) 2016-06-30 2021-06-01 I-Cubed Research Center Inc. Video signal processing apparatus, video signal processing method, and program for performing video signal processing in consideration of behavior of light in nature
WO2018167898A1 (ja) * 2017-03-15 2018-09-20 マクセル株式会社 映像表示装置

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008244591A (ja) * 2007-03-26 2008-10-09 Toshiba Corp 画像処理装置及びその方法
JP2013047935A (ja) * 2011-07-22 2013-03-07 Hitachi Consumer Electronics Co Ltd 映像処理装置、映像表示装置、及び映像処理方法

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4076302B2 (ja) 1999-08-31 2008-04-16 シャープ株式会社 画像の輝度補正方法
US7298917B2 (en) * 2002-11-11 2007-11-20 Minolta Co., Ltd. Image processing program product and device for executing Retinex processing
JP4345366B2 (ja) 2003-06-12 2009-10-14 コニカミノルタホールディングス株式会社 画像処理プログラムおよび画像処理装置
WO2009120830A1 (en) * 2008-03-27 2009-10-01 Tufts University Methods and apparatus for visual sub-band decomposition of signals
CN101742172A (zh) * 2008-11-06 2010-06-16 纬创资通股份有限公司 具有立体显示功能的子母画面显示装置及画面显示方法
JP5392560B2 (ja) 2009-10-13 2014-01-22 株式会社Jvcケンウッド 画像処理装置および画像処理方法
JP2011228969A (ja) * 2010-04-21 2011-11-10 Hitachi Consumer Electronics Co Ltd 映像処理装置
JP5669513B2 (ja) 2010-10-13 2015-02-12 オリンパス株式会社 画像処理装置、画像処理プログラム、及び、画像処理方法
JP2012189979A (ja) * 2011-02-25 2012-10-04 Sanyo Electric Co Ltd 表示装置
JP2013029699A (ja) 2011-07-29 2013-02-07 Hitachi Consumer Electronics Co Ltd 映像処理装置及び映像処理方法
CN102999885A (zh) * 2012-09-25 2013-03-27 广东威创视讯科技股份有限公司 Retinex视频增强算法亮度平均值确定方法与装置
JP6030396B2 (ja) 2012-09-28 2016-11-24 日立マクセル株式会社 映像処理装置
JP6371092B2 (ja) * 2014-03-27 2018-08-08 マクセル株式会社 映像処理装置及びそれを用いたプロジェクタ装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008244591A (ja) * 2007-03-26 2008-10-09 Toshiba Corp 画像処理装置及びその方法
JP2013047935A (ja) * 2011-07-22 2013-03-07 Hitachi Consumer Electronics Co Ltd 映像処理装置、映像表示装置、及び映像処理方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
JPN6016030517; 野里良裕、奥畑宏之、尾上孝雄、白川功: '適応的階調補正のハードウェア実現におけるRetinex理論の比較評価' 信学技報 SIS2005-16, 20050610, 19-24, 社団法人電子情報通信学会 *
JPN6016030519; 田中 豪、外2名: 'データ依存型Multiscale Retinexによるディジタル画像の画質改善' 電子情報通信学会論文誌 (J91-D) 第9号 第J91-D巻, 200809, 社団法人電子情報通信学会 *

Also Published As

Publication number Publication date
US9565388B2 (en) 2017-02-07
EP2983350A1 (en) 2016-02-10
EP3499453C0 (en) 2023-09-20
CN105210360A (zh) 2015-12-30
EP3499453A1 (en) 2019-06-19
EP3499453B1 (en) 2023-09-20
JPWO2014162533A1 (ja) 2017-02-16
US20160100122A1 (en) 2016-04-07
EP2983350B1 (en) 2019-03-27
EP2983350A4 (en) 2016-12-07
CN105210360B (zh) 2018-05-18
WO2014162533A1 (ja) 2014-10-09

Similar Documents

Publication Publication Date Title
JP6030396B2 (ja) 映像処理装置
US10134323B2 (en) Image display device
JP6046238B2 (ja) 映像表示装置
JP5247910B1 (ja) 画像表示装置またはその方法
JP6758891B2 (ja) 画像表示装置及び画像表示方法
JP6550138B2 (ja) 映像処理装置
JP6371092B2 (ja) 映像処理装置及びそれを用いたプロジェクタ装置
JP5047344B2 (ja) 画像処理装置及び画像処理方法
JP6738480B2 (ja) 映像表示装置
JP7344975B2 (ja) 映像表示装置およびプロジェクタ
KR101872015B1 (ko) 적외선 영상 생성장치 및 방법
Huo et al. Evaluation of HDR tone mapped image and single exposure image
JP2023162884A (ja) 画像処理装置、画像処理方法、及びプログラム
JP5583177B2 (ja) 画像処理装置及び画像処理方法

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20161101

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20161116

R150 Certificate of patent or registration of utility model

Ref document number: 6046238

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250