JP2015141333A - 画像処理装置、画像処理方法、表示装置、表示装置の制御方法、及び、プログラム - Google Patents

画像処理装置、画像処理方法、表示装置、表示装置の制御方法、及び、プログラム Download PDF

Info

Publication number
JP2015141333A
JP2015141333A JP2014014514A JP2014014514A JP2015141333A JP 2015141333 A JP2015141333 A JP 2015141333A JP 2014014514 A JP2014014514 A JP 2014014514A JP 2014014514 A JP2014014514 A JP 2014014514A JP 2015141333 A JP2015141333 A JP 2015141333A
Authority
JP
Japan
Prior art keywords
image
luminance
display
graphic
superimposition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014014514A
Other languages
English (en)
Other versions
JP6381215B2 (ja
JP2015141333A5 (ja
Inventor
徹 小池
Toru Koike
徹 小池
一彦 中沢
Kazuhiko Nakazawa
一彦 中沢
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2014014514A priority Critical patent/JP6381215B2/ja
Priority to US14/605,606 priority patent/US9672603B2/en
Publication of JP2015141333A publication Critical patent/JP2015141333A/ja
Publication of JP2015141333A5 publication Critical patent/JP2015141333A5/ja
Application granted granted Critical
Publication of JP6381215B2 publication Critical patent/JP6381215B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20208High dynamic range [HDR] image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Image Processing (AREA)
  • Picture Signal Circuits (AREA)
  • Editing Of Facsimile Originals (AREA)

Abstract

【課題】重畳前画像にグラフィック画像を重畳した重畳後画像として、グラフィック画像の視認性が向上された画像を生成することができる技術を提供する。
【解決手段】本発明の画像処理装置は、表示部での表示に使用する表示用画像を生成する生成手段を有し、前記生成手段は、重畳前画像に前記重畳前画像よりもダイナミックレンジが狭いグラフィック画像を重畳した重畳後画像を前記表示用画像として生成する場合に、前記グラフィック画像の領域とその周辺の領域との少なくともいずれか一方の領域における輝度が第1の閾値以下に制限された重畳後画像である輝度制限画像を生成する。
【選択図】図1

Description

本発明は、画像処理装置、画像処理方法、表示装置、表示装置の制御方法、及び、プログラムに関する。
近年、高ダイナミックレンジの画像(HDR画像)を撮影することのできる撮像装置が提案されている。また、HDR画像のデータフォーマットとして、様々な種類のフォーマットが提案されている。
HDR画像の記録方法の1つとして、HDR画像をベース画像とトーンマップに分割し、ベース画像とトーンマップを記録する方法がある(特許文献1,2)。即ち、HDR画像のフォーマットの1つとして、ベース画像とトーンマップを用いたフォーマットがある。ベース画像は、HDR画像をダウンサンプリング(階調圧縮)した画像であり、8bit階調程度の画像である。トーンマップは、ベース画像の階調値とHDR画像の階調値との対応関係を表す情報である。トーンマップを用いてベース画像の階調値をHDR画像の階調値に変換することにより、HDR画像を得ることができる。
また、HDR画像のフォーマットとして、ACES規格がある。ACES規格は、シネマの規格として米国の映画芸術科学協会が定めた規格である。ACES規格は、HDR画像の各色を16bitの浮動小数点で表現するフォーマットである。
HDR画像によれば、実際の色や輝度を忠実に再現することができる。
但し、実際の色や輝度が忠実に再現された画像を表示するためには、HDR画像のフォーマットに対応した表示装置(HDRモニタ)が必要となる。現行の表示装置(現行モニタ)が表示可能な輝度の最大値は10[cd/m]程度であり、自然界に存在し得る輝度の最大値に比べてはるかに低い。例えば、太陽光の輝度は、10[cd/m]であり、現行モニタが表示可能な輝度の最大値よりもはるかに高い。このように、自然界におけるダイナミックレンジは、現行モニタが表示可能な画像のダイナミックレンジよりも広い。そのため、実際の色や輝度が忠実に再現された画像を表示するためには、現行モニタよりもダイナミックレンジの広い画像を表示可能なHDRモニタを用いて、HDR画像の高輝度領域において、現行モニタよりも高い輝度の表示を行う必要がある。
表示装置では、重畳前画像にグラフィック画像を重畳した画像が表示されることがある。例えば、HDR画像にグラフィック画像を重畳した重畳後画像が表示されることがある。グラフィック画像は、例えば、表示装置やPCに対するユーザ操作に応じて生成されるマウスカーソルやメニューなどのGUI(Graphical User Interface)画像である。ユーザ操作は、例えば、HDR画像を編集するためのユーザ操作である。
しかしながら、従来技術では、グラフィック画像として、HDR画像のダイナミックレンジよりも狭いダイナミックレンジの画像が使用される。そのため、HDRモニタを使用して重畳後画像を表示した場合に、グラフィック画像の周辺の輝度がグラフィック画像に比べて高くなってしまうことがある。その結果、グラフィック画像の周辺の眩しさにより、グラフィック画像の視認性が悪化してしまうことがある。
また、グラフィック画像として、設定された透明度を有する画像が使用されることがある。即ち、設定された透明度で重畳前画像を透過するグラフィック画像が使用されることがある。具体的には、設定された重みで重畳前画像の画素値とグラフィック画像の画素値とを重みづけ合成した値を、重畳後画像の画素値として使用する技術がある(特許文献3)。
しかしながら、特許文献3に記載の技術を用いたとしても、グラフィック画像の周辺の輝度がグラフィック画像に比べて高くなってしまうことがある。その結果、グラフィック画像の周辺の眩しさにより、グラフィック画像の視認性が悪化してしまうことがある。
また、特許文献3に記載の技術を用いた場合には、HDR画像の高輝度の画素値とグラフィック画像の画素値とが重みづけ合成され、重みづけ合成後の画素値として高輝度の画素値が得られてしまうことがある。即ち、重畳後画像において、グラフィック画像の輝度が高くなってしまうことがある。その結果、グラフィック画像の眩しさにより、グラフィック画像の視認性が悪化してしまうことがある。
物を見え難くする眩しさは“グレア”と呼ばれる。物に照らされた光の強度が大きいほど、グレアは大きくなり、物の視認性の悪化も大きくなる。そのため、グラフィック画像やその周辺の輝度が高いほど、グラフィック画像の視認性の悪化は大きくなる。また、人間の視野と光源(物に光を照らす光源)の立体角とによっても物の視認性は変化する。例えば、人間の視線と光源の発光方向が近いほど、グレアは大きくなり、物の視認性の悪化も大きくなる。そのため、グラフィック画像やその周辺の輝度が高い場合に、グラフィック画像から離れた位置の輝度が高い場合に比べて、グラフィック画像の視認性の悪化は大きくなる。
国際公開第2005/104035号 特開2011−193511号公報 特開2003−162275号公報
本発明は、重畳前画像にグラフィック画像を重畳した重畳後画像として、グラフィック画像の視認性が向上された画像を生成することができる技術を提供することを目的とする。
本発明の第1の態様は、
表示部での表示に使用する表示用画像を生成する生成手段を有し、
前記生成手段は、重畳前画像に前記重畳前画像よりもダイナミックレンジが狭いグラフィック画像を重畳した重畳後画像を前記表示用画像として生成する場合に、前記グラフィック画像の領域とその周辺の領域との少なくともいずれか一方の領域における輝度が第1の閾値以下に制限された重畳後画像である輝度制限画像を生成する
ことを特徴とする画像処理装置である。
本発明の第2の態様は、
表示部での表示に使用する表示用画像を生成するステップと、
前記表示用画像を出力するステップと、
を有し、
前記生成ステップでは、重畳前画像に前記重畳前画像よりもダイナミックレンジが狭い
グラフィック画像を重畳した重畳後画像を前記表示用画像として生成する場合に、前記グラフィック画像の領域とその周辺の領域との少なくともいずれか一方の領域における輝度が第1の閾値以下に制限された重畳後画像である輝度制限画像が生成される
ことを特徴とする画像処理方法である。
本発明の第3の態様は、上記画像処理方法の各ステップをコンピュータに実行させることを特徴とするプログラムである。
本発明の第4の態様は、
発光手段と、
前記発光手段から発せられた光を表示用画像に基づいて変調することで画面に画像を表示する表示手段と、
前記表示用画像を生成する生成手段と、
前記発光手段の発光輝度を制御する制御手段と、
を有し、
重畳前画像に前記重畳前画像よりもダイナミックレンジが狭いグラフィック画像を重畳した重畳後画像を前記表示用画像として前記生成手段が生成する場合に、前記グラフィック画像の領域とその周辺の領域との少なくともいずれか一方の領域における表示輝度が閾値以下に制限されるように、輝度が制限された重畳後画像である輝度制限画像を前記表示用画像として前記生成手段が生成する処理と、前記制御手段が前記発光手段の発光輝度を制限する処理と、の少なくとも一方が行われる
ことを特徴とする表示装置である。
本発明の第5の態様は、
発光手段と、
前記発光手段から発せられた光を表示用画像に基づいて変調することで画面に画像を表示する表示手段と、
を有する表示装置の制御方法であって、
前記表示用画像を生成する生成ステップと、
前記発光手段の発光輝度を制御する制御ステップと、
を有し、
重畳前画像に前記重畳前画像よりもダイナミックレンジが狭いグラフィック画像を重畳した重畳後画像が前記表示用画像として前記生成ステップで生成される場合に、前記グラフィック画像の領域とその周辺の領域との少なくともいずれか一方の領域における表示輝度が閾値以下に制限されるように、輝度が制限された重畳後画像である輝度制限画像を前記表示用画像として前記生成ステップで生成する処理と、前記制御ステップで前記発光手段の発光輝度を制限する処理と、の少なくとも一方が行われる
ことを特徴とする表示装置の制御方法である。
本発明によれば、重畳前画像にグラフィック画像を重畳した重畳後画像として、グラフィック画像の視認性が向上された画像を生成することができる。
実施例1に係る表示装置の機能構成を示す図 実施例1に係る画素値制御部と表示輝度算出部の処理の流れを示す図 実施例1に係るパネル特性情報を示す図 実施例1に係る画像処理を示す図 実施例2に係る表示装置の機能構成を示す図 実施例2に係る画素値制御部と表示輝度算出部の処理の流れを示す図 実施例2に係る逆トーンマップを示す図 実施例3に係るベース画像と輝度比率情報とグラフィック画像を示す図 実施例3に係る表示用画像を示す図 実施例4に係る表示装置の機能構成を示す図 実施例5に係る画像表示システムの構成を示す図 実施例6に係る画像処理装置の機能構成を示す図 実施例6に係る画像処理装置の処理の流れを示す図 実施例6に係る輝度補正処理の流れを示す図 実施例6に係るグラフィック領域と周辺領域を示す図 実施例7に係る輝度補正処理の流れを示す図 実施例7に係る高輝度領域と高輝度周辺領域を示す図 実施例8に係る表示装置の機能構成を示す図 実施例1に係る表示装置の機能構成を示す図
<実施例1>
以下、本発明の実施例1に係る画像処理装置及び画像処理方法について説明する。
なお、本実施例では、表示装置に画像処理装置が設けられている場合の例を説明するが、表示装置と画像処理装置は別体の装置であってもよい。
まず、図1を用いて、本実施例に係る表示装置の各機能部について説明する。図1は、本実施例に係る表示装置の機能構成の一例を示すブロック図である。
本実施例に係る表示装置は、表示部(表示装置)での表示に使用する表示用画像を生成する。本実施例に係る表示装置は、表示用画像として、重畳前画像よりもダイナミックレンジが狭いグラフィック画像を重畳前画像に重畳した重畳後画像を生成することができる。グラフィック画像は、例えば、ユーザ操作に応じて生成されるマウスカーソルやメニューなどのGUI(Graphical User Interface)画像である。
また、本実施例に係る表示装置には、ベース画像1、差分情報2、アルファ値3、及び、グラフィック画像8が入力される。
本実施例では、重畳前画像が高ダイナミックレンジを有する画像(HDR画像)であり、ベース画像1は、重畳前画像をビット変換処理によりダウンサンプリング(階調圧縮)した画像である。例えば、ベース画像1のbit数は8bit程度である。重畳前画像のbit数はベース画像1のbit数よりも大きければよい。
差分情報2は、ベース画像1のダイナミックレンジを拡大して重畳前画像を生成するための情報である。本実施例では、差分情報2は、ベース画像のダイナミックレンジを拡大する拡大処理で使用される輝度差分データであり、HDR画像とベース画像の輝度値の差分を表すデータであるものとして説明する。例えば、差分情報2は、画素単位(又は所定数の画素からなる領域単位)で、ベース画像の輝度値(階調値)とHDR画像の輝度値(階調値)との比率である輝度比率を表す輝度比率データ(輝度比率情報)である。即ち、差分情報2は、画素単位(又は所定数の画素からなる領域単位)で、ベース画像の輝度値(階調値)に対するHDR画像の輝度値(階調値)の比率またはその逆数を表す輝度比率データである。ただし、差分情報2は、画素単位(又は所定数の画素からなる領域単位)で、ベース画像の輝度値(階調値)とHDR画像の輝度値(階調値)の一方から他方を減算した差分値である輝度差分値を表すデータであってもよい。また、差分情報2は、拡大処理における入力輝度値と出力輝度値との対応関係を表す輝度変換テーブルデータ(例えば、実施例2で説明するトーンマップ)であってもよい。なお、拡大処理は、ベース画像で表現しきれていない輝度を再現する処理と言うこともできる。
本実施例では、グラフィック画像8は、設定された透明度を有する画像である。アルファ値3は、グラフィック画像8の透明度を表す値である。本実施例では、アルファ値3に応じた重みでベース画像1の画素値とグラフィック画像8の画素値とが重みづけ合成される。それにより、設定された透明度を有するグラフィック画像8をベース画像1に重畳した画像が得られる。本実施例では、ベース画像1の画素位置毎にアルファ値3が設定されており、ベース画像1の画素位置毎に重みづけ合成が行われる。本実施例では、アルファ値3は0以上1以下の値を取り得る。そして、ベース画像1の画素値にアルファ値を乗算した値と、グラフィック画像の画素値に(1−アルファ値)を乗算した値と、を足し合わせることにより、重みづけ合成後の画像の画素値が算出される。そのため、アルファ値3=1の場合には、ベース画像1の画素値が重みづけ合成後の画像の画素値となり、アルファ値3=0の場合には、グラフィック画像8の画素値が重みづけ合成後の画像の画素値となる。
そして、差分情報を用いて重みづけ合成後の画像のダイナミックレンジを拡大することにより、重畳後画像が生成される。それにより、設定された透明度を有するグラフィック画像8を重畳前画像に重畳した画像が、重畳後画像として得られる。
なお、ベース画像1、差分情報2、アルファ値3、及び、グラフィック画像8は、外部装置から取得されてもよいし、本実施例に係る表示装置に設けられた記憶部に予め記録されていてもよい。記録部は、磁気ディスク、光ディスク、半導体メモリ、などの記憶媒体である。また、ユーザ操作に応じてアルファ値3が設定されてもよい。即ち、グラフィック画像8の透明度はユーザによって変更可能であってもよい。
なお、領域毎にアルファ値3が設定されていてもよい。グラフィック画像8の画素位置についてのみアルファ値3が設定されていてもよい。グラフィック画像8の全ての画素位置に共通の1つのアルファ値3が設定されていてもよい。グラフィック画像8の画素位置以外の画素位置については、重みづけ合成の演算を行わずに、ベース画像1の画素値が重みづけ合成後の画像の画素値として使用されてもよい。
なお、本実施例では、グラフィック画像をベース画像に重畳した画像のダイナミックレンジを拡大することによって重畳後画像が生成される例を説明するが、これに限らない。ベース画像のダイナミックレンジを拡大することによって重畳前画像が生成され、重畳前画像の画素値とグラフィック画像の画素値とを重みづけ合成することによって重畳後画像が生成されてもよい。
画素値制御部4、表示輝度算出部5、重み算出部18、乗算器19,20、加算器21、及び、表示用画像生成部15により、表示パネル17での表示に使用する表示用画像が生成される。
本実施例では、上述した重畳後画像(重畳前画像よりもダイナミックレンジが狭いグラフィック画像を重畳前画像に重畳した画像)を表示用画像として生成する場合に、重畳後画像として輝度制限画像が生成される。輝度制限画像は、グラフィック画像の領域における輝度が第1の閾値以下に制限された重畳後画像である。
なお、本発明は、上述した重畳後画像を表示用画像として生成する場合の処理に特徴を有する。そのため、以下では、上述した重畳後画像を表示用画像として生成する場合の処理について詳しく説明し、上述した重畳後画像以外の画像を表示用画像として生成する場合の処理については説明を省略する。
なお、本実施例では、第1の閾値が、グラフィック画像の領域における表示輝度(画面上の輝度)の閾値である場合の例を説明するが、第1の閾値はこれに限らない。例えば、第1の閾値は、画素値によって表される輝度値の閾値であってもよい。
画素値制御部4は、重畳前画像の輝度を制限することにより、重畳後画像の輝度を制限
する。具体的には、画素値制御部4は、ベース画像1、差分情報(輝度比率情報)2、及び、アルファ値3を取得する。また、画素値制御部4は、表示輝度算出部5から表示輝度情報7を取得する。表示輝度情報7は、輝度比率情報2を用いてベース画像1のダイナミックレンジを拡大したHDR画像の表示輝度の推定値を表す情報である。そして、画素値制御部4は、アルファ値3と表示輝度情報7に基づいて輝度比率情報2を補正する。本実施例では、グラフィック画像の領域における表示輝度が第1の閾値以下に制限された重畳後画像が得られるように、輝度比率情報2が補正される。その後、画素値制御部4は、ベース画像1と補正輝度比率情報10を出力する。以後、画素値制御部4から出力されたベース画像を“ベース画像9”と記載するが、ベース画像9とベース画像1は同じものである。補正輝度比率情報10は、補正後の輝度比率情報である。
画素値制御部4は、アルファ値3が0よりも大きい画素について、グラフィック画像の領域の画素であると判断し、表示輝度情報7に基づいて輝度比率情報2を補正した値を補正輝度比率情報10の値として出力する。また、画素値制御部4は、アルファ値3=0の画素については、グラフィック画像の領域の画素でないと判断し、輝度比率情報2の値を補正輝度比率情報10の値として出力する。
なお、第1の閾値は、メーカーによって予め定められた固定値であってもよいし、ユーザが変更可能な値であってもよい。
なお、本実施例では、アルファ値3を用いてグラフィック画像の領域を判断する例を説明したが、グラフィック画像の領域の判断方法はこれに限らない。例えば、グラフィック画像の領域を表す領域情報をユーザに入力させ、領域情報に基づいてグラフィック画像の領域が判断されてもよい。また、グラフィック画像を表示するユーザ操作に応じてグラフィック画像の領域が判断されてもよい。
表示輝度算出部5は、ベース画像1と輝度比率情報2を取得する。また、表示輝度算出部5は、表示パネル17からパネル特性情報6を取得する。パネル特性情報6は、画素値によって表される輝度値と表示輝度との対応関係を表す情報(テーブルや関数)である。そして、表示輝度算出部5は、ベース画像1、輝度比率情報2、及び、パネル特性情報6に基づいて、輝度比率情報2を用いてベース画像1のダイナミックレンジを拡大したHDR画像の表示輝度(推定値)を算出する。その後、表示輝度算出部5は、表示輝度の算出結果を表示輝度情報7として出力する。
なお、本実施例では、表示輝度情報7がベース画像の画素位置毎に表示輝度を表す情報である場合の例を説明するが、表示輝度情報7はこれに限らない。表示輝度情報7は、グラフィック画像の領域における代表輝度を表す情報であってもよい。代表輝度は、表示輝度の最大値、最小値、最頻値、中間値、平均値、等である。
なお、パネル特性情報6として、画素値と表示輝度の対応関係を表す情報(テーブルや関数)が取得されてもよい。
重み算出部18は、ベース画像9の画素値の重みを算出する。具体的には、重み算出部18は、1からアルファ値3を減算することにより、ベース画像9の画素値の重みを算出する。そして、重み算出部18は、(1−アルファ値)をベース重み11として出力する。本実施例では、ベース画像9の画素位置毎にアルファ値3が設定されているため、ベース画像9の画素位置毎にベース重み11が算出される。
乗算器19は、ベース画像9の画素位置毎に、ベース画像9の画素値にベース重み11を乗算する。即ち、乗算器19は、ベース画像9の画素位置毎に、ベース画像9の画素値に(1−アルファ値)を乗算する。そして、乗算器19は、ベース重み11の乗算後のベース画像を、重みづけベース画像12として出力する。
乗算器20は、グラフィック画像8の画素位置毎に、グラフィック画像8の画素値にアルファ値3を乗算する。即ち、本実施例では、アルファ値3は、グラフィック画像8の画素値の重みを表す。そして、乗算器20は、アルファ値3の乗算後のグラフィック画像を、重みづけグラフィック画像13として出力する。
なお、重みづけグラフィック画像13は、グラフィック画像の領域にのみ画素値を有する画像であってもよいし、ベース画像9の画素位置毎に画素値を有する画像であってもよい。具体的には、重みづけグラフィック画像13として、グラフィック画像の領域において0より大きい画素値を有し、それ以外の領域において画素値が0である画像が生成されてもよい。
加算器21は、ベース画像9の画素位置毎に、重みづけベース画像12の画素値に重みづけグラフィック画像13の画素値を加算する。それにより、設定された透明度を有するグラフィック画像8をベース画像1に重畳した画像が、アルファ合成画像14として生成される。そして、加算器21は、アルファ合成画像14を出力する。
なお、グラフィック画像の領域以外の領域については、重みづけベース画像12の画素値がアルファ合成画像14の画素値として出力される。
このように、本実施例によれば、以下の式1に従ってアルファ合成画像14の画素値が算出される。式1において、“α”はアルファ値であり、“ES”はベース画像9の画素値であり、“GR”はグラフィック画像8の画素値であり、“AB”はアルファ合成画像の画素値である。また、式1において、“α×GR”は重みづけグラフィック画像13の画素値であり、“(1−α)×ES”は重みづけベース画像12の画素値である。例えば、α=0.5、GR=100、及び、ES=200の場合には、AB=150となる。

AB=α×GR+(1−α)×ES ・・・(式1)
表示用画像生成部15は、補正輝度比率情報10を用いてアルファ合成画像14のダイナミックレンジを拡大することにより、表示用画像16を生成する。具体的には、表示用画像生成部15は、アルファ合成画像14の画素毎に、アルファ合成画像14の画素値に補正輝度比率情報10の値を乗算する。それにより、表示用画像16の画素値が算出される。例えば、アルファ合成画像14の画素値が150であり、補正輝度比率情報10の値が1.5である場合には、表示用画像16の画素値として225が算出される。補正輝度比率情報10を用いることにより、表示用画像として、グラフィック画像の領域における輝度が第1の閾値以下に制限された重畳後画像である輝度制限画像が生成される。表示用画像生成部15は、表示用画像16を表示パネル17に出力する。
表示パネル17は、表示用画像16を画面に表示する。表示パネル17としては、液晶ディスプレイパネル、プラズマディスプレイパネル、有機ELディスプレイパネル、等を使用することができる。
なお、本実施例に係る画像処理装置が表示装置とは別体の装置である場合には、画像処理装置は表示パネル17を有していなくてもよい。
次に、図2のフローチャートを用いて、画素値制御部4と表示輝度算出部5の処理を説明する。図2は、画素値制御部4と表示輝度算出部5の処理の流れの一例を示すフローチャートである。
まず、表示輝度算出部5が、表示パネル17からパネル特性情報6を取得する(S1)。
次に、表示輝度算出部5が、ベース画像1、輝度比率情報2、及び、パネル特性情報6を用いて、輝度比率情報2を用いてベース画像1のダイナミックレンジを拡大したHDR画像の表示輝度を算出する(S2)。表示輝度は、ベース画像1の画素毎に算出される。表示輝度算出部5は、表示輝度の算出結果を表示輝度情報7として画素値制御部4に出力する。
本実施例では、表示輝度算出部5は、ベース画像1と輝度比率情報2に基づいて、輝度比率情報2を用いてベース画像1のダイナミックレンジを拡大したHDR画像の画素値を算出する。そして、表示輝度算出部5は、HDR画像の画素値から、当該画素値が表す輝度値を算出する。本実施例では、HDR画像の画素値がRGB値であり、以下の式2を用いて輝度値が算出される。式2において、“R”はHDR画像の画素値におけるR値(赤色の階調値)であり、“G”はHDR画像の画素値におけるG値(緑色の階調値)であり、“B”はHDR画像の画素値におけるB値(青色の階調値)である。そして、“Y”は、HDR画像の画素値が表す輝度値である。

Y=0.2126×R+0.7152×G+0.0722×B ・・・(式2)
また、本実施例では、表示輝度算出部5は、パネル特性情報6として、図3に示すテーブルを取得する。図3のテーブルは、輝度値毎に表示輝度を示す。そして、表示輝度算出部5は、算出された輝度値に対応する表示輝度を図3のテーブルから取得し、取得した表示輝度を表示輝度情報7として画素値制御部4に出力する。例えば、R=100、G=100、及び、B=100の画素については、Y=100が算出される。そのため、そのような画素については、表示輝度として40[cd/m]が取得される。
なお、全ての輝度値について表示輝度を示すテーブルがパネル特性情報6として取得されてもよいし、一部の輝度値について表示輝度を示すテーブルがパネル特性情報6として取得されてもよい。算出された輝度値に対応する表示輝度がテーブル(パネル特性情報6)に記述されていない場合には、テーブルに記述された表示輝度を用いた補間処理により、算出された輝度値に対応する表示輝度を算出すればよい。
そして、画素値制御部4が、ベース画像1の画素位置毎にアルファ値3が0よりも大きいか否かを判断する(S3)。画素値制御部4は、アルファ値3が0よりも大きい画素位置に対して、グラフィック画像の領域内の位置(グラフィック重畳位置)であると判断し、S4の処理を行う。また、画素値制御部4は、アルファ値3が0である画素位置に対してはグラフィック画像の領域外の位置(グラフィック非重畳位置)であると判断する。そして、画素値制御部4は、グラフィック非重畳位置に対してはS4の処理を行わずに、グラフィック非重畳位置の補正輝度比率情報10の値として、輝度比率情報2の値と同じ値を表示用画像生成部15に出力する。
S4では、画素値制御部4が、グラフィック重畳位置毎に、S2で算出された表示輝度が閾値(輝度閾値)より高いか否かを判断する。画素値制御部4は、S2で算出された表示輝度が輝度閾値より高いグラフィック重畳位置に対して、重畳後画像の表示輝度が第1の閾値を超える可能性が高い高輝度位置であると判断し、S5の処理を行う。また、画素値制御部4は、S2で算出された表示輝度が輝度閾値以下であるグラフィック重畳位置に対しては、重畳後画像の表示輝度が第1の閾値を超える可能性が低い低輝度位置であると判断する。そして、画素値制御部4は、低輝度位置に対してはS5の処理を行わずに、低輝度位置の補正輝度比率情報10の値として、輝度比率情報2の値と同じ値を表示用画像生成部15に出力する。
輝度閾値は、例えば、ユーザが眩しいと感じる輝度である。本実施例では、現行の表示装置(現行モニタ)が表示可能な輝度の最大値が、輝度閾値として使用される。具体的には、BT709で定められた最大輝度100[cd/m]が、輝度閾値として使用される。
なお、輝度閾値は上記値に限るものではない。輝度閾値は、メーカーによって定められた固定値であってもよいし、ユーザによって変更可能な値であってもよい。また、視環境(表示装置の設置環境)等に応じて輝度閾値が決定されてもよい。輝度閾値は第1の閾値と同じ値であってもよいし、異なる値であってもよい。
S5では、画素値制御部4が、高輝度位置毎に、輝度比率情報2の値を補正することにより、補正輝度比率情報10の値を取得する。具体的には、補正輝度比率情報10を用いてベース画像1のダイナミックレンジを拡大したHDR画像における高輝度位置の表示輝度が輝度閾値以下になるように、輝度比率情報2の値から補正輝度比率情報10の値が算出される。本実施例では、以下の式3を用いて補正輝度比率情報10の値が算出される。式3において、“HRatio”は補正輝度比率情報10の値であり、“Ratio”は輝度比率情報2の値であり、“C”は輝度閾値であり、“K”はS2で算出された表示輝度である。このように算出された補正輝度比率情報10の値を用いることにより、グラフィック画像の領域における輝度が第1の閾値以下に制限された重畳後画像である輝度制限画像を生成することができる。

HRatio=Ratio×C/K ・・・(式3)

そして、画素値制御部4は、補正輝度比率情報10(各画素位置の補正輝度比率情報10の値)を表示用画像生成部15に出力する。
次に、図4(a)〜4(e)を用いて、実施例1の画像処理の具体例を説明する。
図4(a)は、ベース画像1の一例を示す。図4(a)の例では、ベース画像1は高輝度画像部100と低輝度画像部101を有する。高輝度画像部100は、輝度比率情報2を用いてベース画像1のダイナミックレンジを拡大したHDR画像において表示輝度が輝度閾値より大きい領域である。低輝度画像部101は、輝度比率情報2を用いてベース画像1のダイナミックレンジを拡大したHDR画像において表示輝度が輝度閾値以下となる領域である。図4(a)では、輝度値が高いほど白に近くなるように、輝度値が色で表現されている。
図4(b)は、輝度比率情報2の一例を示す。図4(b)の例では、輝度比率情報2は高輝度比率部102と低輝度比率部103を有する。高輝度比率部102は、高輝度画像部100内の各画素位置の輝度比率を示す。低輝度比率部103は、低輝度画像部101内の各画素位置の輝度比率を示す。図4(b)では、輝度比率が高いほど白に近くなるように、輝度比率が色で表現されている。
図4(c)は、グラフィック画像8の一例を示す。上述したように、グラフィック画像8のbit数は、HDR画像のbit数よりも少ない。本実施例では、グラフィック画像のbit数は、8bit程度であるものとする。グラフィック画像8の画素値とベース画像1の画素値を重みづけ合成(アルファ合成)することにより、アルファ合成画像14が生成される。図4(c)では、輝度値が高いほど白に近くなるように、輝度値が色で表現されている。
図4(d)は、補正輝度比率情報10の一例を示す。図4(d)の例では、補正輝度比率情報10は高輝度比率部104と低輝度比率部105を有する。高輝度比率部104は
、高輝度画像部100内の各画素位置の輝度比率を示す。低輝度比率部105は、低輝度画像部101内の各画素位置の輝度比率を示す。図4(d)では、輝度比率が高いほど白に近くなるように、輝度比率が色で表現されている。図4(b)と図4(d)から、高輝度比率部104が示す輝度比率として、高輝度比率部102が示す輝度比率より低い値が得られていることがわかる。具体的には、補正輝度比率情報10を用いてベース画像1のダイナミックレンジを拡大したHDR画像における高輝度画像部100の表示輝度が輝度閾値以下になるような輝度比率を示す高輝度比率部104が得られている。また、図4(b)と図4(d)から、低輝度比率部105が示す輝度比率として、低輝度比率部103が示す輝度比率と同じ値が得られていることがわかる。これは、低輝度比率部103を用いてベース画像1のダイナミックレンジを拡大したHDR画像における低輝度画像部101の表示輝度が輝度閾値以下に収まるためである。
図4(e)は、表示用画像16の一例を示す。図4(e)の表示用画像16は、図4(a)のベース画像1に図4(c)のグラフィック画像を重畳したアルファ合成画像のダイナミックレンジを図4(d)の補正輝度比率情報10を用いて拡大した輝度制限画像である。図4(e)から、グラフィック画像の領域の輝度が高くなりすぎることが抑制されていることがわかる。具体的には、グラフィック画像の領域の輝度が第1の閾値以下に制限されている。より具体的には、高輝度画像部100の輝度が第1の閾値以下に制限されている。
以下、ベース画像1の高輝度画像部100が、R=400、G=400、及び、B=400の画素値を有する場合の例を説明する。なお、以下では、輝度閾値が100[cd/m]であり、高輝度比率部102が示す輝度比率が100であるものとする。
表示輝度算出部5において、ベース画像1の高輝度画像部100における画素値と高輝度比率部102が示す輝度比率とから、R=40000、G=40000、及び、B=40000の画素値が算出される。具体的には、輝度比率情報2を用いてベース画像1のダイナミックレンジを拡大したHDR画像の高輝度画像部100における画素値として、上記画素値が算出される。図3のテーブルにおいて、R=40000、G=40000、及び、B=40000の画素値から式2を用いて算出された輝度値に対応する表示輝度は、1000[cd/m]であり、輝度閾値100[cd/m]よりも高い。そのため、画素値制御部4において、補正輝度比率情報10を用いてベース画像1のダイナミックレンジを拡大したHDR画像における高輝度画像部100の表示輝度が輝度閾値以下になるように、高輝度比率部102が示す輝度比率が補正される。それにより、高輝度比率部104が得られる。具体的には、式3を用いた演算により、高輝度比率部104が示す輝度比率として0.1が算出される。輝度比率情報2を用いてベース画像1のダイナミックレンジを拡大したHDR画像の低輝度画像部101における表示輝度は輝度閾値以下である。そのため、低輝度比率部103が示す輝度比率は、補正されずに、低輝度比率部105が示す輝度比率として使用される。
このように取得された補正輝度比率情報10を用いることにより、図4(e)に示すように、高輝度画像部100の表示輝度を第1の閾値以下に低減し、グラフィック画像が眩しくなることを抑制することができる。例えば、明るい太陽の領域にグラフィック画像が重畳されることによってグラフィック画像の明るさが非常に高くなることを抑制することができる。その結果、グラフィック画像が明るすぎてグラフィック画像が見え難くなることを抑制することができる。
以上述べたように、本実施例によれば、重畳後画像を表示用画像として生成する場合に、グラフィック画像の領域における輝度が第1の閾値以下に制限された重畳後画像である輝度制限画像が生成される。それにより、表示用画像として、グラフィック画像の視認性
が向上された重畳後画像(輝度制限画像)を生成することができる。具体的には、グラフィック画像が明るすぎてグラフィック画像が見え難くなることを抑制することができる。ひいては、ユーザの作業効率を向上させることができる。
なお、本実施例では、ベース画像とグラフィック画像をアルファ合成することによりアルファ合成画像を生成し、アルファ合成画像のダイナミックレンジを補正後の差分情報を用いて拡大することにより輝度制限画像を生成する例を説明したが、これに限らない。ベース画像のダイナミックレンジを補正後の差分情報を用いて拡大することによりHDR画像が生成され、HDR画像とグラフィック画像をアルファ合成することにより輝度制限画像が生成されてもよい。
なお、本実施例では、差分情報を補正することにより、重畳後画像の輝度を制限する例を説明したが、これに限らない。例えば、グラフィック画像の透明度(例えばアルファ値)を補正することにより、重畳後画像の輝度が制限されてもよい。ベース画像を補正することにより、重畳後画像の輝度が制限されてもよい。ベース画像にグラフィック画像を重畳した画像を補正することにより、重畳後画像の輝度が制限されてもよい。HDR画像にグラフィック画像を重畳した重畳後画像の輝度を制限することにより、輝度制限画像が生成されてもよい。
なお、画像処理装置は、重畳前画像がHDR画像か否かを判断する画像判断部をさらに有していてもよい。そして、重畳前画像がHDR画像であると判断された場合であり、且つ、重畳後画像を表示用画像として生成する場合に、輝度制限画像が生成されてもよい。換言すれば、重畳前画像がHDR画像であると判断された場合であり、且つ、重畳後画像を表示用画像として生成する場合に、重畳後画像の輝度を制限する処理が行われてもよい。それ以外の場合には、重畳後画像の輝度を制限する処理が行われることなく、表示用画像が生成されてもよい。
画像判断部では、例えば、重畳前画像のビット数が8ビット以上であるか否かが判断される。そして、重畳前画像のビット数が8ビット以上である場合に、重畳前画像がHDR画像であると判断され、重畳前画像のビット数が8ビット未満である場合に、重畳前画像がHDR画像でないと判断される。
なお、重畳前画像がHDR画像であるか否かの判断方法は上記方法に限らない。
例えば、重畳前画像のデータ形式が浮動小数点形式であるか否かが判断されてもよい。そして、重畳前画像のデータ形式が浮動小数点形式である場合に、重畳前画像がHDR画像であると判断され、重畳前画像のデータ形式が浮動小数点形式でない場合に、重畳前画像がHDR画像でないと判断されてもよい。
また、重畳前画像のデータ形式がOpenEXR形式である否かが判断されてもよい。そして、重畳前画像のデータ形式がOpenEXR形式である場合に、重畳前画像がHDR画像であると判断され、重畳前画像のデータ形式がOpenEXR形式でない場合に、重畳前画像がHDR画像でないと判断されてもよい。
また、ベース画像と差分情報が画像処理装置に入力されたか否かが判断されてもよい。そして、ベース画像と差分情報が画像処理装置に入力された場合に、重畳前画像がHDR画像であると判断され、ベース画像と差分情報が画像処理装置に入力されなかった場合に、重畳前画像がHDR画像でないと判断されてもよい。
なお、本実施例では重畳前画像の表示輝度を推定したが、重畳後画像の表示輝度が推定されてもよい。そして、重畳後画像の表示輝度に基づいて輝度比率情報が補正されてもよい。
なお、本実施例では、表示用画像として輝度制限画像を生成する例を説明したが、これに限らない。例えば、本実施例に係る表示装置は図19に示す構成を有していてもよい。図19において、図1と同じ機能部には同じ符号を付し、その説明は省略する。
表示部191は、液晶パネル192とバックライト193を有する。
バックライト193は、液晶パネル192の背面に光を照射する発光部である。
液晶パネル192は、表示用画像に基づく透過率でバックライト192からの光を透過することにより、画面に画像を表示する。
なお、バックライト193は、領域毎に発光輝度を変更可能な構成を有していてもよいし、そうでなくてもよい。
表示制御部194は、表示用画像を生成する機能と、バックライト193の発光輝度を制御する機能と、を有する。
なお、表示用画像を生成する処理と、バックライト193の発光輝度を制御する処理と、は互いに異なる機能部によって実行されてもよい。
上記構成を有する表示装置の場合、バックライト193の発光輝度を変更することによっても表示輝度を変更することができる。そのため、重畳後画像を表示用画像として生成する際に、輝度制限画像を表示用画像として生成する処理と、バックライト193の発光輝度を制限する処理と、の少なくとも一方が行われてもよい。例えば、アルファ合成画像14と輝度比率情報2を用いて表示用画像が生成され、補正輝度比率情報10を用いてバックライト193の発光輝度が制御されてもよい。それにより、グラフィック画像の領域とその周辺の領域との少なくともいずれか一方の領域における表示輝度を閾値以下に制限することができる。
なお、図19には、透過型の液晶表示装置の例を示したが、本実施例に係る表示装置はこれに限らない。本実施例に係る表示装置は、発光部からの光を変調することで画面上に画像を表示する表示装置であればよい。例えば、本実施例に係る表示装置は、反射型の液晶表示装置であってもよい。また、本実施例に係る表示装置は、液晶素子の代わりにMEMS(Micro Electro Mechanical System)シャッターを用いたMEMSシャッター方式ディスプレイであってもよい。
<実施例2>
以下、本発明の実施例2に係る画像処理装置及び画像処理方法について説明する。
実施例1では、差分情報が輝度比率情報である場合の例を説明した。本実施例では、差分情報がトーンマップである場合の例を説明する。トーンマップは、ダイナミックレンジを拡大する前の階調値と、ダイナミックレンジを拡大した後の階調値と、の対応関係を表す情報(テーブルや関数)である。差分情報であるトーンマップは、HDR画像(重畳前画像)をベース画像に変換する変換処理で使用するトーンマップの入力値と出力値を入れ替えたものであるため、逆トーンマップと呼ぶこともできる。
まず、図5を用いて、本実施例に係る表示装置の各機能部について説明する。
なお、実施例1と同じ機能部には同じ符号を付し、その説明は省略する。
本実施例に係る表示装置には、ベース画像1、逆トーンマップ201、アルファ値3、及び、グラフィック画像8が入力される。
上述したように、逆トーンマップ201は、ダイナミックレンジを拡大する前の階調値と、ダイナミックレンジを拡大した後の階調値と、の対応関係を表す情報(テーブルや関数)である。逆トーンマップ201を用いてベース画像1の階調値を変換することにより、ベース画像1のダイナミックレンジを拡大し、ベース画像1をHDR画像(重畳前画像)に変換することができる。
なお、逆トーンマップ201は、画像コンテンツ毎に用意された情報であってもよいし、フレーム毎に用意された情報であってもよいし、シーン毎に用意された情報であってもよい。
なお、画素間で共通の1つの逆トーンマップ201が入力されてもよいし、画素毎の逆トーンマップ201が入力されてもよい。領域毎の逆トーンマップ201が入力されてもよい。
本実施例では、重み算出部18、乗算器19,20、及び、加算器21を用いて、実施例1と同様にアルファ合成が行われる。但し、本実施例と実施例1とでは、乗算器19の処理が若干異なる。具体的には、実施例1の乗算器19では、画素値制御部4から出力されたベース画像9の画素値にベース重み11を乗算することにより、重みづけベース画像12の画素値が算出される。本実施例の乗算器19では、表示装置に入力されたベース画像1の画素値にベース重み11を乗算することにより、重みづけベース画像12の画素値が算出される。
表示輝度算出部209は、アルファ合成画像14と逆トーンマップ201を取得する。また、表示輝度算出部209は、表示パネル17からパネル特性情報6を取得する。そして、表示輝度算出部209は、アルファ合成画像14、逆トーンマップ201、及び、パネル特性情報6に基づいて、逆トーンマップ201を用いてアルファ合成画像14のダイナミックレンジを拡大したHDR画像の表示輝度(推定値)を算出する。逆トーンマップ201を用いてアルファ合成画像14のダイナミックレンジを拡大したHDR画像は、HDR画像である重畳前画像にグラフィック画像8を重畳した重畳後画像である。その後、表示輝度算出部209は、表示輝度の算出結果を表示輝度情報211として出力する。
画素値制御部212は、アルファ値3、逆トーンマップ201、及び、表示輝度情報211を取得する。そして、画素値制御部212は、アルファ値3と表示輝度情報211に基づいて逆トーンマップ201を補正する。本実施例でも、実施例1と同様に、グラフィック画像の領域における表示輝度が第1の閾値以下に制限された重畳後画像が得られるように、逆トーンマップ201が補正される。その後、画素値制御部212は、補正後の逆トーンマップを補正逆トーンマップ213として出力する。本実施例では、複数の逆トーンマップが予め用意されており、複数の逆トーンマップのうちの1つが補正逆トーンマップ213として選択される。例えば、グラフィック画像の領域における表示輝度(表示輝度算出部209で算出される表示輝度)を輝度閾値以下にすることのできる逆トーンマップが、補正逆トーンマップ213として選択される。
画素値制御部212は、アルファ値3が0よりも大きい画素について、グラフィック画像の領域の画素であると判断し、表示輝度情報211に基づいて逆トーンマップ201を補正した逆トーンマップを補正逆トーンマップ213として出力する。また、画素値制御部4は、アルファ値3=0の画素については、グラフィック画像の領域の画素でないと判断し、逆トーンマップ201を補正逆トーンマップ213として出力する。
なお、本実施例では、複数の逆トーンマップのうちの1つを補正逆トーンマップ213として選択する例を説明するが、逆トーンマップ201の値を調整することによって補正逆トーンマップ213が生成されてもよい。
なお、本実施例では、画素毎の補正逆トーンマップ213が生成される例を説明するが、画素間で共通の1つの補正逆トーンマップ213が生成されてもよい。
表示用画像生成部214は、補正逆トーンマップ213を用いてアルファ合成画像14のダイナミックレンジを拡大することにより、表示用画像16を生成する。具体的には、表示用画像生成部214は、アルファ合成画像14の画素毎に、補正逆トーンマップ21
3を用いてアルファ合成画像14の画素値を変換する。それにより、表示用画像16の画素値が得られる。補正逆トーンマップ213を用いることにより、表示用画像として、グラフィック画像の領域における輝度が第1の閾値以下に制限された重畳後画像である輝度制限画像が生成される。表示用画像生成部214は、表示用画像16を表示パネル17に出力する。
次に、図6のフローチャートを用いて、表示輝度算出部209と画素値制御部212の処理を説明する。図6は、表示輝度算出部209と画素値制御部212の処理の流れの一例を示すフローチャートである。
まず、表示輝度算出部209が、表示パネル17からパネル特性情報6を取得する(S101)。
次に、表示輝度算出部209が、アルファ合成画像208、逆トーンマップ201、及び、パネル特性情報6を用いて、逆トーンマップ201を用いてアルファ合成画像208のダイナミックレンジを拡大したHDR画像の表示輝度を算出する(S102)。本実施例でも、実施例1と同様に、HDR画像の画素値が算出され、算出された画素値から輝度値が算出され、算出された輝度値に対応する表示輝度が取得される。
そして、画素値制御部212が、ベース画像1の画素位置毎にアルファ値3が0よりも大きいか否かを判断する(S103)。画素値制御部212は、アルファ値3が0よりも大きい画素位置に対して、グラフィック重畳位置であると判断し、S104の処理を行う。また、画素値制御部212は、アルファ値3が0である画素位置に対しては、グラフィック非重畳位置であると判断し、S106の処理を行う。
S104では、画素値制御部212が、グラフィック重畳位置毎に、S102で算出された表示輝度が輝度閾値より高いか否かを判断する。画素値制御部212は、S102で算出された表示輝度が輝度閾値より高いグラフィック重畳位置に対して、重畳後画像の表示輝度が第1の閾値を超える高輝度位置であると判断し、S105の処理を行う。また、画素値制御部212は、S102で算出された表示輝度が輝度閾値以下であるグラフィック重畳位置に対しては、重畳後画像の表示輝度が第1の閾値を超えない低輝度位置であると判断し、S106の処理を行う。
S105では、画素値制御部212が、高輝度位置毎に、逆トーンマップ201を補正することにより、補正逆トーンマップ213を取得する。具体的には、高輝度位置の補正逆トーンマップ213として、第2の逆トーンマップを選択する。そして、画素値制御部212は、選択した補正逆トーンマップ213を表示用画像生成部214に出力する。
S106では、画素値制御部212が、低輝度位置とグラフィック非重畳位置について、補正逆トーンマップ213として逆トーンマップ201(第1の逆トーンマップ)を選択する。そして、表示用画像生成部15に出力する。そして、そして、画素値制御部212は、選択した補正逆トーンマップ213を表示用画像生成部214に出力する。
次に、図7(a),7(b)を用いて、逆トーンマップの具体例をする。
図7(a)は、第1の逆トーンマップの一例を示し、図7(b)は、第2の逆トーンマップの一例を示す。図7(a),7(b)の横軸は、ダイナミックレンジを拡大する前の階調値を示し、縦軸は、ダイナミックレンジを拡大した後の階調値を示す。以後、横軸の階調値を“入力値”と記載し、縦軸の階調値を“出力値”と記載する。
本実施例では、第1の逆トーンマップは、低輝度位置とグラフィック非重畳位置に対して使用される。そして、第2の逆トーンマップは、高輝度位置に対して使用される。
図7(a),7(b)から、第2の逆トーンマップでは、入力値の範囲に対して割り当てられた出力値の範囲が、第1の逆トーンマップよりも狭いことがわかる。具体的には、第1の逆トーンマップでは、入力値0〜255の範囲に対して出力値5〜1000が割り当てられているのに対し、第2の逆トーンマップでは、入力値0〜255の範囲に対して出力値5〜255が割り当てられている。即ち、第2の逆トーンマップでは、出力値の最大値が255に制限されている。
このような第2の逆トーンマップを用いることにより、グラフィック画像が眩しくなることを抑制することができる。
以上述べたように、本実施例によれば、重畳後画像を表示用画像として生成する場合に、逆トーンマップが補正され、グラフィック画像の領域における輝度が第1の閾値以下に制限された重畳後画像である輝度制限画像が生成される。それにより、表示用画像として、グラフィック画像の視認性が向上された重畳後画像(輝度制限画像)を生成することができる。具体的には、グラフィック画像が明るすぎてグラフィック画像が見え難くなることを抑制することができる。
なお、本実施例では重畳後画像の表示輝度を推定したが、実施例1と同様に重畳前画像の表示輝度が推定されてもよい。そして、重畳前画像の表示輝度に基づいて逆トーンマップが補正されてもよい。
<実施例3>
以下、本発明の実施例3に係る画像処理装置及び画像処理方法について説明する。
実施例1,2では、表示装置で静止画が表示される場合の例を説明したが、本実施例では、表示装置で動画が表示される場合の例を説明する。
まず、本実施例に係る表示装置の各機能部について説明する。本実施例に係る表示装置の構成は実施例1(図1)と同じである。但し、本実施例では、動画を表示するために、フレーム毎に表示用画像が生成される。
本実施例に係る表示装置には、フレーム毎に、ベース画像1、輝度比率情報2、及び、グラフィック画像8が入力される。本実施例では、動画のフレームレートが60fpsであるものとする。そのため、本実施例では、1秒間に、60枚のベース画像1、60個の輝度比率情報2、及び、60枚のグラフィック画像8が順次入力される。
表示輝度算出部5は、フレーム毎(画像毎)に表示輝度を算出する。例えば、1秒間に60枚の画像について表示輝度を算出する。表示輝度の算出方法は実施例1と同じである。
画素値制御部4は、フレーム毎に輝度比率情報2を補正する。例えば、1秒間に60枚の画像について輝度比率情報2を補正する。輝度比率情報の補正方法は実施例1と同じである。
重み算出部18、乗算器19,20、及び、加算器21により、フレーム毎に、アルファ合成画像14が生成される。
表示用画像生成部15は、フレーム毎に表示用画像を生成する。
表示パネル17は、フレーム毎に表示用画像を表示する。
次に、図8を用いて、本実施例に係るベース画像1、輝度比率情報2、及び、グラフィック画像8の具体例を説明する。図8は、本実施例に係るベース画像1、輝度比率情報2、及び、グラフィック画像8の一例を示す。
図8において、ベース画像1−1は1番目のフレームのベース画像であり、ベース画像1−2は2番目のフレームのベース画像であり、ベース画像1−3は3番目のフレームのベース画像である。フレームレートが60fpsであるとすると、ベース画像1−1が入
力されてから1/60秒後にベース画像1−2が入力され、ベース画像1−2が入力されてから1/60秒後にベース画像1−3が入力される。
輝度比率情報2−1は1番目のフレームの輝度比率情報であり、輝度比率情報2−2は2番目のフレームの輝度比率情報であり、輝度比率情報2−3は3番目のフレームの輝度比率情報である。
グラフィック画像8−1は1番目のフレームのグラフィック画像であり、グラフィック画像8−2は2番目のフレームのグラフィック画像であり、グラフィック画像8−3は3番目のフレームのグラフィック画像である。
輝度比率情報2とグラフィック画像8は、ベース画像1と同期して入力される。即ち、ベース画像1−1と同じタイミングで輝度比率情報2−1とグラフィック画像8−1が入力され、ベース画像1−2と同じタイミングで輝度比率情報2−2とグラフィック画像8−2が入力される。そして、ベース画像1−3と同じタイミングで輝度比率情報2−3とグラフィック画像8−3が入力される。
上述した3フレーム分の情報が順次入力される場合の処理について説明する。
まず、ベース画像1−1、輝度比率情報2−1、及び、グラフィック画像8−1を用いて、表示用画像が生成される。具体的には、表示輝度算出部5が、ベース画像1−1と輝度比率情報2−1を用いて表示輝度を算出する。次に、画素値制御部4が、表示輝度算出部5で算出された表示輝度に基づいて輝度比率情報2−1を補正することにより、補正輝度比率情報を生成する。そして、ベース画像1−1にグラフィック画像8−1を重畳したアルファ合成画像が生成される。次に、上記生成されたアルファ合成画像のダイナミックレンジを画素値制御部4で生成された補正輝度比率情報を用いて拡大することにより、表示用画像が生成される。
次に、ベース画像1−2、輝度比率情報2−2、及び、グラフィック画像8−2を用いて、表示用画像が生成される。表示用画像の生成方法は上述したとおりである。
そして、ベース画像1−3、輝度比率情報2−3、及び、グラフィック画像8−3を用いて、表示用画像が生成される。
以後、フレーム毎に処理が行われる。
次に、図9を用いて、本実施例に係る表示用画像16の具体例を説明する。図9は、本実施例に係る表示用画像16の一例を示す。
図9において、表示用画像16−1は、ベース画像1−1、輝度比率情報2−1、及び、グラフィック画像8−1を用いて生成された表示用画像である。表示用画像16−2は、ベース画像1−2、輝度比率情報2−2、及び、グラフィック画像8−2を用いて生成された表示用画像である。表示用画像16−3は、ベース画像1−3、輝度比率情報2−3、及び、グラフィック画像8−3を用いて生成された表示用画像である。
表示用画像16−1の高輝度領域610は、グラフィック画像の領域611の外側の領域である。そのため、高輝度領域610の輝度は制限されずに、第1の閾値より高い値となっている。
表示用画像16−2の高輝度領域612は、グラフィック画像の領域613の外側の領域である。そのため、高輝度領域612の輝度は第1の閾値以下に制限されている。それにより、グラフィック画像が眩しくなることが抑制されている。
表示用画像16−3の高輝度領域614は、グラフィック画像の領域615の外側の領域である。そのため、高輝度領域614の輝度は制限されずに、第1の閾値より高い値となっている。
以上述べたように、本実施例によれば、フレーム毎に処理が行われる。それにより、動画像を表示する場合にも、実施例1と同様の効果を得ることができる。
なお、本実施例では、実施例1で述べた構成を有する表示装置で動画が表示される例を
説明したが、これに限らない。例えば、実施例2で述べた構成を有する表示装置で動画が表示されてもよい。その場合にも、フレーム毎に処理が行われればよい。
<実施例4>
以下、本発明の実施例4に係る画像処理装置及び画像処理方法について説明する。
実施例1〜3では、ベース画像と差分情報が表示装置に入力される例を説明したが、本実施例では、重畳前画像であるHDR画像が表示装置に入力される例を説明する。
まず、図10を用いて、本実施例に係る表示装置の各機能部について説明する。図10は、本実施例に係る表示装置の機能構成の一例を示すブロック図である。
なお、実施例1(図1)と同じ機能部には同じ符号を付し、その説明は省略する。
本実施例に係る表示装置には、重畳前画像700、アルファ値3、及び、グラフィック画像8が入力される。重畳前画像700はHDR画像である。重畳前画像700は、例えば、ACES規格の画像であり、画素値が16bitの浮動小数点形式で表現された画像である。
表示輝度算出部703は、重畳前画像700を取得する。また、表示輝度算出部703は、表示パネル17からパネル特性情報6を取得する。そして、表示輝度算出部703は、重畳前画像700とパネル特性情報6に基づいて、重畳前画像700の表示輝度を算出する。表示輝度の算出方法は実施例1と同じである。その後、表示輝度算出部703は、表示輝度の算出結果を、表示輝度情報705として画素値制御部706に出力する。
画素値制御部706は、アルファ値3、重畳前画像700、及び、表示輝度情報705を取得する。そして、画素値制御部706は、アルファ値3と表示輝度情報705に基づいて、重畳前画像700を補正する。具体的には、グラフィック画像の領域における表示輝度が第1の閾値以下に制限された重畳後画像が得られるように、重畳前画像700の階調値が補正される。例えば、グラフィック画像の領域における表示輝度(表示輝度算出部703で算出される表示輝度)が輝度閾値以下となる階調値に、重畳前画像700の階調値が補正される。その後、画素値制御部706は、補正後の重畳前画像を補正重畳前画像707として出力する。
画素値制御部706は、アルファ値3が0よりも大きい画素について、グラフィック画像の領域の画素であると判断し、表示輝度情報705に基づいて重畳前画像700の画素値を補正した画素値を、補正重畳前画像707の画素値として出力する。また、画素値制御部706は、アルファ値3が0である画素については、グラフィック画像の領域の画素でないと判断し、重畳前画像700の画素値を補正重畳前画像707の画素値として出力する。
表示輝度算出部703と画素値制御部706の処理が行われた後、重み算出部18、乗算器19,20、及び、加算器21を用いて、実施例1と同様にアルファ合成が行われる。その結果、乗算器19から、補正重畳前画像707の画素値にベース重み11を乗算した重みづけ重畳前画像710が出力される。加算器21では、アルファ合成画像として輝度制限画像が生成される。そして、加算器21からは、表示用画像16としてアルファ合成画像が出力される。
以上述べたように、本実施例によれば、差分情報を補正することにより重畳前画像の階調値を間接的に補正するのではなく、重畳前画像の階調値を直接的に補正することにより、重畳後画像の輝度が制限される。その結果、重畳前画像が装置に入力された場合においても、表示用画像として、グラフィック画像の視認性が向上された重畳後画像(輝度制限画像)を生成することができる。
<実施例5>
以下、本発明の実施例5に係る画像処理装置及び画像処理方法について説明する。
実施例1〜4では、画像処理装置が表示装置に設けられている場合の例を説明した。本実施例では、画像処理装置が表示装置とは別体の装置である場合の例を説明する。
なお、本実施例では、撮像装置に画像処理装置が設けられている場合の例を説明するが、画像処理装置は撮像装置とは異なる装置に設けられていてもよい。例えば、画像処理装置は、記録媒体に記録された画像を再生する画像再生装置に設けられていてもよい。
まず、図11を用いて、本実施例に係る画像表示システムについて説明する。
本実施例に係る画像表示システムは、撮像装置800と表示装置801を有する。撮像装置800と表示装置801は、有線接続または無線接続により、互いに通信可能に接続されている。図11では、通信ケーブル815を用いて撮像装置800と表示装置801が互いに接続されている。
撮像装置800は、デジタルカメラ、デジタルカムコーダ、等の撮像素子を内蔵しており、撮影した画像を再生し、再生した画像を表示装置801に出力する。また、撮像装置800は、再生した画像にグラフィックス画像をアルファ合成することができる。
表示装置801は、撮像装置800から出力された画像を表示する。
撮像装置800の各機能部について説明する。
撮像レンズ802は、撮像素子803に被写体像を結像する光学レンズである。
撮像素子803は、結像された被写体像をアナログデータ(アナログ信号)に変換し、得られたアナログデータを出力する光電変換素子である。
A/D変換部804は、撮像素子803から出力されたアナログデータをデジタルデータ(デジタル信号)に変換する回路である。
メモリ制御部805は、A/D変換部804、圧縮伸長部807、メモリ部808、画像再生部809、及び、合成部813との間でデータの送受信を行う。例えば、メモリ制御部805は、A/D変換部804から出力されたデジタルデータを、メモリ部808に書き込む。A/D変換部804から出力されたデジタルデータは、撮影された画像を表す画像データである。
メモリ部808は、画像データを記憶可能な記録媒体である。メモリ部808としては、光ディスク、磁気ディスク、半導体メモリ、等を使用することができる。
システム制御部806は、撮像装置800の各機能部を統括的に制御する回路である。
圧縮伸長部807は、画像データに離散コサイン変換(DCT)等の圧縮/伸長(解凍)処理を施すことにより、画像データのデータ量を削減したり、画像データのデータ量を元のデータ量に復元したりする。例えば、メモリ制御部805は、メモリ部808から画像データを読み出し、読み出した画像データに対する圧縮/伸長処理を圧縮伸長部807に行わせ、圧縮/伸長処理後の画像データをメモリ部808に書き込む。
画像再生部809は、メモリ制御部805を介して、メモリ部808から画像データ(HDR画像;重畳前画像)を読み出す。そして、画像再生部809は、読み出した重畳前画像を出力する。
表示輝度算出部811は、画像再生部809から重畳前画像を取得し、表示装置801からパネル特性情報812を取得する。パネル特性情報812は、通信I/F部814を介して取得される。そして、表示輝度算出部811は、パネル特性情報812に基づいて重畳前画像の表示輝度(推定値)を算出する。表示輝度の算出方法は実施例1と同じである。その後、表示輝度算出部811は、表示輝度の算出結果を表す表示輝度情報を、画素値制御部810に出力する。
画素値制御部810は、画像再生部809から重畳前画像を取得し、表示輝度算出部811から表示輝度情報を取得する。そして、画素値制御部810は、表示輝度情報に基づいて重畳前画像を補正することにより、補正重畳前画像を生成する。本実施例では、グラフィック画像の領域が予め定められており、実施例4と同様の方法で補正重畳前画像が生成される。その後、画素値制御部810は、補正重畳前画像を合成部813に出力する。
合成部813は、メモリ制御部805を介して、メモリ部808から画像データ(グラフィック画像)を読み出す。そして、合成部813は、補正重畳前画像とグラフィック画像をアルファ合成する。補正重畳前画像を使用することにより、アルファ合成後の画像として輝度制限画像が得られる。合成部813は、生成した輝度制限画像を出力する。
通信I/F部814は、表示装置801の通信I/F部820と通信ケーブル815を介して接続されている。通信I/F部814は、表示装置801からパネル特性情報812を取得し、取得したパネル特性情報812を表示輝度算出部811に出力する。また、通信I/F部814は、合成部813から輝度制限画像を取得し、取得した輝度制限画像を表示用画像として表示装置801に出力する。
表示装置801の各機能部について説明する。
通信I/F部820は、パネル特性情報812を通信I/F部814に出力する。また、通信I/F部820は、通信I/F部814から輝度制限画像を取得し、取得した輝度制限画像を出力する。
システム制御部821は、表示装置801の各機能部を統括的に制御する回路である。
画像出力部822は、通信I/F部820から輝度制限画像を取得し、取得した輝度制限画像を表示パネル823の動作タイミングに合わせて出力する。
表示パネル823は、画像出力部822から出力された輝度制限画像を表示する。
以上述べたように、本実施例によれば、表示装置と別体の装置によって、表示用画像として、グラフィック画像の視認性が向上された重畳後画像(輝度制限画像)を生成することができる。それにより、表示装置のユーザにグラフィック画像が見やすい画像を見せることができる。
なお、本実施例では、撮像によってHDR画像が得られる場合の例を説明したが、撮像によってベース画像と差分画像が得られてもよい。その場合には、実施例1〜3と同様の方法により、輝度の制限が行われればよい。
なお、実施例1〜5では、グラフィック画像の画素のうち、輝度が第1の閾値以上になってしまう画素の輝度を低減する例を説明したが、これに限らない。例えば、グラフィック画像全体の輝度が低減されてもよいし、重畳後画像全体の輝度が低減されてもよい。但し、輝度を低減する領域を画像の一部に限定すれば、それ以外の領域の表示画質を維持することができる。
<実施例6>
以下、本発明の実施例6に係る画像処理装置及び画像処理方法について説明する。
実施例1〜5では、グラフィック画像の領域の輝度が制限された輝度制限画像を生成する例を説明した。本実施例では、グラフィック画像の周辺の領域の輝度が制限された輝度制限画像を生成する例を説明する。
なお、本実施例では、グラフィック画像の透明度が0である場合、即ち、グラフィック画像が背景を透過しない画像である場合の例を説明するが、グラフィック画像は背景を透過する画像であってもよい。
まず、図12を用いて、本実施例に係る画像処理装置の各機能部について説明する。図12は、本実施例に係る画像処理装置120の機能構成の一例を示すブロック図である。
図12に示すように、画像処理装置120は、表示用画像生成部121、記憶部122、操作部123、出力部128、等を有する。表示用画像生成部121は、描画部124、特徴量取得部125、補正情報生成部126、輝度補正部127、等を有する。
画像処理装置120は、フレーム毎に表示用画像を生成する。そして、画像処理装置に接続された不図示の表示装置では、フレーム毎に表示用画像が表示される。
表示用画像生成部121は表示用画像を生成する。表示用画像生成部121は、例えば、マイクロコンピュータ−等の演算装置を用いて実現される。表示用画像生成部121は、描画部124、特徴量取得部125、補正情報生成部126、輝度補正部127、等を有する。これらの機能部は、ハードウェアによって実現されてもよいし、ソフトウェアによって実現されてもよい。
記憶部122には、複数の画像が記録されている。記憶部122は、描画部124からの要求に応じて、複数の画像のうちの1つを描画部124に出力する。本実施例では、HDR画像が重畳前画像として描画部124に出力されるものとする。記憶部122としては、磁気ディスク、光ディスク、半導体メモリ、等を用いることができる。
操作部123は、ユーザ操作を受け付けるユーザインタフェースである。操作部123は、ユーザ操作が行われた場合に、当該ユーザ操作を表す操作情報を描画部124に出力する。操作部123としては、マウス、キーボード、等を用いることができる。
描画部124は、記憶部122から送信された重畳前画像をデコードする。また、描画部124は、操作部123から出力された操作情報に基づいて、重畳前画像上にグラフィック画像を描画する。換言すれば、描画部124は、重畳前画像にグラフィック画像を重畳する。グラフィック画像は、例えば、描画部124内に予め記録されている。そして、描画部124は、重畳前画像にグラフィック画像が重畳された重畳後画像を特徴量取得部125と輝度補正部127に出力する。また、描画部124は、グラフィック画像の領域を示すグラフィック領域情報を補正情報生成部126に出力する。グラフィック領域情報は、グラフィック画像の位置、サイズ、形状、等を表す。
なお、重畳前画像にグラフィック画像を重畳しない場合には、描画部124は、重畳前画像を輝度補正部127に出力し、グラフィック領域情報の出力は行わない。
特徴量取得部125は、重畳後画像を描画部124から取得し、特徴量を取得する領域(取得領域)を示す取得領域情報を補正情報生成部126から取得する。そして、特徴量取得部125は、取得領域における重畳後画像の特徴量を取得し、取得した特徴量を補正情報生成部126に出力する。
なお、本実施例では、輝度値のヒストグラムが特徴量として取得される例を説明するが、特徴量はこれに限らない。特徴量は明るさを表す情報であればよい。例えば、画素値のヒストグラム、画素値の代表値、輝度値の代表値、等であってもよい。代表値は、最大値、最小値、最頻値、中間値、平均値、等である。
補正情報生成部126は、グラフィック領域情報を描画部124から取得し、画像処理装置120に接続された表示装置(不図示)からパネル情報を取得する。パネル情報は、対応情報、パネルサイズ、最大表示輝度、等を含む。対応情報は、表示装置がHDR画像の表示に対応しているか否かを表す。パネルサイズは画面のサイズである。最大表示輝度は、表示装置が表示可能な輝度の最大値である。
そして、補正情報生成部126は、グラフィック領域情報とパネル情報に基づいて取得領域を決定し、決定した取得領域を示す取得領域情報を特徴量取得部125に出力する。本実施例では、グラフィック画像の周辺の領域が取得領域として決定される。
また、補正情報生成部126は、特徴量を特徴量取得部125から取得する。
そして、補正情報生成部126は、重畳後画像のどの位置の輝度をどの程度低減するかを示す補正情報を生成し、生成した補正情報を輝度補正部127に出力する。
輝度補正部127は、重畳後画像を描画部124から取得し、補正情報を補正情報生成部126から取得する。そして、輝度補正部127は、補正情報に基づいて重畳後画像を補正することにより、輝度制限画像を生成する。その後、輝度補正部127は、生成した輝度制限画像を表示用画像として出力部128に出力する。
なお、重畳前画像にグラフィック画像を重畳しない場合には、輝度補正部127は、描画部124から出力された重畳前画像を表示用画像として出力部128に出力する。
出力部128は、輝度補正部127から出力された表示用画像を、画像処理装置120の外部に出力する。例えば、出力部128は、表示用画像を、画像処理装置120に接続された表示装置に出力する。出力部128は、例えば、画像データを出力する出力端子とその処理回路を有する。出力端子としては、DVI(Digital Visual Interface)、HDMI(High−Definition Multimedia Interface)(登録商標)などの通信規格の端子を用いることができる。
次に、図13を用いて、画像処理装置120の処理手順について説明する。図13は、画像処理装置120の処理の流れの一例を示すフローチャートである。
まず、描画部124が、記憶部122から出力された重畳前画像をデコードし、操作部123から出力された操作情報に基づいてグラフィック画像を描画する(S201)。それにより、重畳前画像にグラフィック画像が重畳された重畳後画像が生成される。
なお、操作情報に依ってはグラフィック画像の描画が行われないこともある。
次に、補正情報生成部126が、グラフィック領域情報に基づいて、描画部124から出力された画像にグラフィック画像が存在するか否かを判断する(S202)。上述したように、本実施例では、グラフィック画像が描画されない場合には、描画部124からグラフィック領域情報は出力されない。そのため、補正情報生成部126は、描画部124からグラフィック領域情報が出力された場合に、グラフィック画像が存在すると判断し、描画部124からグラフィック領域情報が出力されなかった場合に、グラフィック画像が存在しないと判断する。グラフィック画像が存在する場合にはS203に処理が進められ、グラフィック画像が存在しない場合にはS205に処理が進められる。
なお、グラフィック画像が描画されない場合に、描画部124からグラフィック画像が存在しないことを示すグラフィック領域情報が出力されてもよい。その場合には、グラフィック領域情報の内容を確認することで、上記判断を行うことができる。
S203では、補正情報生成部126が、グラフィック領域情報に基づいて、第4の閾値以上の時間、グラフィック画像に対するユーザ操作(GUI操作)が行われていないか否かを判断する。例えば、補正情報生成部126は、グラフィック領域情報を定期的に取得し、グラフィック領域情報の時間的な変化に基づいて、上記の判断を行う。第4の閾値以上の時間、グラフィック画像に対するユーザ操作が行われていない場合には、S205に処理が進められる。第4の閾値の時間にグラフィック画像に対するユーザ操作が行われた場合には、S204に処理が進められる。
なお、第4の閾値は、メーカーによって予め定められた固定値であってもよいし、ユーザが変更可能な値であってもよい。
S204では、補正情報生成部126が、グラフィック領域情報に基づいて、グラフィック画像の領域が第5の閾値より速い速度で変化しているか否かを判断する。換言すれば、グラフィック画像の領域の変化速度(GUI速度)が第5の閾値より速いか否かが判断
される。例えば、補正情報生成部126は、グラフィック領域情報を定期的に取得し、グラフィック領域情報の時間的な変化の度合いに基づいて、上記の判断を行う。グラフィック画像の領域が第5の閾値より速い速度で変化している場合には、S205に処理が進められる。グラフィック画像の領域が第5の閾値以下の速度で変化している場合には、S206に処理が進められる。
なお、第5の閾値は、メーカーによって予め定められた固定値であってもよいし、ユーザが変更可能な値であってもよい。
グラフィック画像が長時間操作されなかった場合、表示された表示用画像におけるグラフィック画像にユーザが注目していない可能性が高い。また、グラフィック画像の領域の変化速度が高い場合、表示された表示用画像におけるグラフィック画像にユーザが注目していない可能性が高い。
そのため、S205では、補正情報生成部126が、ユーザがグラフィック画像に注目していないと判断する。そして、補正情報生成部126は、重畳後画像を補正しないことを示す補正情報(非補正情報)を輝度補正部127に出力する。輝度補正部127は、補正情報生成部126から非補正情報が出力された場合に、輝度制限画像を生成する処理を省略し、描画部124から出力された重畳後画像を表示用画像として出力部128に出力する。その後、S208に処理が進められる。S202でグラフィック画像が存在しないと判断された場合にも、同様の処理が行われる。
S206では、補正情報生成部126が、ユーザがグラフィック画像に注目していると判断する。そして、S207に処理が進められる。
なお、重畳前画像上に複数のグラフィック画像が描画されている場合には、描画されたグラフィック画像毎に、S203とS204の処理が行われる。そして、複数のグラフィック画像の中にユーザが注目しているグラフィック画像が存在する場合には、S206に処理が進められ、複数のグラフィック画像の中にユーザが注目しているグラフィック画像が存在しない場合には、S205に処理が進められる。
なお、S203とS204の処理の一方または両方が省略されてもよい。S203とS204の処理とは異なる方法で、ユーザがグラフィック画像に注目しているか否かが判断されてもよい。例えば、カメラを用いてユーザの視線を検出し、視線の検出結果とグラフィック領域情報とに基づいて、ユーザがグラフィック画像に注目しているか否かが判断されてもよい。
S207では、輝度補正処理が行われ、輝度補正部127から出力部128に表示用画像として輝度制限画像が出力される。そして、S208に処理が進められる。輝度補正処理の詳細については、後述する。
S208では、出力部128が、輝度補正部127から出力された表示用画像を、画像処理装置120の外部に出力する。
次に、図14を用いて、本実施例に係る輝度補正処理(S207の処理)の手順について説明する。図14は、本実施例に係る輝度補正処理の流れの一例を示すフローチャートである。
まず、補正情報生成部126が、描画部124から出力されたグラフィック領域情報からグラフィック領域を設定する(S301)。グラフィック領域は、グラフィック画像の領域を示す。
なお、描画部124で複数のグラフィック画像が描画された場合には、ユーザが注目していると判断されたグラフィック画像に関するグラフィック領域のみが設定される。
次に、補正情報生成部126が、S301で設定されたグラフィック領域の周辺の領域を周辺領域(取得領域)として設定する(S302)。
なお、本実施例では周辺領域にグラフィック領域が含まれない場合の例を説明するが、グラフィック領域を含む領域が周辺領域として設定されてもよい。
図15を用いて、S301とS302の処理の具体例について説明する。
図15において、矢印の画像(マウスカーソル)がグラフィック画像である。S301では、グラフィック画像を囲む最小の矩形領域がグラフィック領域として設定される。
S302では、グラフィック領域を拡張した拡張領域からグラフィック領域を除いた領域が、周辺領域として設定される。拡張領域は矩形領域である。拡張領域の上辺は、グラフィック領域の上辺から上側にy画素だけ離れており、拡張領域の下辺は、グラフィック領域の下辺から下側にy画素だけ離れている。拡張領域の右辺は、グラフィック領域の右辺から右側にx画素だけ離れており、拡張領域の左辺は、グラフィック領域の左辺から左側にx画素だけ離れている。xとyの値は、パネル情報に含まれるパネルサイズに基づいて決定される。パネルサイズは、例えば、画面のサイズを“インチ”や“cm”で表した情報である。
周辺領域は、ユーザがグラフィック画像に注目した際に、ユーザが直視している箇所と距離が近い領域である。具体的には、周辺領域は、ユーザがグラフィック画像に注目した際に、グラフィック画像の視認性に大きく影響すると推測できる影響領域である。
ユーザと画面との距離が一定であり、表示用画像が画面のサイズに合うように拡大または縮小されて表示されるとすると、画面のサイズが大きいほど、画面のサイズに対する影響領域のサイズは小さくなる。そのため、画面のサイズが大きいほど小さいxとyを用いることが好ましい。また、人間の視野は一般的に垂直方向よりも水平方向に広い。そのため、xの値として、yの値より大きい値を使用することが好ましい。
本実施例では、以下の式4−1,4−2を用いて、xとyの値が決定される。式4−1において、X画素は重畳後画像の水平方向の総画素数であり、gx[cm]は影響領域の水平方向のサイズ(xに対応するサイズ)であり、lx[cm]は画面の水平方向のサイズである。式4−2において、Y画素は重畳後画像の垂直方向の総画素数であり、gy[cm]は影響領域の垂直方向のサイズ(yに対応するサイズ)であり、ly[cm]は画面の垂直方向のサイズである。

x=X×gx÷lx ・・・(式4−1)
y=Y×gy÷ly ・・・(式4−2)

例えば、重畳後画像のサイズが水平方向1920画素×垂直方向1080画素であり、画面のサイズが24インチ(水平方向53.1[cm]×垂直方向29.9[cm])であったとする。そして、影響領域の水平方向のサイズが3[cm]、影響領域の垂直方向のサイズが2[cm]、と定められていたとする。その場合、x=1920×3÷53.1=108画素、y=1080×2÷29.9=72画素を使用して、周辺領域が設定される。
なお、本実施例では、グラフィック領域と拡張領域の形状が矩形領域である場合の例を説明するが、グラフィック領域と拡張領域の形状は矩形領域に限らない。
S302の次に、補正情報生成部126は、S302で設定した周辺領域を取得領域として示す取得領域情報を特徴量取得部125に出力する(S303)。特徴量取得部125は、取得領域情報が示す取得領域における重畳後画像の特徴量を取得し、取得した特徴
量を補正情報生成部126に出力する。本実施例では、輝度カテゴリ(輝度値または輝度範囲)毎に取得領域内の画素数がカウントされ、特徴量として輝度ヒストグラムが取得される。輝度範囲は、所定幅を有する輝度値の範囲である。
次に、補正情報生成部126が、S303で取得された特徴量と、パネル情報に含まれる最大表示輝度と、に基づいて、周辺領域の平均表示輝度(表示輝度の平均値)を算出する(S304)。
具体的には、輝度カテゴリ毎に、その輝度カテゴリに対応する表示輝度が、最大表示輝度に基づいて推定される。輝度カテゴリが輝度値である場合には、当該輝度値に対応する表示輝度が算出される。輝度カテゴリが輝度範囲である場合には、当該輝度範囲に対応する表示輝度が算出される。例えば、輝度範囲の輝度値の最大値、最小値、中間値、または、平均値に対応する表示輝度が算出される。そして、輝度カテゴリ毎に、度数が表示輝度に乗算される。その後、乗算結果の総和を輝度ヒストグラムの総度数で除算することにより、平均表示輝度が算出される。
即ち、平均表示輝度は、以下の式5を用いて算出される。式5において、Laveは平均表示輝度であり、Mは輝度カテゴリの総数であり、Liはi番目の輝度カテゴリに対して算出された表示輝度であり、Niはi番目の輝度カテゴリの度数であり、Pは輝度ヒストグラムの総度数である。
Figure 2015141333
次に、補正情報生成部126が、S304で算出した平均表示輝度が閾値THaveより高いか否かを判断する(S305)。閾値THaveは、例えば、200cd/mである。平均表示輝度が閾値THaveより高い場合にはS306に処理が進められ、平均表示輝度が閾値THave以下である場合には本フローが終了される。具体的には、平均表示輝度が閾値THave以下である場合には、補正情報生成部126は、非補正情報を輝度補正部127に出力する。
なお、閾値THaveは上記値に限らない。閾値THaveは、メーカーによって予め定められた固定値であってもよいし、ユーザによって変更可能な値であってもよい。
S306では、補正情報生成部126が、周辺領域の平均表示輝度を閾値THaveと一致させる補正値と、補正対象の領域を示す補正領域情報と、を含む補正情報を生成し、生成した補正情報を輝度補正部127に出力する。本実施例では、補正領域情報として、周辺領域を示す周辺領域情報が生成される。周辺領域情報は、例えば、取得領域情報と同じ情報である。補正値は、重畳後画像の画素値を補正する補正値である。本実施例では、補正値として画素値に乗算する補正率が算出される。具体的には、以下の式6を用いて補正率Rが算出される。

R=THave/Lave ・・・(式6)
なお、補正値は補正率に限らない。例えば、補正値は画素値に加算する値であってもよい。
なお、周辺領域情報と取得領域情報とで、領域の表現方法が互いに異なっていてもよい。例えば、周辺領域情報と取得領域情報の一方が周辺領域内の各画素の座標によって周辺領域を表し、他方が周辺領域の頂点座標によって周辺領域を表していてもよい。
輝度補正部127は、周辺領域情報が示す周辺領域内の各画素値(重畳後画像の画素値)に補正率Rを算出することにより、周辺領域における重畳後画像の輝度を補正する。それにより、周辺領域の輝度が第1の閾値以下に制限された輝度制限画像が生成される。そして、輝度補正部127は、生成した輝度制限画像を表示用画像として出力する。換言すれば、輝度補正部127は、周辺領域外における表示用画像の画素値として、描画部124から出力された重畳後画像の画素値を出力する。そして、輝度補正部127は、周辺領域内における表示用画像の画素値として、描画部124から出力された重畳後画像の画素値に補正率Rを乗算した値を出力する。
以上述べたように、本実施例によれば、重畳後画像を表示用画像として生成する場合に、グラフィック画像の周辺の領域における輝度が第1の閾値以下に制限された重畳後画像である輝度制限画像が生成される。それにより、表示用画像として、グラフィック画像の視認性が向上された重畳後画像(輝度制限画像)を生成することができる。具体的には、グラフィック画像の周辺が明るすぎてグラフィック画像が見え難くなることを抑制することができる。ひいては、ユーザの作業効率を向上させることができる。
また、本実施例によれば、グラフィック領域情報に基づいて、表示された表示用画像におけるグラフィック画像にユーザが注目しているか否かが判断される。そして、ユーザがグラフィック画像に注目していないと判断された場合に、輝度制限画像を生成する処理が省略される。ユーザがグラフィック画像に注目していない場合にはグラフィック画像の視認性が低くても問題はない。そのため、そのような場合に輝度制限画像を生成する処理を省略することにより、処理負荷を低減することができる。また、ユーザが注目していないグラフィック画像の周辺の表示画質を維持することができる。
なお、本実施例では、周辺領域の平均表示輝度が閾値THaveと一致するように、周辺領域の輝度を低減する例を説明したが、これに限らない。周辺領域の画素のうち、表示輝度が閾値THave以上の画素の輝度が閾値THaveと一致するように、周辺領域の輝度を低減させてもよい。周辺領域の全ての画素の輝度を低減させてもよいし、周辺領域の画素のうち表示輝度が閾値THave以上の画素の輝度を低減させてもよい。
なお、本実施例では、表示輝度が閾値THaveと一致するように輝度を低減する例を説明したが、表示輝度が閾値THaveよりも低くなるように輝度を低減させてもよい。
なお、本実施例では、重畳後画像の輝度を直接的に補正する例を説明したが、重畳前画像の輝度を補正することにより、重畳後画像の輝度が間接的に補正されてもよい。例えば、描画部124が輝度補正部127の後段に設けられていてもよい。具体的には、輝度補正部127が、重畳前画像の輝度を補正することにより、補正重畳前画像を生成してもよい。そして、描画部124が、補正重畳前画像上にグラフィック画像を描画してもよい。
<実施例7>
以下、本発明の実施例7に係る画像処理装置及び画像処理方法について説明する。
なお、以下では実施例6と異なる点について説明し、実施例6と同様の機能等については説明を省略する。
本実施例に係る画像処理装置の構成は実施例6(図12)と同じである。また、本実施例に係る画像処理装置の処理手順も実施例6(図13)と同じである。但し、本実施例では、描画部124が、補正情報生成部126にも重畳後画像を出力するものとする。
本実施例では、輝度補正処理(S207の処理)の手順が実施例6と異なる。実施例6では、グラフィック領域を囲む周辺領域の輝度を低減する例を説明した。本実施例では、階調値が第2の閾値以上の画素を含み、且つ、グラフィック画像からの距離が第3の閾値以下である近傍高輝度領域の輝度を低減する例を説明する。
なお、第2の閾値と第3の閾値は、メーカーによって予め定められた固定値であってもよいし、ユーザによって変更可能な値であってもよい。本実施例では、第3の閾値は、実
施例6で述べたxとyによって決まる値である。
以下、図16,17を用いて、本実施例に係る輝度補正処理の手順を説明する。図16は、本実施例に係る輝度補正処理の流れの一例を示すフローチャートである。図17は、高輝度領域と高輝度周辺領域の一例を示す図である。
まず、補正情報生成部126が、重畳後画像の領域のうち第2の閾値以上の階調値を有する画素を含む領域を、高輝度領域として設定する(S501)。本実施例では、図17に示すように、第2の閾値以上の階調値を有する画素からなる領域を囲む最小の矩形領域が高輝度領域として設定される。図17において、星形の領域が、第2の閾値以上の階調値を有する画素からなる領域である。
なお、第2の閾値以上の階調値を有する画素からなる領域が高輝度領域として設定されてもよい。高輝度領域の形状は矩形でなくてもよい。
次に、補正情報生成部126が、S501で設定された高輝度領域の周辺の領域を高輝度周辺領域として設定する(S502)。S502では、高輝度領域を拡張した拡張高輝度領域から高輝度領域を除いた領域が、高輝度周辺領域として設定される。拡張高輝度領域は矩形領域である。図17に示すように、拡張高輝度領域の上辺は、高輝度領域の上辺から上側にy画素だけ離れており、拡張高輝度領域の下辺は、高輝度領域の下辺から下側にy画素だけ離れている。拡張高輝度領域の右辺は、高輝度領域の右辺から右側にx画素だけ離れており、拡張高輝度領域の左辺は、高輝度領域の左辺から左側にx画素だけ離れている。xとyの値は、実施例6と同様の方法で決定される。
そして、補正情報生成部126が、S501で設定した高輝度領域を取得領域として示す取得領域情報を特徴量取得部125に出力する(S503)。それにより、実施例6(S303)と同様の方法で、高輝度領域の輝度ヒストグラムが取得される。
次に、補正情報生成部126が、実施例6(S304)と同等の方法で、高輝度領域の平均表示輝度を算出する(S504)。
そして、補正情報生成部126が、近傍高輝度領域を検出する(S505)。具体的には、S501で設定した高輝度領域が近傍高輝度領域である否かが判断される。本実施例では、高輝度領域と高輝度周辺領域の少なくとも一方にグラフィック領域(S206でユーザが注目していると判断されたグラフィック画像に対応するグラフィック領域)が重なっているか否かが判断される。そして、高輝度領域と高輝度周辺領域の少なくとも一方にグラフィック領域が重なっている高輝度領域が、近傍高輝度領域として検出される。
近傍高輝度領域が検出された場合には、S506に処理が進められる。近傍高輝度領域が検出されなかった場合には、本フローが終了される。具体的には、近傍高輝度領域が検出されなかった場合には、補正情報生成部126は、非補正情報を輝度補正部127に出力する。
なお、S505では、高輝度領域にグラフィック領域が重なっているか否かが判断されてもよい。そして、グラフィック領域が重なっている高輝度領域が近傍高輝度領域として検出されてもよい。即ち、高輝度周辺領域にグラフィック領域が重なり、高輝度領域にグラフィック領域が重なっていない高輝度領域は、近傍高輝度領域として検出されなくてもよい。そのような構成の場合には、高輝度周辺領域は設定されなくてもよい。
S506では、補正情報生成部126が、近傍高輝度領域の平均表示輝度を閾値THaveと一致させる補正値と、補正領域情報と、を含む補正情報を生成し、生成した補正情報を輝度補正部127に出力する。本実施例では、補正領域情報として、近傍高輝度領域
を示す近傍高輝度領域情報が生成される。補正値は、実施例6(S306)と同様の方法で算出される。
そして、輝度補正部127では、S306と同様の方法で高輝度領域における重畳後画像の輝度を補正することにより、輝度制限画像が生成される。
以上述べたように、本実施例によれば、重畳後画像を表示用画像として生成する場合に、近傍高輝度領域の輝度が第1の閾値以下に制限された重畳後画像である輝度制限画像が生成される。それにより、表示用画像として、グラフィック画像の視認性が向上された重畳後画像(輝度制限画像)を生成することができる。具体的には、近傍高輝度領域が明るすぎてグラフィック画像が見え難くなることを抑制することができる。ひいては、ユーザの作業効率を向上させることができる。
また、グラフィック画像の周辺の領域のうち、近傍高輝度領域以外の領域の表示画質を維持することができる。
また、重畳前画像が変化しない限り、高輝度領域と高輝度周辺領域は変化しない。そのため、重畳前画像が変化しない場合には、高輝度領域と高輝度周辺領域を更新する必要はない。従って、本実施例によれば、実施例6よりも処理負荷を低減することができる。
なお、本実施例では、近傍高輝度領域の平均表示輝度が閾値THaveと一致するように、近傍高輝度領域の輝度を低減する例を説明したが、これに限らない。近傍高輝度領域の画素のうち、表示輝度が閾値THave以上の画素の輝度が閾値THaveと一致するように、近傍高輝度領域の輝度を低減させてもよい。近傍高輝度領域の全ての画素の輝度を低減させてもよいし、近傍高輝度領域の画素のうち表示輝度が閾値THave以上の画素の輝度を低減させてもよい。また、近傍高輝度領域にグラフィック画像が重なっていることがある。そのため、近傍高輝度領域のうち、グラフィック画像が重なっていない領域の輝度を低減させてもよい。
なお、本実施例では、表示輝度が閾値THaveと一致するように輝度を低減する例を説明したが、表示輝度が閾値THaveよりも低くなるように輝度を低減させてもよい。
なお、S503よりも前にS505の処理が行われてもよい。具体的には、近傍高輝度領域を検出した後に、近傍高輝度領域の特徴量が取得されてもよい。即ち、近傍高輝度領域でない高輝度領域については特徴量が取得されなくてもよい。
<実施例8>
以下、本発明の実施例8に係る画像処理装置及び画像処理方法について説明する。
実施例1〜7では、画像処理装置がグラフィック画像を合成する処理を行う例を説明した。本実施例では、HDR画像である重畳前画像にグラフィック画像が重畳された重畳後画像が画像処理装置に入力される例を説明する。
なお、本実施例では、表示装置に画像処理装置が設けられている場合の例を説明するが、実施例1で述べたとおり、表示装置と画像処理装置は別体の装置であってもよい。
なお、以下では実施例6,7と異なる点について説明し、実施例6,7と同様の機能等については説明を省略する。
なお、本実施例では、実施例6,7をベースとした構成について説明するが、実施例1〜5に係る画像処理装置に重畳後画像が入力されてもよい。例えば、ベース画像にグラフィック画像が重畳された重畳後画像が、実施例1〜5に係る画像処理装置に入力されてもよい。
図18を用いて、本実施例に係る表示装置の各機能部について説明する。図18は、本実施例に係る表示装置180の機能構成の一例を示すブロック図である。
図18に示すように、表示装置180は、入力部181、特徴量取得部182、補正情報生成部183、輝度補正部184、表示部185、等を有する。
入力部181は、表示装置180の外部から重畳後画像(HDR画像である重畳前画像にグラフィック画像を重畳した画像)を取得する。そして、入力部181は、実施例6の描画部124と同様に、取得した重畳後画像を特徴量取得部182と輝度補正部184に出力する。なお、実施例7の描画部124と同様に、取得された重畳後画像が特徴量取得部182、輝度補正部184、及び、補正情報生成部183に出力されてもよい。入力部181は、例えば、画像データが入力される入力端子とその処理回路を有する。入力端子としては、DVI、HDMI(登録商標)などの通信規格の端子を用いることができる。
特徴量取得部182は、実施例6,7の特徴量取得部125と同じ機能を有する。
補正情報生成部183は、実施例6の補正情報生成部126と同じ機能を有する。但し、本実施例では、表示部185からパネル情報が取得される。また、本実施例では、表示装置180の外部からグラフィック領域情報が取得される。
なお、表示装置180が、重畳後画像を解析することによって重畳後画像の領域からグラフィック画像の領域を検出する検出部を有していてもよい。その場合には、表示装置180の外部からではなく、検出部からグラフィック領域情報が取得されてもよい。
なお、補正情報生成部183は、実施例7の補正情報生成部126と同じ機能を有していてもよい。
輝度補正部184は、実施例6,7の輝度補正部127と同じ機能を有する。但し、本実施例では、輝度補正部184は、表示用画像を表示部185に出力する。
表示部185は、画像表示素子とその制御回路を有する表示パネルである。表示部185は、輝度補正部184から出力された表示用画像を表示する。
表示装置180の処理手順は、重畳後画像とグラフィック領域情報を外部から取得する点を除いては実施例6,7(図13)と同じである。具体的には、S201の処理が行われず、S208において表示用画像の表示が行われる。それ以外の処理(S202〜S207の処理)は実施例6,7と同じであるため、その説明は省略する。
以上述べたように、本実施例によれば、外部から取得された重畳後画像の輝度が実施例6,7と同様の方法で補正される。それにより、実施例6,7と同様の効果が得られる。
<その他の実施例>
記憶装置に記録されたプログラムを読み込み実行することで前述した実施例の機能を実現するシステムや装置のコンピュータ(又はCPU、MPU等のデバイス)によっても、本発明を実施することができる。また、例えば、記憶装置に記録されたプログラムを読み込み実行することで前述した実施例の機能を実現するシステムや装置のコンピュータによって実行されるステップからなる方法によっても、本発明を実施することができる。この目的のために、上記プログラムは、例えば、ネットワークを通じて、又は、上記記憶装置となり得る様々なタイプの記録媒体(つまり、非一時的にデータを保持するコンピュータ読取可能な記録媒体)から、上記コンピュータに提供される。したがって、上記コンピュータ(CPU、MPU等のデバイスを含む)、上記方法、上記プログラム(プログラムコード、プログラムプロダクトを含む)、上記プログラムを非一時的に保持するコンピュータ読取可能な記録媒体は、いずれも本発明の範疇に含まれる。
4,212,706,810 画素値制御部
5,209,703,811 表示輝度算出部
15,121,214 表示用画像生成部
18 重み算出部
19 乗算器
20 乗算器
21 加算器
120 画像処理装置
124 描画部
125,182 特徴量取得部
126,183 補正情報生成部
127,184 輝度補正部
180 表示装置
800 撮像装置
813 合成部

Claims (20)

  1. 表示部での表示に使用する表示用画像を生成する生成手段を有し、
    前記生成手段は、重畳前画像に前記重畳前画像よりもダイナミックレンジが狭いグラフィック画像を重畳した重畳後画像を前記表示用画像として生成する場合に、前記グラフィック画像の領域とその周辺の領域との少なくともいずれか一方の領域における輝度が第1の閾値以下に制限された重畳後画像である輝度制限画像を生成する
    ことを特徴とする画像処理装置。
  2. 前記生成手段は、前記重畳前画像の輝度を制限することにより、前記重畳後画像の輝度を制限する
    ことを特徴とする請求項1に記載の画像処理装置。
  3. ベース画像と、前記ベース画像のダイナミックレンジを拡大して前記重畳前画像を生成するための差分情報と、を取得する取得手段をさらに有し、
    前記生成手段は、
    前記差分情報を補正し、
    補正後の差分情報、前記ベース画像、及び、前記グラフィック画像を用いて、前記輝度制限画像を生成する
    ことを特徴とする請求項2に記載の画像処理装置。
  4. 前記差分情報は、ダイナミックレンジを拡大する前の階調値と、ダイナミックレンジを拡大した後の階調値と、の比率を画素毎に表す輝度比率情報である
    ことを特徴とする請求項3に記載の画像処理装置。
  5. 前記差分情報は、ダイナミックレンジを拡大する前の階調値と、ダイナミックレンジを拡大した後の階調値と、の対応関係を表すトーンマップである
    ことを特徴とする請求項3に記載の画像処理装置。
  6. 前記グラフィック画像は、設定された透明度を有する画像であり、
    前記生成手段は、前記グラフィック画像の透明度を補正することにより、前記重畳後画像の輝度を制限する
    ことを特徴とする請求項1〜5のいずれか1項に記載の画像処理装置。
  7. 前記生成手段は、前記重畳後画像の輝度を制限することにより、前記輝度制限画像を生成する
    ことを特徴とする請求項1〜6のいずれか1項に記載の画像処理装置。
  8. 前記生成手段は、
    階調値が第2の閾値以上の画素を含み、且つ、前記グラフィック画像からの距離が第3の閾値以下である近傍高輝度領域を検出し、
    前記輝度制限画像として、前記近傍高輝度領域の輝度が前記第1の閾値以下に制限された重畳後画像を生成する
    ことを特徴とする請求項1〜7のいずれか1項に記載の画像処理装置。
  9. 前記生成手段は、フレーム毎に前記表示用画像を生成し、
    前記表示部では、フレーム毎に前記表示用画像が表示され、
    前記画像処理装置は、表示された前記表示用画像における前記グラフィック画像にユーザが注目しているか否かを、前記グラフィック画像の領域に基づいて判断する判断手段をさらに有し、
    前記生成手段は、前記ユーザが前記グラフィック画像に注目していないと判断された場合に、前記輝度制限画像を生成する処理を省略する
    ことを特徴とする請求項1〜8のいずれか1項に記載の画像処理装置。
  10. 前記判断手段は、第4の閾値以上の時間、前記グラフィック画像に対するユーザ操作が行われていない場合に、前記ユーザが前記グラフィック画像に注目していないと判断することを特徴とする請求項9に記載の画像処理装置。
  11. 前記判断手段は、前記グラフィック画像の領域が第5の閾値より速い速度で変化している場合に、前記ユーザが前記グラフィック画像に注目していないと判断する
    ことを特徴とする請求項9または10に記載の画像処理装置。
  12. 前記重畳前画像がHDR画像か否かを判断する画像判断手段をさらに有し、
    前記生成手段は、前記重畳前画像が前記HDR画像であると判断された場合であり、且つ、前記重畳後画像を前記表示用画像として生成する場合に、前記輝度制限画像を生成する
    ことを特徴とする請求項1〜11のいずれか1項に記載の画像処理装置。
  13. 前記画像判断手段は、前記重畳前画像のビット数が8ビット以上である場合に、前記重畳前画像がHDR画像であると判断する
    ことを特徴とする請求項12に記載の画像処理装置。
  14. 前記画像判断手段は、前記重畳前画像のデータ形式が浮動小数点形式である場合に、前記重畳前画像がHDR画像であると判断する
    ことを特徴とする請求項12に記載の画像処理装置。
  15. 前記画像判断手段は、前記重畳前画像のデータ形式がOpenEXR形式である場合に、前記重畳前画像がHDR画像であると判断する
    ことを特徴とする請求項12に記載の画像処理装置。
  16. 前記画像判断手段は、ベース画像と前記重畳前画像を生成するための差分情報と、が前記画像処理装置に入力された場合に、前記重畳前画像がHDR画像であると判断する
    ことを特徴とする請求項12に記載の画像処理装置。
  17. 表示部での表示に使用する表示用画像を生成するステップと、
    前記表示用画像を出力するステップと、
    を有し、
    前記生成ステップでは、重畳前画像に前記重畳前画像よりもダイナミックレンジが狭いグラフィック画像を重畳した重畳後画像を前記表示用画像として生成する場合に、前記グラフィック画像の領域とその周辺の領域との少なくともいずれか一方の領域における輝度が第1の閾値以下に制限された重畳後画像である輝度制限画像が生成される
    ことを特徴とする画像処理方法。
  18. 発光手段と、
    前記発光手段から発せられた光を表示用画像に基づいて変調することで画面に画像を表示する表示手段と、
    前記表示用画像を生成する生成手段と、
    前記発光手段の発光輝度を制御する制御手段と、
    を有し、
    重畳前画像に前記重畳前画像よりもダイナミックレンジが狭いグラフィック画像を重畳
    した重畳後画像を前記表示用画像として前記生成手段が生成する場合に、前記グラフィック画像の領域とその周辺の領域との少なくともいずれか一方の領域における表示輝度が閾値以下に制限されるように、輝度が制限された重畳後画像である輝度制限画像を前記表示用画像として前記生成手段が生成する処理と、前記制御手段が前記発光手段の発光輝度を制限する処理と、の少なくとも一方が行われる
    ことを特徴とする表示装置。
  19. 発光手段と、
    前記発光手段から発せられた光を表示用画像に基づいて変調することで画面に画像を表示する表示手段と、
    を有する表示装置の制御方法であって、
    前記表示用画像を生成する生成ステップと、
    前記発光手段の発光輝度を制御する制御ステップと、
    を有し、
    重畳前画像に前記重畳前画像よりもダイナミックレンジが狭いグラフィック画像を重畳した重畳後画像が前記表示用画像として前記生成ステップで生成される場合に、前記グラフィック画像の領域とその周辺の領域との少なくともいずれか一方の領域における表示輝度が閾値以下に制限されるように、輝度が制限された重畳後画像である輝度制限画像を前記表示用画像として前記生成ステップで生成する処理と、前記制御ステップで前記発光手段の発光輝度を制限する処理と、の少なくとも一方が行われる
    ことを特徴とする表示装置の制御方法。
  20. 請求項17に記載の画像処理方法の各ステップをコンピュータに実行させることを特徴とするプログラム。
JP2014014514A 2014-01-29 2014-01-29 画像処理装置、画像処理方法、表示装置、表示装置の制御方法、及び、プログラム Active JP6381215B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2014014514A JP6381215B2 (ja) 2014-01-29 2014-01-29 画像処理装置、画像処理方法、表示装置、表示装置の制御方法、及び、プログラム
US14/605,606 US9672603B2 (en) 2014-01-29 2015-01-26 Image processing apparatus, image processing method, display apparatus, and control method for display apparatus for generating and displaying a combined image of a high-dynamic-range image and a low-dynamic-range image

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014014514A JP6381215B2 (ja) 2014-01-29 2014-01-29 画像処理装置、画像処理方法、表示装置、表示装置の制御方法、及び、プログラム

Publications (3)

Publication Number Publication Date
JP2015141333A true JP2015141333A (ja) 2015-08-03
JP2015141333A5 JP2015141333A5 (ja) 2017-06-08
JP6381215B2 JP6381215B2 (ja) 2018-08-29

Family

ID=53679501

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014014514A Active JP6381215B2 (ja) 2014-01-29 2014-01-29 画像処理装置、画像処理方法、表示装置、表示装置の制御方法、及び、プログラム

Country Status (2)

Country Link
US (1) US9672603B2 (ja)
JP (1) JP6381215B2 (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017199974A (ja) * 2016-04-25 2017-11-02 キヤノン株式会社 撮像装置、表示装置及び画像処理装置
WO2017217011A1 (ja) * 2016-06-16 2017-12-21 株式会社ソニー・インタラクティブエンタテインメント 画像処理装置および重畳画像生成方法
JP2018025996A (ja) * 2016-08-10 2018-02-15 株式会社ソニー・インタラクティブエンタテインメント 画像合成装置、情報処理装置、および画像合成方法
JP2018117343A (ja) * 2017-01-17 2018-07-26 キヤノン株式会社 画像処理装置および画像処理方法
JP2018536898A (ja) * 2015-11-18 2018-12-13 トムソン ライセンシングThomson Licensing 高ダイナミックレンジディスプレイのための輝度管理
JP2019118058A (ja) * 2017-12-27 2019-07-18 キヤノン株式会社 電子機器
WO2020213366A1 (ja) * 2019-04-16 2020-10-22 株式会社ソニー・インタラクティブエンタテインメント 画像生成装置および画像生成方法
WO2020213367A1 (ja) * 2019-04-16 2020-10-22 株式会社ソニー・インタラクティブエンタテインメント ディスプレイコントローラおよび画像表示方法

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI627627B (zh) * 2013-07-12 2018-06-21 Sony Corp 再生裝置、再生方法、及記錄媒體
CN106461928B (zh) * 2014-06-10 2019-09-17 奥林巴斯株式会社 图像处理装置、摄像装置、显微镜系统以及图像处理方法
WO2017098676A1 (ja) * 2015-12-10 2017-06-15 パナソニックIpマネジメント株式会社 表示装置およびバックライトの制御方法
JP6700908B2 (ja) 2016-03-30 2020-05-27 キヤノン株式会社 表示装置及び表示方法
JP2018013696A (ja) * 2016-07-22 2018-01-25 キヤノン株式会社 画像処理装置および表示装置
KR102582643B1 (ko) * 2016-09-19 2023-10-05 삼성전자주식회사 디스플레이 장치 및 이의 영상 처리 방법
US10542187B2 (en) * 2017-03-01 2020-01-21 Canon Kabushiki Kaisha Image processing apparatus and image processing method
KR102460390B1 (ko) * 2018-01-24 2022-10-28 삼성전자주식회사 영상 처리 장치, 영상 처리 방법 및 컴퓨터 판독가능 기록 매체
JP7277156B2 (ja) * 2019-01-30 2023-05-18 キヤノン株式会社 画像処理装置及び画像処理方法、プログラム
US11659153B2 (en) * 2019-03-29 2023-05-23 Sony Interactive Entertainment Inc. Image data transmission method, content processing apparatus, head-mounted display, relay apparatus and content processing system
JP2021124638A (ja) * 2020-02-06 2021-08-30 キヤノン株式会社 表示制御装置、表示制御方法、プログラムおよび記憶媒体
US11468546B1 (en) 2021-11-29 2022-10-11 Unity Technologies Sf Increasing dynamic range of a virtual production display

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03287296A (ja) * 1990-04-04 1991-12-17 Hitachi Ltd 画像表示装置
JP2006285065A (ja) * 2005-04-04 2006-10-19 Matsushita Electric Ind Co Ltd 表示デバイス保護装置
JP2009089209A (ja) * 2007-10-02 2009-04-23 Sony Computer Entertainment Inc 送信装置、画像データ送信方法、受信装置および受信装置における画像表示方法
JP2011193511A (ja) * 2004-04-23 2011-09-29 Dolby Lab Licensing Corp 高ダイナミックレンジ画像データを復号化するための装置及び方法、表示用画像を処理可能なビューア、ならびに表示装置
WO2012172460A1 (en) * 2011-06-14 2012-12-20 Koninklijke Philips Electronics N.V. Graphics processing for high dynamic range video
WO2015005189A1 (ja) * 2013-07-12 2015-01-15 ソニー株式会社 再生装置、再生方法、および記録媒体
JP2016515327A (ja) * 2013-02-21 2016-05-26 ドルビー ラボラトリーズ ライセンシング コーポレイション オーバーレイグラフィクス合成のためのアピアランスマッピングのシステムおよび装置

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7730401B2 (en) * 2001-05-16 2010-06-01 Synaptics Incorporated Touch screen with user interface enhancement
JP2003162275A (ja) 2001-11-27 2003-06-06 Matsushita Electric Ind Co Ltd オンスクリーンディスプレイ表示回路
US7580033B2 (en) * 2003-07-16 2009-08-25 Honeywood Technologies, Llc Spatial-based power savings
JP4115467B2 (ja) * 2005-06-01 2008-07-09 富士フイルム株式会社 撮影装置
JP4963954B2 (ja) * 2006-12-27 2012-06-27 大日本スクリーン製造株式会社 印刷製版用の画像処理装置および画像処理プログラム
JP2010244484A (ja) * 2009-04-10 2010-10-28 Funai Electric Co Ltd 画像表示装置、画像表示方法および画像表示プログラム
US8150902B2 (en) * 2009-06-19 2012-04-03 Singular Computing Llc Processing with compact arithmetic processing element
US20110222761A1 (en) * 2010-03-10 2011-09-15 Canon Kabushiki Kaisha Method and system for preserving the creative intent within an image production chain
AR091515A1 (es) * 2012-06-29 2015-02-11 Sony Corp Dispositivo y metodo para el procesamiento de imagenes
US9557813B2 (en) * 2013-06-28 2017-01-31 Tactus Technology, Inc. Method for reducing perceived optical distortion
JP2016048541A (ja) * 2014-06-19 2016-04-07 株式会社リコー 情報処理システム、情報処理装置及びプログラム

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03287296A (ja) * 1990-04-04 1991-12-17 Hitachi Ltd 画像表示装置
JP2011193511A (ja) * 2004-04-23 2011-09-29 Dolby Lab Licensing Corp 高ダイナミックレンジ画像データを復号化するための装置及び方法、表示用画像を処理可能なビューア、ならびに表示装置
JP2006285065A (ja) * 2005-04-04 2006-10-19 Matsushita Electric Ind Co Ltd 表示デバイス保護装置
JP2009089209A (ja) * 2007-10-02 2009-04-23 Sony Computer Entertainment Inc 送信装置、画像データ送信方法、受信装置および受信装置における画像表示方法
WO2012172460A1 (en) * 2011-06-14 2012-12-20 Koninklijke Philips Electronics N.V. Graphics processing for high dynamic range video
US20140125696A1 (en) * 2011-06-14 2014-05-08 Koninklijke Philips N.V. Graphics processing for high dynamic range video
JP2014528182A (ja) * 2011-06-14 2014-10-23 コーニンクレッカ フィリップス エヌ ヴェ 高ダイナミックレンジ・ビデオのためのグラフィック処理
JP2016515327A (ja) * 2013-02-21 2016-05-26 ドルビー ラボラトリーズ ライセンシング コーポレイション オーバーレイグラフィクス合成のためのアピアランスマッピングのシステムおよび装置
WO2015005189A1 (ja) * 2013-07-12 2015-01-15 ソニー株式会社 再生装置、再生方法、および記録媒体

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018536898A (ja) * 2015-11-18 2018-12-13 トムソン ライセンシングThomson Licensing 高ダイナミックレンジディスプレイのための輝度管理
JP2017199974A (ja) * 2016-04-25 2017-11-02 キヤノン株式会社 撮像装置、表示装置及び画像処理装置
US10721432B2 (en) 2016-04-25 2020-07-21 Canon Kabushiki Kaisha Image capturing apparatus connectable to display apparatus, display apparatus connectable to external apparatus, and image processing apparatus performing image processing
US10839499B2 (en) 2016-06-16 2020-11-17 Sony Interactive Entertainment Inc. Image processing apparatus and superimposed image generation method
JPWO2017217011A1 (ja) * 2016-06-16 2018-12-20 株式会社ソニー・インタラクティブエンタテインメント 画像処理装置および重畳画像生成方法
WO2017217011A1 (ja) * 2016-06-16 2017-12-21 株式会社ソニー・インタラクティブエンタテインメント 画像処理装置および重畳画像生成方法
JP2018025996A (ja) * 2016-08-10 2018-02-15 株式会社ソニー・インタラクティブエンタテインメント 画像合成装置、情報処理装置、および画像合成方法
JP2018117343A (ja) * 2017-01-17 2018-07-26 キヤノン株式会社 画像処理装置および画像処理方法
JP2019118058A (ja) * 2017-12-27 2019-07-18 キヤノン株式会社 電子機器
JP2020177086A (ja) * 2019-04-16 2020-10-29 株式会社ソニー・インタラクティブエンタテインメント 画像生成装置および画像生成方法
WO2020213367A1 (ja) * 2019-04-16 2020-10-22 株式会社ソニー・インタラクティブエンタテインメント ディスプレイコントローラおよび画像表示方法
JP2020177087A (ja) * 2019-04-16 2020-10-29 株式会社ソニー・インタラクティブエンタテインメント ディスプレイコントローラおよび画像表示方法
WO2020213366A1 (ja) * 2019-04-16 2020-10-22 株式会社ソニー・インタラクティブエンタテインメント 画像生成装置および画像生成方法
CN113678192A (zh) * 2019-04-16 2021-11-19 索尼互动娱乐股份有限公司 图像生成装置和图像生成方法
JP7083319B2 (ja) 2019-04-16 2022-06-10 株式会社ソニー・インタラクティブエンタテインメント 画像生成装置および画像生成方法
US11749232B2 (en) 2019-04-16 2023-09-05 Sony Interactive Entertainment Inc. Image generation apparatus and image generation method
CN113678192B (zh) * 2019-04-16 2024-03-26 索尼互动娱乐股份有限公司 图像生成装置和图像生成方法

Also Published As

Publication number Publication date
US20150213586A1 (en) 2015-07-30
JP6381215B2 (ja) 2018-08-29
US9672603B2 (en) 2017-06-06

Similar Documents

Publication Publication Date Title
JP6381215B2 (ja) 画像処理装置、画像処理方法、表示装置、表示装置の制御方法、及び、プログラム
KR100843089B1 (ko) 영상의 시인성을 향상시키는 장치 및 방법
JP6598430B2 (ja) 表示装置、表示装置の制御方法、及び、プログラム
WO2015198554A1 (ja) 変換方法および変換装置
JP6700880B2 (ja) 情報処理装置および情報処理方法
JP2017181762A (ja) 表示装置及び表示方法
JP5089783B2 (ja) 画像処理装置及びその制御方法
JP2008102513A (ja) 映像の視認性を向上させる装置及び方法
JP6087612B2 (ja) 画像処理装置および画像処理方法
TWI592903B (zh) Image processing device, image processing method and program
JP2020027409A (ja) 画像処理装置および画像処理方法、並びにプログラム
JP5207857B2 (ja) 動画表示システム、動画表示システムに用いられるサーバおよび表示装置、動画表示システムの制御方法、並びに表示装置の制御方法
JP2017182702A (ja) 画像処理装置、その制御方法、およびプログラム
KR20200025481A (ko) 전자 장치 및 그 제어 방법
JP2010055404A (ja) 画像処理方法及び画像処理装置
JP2016046701A (ja) 画像処理装置、画像処理方法、及び、プログラム
JP6157274B2 (ja) 撮像装置、情報処理方法及びプログラム
JP6755762B2 (ja) 画像処理装置および画像処理方法
JP2006165950A (ja) 画像処理装置及び画像処理方法
US20180376031A1 (en) Projection apparatus that improves dynamic range of luminance of printed material, control method therefor, and storage medium
JP2020071354A (ja) 投影システムおよび投影方法
JP5946281B2 (ja) 画像処理装置、画像表示システム、および画像表示方法
US20120039533A1 (en) Image processing apparatus and displaying method of the same
JP2017011676A (ja) 画像処理装置及び画像処理方法
WO2020071108A1 (ja) 画像処理装置および画像処理方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170112

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170112

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170417

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20171024

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171205

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180130

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180703

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180731

R151 Written notification of patent or utility model registration

Ref document number: 6381215

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151