JP4626673B2 - 画像処理装置、集積回路装置及び電子機器 - Google Patents

画像処理装置、集積回路装置及び電子機器 Download PDF

Info

Publication number
JP4626673B2
JP4626673B2 JP2008118596A JP2008118596A JP4626673B2 JP 4626673 B2 JP4626673 B2 JP 4626673B2 JP 2008118596 A JP2008118596 A JP 2008118596A JP 2008118596 A JP2008118596 A JP 2008118596A JP 4626673 B2 JP4626673 B2 JP 4626673B2
Authority
JP
Japan
Prior art keywords
value
correction
brightness
luminance
index
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2008118596A
Other languages
English (en)
Other versions
JP2009271096A (ja
Inventor
武邦 山本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2008118596A priority Critical patent/JP4626673B2/ja
Priority to US12/426,596 priority patent/US20090274389A1/en
Publication of JP2009271096A publication Critical patent/JP2009271096A/ja
Application granted granted Critical
Publication of JP4626673B2 publication Critical patent/JP4626673B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/44Receiver circuitry for the reception of television signals according to analogue transmission standards
    • H04N5/57Control of contrast or brightness
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • H04N21/4318Generation of visual interfaces for content selection or interaction; Content or additional data rendering by altering the content in the rendering process, e.g. blanking, blurring or masking an image region
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
    • H04N21/44008Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream

Description

本発明は、画像処理装置、集積回路装置及び電子機器等に関する。
デジタルカメラなどで静止画や動画を撮影すると、撮影条件によって画質の良くない画像となる場合がある。一般に、このような画像をより良い画質で録画・再生するために、画像処理が行われている。このような画像処理として、例えばコントラスト補正がある。コントラスト補正は、画像の持つ階調情報を補正することで人間の見やすいコントラストに改善する画像処理である。
コントラスト補正は、まず画像から統計情報を抽出し、その統計情報に基づいて補正値を算出することで行われる。このとき、どのような統計情報を用いるかがコントラスト補正の特性を決める上で重要な要素である。そのため、統計情報の選び方によって補正効果が得られない画像があるという課題があった。一方、もともと画質の良い画像については強く補正されることは好ましくないという課題もあった。
ところで、携帯電話等のモバイル機器では、バッテリの使用可能時間はユーザに対する訴求度が高く設計上重視される項目である。そのためモバイル機器に使用される各部品毎においても低消費電力化が求められている。そのような部品のなかで消費電力の大きなものの1つに液晶パネルのバックライトがあり、表示する動画や画像の輝度等に応じて調光(減光)することによって消費電力を大幅に削減することができる。
しかし、バックライトの調光を行うと表示画像の輝度や彩度が低下してしまう。そこで特許文献1に示す画像処理装置等では、バックライトの調光に応じて表示画像の輝度や彩度を補正することによって画質劣化を防止している。例えば輝度の補正は、バックライトの調光によって低下した視覚上の輝度を、表示画像のデータ上の輝度を強調することによって補っている。
しかしながら、このような画像補正では、輝度を大幅に強調することによって高輝度画素の階調情報が失われてしまう。そのため、バックライト調光による消費電力の削減を実現できる一方で、画像のハイライト部分のコントラスト(階調)が犠牲になるという課題があった。
特開2006−308631号公報
本発明の幾つかの態様によれば、適切なコントラスト補正を行うことができる画像処理装置、集積回路装置及び電子機器を提供できる。
本発明は、表示画像の輝度値の統計情報を取得する統計情報取得部と、前記統計情報に基づいて前記表示画像の明るさ指標を演算する明るさ指標演算部と、前記表示画像の処理対象画素周辺領域に含まれる複数の画素の輝度値をフィルタ処理して、局所平均輝度値を演算するフィルタ処理部と、前記明るさ指標と前記局所平均輝度値に基づいて前記表示画像のコントラスト補正を行うコントラスト補正部と、を含み、前記統計情報取得部は、前記統計情報として、シャドー画素群についての第1の指標と、ハイライト画素群についての第2の指標を取得し、前記明るさ指標演算部は、前記第1の指標と前記第2の指標から前記明るさ指標を演算することを特徴とする画像処理装置に関係する。
本発明によれば、シャドー画素群についての指標及びハイライト画素群についての指標から求めた明るさ指標を用いてコントラスト補正を行う。これにより、表示画像の輝度分布が偏っている場合でも、高輝度の画像領域と低輝度の画像領域を均等にコントラストを改善できる。一方、中輝度に大多数の画素が分布する画像に対しては、明るさ指標は輝度分布の中央付近の輝度値にできる。これにより、高画質の画像では高コントラストを維持できる。そして、本発明では局所平均輝度値を用いてコントラスト補正を行う。これにより、局所的なコントラストを維持しまま表示画像全体のコントラストを補正できる。さらに、後に述べるように、本発明によればダイナミックレンジを圧縮するコントラスト補正を行うことができる。これにより、輝度のエンハンスによるハイライト部分のコントラスト劣化を防止できる。そして、明るさ指標によって高輝度の画像領域と低輝度の画像領域を均等にコントラストを改善できることで、ハイライト部分のコントラスト劣化を防止するとともに、シャドー部分のコントラストを改善することもできる。
また本発明では、前記第1の指標は、前記表示画像に含まれる画素の画素数を輝度の低い順から積算して、積算値が第1の閾値を超えない範囲で最大の輝度値であり、前記第2の指標は、前記表示画像に含まれる画素の画素数を輝度の高い順から積算して、積算値が第2の閾値を超えない範囲で最小の輝度値であってもよい。
これにより、シャドー画素群についての第1の指標及び、ハイライト画素群についての第2の指標を実現できる。本発明によれば、輝度の低い順又は輝度の高い順から画素数を積算する。これにより、表示画像のシャドー部分とハイライト部分に対応する指標を取得できる。
また本発明では、前記明るさ指標が、前記第1の指標と前記第2の指標の平均であってもよい。
これにより、第1の指標と第2の指標を用いた明るさ指標を実現できる。平均を用いることで、高輝度の画像領域と低輝度の画像領域を均等にコントラスト補正できる。
また本発明では、表示画像に含まれる画素の輝度値と補正値の加算処理を行う加算部を含み、前記処理対象画素周辺領域は、前記表示画像における処理対象画素を含む領域であり、前記コントラスト補正部は、前記明るさ指標と前記局所平均輝度値の差分から求めた第1の補正値を出力し、前記加算部は、前記処理対象画素の輝度値と前記第1の補正値の加算処理を行ってもよい。
これにより、表示画像に対して本発明のコントラスト補正による画像処理を実行することができる。また、本発明では明るさ指標と局所平均輝度値の差分から補正値を求める。これにより、明るさ指標と局所平均輝度値を用いたコントラスト補正を実現できる。
また本発明では、前記コントラスト補正部は、前記局所平均輝度値が前記明るさ指標より小さい場合には、前記処理対象画素の輝度値を大きくする補正値を前記第1の補正値として出力し、前記局所平均輝度値が前記明るさ指標より大きい場合には、前記処理対象画素の輝度値を小さくする補正値を前記第1の補正値として出力してもよい。
本発明によれば、表示画像において低輝度の画像領域の輝度を上げ、高輝度の画像領域の輝度を下げるコントラスト補正を実現できる。これにより、コントラスト補正によってダイナミックレンジを圧縮することができる。
また本発明では、前記コントラスト補正部は、前記明るさ指標と前記局所平均輝度値の差分の絶対値が大きいほど絶対値が大きくなる補正値を前記第1の補正値として出力してもよい。
本発明によれば、表示画像において画像領域の輝度が低くなるに従って輝度を上げ、画像領域の輝度が高くなるに従って輝度を下げるコントラスト補正を実現できる。これにより、コントラスト補正によってダイナミックレンジを圧縮することができる。
また本発明では、前記表示画像に含まれる画素の輝度値と補正値の加算処理を行う加算部を含み、前記処理対象画素周辺領域は、前記表示画像における処理対象画素を含む領域であり、前記コントラスト補正部は、前記明るさ指標を用いて前記局所平均輝度値を変換処理して変換局所平均輝度値を出力する変換部を有し、前記局所平均輝度値と前記変換局所平均輝度値を用いて第1の補正値を出力し、前記加算部は、前記処理対象画素の輝度値と前記第1の補正値の加算処理を行ってもよい。
これにより、明るさ指標と局所平均輝度値を用いたコントラスト補正を行う第1の補正値を実現できる。また、変換処理により明るさ指標と局所平均輝度値の差分から求めた第1の補正値を実現できる。
また本発明では、前記変換部は、前記局所平均輝度値が前記明るさ指標より小さいときは、前記局所平均輝度値より前記変換局所平均輝度値が大きくなる前記変換処理を行い、前記局所平均輝度値が前記明るさ指標より大きいときは、前記局所平均輝度値より前記変換局所平均輝度値が小さくなる前記変換処理を行ってもよい。
これにより、局所的なコントラストを損なうことなくダイナミックレンジを圧縮できる第1の補正値を実現することができる。
また本発明では、前記明るさ指標より輝度の高い前記局所平均輝度値に対応する第1の補正強度及び、前記明るさ指標より輝度の低い前記局所平均輝度値に対応する第2の補正強度を設定する補正調整レジスタを含んでもよい。
これにより、コントラスト補正の補正強度を設定することができる。さらに、表示画像の低輝度部分における補正強度と、表示画像の高輝度部分における補正強度を独立して設定することができる。
また本発明では、前記変換部は、前記局所平均輝度値が前記明るさ指標より大きい場合には、前記明るさ指標と前記局所平均輝度値の差分値に前記第1の補正強度を乗算する乗算処理を行い、前記局所平均輝度値が前記明るさ指標より小さい場合には、前記明るさ指標と前記局所平均輝度値の差分値に前記第2の補正強度を乗算する前記乗算処理を行ってもよい。
これにより、設定された補正強度を用いて、コントラスト補正の補正強度の調整を実現することができる。さらに、表示画像の低輝度部分における補正強度の調整、表示画像の高輝度部分における補正強度の調整を独立して行うことができる。
また本発明では、前記変換処理の低輝度側のオフセットを調整する第1のオフセットと、前記変換処理の高輝度側のオフセットを調整する第2のオフセットを出力するコントラスト調整用オフセット演算部を含んでもよい。
これにより、コントラスト補正のオフセットを調整できる。例えば、第1のオフセットによって第1の補正値の低輝度側を強調し、高輝度側を弱めることができる。また、第2のオフセットによって第1の補正値の低輝度側を弱め、高輝度側を強調することができる。さらに、第2のオフセットによって輝度エンハンスによるハイライト部分の画質劣化を防止できる。
また本発明では、前記統計情報取得部は、前記統計情報として、前記表示画像の平均輝度値を取得し、前記明るさ指標演算部は、前記明るさ指標と前記平均輝度値の差分の絶対値である明るさ差分値を出力し、前記コントラスト調整用オフセット演算部は、前記明るさ差分値を用いて前記第1のオフセットと前記第2のオフセットを出力してもよい。
これにより、輝度分布に偏りのある表示画像において、輝度エンハンスによるハイライト部分の画質劣化を防止できる。また、画素数の多い低輝度部分のコントラストをより強調することができる。
また本発明では、第1のオフセット調整値と第2のオフセット調整値を設定する補正調整レジスタを含み、前記コントラスト調整用オフセット演算部は、前記第1のオフセット調整値を用いて前記第1のオフセットを出力し、前記第2のオフセット調整値を用いて前記第2のオフセットを出力してもよい。
これにより、第1のオフセットと第2のオフセットの調整を実現できる。そして、低輝度側の第1のオフセットと高輝度側の第2のオフセットを独立して調整できる。
また本発明では、前記補正調整レジスタは、前記明るさ指標より輝度の高い前記局所平均輝度値に対応する第1の補正強度と、前記明るさ指標より輝度の低い前記局所平均輝度値に対応する第2の補正強度を設定し、前記変換部は、前記局所平均輝度値が前記明るさ指標より大きい場合には、前記明るさ指標と前記局所平均輝度値の差分値に前記第1の補正強度を乗算する乗算処理を行い、前記局所平均輝度値が前記明るさ指標より小さい場合には、前記明るさ指標と前記局所平均輝度値の差分値に前記第2の補正強度を乗算する前記乗算処理を行い、前記乗算処理の結果と前記第1のオフセットを加算するオフセット加算処理を行ってもよい。
本発明によれば、変換部が、補正強度の乗算処理の結果に第1のオフセットを加算するオフセット加算処理を行う。これにより、変換処理における低輝度側のオフセットの調整を実現できる。
また本発明では、前記コントラスト補正部は、前記処理対象画素の輝度値と前記局所平均輝度値の差分値の絶対値が所定の値より小さいとき、前記局所平均輝度値の代わりに前記処理対象画素の輝度値を用いてもよい。
これにより、局所平均輝度値の演算精度を上げることなく、低階調のコントラストを強調するコントラスト補正を実現できる。そして、演算精度を上げることによる回路規模の増大を防止できる。
また本発明では、画像表示用の照明を表示画像に応じて減光する補正を行う調光量を出力する調光補正部と、前記調光量に基づいて輝度をエンハンスする第2の補正値を出力する明るさ補正強化演算部と、を含み、前記加算部が、前記処理対象画素の輝度値と前記第2の補正値の加算処理を行ってもよい。
本発明によれば、画像表示用の照明を減光することで消費電力を削減できる。また、調光量に応じて輝度をエンハンスすることで、減光によって低下した表示画像の輝度を補償することができる。そして、コントラスト補正によってダイナミックレンジを圧縮することで、輝度エンハンスによるハイライト部分の画質劣化を防止できる。これにより、画質を劣化させることなく画像表示用の照明を減光でき、消費電力を削減できる。
また本発明は、上記のいずれかに記載の画像処理装置を含む集積回路装置に関係する。
また本発明は、上記に記載の集積回路装置を含む電子機器に関係する。
以下、本発明の好適な実施の形態について詳細に説明する。なお以下に説明する本実施形態は特許請求の範囲に記載された本発明の内容を不当に限定するものではなく、本実施形態で説明される構成の全てが本発明の解決手段として必須であるとは限らない。
以下では、説明を簡単にするために、本実施形態を液晶パネルのバックライト調光(減光)に応じた画像補正(輝度強調)と組み合わせた場合について説明する。この場合、本実施形態が表示画像(フレーム画像)のコントラストを保存しつつダイナミックレンジ(輝度のダイナミックレンジ)を圧縮する補正を行うことで、バックライト調光に応じた画像補正による画質劣化を防止できる。そして本実施形態は、統計情報から求めた明るさ指標を用いることで適切なコントラスト補正を行うことができる。
但し本実施形態は、コントラスト補正単独で用いることもでき、他のダイナミックレンジを拡大する画像補正と組み合わせることもできる。また、ダイナミックレンジを圧縮することなく、又はダイナミックレンジを拡大すると共に、コントラスト補正を行うこともできる。さらに、液晶パネルの表示画像に限らずEL(Electro Luminescence)発光素子を用いた表示パネルの表示画像などにも用いることもでき、画像表示に限らず録画など画像を記録する際に用いることもできる。
以下、本発明の実施形態について説明する前に、バックライト調光に応じた画像補正及びその課題について説明する。
1.調光制御、明るさ補正強調
1.1.調光制御と画像補正との関係
図1(A)〜図1(C)は、表示画像に応じた適応的な調光制御(減光制御)および画像補正の内容を説明するための図である。
図1(A)に示されるように、液晶パネル(LCD)10の適応的な画像補正と、照明(LED:以下、バックライト、BLという)12の輝度の適応的補正(適応的調光)とを、同時に実行する。図中、Gy’は、調光(減光)有りの場合の強化された画像補正値である。このGy’は、調光無しの場合の画像補正値Gyに、調光に伴う画像補正値の強化分ΔGyを加算して得られる。また、Gsは、適応調光に伴うバックライト12の輝度の補正値である。
図1(B)は、調光無しの場合の画像補正値Gyを示している。すなわち、Gyは、バックライト12の輝度を固定した場合の、画像補正値である。例えば、輝度が低い部分には輝度を持ち上げるような補正が実行され、輝度が高すぎる部分には輝度を低下させるような補正が実行される。
図1(C)は、調光(Gs)に伴う画像補正値の強化分ΔGyを示している。調光制御は、暗い画像が明るい画像に比べてバックライト12の減光の影響を受けにくいことから、原則として、暗い画像の場合にバックライト12の減光量が大きくする。ただし、減光に伴って視覚上の表示画像の輝度が低下するため、輝度低下を補償するように画像補正を強化(以下、明るさ補正強調)する。
調光に応じた画像補正では、図1(A)に示されるように、省電力化のためにバックライト12の減光を積極的に行い、一方、その減光に伴う画質低下を補償するために、通常の画像補正値(Gy)に、調光(Gs)に伴う明るさ補正強調分(ΔGy)を上乗せすることによって、最終的な画像補正値Gy’が定まる。
図19に示すのは、1フレームの画像の平均輝度(Yave)に対する、バックライト削減率、調光無しの場合の画像補正値(Gy)、調光有りの場合の画像補正値(Gy’)、調光に伴う画像補正値の強化分(ΔGy)の変化を示す特性図である。
図中、特性線Aは、バックライト輝度削減率(%)の特性を示し、特性線Bは、調光無しの場合の画像補正値(Gy)の特性を示し、特性線Cは、調光有りの場合の画像補正値(Gy’)の特性を示し、特性線Dは、調光に伴う画像補正値の強化分(ΔGy)の特性を示す。
まず、バックライト輝度削減率の変化を示す特性線Aに着目する。明らかなように、平均輝度(Yave)が低いほどバックライト輝度削減率が高く、平均輝度(Yave)が高くなるにつれて、バックライト削減率は低下する。これは、平均輝度が高い画像ほど、バックライトの減光の影響が大きくなるため、平均輝度が低い画像では省電力化を優先させて大きく減光し、平均輝度が高い画像については画質低下の抑制を優先して小さく減光するようにした結果である。
次に、調光無しの場合の画像補正値Gyの変化を示す特性線Bに着目する。図示されるように、平均輝度値Gammath1までは、ほぼ定量の輝度持ち上げ補正が実施され、平均輝度値が大きくなると、輝度の持ち上げ量が減少し、平均輝度値Gammath2より平均輝度値が大きくなると、輝度を低下させる補正が実行される。すなわち、基本的には、平均輝度が低い場合には輝度を持ち上げるような補正が実行され、平均輝度が高すぎる場合には輝度を低下させるような補正が実行されることになる。
次に、調光有りの場合の画像補正値Gy’の変化を示す特性線Cに着目する。明らかなように、平均輝度が低いほど画像補正値が大きく、平均輝度が高くなるほど画像補正値は小さくなる。これは、特性線Bを基礎として画像補正値が決まることに加えて、大きな減光率が設定される低輝度側における画質低下を防止するために、低輝度側ほど、画像補正値を強化する必要があるからである。
次に、調光に伴う画像補正値の強化分(ΔGy=Gy’−Gy)の変化を示す特性線Dに着目する。上述のとおり、調光に伴う画像補正値の強化分ΔGyは、低輝度側では増大し、輝度値が増大するにつれて少しずつ低下する。ただし、画像補正値の強化分は、平均輝度値Gammath3付近から緩やかに上昇する。これは、バックライト12の減光に伴い、高輝度の画像ほど画質低下が懸念されるため、平均輝度が高い画像の輝度低下を抑制するために、画像補正をより強化する必要があるからである。
1.2.明るさ補正強調
図2は、画像補正値Gy’を用いて入力輝度を補正する場合について、出力輝度対入力輝度のグラフで表した特性図である。グラフBLA1に、入力輝度を調光無しの場合の画像補正値Gyで補正した場合の出力輝度を示す。また、グラフBLA2に、入力輝度を調光無しの場合の画像補正値Gyに調光に伴う明るさ補正強調分ΔGyを加えた画像補正値Gy’で補正した場合の出力輝度を示す。グラフBLA2は、グラフBLA1に示す補正に対して明るさ補正強調を加えた補正を表している。
そして、グラフBLA3に、グラフBLA2の出力輝度を調光による実際の知覚輝度で表したグラフを示す。グラフBLA3に示すように、グラフBLA2の補正後の出力輝度は、バックライトの調光によって知覚上の輝度が低下して見える。
ここで図2に示すように、グラフBLA3は、調光に応じた明るさ補正強調ΔGyを適切に設定することによってグラフBLA1に近い曲線にすることができる。すなわち、明るさ補正強調ΔGyによって、バックライトの調光を行った場合(BLA3)でも調光無しの場合の画像補正値Gyで補正した場合(BLA1)と同等の画像補正を得ることができる。
このように、明るさ補正強調によって調光による輝度低下を補償することで、調光なしの場合と知覚上同等の画像にすることができる。これにより、画質劣化を防止しながらバックライト調光による消費電力削減を実現できる。
しかしながら、明るさ補正強調によって大幅に輝度が強調されることで、表示画像のハイライト部分のコントラスト(階調)が失われるという課題があった。例えば、図2に示すように、ハイライト部分に対応する入力輝度の範囲をYHとした場合に、YHの補正後の出力輝度の範囲はYH’に圧縮され、コントラストが失われる。
2.コントラスト補正
図3に、上記課題を解決できる本実施形態の構成例を示す。本実施形態は、表示画像に応じて適応的にコントラスト補正を行う。すなわち、動画などの表示画像の変化に追従したコントラスト補正が行われる。このコントラスト補正によって表示画像のダイナミックレンジが圧縮され、明るさ補正強調によるハイライトつぶれを防止することができる。
具体的には、本実施形態は、統計情報取得部20、明るさ指標演算部30、フィルタ処理部40、コントラスト補正部60を含む。そして、統計情報取得部20が表示画像から統計情報を取得し、明るさ指標演算部30、フィルタ処理部40、コントラスト補正部60がコントラスト補正を行う。
より具体的には、統計情報取得部20は、表示画像に含まれる画素の輝度値について、統計情報を取得する。具体的には、各輝度値を持つ画素数を算出してヒストグラムを作成し、そのヒストグラムを基に統計情報を出力する。例えば、後に図7で説明するシャドー画素群についての第1の指標acc_min、ハイライト画素群についての第2の指標acc_maxを出力する。
明るさ指標演算部30は、統計情報取得部20が出力する統計情報を受けて明るさ指標Lm(輝度指標、輝度統計値)を出力する。明るさ指標Lmは、本実施形態が行う画像補正に用いられる指標であり、表示画像全体の持つ明るさを表す輝度値である。例えば、明るさ指標演算部30は、明るさ指標Lmとして指標acc_minと指標acc_maxの平均値を出力する。
フィルタ処理部40は、処理対象画素周辺領域に含まれる画素の輝度値をフィルタ処理して局所平均輝度値Ylpfを演算する。処理対象画素周辺領域は、表示画像の一部の領域であり、補正対象である処理対象画素を含む領域である。例えば、フィルタ処理は、処理対象画素周辺領域に含まれる画素の輝度値について平均をとる処理であり、局所平均輝度値Ylpfは、処理対象画素周辺領域の平均輝度である。
コントラスト補正部60は、表示画像のコントラスト補正(コントラスト圧縮)を行う。このコントラスト補正は、例えば表示画像のシャドー部分及びハイライト部分のコントラスト(輝度コントラスト)を維持又は改善する画像補正であり、補正の結果として表示画像のダイナミックレンジが圧縮される画像補正である。具体的には、明るさ指標Lmと局所平均輝度値Ylpfを受けて第1の補正値Cyを出力する。
さらに、本実施形態は加算部80を含むことができる。加算部80は、表示画像に含まれる画素のデータと補正値の加算処理を行う。具体的には、処理対象画素の輝度値Yに第1の補正値Cyを加算し、コントラスト補正後の処理対象画素の輝度(Y+Cy)を出力する。
なお、統計情報取得部20は、表示画像に含まれる全画素から統計情報を取得することもでき、表示画像に含まれる画素のうち一部の画素から統計情報を取得することもできる。また、統計情報取得部20は、統計情報として表示画像の平均輝度Yave(全画面平均輝度値)を取得することもできる。そして、明るさ指標演算部30は、明るさ指標Lmとして平均輝度Yaveを出力することもできる。フィルタ処理部40は、フィルタ処理として、処理対象画素周辺領域に含まれる画素の輝度値について画素毎に異なる重み付けをして平均値を求めることもできる。コントラスト補正部60は、ダイナミックレンジを変えないでコントラスト補正を行うこともできるし、ダイナミックレンジを拡大するコントラスト補正を行うこともできる。さらに、加算部80が行う加算処理は、加算だけでなく減算を含むこともでき、係数を乗算する処理を含むこともできる。
次に、図4、図5を用いてコントラスト補正について具体的に説明する。図4、図5は、本実施形態が行うコントラスト補正を模式的に示したものである。なお、説明を簡単にするために、表示画像FLAが輝度の高い領域PAと輝度の低い領域PBに二分されている場合を例に挙げている。但し、本実施形態の処理対象は図4の例に限らない。
図4に示すように、処理対象画素PXは表示画像FLAに含まれる画素であり、表示画像FLAが走査されるに従って表示画像FLA上を移動する。処理対象画素周辺領域PXRは、処理対象画素PXとともに表示画像FLA上を移動する領域である。例えば、処理対象画素PXを中心として(2n+1)画素×(2m+1)画素(n,mは、自然数)の領域を設定することができる。
ここで、明るさ指標演算部30は、この表示画像FLAに対応する明るさ指標Lmを求める。すなわち、明るさ指標Lmは1画面の表示画像FLAに対して1つの値が求められる。そのため明るさ指標Lmは、1画面中の走査によっては変化せず、動画であれば表示画像FLAの移り変わりに伴って変化する値である。また、フィルタ処理部40は、処理対象画素周辺領域PXRに対応する局所平均輝度値Ylpfを出力する。この局所平均輝度値Ylpfは、1画面中の走査に従って変化する値である。
図5に、図4に示す走査線SLA及び走査線SLBについての補正例を示す。図5では、走査線SLAが、明るさ指標Lmよりも輝度の高い領域PAにある走査線であり、走査線SLBが、明るさ指標Lmよりも輝度の低い領域PBにある走査線である場合について示している。
図5のグラフPYAは、走査線SLA上の画素の輝度値Yであり、処理対象画素PXが走査線SLAを移動する場合の処理対象画素PXの輝度値Yを表す。また、グラフPYLAは、その処理対象画素PXに対応する処理対象画素周辺領域PXRについて、局所平均輝度値Ylpfを示す。局所平均輝度値Ylpfは、処理対象画素周辺領域PXRの平均輝度であるため、輝度Yの変化よりも緩やかに変化する。
そして、コントラスト補正によって、グラフPYAに示す輝度値YがグラフCPYAに示す輝度値(Y+Cy)に補正される。コントラスト補正は、明るさ指標Lmを中心として、局所平均輝度値Ylpfに基づいて行われる。具体的には、コントラスト補正部60が明るさ指標Lmと局所平均輝度値Ylpfに基づいて各画素に対応する補正値Cy(負又は正の補正値)を出力することで行われる。例えば、明るさ指標Lmと局所平均輝度値Ylpfの差分値(Lm−Ylpf)に基づいて補正値Cyが出力される。
同様に、グラフPYBは走査線SLB上の画素の輝度値Yを示し、グラフPYLBは走査線SLB上の画素に対応する処理対象画素周辺領域PXRについての局所平均輝度値Ylpfを示す。そして、コントラスト補正部60によって、グラフPYBに示す輝度値YがグラフCPYBに示す輝度値(Y+Cy)に補正される。
このようにして、本実施形態は表示画像FLAのコントラスト補正を行う。例えば後に説明する図12のCA1,CA2に示すように、本実施形態は、局所平均輝度値Ylpfが最大値(例えば、255)付近及び最小値(例えば、0)付近のとき階調差が強調される補正値Cyを出力できる。これにより、表示画像FLAのハイライト部分及びシャドー部分のコントラストを改善することができる。
さらに、本実施形態は、コントラスト補正の結果として表示画像FLAのダイナミックレンジを変化させる。具体的には、補正値Cyの符号によってダイナミックレンジの拡大、圧縮を調整する。例えば図5に示すように、コントラスト補正部60は、差分値(Lm−Ylpf)が正の場合に輝度を小さくする補正値Cy(負の補正値)を出力し、差分値(Lm−Ylpf)が負の場合に輝度を大きくする補正値Cy(正の補正値)を出力することができる。そして、コントラスト補正部60は、局所平均輝度値Ylpfが明るさ指標Lmから離れているほど補正値Cyの絶対値を大きくすることができる。これにより、表示画像FLAのコントラスト補正を行うと共に、表示画像FLAのダイナミックレンジを圧縮することができる。
このとき、本実施形態は、表示画像FLAのダイナミックレンジを圧縮する一方で、距離の近い画素間の階調差を維持する。具体的には、局所平均輝度値Ylpfを用いて補正値Cyを求めることで実現される。例えば、図5のグラフCPYAに示すように、補正前のグラフPYAのコントラストが保たれている。なお、図5では表示画像FLAの走査方向のみ示しているが、表示画像FLA内での方向に関わらず距離の近い画素間のコントラストが保たれる。
ところで、図2等で説明したように、バックライト調光に伴う明るさ補正強調では輝度強調によってハイライト部分のコントラストが失われるという課題があった。すなわち、図6(A)に模式的に示すように、補正前の輝度のヒストグラムHTA1がヒストグラムHTA2に補正されるとき、HA1で示すハイライト部分がHA2に示すように高輝度側につぶされてしまう。
この点、本実施形態によれば、コントラスト補正によってダイナミックレンジを圧縮することができる。これにより、明るさ補正強調を行った場合の画質を改善できる。具体的には、図6(B)に模式的に示すように、補正前のヒストグラムHTA1がコントラスト補正によってヒストグラムHTA3に補正される。このとき、LA1,HA1間のダイナミックレンジがLA3,HA3間のダイナミックレンジに圧縮される。そうすると、明るさ補正強調によってヒストグラムHTA4に補正されたとき、再びダイナミックレンジがLA4,HA4間に拡張されても、HA4に示すようにハイライト部分のコントラストが失われない。これにより、画質を劣化させることなくバックライト調光でき、消費電力を削減できる。
また、単純にダイナミックレンジを圧縮する補正(例えば、ヒストグラム上の輝度値と補正値が1対1に対応する補正)を行うと、コントラストが劣化するという課題があった。具体的には、ダイナミックレンジ圧縮後の輝度値を丸め処理すること等により階調差が失われる。
この点、本実施形態によれば、局所平均輝度値に対して補正値を求めている。そのため、表示画像のローカルなコントラストを保存して補正することができる。これにより、表示画像のコントラストを劣化させることなくダイナミックレンジの圧縮を行うことができる。
なお、図6(B)では、説明のために、コントラスト補正をヒストグラムを用いて表現している。しかし、上記のように局所平均輝度値を用いた補正のため、補正の前後で輝度値が1対1に対応するわけではない。例えば、ヒストグラムHTA1の同一輝度の複数の画素が、補正後にヒストグラムHTA3上の同一の輝度に変換されるとは限らない。以下、図9(A)、図9(B)等でも同様である。
3.明るさ指標
本実施形態のコントラスト補正においては、明るさ指標Lmとして様々な値を用いることができる。そして、どのような値を用いるかによってコントラスト補正の特性を決めることができる。例えば後で説明するように、明るさ指標Lmとして表示画像の平均輝度Yaveを用いることができる。しかしながら、平均輝度Yaveを用いると、ヒストグラムが低輝度又は高輝度に偏った分布のとき補正の効果が得にくいという課題があった。
図7に、この課題を解決できる明るさ指標Lmの具体例を示す。この例では、シャドー画素群SG及びハイライト画素群HGを用いて明るさ指標Lmが求められる。まず、統計情報取得部20が、表示画像に含まれる画素の輝度値についてヒストグラムHTBを取得し、ヒストグラムHTBからシャドー画素群SGとハイライト画素群HGを求める。
シャドー画素群SGは、ヒストグラムHTBを輝度の低い順から積算して、積算値が第1の閾値ACC_MINTHを超えない範囲の画素で構成される。具体的には、下式(1)を満たす最大の輝度値kを求め、その輝度値以下の輝度を持つ画素をシャドー画素群SGとする(j,kは、j≧0,k≧0の整数)。ここでN(j)は、統計情報取得部20が統計情報の取得に用いた画素のうち輝度値jの画素数を表す。
Figure 0004626673
一方、ハイライト画素群HGは、ヒストグラムHTBを輝度の高い順から積算して、積算値が第2の閾値ACC_MAXTHを超えない範囲の画素で構成される。具体的には、下式(2)を満たす最大の輝度値kを求め、その輝度値以上の輝度を持つ画素をハイライト画素群HGとする。
Figure 0004626673
そして、統計情報取得部20は、シャドー画素群SGについての第1の指標acc_minと、ハイライト画素群HGについての第2の指標acc_maxを取得する。具体的には、指標acc_minはシャドー画素群SGに含まれる画素の輝度値のうち、最大の輝度値である。また、指標acc_maxは、ハイライト画素群HGに含まれる画素の輝度値のうち、最小の輝度値である。
次に、明るさ指標演算部30が指標acc_min、acc_maxを受けて明るさ指標Lmを演算して出力する。例えば、明るさ指標演算部30は、指標acc_minと指標acc_maxの平均値である指標acc_midを明るさ指標Lmとして出力できる。すなわち、明るさ指標演算部30は、下式(3)に示す指標acc_midを求めて明るさ指標Lmとして出力できる。
Figure 0004626673
なお、統計情報取得部20は、閾値ACC_MINTHと閾値ACC_MAXTHに互いに異なる値を用いて指標acc_min、acc_maxを求めることもできる。また、明るさ指標演算部30は、指標acc_min、acc_maxに異なる重み付けをして指標acc_midを求めることもできる。
このような明るさ指標Lmを用いれば、表示画像のハイライト部分にもシャドー部分にも均等にコントラスト補正を行うことができる。
図8(A)に示す画像例を用いて具体的に説明する。図8(A)に示す表示画像FLBは、画像の大部分が暗い領域で占められ、画面の一部に非常に明るい領域(ハイライト部分HL)がある画像を示している。例えば、表示画像FLBのように夜道の街灯や、その他、夜景や花火の画像などの場合である。
図8(B)は、表示画像FLBの輝度のヒストグラムHTC1を模式的に示したものである。ヒストグラムHTC1は、画像の大部分の暗い領域に対応する画素群Aと、ハイライト部分HLに対応する画素群Bから構成される。表示画像FLBに含まれる画素のほとんどは画素群Aに属するため、ヒストグラムHTC1は、画素群Bと比較して画素群Aに偏った形状となっている。このとき、指標acc_min、acc_maxは、例えば図8(B)に示すように決定される。そして、指標acc_min、acc_maxはシャドー画素群SG及びハイライト画素群HGに対応して決定されるため、指標acc_midは画素群Aと画素群Bの間の輝度値に設定される。一方、ヒストグラムHTC1の平均輝度Yaveは、画素の集中する画素群A付近の輝度値となる。
ところで、明るさ指標Lmとして平均輝度Yaveを用いた場合、表示画像FLBのような画像が適切にコントラスト補正されないという課題があった。図9(A)を用いて説明する。
図9(A)に明るさ指標Lmの比較例を用いたコントラスト補正の例を示す。図9(A)は、明るさ指標Lmとして平均輝度Yaveを使用し、表示画像FLBをコントラスト補正した例を示す模式図である。ここで、平均輝度Yaveは、下式(4)を用いて統計情報取得部20によって取得される(jは、j≧0の整数)。(Tx×Ty)は、統計情報取得部20が統計情報を取得する際に用いる全画素数を表し、N(j)は、そのうちの輝度値jの画素数を表す。
Figure 0004626673
図9(A)に示すように、本実施形態が表示画像FLBをコントラスト補正することによって、ヒストグラムHTC1がHTC2となり、画素群Aが画素群A’に移動し、画素群Bが画素群B’に移動する。前述のようにコントラスト補正は明るさ指標Lmを中心とした補正であるため、明るさ指標Lmに近い画素群Aから画素群A’の補正は、高輝度側にも低輝度側にも移動が小さい。一方、高輝度の画素群Bは明るさ指標Lmから離れているため、画素群Bから画素群B’の補正は低輝度側に大きく移動する。すなわち、図9(A)の例では、画素群Aに対して補正効果が少なく、画素群Bに対して補正が過剰になっている。そのため、ダイナミックレンジの圧縮についても高輝度側のみが過剰に圧縮されてしまう。
このように、明るさ指標Lmとして平均輝度Yaveを用いた場合、輝度分布が偏った表示画像に対して高輝度の画像領域と低輝度の画像領域を均等に補正できないという課題があった。
この点、本実施形態では明るさ指標Lmとして指標acc_midを用いたことにより、輝度分布が偏った表示画像に対しても高輝度の画像領域と低輝度の画像領域を均等に補正できる。
図9(B)に、明るさ指標Lmとして指標acc_midを使用し、表示画像FLBをコントラスト補正した例を模式図に示す。図9(B)に示すように、本実施形態が表示画像FLBをコントラスト補正することによって、ヒストグラムHTC1がHTC3となり、画素群Aが画素群A”に移動し、画素群Bが画素群B”に移動する。ここで、指標acc_midの輝度値は、画素群Aと画素群Bの間にある。そのため、図9(A)と比較して、画素群Aに対する補正効果が十分得られ、画素群Bに対する補正が過剰になることがない。また、ダイナミックレンジの圧縮についても、低輝度側と高輝度側を偏りなく圧縮することができる。
このように、本実施形態では明るさ指標Lmとして指標acc_midを用いたことにより適切なコントラスト補正を行うことができる。すなわち、シャドー画素群についての指標acc_min、ハイライト画素群についての指標acc_maxから明るさ指標Lmが決定されることで、表示画像の低輝度の領域も高輝度の領域も均等にコントラスト補正を行うことができる。
ここで、逆光で黒つぶれしたような低画質の画像についてはコントラストを改善すると共に、もともと高画質の画像には補正の影響を極力与えたくないという課題もあった。例えば、一般的な日中の風景写真のように画像の多くの領域が中輝度であり、階調も豊富な場合である。すなわち、輝度のヒストグラムでは中輝度に大多数の画素が分布し、輝度分布に偏りがない画像である。
この点、本実施形態によれば、中輝度に大多数の画素が分布する画像においては、その画素群の両端がシャドー画素群及びハイライト画素群となる。そのため、画素の分布の中央付近に明るさ指標が設定されることになる。局所平均輝度値が明るさ指標に近い場合に補正値が小さくなるようにしておけば、コントラスト補正によって画素の分布を壊さないようにできる。このように、低画質の画像はコントラストを改善するとともに、高画質の画像の画質を維持することができる。
4.詳細な構成例
4.1.コントラスト補正
図10に、本実施形態の詳細な構成例を示す。本実施形態は、統計情報取得部20、フィルタ処理部40、明るさ指標演算部30、時間軸フィルタ32,34、コントラスト調整補正量演算部58、コントラスト調整用オフセット演算部36、補正調整用レジスタ42、コントラスト補正部60、加算部80を含む。
具体的には、統計情報取得部20は、表示画像から統計情報を取得する。この統計情報に基づいて、フィルタ処理部40、明るさ指標演算部30、コントラスト補正部60によって表示画像に応じて適応的にコントラスト補正が行われる。また、コントラスト調整補正量演算部58、コントラスト調整用オフセット演算部36、補正調整用レジスタ42によってコントラスト補正のオフセット調整が行われる。加算部80は、処理対象画素の画素データに補正値を加算処理する。
より具体的には、統計情報取得部20は、表示画像の輝度Y、色差U(色差Cb)、色差V(色差Cr)を受けて、指標acc_min,acc_max、平均輝度Yave、平均色差Uave,Vave、指標Lumin,Lumaxを統計情報として出力する。さらに、輝度Y、色差U,Vから彩度Sに変換して、彩度平均Saveを統計情報として出力する。これらの統計情報は、動画の1フレーム毎に取得される。ここで、平均色差Uave,Vave、平均彩度Saveは、表示画像の色差U,V、彩度Sの平均値であり、上式(4)に示した平均輝度Yaveと同様にして取得される。指標Lumin,Lumaxは、統計情報の取得に用いられる画素のうち、それぞれ最小輝度の画素の輝度値、最大輝度の画素の輝度値である。統計情報取得部20は、例えば表示画像に含まれる2のべき乗個の画素を用いて統計情報を取得できる。
フィルタ処理部40は、輝度Yを受けて処理対象画素に対応する局所平均輝度値Ylpfを出力する。具体的には、フィルタ処理部40は、下式(5)に示すフィルタ処理を行う(n,mは、自然数。s,tは整数)。ここで、Y(x+s,y+t)は、座標(x+s,y+t)の画素の輝度値であり、Y(x,y)は、処理対象画素の輝度値である。また、処理対象画素を中心とする(2n+1)画素×(2m+1)画素の領域が処理対象画素周辺領域に対応する。下式(5)では、表示画像の解像度(例えば、VGA,QVGA)に応じてn,mを変えることで、解像度の異なる画像でも同等の補正効果を得ることができる。
Figure 0004626673
明るさ指標演算部30は、指標acc_min,acc_max、平均輝度Yaveを受けて明るさ指標Lm、明るさ差分値Ldを出力する。下式(6)に明るさ指標Lmを示す。具体的には、明るさ指標演算部30は明るさ指標Lmとして、上式(3)で示した指標acc_midが閾値acc_hthより大きいときは閾値acc_hthを出力し、指標acc_midが閾値acc_lthより小さいときは閾値acc_lthを出力する。また、指標acc_midが閾値acc_lth以上閾値acc_hth以下のときは、明るさ指標Lmとして指標acc_midを出力する。下式(7)に明るさ差分値Ldを示す。明るさ差分値Ldは、明るさ指標Lmと平均輝度Yaveの差分の絶対値であり、後述するコントラスト補正のオフセット調整に用いられる。例えば、明るさ差分値Ldが大きくなると、低輝度でのコントラスト補正が強調される。
Figure 0004626673
Figure 0004626673
時間軸フィルタ32,34は、コントラスト補正値Cyの急激な変化に伴う視覚的なちらつき(フリッカ)を防止するために挿入される。すなわち、動画のシーンチェンジにともなって補正値Cyが急激に変化することを防止する。
具体的には、時間軸フィルタ32は、明るさ指標Lmを受けて明るさ指標Lm_tを出力する。明るさ指標Lmは動画の1フレーム毎に決まる値であるため、時間軸フィルタ32は、動画のフレーム毎に時系列的に入力される明るさ指標Lmをローパスフィルタ処理して明るさ指標Lm_tを出力する。時間軸フィルタ34は、明るさ差分値Ldを受けて明るさ差分値Ld_tを出力する。時間軸フィルタ32と同様に、動画のフレーム毎に時系列的に入力される明るさ差分値Ldをローパスフィルタ処理して明るさ差分値Ld_tを出力する。例えば、時間軸フィルタ32,34は、IIR(Infinite impulse response)ローパスフィルタで構成できる。
補正調整用レジスタ42は、コントラスト補正の補正強度を調整するためのレジスタ値と、コントラスト補正のオフセット値を調整するためのレジスタ値を設定する。具体的には、補正調整用レジスタ42は、コントラスト補正部60に対してレジスタ値R_AH,R_ALを出力し、コントラスト補正用オフセット演算部36に対してレジスタ値R_OL,R_OH,R_BH,R_FL,R_FHを出力する。
コントラスト調整補正量演算部58は、バックライト調光による調光量Blr_tを受けて調光量オフセットCbofを出力する。具体的には、調光量Blr_tによるバックライト減光率が大きくなるに従って大きくなる調光量オフセットCbofを出力する。
コントラスト調整用オフセット演算部36は、明るさ差分値Ld_t、調光量オフセットCbof、レジスタ値R_OL,R_OH,R_BH,R_FL,R_FHを受けて、第1のオフセットOf1と第2のオフセットOf2を出力する。具体的には、コントラスト調整用オフセット演算部36は、下式(8)に従ってオフセットOf1を演算し、下式(9)に従ってオフセットOf2を演算する。すなわち、オフセットOf1,Of2は、レジスタ値R_OL,R_OHによって調整される。また、オフセットOf1,Of2の明るさ差分値Ld_tに依存する成分がレジスタ値R_FL,R_FHによって調整される。さらに、オフセットOf2は、調光量オフセットCbofに依存する成分がレジスタ値R_BHによって調整される。
Figure 0004626673
Figure 0004626673
コントラスト補正部60は、局所平均輝度値Ylpf、処理対象画素の輝度Y、明るさ指標Lm_t、オフセットOf1,Of2、レジスタ値R_AH,R_ALを受けて補正値Cyを出力する。具体的には、コントラスト補正部60は、変換部62、輝度コントラスト補正量テーブル68を含む。
より具体的には、コントラスト補正部60は、下式(10)に示す局所平均輝度値Ylpf’を求める。すなわち、処理対象画素の輝度Yと局所平均輝度値Ylpfの差分値の絶対値が閾値Ylth(所定の値)より小さい場合には、局所平均輝度値Ylpf’として処理対象画素の輝度Yを用い、他の場合は局所平均輝度値Ylpf’として局所平均輝度値Ylpfを用いる。
Figure 0004626673
そして、変換部62は、局所平均輝度値Ylpf’、明るさ指標Lm_t、オフセットOf1,Of2、レジスタ値R_AH,R_ALを受けて変換局所平均輝度値Aveを出力する。具体的には、明るさ指標Lm_tを用いて局所平均輝度値Ylpf’を変換処理して変換局所平均輝度値Aveを出力する。より具体的には、変換部62は、最初に下式(11)に示す点P1と下式(12)に示す点P2を求める。次に、変換部62は、点P1と点P2を結ぶ直線f(X)から下式(13)に示す変換局所平均輝度値Aveを求める。図11(A)にYlpf’<Lm_tの場合の変換例、図11(B)にYlpf’>Lm_tの場合の変換例を示す。図11(A)、図11(B)に示すように、変換部62によって点P1と点P2が求められると、対応する直線f(X)が決定される。そして、直線f(X)のうち局所平均輝度値Ylpf’に対応する1点f(Ylpf’)が変換局所平均輝度値Aveとして出力される。ここで、図11(B)に示すように、点P1と点P2を結ぶ直線がゼロ以下となる部分については、f(X)はゼロに設定される。
Figure 0004626673
Figure 0004626673
Figure 0004626673
輝度コントラスト補正量テーブル68は、変換局所平均輝度値Ave、局所平均輝度値Ylpf’を受けて、補正値Cyを出力する。具体的には、下式(14)に示す補正値Cyを求める。より具体的には、補正値Cyは、下式(14)の第1項(局所ガンマ)に示す、局所平均輝度値Ylpf’と変換局所平均輝度値Aveの比に依存する値と、局所平均輝度値Ylpf’の差分から求められる。下式(14)のγは、例えばγ=2.2である。このようにして、例えば図12のグラフCYA1〜CYA3に示す補正値Cyや、図13(A)に示すグラフCYB1〜CYB3の補正値Cyが出力される。なお、輝度コントラスト補正量テーブル68は、例えばルックアップテーブルを用いて構成できる。
Figure 0004626673
そして、加算部80は、処理対象画素の輝度Y、処理対象画素の色差U,V、補正値Cy,Ly,Gy’,Gcu’,Gcv’を受けて、出力輝度Yout、出力色差Uout,Voutを出力する。具体的には、加算部80は、処理対象画素の輝度Yと補正値Cy,Ly,Gy’の加算処理を行って出力輝度Yout(Yout=Y+Cy+Ly+Gy’)を出力する。また、加算部80は、処理対象画素の色差Uと補正値Gcu’の加算処理を行って出力色差Uout(Uout=U+Gcu’)を出力し、処理対象画素の色差Vと補正値Gcv’の加算処理を行って出力色差Vout(Vout=V+Gcv’)を出力する。ここで、補正値Lyは、後述するレベル補正の補正値であり、補正値Gcu’,Gcv’は、後述する色差補正の補正値である。
4.2.バックライト調光
さらに本実施形態は、拡張輝度平均演算部52、調光量演算部54、時間軸フィルタ56を含むことができる。具体的には、統計情報取得部20によって表示画像の統計情報が取得され、統計情報を受けて拡張輝度平均演算部52、調光量演算部54によって表示画像に応じて適応的にバックライト調光が行われる。
より具体的には、拡張輝度平均演算部52は、輝度平均Yave、彩度平均Uave,Vaveを受けて、拡張輝度平均Waveを出力する。拡張輝度平均Waveは、輝度平均Yave、色差平均Uave,Vaveの最大値である。
調光量演算部54は、拡張輝度平均Waveを受けて調光量Blrを出力する。この調光量Blrに応じてバックライト12(LED:Light Emitting Diode)が調光(減光)される。具体的には、調光量演算部54は、拡張輝度平均Waveが小さいほどバックライト減光率が大きくなる調光量Blrを出力する。
ここで、平均輝度Yaveのみ用いて調光量Blrが出力される場合、表示画像の一部に彩度の高い部分があっても、画像が全体として暗い場合にはバックライト減光率が大きくなる。そのため、彩度が低下して画質が劣化する。そこで、拡張平均輝度Waveを用いてバックライト減光率が決定される。すなわち、平均輝度Yaveよりも色差平均Uave又はVaveが大きい場合には、色差平均Uave又はVaveに応じて調光量Blrが出力される。これにより、表示画像の彩度が高い場合にはバックライト減光率が小さくなり、画質劣化が防止される。
時間軸フィルタ56は、動画のシーンチェンジにともなって調光量Blrが急激に変化し、フリッカが生じるのを防止する。具体的には、時間軸フィルタ56は、調光量Blrを受けてローパスフィルタ処理し、調光量Blr_tを出力する。
4.3.明るさ補正強調
本実施形態は、明るさ補正量演算部76、明るさ強化補正量演算部78、時間軸フィルタ82、輝度明るさ補正量テーブル84を含むことができる。具体的には、統計情報取得部20によって表示画像の統計情報が取得され、統計情報を受けて明るさ補正量演算部76、明るさ強化補正量演算部78、輝度明るさ補正量テーブル84が図2で説明した調光有りの場合の強化された画像補正を行う。
より具体的には、明るさ補正量演算部76は、調光なしの場合の明るさ補正を行う。すなわち、明るさ補正量演算部76は、平均輝度Yaveを受けて調光なしの場合の補正値Gyに対応する出力値Sgyを出力する。
明るさ強化補正量演算部78は、調光に伴う明るさ補正の強化を行う。具体的には、明るさ強化補正量演算部78は、調光量Blr_tを受けて調光に伴う補正値の強化分ΔGyに対応する出力値Sdgyを出力する。
時間軸フィルタ82は、シーンチェンジに伴う補正値Gy’の急激な変化を防止する。具体的には、時間軸フィルタ82は、表示画像のフレーム毎に入力される出力値Sgyと出力値Sdgyの加算値を受けてローパスフィルタ処理を行い、出力値Sgy’を出力する。
輝度明るさ補正量テーブル84は、出力値Sgy’を受けて補正値Gy’(第2の補正値)を出力する。具体的には、補正値Gy’(=Gy+ΔGy)によって図2で説明した調光有りの場合の強化された画像補正が行われる。
4.4.レベル補正
本実施形態は、時間軸フィルタ96,98、統計値コントラスト補正部92,94、輝度レベル補正量テーブル90(レベル補正部)を含む。具体的には、統計情報取得部20によって表示画像の統計情報が取得され、統計情報を受けて統計値コントラスト補正部92,94、輝度レベル補正量テーブル90が表示画像に応じて適応的にレベル補正を行う。
より具体的には、時間軸フィルタ96,98は、シーンチェンジに伴って補正値Lyが急激に変化することを防止する。具体的には、時間軸フィルタ96は、指標Luminを受けてローパスフィルタ処理を行い、指標Lumin_tを出力する。時間軸フィルタ98は、指標Lumaxを受けてローパスフィルタ処理を行い、指標Lumax_tを出力する。ここで、指標Lumin,Lumaxは、統計情報の取得に用いられる画素のうち、それぞれ最小輝度の画素の輝度値、最大輝度の画素の輝度値である。
統計値コントラスト補正部92は、輝度ヒストグラムの低輝度側の輝度レベルを最適化し、統計値コントラスト補正部94は、輝度ヒストグラムの高輝度側の輝度レベルを最適化する。具体的には、統計値コントラスト補正部92は、指標Lumin_tを受けて出力値Slminを出力し、統計値コントラスト補正部94は、指標Lumax_tを受けて出力値Slmaxを出力する。
輝度レベル補正量テーブル90は、出力値Slmin,Slmaxを受けて補正値Lyを出力する。具体的には、補正値Lyによって表示画像のレベル補正が行われる。より具体的には、図14に模式的に示すように、補正値LyによってヒストグラムHTD1がHTD2に補正される。すなわち、LD1に示すヒストグラムHTD1の低輝度部分がLD2に示すように低輝度方向に拡大され、HD1に示すヒストグラムHTD1の高輝度部分がHD2に示すように高輝度方向に拡大される。これにより、輝度ヒストグラムの低輝度側及び高輝度側の輝度レベルが最適化される。
4.5.彩度補正
図10に示す本実施形態の構成例は、彩度補正量演算部302、彩度強化補正量演算部300、時間軸フィルタ304、彩度補正量テーブル310を含むことができる。具体的には、統計情報取得部20が表示画像から統計情報を取得し、統計情報を受けて彩度補正量演算部302、彩度強化補正量演算部300、彩度補正量テーブル310が表示画像に応じて適応的に彩度補正(彩度強調)を行う。
より具体的には、彩度補正量演算部302は、バックライト調光無しの場合の彩度補正を行う。すなわち、彩度補正量演算部302は、彩度平均Saveを受けてバックライト調光無しの場合の彩度補正値に対応する出力信号Sgcを出力する。
彩度強化補正量演算部300は、バックライト調光に伴う強化された彩度補正を行う。具体的には、彩度強化補正量演算部300は、調光量Blr_tを受けてバックライト調光に伴う強化された彩度補正分に対応する出力値Sdgcを出力する。
時間軸フィルタ304は、表示画像の変化に伴う補正値Gcu’,Gcv’の急激な変化を防止する。具体的には、時間軸フィルタ304は、出力値SgcとSdgcの加算値を受けてローパスフィルタ処理を行い、出力値Sgc’を出力する。
彩度補正量テーブル310は、出力値Sgc’を受けてバックライト調光有りの場合の強化された彩度補正値Gcu’,Gcv’を出力する。具体的には、Gcu’=Gcu+ΔGcu、Gcv’=Gcv+ΔGcvと表すことができる。Gcu,Gcvは、バックライト調光無しの場合の彩度補正値であり、ΔGcu,ΔGcvは、バックライト調光に伴う強化された彩度補正分である。例えば、補正値Gcu’は、色差Uが負の時に負の補正値であり、色差Uが正の時に正の補正値である。これにより、表示画像の彩度が強調される。また、ΔGcu,ΔGcvによって、バックライト減光率が大きいほど表示画像の彩度が強調される。
ここで、輝度レベル補正量テーブル90、輝度明るさ補正量テーブル84、彩度補正量テーブル310は、例えばルックアップテーブルで構成できる。また、時間軸フィルタ56,82,96,98は、例えばIIRローパスフィルタで構成できる。
なお、本実施形態は図10に示す構成例に限定されず、一部構成を省略して使用することもできる(例えば時間軸フィルタ32,34,56,82,96,98)。
5.コントラスト補正の具体例
5.1.補正値Cyの具体例
図12、図13(A)、図13(B)を用いて、コントラスト補正部60が出力する補正値Cyの具体例を説明する。
図12に補正値Cyの第1の具体例を示す。図12に示すのは、Of1=Of2=0の場合の具体例である。例えばグラフCYA2において、CA1とCA2に示す部分では局所平均輝度値Ylpf’が大きくなるに従って補正値Cyも大きくなる。すなわち、表示画像のシャドー部分とハイライト部分においては、補正値Cyによってコントラストが強調される。また、グラフCYA1〜CYA3に示すように補正値Cyは、Ylpf’<Lm_tにおいて正の値であり、Ylpf’>Lm_tにおいて負の値である。すなわち、補正値Cyによって表示画像のダイナミックレンジが圧縮される。
図13(A)に補正値Cyの第2の具体例を示す。図13(A)に示すのは、Of2≠0の場合の具体例である。グラフCYB1〜CYB3に示すように、補正値Cyの高輝度側にはOf2によってオフセットOFHが生じる。このオフセットOFHは、明るさ補正強調によるハイライトつぶれをより効果的に防止することができる。
図13(B)を用いて説明する。グラフBLB1とBLB2は、図2で説明した明るさ補正強調分ΔGyを含む補正値Gy’による補正を示す。図13(B)に示すように、輝度が0〜255で表される場合、オフセットOFHを含む補正値Cyによって輝度は0〜(255−OFH)の範囲内に補正される。そうすると、補正値Gy’による補正においてはグラフBLB1に示す範囲で補正される。これにより、グラフBLB2に示す、ハイライト部分のコントラストが失われる範囲を用いずに明るさ補正強調を行うことができる。
ところで、明るさ補正強調による画質劣化を防止するため、コントラスト補正とともにダイナミックレンジ圧縮を行うという課題があった。同時に、逆光写真などのシャドー部の画質を改善するという課題もあった。
この点、本実施形態によれば、局所平均輝度値Ylpfが明るさ指標Lmより小さい場合には、処理対象画素の輝度値を大きくする補正値Cyを出力し、局所平均輝度値Ylpfが明るさ指標Lmより大きい場合には、処理対象画素の輝度値を小さくするコントラスト補正を行うことができる。また、明るさ指標Lmと局所平均輝度値Ylpfの差分の絶対値が大きいほど絶対値が大きくなる補正値Cyによってコントラスト補正を行うことができる。これは、図10に示す構成例のコントラスト補正部60、変換部62、輝度コントラスト補正量テーブル68によって実現できる。具体的には、上式(11)〜(14)によって実現できる。例えば、図12、図13(A)に示す補正量Cyによって実現できる。
これにより、表示画像のコントラストを改善するコントラスト補正を行うことができる。具体的には、図12等に示したように、表示画像のシャドー部分とハイライト部分のコントラストを強調して画質を改善することができる。さらに、表示画像のコントラストを劣化させることなくダイナミックレンジを圧縮することができる。
また、本実施形態によれば、局所平均輝度値Ylpfが明るさ指標Lmより小さいときは、局所平均輝度値Ylpfより変換局所平均輝度値Aveが大きくなる変換処理を行う。また、局所平均輝度値Ylpfが明るさ指標Lmより大きいときは、局所平均輝度値Ylpfより変換局所平均輝度値Aveが小さくなる変換処理を行う。これは、図10に示す構成例の変換部62及び上式(11)〜(13)によって実現できる。具体的には、図11(A)、図11(B)で説明した変換処理によって実現できる。
これにより、表示画像のコントラストを劣化させることなくダイナミックレンジを圧縮できる補正値Cyを実現することができる。
さらに、本実施形態によれば、明るさ指標Lmより輝度の高い局所平均輝度値Ylpfに対応する第1の補正強度及び、明るさ指標Lmより輝度の低い局所平均輝度値Ylpfに対応する第2の補正強度を設定することができる。これは、レジスタ値R_AH(第1の補正強度)、レジスタ値R_AL(第2の補正強度)によって実現できる。
これにより、レジスタ設定によってコントラスト補正強度を設定することができる。さらに、表示画像の低輝度部分におけるコントラスト補正強度と、表示画像の高輝度部分における補正強度を独立して設定することができる。
具体的には、本実施形態によれば、局所平均輝度値Ylpfが明るさ指標Lmより大きい場合には、明るさ指標Lmと局所平均輝度値Ylpfの差分値に第1の補正強度R_AHを乗算する乗算処理を行う。また、局所平均輝度値Ylpfが明るさ指標Lmより小さい場合には、明るさ指標Lmと局所平均輝度値Ylpfの差分値に第2の補正強度R_ALを乗算する乗算処理を行う。これは、図10に示す構成例の補正調整用レジスタ42、変換部62及び、上式(11)で実現できる。
これにより、コントラスト補正強度の調整を実現することができる。さらに、表示画像の低輝度部分におけるコントラスト補正強度の調整、表示画像の高輝度部分における補正強度の調整を独立して行うことができる。すなわち、レジスタ値R_AHによって補正値Cyの高輝度側を強調でき、レジスタ値R_ALによって補正値Cyの低輝度側を強調できる。
また、本実施形態によれば、変換処理の低輝度側のオフセットを調整する第1のオフセットと、変換処理の高輝度側のオフセットを調整する第2のオフセットを有する。そして、差分値(Lm−Ylpf)に補正強度R_AH,R_ALを乗算する乗算処理の結果に第1のオフセットを加算するオフセット加算処理を行う。これは、図10に示す構成例のコントラスト調整用オフセット演算部36、変換部62及び、第1のオフセットOf1、第2のオフセットOf2、上式(11)、上式(12)によって実現できる。
これにより、コントラスト補正のオフセットを調整できる。さらに、低輝度側のオフセットと高輝度側のオフセットを独立して調整することができる。すなわち、オフセットOf1によって補正値Cyの低輝度側を強調し、高輝度側を弱めることができる。また、オフセットOf2によって補正値Cyの低輝度側を弱め、高輝度側を強調することができるとともに、図13(A)、図13(B)に示したオフセットOFHを調整できる。オフセットOFHにより、明るさ補正強調による画質劣化をさらに効果的に防止できる。
具体的には、本実施形態によれば、第1,第2のオフセット調整値を設定することができる。そして、第1,第2のオフセット調整値を用いてオフセットOf1,Of2を出力することができる。これは、図10に示す構成例の補正調整用レジスタ42、コントラスト調整用オフセット演算部36及び、レジスタ値R_OL,R_OH(第1,第2のオフセット調整値)、上式(8)、上式(9)によって実現できる。
これにより、レジスタ設定によってコントラスト補正のオフセットを調整できる。そして、低輝度側のオフセットと高輝度側のオフセットの独立した調整を実現できる。
さらに、本実施形態によれば、明るさ指標Lmと平均輝度Yaveの差分の絶対値である明るさ差分値Ldを用いてのオフセットOf1,Of2を出力できる。これは、明るさ指標演算部30、コントラスト調整用オフセット演算部36、上式(7)、上式(8)、上式(9)によって実現できる。
これにより、輝度分布に偏りのある表示画像において、コントラスト補正を強調することができる。例えば、図8(B)で説明した低輝度側に偏ったヒストグラムをもつ表示画像の場合、明るさ指標Lm(=acc_mid)より平均輝度Yaveが小さくなるため、明るさ差分値Ldが大きくなる。そして、上式(8)、上式(9)よりオフセットOf1,Of2が大きくなり、補正値Cyの低輝度側及び高輝度側がともに強調される。
ここで、平均輝度Yaveが低い場合にはバックライト減光率が大きくなるため、明るさ補正強調による輝度強調も大きくなる。この点、本実施形態では明るさ差分値Ldを用いて補正値Cyを強調することができる。すなわち、平均輝度Yaveが低い場合に、ハイライト部分の輝度をより大きく下げることでハイライト部分の階調つぶれを防止し、画素数の多い低輝度部分のコントラストをより強調することができる。一方、輝度分布に偏りがない場合には、明るさ指標Lmと平均輝度Yaveの値が近く、明るさ差分値Ldの値が小さい。そのため、輝度分布に偏りのある低画質の画像の場合にだけコントラスト補正を強調することができる。
ところで、表示画像の低階調部分(例えば、処理対象画素の輝度値と局所平均輝度値の差分値が0や1)において局所平均輝度値Ylpfを用いてコントラスト補正すると、階調差を壊す場合があるという課題があった。すなわち、Ylpfは処理対象画素周辺領域の輝度平均のため、低階調部分では丸め処理によって平均化される(例えば、Ylpf=0.6,1.4が1,1に丸め処理される)という課題があった。さらに、Ylpfの平均化を避けるために演算精度を上げると回路規模の増大を招くという課題があった。
この点、本実施形態によれば、処理対象画素の輝度値Yと局所平均輝度値Ylpfの差分値の絶対値が所定の値より小さいとき、局所平均輝度値Ylpfの代わりに処理対象画素の輝度値Yを用いることができる。これは、コントラスト補正部60及び、閾値Ylth(所定の値)、上式(10)によって実現できる。
これにより、局所平均輝度値Ylpfのみ用いた場合と比べて、低階調のコントラストを強調するコントラスト補正を実現できる。そして、Ylpfの演算精度を上げることなく、低階調の階調差が壊されることを防止できる。これにより、回路規模の増大を防止できる。
ところで、本実施形態は、画像表示用の照明を表示画像に応じて減光する補正を行う調光量を出力する調光補正部と、調光量に基づいて輝度をエンハンスする第2の補正値を出力する強化明るさ補正部を含むこともできる。調光補正部は、図10に示す構成例の拡張輝度平均演算部52、調光量演算部54、時間軸フィルタ56によって実現できる。強化明るさ補正部は、明るさ補正量演算部76、明るさ強化補正量演算部78、時間軸フィルタ82、輝度明るさ補正量テーブル84によって実現できる。
これにより、図1、図2等で説明したバックライト調光に伴う強化された画像補正を実現できる。すなわち、調光量演算部54が画像表示用の照明12(LED)を減光する調光量Blrを出力し、明るさ補正量演算部76が調光量Blrを受けて明るさ補正強調を行い(輝度をエンハンスし)、輝度明るさ補正量テーブル84が第2の補正値Gy’を出力できる。そして、調光に伴う強化された画像補正とコントラスト補正によって画質を劣化させることなくバックライト調光でき、消費電力を削減できる。
5.2.本実施形態による画像補正の具体例
図15に本実施形態による画像補正の具体例を示す。図15では、説明を簡単にするために静止画に本実施形態を適用した場合について説明する。但し、本発明によれば、動画に適用して表示画像に対して適応的に画像補正することもできる。
図15は、本実施形態を適用した画像の輝度ヒストグラム例である。HTE1は、補正前の画像のヒストグラム例である。HTE2は、コントラスト補正を行った後のヒストグラム例である。HTE3は、さらにバックライト調光に伴う強化された画像補正を行った後のヒストグラム例である。
まず、コントラスト補正によって、LE1に示すシャドー部分がLE2に示すように高輝度方向に移動し、HE1に示すハイライト部分がHE2に示すように低輝度方向に移動する。このように、コントラスト補正によってダイナミックレンジが圧縮される。次に、調光に伴う強化された画像補正によって輝度が強調される。このとき、HE3に示すように、コントラスト補正を行ったことでハイライト部分のコントラスト破壊が防止される。また、LE2,LE3に示すように、シャドー部分のコントラストがLE1に比べて改善され、HE2、HE3に示すようにハイライト部分のコントラストがHE1に比べて改善される。
6.画像表示制御装置
6.1.構成例
図16に画像表示制御装置(集積回路装置)の構成例を示す。図16に示す構成例は、タイミング制御部510、統計値取得部520、補正係数演算部540、画像補正部560を含む。
タイミング制御部510は、例えば図18に示すホストコンピュータ106から入力されるYUV形式の画像信号から同期信号を抜き出し、各部の動作タイミングを示すタイミング信号を生成する。
統計値取得部520は、YUV形式の画像信号と、タイミング制御部510から入力されるタイミング信号を受けて、表示画像の1フレーム分の画像信号の統計情報(輝度、色差及び、彩度に関する統計情報)を取得する。
補正係数演算部540は、タイミング制御部510から入力されるタイミング信号と、統計値取得部520から入力される統計情報を受けて、画像補正用の補正値(Cy,Gy’等)と、減光後のバックライト輝度(調光量Blr)とをリアルタイムに算出する。そして、算出した調光量Blrを例えば図18に示すバックライト(LED)ドライバ114に向けて出力する。
画像補正部560は、YUV形式の画像信号と、補正係数演算部540から入力される画像補整用の補正値を受けて、次のフレームの画像信号の入力に同期して画像補正を実行する。そして、補正された画像信号を例えば図18に示すパネルドライバ112に出力する。
6.2.詳細な構成例
図17に画像表示制御装置の詳細な構成例を示す。
ここでは、画像表示制御装置108は、例えば図18に示す携帯端末(電子機器。例えば、携帯電話端末、PDA端末、携帯可能なコンピュータ端末)に搭載されているものとする。携帯端末は、ワンセグ放送を受信するアンテナANと、通信/画像処理部102と、ホストコンピュータ106を含む。ホストコンピュータ106は、例えば、受信したストリーミング映像信号を、画像表示制御装置108に供給する。
図17に示すように、画像表示制御装置108は、ホストコンピュータ106から与えられる画像信号(RGB(色信号形式)あるいはYUV(輝度信号と色差信号の形式))を受け、その画像信号がRGBの場合はYUVの画像信号に変換する画像入力インタフェース(I/F)150と、ホストコンピュータ106から与えられる制御情報(例えば、レジスタ値R_AH,R_AL)を一時的に蓄積するレジスタ152と、画像信号に画像補正処理を施す画像補正コア200と、YUV形式の画像信号をRGB形式の画像信号に変換する、または、YUV形式のまま出力する画像出力インタフェース(I/F)154を含む。
以下、図17の画像補正コア200の各部の機能および動作を具体的に説明する。
タイミング部210は、画像入力インタフェース(I/F)150から出力されるYUV形式の画像信号から同期信号を抜き出し、各部の動作タイミングを示すタイミング信号を生成する。
共用演算器218は、第1および第2のマルチプレクサ(400a,400b)と、算術論理演算ユニット(ALU)402と、算術論理ユニット(ALU)の演算結果を振り分ける分配器404と、複数の出力先レジスタ(デスティネーションレジスタ)406を含む。出力先レジスタ406は、出力先毎に区分されたレジスタ郡408a〜408cにより構成される。また、複数のレジスタ郡408a〜408cの各々に蓄積された演算結果の少なくとも一部を、第1および第2のマルチプレクサ(400a,400b)の入力側に帰還させる帰還経路が形成されている。
ヒストグラム作成部(統計値取得部)212は、1フレーム分の画像信号の統計情報(輝度に関する統計情報および彩度に関する統計情報)を取得する。
コードテーブル(コード記憶部)216は、共用演算器218の動作手順を指定するための複数のマイクロコードを記憶している。
シーケンスカウンタ(シーケンス指示部)214は、コードテーブル216をポインティングし、コードテーブル216からのマイクロコードの出力順を制御する。デコーダ217は、コードテーブル216から順次、出力されるマイクロコードをデコードして、共用演算器に供給するための命令およびデータ(係数等)の少なくとも一つを生成する。
デコーダ217からは、第1および第2のマルチプレクサ(400a,400b)に対して、演算に用いられる係数が供給され、算術論理ユニット(ALU)402に対して演算命令(オペコード)が供給され、分配器404に対して分配先情報(デスティネーション情報)が供給される。
共用演算器218は、画像補正用の補正値(Cy,Gy’等)と、減光後のバックライト輝度(調光量Blr)とをリアルタイムに算出する。共用演算器218の演算によって、結果的に、図3等を用いて説明したコントラスト補正による画像処理が実行されることになる。また、図10等を用いて説明した、バックライト調光処理、バックライト調光に伴う強化された補正による画像処理、彩度強調補正による画像処理、レベル補正による画像処理が、実質的に実行されることになる。
共用演算器218の演算は、上述のとおり、信号処理手順をコード化したマイクロコードによって制御される。共用化された最小限の回路構成の演算器を用いることによって、同種のハードウエアを並列に設ける必要なくリアルタイム演算が可能となる。よって、最小の回路、最小の消費電力により、高速な調光制御および画像補正を実現することができる。
共用演算器218の演算結果は、出力先毎に区分されたレジスタ郡408a〜408cに一時的に蓄積される。算出されたバックライト輝度(調光量Blr)は、バックライ
ト(LED)ドライバに向けて出力され、また、補正値は、係数バッファ410に蓄積される。係数バッファ410に蓄積された補正値は、次のフレームの画像信号の入力に同期して画像補正部222に供給され、画像補正が実行される。
また、複数のレジスタ郡408a〜408cの各々に蓄積された演算結果の少なくとも一部は、帰還経路を介して、第1および第2のマルチプレクサ(400a,400b)の入力側に帰還される。これによって、まず、減光後のバックライト輝度を求め、その演算結果を入力側に戻して、その求められた照明輝度に基づいて画像の補正値を求める処理が実行される。
7.携帯電話端末
図18に携帯電話端末(電子機器)の構成例を示す。図18では、携帯電話端末100(電子機器)に画像表示制御装置(画像表示制御LSI)が搭載されている。この携帯電話端末100は、アンテナANと、通信/画像処理部102と、CCDカメラ104と、ホストコンピュータ106と、画像表示制御装置108と、ドライバ110(パネルドライバ112とバックライトドライバ114を含む)と、表示パネル(例えば液晶パネル(LCD))116と、バックライト(LED)118を含む。
なお、画像表示制御装置108は、ドライバ110とは別個の制御LSIであってもよく、ドライバ110に搭載されてもよい。また、画像表示制御装置108は、ドライバ110のコントローラに搭載されてもよく、駆動制御装置(ドライバとコントローラが一体化されたもの)に搭載されてもよい。
本発明の画像表示制御装置108は、ストリーミング画像のような動画像を処理可能なリアルタイム性、優れた省電力性および小型化が可能である、という特性を備えている。よって、本発明の画像表示制御装置が搭載されることによって、電子機器100の付加価値が向上する。
なお、上記のように本実施形態について詳細に説明したが、本発明の新規事項および効果から実体的に逸脱しない多くの変形が可能であることは当業者には容易に理解できるであろう。従って、このような変形例はすべて本発明の範囲に含まれるものとする。例えば、明細書又は図面において、少なくとも一度、より広義又は同義な異なる用語(表示画像、コントラスト補正、コントラスト、明るさ指標等)と共に記載された用語(フレーム画像、コントラスト圧縮、輝度コントラスト、輝度指標等)は、明細書又は図面のいかなる箇所においても、その異なる用語に置き換えることができる。またコントラスト補正部、明るさ指標演算部、フィルタ処理部、統計情報取得部、強化明るさ補正部、調光補正部、画像処理装置、集積回路装置、電子機器の構成、動作も本実施形態で説明したものに限定に限定されず、種々の変形実施が可能である。
図1(A)〜図1(C)は、調光制御及び、調光に伴う画像補正の説明図。 調光に伴う画像補正の特性図。 本実施形態の構成例。 コントラスト補正の説明図。 コントラスト補正の説明図。 図6(A)、図6(B)は、コントラスト補正と調光に伴う画像補正の関係を説明する説明図。 明るさ指標の具体例。 図8(A)、図8(B)は、明るさ指標を説明する画像例。 図9(A)は、明るさ指標の比較例を用いたコントラスト補正の例。図9(B)は、明るさ指標の具体例を用いたコントラスト補正の例。 本実施形態の詳細な構成例。 図11(A)、図11(B)は、変換部の説明図。 補正値の第1の具体例。 図13(A)は、補正値の第2の具体例。図13(B)は、補正値の第2の具体例と調光に伴う画像補正の関係を説明する説明図。 レベル補正の説明図。 本実施形態を適用した画像例のヒストグラム。 集積回路装置の構成例。 集積回路装置の詳細な構成例。 電子機器の構成例。 調光制御及び、調光に伴う画像補正の特性図。
符号の説明
10 液晶パネル、 12 照明、 20 統計情報取得部、
30 明るさ指標演算部、 36 コントラスト調整用オフセット演算部、
40 フィルタ処理部、 42 補正調整用レジスタ、 52 拡張輝度平均演算部、
54 調光量演算部、 58 コントラスト調整補正量演算部、
60 コントラスト補正部、 62 変換部、
68 輝度コントラスト補正量テーブル、 76 明るさ補正量演算部、
78 明るさ強化補正量演算部、 80 加算部、 84 輝度明るさ補正量テーブル、
90 輝度レベル補正量テーブル、 92,94 統計値コントラスト補正部、
102 通信画像処理部、 104 CCD、 106 ホストコンピュータ、
108 画像表示制御装置、 110 ドライバ、 112 パネルドライバ、
114 バックライトドライバ、 116 表示パネル、 118 バックライト、
300 彩度強化補正量演算部、 302 彩度補正量演算部、
310 彩度補正量テーブル、 510 タイミング制御部、 520 統計値取得部、
540 補正係数演算部、 560 画像補正部、
Cy 第1の補正値、 Gy’ 第2の補正値、 Y 輝度、 Yave 平均輝度、
Lm 明るさ指標、 acc_min 第1の指標、 acc_max 第2の指標、
SG シャドー画素群、 HG ハイライト画素群、 Ylpf 局所平均輝度値、
PXR 処理対象画素周辺領域、 PX 処理対象画素、 Blr 調光量

Claims (17)

  1. 表示画像の輝度値の統計情報を取得する統計情報取得部と、
    前記統計情報に基づいて前記表示画像の明るさ指標を演算する明るさ指標演算部と、
    前記表示画像の処理対象画素周辺領域に含まれる複数の画素の輝度値をフィルタ処理して、局所平均輝度値を演算するフィルタ処理部と、
    前記明るさ指標と前記局所平均輝度値に基づいて前記表示画像のコントラスト補正を行うコントラスト補正部と、
    を含み、
    前記統計情報取得部は、
    前記統計情報として、シャドー画素群についての第1の指標と、ハイライト画素群についての第2の指標を取得し、
    前記明るさ指標演算部は、
    前記第1の指標と前記第2の指標から前記明るさ指標を演算し、
    前記第1の指標は、
    前記表示画像に含まれる画素の画素数を輝度の低い順から積算して、積算値が第1の閾値を超えない範囲で最大の輝度値であり、
    前記第2の指標は、
    前記表示画像に含まれる画素の画素数を輝度の高い順から積算して、積算値が第2の閾値を超えない範囲で最小の輝度値であることを特徴とする画像処理装置。
  2. 請求項1において、
    前記明るさ指標が、前記第1の指標と前記第2の指標の平均であることを特徴とする画像処理装置。
  3. 請求項1又は2において、
    前記表示画像に含まれる画素の輝度値と補正値の加算処理を行う加算部を含み、
    前記処理対象画素周辺領域は、
    前記表示画像における処理対象画素を含む領域であり、
    前記コントラスト補正部は、
    前記明るさ指標と前記局所平均輝度値の差分から求めた第1の補正値を出力し、
    前記加算部は、
    前記処理対象画素の輝度値と前記第1の補正値の加算処理を行うことを特徴とする画像処理装置。
  4. 請求項において、
    前記コントラスト補正部は、
    前記局所平均輝度値が前記明るさ指標より小さい場合には、前記処理対象画素の輝度値を大きくする補正値を前記第1の補正値として出力し、
    前記局所平均輝度値が前記明るさ指標より大きい場合には、前記処理対象画素の輝度値を小さくする補正値を前記第1の補正値として出力することを特徴とする画像処理装置。
  5. 請求項において、
    前記コントラスト補正部は、
    前記明るさ指標と前記局所平均輝度値の差分の絶対値が大きいほど絶対値が大きくなる補正値を前記第1の補正値として出力することを特徴とする画像処理装置。
  6. 請求項1又は2において、
    前記表示画像に含まれる画素の輝度値と補正値の加算処理を行う加算部を含み、
    前記処理対象画素周辺領域は、
    前記表示画像における処理対象画素を含む領域であり、
    前記コントラスト補正部は、
    前記明るさ指標を用いて前記局所平均輝度値を変換処理して変換局所平均輝度値を出力する変換部を有し、前記局所平均輝度値と前記変換局所平均輝度値を用いて第1の補正値を出力し、
    前記加算部は、
    前記処理対象画素の輝度値と前記第1の補正値の加算処理を行うことを特徴とする画像処理装置。
  7. 請求項において、
    前記変換部は、
    前記局所平均輝度値が前記明るさ指標より小さいときは、前記局所平均輝度値より前記変換局所平均輝度値が大きくなる前記変換処理を行い、前記局所平均輝度値が前記明るさ指標より大きいときは、前記局所平均輝度値より前記変換局所平均輝度値が小さくなる前記変換処理を行うことを特徴とする画像処理装置。
  8. 請求項又はにおいて、
    前記明るさ指標より輝度の高い前記局所平均輝度値に対応する第1の補正強度及び、前記明るさ指標より輝度の低い前記局所平均輝度値に対応する第2の補正強度を設定する補正調整レジスタを含むことを特徴とする画像処理装置。
  9. 請求項において、
    前記変換部は、
    前記局所平均輝度値が前記明るさ指標より大きい場合には、前記明るさ指標と前記局所平均輝度値の差分値に前記第1の補正強度を乗算する乗算処理を行い、前記局所平均輝度値が前記明るさ指標より小さい場合には、前記明るさ指標と前記局所平均輝度値の差分値に前記第2の補正強度を乗算する前記乗算処理を行うことを特徴とする画像処理装置。
  10. 請求項又はにおいて、
    前記変換処理の低輝度側のオフセットを調整する第1のオフセットと、前記変換処理の高輝度側のオフセットを調整する第2のオフセットを出力するコントラスト調整用オフセット演算部を含むことを特徴とする画像処理装置。
  11. 請求項10において、
    前記統計情報取得部は、
    前記統計情報として、前記表示画像の平均輝度を取得し、
    前記明るさ指標演算部は、
    前記明るさ指標と前記平均輝度の差分の絶対値である明るさ差分値を出力し、
    前記コントラスト調整用オフセット演算部は、
    前記明るさ差分値を用いて前記第1のオフセットと前記第2のオフセットを出力することを特徴とする画像処理装置。
  12. 請求項10又は11において、
    第1のオフセット調整値と第2のオフセット調整値を設定する補正調整レジスタを含み、
    前記コントラスト調整用オフセット演算部は、
    前記第1のオフセット調整値を用いて前記第1のオフセットを出力し、前記第2のオフ
    セット調整値を用いて前記第2のオフセットを出力することを特徴とする画像処理装置。
  13. 請求項12において、
    前記補正調整レジスタは、
    前記明るさ指標より輝度の高い前記局所平均輝度値に対応する第1の補正強度と、前記明るさ指標より輝度の低い前記局所平均輝度値に対応する第2の補正強度を設定し、
    前記変換部は、
    前記局所平均輝度値が前記明るさ指標より大きい場合には、前記明るさ指標と前記局所平均輝度値の差分値に前記第1の補正強度を乗算する乗算処理を行い、前記局所平均輝度値が前記明るさ指標より小さい場合には、前記明るさ指標と前記局所平均輝度値の差分値に前記第2の補正強度を乗算する前記乗算処理を行い、
    前記乗算処理の結果と前記第1のオフセットを加算するオフセット加算処理を行うことを特徴とする画像処理装置。
  14. 請求項乃至13のいずれかにおいて、
    前記コントラスト補正部は、
    前記処理対象画素の輝度値と前記局所平均輝度値の差分値の絶対値が所定の値より小さいとき、前記局所平均輝度値の代わりに前記処理対象画素の輝度値を用いることを特徴とする画像処理装置。
  15. 請求項乃至14のいずれかにおいて、
    画像表示用の照明を表示画像に応じて減光する補正を行う調光量を出力する調光補正部と、
    前記調光量に基づいて輝度をエンハンスする第2の補正値を出力する明るさ補正強化演算部と、
    を含み、
    前記加算部が、前記処理対象画素の輝度値と前記第2の補正値の加算処理を行うことを特徴とする画像処理装置。
  16. 請求項1乃至15のいずれかに記載の画像処理装置を含むことを特徴とする集積回路装置。
  17. 請求項16に記載の集積回路装置を含むことを特徴とする電子機器。
JP2008118596A 2008-04-30 2008-04-30 画像処理装置、集積回路装置及び電子機器 Active JP4626673B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2008118596A JP4626673B2 (ja) 2008-04-30 2008-04-30 画像処理装置、集積回路装置及び電子機器
US12/426,596 US20090274389A1 (en) 2008-04-30 2009-04-20 Image processor, integrated circuit device, and electronic apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008118596A JP4626673B2 (ja) 2008-04-30 2008-04-30 画像処理装置、集積回路装置及び電子機器

Publications (2)

Publication Number Publication Date
JP2009271096A JP2009271096A (ja) 2009-11-19
JP4626673B2 true JP4626673B2 (ja) 2011-02-09

Family

ID=41257129

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008118596A Active JP4626673B2 (ja) 2008-04-30 2008-04-30 画像処理装置、集積回路装置及び電子機器

Country Status (2)

Country Link
US (1) US20090274389A1 (ja)
JP (1) JP4626673B2 (ja)

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101034755B1 (ko) * 2009-11-12 2011-05-17 삼성모바일디스플레이주식회사 휘도보정시스템 및 이를 이용한 휘도보정방법
US8730318B2 (en) 2010-07-29 2014-05-20 Hitachi-Ge Nuclear Energy, Ltd. Inspection apparatus and method for producing image for inspection
US8648873B1 (en) * 2010-11-19 2014-02-11 Exelis, Inc. Spatially variant dynamic range adjustment for still frames and videos
JP5796380B2 (ja) * 2011-07-11 2015-10-21 セイコーエプソン株式会社 画像処理方法、画像処理装置及び画像表示システム
JP5284444B2 (ja) * 2011-11-11 2013-09-11 シャープ株式会社 映像表示装置およびテレビ受信装置
JP5085792B1 (ja) * 2012-02-08 2012-11-28 シャープ株式会社 映像表示装置およびテレビ受信装置
US9704226B2 (en) * 2013-03-14 2017-07-11 Drs Network & Imaging Systems, Llc System and method for fast digital signal dynamic range reduction using adaptive histogram compaction and stabilization
US10019787B2 (en) 2013-04-04 2018-07-10 Nvidia Corporation Regional dimming for power savings
US9852497B2 (en) 2013-04-04 2017-12-26 Nvidia Corporation Per pixel mapping for image enhancement
US9830865B2 (en) * 2013-04-04 2017-11-28 Nvidia Corporation Regional histogramming for global approximation
JP6028928B2 (ja) * 2013-04-16 2016-11-24 オリンパス株式会社 撮像装置及び撮像方法
CN104240666B (zh) * 2014-09-17 2016-08-17 深圳市华星光电技术有限公司 一种视频处理方法及装置
US9575566B2 (en) * 2014-12-15 2017-02-21 Intel Corporation Technologies for robust two-dimensional gesture recognition
KR101988490B1 (ko) * 2017-10-20 2019-06-12 국방과학연구소 불량화소 처리장치 및 방법
JP2019082509A (ja) * 2017-10-27 2019-05-30 キヤノン株式会社 画像表示装置および画像表示装置の制御方法
KR102215603B1 (ko) * 2019-12-13 2021-02-15 주식회사 한글과컴퓨터 이미지 내에서 어두운 부분의 밝기를 개선하기 위해 이미지의 부분 보정이 가능한 전자 장치 및 그 동작 방법
KR102215607B1 (ko) * 2019-12-17 2021-02-15 주식회사 한글과컴퓨터 어두운 이미지의 밝기를 개선하기 위한 보정 처리가 가능한 전자 장치 및 그 동작 방법
CN113470583B (zh) * 2020-03-30 2023-08-04 北京小米移动软件有限公司 显示画面的调整方法及装置、存储介质
CN113222869B (zh) * 2021-05-06 2024-03-01 杭州海康威视数字技术股份有限公司 一种图像处理方法
CN115035865A (zh) * 2022-05-05 2022-09-09 石家庄市京华电子实业有限公司 一种基于led背光的光阀组件的分区调光方法

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004007301A (ja) * 2002-06-03 2004-01-08 Kddi Media Will Corp 画像処理装置
JP2004045634A (ja) * 2002-07-10 2004-02-12 Seiko Epson Corp 画像表示装置、画像表示方法および画像表示プログラムが記録されたコンピュータ読み取り可能な記録媒体
JP2004325629A (ja) * 2003-04-23 2004-11-18 Seiko Epson Corp 表示装置、及びその調光方法
JP2006308632A (ja) * 2005-04-26 2006-11-09 Seiko Epson Corp 画像表示装置、画像表示方法、画像表示プログラムおよび画像表示プログラムを記録した記録媒体
JP2007036729A (ja) * 2005-07-27 2007-02-08 Toshiba Corp 映像表示処理装置とそのバックライト制御方法
JP2007089096A (ja) * 2005-09-26 2007-04-05 Funai Electric Co Ltd フラットパネルディスプレイ型テレビジョン受信機、および、パネル用信号生成装置
JP2007163828A (ja) * 2005-12-14 2007-06-28 Mitsubishi Electric Corp 画像処理装置及び画像表示装置
JP2008046627A (ja) * 2006-08-10 2008-02-28 Samsung Electro Mech Co Ltd 多色光源の電力制御を支援する映像表示装置および方法
JP2008058896A (ja) * 2006-09-04 2008-03-13 Mitsubishi Electric Corp 画像表示装置および画像表示方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5327240A (en) * 1991-12-24 1994-07-05 Texas Instruments Incorporated Methods, systems and apparatus for providing improved definition video

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004007301A (ja) * 2002-06-03 2004-01-08 Kddi Media Will Corp 画像処理装置
JP2004045634A (ja) * 2002-07-10 2004-02-12 Seiko Epson Corp 画像表示装置、画像表示方法および画像表示プログラムが記録されたコンピュータ読み取り可能な記録媒体
JP2004325629A (ja) * 2003-04-23 2004-11-18 Seiko Epson Corp 表示装置、及びその調光方法
JP2006308632A (ja) * 2005-04-26 2006-11-09 Seiko Epson Corp 画像表示装置、画像表示方法、画像表示プログラムおよび画像表示プログラムを記録した記録媒体
JP2007036729A (ja) * 2005-07-27 2007-02-08 Toshiba Corp 映像表示処理装置とそのバックライト制御方法
JP2007089096A (ja) * 2005-09-26 2007-04-05 Funai Electric Co Ltd フラットパネルディスプレイ型テレビジョン受信機、および、パネル用信号生成装置
JP2007163828A (ja) * 2005-12-14 2007-06-28 Mitsubishi Electric Corp 画像処理装置及び画像表示装置
JP2008046627A (ja) * 2006-08-10 2008-02-28 Samsung Electro Mech Co Ltd 多色光源の電力制御を支援する映像表示装置および方法
JP2008058896A (ja) * 2006-09-04 2008-03-13 Mitsubishi Electric Corp 画像表示装置および画像表示方法

Also Published As

Publication number Publication date
JP2009271096A (ja) 2009-11-19
US20090274389A1 (en) 2009-11-05

Similar Documents

Publication Publication Date Title
JP4626673B2 (ja) 画像処理装置、集積回路装置及び電子機器
US11056050B2 (en) Display unit, image processing unit, and display method for improving image quality
JP5277708B2 (ja) 画像処理装置、集積回路装置及び電子機器
KR101132101B1 (ko) 비디오 재생 관리 기법
KR100849845B1 (ko) 영상 보정 방법 및 장치
US7990402B2 (en) Image display control device
JP5169132B2 (ja) 画像表示制御装置
WO2014045915A1 (ja) 画像処理装置、画像表示装置、画像撮像装置、画像印刷装置、階調変換方法、及びプログラム
US20090304274A1 (en) Image Processing Apparatus and Image Display Apparatus
JP2008104177A (ja) 映像の視認性を向上させる装置および方法
US20100302269A1 (en) Image processing apparatus and image processing method
US7245308B2 (en) Display control device and display device
JP2004326082A5 (ja)
JP2004326082A (ja) 表示制御装置及び表示装置
JP2010147895A (ja) 画像処理装置、集積回路装置及び電子機器
JP2004007202A (ja) 画像処理装置
JP2006308631A (ja) 画像表示装置、画像表示方法、画像表示プログラムおよび画像表示プログラムを記録した記録媒体
US20120314969A1 (en) Image processing apparatus and display device including the same, and image processing method
JP2017098845A (ja) 画像処理装置、画像処理方法、およびプログラム
US7729022B2 (en) Method for processing image
US10387999B2 (en) Image processing apparatus, non-transitory computer-readable medium storing computer program, and image processing method
JP4995623B2 (ja) 画像表示装置及び画像表示方法
JP2015082074A (ja) 表示装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100406

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100713

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100913

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20101012

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20101025

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131119

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4626673

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313532

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350