JP2012044639A - 画像処理装置、及びプログラム - Google Patents

画像処理装置、及びプログラム Download PDF

Info

Publication number
JP2012044639A
JP2012044639A JP2011044532A JP2011044532A JP2012044639A JP 2012044639 A JP2012044639 A JP 2012044639A JP 2011044532 A JP2011044532 A JP 2011044532A JP 2011044532 A JP2011044532 A JP 2011044532A JP 2012044639 A JP2012044639 A JP 2012044639A
Authority
JP
Japan
Prior art keywords
image
enhancement
data
component
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011044532A
Other languages
English (en)
Other versions
JP5136665B2 (ja
Inventor
Keiji Manabe
佳嗣 真鍋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2011044532A priority Critical patent/JP5136665B2/ja
Priority to CN201110202004.4A priority patent/CN102348070B/zh
Priority to US13/187,233 priority patent/US8472713B2/en
Priority to KR1020110072350A priority patent/KR101267404B1/ko
Publication of JP2012044639A publication Critical patent/JP2012044639A/ja
Priority to HK12104877.6A priority patent/HK1164593A1/xx
Application granted granted Critical
Publication of JP5136665B2 publication Critical patent/JP5136665B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/73Colour balance circuits, e.g. white balance circuits or colour temperature control

Abstract

【課題】撮像画像に基づいて、過度に色空間の各パラメータを調整し、且つ、現実感を失わせないような画像を生成する。
【解決手段】HDR合成画像のデータが、Y成分からなるHDR合成Y画像のデータと、UV成分からなるHDR合成UV画像のデータとに分離されている場合、図2のY強調部31は、所定のコントラスト強調量を用いて、HDR合成Y画像のデータを強調する。一方、UV強調部32は、Y強調部31のコントラスト強調量に連動して可変する彩度強調量を用いて、HDR合成UV画像のデータを強調する。
【選択図】図2

Description

本発明は、画像処理装置、及びプログラムに関し、特に、画像のダイナミックレンジの補正技術に関する。
近年、撮像等により得られた画像の鑑賞に対する品質を向上させる目的で、当該画像のデータに対して各種画像処理が施されるようになっている。
このような画像処理の一種として、ハイダイナミックレンジ合成が知られている(特許文献1参照)。ハイダイナミックレンジ合成とは、夫々露出値を異ならせた略同一画角の複数の画像のデータを画素加算合成することで、幅広いダイナミックレンジを表現する画像のデータを生成する画像処理をいう。
なお、以下、特段の説明が無い場合、このような合成処理を加えた画像を、「ハイダイナミックレンジ合成画像(High Dinamic Range合成画像)」、又は、「HDR合成画像」と呼ぶ。
特開2006−345509号公報
しかしながら、上述の合成処理は撮像時の画角の再現性を高めることがその目的であるため、その目的外で過度に色空間の各パラメータを調整し、且つ、現実感を失わせないような画像を得たい場合、その撮像画像をベースとし新たな描画処理を実行しなければならないという問題がある。
本発明は、このような状況に鑑みてなされたものであり、撮像画像に基づいて、過度に色空間の各パラメータを調整し、且つ、現実感を失わせないような画像を生成することを目的とする。
上記目的達成のため、請求項1に記載の発明は、露出が各々異なる複数の画像のデータが合成された結果得られる合成画像のデータが、所定の色空間において規定される輝度成分からなる第1の画像のデータと、その他の成分からなる第2の画像のデータとに分離されている場合、所定の第1強調量を用いて、前記第1の画像のデータを強調する第1の強調手段と、前記第1の強調手段の前記第1強調量に連動して可変する第2強調量を用いて、前記第2の画像のデータを強調する第2の強調手段と、を備える。
また、請求項2に記載の発明は、上記請求項1に記載の発明において、前記第1の強調手段は、前記第1の画像内の所定の位置の画素のデータを、位置毎に異なる前記第1強調量を用いて強調し、前記第2の強調手段は、前記第2の画像内の所定の位置の画素のデータを、当該位置と同一の前記第1の画像内の位置用の前記第1強調量に連動して可変する前記第2強調量を用いて、強調する。
また、請求項3に記載の発明は、上記請求項2に記載の発明において、前記第2の強調手段は、前記第2の画像内の前記所定の位置の画素のデータを、前記第2の画像全体に適用されている第3強調量を用いて、強調する全体強調手段と、前記所定の位置と同一の前記第1の画像内の位置用の前記第1強調量に連動して可変する前記第2強調量を取得する取得手段と、前記第2の画像内の前記所定の位置の画素のデータを、前記取得手段により取得された前記第2強調量を用いて、強調する部分強調手段と、を備える。
また、請求項4に記載の発明は、請求項1乃至3の何れかに記載の発明において、露出が各々異なる複数の画像のデータの少なくとも一つから顔画像領域を検出する画像領域検出手段を更に備え、前記第1の強調手段は、前記画像領域検出手段によって顔画像領域が検出されると、前記所定の第1強調量より少ない第3強調量を用いて前記第1の画像のデータを強調し、前記第2の強調手段は、前記第1の強調手段の前記第3強調量に連動して可変する第4強調量を用いて、前記第2の画像のデータを強調する。
また、請求項5に記載の発明は、請求項4に記載の発明において、前記第1の強調手段は前記第1の画像データにおける前記顔画像領域周辺部分を強調する。
また、請求項6に記載の発明は、請求項4に記載の発明において、前記第2の強調手段は前記第2の画像データにおける前記顔画像領域周辺部分を強調する。
また、上記目的達成のため、請求項7に記載の発明は、画像のデータに対して画像処理を施す画像処理装置を制御するコンピュータに、露出が各々異なる複数の画像のデータが合成された結果得られる合成画像のデータが、Y成分からなる第1の画像のデータと、UV成分からなる第2の画像のデータとに分離されている場合、所定の第1強調量を用いて、前記第1の画像のデータを強調する第1の強調機能と、前記第1の強調機能の前記第1強調量に連動して可変する第2強調量を用いて、前記第2の画像のデータを強調する第2の強調機能と、を実現させる。
本発明の一実施形態に係る撮像装置の回路構成図である。 本発明における画像加工処理を実行する機能についての機能的構成を示す機能ブロック図である。 図2の画像処理装置が実行する画像加工処理の流れの一例を示すフローチャートである。 図2の画像処理装置の合成部による具体的な処理結果を示している図である。 図2の画像処理装置の強調画像生成部が実行するY成分強調処理の流れの一例を示すフローチャートである。 図5のY成分強調処理で用いるY調整量を設定するテーブルの一例を示している図である。 図2の画像処理装置の強調画像生成部が実行するUV成分強調処理の流れの一例を示すフローチャートである。 図7のUV成分強調処理で用いるUV調整量を設定するテーブルの一例を示している図である。 図3の画像加工処理の対象となる画像のデータの一例を示す図である。 図9の各データを用いて図3の画像加工処理が実行された結果得られる、強調後YUV画像のデータの一例を示している図である。 本発明の画像処理装置の一実施形態に係る画像処理装置のハードウェアの構成を示すブロック図である。
以下、本発明の一実施形態を図面に基づいて説明する。
図1は、本発明の一実施形態に係る画像処理装置を備える撮像装置の回路構成図である。
この撮像装置は、撮像部1と、駆動制御部2と、CDS/ADC3と、キー入力部4と、表示部5と、画像記録部6と、プログラムメモリ7と、RAM8と、制御部9と、画像処理部10と、を備えている。
キー入力部4は、撮影者の記録指示を検出するためのシャッターキー41を備えている。画像処理部10は、本発明の特徴的構成に対応する合成部11を備えている。これらはバスラインを介して接続されている。
同図において、撮像部1は、CMOS等のイメージセンサと、このイメージセンサ上に設けられたRGBのカラーフィルタと、駆動制御部2からの制御により、光の強度を電荷の蓄積として一定時間保持し、CDS/ADC3にアナログの撮像信号としてこれらを出力するドライバと、を内蔵する。
そして、撮像部1は、シャッターキー41、制御部9、駆動制御部2を経由した撮影者の撮影指示を検出することで、露光条件(シャッタースピード、若しくは絞り値)を変えながら、露出アンダー、適正露出、露出オーバーを含む複数の画像(カラー画像)を取得する。
CDS/ADC3は、撮像部1から出力される被写体の光学像に応じたアナログの撮像信号が入力される回路である。CDS/ADC3は、入力した撮像信号を保持するCDSと、その撮像信号を増幅するゲイン調整アンプ(AGC)と、増幅された撮像信号をデジタルの撮像信号に変換するA/D変換器(ADC)と、を含むように構成されている。
なお、ゲイン調整アンプの調整に関わる制御についても、駆動制御部2からの指示に基いて実行される。このため、露光条件(シャッタースピード、若しくは絞り値)を同じくして複数枚の画像を取得しても、RGBのゲイン調整アンプや画像の色味を順次変えることによる複数の条件の異なる画像を生成することができる。
キー入力部4は、上述のシャッターキー41の他、本発明に係る画像の取得や記録を目的とする撮影モードへの切換、表示の切換等を検出するための各種キーを備えている。
表示部5は、画像加工処理(後述する)が施された画像を表示する機能を有する。
画像記録部6は、本発明に係る画像加工処理(後述する)が実行された後、JPEG方式で符号化された画像データ(画像ファイル)を記憶格納する。
プログラムメモリ7は、制御部9、画像処理部10にて実行されるプログラムを記憶し、必要に応じて制御部9が読み出す。
RAM8は、各種処理により発生する処理中のデータを一時的に保持する機能を有する。制御部9は撮像装置全体の処理動作を制御する。
画像処理部10は、画像データの符号化/復号化処理の他、本発明に係る画像加工処理(後述する)を実行するための合成部11を備えている。
次に画像加工処理を実行する機能について、図2の機能ブロック図を用いて説明する。
本実施形態で詳述する画像加工処理とは、処理対象となる画像同士を画素加算合成し、更に、その合成後、コントラストや鮮やかさ(彩度)を強調させる処理をいう。
また上記合成処理においては、撮像部1、CDS/ADC3を経て、露光条件(シャッタースピード、絞り値、若しくは、ゲイン調整値)を変えながら連写されて取得された複数の画像について、これらの画像のデータの各々が、YUV色空間で規定される輝度成分を示す輝度信号(Y)と、それ以外の成分、具体的には色差成分のうち青色の色差信号(Cb:“B−Y”、以下単に“U”と称する。)と、同色差成分のうち赤色の色差信号(Cr:“R−Y”以下単に“V”と称する。)との3要素の成分のうち、Y成分(輝度成分)とUV成分(各色差成分)とに分離され、この分離後の複数のY成分について画素加算合成され、また分離後の複数のUV成分についても個別に画素加算合成される。
また、上記の合成処理により生成されたHDR合成画像のデータの輝度信号(Y)と、青色成分の色差信号(U)と、赤色成分の色差信号(V)との3要素の成分のうち、Y成分についてはコントラストを強調する処理を、UV成分については彩度(鮮やかさ)を強調する処理をそれぞれ個別に実行する。このような処理の結果、過度に色空間の各パラメータが調整されていても現実感を失わせないようなHDR合成画像のデータが得られる、という効果を奏することが可能になる。
特に、上記の処理では、単純に画像全体が一律にコントラストや彩度について強調されるのではなく、画素単位で適応的に設定された強調量を用いて、画素単位に強調される。これにより、当該効果がより顕著なものとなる。
図2の例では、画像処理装置は、合成部11と、画像生成部12と、ノイズ低減部13と、を備えている。
本実施形態では、露出条件が各々異なる複数の画像のデータとして、図2に示すように、適正露出値の画像(以下、「適正露出値画像」と呼ぶ)、適正露出値を超えた露出値の画像(以下、「露出値オーバー画像」と呼ぶ)、及び適正露出値未満の露出値の画像(以下、「露出値アンダー画像」と呼ぶ)の各データが合成部11に入力される。
ここで、適正な露出値とは、必ずしも撮像時の条件として適正な露出値であることを意味せず、露出値オーバー画像及び露出値アンダー画像の各々を撮像した時に用いた2つの露出値の間の中間的な露出値を意味する。
合成部11は、適正露出値画像、露出値オーバー画像、及び露出値アンダー画像の各データを画素加算合成することによって、HDR合成画像のデータを生成する。
なお、合成部11が実行する合成処理の種類は、特に限定されないが、従来のHDR合成画像のデータを生成するための合成処理と比較して、ダイナミックレンジ拡大効果を強めにした合成処理を採用するとよい。
また、その効果を強める手法も、特に限定されず、例えば、撮影時に露出値アンダーと露出値オーバー差(振り幅)を大きくする、合成枚数を増やす、その他色味等のゲインパラメータを変更する等の手法を採用することができる。
本実施形態では、合成部11は、合成処理として、次のような一連の処理を実行するものとする。
即ち、本実施形態では、図示はしないが、適正露出値画像のデータから分離されたY成分(以下、「適正露出値Y画像のデータ」と呼ぶ)及びUV成分(以下、「適正露出値UV画像のデータ」と呼ぶ)の各々が個別に合成部11に入力される。
同様に、露出値オーバー画像のデータから分離されたY成分(以下、「露出値オーバーY画像のデータ」と呼ぶ)及びUV成分(以下、「露出値オーバーUV画像のデータ」と呼ぶ)の各々が個別に合成部11に入力される。
また、露出値アンダー画像のデータから分離されたY成分(以下、「露出値アンダーY画像のデータ」と呼ぶ)及びUV成分(以下、「露出値アンダーUV画像のデータ」と呼ぶ)の各々が個別に合成部11に入力される。
合成部11は、適正露出値Y画像、露出値オーバーY画像、及び露出値アンダーY画像の各のデータを画素加算合成することによって、合成画像のデータを生成する。このようにして生成される合成画像のデータを、以下、「HDR合成Y画像のデータ」と呼び、HDR合成Y画像のデータが生成される一連の処理を、以下、「Y成分合成処理」と呼ぶ。このようなY成分合成処理により生成された合成Y画像のデータは、白飛びや黒つぶれがなく、かつ広いダイナミックレンジを持ったY成分となる。
一方、合成部11は、適正露出値UV画像、露出値オーバーUV画像、及び露出値アンダーUV画像の各データを画素加算合成することによって、合成画像のデータを生成する。このようにして生成される合成画像のデータを、以下、「HDR合成UV画像のデータ」と呼び、HDR合成UV画像のデータが生成される一連の処理を、以下、「UV成分合成処理」と呼ぶ。
ここで、本実施形態では、Y成分合成処理において、適正露出値Y画像、露出値オーバーY画像、及び露出値アンダーY画像の各々のデータは、所定の合成比率に従って画素加算合成される。
合成比率とは、2以上の画像のデータが画素加算合成される場合、各々の画像のデータの混合の割合をいう。例えば、適正露出値Y画像、露出値オーバーY画像、及び露出値アンダーY画像の各々のデータの合成比率の各々が、70%、30%、0%の各々である場合には、適正露出値Y画像のデータの70%と、露出値オーバーY画像のデータの30%とが混合された結果得られるデータが、合成Y画像のデータになる。
なお、露出値アンダーY画像のデータを合成に用いない場合は、混合比率は0%にする。
一方、UV成分合成処理においても、適正露出値UV画像、露出値オーバーUV画像、及び露出値アンダーUV画像の各々のデータは、所定の合成比率に従って画素加算合成される。
ここで、UV成分合成処理に用いられる合成比率は、Y成分合成処理に用いられる合成比率と独立に設定されてもよいが、本実施形態では、Y成分合成処理に用いられる合成比率がそのまま用いられる。
このように、輝度(コントラスト)が調整されたHDR合成Y画像のデータのみならず、彩度が調整されたHDR合成UV画像のデータも得られる。従って、これらをあわせたHDR合成画像のデータは、従来よりも、白飛びや黒つぶれの少ない幅広いダイナミックレンジを持ち、かつ、彩度も適切に調整された画像のデータになる。
このようにして、合成部11からは、Y成分合成処理によって生成されたHDR合成Y画像のデータと、UV成分合成処理によって生成されたHDR合成UV画像のデータとの組が、HDR合成画像のデータとして出力される。
画像生成部12は、合成部11から出力されるHDR合成画像のデータのうち、HDR合成Y画像のデータに対してはコントラストの強調処理を、HDR合成UV画像のデータに対しては彩度の強調処理を、それぞれ個別に施す。
ここで、HDR合成Y画像のデータに対して施すコントラストの強調処理を、以下、「Y成分強調処理」と呼ぶ。一方、HDR合成UV画像のデータに対して施す彩度の強調処理を、以下、「UV成分強調処理」と呼ぶ。
画像生成部12には、Y成分強調処理を実行するY強調部31と、UV成分強調処理を実行するUV強調部32とが設けられている。
Y強調部31は、Y成分強調処理として、HDR合成Y画像のデータに対して、2種類の周波数帯域(例えば低域及び中域)でアンシャープマスク処理をそれぞれ施すことによって、局所的にコントラストを強調する。
2種類の周波数帯域(例えば低域及び中域)でアンシャープマスク処理をそれぞれ施す際には、HDR合成Y画像のデータの平滑化が行われる。
このような平滑化のために用いるフィルタは、特に限定されず、通常のLPF(Low Pass Filter)を採用してもよいが、エッジ保存型のεフィルタやバイラテラルフィルタを採用すると好適である。局所的にコントラスト成分を強調する際に発生するアンダーシュートやオーバーシュートを低減させることができるからである。
このようなY強調部31による一連の処理を、以下、「Y成分強調処理」と呼ぶ。
Y強調部31は、Y成分強調処理を実行すべく、合成Y画像取得部41と、εフィルタ部42A,42Bと、コントラスト成分作成部43A,43Bと、コントラスト合成部44と、Y成分コントラスト強調部45と、を備えている。ただし、これらのY強調部31の各要素の機能等については、後述する図3のフローチャートを参照したY成分強調処理の流れの説明の際に適宜説明する。
UV強調部32は、UV成分強調処理として、HDR合成UV画像のデータに対して、所定のゲイン(以下、「UVゲイン」と呼ぶ)を強調量として用いて、彩度を強調する処理を実行する。
この場合の彩度を強調する処理は、全体強調処理と部分強調処理との2種類に大別される。
全体強調処理とは、画像全体の印象を派手にするように、彩度を強調する処理をいう。
部分強調処理とは、Y成分強調処理用の強調量と連動させた強調量を用いて、彩度を強調する処理をいう。
なお、以下、Y成分強調処理用の強調量を、「コントラスト強調量」と呼ぶ。一方、UV成分強調処理用の強調量、即ちUVゲインを用いる強調量を、「彩度強調量」と呼ぶ。彩度強調量は、さらに、全体強調処理で用いられる強調量と、部分強調処理で用いられる強調量とに大別され、前者を、以下、「全体彩度強調量」と呼び、後者を、以下、「部分彩度強調量」と呼ぶ。
この場合、コントラスト強調量と部分彩度強調量とが連動することになる。これにより、コントラスト強調部分の色のりが向上し、立体感が生まれた画像を得ることが可能になる。
このようなUV強調部32による一連の処理を、以下、「UV成分強調処理」と呼ぶ。
UV強調部32は、UV成分強調処理を実行すべく、合成UV画像取得部51と、UVゲイン全体彩度強調部52と、コントラスト強調量取得部53と、UVゲイン部分彩度強調部54と、を備えている。ただし、これらのUV強調部32の各要素の機能等については、後述する図3のフローチャートを参照したUV成分強調処理の流れの説明の際に適宜説明する。
このようなY強調部31及びUV強調部32が設けられた画像生成部12にはまた、強調後YUV画像取得部33が設けられている。
強調後YUV画像取得部33は、Y強調部31によりY成分強調処理が施されたHDR合成Y画像のデータと、UV強調部32によりUV成分強調処理が施されたHDR合成UV画像のデータとの組み合わせ(以下、「強調後YUV画像のデータ」と呼ぶ)を取得する。
強調後YUV画像取得部33により取得された強調後YUV画像のデータは、ノイズ低減部13に供給される。
ノイズ低減部13は、強調後YUV画像のデータに対して、ノイズを低減させる任意の処理(以下、「ノイズ低減処理」と呼ぶ)を施す。
これにより、画像生成部12の強調処理により発生したノイズやトーンジャンプを改善させることができる。また、この場合、ノイズ低減のレベルを意図的に強めることで、光沢感のある画像を得ることができる。
次に、図3のフローチャートを参照して、このような機能的構成を有する図2の画像処理装置が実行する画像加工処理について説明する。
図3は、画像加工処理の流れの一例を示すフローチャートである。
ステップS1において、合成部11は、露出値が各々異なる複数の画像のデータを取得する。
ステップS2において、合成部11は、露出値が各々異なる複数の画像のデータを画素加算合成することによって、HDR合成画像のデータを生成する。
具体的には、本実施形態では、適正露出値画像、露出値オーバー画像、及び露出値アンダー画像の各データが、ステップS1の処理で取得されて、ステップS2の処理で画素加算合成されることによって、HDR合成画像のデータが生成される。
図4は、合成部11によるステップS1及びS2の具体的な処理結果を示している。
図4(A)は、ステップS1の処理で取得される露出値アンダーY画像のデータの一例を示している。
図4(B)は、ステップS1の処理で取得される適正露出値Y画像のデータの一例を示している。
図4(C)は、ステップS1の処理で取得される露出値オーバーY画像のデータの一例を示している。
図4(D)は、図4(A)乃至図4(B)の各データがステップS2の処理で画素加算合成された結果得られる、HDR合成画像のデータの一例を示している。
図4(E)は、図4(A)乃至図4(B)の各データがステップS2の処理で画素加算合成された結果得られる、HDR合成画像のデータの一例であって、図4(D)よりも合成の効果を強くした場合の例を示している。
上述したように、合成の効果を強くすることによって、過度に色空間の各パラメータが調整されていても現実感を失わせないようなHDR合成画像を得るという効果が顕著なものになる。そこで、本実施形態では、図4(D)と図4(E)のHDR合成画像のデータのうち、図4(E)のHDR合成画像のデータが処理対象として、画像生成部12に与えられて、図3のステップS3以降の処理が実行されるものとする。
ステップS3において、画像生成部12のY強調部31は、ステップS2の処理で生成されたHDR合成画像のデータのうち、HDR合成Y画像のデータに対してY成分強調処理を施す。
ステップS4において、画像生成部12のUV強調部32は、ステップS2の処理で生成されたHDR合成画像のデータのうち、HDR合成UV画像のデータに対してUV成分強調処理を施す。
なお、ステップS3のY成分強調処理の詳細については図5のフローチャートを参照して、ステップS4のUV成分強調処理の詳細については図7のフローチャートを参照して、それぞれ個別に後述する。
ステップS5において、強調後YUV画像取得部33は、ステップS3のY成分強調処理が施されたHDR合成Y画像のデータと、ステップS4のUV成分強調処理が施されたHDR合成UV画像のデータとの組み合わせを、強調後YUV画像のデータとして取得する。
ステップS6において、ノイズ低減部13は、ステップS5の処理で取得された強調後YUV画像のデータに対して、ノイズ低減処理を施す。
ノイズ低減処理が施された強調後YUV画像のデータが、ノイズ低減部13から外部に出力されると、画像加工処理は終了となる。
次に、このような画像加工処理のうち、ステップS3のY成分強調処理と、ステップS4のUV成分強調処理との各々の詳細について、その順番で個別に説明する。
はじめに、図5のフローチャートを参照して、ステップS3のY成分強調処理の詳細について説明する。
図5は、Y成分強調処理の流れの一例を示すフローチャートである。
ステップS21において、図2のY強調部31の合成Y画像取得部41は、合成部11から出力されたHDR合成画像のデータのうち、HDR合成Y画像のデータを取得する。
ステップS22において、Y強調部31は、HDR合成Y画像の各々を構成する画素のうち、所定の位置(座標)に配置された画素を、処理の対象として注目すべき画素(以下、「注目画素」と呼ぶ)として設定する。
HDR合成Y画像の注目画素のデータ(画素値)が、εフィルタ部42A,43A及びコントラスト成分作成部43A,43Bの各々に供給されると、処理はステップS23に進む。
ステップS23において、εフィルタ部42A,43A及びコントラスト成分作成部43A,43Bは、HDR合成Y画像の注目画素のデータ(画素値)から、2種類の周波数(中域及び低域)の各々のεフィルタを用いて、注目画素の2種類のコントラスト成分を作成する。
本実施形態では、2種類のコントラスト成分のうち一方の種類は、フィルタサイズが小さめの中域強調のεフィルタが用いられて生成される。そこで、このような種類のコントラスト成分を、以下、「中域用コントラスト成分」と呼ぶ。
一方、2種類のコントラスト成分のうち他方の種類は、フィルタサイズが大きめの低域強調のεフィルタが用いられて生成される。そこで、このような種類のコントラスト成分を、以下、「低域用コントラスト成分」と呼ぶ。
本実施形態では、中域用コントラスト成分は、εフィルタ部42A及びコントラスト成分作成部43Aにより、次のような一連の処理が実行されることで生成される。
即ち、εフィルタ部42Aは、HDR合成Y画像の注目画素のデータに対して中域強調のεフィルタをかけて、その結果得られるデータ(以下、「εフィルタ後データ」と呼ぶ)をコントラスト成分作成部43Aに供給する。
コントラスト成分作成部43Aは、HDR合成Y画像の注目画素のデータと、注目画素のεフィルタ後データとの差分を取ることによって、注目画素の中域用コントラスト成分を作成する。即ち、次の式(1)が演算されることで、注目画素の中域用コントラスト成分が作成される。
Y_contrast_1 = Y_HDR − Y_ε_1 ・・・(1)
式(1)において、Y_contrast_1は、注目画素の中域用コントラスト成分を示している。Y_HDRは、HDR合成Y画像の注目画素のデータ(画素値)を示している。Y_ε_1は、中域用のεフィルタを用いて生成された、注目画素のεフィルタ後データを示している。
一方、本実施形態では、低域用コントラスト成分は、εフィルタ部42B及びコントラスト成分作成部43Bにより、次のような一連の処理が実行されることで生成される。
即ち、εフィルタ部42Bは、HDR合成Y画像の注目画素のデータに対して低域強調のεフィルタをかけて、その結果得られるεフィルタ後データをコントラスト成分作成部43Bに供給する。
コントラスト成分作成部43Aは、HDR合成Y画像の注目画素のデータと、注目画素のεフィルタ後データとの差分を取ることによって、注目画素の低域用コントラスト成分を作成する。即ち、次の式(2)が演算されることで、注目画素の低域用コントラスト成分が作成される。
Y_contrast_2 = Y_HDR − Y_ε_2 ・・・(2)
式(2)において、Y_contrast_2は、注目画素の低域用コントラスト成分を示している。Y_HDRは、式(1)と同様に、HDR合成Y画像の注目画素のデータ(画素値)を示している。Y_ε_2は、低域用のεフィルタを用いて生成された、注目画素のεフィルタ後データを示している。
このようにして生成された注目画素の2種類のコントラスト成分、即ち、コントラスト成分作成部43Aにより生成された注目画素の中域用コントラスト成分と、コントラスト成分作成部43Bにより生成された注目画素の低域用コントラスト成分とは、コントラスト合成部44に供給される。これにより、処理は図5のステップS24に進む。
ステップS24において、コントラスト合成部44は、注目画素の2種類のコントラスト成分、即ち、注目画素の中域用コントラスト成分及び低域用コントラスト成分を画素加算合成することで、注目画素の合成コントラスト成分を作成する。
即ち、次の式(3)が演算されることで、注目画素の合成コントラスト成分が作成される。
Y_contrast = Y_contrast_1 + Y_contrast_2 ・・・(3)
式(3)において、Y_contrastは、注目画素の合成コントラスト成分を示している。Y_contrast_1は、上述の式(1)で演算された注目画素の中域用コントラスト成分を示している。Y_contrast_2は、上述の式(2)で演算された注目画素の低域用コントラスト成分を示している。
このようにしてコントラスト合成部44により生成された注目画素の合成コントラスト成分は、Y成分コントラスト強調部45に供給される。これにより、処理は図5のステップS25に進む。
ステップS25において、Y成分コントラスト強調部45は、注目画素の合成コントラスト成分に対して、調節及び制限を施す。
具体的には、本実施形態では、注目画素の合成コントラスト成分に対する調節は、次の式(4)に従って行われる。
Y_contrast = Y_contrast × (Y_gain_lev/100) × (Y_adj_lev/100)
・・・(4)
式(4)において、左辺のY_contrastは、調節後の注目画素の合成コントラスト成分を示している。一方、右辺のY_contrastは、調節前の注目画素の合成コントラスト成分を示している。
また、式(4)において、Y_gain_levは、HDR合成Y画像のデータ全体に対して一律に設定されたゲイン(以下、「Yゲイン」と呼ぶ)のレベル(%)を示している。一方、Y_adj_levは、HDR合成Y画像の注目画素のデータに対して個別に設定された調整量(以下、「Y調整量」と呼ぶ)のレベル(%)を示している。
図6は、Y調整量Y_adj_levを設定するテーブルの一例を示している。
図6において、横軸は、HDR合成Y画像のデータ(画素値)Y_HDRを示し、縦軸は、Y調整量Y_adj_lev(%)を示している。
図6に示すように、Y調整量Y_adj_levは、HDR合成Y画像の各画素毎に、そのデータ(画素値)Y_HDRに応じて個別に設定されるものである。このため、注目画素として設定された画素毎に、そのデータ(画素値)Y_HDRに応じてY調整量Y_adj_levが適応的に変化し、その結果、合成コントラスト成分Y_contrastも画素毎に適応的に調節される。これにより、コントラスト強調による画素値の飽和による悪影響、例えば黒つぶれ、白飛び、色飽和等の悪影響を軽減させることができる。
また、本実施形態では、注目画素の合成コントラスト成分に対する制限は、注目画素の合成コントラスト成分が0未満のとき(If(Y_contrast > 0))、次の式(5)に従って行われ、それ以外のとき(Else)、次の式(6)に従って行われる。
Y_contrast = fMin(Y_contrast , Y_contrast_max_lev) ・・・(5)
Y_contrast = fMax(Y_contrast , |Y_contrast_max_lev|) ・・・(6)
式(5)と式(6)において、左辺のY_contrastは、制限後の注目画素の合成コントラスト成分を示している。一方、右辺のY_contrastは、制限前の注目画素の合成コントラスト成分を示している。
また、式(5)と式(6)において、Y_contrast_max_levは、合成コントラスト成分として予め設定された上限のレベルを示している。式(5)におけるfMin(α,β)は、αとβのうちの最小値を出力する関数を示している。一方、式(6)におけるfMax(α,β)は、αとβのうちの最大値を出力する関数を示している。
次に、図5のステップS26において、Y成分コントラスト強調部45は、HDR合成Y画像の注目画素のデータに対して、ステップS25の処理で調節及び制限が施された後の注目画素の合成コントラスト成分を加算する。
これにより、HDR合成Y画像の注目画素のデータに対して、ステップS25の処理で調節及び制限が施された注目画素の合成コントラスト成分だけ、コントラストが強調されたことになる。
具体的には、次の式(7)が演算されることで、HDR合成Y画像の注目画素のデータに対してコントラストが強調されることになる。
Y_result = Y_HDR + Y_contrast ・・・(7)
式(7)において、Y_resultは、コントラスト強調後の注目画素のデータ(コントラスト強調後の注目画素の画素値)を示している。一方、Y_HDRは、コントラスト強調前の注目画素のデータ(コントラスト強調前の注目画素の画素値)を示している。また、Y_contrastは、式(4)による調整並びに式(5)若しくは式(6)による制限が施された後の注目画素の合成コントラスト成分であって、コントラスト強調量を示している。
ステップS27において、Y強調部31は、全ての画素を注目画素に設定したか否かを判定する。
HDR合成Y画像を構成する画素のうち、注目画素に未だ設定されていない画素が存在する場合、ステップS27においてNOであると判定されて、処理はステップS22に戻され、それ以降の処理が繰り返される。
即ち、HDR合成Y画像を構成する画素が注目画素として順次設定される毎に、ステップS22乃至S27のループ処理が繰り返し実行されて、注目画素して設定された画素のデータが、コントラストが強調されるように更新されていく。ただし、そのコントラストの強調度合は、上述の如く、注目画素して設定された画素の更新前のデータY_HDRの値に応じて適応的に可変する。
そして、最後の画素がステップS22の処理で注目画素に設定されて、ステップS23乃至S26の処理が実行されると、HDR合成Y画像を構成する全画素が更新されたので(全画素の画素値が、上述の式(7)の値Y_resultに更新されたので)、次のステップS27においてYESであると判定されて、Y成分強調処理は終了となる。
これにより、図3の画像加工処理のうち、ステップS3のY成分強調処理が終了し、ステップS4のUV成分強調処理が実行される。
そこで、以下、図7のフローチャートを参照して、ステップS4のUV成分強調処理の詳細について説明する。
図7は、UV成分強調処理の流れの一例を示すフローチャートである。
ステップS41において、図2のUV強調部32の合成UV画像取得部51は、合成部11から出力されたHDR合成画像のデータのうち、HDR合成UV画像のデータを取得する。
ステップS42において、UV強調部32は、HDR合成UV画像の各々を構成する画素のうち、所定の位置(座標)に配置された画素を注目画素として設定する。
ここで、本実施形態では、UV強調部32は、Y強調部32と非同期で実行しているが(後述するように同期で実行することも可)、説明の便宜上、HDR合成UV画像の注目画素と同一位置(座標)に配置された、HDR合成Y画像内の画素を、以下、「HDR合成Y画像の注目画素」と呼ぶ。即ち、以下、HDR合成UV画像の注目画素と、HDR合成Y画像の注目画素とは、同一位置(座標)の各々対応する画素であるものとして、以下の説明を行う。
ステップS43において、UVゲイン全体彩度強調部52は、HDR合成UV画像の注目画像のデータに対して、全体彩度強調量を用いた全体強調処理を施す。
具体的には本実施形態では、次の式(8)及び式(9)が演算されることで、HDR合成UV画像の注目画像のデータに対して全体強調処理が施される。
U_HDR’ = U_HDR × UV_gain_lev_al/100 ・・・(8)
V_HDR’ = V_HDR × UV_gain_lev_al/100 ・・・(9)
式(8)において、U_HDR’は、全体強調処理が施された後のHDR合成UV画像の注目画像のU成分値を示している。一方、U_HDRは、全体強調処理が施される前のHDR合成UV画像の注目画像のU成分値を示している。
式(9)において、V_HDR’は、全体強調処理が施された後のHDR合成UV画像の注目画像のV成分値を示している。一方、V_HDRは、全体強調処理が施される前のHDR合成UV画像の注目画像のV成分値を示している。
式(8)と式(9)において、UV_gain_lev_alは、HDR合成UV画像の全体に一律に設定された全体彩度強調量としての、UV全体ゲイン(%)を示している。
ステップS44において、コントラスト強調量取得部53は、Y成分強調処理においてHDR合成Y画像の注目画素に対して用いられたコントラスト強調量を取得する。
具体的には、次の式(10)が演算されて、コントラスト強調量が取得される。
Y_emphasis_Lev = |Y_contrast| ・・・(10)
式(10)において、左辺のY_emphasis_Levは、取得されたコントラスト強調量を示している。右辺のY_contrastは、上述の式(4)による調整並びに式(5)若しくは式(6)による制限が施された後の注目画素の合成コントラスト成分であって、上述の式(7)において、コントラスト強調前の注目画素のデータ(画素値Y_HDR)に加えられた補正量である。
ステップS44において、UVゲイン部分彩度強調部54は、ステップS42の処理で全体強調処理が施されたHDR合成UV画像の注目画像のデータに対して、ステップS43の処理で取得されたコントラスト強調量に連動する部分彩度強調量を用いて、部分強調処理を施す。
具体的には本実施形態では、次の式(11)が演算されることで、全体強調処理が施されたHDR合成UV画像の注目画像のU成分値に対してさらに、部分強調処理が施される。
U_result = U_HDR’
+ U_HDR×(UV_gain_lev_part×Y_emphasis_lev/Y_contrast_max_lev)/100
×UV_adj_lev/100 ・・・(11)
式(11)において、左辺のU_resultは、全体強調処理及び部分強調処理が施されたHDR合成UV画像の注目画像のU成分値を示している。
右辺のU_HDR’は、上述の式(8)により全体強調処理が施された後のHDR合成UV画像の注目画像のU成分値を示している。U_HDR’は、上述の式(8)により全体強調処理が施された後のHDR合成UV画像の注目画像のU成分値を示している。
UV_gain_lev_partは、UV部分ゲイン(%)を示している。Y_emphasis_levは、上述の式(10)によって取得されたコントラスト強調量、即ち合成Y画像の注目画素のデータに対してY成分強制処理が施された際に用いられたコントラスト強調量を示している。Y_contrast_max_levは、合成コントラスト成分として予め設定された上限のレベルを示している。
即ち、(UV_gain_lev_part×Y_emphasis_lev/Y_contrast_max_lev)/100が、コントラスト強調量と連動した部分彩度強調量(%)を示している。
UV_adj_levは、HDR合成UV画像の注目画素のデータに対して個別に設定された調整量(以下、「UV調整量」と呼ぶ)のレベル(%)を示している。
図8は、UV調整量UV_adj_levを設定するテーブルの一例を示している。
図8において、横軸は、HDR合成UV画像のデータ(画素値)UV_HDRを示し、縦軸は、UV調整量UV_adj_lev(%)を示している。
ただし、HDR合成UV画像のデータUV_HDは、本実施形態では、処理負荷軽減のため、式(12)に示すように、U成分値U_HDとV成分値V_HDの各々の絶対値のうちの大きい方を採用する。
UV_HDR = fmax(|U_HDR|,|V_HDR|) ・・・(12)
式(12)において、fmax(α,β)は、αとβのうちの最大値を出力する関数を示している。
図8に示すように、UV調整量UV_adj_levは、HDR合成UV画像の各画素毎に、そのデータ(画素値)UV_HDRに応じて個別に設定されるものである。
このため、注目画素として設定された画素毎に、そのデータ(画素値)UV_HDRに応じてUV調整量UV_adj_levが適応的に変化し、その結果、注目画像のU成分U_HDRに対する部分強調の度合も画素毎に適応的に調節される。これにより、彩度強調による画素値の飽和による悪影響、例えば黒つぶれ、白飛び、色飽和等の悪影響を軽減させることができる。
また、本実施形態では、次の式(13)が演算されることで、全体強調処理が施されたHDR合成UV画像の注目画像のV成分値に対してさらに、部分強調処理が施される。
V_result = V_HDR’
+ V_HDR×(UV_gain_lev_part×Y_emphasis_lev /Y_contrast_max_lev)/100
× UV_adj_lev/100 ・・・(13)
式(12)において、左辺のV_resultは、全体強調処理及び部分強調処理が施されたHDR合成UV画像の注目画像のV成分値を示している。
右辺のV_HDR’は、上述の式(9)により全体強調処理が施された後のHDR合成UV画像の注目画像のV成分値を示している。V_HDR’は、上述の式(9)により全体強調処理が施された後のHDR合成UV画像の注目画像のV成分値を示している。
また、式(13)においても、式(11)と同様に、(UV_gain_lev_part×Y_emphasis_lev/Y_contrast_max_lev)/100が、コントラスト強調量と連動した部分彩度強調量(%)として用いられている。
また、式(13)においても、式(11)と同様に、図8のテーブルに従って設定されるUV調整量UV_adj_levが用いられている。従って、上述したように、注目画素として設定された画素毎に、そのデータ(画素値)UV_HDRに応じてUV調整量UV_adj_levが適応的に変化し、その結果、注目画像のV成分V_HDRに対する部分強調の度合も画素毎に適応的に調節される。これにより、彩度強調による画素値の飽和による悪影響、例えば黒つぶれ、白飛び、色飽和等の悪影響を軽減させることができる。
図7のステップS46において、UV強調部32は、全ての画素を注目画素に設定したか否かを判定する。
HDR合成UV画像を構成する画素のうち、注目画素に未だ設定されていない画素が存在する場合、ステップS46においてNOであると判定されて、処理はステップS42に戻され、それ以降の処理が繰り返される。
即ち、HDR合成UV画像を構成する画素が注目画素として順次設定される毎に、ステップS42乃至S46のループ処理が繰り返し実行されて、注目画素して設定された画素のデータが、彩度が強調されるように更新されていく。ただし、その彩度の強調度合は、上述の如く、コントラストの強調度合に連動し、かつ、注目画素して設定された画素の更新前のデータU_HDR及びV_HDRの値に応じて適応的に可変する。
そして、最後の画素がステップS42の処理で注目画素に設定されて、ステップS43乃至S46の処理が実行されると、HDR合成UV画像を構成する全画素が更新されたので(全画素の画素値が、上述の式(11)の値U_result及び式(13)の値V_resultに更新されたので)、次のステップS46においてYESであると判定されて、UV成分強調処理は終了となる。
これにより、図3の画像加工処理のうち、ステップS4のUV成分強調処理が終了し、処理はステップS5に進む。即ち、ステップS3のY成分強調処理が施されたHDR合成Y画像のデータと、ステップS4のUV成分強調処理が施されたHDR合成UV画像のデータとの組み合わせが、強調後YUV画像のデータとして、強調後YUV画像取得部33によって取得される。
なお、以上説明した画像加工処理の流れは、例示に過ぎない。
例えば、上述の例では、ステップS3のY成分強調処理の後、ステップS4のUV成分強調処理が実行されたが、これらの処理の順番は特に限定されない。ただし、ステップS4のUV成分強調処理で、ステップS3のY成分強調処理で用いられたコントラスト強調量(式(10)のコントラスト強調量Y_emphasis_lev)を取得できる必要がある。
また例えば、ステップS2乃至S6の処理は、上述の例では各ステップ内では画素を単位として、各ステップ間では画像を単位として実行されたが、上述の例に特に限定されない。例えば、注目画素又は当該注目画素を含むブロックに対して、ステップS2乃至S6の処理を連続して実行する処理を、画素又はブロック毎に繰り返し実行するようにしてもよい。
以上説明したように、HDR合成画像のデータが、Y成分からなるHDR合成Y画像のデータと、UV成分からなるHDR合成UV画像のデータとに分離されている場合、図2のY強調部31は、所定のコントラスト強調量を用いて、HDR合成Y画像のデータを強調する。一方、UV強調部32は、Y強調部31のコントラスト強調量に連動して可変する彩度強調量を用いて、HDR合成UV画像のデータを強調する。
これにより、過度に色空間の各パラメータが調整されていても現実感を失わせないようなHDR合成画像のデータが得られる、という効果を奏することが可能になる。
特に、Y強調部31が、HDR合成Y画像内の所定の位置(座標)の画素のデータを、位置毎に異なるコントラスト強調量を用いて強調し、UV強調部32が、HDR合成UV画像内の所定の位置(座標)の画素のデータを、当該位置(座標)と同一のHDR合成Y画像内の位置用のコントラスト強調量に連動して可変する彩度強調量を用いて強調することによって、当該効果が顕著なものとなる。
このような効果は、図9と図10を比較することで明確にわかる。
図9は、図3の画像加工処理の対象となる画像のデータの一例であって、図4(E)の例と同一のデータを示している。
図9(A)は、ステップS2の処理の結果得られたHDR合成画像のデータの一例を示している。
図9(B)は、ステップS3のY成分強調処理において、図9(A)のHDR合成画像のデータの全体に対して中域強調のεフィルタ(33×33のサイズ)をかけて、その結果得られる画像全体のεフィルタ後データ(図5のステップS23参照)の一例を示している。
図9(C)は、ステップS3のY成分強調処理において、図9(A)のHDR合成画像のデータの全体に対して低域強調のεフィルタ(129×129のサイズ)をかけて、その結果得られる画像全体のεフィルタ後データ(図5のステップS23参照)の一例を示している。
図9(D)は、ステップS3のY成分強調処理において、図9(A)乃至図9(C)の各データを用いて生成された画像全体のコントラスト成分(図5のステップS24及びS25参照)の一例を示している。
図10は、図9の各データを用いて図3の画像加工処理が実行された結果得られる、強調後YUV画像のデータの一例を示している。
なお、各パラメータとしては、次の値が用いられた。即ち、YゲインY_gain_levは100%であった。UV全体ゲインはUV_gain_lev_allは125%であった。UV部分ゲインUV_gain_lev_partは150%であった。合成コントラスト成分として予め設定された上限のレベルY_contrast_max_levは32(8bit階調で)であった。
図10に示す強調後YUV画像は、過度に色空間の各パラメータが調整されていても現実感を失わせないようなHDR合成画像になっていることがわかる。
なお、本発明は前記実施形態に限定されるものではなく、本発明の目的を達成できる範囲での変形、改良等は本発明に含まれるものである。
例えば、上述した実施形態では、Y強調部31によるY成分強調処理において、アンシャープマスク処理を施す際の平滑化のために用いるフィルタは、εフィルタが採用された。
しかしながら、このようなフィルタは、上述の如く特にεフィルタに限定されず、例えば、局所的にコントラスト成分を強調する際に発生するアンダーシュートやオーバーシュートを意図的に出した画像を生成したい場合には、通常のLPFを採用することもできる。
また例えば、上述した実施形態では、コントラストを強調するためのY成分強調処理においては、2種類の周波数(低域と中域)が採用されたが、特にこれに限定されず、3種類以上でもよい。例えば低域と中域に加えてさらに、高域を採用することで、高域を強調して、シャープネスを向上させることも可能になる。
なお、上述した実施形態では、部分強調処理において処理対象となる画像において顔画像領域が存在した場合を考慮していないが、公知の顔画像領域検出技術を用いて顔画像領域を検出させ、この検出された顔画像の存在を考慮し、強調量の少ない部分強調処理の制御を行ってもよい。このようにすると、過度な強調により顔(特に肌色領域)の色味や質感等と失わせるという問題を解消することができる。
より具体的には、顔画像領域を検出した場合にY画像に適用させるコントラスト強調量、及び、UV画像に適用させる彩度強調量を予め設定しておく。なお、これらの強調量はこれまでに説明したコントラスト強調量及び彩度強調量より少なく、詳細には80パーセント程度に抑えられたものでよい。
そして、顔画像領域を検出すると、上述のステップS3〜ステップS4でコントラスト強調量と彩度強調量で部分強調処理された画像と、顔画像領域を検出した場合に適用されるコントラスト強調量と彩度強調量で部分強調処理された画像とを生成する。
さらに、これらの画像同士を画素単位でαブレンディングして合成画像を得る。この場合検出された顔画像領域とその周辺領域については、顔画像領域を検出した場合に適用されるコントラスト強調量と彩度強調量で部分強調処理された画像の比率が高くなるように合成し、それ以外の領域については上述のステップS3〜ステップS4でコントラスト強調量と彩度強調量で部分強調処理された画像の比率が高くなるように合成することができる。
また例えば、上述した実施形態では、露出値が各々異なる複数の画像のデータとして、3枚の画像のデータが画素加算合成されたが、合成対象の画像のデータ数は、特にこれに限定されない。即ち、本発明は、2枚以上の任意の数の画像のデータを画素加算合成する場合に広く適用することができる。
また、画像加工処理の対象となる各種画像のデータは、上述の各図に示される具体例に特に限定されない。例えば合成対象となる複数の画像のデータが撮像される際の露出値の設定は、上述の各図に示される具体例に限定されず、露出値が各々異なれば任意でよい。
また、上述の実施形態では特に言及しなかったが、露出値が各々異なる複数の画像のデータは、画素加算合成されることを考慮すると、位置ズレが予め補正されていると好適である。
また例えば、上述した実施形態では、本発明が適用される画像処理装置は、デジタルカメラとして構成される例として説明した。
しかしながら、本発明は、特にこれに限定されず、画像処理機能を有する電子機器一般に適用することができ、例えば、本発明は、デジタルフォトフレーム、パーソナルコンピュータ、携帯型ナビゲーション装置、ポータブルゲーム機等に幅広く適用可能である。
換言すると、上述した一連の処理は、ハードウェアにより実行させることもできるし、ソフトウェアにより実行させることもできる。
図11は、上述した一連の処理をソフトウェアにより実行させる場合の、本発明が適用される画像処理装置のハードウェア構成を示すブロック図である。
図11の例では、画像処理装置は、CPU(Central Processing Unit)201と、ROM(Read Only Memory)202と、RAM(Random Access Memory)203と、バス204と、入出力インターフェース205と、入力部206と、出力部207と、記憶部208と、通信部209と、ドライブ210と、を備えている。
CPU201は、ROM202に記録されているプログラムに従って各種の処理を実行する。又は、CPU201は、記憶部208からRAM203にロードされたプログラムに従って各種の処理を実行する。
RAM203にはまた、CPU201が各種の処理を実行する上において必要なデータ等も適宜記憶される。
例えば本実施形態では、合成部11乃至ノイズ低減部13の機能を実現するプログラムが、ROM202や記憶部208に記憶されている。従って、CPU201が、これらのプログラムに従った処理を実行することで、合成部11乃至ノイズ低減部13の機能を実現することができる。
CPU201、ROM202、及びRAM203は、バス204を介して相互に接続されている。このバス204にはまた、入出力インターフェース205も接続されている。入出力インターフェース205には、入力部206、出力部207、記憶部208、及び通信部209が接続されている。
入力部206は、各種釦等の操作部で構成され、ユーザの指示操作を受け付ける他、各種情報を入力する。
出力部207は、各種情報を出力する。例えば、出力部207には、図示せぬ表示部が設けられており、合成部11の出力データにより表わされる合成画像が表示される。
記憶部208は、ハードディスクやDRAM(Dynamic Random Access Memory)等で構成され、各種データを記憶する。
通信部209は、インターネットを含むネットワークを介して他の装置(図示せず)との間で行う通信を制御する。
入出力インターフェース205にはまた、必要に応じてドライブ210が接続され、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリ等よりなるリムーバブルメディア211が適宜装着される。ドライブ210によってリムーバブルメディア211から読み出されたプログラムは、必要に応じて記憶部208にインストールされる。また、リムーバブルメディア211は、記憶部208に記憶されている画像データ等の各種データも、記憶部208と同様に記憶することができる。
一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、コンピュータ等にネットワークや記録媒体からインストールされる。コンピュータは、専用のハードウェアに組み込まれているコンピュータであってもよい。また、コンピュータは、各種のプログラムをインストールすることで、各種の機能を実行することが可能なコンピュータ、例えば汎用のパーソナルコンピュータであってもよい。
このようなプログラムを含む記録媒体は、ユーザにプログラムを提供するために装置本体とは別に配布されるリムーバブルメディア211により構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに提供される記録媒体等で構成される。リムーバブルメディア211は、例えば、磁気ディスク(フロッピディスクを含む)、光ディスク、又は光磁気ディスク等により構成される。光ディスクは、例えば、CD−ROM(Compact Disk−Read Only Memory),DVD(Digital Versatile Disk)等により構成される。光磁気ディスクは、MD(Mini−Disk)等により構成される。また、装置本体に予め組み込まれた状態でユーザに提供される記録媒体は、例えば、プログラムが記録されているROM202や記憶部208に含まれるハードディスク等で構成される。
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、その順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的或いは個別に実行される処理をも含むものである。
11・・・合成部、12・・・画像生成部、13・・・ノイズ低減部、31・・・Y強調部、32・・・UV強調部、33・・・強調後YUV画像取得部、41・・・合成Y画像取得部、42A・・・εフィルタ部、42B・・・εフィルタ部、43A・・・コントラスト成分作成部、43B・・・コントラスト成分作成部、44・・・コントラスト合成部、45・・・Y成分コントラスト強調部、51・・・合成UV画像取得部、52・・・UVゲイン全体彩度強調部、53・・・コントラスト強調量取得部、54・・・UVゲイン部分彩度強調部、201・・・CPU、202・・・ROM、203・・・RAM、204・・・バス、205・・・入出力インターフェース、206・・・入力部、207・・・出力部、208・・・記憶部、209・・・通信部、210・・・ドライブ、211・・・リムーバブルメディア

Claims (7)

  1. 露出が各々異なる複数の画像のデータが合成された結果得られる合成画像のデータが、所定の色空間において規定される輝度成分からなる第1の画像のデータと、その他の成分からなる第2の画像のデータとに分離されている場合、所定の第1強調量を用いて、前記第1の画像のデータを強調する第1の強調手段と、
    前記第1の強調手段の前記第1強調量に連動して可変する第2強調量を用いて、前記第2の画像のデータを強調する第2の強調手段と、
    を備えることを特徴とする画像処理装置。
  2. 前記第1の強調手段は、前記第1の画像内の所定の位置の画素のデータを、位置毎に異なる前記第1強調量を用いて強調し、
    前記第2の強調手段は、前記第2の画像内の所定の位置の画素のデータを、当該位置と同一の前記第1の画像内の位置用の前記第1強調量に連動して可変する前記第2強調量を用いて、強調することを特徴とする
    請求項1に記載の画像処理装置。
  3. 前記第2の強調手段は、
    前記第2の画像内の前記所定の位置の画素のデータを、前記第2の画像全体に適用されている第3強調量を用いて、強調する全体強調手段と、
    前記所定の位置と同一の前記第1の画像内の位置用の前記第1強調量に連動して可変する前記第2強調量を取得する取得手段と、
    前記第2の画像内の前記所定の位置の画素のデータを、前記取得手段により取得された前記第2強調量を用いて、強調する部分強調手段と、
    を備えることを特徴とする請求項2に記載の画像処理装置。
  4. 露出が各々異なる複数の画像のデータの少なくとも一つから顔画像領域を検出する画像領域検出手段を更に備え、
    前記第1の強調手段は、前記画像領域検出手段によって顔画像領域が検出されると、前記所定の第1強調量より少ない第3強調量を用いて前記第1の画像のデータを強調し、
    前記第2の強調手段は、前記第1の強調手段の前記第3強調量に連動して可変する第4強調量を用いて、前記第2の画像のデータを強調することを特徴とする請求項1乃至3の何れかに記載の画像処理装置。
  5. 前記第1の強調手段は前記第1の画像のデータにおける前記顔画像領域周辺部分を強調することを特徴とする請求項4に記載の画像処理装置。
  6. 前記第2の強調手段は前記第2の画像のデータにおける前記顔画像領域周辺部分を強調することを特徴とする請求項4に記載の画像処理装置。
  7. 画像のデータに対して画像処理を施す画像処理装置を制御するコンピュータに、
    露出が各々異なる複数の画像のデータが合成された結果得られる合成画像のデータが、Y成分からなる第1の画像のデータと、UV成分からなる第2の画像のデータとに分離されている場合、所定の第1強調量を用いて、前記第1の画像のデータを強調する第1の強調機能と、
    前記第1の強調機能の前記第1強調量に連動して可変する第2強調量を用いて、前記第2の画像のデータを強調する第2の強調機能と、
    を実現させることを特徴とするプログラム。
JP2011044532A 2010-07-21 2011-03-01 画像処理装置、及びプログラム Active JP5136665B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2011044532A JP5136665B2 (ja) 2010-07-21 2011-03-01 画像処理装置、及びプログラム
CN201110202004.4A CN102348070B (zh) 2010-07-21 2011-07-19 图像处理装置和图像处理方法
US13/187,233 US8472713B2 (en) 2010-07-21 2011-07-20 Image processor, image processing method, and computer-readable medium
KR1020110072350A KR101267404B1 (ko) 2010-07-21 2011-07-21 화상 처리 장치, 화상 처리 방법, 및 기록 매체
HK12104877.6A HK1164593A1 (en) 2010-07-21 2012-05-18 Image processing apparatus and image processing method

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2010164148 2010-07-21
JP2010164148 2010-07-21
JP2011044532A JP5136665B2 (ja) 2010-07-21 2011-03-01 画像処理装置、及びプログラム

Publications (2)

Publication Number Publication Date
JP2012044639A true JP2012044639A (ja) 2012-03-01
JP5136665B2 JP5136665B2 (ja) 2013-02-06

Family

ID=45493654

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011044532A Active JP5136665B2 (ja) 2010-07-21 2011-03-01 画像処理装置、及びプログラム

Country Status (5)

Country Link
US (1) US8472713B2 (ja)
JP (1) JP5136665B2 (ja)
KR (1) KR101267404B1 (ja)
CN (1) CN102348070B (ja)
HK (1) HK1164593A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014068330A (ja) * 2012-09-05 2014-04-17 Casio Comput Co Ltd 画像処理装置、画像処理方法及びプログラム
JP2014113488A (ja) * 2012-12-05 2014-06-26 Vorwerk & Co Interholding Gmbh 走行式掃除機並びにこのような装置の運転方法
US10761371B2 (en) 2016-11-15 2020-09-01 Sharp Kabushiki Kaisha Display device

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5743384B2 (ja) * 2009-04-14 2015-07-01 キヤノン株式会社 画像処理装置及び画像処理方法とコンピュータプログラム
JP5136664B2 (ja) * 2010-07-09 2013-02-06 カシオ計算機株式会社 画像処理装置、及びプログラム
JP5141733B2 (ja) * 2010-08-18 2013-02-13 カシオ計算機株式会社 撮像装置、撮像方法、及びプログラム
US9354748B2 (en) 2012-02-13 2016-05-31 Microsoft Technology Licensing, Llc Optical stylus interaction
US9460029B2 (en) 2012-03-02 2016-10-04 Microsoft Technology Licensing, Llc Pressure sensitive keys
US9870066B2 (en) 2012-03-02 2018-01-16 Microsoft Technology Licensing, Llc Method of manufacturing an input device
US9075566B2 (en) 2012-03-02 2015-07-07 Microsoft Technoogy Licensing, LLC Flexible hinge spine
US20130300590A1 (en) 2012-05-14 2013-11-14 Paul Henry Dietz Audio Feedback
US8964379B2 (en) 2012-08-20 2015-02-24 Microsoft Corporation Switchable magnetic lock
US8786767B2 (en) * 2012-11-02 2014-07-22 Microsoft Corporation Rapid synchronized lighting and shuttering
JP5975215B2 (ja) * 2012-11-14 2016-08-23 富士ゼロックス株式会社 画像処理装置及び画像処理プログラム、画像調整装置及び画像調整プログラム
US9083959B2 (en) 2013-02-20 2015-07-14 Intel Corporation Real-time automatic conversion of 2-dimensional images or video to 3-dimensional stereo images or video
JP5889247B2 (ja) * 2013-07-02 2016-03-22 キヤノン株式会社 画像処理装置、画像処理方法及び画像処理プログラム、並びに撮像装置
US10120420B2 (en) 2014-03-21 2018-11-06 Microsoft Technology Licensing, Llc Lockable display and techniques enabling use of lockable displays
US10324733B2 (en) 2014-07-30 2019-06-18 Microsoft Technology Licensing, Llc Shutdown notifications
CN107113384B (zh) * 2015-01-20 2019-10-25 奥林巴斯株式会社 图像处理装置、图像处理方法以及存储介质
CN105657243A (zh) * 2015-11-08 2016-06-08 乐视移动智能信息技术(北京)有限公司 防抖动的延时摄影方法和装置
CN108293090B (zh) * 2015-12-15 2020-10-20 株式会社理光 图像处理设备和图像处理方法
WO2018163106A1 (en) * 2017-03-09 2018-09-13 Pure Depth Inc. Content redirection in a multi-layered display system
US10630901B2 (en) 2017-05-23 2020-04-21 Google Llc Systems and methods for selectively activating high dynamic range in a video capture system
CN110427823B (zh) * 2019-06-28 2021-12-21 北京大学 基于视频帧与脉冲阵列信号的联合目标检测方法与装置
JP2021082069A (ja) * 2019-11-20 2021-05-27 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法、及びプログラム
CN112669231B (zh) * 2020-12-23 2024-03-05 北京小米松果电子有限公司 图像处理方法、图像处理模型的训练方法、装置、介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6359292A (ja) * 1986-08-29 1988-03-15 アグファ−ゲ−ヴェルト・アクチエンゲゼルシャフト 電子画像処理における彩度補正方法
JP2003331307A (ja) * 2002-05-08 2003-11-21 Seiko Epson Corp 画像処理装置、画像処理方法および画像処理プログラム
JP2004229259A (ja) * 2002-11-26 2004-08-12 Keio Gijuku カラ−画像処理装置および処理方法
JP2007318256A (ja) * 2006-05-23 2007-12-06 Sony Corp 画像補正回路、画像補正方法および画像表示装置

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3501252B2 (ja) * 1995-06-16 2004-03-02 三菱電機株式会社 階調補正装置
US6360022B1 (en) * 1997-04-04 2002-03-19 Sarnoff Corporation Method and apparatus for assessing the visibility of differences between two signal sequences
JP3732978B2 (ja) * 1999-08-23 2006-01-11 ペンタックス株式会社 画像圧縮および伸張装置とその方法
US6804408B1 (en) * 1999-12-22 2004-10-12 Eastman Kodak Company Method for enhancing a digital image with noise-dependent control of texture
US6809838B1 (en) * 2000-10-19 2004-10-26 Eastman Kodak Company Transforms for display or printing digital images
US7130485B2 (en) * 2002-10-02 2006-10-31 Eastman Kodak Company Enhancing the tonal and color characteristics of digital images using expansive and compressive tone scale functions
US7245781B2 (en) * 2003-10-23 2007-07-17 Eastman Kodak Companny Applying a tone scale function to a digital image
KR100680058B1 (ko) * 2003-11-13 2007-02-07 엘지.필립스 엘시디 주식회사 액정표시장치의 구동방법 및 구동장치
US7480421B2 (en) 2005-05-23 2009-01-20 Canon Kabushiki Kaisha Rendering of high dynamic range images
JP4717720B2 (ja) 2006-06-05 2011-07-06 富士フイルム株式会社 画像処理装置および方法並びにプログラム
KR101257942B1 (ko) * 2008-04-23 2013-04-23 고려대학교 산학협력단 광역 역광보정 영상처리에서의 전처리 방법 및 장치
US8477247B2 (en) * 2008-09-30 2013-07-02 Intel Corporation Joint enhancement of lightness, color and contrast of images and video
JP5299867B2 (ja) * 2009-06-30 2013-09-25 日立コンシューマエレクトロニクス株式会社 画像信号処理装置
JP5136664B2 (ja) * 2010-07-09 2013-02-06 カシオ計算機株式会社 画像処理装置、及びプログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6359292A (ja) * 1986-08-29 1988-03-15 アグファ−ゲ−ヴェルト・アクチエンゲゼルシャフト 電子画像処理における彩度補正方法
JP2003331307A (ja) * 2002-05-08 2003-11-21 Seiko Epson Corp 画像処理装置、画像処理方法および画像処理プログラム
JP2004229259A (ja) * 2002-11-26 2004-08-12 Keio Gijuku カラ−画像処理装置および処理方法
JP2007318256A (ja) * 2006-05-23 2007-12-06 Sony Corp 画像補正回路、画像補正方法および画像表示装置

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014068330A (ja) * 2012-09-05 2014-04-17 Casio Comput Co Ltd 画像処理装置、画像処理方法及びプログラム
US9058640B2 (en) 2012-09-05 2015-06-16 Casio Computer Co., Ltd. Image processing apparatus, image processing method and recording medium
JP2014113488A (ja) * 2012-12-05 2014-06-26 Vorwerk & Co Interholding Gmbh 走行式掃除機並びにこのような装置の運転方法
US10761371B2 (en) 2016-11-15 2020-09-01 Sharp Kabushiki Kaisha Display device

Also Published As

Publication number Publication date
CN102348070B (zh) 2014-04-23
CN102348070A (zh) 2012-02-08
HK1164593A1 (en) 2012-09-21
KR20120010182A (ko) 2012-02-02
KR101267404B1 (ko) 2013-05-30
US20120020556A1 (en) 2012-01-26
US8472713B2 (en) 2013-06-25
JP5136665B2 (ja) 2013-02-06

Similar Documents

Publication Publication Date Title
JP5136665B2 (ja) 画像処理装置、及びプログラム
JP5316625B2 (ja) 画像合成装置、及びプログラム
JP5136664B2 (ja) 画像処理装置、及びプログラム
JP5157753B2 (ja) 画像処理装置、画像処理方法、画像処理プログラム
JP5633550B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP4803284B2 (ja) 画像処理装置、及び画像処理プログラム
JP4847591B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
JP2012247873A (ja) 画像処理装置および方法
JP2010503056A (ja) 画像の強調の方法及び装置
JP2011109373A (ja) 撮像装置、撮像処理方法及びプログラム
JP4944061B2 (ja) 画像処理装置および方法並びにプログラム
JP2018182376A (ja) 画像処理装置
JP2007180851A (ja) Raw画像の階調変換装置、プログラム、方法、および電子カメラ
JP2008118462A (ja) 画像処理装置、撮像装置、及び画像処理プログラム
JP2012247874A (ja) 画像処理装置および方法
JP5295854B2 (ja) 画像処理装置及び画像処理プログラム
JP2006114006A (ja) 階調変換装置、プログラム、電子カメラ、およびその方法
JP6335614B2 (ja) 画像処理装置、その制御方法、及びプログラム
JP2013162247A (ja) 画像処理装置およびその制御方法
JP2020149589A (ja) 画像処理装置、撮像装置、画像処理方法、及びプログラム
JP4329391B2 (ja) 信号処理装置および方法、記録媒体、並びにプログラム
JP2010278937A (ja) 画像信号処理装置
JP2014155167A (ja) 画像処理装置、画像処理方法、画像処理プログラム及び記録媒体
JP2018195189A (ja) 画像処理装置、画像処理方法、及び、プログラム
JP2005328162A (ja) 信号処理装置および方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120510

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20120515

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20120531

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120612

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120803

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121016

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121029

R150 Certificate of patent or registration of utility model

Ref document number: 5136665

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151122

Year of fee payment: 3