以下、本発明の実施の形態及び、本発明に関連する発明の実施の形態について、図面を用いて説明する。
(実施の形態1)
図1は本発明に関連する発明の実施の形態1による画像処理装置の概略構成を示すブロック図である。本実施の形態の画像処理装置は、デジタルカメラが撮影したメモリカードを入力としデジタル写真のプリントを行うカラープリンタの中に搭載される肌色の記憶色補正を行うユニットとして構成されている。したがって、本ブロック図以外に図示していないカードリーダ、JPEG展開処理、ページメモリ、プリントエンジン等が存在する。また、本実施の形態は入力および出力画素信号は(R,G,B)信号、輝度色度信号は(L*,a*,b*)とする。
100Aは記憶色補正手段であり、700は(R,G,B)からなる画素信号を輝度・色度信号(L*,a*,b*)に変換する輝度色度変換手段であり、710は記憶色補正手段100Aが補正した(L*,a1*,b1)*を(R1,G1,B1)に変換する輝度色度逆変換手段であり、600は本実施の形態では図示しない手段により記憶色補正をかける補正度合Kを設定する補正度合設定手段である。なお、補正度合設定手段600については後述する。
また、記憶色補正手段100Aは、(L*,a*,b*)から補正強度Wを決定する強度決定手段200Aと、記憶色補正の目標色度(a0*,b0*)を設定する目標色設定手段400Aと、補正強度Wと補正度合Kを乗ずる乗算手段500と、輝度色度変換手段700が出力する色度信号(a*,b*)を乗算手段500の出力に応じて目標色設定手段400Aの設定した色度値(a0*,b0*)に近づける補正手段300Aとから構成されている。
さらに、強度決定手段200Aは、3つの関数発生手段210A、210B、210Cと、合成手段220とから構成され、補正手段300Aは2つの内分手段310A、310Bから構成されている。
以上のように構成された実施の形態1による画像処理装置について、以下、その動作を述べる。
本実施の形態の画像処理装置は、入力画像信号の記憶色補正を行う。ここで記憶色とは、例えば肌色や木々の緑色などのように、心理的にこんな色であるはずまたはあって欲しいというような色は記憶色と呼ばれる。人間の肌の肌色や木々の緑色を忠実に色再現した写真を見ても、ユーザは、満足しないことがある。ユーザの記憶している人間の肌の肌色や木々の緑色とは異なった色が色再現されているからである。このような場合に、人間の肌の肌色や木々の緑色を記憶色に近くなるように色再現することによって、ユーザは、これらの色に満足するようになる。本実施の形態の画像処理装置は、入力画像信号の例えば人間の肌の肌色を記憶色に近くなるように補正する。
まず、入力された(R,G,B)信号は輝度色度変換手段700により輝度信号L*と2つの色度信号(a*,b*)に変換される。L*およびa*,b*信号はルックアップテーブル(以下LUT)で構成されている関数発生手段210C,210A,210Bによりそれぞれの軸方向に独立した補正強度WL、Wa、Wbを出力する。さらにこれらの補正強度WL、Wa、Wbは合成手段220により合成された補正強度Wに変換される。本実施の形態の合成手段220は、WL、Wa、Wbの最小値を出力する動作を行う。これにより、3つの1次元の関数発生手段210A、210B、210Cによりかなり柔軟に肌色領域に対する重みWを決定することができる。
図2(d)、図2(b)、図2(c)がL*および(a*,b*)信号に対するLUTの一例であり、これらの補正強度WL、Wa、Wbの正の値を持つ範囲がそれぞれの軸方向での肌色領域を決定する。図2(a)は、合成手段220により合成された3次元での補正強度Wが決定する肌色領域を(a*,b*)平面に図示したものである。すなわち、図2(a)における肌色領域とは、補正強度Wが正の値を取るような(a*,b*)平面の領域である。この図では肌色領域の範囲は示せているが補正強度Wは表されていない。
肌色領域の大きさに関しては、実際に撮影された様々な人の肌の色の統計を基に決定しており、領域内の各軸ごとの重みの大きさは、目標色(a0*,b0*)への引き込み具合を上記多数の画像に対して考慮して作成している。統計の結果では、様々な肌色を考慮すると肌色領域は(a*,b*)平面の第1象限のかなり広い範囲を占めるが、範囲の端の部分は補正強度Wが次第に小さくなるよう設定しているため肌色からはずれた色に対する影響は比較的小さく、(a*,b*)平面上での折り返しが起こらず連続的なグラデーションを得ることが出来る。
また、人物の影の部分の肌色も考慮すると輝度軸には比較的広い範囲を占める。しかし、ハイライトに近い領域と暗い領域には、もともと彩度の高い色が存在しないため図2(a)に示した(a*,b*)平面で決定した広い領域は適切でなくなる。画像の美しさの観点からは非常に暗い肌色まで補正する必要はないため、図2(d)の特性の関数発生手段210Cは肌色補正の副作用を減らすのに有効である。
ここで一例として、△で図示する色に対してどのように補正強度Wが決定されるのかを図2により説明する。△はかなり鮮やかで黄色よりの肌色であり、かなり暗い色であるため、輝度方向の補正強度WLが最も小さな値を持ちこれが補正強度Wとなり、比較的弱い補正となる。このように色度信号(a*,b*)のみならず、輝度信号Lをも考慮して補正強度Wを決定するので、非常に暗い肌色を補正することにより発生する副作用を減らすことが出来る。
つぎに、補正手段300Aの動作について説明する。
本実施の形態では、輝度信号L*に対しては補正を行わず色度信号(a*,b*)にのみ補正を行う。輝度信号は視覚的にグラデーションの乱れが目立ちやすいため、色変化がそのままグラデーションの乱れにより偽輪郭や不自然なグラデーションが発生するという副作用につながりやすく、肌色部の明るさを変えたければ、記憶色補正とは別の階調補正・ガンマ補正などの公知の技術により自然に変化させることが可能であるからである。もちろん同様の方法で、輝度に対して副作用の無視できる範囲で穏やかな補正を掛けることも可能である。
本実施の形態の補正手段300Aは、色度信号(a*,b*)と目標色度値(a0*,b0*)とを補正強度Wにより下記式にしたがい内分動作を行う。
したがって、W=0のとき入力色度信号(a*,b*)がそのまま出力され、W=1のときは目標色度値(a0*,b0*)が出力されることになる。
また補正強度Wの最も大きな値の(a*,b*)値と肌色の目標色(a0*,b0*)は必ずしも一致している必要はない。
また、図2のようにそれぞれの軸の補正強度Wの最大値を1以下に設定することにより、目標色付近の色は引き込まれはするが全く同じ色になることはなく、彩度・色相の自然な変化は残りグラデーションは保たれる。
補正度合設定手段600が設定する補正度合Kは、図示しないプリンタの制御装置のユーザーインターフェースを通じて利用者の指示にしたがい設定される。例えば、全く人物の含まれない画像や記憶色補正せず忠実な色再現を望む場合には0に近い値が設定され、それ以外の場合には1に近い値が設定される。乗算手段500は、上記補正度合Kに比例して強度決定手段200Aが出力する補正強度Wを調節する働きをする。例えば乗算手段500は上記補正度合kと強度決定手段200Aが出力する補正強度Wとの積に補正強度Wを調節する。そして、値が調節された補正強度Wを用いて補正手段300Aで上述した内分動作が行われる。例えば、ユーザが補正度合K=0を設定すれば、記憶色補正は全く働かなくなる。また、ユーザが補正度合K=1を設定すれば十分な記憶色補正が行われることになる。
なお、本実施の形態では、肌色の記憶色補正を例に説明したが他の色の補正に使用できることはもちろんである。
また、実施の形態では、輝度信号と色度信号として(L*,a*,b*)を用いたが、他にも(L*,u*,v*)、(Y,Cb,Cr)、(Y,R-Y,B-Y)、(Y,U,V)など多くの輝度・色度系の色空間が利用できるため、記憶色の種類により絞りやすい色空間を使用することができる。
また、補正手段300Aは色度信号のみを補正する構成としたが、輝度信号に対しても同様の構成を取ることが可能である。
また、合成手段220は3つの信号の最小のものを出力する最小値検出回路で構成しているが、例えば3つの補正強度の算術積などのように、同様の効果を持つ公知のさまざまな非線形回路が利用できる。
また、補正度合設定手段600は上記ユーザによる手動設定以外に種々の自動設定により設定することも出来る。乗算手段500は、補正度合Kの大小により補正強度Wの大きさを変化させることができる手段で有れば乗算でなくても良い。たとえば最小値検出回路なども使用できる。
なお、本実施の形態の強度決定手段200A及び補正手段300Aは本発明に関連する発明の色変換手段の例であり、本実施の形態の補正度合設定手段600、強度決定手段200A、乗算手段500、及び補正手段300Aは本発明に関連する発明の色変換手段の例であり、本実施の形態の関数発生手段210Aは本発明に関連する発明の第2の関数発生手段の例であり、本実施の形態の関数発生手段210Bは本発明に関連する発明の第3の関数発生手段の例であり、本実施の形態の関数発生手段210Cは本発明に関連する発明の第1の関数発生手段の例であり、本実施の形態の補正強度Waは本発明に関連する発明の第2の補正強度の候補の例であり、本実施の形態の補正強度Wbは本発明に関連する発明の第3の補正強度の候補の例であり、本実施の形態の補正強度WLは本発明に関連する発明の第1の補正強度の例であり、本実施の形態の補正強度Wは本発明に関連する発明の補正強度の例である。
(実施の形態2)
図3は本発明に関連する発明の実施の形態2による画像処理装置の概略構成を示すブロック図である。本実施の形態も前述の実施の形態1と同様の用途のものであり、カラープリンタの中に搭載される肌色の記憶色補正を行うユニットとして構成されている。したがって、本ブロック図以外に図示していないカードリーダ、JPEG展開処理、ページメモリ、プリントエンジン等が存在する。また、本実施の形態は入力および出力画素信号は(R,G,B)信号、輝度色度信号は(L*,a*,b*)とする。
100Bは記憶色補正手段であり、700は輝度色度変換手段であり、710は輝度色度逆変換手段であり、600は補正度合設定手段であり、実施の形態1の構成要件と同じものは同じ参照番号で示し詳細な説明を省略する。
また、記憶色補正手段100Bは、(L*,a*,b*)から補正強度Wを決定する強度決定手段200Bと、記憶色補正の目標色度(a0*,b0*)を設定する目標色設定手段400Aと、補正強度Wと補正度合Kを乗ずる乗算手段500と、輝度色度変換手段700が出力する色度信号(a*,b*)を乗算手段500の出力に応じて目標色設定手段400Aの設定した色度値(a0*,b0*)に近づける補正手段300Aとから構成されている。
さらに、強度決定手段200Bは、2次元関数発生手段211と、関数発生手段210Cと、合成手段221とから構成されている。
以上のように構成された実施の形態2による画像処理装置について、以下、その動作を述べる。
輝度色度変換手段700により変換された輝度信号L*は、LUTで構成されている関数発生手段210Cにより補正強度WLを出力し、色度信号(a*,b*)は、2次元関数発生手段211により補正強度Wcを出力する。合成手段221は、WL、Wcの最小値を出力する動作を行う。
補正手段300Aおよび補正度合設定手段600については実施の形態1と同様のものであり説明は省略する。
図4は、(a*,b*)平面における補正強度Wcを発生する2次元関数発生手段211の一例を示す説明図である。図中の領域2と記された太楕円が肌色領域を示しており、小さな楕円は補正強度Wcを等高線で示している。すなわち、領域2は、補正強度Wcが正の値をとる領域である。左上は楕円の長辺方向に切断した断面を一次元で示している。図中の◆は目標色(a0*,b0*)である。領域1と示した波線の長方形は、実施の形態1で説明した肌色領域を比較のために示したものである。
前述したように、実際に撮影された様々な人の肌の色の統計の結果から、本実施の形態2の2次元関数発生手段211は、様々な肌色を必要十分な形に絞るのに適している。さらに、太楕円で示された肌色領域の端に近づくほど補正強度Wcが次第に小さくなるため、たとえこの領域内に補正したい人肌以外の色があったとしてもその影響は比較的小さい。また、(a*,b*)平面上での折り返しが起こらず連続的なグラデーションを得ることが出来る。本実施の形態では、傾斜楕円錐を所定の高さで水平にカットした形状を前もって演算により算出し2次元LUTに格納している。
ここで、上記の(a*,b*)平面上での折り返しの意味について補足説明しておく。図18(a)に、一つの入力が二つの出力に対応する1次元の場合の折り返しの説明図を示す。また、図18(b)に(a*,b*)平面上での折り返しの説明図を示す。
1次元の場合には、図18(a)のRで示す範囲において、ある出力に対応する入力が複数存在している。すなわち、Rで示す範囲において、入力が単調増加していても、出力は単調増加した後、一旦減少し、その後また増加していることがわかる。このような場合が折り返しが起こっている場合である。従って、(a*,b*)平面上での折り返しが起こっているとは、図18(b)に示すように、入力がある色Aからある色Bへ連続的に変化したときに、出力がA’からB’へと変化する場合、A’からB’までの間で最初はB’方向に色が変化していたのが、ある色で一旦A’方向に変化の方向が変わり、その後またB’方向に色が変化しているような状態を意味する。
本実施の形態では、図18(b)に示すような(a*,b*)平面上での折り返しが起こらず連続的なグラデーションを得ることが出来る。
輝度方向には、実施の形態1と同じ図2(d)の特性の関数発生手段210Cを併用する構成を取っているため、暗部からハイライトまでの広い範囲から実際に補正したい肌色領域を必要十分に絞ることが可能であり、肌色補正の副作用を減らすのに有効である。
なお、本実施の形態では、肌色の記憶色補正を例に説明したが他の色の補正に使用できることはもちろんである。
また、輝度信号と色度信号として(L*,a*,b*)を用いたが、他にも(L*,u*,v*)、(Y,Cb,Cr)、(Y,R-Y,B-Y)、(Y,U,V)など多くの輝度・色度系の色空間が利用できるため、記憶色の種類により絞りやすい色空間を使用することができる。
また、2次元関数発生手段は、楕円形状の関数で説明したが、実際に被対象色の分布に応じて自由な形状が使用でき、関数の発生方法としても2次元LUT以外に数式演算による方法も利用できる。
また、補正手段300Aは色度信号のみを補正する構成としたが、輝度信号に対しても同様の構成を取ることが可能である。
また、合成手段221は2つの信号の最小のものを出力する最小値検出回路で構成しているが、例えば2つの補正強度の算術積などのように、同様の効果を持つ公知のさまざまな非線形回路が利用できる。
また、補正度合設定手段600は上記ユーザによる手動設定以外に種々の自動設定により設定することも出来る。乗算手段500は、補正度合Kの大小により補正強度Wの大きさを変化させることができる手段で有れば乗算でなくても良い。たとえば最小値検出回路なども使用できる。なお、補正度合設定手段600の詳細については、後述する。
なお、本実施の形態の強度決定手段200B、及び補正手段300Aは本発明に関連する発明の色変換手段の例であり、本実施の形態の補正度合設定手段600、強度決定手段200B、及び補正手段300Aは本発明に関連する発明の色変換手段の例であり、本実施の形態の関数発生手段210Cは本発明に関連する発明の第1の関数発生手段の例であり、本実施の形態の補正強度WLは本発明に関連する発明の第1の補正強度の候補の例であり、本実施の形態の補正強度Wcは本発明に関連する発明の第2の補正強度の例であり、本実施の形態の補正強度Wは本発明に関連する発明の補正強度の例である。
(実施の形態3)
図5は本発明に関連する発明の実施の形態3による画像処理装置の概略構成を示すブロック図である。本実施の形態も前述の実施の形態と同様の用途のものであるが、空色の記憶色補正を行うユニットとして構成されている。本ブロック図以外に図示していないカードリーダ、JPEG展開処理、ページメモリ、プリントエンジン等が存在する。また、本実施の形態は入力および出力画素信号は(R,G,B)信号、輝度色度信号は(L*,a*,b*)とする。
100Cは記憶色補正手段であり、700は輝度色度変換手段であり、710は輝度色度逆変換手段であり、600は補正度合設定手段であり、前述の実施の形態と同じものは同じ参照番号で示し詳細な説明を省略する。
また、記憶色補正手段100Cは、(L*,a*,b*)から補正強度Wを決定する強度決定手段200Cと、空色の目標色度(a0*,b0*)を設定する目標色設定手段400Aと、補正強度Wに応じて目標色設定手段400Aの設定した色度値(a0*,b0*)に近づける補正手段300Aとから構成されている。
次に、本実施の形態で前述の実施の形態と構成が異なる強度決定手段200Cの構成について説明する。
230は、色度信号(a*,b*)を極座標表現である色相hueと彩度satに変換する極座標変換手段であり、210Dは色相軸での補正強度Whを出力する関数発生手段であり、210Eは彩度軸での補正強度Wsを出力する関数発生手段であり、210Cは輝度軸での補正強度WLを出力する関数発生手段であり、222は3つの補正強度を合成する合成手段である。
以上のように構成された実施の形態3による画像処理装置について、以下、その動作を述べる。
輝度色度変換手段700により変換された輝度信号L*は、LUTで構成されている関数発生手段210Cにより補正強度WLを出力し、色度信号(a*,b*)は、極座標変換手段230により角度を色相hueとし、長さを彩度satとして変換される。色相hueは関数発生手段210Dにより色相方向での補正強度Whに変換され、彩度satは関数発生手段210Eにより彩度方向での補正強度Wsに変換される。
図6(d)、図6(b)、図6(c)がそれぞれ輝度L*および色相hue、彩度satに対する関数発生手段を構成するLUTの一例である。これらの補正強度WL、Wh、Wsの正の値を持つ範囲がそれぞれの軸方向での空色領域を決定する。図6(a)は、合成手段222により合成された3次元での補正強度Wが決定する空色領域を(a*,b*)平面に図示したものであり、太線が空色領域を示し補正強度Wは細線の等高線で示している。また、◆は空色の目標色a0*,b0*)である。
空色領域の大きさに関しては、実際に撮影された様々な風景画像から空の部分を抽出し、抽出色の統計を基に決定している。統計の結果、空画像はシアンよりのものから紫に近いものまで色相で90度を超える広範囲な色相のものが存在するとともに、薄曇りの無彩色に近いものから、南国の晴天のような鮮やかなものまで広範囲な彩度のものが存在する。これだけ、広範囲になると、色度平面での補正強度の設定を直交座標でするのと極座標でするのとで大きく異なり、直交座標で行うには無理があり、極座標で行うことが好ましいことが分かった。したがって扇型形状で範囲の端の部分は補正強度が次第に小さくなるよう設定することになり、空色の広い領域を適切にカバーでき、また折り返しが無く自然なグラデーションも実現できる。
また、非常に明るい空は白に近づき彩度が低い点と、画像の美しさの観点からは非常に暗い空色まで補正する必要はないため、図6(d)の特性の関数発生手段210Cは空色の記憶色補正の副作用を減らすのに有効である。実際、関数発生手段210Cの効果により、空でない濃い青の物体に対する影響が非常に軽減される効果が確認されている。
本実施の形態も前述のものと同様に、輝度信号L*に対しては補正を行わず色度信号(a*,b*)にのみ補正を行っている。これは、輝度信号は視覚的にグラデーションの乱れが目立ちやすいため、色変化がそのままグラデーションの乱れにより偽輪郭や不自然なグラデーションが発生するという副作用につながりやすく、空色部の明るさを変えたければ、記憶色補正とは別の階調補正・ガンマ補正などの公知の技術により自然に変化させることが可能であるからである。もちろん、輝度に対して副作用の無視できる範囲で穏やかな補正を掛けることも可能である。
なお、本実施の形態では、空色の記憶色補正を例に説明したが他の色の補正に使用できることはもちろんである。例えば木々や草などの植物の緑色も空色と同様に広範囲な色相のものが存在するとともに、広範囲な彩度のものが存在する。従って、木々や草などの植物の緑色についても本実施の形態と同様に補正強度の設定を極座標で行うことにより、副作用を最小限に抑えて記憶色補正を行うことが出来る。
また、輝度信号と色度信号として(L*,a*,b*)を用いたが、他にも(L*,u*,v*)、(Y,Cb,Cr)、(Y,R-Y,B-Y)、(Y,U,V)など多くの輝度・色度系の色空間が利用できるため、記憶色の種類により絞りやすい色空間を使用することができる。
また、補正手段300Aは色度信号のみを補正する構成としたが、輝度信号に対しても同様の構成を取ることが可能である。
また、合成手段222は2つの信号の最小のものを出力する最小値検出回路で構成しているが、例えば2つの補正強度の算術積などのように、同様の効果を持つ公知のさまざまな非線形回路が利用できる。
また、補正度合設定手段600は上記ユーザによる手動設定以外に種々の自動設定により設定することも出来る。乗算手段500は、補正度合Kの大小により補正強度Wの大きさを変化させることができる手段で有れば乗算でなくても良い。たとえば最小値検出回路なども使用できる。なお、補正度合設定手段600の詳細については、後述する。
なお、本実施の形態の強度決定手段200C及び補正手段300Aは本発明に関連する発明の色変換手段の例であり、本実施の形態の補正度合設定手段600、強度決定手段200C、及び補正手段300Aは本発明に関連する発明の色変換手段の例であり、本実施の形態の関数発生手段210Cは本発明に関連する発明の第1の関数発生手段の例であり、本実施の形態の関数発生手段210Dは本発明に関連する発明の第2の関数発生手段の例であり、本実施の形態の関数発生手段210Eは本発明に関連する発明の第3の関数発生手段の例であり、本実施の形態の補正強度WLは本発明に関連する発明の第1の補正強度の候補の例であり、本実施の形態の補正強度Whは本発明に関連する発明の第2の補正強度の候補の例であり、本実施の形態の補正強度Wsは本発明に関連する発明の第3の補正強度の例であり、本実施の形態の補正強度Wは本発明に関連する発明の補正強度の例である。
(実施の形態4)
図7は本発明に関連する発明の実施の形態4による画像処理装置の概略構成を示すブロック図である。本実施の形態も実施の形態3と同様、空色の記憶色補正を行うユニットとして構成されている。
100Dは記憶色補正手段であり、700は輝度色度変換手段であり、710は輝度色度逆変換手段であり、前述の実施の形態と同じものは同じ参照番号で示し詳細な説明を省略する。
また、記憶色補正手段100Dは、下記のものから構成されている。
200Cは強度決定手段であり、300Bは極座標による補正を行う補正手段であり、400Bは極座標による目標色即ち目標色相hue0と目標彩度sat0を設定する目標色設定手段である。
さらに、補正手段300Bは、下記のものから構成されている。
320は極座標変換手段であり、310A,310Bは極座標変換手段320が出力する色相hueと彩度satを各々内分する内分手段であり、330は極座標から直交座標に逆変換する直交座標変換手段である。
以上のように構成された実施の形態4による画像処理装置について、以下、その動作を述べる。
まず実施の形態3と同様の強度決定手段200Cは、輝度色度変換手段700が出力する色度信号(a*,b*)及び輝度信号L*を基に空色領域の補正強度Wを出力する。同時に色度信号(a*,b*)は極座標変換手段320により色相hueと彩度satに変換される。内分手段310Aは、補正強度Wにより、色相信号hueと目標色の色相信号hue0とを内分しhue1として出力する。同様に、内分手段310Bは、補正強度Wにより、彩度信号satと目標色の彩度信号sat0とを内分しsat1として出力する。hue1、sat1共に、Wが0の時には無補正となるhue、satが出力され、Wが1の時には目標の空色を表すhue0、sat0が出力されることになる。記憶色補正されたhue1、sat1は、直交座標変換手段330により記憶色補正された色度信号(a1*,b1*)に戻される。
前述の実施の形態3でも説明したように、空色の領域は極めて広範囲に及ぶ。そのため、実施の形態3では色度値を極座標変換した色相と彩度の軸により補正強度を得たわけであるが、同様に補正手段300Bも広範囲に及ぶ空色に対して自然な補正が要求される。
図8は、本実施の形態の補正手段300Bの効果の説明図である。○を目標色、△を入力色とする。一例として補正強度W=0.5が入力された場合を考える。もし、前述の実施形態の補正手段300Aを用いたとすると、直交座標での50%の内分となるため◇が出力される。これに対し補正手段300Bでは、正しく色相は角度で50%になり、彩度は原点からの距離で50%に内分されるため、◆が出力される。しかし補正手段300Aの結果は、色相の補正量が不足し、彩度は常に低下気味になる。この傾向は、肌色補正のような狭い色領域内での補正では差が出ないが、空の空色や木々や草などの植物の緑色の領域のような広い色度範囲に対して補正を行う際に顕著になり、本実施の形態が良好な結果を導く。
本実施の形態も輝度信号L*に対しては補正を行っていないが、輝度に対しても同様の方法により、副作用がでない範囲で穏やかな補正を掛けることも可能である。
なお、本実施の形態では、空色の記憶色補正を例に説明したが他の色の補正に使用できることはもちろんである。特に、実施の形態3でも説明したように、木々や草などの植物の緑色の記憶色補正についても空色と同様に良好な結果を得ることが出来る。
また、輝度信号と色度信号として(L*,a*,b*)を用いたが、他にも(L*,u*,v*)、(Y,Cb,Cr)、(Y,R-Y,B-Y)、(Y,U,V)など多くの輝度・色度系の色空間が利用できるため、記憶色の種類により絞りやすい色空間を使用することができる。
また、本実施の形態では、補正度合設定手段による補正度合Kの調整を省略したが、前述の実施の形態と同様の方法で付加することが可能であることは言うまでもない。なお、補正度合設定手段600の詳細については、後述する。
なお、本実施の形態の強度決定手段200C及び補正手段300Bは本発明に関連する発明の色変換手段の例であり、本実施の形態の補正度合設定手段600、強度決定手段200C、乗算手段500、及び補正手段300Bは本発明に関連する発明の色変換手段の例であり、本実施の形態の極座標変換手段320は本発明に関連する発明の第2の極座標変換手段の例である。
(実施の形態5)
図9は本発明の実施の形態5による画像処理装置の概略構成を示すブロック図である。本実施の形態も実施の形態3、4と同様、空色の記憶色補正を行うユニットとして構成されている。
100Eは記憶色補正手段であり、700は輝度色度変換手段であり、710は輝度色度逆変換手段であり、前述の実施の形態と同じものは同じ参照番号で示し詳細な説明を省略する。
また、記憶色補正手段100Eは、下記のものから構成されている。
201C、202Cは強度決定手段であり、300Bは極座標による補正を行う補正手段であり、400Bは極座標による目標色即ち目標色相hue0と目標彩度sat0を設定する目標色設定手段である。
さらに、補正手段300Bは、極座標変換手段320と、内分手段310A,310Bと、直交座標変換手段330とから構成されている。
次に、このような本実施の形態の動作を説明する。
実施の形態5による画像処理装置の特徴は、補正手段300Bで色相の補正を行うための、補正強度W1を決定する強度決定手段201Cと、彩度の補正を行うための、補正強度W2を決定する強度決定手段202Cとを分離して2つ備えた点にある。強度決定手段201Cと強度決定手段202Cは、図5の強度決定手段200Cと同じ構成のものであるが、関数発生手段210C、210D、210EのLUTの内容が異なっている。
空色の記憶色補正は、シアンよりの色相は正方向に回転させ、紫よりの色相は負方向に回転させることによって目標とする青の色相に引き込む動作をする。同様に、彩度の高すぎる空は彩度を下げ、彩度の低すぎる空は彩度を上げることにより目標色の彩度に引き込む。
しかし、薄曇りの空や、雲と雲の間で雲が薄くなりわずかに透けて見えるような空は、極めて彩度が低く無彩色に近い。このような色度まで空色の補正範囲に含めると、シアン・青・紫方向にわずかに着色された白やグレーの彩度が上がり、色づいてしまうという副作用が生じる。この副作用は、色かぶりのように認識され極めて画質を劣化させる。また、本来白色のものでもカメラのホワイトバランスのわずかな誤差が極端に拡大されてしまう。
したがって、上記彩度の低い空は記憶色補正の範囲に含めることは通常困難であるため、上記低彩度領域は補正範囲から外すことになるが、この場合、雲のない空は補正がかかり目標色相に向かって変化するが、雲との境目で雲が透けて見えるところの空は元の色のままになるため、画像としての自然さが損なわれ人工的な合成画のようになり、記憶色補正の画質向上効果が損なわれる。
本実施の形態では、強度決定手段を2つ備え、色相の補正と彩度の補正を独立させることにより、上記課題の両立が可能になる。
色相の補正用の強度決定手段201Cは、上記低彩度の領域から高彩度の領域までの広い範囲を補正するような補正強度W1を設定し、彩度の補正用の強度決定手段202Cは、低彩度の領域を補正対象から外すような補正強度W2を設定する。鮮やかな空色の彩度を低下させない観点から、同時に高彩度の領域も補正対象から外すことも有効である。
図10(a)は強度決定手段201Cを構成する彩度用の関数発生手段210Eの一例であり、図10(b)は強度決定手段202Cを構成する彩度用の関数発生手段210Eの一例である。色相の補正を行うための強度W1を発生させる強度決定手段201Cの彩度用の関数発生手段210Eの方が、彩度の補正を行うための強度W2を発生させる強度決定手段202Cの彩度用の関数数発生手段210Eよりも、強度が正の値を取る彩度satの範囲が広くなっている。
いずれも、色相用の関数発生手段210Dと彩度用の関数発生手段210Eは、図6(b)と図6(c)のものを使用している。当然それぞれ独立した最適化によりさらに効果を上げることが出来る。
本構成により、上記課題であるグレーに近い低彩度の空の色は、色相の補正だけが働くため、空の記憶色補正としての効果はある。また、彩度は補正されないため、色づきが増加することにはならず、ホワイトバランスの誤差等によるグレーのわずかな色づきが強調されることは起こらない。したがって、広い領域を補正範囲の対象にすることが可能になるため、雲と空の境のところの色相が不自然になることもなく、極めて自然な空色の記憶色補正が可能になる。
本実施の形態も輝度信号L*に対しては補正を行っていないが、輝度に対しても同様の方法により、副作用がでない範囲で穏やかな補正を掛けることも可能である。
なお、本実施の形態では、空色の記憶色補正を例に説明したが他の色の補正に使用できることはもちろんである。特に、実施の形態3でも説明したように、木々や草などの植物の緑色の記憶色補正についても空色と同様に良好な結果を得ることが出来る。
また、輝度信号と色度信号として(L*,a*,b*)を用いたが、他にも(L*,u*,v*)、(Y,Cb,Cr)、(Y,R-Y,B-Y)、(Y,U,V)など多くの輝度・色度系の色空間が利用できるため、記憶色の種類により絞りやすい色空間を使用することができる。
また、本実施の形態では、補正度合設定手段による補正度合Kの調整を省略したが、前述の実施の形態と同様の方法で付加することが可能であることは言うまでもない。
なお、本実施の形態の強度決定手段202C、強度決定手段201C、補正手段300Bは本発明の色変換手段の例であり、本実施の形態の補正強度W1は本発明の色相補正強度の例であり、本実施の形態の補正強度W2は本発明の彩度補正強度の例であり、本実施の形態の極座標変換手段320は本発明の第2の極座標変換手段の例であり、本実施の形態の内分演算手段310Aは本発明の色相補正手段の例であり、本実施の形態の内分演算手段310Bは本発明の彩度補正手段の例である。
(実施の形態6)
図11は本発明に関連する発明の実施の形態6における画像処理装置の概略構成を示すブロック図である。本実施の形態も実施の形態3、4、5と同様、空色の記憶色補正を行うユニットとして構成されている。
図11において、800は撮影された画像と撮影されたときの撮影情報が記録されたメモリカードであり、900はメモリカード800から読み出された画像が格納されるメモリであり、700は輝度色度変換手段であり、600Aは補正度合設定手段であり、100Fは記憶色補正手段であり、710は輝度色度逆変換手段であり、前述の実施の形態と同じものは同じ参照番号で示し詳細な説明を省略する。
さらに、補正度合設定手段600Aは、画像信号から画像に空が含まれている信頼度TSaを求める空画像識別手段610Aと、撮影情報から画像に空が含まれている信頼度TSbを求める撮影情報識別手段620Aと、空画像識別手段610Aの出力する信頼度TSaと撮影情報識別手段620Aが出力する信頼度TSbから補正度合Kを決定する補正度合決定手段630Aとから構成されている。
さらに、空画像識別手段610Aは、画像を縦横に分割した領域毎の特徴量を算出する領域情報算出手段611と、領域毎に空領域候補であるかを判断する空領域候補検出手段612と、空領域候補の分布から空が含まれている信頼度TSaを求める空領域分布判定手段613とから構成されている。
以上のように構成された画像処理装置について、以下、その動作を述べる。
メモリカード800に記録された撮影画像データは画像信号と撮影情報に分離されて画像信号はメモリ900に記録され、撮影情報は撮影情報識別手段620Aに入力される。
撮影情報とは、画像の撮影時に画像信号とともにメモリカード800にカメラが記録する撮影時の各種条件やカメラの設定値のことであり、たとえば、ディジタルスチルカメラ用画像ファイルフォーマット規格であるExifで規定されている撮影条件に関する付属情報がこれに当たる。
撮影情報識別手段620Aは、撮影情報から被写体に空が含まれている可能性を判断する。このとき撮影情報としては被写体までの距離、撮影時の光源、撮影シーン情報、撮影時刻を用いる。撮影情報として前述の一部しか記録されていない場合はその撮影情報からのみで識別を行う。
具体的には、被写体までの距離をマクロ、近景、遠景、不明のいずれであるかを認識し、マクロ以外では空が含まれている可能性があると判断する。
また、撮影時の光源は屋外光、屋内光のいずれであるかを認識し、屋外光の場合、空が含まれている可能性があると判断する。
撮影シーン情報は、夜景であるかを認識する。夜景以外の場合には空が含まれている可能性があると判断する。
撮影時刻は、昼、夜のいずれであるかを認識する。撮影時刻は空が含まれているか否かの判断に直接は使えないが、記憶色補正においては夜間の空を撮影した画像に対しては副作用を回避するため、夜の場合には空が含まれていないと判断する。
また、撮影時の光源の判断で屋内光と判断できる光源には蛍光灯や白熱灯等があげられるが、蛍光灯には昼光と近い色温度をしたものがあり、この場合光源の推定が難しい。一方、白熱灯は色温度が昼光と比較的大きく異なるので推定が容易である。このように撮影時の光源が昼光と色温度が大きく異なる場合、カメラでの光源の推定が正しく行われる可能性が高くなるので、空が含まれている可能性が著しく低いと判断できる。
それぞれの撮影情報から得られた空が含まれている可能性から、ファジイ推論により最終的な撮影情報からの画像に空が含まれている信頼度TSbを求める。以下に示すのは、このときのファジイ制御測の一例である。
Rule1:IF 被写体までの距離=マクロ THEN TSb=小さい
Rule2:IF 被写体までの距離=マクロ以外 THEN TSb=やや大きい
Rule3:IF 光源=屋内光、光源=白熱灯 THEN TSb=小さい
Rule4:IF 光源=屋外光 THEN TSb=やや大きい
Rule5:IF 撮影シーン情報=夜景 THEN TSb=小さい
Rule6:IF 撮影シーン情報=夜景以外 THEN TSb=やや大きい
Rule7:IF 撮影時刻=夜 THEN TSb=小さい
Rule8:IF 撮影時刻=夜以外 THEN TSb=やや大きい
撮影情報からの画像に空が含まれている信頼度TSbを求めるのにファジイ推論を使ったが、複数の撮影情報を反映して信頼度TSbの大きさを変化させることが出来る手段であればよい。たとえばすべての撮影情報の組み合わせに対する信頼度TSbのテーブルとしてもよい。
以上の説明では撮影情報として被写体までの距離、撮影時の光源、撮影シーン情報、及び撮影日時を用いる例で示したが、そのほかに撮影場所、シャッター速度、及び絞り値を用いることも出来る。
空が含まれている画像の撮影では光量が多くなるため、シャッター速度は速く、絞り値は大きくなる。このことからシャッター速度、絞り値から被写体の明るさを推定し、一定以上明るい場合、被写体に空が含まれている可能性があると判断できる。このとき撮影時刻から判断する明るさを変えることも出来る。ここで、撮影時刻から判断する明るさを変えるとは、明るいか否かを判断する閾値を変えるということである。昼間なら撮影環境は明るい可能性が高く、夜間なら撮影環境は明るくない可能性がある。従って、例えば昼間なら明るいか否かを判断する閾値を高く設定し、夜間ならこの閾値を低めに設定するということが出来る。
また、撮影時刻を朝、昼、夕方、夜に分け、それぞれで記憶色補正の動作を切り替えてもよい。朝、夕方の判断には撮影日から日の出、日没の時刻を求めることで行える。また、GPSの撮影場所についての情報を用いることで、地域によらず日の出、日没の時刻を求めることも出来る。
また、撮影情報の識別では前述の撮影情報すべてを使って識別をしてもよいし、一部の撮影情報から識別するようにしてもよい。
領域情報算出手段611はメモリ900から出力された画像信号を画像中の座標によって縦横に粗く領域に分割し、領域毎に平均輝度、平均色相、平均彩度からなる領域情報を計算する。このとき、処理の高速化のため領域内で画像信号を間引いて計算を行う。
空領域候補検出手段612は領域情報算出手段611の出力信号である領域情報から各領域毎に空領域であるかを判定する。具体的にはまず平均輝度Lmean、平均色相、平均彩度から平均R値Rmean、平均G値Gmean、平均B値Bmeanを領域毎に計算する。本実施の形態では、空領域候補検出では記憶色補正手段100Fで実際に色補正する色の範囲よりも広い範囲で検出が行え、かつ処理が簡単である理由からRmean、Gmean、Bmeanの比較により空領域の候補を判定する。具体的には、ある輝度のしきい値Lthを用いて、各領域毎に次の論理式によって空領域候補Cを判定する。
なお、数3において、&&は論理式のANDを取ることを意味する。すなわち、A&&B(A及びBは論理式)は、A及びBがともに1のとき1になり、A及びBがともに1でない場合やA及びBのいずれか一方だけが1でない場合に0になる。従って、数3は、BmeanがRmeanより大きく、かつBmensがGmeanより大きく、かつLmeanがLthより大きい場合、Cは1をとり、それ以外はCは0をとることを表している。ここで、C=1は空領域候補であることを表し、C=0は空領域候補でないことを表す。
また、画像中で面積が小さいにもかかわらず彩度が高い部分が存在する場合、その影響で空領域候補検出で誤検出してしまう場合がある。これを避けるために彩度を一定以下に制限してから平均彩度の計算を行うとこのような誤検出を減らすことが出来る。
本実施形態では空領域候補検出に平均(R,G,B)値の大小関係という簡易な方法をとったが、これ以外に平均(R,G,B)値に重み付を行ってから比較したり、前述の実施形態での対象色領域の絞り込みと同様な関数を用いた方法でもよい。また、(R,G,B)以外に(L*,a*,b*)、(L*,u*,v*)、(Y,Cb,Cr)、(Y,R-Y,B-Y)、(Y,U,V)などの輝度・色度系の色空間を用いることも出来る。
例えば、平均(R,G,B)値に重み付けを行ってから比較する方法として、Rmean及びGmeanにはそれぞれ重み1をかけ算し、Bmeanには1より大きい重みをかけ算し、このように重み付けされたRmean、Gmean、Bmeanに数3を適用すると、空色と判定される色の領域の範囲が広くなる。逆に、Rmean及びGmeanにはそれぞれ重み1をかけ算し、Bmeanには1より小さい重みをかけ算し、このように重み付けされたRmean、Gmean、Bmeanに数3を適用すると、空色と判定される色の領域の範囲が狭くなる。従って、平均(R,G,B)値に重み付けを行って比較する場合、その重みを調整することにより、荒く分割された領域が空かどうかを識別する程度を微調整することが出来るので、適切な重みを設定することにより、荒く分割された領域が空かどうかを識別する精度を向上させることが出来る。
また、前述の実施の形態での対象色領域の絞り込みと同様な関数を用いた方法としては、例えば以下のようにすればよい。すなわち、荒く分割された領域の平均輝度Lmean、平均色相、平均彩度のそれぞれに前述の実施の形態で用いた関数を適用し、平均輝度Lmean、平均色相、平均彩度のそれぞれの強度を求める。そして、これらの強度の最小値を平均輝度Lmean、平均色相、平均彩度の全体の強度とする。そしてこの全体の強度が正の値を取る場合に、荒く分割された領域に空が含まれていると判定し、この全体の強度が0である場合に、荒く分割された領域に空が含まれていないと判定する。このようにしても荒く分割された領域が空かどうかを識別することが出来る。
空領域分布解析手段613は空領域候補検出手段612から出力された空領域候補情報と、あらかじめ決められた空領域判定マスクの積を各領域毎に計算し、その和から画像情報からの画像に空が含まれている信頼度TSaが求められる。
通常、風景を撮影した画像では空は画像中の上部に位置する。そのため空領域判定するに当たり画像下部を処理対象外とすることで良好な判定が出来る。また撮影時にカメラを縦に持ち縦長の画像として撮影することもあるため、画像左右部分も空領域判定対象とすることでこのような場合でも正しく判定が行える。これらを反映した空領域判定マスクの一例が図12(c)である。この例では空領域判定マスクは二値の値で構成され、画像の下部中央を空領域判定対象から除外するようになっているが、たとえば各領域毎の重み付とし、画像上部は重みが高く、下部は低いといった構成としてもよい。
このとき、撮影情報として縦画像か横画像かの情報が得られる場合には、それに合わせて空領域判定マスクを変更することも出来る。
また、撮影情報からの判断結果によって空領域候補検出手段612の動作を変えることも出来る。たとえば、空は通常メインの被写体とはならないので、撮影情報の被写体の位置や領域についての情報を用いて、被写体領域外を空領域判定対象とするような空領域判定マスクにすることも出来る。
図12(a)は入力されるカラー画像であり、この場合は画像上部に空、画像下部に湖が写っている風景画像の概念図である。図12(b)は画像を縦3ブロック、横4ブロックの領域に分割し、空領域候補検出を行った結果である。図12(c)は空領域判定マスクで図12(b)の結果にこの判定マスクを適用した結果が図12(d)である。空領域候補検出で補正度合決定手段630Aは空画像識別手段610Aから出力された画像信号からの画像に空が含まれている信頼度TSaと撮影情報識別手段620Aから出力された撮影情報からの画像に空が含まれている信頼度TSbの積として最終的な補正度合Kを決定する。
撮影情報が記録されていなかった場合には、撮影情報識別手段620Aは信頼度TSbを出力せず、補正度合決定手段は信頼度TSaのみから補正度合Kを決定する。
輝度色度変換手段700はメモリの出力する画像信号を輝度色度信号に変換する。記憶色補正手段100Fは輝度色度変換手段700の出力する輝度色度信号に対して補正度合決定手段630Aから出力される補正度合Kに応じた記憶色補正を行う。
このようにすることで、画像からあるいは撮影情報からのどちらか単独では空が含まれているかどうか判断が難しいような画像でもより信頼性の高い判定が行え、空が含まれていないような画像に対して空の青色の記憶色補正を行ってしまうという副作用を低減できる。
また、本実施形態のように補正度合決定手段630Aは補正度合Kを連続した値としてもよいし、しきい値をもうけて二値化することで記憶色補正をON/OFFしてもよい。信頼度TSa、TSbの大小により補正度合Kの大きさを変化させることが出来る手段であれば乗算でなくてもよい。
また、本実施形態では補正度合Kは記憶色補正に対するものであったが、これ以外にもホワイトバランス調整や階調補正に対して用いることも出来る。この場合、行う画像処理の内容に応じて撮影情報や画像から取り出す情報を変えて適切な効果が得られるようにすることが出来る。
本実施の形態では空の青色を補正する場合の構成を示したが、画像識別手段と撮影識別手段を適切に構成することでこれら以外の色の補正についても行える。例えば、木々や草などの植物の緑色を補正する場合に適用することが出来る。また、補正度合設定手段と記憶色補正手段を複数持つ構成とすることで、ひとつの画像に対して複数の色の補正を行うことも出来る。
なお、本実施の形態の補正度合設定手段600A及び記憶色補正手段100Fは本発明に関連する発明の色変換手段の例であり、本実施の形態の空画像識別手段610Aは本発明に関連する発明の画像識別手段の例である。
(実施の形態7)
図13は本発明に関連する発明の実施の形態7における画像処理装置の概略構成を示すブロック図である。本実施の形態も前述の実施の形態1、2と同様、肌色の記憶色補正を行うユニットとして構成されている。
図13において、800は撮影された画像と撮影されたときの撮影情報が記録されたメモリカードであり、900はメモリカード800から読み出された画像が格納されるメモリであり、700は輝度色度変換手段であり、600Bは補正度合設定手段であり、100Gは記憶色補正手段であり、710は輝度色度逆変換手段であり、前述の実施の形態と同じものは同じ参照番号で示し詳細な説明を省略する。
さらに、補正度合設定手段600Bは画像信号から画像に人物が含まれている信頼度TPaを求める人物画像識別手段610Bと、撮影情報から画像に人物が含まれている信頼度TPbを求める撮影情報識別手段620Bと、人物画像識別手段610Bの出力する信頼度TPaと撮影情報識別手段620Bが出力する信頼度TPbから補正度合Kを決定する補正度合決定手段630Bとから構成されている。
次に、このような本実施の形態の動作を説明する。
メモリカード800に記録された撮影画像データは画像信号と撮影情報に分離されて画像信号はメモリ900に記録され、撮影情報は撮影情報識別手段620Bに入力される。
撮影情報とは、画像の撮影時に画像信号とともにメモリカード800にカメラが記録する撮影時の各種条件やカメラの設定値のことであり、たとえば、ディジタルスチルカメラ用画像ファイルフォーマット規格であるExifで規定されている、撮影条件に関する付属情報がこれに当たる。
撮影情報識別手段620Bは、撮影情報から被写体に人物が含まれている可能性を判断する。このとき撮影情報としては撮影シーン情報、被写体までの距離を用いる。
具体的には、撮影シーン情報が人物であった場合は、被写体に人物が含まれている可能性が高いと判断する。
また、被写体までの距離がマクロ撮影または遠景と判断された場合は、被写体として被写体に人物が含まれている可能性は低いと判断する。これはマクロ撮影では小さな被写体を撮影するので被写体が人物であることは少なく、また遠景では人物が写っていても画像に占める割合が少なく、メインの被写体ではないと予想されるからである。
それぞれの撮影情報から得られた被写体に人物が含まれている可能性から、前述の実施の形態6と同様にファジイ推論により最終的な撮影情報からの画像に人物が含まれている信頼度TPbを求める。
以上の説明では撮影情報として撮影シーン情報、被写体までの距離を用いる例で示したが、その他にフラッシュ発光についての情報を用いることも出来る。
具体的には、フラッシュが発光した場合で、そのリターンが検出されなかったときや画像の中央部の輝度が相対的に高くなかったとき、被写体はフラッシュが届かない距離であると推定できる。この場合、前述の被写体までの距離が遠景と判断された場合と同様に、被写体が人物が含まれている可能性は低いと判断できる。
また、撮影情報の識別では前述の撮影情報すべてを使って識別をしてもよいし、一部の撮影情報から識別するようにしてもよい。
人物画像識別手段610Bでは入力画像信号から被写体に人物が含まれている信頼度TPaを求める。これには、実施の形態6と同様に画像を複数の領域に分け、それぞれの領域で肌色であるかを判断するといった方法もとれるし、画像に含まれている色の分布などから判断するといったさまざまな公知の手段を用いることが出来る。
このとき、撮影情報の被写体の位置や領域を示す情報や被写体までの距離の情報から、人物認識を行う画像の対象領域を設定することが出来る。
補正度合決定手段630Bは人物画像識別手段から出力された画像情報からの画像に人物が含まれている信頼度TPaと撮影情報識別手段620Bから出力された撮影情報からの画像に人物が含まれている信頼度TPbの積として最終的な補正度合Kを決定する。
撮影情報が記録されていなかった場合には、撮影情報識別手段620Bは信頼度TPbを出力せず、補正度合決定手段は信頼度TPaのみから補正度合Kを決定する。
補正度合決定手段630Bは前述の実施の形態6と同様に、補正度合Kをしきい値により二値化したり、乗算以外の手段を用いてもよい。
輝度色度変換手段700はメモリの出力する画像信号を輝度色度信号に変換する。記憶色補正手段100Gは輝度色度変換手段700の出力する輝度色度信号に対して補正度合決定手段630Bから出力される補正度合Kに応じた記憶色補正を行う。
また、本実施形態では補正度合Kは記憶色補正に対するものであったが、これ以外にもホワイトバランス調整や階調補正に対して用いることも出来る。この場合、行う画像処理の内容に応じて撮影情報や画像から取り出す情報を変えて適切な効果が得られるようにすることが出来る。
本実施の形態では人物の肌色の補正する場合の構成示したが、画像識別手段と撮影識別手段を適切に構成することでこれら以外の色の補正についても行える。
また、補正度合設定手段と記憶色補正手段を複数持つ構成とすることで、ひとつの画像に対して複数の色の補正を行うことも出来る。
なお、本実施の形態の補正度合設定手段600B及び記憶色補正手段100Gは本発明に関連する発明の色変換手段の例であり、本実施の形態の人物画像識別手段610Bは本発明に関連する発明の画像識別手段の例である。
なお、前述の実施の形態で説明した内容はハードウエアでの実装に限るものではなく、ソフトウエア処理で構成することも可能であることは言うまでもない。また、ソフトウエア処理のとしてはリアルタイム処理だけでなく、前述の実施の形態にしたがって前もって処理した結果を、例えばR、G、Bをアドレスとして参照する3次元のルックアップテーブル(3DLUT)に格納しておき、プリント時などのリアルタイム処理としては、その3DLUTを参照するという構成も当然可能である。また、プリントのための色補正等の別の目的で用いる3DLUTに、本実施の形態で説明した記憶色補正を合わせて実施した結果を格納することにより、ハード規模を増加させずに記憶色補正を含んだ画像処理結果を得ることが出来る。また、リアルタイムに与えられる補正度合に対応するためには、記憶色補正を含んだLUTと記憶色補正を含まないLUTのそれぞれの参照結果を補正度合で内分することにより実現可能である。
(実施の形態8)
図14〜図17は、本実施の形態の画像処理装置を用いた機器の構成図である。実施の形態8では、上記各実施の形態で説明した画像処理装置を各種の機器に組み込んだ応用例について説明する。なお、上記各実施の形態で説明した構成要素については同一符号を付し詳細な説明を省略する。
図14は、プリンタ1001であり、図15は、テレビ(またはプロジェクタ)1010であり、図16は、ビデオムービー(またはデジタルカメラ)1020であり、図17は、携帯電話1030である。これらの機器には、上記各実施の形態で説明した画像処理装置が組み込まれている。以下、これらの各機器について説明する。
まず、図14に示すプリンタ1001について説明する。
プリンタ1001は、パーソナルコンピュータ(以下PCと呼ぶ)1002から送られてくる入力画像データを紙媒体などの印刷媒体に印刷する装置である。
プリンタ1001は、メモリカード800、メモリ900、画像処理装置1000、PCI/F1003、セレクタ1004、色変換手段1006、プリンタヘッドコントローラ1007から構成されている。
メモリカード800及びメモリ900については、上記実施の形態で説明した。
また、画像処理装置1000は、上記各実施の形態で説明したいずれかの画像処理装置である。
PCI/F1003は、PC1002の図示していないプリンタドライバとプリンタ1001との間でコマンドや画像信号などのデータをやりとりするインターフェースである。
セレクタ1004は、メモリカード800から画像データを入力するか、またはPCI/F1003を介して、PC1002から画像データを入力するかを切り換える手段である。
色変換手段1006は、画像処理装置1000で記憶色補正されたRGBなどの色信号である出力画像信号をプリントデータであるCMY信号に変換する手段である。ここで、CMYとは、シアン、マゼンダ、イエローのことで、プリンタにおける3原色である。
プリンタヘッドコントローラ1007は、プリンタ1001の、図示していないプリンタヘッドを制御する手段である。
次に、このようなプリンタ1001の動作を説明する。
PC1002から画像データが送られてくると、PCI/F1003は、送られてきた画像データを受信し、セレクタ1004に出力する。
セレクタ1004は、PCI/F1003から送られてきた画像データを受け取り、メモリ900に格納する。また、セレクタ1004は、画像データのヘッダなどの格納されている各種撮影情報を画像処理装置1000に出力する。このような各種撮影情報としては、デジタルカメラが作成した画像ファイルのヘッダ部に記載された各種撮影情報が用いられる。また、それに加えて、PC1002からプリントする場合には、PC1002のプリンタドライバの設定(フォト、CG、グラフなど)も撮影情報として用いる。このプリンタドライバの設定も、画像処理装置1000に出力される。このような画素信号以外の情報をも利用して、画像処理装置1000は、補正度合を求める。
画像処理装置1000は、メモリ900から入力画像信号を読み取り、その入力画像信号に対して、セレクタ1004から出力された撮影情報をも利用して、上記実施の形態で説明した記憶色変換を実施する。なお、画像処理装置1000が記憶色変換を行う際に、プリンタドライバの設定情報をも用いて、上記実施の形態で説明した補正度合を決定することが出来る。例えばプリンタドライバの設定がフォトである場合には、上記実施の形態で求められた補正度合をそのまま使用し、CGまたはグラフの場合には、補正度合を0にするかまたは小さな値にするなどである。
画像処理装置1000は、記憶色変換した画像信号を出力画像信号として色変換手段1006に出力する。
色変換手段1006は、画像処理装置1000から出力されてきたRGBなどの色信号である出力画像信号をプリントデータであるCMY信号に変換し、CMY信号に変換された画像信号は、プリンタヘッドコントローラ1007が制御することにより、プリンタ1001の図示していないプリンタヘッドで印刷媒体に印刷される。
また、メモリカード800がプリンタ1001に装着された場合、セレクタ1004はメモリカード800に格納されている画像データを読み取り、メモリ900に格納するとともに、ディジタルカメラが作成した画像ファイルのヘッダ部に記載された各種撮影情報を画像処理装置1000に出力する。なお、メモリカード800がプリンタ1001に装着された場合には、プリンタドライバの設定情報は用いられない。この点を除いて、これ以降の動作は、PC1002から画像データが送られてくる場合と同様であるので詳細な説明を省略する。
このように、画像処理装置1000をプリンタ1001に組み込むことにより、記憶色に従って最適自動色調整されたプリント画像を得ることが出来る。
なお、本実施の形態のプリンタ1001は本発明に関連する発明のプリンタ装置の例であり、本実施の形態のPCI/F1003は本発明に関連する発明の入力手段の例であり、本実施の形態のプリンタヘッドコントローラ1007は本発明に関連する発明の印刷手段の例である。
次に、図15に示すテレビ(またはプロジェクタ)1010について説明する。テレビの場合、放送波を受信する受信回路で受信された映像データが、映像I/F1011に入力される。一方、プロジェクタの場合、PCから送られてきた画像データが映像I/F1011に入力される。なお、プロジェクタの場合、PCから送られてきた画像データが映像I/F1011に入力されるとして説明したが、これに限らず、ビデオデッキ、DVDプレイヤーなどPC以外の装置から送られてきた画像データが映像I/F1011に入力されても構わない。
また、映像表示装置1014は、テレビの場合には、ブラウン管、液晶表示装置またはプラズマディスプレイなどから構成され、プロジェクタの場合は、投射型ディスプレイなどから構成される。
それ以外の図15の構成はテレビとプロジェクタとで共通である。従って、以下の説明では、図15がテレビ1010であるとして説明するが、以下の説明はプロジェクタにも同様に適用することが出来る。
テレビ1010は、画像処理装置1000,メモリカード800、メモリ900、映像I/F1011、セレクタ1012、表示モード設定手段1013、及び映像表示装置1014から構成される。
映像I/F1011については、上述したような画像データを入力するインターフェースである。
セレクタ1012は、メモリカード800から画像データを読み込むかまたは映像I/F1011から画像データを読み込むかを切り換える手段である。
表示モード設定手段1013は、表示モードを設定する手段である。
映像表示装置1014は、映像を表示する手段である。
次に、このようなテレビ1010の動作を説明する。
表示モード設定手段1013は、図示していない操作パネルを有し、その操作パネルをユーザが操作することにより表示モードを設定する。表示モードとしては、動画の場合には、映画、ナチュラル、ダイナミックなどを設定する。また、静止画の場合には、フォト、プレゼンなどを設定する。表示モード設定手段1013は、設定した表示モード情報を画像処理装置1000に出力する。
一方、放送局から放送波に載せて送られてきた画像データは、テレビ1010を構成する、図示していない受信回路で受信され、復調される。復調された画像データは映像I/F1011に出力される。
セレクタ1012は、映像I/F1011から画像データが送られてきた場合、映像I/F1011から画像データを受け取り、画像データをメモリ900に一旦格納する。また、セレクタ1012は、画像データのヘッダなどに保持されている撮影情報を画像処理装置1000に出力する。
画像処理装置1000は、上記プリンタ1001の場合と同様に記憶色補正を行う。なお、画像処理装置1000が記憶色変換を行う際に、画素信号以外の情報として表示モード設定手段1013が設定した表示モード情報をも用いて、上記実施の形態で説明した補正度合を決定することが出来る。例えば、動画を扱う場合、画像処理装置1000は、表示モード情報が、映画である場合には、補正度合を小さな値にし、表示モード情報がダイナミックである場合には、補正度合を大きな値にし、表示モード情報がナチュラルの場合には、補正度合を映画とダイナミックとの中間の値にするなどである。また、静止画を扱う場合、画像処理装置1000は、表示モード情報がフォトである場合には、補正度合を大きな値にし、表示モード情報がプレゼンの場合には、補正度合を小さな値にする。
画像処理装置1000は、記憶色補正した画像信号を出力画像信号として映像表示装置1014に出力する。映像表示装置1014は、出力画像信号を受け取ると、例えば液晶ディスプレイなどに表示する。
また、メモリカード800がテレビ1010に装着された場合、セレクタ1012はメモリカード800に格納されている画像データを読み取り、メモリ900に格納するとともに、画像データのヘッダなどに格納されている撮影情報を画像処理装置1000に出力する。これ以降の動作は、映像I/F1011から画像データが送られてくる場合と同様であるので詳細な説明を省略する。
このように、画像処理装置1000をテレビ1010に組み込むことにより、記憶色に従って最適自動色調整された動画像および静止画を表示することが出来る。
なお、本実施の形態のテレビ1010は本発明に関連する発明のテレビ受像装置の例であり、本実施の形態の映像表示装置1014は本発明に関連する発明の表示手段の例であり、本実施の形態のプロジェクタ1010は本発明に関連する発明のプロジェクタ装置の例であり、本実施の形態の映像I/F1011は本発明に関連する発明の入力手段の例であり、本実施の形態の映像表示装置1014は本発明に関連する発明の投影手段の例である。
次に、図16に示すビデオムービー(またはデジタルカメラ)1020について説明する。ビデオムービーの場合、主にテープ1028または光ディスク1029などに撮影された動画を記録するが、メモリカード1027に撮影された静止画を記録するものもある。一方、デジタルカメラの場合、主にメモリカード1027に撮影された静止画を記録する。
それ以外の図16の構成はビデオムービーとデジタルカメラとで共通である。従って、以下の説明では、図16がビデオムービー1020であるとして説明するが、以下の説明はデジタルカメラにも同様に適用することが出来る。
ビデオムービー1020は、画像処理装置1000、CCD1021、A/D1022、メモリ1023、カメラ制御部1024、撮影モード設定部1025、符号化手段1026、メモリカード1027、テープ1028、光ディスク1029から構成される。
CCD1021は、画像を撮像し、アナログの画像信号を出力する手段である。
A/D1022は、CCD1021から出力されてくるアナログの画像信号をディジタルの画像信号に変換する手段である。
メモリ1023は、A/D1022から出力された画像データを記憶する手段である。
カメラ制御部1024は、CCD1021や撮影光学系等を含むカメラ部分を制御する手段である。
撮影モード設定部1025は、撮影モードを設定する手段である。
符号化手段1026は、画像処理装置1000で記憶色変換された画像データを圧縮符号化する手段である。
メモリカード1027は、主に静止画の画像データを記憶する手段である。
テープ1028は、主に動画の画像データを記憶するテープ媒体である。
光ディスク1029は、主に動画の画像データを記憶する光学的記憶媒体である。
次に、このようなビデオムービー1020の動作を説明する。
撮影モード設定手段1025は、図示していないユーザインターフェースを有し、そのユーザインターフェースをユーザが操作することにより撮影モードを設定する。撮影モード設定手段1025は、設定した撮影モード情報を画像処理装置1000に出力する。
一方カメラ制御部1024は、撮影ボタンが押された場合、CCD1021や撮影光学系などを含むカメラ部分を制御する。
CCD1021は、カメラ制御部1024の制御に従って、画像を撮像し、撮像した画像を電気信号としてA/D1022に出力する。
A/D1022は、CCD1021から出力されてくるアナログの画像信号をディジタル信号に変換する。
A/D1022から出力された画像データは、一旦メモリ1023に格納される。
画像処理装置1000は、メモリ1023に格納されている画像データを読み取り記憶色変換を行う。なお、画像処理装置1000が記憶色変換を行う際に、撮影モード設定部1025で設定した撮影モード情報等をも用いて、上記実施の形態で説明した補正度合を決定することが出来る。すなわち、画像処理装置1000は、画素信号以外の情報として、ストロボのON/OFFなどのカメラ自体のユーザインターフェースに基づく情報及びカメラの制御情報(フォーカス、アイリスなど)をも利用して上記実施の形態で説明したように補正度合を求めることが出来る。
画像処理装置1000で記憶色変換された画像データは、符号化手段1026で圧縮符号化され、メモリカード1027、テープ1028、または光ディスク1029に格納される。
このように、画像処理装置1000をビデオムービー1020に組み込むことにより、記憶色に従って最適自動色調整された画像を撮影し、テープ媒体に記憶することが出来る。また、画像処理装置1000をデジタルカメラ1020に組み込むことにより、記憶色に従って最適自動色調整された画像を撮影し、ファイルとして記憶することが出来る。
なお、本実施の形態のビデオムービー1020は本発明に関連する発明の撮影装置の例であり、本実施の形態のデジタルカメラ1020は本発明に関連する発明の撮影装置の例であり、CCD1021は本発明に関連する発明の撮影手段の例である。
次に、図17に示す携帯電話1030について説明する。
携帯電話1030は、画像処理装置1000、無線通信部1031、メモリカード1032、CCD1021、A/D1022、セレクタ1035、メモリ1036、カメラ制御部1024、撮影モード設定部1025、符号化手段1026、メモリカード1027、映像表示装置1040から構成される。
無線通信部1031は、送信波をアンテナに出力する送信回路と、アンテナで電気信号に変換された受信信号を入力して、受信信号に含まれている画像データや音声データを復調する受信回路とを有する回路である。
メモリカード1032は、無線通信部1031で受信された画像データを格納するメモリである。
セレクタ1035は、メモリカード1032に格納されている画像データを入力するか、CCD1021で撮影された画像データをA/D1022を介して入力するかを切り換える手段である。
メモリ1036は、セレクタ1035から出力されてくる画像データを一時的に記憶する手段である。
映像表示装置1040は、画像処理装置1000で記憶色変換された出力画像信号を表示する手段であり、液晶表示装置などから構成されている手段である。
CCD1021、A/D1022、カメラ制御部1024、及び撮影モード設定部1025、符号化手段1026、メモリカード1027については、図16で説明したビデオムービー1020と同様のものである。
なお、図17では、メモリカードとして、メモリカード1032及びメモリカード1027の2つのメモリカードが図示されているが、メモリカード1032及びメモリカード1027は同一のメモリカードであっても構わない。
次に、このような携帯電話1030の動作を説明する。
無線通信部1031の図示していない受信回路は、電子メールに添付された画像データを受信し、メモリカード1032に格納する。
セレクタ1035は、メモリカード1032から画像データを読み取り、メモリ1036に一時的に格納する。
画像処理装置1000は、メモリカード1032に一時的に格納されている画像データを読み取り記憶色変換を行う。
画像処理装置1000で記憶色変換された出力画像信号は、符号化手段1026で圧縮符号化され、メモリカード1027に格納される。また、画像処理装置1000で記憶色変換された出力画像信号は、映像表示装置1040で液晶表示装置などに表示される。
なお、CCD1021で撮影された画像データを記憶色変換する動作については、図16のビデオムービー1020と同様であるので説明を省略する。
携帯電話1030の画像処理装置1000が記憶色変換を行う際、画素信号以外の情報として、メール添付などで送られてきた画像ファイルのヘッダに記載されている各種の撮影情報、または撮影モード設定部1025のカメラのユーザインターフェースに基づく情報、及びカメラの制御情報(フォーカス、アイリスなど)を用いて、補正度合を求めることが出来る。
このように、画像処理装置1000を携帯電話1030に組み込むことにより、記憶色に従って最適自動色調整された画像を小型ディスプレイに表示したり、メモリカードに格納したりすることが出来る。
なお、本実施の形態の携帯電話1030は本発明に関連する発明の移動体通信端末の例であり、本実施の形態の無線通信部1031は本発明に関連する発明の無線通信回路の例であり、本実施の形態の映像表示装置1040は本発明に関連する発明の表示手段の例である。
尚、本発明に関連する発明のプログラムは、上述した本発明の画像処理装置の全部又は一部の手段(又は、装置、素子等)の機能をコンピュータにより実行させるためのプログラムであって、コンピュータと協働して動作するプログラムである。
又、本発明に関連する発明の記録媒体は、上述した本発明の画像処理装置の全部又は一部の手段(又は、装置、素子等)の全部又は一部の機能をコンピュータにより実行させるためのプログラムを担持した記録媒体であり、コンピュータにより読み取り可能且つ、読み取られた前記プログラムが前記コンピュータと協動して前記機能を実行する記録媒体である。
尚、本発明に関連する発明の上記「一部の手段(又は、装置、素子等)」とは、それらの複数の手段の内の、一つ又は幾つかの手段を意味する。
又、本発明に関連する発明の上記「手段(又は、装置、素子等)の機能」とは、前記手段の全部又は一部の機能を意味する。
又、本発明に関連する発明のプログラムの一利用形態は、コンピュータにより読み取り可能な記録媒体に記録され、コンピュータと協働して動作する態様であっても良い。
又、本発明に関連する発明のプログラムの一利用形態は、伝送媒体中を伝送し、コンピュータにより読みとられ、コンピュータと協働して動作する態様であっても良い。
又、記録媒体としては、ROM等が含まれ、伝送媒体としては、インターネット等の伝送媒体、光・電波・音波等が含まれる。
又、上述した本発明に関連する発明のコンピュータは、CPU等の純然たるハードウェアに限らず、ファームウェアや、OS、更に周辺機器を含むものであっても良い。
尚、以上説明した様に、本発明、及び本発明に関連する発明の構成は、ソフトウェア的に実現しても良いし、ハードウェア的に実現しても良い。
以上のように本実施の形態によれば、記憶色補正の対象とする色以外への影響を無くし、記憶色領域内および記憶色領域内と外の狭間での輝度・彩度・色相方向のグラデーションの連続性を保ちつつ、記憶色領域内の他の被写体への影響を減らすことが可能なる。さらに、記憶色補正を必要とする画像かどうかにより補正度合を変えることにより極めて副作用の少ない記憶色補正が実現できるため、ユーザーが判断して設定することなく全自動で動作する記憶色補正が実現できる。