JP2008123296A - 光源色推定方法、推定光源色設定方法、および、光源色制御方法 - Google Patents

光源色推定方法、推定光源色設定方法、および、光源色制御方法 Download PDF

Info

Publication number
JP2008123296A
JP2008123296A JP2006307134A JP2006307134A JP2008123296A JP 2008123296 A JP2008123296 A JP 2008123296A JP 2006307134 A JP2006307134 A JP 2006307134A JP 2006307134 A JP2006307134 A JP 2006307134A JP 2008123296 A JP2008123296 A JP 2008123296A
Authority
JP
Japan
Prior art keywords
light source
value
color
brightness
source color
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
JP2006307134A
Other languages
English (en)
Inventor
Tomohiro Matsuno
知紘 松野
Yasushi Kawaguchi
裕史 川口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Pioneer Corp
Original Assignee
Pioneer Electronic Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Pioneer Electronic Corp filed Critical Pioneer Electronic Corp
Priority to JP2006307134A priority Critical patent/JP2008123296A/ja
Publication of JP2008123296A publication Critical patent/JP2008123296A/ja
Ceased legal-status Critical Current

Links

Images

Landscapes

  • Image Processing (AREA)
  • Processing Of Color Television Signals (AREA)

Abstract

【課題】画像撮像時の光源色を適切に推定できる推定光源色設定装置の提供。
【解決手段】推定光源色設定装置100は、所定の画像の無彩色領域におけるY分布データ、X,Y,Z色分布データ、X,Y,Zバランスデータを算出する。Y分布データの累計頻度が90%となる明点に対応するY値を明点Y値、80%となる暗点に対応するY値を暗点Y値としてそれぞれ求める。明点Y値、暗点Y値に対応するXバランスデータを明点Xバランスデータ、暗点Xバランスデータとして取得し、これらを含む1次関数の光源推定直線L1を設定し、この光源推定直線L1上におけるY分布データの累計頻度が100%となるXバランスデータを、反射勾配推定X値として算出し、この反射勾配推定X値と、同様に算出された反射勾配推定Y,Z値と、で表される色を推定光源色として推定する。
【選択図】図1

Description

本発明は、所定の画像が撮像された際の光源色を推定する光源色推定方法、推定光源色設定方法、および、この推定光源色設定方法により設定された光源色を利用した光源色制御方法に関する。
従来、表示装置のディスプレイに表示される画像の色は、実際の光源色に関わらずNTSC(National Television System Committee)やPAL(Phase Alternation by Line)などの信号方式や、ディスプレイ側の色温度設定で決められていることがある。このような構成において、例えば昼間に撮影した写真を、夕日の下で撮影された状態に変換してディスプレイに表示する場合、ディスプレイ上で実像の光源色に対して違和感のある色を再現してしまうことがある。
このような不具合を解消するために、入力画像信号の情報に基づいて、実像の光源色を推定する構成が知られている(例えば、特許文献1参照)。
この特許文献1に記載のものは、あらかじめ多くの肌色について、昼光と蛍光灯のもとで入力した際のセンサ出力値の分布を求め、参照色分布記憶部に記憶しておく。そして、光源判定部にて、色分布計算部から得られる顔色(肌色)の平均値を参照色分布記憶部に記憶されている各光源下での顔色の色分布と比較し、その画像が撮像されたときの光源を判定する構成が採られている。
特開平11−283025号公報
しかしながら、上述したような特許文献1のような構成では、撮像された画像における肌の部分の色分布に基づいて光源を判定しているため、人物が撮像されていない画像の光源を適切に推定できないおそれがあるという問題点が一例として挙げられる。
本発明は、上述したような問題点に鑑みて、画像撮像時の光源色を適切に推定可能な光源色推定方法、推定光源色設定方法、および光源色制御方法を提供することを1つの目的とする。
請求項1に記載の発明は、所定の画像が撮像された際の光源色を推定する光源色推定方法であって、前記画像の画像信号におけるXYZ表色系のX値、Y値、および、Z値で表される画素データから、黒体軌跡からの偏差が所定値以内の前記画素データを抽出画素データとして抽出する抽出工程と、この抽出工程で抽出した前記抽出画素データに基づいて、各Y値に対して、前記Y値以内のY値に対応する前記抽出画素データの数の累計頻度を表すY分布データを算出するY分布算出工程と、前記抽出画素データに基づいて、各Y値に対して、前記Y値に対応する前記抽出画素データの前記X値の合計値、前記Y値の合計値、および、前記Z値の合計値をY毎色分布データとして算出するY毎色分布算出工程と、このY毎色分布算出工程で算出した前記Y毎色分布データの前記X値の合計値、前記Y値の合計値、前記Z値の合計値を、それぞれ対応する前記Y値で除算したY毎バランスデータを算出するY毎バランス算出工程と、前記Y分布算出工程で算出した前記Y分布データに基づいて、前記累計頻度がTa%となる明点に対応する前記Y値を明点Y値として取得し、前記累計頻度がTa%未満のTb%となる暗点に対応する前記Y値を暗点Y値として取得する明点暗点Y値取得工程と、前記Y毎バランス算出工程で算出した前記Y毎バランスデータに基づいて、前記明点Y値に対応する前記Y毎バランスデータを明点バランスデータとして取得し、前記暗点Y値に対応する前記Y毎バランスデータを暗点バランスデータとして取得する明点暗点バランス取得工程と、前記Y毎バランスデータに基づいて、前記明点バランスデータおよび前記暗点バランスデータを含むQ(Qは自然数)次関数の線を設定し、この線上における前記累計頻度が100%または略100%に対応する前記Y毎バランスデータのX値、Y値、および、Z値を算出し、この算出した前記X値、前記Y値、および、前記Z値に基づいて、前記画像が撮像された際の光源色を算出して推定する推定光源算出工程と、を実施することを特徴とする光源色推定方法である。
請求項11に記載の発明は、所定の画像が撮像された際の光源色を推定する光源色推定方法であって、前記画像の画像信号におけるXYZ表色系のX値、Y値、および、Z値で表される画素データから、黒体軌跡からの偏差が所定値以内の前記画素データを抽出画素データとして抽出する抽出工程と、この抽出工程で抽出した前記抽出画素データに基づいて、各Y値に対して、前記Y値に対応する前記抽出画素データの前記X値の合計値、前記Y値の合計値、および、前記Z値の合計値をY毎色分布データとして算出するY毎色分布算出工程と、このY毎色分布算出工程で算出した前記Y毎色分布データに基づいて、所定のY値以上のY値に対応する前記Y毎色分布データの前記X値の合計値、前記Y値の合計値、および、前記Z値の合計値を、前記所定のY値以上のY値に対応する前記Y毎色分布データの合計数でそれぞれ除算して得られたX値、Y値、および、Z値に基づいて、前記画像が撮像された際の光源色を算出して推定する推定光源算出工程と、を実施することを特徴とする光源色推定方法である。
請求項15に記載の発明は、所定のオブジェクトを含む画像が撮像された際の光源色を推定する光源色推定方法であって、前記画像の画像信号における3個の表色値で色を表現可能な少なくとも1種類の表色系の前記表色値で表される画素データに基づいて、前記3個の表色値に基づく前記画像の明るさを表す明るさ値のそれぞれに対して、前記明るさ値以内の前記明るさ値に対応する前記画素データの数の累計頻度を表す明るさ分布データを算出する明るさ分布算出工程と、前記画素データに基づいて、各前記明るさ値に対して、前記明るさ値に対応する前記画素データの前記第1の表色値の合計値、第2の前記表色値の合計値、および、第3の前記表色値の合計値を明るさ毎色分布データとして算出する明るさ毎色分布算出工程と、この明るさ毎色分布算出工程で算出した前記明るさ毎色分布データの前記第1の表色値の合計値、前記第2の表色値の合計値、前記第3の表色値の合計値を、それぞれ対応する前記明るさ値で除算した明るさ毎バランスデータを算出する明るさ毎バランス算出工程と、この明るさ毎バランス算出工程で算出された前記明るさ毎バランスデータに基づいて、前記画像における前記オブジェクトの位置を算出し、この算出した位置に対応する前記明るさ毎バランスデータをオブジェクト明るさ毎バランスデータとして取得するオブジェクト明るさ毎バランス取得工程と、前記明るさ分布算出工程で算出した前記明るさ分布データに基づいて、前記オブジェクト毎に、前記累計頻度がTa%となる明点に対応する前記明るさ値を明点明るさ値として取得し、前記累計頻度がTa%未満のTb%となる暗点に対応する前記明るさ値を暗点明るさ値として取得する明点暗点明るさ値取得工程と、前記明るさ毎バランスデータに基づいて、前記オブジェクト毎に、前記明点明るさ値に対応する前記明るさ毎バランスデータを明点バランスデータとして取得し、前記暗点明るさ値に対応する前記明るさ毎バランスデータを暗点バランスデータとして取得する明点暗点バランス取得工程と、前記明るさ毎バランスデータに基づいて、前記オブジェクト毎に、前記明点バランスデータおよび前記暗点バランスデータを含むQ(Qは自然数)次関数の線を設定し、この線上における前記累計頻度が100%または略100%に対応する前記明るさ毎バランスデータの第1の表色値、第2の表色値、および、第3の表色値を算出し、このオブジェクト毎に算出された前記第1の表色値、前記第2の表色値、および、前記第3の表色値に基づいて、前記画像が撮像された際の光源色を算出して推定する推定光源算出工程と、を実施することを特徴とする光源色推定方法である。
請求項24に記載の発明は、請求項1ないし請求項10のいずれかに記載の光源色推定方法で推定された前記光源色、請求項11ないし請求項14に記載の光源色推定方法で推定された前記光源色、および、請求項15ないし請求項23のいずれかに記載の光源色推定方法で推定された前記光源色のうち、少なくともいずれか2つの前記光源色に関する推定光源情報を取得する推定光源情報取得工程と、所定の優先度に基づいて、前記推定光源情報取得工程で取得した前記推定光源情報に基づく前記少なくともいずれか2つの光源色のうち1つの光源色を選出し、この選出した光源色に基づいて、前記画像が撮像された際の光源色を設定する光源色設定工程と、を実施することを特徴とする推定光源色設定方法である。
請求項26に記載の発明は、所定の対象物を撮像する撮像手段から入力される画像信号に基づいて、請求項24または請求項25に記載の推定光源色設定方法により前記対象物の画像が撮像された際の光源色を設定する対象物光源色設定工程と、所望の光源色と前記推定光源色設定方法で設定された前記光源色とが異なる場合に、前記対象物を照射する光源手段を前記所望の光源色で照射する状態に制御する光源制御工程と、を実施することを特徴とする光源色制御方法である。
以下、本発明の一実施の形態について図面に基づいて説明する。
〔推定光源色設定装置の構成〕
まず、本発明の一実施の形態に係る推定光源色設定装置の構成について、図面を参照して説明する。
なお、この推定光源色設定装置は静止画像に対しても適応可能であるが、後述する方法を用いる事によって、動画像に対しても、例えば1クレーム毎にリアルタイムで光源色を推定し設定することが可能であるため、より利用価値が高いと言うことができる。
図1は、本発明の一実施の形態に係る推定光源色設定装置の概略構成を示すブロック図である。図2は、鏡面反射光源色推定部の概略構成を示す模式図である。図3は、明るさとY分布データとの関係を示すグラフである。図4は、明るさとXバランスデータとの関係を示すグラフである。図5は、明るさとYバランスデータとの関係を示すグラフである。図6は、明るさとZバランスデータとの関係を示すグラフである。図7は、平滑化前後の明るさとXバランスデータとの関係を示すグラフである。図8は、暗い画像における明点Y値および暗点Y値の設定状態をグラフ形式で示す図である。図9は、明るい画像における明点Y値および暗点Y値の設定状態をグラフ形式で示す図である。図10は、明点Xバランスデータおよび暗点Xバランスデータの取得方法をグラフ形式で示す図である。図11は、反射勾配推定X値の算出方法をグラフ形式で示す図である。図12は、Xバランスデータが一様勾配変化しているか否かの判定方法をグラフ形式で示す図である。図13は、X,Y,Zバランスデータが一様勾配変化している状態をグラフ形式で示す図である。図14は、物体色光源色推定部の概略構成を示す模式図である。図15は、オブジェクト抽出対象の画像の一例を示す図である。図16は、オブジェクト抽出対象の画像におけるXYZ明るさ毎バランスデータと明るさとの関係を示すグラフである。図17は、XYZ明るさ毎バランスデータを微分処理した状態を示すグラフである。図18は、微分処理後のXYZ明るさ毎バランスデータに基づくオブジェクトの位置特定方法をグラフ形式で示す図である。図19は、オブジェクトの抽出方法をグラフ形式で示す図である。図20は、オブジェクト毎の明点Y値および暗点Y値の設定状態をグラフ形式で示す図である。図21は、半透明のオブジェクトが重なった画像の一例を示す図である。図22は、推定光源色設定部の概略構成を示す模式図である。図23は、第2推定光源色の算出方法を示す図である。図24は、シーンチェンジがない状態をグラフ形式で示す図である。図25は、シーンチェンジがある状態をグラフ形式で示す図である。
図1において、100は、推定光源色設定装置であり、この推定光源色設定装置100は、外部から入力される画像データを取得して、この画像データの画像が撮像された際の光源色を推定する。この画像データは、静止画の場合は複数画像(複数フィールド、複数フレーム)毎に取得することも可能である。動画像の場合は、1画像(1フィールド、1フレーム)毎に取得することにより、1画像毎の推定光源色の設定が可能となる。
そして、推定光源色設定装置100は、各種プログラムとして、画像データ調整部200と、鏡面反射光源色推定部300と、物体色光源色推定部400と、推定光源色設定部600と、などを備えている。
画像データ調整部200は、画像データ出力手段10と、鏡面反射光源色推定部300と、物体色光源色推定部400と、などに接続されている。
この画像データ調整部200は、画像データ出力手段10から所定の画像を図示しない表示手段で表示させるための画像データを取得する。そして、この画像データの画像撮像時に光源が照射されていない部分(以下、光源非照射部分と記す)を認識し、この光源非照射部分以外をアクティブエリアとして抽出する。ここで、光源非照射部分としては、例えば字幕、テロップなどが例示できる。
また、画像データ調整部200は、アクティブエリアに対応するRGB(Red Green Blue)入力信号に対して、平滑化、平均化、ノイズ除去のために、平面(2次元)LPF(Low-Pass Filter)処理を実施する。そして、この平面LPF処理が施されたRGB入力信号を、鏡面反射光源色推定部300と、物体色光源色推定部400と、へ出力する。
鏡面反射光源色推定部300は、推定光源色設定部600に接続されている。
この鏡面反射光源色推定部300は、画像データ調整部200からのRGB入力信号に対応する画像中の鏡面反射領域の状態に基づいて、光源色を推定する。
そして、鏡面反射光源色推定部300は、図2に示すように、表色系変換手段310と、無彩色点抽出手段320と、Y分布算出手段330と、Y毎色分布算出手段340と、勾配法処理部350と、平均法処理部360と、などを備えている。
表色系変換手段310は、画像データ調整部200から出力される平面LPF処理が施されたRGB入力信号を取得する。そして、このRGB入力信号を、画像データを構成する各画素データ単位(R、G、B各1ピクセルで1画素)でRGB表色系からXYZ表色系に変換する。なお、入力信号がYuv表色系で示された入力信号であった場合においても、Yuv表色系からXYZ表色系に変換する。
無彩色点抽出手段320は、XYZ表色系に変換された入力信号に基づいて、画像中の無彩色点を抽出する。ここで、この無彩色点抽出手段320で抽出する無彩色点には、一般的に無彩色として認識されている黒色、白色、灰色に加え、これらに極めて近い彩度と色相を持った有彩色も含まれる。
具体的には、無彩色点抽出手段320は、表色系変換手段310からXYZ表色系に変換された入力信号を取得する。そして、各画素におけるXYZ表色系のXYZ値をUV値に変換する。ここで、XYZ値をUV値に変換する手法としては、例えば、CIE(Commission International de l'Eclairage)1976UCS(Uniform Chromaticity Scale)色度図に基づいて変換する手法が例示できる。
さらに、各画素におけるUV値の黒体軌跡からの偏差をduvとして求め、このduvが閾値以内であるか否かを判断する。ここで、閾値は、JIS(Japanese Industrial Standard)で±0.025と定義されていることに対応して、±0.02前後に設定されていることが好ましい。そして、閾値以内であると判断した場合、このUV値に対応する部分を無彩色点として抽出し、閾値を越えると判断した場合、このUV値に対応する部分を無彩色点として抽出しない。この無彩色点の画素データは、本発明の抽出画素データに対応している。
さらに、一般的に光源とは色温度で示すと、市販の光源手段の最低温度である2800Kから、野外の晴天時の最高温度10000Kの範囲内にあると言える。よって、上記duvの閾値以内という条件に加え、各画素の色温度が2800K〜10000Kか否かという条件を加え、この色温度の範囲内である部分を無採色点として抽出することができる。
さらに、無彩色点抽出手段320は、抽出した無彩色点から構成される無彩色領域のうち、ピンポイント的で広がりがない無彩色領域、つまり孤立点を除去する。さらに、無彩色領域の形状に基づいて、鏡面反射領域か否かを判断する。例えば、無彩色領域が円形状や楕円形状の場合に鏡面反射領域と判断して抽出し、幾何学的な形状の場合に鏡面反射領域でないと判断して抽出しない。
Y分布算出手段330は、無彩色点抽出手段320で鏡面反射領域として抽出した無彩色領域について、明るさを表すY値に対して、このY値以内に対応する画素数の累計頻度をY分布データとして算出する。そして、例えば、図3に示すように、算出したY分布データをグラフ化する。この図3に示すグラフは、無彩色領域のR%の画素が、Y値がJ以内である旨を表している。
Y毎色分布算出手段340は、無彩色点抽出手段320で抽出した無彩色領域について、明るさを表すY値に対するX値、Y値、Z値の各々の合計値を、X色分布データ、Y色分布データ、Z色分布データとして算出する。例えば、Y値がHの画素を全て抽出し、この抽出した画素のX値、Y値、Z値が、(X1,H,Z1)、(X2,H,Z2)、(X3,H,Z3)、(X4,H,Z4)の場合、Y値がHにおけるX色分布データを(X1+X2+X3+X4)として算出する。そして、Y色分布データを4H、Z色分布データを(Z1+Z2+Z3+Z4)として算出する。さらに、同様にして、Y値毎にX,Y,Z色分布データを算出する。
このY毎色分布算出手段340で算出されたX,Y,Z色分布データ(以下、Y値毎のX,Y,Z色分布データをまとめて表現する際には、Y毎色分布データと適宜記す)は、明るさ毎に対する輝度(明るさ)と色味とを表している。このため、明るさが増加すると、X色分布データ、Y色分布データ、Z色分布データの値も増加することとなる。
勾配法処理部350は、図2に示すように、鏡面階調不足レベル補間手段351と、Y毎バランス算出手段352と、鏡面平滑化手段353と、明点暗点Y値取得手段354と、鏡面明点暗点バランス取得手段355と、反射勾配法推定光源算出手段356と、反射勾配法推定結果判定手段357と、反射推定結果採用判定手段358と、を備えている。
鏡面階調不足レベル補間手段351は、Y分布算出手段330およびY毎色分布算出手段340での処理において、各Y値に対応する画素数が所定値よりも少ない場合、このY値の周辺の値に基づいて、この所定値よりも少ないY値に対応する値を補間する処理を、階調不足レベルの補間処理として実施する。ここで、所定値は、例えば画質に応じて設定されている。
例えば、Y毎色分布算出手段340での処理において、Y値がH1の画素数が所定値以上で補間不要、Y値がH2の画素数が所定値未満で補間必要、Y値がH3の画素数が所定値以上で補間不要であったとする。このとき、補間が必要なY値がH2の例えばX色分布データに置き換えて、Y値がH3およびH1のX色分布データに基づき新たなX色分布データを算出して適用する処理を、補間処理として実施する。ここで、新たなX色分布データとしては、Y値がH3,H1のX色分布データの平均値、重み付けや特定のアルゴリズムを利用して演算した値を用いることができる。
Y毎バランス算出手段352は、Y毎色分布算出手段340で算出された、あるいは、鏡面階調不足レベル補間手段351で補間処理が施されたX色分布データ、Y色分布データ、Z色分布データを、Y値および対応する画素数で除算して、Xバランスデータ、Yバランスデータ、Zバランスデータとして算出する。例えば、Y値がHのX色分布データが(X1+X2+X3+X4)、Y色分布データが4H、Z色分布データが(Z1+Z2+Z3+Z4)の場合、Xバランスデータは、(X1+X2+X3+X4)をY値のHおよび対応する画素数の4で除算した値、つまり4Hで除算した値になる。また、Yバランスデータは、4Hを4Hで除算した値、すなわち1になる。さらに、Zバランスデータは、(Z1+Z2+Z3+Z4)を4Hで除算した値になる。そして、Y値毎に上述した除算を実施して、X,Y,Zバランスデータ(以下、Y値毎のX,Y,Zバランスデータをまとめて表現する際には、Y毎バランスデータと適宜記す)を、例えば図4、図5、図6に示すようにグラフ化する。
このように算出されたXバランスデータおよびZバランスデータは、Yバランスデータを1とした場合の値であり、明るさ毎の色味のみを表している。
鏡面平滑化手段353は、Y毎バランス算出手段352で算出されたX,Y,Zバランスデータに基づく図4〜図6に示すグラフを平滑化する。例えば、図7において点線で示すように、Xバランスデータが波を打つ状態の場合、この状態を図7の実線で示すように平滑化する。ここで、平滑化する方法としては、近隣のY値に対応するXバランスデータとの間で平均化する方法が例示できる。
明点暗点Y値取得手段354は、Y分布算出手段330で算出したY分布データの累計頻度がTa%となる明点と、Ta%未満のTb%となる暗点と、を設定する。例えば、明点を90%、暗点を80%に設定する。そして、Y分布データに基づいて、明点に対応するY値(以下、明点Y値と記す)と、暗点に対応するY値(以下、暗点Y値と記す)と、を求める。この明点Y値および暗点Y値は、例えば図8のグラフで累計頻度が表される暗い画像よりも、例えば図9のグラフで表される明るい画像の方が大きい値となる。
鏡面明点暗点バランス取得手段355は、鏡面平滑化手段353で平滑化されたX,Y,Zバランスデータのグラフにおいて、Y値が明点Y値のX,Y,Zバランスデータを、明点X,Y,Zバランスデータとして取得する。さらに、Y値が暗点Y値のX,Y,Zバランスデータを、暗点X,Y,Zバランスデータとして取得する。例えば、図10のグラフに示すように、明点Xバランスデータおよび暗点Xバランスデータを取得する。なお、明点Yバランスデータおよび暗点Yバランスデータは、1となる。
反射勾配法推定光源算出手段356は、鏡面明点暗点バランス取得手段355で取得した明点X,Y,Zバランスデータと、暗点X,Y,Zバランスデータと、に基づいて、推定光源のX,Y,Zバランスデータを、反射勾配推定X,Y,Z値としてそれぞれ算出する。
具体的には、反射勾配法推定光源算出手段356は、図11に示すように、明点Xバランスデータおよび暗点Xバランスデータに対応する点を通る光源推定直線L1、つまり1次関数の線を設定する。さらに、明点Y値から、明点Y値および暗点Y値の差ΔM1だけ高輝度側にシフトしたY値を推定光源Y値として算出する。そして、光源推定直線L1における推定光源Y値に対応するXバランスデータを、反射勾配推定X値として算出する。
ここで、明点Y値および暗点Y値を、Y分布データの累計頻度がそれぞれ90%および80%になるY値に設定しているため、推定光源Y値は、累計頻度が100%になるY値と考えられる。つまり、累計頻度が100%になると考えられるY値に対応するXバランスデータを、反射勾配推定X値として算出する。
さらに、同様にして、反射勾配推定Z値を算出して、反射勾配推定X,Y,Z値に関する推定光源情報としての反射勾配推定光源情報を推定光源色設定部600へ出力する。ここで、推定光源Yバランスデータは、1となる。
なお、累計頻度が100%ではなく、100%近傍、例えば99%になると考えられるY値に対応する反射勾配推定X,Y,Z値を算出する構成としてもよい。
反射勾配法推定結果判定手段357は、反射勾配法推定光源算出手段356で算出された反射勾配推定X,Y,Z値をUV値に変換して、黒体軌跡からの偏差であるduvが閾値以内であるか否かを判断する。つまり、反射勾配推定X,Y,Z値で表される推定光源が、白色に近いか否かを判断する。そして、閾値以内であると判断した場合、推定光源として相応しいと判定する。一方、閾値以内でないと判断した場合、推定光源として相応しくないと判定する。そして、相応しい場合にOKである旨、相応しくない場合にNGである旨の反射勾配判定情報を、推定光源色設定部600へ出力する。
反射推定結果採用判定手段358は、無彩色点抽出手段320で鏡面反射領域として判断された無彩色領域を構成する画素の数が、あらかじめ設定された規定数以上か否かを判断する。そして、規定数以上であると判断した場合、第1の反射推定信頼性があると判断し、規定数未満であると判断した場合、第1の反射推定信頼性がないと判断する。
また、反射推定結果採用判定手段358は、鏡面階調不足レベル補間手段351で補間処理が施されたY分布データに基づく画像が、暗い画像か否かを判断する。ここで、暗い画面か否かを判断する方法としては、Y値のピーク値が所定値以上か否か、APL(Average Picture Level)値が所定値以上か否か、Y値ピーク値をAPL値で除した値が所定値以上か否かの3つの条件のうち、いずれか1つの条件を満たさない場合に、暗い画像であると判断する方法が例示できる。
そして、明るい画像であると判断した場合、第2の反射推定信頼性があると判断し、暗い画像であると判断した場合、第2の反射推定信頼性がないと判断する。
さらに、反射推定結果採用判定手段358は、反射勾配法推定光源算出手段356で反射勾配推定X値の算出に利用された図11に示すグラフにおいて、明点Y値および暗点Y値の差ΔM1が所定値以上か否かを判断する。そして、差ΔM1が所定値以上であると判断した場合、光源推定直線L1の安定性があると認識する。また、光源推定直線L1の安定性があると認識すると、明点Y値に値Nを加えた値、および、暗点Y値から値Nを減じた値の間が一様に増加、または、一様に減少(以下、一様増加および一様減少をまとめて表現する際には、一様勾配変化と適宜記す)しているか否かを判断する。例えば、図12に示すような場合、一様増加でないと判断する。
この図12に示すような場合には、暗点Y値および明点Y値の間が一様増加であっても、その直前や直後で減少している。このため、暗点Y値や明点Y値の設定状態により、光源推定直線L1が変わってしまい、信頼性が低くなる。したがって、値Nという幅を考慮に入れて、「暗点Y値−値N」と、「明点Y値+値N」と、の間が一様勾配変化である場合に、第3のX反射推定信頼性があると判断し、一様勾配変化でない場合に、第3のX反射推定信頼性がないと判断する。同様にして、反射勾配推定Y,Z値の算出に利用されたグラフにおいて、差ΔM1が所定値以上か否か、および、一様勾配変化か否かに基づいて、第3のY,Z反射推定信頼性があるか否かを判断する。
このような判断方法を適用すると、例えば図13に示すように、X,Zバランスデータが一様勾配変化の場合に、第3のX,Z反射推定信頼性があると判定される。
また、一様勾配変化であった場合においても、その傾きが急激に変化する場合は図12と同様の不具合が発生する可能性がある。よって、一様勾配変化の状態であっても所定の傾き以上に変化した場合、第3のX,Z反射推定信頼性がないと判定することもできる。この場合、「暗点Y値−値N」と、「明点Y値+値N」と、の間において2次微分を行い、その微分値が所定の値以内では信頼性がありと判断し、所定の値から外れる場合は信頼性がないと判断することができる。
そして、反射推定結果採用判定手段358は、第1,2の反射推定信頼性、第3のX,Y,Z反射推定信頼性のうち、少なくともいずれか1つがないと判断した場合、反射勾配法推定光源算出手段356で算出された反射勾配推定X,Y,Z値に基づく推定光源を適用しないと判定する。一方、第1,2の反射推定信頼性、第3のX,Y,Z反射推定信頼性のすべてがあると判断した場合、反射勾配推定X,Y,Z値に基づく推定光源を適用すると判定する。そして、適用する場合にOKである旨、適用しない場合にNGである旨の反射勾配採用情報を、推定光源色設定部600へ出力する。
平均法処理部360は、図2に示すように、反射平均法推定光源算出手段361と、反射平均法推定結果判定手段362と、を備えている。
反射平均法推定光源算出手段361は、Y毎色分布算出手段340で算出されたX,Y,Z色分布データに基づいて、Y値が所定の閾値以上のX,Y,Z値の平均値を、推定光源のX,Y,Z値である反射平均推定X,Y,Z値として算出する。つまり、Y値が閾値以上のX値、Y値、Z値のそれぞれの総和を、この閾値以上の画素数で除算した値を、反射平均推定X,Y,Z値として算出する。
具体的には、例えば、Y値がHの画素におけるX値、Y値、Z値が、(X1,H,Z1)、(X2,H,Z2)、(X3,H,Z3)、(X4,H,Z4)の場合、X,Y,Z色分布データは、それぞれ(X1+X2+X3+X4)、4H、(Z1+Z2+Z3+Z4)となる。そして、例えばY値がHよりも大きい画素におけるX,Y,Z色分布データの総和をX,Y,Z値毎に算出し、これら算出したそれぞれの総和をそれぞれの画素抽出数で除した値を、反射平均推定X,Y,Z値として算出する。例えば、Y値がHよりも大きいX色分布データが(X1+X2+X3+X4+X5+X6)、かつ、画素抽出数が6の場合、(X1+X2+X3+X4+X5+X6)/6を、反射平均推定X値として算出する。さらに、反射平均推定X,Y,Z値に関する推定光源情報としての反射平均推定光源情報を推定光源色設定部600へ出力する。
なお、所定の閾値は、「Y値のピーク値」、「APL値」、「ピーク値をAPL値で除した値」のいずれかに基づいて設定されていてもよいし、任意に設定されていてもよい。
反射平均法推定結果判定手段362は、反射平均法推定光源算出手段361で算出された反射平均推定X,Y,Z値をUV値に変換して、黒体軌跡からの偏差であるduvが閾値以内であるか否かを判断する。つまり、反射勾配法推定結果判定手段357と同様に、反射平均推定X,Y,Z値で表される推定光源が白色に近いか否かを判断する。そして、閾値以内であると判断した場合、推定光源として相応しいと判定し、閾値以内でないと判断した場合、推定光源として相応しくないと判定する。さらに、相応しい場合にOKである旨、相応しくない場合にNGである旨の反射平均判定情報を、推定光源色設定部600へ出力する。
さらに、一般的に光源とは色温度で示すと、市販の光源手段の最低温度である2800Kから、野外の晴天時の最高温度10000Kの範囲内にあると言える。よって、上記duvの閾値以内という条件に加え、反射平均推定X,Y,Z値の色温度が2800K〜10000Kか否かという条件を加え、この色温度の範囲内であった場合に、推定光源として相応しいと判断することもできる。
物体色光源色推定部400は、図1に示すように、推定光源色設定部600に接続されている。
この物体色光源色推定部400は、画像データ調整部200からのRGB入力信号に対応する画像中の物体の色に基づいて、光源色を推定する。
そして、物体色光源色推定部400は、図14に示すように、明るさ分布算出手段410と、明るさ毎色分布算出手段420と、物体色階調不足レベル補間手段430と、明るさ毎バランス算出手段440と、物体色平滑化手段450と、オブジェクト抽出手段460と、明点暗点明るさ値取得手段470と、物体色明点暗点バランス取得手段480と、物体色勾配法推定光源算出手段490と、物体色勾配法推定結果判定手段500と、オブジェクト毎判定手段510と、物体色推定結果採用判定手段520と、を備えている。
明るさ分布算出手段410は、画像データ調整部200からの平面LPF処理が施されたRGB入力信号を取得する。そして、このRGB入力信号に対応する画像全体を対象にして、XYZ表色系、Yuv表色系、および、RGB表色系に基づく明るさ分布データを算出する。ここで、XYZ表色系、Yuv表色系、RGB表色系は、本発明における3個の表色値で色を表現可能な表色系に対応する。
具体的には、明るさ分布算出手段410は、XYZ表色系に基づく明るさ分布データ(以下、XYZ明るさ分布データと記す)を算出する場合、RGB入力信号に基づくRGB表色系をXYZ表色系に変換して、Y分布算出手段330と同様の処理を適用する。すなわち、画像全体に対して、明るさを表す所定のY値に対して、このY値以内に対応する画素数の累計頻度をXYZ明るさ分布データとして算出し、グラフ化する。
また、Yuv表色系に基づく明るさ分布データ(以下、Yuv明るさ分布データと記す)を算出する場合、RGB入力信号に基づくRGB表色系をYuv表色系に変換する。そして、画像全体に対して、明るさを表す所定のY値に対して、このY値以内に対応する画素数の累計頻度をYuv明るさ分布データとして算出し、グラフ化する。
さらに、RGB表色系に基づく明るさ分布データ(以下、RGB明るさ分布データと記す)を算出する場合、RGB入力信号に基づくRGB表色系での明るさを表す明るさ値を算出する。ここで、明るさ値としては、1画素におけるR、G、Bのそれぞれの輝度の平均値や、1画素におけるR、G、Bの輝度の最高値または最低値などを適用できる。つまり、R,G,Bの色味を考慮せずに、単純に輝度値に基づく明るさ値を算出する。そして、画像全体に対して、所定の明るさ値に対して、この明るさ値以内に対応する画素数の累計頻度をRGB明るさ分布データとして算出し、グラフ化する。
明るさ毎色分布算出手段420は、平面LPF処理が施されたRGB入力信号に対応する画像全体を対象にして、XYZ明るさ毎色分布データ、Yuv明るさ毎色分布データ、RGB明るさ毎色分布データを算出する。
具体的には、明るさ毎色分布算出手段420は、XYZ明るさ毎色分布データを算出する場合、RGB入力信号に対応するXYZ表色系に基づいて、Y毎色分布算出手段340と同様の処理を実施する。すなわち、各Y値に対応するX値の合計値を、XYZ明るさ毎色分布データを構成するX色分布データとして算出する。さらに、各Y値に対応するY値、Z値の各々の合計値を、XYZ明るさ毎色分布データを構成するY色分布データ、Z色分布データとして算出する。
また、Yuv明るさ毎色分布データを算出する場合、RGB入力信号に対応するYuv表色系に基づいて、各Y値に対応するY値の合計値を、Yuv明るさ毎色分布データを構成するY色分布データとして算出する。そして、各Y値に対応するu値、v値の各々の合計値を、Yuv明るさ毎色分布データを構成するu色分布データ、v色分布データとして算出する。
さらに、RGB明るさ毎色分布データを算出する場合、RGB入力信号でのRGB表色系に基づいて、各明るさ値に対応するR値の合計値を、RGB明るさ毎色分布データを構成するR色分布データとして算出する。また、各明るさ値に対応するG値、B値の各々の合計値を、RGB明るさ毎色分布データを構成するG色分布データ、B色分布データとして算出する。なお、RGB明るさ毎色分布データを算出する際の明るさ値は、明るさ分布算出手段410で適用したものと同じ値を適用する。
物体色階調不足レベル補間手段430は、明るさ分布算出手段410および明るさ毎色分布算出手段420での処理において、各Y値や各明るさ値に対応する画素数が所定値よりも少ない場合、このY値や明るさ値の周辺の値に基づいて、この所定値よりも少ないY値や明るさ値に対応する値を補間する。つまり、物体色階調不足レベル補間手段430は、鏡面階調不足レベル補間手段351と同様に、階調不足レベルの補間処理を実施する。
明るさ毎バランス算出手段440は、明るさ毎色分布算出手段420で算出された、あるいは、物体色階調不足レベル補間手段430で補間処理が施されたXYZ明るさ毎色分布データ、Yuv明るさ毎色分布データ、RGB明るさ毎色分布データを、Y値や明るさ値、および、対応する画素数で除算して、XYZ明るさ毎バランスデータ、Yuv明るさ毎バランスデータ、RGB明るさ毎バランスデータを算出する。
具体的には、明るさ毎バランス算出手段440は、XYZ明るさ毎バランスデータを算出する場合、Y値毎に、X色分布データ、Y色分布データ、Z色分布データをY値および画素数で除算して、XYZ明るさ毎バランスデータを構成するXバランスデータ、Yバランスデータ、Zバランスデータを算出する。
また、Yuv明るさ毎バランスデータを算出する場合、Y値毎に、Y色分布データ、u色分布データ、v色分布データをY値および画素数で除算して、Yuv明るさ毎バランスデータを構成するYバランスデータ、uバランスデータ、vバランスデータを算出する。
さらに、RGB明るさ毎バランスデータを算出する場合、明るさ値毎に、R色分布データ、G色分布データ、B色分布データを明るさ値および画素数で除算して、RGB明るさ毎バランスデータを構成するRバランスデータ、Gバランスデータ、Bバランスデータを算出する。そして、上述した各バランスデータを、図4〜図6のグラフ化処理と同様の処理によりグラフ化する。
物体色平滑化手段450は、鏡面平滑化手段353と同様の処理を実施して、明るさ毎バランス算出手段440で算出されたXYZ明るさ毎バランスデータ、Yuv明るさ毎バランスデータ、RGB明るさバランスデータに基づく、図4〜図6と同様のグラフを平滑化する。
オブジェクト抽出手段460は、RGB入力信号に対応する画像から、物体色を算出する際の対象物であるオブジェクトを抽出する。例えば、図15に示すような画像P1から、オブジェクトOB1と、オブジェクトOB2と、を抽出する。
具体的には、オブジェクト抽出手段460は、物体色平滑化手段450から、例えば図16に示すように適宜平滑化されかつグラフ化されたXYZ明るさ毎バランスデータを取得する。さらに、このXYZ明るさ毎バランスデータを、微分フィルタを通して、図17に示すようにグラフ化する。そして、この図17に示すグラフにおけるX,Zバランスデータの微分値となるY値の部分を、エッジE11として検出し、画像P1中のエッジE11に対応する部分をオブジェクトの変化点と判断する。このような方法では、少なくとも2つのデータのエッジE11、つまりX,ZバランスデータのエッジE11が略一致するので、信頼性が高い算出結果を得ることができる。
ここで、XYZ明るさ毎バランスデータを、微分フィルタを通した後に、図18に示すように、エッジE12,E13,E14,E15を有するグラフが得られた場合、エリアB,C,Dには、オブジェクトが存在すると考えられるが、エリアA,Eには、オブジェクトが存在する場合と、存在しない場合と、が考えられる。なお、エリアA,Eにオブジェクトが存在しない場合としては、エリアA,Eに黒色の帯状の画像が表示されている場合が例示できる。
このため、このエリアA,E、つまり端部について、オブジェクトが存在するか否かを判断する端部判断処理を実施する。この端部判断処理としては、物体色階調不足レベル補間手段430で適宜補間されたXYZ明るさ分布データや、物体色平滑化手段450で適宜平滑化されたXYZ毎明るさ分布データを利用する処理が例示できる。
そして、オブジェクト抽出手段460は、適宜平滑化されたX,Y,Zバランスデータの明るさ(Y値)毎におけるオブジェクトの位置を算出する処理を、オブジェクトの抽出処理として実施する。例えば、図19に示すように、物体色平滑化手段450で適宜平滑化されたXバランスデータのグラフを、オブジェクトが存在しないエリアAと、オブジェクトOB1が存在するエリアBと、オブジェクトOB2が存在するエリアCと、オブジェクトOB3が存在するエリアDと、オブジェクトが存在しないエリアEと、に分割する。そして、エリアB,C,DをオブジェクトOB1,2,3の位置として算出する。
また、オブジェクト抽出手段460は、Y,Zバランスデータについても同様の抽出処理を実施する。
さらに、オブジェクト抽出手段460は、Yuv明るさ毎バランスデータ、RGB明るさ毎バランスデータについても、上述したオブジェクトの抽出処理と同様の抽出処理を実施する。ここで、RGB明るさ毎バランスデータを、微分フィルタを通すと、Rバランスデータ、Gバランスデータ、Bバランスデータのエッジが略一致する可能性が高いと考えられる。
明点暗点明るさ値取得手段470は、明点暗点Y値取得手段354と同様の処理を実施して、オブジェクト抽出手段460で抽出されたオブジェクト毎に、明点明るさ値、暗点明るさ値を設定する。
具体的には、明点暗点明るさ値取得手段470は、図19に示すようなXバランスデータのグラフにおいて、図20に示すように、オブジェクトOB1,2,3の暗点明るさ値および明点明るさ値をそれぞれ求める。オブジェクトOB1の暗点明るさ値は、XYZ明るさ分布データの累計頻度がT1a%となるY値であり、明点明るさ値は、累計頻度がT1a%よりも大きいT1b%となるY値である。オブジェクトOB2の暗点明るさ値は、累計頻度がT1b%よりも大きいT2a%となるY値であり、明点明るさ値は、累計頻度がT2a%よりも大きいT2b%となるY値である。オブジェクトOB3の暗点明るさ値は、累計頻度がT2b%よりも大きいT3a%となるY値であり、明点明るさ値は、累計頻度がT3a%よりも大きいT3b%となるY値である。
さらに、明点暗点明るさ値取得手段470は、Yuv明るさ毎バランスデータ、RGB明るさ毎バランスデータについても、上述した処理と同様の処理を実施して、暗点明るさ値、明点明るさ値をそれぞれ求める。
これらオブジェクトOB1,2,3の暗点明るさ値、明点明るさ値に対応する累計頻度T1a,T1b,T2a,T2b,T3a,T3b%は、以下のように設定される。
図19に示すエリアA,B,C,D,Eを構成する画素数が、それぞれGa,Gb,Gc,Gd,Geである、つまりエリアA〜Eの合計画素数がGg(=Ga+Gb+Gc+Gd+Ge)とする。そして、オブジェクトOB1,2,3毎に対して累計頻度が90%となる点を明点、80%となる点を暗点と設定する場合、T1a%を、{(Ga+0.8×Gb)/Gg}×100で算出される値に、T1b%を、{(Ga+0.9×Gb)/Gg}×100で算出される値に設定する。また、T2a%を、{(Ga+Gb+0.8×Gc)/Gg}×100で算出される値に、T2b%を、{(Ga+Gb+0.9×Gc)/Gg}×100で算出される値に設定する。さらに、T3a%を、{(Ga+Gb+Gc+0.8×Gd)/Gg}×100で算出される値に、T3b%を、{(Ga+Gb+Gc+0.9×Gd)/Gg}×100で算出される値に設定する。
なお、オブジェクト毎に暗点明るさ値および明点明るさ値を設定する場合、上述したように累計頻度が80%、90%となる点を暗点、明点と設定すると、暗点明るさ値および明点明るさ値の差が小さくなる可能性がある。このため、例えば累計頻度が25%となる点を暗点、75%となる点を明点として、暗点明るさ値および明点明るさ値を設定してもよい。
物体色明点暗点バランス取得手段480は、鏡面明点暗点バランス取得手段355と同様の処理を実施して、オブジェクト抽出手段460で抽出されたオブジェクト毎に、明点X,Y,Zバランスデータ、暗点X,Y,Zバランスデータを取得する。
具体的には、物体色明点暗点バランス取得手段480は、物体色平滑化手段450で適宜平滑化された例えば図19に示すXバランスデータのグラフにおいて、Y値がオブジェクトOB1,2,3の明点明るさ値のXバランスデータを、オブジェクトOB1,2,3の明点Xバランスデータとして取得する。また、オブジェクトOB1,2,3の暗点明るさ値のXバランスデータを、オブジェクトOB1,2,3の暗点Yバランスデータとして取得する。
さらに、Y,Zバランスデータについても同様の処理を実施して、オブジェクトOB1,2,3の明点Y,Zバランスデータ、暗点Y,Zバランスデータを取得する。
また、物体色明点暗点バランス取得手段480は、Yuv明るさ毎バランスデータについても、上述した処理と同様の処理を実施して、暗点明るさ値、明点明るさ値に対応するオブジェクトOB1,2,3のYバランスデータ、uバランスデータ、vバランスデータを、暗点Y,u,vバランスデータ、明点Y,u,vバランスデータとして取得する。さらに、RGB明るさ毎バランスデータについても、暗点明るさ値、明点明るさ値に対応するオブジェクトOB1,2,3のRバランスデータ、Gバランスデータ、Bバランスデータを、暗点R,G,Bバランスデータ、明点R,G,Bバランスデータとして取得する。なお、明点X,Y,Z,Y,u,v,R,G,Bバランスデータ、および、暗点X,Y,Z,Y,u,v,R,G,Bバランスデータは、本発明の明点バランスデータおよび暗点バランスデータにそれぞれ対応している。
物体色勾配法推定光源算出手段490は、物体色明点暗点バランス取得手段480で取得したXYZ明るさ毎バランスデータに対応する明点X,Y,Zバランスデータと、暗点X,Y,Zバランスデータと、に基づいて、オブジェクト毎の推定光源のX,Y,Zバランスデータを、XYZ物体色推定X,Y,Z値としてそれぞれ算出する。具体的には、反射勾配法推定光源算出手段356と同様の処理を実施して、図11に示すような光源推定直線L1に基づいて、オブジェクトOB1,2,3毎のXYZ物体色推定X,Y,Z値を算出する。
また、Yuv明るさ毎バランスデータに対応する明点Y,u,vバランスデータと、暗点Y,u,vバランスデータと、に基づいて、オブジェクト毎の推定光源のY,u,vバランスデータを、Yuv物体色推定Y,u,v値としてそれぞれ算出する。さらに、RBG明るさ毎バランスデータに対応する明点R,G,Bバランスデータと、暗点R,G,Bバランスデータと、に基づいて、オブジェクト毎の推定光源のR,G,Bバランスデータを、RGB物体色推定R,G,B値としてそれぞれ算出する。
そして、オブジェクト毎に、XYZ物体色推定X,Y,Z値に関するXYZ物体色推定光源情報と、Yuv物体色推定Y,u,v値に関するYuv物体色推定光源情報と、RGB物体色推定R,G,B値に関するRGB物体色推定光源情報と、を物体色推定結果採用判定手段520へ出力する。
物体色勾配法推定結果判定手段500は、物体色勾配法推定光源算出手段490でオブジェクト毎に算出されたXYZ物体色推定X,Y,Z値をUV値に適宜変換して、黒体軌跡からの偏差であるduvが閾値以内であるか否かを判断する。つまり、反射勾配法推定結果判定手段357と同様に、オブジェクト毎に算出されたXYZ物体色推定X,Y,Z値で表される推定光源がそれぞれ白色に近いか否かを判断する。そして、閾値以内であると判断した場合、推定光源として相応しいと判定し、閾値以内でないと判断した場合、推定光源として相応しくないと判定する。さらに、このオブジェクト毎の推定光源の判定結果に関するXYZ物体色判定情報を、物体色推定結果採用判定手段520へ出力する。さらに、この場合には上記の例と同様に、XYZ物体色推定X,Y,Z値の色温度がそれぞれ2800K〜10000Kの範囲内か否かを判断条件に加え、範囲内であると判断した場合、推定光源として相応しいと判定することもできる。
また、Yuv物体色推定Y,u,v値に対して、同様の処理を実施して、オブジェクト毎の推定光源の判定結果に関するYuv物体色判定情報を、物体色推定結果採用判定手段520へ出力する。さらに、RGB物体色推定R,G,B値に対して、同様の処理を実施して、オブジェクト毎の推定光源の判定結果に関するRGB物体色判定情報を、物体色推定結果採用判定手段520へ出力する。
オブジェクト毎判定手段510は、オブジェクト抽出手段460で抽出されたオブジェクトの位置毎に、物体色平滑化手段450で適宜平滑化されたXYZ明るさ毎バランスデータ、Yuv明るさ毎バランスデータ、RGB明るさ毎バランスデータに対して、以下の判定処理を実施する。
具体的には、オブジェクト毎判定手段510は、例えば図19に示すように、XバランスデータにおけるオブジェクトOB1に対応するエリアBの両端のY値の幅、つまりエッジE12,E13間の幅が、所定値以上か否かを判断する。そして、所定値以上であると判断した場合、オブジェクトOB1の第1のX物体色推定信頼性があると判断し、所定値未満であると判断した場合、第1のX物体色推定信頼性がないと判断する。また、オブジェクトOB2,3に対する第1のX物体色推定信頼性があるか否かを判断する。さらに、Y,Zバランスデータに対しても同様の処理を実施して、オブジェクト毎に第1のY,Z物体色推定信頼性があるか否かを判断する。
さらに、Yuv明るさ毎バランスデータに対しても、オブジェクト毎にエリアの両端のY値の幅が所定値以上か否かに基づいて、オブジェクト毎に第1のY,u,v物体色推定信頼性があるか否かを判断する。そして、RGB明るさ毎バランスデータに対しても、オブジェクト毎にエリアの両端の明るさ値の幅が所定値以上か否かに基づいて、オブジェクト毎に第1のR,G,B物体色推定信頼性があるか否かを判断する。
また、第1のX,Y,Z,Y,u,v,R,G,B物体色推定信頼性があると判断した場合、Y値の幅に対応する第1のX,Y,Z,Y,u,v,R,G,B信頼値を設定する。この第1のX,Y,Z,Y,u,v,R,G,B信頼値は、Y値の幅が大きいほど、つまり信頼性が高いほど、大きい値に設定される。
また、オブジェクト毎判定手段510は、XYZ物体色推定X,Y,Z値の算出に利用されたグラフにおいて、反射推定結果採用判定手段358と同様の処理を実施して、オブジェクト毎に明点明るさ値および暗点明るさ値の差ΔM1が所定値以上か否かと、「暗点明るさ値−値N」および「明点明るさ値+値N」の間が一様勾配変化か否か、さらには傾きが急激に変化しないか否かと、を判断する。そして、差ΔM1が所定位置以上であり、かつ、一様勾配変化であり傾きが急激に変化しないと判断した場合、第2のX,Y,Z物体色推定信頼性があると判断し、それ以外の場合、第2のX,Y,Z物体色推定信頼性がないと判断する。
また、Yuv物体色推定Y,u,v値、RGB物体色推定R,G,B値の算出に利用されたグラフにおいても同様の処理を実施して、オブジェクト毎に、第2のY,u,v物体色信頼性、第2のR,G,B物体色信頼性があるか否かを判断する。
また、第2のX,Y,Z,Y,u,v,R,G,B物体色推定信頼性があると判断した場合、差ΔM1と、一様勾配変化および傾き変化の状態と、に対応する第2のX,Y,Z,Y,u,v,R,G,B信頼値を設定する。この第2のX,Y,Z,Y,u,v,R,G,B信頼値は、差ΔM1の幅が大きいほど、かつ、勾配が大きいほど、傾きの変化が緩やかなほど、つまり信頼性が高いほど、大きい値に設定される。
さらに、オブジェクト毎判定手段510は、オブジェクト抽出手段460で微分フィルタを通したXYZ明るさ毎バランスデータ、Yuv明るさ毎バランスデータ、RGB明るさ毎バランスデータに基づいて、各オブジェクトの境界の明確性を判断する。
例えば、図21に示すように、半透明なオブジェクトOB3およびオブジェクトOB4が重なっている画像P2の場合、一方のオブジェクトの明点明るさ値または暗点明るさ値が、他方のオブジェクトの明点明るさ値から暗点明るさ値の間に位置する可能性がある。この場合、物体色勾配法推定光源算出手段490で算出したXYZ物体色推定X,Y,Z値、Yuv物体色推定Y,u,v値、RGB物体色推定R,G,B値の信頼性が低くなる。このため、各オブジェクトの境界の明確性を判断する。
具体的には、オブジェクト毎判定手段510は、XYZ明るさ毎バランスデータを微分して得られる図17に示すようなグラフにおいて、微分値の絶対値が所定値以上であると判断した場合、オブジェクトが重なっていないため第3のXYZ物体色推定信頼性があると判断し、所定値未満であると判断した場合、オブジェクトが重なっているため第3のXYZ物体色推定信頼性がないと判断する。
さらに、Yuv明るさ毎バランスデータ、RGB明るさ毎バランスデータについても同様の処理を実施して、第3のYuv物体色推定信頼性、第3のRGB物体色推定信頼性があるか否かを判断する。
また、第3のXYZ,Yuv,RGB物体色推定信頼性があると判断した場合、微分値の絶対値に対応する第3のXYZ,Yuv,RGB信頼値を設定する。この第3のXYZ,Yuv,RGB信頼値は、微分値の絶対値が大きいほど、つまり信頼性が高いほど、大きい値に設定される。
そして、オブジェクト毎判定手段510は、第1,2のX,Y,Z,Y,u,v,R,G,B物体色推定信頼性、第3のXYZ,Yuv,RGB物体色推定信頼性の全てがあると判断したオブジェクトを選出する。さらに、この選出したオブジェクト毎に対して、XYZ,Yuv,RGB総合信頼値をそれぞれ設定する。
具体的には、所定のオブジェクトの第1,2のX,Y,Z信頼値、第3のXYZ信頼値に対して、所定の演算、例えば適宜重み付けをした四則演算を実施して、XYZ総合信頼値を算出する。また、第1,2のY,u,v信頼値、第3のYuv信頼値に対して、所定の演算を実施して、Yuv総合信頼値を算出する。さらに、第1,2のR,G,B信頼値、第3のRGB信頼値に対して、所定の演算を実施して、RGB総合信頼値を算出する。
そして、オブジェクト毎判定手段510は、オブジェクト毎のXYZ,Yuv,RGBのそれぞれに関するXYZ,Yuv,RGB総合信頼値情報を、物体色推定結果採用判定手段520へ出力する。
物体色推定結果採用判定手段520は、物体色勾配法推定光源算出手段490からオブジェクト毎のXYZ,Yuv,RGB物体色推定光源情報を取得する。また、物体色勾配法推定結果判定手段500からオブジェクト毎のXYZ,Yuv,RGB物体色判定情報を取得する。そして、XYZ表色系、Yuv表色系、RGB表色系のそれぞれについて、推定光源に相応しいと判断されたオブジェクトを認識する。また、オブジェクト毎判定手段510からオブジェクト毎のXYZ,Yuv,RGB総合信頼値情報を取得する。そして、推定光源に相応しいと判断されたオブジェクトに関するXYZ,Yuv,RGB総合信頼値情報に基づいて、総合信頼値が最も高いXYZ,Yuv,RGB物体色推定値を、推定光源色を表す物体色推定値として選出する。例えば、オブジェクトOB1のXYZ総合信頼値がSp1で、オブジェクトOB2のYuv総合信頼値がSp1よりも大きいSp2の場合、オブジェクトOB2のYuv物体色推定値を、推定光源色を表す物体色推定値として選出し、この物体色推定値に関する推定光源情報としての物体色推定光源情報を推定光源色設定部600へ出力する。
なお、総合信頼値が最も高いものを物体色推定値として選出せずに、以下のように選出する構成としてもよい。すなわち、XYZ,Yuv,RGB物体色推定値に関する例えば上位A個のオブジェクトを選出し、これらのオブジェクトの物体色推定値を総合信頼値に対応する重み付けをするなどして平均化する。そして、この平均化した値を、推定光源色を表す物体色推定値として選出する構成としてもよい。
推定光源色設定部600は、図1に示すように、表示制御手段20に接続されている。
この推定光源色設定部600は、鏡面反射光源色推定部300および物体色光源色推定部400での推定結果に基づいて、推定光源色を設定する。
そして、推定光源色設定部600は、図22に示すように、第1推定光源色選択手段610と、第2推定光源色算出手段620と、第3推定光源色設定手段630と、推定光源色出力手段640と、を備えている。
また、表示制御手段20は、推定光源色設定部600で設定された推定光源色に基づいて、図示しない表示手段で表示された画像を適宜補正する。
第1推定光源色選択手段610は、鏡面反射光源色推定部300から反射勾配推定光源情報と、反射勾配判定情報と、反射勾配採用情報と、反射平均推定光源情報と、反射平均判定情報と、を取得する。さらに、物体色光源色推定部400から物体色推定光源情報を取得する。そして、反射勾配判定情報および反射勾配採用情報がOKのものの場合、反射勾配推定光源情報に基づく反射勾配推定X,Y,Z値が推定光源を表すものとして相応しく、かつ、信頼性が高いものであると判断して、この反射勾配推定X,Y,Z値を第1推定光源色として選択する。
また、反射勾配判定情報および反射勾配採用情報のうち少なくともいずれか一方がNGのものであり、かつ、反射平均判定情報がOKのものの場合、反射平均推定光源情報に基づく反射平均推定X,Y,Z値が推定光源を表すものとして相応しいものであると判断して、この反射平均推定X,Y,Z値を第1推定光源色として選択する。
さらに、反射勾配判定情報および反射勾配採用情報のうち少なくともいずれか一方がNGのものであり、反射平均判定情報がNGのものであり、物体色推定光源情報を取得している場合、物体色推定光源情報に基づく物体色推定値を第1推定光源色として選択する。
そして、反射勾配判定情報および反射勾配採用情報のうち少なくともいずれか一方がNGのものであり、反射平均判定情報がNGのものであり、物体色推定光源情報を取得していない場合、その旨の未選択情報を推定光源色出力手段640へ出力する。
第2推定光源色算出手段620は、第1推定光源色に基づいて、第2推定光源色を算出する。
具体的には、第2推定光源色算出手段620は、図23に示すように、JIS−Z−8720に定められた黒体軌跡上の標準光源、常用光源に対応する点のうち、第1推定光源色に最も近い点を第2推定光源色として算出する。
第3推定光源色設定手段630は、動画像において1画像(1フィールドまたは1フレーム)前後で大きな絵柄の変更、つまり、いわゆるシーンチェンジがあったか否かを検出する。そして、例えば図24に示すように、シーンチェンジがない場合、第2推定光源色に時定数を乗じて第3推定光源色を設定し、変化率を小さくする。また、例えば図25に示すように、シーンチェンジがある場合、第2推定光源色を第3推定光源色として設定する。これは、シーンチェンジ発生時には、第3推定光源色を大きく変化させても、絵柄的に問題が発生しないためである。この第3推定光源色設定手段630の動作により、動画像においても、不具合なく推定光源色の設定ができる。
推定光源色出力手段640は、第3推定光源色の設定に用いられたRGB入力信号に基づく画像がテストパターンか否かを判断する。そして、テストパターンでないと判断した場合、第3推定光源色を最終的な最終推定光源色として設定し、この最終推定光源色に関する最終推定光源色情報を出力する。
また、テストパターンであると判断した場合、または、第1推定光源色選択手段610から未選択情報を取得した場合、画像データ出力手段10からの入力信号の種類により定められた「白」、つまり既定の光源色に関する既定光源色情報を出力する。一般的に、NTSC信号における「白」、HD信号における「白」、PAL信号における「白」など、入力信号により「白」の値が設定されている。ここでは、その値をそのまま推定した光源色として設定する。
また、第1推定光源色選択手段610から未選択情報を取得した場合、直前の画像(フィールド、フレーム)における第3推定光源色を最終的な最終推定光源色として設定してもよい。または、直前フレームのおよびそれよりも以前の単数または複数のフレームにおける第3推定光源色を平均化または所定の重み付けによる演算を実施し、最終的な最終推定光源色として設定してもよい。すなわち、第1推定光源色選択手段610から未選択情報を取得した場合、それよりも前のフレームにおける第3推定光源色に基づいて最終的な最終推定光源色として設定してもよい。
〔推定光源色設定装置の動作〕
次に、推定光源色設定装置100の動作について、図面を参照して説明する。なお、以下の処理は、1画面毎に実施される。
図26は、光源色の推定処理を示すフローチャートである。図27は、鏡面反射からの光源色推定処理を示すフローチャートである。図28は、物体色からの光源色推定処理を示すフローチャートである。図29は、光源色設定処理を示すフローチャートである。
まず、推定光源色設定装置100は、画像データ調整部200にて、画像データ出力手段10から画像データを取得する。そして、図26に示すように、この画像データの画像からアクティブエリアを抽出する(ステップS101)。さらに、アクティブエリアの入力信号に対して平面LPF処理を施す(ステップS102)。
この後、推定光源色設定装置100は、鏡面反射光源色推定部300にて、平面LPF処理が施された入力信号をRGB表色系またはYuv表色系からXYZ表色系に変換して(ステップS103)、鏡面反射からの光源色推定処理を実施する(ステップS104)。また、推定光源色設定装置100は、物体色光源色推定部400にて、平面LPF処理が施された入力信号に基づいて、物体色からの光源色推定処理を実施する(ステップS105)。
そして、推定光源色設定装置100は、推定光源色設定部600にて、光源色設定処理を実施して(ステップS106)、光源色の推定処理を終了する。
また、ステップS104における鏡面反射からの光源色推定処理では、鏡面反射光源色推定部300は、図27に示すように、XYZ表色系の入力信号に基づいて、画像中の無彩色点を抽出する(ステップS201:抽出工程)。さらに、この無彩色点により構成される無彩色領域から孤立点を除去して(ステップS202)、鏡面反射領域を抽出する。この後、鏡面反射領域について、Y分布データを算出するとともに(ステップS203:Y分布算出工程)、Y毎色分布データを算出する(ステップS204:Y毎色分布算出工程)。そして、鏡面反射光源色推定部300は、平均法処理部360にて、平均法処理を実施する。具体的には、平均法処理部360は、反射平均推定X,Y,Z値の算出処理を、平均法による推定光源の算出処理として実施して(ステップS205:推定光源算出工程)、反射平均推定光源情報を推定光源色設定部600へ出力する。さらに、反射平均推定X,Y,Z値に対して、黒体軌跡からの偏差duv、色温度に基づく判定処理を実施して(ステップS206:信頼性判定工程)、反射平均判定情報を推定光源色設定部600へ出力する。
また、鏡面反射光源色推定部300は、ステップS204の処理の後、勾配法処理部350にて、勾配法処理を実施する。具体的には、勾配法処理部350は、Y分布データやY毎色分布データに対して、階調不足レベルの補間処理を実施する(ステップS207:補間工程)。さらに、この補間処理が施されたY毎色分布データに基づいて、Y毎バランスデータを算出し(ステップS208:Y毎バランス算出工程)、このY毎バランスデータを平滑化する(ステップS209:平滑化工程)。この後、明点および暗点を設定して(ステップS210)、明点X,Y,Zバランスデータと、暗点X,Y,Zバランスデータと、を取得する(ステップS211:明点暗点Y値取得工程および明点暗点バランス取得工程)。そして、反射勾配推定X,Y,Z値の算出処理を、勾配法による推定光源の算出処理として実施して(ステップS212:推定光源算出工程)、反射勾配推定光源情報を推定光源色設定部600へ出力する。さらに、反射勾配推定X,Y,Z値に対して、偏差duv、色温度に基づく判定処理を実施して(ステップS213:信頼性判定工程)、反射勾配判定情報を推定光源色設定部600へ出力する。
また、勾配法処理部350は、ステップS202の処理で孤立点が除去された鏡面反射領域の画素数に基づいて、第1の反射推定信頼性の有無を判定する(ステップS214)。さらに、ステップS207の処理で補間処理が施されたY分布データの輝度レベルに基づいて、第2の反射推定信頼性の有無を判定する(ステップS215)。また、ステップS210で設定された明点、暗点に基づく光源推定直線L1の勾配状態に基づいて、第3のX,Y,Z反射推定信頼性の有無を判定する(ステップS216)。
そして、勾配法処理部350は、これらの判定結果に基づいて、反射勾配推定X,Y,Z値に基づく推定光源を適用するか否か判断して(ステップS217)、反射勾配採用情報を、推定光源色設定部600へ出力する。
さらに、ステップS105における物体色からの光源色推定処理では、物体色光源色推定部400は、図28に示すように、画像全体に対して、XYZ表色系、Yuv表色系、および、RGB表色系に基づくXYZ,Yuv,RGB明るさ分布データを算出するとともに(ステップS301:明るさ分布算出工程)、XYZ,Yuv,RGB明るさ毎色分布データを算出する(ステップS302:明るさ毎色分布算出工程)。そして、XYZ,Yuv,RGB明るさ分布データや、XYZ,Yuv,RGB明るさ毎色分布データに対して、階調不足レベルの補間処理を実施して(ステップS303:補間工程)、この補間処理が施されたXYZ,Yuv,RGB明るさ毎色分布データに基づいて、XYZ,Yuv,RGB明るさ毎バランスデータを算出して(ステップS304:明るさ毎バランス算出工程)、平滑化する(ステップS305:平滑化工程)。
さらに、物体色光源色推定部400は、画像からオブジェクトを抽出する(ステップS306:オブジェクト明るさ毎バランス取得工程)。そして、オブジェクト毎に明点および暗点を設定して、明点X,Y,Z,Y,u,v,R,G,Bバランスデータと、暗点X,Y,Z,Y,u,v,R,G,Bバランスデータと、を取得する(ステップS307:明点暗点明るさ値取得工程および明点暗点バランス取得工程)。さらに、XYZ物体色推定X,Y,Z値、Yuv物体色推定Y,u,v値、RGB物体色推定R,G,B値の算出処理を、物体色による推定光源の算出処理として実施して(ステップS308)、これらに対して偏差duv、色温度に基づく判定処理を実施する(ステップS309)。また、ステップS306で抽出したオブジェクトに対して、XYZ,Yuv,RGB総合信頼値を適宜設定する処理を、オブジェクト毎の判定処理として実施する(ステップS310:オブジェクト毎判定工程)。そして、XYZ,Yuv,RGB総合信頼値などに基づいて、物体色推定値を適宜選出して(ステップS311:推定光源算出工程)、物体色推定光源情報を、推定光源色設定部600へ出力する。
また、ステップS106における光源色設定処理では、推定光源色設定部600は、図29に示すように、鏡面反射光源色推定部300からの反射勾配推定光源情報、反射勾配判定情報、反射勾配採用情報、反射平均推定光源情報、および、反射平均判定情報と、物体色光源色推定部400から物体色推定光源情報と、に基づいて、第1推定光源色を選択できたか否かを判断する(ステップS401:推定光源情報取得工程および光源色設定工程)。
このステップS401において、選択できないと判断した場合、既定光源色に関する既定光源色情報を出力する(ステップS402)。
一方、ステップS401において、選択できたと判断した場合、この第1推定光源色に基づいて、第2推定光源色の算出処理を実施する(ステップS403:光源色設定工程)。この後、シーンチェンジに基づき光源色を補正して(ステップS404)、第3推定光源色を設定する。そして、この第3推定光源色の設定に用いられた画像がテストパターンか否かを判断する(ステップS405)。
このステップS405において、テストパターンであると判断した場合、ステップS402の処理を実施する。
一方、ステップS405において、テストパターンでないと判断した場合、第3推定光源色を最終推定光源色として設定して、最終推定光源色情報を出力する(ステップS406)。
〔推定光源色設定装置の作用効果〕
上述したように、上記一実施の形態では、推定光源色設定装置100の鏡面反射光源色推定部300は、XYZ表色系に変換された入力信号に基づいて、各画素から黒体軌跡からの偏差が閾値以内の画素を無彩色点として抽出する。そして、この無彩色点で構成される無彩色領域について、各Y値に対して、このY値以内に対応する画素数の累計頻度をY分布データとして算出するとともに、X,Y,Z値の各々の合計値をX,Y,Z色分布データとして算出する。また、X,Y,Z色分布データを、それぞれ対応するY値および画素数で除算して、X,Y,Zバランスデータを算出する。そして、Y分布データに基づいて、累計頻度がTa%となる明点に対応するY値を明点Y値として、Tb%となる暗点に対応するY値を暗点Y値として、それぞれ求める。さらに、明点Y値、暗点Y値にそれぞれ対応するX,Y,Zバランスデータを、明点X,Y,Zバランスデータ、暗点X,Y,Zバランスデータとして取得する。そして、明点Xバランスデータ、暗点Xバランスデータを含む1次関数の光源推定直線L1を設定し、この光源推定直線L1上におけるY分布データの累計頻度が100%となるXバランスデータを、反射勾配推定X値として算出し、この反射勾配推定X値と、同様に算出された反射勾配推定Y,Z値と、で表される色を推定光源色として推定する。
このため、略全ての色を表現可能なXYZ表色系のX値、Y値、および、Z値に基づく処理を実施するので、人物の肌の部分に限らず、あらゆる物体におけるあらゆる部分の色に基づいて、画像撮像時の光源色を推定できる。したがって、画像撮像時の光源色を適切に推定できる。
また、推定光源色設定装置100の鏡面反射光源色推定部300は、X,Y,Z色分布データに基づいて、Y値が閾値以上の画素のXバランスデータの総和を算出する。そして、この総和を抽出画素数で除した値を、反射平均推定X値として算出し、この反射平均推定X値と、同様に算出された反射平均推定Y,Z値と、で表される色を推定光源色として推定する。
このため、略全ての色を表現可能なXYZ表色系のX値、Y値、および、Z値に基づく処理を実施するので、人物の肌の部分に限らず、あらゆる物体におけるあらゆる部分の色に基づいて、画像撮像時の光源色を推定できる。したがって、画像撮像時の光源色を適切に推定できる。
さらに、推定光源色設定装置100の物体色光源色推定部400は、入力信号に対応するXYZ表色系に基づいて、明るさを表す各Y値に対して、このY値以内に対応する画素数の累計頻度をXYZ明るさ分布データとして算出するとともに、X,Y,Z値の各々の合計値をXYZ明るさ毎色分布データとして算出する。また、XYZ明るさ毎色分布データを、それぞれ対応するY値および画素数で除算して、XYZ明るさ毎バランスデータを算出する。さらに、このXYZ明るさ毎バランスデータに基づいて、画像におけるオブジェクトの位置を算出し、このオブジェクト毎に、XYZ明るさ分布データの累計頻度が90%となる明点に対応するY値を明点明るさ値として、80%となる暗点に対応するY値を暗点明るさ値として、それぞれ求める。さらに、明点明るさ値、暗点明るさ値にそれぞれ対応するX,Y,Zバランスデータを、明点X,Y,Zバランスデータ、暗点X,Y,Zバランスデータとして取得する。そして、オブジェクト毎に、明点Xバランスデータ、暗点Xバランスデータを含む1次関数の光源推定直線L1を設定し、この光源推定直線L1上におけるXYZ明るさ分布データの累計頻度が100%となるXバランスデータを、XYZ物体色推定X値として算出し、このXYZ物体色推定X値と、同様に算出されたXYZ物体色推定Y,Z値と、で表される色をオブジェクト毎の推定光源色として推定する。
さらに、入力信号に対応するYuv表色系、RGB表色系に基づいて、同様の処理を実施して、オブジェクト毎にYuv物体色推定Y,u,v値、RGB物体色推定R,G,B値を算出する処理を、オブジェクト毎の推定光源色の推定処理として実施する。
このため、略全ての色を表現可能なXYZ表色系のX値、Y値、Z値、Yuv表色系のY値、u値、v値、RGB表色系のR値、G値、B値に基づく処理を実施するので、人物の肌の部分に限らず、あらゆる物体におけるあらゆる部分の色に基づいて、画像撮像時の光源色を推定できる。したがって、画像撮像時の光源色を適切に推定できる。
そして、推定光源色設定装置100の推定光源色設定部600は、鏡面反射光源色推定部300で推定された反射勾配推定X,Y,Z値に基づく推定光源色と、反射平均推定X,Y,Z値に基づく推定光源色と、物体色光源色推定部400で推定された所定のオブジェクトのXYZ,Yuv,RGB物体色推定値のうちいずれか1つに基づく推定光源色と、を認識する。そして、所定の優先度に基づいて、いずれか1つの推定光源色を選出し、この選出した推定光源色に基づいて、最終推定光源色を設定する。
このため、複数の手法により推定された推定光源色に基づいて最終推定光源色を設定するので、1つの手法により推定された推定光源色に基づき最終推定光源色を設定する構成と比べて、より適切に最終推定光源色を設定できる。
特に、上記実施の形態の処理方法を用いた場合、実測の光源値に対して、色温度が±100〜500kの精度で光源色を設定できることが実験的に確認されており、上記実施の形態の全処理を実施することが好ましい。
そして、鏡面階調不足レベル補間手段351にて、Y分布データ、Y毎色分布データにおいて、各Y値に対応する画素数が所定値よりも少ない場合、このY値の周辺の値に基づいて、この所定値よりも少ないY値に対応する値を補間する処理を実施する。
このため、例えばY分布データにおける所定のY値に対応する画素数が少ない場合であっても、所定の画素数に対応する状態にY分布データを補間することにより、信頼性が高いXYZ物体色推定X,Y,Z値を得ることができる。したがって、撮像時の光源色をより適切に推定できる。
また、物体色階調不足レベル補間手段430においても、XYZ,Yuv,RGB明るさ分布データ、XYZ,Yuv,RGB明るさ毎色分布データに対して、上述したような補間処理を実施するので、信頼性が高いXYZ,Yuv,RGB物体色推定値を得ることができ、撮像時の光源色をさらに適切に推定できる。
さらに、鏡面平滑化手段353にて、X,Y,Zバランスデータを平滑化する。
このため、Xバランスデータが波を打つ場合、この波を打つ状態を平滑化することにより、この平滑化部分に対応するグラフ上で隣接するXバランスデータの差を最小限に抑えることができる。したがって、平滑化部分を含む光源推定直線L1を明点Y値や暗点Y値によらず略等しくすることができ、信頼性がより高いXYZ物体色推定X,Y,Z値を得ることができ、光源色をさらに適切に推定できる。
また、物体色平滑化手段450においても、XYZ,Yuv,RGB明るさ分布データ、XYZ,Yuv,RGB明るさ毎色分布データに対して、上述したような平滑化処理を実施するので、信頼性がより高いXYZ,Yuv,RGB物体色推定値を得ることができ、光源色をさらに適切に推定できる。
そして、反射勾配法推定結果判定手段357にて、反射勾配推定X,Y,Z値が推定光源として相応しいか否かを判定する処理を、推定光源の信頼性判定処理として実施する。また、反射推定結果採用判定手段358にて、反射勾配推定X,Y,Z値の信頼性を表す第1,第2の反射推定信頼性、第3のX,Y,Z反射推定信頼性を判定する。
このため、推定光源色設定部600にて、上述した各信頼性に基づいて、より信頼性が高い光源色を適切に設定できる。
さらに、反射平均法推定結果判定手段362にて、反射平均推定X,Y,Z値が推定光源として相応しいか否かを判定する処理を、推定光源の信頼性判定処理として実施するので、この判定結果に基づいて、推定光源色設定部600にて、さらに信頼性が高い光源色を適切に設定できる。
また、反射推定結果採用判定手段358にて、無彩色領域を構成する画素数が規定数以上か否かに基づいて、第1の反射推定信頼性を判定する。
このため、所定の大きさよりも大きい無彩色領域に基づいて光源色を推定するので、反射勾配推定X,Y,Z値を算出するためのデータ数を所定数以上にすることができ、光源色をより適切に推定できる。
そして、反射推定結果採用判定手段358にて、無彩色領域が明るいか否かに基づいて、第2の反射推定信頼性を判定する。
このため、所定の明るさよりも明るい無彩色領域に基づいて光源色を推定するので、明るさが暗い鏡面反射でない無彩色領域に基づき算出した反射勾配推定X,Y,Z値を、光源色の推定に用いることがない。したがって、光源色をさらに適切に推定できる。
さらに、反射推定結果採用判定手段358にて、明点Y値および暗点Y値の差ΔM1に基づいて、第3のX,Y,Z反射推定信頼性を判定する。
このため、差ΔM1が極めて小さいY毎バランスデータに基づいて光源推定直線L1を設定すると、この光源推定直線L1の安定性が悪くなるおそれがあるが、差ΔM1が所定値以上のY毎バランスデータに基づいて光源推定直線L1を設定することにより、光源推定直線L1の安定性を所定レベル以上にすることができる。したがって、反射勾配推定X,Y,Z値の信頼性をより高めることができる。
また、反射推定結果採用判定手段358にて、明点Y値に値Nを加えた値および暗点Y値から値Nを減じた値の間が一様勾配変化か否か、傾きの変化が急激か否かに基づいて、つまりY値の増減に対するY毎バランスデータの増減状態に基づいて、第3のX,Y,Z反射推定信頼性を判定する。
このため、一様勾配変化していない、または傾きの変化が急激な場合も光源推定直線L1の設定対象にすると、明点Y値や暗点Y値の設定により光源推定直線L1の勾配が大きく変化してしまうおそれがあるが、一様勾配変化している場合、および傾きの変化が緩やかな場合のみ、この部分に基づいて光源推定直線L1を設定することにより、光源推定直線L1の安定性を所定レベル以上にすることができる。したがって、反射勾配推定X,Y,Z値の信頼性をさらに高めることができる。
さらに、オブジェクト抽出手段460にて、XYZ,Yuv,RGB明るさ毎バランスデータを微分して、この微分値に基づいて、オブジェクトの位置を算出する。
このため、一般的に複数のオブジェクト間の部分は色の変化が急峻な場合が多く、この色の変化を数値化したXYZ,Yuv,RGB明るさ毎バランスデータの微分値を用いることにより、オブジェクト間の部分を容易に特定でき、オブジェクトの位置をより容易に算出できる。
また、オブジェクト毎判定手段510にて、各オブジェクトに対して、第1,第2のX,Y,Z,Y,u,v,R,G,B物体色信頼性,第3のXYZ,Yuv,RGB物体色信頼性を判定する。そして、物体色推定結果採用判定手段520にて、これら信頼性に基づいて、所定のオブジェクトを選出し、このオブジェクトの物体色推定値に基づく色を推定光源色として推定する。
このため、物体色光源色推定部400にて、上述した各信頼性に基づいて、より信頼性が高い推定光源色を適切に推定できる。
さらに、オブジェクト毎判定手段510にて、反射推定結果採用判定手段358と同様に、明点明るさ値に値Nを加えた値および暗点明るさ値から値Nを減じた値の間が一様勾配変化か否か、傾きの変化が急激か否かに基づいて、つまり明るさ値の増減に対する例えばXYZ明るさ毎バランスデータの増減状態に基づいて、第2のX,Y,Z物体色信頼性を判定する。
このため、一様勾配変化している場合、および傾きの変化が緩やかな場合のみ、この部分に基づいて光源推定直線L1を設定することにより、光源推定直線L1の安定性を所定レベル以上にすることができ、XYZ物体色推定X,Y,Z値の信頼性をさらに高めることができる。
また、オブジェクト毎判定手段510にて、オブジェクトの重なり状態に基づいて、第3のXYZ,Yuv,RGB物体色信頼性を判定する。
このため、オブジェクトが重なっている場合も例えばXYZ物体色推定X,Y,Z値の算出対象とすると、一方のオブジェクトの明点明るさ値が、他方のオブジェクトの明点明るさ値から暗点明るさ値の間に位置する可能性があり、例えばXYZ物体色推定X,Y,Z値の信頼性が低くなるが、オブジェクトが重なっていない場合のみを算出対象にすることにより、一方のオブジェクトの明点明るさ値が上述したような位置に位置することがなく、XYZ物体色推定X,Y,Z値の信頼性を高めることができる。
さらに、推定光源色設定部600にて、JISで定められた黒体軌跡上の標準光源、常用光源に対応する点のうち、第1推定光源色に最も近い点を最終推定光源色として設定する。
このため、最終推定光源色として、鏡面反射光源色推定部300や物体色光源色推定部400で推定された推定光源色をそのまま適用すると、最終推定光源色として設定されうる推定光源色の数が極めて多くなってしまうが、あらかじめJISで定められた光源色を適用することにより、最終推定光源色として設定されうる推定光源色の数を所定数に抑えることができる。したがって、表示制御手段20での画像補正の基準となる最終推定光源色を所定数にすることができ、画像補正処理を容易に実施させることができる。
そして、推定光源色設定部600にて、第1推定光源色を選択できない場合や画像がテストパターンの場合、既定の光源色である「白」を最終推定光源色として設定する。
このため、いかなる画像であっても、表示制御手段20へ最終推定光源色を出力することができ、画像補正処理を適切に実施させることができる。
特に、上記一実施の形態では、入力信号の種類により定められた「白」を最終推定光源色として設定するので、画像補正処理をより適切に実施させることができる。
さらに、無彩色点抽出手段320にて、所定の色温度の範囲内、具体的には、色温度が2800K〜10000Kの画素を無彩色点として抽出する。
このため、上述したように、2800Kは市販の光源手段の最低温度、10000Kは野外の晴天時の最高温度に対応しているため、これらを考慮に入れて無彩色点を抽出することにより、より適切に光源色を設定することができる。
また、動画像に対しても、この動画像の撮像時の光源色を推定する。
このため、1フレーム毎にリアルタイムで光源色を設定することが可能なので、1フレーム前後で光源の状態が変化する動画像であっても、適正に光源色を設定することができる。
〔実施の形態の変形〕
なお、本発明は、上述した実施の形態に限定されるものではなく、本発明の目的を達成できる範囲で以下に示される変形をも含むものである。
すなわち、ステップS105の処理である物体色からの光源色推定処理、ステップS205,S206の処理である平均法処理、および、ステップS207〜S217の処理である勾配法処理のうち、少なくともいずれか1つのみの処理を実施する構成としてもよい。
このような構成にすれば、推定光源色設定装置100の構成を簡略にできる。
また、鏡面階調不足レベル補間手段351、物体色階調不足レベル補間手段430、鏡面平滑化手段353、物体色平滑化手段450、を適宜設けない構成としてもよい。
さらに、反射勾配法推定結果判定手段357、反射推定結果採用判定手段358、反射平均法推定結果判定手段362を、適宜設けない構成としてもよい。
また、反射推定結果採用判定手段358にて、第1,第2の反射推定信頼性、第3のX,Y,Z反射推定信頼性のうちの1つまたは2つを設定する構成としてもよい。
そして、第3のX,Y,Z反射推定信頼性を、差ΔM1に基づいて、または、一様勾配変化か否か、および傾きの変化が急激か否かに基づいて、判定する構成としてもよい。
さらに、反射推定結果採用判定手段358にて、第1,第2の反射推定信頼性、第3のX,Y,Z反射推定信頼性の有無について判断したが、以下のような構成としてもよい。すなわち、信頼性の高さに対応する信頼値を設定し、この信頼値に基づいて、総合信頼度を算出する。そして、この総合信頼度に基づいて、反射勾配推定X,Y,Z値に基づく推定光源を適用するか否かを判定する構成としてもよい。
また、オブジェクト抽出手段460にて、オブジェクトの位置を算出する際に、XYZ明るさ毎バランスデータなどを微分せずに、XYZ明るさ毎バランスデータの差分に基づいて、オブジェクトの位置を算出する構成としてもよい。
そして、XYZ物体色推定X,Y,Z値、Yuv物体色推定Y,u,v値、RGB物体色推定R,G,B値を、オブジェクト毎に算出したが、1つのオブジェクトのもののみを算出する構成としてもよい。
さらに、オブジェクト毎判定手段510にて、第1,第2のX,Y,Z,Y,u,v,R,G,B物体色信頼性,第3のXYZ,Yuv,RGB物体色信頼性のうち、1つまたは2つの物体色信頼性を設定する構成としてもよい。
また、反射勾配法推定光源算出手段356にて、図30に示すような方法で、反射勾配推定X,Y,Z値を算出する構成としてもよい。
具体的には、明点Y値および暗点Y値の中間値を中間Y値として設定する。例えば明点の累計頻度が90%、暗点が80%の場合、85%に対応する中間Y値を設定する。さらに、中間Y値のXバランスデータを中間Xバランスデータとして取得し、明点,中間,暗点Xバランスデータに対応する点を通るQ(Qは2以上の自然数)次関数の光源推定曲線L2を設定する。そして、この光源推定曲線L2における累計頻度が100%となる推定光源Y値に対応するXバランスデータを、反射勾配推定X値として算出する構成としてもよい。
さらに、第2推定光源色算出手段620にて、図31に示すような方法で、第2推定光源色を算出する構成としてもよい。
具体的には、図31に示すように、第1推定光源色に最も近い標準光源に対応する2個の点が、略等しい距離K1,K2の位置にそれぞれ存在する場合、1画像毎の微妙な絵柄の変化により第2推定光源色が、その2個の標準光源間で1画像毎に変わってしまうことがある。このような場合、第1推定光源色の点と、それぞれの標準光源の点と、の距離の比(K1:K2)に基づいて、黒体軌跡上におけるその比に対応した点を第2推定光源色として算出する構成を適用してもよい。
このような構成にすれば、1画像毎に第2推定光源色が大きく変わることがなく、光源色をより適切に推定できる。
また、第2推定光源色算出手段620にて、図32に示すような方法で、第2推定光源色を算出する構成としてもよい。
具体的には、図32に示すように、第1推定光源色の色温度と同じ値の黒体軌跡上の点を、第2推定光源色として算出する構成としてもよい。
さらに、第2推定光源色算出手段620にて、第1推定光源色をそのまま第2推定光源色として設定する構成としてもよい。このような構成では、1画像毎の微妙な絵柄の変化により、黒体軌跡上の点を第2推定光源色として算出する構成と比べて、第2推定光源色が大きく変化してしまう。このため、1画像前後で第1推定光源色の変化が小さい場合に、前画像の第1推定光源色をそのまま第2推定光源色として設定することが好ましい。
このような構成にすれば、微妙な絵柄の変化では、前後画像で第2推定光源色に大きな変化が発生することがなく、光源色をさらに適切に推定できる。
また、推定光源色出力手段640にて、既定光源色を出力する代わりに、1画面前の最終推定光源色を出力する構成としてもよい。
そして、明るさ分布算出手段410にて、無彩色点抽出手段320にて抽出された無彩色領域に基づいて、明るさ分布データを算出する構成としてもよい。
さらに、無彩色点抽出手段320にて、無彩色点を抽出する際に、黒体軌跡からの偏差が閾値以内か否か、および、色温度が2800K〜10000Kか否かのうちいずれか一方のみを基準として判断してもよい。
また、上述した推定光源色設定装置100を、図33に示すような光源色制御装置1に適用してもよい。
この光源色制御装置1は、例えば美術館や博物館などに配置される。そして、光源色制御装置1は、撮像手段2と、光源手段3と、推定光源色設定装置100と、所望光源色入力手段4と、光源色制御手段5と、を備えている。
撮像手段2は、所定の位置に配置された対象物6を撮像可能な位置に設けられている。この撮像手段2は、動画像を撮像可能な例えばビデオカメラであり、対象物6を撮像した画像の画像信号をリアルタイムで推定光源色設定装置100へ出力する。ここで、対象物6は、例えば絵画や写真などの静止物であり、太陽7からの日光が直接的あるいは間接的に照射される位置に設けられている。このため、時間経過に伴う太陽7の昇沈により、対象物6に照射される光の状況が時間毎に変化して、撮像手段2で撮像される画像は、静止画ではなく光源色が変化する動画となる。つまり、撮像手段2は、この光源色の変化を動画として撮像し続け、リアルタイムで画像信号を出力することとなる。
光源手段3は、対象物6に光を照射可能な位置に設けられている。この光源手段3は、例えばRGB各色から構成されるLEDなどであり、光源色制御手段5の制御により、異なる光源色の光を対象物6に照射する。
推定光源色設定装置100は、撮像手段2からの画像信号に基づいて、上述したような処理により、対象物6が撮像された際の光源色を推定して、最終推定光源色情報を光源色制御手段5へ出力する。ここで、この推定光源色設定装置100による光源色の推定は、本発明の対象物光源色設定工程に対応している。
所望光源色入力手段4は、利用者により入力操作可能な例えばキーボードなどであり、所望の光源色を設定入力可能な構成を有している。そして、所望光源色入力手段4は、設定入力された所望光源色情報を光源色制御手段5へ出力する。
光源色制御手段5は、推定光源色設定装置100からの最終推定光源色情報に基づく対象物6の光源色と、所望光源色入力手段4からの所望光源色情報に基づく光源色と、を比較する。そして、差異が所定の状態よりも大きい場合、対象物6の光源色が利用者により設定された光源色となる状態に、光源手段3の光源色を制御する。ここで、この光源色制御手段5による光源色の制御は、本発明の光源制御工程に対応している。
このような構成にすれば、対象物6の光源色をリアルタイムで所望の状態に制御することができる。また、光源色を直接測定する高価な測定機器を用いずに、安価なビデオカメラを用いるだけで対象物6の光源色を制御でき、このような制御をする構成の低コスト化を実現できる。
なお、上述した光源色制御装置1を以下のような構成に適用してもよい。
すなわち、対象物6として表示装置を適用するとともに、この表示装置が太陽7により照射されない位置に配置する。このような場合、画像が表示された表示装置自体を光源の一部として考えると、その表示画像の状態により、表示装置に照射される光源色全体の状態は、1フレーム毎に変化していると言える。
このような構成にすれば、上述したような処理により、表示画像全体の変化に伴い変化する光源色の状態をリアルタイムで所望の状態に制御することができる。
なお、表示装置を太陽7により照射される位置に設けてもよい。
上述した各機能をプログラムとして構築したが、例えば回路基板などのハードウェアあるいは1つのIC(Integrated Circuit)などの素子にて構成するなどしてもよく、いずれの形態としても利用できる。なお、プログラムや別途記録媒体から演算手段としてのコンピュータで読み取らせる構成とすることにより、取扱が容易で、利用の拡大が容易に図れる。
その他、本発明の実施の際の具体的な構造および手順は、本発明の目的を達成できる範囲で他の構造などに適宜変更できる。
〔実施の形態の作用効果〕
上述したように、上記実施の形態では、推定光源色設定装置100の鏡面反射光源色推定部300は、無彩色点で構成される無彩色領域について、各Y値に対して、このY値以内に対応する画素数の累計頻度をY分布データとして算出する。また、各Y値に対するX,Y,Z値の各々の合計値であるX,Y,Z色分布データを、それぞれ対応するY値および画素数で除算して、X,Y,Zバランスデータを算出する。そして、Y分布データの累計頻度がTa%となる明点に対応するY値を明点Y値として、Tb%となる暗点に対応するY値を暗点Y値として、それぞれ求め、明点Y値、暗点Y値にそれぞれ対応するX,Y,Zバランスデータを、明点X,Y,Zバランスデータ、暗点X,Y,Zバランスデータとして取得する。そして、明点Xバランスデータ、暗点Xバランスデータを含む1次関数の光源推定直線L1を設定し、この光源推定直線L1上におけるY分布データの累計頻度が100%となるXバランスデータを、反射勾配推定X値として算出し、この反射勾配推定X値と、同様に算出された反射勾配推定Y,Z値と、で表される色を推定光源色として推定する。
また、推定光源色設定装置100の鏡面反射光源色推定部300は、X,Y,Z色分布データに基づいて、Y値が閾値以上の画素のXバランスデータの総和を算出する。そして、この総和を抽出画素数で除した値を、反射平均推定X値として算出し、この反射平均推定X値と、同様に算出された反射平均推定Y,Z値と、で表される色を推定光源色として推定する。
さらに、推定光源色設定装置100の物体色光源色推定部400は、入力信号に対応するXYZ表色系に基づいて、明るさを表す各Y値に対して、このY値以内に対応する画素数の累計頻度をXYZ明るさ分布データとして算出する。また、各Y値に対応するX,Y,Z値の各々の合計値であるXYZ明るさ毎色分布データを、それぞれ対応するY値および画素数で除算して、XYZ明るさ毎バランスデータを算出する。さらに、このXYZ明るさ毎バランスデータに基づいて、オブジェクトの位置を算出し、このオブジェクト毎に、XYZ明るさ分布データの累計頻度が90%となる明点に対応するY値を明点明るさ値として、80%となる暗点に対応するY値を暗点明るさ値として、それぞれ求め、明点明るさ値、暗点明るさ値にそれぞれ対応するX,Y,Zバランスデータを、明点X,Y,Zバランスデータ、暗点X,Y,Zバランスデータとして取得する。そして、オブジェクト毎に、明点Xバランスデータ、暗点Xバランスデータを含む1次関数の光源推定直線L1を設定し、この光源推定直線L1上におけるXYZ明るさ分布データの累計頻度が100%となるXバランスデータを、XYZ物体色推定X値として算出し、このXYZ物体色推定X値と、同様に算出されたXYZ物体色推定Y,Z値と、で表される色をオブジェクト毎の推定光源色として推定する。
さらに、入力信号に対応するYuv表色系、RGB表色系に基づいて、同様の処理を実施して、オブジェクト毎にYuv物体色推定Y,u,v値、RGB物体色推定R,G,B値を算出する処理を、オブジェクト毎の推定光源色の推定処理として実施する。
このため、略全ての色を表現可能なXYZ表色系のX値、Y値、Z値、Yuv表色系のY値、u値、v値、RGB表色系のR値、G値、B値に適宜基づく処理を実施するので、人物の肌の部分に限らず、あらゆる物体におけるあらゆる部分の色に基づいて、画像撮像時の光源色を推定できる。したがって、画像撮像時の光源色を適切に推定できる。
そして、推定光源色設定装置100の推定光源色設定部600は、鏡面反射光源色推定部300で推定された反射勾配推定X,Y,Z値に基づく推定光源色と、反射平均推定X,Y,Z値に基づく推定光源色と、物体色光源色推定部400で推定された所定のオブジェクトのXYZ,Yuv,RGB物体色推定値のうちいずれか1つに基づく推定光源色と、を認識する。そして、所定の優先度に基づいて、いずれか1つの推定光源色を選出し、この選出した推定光源色に基づいて、最終推定光源色を設定する。
このため、複数の手法により推定された推定光源色に基づいて最終推定光源色を設定するので、1つの手法により推定された推定光源色に基づき最終推定光源色を設定する構成と比べて、より適切に最終推定光源色を設定できる。
また、光源色制御装置1の光源色制御手段5は、推定光源色設定装置100からの最終推定光源色情報に基づく対象物6の光源色と、所望光源色入力手段4からの所望光源色情報に基づく光源色と、を比較して、差異が所定の状態よりも大きい場合、対象物6の光源色が利用者により設定された光源色となる状態に、光源手段3の光源色を制御する。
このため、対象物6の光源色をリアルタイムで所望の状態に制御することができる。また、光源色を直接測定する高価な測定機器を用いずに、安価なビデオカメラを用いるだけで対象物6の光源色を制御でき、このような制御をする構成の低コスト化を実現できる。
本発明の一実施の形態に係る推定光源色設定装置の概略構成を示すブロック図である。 前記一実施の形態における鏡面反射光源色推定部の概略構成を示す模式図である。 前記一実施の形態における明るさとY分布データとの関係を示すグラフである。 前記一実施の形態における明るさとXバランスデータとの関係を示すグラフである。 前記一実施の形態における明るさとYバランスデータとの関係を示すグラフである。 前記一実施の形態における明るさとZバランスデータとの関係を示すグラフである。 前記一実施の形態における平滑化前後の明るさとXバランスデータとの関係を示すグラフである。 前記一実施の形態における暗い画像における明点Y値および暗点Y値の設定状態をグラフ形式で示す図である。 前記一実施の形態における明るい画像における明点Y値および暗点Y値の設定状態をグラフ形式で示す図である。 前記一実施の形態における明点Xバランスデータおよび暗点Xバランスデータの取得方法をグラフ形式で示す図である。 前記一実施の形態における反射勾配推定X値の算出方法をグラフ形式で示す図である。 前記一実施の形態におけるXバランスデータが一様勾配変化しているか否かの判定方法をグラフ形式で示す図である。 前記一実施の形態におけるX,Y,Zバランスデータが一様勾配変化している状態をグラフ形式で示す図である。 前記一実施の形態における物体色光源色推定部の概略構成を示す模式図である。 前記一実施の形態におけるオブジェクト抽出対象の画像の一例を示す図である。 前記一実施の形態におけるオブジェクト抽出対象の画像におけるXYZ明るさ毎バランスデータと明るさとの関係を示すグラフである。 前記一実施の形態におけるXYZ明るさ毎バランスデータを微分処理した状態を示すグラフである。 前記一実施の形態における微分処理後のXYZ明るさ毎バランスデータに基づくオブジェクトの位置特定方法をグラフ形式で示す図である。 前記一実施の形態におけるオブジェクトの抽出方法をグラフ形式で示す図である。 前記一実施の形態におけるオブジェクト毎の明点Y値および暗点Y値の設定状態をグラフ形式で示す図である。 前記一実施の形態における半透明のオブジェクトが重なった画像の一例を示す図である。 前記一実施の形態における推定光源色設定部の概略構成を示す模式図である。 前記一実施の形態における第2推定光源色の算出方法を示す図である。 前記一実施の形態におけるシーンチェンジがない状態をグラフ形式で示す図である。 前記一実施の形態におけるシーンチェンジがある状態をグラフ形式で示す図である。 前記一実施の形態における光源色の推定処理を示すフローチャートである。 前記一実施の形態における鏡面反射からの光源色推定処理を示すフローチャートである。 前記一実施の形態における物体色からの光源色推定処理を示すフローチャートである。 前記一実施の形態における光源色設定処理を示すフローチャートである。 本発明の他の実施の形態に係る反射勾配推定X値の算出方法をグラフ形式で示す図である。 本発明のさらに他の実施の形態に係る第2推定光源色の算出方法を示す図である。 本発明のさらに他の実施の形態に係る第2推定光源色の算出方法を示す図である。 本発明のさらに他の実施の形態に係る光源色制御装置の概略構成を示すブロック図である。
符号の説明
S201…抽出工程
S203…Y分布算出工程
S204…Y毎色分布算出工程
S205,S212,S311…推定光源算出工程
S206,S213…信頼性判定工程
S207,S303…補間工程
S208…Y毎バランス算出工程
S209,S305…平滑化工程
S211…明点暗点Y値取得工程および明点暗点バランス取得工程
S301…明るさ分布算出工程
S302…明るさ毎色分布算出工程
S304…明るさ毎バランス算出工程
S306…オブジェクト明るさ毎バランス取得工程
S307…明点暗点明るさ値取得工程および明点暗点バランス取得工程
S310…オブジェクト毎判定工程
S401…推定光源情報取得工程および光源色設定工程
S403…光源色設定工程

Claims (26)

  1. 所定の画像が撮像された際の光源色を推定する光源色推定方法であって、
    前記画像の画像信号におけるXYZ表色系のX値、Y値、および、Z値で表される画素データから、黒体軌跡からの偏差が所定値以内の前記画素データを抽出画素データとして抽出する抽出工程と、
    この抽出工程で抽出した前記抽出画素データに基づいて、各Y値に対して、前記Y値以内のY値に対応する前記抽出画素データの数の累計頻度を表すY分布データを算出するY分布算出工程と、
    前記抽出画素データに基づいて、各Y値に対して、前記Y値に対応する前記抽出画素データの前記X値の合計値、前記Y値の合計値、および、前記Z値の合計値をY毎色分布データとして算出するY毎色分布算出工程と、
    このY毎色分布算出工程で算出した前記Y毎色分布データの前記X値の合計値、前記Y値の合計値、前記Z値の合計値を、それぞれ対応する前記Y値で除算したY毎バランスデータを算出するY毎バランス算出工程と、
    前記Y分布算出工程で算出した前記Y分布データに基づいて、前記累計頻度がTa%となる明点に対応する前記Y値を明点Y値として取得し、前記累計頻度がTa%未満のTb%となる暗点に対応する前記Y値を暗点Y値として取得する明点暗点Y値取得工程と、
    前記Y毎バランス算出工程で算出した前記Y毎バランスデータに基づいて、前記明点Y値に対応する前記Y毎バランスデータを明点バランスデータとして取得し、前記暗点Y値に対応する前記Y毎バランスデータを暗点バランスデータとして取得する明点暗点バランス取得工程と、
    前記Y毎バランスデータに基づいて、前記明点バランスデータおよび前記暗点バランスデータを含むQ(Qは自然数)次関数の線を設定し、この線上における前記累計頻度が100%または略100%に対応する前記Y毎バランスデータのX値、Y値、および、Z値を算出し、この算出した前記X値、前記Y値、および、前記Z値に基づいて、前記画像が撮像された際の光源色を算出して推定する推定光源算出工程と、
    を実施することを特徴とする光源色推定方法。
  2. 請求項1に記載の光源色推定方法であって、
    前記Y毎バランス算出工程の前に、前記Y分布データ、前記Y毎色分布データの各Y値に対して、前記Y値に対応する前記抽出画素データの数が所定値未満の場合、前記抽出画素データの数が所定値以上となる状態に前記Y分布データ、前記Y毎色分布データを補間する補間工程を実施し、
    前記Y毎バランス算出工程、前記明点暗点Y値取得工程、前記明点暗点バランス取得工程、および、前記推定光源算出工程では、前記補間工程で補間された前記Y分布データ、前記Y毎色分布データに基づく処理を実施する
    ことを特徴とする光源色推定方法。
  3. 請求項1または請求項2に記載の光源色推定方法であって、
    前記明点暗点Y値取得工程の前に、前記Y毎バランスデータを平滑化する平滑化工程を実施し、
    前記明点暗点Y値取得工程、前記明点暗点バランス取得工程、および、前記推定光源算出工程では、前記平滑化工程で平滑化された前記Y毎バランスデータに基づく処理を実施する
    ことを特徴とする光源色推定方法。
  4. 請求項1ないし請求項3のいずれかに記載の光源色推定方法であって、
    前記推定光源算出工程で推定した前記光源色の信頼性を判定する信頼性判定工程を実施する
    ことを特徴とする光源色推定方法。
  5. 請求項4に記載の光源色推定方法であって、
    前記信頼性判定工程では、前記抽出画素データの数に基づいて、前記光源色の信頼性を判定する
    ことを特徴とする光源色推定方法。
  6. 請求項4または請求項5に記載の光源色推定方法であって、
    前記信頼性判定工程では、前記画像の明るさに基づいて、前記光源色の信頼性を判定する
    ことを特徴とする光源色推定方法。
  7. 請求項4ないし請求項6のいずれかに記載の光源色推定方法であって、
    前記信頼性判定工程では、前記明点Y値および前記暗点Y値の差に基づいて、前記光源色の信頼性を判定する
    ことを特徴とする光源色推定方法。
  8. 請求項4ないし請求項7のいずれかに記載の光源色推定方法であって、
    前記信頼性判定工程では、前記Y値の増減に対する前記Y毎バランスデータの増減状態に基づいて、前記光源色の信頼性を判定する
    ことを特徴とする光源色推定方法。
  9. 請求項1ないし請求項8のいずれかに記載の光源色推定方法であって、
    前記抽出工程では、所定の色温度の範囲内の前記画素データを前記抽出画素データとして抽出することを特徴とする光源色推定方法。
  10. 請求項1ないし請求項9のいずれかに記載の光源色推定方法であって、
    前記画像は動画像である
    ことを特徴とする光源色推定方法。
  11. 所定の画像が撮像された際の光源色を推定する光源色推定方法であって、
    前記画像の画像信号におけるXYZ表色系のX値、Y値、および、Z値で表される画素データから、黒体軌跡からの偏差が所定値以内の前記画素データを抽出画素データとして抽出する抽出工程と、
    この抽出工程で抽出した前記抽出画素データに基づいて、各Y値に対して、前記Y値に対応する前記抽出画素データの前記X値の合計値、前記Y値の合計値、および、前記Z値の合計値をY毎色分布データとして算出するY毎色分布算出工程と、
    このY毎色分布算出工程で算出した前記Y毎色分布データに基づいて、所定のY値以上のY値に対応する前記Y毎色分布データの前記X値の合計値、前記Y値の合計値、および、前記Z値の合計値を、前記所定のY値以上のY値に対応する前記Y毎色分布データの合計数でそれぞれ除算して得られたX値、Y値、および、Z値に基づいて、前記画像が撮像された際の光源色を算出して推定する推定光源算出工程と、
    を実施することを特徴とする光源色推定方法。
  12. 請求項11に記載の光源色推定方法であって、
    前記推定光源算出工程で推定した前記光源色の信頼性を判定する信頼性判定工程を実施する
    ことを特徴とする光源色推定方法。
  13. 請求項11または請求項12に記載の光源色推定方法であって、
    前記抽出工程では、所定の色温度の範囲内の前記画素データを前記抽出画素データとして抽出することを特徴とする光源色推定方法。
  14. 請求項11ないし請求項13のいずれかに記載の光源色推定方法であって、
    前記画像は動画像である
    ことを特徴とする光源色推定方法。
  15. 所定のオブジェクトを含む画像が撮像された際の光源色を推定する光源色推定方法であって、
    前記画像の画像信号における3個の表色値で色を表現可能な少なくとも1種類の表色系の前記表色値で表される画素データに基づいて、前記3個の表色値に基づく前記画像の明るさを表す明るさ値のそれぞれに対して、前記明るさ値以内の前記明るさ値に対応する前記画素データの数の累計頻度を表す明るさ分布データを算出する明るさ分布算出工程と、
    前記画素データに基づいて、各前記明るさ値に対して、前記明るさ値に対応する前記画素データの前記第1の表色値の合計値、第2の前記表色値の合計値、および、第3の前記表色値の合計値を明るさ毎色分布データとして算出する明るさ毎色分布算出工程と、
    この明るさ毎色分布算出工程で算出した前記明るさ毎色分布データの前記第1の表色値の合計値、前記第2の表色値の合計値、前記第3の表色値の合計値を、それぞれ対応する前記明るさ値で除算した明るさ毎バランスデータを算出する明るさ毎バランス算出工程と、
    この明るさ毎バランス算出工程で算出された前記明るさ毎バランスデータに基づいて、前記画像における前記オブジェクトの位置を算出し、この算出した位置に対応する前記明るさ毎バランスデータをオブジェクト明るさ毎バランスデータとして取得するオブジェクト明るさ毎バランス取得工程と、
    前記明るさ分布算出工程で算出した前記明るさ分布データに基づいて、前記オブジェクト毎に、前記累計頻度がTa%となる明点に対応する前記明るさ値を明点明るさ値として取得し、前記累計頻度がTa%未満のTb%となる暗点に対応する前記明るさ値を暗点明るさ値として取得する明点暗点明るさ値取得工程と、
    前記明るさ毎バランスデータに基づいて、前記オブジェクト毎に、前記明点明るさ値に対応する前記明るさ毎バランスデータを明点バランスデータとして取得し、前記暗点明るさ値に対応する前記明るさ毎バランスデータを暗点バランスデータとして取得する明点暗点バランス取得工程と、
    前記明るさ毎バランスデータに基づいて、前記オブジェクト毎に、前記明点バランスデータおよび前記暗点バランスデータを含むQ(Qは自然数)次関数の線を設定し、この線上における前記累計頻度が100%または略100%に対応する前記明るさ毎バランスデータの第1の表色値、第2の表色値、および、第3の表色値を算出し、このオブジェクト毎に算出された前記第1の表色値、前記第2の表色値、および、前記第3の表色値に基づいて、前記画像が撮像された際の光源色を算出して推定する推定光源算出工程と、
    を実施することを特徴とする光源色推定方法。
  16. 請求項15に記載の光源色推定方法であって、
    前記明るさ毎バランス算出工程の前に、前記明るさ分布データ、前記明るさ毎色分布データの各明るさ値に対して、前記明るさ値に対応する前記画素データの数が所定値未満の場合、前記画素データの数が所定値以上となる状態に前記明るさ分布データ、前記明るさ毎色分布データを補間する補間工程を実施し、
    前記明るさ毎バランス算出工程、前記オブジェクト明るさ毎バランス工程、前記明点暗点明るさ値取得工程、前記明点暗点バランス取得工程、および、前記推定光源算出工程では、前記補間工程で補間された前記明るさ分布データ、前記明るさ毎色分布データに基づく処理を実施する
    ことを特徴とする光源色推定方法。
  17. 請求項15または請求項16に記載の光源色推定方法であって、
    前記オブジェクト明るさ毎バランス工程の前に、前記明るさ毎バランスデータを平滑化する平滑化工程を実施し、
    前記オブジェクト明るさ毎バランス工程、前記明点暗点明るさ値取得工程、前記明点暗点バランス取得工程、および、前記推定光源算出工程では、前記平滑化工程で平滑化された前記明るさ分布データ、前記明るさ毎色分布データに基づく処理を実施する
    ことを特徴とする光源色推定方法。
  18. 請求項15ないし請求項17のいずれかに記載の光源色推定方法であって、
    前記オブジェクト明るさ毎バランス取得工程では、前記明るさ毎バランスデータを微分して、この微分した結果に基づいて、前記画像における前記オブジェクトの位置を算出する
    ことを特徴とする光源色推定方法。
  19. 請求項15ないし請求項18のいずれかに記載の光源色推定方法であって、
    前記オブジェクト明るさ毎バランス取得工程で位置が算出されたオブジェクトに対して、前記推定光源算出工程で算出される前記オブジェクトの前記第1の表色値、前記第2の表色値、および、前記第3の表色値の信頼性を判定するオブジェクト毎判定工程を実施し、
    前記推定光源算出工程では、前記オブジェクト毎判定工程で判定された前記信頼性に基づいて、所定の前記オブジェクトを選出し、この選出した前記オブジェクトの前記第1の表色値、前記第2の表色値、および、前記第3の表色値に基づいて、前記画像が撮像された際の光源色を算出して推定する
    ことを特徴とする光源色推定方法。
  20. 請求項19に記載の光源色推定方法であって、
    前記オブジェクト毎判定工程では、前記明るさ値の増減に対する前記明るさ毎バランスデータの増減状態に基づいて、前記オブジェクトの前記信頼性を判定する
    ことを特徴とする光源色推定方法。
  21. 請求項19または請求項20に記載の光源色推定方法であって、
    前記オブジェクト毎判定工程では、前記オブジェクトの重なり状態に基づいて、前記オブジェクトの前記信頼性を判定する
    ことを特徴とする光源色推定方法。
  22. 請求項15ないし請求21のいずれかに記載の光源色推定方法であって、
    前記明るさ分布算出工程の前に、所定の色温度の範囲内の前記画素データを抽出する抽出工程を実施し、
    前記明るさ分布算出工程以降の工程では、前記抽出工程で抽出された前記画素データに基づく処理を実施する
    ことを特徴とする光源色推定方法。
  23. 請求項15ないし請求項22のいずれかに記載の光源色推定方法であって、
    前記画像は動画像である
    ことを特徴とする光源色推定方法。
  24. 請求項1ないし請求項10のいずれかに記載の光源色推定方法で推定された前記光源色、請求項11ないし請求項14に記載の光源色推定方法で推定された前記光源色、および、請求項15ないし請求項23のいずれかに記載の光源色推定方法で推定された前記光源色のうち、少なくともいずれか2つの前記光源色に関する推定光源情報を取得する推定光源情報取得工程と、
    所定の優先度に基づいて、前記推定光源情報取得工程で取得した前記推定光源情報に基づく前記少なくともいずれか2つの光源色のうち1つの光源色を選出し、この選出した光源色に基づいて、前記画像が撮像された際の光源色を設定する光源色設定工程と、
    を実施することを特徴とする推定光源色設定方法。
  25. 請求項24に記載の推定光源色設定方法であって、
    前記光源色設定工程では、あらかじめ規格化されている標準光源色のうち前記選出した光源色と略等しい前記標準光源色を、前記画像が撮像された際の光源色として設定する
    ことを特徴とする推定光源色設定方法。
  26. 所定の対象物を撮像する撮像手段から入力される画像信号に基づいて、請求項24または請求項25に記載の推定光源色設定方法により前記対象物の画像が撮像された際の光源色を設定する対象物光源色設定工程と、
    所望の光源色と前記推定光源色設定方法で設定された前記光源色とが異なる場合に、前記対象物を照射する光源手段を前記所望の光源色で照射する状態に制御する光源制御工程と、
    を実施することを特徴とする光源色制御方法。
JP2006307134A 2006-11-13 2006-11-13 光源色推定方法、推定光源色設定方法、および、光源色制御方法 Ceased JP2008123296A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006307134A JP2008123296A (ja) 2006-11-13 2006-11-13 光源色推定方法、推定光源色設定方法、および、光源色制御方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006307134A JP2008123296A (ja) 2006-11-13 2006-11-13 光源色推定方法、推定光源色設定方法、および、光源色制御方法

Publications (1)

Publication Number Publication Date
JP2008123296A true JP2008123296A (ja) 2008-05-29

Family

ID=39507981

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006307134A Ceased JP2008123296A (ja) 2006-11-13 2006-11-13 光源色推定方法、推定光源色設定方法、および、光源色制御方法

Country Status (1)

Country Link
JP (1) JP2008123296A (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011145439A (ja) * 2010-01-14 2011-07-28 Sharp Corp 画像形成装置の回転伝達機構
JP2017215851A (ja) * 2016-06-01 2017-12-07 キヤノン株式会社 画像処理装置および画像処理方法、造形システム

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0955948A (ja) * 1995-08-11 1997-02-25 Minolta Co Ltd 撮像装置
JP2000148978A (ja) * 1998-11-10 2000-05-30 Fuji Photo Film Co Ltd 撮影光源推定方法および装置、画像処理方法および装置、並びに記録媒体
JP2002271638A (ja) * 2001-03-09 2002-09-20 Fuji Photo Film Co Ltd ホワイトバランス補正方法及び装置並びに該方法を実行するためのプログラムを記録した記録媒体
JP2003087818A (ja) * 2001-09-14 2003-03-20 Toshiba Corp 白バランスを得るための照明光の色推定方法および撮像装置
JP2006181974A (ja) * 2004-12-28 2006-07-13 Sharp Corp レーザ書込装置およびレーザ書込方法。
JP2006254487A (ja) * 2006-04-17 2006-09-21 Canon Inc 画像処理方法、装置および記録媒体
JP2006262404A (ja) * 2005-03-18 2006-09-28 Sharp Corp 光源推定装置、画像処理装置、光源推定方法、および画像処理方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0955948A (ja) * 1995-08-11 1997-02-25 Minolta Co Ltd 撮像装置
JP2000148978A (ja) * 1998-11-10 2000-05-30 Fuji Photo Film Co Ltd 撮影光源推定方法および装置、画像処理方法および装置、並びに記録媒体
JP2002271638A (ja) * 2001-03-09 2002-09-20 Fuji Photo Film Co Ltd ホワイトバランス補正方法及び装置並びに該方法を実行するためのプログラムを記録した記録媒体
JP2003087818A (ja) * 2001-09-14 2003-03-20 Toshiba Corp 白バランスを得るための照明光の色推定方法および撮像装置
JP2006181974A (ja) * 2004-12-28 2006-07-13 Sharp Corp レーザ書込装置およびレーザ書込方法。
JP2006262404A (ja) * 2005-03-18 2006-09-28 Sharp Corp 光源推定装置、画像処理装置、光源推定方法、および画像処理方法
JP2006254487A (ja) * 2006-04-17 2006-09-21 Canon Inc 画像処理方法、装置および記録媒体

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011145439A (ja) * 2010-01-14 2011-07-28 Sharp Corp 画像形成装置の回転伝達機構
JP2017215851A (ja) * 2016-06-01 2017-12-07 キヤノン株式会社 画像処理装置および画像処理方法、造形システム

Similar Documents

Publication Publication Date Title
US20240029199A1 (en) Efficient Image Demosaicing and Local Contrast Enhancement
US7406213B2 (en) Image processing apparatus and method, and computer program
US8446485B2 (en) Image processing apparatus, image processing method, and storage medium thereof
US8363131B2 (en) Apparatus and method for local contrast enhanced tone mapping
US9137464B2 (en) Image processing apparatus and control method of the same
US7013025B2 (en) Image correction apparatus
US7656437B2 (en) Image processing apparatus, image processing method, and computer program
US8249337B2 (en) Methods and systems for converting images from low dynamic range to high dynamic range
US7697044B2 (en) Image processing apparatus and image processing method
US7755670B2 (en) Tone-conversion device for image, program, electronic camera, and tone-conversion method
JP2007110576A (ja) 被写体像データの色補正装置およびその制御方法
CN107533756B (zh) 图像处理装置、摄像装置、图像处理方法以及存储图像处理装置的图像处理程序的存储介质
CN110009588B (zh) 一种人像图像色彩增强方法及装置
JP5901667B2 (ja) 画像処理装置及び方法、画像処理プログラム、撮像装置
JP5392560B2 (ja) 画像処理装置および画像処理方法
JP4595569B2 (ja) 撮像装置
JP2010272996A (ja) 画像処理装置、及び画像処理プログラム
JP3673092B2 (ja) 画質調整装置及び画質調整方法、並びに画像調整用プログラムを記録した記録媒体
JP2008123296A (ja) 光源色推定方法、推定光源色設定方法、および、光源色制御方法
JP2005173879A (ja) 融合画像表示装置
JP2005260675A (ja) 画像処理装置およびプログラム
JP2007234034A (ja) 画像処理装置及び画像処理方法
JP2003046807A (ja) 画像表示装置および画像表示方法
JP3502828B2 (ja) コンピュータによる画像処理システム
JP2004260835A (ja) 画像処理装置、画像処理方法、画像処理制御プログラムを記録した媒体

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20090612

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20091110

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110621

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110628

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110825

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110920

A045 Written measure of dismissal of application

Free format text: JAPANESE INTERMEDIATE CODE: A045

Effective date: 20120124