JPH0766986A - カラーバランス調整装置および調整方法 - Google Patents

カラーバランス調整装置および調整方法

Info

Publication number
JPH0766986A
JPH0766986A JP5210710A JP21071093A JPH0766986A JP H0766986 A JPH0766986 A JP H0766986A JP 5210710 A JP5210710 A JP 5210710A JP 21071093 A JP21071093 A JP 21071093A JP H0766986 A JPH0766986 A JP H0766986A
Authority
JP
Japan
Prior art keywords
color
reflectance
subject
illumination light
coefficient
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP5210710A
Other languages
English (en)
Other versions
JP3149297B2 (ja
Inventor
Koichiro Kuroda
浩一郎 黒田
Shigeki Nakauchi
茂樹 中内
Shirou Usui
支朗 臼井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyo Ink Mfg Co Ltd
Original Assignee
Toyo Ink Mfg Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyo Ink Mfg Co Ltd filed Critical Toyo Ink Mfg Co Ltd
Priority to JP21071093A priority Critical patent/JP3149297B2/ja
Publication of JPH0766986A publication Critical patent/JPH0766986A/ja
Application granted granted Critical
Publication of JP3149297B2 publication Critical patent/JP3149297B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Processing Of Color Television Signals (AREA)
  • Color Image Communication Systems (AREA)

Abstract

(57)【要約】 【目的】色恒常性を確保可能なカラーバランス調整技術
を提供すること。 【構成】被写体の表面反射率の平均値がグレーになると
云うグレイワールド仮定に関する制約からなる色恒常性
理論を利用し、また、照明光は白色光の主要なスペクト
ル基底関数に近似されることを利用して照明光は白色光
として扱い、被写体表面反射率係数はセンサからの応答
量と推定表面反射率基底関数と照明光スペクトル基底関
数の和と被写体表面反射率係数より決めるようにし、被
写体の表面反射率の平均値がグレーになるように各色別
の被写体表面反射率係数を調整することにより、各色別
の被写体表面反射率係数を得、センサからの応答量に基
づく色情報を当該被写体表面反射率係数で補正して出力
する。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、例えば、カラービデオ
カメラ、カラーテレビ等に用いられるカラー画像の色温
度またはカラーバランスの調整技術に係り、特に光応答
センサのような種々の測光手段より得られる色に関する
情報値を、照明光源の変動による影響が取り除かれた情
報値に調整することのできるようにするカラーバランス
調整装置および調整方法に関するものである。
【0002】
【従来の技術】人の視覚によって促えられる色感覚に対
して、カラー映像等の呈する色あいは隔たりがあること
が多い。例えば、白昼の戸外で見る白い紙と、室内での
照明下で見る上述の白い紙、そして、同じ白い紙を夕日
のもとで見る場合とで、人の目には同じ白に見えるが、
カラービデオカメラの映像は白昼の戸外での色にホワイ
トバランスを設定すれば、室内での照明下では黄色味の
かかった(白熱球)、あるいは青味かかった(蛍光灯)
白に見え、夕日のもとでは赤味かかった白に見える。こ
れでは視覚的に不自然である。
【0003】そこで、カラー画像のカラーバランスを調
整する必要が生じる。従来から、例えばカラービデオカ
メラ等に用いられるカラー画像のカラーバランスを調整
する方法としては、いくつかあった。
【0004】一つは、色温度を外部センサで測光し、そ
こから得られる色温度によって、赤・青・緑の信号の調
整量を求め、カラーバランスを調整するようにするもの
である。
【0005】また、他の一つは、画面全体を平均すれば
無彩色を示す値となる場合が多いと仮定し、平均値が上
記無彩色を示す値となるように、カラーバランスを調整
するようにするものである。
【0006】しかしながら、カメラなどのような、対象
物から反射される光のスペクトル組成に忠実なセンシン
グデバイスを用いた場合、このような調整をしたとして
も、夕日の下での適正値に調整すれば、蛍光灯の下では
一層青色に偏ってしまい、蛍光灯の下での適正値に調整
すれば、夕日の下や白昼の下での色あいが全く別のもの
になってしまう。
【0007】すなわち、カメラなどのセンシングデバイ
スからの入力信号は、照明光源の変動による影響で本来
人間が見る色と異なった色あいの画像を出力していた。
さらに云えば、上記方式では、被写体を照明している照
明光と、測光している部分に照射されている光とが異な
る場合、例えば薄暗い室内から明るい屋外を撮影したよ
うな場合には、薄暗い室内の照明光でのカラーバランス
に調整されてしまう。そのため、照明光が変わる毎にカ
ラーバンランスの調整をしなければならず、また、せっ
かくこのような調整をしても、薄暗い室内から明るい屋
外を撮影したような場合には調整が全く用を成さないと
云ったこともある。
【0008】
【発明が解決しようとする課題】このように、対象物か
ら反射される光のスペクトル組成に忠実な例えば、カラ
ーテレビカメラなどのようなセンシングデバイスを用い
た場合、例えば、夕日の下では対象物の色が赤に偏り、
蛍光灯の下では青色に偏ってしまう。すなわち、カメラ
などのセンシングデバイスは照明光源の反射光を捕らえ
るために、照明光の持つ波長成分の影響を受ける。
【0009】従って、上述のようなセンシングデバイス
からのカラー映像信号は、照明光源の変動による影響で
本来人間が見る色と異なった色あいの画像を出力してい
た。そして、そのために、照明光の条件が変われば、そ
の都度、カラーバランスの調整をし直す必要があり、ま
た、上記方式では、被写体を照明している照明光と、測
光している部分に照射されている光とが異なる場合、例
えば薄暗い室内から明るい屋外を撮影したような場合に
は、せっかくカラーバランス調整しても薄暗い室内の照
明光でのカラーバランスに調整されてしまい、得られる
画像の色あいは非常に不自然な調整になると云う問題が
あった。
【0010】そこで、この発明の目的とするところは、
照明光に関係なく、人間が対象物を見るときと同じ色あ
いでカラー像を再現できるようにしたカラーバランス調
整装置および調整方法を提供することにある。
【0011】
【課題を解決するための手段】上記の目的を達成するた
めに、本発明はつぎのようにした。すなわち、被写体を
光学的に読取り、被写体画像の色情報を色成分別に分解
して抽出することにより色に関する情報値を得るセンシ
ング手段により、任意の照明光源下での被写体の呈する
色に関する情報値を得て、これを色恒常性を保持した情
報値に変換する場合に、白色光を照明光とした場合の被
写体からの色成分別表面反射率を複数種の標準色見本の
色成分別反射率から得た反射率基底関数と、白色光の照
射条件変化に基づく照明光のスペクトル組成の変化を表
わした照明光スペクトル基底関数をそれぞれ複数種用意
し、被写体を照明する照明光を白色光として仮定した場
合の擬似照明光スペクトル組成をこれらの照明光スペク
トル基底関数の和により求め、また、色成分別の被写体
表面反射率は上記センシング手段からの情報値と推定表
面反射率基底関数と照明光スペクトル基底関数の和と被
写体表面反射率係数より決めると共に、対象物表面反射
率係数はコントラスト値に変換した上記被写体画像のエ
ッジ領域のコントラスト値および局所的平均値の情報に
基づいて推定し、エッジ領域内部の反射率係数はエッジ
領域の情報をもとに充填し、被写体表面反射率係数はそ
の平均値がグレーとなるように色成分別に推定して、こ
の推定した色成分別の被写体表面反射率係数によりセン
サからの応答量に基づく色情報を補正し、補正済み色情
報を得るようにする。
【0012】
【作用】このように、被写体の表面反射率の平均値がグ
レーになると云うグレイワールド仮定に関する制約から
なる色恒常性理論を利用し、また、照明光は白色光の主
要なスペクトル基底関数に近似されることを利用して照
明光は白色光として扱い、被写体表面反射率係数はセン
シング手段(センサ)からの応答量と推定表面反射率基
底関数と照明光スペクトル基底関数の和と被写体表面反
射率係数より決めるようにし、被写体の表面反射率の平
均値がグレーになるように各色別の被写体表面反射率係
数を調整することにより、各色別の被写体表面反射率係
数を得、センサからの応答量に基づく色情報を当該被写
体表面反射率係数で補正して出力するようにしたから、
照明光が変化しても色恒常性を保持した色情報を得るこ
とができ、従って、色恒常性を維持した画像の再現を可
能にする。
【0013】従って本発明によれば、任意の照明光源下
でセンシング手段により光電的に得た被写体の色成分別
の情報値を使用して、照明光源の影響が取り除かれた情
報値に調整することができるようになり、被写体を観測
するに当たり使用される光源がどのような種類であって
も、光源の影響が取り除かれた情報値を得ることができ
るようになるものである。
【0014】具体的には、予め、昼光のスペクトル組成
に対し主成分分析を行い導き出された照明光のスペクト
ルの3つ以上の基底関数と、異なる色を呈する複数資料
の表面反射率の主成分分析を行い導き出された表面反射
率の3つ以上の基底関数と、該被写体の画像を入力する
センシング装置の既知の光特性と、照明光が白色と仮定
した場合の照明光の3つ以上の基底関数に対する照明光
係数の積によるマトリクスを作成し、該マトリクスの逆
行列と、入力センシング装置からのセンサー応答値を乗
ずることにより前記被写体に照射している光が白色であ
る場合の該被写体の反射率係数を求め、被写体に呈する
色に関する複数の情報値を入力とし、前記神経回路網の
第1の神経回路において、変化の急な画像エッジ部分以
外の緩やかな変動成分である照明光の空間変動を除去す
るとともに、エッジ付近の値を用いて領域内部の反射率
係数を推定する作用と、前記第2の神経回路において、
被写体画像の局所的な平均値を用いて、表面反射率を推
定する作用と、前記第3の神経回路において、被写体画
像の平均値が灰色(Hurlbertによるグレーワールド仮定
として記載されている;HurlbertA.C.(1989)The comput
ation of color,MITAILab.Tec.Rep.,No.1154 )になる
反射率係数を推定する作用により、被写体の表面反射率
係数を算出し、該表面反射率係数を用いて被写体固有の
性質である表面反射率を決定する。これにより、人間が
知覚する色のごとく、照明光源の変動による影響が取り
除かれた情報値に前記情報値を調整することができる。
【0015】従って本発明は、いかなる照明光に対して
も、同じ効果を得ることができ、いかなる照明条件下で
あっても、また、いかなる被写体であっても、常に同じ
状態の出力画像を得ることができるようになる。また、
本発明は、照明光源の影響が取り除かれた出力値を利用
して、異なる照明光源下での被写体の色に関する情報値
を作成することもできる。
【0016】
【実施例】以下、本発明の一実施例について、図面を参
照して説明する。この発明は、人間が対象物を見ると
き、対象物から照射される光のスペクトル組成がその時
々の条件によって大きく変化するにも関わらず、光受容
器が直面する物理情報の変化に忠実には対応せず、対象
物固有の性質つまり、表面反射率に依存して、対象物の
色はほぼ一定に見えると云う色恒常性と呼ばれる現象を
実現することにより、入力された画像から被写体撮影時
の照明光源の影響を除去して、画像の色を恒常的に好ま
しい標準光源下で撮影した場合とほぼ同等に保つことが
可能な極めて信頼性の高いカラーバランスの調整方法を
提供する。
【0017】本発明は色恒常性を再現するに当たり、ラ
ンド(Land)が発見した理論を利用する。この理論
は、知覚される色がセンサ応答量によるものではなく、
対象物からのスペクトル別表面反射率に依存すると云う
ものである。
【0018】色恒常性と云うのは、対象物から放射され
る光のスペクトル組成がそのときどきの条件によって大
きく変化するにもかかわらず、人の知覚では対象の色は
ほぼ一定に見えると云う性質である。色恒常性が再現さ
れるためには、環境に依存して変動するセンサ応答量
が、対象物固有の不変量に変換される必要がある。そこ
で知覚神経系においてランドの見出した“知覚される色
はセンサ応答量によるものではなく、対象物からのスペ
クトル別表面反射率に依存する”と云う事実を本発明は
利用する。
【0019】センサ応答量から、直接、対象物の表面反
射率関数を求めるアルゴリズムは種々提案されている
が、これらのアルゴリズムはおよそ自然界の物体の表面
反射率が少数の基底関数の重み付き和で表現される点に
着目したものであり、センサ応答量からこれら基底関数
に対する重み係数(以下、反射率係数と呼ぶ)を推定す
る方法を与えている。
【0020】しかしながら、センサ応答量のみからでは
こうした表面反射係数を一意に求めることができないた
め、入力画像に対していくつかの仮定を設ける必要が生
じる。これがライトネス(lightness)仮定と
呼ばれるものであり、中でもグレイワールド(gray
‐world)仮定は、こうした色恒常性アルゴリズム
において重要である。
【0021】ここでグレイワールド仮定と云うのは、画
面上の全ての色を混ぜ合わせた平均値がグレーになるよ
うな反射率係数を求めると、色恒常性が確保できると云
う理論であり、ヒューベルト.A.C.により1989
年に発表されている(Hurlbert A.C.(1989)The computa
tion of color,MIT AILab.Tec.Rep.,No.1154 参照)。
【0022】本発明では照明光、表面反射率関数を少数
の基底関数の和として表現することにより、色恒常性を
定式化し、エネルギ最小化処理により色恒常性を確保す
るように制御する。
【0023】(本発明の原理)はじめに本発明の原理を
説明する。人は照明光のスペクトル組成や、空間的な強
度の変動によらず、対象物固有の色を知覚する能力を有
している。このような色恒常性を実現するためには、セ
ンサ応答量から対象の表面反射率を推定する不良設定問
題を解かねばならない。ここでは画像のコントラスト
値、局所平均値のフィッテング、およびグレイワールド
に関する制約からなる色恒常性のエネルギ関数を提案
し、このエネルギを最小化することにより、対象の表面
反射率関数を推定する神経回路網モデルを提案する。
【0024】当該提案モデルは表面反射率関数の推定に
入力画像のエッジ付近の情報を用い、それ以外の領域は
これらの情報を基に充填するように働く。さらに当該提
案モデルが照明光のスペクトル組成や強度の変動を除去
し、対象の表面反射率を推定できることを示す。
【0025】はじめに、センサが反射光を捉える仮定と
色恒常性の問題を考えて見る。今、ある2次元平面をあ
る単一光源によって照射し、その反射光をセンサが捉え
る過程を考える。反射光測定対象の2次元平面である物
体表面Fが鏡面反射成分を持たない場合、上記センサに
届く上記物体表面F上の位置(x,y)からの反射光の
スペクトル組成は、当該物体表面Fを照明する照明光の
スペクトル組成E(x,y,λ)と、当該物体表面F上
の上記位置(x,y)における表面反射率関数S(x,
y,λ)との積、すなわち、E(x,y,λ)・S
(x,y,λ)で表わされる。
【0026】ここでRk (λ)なるスペクトル感度特性
を有するk種類のセンサを考え、上記物体表面Fにおけ
る上記位置(x,y)からの反射光に対するk番目のセ
ンサ応答量ρk (x,y)が次式で表わされるものとす
る。
【0027】
【数1】
【0028】ランドの理論によれば、色恒常性を実現す
るためには、スペクトル別に物体表面Fの表面反射率S
(x,y,λ)が求められれば良いわけである。そし
て、式(1)において、左辺のセンサ応答量ρk (x,
y)は既知であるから、これより右辺の表面反射率S
(x,y,λ)を求めれば良い。
【0029】すなわち、色恒常性の問題は、積分変換の
逆変換を求める逆問題として定式化できる。しかしなが
ら、一般に照明光のスペクトル組成も未知であり、式
(1)は不良設定問題となってしまう。従って、このま
までは表面反射率S(x,y,λ)を求めることができ
ない。
【0030】そこで、本発明ではまず、積分形式の表現
とした式(1)を波長軸で離散化すると共に、表面反射
率関数S(x,y,λ)、物体表面Fを照明する照明光
のスペクトル組成E(x,y,λ)を、少数の基底関数
の和で表現し、推定すべき未知のパラメータを削減する
ことにする。
【0031】そのために、有限次元線形モデルを導入す
る。表面反射率関数S(x,y,λ)を求めるには照明
光のスペクトル組成E(x,y,λ)を求める必要があ
るが、当該E(x,y,λ)はJudd等の研究成果を
利用して次のように表わす。
【0032】すなわち、Judd等は昼光のスペクトル
組成622標本に対して主成分分析を行った結果、その
平均と4つの主成分ベクトルを求め、平均ベクトルと最
初の2つの主成分ベクトルを用いれば、昼光のスペクト
ル組成変化の殆どを表わせることを示した。ここではこ
うした知見に基づき照明光のスペクトル組成E(x,
y,λ)を式(2)のように記述する。
【0033】
【数2】 ここで、εi (x,y) は係数、Ei (λ)は図1に示す如
き照明光のスペクトル組成に対するi番目の基底関数で
あり、Judd等が求めた平均ベクトルおよび第1,第
2主成分ベクトルを用いている。定性的には第1基底関
数E1 (λ)は曇り具合と直射日光の影響を表わすY‐
B(黄‐青)成分の変動、第2基底関数E2 (λ)は煙
霧質の影響を表わすR‐G(青‐緑)成分の変動を表わ
している。これで照明光のスペクトル組成E(x,y,
λ)を表わすことができた。
【0034】次に表面反射率関数S(x,y,λ)はコ
ーエン(Cohen)の研究に従い、次のように表わ
す。すなわち、物体色の表面反射率関数に対する基底関
数はコーエンにより検討されているが、最初、コーエン
は433のマンセル色票から150色票をランダムに選
び、それら色票の色の主成分ベクトルを求め、これより
分光反射率を表面反射率関数の基底関数として表現し
た。しかし、用いたデータ数が少ないことが問題とな
り、改めてマンセル色票1569色全てを用い、それぞ
れの分光反射率について色の主成分ベクトルを求めた。
【0035】その結果、第3主成分までの累積寄与率
は、98.8%となり、この求めた主成分ベクトルから
色成分別の表面反射率関数は図2に示すように、およそ
3つの基底関数S1 (λn )〜S3 (λn )で表現でき
ることを確認した。そこで、図2に示すこれら3つの基
底関数を用い、表面反射率を照明光のスペクトル組成と
同様に以下のように記述する。
【0036】
【数3】
【0037】ここで、σi (x,y,λ)は反射率係
数、Sj (λn )はj番目の表面反射率の基底関数を表
わす。図2からわかるように、第1基底関数S1 (λn
)は波長に対してほぼフラットなWh‐Bk(白‐
黒)成分を表わし、第2基底関数S2 (λn )は2相性
のR‐G成分、第3基底関数S3 (λn )はY‐B成分
を表わしている。これで被写体の表面反射率関数S
(x,y,λ)を表わすことができた。
【0038】次にこれらから有限次元線形モデルを導
く。つまり、照明光のスペクトル組成の記述式である
(2)式と表面反射率の記述式である(3)式を(1)
式に代入すれば、
【0039】
【数4】 を得ることができる。
【0040】ここで、テンソルΛi,j,k は基底関数とセ
ンサの感度特性のみに依存し、既知である。また、ΛE
j,k (x,y)は照明光のスペクトル組成に依存し、反
射率係数とセンサ応答量を関係づけるマトリクスある。
【0041】式(4)をマトリクス形式で表わせば ρ=ΛE σ …(7) ここで、 ρ=(ρ1 (x,y) ,ρ2 (x,y) ,ρ3 (x,y) )t , …(8) σ=(σ1 (x,y) ,σ2 (x,y) ,σ3 (x,y) )t , …(9)
【0042】
【数5】
【0043】以上、色恒常性問題は左辺のセンサ応答量
ρから、右辺の色成分別の反射率係数ベクトルσを求め
る逆問題として定式化された。そして、物体表面Fを照
明する照明光のスペクトル組成E(x,y,λ)は未知
数ではあるものの、擬似的に白色光としてあるので、求
める未知数は白物体表面Fの表面反射率関数S(x,
y,λ)であり、マトリクスΛE は当該照明光のスペク
トル組成に依存するので、本質的には2種の未知数を抱
えているものの、これはエネルギ最小化により解くこと
が可能である。
【0044】次にこの不良設定問題を、照明光を擬似的
に白色光としてあるための誤差をエネルギ最小化により
最小限にして解くアルゴリズムについて述べる。 本発明で用いた色恒常性の計算理論 この発明で使用する色恒常性の計算理論の基本的考え方
は次の4つである。すなわち、 1.知覚色は与えられた色成分別のセンサ応答量ρから
推定した対象の色成分別表面反射率係数により決まる 2.各色成分別の上記反射率係数は、入力画像のエッジ
領域のコントラスト値および局所的な平均値の情報に基
づいて推定され、エッジ領域内部の反射率係数は、エッ
ジ領域に情報を基に充填される 3.各色成分別の上記反射率係数は、それらを合わせた
平均値がグレー(灰色)となるように推定される(グレ
イワールド仮定) 4.各色成分別の反射率係数は、照明光が白色に近いも
のとして推定される の4点である。これらのうち、上記1.は色恒常性が対
象物の表面反射率を推定した結果であると云う基本仮定
である。また、上記2.は視覚神経系の空間微分特性お
よび充填過程の存在を仮定したものであり、反射率推定
には入力画像のコントラスト値の高い領域の情報だけを
用いる。また、3.および4.はライトネス(ligh
tness)仮定であり、これにより入力画像の平均的
な特性および照明光と云う外界の事前知識を導入してい
る。
【0045】色恒常性のエネルギ関数J 上述の考え方に基づいてデ−タフィッテングと外界の物
理的制約に関する色恒常性のエネルギ関数J、すなわ
ち、被写体(物体表面F)の表面反射率係数を決定する
ためのエネルギ関数Jとして次式を提案する。
【0046】 J=JC +λ1D +λ2G …(11) 但し、(11)式中、λ1 ,λ2 は係数であり、また、
C ,JD ,JG は次のように表わされる。
【0047】
【数6】
【0048】
【数7】
【0049】
【数8】 ここでT(x)は閾値関数であって、xが閾値より大き
いときは値として“x”をとり、xがそれ以外のときは
値として“0”をとる。つまり
【0050】
【数9】 また、
【0051】
【数10】 なお、式(12)〜式(14)において、
【0052】
【数11】 である。ところで上述のエネルギ関数Jの式における第
1項目のJC は、入力画像のコントラスト値と、推定し
た反射率係数のコントラスト値が近づくことを要請する
項である。コントラスト値を求めるために本アルゴリズ
ムではラプラシアン操作
【0053】
【数12】 と閾値操作(T)を用いている。これは、変化の急なエ
ッジ部分以外の穏やかな変動成分である照明光の空間変
動を除去する効果(文献 Horn, B.K.P (1974) Determi
ng lightness from an image, In: Computer Graphics
and Image Processing,Vol.3,Academic Press, pp.277-
299 参照)と共に、同時対比効果を導入したことにな
る。
【0054】エネルギ関数Jの式における第2項目であ
るJD は、局所平均値のフィッテング項である。この局
所平均値のフィッテング項JD は、センサ応答量ρのコ
ントラスト値がある程度大きいところでは、ゲート関数
G(x)の値が“1”となり、入力画像の局所平均値と
推定反射率の間でデータフィッテングが行われるが、コ
ントラスト値が小さいところではゲート関数G(x)の
値が“0”となってフィッテングが行われないことを表
わしている。なお、ここでは入力画像をガウスフィルタ
リングしたものを局所平均値として用いた。
【0055】これらコントラスト値および局所平均値は
入力である推定応答量からでなく、対象物(被写体)に
照射している光が白色に近いと仮定した場合の擬似的な
反射率係数
【0056】
【数13】 から計算される。すなわち、白色光分光分布を
【0057】
【数14】 と表わしたときの係数εwhite を用いて
【0058】
【数15】 を計算し、このマトリクスの逆行列を用いることによ
り、照明光を白色と仮定した場合の擬似反射係数σj
(x,y) white を次式より求めることができる。
【0059】
【数16】
【0060】この擬似反射係数σj (x,y) white に対
し、データフィッテングを行うことで、入力画像と推定
値の矛盾を小さくすると同時に、「照明光が白色に近
い」とする事前知識を考慮したものとすることができ
る。
【0061】また擬似反射係数σj (x,y) white を求め
る過程は、図2に示した色成分別の基底関数の形状から
もわかるように、基本的には反対色生成機構に対応する
ものとなっている。なお、コントラスト値からの反射率
係数の再構成には逆ラプラシアン操作(L-1)を用い
る。逆ラプラシアンはガウス‐ザイデル(Gauss-Seida
l)法により行う。これはコントラスト画像(ビデオカ
メラなどのような入力センシング装置からの色成分別画
像データ(センサ応答値)を乗ずることにより、前記被
写体に照射している光が白色である場合の該被写体の色
成分別反射率係数を求め、この反射率係数に対してラプ
ラシアン操作及び閾値操作を施して得られたコントラス
ト画像)のエッジ付近の値を用いて領域内部の色成分別
反射率を推定するもので、充填過程に対応する。
【0062】また、エネルギ関数Jの式における第3項
目であるJG は外界の物理的制約に関する項である。当
該外界の物理的制約に関する項JG はグレイワールド仮
定に基づき、照明光を白色と仮定した場合の被写体の色
成分別推定反射率の全てを合わせた平均値が灰色に近付
くようにすることを要請するものである。
【0063】以上で色恒常性のエネルギ関数Jが定義で
きた。このエネルギ関数Jに関する式をエネルギ最小化
により解くための色恒常性の神経回路網モデルを考えて
見る。
【0064】ここでは前述のエネルギ関数Jを最小化す
るようにその出力を変化させるための神経回路モデルを
提案する。すなわち、ここで必要な神経回路の動作は
【0065】
【数17】 により与えられる。(12)〜(14)式について、照
射光が白色に近いと仮定した場合の擬似的な反射率係数
σ^j (x,y) white [前述の数13] に関する最急
降下方向を求めれば、
【0066】
【数18】
【0067】
【数19】
【0068】
【数20】 なお、
【0069】
【数21】
【0070】
【数22】 となる。なお、errorcontrastは誤差であり、入力
データであるコントラスト値(被写体の疑似反射率σj
(x,y) white に対してラプラシアン操作と閾値操作
(T)を行って得たコントラスト値)に対して、当該コ
ントラスト値を逆ラプラシアン操作し、これをさらにラ
プラシアン操作したものとの差を示し、errorLDC
は誤差であって、σLDC と対象物(被写体)に照射して
いる光が白色に近いと仮定した場合の擬似的な反射率係
数との差を示し、また、σLDC は被写体の局所平均値を
示す。
【0071】次にこのような計算を行うための神経回路
モデルを実現するための構造について、考察する。まず
式(21)に示すように
【0072】
【数23】 は照射光が白色であると仮定した場合の擬似推定値σj
(x,y) white に対し、ラプラシアン操作および閾値操作
を適用した値と、推定反射率係数
【0073】
【数24】 に対し、ラプラシアン操作のみを適用した値との誤差e
rrorcontrastを計算し、それを初期推定値に加えれ
ば良く、神経回路網(ニューロン)の形で書けば、誤差
をフィードバック結合をモデルに持たせる図3(a)の
ような構造とすれば良いことがわかる。また、式(2
2)に示すように
【0074】
【数25】 は局所平均値を伝送するニューロンの出力を、コントラ
スト値
【0075】
【数26】 を計算するニューロンでゲートする形にすれば良く、図
3(b)のような結合となる。一方、式(23)に示す
ように
【0076】
【数27】 は推定反射率係数と全ての推定値の平均値の誤差を計算
すれば良く、この場合、図3(c)のような側抑制結合
により計算が可能である。
【0077】こうしたモデル全体を神経回路の形で書き
直したものを図4に示す。この図に従ってモデルの動作
を説明する。まず、画像が入力された場合(Input) 、こ
の入力画像データについて反射率係数の擬似推定値であ
る照明光が白色あると仮定した場合のσj (x,y) white
が計算され、aプレーン(a-plane) にセットされる。そ
して、aプレーン(a-plane)にセットされたデータに対
してラプラシアン操作と閾値操作によって緩やかな照明
光空間強度変化が取り除かれ、bプレーン(b-plane) お
よびcプレーン(c-plane) にセットされる。さらに逆ラ
プラシアン操作によってbプレーンにおいて領域内部が
充填される。これと同時に逆方向結合によって推定値の
コントラスト値
【0078】
【数28】 が戻され、aプレーンから出力されるコントラスト値
【0079】
【数29】 と比較されて誤差が計算され、再び逆ラプラシアン操作
が適用され、dプレーン(d-plane) の初期推定値に加え
られる。
【0080】また、エッジ領域については、cプレーン
に表現されている局所平均値とbプレーンの間の誤差が
求められ、それが推定値に加えられる。さらに側抑制結
合に従ってグレイワールドを満たすように操作される。
なお、それぞれのプレーンは解剖学的には錐体視細胞、
網膜2次ニューロン、視覚大脳皮質下位中枢、上位中枢
に対応し、生理学的あるいは心理学的には三原色応答、
二重対立型受容野、充填過程に対応する。
【0081】(カラーバランス調整装置としての実施
例)次にこのような原理を用いた本発明によるカラーバ
ランス調整装置の実施例を説明する。
【0082】上述したように本発明においては、任意の
照明光源下での被写体の呈する色に関する複数の情報値
から、表面反射率を規定する色成分別の3つ以上の基底
関数に乗ずる被写体の表面反射率係数を決定することに
より、被写体の色成分別表面反射率を推定し、これを用
いて被写体の色成分別の情報値を補正することにより、
照明光源の変動による影響が取り除かれた情報値に前記
情報値を調整するようにする。
【0083】この場合に、昼光のスペクトル組成に対し
主成分分析を行い導き出した照明光のスペクトルの少な
くとも3つ以上の基底関数(照明光スペクトル基底関
数)と、マンセル色票などの異なる色を呈する複数資料
の表面反射率の主成分分析を行い導き出した色成分別表
面反射率の少なくとも3つ以上の基底関数(色成分別表
面反射率基底関数)と、被写体の画像を入力するセンシ
ング装置の既知の光特性情報と、照明光が白色と仮定し
た場合の照明光のスペクトルの少なくとも3つ以上の基
底関数に対する照明光係数と、ビデオカメラ等の入力セ
ンシング装置からのセンサ応答値である複数の情報値と
を用い、照射している光が白色である場合の該被写体の
色成分別の反射率係数を求め、この求めた反射率係数に
対してエッジ強調をする操作を施し得られた第1のコン
トラスト画像と、被写体の推定反射率係数に対してエッ
ジ強調をする操作を施し得られた第2のコントラスト画
像との差を上記被写体の推定反射率係数を調整すること
で小さくする誤差フィードバック結合を有する第1の神
経回路と、照明光が白色である場合の前記色成分別反射
率係数に対してフィルタリング操作を施し得られた反射
率係数の局所的な平均値と、被写体の色成分別推定反射
率の差を選択的に小さくするゲートを有する第2の神経
回路と標準灰色の反射率係数と、前記推定反射率係数の
平均との差を小さくする側抑制結合を有する第3の神経
回路を用いて構成する。
【0084】このような3つの神経回路の結合より構成
した神経回路網は、予め、昼光のスペクトル組成に対し
主成分分析を行い導き出された照明光のスペクトルの3
つ以上の基底関数と、異なる色を呈する複数資料の表面
反射率の主成分分析を行い導き出された色成分別表面反
射率の3つ以上の基底関数と、該被写体の画像を入力す
るセンシング装置の既知の光特性と、照明光が白色と仮
定した場合の照明光の色成分別の3つ以上の基底関数に
対する照明光係数の積によるマトリクスを作成し、該マ
トリクスの逆行列と、入力センシング装置からのセンサ
応答値を乗ずることにより前記被写体に照射している光
が白色である場合の該被写体の色成分別反射率係数を求
め、被写体の呈する色に関する複数の情報値に対して、
前記神経回路網の第1の神経回路において、変化の急な
部分である画像エッジ部分以外の緩やかな変動成分であ
る照明光の空間変動を除去するとともに、エッジ付近の
値を用いて領域内部の色成分別反射率係数を推定し、ま
た、前記第2の神経回路において、被写体画像の局所的
な平均値を用いて、表面反射率を推定し、前記第3の神
経回路において、被写体画像の平均値が灰色になる(ヒ
ューベルト(Hurlbert)によるグレーワールド(gray-w
orld)仮定として記載されている。;HurlbertA.C.(198
9)The computation of color,MIT AILab.Tec.Rep.,No.1
154 参照)反射率係数を推定することにより、被写体の
色成分別表面反射率係数を算出し、該表面反射率係数を
用いて被写体固有の性質である色成分別表面反射率を決
定して上記情報値を補正することにより、人間が知覚す
る色のごとく、照明光源の変動による影響が取り除かれ
た情報値に前記情報値を調整する。
【0085】前記第1の神経回路の処理は数6に示す式
(12)で表現され、図5に示す誤差フィードバック結
合を有する神経回路10で表現される。式(12)は、
照明光が白色である場合の被写体の疑似反射率σj (x,
y) white に対し、ラプラシアン操作と閾値操作(T)
を行って得たコントラスト値と、推定した反射率係数
(反射率係数推定値)である数13に対し、ラプラシア
ン操作と閾値操作(T)を行って得たコントラスト値と
が近付くことを要請する項であり、これは変化の急なエ
ッジ部分以外の緩やかな変動成分である照明光の空間変
動を除去する効果をもたらす。
【0086】当該式(12)の処理を実現するために該
第1の神経回路10は、加算部11、逆ラプラシアン操
作部12、ラプラシアン操作部13とより構成する。そ
して、入力データであるコントラスト値(被写体の疑似
反射率σj (x,y) white に対してラプラシアン操作と閾
値操作(T)を行って得たコントラスト値)に対して加
算部11ではラプラシアン操作部13の出力とを入力と
して両者の差をとり、これを誤差errorcontrast
して逆ラプラシアン操作部12に与え、誤差error
contrastに対して逆ラプラシアン操作を行い、画素位置
毎の色成分別反射率係数推定値を得る。
【0087】得られた反射率係数推定値は、ラプラシア
ン操作部13にも与えてラプラシアン操作させ、加算部
11にフィードバックさせる。このフィードバックによ
る処理はerrorcontrastが、予め設定した値に収ま
るようになることをメドに、これが小さくなるように行
われる。値が収斂した段階で逆ラプラシアン操作部12
の最終結果とする。
【0088】第1の神経回路10の出力としては、この
最終結果について1画面分を集計したのものをJC とす
るので、最終段には集計演算部14を設ける。そして、
集計演算部14の出力がbプレーン(b-plane )のデー
タとなる。
【0089】ここで、式(12)においてT(X) は、X
が閾値より大きい場合“X”、それ以外の場合“0”と
なる閾値関数である。また、逆ラプラシアン操作L
-1(=(ラプラシアン操作)-1)は、前記エッジ強調操
作の逆を行う操作であって、コントラスト値から反射率
係数の再構成を行うもので、本実施例ではガウス‐ザイ
デル(Gauss‐Seidal)法を用いている。
【0090】次に前記第2の神経回路20の処理は数7
に示す式(13)で示され、図6に符号20を付して示
すように、ゲートGを有する神経回路で表現できる。数
7の式は照明光が白色である場合の被写体の疑似反射率
推定値σj (x,y) white に対し、ラプラシアン操作(▽
2 )と閾値操作(T)を行い,これにより得たコントラ
スト値が、ある程度大きいところでは、ゲート関数G
(x) の値が“1”となり、被写体の局所平均値σj (x,
y) LDC と推定反射率数推定値
【0091】
【数30】 の差を小さくするように数30に示す当該推定反射率数
推定値の調整が行われるが、コントラスト値が小さいと
ころではゲート関数G(x) の値が“0”となって調整が
行われないようにすることを表している。
【0092】該第2の神経回路20においては、このよ
うな処理を行うために、ゲート21、加算部22、乗算
部23、集計演算部24が設けてあり、第1の神経回路
10からの入力データであるコントラスト値(被写体の
疑似反射率σj (x,y) whiteに対してラプラシアン操作
と閾値操作(T)を行って得たコントラスト値で、逆ラ
プラシアン操作部12の出力)に対してゲート21では
その大きさにより“1”または“0”のゲート信号をつ
くり、乗算部23に与える。
【0093】また、一方、被写体の局所平均値σj (x,
y) LDC を入力として上記第1の神経回路10における
逆ラプラシアン操作部12からの出力信号との差を取る
加算部22の出力を乗算部23に与え、ゲート信号に応
じて当該差信号を抽出するようにし、これを集計演算部
24により1画面分、加算してJD として取出す。そし
て、これがcプレーン(c-plane) のデータとなる。
【0094】式(13)において、G(X) は、Xが閾値
より大きい場合“1”、それ以外は“0”となるゲート
関数であり、また、被写体の局所平均値σj (x,y) LDC
は、σj (x,y) white の式の局所的な平均値であり、本
実施例では被写体をガウスフィルタリングしたものを局
所平均値とした。
【0095】また、図7は前記第3の神経回路30の機
能ブロック図であり、側抑制結合を有する神経回路を用
いて構成されていて、処理機能は数8の式(14)で表
現されたものである。該第3の神経回路30において、
表面反射率の平均値がグレー(灰色)になると云うグレ
イワールド仮定に基づき、推定反射率の平均値を標準灰
色反射率σj grayに近付けることを要請する項である。
【0096】画像の色成分別の反射率係数推定値31全
てについて、平均値演算部32により平均値を取り、得
られた反射率係数推定値の平均値から標準灰色の反射率
係数σj grayとの差を取る。標準灰色の反射率係数σj
grayは別途演算されて入力され、加算部33によりこれ
と平均値演算部32の出力とから両者の差を求める。こ
れを集計演算部34により、1画面分のデータについて
の和を得、これを第3の神経回路30の出力であるJG
として出力する。これがdプレーン(d-plane)での処理
である。
【0097】図8は、カラービデオカメラ等のセンシン
グデバイスより得た被写体画像のデータから推定反射率
画像のデータを得るための神経回路網の機能ブロック図
であり、前記第1〜第3の3つの神経回路10,20,
30の結合により構成される神経回路網である。
【0098】上述のようにして求めたJC ,JD ,JG
について、JC +λ1 JD +λ2 JG なる計算を行い、
その答えであるエネルギ関数Jが最小になる推定表面反
射率係数を求める。
【0099】なお、該神経回路網の出力を最小とする被
写体の表面反射率係数を決定するためのエネルギ関数J
は、J=JC +λ1JD +λ2JG としたが、これに限
るものではない。
【0100】前述のエネルギ関数Jを最小化する神経回
路網の動作は、数17の式(20)により与えられる。
C ,JD ,JG についてσj (x,y) LDC (被写体の局
所平均値)に関する最急降下方向を求める式は、数18
の式(21)、数19の式(22)、数20の式(2
3)のようになる。
【0101】なお、数18の式(21)におけるerr
orcontrastは数21の式(24)、 数19の式(2
2)の式におけるerrorLDC は数22の式(25)
となる。
【0102】図10を参照して、本発明のカラーバラン
ス調整のための神経回路網の動作をさらに説明する。図
において、1は光源、2a〜2cは測光部、3は調整
部、4はメモリ部、5は制御部、6は会話型入力部、7
は表示部である。
【0103】測光部2a〜2cは被写体Pの色の情報値
を測定するもので、例えば分光測光器を用いており、被
写体Pを測光して色分解し、色の絶対値情報であるLM
S値やXYZ値に変換して情報値として出力するもので
あるが、カラービデオカメラ等を用いて被写体P像を撮
像し、rgb値として出力するものであっても良い。調
整部3は測光部2a〜2cからの出力値(情報値)に対
して、図4で説明した原理で反射率係数に変換し、照明
光のスペクトル変動による影響が取り除かれたカラー出
力画像を得るものである。
【0104】調整部3は用いる色成分別にaプレーン
(a-plane )、bプレーン(b-plane)、cプレーン(c
-plane )、dプレーン(d-plane )の4種のプレーン
のデータを保持することができ、光センシング手段2a
〜2cより入力された色成分別の画像データをもとに、
調整部3はこの入力画像データについて反射率係数の擬
似推定値である照明光が白色あると仮定した場合のσj
(x,y) white を計算し、aプレーン(a-plane) にセット
する。そして、aプレーン(a-plane) にセットしたデー
タに対してラプラシアン操作と閾値操作を行って緩やか
な照明光空間強度変化を取り除き、bプレーン(b-plan
e) およびcプレーン(c-plane) にセットする。
【0105】さらに逆ラプラシアン操作によってbプレ
ーン(b-plane) において領域内部を充填すると同時に逆
方向結合によって推定値のコントラスト値(数28)が
戻され、aプレーン(a-plane) から得られるコントラス
ト値(数29)と比較して誤差を計算し、再び逆ラプラ
シアン操作を行ってdプレーン(d-plane) に加えると云
った処理を行う。
【0106】調整部3はまた、エッジ領域について、c
プレーン(c-plane) に表現されている局所平均値とbプ
レーン(b-plane) の間の誤差を求め、それがcプレーン
(c-plane) 上の推定値に加える。さらにdプレーン(d-p
lane) 上で側抑制結合に従ってグレイワールドを満たす
ように操作し、これによって照明光のスペクトル変動に
よる影響が取り除かれた出力画像を得る。
【0107】制御部5は制御の中枢を担うものであっ
て、カラーバランス調整装置1の各構成要素の必要な制
御や、演算処理実行の中枢を担うものであり、例えば、
マイクロプロセッサを用いてソフトウェアにより、各種
制御や演算処理を実現している。また、制御部5は調整
部3で調整された色彩値信号を、この出力端子に接続さ
れている表示部7に出力すると云った機能をも有する。
【0108】なお、制御部3に接続されたメモリ部4
は、推定反射率を保存すると共に神経回路網の各パラメ
ータを記載するもので、カラーバランス調整時にこれを
読み出して利用する機能を制御部5に持たせてある。
【0109】会話型の入力部6は、例えば、キーボード
やマウス等のマンマシンインタフェイスで構成されてお
り、コマンドやメニューに対する指示、データの入力、
編集操作等を可能にする。入力部6の操作情報は制御部
5に入力される。表示部7は制御部5により制御されて
各種表示を行うものである。
【0110】このような構成において、被写体の像を光
センシング手段2a〜2cより検出して調整部3に入力
すると、調整部3はこの入力された色成分別の画像デー
タをもとに、図4、図9に示すような処理を行って照明
光のスペクトル変動による影響が取り除かれた出力画像
を得る。
【0111】すなわち、調整部3はこの入力された色成
分別の画像データをもとに、照射光が白色であると仮定
した場合の擬似推定値σj (x,y) white を求めてaプレ
ーン(a-plane )に格納する。
【0112】そして、つぎに調整部3はaプレーン(a-p
lane) にセットしたデータに対してラプラシアン操作と
閾値操作を行って緩やかな照明光空間強度変化を取り除
き、bプレーン(b-plane) およびcプレーン(c-plane)
にセットする。そして、さらに逆ラプラシアン操作によ
ってbプレーン(b-plane) において領域内部を充填する
と同時に逆方向結合によって推定値のコントラスト値
(数28)を戻し、aプレーン(a-plane) から得られる
コントラスト値(数29)と比較して誤差を計算し、再
び逆ラプラシアン操作を行ってdプレーン(d-plane) に
加える。さらに調整部3は、エッジ領域について、cプ
レーン(c-plane) に表現されている局所平均値とbプレ
ーン(b-plane) の間の誤差を求め、それがcプレーン(c
-plane) 上の推定値に加える。さらにdプレーン(d-pla
ne) 上で側抑制結合に従ってグレイワールドを満たすよ
うに操作し、これによって照明光のスペクトル変動によ
る影響が取り除かれた出力画像を得る。
【0113】制御部5はこの出力画像を表示部7に与
え、カラー画像として再現させる。このカラー画像は照
明光の変化やセンシング手段の特性に係わりなく、色恒
常性を持たせるように補正されたカラー画像であるか
ら、人の目に写る色と同じ色合いのカラー画像となる。
【0114】すなわち、当該実施例で調整部3に用いて
いる神経回路網モデルは、画像のコントラスト値、局所
的な平均値のフィッティング及び、被写体の表面反射率
の平均値がグレーになると云うグレイワールド仮定に関
する制約からなる色恒常性のエネルギ関数値を最小化す
るようにその出力を変化させ、被写体Pの色成分別表面
反射率を推定する。
【0115】これらのうち、測光部2a〜2cは被写体
Pのカラー画像情報を読み込み、それぞれ色に関する情
報値例えば、XYZ値、rgb値、LMS値のような色
に関する情報値の組み合わせに変換するものである。測
光部2a〜2cとしては光センシング手段を使用してい
る。
【0116】ここで光センシング手段とは、色を数値で
表示するための手段であり、物体からの反射光や透過光
の強さを光電的原理を利用して計測するものであって、
計測した値を所定の演算方法で計算して3つの数値を1
組にした色の情報値で表示する。
【0117】上記調整部3は、既に詳細を説明した如き
神経回路網を使用している。そして、上記神経回路網と
しては、測光部2a〜2cからの色の情報値のエネルギ
関数Jを最小化するため、被写体Pのコントラスト値と
推定した反射率のコントラスト値が近付くよう誤差フィ
ードバック結合及び、被写体の局所的な平均値と推定し
た反射率の選択的なフィッティングを行うようゲートG
及び、推定反射率と全ての推定値の平均値の誤差を小さ
くするよう側抑制結合を持つ神経回路網を用いている。
そして、当該神経回路網モデルは画像のコントラスト
値、局所的な平均値のフィッティング及び、被写体の表
面反射率の平均値がグレーになると云うグレイワールド
仮定に関する制約からなる色恒常性のエネルギ関数値を
最小化するようにその出力を変化させ、被写体Pの表面
反射率関数を推定するモデルであり、最急降下法などを
用いて出力する。
【0118】従って、このような構成の本装置は、被写
体Pを測光部2a〜2cで測光し、得られた情報値(L
MS値、勿論、XYZ値、rgb値でも良い)を調整部
3に入力すると、調整部3では測光部2a〜2cからの
色の情報値に対して、そのエネルギ関数Jを最小化する
ため、被写体Pのコントラスト値と推定した反射率のコ
ントラスト値が近付くよう誤差フィードバック結合及
び、被写体の局所的な平均値と推定した反射率の選択的
なフィッティングを行うようゲートG及び、推定反射率
と全ての推定値の平均値の誤差を小さくするよう側抑制
結合を持つ神経回路網を用いている。そして、当該神経
回路網モデルは画像のコントラスト値、局所的な平均値
のフィッティング及び、被写体の表面反射率の平均値が
グレーになると云うグレイワールド仮定に関する制約か
らなる色恒常性のエネルギ関数値を最小化するようにそ
の出力を変化させ、当該エネルギ関数値を最小とするよ
うな、被写体Pの色成分別表面反射率係数を推定する。
【0119】そして、求めた色成分別の推定表面反射率
係数による画像(推定表面反射率画像)を得てこれを測
光部2a〜2cからの色の情報値に対する補正に利用
し、補正により得られた情報値による画像を最終出力画
像として表示部7に表示する。
【0120】以上のように本発明は、白色光を照明光と
した場合の被写体からの色成分別表面反射率を複数種の
標準色見本の色成分別反射率から得た反射率基底関数
と、白色光の照射条件変化に基づく照明光のスペクトル
組成の変化を表わした照明光スペクトル基底関数をそれ
ぞれ3つずつ用意し、被写体を照明する照明光を白色光
として仮定した場合の擬似照明光スペクトル組成をこれ
らの照明光スペクトル基底関数の和により求め、また、
色成分別の被写体表面反射率は被写体の色情報を色成分
別に分解して抽出するセンサからの応答量と推定表面反
射率基底関数と照明光スペクトル基底関数の和と被写体
表面反射率係数より決めると共に、対象物表面反射率係
数はコントラスト値に変換した入力画像のエッジ領域の
コントラスト値および局所的平均値の情報に基づいて推
定し、エッジ領域内部の反射率係数はエッジ領域の情報
をもとに充填し、被写体表面反射率係数はその平均値が
グレーとなるように色成分別に推定して、この推定した
色成分別の被写体表面反射率係数によりセンサからの応
答量に基づく色情報を補正し、補正済み色情報を得るよ
うにした。
【0121】このように、被写体の表面反射率の平均値
がグレーになると云うグレイワールド仮定に関する制約
からなる色恒常性理論を利用し、また、照明光は白色光
の主要なスペクトル基底関数に近似されることを利用し
て照明光は白色光として扱い、被写体表面反射率係数は
センサからの応答量と推定表面反射率基底関数と照明光
スペクトル基底関数の和と被写体表面反射率係数より決
めるようにし、被写体の表面反射率の平均値がグレーに
なるように各色別の被写体表面反射率係数を調整するこ
とにより、各色別の被写体表面反射率係数を得、センサ
からの応答量に基づく色情報を当該被写体表面反射率係
数で補正して出力するようにしたから、照明光が変化し
ても色恒常性を保持した色情報を得ることができ、従っ
て、色恒常性を維持した画像の再現を可能にする。
【0122】従って本装置は、任意の照明光源下での被
写体Pに対する光応答装置による検出情報値を使用し
て、照明光源の変動による影響を取り除かれた情報値に
調整することができるようになり(信号適合処理)、被
写体のを照明する光源がどのような種類であっても、光
源の影響が取り除かれた情報値を得ることができるよう
になるものである。なお、本発明は上述した実施例に限
定することなく、その要旨を変更しない範囲内で適宜変
形して実施し得るものである。
【0123】
【発明の効果】以上詳述したように、本発明によれば、
測光手段から入力された画像に関係なく、入力された画
像から被写体撮影時の照明光源の影響を除去して、画像
の色を恒常的に好ましい標準光源下で撮影した場合とほ
ぼ同等に保つことが可能な極めて信頼性の高いカラーバ
ランスの調整装置および調整方法を提供することができ
る。
【図面の簡単な説明】
【図1】本発明の実施例を説明するための図であって、
照明光のスペクトル組成に対する基底関数を示す図。
【図2】本発明の実施例を説明するための図であって、
マンセル色票1569色全てを用い、それぞれの分光反
射率について色の主成分ベクトルを求めて得た色成分別
の表面反射率関数の基底関数を示す図。
【図3】本発明の実施例を説明するための図であって、
本発明に使用する処理機能を神経回路網(ニューロン)
の形で表わした図。
【図4】本発明の実施例を説明するための図であって、
本発明に使用するモデル全体を神経回路の形で表わした
図。
【図5】本発明の実施例を説明するための図であって、
式(12)で表現される第1の神経回路の構成例を示す
ブロック図。
【図6】本発明の実施例を説明するための図であって、
式(13)で表現される第2の神経回路の構成例を、第
1の神経回路の構成例との関連付けて示すブロック図。
【図7】本発明の実施例を説明するための図であって、
式(14)で表現される第3の神経回路の構成例を示す
ブロック図。
【図8】本発明の実施例を説明するための図であって、
センシングデバイスより得た被写体画像のデータから推
定反射率画像のデータを得るための神経回路網の機能ブ
ロック図。
【図9】本発明の実施例を説明するための図であって、
カラーバランス調整装置に適用した場合の構成を示すブ
ロック図。
【符号の説明】
1…カラーバランス調整部 2a〜2c…測光部 3…調整部 4…メモリ部 5…制御部 6…会話型入力部 7…表示部 11…被写体 10…第1の神経回路 11,22,33…加算部 12…逆ラプラシアン操作部 13…ラプラシアン操作部 14,24,34…集計演算部 20…第2の神経回路 21…ゲート 23…乗算部 30…第3の神経回路 32…平均値演算部
───────────────────────────────────────────────────── フロントページの続き (72)発明者 臼井 支朗 愛知県豊橋市弥生町西豊和10−2−804

Claims (8)

    【特許請求の範囲】
  1. 【請求項1】 被写体を光学的に読取り、被写体画像の
    色情報を色成分別に分解して抽出することにより色に関
    する情報値を得るセンシング手段により、任意の照明光
    源下での被写体の呈する色に関する情報値を得て、これ
    を色恒常性を保持した情報値に変換する装置として、 白色光を照明光とした場合の被写体からの色成分別表面
    反射率を複数種の標準色見本の色成分別反射率から得た
    反射率基底関数と、白色光の照射条件変化に基づく照明
    光のスペクトル組成の変化を表わした照明光スペクトル
    基底関数をそれぞれ複数種用意し、被写体を照明する照
    明光を白色光として仮定した場合の擬似照明光スペクト
    ル組成をこれらの照明光スペクトル基底関数の和により
    求め、また、色成分別の被写体表面反射率は上記センシ
    ング手段からの情報値と推定表面反射率基底関数と照明
    光スペクトル基底関数の和と被写体表面反射率係数より
    決めると共に、対象物表面反射率係数はコントラスト値
    に変換した上記被写体画像のエッジ領域のコントラスト
    値および局所的平均値の情報に基づいて推定し、エッジ
    領域内部の反射率係数はエッジ領域の情報をもとに充填
    し、被写体表面反射率係数はその平均値がグレーとなる
    ように色成分別に推定して、この推定した色成分別の被
    写体表面反射率係数によりセンサからの応答量に基づく
    色情報を補正し、補正済み色情報を得るようにした調整
    手段を具備することを特徴とするカラーバランス調整装
    置。
  2. 【請求項2】 任意の照明光源下での被写体の呈する色
    に関する情報値から、色成分別の表面反射率を規定する
    複数種の基底関数に乗ずる被写体の表面反射率係数を決
    定することにより、被写体の色成分別表面反射率を推定
    し、この推定色成分別表面反射率にて前記情報値を補正
    することにより、照明光源による影響を除いた情報値に
    前記情報値を調整する装置であって、 昼光のスペクトル組成に対し主成分分析を行い導き出さ
    れた照明光スペクトルの少なくとも3つ以上の基底関
    数、異なる色を呈する複数資料の表面反射率の主成分分
    析を行い導き出された表面反射率の少なくとも3つ以上
    の基底関数、被写体の画像情報を入力するセンシング装
    置の既知の光特性、照明光が白色と仮定した場合の当該
    照明光のスペクトルの少なくとも3つ以上の基底関数に
    対する照明光係数および入力センシング装置から出力さ
    れる情報値とから照明光が白色である場合の該被写体の
    反射率係数を求め、また照明光が白色である場合のこの
    反射率係数に対してエッジ強調をする操作を施し得られ
    たコントラスト画像と、被写体の推定反射率係数に対し
    てエッジ強調をする操作を施し得られたコントラスト画
    像との差を前記被写体の推定色成分別表面反射率を調整
    することで小さくする第1の神経回路と、 照明光が白色である場合の前記反射率係数に対してフィ
    ルタリング操作を施し得られた反射率係数の局所的な平
    均値と、被写体の推定色成分別表面反射率の差を選択的
    に小さくすべく処理するゲート手段を有する第2の神経
    回路と、標準灰色の反射率係数と、前記推定色成分別表
    面反射率係数の平均との差を小さくすべく処理する第3
    の神経回路とを具備することを特徴とするカラーバラン
    ス調整装置。
  3. 【請求項3】 任意の照明光源下での被写体の呈する色
    に関する情報値から、色成分別の表面反射率を規定する
    複数種の基底関数に乗ずる被写体の表面反射率係数を決
    定することにより、被写体の色成分別表面反射率係数を
    推定し、この推定色成分別表面反射率係数にて前記情報
    値を補正することにより、照明光源による影響を除いた
    情報値に前記情報値を調整する装置であって、 昼光のスペクトル組成に対し主成分分析を行い導き出さ
    れた照明光スペクトルの複数種の基底関数、異なる色を
    呈する複数の資料の表面反射率の主成分分析を行い導き
    出された色成分別表面反射率の複数種の基底関数、被写
    体の画像を入力するセンシング装置の既知の光特性、照
    明光が白色と仮定した場合の照明光のスペクトルの複数
    種の基底関数に対する照明光係数の積によるマトリクス
    を作成し、該マトリクスの逆行列、前記被写体の呈する
    色に関する情報値を出力するセンシング装置からの上記
    情報値とを乗ずることにより前記被写体に照射している
    光が白色である場合の該被写体の前記推定色成分別表面
    反射率係数を求めると共に、また、照射している光が白
    色である場合の前記推定色成分別表面反射率係数に対し
    てラプラシアン操作及び閾値操作を施したコントラスト
    画像と、被写体の推定反射率係数に対してラプラシアン
    操作を施したコントラスト画像との差を被写体の推定反
    射率係数を調整することで小さくすると同時に、該コン
    トラスト画像のエッジ強調の逆の操作を行うことで反射
    率係数の再構成を行う第1の神経回路と、 前記照明光が白色である場合の反射率係数に対してフィ
    ルタリング操作を施し得られた反射率係数の局所的な平
    均値と被写体の推定反射率の差を小さくする際に、前記
    反射率係数のコントラスト値が閾値より大きい場合1
    を、それ以下の場合0となるゲート関数との乗算によ
    り、前記フィルタリング操作を施し、得られた反射率係
    数の局所的な平均値と前記被写体の推定反射率係数の差
    を小さくする操作を選択的に行う第2の神経回路と、 標準灰色の反射率係数と前記推定反射率係数の平均との
    差を小さくすべく前記第2の神経回路で使用する反射率
    係数値を処理する第3の神経回路とを具備して構成する
    ことを特徴とするカラーバランス調整装置。
  4. 【請求項4】 前記照明光のスペクトル組成は、昼光の
    スペクトル組成に対し主成分分析を行い導かれた平均ベ
    クトルと第2主成分までの2つの主成分ベクトルの該3
    つの基底関数と照明光係数との積和による線形結合で表
    されると共に、前記被写体の表面反射率は、マンセル色
    票の表面反射率に対し主成分分析を行い導かれた第3主
    成分までの3つの主成分ベクトルの該3つの基底関数と
    反射率係数との積和による線形結合で表されることを特
    徴とする請求項1乃至3記載のカラーバランス調整装
    置。
  5. 【請求項5】 被写体を光学的に読取り、被写体画像の
    色情報を色成分別に分解して抽出することにより色に関
    する情報値を得るセンシング手段により、任意の照明光
    源下での被写体の呈する色に関する情報値を得て、これ
    を色恒常性を保持した情報値に変換する方法として、 白色光を照明光とした場合の被写体からの色成分別表面
    反射率を複数種の標準色見本の色成分別反射率から得た
    反射率基底関数と、白色光の照射条件変化に基づく照明
    光のスペクトル組成の変化を表わした照明光スペクトル
    基底関数をそれぞれ複数種用意し、被写体を照明する照
    明光を白色光として仮定した場合の擬似照明光スペクト
    ル組成をこれらの照明光スペクトル基底関数の和により
    求め、また、色成分別の被写体表面反射率は上記センシ
    ング手段からの情報値と推定表面反射率基底関数と照明
    光スペクトル基底関数の和と被写体表面反射率係数より
    決めると共に、対象物表面反射率係数はコントラスト値
    に変換した上記被写体画像のエッジ領域のコントラスト
    値および局所的平均値の情報に基づいて推定し、エッジ
    領域内部の反射率係数はエッジ領域の情報をもとに充填
    し、被写体表面反射率係数はその平均値がグレーとなる
    ように色成分別に推定して、この推定した色成分別の被
    写体表面反射率係数によりセンサからの応答量に基づく
    色情報を補正し、補正済み色情報を得るようにすること
    を特徴とするカラーバランス調整方法。
  6. 【請求項6】 任意の照明光源下での被写体の呈する色
    に関する情報値から、色成分別の表面反射率を規定する
    複数種の基底関数に乗ずる被写体の表面反射率係数を決
    定することにより、被写体の色成分別表面反射率を推定
    し、この推定色成分別表面反射率にて前記情報値を補正
    することにより、照明光源による影響を除いた情報値に
    前記情報値を調整する方法であって、 昼光のスペクトル組成に対し主成分分析を行い導き出さ
    れた照明光スペクトルの少なくとも3つ以上の基底関数
    と、異なる色を呈する複数資料の表面反射率の主成分分
    析を行い導き出された表面反射率の少なくとも3つ以上
    の基底関数、被写体の画像情報を入力するセンシング装
    置の既知の光特性、照明光が白色と仮定した場合の当該
    照明光のスペクトルの少なくとも3つ以上の基底関数に
    対する照明光係数および入力センシング装置から出力さ
    れる情報値とから照明光が白色である場合の該被写体の
    反射率係数を求め、また照明光が白色である場合のこの
    反射率係数に対してエッジ強調をする操作を施し得られ
    たコントラスト画像と、被写体の推定反射率係数に対し
    てエッジ強調をする操作を施し得られたコントラスト画
    像との差を前記被写体の推定色成分別表面反射率を調整
    することで小さくする第1ステップと、 照明光が白色である場合の前記反射率係数に対してフィ
    ルタリング操作を施し得られた反射率係数の局所的な平
    均値と、被写体の推定色成分別表面反射率の差を選択的
    に小さくすべく処理する第2ステップと、 標準灰色の反射率係数と、前記推定色成分別表面反射率
    係数の平均との差を小さくすべく処理する第3ステップ
    とを具備することを特徴とするカラーバランス調整方
    法。
  7. 【請求項7】 任意の照明光源下での被写体の呈する色
    に関する情報値から、色成分別の表面反射率を規定する
    複数種の基底関数に乗ずる被写体の表面反射率係数を決
    定することにより、被写体の色成分別表面反射率係数を
    推定し、この推定色成分別表面反射率係数にて前記情報
    値を補正することにより、照明光源による影響を除いた
    情報値に前記情報値を調整する方法であって、 昼光のスペクトル組成に対し主成分分析を行い導き出さ
    れた照明光スペクトルの複数種の基底関数と、異なる色
    を呈する複数の資料の表面反射率の主成分分析を行い導
    き出された色成分別表面反射率の複数種の基底関数と、
    被写体の画像を入力するセンシング装置の既知の光特性
    と、照明光が白色と仮定した場合の照明光のスペクトル
    の複数種の基底関数に対する照明光係数の積によるマト
    リクスを作成し、該マトリクスの逆行列と、前記被写体
    の呈する色に関する情報値を出力するセンシング装置か
    らの上記情報値を乗ずることにより前記被写体に照射し
    ている光が白色である場合の該被写体の前記推定色成分
    別表面反射率係数を求めると共に、また、照射している
    光が白色である場合の前記推定色成分別表面反射率係数
    に対してラプラシアン操作及び閾値操作を施したコント
    ラスト画像と、被写体の推定反射率係数に対してラプラ
    シアン操作を施したコントラスト画像との差を被写体の
    推定反射率係数を調整することで小さくすると同時に、
    該コントラスト画像のエッジ強調の逆の操作を行うこと
    で反射率係数の再構成を行う第1ステップと、 前記照明光が白色である場合の反射率係数に対してフィ
    ルタリング操作を施し得られた反射率係数の局所的な平
    均値と被写体の推定反射率の差を小さくする際に、前記
    反射率係数のコントラスト値が閾値より大きい場合1
    を、それ以下の場合0となるゲート関数との乗算によ
    り、前記フィルタリング操作を施し、得られた反射率係
    数の局所的な平均値と前記被写体の推定反射率係数の差
    を小さくする操作を選択的に行う第2ステップと、 標準灰色の反射率係数と前記推定反射率係数の平均との
    差を小さくすべく前記第2ステップで使用する反射率係
    数値を処理する第3ステップとを具備して構成すること
    を特徴とするカラーバランス調整方法。
  8. 【請求項8】 前記照明光のスペクトル組成は、昼光の
    スペクトル組成に対し主成分分析を行い導かれた平均ベ
    クトルと第2主成分までの2つの主成分ベクトルの該3
    つの基底関数と照明光係数との積和による線形結合で表
    されると共に、前記被写体の表面反射率は、マンセル色
    票の表面反射率に対し主成分分析を行い導かれた第3主
    成分までの3つの主成分ベクトルの該3つの基底関数と
    反射率係数との積和による線形結合で表されることを特
    徴とする請求項5乃至7記載のカラーバランス調整方
    法。
JP21071093A 1993-08-25 1993-08-25 カラーバランス調整装置および調整方法 Expired - Fee Related JP3149297B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP21071093A JP3149297B2 (ja) 1993-08-25 1993-08-25 カラーバランス調整装置および調整方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP21071093A JP3149297B2 (ja) 1993-08-25 1993-08-25 カラーバランス調整装置および調整方法

Publications (2)

Publication Number Publication Date
JPH0766986A true JPH0766986A (ja) 1995-03-10
JP3149297B2 JP3149297B2 (ja) 2001-03-26

Family

ID=16593823

Family Applications (1)

Application Number Title Priority Date Filing Date
JP21071093A Expired - Fee Related JP3149297B2 (ja) 1993-08-25 1993-08-25 カラーバランス調整装置および調整方法

Country Status (1)

Country Link
JP (1) JP3149297B2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2002037863A1 (fr) * 2000-10-31 2002-05-10 Sony Corporation Correcteur de reproduction chromatique pour dispositif de saisie d"image et procede de correction de reproduction chromatique
KR100442320B1 (ko) * 2002-01-15 2004-07-30 정찬섭 색채 복원 방법과, 색채 복원 시스템 및 이 방법을 기록한컴퓨터로 읽을 수 있는 기록 매체
WO2009091152A2 (en) * 2008-01-16 2009-07-23 Industry-Academic Cooperation Foundation Color recovery method and system
WO2010024824A1 (en) * 2008-08-30 2010-03-04 Hewlett-Packard Development Company, L.P. Color constancy method and system
US9491331B2 (en) 2011-12-28 2016-11-08 Nec Corporation Image processing method, image processing device, and program for restoring spectral characteristics of an object and an illumination, respectively
CN109668791A (zh) * 2019-01-10 2019-04-23 清华大学 一种基于多传感器的地层岩石力学参数的测量系统及方法

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2002037863A1 (fr) * 2000-10-31 2002-05-10 Sony Corporation Correcteur de reproduction chromatique pour dispositif de saisie d"image et procede de correction de reproduction chromatique
KR100442320B1 (ko) * 2002-01-15 2004-07-30 정찬섭 색채 복원 방법과, 색채 복원 시스템 및 이 방법을 기록한컴퓨터로 읽을 수 있는 기록 매체
WO2009091152A2 (en) * 2008-01-16 2009-07-23 Industry-Academic Cooperation Foundation Color recovery method and system
WO2009091152A3 (en) * 2008-01-16 2009-10-01 Industry-Academic Cooperation Foundation Color recovery method and system
WO2010024824A1 (en) * 2008-08-30 2010-03-04 Hewlett-Packard Development Company, L.P. Color constancy method and system
US8655066B2 (en) 2008-08-30 2014-02-18 Hewlett-Packard Development Company, L.P. Color constancy method and system
US9491331B2 (en) 2011-12-28 2016-11-08 Nec Corporation Image processing method, image processing device, and program for restoring spectral characteristics of an object and an illumination, respectively
CN109668791A (zh) * 2019-01-10 2019-04-23 清华大学 一种基于多传感器的地层岩石力学参数的测量系统及方法

Also Published As

Publication number Publication date
JP3149297B2 (ja) 2001-03-26

Similar Documents

Publication Publication Date Title
US7313273B2 (en) Automatic color constancy for image sensors
JP4036391B2 (ja) ディジタル画像を改善する方法
JP4056185B2 (ja) カラー映像処理装置及び方法
Jobson et al. A multiscale retinex for bridging the gap between color images and the human observation of scenes
Hsu et al. Light mixture estimation for spatially varying white balance
Kirk et al. Perceptually based tone mapping for low-light conditions
JP2003520515A (ja) カラー信号処理
JP2000171304A (ja) カラ―照明色温度の検出方法及び該装置
Kawakami et al. Consistent surface color for texturing large objects in outdoor scenes
US6931152B2 (en) Method for improved automatic partial color constancy correction
JP2003284082A (ja) 正確な電子色捕獲及び再生の装置および方法
CN110458787A (zh) 一种图像融合方法、装置及计算机存储介质
Quan Evaluation and optimal design of spectral sensitivities for digital color imaging
JPH05276529A (ja) 色温度またはホワイトバランスの調整方法及び装置
JP3149297B2 (ja) カラーバランス調整装置および調整方法
CN104732507B (zh) 基于纹理信息重构的不同光照两帧图像融合方法
Courtney et al. A multistage neural network for color constancy and color induction
US5771312A (en) Method for automatic partial white balance correction
Rezagholizadeh et al. Maximum entropy spectral modeling approach to mesopic tone mapping
Mario et al. Cromaticity improvement in images with poor lighting using the multiscale-Retinex MSR algorithm
Hammadou et al. Novel image enhancement technique using shunting inhibitory cellular neural networks
Distante et al. Color
US20240298093A1 (en) System and method for IR subtraction in an RGB-IR Image sensor using FPGA
Nakauchi et al. An energy-minimization approach to color constancy
McDermott et al. Adapting images to observers

Legal Events

Date Code Title Description
LAPS Cancellation because of no payment of annual fees