JP2002543695A - カラー機器の特性付け方法及び装置、画像色補正方法及び装置、カラー画像データ伝送及び/又は記録方法及び記録媒体 - Google Patents

カラー機器の特性付け方法及び装置、画像色補正方法及び装置、カラー画像データ伝送及び/又は記録方法及び記録媒体

Info

Publication number
JP2002543695A
JP2002543695A JP2000614670A JP2000614670A JP2002543695A JP 2002543695 A JP2002543695 A JP 2002543695A JP 2000614670 A JP2000614670 A JP 2000614670A JP 2000614670 A JP2000614670 A JP 2000614670A JP 2002543695 A JP2002543695 A JP 2002543695A
Authority
JP
Japan
Prior art keywords
color
light source
image
data
correction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2000614670A
Other languages
English (en)
Inventor
研一 西尾
英二 水谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JP2002543695A publication Critical patent/JP2002543695A/ja
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Processing Of Color Television Signals (AREA)
  • Color Image Communication Systems (AREA)
  • Image Processing (AREA)

Abstract

(57)【要約】 電子カメラによって撮像されたカラー画像のデータに対して色補正を行う色補正方法及び色補正装置は、ニューラルネットワーク、多層パーセプトロンモデル及び/又は強制ニューロ−ファジイ干渉システムモデルを用いて、推定された光源に基づいて、カラー画像を表すデータに対する色補正を決定し、カラー画像を表すデータに対する補正を行う。色補正されたデータを表すデータは、記録又は伝送される。電子カメラによって撮像された画像データを記録するデータ記録方法は、カラー画像を撮像し、そのカラー画像を表すデータを出力し、撮像されたカラー画像の光源を推定し、推定された光源を表すデータを出力し、カラー画像を表すデータと推定された光源を表すデータを記録する。電子カメラによって撮像された画像データを伝送するデータ伝送方法は、カラー画像を撮像し、そのカラー画像を表すデータを出力し、撮像されたカラー画像の光源を推定し、推定された光源を表すデータを出力し、カラー画像を表すデータと推定された光源を表すデータを伝送する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】
本発明は、画像の色補正(color correction)に関し、特に電子カラーカメラ
(electronic color camera)により得られるカラー画像の色補正を行い、色補
正データを出力(transmission)する色補正方法及び装置(color device chara
cterization)と、カラー画像の色補正データを記録した記録媒体に関する。
【0002】
【従来の技術】
従来、電子カラーカメラによって撮像された画像に対して色補正を行う方法に
は2つの方法がある。第1の方法は、電子カラーカメラの出力データを、色精度
(color accuracy)を高め、電子カラーカメラの出力色空間(output color spa
ce)と等しい色空間に直接変換するものである。例えば、電子カラーカメラの出
力空間が後述するYUVであるとき、その色補正モデル(color correction mod
el)の入力及び出力空間は、YUVであるが、その出力されたYUVデータの色
精度は高くなっている。以下、この方法を「機器固有色補正(device specific
color correction)」と呼ぶ。「YUV」は画像伝送においてよく用いられる色
表現(color representation)である。「Y」は輝度を表し、「U」は青から黄
を引いた色にほぼ一致する色の要素を表し、「V」は赤からシアンを引いた色に
ほぼ一致する色の要素を表している。他の色表現としては、「RGB(赤、緑、
青)」や、1つの輝度要素と2つの色差要素からなる色空間を表す「YCC」が
ある。上述したYUVは、YCC色表現の一例である。YIQは、YCC色表現
の他の例であり、ここで、「I」は黄色っぽい赤から薄い青を引いた色にほぼ一
致する色の要素を表し、「Q」は紫から緑色っぽい黄を引いた色にほぼ一致する
色の要素を表す。YCbCr(輝度、色差−青、色差−赤)は、YCC色表現の
更に他の例である。
【0003】 色補正の第2の方法は、2つのステップに分割される。第1のステップでは、
電子カラーカメラの出力色空間は、一旦元の測色空間(colorimetric space、X
YZ又はL*a*b)に変換される。この測色空間は、国際照明委員会(Intern
ational Illumination Committee:CIE)、元々フランス語で公表されている
)によって定められた空間である。測色空間は、人間の目によって認識される自
然の物体の色を表現するものである。測色空間で表現された色情報は、電子カラ
ーカメラによって撮像された画像の元の色に一致する。第2のステップにおいて
、このような測色空間に変換された色情報は、出力機器(コンピュータのモニタ
又はプリンタ)に特化された色空間に変換され、その全体の画像処理操作(enti
re image path)によって表色的に正確な色表現が実現される。この2つのステ
ップの概念は、国際色彩委員会(International Color Committee:ICC)に
おけるカラープロファイルフォーマット(color profile format)に即しており
、このプロファイルフォーマットは、色表現に比較的高い精度が求められるコン
ピュータの画像処理において広く用いられているフォーマットである。ICCの
概念に基づいた色補正の分野では、中間測色空間(intermediate colorimetric
space)は、しばしば「機器独立色空間(device independent color space)」
と呼ばれる。したがって、この色補正方法は、「機器独立色補正(device indep
endent color correction)」と呼ばれる。
【0004】 上述した機器独立色補正を行うためには、電子カラーカメラの色変換の逆写像
(inverse function)を求める必要がある。このステップは、電子カラーカメラ
のための「色補正装置の特性付け(color device characterization)」と呼ば
れ、電子カラーカメラによって撮像された画像の色補正を行う際に、このような
特性付けが採用される。電子カラーカメラの色変換の逆写像を求める従来の方法
は、イメージスキャナ(image scanner)の色変換の逆写像を求めるために広く
用いられている方法を応用したものである。ほとんどの電子カラーカメラは、イ
メージスキャナの信号処理と類似した信号処理を行っているので、この方法は効
率的であると考えられている。
【0005】 FIG.1は、イメージスキャナとほとんどの電子カラーカメラの両方におい
て採用されている信号処理を示すブロック図である。FIG.1に示すように、
イメージセンサカメラ100のイメージセンサ104に入力されるデータを、測
色空間XYZにおけるデータとすると、これらのデータは、入力端子101、1
02、103にそれぞれ供給される。イメージセンサ104の出力空間はRGB
であり、イメージセンサカメラ100の出力空間はYCCである。イメージセン
サカメラ100からの出力データは、それぞれYデータ、Cデータ、Cデータに
対応している出力端子110、111、112から得られる。
【0006】 FIG.1に示すイメージセンサカメラ100における色変換の逆写像を近似
するために、FIG.2に示す単純な逆方向モデル(inverse-model)を用いる
ことができる。FIG.2において、各ブロックは、FIG.1における対応す
るブロックの逆変換を行う必要がある。対応するブロックは、104と124、
151と161、152と162、153と163、109と122である。特
に、マトリクス回路(matrix)104、109は、それぞれマトリクス回路12
4、122の逆マトリクス回路である必要がある。通常、1次元ルックアップテ
ーブル(one-dimensional lookup table:1D−LUT)151、152、15
3によって実現されている階調特性曲線(tone reproduction curve:TRC)
は、それぞれ1D−LUT161、162、163の逆写像である必要がある。
この色補正モデルは、マトリクス回路とTRCからなるため、「TRC−マトリ
クスモデル(TRC-matrix model)」と呼ばれる。
【0007】 FIG.1及びFIG.2に示すように、イメージセンサ104の色変換は、
3×3マトリクス回路124による線形変換(linear transformation)で近似
される。電子カラーカメラの色理論(color science)によれば、イメージセン
サのスペクトル解析特性(spectral analysis characteristics)は、CIEに
おいて規定されている等色関数(color matching function)xyzの線形結合
(linear combination)で表されるのが理想であるとされ、これらの関数は、人
間の目の色感度を表すスペクトル関数のセット(set)である。全ての電子カラ
ーカメラは、これらの理想的な特性を指標として設計されているため、多くの場
合、3×3マトリクス回路は、電子カラーカメラで用いられるイメージセンサを
近似することができ、これにより、電子カラーカメラの色変換の逆写像を非常に
正確に求めることができる。しかしながら、このTRC−マトリクスモデル法(
TRC-matrix model approach)では、条件により正確な色補正が行えない場合が
ある。
【0008】 近似の精度(approximation accuracy) イメージセンサの色変換を、TRC−マトリクスモデルにおける3×3マトリ
クス回路(FIG.2の124)でうまく近似することができないとき、正確な
色補正を行うことがでなくなる。この状態は、多くの初歩的な電子カラーカメラ
において生じることがある。また、この状態は、電子カラーカメラの信号処理が
、FIG.1に示す構成に一致せず、FIG.2に示す構成が、もはや電子カラ
ーカメラの逆モデルでないときに生じる。例えば、FIG.3は、CMYG(シ
アン、マゼンタ、イエロー、グリーン、「補色(complementary color)」とも
いわれる。)の電子カラーカメラにおいて通常用いられている信号処理を示すブ
ロック図である。一見して、FIG.2は、FIG.3の信号処理の逆モデルと
して機能することができない。また、CMYG電子カラーカメラの信号処理を行
うための構造が複雑なため、FIG.3に示す回路によって行われる信号処理の
単純な逆モデルを構築することは容易ではない。
【0009】 光源依存性(illuminant dependency) 電子カラーカメラには、それがスチルカメラであるか、静止画を連続して、又
は動画を記録するカメラであるかに関わらず、特有の問題、具体的には色変換が
光源に依存するという問題がある。イメージスキャナは、いかなる場合でも、あ
る定まった備え付けの光源を用いて画像を撮像するのに対して、電子カラーカメ
ラは、様々な光源、例えば夜明け、日中又は夕方の屋外、蛍光灯、白熱灯又は他
の種類の人工照明を有する屋内、人工照明の組合せ、自然(屋外)照明と人工照
明の組合せの下に画像を撮像する。電子カラーカメラには、画像の撮像時の光源
を推定する機能があり、その電子カラーカメラにおける光源の推定に基づいて、
電子カラーカメラのR、G、Bチャンネルのゲイン設定が調整され、最終的な出
力画像において白い物体に対してR=G=Bとなるように調整される。この機能
は、「ホワイトバランス調整」と呼ばれ、ゲイン調整は、図示しないが、FIG
.1のイメージセンサ104と1D−LUT105の間で行われる。通常、電子
カラーカメラの色変換は、ホワイトバランス調整の設定によって変化する。すな
わち、電子カラーカメラは、その色変換において光源依存性を有する。これは、
電子カラーカメラによって生じる色歪み又はエラーが光源に依存して変化するこ
とを意味している。したがって、色補正を高い精度で行うためには、あり得る全
ての光源に対応できる電子カラーカメラの色変換の逆写像を用意する必要がある
が、それは実質的に不可能である。この問題を解決する1つの方法として、数種
類の代表的な光源の下での色変換の逆写像(通常、TRC−マトリクスモデル又
は3次元ルックアップテーブルのいずれかを用いたICC色プロファイルの形で
)を複数準備しておく方法がある。そして、ユーザは、どの逆写像が、ユーザが
実際に画像を撮像したときの光源に最も適合するかを考えて、予め設けられてい
る(preset)逆変換のセットの中から手動で選択しなければならない。これは、
ユーザにとって負担になるばかりか、ユーザが適切に選択しなかった場合には、
色補正が正しく行われないことになる。さらに、画像の撮像時の実際の光源が、
予め設けられている逆写像の中にない場合にも、色補正が正しく行われないこと
になる。これがルックアップテーブル(TRC−マトリクス)に基づく方法にお
ける制約(limitation)である。このルックアップテーブルに基づいた方法にお
ける他の制約としては、複数の光源下では色補正が正しく行われないことがある
。TRC−マトリクスモデル法に代わる方法として、3次元ルックアップテーブ
ル(3D−LUT)がある。この3D−LUTは、TRC−マトリクスよりも正
確であるが、補正モデルのサイズが巨大であり、TRC−マトリクスモデル法の
場合と同様に、複数の光源下では適切な色補正が行われない。したがって、任意
の光源下で、電子カラーカメラによって撮像された画像の色補正を正確に行う方
法及び装置が所望されている。
【0010】 発明の開示 本発明の目的は、様々な光源下で電子カラーカメラによって撮像された画像の
色補正を行う色補正方法及び装置を提供することである。
【0011】 また、本発明の目的は、カラー機器(color device)の特性付け(characteri
zation)を行う方法及び装置を提供することである。
【0012】 さらに、本発明の目的は、組み合わせられた光源下で電子カラーカメラによっ
て撮像された画像の色補正を行う色補正方法及び装置を提供することである。
【0013】 さらにまた、本発明の目的は、色補正されたカラー画像を表すデータが記録さ
れた記録媒体を提供することである。
【0014】 さらにまた、本発明の目的は、色補正されたカラー画像を表すデータを伝送す
るデータ伝送方法を提供することである。
【0015】 本発明の特徴は、カラー画像を表すデータに対する補正を決定するためのルッ
クアップテーブル法の限界を克服するために、ニューラルネットワークを関数の
近似装置として用いることによって、カラー画像に対する色補正を行うことであ
る。
【0016】 また、本発明の特徴は、カラー画像を表すデータに対する補正を決定するため
に、ニューラルネットワークの一種である多層パーセプトロン(multilayer per
ceptron:MLP)を用いることによって、カラー画像に対する色補正を行うこ
とである。
【0017】 さらに、本発明の特徴は、カラー画像を表すデータに対する補正を決定するた
めに、強制ニューロ−ファジイ干渉システム(coactive neuro-fussy inference
system:CANFIS)モデルニューラルネットワークの一種である多層パー
セプトロン(multilayer perceptron:MLP)を用いることによって、カラー
画像に対する色補正を行うことである。
【0018】 さらにまた、本発明の特徴は、複数光源下で、電子カラーカメラによって撮像
されたカラー画像に対して自動色補正を行うことである。
【0019】 さらにまた、本発明の特徴は、画像データをXYZ空間に変換することにより
、白色点及びカメラの外での高度な光源の推定による色をより正確に得られるこ
とである。
【0020】 さらにまた、本発明の特徴は、教示データセットを修正又は置き換えることに
より、色の恒常性を容易に実現することである。
【0021】 本発明の利点は、電子カラーカメラによって撮像された画像を、従来のTRC
−マトリクス法で達成できるよりも高い精度で色補正することである。
【0022】 また、本発明の利点は、電子カラーカメラのユーザが、撮影中や写真の表示及
び/又は印刷時に、色補正に時間をかけずに、構図に集中できることである。
【0023】 本発明は、電子カラーカメラによって撮像されたカラー画像の色補正を行う色
補正方法において、ニューラルネットワークを用いて、カラー画像の推定された
光源に基づいてカラー画像を表すデータに対する補正を決定するステップと、光
源は複数の光源からなっており、カラー画像を表すデータに対して補正を行うス
テップとを有する色補正方法を提供する。
【0024】 また、本発明は、電子カラーカメラによって撮像されたカラー画像の色補正を
行う色補正方法において、多層パーセプトロンモデルを用いて、カラー画像の推
定された光源に基づいてカラー画像を表すデータに対する補正を決定するステッ
プと、光源は複数の光源からなっており、カラー画像を表すデータに対して補正
を行うステップとを有する色補正方法を提供する。
【0025】 さらに、本発明は、電子カラーカメラによって撮像されたカラー画像の色補正
を行う色補正方法において、強制ニューロ−ファジイ干渉システムモデルを用い
て、カラー画像の推定された光源に基づいてカラー画像を表すデータに対する補
正を決定するステップと、光源は複数の光源からなっており、カラー画像を表す
データに対して補正を行うステップとを有する色補正方法を提供する。
【0026】 さらにまた、本発明は、電子カラーカメラによって撮像されたカラー画像の色
補正を行う色補正装置において、カラー画像の推定された光源に基づいてカラー
画像を表すデータに対する補正を決定し、光源は複数の光源からなっており、カ
ラー画像を表すデータに対して補正を行うニューラルネットワークを備える色補
正装置を提供する。
【0027】 さらにまた、本発明は、電子カラーカメラによって撮像されたカラー画像の色
補正を行う色補正装置において、カラー画像の推定された光源に基づいてカラー
画像を表すデータに対する補正を決定し、光源は複数の光源からなっており、カ
ラー画像を表すデータに対して補正を行う多層パーセプトロンモデルを備える色
補正装置を提供する。
【0028】 さらにまた、本発明は、電子カラーカメラによって撮像されたカラー画像の色
補正を行う色補正装置において、カラー画像の推定された光源に基づいてカラー
画像を表すデータに対する補正を決定し、光源は複数の光源からなっており、カ
ラー画像を表すデータに対して補正を行う強制ニューロ−ファジイ干渉システム
モデルを備える色補正装置を提供する。
【0029】 さらにまた、本発明は、電子カラーカメラによって撮像されたカラー画像の色
補正データが記録された記録媒体において、ニューラルネットワークを用いて、
カラー画像の推定された光源に基づいてカラー画像を表すデータに対する補正を
決定するステップと、光源は複数の光源からなっており、カラー画像を表すデー
タに対して補正を行うステップと、補正されたデータを表すデータを記録媒体に
記録するステップによって用意される記録媒体を提供する。
【0030】 さらにまた、本発明は、電子カラーカメラによって撮像されたカラー画像の色
補正データが記録された記録媒体において、多層パーセプトロンモデルを用いて
、カラー画像の推定された光源に基づいてカラー画像を表すデータに対する補正
を決定するステップと、光源は複数の光源からなっており、カラー画像を表すデ
ータに対して補正を行うステップと、補正されたデータを表すデータを記録媒体
に記録するステップによって用意される記録媒体を提供する。
【0031】 さらにまた、本発明は、電子カラーカメラによって撮像されたカラー画像の色
補正データが記録された記録媒体において、強制ニューロ−ファジイ干渉システ
ムモデルを用いて、カラー画像の推定された光源に基づいてカラー画像を表すデ
ータに対する補正を決定するステップと、光源は複数の光源からなっており、カ
ラー画像を表すデータに対して補正を行うステップと、補正されたデータを表す
データを記録媒体に記録するステップによって用意される記録媒体を提供する。
【0032】 さらにまた、本発明は、電子カラーカメラによって撮像されたカラー画像の色
補正されたデータを伝送するデータ伝送方法において、ニューラルネットワーク
を用いて、カラー画像の推定された光源に基づいてカラー画像を表すデータに対
する補正を決定するステップと、光源は複数の光源からなっており、カラー画像
を表すデータに対して補正を行うステップと、補正されたデータを表すデータを
伝送するステップを有するデータ伝送方法を提供する。
【0033】 さらにまた、本発明は、電子カラーカメラによって撮像されたカラー画像の色
補正されたデータを伝送するデータ伝送方法において、多層パーセプトロンモデ
ルを用いて、カラー画像の推定された光源に基づいてカラー画像を表すデータに
対する補正を決定するステップと、光源は複数の光源からなっており、カラー画
像を表すデータに対して補正を行うステップと、補正されたデータを表すデータ
を伝送するステップを有するデータ伝送方法を提供する。
【0034】 さらにまた、本発明は、電子カラーカメラによって撮像されたカラー画像の色
補正されたデータを伝送するデータ伝送方法において、強制ニューロ−ファジイ
干渉システムモデルを用いて、カラー画像の推定された光源に基づいてカラー画
像を表すデータに対する補正を決定するステップと、光源は複数の光源からなっ
ており、カラー画像を表すデータに対して補正を行うステップと、補正されたデ
ータを表すデータを伝送するステップを有するデータ伝送方法を提供する。
【0035】 さらにまた、本発明は、電子カメラによって撮像された画像データを記録する
データ記録方法において、カラー画像を撮像して、画像を表すデータを出力する
ステップと、撮像されたカラー画像における光源を推定して、推定された光源を
表すデータを出力するステップと、画像を表すデータと推定された光源を表すデ
ータとを記録するステップとを有するデータ記録方法を提供する。
【0036】 さらにまた、本発明は、電子カメラによって撮像された画像データを伝送する
データ伝送方法において、カラー画像を撮像して、画像を表すデータを出力する
ステップと、撮像されたカラー画像における光源を推定して、推定された光源を
表すデータを出力するステップと、画像を表すデータと推定された光源を表すデ
ータとを伝送するステップとを有するデータ伝送方法を提供する。
【0037】 これらと他の目的、特徴及び利点は、以下の詳細な説明と添付の図面を参照す
ることにより明らかになる。
【0038】
【発明の実施の形態】
上述した課題を解決するために、ニューラルネットワーク(例えばMLP)又
はCANFISニューロ−ファジイモデルが用いられる。本発明は、「機器固有
(device specific)」方式と「機器独立(device independent)」方式の両方
に応用することができるが、ここで開示している実施の形態では、機器独立の色
補正について説明する。なお、MLPは、良く知られたニューラルネットワーク
のうちの一種類にすぎない。また、ここでは、ニューラルネットワークについて
述べるが、MLP又は他の種類のニューラルネットワークを用いることができる
【0039】 MLPを用いた単一の光源での色補正 上述したように、TRC−マトリクスモデル(FIG.1)を用いた色補正が
1つの定まった既知の光源下でも正確に行われないのは、電子カラーカメラが、
理想的ではなく(non-ideality)、線形でなく(nonlinearity)、また構造的に
複雑であることに起因している。補正の精度を高めるために、TRC−マトリク
スモデルの代わりに、FIG.4Aに示すニューラルネットワーク又はFIG.
4Bに示すMLPモデルを用いることができる。FIG.4Aにおいて、いかな
る種類のニューラルネットワーク、例えばFIG.4BのMLPを用いることが
できる。このニューラルネットワークモデル(例えばMLP)では、1つの定ま
った光源に基づいて補正が行われるため、以下、この補正を「単一光源」色補正
と呼ぶ。ニューラルネットワーク(例えばMLP)を用いた色補正モデルは、こ
れまで、色変換が非常に非線形であり、(電子カラーカメラの場合における光源
の色に対応した)白色点(white point)が定まっているとされているようなプ
リンタ等の画像機器にのみ用いられてきた。
【0040】 FIG.4Aに示すように、画像データは、Y入力端子1、C入力端子2、C
入力端子3を介してニューラルネットワーク4に入力される。画像データは、電
子カラーカメラから供給される。電子カラーカメラの代わりに、再生装置及び/
又は伝送媒体から画像データを入力端子1、2、3に供給するようにしてもよい
。色補正に必要な光源情報は電子カラーカメラからのみ得られるので、後者の例
においては、光源情報は、画像データとともに記録及び/又は伝送されるか、い
ずれの方法によってニューラルネットワーク4に入力される必要がある。電子カ
ラーカメラからの画像データを伝送又は記録する場合、多くの画像データフォー
マットには、イメージプリンタでは使用されない領域又は空間(space)が含ま
れている。このような領域又は空間は、通常、撮像日、電子カラーカメラの機種
又は電子カラーカメラの製造元を記録するために用いることができる。したがっ
て、1つ以上の未使用の領域又は空間を光源情報に割り当てることができ、画像
データを光源情報とともに記録及び/又は伝送した後に、その画像データに色補
正を施す。
【0041】 ニューラルネットワーク4は、測色空間XYZおけるX出力端子5、Y出力端
子6、Z力端子7を備える。FIG.4Bに示すように、MLPは、電子カラー
カメラからの出力値(RGB又はYCC)のための、参照符号11、12、13
でそれぞれ示される3つの入力ノードY、U、Vを備える。また、MLPは、参
照符号14、15、16でそれぞれ示される3つの出力ノードX、Y、Zを備え
る。出力ノードX、Y、Zは、機器独立色補正では測色値(XYZ又はL*a*
b)を、機器固有色補正ではRGB又はYCCの目標出力値を出力する。これら
の測色値又は色補正された出力値は、出力機器の特性付けモデル(characteriza
tion model)を介して、プリンタ又は表示モニタ等の画像出力機器に供給される
。これらの値は、直接画像出力機器に供給されてもよい。あるいは、これらの値
は、符号化及び/又は圧縮された後、記録装置によって磁気ディスク、光ディス
ク、光磁気ディスク、個体メモリ等の記録媒体に記録されたり、インターネット
、電話回線、専用線、無線、光媒体等の伝送媒体を介して伝送される。
【0042】 MLPのパラメータを最適化するために、「教示」データ集合(training dat
a set)と呼ばれる入力−出力サンプル集合(a set of input-output samples)
が与えられる。入力−出力サンプル集合は、入力YUVと所望の出力XYZの対
である代表色サンプル(representative color sample)を含んでいる。そして
、与えられた課題(task)は、非線形最小二乗の問題(nonlinear least square
s problem)として数式で表され、この目的は、所望の出力とそのモデルの出力
間の二乗誤差(squared error measure)を最小化することによって、MLPの
パラメータを最適化することである。
【0043】 二乗誤差である求める関数E(.)は、残差(residual)ベクトルr(θ)を
用いて、以下のように表される。
【0044】 E(θ)=(1/2)r(θ)r(θ) パラメータの最適化は、そのモデルによって最終的に所望の出力が得られるよ
うに反復して行われる。この反復プロセスは、ニューラルネットワークの分野で
は「教示」(又は「学習(learning)」)と呼ばれる。
【0045】 MLPの近似性能(approximation capacity)は、多くの場合、「教示」デー
タセットとは異なり、パラメータの調整には用いられない「チェック(checking
)」データセットと呼ばれるデータセットを用いて評価される。ニューラルネッ
トワーク、特にMLPの1つの重要な利点は、教示データセット以外の入力デー
タに対して解が得られることである。
【0046】 上述した「機器独立」色補正の問題において、MLPは、電子カラーカメラの
応答信号(例えばRGB又はYCC)から測色値(例えばXYZ又はL*a*b
)へのマッピングを作成するように学習させられる。「機器固有」色補正の問題
において、MLPの望ましいマッピングは、エラーがある電子カラーカメラの応
答信号(RGB又はYCC)から、それに対応する正しいRGB又はYCC信号
にマッピングすることである。いずれにしろ、これらの入力−出力サンプルは、
色空間全体に均一に分布する標準マクベスカラーチェッカ(standard ColorChec
ker)又はマンセルカラーパッチ(Munsell color patch)を用いて集められる。
【0047】 なお、ある単一の光源下でデータが集められる場合、課題はいわゆる単一光源
の問題となり、この問題はイメージスキャナによって撮像された画像の色補正に
おいて偏在するものである。
【0048】 MLPを用いた複数の光源での色補正 FIG.5に示すように、(画像の撮像時の)任意の光源下で電子カラーカメ
ラによって撮像された画像の色補正を自動的に行うために、MLPモデルが用い
られる。MLPモデルは、機器独立補正の場合、画像の撮像時に用いられる光源
によって、そのマッピング、すなわち電子カラーカメラの逆写像を自動的に調整
するように学習させられる。以下、これを「複数光源(multi-illuminant)」色
補正と呼ぶ。画像の撮像時にどの光源が用いられたかを正確に知ることは難しい
ので、MLPモデルは、電子カラーカメラが内蔵する光源推定データ(すなわち
ホワイトバランスデータ)を用いる代わりに、FIG.5の上部に示すように、
例えば光源の色に対して測定されたR、G、Bから得られるR/G値及びB/G
値を用いる。FIG.5において、「パナホワイト」は、日本国大阪の松下電器
産業株式会社によって日本で販売されている「白色」蛍光管の商標である。「メ
ロウd」は、日本国東京の東芝ライテック株式会社によって日本で販売されてい
る「自然光」タイプの蛍光管の商標である。なお、FIG.5の上部(ホワイト
バランス面)の代わりにFIG.13を用いてもよい。
【0049】 複数光源に対する色補正において用いられるMLPモデルには、光源情報を入
力するためのさらなるノードが必要である。例えば、光源の色度が2つの値のセ
ットで示される場合は、2つのさらなる入力ノードが用いられる。その結果、こ
の課題におけるMLPモデルは、FIG.5に示すように、参照符号17、18
、19、20、21でそれぞれ示される5つの入力ノードB/G、R/G、Y、
U、Vと、参照符号22、23、24でそれぞれ示される3つの出力ノードX、
Y、Zとを有する。出力X、Y、Zは、変換、正規化、符号化及び/又は圧縮さ
れた後、磁気ディスク、光ディスク、光磁気ディスク、個体メモリ等の記録媒体
に記録されたり、インターネット、電話回線、専用線、無線、光媒体等の伝送媒
体を介して伝送されてる。
【0050】 本発明の実施の形態では、複数光源の色補正モデルを学習するために、以下の
ステップが用いられる。 (1)複数の代表的な光源下において、電子カラーカメラからの出力値と、カラ
ーサンプルのセットからの測色値(機器独立補正に対して)とを測定する。ここ
で、Nは、カラーサンプルの数であり、Mは、対象とする代表的な光源の数であ
り、したがって、教示データセットの総量は、N*Mである。 (2)各光源について、ホワイトバランスを合わせるためのRGBチャンネルの
ゲインデータを測定するか、又は光源の色に対するRGBチャンネルの信号値を
測定する。 (3)測定された3つの値を、例えばR/GとB/Gのような2つの色度値(ch
romaticity value)に変換する。これらのデータは、後述するCANFISニュ
ーロ−ファジイモデルのためのファジイメンバーシップ関数を構築する方法にお
いて、光源情報をより特性付けるために、更なる処理が施される。 (4)上述したように、MLPは、データセット(1)を用いて学習させられる
。同時に、データ(1)が測定されるときの光源情報であるデータセット(3)
が入力ノード17(B/G)及び18(R/G)供給される。
【0051】 上述したステップが完了した後、MLPモデルは、電子カラーカメラの出力値
と光源情報を入力することによって、元の場面の測色値を出力する。電子カラー
カメラの色変換における光源依存性は、光源情報を参照することによって自動的
に補償される。画像の撮像時に実際に用いられた光源が、MLPの学習に用いら
れた代表的な光源のいずれにも一致しないときは、MLPは、電子カラーカメラ
の光源間の色変換の逆写像を自動的に近似する。
【0052】 MLPモデルの学習法 MLPは、非線形特性を有しているので、上述したNN非線形の最小二乗の問
題を解くための有効な反復法が求められる。多くの試験によって、レベンバーグ
−マーカート式のアルゴリズム(Levenberg-Marquardt type algorithm)のドッ
グレッグトラストリージョン(dogleg trust region)の実施がこの問題を解く
のに有効であることが分かった。より詳しくは、ドッグレッグ(dogleg)法によ
って、トラストリージョン(trust region)内での制限されたレベンバーグ−マ
ーカート(Levenberg-Marquardt)ステップの有効な区分的線形近似が導かれる
【0053】 FIG.6A及びFIG.6Bは、コーシー(Cauchy)ステップとニュートン
(Newton)又はガウス−ニュートン(Gauss-Newton)ステップによって描かれた
2次元のサブスペースにおいて、ドッグレッグステップがトラストリージョンス
テップを近似する様子を示している。(FIG.6Aで強調表示されている)区
分的線形のくの字形の軌道とトラストリージョンの境界線との接点は、次の3つ
のステップのうちの1つによって導かれる。 1.制限コーシーステップ
【0054】
【数1】
【0055】 トラスト半径(trust radius)Rnowが、上記の式で表されるコーシーステ
ップSCauchyの長さよりも短いとき、制限コーシーステップは次にように
表される。
【0056】
【数2】
【0057】 ここで、gとHは、それぞれグラディエントベクトル(gradient vector)と
ヘシアンマトリクス(Hessian matrix)である。 2.ニュートンステップ トラスト半径が、ニュートンステップの長さ以上であるとき、ニュートンステ
ップは次のように表される。
【0058】
【数3】
【0059】 3.ドッグレッグステップ トラスト半径がコーシーステップとニュートンステップとの間の長さであると
き、ドッグレッグステップは次にように表される。
【0060】
【数4】
【0061】 モデルの最適化のために、これらのステップのうちの1つが、次のような反復
方式によって、反復毎に用いられる。
【0062】 θnextnow+ηd ここで、dは方向ベクトルであり、ηはその方向に進む程度を規制する特定の
正のステップの大きさである。FIG.6Aのパラメータhは、次のような単純
な計算で求められる。
【0063】
【数5】
【0064】 ここで、Pnowは次のようである。
【0065】
【数6】
【0066】 ドッグレッグトラストリージョン法の利点は、そのアルゴリズムを強力にして
、最急降下法(全体の収束特性(global convergence property))とニュート
ン法(速い局部的な収束特性(fast local convergence property))とをスム
ーズに切り替えられることである。例えば、次のステップが不具合であるとき、
ドッグレッグアルゴリズムはそのステップの長さを短くして、単一のトラストリ
ージョン制御に基づいて、そのステップを同時にかつ効果的に最急降下の方向に
曲げる。
【0067】 以下の表1は、単一の光源(D65−光源)の問題における3つの代表的な非
線形の最適化のアルゴリズムの収束速度を比較している。
【0068】
【表1】
【0069】 これは、3つの代表的な学習アルゴリズムにおける、TRC−マトリクス式の
モデルとMLPモデルとの間の測定されたXYZ値の二乗平均誤差を比較してい
る。なお、最後の列「停止期間(stopped epoch)」において、7個の隠れユニ
ットを用いた(3×7×3)モデルにのみ、必要な実行時間が括弧書きで示され
ている。表1から明らかなように、単一光源の色補正の問題においては、ドッグ
レッグ主導のレベンベルグ−マルカルドのアルゴリズムを用いる場合が、表1に
示す他の試験された学習法を用いる場合よりも速く収束する。このようなパフォ
ーマンスの比較は、Color device characterization of electronic cameras by
solving adaptive networks nonlinear least squares oriblems, Eiji Mizuta
ni (本出願の発明者), Kenichi Nishio (本出願のもう1人の発明者), Naoya Ka
toh and Michael Blasgen, 8th IEEE International Conference on Fussy Syst
ems (FUZZ-IEEE' 99), Seoul, Korea, August 22-25, 1999で更に論じられてい
る。この論文とその図面は、参考のために添付してある。さらに、ドッグレッグ
トラストリージョンのアルゴリズムは、Computing Powell's Dogleg Steps for
Solving Adaptive Networks Nonlinear Least Squares Problems, Eiji Mizutan
i(本出願の発明者),8th International Fuzzy Systems Association World Cong
ress (IFSA'99), Hsinchu, Taiwan, August 17-20, 1999とPowell's dogleg tru
st-region steps with the quasi-Newton augmented Hessian for neural nonli
near least-squares learning, Eiji Mizutani(本出願の発明者), The IEEE Int
ernational Conference on Neural Networks, Washington D.C., July 10-16, 1
999とで更に論じられている。この2つの論文とその図面は、参考のために添付
してある。
【0070】 FIG.7は、単一のMLPアプローチと、従来のルックアップテーブルに基
づいた(TRC−マトリクス)アプローチとのD65光源下での色差を比較して
いる。ここでは、25個の全ての色差(24個のマクベスカラーチェッカと1個
の「完全な黒」のカラーサンプル)が10より小さくなければならない。MLP
に基づいた方法では、色差がD65光源下で25個の全てのカラーサンプルにお
いて上限のしきい値(10に設定されている)を下回っているのに対し、従来の
ルックアップテーブルに基づいた(TRCマトリクス)方法ではそのようになっ
ていないことが、FIG.7によって明確に示されている。
【0071】 CANFISニューロ−ファジイモデルを用いた複数光源での色補正 CANFISニューロ−ファジイモデルは、問題に特定された知識に基づいて
自動的に「複数光源」での色補正を行うために特に作られており、この問題に特
定された知識とは、ファジイif-then規則の集合を表す。具体的には、「IF部」
はファジイメンバーシップ関数(MF)で表され、「THEN部」はローカルエキス
パート(local-expert)MLPによって構築されている。これは、いわゆる「ニ
ューラル規則を持ったCANFIS」モデルである。
【0072】 具体的には、ファジイメンバーシップ関数を構築する方法に関して後述するよ
うに、4つのファジイ規則が、ファジイ分割に従って、2次元に変換されたホワ
イトバランス面上に示されている。その結果のCANFISニューロ−ファジイ
モデルは、FIG.8に示すように、4つのファジイMF(各軸に2つずつ)と
4つの対応するローカルエキスパートMLPからなる。入力ベクトルは、IF部(
MF)とTHEN部(MLP)の次の2つのベクトルに分割される。
【0073】 1.ファジイMFに供給される撮像時の光源情報である2つの入力信号 2.ローカルエキスパートMLPに供給される電子カラーカメラからの出力信
号(例えばYUV)である3つの入力信号 CANFISモデルは、次の式によって、ローカルエキスパートMLPからの
出力信号の処理された合計を、最終的な出力ベクトルA(例えばX、Y、Zの色
信号)として計算する。
【0074】
【数7】
【0075】 ここで、gとOは、それぞれi番目の発火強度(firing strength)とi番目
のMLPの出力ベクトルである。各発火強度は、IF部のMF出力からの出力信号
によって求められたものであり、対応するTHEN部のMLPが最終的な出力にどれ
だけ影響を与えたかを表している。この文脈では、IF部のMFの集合は、発火し
たTHEN部のMLPからの出力を統合した集積部としての役割を果たす。
【0076】 通常、集積部はベル形の微分可能なファジイMFからなっており、その近隣の
MFと十分な重複部分があるように設定されている。したがって、対応する全て
のローカルエキスパートMLPは、Aの値を導く式によって最終的な出力を出す
ように補間的に機能する。一方、集積部が重複部分のない長方形のMFでできて
いて、スイッチング部となっている場合、単一のローカルエキスパートMLPの
みが最終的な出力に貢献することになる。g値のうちの1つのみが「ユニット
」となり、それ以外は全て「0」となる。このような単一の0でないgは、i
番目の「発火した」ローカルエキスパートMLPと対応している。すなわち、ロ
ーカルエキスパートMLPは、補間的というよりむしろ競合的に機能している。
換言すれば、CANFISの概念は、スイッチングのような極端なケースを除い
て、基本的にファジイMFとローカルエキスパートMLPの中の相乗作用にある
【0077】 CANFISモデルには、ローカルエキスパートMLPにのみ適切な建設的又
はアルゴリズミックな修正を行うだけで、(ファジイ規則が意味のある限界に保
たれるように)ファジイMFの数を増やさずに、学習能力を増大させることがで
きるという利点がある。例えば、このような修正によって、MLPの隠れノード
/レイヤの数が調整される。なお、THEN部のMLPの隠れ部分が取り除かれると
、CANFISモデルはローカルチューニングラジアル基底関数ネットワーク(
Radial Basis Function Network:RBFN)モデルとされてもよい。すなわち
、CANFISモデルは汎用のローカルチューニングニューラルネットワークと
見なされてもよい。
【0078】 このモデルの欠点を挙げるとすれば、単一のMLPモデルと比較して、構造が
複雑で、より多くの学習データが必要であるために学習が遅いことである。した
がって、課題が限られた少ない量の学習データのみを有する場合は、単一のML
Pモデルを選択する方がよい。複数光源での色補正のためのCANFISニュー
ロファジイモデルを学習する方法とともに、CANFISモデルによって得られ
た実験結果を以下に示す。
【0079】 線形規則のあるCANFISのモデルは、周知の高木−菅野(「TSK」又は
「菅野式」とも呼ばれる)ファジイ推論モデルと同等である。制御工学の分野で
は、迅速な応答が重要であるため、このTSKモデルは圧倒的に最も広く用いら
れているファジイシステムである。この迅速さは、線形規則の実行が非線形規則
の実行より遙かに単純であるために計算上の優位があるからである。
【0080】 CANFISモデリングと線形規則を持ったCANFISは、テキストNeuro-
Fuzzy and Soft Computing, A Computational Approach to Learning and Machi
ne Intelligence, by Jyh-Shing Roger Jang, Chuen-Tsai Sun and Eiji Mizuta
ni(本出願の発明者), Prentice Hall, Upper Saddle River, New Jersey 07458,
1997, third printingの369〜400頁及び572〜592頁で詳しく説明
されている。このページ部分とその図面は、参考のために添付してある。
【0081】 上述したCANFISニューロ−ファジイモデルを用いた複数光源での色補正
のためのファジイメンバーシップ関数を構築する方法 ファジイ分割 CANFISニューロ−ファジイモデルでは、ファジイメンバーシップ関数(
MF)がMF入力空間を複数のローカルエキスパートの領域に分割する。したが
って、ある特定のローカルエキスパートの領域の中心に近づいたデータはそのほ
かのローカルエキスパートのパラメータの更新にそれほど影響を受けない。この
ローカルチューニングの機構によって、「ローカルエキスパート」が主にそれ自
体のローカル領域の近辺で局地的に最適に学習することができる。
【0082】 FIG.9に示す複数光源の問題において、ハロゲンの光源の領域のデータは
、ホワイトバランス面上の「自然光の光源」曲線の他端にあるD90光源の領域
のローカルエキスパートのMLPに大きな影響を与えないようになっている。こ
れらの2つの対極する領域は適切な分割により何かしらの方法で分割されている
はずである。ファジイMFは、FIG.10に示すように、(「はっきり」では
なく)「あいまい」な方法で、ホワイトバランス面上の光源の領域を分割するの
に重要な役割を果たしている。FIG.10において、ハロゲンとD65の2つ
の代表的な光源が選択され、「自然光の光源」の曲線に対応するX軸上の2つの
MFの最初の中心点が決定される。これは、その曲線におけるその位置が課題の
中で重要な特性として選択されていることを意味する。FIG.10におけるX
軸上の2つの符号「A1」と「A2」は、それぞれ「ハロゲン」と「D65」を
表しており、ここでは、 A1−MFの値/程度は、その光源が「ハロゲン」の光源にどれだけ近いかを
示しており、 A2−MFの値/程度は、その光源が「D65」の光源にどれだけ近いかを示
している。
【0083】 1つの特性だけでは、各光源の領域を適切に示すのに十分でないことは明白で
ある。別の重要な特性は、「自然光」の光源と「蛍光」の光源との区別である。
したがって、2つの対応するMF(「蛍光」はB1で、「自然光」はB2)がY
軸に構築されており、蛍光の光源と自然光の光源との近さを表している。ここで
は、 B1−MFの値は、「蛍光」の光源の曲線にどれだけ近いかを示しており、 B2−MFの値は、「自然光」の光源の曲線にどれだけ近いかを示している。
【0084】 このように、FIG.9の「混合」の曲線における各混合した光源は、例えば
、40%の自然光の光源と60%の蛍光の光源からなる光源の場合のように、「
自然光」の光源又は「蛍光」の光源に対するメンバーシップの程度によって特性
付けされている。FIG.9において、「ルピカエース」は、日本国東京の三菱
電機株式会社によって日本で販売されている「自然光」タイプの蛍光管の商標で
ある。FIG.9とFIG.10におけるX軸とY軸は等しくないため、特定の
「非線形」の座標変換が必要である。このような座標変換を以下に示す。
【0085】 ホワイトバランス面における非線形座標変換 FIG.11は、元のR/B−G/Bのホワイトバランス面における試験的な
データセットの実際のデータ分布を示している。FIG.11をFIG.10に
合わせるには、適切な座標変換を行う必要がある。まず、単純な目盛の均等化が
行われ、FIG.12のようになる。次に、ニューラルネットワーク非線形座標
変換が行われ、FIG.13のようになり、FIG.13はFIG.10の座標
と合うデカルト座標となっている。なお、多くの他の非線形変換でもよい。
【0086】 非線形座標変換によって、単純な「格子」分割が行われるため、これの重要性
は軽視できない。ラジアル基底関数ネットワーク(radial basis function netw
ork:RBFN)によってよく作られる「散布」分割には幾つかの利点がある。
RBFNは、上述したテキストNeuro-Fuzzy and Soft Computing, A Computatio
nal Approach to Learning and Machine Intelligenceの238〜246頁及び
369〜400頁、特に373頁の図13.3で詳しく説明されており、このペ
ージ部分とその図面は、参考のために添付してある。
【0087】 更に詳しくは、非線形座標変換には次の利点がある。 1.言語的解釈性は十分に高く保たれ、人間の直感的な理解に合致する。 2.要求される(基礎)関数の数が少なくなる。
【0088】 利点1は、散布又は樹形の分割の場合には明確な言語的ラベルが各MFにうま
く現れないことを示唆している。利点2は、例えば、X−Y座標面上に9つのロ
ーカル領域を作るために、RBFNでは9つの基礎関数が必要であるのに対して
、CANFISモデルでは6つのMF(各軸に対して3つのMF)が必要である
ということを示している。したがって、関数パラメータの総数が異なることにな
る。分割に関するより詳細な説明は、上述したテキストNeuro-Fuzzy and Soft C
omputing, A Computational Approach to Learning and Machine Intelligence
の86、87頁でなされており、このページ部分とその図面は、参考のために添
付してある。
【0089】 複数光源での色補正のためのCANFISニューロ−ファジイモデルの学習法 CANFISニューロ−ファジイモデルを用いた複数光源での色補正に関連し
て、上述したCANFISニューロ−ファジイモデルを学習するために、多くの
非線形最適化アルゴリズムを採用してもよい。モデルは、FIG.8に示すよう
に、次の2つの主なパラメータの成分からなる。
【0090】 (1)ファジイMF(IF部) (2)ローカルエキスパートMLP(THEN部) これら2つの成分のパラメータを更新するための最適化アルゴリズムを適用する
のには多くの選択肢がある。例えば、次の方法がある。
【0091】 (方法A)IF部のMFとTHEN部のMLPの両方に同じ最適化アルゴリズムを適
用する。
【0092】 (方法B)IF部のMFとTHEN部のMLPに異なる最適化アルゴリズムを適用す
る。
【0093】 これらの方法は、システム主体又は構成要素主体のいずれかの方法で実施され
うる。システム主体の学習では、CANFISニューロ−ファジイモデルのMF
とMLPの全ての構成要素は、1つのシステムとして同時に学習させられ、その
最終的な出力は上述したようにAの値を出すための上述した式によって計算され
る。構成要素主体の学習では、各MF又はMLPは、独立して調整/学習させら
れ、全ての構成要素がまとめられてCANFISニューロ−ファジイモデルを構
成し、その最終的な出力は上述したようにAの値を出すための上述した式によっ
て計算される。
【0094】 FIG.8を参照して、構成要素主体法についてより詳細に説明すると、各ロ
ーカルエキスパートMLPは、通常所望の最終的な出力ベクトルA(すなわち、
X、Y、Z)を出力ベクトルOとして出力するように学習させられる。一方で
、システム主体の学習法では、(上述した)最終的な出力ベクトルAは所望の3
つの値X、Y、Zに合致するようになされているが、各ローカルエキスパートM
LPの出力ベクトルOは必ずしもそれに近くなくてもよい。すなわち、出力ベ
クトルOは不明でもよい。FIG.8には、各ローカルエキスパートMLPの
3つの出力ノードがX、Y、Zによって表されているが、これは、単にどのノー
ドがどの信号と対応しているかを示すためである。
【0095】 更に、教示データの処理によって次の3つの異なるパラメータ更新モードがあ
る。
【0096】 (1)オンラインのパターン毎の更新モード (2)ブロック毎の更新モード (3)バッチ更新モード したがって、CANFISモデルへの最適化アルゴリズムの適用方法は多くあ
る。なお、方法Aと方法Bのいずれが用いられるかに関わらず、構成要素主体の
学習は、高精度な結果を得るのには疑問がある。これは、上述したようにAの値
を出すための上述した式に依存しているにもかかわらず、ローカルエキスパート
MLPの出力は、ファジイMFの発火強度から独立して最適化されているからで
ある。したがって、カラー画像の色補正に必要なように、CANFISモデルに
よって非常に正確な入力/出力マッピングを行うことが必要なときは特に、もう
一方のシステム主体の学習のほうが遙かに実用的に重要である。
【0097】 概して、ニューロ−ファジイシステムにおいて、MFのパラメータと比べると
MLPのパラメータは最適値からかけ離れているという重要な見解が得られる。
これは、ファジイMFの初期のパラメータは問題に特定された知識に基づいて決
定されているのに対して、ローカルエキスパートMLPの初期のパラメータは任
意に初期化されているためである。したがって、MFとMLPに対して異なる最
適化アルゴリズムを適用する(すなわち、方法Bを採用する)こと、特に、ML
Pに対してより速いアルゴリズムを、MFに対してより遅いアルゴリズムを適用
することが可能である。この考え方での典型的な実施は、ANFIS(すなわち
、線形規則を持った単一出力のCANFISモデル)によるハイブリッド学習で
あり、これは、「線形」の後項(consequent)ファジイシステムに限られるが、
速い「線形」の最小二乗と遅い最急降下法との組み合わせである。このようなハ
イブリッド学習は、上述したテキストNeuro-Fuzzy and Soft Computing, A Comp
utational Approach to Learning and Machine Intelligenceの219〜220
頁及び222〜223頁で詳しく説明されており、このページ部分とその図面は
、参考のために添付してある。
【0098】 システム主体の学習法による方法Aは、ニューラル規則を持ったCANFIS
モデルと同じ考え方で考えられてもよい。例えば、「バッチ」モードでMFに最
急降下法を適用し、「オンラインのパターン毎」のモードでMLPに最急降下法
を適用することによるものである。この方策は、次の単純な発見的規則によって
改善される。
【0099】 規則:ファジイMFのパラメータを学習段階のうちの初期段階で修正する。
【0100】 表2は、チェックエラーが縮小されるか又は所定の反復制限数である2000
000にされるとき、MLP及びCANFISモデルによって得られる4つの代
表的な結果を示している。「パラメータ数」欄はパラメータの数を示し、「RM
SE」は二乗平均誤差を示している。「不適切なサンプル数」と書かれている欄
は最も重要で、色差が上限のしきい値(10に設定されている)より大きかった
カラーサンプルの数を示している。4つのモデルは全て、オンラインのパターン
毎の更新モードで、広く用いられている最急降下法を用いて学習させられる。
【0101】
【表2】
【0102】 実験#4の結果は、次の発見的規則を用いて得られた。
【0103】 規則:ファジイMFのパラメータを500000回の後に更新し始める。
【0104】 出力色空間の選択 本発明の開示では、色補正モデルの出力色空間としてXYZ空間が主に用いら
れている。先に述べたように、機器独立色補正では、出力色空間はL*a*b又
はXnYnZn(正規化されたXYZ空間)でもよい。機器固有色補正では、カ
ラー画像の撮像機器にとって色補正の出力となるならば、いかなる色空間でもよ
いし、又はユーザの特定の要求に従って任意に定義された色空間でもよい。出力
色空間を変えるには、目標の出力データを色補正モデルの教示データセットに変
えるだけで達成される。
【0105】 光源への依存性に関して上述したように、光源の色においてR=G=Bが保た
れるように電子カラーカメラの出力値がホワイトバランス補正されている。Xn
YnZnとL*a*bの色空間も、その定義において同様に動作し、3つの刺激
値は光源の色の値によって正規化される。このような色空間は、正規化された色
空間と称される。この動作は人間の目の色順応を表している。
【0106】 FIG.1に示すように、電子カラーカメラの出力値は、ガンマ補正されたR
GBに基づいている。L*a*bの色空間の定義においても同様の動作が行われ
、このような色空間は非線形の色空間と見なされる。非線形マッピングは、明度
(人間の輝度認識の基準)との相関を表し、色の物理的特性よりむしろ人間の目
によって認識された色を説明する。
【0107】 XYZのような正規化されていない線形の色空間は、複数光源色補正モデルの
出力色空間として用いられるとき有効である。電子カラーカメラにおいて自動的
に行われる光源の推定が間違っているために、電子カラーカメラによって撮像さ
れた画像の白色点が間違ってしまうことがある。このような場合のために、色補
正モデルの出力空間がXYZである場合は、白色点の補正は、画像の撮像後に電
子カラーカメラの外で行われてもよい。出力空間が非線形の色空間である場合は
、出力データは白色点の補正を行うためにいったん線形空間に供給されなければ
ならないため、白色点補正はより複雑になる。
【0108】 光源への依存性に関して上述したように、電子カラーカメラの色変換は、その
ホワイトバランスの設定に基づいて行われる機能である。撮像時の光源の推定が
正しくても正しくなくても、電子カラーカメラの色変換は、例えばR/GとB/
Gといった電子カラーカメラのホワイトバランス情報を参照して独自に決定され
る。したがって、入力画像の白色点が間違っていても、複数光源色補正モデルか
ら出力されるXYZ値は、元の色の物理的特性を正確に表している。ユーザは、
白色点が電子カラーカメラによって撮像された画像において違っていると分かっ
たときは、ユーザはまず、複数光源色補正モデルからのXYZで示される画像デ
ータを出力し、次に、撮像時に行うとしたら計算処理上費用がかかりすぎてしま
うような洗練された方法を用いて、画像の光源を推定し直すことができる。この
方法によって、補正された色空間における画像データに対して再調整が行われる
ため、白色点だけでなく、その再調整された白色点の周辺に分布された色も正確
になる。正規化されていない線形の色空間も、イメージセンサからの出力(生の
画像データ)の部分に作られた空間となることができる。
【0109】 色の恒常性 画像の撮像時にどの光源が実際に使われても、D50(CIEによって規定さ
れている色温度が5000Kの白色光)のような1つの定まった標準の光源下で
画像が撮像されたかのような色を再現する電子カラーカメラを多くのユーザは好
むことが知られている。これは、「色の恒常性」の色再現と呼ばれる。MLP又
はCANFISニューロ−ファジイモデルのいずれかを用いて、上述した複数光
源色補正モデルの教示データセットを適切に修正することにより、上述した「色
の恒常性」を持った色補正が容易に実現される。
【0110】 なお、本発明に適用できるニューラルネットワークの一例として、MLPを挙
げているが、ラジアル基底関数ネットワーク(radial basis function network
:RBFN)や、モジュラーニューラルネットワーク等の他の種類のニューラル
ネットワークを用いてもよい。
【0111】 また、本発明の各実施の形態はコンピュータ上で動作するソフトウェアとして
実行されてもよいし、又はコンピュータ上で動作する画像処理ソフトウェアの機
能を果たすものとして実行されてもよい。このような例では、そのソフトウェア
によって画像データファイルが開かれてもよいし、また、本発明のどの実施の形
態も、JPEG、JIF又はBMPフォーマットのファイルのような画像データ
に適用されて、そのような画像データに対して色補正が行われるようにしてもよ
い。
【0112】 更に、本発明に係る方法及び装置は電子カラーカメラの中のイメージセンサの
ようなカラー撮像機器の構成要素の特性付けを行うために適用されてもよい。さ
らにまた、このような特性付けは、そのようなイメージセンサの質が所望のもの
ではない場合にそれを補正するのに用いられてもよい。
【0113】 特定の実施の形態のみが詳細に説明されたが、この分野において普通の能力を
有する人は、ここで説明したことから逸脱することなく多くの応用が可能である
ことを十分に理解しているであろう。このような応用は全て、添付の請求項の範
囲内に含まれるはずである。
【図面の簡単な説明】
【図1】 FIG.1は、イメージスキャナと電子カラーカメラの両方に採用されている
信号処理を示すブロック図である。
【図2】 FIG.2は、FIG.1の信号処理に続いて採用される逆の信号処理を示す
ブロック図である。
【図3】 FIG.3は、補色電子カラーカメラにおいてよく用いられる信号処理を示す
ブロック図である。
【図4】 FIG.4Aは、電子カメラにおける色変換の逆写像(又はマッピング)の生
成にニューラルネットワークを導入した本発明を適用した色補正装置の実施の形
態を示すブロック図である。
【図5】 FIG.4Bは、電子カメラにおける色変換の逆写像(又はマッピング)の生
成に多層パーセプトロンを導入した本発明を適用した色補正装置の実施の形態を
示すブロック図である。
【図6】 FIG.5は、色補正され、出力空間で変換された画像の生成に単一の多層パ
ーセプトロンを導入した本発明を適用した色補正装置の実施の形態を示すブロッ
ク図である。
【図7】 FIG.6Aは、コーシー(Cauchy)ステップとニュートン(Newton)ステッ
プによって決定された区分的線形曲線を有し、θCauchyを通る軌道によっ
てθNowとθNewtonyとを結ぶドッグレッグ(dogleg)軌道を示す図で
ある。
【図8】 FIG.6Bは、θNowに通じており、トラストリージョン(trust regio
)内において制限されたレベンバーグ−マーカート(Levenberg-Marquardt)ス
テップに対する区分的線形近似であるドッグレッグ(dogleg)ステップを示す図
である。
【図9】 FIG.7は、単一の多層パーセプトロンアプローチと、従来のルックアップ
テーブルに基づいた(TRC−マトリクス)アプローチとのD65光源下での色
差の比較を示すグラフである。
【図10】 FIG.8は、本発明を適用したCANFISニューロ−ファジイモデルの構
成を示す図である。
【図11】 FIG.9は、代表的な光源と、それに関する「自然光」と「蛍光」の曲線を
示すグラフである。
【図12】 FIG.10は、変換されたホワイトバランス面での4つのベル形のメンバー
シップ関数によるあいまいな分割を示すグラフである。
【図13】 FIG.11は、ホワイトバランス面の元の座標におけるデータ分布を示す図
である。
【図14】 FIG.12は、ホワイトバランス面の正規化された座標におけるデータ分布
を示す図である。
【図15】 FIG.13は、ホワイトバランス面の変換された座標におけるニューラルネ
ットワークによって変換されたデータ分布を示す図である。
【手続補正書】特許協力条約第19条補正の翻訳文提出書
【提出日】平成12年9月18日(2000.9.18)
【手続補正1】
【補正対象書類名】明細書
【補正対象項目名】特許請求の範囲
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項96】 電子カメラによって撮像された画像データを伝送するデータ
伝送方法において、 カラー画像を撮像して、上記画像を表すデータを出力するステップと、 上記撮像されたカラー画像における光源を推定して、上記推定された光源を表
すデータを出力するステップと、 上記画像を表すデータと上記推定された光源を表すデータとを伝送するステッ
プとを有するデータ伝送方法。
【手続補正書】
【提出日】平成13年3月6日(2001.3.6)
【手続補正1】
【補正対象書類名】明細書
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【発明の名称】 カラー機器の特性付け方法及び装置、画像色補正方法及び装置
、カラー画像データ伝送及び/又は記録方法及び記録媒体
【特許請求の範囲】
【発明の詳細な説明】
【0001】
【発明の属する技術分野】 本発明は、画像の色補正(color correction)に関し、特に電子カラーカメラ
(electronic color camera)により得られるカラー画像の色補正を行い、色補
正データを出力(transmission)する色補正方法及び装置(color device chara
cterization)と、カラー画像の色補正データを記録した記録媒体に関する。
【0002】
【従来の技術】 従来、電子カラーカメラによって撮像された画像に対して色補正を行う方法に
は2つの方法がある。第1の方法は、電子カラーカメラの出力データを、色精度
(color accuracy)を高め、電子カラーカメラの出力色空間(output color spa
ce)と等しい色空間に直接変換するものである。例えば、電子カラーカメラの出
力空間が後述するYUVであるとき、その色補正モデル(color correction mod
el)の入力及び出力空間は、YUVであるが、その出力されたYUVデータの色
精度は高くなっている。以下、この方法を「機器固有色補正(device specific
color correction)」と呼ぶ。「YUV」は画像伝送においてよく用いられる色
表現(color representation)である。「Y」は輝度を表し、「U」は青から黄
を引いた色にほぼ一致する色の要素を表し、「V」は赤からシアンを引いた色に
ほぼ一致する色の要素を表している。他の色表現としては、「RGB(赤、緑、
青)」や、1つの輝度要素と2つの色差要素からなる色空間を表す「YCC」が
ある。上述したYUVは、YCC色表現の一例である。YIQは、YCC色表現
の他の例であり、ここで、「I」は黄色っぽい赤から薄い青を引いた色にほぼ一
致する色の要素を表し、「Q」は紫から緑色っぽい黄を引いた色にほぼ一致する
色の要素を表す。YCbCr(輝度、色差−青、色差−赤)は、YCC色表現の
更に他の例である。
【0003】 色補正の第2の方法は、2つのステップに分割される。第1のステップでは、
電子カラーカメラの出力色空間は、一旦元の測色空間(colorimetric space、X
YZ又はL*a*b)に変換される。この測色空間は、国際照明委員会(Intern
ational Illumination Committee:CIE、元々フランス語で公表されている)
によって定められた空間である。測色空間は、人間の目によって認識される自然
の物体の色を表現するものである。測色空間で表現された色情報は、電子カラー
カメラによって撮像された画像の元の色に一致する。第2のステップにおいて、
このような測色空間に変換された色情報は、出力機器(コンピュータのモニタ又
はプリンタ)に特化された色空間に変換され、その全体の画像処理操作(entire
image path)によって表色的に正確な色表現が実現される。この2つのステッ
プの概念は、国際色彩委員会(International Color Committee:ICC)にお
けるカラープロファイルフォーマット(color profile format)に即しており、
このプロファイルフォーマットは、色表現に比較的高い精度が求められるコンピ
ュータの画像処理において広く用いられているフォーマットである。ICCの概
念に基づいた色補正の分野では、中間測色空間(intermediate colorimetric sp
ace)は、しばしば「機器独立色空間(device independent color space)」と
呼ばれる。したがって、この色補正方法は、「機器独立色補正(device indepen
dent color correction)」と呼ばれる。
【0004】 上述した機器独立色補正を行うためには、電子カラーカメラの色変換の逆写像
(inverse function)を求める必要がある。このステップは、電子カラーカメラ
のための「カラー画像機器の特性付け(color device characterization)」と
呼ばれ、電子カラーカメラによって撮像された画像の色補正を行う際に、このよ
うな特性付けが採用される。電子カラーカメラの色変換の逆写像を求める従来の
方法は、イメージスキャナ(image scanner)の色変換の逆写像を求めるために
広く用いられている方法を応用したものである。ほとんどの電子カラーカメラは
、イメージスキャナの信号処理と類似した信号処理を行っているので、この方法
は効果的であると考えられている。
【0005】 FIG.1は、イメージスキャナとほとんどの電子カラーカメラの両方におい
て採用されている信号処理を示すブロック図である。FIG.1に示すように、
イメージセンサカメラ100のイメージセンサ104に入力されるデータを、測
色空間XYZにおけるデータとすると、これらのデータは、入力端子101、1
02、103にそれぞれ供給される。イメージセンサ104の出力空間はRGB
であり、イメージセンサカメラ100の出力空間はYCCである。イメージセン
サカメラ100からの出力データは、それぞれYデータ、Cデータ、Cデータに
対応している出力端子110、111、112から得られる。
【0006】 FIG.1に示すイメージセンサカメラ100における色変換の逆写像を近似
するために、FIG.2に示す単純な逆方向モデル(inverse-model)を用いる
ことができる。FIG.2において、各ブロックは、FIG.1における対応す
るブロックの逆変換を行う必要がある。対応するブロックは、104と124、
151と161、152と162、153と163、109と122である。特
に、マトリクス回路(matrix)104、109は、それぞれマトリクス回路12
4、122の逆マトリクス回路である必要がある。通常、1次元ルックアップテ
ーブル(one-dimensional lookup table:1D−LUT)151、152、15
3によって実現されている階調特性曲線(tone reproduction curve:TRC)
は、それぞれ1D−LUT161、162、163の逆写像である必要がある。
この色補正モデルは、マトリクス回路とTRCからなるため、「TRC−マトリ
クスモデル(TRC-matrix model)」と呼ばれる。
【0007】 FIG.1及びFIG.2に示すように、イメージセンサ104の色変換は、
3×3マトリクス回路124による線形変換(linear transformation)で近似
される。電子カラーカメラの色理論(color science)によれば、イメージセン
サのスペクトル分解特性(spectral analysis characteristics)は、CIEに
おいて規定されている等色関数(color matching function)xyzの線形結合
(linear combination)で表されるのが理想であるとされ、これらの関数は、人
間の目の色感度を表すスペクトル関数のセット(set)である。全ての電子カラ
ーカメラは、これらの理想的な特性を指標として設計されているため、多くの場
合、3×3マトリクス回路は、電子カラーカメラで用いられるイメージセンサを
近似することができ、これにより、電子カラーカメラの色変換の逆写像を非常に
正確に求めることができる。しかしながら、このTRC−マトリクスモデル法(
TRC-matrix model approach)では、条件により正確な色補正が行えない場合が
ある。
【0008】 近似の精度(approximation accuracy) イメージセンサの色変換を、TRC−マトリクスモデルにおける3×3マトリ
クス回路(FIG.2の124)でうまく近似することができないとき、正確な
色補正を行うことができなくなる。この状態は、多くの初歩的な電子カラーカメ
ラにおいて生じることがある。また、この状態は、電子カラーカメラの信号処理
が、FIG.1に示す構成に一致せず、FIG.2に示す構成が、もはや電子カ
ラーカメラの逆モデルでないときに生じる。例えば、FIG.3は、CMYG(
シアン、マゼンタ、イエロー、グリーン、「補色(complementary color)」と
もいわれる。)の電子カラーカメラにおいて通常用いられている信号処理を示す
ブロック図である。一見して、FIG.2は、FIG.3の信号処理の逆モデル
として機能することができない。また、CMYG電子カラーカメラの信号処理を
行うための構造が複雑なため、FIG.3に示す回路によって行われる信号処理
の単純な逆モデルを構築することは容易ではない。
【0009】 光源依存性(illuminant dependency) 電子カラーカメラには、それがスチルカメラであるか、静止画を連続して、又
は動画を記録するカメラであるかに関わらず、特有の問題、具体的には色変換が
光源に依存するという問題がある。イメージスキャナは、いかなる場合でも、あ
る定まった備え付けの光源を用いて画像を撮像するのに対して、電子カラーカメ
ラは、様々な光源、例えば夜明け、日中又は夕方の屋外、蛍光灯、白熱灯又は他
の種類の人工照明を有する屋内、人工照明の組合せ、自然(屋外)照明と人工照
明の組合せの下に画像を撮像する。電子カラーカメラには、画像の撮像時の光源
を推定する機能があり、その電子カラーカメラにおける光源の推定に基づいて、
電子カラーカメラのR、G、Bチャンネルのゲイン設定が調整され、最終的な出
力画像において白い物体に対してR=G=Bとなるように調整される。この機能
は、「ホワイトバランス調整」と呼ばれ、ゲイン調整は、図示しないが、FIG
.1のイメージセンサ104と1D−LUT105の間で行われる。通常、電子
カラーカメラの色変換は、ホワイトバランス調整の設定によって変化する。すな
わち、電子カラーカメラは、その色変換において光源依存性を有する。これは、
電子カラーカメラによって生じる色歪み又はエラーが光源に依存して変化するこ
とを意味している。したがって、色補正を高い精度で行うためには、あり得る全
ての光源に対応できる電子カラーカメラの色変換の逆写像を用意する必要がある
が、それは実質的に不可能である。この問題を解決する1つの方法として、数種
類の代表的な光源の下での色変換の逆写像(通常、TRC−マトリクスモデル又
は3次元ルックアップテーブルのいずれかを用いたICC色プロファイルの形で
)を複数準備しておく方法がある。そして、ユーザは、どの逆写像が、ユーザが
実際に画像を撮像したときの光源に最も適合するかを考えて、予め設けられてい
る(preset)逆変換のセットの中から手動で選択しなければならない。これは、
ユーザにとって負担になるばかりか、ユーザが適切に選択しなかった場合には、
色補正が正しく行われないことになる。さらに、画像の撮像時の実際の光源が、
予め設けられている逆写像の中にない場合にも、色補正が正しく行われないこと
になる。これがルックアップテーブル(TRC−マトリクス)に基づく方法にお
ける制約(limitation)である。このルックアップテーブルに基づいた方法にお
ける他の制約としては、複数の光源下では色補正が正しく行われないことがある
。TRC−マトリクスモデル法に代わる方法として、3次元ルックアップテーブ
ル(3D−LUT)がある。この3D−LUTは、TRC−マトリクスよりも正
確であるが、補正モデルのサイズが巨大であり、TRC−マトリクスモデル法の
場合と同様に、複数の光源下では適切な色補正が行われない。したがって、任意
の光源下で、電子カラーカメラによって撮像された画像の色補正を正確に行う方
法及び装置が所望されている。
【0010】 発明の開示 本発明の目的は、様々な光源下で電子カラーカメラによって撮像された画像の
色補正を行う色補正方法及び装置を提供することである。
【0011】 また、本発明の目的は、カラー機器(color device)の特性付け(characteri
zation)を行う方法及び装置を提供することである。
【0012】 さらに、本発明の目的は、組み合わせられた光源下で電子カラーカメラによっ
て撮像された画像の色補正を行う色補正方法及び装置を提供することである。
【0013】 さらにまた、本発明の目的は、色補正されたカラー画像を表すデータが記録さ
れた記録媒体を提供することである。
【0014】 さらにまた、本発明の目的は、色補正されたカラー画像を表すデータを伝送す
るデータ伝送方法を提供することである。
【0015】 本発明の特徴は、カラー画像を表すデータに対する補正を決定するためのルッ
クアップテーブル法の限界を克服するために、ニューラルネットワークを関数の
近似装置として用いることによって、カラー画像に対する色補正を行うことであ
る。
【0016】 また、本発明の特徴は、カラー画像を表すデータに対する補正を決定するため
に、ニューラルネットワークの一種である多層パーセプトロン(multilayer per
ceptron:MLP)を用いることによって、カラー画像に対する色補正を行うこ
とである。
【0017】 さらに、本発明の特徴は、カラー画像を表すデータに対する補正を決定するた
めに、相能動ニューロファジイ推論システム(coactive neuro-fuzzy inference
system:CANFIS)モデルニューラルネットワークの一種である多層パー
セプトロン(multilayer perceptron:MLP)を用いることによって、カラー
画像に対する色補正を行うことである。
【0018】 さらにまた、本発明の特徴は、複数光源下で、電子カラーカメラによって撮像
されたカラー画像に対して自動色補正を行うことである。
【0019】 さらにまた、本発明の特徴は、画像データをXYZ空間に変換することにより
、白色点及びカメラの外での高度な光源の推定による色をより正確に得られるこ
とである。
【0020】 さらにまた、本発明の特徴は、教示データセットを修正又は置き換えることに
より、色の恒常性を容易に実現することである。
【0021】 本発明の利点は、電子カラーカメラによって撮像された画像を、従来のTRC
−マトリクス法で達成できるよりも高い精度で色補正することである。
【0022】 また、本発明の利点は、電子カラーカメラのユーザが、撮影中や写真の表示及
び/又は印刷時に、色補正に時間をかけずに、構図に集中できることである。
【0023】 本発明は、電子カラーカメラによって撮像されたカラー画像の色補正を行う色
補正方法において、ニューラルネットワークを用いて、カラー画像の推定された
光源に基づいてカラー画像を表すデータに対する補正を決定するステップと、光
源は複数の光源からなっており、カラー画像を表すデータに対して補正を行うス
テップとを有する色補正方法を提供する。
【0024】 また、本発明は、電子カラーカメラによって撮像されたカラー画像の色補正を
行う色補正方法において、多層パーセプトロンモデルを用いて、カラー画像の推
定された光源に基づいてカラー画像を表すデータに対する補正を決定するステッ
プと、光源は複数の光源からなっており、カラー画像を表すデータに対して補正
を行うステップとを有する色補正方法を提供する。
【0025】 さらに、本発明は、電子カラーカメラによって撮像されたカラー画像の色補正
を行う色補正方法において、相能動ニューロファジイ推論システムモデルを用い
て、カラー画像の推定された光源に基づいてカラー画像を表すデータに対する補
正を決定するステップと、光源は複数の光源からなっており、カラー画像を表す
データに対して補正を行うステップとを有する色補正方法を提供する。
【0026】 さらにまた、本発明は、電子カラーカメラによって撮像されたカラー画像の色
補正を行う色補正装置において、カラー画像の推定された光源に基づいてカラー
画像を表すデータに対する補正を決定し、光源は複数の光源からなっており、カ
ラー画像を表すデータに対して補正を行うニューラルネットワークを備える色補
正装置を提供する。
【0027】 さらにまた、本発明は、電子カラーカメラによって撮像されたカラー画像の色
補正を行う色補正装置において、カラー画像の推定された光源に基づいてカラー
画像を表すデータに対する補正を決定し、光源は複数の光源からなっており、カ
ラー画像を表すデータに対して補正を行う多層パーセプトロンモデルを備える色
補正装置を提供する。
【0028】 さらにまた、本発明は、電子カラーカメラによって撮像されたカラー画像の色
補正を行う色補正装置において、カラー画像の推定された光源に基づいてカラー
画像を表すデータに対する補正を決定し、光源は複数の光源からなっており、カ
ラー画像を表すデータに対して補正を行う相能動ニューロファジイ推論システム
モデルを備える色補正装置を提供する。
【0029】 さらにまた、本発明は、電子カラーカメラによって撮像されたカラー画像の色
補正データが記録された記録媒体において、ニューラルネットワークを用いて、
カラー画像の推定された光源に基づいてカラー画像を表すデータに対する補正を
決定するステップと、光源は複数の光源からなっており、カラー画像を表すデー
タに対して補正を行うステップと、補正されたデータを表すデータを記録媒体に
記録するステップによって用意される記録媒体を提供する。
【0030】 さらにまた、本発明は、電子カラーカメラによって撮像されたカラー画像の色
補正データが記録された記録媒体において、多層パーセプトロンモデルを用いて
、カラー画像の推定された光源に基づいてカラー画像を表すデータに対する補正
を決定するステップと、光源は複数の光源からなっており、カラー画像を表すデ
ータに対して補正を行うステップと、補正されたデータを表すデータを記録媒体
に記録するステップによって用意される記録媒体を提供する。
【0031】 さらにまた、本発明は、電子カラーカメラによって撮像されたカラー画像の色
補正データが記録された記録媒体において、相能動ニューロファジイ推論システ
ムモデルを用いて、カラー画像の推定された光源に基づいてカラー画像を表すデ
ータに対する補正を決定するステップと、光源は複数の光源からなっており、カ
ラー画像を表すデータに対して補正を行うステップと、補正されたデータを表す
データを記録媒体に記録するステップによって用意される記録媒体を提供する。
【0032】 さらにまた、本発明は、電子カラーカメラによって撮像されたカラー画像の色
補正されたデータを伝送するデータ伝送方法において、ニューラルネットワーク
を用いて、カラー画像の推定された光源に基づいてカラー画像を表すデータに対
する補正を決定するステップと、光源は複数の光源からなっており、カラー画像
を表すデータに対して補正を行うステップと、補正されたデータを表すデータを
伝送するステップを有するデータ伝送方法を提供する。
【0033】 さらにまた、本発明は、電子カラーカメラによって撮像されたカラー画像の色
補正されたデータを伝送するデータ伝送方法において、多層パーセプトロンモデ
ルを用いて、カラー画像の推定された光源に基づいてカラー画像を表すデータに
対する補正を決定するステップと、光源は複数の光源からなっており、カラー画
像を表すデータに対して補正を行うステップと、補正されたデータを表すデータ
を伝送するステップを有するデータ伝送方法を提供する。
【0034】 さらにまた、本発明は、電子カラーカメラによって撮像されたカラー画像の色
補正されたデータを伝送するデータ伝送方法において、相能動ニューロファジイ
推論システムモデルを用いて、カラー画像の推定された光源に基づいてカラー画
像を表すデータに対する補正を決定するステップと、光源は複数の光源からなっ
ており、カラー画像を表すデータに対して補正を行うステップと、補正されたデ
ータを表すデータを伝送するステップを有するデータ伝送方法を提供する。
【0035】 さらにまた、本発明は、電子カメラによって撮像された画像データを記録する
データ記録方法において、カラー画像を撮像して、画像を表すデータを出力する
ステップと、撮像されたカラー画像における光源を推定して、推定された光源を
表すデータを出力するステップと、画像を表すデータと推定された光源を表すデ
ータとを記録するステップとを有するデータ記録方法を提供する。
【0036】 さらにまた、本発明は、電子カメラによって撮像された画像データを伝送する
データ伝送方法において、カラー画像を撮像して、画像を表すデータを出力する
ステップと、撮像されたカラー画像における光源を推定して、推定された光源を
表すデータを出力するステップと、画像を表すデータと推定された光源を表すデ
ータとを伝送するステップとを有するデータ伝送方法を提供する。
【0037】 これらと他の目的、特徴及び利点は、以下の詳細な説明と添付の図面を参照す
ることにより明らかになる。
【0038】
【発明の実施の形態】 上述した課題を解決するために、ニューラルネットワーク(例えばMLP)又
はCANFISニューロファジイモデルが用いられる。本発明は、「機器固有(
device specific)」方式と「機器独立(device independent)」方式の両方に
応用することができるが、ここで開示している実施の形態では、機器独立の色補
正について説明する。なお、MLPは、良く知られたニューラルネットワークの
うちの一種類にすぎない。また、ここでは、ニューラルネットワークについて述
べるが、MLP又は他の種類のニューラルネットワークを用いることができる。
【0039】 MLPを用いた単一の光源での色補正 上述したように、TRC−マトリクスモデル(FIG.1)を用いた色補正が
1つの定まった既知の光源下でも正確に行われないのは、電子カラーカメラが、
理想的ではなく(non-ideality)、線形でなく(nonlinearity)、また構造的に
複雑であることに起因している。補正の精度を高めるために、TRC−マトリク
スモデルの代わりに、FIG.4Aに示すニューラルネットワーク又はFIG.
4Bに示すMLPモデルを用いることができる。FIG.4Aにおいて、いかな
る種類のニューラルネットワーク、例えばFIG.4BのMLPを用いることが
できる。このニューラルネットワークモデル(例えばMLP)では、1つの定ま
った光源に基づいて補正が行われるため、以下、この補正を「単一光源」色補正
と呼ぶ。ニューラルネットワーク(例えばMLP)を用いた色補正モデルは、こ
れまで、色変換が非常に非線形であり、(電子カラーカメラの場合における光源
の色に対応した)白色点(white point)が定まっているとされているようなプ
リンタ等の画像機器にのみ用いられてきた。
【0040】 FIG.4Aに示すように、画像データは、Y入力端子1、C入力端子2、C
入力端子3を介してニューラルネットワーク4に入力される。画像データは、電
子カラーカメラから供給される。電子カラーカメラの代わりに、再生装置及び/
又は伝送媒体から画像データを入力端子1、2、3に供給するようにしてもよい
。色補正に必要な光源情報は電子カラーカメラからのみ得られるので、後者の例
においては、光源情報は、画像データとともに記録及び/又は伝送されるか、い
ずれの方法によってニューラルネットワーク4に入力される必要がある。電子カ
ラーカメラからの画像データを伝送又は記録する場合、多くの画像データフォー
マットには、イメージプリンタでは使用されない領域又は空間(space)が含ま
れている。このような領域又は空間は、通常、撮像日、電子カラーカメラの機種
又は電子カラーカメラの製造元を記録するために用いることができる。したがっ
て、1つ以上の未使用の領域又は空間を光源情報に割り当てることができ、画像
データを光源情報とともに記録及び/又は伝送した後に、その画像データに色補
正を施す。
【0041】 ニューラルネットワーク4は、測色空間XYZおけるX出力端子5、Y出力端
子6、Z出力端子7を備える。FIG.4Bに示すように、MLPは、電子カラ
ーカメラからの出力値(RGB又はYCC)のための、参照符号11、12、1
3でそれぞれ示される3つの入力ノードY、U、Vを備える。また、MLPは、
参照符号14、15、16でそれぞれ示される3つの出力ノードX、Y、Zを備
える。出力ノードX、Y、Zは、機器独立色補正では測色値(XYZ又はL*a
*b)を、機器固有色補正ではRGB又はYCCの目標出力値を出力する。これ
らの測色値又は色補正された出力値は、出力機器の特性付けモデル(characteri
zation model)を介して、プリンタ又は表示モニタ等の画像出力機器に供給され
る。これらの値は、直接画像出力機器に供給されてもよい。あるいは、これらの
値は、符号化及び/又は圧縮された後、記録装置によって磁気ディスク、光ディ
スク、光磁気ディスク、個体メモリ等の記録媒体に記録されたり、インターネッ
ト、電話回線、専用線、無線、光媒体等の伝送媒体を介して伝送される。
【0042】 MLPのパラメータを最適化するために、「教示」データ集合(training dat
a set)と呼ばれる入力−出力サンプル集合(a set of input-output samples)
が与えられる。入力−出力サンプル集合は、入力YUVと所望の出力XYZの対
である代表色サンプル(representative color sample)を含んでいる。そして
、与えられた課題(task)は、非線形最小二乗の問題(nonlinear least square
s problem)として数式で表され、この目的は、所望の出力とそのモデルの出力
間の二乗誤差(squared error measure)を最小化することによって、MLPの
パラメータを最適化することである。
【0043】 二乗誤差である求める関数E(.)は、残差(residual)ベクトルr(θ)を
用いて、以下のように表される。
【0044】 E(θ)=(1/2)r(θ)r(θ) パラメータの最適化は、そのモデルによって最終的に所望の出力が得られるよ
うに反復して行われる。この反復プロセスは、ニューラルネットワークの分野で
は「教示」(又は「学習(learning)」)と呼ばれる。
【0045】 MLPの近似性能(approximation capacity)は、多くの場合、「教示」デー
タセットとは異なり、パラメータの調整には用いられない「チェック(checking
)」データセットと呼ばれるデータセットを用いて評価される。ニューラルネッ
トワーク、特にMLPの1つの重要な利点は、教示データセット以外の入力デー
タに対して解が得られることである。
【0046】 上述した「機器独立」色補正の問題において、MLPは、電子カラーカメラの
応答信号(例えばRGB又はYCC)から測色値(例えばXYZ又はL*a*b
)へのマッピングを作成するように学習させられる。「機器固有」色補正の問題
において、MLPの望ましいマッピングは、エラーがある電子カラーカメラの応
答信号(RGB又はYCC)から、それに対応する正しいRGB又はYCC信号
にマッピングすることである。いずれにしろ、これらの入力−出力サンプルは、
色空間全体に均一に分布する標準マクベスカラーチェッカ(standard ColorChec
ker)又はマンセルカラーパッチ(Munsell color patch)を用いて集められる。
【0047】 なお、ある単一の光源下でデータが集められる場合、課題はいわゆる単一光源
の問題となり、この問題はイメージスキャナによって撮像された画像の色補正に
おいて偏在するものである。
【0048】 MLPを用いた複数の光源での色補正 FIG.5に示すように、(画像の撮像時の)任意の光源下で電子カラーカメ
ラによって撮像された画像の色補正を自動的に行うために、MLPモデルが用い
られる。MLPモデルは、機器独立補正の場合、画像の撮像時に用いられる光源
によって、そのマッピング、すなわち電子カラーカメラの逆写像を自動的に調整
するように学習させられる。以下、これを「複数光源(multi-illuminant)」色
補正と呼ぶ。画像の撮像時にどの光源が用いられたかを正確に知ることは難しい
ので、MLPモデルは、電子カラーカメラが内蔵する光源推定データ(すなわち
ホワイトバランスデータ)を用いる代わりに、FIG.5の上部に示すように、
例えば光源の色に対して測定されたR、G、Bから得られるR/G値及びB/G
値を用いる。FIG.5において、「パナホワイト」は、日本国大阪の松下電器
産業株式会社によって日本で販売されている「白色」蛍光管の商標である。「メ
ロウd」は、日本国東京の東芝ライテック株式会社によって日本で販売されてい
る「自然光」タイプの蛍光管の商標である。なお、FIG.5の上部(ホワイト
バランス面)の代わりにFIG.13を用いてもよい。
【0049】 複数光源に対する色補正において用いられるMLPモデルには、光源情報を入
力するためのさらなるノードが必要である。例えば、光源の色度が2つの値のセ
ットで示される場合は、2つのさらなる入力ノードが用いられる。その結果、こ
の課題におけるMLPモデルは、FIG.5に示すように、参照符号17、18
、19、20、21でそれぞれ示される5つの入力ノードB/G、R/G、Y、
U、Vと、参照符号22、23、24でそれぞれ示される3つの出力ノードX、
Y、Zとを有する。出力X、Y、Zは、変換、正規化、符号化及び/又は圧縮さ
れた後、磁気ディスク、光ディスク、光磁気ディスク、個体メモリ等の記録媒体
に記録されたり、インターネット、電話回線、専用線、無線、光媒体等の伝送媒
体を介して伝送される。
【0050】 本発明の実施の形態では、複数光源の色補正モデルを学習するために、以下の
ステップが用いられる。 (1)複数の代表的な光源下において、電子カラーカメラからの出力値と、カラ
ーサンプルのセットからの測色値(機器独立補正に対して)とを測定する。ここ
で、Nは、カラーサンプルの数であり、Mは、対象とする代表的な光源の数であ
り、したがって、教示データセットの総量は、N*Mである。 (2)各光源について、ホワイトバランスを合わせるためのRGBチャンネルの
ゲインデータを測定するか、又は光源の色に対するRGBチャンネルの信号値を
測定する。 (3)測定された3つの値を、例えばR/GとB/Gのような2つの色度値(ch
romaticity value)に変換する。これらのデータは、後述するCANFISニュ
ーロファジイモデルのためのファジイメンバーシップ関数を構築する方法におい
て、光源情報をより特性付けるために、更なる処理が施される。 (4)上述したように、MLPは、データセット(1)を用いて学習させられる
。同時に、データ(1)が測定されるときの光源情報であるデータセット(3)
が入力ノード17(B/G)及び18(R/G)に供給される。
【0051】 上述したステップが完了した後、MLPモデルは、電子カラーカメラの出力値
と光源情報を入力することによって、元の場面の測色値を出力する。電子カラー
カメラの色変換における光源依存性は、光源情報を参照することによって自動的
に補償される。画像の撮像時に実際に用いられた光源が、MLPの学習に用いら
れた代表的な光源のいずれにも一致しないときは、MLPは、電子カラーカメラ
の光源間の色変換の逆写像を自動的に近似する。
【0052】 MLPモデルの学習法 MLPは、非線形特性を有しているので、上述したNN非線形の最小二乗の問
題を解くための有効な反復法が求められる。多くの試験によって、レベンバーグ
−マーカート式のアルゴリズム(Levenberg-Marquardt type algorithm)のドッ
グレッグトラストリージョン(dogleg trust region)の実施がこの問題を解く
のに有効であることが分かった。より詳しくは、ドッグレッグ(dogleg)法によ
って、トラストリージョン(trust region)内での制限されたレベンバーグ−マ
ーカート(Levenberg-Marquardt)ステップの有効な区分的線形近似が導かれる
【0053】 FIG.6A及びFIG.6Bは、コーシー(Cauchy)ステップとニュートン
(Newton)又はガウス−ニュートン(Gauss-Newton)ステップによって描かれた
2次元のサブスペースにおいて、ドッグレッグステップがトラストリージョンス
テップを近似する様子を示している。(FIG.6Aで強調表示されている)区
分的線形のくの字形の軌道とトラストリージョンの境界線との接点は、次の3つ
のステップのうちの1つによって導かれる。 1.制限コーシーステップ
【0054】
【数1】
【0055】 トラスト半径(trust radius)Rnowが、上記の式で表されるコーシーステ
ップSCauchyの長さよりも短いとき、制限コーシーステップは次にように
表される。
【0056】
【数2】
【0057】 ここで、gとHは、それぞれグラディエントベクトル(gradient vector)と
ヘシアンマトリクス(Hessian matrix)である。 2.ニュートンステップ トラスト半径が、ニュートンステップの長さ以上であるとき、ニュートンステ
ップは次のように表される。
【0058】
【数3】
【0059】 3.ドッグレッグステップ トラスト半径がコーシーステップとニュートンステップとの間の長さであると
き、ドッグレッグステップは次にように表される。
【0060】
【数4】
【0061】 モデルの最適化のために、これらのステップのうちの1つが、次のような反復
方式によって、反復毎に用いられる。
【0062】 θnextnow+ηd ここで、dは方向ベクトルであり、ηはその方向に進む程度を規制する特定の
正のステップの大きさである。FIG.6Aのパラメータhは、次のような単純
な計算で求められる。
【0063】
【数5】
【0064】 ここで、Pnowは次のようである。
【0065】
【数6】
【0066】 ドッグレッグトラストリージョン法の利点は、そのアルゴリズムを強力にして
、最急降下法(全体の収束特性(global convergence property))とニュート
ン法(速い局部的な収束特性(fast local convergence property))とをスム
ーズに切り替えられることである。例えば、次のステップが不具合であるとき、
ドッグレッグアルゴリズムはそのステップの長さを短くして、単一のトラストリ
ージョン制御に基づいて、そのステップを同時にかつ効果的に最急降下の方向に
曲げる。
【0067】 以下の表1は、単一の光源(D65−光源)の問題における3つの代表的な非
線形の最適化のアルゴリズムの収束速度を比較している。
【0068】
【表1】
【0069】 これは、3つの代表的な学習アルゴリズムにおける、TRC−マトリクス式の
モデルとMLPモデルとの間の測定されたXYZ値の二乗平均誤差を比較してい
る。なお、最後の列「停止期間(stopped epoch)」において、7個の隠れユニ
ットを用いた(3×7×3)モデルにのみ、必要な実行時間が括弧書きで示され
ている。表1から明らかなように、単一光源の色補正の問題においては、ドッグ
レッグ主導のレベンバーグ−マーカートのアルゴリズムを用いる場合が、表1に
示す他の試験された学習法を用いる場合よりも速く収束する。このようなパフォ
ーマンスの比較は、Color device characterization of electronic cameras by
solving adaptive networks nonlinear least squares problems, Eiji Mizuta
ni (本出願の発明者), Kenichi Nishio (本出願のもう1人の発明者), Naoya Ka
toh and Michael Blasgen, 8th IEEE International Conference on Fuzzy Syst
ems (FUZZ-IEEE' 99), Seoul, Korea, August 22-25, 1999で更に論じられてい
る。この論文とその図面は、参考のために添付してある。さらに、ドッグレッグ
トラストリージョンのアルゴリズムは、Computing Powell's Dogleg Steps for
Solving Adaptive Networks Nonlinear Least Squares Problems, Eiji Mizutan
i(本出願の発明者),8th International Fuzzy Systems Association World Cong
ress (IFSA'99), Hsinchu, Taiwan, August 17-20, 1999とPowell's dogleg tru
st-region steps with the quasi-Newton augmented Hessian for neural nonli
near least-squares learning, Eiji Mizutani(本出願の発明者), The IEEE Int
ernational Conference on Neural Networks, Washington D.C., July 10-16, 1
999とで更に論じられている。この2つの論文とその図面は、参考のために添付
してある。
【0070】 FIG.7は、単一のMLPアプローチと、従来のルックアップテーブルに基
づいた(TRC−マトリクス)アプローチとのD65光源下での色差を比較して
いる。ここでは、25個の全ての色差(24個のマクベスカラーチェッカと1個
の「完全な黒」のカラーサンプル)が10より小さくなければならない。MLP
に基づいた方法では、色差がD65光源下で25個の全てのカラーサンプルにお
いて上限のしきい値(10に設定されている)を下回っているのに対し、従来の
ルックアップテーブルに基づいた(TRCマトリクス)方法ではそのようになっ
ていないことが、FIG.7によって明確に示されている。
【0071】 CANFISニューロファジイモデルを用いた複数光源での色補正 CANFISニューロファジイモデルは、問題に特定された知識に基づいて自
動的に「複数光源」での色補正を行うために特に作られており、この問題に特定
された知識とは、ファジイif-then規則の集合を表す。具体的には、「IF部」は
ファジイメンバーシップ関数(MF)で表され、「THEN部」はローカルエキスパ
ート(local-expert)MLPによって構築されている。これは、いわゆる「ニュ
ーラル規則を持ったCANFIS」モデルである。
【0072】 具体的には、ファジイメンバーシップ関数を構築する方法に関して後述するよ
うに、4つのファジイ規則が、ファジイ分割に従って、2次元に変換されたホワ
イトバランス面上に示されている。その結果のCANFISニューロファジイモ
デルは、FIG.8に示すように、4つのファジイMF(各軸に2つずつ)と4
つの対応するローカルエキスパートMLPからなる。入力ベクトルは、IF部(M
F)とTHEN部(MLP)の次の2つのベクトルに分割される。
【0073】 1.ファジイMFに供給される撮像時の光源情報である2つの入力信号 2.ローカルエキスパートMLPに供給される電子カラーカメラからの出力信
号(例えばYUV)である3つの入力信号 CANFISモデルは、次の式によって、ローカルエキスパートMLPからの
出力信号の処理された合計を、最終的な出力ベクトルA(例えばX、Y、Zの色
信号)として計算する。
【0074】
【数7】
【0075】 ここで、gとOは、それぞれi番目の発火強度(firing strength)とi番目
のMLPの出力ベクトルである。各発火強度は、IF部のMF出力からの出力信号
によって求められたものであり、対応するTHEN部のMLPが最終的な出力にどれ
だけ影響を与えたかを表している。この文脈では、IF部のMFの集合は、発火し
たTHEN部のMLPからの出力を統合した集計部としての役割を果たす。
【0076】 通常、集計部はベル形の微分可能なファジイMFからなっており、その近隣の
MFと十分な重複部分があるように設定されている。したがって、対応する全て
のローカルエキスパートMLPは、Aの値を導く式によって最終的な出力を出す
ように補間的に機能する。一方、集計部が重複部分のない長方形のMFでできて
いて、スイッチング部となっている場合、単一のローカルエキスパートMLPの
みが最終的な出力に貢献することになる。g値のうちの1つのみが「ユニット
」となり、それ以外は全て「0」となる。このような単一の0でないgは、i
番目の「発火した」ローカルエキスパートMLPと対応している。すなわち、ロ
ーカルエキスパートMLPは、補間的というよりむしろ競合的に機能している。
換言すれば、CANFISの概念は、スイッチングのような極端なケースを除い
て、基本的にファジイMFとローカルエキスパートMLPの中の相乗作用にある
【0077】 CANFISモデルには、ローカルエキスパートMLPにのみ適切な構造的又
はアルゴリズミックな修正を行うだけで、(ファジイ規則が意味のある限界に保
たれるように)ファジイMFの数を増やさずに、学習能力を増大させることがで
きるという利点がある。例えば、このような修正によって、MLPの隠れノード
/レイヤの数が調整される。なお、THEN部のMLPの隠れ部分が取り除かれると
、CANFISモデルはローカルチューニングラジアル基底関数ネットワーク(
Radial Basis Function Network:RBFN)モデルとされてもよい。すなわち
、CANFISモデルは汎用のローカルチューニングニューラルネットワークと
見なされてもよい。
【0078】 このモデルの欠点を挙げるとすれば、単一のMLPモデルと比較して、構造が
複雑で、より多くの学習データが必要であるために学習が遅いことである。した
がって、課題が限られた少ない量の学習データのみを有する場合は、単一のML
Pモデルを選択する方がよい。複数光源での色補正のためのCANFISニュー
ロファジイモデルを学習する方法とともに、CANFISモデルによって得られ
た実験結果を以下に示す。
【0079】 線形規則のあるCANFISのモデルは、周知の高木−菅野(「TSK」又は
「菅野式」とも呼ばれる)ファジイ推論モデルと同等である。制御工学の分野で
は、迅速な応答が重要であるため、このTSKモデルは圧倒的に最も広く用いら
れているファジイシステムである。この迅速さは、線形規則の実行が非線形規則
の実行より遙かに単純であるために計算上の優位があるからである。
【0080】 CANFISモデリングと線形規則を持ったCANFISは、テキストNeuro-
Fuzzy and Soft Computing, A Computational Approach to Learning and Machi
ne Intelligence, by Jyh-Shing Roger Jang, Chuen-Tsai Sun and Eiji Mizuta
ni(本出願の発明者), Prentice Hall, Upper Saddle River, New Jersey 07458,
1997, third printingの369〜400頁及び572〜592頁で詳しく説明
されている。このページ部分とその図面は、参考のために添付してある。
【0081】 上述したCANFISニューロファジイモデルを用いた複数光源での色補正の
ためのファジイメンバーシップ関数を構築する方法 ファジイ分割 CANFISニューロファジイモデルでは、ファジイメンバーシップ関数(M
F)がMF入力空間を複数のローカルエキスパートの領域に分割する。したがっ
て、ある特定のローカルエキスパートの領域の中心に近づいたデータはそのほか
のローカルエキスパートのパラメータの更新にそれほど影響を受けない。このロ
ーカルチューニングの機構によって、「ローカルエキスパート」が主にそれ自体
のローカル領域の近辺で局地的に最適に学習することができる。
【0082】 FIG.9に示す複数光源の問題において、ハロゲンの光源の領域のデータは
、ホワイトバランス面上の「自然光の光源」曲線の他端にあるD90光源の領域
のローカルエキスパートのMLPに大きな影響を与えないようになっている。こ
れらの2つの対極する領域は適切な分割により何かしらの方法で分割されている
はずである。ファジイMFは、FIG.10に示すように、(「はっきり」では
なく)「あいまい」な方法で、ホワイトバランス面上の光源の領域を分割するの
に重要な役割を果たしている。FIG.10において、ハロゲンとD65の2つ
の代表的な光源が選択され、「自然光の光源」の曲線に対応するX軸上の2つの
MFの最初の中心点が決定される。これは、その曲線におけるその位置が課題の
中で重要な特性として選択されていることを意味する。FIG.10におけるX
軸上の2つの符号「A1」と「A2」は、それぞれ「ハロゲン」と「D65」を
表しており、ここでは、 A1−MFの値/程度は、その光源が「ハロゲン」の光源にどれだけ近いかを
示しており、 A2−MFの値/程度は、その光源が「D65」の光源にどれだけ近いかを示
している。
【0083】 1つの特性だけでは、各光源の領域を適切に示すのに十分でないことは明白で
ある。別の重要な特性は、「自然光」の光源と「蛍光」の光源との区別である。
したがって、2つの対応するMF(「蛍光」はB1で、「自然光」はB2)がY
軸に構築されており、蛍光の光源と自然光の光源との近さを表している。ここで
は、 B1−MFの値は、「蛍光」の光源の曲線にどれだけ近いかを示しており、 B2−MFの値は、「自然光」の光源の曲線にどれだけ近いかを示している。
【0084】 このように、FIG.9の「混合」の曲線における各混合した光源は、例えば
、40%の自然光の光源と60%の蛍光の光源からなる光源の場合のように、「
自然光」の光源又は「蛍光」の光源に対するメンバーシップの程度によって特性
付けされている。FIG.9において、「ルピカエース」は、日本国東京の三菱
電機株式会社によって日本で販売されている「自然光」タイプの蛍光管の商標で
ある。FIG.9とFIG.10におけるX軸とY軸は等しくないため、特定の
「非線形」の座標変換が必要である。このような座標変換を以下に示す。
【0085】 ホワイトバランス面における非線形座標変換 FIG.11は、元のR/B−G/Bのホワイトバランス面における試験的な
データセットの実際のデータ分布を示している。FIG.11をFIG.10に
合わせるには、適切な座標変換を行う必要がある。まず、単純な目盛の均等化が
行われ、FIG.12のようになる。次に、ニューラルネットワーク非線形座標
変換が行われ、FIG.13のようになり、FIG.13はFIG.10の座標
と合うデカルト座標となっている。なお、多くの他の非線形変換でもよい。
【0086】 非線形座標変換によって、単純な「格子」分割が行われるため、これの重要性
は軽視できない。ラジアル基底関数ネットワーク(radial basis function netw
ork:RBFN)によってよく作られる「散布」分割には幾つかの利点がある。
RBFNは、上述したテキストNeuro-Fuzzy and Soft Computing, A Computatio
nal Approach to Learning and Machine Intelligenceの238〜246頁及び
369〜400頁、特に373頁の図13.3で詳しく説明されており、このペ
ージ部分とその図面は、参考のために添付してある。
【0087】 更に詳しくは、非線形座標変換には次の利点がある。 1.言語的解釈性は十分に高く保たれ、人間の直感的な理解に合致する。 2.要求される(基礎)関数の数が少なくなる。
【0088】 利点1は、散布又は樹形の分割の場合には明確な言語的ラベルが各MFにうま
く現れないことを示唆している。利点2は、例えば、X−Y座標面上に9つのロ
ーカル領域を作るために、RBFNでは9つの基礎関数が必要であるのに対して
、CANFISモデルでは6つのMF(各軸に対して3つのMF)が必要である
ということを示している。したがって、関数パラメータの総数が異なることにな
る。分割に関するより詳細な説明は、上述したテキストNeuro-Fuzzy and Soft C
omputing, A Computational Approach to Learning and Machine Intelligence
の86、87頁でなされており、このページ部分とその図面は、参考のために添
付してある。
【0089】 複数光源での色補正のためのCANFISニューロファジイモデルの学習法 CANFISニューロファジイモデルを用いた複数光源での色補正に関連して
、上述したCANFISニューロファジイモデルを学習するために、多くの非線
形最適化アルゴリズムを採用してもよい。モデルは、FIG.8に示すように、
次の2つの主なパラメータの成分からなる。
【0090】 (1)ファジイMF(IF部) (2)ローカルエキスパートMLP(THEN部) これら2つの成分のパラメータを更新するための最適化アルゴリズムを適用する
のには多くの選択肢がある。例えば、次の方法がある。
【0091】 (方法A)IF部のMFとTHEN部のMLPの両方に同じ最適化アルゴリズムを適
用する。
【0092】 (方法B)IF部のMFとTHEN部のMLPに異なる最適化アルゴリズムを適用す
る。
【0093】 これらの方法は、システム全体又は構成要素毎のいずれかの方法で実施されう
る。システム全体の学習では、CANFISニューロファジイモデルのMFとM
LPの全ての構成要素は、1つのシステムとして同時に学習させられ、その最終
的な出力は上述したようにAの値を出すための上述した式によって計算される。
構成要素毎の学習では、各MF又はMLPは、独立して調整/学習させられ、全
ての構成要素がまとめられてCANFISニューロファジイモデルを構成し、そ
の最終的な出力は上述したようにAの値を出すための上述した式によって計算さ
れる。
【0094】 FIG.8を参照して、構成要素毎の方法についてより詳細に説明すると、各
ローカルエキスパートMLPは、通常所望の最終的な出力ベクトルA(すなわち
、X、Y、Z)を出力ベクトルOとして出力するように学習させられる。一方
で、システム全体の学習法では、(上述した)最終的な出力ベクトルAは所望の
3つの値X、Y、Zに合致するようになされているが、各ローカルエキスパート
MLPの出力ベクトルOは必ずしもそれに近くなくてもよい。すなわち、出力
ベクトルOは不明でもよい。FIG.8には、各ローカルエキスパートMLP
の3つの出力ノードがX、Y、Zによって表されているが、これは、単にどのノ
ードがどの信号と対応しているかを示すためである。
【0095】 更に、教示データの処理によって次の3つの異なるパラメータ更新モードがあ
る。
【0096】 (1)オンラインのパターン毎の更新モード (2)ブロック毎の更新モード (3)バッチ更新モード したがって、CANFISモデルへの最適化アルゴリズムの適用方法は多くあ
る。なお、方法Aと方法Bのいずれが用いられるかに関わらず、構成要素毎の学
習は、高精度な結果を得るのには疑問がある。これは、上述したようにAの値を
出すための上述した式に依存しているにもかかわらず、ローカルエキスパートM
LPの出力は、ファジイMFの発火強度から独立して最適化されているからであ
る。したがって、カラー画像の色補正に必要なように、CANFISモデルによ
って非常に正確な入力/出力マッピングを行うことが必要なときは特に、もう一
方のシステム全体の学習のほうが遙かに実用的に重要である。
【0097】 概して、ニューロファジイシステムにおいて、MFのパラメータと比べるとM
LPのパラメータは最適値からかけ離れているという重要な見解が得られる。こ
れは、ファジイMFの初期のパラメータは問題に特定された知識に基づいて決定
されているのに対して、ローカルエキスパートMLPの初期のパラメータは任意
に初期化されているためである。したがって、MFとMLPに対して異なる最適
化アルゴリズムを適用する(すなわち、方法Bを採用する)こと、特に、MLP
に対してより速いアルゴリズムを、MFに対してより遅いアルゴリズムを適用す
ることが可能である。この考え方での典型的な実施は、ANFIS(すなわち、
線形規則を持った単一出力のCANFISモデル)によるハイブリッド学習であ
り、これは、「線形」の後項(consequent)ファジイシステムに限られるが、速
い「線形」の最小二乗と遅い最急降下法との組み合わせである。このようなハイ
ブリッド学習は、上述したテキストNeuro-Fuzzy and Soft Computing, A Comput
ational Approach to Learning and Machine Intelligenceの219〜220頁
及び222〜223頁で詳しく説明されており、このページ部分とその図面は、
参考のために添付してある。
【0098】 システム全体の学習法による方法Aは、ニューラル規則を持ったCANFIS
モデルと同じ考え方で考えられてもよい。例えば、「バッチ」モードでMFに最
急降下法を適用し、「オンラインのパターン毎」のモードでMLPに最急降下法
を適用することによるものである。この方策は、次の単純な発見的規則によって
改善される。
【0099】 規則:ファジイMFのパラメータを学習段階のうちの初期段階では固定する。
【0100】 表2は、チェックエラーが縮小されるか又は所定の反復制限数である2000
000にされるとき、MLP及びCANFISモデルによって得られる4つの代
表的な結果を示している。「パラメータ数」欄はパラメータの数を示し、「RM
SE」は二乗平均誤差を示している。「不適切なサンプル数」と書かれている欄
は最も重要で、色差が上限のしきい値(10に設定されている)より大きかった
カラーサンプルの数を示している。4つのモデルは全て、オンラインのパターン
毎の更新モードで、広く用いられている最急降下法を用いて学習させられる。
【0101】
【表2】
【0102】 実験#4の結果は、次の発見的規則を用いて得られた。
【0103】 規則:ファジイMFのパラメータを500000回の後に更新し始める。
【0104】 出力色空間の選択 本発明の開示では、色補正モデルの出力色空間としてXYZ空間が主に用いら
れている。先に述べたように、機器独立色補正では、出力色空間はL*a*b又
はXnYnZn(正規化されたXYZ空間)でもよい。機器固有色補正では、カ
ラー画像の撮像機器にとって色補正の出力となるならば、いかなる色空間でもよ
いし、又はユーザの特定の要求に従って任意に定義された色空間でもよい。出力
色空間を変えるには、目標の出力データを色補正モデルの教示データセットに変
えるだけで達成される。
【0105】 光源への依存性に関して上述したように、光源の色においてR=G=Bが保た
れるように電子カラーカメラの出力値がホワイトバランス補正されている。Xn
YnZnとL*a*bの色空間も、その定義において同様に動作し、3つの刺激
値は光源の色の値によって正規化される。このような色空間は、正規化された色
空間と称される。この動作は人間の目の色順応を表している。
【0106】 FIG.1に示すように、電子カラーカメラの出力値は、ガンマ補正されたR
GBに基づいている。L*a*bの色空間の定義においても同様の動作が行われ
、このような色空間は非線形の色空間と見なされる。非線形マッピングは、明度
(人間の輝度認識の基準)との相関を表し、色の物理的特性よりむしろ人間の目
によって認識された色を説明する。
【0107】 XYZのような正規化されていない線形の色空間は、複数光源色補正モデルの
出力色空間として用いられるとき有効である。電子カラーカメラにおいて自動的
に行われる光源の推定が間違っているために、電子カラーカメラによって撮像さ
れた画像の白色点が間違ってしまうことがある。このような場合のために、色補
正モデルの出力空間がXYZである場合は、白色点の補正は、画像の撮像後に電
子カラーカメラの外で行われてもよい。出力空間が非線形の色空間である場合は
、出力データは白色点の補正を行うためにいったん線形空間に供給されなければ
ならないため、白色点補正はより複雑になる。
【0108】 光源への依存性に関して上述したように、電子カラーカメラの色変換は、その
ホワイトバランスの設定に基づいて行われる機能である。撮像時の光源の推定が
正しくても正しくなくても、電子カラーカメラの色変換は、例えばR/GとB/
Gといった電子カラーカメラのホワイトバランス情報を参照して独自に決定され
る。したがって、入力画像の白色点が間違っていても、複数光源色補正モデルか
ら出力されるXYZ値は、元の色の物理的特性を正確に表している。ユーザは、
白色点が電子カラーカメラによって撮像された画像において違っていると分かっ
たときは、ユーザはまず、複数光源色補正モデルからのXYZで示される画像デ
ータを出力し、次に、撮像時に行うとしたら計算処理上費用がかかりすぎてしま
うような洗練された方法を用いて、画像の光源を推定し直すことができる。この
方法によって、補正された色空間における画像データに対して再調整が行われる
ため、白色点だけでなく、その再調整された白色点の周辺に分布された色も正確
になる。正規化されていない線形の色空間も、イメージセンサからの出力(生の
画像データ)の部分に作られた空間となることができる。
【0109】 色の恒常性 画像の撮像時にどの光源が実際に使われても、D50(CIEによって規定さ
れている色温度が5000Kの白色光)のような1つの定まった標準の光源下で
画像が撮像されたかのような色を再現する電子カラーカメラを多くのユーザは好
むことが知られている。これは、「色の恒常性」の色再現と呼ばれる。MLP又
はCANFISニューロファジイモデルのいずれかを用いて、上述した複数光源
色補正モデルの教示データセットを適切に修正することにより、上述した「色の
恒常性」を持った色補正が容易に実現される。
【0110】 なお、本発明に適用できるニューラルネットワークの一例として、MLPを挙
げているが、ラジアル基底関数ネットワーク(radial basis function network
:RBFN)や、モジュラーニューラルネットワーク等の他の種類のニューラル
ネットワークを用いてもよい。
【0111】 また、本発明の各実施の形態はコンピュータ上で動作するソフトウェアとして
実行されてもよいし、又はコンピュータ上で動作する画像処理ソフトウェアの機
能を果たすものとして実行されてもよい。このような例では、そのソフトウェア
によって画像データファイルが開かれてもよいし、また、本発明のどの実施の形
態も、JPEG、JIF又はBMPフォーマットのファイルのような画像データ
に適用されて、そのような画像データに対して色補正が行われるようにしてもよ
い。
【0112】 更に、本発明に係る方法及び装置は電子カラーカメラの中のイメージセンサの
ようなカラー撮像機器の構成要素の特性付けを行うために適用されてもよい。さ
らにまた、このような特性付けは、そのようなイメージセンサの質が所望のもの
ではない場合にそれを補正するのに用いられてもよい。
【0113】 特定の実施の形態のみが詳細に説明されたが、この分野において普通の能力を
有する人は、ここで説明したことから逸脱することなく多くの応用が可能である
ことを十分に理解しているであろう。このような応用は全て、添付の請求項の範
囲内に含まれるはずである。
【図面の簡単な説明】
【図1】 FIG.1は、イメージスキャナと電子カラーカメラの両方に採用されている
信号処理を示すブロック図である。
【図2】 FIG.2は、FIG.1の信号処理に続いて採用される逆の信号処理を示す
ブロック図である。
【図3】 FIG.3は、補色電子カラーカメラにおいてよく用いられる信号処理を示す
ブロック図である。
【図4】 FIG.4Aは、電子カメラにおける色変換の逆写像(又はマッピング)の生
成にニューラルネットワークを導入した本発明を適用した色補正装置の実施の形
態を示すブロック図である。
【図5】 FIG.4Bは、電子カメラにおける色変換の逆写像(又はマッピング)の生
成に多層パーセプトロンを導入した本発明を適用した色補正装置の実施の形態を
示すブロック図である。
【図6】 FIG.5は、色補正され、出力空間で変換された画像の生成に単一の多層パ
ーセプトロンを導入した本発明を適用した色補正装置の実施の形態を示すブロッ
ク図である。
【図7】 FIG.6Aは、コーシー(Cauchy)ステップとニュートン(Newton)ステッ
プによって決定された区分的線形曲線を有し、θCauchyを通る軌道によっ
てθNowとθNewtonyとを結ぶドッグレッグ(dogleg)軌道を示す図で
ある。
【図8】 FIG.6Bは、θNowに通じており、トラストリージョン(trust regio
)内において制限されたレベンバーグ−マーカート(Levenberg-Marquardt)ス
テップに対する区分的線形近似であるドッグレッグ(dogleg)ステップを示す図
である。
【図9】 FIG.7は、単一の多層パーセプトロンアプローチと、従来のルックアップ
テーブルに基づいた(TRC−マトリクス)アプローチとのD65光源下での色
差の比較を示すグラフである。
【図10】 FIG.8は、本発明を適用したCANFISニューロファジイモデルの構成
を示す図である。
【図11】 FIG.9は、代表的な光源と、それに関する「自然光」と「蛍光」の曲線を
示すグラフである。
【図12】 FIG.10は、変換されたホワイトバランス面での4つのベル形のメンバー
シップ関数によるあいまいな分割を示すグラフである。
【図13】 FIG.11は、ホワイトバランス面の元の座標におけるデータ分布を示す図
である。
【図14】 FIG.12は、ホワイトバランス面の正規化された座標におけるデータ分布
を示す図である。
【図15】 FIG.13は、ホワイトバランス面の変換された座標におけるニューラルネ
ットワークによって変換されたデータ分布を示す図である。
───────────────────────────────────────────────────── フロントページの続き Fターム(参考) 5B057 CA01 CA08 CA12 CA16 CB01 CB08 CB12 CB16 CC01 CE17 CE18 5C055 AA00 BA05 BA06 HA37 5C066 AA01 CA08 EA13 FA02 KE01 5C077 LL19 MM03 MP08 NN04 PP32 PP33 PP35 PP36 PP37 PQ14 PQ15 TT09 5C079 HA18 HB01 HB02 HB05 HB06 HB08 HB12 JA23 JA26 LA23 MA13 MA14 NA03

Claims (96)

    【特許請求の範囲】
  1. 【請求項1】 電子カラーカメラによって撮像されたカラー画像の色補正を行
    う色補正方法において、 ニューラルネットワークを用いて、上記カラー画像の推定された光源に基づい
    て上記カラー画像を表すデータに対する補正を決定するステップと、 上記光源は複数の光源からなっており、上記カラー画像を表すデータに対して
    補正を行うステップとを有する色補正方法。
  2. 【請求項2】 上記電子カラーカメラは少なくとも1つの静止画像を撮像する
    ことを特徴とする請求項1記載の色補正方法。
  3. 【請求項3】 上記電子カラーカメラは動画像の連続を撮像することを特徴と
    する請求項1記載の色補正方法。
  4. 【請求項4】 電子カラーカメラによって撮像されたカラー画像の色補正を行
    う色補正方法において、 多層パーセプトロンモデルを用いて、上記カラー画像の推定された光源に基づ
    いて上記カラー画像を表すデータに対する補正を決定するステップと、 上記光源は複数の光源からなっており、上記カラー画像を表すデータに対して
    補正を行うステップとを有する色補正方法。
  5. 【請求項5】 上記電子カラーカメラは少なくとも1つの静止画像を撮像する
    ことを特徴とする請求項4記載の色補正方法。
  6. 【請求項6】 上記電子カラーカメラは動画像の連続を撮像することを特徴と
    する請求項4記載の色補正方法。
  7. 【請求項7】 上記多層パーセプトロンモデルは、レベンバーグ−マーカート
    式のアルゴリズム(Levenberg-Marquardt type algorithm)のドッグレッグトラ
    ストリージョン(dogleg trust region)の実施に基づいて学習することを特徴
    とする請求項4記載の色補正方法。
  8. 【請求項8】 上記色補正された画像の出力色空間を、上記光源の色度座標に
    より正規化しない空間として出力するステップを更に有する請求項4記載の色補
    正方法。
  9. 【請求項9】 各ニューラルネットワークの教示データを、標準光源下での測
    色値として用いるステップを更に有する請求項4記載の色補正方法。
  10. 【請求項10】 電子カラーカメラによって撮像されたカラー画像の色補正を
    行う色補正方法において、 強制ニューロ−ファジイ干渉システムモデルを用いて、上記カラー画像の推定
    された光源に基づいて上記カラー画像を表すデータに対する補正を決定するステ
    ップと、 上記光源は複数の光源からなっており、上記カラー画像を表すデータに対して
    補正を行うステップとを有する色補正方法。
  11. 【請求項11】 上記電子カラーカメラは少なくとも1つの静止画像を撮像す
    ることを特徴とする請求項10記載の色補正方法。
  12. 【請求項12】 上記電子カラーカメラは動画像の連続を撮像することを特徴
    とする請求項10記載の色補正方法。
  13. 【請求項13】 ファジイメンバーシップ関数からなる集積部は、カラー画像
    の撮像時における光源の推定に基づいて、ローカルエキスパート多層パーセプト
    ロンの出力の加重和を計算することを特徴とする請求項10記載の色補正方法。
  14. 【請求項14】 上記強制ニューロ−ファジイ干渉システムモデルにおいて推
    定された光源の特性付けを行うために、ホワイトバランス面に対してニューラル
    ネットワークの非線形の座標変換を行うことによって、ファジイメンバーシップ
    関数を構築するステップを更に有する請求項13記載の色補正方法。
  15. 【請求項15】 上記強制ニューロ−ファジイ干渉システムモデルにおいて推
    定された光源の特性付けを行うために、ホワイトバランス面に対してニューラル
    ネットワークの非線形の座標変換を行うことによって、ファジイメンバーシップ
    関数を構築することにより、上記強制ニューロ−ファジイ干渉システムモデルを
    学習するステップを更に有する請求項10記載の色補正方法。
  16. 【請求項16】 ファジイメンバーシップ関数及びローカルエキスパート多層
    パーセプトロンの全てのパラメータは、同時に更新され、上記強制ニューロ−フ
    ァジイ干渉システムモデルにおいて推定された光源の特性付けを行うために、ホ
    ワイトバランス面に対してニューラルネットワークの非線形の座標変換を行うこ
    とによって、ファジイメンバーシップ関数を構築することにより、上記強制ニュ
    ーロ−ファジイ干渉システムモデルを学習するステップを更に有する請求項13
    記載の色補正方法。
  17. 【請求項17】 ファジイメンバーシップ関数及びローカルエキスパート多層
    パーセプトロンの全てのパラメータは、パラメータ更新の発見的規則に従って同
    時に更新され、上記強制ニューロ−ファジイ干渉システムモデルにおいて推定さ
    れた光源の特性付けを行うために、ホワイトバランス面に対してニューラルネッ
    トワークの非線形の座標変換を行うことによって、ファジイメンバーシップ関数
    を構築することにより、上記強制ニューロ−ファジイ干渉システムモデルを学習
    するステップを更に有する請求項13記載の色補正方法。
  18. 【請求項18】 上記ファジイメンバーシップ関数の少なくとも2つは重複す
    ることを特徴とする請求項13乃至17のいずれか1項に記載の色補正方法。
  19. 【請求項19】 電子カラーカメラによって撮像されたカラー画像の色補正を
    行う色補正方法において、 スイッチングを有する強制ニューロ−ファジイ干渉システムを用いて、上記カ
    ラー画像の推定された光源に基づいて上記カラー画像を表すデータに対する補正
    を決定するステップを有する色補正方法。
  20. 【請求項20】 代表的な光源それぞれに対応する別々のニューラルネットワ
    ークを用いて、色変換逆マップ(color conversion inverse map)を見つけるス
    テップと、 上記色補正された画像の出力色空間を、上記光源の色度座標により正規化しな
    い空間として出力するステップを更に有する請求項10記載の色補正方法。
  21. 【請求項21】 代表的な光源それぞれに対応するニューラルネットワークを
    用いて、色変換逆マップ(color conversion inverse map)を見つけるステップ
    と、 上記色補正された画像の出力色空間を、上記光源の色度座標により正規化しな
    い空間として出力するステップを更に有する請求項10記載の色補正方法。
  22. 【請求項22】 代表的な光源それぞれに対応する別々のニューラルネットワ
    ークを用いて、色変換逆マップ(color conversion inverse map)を見つけるス
    テップと、 標準的な光源下で、各ニューラルネットワークの教示データを測色値として用
    いるステップを更に有する請求項10記載の色補正方法。
  23. 【請求項23】 代表的な光源それぞれに対応するニューラルネットワークを
    用いて、色変換逆マップ(color conversion inverse map)を見つけるステップ
    と、 標準的な光源下で、各ニューラルネットワークの教示データを測色値として用
    いるステップを更に有する請求項10記載の色補正方法。
  24. 【請求項24】 電子カラーカメラによって撮像されたカラー画像の色補正を
    行う色補正装置において、 上記カラー画像の推定された光源に基づいて上記カラー画像を表すデータに対
    する補正を決定し、上記光源は複数の光源からなっており、上記カラー画像を表
    すデータに対して補正を行うニューラルネットワークを備える色補正装置。
  25. 【請求項25】 上記電子カラーカメラは少なくとも1つの静止画像を撮像す
    ることを特徴とする請求項24記載の色補正装置。
  26. 【請求項26】 上記電子カラーカメラは動画像の連続を撮像することを特徴
    とする請求項24記載の色補正装置。
  27. 【請求項27】 電子カラーカメラによって撮像されたカラー画像の色補正を
    行う色補正装置において、 上記カラー画像の推定された光源に基づいて上記カラー画像を表すデータに対
    する補正を決定し、上記光源は複数の光源からなっており、上記カラー画像を表
    すデータに対して補正を行う多層パーセプトロンモデルを備える色補正装置。
  28. 【請求項28】 上記電子カラーカメラは少なくとも1つの静止画像を撮像す
    ることを特徴とする請求項27記載の色補正装置。
  29. 【請求項29】 上記電子カラーカメラは動画像の連続を撮像することを特徴
    とする請求項27記載の色補正装置。
  30. 【請求項30】 上記多層パーセプトロンモデルは、レベンバーグ−マーカー
    ト式のアルゴリズム(Levenberg-Marquardt type algorithm)のドッグレッグト
    ラストリージョン(dogleg trust region)に基づいて学習することを特徴とす
    る請求項27記載の色補正装置。
  31. 【請求項31】 上記多層パーセプトロンモデルは、上記色補正された画像の
    出力色空間を、上記光源の色度座標により正規化しない空間として出力すること
    を特徴とする請求項27記載の色補正装置。
  32. 【請求項32】 上記多層パーセプトロンモデルは、各ニューラルネットワー
    クの教示データを、標準光源下での測色値として用いることを特徴とする請求項
    27記載の色補正装置。
  33. 【請求項33】 電子カラーカメラによって撮像されたカラー画像の色補正を
    行う色補正装置において、 上記カラー画像の推定された光源に基づいて上記カラー画像を表すデータに対
    する補正を決定し、上記光源は複数の光源からなっており、上記カラー画像を表
    すデータに対して補正を行う強制ニューロ−ファジイ干渉システムモデルを備え
    る色補正装置。
  34. 【請求項34】 上記電子カラーカメラは少なくとも1つの静止画像を撮像す
    ることを特徴とする請求項33記載の色補正装置。
  35. 【請求項35】 上記電子カラーカメラは動画像の連続を撮像することを特徴
    とする請求項33記載の色補正装置。
  36. 【請求項36】 ファジイメンバーシップ関数からなる集積部は、カラー画像
    の撮像時における光源の推定に基づいて、ローカルエキスパート多層パーセプト
    ロンの出力の加重和を計算することを特徴とする請求項33記載の色補正装置。
  37. 【請求項37】 ファジイメンバーシップ関数は、上記強制ニューロ−ファジ
    イ干渉システムモデルにおいて推定された光源の特性付けを行うために、ホワイ
    トバランス面に対してニューラルネットワークの非線形の座標変換を行うことに
    よって構築されることを特徴とする請求項36記載の色補正装置。
  38. 【請求項38】 上記強制ニューロ−ファジイ干渉システムモデルは、上記強
    制ニューロ−ファジイ干渉システムモデルにおいて推定された光源の特性付けを
    行うために、ホワイトバランス面に対してニューラルネットワークの非線形の座
    標変換を行うことによって、ファジイメンバーシップ関数を構築することにより
    学習することを特徴とする請求項33記載の色補正装置。
  39. 【請求項39】 ファジイメンバーシップ関数及びローカルエキスパート多層
    パーセプトロンの全てのパラメータは、同時に更新され、上記強制ニューロ−フ
    ァジイ干渉システムモデルは、上記強制ニューロ−ファジイ干渉システムモデル
    において推定された光源の特性付けを行うために、ホワイトバランス面に対して
    ニューラルネットワークの非線形の座標変換を行うことによって、ファジイメン
    バーシップ関数を構築することにより学習することを特徴とする請求項36記載
    の色補正装置。
  40. 【請求項40】 ファジイメンバーシップ関数及びローカルエキスパート多層
    パーセプトロンの全てのパラメータは、パラメータ更新の発見的規則に従って同
    時に更新され、上記強制ニューロ−ファジイ干渉システムモデルは、上記強制ニ
    ューロ−ファジイ干渉システムモデルにおいて推定された光源の特性付けを行う
    ために、ホワイトバランス面に対してニューラルネットワークの非線形の座標変
    換を行うことによって、ファジイメンバーシップ関数を構築することにより学習
    することを特徴とする請求項36記載の色補正装置。
  41. 【請求項41】 上記ファジイメンバーシップ関数の少なくとも2つは重複す
    ることを特徴とする請求項36乃至40のいずれか1項に記載の色補正装置。
  42. 【請求項42】 電子カラーカメラによって撮像されたカラー画像の色補正を
    行う色補正装置において、 上記カラー画像の推定された光源に基づいて上記カラー画像を表すデータに対
    する補正を決定する、スイッチングを有する強制ニューロ−ファジイ干渉システ
    ムを備える色補正装置。
  43. 【請求項43】 強制ニューロ−ファジイ干渉システムは、代表的な光源それ
    ぞれに対応する別々のニューラルネットワークを用いて、色変換逆マップ(colo
    r conversion inverse map)を見つけ、上記色補正された画像の出力色空間を、
    上記光源の色度座標により正規化しない空間として出力することを特徴とする請
    求項33記載の色補正装置。
  44. 【請求項44】 強制ニューロ−ファジイ干渉システムは、代表的な光源それ
    ぞれに対応するニューラルネットワークを用いて、色変換逆マップ(color conv
    ersion inverse map)を見つけ、上記色補正された画像の出力色空間を、上記光
    源の色度座標により正規化しない空間として出力することを特徴とする請求項3
    3記載の色補正装置。
  45. 【請求項45】 強制ニューロ−ファジイ干渉システムは、代表的な光源それ
    ぞれに対応する別々のニューラルネットワークを用いて、色変換逆マップ(colo
    r conversion inverse map)を見つけ、標準的な光源下で、各ニューラルネット
    ワークの教示データを測色値として用いることを特徴とする請求項33記載の色
    補正装置。
  46. 【請求項46】 強制ニューロ−ファジイ干渉システムは、代表的な光源それ
    ぞれに対応するニューラルネットワークを用いて、色変換逆マップ(color conv
    ersion inverse map)を見つけ、標準的な光源下で、各ニューラルネットワーク
    の教示データを測色値として用いることを特徴とする請求項33記載の色補正装
    置。
  47. 【請求項47】 電子カラーカメラによって撮像されたカラー画像の色補正デ
    ータが記録された記録媒体において、上記記録媒体は、 ニューラルネットワークを用いて、上記カラー画像の推定された光源に基づい
    て上記カラー画像を表すデータに対する補正を決定するステップと、 上記光源は複数の光源からなっており、上記カラー画像を表すデータに対して
    補正を行うステップと、 上記補正されたデータを表すデータを上記記録媒体に記録するステップによっ
    て用意される記録媒体。
  48. 【請求項48】 上記電子カラーカメラは少なくとも1つの静止画像を撮像す
    ることを特徴とする請求項47記載の記録媒体。
  49. 【請求項49】 上記電子カラーカメラは動画像の連続を撮像することを特徴
    とする請求項47記載の記録媒体。
  50. 【請求項50】 電子カラーカメラによって撮像されたカラー画像の色補正デ
    ータが記録された記録媒体において、上記記録媒体は、 多層パーセプトロンモデルを用いて、上記カラー画像の推定された光源に基づ
    いて上記カラー画像を表すデータに対する補正を決定するステップと、 上記光源は複数の光源からなっており、上記カラー画像を表すデータに対して
    補正を行うステップと、 上記補正されたデータを表すデータを上記記録媒体に記録するステップによっ
    て用意される記録媒体。
  51. 【請求項51】 上記電子カラーカメラは少なくとも1つの静止画像を撮像す
    ることを特徴とする請求項50記載の記録媒体。
  52. 【請求項52】 上記電子カラーカメラは動画像の連続を撮像することを特徴
    とする請求項50記載の記録媒体。
  53. 【請求項53】 上記多層パーセプトロンモデルは、レベンバーグ−マーカー
    ト式のアルゴリズム(Levenberg-Marquardt type algorithm)のドッグレッグト
    ラストリージョン(dogleg trust region)に基づいて学習することを特徴とす
    る請求項50記載の記録媒体。
  54. 【請求項54】 上記色補正された画像の出力色空間を、上記光源の色度座標
    により正規化しない空間として出力するステップを更に有する請求項54記載の
    記録媒体。
  55. 【請求項55】 各ニューラルネットワークの教示データを、標準光源下での
    測色値として用いるステップを更に有する請求項50記載の記録媒体。
  56. 【請求項56】 電子カラーカメラによって撮像されたカラー画像の色補正デ
    ータが記録された記録媒体において、上記記録媒体は、 強制ニューロ−ファジイ干渉システムモデルを用いて、上記カラー画像の推定
    された光源に基づいて上記カラー画像を表すデータに対する補正を決定するステ
    ップと、 上記光源は複数の光源からなっており、上記カラー画像を表すデータに対して
    補正を行うステップと、 上記補正されたデータを表すデータを上記記録媒体に記録するステップによっ
    て用意される記録媒体。
  57. 【請求項57】 上記電子カラーカメラは少なくとも1つの静止画像を撮像す
    ることを特徴とする請求項56記載の記録媒体。
  58. 【請求項58】 上記電子カラーカメラは動画像の連続を撮像することを特徴
    とする請求項56記載の記録媒体。
  59. 【請求項59】 ファジイメンバーシップ関数からなる集積部は、カラー画像
    の撮像時における光源の推定に基づいて、ローカルエキスパート多層パーセプト
    ロンの出力の加重和を計算することを特徴とする請求項56記載の記録媒体。
  60. 【請求項60】 上記強制ニューロ−ファジイ干渉システムモデルにおいて推
    定された光源の特性付けを行うために、ホワイトバランス面に対してニューラル
    ネットワークの非線形の座標変換を行うことによって、ファジイメンバーシップ
    関数を構築するステップを更に有する請求項59記載の記録媒体。
  61. 【請求項61】 上記強制ニューロ−ファジイ干渉システムモデルにおいて推
    定された光源の特性付けを行うために、ホワイトバランス面に対してニューラル
    ネットワークの非線形の座標変換を行うことによって、ファジイメンバーシップ
    関数を構築することにより、上記強制ニューロ−ファジイ干渉システムモデルを
    学習するステップを更に有する請求項56記載の記録媒体。
  62. 【請求項62】 ファジイメンバーシップ関数及びローカルエキスパート多層
    パーセプトロンの全てのパラメータは、同時に更新され、上記強制ニューロ−フ
    ァジイ干渉システムモデルにおいて推定された光源の特性付けを行うために、ホ
    ワイトバランス面に対してニューラルネットワークの非線形の座標変換を行うこ
    とによって、ファジイメンバーシップ関数を構築することにより、上記強制ニュ
    ーロ−ファジイ干渉システムモデルを学習するステップを更に有する請求項59
    記載の記録媒体。
  63. 【請求項63】 ファジイメンバーシップ関数及びローカルエキスパート多層
    パーセプトロンの全てのパラメータは、パラメータ更新の発見的規則に従って同
    時に更新され、上記強制ニューロ−ファジイ干渉システムモデルにおいて推定さ
    れた光源の特性付けを行うために、ホワイトバランス面に対してニューラルネッ
    トワークの非線形の座標変換を行うことによって、ファジイメンバーシップ関数
    を構築することにより、上記強制ニューロ−ファジイ干渉システムモデルを学習
    するステップを更に有する請求項59記載の記録媒体。
  64. 【請求項64】 上記ファジイメンバーシップ関数の少なくとも2つは重複す
    ることを特徴とする請求項59乃至63のいずれか1項に記載の記録媒体。
  65. 【請求項65】 電子カラーカメラによって撮像されたカラー画像の色補正デ
    ータが記録された記録媒体において、上記記録媒体は、 スイッチングを有する強制ニューロ−ファジイ干渉システムを用いて、上記カ
    ラー画像の推定された光源に基づいて上記カラー画像を表すデータに対する補正
    を決定するステップと、 上記補正されたデータを表すデータを上記記録媒体に記録するステップによっ
    て用意される記録媒体。
  66. 【請求項66】 代表的な光源それぞれに対応する別々のニューラルネットワ
    ークを用いて、色変換逆マップ(color conversion inverse map)を見つけるス
    テップと、 上記色補正された画像の出力色空間を、上記光源の色度座標により正規化しな
    い空間として出力するステップを更に有する請求項56記載の記録媒体。
  67. 【請求項67】 代表的な光源それぞれに対応するニューラルネットワークを
    用いて、色変換逆マップ(color conversion inverse map)を見つけるステップ
    と、 上記色補正された画像の出力色空間を、上記光源の色度座標により正規化しな
    い空間として出力するステップを更に有する請求項56記載の記録媒体。
  68. 【請求項68】 代表的な光源それぞれに対応する別々のニューラルネットワ
    ークを用いて、色変換逆マップ(color conversion inverse map)を見つけるス
    テップと、 標準的な光源下で、各ニューラルネットワークの教示データを測色値として用
    いるステップを更に有する請求項56記載の記録媒体。
  69. 【請求項69】 代表的な光源それぞれに対応するニューラルネットワークを
    用いて、色変換逆マップ(color conversion inverse map)を見つけるステップ
    と、 標準的な光源下で、各ニューラルネットワークの教示データを測色値として用
    いるステップを更に有する請求項56記載の記録媒体。
  70. 【請求項70】 電子カラーカメラによって撮像されたカラー画像の色補正さ
    れたデータを伝送するデータ伝送方法において、 ニューラルネットワークを用いて、上記カラー画像の推定された光源に基づい
    て上記カラー画像を表すデータに対する補正を決定するステップと、 上記光源は複数の光源からなっており、上記カラー画像を表すデータに対して
    補正を行うステップと、 上記補正されたデータを表すデータを伝送するステップを有するデータ伝送方
    法。
  71. 【請求項71】 上記電子カラーカメラは少なくとも1つの静止画像を撮像す
    ることを特徴とする請求項70記載のデータ伝送方法。
  72. 【請求項72】 上記電子カラーカメラは動画像の連続を撮像することを特徴
    とする請求項70記載のデータ伝送方法。
  73. 【請求項73】 電子カラーカメラによって撮像されたカラー画像の色補正さ
    れたデータを伝送するデータ伝送方法において、 多層パーセプトロンモデルを用いて、上記カラー画像の推定された光源に基づ
    いて上記カラー画像を表すデータに対する補正を決定するステップと、 上記光源は複数の光源からなっており、上記カラー画像を表すデータに対して
    補正を行うステップと、 上記補正されたデータを表すデータを伝送するステップを有するデータ伝送方
    法。
  74. 【請求項74】 上記電子カラーカメラは少なくとも1つの静止画像を撮像す
    ることを特徴とする請求項73記載のデータ伝送方法。
  75. 【請求項75】 上記電子カラーカメラは動画像の連続を撮像することを特徴
    とする請求項73記載のデータ伝送方法。
  76. 【請求項76】 上記多層パーセプトロンモデルは、レベンバーグ−マーカー
    ト式のアルゴリズム(Levenberg-Marquardt type algorithm)のドッグレッグト
    ラストリージョン(dogleg trust region)に基づいて学習することを特徴とす
    る請求項73記載のデータ伝送方法。
  77. 【請求項77】 上記色補正された画像の出力色空間を、上記光源の色度座標
    により正規化しない空間として出力するステップを更に有する請求項73記載の
    データ伝送方法。
  78. 【請求項78】 各ニューラルネットワークの教示データを、標準光源下での
    測色値として用いるステップを更に有する請求項79記載のデータ伝送方法。
  79. 【請求項79】 電子カラーカメラによって撮像されたカラー画像の色補正さ
    れたデータを伝送するデータ伝送方法において、 強制ニューロ−ファジイ干渉システムモデルを用いて、上記カラー画像の推定
    された光源に基づいて上記カラー画像を表すデータに対する補正を決定するステ
    ップと、 上記光源は複数の光源からなっており、上記カラー画像を表すデータに対して
    補正を行うステップと、 上記補正されたデータを表すデータを伝送するステップを有するデータ伝送方
    法。
  80. 【請求項80】 上記電子カラーカメラは少なくとも1つの静止画像を撮像す
    ることを特徴とする請求項79記載のデータ伝送方法。
  81. 【請求項81】 上記電子カラーカメラは動画像の連続を撮像することを特徴
    とする請求項79記載のデータ伝送方法。
  82. 【請求項82】 ファジイメンバーシップ関数からなる集積部は、カラー画像
    の撮像時における光源の推定に基づいて、ローカルエキスパート多層パーセプト
    ロンの出力の加重和を計算することを特徴とする請求項79記載のデータ伝送方
    法。
  83. 【請求項83】 上記強制ニューロ−ファジイ干渉システムモデルにおいて推
    定された光源の特性付けを行うために、ホワイトバランス面に対してニューラル
    ネットワークの非線形の座標変換を行うことによって、ファジイメンバーシップ
    関数を構築するステップを更に有する請求項82記載のデータ伝送方法。
  84. 【請求項84】 上記強制ニューロ−ファジイ干渉システムモデルにおいて推
    定された光源の特性付けを行うために、ホワイトバランス面に対してニューラル
    ネットワークの非線形の座標変換を行うことによって、ファジイメンバーシップ
    関数を構築することにより、上記強制ニューロ−ファジイ干渉システムモデルを
    学習するステップを更に有する請求項79記載のデータ伝送方法。
  85. 【請求項85】 ファジイメンバーシップ関数及びローカルエキスパート多層
    パーセプトロンの全てのパラメータは、同時に更新され、上記強制ニューロ−フ
    ァジイ干渉システムモデルにおいて推定された光源の特性付けを行うために、ホ
    ワイトバランス面に対してニューラルネットワークの非線形の座標変換を行うこ
    とによって、ファジイメンバーシップ関数を構築することにより、上記強制ニュ
    ーロ−ファジイ干渉システムモデルを学習するステップを更に有する請求項82
    記載のデータ伝送方法。
  86. 【請求項86】 ファジイメンバーシップ関数及びローカルエキスパート多層
    パーセプトロンの全てのパラメータは、パラメータ更新の発見的規則に従って同
    時に更新され、上記強制ニューロ−ファジイ干渉システムモデルにおいて推定さ
    れた光源の特性付けを行うために、ホワイトバランス面に対してニューラルネッ
    トワークの非線形の座標変換を行うことによって、ファジイメンバーシップ関数
    を構築することにより、上記強制ニューロ−ファジイ干渉システムモデルを学習
    するステップを更に有する請求項82記載のデータ伝送方法。
  87. 【請求項87】 上記ファジイメンバーシップ関数の少なくとも2つは重複す
    ることを特徴とする請求項82乃至86のいずれか1項に記載のデータ伝送方法
  88. 【請求項88】 電子カラーカメラによって撮像されたカラー画像の色補正さ
    れたデータを伝送するデータ伝送方法において、 スイッチングを有する強制ニューロ−ファジイ干渉システムを用いて、上記カ
    ラー画像の推定された光源に基づいて上記カラー画像を表すデータに対する補正
    を決定するステップと、 上記補正されたデータを表すデータを伝送するステップを有するデータ伝送方
    法。
  89. 【請求項89】 代表的な光源それぞれに対応する別々のニューラルネットワ
    ークを用いて、色変換逆マップ(color conversion inverse map)を見つけるス
    テップと、 上記色補正された画像の出力色空間を、上記光源の色度座標により正規化しな
    い空間として出力するステップを更に有する請求項79記載のデータ伝送方法。
  90. 【請求項90】 代表的な光源それぞれに対応するニューラルネットワークを
    用いて、色変換逆マップ(color conversion inverse map)を見つけるステップ
    と、 上記色補正された画像の出力色空間を、上記光源の色度座標により正規化しな
    い空間として出力するステップを更に有する請求項79記載のデータ伝送方法。
  91. 【請求項91】 代表的な光源それぞれに対応する別々のニューラルネットワ
    ークを用いて、色変換逆マップ(color conversion inverse map)を見つけるス
    テップと、 標準的な光源下で、各ニューラルネットワークの教示データを測色値として用
    いるステップを更に有する請求項79記載のデータ伝送方法。
  92. 【請求項92】 代表的な光源それぞれに対応するニューラルネットワークを
    用いて、色変換逆マップ(color conversion inverse map)を見つけるステップ
    と、 標準的な光源下で、各ニューラルネットワークの教示データを測色値として用
    いるステップを更に有する請求項79記載のデータ伝送方法。
  93. 【請求項93】 上記カラー画像を表すデータは、上記光源に関する情報を含
    んでいることを特徴とする請求項1、4又は10のいずれか1項に記載の色補正
    方法。
  94. 【請求項94】 上記カラー画像を表すデータは、上記光源に関する情報を含
    んでいることを特徴とする請求項24、27又は33のいずれか1項に記載の色
    補正装置。
  95. 【請求項95】 電子カメラによって撮像された画像データを記録するデータ
    記録方法において、 カラー画像を撮像して、上記画像を表すデータを出力するステップと、 上記撮像されたカラー画像における光源を推定して、上記推定された光源を表
    すデータを出力するステップと、 上記画像を表すデータと上記推定された光源を表すデータとを記録するステッ
    プとを有するデータ記録方法。
  96. 【請求項96】 電子カメラによって撮像された画像データを伝送するデータ
    伝送方法において、 カラー画像を撮像して、上記画像を表すデータを出力するステップと、 上記撮像されたカラー画像における光源を推定して、上記推定された光源を表
    すデータを出力するステップと、 上記画像を表すデータと上記推定された光源を表すデータとを伝送するステッ
    プとを有するデータ伝送方法。
JP2000614670A 1999-04-28 2000-04-28 カラー機器の特性付け方法及び装置、画像色補正方法及び装置、カラー画像データ伝送及び/又は記録方法及び記録媒体 Pending JP2002543695A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP11-122734 1999-04-28
JP11122734A JP2000311243A (ja) 1999-04-28 1999-04-28 画像色補正方法及び装置
PCT/US2000/011504 WO2000065847A1 (en) 1999-04-28 2000-04-28 Methods and apparatus for color device characterization

Publications (1)

Publication Number Publication Date
JP2002543695A true JP2002543695A (ja) 2002-12-17

Family

ID=14843277

Family Applications (2)

Application Number Title Priority Date Filing Date
JP11122734A Pending JP2000311243A (ja) 1999-04-28 1999-04-28 画像色補正方法及び装置
JP2000614670A Pending JP2002543695A (ja) 1999-04-28 2000-04-28 カラー機器の特性付け方法及び装置、画像色補正方法及び装置、カラー画像データ伝送及び/又は記録方法及び記録媒体

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP11122734A Pending JP2000311243A (ja) 1999-04-28 1999-04-28 画像色補正方法及び装置

Country Status (5)

Country Link
US (1) US7180629B1 (ja)
EP (1) EP1092323B1 (ja)
JP (2) JP2000311243A (ja)
DE (1) DE60045363D1 (ja)
WO (1) WO2000065847A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011223452A (ja) * 2010-04-13 2011-11-04 Nippon Hoso Kyokai <Nhk> 色補正装置
JP2020077950A (ja) * 2018-11-07 2020-05-21 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd 画像処理装置、撮像装置、画像処理方法、及びプログラム
US11677919B2 (en) 2020-12-02 2023-06-13 Samsung Electronics Co., Ltd. Image processing method and apparatus

Families Citing this family (43)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6804390B2 (en) 2001-02-07 2004-10-12 Basf Corporation Computer-implemented neural network color matching formulation applications
US6714924B1 (en) 2001-02-07 2004-03-30 Basf Corporation Computer-implemented neural network color matching formulation system
ATE527816T1 (de) * 2001-02-09 2011-10-15 Seiko Epson Corp Gerät und verfahren zum anpassen eines ausgangsbildes auf der basis von bilddaten
JP3729252B2 (ja) 2001-03-26 2005-12-21 セイコーエプソン株式会社 画像処理システム、プログラムおよび情報記憶媒体
JP4491988B2 (ja) * 2001-04-09 2010-06-30 パナソニック株式会社 カラー画像処理方式及びカラー画像処理装置
US6973211B2 (en) 2001-06-05 2005-12-06 Basf Corporation Color management and solution distribution system and method
US6892194B2 (en) 2001-06-05 2005-05-10 Basf Corporation System and method for organizing color values using an artificial intelligence based cluster model
US6993512B2 (en) 2001-06-05 2006-01-31 Basf Corporation System and method for converting a color formula using an artificial intelligence based conversion model
US6999615B2 (en) 2001-06-05 2006-02-14 Basf Corporation Color management and solution distribution system and method
US6587793B2 (en) * 2001-09-17 2003-07-01 Xerox Corporation Systems and methods for determining spectra using fuzzy inference algorithms with measurements from LED color sensor
JP4324404B2 (ja) * 2003-04-22 2009-09-02 富士フイルム株式会社 固体撮像装置及びデジタルカメラ
US8055063B2 (en) * 2003-09-30 2011-11-08 Sharp Laboratories Of America, Inc. Methods and systems for improving robustness of color balance correction
WO2005074302A1 (ja) * 2004-01-29 2005-08-11 Olympus Corporation 色再現システム及び色再現方法
US8026953B2 (en) * 2004-05-11 2011-09-27 Samsung Electronics Co., Ltd. Method for processing color image data
US7570809B1 (en) * 2004-07-03 2009-08-04 Hrl Laboratories, Llc Method for automatic color balancing in digital images
US7576889B2 (en) * 2004-10-26 2009-08-18 Xerox Corporation Cascade of matrix-LUT for color transformation
JP4247639B2 (ja) * 2006-06-14 2009-04-02 セイコーエプソン株式会社 印刷用色変換プロファイルの生成
JP4518102B2 (ja) * 2007-05-21 2010-08-04 セイコーエプソン株式会社 画像データの出力調整
US8370032B2 (en) * 2007-07-12 2013-02-05 Toyota Motor Engineering & Manufacturing North America, Inc. Systems and methods for shift control for vehicular transmission
US7991226B2 (en) * 2007-10-12 2011-08-02 Pictometry International Corporation System and process for color-balancing a series of oblique images
US7940423B2 (en) * 2007-11-30 2011-05-10 Canon Kabushiki Kaisha Generating a device independent interim connection space for spectral data
US8229215B2 (en) 2007-12-03 2012-07-24 Omnivision Technologies, Inc. Image sensor apparatus and method for scene illuminant estimation
US10346710B2 (en) * 2016-09-29 2019-07-09 Datacolor Inc. Multi-agent training of a color identification neural network
US10692245B2 (en) * 2017-07-11 2020-06-23 Datacolor Inc. Color identification in images
CA3028278A1 (en) * 2017-11-23 2019-05-23 Beijing Didi Infinity Technology And Development Co., Ltd. System and method for estimating arrival time
CN108253938B (zh) * 2017-12-29 2020-01-24 武汉大学 Tbm破岩矿渣数字近景摄影测量识别及反演方法
KR102459221B1 (ko) 2018-02-20 2022-10-27 삼성전자주식회사 전자 장치, 이의 영상 처리 방법 및 컴퓨터 판독가능 기록 매체
JP7237625B2 (ja) * 2019-02-08 2023-03-13 株式会社ダイヘン 移動体、及び画像補正装置
US10509991B1 (en) 2019-03-18 2019-12-17 Capital One Services, Llc Detection of images in relation to targets based on colorspace transformation techniques and utilizing infrared light
US10534948B1 (en) 2019-03-18 2020-01-14 Capital One Services, Llc Optimizing detection of images in relation to targets based on colorspace transformation techniques
US10496911B1 (en) 2019-03-18 2019-12-03 Capital One Services, Llc Detection of images in relation to targets based on colorspace transformation techniques and utilizing ultraviolet and infrared light
US10496862B1 (en) 2019-03-18 2019-12-03 Capital One Services, Llc Detection of images in relation to targets based on colorspace transformation techniques and utilizing ultraviolet light
US10614635B1 (en) 2019-07-25 2020-04-07 Capital One Services, Llc Augmented reality system with color-based fiducial marker
US10833852B1 (en) 2019-10-03 2020-11-10 Capital One Services, Llc Encoded data along tape based on colorspace schemes
US10715183B1 (en) 2019-10-25 2020-07-14 Capital One Services, Llc Data encoding with error-correcting code pursuant to colorspace schemes
US10867226B1 (en) 2019-11-04 2020-12-15 Capital One Services, Llc Programmable logic array and colorspace conversions
US10762371B1 (en) 2019-11-14 2020-09-01 Capital One Services, Llc Object detection techniques using colorspace conversions
TWI768282B (zh) * 2020-01-15 2022-06-21 宏碁股份有限公司 光源資訊預測模型建立方法與系統
EP4131138A4 (en) * 2020-03-31 2023-05-24 Sony Group Corporation INFORMATION PROCESSING DEVICE, INFORMATION PROCESSING TERMINAL, METHOD, PROGRAM AND MODEL
US11302036B2 (en) * 2020-08-19 2022-04-12 Capital One Services, Llc Color conversion between color spaces using reduced dimension embeddings
CN112270721A (zh) * 2020-10-15 2021-01-26 西安工程大学 一种基于人眼颜色灵敏度函数的颜色感知方法
CN113537248A (zh) * 2021-08-13 2021-10-22 珠海格力电器股份有限公司 图像识别方法和装置、电子设备和存储介质
CN113537154B (zh) * 2021-08-20 2022-08-12 中国美术学院 无人机建筑航拍图神经网络自动校色方法

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5018017A (en) * 1987-12-25 1991-05-21 Kabushiki Kaisha Toshiba Electronic still camera and image recording method thereof
JPH04208928A (ja) * 1990-11-30 1992-07-30 Olympus Optical Co Ltd カメラの色補正装置
US5376963A (en) * 1993-03-31 1994-12-27 Panasonic Technologies, Inc. Neural network video image processor
US5559604A (en) * 1993-09-27 1996-09-24 Toyo Ink Manufacturing Co., Ltd. Color matching apparatus for reproducing the same color under different illuminants
JP3525353B2 (ja) * 1994-09-28 2004-05-10 株式会社リコー デジタル電子スチル・カメラ
US5548697A (en) 1994-12-30 1996-08-20 Panasonic Technologies, Inc. Non-linear color corrector having a neural network and using fuzzy membership values to correct color and a method thereof
JPH09163382A (ja) * 1995-12-07 1997-06-20 Toyo Ink Mfg Co Ltd 色ずれ修正方法及び装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011223452A (ja) * 2010-04-13 2011-11-04 Nippon Hoso Kyokai <Nhk> 色補正装置
JP2020077950A (ja) * 2018-11-07 2020-05-21 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd 画像処理装置、撮像装置、画像処理方法、及びプログラム
US11677919B2 (en) 2020-12-02 2023-06-13 Samsung Electronics Co., Ltd. Image processing method and apparatus

Also Published As

Publication number Publication date
EP1092323B1 (en) 2010-12-15
WO2000065847A1 (en) 2000-11-02
US7180629B1 (en) 2007-02-20
DE60045363D1 (de) 2011-01-27
EP1092323A1 (en) 2001-04-18
JP2000311243A (ja) 2000-11-07

Similar Documents

Publication Publication Date Title
JP2002543695A (ja) カラー機器の特性付け方法及び装置、画像色補正方法及び装置、カラー画像データ伝送及び/又は記録方法及び記録媒体
JP3417051B2 (ja) 光源に依存しない特徴パラメータ値を用いた色情報処理方法および装置
US5929906A (en) Color correcting method and apparatus
CN107197225B (zh) 基于色适应模型的彩色数码相机白平衡校正方法
Karaimer et al. Improving color reproduction accuracy on cameras
CN111292246B (zh) 图像颜色校正方法、存储介质及内窥镜
JP6455764B2 (ja) 色補正パラメータ算出方法、色補正パラメータ算出装置および画像出力システム
Pham et al. Color correction for an image sequence
JP2007036462A (ja) 画像処理装置
CN109218698B (zh) 一种高容错性的彩色数码相机颜色校正方法
JP4095765B2 (ja) カラー画像処理装置
JP2004252620A (ja) 画像処理装置および方法、並びに、プログラム
JP2001128191A (ja) 画像処理方法および装置並びに記録媒体
JP2008510382A (ja) デジタル・カラー忠実度
CN113676712A (zh) 一种色彩校正方法及其相关装置
KR20070091208A (ko) 자동 백색 밸런스 제어
Le et al. Gamutnet: Restoring wide-gamut colors for camera-captured images
Kao et al. Color reproduction for digital imaging systems
KR101137611B1 (ko) 이미지 데이터 변환 절차를 효과적으로 수행하는 시스템 및 방법
CN111435986B (zh) 源图像数据库的获取方法、训练装置及电子设备
JP4037036B2 (ja) カラーバランス調整方法および装置並びに記録媒体
JP5097927B2 (ja) 色変換マトリクス算出方法
CN114627016A (zh) 一种基于色彩迁移策略的工业缺陷检测预处理方法
JP3845457B2 (ja) カラーイメージ信号の変換方法及び変換装置
JP3539883B2 (ja) 画像処理方法および装置、記録媒体、撮像装置並びに画像再生装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070302

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100316

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100510

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20100608