JP2000134634A - 画像変換方法 - Google Patents

画像変換方法

Info

Publication number
JP2000134634A
JP2000134634A JP11298563A JP29856399A JP2000134634A JP 2000134634 A JP2000134634 A JP 2000134634A JP 11298563 A JP11298563 A JP 11298563A JP 29856399 A JP29856399 A JP 29856399A JP 2000134634 A JP2000134634 A JP 2000134634A
Authority
JP
Japan
Prior art keywords
image
pixel
vector
input
output
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP11298563A
Other languages
English (en)
Other versions
JP2000134634A5 (ja
JP4328424B2 (ja
Inventor
David S Taubman
デビット・エス・トーブマン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
HP Inc
Original Assignee
Hewlett Packard Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hewlett Packard Co filed Critical Hewlett Packard Co
Publication of JP2000134634A publication Critical patent/JP2000134634A/ja
Publication of JP2000134634A5 publication Critical patent/JP2000134634A5/ja
Application granted granted Critical
Publication of JP4328424B2 publication Critical patent/JP4328424B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2209/00Details of colour television systems
    • H04N2209/04Picture signal generators
    • H04N2209/041Picture signal generators using solid-state devices
    • H04N2209/042Picture signal generators using solid-state devices having a single pick-up sensor
    • H04N2209/045Picture signal generators using solid-state devices having a single pick-up sensor using mosaic colour filter
    • H04N2209/046Colour interpolation to calculate the missing colour values

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Color Television Image Signal Generators (AREA)
  • Image Processing (AREA)

Abstract

(57)【要約】 【課題】 重なり合わないセンサを持つ画素アレイから
のデータを完全にサンプリングされたデジタル画像へと
変換するための改善された画像処理方法を提供する。 【解決手段】 第一の画像から第二の画像を生成するた
めに、第一の画像に対応する入力画素面のベクトルを、
第二の画像に対応する出力画素面のベクトルに変換する
画像変換方法であって、線形変換を用いてこれらベクト
ル変換を演算し画像変換を行う。該線形変換は第一の画
像を生成するための焦点距離やfナンバー等の光学系の
特性や、照明源の特性に依存することにより、上記各特
性の変化に適したベクトル変換を行うことができる。ま
た、前記線形変換は、第一の画像に取り込んだ像の種類
及び第二の画像の所望の出力フォーマットの条件を考慮
するように変化させることもできるので、条件に応じた
ベクトル変換を行うこともできる。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、デジタルカメラに
関し、より具体的にはカメラセンサからのデータをカラ
ー画像へと変換する為の改善された画像変換方法に関す
る。
【0002】
【従来の技術】通常、デジタルカラー画像は、整列した
格子上の各格子点における画像の輝度を表わす画素値の
配列により構成される。代表的には3つの色が画像の作
成に利用される。格子上の各格子点には、これら各々の
色の輝度が指定されており、従ってその格子ポイントに
は、画像の輝度及び色の両方が指定される。
【0003】従来のカラー写真記録では、スペクトルの
異なる感度領域(通常は赤、緑、青)を有する色感度層
が3つ重なり合うことにより、画像データが記録されて
いる。それとは対照的に通常デジタルカメラでは、1つ
の単層のセンサアレイが用いられる。
【0004】カラー画像を検出するセンサアレイが1つ
だけの場合、特定のセンサ位置で検出されるのは一色の
みである。結果として、これらのセンサによって作られ
るのは、これまでの通念のカラー画像ではなく、むしろ
個々のセンサに割り当てられたカラーフィルタによる個
々の色サンプルの集合である。この割り当てはカラーフ
ィルタ配列(CFA)、即ちカラーモザイク配列と呼ば
れる。この配列の各位置において検出されるのはもとも
と一色のみであるので、各サンプル位置において色サン
プルの完全なセット(通常は赤、緑、青)を持つ真のカ
ラー画像を作成するために、失われた情報を推定するた
めの多大な量の計算が必要となる。この処理を「デモザ
イク」処理と呼ぶことにする。
【0005】失われた情報を生成するために、画像セン
サ内の隣接する画素の情報を使わなければならない。推
定処理により発生する人工的な結果を最低限に抑えつつ
失われた情報を提供しようと、多くのアルゴリズムが提
案されている。最も簡単なアルゴリズムにおいては、失
われた情報を提供するために類似色のカラーセンサから
のデータを補間する。これらのアルゴリズムでは、例え
ば赤センサを緑センサから独立したものとして扱う。所
定の位置に赤色の値を与えるために、その位置の領域内
にある赤センサにより測定された値が補間される。この
手法においては、画像を低域フィルタでフィルタリング
しなければならない。このようなフィルタリングをする
と、画像の解像度がその基となるセンサアレイの画素解
像度よりも低くなってしまう。しかし、この失われた解
像度を回復することは出来ない。
【0006】この解像度の低下を避けるにために、高級
なカメラでは、よりマイルドな光学低域フィルタを利用
しているものがある。しかしながら、そのようなシステ
ムにおいては、カラーセンサを独立したものとして取り
扱うことが出来なくなる。例えば、Wober等による
米国特許第5、475、769号では、失われた色情報
を計算しようとする画素に隣接した画素値の加重平均を
計算することにより、失われた色情報を生成する方法が
記載されている。この方法では、復元しようとする色だ
けではなく全てのカラーセンサによって、値に重み付け
がされる。しかしながらこの方法でさえも、全ての画像
に対して一組の重み付けしか用いないために、改善の要
望が多い。
【0007】
【発明が解決しようとする課題】一つの画素アレイを、
各平面が同じ色のセンサを有する複数の別々の画素平面
から構成されているものと見ることが出来る。画素は重
なり合わない為、様々な平面にあるセンサは異なる位置
にある。1以上の平面にわたって加重平均を取るシステ
ムでは、これらサンプル位置間の統計的依存性が利用さ
れる。要するに、カメラの光学系がぼけることによって
1つの色平面のセンサに正確に入る画像のエッジを、他
の色平面にもあるかのように見せることが出来るという
ことで、これは画像がそのセンサ上でぼけて他の色平面
に広がるためである。異なる色平面間における統計的依
存性は、カメラの光学系のぼけ量によって影響を受ける
ために、最適なアルゴリズムとするには物理的なカメラ
設定に関しての配慮が必要となる。従って、一組の重み
付け関数では失われた情報の最適な推定が出来ない。
【0008】また、統計的依存性は、照明源にも依存す
る。異なる照明源は異なるスペクトルを持つ。画素フィ
ルタは赤、緑及び青の波長が中心の通過帯域幅を有す
る。画像のぼけがない場合、いずれの画素の反応もその
カラーフィルタ、撮影される像の対応する位置の反射
率、そして照明源からそのポイントに入射する光スペク
トルによって決定される。カメラの光学系によるぼけは
画素間の光を混ぜ合わせる。従って一般的に、統計的依
存性は照明源及びカメラの光学系の両方に依存してい
る。従来技術による方法では、画素アレイデータを完全
にサンプリングされたカラーデジタル画像へと変換する
にあたり、照明源についての配慮がなされていなかっ
た。
【0009】本発明はこのような状況に鑑みてなされた
もので、広義的に言えば、本発明の目的は、重なり合わ
ないセンサを持つ画素アレイからのデータを完全にサン
プリングされたデジタル画像へ変換するための改善され
た画像変換方法を提供するところにある。
【0010】本発明の更なる目的は、カメラの光学系に
関する修正を行う画像変換方法を提供するところにあ
る。
【0011】本発明のまた更なる目的は、照明源に関す
る修正を行う画像変換方法を提供するところにある。
【0012】本発明のこれら及びその他の目的は、以下
の本発明に関する詳細な説明及び添付の図とにより当業
者に明らかとなるものである。
【課題を解決するための手段】
【0013】本発明は、データ処理システムを操作して
第一の画像から第二の画像を生成するものである。第一
の画像は、2次元アレイの画素値を含み、各画素値は第
一の画像中の一箇所における複数のスペクトル帯域の内
の1つの輝度に対応する。画像変換方法は、少なくとも
1つの出力画素面を含むベクトルを得る為に、入力画素
面からのベクトルへ線形変換を行う。入力画素面は、第
一の画像の画素を複数の入力画像平面へと分割すること
により定められる。各入力画像平面は他の入力画像平面
と同数あり、正規化された水平及び垂直方向のサンプリ
ング間隔の画素でである。ある特定の画像平面中にある
画素は全て、その入力画像平面内の他の画素と同じスペ
クトル帯域に対応する。各入力画素面は大きさP(Pは
入力画像平面数)のベクトルであり、そのベクトルの各
成分は対応する入力画像平面からの入力画素である。同
様に、1組の出力画像平面が画定されるが、ある特定の
出力画像平面中の各画素は、第二の画像中の対応するポ
イントにおける複数スペクトル帯域の内の1つで、第二
の画像の輝度を表わしている。各出力画素面は大きさQ
(Qは出力画像平面数)のベクトルであり、そのベクト
ルの各成分は対応する出力画像平面からの画素である。
本発明の実施形態においては、線形変換は第一の画像を
生成するために、利用された光学系及び照明源の特性に
依存する。また、線形変換は第一の画像に取り込んだ像
の内容及び第二の画像の所望の出力フォーマットを考慮
するように変えることも出来る。
【0014】この画像変換方法によれば、入力画素面か
ら得たベクトルに線形変換を用いて、出力画素面のベク
トルを得るようにしているので、この線形変換によって
ベクトルを目的にそって変換することができる。
【0015】
【発明の実施の形態】本発明の画像変換方法は、センサ
アレイからサンプルを得ることのできるカラーサンプリ
ング装置に適用でき、該センサアレイは下記の2つの条
件を満たす複数の画像平面へと分解可能である。第一の
条件は、正規化された水平及び垂直のサンプリング間隔
において、各画像平面がそれぞれ同数のサンプルを有し
ていることである。また、異なる画像平面は互いに任意
にずらされていても良い。第二の条件は、ある特定の画
像平面全てのサンプルが、同一の色特性でなければなら
ないことである。また、複数の画像平面が同じ色特性で
あっても良い。
【0016】検出素子ユニットが反復してなるセンサ配
列である画像センサであればいずれもこれらの条件を満
たしている。例えば、ある一般的な画像センサアレイ
は、2つの緑センサ、1つの赤センサ及び1つの青セン
サを持つ2×2のセンサアレイユニットが反復してなる
ベイヤ配列に基づいたものである。
【0017】図1において、このベイヤ配列は10であ
り、ユニットは12に示されている。このような画像セ
ンサは14〜17に示している様に、2つの緑平面14
及び17、1つの赤平面16、そして1つの青平面15
の4つの平面として見ることができる。サンプリングの
間隔は、そのユニットがもともと占めている領域であ
る。各平面は他の平面に対してずれている。見て明らか
なとおり、規則正しいサンプリング格子は、いずれも上
記条件を満たす1組の画像平面へと分解することが出来
る。
【0018】各画像平面において測定された輝度値を、
p[n1、n2]で示す。ここでn1及びn2は、p番目
の画像平面における画素位置を示す記号であり、xp
その画素の輝度値である。量[n1、n2]は、naで表
わされるベクトルの2次元の整数値である。画像平面の
組全体としては、ベクトルの組合せxa[na]で表わ
され、これを下記(1)式に示す。
【0019】
【数1】
【0020】出力画像も同様に異なる画像平面の組に定
義されたベクトルの組合せとして表わすことが出来る。
通常、デモザイク処理アルゴリズムの目的は、3色の平
面(赤(R)、緑(G)、青(B))の規則正しい間隔
である画素の組合せを生成することである。また、i番
目の色の平面における輝度はyi[n1、n2]で示す
と、出力画素もベクトルの組合せにより表わすことが出
来る。
【0021】
【数2】
【0022】デモザイク処理の場合、通常3であるが上
記Qには、異なるQの値を用いることもできる。例え
ば、4色の染料を用いたカラープリンタで印刷する画像
はQ=4として、作成することができる。
【0023】一般的に出力画像は入力画像とは異なる空
間解像度を有する。入力画像は、“画素面”の組合せで
あるxa[na]から成るように見える。同様に、出力
画像は画素面の組合せであるya[ma]から成る。各
入力画素に対応する出力画素の縦及び横方向の数は、そ
れぞれλ1及びλ2で示される。上述のベイヤ配列の場
合、デモザイク処理においてはλ1=λ2=2とされる。
即ち、入力アレイの各センサについて、1つが1つの出
力画素(RGB)を作るのである。
【0024】本実施形態において、出力画素は、xa
[na]及びya[ma]から得たベクトルに作用する
線形演算によって、入力画素と関連付けられる。これら
の中間ベクトルは解像度の違いや、各出力画素が1つ以
上の画素面への依存について考慮される。ya[ma]
に対応する中間ベクトルは、下記(3)式において、ζ
[na]で表わされ、xa[na]と同じサンプリング
密度を有する。
【0025】
【数3】
【0026】ここで行列Λは、下記(4)式に表され
る。
【0027】
【数4】
【0028】ベイヤ配列の場合、δ1=[0、0]、δ1
=[1/2、0]、δ1=[0、1/2]、そしてδ1
[1/2、1/2]である。以下の説明において、ベク
トルζ[na]を多相出力ベクトルと呼ぶ。
【0029】本発明の方法においては、各多相出力ベク
トルは入力画素面の有限な数に依存する。一般的に、特
定の多相出力ベクトルζ[na]に対する入力画素面は
画素位置[na]の近傍に位置する。以下により詳細を
説明するが、その正確な画素はカメラ及び撮像光学系の
特性により左右される。画素位置naにおける多相出力
ベクトルに対する入力画素面は、変位ベクトルk1
2、・・・、kKの組み合わせに関係している。即ち、
多相出力ベクトルζ[na]は、xa[na+k1]、
xa[na+k2]、・・・、xa[na+kK]に依存
するのである。実施形態においては、多相出力ベクトル
ζ[na]は、入力画素面に線形的に依存する。また変
位ベクトルk1、k2、・・・、kKの組み合わせは、n
aに対して独立しており、スカラ量としてのk1×k2
長方形格子に配列されている。
【0030】出力多相ベクトルζ[na]に依存する画
素面の全てを含むベクトルξ[na]に基づくと、下記
(5)式に示すように線形関係を容易に定義することが
出来る。
【0031】
【数5】
【0032】また、このベクトルに置き換えると、ζ
[na]とξ[na]との関係を行列の掛け算とするこ
とができる。
【0033】ζ[na]=Tξ[na] …(6)
【0034】ここで、Tは(Qλ1λ2)×(PK12
行列である。
【0035】図2及び図3を参照して、出力画素Y
j[N、M]と入力画素xi[N、M]及び、上記のベイ
ヤ配列センサにおける2つの出力多相ベクトルとの関係
を説明する。図2は、センサアレイの一部分と、そのセ
ンサアレイ中のξ[N、M]のための入力画素を描いた
ものである。図3が示すのは出力RGB画像の一部及び
その出力RGB画像のζ[N、M]に対応する画素であ
り、これらは図2に示される画素から(6)式の行列乗
算により計算されたものである。
【0036】行列Tは複数の因子に依存する。これらの
いくつかは特定の撮像装置に固有であり、またいくつか
は撮像装置の特定の利用方法に依存する。例えば、画素
のスペクトル感光度やモザイクパターン及び画素数など
のような、センサアレイの物理的特性は、通常、画像毎
に変化することはない。対照的に、カメラのレンズ設定
(fナンバー及びズーム)といった撮像装置の光学的特
性は画像毎に変化する。更に、照明源のスペクトル特性
も画像により変化する(日光、フラッシュ、白熱灯
等)。
【0037】更に、取り込まれる画像の統計値は行列T
を通じて得られる。例えば、高い容量の縦及び横エッジ
画像を有する画像又は画像の一部を、そのような特徴の
無い画像とは異なる行列で処理することができ、従って
出力画像の画質が向上する。
【0038】可変出力フォーマットのカメラにおいて
は、最終画像の解像度を異なる行列Tを用いて設定する
ことができる。かわりに、単一の行列Tを全ての解像度
に対して用い、そして固定解像度の画像を再サンプリン
グすることにより所望の出力画像を決定しても良い。同
様に、異なる行列Tを使用することにより、又は単一色
フォーマットを再サンプリングすることにより、出力画
像色平面を他の色表現に変えることができる。一般的に
低コスト撮像装置においては、行列Tの大きさを変える
特性は、出来れば固定行列Tを用いて最終画像を再サン
プリングすることが好ましい。
【0039】異なる行列Tの数が比較的小さい場合、シ
ステムを既知の画像に向けることにより、行列Tの係数
を決定することができる。可能な行列T各々について、
撮像装置によって複数の既知の画像が撮影される。する
とセンサ入力から計算された画像と、既知の画像との間
の差異が最小となるように、行列Tの係数が計算され
る。このような最適化計算は当業者には良く知られたも
のであるので、ここではその詳細には触れない。
【0040】fナンバー等、幾つかのパラメータにおけ
る変化が比較的なめらかである場合、行列Tは独立した
パラメータの値についてのみ計算するだけで良い。その
後、計算されなかった可変パラメータ値に対する正確な
行列Tは、計算された行列Tの補間によって計算するこ
とが出来る。
【0041】(1)モデルベースの行列Tの計算 上述したように、状況によって対象となる画像から、適
切な行列Tを計算することができる場合がある。残念な
がらこの手法は、必要とされる異なる撮像条件の数、す
なわち異なる行列Tの数が比較的小さいアプリケーショ
ンのみに限られる。
【0042】ここに示した構成の目的は、基本画像にお
ける特定の統計的モデルの対象である任意の撮像装置
(例えば任意の色感度、センサ位置及び光学特性)と任
意の照明により、特に良好な再構成画質が得られる行列
Tを直接的に計算する方法を説明することである。後に
明らかとなるように、この統計的画像モデルはわずかな
数のパラメータだけで制御される。より高度なアプリケ
ーションにおいては、種々の方法により推測可能である
エッジの方向等、画像の統計的特性が整合するように、
これらのパラメータは局所的に或は全体的に調整され
る。
【0043】(2)画像形成モデル ここでは原画像を原画像の画像平面xa[na]へとマッ
ピングする画像形成プロセスにおけるパラメータを説明
する。少なくとも理論上においては、画像形成モデルは
測定可能な確定量に依存する。これらの確定量を以下に
示す。
【0044】・像の光源のスペクトル電力密度:l
(λ) ・各入力画像平面pにおける色スペクトル応答関数:r
p(λ) ・入力画像平面pの光学的伝達関数及びセンサ積分挙動
を組合せた効果に関する点広がり関数:hp(λ、s)
【0045】ここでs=[s1、s2]は、点広がり関数
(PSF)の、各波長λにおける空間的に連続した引数
である。留意すべきは、PSFが必然的に異なる入力画
像平面間の相対的変位の作用を含んでいるという点であ
る。以下においてはPSFについて、空間周波数ベクト
ルω=[ω1、ω2]が、入力画素面のナイキスト周波数
においてω1=ω2=πとなるように、正規化されるフー
リエ変換hp(λω)を通して引用する。よって、元の
センサアレイのナイキスト周波数はω=[λ1π、λ
2π]に対応する。
【0046】直接的に所望の出力画像画素面に関して、
画像形成プロセスをモデリングするよりも、表面スペク
トル反射率において中間表現にした方が良く、これはそ
れが統計学的観点から、像の放射輝度よりも良好である
ことがよく知られている。従って、次に述べる統計的モ
デリングになじみ易いのである。
【0047】具体的には、原画像のスペクトル反射率
が、所定数の固定基本関数b1(λ)、b2(λ)、・・
・、bS(λ)の一次結合として完全に表現可能である
と仮定すると良く、ここで通常、Sに3又は4が選択さ
れるが、それより大きくても良い。以下に示すように、
実際の出力画像平面ベクトルya[ma]は、スペクト
ル反射率中間ベクトルz[ma]で表わすことができ
る。
【0048】
【数6】
【0049】ここでdq(λ)はq番目の表示スペクト
ル反応関数のスペクトル反応である。例えば、目的がX
YZ表色画像を復元することである場合、Qを3に設定
し、d 1(λ)からd3(λ)まではCIE(国際照明委
員会)の標準1931の三刺激関数に設定する。
【0050】他の例としては、センサアレイ上の異なる
カラーフィルタと同じ色特性を持つ画像を復元する場
合、Qは一意の入力反応関数rp(λ)の数に設定し、
これら一意のrp(λ)及びdq(λ)を一対一で対応さ
せる。この基本構成における主要目的は、入力画像平面
ξ[na]の周辺を対応するスペクトル反射率画素面へ
とマッピングする(Sλ1λ2)×(PK12)の再構成
行列Trefを計算することである。
【0051】
【数7】
【0052】すると、最終(Qλ1λ2)×(PK12
の再構成行列が簡単な行列乗算により求められる。
【0053】
【数8】
【0054】こうして線形画像形成モデルを、下記(1
0)式のように短く表わすことが出来る。
【0055】
【数9】
【0056】ここで ・xb(ω)は入力画像xa[na]の離散空間フーリ
エ変換である。 ・νb(ω)はサンプリングノイズベクトルシーケンス
の離散空間フーリエ変換である。
【0057】・zb(ω)はスペクトル反射率ベクトル
z[ma]の離散空間フーリエ変換である。 ・Ωa(ω)は、それぞれのω∈[−π、π]2に対す
る、格子[ma]上の高解像度出力画像の入力画素面格
子[na]へのサンプリングに関連する全てのλ1λ2
イリアシング周波数を含むセットである。 ・H(ω)は、下記(11)式に示されるP×S画像形
成行列である。
【0058】
【数10】
【0059】(3)統計的モデル 画像の再構成に関して適切な解を計算するには、サンプ
リングノイズνb(ω)及びスペクトル反射率zb
(ω)に統計的モデルを導入する必要がある。ここでは
以下の共分散行列により広義的固定ガウスモデルを仮定
する。
【0060】
【数11】
【0061】通常、ノイズ共分散行列は、ホワイトノイ
ズに対応する全てのωに対する定数Cν(ω)=σ2
であるが、他のモデルを利用しても良い。
【0062】以下のパラメータモデルは反射率共分散行
列に用いられる。
【0063】
【数12】
【0064】ここでCZ 0は定S×S共分散行列であり、
ρは通常は20から30dB(10進)の範囲から選択
される周波数ロールオフパラメータであり、そしてГは
2×2「正行列」である。上記の式中の、定共分散行列
Z 0の後ろの項は、周波数領域においてその輪郭が楕円
であるスカラ包絡線関数を説明するものである。これら
楕円輪郭の向き及びアスペクト比はГ行列によって明確
に制御することが出来る。円形断面には恒等行列Г=I
を用いることが出来る。
【0065】CZにより表わされる統計的モデルは、最
終的に再構成される画像の画質の決定に重要な役割を果
たす。前記パラメータモデルは以下の理由から正しい。
モデルはスケール的に不変であり、これは像の統計値を
平均すると、カメラと像との距離にはよらないことを意
味する。実際の撮像アプリケーションにおいては光景中
の対象物の絶対距離が得られることは希であるため、こ
のスケール的不変性は重要である。更に、周波数ロール
オフ関数ρが約20dB(10進)の場合、像における
このスケール的不変性が重要である。
【0066】(4)行列Tの効率的計算方法 前記のように重要な目的は、(Sλ1λ2)×(PK
12)行列Trefを計算することであり、これにより、
(14)式をもってTを容易に回復することができる。
下記に続く説明は、前記に説明した2つのモデルの対象
となる最適線形最小平均自乗誤差(LMMSE)推定量
の導関数Trefに関するものである。このような推定量
の公式は周知であるが、具体的には下記に示す。
【0067】Tref=Z・X-1 …(14)
【0068】ここで、Zは(Sλ1λ2)×(PK12
交差共分散行列である。
【0069】 Z=E[ζ’[na]・ξ[na]t] …(15)
【0070】そして、Xが(PK12)×(PK12
次元自動共分散行列である。
【0071】X=E[ξ[na]・ξ[na]t] …(16)
【0072】実際、Xは以下のToeplitzブロッ
ク−Toeplitz構造を有する。
【0073】
【数13】
【0074】各ブロックXa[l2]は、Toepli
tzのフォームを有する。
【0075】
【数14】
【0076】そして各サブブロックXb[l1、l2]が
以下により得られるP×Pの原画像面共分散行列であ
る。
【0077】 Xb[L]=E[xa[na]・xa[na+L]t] …(19)
【0078】(Sλ1λ2)×(PK12)行列Zもまた
二重にネスティングされたブロック構造を持っている。
【0079】
【数15】
【0080】であり、ここでZa[l2]は、
【0081】
【数16】
【0082】であり、そして(Sλ1λ2)×Pサブブロ
ック行列Zb[L]は以下により得られる。
【0083】 Zb[L]=E[ζ’[na]・ξ[na+L]t] …(22)
【0084】Trefを計算する為には、行列Xb[L]
を−Ki<li<Kiの範囲において[L]=[l1
2]とし、Zb[L]を−[Ki/2] i[(Ki
−l)/2]の範囲において[L]=[l1、l2]とし
て計算すればよく、その後X及びZが求められ、式(1
4)によって計算される。Trefの効率的計算において
重要なのは、行列Xb[L]及びZb[L]の効率的な
計算である。
【0085】これらの行列はパーセヴアルの関係式を利
用することにより、効率的に計算できる。具体的には以
下に示す。
【0086】
【数17】
【0087】であり、周波数自動及び交差共分散行列C
X(ω)及びCζ'X(ω)は以下から得ることが出来
る。
【0088】
【数18】
【0089】ここでФ(ω)は(Sλ1λ2)×Sの移相
の行列であり、
【0090】
【数19】
【0091】出力多相成分の各々の相対的変位に対応す
るものである。
【0092】行列Xb[L]及びZb[L]を計算する
為に、CX(ω)及びCζ'X(ω)は周波数ω∈[−
π、π]2の有限数で求められ、その後式(23)の逆
フーリエ変換(IFT)整数が概算される。行列Xb
[L]及びZb[L]を求めるために最適な周波数ポイ
ントを決定する手法や、数値積分処理の最中にこれらの
周波数ポイント間を補間する手法は様々あるが、それら
はここでは説明を省略する。
【0093】以上の説明及び添付の図から、当業者にと
っては本発明への様々な変更が可能となる。従って、本
発明は唯一請求項の範囲によってのみ、限定されるもの
である。
【0094】以下に、本発明の実施の形態を要約する。 1.第一の画像から第二の画像を生成する為のデータ処
理システムを操作する方法であって、前記第一の画像は
2次元アレイの画素値からなり、各々の前記画素値は、
前記第一の画像中における複数スペクトル帯域の内の1
つのスペクトル帯域の輝度に対応しており、前記第一の
画像の画素を複数の入力画像平面へ分けるステップであ
って、各入力画像平面は正規化された水平及び垂直方向
のサンプリング間隔で、他の入力画像平面と同数の画素
を持ち、前記入力画像平面の全ての画素は該入力画像平
面において、同じスペクトル帯域を持つステップと、前
記第一の画像を入力画素面の組合せとして表わすステッ
プであって、前記入力画素面の各々が大きさPのベクト
ルであり、ここでPは前記入力画像平面の数であり、そ
のベクトルの各成分は対応する入力画像平面からの入力
画素とするステップと、出力画像平面の組合せを設定す
るステップであって、複数のスペクトル帯域の内の1つ
において、所定の出力画像平面中の各画素は、前記第二
の画像中の点に対応している前記第二の画像の輝度を表
わすステップと、前記第二の画像を出力画素面の組合せ
として表わすステップであって、前記出力画素面の各々
が大きさQのベクトルであり、ここでQは前記出力画像
平面の数であり、そのベクトルの各成分は対応する出力
画像平面からの画素とするステップと、前記入力画素面
から得たベクトルに線形変換を用いて、前記出力画素面
の少なくとも1つを含むベクトルを得るステップとを含
むことを特徴とする画像変換方法。
【0095】2.前記第一の画像が、感光性検出素子ア
レイに結像するためのレンズ系を有する光学装置により
生成され、前記線形変換が前記レンズ系の特性に依存す
ることを特徴とする上記1に記載の画像変換方法。
【0096】3.前記特性が、前記レンズ系の焦点距離
であることを特徴とする上記2に記載の画像変換方法。
【0097】4.前記特性が、前記レンズ系のfナンバ
ーであることを特徴とする上記2に記載の画像変換方
法。
【0098】5.前記線形変換が、前記第一の画像を生
成する為に用いられた照明源に依存することを特徴とす
る上記1に記載の画像変換方法。
【0099】6.前記線形変換が前記第一の画像として
取り込まれた像の種類に依存することを特徴とする上記
1に記載の画像変換方法。
【0100】7.前記線形変換が前記第二の画像の出力
フォーマットに依存することを特徴とする上記1に記載
の画像変換方法。
【0101】
【発明の効果】第一の画像データに対応する入力画素面
のベクトルを、線形変換を用いて第二の画像データに対
応する出力画素面のベクトルに変換しているので、第二
の画像データの完全にサンプリングされた出力画素の復
元を行うことができる。
【0102】
【図面の簡単な説明】
【図1】反復する2×2のパターンを持つ画像センサの
画像平面への分離を示す平面図である。
【図2】センサアレイの一部分及びそのセンサアレイ中
の、特定の中間入力ベクトルに対する入力画素を示す平
面図である。
【図3】RGB(赤緑青)出力画像の一部分及びそのR
GB出力画像中の、図2に示す中間出力ベクトルに対応
する画素を示す平面図である。

Claims (1)

    【特許請求の範囲】
  1. 【請求項1】 第一の画像から第二の画像を生成する為
    のデータ処理システムを操作する方法であって、前記第
    一の画像は2次元アレイの画素値からなり、各々の前記
    画素値は、前記第一の画像中における複数スペクトル帯
    域の内の1つのスペクトル帯域の輝度に対応しており、 前記第一の画像の画素を複数の入力画像平面へ分けるス
    テップであって、各入力画像平面は正規化された水平及
    び垂直方向のサンプリング間隔で、他の入力画像平面と
    同数の画素を持ち、前記入力画像平面の全ての画素は該
    入力画像平面において、同じスペクトル帯域を持つステ
    ップと、 前記第一の画像を入力画素面の組合せとして表わすステ
    ップであって、前記入力画素面の各々が大きさPのベク
    トルであり、ここでPは前記入力画像平面の数であり、
    そのベクトルの各成分は対応する入力画像平面からの入
    力画素とするステップと、 出力画像平面の組合せを設定するステップであって、複
    数のスペクトル帯域の内の1つにおいて、所定の出力画
    像平面中の各画素は、前記第二の画像中の点に対応して
    いる前記第二の画像の輝度を表わすステップと、 前記第二の画像を出力画素面の組合せとして表わすステ
    ップであって、前記出力画素面の各々が大きさQのベク
    トルであり、ここでQは前記出力画像平面の数であり、
    そのベクトルの各成分は対応する出力画像平面からの画
    素とするステップと、 前記入力画素面から得たベクトルに線形変換を用いて、
    前記出力画素面の少なくとも1つを含むベクトルを得る
    ステップとを含むことを特徴とする画像変換方法。
JP29856399A 1998-10-23 1999-10-20 画像変換方法 Expired - Fee Related JP4328424B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US09/177729 1998-10-23
US09/177,729 US7030917B2 (en) 1998-10-23 1998-10-23 Image demosaicing and enhancement system

Publications (3)

Publication Number Publication Date
JP2000134634A true JP2000134634A (ja) 2000-05-12
JP2000134634A5 JP2000134634A5 (ja) 2006-09-07
JP4328424B2 JP4328424B2 (ja) 2009-09-09

Family

ID=22649759

Family Applications (1)

Application Number Title Priority Date Filing Date
JP29856399A Expired - Fee Related JP4328424B2 (ja) 1998-10-23 1999-10-20 画像変換方法

Country Status (4)

Country Link
US (1) US7030917B2 (ja)
EP (1) EP0996293B1 (ja)
JP (1) JP4328424B2 (ja)
DE (1) DE69922129T2 (ja)

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6853447B2 (en) * 2001-02-12 2005-02-08 Analytical Spectral Devices, Inc. System and method for the collection of spectral image data
US6816197B2 (en) * 2001-03-21 2004-11-09 Hewlett-Packard Development Company, L.P. Bilateral filtering in a demosaicing process
US7071978B2 (en) 2001-07-18 2006-07-04 Hewlett-Packard Development Company, L.P. Image mosaic data reconstruction
US7006686B2 (en) 2001-07-18 2006-02-28 Hewlett-Packard Development Company, L.P. Image mosaic data reconstruction
US6978050B2 (en) 2001-07-18 2005-12-20 Hewlett-Packard Development Company, L.P. Electronic image color plane reconstruction
US6989862B2 (en) * 2001-08-23 2006-01-24 Agilent Technologies, Inc. System and method for concurrently demosaicing and resizing raw data images
US20030169353A1 (en) * 2002-03-11 2003-09-11 Renato Keshet Method and apparatus for processing sensor images
US7830435B2 (en) * 2003-09-03 2010-11-09 Eastman Kodak Company Image sensor and image capture system with extended dynamic range
US8005297B2 (en) * 2006-01-18 2011-08-23 Qualcomm Incorporated Method and apparatus for adaptive and self-calibrated sensor green channel gain balancing
US7609307B2 (en) * 2006-09-13 2009-10-27 National Chiao Tung University Heterogeneity-projection hard-decision interpolation method for color reproduction
US8520936B2 (en) * 2007-05-02 2013-08-27 The Regents Of The University Of California Method and apparatus for use of an universal color index (UCI): a color appearance system calibrated to reflectance spectra
US8035704B2 (en) * 2008-01-03 2011-10-11 Aptina Imaging Corporation Method and apparatus for processing a digital image having defective pixels
US8135237B2 (en) * 2008-02-25 2012-03-13 Aptina Imaging Corporation Apparatuses and methods for noise reduction
KR20120106762A (ko) * 2009-11-20 2012-09-26 트리퓨라리 싱 압축 컬러 이미지 샘플링과 재구성을 위한 방법 및 시스템
WO2011069055A2 (en) 2009-12-04 2011-06-09 Stc.Unm System and methods of compressed sensing as applied to computer graphics and computer imaging
DE102010030108B4 (de) 2010-06-15 2014-12-04 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Farbbildsensor
JP5153846B2 (ja) * 2010-09-28 2013-02-27 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法、及び、プログラム
US9454607B1 (en) * 2010-12-10 2016-09-27 A9.Com, Inc. Image as database
US8983475B2 (en) 2012-02-16 2015-03-17 Futurewei Technologies, Inc. System and method for partner network sharing architecture
JP5901563B2 (ja) * 2013-03-29 2016-04-13 富士フイルム株式会社 信号変換方法及び装置、プログラム並びにプリントシステム
WO2016084257A1 (ja) * 2014-11-28 2016-06-02 オリンパス株式会社 内視鏡装置
CN115552454A (zh) * 2020-04-06 2022-12-30 波士顿科学国际有限公司 图像处理系统和使用其的方法

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4653013A (en) * 1984-11-19 1987-03-24 General Electric Company Altering spatial characteristics of a digital image
US5083150A (en) * 1989-03-03 1992-01-21 Olympus Optical Co., Ltd. Automatic focusing apparatus
US5442408A (en) * 1989-11-17 1995-08-15 Sanyo Electric Co., Ltd. White balance adjusting apparatus for automatically adjusting white balance in response to luminance information signal and color information signal obtained from image sensing device
US5170202A (en) * 1990-07-03 1992-12-08 Eastman Kodak Company Contrast-based autofocus mechanism
EP0530793B1 (en) * 1991-09-05 1998-12-16 Canon Kabushiki Kaisha White balance control circuit in an image pickup apparatus
US5475769A (en) 1992-07-13 1995-12-12 Polaroid Corporation Method and apparatus for recovering image data through the use of a color test pattern
US5905530A (en) * 1992-08-24 1999-05-18 Canon Kabushiki Kaisha Image pickup apparatus
FR2703814B1 (fr) * 1993-04-08 1995-07-07 Sagem Afficheur matriciel en couleurs.
US6330085B1 (en) * 1995-07-20 2001-12-11 Canon Kabushiki Kaisha Image processing apparatus and method
US5805213A (en) * 1995-12-08 1998-09-08 Eastman Kodak Company Method and apparatus for color-correcting multi-channel signals of a digital camera
US5652621A (en) * 1996-02-23 1997-07-29 Eastman Kodak Company Adaptive color plane interpolation in single sensor color electronic camera
US5778106A (en) * 1996-03-14 1998-07-07 Polaroid Corporation Electronic camera with reduced color artifacts
US6256058B1 (en) * 1996-06-06 2001-07-03 Compaq Computer Corporation Method for simultaneously compositing a panoramic image and determining camera focal length
US6411331B1 (en) * 1997-02-28 2002-06-25 Hewlett-Packard Company Automatic white balance detection and correction of an image captured in a digital camera
US6075926A (en) * 1997-04-21 2000-06-13 Hewlett-Packard Company Computerized method for improving data resolution
US6044177A (en) * 1997-06-18 2000-03-28 Hewlett-Packard Company Artifact reduction decompression method and apparatus for interpolated images
US6366319B1 (en) * 1997-07-03 2002-04-02 Photronics Corp. Subtractive color processing system for digital imaging
US6046772A (en) * 1997-07-24 2000-04-04 Howell; Paul Digital photography device and method
US6348929B1 (en) * 1998-01-16 2002-02-19 Intel Corporation Scaling algorithm and architecture for integer scaling in video
DE69924308T2 (de) * 1998-01-20 2006-03-09 Hewlett-Packard Development Co., L.P., Houston Farbbildaufnahmegerät
US5990950A (en) * 1998-02-11 1999-11-23 Iterated Systems, Inc. Method and system for color filter array multifactor interpolation
US6392699B1 (en) * 1998-03-04 2002-05-21 Intel Corporation Integrated color interpolation and color space conversion algorithm from 8-bit bayer pattern RGB color space to 12-bit YCrCb color space
US6236433B1 (en) * 1998-09-29 2001-05-22 Intel Corporation Scaling algorithm for efficient color representation/recovery in video

Also Published As

Publication number Publication date
US7030917B2 (en) 2006-04-18
DE69922129T2 (de) 2005-11-24
EP0996293A3 (en) 2001-04-11
EP0996293A2 (en) 2000-04-26
JP4328424B2 (ja) 2009-09-09
EP0996293B1 (en) 2004-11-24
US20030197796A1 (en) 2003-10-23
DE69922129D1 (de) 2004-12-30

Similar Documents

Publication Publication Date Title
JP4328424B2 (ja) 画像変換方法
CN108419061B (zh) 基于多光谱的图像融合设备、方法及图像传感器
US9582863B2 (en) Image processing apparatus, image processing method, and program
US9179113B2 (en) Image processing device, and image processing method, and program
US7710476B2 (en) Color filter array, imaging device, and image processing unit
EP2436187B1 (en) Four-channel color filter array pattern
US8237831B2 (en) Four-channel color filter array interpolation
US8837853B2 (en) Image processing apparatus, image processing method, information recording medium, and program providing image blur correction
EP1209903A1 (en) Method and system of noise removal for a sparsely sampled extended dynamic range image
US20070159542A1 (en) Color filter array with neutral elements and color image formation
KR20010020797A (ko) 전색 이미지 생성을 위한 데이터 처리 시스템 동작 방법과2차원 픽셀값 어레이를 포함하는 이미지의 보간 방법
WO2009120928A2 (en) Generalized assorted pixel camera systems and methods
JP2004343685A (ja) 重み付け勾配ベースの色補正された補間
CN107623844B (zh) 中间位置处的像素的颜色值的确定
JP2001095001A (ja) 画像のデモザイク方法
US20080018750A1 (en) Method and apparatus for color interpolation in digital photographing device
JP2013055623A (ja) 画像処理装置、および画像処理方法、情報記録媒体、並びにプログラム
US7269295B2 (en) Digital image processing methods, digital image devices, and articles of manufacture
US7430334B2 (en) Digital imaging systems, articles of manufacture, and digital image processing methods
EP1209900A2 (en) Method and apparatus for performing tone scale modifications
US20200128216A1 (en) Hardware-friendly model-based filtering system for image restoration
KR101243285B1 (ko) 베이어 컬러 필터 배열 카메라를 사용한 다중 스펙트럼 기반 컬러 영상 생성장치 및 방법
Paul et al. Maximum accurate medical image demosaicing using WRGB based Newton Gregory interpolation method
KR20180118432A (ko) 감도 개선을 위한 영상 처리 장치 및 방법
CN113840124B (zh) 图像处理方法及系统

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20011210

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20011220

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20020527

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20020528

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20020529

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060725

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060725

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080710

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080722

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20081022

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20081027

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090119

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090602

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090615

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120619

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130619

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130619

Year of fee payment: 4

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130619

Year of fee payment: 4

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees