JP2000078597A - デジタルカラ―イメ―ジ値の処理装置 - Google Patents

デジタルカラ―イメ―ジ値の処理装置

Info

Publication number
JP2000078597A
JP2000078597A JP11165172A JP16517299A JP2000078597A JP 2000078597 A JP2000078597 A JP 2000078597A JP 11165172 A JP11165172 A JP 11165172A JP 16517299 A JP16517299 A JP 16517299A JP 2000078597 A JP2000078597 A JP 2000078597A
Authority
JP
Japan
Prior art keywords
image
values
value
digital
luminance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP11165172A
Other languages
English (en)
Inventor
Jr John F Hamilton
ジョン・エフ・ハミルトン・ジュニア
James E Adams Jr
ジェイムズ・イー・アダムズ・ジュニア
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Eastman Kodak Co
Original Assignee
Eastman Kodak Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Eastman Kodak Co filed Critical Eastman Kodak Co
Publication of JP2000078597A publication Critical patent/JP2000078597A/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4015Image demosaicing, e.g. colour filter arrays [CFA] or Bayer patterns
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4007Scaling of whole images or parts thereof, e.g. expanding or contracting based on interpolation, e.g. bilinear interpolation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/403Edge-driven scaling; Edge-based scaling
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • H04N23/634Warning indications
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/133Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements including elements passing panchromatic light, e.g. filters passing white light
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/135Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements
    • H04N25/136Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements using complementary colours
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2209/00Details of colour television systems
    • H04N2209/04Picture signal generators
    • H04N2209/041Picture signal generators using solid-state devices
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2209/00Details of colour television systems
    • H04N2209/04Picture signal generators
    • H04N2209/041Picture signal generators using solid-state devices
    • H04N2209/042Picture signal generators using solid-state devices having a single pick-up sensor
    • H04N2209/045Picture signal generators using solid-state devices having a single pick-up sensor using mosaic colour filter
    • H04N2209/046Colour interpolation to calculate the missing colour values

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Color Television Image Signal Generators (AREA)
  • Image Input (AREA)
  • Color Image Communication Systems (AREA)

Abstract

(57)【要約】 【課題】 特にデジタルイメージの形状物の斜方向のエ
ッジにおける画素についてのカラー特性値を作成する改
良装置を提供する。 【解決手段】 行及び列状に配列されたカラーイメージ
画素を備えたイメージセンサから最初に得られた規則的
なデジタルカラーイメージ値を処理する装置。装置は、
デジタルイメージを保存し、低周波の輝度又はクロミナ
ンスの値を計算するために、保存されたイメージに関係
し、保存された規則的なデジタルカラーイメージ値に応
答するプロセッサを有する。計算された値に応じて、少
なくとも2つのイメージの向きにおけるラプラシアン2
次及び勾配値が、周辺近傍の画素から計算される。これ
らの値は、各値が分類子に対応する値の組が存在するよ
うに、各画素に関して値を規定すべく、また、上記分類
子に基づく補間の向きのグループから好適な向きを選択
するために組合せられる。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、電子イメージの分
野に関し、特に、イメージセンサにより最初に作成され
た規則的なデジタルイメージからの改良された輝度及び
クロミナンスの画素値を用いた電子スチルイメージ形成
に適するものである。
【0002】
【従来の技術】電子カラーイメージ形成では、通常、
赤,緑及び青(シアン,マゼンタ及びイエローを用いて
もよい)である三色平面におけるイメージデータを同時
に捕らえることが望ましい。三色平面が組み合わせられ
た場合、高品質のカラーイメージを作成することができ
る。これら3組のイメージデータを捕らえる方法として
は、多数の方法が知られている。電子写真技術では、時
に、これが、赤,緑及び青のパターンのフィルタにより
覆われた単一の二次元配列のセンサを用いることにより
実現される。センサのこのタイプは、カラーフィルタ配
列又はCFAとして知られている。以下の説明では、赤
(R),緑(G)及び青(B)の画素が、一般的に、C
FAセンサ上に配置されているように示されている。
【0003】CFAを用いてカラーイメージが得られた
場合、各センサの位置に関した全ての三色の値の概算が
行えるように、赤,緑及び青の値を補間することが必要
である。補間が行われると、各写真の要素,つまり画素
が、三色の値を有し、システムの必要性に依存して、種
々の公知のイメージ処理技術により処理され得る。処理
する目的の幾つかの例は、イメージのシャープ化、色補
正又はハーフトーン化を行うことである。
【0004】次に、赤,緑及び青の画素が、特定のカラ
ーフィルタ配列パターンで配置されている様式を示す
(以下、これをべイヤーカラーフィルタ配列という)。
より詳しい説明については、べイヤーに対する米国特許
第3971065号に開示されている。 G R G R B G B G G R G R B G B G
【0005】
【発明が解決しようとする課題】イメージセンサにより
作成されるカラーデジタルイメージを処理するに際し
て、例えば各画素についての輝度及びクロミナンスの値
のようなカラー特性値が計算される必要がある。イメー
ジセンサにより作成されたカラーイメージ値を処理する
に際して見出される問題の1つは、イメージの形状物の
エッジにおける画素についての輝度の値が不正確に補間
されることである。
【0006】そこで、本発明は、画素についての、特に
デジタルイメージの形状物の斜方向のエッジにおける画
素についてのカラー特性値を作成する改良装置を提供す
ることを目的としてなされたものである。
【0007】
【課題を解決するための手段】上記目的は、輝度の概算
を可能とするのに十分な情報を備えた斜方向の画素を有
する列及び行状に配列されたカラーイメージ画素を有し
ているイメージセンサ又はその同様のものから最初に得
られたデジタルカラーイメージ値を処理するための装置
において実現される。ここで、デジタルイメージは、各
イメージ画素の位置について、たった1つのカラー値で
なく、少なくとも3つの別々のカラー値を有している。
かかる装置は各イメージ画素についての輝度値を計算す
るもので、上記デジタルイメージを保存する手段と、低
周波輝度の値を計算するために、上記保存手段と共働し
て、保存された規則的なデジタルカラーイメージ値に応
答する処理手段と、周辺近傍のイメージ画素から、少な
くとも2つのイメージの向きにおけるラプラシアン2次
及び勾配の値を得るために、計算された低周波輝度の値
に応答する手段と、各値が分類子(classifier)に対応
する値の組が存在するように、中心部における各イメー
ジ画素についての値を規定すべく、上記ラプラシアン2
次及び勾配の値を組み合せ、分類子に基づく補間に関す
る向きのグループから好適な向きを選択する手段と、各
対応するイメージ画素についてのカラー特性の一部を概
算するために、好適な向き及び規則的なデジタルイメー
ジに応答する手段とを有している。
【0008】本発明の利点は、輝度又はクロミナンスの
値を改良するために、実行時間及びメモリ保存の必要の
両方において、計算的に効率が良好であることである。
また、本発明の利点は、ラプラシアン2次及び勾配の値
の組合せを用いて、出力において実質的に軽減されるア
ーティファクト(カラー補間)を実質的に軽減する分類
子を作成することである。
【0009】
【発明の実施の形態】以下、本発明の実施の形態につい
て、添付図面を参照しながら説明する。任意の画素に関
して、輝度及びクロミナンスの値は、1つの画素につい
てのカラー特性を構成する。この開示物のために、用語
「カラー特性の一部」とは、画素の輝度又はクロミナン
スの値をあらわすものとする。カラーフィルタ配列を採
用する単一センサの電子カメラはよく知られている。明
確に示されていない若しくはここに記述された要素は、
当該技術で知られたものから選択され得る。まず、図1
及び2から分かるように、電子スチルカメラ1は、全体
として、入力部2と補間及び記録部4とに分割されてい
る。入力部2は、物体(不図示)からイメージセンサ1
2に向かってイメージ光を指向させるための露出部10
を有している。特に図示しないが、露出部10は、光学
的な窓を規定する絞り及び露出時間を規定するシャッタ
を通じてイメージ光を指向させるための従来の光学系を
有している。イメージの写真要素に対応する着色した光
電位置、つまり画素の2次元配列を有するイメージセン
サ12は、よく知られたインターライントランスファ又
はフレームトランスファ技術のいずれかを用いた従来の
電荷結合デバイス(CCD)であってよい。特に本発明
の使用に適したカラーフィルタ配列の一例に関しては、
ハミルトン(Hamilton)等に対する公に譲渡された米国
特許第5631703号を参照すればよい。この開示事
項は、引用することにより、ここに組込まれる。
【0010】イメージセンサ12は、アナログイメージ
の電荷情報が、各光電位置において生成されるようにイ
メージ光に露出される。電荷情報は、出力ダイオード1
4へ加えられる。この出力ダイオード14は、電荷情報
を各写真要素に対応するアナログイメージ信号へ変換す
る。アナログイメージ信号は、A/D変換部16へ加え
られる。このA/D変換部は、各写真要素に関してアナ
ログ入力信号からデジタルイメージ値を生成する。続い
て、デジタル値は、イメージバッファ18へ加えられ
る。このイメージバッファは、複数のスチルイメージ用
の保存容量を備えたランダムアクセスメモリ(RAM)
であってよい。
【0011】制御プロセッサ20は、全体を通じて、
(露出部10における絞り及びシャッタ(不図示)によ
る動作により)露出を初期化し制御することにより、イ
メージセンサ12を駆動するために、また、イメージ情
報を記録するために必要とされる水平方向及び垂直方向
クロックを生成することにより、そして、写真要素に関
係する各値のセグメントについて、イメージバッファ1
8と共働して、A/D変換部16を使用可能とすること
により、電子スチルカメラ1の入力部2を制御する。上
記制御プロセッサ20は、典型的に、マイクロプロセッ
サ及びシステムタイミング回路に関係した適切なメモリ
を有するものである。
【0012】イメージバッファ18において所定数のデ
ジタルイメージ値が蓄積されれば、保存された値がデジ
タル信号プロセッサ22へ加えられる。このデジタル信
号プロセッサ22は、電子スチルカメラ1の補間及び記
録部4についてのスループットの処理速度を制御する。
デジタル信号プロセッサ22は、補間アルゴリズムをデ
ジタルイメージ値に適用し、補間された値を従来のコネ
クタ262を介して取外し可能なメモリカード24へ送
る。ここでは、電子スチルカメラ1が、デジタル信号プ
ロセッサを含むように記述されているが、デジタル信号
プロセッサ22が、電子スチルカメラ1の不可欠な部分
である必要がないことは理解されるであろう。この発明
の必要条件は、デジタルイメージ値がイメージセンサか
ら供給されることである。
【0013】補間及びそれに関係した処理は、通常、幾
つかのステップにわたって行われるので、処理アルゴリ
ズムの中間的な作成物は処理バッファ28に保存され
る。処理バッファ28は、また、イメージバッファ18
のメモリスペースの一部として構成されてもよい。デジ
タル処理が開始可能となる前にイメージバッファ18に
必要とされるイメージ値の数は、処理のタイプに依存す
る、つまり、開始されるべき近傍補間について、ビデオ
フレームを構成する少なくともイメージ値を含む1ブロ
ックの値が、入手可能である必要がある。その結果、ほ
とんどの場合において、補間は、写真要素の必須のブロ
ックがバッファ18に存在すると即座に開始される。
【0014】上記入力部2が、電子スチルカメラ1の標
準的な動作と同程度の速さで動作する一方、より多くの
時間を費やす可能性のある補間は、入力速度から比較的
大きく異なる場合がある。上記露出部は、露出の必要に
依存する時間で、例えば1/1000秒〜数秒の間の時
間で、イメージ光に対してイメージセンサ12を露出す
る。イメージの電荷は、その後、イメージセンサ12に
おける光電位置からさらわれ、デジタルフォーマットに
変換されて、イメージバッファ18に書き込まれる。そ
れに応じて、制御プロセッサ20によりイメージセンサ
12,A/D変換部16及びバッファ18に対して供給
された駆動信号が、このような転写を実現すべく生成さ
れる。補間及び記録部4の処理仕事量は、デジタル信号
プロセッサ22の速度により決定される。
【0015】かかる構成による望ましい結果の1つは、
上記補間及び記録に採用された処理アルゴリズムが、処
理速度に関してよりむしろイメージの品質処理に関して
選択され得ることである。このことは、当然ながら、写
真術の事象の間での時間に依存して、ユーザに影響し得
る連続的な写真の間における遅延を与える。これは、デ
ジタルスチルカメラが連続したイメージ用の連続撮影能
力に備える必要があることが、イメージの電子イメージ
形成の分野でよく知られ理解されることから問題であ
る。このため、図1に示されるイメージバッファ18
は、複数のイメージの保存に備えるもので、事実上、一
連のイメージがビデオ速度で「積み重ね」可能となる。
上記バッファのサイズは、ほとんどの写真撮影状況をカ
バーすべく十分に連続したイメージを保有するように設
定される。
【0016】電子スチルカメラ1の動作に有用な情報を
表示するために、動作表示パネル30が制御プロセッサ
20に接続されている。かかる情報は、シャッタスピー
ド,窓,露出バイアス,カラーバランス(自動,タング
ステン,螢光,日光),フィールド/フレーム,低バッ
テリ,弱光,露出モード(窓優先の,シャッタ優先の)
などの、典型的な写真術のデータを含み得る。更に、電
子スチルカメラ1のこのタイプには稀な他の情報が表示
される。例えば、上記取外し可能なメモリカードは、通
常、各保存されたイメージの初め及び終わりをあらわす
ディレクトリを有するであろう。これは、保存されたイ
メージの数、又は、残っている若しくは残っていると判
断されるイメージスペースの数のどちらか(又はその両
方)と同じく、表示パネル30に表示される。
【0017】上記デジタル信号プロセッサ22は、図2
に示される補間技術に従って、イメージバッファ18に
保存される各スチルビデオイメージを補間する。各画素
の位置において抜けているデータ値の補間が、後述する
ように、図2に示される順序で行われる。図2に示され
る手段では、上記デジタル信号プロセッサ22が、図3
aに関して後述するように、輝度値を最良化するための
輝度値ブロック32として示される計算輝度関数をもた
らすべく、適応性のある補間技術を提供する。輝度値が
計算された後、クロミナンスの値のブロック34は、計
算された最終的な輝度値に基づく各画素のクロミナンス
の値を計算する。最後に、RGB値のブロック36が、
イメージの表示のために、又は、ハードコピー出力を作
成するために使用される赤(R),緑(G),青(B)
のフォーマットをしたイメージを計算する。この開示で
は、赤,緑及び青の値を計算するようになっているが、
シアン,マゼンタ及びイエローなどの他のカラースペー
スに適応し得ることは理解されるであろう。採用可能な
また別のカラースペースは、典型的にYCCカラースペ
ースと呼ばれる輝度及びクロミナンスの値を用いること
である。Yは輝度をあらわし、2つのCはクロミナンス
をあらわしている。
【0018】次に、輝度値ブロック32がより詳細に示
される図3aを参照する。図1のイメージバッファ18
からのデジタルイメージは、低周波の輝度値を計算する
ぼかしブロック42に加えられる。ぼかしブロック42
の目的は、デジタルイメージから高周波成分を取り除く
ことである。続いて、5×5のぼかし中心の配置構成が
示される図4を参照する。5×5の中心部の中央画素と
して選択されるあらゆる任意の画素について、4の加重
値が割り当てられる。対象となる中心部を取り囲む画素
はまた異なる値を割り当てられる。図4に示されるこれ
らの値は典型的なものであり、当該技術分野の熟練者に
は、適度のぼかし作用ををもたらす他の値が選択され得
ることが理解されるであろう。ここでは、計算された加
重合計が一旦20で割られることに注目する必要があ
る。加重合計とは、ぼかし中心における全ての加重の合
計である。次式は、どのようにして、これらの中心部の
値が、除去された高周波成分を有するデジタルイメージ
における各画素を計算するのに用いられるかを表わして
いる。記録されたCFAカラー値が、 A11121314152122232425313233343541424344455152535455 である場合に、次式は、どのようにして図4のぼかし中
心の値が、上記中央の画素に関するぼかされた輝度値B
33を生成するのに用いられるかを示す。 B33=( 1*13 +1*22+2*23+1*24 +1*31+2*32+4*33+2*34+1*35 +1*42+2*43+1*44 +1*53 )/20 ぼかしブロック42の出力は、補正ブロック44及び分
類ブロック48に加えられる。補正ブロック44により
もたらされる計算について説明する。ぼかされた輝度値
が、 B11121314152122232425313233343541424344455152535455 である場合、次式は、どのようにして水平方向(hor
z)及び垂直方向(vert)の分類子が中央画素につ
いて計算されるかを示す。 horz=Abs(u−w)+Abs(u−2*v+
w) ここで、項(u−w)は勾配値,項(u−2*v+w)
はラプラシアン2次値,u=B31,v=B33,w=B35
である。また、 vert=Abs(u−w)+Abs(u−2*v+
w) ここで、u=B13,v=B33,w=B53である。2つの
斜方向の向きは、それぞれ、diag1及びdiag2
と表記され、(左側下方から右側上方へ連なる)スロー
プ1の斜方向ラインおよび(左側上方から右側下方へ連
なる)スロープ−1の斜方向ラインに対応する。dia
g1及びdiag2に関する分類子が、それぞれ図5a
〜5cおよび図6a〜6cに示される中心値を用いて計
算される。中心値を用いる分類子の式は、次の通りであ
る。 diag1=(Abs(u−w)+Abs(u−2*
+w))/3 ここで、 u=( 1*14 +1*23+2*24+1*25 +1*34 v=( 1*23 +1*32+2*33+1*34 +1*43 w=( 1*32 +1*41+2*42+1*43 +1*52 また、 diag2=(Abs(u−w)+Abs(u−2*v+w))/3 ここで、 u=( 1*12 +1*21+2*22+1*23 +1*32 v=( 1*23 +1*32+2*33+1*34 +1*43 w=( 1*34 +1*43+2*44+1*45 +1*54
【0019】画素の水平方向及び垂直方向の分類子が、
共に、24などの一定の境界値よりも小さい場合、画素
は「フラット」として分類され、フラットな補間公式
(predictor)が用いられる(図7c参照)。他の点で
は、画素の分類子が、水平方向,垂直方向,斜方向1,
斜方向2などの好適な補間の向きをあらわす最小の分類
子に決定される。水平方向,垂直方向,斜方向1,斜方
向2などの好適な向きにおいて補間するための補間公式
が、それぞれ、図7a,7b,7d及び7eに示され
る。特定の例に関して、水平方向,垂直方向,斜方向
1,斜方向2についての分類子の値が、それぞれ、3
2,20,18及び25であることを考えてみよう。水
平方向の分類子32が24の境界値を越えるので、その
画素は、「フラット」として分類されない。その結果、
斜方向1の分類子である最小値18は、補間に好適な方
向が斜方向1であることを判断する。斜方向1の方向
(図7d)に関する補間公式の中心加重を用いて、予報
される輝度値V33は、 V33=( 1*14+ 2*23*25+ 2*32+2*33+2*34+ 1*41+ 2*43+ 1*52 )/14 であろう。
【0020】補正ブロック44の演算について説明す
る。画素に関する輝度の補正条件(term)は、その分類
及び計算で得られるぼかされた輝度値である。「フラッ
ト」として分類された画素は、0の輝度補正を有してい
る。他の補正条件は、次の通りに決定される。 horz:C=(−B31+2*33−B35) vert:C=(−B13+2*33−B53) diag1:C=(−B15+2*33−B51) diag2:C=(−B11+2*33−B55) いずれの補正条件(C)を用いても、それは3/8など
の定数を掛けられ、次の関数に置換される。 Max(Min(0,x+6),−54) 補正={ Min(Max(0,x−6),54) ここで、x=C*(3/8)である。
【0021】図8bから分かるように、採用されるカラ
ーフィルタ型の配列フィルタは、シアン(C),マゼン
タ(M),イエロー(Y)及びグリーン(G)である。
輝度(V)は、2つの方法で同等に規定され得る。その
一方はC及びYを用い、他方はM及びGを用いる。数式
は、 V=(Y+C)/2 及び V=(M+G)/2 2つのクロミナンスの値Ca及びCbは、 Ca=(Y−C)/2 及び Cb=(M−G)/2 と規定される。これらの数式から、 Ca=Y−V Cb=M−V Ca=V−C Cb=V−G が決定され得る。
【0022】図3bは、図2において示されるクロミナ
ンスの値を詳細に示している。ここでは、図3aに対応
する各部について、同じ符号が用いられる。上記カラー
フィルタ配列データは、図2に示されるように輝度値を
受ける局部ブロック52に適用される。この局部ブロッ
ク52の目的は、完成ブロック54により満たされる彩
度値をもたらす計算を提供することである。完成ブロッ
ク54はまた、分類ブロック48からの入力を受ける。
【0023】輝度補正が既に完了しているため、各画素
の位置は、元のCFAカラー値(C,M,Y又はG)に
加えて、補間された輝度値を有する。Y又はCを有する
画素は、局部ブロック52におけるCaを計算するため
に、上記数式の1つにおいて、補間された輝度Vを用い
ることができる。同様に、M又はGを有する画素は、局
部ブロック52におけるCbを計算するために、補間さ
れた輝度Vを用いることができる。その結果、各画素
は、補間された輝度値及び補間されたクロミナンスの値
を有する。この入力は、完成ブロック54へ加えられ
る。
【0024】M及びGの画素は、Y及びCの画素と同様
に、2×2のサブブロックを構成するので、クロミナン
スの値Ca及びCbは、これら同じサブブロックにおい
て計算される。これは、図8bに示される配列に続い
て、局部ブロック52にて計算される公知のCa及びC
bの値が、次のように配置される。 Cb Cb Ca Ca Cb Cb Cb Cb Ca Ca Cb Cb Ca Ca Cb Cb Ca Ca Ca Ca Cb Cb Ca Ca Cb Cb Ca Ca Cb Cb Cb Cb Ca Ca Cb Cb
【0025】完成ブロック54の演算を示す図9には、
このクロミナンスの値の配列の左側上方における5×5
のブロックが示されている。中央画素は、既に、Cbに
ついて補間された値を有し、Caについて補間された値
を獲得する必要がある。Caの値を必要とする画素は、
いかなるものも、(1つ又は2つのステップ離れた)左
側の近傍画素,(1つ又は2つのステップ離れた)右側
の近傍画素,(1つ又は2つのステップ離れた)上側の
近傍画素,(1つ又は2つのステップ離れた)下側の近
傍画素、及び、(左側上方及び右側下方、又は、右側上
方及び左側下方のいずれかの)対向するコーナに接触す
る2つの近傍画素を有しており、全てがCaについて補
間された値を有している。画素が最初にフラット又は水
平として分類された場合、水平方向における(右側及び
左側の近傍で)2つの値が平均化され、Caについて補
間された値となる。画素が、垂直として分類された場合
には、上側及び下側のCaの値は、Caについての補間
値となるように平均化される。画素が、diag1又は
diag2のいずれかとして分類された場合、対向する
コーナからの2つの値が、Caについての補間値となる
ように平均化される。
【0026】例えば、中央の画素(図9参照)がフラッ
ト又は水平と分類された場合、補間の式は、 Ca33=(Ca32+Ca35)/2 となる。中央の画素が垂直と分類された場合、補間の式
は、 Ca33=(Ca23+Ca53)/2 となる。中央の画素が垂直と分類された場合、補間の式
は、 Ca33=(Ca24+Ca42)/2 となる。Caについて補間された値を必要とする他の画
素は、いかなるものも、同様の方法で処理され得る。更
に、Cbについて補間された値を必要とする各画素もま
た、Ca及びCbの役割を逆にして、同様の方法で処理
され得る。このステップが行われた場合には、全ての画
素が1つの輝度値及び2つのクロミナンスの値を有する
こととなり、補間処理が完了する。各画素について、
赤,緑及び青の値への変換(図2のRGB値のブロック
36を参照)が次式により実現される。 R+V+2*Ca+Cb G+V −Cb B+V−2*Ca+Cb
【0027】本発明は、イメージセンサから最初に得ら
れたデジタルカラーイメージ値に適用可能であり、輝度
の概算を可能とするに十分な情報を用いて、斜方向の画
素を備えた繰り返す中心部を規定するために、行及び列
状に配列されたカラーイメージ画素を有している。デジ
タルイメージは、各イメージ画素の位置に関して1つの
カラー値のみならず、少なくとも3つの別々のカラー値
を有するものである。例えば、所謂ベイヤー配列は、全
体的に、図8aに示されるフォーマットをとる。このフ
ォーマットでは、図8aのb,dおよびfと標識付けさ
れたある項に沿って、輝度(すなわち緑)の情報は不十
分である。他の項では、情報は完全である。それらは、
a,c及びeと標識付けされている。米国特許第563
1703号に示される配列パターンは、全ての項(例え
ば、図8bのa−e)に沿って、十分な情報(すなわち
マゼンタ及び緑の値、又は、シアン及びイエローの値)
を有しており、その結果、特に本発明との利用に適して
いる。本発明は、例えば、磁気ディスク(例えばフロッ
ピーディスク),磁気テープのような磁気記録媒体,光
ディスク,光テープ、若しくは、機械読取り可能のメモ
リなどのコンピュータ読取り可能の製品に保存されるコ
ンピュータプログラムにおいて具現化され得る。
【0028】なお、本発明は、例示された実施の形態に
限定されるものでなく、本発明の要旨を逸脱しない範囲
において、種々の改良及び設計上の変更が可能であるこ
とは言うまでもない。
【0029】
【発明の効果】以上の説明から明らかなように、本発明
によれば、改良された輝度又はクロミナンスの値を生成
するために、実行時間及びメモリ保存の必要の両方にお
いて、コンピュータの使用により効率的である。また、
ラプラシアン2次及び勾配の値の組合せを用いて、出力
イメージにおいて実質的に軽減されるアーティファクト
(カラー補間)を実質的に軽減する分類子を作成するこ
とができる。
【図面の簡単な説明】
【図1】 本発明の実施の形態に係る補間処理を採用す
る電子スチルカメラのブロック図である。
【図2】 輝度を生成する補間処理技術の論理のブロッ
ク図である。
【図3】 (a) 図2に示される輝度値ブロック32
の詳細なブロック図である。 (b)図2に示されるクロミナンス値ブロック34の詳
細なブロック図である。
【図4】 低周波輝度値を計算するに際して用いられる
中心部を示す。
【図5】 図3a及び3bに示される分類ブロック48
において分類子を計算するに際して用いられる画素加重
を示す。
【図6】 上記分類ブロック48により生成されるまた
別の分類子を計算するに際して用いられる画素加重を示
す。
【図7】 水平方向,垂直方向,フラット,斜方向1及
び斜方向2として分類された画素についての輝度を予報
する中心加重を示す。
【図8】 従来技術の画素パターンを示す。
【図9】 クロミナンス補正に適した画素配列パターン
を示す。
【符号の説明】
12…イメージセンサ 18…イメージバッファ 20…制御プロセッサ 22…デジタル信号プロセッサ 28…処理バッファ 32…輝度値ブロック 42…ぼかしブロック 44…補正ブロック 46…輝度ブロック 48…分類ブロック 52…局部ブロック 54…完成ブロック

Claims (3)

    【特許請求の範囲】
  1. 【請求項1】 輝度の概算を可能とするのに十分な情報
    を用いて、斜方向の画素を有する行及び列状に配列され
    たカラーイメージ画素を備えたイメージセンサ又はその
    同様のものから最初に得られたデジタルカラーイメージ
    値を処理するための、各イメージ画素についての輝度値
    を計算する装置において、デジタルイメージは、各イメ
    ージ画素の位置につき、少なくとも3つの別々のカラー
    値を有しており、 上記デジタルイメージを保存する手段と、 低周波輝度の値を計算するために、上記保存手段と共働
    し、保存された規則的なデジタルカラーイメージ値に応
    答する処理手段と、 周辺近傍のイメージ画素から、少なくとも2つのイメー
    ジの向きにおけるラプラシアン2次及び勾配の値を得る
    ために、計算された低周波輝度の値に応答する手段と、 各値が分類子に対応する値の組が存在するように、中心
    部における各イメージ画素についての値を規定すべく、
    上記ラプラシアン2次及び勾配の値を組み合せ、上記分
    類子に基づく補間に関した向きのグループから好適な向
    きを選択する手段と、 各対応するイメージ画素についてのカラー特性の一部を
    概算するために、好適な向き及び規則的なデジタルイメ
    ージに応答する手段とを有していることを特徴とするデ
    ジタルカラーイメージ値の処理装置。
  2. 【請求項2】 輝度の概算を可能とするのに十分な情報
    を用いて、斜方向の画素を有する行及び列状に配列され
    たカラーイメージ画素を備えたイメージセンサ又はその
    同様のものから最初に得られたデジタルカラーイメージ
    値を処理するための、各イメージ画素についての輝度値
    を計算する装置において、デジタルイメージは、各イメ
    ージ画素の位置につき、少なくとも3つの別々のカラー
    値を有しており、 上記デジタルイメージを保存する手段と、 低周波輝度の値を計算するために、上記保存手段と共働
    し、保存された規則的なデジタルカラーイメージ値に応
    答する処理手段と、 周辺近傍のイメージ画素から、少なくとも2つのイメー
    ジの向きにおけるラプラシアン2次及び勾配の値を得る
    ために、計算された低周波輝度の値に応答する手段と、 各値が分類子に対応する値の組が存在するように、各イ
    メージ画素についての値を規定すべく、上記ラプラシア
    ン2次及び勾配の値を組み合せ、上記分類子に基づく補
    間に関した向きのグループから好適な向きを選択する手
    段と、 各対応するイメージ画素に関した輝度値を概算するため
    に、好適な向き及び規則的なデジタルイメージに応答す
    る手段とを有していることを特徴とするデジタルカラー
    イメージ値の処理装置。
  3. 【請求項3】 行及び列状に配列されたカラーイメージ
    画素を備えたイメージセンサから最初に得られた規則的
    なデジタルカラーイメージ値を処理するための、各イメ
    ージ画素についての輝度値を計算する装置において、デ
    ジタルイメージセンサは、各イメージ画素の位置につ
    き、少なくとも3つの別々のカラー値を生成するもの
    で、 規則的なデジタルカラーイメージ値を保存する手段と、 低周波輝度の値を計算するために、上記保存手段と共働
    し、保存された規則的なデジタルカラーイメージ値に応
    答する処理手段と、 周辺近傍のイメージ画素から、少なくとも2つのイメー
    ジの向きにおけるラプラシアン2次及び勾配の値を得る
    ために、計算された低周波輝度の値に応答する手段と、 各値が分類子に対応する値の組が存在するように、各イ
    メージ画素に関した値を規定すべく、上記ラプラシアン
    2次及び勾配の値を組み合せ、上記分類子に基づく補間
    に関した、フラット,水平方向,垂直方向,第1及び第
    2の斜方向の向きを含む向きのグループから好適な向き
    を選択する手段と、 各対応するイメージ画素に関した輝度値を決定するため
    に、好適な向き及び規則的なデジタルイメージに応答す
    る手段とを有していることを特徴とするデジタルカラー
    イメージ値の処理装置。
JP11165172A 1998-06-12 1999-06-11 デジタルカラ―イメ―ジ値の処理装置 Pending JP2000078597A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US09/096632 1998-06-12
US09/096,632 US6075889A (en) 1998-06-12 1998-06-12 Computing color specification (luminance and chrominance) values for images

Publications (1)

Publication Number Publication Date
JP2000078597A true JP2000078597A (ja) 2000-03-14

Family

ID=22258311

Family Applications (1)

Application Number Title Priority Date Filing Date
JP11165172A Pending JP2000078597A (ja) 1998-06-12 1999-06-11 デジタルカラ―イメ―ジ値の処理装置

Country Status (3)

Country Link
US (1) US6075889A (ja)
EP (1) EP0964585A3 (ja)
JP (1) JP2000078597A (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009055142A (ja) * 2007-08-24 2009-03-12 Holtek Semiconductor Inc Ymcgカラー・フィルタ・アレイに用いられる色彩補間法
EP2056607A1 (en) 2001-03-05 2009-05-06 Nikon Corporation Image processing apparatus and image processing program
US8131067B2 (en) 2008-09-11 2012-03-06 Seiko Epson Corporation Image processing apparatus, image processing method, and computer-readable media for attaining image processing
KR101117882B1 (ko) 2004-04-01 2012-03-07 마이크로소프트 코포레이션 휘도 보정

Families Citing this family (46)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2328336B (en) * 1997-08-14 2001-10-10 Quantel Ltd An image processing system
US6356672B1 (en) * 1999-03-08 2002-03-12 Sharp Laboratories Of America, Inc. Method and apparatus for reducing the color registration artifact of image capture devices
US6862106B1 (en) * 1999-06-30 2005-03-01 Canon Kabushiki Kaisha Image-capturing apparatus, method of controlling the same apparatus, and computer program product for providing the same method
JP4317619B2 (ja) * 1999-07-22 2009-08-19 メディア・テック・ユーエスエイ・インコーポレーテッド 画像処理装置
JP4599672B2 (ja) * 1999-12-21 2010-12-15 株式会社ニコン 補間処理装置および補間処理プログラムを記録した記録媒体
US7146042B2 (en) * 2000-09-07 2006-12-05 Nikon Corporation Image processing apparatus and colorimetric system conversion method
US7088392B2 (en) * 2001-08-27 2006-08-08 Ramakrishna Kakarala Digital image system and method for implementing an adaptive demosaicing method
US6862366B2 (en) * 2001-09-13 2005-03-01 Seiko Epson Corporation Techniques for scratch and date removal from scanned film
US7053953B2 (en) * 2001-12-21 2006-05-30 Eastman Kodak Company Method and camera system for blurring portions of a verification image to show out of focus areas in a captured archival image
US7002627B1 (en) * 2002-06-19 2006-02-21 Neomagic Corp. Single-step conversion from RGB Bayer pattern to YUV 4:2:0 format
EP1439715A1 (en) 2003-01-16 2004-07-21 Dialog Semiconductor GmbH Weighted gradient based colour interpolation for colour filter array
US7236191B2 (en) * 2003-04-30 2007-06-26 Nokia Corporation Method and system for image processing with pixel interpolation using second order gradients
EP1641283B1 (en) 2003-06-12 2019-01-09 Nikon Corporation Image processing method, image processing program, image processor
CN1817047A (zh) * 2003-06-30 2006-08-09 株式会社尼康 用于处理具有排列的不同色彩分量的图像的图像处理装置,图像处理程序,电子照相机,以及图像处理方法
US7463296B2 (en) * 2004-04-01 2008-12-09 Microsoft Corporation Digital cameras with luminance correction
CN1942870B (zh) * 2004-04-15 2010-05-12 松下电器产业株式会社 信息处理装置及数据访问方法
CN100394883C (zh) * 2005-12-02 2008-06-18 清华大学 无线内窥镜系统的准无损图像压缩和解压缩方法
US20080123997A1 (en) * 2006-11-29 2008-05-29 Adams James E Providing a desired resolution color image
US10298834B2 (en) 2006-12-01 2019-05-21 Google Llc Video refocusing
US8594451B2 (en) * 2007-03-30 2013-11-26 Omnivision Technologies, Inc. Edge mapping incorporating panchromatic pixels
TWI400961B (zh) * 2007-08-24 2013-07-01 Holtek Semiconductor Inc 用於ymcg彩色濾波陣列的色彩內插法
US7961224B2 (en) * 2008-01-25 2011-06-14 Peter N. Cheimets Photon counting imaging system
US8330827B2 (en) * 2009-11-19 2012-12-11 Eastman Kodak Company Increasing image resolution using combined differential image
US9858649B2 (en) 2015-09-30 2018-01-02 Lytro, Inc. Depth-based image blurring
US10334151B2 (en) 2013-04-22 2019-06-25 Google Llc Phase detection autofocus using subaperture images
US9635332B2 (en) * 2014-09-08 2017-04-25 Lytro, Inc. Saturated pixel recovery in light-field images
US10565734B2 (en) 2015-04-15 2020-02-18 Google Llc Video capture, processing, calibration, computational fiber artifact removal, and light-field pipeline
US10540818B2 (en) 2015-04-15 2020-01-21 Google Llc Stereo image generation and interactive playback
US10469873B2 (en) 2015-04-15 2019-11-05 Google Llc Encoding and decoding virtual reality video
US10440407B2 (en) 2017-05-09 2019-10-08 Google Llc Adaptive control for immersive experience delivery
US10341632B2 (en) 2015-04-15 2019-07-02 Google Llc. Spatial random access enabled video system with a three-dimensional viewing volume
US10419737B2 (en) 2015-04-15 2019-09-17 Google Llc Data structures and delivery methods for expediting virtual reality playback
US10412373B2 (en) 2015-04-15 2019-09-10 Google Llc Image capture for virtual reality displays
US11328446B2 (en) 2015-04-15 2022-05-10 Google Llc Combining light-field data with active depth data for depth map generation
US10444931B2 (en) 2017-05-09 2019-10-15 Google Llc Vantage generation and interactive playback
US10275898B1 (en) 2015-04-15 2019-04-30 Google Llc Wedge-based light-field video capture
US10546424B2 (en) 2015-04-15 2020-01-28 Google Llc Layered content delivery for virtual and augmented reality experiences
US10567464B2 (en) 2015-04-15 2020-02-18 Google Llc Video compression with adaptive view-dependent lighting removal
US9979909B2 (en) 2015-07-24 2018-05-22 Lytro, Inc. Automatic lens flare detection and correction for light-field images
US10275892B2 (en) 2016-06-09 2019-04-30 Google Llc Multi-view scene segmentation and propagation
US10679361B2 (en) 2016-12-05 2020-06-09 Google Llc Multi-view rotoscope contour propagation
US10594945B2 (en) 2017-04-03 2020-03-17 Google Llc Generating dolly zoom effect using light field image data
US10474227B2 (en) 2017-05-09 2019-11-12 Google Llc Generation of virtual reality with 6 degrees of freedom from limited viewer data
US10354399B2 (en) 2017-05-25 2019-07-16 Google Llc Multi-view back-projection to a light-field
US10545215B2 (en) 2017-09-13 2020-01-28 Google Llc 4D camera tracking and optical stabilization
US10965862B2 (en) 2018-01-18 2021-03-30 Google Llc Multi-camera navigation interface

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3971065A (en) * 1975-03-05 1976-07-20 Eastman Kodak Company Color imaging array
US5629734A (en) * 1995-03-17 1997-05-13 Eastman Kodak Company Adaptive color plan interpolation in single sensor color electronic camera
US5506619A (en) * 1995-03-17 1996-04-09 Eastman Kodak Company Adaptive color plan interpolation in single sensor color electronic camera
US5652621A (en) * 1996-02-23 1997-07-29 Eastman Kodak Company Adaptive color plane interpolation in single sensor color electronic camera
US5596367A (en) * 1996-02-23 1997-01-21 Eastman Kodak Company Averaging green values for green photosites in electronic cameras
US5631703A (en) * 1996-05-29 1997-05-20 Eastman Kodak Company Particular pattern of pixels for a color filter array which is used to derive luminance and chrominance values
JP3031613B2 (ja) * 1996-11-12 2000-04-10 株式会社つくばソフト研究所 カラー/濃淡画像入力出力装置と入力出力方法

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2056607A1 (en) 2001-03-05 2009-05-06 Nikon Corporation Image processing apparatus and image processing program
KR101117882B1 (ko) 2004-04-01 2012-03-07 마이크로소프트 코포레이션 휘도 보정
JP2009055142A (ja) * 2007-08-24 2009-03-12 Holtek Semiconductor Inc Ymcgカラー・フィルタ・アレイに用いられる色彩補間法
JP4620095B2 (ja) * 2007-08-24 2011-01-26 盛群半導體股▲ふん▼有限公司 Ymcgカラー・フィルタ・アレイに用いられる色彩補間法
US8131067B2 (en) 2008-09-11 2012-03-06 Seiko Epson Corporation Image processing apparatus, image processing method, and computer-readable media for attaining image processing

Also Published As

Publication number Publication date
US6075889A (en) 2000-06-13
EP0964585A2 (en) 1999-12-15
EP0964585A3 (en) 2000-03-29

Similar Documents

Publication Publication Date Title
JP2000078597A (ja) デジタルカラ―イメ―ジ値の処理装置
JP3510037B2 (ja) 適応カラー補間単一センサカラー電子カメラ
JP3753385B2 (ja) 輝度階調を用いたフルカラーイメージ適応的補間装置
US5596367A (en) Averaging green values for green photosites in electronic cameras
US5652621A (en) Adaptive color plane interpolation in single sensor color electronic camera
US6697107B1 (en) Smoothing a digital color image using luminance values
US5506619A (en) Adaptive color plan interpolation in single sensor color electronic camera
US6192162B1 (en) Edge enhancing colored digital images
JP4279384B2 (ja) カラーフィルタ画像信号生成方法
US5373322A (en) Apparatus and method for adaptively interpolating a full color image utilizing chrominance gradients
US6897425B2 (en) Method of processing an image signal with the result from decision on a correlation corrected
US6542187B1 (en) Correcting for chrominance interpolation artifacts
US9858644B2 (en) Bayer color filter array based high dynamic range video recording method and device
JP2002010276A (ja) 撮像装置
JP2009124552A (ja) ノイズ低減システム、ノイズ低減プログラム及び撮像システム。
US20060050956A1 (en) Signal processing apparatus, signal processing method, and signal processing program
US7053944B1 (en) Method of using hue to interpolate color pixel signals
JP2004015772A (ja) 撮像装置
JP2009027619A (ja) 映像処理装置および映像処理プログラム
JP2007274504A (ja) デジタルカメラ
JP2008147904A (ja) 信号処理方法および信号処理装置
JP2004287794A (ja) 画像処理装置
KR101612853B1 (ko) 촬영장치, 촬영장치의 제어방법 및 제어방법을 실행시키기 위한 프로그램을 저장한 기록매체
JP3962518B2 (ja) 画像信号処理装置
JP2002209100A (ja) 画像処理装置および画像処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060302

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080526

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080819

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20090203