JP2002204399A - 画像圧縮方法 - Google Patents

画像圧縮方法

Info

Publication number
JP2002204399A
JP2002204399A JP2001330235A JP2001330235A JP2002204399A JP 2002204399 A JP2002204399 A JP 2002204399A JP 2001330235 A JP2001330235 A JP 2001330235A JP 2001330235 A JP2001330235 A JP 2001330235A JP 2002204399 A JP2002204399 A JP 2002204399A
Authority
JP
Japan
Prior art keywords
slow
pixel
image
fast
photosite
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2001330235A
Other languages
English (en)
Other versions
JP3968121B2 (ja
Inventor
Andrew C Gallagher
シー ギャラガー アンドリュー
Majid Rabbani
ラバニ マジッド
Edward B Gindele
ビー ジンデル エドワード
Robert T Gray
ティー グレイ ロバート
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Eastman Kodak Co
Original Assignee
Eastman Kodak Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Eastman Kodak Co filed Critical Eastman Kodak Co
Publication of JP2002204399A publication Critical patent/JP2002204399A/ja
Application granted granted Critical
Publication of JP3968121B2 publication Critical patent/JP3968121B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N3/00Scanning details of television systems; Combination thereof with generation of supply voltages
    • H04N3/10Scanning details of television systems; Combination thereof with generation of supply voltages by means not exclusively optical-mechanical
    • H04N3/14Scanning details of television systems; Combination thereof with generation of supply voltages by means not exclusively optical-mechanical by means of electrically scanned solid-state devices
    • H04N3/15Scanning details of television systems; Combination thereof with generation of supply voltages by means not exclusively optical-mechanical by means of electrically scanned solid-state devices for picture signal generation
    • H04N3/155Control of the image-sensor operation, e.g. image processing within the image-sensor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/58Control of the dynamic range involving two or more exposures
    • H04N25/581Control of the dynamic range involving two or more exposures acquired simultaneously
    • H04N25/585Control of the dynamic range involving two or more exposures acquired simultaneously with pixels having different sensitivities within the sensor, e.g. fast or slow pixels or pixels having different sizes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Color Television Image Signal Generators (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Studio Devices (AREA)
  • Solid State Image Pick-Up Elements (AREA)
  • Facsimile Heads (AREA)
  • Compression Of Band Width Or Redundancy In Fax (AREA)

Abstract

(57)【要約】 【課題】 ある照射に対して所定の応答を備えた高速フ
ォトサイトから生成された高速ピクセル値と、同じ照射
に対して低速の応答を備えた低速フォトサイトから生成
された低速ピクセル値を有する電子イメージセンサから
得られるデジタル画像を効率的かつ効果的に圧縮する。 【解決手段】 撮像素子10及びA/D変換器14で完
全な解像度から疎にサンプルしてダイナミックレンジを
拡張した画像を供給し、圧縮器312で完全な解像度か
ら疎にサンプルした画像を高速ピクセル値だけを有する
高速画像と低速ピクセル値だけを有する低速画像に分
け、前記高速画像と低速画像を別個に圧縮する。圧縮器
312は、ピクセル種類分離器により低速ピクセルと高
速ピクセルを分離して各々を独立に圧縮する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】この発明は一般に撮像分野に
関し、より詳細にはダイナミックレンジを拡張した撮像
素子からの画像を圧縮する方法に関する。
【0002】
【従来の技術】電荷結合素子(CCD)等の撮像素子は
一般に、デジタルカメラ、スキャナ、およびビデオカメ
ラ等の製品内に見られる。これらの撮像素子は、既存の
写真フィルム製品に比べてダイナミックレンジが制限さ
れている。典型的な電子撮像素子は、約7ストップのダ
イナミックレンジを有する。これは、典型的な情景の照
射が、結果的な信号のクリッピングを避けるために、か
なりの量の精度で決定されなければならない。一方、自
然の情景は、9ストップ以上のダイナミックレンジを示
すことが多い。これは主に複数の光源の結果であり、そ
の情景の対象を照射する強度は大きく変化している。さ
らに、鏡面のハイライトが、自然の情景のダイナミック
レンジに寄与している。
【0003】写真フィルムを走査するために用いられる
電子センサはさらに、信号強度の高ダイナミックレンジ
に対処しなければならない。ミルチの(Milch)米
国特許第5,221,848号、公告日1993年6月
22日では、電子イメージセンサのダイナミックレンジ
を拡張するために設計された方法および装置が開示され
ている。写真フィルムを走査することを主目的とし、ミ
ルチはその上に複数の直線状アレイを備えた電荷結合素
子スキャナを用いるワンパス・フィルム・スキャナの方
法を開示している。そのアレイの一つは高強度の光に対
応し、他のアレイは低強度の光に対応している。次に、
二つのアレイからの情報を組み合わせ、デジタル化して
ダイナミックレンジを拡張したデジタル画像を形成す
る。ミルチが開示した方法および装置は、光強度に対し
て同じスペクトル感度であるが、異なる性質を備えたフ
ォトサイトを有する電子イメージセンサであり、非常に
高いダイナミックレンジを備えたデジタル画像を生成す
ることができる。
【0004】デジタル電子カメラは、カラーフィルタア
レイ(CFA)を備えた単一のイメージセンサを用い
て、疎にサンプルしたデジタル画像を生成する。赤、
緑、および青のフォトサイトを用いて赤、緑、および青
のピクセル値を生成する典型的なカラーフィルタアレイ
・パターンは、バイエル(Bayer)の米国特許第
3,971,065号、公告日1976年7月20日に
開示されている。補間アルゴリズムは、疎にサンプルし
た画像から完全な解像度のカラー画像を生成するために
用いられる。デジタルカメラはさらに、高ダイナミック
レンジを有する情景を記録する必要がある。デジタルカ
メラから高ダイナミックレンジの画像を得る一つの方法
は、カメラ内で高ビット深度のアナログ・デジタル変換
器を用いることである。別の方法は、ここに援用するギ
ャラガ(Gallagher)などの米国係属出願番号
第09/615,398号、出願日2000年7月13
日に開示されているように、散在させた高速および低速
フォトサイトを備えたイメージセンサを用いることであ
る。さらに、デジタルカメラの重要な特徴は、管理可能
な大きさのデジタル画像を生成する必要があることであ
る。これは主に、デジタルカメラの制限された搭載メモ
リと、デジタル画像を他の素子に転送するための帯域幅
の制限による。
【0005】ロバート・グレイ(Robert Gra
y)とボビー・ハント(BobbyHunt)は、Pr
oc.SPIE,Volume 432、サンディエ
ゴ、1983年8月の記事「Multispectra
l data compression using
staggered detector array
s」に、CFAを備えたイメージセンサで捕捉した画像
の赤、緑、および青のピクセル値に対して、別個に画像
圧縮を行うことに関する利点を定量化している。しか
し、グレイとハントの方法は、ある照射に対して所定の
応答を備えた高速フォトサイトから生成された高速ピク
セル値と、同じ照射に対して低速の応答を備えた低速フ
ォトサイトから生成された低速ピクセル値を有するイメ
ージセンサを考慮してはいなかった。
【0006】ツァイ(Tsai)などの同一出願人によ
る米国特許第5,065,229号、公告日1991年
11月12日と、第5,053,861号、公告日19
91年10月1日は、色を補間する前にデジタル画像を
圧縮する方法を記載している。しかし、彼らの方法は、
ある照射に対して所定の応答を備えた高速フォトサイト
から生成された高速ピクセル値と、同じ照射に対して低
速の応答を備えた低速フォトサイトから生成された低速
ピクセル値を有するイメージセンサを考慮してはいなか
った。
【0007】
【発明が解決しようとする課題】従って、ある照射に対
して所定の応答を備えた高速フォトサイトから生成され
た高速ピクセル値と、同じ照射に対して低速の応答を備
えた低速フォトサイトから生成された低速ピクセル値を
有する電子イメージセンサから得られるデジタル画像を
効率的かつ効果的に圧縮する必要がある。さらに、光強
度に対して同じスペクトル感度であるが、異なる性質を
備えたフォトサイトを有し、非常に高いダイナミックレ
ンジを備えたデジタル画像を生成することができる電子
イメージセンサで生成した画像を効果的に圧縮する必要
がある。
【0008】
【課題を解決するための手段】その必要性は、この発明
に従って、ある照射に対して所定の応答を備え高速ピク
セル値を生成する高速フォトサイトと、同じ照射に対し
て低速応答を備え低速ピクセル値を生成する低速フォト
サイトを有し、疎にサンプルしてダイナミックレンジを
拡張した撮像素子によって生成され、完全な解像度から
疎にサンプルしてダイナミックレンジを拡張した画像か
ら、圧縮した画像を生成する方法を提供することによっ
て実現される。その方法は、完全な解像度から疎にサン
プルしてダイナミックレンジを拡張した画像を提供し、
完全な解像度から疎にサンプルした画像を高速ピクセル
値だけを有する高速画像と低速ピクセル値だけを有する
低速画像に分け、前記高速画像と低速画像を別個に圧縮
するステップを有する。
【0009】この発明の利点は、ここで説明した圧縮技
術が明らかに、このようなセンサからのデジタル画像を
より効率的に圧縮するために、ある照射に対して所定の
応答を備えた高速フォトサイトと、同じ照射に対して低
速の応答を備えた低速フォトサイトからの低速ピクセル
値を有するイメージセンサ上のフォトサイトの独自の配
置を利用していることである。
【0010】
【発明の実施の形態】デジタル画像は、一つ以上のデジ
タル画像のチャネルからなる。各デジタル画像のチャネ
ルは、二次元アレイのピクセルから構成されている。各
ピクセル値は、そのピクセルの幾何学的領域に応じて撮
像素子が受け取った光の量に関係している。カラー撮像
用途の場合、デジタル画像は一般に、赤、緑、青のデジ
タル画像のチャネルからなる。例えばシアン、マゼン
タ、イエローのデジタル画像のチャネルといった他の構
成も実現されている。単色の用途の場合、そのデジタル
画像は一つのデジタル画像のチャネルからなる。動画用
途は、デジタル画像の時系列として考えられる。当業者
には明らかなように、この発明は上記の用途のいずれに
も適用できるが、それらに限定されない。
【0011】この発明は、行と列に配置したピクセル値
の二次元アレイとしてデジタル画像チャネルを説明して
いるが、当業者には明らかなように、同様の効果を備え
たモザイク(非直線の)アレイ、つまり六角形のアレイ
に適用することもできる。
【0012】電子センサを用いる撮像素子は既知であ
り、従ってこの発明は特に、この発明による装置の一部
を構成するか、またはより直接的に協力している要素に
適用される。ここで特に示していないか、または説明し
ていない要素を当業者が選択することもできる。なお、
ここで用いられているように、画像という用語は二次元
アレイの値のことである。画像は、別の画像の二次元の
一部であってもよい。この発明は、プログラム式デジタ
ル・コンピュータまたはカスタム集積デジタル画像処理
回路を用いて実現できる。下記の開示内容に基づくコン
ピュータ・プログラム等を作成することは、プログラミ
ング技術の範囲内で可能である。コンピュータは、パー
ソナル・コンピュータ等の汎用デジタル・コンピュータ
であっても、デジタル画像処理用に特に設計した専用デ
ジタル・コンピュータであってもよい。この発明は、デ
ジタルカメラ内に全部であれ一部であれ実装できる。
【0013】この発明の基本要素は、図1の機能ブロッ
ク図として示されている。対象または情景からの光はレ
ンズ2に入射し、電荷結合素子(CCD)等の撮像素子
10上に写真画像を形成する。なお、CMOS素子等の
他の素子を撮像素子10として用いることもできる。レ
ンズ2と撮像素子10の間に配置した光学的ローパス・
フィルタ6は、結像した光をややぼやかして擬似ライン
の発生を低減する。A/D変換器14は、結像した光に
応じた電圧信号を撮像素子10から受け取り、その電圧
信号に応じた画像信号を生成する。A/D変換器の出力
は、完全な解像度から疎にサンプルしてダイナミックレ
ンジを拡張した画像である。疎にサンプルした画像は、
複数の種類のフォトサイトを備えた単一のイメージセン
サを有する撮像素子で捕捉した画像として定義される。
この発明によると、疎にサンプルしたという用語もま
た、カラーフィルタアレイを有するイメージセンサを含
む、散在した高速および低速フォトサイトを有するイメ
ージセンサが生成した画像を指すことを意図している。
【0014】完全な解像度から疎にサンプルしてダイナ
ミックレンジを拡張した画像は、この発明に従って圧縮
し、下記に説明する圧縮器312によって圧縮したデジ
タル画像を生成する。圧縮したデジタル画像は、コンピ
ュータメモリ(図示せず)内に格納するか、または通信
ネットワーク(図示せず)上に送信して、後で復元器2
14で復元して再構成したデジタル画像を生成できる。
【0015】図1に示したA/D変換器14は、撮像素
子10のフォトサイトで生成した電圧信号に応じた画像
信号、つまりデジタル・ピクセル値のストリームに、撮
像素子10で生成した電圧信号を変換する。より詳細に
は、A/D変換器14は、線形にコード化した値が0〜
1023の範囲である例えば10ビットの信号といった
離散的なデジタル画像信号に、入射光の強度に対してほ
ぼ線形の撮像素子10からの電圧信号を変換する。A/
D変換器14はさらに線形のコード値の領域画像信号
を、その技術で一般に行われているように、8ビットの
対数信号のような非線形のコード値の領域画像信号に変
換する処理を行うこともできる。例えば、次に式を用い
て、10ビットの線形の画像信号a(x,y)を8ビッ
トの対数画像信号b(x,y)に変換できる。ここで、
(x,y)は撮像素子10に関する信号位置の行列イン
デックスを指定する。
【0016】
【数1】 なお、照射の(撮像素子の線形な応答領域における)各
ストップの結果、線形な画像信号a(x,y)は倍増
し、対数コード化した画像信号b(x,y)は51倍に
増大する。この場合、51という値は照射のストップ
(cvs)ごとのコード値の数を表す。
【0017】好ましい実施例では、撮像素子10は、フ
ォトサイトと呼ばれる光電性の要素のアレイからなる。
各フォトサイトは一般に、ここに援用するバイエルの同
一出願人による米国特許第3,971,065号に記載
されているように、赤、緑、または青のフィルタで被覆
されている。バイエルのアレイは、緑のフィルタをフォ
トサイト上に市松模様に配置し、赤と青のフィルタはラ
インごとに交互に配置して、市松模様の間隙部を充填し
たカラーフィルタアレイである。これは、赤または青の
フィルタサイトの二倍の数だけ緑のフィルタサイトを形
成する。なお、ここに記載した方法は、異なる構成の主
原色、異なる数の主原色、または異なる組の主原色を備
えたカラーフィルタアレイに容易に拡張できる。従っ
て、好ましい実施例では、各フォトサイトは、赤、緑、
または青い光のいずれかに対する感度を有する。従っ
て、撮影された画像は赤、緑および青に疎にサンプルさ
れる。しかし、各フォトサイトの位置で、赤、緑、およ
び青の各々を露光する照射に応じたピクセル値を得るこ
とが望ましい。この説明では、「赤」、「緑」、および
「青」は、画像処理技術で既知なように、撮像素子10
の主なスペクトル感度を表す。
【0018】一般に、フォトサイト上のカラーフィルタ
要素のカラー値ではなくカラーピクセル値が、補間によ
って隣接するフォトサイトからのカラーピクセル値から
構成される。一般に知られている補間器のいずれも使用
することができるが、好ましいCFA補間器の説明は、
ここに援用するアダムズ(Adams)などの米国特許
第5,652,621号、公告日1997年7月29日
の開示内容に含まれている。アダムズなどは、行列に配
置したカラーフォトサイトを有するイメージセンサから
得たデジタル化した画像信号を処理する装置を説明して
おり、その装置は少なくとも三つの別個の明度を生成す
るが、各フォトサイト位置には明度は一つだけであり、
各フォトサイト位置用の明度を補間する構造を有し、三
つの異なる明度を有する。その装置は、隣接するフォト
サイト位置の欠けている明度ではなく、異なる色の明度
からこのようなフォトサイト位置の別の明度を補間する
ことで、あるフォトサイト位置の欠けている適切な明度
を生成する。その装置はさらに、同じ行列の隣接するフ
ォトサイトに応じて、ピクセル値から少なくとも二つの
画像方向におけるラプラシアン二次値、階調値および色
差バイアス値を得て、これらの値から展開した分類器に
基づいて欠けている明度を補間する好ましい方向を選択
する。最後に、隣接する複数のカラーピクセル値から欠
けているカラーピクセル値を選択し、好ましい方向に一
致させる。撮像素子10に対する所定のフォトサイトの
配置は、下記にさらに詳しく説明する。好ましい実施例
では、所定のフォトサイトの応答は、ここでは低速フォ
トサイトと呼ばれる所定のフォトサイトの利得を変更す
ることで低速し遅延する。フォトサイトの利得の変更
は、一般的にデジタルカメラの設計および製造技術にお
いて実現される。
【0019】図2を参照すると、各フォトサイト上に樹
脂小型レンズ51を配置するイメージセンサの製造技術
における一般的な実施例が示されている。例えば、特に
撮像素子10がインタライン型固体撮像素子である場
合、一つの小型レンズ技術は、ここに援用する石原(I
shihara)などの米国特許第4,667,092
号、公告日1987年5月19日に記載されている。石
原は、ブロック面を備えた画像記憶ブロックを有する固
体撮像素子を開示しており、複数の記憶要素はブロック
面に沿って組み込まれ、電荷の形で画像を記憶する。被
覆層は、記憶要素に対応して光学的レンズアレイを構成
するように形成する。中間層は、ブロック面と被覆層の
間に配置する。入射光は、記憶要素上のレンズと中間層
を介して集束する。中間層は、焦点距離を調整する調整
層として機能する。
【0020】図2は、インタライン型固体撮像素子の断
面図を示している。小型レンズ51がない場合、フォト
サイトの各光電性領域55に対応する信号読み出し領域
は、光電変換領域として半導体基板の全領域を用いるこ
とができない。既存の固体撮像素子は、それに入射する
全ての光線を効率的には利用せず、低感度となる。フォ
トサイト上に樹脂小型レンズ51を追加すると、フォト
サイトの光活性領域に入射光線を集束させ、入射光線を
より効率的に利用してフォトサイトの感度を向上でき
る。従って、小型レンズ51の大きさや効率を変更する
ことによって、フォトサイトの感度(利得)を容易に変
更できる。さらに、インタライン型素子やCMOSセン
サの場合、フォトサイトの利得を変更する好ましい方法
は、フォトサイト上に配置した小型レンズ51を変更す
ることによる。図2に示したように、位置52は小型レ
ンズを有しておらず、光電性領域にはより少ない入射光
線しか入射しない。また、小型レンズは、小型レンズ5
1に比べて異なる半径、形状、大きさまたは材料で位置
52に製造して、光電性領域55に入射する光線を小型
レンズ55より低い効率になるように構成できる。当業
者には明らかなように、小型レンズ51が入射光線の8
0%を光電性領域55上に集束し、小型レンズを有さな
い(または低速の小型レンズを有する)位置52が入射
光線の20%を光電性領域55に到達させる場合、小型
レンズ51によって被覆されたフォトサイトは位置52
より2ストップだけ高速になる。この場合、小型レンズ
51は高速フォトサイトに用いられ、位置52で表され
るように小型レンズがない場合は低速フォトサイトに用
いられる。
【0021】全フレーム撮像素子10の断面図を示す図
3を参照すると、撮像素子10が全フレーム素子である
場合、フォトサイトの光電性領域55に入射する光線
は、一般に金属からなる遮光開口部を介して通過する。
この遮光開口部は遮光マスク部54と、遮光部の間に散
在させた大開口部56、小開口部57を有するように図
3の断面図に示されている。好ましい実施例では、フォ
トサイトの利得は、遮光マスク部54を修正することで
変更できる。そして、フォトサイトの感度は遮光マスク
部54の開口部に直接関係する。例えば、第二フォトサ
イトの開口部の大きさの50%の開口部を備えたフォト
サイトは、第二フォトサイトに対して50%の応答を有
する。例えば、遮光マスク部54の大開口部56は、フ
ォトサイト上への入射光線の80%を通過させ、小開口
部57は入射光線の20%しか通過させることができな
い。当業者には明らかなように、大開口部56を備えた
フォトサイトは、小開口部57を備えたフォトサイトよ
り2ストップ高速である。この場合、大開口部56は高
速フォトサイトに用いられ、小開口部57は低速フォト
サイトに用いられる。従って、遮光マスクの開口部は、
所定のフォトサイトの応答を調整するために修正するこ
とができる。Eastman Kodak Compa
nyは、全てのピクセルのピクセル活性領域を約80〜
約20%まで(センサを水平および垂直に1/2ピクセ
ルの間隔だけ動かし、四つの画像を取り込むディザを行
ったスキャナ用途の場合)低減する金属マスク遮光部を
備えた全フレーム撮像素子を製造している。従って、こ
の発明は、このようなマスク技術を用いるが異なる大き
さの開口部を備え、イメージセンサに画像光の反応差を
提供する。
【0022】好ましい実施例では、所定の低速フォトサ
イトの応答は、図4にグラフ的に示したように同じ照射
に対する高速フォトサイトのX%(X≦100)にな
る。この好ましい実施例では、所定のフォトサイトは高
速フォトサイトに対して2ストップ(−logX/10
0)だけ遅らされた応答を有し、X=25になる。従っ
て、撮像素子10は、高速フォトサイトと低速フォトサ
イトという複数組のフォトサイトからなる。高速フォト
サイトの出力応答の集まりは、高速画像、つまり高速フ
ォトサイトで検出した情景の疎にサンプルした形態を構
成する。同様に、低速フォトサイトの出力応答の集まり
は、低速画像、つまり低速フォトサイトで検出した情景
の疎にサンプルした形態を構成する。
【0023】別の方法のように、所定の低速フォトサイ
トの応答は、そのフォトサイトを被覆するニュートラル
・デンシティ・フィルタも用いることで低速にできる。
図5は、カラーフィルタアレイ53を備えた撮像素子の
断面図を示している。なお、カラーフィルタアレイ53
aは赤、53bは緑、53cは赤、53dは緑である。
ニュートラル・フィルタ58の層は、カラーフィルタア
レイ53上に配置されるが、ニュートラル・フィルタ5
8の層とカラーフィルタアレイ53の位置は重要ではな
い。なお、ニュートラル・フィルタ58の層だけが、ニ
ュートラル・フィルタ59で示すように所定のフォトサ
イトの位置にニュートラル・フィルタを有する。この場
合、ニュートラル・フィルタ58の層は、高速フォトサ
イトに対しては透明またはほぼ透明であり、低速フォト
サイトに対してはニュートラル・フィルタ59を有す
る。例えば、ニュートラル・フィルタ59が光をX%透
過できる材料からなる場合、低速フォトサイトの応答は
高速フォトサイトの応答に対して−log2(X/10
0)ストップだけ低速になる。
【0024】好ましい実施例では、撮像素子10のフォ
トサイトの50%が、低速応答を有するように選択され
る。当業者には明らかなように、低速応答を有するフォ
トサイトの割合を変更してもこの発明の利点を得ること
ができる。全てのフォトサイトがほぼ等しいスペクトル
感度を有する撮像素子10(つまり全整色撮像素子)の
場合、図6は低速フォトサイトの配置を示しており、撮
像素子10の全フォトサイトの約50%が低速応答とな
る。低速応答を有するフォトサイト28にはアスタリス
ク(*)が付けられており、高速応答を有するフォトサ
イト30は空白である。疎にサンプルした画像は既に、
カラーフィルタアレイを有する撮像素子で捕捉した画像
として定義していた。この発明によると、疎にサンプル
したという用語は、高速および低速フォトサイトを散在
させている図6に示したようなイメージセンサが生成し
た画像を指すことも意図している。
【0025】図7は、フォトサイトの各種類(赤、緑、
または青の感度を有する)の50%が低速応答を有する
カラーイメージセンサの構成を示している。例えば、フ
ォトサイト32、34、および36が各々低速応答を有
する赤、緑および青のフォトサイトであり、フォトサイ
ト38、40および42が各々高速応答を有する赤、緑
および青のフォトサイトである。
【0026】なお、図6、7は低速フォトサイトの位置
に対して規則的な模様を意味している。低速フォトサイ
トは規則的な模様で配置することが望ましいが、決して
必須ではない。低速フォトサイトは、撮像素子10の表
面上にランダムまたはややランダムに配置することがで
きる。
【0027】図4を参照すると、所定の照射に対する高
速フォトサイトの応答と、同じ照射に対する低速フォト
サイトの応答が示されている。なお、あるレベルの雑音
nをその応答に重ね合わせると、高速フォトサイトは、
低い照射に対して、低速フォトサイト(有効な信号は1
00E/Xから始まる)より有効な信号を出力できるこ
とが容易にわかる。また、低速フォトサイトからのデー
タは、高い照射レベル(100E2^S/Xのレベルの
信号まで、ここでSは単一のフォトサイトの固有のダイ
ナミックレンジであり、一般にSは約5ストップであ
る)に対しては、高速フォトサイト(E2^Sの照射ま
で有効な応答を生成する)より有効である。なお、高速
フォトサイトと低速フォトサイトはどちらも、複数のス
トップの照射において同じ応答レンジ(S)を有する
が、低速フォトサイトの応答は好ましくは、図4に示す
ように高速フォトサイトより−log2(X/100)
ストップ遅い。好ましくは、高速および低速フォトサイ
トの応答は、照射に対して重なり合っている。つまり、
好ましくは、−log2(X/100)<Sである。高
速および低速フォトサイトを両方とも考慮すると、撮像
素子10の全ダイナミックレンジは、S−log2(X
/100)となる。好ましい実施例では、S=5、X=
25であり、撮像素子10の全有効ダイナミックレンジ
は7ストップの照射となる。
【0028】完全な解像度のダイナミックレンジを拡張
したデジタル画像は、高速および低速画像のピクセル値
を等しくし、同じ光照射に対する応答の違いを明らかに
して、必要ないずれかの色の補間を行うことで生成され
る。
【0029】A/D変換器14から出力し、完全な解像
度から疎にサンプルしてダイナミックレンジを拡張した
画像は、メモリの必要量を低減し画像の可搬性を助ける
ためにこの発明に従って圧縮する。好ましい実施例で
は、A/D変換器14から出力した画像信号は圧縮器3
12に入力する。圧縮器312の出力は、圧縮したデジ
タル画像であり、例えばコンピュータのハードディスク
・ドライブ、フロッピ・ディスク、CD−ROM、また
はコンピュータのRAM等のコンピュータメモリ内に保
存できる。圧縮したデジタル画像はさらに、通信ネット
ワークを介してある場所から別の場所にデジタル画像を
送るとき送信時間を低減する。例えば、圧縮したデジタ
ル画像は、通信ネットワークを介してリモート位置に送
信でき、圧縮した画像をそこで復元器314に入力して
再構成したデジタル画像を生成する。圧縮器312から
の圧縮したデジタル画像は、電子メールまたはインター
ネットを介して、ホストコンピュータまたはリモート・
コンピュータに送って復元することもできる。復元した
デジタル画像は、さらに処理して再構築したデジタル画
像のダイナミックレンジを拡張し、高解像度でダイナミ
ックレンジを拡張した画像を生成できる。A/D変換器
14から出力し、疎にサンプルしてダイナミックレンジ
を拡張した画像を圧縮することで、再構築したデジタル
画像のダイナミックレンジを拡張する計算上複雑な処理
は、より便利な時間まで遅延できる(例えばカメラでは
なくデスクトップ・コンピュータ上)。圧縮器312
は、ファイルの大きさを低減するために、不可逆的圧縮
または可逆的圧縮のいずれかを行うことができる。圧縮
器312の出力は、ほとんどの消費者に有用なJPEG
等のファイル・フォーマットであってもよい。
【0030】この発明の場合、フォトサイトは図6に示
したように高速または低速の二種類からなる。さらに、
図7に示したようなカラーイメージセンサ10の場合、
各種類内でフォトサイトはさらに、赤、緑または青であ
ることができる。(当業者には明らかなように、多くの
他の組み合わせも可能である。)従って、全部で六種類
のフォトサイトがある。フォトサイトの各種類は、同じ
種類の隣接するフォトサイトと高い相関を有するので、
フォトサイトの各種類の出力は、この発明による圧縮器
312によって別個に圧縮される。圧縮器312につい
ては、下記にさらに詳しく説明する。
【0031】圧縮器312は、いくつかのモードのいず
れか一つで動作してもよい。一つのモードは、イメージ
センサ10が図6に示したような単色センサのときであ
る。イメージセンサ10の大部分が図8に示されている
が、ここでは印*を有する位置が前述のように低速応答
を有するフォトサイトを表す。単色センサの出力を圧縮
する異なる方法は下記に説明する。
【0032】圧縮器312の動作の可能なモードの一つ
は、低速ピクセルとは独立に高速ピクセルを圧縮するこ
とである。図17によると、低速ピクセルとは独立に高
速ピクセルを圧縮することは、ピクセル種類分離器31
6によって可能になる。ピクセル種類分離器316の目
的は、各種類のピクセルに別個にアクセスできるように
することである。この実施例では、ピクセル種類分離器
316は、全ての高速ピクセル値と全ての低速ピクセル
値を別個に出力する。次に、ピクセル種類分離器316
からの出力として、特定の種類のフォトサイトに対応さ
せたピクセルをピクセル種類圧縮器322に入力する。
この方法の利点は、同じ種類のフォトサイトから得られ
る隣接するピクセル値が同じようになりやすいことであ
り、圧縮器312の効率を改善できる。この動作モード
では、圧縮器312は、高速ピクセルからなる圧縮した
画像と、低速ピクセルからなる圧縮した画像を出力す
る。さらに、いくつかの高速ピクセル値が飽和している
か、またはいくつかの低速ピクセル値がほぼクリッピン
グされている(信号が低い)場合、復元した画像のダイ
ナミックレンジを拡張する以降の処理ステップが、ほぼ
クリッピングされているピクセルをどうしても無視する
ので、これらの領域は高い誤りで圧縮される。従って、
より高い度合いの圧縮が実現される。これら二つの圧縮
したデジタル画像は、単一のファイルにまとめても別個
のファイルにしてもよい。この方法は、各種類のフォト
サイトの圧縮の設定を別個に設定できるという別の利点
を有する。例えば、低速ピクセルは以降の処理の間に増
幅される可能性があるので、高速ピクセルと比べて歪み
を少なく圧縮することが望ましい。
【0033】別の実施例として図18を参照すると、ピ
クセル種類分離器316から出力した低速ピクセル値
は、ピクセル種類圧縮器322で圧縮できる。さらに、
高速ピクセル値は、低速ピクセル値から高速ピクセル値
をまず予測し、次に予測値と実際の値の間の違いを圧縮
することで圧縮できる。この方法では、高速ピクセル値
を圧縮する前に、低速ピクセル値を用いて高速ピクセル
値を予測する。位置P(x,y)における高速ピクセル
値用の一般的な予測器320は、周囲の四つの低速ピク
セル値P(x+1,y+1)、P(x−1,y+1)、
P(x+1,y−1)、P(x−1,y−1)の一つ以
上を用いて、それらにまず非線形利得を加え、次に得ら
れた値の一次結合を構成する。次に、予測器320から
出力した予測を、ピクセル種類分離器316から出力し
た高速ピクセルの実際の値から差し引き差分画像を構成
して、次に別のピクセル種類圧縮器322で圧縮する。
再び、異なる圧縮設定(例えば圧縮が低く画像品質が高
くなる設定)で差分画像ではなく低速ピクセル値を圧縮
できる。
【0034】上記の実施例の制限は、復元器314にお
いて、低速ピクセルの実際の値の代わりに復元後のそれ
らの再構成値だけが利用可能なことである。従って、高
速ピクセルを再構成するとき、復元した差分画像はピク
セル種類圧縮器322で用いた元の値ではなく、再構成
した低速ピクセル値に基づく予測に加えられる。その結
果、再構成した高速ピクセルの全圧縮歪みは、再構成し
た低速ピクセルの圧縮歪みと、復元した差分画像の圧縮
歪みの和による。
【0035】この制限は、図19に示したこの発明の実
施例によって克服される。まず、前のように、ピクセル
種類分離器322から出力した低速ピクセル値を好まし
い設定の圧縮パラメータで圧縮し、圧縮した画像を画像
メモリに記憶する。次に、高速ピクセル値を圧縮する前
に、まず低速ピクセル値をピクセル種類復元器324で
復元し、復元した値を用いて前のように予測器320で
高速ピクセルの値を予測する。なお、ピクセル種類復元
器324が動作すると、所定のピクセル種類の圧縮した
値を再構成する。さらに、ピクセル種類復元器324の
正確な動作は、ピクセル種類圧縮器322の動作を反転
させたものに基づく。当業者には、圧縮器と復元器の間
の関係は明らかであった。次に、予測器320から出力
した予測を高速ピクセルの実際の値から差し引きし残像
を構成して、別のピクセル種類圧縮器322で圧縮する
が、低速ピクセルとは異なる圧縮設定が可能である。
【0036】この方法は特に、圧縮ハードウェアをカメ
ラ内で用いる場合に魅力的である。ほとんどの圧縮およ
び復元技術(例えばJPEG圧縮規格)は高い度合いで
類似性を有するので、圧縮に用いる同じハードウェアを
復元にも用いることができ、圧縮性能を改善しながら回
路を追加する必要性を節約できる。
【0037】図8に見られるように、高速ピクセルまた
は低速ピクセルの各組は五点形の模様を構成する(市松
模様上の赤い正方形を考える)。この模様は、前述のよ
うに高速ピクセル値を低速ピクセル値とは別個に圧縮す
る場合、いくつかの圧縮アルゴリズムに対して問題を引
き起こす。例えば、技術的に通常用いられるJPEG圧
縮は、8×8ピクセルのブロックを構成することを基に
している。五点形のデータにJPEG圧縮を適用するに
は、他の各行(または列)は左(または上)に移動させ
なければならない。これは、擬似垂直(または水平)周
波数を引き起こし、圧縮効率に著しく影響する。図9、
10は、JPEG等のアルゴリズムで、五点形模様に配
置したピクセル値を圧縮する好ましい方法を示してい
る。まず、そのアレイの長方形の模様を構成する偶数位
置(指数x、yが偶数である位置)の低速ピクセル値を
JPEG圧縮で圧縮する。奇数位置の低速ピクセル値か
ら偶数位置の低速ピクセル値を分離することは、偶数位
置の低速ピクセル値を第一種のフォトサイト、奇数位置
の低速ピクセル値を第二種のフォトサイトと考えること
で実現される。次に、ピクセル種類分離器316が、奇
数位置の低速ピクセル値から偶数位置の低速ピクセル値
を処理する。なお、最初の8×8JPEGブロックは、
A/D変換器14から出力したように、完全な解像度か
ら疎にサンプルしてダイナミックレンジを拡張した画像
上で、16×16ブロックに効率的に広がる。同様に、
図10に示したように奇数位置(x、yが奇数である位
置)の低速ピクセル値も、圧縮器312によってJPE
G圧縮で圧縮される。当業者には明らかなように、同様
の処理を高速ピクセル値に対して行うこともできる。従
って、低速または高速ピクセル値の各組に対する圧縮器
312の出力は二つの圧縮ファイルである。
【0038】偶数および奇数位置の低速(または高速)
ピクセル値を圧縮する方法は、五点形サンプルの再要求
から得られる擬似空間周波数を取り除く利点を別個に有
する。しかし、この方法の欠点は、偶数および奇数位置
のサンプルの間の空間的相関が用いられていないことで
ある。図18について説明した別の実施例では、偶数位
置の低速ピクセル値をピクセル種類圧縮器322で圧縮
し、まず偶数位置の低速ピクセル値を入力した予測器3
20で奇数位置の低速ピクセル値を予測し、その結果の
差分画像をピクセル種類圧縮器322で圧縮する。さら
に、予測に用いられるピクセルと予測したピクセルはど
ちらも同じ種類であるので、予測器320では簡単な線
形予測を用いることができる。位置P(x,y)でのあ
るピクセルに対する線形予測器のいくつかの簡単な例に
は、一行左上の位置のピクセル(P(x−1,y−
1))、一行左上と右上のピクセルの平均(P(x−
1,y−1)+P(x−1,y+1))/2、一行左上
と左下のピクセルの平均(P(x−1,y−1)+P
(x+1,y−1))/2、または周囲四つのピクセル
の平均(P(x−1,y−1)+P(x+1,y−1)
+P(x+1,y+1)+P(x−1,y+1))/4
が含まれる。
【0039】同様の動作は、高速ピクセル値の圧縮のた
めにも行うことができる。当業者には明らかなように、
高速ピクセル値を圧縮し、高速ピクセル値を用いて低速
ピクセル値を予測し、差分画像を生成して圧縮する等の
説明の変形態様は、上記の説明の観点から明らかであ
り、この発明の範囲内から著しく逸脱するものではな
い。
【0040】単色センサで動作する圧縮器312の動作
の好ましいモードは、図19を参照しながら次のように
なる。偶数位置の低速ピクセル値は、ピクセル種類圧縮
器322でのJPEG等の標準圧縮技術で圧縮する。次
に、ピクセル種類復元器324で復元アルゴリズムを加
えることで、復元(再構成)した低速偶数ピクセル値を
計算する。復元(再構成)した低速偶数ピクセル値はさ
らに、予測器320で奇数位置の低速ピクセル値の値を
予測するために用いることもできる。低速奇数ピクセル
値と予測の間の残差はさらに、JPEG等の標準圧縮技
術で圧縮する。同様の動作は、高速ピクセル値について
も行うことができる。最後に、低速偶数ピクセル値、低
速奇数差分画像、高速偶数ピクセル、および高速奇数ピ
クセル差分画像に対する圧縮パラメータの設定は、以降
の処理に基づいて最善の画質を得るために異なるように
選択できる。
【0041】イメージセンサ10が図7に示したような
カラーセンサである場合、イメージセンサ10の大部分
が図11に示されており、そこでは印*を含む位置が低
速応答を有するフォトサイトを表し、rgおよびbが前
述のように赤、緑および青の光に感度を有することを表
す。
【0042】圧縮器312の動作の一モードが、図11
に示したようなカラーイメージセンサで動作する場合が
下記に説明されている。赤、緑、および青に感度を有す
るフォトサイトは、高速および低速フォトサイトの各々
に対して存在し、好ましい実施例のフォトサイトは全部
で六種類ある。高速フォトサイトでもある赤のフォトサ
イトからのピクセル値は、ここでは赤の高速ピクセル値
と呼ぶ。同様の命名法は、他の色および高速フォトサイ
トの値に対しても当てはまる。当業者には明らかなよう
に、カラーアレイ上にフィルタを配置するために別の設
計を用いることもできる。さらに、カラーフィルタアレ
イは、赤、緑、および青以外の色から構成することもで
きる。例えば、その色は緑、黄色、シアン、マゼンタで
あってもよい。当業者には明らかなように、ここで説明
したようなカラーイメージセンサ上の、高速および低速
フォトサイトを有するセンサからの画像を圧縮するため
の、ここで説明した原理は技術的に知られている方法を
用いることで、いずれの選択、数、および配置の色に対
しても適用できる。
【0043】圧縮器312の動作モードでは、各種類の
フォトサイトに関するピクセル値を別個に圧縮すること
を行い、基本的な概念は図17に示されている。ピクセ
ル種類分離器316は、六種類のピクセル値の各々を別
個に出力する。ピクセル種類分離器316から出力され
るような特定の種類のフォトサイトに関するピクセルは
次に、ピクセル種類圧縮器322に入力される。この動
作モードでは、圧縮器312は、赤、緑、および青のフ
ォトサイトの三色の各々に対して、高速ピクセル値から
なる圧縮した画像と低速ピクセル値からなる圧縮した画
像を出力し、全部で六つの圧縮した画像となる。これら
の圧縮したデジタル画像はまとめて、単一ファイルの圧
縮したデジタル画像を構成しても別個のファイルであっ
てもよい。この方法の利点は、同じ種類のフォトサイト
から得られる隣接するピクセル値が同じようになりやす
いことであり、圧縮器312の性能を向上できる。この
動作モードでは、圧縮器312は六つの圧縮した画像を
出力する。これらの画像は、単一のファイルに格納する
ことも複数のファイルに格納することもできる。さら
に、圧縮パラメータを各ピクセルの種類ごとに別個に設
定して、以降の処理で必要とされる精度に適応させた
り、各色ごとに異なるように設定して、人の視覚系のス
ペクトル感度を利用することもできる。
【0044】別の実施例のように、ピクセル種類分離器
316は、各色に対して二種類のピクセル値を各々別個
に出力する。次に、ピクセル種類分離器316からの出
力として、特定の種類のフォトサイトに対応させたピク
セルをピクセル型圧縮器322に入力する。その色に対
して第一種のフォトサイトに対応させたピクセル値(例
えば低速ピクセル値)は、図18に見られるようなピク
セル種類圧縮器322で圧縮することもできる。次に、
残りの種類のフォトサイトに対応させたピクセル値(例
えば高速ピクセル値)は、まず予測器320を用いて第
一種のフォトサイト(低速ピクセル値)から、残りの種
類のフォトサイトに対応させたピクセル値(高速ピクセ
ル値)を予測し、残りの種類のフォトサイトの実際のピ
クセル値(高速ピクセル値)と予測器320からの予測
の間の差分画像を生成し、次にピクセル種類圧縮器32
2で差分画像を圧縮することで圧縮できる。以前のよう
に、予測には、予測されるピクセルの近傍(撮像素子1
0上)にあるピクセル値に数式を加えることが含まれ
る。
【0045】図19に示した別の実施例のように信号の
歪みを最小にするために、差分画像は、ピクセル種類圧
縮器322で第一種のフォトサイトに対応させたピクセ
ル値を圧縮し、ピクセル種類復元器324で復元して復
元したピクセル値を得て、これらの復元したピクセル値
を用いて予測器320で残りの種類のピクセル値を予測
することで決定される。
【0046】JPEG圧縮等の所定の圧縮アルゴリズム
は、データを五点形格子ではなく、通常の長方形の格子
に配置するときに最もよく動作する。図12に示されて
いるように、緑の低速ピクセルは、JPEG圧縮で理想
的な長方形の格子を構成する。図13は、緑の高速ピク
セルも、JPEG圧縮に理想的な長方形の格子を構成す
ることを示している。図14は、赤の低速ピクセルが五
点形の模様の構成することを示している。この模様は、
前述のように、高速ピクセル値を低速ピクセル値とは別
個に圧縮する場合は、いくつかの圧縮アルゴリズムで問
題を引き起こすことがある。例えば、技術的に一般に用
いられるJPEG圧縮は8×8ピクセル・ブロックを基
にしている。
【0047】説明した問題の可能な解決策の一つは、赤
の低速ピクセル値の一つおきの行(列)を選び、それら
を左(上)に2ピクセル移動させることである。これ
は、JPEG圧縮に適した長方形の格子上に赤の低速ピ
クセル値を配置する。この方法は直接的であるが、圧縮
効率を低下させる擬似空間周波数を生成するかもしれな
い。
【0048】この問題に対処する好ましい配置は、図1
5、16に示されている。その手順は、図17について
説明している。第一位置(図15に示したようにxが4
の整数倍より2大きく、yが4の整数倍より1大きい赤
のフォトサイトの位置)の赤の低速ピクセル値は、アレ
イ上に長方形の模様を形成し、ピクセル種類分離器31
6が他のピクセルの種類から別個に出力するものは別の
ピクセルの種類と考える。第一位置にあるこれらの赤の
低速ピクセル値は、ピクセル種類圧縮器322内で例え
ばJPEGの圧縮ルーチンに基づくブロックで圧縮す
る。なお、最初の8×8ピクセルのJPEGブロック
は、A/D変換器14から出力されるように、完全な解
像度から疎にサンプルしてダイナミックレンジを拡張し
た画像上の32×32ブロックに広がる。同様に、第二
位置(図16に示したようにxが4の整数倍で、yが4
の整数倍より3大きい位置)の赤の低速ピクセル値も、
ピクセル種類分離器316が他のピクセルの種類から別
個に出力する別のピクセル種類と考える。第二位置のこ
れらの赤の低速ピクセル値は、ピクセル種類圧縮器32
2でJPEG圧縮のような圧縮アルゴリズムに基づくブ
ロックで圧縮する。当業者には明らかなように、青の低
速ピクセル値、赤の高速ピクセル値および赤の低速ピク
セル値に対して同様の処理を行うことができる。次に、
圧縮器312の出力をサブイメージに圧縮し、サブイメ
ージは緑の低速ピクセルから一つ、緑の高速ピクセルか
ら一つ、赤の低速ピクセルから二つ、赤の高速ピクセル
から二つ、青の高速ピクセルから二つ、青の低速ピクセ
ルから二つ得られる。
【0049】カラーセンサ上で動作する圧縮器312の
好ましい動作モードは、色の差分値の圧縮に基づいて図
20に示した最善の画質の再構成を実現し、次にように
説明される。まず、ピクセル種類分離器316から出力
した緑の低速ピクセル値を、ピクセル種類圧縮器322
で所定の圧縮設定(例えば以降の処理で必要とされるピ
クセルの精度で決定したもの)を用いて圧縮する。次
に、ピクセル種類分離器316から出力した緑の高速ピ
クセル値を、ピクセル種類圧縮器322で同じかまたは
異なる圧縮設定(例えば、より小さなファイルサイズを
実現する高い割合の圧縮)で圧縮する。次に、ピクセル
種類分離器316から出力した赤の低速ピクセル値の各
々に対して、ピクセル種類補間器326で隣接する緑の
低速ピクセル値を用いて、対応する緑の低速ピクセル値
を補間する。なお、ピクセル種類補間器326は、ピク
セル種類分離器316から出力するような所定のピクセ
ル種類の元のピクセル値を入力しても、より高精度の場
合はピクセル種類補間器326は、圧縮したピクセル種
類をピクセル種類復元器324で復元することで生成し
た、復元したピクセル種類値を入力してもよい。次に、
赤の低速ピクセル値と、補間した緑の低速ピクセル値の
間の差分画像を形成して、得られる差分画像をピクセル
種類圧縮器322で圧縮する。同様に、あらゆる赤の高
速ピクセル位置で、隣接する緑の高速ピクセル値を用い
て、対応する緑の高速ピクセル値をピクセル種類補間器
326で補間し、赤の高速ピクセル値と、補間した緑の
高速ピクセル値の間の差分画像を形成してピクセル種類
圧縮器322で圧縮する。最後に、同じ処理を低速およ
び青の高速ピクセル値に対して繰り返し、対応する緑の
低速または高速の隣接値を用いて、緑の低速および高速
ピクセル値を補間し、対応する青の低速または高速ピク
セル値から差し引き、得られる差分画像を圧縮する。
【0050】この時点で、カラー画像は圧縮した六つの
サブイメージに分解され、六つの圧縮したデジタル画像
を形成する。図11に示したCFA模様に基づいて、こ
れら六つのサブイメージは画像の1/4ピクセルを構成
する緑の低速サブイメージ、画像の1/4ピクセルを構
成する緑の高速サブイメージ、あらゆるピクセルが赤の
低速値と隣接する緑の低速値に基づく、対応する補間し
た緑の低速値の差であり画像の1/8ピクセルを構成す
る赤の低速差分サブイメージ、あらゆるピクセル値が赤
の高速値と隣接する緑の高速値に基づく、対応する補間
した緑の高速値の差であり画像の1/8ピクセルを構成
する赤の高速差分サブイメージ、あらゆるピクセルが青
の低速値と隣接する緑の低速値に基づく、対応する補間
した緑の低速値の差であり画像の1/8ピクセルを構成
する青の低速差分サブイメージ、および最後にあらゆる
ピクセルが青の高速値と隣接する緑の高速値に基づく、
対応する補間した緑の高速値の差であり画像の1/8ピ
クセルを構成する青の高速差分サブイメージである。
【0051】補間した緑のピクセル値と、赤または青の
ピクセル値の間の違いを圧縮するこの方法は、赤、緑、
および青の値が結果的に各ピクセルの位置で必要とされ
ることが期待されるので好ましい。差分画像のピクセル
の差分値は、例えば、コーク(Cok)の同一出願人に
よる米国特許第4,642,678号、公告日1987
年2月10日に記載されているように、これらの別のピ
クセル値の計算で直接用いることができる。
【0052】当業者には明らかなように、この基本的な
主題における変形態様は、ここに開示されているものに
基づいて可能である。例えば、緑の低速ピクセルからな
る第一サブイメージを圧縮した後で、緑の低速ピクセル
値の実際の値、または復元(再構成)した緑の低速ピク
セル値のいずれかを用いて、緑の高速ピクセル値を予測
することができる。従って、緑の高速ピクセル値を圧縮
するする代わりに、緑の高速ピクセル値と、それらの予
測した値の間の差である差分画像が圧縮される。同様
に、サブイメージ3〜6の構成で用いられる、補間した
緑の低速および高速ピクセル値を実際の値の代わりに、
復元(再構成)した緑の低速または高速ピクセル値に基
づかせることができる。最後に、赤の低速および高速サ
ブイメージ(サブイメージ3、4)は、単一のファイル
または二つの別個のファイルとして圧縮できる。同様
に、青の低速および高速差分サブイメージ(サブイメー
ジ5、6)も、単一のファイルまたは二つの別個のファ
イルとして圧縮できる。
【図面の簡単な説明】
【図1】 この発明によるレンジを拡張した撮像素子と
デジタル画像処理器を用いるデジタル撮像システムのブ
ロック図である。
【図2】 小型レンズのアレイを用いて所定のフォトサ
イトの応答を変更するインタライン型撮像素子の断面図
である。
【図3】 金属マスクを用いて所定のフォトサイトの応
答を変更する全フレーム撮像素子の断面図である。
【図4】 高速フォトサイトと低速フォトサイトの応答
を示すグラフである。
【図5】 ニュートラル・デンシティ・フィルタのアレ
イを用いて所定のフォトサイトの応答を変更する撮像素
子の断面図である。
【図6】 全整色撮像素子上の低速フォトサイトと高速
フォトサイトの配置を示す図である。
【図7】 カラー撮像素子上の低速フォトサイトと高速
フォトサイトの配置を示す図である。
【図8】 全整色撮像素子上の低速フォトサイトと高速
フォトサイトの配置を示す図である。
【図9】 低速偶数フォトサイトの配置を示す図であ
る。
【図10】 低速奇数フォトサイトの配置を示す図であ
る。
【図11】 カラー撮像素子上の低速フォトサイトと高
速フォトサイトの配置を示す図である。
【図12】 緑の低速フォトサイトに応じてサンプルし
たピクセルの配置を示す図である。
【図13】 緑の高速フォトサイトに応じてサンプルし
たピクセルの配置を示す図である。
【図14】 赤の低速フォトサイトに応じてサンプルし
たピクセルの配置を示す図である。
【図15】 第一組の赤の低速フォトサイトに応じてサ
ンプルしたピクセルの配置を示す図である。
【図16】 第二組の赤の低速フォトサイトに応じてサ
ンプルしたピクセルの配置を示す図である。
【図17】 この発明による第二の圧縮器のブロック図
である。
【図18】 この発明による第三の圧縮器のブロック図
である。
【図19】 この発明による第四の圧縮器のブロック図
である。
【図20】 この発明による好ましい圧縮器のブロック
図である。
【符号の説明】
2 レンズ、6 光学的ローパス・フィルタ、10 撮
像素子、14 A/D変換器、28 低速フォトサイ
ト、30 高速フォトサイト、32 赤の低速フォトサ
イト、34 緑の低速フォトサイト、36 青の低速フ
ォトサイト、38赤の高速フォトサイト、40 緑の高
速フォトサイト、42 青の高速フォトサイト、51
高速小型レンズ、52 位置、53 カラーフィルタア
レイ、54 遮光マスク部、55 光電性領域、56
大開口部、57 小開口部、58ニュートラル・デンシ
ティ・フィルタ層、59 低速ニュートラル・デンシテ
ィ・フィルタ、312 圧縮器、314 復元器、31
6 ピクセル種類分離器、320 予測器、322 ピ
クセル種類圧縮器、324 ピクセル種類復元器、32
6 ピクセル種類補間器。
───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.7 識別記号 FI テーマコート゛(参考) H04N 9/07 H01L 27/14 B 5C078 (72)発明者 エドワード ビー ジンデル アメリカ合衆国 ニューヨーク州 ロチェ スター ボニー ブレー アベニュー 394 (72)発明者 ロバート ティー グレイ アメリカ合衆国 ニューヨーク州 ロチェ スター フランクランド ロード 225 Fターム(参考) 4M118 AA02 AA10 AB01 BA13 CA01 FA06 GB03 GC08 GC14 GD04 5C022 AC42 AC69 5C024 AX01 BX01 CX46 CY45 EX43 EX51 GX21 GY01 HX01 5C051 AA01 BA03 DA06 DB01 DB08 DB22 DB23 DC02 DC03 DC07 DE02 DE15 EA01 FA00 5C065 AA01 AA03 BB48 CC01 DD02 EE03 5C078 AA04 BA21 CA01 DA00 DA01 DB04 EA00

Claims (1)

    【特許請求の範囲】
  1. 【請求項1】 ある照射に対して所定の応答を備え高速
    ピクセル値を生成する高速フォトサイトと、同じ照射に
    対して低速応答を備え低速ピクセル値を生成する低速フ
    ォトサイトを有し、疎にサンプルしてダイナミックレン
    ジを拡張した撮像素子によって生成され、完全な解像度
    から疎にサンプルしてダイナミックレンジを拡張した画
    像から圧縮した画像を生成する方法であって、 a)完全な解像度から疎にサンプルしてダイナミックレ
    ンジを拡張した画像を提供し、 b)前記完全な解像度から疎にサンプルした画像を、高
    速ピクセル値だけを有する高速画像と低速ピクセル値だ
    けを有する低速画像に分け、 c)前記高速画像と低速画像を別個に圧縮する、 各ステップを有する方法。
JP2001330235A 2000-11-21 2001-10-29 画像圧縮方法 Expired - Fee Related JP3968121B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US09/718,887 US6765611B1 (en) 2000-11-21 2000-11-21 Method for compressing an image from a sparsely sampled extended dynamic range image sensing device
US09/718,887 2000-11-21

Publications (2)

Publication Number Publication Date
JP2002204399A true JP2002204399A (ja) 2002-07-19
JP3968121B2 JP3968121B2 (ja) 2007-08-29

Family

ID=24887956

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001330235A Expired - Fee Related JP3968121B2 (ja) 2000-11-21 2001-10-29 画像圧縮方法

Country Status (4)

Country Link
US (1) US6765611B1 (ja)
EP (1) EP1209919B1 (ja)
JP (1) JP3968121B2 (ja)
DE (1) DE60113949T2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005259750A (ja) * 2004-03-09 2005-09-22 Fuji Film Microdevices Co Ltd 多板式カラー固体撮像装置及びデジタルカメラ
JP2008514134A (ja) * 2004-09-22 2008-05-01 イーストマン コダック カンパニー 有効ダイナミック・レンジの拡張

Families Citing this family (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4228699B2 (ja) * 2001-01-09 2009-02-25 ソニー株式会社 撮像装置、および撮像素子
EP2768223B8 (en) * 2001-01-09 2016-11-09 Sony Semiconductor Solutions Corporation Image pick up device
WO2002056584A1 (en) * 2001-01-11 2002-07-18 Smal Camera Technologies Adaptive sensitivity control, on a pixel-by-pixel basis, for a digital imager
US7088388B2 (en) * 2001-02-08 2006-08-08 Eastman Kodak Company Method and apparatus for calibrating a sensor for highlights and for processing highlights
US8120690B2 (en) * 2001-04-12 2012-02-21 Nikon Corporation Imaging device
US6924841B2 (en) * 2001-05-02 2005-08-02 Agilent Technologies, Inc. System and method for capturing color images that extends the dynamic range of an image sensor using first and second groups of pixels
JP2004048561A (ja) * 2002-07-15 2004-02-12 Fuji Photo Film Co Ltd 撮像装置及び測光装置
US6906719B2 (en) * 2002-10-12 2005-06-14 International Business Machines Corporation System and method for content-based querying using video compression format
JP3768182B2 (ja) * 2002-10-23 2006-04-19 三洋電機株式会社 電子カメラ
US7327504B2 (en) * 2002-12-06 2008-02-05 Eastman Kodak Company Method of detecting clipped image pixels
JP4025207B2 (ja) * 2003-01-17 2007-12-19 富士フイルム株式会社 固体撮像素子及びデジタルカメラ
JP4279562B2 (ja) * 2003-01-17 2009-06-17 富士フイルム株式会社 固体撮像装置の制御方法
US7430011B2 (en) * 2003-01-22 2008-09-30 Omnivision Technologies, Inc. Image sensor having dual automatic exposure control
US7446812B2 (en) * 2004-01-13 2008-11-04 Micron Technology, Inc. Wide dynamic range operations for imaging
US7769108B1 (en) 2004-12-17 2010-08-03 The United States Of America As Represented By The Secretary Of The Air Force Digital receiver instantaneous dynamic range enhancement
US8139130B2 (en) 2005-07-28 2012-03-20 Omnivision Technologies, Inc. Image sensor with improved light sensitivity
US8274715B2 (en) * 2005-07-28 2012-09-25 Omnivision Technologies, Inc. Processing color and panchromatic pixels
US7916362B2 (en) 2006-05-22 2011-03-29 Eastman Kodak Company Image sensor with improved light sensitivity
US8031258B2 (en) 2006-10-04 2011-10-04 Omnivision Technologies, Inc. Providing multiple video signals from single sensor
US7893976B2 (en) * 2006-12-01 2011-02-22 Eastman Kodak Company Light sensitivity in image sensors
US7825969B2 (en) * 2006-12-15 2010-11-02 Nokia Corporation Image stabilization using multi-exposure pattern
US7940311B2 (en) * 2007-10-03 2011-05-10 Nokia Corporation Multi-exposure pattern for enhancing dynamic range of images
US8279308B1 (en) 2009-07-30 2012-10-02 Adobe Systems Incorporated Optimized log encoding of image data
US9191556B2 (en) * 2011-05-19 2015-11-17 Foveon, Inc. Imaging array having photodiodes with different light sensitivities and associated image restoration methods
JP6041500B2 (ja) * 2012-03-01 2016-12-07 キヤノン株式会社 撮像装置、撮像システム、撮像装置の駆動方法、撮像システムの駆動方法
US20230098691A1 (en) * 2021-09-29 2023-03-30 Tencent America LLC Techniques for constraint flag signaling for range extension with extended precision

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03104386A (ja) * 1989-09-18 1991-05-01 Nec Corp 高品質ビデオカメラ
JPH0564083A (ja) * 1991-08-30 1993-03-12 Fuji Photo Film Co Ltd 固体電子撮像装置
JPH07115643A (ja) * 1993-10-19 1995-05-02 Toyota Motor Corp 車載用撮像装置
JPH09219824A (ja) * 1996-02-09 1997-08-19 Sony Corp 固体撮像装置
JPH1042182A (ja) * 1996-07-26 1998-02-13 Canon Inc 撮像装置
JP2000188717A (ja) * 1998-12-21 2000-07-04 Sony Corp 撮像方法及び撮像装置、画像処理方法及び画像処理装置
JP2001054009A (ja) * 1999-08-10 2001-02-23 Fuji Photo Film Co Ltd 撮像装置および撮像制御方法

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3971065A (en) 1975-03-05 1976-07-20 Eastman Kodak Company Color imaging array
US4667092A (en) 1982-12-28 1987-05-19 Nec Corporation Solid-state image device with resin lens and resin contact layer
US4642678A (en) 1984-09-10 1987-02-10 Eastman Kodak Company Signal processing method and apparatus for producing interpolated chrominance values in a sampled color image signal
US5065229A (en) 1989-07-24 1991-11-12 Eastman Kodak Company Compression method and apparatus for single-sensor color imaging systems
US5053861A (en) 1989-07-24 1991-10-01 Eastman Kodak Company Compression method and apparatus for single-sensor color imaging systems
US5247366A (en) * 1989-08-02 1993-09-21 I Sight Ltd. Color wide dynamic range camera
JPH05183441A (ja) * 1992-01-06 1993-07-23 Canon Inc 画像処理装置及びその方法
US5221848A (en) 1992-04-30 1993-06-22 Eastman Kodak Company High dynamic range film digitizer and method of operating the same
JPH06315068A (ja) * 1993-04-28 1994-11-08 Xerox Corp 短期および長期の積分周期を有するラスタ入力スキャナ
US5412427A (en) * 1993-10-29 1995-05-02 Eastman Kodak Company Electronic camera utilizing image compression feedback for improved color processing
JP3666900B2 (ja) * 1994-04-25 2005-06-29 キヤノン株式会社 撮像装置および撮像方法
US6040858A (en) * 1994-11-18 2000-03-21 Canon Kabushiki Kaisha Method and apparatus for expanding the dynamic range of sensed color images
US5652621A (en) 1996-02-23 1997-07-29 Eastman Kodak Company Adaptive color plane interpolation in single sensor color electronic camera
US5956467A (en) * 1996-12-17 1999-09-21 Eastman Kodak Company Encoding color image data for multipass color printers
JP4018820B2 (ja) * 1998-10-12 2007-12-05 富士フイルム株式会社 固体撮像装置および信号読出し方法
JP4129338B2 (ja) * 1999-04-30 2008-08-06 オリンパス株式会社 カラー撮像素子及び撮像装置
US6646246B1 (en) * 2000-11-21 2003-11-11 Eastman Kodak Company Method and system of noise removal for a sparsely sampled extended dynamic range image sensing device
US6943831B2 (en) * 2001-01-24 2005-09-13 Eastman Kodak Company Method and apparatus to extend the effective dynamic range of an image sensing device and use residual images

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03104386A (ja) * 1989-09-18 1991-05-01 Nec Corp 高品質ビデオカメラ
JPH0564083A (ja) * 1991-08-30 1993-03-12 Fuji Photo Film Co Ltd 固体電子撮像装置
JPH07115643A (ja) * 1993-10-19 1995-05-02 Toyota Motor Corp 車載用撮像装置
JPH09219824A (ja) * 1996-02-09 1997-08-19 Sony Corp 固体撮像装置
JPH1042182A (ja) * 1996-07-26 1998-02-13 Canon Inc 撮像装置
JP2000188717A (ja) * 1998-12-21 2000-07-04 Sony Corp 撮像方法及び撮像装置、画像処理方法及び画像処理装置
JP2001054009A (ja) * 1999-08-10 2001-02-23 Fuji Photo Film Co Ltd 撮像装置および撮像制御方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005259750A (ja) * 2004-03-09 2005-09-22 Fuji Film Microdevices Co Ltd 多板式カラー固体撮像装置及びデジタルカメラ
JP2008514134A (ja) * 2004-09-22 2008-05-01 イーストマン コダック カンパニー 有効ダイナミック・レンジの拡張

Also Published As

Publication number Publication date
US6765611B1 (en) 2004-07-20
EP1209919A3 (en) 2004-09-15
EP1209919A2 (en) 2002-05-29
JP3968121B2 (ja) 2007-08-29
DE60113949D1 (de) 2006-02-23
EP1209919B1 (en) 2005-10-12
DE60113949T2 (de) 2006-07-06

Similar Documents

Publication Publication Date Title
JP3968121B2 (ja) 画像圧縮方法
JP4233257B2 (ja) 撮像装置の効果的ダイナミックレンジを拡張する方法及び装置並びに残存画像の使用
JP4058257B2 (ja) 撮像素子におけるノイズ低減方法
JP3946492B2 (ja) 低解像度イメージの生成方法
US7756330B2 (en) Producing an extended dynamic range digital image
EP2193656B1 (en) Multi-exposure pattern for enhancing dynamic range of images
US6813046B1 (en) Method and apparatus for exposure control for a sparsely sampled extended dynamic range image sensing device
US6909461B1 (en) Method and apparatus to extend the effective dynamic range of an image sensing device
US7697045B2 (en) Method and apparatus to extend the effective dynamic range of an image sensing device
JP2002369212A (ja) カラー及び輝度用の受光体を有する粗にサンプリングされたイメージ感知ディバイス
JP4246428B2 (ja) トーンスケール関数の生成方法
US6034724A (en) Imaging device utilizing a line-crawling correction coefficient
EP4228254A1 (en) Image processing method, camera assembly, and mobile terminal

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040930

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20040930

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070508

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070602

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 3968121

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110608

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120608

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120608

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130608

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees