JPWO2004068862A1 - 高解像度カラー画像生成方法、高解像度カラー画像生成装置及び高解像度カラー画像生成プログラム - Google Patents
高解像度カラー画像生成方法、高解像度カラー画像生成装置及び高解像度カラー画像生成プログラム Download PDFInfo
- Publication number
- JPWO2004068862A1 JPWO2004068862A1 JP2004567564A JP2004567564A JPWO2004068862A1 JP WO2004068862 A1 JPWO2004068862 A1 JP WO2004068862A1 JP 2004567564 A JP2004567564 A JP 2004567564A JP 2004567564 A JP2004567564 A JP 2004567564A JP WO2004068862 A1 JPWO2004068862 A1 JP WO2004068862A1
- Authority
- JP
- Japan
- Prior art keywords
- image
- resolution
- color image
- color
- resolution color
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 104
- 238000012545 processing Methods 0.000 claims description 32
- 238000011156 evaluation Methods 0.000 claims description 20
- 238000005457 optimization Methods 0.000 claims description 20
- 238000003384 imaging method Methods 0.000 claims description 19
- 239000011159 matrix material Substances 0.000 claims description 19
- 230000008569 process Effects 0.000 claims description 17
- 238000006073 displacement reaction Methods 0.000 claims description 14
- 238000005070 sampling Methods 0.000 claims description 13
- 239000013598 vector Substances 0.000 claims description 13
- 239000003086 colorant Substances 0.000 claims description 11
- 230000003044 adaptive effect Effects 0.000 claims description 7
- 230000015572 biosynthetic process Effects 0.000 claims description 6
- 230000008859 change Effects 0.000 claims description 6
- 230000008450 motivation Effects 0.000 abstract 1
- 238000012795 verification Methods 0.000 abstract 1
- 230000006870 function Effects 0.000 description 37
- 238000001444 catalytic combustion detection Methods 0.000 description 29
- 238000002474 experimental method Methods 0.000 description 15
- 238000010586 diagram Methods 0.000 description 14
- 230000009466 transformation Effects 0.000 description 13
- 230000000694 effects Effects 0.000 description 9
- 238000004364 calculation method Methods 0.000 description 8
- 230000003287 optical effect Effects 0.000 description 8
- 238000004088 simulation Methods 0.000 description 7
- 238000013459 approach Methods 0.000 description 6
- 238000006243 chemical reaction Methods 0.000 description 6
- 238000007796 conventional method Methods 0.000 description 5
- 230000003595 spectral effect Effects 0.000 description 5
- 238000002945 steepest descent method Methods 0.000 description 4
- 238000009499 grossing Methods 0.000 description 3
- 230000000007 visual effect Effects 0.000 description 3
- 241000898323 Microtus irani Species 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 230000006866 deterioration Effects 0.000 description 2
- 230000010354 integration Effects 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 239000000203 mixture Substances 0.000 description 2
- 238000003672 processing method Methods 0.000 description 2
- 230000035945 sensitivity Effects 0.000 description 2
- 238000001228 spectrum Methods 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000001276 controlling effect Effects 0.000 description 1
- 238000005314 correlation function Methods 0.000 description 1
- 230000002950 deficient Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000003708 edge detection Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 238000009472 formulation Methods 0.000 description 1
- 238000007429 general method Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000000873 masking effect Effects 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 238000004321 preservation Methods 0.000 description 1
- 238000007639 printing Methods 0.000 description 1
- 238000011158 quantitative evaluation Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000001105 regulatory effect Effects 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 238000000844 transformation Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
- H04N23/843—Demosaicing, e.g. interpolating colour pixel values
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/134—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N2209/00—Details of colour television systems
- H04N2209/04—Picture signal generators
- H04N2209/041—Picture signal generators using solid-state devices
- H04N2209/042—Picture signal generators using solid-state devices having a single pick-up sensor
- H04N2209/045—Picture signal generators using solid-state devices having a single pick-up sensor using mosaic colour filter
- H04N2209/046—Colour interpolation to calculate the missing colour values
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Color Television Image Signal Generators (AREA)
Abstract
Description
完全なカラー画像を生成するために、欠けている色チャネルは色モザイク状の生データ(RAW Data)から推定する必要がある。一般に、この色復元処理をデモザイキング(Demosaicking)と呼ぶ。最も簡単なデモザイキング方法としては、各色チャネル毎に線形補間を行うことである。より複雑なデモザイキング方法(参考文献[1]〜[2]参照)も報告されており、線形補間と比較して画像復元の精度が高い。
一般に、デモザイキングにおいて、処理結果のカラー画像に偽色が発生することが主な問題となる。画像を光学ローパスフィルタに通すことにより偽色を低減させることはできるが、その結果帯域の制限を受けることになるといった問題点がある。特に、画像を高解像度の画面に拡大表示する場合、帯域制限による画質の低下が顕著となるといった問題が生じてしまう。
デモザイキング方法によって生成されたカラー画像の解像度はCCDの物理的解像度に等しい。例えば、表示、印刷や後処理等の場合には、より高い解像度が必要になってくる。このような要望に対する従来の解決方法としては補間である。
しかしながら、より高い解像度を有するCCDによって得られた画像と比較すると、補間は結果的に品質の低い画像をもたらす。それは補間処理によって実質的に情報が付加されるわけではないことに起因する。補間は画像の詳細を復元できないといった問題を有する。換言すれば、補間は高周波数信号を復元できない。
超解像(Super−resolution)(参考文献[3]〜[5]参照)は補間とは異なる方法であり、超解像は撮影されたシーンに含まれる高周波を詳細に復元することができる。超解像は、複数の低解像度画像から高解像度画像を合成する画像処理技術である。文献における超解像の各種方法の中で、TsayとHuangが提案した周波数ドメインの手法(参考文献[3]参照)は、初めて超解像の理論を提案した。Pelegら(参考文献[4]参照)は、繰返し逆投影法に基づいた空間ドメインの手法を提案した。まず第一に、高解像度画像の撮像過程をシミュレートすることで測定値を生成し、また、シミュレーション誤差は一時的な画像推測誤差を更新するために使用される。
これまでに、超解像はグレー・スケール画像或いはフル・カラー画像に適用されてきたが、単板CCDから得られた生データにまだ適用されていない。デモザイキングと超解像を順次実行することで高解像度カラー画像が得られるが、このような方法ではデモザイキングされた画像で見られる偽色及びぼやけ効果で損害を受ける。ユーザが利用できるデータはデモザイキングされた(その上圧縮された)画像であるために、このようなことは民生カメラを使用した場合によく見られることである。
本発明は上述のような事情よりなされたものであり、本発明の目的は、上述制限を克服することができ、且つ、CFAで覆われたCCDによって撮像された生の色モザイク画像を直接利用し、単板CCD配列から高解像度カラー画像を生成できるようにした、高解像度カラー画像生成方法、高解像度カラー画像生成装置及び高解像度カラー画像生成プログラムを提供するものである。
本発明は、CCDの物理的解像度より高い空間解像度を提供する単一ステップの処理を特徴とする。従って、本発明はデモザイキングと解像度増大との効果的な統合を可能にする。
また、本発明は、前記評価関数は、前記入力画像から前記高解像度カラー画像の生成を表す画像形成モデルを用いて、前記入力画像に対する推定画像である前記高解像度カラー画像の忠実度を評価する第1項と、前記入力画像内の隣接する画素値が急激に変化する前記推定画像に対してペナルティーを与えることにより、前記推定画像における滑らかさを評価する第2項と、前記入力画像内が色差成分が急激に変化する前記推定画像に対してペナルティーを与えることにより、前記推定画像の色差の滑らかさを評価する第3項とより構成され、前記第2項は保存されたエッジを有する滑らかな推定画像を得る役割を果たし、前記第3項は局所的色差連続性と保存されたエッジを有する滑らかな推定画像を得る役割を果たすようにすることにより、或いは、前記入力画像間の幾何学的変換を前記高解像度カラー画像と同時に推定するステップを更に有するようにすることによってより効果的に達成される。
さらに、本発明に係る高解像度カラー画像生成装置は、本発明の高解像度カラー画像生成方法を用いた、単板撮像素子を利用した単板式画像撮像装置であることによって達成される。
第2図は本発明の全体的な処理の流れ図である。
第3図は、第2図における目的関数の繰り返し最小化処理に用いられる最急降下法を説明するための流れ図である。
第4図はエッジモデルのR成分(実線)、G成分(破線)、B成分(点線)を説明するための図である。
第5図は色差に関するエネルギー関数の性質を示す図である。
第6図は本発明の画像処理方法を利用した画像撮影装置の構成図である。
第7図は第6図の信号処理部の詳細図である。
第8図は本発明において実験に使用された画像を示す図である。
第9図は本発明を用いて生成された画像を示す図である。
第10図は従来の方法を用いて生成された画像を示す図である。
第11図はRMS誤差と入力画像の枚数との関係を示す図である。
第12図は実験に使用される参照画像を示す図である。
第13図は模擬された、実験に使用される入力画像を示す図である。
第14図は線形補間を用いて生成された画像を示す図である。
第15図は従来のデモザイキング方法を用いて生成された画像を示す図である。
第16図は本発明を用いて生成された画像を示す図である。
第17図は模擬された、実験に使用される入力画像を示す図である。
第18図は線形補間を用いて生成された画像を示す図である。
第19図は従来のデモザイキング方法を用いて生成された画像を示す図である。
第20図は本発明を用いて生成された画像を示す図である。
第21図は、文書画像による実験結果を示す図である。
第22図は、自然画像による実験結果を示す図である。
<1>観測モデル
<1−1>はじめに
例えばデジタル・カメラのような画像撮像装置に撮像された1枚または複数枚の生の画像を考える。1枚の撮像された画像は、絶対座標系に対する幾何学的変換、光学系とCCDの開口によるぼやけ効果、ダウン・サンプリング、及びCFAマスキングが真の画像(つまり撮影されたシーン)に対し施された結果である。
<1−2>画像形成モデル
ここでCFAの効果を考慮せずにモデリングを開始する。この節においてグレー・スケール画像を考慮する。
画像撮像系における画像形成モデルは、入力画像は連続的で、一方出力データ(ここで言う“出力データ”はCFAマスクされた生の画像を意味する)は離散的であるということで、連続−離散モデルによって表すことができる。
画像撮像系用の画像形成モデルは下記数1によって表される。
数1における積分は(x,y)に関して行われる。
(x,y)から(ξ,η)への座標変換を考える。ここで、(ξ,η)は高解像度画像が定義される座標である。
例えば、パラメーター
座標変換(x,y)=s(ξ,η)を使うと、前記数1は下記数5になる。
数6は行列ベクトル記法によって表すことができる。画像u(i1,i2)とz(j1,j2)に対して辞書式記法を使うと、数6は下記数8になる。
H(s)はuとzを関連付けるh(i1,i2,j1,j2;s)の行列表現である。
<1−3>色フィルタ配列(CFA)
カラー画像は複数の2次元信号の色チャネルによって表すことができる。赤(Red)、緑(Green)、青(Blue)は、例えば3CCDデジタルスチルカメラのような民生カメラによく用いられる。
上述した画像撮像系用の画像形成モデル(本発明において、撮像モデルとも称する)をカラー画像に拡張する。数8に表されるモデルは1つの色チャネル用のモデルであることが考えられる。従って、各色チャネル用の画像形成モデルは同様に表される:
単板CCDカメラにおいて、カラー画像はCFAによってマスクされて色モザイクを生成する。第1図(a)において、その中の1枚の画像はベイヤー・パターン(Bayer Pattern)としてよく知られているCFAを示す。この処理はCFAによってカラー画像uに適用されるサンプリングとしてモデル化される。
要素毎に1或いは0を含む1つの2次元配列を考える。1という値を有する要素は色c∈{R,G,B}に対して感度を有する。次の配列はベイヤー・パターン用のサンプリング配列を示す。つまり、この感度配列は画像サイズが5×5のベイヤー・パターンを表している。
mR(i,j),mG(i,j),mB(i,j)のベクトル表現を考えると、下記数13になる。
以上より、CFAによるサンプリング・モデルは、フル・カラー画像ucに行列を作用させることによって与えられる。
単板CCDで撮像された、一連の生の色モザイク画像を考える。数16に対し幾何的変換を考慮した表現を使用することができる:
数17において、ベクトルのスタック表現を考えると、下記数18になる。
ベクトルykはzから観察されない画素値を含む。ここで留意すべきはAkの有効な行とはzの運動を補償した要素から観測されるykの要素に対応する行であることである。残りの無効な行は取り除かれ、縮小された方程式の系が生成される。従って、この処理は入力データとして意味をなさない要素を取り除く。
いま、M枚の入力画像を有する複数の画像の撮像モデルを表す一連の式があるとする:
<2>問題の定式化
<2−1>はじめに
本発明は、イメージセンサ(本例では単板CCD)と色フィルタ配列とを用いる画像撮像装置で撮像された生の色モザイク画像を入力とし、そして、出力としてフル・カラー高解像度画像を直接に生成することを可能にした斬新な高解像度カラー画像生成方法、生成装置及び生成プログラムを提供することを最大な目的としている。このような直接的方法を採用する本発明における重要な技術思想とは、色チャネル間の相関関係についての先験的知識を画像復元問題に組み入れるところである。
本発明において、マルチ・チャネル拘束は、色チャネル内の区分的に滑らかなデータをモデル化するために演算子を使用し、また、クロス・チャネルの相関関係を明らかにするためにスペクトル・エネルギー関数を包含する。
<2−2>逆問題としての画像復元
本発明の画像生成方法(画像復元方法とも称する)は、低解像度画像或いは一連の数枚の低解像度画像から高解像度画像を得ることを目指す。ところが、このようなことはよく不良設定逆問題になる。従って、このアプリケーションには先験的拘束を包含することが欠かせない。これは限られたデータ或いは質の悪いデータを条件としての容認できる画像推定を確実なものにする。
前節で検討された順方向観測モデルを用いて、ztに対しての推定画像は逆問題を解くことによって得られる。逆問題を解くことに適切化された最適化アプローチを適用すると、下記数21が得られる。
空間とスペクトルの相関関係を表す、2つの項から成るエネルギー関数は次のようになる。
<2−3>空間エネルギー関数
一般に、色チャネル毎に区分的に滑らかさを仮定することができる。この仮定を空間エネルギー関数に組み入れると、滑らかな信号ほど、一層高い優先が得られる。
次のモデルは空間の相関関係を表す:
数24に表される関数は空間アクティビティを表す。滑らかな画像において、f2(z)は小さな値であり、一方、エッジを有する画像に対して、f2(z)は大きい。f2(z)は画像内の不連続性に対してペナルティーを与える。このモデルで、滑らかな信号は空間仮定と合致して高いパフォーマンスを有する。
<2−3−1>エッジ保存演算子
上述した適切化モデルは滑らかさの拘束としての機能を果たす。この拘束は不必要に平滑化された推定画像をもたらす。この問題に対処するために、画像推定において、エッジ保存拘束を使用することができる。
画像内のエッジ方向を提供するエッジ検出関数を考える。異なった方向に二次微分を適用し、画素毎に検出関数を最小化する方向を選ぶことによって、エッジ方向マップを生成する。
よって、画素毎にエッジ方向に二次微分を評価する適応的演算子は、エッジ保存拘束としての機能を果たし、数24を置き換えることができる。
<2−4>スペクトル・エネルギー関数
各色平面は高い関連があって相互に位置が合ったオブジェクトのエッジを包含する。この相関関係は別の色空間によって解釈されることができる。輝度と色差に分解された色空間を考える:
α=1/3,β=1/3,γ=1/3
ベイヤーCFAパターンが使用された具体的な例において、CFAにおける最も多くの情報を包含する緑のチャネルに重みを置くことができる。例えば、ベイヤーパターンにとって、係数はα=0,β=1,γ=0或いはα=1/4,β=1/2,γ=1/4になるように設定することができる。
数25と数26はRGB信号及び色差信号に関する次の変換を決定する。
これは結果的に色差信号が局所的連続性を持つような推定画像は一層高い優先が得られることをもたらす。望ましい推定画像を導き出すために、色空間変換における係数を修正することができる。
色差は輝度とRGB信号の差であるため(数25参照)、スペクトル・エネルギー関数はこれら信号間の相関関係を検出する。従って、スペクトル・エネルギー関数は、輝度と色差の間の相関特徴を考慮に入れ、また、色チャネル間信号処理に対して基盤を提供する。
ベイヤーCFAにとって、フィルタQのカーネルのウィンドウの大きさが3f×3fに設定された時に色相関関係拘束は適切に機能する。ここで、fは解像度拡大率である。使用できる入力画像の数が少ない際に、この処理は特に必要である。ウィンドウの大きさが適切に調整されない場合、偽色が現れる傾向がある。
空間エネルギー関数に利用されたエッジ保存演算子に類似したエッジ保存演算子も、スペクトル・エネルギー関数に使用されることができる。
<3>パラメーター推定及び最適化技術
<3−1>PSF推定
観測モデルを構築するために、上述した点広がり関数を求める必要がある。
画像撮像装置における光学系及びCCD開口の知識で、PSFが理論的に導き出されることができる。
エッジ画像或いはエッジ広がり関数を用いて実験的にPSFを推定することもできる。
PSFに対しての大まかな推定も可能で、結果としての推定画像を検査することでPSFに対しての一層良い推定をもたらす。
<3−2>動き推定
観察モデルにおける幾何学的変換skは、画像生成処理に先立って同定されなければならない。解像度拡大はサブピクセル精度を有する動き推定を必要とする。所望の解像度拡大率が大きいほど、このような要件は画像生成に制限を与える。
また、動き推定方法の計算効率及び信頼性は実装上重要な課題である。パラメーターの数の少ない簡単な動きモデルはこのような要件に適している。
補間に基づいたブロック・マッチング技術はサブピクセルの動き推定を提供する。よく知られた1つのアプローチは、画像データ自身を補間してからブロック・マッチング技術を適用する。もう1つのアプローチは、例えば誤差二乗和(SSD)、誤差絶対値和(SAD)や相互相関関数(CC)のようなマッチング基準を補間する。
清水らは斬新なサブピクセル・マッチング技術(EEC方法)(参考文献[6]参照)を提案した。該方法は本発明で使用されることができる。マッチング基準の補間に基づいた従来技術と比較して、EEC方法は推定誤差を低減することができる。推定誤差をキャンセルするために、該方法において逆位相推定が使用される。該方法のもう1つの長所とは、画像データ自身を補間するような方法と比較して、一層高い計算効率を有することである。
<3−3>最急降下最適化
数21より、高解像度推定画像は、次の目的関数(本発明では、この目的関数を評価関数とも称する)を最小化することによって得られる。
これは、大規模最適化問題として表され、システム行列の大きい寸法が原因で実装段階で問題が生じる。
繰り返し法はこの最適化によく適している。最急降下技術を使用することによって、高解像度画像に対して次の繰り返し更新が与えられる。
ここで、本実施例では、最適化技術として、最急降下法を用いたが、本発明で使用された最適化技術は、それに限ることなく、他の最適化技術を用いることも可能である。
<3−4>本発明の信号処理の流れ
第1図は本発明に用いられる信号処理の流れの一例を示している。第1図(a)は、ベイヤー色フィルタ配列を通して撮像された生の色モザイク画像の入力画像列を示す。第1図(a)に示されたこれらの入力画像列のデータから、本発明に係る高解像度カラー画像生成方法を用いて、第1図(b)に示された高解像度フル・カラー画像を生成する。
第2図において、本発明に係る高解像度カラー画像生成方法の全体的な処理の流れが詳細に示されている。まず、生の色モザイク画像列は単板CCDから得られる。次に、色チャネル毎に線形補間を適用する簡単なデモザイキングが行われる。そして、所定の色チャネル(本実施例では、緑チャネル)に対して動き推定が適用される。本実施例では、ベイヤー色フィルタ配列が用いられているので、所定の色チャネルは緑チャネルになるが、他のCFAを使用した場合、そのCFAに基づいて決められる他の色チャネルを用いることになる。
色空間変換後に、動き推定の代わりに輝度信号を使うことができる。推定された動きパラメータと指定された解像度拡大率fは、PSF及びCFAパターンと共に、システム行列Wを構築するのに使用されることができる。目的関数の繰り返し最小化処理は、高解像度推定画像の初期値z(0)を必要とするので、線形デモザイキング処理された1枚の入力画像が補間の準備的な処理を経て、アップサンプリングされて生成された高解像度画像をこの初期値z(0)とする。
最後に、推定画像の初期値は、目的関数の繰り返し最小化処理(本例では、第3図に詳細に述べられている最急降下法)を介して更新される。目的関数は2次式であるため、勾配の算出は簡単である。もし、推定
化処理によって得られる。
<4>高解像度カラー画像の合成
本発明のもう1つの実施例を以下のように開示する。
まず、上述した順方向観測モデルを元に、逆問題解析を行うことにより高解像度画像を推定する。正則化の項を付加した目的関数(本発明では評価関数とも称する)の最適化手法を用いると、推定すべき高解像度
目的関数の第二項は正則化項である。正則化項は、グレースケール画像の超解像で用いられてきた、信号の局所的な平滑性を評価する項をカラー信号に拡張した評価式と考えることができる。
一般に、自然画像ではRGB信号の各成分は強い正の相関を持ち、エッジ位置も一致していることが知られている。そのため、各色チャネルに対し独立な評価式を用いることは望ましくない。例えばRGB信号のそれぞれに対して(独立に)平滑化の効果を持つ評価式を用いると、色ずれが生じる。
この現象は、線形デモザイキングを施した画像に見られる偽色と同様な原因で生じる。すなわち、異なるサンプリング位置を持つ各色チャネルを独立に補間することで、RGB信号間の相関関係を大きく変化させることが原因となる。このことは、RAWデータの各色チャネルが3CCDのように密なサンプリングではないことに起因している。したがって、数35において複数の位置がずれた入力画像y1,…,yM、(M>2)が得られれば、密なサンプリングをすることと同等の効果が得られ、色ずれの発生は低減される。これは、事実上3CCDの画像を得ていることとほぼ同等であることからも明らかである。複数の位置がずれた入力画像が十分に得られ、数35がオーバー・デターミンド(over−determined)に近づくほど色ずれが低減されることになる。
しかし実際には、数35がオーバー・デターミンドであっても偽色が発生することが確認されている。その原因となるのは、各色チャネルに独立のノイズが入ることや、入力画像間の位置ずれの推定が不正確であることである。なお、本発明では色収差の影響による色ずれは考慮していない。
このような偽色の発生を抑えるには、RGBより相関の小さい色成分をもつような色空間を利用することが適切である。そこで、次のようなRGB空間からYCbCr空間への変換を考える。
まず、輝度に対してはエッジ保存型の非等方的平滑性条件を正則化の項に組み込むことで、被写体の構造が過度な平滑化により劣化することを防ぐ。このような要求を満たす平滑性条件として、エッジに沿う方向に平滑化する正則化演算子(参考文献[7]参照)を利用する。すなわち、各画素における方向D:{水平、垂直、対角方向(2通り)、方向なし(全方向均等)}への平滑性を評価するハイパス演算子Pd,d∈Dを用いて下記数38で表される。
一方、色差に対する正則化項は、等方的平滑性を考慮する。入力画像の枚数が少なく、数35が未知数に対してアンダー・デターミンド(under determined)になる場合、色差に対して異方的平滑性条件を与えると、真のエッジ方向の推定が困難となるためである。等方的ハイパスフィルタHを用いた次の正則化項を定義する。
数35がオーバー・デターミンドの場合でも、モーション推定の誤差や色チャネル独立のノイズに起因する偽色が発生するため、数39で表された上記の正則化項は、カラー画像の復元において重要な役割を果たす。
ハイパスフィルタのカットオフ周波数は、カラーフィルタのサンプリング間隔が最も粗い色チャネルの帯域に設定することで偽色を抑制することができる。複数の入力画像が与えられ、数35がオーバー・デターミンドに近づく場合にはより大きなカットオフ周波数を設定することで、色差の過剰な平滑化を抑制できる。なお、後述する実験では、ガウシアンハイパスフィルタ(つまり、周波数特性がH(u,v)=1−exp(−(u2+v2)/2σ2 c)で与えられるフィルタ)を用い、その標準偏差をカットオフ周波数とする正則化演算子を用いている。
上述の色差に対する正則化項が色チャネル間のエッジのずれを抑制する性質を持つことは、後述する実験により確かめられる。まず、画像中で2つの色の領域が接しているエッジ部分のモデルとして、次のような1次元のRGB信号を考える。
を表す。a1,a2,b1,b2は定数である。Dg,DbはそれぞれR成分に対するG成分、B成分のエッジ位置のずれ量を表す(第4図)。RGB間のエッジ位置が揃っている場合(Dg=Db=0)は2つの色の領域が接しているモデルとなるが、エッジ位置が微小にずれている場合(Dg≠0,Db≠0)は境界部に色ずれを生じることになる。
数40に表されるモデルのDg,Dbを変化させたときのf3(zCb,zCr)の評価値の変化を第5図に示す。定数は、(a1,a2,b1,b2)=(1.2,0.8,0.1,0.1)とした。第5図から、エッジの位置が完全に一致したときに正則化項の評価値が最小値をとることがわかる。このような正則化項の性質は、a1,a2>0(RGB信号が正の相関を持つとき成り立つ)なる任意のa1,a2,b1,b2に対して成り立つことが容易に確認することができる。
本発明の高解像度カラー画像生成方法を適用した画像撮像装置の構成例を第6図に示す。第6図に示されるように、本発明を適用した画像撮像装置は、レンズや光学ローパスフィルタからなる光学系と、色フィルタと、イメージセンサ(本例ではCCD撮像素子)と、撮像装置全体を駆動する駆動回路と、AD変換部と、信号処理部と、メモリとから構成される。
図6に示された画像撮像装置の動作はこのようになっている。先ず、光学系及び色フィルタによって色モザイク状の受光信号がCCDに入力される。次に、一定の時間連続的に撮影することにより、CCDにおいて受光信号の時系列が生成される。そして、これら色モザイク状の受光信号の時系列は、AD変換部において量子化された後に、メモリに記憶される。信号処理部において、複数の色モザイク信号y1,y2,…,yMは、マッチング処理及び超解像処理によって合成され、高解像度の結果
次に、第6図の信号処理部での信号処理の詳細を第7図に示す。ここでは、第7図を参照しながら、高解像度カラー画像を合成するための画像復元方法を以下のように説明する。
ステップ1:
入力となるRAW画像列y1,…,yMを取得する。
ステップ2:
CFAパターンの配置が未知の場合は、感度配列mc(i1,i2)のキャリブレーションを行う。
ステップ3:
入力RAW画像列を線形補間による単純なデモザイキングによりカラー化する。得られたカラー画像の輝度成分に対して、画像の位置ずれdk=[dxk,dyk]を推定する。
ステップ4:
所望の解像度倍率fを設定する。次に、数34の最適化を行う。本発明では、色々な最適化手法を用いる事が可能であるが、例えば、最適化手法として最急降下法を用いると、次のステップ5となる。
ステップ5:
n=0とする。基準となる入力画像一枚から線形補間により高解像度カラー画像を生成する。この画像を復元画像の初期値z(0)とする。
ステップ6:
画像z(n)の輝度成分のエッジ方向解析(参考文献[7]参照)より、正則化項f2(zY)の重みΛdを計算する。
ステップ7:
下記数41〜数44により画像z(n)を更新する。
ステップ8:
n=n+1と置き、ステップ6に戻る。
ステップ9:
ステップ6からステップ8までの繰り返し計算の終了条件としては、繰り返し計算の収束を判定するか、または予め定めた繰り返し回数で打ち切る。
また、上述したような本発明の高解像度カラー画像復元方法(画像生成方法)を更に拡張して、高解像度画像と画像間変位とを同時に推定することも可能になる。この同時最適化手法(つまり、同時推定法)は、入力画像間の変位の推定精度が充分でないときに有効な手法となる。この高解像度画像と画像間変位の同時推定法について以下のように説明する。
まず、評価関数f(z)は実際は高解像度画像と画像間変位の関数f(z,s)であるから、これらの未知数を同時に推定する最適化手法を用いることで、高解像度画像と画像間変位を高精度に推定することができる。
次に、高解像度画像と画像間変位とを同時に推定するために、つまり、同時最適化を実現するには、上述した繰り返し計算において、ステップ8の後に、下記ステップA、ステップBを加えればよい。
ステップA:
画像z(n+1)を固定し、下記数45により画像間変位sを推定する。
撮像モデルA(s(n))を更新し、A(s(n+1))とする。
<5>本発明の有効性を検証するための実験及び実験結果
<5−1>画像取得
本発明に係る高解像度カラー画像生成方法は、各画像間に僅かな異なった動きを有するエイリアシングを受けた複数の画像を必要とする。また、各画像は、画像生成が適用される重なり領域を有するべきである。このような入力画像を生成するために、例えば、わずかな震動でデジタル・スチル・カメラ(或いはデジタル・ビデオ・カメラ)を握ってシーンを連続的に撮影するのは好ましい。
また、文書のスチル画像を1枚撮影することも、本発明に係る高解像度カラー画像生成方法に対して有用な情報を提供する。文書画像が異なった位置に位置する同一の文字或いは単語を包含するので、これは異なった動きを有する複数の画像を撮影することに等しいと考えられる。
<5−2>シミュレーションによる評価
第8図(a)は、シミュレーションで用いた基準画像(参照画像とも称する)である。第8図(b)は、第8図(a)に示された基準画像からシミュレーションにより生成した生の色モザイク画像を示す。
第9図は、種々の条件での本発明に係る高解像度カラー画像生成方法による画像復元結果を示す。第9図(a)、(b)、(c)及び(d)は、入力画像の数Mと解像度拡大率fがそれぞれ異なった4枚の復元された画像を示す。第9図(a)、(c)の入力画像の数は1枚で、第9図(b)、(d)の入力画像の数は8枚である。また、第9図(a)、(b)の解像度拡大率は1で、第9図(c)、(d)の解像度拡大率は2である。本発明に係る高解像度カラー画像生成方法によって復元された画像において、高い空間周波数成分が忠実に復元されており、更に偽色の発生も抑制されていることが確認される。
本発明では、解像度拡大が必要とされず、また複数の画像が利用できるといった特別な場合は、マルチ・フレーム・デモザイキングと呼ばれる画像復元を行うことができる(第9図(b)参照)。また、本発明の実際の適用場合では、必ずしも複数の入力画像が得られるとは限らない。この場合も本発明に係る高解像度カラー画像生成方法の特殊なケースとして、1枚の入力画像から画像復元を行うことができる(第9図(a)、(c)参照)。
第10図は従来の画像生成方法によって復元された画像を示す。第10図(a)、(b)は、従来の代表的なデモザイキング技術によって復元された画像を示す。第10図(c)、(d)は、第10図(a)、(b)をそれぞれ線形補間及びバイキュービック補間により拡大した結果である。拡大倍率は水平、垂直方向共に2倍である。第10図に示された結果は、単純な処理によりRAWデータから高解像度を生成したものであり、典型的なアーチファクト(ボケ、偽色)が発生していることが良く分かる。
本シミュレーション実験では、本発明に係る高解像度カラー画像生成方法の定量的評価として、基準画像と復元画像の誤差をRMS値により算出した。第11図は本発明の高解像度カラー画像生成方法において、入力画像の枚数とRMS値の関係を示す。第11図において、従来の手法(つまり、1枚の入力画像にデモザイキングを施し、拡大したもの)のRMS値も示されている。第11図から分かるように、特に複数枚の入力画像が得られる場合、本発明の高解像度カラー画像生成方法による画像復元の効果が顕著に表れることが明らかである。
また、第12図〜第20図を通して、上述した本発明の顕著な画像復元効果を更に確認することができる。第12図は実験に使用される参照画像を示す。第13図、第14図、第15図及び第16図は、解像度が2倍に拡大された実験結果である。第13図は、シミュレーションにより生成した、実験に使用される入力画像を示す。第14図は線形補間を用いて生成された画像を示す。第15図は従来のデモザイキング方法を用いて生成された画像を示す。第16図は本発明を用いて生成された画像を示す。第16図の入力画像の数は16枚である。第17図、第18図、第19図及び第20図は、解像度が4倍に拡大された実験結果である。第17図は、シミュレーションにより生成した、実験に使用される入力画像を示す。第18図は線形補間を用いて生成された画像を示す。第19図は従来のデモザイキング方法を用いて生成された画像を示す。第20図は本発明を用いて生成された画像を示す。第20図の入力画像の数は64枚である。
<5−3>文書画像による実験
ここでは、実際に単板CCDカメラを用いて、動画像から高解像度画像を復元する実験を行った。第21図(a)は入力画像の1枚目である。復元する高解像度画像はCCDの物理的解像度に対し、水平方向、垂直方向それぞれ4倍の解像度を持つ。第21図(b)及び第21図(c)は従来の手法を用いて復元された結果画像を示す。そのうち、第21図(b)は線形デモザイキング及び線形補間を、第21図(c)はコダックデモザイキング及びバイキュービック補間を用いて復元された結果画像である。
一方、第21図(d)は本発明の高解像度カラー画像生成方法を用いて復元された結果画像を示す。第21図(d)の入力画像の数は64枚である。第21図(b)、(c)、(d)を比較することにより、本発明の高解像度カラー画像生成方法が従来の手法より格段に優れた復元画像をもたらすことが明らかである。
<5−4>自然画像による実験
ここでは、種々の自然画像を対象とした実験結果を示す。撮影には3CCDカメラを使用し、計算機上でベイヤー・フィルタをかけたRAWデータを模擬的に生成した。第22図(a1)、(a2)、(a3)は入力画像としての色モザイク状の画像である。そのうち、第22図(a1)、(a2)はカメラの手ぶれを利用して静止した対象を撮影した結果であり、第22図(a3)はカメラを固定し、風で揺れている対象を撮影した結果である。第22図(a3)の場合は、画像全体が一様な運動で表せないため、画像内の局所的なブロックに対してモーションパラメータを推定している。
実画像を用いた実験では、より多くの入力画像を用いるほど画像の復元精度が高くなるとは限らない。その原因としては、入力画像間の位置ずれに推定誤差があること、位置ずれが2パラメータの並進運動では正確に表現できないこと、時間の経過とともに明るさが変化することなどが考えられる。そのため、本発明では、利用可能な入力画像列の中から、次の基準で入力画像を選択するのが好ましい。
(1)入力の基準画像から時間的に近い画像を優先的に選択する。
(2)d1mod2,d2mod2,...,dMmod2が領域[0,2)×[0,2)内で均一に分布するような入力画像を優先的に選択する。
(3)入力画像間の位置ずれの推定における画像の一致度評価値(SSD、SAD等)が低い画像は選択しない。
第22図(b1)、(b2)、(b3)及び(c1)、(c2)、(c3)は、従来の手法を用いて復元された結果画像を示す。そのうち、第22図(b1)、(b2)、(b3)は線形デモザイキング及び線形補間を、第22図(c1)、(c2)、(c3)はコダックデモザイキング及びバイキュービック補間を用いて復元された結果画像である。一方、第22図(d1)、(d2)、(d3)は、本発明の高解像度カラー画像生成方法を用いて復元された結果画像を示す。第22図(d1)及び(d2)の入力画像の数は64枚で、第22図(d3)の入力画像の数は16枚である。
また、復元された高解像度画像はCCDの物理的解像度に対し、第22図(b1)、(b2)、(c1)、(c2)、(d1)、(d2)では水平、垂直方向共に4倍、第22図(b3)、(c3)、(d3)では水平、垂直方向共に2倍の解像度を持つようになっている。第22図からも、本発明の高解像度カラー画像生成方法が、自然画像による実験でも顕著な効果を奏することが確認された。
<6>まとめ
本発明は、イメージセンサ(例えば単板CCD)から得られたRAWデータと所望の解像度のカラー画像との関係を直接的なモデルで定式化し、高解像度カラー画像を生成するようにしたものである。本発明は、撮像系の製造段階で決められた物理的分解能を超えた高い解像度を有する高解像度カラー画像を事後的に生成することができることを最大な特徴とする。また、本発明では、入力画像の枚数や解像度拡大率を任意に設定することができる。
本発明において、CFAパターンはベイヤー・パターンに制限されることはない。RGBの任意の配列或いは補色系のようなほかの色システムを観測モデルに組み込むことができる。即ち、本発明で適用可能なCFAパターンがベイヤー・パターン等に特化したものではない点でも、汎用性のある一般性的方法であるため、本発明の適用範囲は極めて広い。
なお、本発明の高解像度カラー画像生成方法は、CPUにより実行されるコンピュータ・プログラムで実現されることもできる。また、本発明の高解像度カラー画像生成方法をハードウェアで実現する形態も本発明に含まれることは言うまでもない。
なお、上述した実施形態において、本発明では、その画像撮像系(つまり、画像撮像装置)に使用されたイメージセンサはCCD撮像素子を例として説明しましたが、本発明はそれに限定されることなく、例えばMOS型撮像素子や撮像管のようなその他の単板撮像素子を利用した画像撮像系に本発明を適用することもできることは言うまでもない。
まず、本発明に係る高解像度カラー画像生成方法は、入力画像データの有効利用に基づく画像信号処理の改善を提供し、画像撮像装置に用いられるイメージセンサの物理的解像度の制限を克服することができる。本発明の画像生成方法は、画像撮像装置のハードフェアを変更せずに画像解像度を所望の任意の解像度まで拡大できるので、画像撮像装置の製造コストの低減に大きく貢献することが期待される。
また、本発明に係る高解像度カラー画像生成方法は、デモザイキングとグレー・スケール超解像とから成る従来技術の単なる組合せではない。この2種類の従来技術を順次実行するだけでは、品質の低下した画像が復元されたという結果になるだけである。本発明の高解像度カラー画像生成方法は、単一の画像処理によって、高い空間周波数成分を忠実に復元でき且つ偽色の発生も有効に抑制される、高解像度カラー画像を生成する、効果的な画像復元方法である。
さらに、本発明に係る高解像度カラー画像生成方法は、入力画像の枚数及び解像度拡大率を所望の任意の数字に設定できるといった汎用性を有する。解像度拡大が必要とされないといった特別な場合は、マルチ・フレーム・デモザイキングと呼ばれる画像復元を行うこともできる。
また、本発明をイメージセンサとCFA配列を用いる一般的な画像撮像装置或いは画像撮像機能を備えた情報機器(例えば、デジタルスチルカメラ、デジタルビデオカメラ、カメラ付携帯電話、監視カメラ、天体観測用カメラ、内視鏡、顕微鏡、工業用カメラ等)に適用することができる。さらに、イメージセンサ(例えば単板CCD)から得られたRAWデータさえ有れば、本発明の高解像度カラー画像生成方法をソフトウェア(アプリケーション)の実施形態にしたコンピュータ・プログラムが実行されれば、任意の所望の解像度を有する高解像度カラー画像を得ることができる。
本発明では、複数枚の入力画像を利用する場合、入力画像間に変位或いは変形が生じるように撮影することが効果的である。入力画像間に変位或いは変形が生じる状況としては、例えば撮像素子を機械的に制御して既知の移動量だけ変位させた入力画像を得るという場合に限らず、未知の変位或いは変形が被写体とカメラの間に生じている場合でもよい。手ぶれによってカメラが動く場合や、固定されたカメラから移動物体を撮影する場合などがその典型的な例である。入力画像間の変位或いは変形が未知の場合は、事前にそれを推定するか、前述の同時最適化法によって算出することができる。
参考文献:
[1]コーク・D.・R.(Cok,D.R.),「シグナル プロセシング メソッド アンド アパラタス フォー プロデューシング インターポレイテッド クロミナンス バリュース イン ア サンプレッド カラー イメージ シグナル(Signal processing method and apparatus for producing interpolated chrominance values in a sampled color image signal)」,米国特許4642678,1987年
[2]ラロシュ・C.・A.、M.・A.・プレスコット(Laroche,C.A,M.A.,Prescott),「アパラタス アンド メソッド フォー アダプティブリ インターポレイティング ア フル カラー イメージ ユーティライジング クロミナンス グラディエント(Apparatus and method for adaptively interpolating a full color image utilizing chrominance gradients)」,米国特許5373322,1994年
[3]T.・S.・ファン、R.・Y.・トセイ(T.S.Huang and R.Y.Tsay),「マルチプル フレーム イメージ レストレイション アンド レジストレイション Multiple frame image restoration and registration」,イン アドバンス イン コンピュータ ビジョン アンド イメージ プロセシング(in Advances in Computer Vision and Image Processing),第1巻,T.S.Huang,Ed.Greenwich,CT:JAI,p.317−339,1984年
[4]M.・イラニ、S.・プレグラン(M.Irani and S.Peleg),「インプルービング レゾリューション バイ イメージ レジストレイション(Improving resolution by Image Registration)」,CVGIP:グラフ.モデルズ イメージ プロセス.(CVGIP:Graph.Models Image Process.),第53巻,p.231−239,1991年3月
[5]R.・C.・ハーディ、K.・J.・バーナード、E.・E.・アムストロング(R.C.Hardie,K.J.Barnard and E.E.Amstrong),「ジョイント MAP レジストレイション アンド ハイレゾリューション イメージ エスティメイション ユージング ア シーケンス オフ アンダーサンプレッド イメージズ(Joint MAP Registration and High−Resolution Image Estimation using a Sequence of Undersampled Images)」,IEEE トランザクション オン イメージ プロセシング(IEEE Trans.on Image Processing),第6巻,p.1621−1633,1997年
[6]マサオ・シミズ、マサトシ・オクトミ(Masao Shimizu and Masatoshi Okutomi),「プリサイス サブピクセル エスティメイション オン エリアベイセド マッチング(Precise sub−pixel estimation on area−based matching)」,プロク.8th IEEE インターナショナル コンファレンス オン コンピュータ ビジョン(ICCV2001)(Proc.8th IEEE International Conference on Computer Vision(ICCV2001)),(カナダ,バンクーバー),2001年7月,p.90−97
[7]J.・シン、J.・パイク、J.・R.・プライス、M.・A.・アビディ(J.Shin,J.Paik,J.R.Price and M.A.Abidi),「アダプティブ レギュライゼド イメージ インターポレーション ユージング データ フュージョン アンド スチライブル コンストラインズ(Adaptive regularized image interpolation using data fusion and steerable constraints)」,イン SPIE ビジュアル コミュニケーションズ アンド イメージ プロセシング(In SPIE Visual Communications and Image Processing),第4310巻,2001年1月
Claims (18)
- イメージセンサと色フィルタ配列を用いる画像撮像装置によって撮像された1枚または一連の複数枚の入力画像に基づいて高解像度カラー画像を生成する高解像度カラー画像生成方法であって、
前記高解像度カラー画像生成方法は、前記画像撮像装置の物理的な解像度に等しい解像度、或いは、前記画像撮像装置の物理的な解像度より大きい所定の解像度を有する前記高解像度カラー画像を生成し、
前記一連の複数枚の入力画像間に生じる既知または未知の変位或いは変形を含む撮像系のモデル或いは被写体に関する事前知識に基づいた画像復元処理を行うことにより、被写体に含まれる高い空間周波数成分まで忠実に再現し且つ偽色の発生を抑制した前記高解像度カラー画像を生成するステップを有することを特徴とする高解像度カラー画像生成方法。 - 前記画像復元処理において、前記画像撮像装置から得られた、色補間していない生の前記入力画像を直接処理するようになっている請求の範囲第1項に記載の高解像度カラー画像生成方法。
- 前記画像復元処理において、前記撮像系のモデル或いは色成分に関する評価関数に最適化処理を行うようになっている請求の範囲第1項に記載の高解像度カラー画像生成方法。
- 前記評価関数は、
前記入力画像から前記高解像度カラー画像の生成を表す画像形成モデルを用いて、前記入力画像に対する推定画像である前記高解像度カラー画像の忠実度を評価する第1項と、
前記入力画像内の隣接する画素値が急激に変化する前記推定画像に対してペナルティーを与えることにより、前記推定画像における滑らかさを評価する第2項と、
前記入力画像内が色差成分が急激に変化する前記推定画像に対してペナルティーを与えることにより、前記推定画像の色差の滑らかさを評価する第3項と、
より構成される請求の範囲第3項に記載の高解像度カラー画像生成方法。 - 前記第2項は保存されたエッジを有する滑らかな推定画像を得る役割を果たし、前記第3項は局所的色差連続性と保存されたエッジを有する滑らかな推定画像を得る役割を果たす請求の範囲第4項に記載の高解像度カラー画像生成方法。
- 前記評価関数は次の数式によって決定され、
前記第1項は次の数式によって決定され、
前記第2項は次の数式によって決定され、
前記第3項は次の数式によって決定され、
ここで、ykは前記イメージセンサと前記色フィルタ配列から得られた入力画像列におけるk番目の画像の画素値を包含するベクトルであり、
zは推定される前記高解像度カラー画像における画素値を包含し、それぞれzの赤(Red)、緑(Green)、青(Blue)チャネルにおける画素値を包含するzR,zG,zBといった複数のベクトルを包含するベクトルであり、
度カラー画像の画素値を包含するベクトルであり、
Akはykとzを関連付け、また、前記画像撮像装置の特性によって決定される行列であり、前記特性は異なる前記入力画像y1,y2,...yM間の動きと、前記画像撮像装置の点広がり関数と、前記イメージセンサによるダウンサンプリングの比率と前記色フィルタ配列とから構成され、
PとQは適応的或いは非適応的高域通過フィルタとしての役割を果たす行列であり、
TはRGB信号を色差信号に変換する行列であり、
a,bはそれぞれf2(z)とf3(z)の影響を制御する重み係数であるようにした請求の範囲第5項に記載の高解像度カラー画像生成方法。 - 前記入力画像間の前記変位或いは変形を前記高解像度カラー画像と同時に推定するステップを更に有する請求の範囲第1項乃至第7項のいずれかに記載の高解像度カラー画像生成方法。
- 前記請求の範囲第1項乃至第8項のいずれかに記載の高解像度カラー画像生成方法を用いた、単板撮像素子を利用した単板式画像撮像装置であることを特徴とする高解像度カラー画像生成装置。
- 前記単板撮像素子はCCDである請求の範囲第9項に記載の高解像度カラー画像生成装置。
- イメージセンサと色フィルタ配列を用いる画像撮像装置によって撮像された1枚または一連の複数枚の入力画像に基づいて高解像度カラー画像を生成する高解像度カラー画像生成プログラムであって、
前記高解像度カラー画像生成プログラムは、コンピュータに前記画像撮像装置の物理的な解像度に等しい解像度、或いは、前記画像撮像装置の物理的な解像度より大きい所定の解像度を有する前記高解像度カラー画像を生成する機能を実現させ、
更にコンピュータに、
前記一連の複数枚の入力画像間に生じる既知または未知の変位或いは変形を含む撮像系のモデル或いは被写体に関する事前知識に基づいた画像復元処理を行うことにより、被写体に含まれる高い空間周波数成分まで忠実に再現し且つ偽色の発生を抑制した前記高解像度カラー画像を生成する機能と、
を実現させるための高解像度カラー画像生成プログラム。 - 前記画像復元処理において、前記画像撮像装置から得られた、色補間していない生の前記入力画像を直接処理するようになっている請求の範囲第11項に記載の高解像度カラー画像生成プログラム。
- 前記画像復元処理において、前記撮像系のモデル或いは色成分に関する評価関数に最適化処理を行うようになっている請求の範囲第11項に記載の高解像度カラー画像生成プログラム。
- 前記評価関数は、
前記入力画像から前記高解像度カラー画像の生成を表す画像形成モデルを用いて、前記入力画像に対する推定画像である前記高解像度カラー画像の忠実度を評価する第1項と、
前記入力画像内の隣接する画素値が急激に変化する前記推定画像に対してペナルティーを与えることにより、前記推定画像における滑らかさを評価する第2項と、
前記入力画像内が色差成分が急激に変化する前記推定画像に対してペナルティーを与えることにより、前記推定画像の色差の滑らかさを評価する第3項と、
より構成される請求の範囲第13項に記載の高解像度カラー画像生成プログラム。 - 前記第2項は保存されたエッジを有する滑らかな推定画像を得る役割を果たし、前記第3項は局所的色差連続性と保存されたエッジを有する滑らかな推定画像を得る役割を果たす請求の範囲第14項に記載の高解像度カラー画像生成プログラム。
- 前記評価関数は次の数式によって決定され、
前記第1項は次の数式によって決定され、
前記第2項は次の数式によって決定され、
前記第3項は次の数式によって決定され、
ここで、ykは前記イメージセンサと前記色フィルタ配列から得られた入力画像列におけるk番目の画像の画素値を包含するベクトルであり、
zは推定される前記高解像度カラー画像における画素値を包含し、それぞれzの赤(Red)、緑(Green)、青(Blue)チャネルにおける画素値を包含するzR,zG,zBといった複数のベクトルを包含するベクトルであり、
度カラー画像の画素値を包含するベクトルであり、
Akはykとzを関連付け、また、前記画像撮像装置の特性によって決定される行列であり、前記特性は異なる前記入力画像y1,y2,...yM間の動きと、前記画像撮像装置の点広がり関数と、前記イメージセンサによるダウンサンプリングの比率と前記色フィルタ配列とから構成され、
PとQは適応的或いは非適応的高域通過フィルタとしての役割を果たす行列であり、
TはRGB信号を色差信号に変換する行列であり、
a,bはそれぞれf2(z)とf3(z)の影響を制御する重み係数であるようにした請求の範囲第15項に記載の高解像度カラー画像生成プログラム。 - 更に、コンピュータに前記入力画像間の前記変位或いは変形を前記高解像度カラー画像と同時に推定する機能を実現させる請求の範囲第11項乃至第17項のいずれかに記載の高解像度カラー画像生成プログラム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003025221 | 2003-01-31 | ||
JP2003025221 | 2003-01-31 | ||
PCT/JP2003/012868 WO2004068862A1 (ja) | 2003-01-31 | 2003-10-08 | 高解像度カラー画像生成方法,高解像度カラー画像生成装置及び高解像度カラー画像生成プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2004068862A1 true JPWO2004068862A1 (ja) | 2006-05-25 |
JP4214409B2 JP4214409B2 (ja) | 2009-01-28 |
Family
ID=32820787
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004567564A Expired - Lifetime JP4214409B2 (ja) | 2003-01-31 | 2003-10-08 | 高解像度カラー画像生成方法、高解像度カラー画像生成装置及び高解像度カラー画像生成プログラム |
Country Status (4)
Country | Link |
---|---|
US (1) | US7515747B2 (ja) |
JP (1) | JP4214409B2 (ja) |
AU (1) | AU2003272936A1 (ja) |
WO (1) | WO2004068862A1 (ja) |
Families Citing this family (140)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1289308B1 (en) * | 2001-08-29 | 2006-04-26 | STMicroelectronics S.r.l. | Image generating system |
CN100527854C (zh) | 2003-06-23 | 2009-08-12 | 索尼株式会社 | 处理图像的方法、设备 |
JP4613510B2 (ja) * | 2003-06-23 | 2011-01-19 | ソニー株式会社 | 画像処理方法および装置、並びにプログラム |
US8417055B2 (en) * | 2007-03-05 | 2013-04-09 | DigitalOptics Corporation Europe Limited | Image processing method and apparatus |
US7639889B2 (en) | 2004-11-10 | 2009-12-29 | Fotonation Ireland Ltd. | Method of notifying users regarding motion artifacts based on image analysis |
US8199222B2 (en) * | 2007-03-05 | 2012-06-12 | DigitalOptics Corporation Europe Limited | Low-light video frame enhancement |
US8989516B2 (en) * | 2007-09-18 | 2015-03-24 | Fotonation Limited | Image processing method and apparatus |
US8264576B2 (en) * | 2007-03-05 | 2012-09-11 | DigitalOptics Corporation Europe Limited | RGBW sensor array |
US8698924B2 (en) | 2007-03-05 | 2014-04-15 | DigitalOptics Corporation Europe Limited | Tone mapping for low-light video frame enhancement |
US8180173B2 (en) | 2007-09-21 | 2012-05-15 | DigitalOptics Corporation Europe Limited | Flash artifact eye defect correction in blurred images using anisotropic blurring |
US7636486B2 (en) | 2004-11-10 | 2009-12-22 | Fotonation Ireland Ltd. | Method of determining PSF using multiple instances of a nominally similar scene |
US9160897B2 (en) * | 2007-06-14 | 2015-10-13 | Fotonation Limited | Fast motion estimation method |
JP4172416B2 (ja) | 2004-04-22 | 2008-10-29 | 国立大学法人東京工業大学 | 超解像処理に適するサブピクセルモーション画像を撮影するための移動決定方法及びそれを用いた撮像装置、並びに移動方向の評価方法 |
DE102004025645A1 (de) * | 2004-05-24 | 2005-12-29 | Jenoptik Laser, Optik, Systeme Gmbh | Verfahren zur Reduzierung von Farbmoire in digitalen Bildern |
US7639888B2 (en) * | 2004-11-10 | 2009-12-29 | Fotonation Ireland Ltd. | Method and apparatus for initiating subsequent exposures based on determination of motion blurring artifacts |
US7412107B2 (en) * | 2004-12-17 | 2008-08-12 | The Regents Of The University Of California, Santa Cruz | System and method for robust multi-frame demosaicing and color super-resolution |
JP4724826B2 (ja) * | 2005-01-17 | 2011-07-13 | 国立大学法人東京工業大学 | 超解像処理のパラメータ設計方法 |
US8577184B2 (en) * | 2005-01-19 | 2013-11-05 | The United States Of America As Represented By The Secretary Of The Army | System and method for super-resolution imaging from a sequence of color filter array (CFA) low-resolution images |
US8666196B2 (en) * | 2005-01-19 | 2014-03-04 | The United States Of America As Represented By The Secretary Of The Army | System and method for super-resolution imaging from a sequence of color filter array (CFA) low-resolution images |
JP4126378B2 (ja) * | 2005-05-02 | 2008-07-30 | 国立大学法人東京工業大学 | 超解像処理の高速化方法 |
US20070133902A1 (en) * | 2005-12-13 | 2007-06-14 | Portalplayer, Inc. | Method and circuit for integrated de-mosaicing and downscaling preferably with edge adaptive interpolation and color correlation to reduce aliasing artifacts |
CN101867832B (zh) * | 2005-12-29 | 2011-09-07 | 安泰科技有限公司 | 阈值确定装置和阈值确定方法 |
JP5157895B2 (ja) * | 2006-03-24 | 2013-03-06 | 株式会社ニコン | 信号処理方法、信号処理システム、係数生成装置、およびデジタルカメラ |
US7889264B2 (en) * | 2006-05-12 | 2011-02-15 | Ricoh Co., Ltd. | End-to-end design of superresolution electro-optic imaging systems |
IES20070229A2 (en) * | 2006-06-05 | 2007-10-03 | Fotonation Vision Ltd | Image acquisition method and apparatus |
JP4724056B2 (ja) * | 2006-06-16 | 2011-07-13 | 株式会社東芝 | 検査装置 |
EP1879147B1 (en) * | 2006-07-11 | 2016-09-21 | Vestel Elektronik Sanayi ve Ticaret A.S. | Method and apparatus for adjusting the contrast of an image |
JP4964541B2 (ja) * | 2006-09-11 | 2012-07-04 | オリンパス株式会社 | 撮像装置、画像処理装置、撮像システム及び画像処理プログラム |
US7773118B2 (en) * | 2007-03-25 | 2010-08-10 | Fotonation Vision Limited | Handheld article with movement discrimination |
US20080309770A1 (en) * | 2007-06-18 | 2008-12-18 | Fotonation Vision Limited | Method and apparatus for simulating a camera panning effect |
JP2009037460A (ja) * | 2007-08-02 | 2009-02-19 | Sanyo Electric Co Ltd | 画像処理方法、画像処理装置、及びこの画像処理装置を備えた電子機器 |
US20090092338A1 (en) * | 2007-10-05 | 2009-04-09 | Jeffrey Matthew Achong | Method And Apparatus For Determining The Direction of Color Dependency Interpolating In Order To Generate Missing Colors In A Color Filter Array |
US8270713B2 (en) * | 2007-10-16 | 2012-09-18 | Aptina Imaging Corporation | Method and apparatus providing hardware-efficient demosaicing of image data |
JP4986820B2 (ja) * | 2007-11-16 | 2012-07-25 | キヤノン株式会社 | 画像処理装置及び画像処理方法 |
KR101385961B1 (ko) | 2007-12-21 | 2014-04-16 | 삼성전자주식회사 | 영상신호의 색 노이즈 제거 장치 및 방법 |
JP2009171561A (ja) * | 2007-12-21 | 2009-07-30 | Canon Inc | 画像処理装置及び画像処理方法 |
JP5388558B2 (ja) * | 2007-12-21 | 2014-01-15 | キヤノン株式会社 | 画像処理装置及び画像処理方法 |
US8306121B2 (en) * | 2008-03-17 | 2012-11-06 | Ati Technologies Ulc | Method and apparatus for super-resolution of images |
US8280194B2 (en) * | 2008-04-29 | 2012-10-02 | Sony Corporation | Reduced hardware implementation for a two-picture depth map algorithm |
JP5028328B2 (ja) * | 2008-05-13 | 2012-09-19 | キヤノン株式会社 | 画像処理装置及び画像処理方法 |
JP4565016B2 (ja) | 2008-05-16 | 2010-10-20 | キヤノン株式会社 | 画像処理装置、画像処理方法及びそのプログラムならびにこのプログラムを記憶させたコンピュータ読み取り可能な記憶媒体 |
KR101733443B1 (ko) | 2008-05-20 | 2017-05-10 | 펠리칸 이매징 코포레이션 | 이종 이미저를 구비한 모놀리식 카메라 어레이를 이용한 이미지의 캡처링 및 처리 |
US11792538B2 (en) | 2008-05-20 | 2023-10-17 | Adeia Imaging Llc | Capturing and processing of images including occlusions focused on an image sensor by a lens stack array |
US8866920B2 (en) | 2008-05-20 | 2014-10-21 | Pelican Imaging Corporation | Capturing and processing of images using monolithic camera array with heterogeneous imagers |
US20110097009A1 (en) * | 2008-06-20 | 2011-04-28 | Nxp B.V. | Digital image restoration |
JP2010010810A (ja) * | 2008-06-24 | 2010-01-14 | Canon Inc | 画像形成装置および画像形成方法 |
US8131110B2 (en) * | 2008-07-03 | 2012-03-06 | Seiko Epson Corporation | Reducing signal overshoots and undershoots in demosaicking |
US8111299B2 (en) * | 2008-08-15 | 2012-02-07 | Seiko Epson Corporation | Demosaicking single-sensor camera raw data |
JP5094642B2 (ja) * | 2008-08-28 | 2012-12-12 | キヤノン株式会社 | 画像処理装置およびその制御方法とプログラム |
JP2010081176A (ja) * | 2008-09-25 | 2010-04-08 | Toshiba Corp | 撮像装置及びその方法 |
US8553093B2 (en) * | 2008-09-30 | 2013-10-08 | Sony Corporation | Method and apparatus for super-resolution imaging using digital imaging devices |
US8194995B2 (en) | 2008-09-30 | 2012-06-05 | Sony Corporation | Fast camera auto-focus |
JP2010108161A (ja) * | 2008-10-29 | 2010-05-13 | Pioneer Electronic Corp | 画像処理装置及び方法、並びにコンピュータプログラム |
JP5264537B2 (ja) * | 2009-02-02 | 2013-08-14 | キヤノン株式会社 | プリンタおよび物体の移動検出方法 |
US8369653B1 (en) | 2009-02-27 | 2013-02-05 | Adobe Systems Incorporated | System and method for image upsampling using natural image statistics of first and second derivatives |
US20110032269A1 (en) * | 2009-08-05 | 2011-02-10 | Rastislav Lukac | Automatically Resizing Demosaicked Full-Color Images Using Edge-Orientation Maps Formed In The Demosaicking Process |
US8487929B2 (en) * | 2009-09-09 | 2013-07-16 | Advanced Micro Devices, Inc. | Resolution enhancement of video stream based on spatial and temporal correlation |
US8514491B2 (en) * | 2009-11-20 | 2013-08-20 | Pelican Imaging Corporation | Capturing and processing of images using monolithic camera array with heterogeneous imagers |
US8665316B2 (en) * | 2009-11-24 | 2014-03-04 | Microsoft Corporation | Multi-resolution digital large format camera with multiple detector arrays |
US8654205B2 (en) * | 2009-12-17 | 2014-02-18 | Nikon Corporation | Medium storing image processing program and imaging apparatus |
US8457433B2 (en) * | 2010-01-28 | 2013-06-04 | Texas Instruments Incorporated | Methods and systems for image noise filtering |
JP5645051B2 (ja) | 2010-02-12 | 2014-12-24 | 国立大学法人東京工業大学 | 画像処理装置 |
JP5645052B2 (ja) | 2010-02-12 | 2014-12-24 | 国立大学法人東京工業大学 | 画像処理装置 |
JP5400655B2 (ja) * | 2010-02-17 | 2014-01-29 | オリンパス株式会社 | 画像処理装置、画像処理方法、画像処理プログラム、及び、電子機器 |
US8179445B2 (en) * | 2010-03-03 | 2012-05-15 | Eastman Kodak Company | Providing improved high resolution image |
JP5848754B2 (ja) | 2010-05-12 | 2016-01-27 | ペリカン イメージング コーポレイション | 撮像装置アレイおよびアレイカメラのためのアーキテクチャ |
US8345971B2 (en) * | 2010-06-28 | 2013-01-01 | The Hong Kong Polytechnic University | Method and system for spatial-temporal denoising and demosaicking for noisy color filter array videos |
US8692906B2 (en) * | 2010-07-13 | 2014-04-08 | Canon Kabushiki Kaisha | Luminance signal generation apparatus, luminance signal generation method, image pickup apparatus, and storage medium |
WO2012050942A1 (en) * | 2010-09-29 | 2012-04-19 | Applied Precision, Inc. | Calibration targets for microscope imaging |
US8374453B2 (en) * | 2010-11-10 | 2013-02-12 | Raytheon Company | Integrating image frames |
US8878950B2 (en) | 2010-12-14 | 2014-11-04 | Pelican Imaging Corporation | Systems and methods for synthesizing high resolution images using super-resolution processes |
JP2014519741A (ja) | 2011-05-11 | 2014-08-14 | ペリカン イメージング コーポレイション | アレイカメラ画像データを伝送および受信するためのシステムおよび方法 |
JP2013009293A (ja) * | 2011-05-20 | 2013-01-10 | Sony Corp | 画像処理装置、画像処理方法、プログラム、および記録媒体、並びに学習装置 |
FR2975804B1 (fr) * | 2011-05-27 | 2022-06-17 | Lvmh Rech | Procede de caracterisation du teint de la peau ou des phaneres |
KR101805623B1 (ko) * | 2011-06-15 | 2017-12-07 | 삼성전자주식회사 | 영상 고주파 정보 추정 및 안정화를 통한 고해상도 영상 생성 방법 및 장치 |
US20130265459A1 (en) | 2011-06-28 | 2013-10-10 | Pelican Imaging Corporation | Optical arrangements for use with an array camera |
KR20140045458A (ko) | 2011-06-28 | 2014-04-16 | 펠리칸 이매징 코포레이션 | 어레이 카메라와 함께 사용하는 광학 장치 |
CN102957923B (zh) * | 2011-08-24 | 2015-06-03 | 陈良基 | 立体影像深度图的校正系统及方法 |
WO2013043761A1 (en) | 2011-09-19 | 2013-03-28 | Pelican Imaging Corporation | Determining depth from multiple views of a scene that include aliasing using hypothesized fusion |
KR102002165B1 (ko) | 2011-09-28 | 2019-07-25 | 포토내이션 리미티드 | 라이트 필드 이미지 파일의 인코딩 및 디코딩을 위한 시스템 및 방법 |
EP2817955B1 (en) | 2012-02-21 | 2018-04-11 | FotoNation Cayman Limited | Systems and methods for the manipulation of captured light field image data |
US9210392B2 (en) | 2012-05-01 | 2015-12-08 | Pelican Imaging Coporation | Camera modules patterned with pi filter groups |
EP2873028A4 (en) | 2012-06-28 | 2016-05-25 | Pelican Imaging Corp | SYSTEMS AND METHOD FOR DETECTING DEFECTIVE CAMERA ARRAYS, OPTICAL ARRAYS AND SENSORS |
US20140002674A1 (en) | 2012-06-30 | 2014-01-02 | Pelican Imaging Corporation | Systems and Methods for Manufacturing Camera Modules Using Active Alignment of Lens Stack Arrays and Sensors |
WO2014006514A2 (en) * | 2012-07-04 | 2014-01-09 | Opera Imaging B.V. | Image processing in a multi-channel camera |
JP2014027526A (ja) | 2012-07-27 | 2014-02-06 | Sony Corp | 画像処理装置、および画像処理方法、並びにプログラム |
EP4296963A3 (en) | 2012-08-21 | 2024-03-27 | Adeia Imaging LLC | Method for depth detection in images captured using array cameras |
CN104685513B (zh) | 2012-08-23 | 2018-04-27 | 派力肯影像公司 | 根据使用阵列源捕捉的低分辨率图像的基于特征的高分辨率运动估计 |
WO2014043641A1 (en) | 2012-09-14 | 2014-03-20 | Pelican Imaging Corporation | Systems and methods for correcting user identified artifacts in light field images |
US20140092281A1 (en) | 2012-09-28 | 2014-04-03 | Pelican Imaging Corporation | Generating Images from Light Fields Utilizing Virtual Viewpoints |
US9143711B2 (en) | 2012-11-13 | 2015-09-22 | Pelican Imaging Corporation | Systems and methods for array camera focal plane control |
JP6443050B2 (ja) * | 2012-11-29 | 2018-12-26 | 日本電気株式会社 | 画像処理装置、及び、画像処理方法 |
JP5738904B2 (ja) * | 2013-01-28 | 2015-06-24 | オリンパス株式会社 | 画像処理装置、撮像装置、画像処理方法及びプログラム |
WO2014130849A1 (en) | 2013-02-21 | 2014-08-28 | Pelican Imaging Corporation | Generating compressed light field representation data |
WO2014133974A1 (en) | 2013-02-24 | 2014-09-04 | Pelican Imaging Corporation | Thin form computational and modular array cameras |
US9638883B1 (en) | 2013-03-04 | 2017-05-02 | Fotonation Cayman Limited | Passive alignment of array camera modules constructed from lens stack arrays and sensors based upon alignment information obtained during manufacture of array camera modules using an active alignment process |
WO2014138697A1 (en) | 2013-03-08 | 2014-09-12 | Pelican Imaging Corporation | Systems and methods for high dynamic range imaging using array cameras |
US8866912B2 (en) | 2013-03-10 | 2014-10-21 | Pelican Imaging Corporation | System and methods for calibration of an array camera using a single captured image |
US9521416B1 (en) | 2013-03-11 | 2016-12-13 | Kip Peli P1 Lp | Systems and methods for image data compression |
WO2014164909A1 (en) | 2013-03-13 | 2014-10-09 | Pelican Imaging Corporation | Array camera architecture implementing quantum film sensors |
US9106784B2 (en) | 2013-03-13 | 2015-08-11 | Pelican Imaging Corporation | Systems and methods for controlling aliasing in images captured by an array camera for use in super-resolution processing |
WO2014164550A2 (en) | 2013-03-13 | 2014-10-09 | Pelican Imaging Corporation | System and methods for calibration of an array camera |
US9519972B2 (en) | 2013-03-13 | 2016-12-13 | Kip Peli P1 Lp | Systems and methods for synthesizing images from image data captured by an array camera using restricted depth of field depth maps in which depth estimation precision varies |
WO2014153098A1 (en) | 2013-03-14 | 2014-09-25 | Pelican Imaging Corporation | Photmetric normalization in array cameras |
WO2014159779A1 (en) | 2013-03-14 | 2014-10-02 | Pelican Imaging Corporation | Systems and methods for reducing motion blur in images or video in ultra low light with array cameras |
US9438888B2 (en) | 2013-03-15 | 2016-09-06 | Pelican Imaging Corporation | Systems and methods for stereo imaging with camera arrays |
US9445003B1 (en) | 2013-03-15 | 2016-09-13 | Pelican Imaging Corporation | Systems and methods for synthesizing high resolution images using image deconvolution based on motion and depth information |
US10122993B2 (en) | 2013-03-15 | 2018-11-06 | Fotonation Limited | Autofocus system for a conventional camera that uses depth information from an array camera |
US9497429B2 (en) | 2013-03-15 | 2016-11-15 | Pelican Imaging Corporation | Extended color processing on pelican array cameras |
WO2014150856A1 (en) | 2013-03-15 | 2014-09-25 | Pelican Imaging Corporation | Array camera implementing quantum dot color filters |
US9633442B2 (en) | 2013-03-15 | 2017-04-25 | Fotonation Cayman Limited | Array cameras including an array camera module augmented with a separate camera |
US9898856B2 (en) | 2013-09-27 | 2018-02-20 | Fotonation Cayman Limited | Systems and methods for depth-assisted perspective distortion correction |
US9185276B2 (en) | 2013-11-07 | 2015-11-10 | Pelican Imaging Corporation | Methods of manufacturing array camera modules incorporating independently aligned lens stacks |
US10119808B2 (en) | 2013-11-18 | 2018-11-06 | Fotonation Limited | Systems and methods for estimating depth from projected texture using camera arrays |
US9426361B2 (en) | 2013-11-26 | 2016-08-23 | Pelican Imaging Corporation | Array camera configurations incorporating multiple constituent array cameras |
JPWO2015083499A1 (ja) * | 2013-12-02 | 2017-03-16 | コニカミノルタ株式会社 | 画像処理装置、該方法および該プログラム |
JP2015154307A (ja) * | 2014-02-17 | 2015-08-24 | ソニー株式会社 | 画像処理装置、画像処理方法、およびプログラム |
US10089740B2 (en) | 2014-03-07 | 2018-10-02 | Fotonation Limited | System and methods for depth regularization and semiautomatic interactive matting using RGB-D images |
US9247117B2 (en) | 2014-04-07 | 2016-01-26 | Pelican Imaging Corporation | Systems and methods for correcting for warpage of a sensor array in an array camera module by introducing warpage into a focal plane of a lens stack array |
US9521319B2 (en) | 2014-06-18 | 2016-12-13 | Pelican Imaging Corporation | Array cameras and array camera modules including spectral filters disposed outside of a constituent image sensor |
WO2016002068A1 (ja) | 2014-07-04 | 2016-01-07 | 三菱電機株式会社 | 画像拡大装置、画像拡大方法、及び監視カメラ、並びにプログラム及び記録媒体 |
US10250871B2 (en) | 2014-09-29 | 2019-04-02 | Fotonation Limited | Systems and methods for dynamic calibration of array cameras |
US9942474B2 (en) | 2015-04-17 | 2018-04-10 | Fotonation Cayman Limited | Systems and methods for performing high speed video capture and depth estimation using array cameras |
US10147167B2 (en) * | 2015-11-25 | 2018-12-04 | Heptagon Micro Optics Pte. Ltd. | Super-resolution image reconstruction using high-frequency band extraction |
US10176567B2 (en) * | 2015-12-21 | 2019-01-08 | Canon Kabushiki Kaisha | Physical registration of images acquired by Fourier Ptychography |
CN106485182B (zh) * | 2016-06-27 | 2018-10-30 | 中国计量大学 | 一种基于仿射变换的模糊qr码复原方法 |
JP6981799B2 (ja) * | 2017-07-21 | 2021-12-17 | キヤノンメディカルシステムズ株式会社 | 画像データ復元装置、画像データ復元方法、及びプログラム |
US10482618B2 (en) | 2017-08-21 | 2019-11-19 | Fotonation Limited | Systems and methods for hybrid depth regularization |
EP3821267A4 (en) | 2019-09-17 | 2022-04-13 | Boston Polarimetrics, Inc. | SURFACE MODELING SYSTEMS AND METHODS USING POLARIZATION MARKERS |
CN114746717A (zh) | 2019-10-07 | 2022-07-12 | 波士顿偏振测定公司 | 利用偏振进行表面法线感测的系统和方法 |
MX2022005289A (es) | 2019-11-30 | 2022-08-08 | Boston Polarimetrics Inc | Sistemas y metodos para segmentacion de objetos transparentes usando se?ales de polarizacion. |
US11195303B2 (en) | 2020-01-29 | 2021-12-07 | Boston Polarimetrics, Inc. | Systems and methods for characterizing object pose detection and measurement systems |
JP2023511747A (ja) | 2020-01-30 | 2023-03-22 | イントリンジック イノベーション エルエルシー | 偏光画像を含む異なる撮像モダリティで統計モデルを訓練するためのデータを合成するためのシステムおよび方法 |
US11240465B2 (en) | 2020-02-21 | 2022-02-01 | Alibaba Group Holding Limited | System and method to use decoder information in video super resolution |
WO2021243088A1 (en) | 2020-05-27 | 2021-12-02 | Boston Polarimetrics, Inc. | Multi-aperture polarization optical systems using beam splitters |
US11290658B1 (en) | 2021-04-15 | 2022-03-29 | Boston Polarimetrics, Inc. | Systems and methods for camera exposure control |
US11954886B2 (en) | 2021-04-15 | 2024-04-09 | Intrinsic Innovation Llc | Systems and methods for six-degree of freedom pose estimation of deformable objects |
US11689813B2 (en) | 2021-07-01 | 2023-06-27 | Intrinsic Innovation Llc | Systems and methods for high dynamic range imaging using crossed polarizers |
US11869169B2 (en) * | 2021-08-10 | 2024-01-09 | Samsung Electronics Co., Ltd. | Adaptive sub-pixel spatial temporal interpolation for color filter array |
CN115082310B (zh) * | 2022-06-07 | 2023-04-07 | 生态环境部长江流域生态环境监督管理局生态环境监测与科学研究中心 | 一种卫星视频的超分辨率重建方法、装置及处理设备 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4642678A (en) | 1984-09-10 | 1987-02-10 | Eastman Kodak Company | Signal processing method and apparatus for producing interpolated chrominance values in a sampled color image signal |
US5373322A (en) | 1993-06-30 | 1994-12-13 | Eastman Kodak Company | Apparatus and method for adaptively interpolating a full color image utilizing chrominance gradients |
US6697109B1 (en) * | 1999-05-06 | 2004-02-24 | Sharp Laboratories Of America, Inc. | Method and system for field sequential color image capture |
US6690422B1 (en) * | 1999-11-03 | 2004-02-10 | Sharp Laboratories Of America, Inc. | Method and system for field sequential color image capture using color filter array |
JP4581199B2 (ja) | 2000-08-22 | 2010-11-17 | ソニー株式会社 | 画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体 |
JP4531231B2 (ja) | 2000-09-18 | 2010-08-25 | 三菱電機株式会社 | 撮像装置 |
-
2003
- 2003-10-08 JP JP2004567564A patent/JP4214409B2/ja not_active Expired - Lifetime
- 2003-10-08 WO PCT/JP2003/012868 patent/WO2004068862A1/ja active Application Filing
- 2003-10-08 US US10/543,846 patent/US7515747B2/en not_active Expired - Fee Related
- 2003-10-08 AU AU2003272936A patent/AU2003272936A1/en not_active Abandoned
Also Published As
Publication number | Publication date |
---|---|
US7515747B2 (en) | 2009-04-07 |
WO2004068862A1 (ja) | 2004-08-12 |
US20060038891A1 (en) | 2006-02-23 |
JP4214409B2 (ja) | 2009-01-28 |
AU2003272936A1 (en) | 2004-08-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4214409B2 (ja) | 高解像度カラー画像生成方法、高解像度カラー画像生成装置及び高解像度カラー画像生成プログラム | |
US9325918B2 (en) | Image processing apparatus, imaging apparatus, solid-state imaging device, image processing method and program | |
US8040558B2 (en) | Apparatus and method for shift invariant differential (SID) image data interpolation in fully populated shift invariant matrix | |
Gotoh et al. | Direct super-resolution and registration using raw CFA images | |
JP5306563B2 (ja) | 撮像装置及び画像生成方法 | |
US20060290711A1 (en) | System and method for robust multi-frame demosaicing and color super-resolution | |
KR20100064369A (ko) | 영상 처리 방법 및 장치 | |
JP2000188680A (ja) | 高解像度画像の生成方法及びシステム | |
WO2003047234A2 (en) | System and method for providing multi-sensor super-resolution | |
KR20010020797A (ko) | 전색 이미지 생성을 위한 데이터 처리 시스템 동작 방법과2차원 픽셀값 어레이를 포함하는 이미지의 보간 방법 | |
JP4328424B2 (ja) | 画像変換方法 | |
WO2011148760A1 (ja) | 画像処理装置、撮像装置、プログラム及び画像処理方法 | |
JP2002064754A (ja) | 撮像装置の有効ダイナミックレンジを拡張する方法及び装置 | |
JP4246428B2 (ja) | トーンスケール関数の生成方法 | |
JP2009010847A (ja) | 色成分補間装置及びその方法 | |
US7440016B2 (en) | Method of processing a digital image | |
WO2008086037A2 (en) | Color filter array interpolation | |
KR101243285B1 (ko) | 베이어 컬러 필터 배열 카메라를 사용한 다중 스펙트럼 기반 컬러 영상 생성장치 및 방법 | |
Gevrekci et al. | POCS-based restoration of Bayer-sampled image sequences | |
JP2004056640A (ja) | 補色系単板式カラーディジタルカメラにおける撮像画像の補間方法、その補間装置及びそれを備えたディジタルカメラ | |
EP4332834A1 (en) | Method and camera device for generating a moiré-corrected image file | |
Mariničová | Demosaicing as an ill-posed inverse problem | |
Trimeche | Color demosaicing using multi-frame super-resolution | |
Lukac et al. | Bayer pattern demosaicking using local-correlation approach | |
WO2012147630A1 (ja) | 撮像装置及び画像生成方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20071023 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20071206 |
|
RD13 | Notification of appointment of power of sub attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7433 Effective date: 20071206 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20071023 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080222 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080507 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080704 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20081007 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20081021 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4214409 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111114 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111114 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121114 Year of fee payment: 4 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121114 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131114 Year of fee payment: 5 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
EXPY | Cancellation because of completion of term |