JP2009048487A - 画像処理装置及び画像処理プログラム - Google Patents
画像処理装置及び画像処理プログラム Download PDFInfo
- Publication number
- JP2009048487A JP2009048487A JP2007215123A JP2007215123A JP2009048487A JP 2009048487 A JP2009048487 A JP 2009048487A JP 2007215123 A JP2007215123 A JP 2007215123A JP 2007215123 A JP2007215123 A JP 2007215123A JP 2009048487 A JP2009048487 A JP 2009048487A
- Authority
- JP
- Japan
- Prior art keywords
- image
- pixel
- reference image
- target image
- target
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 238000007906 compression Methods 0.000 claims abstract description 23
- 230000006835 compression Effects 0.000 claims abstract description 23
- 230000006837 decompression Effects 0.000 claims abstract description 14
- 238000004364 calculation method Methods 0.000 claims abstract description 12
- 238000012545 processing Methods 0.000 claims description 58
- 238000000034 method Methods 0.000 claims description 38
- 238000010187 selection method Methods 0.000 claims 4
- 238000013144 data compression Methods 0.000 abstract description 5
- 238000011156 evaluation Methods 0.000 description 14
- 230000008569 process Effects 0.000 description 12
- 238000006243 chemical reaction Methods 0.000 description 9
- 238000006731 degradation reaction Methods 0.000 description 8
- 230000006870 function Effects 0.000 description 8
- 230000009466 transformation Effects 0.000 description 6
- 238000003384 imaging method Methods 0.000 description 5
- 239000011159 matrix material Substances 0.000 description 5
- 239000002131 composite material Substances 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 238000010606 normalization Methods 0.000 description 3
- 230000015556 catabolic process Effects 0.000 description 2
- 230000006866 deterioration Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000012887 quadratic function Methods 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 238000011946 reduction process Methods 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000002427 irreversible effect Effects 0.000 description 1
- CNQCVBJFEGMYDW-UHFFFAOYSA-N lawrencium atom Chemical compound [Lr] CNQCVBJFEGMYDW-UHFFFAOYSA-N 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- ORQBXQOJMQIAOY-UHFFFAOYSA-N nobelium Chemical compound [No] ORQBXQOJMQIAOY-UHFFFAOYSA-N 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000002945 steepest descent method Methods 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 239000013585 weight reducing agent Substances 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
- Color Television Image Signal Generators (AREA)
- Compression Of Band Width Or Redundancy In Fax (AREA)
Abstract
【課題】データ圧縮を考慮しながら高解像度画像を生成する。
【解決手段】 画像処理装置は、基準画像以外の対象画像を圧縮符号化する圧縮手段と、圧縮された前記対象画像を伸長復号化する伸長復号手段と、前記基準画像に対して、伸長復号化した前記対象画像を変形して位置合わせを行う位置合わせ手段と、前記位置合わせを行った前記対象画像の各画素に対して、前記基準画像の対応する画素との相関を算出する相関算出手段と、前記算出した相関に応じて、前記位置合わせを行った前記対象画像の各画素に含まれる画素情報を選択する画素選択手段と、前記基準画像と、前記対象画像のうち前記画素選択手段で選択した画素情報を使用して、画像を生成する画像生成手段と、を備える。
【選択図】図6A
【解決手段】 画像処理装置は、基準画像以外の対象画像を圧縮符号化する圧縮手段と、圧縮された前記対象画像を伸長復号化する伸長復号手段と、前記基準画像に対して、伸長復号化した前記対象画像を変形して位置合わせを行う位置合わせ手段と、前記位置合わせを行った前記対象画像の各画素に対して、前記基準画像の対応する画素との相関を算出する相関算出手段と、前記算出した相関に応じて、前記位置合わせを行った前記対象画像の各画素に含まれる画素情報を選択する画素選択手段と、前記基準画像と、前記対象画像のうち前記画素選択手段で選択した画素情報を使用して、画像を生成する画像生成手段と、を備える。
【選択図】図6A
Description
本発明は、画像処理装置及び画像処理プログラムに関する。
従来、画像処理技術の基礎として、複数枚画像を扱う場合は、画像間の位置対応をとるために、画像間の位置合わせ処理を行うことは必須の技術となっている。例えば、イメージモザイキング処理(重なりのある複数画像の位置合わせを行なって一枚の全体画像を得る処理)や、超解像処理を行う場合は、複数枚画像の合成処理が必須となり、その時に用いられる画像の位置合わせ処理に誤りがあれば、画像の合成処理として破綻し、本来得たい画像処理結果が得られないこととなる。
例えば、複数枚画像を用いた画像高解像度化手法として、画像の超解像処理が提案されている(例えば、特許文献1、2参照)。これらの方法では、複数枚画像を画像の画素単位以上の分解能で位置合わせを行うことができ、複数のフレームの基準フレームに対する射影変換の変形が成り立つ場合には、非常の精度の良いマッチングが可能である。
また、フーリエ変換を用いた、特定の種類のモーションに対しての高速な高解像度化処理が提案されている(例えば、特許文献3参照)。
前述の様な、射影変換の条件に当てはまる位置合わせが破綻した場合の対処法についてはさらに柔軟性の高いマッチング処理が提案されている。画像の位置合わせ処理を行った場合の、位置合わせ誤りを検出する手法についての報告が幾つかなされている(非特許文献1、2参照)、非特許文献1では、高解像度化処理を行う際に条件に合わない領域を排除している。また非特許文献2では、ブロックマッチングの信頼度に応じてMAP (最大事後確率)推定での忠実化項に重み付けを行っている。この様に、複数枚画像のマッチングのエラーを補完する方式が提案されている。
国際公開第04/068862号パンフレット
特開2006−140886号公報
特開2006−309649号公報
張馴、清水、奥富「照明変化やオクルージョンにロバストな領域選択2段階レジストレーション」、画像の認識・理解シンポジウム(MIRU2006)講演論文集、2006年7月、p.229-234
戸田、塚田、井上「レジストレーション誤差を考慮した超解像処理」第5回情報科学技術フォーラム(FIT2006) 講演論文集、2006年、p.63-64
しかし、上記の方式では、高解像度化する基準画像と、データの補間に用いる対象画像の間での、データの効率化については考慮されていない。従来の技術では、データバス転送速度やメモリリソースの使用量を考慮してデータ圧縮を考慮しながら高解像度画像を生成する手段については開示されていなかった。
そこで、本発明は、データ圧縮を考慮しながら高解像度画像を生成することを目的とする。
画像処理装置は、複数枚の画像を取得する画像取得手段と、前記複数枚の画像から基準画像を選択する基準画像選択手段と、前記基準画像以外の対象画像を圧縮符号化する圧縮手段と、圧縮された前記対象画像を伸長復号化する伸長復号手段と、前記基準画像に対して、伸長復号化した前記対象画像を変形して位置合わせを行う位置合わせ手段と、前記位置合わせを行った前記対象画像の各画素に対して、前記基準画像の対応する画素との相関を算出する相関算出手段と、前記算出した相関に応じて、前記位置合わせを行った前記対象画像の各画素に含まれる画素情報を選択する画素選択手段と、前記基準画像と、前記対象画像のうち前記画素選択手段で選択した画素情報を使用して、画像を生成する画像生成手段と、を備える。
画像処理装置は、複数枚の画像を取得する画像取得手段と、前記複数枚の画像から基準画像を選択する基準画像選択手段と、前記基準画像以外の対象画像を圧縮する圧縮手段と、圧縮された前記対象画像を伸長復号化する伸長復号手段と、前記基準画像に対して伸長復号化した前記対象画像を変形し位置合わせを行う位置合わせ手段と、
前記位置合わせを行った前記対象画像の各画素に対して、前記基準画像の対応する画素との相関を算出する相関算出手段と、前記算出した相関に応じて、前記位置合わせを行った前記対象画像の各画素に含まれる画素情報の荷重加算係数を算出する画素荷重加算係数算出手段と、前記基準画像と、前記対象画像の画素情報と、前記対象画像の画素荷重加算係数情報を使用して、画像を生成する画像生成手段と、を備える。
前記位置合わせを行った前記対象画像の各画素に対して、前記基準画像の対応する画素との相関を算出する相関算出手段と、前記算出した相関に応じて、前記位置合わせを行った前記対象画像の各画素に含まれる画素情報の荷重加算係数を算出する画素荷重加算係数算出手段と、前記基準画像と、前記対象画像の画素情報と、前記対象画像の画素荷重加算係数情報を使用して、画像を生成する画像生成手段と、を備える。
高解像度化する基準画像は、圧縮率が低いため、尤も高解像度画像の情報を尤も多く有しており、それ以外の画像に関して、圧縮伸長処理を行っても、基準画像とその変形した画像を基準に有効な画素領域を選択しているために、基準画像以外に対するデータの圧縮と、高品質の高解像化画像を両立することができる。
即ち、基準画像以外のデータは圧縮データを使用し、基準画像は画像情報を多く保持しているものを用いるため、データの軽量化と、復元画像の画質の両立が図れる。
図1の画像処理装置の構成図を参照して、第一実施形態について説明する。図1の各部101−207は、システムコントローラ100により制御されている。レンズ101を通した光学像を撮像素子102で電気信号に変換し、撮像信号処理部103でアナログ信号の処理を行い、アナログ−デジタル(A/D)変換部104でアナログ−デジタル変換(A/D変換)を行う。本実施形態では、撮像素子102は、Bayer(ベイヤー)配列の色フィルタを有する単板式CCDである。基準画像には、図示しないゲイン調整部において、A/D変換後のゲイン調整(ホワイトバランス調整、階調変換など)が施され、基準画像記録部201(メモリ)に記録される。基準画像以外の位置合わせの対象画像の信号は、A/D変換及びゲイン調整後に、デジタル信号処理部105を通過し、データ圧縮部202で圧縮符号化され、対象画像記録部203(メモリ)に記録される。圧縮方式は、連続静止画像の場合は、JPEG圧縮であり、動画像の場合は、Motion-JPEG、MPEG-1,-2,-4又はH.264等である。
データ伸長処理部204は、圧縮して記録された対象画像データを対象画像記録部203から取得し、伸長した後、位置合わせ処理部205に伝送する。
位置合わせ処理部205では、基準画像記録部201から基準画像を取得し、基準画像と対象画像の位置合わせ処理を行う。位置合わせ処理は、射影変換でも、ブロックマッチングでも良い。
本実施形態では、基準画像としてRAWデータ(未処理のデータ)を用い、対象画像をJPEG圧縮・伸長し、変形して基準画像に対して位置合わせする例を述べる。
基準画像は、圧縮されておらず、Bayer(ベイヤー)配列であるために、図2のように、R、G、G、Bのチャンネルが離間的に配置されている。従って、基準画像の各画素には、RGBの3原色のうちの1色分の画素値しか存在しない。これに対して、JPEG圧縮後に復号伸長された対象画像データは、圧縮前又は圧縮後に通常行なわれるデモザイキング処理(補間処理)により、各画素位置においてR、G、Bの画素値(R/G/Bチャンネル)が揃ったフルカラーの情報を有している。位置合わせのため、基準画像とJPEG圧縮・伸長された対象画像をブロック分割してブロックマッチングが為される。JPEG圧縮は通常不可逆圧縮であり、JPEG圧縮・伸長された画像は、基準画像と比較すると画質劣化が生じている。
図3は、画素選択処理部206における、位置合わせ後の画素選択の過程を示している。図3では、Bayer配列の格子をマッチング・補完して、Bayer配列のレジストレーション画像(位置合わせ画像)を生成する方法を示す。図3では、基準画像と対象画像について縦横3倍の拡大を行い、解像度を上げてマッチングが行なわれている。
ブロックマッチングにおいて、対象画像は、2次元移動によって基準画像に対して変形される。図5は、ブロックマッチングにおいて対象画像を基準画像に位置合わせする位置合わせ量(移動ベクトル量又は変形度)の推定をパラボラフッティング(二次関数フッティング)で行った例を示す。縦軸は、誤差二乗和(SSD)や誤差絶対値和(SAD)等の類似度値を表し、類似度値が小さいほどブロック間の類似度が高い。図5の黒丸は離散的な類似度値、灰色の丸が類似度の極値を示している。離散的な類似度値を結ぶ曲線は、類似度値と対象画像の移動量の関係を二次関数で補間したものである。極値に対応する対象画像の移動量が、位置合わせ量となる。その他、位置合わせ量の推定に、スプライン関数等による補間が利用可能である。
基準画像と複数の対象画像を合成してレジストレーション画像(合成画像)を作成する際に、拡大前の基準画像のBayer配列に相当する画素(元データ)(図3(b)の太線)はそのまま使用される。対象画像の位置合わせ量分の移動による位置合わせの後、基準画像の画素に対応する位置にある対象画像の画素は、レジストレーション画像(合成画像)の画素として選択され得る。これにより、複数の対象画像と基準画像の位置合わせ及び合成を行い、基準画像の画素の元データ(太線)の間の隙間は、複数の対象画像の画素により埋められていく。拡大後の基準画像の画素に対応する対象画像の画素が無い場合、元データの間の隙間は、複数の対象画像画素により完全には埋められないため、その基準画像の画素位置では、レジストレーション画像の画素値として、対象画像の画素値は選択されず、その位置では、基準画像の拡大・補間により得られた画素値が使用されている。
なお、基準画像は、Bayer配列を保つような態様で、拡大後に補間されている。拡大前の基準画像のBayer配列に相当する画素(元データ)(太線)はそのまま維持されるが、拡大後の当該画素の間にはデータが存在しない。従って、拡大後補間前の基準画像の画素の間に位置する補間すべき画素(R/G/Bのうちの一色)が、この補間すべき画素の周りの複数の元データの画素(当該R/G/Bのうちの一色と同色のもの)の画素値を用いて補間される。補間方法は、公知のバイキュービック法、スプライン補間法等が使用できる。
さらに、位置合わせ後に拡大補間後の基準画像画素に対応する画素位置にある対象画像画素に関して、フルカラーの対象画像のR/G/Bの全チャンネル画素値から、その基準画像画素のチャンネル(R/G/Bの1つ)と同一チャンネルの画素値が選ばれる。その選ばれた対象画像の画素の画素値と基準画像の対応する画素の画素値の差分によって、画素ごとのマッチング度、即ち画素間の相関が評価される。
画素ごとのマッチング度の評価値(即ち、画素間の相関を表す指標値)は、この差分の絶対値又は差分の二乗のいずれでも良い。マッチング度の評価値がある基準値よりも小さい場合、マッチング度が高いとみなし、その対象画像の画素値データは、レジストレーション画像(合成画像)のデータとして選択される。一方、マッチング度の評価値が上記のある基準値よりも大きい場合、マッチング度が低いとみなし、その対象画像の画素値データは、レジストレーション画像(合成画像)のデータとして選択されない。従って、この場合には、位置合わせ後に、対象画像画素が、拡大補間後の基準画像画素に対応する画素位置にあっても、その対象画像画素の画素値は選択されず、基準画像の拡大・補間により得られた画素値が使用される(図3(b)参照)。
図3では、Bayer配列のレジストレーション画像を生成したが、図4のように、基準画像のBayer配列に基づいてデモザイキング処理によりフルカラーの基準画像を作成しておき、フルカラーの基準画像と圧縮・伸長後のフルカラーの対象画像からレジストレーション画像を生成しても良い。この場合、フルカラーの基準画像と圧縮・伸長後のフルカラーの対象画像を各色(B、G、R)について位置合わせしてレジストレーション画像を生成する。拡大したフルカラーの基準画像のうち、基準画像のBayer配列の位置に相当する画素(太線)はそのまま使用する。一方、対象画像画素でフルカラーの基準画像画素にマッチングしているものは、レジストレーション画像の画素として選択され得る。その選択された対象画像の画素の画素値と基準画像の対応する画素の画素値の差分によって、画素ごとのマッチングの度合(マッチング度)が評価される。
マッチング度の評価値がある基準値よりも小さい場合、マッチング度が高いとみなし、その対象画像の画素値データは、レジストレーション画像(合成画像)のデータとして選択される。一方、マッチング度の評価値が上記のある基準値よりも大きい場合、マッチング度が低いとみなし、その対象画像の画素値データは、レジストレーション画像(合成画像)のデータとして選択されず、その画素位置に関しては拡大補間で生成した基準画像画素がそのまま使用される。また、フルカラーの基準画像の画素位置に関して、マッチングする対象画像画素がない場合、その画素位置に関しては拡大補間で生成した基準画像画素がそのまま使用される。
なお、複数の対象画像からレジストレーション時に選択した画素が基準画像において同じ位置を占める場合には、その位置について、複数の画素の画素値の平均化の処理を行ってレジストレーション画像の画素値とする。
図6Aは、レジストレーション画像生成のフローチャートを示している。
ステップS1において、基準画像データが読み込まれる。ステップS2において、そのままメモリに格納される。ステップS3で、対象画像データが読み込まれ、ステップS4で、圧縮符号化される。ステップS5で、対象画像の圧縮データはメモリに格納される。ステップS6で、対象画像の圧縮データの伸長復元が行われ、ステップS7で、位置合わせ処理が行われる。位置合わせの基準としては、図5に示したパラボラフィッティングの他、ゼロ平均規格化相関等を用い得る。ステップS8で、画素に関するマッチング度の基準値(閾値)を読み込む。
ステップS9で、レジストレーション画像を作成する際の画素の選択情報を作成する。具体的には、基準画像の画素に対応する位置にある対象画像の画素の情報やマッチング度の基準値が画素の選択情報となる。ステップS10で、基準画像の補間・拡大データを作成する。
ステップS11で、この選択情報に基づいて、図3、4に示したレジストレーション画像を生成する。具体的には、基準画像の画素に対応する対象画像画素が無い場合、その基準画像の画素の位置では、レジストレーション画像の画素として、基準画像の拡大・補間により得られた画素が選択される。基準画像の画素に対応する対象画像画素が有る場合であっても、対象画像画素のマッチング度の評価値が基準値より大きい画素位置では、基準画像の補間・拡大データを対象画像のデータに置き換えず、基準画像の補間・拡大データをそのまま使用する。基準画像の画素に対応する対象画像画素が有り、且つ、対象画像画素の基準画像画素に対するマッチング度の評価値が基準値以下であれば、その画素位置では、対象画像の画素を、レジストレーション画像の画素として選択する。なお、基準画像のBayer配列に相当する画素(元データ)はそのまま使用される。
さらに、ステップS12において、高画質化処理として超解像処理が為される。
図7に、画像演算処理部207におけるステップS12の超解像処理を示す。ここでは、高解像度画像の生成を超解像処理により行う。
超解像処理では、基準画像のもとになっている高解像度画像が劣化過程によって変化したものを推定する忠実化復元演算と、復元した画像の好ましさを評価する演算を加重配分して行う。ここで、劣化過程は、点広がり関数(Point Spread Function:PSF)によるボケと、基準画像と対象画像の間の変形に相当する劣化を含む。また、忠実化復元演算とは、復元推定した画像データに対して、劣化過程の演算を行い、観測画像と近いかどうかを評価することである。復元した画像の好ましさの評価とは、例えばエッジに沿ってなめらかであることや、画像全体での全変動が少なくなることである。なお、復元した画像の好ましさを評価する演算を正則化という。基準画像としてRAWデータを用いる場合は、劣化過程は特許文献1にあるように、光学系での空間帯域の劣化、カラーフィルタアレイのよるサンプリングの両方を考慮する。
図7の超解像処理では、図3で生成したレジストレーション画像と、観測画像(基準画像の全データ又は対象画像の選択された画素データを有する画像)を用いて、以下の式1の評価関数の最小値を求めている。
上記の式1をzに関して差分展開を行って、以下の式2が収束したかどうかを判定する。
劣化過程関数保持部302は、画像間モーション、点広がり関数(Point Spread Function:PSF)等を含めた撮像システムをあらわす画像変換行列Akを保持している。画像変換行列Akは、基準画像の基になっている高解像度画像の劣化過程(PSFによるボケと、基準画像と対象画像の間の変形)による変化を示す。
畳込み積分部303では、高解像度画像zn-1と画像変換行列Akの積を計算して、Akzn-1を計算する。
画像比較部304は、低解像度の観測画像ykとAkzn-1との差である差分画像(yk−Akzn-1)を演算する。観測画像yk(ベクトル表現)は、レジストレーション情報(ブロックマッチングでの移動ベクトル量)と図3に関連して説明した対象画像画素の選択に関する情報を用いて、対象画像及び参照画像のうちのk番目の画像から生成したものである。具体的には、観測画像ykは、k番目の対象画像を移動ベクトル量で移動させて、選択された画素データ以外は除去した画像となる。さらに、Δ01(yk−Akzn-1)を計算する。Δ01は、画素ごとに定められる係数であり、画素値が選択された画素の場合1、選択されない場合0の係数である。係数Δ01により、画素間のマッチング度の低い対象画像の画素を超解像化の計算から除外することができる。
畳込み積分部305は、Ak T(Akの転置行列)とΔ01(yk−Akzn-1)との積Ak TΔ01(yk−Akzn-1)を計算する。また、積Ak TΔ01(yk−Akzn-1)の画像番号kについて和を計算するよう、画像番号kが最終番号になるまで、303−305の計算を繰り返す。 更新画像生成部306は、正規化項演算部307により計算された正規化項とΣΔ01Ak T(yk−Akzn-1)と前回の高解像度画像Zn-1の和を計算する。収束判定部310は、式2が収束したかどうか判定する。収束した場合のZnが最終的に生成する高解像度画像となる。収束しない場合のZnは現在の高解像度画像として使用される。
なお、上記の超解像処理は、各色(RGB)ごとに行われる。
また、上記実施形態では基準画像として、RAWデータを用いたが、フルカラーの非圧縮データ、BMP、TIFFでも良いし、対象画像に比べ低圧縮で圧縮符号化され高品質が保てる圧縮データであっても良い。
また、本実施形態で示した画像処理は高解像度化に限定していたが、画素の加算平均によるノイズ低減処理においても同じく、基準画像以外の画像で、基準画像に対する対象画像の位置合わせ操作後に、上述の差分の二乗等による選択条件(差分の二乗がある基準値(二乗誤差閾値)よりも小さいこと)に合うものだけを選択し、各々の画素で加算回数に対する平均を出すようにしても良い。
ノイズ低減処理のフローチャートを図6Bに示した。作用は図6Aと同様であるが、補間拡大と、高解像度化処理の部分が無くなっている。
次に、第二実施形態について述べる。第1実施形態では、対象画像の画素情報を選択するか否かの2値的な方法で有ったが、第2の実施形態では、マッチング度(相関)の評価値に応じて、基準画像と対象画像の画素情報を混合し、重み付けの配分を考慮して高解像度画像の復元処理を行う。
即ち、第1実施形態では、マッチング度の評価値に対して、画像情報を選択するか否かの閾値判断を行っていたが、第2実施形態では、図8(b)のように荷重配分を行ってレジストレーション画像を作成する。図8では、対象画像と基準画像のデータ(画素値)を混合してレジストレーション画像のデータを生成している。混合比率である荷重係数Wk(0〜1の値)は、マッチング度の評価値が小さい程大きくなり、マッチング度の評価値が0であれば1となる。なお、拡大したフルカラーの基準画像のうち、基準画像のBayer配列の位置に相当する画素(太線)はそのまま使用する。一方、基準画像のある画素位置に関して、マッチングする対象画像画素がない場合、その画素位置に関しては拡大補間で生成した基準画像画素がそのまま使用される(即ちWk=0)。基準画像のある画素位置に関して、マッチングする対象画像画素が存在する場合には、その画素位置に関して、基準画像の画素値がaで、対応する対象画像の画素値bとすると、a(1-Wk)+bWkがレジストレーション画像の画素値となる。
図8で生成したレジストレーション画像(高解像度画像Zの初期値Z0)と、観測画像yk(基準画像の全データ又は対象画像の選択された画素データを有する画像)を用い、以下の式3の評価関数の最小値を求めて、超解像処理を行う。
なお、上記第一と第二の実施形態において、レジストレーション画像の作成において、対象画像が圧縮・伸長後にフルカラーになっている場合について述べたが、対象画像が圧縮・伸長後にフルカラーとなっておらずBayer配列等のままの場合でも本発明を適用可能である。例えば、位置合わせ後に拡大補間後のBayer配列の基準画像画素に対応する画素位置にあるBayer配列の対象画像画素に関して、対象画像画素のチャンネル(R/G/Bの一つ)が、対応する基準画像画素のチャンネル(R/G/Bの1つ)と一致すれば、その画素位置で、レジストレーション画像の画素として対象画像画素の画素値が選択され得るようにすればよい。
本発明は上記の実施の形態に限定されずに、その技術的な思想の範囲内において種々の変更がなしうることは明白である。
100 システムコントローラ
101 レンズ
102 撮像素子
103 撮像信号処理部
104 アナログ−デジタル(A/D)変換部
105 デジタル信号処理部
202 データ圧縮部(圧縮手段)
203 対象画像記録部
204 データ伸長処理部(伸長復号手段)
205 位置合わせ処理部(位置合わせ手段)
206 画素選択処理部(画素選択手段)
207 画像演算処理部(画像生成手段)
101 レンズ
102 撮像素子
103 撮像信号処理部
104 アナログ−デジタル(A/D)変換部
105 デジタル信号処理部
202 データ圧縮部(圧縮手段)
203 対象画像記録部
204 データ伸長処理部(伸長復号手段)
205 位置合わせ処理部(位置合わせ手段)
206 画素選択処理部(画素選択手段)
207 画像演算処理部(画像生成手段)
Claims (11)
- 複数枚の画像を取得する画像取得手段と、
前記複数枚の画像から基準画像を選択する基準画像選択手段と、
前記基準画像以外の対象画像を圧縮符号化する圧縮手段と、
圧縮された前記対象画像を伸長復号化する伸長復号手段と、
前記基準画像に対して、伸長復号化した前記対象画像を変形して位置合わせを行う位置合わせ手段と、
前記位置合わせを行った前記対象画像の各画素に対して、前記基準画像の対応する画素との相関を算出する相関算出手段と、
前記算出した相関に応じて、前記位置合わせを行った前記対象画像の各画素に含まれる画素情報を選択する画素選択手段と、
前記基準画像と、前記対象画像のうち前記画素選択手段で選択した画素情報を使用して、画像を生成する画像生成手段と、
を備えることを特徴とする画像処理装置。 - 複数枚の画像を取得する画像取得手段と、
前記複数枚の画像から基準画像を選択する基準画像選択手段と、
前記基準画像以外の対象画像を圧縮する圧縮手段と、
圧縮された前記対象画像を伸長復号化する伸長復号手段と、
前記基準画像に対して伸長復号化した前記対象画像を変形し位置合わせを行う位置合わせ手段と、
前記位置合わせを行った前記対象画像の各画素に対して、前記基準画像の対応する画素との相関を算出する相関算出手段と、
前記算出した相関に応じて、前記位置合わせを行った前記対象画像の各画素に含まれる画素情報の荷重加算係数を算出する画素荷重加算係数算出手段と、
前記基準画像と、前記対象画像の画素情報と、前記対象画像の画素荷重加算係数情報を使用して、画像を生成する画像生成手段と、
を備えることを特徴とする画像処理装置。 - 前記画像生成手段は、少なくとも前記対象画像に対して高解像な画像を生成する高解像画像生成手段であることを特徴とする請求項1又は2に記載の画像処理装置。
- 前記基準画像が非圧縮画像で有ることを特徴とする請求項1又は2に記載の画像処理装置。
- 前記基準画像が少なくとも前記対象画像に比べ低圧縮で圧縮符号化されていることを特徴とする請求項1又は2に記載の画像処理装置。
- 前記基準画像のデータがRAWデータで有ることを特徴とする、請求項4又は5に記載の画像処理装置。
- 前記基準画像のデータがフルカラーデータで有ることを特徴とする、請求項4又は5に記載の画像処理装置。
- 前記相関算出手段が、基準画像の画素の画素値と、前記基準画像の前記画素に対応する対象画像の画素の画素値の差分に基づいて、前記相関を算出することを特徴とする、請求項1から7のいずれかに記載の画像処理装置。
- 前記相関算出手段が基準画像と対象画像の対応する領域の変形度に基づいて相関値の演算を行うことを特徴とする、請求項1から8のいずれかに記載の画像処理装置。
- 複数枚の画像を取得する画像取得手順と、
前記複数枚の画像から基準画像を選択する基準画像選択手順と、
前記基準画像以外の対象画像を圧縮符号化する圧縮手順と、
圧縮された前記対象画像を伸長復号化する伸長復号手順と、
前記基準画像に対して、伸長復号化した前記対象画像を変形して位置合わせを行う位置合わせ手順と、
前記位置合わせを行った前記対象画像の各画素に対して、前記基準画像の対応する画素との相関を算出する相関算出手順と、
前記算出した相関に応じて、前記位置合わせを行った前記対象画像の各画素に含まれる画素情報を選択する画素選択手順と、
前記基準画像と、前記対象画像のうち前記画素選択手順で選択した画素情報を使用して、画像を生成する画像生成手順と、
を備えることを特徴とする画像処理プログラム。 - 複数枚の画像を取得する画像取得手順と、
前記複数枚の画像から基準画像を選択する基準画像選択手順と、
前記基準画像以外の対象画像を圧縮する圧縮手順と、
圧縮された前記対象画像を伸長復号化する伸長復号手順と、
前記基準画像に対して伸長復号化した前記対象画像を変形し位置合わせを行う位置合わせ手順と、
前記位置合わせを行った前記対象画像の各画素に対して、前記基準画像の対応する画素との相関を算出する相関算出手順と、
前記算出した相関に応じて、前記位置合わせを行った前記対象画像の各画素に含まれる画素情報の荷重加算係数を算出する画素荷重加算係数算出手順と、
前記基準画像と、前記対象画像の画素情報と、前記対象画像の画素荷重加算係数情報を使用して、画像を生成する画像生成手順と、
を備えることを特徴とする画像処理プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007215123A JP2009048487A (ja) | 2007-08-21 | 2007-08-21 | 画像処理装置及び画像処理プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007215123A JP2009048487A (ja) | 2007-08-21 | 2007-08-21 | 画像処理装置及び画像処理プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2009048487A true JP2009048487A (ja) | 2009-03-05 |
Family
ID=40500630
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007215123A Withdrawn JP2009048487A (ja) | 2007-08-21 | 2007-08-21 | 画像処理装置及び画像処理プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2009048487A (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2011024249A1 (ja) * | 2009-08-24 | 2011-03-03 | キヤノン株式会社 | 画像処理装置、画像処理方法、及び画像処理プログラム |
JP2013115651A (ja) * | 2011-11-29 | 2013-06-10 | Canon Inc | 画像処理装置、画像処理方法およびコンピュータプログラム |
JP2014107807A (ja) * | 2012-11-29 | 2014-06-09 | Mitsubishi Electric Corp | 画像処理装置、画像処理方法及び撮像装置 |
EP2908286A1 (en) | 2014-02-17 | 2015-08-19 | Canon Kabushiki Kaisha | Imaging system, imaging apparatus, and image processing apparatus |
JP2018182621A (ja) * | 2017-04-18 | 2018-11-15 | キヤノン株式会社 | 撮像装置、その制御方法、プログラム及び記録媒体 |
-
2007
- 2007-08-21 JP JP2007215123A patent/JP2009048487A/ja not_active Withdrawn
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2011024249A1 (ja) * | 2009-08-24 | 2011-03-03 | キヤノン株式会社 | 画像処理装置、画像処理方法、及び画像処理プログラム |
US8571356B2 (en) | 2009-08-24 | 2013-10-29 | Canon Kabushiki Kaisha | Image processing apparatus, image processing method, and image processing program |
JP5587322B2 (ja) * | 2009-08-24 | 2014-09-10 | キヤノン株式会社 | 画像処理装置、画像処理方法、及び画像処理プログラム |
JP2013115651A (ja) * | 2011-11-29 | 2013-06-10 | Canon Inc | 画像処理装置、画像処理方法およびコンピュータプログラム |
JP2014107807A (ja) * | 2012-11-29 | 2014-06-09 | Mitsubishi Electric Corp | 画像処理装置、画像処理方法及び撮像装置 |
EP2908286A1 (en) | 2014-02-17 | 2015-08-19 | Canon Kabushiki Kaisha | Imaging system, imaging apparatus, and image processing apparatus |
JP2018182621A (ja) * | 2017-04-18 | 2018-11-15 | キヤノン株式会社 | 撮像装置、その制御方法、プログラム及び記録媒体 |
US10748305B2 (en) | 2017-04-18 | 2020-08-18 | Canon Kabushiki Kaisha | Image capturing apparatus that can reduce amount of data that is to be recorded, method for controlling the image capturing apparatus, and storage medium |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5521202B2 (ja) | 多視点画像符号化方法、多視点画像復号方法、多視点画像符号化装置、多視点画像復号装置、多視点画像符号化プログラムおよび多視点画像復号プログラム | |
US7609899B2 (en) | Image processing apparatus, image processing method, and recording medium thereof to smooth tile boundaries | |
WO2013031367A1 (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
JP5727873B2 (ja) | 動きベクトル検出装置、符号化装置、及びこれらのプログラム | |
JP2008507190A (ja) | 動き補償方法 | |
US8126281B2 (en) | Image processing apparatus, method, and computer-readable medium for generating motion compensation images | |
US20070047651A1 (en) | Video prediction apparatus and method for multi-format codec and video encoding/decoding apparatus and method using the video prediction apparatus and method | |
JP5594841B2 (ja) | 画像符号化装置及び画像復号装置 | |
WO2018220711A1 (ja) | 画像処理装置 | |
JP2009048487A (ja) | 画像処理装置及び画像処理プログラム | |
JP5691374B2 (ja) | データ圧縮装置 | |
JP4776505B2 (ja) | 画像符号化装置、画像復号装置及び画像処理プログラム | |
JPH0795591A (ja) | ディジタル画像信号処理装置 | |
JP2955526B2 (ja) | 動画像符号化方法及び装置 | |
JPWO2017203941A1 (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
JP4580880B2 (ja) | 画像符号化装置、画像復号装置及び画像処理システム | |
JP5043849B2 (ja) | ビデオシーケンスにおける可変形状動き推定 | |
JP3470373B2 (ja) | ディジタル画像信号の処理装置および方法 | |
JP6152642B2 (ja) | 動画像圧縮装置、動画像復号装置およびプログラム | |
JP6435560B1 (ja) | 画像処理装置、画像処理方法、プログラム及び撮像装置 | |
JPH0851622A (ja) | ディジタル画像信号の処理装置 | |
Callicó et al. | Low-cost and real-time super-resolution over a video encoder IP | |
WO2016047250A1 (ja) | 信号処理装置、撮像装置および信号処理方法 | |
CN112383774B (zh) | 编码方法、编码器以及服务器 | |
JP2017200199A (ja) | 動画像圧縮装置、動画像復号装置およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20101102 |