JPWO2007122838A1 - 階層ベイズ法に基づく超解像法および超解像プログラム - Google Patents
階層ベイズ法に基づく超解像法および超解像プログラム Download PDFInfo
- Publication number
- JPWO2007122838A1 JPWO2007122838A1 JP2008511979A JP2008511979A JPWO2007122838A1 JP WO2007122838 A1 JPWO2007122838 A1 JP WO2007122838A1 JP 2008511979 A JP2008511979 A JP 2008511979A JP 2008511979 A JP2008511979 A JP 2008511979A JP WO2007122838 A1 JPWO2007122838 A1 JP WO2007122838A1
- Authority
- JP
- Japan
- Prior art keywords
- resolution
- image
- super
- distribution
- resolution image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 98
- 238000013398 bayesian method Methods 0.000 title 1
- 238000009826 distribution Methods 0.000 claims abstract description 100
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 23
- 238000006731 degradation reaction Methods 0.000 claims abstract description 16
- 238000009499 grossing Methods 0.000 claims description 12
- 238000004364 calculation method Methods 0.000 abstract description 20
- 241000212384 Bifora Species 0.000 description 11
- 238000012360 testing method Methods 0.000 description 7
- 238000002474 experimental method Methods 0.000 description 6
- 239000000203 mixture Substances 0.000 description 5
- 238000007619 statistical method Methods 0.000 description 4
- 238000007476 Maximum Likelihood Methods 0.000 description 3
- 238000005457 optimization Methods 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 230000004075 alteration Effects 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 238000013519 translation Methods 0.000 description 2
- 230000015556 catabolic process Effects 0.000 description 1
- 238000001444 catalytic combustion detection Methods 0.000 description 1
- 238000002939 conjugate gradient method Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000000875 corresponding effect Effects 0.000 description 1
- 238000005184 irreversible process Methods 0.000 description 1
- 238000001000 micrograph Methods 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 238000012887 quadratic function Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000002922 simulated annealing Methods 0.000 description 1
- 238000005309 stochastic process Methods 0.000 description 1
- 238000009827 uniform distribution Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4053—Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
- Editing Of Facsimile Originals (AREA)
Abstract
同一の対象を撮影した複数枚の観測画像をもとに、より高い解像度の画像を生成する超解像問題において、隠れマルコフ確率場事前分布とその周辺化をとりこんだアルゴリズムにより高解像度画像を推定する方法およびプログラムを提供する。劣化された複数の観測画像から原画像を復元する解像において、複数の観測画像についてベイズ推定の手法を用い、特に、画像の生成過程に、局所的な滑らかさと大域的な滑らかさの2つからなる階層的な事前分布を仮定する手法により、ボケた画像を推定してしまうという問題を回避し、またパラメータの推定精度を向上する。また、エッジ保存性を持つ隠れマルコフ確率場を事前分布とし、かつ周辺化をおこなうことで高精度の劣化過程の同定と高解像度の画像推定の両方を実現する。さらに、適切な近似により多項式オーダとして計算コストを小さくする。
Description
本発明は、画像処理に関し、特に複数の低解像度の画像を使用して劣化画像から原画像を高精度に復元する超解像の方法およびプログラムに関するものである。
超解像とは,カメラ、ビデオなどレンズやCCD(Charge Coupled Devices)で構成される結像系に内在する物理的限界を超えて,画像の解像度を高めることをいう。カメラ、ビデオなど撮像装置では、レンズやCCDなどの構成部品の品質が撮影される画像の解像度を決定する。また、レンズの収差に起因するボケやCCDの密度に依存するサブサンプリング,さらにCCDのショットノイズなど観測に混入するノイズにより,撮影された画像は、真の撮影対象の画像(原画像)よりも劣化したものになる.
レンズやCCDなどの構成部品のハードウエアの工夫では超えようのない物理的な限界を突破した高解像度の画像を得るために、ソフトウエア的な超解像処理を行い、カメラ、ビデオなどの撮像装置の能力を超える高解像度の画像を得る方法が研究されている。また、撮像対象の物体を僅かずつ異なる位置・角度から撮影した画像を複数枚用意できる場合、それら複数の観測画像の情報を統計的に情報処理することで、より高い解像度の画像を生成できることが知られている。
低解像度の画像を使用して劣化画像から原画像を高精度に復元する超解像手法のうち統計的な解法に関する従来の研究は、最尤法,MAP(maximum a posteriori)法,ベイズ統計法の3つに大別される。
超解像のアリゴリズムは数多くあるが、ほとんどは位置ズレ推定と高解像度画像推定は別のモデルにもとづいている。同一の確率モデルによる超解像法では、MAP法を用いたHardie らや(非特許文献1)、ベイズ統計法を採用したTipping&Bishopの方法が知られている(非特許文献2)。非特許文献2では、高解像度画像の周辺化を用いたベイズ統計法により、モデルパラメタの推定精度が著しく上昇することが示されている。Tipping&Bishopは、高解像度画像の事前分布に単純なガウス確率場を採用し、原画像の局所なめらかさ制約を事前分布として加え、事後確率最大化推定を行い、一般には困難な周辺化演算を解析的に実行可能にしている。
超解像のアリゴリズムは数多くあるが、ほとんどは位置ズレ推定と高解像度画像推定は別のモデルにもとづいている。同一の確率モデルによる超解像法では、MAP法を用いたHardie らや(非特許文献1)、ベイズ統計法を採用したTipping&Bishopの方法が知られている(非特許文献2)。非特許文献2では、高解像度画像の周辺化を用いたベイズ統計法により、モデルパラメタの推定精度が著しく上昇することが示されている。Tipping&Bishopは、高解像度画像の事前分布に単純なガウス確率場を採用し、原画像の局所なめらかさ制約を事前分布として加え、事後確率最大化推定を行い、一般には困難な周辺化演算を解析的に実行可能にしている。
R. C. Hardie, K. J. Barnard, and E. E. Armstrong, "Joint MAP registration and highresolution image estimation using a sequence of undersampled images," IEEE Transactions on Image Processing, vol. 6, no. 12, pp. 16211633, 1997.
M. E. Tipping and C. M. Bishop, "Bayesian image super-resolution," in Advances in Neural Processing Systems 15 (S. Becker, S. Thrun, and K. Obermayer, eds.), pp. 12791286, MIT Press, 2003.
Tipping&Bishopは、高解像度画像の周辺化を用いたベイズ統計法を超解像度に最初に適用し、周辺化によりモデルパラメタの推定精度が飛躍的に向上することを示した。Tipping&Bishopは、ガウス確率場と呼ばれる確率過程を原画像に仮定した(高解像度画像の事前分布に用いた単純なガウス確率場を用いた)ものであり、これは局所的な滑らかさ制約を加えたことに相当する。しかし、この滑らかさに対する強い制約のため、高解像度画像の推定の際にはボケた画像を推定してしまうという問題があった。
また、原画像の真の事前分布から離れた単純なガウス確率場の事前分布を用いてモデルパラメタの推定を行うため、モデルパラメタの推定精度が悪くなるという問題があった。
また、原画像の真の事前分布から離れた単純なガウス確率場の事前分布を用いてモデルパラメタの推定を行うため、モデルパラメタの推定精度が悪くなるという問題があった。
現実の画像は物体の境界にエッジが存在しており、局所的な滑らかさばかりでなく、近傍の画素とは相関のない大域的な滑らかさもあるので、両者を制御する隠れ変数を持ち、両者の特性を併せ持つ階層的な事前分布がより適切と考えられるが、こうした階層的な事前分布を用いると推定(画像復元)に多大な計算量が必要となる問題点があった。
上記問題点に鑑み、本発明は、現実の画像の性質に関する事前分布として、局所的な滑らかさと大域的な滑らかさの2つからなる階層的な事前分布を用いて、また、原画像の劣化過程におけるパラメータ推定にベイズ推定を用いることで、高精度の超解像を実現することを目的とする。
上記目的を達成するため、本発明の超解像法は、原画像に関連する複数の低解像度の画像から高解像度の画像を生成するための方法であって、
(1)前記複数の低解像度の画像を入力するステップと、
(2)前記高解像度の画像の事前分布を局所的な滑らかさ情報(各画素は近傍の画素と相関を有する)および大域的な平滑化情報(各画素は近傍の画素と相関をもたない)とを組み合わせた階層化分布と定義するステップと、
(3)前記高解像度の画像の事後分布をベイズ推定の手法を用いて推定するステップと、
(4)原画像の劣化過程のパラメータをベイズ推定の手法を用いて推定するステップと、
(5)ステップ(3)で推定した高解像度の画像の事後分布に基づいて、ステップ(4)で収束したパラメータを用い、高解像度の画像を生成するステップと、を含むことを特徴とするものである。
(1)前記複数の低解像度の画像を入力するステップと、
(2)前記高解像度の画像の事前分布を局所的な滑らかさ情報(各画素は近傍の画素と相関を有する)および大域的な平滑化情報(各画素は近傍の画素と相関をもたない)とを組み合わせた階層化分布と定義するステップと、
(3)前記高解像度の画像の事後分布をベイズ推定の手法を用いて推定するステップと、
(4)原画像の劣化過程のパラメータをベイズ推定の手法を用いて推定するステップと、
(5)ステップ(3)で推定した高解像度の画像の事後分布に基づいて、ステップ(4)で収束したパラメータを用い、高解像度の画像を生成するステップと、を含むことを特徴とするものである。
原画像に対して、位置ずれ、回転、ボケ、低解像化、ノイズなどが加わることで、観測画像が得られるというのは一般的な状況である。このように劣化された観測画像から原画像を復元する解像は、劣化が不可逆過程であるため、たとえ劣化過程が既知であったとしても不可能であるが、観測画像が複数あり劣化過程が観測画像ごとに独立に近い場合は、それら複数の観測画像について一種の多数決を用いることで推定可能となる。
本発明の超解像法は、この多数決に統計的推定法の一種であるベイズ推定の手法を用いることで、高精度の解像が可能となる超解像を実現する。特に、画像の生成過程に、局所的な滑らかさと大域的な滑らかさの2つからなる階層的な事前分布を仮定する手法により、高解像度画像の推定の際にはボケた画像を推定してしまうという問題を回避する。
また、真の事前分布に近い、局所的な滑らかさと大域的な滑らかさの2つからなる階層的な事前分布を仮定することで、パラメータの推定精度を向上する。
本発明の超解像法では、原画像の劣化過程のパラメータ(位置ズレなどのパラメータ)については陽に推定し、位置ズレなどのパラメータを推定する際に、高解像度画像に関しては陽に定めず確率分布を推定し、それらの期待値をとるような周辺化によってオーバーフィッティングを防いでいるが、位置ズレなどのパラメータに関しても陽に定めず、確率分布を推定するようなベイズ統計法を用いることも可能である。
また、真の事前分布に近い、局所的な滑らかさと大域的な滑らかさの2つからなる階層的な事前分布を仮定することで、パラメータの推定精度を向上する。
本発明の超解像法では、原画像の劣化過程のパラメータ(位置ズレなどのパラメータ)については陽に推定し、位置ズレなどのパラメータを推定する際に、高解像度画像に関しては陽に定めず確率分布を推定し、それらの期待値をとるような周辺化によってオーバーフィッティングを防いでいるが、位置ズレなどのパラメータに関しても陽に定めず、確率分布を推定するようなベイズ統計法を用いることも可能である。
ここで、局所的な滑らかさと大域的な滑らかさの2つからなる階層的な事前分布とは、原画像の境界を表現し得る混合分布のことで、各画素は近傍の画素と相関を有するか、或いは、全く違う値をとってもよいとする原画像の性質に関する知識である。
また、本発明の超解像法は、原画像に関連する複数の低解像度の画像から高解像度の画像を生成するための方法であって、
(1)前記複数の低解像度の画像を入力するステップと、
(2)前記高解像度の画像の事前分布を局所的な滑らかさ情報(各画素は近傍の画素と相関を有する)および大域的な平滑化情報(各画素は近傍の画素と相関をもたない)とを組み合わせた階層化分布と定義するステップと、
(3)前記高解像度の画像の事後分布をベイズ推定の手法を用いて推定するステップと、
(4)原画像の劣化過程のパラメータをベイズ推定の手法を用いて推定するステップと、
(5)前記パラメータの値が収束するまで、ステップ(3)〜(4)を反復するステップと、
(6)ステップ(3)で推定した高解像度の画像の事後分布に基づいて、ステップ(4)で収束したパラメータを用い、高解像度の画像を生成するステップと、を含むことを特徴とするものである。
(1)前記複数の低解像度の画像を入力するステップと、
(2)前記高解像度の画像の事前分布を局所的な滑らかさ情報(各画素は近傍の画素と相関を有する)および大域的な平滑化情報(各画素は近傍の画素と相関をもたない)とを組み合わせた階層化分布と定義するステップと、
(3)前記高解像度の画像の事後分布をベイズ推定の手法を用いて推定するステップと、
(4)原画像の劣化過程のパラメータをベイズ推定の手法を用いて推定するステップと、
(5)前記パラメータの値が収束するまで、ステップ(3)〜(4)を反復するステップと、
(6)ステップ(3)で推定した高解像度の画像の事後分布に基づいて、ステップ(4)で収束したパラメータを用い、高解像度の画像を生成するステップと、を含むことを特徴とするものである。
本発明においては、高解像度画像を隠れ変数とし、その確率分布(のパラメータ)と、位置ズレなどのパラメータと交互に最適化する方法(EMアルゴリズム)を用いているが、これら2種類のパラメータは同時に推定することも、交互に最適化することも可能である。どちらの場合でもこれら2種類のパラメータに関しての自由エネルギの最小化となるようにパラメータを収束させるのである。
また、本発明の超解像法は、上記のステップ(2)における高解像度の画像の事前分布を、エッジ保存性を有する隠れマルコフ確率場と定義することを特徴とする。
エッジ保存性を持つ隠れマルコフ確率場を事前分布とし、かつ周辺化をおこなうことで高精度の劣化過程の同定と高解像度の画像推定の両方を実現するのである。
エッジ保存性を持つ隠れマルコフ確率場を事前分布とし、かつ周辺化をおこなうことで高精度の劣化過程の同定と高解像度の画像推定の両方を実現するのである。
また、本発明の超解像法は、上記のベイズ推定の手法を用いて推定するステップ(3)およびステップ(4)において、推定演算が多項式オーダとなるように所定の近似を行うことを特徴とする。
階層的な事前分布を仮定することで、推定が指数オーダとなり推定に多大な計算量が必要となるが、適切な近似により多項式オーダとして計算コストを小さくするのである。
ここで、適切な近似とは、事後分布を画素ごとに完全に独立なmixture of Gaussiansで置き換えるという近似手法である(詳細については後述する)。なお、画素ごとに完全に独立なmixture of Gaussiansで置き換えなくとも、近傍画素間だけに相関を許すといった近似計算も可能である。
階層的な事前分布を仮定することで、推定が指数オーダとなり推定に多大な計算量が必要となるが、適切な近似により多項式オーダとして計算コストを小さくするのである。
ここで、適切な近似とは、事後分布を画素ごとに完全に独立なmixture of Gaussiansで置き換えるという近似手法である(詳細については後述する)。なお、画素ごとに完全に独立なmixture of Gaussiansで置き換えなくとも、近傍画素間だけに相関を許すといった近似計算も可能である。
次に、本発明の超解像プログラムは、コンピュータに、原画像に関連する複数の低解像度の画像から高解像度の画像を生成させるためのプログラムであって、
(1)原画像の複数の低解像度の画像を入力させる手順と、
(2)高解像度の画像の事前分布を局所的な滑らかさ情報(各画素は近傍の画素と相関を有する)および大域的な平滑化情報(各画素は近傍の画素と全く相関が無い)とを組み合わせた階層化分布と定義させる手順と、
(3)高解像度の画像の事後分布をベイズ推定アルゴリズムにより推定させる手順と、
(4)原画像の劣化過程のパラメータをベイズ推定アルゴリズムにより推定させる手順と、
(5)手順(3)で推定した高解像度の画像の事後分布に基づいて、手順(4)で収束したパラメータを用い、高解像度の画像を生成させる手順を、を実行させることを特徴とする。
(1)原画像の複数の低解像度の画像を入力させる手順と、
(2)高解像度の画像の事前分布を局所的な滑らかさ情報(各画素は近傍の画素と相関を有する)および大域的な平滑化情報(各画素は近傍の画素と全く相関が無い)とを組み合わせた階層化分布と定義させる手順と、
(3)高解像度の画像の事後分布をベイズ推定アルゴリズムにより推定させる手順と、
(4)原画像の劣化過程のパラメータをベイズ推定アルゴリズムにより推定させる手順と、
(5)手順(3)で推定した高解像度の画像の事後分布に基づいて、手順(4)で収束したパラメータを用い、高解像度の画像を生成させる手順を、を実行させることを特徴とする。
また、本発明の超解像プログラムは、コンピュータに、原画像に関連する複数の低解像度の画像から高解像度の画像を生成させるためのプログラムであって、
(1)原画像の複数の低解像度の画像を入力させる手順と、
(2)高解像度の画像の事前分布を局所的な滑らかさ情報(各画素は近傍の画素と相関を有する)および大域的な平滑化情報(各画素は近傍の画素と全く相関が無い)とを組み合わせた階層化分布として判断させる手順と、
(3)高解像度の画像の事後分布をベイズ推定アルゴリズムにより推定させる手順と、
(4)原画像の劣化過程のパラメータをベイズ推定アルゴリズムにより推定させる手順と、
(5)前記パラメータの値が収束するまで、手順(3)〜(4)を反復させる手順と、
(6)手順(3)で推定した高解像度の画像の事後分布に基づいて、手順(4)で収束したパラメータを用い、高解像度の画像を生成させる手順と、を実行させることを特徴とする。
(1)原画像の複数の低解像度の画像を入力させる手順と、
(2)高解像度の画像の事前分布を局所的な滑らかさ情報(各画素は近傍の画素と相関を有する)および大域的な平滑化情報(各画素は近傍の画素と全く相関が無い)とを組み合わせた階層化分布として判断させる手順と、
(3)高解像度の画像の事後分布をベイズ推定アルゴリズムにより推定させる手順と、
(4)原画像の劣化過程のパラメータをベイズ推定アルゴリズムにより推定させる手順と、
(5)前記パラメータの値が収束するまで、手順(3)〜(4)を反復させる手順と、
(6)手順(3)で推定した高解像度の画像の事後分布に基づいて、手順(4)で収束したパラメータを用い、高解像度の画像を生成させる手順と、を実行させることを特徴とする。
また、上記の超解像プログラムの手順(2)における高解像度の画像の事前分布を、エッジ保存性を有する隠れマルコフ確率場と定義することが好ましい。エッジ保存性を持つ隠れマルコフ確率場を事前分布とし、かつ周辺化をおこなうことで高精度の劣化過程の同定と高解像度の画像推定の両方を実現するためである。
さらに、上記の超解像プログラムのベイズ推定アルゴリズムにより推定する手順(3)および手順(4)において、推定演算が多項式オーダとなるように所定の近似演算を行う手順を実行させることが好ましい。ベイズ推定アルゴリズムによる推定が指数オーダとなり推定に多大な計算量が必要となるところを、適切な近似により多項式オーダとして計算コストを小さくすることができるためである。
本発明の超解像法および超解像プログラムによれば、輪郭がはっきりとした高解像度画像を得ることができる。
また、本発明の超解像法および超解像プログラムによれば、全ての計算を多項式オーダに収める近似手法を用いることで、計算コストを減少することができる。
また、本発明の超解像法および超解像プログラムによれば、全ての計算を多項式オーダに収める近似手法を用いることで、計算コストを減少することができる。
以下、図面を参照しつつ、本発明の超解像法および超解像プログラムの実施例を説明する。図1に、本発明の超解像法のフローチャートを示す。
(1)先ず、2個以上の低解像度の画像を入力する(ステップS10)。ここで、低解像度の画像とは、原画像に対して、位置ずれ、回転、ボケ、ノイズなどが印加されたり、レンズの収差に起因するボケやCCDの密度に依存するサブサンプリング,さらにCCDのショットノイズなど観測に混入するノイズによって、劣化された画像を指している。
(2)次に、高解像度の画像の事前分布について、局所的な滑らかさ情報(各画素は近傍の画素と相関を有する)および大域的な平滑化情報(各画素は近傍の画素と全く相関が無い)とを組み合わせた階層化分布と定義する(ステップS20)。
具体的には、画像の事前分布を、下式で示されるエッジ保存性を有する隠れマルコフ確率場と定義する。
具体的には、画像の事前分布を、下式で示されるエッジ保存性を有する隠れマルコフ確率場と定義する。
ここで、Σηはすべてのηi に関する和Ση1・・・ΣηPo を表わすものである。また、隠れ変数ηiは、画素i のコネクティビティを表現するもので、ηi =1のときは近傍の画素値と近い値を、ηi=0のときは近傍に関係ない値をとりやすくするものである。
ηの導入により、画素値の断裂を表現することが可能になり、エッジを保持した推定が期待できることになる。また、本事前分布はエッジを意識した分布であるため、遮蔽などによってエッジの生じる実際の画像の分布に適合しており、位置ズレの推定においても高精度を示すことが期待できるのである。
ηの導入により、画素値の断裂を表現することが可能になり、エッジを保持した推定が期待できることになる。また、本事前分布はエッジを意識した分布であるため、遮蔽などによってエッジの生じる実際の画像の分布に適合しており、位置ズレの推定においても高精度を示すことが期待できるのである。
ここで、ηの導入の利点について、経済性と平滑化の2つの側面を説明する。
経済性の側面では、画素間に隠れ変数を付与するのではなく,画素ごとに付与するηの導入は必要とされる近似の削減につながり、周辺化の計算を多項式時間で実行するために利便性が高いといった利点がある。
また、平滑化の側面では、1 つのηi は画素i の近傍の画素全てに影響を及ぶため、ηiを導入する方がより滑らかな画像になりやすく、真の分布の性質に適合するといった利点がある。
経済性の側面では、画素間に隠れ変数を付与するのではなく,画素ごとに付与するηの導入は必要とされる近似の削減につながり、周辺化の計算を多項式時間で実行するために利便性が高いといった利点がある。
また、平滑化の側面では、1 つのηi は画素i の近傍の画素全てに影響を及ぶため、ηiを導入する方がより滑らかな画像になりやすく、真の分布の性質に適合するといった利点がある。
あるηの実現が与えられたときの高解像度画像xの分布は、下式で示されるギブス分布をとる。
ここで、Zpri は正規化項で、ρ(>0)は逆温度で、Eは下式のように定義されるエネルギ関数である。
但し、S(x、η)とG(x、η)は、下式で示されるものである。
c(>0)により、S(x、η)とG(x、η)のバランスが調節されることになる。この第1項S(x、η)は、ある画素の値が近傍の画素値と近いほど確率が高いことを要請している局所的な滑らかさ制約である。一方、第2項G(x、η)は、近傍の画素値に関係無く、νに近いほど確率が高いという条件を課す大域的な平滑化項である。この2つのどちらをとるかをηで制御する。すなわち、ηi=1のとき、画素i は第1項Sを小さくしようと近傍の画素と近い値をとろうとし、ηi =0のとき画素i は第2項を小さくしようと近傍の画素値によらずνに近い値をとろうとする。ηが与えられたとき、エネルギ関数Eは、常に非負、かつ、xの2次関数であるから、正定値対称行列Aを用いて下式で表される。
上式のエネルギ関数Eにおいて、各項の行列、変数を下式に示す。
上記から、あるηの実現が与えられたときの高解像度画像の事前分布P(x|η)は、結局のところ、ガウス分布であり下式で表される。
ここで、隠れ変数ηの事前分布P(η)は、各変数毎に独立に、確率aでηi=1,確率1−aでηi=0をとる分布、すなわち下式で表されるベルヌイ分布に設定する。
以上より、エッジ保存性を有する隠れマルコフ確率場と定義した画像の事前分布は、混合ガウス分布となり、混合数は2Po,混合比は上式のBernoulli(η|a)、成分は下式で示される。
(3)次に、高解像度の画像の事後分布および原画像の劣化過程のパラメータを推定する。この推定は、2Po個の項からなる和を含むため、現実的な時間で計算するのは不可能である。
本発明は、現実的な時間で算出すべく、試験分布を計算の容易な形にとったEM(expectation−maximization)アルゴリズムを用いている。
EMアルゴリズムは、隠れ変数をもつ確率モデルにおいて最尤解を求めるための計算手順であり、自由エネルギのEステップとMステップによる交代最適化を反復するアルゴリズムである。隠れ変数は、直接観測できない高解像度画像xと離散変数ηであると仮定する。EMアルゴリズムを用いると、直接に尤度を計算するのが困難な場合にでも、より計算の容易な自由エネルギを計算することで効率的に最尤解を求めることができるのである。
本発明は、現実的な時間で算出すべく、試験分布を計算の容易な形にとったEM(expectation−maximization)アルゴリズムを用いている。
EMアルゴリズムは、隠れ変数をもつ確率モデルにおいて最尤解を求めるための計算手順であり、自由エネルギのEステップとMステップによる交代最適化を反復するアルゴリズムである。隠れ変数は、直接観測できない高解像度画像xと離散変数ηであると仮定する。EMアルゴリズムを用いると、直接に尤度を計算するのが困難な場合にでも、より計算の容易な自由エネルギを計算することで効率的に最尤解を求めることができるのである。
EMアルゴリズムは、自由エネルギF[q,θ]の交代最小化として定式化される。自由エネルギF[q,θ]は,確率密度関数qの汎関数かつモデルパラメタθの関数であり、下式のように定義される。
EMアルゴリズムの実行に際しては、まず適当なモデルパラメタの初期値θ0を用意する。EMアルゴリズムの第l(>1)反復における計算は、下式で表されるEステップとMステップの2ステップからなる。収束に至るまで反復してEステップとMステップの計算をくりかえし、収束したときのθlをモデルパラメタの推定値とする。
図1におけるフローでは、高解像度の画像の事後分布をベイズ推定の手法を用いて推定するステップS30と、原画像の劣化過程のパラメータをベイズ推定の手法を用いて推定するステップS40と、パラメータの値が収束するまで、ステップS30〜ステップS40を反復するステップS50となる。
ステップS30における高解像度の画像の事後分布の推定は、指数オーダの項からなる和を含むことから、現実的な時間で計算するのは困難である。そこで、本発明では、試験分布q を任意の確率分布にとるのではなく、自由エネルギの計算が可能であるような簡単な形に限定することでEMアルゴリズムを実行可能とするのである。すなわち、試験分布q(η,x)を次元ごとに独立に因子分解された下式で表される混合ガウス分布にとるのである。
上式により定義される試験分布は、各次元が独立であり、画素i に対し,ηi が1か0かに対応してガウス分布が2つ存在し、それぞれの成分の混合比はκiηi,平均はψiηi,分散はξiηiである。
また、自由エネルギは、因子化試験分布q(η,x|τ)のもとではもはや汎関数ではなく、試験分布のパラメータτとモデルパラメタθの関数F(τ,θ)となる。これにともないEステップとMステップは下式と表すことが可能となる。
この自由エネルギF(τ,θ)は,結合分布を連鎖律にしたがい展開して、下式の如く分解されることになる。
ここで、各項のFc(τ)、Fs(τ)、Fo(τ,θ)、FH(τ)は、下式から算出される。
(6)図1に示されるフローで、最後に、ステップ(3)で推定した高解像度の画像の事後分布に基づいて、ステップ(4)で収束したパラメータを用い、高解像度の画像を生成する(ステップS60)。
これにより、輪郭が明瞭な高精度の高解像度の画像を復元することができる。
これにより、輪郭が明瞭な高精度の高解像度の画像を復元することができる。
以下、実施例1で、人工的に生成した同じ観測画像データに対して本発明の超解像法を適用して、位置ズレの推定や高解像度画像の推定を行い、その性能をTipping&Bishopのガウス確率場を事前分布とした方法と比較する。
先ず、高解像度画像を用意し、これに平行移動,回転,ボケ,ダウンサンプリングを加えて16枚の低解像度画像を人工的に作り、さらにガウスノイズを加えて観測画像データを生成した。平行移動量と回転角度は、それぞれ区間[−2,2],[−4π/180,4π/180](ラジアン)の一様分布にしたがってサンプリングした。PSF(Point spread function)には、ガウスPSFを適用し、パラメータγ は2に設定した。また、縮小率は縦横1/4倍とした。ノイズ条件のみを変えて4つのデータを作成した。ノイズ条件の基準は、下式に示されるBSNR (Blurred Signal to Noise Ratio)としている。
ここで、μはノイズを加える前の低解像度劣化画像の画素値の平均値であり、下式で表される。
また、σ2はガウスノイズの分散である。3つのデータセットのノイズ条件は、ノイズ無し,BSNRが30db,20dbである。
アルゴリズムの実行に際してのパラメータの初期化は次のようにした。モデルパラメタθ=[{St, φt}t, γ] については、Stとφtはすべてゼロに設定し、γ は4と設定した。
試験分布のパラメータτ=[κ,ψ,ξ]については、κはすべて0.5とし、ψは16枚の観測画像を高解像度に線型補完した画像の平均値とし、ξは区間[0.05−0.003,0.05−0.003] の一様分布から生成した。
試験分布のパラメータτ=[κ,ψ,ξ]については、κはすべて0.5とし、ψは16枚の観測画像を高解像度に線型補完した画像の平均値とし、ξは区間[0.05−0.003,0.05−0.003] の一様分布から生成した。
ここで、勾配ベースの数値最適化法には、scaled conjugate gradient 法を用いた。
実験に用いた原画像を図2に示す。これより人工的に生成された16枚の観測画像を図3に示す。観測画像のうちの1枚を拡大した画像を図4に示す。
人工的に生成した同じ観測画像(図3に示したもの)に対し、本発明の超解像法を用いて、位置ズレの推定や高解像度画像の推定を行ったノイズ無しのデータからの超解像度画像を図5(a)に示す。比較のために、Tipping&Bishopのガウス確率場を事前分布とした方法を用いて推定を行った超解像度画像を図5(b)に示す。
また、本発明の超解像法を用いて推定を行った、ノイズ条件が30db BSNRのデータからの超解像度画像を図6(a)に示す。比較のために、Tipping&Bishopのガウス確率場を事前分布とした方法を用いて推定を行った超解像度画像を図6(b)に示す。
実験に用いた原画像を図2に示す。これより人工的に生成された16枚の観測画像を図3に示す。観測画像のうちの1枚を拡大した画像を図4に示す。
人工的に生成した同じ観測画像(図3に示したもの)に対し、本発明の超解像法を用いて、位置ズレの推定や高解像度画像の推定を行ったノイズ無しのデータからの超解像度画像を図5(a)に示す。比較のために、Tipping&Bishopのガウス確率場を事前分布とした方法を用いて推定を行った超解像度画像を図5(b)に示す。
また、本発明の超解像法を用いて推定を行った、ノイズ条件が30db BSNRのデータからの超解像度画像を図6(a)に示す。比較のために、Tipping&Bishopのガウス確率場を事前分布とした方法を用いて推定を行った超解像度画像を図6(b)に示す。
本発明の超解像法を用いた推定結果の超解像度画像も、Tipping&Bishopのガウス確率場を事前分布とした方法を用いた推定結果の超解像度画像も、双方とも観察画像では読めなかった文字が充分判別できる程度までの解像度の復元が見られた。図5および図6から、本発明の超解像法を用いた推定結果の超解像度画像の方が、Tipping&Bishopのガウス確率場を事前分布とした方法をよりシャープな画像を推定していることが理解できる。
モデルパラメタと高解像度画像の推定の平均2乗誤差を、3つのデータ(ノイズ条件が無し,30db BSNR,20db BSNR)それぞれについて下表1及び図7に示す。本発明の超解像法を用いた推定結果の超解像度画像の方が、Tipping&Bishopのガウス確率場を事前分布とした方法を用いた推定結果の超解像度画像よりも、精度が高く、平行移動量はいずれもサブピクセル精度での推定が実現できていることが観察される。
上述した実施例1では、事後分布の期待値(下式を参照)を高解像度画像の推定値としていた。
厳密な期待値計算には現実的な時間では実行不可能な積分計算がともなうため、計算コストをおさえるために適当な近似を行う必要がある。実施例1では近似に、事後分布を画素ごとに完全に独立なmixture of Gaussiansで置き換えるというものである。この近似により現実的な時間で推定値が計算可能になるが、近似による誤差のために、ノイズに引っ張られたざらついた高解像度画像を推定するという欠点が生じている。
実施例2では、事後分布の最大値(MAP値)を推定画像と仮定し計算を行うものである。
実施例2では、事後分布の最大値(MAP値)を推定画像と仮定し計算を行うものである。
本実施例2では、ηについて和をとらず、ηもxと同時に最適化を行っている。確率的な最適化手法であるシミュレーティッド・アニーリングを用いることで、モデルに近似を導入することなく、短時間での計算が可能となる。
図8が実施例2の実験に用いた原画像で、図9が16枚の観測画像集合である。
図10の(a)はノイズ無しの観測画像をもとに期待値推定を行った結果の高解像度画像で、(b)はノイズ無しの観測画像をもとにMAP推定を行った結果の高解像度画像である。
図11の(a)はSN比が20dBの観測画像をもとに期待値推定を行った結果の高解像度画像で、(b)は20dBの観測画像をもとにMAP推定を行った結果の高解像度画像である。
図10と図11を観察すると、MAP推定は、期待値推定に比べて非常にはっきりした高解像度画像が得られていることが理解できる。
図8が実施例2の実験に用いた原画像で、図9が16枚の観測画像集合である。
図10の(a)はノイズ無しの観測画像をもとに期待値推定を行った結果の高解像度画像で、(b)はノイズ無しの観測画像をもとにMAP推定を行った結果の高解像度画像である。
図11の(a)はSN比が20dBの観測画像をもとに期待値推定を行った結果の高解像度画像で、(b)は20dBの観測画像をもとにMAP推定を行った結果の高解像度画像である。
図10と図11を観察すると、MAP推定は、期待値推定に比べて非常にはっきりした高解像度画像が得られていることが理解できる。
カメラ、ビデオなどは、その性能に応じて低解像度の画像を得るものであるが、そこから元の高解像度画像を復元することには大きなニーズがある。特に、同じ原画像から複数の劣化画像が得られることが仮定できる場合が多い。例えば手振れしながら撮像したビデオ画像の場合、時間局所的には同じ対象を撮ったものとみなすことができ、そうした連続した画像から元の対象を高精度で復元することができれば多大な応用になることは明らかである。他の例で言うならば、顕微鏡画像は、顕微鏡の物理的制約(例えば対物レンズのボケ過程、光の回折限界など)に応じて劣化が起こるが、多くの顕微鏡では、サンプリング周波数に応じて複数の撮影ができるため、それを用いて高精度で対象を復元できれば物理系の限界性能を超えた精度が実現でき得ることになる。本発明の超解像法および超解像プログラムは、こうした各種画像の復元に関するものであるため、多くの産業分野での応用が見込まれる。
Claims (8)
- 原画像に関連する複数の低解像度の画像から高解像度の画像を生成するための方法であって、
(1)前記複数の低解像度の画像を入力するステップと、
(2)前記高解像度の画像の事前分布を局所的な滑らかさ情報(各画素は近傍の画素と相関を有する)および大域的な平滑化情報(各画素は近傍の画素と全く相関が無い)とを組み合わせた階層化分布と定義するステップと、
(3)前記高解像度の画像の事後分布をベイズ推定の手法を用いて推定するステップと、
(4)原画像の劣化過程のパラメータをベイズ推定の手法を用いて推定するステップと、
(5)ステップ(3)で推定した高解像度の画像の事後分布に基づいて、ステップ(4)で収束したパラメータを用い、高解像度の画像を生成するステップとを含むことを特徴とする超解像法。 - 原画像に関連する複数の低解像度の画像から高解像度の画像を生成するための方法であって、
(1)前記複数の低解像度の画像を入力するステップと、
(2)前記高解像度の画像の事前分布を局所的な滑らかさ情報(各画素は近傍の画素と相関を有する)および大域的な平滑化情報(各画素は近傍の画素と全く相関が無い)とを組み合わせた階層化分布と定義するステップと、
(3)前記高解像度の画像の事後分布をベイズ推定の手法を用いて推定するステップと、
(4)原画像の劣化過程のパラメータをベイズ推定の手法を用いて推定するステップと、
(5)前記パラメータの値が収束するまで、ステップ(3)〜(4)を反復するステップと、
(6)ステップ(3)で推定した高解像度の画像の事後分布に基づいて、ステップ(4)で収束したパラメータを用い、高解像度の画像を生成するステップとを含むことを特徴とする超解像法。 - ステップ(2)における高解像度の画像の事前分布を、エッジ保存性を有する隠れマルコフ確率場と定義することを特徴とする請求項1又は2に記載の超解像法。
- 前記ベイズ推定の手法を用いて推定するステップ(3)およびステップ(4)において、推定演算が多項式オーダとなるように所定の近似を行うことを特徴とする請求項3に記載の超解像法。
- コンピュータに、原画像に関連する複数の低解像度の画像から高解像度の画像を生成させるためのプログラムであって、
(1)原画像の複数の低解像度の画像を入力させる手順と、
(2)高解像度の画像の事前分布を局所的な滑らかさ情報(各画素は近傍の画素と相関を有する)および大域的な平滑化情報(各画素は近傍の画素と全く相関が無い)とを組み合わせた階層化分布と定義させる手順と、
(3)高解像度の画像の事後分布をベイズ推定アルゴリズムにより推定させる手順と、
(4)原画像の劣化過程のパラメータをベイズ推定アルゴリズムにより推定させる手順と、
(5)手順(3)で推定した高解像度の画像の事後分布に基づいて、手順(4)で収束したパラメータを用い、高解像度の画像を生成させる手順を、
を実行させるための超解像プログラム。 - コンピュータに、原画像に関連する複数の低解像度の画像から高解像度の画像を生成させるためのプログラムであって、
(1)原画像の複数の低解像度の画像を入力させる手順と、
(2)高解像度の画像の事前分布を局所的な滑らかさ情報(各画素は近傍の画素と相関を有する)および大域的な平滑化情報(各画素は近傍の画素と全く相関が無い)とを組み合わせた階層化分布として判断させる手順と、
(3)高解像度の画像の事後分布をベイズ推定アルゴリズムにより推定させる手順と、
(4)原画像の劣化過程のパラメータをベイズ推定アルゴリズムにより推定させる手順と、
(5)前記パラメータの値が収束するまで、手順(3)〜(4)を反復させる手順と、
(6)手順(3)で推定した高解像度の画像の事後分布に基づいて、手順(4)で収束したパラメータを用い、高解像度の画像を生成させる手順と、
を実行させるための超解像プログラム。 - 手順(2)における高解像度の画像の事前分布を、エッジ保存性を有する隠れマルコフ確率場と定義させることを特徴とする請求項5又は6に記載の超解像プログラム。
- 前記ベイズ推定アルゴリズムにより推定する手順(3)および手順(4)において、推定演算が多項式オーダとなるように所定の近似演算を行わせる手順を実行させるための請求項7に記載の超解像プログラム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006120777 | 2006-04-25 | ||
JP2006120777 | 2006-04-25 | ||
PCT/JP2007/051936 WO2007122838A1 (ja) | 2006-04-25 | 2007-02-05 | 階層ベイズ法に基づく超解像法および超解像プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JPWO2007122838A1 true JPWO2007122838A1 (ja) | 2009-09-03 |
Family
ID=38624756
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008511979A Pending JPWO2007122838A1 (ja) | 2006-04-25 | 2007-02-05 | 階層ベイズ法に基づく超解像法および超解像プログラム |
Country Status (2)
Country | Link |
---|---|
JP (1) | JPWO2007122838A1 (ja) |
WO (1) | WO2007122838A1 (ja) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102243711B (zh) * | 2011-06-24 | 2013-05-22 | 南京航空航天大学 | 一种基于邻域嵌套的图像超分辨率重建方法 |
JP6155182B2 (ja) * | 2013-12-11 | 2017-06-28 | 満男 江口 | Tv映像向け超解像処理方法および同方法によるtv映像向け超解像処理装置、第1〜第14超解像処理プログラム、並びに第1〜第4記憶媒体 |
JP6126523B2 (ja) * | 2013-12-11 | 2017-05-10 | 満男 江口 | Tv映像向け加速超解像処理方法及び同方法によるtv映像向け加速超解像処理装置、第1〜6加速超解像処理プログラム、並びに第1〜2記憶媒体 |
JP6129759B2 (ja) * | 2014-02-03 | 2017-05-17 | 満男 江口 | Simd型超並列演算処理装置向け超解像処理方法、装置、プログラム及び記憶媒体 |
CN104021529B (zh) * | 2014-06-17 | 2017-01-11 | 中国电子科技集团公司第二十八研究所 | 一种模糊图像非盲复原方法 |
CN105160627B (zh) * | 2015-08-31 | 2020-06-23 | Tcl科技集团股份有限公司 | 一种基于分类自学习的超分辨率图像获取方法及系统 |
WO2023277024A1 (ja) * | 2021-06-30 | 2023-01-05 | 国立大学法人東海国立大学機構 | 解析方法及び解析装置 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4095204B2 (ja) * | 1999-06-11 | 2008-06-04 | キヤノン株式会社 | 画像処理装置、方法及びコンピュータ読み取り可能な記憶媒体 |
US6766067B2 (en) * | 2001-04-20 | 2004-07-20 | Mitsubishi Electric Research Laboratories, Inc. | One-pass super-resolution images |
US7352919B2 (en) * | 2004-04-28 | 2008-04-01 | Seiko Epson Corporation | Method and system of generating a high-resolution image from a set of low-resolution images |
-
2007
- 2007-02-05 JP JP2008511979A patent/JPWO2007122838A1/ja active Pending
- 2007-02-05 WO PCT/JP2007/051936 patent/WO2007122838A1/ja active Search and Examination
Also Published As
Publication number | Publication date |
---|---|
WO2007122838A1 (ja) | 2007-11-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Kumar et al. | Videoflow: A flow-based generative model for video | |
Belekos et al. | Maximum a posteriori video super-resolution using a new multichannel image prior | |
Chantas et al. | Variational Bayesian image restoration based on a product of $ t $-distributions image prior | |
Aguerrebere et al. | Fundamental limits in multi-image alignment | |
JPWO2007122838A1 (ja) | 階層ベイズ法に基づく超解像法および超解像プログラム | |
US8576289B2 (en) | Blur correction device and blur correction method | |
Qin et al. | Video superresolution reconstruction based on subpixel registration and iterative back projection | |
JP2010511241A5 (ja) | ||
JP2019023798A (ja) | 超解像装置およびプログラム | |
Jang et al. | Optimal sampling for shape from focus by using gaussian process regression | |
US20230394632A1 (en) | Method and image processing device for improving signal-to-noise ratio of image frame sequences | |
JP5198500B2 (ja) | 信号処理装置及びプログラム | |
Tang | Blind super-resolution image reconstruction based on weighted POCS | |
Demirel et al. | Piecewise constant sequential importance sampling for fast particle filtering | |
Rezayi et al. | Huber Markov random field for joint super resolution | |
JP5076758B2 (ja) | 画像処理方法およびプログラム | |
Kanemura et al. | Hyperparameter estimation in Bayesian image superresolution with a compound Markov random field prior | |
Hsieh et al. | Video Super-Resolution by Motion Compensated Iterative Back-Projection Approach. | |
JP2009146231A (ja) | 超解像法および超解像プログラム | |
Rezayi et al. | Joint image registration and super-resolution based on combinational coefficient matrix | |
Wolter et al. | Object-centered Fourier Motion Estimation and Segment-Transformation Prediction. | |
Suresh et al. | Robust space-variant super-resolution | |
Kavya et al. | Survey on learning based super resolution techniques for enhancement of digital images | |
Leonidas et al. | Image De-Blurring Technique Combining Wiener Filtering and CSF De-Noising Technique | |
Esmaeilzehi et al. | DHBSR: A deep hybrid representation-based network for blind image super resolution |