JP2012014268A - 情報処理装置およびその制御方法 - Google Patents
情報処理装置およびその制御方法 Download PDFInfo
- Publication number
- JP2012014268A JP2012014268A JP2010148025A JP2010148025A JP2012014268A JP 2012014268 A JP2012014268 A JP 2012014268A JP 2010148025 A JP2010148025 A JP 2010148025A JP 2010148025 A JP2010148025 A JP 2010148025A JP 2012014268 A JP2012014268 A JP 2012014268A
- Authority
- JP
- Japan
- Prior art keywords
- image
- captured images
- image quality
- information processing
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 230000010365 information processing Effects 0.000 title claims abstract description 15
- 238000000034 method Methods 0.000 title claims description 51
- 238000003384 imaging method Methods 0.000 claims abstract description 75
- 230000015572 biosynthetic process Effects 0.000 claims abstract description 18
- 238000003786 synthesis reaction Methods 0.000 claims abstract description 18
- 238000009795 derivation Methods 0.000 claims abstract 3
- 230000008569 process Effects 0.000 claims description 24
- 230000003287 optical effect Effects 0.000 claims description 4
- 230000002194 synthesizing effect Effects 0.000 claims description 4
- 238000012546 transfer Methods 0.000 claims description 2
- 238000012545 processing Methods 0.000 abstract description 16
- 238000006073 displacement reaction Methods 0.000 abstract description 13
- 238000004364 calculation method Methods 0.000 description 19
- 238000010586 diagram Methods 0.000 description 15
- 238000005070 sampling Methods 0.000 description 10
- 230000014509 gene expression Effects 0.000 description 7
- 239000000203 mixture Substances 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 3
- 230000008859 change Effects 0.000 description 3
- 238000012952 Resampling Methods 0.000 description 2
- 239000002131 composite material Substances 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000004069 differentiation Effects 0.000 description 1
- 230000008030 elimination Effects 0.000 description 1
- 238000003379 elimination reaction Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Images
Landscapes
- Image Analysis (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
Abstract
【課題】複数の撮像画像の合成処理により生成され得る高解像度画像の画質を推定する。
【解決手段】撮像装置により連続的に取得されるN枚の撮像画像を合成処理することにより得られる高解像度画像の画質を推定する情報処理装置において、N枚の撮像画像を取得する取得手段と、N枚の撮像画像の中から1枚の基準画像を選択する選択手段と、基準画像を除く(N−1)枚の撮像画像の各々について、基準画像との間の位置ずれ量を導出する導出手段と、合成処理において(N−1)枚の撮像画像の各々に対して導出された位置ずれ量に起因して発生することになるエイリアシング成分の和の絶対値が最小となるような(N−1)枚の撮像画像の各々に対する重み値を算出し、該重み値を使用して合成処理した場合の高解像度画像の画質を推定する推定手段と、を備える。
【選択図】図1
【解決手段】撮像装置により連続的に取得されるN枚の撮像画像を合成処理することにより得られる高解像度画像の画質を推定する情報処理装置において、N枚の撮像画像を取得する取得手段と、N枚の撮像画像の中から1枚の基準画像を選択する選択手段と、基準画像を除く(N−1)枚の撮像画像の各々について、基準画像との間の位置ずれ量を導出する導出手段と、合成処理において(N−1)枚の撮像画像の各々に対して導出された位置ずれ量に起因して発生することになるエイリアシング成分の和の絶対値が最小となるような(N−1)枚の撮像画像の各々に対する重み値を算出し、該重み値を使用して合成処理した場合の高解像度画像の画質を推定する推定手段と、を備える。
【選択図】図1
Description
本発明は、複数の画像の合成により生成され得る高解像度画像データの画質を推定する技術に関するものである。
デジタルビデオカメラなどの撮像装置で撮像可能な画像の解像度は、撮像装置のレンズや撮像素子の設計に依存して決定される。しかし、撮像装置で撮影可能な解像度を超える高解像度の画像を取得したいという要求が存在する。このような要求に対し、2枚以上の画像を合成することにより、撮像装置で撮像可能な解像度を超えた高解像度の画像を生成する撮像装置が提案されている。例えば、非特許文献1では、複数の位置ずれを有する低解像度画像を合成して、高解像度画像を生成する手法が提案されている。非特許文献2は、MAP(Maximum A Posterior)推定に基づく方法により高解像度画像を生成する手法を開示している。MAP法は、高解像度画像の確率情報を付加した評価関数を最小化するように低解像度画像から高解像度画像を推定する方法である。高解像度画像に対するある先見情報を利用して、事後確率を最大化する最適化問題として高解像度画像の推定を行う。これらの方法で高解像度画像を合成するため、入力となる低解像度画像は位置ずれを持つ良く似た画像が必要となる。
青木 伸,"複数のデジタルデータによる超解像処理",Ricoh Technical Report No.24,NOVEMBER,1998年
Sung C. P., Min K. P. ,"Super-Resolution Image Reconstruction: A Technical Overview", 米国 IEEE Signal Proc. Magazine, 第26巻, 第3号, p.21-36,2003年
しかしながら、上述の文献に開示される方法では、合成された画像の画質がどの程度良好なものであるのかは、実際に高解像度画像を合成するまで知ることができない。そのため、合成された画像の画質を知るためには演算量が多い上述の高解像度画像の生成を実際に行わなければならない。そのため、所望する画質の高解像度画像の生成にどの程度の枚数の撮像画像が必要であるのかを撮影時にユーザが定量的に知ることは困難であった。
上述の1以上の問題を解決するため、本発明の情報処理装置は以下の構成を備える。すなわち、撮像装置により連続的に取得されるN枚(Nは2以上の整数)の撮像画像を合成処理することにより得られる高解像度画像の画質を推定する情報処理装置において、N枚の撮像画像を取得する取得手段と、前記N枚の撮像画像の中から1枚の基準画像を選択する選択手段と、前記基準画像を除く(N−1)枚の撮像画像の各々について、前記基準画像との間の位置ずれ量を導出する導出手段と、前記合成処理において、前記(N−1)枚の撮像画像の各々に対して導出された位置ずれ量に起因して発生することになるエイリアシング成分の和の絶対値が最小となるような前記(N−1)枚の撮像画像の各々に対する重み値を算出し、該重み値を使用して合成処理した場合の前記高解像度画像の画質を推定する推定手段と、を備える。
本発明によれば、撮像装置により撮像した複数の画像データから生成され得る高解像度画像の画質に関する情報を、実際の高解像度画像の合成処理を行うことなくユーザあるいは機器に提供することを可能とする技術を提供することができる。
以下に、図面を参照して、この発明の好適な実施の形態を詳しく説明する。なお、以下の実施の形態はあくまで例示であり、本発明の範囲を限定する趣旨のものではない。
(第1実施形態)
本発明に係る情報処理装置の第1実施形態として、当該情報処理装置を含む撮像装置を例に挙げて以下に説明する。特に、第1実施形態では、連続撮像時に画像の取得ごとに画質の推定を行い、予め設定された画質を満たすと判定された場合に自動的に連続撮像を停止する例について説明する。
本発明に係る情報処理装置の第1実施形態として、当該情報処理装置を含む撮像装置を例に挙げて以下に説明する。特に、第1実施形態では、連続撮像時に画像の取得ごとに画質の推定を行い、予め設定された画質を満たすと判定された場合に自動的に連続撮像を停止する例について説明する。
<画像合成方法>
前提技術として、N枚(Nは2以上の整数)の低解像度画像から1枚の高解像度画像を合成処理する方法について説明する。まず、撮像の対象となった連続な像をL(x,y)とおく。ここで、x,yは像の中での座標であり、連続な値を持つ。撮像とは連続な像のサンプリングであり、サンプリング点を表すδ関数列を
前提技術として、N枚(Nは2以上の整数)の低解像度画像から1枚の高解像度画像を合成処理する方法について説明する。まず、撮像の対象となった連続な像をL(x,y)とおく。ここで、x,yは像の中での座標であり、連続な値を持つ。撮像とは連続な像のサンプリングであり、サンプリング点を表すδ関数列を
図3は、数式(6)の関数の模式図であり、図の横軸及び縦軸は周波数空間での座標ωx、ωyに対応している。なお、点で示されている位置において数式(6)の関数は非ゼロになっている。
数式(6)の関数に、位置ずれに対応する因子exp{ j(αωx+βωy)}を乗算し、撮像の対象となった連続な像L(x,y)のフーリエ変換を畳み込んだものが数式(5)に対応する。なお、数式(5)は、位置合わせ画像のフーリエ変換である。
(ωx、ωy)=(0,0)では位置ずれに対応する因子は1になっているので、図3の原点にある点にL(x,y)を畳み込んで位置ずれに対応する因子を乗じたものはL(x,y)に等しい。一方で、その他の点にL(x,y)を畳み込んで位置ずれに対応する因子を乗じたものは、エイリアシング成分と呼ばれるものである。
ここで、画像の線形和をとることで、位置ずれに起因して発生するエイリアシング成分を除去することを考える。足し合わせる画像の枚数をN枚とし、t枚目(2<t≦N)の位置合わせ済みの画像をI’tとする。また、t枚目の画像に乗じる係数をwt、t枚目の画像の位置ずれをαt、βtと表記する。このとき位置合わせ画像のフーリエ変換を足し合わせたものは、
図4は、低解像度画像の線形和におけるエイリアシング成分の消去を示すための模式図である。図4では、(ωx,ωy)=(2π/Δx,0),(−2π/Δx,0),(0,2π/Δy),(0,−2π/Δy),(2π/Δx,2π/Δy),(−2π/Δx,2π/Δy),(2π/Δx,−2π/Δy),(−2π/Δx,−2π/Δy)に対応するエイリアシング成分が消去してある。
また、点線の円は”畳み込まれたL(x,y)”を示し、点線の四角がかけるフィルタを示す。このフィルタリング処理によって、フィルタの透過帯域より高周波側にあるエイリアシング成分の影響を遮断することで、フィルタの透過帯域内においては、L(x,y)にフィルタをかけたものと同等の画像を再現することができる。このフィルタの透過帯域は、低解像度画像のナイキスト周波数π/Δxに対して、縦横方向にそれぞれ2倍である。したがって、この場合は元の画像に比して縦横2倍の解像度が得られる。なお、ここでは縦横2倍に高解像度化をする例を示したが、縦横2倍に限定するものではなく、より高解像度であっても低解像度であってもかまわない。画質推定部に入力される各種パラメータから、消去するエイリアシング成分を選択する方法と、フィルタを生成する方法については後述する。
次に、エイリアシング成分の消去を行うための条件を示す。各エイリアシング成分に対応する周波数が整数h,kを用いてωx=h・2π/Δx、ωy=k・2π/Δyと記述されるとして、t枚目の画像の位置ずれに対応する因子を、
数式(10)、数式(11)の条件を満たすwtは、連立一次方程式を解くことで求められる。消去するエイリアシング成分がM個であり、s番目のエイリアシング成分の位置ずれ因子をh=h(s),k=k(s)を用いて
<画質推定方法>
次に、上述の方法で画像を合成する際の画質を推定する方法について説明する。つまり、実際の合成処理を行うことなく合成後の画像の画質を定量的に示す値を導出する方法について説明する。
次に、上述の方法で画像を合成する際の画質を推定する方法について説明する。つまり、実際の合成処理を行うことなく合成後の画像の画質を定量的に示す値を導出する方法について説明する。
数式(14)においてN>2M+1ならば、解は(N−2M−1)の自由度を持つ。ここで位置合わせ済み画像I’tに撮像素子の特性などの起因するノイズn’tが含まれると考えた場合、ノイズの影響を最小にするwtを選ぶことが望ましいことが推定される。
このノイズの影響の度合いが”画質”に影響することになるため、第1実施形態では、最適なwtを選んだ場合にノイズの影響の度合いがどのようになるかを計算することを考えることにする。数式(14)の解を数式(12)に代入することで生成できるIHRのうち、ノイズnt由来の成分をnHRとおく。ノイズの影響の度合いを、ノイズ成分nHRの画像内での二乗和の統計平均とするならば、
数式(14)を解いて求めたwtが、(N−2M−1)個のパラメータ{b1,b2,…bN−2M−1}と、(N−2M)個の定数{w0,t,w1,t,w2,t,…wN−2M−1,t}を用いて
<撮像装置の構成>
図1は、第1実施形態の撮像装置の構成を示したブロック図である。101は撮像部であり、撮像制御部107から指示を受けて画像を撮像する。なお、最初の撮像はシャッターボタンに相当する撮像指示部109から撮像制御部107に撮像指示がなされることで連続的な撮像動作が開始される。撮像された画像はバッファ102に格納される。バッファ102に格納された画像は順次、画像記録部110に記録される。また、撮像画像が1枚目の場合、バッファ内の画像は基準画像を格納するバッファ103へとコピーされる。
図1は、第1実施形態の撮像装置の構成を示したブロック図である。101は撮像部であり、撮像制御部107から指示を受けて画像を撮像する。なお、最初の撮像はシャッターボタンに相当する撮像指示部109から撮像制御部107に撮像指示がなされることで連続的な撮像動作が開始される。撮像された画像はバッファ102に格納される。バッファ102に格納された画像は順次、画像記録部110に記録される。また、撮像画像が1枚目の場合、バッファ内の画像は基準画像を格納するバッファ103へとコピーされる。
104は位置ずれ算出部であり、バッファ102及びバッファ103に格納されている画像を読み込み、画像間の相対的な位置ずれを算出する。105は画質推定部であり、位置ずれ算出部104で算出した画像間の相対的な位置ずれを用いて、高解像度画像を合成したときの画質を推定し、パラメータ設定部106にて指定された条件を満たすか判定する。また、推定された画質に関する情報をユーザに通知するため、画質に関する情報は表示部108に表示される。撮像制御部107は、画質推定部105による判定を参照し、条件を満たしていなければ再度撮像を行う。
<撮像装置の動作>
図2は、第1実施形態の撮像装置の処理手順を示すフローチャートである。
図2は、第1実施形態の撮像装置の処理手順を示すフローチャートである。
ステップS201では、撮像を行うにあたり、パラメータ設定部106により画質推定部105に対して、撮像終了条件となるいくつかのパラメータが設定される。ここで設定されるパラメータは、合成画像における拡大倍率やノイズ特性、撮像部101の撮像系固有の光学特性などであり、詳細は後述する。
ステップS202では、ユーザーによるシャッターボタンの押下などの撮像指示を検出する。そして、シャッターボタンが押下されると、ステップS203にて撮像制御部107を介して撮像部101に対して撮像の指示が出される。ステップS204にて撮像部101は撮像を行い、画像をバッファ102に格納する。ステップS205では、新たにバッファ102に格納された画像が画像記録部110に記録される。
ステップS206では、撮像した画像が1枚目かどうか判定し、1枚目の画像ならばステップS207にて、バッファ102に格納された画像を、基準画像を格納するバッファ103にコピーする。そして、ステップS208では、位置ずれ算出部104は今回撮像した画像と基準画像との間の相対的な位置ずれを算出する。さらに、ステップS209では、算出された位置ずれとパラメータ設定部106により設定されたパラメータとを用いて画質を推定する。なお、画質の推定方法については後述する。
ステップS210では、推定した画質の情報を表示部108に表示し、ステップS211では、終了条件を満たしているか判定を行う。終了条件を満たしていれば、一連の撮像処理を終了する。満たしていないならばステップS212にて、最大撮像枚数に達しているか判定する。達しているならばステップS213にて、目標画質に到達しなかったことを表示し、一連の撮像処理を終了する。達していないならばステップS203に戻り、一連の処理を繰り返す。
なお、上述の説明では画像の画像記録部110への記録をステップS205にて行ったが、撮像した画像がバッファ102に格納されてから、次の撮像が指示されるまでの間ならば、どのタイミングで行っても構わない。
<位置ずれ算出方法>
次に位置ずれ算出部104における位置ずれ算出方法について説明する。第1実施形態では位置ずれが平行移動で記述できると仮定する。図8は位置ずれ算出の処理の流れを表すフローチャートである。
次に位置ずれ算出部104における位置ずれ算出方法について説明する。第1実施形態では位置ずれが平行移動で記述できると仮定する。図8は位置ずれ算出の処理の流れを表すフローチャートである。
ステップS801では、位置ずれ算出部104は、バッファ102より基準画像を読み込む。ここでは、バッファの1枚目に格納されている画像とする。ステップS802では、位置ずれを算出する対象となる参照画像をバッファより読み込む。ここでは、バッファの2枚目に格納されている画像とする。
ステップS803では、参照画像を基準画像に対して縦横にずらし、各位置での基準画像との差分二乗和を計算し、位置ずれ量に対する差分二乗和の変化をマップにする。そして、ステップS804では、このマップにおける最小値の近傍において2次式によるフィッティングを行い、マップをフィッティングした関数が極小値を持つ位置ずれ量を求める。これが、算出された画像の位置ずれとなる。以上の処理を、全ての参照画像に対して行って処理を完了する。
<画質推定部>
以下では、画質推定部105における画質推定方法について説明する。図6は画質推定部105のブロック図である。画質推定部105では、位置ずれ算出部104で算出した位置ずれと、パラメータ設定部106によって設定されるパラメータである撮像系OTF(光学伝達関数)、拡大倍率、撮像画像ノイズ特性、目標画質を入力として受ける。また、画質推定によって算出したノイズ指標(前述のノイズが高解像度画像に影響する度合い)と、画質を達成したか否かの判断を出力する。なお、OTFは点像分布関数のフーリエ変換に相当する。
以下では、画質推定部105における画質推定方法について説明する。図6は画質推定部105のブロック図である。画質推定部105では、位置ずれ算出部104で算出した位置ずれと、パラメータ設定部106によって設定されるパラメータである撮像系OTF(光学伝達関数)、拡大倍率、撮像画像ノイズ特性、目標画質を入力として受ける。また、画質推定によって算出したノイズ指標(前述のノイズが高解像度画像に影響する度合い)と、画質を達成したか否かの判断を出力する。なお、OTFは点像分布関数のフーリエ変換に相当する。
まず、画質推定部105は、位置ずれ算出部104から位置ずれの入力を受け付け、エイリアシング成分消去部601でエイリアシング成分を消去できる重みのつけ方を、連立一次方程式の解として算出する。連立一次方程式は位置ずれと消去するエイリアシング成分から数式(14)に基づいて、連立一次方程式生成部602にて生成する。なお、消去するエイリアシング成分の選択は、消去対象エイリアシング成分選択部609にて、撮像系のOTFと拡大倍率から算出されるが詳細については後述する。生成した連立一次方程式は連立一次方程式解計算部603で解を計算する。求めた解は、ノイズ指標最小化部604に送られて、ここで解のうちノイズ指標を最小化するものを求める。
ノイズ指標最小化部604では、数式(18)に基づいて連立一次方程式生成部605にて連立方程式を生成し、これを連立一次方程式解計算部606で計算することでノイズ指標を最小化する重みを求める。重みと補間カーネル、撮像画像ノイズ特性をもとに、数式(15)に基づいてノイズ指標計算部607にてノイズ指標を算出する。ここで言う重みとは数式(15)においてwtに相当し、ノイズ特性とはn’t(x,y)の統計的性質に、補間カーネルとはc(x,y)に相当する。補間カーネルは撮像系OTFと拡大倍率をもとに補間カーネル生成部610にて生成するが詳細については後述する。算出したノイズ指標は表示部108に出力されるとともに、画質判定部608に送られ目標画質と比較され、画質が達成できるか判断、出力される。
次に画質推定部105で行われる画質推定の手順について説明する。図7は画質推定の処理フローチャートである。まず、ステップS701では、消去対象のエイリアシング成分の選択を行う。そして、ステップS702では、選択したエイリアシング成分と、外部から取得した位置ずれを用いて、エイリアシング成分を消去するための連立一次方程式を生成する。ステップ703では、ステップS702にて生成した連立一次方程式の解を求める。ステップS704では、ステップS703にて求めた解よりノイズ最小化のための連立一次方程式を生成する。ステップS705では、ステップS704にて生成した連立一次方程式の解を計算する。
ステップS706では、撮像系のOTFと拡大倍率をもとに補間カーネルを生成する。ステップS707では、補間カーネルとステップS705にて求めた解を用いてノイズ指標を算出する。ステップS708で算出したノイズ指標を出力する。ステップS709では、目標画質を閾値として算出したノイズ指標と比較を行い、画質が当該閾値以上であるか否かを判断する。ステップS710では、判断結果を出力する。
<パラメータと画質条件達成の判定>
ここでは、画質推定処理におけるパラメータとして、撮像系OTF、拡大倍率、撮像画像ノイズ特性、目標画質を用いる。拡大倍率とは入力低解像度画像に対して何倍のサンプリング周波数で高解像度画像を生成するかを決める値である。
ここでは、画質推定処理におけるパラメータとして、撮像系OTF、拡大倍率、撮像画像ノイズ特性、目標画質を用いる。拡大倍率とは入力低解像度画像に対して何倍のサンプリング周波数で高解像度画像を生成するかを決める値である。
まず、撮像系OTFと拡大倍率は、消去対象エイリアシング成分選択部にて消去対象のエイリアシング成分の選択に用いられる。ここでは、あるエイリアシング成分に対応する周波数の位置にあるδ関数に、撮像系のOTFを畳みこんだ時に、拡大倍率によって求められる高解像度画像のナイキスト周波数内では値が非0になるという条件で、消去対象のエイリアシング成分を選択する。
また、撮像系のOTFと拡大倍率は、補間カーネル生成部610での補間カーネルの生成に用いられる。具体的には、リサンプリングに際してのぼけがナイキスト周波数付近で0となるように、拡大倍率に基づいて決定する。このぼけのフーリエ変換をBとすると、補間カーネルのフーリエ変換は撮像系OTFを用いて(B/撮像系OTF)と算出される。これは、いったん撮像系OTFの影響を取り除いた後に、Bというアンチエイリアシングのためのぼけをかけるという意味である。
撮像画像ノイズ特性は、ノイズ指標計算部607にてノイズ指標の算出に用いられる。これは、数式(15)のn’t(x,y)の統計的な性質に相当し、ここから数式(15)の値を計算する。なお、ここでは全ての撮像画像で撮像画像ノイズ特性は等しいものとする。
目標画質とはノイズ指標計算部607で計算されるノイズ指標と画質判定部608で比較される値であり、算出したノイズ指標の値がこの目標画質より大きくなれば、画質条件は達成されたとみなす。一例として高解像度画像の各画素の画素値の誤差が1程度になる画質に相当する目標画質は、画素数と等しい数値になる。
<ユーザーインターフェースの例>
図9は、第1実施形態に係る撮像装置のユーザーインターフェースの例を示す図である。901はシャッターボタンであり、撮像指示部109に対応する。902は表示パネルであり、表示部108に対応する。ここには、例えば、撮像中の画像と拡大倍率903、連続撮像した枚数904、推定画質に対応するノイズ量905が表示される。
図9は、第1実施形態に係る撮像装置のユーザーインターフェースの例を示す図である。901はシャッターボタンであり、撮像指示部109に対応する。902は表示パネルであり、表示部108に対応する。ここには、例えば、撮像中の画像と拡大倍率903、連続撮像した枚数904、推定画質に対応するノイズ量905が表示される。
つまり、ユーザーは、表示パネル902上に表示されるノイズ量905を視認することで、その時点で取得済みの撮像画像により画像合成を行った際の画質を知ることができる。また、撮像の自動終了をもって、所望の画質に達したことを知ることができる。
以上説明したように、第1実施形態に係る撮像装置によれば、実際の高解像度画像の合成処理を行うことなく、撮像画像から生成され得る高解像度画像の画質の定量値を導出することが可能となる。そして、当該画質に関する情報を、連続撮影時にユーザあるいは機器に提供することが可能となる。
(第2実施形態)
第2実施形態では、基準画像と参照画像との間の位置ずれを、撮像装置に取り付けられた姿勢センサーによって導出する例について説明する。
第2実施形態では、基準画像と参照画像との間の位置ずれを、撮像装置に取り付けられた姿勢センサーによって導出する例について説明する。
図10は、第2実施形態に係る撮像装置の構成を示したブロック図である。位置ずれ算出部104の代わりに位置ずれ検出部1001を備える点が図1と異なる。位置ずれ検出部1001は、撮像装置の姿勢に関する情報(姿勢情報)をセンサー(加速度センサーなど)から受信し、当該姿勢情報に基づいて撮像画像における位置ずれを求める機能部である。例えば、フォーカスが無限遠に設定されている場合、x、y方向の画角をθx、θyと、x、y方向の角度の変化をΔθx、Δθy、x、y方向の画素数をM,Nとすると、x、y方向の位置ずれΔx、Δxはそれぞれ、
以上説明したように、第2実施形態によれば、位置ずれを姿勢センサーを用いて算出する。これにより、撮像画像に基づいて位置ずれの算出を行うことなく、画像合成時の画質の推定が可能となる。
(第3実施形態)
第3実施形態では、撮像した画像のうち高解像度画像の合成に適した画像を選択し、選択した画像による合成画像の画質を推定する。
第3実施形態では、撮像した画像のうち高解像度画像の合成に適した画像を選択し、選択した画像による合成画像の画質を推定する。
図11は、第3実施形態に係る撮像装置の構成を示したブロック図である。画像選択部1101が追加されている点が図1と異なる。画像選択部1101はバッファ102より読み込んだ画像を、位置ずれ算出部104が算出した位置ずれ情報を用いて、バッファ103から読み込んだ基準画像と位置合わせする。その後、位置ずれの量が所定の位置ずれ閾値より小さい画像のみろ合成画像の生成に使用する想定する。
画像選択部の処理について述べる。画像選択部では具体的には、n番目の撮像画像を位置合わせし、バイキュービック法などで補間、リサンプリングして、位置合わせ済みリサンプリング画像I”nを生成する。1番目の撮像画像を基準画像として、
撮像時に画像が単純な平行移動しかしていない場合、位置合わせを行った画像は基準画像と近い画像になる。一方、撮像時に被写体の動きや、光源の変化、大気のゆらぎ、手ぶれなどで高解像度画像の合成に適さない変化をしてしまった場合、位置合わせを行っても位置合わせを行った画像は基準画像とはある程度異なった画像になる。従って、数式(21)の左辺の値は大きくなる。この性質を用いて、閾値kを用いて判定することで高解像度画像の合成に適した画像の選択を行うことができる。
サンプリング位置のずれと補間による誤差が、基準画像の1画素シフトによる変動内に収まると考えると、kは基準画像の全変動ノルムの値より少し大きい程度が妥当である。ただし、その他の適当な値を設定しても構わない。また、数式(21)の左辺も必ずしもL1ノルムである必要はなく、L2ノルムやそれらの二乗など、適当なものを用いて構わない。
なお、上述の説明においては1枚目の撮像画像を基準画像に用いるとしたが、1枚目の画像が画像合成に不適当な画像である可能性もある。これを解決するために、基準画像の候補として複数枚をバッファしておき、1枚目の基準画像による判定では何枚撮像しても数式(21)の条件を満たせないならば、2枚目の基準画像を判定に用いるというような構成をとってもよい。
また、画像選択の精度を向上させるために、位置ずれ算出部にて求めた位置ずれから、サブピクセル単位でのサンプリング位置のずれを求め、これにより画像枚に数式(21)のkを定める構成にしても構わない。具体的には、サンプリング位置のずれが大きい場合、エイリアシングの影響によって数式(21)の左辺評価値が大きくなると考えられるので、kを大きい値にする。サンプリング位置のずれが小さい場合、その逆でkを小さい値にするとよい。
図12は、画像選択の処理フローチャートである。なお、ステップS1201〜S1207は第1実施形態と同様に撮像処理と位置ずれ算出処理を行う。ただしこの時、画像の記録はまだ行わない。ステップS1208では、画像選択部1101は、現在のバッファ内の画像と基準画像を位置合わせした後、前述の所定の閾値と比較する。そして、ステップS1209では、画像合成に適した画像か判定し、適した画像ならばステップ1210へ進みバッファ内の画像を画像記録部に保存する。一方、画像合成に適した画像でないと判定した場合、ステップS1214に進む。なお、ステップS1211〜S1212にて第1実施形態と同様に画質の推定と表示を行い、ステップS1213〜S1215では第1実施形態と同様の終了判定と終了処理及び継続処理を行う。
以上説明したように、第3実施形態によれば、複数の撮像画像の中から合成に適切な画像のみを選択し、選択した撮像画像を合成した場合の画質を推定することができる。これにより、例えば、撮像した画像の中に高解像度画像の合成に適さないものが含まれていたため実際の合成画像の画質が推定した画質を下回るというような事例を回避することができる。なお、上述の説明では画像合成に適するかの判定を画像全体に対して行ったが、画像を分割して領域毎に判定を行い、領域毎に画質の推定を行っても構わない。
(その他の実施例)
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
Claims (7)
- 撮像装置により連続的に取得されるN枚(Nは2以上の整数)の撮像画像を合成処理することにより得られる高解像度画像の画質を推定する情報処理装置であって、
N枚の撮像画像を取得する取得手段と、
前記N枚の撮像画像の中から1枚の基準画像を選択する選択手段と、
前記基準画像を除く(N−1)枚の撮像画像の各々について、前記基準画像との間の位置ずれ量を導出する導出手段と、
前記合成処理において、前記(N−1)枚の撮像画像の各々に対して導出された位置ずれ量に起因して発生することになるエイリアシング成分の和の絶対値が最小となるような前記(N−1)枚の撮像画像の各々に対する重み値を算出し、該重み値を使用して合成処理した場合の前記高解像度画像の画質を推定する推定手段と、
を備えることを特徴とする情報処理装置。 - 前記推定手段は、
前記重み値を、更に、前記撮像装置の撮像系OTF(光学伝達関数)の情報と前記合成処理における拡大倍率の情報とを用いて算出し、
前記画質を、前記撮像系OTFの情報と前記拡大倍率の情報とを用いて生成される補間カーネルと、前記撮像画像のノイズ特性の情報とに基づいて推定する
ことを特徴とする請求項1に記載の情報処理装置。 - 前記推定手段によって推定された画質の情報をユーザに通知するための表示手段を更に備えることを特徴とする請求項1または2に記載の情報処理装置。
- 前記推定手段によって推定された画質が予め設定された閾値以上になった場合に前記撮像装置による連続的な撮像を停止する制御手段を更に備えることを特徴とする請求項1乃至3の何れか一項に記載の情報処理装置。
- 前記導出手段は、前記N枚の撮像画像を撮像した際の前記撮像装置の姿勢情報に基づいて前記位置ずれ量を導出することを特徴とする請求項1乃至4の何れか一項に記載の情報処理装置。
- 撮像装置により連続的に取得されるN枚(Nは2以上の整数)の撮像画像を合成処理することにより得られる高解像度画像の画質を推定する情報処理装置の制御方法であって、
取得手段が、N枚の撮像画像を取得する取得工程と、
選択手段が、前記N枚の撮像画像の中から1枚の基準画像を選択する選択工程と、
導出手段が、前記基準画像を除く(N−1)枚の撮像画像の各々について、前記基準画像との間の位置ずれ量を導出する導出工程と、
推定手段が、前記合成処理において、前記(N−1)枚の撮像画像の各々に対して導出された位置ずれ量に起因して発生することになるエイリアシング成分の和の絶対値が最小となるような前記(N−1)枚の撮像画像の各々に対する重み値を算出し、該重み値を使用して合成処理した場合の前記高解像度画像の画質を推定する推定工程と、
を備えることを特徴とする情報処理装置の制御方法。 - コンピュータを請求項1乃至5の何れか1項に記載の情報処理装置の各手段として機能させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010148025A JP2012014268A (ja) | 2010-06-29 | 2010-06-29 | 情報処理装置およびその制御方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010148025A JP2012014268A (ja) | 2010-06-29 | 2010-06-29 | 情報処理装置およびその制御方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2012014268A true JP2012014268A (ja) | 2012-01-19 |
Family
ID=45600661
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010148025A Withdrawn JP2012014268A (ja) | 2010-06-29 | 2010-06-29 | 情報処理装置およびその制御方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2012014268A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016005094A (ja) * | 2014-06-16 | 2016-01-12 | オリンパス株式会社 | 撮像装置、撮像方法 |
WO2019176177A1 (ja) * | 2018-03-16 | 2019-09-19 | ソニー株式会社 | 情報処理装置、情報処理方法、及びプログラム |
-
2010
- 2010-06-29 JP JP2010148025A patent/JP2012014268A/ja not_active Withdrawn
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016005094A (ja) * | 2014-06-16 | 2016-01-12 | オリンパス株式会社 | 撮像装置、撮像方法 |
WO2019176177A1 (ja) * | 2018-03-16 | 2019-09-19 | ソニー株式会社 | 情報処理装置、情報処理方法、及びプログラム |
JPWO2019176177A1 (ja) * | 2018-03-16 | 2021-01-07 | ソニー株式会社 | 情報処理装置、情報処理方法、及びプログラム |
EP3739866A4 (en) * | 2018-03-16 | 2021-03-03 | Sony Corporation | INFORMATION PROCESSING DEVICE, INFORMATION PROCESSING PROCESS AND PROGRAM |
JP6996616B2 (ja) | 2018-03-16 | 2022-01-17 | ソニーグループ株式会社 | 情報処理装置、情報処理方法、及びプログラム |
US11379961B2 (en) | 2018-03-16 | 2022-07-05 | Sony Corporation | Information processing apparatus, information processing method, and program |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5906493B2 (ja) | 画像処理装置、画像処理方法、画像処理プログラム及び記録媒体 | |
JP6395423B2 (ja) | 画像処理装置、制御方法及びプログラム | |
JP5822613B2 (ja) | 画像処理装置および画像処理方法 | |
JP4196216B2 (ja) | 画像合成システム、画像合成方法及びプログラム | |
RU2454721C2 (ru) | Устройство и способ для формирования изображения, программа для его реализации и носитель информации, который хранит программу | |
JP2007000205A (ja) | 画像処理装置及び画像処理方法並びに画像処理プログラム | |
JP2006140886A (ja) | 撮像装置および画像の高解像化方法 | |
JP4714038B2 (ja) | 画像の高解像度化方法及び装置 | |
JP6552256B2 (ja) | 画像処理装置及び画像処理装置の制御方法 | |
JP5566199B2 (ja) | 画像処理装置およびその制御方法、並びにプログラム | |
JP4250237B2 (ja) | 画像処理装置、方法及びコンピュータ読み取り可能な記憶媒体 | |
JP2012014268A (ja) | 情報処理装置およびその制御方法 | |
JP7118729B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP4017578B2 (ja) | 手ぶれ補正装置、手ぶれ補正方法および手ぶれ補正プログラムを記録した記録媒体 | |
JP5587322B2 (ja) | 画像処理装置、画像処理方法、及び画像処理プログラム | |
JP6371515B2 (ja) | X線画像処理装置、x線画像処理方法、及びプログラム | |
JP4686200B2 (ja) | 画像変換方法および装置 | |
JPWO2016098323A1 (ja) | 情報処理装置、情報処理方法、及び、プログラム | |
JP2000354244A (ja) | 画像処理装置、方法及びコンピュータ読み取り可能な記憶媒体 | |
JP5925109B2 (ja) | 画像処理装置、その制御方法、および制御プログラム | |
JP6320165B2 (ja) | 画像処理装置及びその制御方法、並びにプログラム | |
JP2013126123A (ja) | 画像処理装置、撮像装置及び画像処理方法 | |
CN110692235B (zh) | 图像处理装置、图像处理程序及图像处理方法 | |
JP6671975B2 (ja) | 画像処理装置、撮像装置、画像処理方法およびコンピュータプログラム | |
JP7211271B2 (ja) | 画像選択方法、画像選択プログラム、および画像選択装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20130903 |