JP2008293388A - 画像処理方法、画像処理装置、及びこの画像処理装置を備えた電子機器 - Google Patents
画像処理方法、画像処理装置、及びこの画像処理装置を備えた電子機器 Download PDFInfo
- Publication number
- JP2008293388A JP2008293388A JP2007139857A JP2007139857A JP2008293388A JP 2008293388 A JP2008293388 A JP 2008293388A JP 2007139857 A JP2007139857 A JP 2007139857A JP 2007139857 A JP2007139857 A JP 2007139857A JP 2008293388 A JP2008293388 A JP 2008293388A
- Authority
- JP
- Japan
- Prior art keywords
- resolution
- image
- low
- pixel
- value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 16
- 238000012545 processing Methods 0.000 claims abstract description 193
- 238000004364 calculation method Methods 0.000 claims abstract description 120
- 238000000034 method Methods 0.000 claims description 69
- 238000003384 imaging method Methods 0.000 claims description 34
- 230000008569 process Effects 0.000 claims description 19
- 230000009467 reduction Effects 0.000 claims description 4
- 230000015654 memory Effects 0.000 abstract description 45
- 230000003247 decreasing effect Effects 0.000 abstract 2
- 230000003252 repetitive effect Effects 0.000 abstract 1
- 239000011159 matrix material Substances 0.000 description 40
- 238000001514 detection method Methods 0.000 description 23
- 238000005070 sampling Methods 0.000 description 18
- 230000006835 compression Effects 0.000 description 16
- 238000007906 compression Methods 0.000 description 16
- 238000010586 diagram Methods 0.000 description 14
- 230000006870 function Effects 0.000 description 14
- 238000011156 evaluation Methods 0.000 description 12
- 230000005236 sound signal Effects 0.000 description 11
- 238000007476 Maximum Likelihood Methods 0.000 description 8
- 238000013459 approach Methods 0.000 description 7
- 230000006837 decompression Effects 0.000 description 7
- 230000001186 cumulative effect Effects 0.000 description 6
- 238000006243 chemical reaction Methods 0.000 description 5
- 239000000284 extract Substances 0.000 description 3
- 230000014509 gene expression Effects 0.000 description 3
- 239000004973 liquid crystal related substance Substances 0.000 description 3
- 239000002131 composite material Substances 0.000 description 2
- 239000013256 coordination polymer Substances 0.000 description 2
- 238000006073 displacement reaction Methods 0.000 description 2
- 238000012804 iterative process Methods 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 101100479093 Mus musculus Sybu gene Proteins 0.000 description 1
- 101100479089 Schizosaccharomyces pombe (strain 972 / ATCC 24843) syb1 gene Proteins 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000004069 differentiation Effects 0.000 description 1
- 238000003708 edge detection Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
- Editing Of Facsimile Originals (AREA)
Abstract
【課題】 本発明は、低解像度画像から高解像度画像を取得する際の反復処理の反復回数を少なくしたときに得られた高解像度画像上のノイズを低減する画像処理方法及び画像処理装置を提供することを目的とする。
【解決手段】 高解像度更新量算出部443において、高解像度画像から推定される低解像度推定画像と、フレームメモリ41,42から与えられる低解像度実画像との間における差分に基づく勾配を求めることで、高解像度画像より減算する更新量を算出する。このとき、低解像度実画像においてノイズ成分の低い領域の画素に対する更新量を小さくし、逆に、ノイズ成分の高い領域の画素に対する更新量を大きくする。
【選択図】 図4
【解決手段】 高解像度更新量算出部443において、高解像度画像から推定される低解像度推定画像と、フレームメモリ41,42から与えられる低解像度実画像との間における差分に基づく勾配を求めることで、高解像度画像より減算する更新量を算出する。このとき、低解像度実画像においてノイズ成分の低い領域の画素に対する更新量を小さくし、逆に、ノイズ成分の高い領域の画素に対する更新量を大きくする。
【選択図】 図4
Description
本発明は、高解像度画像を生成する画像処理方法及び画像処理装置に関するもので、特に、複数の低解像度画像から高解像度画像を生成する超解像処理を行う画像処理方法及び画像処理装置に関する。又、この画像処理装置により生成された高解像度画像を記録又は再生する電子機器に関する。
近年、各種デジタル技術の発展に伴い、CCD(Charge Coupled Device)やCMOS(Complimentary Metal Oxide Semiconductor)センサなどの固体撮像素子によりデジタル画像を撮影するデジタルカメラやデジタルビデオなどといった撮像装置や、デジタル画像を表示する液晶ディスプレイやプラズマテレビなどといった表示装置が、広く普及されつつある。そして、このような撮像装置や表示装置で処理されるデジタル画像において、異なる時間に撮影された複数のデジタル画像を用いて、その解像度を高解像度に変換する画像処理技術が提案されている。
この高解像度変換方法として、位置ズレのある複数の低解像度画像より1つの高解像度画像を推定する超解像処理が提案されている(非特許文献1参照)。そして、この超解像処理において、生成された高解像度画像を逆変換して、高解像度画像を構築するための元の低解像度画像を推定した後、実際の低解像度画像との比較を行うことで、更に、実際の値に近い高解像度画像を生成する再構成型と呼ばれる方式が提案されている。
この再構成型方式による超解像処理では、まず、複数の低解像度画像より取得される高解像度画像を仮定する(STEP1)。この仮定した高解像度画像に基づいて、高解像度画像を構築するための複数の低解像度画像それぞれに逆変換して推定する(STEP2)。そして、逆変換後の低解像度画像と元の低解像度画像とを比較した後(STEP3)、その比較結果より、変換後の低解像度画像と元の低解像度画像との間における各画素位置での値の差が小さくなるように、高解像度画像を生成する(STEP4)。そして、変換後の低解像度画像と元の低解像度画像との間における各画素位置での値(以下、「画素値」と呼ぶ)の差が収束するように、STEP2〜STEP4の処理を繰り返すことにより、最終的に取得される高解像度画像を実画像に近い画像とすることができる。
この再構成型方式として、ML(Maximum-Likelihood)法や、MAP(Maximum A Posterior)法や、POCS(Projection Onto Convex Set)法や、IBP(Iterative Back Projection)法などが、提案されている。ML法では、高解像度画像から推定した低解像度画像(以下、「低解像度推定画像」と呼ぶ)の画素値と実際の低解像度画像(以下、「低解像度実画像」と呼ぶ)の画素値との二乗誤差を評価関数とし、この評価関数を最小化する高解像度画像を生成する方法である(非特許文献2参照)。即ち、このML法による超解像処理は、最尤推定の原理に基づく処理方法である。
又、MAP法では、低解像度推定画像と低解像度実画像それぞれの画素値の二乗誤差に高解像度画像の確率情報を付加したものを、評価関数とし、この評価関数を最小化する高解像度画像を生成する方法である(非特許文献3,4参照)。即ち、MAP法では、低解像度実画像に対する先見情報に基づく事後確率分布における出現確率を最大とするときの高解像度画像を推定することによって、最適な高解像度画像が取得される。
更に、POCS法では、高解像度画像と低解像度画像のそれぞれの画素値に関する連立方程式を作成し、その連立方程式を逐次的に解くことにより、高解像度画像の画素値の最適値を取得して高解像度画像を生成する方法である(非特許文献5参照)。又、IBP法では、撮影位置が異なるが被写体の画素位置に重なりをもつ複数の低解像度画像から高解像度を生成する方法、即ち、反復逆投影法を用いた超解像処理方法である(非特許文献6参照)。
このような超解像処理を用いて高解像度画像を取得する画像処理装置として、エッジの検出結果によって、高解像度画像の生成方法として、上述のような超解像処理による合成解像度化、及び、近接画素の画素値の複製や線形補間により補間を行う単純高解像度化のいずれかを選択できるものが提案されている(特許文献1参照)。更に、エッジ量に応じて、ノイズ除去を併用した単純高解像度化、エッジ強調処理を併用した単純高解像度化、及び合成解像度化のいずれかを選択して、高解像度画像の生成を行うものが提案されている(特許文献2参照)。
特開2006−203716号公報
特開2006−221221号公報
Sung, C. P. Min, K. P. Moon, G. K. 共著 "Super-resolution image reconstruction: a technical overview", (Signal processing Magazine, IEEE on Volume 26,Issue 3, May 2003, P.21-36)
Tom, B.C. Katsaggelos, A.K. 共著 "Reconstruction of a high-resolution image by simultaneous registration, restoration, and interpolation of low-resolution images", (Image Processing, Proceedings, International Conference on Volume 2, Oct 1995, P.23-26)
Schultz, R.R. Stevenson, R.L. 共著 "Extraction of high-resolution frames from video sequences" (Image Processing, IEEE Transactions on Volume 5, Issue 6, June 1996, P.996-1011)
Hardie R.C. Barnard K.J. Armstrong E.E. 共著 "Joint MAP registration and high-resolution image estimation using a sequence of undersampled images" (Image Processing, IEEE Transactions on Volume 6, Issue 12, Dec. 1997 P.1621-1633)
Stark, H. Oskoui, P. 共著 "High resolution image recovery from image-plane arrays, using convex projections" (J. Opt. Soc. Am. A, on vol. 6. P.1715-1726, 1989)
Michel, I. Peleg, S. 共著 "Improving Resolution by Image Registration" (CVGIP: Graph Models Image Process, on vol. 53. P.231-239, Mar. 1991)
しかしながら、上述で説明した超解像処理は、高解像度画像から推定される低解像度画像(変換後の低解像度画像)と元の低解像度画像との差分が小さくなるように、上述したSTEP2〜STEP4の処理を反復させて繰り返す必要がある。このSTEP2〜STEP4の処理を繰り返す反復回数によって、取得される高解像度画像を実際の画像に近い高精度の画像とすることができる。しかしながら、実際の撮影において、特に動画撮影などでは、撮影動作にかかる時間に制限があるため、STEP2〜STEP4の処理を繰り返す反復回数にも制限がある。そのため、超解像処理によって得られた高解像度画像において、画像内のノイズが増大してしまうことなどにより、その精度が低くなり、超解像処理自体の性能が落ちてしまう。
又、特許文献1及び特許文献2においては、ノイズ低減を行うために、低解像度画像のエッジの検出を行うものとしているが、画像の空間的な処理のみで、ノイズにまぎれたエッジを検出することは困難である。更に、ノイズにまぎれたエッジをエッジ部分として検出されなかった場合は、精度の低い単純高解像度化(1枚の低解像度画像を用いた拡大処理)を行うこととなり、補間画素もノイズの影響を受けるため、高精細な画像が得られないことがある。
このような問題を鑑みて、本発明は、低解像度画像から高解像度画像を取得する際の反復処理の反復回数を少なくしたときに得られた高解像度画像上のノイズを低減する画像処理方法及び画像処理装置を提供することを目的とする。又、本発明は、低解像度画像から高解像度画像を取得する際の反復処理の反復回数を少なくしたときに得られた高解像度画像上のノイズを低減する画像処理装置を備えた電子機器を提供することを目的とする。
上記目的を達成するために、本発明の画像処理装置は、複数の低解像度実画像から高解像度画像を生成する高解像度化処理部と、該高解像度化処理部によって生成された前記高解像度画像に対して、複数の前記低解像度実画像それぞれと同等となる位置ズレ及び低解像度化によるボケ量を与える演算を行うことにより、複数の低解像度推定画像を生成する低解像度推定部と、を備える画像処理装置であって、前記低解像度実画像それぞれに対して、対応する前記低解像度推定画像との差分値に基づいて、前記低解像度実画像の各画素位置における低解像度更新量を算出する低解像度更新量算出部と、前記低解像度実画像それぞれについて、同一画素位置における前記低解像度実画像及び前記低解像度推定画像それぞれの画素値に含まれる画像成分を比較し、その比較結果に基づいて、前記低解像度更新量に乗算する重み係数を生成する重み係数算出部と、前記低解像度更新量に前記重み係数を乗算した後、その乗算結果に基づいて、前記高解像度画像の画素数に応じた前記高解像度更新量を算出する高解像度更新量算出部と、を備え、前記高解像度化処理部において、前回の処理で生成された前記高解像度画像に対して、前記高解像度更新量による更新を行うことで、前記高解像度画像を更新することを特徴とする。
このような画像処理装置において、前記重み係数算出部における、前記画像成分の比較結果が、前記低解像度実画像の画素値の前記画像成分を前記低解像度推定画像の画素値の前記画像成分で除算して得られる画像成分の比であり、当該画像成分の比が1以上の所定値に近い値となると、前記重み係数を1に近い値とし、当該画像成分の比が前記所定値より遠い値となると、前記重み係数を0に近い値とする。
又、前記重み係数算出部における、前記画像成分の比較結果が、前記低解像度実画像及び前記低解像度推定画像それぞれの画素値に含まれる高周波成分の比、前記低解像度実画像及び前記低解像度推定画像それぞれの画素値による標準偏差の比、前記低解像度実画像及び前記低解像度推定画像それぞれの画素値に含まれるエッジ方向成分の比のいずれであっても構わない。
本発明の電子機器は、外部入力又は撮像により複数フレームとなる画像による画像信号が与えられるとともに、該画像信号による画像を高解像度の画像に変換する高解像度化機能を備えた電子機器において、前記高解像度化機能を実現する画像処理部として、上述のいずれの画像処理装置を備え、前記画像信号による画像を前記低解像度画像として高解像度化を行うことで、所望の前記高解像度画像が生成されることを特徴とする。
又、本発明の画像処理方法は、複数の低解像度実画像から高解像度画像を生成する高解像度化ステップと、該高解像度化ステップによって生成された前記高解像度画像に対して、複数の前記低解像度実画像それぞれと同等となる位置ズレ及び低解像度化によるボケ量を与える演算を行うことにより、複数の低解像度推定画像を生成する低解像度推定ステップと、を備える画像処理方法であって、前記低解像度実画像それぞれに対して、対応する前記低解像度推定画像との差分値に基づいて、前記低解像度実画像の各画素位置における低解像度更新量を算出する低解像度更新量算出ステップと、前記低解像度実画像それぞれについて、同一画素位置における前記低解像度実画像及び前記低解像度推定画像それぞれの画素値に含まれる画像成分を比較し、当該画像成分の比較結果に基づいて、前記低解像度更新量に乗算する重み係数を生成する重み係数算出ステップと、前記低解像度更新量に前記重み係数を乗算した後、その乗算結果に基づいて、前記高解像度画像の画素数に合わせた前記高解像度更新量を算出する高解像度更新量算出ステップと、を備え、前記高解像度化ステップにおいて、前回の処理で生成された前記高解像度画像に対して、前記高解像度更新量による更新を行うことで、前記高解像度画像を更新することを特徴とする。
本発明によると、低解像度実画像及び低解像度推定画像それぞれの画素値に含まれる画像成分を比較することで、更新量を調整する重み係数を設定することができる。即ち、低解像度実画像及び低解像度推定画像それぞれの画素値に含まれる画像成分の比較結果を用いているため、低解像度実画像のみで判定する場合と比べて、ノイズの含有された領域であるか否かの検出をより正確なものとすることができる。よって、得られた高解像度画像に含まれるノイズを低減して、より高精度で高精細な高解像度画像を生成することができる。
本発明の実施の形態について、図面を参照して説明する。尚、以下では、本発明における画像処理方法を行う画像処理装置(以下では、「画像処理部」に相当する)を備えたデジタルカメラやデジタルビデオなどの撮像装置を例に挙げて、説明する。又、後述するが、同様の画像処理装置を備えるものであれば、液晶ディスプレイやプラズマテレビなどの画像のデジタル処理を行う表示装置であっても構わない。
(撮像装置の構成)
まず、撮像装置の内部構成について、図面を参照して説明する。図1は、撮像装置の内部構成を示すブロック図である。
まず、撮像装置の内部構成について、図面を参照して説明する。図1は、撮像装置の内部構成を示すブロック図である。
図1の撮像装置は、被写体のから入射される光を電気信号に変換するCCD又はCMOSセンサなどの固体撮像素子(イメージセンサ)1と、イメージセンサ1から出力されるアナログ信号である画像信号をデジタル信号に変換するAFE(Analog FrontEnd)2と、外部から入力された音声を電気信号に変換するマイク3と、AFE2からのデジタル信号となる画像信号に対して超解像処理を含む各種画像処理を施す画像処理部4と、マイク3からのアナログ信号である音声信号をデジタル信号に変換する音声処理部5と、画像処理部4からの画像信号と音声処理部5からの音声信号とに対してMPEG(Moving Picture Experts Group)圧縮方式などの圧縮符号化処理を施す圧縮処理部6と、圧縮処理部6で圧縮符号化された圧縮符号化信号を外部メモリ15に記録するドライバ部7と、ドライバ部7で外部メモリ20から読み出した圧縮符号化信号を伸長して復号する伸長処理部8と、伸長処理部8で復号されて得られた画像信号による画像の表示を行うディスプレイ部9と、伸長処理部8からの音声信号をアナログ信号に変換する音声出力回路部10と、音声出力回路部10からの音声信号に基づいて音声を再生出力するスピーカ部11と、各ブロックの動作タイミングを一致させるためのタイミング制御信号を出力するタイミングジェネレータ12と、撮像装置内全体の駆動動作を制御するCPU(Central Processing Unit)13と、各動作のための各プログラムを記憶するとともにプログラム実行時のデータの一時保管を行うメモリ14と、ユーザからの指示が入力される操作部15と、CPU13と各ブロックとの間でデータのやりとりを行うためのバス回線16と、メモリ14と各ブロックとの間でデータのやりとりを行うためのバス回線17と、を備える。
この撮像装置において、撮像動作を行うことが操作部15によって指示されると、イメージセンサ1の光電変換動作によって得られたアナログ信号である画像信号がAFE2に出力される。このとき、イメージセンサ1では、タイミングジェネレータ12からのタイミング制御信号が与えられることによって、水平走査及び垂直走査が行われて、画素毎のデータとなる画像信号が出力される。そして、AFE2において、アナログ信号となる画像信号がデジタル信号に変換されて、画像処理部4に入力されると、輝度信号及び色差信号の生成を行う信号変換処理などの各種画像処理が施される。
又、この画像処理部4では、操作部15によってデジタルズームにより、イメージセンサ1より得られた画像信号の高解像度化が求められると、イメージセンサ1からの複数フレーム分の画像信号に基づく超解像処理が施される。更に、この超解像処理が成された画像信号に基づいて、輝度信号及び色差信号が生成される。又、超解像処理が施されるために、後述するが、複数フレームの画像信号の動き量が算出され、その動き量に応じて各フレームの位置合わせが行われる。
そして、画像処理部4で画像処理が施された画像信号が圧縮処理部6に与えられる。このとき、マイク3に音声入力されることで得られたアナログ信号である音声信号が、音声処理部5でデジタル信号に変換されて、圧縮処理部6に与えられる。これにより、圧縮処理部6では、デジタル信号である画像信号及び音声信号に対して、MPEG圧縮符号方式に基づいて、圧縮符号化してドライバ部7に与えて、外部メモリ20に記録させる。又、このとき、外部メモリ20に記録された圧縮信号がドライバ部7によって読み出されて伸長処理部8に与えられて、伸長処理が施されて画像信号が得られる。この画像信号がディスプレイ部9に与えられて、現在、イメージセンサ1を通じて撮影されている被写体画像が表示される。
尚、上述では、動画撮影時の動作について説明したが、静止画像撮影が指示された場合においても、マイク3による音声信号の取得がなく、画像信号のみの圧縮信号が外部メモリ20に記録されるだけとなり、その基本動作については動画撮影時の動作と同様である。又、この静止画像撮影の場合、操作部15によって撮影された静止画像に対する圧縮信号が外部メモリ20に記録されるだけでなく、イメージセンサ1によって撮影されている現時点の画像に対する圧縮信号も外部メモリ20に一時的に記録される。これにより、現在撮影されている画像に対する圧縮信号が伸長処理部8で伸長されることで、イメージセンサ1によって撮影されている現時点の画像がディスプレイ部9に表示され、ユーザが確認することができる。
このように撮像動作を行うとき、タイミングジェネレータ12によって、AFE2、映像処理部4、音声処理部5、圧縮処理部6、及び伸長処理部8に対してタイミング制御信号が与えられ、イメージセンサ1による1フレームごとの撮像動作に同期した動作が行われる。又、静止画像撮影のときは、操作部15によるシャッタ動作に基づいて、タイミングジェネレータ12より、イメージセンサ1、AFE2、映像処理部4、及び、圧縮処理部6それぞれに対してタイミング制御信号が与えられ、各部の動作タイミングを同期させる。
又、外部メモリ20に記録された動画又は画像を再生することが、操作部15を通じて指示されると、外部メモリ20に記録された圧縮信号は、ドライバ部7によって読み出されて伸長処理部8に与えられる。そして、伸長処理部8において、MPEG圧縮符号方式に基づいて、伸長復号されて、画像信号及び音声信号が取得される。そして、画像信号がディスプレイ部9に与えられて画像が再生されるとともに、音声信号が音声出力回路部10を介してスピーカ部11に与えられて音声が再生される。これにより、外部メモリ20に記録された圧縮信号に基づく動画が音声とともに再生される。又、圧縮信号が画像信号のみより成るときは、ディスプレイ部9に画像のみが再生されることとなる。
(超解像処理の基本概念)
次に、上述の撮像装置内の画像処理部4において実行される超解像処理の基本概念について、簡単に説明する。尚、超解像処理の基本概念を説明するにあたって、その説明を簡単にするために、画像データを1次元方向に並んだ複数画素の画素値によるものとするとともに、異なる時間に撮像された2フレームの画像データによる超解像処理が成されるものとする。又、以下説明における画素値は、輝度値を示す。そして、図2(a)に、イメージセンサ1により撮像される被写体の輝度分布を示し、図2(b)〜(d)に、この被写体が異なる時間にイメージセンサ1により撮像された際の画像データ(低解像度実画像)を示す。又、図3に、図2における低解像度実画像により高解像度画像となる画像データを生成する際のフローチャートを示す。更に、図3では、各フローにおける信号の変遷を模式的に示す。
次に、上述の撮像装置内の画像処理部4において実行される超解像処理の基本概念について、簡単に説明する。尚、超解像処理の基本概念を説明するにあたって、その説明を簡単にするために、画像データを1次元方向に並んだ複数画素の画素値によるものとするとともに、異なる時間に撮像された2フレームの画像データによる超解像処理が成されるものとする。又、以下説明における画素値は、輝度値を示す。そして、図2(a)に、イメージセンサ1により撮像される被写体の輝度分布を示し、図2(b)〜(d)に、この被写体が異なる時間にイメージセンサ1により撮像された際の画像データ(低解像度実画像)を示す。又、図3に、図2における低解像度実画像により高解像度画像となる画像データを生成する際のフローチャートを示す。更に、図3では、各フローにおける信号の変遷を模式的に示す。
図2(a)に示す輝度分布の被写体に対して、時間T1にイメージセンサ1によって撮像されたときの第1フレームのサンプル点がS1、S1+ΔS、S1+2ΔSであり、時間T2(T1≠T2)にイメージセンサ1によって撮像されたときの第2フレームのサンプル点がS2、S2+ΔS、S2+2ΔSであるものとする。又、このとき、第1フレームのサンプル点S1と第2フレームのサンプル点S2は、手ブレなどが原因となり、その位置にズレが生じているものとする。
そして、サンプル点S1、S1+ΔS、S1+2ΔSは、被写体上のサンプル点を示し、図2(b)に示す第1フレームとなる低解像度実画像Faでは、このサンプル点S1、S1+ΔS、S1+2ΔSで撮像された輝度値が、画素P1,P2,P3における画素値pa1,pa2,pa3となる。又、サンプル点S2、S2+ΔS、S2+2ΔSは、被写体上のサンプル点を示し、図2(c)に示す第2フレームとなる低解像度実画像Fbでは、このサンプル点S2、S2+ΔS、S2+2ΔSで撮像された輝度値が、画素P1,P2,P3における画素値pb1,pb2,pb3となる。
これにより、第1フレームとなる低解像度実画像Faの画素P1,P2,P3における画素値pa1,pa2,pa3が図2(b)のような関係となり、又、第2フレームとなる低解像度実画像Fbの画素P1,P2,P3における画素値pb1,pb2,pb3が図2(c)のような関係となる。このように、図2(b)による低解像度実画像Fa及び図2(c)による低解像度実画像Fbそれぞれは、図中の被写体の位置を基準にすると、画素位置が(S1−S2)だけずれた状態の画像となる。そして、低解像度実画像Faの画素P1,P2,P3を基準として低解像度実画像Fbを表した場合(即ち、低解像度実画像Fbを低解像度実画像Faに対する動き量(S1−S2)分だけ位置ズレ補正した場合)、低解像度実画像Fbが図2(d)のように表される。
そして、図3(a)に示すように、位置ズレを補正した図2(b)及び図2(d)のような低解像度実画像Fa,Fbを組み合わせることで、高解像度画像Fx1を推定する(STEP31)。このとき、以下の説明を簡単にするために、例えば、解像度を1次元方向に対して2倍にするものとする。即ち、高解像度画像Fx1の画素として、低解像度実画像Fa,Fbの画素P1,P2,P3に加えて更に、画素P1,P2の中間位置に位置する画素P4と、画素P2,P3の中間位置に位置する画素P5とが設定されるものとする。
低解像度実画像Faが基準である注目フレームとされると、画素P1,P2,P3での画素値が、低解像度実画像Faにおける画素値pa1,pa2,pa3とされる。又、画素P4については、画素P4との画素位置(画素の中心位置)の距離が、低解像度実画像Faにおける画素P1,P2の画素位置からの距離よりも低解像度実画像Fbにおける画素P1の画素位置からの距離の方が近いことより、画素値pb1とされるものとする。同様に、画素P5については、画素P5との画素位置(画素の中心位置)の距離が、低解像度実画像Faにおける画素P2,P3の画素位置からの距離よりも低解像度実画像Fbにおける画素P2の画素位置からの距離の方が近いことより、画素値pb2とされるものとする。このように、画素P1〜P5の画素値をpa1,pa2,pa3,pb1,pb2と設定して得られた高解像度画像を、高解像度画像Fx1として推定されるものとしても構わない。
その後、STEP31で得られた高解像度画像Fx1に対して、ダウンサンプリング量やぼけ量や位置ズレ量(動き量に相当)などをパラメータとして備えた変換式による演算を行うことで、図3(b)のように、低解像度実画像Fa,Fbそれぞれに対する推定画像となる低解像度推定画像Fa1,Fb1を生成する(STEP32)。尚、図3(b)では、n回目の処理によって推定された低解像度推定画像、即ち、高解像度画像Fxnより推定された低解像度実画像Fa,Fbに相当する低解像度推定画像Fan,Fbnを示す。
即ち、高解像度画像Fx1に基づいて、サンプル点S1、S1+ΔS、S1+2ΔSにおける画素値を推定して、取得した画素値pa11〜pa31を画素P1〜P3の画素値とする低解像度推定画像Fa1を生成する。同様に、高解像度画像Fx1に基づいて、サンプル点S2、S2+ΔS、S12+2ΔSにおける画素値を推定して、取得した画素値pb11〜pb31を画素P1〜P3の画素値とする低解像度推定画像Fb1を生成する。
そして、図3(c)に示すように、このようにして得られた低解像度推定画像Fa1,Fb1それぞれと、低解像度実画像Fa,Fbそれぞれとの間における差分を求め、この差分を合成することで、高解像度画像Fx1に対する差分画像ΔFx1を取得する(STEP33)。尚、図3(c)では、n回目の処理によって取得された高解像度画像Fxnに対する差分画像ΔFxn、即ち、低解像度推定画像Fan,Fbnと低解像度実画像Fa,Fbとによる差分画像ΔFan、ΔFbnを合成することで得られた差分画像ΔFxnを示す。
この図3(c)の処理によって、低解像度推定画像Fa1と低解像度実画像Faにおける画素P1,P2,P3での差分(pa11−pa1)、(pa21−pa2)、(pa31−pa3)による差分画像ΔFa1、低解像度推定画像Fa2と低解像度実画像Fbにおける画素P1,P2,P3での差分(pb11−pb1)、(pb21−pb2)、(pb31−pb3)による差分画像ΔFb1をそれぞれ求める。即ち、差分画像ΔFa1では、差分値(pa11−pa1)、(pa21−pa2)、(pa31−pa3)が画素値となり、差分画像ΔFb1では、差分値(pb11−pb1)、(pb21−pb2)、(pb31−pb3)が画素値となる。
そして、差分画像ΔFa1,ΔFb1の画素値を合成することによって、画素F1〜F5それぞれにおける差分値を算出して、高解像度画像Fx1に対する差分画像ΔFx1を取得する。この差分画像ΔFa1,ΔFb1の画素値を合成によって差分画像ΔFx1を取得する際、例えば、ML法やMAP法では、二乗誤差を評価関数として用いる。即ち、ML法やMAP法の評価関数が、差分画像ΔFa1,ΔFb1の画素値を二乗してフレーム間で加算した値となる。よって、この評価関数の微分値である勾配は、差分画像ΔFa1,ΔFb1の画素値を2倍した値となるため、高解像度画像Fx1に対する差分画像ΔFx1は、差分画像ΔFa1,ΔFb1それぞれの画素値を2倍した値を用いて高解像度化することで算出される。
その後、図3(d)に示すように、得られた差分画像ΔFx1における画素P1〜P5の画素値(差分値)が、STEP1で推定された高解像度画像Fx1における画素P1〜P5の画素値より減算されることで、図2(a)に示す輝度分布の被写体に近い画素値となる高解像度画像Fx2が再構成される(STEP34)。尚、図3(d)では、n回目の処理によって取得された高解像度画像Fx(n+1)、即ち、高解像度推定画像Fxnより差分画像ΔFxnが減算されて得られた高解像度画像Fx(n+1)を示す。
そして、上述のSTEP32〜STEP34の処理を繰り返すことによって、STEP33で得られる差分画像ΔFxnの画素値が小さくなり、高解像度画像Fxnの画素値が、図2(a)に示す輝度分布の被写体に近い画素値に収束される。尚、n回目の処理におけるSTEP32及びSTEP34では、前回(n−1回目)の処理におけるSTEP34で得られた高解像度画像Fxnによって、低解像度推定画像Fan,Fbn及び高解像度推定画像Fx(n+1)が取得される。そして、差分画像ΔFxnの画素値(差分値)が所定値より小さくなったときや、差分画像ΔFxnの画素値(差分値)が収束されたとき、前の処理(n−1回目の処理)におけるSTEP34で得られた高解像度画像Fxnを、目的の高解像度画像として超解像処理を終了する。
上述したフローを基本とする超解像処理として、[背景技術]で挙げたML法や、MAP法や、POCS法や、IBP法などが、画像処理部4で利用される。尚、本実施形態では、MAP法が利用される場合の超解像処理が用いられるものとする。このとき、STEP33において取得される高解像度画像Fxnに対する差分画像ΔFxnが、MAP法における評価関数を勾配法によって微分した値を画素値とする勾配画像で構成されるものとする。
即ち、各画素位置での二乗誤差を画素値とする最小二乗法によって得られた差分画像ΔFan、ΔFbnを合成した高解像度画像Fxnの差分画像に、事後確率分布により拘束される高解像度画像Fxnの高速画像を加えた後、勾配法によって微分を行うことで、STEP33における差分画像ΔFxnに相当する勾配画像を取得する。そして、STEP34において、この勾配画像による差分画像ΔFxnを高解像度画像Fxnより減算することで、高解像度画像Fx(n+1)を再構築する。
又、本実施形態では、STEP33で差分画像ΔFxnを求める際、エッジ成分を多く含むエッジ領域と、エッジ成分の少ない平坦領域とが判断され、そのエッジ成分に応じた係数が領域毎に差分画像ΔFxnに乗算される。即ち、エッジ領域では、求められた差分画像ΔFxnが反映されるようにSTEP34での演算が成されるとともに、平坦領域では、求められた差分画像ΔFxnの影響が小さくようにSTEP34での演算が成される。
(画像処理部の構成及び動作)
以下において、本実施形態の撮像装置の画像処理部4におけるMAP法による超解像処理の詳細について、その構成ととともに、図面を参照して説明する。図4は、画像処理部の構成を示すブロック図である。
以下において、本実施形態の撮像装置の画像処理部4におけるMAP法による超解像処理の詳細について、その構成ととともに、図面を参照して説明する。図4は、画像処理部の構成を示すブロック図である。
図4に示すように、AFE2でデジタル信号とされた1フレーム分の低解像度実画像となる画像信号を一時的に記憶するフレームメモリ41と、フレームメモリ41に記憶された1フレーム分の低解像度実画像を一時的に記憶するフレームメモリ42と、AFE2より入力される現フレームの低解像度実画像による画像信号とフレームメモリ41に記憶された現フレームより1フレーム前の低解像度実画像による画像信号とが与えられて動き量を算出する動き量算出部43と、動き量算出部43で検出された動き量に基づいてフレームメモリ41,42に記憶された2フレームの低解像度実画像に対して超解像処理を行って高解像度画像を生成する超解像処理部44と、超解像処理部44で得られた高解像度画像を一時的に記憶して再び超解像処理部44に与えるフレームメモリ45と、超解像処理部44で超解像処理が施された高解像度画像による画像信号又はAFE2から直接与えられた画像信号より輝度信号及び色差信号を生成する信号処理部46と、を備える。
更に、超解像処理部44は、フレームメモリ41,42に記憶された2フレーム分の低解像度実画像(図3(a)の低解像度実画像Fa,Fbに相当)より初期高解像度画像となる高解像度画像(図3(a)の高解像度画像Fx1に相当)を推定する初期高解像度推定部441と、初期高解像度推定部441で推定されて得られた高解像度画像とフレームメモリ45に一時記憶された高解像度画像のいずれか1つを選択して後段に与える選択部442と、選択部442で選択された高解像度画像とフレームメモリ41,42に記憶された2フレーム分の低解像度実画像によって高解像画像の更新量(図3(d)の差分画像ΔFxnに相当)を求める高解像度更新量算出部443と、選択部442で選択された高解像度画像から高解像度更新量算出部443で得られた更新量を減算する減算部444と、を備える。尚、選択部442では、1回目の選択動作において、初期高解像度推定部441で推定された初期高解像度画像を選択し、2回目以降の選択動作において、フレームメモリ45に一時記憶された高解像度画像を選択する。
(1)動き量検出部の動作
まず、動き量検出部43の動作について簡単に説明する。この動き量検出部43には、現フレームとなる低解像度実画像FaがAFE2から与えられるとともに、現フレームの1フレーム前の低解像度実画像Fbがフレームメモリ41から与えられて、位置ズレとなる動き量が検出される。この動き量の検出は、時間的に連続した2フレームの低解像度実画像Fa,Fbのうち、現フレームとなる低解像度実画像Faを基準画像とし、もう一方の低解像度実画像Fbを非基準画像として検出される。尚、本実施形態では、現フレームとなる低解像度実画像Faを基準画像とするものとして説明するが、現フレームでないもう一方の低解像度実画像Fbを基準画像としても構わない。
まず、動き量検出部43の動作について簡単に説明する。この動き量検出部43には、現フレームとなる低解像度実画像FaがAFE2から与えられるとともに、現フレームの1フレーム前の低解像度実画像Fbがフレームメモリ41から与えられて、位置ズレとなる動き量が検出される。この動き量の検出は、時間的に連続した2フレームの低解像度実画像Fa,Fbのうち、現フレームとなる低解像度実画像Faを基準画像とし、もう一方の低解像度実画像Fbを非基準画像として検出される。尚、本実施形態では、現フレームとなる低解像度実画像Faを基準画像とするものとして説明するが、現フレームでないもう一方の低解像度実画像Fbを基準画像としても構わない。
この動き量検出については、例えば、周知の代表点マッチング法によって、画像間における画素単位の動き量が検出され、その後、1画素内における動き量について、画素単位の位置ズレ補正された近隣画素の画素値の関係に基づいて検出されるものとしても構わない。以下に、代表点マッチング法と、1画素内における位置ズレ検出とについて、簡単に説明する。
(1−a)代表点マッチング法
基準画像及び非基準画像それぞれに対して、例えば、図5に示すように、a×bの画素群(例えば、36×36の画素群)を1つの小領域eとして分割し、更に、このp×q領域の小領域e群(例えば、6×8の小領域e群)を1つの検出領域Eとして分割する。そして、基準画像では、各小領域eにおいて、図6(a)のように、小領域eを構成するa×bの画素から1つの画素が代表点Rとして設定され、又、非基準画像では、各小領域eにおいて、図6(b)のように、小領域eを構成するa×bの画素のうちの複数の画素がサンプリング点Sとして設定される(例えば、a×bの画素全てをサンプリング点Sとしても構わない)。
基準画像及び非基準画像それぞれに対して、例えば、図5に示すように、a×bの画素群(例えば、36×36の画素群)を1つの小領域eとして分割し、更に、このp×q領域の小領域e群(例えば、6×8の小領域e群)を1つの検出領域Eとして分割する。そして、基準画像では、各小領域eにおいて、図6(a)のように、小領域eを構成するa×bの画素から1つの画素が代表点Rとして設定され、又、非基準画像では、各小領域eにおいて、図6(b)のように、小領域eを構成するa×bの画素のうちの複数の画素がサンプリング点Sとして設定される(例えば、a×bの画素全てをサンプリング点Sとしても構わない)。
このように、小領域e及び検出領域Eを設定すると、基準画像と非基準画像の同一位置となる小領域eについて、非基準画像の各サンプリング点Sの画素値と基準画像の代表点Rの画素値との差が、各サンプリング点Sでの相関値として求められる。そして、検出領域E毎に、各小領域e間で代表点Rとの相対位置が同一となるサンプリング点Sの相関値を、検出領域Eを構成する全ての小領域e分だけ累積加算することで、各サンプリング点Sにおける累積相関値を取得する。これにより、検出領域E毎に、代表点Rとの相対位置が同一となるp×q個のサンプリング点Sの相関値が累積加算されることで、サンプリング点の個数分の累積相関値が得られる(例えば、a×bの画素全てをサンプリング点Sとする場合、a×b個の累積相関値が得られることとなる)。
このようにして、各検出領域Eに対して、各サンプリング点Sに対する累積相関値が求められると、各検出領域Eにおいて、代表点Rと相関性が最も高いと考えられる累積相関値が最小となるサンプリング点Sが検出される。そして、各検出領域Eでは、累積相関値が最小となるサンプリング点Sと代表点Rとの動き量が、それぞれの画素位置によって求められる。その後、各検出領域Eそれぞれに対して求められた動き量を平均することで、この平均値を、基準画像と非基準画像との間の画素単位による動き量として検出する。
(1−b)1画素内の動き量検出
上述のように、画素単位による動き量を検出すると、更に、1画素内における動き量が検出される。このとき、例えば、まず、図5に示す小領域e毎に、基準画像の代表点Rとなる画素の画素値と、上述の代表点マッチング法によって得られた動き量によって代表点Rと相関性の高いサンプリング点Sxとなる画素及び周辺画素それぞれの画素値との関係によって、1画素内における動き量を検出する。
上述のように、画素単位による動き量を検出すると、更に、1画素内における動き量が検出される。このとき、例えば、まず、図5に示す小領域e毎に、基準画像の代表点Rとなる画素の画素値と、上述の代表点マッチング法によって得られた動き量によって代表点Rと相関性の高いサンプリング点Sxとなる画素及び周辺画素それぞれの画素値との関係によって、1画素内における動き量を検出する。
即ち、各小領域eにおいて、基準画像で画素位置(ar,br)となる代表点Rの画素値La(図7(a)参照)と、非基準画像において画素位置(as,bs)となるサンプル点Sxの画素値Lbと、サンプル点Sxと水平方向に隣接する画素位置(as+1,bs)の画素値Lc(図7(b)参照)と、サンプル点Sxと垂直方向に隣接する画素位置(as,bs+1)の画素値Ld(図7(b)参照)との関係によって、1画素内における動き量が検出される。このとき、代表点マッチング法により、基準画素から非基準画像への画素単位の動き量が、(as−ar,bs−br)となるベクトル量で表される値となる。
又、図8(a)のように、サンプル点Sxとなる画素から水平方向に1画素ずれることで、画素値Lbから画素値Lcに線形的に変化するものとし、図8(b)のように、サンプル点Sxとなる画素から垂直方向に1画素ずれることで、画素値Lbから画素値Ldに線形的に変化するものとする。そして、図7(a)及び図7(b)のような関係より、画素値Lb,Lcの間で画素値Laとなる水平方向の位置Δx(=(La−Lb)/(Lc−Lb))を求めるとともに、画素値Lb,Ldの間で画素値Laとなる垂直方向の位置Δy(=(La−Lb)/(Ld−Lb))を求める。即ち、(Δx,Δy)で表されるベクトル量が、基準画素と非基準画素との間における、1画素内での動き量として求められる。
このようにして、小領域eそれぞれにおける1画素内での動き量を求めると、求めた動き量を平均することで、この平均値を、基準画像Faと非基準画像Fbとの間の画素単位による動き量として検出する。そして、代表点マッチング法によって得られた画素単位による動き量に、求めた1画素内での動き量を加えることによって、基準画像Faと非基準画像Fbとの間における動き量を算出することができる。
(2)超解像処理部の動作
次に、このように構成される超解像処理部44の動作について、図3を参照して説明する。尚、低解像度実画像を含む低解像度画像の画素数をuとし、初期高解像度画像を含む高解像度画像の画素数をvとする。そして、u画素による低解像度実画像Faの各画素値がYa=[ya1,ya2,…,yau]となり、u画素による低解像度実画像Fbの各画素値がYb=[yb1,yb2,…,ybu]となる。画像処理部4における超解像処理が行われるとき、フレームメモリ41,42に記憶された2フレーム分の低解像度実画像Fa,Fbが初期高解像度推定部441に与えられる。
次に、このように構成される超解像処理部44の動作について、図3を参照して説明する。尚、低解像度実画像を含む低解像度画像の画素数をuとし、初期高解像度画像を含む高解像度画像の画素数をvとする。そして、u画素による低解像度実画像Faの各画素値がYa=[ya1,ya2,…,yau]となり、u画素による低解像度実画像Fbの各画素値がYb=[yb1,yb2,…,ybu]となる。画像処理部4における超解像処理が行われるとき、フレームメモリ41,42に記憶された2フレーム分の低解像度実画像Fa,Fbが初期高解像度推定部441に与えられる。
(2−a)初期高解像画像による処理
これにより、初期高解像度推定部441では、図3(a)に示すSTEP31のように、動き量算出部43で得られた動き量に基づいて、2フレームの低解像度実画像Fa,Fb間の位置ズレを検出する。そして、低解像度実画像Fa,Fbの各画素値Ya,Ybに対して、動き量により確認された位置ズレを利用した補間処理を施すことで、v画素による初期高解像度画像Fx1を取得する。尚、高解像度画像Fx1〜Fxnそれぞれの各画素値を、X=[x1,x2,…,xv]となるものとする。この初期高解像度推定部441で初期高解像度画像Fx1を生成する際、高解像度画像生成用のフィルタの一部にメディアンフィルタなどによるノイズ低減処理を行うフィルタを用いることや、高解像度画像生成用のフィルタのタップ数を広げることで、S/N比(信号/ノイズ比)を高くすることが好ましい。
これにより、初期高解像度推定部441では、図3(a)に示すSTEP31のように、動き量算出部43で得られた動き量に基づいて、2フレームの低解像度実画像Fa,Fb間の位置ズレを検出する。そして、低解像度実画像Fa,Fbの各画素値Ya,Ybに対して、動き量により確認された位置ズレを利用した補間処理を施すことで、v画素による初期高解像度画像Fx1を取得する。尚、高解像度画像Fx1〜Fxnそれぞれの各画素値を、X=[x1,x2,…,xv]となるものとする。この初期高解像度推定部441で初期高解像度画像Fx1を生成する際、高解像度画像生成用のフィルタの一部にメディアンフィルタなどによるノイズ低減処理を行うフィルタを用いることや、高解像度画像生成用のフィルタのタップ数を広げることで、S/N比(信号/ノイズ比)を高くすることが好ましい。
このようにして初期高解像度推定部441から初期高解像度画像Fx1が出力されると、選択部442によって、この初期高解像度画像Fx1が選択されて、高解像度更新量算出部443に与えられる。この高解像度更新量算出部443では、動き量算出部43で得られた動き量が与えられることで、動き量に基づいて、高解像実画像Fxに対する低解像度実画像Fa,Fbそれぞれの位置ズレや低解像化によるぼけが算出される。この動き量より得られる位置ズレやぼけと、v画素の高解像度画像Fxnからu画素の低解像度実画像Fa,Fbに相当する低解像度推定画像Fan,Fbnへのダウンサンプリング量とを含むカメラパラメータ行列Wa,Wbが求められる。
そして、選択部442を通じて与えられた初期高解像度画像Fx1に対して、カメラパラメータ行列Wa,Wbが乗算されることで、図3(b)に示すSTEP32のように、低解像度実画像Fa,Fbに擬似的に類似させた低解像度推定画像Fa1(=Wa・X),Fb1(=Wb・X)が推定される。又、この高解像度更新量算出部443は、フレームメモリ41,42に記憶された2フレーム分の低解像度実画像Fa,Fbが与えられることで、推定した低解像度推定画像Fa1,Fb1と低解像度実画像Fa,Fbとの二乗誤差による差分|Wa・X−Ya|2、|Wb・X−Yb|2が求められる。
この低解像度推定画像Fa1,Fb1と低解像度実画像Fa,Fbとの差分による評価関数Iが、それぞれの差分の加算値に、選択部442で選択された高解像度画像によって得られる拘束項が付加された形で求められる。即ち、求められる評価関数Iは、|Wa・X−Ya|2+|Wb・X−Yb|2+γ|CX|2となる。尚、この評価関数Iの拘束項γ|CX|2において、行列Cが、事前確率モデルに基づく行列であり、「高解像度画像には高域成分が少ない」という事前知識に基づき、例えば、ラプラシアンフィルタなどのハイパスフィルタによって構成される。又、係数γは、拘束項の評価関数Iにおける重みの強さを表すパラメータである。このようにして求められた評価関数Iに対して勾配法によって最小化を行うため、評価関数Iに対する勾配∂I/∂X(=2×{WaT・(Wa・X−Ya)+WbT・(Wb・X−Yb)+γCT・C・X})が求められる。尚、添え字である「T」は、転置行列を表す。
更に、このようにして、勾配∂I/∂Xが求められるとき、更に、低解像度実画像Fa,Fb及び低解像度推定画像Fa1,Fb1それぞれにおける画像成分を確認することで、低解像度実画像Fa,Fbそれぞれに対して、ノイズが多く含まれると推定される領域やエッジ部分の相関性が低い領域が確認される。例えば、低解像度実画像Fa及び低解像度推定画像Fa1それぞれの画像成分の相関を確認することで、低解像度実画像Faにおける各領域での、ノイズが確認されやすい平坦部分と、誤ってノイズと検出されるエッジを含むエッジ部分との比率を検出する。同様に、低解像度実画像Fb及び低解像度推定画像Fb1それぞれの画像成分の相関を確認することで、低解像度実画像Fbにおける平坦部分とエッジ部分とを検出する。
そして、低解像度実画像及び低解像度推定画像それぞれについて各領域で推定されるエッジ部分と平坦部分との成分比率に対する相関性(例えば、低解像度実画像及び低解像度推定画像それぞれの画像成分の相関)に応じて、勾配∂I/∂Xにおける、低解像度実画像と低解像度推定画像との間の二乗誤差による差分に与える重み係数kを設定する。このとき、エッジ部分と平坦部分との成分比率に対する相関性が低いものと推定される領域(低解像度実画像及び低解像度推定画像それぞれの画像成分の相関がない領域)については、重み係数kが0に近い値に設定される。逆に、エッジ部分と平坦部分との成分比率に対する相関性が高いものと推定される領域(低解像度実画像及び低解像度推定画像それぞれの画像成分の相関が大きい領域)については、重み係数kが1に近い値に設定される。
即ち、エッジ部分と平坦部分との成分比率に対する相関性が低いものと推定される領域については、勾配∂I/∂Xにおける、低解像度実画像と低解像度推定画像との間の二乗誤差による差分の影響が小さくなるように、重み係数kが設定される。この重み係数kは、低解像度実画像Fa,Fbそれぞれの各画素に対して設定される。又、重み係数kは、0≦k≦1となる値であり、重み係数kが1に近い値となる場合、高解像度画像の更新時において、エッジ成分を含む差分(勾配∂I/∂X)の影響を大きく与える。更に、重み係数が0に近い値となる場合、高解像度画像の更新時において、ノイズが低減された初期高解像度画像の値をそのまま利用する。
よって、低解像度実画像Faの画素値Ya及び低解像度推定画像Fa1の画素値Wa・Xそれぞれの画像成分の関係から、低解像度実画像Faに対する係数が、Ka=[ka1,ka2,…,kau]として求められる。同様に、低解像度実画像Fbの画素値Yb及び低解像度推定画像Fb1の画素値Wb・Xそれぞれの画像成分の関係から、低解像度実画像Fbに対する係数が、Kb=[kb1,kb2,…,kbu]として求められる。
このようにして、低解像度実画像Fa,Fbに対して係数Ka,Kbを設定すると、高解像度更新量算出部443では、設定した係数を勾配∂I/∂Xにおける(Wa・X−Ya)、(Wb・X−Yb)に乗算することで、ノイズを考慮した勾配∂J/∂X(=2×{WaT・Ka・(Wa・X−Ya)+WbT・Kb・(Wb・X−Yb)+γCT・C・X})を高解像度画像の更新量として算出する。この更新量となる勾配∂J/∂Xを求めることで、高解像度更新量算出部443において、図3(c)によって示すSTEP33における差分画像ΔFx1が求められることとなる。
このようにして算出した勾配∂J/∂Xによる更新量が、高解像度更新量算出部443より減算部444に与えられると、減算部444では、図3(d)におけるSTEP34のように、選択部442を介して初期高解像度推定部441より与えられる初期高解像度画像Fx1より、勾配∂J/∂Xによる更新量を減算する。この減算部444の減算結果により、v画素の画素値それぞれが(X−∂J/∂X)となる高解像度画像Fx2が得られる。そして、この新たに得られた高解像度画像Fx2が減算部444より出力されて、フレームメモリ45に与えられて、一時的に記憶される。
(2−b)生成後の高解像画像による処理
上述のように、初期高解像度画像Fx1を取得して、高解像度画像の更新量を勾配∂J/∂Xとし、新たな高解像度画像Fx2を取得すると、選択部442は、フレームメモリ45に格納された高解像度画像を選択して高解像度更新量算出部443に与える。即ち、n(n≧2の整数)回目の演算処理の場合、フレームメモリ45に格納された高解像度画像Fxnが選択部442によって読み出されて、高解像度更新量算出部443に与えられる。
上述のように、初期高解像度画像Fx1を取得して、高解像度画像の更新量を勾配∂J/∂Xとし、新たな高解像度画像Fx2を取得すると、選択部442は、フレームメモリ45に格納された高解像度画像を選択して高解像度更新量算出部443に与える。即ち、n(n≧2の整数)回目の演算処理の場合、フレームメモリ45に格納された高解像度画像Fxnが選択部442によって読み出されて、高解像度更新量算出部443に与えられる。
よって、高解像度更新量算出部443では、フレームメモリ45に格納された高解像度画像Fxnによって、低解像度推定画像Fan(=Wa・X),Fbn(=Wb・X)を推定する。そして、低解像度実画像Fa,Fb及び低解像度推定画像Fan,Fbnそれぞれにおける画像成分を確認することで、低解像度実画像Fa,Fbそれぞれに対して、ノイズが多く含まれると推定される領域が確認される。これにより、更新量となる勾配∂J/∂Xを求めるためのn回目の演算処理における、低解像度実画像Fa,Fbに対する係数Ka,Kbが算出される。
このようにして求められた低解像度推定画像Fan,Fbn及び係数Ka,Kbと、入力される低解像実画像Fa,Fb及び高解像度画像Fxnとによって、更新量となる∂J/∂X(=2×{WaT・Ka・(Wa・X−Ya)+WbT・Kb・(Wb・X−Yb)+γCT・C・X})による差分画像ΔFxnが、高解像度更新量算出部443で求められる。そして、減算部444において、高解像度更新量算出部443で求められた差分画像ΔFxnが、選択部442を介してフレームメモリ45から与えられる高解像度画像Fxnより減算されて、即ち、X−∂J/∂Xの演算が行われることで、新たに高解像度画像Fx(n+1)が得られる。
そして、超解像処理部44において、高解像度更新量算出部443による演算処理回数をn回に設定している場合は、減算部444で新たに得られた高解像度画像Fx(n+1)を、減算部444から信号処理部46に出力する。又、超解像処理部44内において、高解像度更新量算出部443による演算処理回数をn+1回以上に設定している場合は、高解像度画像Fx(n+1)をフレームメモリ45に与えて一時記憶して、n+1回目の演算処理を行う。
このようにして、画像処理部4内の超解像処理部44において超解像処理が成されることによって、撮像した2フレーム分の低解像度実画像から高解像度画像が得られる。尚、本実施形態では、連続した2フレーム分の低解像度実画像から高解像度画像を取得するものとしたが、複数フレームから最適な2フレームの低解像度実画像を選択し、選択した2フレームの低解像度実画像から高解像度画像を生成するものとしても構わない。又、2フレームに限らず、3フレーム以上の低解像度実画像によって高解像度画像を生成するものとしても構わない。このとき、高解像度画像生成に使用する低解像度実画像のフレーム数だけフレームメモリが必要となる。
又、超解像処理部44内における高解像度更新量算出部443及び減算部444による演算処理の繰り返し回数については、動画撮影や静止画の連続撮影などのように、1フレームの撮影間隔が短い場合は、その回数が少なくなるように設定される。又、連続撮影以外の通常の静止画撮影の場合は、その回数が、動画撮影や静止画の連続撮影の場合よりも多くなるように設定されるものとしても構わない。
このように超解像処理部44において、低解像度実画像における各領域で推定されるノイズとエッジの成分比率の相関性に応じた演算処理がなされることで、超解像処理により得られた高解像画像におけるノイズを低減することができる。この超解像処理部44を備える画像処理部4が設けられた撮像装置について、超解像処理部44における高解像度更新量算出部443の詳細な構成例について、以下の各実施例で説明する。又、以下の各実施例では、高解像度更新量算出部443の構成を説明するとともに、低解像度実画像における各領域のノイズとエッジの成分比率の相関性を推定するための演算処理の詳細について説明する。
まず、本実施例の撮像装置における超解像処理部44の構成を、図9を参照して説明する。図9は、本実施例の撮像装置における超解像処理部の構成を示すブロック図である。図9に示すように、超解像処理部44は、図4で示した構成と同様、初期高解像度推定部441と、選択部442と、高解像度更新量算出部443と、減算部444と、を備える。
そして、高解像度更新量算出部443が、動き量算出部43で得られた動き量に基づいてカメラパラメータ行列Wa,Wb,WaT,WbTを求めるパラメータ算出部51〜54と、選択部442で選択された高解像度画像Fxnに対してパラメータ算出部51,52それぞれからのカメラパラメータ行列Wa,Wbを乗算する乗算部55,56と、乗算部55によって得られた低解像度推定画像Fanの画素値からフレームメモリ41からの低解像度実画像Faの画素値を減算する減算部57と、乗算部56によって得られた低解像度推定画像Fbnの画素値からフレームメモリ42からの低解像度実画像Fbの画素値を減算する減算部58と、選択部442で選択された高解像度画像Fxnの高周波成分を通過させるハイパスフィルタ(HPF)59と、HPF59を通過した高解像度画像Fxnの高周波成分に対してパラメータ算出部51,52それぞれからのカメラパラメータ行列Wa,Wbを乗算する乗算部60,61と、フレームメモリ41,42それぞれからの低解像度実画像Fa,Fbの高周波成分を通過させるHPF62,63と、乗算部60,61からの低解像度推定画像Fan,Fbnそれぞれの高周波成分とHPF62,63からの低解像度実画像Fa,Fbそれぞれの高周波成分との相関関係より係数Ka,Kbを設定する成分係数算出部64,65と、減算部57,58からの差分値に対して成分係数算出部64,65からの係数Ka,Kbを乗算する乗算部66,67と、乗算部66,67からの値に対してパラメータ算出部53,54それぞれからのカメラパラメータ行列WaT,WbTを乗算する乗算部68,69と、乗算部68,69で得られた二乗誤差による差分を加算する加算部70と、HPF59を通過した高解像度画像Fxnの高周波成分から更に高周波成分を抽出して正規化するHPF71と、HPF71を通過して得られた拘束項(正規化項)に対して重み係数γを乗算する乗算部72と、乗算部72で重み係数γが乗算された拘束項を加算部70で得られた値に加算する加算部73と、加算部73での値を倍算して差分画像による各画素の値(更新量)を求める乗算部74と、を備える。
このように構成される高解像度更新量算出部443では、乗算部55,56に及びHPF59それぞれ対して、選択部442から初期高解像度設定部441又はフレームメモリ45のいずれかからのv画素の高解像度画像Fxnによる画素値X(=[x1,x2,…,xv])が与えられる。又、フレームメモリ41に格納されたu画素の低解像度実画像Faによる画素値Ya(=[ya1,ya2,…,yau])が、減算部57及びHPF62に与えられ、フレームメモリ42に格納されたu画素の低解像度実画像Fbによる画素値Yb(=[yb1,yb2,…,ybu])が、減算部58及びHPF63に与えられる。更に、動き量算出部43で得られた低解像度実画像Fa,Fb間の動き量が、パラメータ算出部51〜54に与えられる。
そして、パラメータ算出部51,52それぞれでは、低解像度実画像Fa,Fb間の動き量に基づいて、高解像度画像Fxnから低解像度推定画像Fan,Fbnを推定するためのカメラパラメータ行列Wa,Wbを算出する。又、パラメータ算出部53,54それぞれでは、低解像度実画像Fa,Fb間の動き量に基づいて、パラメータ算出部51,52それぞれで得られるカメラパラメータ行列Wa,Wbの転置行列となるカメラパラメータ行列WaT,WbTを算出する。
これにより、乗算部55では、パラメータ算出部51からのカメラパラメータ行列Waが与えられて乗算するため、低解像度推定画像Fanの画素値Wa・Xが得られるとともに、乗算部56では、パラメータ算出部52からのカメラパラメータ行列Wbが与えられて乗算するため、低解像度推定画像Fbnの画素値Wb・Xが得られる。そして、減算部57では、低解像度実画像Faの画素値Yaと低解像推定画像Fanの画素値Wa・Xとの間での減算が成されて、その差分値(Wa・X−Ya)が算出され、又、減算部58では、低解像度実画像Fbの画素値Ybと低解像推定画像Fbnの画素値Wb・Xとの間での減算が成されて、その差分値(Wb・X−Yb)が算出される。
又、ラプラシアンフィルタなどにより成るHPF59,62,63では、高解像度画像Fxn及び低解像度実画像Fa,Fbそれぞれにおける高周波成分が抽出される。即ち、HPF59によって、v画素の高解像度画像Fxnの高周波成分HX(=[hx1,hx2,…,hxv])が抽出され、HPF62によって、u画素の低解像度実画像Faの高周波成分HYa(=[hya1,hya2,…,hyau])が抽出され、HPF63によって、u画素の低解像度実画像Fbの高周波成分HYb(=[hyb1,hyb2,…,hybu])が抽出される。
そして、HPF59で得られた高解像度画像Fxnの高周波成分HXが乗算部60,61に与えられると、この高周波成分HXが、乗算部60においては、パラメータ算出部51からのカメラパラメータ行列Waによって乗算され、又、乗算部61においては、パラメータ算出部52からのカメラパラメータ行列Wbによって乗算される。よって、乗算部60での乗算により、u画素の低解像度推定画像Faxの高周波成分Wa・HX(=[whxa1,whxa2,…,whxau])が算出され、又、乗算部61での乗算により、u画素の低解像度推定画像Fbxの高周波成分Wb・HX(=[whxb1,whxb2,…,whxbu])が算出される。
このようにして得られた低解像度実画像Fa及び低解像度推定画像Faxそれぞれの高周波成分HYa,Wa・Hxが、成分係数算出部64に与えられるとともに、低解像度実画像Fb及び低解像度推定画像Fbxそれぞれの高周波成分HYb,Wb・Hxが、成分係数算出部65に与えられる。まず、成分係数算出部64では、低解像度実画像Fa及び低解像度推定画像Faxそれぞれの同一画素位置における高周波成分の比率行列Ra(=[ra1,ra2,…,rau])が求められ、成分係数算出部65では、低解像度実画像Fb及び低解像度推定画像Fbxそれぞれの同一画素位置における高周波成分の比率行列Rb(=[rb1,rb2,…,rbu])が求められる。このとき、比率行列Raにおける要素となる値raiが以下の(1)式で算出され、又、比率行列Rbにおける要素となる値rbiが以下の(2)式で算出される。尚、(1)式及び(2)式におけるiは、1≦i≦uの整数である。
そして、成分係数算出部64では、比率Raを低解像度実画像Faと低解像度推定画像Fanとの相関値として扱う。即ち、比率Raにおける値raiが所定値th1に近い値となるi番目の画素については、低解像度実画像Faと低解像度推定画像Fanとの相関が強いものとし、エッジ部分の構成を多く含む領域の画素であることを確認する。よって、このi番目の画素に対する重み係数kaiを1に近い値に決定する。逆に、比率Raにおける値raiが所定値th1から離れた値となるp番目の画素については、低解像度実画像Faと低解像度推定画像Fanとの相関が弱いものとし、ノイズが確認されやすい平坦部分の構成を多く含む領域又はエッジ部分はあるが低解像度実画像と低解像度推定画像との間の相関がとれない領域の画素であることを確認する。よって、このi番目の画素に対する重み係数kaiを0に近い値に決定する。このように、比率Raにおける値raiと所定値th1との差の大きさが大きいものほど、重み係数kaiの値が0に近づき、比率Raにおける値raiと所定値th1との差の大きさが小さいものほど、重み係数kaiの値が1に近づくように、u画素の低解像度実画像Faに対する係数行列Ka(=[ka1,ka2,…,kau])が設定される。
同様に、成分係数算出部65では、比率Rbを低解像度実画像Fbと低解像度推定画像Fbnとの相関値として扱い、比率Rbにおける値rbiと所定値th1との比較を行って、このi番目の画素に対する重み係数kbiの値を決定する。よって、比率Rbにおける値rbiと所定値th1との差の大きさが大きいものほど、重み係数kbiの値が0に近づき、比率Rbにおける値rbiと所定値th1との差の大きさが小さいものほど、重み係数kbiの値が1に近づくように、u画素の低解像度実画像Fbに対する係数行列Kb(=[kb1,kb2,…,kbu])が設定される。
尚、比率Ra,Rbにおける値rai,rbiと、係数行列Ka,Kbにおける重み係数kai,kbiとの間の関係については、図10のように表される。尚、以下では、説明を簡単にするために、図10に示すように、値rai,rbiを共通のrとし、重み係数kap,kbpを共通のkとする。即ち、上述の所定値th1を1≦th1としたとき、高周波成分の比率rと重み係数kの関係が以下のようになる。又、低解像度実画像と低解像度推定画像に同量のエッジ成分が含まれていた場合、低解像度推定画像はボケを有する画像となるため、分子部分に低解像度実画像の画像成分を備える比率Ra,Rbの値rai,rbiが1以上となるため、所定値th1を1≦th1に設定する。
(1)0≦|r−th1|≦t0(0≦t0≦1−th1)の場合
重み係数kの値が、k=1とされる。
(2)t0<|r−th1|≦t1(t0<t1)の場合
重み係数kの値が、k=t0+1−|r−th1|とされる。
(3)t1<|r−th1|の場合
重み係数kの値が、k=0とされる。
重み係数kの値が、k=1とされる。
(2)t0<|r−th1|≦t1(t0<t1)の場合
重み係数kの値が、k=t0+1−|r−th1|とされる。
(3)t1<|r−th1|の場合
重み係数kの値が、k=0とされる。
このようにして成分係数算出部64で得られたu画素分の係数行列Kaが乗算部66に与えられるとともに、パラメータ算出部53で算出されたカメラパラメータ行列WaTが乗算部68に与えられる。これにより、乗算部66で、u画素の行列となる値Ka・(Wa・X−Ya)が算出され、乗算部68で、v画素の行列となる値WaT・Ka・(Wa・X−Ya)が算出される。同様に、成分係数算出部65から係数行列Kbが乗算部67に与えられるとともに、パラメータ算出部54からカメラパラメータ行列WbTが乗算部69に与えられるため、乗算部67で、値Kb・(Wb・X−Ya)が算出された後、乗算部69で、値WbT・Kb・(Wb・X−Yb)が算出される。
この乗算部66〜69による乗算が行われることにより、低解像度実画像Fa,Fbそれぞれにおいてノイズ含有率の大きい平坦部を多く含む領域における二乗誤差による微分値が、求められる更新量(勾配∂J/∂X)に与える影響を小さくすることができる。又、乗算部67,69より算出される低解像度実画像Fa,Fbそれぞれに対する二乗誤差による値WaT・Ka・(Wa・X−Ya),WbT・Kb・(Wb・X−Yb)が加算部70に与えられて加算されて、値{WaT・Ka・(Wa・X−Ya)+WbT・Kb・(Wb・X−Yb)}が求められる。
又、HPF59で得られた高解像度画像Fxnの高周波成分HXがHPF71にも与えられることで、正規化項となる拘束項CT・C・Xが算出される。そして、乗算部72において、この拘束項CT・C・Xに対して重み係数γが乗算されることで、値γCT・C・Xが得られると、この拘束項の値γCT・C・Xが加算部73に与えられる。よって、加算部73では、加算部70からの値と乗算部72からの値とを加算することで、値{WaT・Ka・(Wa・X−Ya)+WbT・Kb・(Wb・X−Yb)+γCT・C・X}が算出され、更に、乗算部74で倍算されることで、減算部444に与える更新量∂J/∂X(=2{WaT・Ka・(Wa・X−Ya)+WbT・Kb・(Wb・X−Yb)+γCT・C・X})が得られる。
このように、本実施例においては、HPFを利用して、低解像度実画像及び低解像度推定画像それぞれの高周波成分を抽出し、この高周波成分の比率によって、低解像度実画像内のエッジ部分と平坦部分との比率の検出を行うことができる。そして、それぞれの画像における高周波成分の頻度が同等となる部分をエッジ部分とすることで、ノイズと判定される成分を含むか又はエッジ部分の相関性が低いと推定される領域の画素に対する更新量を抑制し、超解像処理により得られる高解像度画像のノイズを抑制することができる。
まず、本実施例の撮像装置における超解像処理部44の構成を、図11を参照して説明する。図11は、本実施例の撮像装置における超解像処理部の構成を示すブロック図である。尚、図11の構成において、図9の構成と同一の目的で使用する部分については、同一の符号を付してその詳細な説明は省略する。又、本実施例では、実施例1と異なり、係数行列Ka,Kbを算出するために、低解像度実画像と低解像度推定画像の相関関係を確認する際に利用する画像成分として、標準偏差を用いる。よって、以下では、標準偏差による低解像度実画像と低解像度推定画像の相関関係に基づく、係数行列Ka,Kbの算出動作について、詳細に説明する。
図11に示すように、本実施例の撮像装置の超解像処理部44における高解像度更新量算出部443は、図9の構成におけるHPF62,63の代わりに、選択部442からの高解像実画像Fxnの標準偏差を算出して乗算部60,61に与える標準偏差算出部75と、フレームメモリ41,42からの低解像度実画像Fa,Fbそれぞれの標準偏差を算出して成分係数算出部64,65それぞれに与える標準偏差算出部76,77と、を備える。尚、図9の構成と異なり、HPF59で得られた高解像度画像Fxnの高域成分については、HPF71にのみ与えられる。
このように構成される高解像度更新量算出部443における低解像度実画像Fa,Fbと低解像度推定画像Fan,Fbnそれぞれの標準偏差の相関値によって、係数行列Ka,Kbを算出する際の動作について、以下に説明する。即ち、標準偏差算出部75〜77、乗算部60,61、及び、成分係数算出部64,65における動作の詳細について、図面を参照して説明する。尚、その他の構成部分については、実施例1の構成のものと同様であるので、説明を省略する。
標準偏差算出部75〜77では、標準偏差を求めるための注目画素と、この注目画素の周囲に近接する複数の周辺画素とによる複数の画素の画素値を用いることによって、画像内の各画素の標準偏差を求める。即ち、例えば、3×3の行列配置された9画素が用いられる場合、図12に示すように、注目画素G00に対する標準偏差σを求めるとき、注目画素G00を中央に配置した3×3の行列配置された画素G(-1)(-1)〜G11の画素値z(-1)(-1)〜z11に対して以下の(3)式による演算処理が施される。尚、(3)式において、画素Gijの画素値がzijであり、画素G(-1)(-1)〜G11の画素値の平均がzである。
よって、標準偏差算出部75では、v画素の高解像度画像Fxnにおける各画素の画素値X(=[x1,x2,…,xv])に対して上述の演算処理が成されることで、v画素の各画素に対する標準偏差SX(=[sx1,sx2,…,sxv])が算出される。そして、この標準偏差SXが乗算部60,61に与えられることにより、乗算部60での演算結果が、低解像度推定画像Fanの標準偏差Wa・SX(=[wsxa1,wsxa2,…,wsxau])として、乗算部61での演算結果が、低解像度推定画像Fbnの標準偏差Wb・SX(=[wsxb1,wsxb2,…,wsxbu])として、それぞれ得られる。算出された低解像度推定画像Fanの標準偏差Wa・SXが、成分係数算出部64に与えられるとともに、算出された低解像度推定画像Fbnの標準偏差Wb・SXが、成分係数算出部65に与えられる。
又、標準偏差算出部76では、u画素の低解像度実画像Faにおける各画素の画素値Ya(=[ya1,ya2,…,yau])に対して上述の演算処理が成されることで、u画素の各画素に対する標準偏差SYa(=[sya1,sya2,…,syau])が算出される。同様に、標準偏差算出部77では、u画素の低解像度実画像Fbにおける各画素の画素値Yb(=[yb1,yb2,…,ybu])に対して上述の演算処理が成されることで、u画素の各画素に対する標準偏差SYb(=[syb1,syb2,…,sybu])が算出される。そして、算出された低解像度実画像Faの標準偏差SYaが、成分係数算出部64に与えられるとともに、算出された低解像度実画像Fbの標準偏差SYbが、成分係数算出部65に与えられる。
このようにして得られた低解像度実画像Fa及び低解像度推定画像Faxそれぞれの標準偏差SYa,Wa・Sxが、成分係数算出部64に与えられるとともに、低解像度実画像Fb及び低解像度推定画像Fbxそれぞれの標準偏差SYb,Wb・Sxが、成分係数算出部65に与えられる。まず、成分係数算出部64では、低解像度実画像Fa及び低解像度推定画像Faxそれぞれの同一画素位置における標準偏差の比率行列Ea(=[ea1,ea2,…,eau])が求められ、成分係数算出部65では、低解像度実画像Fb及び低解像度推定画像Fbxそれぞれの同一画素位置における標準偏差の比率行列Eb(=[eb1,eb2,…,ebu])が求められる。このとき、比率行列Eaにおける要素となる値eaiが以下の(4)式で算出され、又、比率行列Ebにおける要素となる値ebiが以下の(5)式で算出される。尚、(4)式及び(5)式におけるiは、1≦i≦uの整数である。
そして、成分係数算出部64では、実施例1の比率Raと同様、比率Eaを低解像度実画像Faと低解像度推定画像Fanとの相関値として扱う。即ち、比率Eaにおける値eaiと所定値th1との比較を行って、このi番目の画素に対する重み係数kaiの値を決定する。よって、比率Eaにおける値eaiと所定値th1との差の大きさが大きいものほど、重み係数kaiの値が0に近づき、比率Ebにおける値eaiと所定値th1との差の大きさが小さいものほど、重み係数kaiの値が1に近づくように、u画素の低解像度実画像Faに対する係数行列Ka(=[ka1,ka2,…,kau])が設定される。
同様に、成分係数算出部65では、比率Ebを低解像度実画像Fbと低解像度推定画像Fbnとの相関値として扱い、比率Ebにおける値ebiと所定値th1との比較を行って、このi番目の画素に対する重み係数kbiの値を決定する。よって、比率Ebにおける値ebiと所定値th1との差の大きさが大きいものほど、重み係数kbiの値が0に近づき、比率Ebにおける値ebiと所定値th1との差の大きさが小さいものほど、重み係数kbiの値が1に近づくように、u画素の低解像度実画像Fbに対する係数行列Kb(=[kb1,kb2,…,kbu])が設定される。
尚、比率Ea,Ebにおける値eai,ebiと、係数行列Ka,Kbにおける重み係数kai,kbiとの間の関係については、図13のように表される。尚、以下では、説明を簡単にするために、図13に示すように、値eai,ebiを共通のeとし、重み係数kai,kbiを共通のkとする。即ち、上述の所定値th1を1≦th1(実施例1と同様の理由により、所定値th1を1≦th1に設定する。)としたとき、高周波成分の比率rと重み係数kの関係と同様、標準偏差の比率eと重み係数kの関係が以下のようになる。
(1)0≦|e−th1|≦t0(0≦t0≦1−th1)の場合
重み係数kの値が、k=1とされる。
(2)t0<|e−th1|≦t1(t0<t1)の場合
重み係数kの値が、k=t0+1−|e−th1|とされる。
(3)t1<|e−th1|の場合
重み係数kの値が、k=0とされる。
重み係数kの値が、k=1とされる。
(2)t0<|e−th1|≦t1(t0<t1)の場合
重み係数kの値が、k=t0+1−|e−th1|とされる。
(3)t1<|e−th1|の場合
重み係数kの値が、k=0とされる。
このようにして成分係数算出部64で得られた係数行列Kaが乗算部66に与えられるとともに、成分係数算出部65で得られた係数行列Kbが乗算部67に与えられる。これにより、実施例1と同一のブロックが同一の演算処理を行うことで、減算部444に与える更新量∂J/∂X(=2{WaT・Ka・(Wa・X−Ya)+WbT・Kb・(Wb・X−Yb)+γCT・C・X})が得られる。
本実施例では、低解像度実画像及び低解像度推定画像それぞれに対して算出した標準偏差の比率によって、低解像度実画像内のエッジ部分と平坦部分との比率の検出を行う。そして、それぞれの画像における標準偏差が同等となる部分をエッジ部分とすることで、ノイズと判定される成分を含むか又はエッジ部分の相関性が低いと推定される領域の画素に対する更新量を抑制し、超解像処理により得られる高解像度画像のノイズを抑制することができる。
まず、本実施例の撮像装置における超解像処理部44の構成を、図14を参照して説明する。図14は、本実施例の撮像装置における超解像処理部の構成を示すブロック図である。尚、図14の構成において、図9の構成と同一の目的で使用する部分については、同一の符号を付してその詳細な説明は省略する。又、本実施例では、実施例1及び実施例2と異なり、係数行列Ka,Kbを算出するために、低解像度実画像と低解像度推定画像の相関関係を確認する際に利用する画像成分として、エッジ方向成分を用いる。よって、以下では、エッジ方向成分による低解像度実画像と低解像度推定画像の相関関係に基づく、係数行列Ka,Kbの算出動作について、詳細に説明する。
図14に示すように、本実施例の撮像装置の超解像処理部44における高解像度更新量算出部443は、図9の構成におけるHPF62,63の代わりに、選択部442からの高解像実画像Fxnの水平方向のエッジ方向成分を算出する水平エッジ方向フィルタ78と、選択部442からの高解像実画像Fxnの垂直方向のエッジ方向成分を算出する垂直エッジ方向フィルタ79と、フレームメモリ41,42からの低解像度実画像Fa,Fbそれぞれの水平方向のエッジ方向成分を算出して成分係数算出部64,65それぞれに与える水平エッジ方向フィルタ80,81と、フレームメモリ41,42からの低解像度実画像Fa,Fbそれぞれの垂直方向のエッジ方向成分を算出して成分係数算出部64,65それぞれに与える垂直エッジ方向フィルタ82,83と、を備える。
又、乗算部60,61の代わりに、水平エッジ方向フィルタ78からの水平方向のエッジ方向成分にカメラパラメータ行列Wa,Wbそれぞれを乗算して係数算出部64,65それぞれに与える乗算部60x,61xを備えるとともに、垂直エッジ方向フィルタ78からの垂直方向のエッジ方向成分にカメラパラメータ行列Wa,Wbそれぞれを乗算して係数算出部64,65それぞれに与える乗算部60y,61yを備える。尚、図9の構成と異なり、HPF59で得られた高解像度画像Fxnの高域成分については、HPF71にのみ与えられる。
このように構成される高解像度更新量算出部443における低解像度実画像Fa,Fbと低解像度推定画像Fan,Fbnそれぞれのエッジ方向の相関値によって、係数行列Ka,Kbを算出する際の動作について、以下に説明する。即ち、水平エッジ方向フィルタ78,80,82、垂直エッジ方向フィルタ79,81,83、乗算部60x,60y,61x,61y、及び、成分係数算出部64,65における動作の詳細について、図面を参照して説明する。尚、その他の構成部分については、実施例1の構成のものと同様であるので、説明を省略する。
水平エッジ方向フィルタ78,80,82及び垂直エッジ方向フィルタ79,81,83では、水平方向及び垂直方向となるエッジ方向成分を求めるための注目画素と、この注目画素の周囲に近接する複数の周辺画素とによる複数の画素の画素値を用いることによって、画像内の各画素の水平方向及び垂直方向となるエッジ方向成分を求める。以下では、例えば、図15(a)に示す3×3の行列配置された9画素G(-1)(-1)〜G11の画素値z(-1)(-1)〜z11が用いられることで、水平方向及び垂直方向となるエッジ方向成分が算出されるものとして説明する。このとき、注目画素G00に対するエッジ方向成分を求められる。
水平エッジ方向フィルタ78,80,82では、図15(b)に示すフィルタによって、注目画素G00に対して垂直方向で上側に配置される画素G(-1)(-1),G0(-1),G1(-1)の画素値z(-1)(-1),z0(-1),z1(-1)に対して、「−1」を乗算し、注目画素G00に対して垂直方向で下側に配置される画素G(-1)1,G01,G11の画素値z(-1)1,z01,z11に対して、「1」を乗算し、注目画素G00に対して垂直方向で同一位置に配置される画素G(-1)0,G00,G10の画素値z(-1)0,z00,z10に対して、「0」を乗算することで得られた値が、水平方向のエッジ成分hとされる。即ち、この水平方向のエッジ成分hは、(6)式によって算出される。
垂直エッジ方向フィルタ79,81,83では、図15(c)に示すフィルタによって、注目画素G00に対して水平方向で左側に配置される画素G(-1)(-1),G(-1)0,G(-1)1の画素値z(-1)(-1),z(-1)0,z(-1)1に対して、「−1」を乗算し、注目画素G00に対して水平方向で右側に配置される画素G1(-1),G10,G11の画素値z1(-1),z10,z11に対して、「1」を乗算し、注目画素G00に対して水平方向で同一位置に配置される画素G0(-1),G00,G01の画素値z0(-1),z00,z01に対して、「0」を乗算することで得られた値が、垂直方向のエッジ成分pとされる。即ち、この垂直方向のエッジ成分pは、(7)式によって算出される。
よって、水平エッジ方向フィルタ78では、v画素の高解像度画像Fxnにおける各画素の画素値X(=[x1,x2,…,xv])に対して上述の演算処理が成されることで、v画素の各画素に対する水平方向のエッジ方向成分OhX(=[ohx1,ohx2,…,ohxv])が算出される。そして、このエッジ方向成分OhXが乗算部60x,61xに与えられることにより、乗算部60xでの演算結果が、低解像度推定画像Fanの水平方向のエッジ方向成分Wa・OhX(=[wohxa1,wohxa2,…,wohxau])として、乗算部61xでの演算結果が、低解像度推定画像Fbnの水平方向のエッジ方向成分Wb・OhX(=[wohxb1,wohxb2,…,wohxbu])として、それぞれ得られる。
又、垂直エッジ方向フィルタ79では、同様に、高解像度画像Fxnにおける各画素の画素値Xに対して上述の演算処理が成されることで、v画素の各画素に対する垂直方向のエッジ方向成分OpX(=[opx1,opx2,…,opxv])が算出される。そして、このエッジ方向成分OpXが乗算部60y,61yに与えられることにより、乗算部60yでの演算結果が、低解像度推定画像Fanの垂直方向のエッジ方向成分Wa・OpX(=[wopxa1,wopxa2,…,wopxau])として、乗算部61yでの演算結果が、低解像度推定画像Fbnの垂直方向のエッジ方向成分Wb・OpX(=[wopxb1,wopxb2,…,wopxbu])として、それぞれ得られる。
このようにして水平方向及び垂直方向のエッジ方向成分が算出されると、低解像度推定画像Fanの水平方向のエッジ方向成分Wa・OhXと、垂直方向のエッジ方向成分Wa・OpXが、成分係数算出部64に与えられる。又、低解像度推定画像Fbnの水平方向のエッジ方向成分Wb・OhXと、垂直方向のエッジ方向成分Wb・OpXが、成分係数算出部65に与えられる。
又、u画素の低解像度実画像Faにおける各画素の画素値Ya(=[ya1,ya2,…,yau])に対して上述の演算処理が成されることで、水平エッジ方向フィルタ80によって、u画素の各画素に対する水平方向のエッジ方向成分OhYa(=[ohya1,ohya2,…,ohyau])が算出され、垂直エッジ方向フィルタ82によって、u画素の各画素に対する垂直方向のエッジ方向成分OpYa(=[opya1,opya2,…,opyau])が算出される。このようにして水平方向及び垂直方向のエッジ方向成分が算出されると、低解像度実画像Faの水平方向のエッジ方向成分OhYaと、垂直方向のエッジ方向成分OpYaが、成分係数算出部64に与えられる。
同様に、u画素の低解像度実画像Fbにおける各画素の画素値Yb(=[yb1,yb2,…,ybu])に対して上述の演算処理が成されることで、水平エッジ方向フィルタ81によって、u画素の各画素に対する水平方向のエッジ方向成分OhYb(=[ohyb1,ohyb2,…,ohybu])が算出され、垂直エッジ方向フィルタ83によって、u画素の各画素に対する垂直方向のエッジ方向成分OpYb(=[opyb1,opyb2,…,opybu])が算出される。このようにして水平方向及び垂直方向のエッジ方向成分が算出されると、低解像度実画像Fbの水平方向のエッジ方向成分OhYbと、垂直方向のエッジ方向成分OpYbが、成分係数算出部65に与えられる。
そして、まず、成分係数算出部64では、低解像度実画像Fa及び低解像度推定画像Faxそれぞれの同一画素位置における水平方向及び垂直方向それぞれのエッジ成分Wa・OhX,Wa・OpX,OhYa,OpYaによって、エッジ成分の比率行列Da(=[da1,da2,…,dau])が求められ、成分係数算出部65では、低解像度実画像Fb及び低解像度推定画像Fbxそれぞれの同一画素位置における水平方向及び垂直方向それぞれのエッジ成分Wb・OhX,Wb・OpX,OhYb,OpYbによって、エッジ成分の比率行列Db(=[db1,db2,…,dbu])が求められる。このとき、比率行列Daにおける要素となる値daiが以下の(8)式で算出され、又、比率行列Dbにおける要素となる値dbiが以下の(9)式で算出される。尚、(8)式及び(9)式におけるiは、1≦i≦uの整数である。
そして、成分係数算出部64では、実施例1の比率Raと同様、比率Daを低解像度実画像Faと低解像度推定画像Fanとの相関値として扱う。即ち、比率Daにおける値daiと所定値th1との比較を行って、このi番目の画素に対する重み係数kaiの値を決定する。よって、比率Daにおける値daiと所定値th1との差の大きさが大きいものほど、重み係数kaiの値が0に近づき、比率Dbにおける値daiと所定値th1との差の大きさが小さいものほど、重み係数kaiの値が1に近づくように、u画素の低解像度実画像Faに対する係数行列Ka(=[ka1,ka2,…,kau])が設定される。
同様に、成分係数算出部65では、比率Dbを低解像度実画像Fbと低解像度推定画像Fbnとの相関値として扱い、比率Dbにおける値dbiと所定値th1との比較を行って、このi番目の画素に対する重み係数kbiの値を決定する。よって、比率Dbにおける値dbiと所定値th1との差の大きさが大きいものほど、重み係数kbiの値が0に近づき、比率Dbにおける値dbiと所定値th1との差の大きさが小さいものほど、重み係数kbiの値が1に近づくように、u画素の低解像度実画像Fbに対する係数行列Kb(=[kb1,kb2,…,kbu])が設定される。
尚、比率Da,Dbにおける値dai,dbiと、係数行列Ka,Kbにおける重み係数kai,kbiとの間の関係については、図16のように表される。尚、以下では、説明を簡単にするために、図16に示すように、値dai,dbiを共通のdとし、重み係数kai,kbiを共通のkとする。即ち、上述の所定値th1を1≦th1(実施例1と同様の理由により、所定値th1を1≦th1に設定する。)としたとき、高周波成分の比率rと重み係数kの関係と同様、エッジ方向成分の比率dと重み係数kの関係が以下のようになる。
(1)0≦|d−th1|≦t0(0≦t0≦1−th1)の場合
重み係数kの値が、k=1とされる。
(2)t0<|d−th1|≦t1(t0<t1)の場合
重み係数kの値が、k=t0+1−|d−th1|とされる。
(3)t1<|d−th1|の場合
重み係数kの値が、k=0とされる。
重み係数kの値が、k=1とされる。
(2)t0<|d−th1|≦t1(t0<t1)の場合
重み係数kの値が、k=t0+1−|d−th1|とされる。
(3)t1<|d−th1|の場合
重み係数kの値が、k=0とされる。
このようにして成分係数算出部64で得られた係数行列Kaが乗算部66に与えられるとともに、成分係数算出部65で得られた係数行列Kbが乗算部67に与えられる。これにより、実施例1と同一のブロックが同一の演算処理を行うことで、減算部444に与える更新量∂J/∂X(=2{WaT・Ka・(Wa・X−Ya)+WbT・Kb・(Wb・X−Yb)+γCT・C・X})が得られる。
本実施例では、低解像度実画像及び低解像度推定画像それぞれに対して算出したエッジ方向成分の比率によって、低解像度実画像内のエッジ部分と平坦部分との比率の検出を行う。そして、それぞれの画像におけるエッジ方向成分の値が同等となる部分をエッジ部分とすることで、ノイズと判定される成分を含むか又はエッジ部分の相関性が低いと推定される領域の画素に対する更新量を抑制し、超解像処理により得られる高解像度画像のノイズを抑制することができる。
尚、本実施例において、検出するエッジ方向成分を水平方向及び垂直方向を例に挙げて説明したが、水平方向及び垂直方向に限らず、別の方向のエッジ方向成分も検出するものとしても構わない。更に、水平方向及び垂直方向を含む異なる方向のエッジ方向成分を複数検出することで、エッジ部分と平坦部分との比率の検出をより正確に行うことができる。
又、上述の説明において、図1に示すような構成の撮像装置を例に挙げて、本発明における画像処理方法について説明したが、撮像装置に限らず、液晶ディスプレイやプラズマテレビなどの画像のデジタル処理を行う表示装置においても、本発明における画像処理方法を利用可能である。図17に、本発明における画像処理方法を行う画像処理装置(「画像処理部」に相当)を備えた表示装置を示す。
図17に示す表示装置は、図1に示す撮像装置と同様、画像処理部4、伸長処理部8、ディスプレイ部9、音声出力回路部10、スピーカ部11、タイミングジェネレータ12、CPU13、メモリ14、操作部15、及び、バス回線16,17を備える。そして、外部で受信した放送信号を選局するチューナ部21と、チューナ部21で選局した放送信号を復調する復調部22と、外部から入力されたデジタル信号となる圧縮信号が入力されるインターフェース23とを、更に備える。
この図17の表示装置は、放送信号を受信する場合は、チューナ部21で所望のチャンネルの放送信号を選局した後、復調部22で放送信号を復調することで、MPEG圧縮符号方式による圧縮信号となるデジタル信号が得られる。このデジタル信号が伸長処理部8に与えられると、圧縮信号であるデジタル信号に対して、MPEG圧縮符号方式による伸長処理が施される。
そして、操作部15によって画像の高解像度化が指示されると、伸長処理部8で伸長処理して得られた画像信号が、画像処理部4に与えられて、上述の低解像度実画像の選択処理や超解像処理が行われることで、高解像度画像が生成される。その後、生成された高解像度画像による画像信号がディスプレイ部9に与えられて、画像再生がなされる。又、伸長処理部8の伸長処理で得られた音声信号が、音声出力回路部10を通じてスピーカ部11に与えられることで、音声が再生出力される。
又、図1の撮像装置又は図17の表示装置において、画像処理部4で超解像処理が成される画像について、動画像であっても構わないし、静止画像であっても構わない。尚、上述では、動画像となる画像信号が入力されたときの動作を中心に、各処理動作の説明を行っている。
本発明は、超解像処理による画像の高解像度化を行う画像処理装置を備えた撮像装置や表示装置に適用することができる。
1 イメージセンサ
2 AFE
3 マイク
4 画像処理部
5 音声処理部
6 圧縮処理部
7 ドライバ部
8 伸長処理部
9 ディスプレイ部
10 音声出力回路部
11 スピーカ部
12 タイミングジェネレータ
13 CPU
14 メモリ
15 操作部
16,17 バス回線
20 外部メモリ
41,42,45 フレームメモリ
43 動き量算出部
44 超解像処理部
46 信号処理部
2 AFE
3 マイク
4 画像処理部
5 音声処理部
6 圧縮処理部
7 ドライバ部
8 伸長処理部
9 ディスプレイ部
10 音声出力回路部
11 スピーカ部
12 タイミングジェネレータ
13 CPU
14 メモリ
15 操作部
16,17 バス回線
20 外部メモリ
41,42,45 フレームメモリ
43 動き量算出部
44 超解像処理部
46 信号処理部
Claims (7)
- 複数の低解像度実画像から高解像度画像を生成する高解像度化処理部と、
該高解像度化処理部によって生成された前記高解像度画像に対して、複数の前記低解像度実画像それぞれと同等となる位置ズレ及び低解像度化によるボケ量を与える演算を行うことにより、複数の低解像度推定画像を生成する低解像度推定部と、
を備える画像処理装置であって、
前記低解像度実画像それぞれに対して、対応する前記低解像度推定画像との差分値に基づいて、前記低解像度実画像の各画素位置における低解像度更新量を算出する低解像度更新量算出部と、
前記低解像度実画像それぞれについて、同一画素位置における前記低解像度実画像及び前記低解像度推定画像それぞれの画素値に含まれる画像成分を比較し、その比較結果に基づいて、前記低解像度更新量に乗算する重み係数を生成する重み係数算出部と、
前記低解像度更新量に前記重み係数を乗算した後、その乗算結果に基づいて、前記高解像度画像の画素数に応じた前記高解像度更新量を算出する高解像度更新量算出部と、
を備え、
前記高解像度化処理部において、前回の処理で生成された前記高解像度画像に対して、前記高解像度更新量による更新を行うことで、前記高解像度画像を更新することを特徴とする画像処理装置。 - 前記重み係数算出部における、前記画像成分の比較結果が、前記低解像度実画像の画素値の前記画像成分を前記低解像度推定画像の画素値の前記画像成分で除算して得られる画像成分の比であり、
当該画像成分の比が1以上の所定値に近い値となると、前記重み係数を1に近い値とし、
当該画像成分の比が前記所定値より遠い値となると、前記重み係数を0に近い値とすることを特徴とする請求項1に記載の画像処理装置。 - 前記重み係数算出部における、前記画像成分の比較結果が、前記低解像度実画像及び前記低解像度推定画像それぞれの画素値に含まれる高周波成分の比であることを特徴とする請求項1又は請求項2に記載の画像処理装置。
- 前記重み係数算出部における、前記画像成分の比較結果が、前記低解像度実画像及び前記低解像度推定画像それぞれの画素値による標準偏差の比であることを特徴とする請求項1又は請求項2に記載の画像処理装置。
- 前記重み係数算出部における、前記画像成分の比較結果が、前記低解像度実画像及び前記低解像度推定画像それぞれの画素値に含まれるエッジ方向成分の比であることを特徴とする請求項1又は請求項2に記載の画像処理装置。
- 外部入力又は撮像により複数フレームとなる画像による画像信号が与えられるとともに、該画像信号による画像を高解像度の画像に変換する高解像度化機能を備えた電子機器において、
前記高解像度化機能を実現する画像処理部として、請求項1〜請求項5のいずれに記載の画像処理装置を備え、前記画像信号による画像を前記低解像度画像として高解像度化処理を行うことで、所望の前記高解像度画像が生成されることを特徴とする電子機器。 - 複数の低解像度実画像から高解像度画像を生成する高解像度化ステップと、
該高解像度化ステップによって生成された前記高解像度画像に対して、複数の前記低解像度実画像それぞれと同等となる位置ズレ及び低解像度化によるボケ量を与える演算を行うことにより、複数の低解像度推定画像を生成する低解像度推定ステップと、
を備える画像処理方法であって、
前記低解像度実画像それぞれに対して、対応する前記低解像度推定画像との差分値に基づいて、前記低解像度実画像の各画素位置における低解像度更新量を算出する低解像度更新量算出ステップと、
前記低解像度実画像それぞれについて、同一画素位置における前記低解像度実画像及び前記低解像度推定画像それぞれの画素値に含まれる画像成分を比較し、当該画像成分の比較結果に基づいて、前記低解像度更新量に乗算する重み係数を生成する重み係数算出ステップと、
前記低解像度更新量に前記重み係数を乗算した後、その乗算結果に基づいて、前記高解像度画像の画素数に合わせた前記高解像度更新量を算出する高解像度更新量算出ステップと、
を備え、
前記高解像度化ステップにおいて、前回の処理で生成された前記高解像度画像に対して、前記高解像度更新量による更新を行うことで、前記高解像度画像を更新することを特徴とする画像処理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007139857A JP2008293388A (ja) | 2007-05-28 | 2007-05-28 | 画像処理方法、画像処理装置、及びこの画像処理装置を備えた電子機器 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007139857A JP2008293388A (ja) | 2007-05-28 | 2007-05-28 | 画像処理方法、画像処理装置、及びこの画像処理装置を備えた電子機器 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2008293388A true JP2008293388A (ja) | 2008-12-04 |
Family
ID=40168025
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007139857A Pending JP2008293388A (ja) | 2007-05-28 | 2007-05-28 | 画像処理方法、画像処理装置、及びこの画像処理装置を備えた電子機器 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2008293388A (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011164967A (ja) * | 2010-02-10 | 2011-08-25 | Mitsubishi Electric Corp | 画像処理装置および画像処理方法 |
CN102243757A (zh) * | 2010-05-10 | 2011-11-16 | 索尼公司 | 图像处理设备、图像处理方法和程序 |
JP2011243040A (ja) * | 2010-05-19 | 2011-12-01 | Nippon Hoso Kyokai <Nhk> | 信号復元装置及びプログラム |
JP2012060306A (ja) * | 2010-09-07 | 2012-03-22 | Nippon Hoso Kyokai <Nhk> | 画像再構成装置、符号化装置、復号装置及びプログラム |
-
2007
- 2007-05-28 JP JP2007139857A patent/JP2008293388A/ja active Pending
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011164967A (ja) * | 2010-02-10 | 2011-08-25 | Mitsubishi Electric Corp | 画像処理装置および画像処理方法 |
CN102243757A (zh) * | 2010-05-10 | 2011-11-16 | 索尼公司 | 图像处理设备、图像处理方法和程序 |
JP2011243040A (ja) * | 2010-05-19 | 2011-12-01 | Nippon Hoso Kyokai <Nhk> | 信号復元装置及びプログラム |
JP2012060306A (ja) * | 2010-09-07 | 2012-03-22 | Nippon Hoso Kyokai <Nhk> | 画像再構成装置、符号化装置、復号装置及びプログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4646146B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
US8711248B2 (en) | Global alignment for high-dynamic range image generation | |
US8179446B2 (en) | Video stabilization and reduction of rolling shutter distortion | |
US7764397B2 (en) | Image synthesizing apparatus and image synthesizing method | |
CN102171722B (zh) | 用于视频中的噪声降低的方法和装置 | |
US8072511B2 (en) | Noise reduction processing apparatus, noise reduction processing method, and image sensing apparatus | |
JP2009037460A (ja) | 画像処理方法、画像処理装置、及びこの画像処理装置を備えた電子機器 | |
TWI387935B (zh) | 影像生成方法、及其程式與記錄有程式的記錄媒體 | |
US20100123792A1 (en) | Image processing device, image processing method and program | |
KR20100139030A (ko) | 이미지들의 수퍼 해상도를 위한 방법 및 장치 | |
JP2010009417A (ja) | 画像処理装置、画像処理方法、プログラム及び記録媒体 | |
JPWO2007102377A1 (ja) | 撮像装置、高解像度化処理方法、高解像度化処理プログラム、及び記録媒体 | |
JP6236259B2 (ja) | 画像処理装置、画像処理方法、及び画像処理プログラム | |
JP2011097246A (ja) | 画像処理装置および方法、並びにプログラム | |
JP2013020527A (ja) | 画像処理装置および方法、並びにプログラム | |
JP2008091979A (ja) | 画像高画質化装置、及びその方法、並びに画像表示装置 | |
JP2008294950A (ja) | 画像処理方法、画像処理装置、及びこの画像処理装置を備えた電子機器 | |
JP2009055410A (ja) | 画像処理装置および画像処理方法 | |
JP2018037857A (ja) | 画像処理装置、画像処理方法およびプログラム | |
KR101140953B1 (ko) | 영상 왜곡 보정 장치 및 방법 | |
JP4942563B2 (ja) | 画像処理方法、画像処理装置、及びこの画像処理装置を備えた電子機器 | |
JP2008293388A (ja) | 画像処理方法、画像処理装置、及びこの画像処理装置を備えた電子機器 | |
US11816858B2 (en) | Noise reduction circuit for dual-mode image fusion architecture | |
JP2013020528A (ja) | 画像処理装置および方法、並びにプログラム | |
JP2008306608A (ja) | 画像処理方法、画像処理装置、及びこの画像処理装置を備えた電子機器 |