JP6598365B2 - 帯域合成装置、帯域分割装置、解像度変換装置、超解像装置およびプログラム - Google Patents

帯域合成装置、帯域分割装置、解像度変換装置、超解像装置およびプログラム

Info

Publication number
JP6598365B2
JP6598365B2 JP2015206215A JP2015206215A JP6598365B2 JP 6598365 B2 JP6598365 B2 JP 6598365B2 JP 2015206215 A JP2015206215 A JP 2015206215A JP 2015206215 A JP2015206215 A JP 2015206215A JP 6598365 B2 JP6598365 B2 JP 6598365B2
Authority
JP
Japan
Prior art keywords
frequency
low
signal
samples
integer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015206215A
Other languages
English (en)
Other versions
JP2017078939A (ja
Inventor
俊枝 三須
康孝 松尾
俊輔 岩村
慎一 境田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Broadcasting Corp
Original Assignee
Japan Broadcasting Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Japan Broadcasting Corp filed Critical Japan Broadcasting Corp
Priority to JP2015206215A priority Critical patent/JP6598365B2/ja
Publication of JP2017078939A publication Critical patent/JP2017078939A/ja
Application granted granted Critical
Publication of JP6598365B2 publication Critical patent/JP6598365B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)

Description

本発明は、帯域合成装置、帯域分割装置、解像度変換装置、超解像装置およびプログラムに関する。
画像の解像度を向上する手法として、超解像技術が知られている。特許文献1には、ウェーブレット超解像による超解像技術が開示されている。
特許第5417290号公報
ウェーブレット超解像は、超解像の対象となる原信号と、当該原信号の高域成分を示す信号とを合成することで、原信号の2倍の標本数を有する超解像信号を生成する技術である。そのため、ウェーブレット超解像に基づく超解像装置は、原信号の標本数に対して2のべき乗数倍以外の倍率による拡大を行うことができない。同様に、ウェーブレット変換に基づく帯域分割装置は、原信号の標本数に対して2のべき乗数倍以外の倍率による分割を行うことができない。また、ウェーブレット逆変換に基づく帯域合成装置は、標本数の異なる低域信号と高域信号と合成することができない。
本発明の目的は、上述の課題を解決する帯域合成装置、帯域分割装置、解像度変換装置、超解像装置およびプログラムを提供することにある。
本発明の第1の態様によれば、帯域合成装置は、目的信号の低周波成分であるS×L個の標本を有する低域入力信号と、前記目的信号の高周波成分であるS×H個の標本を有する高域入力信号との入力を受け付ける分割信号入力部と、前記低域入力信号のL個の標本と前記高域入力信号のH個の標本とからなる標本列の、標本位置に応じたL+H個の係数による加重和を出力するM個のフィルタと、前記フィルタの出力を結合することでS×M個の標本を有する前記目的信号を生成する目的信号生成部とを備え、M個の前記フィルタにおけるL+H個の前記係数を要素とする行列の逆行列または疑似逆行列が、低域抽出フィルタとして機能し得るM個の係数列を要素とするL個の行と高域抽出フィルタとして機能し得るL+H個の係数列を要素とするH個の行とを含む行列であり、前記Lが、1以上の整数であり、前記Hが、1以上の整数であり、前記Sが、1以上の整数であり、前記Mが、3以上の整数である。
本発明の第2の態様によれば、第1の態様に係る帯域合成装置は、前記Mが、前記Hと前記Lの和である。
本発明の第3の態様によれば、第1または第2の態様に係る帯域合成装置は、前記Lが、2以上の整数であり、L個の前記行のM個の前記係数列が、それぞれ異なる位置にピークを有する。
本発明の第4の態様によれば、第1から第3の何れかの態様に係る帯域合成装置は、前記Hが、2以上の整数であり、H個の前記行のM個の前記係数列が、それぞれ異なる位置にピークを有する。
本発明の第5の態様によれば、第1から第4の何れかの態様に係る帯域合成装置は、前記Lが3であり、前記Hが1であり、前記Mが4である。
本発明の第6の態様によれば、帯域分割装置は、S×M個の標本を有する入力信号のM個の標本からなる標本列ごとに、当該標本列の低周波成分を抽出するL個の低域抽出フィルタと、前記入力信号のM個の標本からなる標本列ごとに、当該標本列の高周波成分を抽出するH個の高域抽出フィルタと、L個の前記低域抽出フィルタが抽出した前記低周波成分を結合することでS×L個の標本を有する低域出力信号を生成する低域信号生成部とH個の前記高域抽出フィルタが抽出した前記高周波成分を結合することでS×H個の標本を有する高域出力信号を生成する高域信号生成部とを備え、前記Lが、1以上の整数であり、前記Hが、1以上の整数であり、前記Sが、1以上の整数であり、前記Mが、3以上の整数である。
本発明の第7の態様によれば、第6の態様に係る帯域分割装置は、前記Mが、前記Hと前記Lの和である。
本発明の第8の態様によれば、第6または第7の態様に係る帯域分割装置は、前記Lが、2以上の整数であり、L個の前記低域抽出フィルタは、それぞれ異なる標本位置にピークを有する係数列による加重和を算出することで前記低周波成分を抽出する。
本発明の第9の態様によれば、第6から第8の何れかの態様に係る帯域分割装置は、前記Hが、2以上の整数であり、H個の前記高域抽出フィルタは、それぞれ異なる標本位置にピークを有する係数列による加重和を算出することで前記高周波成分を抽出する。
本発明の第10の態様によれば、第6から第9の何れかの態様に係る帯域分割装置は、前記Lが3であり、前記Hが1であり、前記Mが4である。
本発明の第11の態様によれば、解像度変換装置は、S×M個の標本を有する入力信号のM個の標本からなる標本列ごとに、それぞれ異なる標本位置にピークを有する係数列による加重和を算出することで、当該標本列の低周波成分を抽出するL個の低域抽出フィルタと、L個の前記低域抽出フィルタが抽出した前記低周波成分を結合することでS×L個の標本を有する低域出力信号を生成する低域信号生成部とを備え、少なくとも1つの前記低域抽出フィルタの前記係数列のピークが、当該係数列の端部に存在し、当該係数列を構成する係数が、前記係数列の端部に近いほど大きな値であり、前記Lが、2以上の整数であり、前記Sが、1以上の整数であり、前記Mが、3以上の整数である。
本発明の第12の態様によれば、超解像装置は、S×L個の標本を有する原信号に基づいて、当該原信号の高周波成分であるS×H個の標本を有する高域信号を抽出する高域抽出装置と、前記原信号と前記高域信号とを帯域合成することでS×(L+H)個の標本を有する超解像信号を生成する第1の態様に係る帯域合成装置である超解像信号生成装置とを備える。
本発明の第13の態様によれば、第12の態様に係る超解像装置は、前記高域抽出装置が、前記原信号を帯域分割することで前記高域出力信号を生成する第6の態様に係る帯域分割装置と、前記高域出力信号と各標本の値がゼロであるゼロ信号とを帯域合成することで前記高域信号を抽出する第1の態様に係る帯域合成装置である補間拡大装置とを備える。
本発明の第14の態様によれば、プログラムは、コンピュータを、目的信号の低周波成分であるS×L個の標本を有する低域入力信号と、前記目的信号の高周波成分であるS×H個の標本を有する高域入力信号との入力を受け付ける分割信号入力部、前記低域入力信号のL個の標本と前記高域入力信号のH個の標本とからなる標本列の、標本位置に応じたL+H個の係数による加重和を出力するM個のフィルタ、前記フィルタの出力を結合することでS×M個の標本を有する前記目的信号を生成する目的信号生成部として機能させ、M個の前記フィルタにおけるL+H個の前記係数を要素とする行列の逆行列または疑似逆行列が、低域抽出フィルタとして機能し得るM個の係数列を要素とするL個の行と高域抽出フィルタとして機能し得るL+H個の係数列を要素とするH個の行とを含む行列であり、前記Lが、1以上の整数であり、前記Hが、1以上の整数であり、前記Sが、1以上の整数であり、前記Mが、3以上の整数である。
本発明の第15の態様によれば、プログラムは、コンピュータを、S×M個の標本を有する入力信号のM個の標本からなる標本列ごとに、当該標本列の低周波成分を抽出するL個の低域抽出フィルタ、前記入力信号のM個の標本からなる標本列ごとに、当該標本列の高周波成分を抽出するH個の高域抽出フィルタ、L個の前記低域抽出フィルタが抽出した前記低周波成分を結合することでS×L個の標本を有する低域出力信号を生成する低域信号生成部、H個の前記高域抽出フィルタが抽出した前記高周波成分を結合することでS×H個の標本を有する高域出力信号を生成する高域信号生成部として機能させ、前記Lが、1以上の整数であり、前記Hが、1以上の整数であり、前記Sが、1以上の整数であり、前記Mが、3以上の整数である。
本発明の第16の態様によれば、プログラムは、コンピュータを、S×M個の標本を有する入力信号のM個の標本からなる標本列ごとに、それぞれ異なる標本位置にピークを有する係数列による加重和を算出することで、当該標本列の低周波成分を抽出するL個の低域抽出フィルタ、L個の前記低域抽出フィルタが抽出した前記低周波成分を結合することでS×L個の標本を有する低域出力信号を生成する低域信号生成部として機能させ、少なくとも1つの前記低域抽出フィルタの前記係数列のピークが、当該係数列の端部に存在し、当該係数列を構成する係数が、前記係数列の端部に近いほど大きな値であり、前記Lが、2以上の整数であり、前記Sが、1以上の整数であり、前記Mが、3以上の整数である。
上記態様のうち少なくとも1つの態様によれば、帯域合成装置は、任意の比(L:H)に係る低域信号と高域信号とに基づいて信号を合成することができる。また帯域分割装置は、信号を任意の比(L:H)に係る低域信号と高域信号とに分割することができる。また解像度変換装置は、原信号を任意の倍率(L/M)に縮小することができる。また超解像装置は、原信号を任意の倍率((L+H)/L)に拡大することができる。
第1の実施形態に係る超解像装置の構成を示す概略ブロック図である。 第1の実施形態に係る帯域分割装置の構成を示す概略ブロック図である。 第1の実施形態に係る帯域合成装置の構成を示す概略ブロック図である。 第1の実施形態に係る超解像装置の動作を示すフローチャートである。 第2の実施形態に係る解像度変換装置の構成を示す概略ブロック図である。 少なくとも1つの実施形態に係るコンピュータの構成を示す概略ブロック図である。
《第1の実施形態》
以下、図面を参照しながら実施形態について詳しく説明する。
図1は、第1の実施形態に係る超解像装置の構成を示す概略ブロック図である。
第1の実施形態に係る超解像装置100は、入力画像の解像度を4/3倍に向上させた出力画像を生成する。なお、本実施形態において解像度とは、画像解像度やサンプリング周波数など、信号における標本の密度を示す。
超解像装置100は、入力端子101、帯域分割装置102、補間拡大装置103、畳込装置104、超解像信号生成装置105、出力端子106を備える。本実施形態に係る帯域分割装置102、補間拡大装置103、畳込装置104および超解像信号生成装置105は、デジタル回路である。
帯域分割装置102は、入力端子101に入力された入力画像を低域出力画像と高域出力画像とに帯域分割する。低域出力画像の画素数は、入力画像の画素数の3/4倍である。高域出力画像の画素数は、入力画像の画素数の1/4倍である。
補間拡大装置103は、帯域分割装置102が生成した高域出力画像を補間により4/3倍に拡大した拡大高域画像を生成する。つまり、拡大高域画像の画素数は、入力画像の画素数の1/3倍である。具体的には、補間拡大装置103は、帯域分割装置102が生成した高域出力画像と、各画素の画素値がゼロである黒色画像とを補間により4/3倍に拡大した拡大高域画像を生成する。
畳込装置104は、補間拡大装置103が生成した拡大高域画像に所定のカーネルを畳み込み、修正高域画像を生成する。本実施形態に係る畳込装置104は、拡大高域画像に最大値0.5、分散値0.5画素のガウシアンカーネルを畳み込む。なお、他の実施形態に係る畳込装置104は、微分カーネルなどの他の畳み込みカーネルを用いてもよい。また、他の実施形態に係る超解像装置100は、必ずしも畳込装置104を備えなくてもよい。また、他の実施形態に係る超解像装置100は、畳込装置104に代えて、拡大高域画像をスカラー倍する増幅器を備えてもよい。
超解像信号生成装置105は、入力画像と修正高域画像とを帯域合成することで、出力画像を生成し、出力端子106から出力する。出力画像の画素数は、入力画像の画素数の4/3倍である。超解像信号生成装置105は、入力画像に対する修正高域画像の遅延を補償するバッファを備える。当該遅延は、帯域分割装置102、補間拡大装置103および超解像信号生成装置105の信号処理によるものである。
ここで、帯域分割装置102の構成について詳述する。図2は、第1の実施形態に係る帯域分割装置の構成を示す概略ブロック図である。
帯域分割装置102は、入力端子201、区間分割部202、低域抽出フィルタ203、低域抽出フィルタ204、低域抽出フィルタ205、高域抽出フィルタ206、低域信号生成部207、高域信号生成部208、低域出力端子209、高域出力端子210を備える。
区間分割部202は、入力端子201に入力された画像を、4画素ごとの画素列に分割する。例えば、入力端子201に4×Sの画素数を有する画像が入力された場合、区間分割部202は、当該画像を分割し、4画素ごとの画素列をS個生成する。なお、Sは1以上の整数である。区間分割部202が分割した画素列は、順番を保ったまま、低域抽出フィルタ203、低域抽出フィルタ204、低域抽出フィルタ205、および高域抽出フィルタ206に入力される。
低域抽出フィルタ203、低域抽出フィルタ204、および低域抽出フィルタ205は、分割された各画素列について、画素列の低周波成分を抽出する。高域抽出フィルタ206は、分割された各画素列について、画素列の高周波成分を抽出する。低域抽出フィルタ203、低域抽出フィルタ204、低域抽出フィルタ205、および高域抽出フィルタ206は、いずれも4つのタップを有するFIRフィルタであって、画素列ごとに1つの画素値を出力する。
低域信号生成部207は、低域抽出フィルタ203、低域抽出フィルタ204、および低域抽出フィルタ205が出力する画素値を、低域抽出フィルタ203、低域抽出フィルタ204、および低域抽出フィルタ205の順に結合することで、順次、3画素の画素列を生成する。また、低域信号生成部207は、当該画素列を、順番を保ったまま結合することで、低域出力画像を生成する。低域信号生成部207は、例えばデータセレクタとバッファによって構成される。低域信号生成部207が生成した低域出力画像は、低域出力端子209から出力される。
高域信号生成部208は、高域抽出フィルタ206が出力する画素値を、順番を保ったまま結合することで、高域出力画像を生成する。高域信号生成部208は、例えばバッファによって構成される。高域信号生成部208が生成した高域出力画像は、高域出力端子210から出力される。
以下に、帯域分割装置102が備えるフィルタの具体例を示す。
例えば、低域抽出フィルタ203は、画素列について、1番目の画素の画素値に5/6を乗算した値と、2番目の画素の画素値に1/6を乗算した値と、3番目の画素の画素値に0を乗算した値と、4番目の画素の画素値に0を乗算した値との和を出力する。
例えば、低域抽出フィルタ204は、画素列について、1番目の画素の画素値に0を乗算した値と、2番目の画素の画素値に1/2を乗算した値と、3番目の画素の画素値に1/2を乗算した値と、4番目の画素の画素値に0を乗算した値との和を出力する。
例えば、低域抽出フィルタ205は、画素列について、1番目の画素の画素値に0を乗算した値と、2番目の画素の画素値に0を乗算した値と、3番目の画素の画素値に1/6を乗算した値と、4番目の画素の画素値に1/6を乗算した値との和を出力する。
例えば、高域抽出フィルタ206は、画素列について、1番目の画素の画素値に0を乗算した値と、2番目の画素の画素値に1/2を乗算した値と、3番目の画素の画素値に−1/2を乗算した値と、4番目の画素の画素値に0を乗算した値との和を出力する。
つまり、フィルタを行にとり、画素位置を列にとると、帯域分割装置102のタップ係数群は、以下に示す式(1)の行列Xdで表すことができる。
Figure 0006598365
このように、低域抽出フィルタ203、低域抽出フィルタ204および低域抽出フィルタ205の係数列は、それぞれ異なる位置にピーク(係数の最大値)を有する。具体的には、低域抽出フィルタ203の係数列のピーク位置は、1画素目の画素位置である。低域抽出フィルタ204の係数列のピーク位置は、2画素目および3画素目の画素位置である。低域抽出フィルタ205の係数列のピーク位置は、4画素目の画素位置である。また、画素列の端部(1画素目または4画素目)にピーク位置を有するフィルタである低域抽出フィルタ203および低域抽出フィルタ205における係数は、端部に近いほど大きい値に設定される。これにより、低域信号生成部207によって生成される低域出力画像の画素列の境界部分に生じるエッジの大きさを低減することができる。
補間拡大装置103および超解像信号生成装置105の構成について説明する。補間拡大装置103および超解像信号生成装置105は、帯域合成装置300の一例であり、同一の構成を有する。図3は、第1の実施形態に係る帯域合成装置の構成を示す概略ブロック図である。
帯域合成装置300は、ある目的画像の低周波成分である低域入力画像と、当該目的画像の高周波成分である高域入力画像とを合成し、当該目的画像を生成する。帯域合成装置300は、低域入力端子301、高域入力端子302、標本列生成部303、フィルタ304、フィルタ305、フィルタ306、フィルタ307、目的信号生成部308、出力端子309を備える。
標本列生成部303は、低域入力端子301に入力された低域入力画像を3画素ごとに分割する。また標本列生成部303は、高域入力端子302に入力された高域入力画像を1画素ごとに分割する。標本列生成部303は、低域入力画像の3画素と高域入力画像の1画素とを結合することで、4画素ごとの画素列を生成する。低域入力端子301および高域入力端子302は、分割信号入力部の一例である。
例えば、低域入力端子301に3×Sの画素数を有する低域入力画像が入力され、高域入力端子302に1×Sの画素数を有する高域入力画像が入力された場合、標本列生成部303は、4画素ごとの画素列をS個生成する。なお、Sは1以上の整数である。標本列生成部303が生成した画素列は、順番を保ったまま、フィルタ304、フィルタ305、フィルタ306、フィルタ307に入力される。
フィルタ304、フィルタ305、フィルタ306、フィルタ307は、いずれも4つのタップを有するFIRフィルタであって、画素列ごとに1つの画素値を出力する。
目的信号生成部308は、フィルタ304、フィルタ305、フィルタ306、フィルタ307が出力する画素値を、フィルタ304、フィルタ305、フィルタ306、フィルタ307の順に結合することで、順次、4画素の画素列を生成する。また、目的信号生成部308は、当該画素列を、順番を保ったまま結合することで、4×Sの画素数を有する目的画像を生成する。目的信号生成部308は、例えばデータセレクタとバッファによって構成される。目的信号生成部308が生成した目的画像は、出力端子309から出力される。
以下に、帯域合成装置300が備えるフィルタの具体例を示す。
例えば、フィルタ304は、画素列について、1番目の画素の画素値に6/5を乗算した値と、2番目の画素の画素値に−1/5を乗算した値と、3番目の画素の画素値に0を乗算した値と、4番目の画素の画素値にに−1/5を乗算した値との和を出力する。
例えば、フィルタ305は、画素列について、1番目の画素の画素値に0を乗算した値と、2番目の画素の画素値に1を乗算した値と、3番目の画素の画素値に0を乗算した値と、4番目の画素の画素値に1を乗算した値との和を出力する。
例えば、フィルタ306は、画素列について、1番目の画素の画素値に0を乗算した値と、2番目の画素の画素値に1を乗算した値と、3番目の画素の画素値に0を乗算した値と、4番目の画素の画素値に−1を乗算した値との和を出力する。
例えば、フィルタ307は、画素列について、1番目の画素の画素値に0を乗算した値と、2番目の画素の画素値に−1/5を乗算した値と、3番目の画素の画素値に6/5を乗算した値と、4番目の画素の画素値に1/5を乗算した値との和を出力する。
つまり、フィルタを行にとり、画素位置を列にとると、帯域合成装置300のタップ係数群は、以下に示す式(2)の行列Xcで表すことができる。
Figure 0006598365
なお、当該行列Xcは、式(1)に示す行列Xdの逆行列である。つまり、行列Xcの逆行列は、行列Xdと等しい。当該逆行列のうち、低域抽出フィルタとして機能し得る4個の係数列を要素とする3個の行の係数列は、それぞれ異なる位置にピークを有する。
このように、帯域合成装置300のタップ係数は、帯域分割装置102のタップ係数群を示す行列Xdの逆行列によって規定される。これにより、帯域合成装置300は、帯域分割装置102が分割した低域出力画像と高域出力画像とを合成することで、帯域分割装置102に入力された画像を復元することができる。
次に、本実施形態に係る超解像装置100の動作を説明する。図4は、第1の実施形態に係る超解像装置の動作を示すフローチャートである。
入力端子101に入力画像が入力されると、帯域分割装置102は、入力画像を帯域分割し、入力画像の3/4の画素数を有する低域出力画像と、入力画像の1/4の画素数を有する高域出力画像とを生成する(ステップS1)。高域出力画像は、補間拡大装置103の低域入力端子301に入力される。また補間拡大装置103の高域入力端子302には、各画素の画素値がゼロである黒色画像(ゼロ信号)が入力される。補間拡大装置103は、高域出力画像と黒色画像とを帯域合成することで、入力画像の1/3倍の画素数を有する拡大高域画像を生成する(ステップS2)。次に、畳込装置104は、拡大高域画像にガウシアンカーネルを畳み込み、修正高域画像を生成する(ステップS3)。修正高域画像は、超解像信号生成装置105の高域入力端子302に入力される。また超解像信号生成装置105の低域入力端子301には、ステップS1の入力画像が入力される。そして、超解像信号生成装置105は、入力画像と修正高域画像とを帯域合成することで、入力画像の4/3倍の画素数を有する出力画像を生成し、出力端子106から出力する(ステップS4)。
このように、本実施形態によれば、超解像装置100は、入力画像を任意の倍率(4/3倍)に拡大した出力画像を生成することができる。例えば、入力画像の画素数が3×Sである場合、超解像装置100は、画素数が4×Sの出力画像を生成する。
また、本実施形態に係る帯域分割装置102は、入力画像を任意の比(3:1)に係る低域画像と高域画像とに分割することができる。また、本実施形態に係る帯域合成装置300(補間拡大装置103および超解像信号生成装置105)は、任意の比(3:1)に係る低域信号と高域信号とに基づいて画像を合成することができる。
なお、本実施形態に係る超解像装置100は、入力画像を4/3倍に拡大するが、これに限られない。例えば、他の実施形態に係る超解像装置100は、入力画像を他の倍率である(L+H)/L倍に拡大してもよい。なお、LおよびHは、1以上の整数である。つまり、上述した実施形態は、L=3、H=1とする超解像装置100である。
また、本実施形態に係る帯域分割装置102および帯域合成装置300は、フィルタ数とタップ数が等しいが、これに限られない。つまり、本実施形態では、帯域分割装置102の低域抽出フィルタの数をL個とおき、高域抽出フィルタの数をH個とおき、タップ数をM個とおいた場合、L+HがMに等しいが、これに限られない。なお、Mは3以上の整数である。なお、帯域分割装置102のフィルタ数がL+H個でありかつタップ数をM個である場合、帯域合成装置300のフィルタ数はM個でありかつタップ数はL+H個である。L+HがMに等しくない場合、帯域分割装置102および帯域合成装置300のタップ係数を示す行列Xd、Xcは、正方行列とならない。この場合、帯域合成装置300のタップ係数は、行列Xdの疑似逆行列によって規定される。なお、帯域合成装置300のタップ係数が行列Xdの疑似逆行列によって規定される場合、帯域合成装置300が低域出力画像と高域出力画像とを合成した画像は、帯域分割装置102に入力された画像に近似するが、一致するとは限らない。
また、L+HがMに等しくても、帯域分割装置102のタップ係数を示す行列Xdが正則行列とならない場合、帯域合成装置300のタップ係数は、行列Xdの疑似逆行列によって規定される。
また、本実施形態に係る帯域分割装置102は、高域抽出フィルタ206を1つ備えるが、これに限られない。例えば、他の実施形態に係る帯域分割装置102は、高域抽出フィルタ206を2つ以上備えてもよい。なお、他の実施形態に係る帯域分割装置102が高域抽出フィルタ206を2つ以上備える場合、各高域抽出フィルタ206の係数列は、それぞれ異なる位置にピーク(係数の最大値および最小値)を有することが好ましい。この場合、帯域合成装置300のフィルタ304、フィルタ305、フィルタ306、フィルタ307におけるタップ係数を要素とする行列Xcの逆行列のうち、高域抽出フィルタとして機能し得る係数列を要素とする行の係数列は、それぞれ異なる位置にピークを有することとなる。
また、本実施形態に係る低域抽出フィルタ203、低域抽出フィルタ204、低域抽出フィルタ205、および高域抽出フィルタ206は、いずれも4個のタップを備えるFIRフィルタであるが、これに限られない。例えば、他の実施形態に係る低域抽出フィルタ203、低域抽出フィルタ204、低域抽出フィルタ205、および低域抽出フィルタ203は、係数の一部にゼロを含む場合、当該係数に係るタップを省略してもよい。具体的には、低域抽出フィルタ203は、画素列について、1番目の画素の画素値に5/6を乗算した値と、2番目の画素の画素値に1/6を乗算した値との和を出力する2タップのフィルタとして構成されてもよい。
同様に、本実施形態に係るフィルタ304、フィルタ305、フィルタ306およびフィルタ307は、いずれも4個のタップを備えるFIRフィルタであるが、これに限られない。例えば、他の実施形態に係るフィルタ304、フィルタ305、フィルタ306およびフィルタ307は、係数の一部にゼロを含む場合、当該係数に係るタップを省略してもよい。具体的には、フィルタ304は、画素列について、1番目の画素の画素値に6/5を乗算した値と、2番目の画素の画素値に−1/5を乗算した値と、4番目の画素の画素値に−1/5を乗算した値との和を出力する3タップのフィルタとして構成されてもよい。
また、本実施形態では、帯域分割装置102が生成した高域出力画像を、補間拡大装置103が拡大することにより、拡大高域画像を生成するが、これに限られない。例えば、他の実施形態に係る超解像装置100は、帯域分割装置102と補間拡大装置103の組み合わせに代えて、入力画像に基づいて、当該入力画像の高周波成分であって入力画像の1/3倍の画素数を有する高域画像を抽出する高域抽出装置を備えてもよい。例えば、高域抽出装置は、ソーベルフィルタやラプラシアンフィルタにより、入力画像と同じ画素数を有するエッジ画像を抽出し、当該エッジ画像の画素を1/3に間引くことで、高域画像を生成してもよい。なお、帯域分割装置102と補間拡大装置103の組み合わせは、高域抽出装置の一例である。
また、他の実施形態に係る帯域分割装置102は、低域抽出フィルタ203、低域抽出フィルタ204、低域抽出フィルタ205、区間分割部202および低域出力端子209を備えない構成であってもよい。つまり、超解像装置100が備える帯域分割装置102は、低域出力画像を出力するものであればよく、高域出力画像を生成しなくてもよい。
なお、本実施形態では、帯域合成装置300のタップ係数が、帯域分割装置102のタップ係数群を示す行列Xdの逆行列によって規定されるが、これに限られない。例えば、他の実施形態では、帯域合成装置300のタップ係数が、低域抽出フィルタとして機能し得るM個の係数列を要素とするL個の行と高域抽出フィルタとして機能し得るM個の係数列を要素とするH個の行とを含む行列の逆行列によって規定されても良い。なお、行列Xcの逆行列が行列Xdと一致しない場合、帯域合成装置300が低域出力画像と高域出力画像とを合成した画像は、帯域分割装置102に入力された画像に近似するが、一致するとは限らない。
なお、行列Xdは、低域抽出フィルタとして機能し得るM個の係数列を要素とするL個の行と高域抽出フィルタとして機能し得るM個の係数列を要素とするH個の行とを含む行列の一例である。
《第2の実施形態》
第2の実施形態について説明する。図5は、第2の実施形態に係る解像度変換装置の構成を示す概略ブロック図である。
第1の実施形態に係る超解像装置100は、入力画像の解像度を4/3倍に拡大するものである。これに対し、第2の実施形態に係る解像度変換装置400は、入力画像の解像度を3/4倍に縮小するものである。
第2の実施形態に係る解像度変換装置400は、第1の実施形態の帯域分割装置102から高域抽出フィルタ206、高域信号生成部208および高域出力端子210を除いたものである。つまり、解像度変換装置400は、入力画像に基づいて、入力画像の3/4倍の画素数を有する出力画像(低域出力画像)を生成する。なお、第1の実施形態と同様に、解像度変換装置400の低域抽出フィルタ203および低域抽出フィルタ205における係数は、端部に近いほど大きい値に設定される。これにより、解像度変換装置400が出力する出力画像の画素列の境界部分に生じるエッジの大きさを低減することができる。
このように、本実施形態によれば、解像度変換装置400は、入力画像を任意の倍率(3/4倍)に縮小した出力画像を生成することができる。例えば、入力画像の画素数が4×Sである場合、解像度変換装置400は、画素数が3×Sの出力画像を生成する。
なお、本実施形態に係る解像度変換装置400は、入力画像を3/4倍に縮小するが、これに限られない。例えば、他の実施形態に係る解像度変換装置400は、入力画像を他の倍率であるL/(L+H)倍に縮小してもよい。なお、LおよびHは、1以上の整数である。つまり、上述した実施形態は、L=3、H=1とする解像度変換装置400である。
また、本実施形態に係る低域抽出フィルタ203、低域抽出フィルタ204、および低域抽出フィルタ205は、いずれも4個のタップを備えるFIRフィルタであるが、これに限られない。例えば、他の実施形態に係る低域抽出フィルタ203、低域抽出フィルタ204および低域抽出フィルタ205は、係数の一部にゼロを含む場合、当該係数に係るタップを省略してもよい。
以上、図面を参照して一実施形態について詳しく説明してきたが、具体的な構成は上述のものに限られることはなく、様々な設計変更等をすることが可能である。
上述した実施形態では、超解像装置100、帯域分割装置102、帯域合成装置300および解像度変換装置400が、画像を処理する場合について説明した、これに限られない。例えば、他の実施形態に係る超解像装置100、帯域分割装置102、帯域合成装置300または解像度変換装置400は、音声信号など他の信号を処理するために用いられてもよい。つまり、帯域合成装置300は、任意の比に係る低域信号と高域信号とに基づいて信号を合成することができる。また帯域分割装置102は、信号を任意の比に係る低域信号と高域信号とに分割することができる。また解像度変換装置400は、原信号を任意の倍率に縮小することができる。また超解像装置100は、原信号を任意の倍率に拡大することができる。なお、画像の画素は、信号の標本の一例である。
例えば、上述した第1の実施形態に係る帯域分割装置102および帯域合成装置300は、超解像装置100に備えられるが、これに限られない。例えば、他の実施形態では、フィルタバンクが帯域分割装置102を備えても良い。フィルタバンクは、入力信号を複数の帯域に分割する装置である。フィルタバンクがウェーブレット変換器により構成される場合、帯域の分割が2のべき乗数に限られるが、帯域分割装置102を用いることで、任意の比率で信号を分割することができる。なお、帯域分割装置102を利用するフィルタバンクによって分割された信号は、帯域合成装置300を用いることで復元することができる。
図6は、少なくとも1つの実施形態に係るコンピュータの構成を示す概略ブロック図である。
コンピュータ900は、CPU901、主記憶装置902、補助記憶装置903、インタフェース904を備える。
上述した実施形態に係る超解像装置100、帯域分割装置102、帯域合成装置300および解像度変換装置400は、各処理部が半導体素子によって構成される集積回路として実装される。他方、他の実施形態に係る超解像装置100、帯域分割装置102、帯域合成装置300または解像度変換装置400は、コンピュータ900に実装されてもよい。この場合、各処理部の動作は、プログラムの形式で補助記憶装置903に記憶される。CPU901は、プログラムを補助記憶装置903から読み出して主記憶装置902に展開し、当該プログラムに従って上記処理を実行する。
なお、少なくとも1つの実施形態において、補助記憶装置903は、一時的でない有形の媒体の一例である。一時的でない有形の媒体の他の例としては、インタフェース904を介して接続される磁気ディスク、光磁気ディスク、CD−ROM、DVD−ROM、半導体メモリ等が挙げられる。また、このプログラムが通信回線によってコンピュータ900に配信される場合、配信を受けたコンピュータ900が当該プログラムを主記憶装置902に展開し、上記処理を実行してもよい。
また、当該プログラムは、前述した機能の一部を実現するためのものであってもよい。さらに、当該プログラムは、前述した機能を補助記憶装置903に既に記憶されている他のプログラムとの組み合わせで実現するもの、いわゆる差分ファイル(差分プログラム)であってもよい。
100 超解像装置
102 帯域分割装置
103 補間拡大装置
105 超解像信号生成装置
203、204、205 低域抽出フィルタ
206 高域抽出フィルタ
207 低域信号生成部
208 高域信号生成部
300 帯域合成装置
301 低域入力端子
302 高域入力端子
304、305、306、307 フィルタ
308 目的信号生成部

Claims (16)

  1. 目的信号の低周波成分であるS×L個の標本を有する低域入力信号と、前記目的信号の高周波成分であるS×H個の標本を有する高域入力信号との入力を受け付ける分割信号入力部と、
    前記低域入力信号のL個の標本と前記高域入力信号のH個の標本とからなる標本列の、標本位置に応じたL+H個の係数による加重和を出力するM個のフィルタと、
    前記フィルタの出力を結合することでS×M個の標本を有する前記目的信号を生成する目的信号生成部と
    を備え、
    M個の前記フィルタにおけるL+H個の前記係数を要素とする行列の逆行列または疑似逆行列が、低域抽出フィルタとして機能し得るM個の係数列を要素とするL個の行と高域抽出フィルタとして機能し得るL+H個の係数列を要素とするH個の行とを含む行列であり、
    前記Lが、1以上の整数であり、
    前記Hが、1以上の整数であり、
    前記Sが、1以上の整数であり、
    前記Mが、3以上の整数である
    帯域合成装置。
  2. 前記Mが、前記Hと前記Lの和である
    請求項1に記載の帯域合成装置。
  3. 前記Lが、2以上の整数であり、
    L個の前記行のM個の前記係数列が、それぞれ異なる位置にピークを有する
    請求項1または請求項2に記載の帯域合成装置。
  4. 前記Hが、2以上の整数であり、
    H個の前記行のM個の前記係数列が、それぞれ異なる位置にピークを有する
    請求項1から請求項3の何れか1項に記載の帯域合成装置。
  5. 前記Lが3であり、
    前記Hが1であり、
    前記Mが4である
    請求項1から請求項4の何れか1項に記載の帯域合成装置。
  6. S×M個の標本を有する入力信号のM個の標本からなる標本列ごとに、当該標本列の低周波成分を抽出するL個の低域抽出フィルタと、
    前記入力信号のM個の標本からなる標本列ごとに、当該標本列の高周波成分を抽出するH個の高域抽出フィルタと、
    L個の前記低域抽出フィルタが抽出した前記低周波成分を結合することでS×L個の標本を有する低域出力信号を生成する低域信号生成部と
    H個の前記高域抽出フィルタが抽出した前記高周波成分を結合することでS×H個の標本を有する高域出力信号を生成する高域信号生成部と
    を備え、
    前記Lが、1以上の整数であり、
    前記Hが、1以上の整数であり、
    前記Sが、1以上の整数であり、
    前記Mが、3以上の整数である
    帯域分割装置。
  7. 前記Mが、前記Hと前記Lの和である
    請求項6に記載の帯域分割装置。
  8. 前記Lが、2以上の整数であり、
    L個の前記低域抽出フィルタは、それぞれ異なる標本位置にピークを有する係数列による加重和を算出することで前記低周波成分を抽出する
    請求項6または請求項7に記載の帯域分割装置。
  9. 前記Hが、2以上の整数であり、
    H個の前記高域抽出フィルタは、それぞれ異なる標本位置にピークを有する係数列による加重和を算出することで前記高周波成分を抽出する
    請求項6から請求項8の何れか1項に記載の帯域分割装置。
  10. 前記Lが3であり、
    前記Hが1であり、
    前記Mが4である
    請求項6から請求項9の何れか1項に記載の帯域分割装置。
  11. S×M個の標本を有する入力信号のM個の標本からなる標本列ごとに、それぞれ異なる標本位置にピークを有する係数列による加重和を算出することで、当該標本列の低周波成分を抽出するL個の低域抽出フィルタと、
    L個の前記低域抽出フィルタが抽出した前記低周波成分を結合することでS×L個の標本を有する低域出力信号を生成する低域信号生成部と
    を備え、
    少なくとも1つの前記低域抽出フィルタの前記係数列のピークが、当該係数列の端部に存在し、当該係数列を構成する係数が、前記係数列の端部に近いほど大きな値であり、
    前記Lが、2以上の整数であり、
    前記Sが、1以上の整数であり、
    前記Mが、3以上の整数である
    解像度変換装置。
  12. S×L個の標本を有する原信号に基づいて、当該原信号の高周波成分であるS×H個の標本を有する高域信号を抽出する高域抽出装置と、
    前記原信号と前記高域信号とを帯域合成することでS×(L+H)個の標本を有する超解像信号を生成する請求項1に記載の帯域合成装置である超解像信号生成装置と
    を備える超解像装置。
  13. 前記高域抽出装置が、
    前記原信号を帯域分割することで前記高域出力信号を生成する請求項6に記載の帯域分割装置と、
    前記高域出力信号と各標本の値がゼロであるゼロ信号とを帯域合成することで前記高域信号を抽出する請求項1に記載の帯域合成装置である補間拡大装置と
    を備える請求項12に記載の超解像装置。
  14. コンピュータを、
    目的信号の低周波成分であるS×L個の標本を有する低域入力信号と、前記目的信号の高周波成分であるS×H個の標本を有する高域入力信号との入力を受け付ける分割信号入力部、
    前記低域入力信号のL個の標本と前記高域入力信号のH個の標本とからなる標本列の、標本位置に応じたL+H個の係数による加重和を出力するM個のフィルタ、
    前記フィルタの出力を結合することでS×M個の標本を有する前記目的信号を生成する目的信号生成部
    として機能させ、
    M個の前記フィルタにおけるL+H個の前記係数を要素とする行列の逆行列または疑似逆行列が、低域抽出フィルタとして機能し得るM個の係数列を要素とするL個の行と高域抽出フィルタとして機能し得るL+H個の係数列を要素とするH個の行とを含む行列であり、
    前記Lが、1以上の整数であり、
    前記Hが、1以上の整数であり、
    前記Sが、1以上の整数であり、
    前記Mが、3以上の整数である
    プログラム。
  15. コンピュータを、
    S×M個の標本を有する入力信号のM個の標本からなる標本列ごとに、当該標本列の低周波成分を抽出するL個の低域抽出フィルタ、
    前記入力信号のM個の標本からなる標本列ごとに、当該標本列の高周波成分を抽出するH個の高域抽出フィルタ、
    L個の前記低域抽出フィルタが抽出した前記低周波成分を結合することでS×L個の標本を有する低域出力信号を生成する低域信号生成部、
    H個の前記高域抽出フィルタが抽出した前記高周波成分を結合することでS×H個の標本を有する高域出力信号を生成する高域信号生成部
    として機能させ、
    前記Lが、1以上の整数であり、
    前記Hが、1以上の整数であり、
    前記Sが、1以上の整数であり、
    前記Mが、3以上の整数である
    プログラム。
  16. コンピュータを、
    S×M個の標本を有する入力信号のM個の標本からなる標本列ごとに、それぞれ異なる標本位置にピークを有する係数列による加重和を算出することで、当該標本列の低周波成分を抽出するL個の低域抽出フィルタ、
    L個の前記低域抽出フィルタが抽出した前記低周波成分を結合することでS×L個の標本を有する低域出力信号を生成する低域信号生成部
    として機能させ、
    少なくとも1つの前記低域抽出フィルタの前記係数列のピークが、当該係数列の端部に存在し、当該係数列を構成する係数が、前記係数列の端部に近いほど大きな値であり、
    前記Lが、2以上の整数であり、
    前記Sが、1以上の整数であり、
    前記Mが、3以上の整数である
    プログラム。
JP2015206215A 2015-10-20 2015-10-20 帯域合成装置、帯域分割装置、解像度変換装置、超解像装置およびプログラム Active JP6598365B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015206215A JP6598365B2 (ja) 2015-10-20 2015-10-20 帯域合成装置、帯域分割装置、解像度変換装置、超解像装置およびプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015206215A JP6598365B2 (ja) 2015-10-20 2015-10-20 帯域合成装置、帯域分割装置、解像度変換装置、超解像装置およびプログラム

Publications (2)

Publication Number Publication Date
JP2017078939A JP2017078939A (ja) 2017-04-27
JP6598365B2 true JP6598365B2 (ja) 2019-10-30

Family

ID=58667030

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015206215A Active JP6598365B2 (ja) 2015-10-20 2015-10-20 帯域合成装置、帯域分割装置、解像度変換装置、超解像装置およびプログラム

Country Status (1)

Country Link
JP (1) JP6598365B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111281396B (zh) * 2020-01-22 2022-09-06 哈尔滨理工大学 胸腹表面呼吸运动信号超分辨方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2522357B2 (ja) * 1988-09-13 1996-08-07 日本電気株式会社 画像の拡大方式
JPH08294001A (ja) * 1995-04-20 1996-11-05 Seiko Epson Corp 画像処理方法および画像処理装置
JP2005217532A (ja) * 2004-01-27 2005-08-11 Canon Inc 解像度変換方法及び解像度変換装置
JP4429816B2 (ja) * 2004-06-10 2010-03-10 オリンパス株式会社 撮像装置および画像の高解像度化方法

Also Published As

Publication number Publication date
JP2017078939A (ja) 2017-04-27

Similar Documents

Publication Publication Date Title
JP4767345B2 (ja) 画像処理装置及び方法、並びに画像表示装置及び方法
WO2011111819A1 (ja) 画像処理装置、画像処理プログラム、および、画像を生成する方法
JPS60502022A (ja) 潰れウオルシュ・アダマ−ル変換による画像処理方法
JP4728744B2 (ja) 画像処理装置
KR20110008727A (ko) 다중 대역 합성 필터를 이용한 고해상도 영상 획득 장치 및 방법
Yoshikawa et al. Super resolution image reconstruction using total variation regularization and learning-based method
JP2007096431A (ja) 任意の変換比率を有するデジタル・ビデオ・フォーマット下方変換装置及び方法
JP6598365B2 (ja) 帯域合成装置、帯域分割装置、解像度変換装置、超解像装置およびプログラム
KR100298327B1 (ko) 고속 컨벌루션 처리 방법 및 그 장치
JPWO2008020487A1 (ja) 画像処理装置、画像処理プログラム、および画像処理方法
US8902474B2 (en) Image processing apparatus, control method of the same, and program
JP5514132B2 (ja) 画像縮小装置、画像拡大装置、及びこれらのプログラム
JP6580831B2 (ja) 画像処理装置、画像処理方法、およびプログラム
JP5203824B2 (ja) 画像処理装置及び撮像システム
JPWO2007102244A1 (ja) 画像拡大縮小装置
JP4323808B2 (ja) 二次元ピラミッド・フィルタ・アーキテクチャ
WO2015115168A1 (ja) 画像処理装置
JP2009008945A (ja) 画像信号処理装置、画像信号処理方法およびプログラム
JP2004530206A (ja) 二次元ピラミッド・フィルタ・アーキテクチャ
Azgin et al. A high performance alternating projections image demosaicing hardware
JP2007188211A (ja) 画像処理装置、撮像装置、画像処理方法およびそのプログラム
JP2012080255A (ja) 画像処理装置及びその制御方法
US10559066B2 (en) Image processing device and image processing method
JP5624701B2 (ja) 間引きフィルタおよび間引きプログラム
US20230153944A1 (en) Super resolution image generating device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180827

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20181026

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190711

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190903

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190930

R150 Certificate of patent or registration of utility model

Ref document number: 6598365

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250