JP2010258991A - 符号化・前処理装置、復号化・後処理装置、符号化装置、復号装置及びプログラム - Google Patents
符号化・前処理装置、復号化・後処理装置、符号化装置、復号装置及びプログラム Download PDFInfo
- Publication number
- JP2010258991A JP2010258991A JP2009109748A JP2009109748A JP2010258991A JP 2010258991 A JP2010258991 A JP 2010258991A JP 2009109748 A JP2009109748 A JP 2009109748A JP 2009109748 A JP2009109748 A JP 2009109748A JP 2010258991 A JP2010258991 A JP 2010258991A
- Authority
- JP
- Japan
- Prior art keywords
- frequency
- image signal
- region
- frequency component
- horizontal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Compression Of Band Width Or Redundancy In Fax (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
【課題】サブサンプリング画像を非可逆圧縮する際に、符号化効率を劣化させることなく、視覚感度の高い最高周波数の1/2近傍の周波数成分に係る画質を改善する、符号化・前処理装置、復号化・後処理装置、符号化装置、復号装置及びプログラムを提供する。
【解決手段】本発明による符号化用の前処理装置1は、2次元周波数空間における低域側周波数領域から、水平及び垂直周波数の最大周波数の3/4以上の高周波成分をそれぞれ抽出する高周波成分抽出器12b,12eと、抽出した高周波成分の各々を、帯域外領域内の領域のうち、水平及び垂直の最大周波数の1/2以上であり、且つ3/4以下の領域にそれぞれ配置変換する配置変換12c,12fと、低域側周波数領域の周波数成分から当該抽出した高周波成分の各々を差分した差分周波数成分と、配置変換された周波数成分の各々とを加算して得られる画像信号に対して画素数を3/4倍に間引くサンプリングレート変換器13とを備える。
【選択図】図1
【解決手段】本発明による符号化用の前処理装置1は、2次元周波数空間における低域側周波数領域から、水平及び垂直周波数の最大周波数の3/4以上の高周波成分をそれぞれ抽出する高周波成分抽出器12b,12eと、抽出した高周波成分の各々を、帯域外領域内の領域のうち、水平及び垂直の最大周波数の1/2以上であり、且つ3/4以下の領域にそれぞれ配置変換する配置変換12c,12fと、低域側周波数領域の周波数成分から当該抽出した高周波成分の各々を差分した差分周波数成分と、配置変換された周波数成分の各々とを加算して得られる画像信号に対して画素数を3/4倍に間引くサンプリングレート変換器13とを備える。
【選択図】図1
Description
本発明は、サブサンプリング画像信号を非可逆符号化する際の符号化・前処理装置、復号化・後処理装置、符号化装置、復号装置及びプログラムに関するものであり、特に、符号化効率を劣化させることなく、視覚感度の高い最高周波数の1/2近傍の周波数成分に係る画質を改善する、符号化・前処理装置、復号化・後処理装置、符号化装置、復号装置及びプログラムに関するものである。
スーパーハイビジョン等の映像を符号化するための符号化システムでは、扱う符号量が膨大であるため、サブサンプリング(半画素ずらし)法で符号量を低減した後に、標準化されたH.264等のコーデックを使用して符号化するのが常套手段となっている。
サブサンプリング法は、水平又は垂直方向に1画素ごとに半画素ずらして画素を間引く符号化・前処理の1つとしての技法であり、これにより元画像の符号量を簡便に半減させることができる。しかしながら、サブサンプリング法によれば、例えば間引く前の元画像の水平又は垂直方向の直線はジグザグに変形されることがある。このジグザグに変形されたデータを非可逆符号化した場合、このデータは元の直線に対して斜め方向の成分が抑圧された直線として符号化される。一方、このデータを復号時には、単なる直線として復号するため、復号化・後処理として、サブサンプリング法に基づいて元画像の復元を行なうと、水平又は垂直方向に1画素ごとに符号化・前処理時とは逆方向に半画素ずらして元の位置に戻すことになる。従って、元画像では直線であったデータがジグザグに復元されるために画質の劣化が生じる。この問題を解決するために、半画素ごとに半画素ずらしを行なう方向とは逆方向へ1/4画素ずつ移動して並べ替える方法が提案され、画質の改善が図られている(例えば、特許文献1参照)。
しかし、特許文献1の技法ではジグザグ変形による画質劣化の問題は解決することができるが、元画像の画素数で決まる最大周波数の1/2近傍の周波数成分が抑圧されることによる画質劣化は解決されない。最大周波数の1/2近傍の周波数成分は、画像を視聴する際の視覚感度として高いために、この成分の劣化を如何にして改善するかが問題となる。
より具体的には、図7に示すように、元画像の画像信号の2次元周波数空間(水平周波数成分,垂直周波数成分)において、元画像の画素数で決まる最大周波数を1として正規化したとき、(0,0)と(0,1)と(1,0)とからなる周波数領域(以下、「低域側周波数領域」と称する)と、低域側周波数領域の帯域外となる(1,0)と(0,1)と(1,1)とからなる周波数領域(以下、「帯域外領域」と称する)とに分けることができる。図7に示すように、符号化器は、符号化・前処理(サブサンプリング法)によって画素数を半減させた方向の高周波成分領域(1)を帯域外領域内の領域(2)に折り返したデータについて、符号化する。これは、領域(1)の成分のうち、視覚感度の高い最大周波数の1/2であるC点近傍の成分はD点近傍に移動することを意味する。しかしながら、通常、符号化器においてD点近傍の成分に対して割り当てられるビットは、より低周波であるC点近傍の成分と比較して小さく設定される。従って、符号化データを復号したデータについて元画像を復元するにあたり、復号化・後処理によって元の領域(1)に戻すことになるため、領域(1)における視覚感度の高いC点近傍の成分が抑圧されて復元され、画質の劣化となる。
また、民生用のデジタルビデオカメラやデジタルスチルカメラでは、そのほとんどが単板式撮像素子を採用しており、輝度又は最も輝度に寄与する緑の信号はサブサンプリング法によって半画素ずらされた画像信号として撮像系から出力される。この場合、出力された画像信号は、符号化・前処理の1つとしてデ・モザイキングされ、その後H.264、MPEG2又はJPEG等のコーデックを使用して符号化される。
しかしながら、このデ・モザイキングを用いる技法では、デ・モザイキングによって、サブサンプリング法による画像信号(即ち、「低域側周波数領域」の成分)が本来成分を持たない2次元周波数のサブサンプリング帯域外の画像信号(即ち、「帯域外領域」の成分)を強制的に生成することになる。従って、全周波数領域の信号として圧縮符号化することは、サブサンプリング法による画像信号を符号化する符号量が増加し、符号化効率の低下につながる。
そこで、本発明の目的は、符号化効率を劣化させることなく、視覚感度の高い最高周波数の1/2近傍の周波数成分に係る画質を改善する、符号化・前処理装置、復号化・後処理装置、符号化装置、復号装置及びプログラムを提供することにある。
上記課題を解決するために、本発明の前処理装置を提供する。本発明の前処理装置は、符号化対象の画像信号の周波数成分に対して前処理を行う前処理装置であって、2次元周波数空間における低域側周波数領域の周波数成分から、水平及び垂直周波数の最大周波数の3/4以上の高周波成分をそれぞれ抽出する高周波成分抽出手段と、抽出した前記高周波成分の各々を、前記低域側周波数領域の帯域外である帯域外領域内の領域のうち、水平及び垂直の最大周波数の1/2以上であり、且つ3/4以下の領域にそれぞれ配置変換する配置変換手段と、前記低域側周波数領域の周波数成分から前記抽出した前記高周波成分の各々を差分した差分周波数成分と、前記配置変換された周波数成分の各々とを加算して得られる画像信号に対して画素数を3/4倍に間引くサンプリングレート変換手段と、
を備えることを特徴とする。また、本発明の符号化装置は、本発明の前処理装置と、前記サンプリングレート変換手段によって間引いた画像信号を符号化する符号化手段とを備えることを特徴とする。
を備えることを特徴とする。また、本発明の符号化装置は、本発明の前処理装置と、前記サンプリングレート変換手段によって間引いた画像信号を符号化する符号化手段とを備えることを特徴とする。
また、本発明の後処理装置は、本発明の符号化装置によって符号化された画像信号について復号された画像信号に対して後処理を行う後処理装置であって、該画像信号を入力して画素数を4/3倍に拡張するサンプリングレート変換手段と、当該拡張された画像信号の周波数成分から、前記低域側周波数領域の帯域外となる当該帯域外領域内の周波数成分を抽出する帯域外成分抽出手段と、当該抽出した前記帯域外領域内の周波数成分から、水平及び垂直の最大周波数の1/2以上の高周波成分をそれぞれ抽出する高周波成分抽出手段と、抽出した前記水平及び垂直高周波成分の各々を、前記低域側周波数領域における領域のうち、水平及び垂直の最大周波数の3/4以上の領域にそれぞれ配置変換する配置変換手段と、当該帯域外領域内の周波数成分の画像信号と、該配置変換した各周波数成分の画像信号とを加算して元の画像信号を復元する信号加算手段とを備えることを特徴とする。また、本発明の復号装置は、本発明の符号化装置によって符号化された画像信号をする復号手段と、該復号された画像信号に対して後処理を行う本発明の後処理装置とを備えることを特徴とする。
更に、本発明は、符号化対象の画像信号の周波数成分に対して前処理を行う前処理装置として構成するコンピュータに、2次元周波数空間における低域側周波数領域の周波数成分から、水平及び垂直周波数の最大周波数の3/4以上の高周波成分をそれぞれ抽出するステップと、抽出した前記高周波成分の各々を、前記低域側周波数領域の帯域外となる帯域外領域内の領域のうち、水平及び垂直の最大周波数の1/2以上であり、且つ3/4以下の領域にそれぞれ配置変換するステップと、前記低域側周波数領域の周波数成分から前記抽出した前記高周波成分の各々を差分した差分周波数成分と、前記配置変換された周波数成分の各々とを加算して得られる画像信号に対して画素数を3/4倍に間引いてサンプリングレート変換するステップとを実行させるためのプログラムとしても特徴付けられる。
更に、本発明は、本発明の符号化装置によって符号化された画像信号について復号された画像信号に対して後処理を行う後処理装置として構成するコンピュータに、該画像信号を入力して画素数を4/3倍に拡張してサンプリングレート変換するステップと、当該拡張された画像信号の周波数成分から、前記低域側周波数領域の帯域外となる当該帯域外領域内の周波数成分を抽出するステップと、当該抽出した前記帯域外領域内の周波数成分から、水平及び垂直の最大周波数の1/2以上の高周波成分をそれぞれ抽出するステップと、抽出した前記水平及び垂直高周波成分の各々を、前記低域側周波数領域における領域のうち、水平及び垂直の最大周波数の3/4以上の領域にそれぞれ配置変換するステップと、当該帯域外領域内の周波数成分の画像信号と、該配置変換した各周波数成分の画像信号とを加算して元の画像信号を復元するステップとを実行させるための後処理プログラムとしても特徴付けられる。
本発明によれば、符号化効率を劣化させることなく、視覚感度の高い最高周波数の1/2近傍の周波数成分に係る画質を改善することができる。
特に、単板式撮像素子等から得られるサブサンプリング画像信号を、デ・モザイキングすることなくH.264、MPEG2又はJPEG等のコーデックを使用して非可逆符号化を施すことができる。
更に、サブサンプリングされていない信号に対しても、伝送又は蓄積される情報量を低減することができる。
以下に、本発明による一実施例の符号化装置(符号化・前処理用の前処理装置を含む)、及び復号装置(復号化・後処理用の後処理装置を含む)について、図1〜図6を参照して具体的に説明する。
図1は、本発明による一実施例の符号化装置100のブロック図を示している。
[符号化装置]
本実施例による符号化装置100は、符号化・前処理用の前処理装置1と、符号化器3とを備える。また、前処理装置1は、2次元フィルター11と、2次元周波数配置変換器12と、水平・垂直サンプリングレート3/4変換器13とを備える。更に、2次元周波数配置変換器12は、水平高周波成分除去器12aと、水平高周波成分抽出器12bと、水平高周波成分2次元周波数配置変換器12cと、垂直高周波成分除去器12dと、垂直高周波成分抽出器12eと、垂直高周波成分2次元周波数配置変換器12fと、信号加算器12gとを備えている。
本実施例による符号化装置100は、符号化・前処理用の前処理装置1と、符号化器3とを備える。また、前処理装置1は、2次元フィルター11と、2次元周波数配置変換器12と、水平・垂直サンプリングレート3/4変換器13とを備える。更に、2次元周波数配置変換器12は、水平高周波成分除去器12aと、水平高周波成分抽出器12bと、水平高周波成分2次元周波数配置変換器12cと、垂直高周波成分除去器12dと、垂直高周波成分抽出器12eと、垂直高周波成分2次元周波数配置変換器12fと、信号加算器12gとを備えている。
次に、符号化装置100の各構成要素を説明する。
2次元フィルター11は、任意の符号化対象画像(元画像)の画像信号の周波数成分を入力して低域側周波数領域内の周波数成分に変換し、2次元周波数配置変換器12に送出する機能を有する。例えば、2次元フィルター11は、当該符号化対象画像の周波数成分がサブサンプリングされておらず、且つ2次元周波数空間の帯域外領域の成分(以下、「帯域外成分」と称する)を含む場合には当該帯域外成分を削除することにより、「低域側周波数領域」の周波数成分に変換する。或いは又、2次元フィルター11は、当該符号化対象画像の周波数成分がサブサンプリングされている(半画素ずらし用に間引かれている)場合には、間引かれた画素を内挿することにより、「低域側周波数領域」の周波数成分に変換する。或いは又、任意の符号化対象画像(元画像)の画像信号の周波数成分が、既に「低域側周波数領域」の周波数成分に変換されている場合には、この2次元フィルター11は不要である。好適には、帯域制限がコサイン・ロールオフフィルタの周波数特性の場合に最良の再生画質が得られる。尚、既に「低域側周波数領域」の周波数成分に変換されている場合に、2次元フィルター11の係数をパススルーに設定するように構成することもできる。以下、「低域側周波数領域」の周波数成分を低域側周波数領域信号と称する。
2次元周波数配置変換器12は、2次元フィルター11から供給される低域側周波数領域信号から、サブサンプリング帯域内にある水平及び垂直の最高周波数の3/4以上の帯域の成分を、サブサンプリング帯域外にある最高周波数の1/2以上、且つ3/4以下の帯域にそれぞれ配置変換し、低域側周波数領域の周波数成分から当該抽出した高周波成分の各々を差分した差分周波数成分の画像信号と、当該配置変換された周波数成分の各々の画像信号とを加算して得られる画像信号を、水平・垂直サンプリングレート3/4変換器13に出力する。
水平・垂直サンプリングレート3/4変換器13は、2次元周波数配置変換器12から供給される画像信号から、水平又は垂直の画素数をそれぞれ3/4倍に間引いてサンプリングレート変換を施し、符号化器3に出力する。
符号化器3は、H.264、MPEG2又はJPEG等のコーデックを使用して非可逆符号化を施す。符号化器3から出力される信号は、伝送装置(図示せず)で送信されるか、又は記憶装置(図示せず)に蓄積することができる。
より詳細に、前処理装置1の一部を構成する2次元周波数配置変換器12の各構成要素について説明する。
水平高周波成分除去器12aは、入力した低域側周波数領域信号から、水平周波数が最大周波数の3/4以上の帯域の信号成分を除去し、垂直高周波成分除去器12d及び垂直高周波成分抽出器12eに出力する。
水平高周波成分抽出器12bは、入力した低域側周波数領域信号から、水平周波数が最大周波数の3/4以下の帯域の信号成分を除去する1次元デジタルフィルターを使用して、最大周波数の3/4以上の高周波成分を抽出し、水平高周波成分2次元周波数配置変換器12cに出力する。尚、水平高周波成分除去器12aと水平高周波成分抽出器12bは相補的な処理を行うため、水平高周波成分抽出器12bは元の周波数領域信号と2次元帯域外成分除去器22aにより帯域制限された周波数領域信号との差分を計算するだけでよくなる。
水平高周波成分2次元周波数配置変換器12cは、水平高周波成分抽出器12bによって抽出された水平周波数が最大周波数の3/4以上の高周波成分を、サブサンプリング帯域外の水平周波数が最大周波数の1/2以上且つ3/4以下の領域に配置変換し、信号加算器12gに出力する。
垂直高周波成分除去器12dは、入力信号から垂直周波数が最大周波数の3/4以上の帯域の信号成分を除去し、信号加算器12gに出力する。
垂直高周波成分抽出器12eは、入力信号から、垂直周波数が最大周波数の3/4以下の帯域の信号成分を除去する1次元デジタルフィルターを使用して、最大周波数の3/4以上の高周波成分を抽出し、垂直高周波成分2次元周波数配置変換器12fに出力する。
垂直高周波成分2次元周波数配置変換器12fは、入力信号から、垂直最大周波数の3/4以上の高周波成分を、サブサンプリング帯域外の垂直周波数が最大周波数の1/2以上且つ3/4以下の領域に配置変換し、信号加算器12gに出力する。
信号加算器12gは、入力した水平高周波成分2次元周波数配置変換器12cからの周波数成分の画像信号と、垂直高周波成分2次元周波数配置変換器12fからの周波数成分の画像信号と、垂直高周波成分除去器12dからの周波数成分の画像信号を、復号側で分離可能な任意の態様で加算して、水平・垂直サンプリングレート3/4変換器13に出力する。
本実施例の前処理装置1は、図3に示すように、水平及び垂直の最大周波数の3/4以上の高周波領域を、帯域外領域の(2)及び(4)にそれぞれ配置変換し、更に画素数を3/4倍に間引くことによって、従来技術において生じた最大周波数の1/2周辺の成分に起因する画質劣化を改善し、更にサブサンプリングしてデ・モザイキングした場合の符号量を半減させるものである。
ここで、水平方向の高周波成分の配置返還を行う水平高周波成分2次元周波数配置変換器12cによる信号処理について説明する。
図4aは、水平高周波成分2次元周波数配置変換器12cにより水平最大周波数の3/4以上の信号領域(1)が帯域外領域(2)に配置変換する過程を示しており、図4bはそれぞれの配置での信号成分a_ij(i,jは1以上の整数)を示している。まず、サブサンプリングによって信号が半分に間引かれ、領域(1)の信号は領域(6)に折り返されて、続いて、領域(7)に配置変換される。領域(7)に配置変換された段階での信号は間引かれた状態であるが、帯域幅を元の1/2に制限するデジタルフィルターによって、水平及び垂直の双方に対して信号を内挿する。ここで、b_ij(i,jは1以上の整数)は内挿された信号成分を示している。その後、折り返されて帯域外領域の領域(2)へと配置変換される。垂直高周波成分2次元周波数配置変換器12fに関しても同様に処理される。本実施例では、水平又は垂直の最大周波数の3/4以上の高周波領域を配置変換する際に、図2に示すように、水平高周波領域(1)を領域(2)に、垂直高周波領域(3)を領域(4)に配置変換しているが、水平高周波領域(1)を領域(4)に、垂直高周波領域(3)を領域(2)に配置変換してもよい。
次に、前処理装置1の動作について説明する。
(前処理装置の動作)
図5は、本実施例の前処理装置1の動作を示すフローチャートである。
図5は、本実施例の前処理装置1の動作を示すフローチャートである。
まず、ステップS501にて、2次元フィルター11により、符号化対象の画像信号から、サブサンプリングされていない場合には2次元周波数空間のサブサンプリング帯域外の帯域外成分を除去する。また、サブサンプリングされている信号に対しては、間引かれた画素を内挿する。
次に、帯域外成分が除去された信号から、ステップS502にて、水平高周波成分除去器12aにより水平周波数が最大周波数の3/4以上の高周波成分を除去するとともに、水平高周波成分抽出器12bにより最大周波数の3/4以上の高周波成分を抽出する。
続いて、ステップS503にて、水平高周波成分除去器12aにより水平高周波成分が除去された信号から、垂直高周波成分除去器12dにより垂直周波数が最大周波数の3/4以上の高周波成分を除去するとともに、垂直高周波成分抽出器12eにより最大周波数の3/4以上の高周波成分を抽出する。
次に、ステップS504にて、水平高周波成分抽出器12bにより水平高周波成分が抽出された信号から、水平高周波成分2次元周波数配置変換器12cにより、最大周波数の3/4以上の高周波成分を、水平周波数が1/2以上4/3以下のサブサンプリング帯域外に存在する帯域外領域に配置変換する。同様に、垂直成分についても、垂直高周波成分抽出器12eにより垂直高周波成分が抽出された信号から、垂直高周波成分2次元周波数配置変換器12fにより、最大周波数の3/4以上の高周波成分を、垂直周波数が1/2以上4/3以下のサブサンプリング帯域外に存在する帯域外領域に配置変換する。
その後、ステップS505にて、信号加算器12gにより、水平高周波成分2次元周波数配置変換器12cの出力と、垂直高周波成分2次元周波数配置変換器12fの出力と、垂直高周波成分除去器12dの出力を加算する。
最後に、ステップS506にて、水平・垂直サンプリングレート3/4変換器13により、信号加算器12gの出力信号から水平及び垂直の画素数を3/4倍にそれぞれ間引く。
前処理装置1の出力信号は、その後、符号化器3にて符号化された後、外部に伝送されるか、又は蓄積される。復号側では、後述するように、復号化器5にて、伝送された信号を受信するか、又は蓄積された信号を読み出して復号処理を施し、後処理装置2により後処理を行なう。
このように、水平及び垂直の最大周波数の3/4以上の高周波成分を、サブサンプリング帯域外の帯域外成分に配置変換し、最大周波数の3/4以下の帯域の成分についてのみ符号化するため、視覚感度の高い最大周波数の1/2近傍の、ビット割り当ての不足に起因する画質劣化を改善することが可能になる。
また、符号化される総画素数は、図3に示すように帯域が水平、垂直方向ともに最大周波数の3/4に制限されるため元画像の9/16倍となる。これは、サブサンプリング信号を水平又は垂直に並べ替える場合と比較すると9/8倍である。しかし、符号化される総符号量は、(5)の領域の信号成分は存在しないため割り当てられる符号量は0であり、サブサンプリング信号を水平又は垂直に並べ替える場合と同一となる。
更に、デジタルカメラ等の単板式撮像素子から得られるサブサンプリング信号についても、本実施例による前処理装置及び後処理装置を使用し、復号化後にデ・モザイキングするようにすれば、デ・モザイキングして元画像と同じ画素数にした画像信号を符号化する場合と比較して符号量が1/2となり、少ない符号量で画質の向上を達成することが可能となる。換言すれば、本実施例の前処理装置及び後処理装置を使用しない場合と符号量が同一の場合には、画質が向上することになる。
次に、図2に示す、本発明の一実施例による復号装置200について説明する。
[復号装置]
本実施例による復号装置200は、復号化・後処理用の後処理装置2と、復号化器5とを備える。また、後処理装置2は、水平・垂直サンプリングレート4/3変換器21と、2次元周波数配置変換器22とを備える。更に、2次元周波数配置変換器22は、2次元帯域外成分除去器22aと、2次元帯域外成分抽出器22bと、垂直高周波成分抽出器22cと、垂直高周波成分2次元周波数配置変換器22dと、水平高周波成分抽出器22eと、水平高周波成分2次元周波数配置変換器22fと、信号加算器22gとを備えている。
本実施例による復号装置200は、復号化・後処理用の後処理装置2と、復号化器5とを備える。また、後処理装置2は、水平・垂直サンプリングレート4/3変換器21と、2次元周波数配置変換器22とを備える。更に、2次元周波数配置変換器22は、2次元帯域外成分除去器22aと、2次元帯域外成分抽出器22bと、垂直高周波成分抽出器22cと、垂直高周波成分2次元周波数配置変換器22dと、水平高周波成分抽出器22eと、水平高周波成分2次元周波数配置変換器22fと、信号加算器22gとを備えている。
次に、復号装置200の各構成要素について説明する。
復号化器5は、符号化器3によって符号化された画像信号について、受信した画像信号又は蓄積装置から読み出された画像信号を入力して、符号化側のコーデックに対応する復号処理を施し、水平・垂直サンプリングレート4/3変換器21に出力する。
水平・垂直サンプリングレート4/3変換器21は、入力した復号化された画像信号に対して、水平及び垂直方向の画素数を4/3倍にそれぞれ拡張し、2次元周波数配置変換器22に出力する。
2次元周波数配置変換器22は、入力したサンプリングレートが変換された画像信号に対して、水平又は垂直の最高周波数の1/2以上、且つ3/4以下の帯域に配置変換された高周波成分を、水平又は垂直の最高周波数の3/4以上の高周波領域に配置変換し、配置変換した各周波数領域信号の画像信号を加算して出力する。
より詳細に、後処理装置2の一部を構成する2次元周波数配置変換器22の各構成要素について説明する。
2次元帯域外成分除去器22aは、水平・垂直サンプリングレート4/3変換器21の出力信号を入力し、2次元デジタルフィルタリングにより入力信号から2次元周波数の帯域外成分を除去して信号加算器22gに出力する。
2次元帯域外成分抽出器22bは、水平・垂直サンプリングレート4/3変換器21の出力信号を入力し、2次元周波数の帯域外成分を抽出して垂直高周波成分抽出器22c及び水平高周波成分抽出器22eに出力する。尚、2次元帯域外成分除去器22aと、当該抽出器は相補的な処理を行うため、水平・垂直サンプリングレート4/3変換器21の出力信号と2次元帯域外成分除去器22aの出力信号との差分を計算するだけでよい。
垂直高周波成分抽出器22cは、入力信号から垂直周波数が最大周波数の1/2以下の帯域の信号成分を除去し、垂直高周波成分2次元周波数配置変換器22dに出力する。
水平高周波成分抽出器22eは、入力信号から水平周波数が最大周波数の1/2以下の帯域の信号成分を除去し、水平高周波成分2次元周波数配置変換器22fに出力する。
垂直高周波成分2次元周波数配置変換器22dは、入力信号から、垂直周波数が最大周波数の1/2以上の成分を、本来配置されていたサブサンプリング帯域内の最大周波数の3/4以上の領域に配置変換し、信号加算器22gに出力する。
水平高周波成分2次元周波数配置変換器22fは、入力信号から、水平周波数が最大周波数の1/2以上の成分を、本来配置されていたサブサンプリング帯域内の最大周波数の3/4以上の領域に配置変換し、信号加算器22gに出力する。
信号加算器22gは、入力した2次元帯域外成分除去器22aからの周波数成分の画像信号と、垂直高周波成分2次元周波数配置変換器22dからの周波数成分の画像信号と、水平高周波成分2次元周波数配置変換器22fからの周波数成分の画像信号とを加算して、元画像用の画像信号(周波数信号又は画素信号)を復元する。
ここで、後処理装置2の動作について説明する。
(後処理装置の動作)
図6は、本実施例による後処理装置2の動作を示すフローチャートである。
図6は、本実施例による後処理装置2の動作を示すフローチャートである。
まず、ステップS601にて、水平・垂直サンプリングレート4/3変換器21により、復号化器5の出力信号から水平又は垂直の画素数をそれぞれ4/3倍に拡張する。
次に、ステップS602にて、水平・垂直サンプリングレート4/3変換器21の出力信号から、2次元帯域外成分除去器22aにより2次元周波数空間におけるサブサンプリング帯域外の帯域外成分を除去するとともに、2次元帯域外成分抽出器22bにより2次元周波数空間におけるサブサンプリング帯域外の帯域外成分を抽出する。
続いて、ステップS603にて、垂直高周波成分抽出器22cにより垂直周波数が最大周波数の1/2以上の高周波成分を抽出するとともに、水平高周波成分抽出器22eにより最大周波数の1/2以上の高周波成分を抽出する。
次に、ステップS604にて、垂直高周波成分2次元周波数配置変換器22dは、垂直高周波成分抽出器22cにより抽出された垂直周波数が最大周波数の1/2以上の成分を、本来配置されていた最大周波数の3/4以上の領域に配置変換する。同様に、水平成分についても、水平高周波成分抽出器22eの出力から、水平高周波成分2次元周波数配置変換器22fにて、最大周波数の1/2以上の成分を、本来配置されていた最大周波数の3/4以上の領域に配置変換する。
最後に、ステップS605にて、信号加算器22gにより、2次元帯域外成分除去器22aの出力と、垂直高周波成分2次元周波数配置変換器22dの出力と、水平高周波成分2次元周波数配置変換器22fの出力を加算する。
こうして、復号化器5で復号化された画像信号が後処理装置2で処理され、サブサンプリング帯域全体の成分を含む画像信号が得られる。出力された画像信号は、2次元周波数の帯域外成分を含まない信号として使用したり、2次元サブサンプリングして使用することも可能である。
以上のように、本発明による一実施例の前処理装置及び後処理装置を使用して、視覚感度の高い最高周波数の1/2近傍の成分に係る画質劣化を改善するとともに符号化効率を向上させることが可能となる。
更に、本発明の一態様として、符号化装置1又は復号装置2を、各装置として機能するコンピュータとしてそれぞれ構成させることができる。コンピュータに、前述した各構成要素を実現させるためのプログラムは、各コンピュータの内部又は外部に備えられる記憶部に記憶される。そのような記憶部は、外付けハードディスクなどの外部記憶装置、或いはROM又はRAMなどの内部記憶装置で実現することができる。各コンピュータに備えられる制御部は、中央演算処理装置(CPU)などの制御で実現することができる。即ち、CPUが、各構成要素の機能を実現するための処理内容が記述されたプログラムを、適宜、記憶部から読み込んで、各構成要素の機能をコンピュータ上で実現させることができる。ここで、各成要素の機能をハードウェアの全部又は一部で実現しても良い。
また、この処理内容を記述したプログラムを、例えばDVD又はCD−ROMなどの可搬型記録媒体の販売、譲渡、貸与等により流通させることができるほか、そのようなプログラムを、例えばIPなどのネットワーク上にあるサーバの記憶部に記憶しておき、ネットワークを介してサーバから他のコンピュータにそのプログラムを転送することにより、流通させることができる。
また、そのようなプログラムを実行するコンピュータは、例えば、可搬型記録媒体に記
録されたプログラム又はサーバから転送されたプログラムを、一旦、自己の記憶部に記憶
することができる。また、このプログラムの別の実施態様として、コンピュータが可搬型
記録媒体から直接プログラムを読み取り、そのプログラムに従った処理を実行することと
してもよく、更に、このコンピュータにサーバからプログラムが転送される度に、逐次、
受け取ったプログラムに従った処理を実行することとしてもよい。尚、本態様におけるプ
ログラムには、電子計算機の処理の用に供する情報であってプログラムに準ずるもの(コ
ンピュータに対する直接の指令ではないが、コンピュータの処理を規定する性質を有する
データ等)を含むものとする。
録されたプログラム又はサーバから転送されたプログラムを、一旦、自己の記憶部に記憶
することができる。また、このプログラムの別の実施態様として、コンピュータが可搬型
記録媒体から直接プログラムを読み取り、そのプログラムに従った処理を実行することと
してもよく、更に、このコンピュータにサーバからプログラムが転送される度に、逐次、
受け取ったプログラムに従った処理を実行することとしてもよい。尚、本態様におけるプ
ログラムには、電子計算機の処理の用に供する情報であってプログラムに準ずるもの(コ
ンピュータに対する直接の指令ではないが、コンピュータの処理を規定する性質を有する
データ等)を含むものとする。
本発明は、情報量が膨大なスーパーハイビジョン等の符号化システム、単板式デジタルビデオカメラやデジタルスチルカメラにおける画質改善および符号量抑制に有用である。また、サブサンプリングされていない一般の信号に対しても、画質の劣化を生じることなく符号化効率を向上させる上で有用である。
以上、具体例を挙げて本発明を詳細に説明してきたが、本発明の特許請求の範囲から逸脱しない限りにおいて、あらゆる変形や変更が可能であることは当業者に明らかである。従って、本発明は上記の実施例に限定されるものではない。
1 前処理装置
2 後処理装置
3 符号化器
5 復号化器
11 2次元フィルター
12 2次元周波数配置変換器
12a 水平高周波成分除去器
12b 水平高周波成分抽出器
12c 水平高周波成分2次元周波数配置変換器
12d 垂直高周波成分除去器
12e 垂直高周波成分抽出機
12f 垂直高周波成分2次元周波数配置変換器
12g 信号加算器
13 水平・垂直サンプリングレート3/4変換器
21 水平・垂直サンプリングレート4/3変換器
22 2次元周波数配置変換器
22a 2次元帯域外成分除去器
22b 2次元帯域外成分抽出器
22c 垂直高周波成分抽出器
22d 垂直高周波成分2次元周波数配置変換器
22e 水平高周波成分抽出器
22f 水平高周波成分2次元周波数配置変換器
22g 信号加算器
100 符号化装置
200 復号装置
2 後処理装置
3 符号化器
5 復号化器
11 2次元フィルター
12 2次元周波数配置変換器
12a 水平高周波成分除去器
12b 水平高周波成分抽出器
12c 水平高周波成分2次元周波数配置変換器
12d 垂直高周波成分除去器
12e 垂直高周波成分抽出機
12f 垂直高周波成分2次元周波数配置変換器
12g 信号加算器
13 水平・垂直サンプリングレート3/4変換器
21 水平・垂直サンプリングレート4/3変換器
22 2次元周波数配置変換器
22a 2次元帯域外成分除去器
22b 2次元帯域外成分抽出器
22c 垂直高周波成分抽出器
22d 垂直高周波成分2次元周波数配置変換器
22e 水平高周波成分抽出器
22f 水平高周波成分2次元周波数配置変換器
22g 信号加算器
100 符号化装置
200 復号装置
Claims (6)
- 符号化対象の画像信号の周波数成分に対して前処理を行う前処理装置であって、
2次元周波数空間における低域側周波数領域の周波数成分から、水平及び垂直周波数の最大周波数の3/4以上の高周波成分をそれぞれ抽出する高周波成分抽出手段と、
抽出した前記高周波成分の各々を、前記低域側周波数領域の帯域外となる帯域外領域内の領域のうち、水平及び垂直の最大周波数の1/2以上であり、且つ3/4以下の領域にそれぞれ配置変換する配置変換手段と、
前記低域側周波数領域の周波数成分から前記抽出した前記高周波成分の各々を差分した差分周波数成分の画像信号と、前記配置変換された周波数成分の各々の画像信号とを加算して得られる画像信号に対して画素数を3/4倍に間引くサンプリングレート変換手段と、
を備えることを特徴とする前処理装置。 - 請求項1に記載の前処理装置と、
前記サンプリングレート変換手段によって間引いた画像信号を符号化する符号化手段と、
を備えることを特徴とする符号化装置。 - 請求項2に記載の符号化装置によって符号化された画像信号について復号された画像信号に対して後処理を行う後処理装置であって、
該画像信号を入力して画素数を4/3倍に拡張するサンプリングレート変換手段と、
当該拡張された画像信号の周波数成分から、前記低域側周波数領域の帯域外となる当該帯域外領域内の周波数成分を抽出する帯域外成分抽出手段と、
当該抽出した前記帯域外領域内の周波数成分から、水平及び垂直の最大周波数の1/2以上の高周波成分をそれぞれ抽出する高周波成分抽出手段と、
抽出した前記水平及び垂直高周波成分の各々を、前記低域側周波数領域における領域のうち、水平及び垂直の最大周波数の3/4以上の領域にそれぞれ配置変換する配置変換手段と、
当該帯域外領域内の周波数成分の画像信号と、該配置変換した各周波数成分の画像信号とを加算して元の画像信号を復元する信号加算手段と、
を備えることを特徴とする後処理装置。 - 請求項2に記載の符号化装置によって符号化された画像信号をする復号手段と、
該復号された画像信号に対して後処理を行う、請求項3に記載の後処理装置と、
を備えることを特徴とする復号装置。 - 符号化対象の画像信号の周波数成分に対して前処理を行う前処理装置として構成するコンピュータに、
2次元周波数空間における低域側周波数領域の周波数成分から、水平及び垂直周波数の最大周波数の3/4以上の高周波成分をそれぞれ抽出するステップと、
抽出した前記高周波成分の各々を、前記低域側周波数領域の帯域外となる帯域外領域内の領域のうち、水平及び垂直の最大周波数の1/2以上であり、且つ3/4以下の領域にそれぞれ配置変換するステップと、
前記低域側周波数領域の周波数成分から前記抽出した前記高周波成分の各々を差分した差分周波数成分と、前記配置変換された周波数成分の各々とを加算して得られる画像信号に対して画素数を3/4倍に間引いてサンプリングレート変換するステップと、
を実行させるためのプログラム。 - 請求項2に記載の符号化装置によって符号化された画像信号について復号された画像信号に対して後処理を行う後処理装置として構成するコンピュータに、
該画像信号を入力して画素数を4/3倍に拡張してサンプリングレート変換するステップと、
当該拡張された画像信号の周波数成分から、前記低域側周波数領域の帯域外となる当該帯域外領域内の周波数成分を抽出するステップと、
当該抽出した前記帯域外領域内の周波数成分から、水平及び垂直の最大周波数の1/2以上の高周波成分をそれぞれ抽出するステップと、
抽出した前記水平及び垂直高周波成分の各々を、前記低域側周波数領域における領域のうち、水平及び垂直の最大周波数の3/4以上の領域にそれぞれ配置変換するステップと、
当該帯域外領域内の周波数成分の画像信号と、該配置変換した各周波数成分の画像信号とを加算して元の画像信号を復元するステップと、
を実行させるための後処理プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009109748A JP5175796B2 (ja) | 2009-04-28 | 2009-04-28 | 符号化・前処理装置、復号化・後処理装置、符号化装置、復号装置及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009109748A JP5175796B2 (ja) | 2009-04-28 | 2009-04-28 | 符号化・前処理装置、復号化・後処理装置、符号化装置、復号装置及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2010258991A true JP2010258991A (ja) | 2010-11-11 |
JP5175796B2 JP5175796B2 (ja) | 2013-04-03 |
Family
ID=43319358
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009109748A Expired - Fee Related JP5175796B2 (ja) | 2009-04-28 | 2009-04-28 | 符号化・前処理装置、復号化・後処理装置、符号化装置、復号装置及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5175796B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2455994A1 (en) | 2010-11-19 | 2012-05-23 | Semiconductor Energy Laboratory Co., Ltd. | Lighting Device |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH02162888A (ja) * | 1988-12-15 | 1990-06-22 | Matsushita Electric Ind Co Ltd | 映像信号の圧縮方法および装置 |
JPH03250882A (ja) * | 1990-02-28 | 1991-11-08 | Sony Corp | 映像信号の伝送方式 |
JPH0698304A (ja) * | 1992-09-10 | 1994-04-08 | Matsushita Electric Ind Co Ltd | サブサンプル符号化装置 |
JPH07143486A (ja) * | 1993-11-16 | 1995-06-02 | Canon Inc | 高能率符号化装置 |
-
2009
- 2009-04-28 JP JP2009109748A patent/JP5175796B2/ja not_active Expired - Fee Related
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH02162888A (ja) * | 1988-12-15 | 1990-06-22 | Matsushita Electric Ind Co Ltd | 映像信号の圧縮方法および装置 |
JPH03250882A (ja) * | 1990-02-28 | 1991-11-08 | Sony Corp | 映像信号の伝送方式 |
JPH0698304A (ja) * | 1992-09-10 | 1994-04-08 | Matsushita Electric Ind Co Ltd | サブサンプル符号化装置 |
JPH07143486A (ja) * | 1993-11-16 | 1995-06-02 | Canon Inc | 高能率符号化装置 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2455994A1 (en) | 2010-11-19 | 2012-05-23 | Semiconductor Energy Laboratory Co., Ltd. | Lighting Device |
Also Published As
Publication number | Publication date |
---|---|
JP5175796B2 (ja) | 2013-04-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5831587B2 (ja) | 画像処理装置および方法 | |
JP5544996B2 (ja) | 画像処理装置および方法 | |
EP2524505B1 (en) | Edge enhancement for temporal scaling with metadata | |
JP5581688B2 (ja) | 画像処理装置および方法、並びにプログラム | |
WO2011018965A1 (ja) | 画像処理装置および方法 | |
CN104125468A (zh) | 图像处理装置和方法 | |
WO2012096229A1 (ja) | 符号化装置および符号化方法、並びに復号装置および復号方法 | |
JP2011151682A (ja) | 画像処理装置および方法 | |
JP6409516B2 (ja) | ピクチャ符号化プログラム、ピクチャ符号化方法及びピクチャ符号化装置 | |
EP2369843A1 (en) | Low complexity video decoder | |
US20130216150A1 (en) | Image processing device, image processing method, and program | |
JP4824703B2 (ja) | 2次元フィルタ演算装置及び方法 | |
US8548272B2 (en) | Image signal processing apparatus, image signal processing method, camera apparatus, image display apparatus, and image signal output apparatus | |
US9918084B2 (en) | Encoding device, encoding method, decoding device, and decoding method | |
CN102224735A (zh) | 图像处理设备和方法 | |
JP5113479B2 (ja) | 画像信号処理装置及び画像信号処理方法 | |
JP5175796B2 (ja) | 符号化・前処理装置、復号化・後処理装置、符号化装置、復号装置及びプログラム | |
JP2008125002A (ja) | 画像符号化装置、画像復号装置及び画像処理プログラム | |
US20050100239A1 (en) | Image signal processing method, image signal processing apparatus, and image signal processing program | |
JP5011138B2 (ja) | 画像符号化装置、画像符号化方法、画像復号化装置、画像復号化方法 | |
JP2017152902A (ja) | 画像処理システムおよび画像処理装置 | |
JP2016076758A (ja) | 再生装置、符号化装置、および再生方法 | |
JP2006340300A (ja) | 信号処理方法及び信号処理装置、並びに信号処理プログラム及び情報記録媒体 | |
JP6460691B2 (ja) | 映像圧縮装置、映像圧縮方法及び映像圧縮プログラム | |
JP5945816B2 (ja) | 映像処理システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20120110 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20121115 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20121211 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20130107 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |