JP2005006007A - 画像処理装置及び画像処理方法 - Google Patents
画像処理装置及び画像処理方法 Download PDFInfo
- Publication number
- JP2005006007A JP2005006007A JP2003166801A JP2003166801A JP2005006007A JP 2005006007 A JP2005006007 A JP 2005006007A JP 2003166801 A JP2003166801 A JP 2003166801A JP 2003166801 A JP2003166801 A JP 2003166801A JP 2005006007 A JP2005006007 A JP 2005006007A
- Authority
- JP
- Japan
- Prior art keywords
- signal
- image
- random signal
- random
- image processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
- Compression Of Band Width Or Redundancy In Fax (AREA)
Abstract
【課題】効率的に主観画質を向上させることができる画像処理装置及び画像処理方法を提供することを目的とする。
【解決手段】直交変換係数の量子化処理により符号化された画像信号に対して復号画像信号を生成する画像処理装置において、前記符号化された画像信号の直交変換係数に、乱数に基づいたランダム信号を選択的に付加するランダム信号付加部と、前記ランダム信号付加部により前記ランダム信号が付加された信号を逆直交変換により画素空間データに変換する逆直交変換部とを有することにより、上記課題を解決する。
【選択図】 図2
【解決手段】直交変換係数の量子化処理により符号化された画像信号に対して復号画像信号を生成する画像処理装置において、前記符号化された画像信号の直交変換係数に、乱数に基づいたランダム信号を選択的に付加するランダム信号付加部と、前記ランダム信号付加部により前記ランダム信号が付加された信号を逆直交変換により画素空間データに変換する逆直交変換部とを有することにより、上記課題を解決する。
【選択図】 図2
Description
【0001】
【発明の属する技術分野】
本発明は、画像処理装置及び画像処理方法に係り、特に、復号画像の主観画質を改善するための画像処理装置及び画像処理方法に関する。
【0002】
【従来の技術】
従来、JPEG(Joint Photographic Experts Group)やMPEG−2(Moving Picture ExpertsGroup)等に代表される画像符号化方式では、効率良く情報量の削減を行うために、人間の視覚特性が比較的に鈍感な高周波画像領域に対して重点的に量子化が行われている。
【0003】
ここで、画像を周波数成分に変換する手法としては、直交変換の一種であるDCT(Discrete Cosine Transform:離散コサイン変換)が広く用いられており、変換後のDCT係数値に対して重み付けをした量子化処理が行われる。一般に、DCT及び量子化処理は画素ブロック単位で行われており、例えば、MPEG−2では8×8画素を単位とした画素ブロック毎に処理が行われる。
【0004】
また、符号化された画像を復号するための復号装置として、例えば非特許文献1に記載の復号装置がある。
【0005】
ここで、非特許文献1に記載されているMPEG−2復号装置による画像処理について図を用いて説明する。
【0006】
図1は、従来のMPEG−2復号装置の一構成例を示す図である。
【0007】
図1に示す復号装置は、バッファ11と、可変長復号化部12と、逆量子化部13と、逆DCT部14と、動き補償予測部15と、フォーマット変換部16と、ビデオメモリ17とを有するよう構成されている。
【0008】
図1に示す復号装置に入力される符号化されたビットストリームは、一旦バッファ11に蓄積され、バッファ11からデータの読み出しが行われる。可変長復号化部12は、マクロブロック(8×8画素ブロックの集合)毎の符号化情報が復号され、符号化モード、動きベクトル、量子化情報、及び量子化DCT係数に分離される。
【0009】
可変長復号化部12で復号された8×8画素の量子化DCT係数は、逆量子化部13でDCT係数に復元されて逆DCT部14に出力され、逆DCT部14では、入力されたデータを画素空間データに変換する。
【0010】
ここで、入力された符号化データの符号化モードがイントラ(画面内)符号化モードの場合は、そのままフォーマット変換部16に出力される。また、符号化モードが動き補償予測モードの場合は、可変長復号化部12から動き補償予測部15に出力される予測モードと動きベクトルを用いて、動き補償予測部15で動き補償予測されたブロックデータが逆DCT部14から出力された信号と加算されてフォーマット変換部16に出力される。
【0011】
上述の手順で画面内の全てのマクロブロックが復号され、フォーマット変換部16に出力されると、フォーマット変換部16は元の入力順序に並べ替えられて画面出力が行われ、必要に応じて画像サイズの変換を行った後、映像信号として出力される。
【0012】
なお、画像フレームのピクチャタイプがIピクチャ(画面内符号化画面)、又はPピクチャ(前方向予測符号化画面)の場合には、その後の復号における画像処理において参照画面として用いる必要があるため、ビデオメモリ17に画像フレームが順次蓄積される。
【0013】
ここで、上述したような符号化、復号化を行うことによる画像の圧縮伸張に伴い、画質劣化要因であるブロックノイズ、モスキートノイズ等のノイズ成分が発生するが、その対応として画像処理における符号化、復号化により失われた画像の輪郭部分の高周波数成分をパラメータとして適応的にフィルタ処理を行い、ノイズ成分の除去と、画像のエッジ強調を行い画質改善を行う技術がある(例えば、特許文献1参照)。
【0014】
【非特許文献1】
「総合マルチメディア選書 MPEG」(テレビジョン学会編、オーム社刊、1996)
【0015】
【特許文献1】
特開平8−274996号公報
【0016】
【発明が解決しようとする課題】
ところで、画像符号化では、限られた符号量で画像情報を表現しなくてはならないため、量子化により高域の情報量を重点的に削減する処理が行われている。これにより、復号画像においては細かい階調成分が失われてのっぺりとした画像になってしまい、また、エッジ部分ではリンギングが生じてモスキートノイズとして知覚されてしまう。これらは量子化ステップサイズ次第では大きな画質劣化につながってしまう。
【0017】
また、上述したように量子化処理はブロック単位で量子化を行っているため、ブロック境界では隣接画素であっても量子化精度の違いからブロック境界がパターンとなって見えてしまういわゆるブロック歪が発生しやすい。これも量子化ステップサイズが大きいほど知覚されやすくなり画質劣化につながる。
【0018】
また、上述の特許文献1では、デコード画像を周波数成分に分割するため、帯域通過(バンドパス)フィルタ処理を行っている。この例では、周波数毎に重み付けされた加算処理を行うことで、本来のエッジを強調させ、ノイズ成分を軽減させる処理を行っている。しかしながら、特許文献1では周波数変換に関する処理が必要となるため、画質改善のための画像処理ステップが多くなり効率的な画像処理を行うことができているとは言えない。
【0019】
本発明は、上述した問題点に鑑みなされたものであり、効率的に人間が見た視覚的な画質を示す主観画質を向上させる画像処理装置及び画像処理方法を提供することを目的とする。
【0020】
【課題を解決するための手段】
上記課題を解決するために、本件発明は、以下の特徴を有する課題を解決するための手段を採用している。
【0021】
請求項1に記載された発明は、直交変換係数の量子化処理により符号化された画像信号に対して復号画像信号を生成する画像処理装置において、前記符号化された画像信号の直交変換係数に、乱数に基づいたランダム信号を選択的に付加するランダム信号付加部と、前記ランダム信号付加部により前記ランダム信号が付加された信号を逆直交変換により画素空間データに変換する逆直交変換部とを有することを特徴とする。
【0022】
請求項1記載の発明によれば、画像信号の直交変換係数に対して選択的に処理を行うことができ、直交変換係数にランダム信号を付加することにより、直交変換係数量子化に伴い失われた画像成分を擬似的に回復し、且つブロック歪やモスキートノイズといった符号化歪を低減し、効率的に主観画質を向上させることができる。
【0023】
請求項2に記載された発明は、前記ランダム信号付加部は、前記符号化された画像信号における符号化に用いられた量子化情報に基づいて前記画像信号の直交変換係数に前記ランダム信号を付加することを特徴とする。
【0024】
請求項2記載の発明によれば、量子化情報を用いることにより、例えば、粗く量子化を行っている部分には強めにランダム信号を加えたり、細かく量子化を行っている部分には弱めにランダム信号を加えたりすることで、視聴者に不要なノイズ感を与えず効率的にランダム信号を付加することができる。これにより、符号化パラメータを用いることにより、効率的に主観画質を向上させることができる。
【0025】
請求項3に記載された発明は、前記ランダム信号付加部は、前記画像信号がピクチャ間の動き補償予測により符号化された動画像信号である場合に、前記動画像信号のストリームの中から符号化に用いられたパラメータ情報に基づいて前記ストリーム中の直交変換係数に前記ランダム信号を付加することを特徴とする。
【0026】
請求項3記載の発明によれば、例えば、ストリームから動きベクトルを取得することで、動きベクトルの大きいマクロブロックの直交変換係数には弱めにランダム信号を加えたり、動きベクトルの小さいマクロブロックの直交変換係数には強めにランダム信号を加えたりすることで視聴者に不要なノイズ感を与えず効率的にランダム信号を付加することができる。これにより、効率的に主観画質を向上させることができる。
【0027】
請求項4に記載された発明は、前記ランダム信号付加部は、前記画像信号がピクチャ間の動き補償予測により符号化された動画像信号である場合に、前記動画像信号のストリームにおけるピクチャタイプに基づいて前記ストリーム中の直交変換係数に前記ランダム信号を付加することを特徴とする。
【0028】
請求項4記載の発明によれば、ピクチャタイプに応じてランダム信号を付加することで、例えば、IピクチャもしくはBピクチャにのみランダム信号を加えたり、Iピクチャと比べてPピクチャ、Bピクチャに加えるランダム信号のレベルを小さくしたりする処理を行うことで、ランダム信号の過剰な累積による画質劣化を抑えることができる。これにより、効率的に主観画質を向上させることができる。
【0029】
請求項5に記載された発明は、前記ランダム信号付加部は、前記ストリーム中の直交変換係数に前記ランダム信号を付加する場合に、動き補償予測の参照画面となる画像には前記ランダム信号を付加しないことを特徴とする。
【0030】
請求項5記載の発明によれば、ランダム信号を付加しないようにすることで、動き補償予測の参照画面にはランダム信号が付加されていないものを用いることができ、ランダム信号の累積による画質の劣化を防ぐことができる。これにより、主観画質を向上させることができる。
【0031】
請求項6に記載された発明は、直交変換係数の量子化処理により符号化された画像信号に対して復号画像信号を生成する画像処理方法において、前記符号化された画像信号の直交変換係数に、乱数に基づいたランダム信号を選択的に付加するランダム信号付加段階と、前記ランダム信号付加段階により前記ランダム信号が付加された信号を逆直交変換により画素空間データに変換する逆直交変換段階とを有することを特徴とする。
【0032】
請求項6記載の発明によれば、画像信号の直交変換係数に対して選択的に処理を行うことができ、直交変換係数にランダム信号を付加することにより、直交変換係数量子化に伴い失われた画像成分を擬似的に回復し、且つブロック歪やモスキートノイズといった符号化歪を低減し、効率的に主観画質を向上させることができる。
【0033】
【発明の実施の形態】
<本発明の特徴>
本発明は、上記従来例のように、デコード画像に対して再び周波数成分に変換する処理を行わず、符号化ストリーム中の画像周波数情報を利用する。したがって周波数変換に関わる処理を低減させることができる。
【0034】
更に具体的に説明すれば、符号化ストリーム中の画像における周波数情報に基づいて、DCT係数値に対して乱数に基づいたランダム信号を加える。ここで、DCT係数値は対応する画像信号の周波数毎に異なるため、各基底のDCT係数に対して操作を加えるということは、画像信号における周波数成分に操作を加えることと等価となる。
【0035】
したがって、復号(デコード)後の処理でFFT(Fast FourierTransform:高速フーリエ変換)等により画像を周波数成分に変換しなくても、ストリーム復号前のDCT係数を利用することで画像に対して周波数毎に選択的な処理を行うことが可能となる。
【0036】
つまり本発明は、DCT係数等の直交変換係数の量子化処理により符号化された画像の画質改善に関するもので、符号化画像の直交変換係数にランダム信号を付加することにより、直交変換係数量子化に伴い失われた階調及び高周波成分を擬似的に回復し、且つブロック歪やモスキートノイズといった符号化歪を低減し、主観画質を向上させるものである。
【0037】
以下に、上記のような特徴を有する本発明における画像処理装置を好適に実施した形態について、図面を用いて詳細に説明する。また、以下発明の実施の形態の説明では、MPEG−2符号化方式を具体例として用いる。なお、本発明の適用範囲はMPEG−2に限らず、直交変換とその係数の量子化を用いる静止画像、動画像符号化方式全般に適用することができる。
【0038】
<第1の実施の形態>
図2は、本発明における画像処理装置の第1の実施の形態の一構成例を示す図である。図2の画像処理装置は、バッファ21と、可変長復号化部22と、逆量子化部23と、逆DCT部24と、動き補償予測部25と、フォーマット変換部26と、ビデオメモリ27と、ランダム信号付加器28とを有するよう構成されている。
【0039】
ここで、図2の画像処理装置は、上述の図1で説明した従来の復号装置にランダム信号付加器28が設けられた構成となっている。
【0040】
符号化されたビットストリームは、一旦バッファ21に蓄積され、バッファ21からデータの読み出しが行われる。可変長復号化部22は、マクロブロック(8×8画素ブロックの集合)毎の符号化情報が復号され、符号化モード、動きベクトル、量子化情報、及び量子化DCT係数が分離される。復号された8×8画素の量子化DCT係数は、逆量子化部23でDCT係数に復元され、逆DCT部24に出力される。ランダム信号付加器28は、逆量子化部23にて逆量子化された信号のDCT係数に対しランダム信号を付加して逆DCT部24へ出力する。逆DCT部24では、入力された画像データを画素空間データに変換する。
【0041】
ここで、ランダム信号付加部28におけるランダム信号の付加は、例えば、MPEG−2であれば、画像信号の構成要素である1つの輝度信号(Y信号)と2つの色差信号(U信号、V信号)の夫々のDCT係数の値に対して選択的に行うことが可能であり、且つ各構成成分における個々のDCT係数の値に対しても選択的に行うことが可能である。
【0042】
また、ランダム信号の取りうる範囲(乱数に基づくランダム信号の強度)も任意に指定することが可能である。なお、このとき発生されるランダム信号の発生頻度の分布は一様分布に限らず、ガウス分布等の非一様分布もあり得る。
【0043】
上述のY信号、U信号、及びV信号の各信号のDCT係数に対して選択的にランダム信号の付加の制御を行うことで、例えば、モノクロ画像へのランダム信号付加の際にY信号にのみランダム信号を付加して、不要な色彩の発生による違和感を抑えられ、より自然な画像にすることができる。
【0044】
また、各基底のDCT係数に選択的にランダム信号を付加することで、結果として周波数選択的にランダム信号を加えることができるため、画像符号化に伴い失われた高周波画像成分の回復を重点的に行うことが可能である。
【0045】
更に、高周波画像成分の回復を重点的に行うことで人間の視覚が敏感な低周波領域にランダム信号を加えない処理が可能であるため、視聴者に不要なノイズ感を与えずに済む。
【0046】
ここで、入力された符号化データの符号化モードがイントラ(画面内)符号化モードの場合は、そのままフォーマット変換部26に出力される。また、符号化モードが動き補償予測モードの場合は、可変長復号化部22から得られる予測モード、動きベクトルから動き補償予測部25で動き補償予測が行われ、動き補償予測されたブロックデータが逆DCT部24の出力と加算されてフォーマット変換部26に出力される。
【0047】
次に、画面内の全てのマクロブロックが復号され、フォーマット変換部26で元の入力順序に並べ替えられて画面出力が行われ、必要に応じて画像サイズの変換を行った後、映像信号として出力する。
【0048】
なお、画像フレームのピクチャタイプがIピクチャ(画面内符号化画面)、又はPピクチャ(前方向予測符号化画面)の場合には、その後の復号における画像処理において参照画面として用いる必要があるため、ビデオメモリ27に画像フレームが順次蓄積される。
【0049】
このように、ランダム信号付加器28からのランダム信号をDCT係数に選択的に加えることで、画像符号化に伴い失われた高周波画像成分を擬似的に回復し、且つブロック歪みやモスキートノイズを低減し、主観画質を向上させることができる。また、各基底のDCT係数値により選択して必要な周波数成分にのみランダム信号を付加することにより、効率的に主観画質を向上することができる。
【0050】
なお、図2では、ランダム信号付加器28が逆量子化部23の後に設けられ、逆量子化後のDCT係数に対してランダム信号を付加する構成になっているが、量子化された状態におけるDCT係数に対してランダム信号を加える構成とすることも可能である。ここで、上述の画像処理装置の構成について図を用いて説明する。
【0051】
図3は、図2に示す第1の実施の形態の変形例を示す図である。図3に示すように、ランダム信号付加器28を可変長復号化部22の出力信号に対してランダム信号が付加できるよう位置付けることにより、上述したようなランダム信号をDCT係数に選択的に加えて画像符号化に伴い失われた高周波画像成分を擬似的に回復し、且つブロック歪みやモスキートノイズを低減し、主観画質を向上させることができる。なお、この変形例は、後述する他の実施の形態においても同様に構成することができる。
【0052】
<第2の実施の形態>
次に、本発明における画像処理装置の第2の実施の形態を図4に示す。図4の画像処理装置は、バッファ31と、可変長復号化部32と、逆量子化部33と、逆DCT部34と、動き補償予測部35と、フォーマット変換部36と、ビデオメモリ37と、ランダム信号付加器38とを有するよう構成されている。
【0053】
なお、基本的な構成は図2に示した第1の実施の形態と同様であるが、本実施の形態では、ストリーム中に存在する画像の符号化パラメータを抽出し、これに基づいてDCT係数へのランダム信号の付加を行う構成となっている。
【0054】
ここで、本実施の形態では、例としてストリームから量子化パラメータを抽出する場合について述べる。
【0055】
一般に、画像符号化では、ファイルサイズやビットレート等の情報量の制御は量子化精度の調整により行われている。例えば、MPEG−2ではピクチャタイプ毎に設定可能な量子化マトリクスと、マクロブロック単位で指定可能な量子化スケールとに基づいて各DCT係数の量子化精度を制御している。ここで、画像が複雑である部分は、情報量を削減しても劣化が目立ちにくい部分であるため、粗く量子化を行っている。反対に画像が単純でレベル的にもあまり変化がないところでは、少ない変化でも知覚できるため細かく量子化を行っている。
【0056】
すなわち、可変長復号化部32は、分離された量子化情報をランダム信号付加器38に出力し、ランダム信号付加器38は入力された量子化情報をパラメータとして逆量子化後のDCT係数に対して、例えば、粗く量子化を行っている部分には強めにランダム信号を加え、細かく量子化を行っている部分には弱めにランダム信号を加えることで視聴者に不要なノイズ感を与えず効率的にランダム信号を付加することができる。
【0057】
このように、選択的にランダム信号を加え、その後は上述の第1の実施の形態で示した構成部分における処理を行うことで、画像符号化に伴い失われた高周波画像成分を擬似的に回復し、且つブロック歪みやモスキートノイズを低減し、主観画質を向上させることができる。
【0058】
<第3の実施の形態>
次に、本発明における画像処理装置の第3の実施の形態について説明する。なお、第3の実施の形態については、図4を用いて説明する。基本構成は第2の実施の形態と同様であるが、本実施の形態は、特にピクチャ間の動き補償予測を用いる動画像符号化について適用される。本実施の形態ではストリーム中に存在する符号化パラメータを抽出し、これに基づいてDCT係数へのランダム信号付加を行う構成となっている。ここで、本実施の形態では、例としてストリームから動きベクトルを抽出する場合について述べる。
【0059】
一般に、動画像符号化では、情報量削減のために、時間的に前後にある画面から対象となる画面を予測するという手法が用いられている。例えば、MPEG−2では、マクロブロック毎に参照画面からの動き量を動きベクトルとして検出し、これを予測に用いている。
【0060】
ここで、画像の動きの激しい部分は、フレーム周波数の関係から動きボケが生じ、原画像の解像度自体が劣化しているので、ランダム信号の付加による画質改善効果は小さい。反対に動きが少ない風景画等の画像では、動きの激しい画像と比べて原画像の解像感が高いため、ランダム信号付加による画質改善が期待される。
【0061】
したがって、可変長復号化部32にて分離された動きベクトルをランダム信号付加器38に出力し、ランダム信号付加器38では入力された動きベクトルに基づいて、動きベクトルの大きいマクロブロックのDCT係数には弱めにランダム信号を加え、動きベクトルの小さいマクロブロックのDCT係数には強めにランダム信号を加えることで視聴者に不要なノイズ感を与えず効率的にランダム信号を付加することができる。
【0062】
このように、動きベクトルを用いて選択的にランダム信号を加えることで、画像符号化に伴い失われた高周波画像成分を擬似的に回復し、且つブロック歪みやモスキートノイズを低減し、主観画質を向上させることができる。
【0063】
<第4の実施の形態>
次に、本発明における画像処理装置の第4の実施の形態について、上述した図4を再度用いて説明する。基本構成は、第2の実施の形態と同様であるが、本実施の形態は、特にピクチャ間の動き補償予測を用いる動画像符号化について適用される。
【0064】
例えば、MPEG−2では、効率的な符号化のためにIピクチャ(画面内符号化)、Pピクチャ(前方向予測符号化)、Bピクチャ(両方向予測符号化)の3つのピクチャタイプが存在し、このうちPピクチャとBピクチャが、ある参照画面を基準とした動き補償予測により生成されるピクチャである。
【0065】
ここで、参照画面として用いられるピクチャは復号したIピクチャ及びPピクチャの画像フレームで、これらはビデオメモリ37に順次蓄えられる。動き補償予測部35では予測モードや動きベクトルの情報から、ビデオメモリ37のデータを動き補償されたブロックデータに変換し出力する。
【0066】
このブロックデータが逆DCT部34から出力された信号と加算されることによりPピクチャ及びBピクチャは復号される。復号されたPピクチャは再び参照画面として用いる必要があるためビデオメモリ37に蓄えられる。
【0067】
すなわち、ランダム信号付加器38によってランダム信号が付加された画像を参照画面として用いることで、動き補償されたブロックデータもランダム信号が付加されたものとなってしまい、Pピクチャ、Bピクチャの復号の際にはランダム信号が累積付加されてしまう結果となる。この現象は、次にIピクチャのフレームが入力されるまで続き、Iピクチャから次のIピクチャまでのピクチャ間隔が長くなるほど画質劣化につながる。
【0068】
そこで、可変長復号化部32にて分離された符号化モードをランダム信号付加器38に出力し、ランダム信号付加器38では入力された符号化モードのピクチャタイプに応じてランダム信号の付加レベルを制御する処理を行う。例えば、IピクチャもしくはBピクチャにのみランダム信号を加える処理や、Iピクチャに比べて、PピクチャやBピクチャに加えるランダム信号のレベルを小さくする処理を行う。
【0069】
なお、MPEG−2ではPピクチャ、Bピクチャに関してはマクロブロック単位でイントラ(画面内)符号化を行うことが可能であるため、Iピクチャのみにランダム信号を加える場合や、Iピクチャと比べてPピクチャ、Bピクチャに加えるランダム信号のレベルを小さくする場合にも、Pピクチャ、Bピクチャのイントラマクロブロックには、Iピクチャに加えるレベルと同等のレベルでランダム信号を加えることが望ましい。このような処理を行うことで、ランダム信号の過剰な累積による画質劣化を抑えることができる。
【0070】
このように、選択的にランダム信号を加えることで、画像符号化に伴い失われた高周波画像成分を擬似的に回復し、且つブロック歪みやモスキートノイズを低減し、主観画質を向上させることができる。
【0071】
<第5の実施の形態>
次に、本発明における画像処理装置の第5の実施の形態を図5に示す。図5の画像処理装置は、バッファ41と、可変長復号化部42と、逆量子化部43と、動き補償予測部45と、フォーマット変換部46と、ビデオメモリ47と、ランダム信号付加部48と、第1逆DCT部51と、第2逆DCT部52とを有するよう構成されている。
【0072】
本実施の形態は、第3及び第4の実施の形態と同じく、特に動画像信号のストリームにおけるピクチャ間の動き補償予測を用いる動画像符号化について適用される。
【0073】
第4の実施の形態でも述べたように、直交変換係数へのランダム信号の付加を動き補償予測を行うピクチャタイプについても相当の強度で行うと、Iピクチャから次のIピクチャまでのピクチャ間隔次第では画質劣化につながる。
【0074】
そこで、本実施例では、実際の映像信号として出力するための第1逆DCT部51と、動き補償予測用の参照画面を生成するための第2逆DCT部52を分けることでこの問題を解決する。すなわちランダム信号付加器48によるDCT係数へのランダム信号付加の前に信号を分岐し、一方にはランダム信号を付加し、もう一方はランダム信号を付加せずビデオメモリ47に蓄積する。
【0075】
なお、動き補償予測部45は、第1逆DCT部51の出力及び第2逆DCT部52の出力に対してビデオメモリ47からの動き補償予測されたブロックデータを加算する。また、上述以外の動作においては、上述の実施の形態の同名主要構成部と同様である。
【0076】
上述したような装置構成にすることで、動き補償予測の参照画面にはランダム信号が付加されていないものを用いることができ、第4の実施の形態で述べたようなランダム信号の累積による画質の劣化を防ぐことができる。
【0077】
このように、選択的にランダム信号を加えることで、画像符号化に伴い失われた高周波画像成分を擬似的に回復し、且つブロック歪みやモスキートノイズを低減し、主観画質を向上させることができる。
【0078】
なお、図5では逆量子化部43とランダム信号付加器48によるランダム信号付加の位置の間に信号分岐点が設けられているが、分岐点を可変長符号化部42と逆量子化部43の間に設ける構成も可能である。また、この構成と図5で示したランダム信号付加器48のランダム信号付加位置の構成を組み合わせる場合は、当然信号分岐位置の方がランダム信号付加位置よりも処理の前に構成することができる。
【0079】
ここで、上述の画像処理装置の第5の実施の形態の変形例について図を用いて説明する。図6は、図5に示す第5の実施の形態の変形例を示す図である。図6の画像処理装置は、図5の示した構成に対して第1逆量子化部53と、第2逆量子化部54とを有しており、第1逆量子化部53は、図5における逆量子化部43と同等である。
【0080】
図6に示すように可変長復号化部42と第1逆量子化部53との間に分岐点を設けることで、第5の実施の形態と同様の効果を得ることができる。
【0081】
上述したように本発明によれば、乱数に基づいたランダム信号を符号化画像信号の直交変換係数(DCT係数)に選択的に加えることで、画像符号化に伴い失われた階調及び高周波成分を、復号画像において擬似的に回復させることができる。更にブロック歪の発生する画素ブロック境界部やモスキートノイズ発生部ではランダムな高周波成分信号が出現することで歪みがマスキングされ知覚されにくくなる。また画素ブロック境界部やモスキートノイズ発生部では、高周波信号を発生させることで視覚的にレベル変化を滑らかに表現することができ歪みを低減することができる。
【0082】
以上本発明の好ましい実施例について詳述したが、本発明は係る特定の実施形態に限定されるものではなく、特許請求の範囲に記載された本発明の要旨の範囲内において、種々の変形、変更が可能である。
【0083】
【発明の効果】
上述の如く本発明によれば、効率的に主観画質を向上させることができる画像処理装置及び画像処理方法を提供することができる。
【図面の簡単な説明】
【図1】従来のMPEG−2復号装置の一構成例を示す図である。
【図2】本発明における画像処理装置の第1の実施の形態の一構成例を示す図である。
【図3】図2に示す第1の実施の形態の変形例を示す図である。
【図4】本発明における画像処理装置の第2の実施の形態の一構成例を示す図である。
【図5】本発明における画像処理装置の第5の実施の形態の一構成例を示す図である。
【図6】図5に示す第5の実施の形態の変形例を示す図である。
【符号の説明】
11,21,31,41 バッファ
12,22,32,42 可変長復号化部
13,23,33,43 逆量子化部
14,24,34 逆DCT部
15,25,35,45 動き補償予測部
16,26,36,46 フォーマット変換部
17,27,37,47 ビデオメモリ
28,38,48 ランダム信号付加器
51 第1逆DCT部
52 第2逆DCT部
53 第1逆量子化部
54 第2逆量子化部
【発明の属する技術分野】
本発明は、画像処理装置及び画像処理方法に係り、特に、復号画像の主観画質を改善するための画像処理装置及び画像処理方法に関する。
【0002】
【従来の技術】
従来、JPEG(Joint Photographic Experts Group)やMPEG−2(Moving Picture ExpertsGroup)等に代表される画像符号化方式では、効率良く情報量の削減を行うために、人間の視覚特性が比較的に鈍感な高周波画像領域に対して重点的に量子化が行われている。
【0003】
ここで、画像を周波数成分に変換する手法としては、直交変換の一種であるDCT(Discrete Cosine Transform:離散コサイン変換)が広く用いられており、変換後のDCT係数値に対して重み付けをした量子化処理が行われる。一般に、DCT及び量子化処理は画素ブロック単位で行われており、例えば、MPEG−2では8×8画素を単位とした画素ブロック毎に処理が行われる。
【0004】
また、符号化された画像を復号するための復号装置として、例えば非特許文献1に記載の復号装置がある。
【0005】
ここで、非特許文献1に記載されているMPEG−2復号装置による画像処理について図を用いて説明する。
【0006】
図1は、従来のMPEG−2復号装置の一構成例を示す図である。
【0007】
図1に示す復号装置は、バッファ11と、可変長復号化部12と、逆量子化部13と、逆DCT部14と、動き補償予測部15と、フォーマット変換部16と、ビデオメモリ17とを有するよう構成されている。
【0008】
図1に示す復号装置に入力される符号化されたビットストリームは、一旦バッファ11に蓄積され、バッファ11からデータの読み出しが行われる。可変長復号化部12は、マクロブロック(8×8画素ブロックの集合)毎の符号化情報が復号され、符号化モード、動きベクトル、量子化情報、及び量子化DCT係数に分離される。
【0009】
可変長復号化部12で復号された8×8画素の量子化DCT係数は、逆量子化部13でDCT係数に復元されて逆DCT部14に出力され、逆DCT部14では、入力されたデータを画素空間データに変換する。
【0010】
ここで、入力された符号化データの符号化モードがイントラ(画面内)符号化モードの場合は、そのままフォーマット変換部16に出力される。また、符号化モードが動き補償予測モードの場合は、可変長復号化部12から動き補償予測部15に出力される予測モードと動きベクトルを用いて、動き補償予測部15で動き補償予測されたブロックデータが逆DCT部14から出力された信号と加算されてフォーマット変換部16に出力される。
【0011】
上述の手順で画面内の全てのマクロブロックが復号され、フォーマット変換部16に出力されると、フォーマット変換部16は元の入力順序に並べ替えられて画面出力が行われ、必要に応じて画像サイズの変換を行った後、映像信号として出力される。
【0012】
なお、画像フレームのピクチャタイプがIピクチャ(画面内符号化画面)、又はPピクチャ(前方向予測符号化画面)の場合には、その後の復号における画像処理において参照画面として用いる必要があるため、ビデオメモリ17に画像フレームが順次蓄積される。
【0013】
ここで、上述したような符号化、復号化を行うことによる画像の圧縮伸張に伴い、画質劣化要因であるブロックノイズ、モスキートノイズ等のノイズ成分が発生するが、その対応として画像処理における符号化、復号化により失われた画像の輪郭部分の高周波数成分をパラメータとして適応的にフィルタ処理を行い、ノイズ成分の除去と、画像のエッジ強調を行い画質改善を行う技術がある(例えば、特許文献1参照)。
【0014】
【非特許文献1】
「総合マルチメディア選書 MPEG」(テレビジョン学会編、オーム社刊、1996)
【0015】
【特許文献1】
特開平8−274996号公報
【0016】
【発明が解決しようとする課題】
ところで、画像符号化では、限られた符号量で画像情報を表現しなくてはならないため、量子化により高域の情報量を重点的に削減する処理が行われている。これにより、復号画像においては細かい階調成分が失われてのっぺりとした画像になってしまい、また、エッジ部分ではリンギングが生じてモスキートノイズとして知覚されてしまう。これらは量子化ステップサイズ次第では大きな画質劣化につながってしまう。
【0017】
また、上述したように量子化処理はブロック単位で量子化を行っているため、ブロック境界では隣接画素であっても量子化精度の違いからブロック境界がパターンとなって見えてしまういわゆるブロック歪が発生しやすい。これも量子化ステップサイズが大きいほど知覚されやすくなり画質劣化につながる。
【0018】
また、上述の特許文献1では、デコード画像を周波数成分に分割するため、帯域通過(バンドパス)フィルタ処理を行っている。この例では、周波数毎に重み付けされた加算処理を行うことで、本来のエッジを強調させ、ノイズ成分を軽減させる処理を行っている。しかしながら、特許文献1では周波数変換に関する処理が必要となるため、画質改善のための画像処理ステップが多くなり効率的な画像処理を行うことができているとは言えない。
【0019】
本発明は、上述した問題点に鑑みなされたものであり、効率的に人間が見た視覚的な画質を示す主観画質を向上させる画像処理装置及び画像処理方法を提供することを目的とする。
【0020】
【課題を解決するための手段】
上記課題を解決するために、本件発明は、以下の特徴を有する課題を解決するための手段を採用している。
【0021】
請求項1に記載された発明は、直交変換係数の量子化処理により符号化された画像信号に対して復号画像信号を生成する画像処理装置において、前記符号化された画像信号の直交変換係数に、乱数に基づいたランダム信号を選択的に付加するランダム信号付加部と、前記ランダム信号付加部により前記ランダム信号が付加された信号を逆直交変換により画素空間データに変換する逆直交変換部とを有することを特徴とする。
【0022】
請求項1記載の発明によれば、画像信号の直交変換係数に対して選択的に処理を行うことができ、直交変換係数にランダム信号を付加することにより、直交変換係数量子化に伴い失われた画像成分を擬似的に回復し、且つブロック歪やモスキートノイズといった符号化歪を低減し、効率的に主観画質を向上させることができる。
【0023】
請求項2に記載された発明は、前記ランダム信号付加部は、前記符号化された画像信号における符号化に用いられた量子化情報に基づいて前記画像信号の直交変換係数に前記ランダム信号を付加することを特徴とする。
【0024】
請求項2記載の発明によれば、量子化情報を用いることにより、例えば、粗く量子化を行っている部分には強めにランダム信号を加えたり、細かく量子化を行っている部分には弱めにランダム信号を加えたりすることで、視聴者に不要なノイズ感を与えず効率的にランダム信号を付加することができる。これにより、符号化パラメータを用いることにより、効率的に主観画質を向上させることができる。
【0025】
請求項3に記載された発明は、前記ランダム信号付加部は、前記画像信号がピクチャ間の動き補償予測により符号化された動画像信号である場合に、前記動画像信号のストリームの中から符号化に用いられたパラメータ情報に基づいて前記ストリーム中の直交変換係数に前記ランダム信号を付加することを特徴とする。
【0026】
請求項3記載の発明によれば、例えば、ストリームから動きベクトルを取得することで、動きベクトルの大きいマクロブロックの直交変換係数には弱めにランダム信号を加えたり、動きベクトルの小さいマクロブロックの直交変換係数には強めにランダム信号を加えたりすることで視聴者に不要なノイズ感を与えず効率的にランダム信号を付加することができる。これにより、効率的に主観画質を向上させることができる。
【0027】
請求項4に記載された発明は、前記ランダム信号付加部は、前記画像信号がピクチャ間の動き補償予測により符号化された動画像信号である場合に、前記動画像信号のストリームにおけるピクチャタイプに基づいて前記ストリーム中の直交変換係数に前記ランダム信号を付加することを特徴とする。
【0028】
請求項4記載の発明によれば、ピクチャタイプに応じてランダム信号を付加することで、例えば、IピクチャもしくはBピクチャにのみランダム信号を加えたり、Iピクチャと比べてPピクチャ、Bピクチャに加えるランダム信号のレベルを小さくしたりする処理を行うことで、ランダム信号の過剰な累積による画質劣化を抑えることができる。これにより、効率的に主観画質を向上させることができる。
【0029】
請求項5に記載された発明は、前記ランダム信号付加部は、前記ストリーム中の直交変換係数に前記ランダム信号を付加する場合に、動き補償予測の参照画面となる画像には前記ランダム信号を付加しないことを特徴とする。
【0030】
請求項5記載の発明によれば、ランダム信号を付加しないようにすることで、動き補償予測の参照画面にはランダム信号が付加されていないものを用いることができ、ランダム信号の累積による画質の劣化を防ぐことができる。これにより、主観画質を向上させることができる。
【0031】
請求項6に記載された発明は、直交変換係数の量子化処理により符号化された画像信号に対して復号画像信号を生成する画像処理方法において、前記符号化された画像信号の直交変換係数に、乱数に基づいたランダム信号を選択的に付加するランダム信号付加段階と、前記ランダム信号付加段階により前記ランダム信号が付加された信号を逆直交変換により画素空間データに変換する逆直交変換段階とを有することを特徴とする。
【0032】
請求項6記載の発明によれば、画像信号の直交変換係数に対して選択的に処理を行うことができ、直交変換係数にランダム信号を付加することにより、直交変換係数量子化に伴い失われた画像成分を擬似的に回復し、且つブロック歪やモスキートノイズといった符号化歪を低減し、効率的に主観画質を向上させることができる。
【0033】
【発明の実施の形態】
<本発明の特徴>
本発明は、上記従来例のように、デコード画像に対して再び周波数成分に変換する処理を行わず、符号化ストリーム中の画像周波数情報を利用する。したがって周波数変換に関わる処理を低減させることができる。
【0034】
更に具体的に説明すれば、符号化ストリーム中の画像における周波数情報に基づいて、DCT係数値に対して乱数に基づいたランダム信号を加える。ここで、DCT係数値は対応する画像信号の周波数毎に異なるため、各基底のDCT係数に対して操作を加えるということは、画像信号における周波数成分に操作を加えることと等価となる。
【0035】
したがって、復号(デコード)後の処理でFFT(Fast FourierTransform:高速フーリエ変換)等により画像を周波数成分に変換しなくても、ストリーム復号前のDCT係数を利用することで画像に対して周波数毎に選択的な処理を行うことが可能となる。
【0036】
つまり本発明は、DCT係数等の直交変換係数の量子化処理により符号化された画像の画質改善に関するもので、符号化画像の直交変換係数にランダム信号を付加することにより、直交変換係数量子化に伴い失われた階調及び高周波成分を擬似的に回復し、且つブロック歪やモスキートノイズといった符号化歪を低減し、主観画質を向上させるものである。
【0037】
以下に、上記のような特徴を有する本発明における画像処理装置を好適に実施した形態について、図面を用いて詳細に説明する。また、以下発明の実施の形態の説明では、MPEG−2符号化方式を具体例として用いる。なお、本発明の適用範囲はMPEG−2に限らず、直交変換とその係数の量子化を用いる静止画像、動画像符号化方式全般に適用することができる。
【0038】
<第1の実施の形態>
図2は、本発明における画像処理装置の第1の実施の形態の一構成例を示す図である。図2の画像処理装置は、バッファ21と、可変長復号化部22と、逆量子化部23と、逆DCT部24と、動き補償予測部25と、フォーマット変換部26と、ビデオメモリ27と、ランダム信号付加器28とを有するよう構成されている。
【0039】
ここで、図2の画像処理装置は、上述の図1で説明した従来の復号装置にランダム信号付加器28が設けられた構成となっている。
【0040】
符号化されたビットストリームは、一旦バッファ21に蓄積され、バッファ21からデータの読み出しが行われる。可変長復号化部22は、マクロブロック(8×8画素ブロックの集合)毎の符号化情報が復号され、符号化モード、動きベクトル、量子化情報、及び量子化DCT係数が分離される。復号された8×8画素の量子化DCT係数は、逆量子化部23でDCT係数に復元され、逆DCT部24に出力される。ランダム信号付加器28は、逆量子化部23にて逆量子化された信号のDCT係数に対しランダム信号を付加して逆DCT部24へ出力する。逆DCT部24では、入力された画像データを画素空間データに変換する。
【0041】
ここで、ランダム信号付加部28におけるランダム信号の付加は、例えば、MPEG−2であれば、画像信号の構成要素である1つの輝度信号(Y信号)と2つの色差信号(U信号、V信号)の夫々のDCT係数の値に対して選択的に行うことが可能であり、且つ各構成成分における個々のDCT係数の値に対しても選択的に行うことが可能である。
【0042】
また、ランダム信号の取りうる範囲(乱数に基づくランダム信号の強度)も任意に指定することが可能である。なお、このとき発生されるランダム信号の発生頻度の分布は一様分布に限らず、ガウス分布等の非一様分布もあり得る。
【0043】
上述のY信号、U信号、及びV信号の各信号のDCT係数に対して選択的にランダム信号の付加の制御を行うことで、例えば、モノクロ画像へのランダム信号付加の際にY信号にのみランダム信号を付加して、不要な色彩の発生による違和感を抑えられ、より自然な画像にすることができる。
【0044】
また、各基底のDCT係数に選択的にランダム信号を付加することで、結果として周波数選択的にランダム信号を加えることができるため、画像符号化に伴い失われた高周波画像成分の回復を重点的に行うことが可能である。
【0045】
更に、高周波画像成分の回復を重点的に行うことで人間の視覚が敏感な低周波領域にランダム信号を加えない処理が可能であるため、視聴者に不要なノイズ感を与えずに済む。
【0046】
ここで、入力された符号化データの符号化モードがイントラ(画面内)符号化モードの場合は、そのままフォーマット変換部26に出力される。また、符号化モードが動き補償予測モードの場合は、可変長復号化部22から得られる予測モード、動きベクトルから動き補償予測部25で動き補償予測が行われ、動き補償予測されたブロックデータが逆DCT部24の出力と加算されてフォーマット変換部26に出力される。
【0047】
次に、画面内の全てのマクロブロックが復号され、フォーマット変換部26で元の入力順序に並べ替えられて画面出力が行われ、必要に応じて画像サイズの変換を行った後、映像信号として出力する。
【0048】
なお、画像フレームのピクチャタイプがIピクチャ(画面内符号化画面)、又はPピクチャ(前方向予測符号化画面)の場合には、その後の復号における画像処理において参照画面として用いる必要があるため、ビデオメモリ27に画像フレームが順次蓄積される。
【0049】
このように、ランダム信号付加器28からのランダム信号をDCT係数に選択的に加えることで、画像符号化に伴い失われた高周波画像成分を擬似的に回復し、且つブロック歪みやモスキートノイズを低減し、主観画質を向上させることができる。また、各基底のDCT係数値により選択して必要な周波数成分にのみランダム信号を付加することにより、効率的に主観画質を向上することができる。
【0050】
なお、図2では、ランダム信号付加器28が逆量子化部23の後に設けられ、逆量子化後のDCT係数に対してランダム信号を付加する構成になっているが、量子化された状態におけるDCT係数に対してランダム信号を加える構成とすることも可能である。ここで、上述の画像処理装置の構成について図を用いて説明する。
【0051】
図3は、図2に示す第1の実施の形態の変形例を示す図である。図3に示すように、ランダム信号付加器28を可変長復号化部22の出力信号に対してランダム信号が付加できるよう位置付けることにより、上述したようなランダム信号をDCT係数に選択的に加えて画像符号化に伴い失われた高周波画像成分を擬似的に回復し、且つブロック歪みやモスキートノイズを低減し、主観画質を向上させることができる。なお、この変形例は、後述する他の実施の形態においても同様に構成することができる。
【0052】
<第2の実施の形態>
次に、本発明における画像処理装置の第2の実施の形態を図4に示す。図4の画像処理装置は、バッファ31と、可変長復号化部32と、逆量子化部33と、逆DCT部34と、動き補償予測部35と、フォーマット変換部36と、ビデオメモリ37と、ランダム信号付加器38とを有するよう構成されている。
【0053】
なお、基本的な構成は図2に示した第1の実施の形態と同様であるが、本実施の形態では、ストリーム中に存在する画像の符号化パラメータを抽出し、これに基づいてDCT係数へのランダム信号の付加を行う構成となっている。
【0054】
ここで、本実施の形態では、例としてストリームから量子化パラメータを抽出する場合について述べる。
【0055】
一般に、画像符号化では、ファイルサイズやビットレート等の情報量の制御は量子化精度の調整により行われている。例えば、MPEG−2ではピクチャタイプ毎に設定可能な量子化マトリクスと、マクロブロック単位で指定可能な量子化スケールとに基づいて各DCT係数の量子化精度を制御している。ここで、画像が複雑である部分は、情報量を削減しても劣化が目立ちにくい部分であるため、粗く量子化を行っている。反対に画像が単純でレベル的にもあまり変化がないところでは、少ない変化でも知覚できるため細かく量子化を行っている。
【0056】
すなわち、可変長復号化部32は、分離された量子化情報をランダム信号付加器38に出力し、ランダム信号付加器38は入力された量子化情報をパラメータとして逆量子化後のDCT係数に対して、例えば、粗く量子化を行っている部分には強めにランダム信号を加え、細かく量子化を行っている部分には弱めにランダム信号を加えることで視聴者に不要なノイズ感を与えず効率的にランダム信号を付加することができる。
【0057】
このように、選択的にランダム信号を加え、その後は上述の第1の実施の形態で示した構成部分における処理を行うことで、画像符号化に伴い失われた高周波画像成分を擬似的に回復し、且つブロック歪みやモスキートノイズを低減し、主観画質を向上させることができる。
【0058】
<第3の実施の形態>
次に、本発明における画像処理装置の第3の実施の形態について説明する。なお、第3の実施の形態については、図4を用いて説明する。基本構成は第2の実施の形態と同様であるが、本実施の形態は、特にピクチャ間の動き補償予測を用いる動画像符号化について適用される。本実施の形態ではストリーム中に存在する符号化パラメータを抽出し、これに基づいてDCT係数へのランダム信号付加を行う構成となっている。ここで、本実施の形態では、例としてストリームから動きベクトルを抽出する場合について述べる。
【0059】
一般に、動画像符号化では、情報量削減のために、時間的に前後にある画面から対象となる画面を予測するという手法が用いられている。例えば、MPEG−2では、マクロブロック毎に参照画面からの動き量を動きベクトルとして検出し、これを予測に用いている。
【0060】
ここで、画像の動きの激しい部分は、フレーム周波数の関係から動きボケが生じ、原画像の解像度自体が劣化しているので、ランダム信号の付加による画質改善効果は小さい。反対に動きが少ない風景画等の画像では、動きの激しい画像と比べて原画像の解像感が高いため、ランダム信号付加による画質改善が期待される。
【0061】
したがって、可変長復号化部32にて分離された動きベクトルをランダム信号付加器38に出力し、ランダム信号付加器38では入力された動きベクトルに基づいて、動きベクトルの大きいマクロブロックのDCT係数には弱めにランダム信号を加え、動きベクトルの小さいマクロブロックのDCT係数には強めにランダム信号を加えることで視聴者に不要なノイズ感を与えず効率的にランダム信号を付加することができる。
【0062】
このように、動きベクトルを用いて選択的にランダム信号を加えることで、画像符号化に伴い失われた高周波画像成分を擬似的に回復し、且つブロック歪みやモスキートノイズを低減し、主観画質を向上させることができる。
【0063】
<第4の実施の形態>
次に、本発明における画像処理装置の第4の実施の形態について、上述した図4を再度用いて説明する。基本構成は、第2の実施の形態と同様であるが、本実施の形態は、特にピクチャ間の動き補償予測を用いる動画像符号化について適用される。
【0064】
例えば、MPEG−2では、効率的な符号化のためにIピクチャ(画面内符号化)、Pピクチャ(前方向予測符号化)、Bピクチャ(両方向予測符号化)の3つのピクチャタイプが存在し、このうちPピクチャとBピクチャが、ある参照画面を基準とした動き補償予測により生成されるピクチャである。
【0065】
ここで、参照画面として用いられるピクチャは復号したIピクチャ及びPピクチャの画像フレームで、これらはビデオメモリ37に順次蓄えられる。動き補償予測部35では予測モードや動きベクトルの情報から、ビデオメモリ37のデータを動き補償されたブロックデータに変換し出力する。
【0066】
このブロックデータが逆DCT部34から出力された信号と加算されることによりPピクチャ及びBピクチャは復号される。復号されたPピクチャは再び参照画面として用いる必要があるためビデオメモリ37に蓄えられる。
【0067】
すなわち、ランダム信号付加器38によってランダム信号が付加された画像を参照画面として用いることで、動き補償されたブロックデータもランダム信号が付加されたものとなってしまい、Pピクチャ、Bピクチャの復号の際にはランダム信号が累積付加されてしまう結果となる。この現象は、次にIピクチャのフレームが入力されるまで続き、Iピクチャから次のIピクチャまでのピクチャ間隔が長くなるほど画質劣化につながる。
【0068】
そこで、可変長復号化部32にて分離された符号化モードをランダム信号付加器38に出力し、ランダム信号付加器38では入力された符号化モードのピクチャタイプに応じてランダム信号の付加レベルを制御する処理を行う。例えば、IピクチャもしくはBピクチャにのみランダム信号を加える処理や、Iピクチャに比べて、PピクチャやBピクチャに加えるランダム信号のレベルを小さくする処理を行う。
【0069】
なお、MPEG−2ではPピクチャ、Bピクチャに関してはマクロブロック単位でイントラ(画面内)符号化を行うことが可能であるため、Iピクチャのみにランダム信号を加える場合や、Iピクチャと比べてPピクチャ、Bピクチャに加えるランダム信号のレベルを小さくする場合にも、Pピクチャ、Bピクチャのイントラマクロブロックには、Iピクチャに加えるレベルと同等のレベルでランダム信号を加えることが望ましい。このような処理を行うことで、ランダム信号の過剰な累積による画質劣化を抑えることができる。
【0070】
このように、選択的にランダム信号を加えることで、画像符号化に伴い失われた高周波画像成分を擬似的に回復し、且つブロック歪みやモスキートノイズを低減し、主観画質を向上させることができる。
【0071】
<第5の実施の形態>
次に、本発明における画像処理装置の第5の実施の形態を図5に示す。図5の画像処理装置は、バッファ41と、可変長復号化部42と、逆量子化部43と、動き補償予測部45と、フォーマット変換部46と、ビデオメモリ47と、ランダム信号付加部48と、第1逆DCT部51と、第2逆DCT部52とを有するよう構成されている。
【0072】
本実施の形態は、第3及び第4の実施の形態と同じく、特に動画像信号のストリームにおけるピクチャ間の動き補償予測を用いる動画像符号化について適用される。
【0073】
第4の実施の形態でも述べたように、直交変換係数へのランダム信号の付加を動き補償予測を行うピクチャタイプについても相当の強度で行うと、Iピクチャから次のIピクチャまでのピクチャ間隔次第では画質劣化につながる。
【0074】
そこで、本実施例では、実際の映像信号として出力するための第1逆DCT部51と、動き補償予測用の参照画面を生成するための第2逆DCT部52を分けることでこの問題を解決する。すなわちランダム信号付加器48によるDCT係数へのランダム信号付加の前に信号を分岐し、一方にはランダム信号を付加し、もう一方はランダム信号を付加せずビデオメモリ47に蓄積する。
【0075】
なお、動き補償予測部45は、第1逆DCT部51の出力及び第2逆DCT部52の出力に対してビデオメモリ47からの動き補償予測されたブロックデータを加算する。また、上述以外の動作においては、上述の実施の形態の同名主要構成部と同様である。
【0076】
上述したような装置構成にすることで、動き補償予測の参照画面にはランダム信号が付加されていないものを用いることができ、第4の実施の形態で述べたようなランダム信号の累積による画質の劣化を防ぐことができる。
【0077】
このように、選択的にランダム信号を加えることで、画像符号化に伴い失われた高周波画像成分を擬似的に回復し、且つブロック歪みやモスキートノイズを低減し、主観画質を向上させることができる。
【0078】
なお、図5では逆量子化部43とランダム信号付加器48によるランダム信号付加の位置の間に信号分岐点が設けられているが、分岐点を可変長符号化部42と逆量子化部43の間に設ける構成も可能である。また、この構成と図5で示したランダム信号付加器48のランダム信号付加位置の構成を組み合わせる場合は、当然信号分岐位置の方がランダム信号付加位置よりも処理の前に構成することができる。
【0079】
ここで、上述の画像処理装置の第5の実施の形態の変形例について図を用いて説明する。図6は、図5に示す第5の実施の形態の変形例を示す図である。図6の画像処理装置は、図5の示した構成に対して第1逆量子化部53と、第2逆量子化部54とを有しており、第1逆量子化部53は、図5における逆量子化部43と同等である。
【0080】
図6に示すように可変長復号化部42と第1逆量子化部53との間に分岐点を設けることで、第5の実施の形態と同様の効果を得ることができる。
【0081】
上述したように本発明によれば、乱数に基づいたランダム信号を符号化画像信号の直交変換係数(DCT係数)に選択的に加えることで、画像符号化に伴い失われた階調及び高周波成分を、復号画像において擬似的に回復させることができる。更にブロック歪の発生する画素ブロック境界部やモスキートノイズ発生部ではランダムな高周波成分信号が出現することで歪みがマスキングされ知覚されにくくなる。また画素ブロック境界部やモスキートノイズ発生部では、高周波信号を発生させることで視覚的にレベル変化を滑らかに表現することができ歪みを低減することができる。
【0082】
以上本発明の好ましい実施例について詳述したが、本発明は係る特定の実施形態に限定されるものではなく、特許請求の範囲に記載された本発明の要旨の範囲内において、種々の変形、変更が可能である。
【0083】
【発明の効果】
上述の如く本発明によれば、効率的に主観画質を向上させることができる画像処理装置及び画像処理方法を提供することができる。
【図面の簡単な説明】
【図1】従来のMPEG−2復号装置の一構成例を示す図である。
【図2】本発明における画像処理装置の第1の実施の形態の一構成例を示す図である。
【図3】図2に示す第1の実施の形態の変形例を示す図である。
【図4】本発明における画像処理装置の第2の実施の形態の一構成例を示す図である。
【図5】本発明における画像処理装置の第5の実施の形態の一構成例を示す図である。
【図6】図5に示す第5の実施の形態の変形例を示す図である。
【符号の説明】
11,21,31,41 バッファ
12,22,32,42 可変長復号化部
13,23,33,43 逆量子化部
14,24,34 逆DCT部
15,25,35,45 動き補償予測部
16,26,36,46 フォーマット変換部
17,27,37,47 ビデオメモリ
28,38,48 ランダム信号付加器
51 第1逆DCT部
52 第2逆DCT部
53 第1逆量子化部
54 第2逆量子化部
Claims (6)
- 直交変換係数の量子化処理により符号化された画像信号に対して復号画像信号を生成する画像処理装置において、
前記符号化された画像信号の直交変換係数に、乱数に基づいたランダム信号を選択的に付加するランダム信号付加部と、
前記ランダム信号付加部により前記ランダム信号が付加された信号を逆直交変換により画素空間データに変換する逆直交変換部とを有することを特徴とする画像処理装置。 - 前記ランダム信号付加部は、
前記符号化された画像信号における符号化に用いられた量子化情報に基づいて前記画像信号の直交変換係数に前記ランダム信号を付加することを特徴とする請求項1に記載の画像処理装置。 - 前記ランダム信号付加部は、
前記画像信号がピクチャ間の動き補償予測により符号化された動画像信号である場合に、前記動画像信号のストリームの中から符号化に用いられたパラメータ情報に基づいて前記ストリーム中の直交変換係数に前記ランダム信号を付加することを特徴とする請求項1又は2に記載の画像処理装置。 - 前記ランダム信号付加部は、
前記画像信号がピクチャ間の動き補償予測により符号化された動画像信号である場合に、前記動画像信号のストリームにおけるピクチャタイプに基づいて前記ストリーム中の直交変換係数に前記ランダム信号を付加することを特徴とする請求項1乃至3の何れか1項に記載の画像処理装置。 - 前記ランダム信号付加部は、
前記ストリーム中の直交変換係数に前記ランダム信号を付加する場合に、動き補償予測の参照画面となる画像には前記ランダム信号を付加しないことを特徴とする請求項3又は4に記載の画像処理装置。 - 直交変換係数の量子化処理により符号化された画像信号に対して復号画像信号を生成する画像処理方法において、
前記符号化された画像信号の直交変換係数に、乱数に基づいたランダム信号を選択的に付加するランダム信号付加段階と、
前記ランダム信号付加段階により前記ランダム信号が付加された信号を逆直交変換により画素空間データに変換する逆直交変換段階とを有することを特徴とする画像処理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003166801A JP2005006007A (ja) | 2003-06-11 | 2003-06-11 | 画像処理装置及び画像処理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003166801A JP2005006007A (ja) | 2003-06-11 | 2003-06-11 | 画像処理装置及び画像処理方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2005006007A true JP2005006007A (ja) | 2005-01-06 |
Family
ID=34092847
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003166801A Pending JP2005006007A (ja) | 2003-06-11 | 2003-06-11 | 画像処理装置及び画像処理方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2005006007A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107277535A (zh) * | 2016-03-31 | 2017-10-20 | 株式会社巨晶片 | 图像处理装置 |
-
2003
- 2003-06-11 JP JP2003166801A patent/JP2005006007A/ja active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107277535A (zh) * | 2016-03-31 | 2017-10-20 | 株式会社巨晶片 | 图像处理装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4847890B2 (ja) | 符号化方式変換装置 | |
JP4334768B2 (ja) | 圧縮映像のブリージングアーチファクトを低減する方法および装置 | |
JP4455487B2 (ja) | 復号化装置及び復号化方法及びプログラム | |
US20070025631A1 (en) | Adaptive variable block transform system, medium, and method | |
JPH08237669A (ja) | 画像信号処理装置、画像信号処理方法および画像信号復号化装置 | |
KR20060090979A (ko) | 영상 위로 잡음 추가 방법 | |
JP2006229411A (ja) | 画像復号化装置及び画像復号化方法 | |
US7095448B2 (en) | Image processing circuit and method for modifying a pixel value | |
JP2006081152A (ja) | デジタル画像符号化装置、デジタル画像符号化プログラム、デジタル画像符号化方法、及びデジタル画像復号化装置、デジタル画像復号化プログラム、並びにデジタル画像復号化方法 | |
JP2003517796A (ja) | 「ムラのあるピクチャ」効果を減らす方法 | |
JP2006191253A (ja) | レート変換方法及びレート変換装置 | |
KR100229796B1 (ko) | 열화영상에 대한 보상기능을 갖는 영상 복호화 시스템 | |
JP3429429B2 (ja) | 視感誤差処理方法及びこの方法を用いた画像符号化装置 | |
JP4592562B2 (ja) | 画像復号装置 | |
JP2003348597A (ja) | 画像符号化装置および画像符号化方法 | |
JP2010239423A (ja) | 撮影解像度予測型動画像符号化装置および復号装置 | |
US8929439B2 (en) | Compressed image noise removal device and reproduction device | |
JP2008544621A (ja) | ビデオエラー隠蔽を向上させる符号化及び復号の方法及び装置 | |
JP2005006007A (ja) | 画像処理装置及び画像処理方法 | |
JP2005020294A (ja) | ブロック歪低減装置 | |
JP2005295371A (ja) | ブロックノイズ除去装置 | |
JPH0389792A (ja) | 画像符号化装置 | |
JP4185413B2 (ja) | フリッカ低減量子化器、フリッカ低減量子化方法、及びそのプログラム | |
JP2005260989A (ja) | 画像処理装置及び画像処理方法 | |
JPH08163561A (ja) | 画像データ圧縮装置 |