JP4016166B2 - 画像復号装置及び画像復号方法 - Google Patents

画像復号装置及び画像復号方法 Download PDF

Info

Publication number
JP4016166B2
JP4016166B2 JP34211498A JP34211498A JP4016166B2 JP 4016166 B2 JP4016166 B2 JP 4016166B2 JP 34211498 A JP34211498 A JP 34211498A JP 34211498 A JP34211498 A JP 34211498A JP 4016166 B2 JP4016166 B2 JP 4016166B2
Authority
JP
Japan
Prior art keywords
discrete cosine
cosine transform
coefficients
image
mode
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP34211498A
Other languages
English (en)
Other versions
JP2000175195A (ja
Inventor
数史 佐藤
尚史 柳原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP34211498A priority Critical patent/JP4016166B2/ja
Publication of JP2000175195A publication Critical patent/JP2000175195A/ja
Application granted granted Critical
Publication of JP4016166B2 publication Critical patent/JP4016166B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、所定の画素ブロック(マクロブロック)単位で動き予測をすることによる予測符号化、及び、所定の画素ブロック(直交変換ブロック)単位で直交変換することによる圧縮符号化をした第1の解像度の圧縮画像データを、復号する画像復号装置及び画像復号方法に関し、特に、第1の解像度の圧縮画像データを復号して、この第1の解像度よりも低い第2の解像度の動画像データに縮小する画像復号装置及び画像復号方法に関するものである。
【0002】
【従来の技術】
MPEG2(Moving Picture Experts Group phase2)等の画像圧縮方式を用いたデジタルテレビジョン放送の規格化が進められている。デジタルテレビジョン放送の規格には、標準解像度画像(例えば垂直方向の有効ライン数が576本)に対応した規格、高解像度画像(例えば垂直方向の有効ライン数が1152本)に対応した規格等がある。そのため、近年、高解像度画像の圧縮画像データを復号するとともにこの圧縮画像データを1/2の解像度に縮小することにより、標準解像度画像の画像データを生成して、この画像データを標準解像度に対応したテレビジョンモニタに表示するダウンデコーダが求められている。
【0003】
高解像度画像に対して動き予測による予測符号化及び離散コサイン変換による圧縮符号化をしたMPEG2等のビットストリームを、復号するとともに標準解像度画像にダウンサンプリングするダウンデコーダが、文献「低域ドリフトのないスケーラブル・デコーダ」(岩橋・神林・貴家:信学技報 CS94-186,DSP94-108,1995-01)に提案されている(以下、この文献を文献1と呼ぶ。)。この文献1には、以下の第1から第3のダウンデコーダが示されている。
【0004】
第1のダウンデコーダは、図38に示すように、高解像度画像のビットストリームに対して8(水平方向のDC成分から数えた係数の数)×8(垂直方向のDC成分から数えた係数の数)の逆離散コサイン変換をする逆離散コサイン変換装置1001と、離散コサイン変換がされた高解像度画像と動き補償がされた参照画像とを加算する加算装置1002と、参照画像を一時記憶するフレームメモリ1003と、フレームメモリ1003が記憶した参照画像に1/2画素精度で動き補償をする動き補償装置1004と、フレームメモリ1003が記憶した参照画像を標準解像度の画像に変換するダウンサンプリング装置1005とを備えている。
【0005】
この第1のダウンデコーダでは、逆離散コサイン変換を行い高解像度画像として復号した出力画像を、ダウンサンプリング装置1005で縮小して標準解像度の画像データを出力する。
【0006】
第2のダウンデコーダは、図39に示すように、高解像度画像のビットストリームのDCT(Discrete Cosine Transform)ブロックの高周波成分の係数を0に置き換えて8×8の逆離散コサイン変換をする逆離散コサイン変換装置1011と、離散コサイン変換がされた高解像度画像と動き補償がされた参照画像とを加算する加算装置1012と、参照画像を一時記憶するフレームメモリ1013と、フレームメモリ1013が記憶した参照画像に1/2画素精度で動き補償をする動き補償装置1014と、フレームメモリ1013が記憶した参照画像を標準解像度の画像に変換するダウンサンプリング装置1015とを備えている。
【0007】
この第2のダウンデコーダでは、DCTブロックの全ての係数のうち高周波成分の係数を0に置き換えて逆離散コサイン変換を行い高解像度画像として復号した出力画像を、ダウンサンプリング装置1005で縮小して標準解像度の画像データを出力する。
【0008】
第3のダウンデコーダは、図40に示すように、高解像度画像のビットストリームのDCTブロックの低周波成分の係数のみを用いて例えば4×4の逆離散コサイン変換をして標準解像度画像に復号する縮小逆離散コサイン変換装置1021と、縮小逆離散コサイン変換がされた標準解像度画像と動き補償がされた参照画像とを加算する加算装置1022と、参照画像を一時記憶するフレームメモリ1023と、フレームメモリ1023が記憶した参照画像に1/4画素精度で動き補償をする動き補償装置1024とを備えている。
【0009】
この第3のダウンデコーダでは、DCTブロックの全ての係数のうち低周波成分の係数のみを用いて逆離散コサイン変換を行い、高解像度画像から標準解像度画像として復号する。
【0010】
ここで、上記第1のダウンデコーダでは、DCTブロック内の全ての係数に対して逆離散コサイン変換を行い高解像度画像を復号しているため、高い演算処理能力の逆離散コサイン変換装置1001と高容量のフレームメモリ1003とが必要となる。また、上記第2のダウンデコーダでは、DCTブロック内の係数のうち高周波成分を0として離散コサイン変換を行い高解像度画像を復号しているため、逆離散コサイン変換装置1011の演算処理能力は低くて良いが、やはり高容量のフレームメモリ1013が必要となる。これら第1及び第2のダウンデコーダに対し、第3のダウンデコーダでは、DCTブロック内の全ての係数うち低周波成分の係数のみを用いて逆離散コサイン変換をしているため逆離散コサイン変換装置1021の演算処理能力が低くてよく、さらに、標準解像度画像の参照画像を復号しているのでフレームメモリ1023の容量も少なくすることができる。
【0011】
ところで、テレビジョン放送等の動画像の表示方式には、順次走査方式と飛び越し走査方式とがある。順次走査方式は、フレーム内の全ての画素を同じタイミングでサンプリングした画像を、順次表示する表示方式である。飛び越し走査方式は、フレーム内の画素を水平方向の1ライン毎に異なるタイミングでサンプリングした画像を、交互に表示する表示方式である。
【0012】
この飛び越し走査方式では、フレーム内の画素を1ライン毎に異なるタイミングでサンプリングした画像のうちの一方を、トップフィールド(第1フィールドともいう。)といい、他方をボトムフィールド(第2のフィールドともいう。)という。フレームの水平方向の先頭ラインが含まれる画像がトップフィールドとなり、フレームの水平方向の2番目のラインが含まれる画像がボトムフィールドとなる。従って、飛び越し走査方式では、1つのフレームが2つのフィールドから構成されることとなる。
【0013】
MEPG2では、飛び越し走査方式に対応した動画像信号を効率良く圧縮するため、画面の圧縮単位であるピクチャにフレームを割り当てて符号化するだけでなく、ピクチャにフィールドを割り当てて符号化することもできる。
【0014】
MPEG2では、ピクチャにフィールドが割り当てられた場合には、そのビットストリームの構造をフィールド構造と呼び、ピクチャにフレームが割り当てられた場合には、そのビットストリームの構造をフレーム構造と呼ぶ。また、フィールド構造では、フィールド内の画素からDCTブロックが形成され、フィールド単位で離散コサイン変換がされる。このフィールド単位で離散コサイン変換を行う処理モードのことをフィールドDCTモードと呼ぶ。また、フレーム構造では、フレーム内の画素からDCTブロックが形成され、フレーム単位で離散コサイン変換がされる。このフレーム単位で離散コサイン変換を行う処理モードのことをフレームDCTモードと呼ぶ。さらに、フィールド構造では、フィールド内の画素からマクロブロックが形成され、フィールド単位で動き予測がされる。このフィールド単位で動き予測を行う処理モードのことをフィールド動き予測モードと呼ぶ。また、フレーム構造では、フレーム内の画素からマクロブロックが形成され、フレーム単位で動き予測がされる。フレーム単位で動き予測を行う処理モードのことをフレーム動き予測モードと呼ぶ。
【0015】
【発明が解決しようとする課題】
ところで、上記文献1に示された第3のダウンデコーダを利用して、飛び越し走査方式に対応した圧縮画像データを復号する画像復号装置が、例えば文献「A Compensation Method of Drift Errors in Scalability」(N.OBIKANE,K.TAHARA and J.YONEMITSU,HDTV Work Shop'93)に提案されている(以下、この文献を文献2と呼ぶ)。
【0016】
この文献2に示された従来の画像復号装置は、図41に示すように、高解像度画像をMPEG2で圧縮したビットストリームが供給され、このビットストリームを解析するビットストリーム解析装置1031と、データの発生頻度に応じた符号長を割り当てる可変長符号化がされたビットストリームを復号する可変長符号復号装置1032と、DCTブロックの各係数に量子化ステップを掛ける逆量子化装置1033と、DCTブロックの全ての係数のうち低周波成分の係数のみを用いて例えば4×4の逆離散コサイン変換をして標準解像度画像を復号する縮小逆離散コサイン変換装置1034と、縮小逆離散コサイン変換がされた標準解像度画像と動き補償がされた参照画像とを加算する加算装置1035と、参照画像を一時記憶するフレームメモリ1036と、フレームメモリ1036が記憶した参照画像に1/4画素精度で動き補償をする動き補償装置1037とを備えている。
【0017】
この文献2に示された従来の画像復号装置の縮小逆離散コサイン変換装置1034は、DCTブロック内の全ての係数のうち低周波成分の係数のみを用いて逆離散コサイン変換をするが、フレームDCTモードとフィールドDCTモードとで、逆離散コサイン変換を行う係数の位置が異なっている。
【0018】
具体的には、縮小逆離散コサイン変換装置1034は、フィールドDCTモードの場合には、図42に示すように、DCTブロック内の8×8個のうち、低域の4×4個の係数のみに逆離散コサイン変換を行う。それに対し、縮小逆離散コサイン変換装置1034は、フレームDCTモードの場合には、図43に示すように、DCTブロック内の8×8個の係数のうち、4×2個+4×2個の係数のみに逆離散コサイン変換を行う。
【0019】
また、この文献2に示された従来の画像復号装置の動き補償装置1037は、高解像度画像に対して行われた動き予測の情報(動きベクトル)に基づき、フィールド動き予測モード及びフレーム動き予測モードのそれぞれに対応した1/4画素精度の動き補償を行う。すなわち、通常MPEG2では1/2画素精度で動き補償が行われることが定められているが、高解像度画像から標準解像度画像を復号する場合には、ピクチャ内の画素数が1/2に間引かれるため、動き補償装置1037では動き補償の画素精度を1/4画素精度として動き補償を行っている。
【0020】
従って、動き補償装置1037では、高解像度画像に対応した動き補償を行うため、標準解像度の画像としてフレームメモリ1036に格納された参照画像の画素に対して線形補間して、1/4画素精度の画素を生成している。
【0021】
具体的に、フィールド動き予測モード及びフレーム動き予測モードの場合の垂直方向の画素の線形補間処理を、図44及び図45を用いて説明する。なお、図面中には、縦方向に垂直方向の画素の位相を示し、表示画像の各画素が位置する位相を整数で示している。
【0022】
まず、フィールド動き予測モードで動き予測がされた画像の補間処理について、図44を用いて説明する。高解像度画像(上位レイヤー)に対しては、図44(a)に示すように、各フィールドそれぞれ独立に、1/2画素精度で動き補償がされる。これに対し、標準解像度画像(下位レイヤー)に対しては、図44(b)に示すように、整数精度の画素に基づきフィールド内で線形補間をして、垂直方向に1/4画素、1/2画素、3/4画素分の位相がずれた画素を生成し、動き補償がされる。すなわち、標準解像度画像(下位レイヤー)では、トップフィールドの整数精度の各画素に基づきトップフィールドの1/4画素精度の各画素が線形補間により生成され、ボトムフィールドの整数精度の各画素に基づきボトムフィールドの1/4画素精度の各画素が線形補間により生成される。例えば、垂直方向の位相が0の位置にあるトップフィールドの画素の値をa、垂直方向の位相が1の位置にあるトップフィールドの画素の値をbとする。この場合、垂直方向の位相が1/4の位置にあるトップフィールドの画素は(3a+b)/4となり、垂直方向の位相が1/2の位置にあるトップフィールドの画素は(a+b)/2となり、垂直方向の位相が3/4の位置にあるトップフィールドの画素は(a+3b)/4となる。
【0023】
続いて、フレーム動き予測モードで動き予測がされた画像の補間処理について、図45を用いて説明する。高解像度画像(上位レイヤー)に対しては、図45(a)に示すように、各フィールド間で補間処理がされ、すなわち、ボトムフィールドとトップフィールドとの間で補間処理がされ、1/2画素精度で動き補償がされる。標準解像度画像(下位レイヤー)に対しては、図45(b)に示すように、トップフィールド及びボトムフィールドの2つのフィールドの整数精度の各画素に基づき、垂直方向に1/4画素、1/2画素、3/4画素分の位相がずれた画素が線形補間により生成され、動き補償がされる。例えば、垂直方向の位相が−1の位置にあるボトムフィールドの画素の値をa、垂直方向の位相が0の位置にあるトップフィールドの画素の値をb、垂直方向の位相が1の位置にあるボトムフィールドの画素の値をc、垂直方向の位相が2の位置にあるトップフィールドの画素の値をd、垂直方向の位相が3の位置にあるボトムフィールドの画素の値をeとする。この場合、垂直方向の位相が0〜2の間にある1/4画素精度の各画素は、以下のように求められる。
【0024】
垂直方向の位相が1/4の位置にある画素は(a+4b+3c)/8となる。垂直方向の位相が1/2の位置にある画素は(a+3c)/4となる。垂直方向の位相が3/4の位置にある画素は(a+2b+3c+2d)/8となる。垂直方向の位相が5/4の位置にある画素は(2b+3c+2d+e)/8となる。垂直方向の位相が3/2の位置にある画素は(3c+e)/4となる。垂直方向の位相が7/4の位置にある画素は(3c+4d+e)/8となる。
【0025】
以上のように上記文献2に示された従来の画像復号装置は、飛び越し走査方式に対応した高解像度画像の圧縮画像データを、標準解像度画像データに復号することができる。
【0026】
しかしながら、上記文献2に示された従来の画像復号装置では、フィールドDCTモードで得られる標準解像度画像の各画素と、フレームDCTモードで得られる標準解像度の各画素との位相がずれる。具体的には、フィールドDCTモードでは、図46に示すように、下位レイヤーのトップフィールドの各画素の垂直方向の位相が1/2、5/2・・・となり、下位レイヤーのボトムフィールドの各画素の垂直方向の位相が1、3・・・となる。それに対して、フレームDCTモードでは、図47に示すように、下位レイヤーのトップフィールドの各画素の垂直方向の位相が0、2・・・となり、下位レイヤーのボトムフィールドの各画素の垂直方向の位相が1、3・・・となる。そのため、位相が異なる画像がフレームメモリ1036に混在し、出力する画像の画質が劣化する。
【0027】
また、上記文献2に示された従来の画像復号装置では、フィールド動き予測モードとフレーム動き予測モードとで位相ずれの補正がされていない。そのため、出力する画像の画質が劣化する。
【0028】
本発明は、このような実情を鑑みてなされたものであり、飛び越し走査画像が有するインタレース性を損なうことなくフィールド直交変換モードとフレーム直交変換モードとによる画素の位相ずれをなくし、処理量を削減した高解像度画像の圧縮画像データから標準解像度の画像データを復号する画像復号装置及び画像復号方法を提供することを目的とする。
【0029】
【課題を解決するための手段】
本発明は、所定の画素ブロック(マクロブロック)単位で動き予測をすることによる予測符号化、及び、所定の画素ブロック(直交変換ブロック)単位で直交変換をすることによる圧縮符号化をした第1の解像度の圧縮画像データから、上記第1の解像度より低い第2の解像度の動画像データを復号する画像復号装置において、上記第1の解像度の圧縮画像データのビットストリームの解析結果に基づいて、上記直交変換ブロック内の各係数を当該直交変換ブロックのスキャン方式に応じた所定のスキャン方式により逆スキャンして、可変長符号化された上記第1の解像度の圧縮画像データを、可変長復号する可変長復号手段と、可変長復号がされた上記圧縮画像データの直交変換ブロックの各係数のうち低周波成分の係数に対して逆直交変換をする逆直交変換手段とを備え、上記可変長復号手段による逆スキャン処理でのスキャン数は上記第1の解像度の圧縮画像データのビットストリームの解析結果に基づいて復号する画像データの種類に応じて切り換え設定され、上記可変長復号手段は、上記逆直交変換手段により逆直交変換がされる低周波成分の係数のうちの最高周波数成分未満の係数まで可変長復号し、それ以上の周波数成分の係数を可変長復号せず、可変長復号しなかった係数であって上記逆直交変換手段で逆直交変換をする係数を0とすることを特徴とする。
【0033】
また、本発明は、所定の画素ブロック(マクロブロック)単位で動き予測をすることによる予測符号化、及び、所定の画素ブロック(直交変換ブロック)単位で直交変換をすることによる圧縮符号化をした第1の解像度の圧縮画像データから、上記第1の解像度より低い第2の解像度の動画像データを復号する画像復号方法において、上記第1の解像度の圧縮画像データのビットストリームの解析結果に基づいて、上記直交変換ブロック内の各係数を当該直交変換ブロックのスキャン方式に応じた所定のスキャン方式により逆スキャンして、可変長符号化された上記第1の解像度の圧縮画像データを可変長復号し、可変長復号がされた上記圧縮画像データの直交変換ブロックの各係数のうち低周波成分の係数に対して逆直交変換をし、上記可変長復号における逆スキャン処理でのスキャン数は上記第1の解像度の圧縮画像データのビットストリームの解析結果に基づいて復号する画像データの種類に応じて切り換え設定され、上記逆直交変換がされる低周波成分の係数のうちの最高周波数成分未満の係数まで可変長復号し、それ以上の周波数成分の係数を可変長復号せず、可変長復号しなかった係数であって上記逆直交変換をする係数を0とすることを特徴とする。
【0035】
【発明の実施の形態】
以下、本発明の実施の形態として、本発明を適用した画像復号装置について、図面を参照しながら説明する。
【0036】
(第1の実施の形態)
まず、本発明の第1の実施の形態の画像復号装置について説明する。
【0037】
図1に示すように、本発明の第1の実施の形態の画像復号装置10は、垂直方向の有効ライン数が例えば1152本の高解像度画像をMPEG2で画像圧縮したビットストリームが入力され、この入力されたビットストリームを復号するとともに1/2の解像度に縮小して、垂直方向の有効ライン数が例えば576本の標準解像度画像を出力する装置である。
【0038】
なお、以下、本発明の実施の形態の説明をするにあたり、高解像度画像のことを上位レイヤーとも呼び、標準解像度画像のことを下位レイヤーとも呼ぶものとする。また、通常、8×8の離散コサイン係数を有するDCTブロックを逆離散コサイン変換した場合8×8の画素から構成される復号データを得ることができるが、例えば、8×8の離散コサイン係数を復号して4×4の画素から構成される復号データを得るような、逆離散コサイン変換をするとともに解像度を縮小する処理を、縮小逆離散コサイン変換という。
【0039】
この画像復号装置10は、圧縮された高解像度画像のビットストリームが供給され、このビットストリームを解析するビットストリーム解析装置11と、データの発生頻度に応じた符号長を割り当てる可変長符号化がされた上記ビットストリームを復号する可変長符号復号装置12と、DCTブロックの各係数に量子化ステップを掛ける逆量子化装置13と、フィールドDCTモードで離散コサイン変換がされたDCTブロックに対して縮小逆離散コサイン変換をして標準解像度画像を生成するフィールドモード用縮小逆離散コサイン変換装置14と、フレームDCTモードで離散コサイン変換がされたDCTブロックに対して縮小逆離散コサイン変換をして標準解像度画像を生成するフレームモード用縮小逆離散コサイン変換装置15と、縮小逆離散コサイン変換がされた標準解像度画像と動き補償がされた参照画像とを加算する加算装置16と、参照画像を一時記憶するフレームメモリ17と、フレームメモリ17が記憶した参照画像にフィールド動き予測モードに対応した動き補償をするフィールドモード用動き補償装置18と、フレームメモリ17が記憶した参照画像にフレーム動き予測モードに対応した動き補償をするフレームモード用動き補償装置19と、フレームメモリ17が記憶した画像に対してポストフィルタリングをすることにより、画枠変換をするとともに画素の位相ずれを補正してテレビジョンモニタ等に表示するための標準解像度の画像データを出力する画枠変換・位相ずれ補正装置20とを備えている。
【0040】
可変長符号復号装置12は、入力されたDCTブロックのスキャン方式に応じて、DCTブロック内の各係数を逆スキャンして可変長符号の復号処理を行う。DCTブロック内のスキャン方式には、例えばジグザグスキャン、オルタネートスキャンがある。このスキャン方式は、前段のビットストリーム解析装置11により解析される。
【0041】
なお、この可変長符号復号装置12の処理については、その詳細を後述する。
【0042】
フィールドモード用縮小逆離散コサイン変換装置14は、入力されたビットストリームのマクロブロックが、フィールドDCTモードで離散コサイン変換されている場合に用いられる。フィールドモード用縮小逆離散コサイン変換装置14は、フィールドDCTモードで離散コサイン変換がされたマクロブロック内の8×8個の係数が示されたDCTブロックに対して、図42で示したような、低域の4×4の係数のみに逆離散コサイン変換を行う。すなわち、水平方向及び垂直方向の低域の4点の離散コサイン係数に基づき縮小逆離散コサイン変換を行う。このフィールドモード用縮小逆離散コサイン変換装置14では、以上のような縮小逆離散コサイン変換を行うことにより、1つのDCTブロックが4×4の画素から構成される標準解像度画像を復号することができる。この復号された画像データの各画素の位相は、図2に示すように、トップフィールドの各画素の垂直方向の位相が1/2、5/2・・・となり、ボトムフィールドの各画素の垂直方向の位相が1、3・・・となる。すなわち、復号された下位レイヤーのトップフィールドでは、先頭画素(位相が1/2の画素)の位相が上位レイヤーのトップフィールドの先頭から1番目と2番目の画素(位相が0と2の画素)の中間位相となり、先頭から2番目の画素(位相が5/2の画素)の位相が上位レイヤーのトップフィールドの先頭から3番目と4番目の画素(位相が4と6の画素)の中間位相となる。また、復号された下位レイヤーのボトムフィールドでは、先頭画素(位相が1の画素)の位相が上位レイヤーのボトムフィールドの先頭から1番目と2番目の画素(位相が1と3の画素)の中間位相となり、先頭から2番目の画素(位相が3の画素)の位相が上位レイヤーのボトムフィールドの先頭から3番目と4番目の画素(位相が5と7の画素)の中間位相となる。
【0043】
フレームモード用縮小逆離散コサイン変換装置15は、入力されたビットストリームのマクロブロックが、フレームDCTモードで離散コサイン変換されている場合に用いられる。フレームモード用縮小逆離散コサイン変換装置15は、フレームDCTモードで離散コサイン変換がされたマクロブロック内の8×8個の係数が示されたDCTブロックに対して、縮小逆離散コサイン変換を行う。そして、フレームモード用縮小逆離散コサイン変換装置15では、1つのDCTブロックが4×4の画素から構成される解像度画像を復号するとともに、フィールドモード用縮小逆離散コサイン変換装置14で生成した標準解像度画像の画素の位相と同位相の画像を生成する。すなわち、フレームモード用縮小逆離散コサイン変換装置15で復号された画像データの各画素の位相は、図2に示すように、トップフィールドの各画素の垂直方向の位相が1/2、5/2・・・となり、ボトムフィールドの各画素の垂直方向の位相が1、3・・・となる。
【0044】
なお、このフレームモード用縮小逆離散コサイン変換装置15の処理については、その詳細を後述する。
【0045】
加算装置16は、フィールドモード用縮小逆離散コサイン変換装置14又はフレームモード用縮小逆離散コサイン変換装置15により縮小逆離散コサイン変換されたマクロブロックがイントラ画像の場合には、そのイントラ画像をそのままフレームメモリ17に格納する。また、加算装置16は、フィールドモード用縮小逆離散コサイン変換装置14又はフレームモード用縮小逆離散コサイン変換装置15により縮小逆離散コサイン変換されたマクロブロックがインター画像である場合には、そのインター画像に、フィールドモード用動き補償装置18或いはフレームモード用動き補償装置19により動き補償がされた参照画像を合成して、フレームメモリ17に格納する。
【0046】
フィールドモード用動き補償装置18は、マクロブロックの動き予測モードがフィールド動き予測モードの場合に用いられる。フィールドモード用動き補償装置18は、フレームメモリ17に記憶されている標準解像度画像の参照画像に対して、トップフィールドとボトムフィールドとの間の位相ずれ成分を考慮した形で1/4画素精度で補間処理を行い、フィールド動き予測モードに対応した動き補償をする。このフィールドモード用動き補償装置18により動き補償がされた参照画像は、加算装置16に供給され、インター画像に合成される。
【0047】
フレームモード用動き補償装置19は、マクロブロックの動き予測モードがフレーム動き予測モードの場合に用いられる。フレームモード用動き補償装置19は、フレームメモリ17に記憶されている標準解像度画像の参照画像に対して、トップフィールドとボトムフィールドとの間の位相ずれ成分を考慮した形で1/4画素精度で補間処理を行い、フレーム動き予測モードに対応した動き補償をする。このフレームモード用動き補償装置19により動き補償がされた参照画像は、加算装置16に供給され、インター画像に合成される。
【0048】
画枠変換・位相ずれ補正装置20は、フレームメモリ17が記憶した標準解像度の参照画像或いは加算装置16が合成した画像が供給され、この画像をポストフィルタリングにより、トップフィールドとボトムフィールドとの間の位相ずれ成分を補正するとともに画枠を標準解像度のテレビジョンの規格に合致するように変換する。すなわち、画枠変換・位相ずれ補正装置20は、トップフィールドの各画素の垂直方向の位相が1/2、5/2・・・となり、ボトムフィールドの各画素の垂直方向の位相が1、3・・・となる標準解像度画像を、例えば、トップフィールドの各画素の垂直方向の位相が0、2、4・・・となり、ボトムフィールドの各画素の垂直方向の位相が1、3、5・・・となるように補正する。また、画枠変換・位相ずれ補正装置20は、高解像度のテレビジョン規格の画枠を、1/4に縮小して標準解像度のテレビジョン規格の画枠に変換する。
【0049】
本発明の第1の実施の形態の画像復号装置10では、以上のような構成を有することにより、高解像度画像をMPEG2で画像圧縮したビットストリームを、復号するとともに解像度を1/2に縮小して、標準解像度画像を出力することができる。
【0050】
フレームモード用縮小逆離散コサイン変換装置15には、図3に示すように、高解像度画像を圧縮符号化したビットストリームが、1つのDCTブロック単位で入力される。
【0051】
まず、ステップS1において、この1つのDCTブロックの離散コサイン係数y(DCTブロックの全ての離散コサイン係数のうち垂直方向の係数をy1〜y8として図中に示す。)に対して、8×8の逆離散コサイン変換(IDCT8×8)を行う。逆離散コサイン変換をすることにより、8×8の復号された画素データx(DCTブロックの全ての画素データのうち垂直方向の画素データをx1〜x8として図中に示す。)を得ることができる。
【0052】
続いて、ステップS2において、この8×8の画素データxを、垂直方向に1ライン毎交互に取り出して、飛び越し走査に対応した4×4のトップフィールドの画素ブロックと、飛び越し走査に対応した4×4のボトムフィールドの画素ブロックの2つの画素ブロックに分離する。すなわち、垂直方向に1ライン目の画素データx1と、3ライン目の画素データx3と、5ライン目の画素データx5と、7ライン目の画素データx7とを取り出して、トップフィールドに対応した画素ブロックを生成する。また、垂直方向に2ライン目の画素データx2と、4ライン目の画素データx4と、6ライン目の画素データx6と、8ライン目の画素データx8とを取り出して、ボトムフィールドに対応した画素ブロックを生成する。なお、DCTブロックの各画素を飛び越し走査に対応した2つの画素ブロックに分離する処理を、以下フィールド分離という。
【0053】
続いて、ステップS3において、フィールド分離した2つの画素ブロックそれぞれに対して4×4の離散コサイン変換(DCT4×4)をする。
【0054】
続いて、ステップS4において、4×4の離散コサイン変換をして得られたトップフィールドに対応する画素ブロックの離散コサイン係数z(トップフィールドに対応する画素ブロックの全ての係数のうち垂直方向の離散コサイン係数をz1,z3,z5,z7として図中に示す。)の高域成分を間引き、2×2の離散コサイン係数から構成される画素ブロックとする。また、4×4の離散コサイン変換をして得られたボトムフィールドに対応する画素ブロックの離散コサイン係数z(ボトムフィールドに対応する画素ブロックの全ての係数のうち垂直方向の離散コサイン係数をz2,z4,z6,z8として図中に示す。)の高域成分を間引き、2×2の離散コサイン係数から構成される画素ブロックとする。
【0055】
続いて、ステップS5において、高域成分の離散コサイン係数を間引いた画素ブロックに対して、2×2の逆離散コサイン変換(IDCT2×2)を行う。2×2の逆離散コサイン変換をすることにより、2×2の復号された画素データx′(トップフィールドの画素ブロックの全ての画素データのうち垂直方向の画素データをx′1,x′3として図中に示し、また、ボトムフィールドに対応する画素ブロックの全ての画素データのうち垂直方向の画素データをx′2,x′4として図中に示す。)を得ることができる。
【0056】
続いて、ステップS6において、トップフィールドに対応する画素ブロックの画素データと、ボトムフィールドに対応する画素ブロックの画素データとを、垂直方向に1ラインずつ交互に合成して、4×4の画素データから構成される縮小逆離散コサイン変換をしたDCTブロックを生成する。なお、トップフィールドとボトムフィールドに対応した2つの画素ブロックの各画素を垂直方向に交互に合成する処理を、以下フレーム合成という。
【0057】
以上のステップS1〜ステップS6で示した処理を行うことにより、フレームモード用縮小逆離散コサイン変換装15では、図2で示したような、フィールドモード用縮小逆離散コサイン変換装置14で生成した標準解像度画像の画素の位相と同位相の画素から構成される4×4のDCTブロックを生成することができる。
【0058】
このような画像復号装置10では、フィールドモード用縮小逆離散コサイン変換装置14の4×4の縮小逆離散コサイン変換処理、及び、フレームモード用縮小逆離散コサイン変換装置15の上記ステップS1〜ステップS6による処理による縮小逆離散コサイン変換処理を、高速アルゴリズムを用いて処理してもよい。
【0059】
例えば、Wangのアルゴリズム(参考文献:Zhong DE Wang.,"Fast Algorithms for the Discrete W Transform and for the Discrete Fourier Transform",IEEE Tr.ASSP-32,NO.4,pp.803-816, Aug.1984)を用いることにより、処理を高速化することができる。
【0060】
フィールドモード用縮小逆離散コサイン変換装置14が演算をする行列を、Wangのアルゴリズムを用いて分解すると、以下の式(1)に示すように分解される。
【0061】
【数1】
Figure 0004016166
【0062】
また、図4にフィールドモード用縮小逆離散コサイン変換装置14の処理にWangのアルゴリズムを適用した場合の処理フローを示す。この処理フローに示すように、第1から第5の乗算器14a〜14e及び第1から第9の加算器14f〜14nを用いて、高速化を実現することができる。
【0063】
フレームモード用縮小逆離散コサイン変換装置15が演算をする行列[FS′]を、Wangのアルゴリズムを用いて分解すると、以下の式(2)に示すように分解される。
【0064】
【数2】
Figure 0004016166
【0065】
但し、この式(2)において、A〜Jは、以下の通りである。
【0066】
【数3】
Figure 0004016166
【0067】
また、図5にフレームモード用縮小逆離散コサイン変換装置15の処理にWangのアルゴリズムを適用した場合の処理フローを示す。この処理フローに示すように、第1から第10の乗算器15a〜15j及び第1から第13の加算器15k〜15wを用いて、高速化を実現することができる。
【0068】
以上のように本発明の第1の実施の形態の画像復号装置10では、フィールドDCTモードでは、トップフィールドとボトムフィールドとのそれぞれに4×4の縮小逆離散コサイン変換を行い標準解像度画像を復号し、フレームDCTモードでは、フレーム分離をして縮小逆離散コサイン変換を行い標準解像度画像を復号する。この画像復号装置10では、このようにフィールドDCTモードとフレームDCTモードとで異なる処理を行うため、飛び越し走査画像が有するインタレース性を損なうことなく、かつ、フィールドDCTモードとフレームDCTモードとで復号した画像の位相を同一とすることができ、出力する画像の画質を劣化させない。
【0069】
つぎに、上記可変長符号復号装置12の処理内容について、さらに詳細に説明する。
【0070】
MPEG2では、DCTブロック内の2次元配列された離散コサイン係数をビットストリームに格納するために、このDCTブロックをスキャンして1次元情報に変換し、そして、可変長符号化処理がされる。例えば、MEPE2では、図6に示すように8×8のDCT係数をスキャンするジグザグスキャン、及び、図7に示すように8×8のDCT係数をスキャンするオルタネートスキャンが規定されている。可変長符号復号装置12は、このようなDCTブロックのスキャン方式に応じて、DCTブロック内の各係数を逆スキャンして可変長符号の復号処理を行う。
【0071】
ところで、画像復号装置10におけるフィールドモード用縮小離散コサイン変換装置14では、逆離散コサイン変換をするにあたり、上述したように8×8のDCT係数のうち、低域の4×4の係数のみしか用いていない。すなわち、入力されたDCTブロックがフィールドDCTモードで離散コサイン変換されている場合には、4×4個のDCT係数しか用いていない。また、画像復号装置10におけるフレームモード用縮小離散コサイン変換装置15では、逆離散コサイン変換をするにあたり、上述したように8×8のDCT係数のうち、低域の4×8の係数のみしか用いていない。すなわち、入力されたDCTブロックがフレームDCTモードで離散コサイン変換されている場合には、4×8個のDCT係数しか用いていない。
【0072】
そのため、可変長符号復号装置12では、入力されたDCTブロックがフィールドDCTモードで離散コサイン変換されている場合には、4×4のDCT係数のみの逆スキャンを行って4×4の最高周波数成分の係数まで可変長復号し、それ以後の高周波係数については可変長復号しないようにしている。また、可変長符号復号装置12では、入力されたDCTブロックがフレームDCTモードで離散コサイン変換されている場合には、4×8のDCT係数のみの逆スキャンを行って4×8の最高周波数成分の係数まで可変長復号し、それ以後の高周波係数については可変長復号しないようにしている。
【0073】
具体的に、可変長符号復号装置12では、入力されたDCTブロックがフィールドDCTモードで離散コサイン変換されており、スキャン方式がジグザグスキャンである場合には、図8に示すように、スキャン番号で0番目から24番目までのDCT係数については逆スキャンをして可変長復号をし、25番目以降のDCT係数についてはEOB(End Of Block)信号が検出されるまで処理を行わない。(なお、図8には、DCTブロック内の各係数のスキャン番号を示している。図9〜図15についても同様である。)また、可変長符号復号装置12では、入力されたDCTブロックがフレームDCTモードで離散コサイン変換されており、スキャン方式がオルタネートスキャンである場合には、図9に示すように、スキャン番号で0番目から25番目までのDCT係数については逆スキャンをして可変長復号をし、26番目以降のDCT係数についてはEOB信号が検出されるまで処理を行わない。また、可変長符号復号装置12では、入力されたDCTブロックがフレームDCTモードで離散コサイン変換されており、スキャン方式がジグザグスキャンである場合には、図10に示すように、スキャン番号で0番目から49番目までのDCT係数については逆スキャンをして可変長復号をし、50番目以降のDCT係数についてはEOB信号が検出されるまで処理を行わない。また、可変長符号復号装置12では、入力されたDCTブロックがフレームDCTモードで離散コサイン変換されており、スキャン方式がオルタネートスキャンである場合には、図11に示すように、スキャン番号で0番目から33番目までのDCT係数については逆スキャンをして可変長復号をし、34番目以降のDCT係数についてはEOB信号が検出されるまで処理を行わない。
【0074】
可変長符号復号装置12では、以上のように後段の処理で用いられない冗長な高周波係数の処理を削除することにより、画質の劣化なく処理量を削減することができる。
【0075】
また、可変長符号復号装置12では、画像復号装置10の処理能力に応じて、以下のようにさらに処理量の削減をすることができる。
【0076】
例えば、可変長符号復号装置12では、入力されたDCTブロックがフィールドDCTモードで離散コサイン変換されており、スキャン方式がジグザグスキャンである場合には、図8で示した逆スキャン処理に代えて、図12に示すように、スキャン番号で0番目から13番目までのDCT係数については逆スキャンをして可変長復号をし、14番目以降のDCT係数についてはEOB(End Of Block)信号が検出されるまで処理を行わない。このとき、逆スキャンを行わなかったDCT係数のうち可変長符号復号装置12の出力となる4×4係数内に含まれるDCT係数(この場合、17番目、18番目、24番目のDCT係数)に関してはその値を0に置き換える。
【0077】
このように処理することにより、図8で示した逆スキャン処理でのスキャン数(25個)に対して、図12で示した逆スキャン処理でのスキャン数(14個)は、非常に少なくなっている。それにも拘わらず、4×4のDCT係数のうち逆スキャンをしなかったDCT係数(17番目、18番目、24番目)の数は3個である。すなわち、4×4のDCT係数のうち逆スキャンをしなかったDCT係数の数に対してその処理量が大幅に処理が減少する。従って、可変長符号復号装置12では、画質の劣化を最小限に抑えながら、処理量を大幅に減少させることができる。
【0078】
同様に、入力されたDCTブロックがフィールドDCTモードで離散コサイン変換されており、スキャン方式がオルタネートスキャンである場合には、可変長符号復号装置12では、図9で示した逆スキャン処理に代えて、図13に示すように、スキャン番号で0番目から20番目までのDCT係数については逆スキャンをして可変長復号をし、21番目以降のDCT係数についてはEOB信号が検出されるまで処理を行わない。このとき、逆スキャンを行わなかったDCT係数のうち可変長符号復号装置12の出力となる4×4係数内に含まれるDCT係数(この場合、21番目、24番目、25番目のDCT係数)に関してはその値を0に置き換える。
【0079】
また、入力されたDCTブロックがフレームDCTモードで離散コサイン変換されており、スキャン方式がジグザグスキャンである場合には、可変長符号復号装置12では、図10で示した逆スキャン処理に代えて、図14に示すように、スキャン番号で0番目から24番目までのDCT係数については逆スキャンをして可変長復号をし、25番目以降のDCT係数についてはEOB信号が検出されるまで処理を行わない。このとき、逆スキャンを行わなかったDCT係数のうち可変長符号復号装置12の出力となる4×8係数内に含まれるDCT係数(この場合、21番目、32番目、33番目、34番目、35番目、36番目、37番目、38番目、47番目、48番目、49番目のDCT係数)に関してはその値を0に置き換える。
【0080】
また、入力されたDCTブロックがフレームDCTモードで離散コサイン変換されており、スキャン方式がオルタネートスキャンである場合には、図11に示した逆スキャン処理に代えて、可変長符号復号装置12では、図15に示すように、スキャン番号で0番目から25番目までのDCT係数については逆スキャンをして可変長復号をし、30番目以降のDCT係数についてはEOB信号が検出されるまで処理を行わない。このとき、逆スキャンを行わなかったDCT係数のうち可変長符号復号装置12の出力となる4×8係数内に含まれるDCT係数(この場合、30番目、31番目、32番目、33番目のDCT係数)に関してはその値を0に置き換える。
【0081】
なお、スキャン番号でどこまでのDCT係数を逆スキャンするかは、画像復号装置10の処理能力と画質の劣化量とに応じて定めれば良く、上述の例に限られない。
【0082】
また、可変長符号復号装置12では、例えば当該DCTブロックがイントラ画像に属するものであるかインター画像に属するものか、或いは、イントラマクロブロックに属するものであるかインターマクロブロックに属するものであるかを検出し、その検出した情報に基づき、スキャン番号でどこまでのDCT係数を逆スキャンするかを可変して制御しても良い。これらのビットストリームの情報はビットストリーム解析装置11により解析されて供給される。
【0083】
例えば、可変長符号復号装置12は、復号するDCTブロックがイントラ画像或いはイントラマクロブロックに属するものである場合には、そのDCTブロックの高周波成分まで復号できるように、図8に示すように4×4係数内に含まれるDCT係数を全て可変長復号する。そして、可変長符号復号装置12は、復号するDCTブロックがインター画像或いはインターマクロブロックに属するものである場合には、そのDCTブロックの全ての周波数成分を復号せずに、図12に示すように4×4係数内に含まれるDCT係数のうち一部の高周波成分を除き可変長復号する。
【0084】
このように画像復号装置10では、可変長符号復号装置12がスキャン番号でどこまでのDCT係数を逆スキャンするかを可変することにより、画質の劣化を最小限に抑えながら処理量を減少させることができる。
【0085】
なお、処理量の削減のための切換のパラメータとしては、例えば、処理されるデータが輝度信号に属するものか或いは色差信号に属するものかという情報に基づいて切り換えても良いし、処理されるデータがIピクチャに属するものかPピクチャに属するものか或いはBピクチャに属するものかという情報に基づいて切り換えても良い。
【0086】
つぎに、上記フレームモード用縮小逆離散コサイン変換装置15の処理についてさらに説明する。
【0087】
フィールドモード用縮小逆離散コサイン変換装置14では4×4係数の縮小逆離散コサイン変換を行うのに対して、フレームモード用縮小逆離散コサイン変換装置15では4×8係数の縮小逆離散コサイン変換を行う。そのため、画像復号装置10では、入力されたビットストリームにフレームDCTモードのDCTブロックを多く含んでいると演算量が増大する。このことから、この画像復号装置10では、フレームモード用縮小逆離散コサイン変換装置15を、その処理能力に応じて以下のように処理させて演算量を削減してもよい。
【0088】
フレームモード用縮小逆離散コサイン変換装置15では、例えば、図16に示すように、4×8のDCT係数のうち、垂直方向の高周波成分の4×2係数(例えば図16中白丸で示した位置の係数)を0に置き換えた後、図3に示したステップS1からステップS6までの処理を行う。処理する係数の一部を0と置き換えることにより演算量が削減できる。なお、係数の一部を0と置き換えても置き換えなくても処理工程は同じであるので、出力画素の位相は変わらず位相の違いに基づく誤差要因とはならない。
【0089】
また、フレームモード用縮小逆離散コサイン変換装置15では、図16に示したような係数の置き換えではなく、例えば、図17に示すように垂直方向の中間周波数成分の4×2係数(例えば図17中白丸で示した位置の係数)を0と置き換えても良いし、図18に示すように垂直方向の中間周波数成分の4×4係数(例えば図18中白丸で示した位置の係数)を0と置き換えても良い。これは、入力された上位レイヤーの画像が飛び越し走査画像である場合、離散コサイン係数の高周波成分にフィールド間の差分情報が含まれていることがあるからである。例えば、被写体を横方向にパンニングした場合など、フィールド間の差分情報が高周波成分に含まれる。そのため、飛び越し走査画像である場合には、図16に示したように垂直方向の高周波成分の4×2係数を0に置き換えるよりも、この図17及び図18に示したように垂直方向の中間周波数成分の係数を0と置き換えた方が、画質の劣化が少なくなる。
【0090】
また、フレームモード用縮小逆離散コサイン変換装置15では、ビットストリーム解析装置11により、例えば処理するDCTブロックがIピクチャ又はPピクチャに属するものであるか、或いは、Bピクチャに属するものであるかを検出し、その検出した情報に基づき、4×8の全ての係数を縮小逆離散コサイン変換をするか或いは一部の係数を0と置き換えて縮小逆離散コサイン変換をするかを切り換えても良い。
【0091】
例えば、フレームモード用縮小逆離散コサイン変換装置15では、Iピクチャ及びPピクチャは画質の劣化が他の画像に伝搬することから、Iピクチャ及びPピクチャに対しては4×8係数内の全ての係数を縮小逆離散コサイン変換を行い、Bピクチャは画質の劣化が他の画像に伝搬しないことから、Bピクチャに対しては一部の係数を0と置き換えて縮小離散コサイン変換をするようにして演算量を削減する。また、演算量の削減のための切換のパラメータとしては、例えば、処理されるデータが輝度信号に属するものか或いは色差信号に属するものかという情報に基づいて切り換えても良いし、処理されるデータがイントラマクロブロックに属するものか或いはインターマクロブロックに属するものかという情報に基づいて切り換えても良い。
【0092】
このように画像復号装置10では、フレームモード用縮小逆離散コサイン変換装置15が逆離散コサイン変換をする一部の係数を0と置き換えることにより、画質の劣化を最小限に抑え、演算量を削減することができる。
【0093】
また、この画像復号装置10では、フレームモード用縮小逆離散コサイン変換装置15が高速アルゴリズムを用いて処理を行った場合、その回路規模を簡素化することができる。例えば、図18に示したような垂直方向の中間周波数成分の4×4の係数を0と置き換えた場合には、図5に示した処理フローが、図19に示すような第1から第6の乗算器15′a〜15′f及び第1から第9の加算器15′g〜15′oからなる処理フローに簡素化することができる。この図19に示す処理フローは、図4で示したフィールドモード用縮小逆離散コサイン変換装置14の高速アルゴリズムの処理フローと相似性が高いので共通の回路を用いることができ、さらに回路規模を削減することができる。
【0094】
また、この画像復号装置10では、上記可変長符号復号装置12で行われる処理量の削減動作と上記フレームモード用縮小逆離散コサイン変換装置15の演算量の削減動作とを組み合わせて用いることにより、効率的に全体の処理量を削減することができる。例えば、可変長符号復号装置12は、フレームモード用縮小逆離散コサイン変換装置15が0と置く係数に併せて各DCT係数を逆スキャンを行い、また、フレームモード用縮小逆離散コサイン変換装置15が0と置く係数に併せて逆スキャンする係数の数を可変することにより、効率的に処理を行うことができる。
【0095】
例えば、可変長符号復号装置12は、フレームモード用縮小逆離散コサイン変換装置15が図16に示したような垂直方向の高周波成分の2×2係数を0と置いた縮小逆離散コサイン変換をする場合には、図20に示すように、スキャン番号で0番目から38番目までのDCT係数については逆スキャンをし可変長復号をして、39番目以降のDCT係数についてはEOB信号が検出されるまで処理を行わないようにする。また、例えば、可変長符号復号装置12は、図21に示すように、スキャン番号で0番目から24番目までのDCT係数については逆スキャンをして可変長復号し、25番目以降のDCT係数についてはEOB信号が検出されるまで処理を行わないようにしてもよい。なお、図20及び図21にはジグザグスキャンの場合を示したが、オルタネートスキャンに適用しても良い。
【0096】
(第2の実施の形態)
つぎに、本発明の第2の実施の形態の画像復号装置について説明する。なお、この第2の実施の形態の画像復号装置の説明にあたり、上記第1の画像復号装置10と同一の構成要素については図面中に同一の符号を付け、その詳細な説明を省略する。
【0097】
図22に示すように、本発明の第2の実施の形態の画像復号装置30は、垂直方向の有効ライン数が例えば1152本の高解像度画像をMPEG2で画像圧縮したビットストリームが入力され、この入力されたビットストリームを復号するとともに1/2の解像度に縮小して、垂直方向の有効ライン数が例えば576本の標準解像度画像を出力する装置である。
【0098】
この画像復号装置30は、圧縮された高解像度画像のビットストリームが供給され、このビットストリームを解析するビットストリーム解析装置11と、データの発生頻度に応じた符号長を割り当てる可変長符号化がされた上記ビットストリームを復号する可変長符号復号装置12と、DCTブロックの各係数に量子化ステップを掛ける逆量子化装置13と、フィールドDCTモードで離散コサイン変換がされたDCTブロックに対して縮小逆離散コサイン変換をして標準解像度画像を生成するフィールドモード用位相補正縮小逆離散コサイン変換装置31と、フレームDCTモードで離散コサイン変換がされたDCTブロックに対して縮小逆離散コサイン変換をして標準解像度画像を生成するフレームモード用位相補正縮小逆離散コサイン変換装置32と、縮小逆離散コサイン変換がされた標準解像度画像と動き補償がされた参照画像とを加算する加算装置16と、参照画像を一時記憶するフレームメモリ17と、フレームメモリ17が記憶した参照画像にフィールド動き予測モードに対応した動き補償をするフィールドモード用動き補償装置18と、フレームメモリ17が記憶した参照画像にフレーム動き予測モードに対応した動き補償をするフレームモード用動き補償装置19と、フレームメモリ17に記憶した画像に対して、画枠変換をしてモニタ等に表示するための標準解像度の画像データを出力する画枠変換装置33とを備えている。
【0099】
可変長符号復号装置12は、入力されたDCTブロックのスキャン方式に応じて、DCTブロック内の各係数を逆スキャンして可変長符号の復号処理を行う。DCTブロック内のスキャン方式には、例えばジグザグスキャン、オルタネートスキャンがある。このスキャン方式は、前段のビットストリーム解析装置11により解析される。
【0100】
フィールドモード用位相補正縮小逆離散コサイン変換装置31は、入力されたビットストリームのマクロブロックが、フィールドDCTモードで離散コサイン変換されている場合に用いられる。フィールドモード用位相補正縮小逆離散コサイン変換装置31は、フィールドDCTモードで離散コサイン変換がされたマクロブロック内の8×8個の係数が示されたDCTブロックの全ての係数のうち4×8の係数のみに対して、トップフィールドとボトムフィールドの垂直方向の画素の位相ずれを補正した逆離散コサイン変換を行う。すなわち、水平方向に対して低域の4点の離散コサイン係数に基づき逆離散コサイン変換を行い、垂直方向に対して8点の離散コサイン係数に基づき位相ずれを補正した逆離散コサイン変換を行う。具体的には、トップフィールドの垂直方向の各画素に対しては、1/4画素分の位相補正を行い、ボトムフィールドの垂直方向の各画素に対しては、3/4画素分の位相補正を行う。そして、以上のような縮小逆離散コサイン変換を行うことにより、図23に示すような、トップフィールドの各画素の垂直方向の位相が1/4、9/4・・・となり、ボトムフィールドの各画素の垂直方向の位相が5/4、13/4・・・となる標準解像度画像(下位レイヤー)を生成する。
【0101】
フレームモード用位相補正縮小逆離散コサイン変換装置32は、入力されたビットストリームのマクロブロックが、フレームDCTモードで離散コサイン変換されている場合に用いられる。フレームモード用位相補正縮小逆離散コサイン変換装置32は、フレームDCTモードで離散コサイン変換がされたマクロブロック内の8×8個の係数が示されたDCTブロックに対して、詳細を後述する処理により、トップフィールドとボトムフィールドの垂直方向の画素の位相ずれを補正した縮小逆離散コサイン変換を行う。そして、フィールドモード用位相補正縮小逆離散コサイン変換装置31で生成した標準解像度画像の画素の位相と同位相の画像を生成する。すなわち、縮小逆離散コサイン変換を行うことにより、図23に示すような、トップフィールドの各画素の垂直方向の位相が1/4、9/4・・・となり、ボトムフィールドの各画素の垂直方向の位相が5/4、13/4・・・となる標準解像度画像(下位レイヤー)を生成する。
【0102】
フィールドモード用動き補償装置18は、マクロブロックの動き予測モードがフィールド動き予測モードの場合に用いられる。フィールドモード用動き補償装置18は、フレームメモリ17に記憶されている標準解像度画像の参照画像に対して、1/4画素精度で補間処理を行い、フィールド動き予測モードに対応した動き補償をする。このフィールドモード用動き補償装置18により動き補償がされた参照画像は、加算装置16に供給され、インター画像に合成される。
【0103】
フレームモード用動き補償装置19は、マクロブロックの動き予測モードがフレーム動き予測モードの場合に用いられる。フレームモード用動き補償装置19は、フレームメモリ17に記憶されている標準解像度画像の参照画像に対して、1/4画素精度で補間処理を行い、フレーム動き予測モードに対応した動き補償をする。このフレームモード用動き補償装置19により動き補償がされた参照画像は、加算装置16に供給され、インター画像に合成される。
【0104】
画枠変換装置33は、フレームメモリ17が記憶した標準解像度の参照画像が供給され、この参照画像をポストフィルタリングにより、画枠を標準解像度のテレビジョンの規格に合致するように変換する。すなわち、画枠変換装置33は、高解像度のテレビジョン規格の画枠を、1/4に縮小した標準解像度のテレビジョン規格の画枠に変換する。なお、この画枠変換装置33は、フレームメモリ17に格納されている画像がトップフィールドとボトムフィールドとの間に位相ずれが生じていないので、上述した第1の実施の形態の画枠変換・位相ずれ補正装置20と異なり、画素の位相ずれの補正は行わなくて良い。
【0105】
本発明の第2の実施の形態の画像復号装置30では、以上のような構成を有することにより、高解像度画像をMPEG2で画像圧縮したビットストリームを、復号するとともに1/2の解像度に縮小して、標準解像度画像を出力することができる。
【0106】
つぎに、上記フィールドモード用位相補正縮小逆離散コサイン変換装置31の処理内容について、さらに詳細に説明する。
【0107】
フィールドモード用位相補正縮小逆離散コサイン変換装置31には、図24に示すように、高解像度画像を圧縮符号化したビットストリームが、1つのDCTブロック単位で入力される。
【0108】
まず、ステップS21において、この1つのDCTブロックの離散コサイン係数y(DCTブロックの全ての離散コサイン係数のうち垂直方向の係数をy1〜y8として図中に示す。)に対して、8×8の逆離散コサイン変換(IDCT8×8)を行う。逆離散コサイン変換をすることにより、8×8の復号された画素データx(DCTブロックの全ての画素データのうち垂直方向の画素データをx1〜x8として図中に示す。)を得ることができる。
【0109】
続いて、ステップS22において、この8×8の画素データを、4×8の位相補正フィルタ行列によりDCTブロック内で閉じた変換を行い、位相補正した画素データx′(全ての画素データのうち垂直方向の画素データをx′1,x′2,x′3,x′4として図中に示す。)を得る。
【0110】
以上のステップS21〜ステップS22の処理を行うことにより、フィールドモード用位相補正縮小逆離散コサイン変換装置31では、トップフィールドとボトムフィールドとの間で、画素の位相ずれがない画像を生成することができる。
【0111】
また、フィールドモード用位相補正縮小逆離散コサイン変換装置31では、図25に示すように、以上の処理を1つの行列(4×8位相補正IDCT行列)を用いて演算してもよい。
【0112】
つぎに、上記フィールドモード用位相補正縮小逆離散コサイン変換装置31により演算が行われる4×8位相補正IDCT行列の設計手順を図26に示し、この4×8位相補正IDCT行列について説明する。この4×8位相補正IDCT行列は、プロトタイプフィルタをポリフェーズ分解して作成される。
【0113】
ここで、画像復号装置30では、図27(a)に示すような周波数特性の高解像度画像を、図27(b)に示すような信号帯域がローパスフィルタにより半分とされた周波数特性の1/2の解像度の標準解像度画像に、ダウンデコードする。そのため、プロトタイプフィルタに求められる周波数特性は、標準解像度画像の1/4位相の画素値を得ることができるように、図27(c)に示すような4倍のオーバーサンプリングを行った周波数特性となる。
【0114】
まず、ステップS31において、ナイキスト周波数以下を等間隔に{(N−1)/2}分割し、その周波数サンプルからゲインリストを作成する。例えば、図28に示すように、ナイキスト周波数以下の周波数を等間隔に(57−1)/2=28分割して、29個のゲインリストを作成する。
【0115】
続いて、ステップS32において、周波数サンプリング法により、57個のインパルス応答を作成する。すなわち、29個のゲインリストを逆離散フーリエ変換して、57個のFIRフィルタのインパルス応答を作成する。この57個のインパルス応答を図29に示す。
【0116】
続いて、ステップS33において、このインパルス応答に窓関数をかけて、57タップのフィルタ係数c1〜c57を作成する。
【0117】
このステップS33で作成されたフィルタがプロトタイプフィルタとなる。
【0118】
続いて、ステップS34において、57個のフィルタ係数c1〜c57を有するプロトタイプフィルタをポリフェーズ分解して、1/4位相補正特性を有する14個のフィルタ係数c′1〜c′14のみを取り出し、ポリフェーズフィルタを作成する。
【0119】
ここで、ポリフェーズフィルタとは、図30に示すように、入力信号をN倍にオーバーサンプリングし、オーバーサンプリングして得られた信号からN画素間隔で画素を抜き出すポリフェーズ分解を行い、入力信号と1/N位相のずれをもった信号を出力するフィルタである。例えば、入力信号に対して1/4位相ずれた信号を得るためには、図31に示すように、入力信号を4倍にオーバサンプリングして、この信号から1/4位相ずれた信号を取り出せばよい。
【0120】
具体的に、57個の係数を有するプロトタイプフィルタc1〜c57から作成された14個のフィルタ係数c′1〜c′14は、例えば、以下の式(3)で示すような係数となる。
【0121】
【数4】
Figure 0004016166
【0122】
このようにポリフェーズフィルタを作成した後、トップフィールド用の4×8位相補正IDCT行列と、ボトムフィールド用の4×8位相補正IDCT行列とで、設計処理が分割する。
【0123】
まず、トップフィールド用の4×8位相補正IDCT行列を作成する場合には、ステップS35において、フィルタ係数が1/4位相補正特性となるように、ポリフェーズ分解された14個のフィルタ係数c′1〜c′14から、群遅延が1/4、9/4、17/4、25/4位相となる8個の係数を取り出し、4×8位相補正フィルタ行列を作成する。このように作成された4×8位相補正フィルタを、図32に示す。
【0124】
例えば、上記式(3)の14個のフィルタ係数c′1〜c′14から、以下の式(4)で示すような係数が取り出される。
【0125】
【数5】
Figure 0004016166
【0126】
式(4)の係数から4×8位相補正フィルタ行列を求めると、以下の式(5)で示すような行列となる。
【0127】
【数6】
Figure 0004016166
【0128】
この式(5)で示した4×8位相補正フィルタ行列を正規化すると、以下の式(6)に示すような行列となる。
【0129】
【数7】
Figure 0004016166
【0130】
そして、ステップS36において、8×8のIDCT行列と、この4×8位相補正フィルタ行列とを掛け合わせ、トップフィールド用の4×8位相補正IDCT行列を作成する。
【0131】
8×8のIDCT行列と上記式(6)で示す4×8の位相補正フィルタとを掛け合わせた4×8位相補正IDCT行列は、以下の式(7)に示すような行列となる。
【0132】
【数8】
Figure 0004016166
【0133】
一方、ボトムフィールド用の4×8位相補正IDCT行列を作成する場合には、ステップS37において、フィルタ係数が3/4位相補正特性となるように、ポリフェイズ分解された14個のフィルタ係数c′1〜c′14を、左右反転させる。
【0134】
続いて、ステップS38において、左右反転させた14個のフィルタ係数c′1〜c′14から、群遅延が3/4、11/4、19/4、27/4位相となる8個の係数を取り出し、4×8位相補正フィルタ行列を作成する。
【0135】
そして、ステップS39において、8×8のIDCT行列と、この4×8位相補正フィルタ行列とを掛け合わせ、ボトムフィールド用の4×8位相補正IDCT行列を作成する。
【0136】
このようにステップS31〜ステップS39の各処理を行うことによって、フィールドモード用位相補正縮小逆離散コサイン変換装置31が演算を行う4×8位相補正IDCT行列を作成することができる。
【0137】
以上のように、フィールドモード用位相補正縮小逆離散コサイン変換装置31では、この4×8位相補正IDCT行列と、入力されたフィールドDCTモードで離散コサイン変換がされたDCTブロックの係数とを行列演算することにより、トップフィールドとボトムフィールドとの間の位相ずれがない、標準解像度の画像を復号することができる。すなわち、このフィールドモード用位相補正縮小逆離散コサイン変換装置31では、図23に示すような、トップフィールドの各画素の垂直方向の位相が1/4、9/4・・・となり、ボトムフィールドの各画素の垂直方向の位相が5/4、13/4・・・となる標準解像度画像(下位レイヤー)を生成することができる。
【0138】
つぎに、上記フレームモード用位相補正縮小逆離散コサイン変換装置32の処理内容について、さらに詳細に説明する。
【0139】
フレームモード用位相補正縮小逆離散コサイン変換装置32には、図33に示すように、高解像度画像を圧縮符号化したビットストリームが、1つのDCTブロック単位で入力される。
【0140】
まず、ステップS41において、この1つのDCTブロックの離散コサイン係数yに対して、8×8の逆離散コサイン変換を行う。続いて、ステップS42において、この8×8の画素データをフィールド分離する。続いて、ステップS43において、フィールド分離した2つの画素ブロックそれぞれに対して4×4の離散コサイン変換をする。続いて、ステップS44において、各画素ブロックの離散コサイン係数zの高域成分を間引き、2×2の離散コサイン係数から構成される画素ブロックとする。以上のステップS41からステップS44までの処理は、図3に示す処理におけるステップS1からステップS4までの処理と同一である。
【0141】
続いて、ステップS45において、トップフィールドに対応する画素ブロックに対しては、1/4画素分の位相補正をする2×4位相補正IDCT行列を用いて、垂直方向の画素の位相ずれを補正した逆離散コサイン変換を行う。また、ボトムフィールドに対応する画素ブロックに対しては、3/4画素分の位相補正をする2×4位相補正IDCT行列を用いて、垂直方向の画素の位相ずれを補正した逆離散コサイン変換を行う。以上のような縮小逆離散コサイン変換を行うことにより、2×2の画素データx′(トップフィールドに対応する画素ブロックの全ての画素データのうち垂直方向の画素データをx′1,x′3として図中に示し、また、ボトムフィールドに対応する画素ブロックの全ての画素データのうち垂直方向の画素データをx′2,x′4として図中に示す。)を得ることができる。この画素データx′は、トップフィールドの各画素の垂直方向の位相が1/4、9/4となり、ボトムフィールドの各画素の垂直方向の位相が5/4、13/4となる標準解像度画像(下位レイヤー)を生成する。なお、この2×4位相補正IDCT行列の設計方法については詳細を後述する。
【0142】
続いて、ステップS46において、トップフィールドに対応する画素ブロックの画素データとボトムフィールドの画像ブロックの画素データとをフレーム合成する。このステップS46の処理は、図3に示す処理におけるステップS6の処理と同一である。
【0143】
以上のステップS41〜ステップS46の処理を行うことにより、フレームモード用位相補正縮小逆離散コサイン変換装置32では、画素間の位相ずれがない画像を生成することができる。また、上記フィールドモード用位相補正縮小逆離散コサイン変換装置31で復号した画像と位相ずれが生じない画像を生成することができる。
【0144】
また、フレームモード用位相補正縮小逆離散コサイン変換装置32では、以上のステップS41からステップS46までの処理を1つの行列を用いて演算してもよい。
【0145】
つぎに、フレームモード用位相補正縮小逆離散コサイン変換装置32のステップS45で演算が行われる2×4位相補正IDCT行列の設計手順を図34に示し、この2×8位相補正IDCT行列について説明する。
【0146】
まず、ステップS51において、ナイキスト周波数以下を等間隔に{(N−1)/2}分割し、その周波数サンプルからゲインリストを作成する。例えば、図35に示すように、ナイキスト周波数以下の周波数を等間隔に(25−1)/2=12分割して、13個のゲインリストを作成する。
【0147】
続いて、ステップS52において、周波数サンプリング法により、25個のインパルス応答を作成する。すなわち、13個のゲインリストを逆離散フーリエ変換して、25個のFIRフィルタのインパルス応答を作成する。この25個のインパルス応答を図36に示す。
【0148】
続いて、ステップS53において、このインパルス応答に窓関数をかけて、25タップのフィルタ係数c1〜c25を作成する。
【0149】
このステップS53で作成されたフィルタがプロトタイプフィルタとなる。
【0150】
続いて、ステップS54において、25個のフィルタ係数c1〜c25を有するプロトタイプフィルタをポリフェーズ分解して、1/4位相補正特性を有する6個のフィルタ係数c′1〜c′6のみを取り出し、ポリフェーズフィルタを作成する。
【0151】
具体的に、57個の係数を有するプロトタイプフィルタc1〜c25から作成された14個のフィルタ係数c′1〜c′6は、例えば、以下の式(8)で示すような係数となる。
【0152】
【数9】
Figure 0004016166
【0153】
このようにポリフェーズフィルタを作成した後、トップフィールド用の2×4位相補正IDCT行列と、ボトムフィールド用の2×4位相補正IDCT行列とで、設計処理が分割する。
【0154】
まず、トップフィールド用の2×4位相補正IDCT行列を作成する場合には、ステップS55において、ポリフェーズ分解された6個のフィルタ係数c′1〜c′6から、群遅延が1/4、9/4位相となるように、それぞれ2個の係数を取り出し、2×4位相補正フィルタ行列を作成する。このように作成された2×4位相補正フィルタを、図37に示す。
【0155】
例えば、上記式(8)の6個のフィルタ係数c′1〜c′6から、以下の式(9)で示すような係数が取り出される。
【0156】
【数10】
Figure 0004016166
【0157】
式(9)の係数から2×4位相補正フィルタ行列を求めると、以下の式(10)で示すような行列となる。
【0158】
【数11】
Figure 0004016166
【0159】
この式(10)で示した2×4位相補正フィルタ行列を正規化すると、以下の式(11)に示すような行列となる。
【0160】
【数12】
Figure 0004016166
【0161】
そして、ステップS56において、4×4のIDCT行列と、この2×4位相補正フィルタ行列とを掛け合わせ、トップフィールド用の2×4位相補正IDCT行列を作成する。
【0162】
2×4のIDCT行列と上記式(11)で示す2×4の位相補正フィルタとを掛け合わせた2×4位相補正IDCT行列は、以下の式(12)に示すような行列となる。
【0163】
【数13】
Figure 0004016166
【0164】
一方、ボトムフィールド用の2×4位相補正IDCT行列を作成する場合には、ステップS57において、フィルタ係数が3/4位相補正特性となるように、ポリフェイズ分解された6個のフィルタ係数c′1〜c′6を、左右反転させる。
【0165】
続いて、ステップS58において、左右反転させた6個のフィルタ係数c′1〜c′6から、群遅延が3/4、11/4位相となるように、それぞれ2個の係数を取り出し、2×4位相補正フィルタ行列を作成する。
【0166】
そして、ステップS59において、4×4のIDCT行列と、この2×4位相補正フィルタ行列とを掛け合わせ、ボトムフィールド用の2×4位相補正IDCT行列を作成する。
【0167】
以上のようにステップS51〜ステップS59の各処理を行うことによって、フレームモード用位相補正縮小逆離散コサイン変換装置32が上記ステップS45で演算を行う2×4位相補正IDCT行列を作成することができる。
【0168】
以上のように本発明の第2の実施の形態の画像復号装置30では、フィールドDCTモードでは、トップフィールドとボトムフィールドとのそれぞれに4×4の縮小逆離散コサイン変換を行うとともに位相補正をして標準解像度画像を復号し、フレームDCTモードでは、フレーム分離をして縮小逆離散コサイン変換を行うとともに位相補正をして標準解像度画像を復号する。この画像復号装置30では、このようにフィールドDCTモードとフレームDCTモードとでそれぞれで処理を行うため飛び越し走査画像が有するインタレース性を損なうことなく、かつ、縮小逆離散コサイン変換を行うときに生じるトップフィールドとボトムフィールドとの間の位相ずれをなくし、出力する画像の画質を劣化させない。即ち、この画像復号装置30では、フレームメモリ17に格納された復号画像を出力する際に、位相補正をする必要が無く、処理が簡易化するとともに画質の劣化を生じさせない。
【0169】
つぎに、上記フレームモード用位相補正縮小逆離散コサイン変換装置32の処理についてさらに説明する。
【0170】
フィールドモード用位相補正縮小逆離散コサイン変換装置31では4×4係数の縮小逆離散コサイン変換を行うのに対して、32では4×8係数の縮小逆離散コサイン変換を行う。そのため、画像復号装置30では、入力されたビットストリームにフレームDCTモードのDCTブロックを多く含んでいると処理量が増大する。このことから、この画像復号装置30では、フレームモード用位相補正縮小逆離散コサイン変換装置32を、上述した第1の実施の形態の画像復号装置10のフレームモード用縮小逆離散コサイン変換装置15と同様に、その処理能力に応じて、その処理量を削減してもよい。
【0171】
フレームモード用位相補正縮小逆離散コサイン変換装置32では、例えば、図16に示すように、4×8のDCT係数のうち、垂直方向の高周波成分の4×2係数を0に置き換えた後、図33に示したステップS41からステップS46までの処理を行う。処理する係数の一部を0と置き換えることにより処理量が削減できる。なお、係数の一部を0と置き換えても置き換えなくても処理工程は同じであるので、出力画素の位相は変わらず位相の違いに基づく誤差要因とはならない。
【0172】
また、フレームモード用位相補正縮小逆離散コサイン変換装置32では、図16に示したような係数の置き換えではなく、例えば、図17に示すように垂直方向の中間周波数成分の4×2係数を0と置き換えても良いし、図18に示すように垂直方向の中間周波数成分の4×4係数を0と置き換えても良い。
【0173】
また、フレームモード用位相補正縮小逆離散コサイン変換装置32では、ビットストリーム解析装置11により、例えば処理するDCTブロックがIピクチャ又はPピクチャに属するものであるか、或いは、Bピクチャに属するものであるかを検出し、その検出した情報に基づき、4×8の全ての係数を縮小逆離散コサイン変換をするか或いは一部の係数を0と置き換えて縮小逆離散コサイン変換をするかを切り換えても良い。
【0174】
例えば、フレームモード用位相補正縮小逆離散コサイン変換装置32では、Iピクチャ及びPピクチャは画質の劣化が他の画像に伝搬することから、Iピクチャ及びPピクチャに対しては4×8係数内の全ての係数を縮小逆離散コサイン変換を行い、Bピクチャは画質の劣化が他の画像に伝搬しないことから、Bピクチャに対しては一部の係数を0と置き換えて縮小離散コサイン変換をするようにして処理量を削減する。また、処理量の削減のための切換のパラメータとしては、例えば、処理されるデータが輝度信号に属するものか或いは色差信号に属するものかという情報に基づいて切り換えても良いし、処理されるデータがイントラマクロブロックに属するものか或いはインターマクロブロックに属するものかという情報に基づいて切り換えても良い。
【0175】
このように画像復号装置30では、フレームモード用位相補正縮小逆離散コサイン変換装置32が逆離散コサイン変換をする一部の係数を0と置き換えることにより、画質の劣化を最小限に抑え、処理量を削減することができる。
【0176】
また、この画像復号装置30では、上記第1の実施の形態と同様に、上記可変長符号復号装置12で行われる処理量の削減動作と上記フレームモード用位相補正縮小逆離散コサイン変換装置32の処理量の削減動作とを組み合わせて用いることにより、効率的に全体の処理量を削減することができる。例えば、可変長符号復号装置12は、フレームモード用位相補正縮小逆離散コサイン変換装置32が0と置く係数に併せて各DCT係数を逆スキャンを行い、また、フレームモード用縮小逆離散コサイン変換装置15が0と置く係数に併せて逆スキャンする係数の数を可変することにより、効率的に処理を行うことができる。
【0177】
以上本発明の第1〜第2の実施の形態の画像復号装置について説明したが、本発明で処理されるデータは、MPEG2方式の画像データに限られない。すなわち、所定の画素ブロック単位で動き予測をすることによる予測符号化、及び、所定の画素ブロック単位で直交変換することによる圧縮符号化をした第1の解像度の圧縮画像データであればどのようなデータであってもよい。例えば、ウェーブレット方式等を用いた圧縮画像データであってもよい。
【0178】
【発明の効果】
本発明にかかる画像復号装置及び画像復号方法では、可変長復号における逆スキャン処理でのスキャン数は第1の解像度の圧縮画像データのビットストリームの解析結果に基づいて復号する画像データの種類に応じて切り換え設定され、逆直交変換がされる低周波成分の係数のうちの最高周波数成分未満の係数まで可変長復号し、それ以上の周波数成分の係数を可変長復号しない。このことにより、本発明では、縮小逆離散コサイン変換の際に復号しない冗長な情報の可変長復号を行わず、画質の劣化を最小限に抑えながら、演算能力に応じた処理量の削減をすることができる。
【図面の簡単な説明】
【図1】本発明の第1の実施の形態の画像復号装置のブロック図である。
【図2】上記第1の実施の形態の画像復号装置のフレームメモリに格納される参照画像の垂直方向の画素の位相を説明するための図である。
【図3】上記第1の実施の形態の画像復号装置のフレームモード用縮小逆離散コサイン変換装置の処理の内容を説明するための図である。
【図4】Wangのアルゴリズムを上記第1の実施の形態の画像復号装置のフィールドモード用縮小逆離散コサイン変換装置の処理に適用した場合の演算フローを示す図である。
【図5】Wangのアルゴリズムを上記第1の実施の形態の画像復号装置のフレームモード用縮小逆離散コサイン変換装置の処理に適用した場合の演算フローを示す図である。
【図6】ジグザグスキャンを説明するための図である。
【図7】オルタネートスキャンを説明するための図である。
【図8】DCTブロックがフィールドDCTモードで離散コサイン変換されており、スキャン方式がジグザグスキャンである場合に、可変長符号復号装置がスキャンする係数の一例を示す図である。
【図9】DCTブロックがフィールドDCTモードで離散コサイン変換されており、スキャン方式がオルタネートスキャンである場合に、可変長符号復号装置がスキャンする係数の一例を示す図である。
【図10】DCTブロックがフレームDCTモードで離散コサイン変換されており、スキャン方式がジグザグスキャンである場合に、可変長符号復号装置がスキャンする係数の一例を示す図である。
【図11】DCTブロックがフレームDCTモードで離散コサイン変換されており、スキャン方式がオルタネートスキャンである場合に、可変長符号復号装置がスキャンする係数の一例を示す図である。
【図12】DCTブロックがフィールドDCTモードで離散コサイン変換されており、スキャン方式がジグザグスキャンである場合に、可変長符号復号装置がスキャンする係数の他の一例を示す図である。
【図13】DCTブロックがフィールドDCTモードで離散コサイン変換されており、スキャン方式がオルタネートスキャンである場合に、可変長符号復号装置がスキャンする係数の他の一例を示す図である。
【図14】DCTブロックがフレームDCTモードで離散コサイン変換されており、スキャン方式がジグザグスキャンである場合に、可変長符号復号装置がスキャンする係数の他の一例を示す図である。
【図15】DCTブロックがフレームDCTモードで離散コサイン変換されており、スキャン方式がオルタネートスキャンである場合に、可変長符号復号装置がスキャンする係数の他の一例を示す図である。
【図16】フレームモード用縮小逆離散コサイン変換装置が逆縮小離散コサイン変換を行う4×8のDCT係数のうち、垂直方向の高周波成分の4×2係数を0に置き換えた例を示す図である。
【図17】フレームモード用縮小逆離散コサイン変換装置が逆縮小離散コサイン変換を行う4×8のDCT係数のうち、垂直方向の中域周波数成分の4×2係数を0に置き換えた例を示す図である。
【図18】フレームモード用縮小逆離散コサイン変換装置が逆縮小離散コサイン変換を行う4×8のDCT係数のうち、垂直方向の中域周波数成分の4×4係数を0に置き換えた例を示す図である。
【図19】上記図16で示した係数により逆縮小離散コサイン変換を行う場合において、Wangのアルゴリズムをフィールドモード用縮小逆離散コサイン変換装置の処理に適用した場合の演算フローを示す図である。
【図20】上記フレームモード用縮小逆離散コサイン変換装置に対応させて処理する際の、可変長符号復号装置がスキャンする係数の一例を示す図である。
【図21】フレームモード用縮小逆離散コサイン変換装置に対応させて処理する際の、可変長符号復号装置がスキャンする係数の一例を示す図である。
【図22】本発明の第2の実施の形態の画像復号装置のブロック図である。
【図23】上記第2の実施の形態の画像復号装置のフレームメモリに格納される参照画像の垂直方向の画素の位相を説明するための図である。
【図24】上記第2の実施の形態の画像復号装置のフィールドモード用位相補正縮小逆離散コサイン変換装置の処理内容を説明するための図である。
【図25】1つの行列により処理を行う場合の上記フィールドモード用位相補正縮小逆離散コサイン変換装置の処理内容を説明するための図である。
【図26】上記フィールドモード用位相補正縮小逆離散コサイン変換装置により演算が行われる4×8位相補正IDCT行列の設計手順を説明するためのフローチャートである。
【図27】上記4×8位相補正IDCT行列の設計に必要となるプロトタイプフィルタの周波数特性を説明するための図である。
【図28】ナイキスト周波数以下を等間隔に{(N−1)/2}分割し、その周波数サンプルから作成されたゲインのリストを説明するための図である。
【図29】上記ゲインリストを逆離散フーリエ変換して作成されたインパルス応答を説明するための図である。
【図30】ポリフェイズフィルタを説明するための図である。
【図31】入力信号に対して1/4位相ずれた信号を出力するポリフェイズフィルタを説明するための図である。
【図32】上記フィールドモード用位相補正縮小逆離散コサイン変換装置により演算が行われる4×8位相補正IDCT行列を説明するための図である。
【図33】上記第2の実施の形態の画像復号装置のフレームモード用位相補正縮小逆離散コサイン変換装置の処理の内容を説明するための図である。
【図34】フレームモード用位相補正縮小逆離散コサイン変換装置により演算が行われる2×4位相補正IDCT行列の設計手順を説明するためのフローチャートである。
【図35】ナイキスト周波数以下を等間隔に{(N−1)/2}分割し、その周波数サンプルから作成されたゲインのリストを説明するための図である。
【図36】上記ゲインリストを逆離散フーリエ変換して作成されたインパルス応答を説明するための図である。
【図37】上記フレームモード用位相補正縮小逆離散コサイン変換装置により演算が行われる2×4位相補正IDCT行列を説明するための図である。
【図38】従来の第1のダウンデコーダを示すブロック図である。
【図39】従来の第2のダウンデコーダを示すブロック図である。
【図40】従来の第3のダウンデコーダを示すブロック図である。
【図41】従来の画像復号装置のブロック図である。
【図42】上記従来の画像復号装置のフィールドDCTモードにおける縮小逆離散コサイン変換処理を説明するための図である。
【図43】上記従来の画像復号装置のフィールドDCTモードにおける縮小逆離散コサイン変換処理を説明するための図である。
【図44】上記従来の画像復号装置のフィールド動き予測モードにおける線形補間処理を説明するための図である。
【図45】上記従来の画像復号装置のフレーム動き予測モードにおける線形補間処理を説明するための図である。
【図46】上記従来の画像復号装置のフィールドDCTモードの結果得られる画素の位相を説明するための図である。
【図47】上記従来の画像復号装置のフレームDCTモードの結果得られる画素の位相を説明するための図である。
【符号の説明】
10,30 画像復号装置、12 可変長符号復号装置、14 フィールドモード用縮小逆離散コサイン変換装置、15 フレームモード用縮小逆離散コサイン変換装置、16 加算装置、17 フレームメモリ、18 フィールドモード用動き補償装置、19 フレームモード用動き補償装置、20 画枠変換・位相ずれ補正装置、31 フィールドモード用位相補正縮小逆離散コサイン変換装置、32 フレームモード用位相補正縮小逆離散コサイン変換装置、33 画枠変換装置

Claims (2)

  1. 所定の画素ブロック(マクロブロック)単位で動き予測をすることによる予測符号化、及び、所定の画素ブロック(直交変換ブロック)単位で直交変換をすることによる圧縮符号化をした第1の解像度の圧縮画像データから、上記第1の解像度より低い第2の解像度の動画像データを復号する画像復号装置において、
    上記第1の解像度の圧縮画像データのビットストリームの解析結果に基づいて、上記直交変換ブロック内の各係数を当該直交変換ブロックのスキャン方式に応じた所定のスキャン方式により逆スキャンして、可変長符号化された上記第1の解像度の圧縮画像データを可変長復号する可変長復号手段と、
    可変長復号がされた上記圧縮画像データの直交変換ブロックの各係数のうち低周波成分の係数に対して逆直交変換をする逆直交変換手段とを備え、
    上記可変長復号手段による逆スキャン処理でのスキャン数は上記第1の解像度の圧縮画像データのビットストリームの解析結果に基づいて復号する画像データの種類に応じて切り換え設定され、
    上記可変長復号手段は、上記逆直交変換手段により逆直交変換がされる低周波成分の係数のうちの最高周波数成分未満の係数まで可変長復号し、それ以上の周波数成分の係数を可変長復号せず、可変長復号しなかった係数であって上記逆直交変換手段で逆直交変換をする係数を0とすることを特徴とする画像復号装置。
  2. 所定の画素ブロック(マクロブロック)単位で動き予測をすることによる予測符号化、及び、所定の画素ブロック(直交変換ブロック)単位で直交変換をすることによる圧縮符号化をした第1の解像度の圧縮画像データから、上記第1の解像度より低い第2の解像度の動画像データを復号する画像復号方法において、
    上記第1の解像度の圧縮画像データのビットストリームの解析結果に基づいて、上記直交変換ブロック内の各係数を当該直交変換ブロックのスキャン方式に応じた所定のスキャン方式により逆スキャンして、可変長符号化された上記第1の解像度の圧縮画像データを可変長復号し、
    可変長復号がされた上記圧縮画像データの直交変換ブロックの各係数のうち低周波成分の係数に対して逆直交変換をし、
    上記可変長復号における逆スキャン処理でのスキャン数は上記第1の解像度の圧縮画像データのビットストリームの解析結果に基づいて復号する画像データの種類に応じて切り換え設定され、上記逆直交変換がされる低周波成分の係数のうちの最高周波数成分未満の係数まで可変長復号し、それ以上の周波数成分の係数を可変長復号せず、可変長復号しなかった係数であって上記逆直交変換をする係数を0とすることを特徴とする画像復号方法。
JP34211498A 1998-12-01 1998-12-01 画像復号装置及び画像復号方法 Expired - Fee Related JP4016166B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP34211498A JP4016166B2 (ja) 1998-12-01 1998-12-01 画像復号装置及び画像復号方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP34211498A JP4016166B2 (ja) 1998-12-01 1998-12-01 画像復号装置及び画像復号方法

Publications (2)

Publication Number Publication Date
JP2000175195A JP2000175195A (ja) 2000-06-23
JP4016166B2 true JP4016166B2 (ja) 2007-12-05

Family

ID=18351263

Family Applications (1)

Application Number Title Priority Date Filing Date
JP34211498A Expired - Fee Related JP4016166B2 (ja) 1998-12-01 1998-12-01 画像復号装置及び画像復号方法

Country Status (1)

Country Link
JP (1) JP4016166B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8463056B2 (en) 2008-06-10 2013-06-11 Sony Corporation Information processing apparatus and information processing method that decode a portion of a code stream

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002112267A (ja) 2000-09-28 2002-04-12 Nec Corp 可変解像度復号処理装置
JP2002305746A (ja) 2001-04-05 2002-10-18 Nec Corp 画像復号処理装置および画像復号処理方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8463056B2 (en) 2008-06-10 2013-06-11 Sony Corporation Information processing apparatus and information processing method that decode a portion of a code stream

Also Published As

Publication number Publication date
JP2000175195A (ja) 2000-06-23

Similar Documents

Publication Publication Date Title
JP4026238B2 (ja) 画像復号装置及び画像復号方法
JP3975629B2 (ja) 画像復号装置及び画像復号方法
US6748018B2 (en) Picture decoding method and apparatus
KR100192270B1 (ko) 에이치디티브이 비데오 디코더 회로
US6650708B1 (en) Video signal encoding apparatus
JP2001204026A (ja) 画像情報変換装置及び方法
JP2001285863A (ja) 画像情報変換装置及び方法
JP3937599B2 (ja) 画像復号装置及び画像復号方法
JP4051772B2 (ja) 画像復号装置及び画像復号方法
KR20050084396A (ko) 공간 스케일 능력를 갖는 디지털 필터
JP2000175194A (ja) 画像復号装置及び画像復号方法
JP3611461B2 (ja) 映像信号符号化装置
JP2000041248A (ja) 画像復号装置及び画像復号方法
JP4016166B2 (ja) 画像復号装置及び画像復号方法
WO2010055675A1 (ja) 動画像符号化装置及び動画像復号装置
JP4051799B2 (ja) 画像復号装置及び画像復号方法
JP3937632B2 (ja) 画像復号装置及び画像復号方法
JP2000041253A (ja) 画像復号装置及び画像復号方法
JPH11275591A (ja) 動画像符号化復号化装置、動画像符号化復号化方法及び動画像符号記録媒体
JP2000059777A (ja) 画像復号装置及び画像復号方法
JP2001285875A (ja) 画像情報変換装置及び方法
JP2000041254A (ja) 画像復号装置及び画像復号方法
JP2002034041A (ja) 画像情報変換装置及び方法
JP2002034046A (ja) 画像情報変換装置及び方法
JPH10145749A (ja) デジタルビデオ信号をダウンコンバートするための装置及び方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20051201

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070306

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070507

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070529

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070730

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070821

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070903

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100928

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees