JP4264811B2 - 画像復号化装置及び画像復号化方法 - Google Patents
画像復号化装置及び画像復号化方法 Download PDFInfo
- Publication number
- JP4264811B2 JP4264811B2 JP2003142002A JP2003142002A JP4264811B2 JP 4264811 B2 JP4264811 B2 JP 4264811B2 JP 2003142002 A JP2003142002 A JP 2003142002A JP 2003142002 A JP2003142002 A JP 2003142002A JP 4264811 B2 JP4264811 B2 JP 4264811B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- decoding
- mpeg2
- avc
- encoded
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Description
【発明の属する技術分野】
本発明は画像復号化装置及び画像復号化方法に関し、例えばJVT(Joint Model of Enhanced-Compression Video Coding)符号化方式に準拠した画像復号化装置及び画像復号化方法に適用して好適なものである。
【0002】
【従来の技術】
近年、画像情報をディジタル化して取り扱い、その際、効率の高い情報の伝達及び蓄積を目的とし、画像情報特有の冗長性を利用して、離散コサイン変換等の直交変換と動き補償とにより圧縮するMPEG(Moving Picture Experts Group )などの方式に準拠した装置が、放送局などの情報配信及び一般家庭における情報受信の双方において普及しつつある。
【0003】
特にMPEG2(ISO/IEC 13818-2)は、汎用画像符号化方式として定義されており、飛び越し走査画像及び順次走査画像の双方、並びに標準解像度画像及び高精細画像を網羅する標準で、プロフェッショナル用途及びコンシューマ用途の広範なアプリケーションに現在広く用いられている。
【0004】
かかるMPEG2圧縮方式を用いることにより、例えば720×480画素をもつ標準解像度の飛び越し走査画像であれば4〜8〔Mbps〕、1920×1088画素をもつ高解像度の飛び越し走査画像であれば18〜22〔Mbps〕の符号量(ビットレート)を割り当てることで、高い圧縮率と良好な画質の実現が可能である。
【0005】
MPEG2は主として放送用に適合する高画質符号化を対象としていたが、MPEG1より低い符号量(ビットレート)、すなわちより高い圧縮率の符号化方式には対応していなかった。
【0006】
携帯端末の普及により、今後そのような符号化方式のニーズは高まると思われ、これに対応してMPEG4符号化方式の標準化が行われた。画像符号化方式に関しては、1998年12月にISO/IEC 14496-2としてその規格が国際標準に承認された。
【0007】
さらに近年、当初テレビ会議用の画像符号化を目的として、H.26L(ITU-T Q6/16 VCEG)という標準の規格化が進んでいる。H.26LはMPEG2やMPEG4といった従来の符号化方式に比べ、その符号化、復号化により多くの演算量が要求されるものの、より高い符号化効率が実現されることが知られている。
【0008】
また現在、MPEG4の活動の一環として、このH.26Lをベースに、当該H.26Lではサポートされていない機能をも取り入れ、より高い符号化効率を実現する標準化がJVT符号化方式として行われている。標準化のスケジュールとしては、2003年3月にはH.264及びMPEG−4 Part10(Advanced Video Coding)という名の元に国際標準となる予定である。
【0009】
ここでJVT符号化方式について説明する。入力される画像信号は、まずA/D変換されてディジタル化された後、出力となる画像圧縮情報のGOP(Group of Pictures)構造に応じて、フレーム画像の並べ替えを行う。
【0010】
イントラ符号化が行われる画像に関しては、入力画像と、イントラ予測により生成される画素値の差分情報が離散コサイン変換及びカルーネン・レーベ変換等の直交変換が施された後、その結果得られる変換係数に対して量子化処理が施される。
【0011】
量子化された変換係数は、可変長符号化及び算術符号化等の可逆符号化が施された後、蓄積されて画像圧縮情報として出力される。かかる量子化処理は当該蓄積状態に応じてフィードバック的にレート制御される。
【0012】
一方、量子化された変換係数は、逆量子化処理及び逆直交変換処理が施されて復号化画像情報となり、デブロックフィルタ処理によりブロック歪の除去が施された後、その情報がフレームメモリに蓄積されながら、イントラ予測処理に供される。
【0013】
このイントラ予測処理において、ブロック/マクロブロックに対して適用されたイントラ予測モードに関する情報は、可逆符号化処理に供されて、画像圧縮情報におけるヘッダ情報の一部として符号化される。
【0014】
またインタ符号化が行われる画像に関しては、まず画像情報は動き予測・補償処理されると同時に、参照となる画像情報がフレームメモリから読み出されて、動き予測・補償処理を施された後、参照画像情報が生成される。参照画像情報は当該画像情報との差分信号へ変換される。
【0015】
動き補償・予測処理では、同時に動きベクトル情報を可逆符号化処理を施して、画像圧縮情報のヘッダ部に挿入される情報を形成する。その他の処理はイントラ符号化が施される画像圧縮情報と同様である。
【0016】
図2に従来のJVT符号化方式に準拠した画像復号化装置(以下、これをJVT復号化装置と呼ぶ)1を示す。このJVT復号化装置1において、外部入力されるビットストリームでなる画像圧縮情報S1を、順次復号処理しながら、表示用の高精細度の画像に復元するようになされている。
【0017】
まず外部入力される画像圧縮情報S1は、蓄積バッファ2に格納された後、所定タイミングで読み出されて可逆復号化部3に送出される。可逆復号化部3では、予め定められた画像圧縮情報のフォーマット(以下、これをJVTフォーマットと呼ぶ)に基づき、可変長復号化及び算術復号化等の処理が行われる。
【0018】
その際、可逆復号化部3は、画像圧縮情報S1に基づくフレーム画像がイントラ符号化又はインタ符号化のいずれの符号化方法で行われたものかを判断する。可逆復号化部3は、イントラ符号化であると判断した場合には、画像圧縮情報S1のヘッダ部に書き込まれているイントラ予測モード情報をも復号化してイントラ予測部4に送出する一方、インタ符号化であると判断した場合には、画像圧縮情報S1のヘッダ部に書き込まれている動きベクトル情報をも復号化して動き予測・補償部5に送出する。
【0019】
この可逆復号化部3の出力である量子化された離散コサイン変換及びカルーネン・レーベ変換等の直交変換が施された変換係数は、逆量子化部6において逆量子化された後、逆直交変換部7に送出される。この逆直交変換部7では、与えられた変換係数は、所定方式に基づく4次の逆直交変換が施された後、加算器8の一入力端に与えられる。
【0020】
ここで可逆復号部3においてイントラ符号化であると判断された場合、加算器8の他入力端には、イントラ予測部4において生成された予測画像が入力される。この加算器8において、逆直交変換された画像情報と予測画像とが合成された後、当該合成結果がデブロックフィルタ9に与えられてブロック歪が除去される。
【0021】
このデブロックフィルタ9を介して得られた加算器8の出力は、フレームメモリ10を介して画面並べ替えバッファ11に一時的に保持されながら元の画像圧縮情報のGOP構造に応じてフレーム画像の並べ替えを行われた後、D/A変換部12においてアナログ変換される一方、当該フレームメモリ10に一時的に格納された後、イントラ予測部4において上述した予測画像が生成される。
【0022】
これに対して可逆復号部3においてインタ符号化であると判断された場合、加算器8の他入力端には、動き予測・補償部5において生成された参照画像が入力される。この加算器8において、逆直交変換された画像情報と参照画像とが合成された後、当該合成結果がデブロックフィルタ9に与えられてブロック歪が除去される。
【0023】
このデブロックフィルタ9を介して得られた加算器8の出力は、フレームメモリ10を介して画面並べ替えバッファ11に一時的に保持されながら元の画像圧縮情報のGOP構造に応じてフレーム画像の並べ替えを行われた後、D/A変換部12においてアナログ変換される一方、当該フレームメモリ10に一時的に格納された後、動き予測・補償部5において、当該フレームメモリ10に格納された画像情報と可逆復号化処理が施された動きベクトル情報とに基づいて上述の参照画像が生成される。
【0024】
図3に従来のMPEG1/2規格に準拠した画像復号化装置(以下、これをMPEG1/2復号化装置と呼ぶ)を示す。このMPEG1/2復号化装置20では、外部入力されるビットストリームでなる画像圧縮情報を、順次復号処理しながら、表示用の高精細度の画像に復元するようになされている。
【0025】
まず外部入力される画像圧縮情報S2は、蓄積バッファ21に格納された後、所定タイミングで読み出されて可逆復号化部22に送出される。可逆復号化部22では、予め定められた画像圧縮情報S2のフォーマット(以下、これをMPEG1/2フォーマットと呼ぶ)に基づき、可変長復号化処理が行われる。その際、可逆復号化部22は、画像圧縮情報S2のヘッダ部に書き込まれている動きベクトル情報をも復号化して動き予測・補償部23に送出する。
【0026】
この可逆復号化部22の出力である量子化された離散コサイン変換及びカルーネン・レーベ変換等の直交変換が施された変換係数は、逆量子化部24において逆量子化された後、逆直交変換部25に送出される。この逆直交変換部25では、与えられた変換係数は、所定方式に基づく8次の逆直交変換が施された後、加算器26の一入力端に与えられる。
【0027】
加算器26の他入力端には、動き予測・補償部23において生成された参照画像が入力される。この加算器26において、逆直交変換された画像情報と参照画像とが合成された後、当該合成結果がフレームメモリ27を介して画面並べ替えバッファ28に一時的に保持される。
【0028】
その後、画面並べ替えバッファ28から元の画像圧縮情報のGOP構造に応じてフレーム画像の並べ替えが行われて読み出された加算器26の合成結果は、D/A変換部29においてアナログ変換される一方、当該フレームメモリ27に一時的に格納された後、動き予測・補償部23において、当該フレームメモリ27に格納された画像情報と可逆復号化処理が施された動きベクトル情報とに基づいて上述の参照画像が生成される。
【0029】
【発明が解決しようとする課題】
ところで、上述したJVT復号化装置1(図2)及びMPEG1/2復号化装置20(図3)においては、各機能ブロックにおける処理は異なるものの、基本的な回路構成は同一であるため、双方の機能を持った画像復号化装置を構築することが可能である。すなわちMPEG1/2フォーマットの画像圧縮情報とJVTフォーマットの画像圧縮情報との双方を復号化する機能を持つ画像復号化装置を構築することが可能である。
【0030】
具体的にはJVT復号化装置1(図2)及びMPEG1/2復号化装置20(図3)においては、以下に述べる第1〜第5の違いを有する。
【0031】
まず第1の違いは、JVT復号化装置1においては、可逆復号化部3は所定方式に基づく可変長復号化及び算術復号化の処理を施すのに対して、MPEG1/2復号化装置20においては、可逆復号化部22は所定方式に基づく可逆復号化処理を施す点である。
【0032】
第2の違いは、JVT復号化装置1においては、逆直交変換部7は4次の逆離散コサイン変換処理を施すのに対し、MPEG1/2復号化装置20においては、逆直交変換部25は8次の逆離散コサイン変換処理を施す点である。
【0033】
第3の違いは、復号画像をフレームメモリ27に格納するに先立ち、JVT復号化装置1においては、デブロックフィルタ9がブロック歪の除去を行うのに対し、MPEG1/2復号化装置20においては、ブロック歪の除去を行わない点である。
【0034】
第4の違いは、マクロブロックがイントラマクロブロックである場合、JVT復号化装置1においては、イントラ予測部4は画面内符号化により予測画像の生成を行うのに対し、MPEG1/2復号化装置20においては、画面内符号化による予測画像の生成を行わない点である。
【0035】
第5の違いは、JVT復号化装置1においては、動き予測・補償部5はマルチプルリファレンスフレーム(Multiple Reference Frame)及び可変ブロックサイズ動き補償に対応した1/4画素精度の動き補償処理を施すのに対し、MPEG1/2復号化装置20においては、動き予測・補償部23は線形内挿に基づく1/2画素精度の動き補償処理を施す点である。
【0036】
実際にJVT符号化方式では、動き量の大きな飛越し走査(インタレース)フォーマットの画像に対してはフレーム構造の符号化処理よりもフィールド構造の符号化処理のほうが効率良く符号化できる場合があることを考慮して、符号化対象の画像が飛越し走査フォーマットである場合には、これらフレーム構造の符号化とフィールド構造の符号化とをピクチャ単位で適応的に切り替えることが認められている。
【0037】
さらにJVT符号化方式では、符号化対象の画像が飛越し走査フォーマットである場合において符号化単位としてフィールド構造を適用したときには、Iピクチャの第1フィールドをフィールド内で完結するように符号化(以下、これをフィールド内符号化と呼ぶ)(Iフィールド)し、第2フィールドを時間的に前方向のフィールド画像を参照して符号化(Pフィールド)することも認められている。
【0038】
従って、このように第1及び第2フィールドがそれぞれIフィールド又はPフィールドとして符号化されたIピクチャを復号化するに際しては、第2フィールド(Pフィールド)の復号化処理のために予め対応する参照画像を復号化する必要がある。
【0039】
この場合において、JVT符号化方式では、図4に示すように、符号化時における動き補償処理時の参照画像として対象フレーム画像の前後の2以上のフレーム画像を用いることができるマルチプルリファレンスフレーム(Multiple Reference Frame)機能がサポートされている。
【0040】
このため、図5に示すように、第2フィールドがPフィールドであるIピクチャを復号化するに際して、当該Pフィールドが当該Iピクチャ以外の他のPピクチャやBピクチャのフィールド画像を参照画像としている場合には、当該PピクチャやBピクチャの復号化処理をも必要となる。
【0041】
このようにJVT符号化方式では、符号化対象の画像が飛越し走査フォーマットである場合、直前のIピクチャだけでなく、過去に遡って複数のPピクチャやBピクチャを参照することが可能であるため、上述したJVT復号化装置1(図2)内のフレームメモリの動作容量を従来よりも多く必要とする。
【0042】
さらに近年、ネットワークの限られたバンド幅又はネットワークの記憶メディアの容量を効率的に利用するため、上述のような飛び越し走査フォーマットが広く用いられているが、飛び越し走査フォーマットの画像は、画面にちらつきを有することが知られている。このため図6に示すように、飛び越し走査フォーマットの画像を、順次走査(ノンインタレース)フォーマットに変換して、ちらつきを抑えた高画質な画像として出力する技術が現在広く用いられている。
【0043】
例えば、図6における周辺の画素値A、B、C、Dを用いて、補間画素値Xを生成する方法を説明する。まず空間方向相関をCorrV、時間方向相関をCorrTとして、画素値Xに関する相関を、次式
【0044】
【数1】
【0045】
【数2】
【0046】
により算出する。その際、次式
【0047】
【数3】
【0048】
が成立するとき、画素値Xの周辺では、空間方向の相関が高いと判定し、成立しない場合には、時間方向の相関が高いと判定する。前者の場合、次式
【0049】
【数4】
【0050】
とし、後者の場合、次式
【0051】
【数5】
【0052】
として、補間画素値Xを生成する。
【0053】
図6においては、原画素の画素値、及び補間により生成された画素値を格納するため、原画像のみを格納する場合の2倍のメモリ容量を必要とする。
【0054】
また、欧州においては、PAL(Phase Alternation by Line)フォーマット(720×576×25〔Hz〕、飛び越し走査)がテレビジョン信号処理に採用されているが、25〔Hz〕では、画像によっては動きが不自然に見えるため、図7に示すような、倍速変換処理を行い、50〔Hz〕にすることによって動画像における円滑な動きを表現する技術が用いられている。
【0055】
図7においても、原画像の画素値、及び、補間により生成された画素値を格納するため、原画像のみを格納する場合の2倍のメモリ容量を必要とする。
【0056】
従ってJVT符号化方式において上述したようなマルチプルリファレンスフレーム機能の処理を行う場合や、飛越し走査フォーマットから順次走査フォーマットへの変換処理を行う場合には、装置内部のフレームメモリの動作容量をより一層多く必要とすることから、その分の動作容量をMPEG1/2復号化装置において復号化処理に用いられないメモリ容量を利用することができれば望ましい。
【0057】
本発明は以上の点を考慮してなされたもので、装置全体として構成を簡易化し得る画像復号化装置及び画像復号化方法を提案しようとするものである。
【0058】
【課題を解決するための手段】
かかる課題を解決するため本発明においては、前後の2以上のフレーム画像を参照画像とし得るAVC(Advanced Video Coding)及び前後の1フレームの画像を参照画像とし得るMPEG2(Moving Picture Experts Group 2)の符号化方式でそれぞれ符号化された画像データでなるAVC及びMPEG2の符号化画像データを復号化処理する画像復号化装置において、入力される上記符号化画像データの種類がAVC又はMPEG2のいずれであるかを判別する判別手段と、AVCの符号化画像データに対してAVCの復号化処理を施すAVC復号化手段と、MPEG2の符号化画像データに対してMPEG2の復号化処理を施すMPEG2復号化手段と、AVC復号化手段によるAVCの復号化処理において1又は2以上の上記フレーム画像でなる参照画像及び復号化後の画像が格納されると共に、MPEG2復号化手段によるMPEG2の復号化処理において1フレームの画像でなる参照画像及び復号化後の画像が格納されるメモリ手段と、判別手段の判別結果がMPEG2の符号化画像データである場合、メモリ手段からMPEG2の復号化後の画像を読み出して高画質化処理を施し、当該処理後の画像をメモリ手段のうちMPEG2復号化手段によるMPEG2の復号化処理に使用されないメモリ領域に格納する画像処理手段とを設けた。
【0059】
この結果この画像復号化装置では、AVCの復号化処理を施すAVC復号化手段とMPEG2の復号化処理を施すMPEG2復号化手段とにおいて参照画像及び復号化後の画像を格納するメモリ手段を共用することができ、さらにMPEG2の復号化後の画像に対し高画質化処理を施した後の画像を、当該メモリ手段のうちAVCの復号化処理に使用されMPEG2の復号化処理に使用されないメモリ領域に格納することができるので、高画質化処理用のメモリ手段を別途設けることなく装置全体として構成を簡易にすることができる。
【0062】
さらに本発明においては、第1及び第2の符号化方式でそれぞれ符号化された画像データでなる第1及び第2の符号化画像データを復号化処理する画像復号化方法において、入力される第1又は第2の符号化画像データの種類を判別する第1のステップと、判別結果に応じて第1又は第2の符号化画像データに対して第1又は第2の復号化処理を施す第2のステップとを設け、第1の復号化処理に使用されるメモリ手段を、第2の復号化処理に使用するようにした。
【0063】
この結果この画像復号化方法では、第1の復号化処理と第2の復号化処理とにおいてメモリ手段を共用することができ、装置全体として構成を簡易にすることができる。
【0064】
さらに本発明においては、第2の復号化処理の結果に対して所定の画像処理を行う第3のステップを設け、第2のステップでは、第1の復号化処理に使用されるメモリ手段のメモリ領域のうち第2の復号化処理に使用されない領域を、画像処理に使用するようにした。
【0065】
この結果この画像復号化方法では、第2の復号化処理を行う際に、第1の復号化処理に使用されるメモリ手段のメモリ領域のうち第2の復号化処理に使用されない領域を画像処理に使用するようにした分、新たにメモリ手段を設ける必要がなくて済む。
【0066】
【発明の実施の形態】
以下図面について、本願発明の一実施の形態について説明する。
【0067】
(1)本実施の形態による画像復号化装置の構成
図2及び図3との対応部分に同一符号を付して示す図1において、30は本実施の形態におけるJVT符号化方式及びMPEG1/2の双方に準拠した画像復号化装置を示し、外部入力されるビットストリームでなる画像圧縮情報S10(S1又はS2)を、順次復号処理しながら、表示用の高精細度の画像に復元するようになされている。
【0068】
画像復号化装置30では、JVT符号化方式に準拠した画像復号化部(以下、これをJVT復号化部と呼ぶ)31と、MPEG1/2規格に準拠した画像復号化部(以下、これをMPEG1/2復号化部と呼ぶ)32とを有し、双方の前段に設けられた蓄積バッファ33と、双方の後段に設けられたフレームメモリ34、画面並べ替えバッファ35及びD/A変換部36を共有するようになされている。
【0069】
この画面復号化装置30では、外部入力される画像圧縮情報S10は、圧縮情報判別部37を介してJVTフォーマット又はMPEG1/2フォーマットのいずれの圧縮方式に基づくものであるかの判別が行われた後、蓄積バッファ33に格納される。この圧縮情報判別部37は、後段の蓄積バッファ33から画像圧縮情報S10を読み出した後、当該画像圧縮情報S10から画像フォーマットに関する情報を抽出することにより、上述のような判別を行う。
【0070】
例えば画像圧縮情報S10がMPEG2システムに基づいた画像圧縮情報により多重化されて伝送される場合には、システムレイヤに含まれるストリームIDを参照することにより判別することが可能である。
【0071】
この圧縮情報判別部37による判別結果により、蓄積バッファ33に蓄積された画像圧縮情報S10が、JVTフォーマットに基づくものと判別された場合には、所定タイミングで読み出されてJVT復号化部31に送出される一方、MPEG1/2フォーマットに基づくものと判別された場合には、所定タイミングで読み出されてMPEG1/2復号化部32に送出される。
【0072】
まずJVT復号化部31において、可逆復号化部3では、JVTフォーマットに基づき、可変長復号化及び算術復号化等の処理が行われる。その際、可逆復号化部3は、画像圧縮情報S10に基づくフレーム画像がイントラ符号化又はインタ符号化のいずれの符号化方法で行われたものかを判断する。
【0073】
可逆復号化部3は、イントラ符号化であると判断した場合には、画像圧縮情報S10のヘッダ部に書き込まれているイントラ予測モード情報をも復号化してイントラ予測部4に送出する一方、インタ符号化であると判断した場合には、画像圧縮情報S10のヘッダ部に書き込まれている動きベクトル情報をも復号化して動き予測・補償部5に送出する。
【0074】
この可逆復号化部3の出力である量子化された離散コサイン変換及びカルーネン・レーベ変換等の直交変換が施された変換係数は、逆量子化部6において逆量子化された後、逆直交変換部7に送出される。この逆直交変換部7では、与えられた変換係数は、所定方式に基づく4次の逆直交変換が施された後、加算器8の一入力端に与えられる。
【0075】
ここで可逆復号部3においてイントラ符号化であると判断された場合、加算器8の他入力端には、イントラ予測部4において生成された予測画像が入力される。この加算器8において、逆直交変換された画像情報と予測画像とが合成された後、当該合成結果がデブロックフィルタ9に与えられてブロック歪が除去される。
【0076】
このデブロックフィルタ9を介して得られた加算器8の出力は、フレームメモリ34を介して画面並べ替えバッファ35に一時的に保持されながら元の画像圧縮情報のGOP構造に応じてフレーム画像の並べ替えを行われた後、D/A変換部36においてアナログ変換される一方、当該フレームメモリ34に一時的に格納された後、イントラ予測部4において上述した予測画像が生成される。
【0077】
これに対して可逆復号部3においてインタ符号化であると判断された場合、加算器8の他入力端には、動き予測・補償部5において生成された参照画像が入力される。この加算器8において、逆直交変換された画像情報と参照画像とが合成された後、当該合成結果がデブロックフィルタ9に与えられてブロック歪が除去される。
【0078】
このデブロックフィルタ9を介して得られた加算器8の出力は、フレームメモリ34を介して画面並べ替えバッファ35に一時的に保持されながら元の画像圧縮情報のGOP構造に応じてフレーム画像の並べ替えを行われた後、D/A変換部36においてアナログ変換される一方、当該フレームメモリ34に一時的に格納された後、動き予測・補償部5において、当該フレームメモリ34に格納された画像情報と可逆復号化処理が施された動きベクトル情報とに基づいて上述の参照画像が生成される。
【0079】
一方、MPEG1/2復号化部32において、可逆復号化部22では、MPEG1/2フォーマットに基づき、可変長復号化処理が行われる。その際、可逆復号化部22は、画像圧縮情報S10のヘッダ部に書き込まれている動きベクトル情報をも復号化して動き予測・補償部23に送出する。
【0080】
この可逆復号化部22の出力である量子化された離散コサイン変換及びカルーネン・レーベ変換等の直交変換が施された変換係数は、逆量子化部24において逆量子化された後、逆直交変換部25に送出される。この逆直交変換部25では、与えられた変換係数は、所定方式に基づく8次の逆直交変換が施された後、加算器26の一入力端に与えられる。
【0081】
加算器26の他入力端には、動き予測・補償部23において生成された参照画像が入力される。この加算器26において、逆直交変換された画像情報と参照画像とが合成された後、当該合成結果がフレームメモリ34を介して画面並べ替えバッファ35に一時的に保持される。
【0082】
その後、画面並べ替えバッファ35から元の画像圧縮情報のGOP構造に応じてフレーム画像の並べ替えが行われて読み出された加算器26の合成結果は、D/A変換部36においてアナログ変換される一方、当該フレームメモリ34に一時的に格納された後、動き予測・補償部23において、当該フレームメモリ34に格納された画像情報と可逆復号化処理が施された動きベクトル情報とに基づいて上述の参照画像が生成される。
【0083】
かかる構成に加えて画像復号化装置30においては、フレームメモリ34に接続するように画像情報変換部38が設けられ、圧縮情報判別部37の判別結果でなる制御信号S11が供給されるようになされている。
【0084】
本実施の形態の場合、JVT復号化部31及びMPEG1/2復号化部32の双方でフレームメモリ34を共有しているが、JVT復号化部31ではマルチプルリファレンスフレーム機能が規定されているため、フレームメモリ34のうち、JVT符号化によるマルチプルリファレンスフレーム機能に対応した動き補償には用いる領域であってMPEG1/2復号化部32によっては用いられない領域(以下、これをJVT機能領域と呼ぶ)が存在する。
【0085】
このためMPEG1/2フォーマットに基づく画像圧縮情報の復号化処理を行う際には、フレームメモリ34内のかかるJVT機能領域を、以下に述べるように、出力画像の高画質化を図るべく有効利用する。
【0086】
まず圧縮情報判別部37は、入力される画像圧縮情報S10がMPEG1/2フォーマットに基づくと判別した場合、画像情報変換部38に制御信号S11を送出する。画像情報変換部38は、フレームメモリ34からMPEG1/2フォーマットに基づく画像圧縮情報を抽出した後、飛び越し走査フォーマットから順次走査フォーマットへの変換を実行することによりちらつきを抑えた高画質化処理を行う。
【0087】
この結果、画像情報変換部38は、補間により生成した画像を、フレームメモリ34におけるJVT機能領域に格納する。このようにフレームメモリ34のJVT機能領域を高画質化処理に利用することにより、MPEG1/2フォーマット及びJVTフォーマットの双方に基づく画像圧縮情報の復号化処理を行う際に、当該双方で効率良く共有させることができる。
【0088】
(2)本実施の形態による動作及び効果
以上の構成において、この画像復号化装置30では、JVT符号化方式に準拠した復号化処理を行うJVT復号化部31と、MPEG1/2規格に準拠した復号化処理を行うMPEG1/2復号化部32とを設け、入力される画像圧縮情報S10の種類に応じて双方の復号化処理を行うことができる。
【0089】
またこの画像復号化装置30では、JVT復号化部31及びMPEG1/2復号化部32において、蓄積バッファ33、フレームメモリ34、画面並べ替えバッファ35及びD/A変換部36を共有して使用することにより、装置全体として構成を簡易にすることができる。
【0090】
その際、フレームメモリ34は、JVT復号化部31で実行するマルチプルリファレンスフレーム機能に十分に使用可能なメモリ容量に設定されているため、JVT符号化によるマルチプルリファレンスフレーム機能に対応した動き補償には用いる領域であってMPEG1/2復号化部32によっては用いられないJVT機能領域が存在する。
【0091】
このためMPEG1/2復号化部32における復号化処理を行う場合であって、かつ、画像情報変換部38によって飛び越し走査フォーマットから順次走査フォーマットへの変換処理を実行する際には、当該画像情報変換部38において補間により生成した画像をフレームメモリ34内のJVT機能領域に格納することにより、当該フレームメモリ34を有効に利用することができ、この結果、新たにRAM(Random Access Memory)等のメモリを設ける必要がなくて済む。
【0092】
以上の構成によれば、画像復号化装置30において、JVT復号化部31及びMPEG1/2復号化部32を併合させる場合に、双方の復号化処理に必要な蓄積バッファ33、フレームメモリ34及び画面並べ替えバッファ35等の機能ブロックを共用させるようにしたことにより、装置全体の構成を簡易にすることができると共に、フレームメモリ34のうちJVT符号化によるマルチプルリファレンスフレーム機能に対応した動き補償に用いるJVT機能領域を、MPEG1/2復号化部32における復号化処理の際にさらに飛び越し走査フォーマットから順次走査フォーマットへの変換処理にも使用することができ、かくして構成を簡易にし得る画像復号化装置30を実現できる。
【0093】
(3)他の実施の形態
なお上述のように本実施の形態においては、JVT符号化方式(第1の符号化方式)及びMPEG1/2方式(第2の符号化方式)でそれぞれ符号化された画像データでなる第1及び第2の符号化画像データS10を復号化処理する画像復号化装置として、図1に示すようなJVT復号化部(第1の復号化手段)31及びMPEG1/2復号化部(第2の復号化手段)32を有する構成の画像復号化装置30を適用するようにした場合について述べたが、本発明はこれに限らず、この他種々の構成のものを広く適用するようにしても良い。
【0094】
また本実施の形態においては、JVT復号化部(第1の復号化手段)31とMPEG1/2復号化部(第2の復号化手段)32とでフレームメモリ(メモリ手段)34を共用するようにした場合について述べたが、本発明はこれに限らず、メモリ手段としては、本実施の形態のように蓄積バッファ33及び画面並べ替えバッファ35を含めるようにしても良く、さらにはこれ以外にもメモリ手段の後段に接続されたD/A変換部36等の各種の機能ブロックを共用するようにしても良い。
【0095】
さらに本実施の形態においては、入力される第1又は第2の符号化画像データS10(S1又はS2)の種類を判別する判別手段として、図1の画像復号化装置30における圧縮情報判別部37を適用するようにした場合について述べたが、本発明はこれに限らず、この他種々の構成からなる判別手段を広く適用するようにしても良い。
【0096】
さらに本実施の形態においては、MPEG1/2復号化部(第2の復号化手段)32による第2の復号化処理の結果に対して、所定の画像処理を施す画像処理手段として、飛び越し走査フォーマットから順次走査フォーマットへの変換処理を施す画像情報変換部38(図1)を適用するようにした場合について述べたが、本発明はこれに限らず、この他の画像処理としてフレームレート変換等の画像の変換や、画像の特徴の抽出、画像の認識など、この他種々の画像処理に広く適用することができる。この場合も、フレームメモリ(メモリ手段)のメモリ領域のうちMPEG1/2復号化部(第2の復号化手段)32による第2の復号化処理に使用されないJVT機能領域を使用させるようにすれば良い。
【0097】
【発明の効果】
上述のように本発明によれば、前後の2以上のフレーム画像を参照画像とし得るAVC(Advanced Video Coding)及び前後の1フレームの画像を参照画像とし得るMPEG2(Moving Picture Experts Group 2)の符号化方式でそれぞれ符号化された画像データでなるAVC及びMPEG2の符号化画像データを復号化処理する画像復号化装置において、入力される上記符号化画像データの種類がAVC又はMPEG2のいずれであるかを判別する判別手段と、AVCの符号化画像データに対してAVCの復号化処理を施すAVC復号化手段と、MPEG2の符号化画像データに対してMPEG2の復号化処理を施すMPEG2復号化手段と、AVC復号化手段によるAVCの復号化処理において1又は2以上の上記フレーム画像でなる参照画像及び復号化後の画像が格納されると共に、MPEG2復号化手段によるMPEG2の復号化処理において1フレームの画像でなる参照画像及び復号化後の画像が格納されるメモリ手段と、判別手段の判別結果がMPEG2の符号化画像データである場合、メモリ手段からMPEG2の復号化後の画像を読み出して高画質化処理を施し、当該処理後の画像をメモリ手段のうちMPEG2復号化手段によるMPEG2の復号化処理に使用されないメモリ領域に格納する画像処理手段とを設けたことにより、AVC復号化手段とMPEG2復号化手段とにおいてメモリ手段を共用することができ、さらにMPEG2の復号化後の画像に対し高画質化処理を施した後の画像も当該メモリ手段に格納することができるので、かくして装置全体として構成を簡易にし得る画像復号化装置を実現できる。
【図面の簡単な説明】
【図1】本実施の形態による画像復号化装置の構成を示すブロック図である。
【図2】従来のJVT復号化装置の構成を示すブロック図である。
【図3】従来のMPEG1/2復号化装置の構成を示すブロック図である。
【図4】マルチプルリファレンスフレーム機能の説明に供する略線図である。
【図5】マルチプルリファレンスフレーム機能における参照画像の説明に供する略線的な平面図である。
【図6】飛び越し走査フォーマットから順次走査フォーマットへの変換処理の説明に供する略線的な平面図である。
【図7】倍速変換処理の説明に供する略線的な平面図である。
【符号の説明】
30……画像復号化装置、31……JVT復号化部、32……MPEG1/2復号化部、33……蓄積バッファ、34……フレームメモリ、35……画面並べ替えバッファ、36……D/A変換部、37……圧縮情報判別部、38……画像情報変換部。
Claims (2)
- 前後の2以上のフレーム画像を参照画像とし得るAVC(Advanced Video Coding)及び前後の1フレームの画像を上記参照画像とし得るMPEG2(Moving Picture Experts Group 2)の符号化方式でそれぞれ符号化された画像データでなるAVC及びMPEG2の符号化画像データを復号化処理する画像復号化装置において、
入力される上記符号化画像データの種類が上記AVC又は上記MPEG2のいずれであるかを判別する判別手段と、
上記AVCの符号化画像データに対しAVCの復号化処理を施すAVC復号化手段と、
上記MPEG2の符号化画像データに対してMPEG2の復号化処理を施すMPEG2復号化手段と、
上記AVC復号化手段による上記AVCの復号化処理において1又は2以上の上記フレーム画像でなる上記参照画像及び復号化後の画像が格納されると共に、上記MPEG2復号化手段による上記MPEG2の復号化処理において上記1フレームの画像でなる上記参照画像及び復号化後の画像が格納されるメモリ手段と、
上記判別手段の判別結果が上記MPEG2の符号化画像データである場合、上記メモリ手段から上記MPEG2の復号化後の画像を読み出して高画質化処理を施し、当該処理後の画像を上記メモリ手段のうち上記MPEG2復号化手段による上記MPEG2の復号化処理に使用されないメモリ領域に格納する画像処理手段と
を有する画像復号化装置。 - 前後の2以上のフレーム画像を参照画像とし得るAVC及び前後の1フレームの画像を上記参照画像とし得るMPEG2の符号化方式でそれぞれ符号化された画像データでなるAVC及びMPEG2の符号化画像データを復号化処理する画像復号化方法において、
入力される上記符号化画像データの種類が上記AVC又はMPEG2のいずれであるかを判別する第1のステップと、
上記判別結果に応じて上記AVCの符号化画像データに対し前後の2以上のフレーム画像を参照してAVCの復号化処理を施し、又はMPEG2の符号化画像データに対してMPEG2の復号化処理を施す第2のステップと
上記AVCの復号化処理において1又は2以上の上記フレーム画像でなる上記参照画像及び復号化後の画像を所定のメモリ手段に格納すると共に、上記MPEG2復号化手段による上記MPEG2の復号化処理において上記1フレームの画像でなる上記参照画像及び復号化後の画像を上記メモリ手段に格納する第3のステップと、
上記第1のステップにおける判別結果が上記MPEG2の符号化画像データである場合、上記メモリ手段から上記MPEG2の復号化後の画像を読み出して高画質化処理を施し、当該処理後の画像を上記メモリ手段のうち上記MPEG2復号化手段による上記MPEG2の復号化処理に使用されないメモリ領域に格納する第4のステップと
を有する画像復号化方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003142002A JP4264811B2 (ja) | 2003-05-20 | 2003-05-20 | 画像復号化装置及び画像復号化方法 |
CNB2004100453351A CN1332564C (zh) | 2003-05-20 | 2004-05-20 | 图像解码装置和图像解码方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003142002A JP4264811B2 (ja) | 2003-05-20 | 2003-05-20 | 画像復号化装置及び画像復号化方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004349812A JP2004349812A (ja) | 2004-12-09 |
JP4264811B2 true JP4264811B2 (ja) | 2009-05-20 |
Family
ID=33530208
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003142002A Expired - Fee Related JP4264811B2 (ja) | 2003-05-20 | 2003-05-20 | 画像復号化装置及び画像復号化方法 |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP4264811B2 (ja) |
CN (1) | CN1332564C (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4781301B2 (ja) * | 2007-03-06 | 2011-09-28 | 日本放送協会 | 符号化側動き補償装置及び復号側動き補償装置 |
US20140241380A1 (en) * | 2011-02-11 | 2014-08-28 | Joseph A. Bennett | Media stream over pass through mechanism |
CN102724382A (zh) * | 2011-03-30 | 2012-10-10 | 比亚迪股份有限公司 | 一种图像信号处理电路 |
US10003823B2 (en) | 2015-01-30 | 2018-06-19 | Mediatek Inc. | Video decoder and video encoder using storage sharing technique for performing decoding and encoding functions complying with different video coding standards and associated shared storage device |
CN113847939A (zh) * | 2021-09-30 | 2021-12-28 | 东风越野车有限公司 | 一种应用于车辆仪表的离线故障诊断系统和方法 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3659366B2 (ja) * | 1995-12-19 | 2005-06-15 | Kddi株式会社 | 階層符号化装置 |
US6535530B1 (en) * | 1997-07-23 | 2003-03-18 | Matsushita Electric Industrial Co., Ltd. | Apparatus and method for demultiplexing multiplexed data |
JP2000209580A (ja) * | 1999-01-13 | 2000-07-28 | Canon Inc | 画像処理装置およびその方法 |
JP2002034046A (ja) * | 2000-07-14 | 2002-01-31 | Sony Corp | 画像情報変換装置及び方法 |
JP2002112269A (ja) * | 2000-09-26 | 2002-04-12 | Yamaha Corp | 画像合成方法および画像合成装置 |
-
2003
- 2003-05-20 JP JP2003142002A patent/JP4264811B2/ja not_active Expired - Fee Related
-
2004
- 2004-05-20 CN CNB2004100453351A patent/CN1332564C/zh not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
CN1551633A (zh) | 2004-12-01 |
JP2004349812A (ja) | 2004-12-09 |
CN1332564C (zh) | 2007-08-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4324844B2 (ja) | 画像復号化装置及び画像復号化方法 | |
EP0618731B1 (en) | High efficiency encoding of picture signals | |
US9338457B2 (en) | Method and apparatus for encoding image information, and method and apparatus for decoding image information | |
JP2000059795A (ja) | 情報ストリ―ムデコ―ダにおいてモ―ションベクトル情報を適応的にスケ―リングする方法および装置 | |
WO2003043344A2 (en) | Reduced-complexity video decoding using larger pixel-grid motion compensation | |
US6480542B1 (en) | Method for decoding compressed video data with a reduced memory requirement | |
KR100824161B1 (ko) | 화상 처리 장치 | |
JP4264811B2 (ja) | 画像復号化装置及び画像復号化方法 | |
JPH07131793A (ja) | 映像信号高能率符号化装置 | |
JP3166835B2 (ja) | 動画像の高能率符号化方法及び装置 | |
JP3416505B2 (ja) | 動画像復号化方法 | |
JP4556286B2 (ja) | 動きベクトル変換装置及び方法 | |
JPH10126749A (ja) | 順次走査変換装置 | |
JP2956726B2 (ja) | 動画像の高能率符号化方法及び装置 | |
JP3481111B2 (ja) | 動画像復号化装置 | |
JP3416509B2 (ja) | 動画像復号化装置 | |
JP3481112B2 (ja) | 動画像復号化装置 | |
JP2003087797A (ja) | 画像情報変換装置及び方法、画像情報変換プログラム、並びに記録媒体 | |
JPH11252561A (ja) | 動画像復号化方法 | |
JP3384740B2 (ja) | 動画像復号化方法 | |
JP2001309389A (ja) | 動きベクトル変換装置及び方法 | |
JPH11262016A (ja) | 動画像復号化方法 | |
KR19990017896A (ko) | 움직임 보상 장치에서의 p-픽쳐 및 b-픽쳐를 보상하기 위한 합산 회로 | |
JP2006270181A (ja) | 動き補償型時間方向フィルタ処理における残差成分の復号化および格納方法ならびに装置 | |
JP2004007734A (ja) | 画像圧縮符号化方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050315 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070302 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070309 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070508 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080522 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080707 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090122 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090204 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120227 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |