JP2006506856A - ビデオテクスチャ情報復号装置及び方法 - Google Patents

ビデオテクスチャ情報復号装置及び方法 Download PDF

Info

Publication number
JP2006506856A
JP2006506856A JP2004552194A JP2004552194A JP2006506856A JP 2006506856 A JP2006506856 A JP 2006506856A JP 2004552194 A JP2004552194 A JP 2004552194A JP 2004552194 A JP2004552194 A JP 2004552194A JP 2006506856 A JP2006506856 A JP 2006506856A
Authority
JP
Japan
Prior art keywords
data
prediction
decoding
texture information
prediction direction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004552194A
Other languages
English (en)
Other versions
JP4524188B2 (ja
Inventor
ユン、ジェンナム
ヤマザキ、タカオ
Original Assignee
ソニー エレクトロニクス インク
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ソニー エレクトロニクス インク filed Critical ソニー エレクトロニクス インク
Publication of JP2006506856A publication Critical patent/JP2006506856A/ja
Application granted granted Critical
Publication of JP4524188B2 publication Critical patent/JP4524188B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/436Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation using parallelised computational arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/105Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/11Selection of coding mode or of prediction mode among a plurality of spatial predictive coding modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/156Availability of hardware or computational resources, e.g. encoding based on power-saving criteria
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/20Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video object coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/423Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation characterised by memory arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

【課題】 ビデオビットストリーム内の一連のマクロブロックを処理するビデオでコーダにおいてテクスチャ復号を行う装置及び方法を提供する。
【解決手段】 このビデオテクスチャ復号方法は、特に複数のプロセッサを組み込んだデコーダにおける実施に好適である。この方法は、データ非依存動作をデータ依存(逐次)動作から分離し、多重処理をデータ非依存マクロブロックの処理に効率的に用いることができる。この方法は、好ましくは、データ依存動作セットにおける予測方向について仮定を行う。そして、予測決定を行い、必要に応じて、マクロブロックで動作するデータ非依存動作において転置を行うことにより仮定を補正する。この方法は、演算オーバヘッドを低減し、多重処理デコーダにおいて効率的に演算を分割することができる。

Description

本発明は、一般的にはビデオ復号に関し、特にマルチプロセッサ環境での使用に適した復号動作を実行する方法に関する。
関連出願の相互参照
本出願は、2002年11月13日に出願された米国特許出願番号10/294,925に基づいて優先権を主張するものであり、この米国特許出願は、本出願において参照することにより援用される。
米国連邦後援の研究又は開発に関する供述
該当なし
コンピュータプログラムの付録に対する参照
該当なし
著作権保護を前提とした資料の注意
本特許書類の一部の資料は、アメリカ合衆国及び他の国の著作権法による著作権保護の対象である。著作権者は、本特許書類又は特許開示内容のあらゆる者による複製が米国特許商標庁の公式ファイル又は記録にあるものと同じである場合には、異議はないが、それ以外の場合には、全ての著作権を留保する。これによって、著作権者は、連邦法施行規則37の第1.14条に基づく権利を有し、しかも、それには限定されず、本特許書類を秘密に維持させる権利をいずれも放棄しない。
現在、ビデオを符号化できる多数のフォーマットが使用可能である。このようなフォーマットの1つは、MPEG−4ビデオ符号化規格であり、MPEG−4ビデオ符号化規格は、オブジェクト指向符号化メカニズムをサポートするように設定されている。MPEG−4は、一般的に、数多くのビデオ応用に対して非常に有望なビデオ符号化規格であると考えられている。MPEG−4が有望とされるのは、少なくとも部分的に、現在、MPEG−4符号化において利用可能とされる多数のツールのおかげである。オブジェクト指向符号化方式を提供するのに加えて、MPEG−4を用いることにより、符号化ビットレート及び画質に関して、高い符号化効率を達成することができる。MPEG−4の高い符号化効率は、主として、他のビデオ符号化規格、例えばMPEG−1、MPEG−2等になかった高度な符号化方式を組み込むことによって得られたものである。しかし、これらの高度な符号化技術を使用すると、MPEG−4や同様のアーキテクチャのフォーマットでの復号処理が複雑になるため、これらのビデオビットストリームに対してリアルタイムで動作するデコーダの実現が複雑になるということを認識しなければならない。
近年、業界のリソースは、多数のアプリケーションでリアルタイム復号を行うのに使用できる高速のデコーダ、例えばMPEG−4等を設計することに、ますます向けられている。しかし、こうした努力は、殆ど高速のシングル演算処理装置(processing element)又は一対の高速演算処理装置を集積化したデコーダに向けられ、任意の数の低コストプロセッサを統合したデコーダを使用することを踏まえた問題解決には向けられていなかった。
MPEG−4フォーマット内で用いられる係数は、DC予測及びAC予測を用いて符号化され、多くの場合、前に符号化されたマクロブロックからの情報が参照される。したがって、これらのマクロブロックの復号には、時間的に離れた他のマクロブロックに関するアクセス情報が必要であることがわかる。また、同様に、動きベクトルも、隣接するマクロブロックの動きベクトルから予測される。このような予測により、マクロブロックの復号には、前に復号されたマクロブロックからの情報へのアクセスが必要である。この必要条件は、ビデオオブジェクトプレーン(video object plane(以下、VOPという))に導かれる、入力ビットストリーム内のマクロブロックの復号を、最初のマクロブロックから最後のマクロブロックまでの順番で行わなければならないことを、意味している。従来のデコーダは、一般的に、この逐次マクロブロック処理系列(sequential macroblock processing paradigm)を強いられている。
図1は、MPEG−4ビットストリーム用に設けられた復号動作をブロックベースで1ブロックずつ行うデコーダの具体的な構成を示すブロックである。まず、符号化されたMPEG−4ビットストリーム内から可変長復号((variable length decoding)以下、VLDという)によってヘッダ及びデータ情報が復号され、続く動作により、使用する予測方向が決定される((prediction direction decision)以下、PDDという)。そして、データは、一般的には、逆スキャン((inverse scanning)以下、ISという)、逆DC予測((inverse DC prediction)以下、IDCPという)、逆AC予測((inverse AC prediction)以下、IACPという)、逆量子化((inverse quantization)以下、IQという)、逆離散コサイン変換((inverse discrete cosine transform)以下、IDCTという)が施され、最後に、ビデオオブジェクトプレーン(VOP)に関連した動き補償が行われる。復号動作が予測方向に依存していると、復号動作を分割してマルチプロセッサで実行することによって復号処理を高速化することは、困難である。
復号中に、逆スキャン(IQ)処理では、1次元配列のDCT係数は、後続の処理のために当然2次元配列に変えられる。MPEG−4ビットストリームのシンタックスでは、少なくとも3つの異なる逆スキャン方法が準備されている。具体的には、ジグザグスキャン(zigzag_scan)、水平優先スキャン(alternate_horizontal_scan)、垂直優先スキャン(alternate_vertical_scan)である。ビットストリーム自体は、逆スキャン方法を選択するための情報を含んでいない。したがって、適切なスキャン方法は、デコーダ内で、現ブロック及び隣接したブロックの復号DC係数の値に基づいて選択しなければならない。また、予測方向の決定(PDD)では、前に復号されたブロックF[n]からDC値を得なければならない。PDDを実行することによって決定される予測方向は、逆DC予測(IDCP)動作及び逆AC予測(IACP)動作において用いられる。これら2つの処理手順では、QFA[n−1]も使用されるが、このほかに、前に復号されたデータF[n−1]も必要である。
従来のデコーダの設計は、符号化ビットストリームにおける高いレベルのデータ依存性によって制約され、その結果、逐次復号系列(sequential decoding paradigm)を一般的に採用していた。しかしながら、この従来の逐次復号系列は、多重処理デコーダ(multiprocessing decoder)の設計、特に、3つ以上のプロセッサ等、任意の数の演算処理装置(processing element)を組み込んだデコーダの設計には容易に拡張できない。これまでは、従来の演算分割方法(operation slicing methodology)に従って一対のプロセッサを採用したにもかかわらず、この逐次復号系列を維持するデコーダが考えられていた。これらの演算分割方法は、実質的に逐次動作を分割する際に実行オーバヘッドが大きくなることから、実現可能な性能向上を著しく妨げている。2つ以上のプロセッサで動作させると、実行オーバヘッドは大幅に大きくなり、実際の性能向上は実質的に制限される。
AC予測前に予測方向の決定を行う現在の復号方法は、復号性能、特に逆AC予測を実行する速度にも影響を与えてしまう。ビデオビットストリームは、多くの場合、高能率符号化方法を実現するめのDC予測及びAC予測に応じて決定されるDC係数及びAC係数を用いて符号化される。例えば、DC係数及びAC係数は、MPEG−4ビットストリーム内のイントラ(INTRA)マクロブロックにおいて用いられる。しかし、デコーダ側では、図1に示すように、逆予測動作においてこれらのDC係数及びAC係数を用いる前に、予測方向を決定しなければならない。
DC係数又はAC係数のいずれについても、予測方向は、復号されるブロックの周りの水平及び垂直DC係数の勾配を比較した結果に基づいて得られる。図2は、左側がブロックA、左上がブロックB、上側がブロックCによりそれぞれ囲まれた現ブロックXを示す。F[0][0]で表す、前に復号されたブロックの逆量子化DC値を用いて、以下のようにDC予測及びAC予測の方向を確認する。すなわち、
(|F[0][0]−F[0][0]|<|F[0][0]−F[0][0]|)
である場合、ブロックCから予測を行い、それ以外の場合はブロックAから予測を行う。
適応DC予測方法では、上述のように決定された方向に応じて、直前のブロックのF[0][0]値、あるいは、前のブロックの行内からのすぐ上のブロックのF[0][0]値を選択する。すなわち、ブロックCからの予測の場合、
QF[0][0]=PQF[0][0]+F[0][0]//dc_scalar
となり、それ以外の場合は、
QF[0][0]=PQF[0][0]+F[0][0]//dc_scalar
となる。
上述の関係において、dc_scalarの値は、量子化のステップサイズにより得られる。これは、水平方向に隣接する適切なブロックA及び垂直方向に隣接する適切なブロックCを用いて、マクロブロック内の各ブロックについて独立的に繰り返される。
Xで表す現ブロックの同じ位置のAC係数を予測するため、前に符号化されたブロックの1行目又は1列目から係数を用いる。ブロック毎に解析を行うときに、DC係数予測のための最適な垂直方向又は最適な水平方向は、AC係数予測の方向を選択するときにも用いられる。例えば、特定のマクロブロックにおける前の隣接垂直及び水平ブロックとは無関係に、各ブロックを予測することが可能となることがわかる。図3は、AC予測において用いられる隣接ブロック及び係数を示す。
したがって、多重処理デコーダ装置環境に効率的に適用できるテクスチャ復号方法及びAC予測方法が必要である。本発明は、この要求及び他の要求を満たすとともに、これまでに開発されたテクスチャ復号方法の問題点を克服する。
復号動作が多数のサブプロセスに分散されるテクスチャ情報の復号方法を記載する。この方法は、多重処理デコーダにおける使用に特に適しており、少なくとも3つの演算処理装置を有する構成に特に適している。従来の逐次復号系列とは異なり、この方法では、動作を特定のマクロブロックに適用したときに、その動作が、他のマクロブロックに対して行われた動作からのデータの使用に依存するか否かに基づいて、テクスチャ復号動作を2つの一般クラス、すなわち、データ依存動作とデータ非依存動作に分離できることがわかっている。本発明は、受信したビデオビットストリームから、データ依存動作を第1のサブプロセスにおいて実行するように指示するとともに、それ以外のデータ非依存復号動作を他のサブプロセスに向ける。
この方法では、一般的に、第1のプロセッサにおいてビデオビットストリームに一連のデータ依存動作を実行した後、データ非依存構造のマクロブロックを他のプロセッサに転送して、復号処理を完了する。他のプロセッサは、データ非依存マクロブロックを実行して、ビデオオブジェクトプレーン(VOP)に出力を供給する。第1のプロセッサから他のプロセッサにデータ非依存マクロブロックを送るために、好ましくは、転送バッファを用いる。これら他のプロセッサは、それぞれ、マクロブロックが使用可能となると、使用可能な処理帯域幅に応じて転送バッファから別々にマクロブロックをフェッチすることができる。出力がビデオオブジェクトプレーン(VOP)に向けられた各プロセッサにおいて復号を完了する。本発明により復号動作を複数のプロセッサ間で分割することにより、オーバヘッド量を低減することができるとともに、オーバヘッドのペナルティを、用いる演算処理装置の数とはほぼ無関係にすることができる。
本発明の更なる側面によれば、予測方向仮定の後に復号動作を実行することにより、高速AC予測を行う方法を提供する。予測方向は後で決定するが、最初に仮定した予測方向と一致しない場合、データに対して転置動作を実行する。この方法は、多重処理環境における使用に特に適している。
予測方向は予め決定するかランダムに選択することができるが、逆AC予測を行うときにどの方向がオーバヘッドの低減につながるかを考慮して、仮定した予測方向を選択することが好ましい。単純に考えると、予測を実行する回路のアーキテクチャ属性、又は、システムの同様の属性が関連している。限定的ではなく一例として、予測方向は、AC予測の係数を順次的なメモリ位置から読み込むことができる方向等、所定の方向であると仮定する。一般的に、垂直予測により順次的なメモリ位置から係数をフェッチすることができ、1つのプロセッサにおけるインストラクションサイクル数を大幅に低減することができる。
本発明の方法は、多重処理デコーダについて大幅な性能向上につながる。逐次(データ依存)復号動作を実行するために第1のプロセッサを用い、ブロックレベルのデータの処理に複数の他のプロセッサを効率的に用いることができる。予測方向決定(PDD)を先延ばしにすることにより、多数の復号動作を複数のプロセッサのうちの1つによる処理に委ねることができ、全体の復号速度を上げることができる。
本発明の目的は、ビデオデコーダにおいてテクスチャ復号速度を高めることである。
本発明の他の目的は、デコーダにおいてテクスチャ復号速度とプロセッサ速度との依存性を低減することである。
本発明の更なる他の目的は、多重処理デコーダにおいて効率的に実行することができるテクスチャ復号方法を提供することである。
本発明の更なる他の目的は、多重処理デコーダにおいてインストラクションストリーム分離を不要とすることである。
本発明の更なる他の目的は、復号前のビデオビットストリームのプリスキャンを不要とすることである。
本発明の更なる他の目的は、データ転送メカニズムの選択が柔軟な多重処理デコーダアーキテクチャを提供することである。
本発明の更なる他の目的は、MPEG−4やH.263等、従来のフォーマットを含む多数のビデオフォーマットに適用可能なテクスチャ復号方法を提供することである。
本発明の更なる他の目的は、多重処理デコーダ性能の向上を実現することである。
本発明の更なる他の目的は、ビデオデコーダにおいて、より容易に実行できるAC予測を行う方法を提供することである。
本発明の更なる他の目的は、予測方向の計算を先延ばしにして、この多重処理デコーダにおける複数のプロセッサのうちの1つにより、この計算を実行できるようにする方法を提供することである。
本発明の更なる目的及び利点については、明細書の以下の部分において説明する。ここで、詳細な説明は、本発明の好ましい実施形態を十分に開示するためであり、本発明を限定するものではない。
以下、例示的な図面を参照して本発明を十分に説明する。
具体的に図面を参照し、例示的説明を目的として、図4〜図12に一般的に示す装置において本発明を実施する。なお、この装置の構成及び構成部分の詳細は変更が可能であるとともに、この方法の具体的なステップ及び順序も変更が可能であり、これらはここで開示する基本概念から逸脱するものではない。
任意の数の演算処理装置(processing element)を備える多重処理デコーダ(multiprocessing decoder)において効率的に実現できるテクスチャデコーダ及び復号方法について説明する。また、AC予測をより容易にするための予測方向(PDD)仮定を用いるAC予測方法を説明する。この場合、その仮定が無効であることをPDDが示す場合にはデータを後で変換する。本発明に係るビデオテクスチャ情報復号方法を用いることによって、例えばMPEG−4、H.263フォーマット等の実質的にオブジェクト指向ビデオフォーマットに対して実行される復号動作を、データ依存動作(data dependent operation)とデータ非依存動作(data independent operation)に分割することができる。データ依存性とデータ非依存性との区別を明確にするために、特定のマクロブロックに対して実行されるデータ依存動作は、データ依存動作の実行条件として、他のマクロブロックから時間的に移動した情報を更に集める必要がある。その結果、データ依存動作は、シーケンス依存型(sequence dependent)であり、個々のマクロブロックを処理するように指示した場合、例えば複数の非同期演算処理装置(non-synchronized processing element)のうちの1つで処理する可能性があり、適切に実行できない。このため、データ依存動作は、前のマクロブロック又は後のマクロブロックからの情報収集に依存する。この決定的な違いを認識することにより、マルチプロセッサ(multiprocessor)によるビデオ復号に数多くの顕著な利点を与える本発明のアーキテクチャが得られる。
図4は、デコーダ10の構成を示すブロック図であり、デコーダ10において、第1のサブプロセス12が演算処理装置内で実行され、また、第1のサブプロセス12と転送バッファ20を介して通信を行い、ビデオオブジェクトプレーン(VOP)22に出力する他のサブプロセス14、16、18が他の演算処理装置で実行される。この例示的な実施形態では、各サブプロセスが別々の演算処理装置で実行されることを想定しているが、本発明に係るデータ依存性とデータ非依存性の分離が維持される限り、これらのサブプロセスは、演算処理装置と1対1の対応関係を有していなくてもよい。第1の演算処理装置上で実行される第1のサブプロセス12は、ここでは、VLD拡張(VLD_EXTENDED)プロセスと呼ぶ。この第1のサブプロセス12は、ブロック24のVLD、ブロック26のPDD、ブロック28のIS、ブロック30のIDCP、ブロック34のIACP、ブロック36のマクロブロックビルダMBを含む、全てのデータ依存動作を実行する。
逆量子化後のDC値は、前に復号されたブロックからIDCPによって必要とされ、VLD拡張サブプロセス12内から供給される。本発明における各動作は、ブロックレベルの情報に基づいている。しかしながら、本発明では、復号されたヘッダ及びデータ情報を通常のフォーマットのデータ構造に変換して、好ましくはデータ非依存マクロブロックを実行するマルチプロセッサに一様に転送できるようにするマクロブロックビルダ36を備えている。このサブプロセスで得られるデータ構造は、他のデータ構造からの情報に依存せずに、更に処理することができる。VLD拡張サブプロセスは、ここで第1の演算処理装置と称する、プロセッサエレメント(processor element)の1つに割り当てられる。この第1の演算処理装置をVLD拡張プロセッサ(VLD_EXTENDED_processor)と呼ぶ。なお、代替的に、VLD拡張プロセッサ上で実行されるVLD拡張プロセスは、機能的構成又は分離構成に従って実行を分割するように、2つ以上のプロセッサエレメント間で分割してもよく、これは本発明の教示から逸脱するものではない。
デコーダ10内でデータ非依存マクロブロックを実行する他の演算処理装置は、それぞれここではMBプロセッサと呼び、この実施形態の場合、具体的には3つの演算処理装置14、16、18であり、これらを例示的に図4に示す。この多重処理デコーダ10の実施形態において、サブプロセスは、単一のプロセスを実行するように構成された各演算処理装置と直接対応付けられていることから、各演算処理装置と同義語である。
VLD拡張サブプロセスによって生成される構造化データは、MBプロセッサに転送される。VLD拡張プロセスによって生成される非依存マクロブロックデータはデータ依存性がないので、これらのデータブロックは、いかなる数の個々のMBプロセッサによっても、独立して処理することができる。また、VLD拡張プロセスにより生成されるデータブロックは、あらゆる特別な順番で処理する必要がない。これにより、MBプロセッサは、それぞれ、前のマクロブロックの処理完了後等、構造化データが使用可能となったときに転送バッファから構造化データをフェッチすることができる。マクロブロックプロセッサは、MBプロセッサ内で十分な処理帯域幅が利用可能となったときに、利用可能なマクロブロックをフェッチする。なお、データ非依存構造化マクロブロックのデータ非依存性により、他の演算処理装置により所定の順序で非依存マクロブロックを実行する必要性が低減される。MBプロセッサは、一連の動作、例えば逆量子化(IQ)の一部(好ましくはAC部)38と、変換係数に基づく逆離散コサイン変換(IDCT)動作40と、記憶された、例えばVOPメモリ22からのビデオオブジェクトプレーン(VOP)データに基づく動き補償(MC)42とを実行することによって、MPEG−4等のビデオビットストリームの復号を完了するためのデータ非依存動作を実行する。
図5は、本発明に係るビデオテクスチャ復号方法における処理を示すフローチャートであり、復号動作は、異なるサブプロセス、例えば多重処理デコーダ10の各演算処理装置に別々に割り当てられるデータ依存動作とデータ非依存動作とに分割される。ステップ50において、データ依存テクスチャ復号動作が単一のサブプロセス(VLD拡張(VLD_EXTENDED))内で実行され、ステップ52において、他のサブプロセス(MC)内で処理する構造化マクロブロックデータが生成され、ステップ54において、サブプロセスに送られる。ステップ56において、データ非依存動作が、ビデオオブジェクトプレーン(VOP)に関するマクロブロックデータに対して実行され、ステップ58において、マクロブロックデータの実行に応じてテクスチャ復号出力が生成される。
図6は、複数の演算処理装置を有するデコーダ10で実行される方法を構成する動作を、より一般的な用語で示したフローチャートである。ステップ70において、第1のプロセッサ内で、所定のビデオフォーマットに符号化されたビットストリームに対して一連のデータ依存動作が実行される。ステップ72において、データ非依存構造化マクロブロックが他のプロセッサに転送される。ステップ74において、他のプロセッサのそれぞれにおいて、データ非依存マクロブロックの復号動作が実行される。そして、ステップ78において、他のプロセッサから復号ビデオブロックが出力される。データ非依存マクロブロックの処理には、わずか1台の他のプロセッサを用いれば済むが、このデコーダ10においては少なくとも3代の演算処理装置を使用できるようにして、デコーダ10のスループットを向上させることが好ましい。
上述した本発明の多重処理デコーダ及び方法は多くの利点がある。まず、多重処理の速度的利点を得るのに「分割」アーキテクチャは必要ないので、上述のアーキテクチャが、MPEG−4やH.263等、種々の符号化規格に適用可能である。本発明ではプリスキャンの必要がなく、柔軟なデータ転送メカニズムがサポートされることがわかる。これにより転送バッファは、性能向上のために高速データキャッシュを用いて実現されるか、低コストの外部メモリから組み立てることができる。用いるメモリアーキテクチャとは無関係に、データ転送に必要なオーバヘッドは最小である。VLDテーブルのコピーは、VLD拡張プロセッサで使用するために1つのコピーのみでよく、他のMBプロセッサはVLDテーブル内からの情報を必要としない。したがって、本発明に係るビデオテクスチャ情報復号方法を用いることにより、データキャッシュの必要条件が大幅に低減され、全体の性能が高くなる。
上述のテクスチャ復号を行う多重処理デコーダ及び方法を用いることにより、更に利点が得られる。以下、逆スキャンを行った後に、PDDの計算方法を変更することによりAC予測を決定する方法について説明する。
予測方向が垂直方向である場合、図7に示すように、現ブロックの1行目が、その上のブロックの1行目から予測される。上述のように、垂直予測は以下のように行うことができる。
QF[i]=C[i]+P[i]//dc_scalar
i=0〜7
図8は、単一命令複数データ(single instruction multiple data(以下、SIMDという))インストラクションを組み込んだマルチメディア演算処理装置において、本発明をどのように展開することができるかの一例を示すインストラクションリストである。高性能データ処理を達成するため、複数のマルチメディアプロセッサが単一命令複数データ(SIMD)インストラクションを組み込んでいることがわかる。これらSIMDプロセッサは、単一のインストラクションに応じて多数のデータエレメントを処理することができる。SIMDインストラクションを使用することにより、本発明に係るビデオテクスチャ情報復号方法を実行する際に、MPEG−4や同様のアーキテクチャのビデオフォーマットにおけるAC予測性能を向上させることができる。
なお、上述のAC予測動作では、合計14のインストラクションサイクルについて7回の除算と7回の加算が必要であった。しかし、図8に示すようにSIMDインストラクションを用いることにより、必要なインストラクションの数が大幅に低減される。図中のSIMDインストラクションの使用により、4つの係数を計算するのに2つのインストラクションサイクルのみ必要となり、AC予測を行うには4つのインストラクションサイクルでよい。上述の例は、各係数に16ビットを使用し、SIMDインストラクションに64ビットのレジスタを使用すること想定している。本発明により、多重処理環境で効率的に演算シーケンスを実行することができるように演算シーケンスを再構成し、SIMDベースのプロセッサに関する上述のようなプロセッサ固有の高速化の利用を可能にする方法が得られる。当業者は、種々のプロセッサアーキテクチャにおいて本発明を実施することができ、本発明がSIMDや同様のアーキテクチャに限定されないことがわかるであろう。
図9は転置の使用を示す。予測方向が水平方向である場合、現ブロックの1列目が、左側のブロックの一列目から予測される。一般的には予測方向の決定後に逆スキャンを行う。しかしながら、本発明では、予測方向決定(PDD)を先延ばしにして、予測方向に対する仮定を行う。この仮定は好ましくは、係数の好ましい逐次読込に対応した方向等、どの方向が演算の複雑性を低減するかに基づいて行われる。そして、その仮定に従ってデータのスキャンを行う。この場合、仮定した垂直予測方向について水平優先スキャンを用いる。水平優先スキャンの転置が垂直優先スキャンになることがわかる。仮定した予測方向が垂直方向であるとする例を考えると、実際の予測が水平方向である場合、実際のデータではなくデータの転置が処理される。しかし、後段の処理において、結果の転置を行うことによりエラー訂正を行うことができる。データ非依存動作を実行する複数の演算処理装置のうちの1つにおいて後段で補正できる好ましい方向を、プロセッサのオーバヘッドの低下に基づいて選択することができることにより、多重処理効率を高め、係数の読込のペナルティ及び他の動作非効率性を低減又は排除することができるように動作順序を最適化することができる。
図10は、復号ブロックを順序付け直すことにより、より高速な復号を行う本発明に係るビデオテクスチャ情報復号方法の一般的な処理を示すフローチャートである。ステップ90において、ビデオビットストリームのデータに対して、最初に予測方向を計算せずに予測方向を仮定する。そして、ステップ92において、仮定した予測方向に従ってスキャンを行う。ステップ94において、仮定した予測方向に基づいて最適なデコーダ動作を実行する。ステップ96において、実際の予測方向を計算する。ステップ98において、最初の仮定が判定され、正しい場合には、変換の必要はなく、ステップ102において、更なるデコーダ動作を継続する。一方、仮定が正しくない場合、ステップ100において、データの転置を実行し、その後、ステップ102において、更なる復号動作を実行する。これにはIQ、IDCT、MC等の動作が含まれる。
図11は、本発明のデコーダ110を例示的に示すものであるが、デコーダ110は、まず逆スキャンを行った後、第1の演算処理装置112が複数のマクロブロック演算処理装置114、116、118、120に接続された多重処理デコーダにおいてAC予測を決定する。第1の演算処理装置と他の演算処理装置との間でデータ非依存マクロブロックの通信を行う転送バッファ又は他の転送メカニズムについては図示を省略するが、従来のダブルバッファリング等、従来のいずれの形式のバッファリングでも用いることができることがわかる。
この実施形態における動作順序は、符号化されたMPEG−4ビデオストリームをブロック122のVLD動作により受信し、その出力OFS[n]に対して、ブロック124にて水平優先スキャンを行い、POF[n]を得る。ブロック124の出力には、前のブロックからの情報OFA[n−1]を受信するブロック126にて逆AC予測動作が行われるとともに、やはり前のブロックからの情報F[n−1]を受けるブロック128にて逆DC予測動作が行われる。これで、データに対するデータ依存動作が行われ、データOFA[n]が、4つのプロセッサエレメント114、116、118、120のうちの1つ等、マクロブロック演算処理装置のうちの1つに送られる。所定のアプリケーションにおける処理に適するように、いずれの数のマクロブロック演算処理装置を用いてもよいことがわかる。効率的な動作を行うため、少なくとも2つのマクロブロック演算処理装置が一般的に好ましい。
ブロック130にて、マクロブロック演算処理装置114で予測方向決定を行い、前の方向仮定が有効である場合、決定を行う。方向決定が無効である場合、ブロック132にてデータの転置を行った後、ブロック134にて逆量子化(IQ)を行う。そして、ブロック136にてデータF[n]に逆離散変換(IDCT)を行い、その出力f[n]に対して、ブロック138にて、ブロック140のビデオオブジェクトプレーン(VOP)メモリに関して動き補償のための処理を行う。
予測方向決定(PDD)130は、図中、ブロック126のAC予測後に行うものと考えることができる。したがって、AC予測は仮定した方向に従って行われる。前述の例によれば、実際の予測方向が垂直方向であった場合、結果を転置する。この復号方法は、図示のマルチプロセッサデコーダアーキテクチャで用いる場合に特に有効である。図中、1つのプロセッサは主として逐次処理を実行するように構成され、他のプロセッサはマクロブロックレベル又はブロックレベルで処理を行うように構成されている。また、当業者は、代替的に、逐次動作を実行するプロセッサを、従来の分離された動作を用いる等、1つのプロセッサと同じように動作して単一のインストラクションストリームを共有する少数のプロセッサエレメントとして実現できることがわかる。
MPEG−4ビデオストリームの処理の例を考えると、主として逐次的なインストラクションを実行するプロセッサは、可変長コードを復号するように進み、各プロセスを実行する。その結果、ブロックレベルの復号段階を行い、後続の処理のためのデータ非依存データ構造を形成する。得られたデータ非依存データ構造は他のプロセッサに転送され、逆量子化(IQ)、逆離散変換(IDCT)動作、動き補償(MC)動作等、更なる復号処理が行われる。この方法は、マクロブロックの処理用いられるプロセッサの数を制限しないので大規模に実現可能であることがわかる。このため、いずれの数のマクロブロック演算処理装置であっても、多重処理デコーダ装置における全体の復号速度は、一般的に逐次処理に用いられるプロセッサの速度によって制限されるので、逐次プロセッサのワークロードを低減することが最重要課題となる。
図12は、例えば、VLD122やスキャン124等のデータ依存動作の処理を行い、マクロブロック等のデータ非依存データ構造を、例えば、4つの演算処理装置154、156、158、160等、一連のデータ非依存演算処理装置に送る第1のプロセッサ152又はそれと同等のものを備えたデコーダ150を示す。データ非依存マクロブロックの形成、及び、マクロブロック転送メカニズムについては図示を省略する。また、このデコーダは、予測方向を後段に先延ばしする上述の方法を用いる。しかし、デコーダ150は、逆AC予測126と逆DC予測128の両方の実行も先延ばしにして、逐次的なデータ依存演算処理装置152から、演算処理装置154、156、158、160等のデータ非依存の多数演算処理装置に演算負荷をシフトできるように構成されている。前述のように、DC予測及びAC予測を行うのに必要な計算では、時間のかかる除算動作を含む多数の演算動作を実行する。図示の例では、逆AC予測(IACP)126、逆DC予測128、それまでの仮定に代わる予測方向決定(PDD)計算130、正しくない仮定の補正に必要なデータ転置132、逆量子化134、逆離散変換(IDCT)、ビデオオブジェクトプレーン140に関して行われる動き補償138を含むデータ非依存動作を示している。本発明に係るビデオテクスチャ情報復号方法により、これらの時間がかかる計算を、所望レベルの性能を得るのに必要な数に増やすことができるデータ非依存マクロブロックプロセッサに対してシフトすることが可能となる。
したがって、本発明は、当業者にとって明らかな多数の変更によっても実現できる多重処理デコーダにおけるリアルタイムテクスチャ復号を行う方法を提供することがわかる。特に、PDD、IS、IDCP、IACP等として記載した上述のデータ依存動作セットは、当業者により本発明の開示範囲から逸脱せずに、変更又は更なる分割を行ってよい。また、本発明は、AC予測及びDC予測を伴う復号動作を実行する方法を記載している。この方法は、MPEG−4ビットストリーム及び一連の復号動作を用いる場合の例として示したが、本発明の教示は、当業者により他のオブジェクト指向ビデオフォーマットに適用してもよい。また、予測方向は後段で必要に応じて補正されるが、その予測方向の有利な仮定に基づいて逆AC予測を容易に行うことができるため、広い適用範囲が得られる。
上述の説明は多数の具体的事項を含んでいるが、これらは本発明の範囲を限定するのではなく、単に、本発明の現段階で好ましい実施形態の幾つかを説明するものである。したがって、本発明の範囲は、当業者にとって明らかとなる他の実施形態も全て含むものであることから、本発明の範囲は、添付の特許請求の範囲によってのみ限定される。特許請求の範囲において、構成要素を単数形で示す場合、明示的な記載がない限り「1つのみの」という意味ではなく、「1つ以上の」という意味である。上述の好ましい実施形態の構成要素に相当する、当業者にとって周知の構造的、化学的、機能的要素は、全て、参照により本出願において明示的に援用し、本出願の特許請求の範囲に含まれるものとする。更に、装置又は方法は、本出願の特許請求の範囲に含まれるようにするため、発明により解決しようとする課題のそれぞれに対応する必要はない。更に、本開示内容の構成要素、コンポーネント、方法ステップは、いずれも、特許請求の範囲に明示的に記載されているか否かに関わらず、公開されるべきものではない。特許請求の範囲における構成要素は、いずれも、「するための手段(means for)」という用語を用いて明示的に記載されない限り、米国特許法(35U.S.C.)第112条第6パラグラフの規定に該当するものではない。
符号化ビットストリームに対してテクスチャ処理動作を実行する従来のデコーダのブロック図である。 マクロブロック内の現ブロックと、一組の組の隣接したブロックを示すデータ図である。 現ブロックに対する各ブロック内のAC係数の予測を示すデータ図である。 データ依存動作用とデータ非依存動作用にそれぞれ別個の処理部を有する、本発明の一実施形態に係るデコーダのブロック図である。 データ依存性に基づく復号動作の分離を示す、本発明の一実施形態に係るテクスチャ復号方法のフローチャートである。 複数の演算処理装置間に分散されたテクスチャ復号動作を示す、本発明の一実施形態に係るテクスチャ復号のフローチャートである。 メモリ内の係数の位置に対して垂直予測方向が示されたデータブロックのデータ図である。 4つの係数を計算するための2つのインストラクションを用いた、本発明の一側面に係るSIMDインストラクションの使用を説明するインストラクションリストである。 メモリ内の係数の位置に対して水平予測方向が示されたデータブロックのデータ図である。 PDD仮定の後に、復号データの補正に必要なPDD計算及び変換を行う、本発明の一側面に係る予測方法のフローチャートである。 逐次プロセッサにおいて復号及び予測を行った後、多数のブロックレベルのプロセッサでブロック動作を実行する、本発明の一側面に係るデコーダのブロック図である。 多重処理デコーダ内の複数の独立したマクロブロックプロセッサでAC予測及びDC予測を行う、本発明の一側面に係る予測方法のブロック図である。

Claims (68)

  1. ビデオテクスチャ情報を復号するビデオテクスチャ情報復号装置において、
    ビデオビットストリーム内からデータ依存動作を実行して、残りのデータ非依存動作が実行されるデータ構造を生成する手段と、
    上記デコーダにおいてビデオオブジェクトプレーンに関してデータ非依存動作を実行する手段と、
    上記データ依存動作を実行する手段から上記データ非依存動作を実行する手段に上記データ構造を送る転送バッファとを備えるビデオテクスチャ情報復号装置。
  2. 上記データ依存動作を実行する手段は、復号動作の実行に適応した演算処理装置からなることを特徴とする請求項1に記載のビデオテクスチャ情報復号装置。
  3. 上記データ依存動作を実行する手段は、可変長復号(VLD)、予測方向決定(PDD)、逆スキャン(IS)、逆DC予測(IDCP)、逆量子化(IQ)、逆AC予測(IACP)、マクロブロック形成(MB)からなるデータ復号動作から選択される1つ以上のデータ依存復号動作を実行することを特徴とする請求項2に記載のビデオテクスチャ情報復号装置。
  4. 上記マクロブロック形成は、復号ヘッダ及びデータ情報を、上記データに対してデータ非依存動作を実行する複数のプロセッサに転送される通常フォーマットのデータ構造に変換することを特徴とする請求項3に記載のビデオテクスチャ情報復号装置。
  5. 上記データ依存動作を実行する手段は、可変長復号(VLD)を行うように構成された演算処理装置からなり、計算により又は仮定を行うことにより予測方向決定(PDD)に達し、その後、逆スキャンが行われることを特徴とする請求項1に記載のビデオテクスチャ情報復号装置。
  6. 上記データ非依存動作を実行する手段は、データ非依存データ構造に従って復号動作を実行するように構成されたマクロブロック演算処理装置からなることを特徴とする請求項1に記載のビデオテクスチャ情報復号装置。
  7. 上記マクロブロック演算処理装置は、予測方向決定(PDD)、データ転置、逆AC予測(IACP)、逆DC予測(IDCP)、逆量子化(IQ)、逆離散変換(IDCT)、動き補償(MC)からなるデータ動作から選択される1つ以上のデータ非依存復号動作を実行することを特徴とする請求項6に記載のビデオテクスチャ情報復号装置。
  8. 上記マクロブロック演算処理装置は、予測方向決定(PDD)を計算し、データ転置動作により予測方向仮定エラーを補正し、逆量子化(IQ)を計算し、逆離散変換(IDCT)を計算し、動き補償(MC)を行うように構成されることを特徴とする請求項6に記載のビデオテクスチャ情報復号装置。
  9. デコーダスループットを高めるために、上記データ非依存動作を実行する手段を少なくとも2つ備えることを特徴とする請求項1に記載のビデオテクスチャ情報復号装置。
  10. ビデオテクスチャ情報をマルチプロセッサで復号するビデオテクスチャ情報復号装置において、
    順番に行わなければならないマクロブロック復号動作を実行するように構成され、データ非依存マクロブロック情報を保持するためのデータ構造を形成するように構成された第1の演算処理装置と、
    データ非依存マクロブロック情報を受信するように構成された転送バッファと、
    上記転送バッファに動作可能に接続され、上記データ非依存マクロブロック情報を受信するとともに、更なる復号動作を実行する少なくとも2つのマクロブロック演算処理装置とを備えるビデオテクスチャ情報復号装置。
  11. 上記マクロブロックプロセッサの上記復号動作は、ビデオオブジェクトプレーンに関して実行されることを特徴とする請求項10に記載のビデオテクスチャ情報復号装置。
  12. 上記データ依存復号動作は、上記データ依存動作の実行条件として、他のマクロブロックから時間的に離れた更なる情報の収集を必要とする特定のマクロブロックに対して実行される動作からなり、上記データ依存動作は順番に処理されなければならないことを特徴とする請求項10に記載のビデオテクスチャ情報復号装置。
  13. データ非依存マクロブロック情報を保持するためのデータ構造を形成する上記構成は、復号ヘッダ及びデータ情報を、複数のプロセッサへの転送を行う通常フォーマットのデータ構造に変換するマクロブロックビルダからなることを特徴とする請求項10に記載のビデオテクスチャ情報復号装置。
  14. 上記データ構造は、上記複数のプロセッサにおいて逐次処理を必要としないことを特徴とする請求項13に記載のビデオテクスチャ情報復号装置。
  15. 多重処理デコーダでテクスチャ情報を復号するテクスチャ情報復号方法において、
    第1のプロセッサにおいて、所定のビデオフォーマットに符号化されたビットストリームの一連のデータ依存動作に対してデータ非依存動作を実行し、
    データ非依存構造化マクロブロックを他のプロセッサに転送し、
    上記他のプロセッサのそれぞれにおいて上記データ非依存マクロブロックを実行し、
    上記他のプロセッサから復号ビデオブロックを出力することを特徴とするテクスチャ情報復号方法。
  16. 上記転送は、
    上記データ非依存構造化マクロブロックを転送バッファに書き込み、
    実行帯域幅が使用可能なときに、上記他のプロセッサのうちの1つにより、上記データ非依存構造化マクロブロックのうちの1つをフェッチすることを特徴とする請求項15に記載のテクスチャ情報復号方法。
  17. 上記他のプロセッサによる上記データ非依存構造化マクロブロックのデータ非依存性により、上記非依存マクロブロックを順番に実行する必要がなくなることを特徴とする請求項16に記載のテクスチャ情報復号方法。
  18. 上記データ依存動作は仮定として予測方向決定(PDD)を行い、
    上記仮定は、必要に応じて、後段の上記データ非依存動作に含まれる予測方向決定(PDD)の実行時に変換により補正されることを特徴とする請求項15に記載のテクスチャ情報復号方法。
  19. 上記データ依存動作は、1次元デコーダ配列を後続の処理のために2次元配列に変換する逆スキャン(IS)からなることを特徴とする請求項15に記載のテクスチャ情報復号方法。
  20. 上記データ依存動作は、DC予測を行う際に予測方向決定(PDD)からの予測方向を用いる逆DC予測(IDCP)からなることを特徴とする請求項15に記載のテクスチャ情報復号方法。
  21. 上記データ依存動作は、AC予測を行う際に予測方向決定(PDD)からの予測方向を用いる逆AC予測(IACP)からなることを特徴とする請求項15に記載のテクスチャ情報復号方法。
  22. 上記他のプロセッサは、上記データ非依存マクロブロックの実行に用いられる少なくとも2つの演算処理装置からなることを特徴とする請求項15に記載のテクスチャ情報復号方法。
  23. 上記データ依存動作は、1次元デコーダ配列を後続の処理のために2次元配列に変換する逆スキャン(IS)からなることを特徴とする請求項15に記載のテクスチャ情報復号方法。
  24. 上記データ依存動作は、DC予測を行う際に予測方向決定(PDD)からの予測方向を用いる逆DC予測(IDCP)からなることを特徴とする請求項15に記載のテクスチャ情報復号方法。
  25. 上記データ依存動作は、予測方向決定(PDD)又は予測方向仮定、逆スキャン(IS)、逆DC予測(IDCP)、逆AC予測(IACP)からなることを特徴とする請求項15に記載のテクスチャ情報復号方法。
  26. 上記データ依存動作は、前に復号されたブロックからの復号DC値に依存するDC逆量子化(IQ−DC)からなることを特徴とする請求項15に記載のテクスチャ情報復号方法。
  27. 上記データ非依存動作は、逆量子化(IQ)動作の一部からなることを特徴とする請求項15に記載のテクスチャ情報復号方法。
  28. 逆量子化(IQ)動作の上記一部は、AC逆量子化(IQ−AC)からなることを特徴とする請求項27に記載のテクスチャ情報復号方法。
  29. 上記データ非依存動作は、変換動作に係数を用いる逆離散変換(IDCT)動作からなることを特徴とする請求項15に記載のテクスチャ情報復号方法。
  30. 上記データ非依存動作は、記憶されたビデオオブジェクトプレーンデータに基づく動き補償(MC)からなることを特徴とする請求項15に記載のテクスチャ情報復号方法。
  31. 上記ビットストリームは実質的にオブジェクト指向フォーマットで符号化されていることを特徴とする請求項15に記載のテクスチャ情報復号方法。
  32. 上記ビットストリームはMPEG−4ビデオフォーマットで符号化されていることを特徴とする請求項31に記載のテクスチャ情報復号方法。
  33. 上記ビットストリームはH.263ビデオフォーマットで符号化されていることを特徴とする請求項31に記載のテクスチャ情報復号方法。
  34. 複数の演算処理装置を用いたデコーダ内でテクスチャ情報を復号するテクスチャ情報復号方法において、
    単一のサブプロセスにおいてデータ依存テクスチャ復号動作を処理し、
    他のサブプロセスにおける処理のためのデータ非依存構造化マクロブロックデータを生成し、
    上記構造化マクロブロックデータを上記サブプロセスに送り、
    ビデオオブジェクトプレーンに関して、上記マクロブロックデータにデータ非依存動作を実行し、
    上記マクロブロックデータの実行に応じてテクスチャ復号出力を生成することを特徴とするテクスチャ情報復号方法。
  35. 上記データ依存テクスチャ復号動作は、第1のマクロブロックに向けられたときに、動作を完了するために別のマクロブロックから追加情報の取得を必要とする動作からなることを特徴とする請求項34に記載のテクスチャ情報復号方法。
  36. 上記別のマクロブロックは、上記第1のマクロブロックから時間的に離れたマクロブロックであることを特徴とする請求項35に記載のテクスチャ情報復号方法。
  37. 上記サブプロセスのそれずれは、上記デコーダにおける別々の演算処理装置で実行されることを特徴とする請求項34に記載のテクスチャ情報復号方法。
  38. 上記データ依存サブプロセスは単一の演算処理装置において実行されることを特徴とする請求項34に記載のテクスチャ情報復号方法。
  39. 上記方法が実現される上記デコーダは、少なくとも3つの演算処理装置により構成されることを特徴とする請求項34に記載のテクスチャ情報復号方法。
  40. 上記ビットストリームは実質的にオブジェクト指向フォーマットで符号化されていることを特徴とする請求項34に記載のテクスチャ情報復号方法。
  41. 上記ビットストリームはMPEG−4ビデオフォーマットで符号化されていることを特徴とする請求項40に記載のテクスチャ情報復号方法。
  42. 上記ビットストリームはH.263ビデオフォーマットで符号化されていることを特徴とする請求項40に記載のテクスチャ情報復号方法。
  43. 符号化ビデオビットストリームを受信するデコーダ内において方向予測に従って復号動作を実行する復号動作実行方法において、
    ビデオビットストリームのデータについて、最初に上記予測方向を計算せずに予測方向を仮定し、
    仮定した予測方向に従ってスキャンを行い、
    上記データの予測方向を計算し、
    予測方向の仮定が正しくない場合に上記データの転置を実行する復号動作実行方法。
  44. 更に、上記予測方向の計算の前に、いずれの数の動作でもよいが、追加復号動作を実行することを特徴とする請求項43に記載の復号動作実行方法。
  45. 上記追加復号動作は逆DC予測からなることを特徴とする請求項44に記載の復号動作実行方法。
  46. 上記追加復号動作は逆AC予測からなることを特徴とする請求項44に記載の復号動作実行方法。
  47. 上記予測方向の仮定は、第1の演算処理装置により受信されるデータに対して実行され、上記予測方向の計算は、複数の演算処理装置間で実行される後段の復号において実行されることを特徴とする請求項43に記載の復号動作実行方法。
  48. 上記第1の演算処理装置は、逐次処理を実行するように構成されることを特徴とする請求項47に記載の復号動作実行方法。
  49. 上記逐次処理は、MPEG−4ビットストリーム内の可変長コードの復号からなることを特徴とする請求項48に記載の復号動作実行方法。
  50. 上記逐次処理は、ブロックレベルで前段又は後段のデータに一般的に依存するプロセスを実行することを特徴とする請求項48に記載の復号動作実行方法。
  51. 上記逐次処理は、仮定した予測方向に従って可変長復号及びスキャンを行うことを特徴とする請求項50に記載の復号動作実行方法。
  52. 上記第1の演算処理装置は逆DC予測を実行するように構成されることを特徴とする請求項51に記載の復号動作実行方法。
  53. 上記第1の演算処理装置は逆AC予測を実行するように構成されることを特徴とする請求項51に記載の復号動作実行方法。
  54. 上記予測方向の仮定は、読込動作の数を低減するように選択されることを特徴とする請求項47に記載の復号動作実行方法。
  55. 上記予測方向は、連続するメモリアドレスから係数が読み込まれる方向に基づいて仮定されることを特徴とする請求項54に記載の復号動作実行方法。
  56. 上記予測方向の仮定は所定方向に従って行われることを特徴とする請求項55に記載の復号動作実行方法。
  57. 上記仮定した予測方向は垂直方向として予め決定されることを特徴とする請求項56に記載の復号動作実行方法。
  58. 複数の演算処理装置において実行される上記後段の復号では、
    予測方向を決定し、
    仮定した予測方向が正しくない場合に上記データを転置し、
    上記データを逆量子化し、
    上記データを逆離散変換し、
    ビデオオブジェクトプレーンに関して上記データの動き補償を行うことを特徴とする請求項47に記載の復号動作実行方法。
  59. 上記後段の復号では、更に逆DC予測を行うことを特徴とする請求項58に記載の復号動作実行方法。
  60. 上記後段の復号では、更に逆AC予測を行うことを特徴とする請求項58に記載の復号動作実行方法。
  61. ビデオデコーダ内においてビデオデータに対する予測方向決定を先延ばしにする予測方向決定方法において、
    続くビデオストリーム処理に用いられる予測方向の仮定を行い、
    上記データについて予測方向決定を行い、
    最初の仮定が正しくない場合には上記データを転置する予測方向決定方法。
  62. 上記予測方向の仮定は、上記デコーダにおいてデータ依存動作を実行するのに用いられることを特徴とする請求項61に記載の予測方向決定方法。
  63. 予測方向決定の実行及び上記データの転置は、上記データに対してデータ非依存動作として行われることを特徴とする請求項61に記載の予測方向決定方法。
  64. 上記予測方向の仮定は、続くデータ依存動作の演算オーバヘッドを低減する方向として選択されることを特徴とする請求項61に記載の予測方向決定方法。
  65. ビデオビットストリームを受信するデコーダ内で方向予測計算を実行する方向予測計算方法において、
    ビデオビットストリームのデータについて、最初に予測方向を計算せずに予測方向を仮定し、
    仮定した予測方向に従ってスキャンを行い、
    上記データの逆DC予測を行い、
    上記データの逆AC予測を行い、
    予測方向を計算し、
    予測方向の仮定が正しくない場合にデータの転置を実行し、
    上記データの逆量子化を行い、
    上記データの逆離散変換を行い、
    ビデオオブジェクトプレーンに関して上記データの動き補償を行う方向予測計算方法。
  66. 上記予測方向の仮定は、プロセッサのオーバヘッドを低減する方向に基づいて選択されることを特徴とする請求項65に記載の方向予測計算方法。
  67. ビデオビットストリームを受信する多重処理デコーダ内で方向予測計算を実行する方向予測計算方法において、
    第1の演算処理装置において逐次動作を実行し、
    上記第1の演算処理装置において、ビデオビットストリームのデータについて、最初に予測方向を計算せずに予測方向を仮定し、
    上記第1の演算処理装置において、仮定した予測方向に従ってスキャンを行い、
    上記第1の演算処理装置において上記データの逆DC予測を行い、
    上記第1の演算処理装置において上記データの逆AC予測を行い、
    複数の演算処理装置のうちの1つにおいてブロックレベルの処理を実行し、
    上記複数の演算処理装置のうちの1つにおいて予測方向を計算し、
    予測方向の仮定が正しくない場合に、上記複数の演算処理装置のうちの1つにおいてデータの転置を実行し、
    上記複数の演算処理装置のうちの1つにおいて上記データの逆量子化を行い、
    上記複数の演算処理装置のうちの1つにおいて上記データの逆離散変換を行い、
    上記複数の演算処理装置のうちの1つにおいて、ビデオオブジェクトプレーンに関して上記データの動き補償を行う方向予測計算方法。
  68. ビデオビットストリームを受信する多重処理デコーダ内で方向予測計算を実行する方向予測計算方法において、
    第1の演算処理装置において逐次動作を実行し、
    上記第1の演算処理装置において、ビデオビットストリームのデータについて、最初に予測方向を計算せずに予測方向を仮定し、
    上記第1の演算処理装置において、仮定した予測方向に従ってスキャンを行い、
    複数の演算処理装置のうちの1つにおいてブロックレベルの処理を実行し、
    上記複数の演算処理装置のうちの1つにおいて上記データの逆DC予測を行い、
    上記複数の演算処理装置のうちの1つにおいて上記データの逆AC予測を行い、
    上記複数の演算処理装置のうちの1つにおいて予測方向を計算し、
    予測方向の仮定が正しくない場合に、上記複数の演算処理装置のうちの1つにおいてデータの転置を実行し、
    上記複数の演算処理装置のうちの1つにおいて上記データの逆量子化を行い、
    上記複数の演算処理装置のうちの1つにおいて上記データの逆離散変換を行い、
    上記複数の演算処理装置のうちの1つにおいて、ビデオオブジェクトプレーンに関して上記データの動き補償を行うことを特徴とする方向予測計算方法。
JP2004552194A 2002-11-13 2003-11-12 ビデオテクスチャ情報復号装置及び方法 Expired - Fee Related JP4524188B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US10/294,925 US6931061B2 (en) 2002-11-13 2002-11-13 Method of real time MPEG-4 texture decoding for a multiprocessor environment
PCT/US2003/036314 WO2004045079A2 (en) 2002-11-13 2003-11-12 Method of real time mpeg-4 texture decoding for a multiprocessor environment

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2009285206A Division JP4950272B2 (ja) 2002-11-13 2009-12-16 ビデオテクスチャ情報復号装置及び方法

Publications (2)

Publication Number Publication Date
JP2006506856A true JP2006506856A (ja) 2006-02-23
JP4524188B2 JP4524188B2 (ja) 2010-08-11

Family

ID=32229822

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2004552194A Expired - Fee Related JP4524188B2 (ja) 2002-11-13 2003-11-12 ビデオテクスチャ情報復号装置及び方法
JP2009285206A Expired - Fee Related JP4950272B2 (ja) 2002-11-13 2009-12-16 ビデオテクスチャ情報復号装置及び方法

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2009285206A Expired - Fee Related JP4950272B2 (ja) 2002-11-13 2009-12-16 ビデオテクスチャ情報復号装置及び方法

Country Status (7)

Country Link
US (2) US6931061B2 (ja)
EP (3) EP2416573A3 (ja)
JP (2) JP4524188B2 (ja)
KR (1) KR100974983B1 (ja)
CN (1) CN1729690B (ja)
AU (1) AU2003290861A1 (ja)
WO (1) WO2004045079A2 (ja)

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7266150B2 (en) 2001-07-11 2007-09-04 Dolby Laboratories, Inc. Interpolation of video compression frames
US6931061B2 (en) * 2002-11-13 2005-08-16 Sony Corporation Method of real time MPEG-4 texture decoding for a multiprocessor environment
US20050232350A1 (en) * 2004-03-30 2005-10-20 Mana Hamada Inverse prediction apparatus and decoding apparatus using the same
KR20050112445A (ko) * 2004-05-25 2005-11-30 경희대학교 산학협력단 예측 부호화/복호화 장치, 예측 부호화/복호화 방법 및 그방법을 수행하는 프로그램이 기록된 컴퓨터 판독가능한기록매체
JP4491295B2 (ja) * 2004-07-22 2010-06-30 キヤノン株式会社 画像再生方法及び画像再生装置
KR101108681B1 (ko) * 2005-01-19 2012-01-25 삼성전자주식회사 동영상 코덱에서의 주파수 변환 계수 예측 방법 및 장치,이를 구비한 부호화 및 복호화 장치와 방법
JP4502203B2 (ja) 2005-03-17 2010-07-14 ルネサスエレクトロニクス株式会社 画像符号化装置、及び画像復号化装置
EP1875738A1 (en) * 2005-04-22 2008-01-09 Nxp B.V. Efficient video decoding accelerator
US20060256854A1 (en) * 2005-05-16 2006-11-16 Hong Jiang Parallel execution of media encoding using multi-threaded single instruction multiple data processing
KR100654601B1 (ko) * 2005-10-06 2006-12-08 주식회사 휴맥스 통합 코덱 장치 및 방법
US8000388B2 (en) 2006-07-17 2011-08-16 Sony Corporation Parallel processing apparatus for video compression
KR101520027B1 (ko) 2007-06-21 2015-05-14 삼성전자주식회사 움직임 추정 방법 및 장치
US20090010326A1 (en) * 2007-07-05 2009-01-08 Andreas Rossholm Method and apparatus for parallel video decoding
CN100591139C (zh) * 2007-09-30 2010-02-17 四川长虹电器股份有限公司 双核视频解码器解码任务分配方法
CN101779466B (zh) * 2008-06-10 2015-02-11 松下电器产业株式会社 图像解码装置及图像编码装置
KR101292668B1 (ko) * 2009-10-08 2013-08-02 한국전자통신연구원 멀티프로세서기반의 영상 복호화 장치 및 방법
KR101656881B1 (ko) * 2010-02-01 2016-09-12 삼성전자주식회사 데이터 처리 장치 및 방법
KR101219220B1 (ko) * 2010-10-20 2013-01-08 성균관대학교산학협력단 병렬 부호화를 위한 데이터 파티션 방법 및 이를 수행하는 프로그램을 기록한 기록매체
US8990351B2 (en) * 2011-04-20 2015-03-24 Mobitv, Inc. Real-time processing capability based quality adaptation
WO2012167418A1 (en) 2011-06-07 2012-12-13 Technicolor (China) Technology Co., Ltd. Method for encoding and/or decoding images on macroblock level using intra-prediction
US9241163B2 (en) * 2013-03-15 2016-01-19 Intersil Americas LLC VC-2 decoding using parallel decoding paths
CN104053000B (zh) * 2013-03-15 2018-12-25 英特希尔美国公司 使用平行译码路径的视频压缩(vc-2)译码

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06187434A (ja) * 1992-06-04 1994-07-08 Internatl Business Mach Corp <Ibm> イメージ/ビデオ処理のためのプロセス・パイプライン・アー キテクチャ
WO2001082217A1 (en) * 2000-04-25 2001-11-01 Hewlett-Packard Company Image sequence compression featuring independently coded regions
WO2001095633A2 (en) * 2000-06-09 2001-12-13 General Instrument Corporation Video size conversion and transcoding from mpeg-2 to mpeg-4

Family Cites Families (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02250581A (ja) * 1989-03-24 1990-10-08 Matsushita Electric Ind Co Ltd 映像信号の高能率符号化方法
US5001559A (en) * 1989-10-12 1991-03-19 International Business Machines Corporation Transform coding using coefficient prediction techniques
US5699460A (en) * 1993-04-27 1997-12-16 Array Microsystems Image compression coprocessor with data flow control and multiple processing units
CN1154631A (zh) * 1995-04-14 1997-07-16 株式会社东芝 图象解码装置
US5754457A (en) * 1996-03-05 1998-05-19 Intel Corporation Method for performing an inverse cosine transfer function for use with multimedia information
US5737451A (en) * 1996-04-10 1998-04-07 Eastman Kodak Company Method and apparatus for suppressing blocking artifacts in block-transform coded images
US5818532A (en) * 1996-05-03 1998-10-06 Lsi Logic Corporation Micro architecture of video core for MPEG-2 decoder
US6148109A (en) * 1996-05-28 2000-11-14 Matsushita Electric Industrial Co., Ltd. Image predictive coding method
JP4166305B2 (ja) * 1996-09-20 2008-10-15 エイ・ティ・アンド・ティ・コーポレーション ビデオの画像コーディング及びイントラコーディングのための暗黙の係数予測及び走査適合化を提供するビデオコーダー
US6341144B1 (en) * 1996-09-20 2002-01-22 At&T Corp. Video coder providing implicit coefficient prediction and scan adaptation for image coding and intra coding of video
KR100346728B1 (ko) * 1996-09-21 2002-10-12 삼성전자 주식회사 이산코사인변환의 dc 계수예측방법 및 이를 이용한 데이터 부호화방법
KR100346740B1 (ko) * 1996-09-21 2002-09-18 삼성전자 주식회사 이산코사인변환계수예측방법
JP4034380B2 (ja) * 1996-10-31 2008-01-16 株式会社東芝 画像符号化/復号化方法及び装置
KR100239349B1 (ko) * 1996-12-20 2000-01-15 구자홍 역이산 코사인 변환기의 데이타 포멧 변환 회로
JP3235555B2 (ja) * 1997-05-14 2001-12-04 日本電気株式会社 信号復号装置及び信号復号方法並びに信号復号処理をコンピュータに行わせるためのプログラムを記録した記録媒体
US6741748B1 (en) * 1997-06-19 2004-05-25 Samsung Electronics Co. Scan interleaving method based on context values of neighboring pixels, improved encoding/decoding method of binary shape data and encoding/decoding apparatus suitable for the same
KR100597569B1 (ko) * 1998-05-04 2006-07-10 제너럴 인스트루먼트 코포레이션 엠펙-4 비디오의 역양자화를 위한 방법 및 장치
AU4701999A (en) * 1998-06-19 2000-01-05 Equator Technologies, Inc. Decoding an encoded image having a first resolution directly into a decoded image having a second resolution
US6658157B1 (en) * 1999-06-29 2003-12-02 Sony Corporation Method and apparatus for converting image information
JP3887178B2 (ja) * 2001-04-09 2007-02-28 株式会社エヌ・ティ・ティ・ドコモ 信号符号化方法及び装置並びに復号方法及び装置
US6819803B2 (en) * 2001-07-02 2004-11-16 International Business Machines Corporation Faster lossless rotation of JPEG images
US8275047B2 (en) * 2001-09-20 2012-09-25 Xilinx, Inc. Method and device for block-based conditional motion compensation
CN101448162B (zh) * 2001-12-17 2013-01-02 微软公司 处理视频图像的方法
KR100429020B1 (ko) * 2002-02-05 2004-04-29 (주)씨앤에스 테크놀로지 Mpeg-4 영상의 복호 방법
US7379956B2 (en) * 2002-07-14 2008-05-27 Apple Inc. Encoding and decoding data arrays
US7376280B2 (en) * 2002-07-14 2008-05-20 Apple Inc Video encoding and decoding
US6931061B2 (en) * 2002-11-13 2005-08-16 Sony Corporation Method of real time MPEG-4 texture decoding for a multiprocessor environment

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06187434A (ja) * 1992-06-04 1994-07-08 Internatl Business Mach Corp <Ibm> イメージ/ビデオ処理のためのプロセス・パイプライン・アー キテクチャ
WO2001082217A1 (en) * 2000-04-25 2001-11-01 Hewlett-Packard Company Image sequence compression featuring independently coded regions
WO2001095633A2 (en) * 2000-06-09 2001-12-13 General Instrument Corporation Video size conversion and transcoding from mpeg-2 to mpeg-4

Also Published As

Publication number Publication date
JP2010063191A (ja) 2010-03-18
AU2003290861A1 (en) 2004-06-03
JP4950272B2 (ja) 2012-06-13
AU2003290861A8 (en) 2004-06-03
WO2004045079A2 (en) 2004-05-27
US7724820B2 (en) 2010-05-25
JP4524188B2 (ja) 2010-08-11
EP2416573A3 (en) 2014-04-09
EP2416573A2 (en) 2012-02-08
EP2416574A3 (en) 2014-04-09
KR100974983B1 (ko) 2010-08-09
US20040091052A1 (en) 2004-05-13
EP2416574A2 (en) 2012-02-08
KR20050086623A (ko) 2005-08-30
US20050238097A1 (en) 2005-10-27
WO2004045079A3 (en) 2005-02-10
EP1561345A2 (en) 2005-08-10
CN1729690A (zh) 2006-02-01
US6931061B2 (en) 2005-08-16
EP1561345A4 (en) 2010-01-20
CN1729690B (zh) 2010-05-26

Similar Documents

Publication Publication Date Title
JP4950272B2 (ja) ビデオテクスチャ情報復号装置及び方法
US10841614B2 (en) Low-complexity intra prediction for video coding
Chen et al. Implementation of H. 264 encoder and decoder on personal computers
JP4425561B2 (ja) イメージおよびビデオ符号化のための2−d変換
KR100723411B1 (ko) 멀티 코덱용 변환 장치 및 방법과 멀티 코덱용 역변환 장치및 방법
KR101170799B1 (ko) 영상 압축 방법 및 그 장치와 영상 복원 방법 및 그 장치
JP2009170992A (ja) 画像処理装置およびその方法、並びにプログラム
JP2004516760A (ja) スケーラブルな計算複雑性のビデオ画像及び静止画像復号化のための近似逆離散コサイン変換
JP4868776B2 (ja) 画像処理装置
US9094686B2 (en) Systems and methods for faster throughput for compressed video data decoding
RU2333615C2 (ru) Адаптивное взвешивание эталонных изображений при декодировании видеосигнала
AU2016277600B2 (en) Low-complexity intra prediction for video coding
JPH1084287A (ja) モジュール切り替え型画像圧縮・再生装置
JP2005123737A (ja) 画像符号化方法、画像符号化装置
Sriram et al. Computationally efficient lossless image coder
AU2015264787A1 (en) Low-complexity intra prediction for video coding

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20061023

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20080528

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20080528

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20080618

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090622

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20090917

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20090929

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091216

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100118

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100419

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100517

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100531

R150 Certificate of patent or registration of utility model

Ref document number: 4524188

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130604

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees