JP2009522890A - インターレイヤ動き予測方法 - Google Patents

インターレイヤ動き予測方法 Download PDF

Info

Publication number
JP2009522890A
JP2009522890A JP2008548963A JP2008548963A JP2009522890A JP 2009522890 A JP2009522890 A JP 2009522890A JP 2008548963 A JP2008548963 A JP 2008548963A JP 2008548963 A JP2008548963 A JP 2008548963A JP 2009522890 A JP2009522890 A JP 2009522890A
Authority
JP
Japan
Prior art keywords
macroblock
motion data
image
resolution image
high resolution
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008548963A
Other languages
English (en)
Other versions
JP5112332B2 (ja
JP2009522890A5 (ja
Inventor
フランソワ,エドワール
ボトロー,ヴァンサン
ロペス,パトリック
ヴィロン,ジェローム
チェン,イン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Thomson Licensing SAS
Original Assignee
Thomson Licensing SAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Thomson Licensing SAS filed Critical Thomson Licensing SAS
Publication of JP2009522890A publication Critical patent/JP2009522890A/ja
Publication of JP2009522890A5 publication Critical patent/JP2009522890A5/ja
Application granted granted Critical
Publication of JP5112332B2 publication Critical patent/JP5112332B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/57Motion estimation characterised by a search window with variable size or shape
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/16Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter for a given display mode, e.g. for interlaced or progressive display mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/187Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a scalable video layer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/31Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability in the temporal domain
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/33Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability in the spatial domain
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/513Processing of motion vectors
    • H04N19/517Processing of motion vectors by encoding
    • H04N19/52Processing of motion vectors by encoding by predictive encoding

Abstract

本発明は、低分解能画像のマクロブロックに関連付けられた動きデータから少なくとも1つの動き予測子を、高分解能画像の少なくとも1つのマクロブロックについて生成する方法に関する。上記方法は、仮想ベース・レイヤ・マクロブロックと呼ばれる重ならないマクロブロックを含む仮想構造を定義する工程と、高分解能画像内の高分解能マクロブロックの位置に基づいて、かつ、低分解能画像の寸法と高分解能画像の寸法との比に基づいて仮想画像内の対応する仮想ベース・レイヤ・マクロブロックを高分解能マクロブロックについて識別する工程と、対応する低分解能マクロブロック対のフィールド/フレーム・モードに基づいて、かつ、高分解能マクロブロックのフィールド/フレーム・モードに基づいて、対応する低分解能マクロブロック対の少なくとも1つのマクロブロックに関連付けられた動きデータから動きデータを、識別された仮想ベース・レイヤ・マクロブロック毎に導出する工程と、対応する仮想ベース・レイヤ・マクロブロックに関連付けられた動きデータを再サンプリングして少なくとも1つの動き予測子を生成する工程とを含む。

Description

本発明は、低分解能系列の画像の画素ブロックに関連付けられた動きデータから少なくとも1つの動き予測子を高分解能系列の画像の画素ブロックについて生成する方法に関する。
従来技術のスケーラブル階層符号化手法は、異なる分解能及び/又は品質レベルにおいて復号化することが可能であるために情報を階層的に符号化することを可能にする。スケーラブル符号化装置によって生成されるデータ・ストリームはよって、いくつかのレイヤ(すなわち、ベース・レイヤ、及び1つ又は複数のエンハンスメント・レイヤに分割される。前述の装置は、一意のデータ・ストリームを可変送信状態(帯域幅、エラー・レート)に適合させ、受信装置の容量(CPU、再生装置の特性)にも適合させることを可能にする。空間スケーラブル階層符号化(又は復号化)手法は、ベース・レイヤ画像(BL画像)とも呼ばれる低分解能画像に関するベース・レイヤと呼ばれる第1のデータ部分を符号化(又は復号化)し、このベース・レイヤから、エンハンスメント・レイヤ画像(EL画像)とも呼ばれる高分解能画像に関するエンハンスメント・レイヤと呼ばれる少なくとも別のデータ部分を符号化(又は復号化)する。エンハンスメント・レイヤに関する符号化情報又は符号化データは場合によっては、インターレイヤ予測手法又はインターレイヤ継承手法と呼ばれる手法により、ベース・レイヤに関する符号化情報から継承(すなわち、導出)される。高分解能画像の各マクロブロックはよって、古典的予測モード(例えば、双方向予測モード、直接予測モード、前方/後方予測)によって時間予測されるか、又は、インターレイヤ予測モードによって予測される。前者の場合、高分解能マクロブロックに関連付けられた動き情報/データ(例えば、(マクロブロック/ブロックをいくつかのサブブロックに分割するために)高分解能画像の画素のマクロブロック/ブロックに関連付けられた分割パターン)、上記ブロックに関連付けられた符号化モード、場合によっては、動きベクトル、及び、(上記ブロックを予測するために使用される)画像の参照を可能にする、特定のブロックに関連付けられた1つ又は複数の画像参照指数は、低分解能画像又は高分解能画像の形式(すなわち、プログレッシブ又はインタレース)にかかわらず、低分解能画像のマクロブロックに関連付けられた動きデータから導出又は継承されなければならない。
本発明は、低分解能マクロブロックと呼ばれる、低分解能画像のマクロブロックに関連付けられた動きデータから少なくとも1つの動き予測子を、高分解能マクロブロックと呼ばれる、高分解能画像の少なくとも1つのマクロブロックについて生成する、ビデオ信号を符号化又は復号化する処理の一部としての方法に関する。
上記方法は、
仮想ベース・レイヤ・マクロブロックと呼ばれる重ならないマクロブロックを含む仮想構造を定義する工程であって、仮想構造は、低分解能画像と同じ寸法を有する工程と、
高分解能画像内の高分解能マクロブロックの位置に基づいて、かつ、低分解能画像の寸法と高分解能画像の寸法との比に基づいて仮想画像内の対応する仮想ベース・レイヤを高分解能マクロブロックについて識別する工程と、
対応する低分解能マクロブロック対のフィールド/フレーム・モードに基づいて、かつ、高分解能マクロブロックのフィールド/フレーム・モードに基づいて、対応する低分解能マクロブロック対の少なくとも1つのマクロブロックに関連付けられた動きデータから動きデータを、識別された仮想ベース・レイヤ・マクロブロック毎に導出する工程と、
対応する仮想ベース・レイヤ・マクロブロックに関連付けられた動きデータを再サンプリングして少なくとも1つの動き予測子を生成する工程とを含む。
高分解能マクロブロックがフレーム・モードにあり、対応する低分解能マクロブロック対がフィールド・モードにある場合、導出する工程は、
最上部マクロブロック及び底部マクロブロックを含む低分解能マクロブロック対を比2で垂直アップサンプリングする工程であって、アップサンプリング・マクロブロックそれぞれが、アップ部分及びダウン部分を含む工程と、
アップサンプリングされた最上部マクロブロックのアップ部分の動きデータを、アップサンプリングされた底部マクロブロックのアップ部分の動きデータとマージし、アップサンプリングされた最上部マクロブロックのダウン部分の動きデータを、アップサンプリングされた底部マクロブロックのダウン部分の動きデータとマージする工程とを含む。
高分解能マクロブロックがフィールド・モードにあり、対応する低分解能マクロブロック対がフレーム・モードにある場合、導出する工程は、対応する低分解能マクロブロック対に関連付けられた動きデータを比2で垂直ダウンサンプリングする工程を備える。
本発明は、高分解能マクロブロックと呼ばれるマクロブロックを含む高分解能画像系列、及び低分解能マクロブロックと呼ばれる低分解能画像系列を符号化する装置にも関する。上記装置は、
低分解能画像を符号化する第1の符号化手段であって、第1の符号化手段は、低分解能画像のマクロブロックの動きデータを生成する第1の符号化手段と、
低分解能マクロブロックと呼ばれる、低分解能画像のマクロブロックの動きデータから、高分解能マクロブロックと呼ばれる高分解能画像の少なくとも1つのマクロブロックの動きデータを導出する継承手段と、
導出された動きデータを使用して高分解能画像を符号化する第2の符号化手段であって、第2の符号化手段がエンハンスメント・レイヤ・データ・ストリームを生成する第2の符号化手段とを含む。
継承手段は、
仮想ベース・レイヤ・マクロブロックと呼ばれる重ならないマクロブロックを含む仮想構造を定義する手段であって、仮想構造は、低分解能画像と同じ寸法を有する手段と、
高分解能画像内の高分解能マクロブロックの位置に基づいて、かつ、低分解能画像の寸法と高分解能画像の寸法との比に基づいて仮想画像内の対応する仮想ベース・レイヤ・マクロブロックを高分解能マクロブロックについて識別する手段と、
対応する低分解能マクロブロック対のフィールド/フレーム・モードに基づいて、かつ、高分解能マクロブロックのフィールド/フレーム・モードに基づいて、対応する低分解能マクロブロック対の少なくとも1つのマクロブロックに関連付けられた動きデータから動きデータを、識別された仮想ベース層・レイヤ・マクロブロック毎に導出する手段と、
対応する仮想ベース・レイヤ・マクロブロックに関連付けられた動きデータを再サンプリングして少なくとも1つの動き予測子を生成する手段とを備える。
特定の実施例によれば、第1の符号化手段はMPEG−4 AVCビデオ符号器である。
本発明は、少なくとも符号化高分解能画像系列を復号化する装置にも関し、符号化画像はデータ・ストリームの形式で生じ、各画像は、重ならないマクロブロックに分割される。装置は、
少なくとも1つのデータ・ストリーム部分を復号化して、低分解能画像、及び低分解能画像のマクロブロックの動きデータを生成する第1の復号化手段と、
低分解能画像のマクロブロックの動きデータから高分解能画像の少なくとも1つのマクロブロックの動きデータを導出する継承手段と、
導出された動きデータを使用して少なくとも第2のデータ・ストリーム部分を復号化して高分解能画像を示す第2の復号化手段とを備える。
継承手段は、
仮想ベース・レイヤ・マクロブロックと呼ばれる重ならないマクロブロックを含む仮想構造を定義する手段であって、仮想構造は、低分解能画像と同じ寸法を有する手段と、
高分解能画像内の高分解能マクロブロックの位置に基づいて、かつ、低分解能画像の寸法と高分解能画像の寸法との比に基づいて仮想画像内の対応する仮想ベース・レイヤ・マクロブロックを高分解能マクロブロックについて識別する手段と、
対応する低分解能マクロブロック対のフィールド/フレーム・モードに基づいて、かつ、高分解能マクロブロックのフィールド/フレーム・モードに基づいて、対応する低分解能マクロブロック対の少なくとも1つのマクロブロックに関連付けられた動きデータから動きデータを、識別された仮想ベース・レイヤ・マクロブロック毎に導出する手段と、対応する仮想ベース・レイヤ・マクロブロックに関連付けられた動きデータを再サンプリングして少なくとも1つの動き予測子を生成する手段とを備える。
特定の実施例によれば、第1の復号化手段はMPEG−4 AVCビデオ復号器である。
本発明の他の特徴及び利点はその実施例の一部の以下の記載により明らかになるであろう。この記載は、図面に関して行う。
「Scalable Video Coding−Joint Draft 4」と題し、シリーズにおいてJSVM4として参照される、ISO/IEC MPEG&ITU−T VCEGによる刊行物「JVT−Q202」においてJVT(MPEG&ITU)によって現在規定されているSVC技術標準では、空間スケーラビティは、プログレッシブ・マテリアルについてのみ検討される。連続する2つ(又はそれ以上)の空間レイヤ(ベース・レイヤ及びエンハンスメント・レイヤ)間のインターレイヤ動き予測は、プログレッシブ・ビデオ系列の場合にのみアドレス指定される。本発明は、インタレース/プログレッシブ・スケーラビリティの組み合わせをサポートするために前述のインターレイヤ予測処理を拡張することを提案している。
多くのビデオ符号化標準によれば、別の時点で捕捉された底部フィールドとのインタレースされた最上部フィールドを有するインタレース画像は、2つのフィールド画像として符号化してもよく(フィールド画像モード。2つの画像フィールドが別個に符号化される)、フレーム画像として符号化してもよい(フレーム画像モード。画像は、単一のフレームとして符号化される)。「Text of 14496−2 Third Edition」と題する刊行物「ISO/IEC JTC 1/SC 29/WG 11 N5546」に記載されたMPEG−4 AVCにより、判定を、画像全体について独立して行うか、又は2つの垂直マクロブロック対おきに独立して行うことが可能になる。判定が画像レベルで行われる場合、これはPAFF(PAFFは画像適応フレーム/フィールドの略である)符号化と呼ばれ、判定がマクロブロック対レベルで行われる場合、これはMBAFF(MBAFFはマクロブロック適応フレーム/フィールドの略である)と呼ばれる。より詳細には、MPEG−4 AVCによれば、インタレース画像がフレーム画像として符号化され、MBAFFが可能になった場合、各垂直マクロブロック(MB)対をインタレース(すなわち、フィールド・モード(図1の右部分))又はプログレッシブ(すなわち、フレーム・モード(図1の左部分))として符号化することができる。図1では、灰色の線は、奇数画像行(すなわち、白色行)とインタレースされた偶数画像行を表す。垂直マクロブロック対がフィールド・モードにある場合、対の各MBはフィールド・マクロブロックにあると言える。垂直マクロブロック対がフレーム・モードにある場合、対の各MBはフレーム・マクロブロックにあると言える。
本発明による方法は、高分解能系列及び低分解能系列の形式(インタレース又はプログレッシブ)にかかわらず、低分解能画像の一部のマクロブロック(ベース・レイヤ・マクロブロックと呼ばれ、BL MBと表す)に関連付けられた動きデータから高分解能画像(エンハンスメント・レイヤ・マクロブロックと呼ばれ、EL MBと表す)のマクロブロックの少なくとも1つのインターレイヤ動き予測子を生成することを可能にする。高分解能画像のマクロブロックに関連付けられたインターレイヤ動き予測子(より単純には、動き予測子と呼ばれる)は、動きデータ(例えば、パーティション/サブパーティション・タイプ、場合によっては、参照画像の識別を可能にする参照指数、動きベクトル)が関連付けられたマクロブロックである。MPEG−AVCによれば、画像系列の画像毎に、以下のように規定された2つの参照リスト(list0及びlist1)のうちから参照指数が選択される。
各参照指数が、特定の参照画像番号に関連付けられる。
リスト毎に、特定の参照指数が無効とマーキングされる。
各8×8ブロック(すなわち、8×8画素のサイズのブロック)は、リスト毎に、単一の参照指数を使用することが可能である。
無効参照指数は、復号化処理において未だ利用可能でない(復号化されていない)参照フィールド又はフレームに対応する。
動き予測子は、JSVM4刊行物に開示された、ESS(拡張空間スケーラビリティ)手法として動きダウンサンプリング手法を使用して生成される。対象の高分解能画像がインタレースの場合、2つのインターレイヤ予測モードは、各ELマクロブロックを符号化又は復号化するよう潜在的に利用可能である。
1. インターレイヤ・インタレース(IL_I)モード: 最上部又は底部フィールド・データに対応するマクロブロック(すなわち、フィールド・マクロブロック)
2. インターレイヤ・プログレッシブ(IL_P)モード: フレーム・データに対応するマクロブロック(すなわち、フレーム・マクロブロック)
本発明は、前述のインターレイヤ・マクロブロック予測子を生成する方法を提案している。この目的で、本発明は、JSVM4に記載された手法を詳細に修正するのではなく、BL MBから「仮想ベース・レイヤ」(VBL)マクロブロックを工程190で規定することを含む。「仮想ベース・レイヤ」(VBL)マクロブロックは、動きデータが関連付けられる構造である。VBL構造の使用は、JSVM4アップサンプリング処理修正を避けるか、又はかなり制限する。インタレースに関する課題の大半が、VBLデータ導出において報告されている。実際に、「仮想ベース・レイヤ」(VBL)マクロブロックは、BLマクロブロックとELマクロブロックとの間の互換性を確実にし、プログレッシブ画像についてJSVM4に規定されたインターレイヤ予測の直接的な再利用を容易にする。BLマクロブロックに再サンプリング処理を直接施すかわりに、BLマクロブロックはまず、VBLマクロブロックに変換される。VBLマクロブロックは全て、ELマクロブロック・フィールド/フレーム・モードと互換のフィールド/フレーム・モードを有する。実際には、この方法は、VBLフレーム(BL画像と同じ寸法を有する)、VBL最上部フィールド及びVBL底部フィールド(BL画像と同じ幅、及びBL画像の半分の高さを有する)の構造の使用を必要とし、図17に示すBL画像と同じ寸法のVBLフィールドを形成する。各VBL構造は、動きデータが関連付けられるVBLフレームMB、VBL最上部フィールドMB、及びVBL底部フィールドMBと呼ばれるマクロブロックに分割される。BL MBから高分解能画像のMBの動き情報を導出するための、JSVM4記載の古典的ESSダウンサンプリング手法が次いで、元のBLMBではなくVBL MBを使用して施される。符号化処理では、潜在的なインターレイヤ動き予測子が全て、計算される。符号化処理は次いで、インターレイヤ予測モード又は古典的予測モードを使用した、現在のEL MBの符号化を選択する。インターレイヤ予測モードが符号化処理によって選択された場合、対応するインターレイヤ予測子のみが復号化処理によって計算される。図2を参照すれば、インターレイヤ・モードIL_modeがIL_P(すなわち、フレーム・モード)又はIL_I(すなわち、フィールド・モード)である現在のEL MBのインターレイヤ動き予測処理は以下の工程を達成する。
対応するVBLマクロブロック{c0,c1,...cN}を識別する(200)
(xi,yi)にある対応するVBLマクロブロックci(i=0..N)毎に、インターレイヤ予測モードに応じてBLマクロブロックに関連付けられた動きデータから関連付けられた動きデータを導出する(210)
enh/hbaseに等しい垂直方向比及びwenh/wbaseに等しい水平方向比で、JSVM4に記載されたESS処理を使用して、インターレイヤ動き予測子を各VBL MBから導出する(220)。ここで、henhはHLピクチャの高さであり、wenhはHLピクチャの幅であり、hbaseはBLピクチャの高さであり、wbaseはBLピクチャの幅である。
復号化側でのインターレイヤ・モードIL_modeはビットストリームから導出される。符号化側では、このモードは符号化モード判定手法によって導出される。前述の手法は、例えば、事後基準に基づく(すなわち、歪み及び符号化コストの線形的な組み合わせを最小にするモードを選択する)。
図18は、低分解能画像がインタレースされ、フレーム画像としてMBAFFモードで符号化され、高分解能画像がインタレースされ、フレーム画像としてMBAFFモードで符号化される場合のインターレイヤ動き予測処理を例として示す。ELマクロブロック(この例では、黒く塗られ、フレーム・マクロブロックとみなす)の場合、その対応するVBLマクロブロックがまず識別される。対応するBLマクロブロックは、ELマクロブロックとは別のフレーム/フィールド・モードのものであり得る。例えば、図18では、BLマクロブロックの右の対は2つのフィールド・マクロブロックを含む一方、ELマクロブロックはフレーム・モードにある。この場合、BLマクロブロックに関連付けられた動きデータが変換される。この変換動きデータ情報はしたがって、ELマクロブロックと同じフレーム/フィールド・モードを有するVLBマクロブロックに関連付けられる。最後に、インターレイヤ予測が、JSVM4に記載された「標準的な」プログレッシブ再サンプリング処理を使用してVBLマクロブロックからELマクロブロックへのインターレイヤ予測が行われる。
フレームフィールド・マクロブロック変換が以下の場合に必要である。
場合1:BLフレーム及びELフレームはMBAFFモードで符号化され、EL MBはフィールド符号化され、対応するBL MBはフレーム符号化される。これは、フレーム・フィールド変換を必要とする。
場合2:EL MBはフレーム符号化され、BLはフレーム画像であり、対応するBL MBはフィールド符号化される。その場合、フィールド・フレーム変換が必要である。
場合3:BL画像はプログレッシブ・フレームであり、EL MBは、フレーム画像でフィールド符号化されるか、又はフィールド画像に属し、ELフィールド高さHl2はBLフレーム高さHよりも低い。その場合、フレーム・フィールド変換が必要である。
工程200は、対応するVBLマクロブロック{c0,c1,…cN}を識別する工程を含む。EL MBモードがIL_Pの場合、すなわち、VBLフレームMBが使用される場合、対応するVBL MBは以下の処理を使用して求められる。すかわち、
xs=[xbase/wenh]/16
ys=[ybase/henh]/16
xe=[(x+15)base/wenh]/16
ye=[(y+15)base/henh]/16
ここで(x,y)は、対象のEL MBの左上サンプル位置であり、(Wbase,hbase)はベース画像の寸法であり、(wenh,henh)はエンハンスメント画像の寸法である。対応するVBLマクロブロック{c0,c1,…cN}は、左上位置(xs,ys)及び右下位置(xe,ye)で区切られたウィンドウ内にある。
EL MBモードがIL_Iの場合、すなわち、VBL最上部フィールドMB又は底部フィールドMBが使用される場合、対応するVBL MBは以下の処理を使用して求められる。
xs=[(x−xbase/wenh]/16
ys=[(y−y(hbase/2)/henh]/16
xe=[(x+15−xbase/wenh]/16
ye=[(y+15−y(hbase/2)/henh]/16
対応するVBLマクロブロック{c0,c1,...cN}は、左上位置(xs,ys)及び右下位置(xe,ye)によって区切られたウィンドウ内にあるものである。
工程210は、VBL MBを生成する工程を含み、かつ、特に、VBL MBに関連付けられた動きデータを導出する工程を含む。VBL最上部MBは、BL画像符号化モードに応じて以下のように生成される。
BL画像がフレーム画像として符号化された場合、(xi,2yi)にあるBL MBがプログレッシブの場合には,VBL最上部MB ciは、(xi,2yi+1)にあるBL MB及び(xi,2yi)にあるBL MBを含むMB対の垂直ダウンサンプリング・バージョンである。図3に表すようなプログレッシブ・マクロブロックの対の垂直ダウンサンプリングされたマクロブロック・バージョンを導出する連続処理において新たなダウンサンプリング処理が規定され、(xi,2yi)にあるBL MBがインタレースの場合、VBL最上部MNに関連付けられた動きデータは位置(xi,2yi)に関連付けられた動きデータの複製である。
BL画像がフィールド画像として符号化された場合、VBL最上部MB ciに関連付けられた動きデータは、(xi,yi)における最上部BL MBに関連付けられた動きデータの複製である。
VBL底部MBは、BL画像符号化モードに応じて以下のように生成される。
BL画像がフレーム画像として符号化された場合、(xi,2yi+1)にあるBL MBがプログレッシブの場合には,VBL底部MB ciは、(xi,2yi+1)にあるBL MB及び(xi,2yi)にあるBL MBを含むMB対の垂直ダウンサンプリング・バージョンである。これは、図4に表すような新たなダウンサンプリング処理を使用して生成され、(xi,2yi+1)にあるBL MBがインタレースの場合、VBL底部MB ciに関連付けられた動きデータは位置(xi,2yi+1)にある底部BL MBに関連付けられた動きデータの複製である。
BL画像がフィールド画像として符号化された場合、VBL底部MB ciに関連付けられた動きデータは、(xi,yi)における底部BL MBに関連付けられた動きデータの複製である。
VBLフレームMBは、BL画像符号化モードに応じて以下のように生成される。
図5に表すようにBL画像がフレーム画像に符号化された場合、(xi.yi)にあるBL MBがプログレッシブの場合には、VBLフレームMB ciに関連付けられた動きデータは(xi,yi)にあるBL MBに関連付けられた動きデータの直接の複製であり、(xi,yi)にあるBL MBがインタレースの場合には、VBLフレームMB ciは、(xi,yi)にあるBL MB、及び(xi,yi+1−2(yi%2))にあるBL MBを有するMB対のマージされたバージョンである。新たなマージ処理は、2つのマクロブロックをプログレッシブ・マクロブロックにマージすることを可能にする連続処理において規定される。
この場合、MB対のVBLフレームのMBアップ及びMBダウンは同一である。同じ最上部BL MB及び底部BL MBから生成されるからである。
図6に表すようにBL画像がフィールド画像として符号化された場合、VBLフレームMB ciは、位置(xi,yi/2)におけるBL最上部フィールドMB及び位置(xi,yi/2)におけるBL底部フィールドMBのマージされたバージョンである。このVBLフレームMBは、新たなマージ処理を使用して生成される。
プログレッシブ・マクロブロック対の垂直ダウンサンプリングされたマクロブロック・バージョンを導出する新たなダウンサンプリング処理は、プログレッシブ形式で符号化された位置(mbX,2mbY)及び(mbX,2mbY+1)でBLマクロブロック対(アップ及びダウン)に施す。これは、比2で垂直ダウンサンプリングする工程を含む(一例を図7に表す)。この処理により、ダウンサンプリングされたマクロブロックが位置(mbX,mbY)において出力される。図7に表すように、2つのBLアップ・マクロブロック及びダウン・マクロブロックはそれぞれ、垂直ダウンサンプリング後に
16×8パーティションを生成する。よって、基本的には、垂直ダウンサンプリングされたマクロブロックは2つの16x8パーティションに分割される。垂直ダウンサンプリング処理は、MPEG−4 AVC標準によって禁止されている構成を生成することが可能である。例えば、
8×8サブパーティションにおいて異なる参照指数(例えば、BLマクロブロックの1つが4つの8x8ブロックに分割され、近傍の2つのアップ8x8ブロック及びダウン8x8ブロックが同じ参照指数を有しない場合、ダウンサンプリングされると、異なる参照指数を有する2つの8×4ブロックに分割される8×8ブロックを生成する)。あるいは、
2画素の高さのサブパーティション(例えば、入力8×8ブロックが8×4サブパーティションに分割された場合、一度ダウンサンプリングされた8×2のサイズのサブパーティションを生成する)。
したがって、クリーニング処理をBLアップMB及びBLダウンMBにまず施して前述の構成を避ける。プログレッシブBLマクロブロック対の各マクロブロックは、無効な動きベクトルを備えたパーティションを避けるためにまず、クリーンアップされる。MBBLと表す1つのプログレッシブBLマクロブロックについて図8に表す処理は、対のアップMB及びダウンMBに連続して施す。これは以下の3つの工程を達成する。
無効なパーティションの除去(800)
参照指数の均一化(810)、並びに
4×4のサブパーティション、4×8のサブパーティションのマージ(820)
工程800は、復号化処理において未だ利用可能でない参照フィールド又はフレームに対応する無効パーティション(すなわち、無効参照指数を使用するパーティション)を除去する工程を含む。
MBBLモードがイントラでない場合、以下の処理を施す。
リスト(0又は1)毎に、以下を施す。
まず、無効参照指数を有するパーティションが無効として分類され、他のパーティションが有効として分類される。
次いで、少なくとも1つのパーティションが有効の場合、無効として分類されたパーティション毎に、無効パーティションの除去が達成される。例えば、無効として分類されていないマクロブロックの近傍パーティションのサブパーティション化、動きベクトル、及び参照指数が、無効パーティションに複製される。近傍パーティションは、水平方向、垂直方向、対角線方向の順序で走査することができる。パーティションは次いで有効として分類される。
両方のリストについて、パーティションが全て無効の場合、MBBLモードは無効にセットされる。
MBBLモードがイントラの場合、何も行われない。
工程810は、MBBLパーティション内の参照指数を均一化する工程を含む。これは、MBBLモードが無効にセットされていない場合にのみあてはまる。
BLマクロブロック・パーティションが16x8又は8x8に等しい場合、マクロブロックのアップ・パーティション毎に以下の処理が施される。
少なくとも一リスト(0又は1)について、マクロブロックのダウン・パーティションが、異なる参照指数をそのアップ・パーティションとして有する場合、以下がリスト(0又は1)毎にあてはまる。
最小参照指数rlを使用したアップ・パーティション又はダウン・パーティションが識別される(refPartと表す)。
他方のパーティションには、同じ参照指数rl、サブパーティション化(該当する場合)、及び動きベクトルをrefPartとして有するよう強制される。
場合によっては、工程815で、パーティション・マージ処理が施される。サブパーティション化されておらず、リスト毎の参照指数及び動きベクトルが同一の場合、パーティションは、単一のパーティションにマージされる。マクロブロック・モードは以下のように修正される:
16x8及び8x16は、16x16に変換される。
8x8は、以下として変換される。
8×16(8×8左ブロックが一緒にマージされ、8×8右ブロックが一緒にマージされた場合)
16×8(8×8アップ・ブロックが一緒にマージされ、8×8ダウン・ブロックが一緒にマージされた場合)、及び
16×16(4つの8×8アップ・ブロックが一緒にマージされた場合)。
工程815は任意である。
工程820は、4×4サブパーティション及び8×4サブパーティションをマージする工程を含む。これは、MBBLモードが無効にセットされていない場合にのみあてはまる。MBBLモードが無効にもイントラにも等しくなく、マクロブロック・パーティションが8×8に等しい場合、サブパーティションのマージが、マクロブロックの各8×8ブロックに施される。サブパーティション化は8×4又は4×4に等しい。図9に表すように、8×4サブパーティションは8×8サブパーティションにマージされ、4×4サブパーティションは4×8サブパーティションにマージされる。マージ領域それぞれについて、リスト(0又は1)毎に、マージ領域動きベクトルが、マージ対象の2つの部分の平均動きベクトルにセットされる。
クリーニング処理後、MBと呼ばれるダウンサンプリングされたマクロブロックが生成される。これは、対応するクリーニングされた2つのBLマクロブロック(BMbUp及びBMbDown)を有する。図10は、ダウンサンプリングされたマクロブロックMBを生成するよう施される処理のフローチャートを表す。
BMbUp及びBMbDownがイントラの場合、MBはイントラにセットされる。
さもなければ、BMbUp及びBMbDownがイントラ又は無効の場合(3つの場合をここでは考えてみる。BMbUpがイントラであり、BMbDownが無効の場合、BMbUpが無効であり、BMbDownがイントラの場合、又はマクロブロックBMbUpもマクロブロックBMbDownも無効の場合)、MBは無効にセットされる。
さもなければ、以下の処理があてはまる。
工程1000で、MBが、2つの16×8部分(連続して16×8PartUp及び16x8PartDownと表す)に分割される。各16×8部分は、対応する一BLフレーム・マクロブロックを有する(16x8PartUpはBMbUpに対応し、16x8PartDownはBMbDownに対応する)。
工程1200では、各16x8部分である16x8PartZ(ZはUp又はDownによって置き換えられる)が、以下の処理(図11に示す)を使用して構築される。
BMbZが無効又はイントラの場合、16x8PartZは中立として分類される。
さもなければ、BMbZパーティションが16x16の場合、16x8PartZパーティションは16x8である(図11a)。リスト毎に、16x8PartZ参照指数は、BMbZのものである。
さもなければ、16x8PartZパーティションは8x8である。16x8PartZの2つの8x8ブロックが次いで以下のようにサブパーティション化される。
BMbZパーティションが16×8の場合、サブパーティション化は、何れのブロックも8×4である(図11b)。
さもなければ、BMbZパーティションが8×16の場合、サブパーティション化は、何れのブロックも8×8である(図11c)。
さもなければ、BMbZのW(Wは左又は右で置き換える)パーティションが8×8の場合、以下があてはまる(図11dの例)。
BMbZのW8×8ブロックの少なくとも1つが4×8に分割された場合、W8×8ブロックのサブパーティション化は4×4である。
さもなければ、W8×8ブロックのサブパーティション化は8×4である。
16x8PartZの導出パーティション/サブパーティションそれぞれは、その参照指数及び動きベクトルを以下のように継承する。
対象パーティション/サブパーティションの4×4左上ブロック座標(b4X,b4Y)が識別される。
座標が(b4X,b4Y/2)のBMbZの4×4ブロックの参照指数及び動きベクトルが対象パーティション/サブパーティションに複製される。
工程1200は、中立パーティションがある場合、これを除去する工程を含む。2つの16×8部分の一方が中立と分類された場合、そのコンテンツ(パーティション化/サブパーティション化、参照指数及び動きベクトル)が他方の16×8部分の内容から複製される。
工程1300は、MBパーティション化を以下のように導出する工程を含む。
16x8PartUpパーティション及び16x8PartDownパーティションが16x8の場合、MBパーティション化は16×8である。
さもなければ、MBパーティション化は8×8にセットされる。
場合によっては、工程815のパーティション・マージ処理が工程1400で施される。この工程1400は任意である。
最上部マクロブロック(すなわち、BL最上部フィールドから)及び底部マクロブロック(すなわち、BL底部フィールドから)をプログレッシブ・マクロブロック(アップ及びダウン)の対にマージする新たなマージ処理は、インタレース形式で符号化された2つのBLマクロブロックにあてはまる。最初に検討されるマクロブロックは、最上部マクロブロックBmbTopである。第2のマクロブロックは底部マクロブロックBmbBotである。処理の出力は、図12に表すプログレッシブ・アップ・マクロブロック及びプログレッシブ・ダウン・マクロブロックの対である。BMbTop及びBMbBotは以下のように規定される。
BL画像がフィールド画像として符号化された場合、図13に表すように、位置(mbX,mbY)において、BMbTopはBL最上部フィールドのマクロブロックであり、BMbBotはBL底部フィールドのマクロブロックである。
さもなければ(BL画像がフレーム画像として符号化された場合)、BMbTop及びBMbBotは、位置(mbX,2mbY)及び位置(mbX,2mbY+1)におけるBLフレームのマクロブロックである。このことは、図14に表すように、BLフレーム・マクロブロック対がインタレース・モードで符号化された場合にのみ、あてはまる。
図15を参照すれば、処理は、
比2でBMbTop及びBMbBotを垂直アップサンプリングする工程1500(この工程は、アップサンプリングされた2つの最上部マクロブロック(すなわち、MbTopUp及びMbTopDown)、並びにアップサンプリングされた2つの底部マクロブロック(すなわち、MbBottomUp及びMbBottomDownを生成する)と、
アップサンプリングされたマクロブロックMbTopUp及びMbBottomUpを一マクロブロックMbUpにマージし、アップサンプリングされたマクロブロックMbTopDown及びMbBottomDownを一マクロブロックMbDownにマージする工程510との2つの工程を含む。
工程1500は、比2で垂直方向にマクロブロック・アップサンプリングする工程を含む。この工程は、水平方向の比が1であり、垂直方向の比が2である、JSVM4(ISO/IEC MPEG及びITU−T VCEG共同ビデオ・チーム(JVT) JVT−Q202、J.Reichel、H.Schwarz、M.Wienによる「Scalable Video Coding−Joint Draft 4」)に規定されたESSアップサンプリング処理を直接施す工程を含む。
工程1510は、2つのマクロブロックMbln1及びMbln2に対して施され、マージされた1つのマクロブロックMbOutを生成する。図15を参照すれば、マクロブロックMbln1及びMbln2がマクロブロックMbTopUp及びMbBotUpそれぞれを表す場合にはMbOutはMbUpを表し、マクロブロックMbln1及びMbln2がマクロブロックMbTopDown及びMbBotDownそれぞれを表す場合には、MbOutはMbDownを表す。
第1の実施例によれば、Mbln1に関連付けられた動きデータは、MbOutに関連付けられる。
MbOutがイントラでない場合、無効パーティションが、前述の無効パーティション除去処理によって除去される。
MbOutが無効と分類されている場合、Mbln2に関連付けられた動きデータはMbOutに関連付けられる。次いで、以下の処理があてはまる。
MbOutがイントラでない場合、無効パーティションが、前述の無効パーティション除去処理によって除去される。
好ましい実施例によれば、図16を参照するに、工程1510は、以下のサブ工程を施す工程を含む。
サブ工程1600では、Mbln1に関連付けられた動きデータはMbOutに関連付けられる。次いで、MbOutがイントラでない場合、以下の処理を施す。
リスト(0又は1)毎に、以下を施す。
サブ工程1610では、無効参照指数を有するパーティションが無効として分類され、他のパーティションが有効として分類される。無効パーティションは以下のように処理される。
サブ工程1620では、MbOutパーティション化が強制的に8×8にされる。無効パーティションは8×8パーティションに分割される。MbOutモードは強制的に8×8にされる。8×8パーティション毎に、以下があてはまる。
サブ工程1630では、Mbln2における対応する8×8ブロックが有効参照指数を使用した場合、この8×8のMbln2ブロックの、サブパーティション化(サブパーティション化がある場合)、参照指数、及び動きベクトルが、対象の8×8のMbOutパーティションに複製される。このパーティションは有効として分類される。さもなければ、8×8のMbOutパーティションは無効として分類される。
8×8の少なくとも1つのMbOutパーティションが有効の場合、サブ工程1840で、無効として分類されたパーティション毎に、無効パーティションの除去が達成される。例えば、無効として分類されていないマクロブロックの近傍パーティションのサブパーティション化、動きベクトル、及び参照指数が、無効パーティションに複製される。近傍パーティションは、水平方向、垂直方向、対角線方向の順序で走査することができる。パーティションは次いで有効として分類される。
両方のリストについて、パーティションが全て無効の場合、モードは無効にセットされる。
サブ工程1650で、MbOutパーティションを、工程815のパーティション・マージング処理を施すことにより、マージすることができる。このサブ工程1650は任意である。
図2、図8、図10及び図16では、表しているボックスは純粋に機能エンティティであり、この機能エンティティは、必ずしも物理的に別個のエンティティに対応しない。すなわち、ソフトウェアの形態で開発してもよく、又は、1つ又はいくつかの集積回路において実現してもよい。
インターレイヤ動き予測子を生成する方法は、JSVM4に記載されたものと同様な、ビデオ信号を符号化する処理のものを使用することができる。
本発明は、図19に表す符号化装置8にも関する。符号化装置8は、低分解能画像の第1の符号化モジュール80を備える。モジュール80は、低分解能画像のベース・レイヤ・データ・ストリーム及び動きデータを生成する。優先的には、モジュール80は、MPEG4 AVC標準と互換のベース・レイヤ・データ・ストリームを生成するよう適合される。符号化装置8は、第1の符号化モジュール80によって生成される低分解能画像の動きデータから高分解能画像の動きデータを導出するために使用される承継手段82を備える。承継手段82は、本発明による方法の工程200乃至220を実現するよう適合される。符号化装置8は、高分解能画像を符号化する第2の符号化モジュール81を備える。第2の符号化モジュール81は、承継手段82が導出した動きデータを使用して高分解能画像を符号化する。第2の符号化モジュール81はよって、エンハンスメント・レイヤ・データ・ストリームを生成する。優先的には、符号化装置8は、第1の符号化モジュール80及び第2の符号化モジュール81それぞれによって供給されるベース・レイヤ・データ・ストリーム及びエンハンスメント・レイヤ・データ・ストリームを合成して単一のデータ・ストリームを生成するモジュール93(例えば、マルチプレクサ)も備える。したがって、EL MBが、インターレイヤ予測モードを使用して第2符号化モジュール81によって符号化された場合、EL MBに関する動きデータはデータ・ストリームにおいて符号化されない(か、又は、1/4ペル動き精緻化を場合によっては符号化することができる場合があるので、部分的に符号化されるに過ぎない)。モジュール80によって供給されるBL MBに関する動きデータから導出されるからである。これにより、ビットを多少節減することが可能になる。一方、EL MBが古典的モード(例えば、双方向モード)を使用して符号化される場合、EL MBに関する動きデータがデータ・ストリームにおいて符号化される。
本発明は、例えば符号化装置8によって生成されたデータ・ストリームからの高分解能画像を復号化するための、図20に表す復号化装置9にも関する。復号化装置9は、ベース・レイヤ・データ・ストリームと呼ばれる、データ・ストリームの第1の部分を復号化して、低分解能画像、及び低分解能画像の動きデータを導出する第1の復号化モジュール91を備える。優先的には、モジュール91は、MPEG4 AVC標準と互換のデータ・ストリームを生成するよう適合される。復号化装置9は、第1の復号化モジュール91によって生成される低分解能の動きデータから高分解能画像の動きデータを導出するために使用される継承手段82を備える。継承手段82は、本発明による方法の工程200乃至工程220を実現するよう適合される。復号化装置9は、エンハンスメント・レイヤ・データ・ストリームと呼ばれる、データ・ストリームの第の部分を復号化する第2の復号化モジュール92を備える。第2の復号化モジュール92は、継承手段82によって導出された動きデータを使用して第2のデータ・ストリーム部分を復号化する。第2の復号化モジュール92はよって、高分解能画像を生成する。効果的には、装置9は、ベース・レイヤ・データ・ストリーム及びエンハンスメント・レイヤ・データ・ストリームを受信データ・ストリームから抽出する抽出モジュール90(例えば、復調器)も備える。
別の実施例によれば、復号化装置は2つのデータ・ストリーム(ベース・レイヤ・データ・ストリーム及びエンハンスメント・レイヤ・データ・ストリーム)を受信する。この場合、装置9は、抽出モジュール30を含むものでない。
垂直方向に配置され、フレーム・モード(図の左部分)又はフィールド・モード(図の右部分)で符号化されたマクロブロック対を表す図である。 本発明による方法のフローチャートを表す図である。 ベース・レイヤの最上部及び底部のインタレースされたマクロブロック対から仮想ベース・レイヤの最上部フィールド・マクロブロック及び底部フィールド・マクロブロックを生成する処理を示す図である。 アップ・プログレッシブ・マクロブロック及びダウン・プログレッシブ・マクロブロックの垂直ダウンサンプリング処理を示す図である。 最上部及び底部のマクロブロック・マージ処理を示す図である。 インタレース・マクロブロック対マージ処理を示す図である。 プログレッシブBLマクロブロック(垂直)ダウンサンプリング処理を示す図である。 BLプログレッシブ・マクロブロックのクリーニング処理を表すブロック図である。 4x4サブパーティション及び8x4のサブパーティションのマージ処理を示す図である。 ダウンサンプリングされたマクロブロック導出処理を表すブロック図である。 種々の垂直ダウンサンプリングのケースを示す図である。 インタレースBLの最上部マクロブロック及び底部のマクロブロックのマージ処理を示す図である。 フィールド画像における最上部マクロブロック及び底部マクロブロックを示す図である。 フレーム画像(MBAFF)における最上部マクロブロック及び底部マクロブロックを示す図である。 インタレースの最上部マクロブロック及び底部マクロブロックのマージ処理の2工程を示す図である。 アップサンプリングされたマクロブロックのコンテンツのマージ処理を表すブロック図である。 仮想ベース・レイヤ構造を表す図である。 本発明による特定のEL MBのインターレイヤ予測処理を表す図である。 本発明による符号化装置を表す図である。 本発明による復号化装置を表す図である。

Claims (7)

  1. 低分解能マクロブロックと呼ばれる、低分解能画像のマクロブロックに関連付けられた動きデータから少なくとも1つの動き予測子を、高分解能マクロブロックと呼ばれる、高分解能画像の少なくとも1つのマクロブロックについて生成する、スケーラブル・ビデオ信号符号化又は復号化の処理の一部としての方法であって、
    仮想ベース・レイヤ・マクロブロックと呼ばれる重ならないマクロブロックを含む仮想構造を定義する工程であって、前記仮想構造は、前記低分解能画像と同じ寸法を有する工程と、
    前記高分解能画像内の前記高分解能マクロブロックの位置に基づいて、かつ、前記低分解能画像の寸法と前記高分解能画像の寸法との比に基づいて仮想画像内の対応する仮想ベース・レイヤを前記高分解能マクロブロックについて識別する工程と、
    対応する低分解能マクロブロック対のフィールド/フレーム・モードに基づいて、かつ、前記高分解能マクロブロックのフィールド/フレーム・モードに基づいて、対応する低分解能マクロブロック対の少なくとも1つのマクロブロックに関連付けられた動きデータから動きデータを、識別された仮想ベース・レイヤ・マクロブロックそれぞれに関連付ける工程と、
    前記対応する仮想ベース・レイヤに関連付けられた動きデータを再サンプリングして前記少なくとも1つの動き予測子を生成する工程とを含む方法。
  2. 請求項1記載の方法であって、前記高分解能マクロブロックがフレーム・モードにあり、前記対応する低分解能マクロブロック対がフィールド・モードにある場合、前記導出する工程は、
    最上部マクロブロック及び底部マクロブロックを含む前記低分解能マクロブロック対を比2で垂直方向にアップサンプリングする工程であって、アップサンプリングされたマクロブロックそれぞれが、アップ部分及びダウン部分を含む工程と、
    前記アップサンプリングされた最上部マクロブロックのアップ部分の動きデータを、前記アップサンプリングされた底部マクロブロックのアップ部分の動きデータとマージし、前記アップサンプリングされた最上部マクロブロックのダウン部分の動きデータを、前記アップサンプリングされた底部マクロブロックのダウン部分の動きデータとマージする工程とを含む方法。
  3. 請求項1又は2に記載の方法であって、前記高分解能マクロブロックがフィールド・モードにあり、前記対応する低分解能マクロブロック対がフレーム・モードにある場合、前記導出する工程は、前記対応する低分解能マクロブロック対に関連付けられた動きデータを比2で垂直方向にダウンサンプリングする工程を含む方法。
  4. 高分解能マクロブロックと呼ばれるマクロブロックを含む高分解能画像系列、及び低分解能マクロブロックと呼ばれる低分解能画像系列を符号化する装置であって、
    前記低分解能画像を符号化する第1の符号化手段であって、前記低分解能画像のマクロブロックの動きデータ、及びベース・レイヤ・データ・ストリームを生成する第1の符号化手段と、
    低分解能マクロブロックと呼ばれる、低分解能画像のマクロブロックの動きデータから、 高分解能マクロブロックと呼ばれる高分解能画像の少なくとも1つのマクロブロックの動きデータを導出する継承手段と、
    前記導出された動きデータを使用して前記高分解能画像を符号化する第2の符号化手段であって、エンハンスメント・レイヤ・データ・ストリームを生成する第2の符号化手段とを備え、前記継承手段は、
    仮想ベース・レイヤ・マクロブロックと呼ばれる重ならないマクロブロックを含む仮想構造を定義する手段であって、前記仮想構造は、前記低分解能画像と同じ寸法を有する手段と、
    前記高分解能画像内の前記高分解能マクロブロックの位置に基づいて、かつ、低分解能画像の寸法と高分解能画像の寸法との比に基づいて仮想画像内の対応する仮想ベース・レイヤ・マクロブロックを前記高分解能マクロブロックについて識別する手段と、
    対応する低分解能マクロブロック対のフィールド/フレーム・モードに基づいて、かつ、前記高分解能マクロブロックのフィールド/フレーム・モードに基づいて、前記対応する低分解能マクロブロック対の少なくとも1つのマクロブロックに関連付けられた動きデータから動きデータを、識別された仮想ベース・レイヤ・マクロブロック毎に導出する手段と、
    前記対応する仮想ベース・レイヤに関連付けられた動きデータを再サンプリングして少なくとも1つの動き予測子を生成する手段とを備える装置。
  5. 請求項4記載の装置であって、前記第1の符号化手段がMPEG−4AVCビデオ符号器である装置。
  6. 少なくとも符号化高分解能画像系列を復号化する装置であって、前記符号化画像はデータ・ストリームの形式で生じ、各画像は、重ならないマクロブロックに分割され、
    少なくとも第1のデータ・ストリーム部分を復号化して、低分解能画像、及び前記低分解能画像のマクロブロックの動きデータを生成する第1の復号化手段と、
    低分解能画像のマクロブロックの動きデータから、高分解能画像の少なくとも一マクロブロックについて動きデータを導出する継承手段と、
    前記導出動きデータを使用して前記データ・ストリームの少なくとも第2の部分を復号化して高分解能画像を生成する第2の復号化手段とを備え、前記継承手段は、
    仮想ベース・レイヤ・マクロブロックと呼ばれる重ならないマクロブロックを含む仮想構造を定義する手段であって、前記仮想構造は、前記低分解能画像と同じ寸法を有する手段と、
    前記高分解能画像内の高分解能マクロブロックの位置に基づいて、かつ、低分解能画像の寸法と高分解能画像の寸法との比に基づいて、仮想画像内の対応する仮想ベース・レイヤ・マクロブロックを前記高分解能マクロブロックについて識別する手段と、
    対応する低分解能マクロブロック対のフィールド/フレーム・モードに基づいて、かつ、前記高分解能マクロブロックのフィールド/フレーム・モードに基づいて、対応する低分解能マクロブロック対の少なくとも1つのマクロブロックに関連付けられた動きデータから動きデータを、識別された仮想ベース・レイヤ・マクロブロック毎に導出する手段と、 前記対応する仮想ベース・レイヤ・マクロブロックに関連付けられた動きデータを再サンプリングして少なくとも1つの動き予測子を生成する手段とを備える装置。
  7. 請求項6記載の装置であって、前記第1の復号化手段は、MPEG:4AVCビデオ復号器である装置。
JP2008548963A 2006-01-05 2006-12-18 インターレイヤ動き予測方法 Expired - Fee Related JP5112332B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP06290049 2006-01-05
EP06290049.3 2006-01-05
PCT/EP2006/069852 WO2007077116A1 (en) 2006-01-05 2006-12-18 Inter-layer motion prediction method

Publications (3)

Publication Number Publication Date
JP2009522890A true JP2009522890A (ja) 2009-06-11
JP2009522890A5 JP2009522890A5 (ja) 2010-02-12
JP5112332B2 JP5112332B2 (ja) 2013-01-09

Family

ID=37772824

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008548963A Expired - Fee Related JP5112332B2 (ja) 2006-01-05 2006-12-18 インターレイヤ動き予測方法

Country Status (5)

Country Link
US (1) US8446956B2 (ja)
EP (1) EP1969853A1 (ja)
JP (1) JP5112332B2 (ja)
CN (1) CN101356820B (ja)
WO (1) WO2007077116A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009522977A (ja) * 2006-01-09 2009-06-11 エルジー エレクトロニクス インコーポレイティド 映像信号のエンコーディング/デコーディング方法
JP2015512216A (ja) * 2012-02-29 2015-04-23 エルジー エレクトロニクス インコーポレイティド インタレイヤ予測方法及びそれを利用する装置
JP2016513441A (ja) * 2013-03-01 2016-05-12 クゥアルコム・インコーポレイテッドQualcomm Incorporated スケーラブルビデオコーディングのための空間動きベクトルスケーリング

Families Citing this family (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN100584026C (zh) * 2006-03-27 2010-01-20 华为技术有限公司 交织模式下的视频分层编码方法
US20120063695A1 (en) * 2008-10-15 2012-03-15 Dajun Wu Methods for encoding a digital picture, encoders, and computer program products
US20100316129A1 (en) * 2009-03-27 2010-12-16 Vixs Systems, Inc. Scaled motion search section with downscaling filter and method for use therewith
US20110150074A1 (en) * 2009-12-23 2011-06-23 General Instrument Corporation Two-pass encoder
BR122020007923B1 (pt) 2010-04-13 2021-08-03 Ge Video Compression, Llc Predição interplano
KR102360146B1 (ko) 2010-04-13 2022-02-08 지이 비디오 컴프레션, 엘엘씨 샘플 영역 병합
DK2991355T3 (en) 2010-04-13 2018-02-19 Ge Video Compression Llc Inheritance in sampler array multitree subdivision
KR102311520B1 (ko) 2010-04-13 2021-10-13 지이 비디오 컴프레션, 엘엘씨 이미지들의 멀티-트리 서브-디비젼을 이용한 비디오 코딩
EP2897365B1 (en) * 2010-07-09 2017-02-01 Samsung Electronics Co., Ltd Apparatus for decoding video by using block merging
FI3661210T3 (fi) * 2010-07-20 2023-08-31 Ntt Docomo Inc Kuvanennustusdekoodausmenetelmä
CN101977315B (zh) * 2010-10-18 2012-07-04 无锡中星微电子有限公司 一种跨层预测编码方法
DE112011103496T5 (de) * 2010-11-15 2013-08-29 Lg Electronics Inc. Verfahren zum Umwandeln eines Einzelbildformats und Vorrichtung zur Benutzung dieses Verfahrens
CN102088605B (zh) * 2011-02-23 2012-12-05 浙江大学 可伸缩视频编码快速层间预测选择方法
US9398300B2 (en) * 2011-10-07 2016-07-19 Texas Instruments Incorporated Method, system and apparatus for intra-prediction in video signal processing using combinable blocks
TWI580264B (zh) * 2011-11-10 2017-04-21 Sony Corp Image processing apparatus and method
US9900615B2 (en) 2011-12-28 2018-02-20 Microsoft Technology Licensing, Llc Representative motion information for temporal motion prediction in video encoding and decoding
US10863170B2 (en) * 2012-04-16 2020-12-08 Nokia Technologies Oy Apparatus, a method and a computer program for video coding and decoding on the basis of a motion vector
JP6085601B2 (ja) * 2012-07-03 2017-02-22 シャープ株式会社 画像復号装置、および画像符号化装置
US9392268B2 (en) * 2012-09-28 2016-07-12 Qualcomm Incorporated Using base layer motion information
CN103716631B (zh) * 2012-09-29 2017-04-05 华为技术有限公司 用于图像处理的方法、装置、编码器和解码器
CN108427504B (zh) * 2013-03-15 2021-06-11 奇跃公司 显示系统和方法
KR102290420B1 (ko) 2013-04-05 2021-08-17 삼성전자주식회사 비디오 부호화 방법 및 그 장치, 비디오 복호화 방법 및 그 장치
US9432667B2 (en) * 2013-06-11 2016-08-30 Qualcomm Incorporated Processing bitstream constraints relating to inter-layer prediction types in multi-layer video coding
US9756335B2 (en) * 2013-07-02 2017-09-05 Qualcomm Incorporated Optimizations on inter-layer prediction signalling for multi-layer video coding
US20170105006A1 (en) * 2015-10-13 2017-04-13 Mediatek Inc. Method and Apparatus for Video Coding Using Master-Slave Prediction Structure
CN115278230A (zh) * 2015-11-11 2022-11-01 三星电子株式会社 对视频进行解码的设备和对视频进行编码的设备
US11039181B1 (en) 2016-05-09 2021-06-15 Google Llc Method and apparatus for secure video manifest/playlist generation and playback
US10595054B2 (en) 2016-05-10 2020-03-17 Google Llc Method and apparatus for a virtual online video channel
US10785508B2 (en) 2016-05-10 2020-09-22 Google Llc System for measuring video playback events using a server generated manifest/playlist
US10771824B1 (en) 2016-05-10 2020-09-08 Google Llc System for managing video playback using a server generated manifest/playlist
US11069378B1 (en) 2016-05-10 2021-07-20 Google Llc Method and apparatus for frame accurate high resolution video editing in cloud using live video streams
US11032588B2 (en) 2016-05-16 2021-06-08 Google Llc Method and apparatus for spatial enhanced adaptive bitrate live streaming for 360 degree video playback

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06133290A (ja) * 1992-07-02 1994-05-13 American Teleph & Telegr Co <Att> デジタルビデオ信号の符号化装置とその方法及び復号化装置とその方法
JPH06209468A (ja) * 1993-01-11 1994-07-26 Sony Corp 画像信号符号化方法および画像信号符号化装置、並びに画像信号復号化方法および画像信号復号化装置
JPH1118085A (ja) * 1997-06-05 1999-01-22 General Instr Corp ビデオオブジェクト平面のための時間的及び空間的スケーラブル符号化
JP2000013790A (ja) * 1998-06-19 2000-01-14 Sony Corp 画像符号化装置および画像符号化方法、画像復号装置および画像復号方法、並びに提供媒体
WO2004080079A1 (en) * 2003-03-03 2004-09-16 Thomson Licensing Scalable encoding and decoding of interlaced digital video data
JP2007081983A (ja) * 2005-09-15 2007-03-29 Sony Corp 符号化装置、符号化方法、復号装置、復号方法およびプログラム

Family Cites Families (42)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3788823B2 (ja) 1995-10-27 2006-06-21 株式会社東芝 動画像符号化装置および動画像復号化装置
US6957350B1 (en) 1996-01-30 2005-10-18 Dolby Laboratories Licensing Corporation Encrypted and watermarked temporal and resolution layering in advanced television
US5852565A (en) 1996-01-30 1998-12-22 Demografx Temporal and resolution layering in advanced television
US5831678A (en) 1996-08-09 1998-11-03 U.S. Robotics Access Corp. Video encoder/decoder system
JP3263807B2 (ja) 1996-09-09 2002-03-11 ソニー株式会社 画像符号化装置および画像符号化方法
US5978509A (en) 1996-10-23 1999-11-02 Texas Instruments Incorporated Low power video decoder system with block-based motion compensation
CN1243635A (zh) 1997-01-10 2000-02-02 松下电器产业株式会社 图像处理方法、图像处理装置及数据记录媒体
US6728775B1 (en) 1997-03-17 2004-04-27 Microsoft Corporation Multiple multicasting of multimedia streams
US6741748B1 (en) 1997-06-19 2004-05-25 Samsung Electronics Co. Scan interleaving method based on context values of neighboring pixels, improved encoding/decoding method of binary shape data and encoding/decoding apparatus suitable for the same
US6351563B1 (en) 1997-07-09 2002-02-26 Hyundai Electronics Ind. Co., Ltd. Apparatus and method for coding/decoding scalable shape binary image using mode of lower and current layers
US6233283B1 (en) 1998-06-23 2001-05-15 Lucent Technologies Inc. Layered video coding using perceptual coding criteria for error resilience in packet networks
US6603883B1 (en) 1998-09-08 2003-08-05 Canon Kabushiki Kaisha Image processing apparatus including an image data encoder having at least two scalability modes and method therefor
US6993076B1 (en) * 1999-05-11 2006-01-31 Thomson Licensing S.A. Apparatus and method for deriving an enhanced decoded reduced-resolution video signal from a coded high-definition video signal
US6639943B1 (en) 1999-11-23 2003-10-28 Koninklijke Philips Electronics N.V. Hybrid temporal-SNR fine granular scalability video coding
US6931060B1 (en) 1999-12-07 2005-08-16 Intel Corporation Video processing of a quantized base layer and one or more enhancement layers
JP2001223665A (ja) 2000-02-08 2001-08-17 Matsushita Electric Ind Co Ltd 信号符号化伝送装置、信号復号化受信装置、およびプログラム記録媒体
US6510177B1 (en) 2000-03-24 2003-01-21 Microsoft Corporation System and method for layered video coding enhancement
EP1279111A4 (en) 2000-04-07 2005-03-23 Dolby Lab Licensing Corp IMPROVED TIME AND RESOLUTION STRUCTURE FOR ADVANCED TELEVISION
JP2002010251A (ja) 2000-06-19 2002-01-11 Matsushita Electric Ind Co Ltd 映像信号符号化装置および映像信号復号化装置
US6907070B2 (en) 2000-12-15 2005-06-14 Microsoft Corporation Drifting reduction and macroblock-based control in progressive fine granularity scalable video coding
US6980596B2 (en) * 2001-11-27 2005-12-27 General Instrument Corporation Macroblock level adaptive frame/field coding for digital video content
US6898313B2 (en) 2002-03-06 2005-05-24 Sharp Laboratories Of America, Inc. Scalable layered coding in a multi-layer, compound-image data transmission system
JPWO2003079692A1 (ja) 2002-03-19 2005-07-21 富士通株式会社 階層符号化装置および復号装置
AU2003238771A1 (en) 2002-05-29 2003-12-19 Simon Butler Predictive interpolation of a video signal
WO2004068861A1 (en) 2003-01-30 2004-08-12 Koninklijke Philips Electronics N.V. Video coding
WO2004073312A1 (en) 2003-02-17 2004-08-26 Koninklijke Philips Electronics N.V. Video coding
KR20060105409A (ko) * 2005-04-01 2006-10-11 엘지전자 주식회사 영상 신호의 스케일러블 인코딩 및 디코딩 방법
US7142601B2 (en) 2003-04-14 2006-11-28 Mitsubishi Electric Research Laboratories, Inc. Transcoding compressed videos to reducing resolution videos
JP2005033336A (ja) 2003-07-08 2005-02-03 Ntt Docomo Inc 動画像符号化装置、動画像符号化方法及び動画像符号化プログラム
KR100994768B1 (ko) * 2003-12-08 2010-11-16 삼성전자주식회사 동영상 부호화를 위한 움직임 추정 방법 및 이를 구현하기위한 프로그램이 기록된 기록 매체
US7362809B2 (en) 2003-12-10 2008-04-22 Lsi Logic Corporation Computational reduction in motion estimation based on lower bound of cost function
JP2005260912A (ja) 2004-02-10 2005-09-22 Matsushita Electric Ind Co Ltd 映像通信装置および映像通信方法
US8503542B2 (en) 2004-03-18 2013-08-06 Sony Corporation Methods and apparatus to reduce blocking noise and contouring effect in motion compensated compressed video
KR100586882B1 (ko) * 2004-04-13 2006-06-08 삼성전자주식회사 모션 스케일러빌리티를 지원하는 코딩 방법 및 장치
US20060012719A1 (en) 2004-07-12 2006-01-19 Nokia Corporation System and method for motion prediction in scalable video coding
DE102004059993B4 (de) * 2004-10-15 2006-08-31 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung und Verfahren zum Erzeugen einer codierten Videosequenz unter Verwendung einer Zwischen-Schicht-Bewegungsdaten-Prädiktion sowie Computerprogramm und computerlesbares Medium
US7817723B2 (en) 2004-12-14 2010-10-19 Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E. V. Apparatus and method of optimizing motion estimation parameters for encoding a video signal
US8363730B2 (en) 2004-12-16 2013-01-29 Intel Corporation Local macroblock information buffer
US20060176955A1 (en) 2005-02-07 2006-08-10 Lu Paul Y Method and system for video compression and decompression (codec) in a microprocessor
KR100763179B1 (ko) 2005-04-01 2007-10-04 삼성전자주식회사 비동기 픽쳐의 모션 벡터를 압축/복원하는 방법 및 그방법을 이용한 장치
KR100896279B1 (ko) 2005-04-15 2009-05-07 엘지전자 주식회사 영상 신호의 스케일러블 인코딩 및 디코딩 방법
US7777812B2 (en) * 2005-11-18 2010-08-17 Sharp Laboratories Of America, Inc. Methods and systems for picture resampling

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06133290A (ja) * 1992-07-02 1994-05-13 American Teleph & Telegr Co <Att> デジタルビデオ信号の符号化装置とその方法及び復号化装置とその方法
JPH06209468A (ja) * 1993-01-11 1994-07-26 Sony Corp 画像信号符号化方法および画像信号符号化装置、並びに画像信号復号化方法および画像信号復号化装置
JPH1118085A (ja) * 1997-06-05 1999-01-22 General Instr Corp ビデオオブジェクト平面のための時間的及び空間的スケーラブル符号化
JP2000013790A (ja) * 1998-06-19 2000-01-14 Sony Corp 画像符号化装置および画像符号化方法、画像復号装置および画像復号方法、並びに提供媒体
WO2004080079A1 (en) * 2003-03-03 2004-09-16 Thomson Licensing Scalable encoding and decoding of interlaced digital video data
JP2007081983A (ja) * 2005-09-15 2007-03-29 Sony Corp 符号化装置、符号化方法、復号装置、復号方法およびプログラム

Cited By (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8345755B2 (en) 2006-01-09 2013-01-01 Lg Electronics, Inc. Inter-layer prediction method for video signal
JP2009522978A (ja) * 2006-01-09 2009-06-11 エルジー エレクトロニクス インコーポレイティド 映像信号の層間予測方法
JP2009522977A (ja) * 2006-01-09 2009-06-11 エルジー エレクトロニクス インコーポレイティド 映像信号のエンコーディング/デコーディング方法
US8457201B2 (en) 2006-01-09 2013-06-04 Lg Electronics Inc. Inter-layer prediction method for video signal
US8401091B2 (en) 2006-01-09 2013-03-19 Lg Electronics Inc. Inter-layer prediction method for video signal
JP2009522976A (ja) * 2006-01-09 2009-06-11 エルジー エレクトロニクス インコーポレイティド 映像信号のエンコーディング/デコーディング方法
JP2009522983A (ja) * 2006-01-09 2009-06-11 エルジー エレクトロニクス インコーポレイティド 映像信号のエンコーディング/デコーディング方法
JP2009522982A (ja) * 2006-01-09 2009-06-11 エルジー エレクトロニクス インコーポレイティド 映像信号のエンコーディング/デコーディング方法
JP2009522980A (ja) * 2006-01-09 2009-06-11 エルジー エレクトロニクス インコーポレイティド 映像信号のエンコーディング/デコーディング方法
US8264968B2 (en) 2006-01-09 2012-09-11 Lg Electronics Inc. Inter-layer prediction method for video signal
JP2009522975A (ja) * 2006-01-09 2009-06-11 エルジー エレクトロニクス インコーポレイティド 映像信号のエンコーディング/デコーディング方法
JP2009522981A (ja) * 2006-01-09 2009-06-11 エルジー エレクトロニクス インコーポレイティド 映像信号のエンコーディング/デコーディング方法
JP2009522979A (ja) * 2006-01-09 2009-06-11 エルジー エレクトロニクス インコーポレイティド 映像信号のエンコーディング/デコーディング方法
US8494060B2 (en) 2006-01-09 2013-07-23 Lg Electronics Inc. Inter-layer prediction method for video signal
US8494042B2 (en) 2006-01-09 2013-07-23 Lg Electronics Inc. Inter-layer prediction method for video signal
US8619872B2 (en) 2006-01-09 2013-12-31 Lg Electronics, Inc. Inter-layer prediction method for video signal
US8792554B2 (en) 2006-01-09 2014-07-29 Lg Electronics Inc. Inter-layer prediction method for video signal
US9497453B2 (en) 2006-01-09 2016-11-15 Lg Electronics Inc. Inter-layer prediction method for video signal
JP2015512216A (ja) * 2012-02-29 2015-04-23 エルジー エレクトロニクス インコーポレイティド インタレイヤ予測方法及びそれを利用する装置
US9554149B2 (en) 2012-02-29 2017-01-24 Lg Electronics, Inc. Inter-layer prediction method and apparatus using same
JP2016513441A (ja) * 2013-03-01 2016-05-12 クゥアルコム・インコーポレイテッドQualcomm Incorporated スケーラブルビデオコーディングのための空間動きベクトルスケーリング

Also Published As

Publication number Publication date
WO2007077116A1 (en) 2007-07-12
CN101356820B (zh) 2011-01-26
US20090225846A1 (en) 2009-09-10
JP5112332B2 (ja) 2013-01-09
CN101356820A (zh) 2009-01-28
EP1969853A1 (en) 2008-09-17
US8446956B2 (en) 2013-05-21

Similar Documents

Publication Publication Date Title
JP5112332B2 (ja) インターレイヤ動き予測方法
JP5213456B2 (ja) 高分解能ピクチャの符号化情報を低分解能ピクチャから導き出す方法、並びにその方法を実現する符号化及び復号化装置
JP5106419B2 (ja) 映像信号のエンコーディング/デコーディング方法及び装置
JP5065051B2 (ja) 低解像度画像から高解像度画像の符号化情報を導出する方法、並びに、係る方法を実現する符号化及び復号化装置
KR100913104B1 (ko) 영상 신호의 인코딩 및 디코딩 방법
JP5211048B2 (ja) 低解像度画像のモーションデータから高解像度画像用のモーションデータを取得する方法並びにその方法を実施する符号化及び復号装置
JP5037517B2 (ja) 動き及びテクスチャデータを予測する方法
EP1848218A1 (en) Method for deriving motion data for high resolution pictures from motion data of low resolution pictures and coding and decoding devices implementing said method
KR101336104B1 (ko) 모션과 텍스처 데이터를 예측하는 방법

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091217

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20091217

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111122

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111129

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120224

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120612

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120828

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120918

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121010

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151019

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees