JP2012525763A - 歪みの重み付け - Google Patents

歪みの重み付け Download PDF

Info

Publication number
JP2012525763A
JP2012525763A JP2012508433A JP2012508433A JP2012525763A JP 2012525763 A JP2012525763 A JP 2012525763A JP 2012508433 A JP2012508433 A JP 2012508433A JP 2012508433 A JP2012508433 A JP 2012508433A JP 2012525763 A JP2012525763 A JP 2012525763A
Authority
JP
Japan
Prior art keywords
activity
pixel
subgroup
macroblock
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012508433A
Other languages
English (en)
Other versions
JP5554831B2 (ja
Inventor
リカルド ソジェベリ,
ケネス アンデション,
シャオイン チェン,
Original Assignee
テレフオンアクチーボラゲット エル エム エリクソン(パブル)
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by テレフオンアクチーボラゲット エル エム エリクソン(パブル) filed Critical テレフオンアクチーボラゲット エル エム エリクソン(パブル)
Publication of JP2012525763A publication Critical patent/JP2012525763A/ja
Application granted granted Critical
Publication of JP5554831B2 publication Critical patent/JP5554831B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/105Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/109Selection of coding mode or of prediction mode among a plurality of temporal predictive coding modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/137Motion inside a coding unit, e.g. average field, frame or block difference
    • H04N19/139Analysis of motion vectors, e.g. their magnitude, direction, variance or reliability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/14Coding unit complexity, e.g. amount of activity or edge presence estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

歪み表現は、マクロブロック(10)内の複数のサブグループ(30)のうちの少なくとも1つの画素(20)から成る各サブグループ(30)に対して、複数の画素(20)を含み且つサブグループ(30)を内包する近傍(40)内の画素値の分布を表すアクティビティ値を判定することにより、フレーム(1)のマクロブロック(10)に対して推定される。それぞれの歪みの重みは、アクティビティ値に基づいてサブグループに対して判定される。これらの歪みの重みは、マクロブロック(10)の画素値及びマクロブロック(10)に対する参照画素値の重み付けされた組み合わせとして歪み表現を推定するために採用される。歪みの重みは、マクロブロック(10)の異なる部分がマクロブロック(10)の他の部分と比較して歪み表現により多く又はより少なく寄与することを意味する。歪み表現は、符号化においてフレーム(1)内の高アクティビティ領域と低アクティビティ領域との間のリンギングアーチファクトを低減する。

Description

本発明は、一般に、画素ブロックに対する歪みの重み付けに関し、特に、画素ブロックの符号化と関連して使用可能である歪みの重み付けに関する。
ビデオ符号化規格は、ビデオデータの符号化後の表現に対する構文を定義する。復号に対するビットストリーム構文のみが特定されるため、符号器を柔軟に設計できる。また、ビデオ符号化規格は、画質の最適化とビットレートの低減との間の妥協点を考慮に入れる。
量子化パラメータは、符号器内の量子化器又はデータ圧縮器のステップサイズを調整するために使用可能である。一般に、符号化ビデオの品質及びビットレートは、符号器により採用される量子化パラメータの特定の値に依存する。従って、粗い量子化は少ないビットを使用してビデオシーンを符号化するものの、画質を低下させる。細かい量子化はより多くのビットを使用してビデオシーンを符号化するが、通常は高画質である。
主観的ビデオ圧縮利得は、量子化パラメータ(QP)がビデオシーン又はフレーム内で変更されるいわゆる適応量子化を用いて達成可能である。一般に、適応量子化において、小さいQPは平滑なテクスチャを有する領域に使用され、大きいQPは空間アクティビティの高い領域に使用される。人間の視覚系が平滑領域内の歪みを容易に検出するのに対して、テクスチャがより細かい画像における同一量の歪みは気付かれないため、これはよい着想である。
特許文献1において、ビットレート予測に基づくビデオフレームの適応量子化が開示される。適応量子化は、符号化アーチファクトが人間の視覚系で気付きにくいビデオフレームの部分において量子化を増加し、符号化アーチファクトが人間の視覚系で気付きやすい部分において量子化を減少する。
QP値を適応して増減する既存の解決策に関する制限は、QPの適応性が現在のビデオ符号化規格に従ってマクロブロック単位、すなわち16×16画素のブロックでのみ変更可能であることである。
図1は、QPの適応性におけるこの制限により生じる問題を示す。従来技術の解決策において、平滑であると分類されて小さいQP値を取得するためには、マクロブロック全体が平滑である必要がある。その結果、図1に示すように、平滑な背景上の高アクティビティオブジェクトの周囲に明確に視認できるリンギングが発生する。図のグレーで均一な部分は、従来技術に従ってマクロブロックが平滑であると分類されるフレームの部分を表す。リンギング効果は、平滑な芝生の背景上のフットボール選手により表される高アクティビティオブジェクトの周囲で明らかである。
簡単な解決策は、小さいQP値を割り当てられるマクロブロックのグループにおいて部分的に平滑であるマクロブロックを増加することである。しかし、それらのマクロブロックの全てに対してQPを減少すると非常に多くのビットが必要となるため、実際に有用であるためにはビットレートが増加しすぎる。
従って、従来技術のリンギングアーチファクトを低減でき且つビデオ符号化と関連して使用可能である解決策が必要とされる。
米国特許第6,831,947B1号公報
全体的な目的は、向上された歪み表現を提供することである。
特定の目的は、フレームの画素ブロックの符号化と関連して使用可能な歪み表現を提供することである。
簡潔に述べると、歪み表現はフレームの画素ブロックに対して推定される。画素ブロックは、重なり合わないのが好ましい複数のサブグループに分割される。その場合、そのような各サブグループは画素ブロックの少なくとも1つの画素を含む。アクティビティ値又は表現は各サブグループに対して判定され、その場合、アクティビティ値は、複数の画素を含み且つサブグループを内包する近傍画素内の画素値の分布を表す。
歪みの重みは、アクティビティ値に基づいてサブグループに対して判定される。画素グループのサブグループに対して判定された歪みの重みは、画素ブロックに対する歪み表現を推定するために、画素ブロックの画素値及び画素ブロックに対する再構成画素値又は予測画素値等の参照画素値と共に採用される。従って、歪みの重みにより、画素ブロックの画素は画素ブロックの他の画素より多く歪み表現に寄与する。
歪み表現を推定する装置は、画素ブロックの各サブグループに対してアクティビティ値を計算するように構成されたアクティビティ計算機を備える。重み判定器は、各アクティビティ値に基づいてサブグループに対するそれぞれの歪みの重みを判定する。その後、画素ブロックに対する歪み表現は、複数の歪みの重み、画素ブロックの画素値及び参照画素値に基づいて歪み推定器により推定又は計算される。
歪み表現は、マクロブロックに対する適切な符号化モードを選択するためにフレームの符号化と関連して有利に採用されてもよい。そのような場合、マクロブロックアクティビティは、マクロブロック内の画素値の分布を表すものとして、フレームの各マクロブロックに対して計算される。フレームのマクロブロックは、マクロブロックアクティビティに基づいて、低アクティビティマクロブロック及び高アクティビティマクロブロック等の少なくとも2つのカテゴリに分類される。低アクティビティマクロブロックは小さい量子化パラメータ値を割り当てられ、高アクティビティマクロブロックは大きい量子化パラメータ値を割り当てられる。
アクティビティ値は、前述のようにマクロブロックの各サブグループに対して判定される。サブグループは、アクティビティ値に基づいて低アクティビティサブグループ又は高アクティビティサブグループとして分類される。低アクティビティマクロブロック内のサブグループ及び高アクティビティマクロブロックの高アクティビティサブグループの歪みの重みは、既定の因数に等しくなるように設定される。しかし、高アクティビティマクロブロック内の低アクティビティサブグループに対する歪みの重みは既定の因数より大きいと判定され、各マクロブロックに割り当てられた量子化パラメータ値に基づいて判定されるのが好ましい。
歪みの重みは、マクロブロックに対するレート歪み値を取得するためにレート値と共に使用されるマクロブロックに対する歪み表現を判定するために採用される。その場合、マクロブロックは種々の符号化モードに従って疑似符号化され、そのような各モードに対してレート歪み値が計算される。マクロブロックに対して使用する符号化モードは、レート歪み値に基づいて選択される。
更に一実施形態は、フレームを符号化する符号器に関する。符号器は、フレーム内のマクロブロックに対する各マクロブロックアクティビティを計算するブロックアクティビティ計算機と、マクロブロックアクティビティに基づいて低アクティビティマクロブロック又は高アクティビティマクロブロック等の少なくとも2つのカテゴリにマクロブロックを分類するブロック分類器とを備える。量子化選択器は、マクロブロックアクティビティに基づいてマクロブロックに対する量子化パラメータ値を選択する。サブグループ別のアクティビティ値はアクティビティ計算機により判定され、低アクティビティサブグループ又は高アクティビティサブグループとしてサブグループを分類するためにサブグループ分類器により採用される。重み判定器は、低アクティビティマクロブロック内のサブグループ及び高アクティビティマクロブロックの低アクティビティサブグループに対する歪みの重みが既定の因数に等しいと判定し、高アクティビティマクロブロック内の低アクティビティサブグループは既定の因数より大きい歪みの重みを取得する。
その後、マクロブロックは、使用可能な符号化モードの各々に従って符号器により疑似符号化される。そのような各符号化モードに対して、レート歪み値は、重み付けされた歪み表現及びその特定の符号化モードに対するレート値に基づいて判定される。モード選択器は、最も適切な符号化モード、すなわちマクロブロックに対するレート歪み値を最小化する符号化モードを選択する。その後、符号器はこの選択された符号化モードに従ってマクロブロックを符号化する。
フレームの符号化と関連して使用される場合、歪みの重みにより、量子化パラメータ値を減少することにより達成可能なビットコストよりはるかに低いビットコストでリンギング及びモーションドラッグのアーチファクトを低減できる。
本発明は、その更なる目的及び利点と共に、以下の説明及び添付の図面を参照することにより最もよく理解されるだろう。
図1は、従来技術に係るリンギング効果の問題を示す図である。 図2は、一実施形態に係る画素ブロックに対する歪み表現を生成する方法を示すフローチャートである。 図3は、一実施形態に係る複数の画素を含む画素ブロックを有するフレームを概略的に示す図である。 図4は、図2のアクティビティ値判定ステップの一実施形態を示すフローチャートである。 図5は、アクティビティ値を判定するために複数の近傍画素を提供する一実施形態を概略的に示す図である。 図6は、アクティビティ値を判定するために複数の近傍画素を提供する別の実施形態を概略的に示す図である。 図7は、図1の従来技術と比較して、一実施形態の有利な効果を示す図である。 図8は、アクティビティ値を判定する異なる実施形態を概略的に示す図である。 図9は、図2の推定方法の追加のオプションステップを示すフローチャートである。 図10は、図2の推定方法の追加のオプションステップを示すフローチャートである。 図11は、図2の推定方法の追加のオプションステップを示すフローチャートである。 図12は、一実施形態に係るマクロブロックのフレームを符号化する方法を示すフローチャートである。 図13は、適応量子化方式と関連する一実施形態の応用例を概略的に示す図である。 図14は、一実施形態に係るインター符号化に対する動き推定の概念を概略的に示す図である。 図15は、一実施形態に係る歪み生成装置を概略的に示すブロック図である。 図16は、図15の歪み推定装置の閾値提供器の一実施形態を概略的に示すブロック図である。 図17は、図15の歪み推定装置の閾値提供器の別の実施形態を概略的に示すブロック図である。 図18は、一実施形態に係る符号器を概略的に示すブロック図である。 図19は、一実施形態に係る符号器の構造を概略的に示すブロック図である。
図中、同一の図中符号は同様又は対応する要素に対して使用される。
実施形態は、一般に、画素ブロック内の画素の特徴が画素ブロックに対する歪み表現を反映し且つそれに影響を及ぼし得るフレームの画素ブロックの処理に関する。そのため、実施形態は、画素の特徴又は値のばらつきが少ない平滑な画素部分及び画素の特徴のばらつきが多いためアクティビティが比較的高い画素部分の双方を含む画素ブロックを処理する効率的な技術を提供する。
実施形態の新規の歪み表現は、例えば適切な符号化又は復号モードを選択し、動き推定を実行し且つ符号化及び復号において考慮される符号化又は復号モードの数を減少することにより、画素ブロック及びフレームの符号化及び復号において有用なツールを提供する。
実施形態の理解を容易にするために、最初に図2を参照して一般的な一実施形態を説明する。図2は、フレームの画素ブロックに対する歪み表現を推定する方法を示すフローチャートである。
実施形態によると、図3に示すフレーム1は、各々が複数の画素20を含む多くの画素ブロック10から構成される。各画素は、オプションで複数の成分から成る色値等の各自の画素の特徴又は値を有する。当分野において既知であるように、通常、各画素は赤色、緑色、青色(RGB)の形式の色値を含み、従って、RGBトリプレットとして表される。しかし、フレームの符号化及び復号において、通常、画素のRGB値はRGB形式から対応する輝度(Y)及びクロミナンス(UV)値、すなわちYUV形式等に変換される。一般的な例は、YUV4:2:0を使用することであり、この場合、輝度は最大解像度であり、クロミナンス成分は水平軸及び垂直軸の双方において半分の解像度を使用する。従って、本明細書中で使用される画素値は、輝度値、クロミナンス値、又は輝度値及びクロミナンス値の双方であってもよい。あるいは、実施形態に従って、RGB形式、別の色形式又は輝度/クロミナンス形式の画素値が代わりに使用されてもよい。
画素ブロック10は、α、βが1以上の正の整数であり且つ好ましくはα=βである2α×2β個の画素を含むのが好ましい。画素ブロック10は、フレーム1の符号化及び復号において一括処理されるフレーム1の重なり合わない最小エンティティであるのが好ましい。従って、そのような画素ブロック10の好適な実現例は、16×16個の画素20を含むいわゆるマクロブロックである。当分野において周知であるように、マクロブロック10は、適応QP(量子化パラメータ)を用いる符号化及び復号において個別のQPを割り当てられる最小エンティティである。従って、実施形態は、マクロブロックである画素ブロック10に対する歪み表現の推定に特に適している。以下において、画素ブロックの例示的で好適な例としてマクロブロックを参照して本発明を更に説明する。
フレーム1はビデオシーケンスのフレーム1であるのが好ましいが、(個別の)静止画像のフレーム1であってもよい。
図2の方法の第1のステップS1は、マクロブロック(画素ブロック)に対する複数のサブグループを定義することに関係する。これらのサブグループの各々は、マクロブロックの少なくとも1つの画素を含む。本明細書中で更に説明するように、サブグループはマクロブロックの単一の画素又はマクロブロックの複数の画素、すなわち少なくとも2つの画素を含むことができる。しかし、サブグループは実際は真のサブグループである。これは、サブグループ内の画素数がマクロブロックの画素の総数より少ないことを意味する。
次のステップS2において、ステップS1で定義されたサブグループに対するアクティビティ値が判定される。アクティビティ値は、複数の画素を含み且つサブグループを内包する近傍画素における画素の特徴又は値の分布を表す。近傍画素は、含まれる画素の数に関して事前に定義されたサイズを有する画素のグループであり、サブグループの1つ又は複数の画素を内包するためにマクロブロックの内側に少なくとも部分的に位置決めされるが好ましい。サブグループが複数の画素を含む場合、近傍画素はサブグループのサイズに等しい事前に定義されたサイズを有してもよい。そのような場合、サブグループと近傍画素との間には1対1の関係が存在する。しかし、一般に、現在のサブグループの少なくとも1つの画素以外にフレームのより多くの画素を内包するために、近傍画素はサブグループより大きいことが好ましい。
アクティビティ値は、近傍画素内の画素値の分布のどんな表現であってもよい。限定しない例は、近傍画素における同一行又は同一列の隣接画素に対する画素値の絶対値差分の和を含む。
次のステップS3において、ステップS2でサブグループに対して判定されたアクティビティ値に基づいて、サブグループに対する歪みの重みが判定される。ステップS2及びS3は、ステップS1で定義されたマクロブロックの各サブグループに対して実行される。これを線L1により概略的に示す。その結果、各サブグループは、特定のサブグループに対して生成されたアクティビティ値に基づいて判定されたそれぞれの歪みの重みを割り当てられる。更に、歪みの重みは、第1のアクティビティを表すアクティビティ値を有するサブグループに対する歪みの重みが第1のアクティビティより比較的小さい第2のアクティビティを表すアクティビティ値を有するサブグループに対する歪みの重みより小さいと判定されるのが好ましい。換言すると、高アクティビティサブグループに対する歪みの重みは低アクティビティサブグループに対する歪みの重みより小さいのが好ましく、この場合、サブグループのアクティビティはアクティビティ値により表される。
少なくとも1つの画素から成る各サブグループに歪みの重みを付与されるため、歪みの重みによりマクロブロック内の画素のアクティビティを個別に評価及び補償できる。更に、好適な一実施形態において、マクロブロック内のどの低アクティビティサブグループもマクロブロック内のどの高アクティビティサブグループに対する歪みの重みより比較的大きい歪みの重みを割り当てられる。これは、歪み表現の判定においてマクロブロックの低アクティビティサブグループにより大きい重みが付与され、従って、マクロブロックに対するより高い重要性を付与されることを意味する。
ステップS3において各サブグループにそれぞれの歪みの重みが割り当てられると、ステップS4へ進み、マクロブロックに対する歪み表現がステップS3からの複数の歪みの重み、マクロブロックの画素値及びマクロブロックに対する参照画素値から推定される。従って、歪み表現Dは歪みの重み、画素値及び参照値の関数であり、すなわち、D=kij×f(p,q,n,i,j)である。式中、pは現在のフレームを示し、qは現在のフレームに対する参照フレームを示し、nは現在のフレームにおける現在のマクロブロックの番号を示し、i,jはマクロブロックにおけるサブグループの画素座標であり、kijは画素座標(i,j)を有するサブグループに対する歪みの重みを示す。
参照画素値は、現在のマクロブロックに対する参照として採用される参照マクロブロックの画素値である。これは、歪み表現が参照画素値とマクロブロックの現在の画素値及び好ましくは元の画素値との間の差分を示す歪み又はエラー値であることを意味する。ステップS4において採用される特定の参照マクロブロックは、歪み表現の目的に依存する。例えばフレームの符号化において、異なる符号化モードがマクロブロックに対してテストされ、そのような各符号化モードに対して、マクロブロックの元の画素値が候補符号化マクロブロックを取得するためにモードに従って最初に符号化され、候補符号化マクロブロックは再構成画素値を取得するために復号される。元の画素値と再構成画素値との間の差分は、歪み表現の推定において歪みの重みと共に利用される。従って、以下の符号化及び復号において取得された再構成画素値は、実施形態に係る参照画素値の一例である。歪み表現の別の応用例は、インター(P又はB)符号化マクロブロックに対する適切な動きベクトルを見つけるための動き推定における。そのような場合、歪み表現は、マクロブロックの元の画素値と参照フレーム内の参照マクロブロックの動き補償画素との間の重みを付与された差分である。従って、そのような動き補償画素は実施形態に係る参照画素値の別の例である。従って、何らかの予測参照画素値、動き補償参照画素値、再構成参照画素値、あるいは符号化又は復号においてマクロブロックの参照値として採用される他の参照画素値は本明細書中で使用される参照画素値として考えられる。本明細書中の関連する特徴は、マクログロックと再構成マクロブロック、予測マクロブロック又は動き補償マクロブロック等の参照マクロブロックとの間の画素値の差分を反映する歪み又はエラーの表現が推定されることである。
ステップS4における歪み表現の推定は、従来技術に係る方法と根本的に異なる方法で実行される。当分野において、歪み表現はマクロブロックと参照マクロブロックとの間の画素値の差分に関して直接推定される。その場合、差分の重み付けは行われず、特に、マクロブロックの異なる部分のアクティビティを反映する差分の重み付けは行われない。
従って、実施形態の歪み表現により、歪み表現を判定する際にマクロブロック内の異なる画素に異なる重みを付与できる。その結果、歪み表現に対する寄与は、異なる歪みの重みを有する画素及びサブグループで異なり、従って、異なるアクティビティを有する画素及びサブグループで異なる。
画素値の差分の重み付けは、フレームの高アクティビティ領域と低アクティビティ領域との間の境界におけるリンギング及びモーションドラッグのアーチファクトを低減することによりマクロブロックの符号化及び復号を向上する。
ステップS1〜S4の動作は、フレーム内の単一のマクロブロックに対して1度実行される。しかし、方法は、フレームの複数のマクロブロックに対して実行されるのが有利である。これを線L2により概略的に示す。一実施形態において、全てのマクロブロックは、ステップS4で推定された歪み表現を割り当てられる。別の手法において、フレーム内の選択されたマクロブロックのみがステップS1〜S4により開示されるように処理される。例えばこれらのマクロブロックは、高アクティビティ画素領域及び低アクティビティ画素領域の双方を含み且つ通常は図1に示すようなフレームの高アクティビティ領域と低アクティビティ領域との境界において見つけられるマクロブロックであってもよい。これは、フレーム内の他のマクロブロックに対して、従来の重み付けされない歪み値が代わりに利用可能であることを意味する。
一実施形態において、図2のステップS1で定義されたサブグループは個別の画素であってもよい。従って、そのような場合、画素別アクティビティ値又は画素アクティビティがステップS2において判定される。画素ブロックが16×16画素のマクロブロックである場合、ステップS1において256個のサブグループが定義される。一般に、サブグループとして個別の画素を使用することにより、マクロブロック内の画素値の個々の変動を補償し且つ考慮することができるため、アクティビティ値、歪みの重み及び歪み表現の判定の性能が向上される。
アクティビティ値の判定における複雑さを軽減するために、ステップS1で定義されるサブグループは2つ以上の画素を含んでもよい。そのような場合、サブグループは重なり合わないサブグループであるのが好ましく、2m×2n画素のサブグループであるが好ましい。式中、m、nは0(双方が0ある場合、各サブグループは上述のように単一の画素を含む)、1、2又は3である。好適な一実施形態において、ステップS1で定義されるサブグループは、2m×2m画素の重なり合わないサブグループである。例えばマクロブロックである画素ブロックのサイズが16×16画素より大きい場合、パラメータm、nは5以上の値を有することができる。一般に、2o×2o画素の2次画素ブロックに対して、サブグループが2次サブグループである場合、サブグループはmが0又は正の整数であり且つm<oである2m×2m画素から構成されてもよい。
このように複数の隣接画素をサブグループにグループ化すること及びサブグループ内の全画素に対して単一のアクティビティ値を判定することにより、複雑さ及び必要とされるメモリが大幅に減少する。例えば、個別の画素の代わりに2×2画素のサブグループを利用することにより、複雑さ及び必要とされるメモリは75%軽減する。16×16画素のマクロブロックに対して4×4画素又は8×8画素等のより大きいサブグループを有することにより、複雑さは更に軽減する。
図4は、図2のアクティビティ値の判定の一実施形態を示すフローチャートである。方法は、図2のステップS1から続く。次のステップS10において、複数の画素を含み且つ現在のサブグループを内包する潜在的な近傍画素が識別される。潜在的な近傍画素は、内包する画素数に関して事前に定義された形状及びサイズを有するのが好ましい。近傍画素がサブグループの少なくとも1つの画素を内包するためにはそれがサブグループと少なくとも同じサイズである必要があるため、近傍画素のサイズはステップS1で定義されたサブグループのサイズに更に依存する。一般に、アクティビティ値の品質の向上の見地から、サブグループより少なくとも多少多くマクロブロックの画素を内包するために、サブグループのサイズより大きいサイズを有する近傍画素を有することが好ましい。各サブグループが単一の画素のみを含む場合、これは必要条件である。しかし、近傍画素のサイズが大きいほど、アクティビティ値の計算は複雑になる。
近傍画素は、サブグループを内包し且つa、bが1以上の正の整数である2a×2b画素のブロックとして識別されるのが好ましい。実施形態に従って使用可能である近傍画素の限定しない例は、16×16画素、8×8画素、4×4画素及び2×2画素を含む。しかし、近傍画素が2次ブロックである必要はなく、その代わりに、32×8画素及び8×32画素等の異なる形状のブロックであってもよい。これらの2つのブロックは、16×16の2次ブロックと同数の画素を有する。実際には、16×16、32×8及び8×32等の異なる形状の近傍画素を組み合わせることができる。これらの近傍画素の全てが同数の画素を有するため、アクティビティ値の正規化及び変倍は不要である。矩形ブロックは、8×8ブロックに対する16×4又は4×16画素、4×4ブロックに対する8×2及び2×8画素等、他のサイズの代わりに又はそれを補完するものとして使用可能である。実際は、アクティビティ値を計算する際に近傍画素毎の画素数に基づく正規化が容易に行われるため、画素数の異なる近傍画素を利用できる。
計算が単純であるアクティビティ値の計算の一実施形態は、現在のサブグループが近傍画素の中央に位置するように近傍画素を配置することである。しかし、その結果、非平滑領域(高アクティビティ)に近接する平滑領域(低アクティビティ)内のサブグループに高いアクティビティ値が付与されることになる。従って、より好適な一実施形態は、図4のステップS11及びS12に示すように実行される。
ステップS11において、近傍画素がサブグループを内包するための第1の位置に位置決めされる場合の近傍画素内の画素値の分布を表す候補アクティビティ値が計算される。次に、近傍画素はサブグループを内包する別の位置に位置決めされ、新しい候補アクティビティ値が新しい位置に対して計算される。このように、一実施形態において、サブグループに対する近傍画素の複数の異なる位置がテストされ、候補アクティビティ値がそれらの位置の各々に対して計算される。これを線L3により概略的に示す。これは、潜在的な近傍画素におけるサブグループの位置が、ステップS10において定義され且つステップS11においてテストされる他の各潜在的な近傍画素におけるサブグループの各位置と異なることを意味する。
図5は、この概念を概略的に示す。4つの図は、本例において単一の画素から成るサブグループ30を有するマクロブロック10の一部分を示す。図5において、近傍画素40は2×2画素のサイズを有し、図はサブグループ30の単一の画素が近傍画素40内の4つの可能な位置のうちの1つを占有するようなサブグループ30に対する近傍画素40の4つの異なる可能な位置を示す。
ステップS11の一実施形態において、図5に示すように、サブグループに対する近傍画素の全ての可能な位置がテストされる。計算の複雑さを軽減するため、全ての可能な近傍画素の位置が考慮されるわけではない。例えば、左上角が奇数の水平又は垂直座標を有する全ての近傍画素は省略されてもよい。これは、候補アクティビティ値が計算される近傍画素が2×2格子上に配置されることを意味する。4×4格子、8×8格子等の他の格子サイズが代わりに使用されてもよい。一般に、2a×2b画素のブロックの形態をとる近傍画素は、c、dが1以上の正の整数であり且つc≦a及びd≦bであるフレーム内の2c×2d格子上の位置に制限されてもよい。
図6は、サブグループ30に対する近傍画素40の可能な位置の数を制限する上記概念を示す。本例において、サブグループ30は4×4個の画素を含み且つ近傍画素40は8×8画素のブロックである。図は、2×2画素の格子50を更に示す。2×2格子を使用することは、近傍画素40がサブグループ30を内包する際に9つの図示される位置に従ってのみ位置決め可能であることを意味する。これは、本例において、近傍画素の位置の数が25個から9個に減少されることを意味する。
潜在的な近傍画素の全ての可能な位置がステップS11においてテストされ且つ候補アクティビティ値がテストされた潜在的な各近傍画素に対して計算されると、ステップS12へ進む。このステップS12において、最小又は最低の候補アクティビティ値がサブグループに対するアクティビティ値として選択される。その後、図2のステップS3へ進み、歪みの重みは選択された候補アクティビティ値に基づいて判定される。
前述したように、(候補)アクティビティ値は(潜在的な)近傍画素内の画素値の分布を表す。種々のアクティビティ値が可能であり、実施形態に従って使用可能である。一例において、行及び列において隣接する画素間の絶対値差分がアクティビティ値を取得するために合計される。これは次式に対応する:
式中、Yx,yは2a×2b個の画素を含む近傍画素内の位置(x,y)における画素の画素値を示す。図8の上部分にこれを概略的に示す。このアクティビティ値は単に空間的なものであり、平滑なサブグループに小さいアクティビティ値を付与する。アクティビティ値は、水平及び垂直方向の画素値の差分のみに依存する。代替のアクティビティ値(Activity)は、より多くの方向、すなわち斜め方向の画素の差分に依存させるものである:
図8の下部分は、近傍画素内の垂直方向、水平方向及び斜め方向に隣接する画素の画素値の絶対値差分の和に基づくアクティビティ値の本実施形態を示す。
上述のアクティビティ値の実施形態の単純な変形例は、画素値の絶対値差分ではなく画素値の平方差分を使用することである。実際、近傍画素内の画素値の分布を反映するどんな値も実施形態に従って使用可能である。
サブグループの他のアクティビティ値が使用されてもよく、実施形態は上述の空間アクティビティのみに限定されない。
サブグループに対するアクティビティ値に基づいて図2のステップS3で判定される歪みの重みは、通常、アクティビティ値の関数として判定される。一実施形態において、歪みの重みはアクティビティ値に比例して判定される。しかし、指数関数及び対数関数等の他の関数が考慮されてもよい。
一般に、高アクティビティサブグループに対する歪みの重みは、低アクティビティサブグループに対する歪みの重みより小さい必要がある:
式中、Vは何らかの既定の定数であり、好ましくは1である。
アクティビティ値に基づいて歪みの重みを判定するために使用する関数は、フレーム内のマクロブロックにQP値を割り当てるために採用される適応QP法に更に基づくように構成可能である。例えば、マクロブロックM及びマクロブロックNがフレーム内の隣接するマクロブロックであると仮定する。更に適応QP法により、小さいQP値がマクロブロックMに割り当てられ、大きいQP値がマクロブロックNに割り当てられた。従って、マクロブロックMは空間アクティビティ及び画素値の変動が少ないフレームの平滑領域に対応する。一方、マクロブロックNはアクティビティが高いため、画素値の変動が大きい。しかし、マクロブロックMに近接するマクロブロックN内の画素の一部は、実際はフレームの平滑(背景)領域に属するため、画素アクティビティが低い。従って、アクティビティ値から歪みの重みへの関数は、歪みの重みの効果がマクロブロックM及びNに対して使用された量子化パラメータによるラムダ効果と相関するようなものであってもよい。当分野において周知であるように、レート歪み項J=D+λ×bitsは、符号化/復号において採用されることが多い。式中、Dはマクロブロックに対する歪みであり、bitsはマクロブロックを符号化するために必要なビット数を示し、λはラグランジュ乗数であり且つレート歪みの項に対する歪み及びビットの相対寄与を定義する。通常、λはマクロブロックを符号化するために使用される量子化パラメータ値の関数である。従って、当分野において、各QP値は、多くの場合にテーブルに格納される対応するラムダ値を有する。各QPに使用する値は実験により見つけられ、通常、ラムダ値はQP値の増加に伴い単調に増加する。
本例において、マクロブロックMは量子化パラメータ値QPMを用いて符号化され且つマクロブロックNは量子化パラメータ値QPNを用いて符号化されると仮定する。これらの量子化パラメータ値は、以下のラムダ値が2つのマクロブロックに対してそれぞれ選択されるλM及びλNであることを意味する。量子化による効果と同一の効果をラムダに対して得るために、マクロブロックN内の低アクティビティ画素に対する歪みの重みをλN/λMとする。あるいは、歪みの重みはfλN/λMと定義されてもよい。式中、fは1以上の因数である。そして、マクロブロックN内の高アクティビティ画素に対する歪みの重みは〜1.0に設定される。
他の手法において、マクロブロックNはQPL<QPNであるより小さい量子化パラメータ値を用いて符号化される。マクロブロックN内の低アクティビティ画素に対して使用する歪みの重みはfλL/λMになる。この場合、マクロブロックN内の高アクティビティ画素に対する歪みの重みは、1である既定の定数に等しく設定されるのではなく、fλL/λNに設定されるのが好ましい。選択された量子化パラメータ値QPLは、QPM<QPL<QPNであるのが好ましく、QPL={QPM+QPN}/2であるように選択可能であるが、値QPMとQPNとの間の値である必要はない。
実際、低アクティビティを表すアクティビティ値により比較的高いアクティビティを表すアクティビティ値と比較して大きい歪みの重みが付与される限り、アクティビティ値に基づいて歪みの重みを判定できるどんな関数が実施形態に従って使用されてもよい。
特定の一実施形態において、8×8画素のサブグループのサイズ、8×8画素の格子及び8×8画素の近傍画素を使用できる。これは、8×8ブロックに対して考えられるマクロブロックアクティビティに対応する。この特別な例の場合、16×16ブロックではなく8×8ブロックに対して動作するように適応QP法を変更してもよい。仮想QP値は8×8ブロックの各々に割り当てられ、マクロブロックのQP値は8×8ブロックの仮想QP値に依存して設定される。4つの8×8ブロックのうちの3つのブロックに同一のQP値が割り当てられる場合、使用されるマクロブロックのQP値は8×8ブロックの数が多い方のQP値に設定されてもよい。これらの8×8サブグループに対する歪みの重みは1である必要があるが、残りのサブグループに対する歪みの重みは、マクロブロックM及びNの例において上述したように、仮想QPと一致するように変更される必要がある。8×8サブグループの半数が1つの仮想QP値を有し且つ半数が別の仮想QP値を有する場合、マクロブロックのQP値は、小さい仮想QP値、大きいQP値又はそれらの間のQP値nに設定されてもよい。全ての例に対して、歪みの重みは、上述のようなマクロブロックのQP値と仮想QP値との間の差分を補償するために使用される必要がある。
歪みの重みに対する異なる値の数を減少するために、少なくとも1つの閾値がアクティビティ値を限られた数のカテゴリに分割するために使用可能であり、その場合、各カテゴリは歪みの重みを割り当てられる。例えば、単一の閾値を用いる場合、そのような閾値を上回るアクティビティ値は特定の歪みの重みを取得し、閾値を下回るアクティビティ値を有するサブグループ及び画素は別の歪みの重みを取得する。この概念を図9に概略的に示す。方法は、図2のステップS2から続く。次のステップS20において、サブグループに対して判定されたアクティビティ値は少なくとも1つのアクティビティ閾値と比較される。その後、図2のステップS3へ進み、サブグループに対する歪みの重みは比較に基づいて判定される。
特定の一実施形態において、低アクティビティサブグループ、すなわち各自のアクティビティ値がアクティビティ閾値を下回るサブグループと高アクティビティサブグループ、すなわち各自のアクティビティ値がアクティビティ閾値を上回るサブグループとにサブグループ及び画素を区別するために、単一のアクティビティ閾値が採用される。
単一のアクティビティ閾値を用いる場合、高アクティビティサブグループに対する歪みの重みは、好ましくは1である既定の定数に等しいのが好ましい。その場合、低アクティビティサブグループは、既定の定数より大きいと判定された歪みの閾値を有してもよい。特定の一実施形態において、歪みの重みは、マクロブロックに対して判定された量子化パラメータ値に基づいて判定される。そのような場合、歪みの重みは、上述したように、現在のマクロブロック及びフレーム内の隣接するマクロブロックに割り当てられたラグランジュ乗数に基づく、k=f×λN/λM 等の関数であってもよい。
実施形態は、単一のアクティビティ閾値の使用に限定されず、サブグループの3つ以上の異なるカテゴリを得るために複数の異なるアクティビティ値と関連して使用されてもよい。
少なくとも1つのアクティビティ閾値は固定されてもよく、すなわち既定値に等しくてもよい。これは、アクティビティ閾値毎に1つの同一の値がフレーム内の全てのマクロブロックに対して使用され、好ましくはビデオシーケンス内の全てのフレームに対して使用されることを意味する。
別の手法において、少なくとも1つのアクティビティ閾値の値は、適応QP法と関連して判定される。図10を参照すると、ステップS30において、各ブロックアクティビティはフレーム内の各マクロブロックに対して適応QP法で判定される。ブロックアクティビティは、マクロブロック内の画素値の分布を表す。ブロックアクティビティは、当分野において周知の技術に従って、ステップS31においてマクロブロックに対する量子化パラメータを判定するために採用される。ステップS32において、各マクロブロックは、上述のマクロブロックの量子化パラメータ及びマクロブロックのモードに基づいて定義されるのが好ましいラグランジュ乗数又はラムダ値を更に割り当てられる。ステップS30〜S32はフレーム内の全てのマクロブロックに対して実行されるのが好ましい。これを線L4により概略的に示す。その後、ステップS33において、マクロブロックは、好ましくはブロックアクティビティに基づいてマクロブロックに対して判定された各量子化パラメータ値に基づいて、複数のカテゴリに分割される。次に、好ましくは各カテゴリに対して、あるいは複数のカテゴリの少なくとも一部に対して、最も高いブロックアクティビティを有するマクロブロックが識別される。ステップS34において、少なくとも1つのアクティビティ閾値は、識別されたマクロブロックに対して判定されたアクティビティ値に基づいて判定されてもよい。その後、図2のステップS1へ進み、歪み表現が上述のように推定される。
特定の一実施形態において、アクティビティ閾値の値は、当該カテゴリに対する最も高いブロックアクティビティを有するマクロブロックの平均又は中央アクティビティ値に設定可能である。別の手法において、アクティビティ閾値は、カテゴリに対する最も高いブロックアクティビティを有するマクロブロック及びより大きいQP値を有する次のカテゴリに対する最も低いブロックアクティビティを有するマクロブロックの平均又は中央アクティビティ値に設定される。この手法は、大部分の画素がそれぞれのカテゴリに維持されることにより、通常は当該カテゴリ内の他の画素と等しいか又は類似する歪みの重みを取得することを意味する。
別の手法において、少なくとも1つのアクティビティ閾値は、一定の割合のサブグループ又は画素がアクティビティ閾値を上回るか又は下回るアクティビティ値を有するように動的に判定される。そのような場合、フレームのマクロブロックは、各自のブロックアクティビティに基づいて判定されるのが好ましい各自の量子化パラメータ値に基づいて、異なるカテゴリに分割される。次に、異なるカテゴリに分割されたマクロブロックの各割合が計算され、それらの割合は少なくとも1つのアクティビティ閾値を計算するために使用される。例えば、マクロブロックの60%を有する2つのマクロブロッククラスが最も低いアクティビティのマクロブロックを含むカテゴリに分類されると仮定する。そのような場合、(単一の)アクティビティ閾値の値は、最も低いアクティビティ値を有するサブグループの60%がアクティビティ閾値を下回るアクティビティ値を有するように選択されてもよい。
挿入を単純化するために、歪みの重みを2の倍数に設定して乗算を回避してもよい。従って、歪みの重みは異なる正の整数値tに対して1/2t 、1、2tであってもよい。これは、重み付けがシフトのみで実現可能であることを示す。
ステップS4において推定された歪み表現は、
として判定されるのが好ましい。式中、pijは画素ブロック(マクロブロック)内の画素位置i,jにおける画素値を示し、qijは画素位置i,jにおける参照画素値を示し、kijは画素位置i,jにおけるサブグループの歪みの重みを示し、nは1以上の正数を示し、画素ブロックはM×N個の画素を含み、好ましくは16×16個の画素を含む。平方差分の和、すなわちn=2である例は、当分野において最も一般的な歪みの計測値である。当分野において一般に使用される別の歪みの計測値は絶対値差分の和であり、すなわちn=1である例である。後者の歪みの計測値、すなわち歪みの重みを用いて変更されたSADは、動きの推定と関連して有利に使用される。
図7は、図1に示す図に対応するが一実施形態に従って処理された図である。図からわかるように、本明細書中で開示された実施形態により、平滑な背景上の高アクティビティオブジェクトの周囲のリンギング効果が減少される。
実施形態の歪み表現は、レート歪みパラメータJ=D+λ×bitsのパラメータとして、マクロブロックの符号化及び復号と関連して利用可能である。そのような場合、ラグランジュ乗数又はラムダ値は、好ましくは適応QP手順においてマクロブロックに割り当てられた量子化パラメータ値に基づいて、マクロブロックに対して判定される。レートパラメータは、量子化パラメータに基づいて生成されたマクロブロックの符号化バージョンに対するビットコストを表す。その場合、レート歪み値又はラグランジュコスト関数は、実施形態の歪み表現の重み付けされた和及びラグランジュ乗数で重み付けされたレート値として取得される。
上記に従って判定されたレート歪み値は、フレームのマクロブロックの符号化と関連して使用可能である。そのような場合、方法は、歪みの重みが判定された図2のステップS3から続く。更に、適応QP法によりマクロブロックに対するブロックアクティビティが計算され、QP値が判定され且つラグランジュ乗数が選択されているように、図10のステップS30〜S32が更に実行されているが好ましい。方法は、図11のステップS40へ進む。このステップは、複数の使用可能な符号化モードの集合のうちの1つに従ってマクロブロックを疑似符号化する。ステップS41において、符号化マクロブロックに対するレート値が判定される。次に図2のステップS4へ進み、マクロブロックに対する歪み表現が推定される。この場合、ステップS4で採用された参照画素値は、疑似符号化マクロブロックの復号後に取得される再構成画素値である。歪み表現が推定されると、ステップS42へ進み、レート歪み値がテストされた符号化モードに対するマクロブロックに対して計算される。その後、ステップS40〜S42の動作が他の使用可能な符号化モードの全てに対して繰り返される。これを線L5により概略的に示す。
当分野において周知であるように、マクロブロックは種々のモードに従って符号化可能である。例えば、マクロブロックに対して使用可能であるいくつかの可能なイントラ符号化モード、スキップモード及び多くのインター符号化モードが存在する。イントラ符号化の場合、異なる符号化方向が可能であり、インター符号化において、マクロブロックは異なる方法で分割可能であり且つ/又は異なる参照フレーム又は動きベクトルを使用できる。これは、ビデオ符号化の分野において全て既知である。
ステップS40〜S42を複数回実行した結果、各レート歪み値がテストされた各符号化モードから取得される。次にステップS43において、マクロブロックに対して使用する特定の符号化モードが選択される。この符号化モードは、ステップS42において計算されたモードの中で最も低いレート歪み値を有するモードであるのが好ましい。ステップS44において、マクロブロックの符号化バージョンは選択された符号化モードに従ってマクロブロックを符号化することにより取得される。
歪み表現を推定又は計算するために実施形態に係る歪みの重みを使用することは、フレームのマクロブロックの少なくとも一部がテストされた符号化モードの一部に対して異なるレート歪み値を取得することを意味する。特に、高アクティビティ領域と低アクティビティ領域との間の境界のフレームに存在するマクロブロックは、符号化モードの一部に対して非常に異なるレート歪み値を取得する。その結果、より適切な符号化モードがそれらのマクロブロックに対して選択される。これは、それらのマクロブロックに対するQP値を減少させた場合よりはるかに低いビットコストでのリンギング及びモーションドラッグのアーチファクトの低減として認識される。
標準的なビデオ符号化において、ステップS43で選択された符号化モードは復号器へ送信される。しかし、復号器側のモード推定において、符号化マクロブロックに対して使用する復号モードは復号器で導出される。本明細書中で開示される実施形態は、そのような例において更に使用可能である。復号器において復号モードを判定する1つの方法は、テンプレートマッチングを使用することである。テンプレートマッチングにおいて、現在のマクロブロックの外側の、以前に復号された領域が、標準的なビデオ符号化における元のマクロブロックと同様に使用される。
実施形態の歪み表現は、フレームの符号化において適応QPと組み合わせて有利に使用可能である。歪み表現のそのような応用例を図12及び図13を参照して更に説明する。複数のマクロブロックを含むフレームを符号化する方法において、各マクロブロックアクティビティはステップS50で各マクロブロックに対して計算される。前述したように、マクロブロックアクティビティはマクロブロック内の画素値の分布を表し、例えば次式として定義可能である:
又は
S60の符号化の適応QP法は、ステップS51において複数のマクロブロックを分類する。例示的な一実施形態において、マクロブロックは、各自のマクロブロックアクティビティに基づいて、少なくとも低アクティビティマクロブロックS61又は高アクティビティマクロブロックS63として分類される。従って、複数のカテゴリへのマクロブロックの分割は、一方が低アクティビティマクロブロックであり他方が高アクティビティマクロブロックである2つのカテゴリを定義することにより実行可能である。当然、この手順は、マクロブロックの3つ以上のカテゴリを更に区別してもよい。
マクロブロックは、ステップS51で割り当てられたカテゴリに従って適応QPの量子化パラメータ値を更に割り当てられる。従って、ステップS51で低アクティビティマクロブロックとして分類されたマクロブロックは小さいQP値を割り当てられ(S62)、高アクティビティのカテゴリに属するマクロブロックは小さいQP値より大きいQP値を割り当てられる(S64)。
以下のステップS52〜S54の処理は各マクロブロックに対して実行されるのが好ましい。これを線L6により概略的に示す。ステップS52において、マクロブロック内の複数のサブグループのうちの少なくとも1つの画素から成る各サブグループに対して、複数の画素を含み且つサブグループを内包する近傍画素内の画素値の分布を表すアクティビティ値が判定される(S65)。このステップS52は、基本的に図2のステップS2と同じ方法で実行され、本明細書中で更に説明しない。次にステップS53/S66において、マクロブロック内の複数のサブグループの各々は、ステップS52で判定された各自のアクティビティ値に基づいて、低アクティビティサブグループS67、S70又は高アクティビティサブグループS68として分類される。ステップS53におけるサブグループの分類は、アクティビティ値とアクティビティ閾値との比較等の前述の技術のいずれかに従って実行可能である。
次のステップS54において、サブグループに対する歪みの重みが判定される。ステップS54の特定の一実施形態において、低アクティビティマクロブロックとして分類されたマクロブロックに属するサブグループS67は、1等の既定の定数に等しい歪みの重みを割り当てられるのが好ましい(S69)。この既定の定数は、高アクティビティサブグループS68として分類される高アクティビティマクロブロック内のサブグループに歪みの重さとして更に割り当てられるのが好ましい。しかし、低アクティビティサブグループとして分類され且つ高アクティビティマクロブロックに属するサブグループS70に対して、既定の定数より大きい歪みの重みが代わりに判定される(S71)。それらの低アクティビティサブグループに対する歪みの重みは、前述したように、現在の高アクティビティマクロブロックに割り当てられたQP値及び好ましくはフレーム内の隣接するマクロブロックに割り当てられたQP値に基づいて有利に計算可能である。
その後、前述したレート歪み値に基づいて実行される符号化モード選択手順が行われる(S72)。従って、ステップS55において、マクロブロックは種々の使用可能な符号化モードに従って疑似符号化され、レート歪み値は各候補符号化モードに対する歪みの重みに基づいて計算される。マクロブロックに対するレート歪み値を最小化する符号化モードがステップS56において選択され、ステップS57において特定のマクロブロックを符号化するために使用される。尚、通常、ステップS55〜S57の動作は各ブロックに対して個別に実行される。これは、フレームの全てのマクロブロックが同一のマクロブロックの種類又はモードを用いて符号化される必要がないことを意味する。
歪みの重み及び歪みの重みを判定するために採用されたサブグループのアクティビティは、マクロブロックに対してテストされる符号化モードの数を減少するために更に使用可能である。従って、マクロブロックに対するサブグループのアクティビティ又は歪みの重みの分布により、マクロブロックが特定の符号化モードを使用して効果的に符号化されないこと、すなわち、その特定の符号化モードを用いて符号化された場合に非常に高いレート歪み値が生じることが明らかになる。そのような場合、使用可能な符号化モードの数が減少されるため、符号化処理の複雑さが大幅に軽減され且つマクロブロックの符号化が高速化する。
実施形態の歪みの重みは、符号化に対する候補マクロブロックモードの評価以外の他の応用例に対して更に使用可能である。例えば歪みの重みは、例えばH.264におけるマクロブロックの分割に対する動きベクトル候補を評価するために更に採用可能である。同一の歪みの重みが使用可能であり、レート歪み値を最小化する動きベクトルが選択される。図14は、この概念を概略的に示す。現在のフレーム1内の現在のマクロブロック10はインター符号化の対象であり、マクロブロック10が参照フレーム2において存在した位置14から参照フレーム2におけるマクロブロック予測12までの動きを定義する動きベクトル16が判定される。そのような場合、歪み表現の推定において使用される参照画素値は、マクロブロック予測12の動き補償画素値である。
図15は、歪み推定装置100の一実施形態を概略的に示すブロック図である。歪み推定装置100は、マクロブロック等の画素ブロック内の複数のサブグループのうちの少なくとも1つの画素を含む各サブグループに対するアクティビティ値を計算するように構成されたアクティビティ計算機110を備える。アクティビティ値は、複数の画素を含み且つサブグループを内包する近傍画素内の画素値の分布を表すのが好ましい。
重み判定器120は、サブグループに対する歪みの重みを判定するために、アクティビティ計算機110により判定されたアクティビティ値を使用する。アクティビティ計算機110及び重み判定器120は、画素ブロック内の各サブグループに対するアクティビティ値及び歪みの重みを判定するために動作されるのが好ましい。
歪み推定装置100は、画素ブロックのサブグループに対して重み判定器120により判定された複数の歪みの重み、画素ブロックの画素値及び画素ブロックに対する参照画素値に基づいて画素ブロックに対する歪み表現を推定するように構成された歪み推定器130を更に備える。
アクティビティ計算機110は、前述のように、サブグループに対する複数の潜在的な近傍画素の各々に対する候補アクティビティ値を計算するように構成されるのが好ましい。その場合、アクティビティ計算機110は、サブグループに対して使用するアクティビティ値として、それらの複数の候補アクティビティ値のうちの最小の候補アクティビティ値を選択するのが好ましい。潜在的な近傍画素は、近傍画素のブロックにおけるサブグループの位置が他の近傍画素におけるサブグループの各位置と異なる画素のブロックである。前述のように、サブグループに対する潜在的な近傍画素の位置の数を減少するための格子がアクティビティ計算機110により利用可能である。
重み判定器120は、サブグループのアクティビティ値と少なくとも1つのアクティビティ閾値との比較に基づいてサブグループに対する歪みの重みを判定するのが好ましい。そのような場合、歪み推定装置100は、オプションとして、重み判定器120により採用される少なくとも1つのアクティビティ閾値を提供するように構成された閾値提供器140を備えてもよい。
図16は、閾値提供器140の可能な実現例の一実施形態を示すブロック図である。閾値提供器140は、フレーム内の各画素ブロックに対する各ブロックアクティビティを計算するように構成されたブロックアクティビティ計算機141を備える。ブロック分類器143は、ブロックアクティビティに基づいて画素ブロックに割り当てられた各量子化パラメータに基づいて、フレーム内の画素ブロックを複数のカテゴリに分割する。閾値提供器140は、複数のカテゴリのうちの少なくとも1つにおいて最も高いブロックアクティビティを有する画素ブロックを識別するように構成された画素ブロック識別器145を更に備える。その後、閾値計算機147は、画素ブロック識別器145により識別された画素ブロックに対して計算されたアクティビティ値に基づいて少なくとも1つのアクティビティ閾値を計算する。
図17は、閾値提供器140の別の実現例の実施形態を示すブロック図である。閾値提供器140は、図16の対応するブロック分類器と同様に動作するブロック分類器143を備える。割合計算機149は、ブロック分類器143により定義された複数のカテゴリの各々に属するフレーム内の画素ブロックの各割合を計算するように構成される。本実施形態において、閾値計算機147は、前述の技術に従って割合計算機により計算された各割合に基づいて少なくとも1つのアクティビティ閾値を計算する。
重み判定器120は、サブグループに対して判定されたアクティビティ値がアクティビティ閾値を上回る場合に歪みの重みが1等の既定の定数に等しいと判定し且つアクティビティ値がアクティビティ閾値を下回る場合に画素ブロックに割り当てられたQP値に基づいて歪みの重みを判定するように構成可能である。後者の場合、歪みの重みは、前述のように、現在の画素ブロックに対するラグランジュ乗数及びフレーム内の隣接画素ブロックに対するラグランジュ乗数の比に基づいて判定可能である。
歪み推定装置100は、オプションとして、歪み推定器130からの歪み表現及び画素ブロックの符号化バージョンのビットコストを表すレート値に基づいて、画素ブロックに対するレート歪み値を計算するように構成されたレート歪み(RD)計算機150を更に備えてもよい。
歪み推定装置100は、ハードウェア、ソフトウェア又はハードウェア及びソフトウェアの組み合わせで実現可能である。ソフトウェアで実現される場合、歪み推定装置100は、メモリに格納され且つ汎用又は専用コンピュータ、プロセッサ又はマイクロプロセッサにロードされて実行するコンピュータプログラムとして実現される。ソフトウェアは、歪み推定装置100のアクティビティ計算機110、重み判定器120及び歪み推定器130の動作を実現するコンピュータプログラムコード要素又はソフトウェアコード部分を含む。図15に示すような他のオプションであるが好適な装置は、メモリに格納され且つプロセッサにより実行されるコンピュータプログラムコード要素として更に実現されてもよい。プログラムの全て又は一部は、磁気ディスク、CD−ROM,DVDディスク、USBメモリ、ハードディスク、光磁気メモリ等の1つ以上の適切なコンピュータ可読媒体又はデータ記憶手段に、RAM又は揮発性メモリに、ファームウェアとしてROM又はフラッシュメモリに、あるいはデータサーバに格納されてもよい。
歪み推定装置100は、コンピュータ、移動装置、あるいは他のビデオ又は画像処理装置又はシステムにおいて有利に実現可能である。
更に一実施形態は、図18に示す符号器200に関する。その場合、符号器200は、複数の使用可能な符号化モードの集合のうちの各符号化モードに従って画素ブロックを疑似符号化するように構成される。本実施形態において、符号器200は図15に示す歪み推定装置100を備える。すなわち、符号器200は、アクティビティ計算機110、重み判定器120、歪み推定器130及びレート歪み計算機150を備える。そのような場合、レート歪み計算機150は、前述のように複数の使用可能な符号化モードの各々に対する各レート歪み値を計算する。符号器200のモード選択器270は、複数の使用可能な符号化モードの中からレート歪み値を最小化する符号化モードを選択する。その後、符号器200は、モード選択器270により選択された符号化モードに従って画素ブロックを符号化することにより、画素ブロックの符号化バージョンを生成する。
符号器200の別の一実施形態において、ブロックアクティビティ計算機210は、フレーム内の各マクロブロックに対するマクロブロックアクティビティを計算するように構成される。ブロック分類器220は、ブロックアクティビティ計算機210により計算されたマクロブロックアクティビティに基づいて、少なくとも低アクティビティマクロブロック又は高アクティビティマクロブロックとして複数のマクロブロックを分類する。
符号器200は、マクロブロックアクティビティに基づいて各マクロブロックに対する各QP値を選択するために実現された量子化選択器240を更に備える。そのような場合、低アクティビティマクロブロックは小さいQP値を割り当てられ、高アクティビティマクロブロックは比較的大きいQP値を割り当てられる。アクティビティ計算機110は、前述のようにマクロブロックのサブグループに対するアクティビティ値を計算するために動作する。サブグループ分類器230は、アクティビティ値に基づいて、低アクティビティサブグループ又は高アクティビティサブグループとしてサブグループを分類する。
重み判定器120は、分類された低アクティビティマクロブロックに属するサブグループ及び高アクティビティマクロブロックの高アクティビティサブグループに既定の因数又は定数に等しい歪みの重みを割り当てる。しかし、高アクティビティマクロブロック内の低アクティビティサブグループに対する歪みの重みは、既定の因数より大きいと判定され、量子化選択器240によりそれらのマクロブロックに対して判定されたQP値に基づいて計算されるのが好ましい。
乗数判定器250は、量子化選択器240により判定されたQP値に基づいてマクロブロックに対するラグランジュ乗数を判定するために、符号器200において実現される。符号器200は、マクロブロックの符号化バージョンのビットサイズ又はコストを表すレート値を導出するように構成されたレート計算機260を更に備える。その場合、レート歪み計算機150は、歪み推定器130からの歪み表現、乗数判定器250からのラグランジュ乗数及びレート計算機260からのレート値に基づいて、マクロブロックに対するレート歪み値を生成する。そのようなレート歪み値は、テストされた各符号化モードに対して計算され、モード選択器270は、異なるレート歪み値に基づいてマクロブロックに対して使用する符号化モードを選択できる。すなわち、モード選択器270は最も低いレート歪み値を生じる符号化モードを選択するのが好ましい。
図18に示す符号器200は、ソフトウェア、ハードウェア又はそれらの組み合わせで実現可能である。ソフトウェアの場合、符号器200は、メモリに格納され且つ汎用又は専用コンピュータ、プロセッサ又はマイクロプロセッサにロードされて実行するコンピュータプログラムとして実現される。ソフトウェアは、符号器200のユニット110〜130、150、210〜270の動作を実現するコンピュータプログラムコード要素又はソフトウェアコード部分を含む。プログラムの全て又は一部は、磁気ディスク、CD−ROM,DVDディスク、USBメモリ、ハードディスク、光磁気メモリ等の1つ以上の適切なコンピュータ可読媒体又はデータ記憶手段に、RAM又は揮発性メモリに、ファームウェアとしてROM又はフラッシュメモリに、あるいはデータサーバに格納されてもよい。
符号器200は、コンピュータ、移動装置、あるいは他のビデオ又は画像処理装置又はシステムにおいて有利に実現可能である。
図19は、別の実施形態に係る符号器の構造300を概略的に示す図である。符号器300は、画素ブロックのインター予測バージョンに対して構成された動き推定部又は推定器370と、画素ブロックの対応するイントラ予測バージョンを生成するためのイントラ予測部又は予測器375とを備える。画素ブロック予測及び参照画素ブロックは、元の画素ブロックと参照又は予測画素ブロックとの間の特性値の差分として残留誤差を計算する誤差計算機305に転送される。残留誤差は、離散コサイン変換310等により変換され、量子化315を実行された後、エントロピ符号化320を実行される。
現在の画素ブロックに対する変換及び量子化された残留誤差は、元の残留誤差の近似を検索するために、逆量子化器335及び逆変換器340に更に提供される。
この元の残留誤差は、復号ブロックを計算するために、加算器345において動き補償部365又はイントラ復号器360から出力された参照画素ブロックに加算される。復号ブロックは、フレームの次の画素ブロックの予測及び符号化において使用可能である。この復号画素ブロックは、オプションとして、フレーム355に入力される前に最初に非ブロック化フィルタ350により処理されてもよく、イントラ予測器375、動き推定器370及び動き補償部365はこれを利用できる。
符号器300は、本明細書中で前述したように、各画素ブロックに対する特定の符号化モードを選択するように構成されたレート歪み選択器380を更に備える。
上述の実施形態は、本発明のいくつかの例示的な例として理解されるべきである。本発明の範囲から逸脱することなく、種々の変更、組み合わせ及び変形が実施形態に対して行われてもよいことが当業者により理解されるだろう。特に、異なる実施形態における異なる部分的解決策は、技術的に可能である場合に他の構成において組み合わせ可能である。しかし、本発明の範囲は添付の請求の範囲により定義される。

Claims (30)

  1. フレーム(1)の画素ブロック(10)に対する歪み表現を生成する方法であって、
    前記画素ブロック(10)の複数のサブグループ(30)を定義するステップと、ここで、各々のサブグループは前記画素ブロック(10)の少なくとも1つの画素(20)を含む;
    前記複数のサブグループ(30)の各サブグループ(30)に対して、複数の画素(20)を含み且つ前記サブグループ(30)を内包する近傍画素(40)内の画素値の分布を表すアクティビティ値を判定するステップと、
    前記複数のサブグループ(30)の各サブグループ(30)に対して、前記サブグループ(30)に対して判定された前記アクティビティ値に基づいて歪みの重みを判定するステップと、
    前記複数の歪みの重み、前記画素ブロック(10)の画素値及び前記画素ブロック(10)に対する参照画素値に基づいて前記画素ブロック(10)に対する歪み表現を推定するステップ
    とを有することを特徴とする方法。
  2. 前記歪みの重みを判定するステップは、第1のアクティビティを表すアクティビティ値を有するサブグループ(30)に対する歪みの重みが前記第1のアクティビティより比較的小さい第2のアクティビティを表すアクティビティ値を有するサブグループ(30)に対する歪みの重みより小さいと判定するステップを含むことを特徴とする請求項1に記載の方法。
  3. 前記複数のサブグループ(30)を定義するステップは、前記画素ブロック(10)の複数の重なり合わないサブグループ(30)を定義するステップを含み、ここで、mが0又は正の整数でとしたとき、各サブグループは2m×2m個の画素(20)を含むことを特徴とする請求項1又は2に記載の方法。
  4. 前記アクティビティ値を判定するステップは、
    前記複数のサブグループ(30)の各サブグループ(30)と複数の画素(20)を含み且つ前記サブグループ(30)を内包する複数の潜在的な近傍画素(40)の各々とに対して、前記近傍画素(40)内の画素値の分布を表す候補アクティビティ値を計算するステップと、
    前記サブグループ(30)に対する前記アクティビティ値として前記複数の候補アクティビティ値のうちの最小の候補アクティビティ値を選択するステップと
    を含むことを特徴とする請求項1乃至3のいずれか1項に記載の方法。
  5. 前記候補アクティビティ値を計算するステップは、前記近傍画素(40)内の垂直及び水平方向に隣接する画素(20)の画素値の絶対値差分の和に基づいて前記候補アクティビティ値を計算するステップを含むことを特徴とする請求項4に記載の方法。
  6. 前記サブグループ(30)を内包し、且つa、bが1以上の正の整数である2a×2b個の画素(20)から構成される各ブロックとして前記複数の潜在的な近傍画素(40)を識別するステップを更に含み、ここで、前記複数の潜在的な近傍画素(40)のうちの1つの潜在的な近傍画素(40)における前記サブグループ(30)の位置は前記複数の潜在的な近傍画素(40)のうちの他の各潜在的な近傍画素(40)における前記サブグループ(30)の各位置と異なっていることを特徴とする請求項4又は5記載の方法。
  7. 前記複数の潜在的な近傍画素(40)を識別するステップは、前記サブグループ(30)を内包し且つc、dが1以上の正の整数でありc≦a及びd≦bである前記フレーム(1)内の2c×2d格子(50)上に位置決めされる各潜在的な近傍画素(40)を識別するステップを含むことを特徴とする請求項6に記載の方法。
  8. 前記歪みの重みを判定するステップは、
    a)前記複数のサブグループ(30)の各サブグループ(30)に対して、前記サブグループ(30)に対して判定された前記アクティビティ値と少なくとも1つのアクティビティ閾値とを比較するステップと、
    b)前記複数のサブグループ(30)の各サブグループ(30)に対して、前記比較に基づいて前記歪みの重みを判定するステップと
    を含むことを特徴とする請求項1乃至7のいずれか1項に記載の方法。
  9. 前記画素ブロック(10)に対する量子化パラメータ値を判定するステップを更に含み、判定ステップb)は:
    i)前記複数のサブグループ(30)の各サブグループ(30)に対して、前記サブグループ(30)に対して判定された前記アクティビティ値がアクティビティ閾値を上回る場合に前記歪みの重みが既定の定数に等しいと判定するステップと、
    ii)前記複数のサブグループ(30)の各サブグループ(30)に対して、前記サブグループ(30)に対して判定された前記アクティビティ値がアクティビティ閾値を下回る場合に前記画素ブロック(10)に対して判定された前記量子化パラメータ値に基づいて前記歪みの重みを判定するステップと
    を含むことを特徴とする請求項8に記載の方法。
  10. 前記量子化パラメータ値に基づいて前記画素ブロック(10)に対するラグランジュ乗数を判定するステップを更に含み、判定ステップii)は、前記複数のサブグループ(30)の各サブグループ(30)に対して、fが1以上の因数であり、λNが前記画素ブロック(10)に対する前記ラグランジュ乗数を示し且つλMが前記フレーム(1)内の隣接画素ブロックに対するラグランジュ乗数を示すとした場合、前記サブグループ(30)に対して判定された前記アクティビティ値が前記アクティビティ閾値を下回る場合に前記歪みの重みkがk=f×λN/λMであると判定するステップを含むことを特徴とする請求項9に記載の方法。
  11. 前記フレーム(1)内の各画素ブロック(10)に対して、前記画素ブロック(10)内の画素値の分布を表すブロックアクティビティを判定するステップと、
    前記画素ブロック(10)に対して判定された前記各量子化パラメータに基づいて、前記フレームの前記画素ブロック(10)を複数のカテゴリに分割するステップと、
    前記複数のカテゴリの1つのカテゴリに対して、最も高いブロックアクティビティを有する画素ブロックを識別するステップと、
    前記識別された画素ブロックに対して判定された前記アクティビティ値に基づいてアクティビティ閾値を計算するステップと
    を更に含むことを特徴とする請求項8乃至10のいずれか1項に記載の方法。
  12. 前記画素ブロック(10)に対して判定された前記各量子化パラメータに基づいて、前記フレームの前記画素ブロック(10)を複数のカテゴリに分割するステップと、
    前記複数のカテゴリの各々に属する前記フレーム(1)内の前記画素ブロック(10)の各割合を計算するステップと、
    前記各割合に基づいて前記少なくとも1つのアクティビティ閾値を計算するステップと
    を更に含むことを特徴とする請求項8乃至10のいずれか1項に記載の方法。
  13. 前記歪み表現を推定するステップは、前記歪み表現Dを、
    として計算するるステップを有する、
    ここで、pijは前記画素ブロック(10)内の画素位置i,jにおける画素値を示し、qijは画素位置i,jにおける参照画素値を示し、kijは前記画素ブロック(10)内の画素位置i,jにおけるサブグループ(30)の歪みの重みを示し、nは1以上の正数であり、前記画素ブロック(10)はM×N個の画素(20)で構成されるとする、
    ことを特徴とする請求項1乃至12のいずれか1項に記載の方法。
  14. 前記画素ブロック(10)に割り当てられた量子化パラメータ値に基づいて前記画素ブロック(10)に対するラグランジュ乗数を判定するステップと、
    前記画素ブロック(10)に対して、前記量子化パラメータ値に基づいて生成された前記画素ブロック(10)の符号化バージョンのビットコストを表すレート値を判定するステップと、
    前記歪み表現、前記ラグランジュ乗数及び前記レート値に基づいて前記画素ブロック(10)に対するレート歪み値を計算するステップと
    を更に含むことを特徴とする請求項1乃至13のいずれか1項に記載の方法。
  15. 複数の使用可能な符号化モードの集合の各符号化モードに従って前記画素ブロック(10)を疑似符号化するステップと、
    前記複数の使用可能な符号化モードの各々に対してレート歪み値を計算するステップと、
    前記複数の使用可能な符号化モードの中から前記レート歪み値を最小化する符号化モードを選択するステップと、
    前記選択された符号化モードに従って前記画素ブロックを符号化することにより前記画素ブロック(10)の符号化バージョンを生成するステップと
    を更に含むことを特徴とする請求項14に記載の方法。
  16. 画素(20)で構成される複数のマクロブロック(10)を含むフレーム(1)を符号化する方法であって、
    各マクロブロック(10)に対して、前記マクロブロック(10)内の画素値の分布を表すマクロブロックアクティビティを計算するステップと、
    前記複数のマクロブロック(10)を前記マクロブロックアクティビティの各々に基づいて、少なくとも低アクティビティマクロブロック、高アクティビティマクロブロックに分類するステップと、ここで、低アクティビティマクロブロックとして分類されたマクロブロック(10)には小さい量子化パラメータ値が割り当てられ、且つ高アクティビティマクロブロックとして分類されたマクロブロック(10)には前記小さい量子化パラメータ値より大きい量子化パラメータ値が割り当てられる;
    前記複数のマクロブロック(10)の各マクロブロック(10)に対して:
    前記マクロブロック(10)内の複数のサブグループ(30)のうちの少なくとも1つの画素(20)から成る各サブグループ(30)に対して、複数の画素(20)を含み且つ前記サブグループ(30)を内包する近傍画素(40)内の画素値の分布を表すアクティビティ値を判定するステップと、
    前記各アクティビティ値に基づいて、低アクティビティサブグループ又は高アクティビティサブグループとして前記複数のサブグループ(30)の各々を分類するステップと、
    高アクティビティマクロブロック内の各低アクティビティサブグループに対して、既定の定数より大きい歪みの重みを判定するステップと、
    低アクティビティマクロブロック内の各サブグループ及び高アクティビティマクロブロック内の各高アクティビティサブグループに対して、前記既定の定数に等しい歪みの重みを割り当てるステップと、
    ラグランジュコスト関数J=D+λ×Rを最小化する、複数の使用可能な符号化モードの集合のうちの符号化モードを選択するステップと、
    ここで、Dは
    に等しい歪みを示し、
    ijは前記マクロブロック(10)内の画素位置i,jにおける画素値を示し、qijは前記マクロブロック(10)内の画素位置i,jにおける再構成画素値を示し、kijは前記マクロブロック(10)内の画素位置i,jにおけるサブグループ(30)の歪みの重みを示し、nは1以上の正数を示し、λは前記マクロブロック(10)に対する前記量子化パラメータ値に基づいて前記マクロブロック(10)に対して選択されたラグランジュ乗数を示し、Rは前記マクロブロック(10)に対して前記量子化パラメータ値を使用する符号化モードに従って取得された前記マクロブロック(10)の符号化バージョンのビットコストを表すレート値を示している;
    前記選択された符号化モードに従って前記マクロブロック(10)を符号化するステップと
    を有することを特徴とする方法。
  17. フレーム(1)の画素ブロック(10)に対する歪み表現を生成する装置(100)であって、
    各サブグループ(30)が前記画素ブロック(10)の少なくとも1つの画素(10)を含む前記画素ブロック(10)内の複数のサブグループ(30)の各サブグループ(30)に対して、複数の画素(20)を含み且つ前記サブグループ(30)を内包する近傍画素(40)内の画素値の分布を表すアクティビティ値を計算するように構成されたアクティビティ計算機(110)と、
    前記複数のサブグループ(30)の各サブグループ(30)に対して、前記アクティビティ計算機(110)により前記サブグループ(30)に対して計算された前記アクティビティ値に基づいて重みの歪みを判定するように構成された重み判定器(120)と、
    前記重み判定器(120)により判定された前記複数の歪みの重み、前記画素ブロック(10)の画素値及び前記画素ブロック(10)に対する参照画素値に基づいて、前記画素ブロック(10)に対する歪み表現を推定するように構成された歪み推定器(130)と
    を備えることを特徴とする装置。
  18. 前記アクティビティ計算機(110)は、前記複数のサブグループ(30)の各サブグループ(30)と複数の画素(20)を含み且つ前記サブグループ(30)を内包する複数の潜在的な近傍画素(40)の各々とに対して前記近傍画素(40)内の画素値の分布を表す候補アクティビティ値を計算し、前記サブグループ(30)に対する前記アクティビティ値として前記複数の候補アクティビティ値のうちの最小の候補アクティビティ値を選択するように構成されることを特徴とする請求項17に記載の装置。
  19. 前記アクティビティ計算機(110)は、前記近傍画素(30)内の垂直方向及び水平方向に隣接する画素(20)の画素値の絶対値差分の和に基づいて前記候補アクティビティ値を計算するように構成されることを特徴とする請求項18に記載の装置。
  20. 前記アクティビティ計算機(110)は、前記サブグループ(30)を内包し、且つa、bが1以上の正の整数であるとした場合に2a×2b画素(20)の各ブロックとして前記複数の潜在的な近傍画素(40)を識別するように構成され、前記複数の潜在的な近傍画素(40)の1つの潜在的な近傍画素(40)における前記サブグループ(30)の位置は、前記複数の近傍画素(40)の他の潜在的な近傍画素(40)の各々における前記サブグループ(30)の各位置と異なることを特徴とする請求項18又は19記載の装置。
  21. 前記アクティビティ計算機(110)は、前記サブグループ(30)を内包し、且つ、c、dが1以上の正の整数でありc≦a及びd≦bなる関係を有する場合に、前記フレーム(1)内の2c×2d格子(50)上に位置決めされる各潜在的な近傍画素(40)を識別するように構成されることを特徴とする請求項20に記載の装置。
  22. 前記重み判定器(120)は、前記複数のサブグループ(30)の各サブグループ(30)に対して、前記サブグループ(30)に対して判定された前記アクティビティ値と少なくとも1つのアクティビティ閾値とを比較し、前記複数のサブグループ(30)の各サブグループ(30)に対して、前記比較に基づいて前記歪みの重みを計算するように構成されることを特徴とする請求項17乃至21のいずれか1項に記載の装置。
  23. 前記画素ブロック(10)は量子化パラメータ値を割り当てられ、
    前記重み判定器(120)は、前記複数のサブグループ(30)の各サブグループ(30)に対して、前記サブグループ(30)に対して判定された前記アクティビティ値がアクティビティ閾値を上回る場合は前記歪みの重みが既定の定数に等しいと判定し、前記複数のサブグループ(30)の各サブグループ(30)に対して、前記サブグループ(30)に対して判定された前記アクティビティ値が前記アクティビティ値を下回る場合に前記画素ブロック(10)に割り当てられた前記量子化パラメータ値に基づいて前記歪みの重みを判定するように構成されることを特徴とする請求項22に記載の装置。
  24. 前記画素ブロック(10)は前記量子化パラメータ値に基づいて前記画素ブロック(10)に対して選択されたラグランジュ乗数を割り当てられ、
    前記重み判定器(120)は、前記複数のサブグループ(30)の各サブグループ(30)に対して、fが1以上の因数であり、λNが前記画素ブロック(30)に対する前記ラグランジュ乗数を示し、λMが前記フレーム(10)内の隣接画素ブロックに対するラグランジュ乗数を示すとした場合、前記サブグループ(30)に対して判定された前記アクティビティ値が前記アクティビティ閾値を下回る場合に前記歪みの重みkが、k=f×λN/λMであると判定するように構成されることを特徴とする請求項23に記載の装置。
  25. 前記フレーム(1)内の各画素ブロック(10)に対して、前記画素ブロック(10)内の画素値の分布を表すブロックアクティビティを計算するように構成されたブロックアクティビティ計算機(141)と、
    前記画素ブロック(10)に割り当てられた前記各量子化パラメータ値に基づいて、前記フレーム(1)の前記画素ブロック(10)を複数のカテゴリに分割するように構成されたブロック分類器(143)と、
    前記複数のカテゴリの各カテゴリに対して、最も高いブロックアクティビティを有する画素ブロックを識別するように構成された画素ブロック識別器(145)と、
    前記画素ブロック識別器(145)により識別された前記画素ブロックに対して計算された前記アクティビティ値に基づいて、前記少なくとも1つのアクティビティ閾値を計算するように構成された閾値計算機(147)と
    を更に有することを特徴とする請求項22乃至24のいずれか1項に記載の装置。
  26. 前記画素ブロック(10)に割り当てられた前記各量子化パラメータ値に基づいて、前記フレームの前記画素ブロック(10)を複数のカテゴリに分割するように構成されたブロック分類器(143)と、
    前記複数のカテゴリの各々に属する前記フレーム(1)内の前記画素ブロック(10)の各割合を計算するように構成された割合計算機(149)と、
    前記割合計算機(149)により計算された前記各割合に基づいて、前記少なくとも1つのアクティビティ閾値を計算するように構成された閾値計算機(147)と
    を更に有することを特徴とする請求項22乃至24のいずれか1項に記載の装置。
  27. 前記歪み推定器(130)は、前記歪み表現Dを
    として計算するように構成される、
    ここで、pijは前記画素ブロック(10)内の画素位置i,jにおける画素値を示し、qijは画素位置i,jにおける参照画素値を示し、kijは前記画素ブロック(10)内の画素位置i,jにおけるサブグループ(30)の歪みの重みを示し、nは1以上の正数を示し、前記画素ブロック(10)がM×N個の画素(20)を含むとしている
    ことを特徴とする請求項17乃至26のいずれか1項に記載の装置。
  28. 前記歪み表現、前記画素ブロック(10)に割り当てられた量子化パラメータ値に基づいて前記画素ブロック(10)に対して選択されたラグランジュ乗数、並びに前記量子化パラメータに基づいて生成された前記画素ブロック(10)の符号化バージョンのビットコストを表すレート値に基づいて、前記画素ブロック(10)に対するレート歪み値を計算するように構成されたレート歪み計算機(150)を更に備えることを特徴とする請求項17乃至27のいずれか1項に記載の装置。
  29. 画素ブロック(10)を符号化するように構成され、且つ複数の使用可能な符号化モードの集合の各符号化モードに従って前記画素ブロックを疑似符号化するように構成された符号器(200)であって、
    前記レート歪み計算機(150)が前記複数の使用可能な符号化モードの各々に対するレート歪み値を計算するように構成される請求項28に記載の歪み表現を推定する装置(100)と、
    前記複数の使用可能な符号化モードの中から前記レート歪み値を最小化する符号化モードを選択するように構成されたモード選択器(270)とを備え、前記モード選択器(27)により選択された前記符号化モードに従って前記画素ブロック(10)を符号化することにより前記画素ブロック(10)の符号化バージョンを生成するように構成されることを特徴とする符号器(200)。
  30. 画素(20)から構成される複数のマクロブロックブロック(10)を含むフレーム(1)を符号化するように構成された符号器(200)であって、
    各マクロブロック(10)に対して、前記マクロブロック(10)に対する画素値の分布を表すマクロブロックアクティビティを計算するように構成されたブロックアクティビティ計算機(210)と、
    前記ブロックアクティビティ計算機(210)により計算された前記各マクロブロックアクティビティに基づいて、少なくとも低アクティビティマクロブロック又は高アクティビティマクロブロックとして前記複数のマクロブロック(10)を分類するように構成されたブロック分類器(220)と、
    各マクロブロック(10)に対して、前記ブロックアクティビティ計算機(210)により計算された前記ブロックアクティビティに基づいて量子化パラメータを選択し、低アクティビティマクロブロックとして分類されたマクロブロック(10)に小さい量子化パラメータ値を割り当て、高アクティビティマクロブロックとして分類されたマクロブロック(10)に前記小さい量子化パラメータ値より大きい量子化パラメータ値を割り当てるように構成された量子化選択器(240)と、
    前記複数のマクロブロック(10)の各マクロブロック(10)に対して:
    前記マクロブロック(10)内の複数のサブグループ(30)のうちの少なくとも1つの画素(20)から成る各サブグループ(30)に対して、複数の画素(20)を含み且つ前記サブグループ(30)を内包する近傍画素(40)内の画素値の分布を表すアクティビティ値を計算するように構成されたアクティビティ計算機(110)と、
    前記アクティビティ計算機(110)により計算された前記各アクティビティ値に基づいて低アクティビティサブグループ又は高アクティビティサブグループとして前記複数のサブグループ(30)の各々を分類するように構成されたサブグループ分類器(230)と、
    高アクティビティマクロブロック内の各低アクティビティサブグループに対して既定の定数より大きい歪みの重みを判定し且つ低アクティビティマクロブロック内の各サブグループ及び高アクティビティマクロブロック内の各高アクティビティサブグループに対して前記既定の定数に等しい歪みの重みを割り当てるように構成された重み判定器(120)と、
    複数の使用可能な符号化モードの集合のうち、ラグランジュコスト関数J=D+λ×Rを最小化する前記符号化モードを選択するように構成されたモード選択器(270)と、
    ここで、Dは、
    と等しい歪を示し、
    ijは前記マクロブロック(10)内の画素位置i,jにおける画素値を示し、qijは前記マクロブロック(10)内の画素位置i,jにおける再構成画素値を示し、kijは前記マクロブロック(10)内の画素位置i,jにおけるサブグループ(30)の歪みの重みを示し、nは1以上の正数を示し、λは前記マクロブロック(10)に対する前記量子化パラメータ値に基づいて前記マクロブロック(10)に対して選択されたラグランジュ乗数を示し、Rは前記マクロブロック(10)に対して前記量子化パラメータ値を使用する符号化モードに従って取得された前記マクロブロック(10)の符号化バージョンのビットコストを表すレート値を示しており、
    前記符号器は、前記モード選択器(270)により選択された前記符号化モードに従って前記マクロブロック(10)を符号化するように構成されることを特徴とする符号器(200)。
JP2012508433A 2009-04-28 2010-04-27 歪みの重み付け Expired - Fee Related JP5554831B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US17324709P 2009-04-28 2009-04-28
US61/173,247 2009-04-28
PCT/SE2010/050463 WO2010126437A1 (en) 2009-04-28 2010-04-27 Distortion weighing

Publications (2)

Publication Number Publication Date
JP2012525763A true JP2012525763A (ja) 2012-10-22
JP5554831B2 JP5554831B2 (ja) 2014-07-23

Family

ID=43032395

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012508433A Expired - Fee Related JP5554831B2 (ja) 2009-04-28 2010-04-27 歪みの重み付け

Country Status (6)

Country Link
US (1) US20120039389A1 (ja)
EP (1) EP2425628A4 (ja)
JP (1) JP5554831B2 (ja)
KR (1) KR20120006488A (ja)
CN (1) CN102415097B (ja)
WO (1) WO2010126437A1 (ja)

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN100566427C (zh) * 2007-07-31 2009-12-02 北京大学 用于视频编码的帧内预测编码最佳模式的选取方法及装置
KR101791078B1 (ko) * 2010-04-16 2017-10-30 에스케이텔레콤 주식회사 영상 부호화/복호화 장치 및 방법
JP2012213128A (ja) 2011-03-24 2012-11-01 Sony Corp 画像処理装置および方法
US20140254938A1 (en) * 2011-11-24 2014-09-11 Thomson Licensing Methods and apparatus for an artifact detection scheme based on image content
WO2014193631A1 (en) * 2013-05-31 2014-12-04 Intel Corporation Adjustment of intra-frame encoding distortion metrics for video encoding
US10104395B2 (en) * 2013-10-14 2018-10-16 Texas Instruments Incorporated Intra block copy (IntraBC) cost estimation
US10038904B2 (en) * 2013-10-25 2018-07-31 Mediatek Inc. Method and apparatus for controlling transmission of compressed picture according to transmission synchronization events
US10356405B2 (en) 2013-11-04 2019-07-16 Integrated Device Technology, Inc. Methods and apparatuses for multi-pass adaptive quantization
US20150208069A1 (en) * 2014-01-23 2015-07-23 Magnum Semiconductor, Inc. Methods and apparatuses for content-adaptive quantization parameter modulation to improve video quality in lossy video coding
TWI561060B (en) * 2015-01-15 2016-12-01 Mstar Semiconductor Inc Signal processing apparatus and signal processing method including quantization or inverse-quantization process
KR20180008471A (ko) * 2015-05-12 2018-01-24 삼성전자주식회사 영상의 부호화, 복호화 방법 및 장치
US10057601B2 (en) * 2015-06-22 2018-08-21 Integrated Device Technology, Inc. Methods and apparatuses for filtering of ringing artifacts post decoding
CN117041536A (zh) * 2017-11-01 2023-11-10 Vid拓展公司 用于简化视频译码中的自适应环路滤波器的方法
EP3547686A1 (en) * 2018-03-29 2019-10-02 InterDigital VC Holdings, Inc. Method and apparatus for decoder side prediction based on weighted distortion
US11997275B2 (en) 2018-08-27 2024-05-28 AT Technologies ULC Benefit-based bitrate distribution for video encoding
CN113596483B (zh) * 2021-08-20 2024-03-12 红河学院 一种编码树单元的参数确定方法及系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006005466A (ja) * 2004-06-15 2006-01-05 Toshiba Corp 画像符号化方法及び装置
JP2008283599A (ja) * 2007-05-14 2008-11-20 Nippon Telegr & Teleph Corp <Ntt> 符号化パラメータ選択方法,符号化パラメータ選択装置,符号化パラメータ選択プログラムおよびその記録媒体
JP2009021673A (ja) * 2007-07-10 2009-01-29 Nippon Telegr & Teleph Corp <Ntt> 符号化パラメータ決定方法、符号化パラメータ決定装置、符号化パラメータ決定プログラムおよびそのプログラムを記録したコンピュータ読み取り可能な記録媒体
JP2009182768A (ja) * 2008-01-31 2009-08-13 Nippon Telegr & Teleph Corp <Ntt> 動画像符号化方法,装置,プログラムおよびコンピュータ読み取り可能な記録媒体

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5229864A (en) * 1990-04-16 1993-07-20 Fuji Photo Film Co., Ltd. Device for regenerating a picture signal by decoding
JPH06502285A (ja) * 1990-11-16 1994-03-10 シーメンス アクチエンゲゼルシャフト ディジタル画像伝送におけるデータ圧縮のための適応形量子化方法
US5214507A (en) * 1991-11-08 1993-05-25 At&T Bell Laboratories Video signal quantization for an mpeg like coding environment
AU6099594A (en) * 1993-02-03 1994-08-29 Qualcomm Incorporated Interframe video encoding and decoding system
DE69428979T2 (de) * 1993-08-30 2002-08-08 Sony Corp., Tokio/Tokyo Einrichtung und verfahren zur kodierung von bilddaten
US5486863A (en) * 1994-04-29 1996-01-23 Motorola, Inc. Method for determining whether to intra code a video block
US6192081B1 (en) * 1995-10-26 2001-02-20 Sarnoff Corporation Apparatus and method for selecting a coding mode in a block-based coding system
US5742622A (en) * 1996-03-12 1998-04-21 Discovision Associates Error detection and correction system for a stream of encoded data
US6414994B1 (en) * 1996-12-18 2002-07-02 Intel Corporation Method and apparatus for generating smooth residuals in block motion compensated transform-based video coders
KR100243430B1 (ko) * 1997-12-31 2000-02-01 구자홍 적응형 양자화 제어방법
JP4144357B2 (ja) * 2001-03-28 2008-09-03 ソニー株式会社 画像処理装置、画像処理方法、画像処理プログラムおよび記録媒体
US7792188B2 (en) * 2004-06-27 2010-09-07 Apple Inc. Selecting encoding types and predictive modes for encoding video data
US7830961B2 (en) * 2005-06-21 2010-11-09 Seiko Epson Corporation Motion estimation and inter-mode prediction
US8325822B2 (en) * 2006-01-20 2012-12-04 Qualcomm Incorporated Method and apparatus for determining an encoding method based on a distortion value related to error concealment
GB2444991A (en) * 2006-12-21 2008-06-25 Tandberg Television Asa Method of selecting quantizer values in video compression systems
WO2008126135A1 (ja) * 2007-03-20 2008-10-23 Fujitsu Limited 動画像符号化方法及び装置並びに動画像復号装置
US8019804B2 (en) * 2007-03-26 2011-09-13 City University Of Hong Kong Method and apparatus for calculating an SSD and encoding a video signal
EP2227020B1 (en) * 2007-09-28 2014-08-13 Dolby Laboratories Licensing Corporation Video compression and transmission techniques

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006005466A (ja) * 2004-06-15 2006-01-05 Toshiba Corp 画像符号化方法及び装置
JP2008283599A (ja) * 2007-05-14 2008-11-20 Nippon Telegr & Teleph Corp <Ntt> 符号化パラメータ選択方法,符号化パラメータ選択装置,符号化パラメータ選択プログラムおよびその記録媒体
JP2009021673A (ja) * 2007-07-10 2009-01-29 Nippon Telegr & Teleph Corp <Ntt> 符号化パラメータ決定方法、符号化パラメータ決定装置、符号化パラメータ決定プログラムおよびそのプログラムを記録したコンピュータ読み取り可能な記録媒体
JP2009182768A (ja) * 2008-01-31 2009-08-13 Nippon Telegr & Teleph Corp <Ntt> 動画像符号化方法,装置,プログラムおよびコンピュータ読み取り可能な記録媒体

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
CSNG200600977007; 坂東 幸浩、外3名: '主観画質を考慮したH.264/AVCにおけるモード選択方法の検討' 情報処理学会研究報告 2006-AVM-54(7) オーディオビジュアル複合情報処理 第2006巻、第102号, 20060928, p.35-39, 社団法人 情報処理学会 *
JPN6010072351; 坂東 幸浩、外3名: '主観画質を考慮したH.264/AVCにおけるモード選択方法の検討' 情報処理学会研究報告 2006-AVM-54(7) オーディオビジュアル複合情報処理 第2006巻、第102号, 20060928, p.35-39, 社団法人 情報処理学会 *

Also Published As

Publication number Publication date
KR20120006488A (ko) 2012-01-18
WO2010126437A1 (en) 2010-11-04
CN102415097A (zh) 2012-04-11
US20120039389A1 (en) 2012-02-16
EP2425628A1 (en) 2012-03-07
EP2425628A4 (en) 2016-03-02
CN102415097B (zh) 2015-01-07
JP5554831B2 (ja) 2014-07-23

Similar Documents

Publication Publication Date Title
JP5554831B2 (ja) 歪みの重み付け
CN106254871B (zh) 对图像内容的编码单元进行编码或解码的方法与装置
JP5905613B2 (ja) 映像復号化装置
JP5890520B2 (ja) 画像の輝度成分を用いて画像の色差成分を予測する方法及び予測装置
TWI608728B (zh) Image decoding device, image decoding method, image coding device, image coding method, coding data
CN113273213A (zh) 图像编码/解码方法和设备以及存储比特流的记录介质
CN114830651A (zh) 帧内预测方法、编码器、解码器以及计算机存储介质
JP4748603B2 (ja) 動画像符号化装置
US20170310998A1 (en) Image Processing Method and Apparatus
Najafabadi et al. Mass center direction-based decision method for intraprediction in HEVC standard
KR20110067539A (ko) 화면 내 예측 부호화/복호화 방법 및 장치
KR20190062284A (ko) 인지 특성에 기반한 영상 처리 방법 및 장치
KR20180090971A (ko) 영상 부호화 방법 및 장치
JP2010041191A (ja) 画像符号化方法及び画像符号化装置
JP5299328B2 (ja) 画像処理装置および画像処理方法
WO2022077490A1 (zh) 一种帧内预测方法、编码器、解码器及存储介质
KR101926017B1 (ko) 계층적 부호화 단위의 크기에 따른 비디오 부호화 방법과 그 장치, 및 비디오 복호화 방법과 그 장치
KR101761278B1 (ko) 영상 복호화 방법 및 장치
KR20150090010A (ko) 영상의 부호화 방법 및 장치, 영상 복호화 방법 및 장치
KR101662742B1 (ko) 계층적 부호화 단위의 크기에 따른 비디오 부호화 방법과 그 장치, 및 비디오 복호화 방법과 그 장치
KR101687283B1 (ko) 계층적 부호화 단위의 크기에 따른 비디오 부호화 방법과 그 장치, 및 비디오 복호화 방법과 그 장치
KR101538921B1 (ko) 계층적 부호화 단위의 크기에 따른 비디오 부호화 방법과 그 장치, 및 비디오 복호화 방법과 그 장치
KR20160144952A (ko) 계층적 부호화 단위의 크기에 따른 비디오 부호화 방법과 그 장치, 및 비디오 복호화 방법과 그 장치
KR101886259B1 (ko) 영상 부호화 방법 및 장치, 및 부호화된 비트스트림을 포함하는 기록 매체
KR101538920B1 (ko) 계층적 부호화 단위의 크기에 따른 비디오 부호화 방법과 그 장치, 및 비디오 복호화 방법과 그 장치

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130327

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131105

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20131220

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20140106

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140501

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140526

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140529

R150 Certificate of patent or registration of utility model

Ref document number: 5554831

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150413

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees