JP3308921B2 - 映像データループフィルタリング方法及び装置 - Google Patents

映像データループフィルタリング方法及び装置

Info

Publication number
JP3308921B2
JP3308921B2 JP1362899A JP1362899A JP3308921B2 JP 3308921 B2 JP3308921 B2 JP 3308921B2 JP 1362899 A JP1362899 A JP 1362899A JP 1362899 A JP1362899 A JP 1362899A JP 3308921 B2 JP3308921 B2 JP 3308921B2
Authority
JP
Japan
Prior art keywords
block
filtering
pixel
ringing
flag
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP1362899A
Other languages
English (en)
Other versions
JP2000059769A (ja
Inventor
英烈 李
玄旭 朴
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Korea Advanced Institute of Science and Technology KAIST
Original Assignee
Samsung Electronics Co Ltd
Korea Advanced Institute of Science and Technology KAIST
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from KR1019980031431A external-priority patent/KR100301013B1/ko
Priority claimed from KR1019980046822A external-priority patent/KR100331331B1/ko
Application filed by Samsung Electronics Co Ltd, Korea Advanced Institute of Science and Technology KAIST filed Critical Samsung Electronics Co Ltd
Publication of JP2000059769A publication Critical patent/JP2000059769A/ja
Application granted granted Critical
Publication of JP3308921B2 publication Critical patent/JP3308921B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117—Filters, e.g. for pre-processing or post-processing
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/162—User input
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/436—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation using parallelised computational arrangements
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46—Embedding additional information in the video signal during the compression process
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H04N19/82—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

【発明の詳細な説明】
【０００１】
【発明の属する技術分野】本発明は、映像データ処理に
係り、特に、量子化効果を低減させるための映像データ
ループフィルタリング方法及び装置に関する。
【０００２】
【従来の技術】一般に、国際標準化機構（Internationa
l Organization for Standardization:ＩＳＯ）のＭＰ
ＥＧ及びＩＴＵ（International Telecommunication Un
ion）のＨ．２６３を含む大部分の画像符号化標準はブ
ロックに基づく動き推定及びブロック離散余弦変換（Di
screte Cosine Transform：ＤＣＴ）処理を使用する。
また大部分のビデオ符号化標準は、情報を小さい数の変
換係数にパックキングするために、８×８画素ブロック
単位のＤＣＴを使用する。このブロックに基づくＤＣＴ
スキームは、映像の局部的な空間相関性質を利用してい
る。
【０００３】しかし乍ら、このブロックに基づき符号化
された映像データを復元すると、ブロック境界近傍のブ
ロッキングアーチファクト（blocking artifacts）、ブ
ロックのクロスポイントにおけるコーナー異常値（corn
er outlier）及び映像エッジ近傍のリンギングノイズ
（ringing noise）等かなりの映像劣化がもたらされ
る。というのは、映像データを８×８画素ブロック単位
にＤＣＴ変換し、前記変換された係数を量子化するため
である。特に、イメージが高圧縮されている時は一層そ
うである。
【０００４】前記ブロッキングアーチファクトは、相対
的に類似した等質領域でのブロック境界に従い発生する
グリッドノイズである。前記グリッドノイズは、圧縮さ
れたデータが復元され画面上にディスプレーされる際
に、ブロックに基づき処理した痕跡がブロック間の縁部
に見られ、これを見る人がブロック間の縁部であること
をすぐ分かってしまう。そして前記コーナー異常値は８
×８ブロックが合うコーナーポイントで発生する。また
前記リンギングノイズは映像を高圧縮するために、前記
ＤＣＴの高周波成分の係数を量子化による切り捨てをす
ることにより発生する典型的なギブズ（Gibb's）現象で
あって、映像がやや間をおいて多数枚重なって現れるよ
うに感じさせる問題を招く。
【０００５】ブロックに基づく符号化により発生する前
記ブロッキングアーチファクト、コーナー異常値及びリ
ンギングノイズを減少させるためのいくつかの方法が提
案されている。［Y.L.Lee, H.C.Kim, and H.W.Park, "B
locking Effect Reduction of JPEG images by Signal
Adaptive Filtering", in press IEEE Trans. on Image
Processing, 1997］，［B. Ramamurthi and A.Gersho,
"Nonlinear Space Variant Postprocessing of Block
Coded Images", IEEE Tans on ASSP, vol.34,no.5, pp1
258-1267, 1986］，［Y.Ynag, N.Galatsanos and A.Kat
saggelos, "Projection-Based Spatially Adaptive Rec
onstruction of Block-Transform Compressed Images,"
IEEE trans. on Image Processing, vol.4, no.7, pp 8
96-908,July 1995］，および［Z.Xiong, M.T.Orchard,
and Y.Q.Zhang, "A DeblockingAlgorithm for JPEG Com
pressed Images Using Overcomplete Wavelet Represen
tations, "IEEE Trans. Circuits Syst. Video Techno
l.,vol.7, no.2, pp 433-437, 1997］中でも、ＪＰＥＧ
−圧縮解除映像の量子化効果を低減させるために、２次
元信号適応フィルタリング（Signal-Adaptive Filterin
g：ＳＡＦ）が提案されている。［Y.L.Lee, H.C.Kim, a
nd H.W.Park, "Blocking Effect Reduction of JPEG im
ages by Signal Adaptive Filtering", in press IEEE
Trans. onImage Processing, 1997］またブロッキング
アーチファクトを減少させるために２次元フィルターを
用い、階段ノイズの低減のためには１次元フィルターを
用いたRamamurthi及びGershoの方法［B.Ramamurthi and
A.Gersho,"Nonlinear Space Variant Postprocessing
of Block Coded Images", IEEE Tans on ASSP,vol.34,n
o.5,pp1258-1267, 1986］は良好な効果をもたらしたこ
ともある。また凸状集合への写像（projections onto c
onvex sets：ＰＯＣＳ）論理を用いた反復的な映像復旧
のアルゴリズムも提案されている。［Y.Ynag,N.Galatsa
nos and A.Katsaggelos,"Projection-Based Spatially
Adaptive Reconstruction of Block-Transform Compres
sed Images,"IEEE trans. on Image Processing,vol.4,
no.7,pp 896-908,July 1995］ しかし乍ら、これらの方法は計算が複雑であるといった
欠点がある。
【０００６】
【発明が解決しようとする課題】本発明は上記事情に鑑
みて成されたものであり、その目的は、ブロックに基づ
く映像データの復号化の際にブロッキングアーチファク
ト、コーナー異常値及びリンギングノイズなどの量子化
効果を低減するために、計算が複雑でないほか、低いビ
ット率の符号化が可能な映像データループフィルタリン
グ方法及び装置を提供することにある。
【０００７】
【課題を解決するための手段】前記技術的課題を解決す
るために、本発明に係る量子化効果の低減のための映像
データループフィルタリング方法は、映像データのエン
コーディング及びデコーディング時に発生する量子化効
果の低減のためのループフィルタリング方法において、
逆量子化された映像データの逆量子化係数の分布及び前
フレームと現フレームとの差を示す動きベクトルを用
い、前記映像データのループフィルタリングの必要性可
否を示すフラグを抽出するフラグ抽出段階と、前記抽出
されたフラグがループフィルタリングが必要有りを示せ
ば、前記フラグに相応する映像データを所定の方法によ
りフィルタリングするフィルタリング段階とを含むこと
を特徴とする。
【０００８】前記フラグ抽出は、前記ループフィルタリ
ングしようとする映像フレームがイントラフレームであ
れば、各ブロックの離散余弦変換（ＤＣＴ）ドメインか
ら抽出し、前記ループフィルタリングしようとする映像
フレームがインターフレームであれば、残差信号及び基
準フレームのフラグから抽出することを特徴とする。
【０００９】前記フラグは、ブロック境界近傍のブロッ
キングアーチファクトを減少させる必要性の可否を示す
ブロッキングフラグと、映像エッジ近傍のリンギングノ
イズを減少させる必要性の可否を示すリンギングフラグ
とよりなる。
【００１０】前記映像データがイントラフレームの場
合、前記イントラフレームのブロッキングフラグは、水
平ブロッキングフラグ（ＨＢＦ）及び垂直ブロッキング
フラグ（ＶＢＦ）よりなる。前記イントラフレームの水
平及び垂直ブロッキングフラグ抽出は、前記圧縮された
映像データが逆量子化された後に、前記逆量子化された
８×８ブロックに対するＤＣＴ係数を求める段階と、前
記８×８ブロックを成す６４個の画素の内前記ブロック
の最上及び最左側に位置したＤＣＴ係数（ＤＣ成分）を
Ｕとし、前記ＤＣＴ係数Ｕのすぐ右側のＤＣＴ係数を
Ｖ、前記ＤＣＴ係数Ｕの真下のＤＣＴ係数をＷとすると
き、前記ＤＣＴ係数Ｕのみが‘０’でない値を有する
と、前記ＨＢＦ及びＶＢＦをループフィルタリングする
必要ありを示す情報‘１’にセットする段階と、前記逆
量子化された８×８ブロックの最上位行のみが‘０’で
ない値を有するＤＣＴ係数を含んでいる時、ＶＢＦをル
ープフィルタリングが必要ありを示す情報‘１’にセッ
トする段階と、前記逆量子化された８×８ブロックの最
左側のカラムのみが‘０’でない値を有するＤＣＴ係数
を含んでいる時、ＨＢＦをループフィルタリングが必要
ありを示す情報‘１’にセットする段階とを含むことを
特徴とする。
【００１１】前記イントラフレームのリンギングフラグ
抽出は、前記８×８ブロックを成す６４個の画素の内前
記ブロックの最上、最左側に位置したＤＣＴ係数（ＤＣ
成分）をＵとし、前記ＤＣＴ係数Ｕのすぐ右側のＤＣＴ
係数をＶ、かつ前記ＤＣＴ係数Ｕの真下のＤＣＴ係数を
Ｗとするとき、前記逆量子化された８×８ブロックのＤ
ＣＴ係数Ｕ，Ｖ及びＷ以外の位置に何れか一つさえ
‘０’でない係数値を有する時、リンギングフラグＲＦ
をループフィルタリングが必要ありを示す情報‘１’に
セットすることを特徴とする。
【００１２】現インターフレームのブロッキングフラグ
は、水平ブロッキングフラグ及び垂直ブロッキングフラ
グよりなり、前記現インターフレームのブロックＡｃに
対する水平及び垂直ブロッキングフラグ抽出は、基準フ
レームが所定の基準ブロックよりなり、前記現インター
フレームのブロックＡｃの動きベクトル（ＭＶｘ，ＭＶ
ｙ）により推定される基準フレームのブロックを動きブ
ロックＸとするとき、前記動きブロックＸが前記基準ブ
ロックと重なった度合いを調べる段階と、重なった画素
数が所定個数以上である基準ブロックのＨＢＦ及びＶＢ
Ｆをビット別に論理積演算する段階と、前記演算の結果
を現ＶＯＰ（Video Object Plane）のブロックＡｃの水
平及び垂直ブロッキングフラグにセットすることを特徴
とする。
【００１３】前記現インターフレームのブロックＡｃに
対する水平及び垂直ブロッキングフラグ抽出は、現マク
ロブロックがその動きベクトルの０であるスキップされ
たマクロブロックであれば、基準マクロブロックのブロ
ッキングフラグを現マクロブロックのブロッキングフラ
グにセットする段階をさらに具備することが好ましい。
【００１４】前記現インターフレームのブロックＡｃに
対する水平及び垂直ブロッキングフラグ抽出は、先ず基
準ブロックのブロッキングフラグを複写してパッディン
グをする段階をさらに具備することが好ましい。
【００１５】映像フレームがインターフレームの場合、
現インターフレームのブロックＡｃに対するリンギング
フラグ抽出は、インターブロックの８×８ブロックにお
ける残差信号の逆量子化係数ＩＱＣのＡＣ成分のいずれ
か一つさえ‘０’でなければ、現ブロックＡｃのリンギ
ングフラグＲＦを‘１’にセットし、前記ＩＱＣのＡＣ
成分がいずれも‘０’であれば、ＲＦを‘０’にする段
階と、マクロブロックＭＢに対する動きベクトルを伝達
する８×８予測モードが現ブロックに使用されると、Ｒ
Ｆを‘１’にセットする段階とよりなることを特徴とす
る。
【００１６】前記映像データがインターフレームの場
合、前記インターフレームのリンギングフラグは、第１
リンギングフラグＲＦ０及び第２リンギングフラグＲＦ
１よりなる。現インターフレームのブロックＡｃに対す
る前記第１リンギングフラグＲＦ０及び第２リンギング
フラグＲＦ１の抽出は、インターマクロブロックの８×
８ブロックにおいて残差信号の逆量子化係数ＩＱＣのＤ
Ｃ成分のみが‘０’でなければ、現ブロックＡｃの第１
リンギングフラグＲＦ０を‘１’にセットし、そうでな
ければＲＦ０を０にする段階と、インターフレームの８
×８ブロックにおける残差信号の逆量子化係数ＩＱＣの
ＡＣ成分のいずれか一つさえ‘０’でなければ、現ブロ
ックＡｃの第２リンギングフラグＲＦ１を‘１’にセッ
トし、そうでなければＲＦ１を‘０’にする段階とより
なる。
【００１７】前記フィルタリング段階のフィルタリング
は、ループフィルタリングしようとするフレームを成し
ている所定ブロックをブロックＩとし、前記ブロックＩ
と隣接したブロックをブロックＪとするとき、前記ブロ
ックＩに関し、現ブロックと逆量子化された前ブロック
との差が所定の値以下であり、前記ブロックＪに関し、
現ブロックと逆量子化された前ブロックとの差が所定の
値以下であれば、デブロッキングフィルタリングを行わ
ないことを特徴とする。
【００１８】ブロッキングアーチファクトを減少させる
ためのデブロッキングフィルタリングは、ループフィル
タリングしようとするフレームを成している所定ブロッ
クをブロックＩとし、前記ブロックＩと隣接したブロッ
クをブロックＪとするとき、ブロックＩ及びブロックＪ
のリンギングフラグＲＦが共にリンギングノイズを減少
させる必要無しを示し、ブロックＩのＨＢＦとブロック
ＪのＨＢＦが共にブロッキングアーチファクトを減少さ
せる必要有りを示せば、前記ブロックＩとブロックＪを
仕切る水平ブロック境界線を介在した所定個数の画素値
を変化させる第１フィルタリングを行う段階と、ブロッ
クＩ及びブロックＪのリンギングフラグＲＦ共にリンギ
ングノイズを減少させる必要無しを示し、ブロックＩの
ＨＢＦとブロックＪのＨＢＦのいずれか一方でもブロッ
キングアーチファクトを減少させる必要無しを示せば、
あるいはブロックＩ及びブロックＪのリンギングフラグ
ＲＦの内少なくともいずれか一方がリンギングノイズを
減少させる必要有りを示せば、ブロック境界線を挟んで
隣接した二画素の差とＩＴＵ−Ｔ ＤＲＡＦＴ Ｈ．２
６３の規格に基づいて（以下「Ｈ．２６３の」と略称す
る）量子化された要素であるＱＰとを比較し、二画素の
差がＱＰより小さければ、前記第１フィルタリングより
小さい個数の画素値を変化させる第２フィルタリングを
行う段階とよりなることを特徴とする。
【００１９】ブロッキングアーチファクトを減少させる
ためのデブロッキングフィルタリングは、ブロックＩの
リンギングフラグＲＦがリンギングノイズを減少させる
必要無しを示し、ブロックＩがイントラ若しくはブロッ
クＪがイントラであり、ブロックＩのＨＢＦとブロック
ＪのＨＢＦが共にブロッキングアーチファクトを減少さ
せる必要有りを示せば、前記ブロックＩとブロックＪと
を仕切る水平ブロック境界線を介在した所定個数の画素
値を変化させる第１フィルタリングを行う段階と、ブロ
ックＩのリンギングフラグＲＦがリンギングノイズを減
少させる必要無しを示し、ブロックＩがイントラ若しく
はブロックＪがイントラであり、ブロックＩのＨＢＦと
ブロックＪのＨＢＦのいずれか一方でもブロッキングア
ーチファクトを減少させる必要無しを示せば、水平ブロ
ック境界線を挟んで隣接した二画素の差とＨ．２６３の
量子化された要素であるＱＰとを比較し、二画素の差が
ＱＰより小さければ、前記第１フィルタリングより小さ
い個数の画素値を変化させる第２フィルタリングを行う
段階と、ブロックＩのリンギングフラグＲＦがリンギン
グノイズを減少させる必要無しを示し、ブロックＩ及び
ブロックＪが共にイントラでなく、ブロックＩまたはブ
ロックＪの残差信号のＩＱＣのＤＣ成分が存在し、ブロ
ックＩ及びブロックＪが共にＨＢＦが‘１’であれば、
第１フィルタリングを行う段階と、ブロックＩのリンギ
ングフラグＲＦがリンギングノイズを減少させる必要無
しを示し、ブロックＩ及びブロックＪが共にイントラで
なく、ブロックＩまたはブロックＪの残差信号のＩＱＣ
のＤＣ成分が存在し、ブロックＩ及びブロックＪの内少
なくともいずれか一方のＨＢＦが‘０’を示せば、第２
フィルタリングを行う段階と、前記ブロックＩのＲＦが
リンギングノイズを減少させる必要有りを示せば、第２
フィルタリングを行う段階とよりなることを特徴とす
る。
【００２０】ブロッキングアーチファクトを減少させる
ためのデブロッキングフィルタリングは、ブロックＩの
第２リンギングフラグＲＦ１がリンギングノイズを減少
させる必要無しを示し、ブロックＩがイントラ若しくは
ブロックＪがイントラであり、ブロックＩのＨＢＦとブ
ロックＪのＨＢＦが共にブロッキングアーチファクトを
減少させる必要有りを示せば、前記ブロックＩとブロッ
クＪとを仕切る水平ブロック境界線を介在した所定個数
の画素値を変化させる第１フィルタリングを行う段階
と、ブロックＩの第２リンギングフラグＲＦ１がリンギ
ングノイズを減少させる必要無しを示し、ブロックＩが
イントラ若しくはブロックＪがイントラであり、ブロッ
クＩのＨＢＦとブロックＪのＨＢＦの内いずれか一方で
もブロッキングアーチファクトを減少させる必要無しを
示せば、水平ブロック境界線を挟んで隣接した二画素の
差とＨ．２６３の量子化された要素であるＱＰとを比較
し、二画素の差がＱＰより小さければ前記第１フィルタ
リングより小さい個数の画素値を変化させる第２フィル
タリングを行う段階と、ブロックＩの第２リンギングフ
ラグＲＦ１がリンギングノイズを減少させる必要無しを
示し、ブロックＩ及びブロックＪが共にイントラでな
く、ブロックＩ及びブロックＪの内少なくともいずれか
一方のＲＦ０が１であり、ブロックＩ及びブロックＪの
ＨＢＦが共に‘１’であれば、第１フィルタリングを行
う段階と、ブロックＩの第２リンギングフラグＲＦ１が
リンギングノイズを減少させる必要無しを示し、ブロッ
クＩ及びブロックＪが共にイントラでなく、ブロックＩ
及びブロックＪの内少なくともいずれか一方のＲＦ０が
１であり、ブロックＩ及びブロックＪのＨＢＦの内少な
くともいずれか一方が‘１’でなければ、第２フィルタ
リングを行う段階と、前記ブロックＩのＲＦ１が‘０’
でなければ、第２フィルタリングを行う段階とよりなる
ことを特徴とする。
【００２１】前記第１フィルタリングは、前記ブロック
ＩとブロックＪとを仕切るブロック境界線を介在した６
個の画素をＡ，Ｂ，Ｃ，Ｄ，Ｅ及びＦとし、前記画素Ｃ
及びＤを前記ブロック境界線に最も隣接した画素、前記
画素Ａ及びＦがブロック境界線から最も遠い画素、前記
画素Ｂ及びＤが前記Ａ及びＣ，Ｄ及びＦの中間に位置し
た画素とするとき、前記６個の画素に対し７−タブ
（１，１，１，２，１，１，１）ローパスフィルタリン
グを行う。
【００２２】前記第２フィルタリングは、前記画素Ｃ及
びＤに対しフィルタリングを行うが、前記画素Ｃ及びＤ
の差の絶対値がＨ．２６３の量子化要素ＱＰより小さけ
れば、ＣはＣ＋（Ｄ−Ｃ）／４に、ＤはＤ＋（Ｄ−Ｃ）
／４に置き換えることを特徴とする。
【００２３】前記フィルタリング段階におけるリンギン
グノイズを減少させるデリンギングフィルタリングは、
リンギングフラグがデリンギングフィルタリングが必要
有りを示すかどうかを検査し、デリンギングフィルタリ
ングが必要有りを示せばデリンギングフィルタリングを
行い、そうでなければデリンギングフィルタリングを行
わないことを特徴とし、映像データの水平エッジ及び垂
直エッジを検出するエッジ検出段階と、リンギングノイ
ズを減少させようとする８×８ブロックに対し２次元信
号適応フィルタリングをする信号適応フィルタリング段
階とよりなる。
【００２４】前記エッジ検出段階の水平エッジ検出は、
画素［ｍ］［ｎ］、前記画素［ｍ］［ｎ］の右側の画素
を画素［ｍ］［ｎ＋１］、左側の画素を画素［ｍ］［ｎ
−１］、前記画素［ｍ］［ｎ］と画素［ｍ］［ｎ＋１］
との差をＡ１、前記画素［ｍ］［ｎ］と画素［ｍ］［ｎ
−１］との差をＡ２、Ｈ．２６３の量子化要素をＱＰと
するとき、条件式（（Ａ１＞ＱＰ）ａｎｄ（Ａ２＞Ｑ
Ｐ））ｏｒ（Ａ１＞２ＱＰ）ｏｒ（Ａ２＞２ＱＰ）を満
足すれば、エッジとして検出され、エッジ［ｍ］［ｎ］
＝１となる。前記エッジ検出段階の垂直エッジ検出は、
画素［ｍ］［ｎ］、前記画素［ｍ］［ｎ］の上方の画素
を画素［ｍ＋１］［ｎ］、下方の画素を画素［ｍ−１］
［ｎ］、前記画素［ｍ］［ｎ］と画素［ｍ＋１］［ｎ］
との差をＡ’１、前記画素［ｍ］［ｎ］と画素［ｍ−
１］［ｎ］との差をＡ’２、Ｈ．２６３の量子化要素を
ＱＰとするとき、条件式（（Ａ’１＞ＱＰ）ａｎｄ
（Ａ’２＞ＱＰ））ｏｒ（Ａ’１＞２ＱＰ）ｏｒ（Ａ’
２＞２ＱＰ）を満足すれば、エッジとして検出され、エ
ッジ［ｍ］［ｎ］＝‘１’となる。前記信号適応フィル
タリング段階は、４−コネクティッドフィルターウィン
ドウ（4-connected filter window）を前記８×８ブロ
ックに対し適用して、前記フィルターウィンドウの中心
画素がエッジであればフィルタリングを行わず、前記フ
ィルターウィンドウの中心画素がエッジでなければ加重
フィルタリングを行う。
【００２５】前記フィルタリング段階におけるリンギン
グノイズを減少させるデリンギングフィルタリングの遂
行成否は、前記ブロックＩに関し、現ブロックと逆量子
化された前ブロックとの差が所定の値以下であり、前記
ブロックＪに関し、現ブロックと逆量子化された前ブロ
ックとの差が所定の値以下であれば、デリンギングフィ
ルタリングを行わないことを特徴とする。
【００２６】また前記フィルタリング段階におけるリン
ギングノイズを減少させるデリンギングフィルタリング
の遂行成否は、ブロックＩのリンギングフラグがデリン
ギングフィルタリングが必要有り示すかどうかを検査
し、デリンギングフィルタリングが必要有りを示せばデ
リンギングフィルタリングを行い、そうでなければフィ
ルタリングを行わないことを特徴とする。
【００２７】また前記フィルタリング段階におけるリン
ギングノイズを減少させるデリンギングフィルタリング
の遂行成否は、ブロックＩがイントラブロックであれば
デリンギングフィルタリングを行う段階と、前記ブロッ
クＩがイントラブロックでなく、８×８予測モードを使
用したブロックであれば、デリンギングフィルタリング
を行う段階と、前記ブロックＩがイントラブロックでな
く、８×８予測モードを使用したブロックでなく、ブロ
ックＩのＲＦ１がデリンギングフィルタリングが必要有
りを示せばデリンギングフィルタリングを行い、ブロッ
クＩのＲＦ１がデリンギングフィルタリングが必要無し
を示せばデリンギングフィルタリングを行わない段階と
よりなることを特徴とする。
【００２８】前記デリンギングフィルタリングは、映像
データの水平エッジ及び垂直エッジを検出するエッジ検
出段階と、リンギングノイズを減少させようとする８×
８ブロックに対し２次元信号適応フィルタリングをする
信号適応フィルタリング段階とよりなる。前記エッジ検
出段階の水平エッジ検出は、画素［ｍ］［ｎ］、前記画
素［ｍ］［ｎ］の右側の画素を画素［ｍ］［ｎ＋１］、
左側の画素を画素［ｍ］［ｎ−１］、前記画素［ｍ］
［ｎ］と画素［ｍ］［ｎ＋１］との差をＡ１、前記画素
［ｍ］［ｎ］と画素［ｍ］［ｎ−１］との差をＡ２、
Ｈ．２６３の量子化要素をＱＰとするとき、条件式
（（Ａ１＞ＱＰ）ａｎｄ（Ａ２＞ＱＰ））ｏｒ（Ａ１＞
２ＱＰ）ｏｒ（Ａ２＞２ＱＰ）を満足すれば、エッジと
して検出され、エッジ［ｍ］［ｎ］＝１となる。前記エ
ッジ検出段階の垂直エッジ検出は、画素［ｍ］［ｎ］、
前記画素［ｍ］［ｎ］の上方の画素を画素［ｍ＋１］
［ｎ］、下方の画素を画素［ｍ−１］［ｎ］、前記画素
［ｍ］［ｎ］と画素［ｍ＋１］［ｎ］との差をＡ’１、
前記画素［ｍ］［ｎ］と画素［ｍ−１］［ｎ］との差を
Ａ’２、Ｈ．２６３の量子化要素をＱＰとするとき、条
件式（（Ａ’１＞ＱＰ）ａｎｄ（Ａ’２＞ＱＰ））ｏｒ
（Ａ’１＞２ＱＰ）ｏｒ（Ａ’２＞２ＱＰ）を満足すれ
ば、エッジとして検出され、エッジ［ｍ］［ｎ］＝
‘１’となる。前記信号適応フィルタリング段階は、４
−コネクティッドフィルターウィンドウを前記８×８ブ
ロックに対し適用して、前記フィルターウィンドウの中
心画素がエッジであればフィルタリングを行わず、前記
フィルターウィンドウの中心画素がエッジでなければ加
重フィルタリングを行う。
【００２９】前記本発明に係るループフィルタリング方
法は、映像データをブロックに基づきエンコーディング
及びデコーディングする際に、ブロック４つが会うクロ
スポイントのコーナーで発生するコーナー異常値を低減
させるために、逆量子化された前記映像データの８×８
ブロックのコーナー異常値を検出する検出段階と、前記
検出されたコーナー異常値を補償する補償段階とをさら
に具備することを特徴とする。
【００３０】前記検出段階は、前記クロスポイントを中
心とした４つの画素を画素Ａ，Ｂ，Ｃ及びＤとし、Ａ，
Ｂ，Ｃ，及びＤの各画素値をａ，ｂ，ｃ，ｄとし、平均
値Ａｖｅｒａｇｅ＝（ａ＋ｂ＋ｃ＋ｄ＋２）／４とお
き、各画素値とＡｖｅｒａｇｅとの差をＨ．２６３の量
子化要素ＱＰと比較して、前記差がＱＰより大きけれ
ば、コーナー異常値候補画素の個数を累積してコーナー
異常値を検出する。
【００３１】前記補償段階は、前記Ａの属するブロック
において前記Ａと隣り合う画素をＡ1，Ａ2とし、前記画
素Ａと対角線に位置する画素をＡ3とし、その画素値を
各々ａ1，ａ2及びａ3とするとき、前記検出段階で検出
されたコーナー異常値候補が一つで、該画素がＡであれ
ば、前記ａとａ3との差が３ＱＰ／２より小さければ、
コーナー異常値補償は次式
【００３２】
【数３】
【００３３】のようになり、前記コーナー異常値候補画
素数が二つ以上であれば、（ａ3＋ｂ3＋ｃ3＋ｄ3＋２）
／４（ここで、ｂ3，ｃ3，ｄ3もａ3と同様の方式で定義
される）から最大の差を有する候補が選ばれ、該補償は
前記一つの候補の場合でのような方法で行われる。
【００３４】本発明に係る映像データループフィルタリ
ング装置は、映像データをブロックに基づきエンコーデ
ィング及びデコーディングする際に発生する量子化効果
を低減させるための映像データループフィルタリング装
置において、映像データの逆量子化係数の分布及び前フ
レームと現フレームとの差を示す動きベクトルを用い、
映像データのループフィルタリング必要性の可否を示す
フラグを抽出するフラグ抽出部と、前記フラグ抽出部で
抽出されたブロッキングフラグを検査して、前記映像デ
ータをデブロッキングフィルタリングするデブロッキン
グフィルターと、前記デブロッキングフィルタリングさ
れたデータの内コーナー異常値を検出して補償するコー
ナー異常値補償部と、前記フラグ抽出部で抽出されたリ
ンギングフラグを検査して、前記コーナー異常値補償さ
れたデータをデリンギングフィルタリングするデリンギ
ングフィルターとを含むことを特徴とする。
【００３５】前記フラグは、ブロック境界近傍のブロッ
キングアーチファクトを減少させる必要性の有無を示す
ブロッキングフラグと、映像エッジ近傍のリンギングノ
イズを減少させる必要性の有無を示すリンギングフラグ
とよりなる。
【００３６】
【発明の実施の形態】以下、添付された図面に基づき本
発明の望ましい実施形態を詳細に説明する。図１は映像
データをブロックに基づき符号化及び復号化する際に発
生する量子化効果の低減のための映像データループフィ
ルタリング装置１０の構成を示すブロック図である。前
記ループフィルタリング装置１０は、一般の復号化器及
び復号化器に結ばれて使用される。本発明に係る前記映
像データループフィルタリング装置１０は、フラグ抽出
部１００、デブロッキングフィルター１１０、コーナー
異常値補償部１２０及びデリンギングフィルター１３０
を含んでなる。前記フラグ抽出部１００は、逆量子化さ
れた前記映像データの逆量子化係数ＩＱＣの分布及び前
フレームと現フレームとの差を示す動きベクトルを用い
てフラグを抽出する。
【００３７】前記フラグは、復号化された映像のループ
フィルタリング必要性の有無を示す情報であって、ブロ
ッキングフラグとリンギングフラグとに類別される。前
記ブロッキングフラグは、ブロック境界近傍のブロッキ
ングアーチファクトを減少させる必要性の有無を示し、
前記リンギングフラグは映像エッジ近傍のリンギングノ
イズを減少させる必要性の有無を示す。そして前記ブロ
ッキングフラグは、水平ブロック境界線を基準として隣
接したブロックの画素に対するループフィルタリングの
成否を示す水平ブロッキングフラグ（Horizontal Block
ing Flag：ＨＢＦ）及び垂直ブロック境界線を基準とし
て隣接したブロックの画素に対するループフィルタリン
グの成否を示す垂直ブロッキングフラグ（Vertical Blo
cking Flag：ＶＢＦ）よりなる。
【００３８】また、前記フラグ抽出は、イントラフレー
ム及びインターフレームに対して抽出する。本発明で
は、前記インターフレームはＰフレーム及びＰＢフレー
ムとする。前記イントラフレームに対するフラグ抽出
は、逆量子化された前記映像データの逆量子化係数の分
布を利用する。前記インターフレームに対するフラグ抽
出は前フレームと現フレームとの差を示す動きベクトル
を用いるが、さらなる詳細は後述する。
【００３９】前記デブロッキングフィルター１１０は、
一次元水平及び垂直ローパスフィルター（ＬＰＦ）を使
用して、前記フラグ抽出部１００で抽出されたブロッキ
ングフラグを検査して、映像データをデブロッキングフ
ィルタリングする。前記異常値補償部１２０は、前記デ
ブロッキングフィルター１１０でデブロッキングフィル
タリングされたデータの内コーナー異常値を検出して補
償する。前記デリンギングフィルター１３０は、二次元
信号適応フィルターを用い前記フラグ抽出部１００で抽
出されたリンギングフラグを検査して、前記コーナー異
常値補償されたデータをデリンギングフィルタリングす
る。
【００４０】本発明に係る映像データループフィルタリ
ング方法の基本概念は、映像データに関し、空間周波数
（spatial frequency）及び時間情報（temporal inform
ation）を使用することにより適応的に量子化効果を低
減するものである。
【００４１】また、主観的な画質、ＰＳＮＲ（peak sig
nal-to-noise ratio）及び計算の複雑性を考慮してい
る。特に、ソフトウェア及びハードウェアにて前記基本
概念を具現する際、計算の複雑性は極めて重要な決定要
素となる。８×８ブロックごとにブロッキングアーチフ
ァクトとリンギングノイズのフラグを抽出するために、
周波数領域と動きベクトルにおける逆量子化係数の分布
が調べられる。ブロッキングフラグ及びリンギングフラ
グを使用することにより、１次元ＬＰＦと２次元ＳＡＦ
が８×８ブロックごとに適応的に適用される。
【００４２】一方、本発明において用いられるリンギン
グフラグは２種類の実施形態がある。第１実施形態はリ
ンギングフラグをＲＦ一つに設定するものであり、第２
実施形態はリンギングフラグを第１リンギングフラグＲ
Ｆ０及び第２リンギングフラグＲＦ１の二つに設定する
ものである。以下、前記第１実施形態及び第２実施形態
を具体的に触れないのは第１実施形態及び第２実施形態
が共に共通して適用されることを意味する。そして第１
実施形態及び第２実施形態のいずれか一方にのみ該当す
るものは、これを明示する。
【００４３】まず、前記フラグ抽出部１００におけるブ
ロッキングアーチファクトとリンギングノイズに対する
フラグ抽出について説明する。
【００４４】１．ブロッキングアーチファクト及びリン
ギングノイズ情報 Ｈ．２６３＋における量子化効果を低減するために、二
種類のフラグが定義される。第一はブロッキングフラグ
であり、第二はリンギングフラグである。前記ブロッキ
ング及びリンギングフラグはイントラフレームにおいて
８×８ブロックのＤＣＴ領域（domain）から抽出され
る。またインターフレームのフラグは残差信号（residu
al signal）及び基準ＶＯＰのフラグから計算される。
【００４５】１．１ イントラマクロブロック（Macro
Block）に関するフラグ情報 逆量子化後のＤＣＴ係数である逆量子化係数（ＩＱＣ）
の分布がデコーダ及びエンコーダにおいて調べられる。
図２は、Ｈ．２６３＋のブロック図及び逆量子化後のＤ
ＣＴ係数を示すものである。図２の８×８逆量子化され
たブロックにおいて、係数Ｕ，Ｖ及びＷがブロッキング
フラグ及びリンギングフラグを決定するのに使用され
る。
【００４６】図２に示す８×８ブロックの６４個画素の
ＤＣＴ係数の内位置Ａ、即ちＤＣ成分の係数のみが
‘０’でない値を有するとするとき、前記８×８符号化
されたブロックの６４画素は空間領域において同一の値
を有する。したがって、ＤＣ成分のみを有するブロック
は水平及び垂直ブロッキングアーチファクトをもたらす
ことがある。この場合、水平ブロッキングフラグ（ＨＢ
Ｆ）と垂直ブロックキングフラグ（ＶＢＦ）が共に
‘１’にセットされる。
【００４７】８×８逆量子化されたブロックの最上位行
のみが‘０’でない値のＤＣＴ係数を有する時、各カラ
ムの８個の画素は空間領域において同一の値を有する。
このブロックは垂直ブロッキングアーチファクトをもた
らし、これによりＶＢＦは‘１’にセットされる。
【００４８】８×８逆量子化されたブロックの最左側の
カラムのみが‘０’でない値のＤＣＴ係数を有する時、
各行の８個の画素は空間領域において同一の値を有す
る。このブロックは水平ブロッキングアーチファクトを
もたらし、これによりＨＢＦは‘１’にセットされる。
【００４９】第１実施形態では、図２に示すＵ，Ｖ及び
Ｗ以外の位置にいずれか一つでも‘０’でない係数値を
有する時、リンギングフラグＲＦは‘１’にセットされ
る。そして第２実施形態では、図２に示すＵ，Ｖ及びＷ
以外の位置にいずれか一つでも‘０’でない係数値を有
する時、第１リンギングフラグＲＦ０は‘１’にセット
される。
【００５０】一方、これらの高周波係数はブロックが映
像エッジを含んでいることを意味する。したがって、こ
のブロックは高周波成分係数の切り捨てにより前記映像
エッジ近傍にリンギングノイズを生みだす。前記ＨＢ
Ｆ，ＶＢＦ及びＲＦは各ブロックにおいてループフィル
タリングをするのに使用される。そして第２実施形態に
おいては、第２リンギングフラグＲＦ１はイントラマク
ロブロックでは使用されない。
【００５１】１．２ インターマクロブロックに対する
フラグ情報の伝播 まず、第１実施形態について説明する。基準フレームで
のブロッキングフラグは動きベクトルを使用することに
より、次インターマクロブロックに伝播される。また、
インターブロックの残差信号はインターブロックのフラ
グを決定するのに使用される。
【００５２】ブロッキングフラグが基準フレームからイ
ンターフレームへ伝播されることを説明すれば次の通り
である。図３は、インターフレームの８×８ブロックＡ
ｃと基準フレームにおける隣接ブロックとの関係を示す
ものである。ブロッキングフラグの伝播は動きベクトル
（ＭＶｘ，ＭＶｙ）により次のように記述される。図３
においてＡｒ，Ｂｒ，Ｃｒ及びＤｒは基準フレームのブ
ロックである。Ａｃは現インターフレームにおけるブロ
ックであり、Ｘは前記Ａｃの動きブロックである。前記
動きブロックＸは動きベクトル（ＭＶｘ，ＭＶｙ）を使
用することにより推定される。まず、前記動きブロック
Ｘと前記基準ブロックとの重なった度合いを調べる。も
し、前記動きブロックＸと前記基準ブロックとの重なっ
た領域が２×２画素より広いブロックのみ各々計算に使
用すれば、前記現ブロックＡｃのＨＢＦ及びＶＢＦは動
き推定されたブロックＸによって重なる基準ブロックの
ＨＢＦ及びＶＢＦをビット別に論理積（bit-wise ＡＮ
Ｄ）演算することにより計算できる。
【００５３】例えば、動きベクトルがＭＶｘ＝５，ＭＶ
ｙ＝３．５の時、動き推定されたブロックＸは４つの基
準ブロックＡｒ，Ｂｒ，Ｃｒ及びＤｒと重なることにな
る。ここで、前記４つの重なった領域はいずれも２×２
画素より広い。したがって、現ブロックＡｃのＨＢＦ及
びＶＢＦは、図４に示すように、４つの基準ブロックＡ
ｒ，Ｂｒ，Ｃｒ及びＤｒから計算できる。ここで、
‘＆’はビット別の論理積演算を表す。
【００５４】次に、インターフレームにおけるリンギン
グフラグについて説明する。まず、インターフレームの
８×８ブロックにおける残差信号の逆量子化係数ＩＱＣ
を検査して、前記ＩＱＣが‘０’でなければ、基準ブロ
ックＡｃのＲＦを‘１’にセットする。一つのマクロブ
ロック（ＭＢ）に対する４つの動きベクトルを伝達する
ことを８×８予測モード（prediction mode）と呼ぶ。
前記８×８予測モードは、概して高周波成分を有する領
域に適用される。したがって、前記ブロックが８×８予
測モードを有するかを検査して、８×８予測モードを有
するブロックのＲＦは‘１’にセットされる。
【００５５】次に、第２実施形態におけるインターマク
ロブロックに関するフラグ情報の伝播について説明す
る。基準フレーム（ＩピクチャーまたはＰピクチャーま
たは改善されたＰＢフレームのＰピクチャー部分）にお
けるブロッキングフラグは動きベクトルを使用すること
により、次インターマクロブロックに伝播される。ま
た、インターブロックの残差信号はインターブロックの
フラグを決定するのに使用される。現マクロブロックが
スキップされたマクロブロック（ＣＯＤ−Ｉ）であれ
ば、基準マクロブロックにおける６個のブロック（Ｙ用
４つ、Ｃｂ及びＣｒ用各１つ）のブロッキングフラグは
現マクロブロックに複写される。
【００５６】まず、ブロッキングフラグが基準フレーム
からインターフレームへ伝播されることについて説明す
れば、前記第１実施形態と同様である。ただし、現ブロ
ックＡｃのＨＢＦ及びＶＢＦを求める際に使用されるＡ
ＮＤ演算は、第１実施形態ではブロックＸと重なった度
合いが２×２画素より広いブロックに対して行われた
が、第２実施形態では１×１画素より広いブロックに対
して行われる。例えば、動きベクトルがＭＶｘ＝５，Ｍ
Ｖｙ＝３．５の時、動き推定されたブロックＸは４つの
基準ブロックＡｒ，Ｂｒ，Ｃｒ及びＤｒと重なることに
なる。ここで、前記４つの重なった領域はいずれも１×
１画素より広い。
【００５７】次に、インターフレームにおけるリンギン
グフラグについて説明する。まず、インターマクロブロ
ックの８×８ブロックにおける残差信号の逆量子化係数
ＩＱＣを検査する。前記ＩＱＣのＤＣ成分のみが‘０’
でなく、他の成分はいずれも‘０’である時、Ａｃの第
１リンギングフラグＲＦ０は‘１’にセットされる。そ
して前記ＩＱＣのＡＣ成分の内いずれか一つさえ‘０’
でなければ、基準ブロックＡｃのＲＦを‘１’にセット
する。８×８予測モードはデリンギングフィルタリング
において考慮される。
【００５８】２．フラグを用いた映像データループフィ
ルタリング デブロッキングフィルター１１０、コーナー異常値補償
部１２０及びデリンギングフィルター１３０について具
体的に説明する。
【００５９】２．１ ブロッキングアーチファクトの低
減のためのデブロッキングフィルター ブロッキングアーチファクトの低減のための一次元ロー
パスフィルタリングは水平境界及び垂直境界上のブロッ
キングフラグにより強く（strongly）若しくは弱く（we
akly）行われる。ブロッキングアーチファクトを減らす
ために、大部分のデブロッキング方法は映像エッジ情報
を計算し、前記映像エッジに基づくローパスフィルター
（ＬＰＦ）を適応的に適用する。しかし乍ら、本発明に
係るデブロッキング方法は、上記で求めたブロッキング
フラグを用いるので、多くの計算量を要する映像エッジ
検出を必要としない。
【００６０】処理されるべき８×８ブロックと隣接ブロ
ックが図５に示されている。ブロック−Ｉ（ＢＬＯＣＫ
−Ｉ）のＨＢＦとブロック−Ｊ（ＢＬＯＣＫ−Ｊ）のＨ
ＢＦが共に‘１’にセットされているなら、７−タブ
（１，１，１，２，１，１，１）ＬＰＦが図５の水平ブ
ロック境界上の画素Ａ，Ｂ，Ｃ，Ｄ，Ｅ及びＦに適用さ
れる。
【００６１】まず、第１実施形態における水平デブロッ
キングフィルタリングをアルゴリズムにより示せば、次
のようである。
【００６２】
【数４】
【００６３】前記アルゴリズムを説明すれば、ループフ
ィルタリングしようとするフレームを成している所定ブ
ロックをブロックＩ（ＢＬＯＣＫ＿Ｉ）とし、前記ブロ
ックＩと隣接したブロックをブロックＪ（ＢＬＯＣＫ＿
Ｊ）とする時、前記ブロックＩに関し、現ブロックと逆
量子化された以前のブロックとの差が所定の値以下で、
前記ブロックＪに関し、現ブロックと逆量子化された前
ブロックとの差が所定の値以下であれば、デブロッキン
グフィルタリングを行わない。
【００６４】ブロッキングアーチファクトを減少させる
ためのデブロッキングフィルタリングは、ブロックＩ及
びブロックＪのリンギングフラグＲＦが共にリンギング
ノイズを減少させる必要無しを示し、ブロックＩのＨＢ
ＦとブロックＪのＨＢＦが共にブロッキングアーチファ
クトを減少させる必要有りを示せば、前記ブロックＩと
ブロックＪとを仕切る水平ブロック境界線を介在した所
定個数の画素値を変化させる第１フィルタリングを行
う。
【００６５】ブロックＩ及びブロックＪのリンギングフ
ラグＲＦが共にリンギングノイズを減少させる必要無し
を示し、ブロックＩのＨＢＦとブロックＪのＨＢＦの少
なくともいずれか一方さえブロッキングアーチファクト
を減少させる必要無しを示せば、あるいはブロックＩ及
びブロックＪのリンギングフラグＲＦの少なくともいず
れか一方がリンギングノイズを減少させる必要有りを示
せば、水平ブロック境界線を挟んで隣接した二画素の差
とＨ．２６３の量子化された要素であるＱＰとを比較し
て、二画素の差がＱＰより小さければ前記第１フィルタ
リングより小さい個数の画素値を変化させる第２フィル
タリングを行う。
【００６６】一方、垂直ブロック境界線を介在した画素
に関しては、前記ＶＢＦを用い前記水平ブロック境界線
を介在した画素と同様の方式でフィルタリングをする。
そしてブロッキングアーチファクトを減少させるための
デブロッキングフィルタリングは、ブロックＩのリンギ
ングフラグＲＦがリンギングノイズを減少させる必要無
しを示し、ブロックＩがイントラ若しくはブロックＪが
イントラであり、ブロックＩのＨＢＦとブロックＪのＨ
ＢＦが共にブロッキングアーチファクトを減少させる必
要有りを示せば、前記ブロックＩとブロックＪとを仕切
る水平ブロック境界線を介在した所定個数の画素値を変
化させる第１フィルタリングを行う。
【００６７】ブロックＩのリンギングフラグＲＦがリン
ギングノイズを減少させる必要無しを示し、ブロックＩ
がイントラ若しくはブロックＪがイントラであり、ブロ
ックＩのＨＢＦとブロックＪのＨＢＦのいずれか一方で
もブロッキングアーチファクトを減少させる必要無しを
示せば、水平ブロック境界線を挟んで隣接した二画素の
差とＨ．２６３の量子化された要素であるＱＰとを比較
して、二画素の差がＱＰより小さければ前記第１フィル
タリングより小さい個数の画素値を変化させる第２フィ
ルタリングを行う。
【００６８】ブロックＩのリンギングフラグＲＦがリン
ギングノイズを減少させる必要無しを示し、ブロックＩ
及びブロックＪが共にイントラでなく、ブロックＩ及び
ブロックＪが共にＨＢＦが‘１’であれば第１フィルタ
リングを行う。ブロックＩのリンギングフラグＲＦがリ
ンギングノイズを減少させる必要無しを示し、ブロック
Ｉ及びブロックＪが共にイントラでなく、ブロックＩ及
びブロックＪの少なくともいずれか一方のＨＢＦが
‘０’を示せば、第２フィルタリングを行う。前記ブロ
ックＩのＲＦが‘０’でなければ、第２フィルタリング
を行う。
【００６９】一方、垂直ブロック境界線を介在した画素
に関しては、前記ＶＢＦを用い前記水平ブロック境界線
を介在した画素と同様の方式でフィルタリングをする。
【００７０】前記ブロックＩとブロックＪとを仕切る水
平ブロック境界線を介在した６個の画素をＡ，Ｂ，Ｃ，
Ｄ，Ｅ及びＦとし、前記画素Ｃ及びＤを前記水平ブロッ
ク境界線に最も隣接した画素、前記画素Ａ及びＦが水平
ブロック境界線から最も遠い画素、前記画素Ｂ及びＥが
前記Ａ及びＣ，Ｄ及びＦの中間に位置した画素とすると
き、前記第１フィルタリングは前記６個の画素に対し７
−タブ（１，１，１，２，１，１，１）ローパスフィル
タリングを行う。
【００７１】前記第２フィルタリングは前記画素Ｃ及び
Ｄに対してフィルタリングを行うが、前記画素Ｃ及びＤ
の差の絶対値がＨ．２６３の量子化要素ＱＰより小さけ
れば、ＣはＣ＋（Ｄ−Ｃ）／４に、ＤはＤ＋（Ｄ−Ｃ）
／４に置き換える。
【００７２】次に、第２実施形態における水平デブロッ
キングフィルタリングをアルゴリズムで示せば、次のよ
うである。
【００７３】
【数５】
【００７４】前記アルゴリズムを説明すれば、ループフ
ィルタリングしようとするフレームを成している所定ブ
ロックをブロックＩ（ＢＬＯＣＫ＿Ｉ）とし、前記ブロ
ックＩと隣接したブロックをブロックＪ（ＢＬＯＣＫ＿
Ｊ）とするとき、前記ブロックＩに関し、現ブロックと
逆量子化された前ブロックとの差が所定の値以下で、前
記ブロックＪに関し、現ブロックと逆量子化された前ブ
ロックとの差が所定の値以下であれば、デブロッキング
フィルタリングを行わない。
【００７５】イントラフレームの場合、ブロッキングア
ーチファクトを減少させるためのデブロッキングフィル
タリングは、ブロックＩ及びブロックＪの第１リンギン
グフラグＲＦ０が共にリンギングノイズを減少させる必
要無しを示し、ブロックＩのＨＢＦとブロックＪのＨＢ
Ｆが共にブロッキングアーチファクトを減少させる必要
有りを示せば、前記ブロックＩとブロックＪとを仕切る
水平ブロック境界線を介在した所定個数の画素値を変化
させる第１フィルタリング（strong deblocking filter
ing）を行う。
【００７６】ブロックＩ及びブロックＪのリンギングフ
ラグＲＦ０が共にリンギングノイズを減少させる必要無
しを示し、ブロックＩのＨＢＦとブロックＪのＨＢＦの
少なくともいずれか一方さえブロッキングアーチファク
トを減少させる必要無しを示せば、あるいはブロックＩ
及びブロックＪのリンギングフラグＲＦ０の少なくとも
いずれか一方がリンギングノイズを減少させる必要有り
を示せば、水平ブロック境界線を挟んで隣接した二画素
の差とＨ．２６３の量子化された要素であるＱＰとを比
較して、二画素の差がＱＰより小さければ前記第１フィ
ルタリングより小さい個数の画素値を変化させる第２フ
ィルタリング（weak deblocking filtering）を行う。
そして垂直ブロック境界線を介在した画素に関しては、
前記ＶＢＦを用い前記水平ブロック境界線を介在した画
素と同様の方式でフィルタリングをする。
【００７７】一方、インターフレーム（ＰまたはＰＢフ
レーム）の場合、ブロッキングアーチファクトを減少さ
せるためのデブロッキングフィルタリングは、ブロック
Ｉの第２リンギングフラグＲＦ１がリンギングノイズを
減少させる必要無しを示し、ブロックＩがイントラ若し
くはブロックＪがイントラであり、ブロックＩのＨＢＦ
とブロックＪのＨＢＦが共にブロッキングアーチファク
トを減少させる必要有りを示せば、前記ブロックＩとブ
ロックＪとを仕切る水平ブロック境界線を介在した所定
個数の画素値を変化させる第１フィルタリング（strong
deblocking filtering）を行う。
【００７８】ブロックＩの第２リンギングフラグＲＦ１
がリンギングノイズを減少させる必要無しを示し、ブロ
ックＩがイントラ若しくはブロックＪがイントラであ
り、ブロックＩのＨＢＦとブロックＪのＨＢＦのいずれ
か一つさえブロッキングアーチファクトを減少させる必
要無しを示せば、水平ブロック境界線を挟んで隣接した
二画素の差とＨ．２６３の量子化された要素であるＱＰ
とを比較して、二画素の差がＱＰより小さければ前記第
１フィルタリングより小さい個数の画素値を変化させる
第２フィルタリング（weak deblocking filtering）を
行う。
【００７９】ブロックＩの第２リンギングフラグＲＦ１
がリンギングノイズを減少させる必要無しを示し、ブロ
ックＩ及びブロックＪが共にイントラでなく、ブロック
Ｉ及びブロックＪの少なくともいずれか一方のＲＦ０が
１であることを示し、ブロックＩ及びブロックＪが共に
ＨＢＦが‘１’であれば、第１フィルタリング（strong
deblocking filtering）を行う。
【００８０】ブロックＩの第２リンギングフラグＲＦ１
がリンギングノイズを減少させる必要無しを示し、ブロ
ックＩ及びブロックＪが共にイントラでなく、ブロック
Ｉ及びブロックＪのいずれか一方のＲＦ０が１であるこ
とを示し、ブロックＩ及びブロックＪの少なくともいず
れか一方のＨＢＦが‘０’を示せば、第２フィルタリン
グ（weak deblocking filtering）を行う。ブロックＩ
のＲＦ１が０でなければ、第２フィルタリング（weak d
eblockingfiltering）を行う。そして前記第１フィルタ
リング及び第２フィルタリングは第１実施形態における
第１フィルタリングと同様の方法で行う。
【００８１】２．２ コーナー異常値補償部 コーナー異常値の補償はイントラフレームでのみ行われ
る。前記コーナー異常値は、図６（Ａ）乃至図６（Ｂ）
に示すように、８×８ブロックのコーナーポイントにお
いて隣り合う画素より格段に大きくか若しくは小さい画
素により特徴づけられる。図６（Ａ）において斜線で示
された領域が４つのブロックに亘って分布され前記斜線
領域の一つ若しくは二つの画素が隣り合うブロックのコ
ーナーポイントに位置する時、コーナーポイントは、図
６（Ｂ）に示すように、ＤＣＴ係数の量子化により歪曲
されうる。このように歪曲されたコーナーポイントをコ
ーナー異常値と呼ぶ。前記コーナー異常値はデブロッキ
ングフィルター及びフィルターでは除去できない。前記
コーナー異常値を減らすために、まずコーナー異常値を
検出し、次に、前記検出されたコーナー異常値を補償す
る。また、図６（Ｂ）はコーナー異常値の検出のための
簡単な座標値を記している。ここで、Ａ，Ｂ，Ｃ及びＤ
は８×８ブロックのコーナーポイントの画素値である。
【００８２】まず、前記コーナー異常値の検出のための
アルゴリズムは次のように表現できる。
【００８３】
【数６】
【００８４】ここで、ＱＰはＨ．２６３の量子化要素
（quantization factor）である。
【００８５】前記’Ｃｏｕｎｔ’は、コーナー異常値候
補画素の数を記憶する変数である。もし、前記Ｃｏｕｎ
ｔが‘０’であれば、コーナー異常値はない。もしＡの
みが図６（Ｂ）において候補ポイントであり、｜Ａ−Ａ
3｜が３ＱＰ／２より小さければ、コーナー異常値補償
はＡ，Ａ1及びＡ2上において次のように行われる。ここ
で、Ａ1，Ａ2はＡと隣り合う画素を、Ａ3はＡと対角線
に位置する画素を示す。Ａに対して補償された値を
Ａ’，Ａ1に対して補償された値をＡ’1，Ａ2に対して
補償された値をＡ’2とすれば、前記Ａ’，Ａ’1及び
Ａ’2は以下の数７のように決定される。
【００８６】
【数７】
【００８７】候補ポイントの個数が二つ以上であれば、
（Ａ3＋Ｂ3＋Ｃ3＋Ｄ3＋２）／４から最大の差を有する
候補が選ばれ、コーナー異常値補償は前記一つの候補の
場合でのような方法でそのポイント上において行われ
る。
【００８８】２．３ リンギングノイズの低減のための
デリンギングフィルター まず、第１実施形態について説明すれば、次のようであ
る。各ブロックに対しデリンギングフィルターを適用す
る前に、ＲＦを調べる。もし、現ブロックのＲＦが
‘１’であれば、デリンギングフィルタリングは前記ブ
ロックに適用される。映像の微細部がフィルタリングに
より歪曲されることを防止するために、フィルタリング
前に簡単なエッジ検出が行われる。図７（Ａ）及び図７
（Ｂ）に示すように、エッジ検出及び２次元信号適応フ
ィルタリング（２−Ｄ ＳＡＦ）は‘０’でないリンギ
ングフラグを有する８×８ブロックに適用される。とい
うのは、境界画素はデブロッキングフィルターによりス
ムーズになるためである。
【００８９】次に、第２実施形態におけるリンギングノ
イズの低減のためのデリンギングフィルターを説明すれ
ば、次のようである。各ブロックに対しデリンギングフ
ィルターを適用する前に、リンギングフラグ、即ちＲＦ
０及びＲＦ１を調べる。まず、リンギングノイズを減少
させるデリンギングフィルタリングの遂行成否を判断す
るアルゴリズムを表現すれば、次のようである。
【００９０】
【数８】
【００９１】前記リンギングノイズを低減させるデリン
ギングフィルタリングの遂行成否アルゴリズムを説明す
れば、次のようである。
【００９２】ブロックＩに関し、現ブロックと逆量子化
された前ブロックとの差が所定の値以下で、前記ブロッ
クＪに関し、現ブロックと逆量子化された前ブロックと
の差が所定の値以下であれば、デリンギングフィルタリ
ングを行わない。
【００９３】イントラフレームの場合、リンギングノイ
ズを減少させるフィルタリングの遂行成否はブロックＩ
のリンギングフラグがデリンギングフィルタリングの必
要有りを示しているかを検査して、デリンギングフィル
タリングが必要有りを示せばデリンギングフィルタリン
グを行い、そうでなければデリンギングフィルタリング
を行わない。
【００９４】次にインターフレームの場合、リンギング
ノイズを減少させるフィルタリングの遂行成否は以下の
ように決定される。即ち、ブロックＩがイントラブロッ
クであればデリンギングフィルタリングを行う。前記ブ
ロックＩがイントラブロックでなく、８×８予測モード
を使用したブロックであればフィルタリングを行う。前
記ブロックＩがイントラブロックでなく、８×８予測モ
ードを使用したブロックでなく、ブロックＩのＲＦ１が
デリンギングフィルタリングが必要有りを示せばデリン
ギングフィルタリングを行い、ブロックＩのＲＦ１がデ
リンギングフィルタリングが必要なしを示せばデリンギ
ングフィルタリングを行わない。
【００９５】デリンギングフィルタリングは、エッジ検
出と２次元信号適応フィルタリング（２−Ｄ ＳＡＦ）
により行われる。映像の微細部がフィルタリングにより
歪曲されることを防止するために、フィルタリング前に
簡単なエッジ検出が行われる。図７（Ａ）及び図７
（Ｂ）に示すように、リンギングノイズを減少させるた
めに、エッジ検出及び２次元信号適応フィルタリング
（２−Ｄ ＳＡＦ）は上記した条件が満足される場合、
８×８ブロックに適用される。
【００９６】一方、前記デリンギングフィルタリングに
対する第１実施形態及び第２実施形態におけるエッジ検
出について説明する。映像エッジを見出すために、１次
元水平及び垂直傾斜演算子が再構成されたブロックに適
用される。エッジ画素を決定するためのしきい値は、
Ｈ．２６３の量子化ファクターＱＰから選ばれる。２次
元ＳＡＦが８×８画素に適用されるために、エッジ情報
は、図７（Ｂ）に示すように、現ブロック内の１０×１
０ブロックに対して得られなければならない。
【００９７】水平エッジ検出は、現画素を画素［ｍ］
［ｎ］、前記画素［ｍ］［ｎ］の右側の画素を画素
［ｍ］［ｎ＋１］、左側の画素を画素［ｍ］［ｎ−
１］、前記画素［ｍ］［ｎ］と画素［ｍ］［ｎ＋１］と
の差をＡ１、前記画素［ｍ］［ｎ］と画素［ｍ］［ｎ−
１］との差をＡ２、Ｈ．２６３の量子化要素をＱＰとす
るとき、条件式（（Ａ１＞ＱＰ）ａｎｄ（Ａ２＞Ｑ
Ｐ））ｏｒ（Ａ１＞２ＱＰ）ｏｒ（Ａ２＞２ＱＰ）を満
足すれば、エッジとして検出され、エッジ［ｍ］［ｎ］
＝１となる。また垂直エッジ検出は、現画素を画素
［ｍ］［ｎ］、前記画素［ｍ］［ｎ］の上方の画素を画
素［ｍ＋１］［ｎ］、下方の画素を画素［ｍ−１］
［ｎ］、前記画素［ｍ］［ｎ］と画素［ｍ＋１］［ｎ］
との差をＡ’１、前記画素［ｍ］［ｎ］と画素［ｍ−
１］［ｎ］との差をＡ’２、Ｈ．２６３の量子化要素を
ＱＰとするとき、条件式（（Ａ’１＞ＱＰ）ａｎｄ
（Ａ’２＞ＱＰ））ｏｒ（Ａ’１＞２ＱＰ）ｏｒ（Ａ’
２＞２ＱＰ）を満足すれば、エッジとして検出され、エ
ッジ［ｍ］［ｎ］＝‘１’となる。
【００９８】以上のエッジマップＥｄｇｅ［ｍ］［ｎ］
を画素値ｐｉｘｅｌ［ｍ］［ｎ］から生成するアルゴリ
ズムで表現すれば、次のようである。
【００９９】
【数９】
【０１００】次に、２次元信号適応フィルターＳＡＦを
使用したデリンギングフィルタリングについて説明す
る。前記フィルタリングは映像の微細部の深刻な損失な
しにリンギングノイズをスムーズにするためのものであ
る。本発明に係るデリンギングフィルタリングは、エッ
ジマップ（edge map）に従いコンボルーション（convol
ution）に対する加重ファクター（weighting factor）
が可変する簡単なコンボルーション演算である。前記Ｓ
ＡＦは、Ｅｄｇｅ［ｍ］［ｎ］を使用することにより復
号化されたブロックに適用される。図７（Ａ）は、２次
元ＳＡＦに対するカーネル（kernel）を示している。図
７（Ｂ）におけるフィルターウィンドウの中心点Ａがエ
ッジ画素であれば、２次元フィルタリング演算は行われ
ない（図７（Ｂ）の例１）。４−コネクティッドフィル
ターウィンドウにおいてエッジポイントが含まれていな
ければ、ローパスフィルタリングが行われる（図７
（Ｂ）の例２）。もし中心点上に存在しないあるエッジ
ポイントが４−コネクティッドフィルタウィンドウにあ
れば、エッジ画素を除いた加重フィルタリングが行われ
る（図７（Ｂ）の例３）。加重ファクターが計算の複雑
性を考慮して定義され、これによりＳＡＦフィルタリン
グが、以下の表１に示すように、簡単なシフト及び加算
演算によって行われる。
【０１０１】
【表１】
【０１０２】３．ブロッキングフラグのパッディング 第２実施形態ではブロッキングフラグのパッディングを
行う。ＱＣＩＦの場合、Ｙのためのブロッキングフラグ
Ｂｆ＿Ｙは２２×１８アレイで構成され、Ｃｂのための
ブロッキングフラグＢｆ＿Ｃｂ及びＣｒのためのブロッ
キングフラグＢｆ＿Ｃｒは１１×９アレイで構成され
る。ここで、各エレメントは各ブロックのノイズ情報を
有している。しかし乍ら、非制限動きベクトルモード
（Unrestricted Motion Vector mode）が使用されれ
ば、動きベクトルはピクチャーの外側を示すことが認め
られる。従って、動きベクトルがピクチャーの外側を示
すことを認めるために、Ｂｆ＿Ｙ，Ｂｆ＿Ｃｂ及びＢｆ
＿Ｃｒパッディングがなされる。Ｂｆ＿Ｙの場合、Ｂｆ
＿Ｙを拡張するために、Ｂｆ＿Ｙの最上位行及び最下位
行のエレメントは垂直的に複写される。また垂直繰返し
パッディングがなされてからは、水平的な繰返しパッデ
ィングが最左側及び最右側のカラムのエレメント上にお
いて行われる。
【０１０３】最終に、元のＢｆ＿ＹサイズをＭ×Ｎとす
るとき、パッディングがなされてからはサイズは（Ｍ＋
８）×（Ｎ＋８）となる。同じく、Ｂｆ＿Ｃｂ及びＢｆ
＿Ｃｒの元のサイズがＭ／２×Ｎ／２であるとすれば、
パッディングがなされてからは（Ｍ／２＋４）×（Ｎ／
２＋４）となる。
【０１０４】図８は、Ｂｆ＿Ｙパッディングの結果を示
すものである。前記パッディングは様々な方法がありう
るが、その一例として基準フレームのブロッキングフラ
グを複写することにより行われうる。また前記パッディ
ングはループフィルタリングしようとする新たなフレー
ムが入れば先になされた後、動きベクトルを用いブロッ
キングフラグを抽出する時に、前記パッディングされた
ブロッキングフラグを用い該当マクロブロックのブロッ
キングフラグを求める。
【０１０５】一方、上記した本発明の実施形態はコンピ
ュータにて実行できるプログラムにより作成可能であ
る。そして、コンピュータにおいて用いられる媒体から
前記プログラムを動作させる汎用ディジタルコンピュー
ターにおいて具現できる。前記媒体はマグネチック貯蔵
媒体（例：ロム、フロッピーディスク、ハードディスク
等）、光学的な読み込み媒体（例：ＣＤ−ＲＯＭ，ＤＶ
Ｄ等）及びキャリアウェーブ（例：インターネットを介
して転送）などの貯蔵媒体を含む。
【０１０６】例えば、前記記録媒体は、映像データのエ
ンコーディング及びデコーディング時に発生する量子化
効果の低減のためのループフィルタリング方法におい
て、逆量子化された映像データの逆量子化係数の分布及
び前フレームと現フレームとの差を示す動きベクトルを
用いて前記映像データのループフィルタリング必要性の
可否を示すフラグを抽出するフラグ抽出段階がコンピュ
ータにより行われるコード手段と、前記抽出されたフラ
グがループフィルタリングが必要有りを示せば、前記フ
ラグに相応する映像データを所定の方法によりフィルタ
リングするフィルタリング段階がコンピュータにより行
われるプログラムコード手段とを含むことを特徴とす
る。
【０１０７】そして本発明を具現するための機能的なプ
ログラム、コード及びコードセグメントは本発明の属す
る技術分野のプログラマーにより容易に推論できる。
【０１０８】
【発明の効果】高圧縮された映像データの復元に際し
て、ブロッキングアーチファクト、コーナー異常値及び
リンギングノイズなどの量子化効果がもたらされる。本
発明に係るループフィルタリング方法は、フラグ及び適
応フィルターを使用することにより量子化効果の低減を
図るものである。各ブロックのブロッキング及びリンギ
ングフラグはループフィルタリングの計算量を減らす上
で大きな手助けとなる。現ブロックに対するブロッキン
グ及びリンギングフラグを抽出するには、インターフレ
ームの動きベクトルが使用される。
【０１０９】ビデオコーディングにおいて、高品質の映
像及びハードウェア並びにソフトウェアへの具現の容易
性のためには、計算の複雑性及びＰＳＮＲが考慮されな
ければならない。ハードウェアの複雑性の側面から、本
発明に係る方法は乗算及び割り算なしに並列処理によっ
て遂行できる。
【０１１０】本発明に係るループフィルタリング方法
は、映像の微細部を維持しながら主観的な画質を格段に
向上させることから、広範に使用できる。
【図面の簡単な説明】
【図１】 ブロックに基づき映像データをループフィル
タリングする時、量子化効果の低減のための映像データ
ループフィルタリング装置の構成を示すブロック図であ
る。
【図２】 Ｈ．２６３＋に対する復号化器のブロック図
及び前記復号化器の逆量子化部において逆量子化された
８×８ ＤＣＴ係数ブロックを示す図である。
【図３】 インターフレームの８×８ブロックＡｃと基
準フレームにおける隣接ブロックの関係を示す図であ
る。
【図４】 インターＶＯＰの水平ブロッキングフラグＨ
ＢＦ、垂直ブロッキングフラグＶＢＦ及びリンギングフ
ラグＲＦ抽出を説明するための一例を示す図である。
【図５】 ブロッキングアーチファクトの減少を目的と
するデブロッキングフィルターの動作の説明のために、
ブロック境界とブロック境界の画素位置とを示す図であ
る。
【図６】 クロスポイントとコーナー異常値とを示す図
であって、（Ａ）は、量子化によってコーナー異常値を
生成する映像エッジの例を示し、（Ｂ）は、量子化によ
って発生されたコーナー異常値と、コーナー異常値補償
を行うためのコーナーポイントの座標値とを示す。
【図７】 （Ａ）は、２次元信号適応フィルターＳＡＦ
カーネルを示す図であり、（Ｂ）は、エッジ検出のため
の１０×１０ブロック及びＳＡＦの例を示す図である。
【図８】 Ｂｆ＿Ｙパッディングの結果を示す図であ
る。
【符号の説明】
１０ 映像データ後処理装置 １００ フラグ抽出部 １１０ デブロッキングフィルター １２０ コーナー異常値補償部 １３０ デリンギングフィルター
───────────────────────────────────────────────────── フロントページの続き (56)参考文献 特開 平５−130592（ＪＰ，Ａ) 特開 平５−56416（ＪＰ，Ａ) 特開 平５−219498（ＪＰ，Ａ) 特開 平２−137489（ＪＰ，Ａ) 特開 平２−235491（ＪＰ，Ａ) (58)調査した分野(Int.Cl.7，ＤＢ名) H04N 7/24 - 7/68 ＪＩＣＳＴファイル（ＪＯＩＳ)

Claims (25)

    (57)【特許請求の範囲】
  1. 【請求項１】 映像データのエンコーディング及びデコ
    ーディング時に発生する量子化効果の低減のためのルー
    プフィルタリング方法において、 逆量子化された映像データの逆量子化係数の分布及び前
    フレームと現フレームとの差を示す動きベクトルを用
    い、前記映像データのループフィルタリングの必要性可
    否を示すフラグを抽出するフラグ抽出段階と、 前記抽出されたフラグがループフィルタリングが必要有
    りを示せば、前記フラグに相応する映像データを所定の
    方法によりフィルタリングするフィルタリング段階とを
    含み、 前記フラグ抽出は、前記ループフィルタリングしようと
    する映像フレームがイントラフレームであれば、各ブロ
    ックの離散余弦変換（ＤＣＴ）ドメインから抽出し、 前記ループフィルタリングしようとする映像フレームが
    インターフレームであれば、残差信号及び基準フレーム
    のフラグから抽出することを特徴とする映像データルー
    プフィルタリング方法。
  2. 【請求項２】 前記フラグは、 ブロック境界近傍のブロッキングアーチファクトを減少
    させる必要性の可否を示すブロッキングフラグと、 映像エッジ近傍のリンギングノイズを減少させる必要性
    の可否を示すリンギングフラグとよりなることを特徴と
    する請求項１に記載の映像データループフィルタリング
    方法。
  3. 【請求項３】 前記映像データがイントラフレームの場
    合、前記イントラフレームのブロッキングフラグは、 水平ブロッキングフラグＨＢＦ及び垂直ブロッキングフ
    ラグＶＢＦよりなり、 前記イントラフレームの水平及び垂直ブロッキングフラ
    グ抽出は、 ａ）前記圧縮された映像データが逆量子化された後に、
    前記逆量子化された８×８ブロックに対するＤＣＴ係数
    を求める段階と、 ｂ）前記８×８ブロックを成す６４個の画素の内前記ブ
    ロックの最上及び最左側に位置したＤＣＴ係数（ＤＣ成
    分）をＵとし、前記ＤＣＴ係数Ｕのすぐ右側のＤＣＴ係
    数をＶ、前記ＤＣＴ係数Ｕの真下のＤＣＴ係数をＷとす
    るとき、前記ＤＣＴ係数Ｕのみが‘０’でない値を有す
    ると、前記ＨＢＦ及びＶＢＦをループフィルタリングす
    る必要ありを示す情報‘１’にセットする段階と、 ｃ）前記逆量子化された８×８ブロックの最上位行のみ
    が‘０’でない値のＤＣＴ係数を含んでいる時、ＶＢＦ
    をループフィルタリングが必要ありを示す情報‘１’に
    セットする段階と、 ｄ）前記逆量子化された８×８ブロックの最左側のカラ
    ムのみが‘０’でない値のＤＣＴ係数を含んでいる時、
    ＨＢＦをループフィルタリングが必要ありを示す情報
    ‘１’にセットする段階とを含むことを特徴とする請求
    項２に記載の映像データループフィルタリング方法。
  4. 【請求項４】 前記イントラフレームのリンギングフラ
    グ抽出は、 ８×８ブロックを成す６４個の画素の内前記ブロックの
    最上、最左側に位置したＤＣＴ係数（ＤＣ成分）をＵと
    し、前記ＤＣＴ係数Ｕのすぐ右側のＤＣＴ係数をＶ、か
    つ前記ＤＣＴ係数Ｕの真下のＤＣＴ係数をＷとすると
    き、 前記逆量子化された８×８ブロックのＤＣＴ係数Ｕ，Ｖ
    及びＷ以外の位置に何れか一つさえ‘０’でない係数値
    を有する時、リンギングフラグＲＦをループフィルタリ
    ングが必要ありを示す情報‘１’にセットすることを特
    徴とする請求項２に記載の映像データループフィルタリ
    ング方法。
  5. 【請求項５】 現インターフレームのブロッキングフラ
    グは、 水平ブロッキングフラグ及び垂直ブロッキングフラグよ
    りなり、 前記現インターフレームのブロックＡｃに対する水平及
    び垂直ブロッキングフラグ抽出は、 基準フレームが所定の基準ブロックよりなり、前記現イ
    ンターフレームのブロックＡｃの動きベクトル（ＭＶ
    ｘ，ＭＶｙ）により推定される基準フレームのブロック
    を動きブロックＸとするとき、 前記動きブロックＸが前記基準ブロックと重なった度合
    いを調べる段階と、 重なった画素数が所定個数以上である基準ブロックのＨ
    ＢＦ及びＶＢＦをビット別に論理積演算する段階と、 前記演算の結果を現ＶＯＰのブロックＡｃの水平及び垂
    直ブロッキングフラグにセットすることを特徴とする請
    求項２に記載の映像データループフィルタリング方法。
  6. 【請求項６】 映像フレームがインターフレームの場
    合、現インターフレームのブロックＡｃに対するリンギ
    ングフラグ抽出は、 インターブロックの８×８ブロックにおける残差信号の
    逆量子化係数ＩＱＣのＡＣ成分のいずれか一つさえ
    ‘０’でなければ、現ブロックＡｃのリンギングフラグ
    ＲＦを‘１’にセットし、前記ＩＱＣのＡＣ成分がいず
    れも‘０’であれば、ＲＦを‘０’にする段階と、 マクロブロックＭＢに対する動きベクトルを伝達する８
    ×８予測モードが現ブロックに使用されると、ＲＦを
    ‘１’にセットする段階とよりなることを特徴とする請
    求項２に記載の映像データループフィルタリング方法。
  7. 【請求項７】 前記映像データがインターフレームの場
    合、前記インターフレームのリンギングフラグは、 第１リンギングフラグＲＦ０及び第２リンギングフラグ
    ＲＦ１よりなり、 現インターフレームのブロックＡｃに対する前記第１リ
    ンギングフラグＲＦ０及び第２リンギングフラグＲＦ１
    の抽出は、 インターマクロブロックの８×８ブロックにおいて残差
    信号の逆量子化係数ＩＱＣのＤＣ成分のみが‘０’でな
    ければ、現ブロックＡｃの第１リンギングフラグＲＦ０
    を‘１’にセットし、そうでなければＲＦ０を０にする
    段階と、 インターフレームの８×８ブロックにおける残差信号の
    逆量子化係数ＩＱＣのＡＣ成分のいずれか一つさえ
    ‘０’でなければ、現ブロックＡｃの第２リンギングフ
    ラグＲＦ１を‘１’にセットし、そうでなければＲＦ１
    を‘０’にする段階とよりなることを特徴とする請求項
    ２に記載の映像データループフィルタリング方法。
  8. 【請求項８】 ブロッキングアーチファクトを減少させ
    るためのデブロッキングフィルタリングは、 ループフィルタリングしようとするフレームを成してい
    る所定ブロックをブロックＩとし、前記ブロックＩと隣
    接したブロックをブロックＪとするとき、 ブロックＩ及びブロックＪのリンギングフラグＲＦが共
    にリンギングノイズを減少させる必要無しを示し、ブロ
    ックＩのＨＢＦとブロックＪのＨＢＦが共にブロッキン
    グアーチファクトを減少させる必要有りを示せば、前記
    ブロックＩとブロックＪを仕切る水平ブロック境界線を
    介在した所定個数の画素値を変化させる第１フィルタリ
    ングを行う段階と、 ブロックＩ及びブロックＪのリンギングフラグＲＦが共
    にリンギングノイズを減少させる必要無しを示し、ブロ
    ックＩのＨＢＦとブロックＪのＨＢＦのいずれか一方で
    もブロッキングアーチファクトを減少させる必要無しを
    示せば、あるいはブロックＩ及びブロックＪのリンギン
    グフラグＲＦの内少なくともいずれか一方がリンギング
    ノイズを減少させる必要有りを示せば、ブロック境界線
    を挟んで隣接した二画素の差とＩＴＵ−Ｔ ＤＲＡＦＴ
    Ｈ．２６３の規格に基づいて量子化された要素である
    ＱＰとを比較し、二画素の差がＱＰより小さければ、前
    記第１フィルタリングより小さい個数の画素値を変化さ
    せる第２フィルタリングを行う段階とよりなることを特
    徴とする請求項３または４に記載の映像データループフ
    ィルタリング方法。
  9. 【請求項９】 ブロッキングアーチファクトを減少させ
    るためのデブロッキングフィルタリングは、 ループフィルタリングしようとするフレームを成してい
    る所定ブロックをブロックＩとし、前記ブロックＩと隣
    接したブロックをブロックＪとするとき、 ブロックＩのリンギングフラグＲＦがリンギングノイズ
    を減少させる必要無しを示し、ブロックＩがイントラ若
    しくはブロックＪがイントラであり、ブロックＩのＨＢ
    ＦとブロックＪのＨＢＦが共にブロッキングアーチファ
    クトを減少させる必要有りを示せば、前記ブロックＩと
    ブロックＪとを仕切る水平ブロック境界線を介在した所
    定個数の画素値を変化させる第１フィルタリングを行う
    段階と、 ブロックＩのリンギングフラグＲＦがリンギングノイズ
    を減少させる必要無しを示し、ブロックＩがイントラ若
    しくはブロックＪがイントラであり、ブロックＩのＨＢ
    ＦとブロックＪのＨＢＦのいずれか一方でもブロッキン
    グアーチファクトを減少させる必要無しを示せば、水平
    ブロック境界線を挟んで隣接した二画素の差とＩＴＵ−
    Ｔ ＤＲＡＦＴ Ｈ．２６３の規格に基づいて量子化さ
    れた要素であるＱＰとを比較し、二画素の差がＱＰより
    小さければ、前記第１フィルタリングより小さい個数の
    画素値を変化させる第２フィルタリングを行う段階と、 ブロックＩのリンギングフラグＲＦがリンギングノイズ
    を減少させる必要無しを示し、ブロックＩ及びブロック
    Ｊが共にイントラでなく、ブロックＩまたはブロックＪ
    の残差信号のＩＱＣのＤＣ成分が存在し、ブロックＩ及
    びブロックＪが共にＨＢＦが‘１’であれば、第１フィ
    ルタリングを行う段階と、 ブロックＩのリンギングフラグＲＦがリンギングノイズ
    を減少させる必要無しを示し、ブロックＩ及びブロック
    Ｊが共にイントラでなく、ブロックＩまたはブロックＪ
    の残差信号のＩＱＣのＤＣ成分が存在し、ブロックＩ及
    びブロックＪの内少なくともいずれか一方のＨＢＦが
    ‘０’を示せば、第２フィルタリングを行う段階と、 前記ブロックＩのＲＦがリンギングノイズを減少させる
    必要有りを示せば、第２フィルタリングを行う段階とよ
    りなることを特徴とする請求項５に記載の映像データル
    ープフィルタリング方法。
  10. 【請求項１０】 ブロッキングアーチファクトを減少さ
    せるためのデブロッキングフィルタリングは、 ループフィルタリングしようとするフレームを成してい
    る所定ブロックをブロックＩとし、前記ブロックＩと隣
    接したブロックをブロックＪとするとき、 ブロックＩの第２リンギングフラグＲＦ１がリンギング
    ノイズを減少させる必要無しを示し、ブロックＩがイン
    トラ若しくはブロックＪがイントラであり、ブロックＩ
    のＨＢＦとブロックＪのＨＢＦが共にブロッキングアー
    チファクトを減少させる必要有りを示せば、前記ブロッ
    クＩとブロックＪとを仕切る水平ブロック境界線を介在
    した所定個数の画素値を変化させる第１フィルタリング
    を行う段階と、 ブロックＩの第２リンギングフラグＲＦ１がリンギング
    ノイズを減少させる必要無しを示し、ブロックＩがイン
    トラ若しくはブロックＪがイントラであり、ブロックＩ
    のＨＢＦとブロックＪのＨＢＦの内いずれか一方でもブ
    ロッキングアーチファクトを減少させる必要無しを示せ
    ば、水平ブロック境界線を挟んで隣接した二画素の差と
    ＩＴＵ−Ｔ ＤＲＡＦＴ Ｈ．２６３の規格に基づいて
    量子化された要素であるＱＰとを比較し、二画素の差が
    ＱＰより小さければ前記第１フィルタリングより小さい
    個数の画素値を変化させる第２フィルタリングを行う段
    階と、 ブロックＩの第２リンギングフラグＲＦ１がリンギング
    ノイズを減少させる必要無しを示し、ブロックＩ及びブ
    ロックＪが共にイントラでなく、ブロックＩ及びブロッ
    クＪの内少なくともいずれか一方のＲＦ０が１であり、
    ブロックＩ及びブロックＪのＨＢＦが共に‘１’であれ
    ば、第１フィルタリングを行う段階と、 ブロックＩの第２リンギングフラグＲＦ１がリンギング
    ノイズを減少させる必要無しを示し、ブロックＩ及びブ
    ロックＪが共にイントラでなく、ブロックＩ及びブロッ
    クＪの内少なくともいずれか一方のＲＦ０が１であり、
    ブロックＩ及びブロックＪのＨＢＦの内少なくともいず
    れか一方が‘１’でなければ、第２フィルタリングを行
    う段階と、 前記ブロックＩのＲＦ１が‘０’でなければ、第２フィ
    ルタリングを行う段階とよりなることを特徴とする請求
    項７に記載の映像データループフィルタリング方法。
  11. 【請求項１１】 前記ブロックＩとブロックＪとを仕切
    るブロック境界線を介在した６個の画素をＡ，Ｂ，Ｃ，
    Ｄ，Ｅ及びＦとし、前記画素Ｃ及びＤを前記ブロック境
    界線に最も隣接した画素、前記画素Ａ及びＦがブロック
    境界線から最も遠い画素、前記画素Ｂ及びＥが前記Ａ及
    びＣ，Ｄ及びＦの中間に位置した画素とするとき、 前記第１フィルタリングは、 前記６個の画素に対し７−タブ（１，１，１，２，１，
    １，１）ローパスフィルタリングを行い、 前記第２フィルタリングは、 前記画素Ｃ及びＤに対しフィルタリングを行うが、前記
    画素Ｃ及びＤの差の絶対値がＩＴＵ−Ｔ ＤＲＡＦＴ
    Ｈ．２６３の規格に基づいて量子化された要素ＱＰより
    小さければ、ＣはＣ＋（Ｄ−Ｃ）／４に、ＤはＤ＋（Ｄ
    −Ｃ）／４に置き換えることを特徴とする請求項８また
    は９または１０に記載の映像データループフィルタリン
    グ方法。
  12. 【請求項１２】 前記フィルタリング段階におけるリン
    ギングノイズを減少させるデリンギングフィルタリング
    は、 リンギングフラグがデリンギングフィルタリングが必要
    有りを示すかどうかを検査し、デリンギングフィルタリ
    ングが必要有りを示せばデリンギングフィルタリングを
    行い、そうでなければデリンギングフィルタリングを行
    わないことを特徴とし、 前記デリンギングフィルタリングは、 映像データの水平エッジ及び垂直エッジを検出するエッ
    ジ検出段階と、 リンギングノイズを減少させようとする８×８ブロック
    に対し２次元信号適応フィルタリングをする信号適応フ
    ィルタリング段階とよりなり、 前記エッジ検出段階の水平エッジ検出は、 画素［ｍ］［ｎ］、前記画素［ｍ］［ｎ］の右側の画素
    を画素［ｍ］［ｎ＋１］、左側の画素を画素［ｍ］［ｎ
    −１］、前記画素［ｍ］［ｎ］と画素［ｍ］［ｎ＋１］
    との差をＡ１、前記画素［ｍ］［ｎ］と画素［ｍ］［ｎ
    −１］との差をＡ２、ＩＴＵ−Ｔ ＤＲＡＦＴ Ｈ．２
    ６３の規格に基づいて量子化された要素をＱＰとすると
    き、 条件式（（Ａ１＞ＱＰ）ａｎｄ（Ａ２＞ＱＰ））ｏｒ
    （Ａ１＞２ＱＰ）ｏｒ（Ａ２＞２ＱＰ）を満足すれば、
    エッジとして検出され、エッジ［ｍ］［ｎ］＝１とな
    り、 前記エッジ検出段階の垂直エッジ検出は、 画素［ｍ］［ｎ］、前記画素［ｍ］［ｎ］の上方の画素
    を画素［ｍ＋１］［ｎ］、下方の画素を画素［ｍ−１］
    ［ｎ］、前記画素［ｍ］［ｎ］と画素［ｍ＋１］［ｎ］
    との差をＡ’１、前記画素［ｍ］［ｎ］と画素［ｍ−
    １］［ｎ］との差をＡ’２、ＩＴＵ−Ｔ ＤＲＡＦＴ
    Ｈ．２６３の規格に基づいて量子化された要素をＱＰと
    するとき、 条件式（（Ａ’１＞ＱＰ）ａｎｄ（Ａ’２＞ＱＰ））ｏ
    ｒ（Ａ’１＞２ＱＰ）ｏｒ（Ａ’２＞２ＱＰ）を満足す
    れば、エッジとして検出され、エッジ［ｍ］［ｎ］＝
    ‘１’となり、 前記信号適応フィルタリング段階は、一つの画素を中心に十字状に４方向に異なる四つの画素
    が連結された ４−コネクティッドフィルターウィンドウ
    を前記８×８ブロックに対し適用して、前記フィルター
    ウィンドウの中心画素がエッジであればフィルタリング
    を行わず、前記フィルターウィンドウの中心画素がエッ
    ジでなければ加重フィルタリングを行うことを特徴とす
    る請求項２に記載の映像データループフィルタリング方
    法。
  13. 【請求項１３】 前記フィルタリング段階におけるリン
    ギングノイズを減少させるデリンギングフィルタリング
    の遂行成否は、 ループフィルタリングしようとするフレームを成してい
    る所定ブロックをブロックＩとし、前記ブロックＩと隣
    接したブロックをブロックＪとするとき、 前記ブロックＩに関し、現ブロックと逆量子化された前
    ブロックとの差が所定の値以下であり、前記ブロックＪ
    に関し、現ブロックと逆量子化された前ブロックとの差
    が所定の値以下であれば、デリンギングフィルタリング
    を行わないことを特徴とする請求項２に記載の映像デー
    タループフィルタリング方法。
  14. 【請求項１４】 前記フィルタリング段階におけるリン
    ギングノイズを減少させるデリンギングフィルタリング
    の遂行成否は、 ループフィルタリングしようとするフレームを成してい
    る所定ブロックをブロックＩとし、前記ブロックＩと隣
    接したブロックをブロックＪとするとき、 ブロックＩのリンギングフラグがデリンギングフィルタ
    リングが必要有りを示すかどうかを検査し、デリンギン
    グフィルタリングが必要有りを示せばデリンギングフィ
    ルタリングを行い、そうでなければデリンギングフィル
    タリングを行わないことを特徴とする請求項４に記載の
    映像データループフィルタリング方法。
  15. 【請求項１５】 前記フィルタリング段階におけるリン
    ギングノイズを減少させるデリンギングフィルタリング
    の遂行成否は、 ループフィルタリングしようとするフレームを成してい
    る所定ブロックをブロックＩとするとき、 ブロックＩがイントラブロックであればデリンギングフ
    ィルタリングを行う段階と、 前記ブロックＩがイントラブロックでなく、８×８予測
    モードを使用したブロックであれば、デリンギングフィ
    ルタリングを行う段階と、 前記ブロックＩがイントラブロックでなく、８×８予測
    モードを使用したブロックでなく、ブロックＩのＲＦ１
    がデリンギングフィルタリングが必要有りを示せばデリ
    ンギングフィルタリングを行い、ブロックＩのＲＦ１が
    デリンギングフィルタリングが必要無しを示せばデリン
    ギングフィルタリングを行わない段階とよりなることを
    特徴とする請求項７に記載の映像データループフィルタ
    リング方法。
  16. 【請求項１６】 前記デリンギングフィルタリングは、 映像データの水平エッジ及び垂直エッジを検出するエッ
    ジ検出段階と、 リンギングノイズを減少させようとする８×８ブロック
    に対し２次元信号適応フィルタリングをする信号適応フ
    ィルタリング段階とよりなり、 前記エッジ検出段階の水平エッジ検出は、画素［ｍ］
    ［ｎ］、前記画素［ｍ］［ｎ］の右側の画素を画素
    ［ｍ］［ｎ＋１］、左側の画素を画素［ｍ］［ｎ−
    １］、前記画素［ｍ］［ｎ］と画素［ｍ］［ｎ＋１］と
    の差をＡ１、前記画素［ｍ］［ｎ］と画素［ｍ］［ｎ−
    １］との差をＡ２、ＩＴＵ−Ｔ ＤＲＡＦＴ Ｈ．２６
    ３の規格に基づいて量子化された要素をＱＰとすると
    き、条件式（（Ａ１＞ＱＰ）ａｎｄ（Ａ２＞ＱＰ））ｏ
    ｒ（Ａ１＞２ＱＰ）ｏｒ（Ａ２＞２ＱＰ）を満足すれ
    ば、エッジとして検出され、エッジ［ｍ］［ｎ］＝１と
    なり、 前記エッジ検出段階の垂直エッジ検出は、画素［ｍ］
    ［ｎ］、前記画素［ｍ］［ｎ］の上方の画素を画素［ｍ
    ＋１］［ｎ］、下方の画素を画素［ｍ−１］［ｎ］、前
    記画素［ｍ］［ｎ］と画素［ｍ＋１］［ｎ］との差を
    Ａ’１、前記画素［ｍ］［ｎ］と画素［ｍ−１］［ｎ］
    との差をＡ’２、ＩＴＵ−Ｔ ＤＲＡＦＴＨ．２６３の
    規格に基づいて量子化された要素をＱＰとするとき、条
    件式（（Ａ’１＞ＱＰ）ａｎｄ（Ａ’２＞ＱＰ））ｏｒ
    （Ａ’１＞２ＱＰ）ｏｒ（Ａ’２＞２ＱＰ）を満足すれ
    ば、エッジとして検出され、エッジ［ｍ］［ｎ］＝
    ‘１’となり、 前記信号適応フィルタリング段階は、一つの画素を中心に十字状に４方向に異なる四つの画素
    が連結された ４−コネクティッドフィルターウィンドウ
    を前記８×８ブロックに対し適用して、前記フィルター
    ウィンドウの中心画素がエッジであればフィルタリング
    を行わず、前記フィルターウィンドウの中心画素がエッ
    ジでなければ加重フィルタリングを行うことを特徴とす
    る請求項１３または１４に記載の映像データループフィ
    ルタリング方法。
  17. 【請求項１７】 映像データをブロックに基づきエンコ
    ーディング及びデコーディングする時、ブロック４つが
    会うクロスポイントのコーナーで発生するコーナー異常
    値を低減させるために、 逆量子化された前記映像データの８×８ブロックのコー
    ナー異常値を検出する検出段階と、 前記検出されたコーナー異常値を補償する補償段階とを
    さらに具備することを特徴とし、 前記検出段階は、前記クロスポイントを中心とした４つ
    の画素を画素Ａ，Ｂ，Ｃ及びＤとし、Ａ，Ｂ，Ｃ、及び
    Ｄの各画素値をａ，ｂ，ｃ，ｄとし、平均値Ａｖｅｒａ
    ｇｅ＝（ａ＋ｂ＋ｃ＋ｄ＋２）／４とおき、各画素値と
    Ａｖｅｒａｇｅとの差をＩＴＵ−Ｔ ＤＲＡＦＴ Ｈ．
    ２６３の規格に基づいて量子化された要素ＱＰと比較し
    て、前記差がＱＰより大きければ、コーナー異常値候補
    画素の個数を累積してコーナー異常値を検出し、 前記補償段階は、前記Ａの属するブロックにおいて前記
    Ａと隣り合う画素をＡ１，Ａ２とし、前記画素Ａと対角
    線に位置する画素をＡ３とし、その画素値を各々 ａ
    １，ａ２及びａ３とするとき、前記検出段階で検出され
    たコーナー異常値候補が 一つで、該画素がＡであれ
    ば、前記ａとａ３との差が３ＱＰ／２より小さければ、
    コーナー異常値補償は次式 ◎ 【数１】 のようになり、 前記コーナー異常値候補画素数が二つ以上であれば、
    （ａ３＋ｂ３＋ｃ３＋ｄ３＋２）／４（ここで、ｂ３，
    ｃ３，ｄ３もａ３と同様の方式で定義される）から最大
    の差を有する候補が選ばれ、該補償は前記一つの候補の
    場合でのような方法で行われることを特徴とする請求項
    １に記載の映像データループフィルタリング方法。
  18. 【請求項１８】 映像データをブロックに基づきエンコ
    ーディング及びデコーディングする際に発生する量子化
    効果を低減させるための映像データループフィルタリン
    グ装置において、 映像データの逆量子化係数の分布及び前フレームと現フ
    レームとの差を示す動きベクトルを用い、映像データの
    ループフィルタリング必要性の可否を示すフラグを抽出
    するフラグ抽出部と、 前記フラグ抽出部で抽出されたブロッキングフラグを検
    査して、前記映像データをデブロッキングフィルタリン
    グするデブロッキングフィルターと、 前記デブロッキングフィルタリングされたデータの内コ
    ーナー異常値を検出して補償するコーナー異常値補償部
    と、 前記フラグ抽出部で抽出されたリンギングフラグを検査
    して、前記コーナー異常値補償されたデータをデリンギ
    ングフィルタリングするデリンギングフィルターとを含
    むことを特徴とし、 前記フラグは、 ブロック境界近傍のブロッキングアーチファクトを減少
    させる必要性の有無を示すブロッキングフラグと、 映像エッジ近傍のリンギングノイズを減少させる必要性
    の有無を示すリンギングフラグとよりなる映像データル
    ープフィルタリング装置。
  19. 【請求項１９】 前記フラグ抽出部は、 イントラフラグ及びインターフラグを抽出し、 前記イントラフラグの抽出は、 逆量子化された前記映像データの逆量子化係数の分布を
    用い、 前記インターフラグの抽出は、 前フレームと現フレームとの差を示す動きベクトルを用
    いることを特徴とする請求項１８に記載の映像データル
    ープフィルタリング装置。
  20. 【請求項２０】 映像データをブロックに基づきエンコ
    ーディング及びデコーディングする際に発生する量子化
    効果を低減させるための映像データループフィルタリン
    グにおいて、 逆量子化された映像データの逆量子化係数の分布及び前
    フレームと現フレームとの差を示す動きベクトルを用
    い、前記映像データのループフィルタリングの必要性の
    有無を示すフラグを抽出するフラグ抽出段階と、 前記抽出されたフラグがループフィルタリングが必要あ
    りを示せば、前記フラグに相応する映像データを所定の
    方法によりフィルタリングするフィルタリング段階とを
    含み、 前記フラグ抽出は、前記ループフィルタリングしようと
    する映像フレームがイントラフレームであれば各ブロッ
    クのＤＣＴドメインから抽出し、前記ループフィルタリ
    ングしようとする映像フレームがインターフレームであ
    れば残差信号及び基準フレームのフラグから抽出するこ
    とを特徴とする映像データループフィルタリング方法を
    実行させるためのプログラムを記録したコンピュータに
    て読取り可能な記録媒体。
  21. 【請求項２１】 前記フラグがブロック境界近傍のブロ
    ッキングアーチファクトを減少させる必要性の有無を示
    すブロッキングフラグと、映像エッジ近傍のリンギング
    ノイズを減少させる必要性の有無を示すリンギングフラ
    グとよりなる時、 前記映像データがイントラフレームの場合、前記イント
    ラフレームのブロッキングフラグはＨＢＦ及びＶＢＦよ
    りなり、 前記イントラフレームの水平及び垂直ブロッキングフラ
    グ抽出は、前記圧縮された映像データが逆量子化された
    後に、前記逆量子化された８×８ブロックに対するＤＣ
    Ｔ係数を求める段階と、前記８×８ブロックを成す６４
    個の画素の内前記ブロックの最上及び最左側に位置した
    ＤＣＴ係数（ＤＣ成分）をＵとし、前記ＤＣＴ係数Ｕの
    すぐ右側のＤＣＴ係数をＶ、前記ＤＣＴ係数Ｕの真下の
    ＤＣＴ係数をＷとするとき、前記ＤＣＴ係数Ｕのみが
    ‘０’でない値を有すると、前記ＨＢＦ及びＶＢＦをル
    ープフィルタリングが必要ありを示す情報‘１’にセッ
    トする段階と、前記逆量子化された８×８ブロックの最
    上位行のみが‘０’でない値を有するＤＣＴ係数を含ん
    でいるとき、ＶＢＦをループフィルタリングが必要あり
    を示す情報‘１’にセットする段階と、前記逆量子化さ
    れた８×８ブロックの最左側のカラムのみが‘０’でな
    い値を有するＤＣＴ係数を含んでいる時、ＨＢＦをルー
    プフィルタリングが必要ありを示す情報‘１’にセット
    する段階とよりなり、 前記イントラフレームのリンギングフラグ抽出は、前記
    ８×８ブロックを成す６４個の画素の内前記ブロックの
    最上、最左側に位置したＤＣＴ係数（ＤＣ成分）をＵと
    し、前記ＤＣＴ係数Ｕのすぐ右側のＤＣＴ係数をＶ、前
    記ＤＣＴ係数Ｕの真下のＤＣＴ係数をＷとするとき、前
    記逆量子化された８×８ブロックのＤＣＴ係数Ｕ，Ｖ及
    びＷ以外の位置にいずれか一つでも‘０’でない係数値
    を有する時、リンギングフラグＲＦをループフィルタリ
    ングする必要ありを示す情報‘１’にセットし、 前記映像データがインターフレームの場合、現インター
    フレームのブロッキングフラグは水平ブロッキングフラ
    グ及び垂直ブロッキングフラグよりなり、 前記現インターフレームのブロックＡｃに対する水平及
    び垂直ブロッキングフラグ抽出は、基準フレームが所定
    の基準ブロックよりなり、前記現インターフレームのブ
    ロックＡｃの動きベクトル（ＭＶｘ，ＭＶｙ）により推
    定される基準フレームのブロックを動きブロックＸとす
    るとき、前記動きブロックＸが前記基準ブロックと重な
    った度合いを調べる段階と、重なったＤＣＴ係数数が所
    定個数以上である基準ブロックのＨＢＦ及びＶＢＦをビ
    ット別に論理積演算する段階と、前記演算の結果を現Ｖ
    ＯＰのブロックＡｃの水平及び垂直ブロッキングフラグ
    にセットし、 現インターフレームのブロックＡｃに対するリンギング
    フラグ抽出は、インターフレームの８×８ブロックにお
    ける残差信号の逆量子化係数ＩＱＣが‘０’でなければ
    現ブロックＡｃのリンギングフラグＲＦを‘１’にセッ
    トする段階と、マクロブロックＭＢに対する動きベクト
    ルを伝達する８×８予測モードが現ブロックに使用され
    るとＲＦを‘１’にセットする段階とよりなることを特
    徴とする請求項２０に記載の映像データループフィルタ
    リング方法を実行させるためのプログラムを記録したコ
    ンピュータにて読取り可能な記録媒体。
  22. 【請求項２２】 前記フィルタリング段階のフィルタリ
    ングは、 ループフィルタリングしようとするフレームを成してい
    る所定ブロックをブロックＩとし、前記ブロックＩと隣
    接したブロックをブロックＪとするとき、前記ブロック
    Ｉに関し、現ブロックと逆量子化された前ブロックとの
    差が所定の値以下であり、前記ブロックＪに関し、現ブ
    ロックと逆量子化された前ブロックとの差が所定の値以
    下であれば、デブロッキングフィルタリングを行わない
    ことを特徴とする請求項２１に記載の映像データループ
    フィルタリング方法を実行させるためのプログラムを記
    録したコンピュータにて読取り可能な記録媒体。
  23. 【請求項２３】 ブロッキングアーチファクトを減少さ
    せるためのデブロッキングフィルタリングは、 ループフィルタリングしようとするフレームを成してい
    る所定ブロックをブロックＩとし、前記ブロックＩと隣
    接したブロックをブロックＪとするとき、 ブロックＩ及びブロックＪのリンギングフラグＲＦが共
    にリンギングノイズを減少させる必要無しを示し、ブロ
    ックＩのＨＢＦとブロックＪのＨＢＦが共にブロッキン
    グアーチファクトを減少させる必要有りを示せば、前記
    ブロックＩとブロックＪとを仕切る水平ブロック境界線
    を介在した所定個数の画素値を変化させる第１フィルタ
    リングを行う段階と、 ブロックＩ及びブロックＪのリンギングフラグＲＦが共
    にリンギングノイズを減少させる必要無しを示し、ブロ
    ックＩのＨＢＦとブロックＪのＨＢＦの少なくともいず
    れか一方でもブロッキングアーチファクトを減少させる
    必要無しを示せば、あるいはブロックＩ及びブロックＪ
    のリンギングフラグＲＦの少なくともいずれか一方がリ
    ンギングノイズを減少させる必要有りを示せば、水平ブ
    ロック境界線を挟んで隣接した二画素の差とＩＴＵ−Ｔ
    ＤＲＡＦＴ Ｈ．２６３の規格に基づいて量子化され
    た要素であるＱＰとを比較し、二画素の差がＱＰより小
    さければ前記第１フィルタリングより小さい個数の画素
    値を変化させる第２フィルタリングを行う段階とよりな
    り、 前記ブロックＩとブロックＪとを仕切る水平ブロック境
    界線を介在した６個の画素をＡ，Ｂ，Ｃ，Ｄ，Ｅ及びＦ
    とし、前記画素Ｃ及びＤを前記水平ブロック境界線に最
    も隣接した画素、前記画素Ａ及びＦが水平ブロック境界
    線から最も遠い画素、前記画素Ｂ及びＤが前記Ａ及び
    Ｃ，Ｄ及びＦの中間に位置した画素とするとき、 前記第１フィルタリングは、前記６つの画素に対し７−
    タブ（１，１，１，２，１，１，１）ローパスフィルタ
    リングを行い、 前記第２フィルタリングは、前記画素Ｃ及びＤに対しフ
    ィルタリングを行うが、前記画素Ｃ及びＤの差の絶対値
    がＩＴＵ−Ｔ ＤＲＡＦＴ Ｈ．２６３の規格に基づい
    て量子化された要素であるＱＰより小さければ、ＣはＣ
    ＋（Ｄ−Ｃ）／４に、ＤはＤ＋（Ｄ−Ｃ）／４に置き換
    え、 垂直ブロック境界線を介在した画素に関しては、前記Ｖ
    ＢＦを用いて前記水平ブロック境界線を介在した画素と
    同様の方式でフィルタリングをすることを特徴とする請
    求項２１に記載の映像データループフィルタリング方法
    を実行させるためのプログラムを記録したコンピュータ
    にて読取り可能な記録媒体。
  24. 【請求項２４】 前記フィルタリング段階のデリンギン
    グフィルタリングは、 映像データの水平エッジ及び垂直エッジを検出するエッ
    ジ検出段階と、 リンギングノイズを減少しようとする８×８ブロックに
    関し、２次元信号適応フィルタリングをする信号適応フ
    ィルタリング段階とよりなることを特徴とし、 前記エッジ検出段階の水平エッジ検出は、 所定の大きさを有するブロック内の１画素を画素［ｍ］
    ［ｎ］とし、前記画素［ｍ］［ｎ］の右側の画素を画素
    ［ｍ］［ｎ＋１］、左側の画素を画素［ｍ］［ｎ−
    １］、前記画素［ｍ］［ｎ］と画素［ｍ］［ｎ＋１］と
    の差をＡ１、前記画素［ｍ］［ｎ］と画素［ｍ］［ｎ＋
    １］との差をＡ２、ＩＴＵ−Ｔ ＤＲＡＦＴＨ．２６３
    の規格に基づいて量子化された要素をＱＰとするとき、
    条件式（（Ａ１＞ＱＰ）ａｎｄ（Ａ２＞ＱＰ））ｏｒ
    （Ａ１＞２ＱＰ）ｏｒ（Ａ２＞２ＱＰ）を満足すれば、
    エッジとして検出され、エッジ［ｍ］［ｎ］＝１とな
    り、 前記エッジ検出段階の垂直エッジ検出は、 前記画素［ｍ］［ｎ］の上方の画素を画素［ｍ＋１］
    ［ｎ］、下方の画素を画素［ｍ−１］［ｎ］、前記画素
    ［ｍ］［ｎ］と画素［ｍ＋１］［ｎ］との差をＡ’１、
    前記画素［ｍ］［ｎ］と画素［ｍ−１］［ｎ］との差を
    Ａ’２、ＩＴＵ−Ｔ ＤＲＡＦＴ Ｈ．２６３の規格に
    基づいて量子化された要素をＱＰとするとき、条件式
    （（Ａ’１＞ＱＰ）ａｎｄ（Ａ’２＞ＱＰ））ｏｒ
    （Ａ’１＞２ＱＰ）ｏｒ（Ａ’２＞２ＱＰ）を満足すれ
    ば、エッジとして検出され、エッジ［ｍ］［ｎ］＝
    ‘１’となり、 前記信号適応フィルタリング段階は、一つの画素を中心に十字状に４方向に異なる四つの画素
    が連結された ４−コネクティッドフィルターウィンドウ
    を前記８×８ブロックに対し適用して、前記フィルター
    ウィンドウの中心画素がエッジであればフィルタリング
    を行わず、前記フィルターウィンドウの中心画素がエッ
    ジでなければ加重フィルタリングを行うことを特徴とす
    る請求項２１に記載の映像データループフィルタリング
    方法を実行させるのためのプログラムを記録したコンピ
    ュータにて読取り可能な記録媒体。
  25. 【請求項２５】 映像データをブロックに基づきエンコ
    ーディング及びデコーディングするとき、ブロック４つ
    が会うクロスポイントのコーナーで発生するコーナー異
    常値を減少させるために、逆量子化された前記映像デー
    タの８×８ブロックのコーナー異常値を検出する検出段
    階と、前記検出されたコーナー異常値を補償する補償段
    階とをさらに具備することを特徴とし、 前記検出段階は、前記クロスポイントを中心とした４個
    の画素を画素Ａ，Ｂ，Ｃ及びＤとし、Ａ，Ｂ，Ｃ及びＤ
    の各画素値をａ，ｂ，ｃ，ｄとし、平均値Ａｖｅｒａｇ
    ｅ＝（ａ＋ｂ＋ｃ＋ｄ＋２）／４とすれば、各画素値と
    Ａｖｅｒａｇｅとの差をＩＴＵ−Ｔ ＤＲＡＦＴ Ｈ．
    ２６３の規格に基づいて量子化された要素ＱＰと比較
    し、前記差がＱＰより大きければ、コーナー異常値候補
    画素個数を累積してコーナー異常値を検出し、 前記補償段階は、前記Ａの属するブロックにおいて前記
    Ａと隣り合う画素をＡ１，Ａ２とし、前記画素Ａと対角
    線に位置する画素をＡ３とし、その画素値を各々 ａ
    １，ａ２，ａ３とするとき、前記検出段階で検出された
    コーナー異常値候補が一 つで、該画素がＡであれば、
    前記ａとａ３との差が３ＱＰ／２より小さければ、 コ
    ーナー異常値補償は次式 ◎ 【数２】 のようになり、 前記コーナー異常値候補画素数が二つ以上であれば、
    （ａ３＋ｂ３＋ｃ３＋ｄ３＋２）／４（ここで、ｂ３，
    ｃ３，ｄ３もａ３と同様の方式で定義される）から最大
    の差を有する候補が選ばれ、該補償は前記一つの候補の
    場合でのような方法で行われることを特徴とする請求項
    ２１に記載の映像データループフィルタリング方法を実
    行させるためのプログラムを記録したコンピュータにて
    読取り可能な記録媒体。
JP1362899A 1998-08-01 1999-01-21 映像データループフィルタリング方法及び装置 Expired - Lifetime JP3308921B2 (ja)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
KR1019980031431A KR100301013B1 (ko) 1998-08-01 1998-08-01 영상데이터 루프필터링방법 및 장치
KR1019980046822A KR100331331B1 (ko) 1998-11-02 1998-11-02 영상데이터 루프필터링 방법
KR199831431 1998-11-02
KR199846822 1998-11-02

Publications (2)

Publication Number Publication Date
JP2000059769A JP2000059769A (ja) 2000-02-25
JP3308921B2 true JP3308921B2 (ja) 2002-07-29

Family

ID=26633999

Family Applications (1)

Application Number Title Priority Date Filing Date
JP1362899A Expired - Lifetime JP3308921B2 (ja) 1998-08-01 1999-01-21 映像データループフィルタリング方法及び装置

Country Status (6)

Country Link
US (3) US6665346B1 (ja)
JP (1) JP3308921B2 (ja)
AU (1) AU717480B2 (ja)
BR (1) BRPI9901340B1 (ja)
RU (1) RU2154918C1 (ja)
SG (1) SG70679A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10027987B2 (en) 2011-01-11 2018-07-17 Sony Corporation Image processing apparatus and method

Families Citing this family (140)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100243225B1 (ko) * 1997-07-16 2000-02-01 윤종용 블록화효과 및 링잉잡음 감소를 위한 신호적응필터링방법 및신호적응필터
KR100308016B1 (ko) 1998-08-31 2001-10-19 구자홍 압축 부호화된 영상에 나타나는 블럭현상 및 링현상 제거방법및 영상 복호화기
US6535643B1 (en) 1998-11-03 2003-03-18 Lg Electronics Inc. Method for recovering compressed motion picture for eliminating blocking artifacts and ring effects and apparatus therefor
US6735249B1 (en) * 1999-08-11 2004-05-11 Nokia Corporation Apparatus, and associated method, for forming a compressed motion vector field utilizing predictive motion coding
KR100335055B1 (ko) 1999-12-08 2002-05-02 구자홍 압축 영상신호의 블럭현상 및 링현상 제거방법
KR100380229B1 (ko) * 2000-07-19 2003-04-16 엘지전자 주식회사 엠펙(ＭＰＥＧ) 압축 비디오 환경에서 매크로 블록의 시공간상의 분포를 이용한 와이프(Ｗｉｐｅ) 및 특수 편집 효과 검출 방법
JP3489735B2 (ja) * 2000-08-16 2004-01-26 松下電器産業株式会社 デブロッキングフィルタ演算装置
US7054500B1 (en) * 2000-12-06 2006-05-30 Realnetworks, Inc. Video compression and decompression system with postfilter to filter coding artifacts
US6931063B2 (en) 2001-03-26 2005-08-16 Sharp Laboratories Of America, Inc. Method and apparatus for controlling loop filtering or post filtering in block based motion compensationed video coding
US7450641B2 (en) 2001-09-14 2008-11-11 Sharp Laboratories Of America, Inc. Adaptive filtering based upon boundary strength
US6993191B2 (en) * 2001-05-04 2006-01-31 Pts Corporation Methods and apparatus for removing compression artifacts in video sequences
JP4145665B2 (ja) * 2001-05-10 2008-09-03 松下電器産業株式会社 画像処理装置及び画像処理方法
US7054362B1 (en) 2001-05-29 2006-05-30 Cisco Technology, Inc. Methods and apparatus for updating a reduction ratio
US7773670B1 (en) 2001-06-05 2010-08-10 At+T Intellectual Property Ii, L.P. Method of content adaptive video encoding
US6968006B1 (en) 2001-06-05 2005-11-22 At&T Corp. Method of content adaptive video decoding
US6970513B1 (en) 2001-06-05 2005-11-29 At&T Corp. System for content adaptive video decoding
US6810086B1 (en) 2001-06-05 2004-10-26 At&T Corp. System and method of filtering noise
US6909745B1 (en) 2001-06-05 2005-06-21 At&T Corp. Content adaptive video encoder
US7003173B2 (en) * 2001-06-12 2006-02-21 Sharp Laboratories Of America, Inc. Filter for combined de-ringing and edge sharpening
KR100525785B1 (ko) * 2001-06-15 2005-11-03 엘지전자 주식회사 이미지 화소 필터링 방법
JP3732760B2 (ja) * 2001-06-29 2006-01-11 株式会社東芝 物体認識装置及び物体認識方法
US20030043172A1 (en) * 2001-08-24 2003-03-06 Huiping Li Extraction of textual and graphic overlays from video
US9042445B2 (en) 2001-09-24 2015-05-26 Broadcom Corporation Method for deblocking field-frame video
US7440504B2 (en) * 2001-09-24 2008-10-21 Broadcom Corporation Method and apparatus for performing deblocking filtering with interlace capability
EP2320661B8 (en) * 2001-11-29 2015-09-02 Godo Kaisha IP Bridge 1 Coding distortion removal method
WO2003047267A1 (en) * 2001-11-29 2003-06-05 Matsushita Electric Industrial Co., Ltd. Coding distortion removal method, moving picture coding method, moving picture decoding method, and apparatus for realizing the same, program
CN101448162B (zh) * 2001-12-17 2013-01-02 微软公司 处理视频图像的方法
EP2894856A1 (en) 2002-01-31 2015-07-15 Samsung Electronics Co., Ltd Filtering method and apparatus for reducing block artifacts or ringing noise
ATE354142T1 (de) * 2002-03-26 2007-03-15 Koninkl Philips Electronics Nv Bildsignalnachbearbeitungsverfahren
US8284844B2 (en) 2002-04-01 2012-10-09 Broadcom Corporation Video decoding system supporting multiple standards
US7543326B2 (en) * 2002-06-10 2009-06-02 Microsoft Corporation Dynamic rate control
US20030235250A1 (en) * 2002-06-24 2003-12-25 Ankur Varma Video deblocking
CN100358366C (zh) 2002-07-11 2007-12-26 松下电器产业株式会社 滤波强度的决定方法、动态图像编码方法及解码方法
KR101066051B1 (ko) * 2002-11-15 2011-09-20 퀄컴 인코포레이티드 다중 디스크립션 인코딩용 장치 및 방법
US7463688B2 (en) * 2003-01-16 2008-12-09 Samsung Electronics Co., Ltd. Methods and apparatus for removing blocking artifacts of MPEG signals in real-time video reception
US7995849B2 (en) * 2003-03-17 2011-08-09 Qualcomm, Incorporated Method and apparatus for improving video quality of low bit-rate video
US7792194B2 (en) * 2003-04-10 2010-09-07 Lefan Zhong MPEG artifacts post-processed filtering architecture
US9330060B1 (en) 2003-04-15 2016-05-03 Nvidia Corporation Method and device for encoding and decoding video image data
US20040208389A1 (en) * 2003-04-15 2004-10-21 Silicon Integrated Systems Corp. Digital picture processing method
US8660182B2 (en) * 2003-06-09 2014-02-25 Nvidia Corporation MPEG motion estimation based on dual start points
US20050013494A1 (en) * 2003-07-18 2005-01-20 Microsoft Corporation In-loop deblocking filter
KR100936034B1 (ko) 2003-08-11 2010-01-11 삼성전자주식회사 블록 단위로 부호화된 디지털 영상의 블로킹 현상을제거하는 방법 및 그 영상재생장치
BRPI0413988A (pt) 2003-08-26 2006-11-07 Thomson Licensing método e aparelho para decodificar blocos intra-inter codificador hìbridos
EP1661409A2 (en) * 2003-08-26 2006-05-31 Thomson Licensing S.A. Method and apparatus for minimizing number of reference pictures used for inter-coding
US8625680B2 (en) * 2003-09-07 2014-01-07 Microsoft Corporation Bitstream-controlled post-processing filtering
US7724827B2 (en) 2003-09-07 2010-05-25 Microsoft Corporation Multi-layer run level encoding and decoding
US7394855B2 (en) * 2003-11-20 2008-07-01 Mitsubishi Electric Research Laboratories, Inc. Error concealing decoding method of intra-frames of compressed videos
US7471845B2 (en) * 2004-01-06 2008-12-30 Sharp Laboratories Of America, Inc. De-ringing filter
KR101000926B1 (ko) * 2004-03-11 2010-12-13 삼성전자주식회사 영상의 불연속성을 제거하기 위한 필터 및 필터링 방법
US8503542B2 (en) * 2004-03-18 2013-08-06 Sony Corporation Methods and apparatus to reduce blocking noise and contouring effect in motion compensated compressed video
JP4566591B2 (ja) * 2004-03-19 2010-10-20 キヤノン株式会社 画像変形推定方法および画像変形推定装置
US20050243914A1 (en) * 2004-04-29 2005-11-03 Do-Kyoung Kwon Adaptive de-blocking filtering apparatus and method for mpeg video decoder
US7460596B2 (en) * 2004-04-29 2008-12-02 Mediatek Incorporation Adaptive de-blocking filtering apparatus and method for MPEG video decoder
US7496141B2 (en) * 2004-04-29 2009-02-24 Mediatek Incorporation Adaptive de-blocking filtering apparatus and method for MPEG video decoder
US7397854B2 (en) * 2004-04-29 2008-07-08 Mediatek Incorporation Adaptive de-blocking filtering apparatus and method for MPEG video decoder
US7539248B2 (en) * 2004-04-29 2009-05-26 Mediatek Incorporation Adaptive de-blocking filtering apparatus and method for MPEG video decoder
US7397853B2 (en) * 2004-04-29 2008-07-08 Mediatek Incorporation Adaptive de-blocking filtering apparatus and method for MPEG video decoder
US7400679B2 (en) * 2004-04-29 2008-07-15 Mediatek Incorporation Adaptive de-blocking filtering apparatus and method for MPEG video decoder
US7801383B2 (en) 2004-05-15 2010-09-21 Microsoft Corporation Embedded scalar quantizers with arbitrary dead-zone ratios
US20050281339A1 (en) * 2004-06-22 2005-12-22 Samsung Electronics Co., Ltd. Filtering method of audio-visual codec and filtering apparatus
US7953152B1 (en) 2004-06-28 2011-05-31 Google Inc. Video compression and encoding method
US8085846B2 (en) 2004-08-24 2011-12-27 Thomson Licensing Method and apparatus for decoding hybrid intra-inter coded blocks
US7697782B2 (en) 2004-09-16 2010-04-13 Sharp Laboratories Of America, Inc. System for reducing ringing artifacts
US20060062311A1 (en) * 2004-09-20 2006-03-23 Sharp Laboratories Of America, Inc. Graceful degradation of loop filter for real-time video decoder
NO322722B1 (no) * 2004-10-13 2006-12-04 Tandberg Telecom As Fremgangsmate for videokoding gjennom reduksjon av blokkartefakter
US7136536B2 (en) * 2004-12-22 2006-11-14 Telefonaktiebolaget L M Ericsson (Publ) Adaptive filter
WO2006075973A1 (en) * 2005-01-14 2006-07-20 Matsushita Electric Industrial Co., Ltd. Decoding and encoding using motion-compensated temporal filtering
US8223845B1 (en) * 2005-03-16 2012-07-17 Apple Inc. Multithread processing of video frames
US8422546B2 (en) 2005-05-25 2013-04-16 Microsoft Corporation Adaptive video encoding using a perceptual model
KR100703200B1 (ko) * 2005-06-29 2007-04-06 한국산업기술대학교산학협력단 인트라 부호화 장치 및 방법
US8731071B1 (en) 2005-12-15 2014-05-20 Nvidia Corporation System for performing finite input response (FIR) filtering in motion estimation
US8724702B1 (en) 2006-03-29 2014-05-13 Nvidia Corporation Methods and systems for motion estimation used in video coding
US8130828B2 (en) 2006-04-07 2012-03-06 Microsoft Corporation Adjusting quantization to preserve non-zero AC coefficients
US8059721B2 (en) 2006-04-07 2011-11-15 Microsoft Corporation Estimating sample-domain distortion in the transform domain with rounding compensation
US7995649B2 (en) 2006-04-07 2011-08-09 Microsoft Corporation Quantization adjustment based on texture level
US8503536B2 (en) 2006-04-07 2013-08-06 Microsoft Corporation Quantization adjustments for DC shift artifacts
US7974340B2 (en) 2006-04-07 2011-07-05 Microsoft Corporation Adaptive B-picture quantization control
US8711925B2 (en) 2006-05-05 2014-04-29 Microsoft Corporation Flexible quantization
US20070286277A1 (en) * 2006-06-13 2007-12-13 Chen Xuemin Sherman Method and system for video compression using an iterative encoding algorithm
JP4410225B2 (ja) * 2006-08-07 2010-02-03 株式会社東芝 動画像復号化装置および方法
US8660380B2 (en) * 2006-08-25 2014-02-25 Nvidia Corporation Method and system for performing two-dimensional transform on data value array with reduced power consumption
US20080084932A1 (en) * 2006-10-06 2008-04-10 Microsoft Corporation Controlling loop filtering for interlaced video frames
JP2008109389A (ja) * 2006-10-25 2008-05-08 Canon Inc 画像処理装置および画像処理装置の制御方法
WO2008057308A2 (en) * 2006-11-08 2008-05-15 Thomson Licensing Methods and apparatus for in-loop de-artifact filtering
JP2008124742A (ja) * 2006-11-10 2008-05-29 Sony Corp 画像処理装置、画像処理方法、およびプログラム
EP2123051B1 (en) * 2006-12-18 2010-11-10 Koninklijke Philips Electronics N.V. Image compression and decompression
JP5418756B2 (ja) * 2007-01-22 2014-02-19 日本電気株式会社 画像再符号化装置、画像再符号化方法及び画像再符号化プログラム
US8189946B2 (en) * 2007-01-24 2012-05-29 Canon Kabushiki Kaisha Image processing apparatus and method thereof for detecting and removing noise in decoded images
KR100843100B1 (ko) * 2007-02-07 2008-07-03 삼성전자주식회사 디지털 영상에서의 블록 노이즈 저감 방법 및 장치, 이를이용한 인코딩/디코딩 방법 및 인코더/디코더
US8238424B2 (en) 2007-02-09 2012-08-07 Microsoft Corporation Complexity-based adaptive preprocessing for multiple-pass video compression
US8498335B2 (en) 2007-03-26 2013-07-30 Microsoft Corporation Adaptive deadzone size adjustment in quantization
US8243797B2 (en) 2007-03-30 2012-08-14 Microsoft Corporation Regions of interest for quality adjustments
US8442337B2 (en) 2007-04-18 2013-05-14 Microsoft Corporation Encoding adjustments for animation content
KR100856303B1 (ko) * 2007-05-18 2008-09-03 삼성전기주식회사 링잉 노이즈 제거 장치 및 노이즈 제거 장치
US8756482B2 (en) * 2007-05-25 2014-06-17 Nvidia Corporation Efficient encoding/decoding of a sequence of data frames
US20080291209A1 (en) * 2007-05-25 2008-11-27 Nvidia Corporation Encoding Multi-media Signals
US8331438B2 (en) 2007-06-05 2012-12-11 Microsoft Corporation Adaptive selection of picture-level quantization parameters for predicted video pictures
US9118927B2 (en) * 2007-06-13 2015-08-25 Nvidia Corporation Sub-pixel interpolation and its application in motion compensated encoding of a video signal
US8873625B2 (en) 2007-07-18 2014-10-28 Nvidia Corporation Enhanced compression in representing non-frame-edge blocks of image frames
TWI375470B (en) * 2007-08-03 2012-10-21 Via Tech Inc Method for determining boundary strength
KR100872253B1 (ko) * 2007-08-23 2008-12-05 삼성전기주식회사 이미지 센서에 의해 생성된 이미지의 노이즈 제거 방법
US8619880B2 (en) 2007-10-10 2013-12-31 Qualcomm Incorporated Universal blockiness correction
US8638852B2 (en) * 2008-01-08 2014-01-28 Qualcomm Incorporated Video coding of filter coefficients based on horizontal and vertical symmetry
KR20100103822A (ko) * 2008-01-14 2010-09-28 톰슨 라이센싱 다중 격자 성김-기반의 필터링을 사용하는 아티팩트 제거 필터링 방법 및 장치
US20100278236A1 (en) * 2008-01-17 2010-11-04 Hua Yang Reduced video flicker
US8542730B2 (en) * 2008-02-22 2013-09-24 Qualcomm, Incorporated Fast macroblock delta QP decision
KR101591825B1 (ko) * 2008-03-27 2016-02-18 엘지전자 주식회사 비디오 신호의 인코딩 또는 디코딩 방법 및 장치
US8189933B2 (en) 2008-03-31 2012-05-29 Microsoft Corporation Classifying and controlling encoding quality for textured, dark smooth and smooth video content
US8897359B2 (en) 2008-06-03 2014-11-25 Microsoft Corporation Adaptive quantization for enhancement layer video coding
US20090316793A1 (en) * 2008-06-20 2009-12-24 Yang Zhijie Michael Method and system for adaptive deblocking for avs1-p2
US8483495B2 (en) * 2008-07-25 2013-07-09 Sony Corporation Image processing device and method
JP2012510202A (ja) * 2008-11-25 2012-04-26 トムソン ライセンシング ビデオ符号化および復号のためのスパース性に基づくアーティファクト除去フィルタリングを行う方法および装置
US8666181B2 (en) * 2008-12-10 2014-03-04 Nvidia Corporation Adaptive multiple engine image motion detection system and method
TWI468020B (zh) * 2009-02-19 2015-01-01 Sony Corp Image processing apparatus and method
US8380001B2 (en) * 2009-02-27 2013-02-19 Vixs Systems, Inc. Edge adaptive deblocking filter and methods for use therewith
KR101647376B1 (ko) 2009-03-30 2016-08-10 엘지전자 주식회사 비디오 신호 처리 방법 및 장치
US10477249B2 (en) * 2009-06-05 2019-11-12 Apple Inc. Video processing for masking coding artifacts using dynamic noise maps
US20100322526A1 (en) * 2009-06-18 2010-12-23 Electronics And Telecommunications Research Institute Method of filtering restored image using plurality of filters and encoding/decoding apparatus and method using filtering method
CN101583041B (zh) * 2009-06-18 2012-03-07 中兴通讯股份有限公司 多核图像编码处理设备的图像滤波方法及设备
CN104506877B (zh) * 2009-06-19 2018-01-19 三菱电机株式会社 图像解码装置以及图像解码方法
TWI401972B (zh) * 2009-06-23 2013-07-11 Acer Inc 時間性錯誤隱藏方法
US8306355B2 (en) * 2009-07-13 2012-11-06 Sharp Laboratories Of America, Inc. Methods and systems for reducing compression artifacts
JP5344238B2 (ja) * 2009-07-31 2013-11-20 ソニー株式会社 画像符号化装置および方法、記録媒体、並びにプログラム
JP5359657B2 (ja) 2009-07-31 2013-12-04 ソニー株式会社 画像符号化装置および方法、記録媒体、並びにプログラム
US20110135011A1 (en) * 2009-12-04 2011-06-09 Apple Inc. Adaptive dithering during image processing
CN103109530A (zh) * 2010-07-09 2013-05-15 三星电子株式会社 使用可调整环路滤波对视频编码的方法和设备以及使用可调整环路滤波对视频解码的方法和设备
US9819966B2 (en) 2010-09-01 2017-11-14 Qualcomm Incorporated Filter description signaling for multi-filter adaptive filtering
US9247265B2 (en) * 2010-09-01 2016-01-26 Qualcomm Incorporated Multi-input adaptive filter based on combination of sum-modified Laplacian filter indexing and quadtree partitioning
US8787443B2 (en) 2010-10-05 2014-07-22 Microsoft Corporation Content adaptive deblocking during video encoding and decoding
US9055305B2 (en) * 2011-01-09 2015-06-09 Mediatek Inc. Apparatus and method of sample adaptive offset for video coding
US9020033B2 (en) * 2010-11-04 2015-04-28 Nice-Systems Ltd. System and method for enhancing compression using skip macro block on a compressed video
US9042458B2 (en) 2011-04-01 2015-05-26 Microsoft Technology Licensing, Llc Multi-threaded implementations of deblock filtering
KR20120140181A (ko) * 2011-06-20 2012-12-28 한국전자통신연구원 화면내 예측 블록 경계 필터링을 이용한 부호화/복호화 방법 및 그 장치
BR112014016291A8 (pt) * 2012-01-19 2017-07-04 Mitsubishi Electric Corp dispositivos e métodos de decodificação e codificação de vídeo
AU2013248857B2 (en) * 2012-04-16 2015-11-05 Hfi Innovation Inc. Method and apparatus for loop filtering across slice or tile boundaries
KR102056686B1 (ko) * 2013-02-18 2019-12-18 삼성디스플레이 주식회사 영상 처리부, 이를 포함하는 표시 장치 및 이를 이용한 영상 처리 방법
CN109845266B (zh) * 2016-10-14 2021-08-10 联发科技股份有限公司 用以移除涟漪效应的平滑化滤波方法和装置
CN107172423B (zh) * 2017-03-31 2018-08-21 武汉斗鱼网络科技有限公司 一种对视频帧进行滤波的方法及装置
WO2020064949A1 (en) * 2018-09-28 2020-04-02 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Deblocking or deringing filter and encoder, decoder and method for applying and varying a strength of a deblocking or deringing filter
CN112508913A (zh) * 2020-12-10 2021-03-16 国网江西省电力有限公司电力科学研究院 基于图像检测的电缆截面边沿检测方法

Family Cites Families (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02137489A (ja) 1988-11-17 1990-05-25 Mitsubishi Electric Corp 動き補償を含む画像符号化伝送装置
JPH02235491A (ja) 1989-03-09 1990-09-18 Toshiba Corp 画像符号化方式
US5164828A (en) * 1990-02-26 1992-11-17 Sony Corporation Video signal transmission and method and apparatus for coding video signal used in this
US5625714A (en) * 1991-01-10 1997-04-29 Olympus Optical Co., Ltd. Image signal decoding device capable of removing block distortion with simple structure
JP2868342B2 (ja) 1991-08-23 1999-03-10 日本電気株式会社 フレーム間予測符号化装置のループ内フィルタ制御方式
JPH05130592A (ja) 1991-10-31 1993-05-25 Toshiba Corp 動画像符号化装置
JP2549479B2 (ja) * 1991-12-06 1996-10-30 日本電信電話株式会社 動き補償フレーム間帯域分割符号化処理方法
JPH05183888A (ja) * 1991-12-27 1993-07-23 Mitsubishi Electric Corp 情報源符号化装置
JP3090763B2 (ja) 1992-02-06 2000-09-25 富士通株式会社 動画像符号化装置
FR2696256B1 (fr) * 1992-09-30 1994-11-25 Bull Sa Utilisation de "tubes" pour le transfert d'états entre différents systèmes distants.
US5565921A (en) * 1993-03-16 1996-10-15 Olympus Optical Co., Ltd. Motion-adaptive image signal processing system
US5432870A (en) * 1993-06-30 1995-07-11 Ricoh Corporation Method and apparatus for compressing and decompressing images of documents
KR970009302B1 (en) * 1993-08-17 1997-06-10 Lg Electronics Inc Block effect reducing apparatus for hdtv
JP3495766B2 (ja) * 1993-10-01 2004-02-09 テキサス インスツルメンツ インコーポレイテツド 画像処理方法
US6125398A (en) * 1993-11-24 2000-09-26 Intel Corporation Communications subsystem for computer-based conferencing system using both ISDN B channels for transmission
FR2718315B1 (fr) * 1994-03-30 1996-06-21 Sgs Thomson Microelectronics Circuit de compression d'image.
US5852669A (en) * 1994-04-06 1998-12-22 Lucent Technologies Inc. Automatic face and facial feature location detection for low bit rate model-assisted H.261 compatible coding of video
EP0697788A3 (en) * 1994-08-19 1997-03-26 Eastman Kodak Co Adaptive and global motion compensated cancellation of the interlacing of successive video images with post-processing
EP0721286A3 (en) * 1995-01-09 2000-07-26 Matsushita Electric Industrial Co., Ltd. Video signal decoding apparatus with artifact reduction
US5852475A (en) * 1995-06-06 1998-12-22 Compression Labs, Inc. Transform artifact reduction process
KR100192270B1 (ko) * 1996-02-03 1999-06-15 구자홍 에이치디티브이 비데오 디코더 회로
DE69709451T2 (de) 1996-02-05 2002-08-29 Koninkl Philips Electronics Nv Bilddatengeräuschfilterung
JP3297293B2 (ja) * 1996-03-07 2002-07-02 三菱電機株式会社 動画像復号方法および動画像復号装置
KR100242637B1 (ko) * 1996-07-06 2000-02-01 윤종용 동보상된 영상의 블록화효과 및 링잉노이즈 감소를 위한 루프필터링방법
GB2321856A (en) * 1997-02-06 1998-08-12 Brigitte Friedl Roulette betting layouts
US6462791B1 (en) * 1997-06-30 2002-10-08 Intel Corporation Constrained motion estimation and compensation for packet loss resiliency in standard based codec
US5825475A (en) * 1997-07-29 1998-10-20 Van Leer Metallized Products (Usa) Limited System and method for determining which of a plurality of visually indistinguishable objects have been marked with a covert indicator
JP4186242B2 (ja) * 1997-12-26 2008-11-26 ソニー株式会社 画像信号処理装置及び画像信号処理方法
US6134571A (en) * 1998-04-29 2000-10-17 Hewlett-Packard Company Implicit DST-based filter operating in the DCT domain
JP3606306B2 (ja) * 1998-10-08 2005-01-05 沖電気工業株式会社 画像符号化装置、画像復号化装置及び画像伝送システム
US6594313B1 (en) * 1998-12-23 2003-07-15 Intel Corporation Increased video playback framerate in low bit-rate video applications
US6708231B1 (en) * 1999-08-12 2004-03-16 Mitsumi Electric Co., Ltd. Method and system for performing a peripheral firmware update
WO2001078402A1 (en) * 2000-04-11 2001-10-18 Koninklijke Philips Electronics N.V. Video encoding and decoding method

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10027987B2 (en) 2011-01-11 2018-07-17 Sony Corporation Image processing apparatus and method
KR20180132992A (ko) * 2011-01-11 2018-12-12 벨로스 미디어 인터내셔널 리미티드 화상 처리 장치 및 방법
KR101928044B1 (ko) * 2011-01-11 2018-12-12 벨로스 미디어 인터내셔널 리미티드 화상 처리 장치 및 방법
US10432976B2 (en) 2011-01-11 2019-10-01 Velos Media, Llc Image processing apparatus and method
KR102028853B1 (ko) * 2011-01-11 2019-10-04 벨로스 미디어 인터내셔널 리미티드 화상 처리 장치 및 방법
KR20190114012A (ko) * 2011-01-11 2019-10-08 벨로스 미디어 인터내셔널 리미티드 화상 처리 장치 및 방법
KR102127604B1 (ko) * 2011-01-11 2020-06-29 벨로스 미디어 인터내셔널 리미티드 화상 처리 장치 및 방법
US10979739B2 (en) 2011-01-11 2021-04-13 Velos Media, Llc Image processing apparatus and method

Also Published As

Publication number Publication date
AU717480B2 (en) 2000-03-30
US20080159386A1 (en) 2008-07-03
BRPI9901340B1 (pt) 2016-03-22
JP2000059769A (ja) 2000-02-25
BR9901340A (pt) 2000-05-09
RU2154918C1 (ru) 2000-08-20
US6665346B1 (en) 2003-12-16
US20030219073A1 (en) 2003-11-27
AU1216099A (en) 2000-02-24
US7251276B2 (en) 2007-07-31
SG70679A1 (en) 2000-02-22

Similar Documents

Publication Publication Date Title
JP3308921B2 (ja) 映像データループフィルタリング方法及び装置
JP5753933B2 (ja) 量子化効果減少のための映像データ後処理方法
US8577168B2 (en) System and method for in-loop deblocking in scalable video coding
JP2002238049A (ja) 符号化歪み低減方法
US20030123747A1 (en) System for and method of sharpness enhancement using coding information and local spatial features
Kong et al. Edge map guided adaptive post-filter for blocking and ringing artifacts removal
EP1506525B1 (en) System for and method of sharpness enhancement for coded digital video
Vidal et al. New adaptive filters as perceptual preprocessing for rate-quality performance optimization of video coding
KR100331331B1 (ko) 영상데이터 루프필터링 방법
JP4300839B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
KR100301013B1 (ko) 영상데이터 루프필터링방법 및 장치
JP5180550B2 (ja) 画像処理装置及び画像処理方法
Võ et al. Localized filtering for artifact removal in compressed images
US20080187237A1 (en) Method, medium, and system reducing image block noise
Cahill et al. Locally adaptive deblocking filter for low bit rate video
KR101737985B1 (ko) 이미지 처리 방법
JPH06311499A (ja) 画像信号復号化装置

Legal Events

Date Code Title Description
R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090517

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100517

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110517

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120517

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130517

Year of fee payment: 11

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term