JP2000059769A - 映像デ―タル―プフィルタリング方法及び装置 - Google Patents

映像デ―タル―プフィルタリング方法及び装置

Info

Publication number
JP2000059769A
JP2000059769A JP1362899A JP1362899A JP2000059769A JP 2000059769 A JP2000059769 A JP 2000059769A JP 1362899 A JP1362899 A JP 1362899A JP 1362899 A JP1362899 A JP 1362899A JP 2000059769 A JP2000059769 A JP 2000059769A
Authority
JP
Japan
Prior art keywords
block
pixel
filtering
flag
ringing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP1362899A
Other languages
English (en)
Other versions
JP3308921B2 (ja
Inventor
Yung-Lyul Lee
英烈 李
Hyun-Wook Park
玄旭 朴
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Korea Advanced Institute of Science and Technology KAIST
Original Assignee
Samsung Electronics Co Ltd
Korea Advanced Institute of Science and Technology KAIST
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from KR1019980031431A external-priority patent/KR100301013B1/ko
Priority claimed from KR1019980046822A external-priority patent/KR100331331B1/ko
Application filed by Samsung Electronics Co Ltd, Korea Advanced Institute of Science and Technology KAIST filed Critical Samsung Electronics Co Ltd
Publication of JP2000059769A publication Critical patent/JP2000059769A/ja
Application granted granted Critical
Publication of JP3308921B2 publication Critical patent/JP3308921B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/162User input
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/436Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation using parallelised computational arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H04N19/82Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop

Abstract

(57)【要約】 【課題】 量子化効果を低減させ、フィルタリング計算
量を減らし、低ビット率の符号化が可能な映像データル
ープフィルタリング方法及び装置を提供する。 【解決手段】 フラグ抽出部100は、映像データの逆
量子化係数の分布及び前フレームと現フレームとの差を
示す動きベクトルを用い、映像データのループフィルタ
リング必要性の可否を示すフラグを抽出し、デブロッキ
ングフィルター110は、前記フラグを検査して、前記
映像データをデブロッキングフィルタリングし、コーナ
ー異常値補償部120は、前記映像データの内コーナー
異常値を検出して補償し、デリンギングフィルター13
0は、前記フラグを検査して、前記コーナー異常値補償
されたデータをデリンギングフィルタリングする。前記
フラグは、ブロッキングフラグとリンギングフラグとか
らなる。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、映像データ処理に
係り、特に、量子化効果を低減させるための映像データ
ループフィルタリング方法及び装置に関する。
【0002】
【従来の技術】一般に、国際標準化機構(Internationa
l Organization for Standardization:ISO)のMP
EG及びITU(International Telecommunication Un
ion)のH.263を含む大部分の画像符号化標準はブ
ロックに基づく動き推定及びブロック離散余弦変換(Di
screte Cosine Transform:DCT)処理を使用する。
また大部分のビデオ符号化標準は、情報を小さい数の変
換係数にパックキングするために、8×8画素ブロック
単位のDCTを使用する。このブロックに基づくDCT
スキームは、映像の局部的な空間相関性質を利用してい
る。
【0003】しかし乍ら、このブロックに基づき符号化
された映像データを復元すると、ブロック境界近傍のブ
ロッキングアーチファクト(blocking artifacts)、ブ
ロックのクロスポイントにおけるコーナー異常値(corn
er outlier)及び映像エッジ近傍のリンギングノイズ
(ringing noise)等かなりの映像劣化がもたらされ
る。というのは、映像データを8×8画素ブロック単位
にDCT変換し、前記変換された係数を量子化するため
である。特に、イメージが高圧縮されている時は一層そ
うである。
【0004】前記ブロッキングアーチファクトは、相対
的に類似した等質領域でのブロック境界に従い発生する
グリッドノイズである。前記グリッドノイズは、圧縮さ
れたデータが復元され画面上にディスプレーされる際
に、ブロックに基づき処理した痕跡がブロック間の縁部
に見られ、これを見る人がブロック間の縁部であること
をすぐ分かってしまう。そして前記コーナー異常値は8
×8ブロックが合うコーナーポイントで発生する。また
前記リンギングノイズは映像を高圧縮するために、前記
DCTの高周波成分の係数を量子化による切り捨てをす
ることにより発生する典型的なギブズ(Gibb's)現象で
あって、映像がやや間をおいて多数枚重なって現れるよ
うに感じさせる問題を招く。
【0005】ブロックに基づく符号化により発生する前
記ブロッキングアーチファクト、コーナー異常値及びリ
ンギングノイズを減少させるためのいくつかの方法が提
案されている。[Y.L.Lee, H.C.Kim, and H.W.Park, "B
locking Effect Reduction of JPEG images by Signal
Adaptive Filtering", in press IEEE Trans. on Image
Processing, 1997],[B. Ramamurthi and A.Gersho,
"Nonlinear Space Variant Postprocessing of Block
Coded Images", IEEE Tans on ASSP, vol.34,no.5, pp1
258-1267, 1986],[Y.Ynag, N.Galatsanos and A.Kat
saggelos, "Projection-Based Spatially Adaptive Rec
onstruction of Block-Transform Compressed Images,"
IEEE trans. on Image Processing, vol.4, no.7, pp 8
96-908,July 1995],および[Z.Xiong, M.T.Orchard,
and Y.Q.Zhang, "A DeblockingAlgorithm for JPEG Com
pressed Images Using Overcomplete Wavelet Represen
tations, "IEEE Trans. Circuits Syst. Video Techno
l.,vol.7, no.2, pp 433-437, 1997]中でも、JPEG
−圧縮解除映像の量子化効果を低減させるために、2次
元信号適応フィルタリング(Signal-Adaptive Filterin
g:SAF)が提案されている。[Y.L.Lee, H.C.Kim, a
nd H.W.Park, "Blocking Effect Reduction of JPEG im
ages by Signal Adaptive Filtering", in press IEEE
Trans. onImage Processing, 1997]またブロッキング
アーチファクトを減少させるために2次元フィルターを
用い、階段ノイズの低減のためには1次元フィルターを
用いたRamamurthi及びGershoの方法[B.Ramamurthi and
A.Gersho,"Nonlinear Space Variant Postprocessing
of Block Coded Images", IEEE Tans on ASSP,vol.34,n
o.5,pp1258-1267, 1986]は良好な効果をもたらしたこ
ともある。また凸状集合への写像(projections onto c
onvex sets:POCS)論理を用いた反復的な映像復旧
のアルゴリズムも提案されている。[Y.Ynag,N.Galatsa
nos and A.Katsaggelos,"Projection-Based Spatially
Adaptive Reconstruction of Block-Transform Compres
sed Images,"IEEE trans. on Image Processing,vol.4,
no.7,pp 896-908,July 1995] しかし乍ら、これらの方法は計算が複雑であるといった
欠点がある。
【0006】
【発明が解決しようとする課題】本発明は上記事情に鑑
みて成されたものであり、その目的は、ブロックに基づ
く映像データの復号化の際にブロッキングアーチファク
ト、コーナー異常値及びリンギングノイズなどの量子化
効果を低減するために、計算が複雑でないほか、低いビ
ット率の符号化が可能な映像データループフィルタリン
グ方法及び装置を提供することにある。
【0007】
【課題を解決するための手段】前記技術的課題を解決す
るために、本発明に係る量子化効果の低減のための映像
データループフィルタリング方法は、映像データのエン
コーディング及びデコーディング時に発生する量子化効
果の低減のためのループフィルタリング方法において、
逆量子化された映像データの逆量子化係数の分布及び前
フレームと現フレームとの差を示す動きベクトルを用
い、前記映像データのループフィルタリングの必要性可
否を示すフラグを抽出するフラグ抽出段階と、前記抽出
されたフラグがループフィルタリングが必要有りを示せ
ば、前記フラグに相応する映像データを所定の方法によ
りフィルタリングするフィルタリング段階とを含むこと
を特徴とする。
【0008】前記フラグ抽出は、前記ループフィルタリ
ングしようとする映像フレームがイントラフレームであ
れば、各ブロックの離散余弦変換(DCT)ドメインか
ら抽出し、前記ループフィルタリングしようとする映像
フレームがインターフレームであれば、残差信号及び基
準フレームのフラグから抽出することを特徴とする。
【0009】前記フラグは、ブロック境界近傍のブロッ
キングアーチファクトを減少させる必要性の可否を示す
ブロッキングフラグと、映像エッジ近傍のリンギングノ
イズを減少させる必要性の可否を示すリンギングフラグ
とよりなる。
【0010】前記映像データがイントラフレームの場
合、前記イントラフレームのブロッキングフラグは、水
平ブロッキングフラグ(HBF)及び垂直ブロッキング
フラグ(VBF)よりなる。前記イントラフレームの水
平及び垂直ブロッキングフラグ抽出は、前記圧縮された
映像データが逆量子化された後に、前記逆量子化された
8×8ブロックに対するDCT係数を求める段階と、前
記8×8ブロックを成す64個の画素の内前記ブロック
の最上及び最左側に位置した画素(DC成分)を画素A
とし、前記画素Aのすぐ右側の画素を画素B、前記画素
Aの真下の画素を画素Cとするとき、前記画素Aの係数
のみが‘0’でない値を有すると、前記HBF及びVB
Fをループフィルタリングする必要ありを示す情報
‘1’にセットする段階と、前記逆量子化された8×8
ブロックの最上位行のみが‘0’でない値を有する画素
を含んでいる時、VBFをループフィルタリングが必要
ありを示す情報‘1’にセットする段階と、前記逆量子
化された8×8ブロックの最左側のカラムのみが‘0’
でない値を有する画素を含んでいる時、HBFをループ
フィルタリングが必要ありを示す情報‘1’にセットす
る段階とを含むことを特徴とする。
【0011】前記イントラフレームのリンギングフラグ
抽出は、前記8×8ブロックを成す64個の画素の内前
記ブロックの最上、最左側に位置した画素(DC成分)
を画素Aとし、前記画素Aのすぐ右側の画素を画素B、
かつ前記画素Aの真下の画素を画素Cとするとき、前記
逆量子化された8×8ブロックの画素A,B及びC以外
の位置に何れか一つさえ‘0’でない係数値を有する
時、リンギングフラグRFをループフィルタリングが必
要ありを示す情報‘1’にセットすることを特徴とす
る。
【0012】現インターフレームのブロッキングフラグ
は、水平ブロッキングフラグ及び垂直ブロッキングフラ
グよりなり、前記現インターフレームのブロックAcに
対する水平及び垂直ブロッキングフラグ抽出は、基準フ
レームが所定の基準ブロックよりなり、前記現インター
フレームのブロックAcの動きベクトル(MVx,MV
y)により推定される基準フレームのブロックを動きブ
ロックXとするとき、前記動きブロックXが前記基準ブ
ロックと重なった度合いを調べる段階と、重なった画素
数が所定個数以上である基準ブロックのHBF及びVB
Fをビット別に論理積演算する段階と、前記演算の結果
を現VOP(Video Object Plane)のブロックAcの水
平及び垂直ブロッキングフラグにセットすることを特徴
とする。
【0013】前記現インターフレームのブロックAcに
対する水平及び垂直ブロッキングフラグ抽出は、現マク
ロブロックがその動きベクトルの0であるスキップされ
たマクロブロックであれば、基準マクロブロックのブロ
ッキングフラグを現マクロブロックのブロッキングフラ
グにセットする段階をさらに具備することが好ましい。
【0014】前記現インターフレームのブロックAcに
対する水平及び垂直ブロッキングフラグ抽出は、先ず基
準ブロックのブロッキングフラグを複写してパッディン
グをする段階をさらに具備することが好ましい。
【0015】映像フレームがインターフレームの場合、
現インターフレームのブロックAcに対するリンギング
フラグ抽出は、インターブロックの8×8ブロックにお
ける残差信号の逆量子化係数IQCのAC成分のいずれ
か一つさえ‘0’でなければ、現ブロックAcのリンギ
ングフラグRFを‘1’にセットし、前記IQCのAC
成分がいずれも‘0’であれば、RFを‘0’にする段
階と、マクロブロックMBに対する動きベクトルを伝達
する8×8予測モードが現ブロックに使用されると、R
Fを‘1’にセットする段階とよりなることを特徴とす
る。
【0016】前記映像データがインターフレームの場
合、前記インターフレームのリンギングフラグは、第1
リンギングフラグRF0及び第2リンギングフラグRF
1よりなる。現インターフレームのブロックAcに対す
る前記第1リンギングフラグRF0及び第2リンギング
フラグRF1の抽出は、インターマクロブロックの8×
8ブロックにおいて残差信号の逆量子化係数IQCのD
C成分のみが‘0’でなければ、現ブロックAcの第1
リンギングフラグRF0を‘1’にセットし、そうでな
ければRF0を0にする段階と、インターフレームの8
×8ブロックにおける残差信号の逆量子化係数IQCの
AC成分のいずれか一つさえ‘0’でなければ、現ブロ
ックAcの第2リンギングフラグRF1を‘1’にセッ
トし、そうでなければRF1を‘0’にする段階とより
なる。
【0017】前記フィルタリング段階のフィルタリング
は、ループフィルタリングしようとするフレームを成し
ている所定ブロックをブロックIとし、前記ブロックI
と隣接したブロックをブロックJとするとき、前記ブロ
ックIに関し、現ブロックと逆量子化された前ブロック
との差が所定の値以下であり、前記ブロックJに関し、
現ブロックと逆量子化された前ブロックとの差が所定の
値以下であれば、デブロッキングフィルタリングを行わ
ないことを特徴とする。
【0018】ブロッキングアーチファクトを減少させる
ためのデブロッキングフィルタリングは、ループフィル
タリングしようとするフレームを成している所定ブロッ
クをブロックIとし、前記ブロックIと隣接したブロッ
クをブロックJとするとき、ブロックI及びブロックJ
のリンギングフラグRFが共にリンギングノイズを減少
させる必要無しを示し、ブロックIのHBFとブロック
JのHBFが共にブロッキングアーチファクトを減少さ
せる必要有りを示せば、前記ブロックIとブロックJを
仕切る水平ブロック境界線を介在した所定個数の画素値
を変化させる第1フィルタリングを行う段階と、ブロッ
クI及びブロックJのリンギングフラグRF共にリンギ
ングノイズを減少させる必要無しを示し、ブロックIの
HBFとブロックJのHBFのいずれか一方でもブロッ
キングアーチファクトを減少させる必要無しを示せば、
あるいはブロックI及びブロックJのリンギングフラグ
RFの内少なくともいずれか一方がリンギングノイズを
減少させる必要有りを示せば、ブロック境界線を挟んで
隣接した二画素の差とH.263の量子化された要素で
あるQPとを比較し、二画素の差がQPより小さけれ
ば、前記第1フィルタリングより小さい個数の画素値を
変化させる第2フィルタリングを行う段階とよりなるこ
とを特徴とする。
【0019】ブロッキングアーチファクトを減少させる
ためのデブロッキングフィルタリングは、ブロックIの
リンギングフラグRFがリンギングノイズを減少させる
必要無しを示し、ブロックIがイントラ若しくはブロッ
クJがイントラであり、ブロックIのHBFとブロック
JのHBFが共にブロッキングアーチファクトを減少さ
せる必要有りを示せば、前記ブロックIとブロックJと
を仕切る水平ブロック境界線を介在した所定個数の画素
値を変化させる第1フィルタリングを行う段階と、ブロ
ックIのリンギングフラグRFがリンギングノイズを減
少させる必要無しを示し、ブロックIがイントラ若しく
はブロックJがイントラであり、ブロックIのHBFと
ブロックJのHBFのいずれか一方でもブロッキングア
ーチファクトを減少させる必要無しを示せば、水平ブロ
ック境界線を挟んで隣接した二画素の差とH.263の
量子化された要素であるQPとを比較し、二画素の差が
QPより小さければ、前記第1フィルタリングより小さ
い個数の画素値を変化させる第2フィルタリングを行う
段階と、ブロックIのリンギングフラグRFがリンギン
グノイズを減少させる必要無しを示し、ブロックI及び
ブロックJが共にイントラでなく、ブロックIまたはブ
ロックJの残差信号のIQCのDC成分が存在し、ブロ
ックI及びブロックJが共にHBFが‘1’であれば、
第1フィルタリングを行う段階と、ブロックIのリンギ
ングフラグRFがリンギングノイズを減少させる必要無
しを示し、ブロックI及びブロックJが共にイントラで
なく、ブロックIまたはブロックJの残差信号のIQC
のDC成分が存在し、ブロックI及びブロックJの内少
なくともいずれか一方のHBFが‘0’を示せば、第2
フィルタリングを行う段階と、前記ブロックIのRFが
リンギングノイズを減少させる必要有りを示せば、第2
フィルタリングを行う段階とよりなることを特徴とす
る。
【0020】ブロッキングアーチファクトを減少させる
ためのデブロッキングフィルタリングは、ブロックIの
第2リンギングフラグRF1がリンギングノイズを減少
させる必要無しを示し、ブロックIがイントラ若しくは
ブロックJがイントラであり、ブロックIのHBFとブ
ロックJのHBFが共にブロッキングアーチファクトを
減少させる必要有りを示せば、前記ブロックIとブロッ
クJとを仕切る水平ブロック境界線を介在した所定個数
の画素値を変化させる第1フィルタリングを行う段階
と、ブロックIの第2リンギングフラグRF1がリンギ
ングノイズを減少させる必要無しを示し、ブロックIが
イントラ若しくはブロックJがイントラであり、ブロッ
クIのHBFとブロックJのHBFの内いずれか一方で
もブロッキングアーチファクトを減少させる必要無しを
示せば、水平ブロック境界線を挟んで隣接した二画素の
差とH.263の量子化された要素であるQPとを比較
し、二画素の差がQPより小さければ前記第1フィルタ
リングより小さい個数の画素値を変化させる第2フィル
タリングを行う段階と、ブロックIの第2リンギングフ
ラグRF1がリンギングノイズを減少させる必要無しを
示し、ブロックI及びブロックJが共にイントラでな
く、ブロックI及びブロックJの内少なくともいずれか
一方のRF0が1であり、ブロックI及びブロックJの
HBFが共に‘1’であれば、第1フィルタリングを行
う段階と、ブロックIの第2リンギングフラグRF1が
リンギングノイズを減少させる必要無しを示し、ブロッ
クI及びブロックJが共にイントラでなく、ブロックI
及びブロックJの内少なくともいずれか一方のRF0が
1であり、ブロックI及びブロックJのHBFの内少な
くともいずれか一方が‘1’でなければ、第2フィルタ
リングを行う段階と、前記ブロックIのRF1が‘0’
でなければ、第2フィルタリングを行う段階とよりなる
ことを特徴とする。
【0021】前記第1フィルタリングは、前記ブロック
IとブロックJとを仕切るブロック境界線を介在した6
個の画素をA,B,C,D,E及びFとし、前記画素C
及びDを前記ブロック境界線に最も隣接した画素、前記
画素A及びFがブロック境界線から最も遠い画素、前記
画素B及びDが前記A及びC,D及びFの中間に位置し
た画素とするとき、前記6個の画素に対し7−タブ
(1,1,1,2,1,1,1)ローパスフィルタリン
グを行う。
【0022】前記第2フィルタリングは、前記画素C及
びDに対しフィルタリングを行うが、前記画素C及びD
の差の絶対値がH.263の量子化要素QPより小さけ
れば、CはC+(D−C)/4に、DはD+(D−C)
/4に置き換えることを特徴とする。
【0023】前記フィルタリング段階におけるリンギン
グノイズを減少させるデリンギングフィルタリングは、
リンギングフラグがデリンギングフィルタリングが必要
有りを示すかどうかを検査し、デリンギングフィルタリ
ングが必要有りを示せばデリンギングフィルタリングを
行い、そうでなければデリンギングフィルタリングを行
わないことを特徴とし、映像データの水平エッジ及び垂
直エッジを検出するエッジ検出段階と、リンギングノイ
ズを減少させようとする8×8ブロックに対し2次元信
号適応フィルタリングをする信号適応フィルタリング段
階とよりなる。
【0024】前記エッジ検出段階の水平エッジ検出は、
画素[m][n]、前記画素[m][n]の右側の画素
を画素[m][n+1]、左側の画素を画素[m][n
−1]、前記画素[m][n]と画素[m][n+1]
との差をA1、前記画素[m][n]と画素[m][n
−1]との差をA2、H.263の量子化要素をQPと
するとき、条件式((A1>QP)and(A2>Q
P))or(A1>2QP)or(A2>2QP)を満
足すれば、エッジとして検出され、エッジ[m][n]
=1となる。前記エッジ検出段階の垂直エッジ検出は、
画素[m][n]、前記画素[m][n]の上方の画素
を画素[m+1][n]、下方の画素を画素[m−1]
[n]、前記画素[m][n]と画素[m+1][n]
との差をA’1、前記画素[m][n]と画素[m−
1][n]との差をA’2、H.263の量子化要素を
QPとするとき、条件式((A’1>QP)and
(A’2>QP))or(A’1>2QP)or(A’
2>2QP)を満足すれば、エッジとして検出され、エ
ッジ[m][n]=‘1’となる。前記信号適応フィル
タリング段階は、4−コネクティッドフィルターウィン
ドウ(4-connected filter window)を前記8×8ブロ
ックに対し適用して、前記フィルターウィンドウの中心
画素がエッジであればフィルタリングを行わず、前記フ
ィルターウィンドウの中心画素がエッジでなければ加重
フィルタリングを行う。
【0025】前記フィルタリング段階におけるリンギン
グノイズを減少させるデリンギングフィルタリングの遂
行成否は、前記ブロックIに関し、現ブロックと逆量子
化された前ブロックとの差が所定の値以下であり、前記
ブロックJに関し、現ブロックと逆量子化された前ブロ
ックとの差が所定の値以下であれば、デリンギングフィ
ルタリングを行わないことを特徴とする。
【0026】また前記フィルタリング段階におけるリン
ギングノイズを減少させるデリンギングフィルタリング
の遂行成否は、ブロックIのリンギングフラグがデリン
ギングフィルタリングが必要有り示すかどうかを検査
し、デリンギングフィルタリングが必要有りを示せばデ
リンギングフィルタリングを行い、そうでなければフィ
ルタリングを行わないことを特徴とする。
【0027】また前記フィルタリング段階におけるリン
ギングノイズを減少させるデリンギングフィルタリング
の遂行成否は、ブロックIがイントラブロックであれば
デリンギングフィルタリングを行う段階と、前記ブロッ
クIがイントラブロックでなく、8×8予測モードを使
用したブロックであれば、デリンギングフィルタリング
を行う段階と、前記ブロックIがイントラブロックでな
く、8×8予測モードを使用したブロックでなく、ブロ
ックIのRF1がデリンギングフィルタリングが必要有
りを示せばデリンギングフィルタリングを行い、ブロッ
クIのRF1がデリンギングフィルタリングが必要無し
を示せばデリンギングフィルタリングを行わない段階と
よりなることを特徴とする。
【0028】前記デリンギングフィルタリングは、映像
データの水平エッジ及び垂直エッジを検出するエッジ検
出段階と、リンギングノイズを減少させようとする8×
8ブロックに対し2次元信号適応フィルタリングをする
信号適応フィルタリング段階とよりなる。前記エッジ検
出段階の水平エッジ検出は、画素[m][n]、前記画
素[m][n]の右側の画素を画素[m][n+1]、
左側の画素を画素[m][n−1]、前記画素[m]
[n]と画素[m][n+1]との差をA1、前記画素
[m][n]と画素[m][n−1]との差をA2、
H.263の量子化要素をQPとするとき、条件式
((A1>QP)and(A2>QP))or(A1>
2QP)or(A2>2QP)を満足すれば、エッジと
して検出され、エッジ[m][n]=1となる。前記エ
ッジ検出段階の垂直エッジ検出は、画素[m][n]、
前記画素[m][n]の上方の画素を画素[m+1]
[n]、下方の画素を画素[m−1][n]、前記画素
[m][n]と画素[m+1][n]との差をA’1、
前記画素[m][n]と画素[m−1][n]との差を
A’2、H.263の量子化要素をQPとするとき、条
件式((A’1>QP)and(A’2>QP))or
(A’1>2QP)or(A’2>2QP)を満足すれ
ば、エッジとして検出され、エッジ[m][n]=
‘1’となる。前記信号適応フィルタリング段階は、4
−コネクティッドフィルターウィンドウを前記8×8ブ
ロックに対し適用して、前記フィルターウィンドウの中
心画素がエッジであればフィルタリングを行わず、前記
フィルターウィンドウの中心画素がエッジでなければ加
重フィルタリングを行う。
【0029】前記本発明に係るループフィルタリング方
法は、映像データをブロックに基づきエンコーディング
及びデコーディングする際に、ブロック4つが会うクロ
スポイントのコーナーで発生するコーナー異常値を低減
させるために、逆量子化された前記映像データの8×8
ブロックのコーナー異常値を検出する検出段階と、前記
検出されたコーナー異常値を補償する補償段階とをさら
に具備することを特徴とする。
【0030】前記検出段階は、前記クロスポイントを中
心とした4つの画素を画素A,B,C及びDとし、A,
B,C,及びDの各画素値をa,b,c,dとし、平均
値Average=(a+b+c+d+2)/4とお
き、各画素値とAverageとの差をH.263の量
子化要素QPと比較して、前記差がQPより大きけれ
ば、コーナー異常値候補画素の個数を累積してコーナー
異常値を検出する。
【0031】前記補償段階は、前記Aの属するブロック
において前記Aと隣り合う画素をA1,A2とし、前記画
素Aと対角線に位置する画素をA3とし、その画素値を
各々a1,a2及びa3とするとき、前記検出段階で検出
されたコーナー異常値候補が一つで、該画素がAであれ
ば、前記aとa3との差が3QP/2より小さければ、
コーナー異常値補償は次式
【0032】
【数3】
【0033】のようになり、前記コーナー異常値候補画
素数が二つ以上であれば、(a3+b3+c3+d3+2)
/4(ここで、b3,c3,d3もa3と同様の方式で定義
される)から最大の差を有する候補が選ばれ、該補償は
前記一つの候補の場合でのような方法で行われる。
【0034】本発明に係る映像データループフィルタリ
ング装置は、映像データをブロックに基づきエンコーデ
ィング及びデコーディングする際に発生する量子化効果
を低減させるための映像データループフィルタリング装
置において、映像データの逆量子化係数の分布及び前フ
レームと現フレームとの差を示す動きベクトルを用い、
映像データのループフィルタリング必要性の可否を示す
フラグを抽出するフラグ抽出部と、前記フラグ抽出部で
抽出されたブロッキングフラグを検査して、前記映像デ
ータをデブロッキングフィルタリングするデブロッキン
グフィルターと、前記デブロッキングフィルタリングさ
れたデータの内コーナー異常値を検出して補償するコー
ナー異常値補償部と、前記フラグ抽出部で抽出されたリ
ンギングフラグを検査して、前記コーナー異常値補償さ
れたデータをデリンギングフィルタリングするデリンギ
ングフィルターとを含むことを特徴とする。
【0035】前記フラグは、ブロック境界近傍のブロッ
キングアーチファクトを減少させる必要性の有無を示す
ブロッキングフラグと、映像エッジ近傍のリンギングノ
イズを減少させる必要性の有無を示すリンギングフラグ
とよりなる。
【0036】
【発明の実施の形態】以下、添付された図面に基づき本
発明の望ましい実施形態を詳細に説明する。図1は映像
データをブロックに基づき符号化及び復号化する際に発
生する量子化効果の低減のための映像データループフィ
ルタリング装置10の構成を示すブロック図である。前
記ループフィルタリング装置10は、一般の復号化器及
び復号化器に結ばれて使用される。本発明に係る前記映
像データループフィルタリング装置10は、フラグ抽出
部100、デブロッキングフィルター110、コーナー
異常値補償部120及びデリンギングフィルター130
を含んでなる。前記フラグ抽出部100は、逆量子化さ
れた前記映像データの逆量子化係数IQCの分布及び前
フレームと現フレームとの差を示す動きベクトルを用い
てフラグを抽出する。
【0037】前記フラグは、復号化された映像のループ
フィルタリング必要性の有無を示す情報であって、ブロ
ッキングフラグとリンギングフラグとに類別される。前
記ブロッキングフラグは、ブロック境界近傍のブロッキ
ングアーチファクトを減少させる必要性の有無を示し、
前記リンギングフラグは映像エッジ近傍のリンギングノ
イズを減少させる必要性の有無を示す。そして前記ブロ
ッキングフラグは、水平ブロック境界線を基準として隣
接したブロックの画素に対するループフィルタリングの
成否を示す水平ブロッキングフラグ(Horizontal Block
ing Flag:HBF)及び垂直ブロック境界線を基準とし
て隣接したブロックの画素に対するループフィルタリン
グの成否を示す垂直ブロッキングフラグ(Vertical Blo
cking Flag:VBF)よりなる。
【0038】また、前記フラグ抽出は、イントラフレー
ム及びインターフレームに対して抽出する。本発明で
は、前記インターフレームはPフレーム及びPBフレー
ムとする。前記イントラフレームに対するフラグ抽出
は、逆量子化された前記映像データの逆量子化係数の分
布を利用する。前記インターフレームに対するフラグ抽
出は前フレームと現フレームとの差を示す動きベクトル
を用いるが、さらなる詳細は後述する。
【0039】前記デブロッキングフィルター110は、
一次元水平及び垂直ローパスフィルター(LPF)を使
用して、前記フラグ抽出部100で抽出されたブロッキ
ングフラグを検査して、映像データをデブロッキングフ
ィルタリングする。前記異常値補償部120は、前記デ
ブロッキングフィルター110でデブロッキングフィル
タリングされたデータの内コーナー異常値を検出して補
償する。前記デリンギングフィルター130は、二次元
信号適応フィルターを用い前記フラグ抽出部100で抽
出されたリンギングフラグを検査して、前記コーナー異
常値補償されたデータをデリンギングフィルタリングす
る。
【0040】本発明に係る映像データループフィルタリ
ング方法の基本概念は、映像データに関し、空間周波数
(spatial frequency)及び時間情報(temporal inform
ation)を使用することにより適応的に量子化効果を低
減するものである。
【0041】また、主観的な画質、PSNR(peak sig
nal-to-noise ratio)及び計算の複雑性を考慮してい
る。特に、ソフトウェア及びハードウェアにて前記基本
概念を具現する際、計算の複雑性は極めて重要な決定要
素となる。8×8ブロックごとにブロッキングアーチフ
ァクトとリンギングノイズのフラグを抽出するために、
周波数領域と動きベクトルにおける逆量子化係数の分布
が調べられる。ブロッキングフラグ及びリンギングフラ
グを使用することにより、1次元LPFと2次元SAF
が8×8ブロックごとに適応的に適用される。
【0042】一方、本発明において用いられるリンギン
グフラグは2種類の実施形態がある。第1実施形態はリ
ンギングフラグをRF一つに設定するものであり、第2
実施形態はリンギングフラグを第1リンギングフラグR
F0及び第2リンギングフラグRF1の二つに設定する
ものである。以下、前記第1実施形態及び第2実施形態
を具体的に触れないのは第1実施形態及び第2実施形態
が共に共通して適用されることを意味する。そして第1
実施形態及び第2実施形態のいずれか一方にのみ該当す
るものは、これを明示する。
【0043】まず、前記フラグ抽出部100におけるブ
ロッキングアーチファクトとリンギングノイズに対する
フラグ抽出について説明する。
【0044】1.ブロッキングアーチファクト及びリン
ギングノイズ情報 H.263+における量子化効果を低減するために、二
種類のフラグが定義される。第一はブロッキングフラグ
であり、第二はリンギングフラグである。前記ブロッキ
ング及びリンギングフラグはイントラフレームにおいて
8×8ブロックのDCT領域(domain)から抽出され
る。またインターフレームのフラグは残差信号(residu
al signal)及び基準VOPのフラグから計算される。
【0045】1.1 イントラマクロブロック(Macro
Block)に関するフラグ情報 逆量子化後のDCT係数である逆量子化係数(IQC)
の分布がデコーダ及びエンコーダにおいて調べられる。
図2は、H.263+のブロック図及び逆量子化後のD
CT係数を示すものである。図2の8×8逆量子化され
たブロックにおいて、係数A,B及びCがブロッキング
フラグ及びリンギングフラグを決定するのに使用され
る。
【0046】図2に示す8×8ブロックの64個画素の
DCT係数の内位置A、即ちDC成分の係数のみが
‘0’でない値を有するとするとき、前記8×8符号化
されたブロックの64画素は空間領域において同一の値
を有する。したがって、DC成分のみを有するブロック
は水平及び垂直ブロッキングアーチファクトをもたらす
ことがある。この場合、水平ブロッキングフラグ(HB
F)と垂直ブロックキングフラグ(VBF)が共に
‘1’にセットされる。
【0047】8×8逆量子化されたブロックの最上位行
を成す8画素の係数の内いずれか一つでも‘0’でない
値を有する時、各カラムの8個の画素は空間領域におい
て同一の値を有する。このブロックは垂直ブロッキング
アーチファクトをもたらし、これによりVBFは‘1’
にセットされる。
【0048】最左側のカラムを成す8画素の係数の内い
ずれか一つでも‘0’でない値を有する時、各行の8個
の画素は空間領域において同一の値を有する。このブロ
ックは水平ブロッキングアーチファクトをもたらし、こ
れによりHBFは‘1’にセットされる。
【0049】第1実施形態では、図2に示すA,B及び
C以外の位置にいずれか一つでも‘0’でない係数値を
有する時、リンギングフラグRFは‘1’にセットされ
る。そして第2実施形態では、図2に示すA,B及びC
以外の位置にいずれか一つでも‘0’でない係数値を有
する時、第1リンギングフラグRF0は‘1’にセット
される。
【0050】一方、これらの高周波係数はブロックが映
像エッジを含んでいることを意味する。したがって、こ
のブロックは高周波成分係数の切り捨てにより前記映像
エッジ近傍にリンギングノイズを生みだす。前記HB
F,VBF及びRFは各ブロックにおいてループフィル
タリングをするのに使用される。そして第2実施形態に
おいては、第2リンギングフラグRF1はイントラマク
ロブロックでは使用されない。
【0051】1.2 インターマクロブロックに対する
フラグ情報の伝播 まず、第1実施形態について説明する。基準フレームで
のブロッキングフラグは動きベクトルを使用することに
より、次インターマクロブロックに伝播される。また、
インターブロックの残差信号はインターブロックのフラ
グを決定するのに使用される。
【0052】ブロッキングフラグが基準フレームからイ
ンターフレームへ伝播されることを説明すれば次の通り
である。図3は、インターフレームの8×8ブロックA
cと基準フレームにおける隣接ブロックとの関係を示す
ものである。ブロッキングフラグの伝播は動きベクトル
(MVx,MVy)により次のように記述される。図3
においてAr,Br,Cr及びDrは基準フレームのブ
ロックである。Acは現インターフレームにおけるブロ
ックであり、Xは前記Acの動きブロックである。前記
動きブロックXは動きベクトル(MVx,MVy)を使
用することにより推定される。まず、前記動きブロック
Xと前記基準ブロックとの重なった度合いを調べる。も
し、前記動きブロックXと前記基準ブロックとの重なっ
た領域が2×2画素より広いブロックのみ各々計算に使
用すれば、前記現ブロックAcのHBF及びVBFは動
き推定されたブロックXによって重なる基準ブロックの
HBF及びVBFをビット別に論理積(bit-wise AN
D)演算することにより計算できる。
【0053】例えば、動きベクトルがMVx=5,MV
y=3.5の時、動き推定されたブロックXは4つの基
準ブロックAr,Br,Cr及びDrと重なることにな
る。ここで、前記4つの重なった領域はいずれも2×2
画素より広い。したがって、現ブロックAcのHBF及
びVBFは、図4に示すように、4つの基準ブロックA
r,Br,Cr及びDrから計算できる。ここで、
‘&’はビット別の論理積演算を表す。
【0054】次に、インターフレームにおけるリンギン
グフラグについて説明する。まず、インターフレームの
8×8ブロックにおける残差信号の逆量子化係数IQC
を検査して、前記IQCが‘0’でなければ、基準ブロ
ックAcのRFを‘1’にセットする。一つのマクロブ
ロック(MB)に対する4つの動きベクトルを伝達する
ことを8×8予測モード(prediction mode)と呼ぶ。
前記8×8予測モードは、概して高周波成分を有する領
域に適用される。したがって、前記ブロックが8×8予
測モードを有するかを検査して、8×8予測モードを有
するブロックのRFは‘1’にセットされる。
【0055】次に、第2実施形態におけるインターマク
ロブロックに関するフラグ情報の伝播について説明す
る。基準フレーム(IピクチャーまたはPピクチャーま
たは改善されたPBフレームのPピクチャー部分)にお
けるブロッキングフラグは動きベクトルを使用すること
により、次インターマクロブロックに伝播される。ま
た、インターブロックの残差信号はインターブロックの
フラグを決定するのに使用される。現マクロブロックが
スキップされたマクロブロック(COD−I)であれ
ば、基準マクロブロックにおける6個のブロック(Y用
4つ、Cb及びCr用各1つ)のブロッキングフラグは
現マクロブロックに複写される。
【0056】まず、ブロッキングフラグが基準フレーム
からインターフレームへ伝播されることについて説明す
れば、前記第1実施形態と同様である。ただし、現ブロ
ックAcのHBF及びVBFを求める際に使用されるA
ND演算は、第1実施形態ではブロックXと重なった度
合いが2×2画素より広いブロックに対して行われた
が、第2実施形態では1×1画素より広いブロックに対
して行われる。例えば、動きベクトルがMVx=5,M
Vy=3.5の時、動き推定されたブロックXは4つの
基準ブロックAr,Br,Cr及びDrと重なることに
なる。ここで、前記4つの重なった領域はいずれも1×
1画素より広い。
【0057】次に、インターフレームにおけるリンギン
グフラグについて説明する。まず、インターマクロブロ
ックの8×8ブロックにおける残差信号の逆量子化係数
IQCを検査する。前記IQCのDC成分のみが‘0’
でなく、他の成分はいずれも‘0’である時、Acの第
1リンギングフラグRF0は‘1’にセットされる。そ
して前記IQCのAC成分の内いずれか一つさえ‘0’
でなければ、基準ブロックAcのRFを‘1’にセット
する。8×8予測モードはデリンギングフィルタリング
において考慮される。
【0058】2.フラグを用いた映像データループフィ
ルタリング デブロッキングフィルター110、コーナー異常値補償
部120及びデリンギングフィルター130について具
体的に説明する。
【0059】2.1 ブロッキングアーチファクトの低
減のためのデブロッキングフィルター ブロッキングアーチファクトの低減のための一次元ロー
パスフィルタリングは水平境界及び垂直境界上のブロッ
キングフラグにより強く(strongly)若しくは弱く(we
akly)行われる。ブロッキングアーチファクトを減らす
ために、大部分のデブロッキング方法は映像エッジ情報
を計算し、前記映像エッジに基づくローパスフィルター
(LPF)を適応的に適用する。しかし乍ら、本発明に
係るデブロッキング方法は、上記で求めたブロッキング
フラグを用いるので、多くの計算量を要する映像エッジ
検出を必要としない。
【0060】処理されるべき8×8ブロックと隣接ブロ
ックが図5に示されている。ブロック−I(BLOCK
−I)のHBFとブロック−J(BLOCK−J)のH
BFが共に‘1’にセットされているなら、7−タブ
(1,1,1,2,1,1,1)LPFが図5の水平ブ
ロック境界上の画素A,B,C,D,E及びFに適用さ
れる。
【0061】まず、第1実施形態における水平デブロッ
キングフィルタリングをアルゴリズムにより示せば、次
のようである。
【0062】
【数4】
【0063】前記アルゴリズムを説明すれば、ループフ
ィルタリングしようとするフレームを成している所定ブ
ロックをブロックI(BLOCK_I)とし、前記ブロ
ックIと隣接したブロックをブロックJ(BLOCK_
J)とする時、前記ブロックIに関し、現ブロックと逆
量子化された以前のブロックとの差が所定の値以下で、
前記ブロックJに関し、現ブロックと逆量子化された前
ブロックとの差が所定の値以下であれば、デブロッキン
グフィルタリングを行わない。
【0064】ブロッキングアーチファクトを減少させる
ためのデブロッキングフィルタリングは、ブロックI及
びブロックJのリンギングフラグRFが共にリンギング
ノイズを減少させる必要無しを示し、ブロックIのHB
FとブロックJのHBFが共にブロッキングアーチファ
クトを減少させる必要有りを示せば、前記ブロックIと
ブロックJとを仕切る水平ブロック境界線を介在した所
定個数の画素値を変化させる第1フィルタリングを行
う。
【0065】ブロックI及びブロックJのリンギングフ
ラグRFが共にリンギングノイズを減少させる必要無し
を示し、ブロックIのHBFとブロックJのHBFの少
なくともいずれか一方さえブロッキングアーチファクト
を減少させる必要無しを示せば、あるいはブロックI及
びブロックJのリンギングフラグRFの少なくともいず
れか一方がリンギングノイズを減少させる必要有りを示
せば、水平ブロック境界線を挟んで隣接した二画素の差
とH.263の量子化された要素であるQPとを比較し
て、二画素の差がQPより小さければ前記第1フィルタ
リングより小さい個数の画素値を変化させる第2フィル
タリングを行う。
【0066】一方、垂直ブロック境界線を介在した画素
に関しては、前記VBFを用い前記水平ブロック境界線
を介在した画素と同様の方式でフィルタリングをする。
そしてブロッキングアーチファクトを減少させるための
デブロッキングフィルタリングは、ブロックIのリンギ
ングフラグRFがリンギングノイズを減少させる必要無
しを示し、ブロックIがイントラ若しくはブロックJが
イントラであり、ブロックIのHBFとブロックJのH
BFが共にブロッキングアーチファクトを減少させる必
要有りを示せば、前記ブロックIとブロックJとを仕切
る水平ブロック境界線を介在した所定個数の画素値を変
化させる第1フィルタリングを行う。
【0067】ブロックIのリンギングフラグRFがリン
ギングノイズを減少させる必要無しを示し、ブロックI
がイントラ若しくはブロックJがイントラであり、ブロ
ックIのHBFとブロックJのHBFのいずれか一方で
もブロッキングアーチファクトを減少させる必要無しを
示せば、水平ブロック境界線を挟んで隣接した二画素の
差とH.263の量子化された要素であるQPとを比較
して、二画素の差がQPより小さければ前記第1フィル
タリングより小さい個数の画素値を変化させる第2フィ
ルタリングを行う。
【0068】ブロックIのリンギングフラグRFがリン
ギングノイズを減少させる必要無しを示し、ブロックI
及びブロックJが共にイントラでなく、ブロックI及び
ブロックJが共にHBFが‘1’であれば第1フィルタ
リングを行う。ブロックIのリンギングフラグRFがリ
ンギングノイズを減少させる必要無しを示し、ブロック
I及びブロックJが共にイントラでなく、ブロックI及
びブロックJの少なくともいずれか一方のHBFが
‘0’を示せば、第2フィルタリングを行う。前記ブロ
ックIのRFが‘0’でなければ、第2フィルタリング
を行う。
【0069】一方、垂直ブロック境界線を介在した画素
に関しては、前記VBFを用い前記水平ブロック境界線
を介在した画素と同様の方式でフィルタリングをする。
【0070】前記ブロックIとブロックJとを仕切る水
平ブロック境界線を介在した6個の画素をA,B,C,
D,E及びFとし、前記画素C及びDを前記水平ブロッ
ク境界線に最も隣接した画素、前記画素A及びFが水平
ブロック境界線から最も遠い画素、前記画素B及びDが
前記A及びC,D及びFの中間に位置した画素とすると
き、前記第1フィルタリングは前記6個の画素に対し7
−タブ(1,1,1,2,1,1,1)ローパスフィル
タリングを行う。
【0071】前記第2フィルタリングは前記画素C及び
Dに対してフィルタリングを行うが、前記画素C及びD
の差の絶対値がH.263の量子化要素QPより小さけ
れば、CはC+(D−C)/4に、DはD+(D−C)
/4に置き換える。
【0072】次に、第2実施形態における水平デブロッ
キングフィルタリングをアルゴリズムで示せば、次のよ
うである。
【0073】
【数5】
【0074】前記アルゴリズムを説明すれば、ループフ
ィルタリングしようとするフレームを成している所定ブ
ロックをブロックI(BLOCK_I)とし、前記ブロ
ックIと隣接したブロックをブロックJ(BLOCK_
J)とするとき、前記ブロックIに関し、現ブロックと
逆量子化された前ブロックとの差が所定の値以下で、前
記ブロックJに関し、現ブロックと逆量子化された前ブ
ロックとの差が所定の値以下であれば、デブロッキング
フィルタリングを行わない。
【0075】イントラフレームの場合、ブロッキングア
ーチファクトを減少させるためのデブロッキングフィル
タリングは、ブロックI及びブロックJの第1リンギン
グフラグRF0が共にリンギングノイズを減少させる必
要無しを示し、ブロックIのHBFとブロックJのHB
Fが共にブロッキングアーチファクトを減少させる必要
有りを示せば、前記ブロックIとブロックJとを仕切る
水平ブロック境界線を介在した所定個数の画素値を変化
させる第1フィルタリング(strong deblocking filter
ing)を行う。
【0076】ブロックI及びブロックJのリンギングフ
ラグRF0が共にリンギングノイズを減少させる必要無
しを示し、ブロックIのHBFとブロックJのHBFの
少なくともいずれか一方さえブロッキングアーチファク
トを減少させる必要無しを示せば、あるいはブロックI
及びブロックJのリンギングフラグRF0の少なくとも
いずれか一方がリンギングノイズを減少させる必要有り
を示せば、水平ブロック境界線を挟んで隣接した二画素
の差とH.263の量子化された要素であるQPとを比
較して、二画素の差がQPより小さければ前記第1フィ
ルタリングより小さい個数の画素値を変化させる第2フ
ィルタリング(weak deblocking filtering)を行う。
そして垂直ブロック境界線を介在した画素に関しては、
前記VBFを用い前記水平ブロック境界線を介在した画
素と同様の方式でフィルタリングをする。
【0077】一方、インターフレーム(PまたはPBフ
レーム)の場合、ブロッキングアーチファクトを減少さ
せるためのデブロッキングフィルタリングは、ブロック
Iの第2リンギングフラグRF1がリンギングノイズを
減少させる必要無しを示し、ブロックIがイントラ若し
くはブロックJがイントラであり、ブロックIのHBF
とブロックJのHBFが共にブロッキングアーチファク
トを減少させる必要有りを示せば、前記ブロックIとブ
ロックJとを仕切る水平ブロック境界線を介在した所定
個数の画素値を変化させる第1フィルタリング(strong
deblocking filtering)を行う。
【0078】ブロックIの第2リンギングフラグRF1
がリンギングノイズを減少させる必要無しを示し、ブロ
ックIがイントラ若しくはブロックJがイントラであ
り、ブロックIのHBFとブロックJのHBFのいずれ
か一つさえブロッキングアーチファクトを減少させる必
要無しを示せば、水平ブロック境界線を挟んで隣接した
二画素の差とH.263の量子化された要素であるQP
とを比較して、二画素の差がQPより小さければ前記第
1フィルタリングより小さい個数の画素値を変化させる
第2フィルタリング(weak deblocking filtering)を
行う。
【0079】ブロックIの第2リンギングフラグRF1
がリンギングノイズを減少させる必要無しを示し、ブロ
ックI及びブロックJが共にイントラでなく、ブロック
I及びブロックJの少なくともいずれか一方のRF0が
1であることを示し、ブロックI及びブロックJが共に
HBFが‘1’であれば、第1フィルタリング(strong
deblocking filtering)を行う。
【0080】ブロックIの第2リンギングフラグRF1
がリンギングノイズを減少させる必要無しを示し、ブロ
ックI及びブロックJが共にイントラでなく、ブロック
I及びブロックJのいずれか一方のRF0が1であるこ
とを示し、ブロックI及びブロックJの少なくともいず
れか一方のHBFが‘0’を示せば、第2フィルタリン
グ(weak deblocking filtering)を行う。ブロックI
のRF1が0でなければ、第2フィルタリング(weak d
eblockingfiltering)を行う。そして前記第1フィルタ
リング及び第2フィルタリングは第1実施形態における
第1フィルタリングと同様の方法で行う。
【0081】2.2 コーナー異常値補償部 コーナー異常値の補償はイントラフレームでのみ行われ
る。前記コーナー異常値は、図6(A)乃至図6(B)
に示すように、8×8ブロックのコーナーポイントにお
いて隣り合う画素より格段に大きくか若しくは小さい画
素により特徴づけられる。図6(A)において斜線で示
された領域が4つのブロックに亘って分布され前記斜線
領域の一つ若しくは二つの画素が隣り合うブロックのコ
ーナーポイントに位置する時、コーナーポイントは、図
6(B)に示すように、DCT係数の量子化により歪曲
されうる。このように歪曲されたコーナーポイントをコ
ーナー異常値と呼ぶ。前記コーナー異常値はデブロッキ
ングフィルター及びフィルターでは除去できない。前記
コーナー異常値を減らすために、まずコーナー異常値を
検出し、次に、前記検出されたコーナー異常値を補償す
る。また、図6(B)はコーナー異常値の検出のための
簡単な座標値を記している。ここで、A,B,C及びD
は8×8ブロックのコーナーポイントの画素値である。
【0082】まず、前記コーナー異常値の検出のための
アルゴリズムは次のように表現できる。
【0083】
【数6】
【0084】ここで、QPはH.263の量子化要素
(quantization factor)である。
【0085】前記’Count’は、コーナー異常値候
補画素の数を記憶する変数である。もし、前記Coun
tが‘0’であれば、コーナー異常値はない。もしAの
みが図6(B)において候補ポイントであり、|A−A
3|が3QP/2より小さければ、コーナー異常値補償
はA,A1及びA2上において次のように行われる。ここ
で、A1,A2はAと隣り合う画素を、A3はAと対角線
に位置する画素を示す。Aに対して補償された値を
A’,A1に対して補償された値をA’1,A2に対して
補償された値をA’2とすれば、前記A’,A’1及び
A’2は以下の数7のように決定される。
【0086】
【数7】
【0087】候補ポイントの個数が二つ以上であれば、
(A3+B3+C3+D3+2)/4から最大の差を有する
候補が選ばれ、コーナー異常値補償は前記一つの候補の
場合でのような方法でそのポイント上において行われ
る。
【0088】2.3 リンギングノイズの低減のための
デリンギングフィルター まず、第1実施形態について説明すれば、次のようであ
る。各ブロックに対しデリンギングフィルターを適用す
る前に、RFを調べる。もし、現ブロックのRFが
‘1’であれば、デリンギングフィルタリングは前記ブ
ロックに適用される。映像の微細部がフィルタリングに
より歪曲されることを防止するために、フィルタリング
前に簡単なエッジ検出が行われる。図7(A)及び図7
(B)に示すように、エッジ検出及び2次元信号適応フ
ィルタリング(2−D SAF)は‘0’でないリンギ
ングフラグを有する8×8ブロックに適用される。とい
うのは、境界画素はデブロッキングフィルターによりス
ムーズになるためである。
【0089】次に、第2実施形態におけるリンギングノ
イズの低減のためのデリンギングフィルターを説明すれ
ば、次のようである。各ブロックに対しデリンギングフ
ィルターを適用する前に、リンギングフラグ、即ちRF
0及びRF1を調べる。まず、リンギングノイズを減少
させるデリンギングフィルタリングの遂行成否を判断す
るアルゴリズムを表現すれば、次のようである。
【0090】
【数8】
【0091】前記リンギングノイズを低減させるデリン
ギングフィルタリングの遂行成否アルゴリズムを説明す
れば、次のようである。
【0092】ブロックIに関し、現ブロックと逆量子化
された前ブロックとの差が所定の値以下で、前記ブロッ
クJに関し、現ブロックと逆量子化された前ブロックと
の差が所定の値以下であれば、デリンギングフィルタリ
ングを行わない。
【0093】イントラフレームの場合、リンギングノイ
ズを減少させるフィルタリングの遂行成否はブロックI
のリンギングフラグがデリンギングフィルタリングの必
要有りを示しているかを検査して、デリンギングフィル
タリングが必要有りを示せばデリンギングフィルタリン
グを行い、そうでなければデリンギングフィルタリング
を行わない。
【0094】次にインターフレームの場合、リンギング
ノイズを減少させるフィルタリングの遂行成否は以下の
ように決定される。即ち、ブロックIがイントラブロッ
クであればデリンギングフィルタリングを行う。前記ブ
ロックIがイントラブロックでなく、8×8予測モード
を使用したブロックであればフィルタリングを行う。前
記ブロックIがイントラブロックでなく、8×8予測モ
ードを使用したブロックでなく、ブロックIのRF1が
デリンギングフィルタリングが必要有りを示せばデリン
ギングフィルタリングを行い、ブロックIのRF1がデ
リンギングフィルタリングが必要なしを示せばデリンギ
ングフィルタリングを行わない。
【0095】デリンギングフィルタリングは、エッジ検
出と2次元信号適応フィルタリング(2−D SAF)
により行われる。映像の微細部がフィルタリングにより
歪曲されることを防止するために、フィルタリング前に
簡単なエッジ検出が行われる。図7(A)及び図7
(B)に示すように、リンギングノイズを減少させるた
めに、エッジ検出及び2次元信号適応フィルタリング
(2−D SAF)は上記した条件が満足される場合、
8×8ブロックに適用される。
【0096】一方、前記デリンギングフィルタリングに
対する第1実施形態及び第2実施形態におけるエッジ検
出について説明する。映像エッジを見出すために、1次
元水平及び垂直傾斜演算子が再構成されたブロックに適
用される。エッジ画素を決定するためのしきい値は、
H.263の量子化ファクターQPから選ばれる。2次
元SAFが8×8画素に適用されるために、エッジ情報
は、図7(B)に示すように、現ブロック内の10×1
0ブロックに対して得られなければならない。
【0097】水平エッジ検出は、現画素を画素[m]
[n]、前記画素[m][n]の右側の画素を画素
[m][n+1]、左側の画素を画素[m][n−
1]、前記画素[m][n]と画素[m][n+1]と
の差をA1、前記画素[m][n]と画素[m][n−
1]との差をA2、H.263の量子化要素をQPとす
るとき、条件式((A1>QP)and(A2>Q
P))or(A1>2QP)or(A2>2QP)を満
足すれば、エッジとして検出され、エッジ[m][n]
=1となる。また垂直エッジ検出は、現画素を画素
[m][n]、前記画素[m][n]の上方の画素を画
素[m+1][n]、下方の画素を画素[m−1]
[n]、前記画素[m][n]と画素[m+1][n]
との差をA’1、前記画素[m][n]と画素[m−
1][n]との差をA’2、H.263の量子化要素を
QPとするとき、条件式((A’1>QP)and
(A’2>QP))or(A’1>2QP)or(A’
2>2QP)を満足すれば、エッジとして検出され、エ
ッジ[m][n]=‘1’となる。
【0098】以上のエッジマップEdge[m][n]
を画素値pixel[m][n]から生成するアルゴリ
ズムで表現すれば、次のようである。
【0099】
【数9】
【0100】次に、2次元信号適応フィルターSAFを
使用したデリンギングフィルタリングについて説明す
る。前記フィルタリングは映像の微細部の深刻な損失な
しにリンギングノイズをスムーズにするためのものであ
る。本発明に係るデリンギングフィルタリングは、エッ
ジマップ(edge map)に従いコンボルーション(convol
ution)に対する加重ファクター(weighting factor)
が可変する簡単なコンボルーション演算である。前記S
AFは、Edge[m][n]を使用することにより復
号化されたブロックに適用される。図7(A)は、2次
元SAFに対するカーネル(kernel)を示している。図
7(B)におけるフィルターウィンドウの中心点Aがエ
ッジ画素であれば、2次元フィルタリング演算は行われ
ない(図7(B)の例1)。4−コネクティッドフィル
ターウィンドウにおいてエッジポイントが含まれていな
ければ、ローパスフィルタリングが行われる(図7
(B)の例2)。もし中心点上に存在しないあるエッジ
ポイントが4−コネクティッドフィルタウィンドウにあ
れば、エッジ画素を除いた加重フィルタリングが行われ
る(図7(B)の例3)。加重ファクターが計算の複雑
性を考慮して定義され、これによりSAFフィルタリン
グが、以下の表1に示すように、簡単なシフト及び加算
演算によって行われる。
【0101】
【表1】
【0102】3.ブロッキングフラグのパッディング 第2実施形態ではブロッキングフラグのパッディングを
行う。QCIFの場合、Yのためのブロッキングフラグ
Bf_Yは22×18アレイで構成され、Cbのための
ブロッキングフラグBf_Cb及びCrのためのブロッ
キングフラグBf_Crは11×9アレイで構成され
る。ここで、各エレメントは各ブロックのノイズ情報を
有している。しかし乍ら、非制限動きベクトルモード
(Unrestricted Motion Vector mode)が使用されれ
ば、動きベクトルはピクチャーの外側を示すことが認め
られる。従って、動きベクトルがピクチャーの外側を示
すことを認めるために、Bf_Y,Bf_Cb及びBf
_Crパッディングがなされる。Bf_Yの場合、Bf
_Yを拡張するために、Bf_Yの最上位行及び最下位
行のエレメントは垂直的に複写される。また垂直繰返し
パッディングがなされてからは、水平的な繰返しパッデ
ィングが最左側及び最右側のカラムのエレメント上にお
いて行われる。
【0103】最終に、元のBf_YサイズをM×Nとす
るとき、パッディングがなされてからはサイズは(M+
8)×(N+8)となる。同じく、Bf_Cb及びBf
_Crの元のサイズがM/2×N/2であるとすれば、
パッディングがなされてからは(M/2+4)×(N/
2+4)となる。
【0104】図8は、Bf_Yパッディングの結果を示
すものである。前記パッディングは様々な方法がありう
るが、その一例として基準フレームのブロッキングフラ
グを複写することにより行われうる。また前記パッディ
ングはループフィルタリングしようとする新たなフレー
ムが入れば先になされた後、動きベクトルを用いブロッ
キングフラグを抽出する時に、前記パッディングされた
ブロッキングフラグを用い該当マクロブロックのブロッ
キングフラグを求める。
【0105】一方、上記した本発明の実施形態はコンピ
ュータにて実行できるプログラムにより作成可能であ
る。そして、コンピュータにおいて用いられる媒体から
前記プログラムを動作させる汎用ディジタルコンピュー
ターにおいて具現できる。前記媒体はマグネチック貯蔵
媒体(例:ロム、フロッピーディスク、ハードディスク
等)、光学的な読み込み媒体(例:CD−ROM,DV
D等)及びキャリアウェーブ(例:インターネットを介
して転送)などの貯蔵媒体を含む。
【0106】例えば、前記記録媒体は、映像データのエ
ンコーディング及びデコーディング時に発生する量子化
効果の低減のためのループフィルタリング方法におい
て、逆量子化された映像データの逆量子化係数の分布及
び前フレームと現フレームとの差を示す動きベクトルを
用いて前記映像データのループフィルタリング必要性の
可否を示すフラグを抽出するフラグ抽出段階がコンピュ
ータにより行われるコード手段と、前記抽出されたフラ
グがループフィルタリングが必要有りを示せば、前記フ
ラグに相応する映像データを所定の方法によりフィルタ
リングするフィルタリング段階がコンピュータにより行
われるプログラムコード手段とを含むことを特徴とす
る。
【0107】そして本発明を具現するための機能的なプ
ログラム、コード及びコードセグメントは本発明の属す
る技術分野のプログラマーにより容易に推論できる。
【0108】
【発明の効果】高圧縮された映像データの復元に際し
て、ブロッキングアーチファクト、コーナー異常値及び
リンギングノイズなどの量子化効果がもたらされる。本
発明に係るループフィルタリング方法は、フラグ及び適
応フィルターを使用することにより量子化効果の低減を
図るものである。各ブロックのブロッキング及びリンギ
ングフラグはループフィルタリングの計算量を減らす上
で大きな手助けとなる。現ブロックに対するブロッキン
グ及びリンギングフラグを抽出するには、インターフレ
ームの動きベクトルが使用される。
【0109】ビデオコーディングにおいて、高品質の映
像及びハードウェア並びにソフトウェアへの具現の容易
性のためには、計算の複雑性及びPSNRが考慮されな
ければならない。ハードウェアの複雑性の側面から、本
発明に係る方法は乗算及び割り算なしに並列処理によっ
て遂行できる。
【0110】本発明に係るループフィルタリング方法
は、映像の微細部を維持しながら主観的な画質を格段に
向上させることから、広範に使用できる。
【図面の簡単な説明】
【図1】 ブロックに基づき映像データをループフィル
タリングする時、量子化効果の低減のための映像データ
ループフィルタリング装置の構成を示すブロック図であ
る。
【図2】 H.263+に対する復号化器のブロック図
及び前記復号化器の逆量子化部において逆量子化された
8×8 DCT係数ブロックを示す図である。
【図3】 インターフレームの8×8ブロックAcと基
準フレームにおける隣接ブロックの関係を示す図であ
る。
【図4】 インターVOPの水平ブロッキングフラグH
BF、垂直ブロッキングフラグVBF及びリンギングフ
ラグRF抽出を説明するための一例を示す図である。
【図5】 ブロッキングアーチファクトの減少を目的と
するデブロッキングフィルターの動作の説明のために、
ブロック境界とブロック境界の画素位置とを示す図であ
る。
【図6】 クロスポイントとコーナー異常値とを示す図
であって、(A)は、量子化によってコーナー異常値を
生成する映像エッジの例を示し、(B)は、量子化によ
って発生されたコーナー異常値と、コーナー異常値補償
を行うためのコーナーポイントの座標値とを示す。
【図7】 (A)は、2次元信号適応フィルターSAF
カーネルを示す図であり、(B)は、エッジ検出のため
の10×10ブロック及びSAFの例を示す図である。
【図8】 Bf_Yパッディングの結果を示す図であ
る。
【符号の説明】
10 映像データ後処理装置 100 フラグ抽出部 110 デブロッキングフィルター 120 コーナー異常値補償部 130 デリンギングフィルター
───────────────────────────────────────────────────── フロントページの続き (72)発明者 朴 玄旭 大韓民国ソウル特別市東大門區回基洞109 番地科學院アパートD棟2號

Claims (29)

    【特許請求の範囲】
  1. 【請求項1】 映像データのエンコーディング及びデコ
    ーディング時に発生する量子化効果の低減のためのルー
    プフィルタリング方法において、 逆量子化された映像データの逆量子化係数の分布及び前
    フレームと現フレームとの差を示す動きベクトルを用
    い、前記映像データのループフィルタリングの必要性可
    否を示すフラグを抽出するフラグ抽出段階と、 前記抽出されたフラグがループフィルタリングが必要有
    りを示せば、前記フラグに相応する映像データを所定の
    方法によりフィルタリングするフィルタリング段階とを
    含むことを特徴とする映像データループフィルタリング
    方法。
  2. 【請求項2】 前記フラグ抽出は、前記ループフィルタ
    リングしようとする映像フレームがイントラフレームで
    あれば、各ブロックの離散余弦変換(DCT)ドメイン
    から抽出し、 前記ループフィルタリングしようとする映像フレームが
    インターフレームであれば、残差信号及び基準フレーム
    のフラグから抽出することを特徴とする請求項1に記載
    の映像データループフィルタリング方法。
  3. 【請求項3】 前記フラグは、 ブロック境界近傍のブロッキングアーチファクトを減少
    させる必要性の可否を示すブロッキングフラグと、 映像エッジ近傍のリンギングノイズを減少させる必要性
    の可否を示すリンギングフラグとよりなることを特徴と
    する請求項2に記載の映像データループフィルタリング
    方法。
  4. 【請求項4】 前記映像データがイントラフレームの場
    合、前記イントラフレームのブロッキングフラグは、 水平ブロッキングフラグHBF及び垂直ブロッキングフ
    ラグVBFよりなり、 前記イントラフレームの水平及び垂直ブロッキングフラ
    グ抽出は、 a)前記圧縮された映像データが逆量子化された後に、
    前記逆量子化された8×8ブロックに対するDCT係数
    を求める段階と、 b)前記8×8ブロックを成す64個の画素の内前記ブ
    ロックの最上及び最左側に位置した画素(DC成分)を
    画素Aとし、前記画素Aのすぐ右側の画素を画素B、前
    記画素Aの真下の画素を画素Cとするとき、前記画素A
    の係数のみが‘0’でない値を有すると、前記HBF及
    びVBFをループフィルタリングする必要ありを示す情
    報‘1’にセットする段階と、 c)前記逆量子化された8×8ブロックの最上位行のみ
    が‘0’でない値を有する画素を含んでいる時、VBF
    をループフィルタリングが必要ありを示す情報‘1’に
    セットする段階と、 d)前記逆量子化された8×8ブロックの最左側のカラ
    ムのみが‘0’でない値を有する画素を含んでいる時、
    HBFをループフィルタリングが必要ありを示す情報
    ‘1’にセットする段階とを含むことを特徴とする請求
    項3に記載の映像データループフィルタリング方法。
  5. 【請求項5】 前記イントラフレームのリンギングフラ
    グ抽出は、 8×8ブロックを成す64個の画素の内前記ブロックの
    最上、最左側に位置した画素(DC成分)を画素Aと
    し、前記画素Aのすぐ右側の画素を画素B、かつ前記画
    素Aの真下の画素を画素Cとするとき、 前記逆量子化された8×8ブロックの画素A,B及びC
    以外の位置に何れか一つさえ‘0’でない係数値を有す
    る時、リンギングフラグRFをループフィルタリングが
    必要ありを示す情報‘1’にセットすることを特徴とす
    る請求項3に記載の映像データループフィルタリング方
    法。
  6. 【請求項6】 現インターフレームのブロッキングフラ
    グは、 水平ブロッキングフラグ及び垂直ブロッキングフラグよ
    りなり、 前記現インターフレームのブロックAcに対する水平及
    び垂直ブロッキングフラグ抽出は、 基準フレームが所定の基準ブロックよりなり、前記現イ
    ンターフレームのブロックAcの動きベクトル(MV
    x,MVy)により推定される基準フレームのブロック
    を動きブロックXとするとき、 前記動きブロックXが前記基準ブロックと重なった度合
    いを調べる段階と、 重なった画素数が所定個数以上である基準ブロックのH
    BF及びVBFをビット別に論理積演算する段階と、 前記演算の結果を現VOPのブロックAcの水平及び垂
    直ブロッキングフラグにセットすることを特徴とする請
    求項3に記載の映像データループフィルタリング方法。
  7. 【請求項7】 前記現インターフレームのブロックAc
    に対する水平及び垂直ブロッキングフラグ抽出は、 現マクロブロックがその動きベクトルの0であるスキッ
    プされたマクロブロックであれば、基準マクロブロック
    のブロッキングフラグを現マクロブロックのブロッキン
    グフラグにセットする段階をさらに具備することを特徴
    とする請求項6に記載の映像データループフィルタリン
    グ方法。
  8. 【請求項8】 前記現インターフレームのブロックAc
    に対する水平及び垂直ブロッキングフラグ抽出は、先ず
    基準ブロックのブロッキングフラグを複写してパッディ
    ングをする段階をさらに具備することを特徴とする請求
    項7に記載の映像データループフィルタリング方法。
  9. 【請求項9】 映像フレームがインターフレームの場
    合、現インターフレームのブロックAcに対するリンギ
    ングフラグ抽出は、 インターブロックの8×8ブロックにおける残差信号の
    逆量子化係数IQCのAC成分のいずれか一つさえ
    ‘0’でなければ、現ブロックAcのリンギングフラグ
    RFを‘1’にセットし、前記IQCのAC成分がいず
    れも‘0’であれば、RFを‘0’にする段階と、 マクロブロックMBに対する動きベクトルを伝達する8
    ×8予測モードが現ブロックに使用されると、RFを
    ‘1’にセットする段階とよりなることを特徴とする請
    求項3に記載の映像データループフィルタリング方法。
  10. 【請求項10】 前記映像データがインターフレームの
    場合、前記インターフレームのリンギングフラグは、 第1リンギングフラグRF0及び第2リンギングフラグ
    RF1よりなり、 現インターフレームのブロックAcに対する前記第1リ
    ンギングフラグRF0及び第2リンギングフラグRF1
    の抽出は、 インターマクロブロックの8×8ブロックにおいて残差
    信号の逆量子化係数IQCのDC成分のみが‘0’でな
    ければ、現ブロックAcの第1リンギングフラグRF0
    を‘1’にセットし、そうでなければRF0を0にする
    段階と、 インターフレームの8×8ブロックにおける残差信号の
    逆量子化係数IQCのAC成分のいずれか一つさえ
    ‘0’でなければ、現ブロックAcの第2リンギングフ
    ラグRF1を‘1’にセットし、そうでなければRF1
    を‘0’にする段階とよりなることを特徴とする請求項
    3に記載の映像データループフィルタリング方法。
  11. 【請求項11】 前記フィルタリング段階のフィルタリ
    ングは、 ループフィルタリングしようとするフレームを成してい
    る所定ブロックをブロックIとし、前記ブロックIと隣
    接したブロックをブロックJとするとき、 前記ブロックIに関し、現ブロックと逆量子化された前
    ブロックとの差が所定の値以下であり、前記ブロックJ
    に関し、現ブロックと逆量子化された前ブロックとの差
    が所定の値以下であれば、デブロッキングフィルタリン
    グを行わないことを特徴とする請求項3に記載の映像デ
    ータループフィルタリング方法。
  12. 【請求項12】 ブロッキングアーチファクトを減少さ
    せるためのデブロッキングフィルタリングは、 ループフィルタリングしようとするフレームを成してい
    る所定ブロックをブロックIとし、前記ブロックIと隣
    接したブロックをブロックJとするとき、 ブロックI及びブロックJのリンギングフラグRFが共
    にリンギングノイズを減少させる必要無しを示し、ブロ
    ックIのHBFとブロックJのHBFが共にブロッキン
    グアーチファクトを減少させる必要有りを示せば、前記
    ブロックIとブロックJを仕切る水平ブロック境界線を
    介在した所定個数の画素値を変化させる第1フィルタリ
    ングを行う段階と、 ブロックI及びブロックJのリンギングフラグRFが共
    にリンギングノイズを減少させる必要無しを示し、ブロ
    ックIのHBFとブロックJのHBFのいずれか一方で
    もブロッキングアーチファクトを減少させる必要無しを
    示せば、あるいはブロックI及びブロックJのリンギン
    グフラグRFの内少なくともいずれか一方がリンギング
    ノイズを減少させる必要有りを示せば、ブロック境界線
    を挟んで隣接した二画素の差とH.263の量子化され
    た要素であるQPとを比較し、二画素の差がQPより小
    さければ、前記第1フィルタリングより小さい個数の画
    素値を変化させる第2フィルタリングを行う段階とより
    なることを特徴とする請求項4または5に記載の映像デ
    ータループフィルタリング方法。
  13. 【請求項13】 ブロッキングアーチファクトを減少さ
    せるためのデブロッキングフィルタリングは、 ループフィルタリングしようとするフレームを成してい
    る所定ブロックをブロックIとし、前記ブロックIと隣
    接したブロックをブロックJとするとき、 ブロックIのリンギングフラグRFがリンギングノイズ
    を減少させる必要無しを示し、ブロックIがイントラ若
    しくはブロックJがイントラであり、ブロックIのHB
    FとブロックJのHBFが共にブロッキングアーチファ
    クトを減少させる必要有りを示せば、前記ブロックIと
    ブロックJとを仕切る水平ブロック境界線を介在した所
    定個数の画素値を変化させる第1フィルタリングを行う
    段階と、 ブロックIのリンギングフラグRFがリンギングノイズ
    を減少させる必要無しを示し、ブロックIがイントラ若
    しくはブロックJがイントラであり、ブロックIのHB
    FとブロックJのHBFのいずれか一方でもブロッキン
    グアーチファクトを減少させる必要無しを示せば、水平
    ブロック境界線を挟んで隣接した二画素の差とH.26
    3の量子化された要素であるQPとを比較し、二画素の
    差がQPより小さければ、前記第1フィルタリングより
    小さい個数の画素値を変化させる第2フィルタリングを
    行う段階と、 ブロックIのリンギングフラグRFがリンギングノイズ
    を減少させる必要無しを示し、ブロックI及びブロック
    Jが共にイントラでなく、ブロックIまたはブロックJ
    の残差信号のIQCのDC成分が存在し、ブロックI及
    びブロックJが共にHBFが‘1’であれば、第1フィ
    ルタリングを行う段階と、 ブロックIのリンギングフラグRFがリンギングノイズ
    を減少させる必要無しを示し、ブロックI及びブロック
    Jが共にイントラでなく、ブロックIまたはブロックJ
    の残差信号のIQCのDC成分が存在し、ブロックI及
    びブロックJの内少なくともいずれか一方のHBFが
    ‘0’を示せば、第2フィルタリングを行う段階と、 前記ブロックIのRFがリンギングノイズを減少させる
    必要有りを示せば、第2フィルタリングを行う段階とよ
    りなることを特徴とする請求項6または9に記載の映像
    データループフィルタリング方法。
  14. 【請求項14】 ブロッキングアーチファクトを減少さ
    せるためのデブロッキングフィルタリングは、 ループフィルタリングしようとするフレームを成してい
    る所定ブロックをブロックIとし、前記ブロックIと隣
    接したブロックをブロックJとするとき、 ブロックIの第2リンギングフラグRF1がリンギング
    ノイズを減少させる必要無しを示し、ブロックIがイン
    トラ若しくはブロックJがイントラであり、ブロックI
    のHBFとブロックJのHBFが共にブロッキングアー
    チファクトを減少させる必要有りを示せば、前記ブロッ
    クIとブロックJとを仕切る水平ブロック境界線を介在
    した所定個数の画素値を変化させる第1フィルタリング
    を行う段階と、 ブロックIの第2リンギングフラグRF1がリンギング
    ノイズを減少させる必要無しを示し、ブロックIがイン
    トラ若しくはブロックJがイントラであり、ブロックI
    のHBFとブロックJのHBFの内いずれか一方でもブ
    ロッキングアーチファクトを減少させる必要無しを示せ
    ば、水平ブロック境界線を挟んで隣接した二画素の差と
    H.263の量子化された要素であるQPとを比較し、
    二画素の差がQPより小さければ前記第1フィルタリン
    グより小さい個数の画素値を変化させる第2フィルタリ
    ングを行う段階と、 ブロックIの第2リンギングフラグRF1がリンギング
    ノイズを減少させる必要無しを示し、ブロックI及びブ
    ロックJが共にイントラでなく、ブロックI及びブロッ
    クJの内少なくともいずれか一方のRF0が1であり、
    ブロックI及びブロックJのHBFが共に‘1’であれ
    ば、第1フィルタリングを行う段階と、 ブロックIの第2リンギングフラグRF1がリンギング
    ノイズを減少させる必要無しを示し、ブロックI及びブ
    ロックJが共にイントラでなく、ブロックI及びブロッ
    クJの内少なくともいずれか一方のRF0が1であり、
    ブロックI及びブロックJのHBFの内少なくともいず
    れか一方が‘1’でなければ、第2フィルタリングを行
    う段階と、 前記ブロックIのRF1が‘0’でなければ、第2フィ
    ルタリングを行う段階とよりなることを特徴とする請求
    項7または10に記載の映像データループフィルタリン
    グ方法。
  15. 【請求項15】 前記ブロックIとブロックJとを仕切
    るブロック境界線を介在した6個の画素をA,B,C,
    D,E及びFとし、前記画素C及びDを前記ブロック境
    界線に最も隣接した画素、前記画素A及びFがブロック
    境界線から最も遠い画素、前記画素B及びDが前記A及
    びC,D及びFの中間に位置した画素とするとき、 前記第1フィルタリングは、 前記6個の画素に対し7−タブ(1,1,1,2,1,
    1,1)ローパスフィルタリングを行い、 前記第2フィルタリングは、 前記画素C及びDに対しフィルタリングを行うが、前記
    画素C及びDの差の絶対値がH.263の量子化要素Q
    Pより小さければ、CはC+(D−C)/4に、DはD
    +(D−C)/4に置き換えることを特徴とする請求項
    12または13または14に記載の映像データループフ
    ィルタリング方法。
  16. 【請求項16】 前記フィルタリング段階におけるリン
    ギングノイズを減少させるデリンギングフィルタリング
    は、 リンギングフラグがデリンギングフィルタリングが必要
    有りを示すかどうかを検査し、デリンギングフィルタリ
    ングが必要有りを示せばデリンギングフィルタリングを
    行い、そうでなければデリンギングフィルタリングを行
    わないことを特徴とし、 前記デリンギングフィルタリングは、 映像データの水平エッジ及び垂直エッジを検出するエッ
    ジ検出段階と、 リンギングノイズを減少させようとする8×8ブロック
    に対し2次元信号適応フィルタリングをする信号適応フ
    ィルタリング段階とよりなり、 前記エッジ検出段階の水平エッジ検出は、 画素[m][n]、前記画素[m][n]の右側の画素
    を画素[m][n+1]、左側の画素を画素[m][n
    −1]、前記画素[m][n]と画素[m][n+1]
    との差をA1、前記画素[m][n]と画素[m][n
    −1]との差をA2、H.263の量子化要素をQPと
    するとき、 条件式((A1>QP)and(A2>QP))or
    (A1>2QP)or(A2>2QP)を満足すれば、
    エッジとして検出され、エッジ[m][n]=1とな
    り、 前記エッジ検出段階の垂直エッジ検出は、 画素[m][n]、前記画素[m][n]の上方の画素
    を画素[m+1][n]、下方の画素を画素[m−1]
    [n]、前記画素[m][n]と画素[m+1][n]
    との差をA’1、前記画素[m][n]と画素[m−
    1][n]との差をA’2、H.263の量子化要素を
    QPとするとき、 条件式((A’1>QP)and(A’2>QP))o
    r(A’1>2QP)or(A’2>2QP)を満足す
    れば、エッジとして検出され、エッジ[m][n]=
    ‘1’となり、 前記信号適応フィルタリング段階は、 4−コネクティッドフィルターウィンドウを前記8×8
    ブロックに対し適用して、前記フィルターウィンドウの
    中心画素がエッジであればフィルタリングを行わず、前
    記フィルターウィンドウの中心画素がエッジでなければ
    加重フィルタリングを行うことを特徴とする請求項3に
    記載の映像データループフィルタリング方法。
  17. 【請求項17】 前記フィルタリング段階におけるリン
    ギングノイズを減少させるデリンギングフィルタリング
    の遂行成否は、 ループフィルタリングしようとするフレームを成してい
    る所定ブロックをブロックIとし、前記ブロックIと隣
    接したブロックをブロックJとするとき、 前記ブロックIに関し、現ブロックと逆量子化された前
    ブロックとの差が所定の値以下であり、前記ブロックJ
    に関し、現ブロックと逆量子化された前ブロックとの差
    が所定の値以下であれば、デリンギングフィルタリング
    を行わないことを特徴とする請求項3に記載の映像デー
    タループフィルタリング方法。
  18. 【請求項18】 前記フィルタリング段階におけるリン
    ギングノイズを減少させるデリンギングフィルタリング
    の遂行成否は、 ループフィルタリングしようとするフレームを成してい
    る所定ブロックをブロックIとし、前記ブロックIと隣
    接したブロックをブロックJとするとき、 ブロックIのリンギングフラグがデリンギングフィルタ
    リングが必要有りを示すかどうかを検査し、デリンギン
    グフィルタリングが必要有りを示せばデリンギングフィ
    ルタリングを行い、そうでなければデリンギングフィル
    タリングを行わないことを特徴とする請求項5に記載の
    映像データループフィルタリング方法。
  19. 【請求項19】 前記フィルタリング段階におけるリン
    ギングノイズを減少させるデリンギングフィルタリング
    の遂行成否は、 ループフィルタリングしようとするフレームを成してい
    る所定ブロックをブロックIとするとき、 ブロックIがイントラブロックであればデリンギングフ
    ィルタリングを行う段階と、 前記ブロックIがイントラブロックでなく、8×8予測
    モードを使用したブロックであれば、デリンギングフィ
    ルタリングを行う段階と、 前記ブロックIがイントラブロックでなく、8×8予測
    モードを使用したブロックでなく、ブロックIのRF1
    がデリンギングフィルタリングが必要有りを示せばデリ
    ンギングフィルタリングを行い、ブロックIのRF1が
    デリンギングフィルタリングが必要無しを示せばデリン
    ギングフィルタリングを行わない段階とよりなることを
    特徴とする請求項10に記載の映像データループフィル
    タリング方法。
  20. 【請求項20】 前記デリンギングフィルタリングは、 映像データの水平エッジ及び垂直エッジを検出するエッ
    ジ検出段階と、 リンギングノイズを減少させようとする8×8ブロック
    に対し2次元信号適応フィルタリングをする信号適応フ
    ィルタリング段階とよりなり、 前記エッジ検出段階の水平エッジ検出は、画素[m]
    [n]、前記画素[m][n]の右側の画素を画素
    [m][n+1]、左側の画素を画素[m][n−
    1]、前記画素[m][n]と画素[m][n+1]と
    の差をA1、前記画素[m][n]と画素[m][n−
    1]との差をA2、H.263の量子化要素をQPとす
    るとき、条件式((A1>QP)and(A2>Q
    P))or(A1>2QP)or(A2>2QP)を満
    足すれば、エッジとして検出され、エッジ[m][n]
    =1となり、 前記エッジ検出段階の垂直エッジ検出は、画素[m]
    [n]、前記画素[m][n]の上方の画素を画素[m
    +1][n]、下方の画素を画素[m−1][n]、前
    記画素[m][n]と画素[m+1][n]との差を
    A’1、前記画素[m][n]と画素[m−1][n]
    との差をA’2、H.263の量子化要素をQPとする
    とき、条件式((A’1>QP)and(A’2>Q
    P))or(A’1>2QP)or(A’2>2QP)
    を満足すれば、エッジとして検出され、エッジ[m]
    [n]=‘1’となり、 前記信号適応フィルタリング段階は、 4−コネクティッドフィルターウィンドウを前記8×8
    ブロックに対し適用して、前記フィルターウィンドウの
    中心画素がエッジであればフィルタリングを行わず、前
    記フィルターウィンドウの中心画素がエッジでなければ
    加重フィルタリングを行うことを特徴とする請求項17
    または18に記載の映像データループフィルタリング方
    法。
  21. 【請求項21】 映像データをブロックに基づきエンコ
    ーディング及びデコーディングする時、ブロック4つが
    会うクロスポイントのコーナーで発生するコーナー異常
    値を低減させるために、 逆量子化された前記映像データの8×8ブロックのコー
    ナー異常値を検出する検出段階と、 前記検出されたコーナー異常値を補償する補償段階とを
    さらに具備することを特徴とし、 前記検出段階は、前記クロスポイントを中心とした4つ
    の画素を画素A,B,C及びDとし、A,B,C、及び
    Dの各画素値をa,b,c,dとし、平均値Avera
    ge=(a+b+c+d+2)/4とおき、各画素値と
    Averageとの差をH.263の量子化要素QPと
    比較して、前記差がQPより大きければ、コーナー異常
    値候補画素の個数を累積してコーナー異常値を検出し、 前記補償段階は、前記Aの属するブロックにおいて前記
    Aと隣り合う画素をA1,A2とし、前記画素Aと対角線
    に位置する画素をA3とし、その画素値を各々a1,a2
    及びa3とするとき、前記検出段階で検出されたコーナ
    ー異常値候補が一つで、該画素がAであれば、前記aと
    3との差が3QP/2より小さければ、コーナー異常
    値補償は次式 【数1】 のようになり、 前記コーナー異常値候補画素数が二つ以上であれば、
    (a3+b3+c3+d3+2)/4(ここで、b3,c3
    3もa3と同様の方式で定義される)から最大の差を有
    する候補が選ばれ、該補償は前記一つの候補の場合での
    ような方法で行われることを特徴とする請求項1に記載
    の映像データループフィルタリング方法。
  22. 【請求項22】 映像データをブロックに基づきエンコ
    ーディング及びデコーディングする際に発生する量子化
    効果を低減させるための映像データループフィルタリン
    グ装置において、 映像データの逆量子化係数の分布及び前フレームと現フ
    レームとの差を示す動きベクトルを用い、映像データの
    ループフィルタリング必要性の可否を示すフラグを抽出
    するフラグ抽出部と、 前記フラグ抽出部で抽出されたブロッキングフラグを検
    査して、前記映像データをデブロッキングフィルタリン
    グするデブロッキングフィルターと、 前記デブロッキングフィルタリングされたデータの内コ
    ーナー異常値を検出して補償するコーナー異常値補償部
    と、 前記フラグ抽出部で抽出されたリンギングフラグを検査
    して、前記コーナー異常値補償されたデータをデリンギ
    ングフィルタリングするデリンギングフィルターとを含
    むことを特徴とし、 前記フラグは、 ブロック境界近傍のブロッキングアーチファクトを減少
    させる必要性の有無を示すブロッキングフラグと、 映像エッジ近傍のリンギングノイズを減少させる必要性
    の有無を示すリンギングフラグとよりなる映像データル
    ープフィルタリング装置。
  23. 【請求項23】 前記フラグ抽出部は、 イントラフラグ及びインターフラグを抽出し、 前記イントラフラグの抽出は、 逆量子化された前記映像データの逆量子化係数の分布を
    用い、 前記インターフラグの抽出は、 前フレームと現フレームとの差を示す動きベクトルを用
    いることを特徴とする請求項22に記載の映像データル
    ープフィルタリング装置。
  24. 【請求項24】 映像データをブロックに基づきエンコ
    ーディング及びデコーディングする際に発生する量子化
    効果を低減させるための映像データループフィルタリン
    グにおいて、 逆量子化された映像データの逆量子化係数の分布及び前
    フレームと現フレームとの差を示す動きベクトルを用
    い、前記映像データのループフィルタリングの必要性の
    有無を示すフラグを抽出するフラグ抽出段階と、 前記抽出されたフラグがループフィルタリングが必要あ
    りを示せば、前記フラグに相応する映像データを所定の
    方法によりフィルタリングするフィルタリング段階とを
    含み、 前記フラグ抽出は、前記ループフィルタリングしようと
    する映像フレームがイントラフレームであれば各ブロッ
    クのDCTドメインから抽出し、前記ループフィルタリ
    ングしようとする映像フレームがインターフレームであ
    れば残差信号及び基準フレームのフラグから抽出するこ
    とを特徴とする映像データループフィルタリング方法を
    実行させるためのプログラムを記録したコンピュータに
    て読取り可能な記録媒体。
  25. 【請求項25】 前記フラグがブロック境界近傍のブロ
    ッキングアーチファクトを減少させる必要性の有無を示
    すブロッキングフラグと、映像エッジ近傍のリンギング
    ノイズを減少させる必要性の有無を示すリンギングフラ
    グとよりなる時、 前記映像データがイントラフレームの場合、前記イント
    ラフレームのブロッキングフラグはHBF及びVBFよ
    りなり、 前記イントラフレームの水平及び垂直ブロッキングフラ
    グ抽出は、前記圧縮された映像データが逆量子化された
    後に、前記逆量子化された8×8ブロックに対するDC
    T係数を求める段階と、前記8×8ブロックを成す64
    個の画素の内前記ブロックの最上及び最左側に位置した
    画素(DC成分)を画素Aとし、前記画素Aのすぐ右側
    の画素を画素B、前記画素Aの真下の画素を画素Cとす
    るとき、前記画素Aの係数のみが‘0’でない値を有す
    ると、前記HBF及びVBFをループフィルタリングが
    必要ありを示す情報‘1’にセットする段階と、前記逆
    量子化された8×8ブロックの最上位行のみが‘0’で
    ない値を有する画素を含んでいるとき、VBFをループ
    フィルタリングが必要ありを示す情報‘1’にセットす
    る段階と、前記逆量子化された8×8ブロックの最左側
    のカラムのみが‘0’でない値を有する画素を含んでい
    る時、HBFをループフィルタリングが必要ありを示す
    情報‘1’にセットする段階とよりなり、 前記イントラフレームのリンギングフラグ抽出は、前記
    8×8ブロックを成す64個の画素の内前記ブロックの
    最上、最左側に位置した画素(DC成分)を画素Aと
    し、前記画素Aのすぐ右側の画素を画素B、前記画素A
    の真下の画素を画素Cとするとき、前記逆量子化された
    8×8ブロックの画素A,B及びC以外の位置にいずれ
    か一つでも‘0’でない係数値を有する係数値を有する
    時、リンギングフラグRFをループフィルタリングする
    必要ありを示す情報‘1’にセットし、 前記映像データがインターフレームの場合、現インター
    フレームのブロッキングフラグは水平ブロッキングフラ
    グ及び垂直ブロッキングフラグよりなり、 前記現インターフレームのブロックAcに対する水平及
    び垂直ブロッキングフラグ抽出は、基準フレームが所定
    の基準ブロックよりなり、前記現インターフレームのブ
    ロックAcの動きベクトル(MVx,MVy)により推
    定される基準フレームのブロックを動きブロックXとす
    るとき、前記動きブロックXが前記基準ブロックと重な
    った度合いを調べる段階と、重なった画素数が所定個数
    以上である基準ブロックのHBF及びVBFをビット別
    に論理積演算する段階と、前記演算の結果を現VOPの
    ブロックAcの水平及び垂直ブロッキングフラグにセッ
    トし、 現インターフレームのブロックAcに対するリンギング
    フラグ抽出は、インターフレームの8×8ブロックにお
    ける残差信号の逆量子化係数IQCが‘0’でなければ
    現ブロックAcのリンギングフラグRFを‘1’にセッ
    トする段階と、マクロブロックMBに対する動きベクト
    ルを伝達する8×8予測モードが現ブロックに使用され
    るとRFを‘1’にセットする段階とよりなることを特
    徴とする請求項24に記載の映像データループフィルタ
    リング方法を実行させるためのプログラムを記録したコ
    ンピュータにて読取り可能な記録媒体。
  26. 【請求項26】 前記フィルタリング段階のフィルタリ
    ングは、 ループフィルタリングしようとするフレームを成してい
    る所定ブロックをブロックIとし、前記ブロックIと隣
    接したブロックをブロックJとするとき、前記ブロック
    Iに関し、現ブロックと逆量子化された前ブロックとの
    差が所定の値以下であり、前記ブロックJに関し、現ブ
    ロックと逆量子化された前ブロックとの差が所定の値以
    下であれば、デブロッキングフィルタリングを行わない
    ことを特徴とする請求項25に記載の映像データループ
    フィルタリング方法を実行させるためのプログラムを記
    録したコンピュータにて読取り可能な記録媒体。
  27. 【請求項27】 ブロッキングアーチファクトを減少さ
    せるためのデブロッキングフィルタリングは、 ループフィルタリングしようとするフレームを成してい
    る所定ブロックをブロックIとし、前記ブロックIと隣
    接したブロックをブロックJとするとき、 ブロックI及びブロックJのリンギングフラグRFが共
    にリンギングノイズを減少させる必要無しを示し、ブロ
    ックIのHBFとブロックJのHBFが共にブロッキン
    グアーチファクトを減少させる必要有りを示せば、前記
    ブロックIとブロックJとを仕切る水平ブロック境界線
    を介在した所定個数の画素値を変化させる第1フィルタ
    リングを行う段階と、 ブロックI及びブロックJのリンギングフラグRFが共
    にリンギングノイズを減少させる必要無しを示し、ブロ
    ックIのHBFとブロックJのHBFの少なくともいず
    れか一方でもブロッキングアーチファクトを減少させる
    必要無しを示せば、あるいはブロックI及びブロックJ
    のリンギングフラグRFの少なくともいずれか一方がリ
    ンギングノイズを減少させる必要有りを示せば、水平ブ
    ロック境界線を挟んで隣接した二画素の差とH.263
    の量子化された要素であるQPとを比較し、二画素の差
    がQPより小さければ前記第1フィルタリングより小さ
    い個数の画素値を変化させる第2フィルタリングを行う
    段階とよりなり、 前記ブロックIとブロックJとを仕切る水平ブロック境
    界線を介在した6個の画素をA,B,C,D,E及びF
    とし、前記画素C及びDを前記水平ブロック境界線に最
    も隣接した画素、前記画素A及びFが水平ブロック境界
    線から最も遠い画素、前記画素B及びDが前記A及び
    C,D及びFの中間に位置した画素とするとき、 前記第1フィルタリングは、前記6つの画素に対し7−
    タブ(1,1,1,2,1,1,1)ローパスフィルタ
    リングを行い、 前記第2フィルタリングは、前記画素C及びDに対しフ
    ィルタリングを行うが、前記画素C及びDの差の絶対値
    がH.263の量子化要素であるQPより小さければ、
    CはC+(D−C)/4に、DはD+(D−C)/4に
    置き換え、 垂直ブロック境界線を介在した画素に関しては、前記V
    BFを用いて前記水平ブロック境界線を介在した画素と
    同様の方式でフィルタリングをすることを特徴とする請
    求項25に記載の映像データループフィルタリング方法
    を実行させるためのプログラムを記録したコンピュータ
    にて読取り可能な記録媒体。
  28. 【請求項28】 前記フィルタリング段階のデリンギン
    グフィルタリングは、 映像データの水平エッジ及び垂直エッジを検出するエッ
    ジ検出段階と、 リンギングノイズを減少しようとする8×8ブロックに
    関し、2次元信号適応フィルタリングをする信号適応フ
    ィルタリング段階とよりなることを特徴とし、 前記エッジ検出段階の水平エッジ検出は、 所定の大きさを有するブロック内の1画素を画素[m]
    [n]とし、前記画素[m][n]の右側の画素を画素
    [m][n+1]、左側の画素を画素[m][n−
    1]、前記画素[m][n]と画素[m][n+1]と
    の差をA1、前記画素[m][n]と画素[m][n+
    1]との差をA2、H.263の量子化要素をQPとす
    るとき、条件式((A1>QP)and(A2>Q
    P))or(A1>2QP)or(A2>2QP)を満
    足すれば、エッジとして検出され、エッジ[m][n]
    =1となり、 前記エッジ検出段階の垂直エッジ検出は、 前記画素[m][n]の上方の画素を画素[m+1]
    [n]、下方の画素を画素[m−1][n]、前記画素
    [m][n]と画素[m+1][n]との差をA’1、
    前記画素[m][n]と画素[m−1][n]との差を
    A’2、H.263の量子化要素をQPとするとき、条
    件式((A’1>QP)and(A’2>QP))or
    (A’1>2QP)or(A’2>2QP)を満足すれ
    ば、エッジとして検出され、エッジ[m][n]=
    ‘1’となり、 前記信号適応フィルタリング段階は、 4−コネクティッドフィルターウィンドウを前記8×8
    ブロックに対し適用して、前記フィルターウィンドウの
    中心画素がエッジであればフィルタリングを行わず、前
    記フィルターウィンドウの中心画素がエッジでなければ
    加重フィルタリングを行うことを特徴とする請求項25
    に記載の映像データループフィルタリング方法を実行さ
    せるのためのプログラムを記録したコンピュータにて読
    取り可能な記録媒体。
  29. 【請求項29】 映像データをブロックに基づきエンコ
    ーディング及びデコーディングするとき、ブロック4つ
    が会うクロスポイントのコーナーで発生するコーナー異
    常値を減少させるために、逆量子化された前記映像デー
    タの8×8ブロックのコーナー異常値を検出する検出段
    階と、前記検出されたコーナー異常値を補償する補償段
    階とをさらに具備することを特徴とし、 前記検出段階は、前記クロスポイントを中心とした4個
    の画素を画素A,B,C及びDとし、A,B,C及びD
    の各画素値をa,b,c,dとし、平均値Averag
    e=(a+b+c+d+2)/4とすれば、各画素値と
    Averageとの差をH.263の量子化要素QPと
    比較し、前記差がQPより大きければ、コーナー異常値
    候補画素個数を累積してコーナー異常値を検出し、 前記補償段階は、前記Aの属するブロックにおいて前記
    Aと隣り合う画素をA1,A2とし、前記画素Aと対角線
    に位置する画素をA3とし、その画素値を各々a1
    2,a3とするとき、前記検出段階で検出されたコーナ
    ー異常値候補が一つで、該画素がAであれば、前記aと
    3との差が3QP/2より小さければ、コーナー異常
    値補償は次式 【数2】 のようになり、 前記コーナー異常値候補画素数が二つ以上であれば、
    (a3+b3+c3+d3+2)/4(ここで、b3,c3
    3もa3と同様の方式で定義される)から最大の差を有
    する候補が選ばれ、該補償は前記一つの候補の場合での
    ような方法で行われることを特徴とする請求項25に記
    載の映像データループフィルタリング方法を実行させる
    ためのプログラムを記録したコンピュータにて読取り可
    能な記録媒体。
JP1362899A 1998-08-01 1999-01-21 映像データループフィルタリング方法及び装置 Expired - Lifetime JP3308921B2 (ja)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
KR1019980031431A KR100301013B1 (ko) 1998-08-01 1998-08-01 영상데이터 루프필터링방법 및 장치
KR199831431 1998-11-02
KR199846822 1998-11-02
KR1019980046822A KR100331331B1 (ko) 1998-11-02 1998-11-02 영상데이터 루프필터링 방법

Publications (2)

Publication Number Publication Date
JP2000059769A true JP2000059769A (ja) 2000-02-25
JP3308921B2 JP3308921B2 (ja) 2002-07-29

Family

ID=26633999

Family Applications (1)

Application Number Title Priority Date Filing Date
JP1362899A Expired - Lifetime JP3308921B2 (ja) 1998-08-01 1999-01-21 映像データループフィルタリング方法及び装置

Country Status (6)

Country Link
US (3) US6665346B1 (ja)
JP (1) JP3308921B2 (ja)
AU (1) AU717480B2 (ja)
BR (1) BRPI9901340B1 (ja)
RU (1) RU2154918C1 (ja)
SG (1) SG70679A1 (ja)

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2004008773A1 (ja) * 2002-07-11 2004-01-22 Matsushita Electric Industrial Co., Ltd. フィルタリング強度の決定方法、動画像符号化方法、および動画像復号化方法
JP2005521310A (ja) * 2002-03-26 2005-07-14 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ ビデオ信号後処理方法
JP2007503775A (ja) * 2003-08-26 2007-02-22 トムソン ライセンシング ハイブリッド・イントラ・インター符号化ブロックを符号化する方法及び装置
JP2010509842A (ja) * 2006-11-08 2010-03-25 トムソン ライセンシング インループのアーチファクト除去フィルタリングのための方法および装置
WO2011007586A1 (en) * 2009-07-13 2011-01-20 Sharp Kabushiki Kaisha Methods and systems for reducing compression artifacts
JP2011035619A (ja) * 2009-07-31 2011-02-17 Sony Corp 画像処理装置および方法
JP2011061849A (ja) * 2001-09-14 2011-03-24 Sharp Corp 画像符号化装置及び画像符号化方法
US8085846B2 (en) 2004-08-24 2011-12-27 Thomson Licensing Method and apparatus for decoding hybrid intra-inter coded blocks
JP2012510202A (ja) * 2008-11-25 2012-04-26 トムソン ライセンシング ビデオ符号化および復号のためのスパース性に基づくアーティファクト除去フィルタリングを行う方法および装置
USRE44497E1 (en) 2001-03-26 2013-09-17 Sharp Kabushiki Kaisha Method and apparatus for controlling loop filtering or post filtering in block based motion compensationed video coding
JP2017092980A (ja) * 2012-01-19 2017-05-25 三菱電機株式会社 画像復号装置、画像復号方法、画像符号化装置、画像符号化方法及び符号化データ
CN113170120A (zh) * 2018-09-28 2021-07-23 弗劳恩霍夫应用研究促进协会 去块或去振铃滤波器以及应用和改变去块或去振铃滤波器的强度的编码器、解码器和方法
USRE48845E1 (en) 2002-04-01 2021-12-07 Broadcom Corporation Video decoding system supporting multiple standards
US11979614B2 (en) 2021-07-02 2024-05-07 Interdigital Vc Holdings, Inc. Methods and apparatus for in-loop de-artifact filtering

Families Citing this family (128)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100243225B1 (ko) * 1997-07-16 2000-02-01 윤종용 블록화효과 및 링잉잡음 감소를 위한 신호적응필터링방법 및신호적응필터
KR100308016B1 (ko) 1998-08-31 2001-10-19 구자홍 압축 부호화된 영상에 나타나는 블럭현상 및 링현상 제거방법및 영상 복호화기
US6535643B1 (en) 1998-11-03 2003-03-18 Lg Electronics Inc. Method for recovering compressed motion picture for eliminating blocking artifacts and ring effects and apparatus therefor
US6735249B1 (en) * 1999-08-11 2004-05-11 Nokia Corporation Apparatus, and associated method, for forming a compressed motion vector field utilizing predictive motion coding
KR100335055B1 (ko) 1999-12-08 2002-05-02 구자홍 압축 영상신호의 블럭현상 및 링현상 제거방법
KR100380229B1 (ko) * 2000-07-19 2003-04-16 엘지전자 주식회사 엠펙(MPEG) 압축 비디오 환경에서 매크로 블록의 시공간상의 분포를 이용한 와이프(Wipe) 및 특수 편집 효과 검출 방법
JP3489735B2 (ja) * 2000-08-16 2004-01-26 松下電器産業株式会社 デブロッキングフィルタ演算装置
US7054500B1 (en) * 2000-12-06 2006-05-30 Realnetworks, Inc. Video compression and decompression system with postfilter to filter coding artifacts
US6993191B2 (en) * 2001-05-04 2006-01-31 Pts Corporation Methods and apparatus for removing compression artifacts in video sequences
JP4145665B2 (ja) * 2001-05-10 2008-09-03 松下電器産業株式会社 画像処理装置及び画像処理方法
US7054362B1 (en) * 2001-05-29 2006-05-30 Cisco Technology, Inc. Methods and apparatus for updating a reduction ratio
US6968006B1 (en) 2001-06-05 2005-11-22 At&T Corp. Method of content adaptive video decoding
US7773670B1 (en) 2001-06-05 2010-08-10 At+T Intellectual Property Ii, L.P. Method of content adaptive video encoding
US6909745B1 (en) 2001-06-05 2005-06-21 At&T Corp. Content adaptive video encoder
US6810086B1 (en) * 2001-06-05 2004-10-26 At&T Corp. System and method of filtering noise
US6970513B1 (en) 2001-06-05 2005-11-29 At&T Corp. System for content adaptive video decoding
US7003173B2 (en) * 2001-06-12 2006-02-21 Sharp Laboratories Of America, Inc. Filter for combined de-ringing and edge sharpening
KR100525785B1 (ko) 2001-06-15 2005-11-03 엘지전자 주식회사 이미지 화소 필터링 방법
JP3732760B2 (ja) * 2001-06-29 2006-01-11 株式会社東芝 物体認識装置及び物体認識方法
US20030043172A1 (en) * 2001-08-24 2003-03-06 Huiping Li Extraction of textual and graphic overlays from video
US9042445B2 (en) 2001-09-24 2015-05-26 Broadcom Corporation Method for deblocking field-frame video
US7440504B2 (en) * 2001-09-24 2008-10-21 Broadcom Corporation Method and apparatus for performing deblocking filtering with interlace capability
CN1278562C (zh) 2001-11-29 2006-10-04 松下电器产业株式会社 编码失真消除方法、视频编码方法、视频解码方法、装置及其程序
KR100958982B1 (ko) 2001-11-29 2010-05-20 파나소닉 주식회사 코딩 왜곡 제거 방법
CN101448162B (zh) * 2001-12-17 2013-01-02 微软公司 处理视频图像的方法
EP1333681A3 (en) 2002-01-31 2004-12-08 Samsung Electronics Co., Ltd. Filtering method and apparatus for reducing block artifacts or ringing noise
US7543326B2 (en) * 2002-06-10 2009-06-02 Microsoft Corporation Dynamic rate control
US20030235250A1 (en) 2002-06-24 2003-12-25 Ankur Varma Video deblocking
US7564382B2 (en) * 2002-11-15 2009-07-21 Qualcomm Incorporated Apparatus and method for multiple description encoding
US7463688B2 (en) * 2003-01-16 2008-12-09 Samsung Electronics Co., Ltd. Methods and apparatus for removing blocking artifacts of MPEG signals in real-time video reception
US7995849B2 (en) * 2003-03-17 2011-08-09 Qualcomm, Incorporated Method and apparatus for improving video quality of low bit-rate video
US7792194B2 (en) * 2003-04-10 2010-09-07 Lefan Zhong MPEG artifacts post-processed filtering architecture
US9330060B1 (en) 2003-04-15 2016-05-03 Nvidia Corporation Method and device for encoding and decoding video image data
US20040208389A1 (en) * 2003-04-15 2004-10-21 Silicon Integrated Systems Corp. Digital picture processing method
US8660182B2 (en) * 2003-06-09 2014-02-25 Nvidia Corporation MPEG motion estimation based on dual start points
US20050013494A1 (en) * 2003-07-18 2005-01-20 Microsoft Corporation In-loop deblocking filter
KR100936034B1 (ko) 2003-08-11 2010-01-11 삼성전자주식회사 블록 단위로 부호화된 디지털 영상의 블로킹 현상을제거하는 방법 및 그 영상재생장치
MXPA06002211A (es) * 2003-08-26 2006-05-19 Thomson Licensing Metodo y aparato para reducir al minimo el numero de imagenes de referencia utilizadas para inter-codificacion.
US8625680B2 (en) * 2003-09-07 2014-01-07 Microsoft Corporation Bitstream-controlled post-processing filtering
US7724827B2 (en) 2003-09-07 2010-05-25 Microsoft Corporation Multi-layer run level encoding and decoding
US7394855B2 (en) * 2003-11-20 2008-07-01 Mitsubishi Electric Research Laboratories, Inc. Error concealing decoding method of intra-frames of compressed videos
US7471845B2 (en) * 2004-01-06 2008-12-30 Sharp Laboratories Of America, Inc. De-ringing filter
KR101000926B1 (ko) * 2004-03-11 2010-12-13 삼성전자주식회사 영상의 불연속성을 제거하기 위한 필터 및 필터링 방법
US8503542B2 (en) * 2004-03-18 2013-08-06 Sony Corporation Methods and apparatus to reduce blocking noise and contouring effect in motion compensated compressed video
JP4566591B2 (ja) * 2004-03-19 2010-10-20 キヤノン株式会社 画像変形推定方法および画像変形推定装置
US7397854B2 (en) * 2004-04-29 2008-07-08 Mediatek Incorporation Adaptive de-blocking filtering apparatus and method for MPEG video decoder
US7539248B2 (en) * 2004-04-29 2009-05-26 Mediatek Incorporation Adaptive de-blocking filtering apparatus and method for MPEG video decoder
US7496141B2 (en) * 2004-04-29 2009-02-24 Mediatek Incorporation Adaptive de-blocking filtering apparatus and method for MPEG video decoder
US7400679B2 (en) * 2004-04-29 2008-07-15 Mediatek Incorporation Adaptive de-blocking filtering apparatus and method for MPEG video decoder
US20050243914A1 (en) * 2004-04-29 2005-11-03 Do-Kyoung Kwon Adaptive de-blocking filtering apparatus and method for mpeg video decoder
US7397853B2 (en) * 2004-04-29 2008-07-08 Mediatek Incorporation Adaptive de-blocking filtering apparatus and method for MPEG video decoder
US7460596B2 (en) * 2004-04-29 2008-12-02 Mediatek Incorporation Adaptive de-blocking filtering apparatus and method for MPEG video decoder
US7801383B2 (en) 2004-05-15 2010-09-21 Microsoft Corporation Embedded scalar quantizers with arbitrary dead-zone ratios
US20050281339A1 (en) * 2004-06-22 2005-12-22 Samsung Electronics Co., Ltd. Filtering method of audio-visual codec and filtering apparatus
US7953152B1 (en) 2004-06-28 2011-05-31 Google Inc. Video compression and encoding method
US7697782B2 (en) 2004-09-16 2010-04-13 Sharp Laboratories Of America, Inc. System for reducing ringing artifacts
US20060062311A1 (en) * 2004-09-20 2006-03-23 Sharp Laboratories Of America, Inc. Graceful degradation of loop filter for real-time video decoder
NO322722B1 (no) * 2004-10-13 2006-12-04 Tandberg Telecom As Fremgangsmate for videokoding gjennom reduksjon av blokkartefakter
US7136536B2 (en) * 2004-12-22 2006-11-14 Telefonaktiebolaget L M Ericsson (Publ) Adaptive filter
WO2006075973A1 (en) * 2005-01-14 2006-07-20 Matsushita Electric Industrial Co., Ltd. Decoding and encoding using motion-compensated temporal filtering
US8223845B1 (en) * 2005-03-16 2012-07-17 Apple Inc. Multithread processing of video frames
US8422546B2 (en) 2005-05-25 2013-04-16 Microsoft Corporation Adaptive video encoding using a perceptual model
KR100703200B1 (ko) * 2005-06-29 2007-04-06 한국산업기술대학교산학협력단 인트라 부호화 장치 및 방법
US8731071B1 (en) 2005-12-15 2014-05-20 Nvidia Corporation System for performing finite input response (FIR) filtering in motion estimation
US8724702B1 (en) 2006-03-29 2014-05-13 Nvidia Corporation Methods and systems for motion estimation used in video coding
US7995649B2 (en) 2006-04-07 2011-08-09 Microsoft Corporation Quantization adjustment based on texture level
US7974340B2 (en) 2006-04-07 2011-07-05 Microsoft Corporation Adaptive B-picture quantization control
US8503536B2 (en) 2006-04-07 2013-08-06 Microsoft Corporation Quantization adjustments for DC shift artifacts
US8059721B2 (en) 2006-04-07 2011-11-15 Microsoft Corporation Estimating sample-domain distortion in the transform domain with rounding compensation
US8130828B2 (en) 2006-04-07 2012-03-06 Microsoft Corporation Adjusting quantization to preserve non-zero AC coefficients
US8711925B2 (en) 2006-05-05 2014-04-29 Microsoft Corporation Flexible quantization
US20070286277A1 (en) * 2006-06-13 2007-12-13 Chen Xuemin Sherman Method and system for video compression using an iterative encoding algorithm
JP4410225B2 (ja) * 2006-08-07 2010-02-03 株式会社東芝 動画像復号化装置および方法
US8660380B2 (en) * 2006-08-25 2014-02-25 Nvidia Corporation Method and system for performing two-dimensional transform on data value array with reduced power consumption
US20080084932A1 (en) * 2006-10-06 2008-04-10 Microsoft Corporation Controlling loop filtering for interlaced video frames
JP2008109389A (ja) * 2006-10-25 2008-05-08 Canon Inc 画像処理装置および画像処理装置の制御方法
JP2008124742A (ja) * 2006-11-10 2008-05-29 Sony Corp 画像処理装置、画像処理方法、およびプログラム
PL2123051T3 (pl) * 2006-12-18 2011-04-29 Koninl Philips Electronics Nv Kompresja i dekompresja obrazu
CN101589624A (zh) * 2007-01-22 2009-11-25 日本电气株式会社 图像再编码设备、图像再编码方法以及图像编码程序
US8189946B2 (en) * 2007-01-24 2012-05-29 Canon Kabushiki Kaisha Image processing apparatus and method thereof for detecting and removing noise in decoded images
KR100843100B1 (ko) * 2007-02-07 2008-07-03 삼성전자주식회사 디지털 영상에서의 블록 노이즈 저감 방법 및 장치, 이를이용한 인코딩/디코딩 방법 및 인코더/디코더
US8238424B2 (en) 2007-02-09 2012-08-07 Microsoft Corporation Complexity-based adaptive preprocessing for multiple-pass video compression
US8498335B2 (en) 2007-03-26 2013-07-30 Microsoft Corporation Adaptive deadzone size adjustment in quantization
US8243797B2 (en) 2007-03-30 2012-08-14 Microsoft Corporation Regions of interest for quality adjustments
US8442337B2 (en) 2007-04-18 2013-05-14 Microsoft Corporation Encoding adjustments for animation content
KR100856303B1 (ko) * 2007-05-18 2008-09-03 삼성전기주식회사 링잉 노이즈 제거 장치 및 노이즈 제거 장치
US8756482B2 (en) * 2007-05-25 2014-06-17 Nvidia Corporation Efficient encoding/decoding of a sequence of data frames
US20080291209A1 (en) * 2007-05-25 2008-11-27 Nvidia Corporation Encoding Multi-media Signals
US8331438B2 (en) 2007-06-05 2012-12-11 Microsoft Corporation Adaptive selection of picture-level quantization parameters for predicted video pictures
US9118927B2 (en) * 2007-06-13 2015-08-25 Nvidia Corporation Sub-pixel interpolation and its application in motion compensated encoding of a video signal
US8873625B2 (en) 2007-07-18 2014-10-28 Nvidia Corporation Enhanced compression in representing non-frame-edge blocks of image frames
TWI375470B (en) * 2007-08-03 2012-10-21 Via Tech Inc Method for determining boundary strength
KR100872253B1 (ko) * 2007-08-23 2008-12-05 삼성전기주식회사 이미지 센서에 의해 생성된 이미지의 노이즈 제거 방법
US8619880B2 (en) 2007-10-10 2013-12-31 Qualcomm Incorporated Universal blockiness correction
US8638852B2 (en) 2008-01-08 2014-01-28 Qualcomm Incorporated Video coding of filter coefficients based on horizontal and vertical symmetry
EP2229782A2 (en) * 2008-01-14 2010-09-22 Thomson Licensing Methods and apparatus for de-artifact filtering using multi-lattice sparsity-based filtering
US20100278236A1 (en) * 2008-01-17 2010-11-04 Hua Yang Reduced video flicker
US8542730B2 (en) 2008-02-22 2013-09-24 Qualcomm, Incorporated Fast macroblock delta QP decision
KR101591825B1 (ko) * 2008-03-27 2016-02-18 엘지전자 주식회사 비디오 신호의 인코딩 또는 디코딩 방법 및 장치
US8189933B2 (en) 2008-03-31 2012-05-29 Microsoft Corporation Classifying and controlling encoding quality for textured, dark smooth and smooth video content
US8897359B2 (en) 2008-06-03 2014-11-25 Microsoft Corporation Adaptive quantization for enhancement layer video coding
US20090316793A1 (en) * 2008-06-20 2009-12-24 Yang Zhijie Michael Method and system for adaptive deblocking for avs1-p2
RU2494568C2 (ru) * 2008-07-25 2013-09-27 Сони Корпорейшн Способ и устройство обработки изображения
US8666181B2 (en) * 2008-12-10 2014-03-04 Nvidia Corporation Adaptive multiple engine image motion detection system and method
TWI468020B (zh) * 2009-02-19 2015-01-01 Sony Corp Image processing apparatus and method
US8380001B2 (en) * 2009-02-27 2013-02-19 Vixs Systems, Inc. Edge adaptive deblocking filter and methods for use therewith
KR101647376B1 (ko) 2009-03-30 2016-08-10 엘지전자 주식회사 비디오 신호 처리 방법 및 장치
US10477249B2 (en) * 2009-06-05 2019-11-12 Apple Inc. Video processing for masking coding artifacts using dynamic noise maps
US20100322526A1 (en) * 2009-06-18 2010-12-23 Electronics And Telecommunications Research Institute Method of filtering restored image using plurality of filters and encoding/decoding apparatus and method using filtering method
CN101583041B (zh) * 2009-06-18 2012-03-07 中兴通讯股份有限公司 多核图像编码处理设备的图像滤波方法及设备
CN105872541B (zh) * 2009-06-19 2019-05-14 三菱电机株式会社 图像编码装置、图像编码方法及图像解码装置
TWI401972B (zh) * 2009-06-23 2013-07-11 Acer Inc 時間性錯誤隱藏方法
JP5344238B2 (ja) * 2009-07-31 2013-11-20 ソニー株式会社 画像符号化装置および方法、記録媒体、並びにプログラム
US20110135011A1 (en) * 2009-12-04 2011-06-09 Apple Inc. Adaptive dithering during image processing
EP2592831A2 (en) * 2010-07-09 2013-05-15 Samsung Electronics Co., Ltd Method and apparatus for encoding video using adjustable loop filtering, and method and apparatus for decoding video using adjustable loop filtering
US9819966B2 (en) 2010-09-01 2017-11-14 Qualcomm Incorporated Filter description signaling for multi-filter adaptive filtering
US9247265B2 (en) * 2010-09-01 2016-01-26 Qualcomm Incorporated Multi-input adaptive filter based on combination of sum-modified Laplacian filter indexing and quadtree partitioning
US9055305B2 (en) * 2011-01-09 2015-06-09 Mediatek Inc. Apparatus and method of sample adaptive offset for video coding
US8787443B2 (en) 2010-10-05 2014-07-22 Microsoft Corporation Content adaptive deblocking during video encoding and decoding
US9020033B2 (en) * 2010-11-04 2015-04-28 Nice-Systems Ltd. System and method for enhancing compression using skip macro block on a compressed video
JP5850214B2 (ja) * 2011-01-11 2016-02-03 ソニー株式会社 画像処理装置および方法、プログラム、並びに記録媒体
US9042458B2 (en) 2011-04-01 2015-05-26 Microsoft Technology Licensing, Llc Multi-threaded implementations of deblock filtering
KR20120140181A (ko) * 2011-06-20 2012-12-28 한국전자통신연구원 화면내 예측 블록 경계 필터링을 이용한 부호화/복호화 방법 및 그 장치
AU2013248857B2 (en) * 2012-04-16 2015-11-05 Hfi Innovation Inc. Method and apparatus for loop filtering across slice or tile boundaries
KR102056686B1 (ko) * 2013-02-18 2019-12-18 삼성디스플레이 주식회사 영상 처리부, 이를 포함하는 표시 장치 및 이를 이용한 영상 처리 방법
CN113518221B (zh) * 2016-10-14 2024-03-01 联发科技股份有限公司 视频编码或解码方法及相应装置
CN107172423B (zh) * 2017-03-31 2018-08-21 武汉斗鱼网络科技有限公司 一种对视频帧进行滤波的方法及装置
CN112508913A (zh) * 2020-12-10 2021-03-16 国网江西省电力有限公司电力科学研究院 基于图像检测的电缆截面边沿检测方法

Family Cites Families (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02137489A (ja) 1988-11-17 1990-05-25 Mitsubishi Electric Corp 動き補償を含む画像符号化伝送装置
JPH02235491A (ja) 1989-03-09 1990-09-18 Toshiba Corp 画像符号化方式
US5164828A (en) * 1990-02-26 1992-11-17 Sony Corporation Video signal transmission and method and apparatus for coding video signal used in this
US5625714A (en) * 1991-01-10 1997-04-29 Olympus Optical Co., Ltd. Image signal decoding device capable of removing block distortion with simple structure
JP2868342B2 (ja) 1991-08-23 1999-03-10 日本電気株式会社 フレーム間予測符号化装置のループ内フィルタ制御方式
JPH05130592A (ja) 1991-10-31 1993-05-25 Toshiba Corp 動画像符号化装置
JP2549479B2 (ja) * 1991-12-06 1996-10-30 日本電信電話株式会社 動き補償フレーム間帯域分割符号化処理方法
JPH05183888A (ja) * 1991-12-27 1993-07-23 Mitsubishi Electric Corp 情報源符号化装置
JP3090763B2 (ja) 1992-02-06 2000-09-25 富士通株式会社 動画像符号化装置
FR2696256B1 (fr) * 1992-09-30 1994-11-25 Bull Sa Utilisation de "tubes" pour le transfert d'états entre différents systèmes distants.
US5565921A (en) * 1993-03-16 1996-10-15 Olympus Optical Co., Ltd. Motion-adaptive image signal processing system
US5432870A (en) * 1993-06-30 1995-07-11 Ricoh Corporation Method and apparatus for compressing and decompressing images of documents
KR970009302B1 (en) * 1993-08-17 1997-06-10 Lg Electronics Inc Block effect reducing apparatus for hdtv
JP3495766B2 (ja) * 1993-10-01 2004-02-09 テキサス インスツルメンツ インコーポレイテツド 画像処理方法
US6125398A (en) * 1993-11-24 2000-09-26 Intel Corporation Communications subsystem for computer-based conferencing system using both ISDN B channels for transmission
FR2718315B1 (fr) * 1994-03-30 1996-06-21 Sgs Thomson Microelectronics Circuit de compression d'image.
US5852669A (en) * 1994-04-06 1998-12-22 Lucent Technologies Inc. Automatic face and facial feature location detection for low bit rate model-assisted H.261 compatible coding of video
EP0697788A3 (en) * 1994-08-19 1997-03-26 Eastman Kodak Co Adaptive and global motion compensated cancellation of the interlacing of successive video images with post-processing
EP0721286A3 (en) * 1995-01-09 2000-07-26 Matsushita Electric Industrial Co., Ltd. Video signal decoding apparatus with artifact reduction
US5852475A (en) * 1995-06-06 1998-12-22 Compression Labs, Inc. Transform artifact reduction process
KR100192270B1 (ko) * 1996-02-03 1999-06-15 구자홍 에이치디티브이 비데오 디코더 회로
WO1997029586A2 (en) 1996-02-05 1997-08-14 Philips Electronics N.V. Image data noise filtering
JP3297293B2 (ja) * 1996-03-07 2002-07-02 三菱電機株式会社 動画像復号方法および動画像復号装置
KR100242637B1 (ko) * 1996-07-06 2000-02-01 윤종용 동보상된 영상의 블록화효과 및 링잉노이즈 감소를 위한 루프필터링방법
GB2321856A (en) * 1997-02-06 1998-08-12 Brigitte Friedl Roulette betting layouts
US6462791B1 (en) * 1997-06-30 2002-10-08 Intel Corporation Constrained motion estimation and compensation for packet loss resiliency in standard based codec
US5825475A (en) * 1997-07-29 1998-10-20 Van Leer Metallized Products (Usa) Limited System and method for determining which of a plurality of visually indistinguishable objects have been marked with a covert indicator
JP4186242B2 (ja) * 1997-12-26 2008-11-26 ソニー株式会社 画像信号処理装置及び画像信号処理方法
US6134571A (en) * 1998-04-29 2000-10-17 Hewlett-Packard Company Implicit DST-based filter operating in the DCT domain
JP3606306B2 (ja) * 1998-10-08 2005-01-05 沖電気工業株式会社 画像符号化装置、画像復号化装置及び画像伝送システム
US6594313B1 (en) * 1998-12-23 2003-07-15 Intel Corporation Increased video playback framerate in low bit-rate video applications
US6708231B1 (en) * 1999-08-12 2004-03-16 Mitsumi Electric Co., Ltd. Method and system for performing a peripheral firmware update
KR20020026177A (ko) * 2000-04-11 2002-04-06 요트.게.아. 롤페즈 비디오 엔코딩 및 디코딩 방법

Cited By (61)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
USRE46482E1 (en) 2001-03-26 2017-07-18 Dolby Laboratories Licensing Corporation Method and apparatus for controlling loop filtering or post filtering in block based motion compensationed video coding
USRE47261E1 (en) 2001-03-26 2019-02-26 Dolby Laboratories Licensing Corporation Method and apparatus for controlling loop filtering or post filtering in block based motion compensationed video coding
USRE45250E1 (en) 2001-03-26 2014-11-18 Sharp Kabushiki Kaisha Method and apparatus for controlling loop filtering or post filtering in block based motion compensationed video coding
USRE44497E1 (en) 2001-03-26 2013-09-17 Sharp Kabushiki Kaisha Method and apparatus for controlling loop filtering or post filtering in block based motion compensationed video coding
USRE46491E1 (en) 2001-03-26 2017-07-25 Dolby Laboratories Licensing Corporation Method and apparatus for controlling loop filtering or post filtering in block based motion compensationed video coding
USRE47202E1 (en) 2001-03-26 2019-01-08 Dolby Laboratories Licensing Corporation Method and apparatus for controlling loop filtering or post filtering in block based motion compensationed video coding
US10349051B1 (en) 2001-09-14 2019-07-09 Dolby Laboratories Licensing Corporation Adaptive filtering based upon boundary strength
JP2011091824A (ja) * 2001-09-14 2011-05-06 Sharp Corp 画像復号装置及び画像復号方法
US10178386B2 (en) 2001-09-14 2019-01-08 Dolby Laboratories Licensing Corporation Adaptive filtering based upon boundary strength
US9872024B2 (en) 2001-09-14 2018-01-16 Dolby Laboratories Licensing Corporation Adaptive filtering based upon boundary strength
US9866834B2 (en) 2001-09-14 2018-01-09 Dolby Laboratories Licensing Corporation Adaptive filtering based upon boundary strength
JP2011061849A (ja) * 2001-09-14 2011-03-24 Sharp Corp 画像符号化装置及び画像符号化方法
JP2011061850A (ja) * 2001-09-14 2011-03-24 Sharp Corp 画像符号化装置及び画像符号化方法
US8891634B2 (en) 2001-09-14 2014-11-18 Sharp Kabushiki Kaisha Adaptive filtering based upon boundary strength
US10257511B2 (en) 2001-09-14 2019-04-09 Dolby Laboratories Licensing Corporation Adaptive filtering based upon boundary strength
JP2011061848A (ja) * 2001-09-14 2011-03-24 Sharp Corp 画像復号装置及び画像復号方法
US9848191B2 (en) 2001-09-14 2017-12-19 Dolby Laboratories Licensing Corporation Adaptive filtering based upon boundary strength
JP2011061847A (ja) * 2001-09-14 2011-03-24 Sharp Corp 画像符号化装置及び画像符号化方法
US9124888B2 (en) 2001-09-14 2015-09-01 Sharp Kabushiki Kaisha Adaptive filtering based upon boundary strength
US9609327B1 (en) 2001-09-14 2017-03-28 Dolby Laboartories Licensing Corporation Adaptive filtering based upon boundary strength
US9503759B2 (en) 2001-09-14 2016-11-22 Dolby Laboratories Licensing Corporation Adaptive filtering based upon boundary strength
JP2012085319A (ja) * 2001-09-14 2012-04-26 Sharp Corp 画像符号化装置及び復号装置
US10602142B2 (en) 2001-09-14 2020-03-24 Dolby Laboratories Licensing Corporation Adaptive filtering based upon boundary strength
JP2005521310A (ja) * 2002-03-26 2005-07-14 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ ビデオ信号後処理方法
USRE48845E1 (en) 2002-04-01 2021-12-07 Broadcom Corporation Video decoding system supporting multiple standards
US9888241B2 (en) 2002-07-11 2018-02-06 Godo Kaisha Ip Bridge 1 Filtering strength determination method, moving picture coding method and moving picture decoding method
US10230978B2 (en) 2002-07-11 2019-03-12 Godo Kaisha Ip Bridge 1 Filtering strength determination method, moving picture coding method and moving picture decoding method
US8976869B2 (en) 2002-07-11 2015-03-10 Panasonic Intellectual Property Corporation Of America Filtering strength determination method, moving picture coding method and moving picture decoding method
US9204164B2 (en) 2002-07-11 2015-12-01 Godo Kaisha Ip Bridge 1 Filtering strength determination method, moving picture coding method and moving picture decoding method
AU2003244072B8 (en) * 2002-07-11 2004-02-02 Godo Kaisha Ip Bridge 1 Filtering Strength Determination Method, Moving Picture Coding Method and Moving Picture Decoding Method
AU2003244072B2 (en) * 2002-07-11 2007-08-16 Godo Kaisha Ip Bridge 1 Filtering Strength Determination Method, Moving Picture Coding Method and Moving Picture Decoding Method
US8982965B2 (en) 2002-07-11 2015-03-17 Panasonic Intellectual Property Corporation Of America Filtering strength determination method, moving picture coding method and moving picture decoding method
US9319712B2 (en) 2002-07-11 2016-04-19 Godo Kaisha Ip Bridge 1 Filtering strength determination method, moving picture coding method and moving picture decoding method
US9386320B2 (en) 2002-07-11 2016-07-05 Godo Kaisha Ip Bridge 1 Filtering strength determination method, moving picture coding method and moving picture decoding method
US7372905B2 (en) 2002-07-11 2008-05-13 Matsushita Electric Industrial Co., Ltd. Filtering intensity decision method, moving picture encoding method, and moving picture decoding method
US8116384B2 (en) 2002-07-11 2012-02-14 Panasonic Corporation Filtering strength determination method, moving picture coding method and moving picture decoding method
US7782963B2 (en) 2002-07-11 2010-08-24 Panasonic Corporation Filtering strength determination method, moving picture coding method and moving picture decoding method
WO2004008773A1 (ja) * 2002-07-11 2004-01-22 Matsushita Electric Industrial Co., Ltd. フィルタリング強度の決定方法、動画像符号化方法、および動画像復号化方法
US9854240B2 (en) 2002-07-11 2017-12-26 Godo Kaisha Ip Bridge 1 Filtering strength determination method, moving picture coding method and moving picture decoding method
US8085856B2 (en) 2002-07-11 2011-12-27 Panasonic Corporation Filtering strength determination method, moving picture coding method and moving picture decoding method
JP2007503777A (ja) * 2003-08-26 2007-02-22 トムソン ライセンシング ハイブリッド・イントラ・インター符号化ブロックを符号化する方法及び装置
US8085845B2 (en) 2003-08-26 2011-12-27 Thomson Licensing Method and apparatus for encoding hybrid intra-inter coded blocks
JP2007503775A (ja) * 2003-08-26 2007-02-22 トムソン ライセンシング ハイブリッド・イントラ・インター符号化ブロックを符号化する方法及び装置
US8085846B2 (en) 2004-08-24 2011-12-27 Thomson Licensing Method and apparatus for decoding hybrid intra-inter coded blocks
US9277243B2 (en) 2006-11-08 2016-03-01 Thomson Licensing Methods and apparatus for in-loop de-artifact filtering
JP2010509842A (ja) * 2006-11-08 2010-03-25 トムソン ライセンシング インループのアーチファクト除去フィルタリングのための方法および装置
US11089337B2 (en) 2006-11-08 2021-08-10 Interdigital Vc Holdings, Inc. Methods and apparatus for in-loop de-artifact filtering
US9674556B2 (en) 2006-11-08 2017-06-06 Thomson Licensing Methods and apparatus for in-loop de-artifact filtering
JP2012510202A (ja) * 2008-11-25 2012-04-26 トムソン ライセンシング ビデオ符号化および復号のためのスパース性に基づくアーティファクト除去フィルタリングを行う方法および装置
US9723330B2 (en) 2008-11-25 2017-08-01 Thomson Licensing Dtv Method and apparatus for sparsity-based de-artifact filtering for video encoding and decoding
WO2011007586A1 (en) * 2009-07-13 2011-01-20 Sharp Kabushiki Kaisha Methods and systems for reducing compression artifacts
US9215460B2 (en) 2009-07-31 2015-12-15 Sony Corporation Apparatus and method of adaptive block filtering of target slice
US10306224B2 (en) 2009-07-31 2019-05-28 Sony Corporation Apparatus and method of adaptive block filtering of target slice based on filter control information
JP2011035619A (ja) * 2009-07-31 2011-02-17 Sony Corp 画像処理装置および方法
US10841580B2 (en) 2009-07-31 2020-11-17 Sony Corporation Apparatus and method of adaptive block filtering of target slice based on filter control information
US9955161B2 (en) 2009-07-31 2018-04-24 Sony Corporation Apparatus and method of adaptive block filtering of target slice
US9210428B2 (en) 2009-07-31 2015-12-08 Sony Corporation Apparatus and method of adaptive block filtering of target slice
JP2017092980A (ja) * 2012-01-19 2017-05-25 三菱電機株式会社 画像復号装置、画像復号方法、画像符号化装置、画像符号化方法及び符号化データ
CN113170120A (zh) * 2018-09-28 2021-07-23 弗劳恩霍夫应用研究促进协会 去块或去振铃滤波器以及应用和改变去块或去振铃滤波器的强度的编码器、解码器和方法
US11843805B2 (en) 2018-09-28 2023-12-12 Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. Deblocking or deringing filter and encoder, decoder and method for applying and varying a strength of a deblocking or deringing filter
US11979614B2 (en) 2021-07-02 2024-05-07 Interdigital Vc Holdings, Inc. Methods and apparatus for in-loop de-artifact filtering

Also Published As

Publication number Publication date
JP3308921B2 (ja) 2002-07-29
RU2154918C1 (ru) 2000-08-20
US20030219073A1 (en) 2003-11-27
SG70679A1 (en) 2000-02-22
AU1216099A (en) 2000-02-24
US6665346B1 (en) 2003-12-16
AU717480B2 (en) 2000-03-30
BR9901340A (pt) 2000-05-09
BRPI9901340B1 (pt) 2016-03-22
US20080159386A1 (en) 2008-07-03
US7251276B2 (en) 2007-07-31

Similar Documents

Publication Publication Date Title
JP3308921B2 (ja) 映像データループフィルタリング方法及び装置
JP5753933B2 (ja) 量子化効果減少のための映像データ後処理方法
US8577168B2 (en) System and method for in-loop deblocking in scalable video coding
EP0781053B1 (en) Method and apparatus for post-processing images
WO2003061295A2 (en) Sharpness enhancement in post-processing of digital video signals using coding information and local spatial features
EP1506525B1 (en) System for and method of sharpness enhancement for coded digital video
Vidal et al. New adaptive filters as perceptual preprocessing for rate-quality performance optimization of video coding
KR100331331B1 (ko) 영상데이터 루프필터링 방법
JP4300839B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
KR100301013B1 (ko) 영상데이터 루프필터링방법 및 장치
JP5180550B2 (ja) 画像処理装置及び画像処理方法
Võ et al. Localized filtering for artifact removal in compressed images
US20080187237A1 (en) Method, medium, and system reducing image block noise
JPH06311499A (ja) 画像信号復号化装置
JP2001145104A (ja) 画像復号化方法および画像復号化装置
Lam Optimizing the deblocking algorithm for H. 264 decoder implementation
Li et al. Postprocessing MPEG based on estimated quantization parameters

Legal Events

Date Code Title Description
R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090517

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100517

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110517

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120517

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130517

Year of fee payment: 11

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term