JP2007116728A - 圧縮された画像の画質の向上 - Google Patents
圧縮された画像の画質の向上 Download PDFInfo
- Publication number
- JP2007116728A JP2007116728A JP2006322565A JP2006322565A JP2007116728A JP 2007116728 A JP2007116728 A JP 2007116728A JP 2006322565 A JP2006322565 A JP 2006322565A JP 2006322565 A JP2006322565 A JP 2006322565A JP 2007116728 A JP2007116728 A JP 2007116728A
- Authority
- JP
- Japan
- Prior art keywords
- wavelet
- level
- image
- threshold
- smoothing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 claims abstract description 58
- 238000013139 quantization Methods 0.000 claims description 96
- 238000009499 grossing Methods 0.000 claims description 58
- 238000007906 compression Methods 0.000 claims description 44
- 230000006835 compression Effects 0.000 claims description 44
- 230000009466 transformation Effects 0.000 claims description 20
- 230000000694 effects Effects 0.000 claims description 5
- 230000004044 response Effects 0.000 claims description 5
- 230000007423 decrease Effects 0.000 claims description 2
- 238000005457 optimization Methods 0.000 claims description 2
- 238000012935 Averaging Methods 0.000 claims 1
- 238000007689 inspection Methods 0.000 claims 1
- 230000008030 elimination Effects 0.000 abstract description 2
- 238000003379 elimination reaction Methods 0.000 abstract description 2
- 230000002708 enhancing effect Effects 0.000 abstract 1
- 238000012545 processing Methods 0.000 description 62
- 238000006243 chemical reaction Methods 0.000 description 17
- 238000010586 diagram Methods 0.000 description 15
- 238000007781 pre-processing Methods 0.000 description 12
- 238000000354 decomposition reaction Methods 0.000 description 11
- 238000004422 calculation algorithm Methods 0.000 description 10
- 230000001419 dependent effect Effects 0.000 description 9
- 230000007246 mechanism Effects 0.000 description 9
- 230000006872 improvement Effects 0.000 description 8
- 230000008569 process Effects 0.000 description 8
- 238000013459 approach Methods 0.000 description 7
- 238000004458 analytical method Methods 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 6
- 230000009467 reduction Effects 0.000 description 6
- 230000002441 reversible effect Effects 0.000 description 6
- 238000012512 characterization method Methods 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 5
- 238000012805 post-processing Methods 0.000 description 5
- 239000013598 vector Substances 0.000 description 4
- 238000001444 catalytic combustion detection Methods 0.000 description 3
- 239000013256 coordination polymer Substances 0.000 description 3
- 238000013500 data storage Methods 0.000 description 3
- 230000006837 decompression Effects 0.000 description 3
- 238000003707 image sharpening Methods 0.000 description 3
- 239000011159 matrix material Substances 0.000 description 3
- 238000010606 normalization Methods 0.000 description 3
- 230000003068 static effect Effects 0.000 description 3
- 238000000844 transformation Methods 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000003706 image smoothing Methods 0.000 description 2
- 230000000670 limiting effect Effects 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 235000010724 Wisteria floribunda Nutrition 0.000 description 1
- 230000003044 adaptive effect Effects 0.000 description 1
- 238000010420 art technique Methods 0.000 description 1
- 238000005311 autocorrelation function Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 238000013144 data compression Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 230000002427 irreversible effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000003550 marker Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 238000004321 preservation Methods 0.000 description 1
- 230000000644 propagated effect Effects 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 230000002829 reductive effect Effects 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 238000012552 review Methods 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 230000001629 suppression Effects 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Images
Classifications
-
- G06T5/70—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/10—Image enhancement or restoration by non-spatial domain filtering
-
- G06T5/73—
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/48—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using compressed domain processing techniques other than decoding, e.g. modification of transform coefficients, variable length coding [VLC] data or run-length data
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
- H04N19/527—Global motion vector estimation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
- H04N19/63—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using sub-band based transform, e.g. wavelets
- H04N19/635—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using sub-band based transform, e.g. wavelets characterised by filter definition or implementation details
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/85—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
- H04N19/86—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/90—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20048—Transform domain processing
- G06T2207/20064—Wavelet transform [DWT]
Abstract
【解決手段】 一態様において、ウェーブレット順変換を使用して、画像に関する雑音除去とボケを除くことを実行するウェーブレット向上ユニットと、圧縮ウェーブレット変換を使用して、ウェーブレット向上ユニットからの向上された画像出力を圧縮する、ウェーブレット向上ユニットに接続された、圧縮器とを有する、符号化器である。
【選択図】図1A
Description
一実施例では、雑音除去、鮮明化及び、平滑化を達成するために、しきい値化及び/又はスケーリング(例えば、乗算)の形式の向上が、ウェーブレット係数に関して実行される。基準はしきい値化及び/又は乗算が適用されるか否かを指示する。
雑音除去は、所定のしきい値以下の全ての係数をゼロに設定することにより、実行される。この技術は、ハードしきい値化として知られ、且つ従来技術で良く知られている。代わりとして、例えば、しきい値以上の係数をゼロに向かってしきい値の量だけ縮小する、ソフトしきい値化も考えることが可能である。そのような技術は、きわどくサンプルされ且つ過度に完全なウェーブレット分解に対して優位に使用され、そして、1995年の情報理論に関するIEEE論文誌、41(3)の第613−627のDonohoによる、”ソフトしきい値化による雑音除去(Denoising by Soft−Thresholding)”に記載されている。
いずれかの雑音除去が完了した後には、ゼロでないウェーブレット係数は、鮮明化又は平滑化のために修正される。
再スケーリングの前後で画像のL2ノルム
雑音除去及び/又はボケを取り除くことは、圧縮画像内の量子化雑音による歪みを減少しかつ除去するために使用され得る。一実施例では、技術はJ2K符号化されたデータストリーム内の量子化雑音の除去のために記述される。J2K符号化されたデータストリームに関する上述のウェーブレット鮮明化及び平滑化処理に関する処理を使用するボケを取り除く操作を実行するための技術も、説明される。それらの2つの技術は、画質の向上システムを構成するために、別々に又は組合せて使用できる。そのような画質の向上システムは、例えば、ディジタルカメラ、スキャナ、プリンタ、ディジタルコピー機、ディスプレイ、後処理ソフトウェア内に含まれても良く又は、復号器内に埋め込まれてもよい。
ガウス白色雑音は、ウェーブレット分解のレベル内に均一に分散され、そして、その強度は分解の最も細かいレベルでの係数の標準偏差を計算することにより推定できる。量子化雑音は、異なる特性を有する。この雑音は、非常に似たサイズの変換係数が、量子化の適用後に異なる量子化ビン(bin)となった時に出現する。この量子化ビンのずれは、逆ウェーブレット変換を実行した後に、特に画像の滑らかな領域内で、歪みとして目に見える。ウェーブレット圧縮された画像内の量子化雑音歪みの特性は、逆変換と共に、量子化手順それ自身に依存する。
J2K規格のAnnex Eは、量子化を記述する。量子化ビンサイズQは、
−可逆5−3変換、従って、Δb=1
−QCD又はQCCタグからのG=2,εb=9、従って、Mb=10
−コードブロックに対するパケットヘッダからのP=4(ゼロビット面)
−コードブロックに対するパケットヘッダからのCP=3.第1ビット面は、一つの符号化パス、クリーンアップパス、のみを有するので、3符号化パスは、
−第一の非ゼロビット面に対するクリーンアップパス、
−第2の非ゼロビット面に対するシグニフィカンスプロパゲーション、
−第2の非ゼロビット面に対するリファインメントパス、
である。
−χが0の時は、Nb(u,v)=P+C−χ=6、従って、Q=210−6・1=24=16であり、
−χが1の時は、Nb(u,v)=P+C−χ=5、従って、Q=210−5・1=25=32である。
2つの似たウェーブレット係数を2つの異なる量子化ビンに与えることによりなされる誤差は、例えば、ゼロビンがより広い場合のような幾つかの場合を除いて、通常は全てのビンに対して同じ大きさである。(そのような場合には差は1.5Qであろう)。以下の例では、Q=32のスカラー量子化を使用することが説明される。
−偶数の再構成された低域通過係数に対しては1/4Qで、
−奇数の再構成された低域通過係数に対しては3/4Q(以下のテーブル4参照)、のオーダーである。
J2Kでは、一般的に画像圧縮に対しては、2次元(2D)ウェーブレット変換が使用される。J2Kでは、2D前向きウェーブレット変換は、1D垂直前向き変換を画像列に適用し、且つそして、1D水平前向き変換を垂直変換係数の行に適用することにより実行される。2D逆ウェーブレット変換は、1D水平逆変換を係数の行に適用し続いて1D垂直逆変換を行うことにより実行される。
LL 水平低域通過、垂直低域通過、
HL 水平高域通過、垂直低域通過、
LH 水平低域通過、垂直高域通過、
HH 水平高域通過、垂直高域通過、
と呼ばれ、HL,LH,HHは、全て、詳細係数又は高域通過係数と考えられる。
大きさが
量子化に関するこの知識を使用して、再構成されたL係数の雑音除去が実行される。これは、1次元例で説明する。アウトライアーを除去し且つ滑らかな領域を平滑化するために、冗長ハール(Haar)ウェーブレット変換
(1)逆変換の低域通過と高域通過フィルタをとり、そして、それらをベクトルfilter_low[...],filter_high[...]として書き込む。
(2)マトリクスを計算する。
MHL=(filter_high)T・filter_low
MLH=MHL T
MHH=(filter_high)T・filter_high
(3)マトリクスMについて冗長ハール変換の1つのレベルを実行する。
(4)2−dim信号に対しては、(全てのウェーブレット係数の絶対値の最大値)・Qとしてしきい値Tminを設定する。
(5)1−dim信号に対しては、(filter_highのウェーブレット係数の絶対値の最大値)・Qとしてしきい値Tminを設定する。
低域通過フィルタ
(1)逆変換の低域通過及び高域通過フィルタをとり、そして、それらをベクトルF=filter_low=[...],G=filter_high[...]として書き込む、
(2)F0,F1にG0,G1よるフィルタの2つのサブサンプルされたバージョンを示す。
(3)マトリクス
上述のように、WSS−技術は、雑音除去とボケを除く問題の解決を含む古典的な回復問題への解答を提供する。WSS技術に似た第2の動作は、圧縮係数についてボケさせる逆を実行するのにも使用され得る。
一実施例では、鮮明化と平滑化は、再スケーリングウェーブレット係数と、係数
上述の説明は、一般的なJPEG2000符号化器による圧縮後に、歪みを減少させかつ、画質を向上させる方法を提供した。以下の説明は、一般的なJPEG2000復号器(例えば、JPEG2000復号器、雑音除去又は鮮明化なしのJPEG2000復号器、等)と共に動作する特別目的の符号化器を用いる、歪みの減少と画像の画質の向上のための技術を提供する。
WSS技術とJPEG2000を結合する1つの方法は、図3に示すように、圧縮前に、画像に関するウェーブレット平滑化と鮮明化を実行することである。図3を参照すると、画像300は、ウェーブレット鮮明化と平滑化(WSS)処理ブロック301へ入力される。一実施例では、ブロック301は、図2と等価である。これは、鮮明化又は平滑化及びボケを取り除くことを実行する。WSS処理ブロック301の出力は、画像310である。画像310は、圧縮されたファイル320を発生するために、JPEG2000符号化を実行する、JPEG2000符号化器302に入力される。レート制御処理ブロック303は、圧縮されたファイル320を監視し、そして、例えば、帰還路304と帰還路305のような1つ又はそれ以上の帰還路に、フィードバックする。帰還路304は、データが圧縮されたファイル320内に出力されているレートが、所定の目標
レートよりも大きいか又は小さいかによって、多い情報又は少ない情報を量子化するように、JPEG2000符号化器302を制御するために、JPEG2000符号化器302により使用される。同様に、帰還路305は、WSS処理ブロック301に、更なる雑音除去、更なる線目か又は、更なる平滑化を実行させ得る。
典型的には、ウェーブレット雑音除去技術は、雑音を抑圧するために、ウェーブレット係数の大きさを減少させることにより動作する。一実施例では、WSSの雑音除去動作は、各係数に対するしきい値Tを決定し、そして、しきい値よりも小さい場合には係数をゼロに設定する。
復号と共に雑音除去を使用する例
以下の単純な例は、どのようにウェーブレット雑音除去は、滑らかな領域とエッジを有する信号の損失のある逆圧縮を改善できるかを示す。ソースコードと数値結果が以下に提供される。例は、簡単のために、1次元(1D)信号を処理する。図6は、ステップエッジを有する入力信号を示す。
逆変換を適用した結果を示す。この例では、結果は、入力信号との差が、2乗平均誤差(MSE)3.44を有する。
幾つかの応用には、エッジが保存され且つ、テクスチャが除去されるように画像を符号化するのが望ましい。幾つかの場合には、テクスチャは、例えば、フィルム量情勢雑音、CCD又は、画像センサ内の熱雑音等のような、望ましくない雑音である場合がある。テクスチャは、半階調化又は、ディザリングにより発生もされ得る。他の場合には、テクスチャは、元の信号の一部であるが、しかし、損失のある圧縮では、テクスチャを正確に保存すると、観測者に小さな値を提供しながら、圧縮性能が悪くなる。エッジを正確に保存することは、しばしば、観測者に、高い値を有する。
上述の1つ又はそれ以上の動作は、図39に示すようなコンピュータシステムで履行され又は実行される。図39を参照すると、コンピュータシステム3900は、ここで説明した特徴が実行される、例示のクライアント又はサーバコンピュータシステムを含んでもよい。コンピュータシステム3900は、情報を通信するための通信機構又はバス3911、及び、情報を処理するために、バス3911に接続されたプロセッサ3912を含む。プロセッサ3912は、マイクロプロセッサには限定されないが、Pentium(登録商標)、PowerPC(商標)、Alpha(商標)等のマイクロプロセッサを含む。
105 係数のしきい値化105
106 m−レベル逆ハール変換
108 処理システム
110 ウェーブレット鮮明化と平滑化
204 1−又は(m)−レベル前向きハール変換を適用する処理論理
206 1−又はm−レベル逆ハール変換
210 係数の再スケーリング
301 WSS処理ブロック
302 JPEG2000符号化器
303 レート制御処理ブロック
320 圧縮されたファイル
401 WSS処理ブロック
402 JPEG2000符号化器
403 レート制御ブロック
406 しきい値情報
420 圧縮されたファイル
502 コンポーネント変換
503 ウェーブレット変換処理ブロック
504 量子化ブロック
505 エントロピー符号化
506 WSSのようなしきい値決定処理
510 しきい値情報
520 圧縮されたファイル
3900 コンピュータシステム
3904 主メモリ
3906 スタティック記憶装置
3907 データ蓄積装置
3911 バス
3912 プロセッサ
3921 ディスプレイ装置
3923 カーソル制御装置
3924 ハードコピー装置
Claims (27)
- ウェーブレット順変換を使用して、画像に関する雑音除去とボケを除くことを実行するウェーブレット向上ユニットと、
圧縮ウェーブレット変換を使用して、ウェーブレット向上ユニットからの向上された画像出力を圧縮する、ウェーブレット向上ユニットに接続された、圧縮器とを有する、符号化器。 - 平滑化の量と量子化の量は共に選択される、請求項1に記載の符号化器。
- 圧縮器からの圧縮されたファイル出力を監視するために接続され且つ、圧縮されたファイルの検査により指示されたビットレートが所定の目標レートよりもそれぞれ高いか又は低い場合には、平滑化の量を増加するか又は減少するためにウェーブレット向上ユニットに信号を送るためにウェーブレット向上ユニットに接続された、レート制御ユニットを更に有する、請求項1に記載の符号化器。
- 圧縮器はJPEG2000圧縮を行う、請求項1に記載の符号化器。
- ウェーブレット向上ユニットは、mが1より大きいか又は1と等しい、レベルmで雑音除去を実行する、請求項1に記載の符号化器。
- ウェーブレット向上ユニットは、レベルmを使用して、レベル1..m−1で、雑音除去を実行する、請求項1に記載の符号化器。
- ウェーブレット向上ユニットは、対応する係数がレベルmで0である場合には、レベル1..m−1で、係数を0に設定する、請求項6に記載の符号化器。
- ウェーブレット向上ユニットは、対応する係数がレベルmで0であるか又は異なる符号を有する場合には、レベル1..m−1で、各係数を0に設定する、請求項6に記載の符号化器。
- ウェーブレット順変換を使用して画像に関して雑音除去とボケを除くことを実行し、且つ、
圧縮ウェーブレット変換を使用して、向上された画像出力を圧縮する、方法。 - 平滑化の量と量子化の量は共に選択される、請求項9に記載の方法。
- 更に、圧縮器からの圧縮されたファイル出力を監視し且つ、圧縮されたファイルの検査により指示されたビットレートが所定の目標レートよりもそれぞれ高いか又は低い場合には、平滑化の量を増加するか又は減少するためにウェーブレット向上ユニットに信号を送る、請求項9に記載の方法。
- 更に、mが1より大きいか又は1と等しく、レベルmで雑音除去を実行する、請求項9に記載の方法。
- 更に、レベルmを使用して、レベル1..m−1で、雑音除去を実行する、請求項9に記載の方法。
- 更に、対応する係数がレベルmで0である場合には、レベル1..m−1で、係数を0に設定する、請求項13に記載の方法。
- 更に、対応する係数がレベルmで0であるか又は異なる符号を有する場合には、レベル1..m−1で、各係数を0に設定する、請求項13に記載の方法。
- エッジを向上させるために且つ可能な量子化雑音効果を減少させるために、鮮明化と平滑化を実行し、且つ
しきい値情報を使用して、画像を圧縮ファイルへ圧縮する、雑音除去を更に実行する、請求項9に記載の方法。 - 実行可能な命令がその上に蓄積された1つ又はそれ以上の記録可能な媒体を有する製造物であって、システムにより実行されると、システムに、
ウェーブレット順変換を使用して、画像に関する雑音除去とボケを除くことを実行させ、且つ、
圧縮ウェーブレット変換を使用して、ウェーブレット向上ユニットからの向上された画像出力を圧縮させる、製造物。 - 雑音除去ユニットと、
画像に応答して、エッジを向上させ且つ可能な量子化雑音効果を減少させるための、前向きウェーブレット鮮明化及び平滑化ユニットと、
しきい値情報を使用して、画像を圧縮ファイルへ圧縮する、画像に接続された圧縮器とを有する装置。 - しきい値情報は、各サブバンドに対してしきい値を有する、請求項18に記載の装置。
- しきい値情報は、量子化パラメータとして使用されるしきい値を有する、請求項18に記載の装置。
- 圧縮器はJPEG2000圧縮器を有する、請求項18に記載の装置。
- ウェーブレット鮮明化及び平滑化ユニットは、サブバンド内の異なる係数に対して異なるしきい値を発生し、且つ、圧縮器は、一部には、異なるしきい値に基づいて、各コードブロックに量子化を適用することにより、データを圧縮する、請求項18に記載の装置。
- ウェーブレット鮮明化及び平滑化ユニットは、コードブロックよりも小さい領域に対して、異なるしきい値を供給し、且つ、コードブロックに対する1つのしきい値を発生するために複数のしきい値を結合する、請求項18に記載の装置。
- ウェーブレット鮮明化及び平滑化ユニットは、平均化を使用して、コードブロックに対する1つのしきい値を発生するために、コードブロックよりも小さい領域に対する複数のしきい値を結合する、請求項23に記載の装置。
- ウェーブレット鮮明化及び平滑化ユニットは、全体のブロックに対する最小しきい値決定を使用して、コードブロックに対する1つのしきい値を発生するために、コードブロックよりも小さい領域に対する複数のしきい値を結合する、請求項23に記載の装置。
- ウェーブレット鮮明化及び平滑化ユニットは、全体のブロックに対する最大しきい値決定を使用して、コードブロックに対する1つのしきい値を発生するために、コードブロックよりも小さい領域に対する複数のしきい値を結合する、請求項23に記載の装置。
- ウェーブレット鮮明化及び平滑化ユニットは、コードブロック/領域に対する最大と最小のしきい値の間の値を使用して、コードブロックに対する1つのしきい値を発生するために、コードブロックよりも小さい領域に対する複数のしきい値を結合する、請求項23に記載の装置。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US920003 | 1986-10-17 | ||
US09/920,003 US7206459B2 (en) | 2001-07-31 | 2001-07-31 | Enhancement of compressed images |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002081403A Division JP4041683B2 (ja) | 2001-07-31 | 2002-03-22 | 圧縮された画像の画質の向上 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2007116728A true JP2007116728A (ja) | 2007-05-10 |
JP4714668B2 JP4714668B2 (ja) | 2011-06-29 |
Family
ID=25443001
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002081403A Expired - Fee Related JP4041683B2 (ja) | 2001-07-31 | 2002-03-22 | 圧縮された画像の画質の向上 |
JP2006322565A Expired - Fee Related JP4714668B2 (ja) | 2001-07-31 | 2006-10-30 | 圧縮された画像の画質の向上 |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002081403A Expired - Fee Related JP4041683B2 (ja) | 2001-07-31 | 2002-03-22 | 圧縮された画像の画質の向上 |
Country Status (3)
Country | Link |
---|---|
US (2) | US7206459B2 (ja) |
EP (1) | EP1282075A3 (ja) |
JP (2) | JP4041683B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7924317B2 (en) | 2008-03-12 | 2011-04-12 | Aptina Imaging Corporation | Method and apparatus for reducing motion blur in digital images |
Families Citing this family (86)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7068851B1 (en) * | 1999-12-10 | 2006-06-27 | Ricoh Co., Ltd. | Multiscale sharpening and smoothing with wavelets |
US7120308B2 (en) * | 2001-11-26 | 2006-10-10 | Seiko Epson Corporation | Iterated de-noising for image recovery |
US7260269B2 (en) * | 2002-08-28 | 2007-08-21 | Seiko Epson Corporation | Image recovery using thresholding and direct linear solvers |
US7558441B2 (en) * | 2002-10-24 | 2009-07-07 | Canon Kabushiki Kaisha | Resolution conversion upon hierarchical coding and decoding |
US7149361B2 (en) * | 2002-11-26 | 2006-12-12 | Lockheed Martin Corporation | Method and apparatus for image processing to detect changes in a scene |
JP2004193956A (ja) * | 2002-12-11 | 2004-07-08 | Konica Minolta Holdings Inc | 画像処理装置、画像処理方法、画像処理プログラムおよび画像記録装置 |
JP2006510277A (ja) * | 2002-12-13 | 2006-03-23 | セタシア ネットワークス コーポレイション | 相関関数を用いてネットワーク攻撃を検出するネットワーク帯域異常検出装置及び方法 |
US7352909B2 (en) * | 2003-06-02 | 2008-04-01 | Seiko Epson Corporation | Weighted overcomplete de-noising |
JP2007506348A (ja) * | 2003-09-23 | 2007-03-15 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | インバンド動き補償時間フィルタリングを利用したビデオノイズ除去アルゴリズム |
EP1671490A1 (en) * | 2003-09-29 | 2006-06-21 | Koninklijke Philips Electronics N.V. | 3-d morphological operations with adaptive structuring elements for clustering of significant coefficients within an overcomplete wavelet video coding framework |
US7388999B2 (en) * | 2003-10-29 | 2008-06-17 | Hewlett-Packard Development Company, L.P. | Transformations for denoising images |
US20050105817A1 (en) * | 2003-11-17 | 2005-05-19 | Guleryuz Onur G. | Inter and intra band prediction of singularity coefficients using estimates based on nonlinear approximants |
JP2005333609A (ja) * | 2004-04-22 | 2005-12-02 | Sanyo Electric Co Ltd | 符号化制御回路及び符号化回路 |
US8594448B2 (en) * | 2004-08-16 | 2013-11-26 | Hewlett-Packard Development Company, L.P. | Bi-selective filtering in transform domain |
US7474793B2 (en) * | 2004-09-02 | 2009-01-06 | Hewlett-Packard Development Company, L.P. | Methods for compression using a denoiser |
US7271749B2 (en) * | 2004-09-14 | 2007-09-18 | Hewlett-Packard Development Company, L.P. | Context-based denoiser that simultaneously updates probabilities for multiple contexts |
WO2006044260A1 (en) * | 2004-10-18 | 2006-04-27 | Thomson Licensing | Film grain simulation method |
CN101095356B (zh) * | 2004-10-21 | 2013-06-19 | 汤姆森许可贸易公司 | 基于块的胶片颗粒图案的自适应解块技术 |
CA2587095C (en) * | 2004-11-12 | 2015-01-20 | Thomson Licensing | Film grain simulation for normal play and trick mode play for video playback systems |
WO2006055193A1 (en) | 2004-11-16 | 2006-05-26 | Thomson Licensing | Film grain simulation method based on pre-computed transform coefficients |
KR101270755B1 (ko) | 2004-11-16 | 2013-06-03 | 톰슨 라이센싱 | 비디오 시스템에서 비트-정확한 시뮬레이션을 위한 필름 그레인 sei 메시지 삽입 |
CA2587117C (en) * | 2004-11-17 | 2014-02-11 | Thomson Licensing | Bit-accurate film grain simulation method based on pre-computed transformed coefficients |
EP1817915A2 (en) * | 2004-11-22 | 2007-08-15 | THOMSON Licensing | Methods, apparatus and system for film grain cache splitting for film grain simulation |
ZA200704141B (en) | 2004-11-23 | 2008-08-27 | Thomson Licensing | Low-complexity film grain simulation technique |
US7136536B2 (en) * | 2004-12-22 | 2006-11-14 | Telefonaktiebolaget L M Ericsson (Publ) | Adaptive filter |
US8218634B2 (en) * | 2005-01-13 | 2012-07-10 | Ntt Docomo, Inc. | Nonlinear, in-the-loop, denoising filter for quantization noise removal for hybrid video compression |
US7583844B2 (en) * | 2005-03-11 | 2009-09-01 | Nokia Corporation | Method, device, and system for processing of still images in the compressed domain |
WO2006106919A1 (ja) * | 2005-03-31 | 2006-10-12 | Nikon Corporation | 画像処理方法 |
JP4618676B2 (ja) * | 2005-04-28 | 2011-01-26 | 株式会社リコー | 構造化文書符号の転送方法、画像処理システム、サーバ装置、プログラム及び情報記録媒体 |
US7676103B2 (en) * | 2005-06-20 | 2010-03-09 | Intel Corporation | Enhancing video sharpness and contrast by luminance and chrominance transient improvement |
WO2007001236A1 (en) * | 2005-06-28 | 2007-01-04 | Agency For Science, Technology And Research | Wavelet shrinkage pre-filtering of mr images for brain tissue segmentation |
JP4634254B2 (ja) * | 2005-08-12 | 2011-02-16 | 富士フイルム株式会社 | デジタル信号処理装置及びプログラム |
US20070110151A1 (en) * | 2005-11-14 | 2007-05-17 | Ess Technology, Inc. | System and method for video frame buffer compression |
US7809200B2 (en) * | 2005-11-15 | 2010-10-05 | Teledyne Licensing, Llc | Dynamic range compression of high dynamic range imagery |
US20070165961A1 (en) * | 2006-01-13 | 2007-07-19 | Juwei Lu | Method And Apparatus For Reducing Motion Blur In An Image |
US7683910B2 (en) * | 2006-06-29 | 2010-03-23 | Microsoft Corporation | Strategies for lossy compression of textures |
US7714873B2 (en) * | 2006-06-29 | 2010-05-11 | Microsoft Corporation | Strategies for compressing textures |
US7253627B1 (en) * | 2006-07-19 | 2007-08-07 | Univ King Fahd Pet & Minerals | Method for removing noise from nuclear magnetic resonance signals and images |
US8442353B2 (en) * | 2006-08-03 | 2013-05-14 | The Regents Of The University Of California | Incorporation of mathematical constraints in methods for dose reduction and image enhancement in tomography |
WO2010011676A2 (en) * | 2008-07-23 | 2010-01-28 | The Regents Of The University Of California | Incorporation of mathematical constraints in methods for dose reduction and image enhancement in tomography |
CN101495038A (zh) * | 2006-08-03 | 2009-07-29 | 加州大学董事会 | 层析中剂量减少和图像增强的迭代方法 |
US7911478B2 (en) * | 2006-08-28 | 2011-03-22 | Panasonic Corporation | Drawing device, drawing method, and drawing program |
US7778484B2 (en) * | 2007-01-05 | 2010-08-17 | Seiko Epson Corporation | Method and apparatus for reducing noise in an image using wavelet decomposition |
US10715834B2 (en) | 2007-05-10 | 2020-07-14 | Interdigital Vc Holdings, Inc. | Film grain simulation based on pre-computed transform coefficients |
US8982947B2 (en) * | 2007-07-20 | 2015-03-17 | The Hong Kong University Of Science And Technology | Rate control and video denoising for noisy video data |
TWI335548B (en) * | 2007-08-24 | 2011-01-01 | Univ Nat Taiwan | Digital contents processing methods and systems, and machine readable medium thereof |
US7965900B2 (en) * | 2007-09-26 | 2011-06-21 | Hewlett-Packard Development Company, L.P. | Processing an input image to reduce compression-related artifacts |
MX2010008233A (es) * | 2008-01-30 | 2010-08-30 | Univ California | Reduccion de dosis y mejora de imagen en tomografia a traves del uso de los alrededores del objeto como restricciones dinamicas. |
US8731062B2 (en) * | 2008-02-05 | 2014-05-20 | Ntt Docomo, Inc. | Noise and/or flicker reduction in video sequences using spatial and temporal processing |
US8090216B2 (en) * | 2008-04-16 | 2012-01-03 | Aptina Imaging Corporation | Image noise level estimation from JPEG data |
US8285068B2 (en) | 2008-06-25 | 2012-10-09 | Cisco Technology, Inc. | Combined deblocking and denoising filter |
US8351734B2 (en) * | 2008-07-14 | 2013-01-08 | Sharp Kabushiki Kaisha | Video signal processing device and video display device |
US8860793B2 (en) * | 2008-10-15 | 2014-10-14 | The Regents Of The University Of California | Camera system with autonomous miniature camera and light source assembly and method for image enhancement |
US8538189B2 (en) * | 2008-11-14 | 2013-09-17 | Ati Technologies Ulc | Image noise filter and method |
WO2010127241A2 (en) * | 2009-04-30 | 2010-11-04 | The Regents Of The University Of California | System and methods for fast implementation of equally-sloped tomography |
US8615044B2 (en) * | 2009-06-05 | 2013-12-24 | Cisco Technology, Inc. | Adaptive thresholding of 3D transform coefficients for video denoising |
US8520731B2 (en) * | 2009-06-05 | 2013-08-27 | Cisco Technology, Inc. | Motion estimation for noisy frames based on block matching of filtered blocks |
US8638395B2 (en) | 2009-06-05 | 2014-01-28 | Cisco Technology, Inc. | Consolidating prior temporally-matched frames in 3D-based video denoising |
US8358380B2 (en) * | 2009-06-05 | 2013-01-22 | Cisco Technology, Inc. | Efficient spatial and temporal transform-based video preprocessing |
US8571117B2 (en) * | 2009-06-05 | 2013-10-29 | Cisco Technology, Inc. | Out of loop frame matching in 3D-based video denoising |
US8619881B2 (en) * | 2009-06-05 | 2013-12-31 | Cisco Technology, Inc. | Estimation of temporal depth of 3D overlapped transforms in video denoising |
US8472725B2 (en) | 2010-06-02 | 2013-06-25 | Cisco Technology, Inc. | Scene change detection and handling for preprocessing video with overlapped 3D transforms |
US9635308B2 (en) | 2010-06-02 | 2017-04-25 | Cisco Technology, Inc. | Preprocessing of interlaced video with overlapped 3D transforms |
US9628674B2 (en) | 2010-06-02 | 2017-04-18 | Cisco Technology, Inc. | Staggered motion compensation for preprocessing video with overlapped 3D transforms |
US8600188B2 (en) | 2010-09-15 | 2013-12-03 | Sharp Laboratories Of America, Inc. | Methods and systems for noise reduction and image enhancement |
US9721333B2 (en) | 2010-09-15 | 2017-08-01 | Sharp Laboratories Of America, Inc. | Methods and systems for estimation of additive noise |
US8588535B2 (en) | 2010-09-15 | 2013-11-19 | Sharp Laboratories Of America, Inc. | Methods and systems for estimation of compression noise |
US9361707B2 (en) | 2010-09-15 | 2016-06-07 | Sharp Laboratories Of America, Inc. | Methods and systems for detection and estimation of compression noise |
US8538193B2 (en) | 2010-09-28 | 2013-09-17 | Sharp Laboratories Of America, Inc. | Methods and systems for image enhancement and estimation of compression noise |
US8175411B2 (en) | 2010-09-28 | 2012-05-08 | Sharp Laboratories Of America, Inc. | Methods and systems for estimation of compression noise |
US8532429B2 (en) * | 2010-09-28 | 2013-09-10 | Sharp Laboratories Of America, Inc. | Methods and systems for noise reduction and image enhancement involving selection of noise-control parameter |
US8427583B2 (en) | 2010-09-30 | 2013-04-23 | Sharp Laboratories Of America, Inc. | Automatic parameter control for spatial-temporal filter |
US8624986B2 (en) * | 2011-03-31 | 2014-01-07 | Sony Corporation | Motion robust depth estimation using convolution and wavelet transforms |
ES2924886T3 (es) * | 2011-04-22 | 2022-10-11 | Dolby Int Ab | Método y dispositivo para codificación por compresión con pérdidas de datos de imagen |
GB2492333B (en) * | 2011-06-27 | 2018-12-12 | British Broadcasting Corp | Video encoding and decoding using transforms |
JP2013187692A (ja) * | 2012-03-07 | 2013-09-19 | Sony Corp | 画像処理装置及び画像処理方法 |
US9836433B1 (en) * | 2012-04-02 | 2017-12-05 | Rockwell Collins, Inc. | Image processing using multiprocessor discrete wavelet transform |
US20140086346A1 (en) * | 2012-09-21 | 2014-03-27 | Samsung Electronics Co., Ltd. | Method and system for removal of baseline wander and power-line interference |
US9042506B2 (en) * | 2013-01-15 | 2015-05-26 | Tata Consultancy Services Limited | Discrete signal synchronization based on a known bit pattern |
US9092856B2 (en) * | 2013-10-31 | 2015-07-28 | Stmicroelectronics Asia Pacific Pte. Ltd. | Recursive de-banding filter for digital images |
US9813654B2 (en) | 2014-08-19 | 2017-11-07 | Sony Corporation | Method and system for transmitting data |
US9832351B1 (en) | 2016-09-09 | 2017-11-28 | Cisco Technology, Inc. | Reduced complexity video filtering using stepped overlapped transforms |
CN107730436A (zh) * | 2017-11-01 | 2018-02-23 | 天津市科迪信息技术有限责任公司 | 一种基于gpu加速提升的小波变换优化方法 |
CN108256420B (zh) * | 2017-12-05 | 2018-11-23 | 天津大学 | 一种利用多光谱分析监测港口特定地物的方法 |
FR3087309B1 (fr) * | 2018-10-12 | 2021-08-06 | Ateme | Optimisation d'un sous-echantillonnage intervenant avant le codage d'images en compression |
US20240054607A1 (en) * | 2021-09-20 | 2024-02-15 | Meta Platforms, Inc. | Reducing the complexity of video quality metric calculations |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH08242450A (ja) * | 1995-03-01 | 1996-09-17 | Sony Corp | 画像符号化装置及び画像復号化装置 |
JPH09139676A (ja) * | 1995-08-31 | 1997-05-27 | Yamatake Honeywell Co Ltd | データ変換方法およびデータ変換装置 |
JPH1023411A (ja) * | 1996-07-01 | 1998-01-23 | Sony Corp | 画像符号化方法、画像信号記録媒体及び画像復号装置 |
JPH1098628A (ja) * | 1996-08-30 | 1998-04-14 | Xerox Corp | ハーフトーン画像からの連続色調画像の作成方法 |
JP2000134625A (ja) * | 1998-10-26 | 2000-05-12 | Matsushita Electric Ind Co Ltd | 画像処理方法 |
JP2001512643A (ja) * | 1997-02-12 | 2001-08-21 | サーノフ コーポレイション | コード化システムにおけるレート制御を最適化するための装置および方法 |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0638198A (ja) * | 1992-05-19 | 1994-02-10 | Sony Corp | 画像信号伝送装置及び画像信号伝送方法 |
US5412741A (en) * | 1993-01-22 | 1995-05-02 | David Sarnoff Research Center, Inc. | Apparatus and method for compressing information |
JP2673778B2 (ja) | 1994-02-22 | 1997-11-05 | 国際電信電話株式会社 | 動画像の復号化における雑音低減装置 |
US5497777A (en) * | 1994-09-23 | 1996-03-12 | General Electric Company | Speckle noise filtering in ultrasound imaging |
US5568142A (en) | 1994-10-20 | 1996-10-22 | Massachusetts Institute Of Technology | Hybrid filter bank analog/digital converter |
JPH09172639A (ja) | 1995-12-20 | 1997-06-30 | Nissin Electric Co Ltd | 画像処理装置 |
US5974181A (en) * | 1997-03-20 | 1999-10-26 | Motorola, Inc. | Data compression system, method, and apparatus |
US6128346A (en) * | 1998-04-14 | 2000-10-03 | Motorola, Inc. | Method and apparatus for quantizing a signal in a digital system |
US20010014179A1 (en) * | 1998-10-02 | 2001-08-16 | Yap-Peng Tan | Reduction of ringing artifacts after decompression of a dwt-based compressed image |
US6211515B1 (en) * | 1998-10-19 | 2001-04-03 | Raytheon Company | Adaptive non-uniformity compensation using feedforward shunting and wavelet filter |
JP4365957B2 (ja) | 1999-11-05 | 2009-11-18 | キヤノン株式会社 | 画像処理方法及びその装置及び記憶媒体 |
US6985632B2 (en) * | 2000-04-17 | 2006-01-10 | Canon Kabushiki Kaisha | Image processing system, image processing apparatus, and image processing method |
-
2001
- 2001-07-31 US US09/920,003 patent/US7206459B2/en not_active Expired - Fee Related
-
2002
- 2002-03-22 JP JP2002081403A patent/JP4041683B2/ja not_active Expired - Fee Related
- 2002-07-26 EP EP02016395A patent/EP1282075A3/en not_active Withdrawn
-
2006
- 2006-10-30 JP JP2006322565A patent/JP4714668B2/ja not_active Expired - Fee Related
-
2007
- 2007-03-01 US US11/713,278 patent/US7957599B2/en not_active Expired - Fee Related
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH08242450A (ja) * | 1995-03-01 | 1996-09-17 | Sony Corp | 画像符号化装置及び画像復号化装置 |
JPH09139676A (ja) * | 1995-08-31 | 1997-05-27 | Yamatake Honeywell Co Ltd | データ変換方法およびデータ変換装置 |
JPH1023411A (ja) * | 1996-07-01 | 1998-01-23 | Sony Corp | 画像符号化方法、画像信号記録媒体及び画像復号装置 |
JPH1098628A (ja) * | 1996-08-30 | 1998-04-14 | Xerox Corp | ハーフトーン画像からの連続色調画像の作成方法 |
JP2001512643A (ja) * | 1997-02-12 | 2001-08-21 | サーノフ コーポレイション | コード化システムにおけるレート制御を最適化するための装置および方法 |
JP2000134625A (ja) * | 1998-10-26 | 2000-05-12 | Matsushita Electric Ind Co Ltd | 画像処理方法 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7924317B2 (en) | 2008-03-12 | 2011-04-12 | Aptina Imaging Corporation | Method and apparatus for reducing motion blur in digital images |
Also Published As
Publication number | Publication date |
---|---|
JP4041683B2 (ja) | 2008-01-30 |
EP1282075A3 (en) | 2003-02-12 |
JP2003046785A (ja) | 2003-02-14 |
US20070160304A1 (en) | 2007-07-12 |
US7206459B2 (en) | 2007-04-17 |
US20030086623A1 (en) | 2003-05-08 |
US7957599B2 (en) | 2011-06-07 |
JP4714668B2 (ja) | 2011-06-29 |
EP1282075A2 (en) | 2003-02-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4714668B2 (ja) | 圧縮された画像の画質の向上 | |
Liu et al. | Data-driven sparsity-based restoration of JPEG-compressed images in dual transform-pixel domain | |
US7139437B2 (en) | Method and system for removing artifacts in compressed images | |
US8781244B2 (en) | Combined deblocking and denoising filter | |
US7551792B2 (en) | System and method for reducing ringing artifacts in images | |
US20050100235A1 (en) | System and method for classifying and filtering pixels | |
JP4468367B2 (ja) | 圧縮画像のアーティファクトの低減 | |
Zhang et al. | FAST: A framework to accelerate super-resolution processing on compressed videos | |
US7194143B2 (en) | Method of enhancement of the visual display of images and other visual data records | |
EP1355271B1 (en) | Adaptive nonlinear image enlargement using wavelet transform coefficients | |
US6574374B1 (en) | Enhancing image compression performance by morphological processing | |
JP2006340345A (ja) | ビデオから抽出された画像を強調する方法 | |
WO2009154644A1 (en) | Image/video quality enhancement and super-resolution using sparse transformations | |
WO2006036796A1 (en) | Processing video frames | |
US7123773B2 (en) | Image coding-decoding method, image coding-decoding system, image coder, image decoder, and storage medium | |
Wang et al. | Fast edge-preserved postprocessing for compressed images | |
Miklós et al. | Analysis and improvement of JPEG compression performance using custom quantization and block boundary | |
Cai et al. | Inpainting for compressed images | |
Magar et al. | Lossless Hybrid Coding technique based on Quasi Fractal & Oscillation Concept Method for Medical Image Compression | |
JP3034887B2 (ja) | 画像処理方法及び装置 | |
Zhang et al. | A novel in-loop filtering mechanism of HEVC based on 3D sub-bands and CNN processing | |
JP4424672B2 (ja) | 画像処理装置、画像処理方法、プログラム及び情報記録媒体 | |
Schwartz et al. | Optimal tile boundary artifact removal with CREW | |
Dai-zhi et al. | Generalized Recursive Pre-/Post-Processing Framework for Near Lossless Compression of Image | |
Liu et al. | Data-driven Sparsity-based Restoration of JPEG-compressed Images in Dual |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090217 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090420 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100420 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100621 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20110322 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20110328 |
|
LAPS | Cancellation because of no payment of annual fees |