JP6210949B2 - 画像推定方法 - Google Patents
画像推定方法 Download PDFInfo
- Publication number
- JP6210949B2 JP6210949B2 JP2014159542A JP2014159542A JP6210949B2 JP 6210949 B2 JP6210949 B2 JP 6210949B2 JP 2014159542 A JP2014159542 A JP 2014159542A JP 2014159542 A JP2014159542 A JP 2014159542A JP 6210949 B2 JP6210949 B2 JP 6210949B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- quantized transform
- bitplane
- decoded
- transform coefficients
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims description 43
- 208000011580 syndromic disease Diseases 0.000 claims description 32
- 238000013139 quantization Methods 0.000 claims description 24
- 230000001364 causal effect Effects 0.000 claims description 18
- 230000000875 corresponding effect Effects 0.000 description 16
- 230000002596 correlated effect Effects 0.000 description 10
- 239000013598 vector Substances 0.000 description 7
- 238000006243 chemical reaction Methods 0.000 description 6
- 230000008859 change Effects 0.000 description 4
- 238000007906 compression Methods 0.000 description 4
- 230000006835 compression Effects 0.000 description 4
- 230000008901 benefit Effects 0.000 description 3
- 238000013144 data compression Methods 0.000 description 2
- 201000003398 IMAGe syndrome Diseases 0.000 description 1
- 238000009825 accumulation Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/30—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
- H04N19/395—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability involving distributed video coding [DVC], e.g. Wyner-Ziv video coding or Slepian-Wolf video coding
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/30—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
- H04N19/34—Scalability techniques involving progressive bit-plane based encoding of the enhancement layer, e.g. fine granular scalability [FGS]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/46—Embedding additional information in the video signal during the compression process
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Description
図1は、符号化された入力画像から、所望の画像101の推定値を復元する分散ソースコーディング(DSC:Distributed Source Coding(分散情報源符号化))方法の流れ図である。入力画像を符号化する間に或る特定のコーディングモード102が選択されたことが理解される。この方法は復号化器100において実行することができる。復号化器は、部分的に、バスによって接続されたメモリ及び入/出力インターフェースに接続されたプロセッサを用いて実施することができる。
復元方法は、画像、ビデオ、又は他の多次元データを含む様々なデータタイプに適用可能である。1つの実施形態において、2つの相関画像、例えば入力画像及び統計的に相関する副情報画像を検討する。
図3は、本発明の実施形態とともに用いることができる通常の符号化器/復号化器(コーデック)300を示している。復号化器への入力は、元の画像301、又はビデオ、指紋等のような任意の他のタイプのマルチメディアデータ若しくは生体データである。出力は、符号化画像315である。符号化画像は、復号化器320によって後に処理するように記憶することもできるし、ビットストリームとして送信することもできる。
1.入力画像の2次元CUごとに、副情報画像のイントラコーディング中に用いられるモードを用いて入力画像に対しイントラ予測が実行される。HEVC符号化器が入力画像CUのイントラコーディングのイントラ予測モードを決定した場合、一般に、モードは、副情報画像におけるCUのイントラコーディングに用いられるモードと異なる。したがって、符号化器は、副情報画像に用いられるイントラ予測モードを用いるように強制される。上記で説明したように、これは、入力画像に用いられるイントラ予測モードをシグナリングするのに余分な帯域幅が用いられないという利点を有する。このステップの出力はCUにおける予測残差信号であり、これはCU内に元々存在するピクセル数と同じ数のエントリーを有する2次元信号である。
2.各CU内の変換ユニットごとに、2Dブロックに基づくHEVC変換が行われる。入力画像の変換係数と副情報画像の変換係数との相関を最大にするために、変換行列要素及び変換ブロックサイズは、副情報画像の対応する部分の符号化中に用いられるものと同じである。このステップの出力は、各CUにおける変換コーディングされた予測残差信号である。
3.次に、変換コーディングされた予測残差信号の均一な量子化が、規定された量子化パラメーターを用いて行われる。好ましい実施形態において、量子化パラメーター(QP:quantization parameter)は副情報画像において用いられるものと同じである。しかしながら、これは絶対要件ではない。入力画像のピクセル値の動的範囲及び確率分布に依拠して、入力画像を量子化するのに異なるQP値を用いることが可能である。このステップの出力は、各CU内の各変換ユニットにおける各変換領域予測残差値の量子化インデックスである。例えば、変換ユニット(TU:transform unit)サイズが32×32である場合、各TU内に(それぞれ残差値に対応する)1024個の量子化インデックスが存在する。
4.各量子化インデックスは符号絶対値表現(sign-magnitude representation)を用いてビットプレーンに変換される。用いられるビットプレーン数は、前のステップから生成される最大の絶対値の変換係数に従って求められる。例えば、最大の変換係数が値212を有する場合、量子化インデックスは最大で1+ceiling(log2(212))=9個のビットプレーン、すなわち1つの符号ビットプレーン及び8個の絶対値ビットプレーンに変換されることになる。
5.各ビットプレーンのシンドロームコーディングは、独立して実行される。このため、1024個の変換係数、及び変換係数あたり8個のビットプレーンが存在する場合、シンドロームコーディングは8192回実行される。実際には、シンドロームコーディング動作数は、8192よりも大幅に小さい。なぜなら、比較的小さい数の低周波数係数のみが幾つかのビットプレーンを必要とするのに十分大きいためである。高周波数係数は小さいか又はゼロ値であり、このためシンドロームコーディング動作をほとんど必要としないか又は一切必要としない。符号化システムの複雑度及び記憶要件に依拠して、任意の数のチャネル符号をシンドロームコーディングに用いることができる。好ましい実施形態はLDPC符号を用いる。しかしながら、ターボ符号、IRA符号、ラプター符号、畳み込み符号等も用いることができる。
6.生成された全てのシンドロームは、最終的に入力画像の復号化器によって受信される。
例示的な実施形態において、副情報画像はHEVCイントラ復号化を用いて復号化される(320)。
復号化器100は、入力画像のシンドロームを受信し(120)、また、復号化された副情報画像、又は副情報画像の部分的に復号化されたビットストリームを取得して(140)、図4に示すような以下のステップを用いて所望の復号化された画像101を形成する。
1.HEVCビットストリームが復号化され、量子化され変換された予測残差が得られる。この予測残差が副情報を構成する。副情報は各変換係数の量子化インデックスのベクトルの形態をとる。このため、TUサイズが32×32ピクセルに固定される場合、TUごとに量子化インデックスの1024個のベクトルがこのステップの終了時に得られる。
1.復号化器を初期化するために、LDPC復号化器のシンドロームベクトルは、符号化器から受信したシンドロームビットの中の検討中のシンドロームビットプレーンに従って求められる。LDPC復号化器の変数ノードは、ステップAにおいて副情報画像から取得された対応する変換係数の対応するビットプレーンに従って求められる。
副情報画像の変換係数の符号ビットと、ソース画像の変換係数の対応する符号ビットとの間の相関がほとんどない、すなわちこれらのビットのpの値が0.5に近いことが観察される。この場合、追加で入力画像のその特定の変換係数の絶対値ビットの値を考慮に入れることによって、符号ビットの予測を改善することを選択する。これは、絶対値ビットプレーンが符号ビットプレーンよりも前に復号化されていることを仮定する。特に、絶対値ビットプレーンが全て0に復号化されるとき、これは、副情報画像の対応する変換係数の符号ビットの値と無関係に、入力画像の変換係数の符号ビットも0であるという明白な情報である。この場合、符号ビットのLLR値は高い正値にセットされる。幾つかの実施形態において、この値は、確率伝搬復号化の所与の実施態様についてLLRの許容可能な絶対値の最大値になるように選択される。
復号化性能を改善する別の方法は、検討中の変換ブロックにおける変換係数の因果的近傍における符号化ビットのパターンを利用することである。変換係数の因果的近傍は、現在復号化されている変換係数の前に復号化された変換係数の組として定義される。以前に復号化された変換係数(又は変換係数ビットプレーン)の数は実施形態に応じて異なる。例えば、因果的近傍における変換係数の複数のビットプレーンが0(又は1)として復号化されている場合、現在の変換係数における対応するビットプレーンも0(又は1)として復号化される可能性が高い。この確信を値0(又は1)で表すために、上述した変数ノードについて取得されたビットプレーンのLLRがプリセット値だけインクリメント(又はデクリメント)される。プリセット値は、因果的近傍における変換係数の値によって検討中の変換係数の値が決まる相対的な確信に応じて大きくすることも小さくすることもできる。
上述の入力画像の符号化に関するセクションにおいて、入力画像のシンドロームを生成する手順について説明した。これらのシンドロームは、以下で説明される確率伝搬アルゴリズムの入力として受信され用いられる。上記で説明されるように、各量子化された変換係数のビットプレーンごとに受信されるシンドローム数は、その特定のビットプレーン及び変換係数について選択されるLDPC符号(又は包括してチャネル符号)のレートに依拠する。確率伝搬アルゴリズムの目標は、これらのシンドロームを復号化して、入力画像の量子化された変換係数のビットプレーンを復元することである。
各変換係数のビットプレーンごとに、上記の初期化を実行した後、確率伝搬復号化を実行する。安定し、反復ごとに変化しないLLRの推定値を取得した後、又は予め指定された反復数にわたって確率伝搬を実行した後、変数ノード内のLLR値を読取り、その値を、負のLLR値が復号化されたビット値1を意味し、正のLLRが復号化されたビット値0を意味するという規則に従って閾値処理する。
1.各量子化された変換係数のビットプレーンを取得した後、入力画像の各変換係数に対応する量子化インデックスベクトルが再編成される。
2.量子化インデックスはブロックに再配列され、量子化動作180及び変換動作190が逆に行われ、入力画像の再構成されたピクセルが得られる。
Claims (10)
- 所望の画像を推定する画像推定方法であって、
符号化された副情報画像からコーディングモードを検索し抽出するステップと、
前記符号化された副情報画像内のビットプレーンごとに、シンドロームビット又はパリティビットを復号化して、前記所望の画像の量子化された変換係数の推定ビットプレーンを取得するステップであって、前記コーディングモードを用いて取得された予測残差に対して量子化及び変換が適用され、該復号化することは、前記符号化された副情報画像の前記量子化された変換係数を用い、因果的近傍における以前に復号化されたビットプレーンに基づく、ステップと、
前記所望の画像の前記量子化された変換係数の前記推定ビットプレーンを結合して、結合されたビットプレーンを生成するステップと、
前記結合されたビットプレーンに、前記コーディングモードに基づいて逆量子化、逆変換及び予測を適用して、前記所望の画像の推定値を復元するステップと、
を含み、各前記ステップは復号化器が実行し、
前記復号化することは対数尤度比を推定することを含み、
前記量子化された変換係数の符号ビットの前記対数尤度比は、該量子化された変換係数に関連付けられた全ての絶対値ビットがゼロに復号化される場合に最大値にセットされる、
画像推定方法。 - 前記ビットプレーンは前記量子化された変換係数の符号絶対値表現を用いる、請求項1に記載の方法。
- 絶対値ビットが符号ビットの前に復号化される、請求項2に記載の方法。
- 前記量子化された変換係数の前記符号ビットは、該量子化された変換係数に関連付けられた全ての前記絶対値ビットがゼロに復号化される場合にゼロであると推定される、請求項3に記載の方法。
- 前記対数尤度比は、前記因果的近傍において以前に復号化されたビットプレーンに従って求められる、請求項1に記載の方法。
- 前記対数尤度比は、前記因果的近傍における以前に復号化された変換係数に従って求められる、請求項1に記載の方法。
- 所望の画像を推定する画像推定方法であって、
符号化された副情報画像からコーディングモードを検索し抽出するステップと、
前記符号化された副情報画像内のビットプレーンごとに、シンドロームビット又はパリティビットを復号化して、前記所望の画像の量子化された変換係数の推定ビットプレーンを取得するステップであって、前記コーディングモードを用いて取得された予測残差に対して量子化及び変換が適用され、該復号化することは、前記符号化された副情報画像の前記量子化された変換係数を用い、因果的近傍における以前に復号化されたビットプレーンに基づく、ステップと、
前記所望の画像の前記量子化された変換係数の前記推定ビットプレーンを結合して、結合されたビットプレーンを生成するステップと、
前記結合されたビットプレーンに、前記コーディングモードに基づいて逆量子化、逆変換及び予測を適用して、前記所望の画像の推定値を復元するステップと、
を含み、各前記ステップは復号化器が実行し、
前記復号化することは対数尤度比を推定することを含み、
前記対数尤度比は、前記因果的近傍における以前に復号化された非ゼロ変換係数の位置に従って求められる、
画像推定方法。 - 所望の画像を推定する画像推定方法であって、
符号化された副情報画像からコーディングモードを検索し抽出するステップと、
前記符号化された副情報画像内のビットプレーンごとに、シンドロームビット又はパリティビットを復号化して、前記所望の画像の量子化された変換係数の推定ビットプレーンを取得するステップであって、前記コーディングモードを用いて取得された予測残差に対して量子化及び変換が適用され、該復号化することは、前記符号化された副情報画像の前記量子化された変換係数を用い、因果的近傍における以前に復号化されたビットプレーンに基づく、ステップと、
前記所望の画像の前記量子化された変換係数の前記推定ビットプレーンを結合して、結合されたビットプレーンを生成するステップと、
前記結合されたビットプレーンに、前記コーディングモードに基づいて逆量子化、逆変換及び予測を適用して、前記所望の画像の推定値を復元するステップと、
を含み、各前記ステップは復号化器が実行し、
前記因果的近傍は、走査順における前記変換係数の位置に基づいて変更される、
画像推定方法。 - 前記コーディングモードはイントラ予測モード又はインター予測モードを含む、請求項1,7,8のいずれか1項に記載の方法。
- 前記変換係数の前記因果的近傍は、現在復号化されている前記変換係数の前に復号化された変換係数の組として定義される、請求項1,7,8のいずれか1項に記載の方法。
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US14/036,385 | 2013-09-25 | ||
US14/036,385 US9014499B2 (en) | 2013-09-25 | 2013-09-25 | Distributed source coding using prediction modes obtained from side information |
US14/102,609 US9307257B2 (en) | 2013-09-25 | 2013-12-11 | Method for improving compression efficiency of distributed source coding using intra-band information |
US14/102,609 | 2013-12-11 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2015065645A JP2015065645A (ja) | 2015-04-09 |
JP6210949B2 true JP6210949B2 (ja) | 2017-10-11 |
Family
ID=52690921
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014159542A Expired - Fee Related JP6210949B2 (ja) | 2013-09-25 | 2014-08-05 | 画像推定方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US9307257B2 (ja) |
JP (1) | JP6210949B2 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3440837A4 (en) | 2016-04-06 | 2019-09-04 | Telefonaktiebolaget LM Ericsson (publ) | METHOD, CODIER AND TRANSCODER FOR TRANSCODING |
US10455250B2 (en) * | 2017-05-30 | 2019-10-22 | Mitsubishi Electric Research Laboratories, Inc. | Method and system for distributed coding of images |
WO2020141892A1 (ko) * | 2019-01-01 | 2020-07-09 | 엘지전자 주식회사 | 이차 변환에 기반한 영상 코딩 방법 및 그 장치 |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7400774B2 (en) | 2002-09-06 | 2008-07-15 | The Regents Of The University Of California | Encoding and decoding of digital data using cues derivable at a decoder |
US8073052B1 (en) * | 2006-07-27 | 2011-12-06 | The Texas A&M University System | Layered Wyner-Ziv video coding for transmission over unreliable channels |
AU2007201403A1 (en) * | 2007-03-30 | 2008-10-16 | Canon Kabushiki Kaisha | Improvement for Spatial Wyner Ziv coding |
US20090055651A1 (en) * | 2007-08-24 | 2009-02-26 | Bernd Girod | Authenticated media communication system and approach |
US20090103606A1 (en) * | 2007-10-17 | 2009-04-23 | Microsoft Corporation | Progressive Distributed Video Coding |
JP5018582B2 (ja) * | 2008-03-21 | 2012-09-05 | 沖電気工業株式会社 | 予測値生成装置、予測値生成方法及び復号装置 |
JP2010166145A (ja) * | 2009-01-13 | 2010-07-29 | Osaka Univ | 動画像復号装置 |
JP5071413B2 (ja) * | 2009-03-02 | 2012-11-14 | 沖電気工業株式会社 | 動画像符号化装置、方法及びプログラム、並びに、動画像符号化システム |
JP5071416B2 (ja) * | 2009-03-09 | 2012-11-14 | 沖電気工業株式会社 | 動画像符号化装置、及び動画像復号装置、並びに動画像伝送システム |
WO2011121715A1 (ja) * | 2010-03-30 | 2011-10-06 | 株式会社 東芝 | 画像復号化方法 |
JP5625808B2 (ja) * | 2010-11-26 | 2014-11-19 | 沖電気工業株式会社 | データ更新装置及びプログラム、並びに、動画像復号装置及びプログラム、並びに、動画像配信システム |
US20120140829A1 (en) * | 2010-12-06 | 2012-06-07 | Shantanu Rane | Signal Coding Using Spatial Statistical Dependencies |
JP2012186763A (ja) * | 2011-03-08 | 2012-09-27 | Mitsubishi Electric Corp | 動画像符号化装置、動画像復号装置、動画像符号化方法及び動画像復号方法 |
US8428379B2 (en) | 2011-08-25 | 2013-04-23 | Mitsubishi Electric Research Laboratories, Inc. | Method for distributed source coding of wavelet coefficients in zerotrees |
JP5845761B2 (ja) * | 2011-09-20 | 2016-01-20 | 沖電気工業株式会社 | 動画像符号化装置及びプログラム |
-
2013
- 2013-12-11 US US14/102,609 patent/US9307257B2/en not_active Expired - Fee Related
-
2014
- 2014-08-05 JP JP2014159542A patent/JP6210949B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
US9307257B2 (en) | 2016-04-05 |
JP2015065645A (ja) | 2015-04-09 |
US20150085923A1 (en) | 2015-03-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6210948B2 (ja) | 画像推定方法 | |
Aaron et al. | Wyner-Ziv residual coding of video | |
JP5566529B2 (ja) | 辞書を用いてビデオをコード化する方法 | |
JP5052541B2 (ja) | Sarデータを圧縮する方法、およびsarデータを符号化するための装置 | |
US10701362B2 (en) | High throughput significance map processing for CABAC in HEVC | |
US9654139B2 (en) | High throughput binarization (HTB) method for CABAC in HEVC | |
US20060232452A1 (en) | Method for entropy coding and decoding having improved coding efficiency and apparatus for providing the same | |
JP4819024B2 (ja) | 画像符号化・復号化方法及びシステム | |
EP2406958A2 (en) | Adaptive entropy coding for images and videos using set partitioning in generalized hierarchical trees | |
US8199820B2 (en) | Intermediate compression of reference frames for transcoding | |
US20100166057A1 (en) | Differential Data Representation for Distributed Video Coding | |
Zhou et al. | Distributed video coding using interval overlapped arithmetic coding | |
JP2012124890A (ja) | 符号化信号を、この符号化信号と副情報との間の統計的依存性に基づいて復号する方法および復号器 | |
JP2015516780A (ja) | ビットストリームのビット数を推定するための装置および方法 | |
JP6210949B2 (ja) | 画像推定方法 | |
Burlina et al. | An error resilient scheme for image transmission over noisy channels with memory | |
JP4515378B2 (ja) | 画像復号装置及びプログラム及びコンピュータ読み取り可能な記録媒体 | |
JP3853710B2 (ja) | ディジタル画像符号化装置およびディジタル画像符号化方法 | |
JP2009296277A (ja) | 画像符号化器及び画像復号化器及び画像符号化方法及び画像復号化方法及びプログラム | |
Van Luong et al. | Parallel iterative decoding of transform domain Wyner-Ziv video using cross bitplane correlation | |
Tonomura et al. | Efficient index assignment by improved bit probability estimation for parallel processing of distributed video coding | |
Zakariya et al. | Analysis of video compression algorithms on different video files | |
Babu et al. | EBCOT using energy efficient wavelet transform | |
Li et al. | An LDPC-based improved decoding scheme for distributed video codec | |
Chien et al. | AQT-DVC: adaptive quantization for transform-domain distributed video coding |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170410 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20170410 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20170627 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20170627 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170704 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170803 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20170815 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20170912 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6210949 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |