JP3542572B2 - Image decoding method and apparatus - Google Patents

Image decoding method and apparatus Download PDF

Info

Publication number
JP3542572B2
JP3542572B2 JP2001180491A JP2001180491A JP3542572B2 JP 3542572 B2 JP3542572 B2 JP 3542572B2 JP 2001180491 A JP2001180491 A JP 2001180491A JP 2001180491 A JP2001180491 A JP 2001180491A JP 3542572 B2 JP3542572 B2 JP 3542572B2
Authority
JP
Japan
Prior art keywords
color difference
block
luminance signal
data
encoded data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2001180491A
Other languages
Japanese (ja)
Other versions
JP2002077915A (en
Inventor
明祐 鹿倉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2001180491A priority Critical patent/JP3542572B2/en
Publication of JP2002077915A publication Critical patent/JP2002077915A/en
Application granted granted Critical
Publication of JP3542572B2 publication Critical patent/JP3542572B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Description

【0001】
【発明の属する技術分野】
本発明は、符号化された画像データを入力して復号する画像復号方法及び装置に関するものである。
【0002】
【従来の技術】
従来、画像データを符号化するに際しては、可変長符号化と固定長符号化とがあり、特に可変長符号化において、予測符号化等の符号化も知られている。
【0003】
【発明が解決しようとする課題】
しかしながら、こうした可変長符号化方式は、圧縮効率において優れているのに対し、伝送路上で圧縮データに誤りが発生すると、その後の復号が全くできなくなる。その結果、圧縮データに誤りが発生した以降の画像が乱れ、大変見苦しい状態になることがあった。
【0004】
本発明は上記従来例に鑑みてなされたもので、効率的な伝送を行えると共に、伝送ブロックにエラーが発生しても画像データの劣化の領域を最小限に抑えて再生できる画像復号方法及び装置を提供することを目的とする。
【0005】
【課題を解決するための手段】
上記目的を達成するために本発明の画像復号装置は以下のような構成を備える。即ち、
画像データを構成する輝度信号と色差信号が夫々複数の輝度信号の小ブロックと複数の色差信号の小ブロックに分割されて可変長符号化され、複数の前記輝度信号の小ブロックを輝度信号の大ブロックとし、複数の前記色差信号の小ブロックを色差信号の大ブロックとし、1画面分に満たない所定数の前記輝度信号の大ブロックの符号化データと、当該所定数の前記輝度信号の大ブロックと画像空間上で同一位置にある所定数の前記色差信号の大ブロックの符号化データとを一単位にし、前記単位が順次複数配列されており、かつ、前記配列されたブロック間に前記符号化データと識別可能な識別コードが挿入されている伝送ブロックを入力して復号する画像復号装置であって、
前記入力された伝送ブロックから前記輝度信号の符号化データと前記色差信号の符号化データとを分離する分離手段と、
前記分離手段により分離された輝度信号の符号化データ及び色差信号の符号化データを復号する復号手段とを有し、
前記復号手段は、前記伝送ブロック内に誤りが発生した際、前記識別コードにより大ブロック間の境界を検出して前記符号化データを復号することを特徴とする。
【0006】
また、上記目的を達成するために本発明の画像復号方法は以下のような工程を備える。即ち、
画像データを構成する輝度信号と色差信号が夫々複数の輝度信号の小ブロックと複数の色差信号の小ブロックに分割されて可変長符号化され、複数の前記輝度信号の小ブロックを輝度信号の大ブロックとし、複数の前記色差信号の小ブロックを色差信号の大ブロックとし、1画面分に満たない所定数の前記輝度信号の大ブロックの符号化データと、当該所定数の前記輝度信号の大ブロックと画像空間上で同一位置にある所定数の前記色差信号の大ブロックの符号化データとを一単位にし、前記単位が順次複数配列されており、かつ、前記配列されたブロック間に前記符号化データと識別可能な識別コードが挿入されている伝送ブロックを入力して復号する画像復号方法であって、
前記入力された伝送ブロックから前記輝度信号の符号化データと前記色差信号の符号化データとを分離する分離工程と、
前記分離工程で分離された輝度信号の符号化データ及び色差信号の符号化データを復号する復号工程とを有し、
前記復号工程は、前記伝送ブロック内に誤りが発生した際、前記識別コードにより大ブロック間の境界を検出して前記符号化データを復号することを特徴とする。
【0007】
【発明の実施の形態】
以下、添付図面を参照して本発明の好適な実施の形態を詳細に説明する。
【0008】
図6は本実施の形態の画像符号化装置の概略構成を示すブロック図である。
【0009】
図6において、端子101より入力された画像データは、A/Dコンバータ102においてアナログ信号からデジタル信号に変換される。この変換されたデジタル信号は、符号化部103において可変長で圧縮符号化される。そして、符号化されたコードは、誤り訂正符号化部104において、後のエラー訂正のためのパリティコードが付加されて伝送路105へ送出される。この伝送路105から受信したデータはメモリ部106に一旦蓄えられ、誤り訂正部107において誤りが訂正される。復号化部108は、メモリ106より読み出された可変長データを伸長して復号しており、この復号された信号はD/Aコンバータ109でデジタル信号からアナログ信号に変換された後、端子110より画像信号として出力される。
【0010】
この図6における符号化部103のカラー画像の圧縮方式としては、数々の方式が提案されているが、カラー画像符号化方式の代表的なものにADCT方式と呼ばれる方式がある。このADCT方式に関しては、テレビジョン学会誌(Vol.44、NO.2(1990))斉藤隆弘氏らの“静止画像の符号化方式”、昭和63年画像電子学会全国大会予稿14における越智宏氏らの“静止画像符号化の国際標準動向”等において詳しく説明されている。
【0011】
図7は、このADCT方式を用いた符号化部103の構成概念を示す図である。
【0012】
入力される画像は、図6のA/Dコンバータ102より出力される、8ビット、即ち256階調/色に変換されたデータとし、色数についてはRGB,YUV,YPbPr,YMCK等の3色もしくは4色とする。ここで、入力画像は直ちに8×8画素のサブブロック単位で2次元の離散コサイン変換(以下、DCTと記す)がなされ、その後、線形量子化部202で変換係数の線形量子化が行なわれる。この量子化時において、量子化のステップサイズは各変換係数毎に異なり、各変換係数に対する量子化ステップサイズは、量子化雑音に対する視感度の変換係数毎の相違を考慮した8×8の量子化マトリックス要素を2S倍した値とする。ここで、Sは0または正負の整数であり、スケーリングファクタと呼ばれる。このSの値により、画質や発生データ量が制御される。表1に量子化マトリックス要素の1例を示す。
【0013】
【表1】

Figure 0003542572
量子化後、直流変換成分(以下、DC成分と記す)については、203で近傍サブブロック間で1次元予測され、204でその予測誤差をハフマン符号化する。ここでは、予測誤差の量子化出力をグループに分け、まず予測誤差の所属するグループの識別番号をハフマン符号化し、続いてグループ内のいずれかの値であるかを等長符号で表わす。
【0014】
一方、DC成分以外の交流変換成分(以下、AC成分と記す)は、この量子化出力を、205で図8に示す様に低周波成分から高周波成分へとジグザグ走査しながら符号化する。即ち、量子化出力が“0”でない変換係数(以下、有意係数と記す)は、その値によりグループに分類され、206において、そのグループ識別番号と、直前の有意変換係数との間に挟まれた量子化出力が“0”の変換係数(以下、無効係数と記す)の個数とを組にしてハフマン符号化される。続いてグループ内のいずれの値であるかが等長符号で表わされる。
【0015】
図1−1は本実施の形態の画像符号化装置の概略構成を示すブロック図である。
【0016】
複数種の信号からなる画像信号Y,Pb,Prのそれぞれが、端子1a,1b,1cより入力される。ここでは複数の信号として、カラー画像信号の輝度信号Yと、色差信号Pb,Prの3つの信号が入力されるものとしている。各入力信号は、それぞれA/Dコンバータ3a,3b,3cに入力されてデジタル信号に変換される。この実施の形態では、輝度信号Yは、色差信号Pb,Prの2倍のサンプリングレートでサンプリングされ、また図示しない線順次化回路で、色差信号は線順次化されるものとする。これにより、A/D変換後の各信号のデータ量を比べると、輝度信号Yが“4”に対し、色差信号Pb、Prはそれぞれ“1”の割合となっている。
【0017】
次に、このデジタル化された各データは、ブロック化回路5a,5b,5cのそれぞれで、例えば8×8のブロック毎にまとめられる。各データは前述のように、4:1:1のデータ量比になっているため、生成される各ブロックの画面上での大きさは、輝度信号Yの1に対し、色差信号Pb,Prは4倍の大きさとなる。こうしてブロック化された各データは、従来技術で述べたような可変長圧縮方式により、符号化器7a,7b,7cのそれぞれにおいて可変長圧縮符号化されるが、この実施の形態においては、特にここで各信号毎にそれぞれ画像データを複数の領域に分割し、これら各領域において閉じた可変長符号化を行なうようにしている。これらの領域としては、例えば前述の8×8のブロックを40個集めたデータ量からなる領域とする。
【0018】
上記のようにして、各信号毎に、又各領域毎に圧縮符号化された生成符号群はメモリ9に書込まれ、読み出し時に1つのデータ列にまとめられる。ここでは、アドレスコントローラ11により、メモリ9よりのデータの読み出し順が制御されており、本実施の形態においては、前記複数の信号毎に、即ち、輝度信号Y、色差信号Pb,Pr毎に、符号化された生成符号群が、画面上で同一の位置に属する領域毎、又は近傍位置に属する領域毎に時系列的にまとめて読み出される。この読み出し順については詳しく後述する。
【0019】
メモリ9から読み出されたデータ列は、シンクコード付加部13においてシンクコードが所定位置に挿入され、更に伝送ID付加部15において伝送IDが挿入される。17は境界情報付加部であり、前述のように分割された領域に対する生成符号の区切りの情報をデータ列に、例えばマーカーコードのような形で挿入する。これより受信側でも各生成符号の区切りが検出でき、可変長符号の復号が、これら分割領域毎に確実に行なえるようになる。
【0020】
更に、圧縮符号化された生成符号に対して、誤り検出・訂正符号化回路19において誤り訂正符号化が行なわれ、誤り検出・訂正符号のパリティビットが前記データ列の所定位置に挿入されて伝送される。
【0021】
21は伝送路で、即時伝送であれば光ファイバ・衛星・マイクロ波等の地上電波・光空間等の伝送媒体であるし、蓄積伝送であれば、デジタルVTRやDAT等のテープ上の媒体・フロッピーディスクや光ディスク等の円板状の媒体・半導体メモリ等の固体の媒体等の記憶媒体となる。この伝送レートについては、元の画像の情報量と圧縮率と要求する伝送時間とにより決定され、数十キロビット/秒から数十メガビット/秒まで様々である。
【0022】
次に受信側の動作について図1−2を参照して説明する。
【0023】
伝送路21から受信したデータは、まずシンクコード検出部23において同期検出され、伝送ID検出部25において、IDによりそのデータの属性が検出されて、その情報をもとにしたアドレスコントローラ27の制御により、一旦メモリ29に蓄えられる。メモリ29のデータに対しては、誤り検出・訂正部31において、データの誤り検出及び訂正が実施され、可能な限り伝送中に付加された誤りが取り除かれる。また、訂正しきれなかった誤りがある場合は、そのデータ群にフラグを立てておき、後段の補間回路37a,37b,37cにおいて補間処理が行なわれる。
【0024】
そして、境界情報検出部33により、分割された領域の圧縮符号部の境を検出し、その情報をもとにアドレスコントローラ27により、メモリ29からの読み出しアドレスを制御して、データを複数の信号、即ち本実施の形態においては輝度信号Y,色差信号Pb,Pr毎に区分けし、かつ分割された領域毎に区分けしてメモリ29から読み出す。こうして区分けされてメモリ29より読み出されたデータは、復号器35a,35b,35cにおいてそれぞれ伸長・復号され、補間回路37a,37b,37cにおいて、訂正しきれなかった誤りが含まれるデータ群に対して分割領域単位で補間処理が実施される。補間処理の具体的方法としては、前フレームデータを用いた補間などがある。さらに、補間処理された後、データは逆ブロック回路39a,39b,39cで各信号毎に元の信号伝送順に戻され、色信号Pb,Prについては図示しない同時化回路で、線順次化されているデータが復元される。
【0025】
そして各信号は、D/A変換回路41a,41b,41cでアナログデータに変換されて、端子43a,43b,43cよりそれぞれ輝度信号Y,色差信号Pb,Prの画像信号として出力される。ここで、復号器35a,35b,35cにおける可変長符号の伸長・復号に際しては、従来のように符号化された領域分割がなされていない場合には、一度誤りを起こすと、それ以降の復号処理が全く行なわれなくなってしまう。しかし、この実施の形態では前述したように、符号化時に画像データの領域を分割しており、その境界情報を付加して伝送しているために、復号処理よりの復帰を迅速に行なうことができる。
【0026】
次に、図2、図3、図4、図5を参照して本実施の形態を更に詳しく説明する。
【0027】
図2(A)(B)は伝送対象の画像データの一例を示す図で、図2(A)は1枚の画像の輝度信号Yを、横1280画素、縦1088画素、各画素を8ビットでA/D変換した画像とする。この場合における輝度信号Yの1枚当たりのデータ容量は、
1,280×1,088×8(ビット)= 11,141,120ビット
となる。
【0028】
一方、前述のように色差信号Pb,Prのそれぞれは、輝度信号Yに対して1/2のサンプリングレートでサンプルされ、さらに色差線順次化しているため、1枚当たりのデータ容量は図2(B)に示すように、
640×544×8(ビット)= 2,785,280ビット
となる。
【0029】
従って、輝度信号Y,色差信号Pb,Prの合計では、16,711,680(=11,141,120+2,785,280 ×2)ビットにより、1枚の画像が構成されていることになる。
【0030】
さて、ここで(横8画素)×(縦8画素)をDCTサブブロックとし、図2に示すように、伝送対象の1画像を各信号毎に、40DCTサブブロックを1リシンクブロック(横320画素×縦8画素)として分割する。これを本実施の形態の分割領域として、各分割領域内で閉じた可変長符号化を行なう。尚、かかる分割領域は、本実施の形態に限らず他の分割方法であっても良い。
【0031】
この場合、輝度信号Yに対しては、1画面分のデータはリシンクブロックにより、横4、縦136からなる合計544の領域に分割される。一方、色差信号Pb,Prに関しては、横2、縦68の合計136の領域に各々分割される。ここで、1リシンクブロック当たりのデータ容量は、各信号とも、40×8×8×8=20,480(ビット)であるが、1リシンクブロックの画面上でにおける大きさは、図2に示すように、(輝度信号リシンクブロック):(色差信号ブロック)=1:4となる。
【0032】
図3は本実施の形態における伝送フォーマットの一例を示す図である。
【0033】
前述したようにして符号化された符号化データは、リシンクブロック単位で区別することができるように、本実施の形態の境界情報(マーカーコード)が付加されるが、ここではリシンクブロックとリシンクブロックの境界にマーカーコードを挿入する場合の例を示している。なお、マーカーコードとしては、符号化データでは発生しえないビットパターンを割当てる必要がある。
【0034】
このようにして境界情報が付加された符号化データは、更に誤り検出・訂正符号化されるが、ここでは128シンボル(以降、1シンンボル=8ビットとする)のデータに対し、4シンボルのパリテイビットが付加されるものとする。このデータにシンクコード2シンボル、伝送ID2シンボルを付加したものが、伝送単位となっている。
【0035】
ここで、符号化データは可変長符号化されているため、1リシンクブロック毎の符号化データ列の長さは一定ではなく、それぞれがまちまちの長さとなるため、1つのリシンクブロックのデータが、複数の誤り検出・訂正ブロックに跨がる場合もあり得る。逆に1つの誤り検出・訂正符号のブロックが、いくつものリシンクブロックのデータより構成される場合もあり、その数も一定とはならない。そして、1つの誤り検出・訂正符号のブロックが複数のリシンクブロックより構成される場合には、この誤り検出・訂正ブロック中の誤りが訂正不能となった時には、その影響は複数のリシンクブロックにまたがることとなり、当該複数のリシンクブロックが前述のような補間処理を施されることとなる。
【0036】
本実施の形態においては、上記のように訂正不能の誤りが発生した場合においても、その影響が小さくなるように、符号化データの伝送順も規定している。
【0037】
いま、図4−1及び図4−2のように各信号毎にリシンクブロックをナンバリングしたとすると、各信号毎のデータ量を考慮して、輝度信号Yの4リシンクブロックに対し、色差信号Pb,Prをそれぞれ1リシンクブロック伝送するため、例えば、
Y(0,0),Y(0,1),Pb(0,0),
Y(0,2),Y(0,3),Pr(0,0),
Y(1,0),Y(1,3),Pb(0,1),
Y(1,2),Y(1,3),Pr(0,1),……
と伝送したとすると、仮にY(0,2),Y(0,3),Pr(0,0)が同一誤り検出・訂正ブロックに含まれ、その誤り検出・訂正ブロックが訂正不能となった場合には、画面上での補間領域が分散されてしまうこととなる。
【0038】
そこで、本実施の形態においては、図5のように、
例えば、
Y(0,0),Y(0,1),Pb(0,0),
Y(1,0),Y(1,1),Pr(0,0),
Y(0,2),Y(0,3),Pb(0,1),
Y(1,2),Y(1,3),Pr(0,1),……
または、
Y(0,0),Y(0,1),Y(1,0),
Y(1,1),Pb(0,0),Pr(0,0),
Y(0,2),Y(0,3),Y(1,2),
Y(1,3),Pr(0,1),Pr(0,1),……
のように、画面上で同一位置もしくは、近傍位置にあるリシンクブロックをまとめて伝送するように、アドレスコントローラ11を制御する。
【0039】
これにより、当該誤り検出・訂正ブロックが訂正不能となっても、前述のように画面上での補間領域が分割される確率が少なくなる。
【0040】
なお、本実施の形態においては、画像データを構成する複数種の信号は、輝度信号Y,色差信号Pb,Prに限定されるものではなく、例えば、RGB,YUV,YMCK等の信号により構成されていてもよい。さらに、画像データを分割する領域の構成方法も、本実施の形態にあげた分割方法に限定されるものではない。
【0041】
尚、本発明は、複数の機器から構成されるシステムに適用しても、1つの機器からなる装置に適用しても良い。又、本発明はシステム或は装置にプログラムを供給することによって達成される場合にも適用できることは言うまでもない。
【0042】
以上説明したように本実施の形態によれば、圧縮効率において優れている可変長符号化方式の特徴を損なうことなく、伝送路に混入した誤りを、誤り検出・訂正符号で訂正しきれない場合においても、その影響を最小限に抑えることが可能となる。
【0043】
即ち、伝送路上でデータに誤りが発生し、受信側でその誤りを訂正しきれない場合においても、その影響はリシンクブロック毎に収束させることができる。
【0044】
更に、誤りを訂正しきれなかつた際に行なう補間処理については、補間処理が施されるリシンクブロックを画面上で位置的に分散させることなく、同一位置あるいは近傍位置にまとめることができ、画像データの劣化を最小限に抑えることが可能となり、人間の視覚上、劣化が気ならない、極めて良好な画像を再生できる画像符号化装置を提供することができる。
【0045】
【発明の効果】
以上説明したように本発明によれば、所定数の輝度信号の大ブロックの可変長符号化データと、その符号化データと画像空間上で同一位置にある色差信号の大ブロックの可変長符号化データとを一単位にし、その単位が順次複数配列されており、かつ配列されたブロック間に符号化データと識別可能な識別コードが挿入されている伝送ブロックを入力して復号し、その伝送ブロック内に誤りが発生した際、識別コードにより大ブロック間の境界を検出して前記符号化データを復号することにより、誤りを起こすとそれ以降の大ブロックの復号処理が全く行われなくなってしまうといった事態の発生を防止でき、画像データの劣化の領域を最小限に抑えて画像を再生できるという効果がある。
【図面の簡単な説明】
【図1−1】本実施の形態の画像符号化装置の概略構成を示すブロック図である。
【図1−2】本実施の形態の画像符号化装置の概略構成を示すブロック図である。
【図2】本実施の形態において符号化される画像データの構成を示す図である。
【図3】本実施の形態における伝送フォーマットの一例を示す図である。
【図4−1】本実施の形態における輝度信号Yのリシンクブロックの番号構成例を示す図である。
【図4−2】本実施の形態における色差信号のリシンクブロックの番号構成例を示す図である。
【図5】本実施の形態におけるリシンクブロックの伝送順序を示す図である。
【図6】本実施の形態の画像符号化装置の概略構成を示すブロック図である。
【図7】図6の可変長符号化方式を説明するための図である。
【図8】図6の可変長符号化方式を説明するための図である。
【符号の説明】
3a,3b,3c A/Dコンバータ
5a,5b,5c ブロック化部
7a,7b,7c 符号化部
9,29 メモリ
11,27 アドレスコントローラ
13 シンクコード付加部
15 伝送ID付加部
17 境界情報付加部
19 誤り訂正符号化
21 伝送路
35a,35b,35c 復号器
37a,37b,37c 補間部
39a,39b,39c 逆ブロック化部
41a,41b,41c D/Aコンバータ[0001]
TECHNICAL FIELD OF THE INVENTION
The present invention relates to an image decoding method and apparatus for inputting and decoding encoded image data.
[0002]
[Prior art]
Conventionally, when encoding image data, there are variable-length encoding and fixed-length encoding. In particular, in variable-length encoding, encoding such as predictive encoding is also known.
[0003]
[Problems to be solved by the invention]
However, such a variable-length coding scheme is excellent in compression efficiency, but if an error occurs in the compressed data on the transmission path, subsequent decoding cannot be performed at all. As a result, the image after the error has occurred in the compressed data may be disturbed, resulting in a very unsightly state.
[0004]
SUMMARY OF THE INVENTION The present invention has been made in view of the above-described conventional example, and provides an image decoding method and apparatus capable of performing efficient transmission and reproducing even if an error occurs in a transmission block while minimizing the area of image data deterioration. The purpose is to provide.
[0005]
[Means for Solving the Problems]
In order to achieve the above object, an image decoding device according to the present invention has the following configuration. That is,
Luminance signal and color difference signals constituting the image data is divided into small blocks of small blocks and a plurality of color difference signals of the respective plurality of luminance signals are variable length encoded, large luminance signal small blocks of a plurality of said luminance signal and block, the small block of the plurality of the color difference signals as a large block of color difference signals, 1 and large block of coded data of the luminance signal of a predetermined number less than the screen, the large block of the predetermined number of the luminance signal And a predetermined number of coded data of the large blocks of the color difference signal at the same position on the image space as one unit, the plurality of units are sequentially arranged, and the code is arranged between the arranged large blocks. An image decoding apparatus for inputting and decoding a transmission block in which an identification code that can be identified as encoded data is inserted,
Separating means for separating the encoded data of the luminance signal and the encoded data of the color difference signal from the input transmission block,
Decoding means for decoding the encoded data of the luminance signal and the encoded data of the color difference signal separated by the separating means,
When an error occurs in the transmission block, the decoding unit detects a boundary between large blocks based on the identification code and decodes the encoded data .
[0006]
In order to achieve the above object, an image decoding method according to the present invention includes the following steps. That is,
Luminance signal and color difference signals constituting the image data is divided into small blocks of small blocks and a plurality of color difference signals of the respective plurality of luminance signals are variable length encoded, large luminance signal small blocks of a plurality of said luminance signal and block, the small block of the plurality of the color difference signals as a large block of color difference signals, 1 and large block of coded data of the luminance signal of a predetermined number less than the screen, the large block of the predetermined number of the luminance signal And a predetermined number of coded data of the large blocks of the color difference signal at the same position on the image space as one unit, the plurality of units are sequentially arranged, and the code is arranged between the arranged large blocks. An image decoding method for inputting and decoding a transmission block in which an identification code that can be identified as encoded data is inserted,
A separation step of separating encoded data of the luminance signal and encoded data of the color difference signal from the input transmission block,
Decoding the encoded data of the luminance signal and the encoded data of the color difference signal separated in the separation step,
In the decoding step, when an error occurs in the transmission block, a boundary between large blocks is detected based on the identification code, and the encoded data is decoded.
[0007]
BEST MODE FOR CARRYING OUT THE INVENTION
Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the accompanying drawings.
[0008]
FIG. 6 is a block diagram illustrating a schematic configuration of the image encoding device according to the present embodiment.
[0009]
In FIG. 6, image data input from a terminal 101 is converted from an analog signal to a digital signal in an A / D converter 102. The converted digital signal is compression-encoded in a variable length by the encoding unit 103. Then, the encoded code is transmitted to the transmission path 105 by the error correction encoding unit 104 added with a parity code for later error correction. The data received from the transmission path 105 is temporarily stored in a memory unit 106, and an error is corrected by an error correction unit 107. The decoding unit 108 expands and decodes the variable-length data read from the memory 106. After the decoded signal is converted from a digital signal to an analog signal by the D / A converter 109, It is output as an image signal.
[0010]
As a color image compression method of the encoding unit 103 in FIG. 6, various methods have been proposed, and a typical color image encoding method is a method called ADCT method. This ADCT method is described in “The Still Image Coding Method” by Takahiro Saito et al. In the Journal of the Institute of Television Engineers of Japan (Vol.44, No.2 (1990)), and Tomohiro Ochi in Preprints 14 These are described in detail in “International Standard Trends in Still Image Coding” and the like.
[0011]
FIG. 7 is a diagram illustrating a configuration concept of the encoding unit 103 using the ADCT method.
[0012]
The input image is 8-bit data output from the A / D converter 102 shown in FIG. 6, that is, data converted into 256 gradations / colors. The number of colors is three colors such as RGB, YUV, YPbPr, and YMCK. Alternatively, four colors are used. Here, the input image is immediately subjected to two-dimensional discrete cosine transform (hereinafter referred to as DCT) in units of 8 × 8 pixel sub-blocks, and then the linear quantization unit 202 performs linear quantization of the transform coefficients. At the time of this quantization, the quantization step size is different for each transform coefficient, and the quantization step size for each transform coefficient is 8 × 8 quantization taking into account the difference in visibility for quantization noise for each transform coefficient. the matrix elements and 2 S multiplied value. Here, S is 0 or a positive or negative integer, and is called a scaling factor. The image quality and the amount of generated data are controlled by the value of S. Table 1 shows an example of the quantization matrix element.
[0013]
[Table 1]
Figure 0003542572
After quantization, a DC conversion component (hereinafter, referred to as a DC component) is one-dimensionally predicted between neighboring sub-blocks at 203, and the prediction error is Huffman-coded at 204. Here, the quantized output of the prediction error is divided into groups, first, the identification number of the group to which the prediction error belongs is Huffman-coded, and subsequently, any value in the group is represented by an equal-length code.
[0014]
On the other hand, an AC conversion component other than the DC component (hereinafter, referred to as an AC component) encodes the quantized output while performing zigzag scanning from a low-frequency component to a high-frequency component at 205 as shown in FIG. That is, a transform coefficient whose quantized output is not “0” (hereinafter, referred to as a significant coefficient) is classified into a group by its value, and is interposed at 206 between the group identification number and the immediately preceding significant transform coefficient. The Huffman coding is performed by combining the number of transform coefficients (hereinafter, referred to as invalid coefficients) whose quantized output is “0”. Subsequently, which value in the group is represented by an isometric code.
[0015]
FIG. 1-1 is a block diagram showing a schematic configuration of the image coding apparatus according to the present embodiment.
[0016]
Image signals Y, Pb, and Pr composed of a plurality of types of signals are input from terminals 1a, 1b, and 1c. Here, it is assumed that three signals of a luminance signal Y of a color image signal and color difference signals Pb and Pr are input as a plurality of signals. Each input signal is input to each of the A / D converters 3a, 3b, and 3c, and is converted into a digital signal. In this embodiment, the luminance signal Y is sampled at twice the sampling rate of the color difference signals Pb and Pr, and the color difference signals are line-sequentialized by a line-sequencing circuit (not shown). As a result, when the data amount of each signal after the A / D conversion is compared, the ratio of the luminance signal Y is “4” and the color difference signals Pb and Pr are each “1”.
[0017]
Next, each of the digitized data is put together in each of the blocking circuits 5a, 5b, 5c, for example, for each 8 × 8 block. Since each data has a data amount ratio of 4: 1: 1 as described above, the size of each generated block on the screen is such that the luminance signal Y is 1 and the color difference signals Pb, Pr Is four times larger. Each of the data thus blocked is subjected to variable-length compression encoding in each of the encoders 7a, 7b, and 7c according to the variable-length compression method as described in the related art. Here, the image data is divided into a plurality of regions for each signal, and closed variable length coding is performed in each of these regions. These regions are, for example, regions having a data amount of 40 forty-eight 8 × 8 blocks.
[0018]
As described above, the generated code group that has been compression-coded for each signal and for each region is written to the memory 9 and is combined into one data string at the time of reading. Here, the order of reading data from the memory 9 is controlled by the address controller 11, and in the present embodiment, for each of the plurality of signals, that is, for each of the luminance signal Y and the color difference signals Pb and Pr. The encoded generated code group is read out collectively in time series for each region belonging to the same position on the screen or for each region belonging to a nearby position. This reading order will be described later in detail.
[0019]
In the data sequence read from the memory 9, the sync code is inserted at a predetermined position in the sync code adding unit 13, and the transmission ID is inserted in the transmission ID adding unit 15. Reference numeral 17 denotes a boundary information adding unit that inserts information of a generated code delimiter for the divided area into the data string in the form of, for example, a marker code. As a result, the receiving side can detect the break of each generated code, and can reliably decode the variable length code for each of the divided areas.
[0020]
Further, the generated code that has been compression-coded is subjected to error correction coding in an error detection / correction coding circuit 19, and a parity bit of the error detection / correction code is inserted into a predetermined position of the data string and transmitted. Is done.
[0021]
Reference numeral 21 denotes a transmission line, which is a transmission medium such as a terrestrial radio wave such as an optical fiber, a satellite, or a microwave for immediate transmission, and a transmission medium such as a digital VTR or DAT for storage transmission. It is a storage medium such as a disk-shaped medium such as a floppy disk or an optical disk, or a solid medium such as a semiconductor memory. The transmission rate is determined by the information amount of the original image, the compression rate, and the required transmission time, and varies from several tens of kilobits / second to several tens of megabits / second.
[0022]
Next, the operation on the receiving side will be described with reference to FIG.
[0023]
The data received from the transmission line 21 is first synchronously detected by the sync code detection unit 23, and the transmission ID detection unit 25 detects the attribute of the data by the ID, and controls the address controller 27 based on the information. Is temporarily stored in the memory 29. The data in the memory 29 is subjected to data error detection and correction in the error detection / correction unit 31, and errors added during transmission are removed as much as possible. If there is an error that cannot be corrected, a flag is set in the data group, and interpolation processing is performed in the interpolation circuits 37a, 37b, and 37c at the subsequent stage.
[0024]
Then, the boundary information detection unit 33 detects the boundary of the compression code part of the divided area, and based on the information, controls the read address from the memory 29 by the address controller 27 to convert the data into a plurality of signals. That is, in the present embodiment, the data is divided from the luminance signal Y and the color difference signals Pb and Pr, and divided from the divided areas and read out from the memory 29. The data thus divided and read out from the memory 29 are decompressed and decoded by the decoders 35a, 35b, and 35c, respectively, and are interpolated by the interpolation circuits 37a, 37b, and 37c. The interpolation process is performed for each divided area. As a specific method of the interpolation processing, there is interpolation using the previous frame data and the like. Further, after the interpolation processing, the data is returned to the original signal transmission order for each signal by the inverse block circuits 39a, 39b, 39c, and the color signals Pb, Pr are line-sequentially converted by a synchronization circuit (not shown). Data is restored.
[0025]
Each signal is converted into analog data by D / A conversion circuits 41a, 41b, and 41c, and output as luminance signal Y and color difference signals Pb and Pr from terminals 43a, 43b, and 43c, respectively. Here, when the variable-length codes are decompressed and decoded by the decoders 35a, 35b, and 35c, if an encoded region is not divided as in the related art, if an error occurs once, subsequent decoding processing is performed. Will not be performed at all. However, in this embodiment, as described above, since the image data area is divided at the time of encoding and the boundary information is added and transmitted, it is possible to quickly return from the decoding processing. it can.
[0026]
Next, the present embodiment will be described in more detail with reference to FIGS. 2, 3, 4, and 5. FIG.
[0027]
2A and 2B are diagrams showing an example of image data to be transmitted. FIG. 2A shows a luminance signal Y of one image as 1280 horizontal pixels, 1088 vertical pixels, and each pixel is 8 bits. The image is A / D converted. In this case, the data capacity per luminance signal Y is:
1,280 × 1,088 × 8 (bits) = 11,141,120 bits.
[0028]
On the other hand, as described above, each of the color difference signals Pb and Pr is sampled at a sampling rate of に 対 し て with respect to the luminance signal Y, and is further subjected to color difference line sequential processing. As shown in B),
640 × 544 × 8 (bits) = 2,785,280 bits.
[0029]
Therefore, in the sum of the luminance signal Y and the color difference signals Pb and Pr, one image is composed of 16,711,680 (= 11,141,120 + 2,785,280 × 2) bits.
[0030]
Now, here, (8 horizontal pixels) × (8 vertical pixels) are DCT sub-blocks. As shown in FIG. 2, one image to be transmitted is divided into 40 DCT sub-blocks by one resync block (320 horizontal pixels) for each signal. X 8 pixels). This is set as a divided region in the present embodiment, and variable length coding closed in each divided region is performed. Note that such a divided area is not limited to the present embodiment, and may be another divided method.
[0031]
In this case, for the luminance signal Y, the data for one screen is divided by the resync block into a total of 544 areas of 4 horizontal and 136 vertical. On the other hand, the color difference signals Pb and Pr are each divided into a total of 136 areas of horizontal 2 and vertical 68. Here, the data capacity per resync block is 40 × 8 × 8 × 8 = 20,480 (bits) for each signal, but the size of one resync block on the screen is shown in FIG. Thus, (luminance signal resync block) :( color difference signal block) = 1: 4.
[0032]
FIG. 3 is a diagram illustrating an example of a transmission format according to the present embodiment.
[0033]
The coded data coded as described above is added with the boundary information (marker code) according to the present embodiment so that it can be distinguished in units of resync blocks. Shows an example in which a marker code is inserted at the boundary of. It is necessary to assign a bit pattern that cannot occur in the encoded data as the marker code.
[0034]
The encoded data to which the boundary information is added in this manner is further subjected to error detection / correction encoding. In this case, 128 symbols (hereinafter, 1 symbol = 8 bits) of data are converted to 4 symbols of parity data. It is assumed that a tail bit is added. The transmission unit is obtained by adding two sync code symbols and two transmission ID symbols to this data.
[0035]
Here, since the coded data is variable-length coded, the length of the coded data sequence for each resync block is not constant, and each data length varies, so that the data of one resync block is There may be a case where a plurality of error detection / correction blocks are straddled. Conversely, one error detection / correction code block may be composed of data of several resync blocks, and the number thereof is not constant. When one error detection / correction code block is composed of a plurality of resync blocks, when an error in the error detection / correction block becomes uncorrectable, the effect extends to a plurality of resync blocks. That is, the plurality of resync blocks are subjected to the interpolation processing as described above.
[0036]
In the present embodiment, even if an uncorrectable error occurs as described above, the transmission order of the encoded data is defined so that the effect is reduced.
[0037]
Now, assuming that resync blocks are numbered for each signal as shown in FIGS. 4-1 and 4-2, the color difference signal Pb is applied to the four resync blocks of the luminance signal Y in consideration of the data amount of each signal. , Pr are transmitted by one resync block, for example,
Y (0,0), Y (0,1), Pb (0,0),
Y (0,2), Y (0,3), Pr (0,0),
Y (1,0), Y (1,3), Pb (0,1),
Y (1,2), Y (1,3), Pr (0,1), ...
Suppose that Y (0,2), Y (0,3), Pr (0,0) are included in the same error detection / correction block, and the error detection / correction block cannot be corrected. In such a case, the interpolation areas on the screen will be dispersed.
[0038]
Therefore, in the present embodiment, as shown in FIG.
For example,
Y (0,0), Y (0,1), Pb (0,0),
Y (1,0), Y (1,1), Pr (0,0),
Y (0,2), Y (0,3), Pb (0,1),
Y (1,2), Y (1,3), Pr (0,1), ...
Or
Y (0,0), Y (0,1), Y (1,0),
Y (1,1), Pb (0,0), Pr (0,0),
Y (0,2), Y (0,3), Y (1,2),
Y (1,3), Pr (0,1), Pr (0,1), ...
As described above, the address controller 11 is controlled so that resync blocks located at the same position or near positions on the screen are transmitted collectively.
[0039]
As a result, even if the error detection / correction block becomes uncorrectable, the probability that the interpolation area on the screen is divided as described above is reduced.
[0040]
In the present embodiment, the plurality of types of signals constituting the image data are not limited to the luminance signal Y and the color difference signals Pb and Pr, but are composed of signals such as RGB, YUV, and YMCK. May be. Further, the method of configuring the area into which the image data is divided is not limited to the dividing method described in the present embodiment.
[0041]
The present invention may be applied to a system including a plurality of devices or to an apparatus including a single device. Needless to say, the present invention can be applied to a case where the present invention is achieved by supplying a program to a system or an apparatus.
[0042]
As described above, according to the present embodiment, the error mixed in the transmission path cannot be corrected by the error detection / correction code without impairing the characteristics of the variable-length coding scheme having excellent compression efficiency. In this case, the influence can be minimized.
[0043]
That is, even if an error occurs in the data on the transmission path and the error cannot be corrected on the receiving side, the effect can be converged for each resync block.
[0044]
Furthermore, regarding the interpolation processing to be performed when an error cannot be corrected, the resync blocks to be subjected to the interpolation processing can be grouped at the same position or a nearby position without dispersing the positions on the screen. This makes it possible to provide an image encoding apparatus that can reproduce extremely good images without any noticeable deterioration in human vision.
[0045]
【The invention's effect】
As described above, according to the present invention, variable-length encoded data of a large block of a predetermined number of luminance signals and variable-length encoded data of a large block of a color difference signal at the same position in the image space as the encoded data Data is made into one unit, a plurality of units are sequentially arranged, and a transmission block in which an identification code identifiable with coded data is inserted between the arranged large blocks is input and decoded, and the transmission is performed. When an error occurs in a block, the boundary between large blocks is detected by the identification code and the encoded data is decoded. If an error occurs, decoding processing of the subsequent large block is not performed at all. Such a situation can be prevented , and there is an effect that an image can be reproduced while minimizing the area of image data deterioration.
[Brief description of the drawings]
FIG. 1-1 is a block diagram illustrating a schematic configuration of an image encoding device according to the present embodiment.
FIG. 1-2 is a block diagram illustrating a schematic configuration of an image encoding device according to the present embodiment.
FIG. 2 is a diagram showing a configuration of image data to be encoded in the present embodiment.
FIG. 3 is a diagram illustrating an example of a transmission format according to the present embodiment.
FIG. 4-1 is a diagram illustrating an example of a number configuration of a resync block of a luminance signal Y according to the present embodiment.
FIG. 4-2 is a diagram illustrating an example of a number configuration of a resync block of a color difference signal according to the present embodiment.
FIG. 5 is a diagram showing a transmission order of resync blocks in the present embodiment.
FIG. 6 is a block diagram illustrating a schematic configuration of an image encoding device according to the present embodiment.
FIG. 7 is a diagram for explaining the variable-length coding system of FIG.
FIG. 8 is a diagram for explaining the variable-length coding system of FIG.
[Explanation of symbols]
3a, 3b, 3c A / D converters 5a, 5b, 5c Blocking units 7a, 7b, 7c Encoding unit 9, 29 Memory 11, 27 Address controller 13 Sync code adding unit 15 Transmission ID adding unit 17 Boundary information adding unit 19 Error Correction Coding 21 Transmission Lines 35a, 35b, 35c Decoders 37a, 37b, 37c Interpolators 39a, 39b, 39c Deblockers 41a, 41b, 41c D / A Converters

Claims (2)

画像データを構成する輝度信号と色差信号が夫々複数の輝度信号の小ブロックと複数の色差信号の小ブロックに分割されて可変長符号化され、複数の前記輝度信号の小ブロックを輝度信号の大ブロックとし、複数の前記色差信号の小ブロックを色差信号の大ブロックとし、1画面分に満たない所定数の前記輝度信号の大ブロックの符号化データと、当該所定数の前記輝度信号の大ブロックと画像空間上で同一位置にある所定数の前記色差信号の大ブロックの符号化データとを一単位にし、前記単位が順次複数配列されており、かつ、前記配列されたブロック間に前記符号化データと識別可能な識別コードが挿入されている伝送ブロックを入力して復号する画像復号装置であって、
前記入力された伝送ブロックから前記輝度信号の符号化データと前記色差信号の符号化データとを分離する分離手段と、
前記分離手段により分離された輝度信号の符号化データ及び色差信号の符号化データを復号する復号手段とを有し、
前記復号手段は、前記伝送ブロック内に誤りが発生した際、前記識別コードにより大ブロック間の境界を検出して前記符号化データを復号することを特徴とする画像復号装置。
Luminance signal and color difference signals constituting the image data is divided into small blocks of small blocks and a plurality of color difference signals of the respective plurality of luminance signals are variable length encoded, large luminance signal small blocks of a plurality of said luminance signal and block, the small block of the plurality of the color difference signals as a large block of color difference signals, 1 and large block of coded data of the luminance signal of a predetermined number less than the screen, the large block of the predetermined number of the luminance signal And a predetermined number of coded data of the large blocks of the color difference signal at the same position on the image space as one unit, the plurality of units are sequentially arranged, and the code is arranged between the arranged large blocks. An image decoding apparatus for inputting and decoding a transmission block in which an identification code that can be identified as encoded data is inserted,
Separating means for separating the encoded data of the luminance signal and the encoded data of the color difference signal from the input transmission block,
Decoding means for decoding the encoded data of the luminance signal and the encoded data of the color difference signal separated by the separating means,
An image decoding apparatus according to claim 1, wherein when an error occurs in the transmission block, the decoding unit detects a boundary between large blocks based on the identification code and decodes the encoded data .
画像データを構成する輝度信号と色差信号が夫々複数の輝度信号の小ブロックと複数の色差信号の小ブロックに分割されて可変長符号化され、複数の前記輝度信号の小ブロックを輝度信号の大ブロックとし、複数の前記色差信号の小ブロックを色差信号の大ブロックとし、1画面分に満たない所定数の前記輝度信号の大ブロックの符号化データと、当該所定数の前記輝度信号の大ブロックと画像空間上で同一位置にある所定数の前記色差信号の大ブロックの符号化データとを一単位にし、前記単位が順次複数配列されており、かつ、前記配列されたブロック間に前記符号化データと識別可能な識別コードが挿入されている伝送ブロックを入力して復号する画像復号方法であって、
前記入力された伝送ブロックから前記輝度信号の符号化データと前記色差信号の符号化データとを分離する分離工程と、
前記分離工程で分離された輝度信号の符号化データ及び色差信号の符号化データを復号する復号工程とを有し、
前記復号工程は、前記伝送ブロック内に誤りが発生した際、前記識別コードにより大ブロック間の境界を検出して前記符号化データを復号することを特徴とする画像復号方法。
Luminance signal and color difference signals constituting the image data is divided into small blocks of small blocks and a plurality of color difference signals of the respective plurality of luminance signals are variable length encoded, large luminance signal small blocks of a plurality of said luminance signal and block, the small block of the plurality of the color difference signals as a large block of color difference signals, 1 and large block of coded data of the luminance signal of a predetermined number less than the screen, the large block of the predetermined number of the luminance signal And a predetermined number of coded data of the large blocks of the color difference signal at the same position on the image space as one unit, the plurality of units are sequentially arranged, and the code is arranged between the arranged large blocks. An image decoding method for inputting and decoding a transmission block in which an identification code that can be identified as encoded data is inserted,
A separation step of separating encoded data of the luminance signal and encoded data of the color difference signal from the input transmission block,
Decoding the encoded data of the luminance signal and the encoded data of the color difference signal separated in the separation step,
The image decoding method according to claim 1, wherein, when an error occurs in the transmission block, a boundary between large blocks is detected by the identification code to decode the encoded data .
JP2001180491A 2001-06-14 2001-06-14 Image decoding method and apparatus Expired - Fee Related JP3542572B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001180491A JP3542572B2 (en) 2001-06-14 2001-06-14 Image decoding method and apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001180491A JP3542572B2 (en) 2001-06-14 2001-06-14 Image decoding method and apparatus

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP3095516A Division JPH04326255A (en) 1991-04-25 1991-04-25 Method and device for encoding image

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2003313078A Division JP3826123B2 (en) 2003-09-04 2003-09-04 Image coding method and apparatus

Publications (2)

Publication Number Publication Date
JP2002077915A JP2002077915A (en) 2002-03-15
JP3542572B2 true JP3542572B2 (en) 2004-07-14

Family

ID=19020904

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001180491A Expired - Fee Related JP3542572B2 (en) 2001-06-14 2001-06-14 Image decoding method and apparatus

Country Status (1)

Country Link
JP (1) JP3542572B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020253823A1 (en) * 2019-06-21 2020-12-24 杭州海康威视数字技术股份有限公司 Encoding and decoding method and apparatus, and storage medium

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020253823A1 (en) * 2019-06-21 2020-12-24 杭州海康威视数字技术股份有限公司 Encoding and decoding method and apparatus, and storage medium
WO2020253828A1 (en) * 2019-06-21 2020-12-24 杭州海康威视数字技术股份有限公司 Coding and decoding method and device, and storage medium

Also Published As

Publication number Publication date
JP2002077915A (en) 2002-03-15

Similar Documents

Publication Publication Date Title
US5566002A (en) Image coding/decoding method and apparatus
US7109898B2 (en) Variable length coding method and variable length decoding method
US6912318B2 (en) Method and system for compressing motion image information
JPH05234260A (en) Digital vtr
JPH05115007A (en) Picture transmission method
US5995171A (en) Coding and/or decoding apparatus for decoding variable-length coded image information
JP3880088B2 (en) Encoding device and decoding device
AU2002230101A2 (en) Moving picture information compressing method and its system
JP3542572B2 (en) Image decoding method and apparatus
JP3826123B2 (en) Image coding method and apparatus
JP2002064821A (en) Method for compressing dynamic image information and its system
JP3958033B2 (en) Method and system for compressing moving picture information
JP3546439B2 (en) Digital image signal encoding apparatus and encoding method
JPH0646369A (en) Video signal processor
JPH10271502A (en) Compression method for moving image information and its system
JPH0591332A (en) Picture data processor
JPH01278184A (en) Picture signal encoder
JPH06162118A (en) Method and device for image reproduction

Legal Events

Date Code Title Description
A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20030707

A912 Removal of reconsideration by examiner before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20031128

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040213

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20040331

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090409

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090409

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100409

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110409

Year of fee payment: 7

LAPS Cancellation because of no payment of annual fees