JP4895567B2 - 画像符号化方法及び装置、画像復号化方法及び装置、撮像装置 - Google Patents

画像符号化方法及び装置、画像復号化方法及び装置、撮像装置 Download PDF

Info

Publication number
JP4895567B2
JP4895567B2 JP2005294470A JP2005294470A JP4895567B2 JP 4895567 B2 JP4895567 B2 JP 4895567B2 JP 2005294470 A JP2005294470 A JP 2005294470A JP 2005294470 A JP2005294470 A JP 2005294470A JP 4895567 B2 JP4895567 B2 JP 4895567B2
Authority
JP
Japan
Prior art keywords
pixel
value
quantized
specific
pixel value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005294470A
Other languages
English (en)
Other versions
JP2007104525A (ja
Inventor
裕二 永石
和雄 岡本
達郎 重里
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2005294470A priority Critical patent/JP4895567B2/ja
Priority to EP06810773A priority patent/EP1936957A4/en
Priority to PCT/JP2006/319326 priority patent/WO2007043351A1/ja
Priority to CN2006800372883A priority patent/CN101283580B/zh
Priority to US12/089,532 priority patent/US8224103B2/en
Publication of JP2007104525A publication Critical patent/JP2007104525A/ja
Application granted granted Critical
Publication of JP4895567B2 publication Critical patent/JP4895567B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • H04N19/126Details of normalisation or weighting functions, e.g. normalisation matrices or variable uniform quantisers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/182Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a pixel
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/184Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being bits, e.g. of the compressed video stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/68Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2101/00Still video cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2209/00Details of colour television systems
    • H04N2209/04Picture signal generators
    • H04N2209/041Picture signal generators using solid-state devices
    • H04N2209/042Picture signal generators using solid-state devices having a single pick-up sensor
    • H04N2209/045Picture signal generators using solid-state devices having a single pick-up sensor using mosaic colour filter

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression Of Band Width Or Redundancy In Fax (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Studio Devices (AREA)

Description

本発明は、画像符号化方法およびこれを用いた画像符号化装置に関し、特に、ビデオカメラやデジタルスチルカメラ等の撮像センサを用いた画像を圧縮する画像符号化方法および画像符号化装置に関する。
近年、デジタルスチルカメラ、カメラ付き携帯電話、ムービーカメラ等の撮像センサを含むカメラ機器において高画素化が進んでいる。その一方で、メモリバッファ量、消費電力の削減が望まれている。そこで、メモリバッファを消費するセンサからのRAWデータ(撮像センサからの画素データそのもの)を削減する方法が考えられている。この場合に、非可逆圧縮する場合、センサの欠損画素情報の扱いが問題となる。
欠損画素である情報を含む画素データを、非可逆圧縮すると、欠損画素である情報を消失してしまう可能性がある。そのため、圧縮前に欠損画素を補正することが望ましいが、補正処理にかかるメモリや回路コストを考えると、信号処理の後段の回路にある外部メモリや回路をうまく共用利用したいという要望がある。そうなると、信号処理の前段では圧縮できなくなりメモリバッファ量や消費電力の削減が困難となる課題を抱えていた。
また、隣接する画素間の画素値の差分から求める符号値をテーブル値で参照する技術がある(例えば、特許文献1。)。さらに、DPCM符号化圧縮において同色の画素情報について符号化する技術がある(例えば、特許文献2参照。)。
特開平11−341288号公報 特開2000−244935号公報
本発明の目的は、撮像センサからの画素データに修正箇所欠損画素データが含まれる場合であっても、適応的に可逆的に圧縮して処理することにより、後段の処理において欠損画素データを正しく補正できるように符号化できる画像符号化方法及び装置を提供することである。
本発明に係る画像符号化方法は、複数の画素が配列された画素列における各画素の画素値を含む画素データ列から、少なくとも一つの画素値を符号化した量子化代表値を含む画素データ列を得る画像符号化方法であって、
前記画素の画素値が特定の画素値である場合には、特定の量子化代表値に割り当て、前記画素値が前記特定の画素値以外の場合には、前記特定の量子化代表値を除く量子化代表値に割り当てて符号化することを特徴とする。
また、前記画素は、mビットの画素値を有し、前記符号化した量子化代表値はmビットより小さいnビットであって、
前記符号化に先立って、画素値が特定の画素値でない前記各画素の画素値に、それぞれ所定のオフセット値を加算してもよい。
なお、オフセット値は、2(m−n)−1であってもよい。
本発明に係る画像符号化方法は、複数の画素が配列された画素列における各画素のmビットの画素値を含む画素データ列から、前記各画素値の差分値をそれぞれ符号化したnビットの量子化代表値を含む画素データ列を得る画像符号化方法であって、
第1画素の画素値と、前記第1画素の近傍の第2画素の画素値との差分値を算出するステップと、
前記差分値の大きさに基づいて前記差分値をkビットの量子化代表値で表すステップと、
前記差分値の前記kビットの量子化代表値を前記nビットの量子化代表値の一つに変換して符号化するステップと
を含み、
前記第2画素の画素値が特定の画素値である場合には、前記差分値として、特定の量子化代表値に変換することを特徴とする。
また、前記kビットの量子化代表値と前記nビットの量子化代表値とを比較して、変換後の差分値の圧縮度を示す量子化幅を算出するステップをさらに含んでもよい。
さらに、前記第2画素の画素値が特定の画素値である場合には、前記差分値として、所定の量子化幅の特定の量子化代表値を割り当ててもよい。
またさらに、前記差分値をkビットの量子化代表値で表すステップにおいて、前記第2画素の画素値が特定の画素値でない場合であって、割り当てる前記kビットの量子化代表値が特定の量子化代表値となる場合には、前記差分値をkビットの量子化幅に代えて(k+1)ビットの量子化幅の量子化代表値の一つに割り当ててもよい。
また、前記差分値の前記kビットの量子化代表値を前記nビットの量子化代表値に変換するステップにおいて、前記第2画素の画素値が特定の画素値でない場合であって、前記差分値の前記kビットの量子化代表値が特定の量子化代表値である場合には、前記nビットの特定の量子化代表値を除く量子化代表値の一つに変換してもよい。
さらに、前記差分値の前記kビットの量子化代表値を前記nビットの量子化代表値に変換するステップにおいて、前記第2画素の画素値が特定の画素値でない場合であって、変換する前記nビットの量子化代表値が特定の量子化代表値となる場合には、前記nビットの特定の量子化代表値を除く量子化代表値の一つに変換してもよい。
またさらに、前記第1画素の画素値は、特定の画素値を除く画素値を割り当てることが好ましい。
また、前記画素列は、少なくとも2種類の色の画素が配列されており、
前記差分値を算出するステップでは、第1画素の画素値と前記第1画素の近傍の同色の第2画素の画素値との差分値を算出することとしてもよい。
さらに、前記画素列は、少なくとも2種類の色の画素が配列されており、
前記差分値を算出するステップでは、第1画素の画素値と前記第1画素の近傍の異なる色の第2画素の画素値との差分値を算出することとしてもよい。
またさらに、前記符号化した量子化代表値を含む画像データ列をメモリのアクセスビット幅の倍数でパッキングするステップをさらに含んでもよい。
また、前記特定の画素値は、0としてもよい。さらに、前記特定の量子化代表値は、0としてもよい。
本発明に係る画像符号化装置は、複数の画素が配列された画素列における各画素の画素値を含む画素データ列から、少なくとも一つの画素値を符号化した量子化代表値を含む画素データ列を得る画像符号化装置であって、
前記画素の画素値が特定の画素値であるか否かを判別する特定画素値判別部と、
前記画素の画素値が前記特定の画素値である場合には、特定の量子化代表値に割り当て、前記画素の画素値が前記特定の画素値以外の場合には、前記特定の量子化代表値を除く量子化代表値に割り当てて符号化する符号化部と
を備えることを特徴とする。
本発明に係る画像符号化装置は、複数の画素が配列された画素列における各画素のmビットの画素値を含む画素データ列から、前記各画素値の差分値をそれぞれ符号化したnビットの量子化代表値を含む画素データ列を得る画像符号化装置であって、
第1画素の画素値と、前記第1画素の近傍の第2画素の画素値との差分値を算出する差分値算出部と、
前記差分値の大きさに基づいて前記差分値をkビットの量子化代表値で表す中間量子化部と、
前記第2画素の画素値が特定の画素値であるか否かを判別する特定画素値判別部と、
前記第2画素の画素値が前記特定の画素値である場合には、前記差分値の前記kビットの量子化代表値を前記nビットの量子化代表値の一つに変換し、前記第2画素の画素値が前記特定の画素値以外の場合には、前記差分値の前記kビットの量子化代表値を前記nビットの前記特定の量子化代表値を除く量子化代表値の一つに変換して符号化する符号化部と
を備えることを特徴とする。
また、前記中間量子化部は、前記第2画素の画素値が特定の画素値でない場合であって、前記kビットの量子化代表値が特定の量子化代表値となる場合には、前記差分値をkビットの量子化幅に代えて(k+1)ビットの量子化幅の量子化代表値の一つに割り当ててもよい。
さらに、前記符号化部は、前記第2画素の画素値が特定の画素値でない場合であって、前記差分値の前記kビットの量子化代表値が特定の量子化代表値である場合には、前記nビットの特定の量子化代表値を除く量子化代表値の一つに変換してもよい。
またさらに、前記符号化部は、前記第2画素の画素値が特定の画素値でない場合であって、変換する前記nビットの量子化代表値が特定の量子化代表値となる場合には、前記nビットの特定の量子化代表値を除く量子化代表値の一つに変換してもよい。
また、前記差分値算出部は、前記第1画素の画素値と前記第1画素の近傍の同色の第2画素の画素値との差分値を算出してもよい。
さらに、前記差分値算出部は、前記第1画素の画素値と前記第1画素の近傍の異なる色の第2画素の画素値との差分値を算出してもよい。
またさらに、前記kビットの量子化代表値と前記nビットの量子化代表値とを比較して、変換後の差分値の圧縮度を示す量子化幅を算出する量子化幅算出部と、
前記差分値について、前記変換したnビットの量子化代表値と、前記量子化幅とを含む画像データ列を所定の単位にパッキングするパッキング部と
をさらに備えてもよい。
本発明に係る画像復号化方法は、少なくとも一つの画素値の符号化された量子化代表値を含む画素データ列から、復号化された画素値を含む画素データ列を得る画像復号化方法であって、
符号化された前記画素の量子化代表値が特定の量子化代表値である場合には、特定の画素値に割り当て、符号化された前記画素の量子化代表値が前記特定の量子化代表値以外の場合には、前記特定の画素値を除く画素値に割り当てて復号化することを特徴とする。
本発明に係る画像復号化方法は、画素間の差分値が符号化されたnビットの量子化代表値を含む画素データ列から、復号化されたmビットの画素値を含む画素データ列を得る画像復号化方法であって、
符号化された画素データ列をデパッキングするステップと、
第1画素の画素値として第1符号値を得るステップと、
前記第1画素の画素値と第2画素の画素値との差分値の符号化された量子化代表値として第2符号値を得るステップと、
前記第2符号値は、特定の量子化代表値であるか否かを判断するステップと、
前記第2符号値を復号化して前記第1画素の画素値と前記第2画素の画素値との差分値を得るステップと、
復号化した前記第1画素の画素値に復号化した前記差分値を加算して前記第2画素の画素値を得るステップと
を含み、
前記第2符号値が特定の量子化代表値であった場合には、前記第2画素の画素値として特定の画素値を割り当てることを特徴とする。
また、符号化された前記差分値の圧縮度を示す量子化幅を得るステップをさらに含んでもよく、
前記第2符号値を復号化して差分値を得るステップにおいて、前記第2符号値を前記量子化幅に基づいて復号化して差分値を得ることができる。
本発明に係る画像復号化装置は、少なくとも一つの画素値の符号化された量子化代表値を含む画素データ列から、復号化された画素値を含む画素データ列を得る画像復号化装置であって、
前記量子化代表値が特定の量子化代表値であるか否かを判別する特定画素値判別部と、
前記量子化代表値が前記特定の量子化代表値である場合には、特定の画素値に割り当て、前記量子化代表値が前記特定の量子化代表値以外の場合には、前記特定の画素値を除く画素値に割り当てて復号化する復号化部と
を備えることを特徴とする。
本発明に係る画像復号化装置は、画素間の差分値が符号化されたnビットの量子化代表値を含む画素データ列から、復号化されたmビットの画素値を含む画素データ列を得る画像復号化装置であって、
符号化された画素データ列をデパッキングするデパッキング部と、
第1画素の画素値として第1符号値を得ると共に、前記第1画素の画素値と第2画素の画素値との差分値の符号化された量子化代表値として第2符号値を得る符号値抽出部と、
前記第2符号値は、特定の量子化代表値であるか否かを判断する特定画素値判別部と、
前記第2符号値が特定の量子化代表値である場合には、前記第2画素の画素値として特定の画素値を割り当て、前記第2符号値が特定の量子化代表値でない場合には、前記第2符号値を復号化して前記差分値を得て、前記差分値を復号化した前記第1画素の画素値に加算して前記第2画素の画素値を得る復号化部と
を備えることを特徴とする。
また、符号化された前記差分値の圧縮度を示す量子化幅を得る量子化幅抽出部をさらに含んでもよく、
前記復号化部は、前記第2符号値を前記量子化幅に基づいて復号化して差分値を得ることができる。
本発明に係る撮像装置は、アナログ・デジタル変換してmビットの画素データを出力する撮像センサと、
前記画像符号化装置と
を備えることを特徴とする。
本発明に係る画像符号化方法によれば、画素データを圧縮して符号化する場合に、符号値を表す量子化代表値の一つによって欠陥画素データを示すことができるので、欠陥画素に関する情報について別にメモリを占める必要がなくなる。また、復号化の際には、符号化された量子化代表値が特定の量子化代表値である場合には、元の画素値が欠陥画素データであることがわかるので、欠陥画素データについて可逆的に符号化・復号化を行うことができる。
本発明の実施の形態に係る画像符号化方法及び装置、画像復号化方法及び装置、撮像装置について、添付図面を用いて説明する。なお、図面において実質的に同一の部材には同一の符号を付している。
(実施の形態1)
図1は、本発明の実施の形態1に係る画像符号化装置をデジタルスチルカメラ(DSC)に適用した場合の構成例を示すブロック図である。このデジタルカメラは、撮像レンズ1、撮像センサ2、ADC3、デジタル信号処理回路4、メモリ5、記録部6、レンズ制御部7、センサ制御部8を備える。撮像レンズ1から入射した被写体は、撮像センサ2において光電変換され、ADC(アナログデジタルコンバータ)3においてデジタル化された後、デジタル信号処理回路4に入力される。撮像センサ2には、図3に示すベイヤ配列構造の色フィルタを有する3色の画素が配置されている。図3で、Gはグリーン(緑)、Rはレッド(赤)、Bはブルー(青)のそれぞれの色フィルタを示している。これらの各画素の各色の画素データは、ラスタスキャンの順序で撮像センサ2から出力され、デジタル信号処理回路4で輝度と色差信号データに変換される。
図2は、上記デジタル信号処理回路4の内部の詳細な構成を示すブロック図である。デジタル信号処理回路4は、前処理部11と、信号処理部12と、JPEG処理部13と、表示処理部14と、IF処理部15と、圧縮部10と、伸張部20とを備える。ここで、図2に示す圧縮部10と伸長部20は、それぞれ本発明の画像符号化装置と画像復号化装置にあたる。
以下に各部材の機能について説明する。まず、撮像センサ2側からの画素データは、前処理部11に入力される。前処理部11では、有効撮像領域の切り出し処理や、ガンマ補正処理、必要に応じて入力画素の順序を並び替える処理、及び撮像センサ2の欠陥画素データに対して画素値の置き換え処理等を行う。
なお、撮像センサ2上の欠陥画素データについては、撮影前に撮像センサ2の遮光データを得ることにより事前にその位置を把握することが可能で、撮影時にその位置の画素を欠陥画素である情報として予め決められた画素値(特定画素値)に置き換える。後段の補正処理回路では、欠陥画素データを示す予め決められた画素値(特定画素値)が入力された場合は、それを判断して補正処理を行うことになる。
信号処理部12では、一旦メモリ5に蓄えられた撮像センサ2からのRAWデータと呼ばれる1画素1色の画素データを読み出し(以下、RAWデータと称す)、RGBの残りの色を補間する。例えば、R(赤)色の画素値が入力された場合、その画素位置のG(緑)とB(青)を周辺画素から補間する処理が施される。1画素あたりに3色の画素データが揃うと、これらは最終的には輝度と色差データに変換されてメモリ5上に再度格納される。
JPEG処理部13では、輝度と色差データに変換されたデータを読み出し、JPEG(Joint Photographic Experts Group)と呼ばれる圧縮処理が施される。JPEG形式に圧縮された画素データは、再度メモリ5に格納され必要に応じて、表示処理部14やIF(インタフェース)処理部15に送られる。
表示処理部14では、外部の表示装置や本体の表示装置に出力するための、画素データ変換処理と出力タイミングの同期処理が行われる。また、IF処理部15では外部のメモリ装置や転送装置に対して適合するように、画素データ変換処理と出力タイミングの同期処理が行われる。
圧縮部10は、本発明に係る画像符号化装置に対応するものであって、前処理部11で前処理された画素列データを圧縮してメモリ5上に格納する。この圧縮部10である本発明の画像符号化装置では、後述するように、画素値が特定の画素値である場合には、欠陥画素データであるとして、特定の量子化代表値に割り当てて符号化する。また、伸長部20は、本発明に係る画像復号化装置に対応するものであって、メモリ5に格納されたRAWデータを伸長して信号処理部12に送る。この伸張部20では、符号化された量子化代表値が特定の量子化代表値である場合には、これを欠陥画素データとして特定の画素値を割り当てて復号化する。これらについては以下に詳述する。
図4は、本発明の実施の形態1に係る画像符号化装置10の構成を示すブロック図である。この画像符号化装置10は、画素入力部21と、特定画素値判別部22と、符号化部23と、パッキング部24とを備える。画素入力部21は、前処理部11から前処理された画素データ列を受け取る。特定画素値判別部22は、画素データ列の画素値が特定画素値であるか否かを判断する。符号化部23は、画素値が特定の画素値である場合には、画素値を特定の量子化代表値に割り当てて符号化し、画素値が特定の画素値でない場合には、画素値を特定の量子化代表値を除く量子化代表値の一つに割り当てて符号化する。パッキング部24は、符号化した量子化代表値を所定の単位、好ましくは、メモリのアクセスビット幅の倍数でパッキングする。
図5は、本発明の実施の形態1に係る画像符号化方法のフローチャートである。
(a)画素値の入力を受け付ける(S01)。ここでは、図2に示すように前処理部11から前処理された画素データ列を受け付ける。
(b)画素値は、特定の画素値か否か判断する(S02)。ここで特定の画素値とは、例えば、「0」であり、特定の画素値である場合には、欠陥画素データであることを意味する。画素値が特定の画素値である場合には、画素値を特定の量子化代表値に割り当てて符号化する(S04)。なお、あらかじめ欠陥画素データに対して割り当てる特定の画素値としては「0」に限られない。例えば、表現する画素値の上限の値であってもよい。
(c)画素値が特定の画素値でない場合には、画素値を特定の量子化代表値を除く量子化代表値の一つに割り当てて符号化する(S03)。ここでは、元の画素値がmビットであった場合に、nビットの量子化代表値に割り当てて符号化する場合である。nビットがmビットより小さい場合にはメモリ容量を減らすことができる。
以上によって画素データ列を符号化することができる。
このように符号値を表す量子化代表値の一つによって欠陥画素データを示すことで、欠陥画素に関する情報について別にメモリを占める必要がなくなる。また、符号化された量子化代表値が特定の量子化代表値である場合には、元の画素値が欠陥画素データであることがわかるので、欠陥画素データについて可逆的に符号化・復号化を行うことができる。
(実施の形態2)
本発明の実施の形態2に係る画像符号化装置では、実施の形態1に係る画像符号化装置と比較すると、画素入力部21において、各画素の画素値に所定のオフセット値を加算する点で相違する。ここで所定のオフセット値とは、mビットの画素値をnビットの量子化代表値に符号化することによって丸められて特定の量子化代表値になることを防ぐ値である。具体的には、オフセット値は、2(m−n)−1である。例えば、10ビット(m=10)の画素値を6ビット(n=6)の量子化代表値に符号化する場合には、画素値が1〜15(=2−1)の場合には6ビットに丸めると量子化代表値としては0となってしまう。この場合、オフセット値(2(10−6)−1)は、15(=2−1)となる。このオフセット値を特定の画素値を除く全ての画素の画素値に加算しておくことによって符号化した際にも特定の量子化代表値に丸められることがない。これによって、符号化の際に特定画素値については特定の量子化代表値が割り当てられるが、それ以外の画素値については丸められることなく特定の量子化代表値を除く量子化代表値に割り当てられる。そこで、欠陥画素データについては可逆的に符号化・復号化を行うことができる。この場合、オフセット値を加算することによってmビットの上限を超えないようにクリッピング処理を施して、これらの画素値をmビットの上限の2−1に丸める。
なお、ここでは、特定の画素値を「0」とし、特定の量子化代表値を「0」としているが、これに限られず、特定の画素値を「2−1」とし、特定の量子化代表値を「2−1」とし、オフセット値を減算するようにしてもよい。
図6は、本発明の実施の形態2に係る画像符号化方法のフローチャートである。
(a)画素値の入力(S11)を受け付ける。
(b)画素値は、特定の画素値か否か判断する(S12)。ここでは、特定の画素値を除く全ての画素値にオフセット値を加算するため、特定の画素値であるか否かを判断する。
(c)各画素値にオフセット値2(m−n)−1をインクリメントする(S13)。
(d)オフセット値加算後の画素値は、2−1を超えたか否か判断する(S14)。オフセット値加算後に元の画素値のmビットを超える場合、そのままではmビットで表現できなくなるため、画素値を2−1に設定する(S15)。このように上限を超える場合にクリッピングすることで元のデータの情報が一部失われるが、上限に近いためほとんど認識されないものと考えられる。一方、オフセット値加算後もmビットの範囲を超えていない場合には、ステップS16に移行する。
(e)全ての画素についてオフセット処理を済ませたか否か判断する(S16)。全ての画素についてオフセット処理が終了した場合には、次のステップS17に移行し、終了していなければ、ステップS11に戻る。
(f)画素値は、特定の画素値か否か判断する(S17)。特定の画素値である場合には、画素値を特定の量子化代表値に割り当てて符号化する(S19)。
(g)特定の画素値でない場合には、画素値を特定の量子化代表値を除く量子化代表値の一つに割り当てて符号化する(S18)。
以上によって、画素のmビットの画素値を含む画素データ列から、上記画素値を符号化したnビットの量子化代表値の画素データ列を得る画像符号化を行うことができる。このように、オフセット値を加算しておくことによって、元の画素値が1〜2(m−n)−1の範囲にある場合にも、符号化の際に丸められて特定の量子化代表値「0」になることを防ぐことができる。
なお、上記オフセット処理に代えて、撮像センサ2側からのデータをアナログ・デジタル変換部3、又は、前処理部11において入力データをあらかじめ、0、2(m−n)〜2−1に制限してもよい。
(実施の形態3)
図7は、本発明の実施の形態3に係る画像符号化装置10aの構成を示すブロック図である。この画像符号化装置10aは、実施の形態1に係る画像符号化装置と比較すると、差分値算出部25と、中間量子化部26とを備える点で相違する。差分値算出部25は、第1画素の画素値と第1画素の周辺の第2画素の画素値との差分値を算出する。中間量子化部26は、上記差分値を表すことができる最小ビットとしてkビットを決定し、上記差分値をkビットの量子化代表値で表す。また、符号化部23では、kビットの量子化代表値をnビットの量子化代表値に符号化する。この画像符号化装置では、画素値自体ではなく差分値を符号化するので、差分値がnビットの範囲で表すことができる場合には、符号化の際の丸めが生じないので可逆的に符号化・復号化を行うことができる。
図8は、本発明の実施の形態3に係る画像符号化方法のフローチャートである。
(a)第1画素の画素値の入力を受け付ける(S21)。この場合、第1画素の画素値は特定の画素値でないものとする。
(b)第2画素の画素値の入力を受け付ける(S22)。第2画素は、図9に示すように、第1画素の近傍の同色の画素としてもよい。あるいは、図10に示すように、第2画素は、第1画素の隣接画素であってもよい。
(c)第2画素の画素値は、特定の画素値か否か判断する(S23)。特定の画素値である場合には、差分値として、特定の量子化代表値に符号化する(S27)。なお、この場合に、差分値として特定の量子化代表値が格納されるが、第2画素の画素値が欠陥画素データであることを意味するものであって、復号化の際には、差分値が特定の量子化代表値であることを検出することによって、第2画素の画素値として欠陥画素データを意味する特定の画素値を割り当てる。
(d)第2画素の画素値が特定の画素値でない場合には、第1画素の画素値と第2画素の画素値の差分値δを算出する(S24)。なお、第1画素と第2画素の組は、図9及び図10に示すように互いに近傍の同色の画素の組であってもよく、隣接する互いに異なる色の画素の組であってもよい。
(e)差分値δをkビットの量子化代表値で表す(S25)。この場合、上記差分値δを表すことができる最小ビットとしてkビットを決定する。
(f)差分値として、kビットの量子化代表値をnビットの量子化代表値に符号化する(S26)。
以上によって、画素のmビットの画素値を含む画素データ列から、各画素値の差分値をそれぞれ符号化したnビットの量子化代表値を含む画素データ列を得ることができる。
次に、差分値を得る第1画素と第2画素の組の選択について図9から図13を用いて説明する。撮像センサ2からの入力される画素値をラスタ順にIN(1)、IN(2)・・・とする場合、差分値δは、
差分値δ=IN(t)−IN(t−1) t:時刻
として表すことができる。また、図3に示すようなベイヤ配列構成をとる撮像センサからの入力は、水平ライン毎に、R(赤)、G(緑)、R、G・・・、次のラインはG(緑)、B(青)、G、B・・・という順に画素値が入力される。そこで、第1画素と第2画素の組合わせとしては、図9に示すように、近傍の同色の画素の組とする場合と、図10に示すように隣接する互いに異なる色の画素の組とする場合がある。また、図11に示すように、画素の画素値が特定の画素値である場合には、これを第1画素とはしないものとする。この場合、画素値が特定の画素値ではない画素を第1画素として選択する。図12の場合には、R(赤)の画素については、差分値δ2、δ4はそのまま算出できる。また、G(緑)の画素の差分値δ1については、第2画素の画素値が特定の画素値である場合なので、δ1に代えて特定の量子化代表値が格納される。一方、画素値が特定の画素値となる画素は第1画素としないので、δ3ではなく、図11と同様に特定の画素値ではない画素を第1画素として差分値を算出する。さらに、図13に示すように、隣接する画素間で差分値を算出する場合には、特定の画素値である画素を第1画素としないようにする。
(実施の形態4)
本発明の実施の形態4に係る画像符号化方法は、実施の形態3に係る画像符号化方法と比較すると、差分値を表すkビットの量子化代表値が特定の量子化代表値となる場合に、(k+1)ビットの量子化代表値で表す点で相違する。これによって差分値の符号化にあたって特定の量子化代表値を避けることができ、復号化の際に特定の量子化代表値を検出した場合には符号化による割り当てを避けることができるので、特定の画素値に可逆的に符号化・復号化ができる。
図15は、この画像符号化方法における差分値を表すkビットの量子化代表値が「0」となる場合を示す概略図である。ここで、差分値δを表す方法として、符号有りで表記する方法と、符号無しで表記する方法がある。差分値δを符号有りの表記方法で表すと、kビットの範囲では、符号を含むので−2k−1−1〜2k−1−1の範囲の差分値を表すことができる。一方、符号無しの表記方法では、上記差分値の範囲を0〜2−1で表記することができる。この場合、差分値が−2k−1−1である場合には「0」として表される。そこで、kビットではなく(k+1)ビットの範囲で表すと、同じ差分値−2k−1−1を「0」ではなく(k+1)ビットの2k−1−1として表すことができる。
図14は、本発明の実施の形態4に係る画像符号化方法のフローチャートである。
(a)第1画素の画素値の入力を受け付ける(S31)。
(b)第2画素の画素値の入力を受け付ける(S32)。
(c)第2画素の画素値は、特定の画素値か否か判断する(S33)。特定の画素値である場合には、差分値として、特定の量子化代表値に符号化する(S40)。
(d)第1画素の画素値と第2画素の画素値の差分値δを算出する(S34)。
(e)差分値をkビットの量子化代表値で表す(S35)。この場合、上記差分値δを表すことができる最小ビットとしてkビットを決定する。
(f)kビットの量子化代表値は、特定の量子化代表値か否か判断する(S36)。図15に示すように、差分値δを符号無しkビットで表す場合には、差分値δが−2k−1−1に一致する場合には、符号化した量子化代表値として「0」となる。そこで、差分値を表すビット数を増して、差分値を(k+1)ビットの量子化代表値で表す(S37)。これによって、特定の量子化代表値「0」を避けることができる。
(g)ステップS37に続いて、差分値として、(k+1)ビットの量子化代表値をnビットの量子化代表値に符号化する(S38)。
(h)ステップS36でkビットの量子化代表値が特定の量子化代表値でないと判断した場合には、差分値として、kビットの量子化代表値をnビットの量子化代表値に符号化する(S39)。
以上によって、画素のmビットの画素値を含む画素データ列から、各画素値の差分値をそれぞれ符号化したnビットの量子化代表値を含む画素データ列を得る。
(実施の形態5)
本発明の実施の形態5に係る画像符号化方法は、実施の形態4に係る画像符号化方法と比較すると、差分値を表すkビットの量子化代表値が特定の量子化代表値である場合に、nビットの特定の量子化代表値に符号化する点で相違する。例えば、特定の画素値に対応する「0」以外の、「1」に符号化する。これによって特定の画素値に対応する特定の量子化代表値を避けて符号化することができるので、復号化の際に特定の量子化代表値を検出した場合には、特定の画素値に可逆的に符号化・復号化ができる。
図16は、本発明の実施の形態5に係る画像符号化方法のフローチャートである。
(a)第1画素の画素値の入力を受け付ける(S41)。
(b)第2画素の画素値の入力を受け付ける(S42)。
(c)第2画素の画素値は、特定の画素値か否か判断する(S43)。特定の画素値の場合には、差分値として、特定の量子化代表値に符号化する(S49)。
(d)第1画素の画素値と第2画素の画素値の差分を算出する(S44)。
(e)差分値をkビットの量子化代表値で表す(S45)。
(f)kビットの量子化代表値は、特定の量子化代表値か否か判断する(S46)。特定の量子化代表値である場合には、差分値として、nビットの特定の量子化代表値に符号化する(S48)。例えば、特定の画素値に対応する「0」以外の、「1」に符号化する。
(g)差分値として、kビットの量子化代表値をnビットの量子化代表値に符号化する(S47)。
以上によって、画素のmビットの画素値を含む画素データ列から、各画素値の差分値をそれぞれ符号化したnビットの量子化代表値を含む画素データ列を得ることができる。
(実施の形態6)
本発明の実施の形態6に係る画像符号化方法は、実施の形態4及び5に係る画像符号化方法と比較すると、nビットの量子化代表値が特定の量子化代表値である場合に、nビットの特定の量子化代表値に符号化する点で相違する。例えば、特定の画素値に対応する「0」以外の、「1」に符号化する。これによって特定の画素値に対応する特定の量子化代表値を避けて符号化することができるので、復号化の際に特定の量子化代表値を検出した場合には、特定の画素値に可逆的に符号化・復号化ができる。
図17は、本発明の実施の形態6に係る画像符号化方法のフローチャートである。
(a)第1画素の画素値の入力を受け付ける(S51)。
(b)第2画素の画素値の入力を受け付ける(S52)。
(c)第2画素の画素値は、特定の画素値か否か判断する(S53)。特定の画素値である場合には、差分値として、特定の量子化代表値に符号化する(S59)。
(d)第1画素の画素値と第2画素の画素値の差分値を算出する(S54)。
(e)差分値をkビットの量子化代表値で表す(S55)。この場合、差分値を表すことができる最小ビットとしてkビットを決定する。
(f)差分値として、kビットの量子化代表値をnビットの量子化代表値に符号化する(S56)。
(g)nビットの量子化代表値は、特定の量子化代表値か否か判断する(S57)。特定の量子化代表値である場合には、差分値として、nビットの特定の量子化代表値に符号化する(S58)。例えば、特定の画素値に対応する「0」以外の、「1」に符号化する。特定の量子化代表値でないと判断された場合には、特に処理を要しないので、そのまま終了する。
以上によって、画素のmビットの画素値を含む画素データ列から、各画素値の差分値をそれぞれ符号化したnビットの量子化代表値を含む画素データ列を得ることができる。
(実施の形態7)
図18は、本発明の実施の形態7に係る画像符号化装置の構成を示すブロック図である。この画像符号化装置10bは、実施の形態3に係る画像符号化装置と比較すると、量子化幅算出部27を備える点で相違する。この量子化幅算出部27は、符号化された差分値δの圧縮度を表す量子化幅を算出する。これにより、差分値δがnビットの幅を超える場合にも圧縮してnビットの量子化代表値で表記でき、復号化の際にはnビットの量子化代表値について圧縮度を示す量子化幅に基づいて元の差分値δに伸張することができる。
図19は、本発明の実施の形態7に係る画像符号化方法のフローチャートである。
(a)第1画素の画素値の入力を受け付ける(S61)。
(b)第2画素の画素値の入力を受け付ける(S62)。
(c)第2画素の画素値は、特定の画素値か否か判断する(S63)。特定の画素値である場合には、差分値として、特定の量子化代表値に符号化する(S68)。
(d)第1画素の画素値と第2画素の画素値の差分値を算出する(S64)。
(e)差分値をkビットの量子化代表値で表す(S65)。この場合、差分値を表すことができる最小ビットとしてkビットを決定する。
(f)差分値として、kビットの量子化代表値をnビットの量子化代表値に符号化する(S66)。このときに、kビットがnビットを超える場合には、圧縮して符号化する。
(g)kビットの量子化代表値とnビットの量子化代表値とを比較して、符号化された差分値δの圧縮度を示す量子化幅を算出する(S67)。なお、この量子化幅の算出の詳細については後述する。
以上によって、画素のmビットの画素値を含む画素データ列から、各画素値の差分値をそれぞれ符号化したnビットの量子化代表値を含む画素データ列を得ることができる。
図20は、図19の量子化幅を算出するステップS67の詳細を説明するフローチャートである。
(a)第2画素の画素値は、特定の画素値か否か判断する(S71)。特定の画素値である場合には、例えば、差分値として特定の量子化代表値として「0」を割り当てるとする場合、その値は明らかにnビットのダイナミックレンジ(範囲内)で表すことができるので、圧縮を要しない。したがって、符号化された差分値δの圧縮度を示す量子化幅は20(S77)である。
(b)差分値δが、−((2)/2−1)≦(差分δ)≦(2)/2−1の不等式を満たすか否か判断する(S72)。差分値δがこの不等式の範囲内にある場合には、差分値δをnビットのダイナミックレンジで表すことができるので、符号化された差分値δの圧縮度を示す量子化幅は、2(S77)である。
(c)差分値δが、−((2n+1)/2−1)≦(差分δ)≦(2n+1)/2−1の不等式を満たすか否か判断する(S73)。差分値δがこの不等式の範囲内にある場合には、差分値δを表すためにn+1ビットのダイナミックレンジが必要となるので、符号化された差分値δの圧縮度を示す量子化幅は、2(S78)である。
(d)差分値δが、−((2n+2)/2−1)≦(差分δ)≦(2n+2)/2−1の不等式を満たすか否か判断する(S74)。差分値δがこの不等式の範囲内にある場合には、差分値δを表すために(n+2)ビットのダイナミックレンジが必要となるので、符号化された差分値δの圧縮度を示す量子化幅は、2(S79)である。
(e)差分値δが、−((2m−1)/2−1)≦(差分δ)≦(2m−1)/2−1の不等式を満たすか否か判断する(S75)。差分値δがこの不等式の範囲内にある場合には、差分値δを表すために(m−1)ビットのダイナミックレンジが必要となるので、符号化された差分値δの圧縮度を示す量子化幅は、2m−n−1(S78)である。
(f)一方、差分値δが−((2m−1)/2−1)≦(差分δ)≦(2m−1)/2−1の不等式を満たさない場合には、差分値δを表すためにmビットのダイナミックレンジが必要となるので、符号化された差分値δの圧縮度を示す量子化幅は、2(m−n)(S76)である。
以上によって量子化幅が算出される。その後リターンする。
図21は、量子化幅を決定する例を示す概略図である。この例では、第1画素の画素値をIN(1)とし、第2画素の画素値をIN(2)としている。また、第1画素の画素値IN(1)を基点として上下に刻み幅の異なるスケールを3つ示している。3つのスケールのうち、刻み幅の最も狭い第1のスケールは、符号化するnビットの量子化代表値の範囲、
−((2)/2−1)〜(2)/2−1
を示している。一方、第2のスケールは、第1のスケールに比べて刻み幅が2倍のスケールであって、第1のスケールと同様のnビットの量子化代表値のそれぞれの値が2倍の値を指し、n+1ビットの量子化代表値の範囲、
−((2n+1)/2−1)〜(2n+1)/2−1
を示している。さらに、第3のスケールは、第1のスケールに比べて刻み幅が4倍のスケールであって、第1のスケールと同様のnビットの量子化代表値のそれぞれの値が4倍の値を指し、n+2ビットの量子化代表値の範囲、
−((2n+2)/2−1)〜(2n+2)/2−1
を示している。すなわち、この刻み幅は、差分値δをnビットの範囲に圧縮する圧縮度を表す量子化幅を意味する。
図21の例では、第1画素の画素値IN(1)と第2画素の画素値IN(2)との差分δを表すためには、第2のスケールが必要となる。したがって、この場合には、差分値のnビットの量子化代表値の圧縮度を表す量子化幅は2である。復号化の際には、差分値のnビットの量子化代表値を2倍して、第1画素の画素値に加算して第2画素の画素値を得ることができる。
なお、上記の例では、個々の差分値δについてそれぞれ量子化幅を算出する場合について説明したが、これに限られず、例えば、図10に示すように、連続する4画素のそれぞれ隣接する直前の画素との差分値δ1、δ2、δ3、δ4について、一つの量子化幅を決めてもよい。この場合、差分値δ1、δ2、δ3、δ4の量子化幅をp(1)、p(2)、p(3)、p(4)とすると、組の量子化幅pmaxは、4つの量子化幅の内の最大の量子化幅として下記式に示すように決まる。
pmax = MAX(p(1),p(2),p(3),p(4))
ここで、MAX()は最大値を返す処理である。
例えば、4つの量子化幅が、
p(1)= 2
p(2)= 2
p(3)= 2
p(4)= 2
である場合には、
pmax=MAX(2、2、2、2)=2=4
として組の量子化幅pmaxは4として得られる。そこで、この組の量子化幅pmaxに基づいて、差分値δ1、δ2、δ3、δ4は、nビットの量子化代表値として符号化される。
ここでは4画素を一組として量子化幅を決定したが、これに限られず1画素以上であれば何画素であってもよい。n画素単位で組の量子化幅を決定する場合は、下記のように求められる。
p= MAX(p(t),p(t+1),・・・,p(t+n−1))
また、特定の画素値は、差分値として特定の量子化代表値「0」に符号化されるので、その量子化幅は、最小の量子化幅20に設定される。したがって、図13に示すように、組として特定の画素値を含む場合であっても組の量子化幅は影響されることはない。
組の量子化幅が決定すると、中間量子化部26及び符号化部23において、入力画素値のビット精度、符号化するビット精度、圧縮するビット数、第1画素の画素値、第2画素の画素値、量子化幅、量子化ダイナミックレンジ、符号化データ等を設定すると、所定の疑似コードに基づいて、第1画素の画素値と第2画素の画素値との差分値が上記量子化幅に基づいて量子化代表値に符号化される。
以下に具体的な数値を用いて説明する。10ビット(m=10)の入力画素を6ビット(n=6)の量子化代表値に圧縮する場合を考える。
第1画素の画素値:IN(2)=150
第2画素の画素値:IN(1)=200
差分値:δ=IN(2)−IN(1)=50
ここで、差分値を符号無しで表記する場合を考えると、6ビットの範囲で表せるのは、差分値δが−26−1−1〜26−1−1の範囲、すなわち、−32〜32の範囲である。この例では、差分値は、7ビットの範囲−2〜2で表すことができるので、その量子化幅pは2である。ここでは、組の量子化幅pmaxも同じ2の場合を考える。この場合、ダイナミックレンジDは、pmax×2=2×2=128である。
(a)仮の基底値Saは、Sa=IN(1)−D=150−128=22としてSa=22が得られる。
(b)この仮の基底値Saは正であるので、基底値FとしてSaと同じ値22が与えられる。
(c)次いで、基底値Fからの第2画素の画素値IN(2)の差Inは、In=IN(2)−F−1=200−22−1=177として177が得られる。
(d)得られた差Inは、177であり、6ビットの範囲では表せないので、量子化幅2で圧縮して6ビットの範囲の量子化代表値ENCとして符号化する。具体的には、「177」を1ビット右シフト演算して6ビットの88(=101100)が得られる。
なお、復号化の際には、6ビットの量子化代表値のENC値88について、量子化幅2に基づいて逆に1ビット左シフト演算して「176」を得る。次いで、基底値22に176を加算して第2画素の画素値として199を復号化できる。
また、符号化結果は、図22の(a)及び(b)に示すように所定の単位、例えば、メモリアクセス幅の倍数でパッキングされる。図22の(a)は、R(赤)とG(緑)の2色のデータについて、それぞれ初期値の画素値のビット精度(mビット)でそのまま格納し、量子化幅情報としてpmaxと符号化したnビットのデータを格納していく場合を示す概略図である。図22の(b)は、R(赤)とG(緑)の色毎にデータ配置を分けて格納していく場合を示す概略図である。なお、図22の(a)、(b)のどちらを用いてもよい。この場合、復号化の際にデータの取りだし手順が変わるだけで圧縮処理には影響を及ぼさない。
(実施の形態8)
図23は、本発明の実施の形態8に係る画像復号化装置20の構成を示すブロック図である。この画像復号化装置20は、デパッキング部31と、符号値抽出部32と、特定画素値判別部33と、復号化部34とを備える。デパッキング部31では、符号化された画素データ列をデパッキングする。符号値抽出部32では、符号化された量子化代表値を抽出する。特定画素値判別部33では、量子化代表値が特定の量子化代表値であるか否か判断する。復号化部34では、特定の量子化代表値である場合には元の画素値が欠陥画素データであることを意味するので、特定の画素値を割り当てて復号化し、特定の量子化代表値でない場合には、特定の画素値を除く画素値を割り当てて復号化する。このように、欠陥画素データについてあらかじめ特定の量子化代表値を割り当てて符号化しておくことによって、欠陥画素データについての情報を別にメモリに確保する必要がない。また、特定の量子化代表値であるか否か判断することによって、画素値の圧縮は不可逆的な符号化となるが、欠陥画素データについては可逆的に符号化・復号化できる。
図24は、本発明の実施の形態8に係る画像復号化方法のフローチャートである。
(a)符号化された画素データ列をデパッキングする(S81)。
(b)符号値を抽出する(S82)。例えば、画素値の符号化された量子化代表値を抽出する。
(c)抽出された量子化代表値は、特定の量子化代表値か否か判断する(S83)。特定の量子化代表値である場合には、元の画素値は欠陥画素データであることを意味するので、特定の画素値に割り当てて復号化する(S85)。
(d)一方、特定の量子化代表値でない場合には、量子化代表値を特定の画素値を除く画素値に割り当てて復号化する(S84)。
以上によって、少なくとも一つの画素値の符号化された量子化代表値を含む画素データ列から、復号化された画素値を含む画素データ列を得ることができる。
(実施の形態9)
図26は、本発明の実施の形態9に係る画像復号化方法のフローチャートである。
(a)符号化された画素データ列をデパッキングする(S91)。
(b)符号値を抽出する(S92)。例えば、第1画素の画素値を抽出すると共に、第1画素の画素値と第1画素の近傍の第2画素の画素値との差分値δの符号化された量子化代表値を抽出する。図22の(a)又は(b)の例では、初期値として第1画素の画素値(mビット)をそのまま抽出することができる。また、上記差分値δは、符号化された量子化データ(nビット)として抽出できる。
(c)符号化された差分値は、特定の量子化代表値か否か判断する(S93)。差分値が特定の量子化代表値の場合には、第2画素の画素値として、特定の画素値を割り当てて復号化する(S96)。
(d)nビットの差分値δをmビットに復号化する(S94)。この場合、差分値δはnビットの0〜2−1の範囲内で表せる場合であるので、nビットを超えてmビットまでの上位ビットには0を並べてnビットからmビットへ変換することができる。
(e)第1画素のmビットの画素値に、復号化されたmビットの差分値を加算して、第2画素のmビットの画素値を復号化する(S95)。
以上によって、画素間の差分値が符号化されたnビットの量子化代表値を含む画素データ列から、復号化されたmビットの画素値を含む画素データ列を得ることができる。
なお、上記の例では、第1画素の画素値は、図22に示すように初期値としてそのまま抽出できる場合について説明したが、これに限られない。例えば、初期値に対する差分値を加算して算出される画素の画素値は、連続する次の画素の画素値に対しては第1画素の画素値とみなすことができる。同様に連続する画素であって、互いに近傍の2つの画素について、直前の復号化によって得られた画素値を第1画素の画素値として第2画素の画素値を得るために用いてもよい。
(実施の形態10)
図24は、本発明の実施の形態10に係る画像復号化装置20aの構成を示すブロック図である。この画像復号装置20aは、実施の形態8に係る画像復号装置と比較すると、符号化された差分値の圧縮度を示す量子化幅抽出部35を備える点で相違する。この画像復号装置20aでは、量子化幅抽出部35を備えるので、圧縮されて符号化された差分値を量子化幅に基づいて復号化できる。
図27は、本発明の実施の形態10に係る画像復号化方法のフローチャートである。
(a)符号化された画素データ列をデパッキングする(S101)。
(b)符号値を抽出する(S102)。
(c)符号化された差分値の圧縮度を示す量子化幅を抽出する(S103)。
(d)符号化された差分値は、特定の量子化代表値か否か判断する(S104)。符号化された差分値が特定の量子化代表値の場合には、第2画素の画素値が欠陥画素データであることを意味するので、第2画素の画素値として、特定の画素値を割り当てて復号化する(S107)。
(e)一方、特定の量子化代表値でない場合には、差分値を量子化幅に基づいて復号化する(S105)。
(f)第1画素の画素値に復号化された差分値を加算して第2画素の画素値を復号化する(S106)。
以上によって、画素間の差分値が符号化されたnビットの量子化代表値を含む画素データ列から、復号化されたmビットの画素値を含む画素データ列を得ることができる。
(実施の形態11)
図28は、本発明の実施の形態11に係る撮像装置の構成を示すブロック図である。この撮像装置は、撮像センサ2と、ADC3と、画像符号化回路10cと、センサ制御部8とを備える。この画像符号化回路10cは、上記画像符号化装置のいずれかであっても用いることができる。この撮像装置では、撮像センサ2として、CMOSセンサ等のように周辺にロジックを配置できるセンサを用いている。また、ADC3のアナログ・デジタル変換された出力部分に画像符号化回路10cを配置している。従来、撮像センサを備えた撮像装置から信号処理側へのデータトラフィックが大きな課題であった。一方、この撮像装置では画像符号化回路(圧縮部)10cを備えており、これと接続する信号処理側には伸張(デコード)部を備えるものを用いるだけでよいので、撮像装置と信号処理側との間のトラフィックを抑えることができ、消費電力を抑制できると共に、信号処理側への高速データ転送が可能となる。また、画像符号化回路10cを備えるので、上述のように特定の画素値である場合に特定の量子化代表値に符号化することができる。これにより、復号化の際に特定の量子化代表値を検出した場合には特定の画素値であることを意味するので、特定の画素値について可逆的に符号化・復号化することができる。
本発明の実施の形態1に係るデジタルスチルカメラの構成を示すブロック図である。 図1のデジタル信号処理回路の構成を示すブロック図である。 図1の撮像センサに含まれるベイヤ配列構造のフィルタの配置を示す概略図である。 本発明の実施の形態1に係る画像符号化装置の構成を示すブロック図である。 本発明の実施の形態1に係る画像符号化方法のフローチャートである。 本発明の実施の形態2に係る画像符号化方法のフローチャートである。 本発明の実施の形態3に係る画像符号化装置の構成を示すブロック図である。 本発明の実施の形態3に係る画像符号化方法のフローチャートである。 本発明の実施の形態3に係る画像符号化方法における同色画素間の差分値をとる場合を示す概略図である。 本発明の実施の形態3に係る画像符号化方法における隣接画素間の差分値をとる場合を示す概略図である。 本発明の実施の形態3に係る画像符号化方法における特定の画素値が同色画素で連続して存在する場合の差分値のとり方を示す概略図である。 本発明の実施の形態3に係る画像符号化方法における特定の画素値が存在する場合の差分値のとり方の一例を示す概略図である。 本発明の実施の形態3に係る画像符号化方法における特定の画素値が存在する場合の隣接画素間で差分値をとる一例を示す概略図である。 本発明の実施の形態4に係る画像符号化方法のフローチャートである。 差分値を表すkビットの量子化代表値が「0」となる場合を示す概略図である。 本発明の実施の形態5に係る画像符号化方法のフローチャートである。 本発明の実施の形態6に係る画像符号化方法のフローチャートである。 本発明の実施の形態7に係る画像符号化装置の構成を示すブロック図である。 本発明の実施の形態7に係る画像符号化方法のフローチャートである。 図19のステップS67の詳細を示すフローチャートである。 量子化幅を決定する例を示す概略図である。 (a)は、R(赤)とG(緑)の2色のデータについて格納して所定の単位でパッキングする一例を示す概略図であり、(b)は、R(赤)とG(緑)の色毎にデータ配置を分けて格納して所定の単位でパッキングする一例を示す概略図である。 本発明の実施の形態8に係る画像復号化装置の構成を示すブロック図である。 本発明の実施の形態10に係る画像復号化装置の構成を示すブロック図である。 本発明の実施の形態8に係る画像復号化方法のフローチャートである。 本発明の実施の形態9に係る画像復号化方法のフローチャートである。 本発明の実施の形態10に係る画像復号化方法のフローチャートである。 本発明の実施の形態11に係る撮像装置の構成を示すブロック図である。
符号の説明
1 撮像レンズ、2 撮像センサ、3 ADC、4 デジタル信号処理回路、5 メモリ、6 記録部、7 レンズ制御部、8 センサ制御部、10、10a、10b 画像符号化装置(圧縮部)、10c 画像符号化回路、11 前処理部、12 信号処理部、13 JPEG処理部、14 表示処理部、15 IF処理部、20、20a 画像復号化装置(伸張部)、21 画素入力部、22 特定画素値判別部、23 符号化部、24 パッキング部、25 差分値算出部、26 中間量子化部、27 量子化幅算出部、31 デパッキング部、32 符号値抽出部、33 特定画素値判別部、34 復号化部、35 量子化幅抽出部

Claims (13)

  1. 複数の画素が配列された画素列における各画素の画素値であってmビット精度で量子化された画素値を、前記mビット精度よりも荒いnビット精度で量子化された画素値に符号化する画像符号化方法であって、
    符号化の対象である対象画素の画素値が特定の画素値である場合には、前記対象画素の画素値を前記nビット精度で量子化する際に取り得る量子化代表値のうち特定の量子化代表値に割り当て、前記対象画素の画素値が前記特定の画素値以外の場合には、前記対象画素の画素値を前記特定の量子化代表値を除く量子化代表値に割り当てて符号化し、
    さらに、前記符号化に先立って、前記対象画素の画素値が特定の画素値以外である前記対象画素の画素値に対して、所定のオフセット値を加算することを特徴とする画像符号化方法。
  2. 前記オフセット値は、2(m−n)−1であることを特徴とする請求項に記載の画像符号化方法。
  3. 複数の画素が配列された画素列における各画素の画素値であってmビット精度で量子化された画素値を、前記mビット精度よりも荒いnビット精度で量子化された画素値に符号化する画像符号化方法であって、
    前記符号化の対象である対象画素の画素値と、前記対象画素の近傍に位置する画素の画素値との差分値を算出し、
    前記差分値の大きさおよび、前記nビット精度で量子化する際に取り得る量子化代表値の範囲に基づいて前記差分値を前記nビット精度で量子化する際の量子化幅を設定し、
    前記設定した量子化幅を用いて、前記差分値を前記nビット精度で量子化し、
    前記対象画素の近傍に位置する画素の画素値が特定の画素値である場合、前記差分値を前記nビット精度で量子化する際に取り得る量子化代表値のうち特定の量子化代表値に量子化することを特徴とする画像符号化方法。
  4. 前記対象画素の近傍に位置する画素の画素値が特定の画素値ではない場合であって、かつ前記差分値が、前記nビット精度で量子化する際に取り得る量子化代表値のうち前記特定の量子化代表値に量子化される場合には、前記設定した量子化幅の値をより大きな量子化幅に変更して、前記変更した量子化幅を用いて、前記差分値を前記nビット精度で量子化する請求項3に記載の画像符号化方法。
  5. 前記対象画素の近傍に位置する画素の画素値が特定の画素値ではない場合であって、かつ前記差分値が、前記nビット精度で量子化する際に取り得る量子化代表値のうち前記特定の量子化代表値に量子化される場合には、前記差分値を、前記nビット精度で量子化する際に取り得る量子化代表値のうち前記特定の量子化代表値以外の量子化代表値に割り当てる請求項3に記載の画像符号化方法。
  6. 前記対象画素として、前記特定の画素値を除く画素値を有する画素を選択する請求項3に記載の画像符号化方法。
  7. 前記画素列は、少なくとも2種類の色の画素が配列され
    前記差分値を算出する際、前記対象画素の画素値と、前記対象画素に対して同色である前記対象画素の近傍に位置する画素の画素値とを用いて差分値を算出する請求項3に記載の画像符号化方法。
  8. 前記画素列は、少なくとも2種類の色の画素が配列され
    前記差分値を算出する際、前記対象画素の画素値と、前記対象画素に対して互いに異なる色である前記対象画素の近傍に位置する画素の画素値とを用いて差分値を算出する請求項3に記載の画像符号化方法。
  9. 前記nビット精度で量子化して得られる画素データ列を、メモリのアクセスビット幅の倍数でパッキングする請求項3に記載の画像符号化方法。
  10. 複数の画素が配列された画素列における各画素の画素値であってmビット精度で量子化された画素値を、前記mビット精度よりも荒いnビット精度で量子化された画素値に符号化する画像符号化装置であって、
    前記符号化の対象である対象画素の画素値が特定の画素値であるか否かを判別する特定画素値判別部と、
    前記判別の結果、前記対象画素の画素値が前記特定の画素値である場合には、前記対象画素の画素値を前記nビット精度で量子化する際に取り得る量子化代表値のうち特定の量子化代表値に割り当て、前記対象画素の画素値が前記特定の画素値以外の場合には、前記対象画素の画素値を前記nビット精度で量子化する際に取り得る量子化代表値のうち前記特定の量子化代表値を除く量子化代表値の中からいずれか1つに割り当てて符号化する符号化部と、
    前記符号化部における符号化に先立って、前記対象画素の画素値が前記特定の画素値以外である画素値に対して、所定のオフセット値を加算する加算部と、
    を備えることを特徴とする画像符号化装置。
  11. 複数の画素が配列された画素列における各画素の画素値であってmビット精度で量子化された画素値を、前記mビット精度よりも荒いnビット精度で量子化された画素値に符号化する画像符号化装置であって、
    前記符号化の対象である対象画素の画素値と、前記対象画素の近傍に位置する画素の画素値との差分値を算出する差分値算出部と、
    前記差分値の大きさおよび、前記nビット精度で量子化する際に取り得る量子化代表値の範囲に基づいて、前記差分値を前記nビット精度で量子化する際の量子化幅を設定する量子化幅設定部と、
    前記対象画素の近傍に位置する画素の画素値が特定の画素値であるか否かを判別する特定画素値判別部と、
    前記対象画素の近傍に位置する画素の画素値が前記特定の画素値である場合、前記差分値を前記nビット精度で量子化する際に取り得る量子化代表値のうち特定の量子化代表値に量子化し、一方、前記対象画素の近傍に位置する画素の画素値が前記特定の画素値以外の場合、前記差分値を設定された前記量子化幅で、前記nビット精度で量子化する際に取り得る量子化代表値であって前記特定の量子化代表値を除く量子化代表値の中からいずれか1つに量子化する符号化部と、
    を備える画像符号化装置。
  12. 画素間の差分値がnビット精度で量子化された画素データ列から、mビット精度で量子化された画素データ列を得る画像復号化方法であって、
    符号化された画素データ列をデパッキング
    復号化の対象である対象画素の画素値として、nビット精度で量子化された前記対象画素の画素値を取得し
    前記対象画素の画素値と前記対象画素の近傍に位置する画素の画素値との差分値として、前記nビット精度で量子化された差分値を取得し、
    前記nビット精度で量子化された前記差分値が前記nビット精度で量子化する際に取り得る量子化代表値のうち特定の量子化代表値であるか否かを判断
    前記対象画素の画素値として、前記nビット精度で量子化された前記対象画素の画素値を前記mビット精度の量子化代表値に復号すると共に、前記判断の結果、前記nビット精度で量子化された前記差分値が前記特定の量子化代表値でない場合、前記nビット精度で量子化された前記差分値を前記mビット精度の差分値に復号し、復号した前記mビット精度の差分値を前記mビット精度の前記対象画素の画素値に加算することで、前記対象画素の近傍に位置する画素の画素値として、前記mビット精度で量子化された画素値に復号化し、一方、前記nビット精度で量子化された前記差分値が前記特定の量子化代表値である場合、前記対象画素の近傍の画素の画素値として、前記mビット精度で量子化された特定の画素値を割り当てる、画像復号化方法。
  13. 画素間の差分値がnビット精度で量子化された画素データ列から、mビット精度で量子化された画素データ列を得る画像復号化装置であって、
    符号化された画素データ列をデパッキングするデパッキング部と、
    復号化の対象である対象画素の画素値として、nビット精度で量子化された前記対象画素の画素値を取得すると共に、前記対象画素の画素値と前記対象画素の近傍に位置する画素の画素値との差分値として、前記nビット精度で量子化された差分値を取得する符号値抽出部と、
    前記nビット精度で量子化された前記差分値が前記nビット精度で量子化する際に取り得る量子化代表値のうち特定の量子化代表値であるか否かを判断する特定画素値判別部と、
    前記対象画素の画素値として、前記nビット精度で量子化された前記対象画素の画素値を前記mビット精度の量子化代表値に復号すると共に、前記判断の結果、前記nビット精度で量子化された前記差分値が前記特定の量子化代表値でない場合、前記nビット精度の前記差分値を前記mビット精度の差分値に復号し、復号した前記mビット精度の前記差分値を前記mビット精度の前記対象画素の画素値に加算することで、前記対象画素の近傍に位置する画素の画素値として、前記mビット精度で量子化された画素値に復号化し、一方、前記nビット精度で量子化された前記差分値が前記特定の量子化代表値である場合、前記対象画素の近傍の画素の画素値として、前記mビット精度で量子化された特定の画素値を割り当てる復号化部と、
    を備えた画像復号化装置。
JP2005294470A 2005-10-07 2005-10-07 画像符号化方法及び装置、画像復号化方法及び装置、撮像装置 Expired - Fee Related JP4895567B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2005294470A JP4895567B2 (ja) 2005-10-07 2005-10-07 画像符号化方法及び装置、画像復号化方法及び装置、撮像装置
EP06810773A EP1936957A4 (en) 2005-10-07 2006-09-28 IMAGE ENCODING METHOD AND DEVICE, IMAGE DECODING METHOD AND DEVICE, AND IMAGING DEVICE
PCT/JP2006/319326 WO2007043351A1 (ja) 2005-10-07 2006-09-28 画像符号化方法及び装置、画像復号化方法及び装置、撮像装置
CN2006800372883A CN101283580B (zh) 2005-10-07 2006-09-28 图像编码方法和装置、图像解码方法和装置、摄像装置
US12/089,532 US8224103B2 (en) 2005-10-07 2006-09-28 Image encoding method and device, image decoding method and device, and imaging device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005294470A JP4895567B2 (ja) 2005-10-07 2005-10-07 画像符号化方法及び装置、画像復号化方法及び装置、撮像装置

Publications (2)

Publication Number Publication Date
JP2007104525A JP2007104525A (ja) 2007-04-19
JP4895567B2 true JP4895567B2 (ja) 2012-03-14

Family

ID=37942599

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005294470A Expired - Fee Related JP4895567B2 (ja) 2005-10-07 2005-10-07 画像符号化方法及び装置、画像復号化方法及び装置、撮像装置

Country Status (5)

Country Link
US (1) US8224103B2 (ja)
EP (1) EP1936957A4 (ja)
JP (1) JP4895567B2 (ja)
CN (1) CN101283580B (ja)
WO (1) WO2007043351A1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011049901A (ja) * 2009-08-27 2011-03-10 Panasonic Corp 固体撮像装置、撮像装置
JP2011066724A (ja) * 2009-09-17 2011-03-31 Panasonic Corp 固体撮像装置
US8428381B2 (en) * 2010-06-04 2013-04-23 Altek Corporation Image compression method with variable quantization parameter
JP5529685B2 (ja) 2010-09-03 2014-06-25 パナソニック株式会社 画像符号化方法、画像復号化方法、画像符号化装置及び画像復号化装置
JP5867806B2 (ja) * 2011-09-16 2016-02-24 株式会社リコー 撮像装置及びこれを用いた物体識別装置
JP6556022B2 (ja) * 2015-10-30 2019-08-07 キヤノン株式会社 画像処理装置および画像処理方法
JP7242235B2 (ja) * 2018-10-03 2023-03-20 キヤノン株式会社 画像処理装置および画像処理方法
GB2586516B (en) * 2019-08-23 2022-07-06 Imagination Tech Ltd Random accessible image data compression

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US39143A (en) * 1863-07-07 Improved hame-tug
JPH06153087A (ja) * 1992-09-17 1994-05-31 Sony Corp 画素欠陥補正方法
US5416857A (en) * 1992-10-21 1995-05-16 International Business Machines Corporation Apparatus and method for compressing data while retaining image integrity
JPH11103413A (ja) * 1997-09-26 1999-04-13 Kawasaki Steel Corp 画像補正装置
JPH11341288A (ja) 1998-05-26 1999-12-10 Hitachi Ltd ディジタル映像システム
US6625318B1 (en) * 1998-11-13 2003-09-23 Yap-Peng Tan Robust sequential approach in detecting defective pixels within an image sensor
JP2000244935A (ja) 1998-12-21 2000-09-08 Nikon Corp 画像データ圧縮方法
US6744929B1 (en) * 1999-11-18 2004-06-01 Nikon Corporation Image data compression method image data compression apparatus and recording medium and data signal for providing image data compression program
JP2002111989A (ja) 2000-10-02 2002-04-12 Mega Chips Corp 画像処理回路
JP4385787B2 (ja) * 2004-02-20 2009-12-16 ソニー株式会社 撮像装置および方法、記録媒体、並びにプログラム

Also Published As

Publication number Publication date
EP1936957A4 (en) 2012-05-16
CN101283580B (zh) 2011-08-03
US20090244307A1 (en) 2009-10-01
CN101283580A (zh) 2008-10-08
JP2007104525A (ja) 2007-04-19
US8224103B2 (en) 2012-07-17
WO2007043351A1 (ja) 2007-04-19
EP1936957A1 (en) 2008-06-25

Similar Documents

Publication Publication Date Title
JP4895567B2 (ja) 画像符号化方法及び装置、画像復号化方法及び装置、撮像装置
JP4337911B2 (ja) 撮像装置、撮像回路、および撮像方法
USRE43256E1 (en) Processing of images using a limited number of bits
JP4769039B2 (ja) デジタル信号符号化および復号化装置ならびにその方法
JP4508132B2 (ja) 撮像装置、撮像回路、および撮像方法
TWI466454B (zh) Image coding apparatus, image coding method
US20090067734A1 (en) Methods and apparatuses for encoding and decoding an image
JPS6226633B2 (ja)
JP5530198B2 (ja) 画像符号化方法、復号化方法、装置
US9413999B2 (en) CMOS image sensor implementing correlated double sampling with compression
US20160119570A1 (en) Cmos image sensor and imaging method implementing correlated double sampling and compression
US20110200263A1 (en) Image encoder and image decoder
JP2005323326A (ja) 画像符号化装置及び復号装置及びそれらの制御方法、並びにコンピュータプログラム及びコンピュータ可読記憶媒体
US8823832B2 (en) Imaging apparatus
JPH1118089A (ja) 画像データ圧縮装置
US10887616B2 (en) Image processing devices having enhanced frame buffer compressors therein
JP2000244922A (ja) 画像データ圧縮方法
JP4092830B2 (ja) 画像データ圧縮方法
JP2009038740A (ja) 画像符号化装置
JP4729913B2 (ja) 画像処理装置及び方法
TW201941615A (zh) 影像處理裝置及操作影像處理裝置之方法
JP7444541B2 (ja) 画像符号化装置、画像復号化装置、撮像装置、画像符号化方法、画像復号化方法、及びプログラム
US20220201060A1 (en) Image processing device and method for operating image processing device
JP4262144B2 (ja) 画像符号化装置及び方法
JP2005086226A (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080827

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110329

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110526

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111213

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111220

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150106

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees