JP4470485B2 - 固定ビット長の予測差分圧縮データを生成する画像圧縮装置および画像圧縮プログラム、画像伸張装置および画像伸張プログラム、並びに電子カメラ - Google Patents

固定ビット長の予測差分圧縮データを生成する画像圧縮装置および画像圧縮プログラム、画像伸張装置および画像伸張プログラム、並びに電子カメラ Download PDF

Info

Publication number
JP4470485B2
JP4470485B2 JP2003430926A JP2003430926A JP4470485B2 JP 4470485 B2 JP4470485 B2 JP 4470485B2 JP 2003430926 A JP2003430926 A JP 2003430926A JP 2003430926 A JP2003430926 A JP 2003430926A JP 4470485 B2 JP4470485 B2 JP 4470485B2
Authority
JP
Japan
Prior art keywords
image
compression
difference
unit
bit length
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2003430926A
Other languages
English (en)
Other versions
JP2005191939A (ja
Inventor
貞実 岡田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2003430926A priority Critical patent/JP4470485B2/ja
Priority to US11/003,372 priority patent/US7421132B2/en
Publication of JP2005191939A publication Critical patent/JP2005191939A/ja
Application granted granted Critical
Publication of JP4470485B2 publication Critical patent/JP4470485B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/137Motion inside a coding unit, e.g. average field, frame or block difference
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • H04N19/152Data rate or code amount at the encoder output by measuring the fullness of the transmission buffer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/182Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a pixel
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2101/00Still video cameras

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Image Processing (AREA)
  • Compression Of Band Width Or Redundancy In Fax (AREA)

Description

本発明は、予測差分の1画素当たりのビット長を固定ビット長に調整した圧縮データを生成する画像圧縮装置および画像圧縮プログラムに関する。
また、本発明は、上記の圧縮データを画像伸張する画像伸張装置および画像伸張プログラムに関する。
さらに、上記の画像圧縮装置を搭載した電子カメラに関する。
《電子カメラの背景技術》
従来の電子カメラでは、連写撮影されるRAWデータを、非圧縮のままバッファメモリに蓄積するものが知られている。このバッファメモリにより、個々のRAWデータに対する画像処理や記録処理をリアルタイムに実施する必要がなくなり、電子カメラの連写間隔を、撮像素子の画像読み出し時間まで短縮することが可能になる。
ただし、このような連写途中においてバッファメモリがRAWデータで一杯になると、連写動作は極端に遅くなる。その結果、短い連写間隔で撮影可能なコマ数(以下『高速連写コマ数』という)には限界がある。通常、この高速連写コマ数は、バッファメモリに格納可能なRAWデータのコマ数に依存する。
《画像の圧縮伸張関連の背景技術》
一方、RAWデータに関する一般的なデータ圧縮技術としては、RAWデータの予測差分を可変長符号化する技術が知られている(特許文献1の段落0003など)。
特開2003−224868公報
上述した電子カメラは、非圧縮のRAWデータをバッファメモリに記録する。この場合、非圧縮のRAWデータのデータ容量は常に一定であり、その結果、上述した高速連写コマ数は常に一定となる。
しかしながら、一般的なRAWデータは多階調に量子化(例えば12ビット量子化)されているため、1コマ当たりのデータ量が大きい。そのため、限られたデータ容量のバッファメモリを使用しつつ、高速連写コマ数を増やすことは困難であった。
このような問題を解決するため、RAWデータを画像圧縮した上で、バッファメモリに格納する方策が考えられる。このようなRAWデータの画像圧縮には、上述した可変長符号化を基調とする従来の圧縮技術が使用可能である。
しかしながら、この可変長符号化では、圧縮後のデータ容量は必ずしも一定にならない。特に、可変長符号の割り当てがRAWデータにとって不適切であった場合、圧縮データ容量が予想外に大きくなってしまう場合もある。この場合、早い時点で高速連写を中断しなければならず、ユーザーにとって貴重なシャッタチャンスを逃してしまうなどの問題が生じる。
このように、RAWデータを可変長符号化していたのでは、高速連写コマ数の最低値を確実に保証することが不可能であった。
そこで、本発明者は、1画素当たりのビット長を固定する固定ビット長の圧縮技術について検討した。
一般に、この固定ビット長の符号化では、1画素当たりのビット長が固定されるため、圧縮効率を十分に高めることが難しい。無理に圧縮効率を高めれば、圧縮に伴う画質劣化が大きくなってしまう。
本発明は、このような問題点に鑑みて、画質劣化が少ない固定ビット長の画像圧縮技術を提供することを目的とする。
《請求項1》
請求項1の画像圧縮装置は、差分演算部、および差分再量子化部を備える。
この差分演算部は、画像データの画素値と、既知データから予測する前記画素値の計算値である予測値との予測差分を算出する。
差分再量子化部は、予測差分の大きさが予め定められた閾値を超えると、量子化ステップを粗くして予測差分を再量子化することによって差分値コードのビット長を所定幅内に抑えるまた、前記差分値コードのビット長との和が一定になるように、予め定めたビット長の可変長コードを割り当てることで、前記差分値コードのビット長と前記可変長コードのビット長との和である前記予測差分の1画素当たりのビット長が固定ビット長に調整された圧縮データを生成する。
《請求項2》
請求項2の発明は、請求項1に記載の画像圧縮装置において、差分再量子化部が、予測差分が大きい箇所ほど人間の目は正確な信号レベルを感知しにくいという視覚特性に似せて、予測差分が大きいほど量子化ステップを段階的または連続的に粗く変更する。この再量子化により、差分再量子化部は、予測差分の1画素当たりのビット長を固定ビット長にする。
《請求項3》
請求項3の発明は、請求項1または請求項2に記載の画像圧縮装置において、階調圧縮部を備える。
この階調圧縮部は、画像データの画素値を階調圧縮して階調数を低減する。
一方、差分演算部は、階調圧縮部により階調圧縮された画素値について予測差分を算出する。このように『画素値の階調圧縮』と『予測差分の再量子化』との少なくとも2段階を経て、予測差分の1画素当たりのビット長を固定ビット長に調整する。その結果、どちらか1段階のみよりも画質劣化を抑制する。
《請求項4》
請求項4の発明は、請求項1ないし請求項3のいずれか1項に記載の画像圧縮装置において、可変長符号化部、および圧縮制御部を備える。
可変長符号化部は、差分演算部により算出される予測差分を、予め定められた可変長符号割り当てに従って可変長符号化する。
圧縮制御部は、可変長符号化部を用いて画像データの画像圧縮を実施して圧縮データ量の推移を監視する。このとき、圧縮データ量が予め定められた監視データ量を超えると判断すると、圧縮制御部は、差分再量子化部を用いた固定ビット長の画像圧縮に切り換える。
このような圧縮制御部による圧縮方式の途中切り換えにより、画像データの圧縮データ量が所定の限界データ量を超えないようにすることを特徴とする。
《請求項5》
請求項5の電子カメラは、画像圧縮装置、撮像部、およびバッファメモリを備える。
この画像圧縮装置は、請求項1ないし請求項4のいずれか1項に記載の画像圧縮装置である。
撮像部は、被写体を連写してRAWデータを順次出力する機能を有する。
バッファメモリは、データを一時蓄積する。
この画像圧縮装置は、撮像部が順次出力するRAWデータから、圧縮データ量の上限を制限した圧縮データを生成して前記バッファメモリに順次蓄積する。このような画像圧縮動作によって、バッファメモリに格納可能な連写コマ数の最低値を保証する。
《請求項6》
請求項6の画像伸張装置は、請求項1または請求項3に記載の画像圧縮装置で生成される圧縮データを伸張する画像伸張装置であって、差分逆量子化部、および加算演算部を備える。
この差分逆量子化部は、圧縮データから固定ビット長ごとに量子化後の予測差分を抽出し、画像圧縮時の量子化ステップに従って逆量子化を行って、予測差分の値を復元する。
加算演算部は、差分逆量子化部から得た予測差分に予測値を加算して画像データを生成する。
《請求項7》
請求項7の画像伸張装置は、請求項4に記載の画像圧縮装置で生成される圧縮データを伸張する画像伸張装置であって、可変長復号化部、差分逆量子化部、伸張制御部、および加算演算部を備える。
この可変長復号化部は、可変長符号割り当てに従って、圧縮データの可変長符号をデコードして、予測差分に復元する。
差分逆量子化部は、圧縮データから固定ビット長ごとに量子化後の予測差分を抽出して、圧縮時の量子化ステップに従って逆量子化を行い、予測差分の値を復元する。
伸張制御部は、可変長復号化部を用いて圧縮データから予測差分を復元し、圧縮データ量が監視データ量を超えると判断すると、差分逆量子化部を用いて圧縮データから予測差分を復元する。
加算演算部は、伸張制御部により得た予測差分に予測値を加算して画像データを生成する。
《請求項8》
請求項8の画像圧縮プログラムは、コンピュータを、請求項1ないし請求項4のいずれか1項に記載の画像圧縮装置として機能させるためのプログラムである。
《請求項9》
請求項9の画像伸張プログラムは、コンピュータを、請求項6ないし請求項7のいずれか1項に記載の画像伸張装置として機能させるためのプログラムである。
本発明では、画像データの予測差分の大きさが閾値を超えると、量子化ステップの刻みを粗くする。このような動作により、予測差分の値を抑えてビットレンジを所定幅内に制限することができる。
その結果、予測差分の1画素当たりのビット長を比較的小さな固定ビット長に揃えて、画像全体のデータ量を圧縮することが可能になる。
なお、画素値と予測値とは、通常は近い値となるため、大部分の予測差分はゼロに近い値をとる。したがって、これら大部分の予測差分については、量子化ステップの刻みが粗くならず、量子化誤差による画質劣化は殆ど生じない。
なお、残りの領域については、量子化ステップの刻みが粗くなるため、量子化誤差が生じる。しかしながら、このような領域は僅かであるため、量子化誤差による画質劣化は画面全体のごく一部に止まり、総体的には目立ちにくい。
さらに、このような量子化誤差の発生箇所は、画像の信号レベルが大きく変化していることが多い。したがって、信号レベルの大きな変化に量子化誤差が重畳している形となり、人間の目に量子化誤差は感知されにくい。
このような理由から、本発明によって、画質劣化が少ない固定ビット長の画像圧縮が実現可能になる。
《電子カメラの全体構成の説明》
図1は、本実施形態の電子カメラ11の構成を示す図である。
この図1において、電子カメラ11は、撮像部12を備える。この撮像部12は、通常撮影の機能の他に、被写体を連写してRAWデータを順次出力する機能を有する。このように順次出力されるRAWデータは、画像圧縮装置13によってほぼリアルタイムに画像圧縮され、バッファメモリ14に圧縮データとして順次蓄積される。
画像伸張装置15は、後段の記録部19の進捗に合わせて、バッファメモリ14から圧縮データを適時に読み出して画像伸張し、RAWデータを復元する。復元されたRAWデータは、色変換部17およびJPEG圧縮部18などを経由して、JPEG圧縮ファイルに変換される。このJPEG圧縮ファイルは、記録部19によって、メモリカード20に記録保存される。
なお、記録部19は、バッファメモリ14内の圧縮データにファイルヘッダやマーカーコードなどを付加してRAW圧縮ファイルを生成し、メモリカード20に記録保存することもできる。
《画像圧縮装置13の構成説明》
このような構成において、画像圧縮装置13は下記の機能ブロックを備える。
(1)階調圧縮部31・・RAWデータを画素単位に階調圧縮して、階調数を低減する。(2)差分演算部32・・画素値とその予測値との差分を取って、予測差分を求める。この予測値としては、画素値の近傍の既知データから計算することが好ましい。また、簡単な予測値としては、画像伸張時に先に処理される近傍画素の値をそのまま予測値にしてもよい。
(3)可変長符号化部33・・予測差分を可変長符号化する。
(4)差分再量子化部34・・予測差分を複数のカテゴリに分類し、カテゴリごとの量子化ステップに従って予測差分を再量子化する。この再量子化によって予測差分のビットレンジを削減し、再量子化後の予測差分(すなわち圧縮コード)を小さな固定ビット長に揃える。
(5)圧縮制御部35・・作成される圧縮データ量の監視機能と、可変長符号化部33および差分再量子化部34の動作切り換えを制御する機能とを有する。
《画像伸張装置15の構成説明》
一方、画像伸張装置15は、下記の機能ブロックを備える。
[1]伸張制御部41・・圧縮データの処理量の監視機能と、可変長復号化部42および差分逆量子化部43の動作切り換えを制御する機能とを有する。
[2]可変長復号化部42・・圧縮データ中から可変長符号を切り出してデコードし、予測差分を復元する。
[3]差分逆量子化部43・・圧縮データ中から固定ビット長の圧縮コードを切り出し、差分再量子化部34が使用した量子化ステップに従って逆量子化を実施し、予測差分を復元する。
[4]加算演算部44・・伸張済みの既知データから作成される予測値と、復元された予測差分とを加算して、RAWデータの画素値を復元する。
《固定ビット長方式の圧縮動作説明》
ユーザーは、電子カメラ11のカスタム設定を用いて、RAWデータの圧縮方式を適宜に選択することができる。
図2は、これら圧縮方式の一つであり、固定ビット長方式のRAWデータ圧縮の動作手順を示す流れ図である。以下、この図2に示すステップ番号に沿って、この固定ビット長方式の圧縮処理を説明する。
[ステップS1] 撮像部12は、12ビットに直線量子化されたRAWデータを出力する。画像圧縮装置13は、このRAWデータをライン単位に読み込む。
[ステップS2] 階調圧縮部31は、読み込まれたRAWデータの画素単位に、図3に示す特性の階調圧縮を施す。この階調圧縮では、4096階調のRAWデータを682階調まで削減することに成功している。
特に、この階調圧縮では、人間にとって視覚感度の低い階調域を中心に、階調圧縮を行っているため、極めて画質劣化が少ない。
また、この階調圧縮では、暗部側の階調域で線形の階調変換を実施している。そのため、暗部側において不自然な階調飛びが生じず、陰影や髪の毛などの階調感を自然かつ豊かに残すことに成功している。さらに、中間から明部側の階調域において徐々に階調圧縮を強めることにより、これら階調域に含まれるレベル依存性ノイズ(例えばショットノイズ)をほぼ均等化することに成功している。
[ステップS3] 先行して圧縮される同色画素(ベイヤー配列のRAWデータであれば、2画素左に位置する画素)に基づいて、処理対象画素の予測値を求める。なお、差分演算部32が、処理対象画素の周囲が低彩度であることを判別した場合、同色画素に限らず、先行する異色画素から処理対象画素の予測値を求めてもよい。
このような予測演算としては、先行する画素値の中から最も近い値を予測値として使ってもよいし、複数の近傍画素の補間演算や外延演算などにより予測値を求めてもよい。
さらに画像伸張時の予測値と計算条件を揃えるため、近傍画素の圧縮データを一旦伸張して得た近傍画素値から予測値を求めてもよい。本実施形態はこの方式であり、先行画素の圧縮処理(後述するステップS6)において先に求めておいた復元画素値を使用して、予測値を求める。このような予測値の使用によって、本実施形態では、画像伸張時に誤差が累積するという弊害を防止できる。
差分演算部32は、処理対象画素の画素値から上記の予測値を減算することにより、予測差分Sを求める。
なお、1画素目や定期的な画素位置については、予測差分ではなく、画素値を圧縮コードに格納することが好ましい。
[ステップS4] 差分再量子化部34は、図4に示す再量子化テーブルに基づいて、上記の予測差分の大きさ|S|を閾値判別し、予測差分を11段階のカテゴリに分類する。
[ステップS5] 続いて、差分再量子化部34は、カテゴリ毎に予め定められた量子化ステップの刻みで予測差分を再量子化する。
なお、予測差分の大きな箇所における人間の目の視覚感度を、画質の主観テストなどにより予め求め、この視覚感度の許容幅に似せて量子化ステップの粗さを予め設定しておくことが好ましい。
このような量子化ステップを段階的(もっと段数を増すことによって連続的)に増加させることにより、再量子化の結果である差分値コードのビットレンジは、図4に示すように5〜6ビット程度に抑えられる。この差分値コードは、圧縮コードの下位ビットとなる。
なお、図10は、図4の再量子化特性を特性カーブとして示したものである。
[ステップS6] ここで、圧縮制御部35は、再量子化後の予測差分を逆量子化し、予測値を加算して、画素値を一旦復元する。このように復元された画素値は、後続画素の予測値演算に使用するため、差分演算部32に一時記憶される。
ちなみに、図4に示す量子化誤差値は、この復元された画素値に含まれ得る最大の誤差値を、図3に示す階調変換カーブで逆算して、フルレンジ4096の値として示したものである。
[ステップS7] 次に、差分再量子化部34は、予測差分の分類されたカテゴリを識別できるように、カテゴリコードを生成する。このカテゴリコードは圧縮コードの上位ビットに該当する。
このカテゴリコードは、差分値コードのビット長と組み合わせて固定ビット長(ここでは8ビット)になるように、予め可変長コードが割り当てられている。
上述したカテゴリコードと差分値コードとを上位下位ビットとして組み合わせることにより、固定ビット長の圧縮コードが生成される。このように生成される圧縮コードは、圧縮制御部35によって、バッファメモリ14に逐次書き込まれる。
[ステップS8] 圧縮制御部35は、順次出力されるRAWデータの画像圧縮を完了するまで、ステップS1に動作を戻して固定ビット長方式の画像圧縮を継続する。
なお、圧縮制御部35は、バッファメモリ14の空き容量を監視し、その空き容量が次コマ分の圧縮データ量(≒固定ビット長×画素数)に不足すると、撮像部12の連写動作を中断させてもよい。
以上の動作により、画像圧縮装置13は、撮像部12が順次出力するRAWデータから、1画素当たり固定ビット長の圧縮データをほぼリアルタイムに生成することができる。
《固定ビット長方式の伸張動作説明》
図5は、固定ビット長方式の伸張動作を説明する流れ図である。以下、この図5に示すステップ番号に沿って、この固定ビット長方式の伸張動作を説明する。
[ステップS11] 伸張制御部41は、後段の記録部19の進捗に合わせて、バッファメモリ14から、1ライン分の圧縮データ(≒固定ビット長×1ライン分の画素数)を読み出す。
[ステップS12] 差分逆量子化部43は、カテゴリコードの可変符号割り当てルールに従って圧縮データ中の圧縮コードを上位下位ビットに分離し、カテゴリコードおよび差分値コードを得る。
[ステップS13] 差分逆量子化部43は、カテゴリコードが示すカテゴリの量子化ステップを用いて差分値ビットを逆量子化し、そのカテゴリ内における予測差分の値を復元する。
[ステップS14] 加算演算部44は、先行して伸張済みの近傍画素値に基づいて、処理対象画素の予測値を計算する。
加算演算部44は、復元した予測差分と、この予測値とを加算することにより、階調圧縮済みの画素値を復元する。
[ステップS15] 階調変換部45は、復元された画素値に階調変換を施す。例えば、後段の画像処理において12ビットRAWデータが必要であれば、682階調を12ビット階調に振り分ける階調変換を実施すればよい。また、後段の画像処理が8ビット階調あれば十分な場合は、682階調を8ビット階調に当てはめる階調変換を実施すればよい。
[ステップS16] 伸張制御部41は、バッファメモリ14内の圧縮データが空になるまで、ステップS11に動作を戻して画像伸張動作を継続する。
このような繰り返し動作によってバッファメモリ14内の圧縮データが空になると、伸張制御部41は画像伸張動作を完了する。
以上の動作により、画像伸張装置15は、バッファメモリ14に詰め込まれた圧縮データを適時に画像伸張し、後段の画像処理に遅滞なく提供することが可能になる。
《途中切り換え方式の圧縮動作説明》
次に、可変長符号化方式と固定ビット長方式とを画面途中で切り換え可能にする方式(『途中切り換え方式』という)について説明する。
図6は、途中切り換え方式の圧縮動作について説明する流れ図である。
[ステップS21〜S23] 上述したステップS1〜S3と同様の動作。
[ステップS24] 可変長符号化部33は、ステップS23で求めた予測差分を、予め定められた可変長符号割り当てに従って符号化し、可変長の圧縮コードを生成する。
このように生成された圧縮コードは、圧縮制御部35によって、バッファメモリ14に逐次書き込まれる。
[ステップS25] 圧縮制御部35は、可変長の圧縮コードのビット長を累積し、現時点における圧縮データ量を求める。次に、圧縮制御部35は、現時点の圧縮データ量から、圧縮データ量が監視データ量を超えるか否かを推定判断する。この場合、現時点の圧縮データ量から圧縮ビットレートを平均計算で算出し、この圧縮ビットレートの大小から監視データ量を超えるか否かを推定判断してもよい。また例えば、現時点の圧縮データ量を閾値判別することで、圧縮データ量が監視データ量を超えるか否かを推定判断してもよい。
もし、圧縮データ量が監視データ量を超えると判断された場合、圧縮制御部35は、ステップS27に動作を移行する。(ここではライン単位に圧縮方式の分岐判断を行っているが、画素単位に圧縮方式の分岐判断を行ってもよい。)
一方、圧縮データ量が監視データ量を超えないと判断すると、圧縮制御部35は、ステップS26に動作を移行する。
[ステップS26] 圧縮制御部35は、RAWデータの画像圧縮が完了するまで、ステップS21に動作を戻し、可変長符号方式の画像圧縮を継続する。
[ステップS27〜S34] 上述したステップS1〜S8と同じため、詳しい説明は省略する。このステップS27に動作が移ることにより、RAWデータの圧縮方式が、可変長符号方式から固定ビット長方式へと切り換わる。
《途中切り換え方式の伸張動作説明》
次に、図7に示す途中切り換え方式の伸張動作について説明する。
[ステップS41] 伸張制御部41は、後段の記録部19の進捗に合わせて、バッファメモリ14から、1ライン分の圧縮データを読み出す。このとき読み出される圧縮データは可変長符号であるため、圧縮時の可変長符号割り当てに従って圧縮コード列を区分しながら1ライン分読み出すことになる。
[ステップS42] 可変長復号化部42は、可変長符号割り当てに従って圧縮コードをデコードし、予測差分の値を復元する。
[ステップS43] 加算演算部44は、先行して伸張済みの近傍画素値に基づいて、処理対象画素の予測値を計算する。
加算演算部44は、復元した予測差分と、この予測値とを加算することにより、階調圧縮後の画素値を復元する。
[ステップS44]
階調変換部45は、復元された画素値を階調変換する。
[ステップS45] 伸張制御部41は、バッファメモリ14から読み出した圧縮データ量を監視する。伸張制御部41は、この現時点の圧縮データ量から、圧縮データ量が監視データ量を超えるか否かを推定判断する。
もし圧縮データ量が監視データ量を超えると判断すると、伸張制御部41はステップS47に動作を移行する。(ここではライン単位に伸張方式の分岐判断を行っている。しかし、もしも圧縮時に画素単位に圧縮方式の分岐判断をしている場合には、画素単位に伸張方式の分岐判断を行えばよい。)
一方、圧縮データ量が監視データ量を超えないと判断すると、圧縮制御部35は、ステップS46に動作を移行する。
[ステップS46] 伸張制御部41は、バッファメモリ14内の圧縮データが空になるまで、ステップS41に動作を戻し、画像伸張を繰り返す。
一方、伸張制御部41は、バッファメモリ14内の圧縮データが空になった時点で伸張動作を終了する。
[ステップS47〜S52] 上述したステップS11〜S16と同じため、詳しい説明は省略する。このステップS47に動作を移すことにより、RAWデータの伸張方式が、可変長符号方式から固定ビット長方式へと切り換わる。
以上の動作により、圧縮方式の切り換え箇所をステップS45で検出し、伸張方式を適切に切り換えることに成功している。
《本実施形態の効果など》
以上説明したように、本実施形態では、予測差分の大きさ|S|が大きくなるに従って、量子化ステップの刻みを粗くする。このような動作により、予測差分のビットレンジを適度に抑え、予測差分の圧縮コードを比較的小さな固定ビット長に揃えることができる。
このように圧縮コードを固定ビット長に揃えることにより、可変長符号化方式のように圧縮データ量が予想外に増えることがなくなる。その結果、バッファメモリ14内に多くの圧縮RAWデータを確実に格納できるようになり、高速連写コマ数を確実に増大させることが可能になる。
さらに、このように圧縮コードを固定ビット長に揃えることによって、バッファメモリ14内での圧縮データのアドレス管理が格段に容易になる。例えば、バッファメモリ14内の圧縮データから部分画像を読み出す際のアドレス管理が極めて容易になる。この場合、バッファメモリ14内の圧縮データに対する電子ズームやトリミング処理が高速かつ簡易になる。
さらに、圧縮コードが固定ビット長であるため、バッファメモリ14内の圧縮データを間引きや平均化して画素数を低減する際のアドレス管理も極めて容易になる。したがって、バッファメモリ14内の圧縮データの画素数を低減してクイックビュー用途などの縮小画像を生成する処理が高速かつ簡易になる。
さらに、画像圧縮装置13および画像伸張装置15では、比較的小さな固定ビット長の圧縮コードを一律に扱えばよい。そのため、画像圧縮装置13や画像伸張装置15では、パイプライン処理化が容易になり、画像圧縮および画像伸張を格段に高速化することが可能となる。
その上、画像圧縮装置13および画像伸張装置15は、内部の演算レジスタが固定ビット長で済むため、ハードウェア構成を効率的に単純化することができる。
このように、RAWデータを固定ビット長にして、バッファメモリ14に蓄積することにより、可変長符号化によるRAW圧縮では到底困難である多彩なバッファメモリ関連機能を、容易に実現することが可能になる。その結果、電子カメラ11の多機能化などの可能性を大きく拡大できる。
さらに、この固定ビット長方式では、RAWデータの圧縮において特に重要とされる高画質圧縮という長所も有する。
すなわち、一般的に予測差分はゼロ付近に値が集中するため、殆どの予測差分に対しては量子化ステップが粗くならず、量子化誤差は無視できる。さらに、予測差分が大きい箇所は、画素値が大きく変化している確率が高い。そのような箇所では、量子化誤差が重畳しても画素値の大きな変化に隠れて殆ど目立たない。
また、本実施形態では、『画素値の階調圧縮』および『予測差分の再量子化』の2段階を経て圧縮コードを生成している。したがって、いずれか1段階のみでいきなりビット長を圧縮するよりも画質劣化は生じにくい。さらに、この2段階の処理における画質劣化は現れ方が異なるため、画質劣化を分散するという効果がある。このような効果によっても画質劣化は目立ちにくくなる。
一方、図6に示す途中切り換え方式の圧縮処理では、まず可変長符号化を実施し、圧縮データ量が予想外に大きくなると、途中から固定ビット長方式に切り換える。この場合、固定ビット長方式では圧縮ビットレートが一定であるため、そのまま圧縮データ量が過大に増えることがなくなり、最終的な圧縮データ量を所定の限界データ量以下に抑えることが可能になる。
その結果、バッファメモリ14に格納可能な連写コマ数の最低値を保証することが可能になる。したがって、高速連写コマ数の最低値が保証可能な電子カメラ11を実現できる。
《実施形態の補足事項》
上述した実施形態では、ハードウェアによって画像圧縮装置13および画像伸張装置15を実現するケースについて主に説明した。しかしながら、本発明はこれに限定されるものではない。例えば画像圧縮装置13や画像伸張装置15をマイクロプロセッサなどのソフトウェア動作によって実現してもよい。
また例えば、図2や図6の動作をコンピュータに実行させるための画像圧縮プログラムを作成してもよい。コンピュータ上でこの画像圧縮プログラムを起動することによって、コンピュータを本発明の画像圧縮装置として機能させることができる。
また例えば、図5や図7の動作をコンピュータに実行させるための画像伸張プログラムを作成してもよい。コンピュータ上でこの画像伸張プログラムを起動することによって、コンピュータを本発明の画像伸張装置として機能させることができる。
なお、上述した実施形態では、RAWデータの画像圧縮および画像伸張を行うケースについて説明した。しかしながら、本発明はこれに限定されるものではない。本発明の圧縮伸張技術を用いて、一般的な画像データの圧縮伸張を行うことも可能である。
また、上述した実施形態では、8ビットの固定ビット長に圧縮するケースについて説明した。しかしながら、本発明はこれに限定されるものではない。例えば、図8および図9に示す再量子化テーブルを使用すれば、7ビットや6ビットなどの固定ビット長に圧縮することも可能ある。
さらに、上述した実施形態では、予測差分をカテゴリ分類した上で再量子化を実施している。しかしながら、本発明はこの再量子化手順に限定されるものではない。例えば、予測差分と、カテゴリ値と再量子化値とを一体化したコードとの対応テーブルを用意して、再量子化後の値をダイレクトに求めてもよい。
以上説明したように、本発明は、画像の圧縮伸張などに利用可能な技術である。
本実施形態の電子カメラ11の構成を示す図である。 固定ビット長方式の圧縮動作を説明する流れ図である。 階調圧縮カーブの一例を示す図である。 再量子化テーブルの一例を示す図である。 固定ビット長方式の伸張動作を説明する流れ図である。 途中切り換え方式の圧縮動作を説明する流れ図である。 途中切り換え方式の伸張動作を説明する流れ図である。 再量子化テーブルの一例を示す図である。 再量子化テーブルの一例を示す図である。 再量子化の特性カーブの一例を示す図である。
符号の説明
11 電子カメラ
12 撮像部
13 画像圧縮装置
14 バッファメモリ
15 画像伸張装置
17 色変換部
19 記録部
20 メモリカード
31 階調圧縮部
32 差分演算部
33 可変長符号化部
34 差分再量子化部
35 圧縮制御部
41 伸張制御部
42 可変長復号化部
43 差分逆量子化部
44 加算演算部
45 階調変換部

Claims (9)

  1. 画像データの画素値と、既知データから予測する前記画素値の計算値である予測値との予測差分を算出する差分演算部と、
    前記予測差分の大きさが予め定められた閾値を超えると、量子化ステップを粗くして前記予測差分を再量子化することによって差分値コードのビットを所定幅内に抑えるとともに、前記差分値コードのビット長との和が一定になるように、予め定めたビット長の可変長コードを割り当てることで、前記差分値コードのビット長と前記可変長コードのビット長との和である前記予測差分の1画素当たりのビット長固定ビット長に調整された圧縮データを生成する差分再量子化部と
    を備えたことを特徴とする画像圧縮装置。
  2. 請求項1に記載の画像圧縮装置において、
    前記差分再量子化部は、
    前記予測差分が大きい箇所ほど人間の目は正確な信号レベルを感知しにくいという視覚特性に似せて、前記予測差分が大きいほど前記量子化ステップを段階的または連続的に粗く変更することにより、前記予測差分の1画素当たりのビット長を固定ビット長にする
    ことを特徴とする画像圧縮装置。
  3. 請求項1または請求項2に記載の画像圧縮装置において、
    前記画像データの画素値を階調圧縮して階調数を低減する階調圧縮部を備え、
    前記差分演算部は、前記階調圧縮部により階調圧縮された前記画素値について前記予測差分を算出することにより、
    『前記画素値の階調圧縮』と『前記予測差分の再量子化』との少なくとも2段階を経て、前記予測差分の1画素当たりのビット長を前記固定ビット長に調整することにより、どちらか1段階のみよりも画質劣化を抑制した
    ことを特徴とする画像圧縮装置。
  4. 請求項1ないし請求項3のいずれか1項に記載の画像圧縮装置において、
    前記差分演算部により算出される前記予測差分を、予め定められた可変長符号割り当てに従って可変長符号化する可変長符号化部と、
    前記可変長符号化部を用いて前記画像データの画像圧縮を実施して圧縮データ量の推移を監視し、前記圧縮データ量が予め定められた監視データ量を超えると判断すると、前記差分再量子化部を用いた固定ビット長の画像圧縮に切り換える圧縮制御部とを備え、
    前記圧縮制御部による圧縮方式の途中切り換えにより、前記画像データの圧縮データ量が所定の限界データ量を超えないようにする
    ことを特徴とする画像圧縮装置。
  5. 請求項1ないし請求項4のいずれか1項に記載の画像圧縮装置と、
    被写体を連写してRAWデータを順次出力する機能を有する撮像部と、
    データを一時蓄積するバッファメモリとを備え、
    前記画像圧縮装置は、前記撮像部が順次出力する前記RAWデータから、圧縮データ量の上限を制限した圧縮データを生成して前記バッファメモリに順次蓄積することにより、
    前記バッファメモリに格納可能な連写コマ数の最低値を保証する
    ことを特徴とする電子カメラ。
  6. 請求項1または請求項3に記載の画像圧縮装置で生成される圧縮データを伸張する画像伸張装置であって、
    前記圧縮データから前記固定ビット長ごとに量子化後の予測差分を抽出し、画像圧縮時の量子化ステップに従って逆量子化を行い、前記予測差分の値を復元する差分逆量子化部と、
    前記差分逆量子化部から得た前記予測差分に前記予測値を加算して画像データを生成する加算演算部と
    を備えたことを特徴とする画像伸張装置。
  7. 請求項4に記載の画像圧縮装置で生成される圧縮データを伸張する画像伸張装置であって、
    前記可変長符号割り当てに従って、前記圧縮データの可変長符号をデコードして、前記予測差分に復元する可変長復号化部と、
    前記圧縮データから前記固定ビット長ごとに量子化後の予測差分を抽出して、圧縮時の量子化ステップに従って逆量子化を行い、前記予測差分の値を復元する差分逆量子化部と、
    前記可変長復号化部を用いて前記圧縮データから前記予測差分を復元し、前記圧縮データ量が前記監視データ量を超えると判断すると、前記差分逆量子化部を用いて前記圧縮データから前記予測差分を復元する伸張制御部と、
    前記伸張制御部により得た前記予測差分に前記予測値を加算して画像データを生成する加算演算部と
    を備えたことを特徴とする画像伸張装置。
  8. コンピュータを、請求項1ないし請求項4のいずれか1項に記載の画像圧縮装置として機能させるための画像圧縮プログラム。
  9. コンピュータを、請求項6ないし請求項7のいずれか1項に記載の画像伸張装置として機能させるための画像伸張プログラム。
JP2003430926A 2003-12-25 2003-12-25 固定ビット長の予測差分圧縮データを生成する画像圧縮装置および画像圧縮プログラム、画像伸張装置および画像伸張プログラム、並びに電子カメラ Expired - Lifetime JP4470485B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2003430926A JP4470485B2 (ja) 2003-12-25 2003-12-25 固定ビット長の予測差分圧縮データを生成する画像圧縮装置および画像圧縮プログラム、画像伸張装置および画像伸張プログラム、並びに電子カメラ
US11/003,372 US7421132B2 (en) 2003-12-25 2004-12-06 Image compressor for generating predicted difference code having fixed bit length by requantizing with coarser quantization steps

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003430926A JP4470485B2 (ja) 2003-12-25 2003-12-25 固定ビット長の予測差分圧縮データを生成する画像圧縮装置および画像圧縮プログラム、画像伸張装置および画像伸張プログラム、並びに電子カメラ

Publications (2)

Publication Number Publication Date
JP2005191939A JP2005191939A (ja) 2005-07-14
JP4470485B2 true JP4470485B2 (ja) 2010-06-02

Family

ID=34697636

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003430926A Expired - Lifetime JP4470485B2 (ja) 2003-12-25 2003-12-25 固定ビット長の予測差分圧縮データを生成する画像圧縮装置および画像圧縮プログラム、画像伸張装置および画像伸張プログラム、並びに電子カメラ

Country Status (2)

Country Link
US (1) US7421132B2 (ja)
JP (1) JP4470485B2 (ja)

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006006373A1 (ja) * 2004-07-07 2006-01-19 Nikon Corporation 画像処理装置およびコンピュータプログラム製品
JP4321496B2 (ja) * 2005-06-16 2009-08-26 ソニー株式会社 画像データ処理装置、画像データ処理方法およびプログラム
JP4631828B2 (ja) * 2006-08-11 2011-02-16 パナソニック電工株式会社 画像処理装置
KR101270167B1 (ko) * 2006-08-17 2013-05-31 삼성전자주식회사 저복잡도의 이미지 압축 방법 및 장치, 저복잡도의 이미지복원 방법 및 장치
JP2008124530A (ja) * 2006-11-08 2008-05-29 Tokyo Institute Of Technology Rawデータ圧縮方法
KR100837410B1 (ko) * 2006-11-30 2008-06-12 삼성전자주식회사 주관적인 무손실 이미지 데이터 압축 방법 및 장치
US8462377B2 (en) * 2007-07-25 2013-06-11 Aptina Imaging Corporation Method, apparatus, and system for reduction of line processing memory size used in image processing
CN101953151B (zh) * 2008-02-20 2013-02-13 Nec卡西欧移动通信株式会社 成像装置以及成像方法
JP5082141B2 (ja) * 2008-04-07 2012-11-28 富士フイルム株式会社 画像処理システム、画像処理方法、およびプログラム
JP5530198B2 (ja) 2009-11-20 2014-06-25 パナソニック株式会社 画像符号化方法、復号化方法、装置
JP5924262B2 (ja) * 2010-06-25 2016-05-25 株式会社ニコン 画像処理装置および画像処理プログラム
TW201218151A (en) * 2010-10-19 2012-05-01 Chimei Innolux Corp Overdriving apparatus and over driving value generating method
JP2012222453A (ja) * 2011-04-05 2012-11-12 Sony Corp データ処理装置、データ処理方法、プログラム、およびカメラシステム
JP5833961B2 (ja) 2012-03-23 2015-12-16 株式会社東芝 画像圧縮装置、画像処理システム、及び画像圧縮方法
US8754792B2 (en) * 2012-07-14 2014-06-17 Sigma Designs, Inc. System and method for fixed rate entropy coded scalar quantization
JP2014075631A (ja) 2012-10-02 2014-04-24 Samsung Display Co Ltd 圧縮器、駆動装置および表示装置
JP6373056B2 (ja) * 2014-05-14 2018-08-15 キヤノン株式会社 撮像装置、撮像装置の制御方法及び画像処理方法
US10319348B2 (en) * 2015-05-11 2019-06-11 Vixs Systems, Inc. Memory subsystem consumer trigger
CN107846589B (zh) * 2016-09-19 2020-07-07 上海臻瞳电子科技有限公司 一种基于局部动态量化的图像压缩方法
WO2020044764A1 (ja) * 2018-08-31 2020-03-05 富士フイルム株式会社 撮像素子、撮像装置、画像データ処理方法、及びプログラム
JP7204480B2 (ja) * 2018-12-27 2023-01-16 キヤノン株式会社 撮像装置、撮像システム、移動体及び撮像装置の制御方法
CN114205584A (zh) * 2020-09-17 2022-03-18 华为技术有限公司 一种图像处理方法、装置、设备及计算机可读存储介质

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5379757A (en) * 1990-08-28 1995-01-10 Olympus Optical Co. Ltd. Method of compressing endoscope image data based on image characteristics
WO1993014600A1 (en) * 1992-01-21 1993-07-22 Supermac Technology Method and apparatus for compression and decompression of color image data
US6694061B1 (en) * 1997-06-30 2004-02-17 Intel Corporation Memory based VLSI architecture for image compression
JP2003224868A (ja) 2002-01-29 2003-08-08 Nikon Corp 画像圧縮装置、画像圧縮方法、画像圧縮プログラム、および画像伸張プログラム

Also Published As

Publication number Publication date
JP2005191939A (ja) 2005-07-14
US7421132B2 (en) 2008-09-02
US20050141772A1 (en) 2005-06-30

Similar Documents

Publication Publication Date Title
JP4470485B2 (ja) 固定ビット長の予測差分圧縮データを生成する画像圧縮装置および画像圧縮プログラム、画像伸張装置および画像伸張プログラム、並びに電子カメラ
JP3017380B2 (ja) データ圧縮方法及び装置並びにデータ伸長方法及び装置
US7706446B2 (en) Image-data processing apparatus
US6931159B2 (en) Size reduction method and device for compressed images
CN101253761B (zh) 图像编码设备和图像编码方法
US7719717B2 (en) Image recording apparatus and method, image reproducing apparatus and method, and recording medium on which image processing program is recorded
US5107519A (en) Coding device and a decoding device
WO2001022734A1 (en) Image encoding device
JP4627670B2 (ja) 画像形成装置、画像形成方法、その方法を実行させるプログラムが格納されたコンピュータ読み取り可能な記憶媒体
JP2001204022A (ja) データ圧縮装置及びデータ圧縮方法
JPH0722396B2 (ja) 画像符号化装置
CN115474062B (zh) 一种提高jpeg压缩质量的方法、系统、芯片以及电子设备
US6657576B2 (en) Quantization unit setting apparatus, quantization unit setting method, coding apparatus, coding method, and information record medium
JP3858528B2 (ja) 電子カメラ、および画像処理プログラムを記録した記録媒体
KR0134342B1 (ko) 동작추정에 의한 부호화방법 및 그 장치
US6553146B1 (en) Method and arrangement for encoding video images
JP3368164B2 (ja) 符号化復号化システム
JP4161312B2 (ja) 画質評価値算出方法及び画質評価値算出装置
JP4133678B2 (ja) 画像符号化装置
JP4049583B2 (ja) 画像圧縮プログラム及びこれを記録したコンピュータ読み取り可能な記録媒体並びに画像圧縮装置
KR101087108B1 (ko) 양자화된 정지 영상의 복원 방법
JP3093485B2 (ja) 復号装置
JP3945503B2 (ja) 係数データ生成装置および方法
JP3674110B2 (ja) 画像信号伝送装置および方法
JP2006324806A (ja) 画像処理装置及び画像処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20061010

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20081017

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20081111

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090109

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100209

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100222

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130312

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4470485

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130312

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130312

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130312

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130312

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140312

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term