JPH08307869A - 画像信号符号化装置及び画像信号復号化装置 - Google Patents
画像信号符号化装置及び画像信号復号化装置Info
- Publication number
- JPH08307869A JPH08307869A JP12733895A JP12733895A JPH08307869A JP H08307869 A JPH08307869 A JP H08307869A JP 12733895 A JP12733895 A JP 12733895A JP 12733895 A JP12733895 A JP 12733895A JP H08307869 A JPH08307869 A JP H08307869A
- Authority
- JP
- Japan
- Prior art keywords
- signal
- image
- image signal
- decoding
- difference
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
- Compression Of Band Width Or Redundancy In Fax (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
Abstract
号化装置について、画質を劣化させずに伝送情報量を削
減する。 【構成】差分信号を変換符号化する際、差分信号の復元
画像信号に対する重要度を判定手段(100A、100
C、100D)によつて判定し、当該判定手段(100
A、100C、100D)による判定結果に基づいて符
号化手段(100E、100F、100G)によつて差
分信号を変換符号化する。これにより、復元画像に対し
て重要な差分信号を重点的に符号化し得、かくして、画
質を劣化させずに伝送情報量を削減し得る画像信号符号
化装置を実現し得る。
Description
体構成(図1及び図2) (2)第1実施例(図3〜図6) (3)第2実施例(図7〜図12) (4)第3実施例(図13〜図16) (5)第4実施例(図14、図15及び図17) (6)第5実施例(図18〜図26) (7)他の実施例 発明の効果
画像信号復号化装置に関し、特に画像の構造の特徴的な
点を抽出して構成した再構成画像信号と原画像信号との
差分信号を変換符号化し、当該符号化された原画像信号
を復号する際に適用して好適なものである。
例えば、予測符号化のように画像を画素単位で扱う符号
化方式、離散コサイン変換(Discrete Cosine Transfor
m 、DCT)のような直交変換符号化、サブバンド符号
やウエーブレツト変換に代表される帯域分割符号化や、
その帯域分割されたデータをブロツクに分割して扱うブ
ロツク符号化方式などがある。
圧縮率の場合には劣化が知覚されやすい。またDCT、
ブロツク分割によるサブバンド符号やウエーブレツト変
換のようなブロツク符号化方式は、各ブロツク毎に適切
な量子化を行うことによつて、高圧縮率でも比較的画質
の良い画像を得ることができる。しかしながら、さらに
圧縮率を高くすると、ブロツク歪み等、視覚上好ましく
ない影響が顕著に現れる。
ような歪みを軽減し得る符号化方式として画像の特徴点
検出による構造抽出符号化方式がある。この方式は、画
像の構造の特徴的な点を抽出して効率的に符号化するも
のである。画像の特徴点検出による構造抽出符号化装置
の例を図27に示す。
像信号S1は前処理フイルタ回路2によつてフイルタ係
数S2として出力される。この前処理フイルタ回路2
は、ノイズ除去のための平滑フイルタなど、後段の特徴
点検出処理のための前処理を行う。フイルタ係数S2は
2次元特徴点検出回路3に出力され、2次元特徴点検出
回路3は画像の特徴点を検出し、現在の信号を特徴点と
して検知した場合はフラグ「1」、そうでない場合はフ
ラグ「0」を特徴点選択信号S3として出力する。
3のフラグ値が「1」である点を適切な順序で端までた
どり、同一画面上に存在するある一続きの特徴点を連続
したチエーンとして抽出して、その特徴点の座標をリス
トにしてチエーン信号S4を出力する。
され、量子化器5で量子化されて量子化係数S5として
振幅値決定回路6に出力される。振幅値決定回路6は、
量子化係数S5から、チエーン信号S4の各点の位置に
対応する量子化係数を、特徴点量子化係数S6として出
力する。
力され、逆量子化器7で逆量子化されて逆量子化係数S
7として補間器8に出力される。チエーン信号S4と逆
量子化係数S7は補間器8に出力され、補間器8で拡散
フイルタリング又は線形補間等の方法で特徴点以外の点
の値が補間され、補間係数S8として差分器9に出力さ
れる。この補間係数S8は復号化装置で復号される補間
係数と同一のものである。差分器9は前処理フイルタ2
より入力されるフイルタ係数S2と、補間器8より入力
される補間係数S8とに基づいて、各画素間の差分を差
分信号S9として差分信号符号化回路10に出力する。
変換回路10Aに入力され、変換回路10AでDCT、
ウエーブレツト変換等によつて変換符号化されて差分変
換係数S10として量子化器10Bに出力される。差分
変換係数S10は量子化器10Bにおいて、量子化され
て差分変換量子化係数S11として可変長符号化回路
(VLC)10Cに出力される。差分変換量子化係数S
11は可変長符号化回路10Cにおいて、例えばハフマ
ン符号化と零のランレングス符号化とを組み合わせた可
変長符号化を適用されて差分符号化係数S12として多
重化回路(MUX)11に出力される。
ン信号S4と特徴点量子化係数S6とを多重化し、さら
に差分符号化係数S12を多重化して、多重化信号S1
3を出力する。多重化信号S13はバツフアメモリ12
で情報量を平滑化され、画像信号符号化装置の出力信号
S14として出力される。
置の例を図28に示す。画像信号復号化装置20におい
ては、入力画像信号S21はバツフアメモリ21によつ
て情報量が平滑化され、分流回路(DMUX)22によ
つて特徴点の位置情報、量子化係数情報及び差分符号化
係数に分けられた後、特徴点の位置情報及び量子化係数
情報を基にした量子化係数S22Aと、差分符号化係数
S22Bとが出力される。
つて逆量子化され、復元係数S23として補間器24に
出力される。補間器24は復元係数S23より拡散フイ
ルタリング又は線形補間等の方法で特徴点以外の点の値
を補間し、補間係数S24を出力する。
復号化回路25に出力され、差分信号復号化回路25の
可変長復号化回路(IVLC)25Aによつて復号化さ
れ、差分変換量子化係数S25として逆量子化器25B
に出力される。差分変換量子化係数S25は逆量子化器
25Bによつて逆量子化され、逆量子化係数S26とし
て逆変換回路25Cに出力される。
よつて逆DCT又は逆ウエーブレツト変換等によつて逆
変換されて復元係数S27として加算器26に出力され
る。加算器26は、補間器24より出力される補間係数
S24と、逆変換回路25Cより出力される復元係数S
27とを各画素毎に足し合わせて係数S28として復号
化装置20より出力する。
化装置として、図27との対応部分に同一符号を付して
示す画像信号符号化装置30を図29に示す。この画像
信号符号化装置30においては、差分信号符号化回路1
0は変換回路10A及び量子化器10Bで構成されてお
り、量子化器10Bより出力される差分変換量子化係数
S12は多重化回路11に直接出力される。多重化回路
11は、各チエーン毎にチエーン信号S4と特徴点量子
化係数S6とを多重化し、さらに差分変換量子化係数S
11を多重化して、多重化信号S13としてバツフアメ
モリ12に出力する。
像信号復号化装置40を、図28との対応部分に同一符
号を付して示す図30に示す。画像信号復号化装置40
においては、差分信号復号化回路25は逆量子化器25
B及び逆変換回路25Cにより構成されており、分流回
路22より出力される差分変換量子化係数S22B′は
逆量子化器25Bに出力される。逆量子化器25Bは差
分変換量子化係数S22B′を逆量子化して逆量子化係
数S26′として逆変換回路25Cに出力し、逆変換回
路25Cでは逆DCT又は逆ウエーブレツト変換等によ
つて逆量子化係数S26′を逆変換して復元係数S2
7′として加算器26に出力する。
化装置として、図27との対応部分に同一符号を付して
示す図31に画像信号符号化装置50を示す。この画像
信号符号化装置50は、符号化装置1、30と異なり、
差分信号符号化回路10を有さず、チエーン構成回路4
より得られるチエーン信号S4と、振幅値決定回路6よ
り得られる特徴点量子化係数S6とを多重化回路11で
多重化して得られる多重化信号S13′をバツフアメモ
リ12に出力し、バツフアメモリ12より出力信号S1
4′が出力される。
像信号復号化装置60を、図28との対応部分に同一符
号を付して示す図32に示す。画像信号復号化装置60
は差分信号復号化回路25を有さず、入力画像信号S2
1はバツフアメモリ21によつて情報量を平滑化され
て、分流回路22で特徴点の位置情報及び量子化情報に
分けられた後、ラインスキヤン順に量子化係数S22′
として逆量子化器23に出力される。
つて逆量子化され、復元係数S23′として補間器61
に出力される。補間器61は復元係数S23′より特徴
点以外の点の値を補間し、補間係数S24′を出力し、
当該補間係数S24′を復号化装置60の出力として出
力する。
は、特徴点の位置情報と量子化係数情報を基に、拡散フ
イルタリング処理を繰り返し実行する方法や、特徴点の
情報と一定間隔でサンプリングした画像情報の近接する
情報から直接補間値を求める処理を行う方法がある。
る補間器61の構成を図33に示す。図33に示すよう
に、復元係数S61はフレームメモリ61Aに格納され
た後、拡散フイルタ61Bによつて特徴点以外の点につ
いてローパスフイルタによるフイルタリングによつて補
間が行われる。補間後の拡散復元係数S62はフレーム
メモリ61Cに格納され、1フレーム分の処理が終了し
た時点でフレームメモリ61Aに転送されて、以後同様
の拡散フイルタリング処理が実行される。
ために同様の処理を数十回繰り返した後、補間係数S6
3を出力する。またこの拡散フイルタリング処理を速め
るための方法として、原画像にローパスフイルタをかけ
た後、サブサンプリングした値を伝送して初期値として
用いる方法がある。
主観評価において重要な個所と重要でない個所とがあ
る。ところが上述の画像信号符号化装置1、30では、
差分画像を全面的に符号化しているため、必ずしも符号
化効率が良いとは言えなかつた。また画面内の箇所毎に
量子化ステツプサイズを変化させても、当該ステツプサ
イズを伝送しなければならず、低レートでの圧縮にはあ
まり相応しくないという問題があつた。
報量を削減するためには量子化器10Bで差分変換係数
S10を粗く量子化しなければならず、この結果画質が
劣化するという問題があつた。
ンを構成すると、本来連続する特徴点が必ずしも連続し
たチエーンとはならず、所々途切れたようになることが
多い。ところが上述の画像信号復号化装置60の補間器
61における補間方法では、画像を復元したときに、途
切れた部分からにじみが生ずるという問題があつた。
で、主観的な画質を保持したまま伝送情報量を削減し得
る画像信号符号化装置と画像のにじみを回避し得る画像
信号復号化装置とを提案しようとするものである。
め本発明においては、差分信号を変換符号化する際、差
分信号の復元画像信号に対する重要度を判定する判定手
段と、当該判定手段の判定結果に基づいて差分信号を変
換符号化する符号化手段とを設ける。
号化する符号化手段と、当該符号化手段によつて変換符
号化された差分信号の所定周波数帯域を指定して当該指
定された周波数帯域の差分信号を伝送する伝送手段とを
設ける。
差分信号の所定周波数帯域を指定する指定手段と、当該
指定手段によつて指定された所定周波数帯域の差分信号
を、変換符号化に対応した復号化方法によつて復号する
復号手段とを設ける。
情報を第1のサンプリング手段によつてサブサンプル
し、当該第1のサンプリング手段によつて得られた特徴
点情報を用いて、符号化された画像信号を第1の復号化
手段によつて復号し、当該第1の復号化手段によつて得
られる復号画像を第2のサンプリング手段によつてアツ
プサンプルし、第2のサンプリング手段によつて得られ
る画像を第2の復号化手段によつて復号して最終的な画
像を形成する。
画像信号に対する重要度を判定し、判定結果に基づいて
差分信号を変換符号化する。これにより、復元画像信号
に対して重要な差分信号を重点的に符号化することがで
きる。
された差分信号の所定周波数帯域を指定して当該指定さ
れた周波数帯域の差分信号を伝送する。これにより、量
子化を粗くせずに伝送情報量を削減し得ると共に、画質
の劣化を防ぐことができる。
域を指定し、指定された所定周波数帯域の差分信号を、
変換符号化に対応した復号化方法によつて復号する。こ
れにより、復号処理の際の情報量を削減し得ると共に、
画質の劣化を防ぐことができる。
得られる特徴点情報を用いて、符号化された画像信号を
復号し、当該復号画像をアツプサンプルして得られる画
像を最終的な復号画像とする。これにより、特徴点情報
が途切れている場合でも、特徴点情報をつなげることが
でき、復号画像において特徴点の途切れによるにじみを
防ぐことができる。
する。
号化装置の全体構成 本発明を適用する画像信号符号化装置70及び画像信号
復号化装置90をそれぞれ図1及び図2に示す。
る構造抽出符号化装置1においては、入力画像信号S7
1は前処理フイルタ回路71によつてフイルタ係数S7
2として出力される。この前処理フイルタ回路71は、
ノイズ除去のための平滑フイルタなど、後段の特徴点検
出処理のための前処理を行う。フイルタ係数S72は2
次元特徴点検出回路73に出力され、2次元特徴点検出
回路73は画像の特徴点を検出し、現在の信号を特徴点
として検知した場合はフラグ「1」、そうでない場合は
フラグ「0」を特徴点選択信号S73として出力する。
S73のフラグ値が「1」である点を適切な順序で端ま
でたどり、同一画面上に存在するある一続きの特徴点を
連続したチエーンとして抽出して、その特徴点の座標を
リストにしてチエーン信号S74を出力する。
出力され、量子化器75で量子化されて量子化係数S7
5として振幅値決定回路76に出力される。振幅値決定
回路76は、量子化係数S75から、チエーン信号S7
4の各点の位置に対応する量子化係数S75を、特徴点
量子化係数S76として出力する。
を逆量子化して逆量子化係数S77として補間器78に
出力する。補間器78はチエーン信号S74と逆量子化
係数S77とを基に、拡散フイルタリング又は線形補間
等の方法で特徴点以外の点の値を補間して補間係数S7
8として差分器79に出力する。この補間係数S78は
復号化装置で復号される補間係数と同一のものである。
差分器79は前処理フイルタ回路71より入力されるフ
イルタ係数S72と、補間器78より入力される補間係
数S78とに基づいて、各画素間の差分を差分信号S7
9として差分信号符号化回路80に出力する。
9を符号化して差分符号化係数S80として多重化回路
81(MUX)に出力する。多重化回路81は、各チエ
ーン毎にチエーン信号S74と特徴点量子化係数S76
とを多重化し、さらに差分信号符号化係数S80を多重
化して、多重化信号S81を出力する。多重化信号S8
0はバツフアメモリ82で情報量を平滑化され、画像信
号符号化装置70の出力信号S82として出力される。
化装置90の構成を図2に示す。図2に示すように、画
像信号復号化装置90においては、バツフアメモリ91
は入力画像信号S91の情報量を平滑化し、分流回路
(DMUX)92は平滑化された情報を特徴点の位置情
報、量子化係数情報及び差分符号化係数に分けた後、特
徴点の位置情報及び量子化係数情報を基にした量子化係
数S92Aと、差分符号化係数S92Bとを出力する。
逆量子化器93は量子化係数S92Aを逆量子化して復
元係数S93として補間器94に出力する。補間器94
は復元係数S93を基に拡散フイルタリングによつて特
徴点以外の点の値を補間し、補間係数S94を加算器9
6に出力する。
化係数S92Bを復号して復元係数S95として加算器
96に出力する。加算器96は、補間器94より入力さ
れる補間係数S94と、差分信号復号化回路95より入
力される復元係数S95とを各画素毎に足し合わせて復
号化装置90の出力として係数S96を出力する。
用する差分信号符号化回路100の構成を図3に示す。
図3に示すように、差分器79より出力される差分信号
S79は2乗和計算回路100A及び遅延回路100B
に入力される。2乗和計算回路100Aは入力される差
分信号が復元画像信号に対して重要な差分信号であるか
否かを判定するための計算を行う。すなわち2乗和計算
回路100Aは、差分信号の各画素について、例えば図
4に示すような49画素の領域内において画素値の2乗和
を計算して係数S100Aとしてしきい値処理回路10
0Cに出力する。
づいて係数S100Aを判定し、「0」又は「1」のフ
ラグS100Cを出力する。ここでしきい値処理回路1
00Cの動作について、図5に示すフローチヤートを用
いて説明する。図5において、「S」は入力信号(2乗
和計算回路100Aの算出結果)、「Th」は予め設定
されたしきい値、「f」は出力するフラグを表す。
プSP2において、しきい値処理回路100Cは入力信
号Sがしきい値Th以上であるか否かを判定する。ステ
ツプSP2において、入力信号Sがしきい値より小さい
(復元画像信号に対する重要度が低い)と判定した場合
にはステツプSP3において「0」のフラグfを出力
し、入力信号Sがしきい値Th以上(復元画像信号に対
する重要度が高い)と判定した場合にはステツプSP4
において「1」のフラグfを出力し、ステツプSP5に
おいて処理を終了する。
復元画像の画質に対する影響度のことであり、重要度の
高いものほど復元画像の画質に対する影響度が高い。従
つて差分信号符号化回路100では、2乗和計算回路1
00Aで差分信号の重要度を各画素毎に数値化し、この
数値結果に基づいてしきい値処理回路100Cで各画素
の重要度を判定している。
画像領域として7×7の領域内で図6(A)〜(C)に
示すように差分画素値が分布しているときの注目画素の
重要度を判定する場合について説明する。図6(A)は
注目画素の回り7×7の範囲内で差分画素値が大きいと
き、図6(B)は注目画素の回り7×7の範囲内で差分
画素値が小さいとき、図6(C)は注目画素の回り7×
7の範囲内のある一部分だけ差分画素値が大きいときの
例を示す。
を 100とする。図6(A)に示す領域内の画素値の2乗
和は 160となりしきい値以上であるので、注目画素の値
はそのまま保持され、しきい値処理回路100Cは
「1」のフラグS100Cを出力する。これに対して、
図6(B)及び(C)に示す領域の画素値の2乗和はそ
れぞれ63、44となり、いずれもしきい値より小さいので
注目画素の値をともに0とし、しきい値処理回路100
Cは「0」のフラグS100Cを出力する。
しているときは、この画素を「0」として処理しても復
元した画像を見たときの違和感は少ない。また差分画素
値が局所的に大きい場合にはノイズ等による影響が多い
ので、これを「0」として処理しても復元した画像を見
たときの違和感は少ない。従つてこれらの差分画素値を
「0」にすることにより変換後の係数の零のランレング
スが増えるので、伝送情報量を大幅に削減することがで
きる。
しきい値処理回路100Cより出力されるフラグS10
0Cとタイミングを合わせて遅延信号S100Bとして
出力する。選択回路100DはフラグS100Cの値に
応じて係数S100Dを出力する。すなわち選択回路1
00Dは、フラグS100Cの値が「1」のときは遅延
信号S100Bを、フラグS100Cの値が「0」のと
きは「0」を、係数S100Dとして出力する。
えばDCTやウエーブレツト変換などによつて変換し
て、変換係数S100Eとして出力する。量子化器10
0Fは変換係数S100Eを量子化して変換量子化係数
S100Fとして出力する。可変長符号化回路(VL
C)100Gは変換量子化係数S100Fを、例えばハ
フマン符号化と零のランレングス符号化とを組み合わせ
た可変長符号化を用いて符号化し、差分信号符号化回路
100の出力として差分符号化係数S100Gを多重化
回路81に出力する。
置90の差分信号復号化回路95で復号される。すなわ
ち差分信号復号化回路95は、分流回路92より入力さ
れる差分符号化係数S92Bを、差分信号符号化回路8
0に対応した復号化方法によつて復号する。
100では、差分信号の各画素を、差分信号内の注目画
素を含む所定画像領域内における画素値に基づいて数値
化し、当該数値に基づいて差分信号を符号化する。
分信号の重要度を画素毎に数値化し、この数値結果に基
づいて差分信号を符号化しているので、復元画像信号に
対して重要な差分信号を重点的に符号化することができ
る。
画素毎に数値化し、当該数値に基づいて差分信号を符号
化することにより、復元画像信号に対して重要な差分信
号を重点的に符号化し得、かくして画像の画質を劣化さ
せることなく伝送情報量を大幅に削減し得る画像信号符
号化装置を実現し得る。
用する差分信号符号化回路110の構成を図3との対応
部分に同一符号を付した図7に示す。図7に示すよう
に、差分器79より出力される差分信号S79は2乗和
計算回路100A及びフレームメモリ110Aに入力さ
れる。2乗和計算回路100Aは第1実施例と同様に、
差分信号の各画素について、注目画素を含む所定ブロツ
ク内での画素値の2乗和を計算して係数S100Aを出
力する。
て「0」〜「1」までの重み値を決定し、この重み値を
係数S110Bとして乗算器110Cに出力する。ここ
で重み付け決定回路110Bの処理手順を図8に示すフ
ローチヤートを用いて説明する。図8において、重み付
け決定回路110Bに入力される入力信号(2乗和計算
回路100Aの算出結果)を「S」、第1のしきい値を
「Th1」、第1のしきい値より大きいしきい値を「T
h2」で表す。
P2において、入力信号Sが第1のしきい値Th1以上
か否かを判定し、入力信号Sが第1のしきい値Th1よ
り小さい場合にはステツプSP3に進み、S/Th1を
重み値wとして出力する。ステツプSP2において、入
力信号Sが第1のしきい値Th1以上のときはステツプ
SP4に進み、入力信号Sが第2のしきい値Th2より
小さいか否かを判定する。
2のしきい値Th2より小さいと判定した場合、ステツ
プSP5に進み、重み値wを「1」として出力する。ま
た入力信号Sが第2のしきい値Th2より大きいと判定
した場合には、ステツプSP6に進み、2×Th2/
(S+Th2)を重み値wとして出力する。ステツプS
P3、ステツプSP5、ステツプSP6のいずれかで重
み値wが決定するとステツプSP7において重み付け処
理を終了する。
9に示し、水平方向空間座標に対して図10(A)に示
すような断面を有する画像信号について、特徴点(a)
〜(f)が得られたものとする。図10(A)の特徴点
(a)〜(f)を基に線形補間によつて補間信号を構成
すると、図10(B)に示すような信号となる。
との差分信号を求めると、図11に示すように、「0」
を中心に分布する信号となる。図11において、領域
(1)は変換後の情報量が非常に多くなる領域、領域
(2)は、この領域がなくなつても復元したときに影響
がない領域、領域(3)は、この領域がなくなると復元
したときに影響がでるが、変換後に粗く量子化するとな
くなつてしまう領域である。
算すると、領域(1)の値は非常に大きく、領域(2)
の値は小さく、領域(3)の値は領域(2)に比してや
や大きくなる。すなわちこれらの領域(1)、(2)、
(3)は、重み付け決定回路110Bにおいて、領域
(1)内の点は、第2のしきい値Th2より大きいと判
定され、領域(2)内の点は第1のしきい値Th1より
小さいと判定され、領域(3)内の点は第1のしきい値
Th1より大きいが第2のしきい値Th2より小さいと
判定される。
み付け決定回路110Bが図8に示すアルゴリズムに従
つて重み付けすると、領域(1)及び(2)内の画素に
対しては「0」と「1」の間、領域(3)内の画素に対
しては「1」に重み値が決定される。この重み値に従つ
て図10に示す信号に対して重み付けすると、図12
(A)に実線で示す信号を得ることができる。因みに図
12(A)に点線で示す信号は元の差分信号である。
化すると、領域(1)は、図11に示す信号を変換した
ときよりも小さい係数となり、領域(2)は、零のラン
レングスを長く得ることができるので、可変長符号化後
の情報量は図11に示す信号よりも少なくなる。
実線で示す信号から復元画像信号を構成すると、図12
(B)に実線で示す復元画像信号を得ることができる。
図12(B)に点線で示した図10(A)の原画像信号
と図12(B)に実線で示す復元画像信号を比較する
と、領域(1)の信号の変化幅が小さくなり、領域
(2)の微細構造がなくなつていることが分かる。
ら非常に大きいため、多少変化幅が小さくなつても復元
画像において違和感はあまりない。また領域(2)の微
細構造は変化幅が元から非常に小さいため、なくなつて
も復元画像においてほとんど違和感を感じることはな
い。従つて差分信号符号化回路110では、画像の画質
を劣化させずに伝送情報量を大幅に削減することができ
る。
信号S79を一旦格納する。乗算器110Cは、フレー
ムメモリ110Aより出力される各画素に対して、各画
素に対応する重み値wとしての係数S110Bを掛けて
その値を係数S110Cとして変換回路100Eに出力
する。変換回路100E、量子化器100F及び可変長
符号化回路100Gでの処理は第1実施例の場合と同様
である。
差分符号化係数は、復号装置90の差分信号復号化回路
95で復号される。すなわち差分信号復号化回路95
は、分流回路92より入力される差分符号化係数を、差
分符号化回路110に対応した復号化方法によつて復号
する。
110では、差分信号の各画素を差分信号内の注目画素
を含む所定画像領域内における画素値に基づいて数値化
し、当該数値に基づいて各画素を重み付けした後、重み
値に応じて差分信号を符号化する。
分信号の各画素を数値化し、当該数値に基づいて各画素
を重み付けすることにより、復元画像に対して影響が小
さいと考えられる画素に対して変換量子化後の値を小さ
くし、また零のランレングスを長くすることができる。
重み付けしたことにより、復元画像信号に対して影響が
小さいと考えられる画素に対して変換量子化後の値を小
さくし、また零のランレングスを長くできるので、復元
画像の画質を劣化させずに可変長符号化後の情報量を大
幅に削減し得る画像信号符号化装置を実現し得る。
用する差分信号符号化回路120の構成を図13に示
す。図13に示すように、差分器79より入力される差
分信号S79はウエーブレツト変換回路120Aに入力
される。ウエーブレツト変換回路120Aは差分信号S
79をウエーブレツト変換して差分変換係数S120A
として量子化器120Bに出力する。
Aを量子化して差分量子化係数S120Bとしてフレー
ムメモリ120Cに出力する。差分量子化係数S120
Bは一旦フレームメモリ120Cに格納され、アドレス
発生器120Dの発生するアドレスS120Dに従つて
順次帯域制限差分量子化係数S120Cとして多重化回
路81に送出される。
を図14に示す。アドレス発生器120Dは図15に示
すようなメモリマツプをもつアドレスデコーダROM
(readonly memory)に従つてフレームメモリ120C
より帯域制限差分量子化係数S120Cを順次読み出
す。
ーブレツト変換を行なつた結果得られる差分変換係数S
120Aは図16に示すような帯域に分かれる。この場
合、図15に示すアドレスデコーダに従つて係数を伝送
すると高域の差分変換係数S120Aはすべてカツトさ
れる。従つて差分信号符号化回路120では、主観的に
劣化が目立ちにくい高周波数帯域の差分量子化係数S1
20Bをすべてカツトすることで伝送情報量を削減して
いるので、従来のように差分変換係数S120Aを量子
化器120Bによつて粗く量子化する必要がない。
の復元画像は、高次の周波数を含んでいないため解像度
の低い画像となるが、本発明で用いている画像の特徴点
検出による構造抽出符号化装置70では、輪郭部分など
を特徴点として抽出するため、変換符号化する画像は物
体の質感を表す模様などであり、解像度の低下による不
快感は極めて少なく、従つて高周波数帯域をカツトして
も主観的な画質を保持することができる。因みにDCT
やウエーブレツト変換を用いた従来の画像圧縮装置にお
いて高周波数帯域をカツトして解像度を低くすると、物
体の輪郭部分等で画像がボケて劣化が目立つ。
120では、差分量子化係数S120Bを一旦フレーム
メモリ120Cに格納し、アドレス発生器120Dの発
生するアドレスに従つて高周波数帯域以外の周波数帯域
を有する差分量子化係数S120Bを画像信号復号化装
置90に伝送する。従つて差分信号符号化回路120で
は、主観的に劣化が目立ちにくい高周波数帯域の差分量
子化係数S120Bをすべてカツトすることで伝送情報
量を削減しているので、画質を劣化させずに伝送情報量
を大幅に削減することができる。
0Dのアドレスによつて、主観的に劣化が目立ちにくい
高周波帯域以外の周波数帯域を有する差分量子化係数S
120Bを指定し、当該高周波数帯域以外の差分量子化
係数S120Bを伝送することにより、画質を劣化させ
ずに伝送情報量を削減し得、かくして低レートで主観的
画質の高い画像を伝送し得る画像信号符号化装置を実現
し得る。
用する差分信号復号化回路130の構成を図17に示
す。この差分信号復号化回路130では、図13と同様
に8×8の画像に対して3段階のウエーブレツト変換の
高次係数をカツトする場合を例としている。
90の分流回路92で分流された差分量子化係数S92
Bは、図15に示すアドレスデコーダを有するアドレス
発生器130Aが発生するアドレスS130Aに従つ
て、図14に示すアドレスを有するフレームメモリ13
0Bに順次格納される。ここでアドレス発生器130A
が発生しないアドレスのフレームメモリの格納値は0に
する。すなわちこの差分信号復号化回路130では、ア
ドレス発生器130Aが発生するアドレスS130Aに
よつて、主観的に劣化が目立ちにくい高周波数帯域以外
の周波数帯域を有する差分量子化係数S92Bを指定し
て、高周波数帯域以外の差分量子化係数S92Bを後段
の逆量子化器130Cに出力する。
0Bより読み出された差分量子化係数S92Bを逆量子
化して逆量子化変換係数S130Cとして逆ウエーブレ
ツト変換回路130Dに出力する。逆ウエーブレツト変
換回路130Dは逆量子化変換係数S130Cを逆ウエ
ーブレツト変換して差分復元係数S130Dとして加算
器96に出力する。
ドレス発生器130Aが発生するアドレスS130Aに
よつて、主観的に劣化が目立ちにくい高周波数帯域以外
の周波数帯域を有する差分量子化係数S92Bを指定し
て復号するので、逆量子化器130C及び逆ウエーブレ
ツト変換回路130Dで処理する情報量を削減すること
ができる。
は、高次の周波数を含んでいないため解像度の低い画像
となるが、本発明で用いている画像の特徴点検出による
構造抽出符号化装置70では輪郭部分などを特徴点とし
て抽出するため、変換符号化する画像は物体の質感を表
す模様などであり、解像度の低下による不快感は極めて
少なく、従つて高周波数帯域をカツトしても主観的な画
質を保持することができる。因みにDCTやウエーブレ
ツト変換を用いた従来の画像圧縮装置において高周波数
帯域をカツトして解像度を低くすると、物体の輪郭部分
等で画像がボケて劣化が目立つ。
130では、アドレス発生器130Aが発生するアドレ
スS130Aによつて、高周波数帯域以外の周波数帯域
を有する差分量子化係数S92Bを指定してフレームメ
モリ130Bに格納した後、当該指定された差分量子化
係数S92Bに対して逆量子化及び逆ウエーブレツト変
換を実行して復元係数S130Dとして出力する。
観的に劣化が目立ちにくい高周波帯域の差分量子化係数
S130Bをすべてカツトすることで、逆量子化回路1
30C及び逆ウエーブレツト変換回路130Dで処理す
る情報量を削減し得ると共に、画質の劣化を回避するこ
とができる。
0Aが発生するアドレスS130Aによつて、主観的に
劣化の目立ちにくい高周波数帯域以外の周波数帯域を有
する差分量子化係数S130Bを指定し、高周波数帯域
以外の差分量子化係数S130Bを復号することによ
り、画質を劣化させずに逆量子化器130C及び逆ウエ
ーブレツト変換回路130Dで処理する情報量を削減し
得るので、差分信号復号化回路130の有用性を一段と
向上させることができる。
180の構成を図18に示す。逆量子化器93より出力
された復元係数S93は補間器180のフレームメモリ
180A及びフレームメモリ180Bに格納される。フ
レームメモリ180Aに格納された復元係数S93は、
アドレス発生器180Cより発生されるアドレスS18
0Cに従つて正方形状に並ぶ4画素ずつをラインスキヤ
ン順に順次係数S180Aとしてサブサンプラ180D
に出力される。
サブサンプルして、途切れた特徴点情報をつなげて係数
S180Dとして出力する。係数S180Dはフレーム
メモリ180Eに格納される。ここでサブサンプルは4
画素のうち特徴点である点の平均を出力する。拡散フイ
ルタ180Fはフレームメモリ180Eより読み出した
係数S180Eを、特徴点以外の点について、例えば図
19に示すようなフイルタ係数を有するローパスフイル
タを用いてフイルタリングによる補間を行なう。
ムメモリ180Gに格納され、1フレーム分の処理が終
了した時点でフレームメモリ180Eに転送され、十分
な復元画質を得るために拡散フイルタ180Fによつて
同様の拡散フイルタリング処理がなされ、補間係数S1
80Gがフレームメモリ180Gよりアツプサンプラ1
80Hに出力される。
0Gをアツプサンプルして係数S180Hとしてフレー
ムメモリ180Bに出力し、係数S180Hはフレーム
メモリ180Bに格納される。ここでアツプサンプルは
補間係数S180Hを4画素分コピーするという形で行
なう。この場合フレームメモリ180Bには、逆量子化
器93より出力される復元係数S93が格納されている
ので、もともと特徴点であつた位置の画素値が置き換え
られる。
80Bより読み出した係数S180Bについて、上述の
拡散フイルタ180Fと同様にフイルタリング処理を実
行してフレームメモリ180Jに格納する。1フレーム
分の処理が終了した時点でフレームメモリ180Bに転
送され、拡散フイルタ180Iによつて同様の拡散フイ
ルタリング処理がなされる。この処理を繰り返した後、
フレームメモリ180Jより補間係数S180Jが出力
される。
する。例えば、図20(A)に示すような画像に対し
て、図20(B)に示すような途切れた特徴点情報をも
つ画像が伝送されてきたとする。ここで画像サイズは16
×16であり、0〜7の8段階の階調をもつものとする。
図20(B)に示す特徴点情報をサブサンプラ180D
でサブサンプルすると、図21に示すように特徴点情報
がつながつた画像を得ることができる。
て図19に示すフイルタ係数を有するローパスフイルタ
によつて拡散フイルタ180Fで拡散フイルタリングを
行うと、図22に示すような値をもつ画像を得ることが
できる。この図22に示す画像をアツプサンプラ180
Hでアツプサンプルすると、図23に示すような画像を
得ることができる。この図23に示す画像の値を初期値
として拡散フイルタ180Iで拡散フイルタリングを行
うと、図24に示すような値を有する画像を得ることが
できる。これが補間器180によつて得ることができる
復元画像となる。
報を基に図33に示す従来の補間器61で拡散フイルタ
リングを行うと、図25に示すような値をもつ画像とな
る。補間器61で得られる画像(図25)と補間器18
0で得られる画像(図24)を比較すると、補間器18
0で得られる画像は補間器61で得られる画像に比して
エツジの途切れによるにじみが少ないことが分かる。ま
た図20(B)に示す特徴点情報とブロツク4隅の原画
像の値から線形補間を行なつて得られる画像を図26に
示す。この場合においても、補間器180で得られる画
像は図26に示す画像に比して途切れによる影響が格段
的に少ないことが分かる。
ンプリングして、途切れた特徴点情報をつなげ、この特
徴点情報がつながつた画像情報を用いて画像を復元し、
当該復元した画像を初期値として最終的な復元画像を作
成する。従つて差分信号復号化回路180では、特徴点
情報をサブサンプルしているので、途切れている特徴点
情報をつなげることができる。
ンプリングして、途切れている特徴点情報をつなげ、こ
の特徴点情報がつながつた画像情報を用いて復元した画
像を初期値として最終的な復元画像を構成することによ
り、復元画像において特徴点情報の途切れによるにじみ
を最小限に抑えることができる。
ブサンプリングすることにより、拡散フイルタリング処
理の処理回数を大幅に減らすことができるので、収束を
速めることができる。また上述の構成によれば、特徴点
情報をサブサンプリングすることにより、従来のように
収束を速めるために伝送していたローパスフイルタ値を
伝送する必要がなくなるので、伝送情報量を大幅に削減
することができる。
復元画像信号に対する重要度を判定する判定手段として
2乗和計算回路100Aを用いた場合について述べた
が、本発明はこれに限らず、差分信号の復元画像信号に
対する重要度を、差分信号の絶対値和、差分信号のハイ
パスフイルタ出力や原画像のハイパスフイルタ出力等で
判定してもよい。
は、差分信号の復元画像信号に対する重要度を判定する
判定手段としてしきい値処理回路100C、重み付け決
定回路110Bを用いた場合について述べたが、本発明
はこれに限らず、例えば量子化ステツプを変える方法な
ど他の方法で差分信号の重要度を判定してもよい。
いては、注目画素を含む所定画像領域として7×7のサ
イズの画像領域を用いた場合について述べたが、本発明
はこれに限らず、例えば注目画素を中心とする半径5の
円というように他のサイズの画像領域を用いてもよい。
素を含む所定画像領域内の画素値を基に差分信号を重み
付けした場合について述べたが、本発明はこれに限ら
ず、例えば発生情報量に応じて重み付けするなど、他の
方法で重み付けしてもよい。
手段としてウエーブレツト変換を用いた場合について述
べたが、本発明はこれに限らず、DCTやサブバンド符
号化など他の符号化手段を用いてもよい。
号化された差分信号の所定周波数領域として高周波数帯
域以外の周波数帯域を指定して符号化した場合について
述べたが、本発明はこれに限らず、例えば高周波数帯域
及び低周波数帯域以外の周波数帯域、すなわち中域だけ
を符号化してもよい。また上述の第3及び第4実施例に
おいては、注目画素を含む所定画像領域として8×8の
画像領域を用いた場合について述べたが、本発明はこれ
に限らず、他のサイズの画像領域を用いてもよい。
号化された差分信号の所定周波数領域として高周波数帯
域以外の周波数帯域を指定して復号した場合について述
べたが、本発明はこれに限らず、例えば高周波数帯域及
び低周波数帯域以外の周波数帯域、すなわち中域だけを
復号してもよい。
情報のサブサンプリングを1回実行した場合について述
べたが、本発明はこれに限らず、サンプリング周波数を
変えてサブサンプリングを階層的に行なつてもよい。サ
ブサンプリングを階層的に行なうことにより、特徴点の
チエーンが数画素にわたつて途ぎ切れている場合にも対
応することができる。また拡散フイルタを用いる方法で
は繰り返し処理の回数が実用上の問題の1つであつた
が、サブサンプリングを階層的に行なうことで収束は早
まり、拡散フイルタリング処理の繰り返し回数及び演算
回数を減らすことができる。
り、収束を速めるために初期値として用いるローパスフ
イルタ値を伝送する必要がなくなるので、情報量を削減
することができる。また上述の第5実施例においては、
フイルタ係数として図19に示すフイルタ係数を有する
拡散フイルタを用いた場合について述べたが、本発明は
これに限らず、他のフイルタ係数を有する拡散フイルタ
を用いてもよい。また上述の第5実施例においては、補
間器180を画像信号復号化装置90の補間器94に適
用した場合について述べたが、本発明はこれに限らず、
得られた特徴点のチエーン信号を基に拡散フイルタリン
グを行つて復元画像を生成する画像信号復号化装置であ
れば、他の画像信号復号化装置に適用し得る。
を変換符号化する際、差分信号の復元画像信号に対する
重要度を判定し、判定結果に基づいて差分信号を変換符
号化することにより、復元画像信号に対して重要な差分
信号を重点的に符号化し得、かくして、画質を劣化させ
ずに伝送情報量を削減し得る画像信号符号化装置を実現
し得る。
抽出符号化装置の構成を示すブロツク図である。
抽出復号化装置の構成を示すブロツク図である。
示すブロツク図である。
ある。
ーチヤートである。
る。
示すブロツク図である。
ーチヤートである。
ある。
す信号波形図である。
号波形図である。
(B)の信号波形図である。
を示すブロツク図である。
略線図である。
す図表である。
線図である。
すブロツク図である。
である。
数の一例を示す図表である。
た特徴点情報の一例を示す略線図である。
た後の特徴点情報を示す略線図である。
リングした後の画像を示す略線図である。
を示す略線図である。
の画像を示す略線図である。
リングした後の画像を示す略線図である。
後の画像を示す略線図である。
の構成を示すブロツク図である。
の構成を示すブロツク図である。
の構成を示すブロツク図である。
の構成を示すブロツク図である。
の構成を示すブロツク図である。
の構成を示すブロツク図である。
における補間器の構成を示すブロツク図である。
1……前処理フイルタ回路、3、73……2次元特徴点
検出回路、4、74……チエーン構成回路、5、10
B、75……量子化器、6、76……振幅値決定回路、
7、23、25B、77、93、130C……逆量子化
器、8、24、61、78、94、180……補間器、
9、79……差分器、10、80、100、110、1
20……差分信号符号化回路、10A、100E……変
換回路、10B、100F、120B……量子化器、1
0C、100G……可変長符号化回路、11、81……
多重化回路、12、21、82、91……バツフアメモ
リ、20、40、60、90……画像信号復号化装置、
22、92……分流回路、25、95、130……差分
信号復号化回路、25A……可変長復号化回路、25C
……逆変換回路、26、96……加算器、100A……
2乗和計算回路、100B……遅延回路、100C……
しきい値処理回路、100D……選択回路、110A、
120C、130B、180A、180B、180E、
180G、180J……フレームメモリ、110B……
重み付け決定回路、120A……ウエーブレツト変換回
路、120D、130A、180C……アドレス発生
器、130D……逆ウエーブレツト変換回路、180D
……サブサンプラ、180H……アツプサンプラ。
Claims (8)
- 【請求項1】入力される画像信号より特徴点を検出して
符号化し、当該符号化された特徴点信号を復号すること
により得られる復元画像信号と上記画像信号との差分を
差分信号として生成し、当該差分信号を上記特徴点信号
とは別に変換符号化する画像信号符号化装置において、 上記差分信号を変換符号化する際、上記差分信号の上記
復元画像信号に対する重要度を判定する判定手段と、 当該判定手段の判定結果に基づいて上記差分信号を変換
符号化する符号化手段とを具えることを特徴とする画像
信号符号化装置。 - 【請求項2】上記判定手段は、 上記差分信号の各画素を、上記差分信号内の注目画素を
含む所定画像領域内における画素値に基づいて数値化
し、 上記符号化手段は、 上記判定手段によつて得られた上記各画素毎の数値に基
づいて上記差分信号を変換符号化することを特徴とする
請求項1に記載の画像信号符号化装置。 - 【請求項3】上記判定手段は、 当該判定手段の判定結果に基づいて上記差分信号を重み
付けする重み付け手段を具え、 上記符号化手段は上記重み付け手段による重み付けに基
づいて上記差分信号を変換符号化することを特徴とする
請求項1に記載の画像信号符号化装置。 - 【請求項4】上記判定手段は、 上記差分信号の各画素を、上記差分信号又は上記画像信
号内の注目画素を含む所定画像領域内における画素値に
基づいて数値化し、 上記重み付け手段は、 上記画素毎の数値に基づいて上記各画素毎に重み付けす
ることを特徴とする請求項3に記載の画像信号符号化装
置。 - 【請求項5】入力される画像信号より特徴点を検出し、
当該符号化された特徴点信号を復号することにより得ら
れる復元画像信号と上記画像信号との差分を差分信号と
して生成し、当該差分信号を上記特徴点信号とは別に変
換符号化する画像信号符号化装置において、 上記差分信号を変換符号化する符号化手段と、 当該符号化手段によつて変換符号化された上記差分信号
の所定周波数帯域を指定して当該指定された周波数帯域
の上記差分信号を伝送する伝送手段とを具えることを特
徴とする画像信号符号化装置。 - 【請求項6】入力される画像信号より特徴点を検出して
符号化し、当該符号化された特徴点信号を復号すること
により得られる復元画像信号と上記画像信号との差分を
差分信号として生成して上記特徴点信号及び差分信号を
別個に変換符号化し、当該変換符号化された特徴点信号
及び差分信号を別個に復号する画像信号復号化装置にお
いて、 上記変換符号化された差分信号の所定周波数帯域を指定
する指定手段と、 当該指定手段によつて指定された上記所定周波数帯域の
差分信号を、上記変換符号化に対応した復号化方法によ
つて復号する復号手段とを具えることを特徴とする画像
信号復号化装置。 - 【請求項7】入力される画像信号より特徴点情報を検出
して符号化し、当該符号化された画像信号を復号する画
像信号復号化装置において、 上記復号された特徴点情報をサブサンプルする第1のサ
ンプリング手段と、 当該第1のサンプリング手段によつて得られた上記特徴
点情報を用いて、上記符号化された画像信号を復号する
第1の復号化手段と、 当該第1の復号手段によつて得られる復号画像をアツプ
サンプルする第2のサンプリング手段と、 上記第2のサンプリング手段によつて得られる画像を復
号することにより最終的な画像を形成する第2の復号化
手段とを具えることを特徴とする画像信号復号化装置。 - 【請求項8】上記第1のサンプリング手段のサンプリン
グ周波数を変えて、上記復号された特徴点情報を階層的
にサブサンプリングすることを特徴とする請求項7に記
載の画像信号復号化装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP12733895A JP4177463B2 (ja) | 1995-04-27 | 1995-04-27 | 画像信号符号化装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP12733895A JP4177463B2 (ja) | 1995-04-27 | 1995-04-27 | 画像信号符号化装置 |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004018184A Division JP2004208322A (ja) | 2004-01-27 | 2004-01-27 | 画像信号符号化装置及び画像信号復号化装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH08307869A true JPH08307869A (ja) | 1996-11-22 |
JP4177463B2 JP4177463B2 (ja) | 2008-11-05 |
Family
ID=14957456
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP12733895A Expired - Fee Related JP4177463B2 (ja) | 1995-04-27 | 1995-04-27 | 画像信号符号化装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4177463B2 (ja) |
-
1995
- 1995-04-27 JP JP12733895A patent/JP4177463B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP4177463B2 (ja) | 2008-11-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US6243421B1 (en) | Apparatus for decoding coded video data with reduced memory size | |
US5892847A (en) | Method and apparatus for compressing images | |
JP3249729B2 (ja) | 画像符号化装置及び画像復号装置 | |
EP0866617A2 (en) | Data compression system, method and apparatus | |
JP2001346047A (ja) | 画像処理装置及び画像処理方法 | |
EP1944976A2 (en) | Image signal transforming method, image signal inversely-transforming method, image encoding apparatus, image encoding method, image encoding program, image decoding apparatus, image decoding method, and image decoding program | |
JP2006502604A (ja) | 任意形状オブジェクトの画像圧縮方法 | |
JPH09182069A (ja) | 画像圧縮方法および画像圧縮装置 | |
JPH08116430A (ja) | 画像処理システムおよび画像処理装置とその方法 | |
US20050228654A1 (en) | Method and apparatus for improved bit rate efficiency in wavelet based codecs by means of subband correlation | |
JPH05219385A (ja) | 画像圧縮・伸張方法および装置 | |
JPH08294119A (ja) | 画像符号化/復号化装置 | |
EP1134983B1 (en) | Method and apparatus for encoding and decoding images | |
JP2000013608A (ja) | 画像処理方法 | |
KR100593486B1 (ko) | 동영상 압축 및 복원방법과 그 장치 | |
JP2901656B2 (ja) | 画像符号化装置 | |
JPH08307869A (ja) | 画像信号符号化装置及び画像信号復号化装置 | |
JP3624655B2 (ja) | 画像符号化装置および画像復号装置 | |
JP2004266794A (ja) | マルチ・リゾルーション・ビデオ符号化および復号化 | |
JPH09307897A (ja) | 画像データ圧縮処理方法 | |
JPH04247770A (ja) | 画像データ圧縮方法および画像データ圧縮装置ならびに画像データ復元装置 | |
JP2004208322A (ja) | 画像信号符号化装置及び画像信号復号化装置 | |
JP3260016B2 (ja) | 画像データ圧縮処理方法および画像データ再構成方法 | |
JPH1188183A (ja) | ウェーブレット変換装置およびその方法並びにウェーブレット逆変換装置およびその方法並びに画像符号化装置およびその方法並びに画像復号化装置およびその方法 | |
JP2891251B2 (ja) | 画像符号化装置及び画像復号化装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20001220 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20031118 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20031128 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040917 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20041112 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20051007 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20051205 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060210 |
|
A911 | Transfer of reconsideration by examiner before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20060215 |
|
A912 | Removal of reconsideration by examiner before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A912 Effective date: 20060407 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080822 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110829 Year of fee payment: 3 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040127 |
|
LAPS | Cancellation because of no payment of annual fees |