JPH09331526A - 画像信号処理装置および方法 - Google Patents

画像信号処理装置および方法

Info

Publication number
JPH09331526A
JPH09331526A JP21777196A JP21777196A JPH09331526A JP H09331526 A JPH09331526 A JP H09331526A JP 21777196 A JP21777196 A JP 21777196A JP 21777196 A JP21777196 A JP 21777196A JP H09331526 A JPH09331526 A JP H09331526A
Authority
JP
Japan
Prior art keywords
image data
block
class
decoded image
signal processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP21777196A
Other languages
English (en)
Other versions
JP3760517B2 (ja
Inventor
Hideo Nakaya
秀雄 中屋
Tetsujiro Kondo
哲二郎 近藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP21777196A priority Critical patent/JP3760517B2/ja
Publication of JPH09331526A publication Critical patent/JPH09331526A/ja
Application granted granted Critical
Publication of JP3760517B2 publication Critical patent/JP3760517B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Abstract

(57)【要約】 【課題】 エッジやディテール部分をなまらせることな
く、ブロック歪みを除去することができる。 【解決手段】 ブロック復号回路4では、圧縮符号化さ
れた画像データS1からブロック単位で復号画像データ
S4が出力される。平均値算出回路6では、復号画像デ
ータS4から平均値データS5が算出され、注目ブロッ
クとその隣接ブロックの平均値データが第1のクラスコ
ードS6として、係数メモリ12へ供給される。クラス
生成回路9では、復号画像データS4から第2のクラス
コードS8が生成され、係数メモリ12へ供給される。
係数メモリ12では、第1および第2のクラスコードさ
らに制御回路3からの位置情報S7から求められた第3
のクラスコードに応答する係数組が係数メモリ12から
読み出される。積和演算回路13では、復号画像データ
S4に対して線形1次結合を施すことによって、予測復
号画像データS10が生成される。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】この発明は、ブロック符号化
方式を用いて高能率符号化した画像信号を復号する画像
信号処理装置および方法に関する。
【0002】
【従来の技術】従来、例えばテレビ会議システム等のよ
うに画像信号を遠隔地に伝送するいわゆる画像信号伝送
システムや、画像信号をディジタル化してビデオテープ
レコーダやビデオディスクレコーダに記録し再生する装
置においては、伝送路や記録媒体を効率的に利用するた
め、ディジタル化した画像信号の相関を利用して有意情
報を効率的に符号化することにより伝送情報量や記録情
報量を削減し、伝送効率や記録効率を高めるようになさ
れている。
【0003】このような場合、一般的には、画像信号を
高能率圧縮符号化することによりデータ量を大幅に削減
するようになされている。この高能率圧縮符号化の手法
として、入力された画像信号を複数のブロックに分割
し、例えばADRC符号化(Adaptive Dynamic Range C
oding )やDCT符号化(Discrete Cosine Transfor
m)等を施すブロック符号化が提案されている。
【0004】因みに、ADRC符号化は、視覚のダイナ
ミックレンジ依存性を利用したものであり、画素分布の
ダイナミックレンジの大きい領域では、画素レベルの微
小な変動は、視認されにくく、反対にダイナミックレン
ジの小さい領域では、画素レベルの微小な反動も視認さ
れやすいという視覚特性を利用して画像圧縮する符号化
方式である。また、DCT符号化は、規定波形として複
数のコサイン関数を用いたもので、画像信号をこれら複
数の規定波形に分解して表現する符号化方式である。
【0005】
【発明が解決しようとする課題】ところで上述のような
手法によって非常に低いレートに圧縮した場合、復元
時、ブロック境界付近にブロック歪みが発生して画像劣
化が生じることがある。特に、割当ビット数が少なくな
るような平坦なブロックでは、その傾向が著しく現れ
る。このためブロック境界に対して局所的に低域通過フ
ィルタ(いわゆるローパスフィルタ:LPF)をかける
ことにより、一般的には、このようなブロック歪みを除
去して画像劣化を低減するようになされている。
【0006】ところがLPFをかけると、高周波成分を
含むエッジやディテール部分をなまらせてしまう不具合
が発生し、ブロック歪みの除去方法としては、未だ不十
分な点がある。
【0007】従って、この発明の目的は、エッジやディ
テール部分をなまらせることなく、ブロック歪みを除去
し得る画像信号処理装置および方法を提供することにあ
る。
【0008】
【課題を解決するための手段】請求項1に記載の発明
は、所定の圧縮符号化手段によりブロック単位で圧縮符
号化された圧縮画像データを復号処理する画像信号処理
装置において、圧縮画像データをブロック単位で復号し
た復号画像データの各ブロックの特徴量を検出する特徴
量検出手段と、復号画像データをパターン分類して復号
画像データが属するクラスを検出するクラス検出手段
と、特徴量検出手段によって得た注目ブロックおよび注
目ブロックに隣接する隣接ブロックの特徴量を集めて所
定ビットで量子化することにより得られる第1のクラス
情報と、クラス検出手段によって得た第2のクラス情報
とに基づいて生成された第3のクラス情報に応じて、予
め記憶されている所定の係数を読み出して出力する係数
テーブルと、係数テーブルから出力された所定の係数と
復号画像データとを積和演算することにより予測復号画
像データを生成する演算手段とからなることを特徴とす
る画像信号処理装置である。
【0009】また、請求項9に記載の発明は、所定の圧
縮符号化手段によりブロック単位で圧縮符号化された圧
縮画像データを復号処理する画像信号処理方法におい
て、圧縮画像データをブロック単位で復号した復号画像
データの各ブロックの特徴量を検出するステップと、復
号画像データをパターン分類して復号画像データが属す
るクラスを検出するステップと、特徴量を検出するステ
ップによって得た注目ブロックおよび注目ブロックに隣
接する隣接ブロックの特徴量を集めて所定ビットで量子
化することにより得られる第1のクラス情報と、クラス
を検出するステップによって得た第2のクラス情報とに
基づいて生成された第3のクラス情報に応じて、予め記
憶されている所定の係数を読み出して出力するステップ
と、出力された所定の係数と復号画像データとを積和演
算することにより予測復号画像データを生成するステッ
プとからなることを特徴とする画像信号処理方法であ
る。
【0010】この発明は、注目ブロックおよびその隣接
ブロックの特徴量から得られる第1のクラス情報と、パ
ターン分類により得られる第2のクラス情報と、位置情
報とに基づいて新たな第3のクラス情報を生成し、第3
のクラス情報に応じて係数を読み出し、復号画像データ
に積和演算を施して、符号化される前の画像データと略
々同じ予測復号画像データを生成するようにしたことに
より、エッジやディテール部分を含むブロックとブロッ
ク歪みが出やすいブロックとで異なる特徴量の相違に応
じた適応的な処理を行うことができ、エッジやディテー
ル部分をなまらせることを未然に回避してブロック境界
付近に発生するブロック歪みを適応的に除去することが
できる。
【0011】
【発明の実施の形態】以下、この発明の実施例を図面を
参照して説明する。図1は、この発明の第1の実施例を
示すブロック図である。1で示す入力端子から供給され
るS1は、例えばDCT符号化によって高能率圧縮符号
化された伝送画像データに対して、図示しないが同期分
離回路およびエラー訂正回路を介して供給された画像デ
ータである。この画像データS1は、入力端子1からフ
レーム分解回路2に入力される。フレーム分解回路2
は、画像データS1から水平同期信号S2および垂直同
期信号S3を抽出して制御回路3に出力すると共に、画
像データS1を後段のブロック復号回路4へ供給する。
【0012】ブロック復号回路4は、圧縮符号化された
画像データS1をブロック単位で復元するものであり、
可変長符号化に対する復号を施した後、逆量子化して係
数を算出し、逆DCT変換して元のレベルデータを復元
する。このようにして復元されたブロック単位の復号画
像データS4は、ブロック遅延回路5および平均値算出
回路6へ供給される。
【0013】平均値算出回路6は、復号画像データS4
から各ブロック内の全画素の輝度レベルを標本化して平
均値データS5を算出し、得られた平均値データS5を
平均値メモリ7に供給する。これにより平均値メモリ7
には、各ブロック毎の平均値データS5が順次蓄えられ
る。一方、ブロック遅延回路5は、時間的な調整を行う
ための回路であり、上述のような平均値データS5を算
出するまでにかかる時間分だけ復号画像データS4を遅
延し、その遅延した復号画像データS4を遅延回路8お
よびクラス生成回路9に供給する。
【0014】遅延回路8は、供給された復号画像データ
S4をブロック分解して蓄積する。また、遅延回路8
は、蓄積した復号画像データS4を読み出す際に、後述
するクラス生成回路9、平均値メモリ7および制御回路
3の処理時間分だけ遅延処理する。遅延回路8は、こう
して遅延処理した復号画像データS4を予測タップ生成
回路10に読み出して供給する。
【0015】予測タップ生成回路10は、復号画像デー
タS4の各ブロック毎に、注目画素を中心としてその周
辺画素を集めることによって積和演算に要する予測タッ
プを形成する。また、予測タップ生成回路10は、復号
画像データS4を後段の積和演算回路13の演算形態に
合った信号フォーマットに変換して、積和演算回路13
に供給する。例えば、積和演算回路13が1次元で演算
処理する場合には、供給する復号画像データS4を1次
元の時系列データに変換して供給し、積和演算回路13
が2次元で演算処理する場合には、供給する復号画像デ
ータS4を所望のライン数の並列時系列データに変換し
て供給する。
【0016】このような予測タップ生成回路10から積
和演算回路13への復号画像データS4の供給動作に同
期して、平均値メモリ7に蓄えられた平均値データS5
が係数メモリ12に読み出される。ここで、平均値メモ
リ7からは、図2に示すように、注目ブロックだけでな
く、注目ブロックに隣接するブロックの平均値データも
読み出される。平均値メモリ7は、読み出した平均値デ
ータS5をそれぞれnビットにシフトダウンしてビット
数を減らしたものを第1のクラスコードS6として係数
メモリ12に供給する。
【0017】また、制御回路3は、水平同期信号S2お
よび垂直同期信号S3に基づいて注目画素のブロック内
での相対的な位置を示す位置情報を求める。例えば、図
3の示すように、(8×8)画素でなるブロックの場
合、縦横それぞれ3ビットずつの合計6ビットでブロッ
ク内の相対的な位置を表す。このようにして表された位
置情報S7は、係数メモリ12に供給される。なお、制
御回路3から平均値メモリ7に供給されている信号S9
は、書き込み動作および読み出し動作時に使用するアド
レス信号やイネーブル信号等の制御信号である。
【0018】また、クラス生成回路9は、各ブロック毎
に注目画素を中心タップとする空間クラスタップを設定
し、この空間クラスタップ内の復号値を、例えばADR
C符号化することにより、空間パターン分類によるクラ
ス検出を行い(すなわち、注目画素が属するクラスを検
出し)、その結果得られる第2のクラスコードS8をク
ラスコードメモリ(Class code Memory :CM)11に
供給する。これにより、クラスコードメモリ11には、
各ブロック毎の第2のクラスコードS8が順次蓄えられ
る。クラスコードメモリ11は、平均値メモリ7と同様
に、予測タップ生成回路10から積和演算回路13への
復号画像データS4の供給動作に同期して、第2のクラ
スコードS8を読み出して係数メモリ12に供給する。
【0019】係数メモリ12は、メモリからなり、積和
演算回路13での積和演算に使用されるクラス毎の係数
組が予め学習により記録されている。係数メモリ12
は、第1のクラスコードS6、第2のクラスコードS8
および位置情報S7を合わせることにより得られる第3
のクラスコードをアドレス情報として、そのクラス毎の
係数組を読み出して積和演算回路13に供給する。
【0020】積和演算回路13は、予測タップ生成回路
10から供給された復号画像データS4と係数メモリ1
2から供給された係数組とを積和演算処理することによ
り復号画像データS4に対してクラス毎に符号化される
前の画像データと略々同じ予測復号画像データを生成
し、(いわゆるクラス毎の適応予測処理を行い)、その
結果ブロック歪みが低減された予測復号画像データを獲
得し、この予測復号画像データS10を出力端子14か
ら出力する。
【0021】ここで、係数メモリ12に記憶されている
係数テーブルは、以下に説明するような学習により求め
られる。まず、既に知られている第1の画像データと、
その第1の画像データに対してDCT符号化および復号
化を施した第2の画像データを用意する。また、ADR
C符号化によって得たクラスコードに平均値データおよ
び位置情報を付加した新たなクラスコードを生成する。
そして、その求めたクラスコード毎に、第1および第2
の画像データに対して最小自乗法を適用した学習方法を
施して、最適な係数組を求める。この求められた係数組
をクラス毎にメモリに記憶することにより係数テーブル
が形成される。
【0022】すなわち、係数テーブルを形成する際に
は、図4に示すような係数作成回路20が用いられる。
まず、係数作成回路20に対しては、教師信号としての
画像データS20が入力される。この画像データS20
は、学習処理のため係数選定回路21に入力されると共
に、符号化復号化処理のためにブロック符号化回路22
に入力される。また、画像データS20のうち垂直同期
信号や水平同期信号等の位置情報S21も、位置情報に
よるクラス分類を行うために係数選定回路21に入力さ
れる。
【0023】ブロック符号化回路22は、画像データS
20にブロック単位で、例えばDCT符号化を施し、そ
の結果得られる。係数データを量子化し、量子化出力を
可変長符号化するものであるブロック符号化回路22か
らの圧縮符号化された画像データS22をブロック復号
回路23に供給する。ブロック復号回路23は、ブロッ
ク符号化回路4と同様に圧縮符号化された画像データS
22をブロック単位で復号し、復号された画像データS
23を係数選定回路21に供給すると共に、平均値算出
回路24およびクラス生成回路25に供給する。
【0024】平均値算出回路24は、画像データS23
を基に各ブロック内の全画素を平均化して得られる平均
値データS24を算出する。この平均値データS24
は、クラス分類の一要素として係数選定回路21に供給
される。また、クラス生成回路25は、画像データS2
3に、例えばADRC符号化を施すことによりクラスコ
ードS25を生成する。このクラスコードS25も、平
均値データS24と同様に、クラス分類の一要素として
係数選定回路21に供給される。
【0025】係数選定回路21は、供給されたクラスコ
ードS25に平均値データS24および位置情報S21
の要素を付加して新たなクラスコードを作成し、そのク
ラス毎に画像データS20およびS23の相関関係を線
形1次結合式で表し、この線形1次結合式による画像デ
ータS20およびS23の誤差の自乗が最小となる係数
組を学習により求める。そして、求めた係数組をクラス
コードと共に係数テーブルを形成する係数メモリ12へ
供給する。これにより、最適に適応予測処理し得る係数
テーブルが作成される。
【0026】具体的に、上述の構成において、動作を説
明すると、DCT符号化によって高能率圧縮符号化され
た伝送画像データをブロック復号回路4によってブロッ
ク単位で復号する。そして、平均値算出回路6によっ
て、各ブロック毎の平均値データS5を求め、この平均
値データS5が平均値メモリ7に蓄積される。平均値メ
モリ7は、注目ブロックおよびその隣接ブロックの平均
値データが読み出される。こうして読み出される注目ブ
ロックおよびその隣接ブロックの平均値データS5は、
それぞれnビットで量子化されて第1のクラスコードS
6として係数メモリ12に供給される。
【0027】また、復元されたブロック単位の復号画像
データS4をクラス生成回路9に供給し、ここで、例え
ばADRC符号化による第2のクラスコードS8を生成
して、この第2のクラスコードS8を係数メモリ12に
供給する。さらに、制御回路3では、水平同期信号S2
および垂直同期信号S3を基にして注目画素のブロック
内での相対的な位置を示す位置情報S7を求め、この位
置情報S7を係数メモリ12に供給する。
【0028】係数メモリ12は、供給された第1のクラ
スコードS6、第2のクラスコードS8および位置情報
S7を合わせたものを第3のクラスコードとし、この第
3のクラスコードをアドレス情報として予めクラス毎に
記憶されている係数組を読み出す。すなわち、クラス分
類処理によって得られた第2のクラスコードS8に、注
目ブロックおよびその隣接ブロックの平均値データS5
が集められて各々nビットで量子化されて得られる第1
のクラスコードS6と注目画素のブロック内での相対的
な位置を示す位置情報S7とを付加したものを新たな第
3のクラスコードとして係数組を読み出す。
【0029】積和演算回路13は、遅延回路8および予
測タップ生成回路10を介して供給される画像データと
係数メモリ12から供給される係数組とを線形1次結合
式の演算処理することにより画像データに対してクラス
毎に符号化される前の原画像データと略々同じ予測復号
画像データが生成される。その際、係数メモリ12から
供給される係数組は、ブロック歪みが出やすい、あるい
はエッジやディテール部分を含みやすい等といった特徴
を表す注目ブロックおよびその隣接ブロックの平均値デ
ータS5が集められて各々nビットで量子化されて得ら
れる第1のクラスコードS6や、注目画素がブロック内
のどの位置に当たるかといったことを表す位置情報S7
を考慮して作成された係数組であるため、エッジやディ
テール部分をなまらせることなく、ブロック境界付近に
発生するブロック歪みを適応的に除去することができ
る。
【0030】このようにして、画像信号処理装置では、
ブロック毎に平均値データS5を検出して、注目ブロッ
クおよびその隣接ブロックの平均値データS5が集めら
れて各々nビットで量子化されてなる第1のクラスコー
ドS6を求めると共に、ブロック内の画素の相対的な位
置情報S7を検出する。そして、復元したブロック毎の
復号画像データS4をパターン分類して得られる第2の
クラスコードS8に第1のクラスコードS6および位置
情報S7を付加して新たなクラス分類を行い、そのクラ
ス毎に画像データを符号化される前の原画像データと略
々同じ予測復号画像データを生成する。これにより、エ
ッジやディテール部分をなまらせることなく、ブロック
歪みを適応的に除去することができる。
【0031】なお、この第1の実施例の場合には、画像
信号処理装置の復号側における処理だけで上述したよう
な効果が得られるため、送信側の装置に負担をかけるこ
となく、また伝送フォーマットを変更する必要もないと
いう利点がある。また、第1の実施例の場合には、クラ
ス毎に画像データを符号化される前の原画像データと略
々同じ予測復号画像データを生成し、いわゆる適応予測
処理を行うことにより、ブロック歪みを適応的に除去し
得るだけでなく、解像度も向上し得る。
【0032】以上の構成によれば、復号画像データS4
の各ブロックの平均値データS5を検出すると共に、復
号画像データS4の各ブロック内の画素について相対的
な位置情報S7を検出し、復号画像データS4をパター
ン分類して得られる第2のクラスコードS8に、平均値
データS5から得られる第1のクラスコードS6および
位置情報S7を付加して新たなクラス分類を行い、こい
うして得られた第3のクラスコードをアドレス情報とし
て、そのクラス毎に係数を読み出して画像データを符号
化される前の原画像データと略々同じ予測復号画像デー
タを生成することにより、エッジやディテール部分を含
むブロックとブロック歪みが出やすいブロックとで異な
る平均値の相違に応じた適応的な予測復号画像データの
生成ができ、エッジやディテール部分をなまらせること
を未然に回避してブロック境界付近に発生するブロック
歪みを適応的に除去することができる画像信号処理装置
を実現することができる。
【0033】次に、この発明の第2の実施例を図5に示
す。この図5において、図1との対応部分に同一符号を
付して、示す。この図5は、図1に示す平均値算出回路
6に換えて最大値検出回路31、最小値検出回路32お
よび演算回路33が設けられており、これらによって中
央値データを求めるようになされている。
【0034】すなわち、図5に示すように、高能率圧縮
符号化、例えばDCT符号化された画像データS1をフ
レーム分解回路2およびブロック復号回路4を介して復
号処理することにより得られたブロック単位の復号画像
データS4は、ブロック遅延回路5に供給されると共
に、最大値検出回路31および最小値検出回路32に供
給される。最大値検出回路31および最小値検出回路3
2は、復号画像データS4の各ブロック毎に、例えば輝
度レベルの最大値および最小値をそれぞれ検出し、演算
回路33に供給する。演算回路33は、最大値および最
小値に基づいて中央値を算出し、得られた中央値を中央
値データS30として中央値メモリ34に供給する。具
体的には、最大値および最小値の平均値を算出して中央
値を得ている。中央値メモリ34は、こうして供給され
る各ブロック毎に中央値データS30を順次蓄える。
【0035】なお、画像データS1がADRC符号化に
よって圧縮符号化されている場合は、圧縮符号化さてい
る画像データS1にパラメータとして最大値または最小
値およびダイナミックレンジの情報が含まれているた
め、これらの値から最大値および最小値を求めることが
できる。
【0036】一方、ブロック遅延回路5は、中央値デー
タS30を算出するまでにかかる時間分だけ復号画像デ
ータS4を遅延し、その遅延した復号画像データS4を
遅延回路8およびクラス生成回路9に供給する。予測タ
ップ生成回路10から積和演算回路13への復号画像デ
ータS4の供給動作に同期して、中央値メモリ34に蓄
えられた中央値データS30が係数メモリ12に読み出
される。この際、中央値メモリ34は、注目ブロックお
よびその隣接ブロックの中央値データS30を読み出
し、読み出した中央値データS30をそのまま、あるい
はそれぞれnビットにシフトダウンしてビット数を減ら
したものを第1のクラスコードS31として係数メモリ
12に供給する。
【0037】ここで、係数メモリ12に記憶されている
係数組は、以下に説明するような学習により求められ
る。まず既に知られている第1の画像データと、その第
1の画像データに対して高能率圧縮符号化、例えばDC
T符号化および符号化を施した第2の画像データを用意
する。また、ADRC符号化によって得たクラスコード
に中央値データおよび位置情報を付加した新たなクラス
コードを発生する。そして、その求めたクラスコード毎
に、第1および第2の画像データに対して最小自乗法を
適用した学習法を施して、最適な係数組を求める。この
求められた係数組をクラス毎にメモリに記録することに
より係数メモリ12が形成される。
【0038】以上の構成において、画像信号処理装置で
は、DCT符号化によって高能率圧縮符号化された画像
データS1をブロック復号回路4によってブロック単位
で復号する。そして、最大値検出回路31、最小値検出
回路32および演算回路33によって求められた各ブロ
ック毎の中央値データS30が中央値メモリ34に蓄積
され、中央値メモリ34から読み出される際に注目ブロ
ックおよびその隣接ブロックの中央値データS30が読
み出される。こうして読み出された各中央値データS3
0は、それぞれnビットで量子化されて第1のクラスコ
ードS31として係数メモリ12に供給される。また、
復元されたブロック単位の復号画像データS4をクラス
生成回路9に供給し、ここで、例えばADRC符号化処
理を施すことにより第2のクラスコードS8を生成し
て、この第2のクラスコードS8を係数メモリ12に供
給する。さらに、制御回路3では、水平同期信号S2お
よび垂直同期信号S3を基にして注目画素のブロック内
での相対的な位置を示す位置情報S7を求め、この位置
情報S7を係数メモリ12に供給する。
【0039】係数メモリ12は、供給された第1のクラ
スコードS31、第2のクラスコードS8および位置情
報S7を合わせたものを第3のクラスコードとし、この
第3のクラスコードをアドレス情報として予めクラス毎
に記憶されている係数組を読み出す。すなわち、クラス
分類処理によって得られた第2のクラスコードS8に、
注目ブロックおよびその隣接ブロックの中央値データS
30を集めて各々nビットで量子化して得られる第1の
クラスコードS31と注目画素のブロック内での相対的
な位置を示す位置情報S7とを付加したものを新たな第
3のクラスコードとして係数組を読み出す。
【0040】積和演算回路13は、遅延回路8および予
測タップ生成回路10を介して供給される画像データと
係数メモリ12から供給される係数組とを積和演算処理
することにより画像データに対してクラス毎に符号化さ
れる前の原画像データと略々同じ予測復号画像データを
生成する。その際、係数メモリ12から供給される係数
組や、ブロック歪みが出やすい、あるいはエッジやディ
テール部分を含みやすい等といった特徴を表す注目ブロ
ックおよびその隣接ブロックの中央値データS30が集
められて各々nビットで量子化されて得られる第1のク
ラスコードS31や、注目画素がブロック内のどの位置
に当たるかといったことを表す位置情報S7を考慮して
作成された係数組であるため、エッジやディテール部分
をなまらせることなく、ブロック境界付近に発生するブ
ロック歪みを適応的に除去することができる。
【0041】このようにして画像信号処理装置では、ブ
ロック毎に検出した最大値および最小値から中央値デー
タS30を算出して、この中央値データS30を注目ブ
ロックおよびその隣接ブロックから集めて各々nビット
で量子化して第1のクラスコードS31を求めると共
に、ブロック内の画素の相対的な位置情報S7を検出す
る。そして、復元したブロック毎の復号画像データS4
をパターン分類して得られる第2のクラスコードS8に
第1のクラスコードS31および位置情報S7を付加し
て新たなクラス分類を行い、そのクラス毎に符号化され
る前の原画像データと略々同じ予測復号画像データを生
成する。これにより、エッジやディテール部分をなまら
せることなくブロック歪みを適応的に除去することがで
きると共に、復号画像データS4の最大値および最小値
の2値から第1のクラスコードS31を得られる。
【0042】以上の構成によれば、復号画像データS4
の各ブロック毎に検出した最大値および最小値から中央
値データS30を算出すると共に、復号画像データS4
の各ブロック内の画素について相対的な位置情報S7を
検出し、復号画像データS4をパターン分類して得られ
る第2のクラスコードS8に、中央値データS30から
得られる第1のクラスコードS31および位置情報S7
を付加して新たなクラス分類を行い、こうして得られた
第3のクラスコードをアドレス情報として、そのクラス
毎に係数を読み出して画像データを符号化される前の原
画像データと略々同じ予測復号画像データを生成するよ
うにしたことにより、各ブロック毎に検出した最大値お
よび最小値の2値から中央値データS30を算出し得る
と共に、エッジやディテール部分を含むブロックとブロ
ック歪みが出やすいブロックとで異なる中央値の相違に
応じた適応的な処理を行うことができ、複雑な回路構成
および算出方法を用いることなく、容易に第1のクラス
コードを得ることができ、エッジやディテール部分をな
まらせることを未然に回避してブロック境界付近に発生
するブロック歪みを適応的に除去することができる。
【0043】次に、この発明の第3の実施例を図6に示
す。この図6において、上述の図5と同様に、図1との
対応部分に同一符号を付して、示す。この図5は、図1
に示す平均値算出回路6に換えて標準偏差算出回路41
が設けられており、これによって標準偏差値を求めるよ
うになされている。
【0044】すなわち、図6に示すように、高能率圧縮
符号化、例えばDCT符号化された画像データS1をフ
レーム分解回路2およびブロック復号回路4を介して復
号処理することにより得られたブロック単位の復号画像
データS4は、ブロック遅延回路5に供給されると共
に、標準偏差算出回路41に供給される。標準偏差算出
回路41は、復号画像データS4の各ブロック毎に、例
えば輝度レベルの標準偏差値を検出し、標準偏差値メモ
リ42に供給する。標準偏差値メモリ42は、こうして
供給される各ブロック毎に標準偏差値S41を順次蓄え
る。
【0045】一方、ブロック遅延回路5は、標準偏差値
S41を算出するまでにかかる時間分だけ復号画像デー
タS4を遅延し、その遅延した復号画像データS4を遅
延回路8およびクラス生成回路9に供給する。遅延回路
8は、供給された復号画像データS4をブロック分解し
て蓄積して、蓄積した復号画像データS4を読み出す前
に、クラス生成回路9、標準偏差値メモリ42および制
御回路3の処理時間分だけ遅延処理する。遅延回路8
は、こうして遅延処理した復号画像データS4を予測タ
ップ生成回路10に読み出して供給する。
【0046】予測タップ生成回路10は、復号画像デー
タS4の各ブロック毎に、注目画素を中心としてその周
辺画素を集めることによって積和演算に要する予測タッ
プを形成すると共に、復号画像データS4を積和演算回
路13の演算形態に合った信号フォーマットに変換し
て、積和演算回路13に供給する。
【0047】このような予測タップ生成回路10から積
和演算回路13への復号画像データS4の供給動作に同
期して、標準偏差値メモリ42に蓄えられた標準編纂値
S41が係数メモリ12に読み出される。この際、標準
偏差値メモリ42は、注目ブロックおよびその隣接ブロ
ックの標準偏差値S41を読み出し、読み出した標準偏
差値S41をそのまま、あるいはそれぞれnビットにシ
フトダウンしてビット数を減らしたものを第2のクラス
コードS42として係数メモリ12に供給する。
【0048】標準偏差算出回路41の一例を図7に示
す。入力端子51から復号画像データS4が供給され
る。ブロック単位の復号画像データS4は、輝度度数分
布テーブル52へ供給され、輝度度数分布テーブル52
において、ブロック単位の輝度レベルの度数分布のテー
ブルが生成される。生成されたテーブルに基づいて、平
均値算出回路53では、式(1)に示すように平均値が
算出され、算出された平均値は、標準偏差算出回路54
へ供給される。標準偏差算出回路54では、度数分布の
テーブルと平均値から標準偏差値が式(2)により算出
され、算出された標準偏差値は、出力端子55から取り
出される。取り出された標準偏差値が小さいときは、度
数分布の幅は狭く、標準偏差値が大きいときは、度数分
布の幅は広くなる。また、標準偏差値を自乗すること
で、分散値を求めることができ、この分散値を用いても
同様に使用することができる。
【0049】 平均値=Σ(輝度レベル×度数)/全度数 (1) 標準偏差値=√(Σ(輝度レベル−平均値)2 ×度数)/全度数) (2) ただし、√( )は、( )内の演算結果を平方根とす
る。
【0050】以上の構成において、画像信号処理装置で
は、高能率圧縮符号化、例えばDCT符号化された画像
データS1をブロック復号回路4によってブロック単位
で復号する。そして、標準偏差算出回路41によって求
められた各ブロック毎の標準偏差値S41が標準偏差値
メモリ42に蓄積され、標準偏差値メモリ42から読み
出される際に注目ブロックおよびその隣接ブロックの標
準偏差値S41が読み出される。こうして読み出された
各標準偏差値S41は、それぞれnビットで量子化され
て第1のクラスコードS42として係数メモリ12に供
給される。また、復元されたブロック単位の復号画像デ
ータS4をクラス生成回路9に供給し、ここで、例えば
ADRC符号化処理を施すことにより第2のクラスコー
ドS8を生成して、この第2のクラスコードS8を係数
メモリ12に供給する。さらに、制御回路3では、水平
同期信号S2および垂直同期信号S3を基にして注目画
素のブロック内での相対的な位置を示す位置情報S7を
求め、この位置情報S7を係数メモリ12に供給する。
【0051】係数メモリ12は、供給された第1のクラ
スコードS42、第2のクラスコードS8および位置情
報S7を合わせたものを第3のクラスコードとし、この
第3のクラスコードをアドレス情報として予めクラス毎
に記憶されている係数組を読み出す。すなわち、クラス
分類処理によって得られた第2のクラスコードS8に、
注目ブロックおよびその隣接ブロックの標準偏差値S4
1を集めて各々nビットで量子化して得られる第1のク
ラスコードS42と注目画素のブロック内での相対的な
位置を示す位置情報S7とを付加したものを新たな第3
のクラスコードとして係数組を読み出す。
【0052】積和演算回路13は、遅延回路8および予
測タップ生成回路10を介して供給される画像データと
係数メモリ12から供給される係数組とを積和演算処理
することにより画像データに対してクラス毎に復号され
る前の原画像データと略々同じ予測復号画像データを生
成する。その際、係数メモリ12から供給される係数組
や、ブロック歪みが出やすい、あるいはエッジやディテ
ール部分を含みやすい等といった特徴を表す注目ブロッ
クおよびその隣接ブロックの標準偏差値S41が集めら
れて各々nビットで量子化されて得られる第1のクラス
コードS42や、注目画素がブロック内のどの位置に当
たるかといったことを表す位置情報S7を考慮して作成
された係数組であるため、エッジやディテール部分をな
まらせることなく、ブロック境界付近に発生するブロッ
ク歪みを適応的に除去することができる。
【0053】このようにして画像信号処理装置では、ブ
ロック毎に検出した標準偏差値S41を注目ブロックお
よびその隣接ブロックから集めて各々nビットで量子化
して第1のクラスコードS42を求めると共に、ブロッ
ク内の画素の相対的な位置情報S7を検出する。そし
て、復元したブロック毎の復号画像データS4をパター
ン分類して得られる第2のクラスコードS8に第1のク
ラスコードS42および位置情報S7を付加して新たな
クラス分類を行い、そのクラス毎に符号化される前の原
画像データと略々同じ予測復号画像データを生成する。
これにより、エッジやディテール部分をなまらせること
なくブロック歪みを適応的に除去することができると共
に、復号画像データS4の標準偏差値から第1のクラス
コードS42を得られる。
【0054】以上の構成によれば、復号画像データS4
の各ブロック毎に検出した標準偏差値S41と共に、復
号画像データS4の各ブロック内の画素について相対的
な位置情報S7を検出し、復号画像データS4をパター
ン分類して得られる第2のクラスコードS8に、標準偏
差値S41から得られる第1のクラスコードS42およ
び位置情報S7を付加して新たなクラス分類を行い、こ
うして得られた第3のクラスコードをアドレス情報とし
て、そのクラス毎に係数を読み出して画像データを符号
化される前の原画像データと略々同じ予測復号画像デー
タを生成するようにしたことにより、各ブロック毎に検
出した標準偏差値S41を得ると共に、エッジやディテ
ール部分を含むブロックとブロック歪みが出やすいブロ
ックとで異なる標準偏差値の相違に応じた適応的な処理
を行うことができ、複雑な回路構成および算出方法を用
いることなく、容易に第1のクラスコードを得ることが
でき、エッジやディテール部分をなまらせることを未然
に回避してブロック境界付近に発生するブロック歪みを
適応的に除去することができる。
【0055】なお、上述の実施例において、画像データ
S1がDCT符号化によって圧縮符号化された場合につ
いて述べたが、この発明は、これに限らず、画像データ
がADRC符号化、DPCM(Differential Pulse Cod
e Modulation)符号化、BTC(Block Truncation Cod
ing )符号化等、その他の圧縮符号化によって符号化さ
れた場合にも、上述の場合と同様の効果を得ることがで
きる。
【0056】また、上述の実施例において、係数メモリ
12と積和演算回路13とが別々の回路構成でなる場合
について述べたが、この発明は、これに限らず、係数メ
モリ12と積和演算回路13とをまとめてブロック歪み
除去回路として構成するようにしても良い。
【0057】さらに、上述の実施例において、クラス生
成回路9によってブロック毎の復号画像データS4をA
DRC符号化してクラス検出を行い、これにより第2の
クラスコードS8が得られる場合について述べたが、こ
の発明は、これに限らず、例えばADRC符号化で圧縮
符号化されている符号化画像信号の場合は、クラス生成
回路で符号化画像信号に含まれる再量子化コードをその
まま抽出して所定タップ数を集めることで第2のクラス
コードとしても良い。
【0058】また、上述の実施例において、圧縮符号化
されて伝送されてきた画像データS1を復号する画像信
号処理装置に、この発明を適用した場合について述べた
が、この発明は、これに限らず、例えば圧縮符号化され
て記録された画像データを復号して再生する画像信号処
理装置に適用した場合にも上述の場合と同様の効果を得
ることができる。要は、圧縮符号化された画像データを
復号する画像信号復号装置であれば広く適用し得る。
【0059】さらに、上述の実施例において、画像信号
処理装置の再生側または受信側にのみ、この発明を適用
することで上述したような効果が得られるため、送信側
の装置に負担をかけることなく、また伝送フォーマット
を変更する必要もないという利点がある。また、この実
施例の場合にも、クラス毎に画像データを修整する、い
わゆる適応予測処理を行うことにより、ブロック歪みを
適応的に除去し得るだけでなく、解像度も向上し得る。
【0060】
【発明の効果】この発明に依れば、注目ブロックおよび
その隣接ブロックの各平均値から得られる第1のクラス
情報と、位置情報と、パターン分類により得られる第2
のクラス情報に基づいて新たな第3のクラス情報を生成
し、第3のクラス情報に応じて係数を読み出し、復号さ
れた画像データに積和演算を施して符号化される前の原
画像データと略々同じ予測復号画像データを生成するよ
うにしたことにより、エッジやディテール部分をなまら
せることなく、ブロック境界付近に発生するブロック歪
みを適応的に除去し得ることができる。
【0061】また、復号された画像データの各ブロック
内の輝度レベルの最大値および最小値を検出し、検出し
た値から中央値を算出して、注目ブロックおよびその隣
接ブロックの各中央値から第1のクラス情報を得るよう
にしたことにより、複雑な回路構成および算出方法を要
することなく第1のクラス情報を得ることができると共
に、エッジやディテール部分を含むブロックとブロック
歪みが出やすいブロックとで異なる中央値の相違に応じ
た適応的な処理を行うことができ、エッジやディテール
部分をなまらせることを未然に回避してブロック境界付
近に発生するブロック歪みを適応的に除去することがで
きる。
【0062】さらに、復号された画像データの各ブロッ
ク内の輝度レベルの標準偏差値(あるいは分散値)を算
出して、注目ブロックおよびその隣接ブロックの各標準
偏差値から第1のクラス情報を得ることができると共
に、エッジやディテール部分を含むブロックとブロック
歪みが出やすいブロックとで異なる標準偏差値の相違に
応じた適応的な処理を行うことができ、エッジやディテ
ール部分をなまらせることを未然に回避してブロック境
界付近に発生するブロック歪みを適応的に除去すること
ができる。
【0063】しかも、この発明に依れば、再生または受
信装置側にのみ処理を行うことで上述のような効果を得
ることができるため、記録または伝送側に負担をかける
ことがなく、フォーマットを変更する必要もないという
利点がある。
【図面の簡単な説明】
【図1】この発明の第1の実施例による画像信号処理装
置の構成を示したブロック図である。
【図2】この発明に係るクラスコードを生成するために
平均値データを抽出する注目ブロックおよび隣接ブロッ
クの配置を説明するための略線図である。
【図3】この発明に係る注目画素のブロック内での相対
的な位置情報を説明するための略線図である。
【図4】この発明に適用される係数を学習するための構
成を示すブロック図である。
【図5】この発明の第2の実施例による画像信号処理装
置の構成を示したブロック図である。
【図6】この発明の第3の実施例による画像信号処理装
置の構成を示したブロック図である。
【図7】この発明の第3の実施例に適用される標準偏差
算出回路の構成を示したブロック図である。
【符号の説明】
2・・・フレーム分解回路、3・・・制御回路、4・・
・ブロック復号回路、5・・・ブロック遅延回路、6・
・・平均値算出回路、7・・・平均値メモリ、8・・・
遅延回路、9・・・クラス生成回路、10・・・予測タ
ップ生成回路、11・・・クラスコードメモリ、12・
・・係数メモリ、13・・・積和演算回路

Claims (9)

    【特許請求の範囲】
  1. 【請求項1】 所定の圧縮符号化手段によりブロック単
    位で圧縮符号化された圧縮画像データを復号処理する画
    像信号処理装置において、 上記圧縮画像データをブロック単位で復号した復号画像
    データの各ブロックの特徴量を検出する特徴量検出手段
    と、 上記復号画像データをパターン分類して上記復号画像デ
    ータが属するクラスを検出するクラス検出手段と、 上記特徴量検出手段によって得た注目ブロックおよび上
    記注目ブロックに隣接する隣接ブロックの上記特徴量を
    集めて所定ビットで量子化することにより得られる第1
    のクラス情報と、上記クラス検出手段によって得た第2
    のクラス情報とに基づいて生成された第3のクラス情報
    に応じて、予め記憶されている所定の係数を読み出して
    出力する係数テーブルと、 上記係数テーブルから出力された上記所定の係数と上記
    復号画像データとを積和演算することにより予測復号画
    像データを生成する演算手段とからなることを特徴とす
    る画像信号処理装置。
  2. 【請求項2】 請求項1に記載の画像信号処理装置にお
    いて、 上記特徴量は、 上記復号画像データの各ブロックの平均値であることを
    特徴とする画像信号処理装置。
  3. 【請求項3】 請求項1に記載の画像信号処理装置にお
    いて、 上記特徴量は、 上記復号画像データの各ブロック内の最大値および最小
    値から算出した中央値であることを特徴とする画像信号
    処理装置。
  4. 【請求項4】 請求項1に記載の画像信号処理装置にお
    いて、 上記特徴量は、 上記復号画像データの各ブロックの標準偏差であること
    を特徴とする画像信号処理装置。
  5. 【請求項5】 請求項1に記載の画像信号処理装置にお
    いて、 上記特徴量は、 上記復号画像データの各ブロックの分散値であることを
    特徴とする画像信号処理装置。
  6. 【請求項6】 請求項1に記載の画像信号処理装置にお
    いて、 さらに、上記復号画像データの各ブロック内の画素につ
    いて相対的な位置情報を検出する位置情報検出手段とを
    備えたことを特徴とする画像信号処理装置。
  7. 【請求項7】 請求項6に記載の画像信号処理装置にお
    いて、 上記第3のクラス情報は、 上記第1および第2のクラス情報と、上記位置情報とに
    基づいて生成されることを特徴とする画像情報処理装
    置。
  8. 【請求項8】 請求項1に記載の画像信号処理装置にお
    いて、 上記係数テーブルは、 上記第3のクラス情報毎に予め学習によって求めた係数
    を、上記第3のクラス情報をアドレス情報として記憶し
    たメモリからなることを特徴とした画像信号処理装置。
  9. 【請求項9】 所定の圧縮符号化手段によりブロック単
    位で圧縮符号化された圧縮画像データを復号処理する画
    像信号処理方法において、 上記圧縮画像データをブロック単位で復号した復号画像
    データの各ブロックの特徴量を検出するステップと、 上記復号画像データをパターン分類して上記復号画像デ
    ータが属するクラスを検出するステップと、 上記特徴量を検出するステップによって得た注目ブロッ
    クおよび上記注目ブロックに隣接する隣接ブロックの上
    記特徴量を集めて所定ビットで量子化することにより得
    られる第1のクラス情報と、上記クラスを検出するステ
    ップによって得た第2のクラス情報とに基づいて生成さ
    れた第3のクラス情報に応じて、予め記憶されている所
    定の係数を読み出して出力するステップと、 出力された上記所定の係数と上記復号画像データとを積
    和演算することにより予測復号画像データを生成するス
    テップとからなることを特徴とする画像信号処理方法。
JP21777196A 1996-04-11 1996-07-31 画像信号処理装置および方法 Expired - Fee Related JP3760517B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP21777196A JP3760517B2 (ja) 1996-04-11 1996-07-31 画像信号処理装置および方法

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP11428196 1996-04-11
JP8-114281 1996-04-11
JP21777196A JP3760517B2 (ja) 1996-04-11 1996-07-31 画像信号処理装置および方法

Publications (2)

Publication Number Publication Date
JPH09331526A true JPH09331526A (ja) 1997-12-22
JP3760517B2 JP3760517B2 (ja) 2006-03-29

Family

ID=26453063

Family Applications (1)

Application Number Title Priority Date Filing Date
JP21777196A Expired - Fee Related JP3760517B2 (ja) 1996-04-11 1996-07-31 画像信号処理装置および方法

Country Status (1)

Country Link
JP (1) JP3760517B2 (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001320587A (ja) * 2000-05-09 2001-11-16 Sony Corp データ処理装置およびデータ処理方法、並びに記録媒体
JP2001346209A (ja) * 2000-06-01 2001-12-14 Sony Corp データ処理装置およびデータ処理方法、並びに記録媒体
JP2002536935A (ja) * 1999-02-12 2002-10-29 ソニー エレクトロニクス インク 複合分類に基づく適応分類タップ選択方法及び装置
JP2005318096A (ja) * 2004-04-27 2005-11-10 Sony Corp 情報信号の処理装置および処理方法、並びにプログラムおよびそれを記録した媒体
US7336832B2 (en) 2002-07-19 2008-02-26 Sony Corporation Processor and processing method for an image signal, image display apparatus, generation apparatus and generation method for coefficient data used therein, program for executing each of these methods, and computer-readable medium recording the program
US8249154B2 (en) 2008-03-12 2012-08-21 Samsung Electronics Co., Ltd. Method and apparatus for encoding/decoding image based on intra prediction
US8358862B2 (en) 2008-05-20 2013-01-22 Sony Corporation Image signal processing apparatus, image signal processing method, prediction coefficient generating apparatus, prediction coefficient generating method, and programs for causing computer to execute the methods

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002536935A (ja) * 1999-02-12 2002-10-29 ソニー エレクトロニクス インク 複合分類に基づく適応分類タップ選択方法及び装置
JP2001320587A (ja) * 2000-05-09 2001-11-16 Sony Corp データ処理装置およびデータ処理方法、並びに記録媒体
JP2001346209A (ja) * 2000-06-01 2001-12-14 Sony Corp データ処理装置およびデータ処理方法、並びに記録媒体
JP4678454B2 (ja) * 2000-06-01 2011-04-27 ソニー株式会社 データ処理装置およびデータ処理方法、並びに記録媒体
US7336832B2 (en) 2002-07-19 2008-02-26 Sony Corporation Processor and processing method for an image signal, image display apparatus, generation apparatus and generation method for coefficient data used therein, program for executing each of these methods, and computer-readable medium recording the program
JP2005318096A (ja) * 2004-04-27 2005-11-10 Sony Corp 情報信号の処理装置および処理方法、並びにプログラムおよびそれを記録した媒体
JP4505729B2 (ja) * 2004-04-27 2010-07-21 ソニー株式会社 画像処理装置、画像処理方法、プログラム、および記録媒体
US8249154B2 (en) 2008-03-12 2012-08-21 Samsung Electronics Co., Ltd. Method and apparatus for encoding/decoding image based on intra prediction
US8358862B2 (en) 2008-05-20 2013-01-22 Sony Corporation Image signal processing apparatus, image signal processing method, prediction coefficient generating apparatus, prediction coefficient generating method, and programs for causing computer to execute the methods

Also Published As

Publication number Publication date
JP3760517B2 (ja) 2006-03-29

Similar Documents

Publication Publication Date Title
JP3169783B2 (ja) 動画像の符号化・復号システム
US5146326A (en) Coded picture information decoding apparatus having means for improving picture distortion
JPH0970044A (ja) 画像信号処理装置および方法
JP2002517176A (ja) デジタル動きビデオ信号のコード化と復号の方法および装置
WO2004047454A1 (ja) 画像信号の処理装置および処理方法、それに使用される係数データの生成装置および生成方法、並びに各方法を実行するためのプログラムおよびそのプログラムを記録したコンピュータ読み取り可能な媒体
JPH05219385A (ja) 画像圧縮・伸張方法および装置
US20120093227A1 (en) Data compression method and data compression device
JPH09331526A (ja) 画像信号処理装置および方法
JP2723867B2 (ja) 画像信号復号化装置
US5712928A (en) Picture encoding method and apparatus and picture decoding method and apparatus
JP3271098B2 (ja) ディジタル画像信号復号装置および方法
JP3627291B2 (ja) ブロック歪み除去装置および方法
JP2900808B2 (ja) 画像データの復号化時に生じるモスキートノイズの低減方法及び画像データの復号化装置
JP4078652B2 (ja) 画像信号復号装置及び画像信号復号方法
JPH08307835A (ja) クラス分類適応処理装置および方法
JPS63284974A (ja) 画像圧縮方式
JPH0888849A (ja) 画像信号処理方法及び画像信号伝送装置
JP3661883B2 (ja) 画像信号復号装置及び画像信号復号方法
JP2900815B2 (ja) 適応コアリング方法及び適応コアリング装置
JP3853257B2 (ja) モスキート歪み低減装置およびモスキート歪み低減方法
JP3896635B2 (ja) 画像データ変換装置及び方法、予測係数生成装置及び方法
JP6388476B2 (ja) 符号化装置及びプログラム
JP3152515B2 (ja) 画像・データ多重化回路
JP2891251B2 (ja) 画像符号化装置及び画像復号化装置
JP3627256B2 (ja) ディジタル画像信号の受信/再生装置および方法

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050105

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050301

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050412

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050613

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20051220

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060102

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100120

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100120

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110120

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120120

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130120

Year of fee payment: 7

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees