JPH0884335A - 画像信号処理方法及び画像信号伝送装置 - Google Patents
画像信号処理方法及び画像信号伝送装置Info
- Publication number
- JPH0884335A JPH0884335A JP24180094A JP24180094A JPH0884335A JP H0884335 A JPH0884335 A JP H0884335A JP 24180094 A JP24180094 A JP 24180094A JP 24180094 A JP24180094 A JP 24180094A JP H0884335 A JPH0884335 A JP H0884335A
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- pixels
- transmission
- interest
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Signal Processing For Digital Recording And Reproducing (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
に、画像の特徴に応じた的確なクラス分類処理を施すこ
とより、復元画像の解像度を向上させる。 【構成】補間対象画素である注目画素(+印)の近傍の
伝送画素d、i、f、gを参照画素とし、当該参照画素
の周囲の伝送画素c及びe、h及びj、a及びk、b及
びlの画素値の平均を求め、参照画素の画素値が当該平
均値以上か否かで論理値を求め、当該論理値のパターン
に基づいて注目画素(+印)をクラス分類するようにし
たことにより、画像の特徴に適応した的確なクラス分類
処理を行うことができ、復元画像の解像度を向上し得る
画像信号伝送装置を実現できる。
Description
像信号伝送装置に関し、特に原画像データの情報量を間
引き処理によつて削減して伝送する画像信号伝送装置に
適用して好適なものである。
ように画像信号を遠隔地に伝送するいわゆる画像信号伝
送システムや、画像信号をデイジタル化してビデオテー
プレコーダやビデオデイスクレコーダに記録し再生する
装置においては、伝送路や記録媒体を効率良く利用する
ため、デイジタル化した画像信号の相関を利用して有意
情報を効率的に符号化することにより伝送情報量や記録
情報量を削減し、伝送効率や記録効率を高めるようにな
されている。
化することにより、伝送するデータ量を削減する手法が
広く用いられている。この高能率符号化では、一般に、
予め原画像データに対して空間的あるいは時空間でのサ
ブサンプリング(間引き)を行うことにより画素数を減
らした後、圧縮符号化処理を施すことにより、伝送する
情報量を一段と削減している。時空間サブサンプリング
の例としては、MUSE(Multiple Sampling Encode)
方式がある。
すなわち間引かれた画素を補間によつて求めることによ
り解像度を上げる。一般には、固定タツプ、固定係数の
フイルタによつて補間を行う。ところが、このような補
間方法では、補間画素値を当該補間画素に隣接する複数
の画素の画素値の平均により求めるため、画像の種類に
よつては、画像ぼけ、時空間での変動(すなわちジヤー
キネス、エツジビジネス等)が発生し、この結果復元画
像に画質劣化が生じる問題がある。
特願平5-201913号に記載されているようなデイジタルデ
ータ変換装置が提案されている。図10(A)に示すよ
うに、このデイジタルデータ変換装置における送信器1
は入力画像データD1をサブサンプリング回路2及びエ
ンコーダ3を通すことにより圧縮符号化データD2を生
成し、これを出力端子4に与える。
ローカルデコーダ5により復号した後、最小二乗法演算
回路6に供給する。最小二乗法演算回路6は、復号デー
タD3及び入力画像データD1を入力し、サブサンプリ
ングにより間引かれた画素(取り除かれた画素)を注目
画素とし、入力画像データD1に含まれる当該注目画素
の画素値と復号データD3に含まれるその周辺の画素の
画素値とで線形一次結合モデルを立て、この線形一次結
合モデルの係数を最小二乗法の演算を行うことにより求
める。この結果最小二乗法演算回路6からは、サブサン
プリング回路2によつて間引かれた画素に対応した係数
データD4が出力され、当該係数データD4が出力端子
7に与えられる。
プリング後の画像データを圧縮符号化して得た圧縮符号
化データD2と共に、間引かれた画素とその周辺の伝送
画素との相関関係を表わす係数データD4を伝送するよ
うになされている。。
は、図10(B)に示すように構成されており、圧縮符
号化データD2を入力端子11を介してデコーダ12に
入力する。デコーダ12によつて復号された復号データ
D5は時系列変換回路13及び補間演算回路14に供給
される。また受信器10は係数データD4を入力端子1
5を介して補間演算回路14に入力する。
数データD4を用いて、線形一次結合式から補間データ
D6を求め、これを時系列変換回路13に送出する。時
系列変換回路13は、復号データD5と補間データD6
を原画像(すなわち入力画像データD1)と同一に配列
し、復元画像データD7を得る。
されたデイジタルデータ変換装置においては、送信器1
側において、高能率符号化して得た圧縮符号化データD
2のみを伝送するのではなく、間引かれた画素とその周
辺の伝送画素との相関関係を表わす係数データD4を共
に伝送し、受信器10側において、その係数データD4
を用いて実際には伝送されない間引かれた画素を生成す
るようにしたことにより、間引きにより伝送情報量を削
減した場合でも、受信器10側での画質劣化を低減し得
るようになされている。
て、送信器1側で、補間対象画素(注目画素)の周辺の
伝送画素の分布状態に応じて当該補間対象画素をクラス
分類し、各クラス毎に最小二乗法演算回路6によつて上
述した係数データD4を求める方法が提案されている。
この方法によれば、係数データD4の精度を向上し得る
ことにより受信器10での復元画像の画質を向上するこ
とができる。なおこの場合には、受信器側でも送信器側
と同様のクラス分類を行い、そのクラスについての係数
データを選択して補間画素値を得るようになされてい
る。
報に開示されているように、受信側に予め学習によつて
求めた予測係数又は予測値を格納するメモリを設け、間
引き処理が施された伝送画像データに応じて当該メモリ
から読み出される予測係数に基づき補間画素値を生成
し、又は伝送画像データに応じて当該メモリから読み出
される予測値を補間画素値とすることにより、間引きに
基づく画質劣化を低減するデイジタルデータ変換装置が
提案されている。
に示すように、送信器20において、サブサンプリング
回路21、エンコーダ22及び送信処理回路23を通し
て得た圧縮符号化データD10を出力端子24を介して
伝送路25に送出する。受信器30は入力端子31を介
して入力した圧縮符号化データD10を受信処理回路3
2及びデコーダ33を通すことにより復号データD11
を得、これを同時化回路34に送出する。同時化回路3
4は間引かれた画素を注目画素とし、各注目画素毎に周
辺の複数の伝送画素を同時化してクラスタリング回路3
5に送出する。
像データを階調やパターンに応じてクラス分類し、この
クラス分類結果を各注目画素のクラスを表わすクラス情
報D12としてメモリ36に送出する。メモリ36はク
ラス情報D12をアドレスとして、予め学習により各ク
ラス毎に求められて格納されている予測係数のうち、入
力したクラス情報D12に対応した予測係数D13を出
力する。
と同時化された周辺画素値とを使つて線形一次結合によ
る演算を施すことにより、補間画素データD14を作成
する。この補間画素データD14と復号データD11が
続く合成回路38によつて合成されることにより、復元
画像データD15が生成される。
データD10に存在しないような高周波成分をも復元す
ることができ、この結果間引き処理に基づく画質劣化を
抑制し得、高解像度の復元画像を得ることができる。
うに補間対象画素の周辺の伝送画素を用いて当該補間対
象画素をクラス分類し、各クラス毎に予測係数又は予測
値を求めこれを伝送する装置(特願平5-201913号)や、
予測係数又は予測値を予め学習により求めて受信側のメ
モリに記憶しておき、受信側で、補間対象画素をクラス
分類し、そのクラスに対応した予測係数又は予測値を出
力することにより補間対象画素値を求める装置(特開平
5-328185号公報)においては、クラス分類の仕方によつ
てはあまり画質の向上が望めなくなる場合や、予測係数
又は予測値を求める際の演算量が増大することにより実
現が困難になる場合がある。
の周辺の伝送画素を参照し、時空間での相関の強い方向
に応じてパターン分類する方法が考えられる。例えば図
12に示すように、+印で示す補間対象画素の周辺の1
2画素を用いて水平方向、垂直方向及び斜め2方向の合
成4方向のうちから最も相関の強い方向を検出し、その
方向を2ビツトでコード化すれば、補間対象画素を4通
りのクラスに分類することができる。ここで相関の強さ
を検出するためには、各方向に配列した画素間の差分絶
対値を算出すればよい。しかしながらこのようなクラス
分類手法では、クラス数が少ないのと、最も相関の強い
方向でしかクラスを表現できないため、補間対象画素の
特徴をクラスによつて十分に表現しているとは言えず、
画質改善の点で不十分であると考えられる。
値に近い補間画素を得ることができると考えられるが、
不用意にクラス数を多くすると、予測係数又は予測値を
求める際の演算量が増大し、また上述した受信器30
(図11)ではメモリ36に格納しなければならないデ
ータ量が増大する問題がある。
で、補間対象画素をクラス分類する場合に、一段と画像
の特徴に適応したクラス分類処理を施すことにより、復
元画像の解像度を向上し得る画像信号処理方法及び画像
信号伝送装置を提案しようとするものである。
め本発明においては、間引かれた画素を、その周辺の間
引かれずに残つた画素の状態に応じてクラス分類し、各
クラス毎に異なる処理を施すことにより間引かれた画素
の補間値を求める画素信号処理方法において、間引かれ
た画素(図3の+印)近傍の間引かれずに残つた画素
d、i、f、gを参照画素とし、当該参照画素の周囲の
間引かれずに残つた画素c及びe、h及びj、a及び
k、b及びlの画素値の平均値を求め、参照画素の画素
値が当該平均値以上か否かで論理値を決定する処理を、
複数の参照画素について施すことにより複数の論理値を
求め、当該論理値のパターンに基づいて間引かれた画素
をクラス分類するようにする。
1の所定画素を間引くことにより画素数の低減した伝送
画素データD2を生成する間引き手段41と、間引き手
段41により間引かれた画素を注目画素とし、当該注目
画素の空間的及び又は時間的に周辺の複数の伝送画素の
分布状態に応じて、各注目画素をクラス分類するクラス
分類手段45と、クラス分類手段45により分類された
クラス毎に、注目画素と注目画素の空間的及び又は時間
的に周辺の複数の伝送画素との相関関係を表わすパラメ
ータD4を生成するパラメータ生成手段44とを備え、
伝送画像データD2及びパラメータ情報D4を伝送する
画像信号伝送装置40において、クラス分類手段45
は、注目画素(図3の+印)近傍の伝送画素d、i、
f、gを参照画素とし、当該参照画素の周囲の伝送画素
c及びe、h及びj、a及びk、b及びlの画素値の平
均値を求め、参照画素の画素値が当該平均値以上か否か
で論理値1/0を決定する処理を、複数の参照画素につ
いて施すことにより複数の論理値を求め、当該論理値の
パターンに基づいて注目画素をクラス分類するようにす
る。
画素数が低減された伝送画素データD2と、間引かれた
画素を注目画素としたとき、当該注目画素の空間的及び
又は時間的に周辺の複数の伝送画素の分布状態に応じて
分類された各注目画素のクラスそれぞれについて求めら
れたパラメータD4とを受信して復元画像を生成する画
像信号伝送装置60において、間引かれた画素を注目画
素とし、当該注目画素の空間的及び又は時間的に周辺の
複数の伝送画素の状態に応じて、各注目画素をクラス分
類するクラス分類手段62と、伝送画素データD2と、
各注目画素のクラスに対応したパラメータD4とを用い
て、各注目画素に対応した補間データD32を生成する
補間データ生成手段63とを備え、クラス分類手段62
は、注目画素(図3の+印)近傍の伝送画素d、i、
f、gを参照画素とし、当該参照画素の周囲の伝送画素
c及びe、h及びj、a及びk、b及びlの画素値の平
均値を求め、参照画素の画素値が平均値以上か否かで論
理値1/0を決定する処理を、複数の参照画素について
施すことにより複数の論理値を求め、当該論理値のパタ
ーンに基づいて注目画素をクラス分類するようにする。
送画素数が低減された伝送画素データD10を受信し、
間引かれた画素を補間することにより復元画像を生成す
る画像信号伝送装置30において、間引かれた画素を注
目画素とし、当該注目画素の空間的及び又は時間的に周
辺の伝送画素の分布状態に応じて、各注目画素をクラス
分類するクラス分類手段35と、クラス分類手段35に
より分類されたクラスD12をアドレスとして、注目画
素と注目画素の空間的及び又は時間的に周辺の複数の伝
送画素との相関関係を表わす係数データD13を出力す
るメモリ手段36と、メモリ手段36から出力された係
数データD13と伝送画素データD11とを用いて、各
注目画素に対応した補間データを生成する補間データ生
成手段37とを備え、クラス分類手段35は、注目画素
(図3の+印)近傍の伝送画素d、i、f、gを参照画
素とし、当該参照画素の周囲の伝送画素c及びe、h及
びj、a及びk、b及びlの画素値の平均値を求め、参
照画素の画素値が当該平均値以上か否かで論理値1/0
を決定する処理を、複数の参照画素について施すことに
より複数の論理値を求め、当該論理値のパターンに基づ
いて注目画素をクラス分類するようにする。
(図3の+印)近傍の伝送画素d、i、f、gを参照画
素とし、参照画素の周囲の伝送画素c及びe、h及び
j、a及びk、b及びlの画素値の平均値を求め、参照
画素の画素値が当該平均値以上か否かで論理値を決定す
る処理を、複数の参照画素について施すことにより複数
の論理値を求め、当該論理値のパターンに基づいて注目
画素をクラス分類する。この結果、注目画素を周辺の伝
送画像の状態に応じて的確にクラスによつて表現できる
ようになる。この結果一段と真値に近い補間データD3
2、D14を得ることができることにより、復元画像の
解像度を向上し得る。
する。
符号化装置を示し、入力画像データD1をサブサンプリ
ング回路41に入力し、ここで入力画像データD1の所
定画素を間引くことにより情報量を削減した後、続く圧
縮エンコーダ42に送出する。圧縮エンコーダ42は間
引き後に残つた画素を圧縮符号化することにより圧縮符
号化データD2を生成し、これを伝送画像データとして
出力する。
ーダ43によつて復号され、当該復号データD20が係
数選定回路44及びクラス分類回路45に与えられる。
クラス分類回路45は補間対象画素(すなわち間引かれ
た画素)を注目画素とし、当該注目画素の空間的及び又
は時間的に周辺の伝送画素の分布状態に応じて各注目画
素をクラス分類し、当該分類結果をその補間対象画素の
クラス情報(以下これをインデツクスデータと呼ぶ)D
21として係数選定回路44に送出する。
入力した入力画像データD1及び復号データD20に基
づき、各クラス毎に、入力画像データD1に含まれる注
目画素の画素値とその周辺の復号データD20の画素値
との相関関係を1フレーム毎に学習により求め、この学
習結果を係数データD4として出力する。因に遅延回路
46はサブサンプリング回路41、圧縮エンコーダ42
及びローカルデコーダ43で要する処理時間分だけ入力
画像データD1を遅延させるものである。
ータは、図2に示すような構成でなる画像復号化装置6
0により受信されて復号される。画像復号化装置60
は、圧縮符号化データD2を圧縮デコーダ61によつて
復号し、これにより得た復号データD30をクラス分類
回路62に与える。クラス分類回路62は図1について
上述したクラス分類回路45と同様の構成でなり、実際
には伝送されてこない補間対象画素を注目画素とし、当
該注目画素の空間的及び又は時間的に周辺の伝送画素の
状態に応じて当該注目画素をクラス分類することによ
り、各注目画素のインデツクスデータD31を発生し、
これを補間データ作成回路63に送出する。
素のインデツクスデータD31、復号データD30及び
係数データD4に基づいて補間データD32を求める。
実際上、補間データ作成回路63はインデツクスデータ
D31に対応した係数データD4を選択し、選択した係
数データD4と補間対象画素の周辺の復号データD30
とを用いて線形一次結合式を立てることにより補間デー
タD32を求める。
は時系列変換回路64に送出される。時系列変換回路6
4は、復号データD30と補間データD32を原画像
(すなわち入力画像データD1)と同一に配列すること
により復元画像データD33を生成する。かくして画像
復号化装置60は、真値に近い補間画素を得ることがで
きることにより画質劣化のほとんど無い復元画像を得る
ことができる。
画素)の周辺の伝送画素を用いてあるパターン分けを行
うことにより、注目画素をクラス分類する。パターン分
けは、注目画素と周辺画素との相関の強さに応じて行
う。相関の強さを表わす指標としては、注目画素の周辺
の伝送画素による平均補間値と真値(実際の注目画素の
画素値)との差があり、その差の絶対値が小さい程相関
が強いということができる。
極性かで差分絶対値が等しくても異なる意味を持たせる
ことができることに着目し、この極性を注目画素の周辺
で複数集めることにより、注目画素をパターン分類す
る。これにより単に相関の最も強い方向を、その注目画
素のクラスとする場合に比して、格段に画像の特徴に応
じたクラス分類ができる。
号化装置60側のクラス分類回路62では用いることが
できないため、注目画素の真値の代わりに、注目画素に
隣接する画素の画素値を用いて周辺画素の平均補間値と
の差を求め、その極性を求めるようにする。また実施例
の場合、複数の差分値(極性込み)を複数ビツトで表現
するとあまりにもクラス数が多くなり過ぎるため、その
極性のみを1/0で符号化しパターン化する。
まず図3の+印で示す注目画素の周辺の伝送画素(◎印
で示す)を用いて、水平及び垂直方向に関して、それぞ
れ次式、
調べる関数で、正極性のとき1、負極性のとき0を論理
値として出力するものとする。つまり、1ビツト出力で
あり、P1〜P4を順番に並べることで4ビツトすなわ
ち16通りのクラス分類を行うことができる。
は、補間対象画素(注目画素)に隣接する伝送画素d、
i、f、gを参照画素とし、当該参照画素d、i、f、
gを挟んで当該参照画素d、i、f、gの両側の伝送画
素c及びe、h及びj、a及びk、b及びlの平均値を
求め、参照画素d、i、f、gの値がそれぞれc及び
e、h及びj、a及びk、b及びlの平均値以上か否か
で1/0を決定し、この結果をパターンとして4ビツト
で表現することで注目画素をクラス分類する。
いては、例えば注目画素の周辺の画素を用いて最も相関
の強い方向によつて注目画素をクラス分類するような場
合に比して、クラス数を余り増加させずに、注目画素の
特徴をクラスによつて的確に表現することができる。か
くして、クラス数が余り増加しないことにより、係数選
定回路44での演算量の増加を低く抑えることができる
と共に、注目画素の特徴をクラスによつて的確に表現で
きることにより、画像復号化装置60においてより真値
に近い補間画素値を得ることができる。
図4に示すように構成されており、時系列変換回路70
によつて、クラス分類に用いる注目画素の周辺の画素を
同時化して第1〜第4の相関度計算回路71A〜71D
に送出する。第1の相関度計算回路71Aは、図3に示
すように、注目画素の1ライン上での横方向の相関を
(1)式に基づいて計算し、当該計算結果を1/0で出
力する。第2の相関度計算回路71Bは注目画素の1ラ
イン下での横方向の相関を(2)式に基づいて計算し、
当該計算結果を1/0で出力する。第3の相関度計算回
路71Cは注目画素の1画素左側での縦方向の相関を
(3)式に基づいて計算し、当該計算結果を1/0で出
力する。第4の相関度計算回路71Dは注目画素の1画
素右側での縦方向の相関を(4)式に基づいて計算し、
当該計算結果を1/0で出力する。
Aの論理出力、第2の相関度計算回路71Bの論理出
力、第3の相関度計算回路71Cの論理出力及び第4の
相関度計算回路71Dの論理出力をこの順序で配列し、
これをインデツクスデータD21(又はD31)として
続く係数選定回路44(又は補間データ作成回路63)
に送出する。
係数選定回路44及び補間データ作成回路63の詳細な
構成について説明する。この実施例の場合、サブサンプ
リング回路41は、図5に示すように、各時点T0、T
1、T2、……でのフレーム画像に対して伝送画素数が
1/2 になるような間引き処理を施す。このときサブサン
プリング回路41は、連続する時点間で、前の時点でサ
ンプリングした位置と同様の位置の画素を次の時点では
サンプリングしないというように交互に間引く画素位置
を選択する所謂1/2 時空間オフセツトサブサンプリング
を行うことにより、画像の特徴量をできるだけ残しなが
ら伝送情報量を1/2 に削減する。因に、図5における○
印は間引き後に残つた画素(すなわち伝送画素)を表
し、+印は補間対象画素(注目画素)を表わす。また下
段のw1 〜w38は、後述する係数選定回路44によつて
求められる線形一次結合モデルの係数を表わす。
ve Dynamic Range Coding )回路により構成されてお
り、例えば1画素当り8ビツトの情報量でなる画素デー
タを、所定ブロツク内での最大画素値と最小画素値との
差分を表わすダイナミツクレンジ情報と、最小画素情報
と、各画素値と最小画素値との差分を例えば1ビツト量
子化した際の量子化情報とで表わすことにより、伝送情
報量を有効に削減する。
該補間対象画素の周辺の伝送画素と係数との線形一次結
合モデルによつて表し、このとき用いた係数を各クラス
毎に最小二乗法の演算によつて求める。この係数選定の
原理について説明する。図5に示すように、補間対象画
素ymの存在するフレームをT1とすると、そのフレー
ムT1から補間対象画素ym を中心としてその周囲の領
域を切り出すと共に、一つ前の時点のフレームT0及び
一つ後の時点のフレームT2からフレームT1で切り出
した領域と空間的に同じ位置の領域を切り出す。また補
間対象画素ym の画素値は入力画像データD1から抽出
する。
した領域内の伝送画素それぞれに係数wi を掛けること
により、補間対象画素ym を空間的及び時間的に周辺の
伝送画素による線形一次結合によつて表わす。この結果
補間対象画素ym の行列式Yと周辺の伝送画素xmiの行
列式Xは、係数wi の行列式Wを用いて、次式、
(5)式において、nは1つの補間対象画素ym を線形
一次結合式によつて表わす際の空間的及び時間的に周辺
の伝送画素数を表し(実施例の場合、1つの補間対象画
素ym を38タツプの線形一次結合モデルによつて表わ
すため、n=38である)、mは1フレーム内に存在す
る補間対象画素数を表わす。
して1個の係数組を求めようとすると、(5)式から1
フレームの補間対象画素数分の連立方程式を作ることに
なる。基本的には、この連立方程式を解いて係数を求め
ればよい。実施例では最小二乗法を用いてこの連立方程
式を解く。すなわち先ず、(5)式を残差行列Eを用い
て次式、
を求めるためには、e1 2+e2 2+……+ei-1 2+ei 2
を最小にする条件、すなわち次式、
……、wn を見つければよい。ここで(6)式より、次
式、
立てればそれぞれ、次式
規方程式が得られる。
は未知数の数がn個の連立方程式であるから、これによ
り最確値である各係数wi を求めることができる。正確
には(10)式でwi に掛かる(Σxjnxjn)(但し、
j=1……m)のマトリクスが正則であれば解くことが
できる。実際には、Gauss-Jordanの消去法(掃き出し
法)を用いて連立方程式を解く。
よつて求めた各クラス毎に上述した最小二乗法を用いて
係数値wi を求める。この結果各クラス毎に1フレーム
につき1組の係数を伝送すればよいことになり、全ての
補間対象画素についての係数値wi を求めて伝送する場
合に比して、格段に伝送情報量及び演算量を低減し得
る。実際に、係数の情報量はフレーム当りの画素情報量
に比べて無視できるくらいのオーダーである。
示すように構成されている。すなわち係数選定回路44
は復号データD20(xi )及び入力画像データD1に
含まれる補間対象画素データym を時系列変換メモリ9
0に入力する。時系列変換メモリ90は、図5について
上述したように線形一次結合モデルを形成するための画
素(x1 〜xn 、ym )を同時化して出力する。時系列
変換メモリ90から出力されたデータは、正規化方程式
生成回路91に与えられ、当該正規化方程式生成回路9
1によつて各クラス毎に(10)式で表わされるような
正規化方程式が生成され、続くCPU演算回路92によ
つて掃き出し法によつて各クラス毎の係数組が求められ
る。
アレイ93によつて各画素同士の乗算を行う。乗算器ア
レイ93は、図7に示すように構成されており、四角で
表わす各セル毎に画素同士の乗算を行い、これにより得
た各乗算結果を続く加算器メモリ94に与える。
乗算器アレイ93と同様に配列されたセルでなる加算器
アレイ95とメモリ(またはレジスタ)アレイ96A1
〜96A16とにより構成されている。メモリアレイ96
A1 〜96A16はクラス数分(実施例の場合、クラス分
類回路45により分類される16クラス分)設けられて
おり、インデツクスデータD21をデコードするインデ
ツクスデコーダ97の出力(クラス)に応答して一つの
メモリアレイ96A1 〜96A15又は96A16が選択さ
れ、選択されたメモリアレイ96A1 〜96A15又は9
6A16の格納値が加算器アレイ95に帰還される。この
とき加算器アレイ95によつて得られる加算結果が、再
び対応するメモリアレイ96A1 〜96A15又は96A
16に格納される。
アレイ95及びメモリアレイ96A1 〜96A16によつ
て積和演算が行われ、インデツクスによつて決定される
クラス毎にメモリアレイ96A1 〜96A15又は96A
16が選択されて、積和演算の結果によつてメモリアレイ
96A1 〜96A16の内容が更新される。
で表わされる正規化方程式のwi にかかる(Σx
jnxjn)(但し、j=1……m)の位置に対応する。
(10)式の正規化方程式を見れば明らかなように右上
の項を反転すれば左下と同じものになるため、各アレイ
は三角形の形状をしている。
毎に積和演算が行われて各クラス毎の正規化方程式が生
成される。クラス毎の正規化方程式の各項の結果は、そ
れぞれのクラスに対応するメモリアレイ96A1 〜96
A16に記憶されており、次にそれらのクラス毎の正規化
方程式の各項が掃き出し法演算を実現するCPU演算回
路92によつて計算される。この結果各クラス毎の係数
wi の組が求められ、これが係数データD4として送出
される。
うに、1フレーム毎に各クラスの係数組を記憶する係数
メモリ100を有し、この係数メモリ100は各クラス
毎の係数組w1 〜wn を格納すると共に、インデツクス
デコーダ101の出力(クラス)に応答してクラスに応
じた係数組w1 〜wn を出力する。この係数組w1 〜w
n がそれぞれレジスタ102A1 〜102An を介して
乗算器103A1 〜103An に与えられる。また乗算
器103A1 〜103An には、時系列変換回路104
により選択された復号データx1 〜xn が与えられる。
従つて乗算器103A1 〜103An の出力が加算回路
105により加算されることにより、補間対象画素の画
素値y(=x1 w1 +x2 w2 +……+xn wn )が得
られる。
ータD1に対して間引き処理を施すことによりデータ量
を削減した後、圧縮符号化データD2を生成する。また
画像符号化装置40は、間引かれた画素を注目画素と
し、当該注目画素の周辺の伝送画素a〜lの状態に応じ
て各注目画素をクラス分類し、次にこのクラス毎の係数
組w1 〜wn を求め、これを係数データD4として出力
する。
周辺の伝送画素間で、単に相関の最も強い方向を検出し
て注目画素をクラス分類するのではなく、注目画素の周
辺の伝送画素a〜lを用いて、注目画素に隣接する伝送
画素d、i、f、gに対応する平均補間値を算出する。
そして、この平均補間値が注目画素に隣接する上記伝送
画素d、i、f、gの画素値よりも大きいか小さいかで
パターン化したものを4ビツトで表現することにより、
注目画素をクラス分類する。この結果注目画素を周辺の
伝送画素a〜lの状態に応じたより的確なクラスによつ
て表現することができる。
タD2を復号した復号データD30及び係数データD4
に基づいて復元画像データD33を生成する。このとき
クラス分類回路62において、画像符号化装置40のク
ラス分類回路45でしたのと同様のクラス分類処理を施
すことにより各注目画素(補間対象画素)をクラス分類
する。次に補間データ作成回路63において、クラス分
類結果D31に応じて係数データD4から選択した係数
組w1 〜wn と復号データD30とを線形一次結合させ
ることにより補間データD32を作成する。
特徴に応じて的確にクラス分類したことにより、一段と
真値に近い補間データD32を得ることができ、間引き
に基づく画質劣化の少ない復元画像を得ることができ
る。
素a〜lから補間対象画素ym に隣接する伝送画素d、
i、f、gに対応する平均補間値を算出し、当該平均補
間値が上記伝送画素d、i、f、gの画素値よりも大き
いか小さいかでパターン化したものを複数ビツトで表現
するようにしたことにより、補間対象画素ym を周辺の
伝送画素の状態に応じて一段と的確にクラス分類し得
る。この結果一段と真値に近い補間データD32を得る
ことができることにより、高解像度の復元画像を得るこ
とができる。
の周辺の伝送画素a〜lから注目画素に隣接する伝送画
素d、i、f、gに対応する平均補間値を算出し、当該
平均補間値が隣接伝送画素d、i、f、gの画素値より
も大きいか小さいかでその極性のみを論理値1/0でパ
ターン化した場合について述べたが、極性に加えて、平
均補間値と隣接伝送画素d、i、f、gとの差分値(極
性込み)を複数ビツトで表現するようにしてもよい。こ
のようにすると、注目画素を周辺の伝送画素の状態に応
じて一段と厳密にクラス分類することができ、より真値
に近い補間データD32を得ることができる。
ように、注目画素の存在するフレーム内の伝送画素a〜
lを用いて上述したクラス分類を行つた場合について述
べたが、本発明はこれに限らず、注目画素の近傍の伝送
画素d、i、f、gに対して時間的に前後の伝送画素を
用いて平均補間値を算出し、この値と近傍伝送画素d、
i、f、gの画素値との差分の極性によりクラス分類を
行うようにしてもよい。また空間方向をさらに細分化す
ることより、クラス数を増やすようにしてもよい。
残つた伝送画素を圧縮エンコーダ42により圧縮符号化
して伝送する場合について述べたが、本発明はこれに限
らず、圧縮符号化せずに間引き後に残つた間引きデータ
をそのまま伝送する場合にも適用することができる。こ
の場合には、画像符号化装置40側で圧縮エンコーダ4
2及びローカルデコーダ43を省略すると共に、画像復
号化装置60側で圧縮デコーダ61を省略すればよい。
ーダ42としてADRC回路を用いた場合について述べ
たが、本発明はこれに限らず、圧縮エンコーダ42とし
て例えばDCT(Discrete Cosine Transform )変換符
号化、DPCM、ベクトル量子化、サブバンド符号化、
ウエーブレツト変換等の圧縮手法を用いた場合にも上述
の実施例と同様の効果を得ることができる。
リング回路41によつて入力画像データD1に対して1
/2の間引き処理を行う場合について述べたが、本発明
はこれに限らず、例えば1/4の間引き処理等、他の間
引き処理を行つた場合でも実施例と同様の効果を得るこ
とができる。
この注目画素の空間的及び又は時間的に周辺の伝送画素
との相関関係を表すパラメータとして、線形一次結合モ
デルを最小二乗法により解いて得た係数データD4を伝
送する場合について述べたが、本発明はこれに限らず、
パラメータとしては例えば各クラス毎に求めた注目画素
周辺の伝送画素値の平均値を代表値として伝送するよう
にしても良い。この場合平均演算に重心法を用いるよう
にすれば、クラス毎に誤差の少ない代表値を容易に求め
ることができる。またこれに限らず、要は伝送されない
注目画素と伝送画素との相関関係を表すような種々のパ
ラメータを用いることができる。
データD2と共に係数データD4を伝送する画像符号化
装置40のクラス分類回路45及びその画像復号化装置
60のクラス分類回路62に本発明を適用した場合につ
いて述べたが、本発明はこれに限らず、例えば図11に
示すように、各クラス毎の予測係数D13を発生するメ
モリ36を有する画像復号化装置(受信器)30のクラ
ス分類手段(クラスタリング回路)35にも本発明を適
用できる。
つて各クラス毎に獲得した予測係数を格納するようにす
れば良い。一例としては、各クラス毎に立てた線形一次
結合モデルの係数を、最小二乗法により求めるといつた
処理を様々な画像に対して行うことにより予測係数を求
める手法がある。
にも実施例のような係数データを発生する係数選定回路
44(図1)を設け、予め学習により獲得したメモリ3
6の内容を、新たに画像符号化装置から伝送されてくる
係数データによつて更新するようにした画像信号伝送装
置のクラス分類手段にも本発明を適用できる。
に代えて各クラス毎の予測値を予め格納するようにした
画像復号化装置(受信器)30のクラス分類手段(クラ
スタリング回路)35にも本発明を適用できる。
求める第1の方法としては、加重平均を用いた学習方法
がある。詳述すれば、補間対象画素の周辺の伝送画素を
用いて、補間対象画素に対してクラス分類を行い、クラ
ス毎に積算した補間対象画素の画素値を補間対象画素の
個数によつてインクリメントされた度数によつて割ると
言つた処理を様々な画像に対して行うことにより予測値
を求めることができる。
第2の方法としては、正規化による学習方法がある。詳
述すれば、補間対象画素を含む複数の画素からなるブロ
ツクを形成し、このブロツク内のダイナミツクレンジに
よつて、補間対象画素の画素値からそのブロツクの基準
値を減算した値を正規化し、この正規化された値の累積
値を累積度数で除した値を予測値とする処理を様々な画
像に対して行うことにより予測値を求めることができ
る。
は、クラス分類を施し各クラス毎に求めた予測係数又は
予測値を使つて補間画素値を生成する場合に広く適用す
ることができる。
画素である注目画素の近傍の伝送画素を参照画素とし、
当該参照画素の周囲の伝送画素の画素値の平均を求め、
参照画素の画素値が当該平均値以上か否かで論理値を求
め、当該論理値のパターンに基づいて注目画素をクラス
分類するようにしたことにより、画像の特徴に適応した
的確なクラス分類処理を行うことができ、解像度の向上
した復元画像を得ることができる。
ツク図である。
ツク図である。
に供する略線図である。
図である。
明、並びに線形一次結合モデルに用いる画素及び係数の
説明に供する略線図である。
ある。
すブロツク図である。
モリを有するデイジタルデータ変換装置の構成を示すブ
ロツク図である。
である。
クラスタリング回路、36……メモリ、37……補間デ
ータ作成回路、40……画像符号化装置、41……サブ
サンプリング回路、42……圧縮エンコーダ、43……
ローカルデコーダ、45、62……クラス分類回路、4
4……係数選定回路、63……補間データ推定回路、6
0……画像復号化装置、D1……入力画像データ、D2
……圧縮符号化データ、D4……係数データ、D21、
D31……インデツクスデータ、D32……補間デー
タ、D33……復元画像データ、W1 〜W38……係数。
Claims (10)
- 【請求項1】間引かれた画素を、その周辺の間引かれず
に残つた画素の状態に応じてクラス分類し、各クラス毎
に異なる処理を施すことにより上記間引かれた画素の補
間値を求める画素信号処理方法において、 間引かれた画素近傍の間引かれずに残つた画素を参照画
素とし、当該参照画素の周囲の間引かれずに残つた画素
の画素値の平均値を求め、上記参照画素の画素値が当該
平均値以上か否かで論理値を決定する処理を、複数の上
記参照画素について施すことにより複数の上記論理値を
求め、当該論理値のパターンに基づいて上記間引かれた
画素をクラス分類することを特徴とする画像信号処理方
法。 - 【請求項2】入力画像データの所定画素を間引くことに
より画素数の低減した伝送画素データを生成する間引き
手段と、 上記間引き手段により間引かれた画素を注目画素とし、
当該注目画素の空間的及び又は時間的に周辺の複数の上
記伝送画素の分布状態に応じて、各注目画素をクラス分
類するクラス分類手段と、 上記クラス分類手段により分類されたクラス毎に、上記
注目画素と上記注目画素の空間的及び又は時間的に周辺
の複数の上記伝送画素との相関関係を表わすパラメータ
を生成するパラメータ生成手段とを具え、 上記伝送画像データ及び上記パラメータ情報を伝送する
画像信号伝送装置において、 上記クラス分類手段は、 上記注目画素近傍の上記伝送画素を参照画素とし、当該
参照画素の周囲の上記伝送画素の画素値の平均値を求
め、上記参照画素の画素値が当該平均値以上か否かで論
理値を決定する処理を、複数の上記参照画素について施
すことにより複数の上記論理値を求め、当該論理値のパ
ターンに基づいて上記注目画素をクラス分類することを
特徴とする画像信号伝送装置。 - 【請求項3】上記パラメータ生成手段は、 上記クラス分類手段により分類されたクラス毎に、上記
注目画素と上記注目画素の空間的及び又は時間的に周辺
の複数の上記伝送画素とから線形一次結合モデルを立
て、最小二乗法の演算により解いた当該線形一次結合モ
デルの係数を上記パラメータとしたことを特徴とする請
求項2に記載の画像信号伝送装置。 - 【請求項4】間引きにより伝送画素数が低減された伝送
画素データと、間引かれた画素を注目画素としたとき、
当該注目画素の空間的及び又は時間的に周辺の複数の上
記伝送画素の分布状態に応じて分類された各注目画素の
クラスそれぞれについて求められたパラメータとを受信
して復元画像を生成する画像信号伝送装置において、 間引かれた画素を注目画素とし、当該注目画素の空間的
及び又は時間的に周辺の複数の上記伝送画素の分布状態
に応じて、各注目画素をクラス分類するクラス分類手段
と、 上記伝送画素データと、各注目画素のクラスに対応した
上記パラメータとを用いて、各注目画素に対応した補間
データを生成する補間データ生成手段とを具え、 上記クラス分類手段は、 上記注目画素近傍の上記伝送画素を参照画素とし、当該
参照画素の周囲の上記伝送画素の画素値の平均値を求
め、上記参照画素の画素値が上記平均値以上か否かで論
理値を決定する処理を、複数の上記参照画素について施
すことにより複数の上記論理値を求め、当該論理値のパ
ターンに基づいて上記注目画素をクラス分類することを
特徴とする画像信号伝送装置。 - 【請求項5】受信する上記パラメータは、 各クラス毎に、上記注目画素と上記注目画素の空間的及
び又は時間的に周辺の複数の上記伝送画素とから線形一
次結合モデルを立て、当該線形一次結合モデルの係数を
最小二乗法の演算により求められた係数データであり、 上記補間データ生成手段は、 各注目画素のクラスに対応した上記係数データと上記伝
送画素データとを線形一次結合することにより、各注目
画素に対応した上記補間データを生成することを特徴と
する請求項4に記載の画像信号伝送装置。 - 【請求項6】間引きにより伝送画素数が低減された伝送
画素データを受信し、間引かれた画素を補間することに
より復元画像を生成する画像信号伝送装置において、 間引かれた画素を注目画素とし、当該注目画素の空間的
及び又は時間的に周辺の上記伝送画素の分布状態に応じ
て、各注目画素をクラス分類するクラス分類手段と、 上記クラス分類手段により分類されたクラスをアドレス
として、上記注目画素と上記注目画素の空間的及び又は
時間的に周辺の複数の上記伝送画素との相関関係を表わ
す係数データを出力するメモリ手段と、 上記メモリ手段から出力された係数データと、上記伝送
画素データとを用いて、各注目画素に対応した補間デー
タを生成する補間データ生成手段とを具え、 上記クラス分類手段は、 上記注目画素近傍の上記伝送画素を参照画素とし、当該
参照画素の周囲の上記伝送画素の画素値の平均値を求
め、上記参照画素の画素値が当該平均値以上か否かで論
理値を決定する処理を、複数の上記参照画素について施
すことにより複数の上記論理値を求め、当該論理値のパ
ターンに基づいて上記注目画素をクラス分類することを
特徴とする画像信号伝送装置。 - 【請求項7】上記メモリ手段が出力する上記係数データ
は、 予め各クラス毎に、上記注目画素と上記注目画素の空間
的及び又は時間的に周辺の複数の上記伝送画素とから線
形一次結合モデルを立て、当該線形一次結合モデルの係
数を最小二乗法の演算により求めた係数データであるこ
とを特徴とする請求項6に記載の画像信号伝送装置。 - 【請求項8】間引きにより伝送画素数が低減された伝送
画素データを受信し、間引かれた画素を補間することに
より復元画像を生成する画像信号伝送装置において、 間引かれた画素を注目画素とし、当該注目画素の空間的
及び又は時間的に周辺の上記伝送画素の分布状態に応じ
て、各注目画素をクラス分類するクラス分類手段と、 上記クラス分類手段により分類されたクラスをアドレス
として、上記注目画素の予測値を出力するメモリ手段と
を具え、 上記クラス分類手段は、 上記注目画素近傍の上記伝送画素を参照画素とし、当該
参照画素の周囲の上記伝送画素の画素値の平均値を求
め、上記参照画素の画素値が当該平均値以上か否かで論
理値を決定する処理を、複数の上記参照画素について施
すことにより複数の上記論理値を求め、当該論理値のパ
ターンに基づいて上記注目画素をクラス分類することを
特徴とする画像信号伝送装置。 - 【請求項9】上記メモリ手段が出力する上記予測値は、 予め、上記伝送画素データと上記間引き対象の画素デー
タを用いて加重平均演算による学習によつて、各クラス
毎に求められたものであることを特徴とする請求項8に
記載の画像信号伝送装置。 - 【請求項10】上記メモリ手段が出力する上記予測値
は、 予め、上記伝送画像データと上記間引き対象の画素デー
タとを用いて正規化による学習によつて、各クラス毎に
求められたものであることを特徴とする請求項8に記載
の画像信号伝送装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP24180094A JP3703034B2 (ja) | 1994-09-10 | 1994-09-10 | 画像信号処理方法及び画像信号伝送装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP24180094A JP3703034B2 (ja) | 1994-09-10 | 1994-09-10 | 画像信号処理方法及び画像信号伝送装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH0884335A true JPH0884335A (ja) | 1996-03-26 |
JP3703034B2 JP3703034B2 (ja) | 2005-10-05 |
Family
ID=17079702
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP24180094A Expired - Lifetime JP3703034B2 (ja) | 1994-09-10 | 1994-09-10 | 画像信号処理方法及び画像信号伝送装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3703034B2 (ja) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO1998030027A1 (en) * | 1996-12-26 | 1998-07-09 | Sony Corporation | Picture signal coding device, picture signal coding method, picture signal decoding device, picture signal decoding method, and recording medium |
WO1998030028A1 (en) * | 1996-12-26 | 1998-07-09 | Sony Corporation | Picture coding device, picture coding method, picture decoding device, picture decoding method, and recording medium |
US5912708A (en) * | 1996-12-26 | 1999-06-15 | Sony Corporation | Picture signal encoding device, picture signal encoding method, picture signal decoding device, picture signal decoding method, and recording medium |
US6160845A (en) * | 1996-12-26 | 2000-12-12 | Sony Corporation | Picture encoding device, picture encoding method, picture decoding device, picture decoding method, and recording medium |
JP2002049383A (ja) * | 2000-08-02 | 2002-02-15 | Sony Corp | ディジタル信号処理方法、学習方法及びそれらの装置並びにプログラム格納媒体 |
JP2007295618A (ja) * | 2007-06-26 | 2007-11-08 | Sony Corp | 受信装置及び方法、プログラム、並びに記録媒体 |
US7453936B2 (en) | 2001-11-09 | 2008-11-18 | Sony Corporation | Transmitting apparatus and method, receiving apparatus and method, program and recording medium, and transmitting/receiving system |
-
1994
- 1994-09-10 JP JP24180094A patent/JP3703034B2/ja not_active Expired - Lifetime
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO1998030027A1 (en) * | 1996-12-26 | 1998-07-09 | Sony Corporation | Picture signal coding device, picture signal coding method, picture signal decoding device, picture signal decoding method, and recording medium |
WO1998030028A1 (en) * | 1996-12-26 | 1998-07-09 | Sony Corporation | Picture coding device, picture coding method, picture decoding device, picture decoding method, and recording medium |
US5912708A (en) * | 1996-12-26 | 1999-06-15 | Sony Corporation | Picture signal encoding device, picture signal encoding method, picture signal decoding device, picture signal decoding method, and recording medium |
US6160845A (en) * | 1996-12-26 | 2000-12-12 | Sony Corporation | Picture encoding device, picture encoding method, picture decoding device, picture decoding method, and recording medium |
US6339615B1 (en) | 1996-12-26 | 2002-01-15 | Sony Corporation | Picture encoding device, picture encoding method, picture decoding device, picture decoding method, and recording medium |
JP2002049383A (ja) * | 2000-08-02 | 2002-02-15 | Sony Corp | ディジタル信号処理方法、学習方法及びそれらの装置並びにプログラム格納媒体 |
JP4645867B2 (ja) * | 2000-08-02 | 2011-03-09 | ソニー株式会社 | ディジタル信号処理方法、学習方法及びそれらの装置並びにプログラム格納媒体 |
US7453936B2 (en) | 2001-11-09 | 2008-11-18 | Sony Corporation | Transmitting apparatus and method, receiving apparatus and method, program and recording medium, and transmitting/receiving system |
US7817863B2 (en) | 2001-11-09 | 2010-10-19 | Sony Corporation | Transmitting apparatus and method, receiving apparatus and method, program and recording medium, and transmitting/receiving system |
US8014635B2 (en) | 2001-11-09 | 2011-09-06 | Sony Corporation | Transmitting apparatus and method, receiving apparatus and method, program and recording medium, and transmitting/receiving system |
JP2007295618A (ja) * | 2007-06-26 | 2007-11-08 | Sony Corp | 受信装置及び方法、プログラム、並びに記録媒体 |
JP4735610B2 (ja) * | 2007-06-26 | 2011-07-27 | ソニー株式会社 | 受信装置及び方法、プログラム、並びに記録媒体 |
Also Published As
Publication number | Publication date |
---|---|
JP3703034B2 (ja) | 2005-10-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO1994014278A1 (en) | Image signal converter | |
JP3781203B2 (ja) | 画像信号補間装置及び画像信号補間方法 | |
JP3703034B2 (ja) | 画像信号処理方法及び画像信号伝送装置 | |
JP3271095B2 (ja) | ディジタル画像信号の高能率符号化装置および復号装置 | |
JP3674186B2 (ja) | 画像情報変換装置および方法 | |
JPH0795591A (ja) | ディジタル画像信号処理装置 | |
JP3946781B2 (ja) | 画像情報変換装置及び方法 | |
JP3759537B2 (ja) | 画像信号伝送装置及び画像信号伝送方法 | |
JPH07154642A (ja) | ディジタル画像信号処理装置 | |
JP3759538B2 (ja) | 画像信号処理方法及び画像信号伝送装置 | |
JP4140091B2 (ja) | 画像情報変換装置および画像情報変換方法 | |
JP3271096B2 (ja) | ディジタル画像信号処理装置 | |
JP3723995B2 (ja) | 画像情報変換装置および方法 | |
JPH07193789A (ja) | 画像情報変換装置 | |
JPH0851622A (ja) | ディジタル画像信号の処理装置 | |
JP3543339B2 (ja) | 符号化装置およびその復号装置 | |
JP3480015B2 (ja) | 画像データの生成装置および生成方法 | |
JP3653287B2 (ja) | 画像情報変換装置及び画像情報変換方法 | |
JPH08317347A (ja) | 画像情報変換装置 | |
JP3587188B2 (ja) | ディジタル画像信号処理装置および処理方法 | |
JP4552263B2 (ja) | ディジタル信号処理装置および方法、並びにディジタル画像信号処理装置および方法 | |
JP4042121B2 (ja) | 画像情報処理装置及び画像情報処理方法 | |
JP3627258B2 (ja) | ディジタル画像信号の高能率符号化および復号装置 | |
JP4001143B2 (ja) | 係数生成装置および方法 | |
EP0734179A2 (en) | Method and apparatus for selectively encoding/decoding a video signal |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20050107 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050308 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20050401 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050531 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20050701 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20050714 |
|
FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080729 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090729 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090729 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100729 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100729 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110729 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120729 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130729 Year of fee payment: 8 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
EXPY | Cancellation because of completion of term |