JP3824176B2 - 画像信号変換方法、画像信号変換装置及び画像信号伝送装置 - Google Patents
画像信号変換方法、画像信号変換装置及び画像信号伝送装置 Download PDFInfo
- Publication number
- JP3824176B2 JP3824176B2 JP10069395A JP10069395A JP3824176B2 JP 3824176 B2 JP3824176 B2 JP 3824176B2 JP 10069395 A JP10069395 A JP 10069395A JP 10069395 A JP10069395 A JP 10069395A JP 3824176 B2 JP3824176 B2 JP 3824176B2
- Authority
- JP
- Japan
- Prior art keywords
- image signal
- class
- pixel
- frequency distribution
- target pixel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Images
Description
【目次】
以下の順序で本発明を説明する。
産業上の利用分野
従来の技術
発明が解決しようとする課題(図8及び図9)
課題を解決するための手段
作用
実施例
(1)画像信号変換装置の構成(図1〜図4)
(2)学習及び予測演算(図5及び図6)
(3)実施例の動作(図1)
(4)実施例の効果
(5)他の実施例(図7)
発明の効果
【0002】
【産業上の利用分野】
本発明は画像信号変換方法、画像信号変換装置及び画像信号伝送装置に関し、特に解像度の低い画像信号を解像度の高い画像信号に変換する場合に適用して好適なものである。
【0003】
【従来の技術】
従来、この種の画像信号変換装置として、標準解像度(以下、SD(Standard Difinition )と呼ぶ)信号を高解像度(以下、HD(High Difinition )と呼ぶ)信号に変換するアツプコンバータがある。このアツプコンバータにおいては、SD画像信号を、水平補間フイルタによつて水平方向の画素数を増加させると共に垂直補間フイルタによつて垂直方向の画素数を増加させることにより、画像の解像度を向上するようになされている。
【0004】
【発明が解決しようとする課題】
ところが、このように補間フイルタを用いて解像度を向上させる方法は、単に隣接する画素からの平均補間によつて補間画素を生成しているに過ぎず、従つて生成されるHD画像信号の解像度はSD画像信号の解像度と実質的に何ら変わらなかつた。さらにハードウエア規模の制限から補間フイルタのタツプ長が短く制限された場合には変換効率の低さのために却つて解像度が劣化してしまう問題もあつた。
【0005】
そのため、解像度創造の方式において従来より予測精度を向上させる方法として、例えば特願平6-293963号に記載されているようなクラス分類適応処理が提案されている。このクラス分類適応処理を用いた画像信号変換装置1は、図8に示すように構成されている。すなわち信号変換装置1は解像度の低い入力画像データD1をクラスタツプ選択回路2に入力すると、ここで図9(A)に示すように注目画素の周辺画素を集めることによりクラスタツプデータ(この場合、注目画素を含む11画素の画素データ)D2を形成し、これをクラス分類回路3に送出する。
【0006】
クラス分類回路3はクラスタツプデータD2に対して例えばADRC(Adaptive Dynamic Range Coding )処理を施すことでクラスタツプデータD2をデータ圧縮し、これにより得た圧縮データをクラスコードD3として係数RAM(Random Access Memory)4に送出する。このようにクラスタツプ選択部2及びクラス分類部3は、入力画像を時空間パターン分類に基づき有限個のクラスにクラス分類する。
【0007】
係数RAM4には、予め高解像度の画像信号を用いて例えば最小二乗法などの学習によつて求められた各クラス毎の予測係数が格納されており、クラスコードD3を読出しアドレスとして当該クラスコードD3に応じた予測係数D4が出力される。
【0008】
また画像信号変換装置1は、入力画像データD1を遅延回路5を介して予測タツプ選択回路6に送出する。予測タツプ選択回路6は、図7(B)に示すように、クラスタツプでの注目画素と同じ位置の画素を注目画素として、その周辺画素を集めることにより予測タツプデータ(この場合、注目画素を含む23画素の画素データ)D5を形成し、これを予測演算回路7に送出する。
【0009】
予測演算回路7は予測係数D4及び予測タツプデータD5を用いて線型一次結合式を立てることにより積和演算を行い、入力画像データD1には含まれない補間画素値を生成する。画像信号変換装置1は、クラスタツプ選択回路2及び予測タツプ選択回路6における注目画素を順次移動させながら画面全体に亘つてこのような処理を施すことにより、予測演算回路7から高解像度の出力画像データD6を出力し得るようになされている。
【0010】
ところが、従来の画像信号変換方法では、入力画像のクラス分類を例えばADRC符号化などのパターン分類によつて画一的に行つていたため、入力画像の特徴を十分に反映したクラス分類ができているとはいるとはいえなかつた。この結果、生成されるHD画像信号の解像度もこれに応じて低下する問題があつた。
【0011】
本発明は以上の点を考慮してなされたもので、画像の特徴を十分に反映したクラス分類を行うことにより、解像度の低い画像信号から一段と高解像度の画像信号を生成し得る画像信号変換方法、画像信号変換装置及び画像信号伝送装置を提案しようとするものである。
【0012】
【課題を解決するための手段】
かかる課題を解決するため本発明は、入力される第1の画像信号を、当該第1の画像信号の解像度よりも高い解像度でなる第2の画像信号に変換する画像信号変換方法であつて、第1の画像信号に対してラプラシアンフイルタ処理を施し、当該処理後の画像を、第2の画像信号の注目画素を中心とした所定の大きさのブロツクに分割し、分割されたブロツクにおける画素レベルの度数分布を検出し、検出された度数分布の形状を判断し、判断された度数分布の形状に応じて、注目画素が属するクラスを決定し、クラスごとにそれぞれ求められた各予測係数のうち、当該決定されたクラスに対応する予測係数と、注目画素の周辺における第1の画像信号の画素とに基づく積和演算により注目画素を生成するようにした。
【0013】
また本発明は、入力される第1の画像信号を、当該第1の画像信号の解像度よりも高い解像度でなる第2の画像信号に変換する画像信号変換方法であつて、第1の画像信号に対してラプラシアンフイルタ処理を施し、当該処理後の画像を、第2の画像信号の注目画素を中心とした所定の大きさのブロツクに分割し、分割されたブロツクにおける画素レベルの度数分布を検出し、当該度数分布の形状に応じて注目画素が属する第1のクラスを決定する。また注目画素の周辺における第1の画像信号の画素に基づいて、注目画素が属する第2のクラスを決定する。そして、クラスごとにそれぞれ求められた各予測係数のうち、クラス決定ステツプで決定された第1及び第2のクラスを組み合わせたクラスに対応する予測係数と、注目画素の周辺における第1の画像信号の画素とに基づく積和演算により注目画素を生成するようにした。
【0014】
【作用】
ラプラシアンフイルタ処理によつて画像におけるエツジ等の特徴成分を強調した後、当該画像における所定ブロツクごとの度数分布の形状からその画像の特徴を判断し、当該画像が属するクラスを決定することができるため、その画像の特徴を十分に反映したクラスを生成できる。
【0015】
また、ラプラシアンフイルタ処理によつて画像におけるエツジ等の特徴成分を強調した後、当該画像における所定ブロツクごとの度数分布の形状からその画像の特徴を判断し、当該画像が属する第1のクラスを決定すると共に、ラプラシアンフイルタ処理前の元の画像に応じた第2のクラスを決定し、これら第1及び第2のクラスを組み合わせたクラスを決定することができるため、元の画像(入力画像信号)の特徴を一段と正確に表現したクラスを生成することができる。
【0016】
【実施例】
以下図面について、本発明の一実施例を詳述する。
【0017】
(1)画像信号変換装置の構成
図1において、10は全体として画像信号変換装置を示し、大きく分けて度数分布クラス生成部11、時空間クラス生成部12及び適応処理部13によつて構成されている。これにより画像信号変換装置10においては、入力画像を、時空間パターン分類に基づいてクラス分類するだけでなく入力画像の特徴成分に対して統計処理を行つてクラス分類し、これらのクラス分類結果を組み合わせることにより入力画像の特徴を十分に反映したクラス分類処理を行うことができるようになされている。
【0018】
画像信号変換装置10は、入力画像データD1を度数分布クラス生成部11のラプラシアンフイルタ14に入力して入力画像の現フレーム又はフイールドに対して、例えば図2(A)又は(B)に示すような2次元のフイルタ係数でなるラプラシアンフイルタ処理を施すことにより、エツジ等の画像の特徴成分を強調する。また度数分布クラス生成部11は、ラプラシアンフイルタ処理の結果に対して、続く非線型量子化器15によつて非線型量子化処理を施すことにより、さらに画像の特徴を強調する。
【0019】
ブロツク化回路16は非線型量子化器15からの出力画像を、注目画素データを中心とするpライン×p画素のブロツクにブロツク化して度数分布作成回路17に送出する。ここで画像データが8ビツトとして、ラプラシアンフイルタ処理後のデータ長を(符号+8)ビツトにまるめたとすると、ラプラシアンフイルタ処理後のデータは−256〜+255までの値をとる。度数分布作成回路17は各ブロツクにおいて512レベル値の各レベル毎の度数分布を検出し、図3に示すような度数分布表を作成する。領域分割回路18は、度数分布表をレベル方向に分割してレベル方向を複数の領域に分割する。この実施例の領域分割回路18はレベル方向を9個の領域に分割する。
【0020】
この度数分布の傾向としては、平坦な画像入力に対しては、ほとんど0を含む中心付近の領域に度数が集中するが、エツジのような変化の激しい画像入力に対しては分布が広がり、場合によつてはある領域の度数が多くなつたりしてなんらかの特徴を示すことがある。従つて度数分布クラス生成部11においては、度数分布の形状を判断することによりクラス分類を行うようことにより、入力画像の特徴をクラスに反映するようになされている。
【0021】
ADRC回路19は各ブロツクについての度数分布情報を圧縮することにより第1のクラスコードD10を生成する。ADRC回路19は各領域内の度数の総和を計算してこれを新たな度数分布とし、各領域(実施例の場合、9領域)の度数の最大値と最小値を検出し、この最大値と最小値との差分をダイナミツクレンジとして定義し、このダイナミツクレンジによつて決まる量子化ステツプ幅で各領域の度数と最小値との差分を割り算して各領域の度数をnビツトで適応的に量子化することにより、第1のクラスコードD10を生成する。これにより非常に多い度数分布表の情報を少ない情報量で的確に表現することができる。
【0022】
このようにしてADRC回路19は度数分布を正規化する。量子化後の符号値を9領域分並べると、n×9ビツトのコードを作成することができ、これをクラス分類のためのインデツクス(すなわち第1のクラスコードD10)とする。例えば、n=1の場合、各ブロツクは512クラスで表現される。第1のクラスコードD10は遅延回路20を介して適応処理部13の係数SRAM(Static Random Access Memory)21に送出される。
【0023】
時空間クラス生成部12は遅延回路22を介して入力した入力画像データD1を時系列変換回路23を介してクラスタツプ選択回路24に与える。クラスタツプ選択回路24は、図9について上述したように注目画素を中心としてその周辺画素を集めることによりクラスタツプデータD11を形成し、これをADRC回路25に送出する。ADRC回路25はクラスタツプデータD11に対してmビツトの適応ダイナミツクレンジ符号化処理を施すことにより、クラスタツプデータD11を圧縮して第2のクラスコードD12を形成し、これを係数SRAM21に送出する。
【0024】
適応処理部13は時系列変換回路23の出力を遅延回路26及び時系列変換回路27を介して予測タツプ選択回路28に与える。予測タツプ選択回路28は、図9について上述したように注目画素を中心としてその周辺画素を集めることにより予測タツプデータD13を形成し、これを予測演算回路29に送出する。
【0025】
ここで係数SRAM21には、予め後述するような学習により各クラス毎に求められた予測係数が格納されており、第1及び第2のクラスコードD10及びD12により指定されたアドレスに格納されている予測係数D14を出力して予測演算回路29に与える。予測演算回路29は予測タツプデータD13及び予測係数D14を用いて線型一次結合式を立てることにより、入力画像データD1には含まれない新たな画素値(補間画素値)D15を求め、これを時系列変換回路30に与える。時系列変換回路30は、補間画素値D15と入力画像データD1をラインスキヤン順に配列して出力する。この結果時系列変換回路30からは高解像度の出力画像データD16が出力される。
【0026】
なお図2(A)に示すような2次元のラプラシアンフイルタ係数を実現するためには、ラプラシアンフイルタ14を、図4に示すように構成すれば良い。すなわちラプラシアンフイルタ14は入力画像データD1をそれぞれ1画素分の遅延時間を有する遅延素子(D)31〜33を介して1ライン分の遅延時間を有するラインデイレイ(Line)38に送出する。そして各遅延素子31〜33の出力をそれぞれ乗算係数が−1に選定された乗算回路34〜36を介して積算回路37に送出する。
【0027】
ラインデイレイ38の出力は、それぞれ1画素分の遅延時間を有する遅延素子39〜41を介して1ライン分の遅延時間を有するラインデイレイ45に送出される。そして各遅延素子39〜41の出力が、それぞれ乗算係数が−1、8、−1に選定された乗算回路42、43、44を介して積算回路37に送出される。さらにラインデイレイ45の出力は、それそれ1画素分の遅延時間を有する遅延素子46〜48に順次送出される。そして各遅延素子46〜48の出力が、それぞれ乗算係数が−1に選定された乗算回路49〜51を介して積算回路37に送出される。この結果積算回路37において積算された各乗算回路34〜36、42〜44、49〜51の出力がラプラシアンフイルタ14の出力として遅延素子52を介して出力される。
【0028】
(2)学習及び予測演算
ここで係数SRAM21には、以下に説明する学習により各クラス毎に予め求められた予測係数が記憶されている。すなわち予測係数を学習するために、先ず既に知られているHD画像に対応した、当該HD画像よりも画素数の少ないSD画像を形成しておく。そして、HD画像とSD画像を用いて、クラス毎に最適な予測係数を最小二乗法などの手法により求めて係数SRAM21に記憶する。
【0029】
実際上学習は、図5に示すような予測係数作成回路60によつて実現できる。図1との対応部分に同一符号を付して示す図5において、予測係数作成回路60はHD画像データを間引きフイルタ61を介して図1の入力画像データD1に対応するSD画像データに変換し、当該SD画像データを係数算出回路62、度数分布クラス形成部11及び時空間クラス生成部12に送出する。
【0030】
度数分布クラス生成部11は、SD画像データに対して上述したのと同様のクラス分類処理を行うことにより第1のクラスコードD10を生成し、これを係数算出回路62に送出する。時空間クラス生成部12も、SD画像データに対して上述したのと同様のクラス分類処理を行うことにより第2のクラスコードD12を生成し、これを係数算出回路62に送出する。
【0031】
係数算出回路62は、SD画像データ及びHD画像データを用いて、第1のクラスコードD10と第2のクラスコードD12を組み合わせてなる各クラス毎に、HD画像データに含まれかつSD画像データに含まれない補間対象画素の画素値とその周辺のSD画像データの画素値との相関関係を学習により求め、この学習結果を予測係数として係数SRAM21に出力する。この結果係数SRAM21には、図6に示すように、第1及び第2のクラスコードD10及びD12の組合せでなるアドレス毎に、予測係数組が記憶される。なお図6において、予測係数の( )内は第1のクラスと第2のクラスの組合せ番号を表わすものとする。
【0032】
次に係数算出回路62における予測係数算出の原理について説明する。係数算出回路62はHD画像に含まれかつSD画像に含まれない画素を注目画素(補間対象画素)とし、当該注目画素を、当該注目画素周辺のSD画像中の画素と予測係数との線型一次結合式によつて表し、このとき用いた予測係数を各クラス毎に最小二乗法の演算によつて求める。
【0033】
すなわち、先ずHD画像中の注目画素レベルをy、その周辺のSD画像中の画素レベルをx1 、x2 、……、xi として、次式
【数1】
で表わされる線型一次方程式を立てる。
【0034】
ここで(1)式における予測係数w1 、w2 、……、wi については、画素値yの実際の値と予測値との誤差が最小になるものを学習により求めれば良い。学習はクラス毎に複数の学習データに対して行うので、データ数がjとすると一般的なj>iでなる場合には予測係数w1 、w2 、……、wi は一意に決定することはできない。そこで、誤差ベクトルeの要素を、それぞれの学習データxk1、……、xki、yk における予測誤差ek として、次式
【数2】
のように定義して、次式
【数3】
を最小にする予測係数w1 、……、wi を求める。いわゆる最小二乗法による解法である。
【0035】
ここで(3)式のwi による偏微分係数を求めると、次式
【数4】
となる。(4)式が0になるような各wp を求めれば良い。そこで次式
【数5】
及び次式
【数6】
のように、Xpq、Yp を定義すると、上述した(4)式は行列を用いて、次式
【数7】
の正規方程式に書き換えることができる。
【0036】
ここで(7)式の正規方程式は未知数がi個の連立方程式であるから、これにより最確値である各未定係数w1 、……、wi を求めることができる。具体的には、一般に(7)式の左辺の行列は正定値対称なので、コレスキー法により解くことができる。かくして、HD画像を用いた学習によつて、各クラス毎の予測係数組w1 、……、wi を求めることができる。
【0037】
係数算出回路62は、このようにして求めた各クラス毎の予測係数組w1 、……、wi を、係数SRAM21の各クラスに対応したアドレスに格納する。かくして第1及び第2のクラスコードD10及びD12が入力されたとき、SD画像中の画素との線型一次結合により補間画素値を得ることができるような予測係数組w1 、……、wi を出力する係数SRAM21を作成することができる。
【0038】
予測演算回路29は係数SRAM21から与えられる予測係数D14と予測タツプ選択回路28から与えられる予測タツプデータD13とを線型一次結合することにより、補間画素値y′を求める。すなわち予測演算回路29は、予測タツプデータD13でなる画素値x1 、……、xi と予測係数D14でなる係数組w1 、……、wi とを用いて、補間画素値y′を、次式
【数8】
により求めるようになされている。
【0039】
(3)実施例の動作
以上の構成において、画像信号変換装置10は、度数分布クラス生成部11において、入力画像データD1に対してラプラシアンフイルタ処理を施し、ラプラシアンフイルタ後の画像における画素レベルの度数分布表を作成し、その度数分布に基づいて第1のクラスコードD10を形成する。このようにして度数分布クラス生成部11では、入力画像データD1のエツジ等の特徴を反映した第1のクラスコードD10が形成される。
【0040】
また画像信号変換装置10は、時空間クラス生成部12において、従来のクラス分類と同様の手法を用いて、入力画像データD1に基づいて第2のクラスコードD12を形成する。このようにして時空間クラス生成部12では、入力画像データD1の時空間でのレベル分布パターンを反映した第2のクラスコードD12が形成される。
【0041】
画像信号変換装置10は、第1のクラスコードD10をクラス分類のための第1の指標として使用すると共に第2のクラスコードD12を第2の指標として使用し、第1の指標と第2の指標を組み合わせて、総合的なクラス分類指標とする。そして、画像信号変換装置10は、適応処理部13において、第1及び第2のクラスコードD10及びD12を組み合わせてなるクラスコードを使つて、係数SRAM21に予め学習により各クラス毎に求められて格納された予測係数のうちクラスコードに応じた予測係数D14を出力させる。
【0042】
画像信号変換装置10は、出力された予測係数D14と予測タツプデータD13を用いて入力画像データD1に含まれない画素値を生成する。このように画像信号変換装置10においては、従来のクラス分類処理による第2のクラスコードD12に組み合わせて第1のクラスコードD10を用いるようにしたことにより、クラス分類精度を格段的に向上し得、この結果最終的に高解像度の出力画像データD15を得ることができる。
【0043】
(4)実施例の効果
以上の構成によれば、ラプラシアンフイルタ後の画像における画素レベルの度数分布状態を検出し、当該検出結果に基づいてその画像が属するクラスを決定することにより第1のクラスコードD10を形成すると共に、入力画像データD1の時空間でのレベル分布パターンに応じてその画像が属するクラスを決定することにより第2のクラスコードD12を形成し、当該第1及び第2のクラスコードD10及びD12を組み合わせたクラスを最終的なクラスとしたことにより、入力画像の特徴を反映したより正確なクラス分類を実現でき、この結果最終的に高解像度の出力画像データD16を得ることができる。
【0044】
(5)他の実施例
なお上述の実施例においては、第1及び第2のクラスコードD10及びD12を組み合わせたクラスを最終的な入力画像データD1のクラスとするようにした場合について述べたが、本発明はこれに限らず、第1のクラスコードD10のみを用いて入力画像データD1のクラスを表現するようにしても良く、この場合でもエツジ等の入力画像データD1の特徴を反映したクラスを生成できることにより上述の実施例に近い効果を得ることができる。この場合には、図1における時空間クラス生成部12を省略すると共に、係数SRAM21に第1のクラスコードD10にのみ対応する予測係数を記憶するようにすれば良い。
【0045】
また上述の実施例においては、予測係数記憶手段として係数SRAM21を用いた場合について述べたが、これに代えてRAM(Random Access Memory)やROM(Read Only Memory)等を用いるようにしても良い。
【0046】
また上述の実施例においては、第1及び第2のクラスコードD10及びD12に基づくクラスに対応する予測係数を記憶する予測係数記憶手段を設け、クラスに応じて出力される予測係数D14を用いて補間画素値D15を生成する場合について述べたが、本発明はこれに限らず、予測係数記憶手段に代えて、入力画像データD1に含まれない画素値に対応した予測値が第1のクラスコードD10及び第2のクラスコードD12を組み合わせた各クラス毎に記憶され、第1及び第2のクラスコードD10及びD12に応じた予測値を出力する予測値記憶手段を設けるようにしても実施例と同様の効果を得ることができる。またこの場合には図1における遅延回路26、時系列変換回路27、予測タツプ選択回路28及び予測演算回路29を省略することができる。
【0047】
この場合の予測値記憶手段に記憶させる予測値を求める第1の方法としては、加重平均を用いた学習方法がある。詳述すれば、補間対象画素の周辺のSD画素を用いてクラス分類を行い、クラス毎に積算した補間対象画素の画素値(HD画像を用いる)を補間対象の個数によつてインクリメントされた度数によつて割るといつた処理を様々な画像に対して行うことによりクラスに対応した予測値を求める方法である。
【0048】
また予測値記憶手段に記憶させる予測値を求める第2の方法としては、正規化による学習方法がある。詳述すれば、補間対象画素を含む複数の画素からなるブロツクを形成し、当該ブロツク内のダイナミツクレンジによつて、補間対象画素の画素値からそのブロツクの基準値を減算した値を正規化し、この正規化された値の累積値を累積度数で除した値を予測値とする処理を様々な画像に対して行うことによりクラスに対応した予測値を求める方法である。
【0049】
また上述の実施例においては、ラプラシアンフイルタ14の後段に非線型量子化器15を設けることによりラプラシアンフイルタ処理後の画像の特徴を一段と強調する場合について述べたが、非線型量子化器15を省略するようにしても良い。
【0050】
また上述の実施例においては、度数分布作成回路17によつて度数分布を検出した後、領域分割回路18によつて度数分布を各領域に分割する場合について述べたが、本発明はこれに限らず、度数分布を検出する際に予め領域毎の境界値を設定しておき、この境界値と各画素レベルを比較しながら度数を積算することで一気に所望の度数分布を検出するようにしても良い。また上述の実施例においては、複数領域に分割した度数分布の各領域毎の度数を正規化する正規化手段としてADRC回路19を用いた場合について述べたが、正規化手段としてはこの他のものを用いるようにしても良い。
【0051】
また上述の実施例においては、ADRC回路25によつてクラスタツプデータD11を圧縮して第2のクラスコードD12を形成する場合について述べたが、ADRC回路25に代えて例えばDCT(Discrete Cosine Transform )符号化、DPCM(差分符号化)、ベクトル量子化、サブバンド符号化やウエーブレツト変換等の圧縮手法を用いるようにしても良い。
【0052】
また上述の実施例においては、ラプラシアンフイルタ14によつて入力画像信号の特徴量を抽出した場合について述べたが、本発明はこれに限らず、例えば時間差分や動き補償後の残差を計算することにより入力画像信号の特徴量を抽出し、この特徴量に対して統計処理を施すことで第1のクラスを求めるようにしても良い。
【0053】
また上述の実施例においては、本発明を、解像度の低い入力画像信号を解像度の高い出力画像信号に変換する画像信号変換装置10に適用した場合について述べたが、本発明はこれに限らず、図7に示すような時空間モデル符号化方式を採用した画像信号伝送装置70に適用することもできる。
【0054】
図1との対応部分に同一符号を付して示す図7において、画像信号伝送装置70は送信手段でなるエンコーダ71から低解像度の画像信号と共に予測係数を伝送路100を介して受信手段でなるデコーダ72に伝送する。デコーダ72は伝送された低解像度の画像信号と予測係数を用いて高解像度の画像信号を復元する。
【0055】
ここでエンコーダ71はHD画像データD20をサンプリング回路73を通すことによりSD画像データD21を形成し、当該SD画像データを圧縮エンコーダ74によつて圧縮符号化することにより圧縮符号化データD22を形成し、これを遅延回路75を介して出力端子T1に与える。またSD画像データD21はローカルデコーダ76によつて一旦復号され、係数選定部77、度数クラス分布生成部11及び時空間クラス生成部12にそれぞれ送出される。度数クラス分布生成部11及び時空間クラス生成部12では、実施例において上述したようなクラス分類を行うことにより第1及び第2のクラスコードD10及びD12を生成し、これを係数選定部77に送出する。係数選定部77は第1及び第2のクラスコードD10及びD12を組み合わせたクラス毎に、SD画像データD21とHD画像データD20の相関関係を表わす予測係数D24を算出し、これを出力端子T2に与える。
【0056】
デコーダ72は入力端子T3に圧縮符号化データD22を受けると、これを圧縮デコーダ78によつて復号し、これにより得た復号画像データD25を度数分布クラス生成部11、時空間クラス生成部12及び時系列変換回路79に送出する。度数分布クラス生成部11及び時空間クラス生成部12で生成された第1及び第2のクラスコードD10及びD12は予測演算部80に送出される。また予測演算部80には、入力端子T4を介して予測係数D24が入力されると共に復号画像データD25が入力される。そして予測演算部80は、第1及び第2のクラスコードD10及びD12を組み合わせたクラスに対応した予測係数D24を選択し、当該予測係数D24と復号画像データD25とを用いた予測演算を行うことより復号画像データD25には含まれない補間画素データD26を算出し、これを時系列変換回路79に送出する。時系列変換回路79は入力した復号画像データD25と補間画素データD26をラインスキヤン順に時系列変換して出力する。
かくしてクラス分類手段として従来のように時空間クラス生成部12のみを用いた場合と比較して、復号画像データD25から一段と高解像度のHD画像データD27を得ることができる画像信号伝送装置70を実現できる。
【0057】
【発明の効果】
上述のように本発明によれば、入力される第1の画像信号を、当該第1の画像信号の解像度よりも高い解像度でなる第2の画像信号に変換する画像信号変換方法であつて、第1の画像信号に対してラプラシアンフイルタ処理を施し、当該処理後の画像を、第2の画像信号の注目画素を中心とした所定の大きさのブロツクに分割し、分割されたブロツクにおける画素レベルの度数分布を検出し、検出された度数分布の形状を判断し、判断された度数分布の形状に応じて、注目画素が属するクラスを決定し、クラスごとにそれぞれ求められた各予測係数のうち、当該決定されたクラスに対応する予測係数と、注目画素の周辺における第1の画像信号の画素とに基づく積和演算により注目画素を生成するようにした。これによりラプラシアンフイルタ処理によつて画像におけるエツジ等の特徴成分を強調した後の画像における所定ブロツクごとの度数分布の形状からその画像の特徴を判断し、当該画像が属するクラスを決定することができるため、その画像の特徴を十分に反映したクラスを生成でき、かくして低解像度の画像信号から一段と高解像度の画像信号を生成し得る画像信号変換方法及び画像信号変換装置を実現できる。
また上述のように本発明によれば、入力される第1の画像信号を、当該第1の画像信号の解像度よりも高い解像度でなる第2の画像信号に変換する画像信号変換方法であつて、第1の画像信号に対してラプラシアンフイルタ処理を施し、当該処理後の画像を、第2の画像信号の注目画素を中心とした所定の大きさのブロツクに分割し、分割されたブロツクにおける画素レベルの度数分布を検出し、当該度数分布の形状に応じて注目画素が属する第1のクラスを決定する。また注目画素の周辺における第1の画像信号の画素に基づいて、注目画素が属する第2のクラスを決定する。そして、クラスごとにそれぞれ求められた各予測係数のうち、クラス決定ステツプで決定された第1及び第2のクラスを組み合わせたクラスに対応する予測係数と、注目画素の周辺における第1の画像信号の画素とに基づく積和演算により注目画素を生成するようにした。これによりラプラシアンフイルタ処理によつて画像におけるエツジ等の特徴成分を強調した後の画像における所定ブロツクごとの度数分布の形状からその画像の特徴を判断し、当該画像が属する第1のクラスを決定すると共に、ラプラシアンフイルタ処理前の元の画像に応じた第2のクラスを決定し、これら第1及び第2のクラスを組み合わせたクラスを決定することができるため、元の画像(入力画像信号)の特徴を一段と正確に表現したクラスを生成することができ、かくして低解像度の画像信号から一段と高解像度の画像信号を生成し得る画像信号変換方法及び画像信号変換装置を実現できる。
【図面の簡単な説明】
【図1】本発明による画像信号変換装置の一実施例の構成を示すブロツク図である。
【図2】ラプラシアンフイルタの係数の例を示す略線図である。
【図3】度数分布クラス生成部の動作の説明に供する略線図である。
【図4】ラプラシアンフイルタの構成例を示すブロツク図である。
【図5】係数SRAM作成用の学習回路の構成を示すブロツク図である。
【図6】係数SRAMの内容を示す略線図である。
【図7】本発明による画像信号変換方法を適用した画像信号伝送装置の構成を示すブロツク図である。
【図8】クラス分類適応処理を用いた従来の信号変換装置の構成を示すブロツク図である。
【図9】クラスタツプパターン及び予測タツプパターンの説明に供する略線図である。
【符号の説明】
10……画像信号変換装置、11……度数分布クラス生成部、12……時空間クラス生成部、13……適応処理部、14……ラプラシアンフイルタ、17……度数分布作成回路、18……領域分割回路、21……係数SRAM、29……予測演算回路、60……予測係数作成回路、70……画像信号伝送装置、D1……入力画像データ、D10……第1のクラスコード、D11……クラスタツプデータ、D12……第2のクラスコード、D13……予測タツプデータ、D14……予測係数、D15……補間画素データ、D16……出力画像データ。
Claims (26)
- 入力される第1の画像信号を、当該第1の画像信号の解像度よりも高い解像度でなる第2の画像信号に変換する画像信号変換方法であつて、
上記第1の画像信号に対してラプラシアンフイルタ処理を施すラプラシアンフイルタ処理ステツプと、
上記ラプラシアンフイルタ処理後の画像を、上記第2の画像信号の注目画素を中心とした所定の大きさのブロツクに分割する分割ステツプと、
分割されたブロツクにおける画素レベルの度数分布を検出する分布検出ステツプと、
検出された度数分布の形状を判断する分布形状判断ステツプと、
判断された度数分布の形状に応じて、上記注目画素が属するクラスを決定するクラス決定ステツプと、
クラスごとにそれぞれ求められた各予測係数のうち、上記クラス決定ステツプで決定されたクラスに対応する予測係数と、上記注目画素の周辺における上記第1の画像信号の画素とに基づく積和演算により上記注目画素を生成する注目画素生成ステツプと
を具えることを特徴とする画像信号変換方法。 - 上記分布検出ステツプでは、
分割されたブロツクにおける画素レベルの度数分布をレベル方向への複数の領域に分割すると共に、当該各領域の度数を正規化し、
上記クラス決定ステツプでは、
正規化された度数分布の形状を判断する
ことを特徴とする請求項1に記載の画像信号変換方法。 - 上記分布検出ステツプでは、上記各領域の度数を正規化する際、
上記各領域で度数を足し合せた後、複数領域の度数の最大値及び最小値を検出し、当該最大値及び最小値の差分であるダイナミツクレンジによつて上記各領域の度数をnビツトで量子化する
ことを特徴とする請求項2に記載の画像信号変換方法。 - 上記注目画素生成ステツプでは、
上記積和演算に代わつて、クラスごとに求められた各予測値のうち、上記クラス決定ステツプで決定されたクラスに対応する予測値を選択することにより、上記注目画素を生成する
ことを特徴とする請求項1に記載の画像信号変換方法。 - 入力される第1の画像信号を、当該第1の画像信号の解像度よりも高い解像度でなる第2の画像信号に変換する画像信号変換方法であつて、
上記第1の画像信号に対してラプラシアンフイルタ処理を施すラプラシアンフイルタ処理ステツプと、
上記ラプラシアンフイルタ処理後の画像を、上記第2の画像信号の注目画素を中心とした所定の大きさのブロツクに分割する分割ステツプと、
分割されたブロツクにおける画素レベルの度数分布を検出し、当該度数分布の形状に応じて上記注目画素が属する第1のクラスを決定する第1のクラス決定ステツプと、
上記注目画素の周辺における上記第1の画像信号の画素に基づいて、上記注目画素が属する第2のクラスを決定する第2のクラス決定ステツプと、
クラスごとにそれぞれ求められた各予測係数のうち、上記クラス決定ステツプで決定された第1及び第2のクラスを組み合わせたクラスに対応する予測係数と、上記注目画素の周辺における上記第1の画像信号の画素とに基づく積和演算により上記注目画素を生成する注目画素生成ステツプと
を具えることを特徴とする画像信号変換方法。 - 上記第1のクラス決定ステツプでは、
分割されたブロツクにおける画素レベルの度数分布をレベル方向への複数の領域に分割すると共に、当該各領域の度数を正規化し、当該正規化された度数分布の形状に応じて上記第1のクラスを決定する
ことを特徴とする請求項5に記載の画像信号変換方法。 - 上記第1のクラス決定ステツプでは、上記各領域の度数を正規化する際、
上記各領域で度数を足し合せた後、複数領域の度数の最大値及び最小値を検出し、当該最大値及び最小値の差分であるダイナミツクレンジによつて上記各領域の度数をnビツトで量子化する
ことを特徴とする請求項6に記載の画像信号変換方法。 - 上記注目画素生成ステツプでは、
上記積和演算に代わつて、クラスごとに求められた各予測値のうち、上記第1及び第2のクラスを組み合わせたクラスに対応する予測値を選択することにより、上記注目画素を生成する
ことを特徴とする請求項5に記載の画像信号変換方法。 - 入力される第1の画像信号を、当該第1の画像信号の解像度よりも高い解像度でなる第2の画像信号に変換する画像信号変換装置であつて、
上記第1の画像信号に対してラプラシアンフイルタ処理を施すラプラシアンフイルタと、
上記ラプラシアンフイルタ処理後の画像を、上記第2の画像信号の注目画素を中心とした所定の大きさのブロツクに分割する分割手段と、
上記分割手段により分割されたブロツクにおける画素レベルの度数分布を検出する分布検出手段と、
上記分布検出手段により検出された度数分布の形状に応じて、上記注目画素が属するクラスを決定するクラス決定手段と、
上記第1の画像信号から上記注目画素を推定するための予測係数がクラスごとに記憶され、上記クラス決定手段により決定されたクラスに対応する予測係数を出力する予測係数記憶手段と、
上記予測係数記憶手段から出力された予測係数と、上記注目画素の周辺における上記第1の画像信号の画素とに基づく積和演算により上記注目画素を生成する注目画素生成手段と
を具えることを特徴とする画像信号変換装置。 - 上記クラス決定手段は、
上記分割手段により分割されたブロツクにおける画素レベルの度数分布をレベル方向への複数の領域に分割すると共に、当該各領域の度数を正規化し、当該正規化した度数分布の形状に応じて上記クラスを決定する
ことを特徴とする請求項9に記載の画像信号変換装置。 - 上記クラス決定手段は、
上記各領域で度数を足し合せた後、複数領域の度数の最大値及び最小値を検出し、当該最大値及び最小値の差分であるダイナミツクレンジによつて上記各領域の度数をnビツトで量子化する
ことを特徴とする請求項10に記載の画像信号変換装置。 - 上記予測係数記憶手段は、
クラスごとの予測係数に代わつて、上記注目画素を表す各予測値がクラスごとに記憶され、上記クラス決定手段により決定されたクラスに対応する予測値を出力する
ことを特徴とする請求項9に記載の画像信号変換装置。 - 入力される第1の画像信号を、当該第1の画像信号の解像度よりも高い解像度でなる第2の画像信号に変換する画像信号変換装置であつて、
上記第1の画像信号に対してラプラシアンフイルタ処理を施すラプラシアンフイルタと、
上記ラプラシアンフイルタ処理後の画像を、上記第2の画像信号の注目画素を中心とした所定の大きさのブロツクに分割する分割手段と、
分割されたブロツクにおける画素レベルの度数分布を検出し、当該度数分布検出結果に基づいて上記注目画素が属する第1のクラスを決定する第1のクラス決定手段と、
上記注目画素の周辺における上記第1の画像信号の画素に基づいて、上記注目画素が属する第2のクラスを決定する第2のクラス決定手段と、
上記第1の画像信号から上記注目画素を推定するための予測係数がクラスごとに記憶され、上記第1のクラス決定手段により決定された第1のクラスと上記第2のクラス決定手段により決定された第2のクラスとを組み合わせたクラスに対応する予測係数を出力する予測係数記憶手段と、
上記予測係数記憶手段から出力された予測係数と、上記注目画素の周辺における上記第1の画像信号の画素とに基づく積和演算により上記注目画素を生成する注目画素生成手段と
を具え、
上記第1のクラス決定手段は、
上記度数分布を画素レベル方向の複数の領域ごとに正規化し、当該正規化した度数分布の形状に応じて上記第1のクラスを決定する
ことを特徴とする画像信号変換装置。 - 上記第2のクラス決定手段は、
上記注目画素の周辺の上記第1の画像信号における画素の時空間のレベル分布のパターンに応じて、上記注目画素が属する第2のクラスを決定する
ことを特徴とする請求項13に記載の画像信号変換装置。 - 上記第1のクラス決定手段は、
上記度数分布をレベル方向への複数の領域に分割し、当該各領域の度数を正規化する
ことを特徴とする請求項13に記載の画像信号変換装置。 - 上記第1のクラス決定手段は、
上記各領域で度数を足し合せた後、複数領域の度数の最大値及び最小値を検出し、当該最大値及び最小値の差分であるダイナミツクレンジによつて上記各領域の度数をnビツトで量子化する
ことを特徴とする請求項13に記載の画像信号変換装置。 - 上記予測係数記憶手段は、
クラスごとの予測係数に代わつて、上記注目画素を表す各予測値がクラスごとに記憶され、上記第1のクラス決定手段により決定された第1のクラスと上記第2のクラス決定手段により決定された第2のクラスとを組み合わせたクラスに対応する予測値を出力する
ことを特徴とする請求項13に記載の画像信号変換装置。 - 解像度の高い画像信号をサブサンプルすることにより形成した解像度の低いサブサンプル画像信号と、上記サブサンプル画像信号から上記サブサンプル画像信号に含まれない注目画素を推定するために、所定のクラス決定手段によつて決定された上記サブサンプル画像信号の各クラスに対応して求めた予測係数とを送信する送信手段と、
上記サブサンプル画像信号及び上記予測係数を受信し、当該予測係数と、上記注目画素の周辺における上記サブサンプル画像信号の画素とに基づく積和演算により上記注目画素を生成して上記サンプリング画像信号よりも解像度の高い画像信号を復元する受信手段とを有する画像信号伝送装置において、
上記クラス決定手段は、
上記サブサンプル画像信号に対してラプラシアンフイルタ処理を施すラプラシアンフイルタと、
上記ラプラシアンフイルタ処理後の画像を、上記画像信号の注目画素を中心とした所定の大きさのブロツクに分割する分割手段と、
上記分割手段により検出されたブロツクにおける画素レベルの度数分布を検出する度数分布検出手段と
を具え、
上記分布検出手段により検出された上記度数分布の形状の形状に応じて、上記注目画素が属するクラスを決定する
ことを特徴とする画像信号伝送装置。 - 上記分布検出手段は、
上記分割手段により分割されたブロツクにおける画素レベルの度数分布をレベル方向への複数の領域に分割すると共に、当該各領域の度数を正規化し、当該正規化した度数分布の形状に応じて上記クラスを決定する
ことを特徴とする請求項18に記載の画像信号伝送装置。 - 上記分布検出手段は、
上記各領域で度数を足し合せた後、複数領域の度数の最大値及び最小値を検出し、当該最大値及び最小値の差分であるダイナミツクレンジによつて上記各領域の度数をnビツトで量子化する
ことを特徴とする請求項18に記載の画像信号伝送装置。 - 解像度の高い画像信号をサブサンプルすることにより形成した解像度の低いサブサンプル画像信号と、上記サブサンプル画像信号から上記サブサンプル画像信号に含まれない注目画素を推定するために、所定のクラス決定手段によつて決定された上記サブサンプル画像信号の各クラスに対応して求めた予測係数とを送信する送信手段と、
上記サブサンプル画像信号及び上記予測係数を受信し、当該予測係数と、上記注目画素の周辺における上記サブサンプル画像信号の画素とに基づく積和演算により上記注目画素を生成して上記サンプリング画像信号よりも解像度の高い画像信号を復元する受信手段とを有する画像信号伝送装置において、
上記クラス決定手段は、
上記サブサンプル画像信号に対してラプラシアンフイルタ処理を施すラプラシアンフイルタと、
上記ラプラシアンフイルタ処理後の画像を、上記画像信号の注目画素を中心とした所定の大きさのブロツクに分割する分割手段と、
上記分割手段により検出されたブロツクにおける画素レベルの度数分布を検出し、当該度数分布の形状に応じて、上記注目画素が属する第1のクラスを決定する第1のクラス決定手段と、
上記サブサンプル画像信号に基づいて上記注目画素が属する第2のクラスを決定する第2のクラス決定手段と
を具え、
上記第1のクラスと上記第2のクラスとの組み合わせが、上記注目画素を推定するためのクラスとされた
ことを特徴とする画像信号伝送装置。 - 上記第2のクラス決定手段は、
上記注目画素の周辺の上記サブサンプル信号における画素の時空間のレベル分布のパターンに応じて、上記注目画素が属する第2のクラスを決定する
ことを特徴とする請求項21に記載の画像信号変換装置。 - 上記第1のクラス決定手段は、
上記分割手段により分割されたブロツクにおける画素レベルの度数分布をレベル方向への複数の領域に分割すると共に、当該各領域の度数を正規化し、当該正規化した度数分布の形状に応じて上記第1のクラスを決定する
ことを特徴とする請求項21に記載の画像信号伝送装置。 - 上記第1のクラス決定手段は、
上記各領域で度数を足し合せた後、複数領域の度数の最大値及び最小値を検出し、当該最大値及び最小値の差分であるダイナミツクレンジによつて上記各領域の度数をnビツトで量子化する
ことを特徴とする請求項23に記載の画像信号伝送装置。 - 入力される第1の画像信号を、当該第1の画像信号の解像度よりも高い解像度でなる第2の画像信号に変換する画像信号変換方法であつて、
上記第1の画像信号における特徴量を抽出する抽出ステツプと、
抽出された特徴量を、上記第2の画像信号の注目画素を中心とした所定の大きさのブロツクに分割する分割ステツプと、
分割されたブロツクにおける上記特徴量に統計処理を施し、当該統計処理結果の分布を検出する分布検出ステツプと、
検出された統計処理結果の分布の形状を判断する分布形状判断ステツプと、
判断された度数分布の形状に応じて、上記注目画素が属するクラスを決定するクラス決定ステツプと、
クラスごとにそれぞれ求められた各予測係数のうち、上記クラス決定ステツプで決定されたクラスに対応する予測係数と、上記注目画素の周辺における上記第1の画像信号の画素とに基づく積和演算により上記注目画素を生成する注目画素生成ステツプと
を具えることを特徴とする画像信号変換方法。 - 入力される第1の画像信号を、当該第1の画像信号の解像度よりも高い解像度でなる第2の画像信号に変換する画像信号変換装置であつて、
上記第1の画像信号における特徴量を抽出する抽出手段と、
抽出された特徴量を、上記第2の画像信号の注目画素を中心とした所定の大きさのブロツクに分割する分割手段と、
分割されたブロツクにおける上記特徴量に統計処理を施し、当該統計処理結果の分布を検出する分布検出手段と、
検出された統計処理結果の分布の形状を判断する分布形状判断手段と、
判断された度数分布の形状に応じて、上記注目画素が属するクラスを決定するクラス決定手段と、
クラスごとにそれぞれ求められた各予測係数のうち、上記クラス決定手段で決定されたクラスに対応する予測係数と、上記注目画素の周辺における上記第1の画像信号の画素とに基づく積和演算により上記注目画素を生成する注目画素生成手段と
を具えることを特徴とする画像信号変換装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP10069395A JP3824176B2 (ja) | 1995-03-31 | 1995-03-31 | 画像信号変換方法、画像信号変換装置及び画像信号伝送装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP10069395A JP3824176B2 (ja) | 1995-03-31 | 1995-03-31 | 画像信号変換方法、画像信号変換装置及び画像信号伝送装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH08275120A JPH08275120A (ja) | 1996-10-18 |
JP3824176B2 true JP3824176B2 (ja) | 2006-09-20 |
Family
ID=14280815
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP10069395A Expired - Lifetime JP3824176B2 (ja) | 1995-03-31 | 1995-03-31 | 画像信号変換方法、画像信号変換装置及び画像信号伝送装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3824176B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4645869B2 (ja) * | 2000-08-02 | 2011-03-09 | ソニー株式会社 | ディジタル信号処理方法、学習方法及びそれらの装置並びにプログラム格納媒体 |
-
1995
- 1995-03-31 JP JP10069395A patent/JP3824176B2/ja not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
JPH08275120A (ja) | 1996-10-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US5940132A (en) | Image signal converting apparatus | |
RU2612611C2 (ru) | Способ и устройство для выполнения интерполяции на основе преобразования и обратного преобразования | |
JP3669530B2 (ja) | 画像信号変換装置及び画像信号変換方法 | |
JP3794505B2 (ja) | 信号変換装置及び信号変換方法 | |
JPH09212650A (ja) | 動きベクトル検出装置および検出方法 | |
JP3864400B2 (ja) | 画像処理装置および画像処理方法 | |
Kountchev et al. | Inverse pyramidal decomposition with multiple DCT | |
JP3271101B2 (ja) | ディジタル画像信号処理装置および処理方法 | |
JP3859089B2 (ja) | 信号変換装置及び信号変換方法 | |
JP3824176B2 (ja) | 画像信号変換方法、画像信号変換装置及び画像信号伝送装置 | |
CN1078795C (zh) | 用在图象编码系统中的改进的运动补偿方法 | |
JP3759538B2 (ja) | 画像信号処理方法及び画像信号伝送装置 | |
JP3326879B2 (ja) | 画像信号変換装置 | |
JP2004135254A (ja) | 画像処理装置 | |
JP4164912B2 (ja) | 信号処理装置及び信号処理方法 | |
JP4337186B2 (ja) | 画像情報変換装置および画像情報変換方法、学習装置および学習方法 | |
JPH1169147A (ja) | 直交変換符号化画像の画像サイズ変換方法 | |
JPH10112844A (ja) | 画像処理装置および画像処理方法 | |
JP4016138B2 (ja) | 画像信号変換装置及び画像信号変換方法 | |
JP3814850B2 (ja) | 信号変換装置および方法 | |
Biadgie | Near-lossless image compression using an improved edge adaptive hierarchical interpolation | |
JP3856244B2 (ja) | 信号変換装置及び信号変換方法 | |
JPH08275118A (ja) | 信号変換装置及び信号変換方法 | |
JP4016140B2 (ja) | 係数生成装置及び係数生成方法 | |
JP3420389B2 (ja) | 画像符号化方法及びその装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20041119 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20041203 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050201 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20050826 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20051025 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20060609 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20060622 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090707 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100707 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100707 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110707 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110707 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120707 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120707 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130707 Year of fee payment: 7 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
EXPY | Cancellation because of completion of term |