JP3600750B2 - Image compression device and image decompression device - Google Patents

Image compression device and image decompression device Download PDF

Info

Publication number
JP3600750B2
JP3600750B2 JP3441699A JP3441699A JP3600750B2 JP 3600750 B2 JP3600750 B2 JP 3600750B2 JP 3441699 A JP3441699 A JP 3441699A JP 3441699 A JP3441699 A JP 3441699A JP 3600750 B2 JP3600750 B2 JP 3600750B2
Authority
JP
Japan
Prior art keywords
image data
matrix
coefficient
pixels
enlarged image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP3441699A
Other languages
Japanese (ja)
Other versions
JP2000236550A (en
Inventor
紳聡 阿部
Original Assignee
ペンタックス株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ペンタックス株式会社 filed Critical ペンタックス株式会社
Priority to JP3441699A priority Critical patent/JP3600750B2/en
Publication of JP2000236550A publication Critical patent/JP2000236550A/en
Application granted granted Critical
Publication of JP3600750B2 publication Critical patent/JP3600750B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression Of Band Width Or Redundancy In Fax (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、静止画像である原画像の画素数を低減させて得られた画像データを記録媒体に記録し、その記録媒体から画像データを読み出して原画像を復元させる画像圧縮伸張装置に関する。
【0002】
【従来の技術】
従来、画像圧縮伸張装置における画像圧縮処理の例として、原画像を構成する多数の画素に含まれる所定数の画素値の平均値を求めて1つの画素を生成し、このような画素から成る縮小画像を記録媒体に記録するものが知られている。また画像圧縮伸張装置における画像伸張処理では、記録媒体から読み出された縮小画像に対して補間処理を施すことにより、原画像と同じ画素数の拡大画像が生成される。
【0003】
一方、他の画像圧縮伸張装置として、縮小画像に2次元離散コサイン変換を施して得られたDCT係数を記録媒体に記録し、記録媒体から読み出されたDCT係数に対して2次元逆離散コサイン変換を施してIDCT係数を得るものが知られている。IDCT係数は原画像の画素に含まれる一部の画素に対応しており、IDCT係数に対して補間処理を施すことによって、原画像と同じ画素数の拡大画像を生成することが可能である。
【0004】
【発明が解決しようとする課題】
画像圧縮伸張装置によって再生された拡大画像は、理想的には原画像に一致すべきであるが、縮小画像を生成したときに原画像に含まれる情報の一部が欠落するため、通常、原画像に一致せず、画質は相対的に悪い。
【0005】
本発明は、縮小画像から、原画像に対応した拡大画像を再生する画像圧縮伸張装置において、拡大画像の画質を向上させることを目的としている。
【0006】
【課題を解決するための手段】
本発明に係る画像圧縮装置は、複数の画素から成る第1のマトリクスによって構成される原画像データに基づいて、第1のマトリクスよりも少ない数の画素から成る第2のマトリクスによって構成される縮小画像データを生成する縮小画像生成手段と、縮小画像データに直交変換を施して縮小直交変換係数データを求める第1の直交変換手段と、縮小直交変換係数データに対して、第2のマトリクスよりも多い画素から成る第3のマトリクスによって構成される拡大画像データを得るように、逆直交変換を施す第1の拡大画像生成手段と、拡大画像データにコントラスト係数を施すことによって、拡大画像データが有するコントラストが原画像データが有するコントラストに近くなるように、コントラスト係数を求めるコントラスト係数演算手段とを備えたことを特徴としている。
【0007】
画像圧縮装置は、コントラスト係数と縮小画像データとを記録媒体に記録する記録手段を備えていてもよい。また画像圧縮装置は、コントラスト係数と縮小直交変換係数データとを記録媒体に記録する記録手段を備えていてもよい。
【0008】
コントラスト係数演算手段は例えば、第3のマトリクスに含まれる各画素の値とこれらの画素の平均値との差に、修正係数を乗じたことによって得られる修正値に対して、平均値を加算して中間修正拡大画像データを得る第1の演算手段と、中間修正拡大画像データを構成する画素の値と原画像データを構成する画素の値との差の二乗和を得る第2の演算手段と、二乗和が最小になるときの修正係数を求めてコントラスト係数として定める第3の演算手段とを備える。
【0009】
縮小画像生成手段は例えば、第1のマトリクスに含まれる所定数の画素値の平均値を求め、この平均値を、第2のマトリクスに含まれ、所定数の画素に対応した1つの画素値として定める。この場合、平均値は例えば、第1のマトリクスに含まれる8×8の画素値から求められる。
【0010】
第1のマトリクスは例えば64×64の画素から成り、第2のマトリクスは例えば8×8の画素から成る。
好ましくは、第2および第3のマトリクスはそれぞれn1×m1、n2×m2の画素から成る。なお、n2、m2はそれぞれn1の2倍、m1の2倍であり、n1、m1、n2、m3、N、Mは正の整数である。
【0011】
第1および第3のマトリクスに含まれる画素の数は、好ましくは同じである。この場合第1および第3のマトリクスは、例えばそれぞれ64×64の画素から成る。
【0012】
直交変換が2次元離散コサイン変換であるとき、逆直交変換は2次元逆離散コサイン変換である。この場合、第1、第2および第3のマトリクスがそれぞれ64×64、8×8および64×64の画素から成り、拡大画像生成手段が下記(1)式によって表される2次元逆離散コサイン変換により拡大画像データを得ることが好ましい。
【数2】

Figure 0003600750
ただし、 0≦x≦63、 0≦y≦63、I’yxは拡大画像データの画素値、 u,v=0 のとき Cu,Cv=1/21/2、 u,v≠0 のとき Cu,Cv=1 、 Dvuは2次元離散コサイン変換によって得られたDCT係数である。
【0013】
本発明に係る第1の画像伸張装置は、記録媒体に記録されたコントラスト係数と縮小画像データとを読み出すデータ読出手段と、縮小画像データに直交変換を施して縮小直交変換係数データを求める第2の直交変換手段と、縮小直交変換係数データに対して、第2のマトリクスよりも多い画素から成る第3のマトリクスによって構成される拡大画像データを得るように、逆直交変換を施す第2の拡大画像生成手段と、拡大画像データにコントラスト係数を施すことによって、拡大画像データを修正し、修正拡大画像データを求めるコントラスト変換手段とを備えたことを特徴としている。
【0014】
本発明に係る第2の画像伸張装置は、第1の画像伸張装置とデータ読出手段の構成が異なり、データ読出手段は、記録媒体に記録されたコントラスト係数と縮小直交変換係数データとを読み出すように構成される。また第2の画像伸張装置には、直交変換手段が設けられていない。その他の構成は第1の画像伸張装置と同様である。
【0015】
【発明の実施の形態】
以下、本発明の実施の形態を図面を参照して説明する。
図1および図2は本発明の第1の実施形態である画像圧縮伸張装置を示すブロック図である。図1は画像圧縮装置を示し、図2は画像伸張装置を示す。
【0016】
被写体SPからの反射光は撮影光学系11によって集光され、これにより撮像素子12の受光面に被写体SPの画像が結像される。撮像素子12の受光面にはレッド(R)、グリーン(G)およびブルー(B)のカラーフィルタが設けられており、撮像素子12では、R、GおよびBの各画像に対応したアナログの電気信号がそれぞれ発生する。この電気信号はAD変換器13において、デジタルの電気信号であるR、GおよびBの画像信号に変換される。R、GおよびBの画像信号は図示しない画像処理回路において、輝度データY、および色差データCb、Crに変換され、メモリ14に格納される。
【0017】
輝度データY、および色差データCb、Crは、画像において水平方向に約1000個、垂直方向に約600個の画素が配列して構成される原画像データである。後述するように縮小画像生成部15では、64×64の画素から成る第1のマトリクスが原画像データから抽出され、第1のマトリクスの原画像データに対して縮小処理が施される。縮小処理において原画像データは、第2のマトリクスによって構成される縮小画像データに変換される。第2のマトリクスは第1のマトリクスよりも少ない数の画素から成る。すなわち縮小画像データは、第1のメモリ14に格納された輝度データY、および色差データCb、Crよりも圧縮されており、圧縮率は例えば64分の1である。縮小画像データは、ICメモリカード等の記録媒体RMに記録される。
【0018】
また縮小画像データは、第1のDCT処理部16において2次元離散コサイン変換(2次元DCT)を施され、DCT係数に変換される。2次元DCTによって得られたマトリクスは縮小DCT係数データを構成し、その要素数は縮小画像データを構成する第2のマトリクスと同じである。DCT係数は第1の拡張IDCT処理部17において、後述する拡張2次元逆離散コサイン変換(拡張IDCT)を施される。これにより、第3のマトリクスによって構成される拡大画像データが得られる。
【0019】
縮小画像生成部15および第1のDCT処理部16における処理によってデータの欠落が生じなければ、拡大画像データは原画像データに一致するが、通常はデータの一部が欠落するために、拡大画像データのコントラストは原画像データよりも低下する。コントラスト係数計算部18では、コントラストの低下を補正するためのコントラスト係数が求められる。コントラスト係数は、拡大画像データが有するコントラストが原画像データが有するコントラストにできるだけ近くなるように、拡大画像データに施されるものである。コントラスト係数も、縮小画像データとともに記録媒体RMに記録される。
【0020】
輝度データY、および色差データCb、Crに対応した縮小画像データとコントラスト係数はそれぞれ記録媒体RMから読み出される。縮小画像データは、第2のDCT処理部21において2次元DCTを施され、DCT係数に変換される。DCT係数は、第2の拡張IDCT処理部22において、拡張IDCTを施され、第3のマトリクスによって構成される拡大画像データが得られる。拡大画像データとコントラスト係数はコントラスト変換部23に入力され、拡大画像データはコントラスト係数を用いて修正される。すなわち、拡大画像データのコントラストは、コントラスト係数によって、できるだけ原画像データに近くなるように修正され、輝度データY、および色差データCb、Crの形式で第2のメモリ24に格納される。
【0021】
図3は、図1および図2に示す画像圧縮伸張装置において処理される各画像データのマトリクスを示す図である。図4は縮小画像生成部15における縮小処理を示す図である。図3および図4を参照して縮小画像生成部15の作用を説明する。
【0022】
原画像データは約1000×600の画素値Pyxから成り、8×8の画素から成るブロックに分割される。図3においてブロックB1は、原画像データの左上隅のブロックを原点として、水平方向にsブロック目、垂直方向にtブロック目に位置する。水平方向に8個並び、かつ垂直方向に8個並ぶ64個のブロックによって第1のマトリクスM1が構成される。すなわち第1のマトリクスM1は64×64の画素値Pyxから成る。
【0023】
縮小画像生成部15では、第1のマトリクスM1によって構成される原画像データに基づいて第2のマトリクスM2が生成される。第2のマトリクスM2における画素値Rtsは下記(2)式によって示される。すなわち第2のマトリクスM2の画素値Rtsは、第1のマトリクスM1において、ブロックB1を構成する8×8の画素値Pyxの平均値を求めることによって得られる。
【0024】
【数3】
Figure 0003600750
ただし、原画像データにおいて原点は画像の左上隅C1の画素であり、xは画素の水平方向における座標、yは画素の垂直方向における座標を示す。
【0025】
図4に示す例では、第1のマトリクスM1に含まれるブロックB1は、160、158、183、211、221、226・・・の64個の画素値Pyxから成り、これら64個の画素値Pyxの平均値174が第2のマトリクスM2の対応画素値Ryxとして求められる。
【0026】
このように第2のマトリクスM2は8×8の画素値から成り、第2のマトリクスM2によって構成される縮小画像データは、原画像データよりも少ない画素によって元の画像を示すものである。換言すれば、原画像データにおいて水平方向にsブロック目、垂直方向にtブロック目に位置するブロックB1は、縮小画像データにおいて水平方向にs画素目、垂直方向にt画素目に位置する画素P1に対応する。
【0027】
図5は、第2のマトリクスM2の8×8の画素値と、これらの画素値のDCT係数とを示している。図3および図5を参照して、第1および第2のDCT処理部16、21において実行される2次元DCTを説明する。
【0028】
縮小画像データにおいて、第2のマトリクスM2の構成要素である画素値Rtsは、左上隅C2を原点とする(s,t)の座標系によって示されている。DCTを行なうため、画素値Rtsは(3)式に従って、第2のマトリクスM2において左上隅C3の画素を原点とする座標系に変換される。
【0029】
【数4】
Figure 0003600750
【0030】
DCTは、第1および第2のDCT処理部16、21において下記(4)式に従って行なわれる。
【数5】
Figure 0003600750
【0031】
DCTによって得られたDCT係数D(s,t) vuから成るマトリクスMDにおいて、原点(0,0)にあるDCT係数 (s,t) 00 は直流成分であり、残りの63個のDCT係数D(s,t) vuは交流成分である。直流成分は第2のマトリクスを構成する8×8の画素値の平均値に対応し、各交流成分は、それぞれ所定の空間周波数成分に対応している。
【0032】
次に、図3および図6を参照して、第1および第2の拡張IDCT処理部17、22において実行される拡張IDCTを説明する。
ここでは、説明の簡単のために、画像データのマトリクスが1次元的に配列されている場合について、すなわち1次元の拡張IDCTについて述べる。
【0033】
8つの画素Px(=P,P,P, ...P)が1次元的に配置されて成る画像データに対する1次元離散コサイン変換は下記(5)式によって表される。
【数6】
Figure 0003600750
【0034】
(5)式から理解されるように、1次元離散コサイン変換によって、8個の領域xにおける画素値Pxに基づいて空間周波数成分F(u)が求められる。空間周波数の種類の数(すなわち ”u” の数)は領域xの数に等しく、領域xの数が8の場合は8である。すなわち、この場合、直流成分F(0)と7つの交流成分F(1)、F(2)、・・・F(7)とが求められる。
【0035】
1次元逆離散コサイン変換は下記(6)式によって表される。
【数7】
Figure 0003600750
【0036】
(6)式から理解されるように、1次元逆離散コサイン変換によって、8個の空間周波数成分F(u)に基づいて画素値P’xが求められる。
【0037】
図6は、画素値P’xにおいて、直流成分F(0)に関する成分と、交流成分(1)、F(2)、F(3)に関する成分とを示している。直流成分F(0)に関する画素値P’xの成分A0は
【数8】
Figure 0003600750
によって示される。交流成分F(1)に関する画素値P’xの成分A1は
【数9】
Figure 0003600750
によって示される。交流成分F(2)に関する画素値P’xの成分A2は
【数10】
Figure 0003600750
によって示される。交流成分F(3)に関する画素値P’xの成分A3は
【数11】
Figure 0003600750
によって示される。
【0038】
画素値P’xは、全ての空間周波数成分F(0)、F(1)、F(2)、・・・F(7)に関する画素値P’xの成分の和である。例えばx=1における画素値は、下記(7)式によって表される。
【数12】
Figure 0003600750
【0039】
図6には、(7)式における空間周波数成分F(0)、F(1)、F(2)、F(3)に関する画素値の成分A01、A11、A21、A31が示されている。
【0040】
x=1における画素値P’を求めるのと同様な手法によって、すなわち各空間周波数成分F(0)、F(1)、・・・F(7)に関する画素値P’xの各成分A0、A1、A2、A3・・・の曲線(図6参照)において補間することによって、任意の領域xにおける画素値P’xを求めることができる。例えば、画素の領域xの範囲0〜7を64等分した場合、すなわちx=0, 0.125, 0.25, 0.375, 0.5, 0.625, .... 7.75, 7.875 に関する画素値は、(8)式によって求められる。
【0041】
【数13】
Figure 0003600750
なお(8)式において、コサインの分母を128としたのは、領域xを整数として扱えるようにしたためである。
【0042】
このようにして領域xの範囲をさらに細かく分割して逆離散コサイン変換を行なうことを、この明細書では「拡張IDCT」と呼んでいる。換言すると、拡張IDCTとは、通常のIDCTにより得られる画素データのサンプリング数を、通常のDCT係数の数A個よりも多いB個となるようにIDCTを施すことである。拡張IDCTは、上述のような1次元配列の画像データの場合と同様にして2次元配列の画像データにも適用できる。(9)式は2次元配列の場合の拡張IDCTを行なって、画素値I’ (s,t) yxを求めるための式を示している。
【0043】
【数14】
Figure 0003600750
【0044】
(9)式に示される拡張IDCTによれば、マトリクスMDを構成する8×8のDCT係数D(s,t) vuは、図7に示すように、64×64の画素値I’ (s,t) yxから成る第3のマトリクスM3に変換される。第3のマトリクスM3は、前述したように拡大画像データを構成する。
【0045】
第3のマトリクスM3における画素値I’ (s,t) yxの座標(x,y)は、第2のマトリクスM2と同様に、左上隅の画素を原点としている。そこで、第3のマトリクスM3の画素値I’ (s,t) yxを原画像データと同じ座標系に戻すため、(10)式に従って座標変換が行なわれ、座標変換された拡大画像データが第2のメモリ24(図1参照)に格納される。
【0046】
【数15】
Figure 0003600750
【0047】
(10)式から理解されるように、第3のマトリクスM3に対応するブロックB1(図3参照)の位置(sブロック,tブロック)と、第3のマトリクスM3における画素値I’ (s,t) yxの位置(x,y)とから、拡大画像データにおける画素値 yxの座標が求められる。
【0048】
次に図3および図8を参照して、コントラスト係数計算部18(図1参照)において実行されるコントラスト係数con の演算、およびコントラスト変換部23(図2参照)において実行される拡大画像データの修正について説明する。
【0049】
原画像データのブロックB1を構成する8×8のマトリクスにおいて、水平方向に延びる1つの列を構成する8個の画素が例えばPy0、Py1、Py2、Py3、Py4、Py5、Py6、Py7の値をとり、これらに対応する拡大画像データの8個の画素が例えばJy0、Jy1、Jy2、Jy3、Jy4、Jy5、Jy6、Jy7の値をとるとする。また、原画像データの8個の画素Py0、Py1・・・Py7の平均値がAPであり、拡大画像データの8個の画素Jy0、Jy1・・・Jy7の平均値がAJであるとする。
【0050】
縮小画像生成部15および第1のDCT処理部16における処理によってデータの一部が欠落するため、拡大画像データの各画素値は原画像データとは異なる値をとる。すなわち拡大画像データの各画素値は、原画像データと比較して、平均値AJに近くなり、全体的に変化量は小さくなる。換言すれば、拡大画像データのコントラストは原画像データよりも低下する。
【0051】
そこでコントラスト係数計算部18では、拡大画像データのコントラストをできるだけ原画像データに近づけるための修正係数として、下記(11)〜(16)式に従ってコントラスト係数con が求められる。コントラスト変換部23では、コントラスト係数con を用いて、拡大画像データの各画素値において、平均値AJよりも大きい値をとるものに対しては、より大きい値をとるように修正され、平均値AJよりも小さい値をとるものに対しては、より小さい値をとるように修正され、中間修正拡大画像データの画素J y0、J y1・・・J y7が求められる。
【0052】
なおこの修正に先立ち、拡大画像データの画素値の平均値AJが原画像データの画素値の平均値APに等しくなるように、拡大画像データの各画素値には補正係数が乗じられる。例えば平均値APが平均値AJの1.05倍であった場合、拡大画像データの各画素値には補正係数として1.05が乗じられ、拡大画像データの画素値は平均値AJ’(=AP)をとるように補正される。すなわち、修正された拡大画像データの画素J y0、J y1・・・J y7の平均値AJ’は原画像データの平均値APに等しい。
【0053】
コントラスト係数con の求め方について詳述する。
まず(11)式に従って、第3のマトリクスM3(拡大画像データ)に含まれる64×64個の画素Jyxの平均値ave’が求められる。また、(12)式に従って第1のマトリクス(原画像データ)に含まれる64×64個の画素Pyxの平均値ave が求められる。
【0054】
【数16】
Figure 0003600750
【数17】
Figure 0003600750
【0055】
次いで、上述したように、平均値ave’が平均値ave に等しくなるように、画素Jyxに補正係数が乗じられる。以下の説明では、この補正係数を乗じたものを画素Jyxとして説明する。すなわち、64×64個の画素Jyxの平均値はave である。
【0056】
中間修正拡大画像データの画素J yxが(13)式によって定義される。すなわち中間修正拡大画像データの画素J yxは、画素Jyxと平均値ave との差に修正係数con を乗じたことによって得られる修正値(Jyx−ave )×con に対して、平均値ave を加算することにより得られる。
【数18】
Figure 0003600750
【0057】
(13)式において画素J yxは、con=1 のとき拡大画像データの画素Jyxに等しくなり、con=0 のとき平均値ave に等しくなる。またcon >1 のとき、画素J yxは拡大画像データの画素Jyxに対してコントラストが増加せしめられる。このようにコントラスト係数con を最適値に定めることにより、原画像データの画素Pyxに近い画素J yxを有する修正拡大画像データを得ることができる。
【0058】
修正拡大画像データを計算するため、まず、(14)式に従って中間修正拡大画像データの画素値と原画像データの画素値との二乗誤差の合計E(s,t) が、第1および第3のマトリクスM1、M3に関して求められる。
【数19】
Figure 0003600750
【0059】
二乗誤差の合計E(s,t) は正の値をとり、コントラスト係数con の値によって変化する。したがって(14)式をコントラスト係数con によって偏微分し、その値が0となるようにコントラスト係数con を選べば、そのとき、合計E(s,t) は最小になり、そのコントラスト係数con は最適値を有する。すなわち、最適なコントラスト係数con は(15)式および(16)式に従って求められる。
【数20】
Figure 0003600750
【数21】
Figure 0003600750
【0060】
この最適なコントラスト係数con は、コントラスト変換部23において、拡大画像データの画素Jyxを修正するために用いられる。すなわち、(13)式に従って拡大画像データの画素Jyxが修正され、原画像データが有するコントラストにできるだけ近いコントラストを有する修正拡大画像データが得られる。
【0061】
図9は、コントラスト係数計算部18において実行され、(16)式に従ってコントラスト係数con を求めるプログラムのフローチャートである。
【0062】
ステップ101では、原画像データの画素Pyxと拡大画像データの画素Jyxとの積PJの初期値が0に定められ、画素Jyxの二乗JJの初期値が0に定められる。またステップ101では、第1および第3のマトリクスM1、M3において左上隅に位置する画素の縦座標yが(t×8)によって求められ、同様にしてステップ102では、マトリクスM1、M3において左上隅に位置する画素の横座標xが(s×8)によって求められる(図3参照)。すなわち、左上隅の画素が含まれる8×8のブロックは、原画像データおよび拡大画像データにおいて、水平方向にsブロック目、縦方向にtブロック目に位置している。
【0063】
ステップ103では、原画像データの画素Pyxと拡大画像データの画素Jyxとの積が求められ、ステップ103における前回の計算結果である積PJに加算される。また、画素Jyxの二乗が求められ、ステップ103における前回の計算結果である二乗JJに加算される。
【0064】
ステップ104では、画素の横座標xに1が加算される。ステップ105では、画素の横座標xがマトリクスM1、M3から離れたときの値(s×8)+64に等しいか否かが判定される。画素の横座標xがマトリクスM1、M3の範囲内にあるとき、ステップ103が再び実行される。これに対して横座標xがマトリクスM1、M3から離れたとき、ステップ106において画素の縦座標yに1が加算された後、ステップ107において、画素の縦座標yがマトリクスM1、M3から離れたときの値(t×8)+64に等しいか否かが判定される。画素の縦座標yがマトリクスM1、M3の範囲内にあるとき、ステップ102へ戻り、横座標xが初期値(s×8)にリセットされる。そして、ステップ103、104、105から成るループが再び実行される。
【0065】
このようにしてマトリクスM1、M3を構成する64×64個の画素に関して積和PJと二乗和JJが求められると、ステップ108において、(16)式に従ってコントラスト係数con が計算される。これにより、このプログラムは終了する。
【0066】
図10は、コントラスト変換部23において実行され、(13)式に従って修正拡大画像データの画素J yxを求めるプログラムのフローチャートである。
【0067】
ステップ201では、第1および第3のマトリクスM1、M3において左上隅に位置する画素の縦座標yが(t×8)によって求められ、同様にしてステップ202では、マトリクスM1、M3において左上隅に位置する画素の横座標xが(s×8)によって求められる。ステップ203では、(13)式に従って修正拡大画像データの画素J yxが計算される。
【0068】
ステップ204では、画素の横座標xに1が加算される。ステップ205では、画素の横座標xがマトリクスM1、M3から離れたときの値(s×8)+64に等しいか否かが判定される。画素の横座標xがマトリクスM1、M3の右端に一致していないとき、ステップ203が再び実行される。これに対して横座標xがマトリクスM1、M3から離れたとき、ステップ206において画素の縦座標yに1が加算された後、ステップ207において、画素の縦座標yがマトリクスM1、M3から離れたときの値(t×8)+64に等しいか否かが判定される。画素の縦座標yがマトリクスM1、M3の範囲内にあるとき、ステップ202へ戻り、横座標xが初期値(s×8)にリセットされる。そして、ステップ203、204、205から成るループが再び実行される。
【0069】
このようにしてマトリクスM1、M3を構成する64×64個の画素の全てについてステップ203が実行されると、このプログラムは終了する。
【0070】
図11は、図7に示される第3のマトリクスM3(拡大画像データ)に基づいて最適なコントラスト係数con を求め、これを用いて求められた修正拡大画像データの一部を示している。図7および図11の比較から理解されるように、拡大画像データにおいて相対的に大きい値を有する画素は、修正拡大画像データでは、より大きい値に修正され、拡大画像データにおいて相対的に小さい値を有する画素は、修正拡大画像データでは、より小さい値に修正される傾向にある。
【0071】
以上のように本実施形態によれば、縮小画像データに対して、DCTと拡張IDCTを施すことにより、原画像データと大きさが同じで画素数も同じである拡大画像データ(拡大画像)が得られる。拡張IDCTでは、(9)式に示されるように、DCTで求められた結果に対して、第3のマトリクスM3を構成する全ての画素値に関して2次元離散コサイン変換を行なうことによって、拡大画像の画素値が求められる。したがって本実施形態によれば、縮小画像データを生成したときに欠落した情報が存在するにも拘わらず、原画像に近い画像を再生することが可能となり、再生された拡大画像の画質を向上させることができる。
【0072】
また本実施形態では、コントラスト係数計算部18において、(16)式に従ってコントラスト係数con が求められ、記録媒体RMに記録される。コントラスト係数con は、コントラスト変換部23において(13)式に用いられ、これにより、コントラストが原画像データにできるだけ近くなるような修正拡大画像データが求められる。したがって本実施形態によれば、コントラスト係数con を利用することによって、原画像により近い画像を再生することが可能となる。
【0073】
図12および図13は第2の実施形態である画像圧縮伸張装置を示すブロック図である。図12は画像圧縮装置を示し、図13は画像伸張装置を示す。図1および図2に示す第1の実施形態と同一または相当する構成要件に関しては、同じ符号を用いている。
【0074】
第1の実施形態と異なる構成を説明する。縮小画像生成部15において生成された縮小画像データは記録媒体RMには記録されず、DCT処理部16において2次元離散コサイン変換によって得られた、マトリクスMD(図3参照)を構成する縮小DCT係数データが記録媒体RMに記録される。コントラスト係数計算部18において求められたコントラスト係数con も、第1の実施形態と同様に記録媒体RMに記録される。
【0075】
縮小DCT係数データは記録媒体RMから読み出され、拡張IDCT処理部22において拡張2次元逆離散コサイン変換を施される。これにより第3のマトリクスM3(図3参照)によって構成される拡大画像データが得られる。すなわち第2の実施形態では、記録媒体RMには、DCT係数によって構成される縮小DCT係数データが記録されているので、拡張IDCT処理部22の前段にDCT処理部は設けられていない。
【0076】
その他の構成および作用は第1の実施形態と同じである。
【0077】
上記各実施形態では、直交変換として2次元離散コサイン変換を、また逆直交変換として2次元逆離散コサイン変換を用いていたが、これらに限定されず、公知の他の直交変換および逆直交変換を採用することもできる。
【0078】
【発明の効果】
以上のように本発明によれば、縮小画像から、原画像に対応した拡大画像を再生する画像圧縮伸張装置において、拡大画像の画質を向上させることが可能となる。
【図面の簡単な説明】
【図1】本発明の第1の実施形態である画像圧縮伸張装置に含まれる画像圧縮装置を示すブロック図である。
【図2】本発明の第1の実施形態である画像圧縮伸張装置に含まれる画像伸張装置を示すブロック図である。
【図3】図1および図2に示す画像圧縮伸張装置において処理される各画像データのマトリクスを示す図である。
【図4】縮小画像生成部における縮小処理を示す図である。
【図5】第2のマトリクスの8×8の画素値と、これらの画素値から成る画像データに対応したDCT係数とを示す図である。
【図6】画素値における直流成分F(0)に関する成分と、交流成分(1)、F(2)、F(3)に関する成分とを示す図である。
【図7】8×8のマトリクスのDCT係数と、再生画像データの第3のマトリクスを構成する画素値とを示す図である。
【図8】原画像データ、拡大画像データおよび中間修正拡大画像データの画素値の例を示す図である。
【図9】コントラスト係数を求めるためのプログラムのフローチャートである。
【図10】修正拡大画像データの画素値を求めるためのプログラムのフローチャートである。
【図11】コントラスト係数を用いて求められた修正拡大画像データの一部を示す図である。
【図12】本発明の第2の実施形態である画像圧縮伸張装置に含まれる画像圧縮装置を示すブロック図である。
【図13】本発明の第2の実施形態である画像圧縮伸張装置に含まれる画像伸張装置を示すブロック図である。
【符号の説明】
15 縮小画像生成部
16 第1のDCT処理部
17 第1の拡張IDCT処理部
18 コントラスト係数計算部
21 第2のDCT処理部
22 第2の拡張IDCT処理部
23 コントラスト変換部
RM 記録媒体
M1 第1のマトリクス
M2 第2のマトリクス[0001]
TECHNICAL FIELD OF THE INVENTION
The present invention relates to an image compression / decompression device that records image data obtained by reducing the number of pixels of an original image that is a still image on a recording medium, reads image data from the recording medium, and restores the original image.
[0002]
[Prior art]
2. Description of the Related Art Conventionally, as an example of image compression processing in an image compression / expansion apparatus, one pixel is generated by calculating an average value of a predetermined number of pixel values included in a large number of pixels constituting an original image, and a reduction including such pixels is performed. 2. Description of the Related Art Recording an image on a recording medium is known. In the image decompression process in the image compression / decompression device, an enlarged image having the same number of pixels as the original image is generated by performing an interpolation process on the reduced image read from the recording medium.
[0003]
On the other hand, as another image compression / expansion device, a DCT coefficient obtained by performing a two-dimensional discrete cosine transform on a reduced image is recorded on a recording medium, and a two-dimensional inverse discrete cosine is applied to the DCT coefficient read from the recording medium. It is known that an IDCT coefficient is obtained by performing a conversion. The IDCT coefficients correspond to some of the pixels included in the pixels of the original image, and by performing interpolation processing on the IDCT coefficients, it is possible to generate an enlarged image having the same number of pixels as the original image.
[0004]
[Problems to be solved by the invention]
The enlarged image reproduced by the image compression / expansion device should ideally match the original image. However, when a reduced image is generated, some of the information contained in the original image is lost. It does not match the image and the image quality is relatively poor.
[0005]
An object of the present invention is to improve the image quality of an enlarged image in an image compression / expansion apparatus that reproduces an enlarged image corresponding to an original image from a reduced image.
[0006]
[Means for Solving the Problems]
An image compression apparatus according to the present invention is configured to reduce, based on original image data composed of a first matrix composed of a plurality of pixels, a second matrix composed of a smaller number of pixels than the first matrix. Reduced image generating means for generating image data; first orthogonal transform means for performing orthogonal transformation on reduced image data to obtain reduced orthogonal transformation coefficient data; A first enlarged image generating means for performing inverse orthogonal transformation so as to obtain enlarged image data composed of a third matrix composed of a large number of pixels, and a contrast coefficient applied to the enlarged image data to provide the enlarged image data. Contrast coefficient calculation for calculating a contrast coefficient so that the contrast is close to the contrast of the original image data It is characterized in that a stage.
[0007]
The image compression device may include a recording unit that records the contrast coefficient and the reduced image data on a recording medium. The image compression device may include a recording unit that records the contrast coefficient and the reduced orthogonal transform coefficient data on a recording medium.
[0008]
The contrast coefficient calculation means adds, for example, an average value to a correction value obtained by multiplying a difference between the value of each pixel included in the third matrix and the average value of these pixels by a correction coefficient. First arithmetic means for obtaining intermediate corrected enlarged image data by means of a second arithmetic means for obtaining the sum of squares of the difference between the value of a pixel constituting the intermediate corrected enlarged image data and the value of a pixel constituting the original image data; , A third calculating means for determining a correction coefficient for minimizing the sum of squares and determining the correction coefficient as a contrast coefficient.
[0009]
For example, the reduced image generation means obtains an average value of a predetermined number of pixel values included in the first matrix, and determines the average value as one pixel value corresponding to the predetermined number of pixels included in the second matrix. Determine. In this case, the average value is obtained, for example, from 8 × 8 pixel values included in the first matrix.
[0010]
The first matrix is composed of, for example, 64 × 64 pixels, and the second matrix is composed of, for example, 8 × 8 pixels.
Preferably, the second and third matrices each comprise n1 × m1 and n2 × m2 pixels. Note that n2 and m2 are each 2 of n1.NTimes, m1 2MWhere n1, m1, n2, m3, N, and M are positive integers.
[0011]
The number of pixels included in the first and third matrices is preferably the same. In this case, the first and third matrices are each composed of, for example, 64 × 64 pixels.
[0012]
When the orthogonal transform is a two-dimensional discrete cosine transform, the inverse orthogonal transform is a two-dimensional inverse discrete cosine transform. In this case, the first, second, and third matrices are composed of 64 × 64, 8 × 8, and 64 × 64 pixels, respectively, and the enlarged image generating means is a two-dimensional inverse discrete cosine expressed by the following equation (1). It is preferable to obtain enlarged image data by conversion.
(Equation 2)
Figure 0003600750
Where 0 ≦ x ≦ 63, 0 ≦ y ≦ 63, I ′yxIs the pixel value of the enlarged image data, and when u, v = 0, Cu, Cv = 1/21/2, U, v ≠ 0, Cu, Cv = 1, DvuIs a DCT coefficient obtained by the two-dimensional discrete cosine transform.
[0013]
A first image decompression device according to the present invention includes a data reading unit that reads out a contrast coefficient and reduced image data recorded on a recording medium, and a second method that performs orthogonal transformation on reduced image data to obtain reduced orthogonal transformation coefficient data. And a second enlargement for performing inverse orthogonal transformation on the orthogonal transformation means and the reduced orthogonal transformation coefficient data so as to obtain enlarged image data composed of a third matrix having more pixels than the second matrix. It is characterized by comprising image generating means and contrast conversion means for correcting the enlarged image data by applying a contrast coefficient to the enlarged image data to obtain corrected enlarged image data.
[0014]
The second image decompression device according to the present invention differs from the first image decompression device in the configuration of the data reading means, and the data reading means reads the contrast coefficient and the reduced orthogonal transform coefficient data recorded on the recording medium. Is configured. Further, the second image decompression device is not provided with the orthogonal transformation means. Other configurations are the same as those of the first image decompression device.
[0015]
BEST MODE FOR CARRYING OUT THE INVENTION
Hereinafter, embodiments of the present invention will be described with reference to the drawings.
FIGS. 1 and 2 are block diagrams showing an image compression / decompression device according to a first embodiment of the present invention. FIG. 1 shows an image compression device, and FIG. 2 shows an image decompression device.
[0016]
The reflected light from the subject SP is collected by the photographing optical system 11, whereby an image of the subject SP is formed on the light receiving surface of the image sensor 12. Red (R), green (G), and blue (B) color filters are provided on the light receiving surface of the image sensor 12, and the image sensor 12 provides analog electrical signals corresponding to R, G, and B images. Each signal is generated. This electric signal is converted by the AD converter 13 into R, G and B image signals which are digital electric signals. The R, G and B image signals are converted into luminance data Y and color difference data Cb and Cr by an image processing circuit (not shown) and stored in the memory 14.
[0017]
The luminance data Y and the chrominance data Cb and Cr are original image data formed by arranging about 1000 pixels in the horizontal direction and about 600 pixels in the vertical direction. As will be described later, in the reduced image generation unit 15, a first matrix composed of 64 × 64 pixels is extracted from the original image data, and reduction processing is performed on the original image data of the first matrix. In the reduction processing, the original image data is converted into reduced image data composed of a second matrix. The second matrix has a smaller number of pixels than the first matrix. That is, the reduced image data is more compressed than the luminance data Y and the color difference data Cb and Cr stored in the first memory 14, and the compression ratio is, for example, 1/64. The reduced image data is recorded on a recording medium RM such as an IC memory card.
[0018]
Further, the reduced image data is subjected to a two-dimensional discrete cosine transform (two-dimensional DCT) in the first DCT processing unit 16 to be converted into DCT coefficients. The matrix obtained by the two-dimensional DCT constitutes reduced DCT coefficient data, and the number of elements thereof is the same as that of the second matrix constituting the reduced image data. The DCT coefficients are subjected to an extended two-dimensional inverse discrete cosine transform (extended IDCT) described later in a first extended IDCT processing unit 17. Thereby, enlarged image data constituted by the third matrix is obtained.
[0019]
If data is not lost due to the processing in the reduced image generation unit 15 and the first DCT processing unit 16, the enlarged image data matches the original image data. However, since a part of the data is usually lost, the enlarged image The data contrast is lower than the original image data. The contrast coefficient calculator 18 calculates a contrast coefficient for correcting a decrease in contrast. The contrast coefficient is applied to the enlarged image data so that the contrast of the enlarged image data is as close as possible to the contrast of the original image data. The contrast coefficient is also recorded on the recording medium RM together with the reduced image data.
[0020]
The reduced image data and the contrast coefficient corresponding to the luminance data Y and the color difference data Cb and Cr are read from the recording medium RM. The reduced image data is subjected to two-dimensional DCT in the second DCT processing unit 21 and is converted into DCT coefficients. The DCT coefficient is subjected to the extended IDCT in the second extended IDCT processing unit 22 to obtain enlarged image data composed of a third matrix. The enlarged image data and the contrast coefficient are input to the contrast conversion unit 23, and the enlarged image data is corrected using the contrast coefficient. That is, the contrast of the enlarged image data is corrected by the contrast coefficient so as to be as close as possible to the original image data, and is stored in the second memory 24 in the form of the luminance data Y and the color difference data Cb and Cr.
[0021]
FIG. 3 is a diagram showing a matrix of each image data processed in the image compression / decompression device shown in FIGS. FIG. 4 is a diagram illustrating a reduction process in the reduced image generation unit 15. The operation of the reduced image generation unit 15 will be described with reference to FIGS.
[0022]
The original image data is composed of approximately 1000 × 600 pixel values Pyx, and is divided into blocks of 8 × 8 pixels. In FIG. 3, a block B1 is located at the s-th block in the horizontal direction and the t-th block in the vertical direction with the block at the upper left corner of the original image data as the origin. The first matrix M1 is composed of 64 blocks arranged in the horizontal direction and arranged in the vertical direction. That is, the first matrix M1 is composed of 64 × 64 pixel values Pyx.
[0023]
In the reduced image generation unit 15, a second matrix M2 is generated based on the original image data constituted by the first matrix M1. The pixel value Rts in the second matrix M2 is represented by the following equation (2). That is, the pixel value Rts of the second matrix M2 is obtained by calculating the average value of the 8 × 8 pixel values Pyx constituting the block B1 in the first matrix M1.
[0024]
(Equation 3)
Figure 0003600750
However, in the original image data, the origin is the pixel at the upper left corner C1 of the image, x indicates the coordinates of the pixel in the horizontal direction, and y indicates the coordinates of the pixel in the vertical direction.
[0025]
In the example shown in FIG. 4, the block B1 included in the first matrix M1 includes 64 pixel values Pyx of 160, 158, 183, 211, 221, 226,..., And these 64 pixel values Pyx Is obtained as the corresponding pixel value Ryx of the second matrix M2.
[0026]
As described above, the second matrix M2 is composed of 8 × 8 pixel values, and the reduced image data formed by the second matrix M2 indicates the original image with fewer pixels than the original image data. In other words, the block B1 located in the sth block in the horizontal direction and the tth block in the vertical direction in the original image data is the pixel P1 located in the sth pixel in the horizontal direction and the tth pixel in the vertical direction in the reduced image data. Corresponding to
[0027]
FIG. 5 shows 8 × 8 pixel values of the second matrix M2 and DCT coefficients of these pixel values. With reference to FIGS. 3 and 5, two-dimensional DCT executed in the first and second DCT processing units 16 and 21 will be described.
[0028]
In the reduced image data, the pixel value Rts, which is a component of the second matrix M2, is indicated by a (s, t) coordinate system having the origin at the upper left corner C2. In order to perform DCT, the pixel value Rts is converted to a coordinate system having the origin at the pixel at the upper left corner C3 in the second matrix M2 according to the equation (3).
[0029]
(Equation 4)
Figure 0003600750
[0030]
DCT is performed in the first and second DCT processing units 16 and 21 according to the following equation (4).
(Equation 5)
Figure 0003600750
[0031]
DCT coefficient D obtained by DCT(S, t)DCT coefficient at the origin (0,0) in the matrix MD consisting of vuD (S, t) 00 Is the DC component, and the remaining 63 DCT coefficients D(S, t)vu is an AC component. The DC component corresponds to an average value of 8 × 8 pixel values forming the second matrix, and each AC component corresponds to a predetermined spatial frequency component.
[0032]
Next, the extended IDCT executed by the first and second extended IDCT processing units 17 and 22 will be described with reference to FIGS.
Here, for the sake of simplicity, a case where the matrix of image data is one-dimensionally arranged, that is, a one-dimensional extended IDCT will be described.
[0033]
Eight pixels Px (= P0, P1, P2,. . . P7) Is one-dimensionally arranged, and the one-dimensional discrete cosine transform is represented by the following equation (5).
(Equation 6)
Figure 0003600750
[0034]
As understood from the equation (5), the spatial frequency component F (u) is obtained by one-dimensional discrete cosine transform based on the pixel values Px in the eight regions x. The number of types of spatial frequencies (ie, the number of “u”) is equal to the number of regions x, and is eight when the number of regions x is eight. That is, in this case, a DC component F (0) and seven AC components F (1), F (2),... F (7) are obtained.
[0035]
The one-dimensional inverse discrete cosine transform is represented by the following equation (6).
(Equation 7)
Figure 0003600750
[0036]
As understood from the equation (6), the pixel value P′x is obtained by the one-dimensional inverse discrete cosine transform based on the eight spatial frequency components F (u).
[0037]
FIG. 6 shows a component related to the DC component F (0) and components related to the AC components (1), F (2), and F (3) in the pixel value P′x. The component A0 of the pixel value P'x regarding the DC component F (0) is
(Equation 8)
Figure 0003600750
Indicated by The component A1 of the pixel value P'x regarding the AC component F (1) is
(Equation 9)
Figure 0003600750
Indicated by The component A2 of the pixel value P'x related to the AC component F (2) is
(Equation 10)
Figure 0003600750
Indicated by The component A3 of the pixel value P'x relating to the AC component F (3) is
[Equation 11]
Figure 0003600750
Indicated by
[0038]
The pixel value P′x is the sum of the components of the pixel value P′x regarding all the spatial frequency components F (0), F (1), F (2),..., F (7). For example, the pixel value at x = 1 is represented by the following equation (7).
(Equation 12)
Figure 0003600750
[0039]
FIG. 6 shows pixel value components A01, A11, A21, and A31 related to the spatial frequency components F (0), F (1), F (2), and F (3) in the equation (7).
[0040]
Pixel value P 'at x = 11, That is, the components A0, A1, A2, A3,... Of the pixel value P′x for the spatial frequency components F (0), F (1),. (See FIG. 6), a pixel value P′x in an arbitrary region x can be obtained. For example, when the range 0 to 7 of the pixel area x is divided into 64 equal parts, that is, x = 0, 0.125, 0.25, 0.375, 0.5, 0.625,. . . . The pixel values for 7.75 and 7.875 are obtained by equation (8).
[0041]
(Equation 13)
Figure 0003600750
The reason why the denominator of the cosine is set to 128 in the equation (8) is that the area x can be handled as an integer.
[0042]
Performing the inverse discrete cosine transform by further dividing the range of the region x in this way is called "extended IDCT" in this specification. In other words, the extended IDCT is to apply the IDCT so that the sampling number of pixel data obtained by the normal IDCT becomes B, which is larger than the number A of the normal DCT coefficients. The extended IDCT can be applied to two-dimensional array image data in the same manner as the one-dimensional array image data described above. Expression (9) performs an extended IDCT in the case of a two-dimensional array to obtain a pixel value I ′.(S, t)An expression for obtaining yx is shown.
[0043]
[Equation 14]
Figure 0003600750
[0044]
According to the extended IDCT shown in the equation (9), 8 × 8 DCT coefficients D forming the matrix MD(S, t)vu is a 64 × 64 pixel value I ′, as shown in FIG.(S, t)yx is converted to a third matrix M3. The third matrix M3 forms the enlarged image data as described above.
[0045]
Pixel value I 'in the third matrix M3(S, t)The coordinates (x, y) of yx have the origin at the pixel at the upper left corner, as in the second matrix M2. Thus, the pixel value I 'of the third matrix M3(S, t)In order to return yx to the same coordinate system as the original image data, coordinate conversion is performed according to equation (10), and the enlarged image data subjected to the coordinate conversion is stored in the second memory 24 (see FIG. 1).
[0046]
(Equation 15)
Figure 0003600750
[0047]
As understood from the equation (10), the position (s block, t block) of the block B1 (see FIG. 3) corresponding to the third matrix M3 and the pixel value I 'in the third matrix M3.(S, t)From the position (x, y) of yx, the pixel value in the enlarged image dataJ yxAre obtained.
[0048]
Next, referring to FIG. 3 and FIG. 8, calculation of contrast coefficient con performed in contrast coefficient calculation section 18 (see FIG. 1) and enlargement of enlarged image data performed in contrast conversion section 23 (see FIG. 2). The correction will be described.
[0049]
In the 8 × 8 matrix forming the block B1 of the original image data, eight pixels forming one column extending in the horizontal direction are, for example, Py0, Py1, Py2, Py3, Py4, Py5, Py6, Py7And the eight pixels of the enlarged image data corresponding to these values are, for example, Jy0, Jy1, Jy2, Jy3, Jy4, Jy5, Jy6, Jy7And take the value of. Also, eight pixels P of the original image datay0, Py1... Py7Is the average value of AP, and eight pixels J of the enlarged image datay0, Jy1... Jy7Is AJ.
[0050]
Since a part of the data is lost due to the processing in the reduced image generation unit 15 and the first DCT processing unit 16, each pixel value of the enlarged image data takes a value different from the original image data. That is, each pixel value of the enlarged image data is closer to the average value AJ as compared with the original image data, and the amount of change becomes smaller as a whole. In other words, the contrast of the enlarged image data is lower than that of the original image data.
[0051]
Therefore, the contrast coefficient calculation unit 18 obtains a contrast coefficient con according to the following equations (11) to (16) as a correction coefficient for bringing the contrast of the enlarged image data as close as possible to the original image data. The contrast conversion unit 23 uses the contrast coefficient con to correct, for each pixel value of the enlarged image data, a value larger than the average value AJ so as to take a larger value. If the value is smaller than the pixel J of the intermediate corrected enlarged image data, it is corrected to take a smaller value.c y0, Jc y1... Jc y7Is required.
[0052]
Prior to this correction, each pixel value of the enlarged image data is multiplied by a correction coefficient so that the average value AJ of the pixel values of the enlarged image data becomes equal to the average value AP of the pixel values of the original image data. For example, when the average value AP is 1.05 times the average value AJ, each pixel value of the enlarged image data is multiplied by 1.05 as a correction coefficient, and the pixel value of the enlarged image data becomes the average value AJ '(= AP). That is, the pixel J of the corrected enlarged image datac y0, Jc y1... Jc y7Is equal to the average value AP of the original image data.
[0053]
A method of obtaining the contrast coefficient con will be described in detail.
First, according to equation (11), 64 × 64 pixels J included in the third matrix M3 (enlarged image data)yxIs obtained. Further, 64 × 64 pixels P included in the first matrix (original image data) according to the equation (12)yxIs obtained.
[0054]
(Equation 16)
Figure 0003600750
[Equation 17]
Figure 0003600750
[0055]
Next, as described above, the pixel J is set so that the average value ave 'is equal to the average value ave.yxIs multiplied by a correction coefficient. In the following description, the product multiplied by this correction coefficient is referred to as pixel JyxIt will be described as. That is, 64 × 64 pixels JyxIs ave.
[0056]
Pixel J of the intermediate corrected enlarged image datac yxIs defined by equation (13). That is, the pixel J of the intermediate corrected enlarged image datac yxIs the pixel JyxCorrection value (J obtained by multiplying the difference betweenyx−ave) × con, and is obtained by adding the average value ave.
(Equation 18)
Figure 0003600750
[0057]
In equation (13), pixel Jc yxIs the pixel J of the enlarged image data when con = 1.yx, And when con = 0, it is equal to the average value ave. When con> 1, the pixel Jc yxIs the pixel J of the enlarged image datayxContrast is increased. By setting the contrast coefficient con to the optimum value in this manner, the pixel P of the original image data is obtained.yxPixel J close toc yxCan be obtained.
[0058]
In order to calculate the corrected enlarged image data, first, the sum E2 of the square error between the pixel value of the intermediate corrected enlarged image data and the pixel value of the original image data is calculated according to equation (14).(S, t)Is determined for the first and third matrices M1, M3.
[Equation 19]
Figure 0003600750
[0059]
Sum of squared error E(S, t)Takes a positive value and varies depending on the value of the contrast coefficient con. Therefore, if the equation (14) is partially differentiated by the contrast coefficient con and the contrast coefficient con is selected so that its value becomes 0, then the total E(S, t)Is minimized and its contrast coefficient con has an optimal value. That is, the optimum contrast coefficient con is obtained according to the equations (15) and (16).
(Equation 20)
Figure 0003600750
(Equation 21)
Figure 0003600750
[0060]
The optimum contrast coefficient con is calculated by the contrast conversion unit 23 in the pixel J of the enlarged image data.yxUsed to modify That is, the pixel J of the enlarged image data is calculated according to the equation (13).yxIs corrected, and corrected enlarged image data having a contrast as close as possible to the contrast of the original image data is obtained.
[0061]
FIG. 9 is a flowchart of a program executed by the contrast coefficient calculating unit 18 to obtain the contrast coefficient con according to the equation (16).
[0062]
In step 101, the pixel P of the original image datayxAnd the pixel J of the enlarged image datayxThe initial value of the product PJ with the pixel JyxThe initial value of the square JJ of is set to 0. In step 101, the ordinate y of the pixel located at the upper left corner in the first and third matrices M1 and M3 is obtained by (t × 8). Similarly, in step 102, the upper left corner in the matrices M1 and M3 is calculated. Is determined by (s × 8) (see FIG. 3). That is, the 8 × 8 block including the pixel at the upper left corner is located at the s-th block in the horizontal direction and the t-th block in the vertical direction in the original image data and the enlarged image data.
[0063]
In step 103, the pixel P of the original image datayxAnd the pixel J of the enlarged image datayxIs calculated and added to the product PJ which is the previous calculation result in step 103. The pixel JyxIs calculated and added to the square JJ that is the previous calculation result in step 103.
[0064]
In step 104, 1 is added to the abscissa x of the pixel. In step 105, it is determined whether or not the abscissa x of the pixel is equal to (s × 8) +64 when the pixel is away from the matrices M1 and M3. When the abscissa x of the pixel is within the range of the matrices M1 and M3, step 103 is executed again. On the other hand, when the abscissa x is separated from the matrices M1 and M3, 1 is added to the ordinate y of the pixel in step 106, and then the ordinate y of the pixel is separated from the matrices M1 and M3 in step 107. It is determined whether or not the value is equal to (t × 8) +64. When the ordinate y of the pixel is within the range of the matrices M1 and M3, the process returns to step 102, and the abscissa x is reset to the initial value (s × 8). Then, the loop including steps 103, 104, and 105 is executed again.
[0065]
When the sum of products PJ and the sum of squares JJ are obtained for the 64 × 64 pixels constituting the matrices M1 and M3 in this way, in step 108, the contrast coefficient con is calculated according to the equation (16). Thus, the program ends.
[0066]
FIG. 10 is executed by the contrast conversion unit 23, and the pixel J of the corrected enlarged image data is calculated according to the equation (13).c yx5 is a flowchart of a program for obtaining the following.
[0067]
In step 201, the ordinate y of the pixel located at the upper left corner in the first and third matrices M1 and M3 is determined by (t × 8). Similarly, in step 202, the ordinate y at the upper left corner in the matrices M1 and M3 The abscissa x of the located pixel is determined by (s × 8). In step 203, the pixel J of the corrected enlarged image data is calculated according to the equation (13).c yxIs calculated.
[0068]
In step 204, 1 is added to the abscissa x of the pixel. In step 205, it is determined whether or not the abscissa x of the pixel is equal to (s × 8) +64 when the pixel is away from the matrices M1 and M3. When the abscissa x of the pixel does not match the right end of the matrices M1 and M3, step 203 is executed again. On the other hand, when the abscissa x is separated from the matrices M1 and M3, 1 is added to the ordinate y of the pixel in step 206, and then the ordinate y of the pixel is separated from the matrices M1 and M3 in step 207. It is determined whether or not the value is equal to (t × 8) +64. When the ordinate y of the pixel is within the range of the matrices M1 and M3, the process returns to step 202, and the abscissa x is reset to the initial value (s × 8). Then, the loop including steps 203, 204, and 205 is executed again.
[0069]
When step 203 has been executed for all of the 64 × 64 pixels constituting the matrices M1 and M3 in this manner, this program ends.
[0070]
FIG. 11 shows a part of the corrected enlarged image data obtained by calculating the optimum contrast coefficient con based on the third matrix M3 (enlarged image data) shown in FIG. As can be understood from the comparison between FIG. 7 and FIG. 11, a pixel having a relatively large value in the enlarged image data is corrected to a larger value in the modified enlarged image data, and a relatively small value in the enlarged image data. Pixels tend to be corrected to smaller values in the corrected enlarged image data.
[0071]
As described above, according to the present embodiment, by performing DCT and extended IDCT on reduced image data, enlarged image data (enlarged image) having the same size and the same number of pixels as the original image data is obtained. can get. In the extended IDCT, as shown in equation (9),For the result obtained by DCT,Two-dimensional for all pixel values that make up the third matrix M3ReverseThe pixel value of the enlarged image is obtained by performing the discrete cosine transform. Therefore, according to the present embodiment, it is possible to reproduce an image close to the original image despite the presence of missing information when the reduced image data is generated, thereby improving the image quality of the reproduced enlarged image. be able to.
[0072]
Further, in the present embodiment, the contrast coefficient con is obtained by the contrast coefficient calculating section 18 according to the equation (16) and is recorded on the recording medium RM. The contrast coefficient con is used in the expression (13) in the contrast conversion unit 23, whereby the corrected enlarged image data whose contrast is as close as possible to the original image data is obtained. Therefore, according to the present embodiment, an image closer to the original image can be reproduced by using the contrast coefficient con.
[0073]
FIGS. 12 and 13 are block diagrams showing an image compression / decompression device according to the second embodiment. FIG. 12 shows an image compression device, and FIG. 13 shows an image decompression device. Components that are the same as or correspond to those in the first embodiment shown in FIGS. 1 and 2 are denoted by the same reference numerals.
[0074]
A configuration different from the first embodiment will be described. The reduced image data generated by the reduced image generating unit 15 is not recorded on the recording medium RM, and the reduced DCT coefficients constituting the matrix MD (see FIG. 3) obtained by the two-dimensional discrete cosine transform in the DCT processing unit 16 Data is recorded on the recording medium RM. The contrast coefficient con obtained by the contrast coefficient calculation unit 18 is also recorded on the recording medium RM in the same manner as in the first embodiment.
[0075]
The reduced DCT coefficient data is read from the recording medium RM, and subjected to an extended two-dimensional inverse discrete cosine transform in the extended IDCT processing unit 22. Thus, enlarged image data constituted by the third matrix M3 (see FIG. 3) is obtained. That is, in the second embodiment, since the reduced DCT coefficient data constituted by the DCT coefficients is recorded on the recording medium RM, the DCT processing unit is not provided in a stage preceding the extended IDCT processing unit 22.
[0076]
Other configurations and operations are the same as those of the first embodiment.
[0077]
In each of the above embodiments, the two-dimensional discrete cosine transform is used as the orthogonal transform, and the two-dimensional inverse discrete cosine transform is used as the inverse orthogonal transform. Can also be adopted.
[0078]
【The invention's effect】
As described above, according to the present invention, it is possible to improve the image quality of an enlarged image in an image compression / expansion apparatus that reproduces an enlarged image corresponding to an original image from a reduced image.
[Brief description of the drawings]
FIG. 1 is a block diagram illustrating an image compression device included in an image compression / decompression device according to a first embodiment of the present invention.
FIG. 2 is a block diagram illustrating an image decompression device included in the image compression and decompression device according to the first embodiment of the present invention.
FIG. 3 is a diagram showing a matrix of each image data processed in the image compression / decompression device shown in FIGS. 1 and 2;
FIG. 4 is a diagram illustrating a reduction process in a reduced image generation unit.
FIG. 5 is a diagram showing 8 × 8 pixel values of a second matrix and DCT coefficients corresponding to image data composed of these pixel values.
FIG. 6 is a diagram showing a component related to a DC component F (0) and components related to AC components (1), F (2), and F (3) in a pixel value.
FIG. 7 is a diagram illustrating DCT coefficients of an 8 × 8 matrix and pixel values forming a third matrix of reproduced image data.
FIG. 8 is a diagram illustrating an example of pixel values of original image data, enlarged image data, and intermediate corrected enlarged image data.
FIG. 9 is a flowchart of a program for obtaining a contrast coefficient.
FIG. 10 is a flowchart of a program for obtaining a pixel value of modified enlarged image data.
FIG. 11 is a diagram showing a part of corrected enlarged image data obtained using a contrast coefficient.
FIG. 12 is a block diagram showing an image compression device included in the image compression / decompression device according to the second embodiment of the present invention.
FIG. 13 is a block diagram illustrating an image decompression device included in the image compression and decompression device according to the second embodiment of the present invention.
[Explanation of symbols]
15 Reduced image generation unit
16 First DCT processing unit
17 First Extended IDCT Processing Unit
18 Contrast coefficient calculator
21 Second DCT processing unit
22 Second Extended IDCT Processing Unit
23 Contrast converter
RM recording medium
M1 First matrix
M2 Second matrix

Claims (14)

複数の画素から成る第1のマトリクスによって構成される原画像データに基づいて、前記第1のマトリクスよりも少ない数の画素から成る第2のマトリクスによって構成される縮小画像データを生成する縮小画像生成手段と、
前記縮小画像データに直交変換を施して縮小直交変換係数データを求める第1の直交変換手段と、
前記縮小直交変換係数データに対して、前記第2のマトリクスよりも多い画素から成る第3のマトリクスによって構成される拡大画像データを得るように、逆直交変換を施す第1の拡大画像生成手段と、
前記拡大画像データにコントラスト係数を施すことによって、前記拡大画像データが有するコントラストが前記原画像データが有するコントラストに近くなるように、前記原画像データの画素値および前記拡大画像データの画素値に基づいて前記コントラスト係数を求めるコントラスト係数演算手段と
を備えたことを特徴とする画像圧縮装置。
Reduction image generation for generating reduced image data composed of a second matrix composed of a smaller number of pixels than the first matrix based on original image data composed of a first matrix composed of a plurality of pixels Means,
First orthogonal transformation means for performing orthogonal transformation on the reduced image data to obtain reduced orthogonal transformation coefficient data;
First enlarged image generation means for performing inverse orthogonal transformation on the reduced orthogonal transformation coefficient data so as to obtain enlarged image data composed of a third matrix composed of more pixels than the second matrix; ,
By applying a contrast coefficient to the enlarged image data, based on the pixel values of the original image data and the pixel values of the enlarged image data, so that the contrast of the enlarged image data is closer to the contrast of the original image data. And a contrast coefficient calculating means for obtaining the contrast coefficient.
前記コントラスト係数と縮小画像データとを記録媒体に記録する記録手段を備えたことを特徴とする請求項1に記載の画像圧縮装置。2. The image compression apparatus according to claim 1, further comprising recording means for recording the contrast coefficient and the reduced image data on a recording medium. 前記コントラスト係数と縮小直交変換係数データとを記録媒体に記録する記録手段を備えたことを特徴とする請求項1に記載の画像圧縮装置。2. The image compression apparatus according to claim 1, further comprising recording means for recording the contrast coefficient and the reduced orthogonal transform coefficient data on a recording medium. 前記コントラスト係数演算手段が、
前記第3のマトリクスに含まれる各画素の値とこれらの画素の平均値との差に、修正係数を乗じたことによって得られる修正値に対して、前記平均値を加算して中間修正拡大画像データを得る第1の演算手段と、
前記中間修正拡大画像データを構成する画素の値と前記原画像データを構成する画素の値との差の二乗和を得る第2の演算手段と、
前記二乗和が最小になるときの前記修正係数を求めて前記コントラスト係数として定める第3の演算手段と
を備えることを特徴とする請求項1に記載の画像圧縮装置。
The contrast coefficient calculating means,
Adding the average value to a correction value obtained by multiplying the difference between the value of each pixel included in the third matrix and the average value of these pixels by a correction coefficient, to obtain an intermediate corrected enlarged image First calculating means for obtaining data;
Second calculating means for obtaining a sum of squares of a difference between a value of a pixel constituting the intermediate corrected enlarged image data and a value of a pixel constituting the original image data;
3. The image compression apparatus according to claim 1, further comprising: third calculation means for determining the correction coefficient when the sum of squares is minimized and determining the correction coefficient as the contrast coefficient.
前記縮小画像生成手段が、前記第1のマトリクスに含まれる所定数の画素値の平均値を求め、この平均値を、前記第2のマトリクスに含まれ、前記所定数の画素に対応した1つの画素値として定めることを特徴とする請求項1に記載の画像圧縮装置。The reduced image generating means obtains an average value of a predetermined number of pixel values included in the first matrix, and calculates the average value of one of the pixel values included in the second matrix and corresponding to the predetermined number of pixels. The image compression apparatus according to claim 1, wherein the image compression apparatus is determined as a pixel value. 前記平均値が、前記第1のマトリクスに含まれる8×8の画素値から求められることを特徴とする請求項5に記載の画像圧縮装置。The image compression device according to claim 5, wherein the average value is obtained from 8x8 pixel values included in the first matrix. 前記第1のマトリクスが64×64の画素から成り、前記第2のマトリクスが8×8の画素から成ることを特徴とする請求項1に記載の画像圧縮装置。2. The image compression apparatus according to claim 1, wherein said first matrix is composed of 64 × 64 pixels, and said second matrix is composed of 8 × 8 pixels. 前記第2および第3のマトリクスがそれぞれn1×m1、n2×m2の画素から成り、n2、m2がそれぞれn1の2N 倍、m1の2M 倍である(ただし、n1、m1、n2、m3、N、Mは正の整数)ことを特徴とする請求項1に記載の画像圧縮装置。Made from the second and third matrix of each n1 × m1, n2 × m2 pixels, n2, m @ 2 is 2 N times n1 respectively, is 2 M times the m1 (although, n1, m1, n2, m3 , N, and M are positive integers). 前記第1および第3のマトリクスに含まれる画素の数が同じであることを特徴とする請求項1に記載の画像圧縮装置。The image compression apparatus according to claim 1, wherein the number of pixels included in the first and third matrices is the same. 前記第1および第3のマトリクスがそれぞれ64×64の画素から成ることを特徴とする請求項9に記載の画像圧縮装置。The image compression apparatus according to claim 9, wherein the first and third matrices each include 64 x 64 pixels. 前記直交変換が2次元離散コサイン変換であり、前記逆直交変換が2次元逆離散コサイン変換であることを特徴とする請求項1に記載の画像圧縮装置。The image compression apparatus according to claim 1, wherein the orthogonal transform is a two-dimensional discrete cosine transform, and the inverse orthogonal transform is a two-dimensional inverse discrete cosine transform. 前記第1、第2および第3のマトリクスがそれぞれ64×64、8×8および64×64の画素から成り、かつ前記拡大画像生成手段が下式によって表される2次元逆離散コサイン変換により前記拡大画像データを得ることを特徴とする請求項11に記載の画像圧縮装置。
Figure 0003600750
ただし、 0≦x≦63、 0≦y≦63、I'yxは拡大画像データの画素値、 u,v=0 のとき Cu,Cv=1/21/2、 u,v≠0 のとき Cu,Cv=1 、 Dvuは前記2次元離散コサイン変換によって得られたDCT係数である。
The first, second, and third matrices are composed of 64 × 64, 8 × 8, and 64 × 64 pixels, respectively, and the enlarged image generation means performs the two-dimensional inverse discrete cosine transform represented by the following equation. The image compression apparatus according to claim 11, wherein enlarged image data is obtained.
Figure 0003600750
However, 0 ≦ x ≦ 63, 0 ≦ y ≦ 63, I 'yx the pixel value of the expanded image data, u, Cu when v = 0, Cv = 1/ 2 1/2, u, when v ≠ 0 Cu, Cv = 1 and D vu are DCT coefficients obtained by the two-dimensional discrete cosine transform.
請求項2に記載された画像圧縮装置によって前記記録媒体に記録された前記コントラスト係数と縮小画像データとを読み出すデータ読出手段と、
前記縮小画像データに直交変換を施して縮小直交変換係数データを求める第2の直交変換手段と、
前記縮小直交変換係数データに対して、前記第2のマトリクスよりも多い画素から成る第3のマトリクスによって構成される拡大画像データを得るように、逆直交変換を施す第2の拡大画像生成手段と、
前記拡大画像データに前記コントラスト係数を施すことによって、前記拡大画像データを修正し、修正拡大画像データを求めるコントラスト変換手段と
を備えたことを特徴とする画像伸張装置。
Data reading means for reading out the contrast coefficient and reduced image data recorded on the recording medium by the image compression device according to claim 2.
Second orthogonal transformation means for performing orthogonal transformation on the reduced image data to obtain reduced orthogonal transformation coefficient data;
A second enlarged image generation means for performing inverse orthogonal transformation on the reduced orthogonal transformation coefficient data so as to obtain enlarged image data composed of a third matrix having more pixels than the second matrix; ,
An image decompression device comprising: a contrast conversion unit that corrects the enlarged image data by applying the contrast coefficient to the enlarged image data to obtain corrected enlarged image data.
請求項3に記載された画像圧縮装置によって前記記録媒体に記録された前記コントラスト係数と縮小直交変換係数データとを読み出すデータ読出手段と、
前記縮小直交変換係数データに対して、前記第2のマトリクスよりも多い画素から成る第3のマトリクスによって構成される拡大画像データを得るように、逆直交変換を施す第3の拡大画像生成手段と、
前記拡大画像データに前記コントラスト係数を施すことによって、前記拡大画像データを修正し、修正拡大画像データを求めるコントラスト変換手段と
を備えたことを特徴とする画像伸張装置。
Data reading means for reading out the contrast coefficient and reduced orthogonal transform coefficient data recorded on the recording medium by the image compression device according to claim 3.
A third enlarged image generating means for performing inverse orthogonal transformation on the reduced orthogonal transformation coefficient data so as to obtain enlarged image data constituted by a third matrix having more pixels than the second matrix; ,
An image decompression device comprising: a contrast conversion unit that corrects the enlarged image data by applying the contrast coefficient to the enlarged image data to obtain corrected enlarged image data.
JP3441699A 1999-02-12 1999-02-12 Image compression device and image decompression device Expired - Fee Related JP3600750B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP3441699A JP3600750B2 (en) 1999-02-12 1999-02-12 Image compression device and image decompression device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP3441699A JP3600750B2 (en) 1999-02-12 1999-02-12 Image compression device and image decompression device

Publications (2)

Publication Number Publication Date
JP2000236550A JP2000236550A (en) 2000-08-29
JP3600750B2 true JP3600750B2 (en) 2004-12-15

Family

ID=12413607

Family Applications (1)

Application Number Title Priority Date Filing Date
JP3441699A Expired - Fee Related JP3600750B2 (en) 1999-02-12 1999-02-12 Image compression device and image decompression device

Country Status (1)

Country Link
JP (1) JP3600750B2 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5417290B2 (en) * 2010-09-10 2014-02-12 日本放送協会 Image super-resolution processing apparatus and program thereof
JP5566931B2 (en) * 2011-03-17 2014-08-06 株式会社東芝 Image processing apparatus, image processing method, program, and storage medium

Also Published As

Publication number Publication date
JP2000236550A (en) 2000-08-29

Similar Documents

Publication Publication Date Title
US20090207271A1 (en) Image Processor Correcting Color Misregistration, Image Processing Program, Image Processing Method, and Electronic Camera
US8040558B2 (en) Apparatus and method for shift invariant differential (SID) image data interpolation in fully populated shift invariant matrix
JP4317619B2 (en) Image processing device
JP5451313B2 (en) Image processing apparatus, image processing method, and program
US20110134291A1 (en) Image-processing device for color image data and method for the image processing of color image data
JP4321064B2 (en) Image processing apparatus and image processing program
JPS63266982A (en) Interpolating method for picture signal and picture signal processor executing it
JP2000003437A (en) Aberration correcting method, electronic still camera and image processing system
US8213710B2 (en) Apparatus and method for shift invariant differential (SID) image data interpolation in non-fully populated shift invariant matrix
JP3999432B2 (en) Image processing method and apparatus, and recording medium
JP3732978B2 (en) Image compression and decompression apparatus and method
JP7014158B2 (en) Image processing equipment, image processing method, and program
JPH0329468A (en) Color picture processing unit
JP3600750B2 (en) Image compression device and image decompression device
CN100364337C (en) Image processing method and image processing device
JP3709092B2 (en) Image compression apparatus and image expansion apparatus
US7139443B2 (en) Signal processing method for producing interpolated signal values in a sampled signal
JP3857829B2 (en) Image compression apparatus and image expansion apparatus
JP3917316B2 (en) Image compression apparatus and image expansion apparatus
JP3867346B2 (en) Image signal processing apparatus and method, and prediction parameter learning apparatus and method
JP4302854B2 (en) Image processing method and apparatus, and recording medium
JP3081538B2 (en) Digital still camera
JP2000217112A (en) Image compander and pixel number increasing device
JP3709106B2 (en) Image compression and decompression device
JP4239483B2 (en) Image processing method, image processing program, and image processing apparatus

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040809

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040819

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20040902

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20040917

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080924

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090924

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090924

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100924

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110924

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120924

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120924

Year of fee payment: 8

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120924

Year of fee payment: 8

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120924

Year of fee payment: 8

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130924

Year of fee payment: 9

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees