JP2000353241A - Signal processing method and device - Google Patents

Signal processing method and device

Info

Publication number
JP2000353241A
JP2000353241A JP2000086244A JP2000086244A JP2000353241A JP 2000353241 A JP2000353241 A JP 2000353241A JP 2000086244 A JP2000086244 A JP 2000086244A JP 2000086244 A JP2000086244 A JP 2000086244A JP 2000353241 A JP2000353241 A JP 2000353241A
Authority
JP
Japan
Prior art keywords
signal
interpolation
filter
processing
linear interpolation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2000086244A
Other languages
Japanese (ja)
Other versions
JP3799212B2 (en
Inventor
Kagenori Nagao
景則 長尾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Riso Kagaku Corp
Original Assignee
Riso Kagaku Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Riso Kagaku Corp filed Critical Riso Kagaku Corp
Priority to JP2000086244A priority Critical patent/JP3799212B2/en
Publication of JP2000353241A publication Critical patent/JP2000353241A/en
Application granted granted Critical
Publication of JP3799212B2 publication Critical patent/JP3799212B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4007Scaling of whole images or parts thereof, e.g. expanding or contracting based on interpolation, e.g. bilinear interpolation

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Picture Signal Circuits (AREA)
  • Studio Circuits (AREA)
  • Facsimile Image Signal Circuits (AREA)

Abstract

PROBLEM TO BE SOLVED: To prevent the deterioration of high frequency components or the blur of a picture at the time of operating linear interpolation processing. SOLUTION: In this signal processing method, a picture is read by a scanner 1 so that an actual sampled value S1 can be obtained, and linear interpolation processing is operated by a linear interpolation processing part 5 for correcting inclination at the time of reading a picture so that an interpolated sampled value pi can be obtained. Then, variable characteristic filter processing is operated to the interpolated sampled value pi by a filter for compensating the low pass characteristics of the interpolated sampled value pi according to position deviation between the sampled position and the interpolated position so that the blur correction processing of the interpolated sampled value pi can be realized. The corrected picture is transmitted to a picture outputting part 7 so that an inclination-corrected printed matter can be obtained.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は信号処理方法および
装置に関し、とくに線形補間処理を伴うデジタル信号処
理において問題となる、信号の高域成分の劣化を補正す
る信号処理方法および装置に関するものである。
[0001] 1. Field of the Invention [0002] The present invention relates to a signal processing method and apparatus, and more particularly, to a signal processing method and apparatus for correcting deterioration of a high-frequency component of a signal, which is a problem in digital signal processing involving linear interpolation processing. .

【0002】[0002]

【従来の技術】標本化された動画像信号のフレームレー
ト変換や画像の回転、拡大/縮小、あるいは標本化され
た音声信号のピッチ変換などを行う場合、標本点以外の
点(補間位置)における信号が必要とされる。標本点以
外の点での信号を得る方法として、例えば特開平2−2
94784、日本印刷学会誌(第32巻第5号(199
5)、「プリプレス入門」)では線形補間を用いる方法
が提案されている。
2. Description of the Related Art When performing frame rate conversion of a sampled moving image signal, rotation and enlargement / reduction of an image, or pitch conversion of a sampled audio signal, a point (interpolation position) other than a sample point is used. A signal is needed. As a method for obtaining a signal at a point other than the sample point, for example,
94784, Journal of the Printing Society of Japan (Vol. 32, No. 5, No. 199
5), “Introduction to prepress”) proposes a method using linear interpolation.

【0003】[0003]

【発明が解決しようとする課題】しかしながら、線形補
間を行うと、補間位置に依存した低域通過特性が発生す
るということが知られている。以下に1次元信号の補間
を例にとって、線形補間処理により発生する低域通過特
性の解析について説明する。
However, it is known that when linear interpolation is performed, a low-pass characteristic depending on the interpolation position occurs. The analysis of the low-pass characteristic generated by the linear interpolation processing will be described below by taking the interpolation of a one-dimensional signal as an example.

【0004】図5に示すような−π/T<ω<π/Tに
帯域制限された1次元信号を考える。図5において、f
(t)はモデルとなる1次元信号であり、F(ω)はそ
の周波数成分である。このようなf(t)に対して、サ
ンプリング周期Tで離散化を行うという操作は、原信号
f(t)に式(1)に示すようなインパルス列を乗じる
ことに相当する。
Consider a one-dimensional signal band-limited to -π / T <ω <π / T as shown in FIG. In FIG. 5, f
(T) is a one-dimensional signal serving as a model, and F (ω) is its frequency component. The operation of discretizing f (t) at the sampling period T corresponds to multiplying the original signal f (t) by an impulse train as shown in Expression (1).

【0005】[0005]

【数1】 したがって、離散化された後の信号fs(t)は式
(2)のように表される。
(Equation 1) Therefore, the signal fs (t) after being discretized is expressed as in Expression (2).

【0006】[0006]

【数2】 原信号f(t)を離散化した後の信号における周波数成
分は、式(2)によるfs(t)のフーリエ変換により
求められ、下記の式(3)に示すものとなる。
(Equation 2) The frequency component of the signal after discretizing the original signal f (t) is obtained by the Fourier transform of fs (t) according to the equation (2), and is represented by the following equation (3).

【0007】[0007]

【数3】 式(3)から分かるように、連続信号f(t)を離散化
した信号のスペクトルは、図6に示すように原信号のス
ペクトルを周期2π/Tで無限に繰り返したものとな
る。したがって、−π/T<ω<π/Tの範囲における
周波数成分を理想低域フィルタによって取り出すことに
より、下記の式(4)に示す信号Fsb(ω)が得ら
れ、このFsb(ω)を逆フーリエ変換することによっ
て離散化後の信号から元の連続信号f(t)を完全に復
元できることが分かる。ここで、理想低域フィルタと
は、|f|≦π/Tなる周波数帯域の信号を出力し、|
f|>π/Tなる周波数帯域の信号は出力しない特性を
有するフィルタのことをいい、その特性は図7に示すも
のとなる。
(Equation 3) As can be seen from equation (3), the spectrum of the signal obtained by discretizing the continuous signal f (t) is obtained by repeating the spectrum of the original signal indefinitely at a period of 2π / T as shown in FIG. Therefore, by extracting a frequency component in the range of -π / T <ω <π / T by an ideal low-pass filter, a signal Fsb (ω) shown in the following equation (4) is obtained, and this Fsb (ω) is It can be seen that the original continuous signal f (t) can be completely restored from the signal after discretization by performing the inverse Fourier transform. Here, the ideal low-pass filter outputs a signal in a frequency band satisfying | f | ≦ π / T, and |
A filter having a characteristic of not outputting a signal in a frequency band satisfying f |> π / T, and the characteristic is as shown in FIG.

【0008】[0008]

【数4】 次に、線形補間操作が信号の周波数特性に与える影響に
ついて考える。以下では原信号のサンプリングタイミン
グをτ・Tだけ遅延させたときに得られる離散信号を、
fs(t)の線形補間により近似的に求める。そして、
この線形補間により得られた補間信号の周波数解析を行
うことにより、補間操作が信号の周波数特性に与える影
響を考える。補間信号は図8に示すものとなり、式
(5)におけるfs′(t)により表される。
(Equation 4) Next, the influence of the linear interpolation operation on the frequency characteristics of the signal will be considered. In the following, a discrete signal obtained when the sampling timing of the original signal is delayed by τ · T,
Approximately obtained by linear interpolation of fs (t). And
The influence of the interpolation operation on the frequency characteristics of the signal will be considered by analyzing the frequency of the interpolation signal obtained by the linear interpolation. The interpolation signal is as shown in FIG. 8 and is represented by fs ′ (t) in equation (5).

【0009】[0009]

【数5】 式(5)をフーリエ変換すると式(6)のようになる。(Equation 5) When Equation (5) is Fourier-transformed, Equation (6) is obtained.

【0010】[0010]

【数6】 式(6)の信号は、依然として−π/T<ω<π/Tに
より帯域制限された信号を、周期2π/Tにより無限に
繰り返した形式となっている。そこで、−π/T<ω<
π/Tの範囲の信号を理想低域フィルタにより取り出す
と、下記の式(7)に示すようになり、元の連続信号の
スペクトルに近い信号を再現することができる。ただ
し、式(4)の場合とは異なり、原信号のスペクトルに
式(8)のフィルタ特性で示される帯域通過特性を適用
したものになる。
(Equation 6) The signal of Expression (6) has a form in which a signal whose band is limited by -π / T <ω <π / T is infinitely repeated at a period of 2π / T. Therefore, -π / T <ω <
When a signal in the range of π / T is extracted by an ideal low-pass filter, the following equation (7) is obtained, and a signal close to the spectrum of the original continuous signal can be reproduced. However, unlike the case of Expression (4), the bandpass characteristic indicated by the filter characteristic of Expression (8) is applied to the spectrum of the original signal.

【0011】[0011]

【数7】 (Equation 7)

【数8】 式(8)のフィルタのゲイン特性は式(9)に示すもの
となる。
(Equation 8) The gain characteristic of the filter of equation (8) is as shown in equation (9).

【0012】[0012]

【数9】 ここで、式(9)における右辺の平方根中の式を変形す
ると式(9a)に示すものとなり、2(1−cosT
ω)≧0であることから、式(9)はτ=1/2のとき
に最小、τ=0,1のときに最大1となることが分か
る。すなわち、τ=1/2のときに減衰量が最大とな
り、τ=0,1のときに減衰なしとなる。
(Equation 9) Here, when the expression in the square root on the right side in Expression (9) is modified, it becomes as shown in Expression (9a), and 2 (1-cosT)
ω) ≧ 0, it can be seen that equation (9) has a minimum when τ = 1 / and a maximum when τ = 0,1. That is, when τ = 1 /, the amount of attenuation becomes maximum, and when τ = 0, 1, there is no attenuation.

【0013】[0013]

【数10】 また、(Equation 10) Also,

【数11】 となり、0≦τ≦1として考えていることから、τを固
定したときに振幅比は図9に示すような特性を有するこ
とが分かる。そして、この図9から式(8)のフィルタ
が低域通過特性を持つこと、およびτにより高周波成分
(高域成分)の減衰量が変化することが分かる。なお、
式(10)にτ=1/2のときのフィルタ特性を示す。
[Equation 11] Since it is considered that 0 ≦ τ ≦ 1, it is understood that the amplitude ratio has a characteristic as shown in FIG. 9 when τ is fixed. It can be seen from FIG. 9 that the filter of equation (8) has low-pass characteristics and that the attenuation of high-frequency components (high-frequency components) changes depending on τ. In addition,
Equation (10) shows the filter characteristics when τ = 1 /.

【0014】[0014]

【数12】 以上のように1次元信号の補間処理により発生する低域
通過特性が解析されるが、同様の特性は画像のような2
次元標本信号の補間を行った場合にも発生する。ある2
次元信号の標本位置を(dx・Tx,dy・Ty)だけ
平行移動したときに得られる標本信号を、元の2次元標
本信号から線形補間近似により求めた場合に発生する低
域通過特性を式(11)に示す。ただしTxおよびTy
はそれぞれx軸およびy軸方向の標本化周期である。し
たがって、(dx,dy)は標本化周期で正規化した標
本位置の平行移動量を表す。
(Equation 12) As described above, the low-pass characteristic generated by the one-dimensional signal interpolation processing is analyzed.
It also occurs when interpolation of a dimensional sample signal is performed. Some 2
A low-pass characteristic generated when a sample signal obtained when the sample position of the two-dimensional signal is translated by (dx · Tx, dy · Ty) by linear interpolation approximation from the original two-dimensional sample signal is expressed by the following equation. This is shown in (11). Where Tx and Ty
Is the sampling period in the x-axis and y-axis directions, respectively. Therefore, (dx, dy) represents the translation amount of the sample position normalized by the sampling period.

【0015】[0015]

【数13】 ただし、式(11)の低域通過特性は、補間位置おける
標本値を、補間位置を囲む元の4標本点の標本値から式
(12)の線形補間近似により求めた場合に発生するも
のである。
(Equation 13) However, the low-pass characteristic of equation (11) occurs when the sample value at the interpolation position is obtained from the sample values of the original four sample points surrounding the interpolation position by linear interpolation approximation of equation (12). is there.

【0016】[0016]

【数14】 1次元信号の場合と同様に、式(11)のフィルタも、
元の標本位置と補間標本位置との正規化位置偏差(d
x,dy)により高域成分の減衰量が変化する低域通過
特性を持つ。高域成分の減衰量はdx=0またはdx=
1、かつdy=0またはdy=1のときに最小(減衰な
し)となる。また、dx=1/2かつdy=1/2のと
きに減衰量は最大となる。式(13)はdx=1/2か
つdy=1/2のときのフィルタ特性を示す。
[Equation 14] As in the case of the one-dimensional signal, the filter of the equation (11)
The normalized position deviation (d between the original sample position and the interpolation sample position
(x, dy) has a low-pass characteristic in which the attenuation of the high-frequency component changes. The attenuation of the high frequency component is dx = 0 or dx =
1 and minimum (no attenuation) when dy = 0 or dy = 1. When dx = 1/2 and dy = 1/2, the amount of attenuation becomes maximum. Equation (13) shows the filter characteristics when dx = 1 / and dy = 1 /.

【0017】[0017]

【数15】 以上のように、線形補間処理を行うと、補間位置に依存
した高周波成分の劣化が生じる。したがって、音声信号
の遅延や画像の平行移動などを線形補間処理によって行
う場合と、遅延量や移動量の違いにより、補間処理され
た信号の周波数特性が元の信号の周波数特性と異なるも
のとなってしまうという問題がある。
(Equation 15) As described above, when the linear interpolation processing is performed, high-frequency components are deteriorated depending on the interpolation position. Therefore, the frequency characteristic of the interpolated signal differs from the frequency characteristic of the original signal due to the difference in the amount of delay or movement between the case where the delay of the audio signal and the parallel movement of the image are performed by the linear interpolation processing. Problem.

【0018】また、動画像信号のフレームレートの微調
整や、画像の微少角度回転、拡大/縮小率の微調整、あ
るいは音声ピッチの微調整を線形補間で行う場合にはさ
らに複雑な問題が発生する。調整量が微小である場合、
信号を局所的に眺めると標本位置と補間位置との間の位
置偏差は略一定に保たれている。しかしながら、信号を
大局的に見ると上記位置偏差は周期的に大きく変動し、
画像信号では画像のボケ、音声信号では音のこもりが周
期的に発生するという問題が生じる。
Further, when the fine adjustment of the frame rate of the moving image signal, the fine angle rotation of the image, the fine adjustment of the enlargement / reduction ratio, or the fine adjustment of the voice pitch are performed by linear interpolation, a more complicated problem occurs. I do. If the adjustment amount is small,
When the signal is viewed locally, the positional deviation between the sample position and the interpolation position is kept substantially constant. However, when the signal is viewed globally, the positional deviation fluctuates greatly periodically.
There is a problem that blurring of an image occurs in an image signal and muffled sound occurs periodically in an audio signal.

【0019】本発明は上記事情に鑑みなされたものであ
り、上述した線形補間処理を行う際における高周波成分
の劣化や、画像のボケ等を防止できる信号処理方法およ
び装置を提供することを目的とするものである。
The present invention has been made in view of the above circumstances, and it is an object of the present invention to provide a signal processing method and apparatus capable of preventing deterioration of a high frequency component and blurring of an image when performing the above-described linear interpolation processing. Is what you do.

【0020】[0020]

【課題を解決するための手段】本発明による信号処理方
法は、原信号を標本化して得た離散信号から標本位置以
外の補間位置における補間信号を線形補間処理により求
める信号処理方法において、前記標本位置と前記補間位
置との位置偏差に応じて前記線形補間処理の低域通過特
性を補償する可変特性フィルタ処理を、前記補間信号に
対して施すことを特徴とするものである。
According to the present invention, there is provided a signal processing method for obtaining an interpolation signal at an interpolation position other than a sampling position from a discrete signal obtained by sampling an original signal by a linear interpolation process. A variable characteristic filter processing for compensating a low-pass characteristic of the linear interpolation processing according to a positional deviation between a position and the interpolation position is performed on the interpolation signal.

【0021】なお、本発明の信号処理方法において、前
記可変特性フィルタ処理は、前記線形補間処理の低域通
過特性の逆関数を伝達関数に持つフィルタによるフィル
タ処理であることが好ましい。
In the signal processing method of the present invention, it is preferable that the variable characteristic filter processing is a filter processing using a filter having a transfer function having an inverse function of a low-pass characteristic of the linear interpolation processing.

【0022】また、前記可変特性フィルタ処理は、微分
オペレータの適用強度を前記標本位置と前記補間位置と
の位置偏差に応じて変化させるフィルタ処理であること
が好ましい。
Further, it is preferable that the variable characteristic filter process is a filter process for changing an applied strength of a differential operator according to a positional deviation between the sample position and the interpolation position.

【0023】本発明による信号処理装置は、原信号を標
本化して得た離散信号から標本位置以外の補間位置にお
ける補間信号を線形補間処理により求める信号処理装置
において、前記標本位置と前記補間位置との位置偏差に
応じて前記線形補間処理の低域通過特性を補償する可変
特性フィルタ処理を、前記補間信号に対して施すフィル
タ処理手段を備えたことを特徴とするものである。
A signal processing apparatus according to the present invention is a signal processing apparatus for obtaining an interpolation signal at an interpolation position other than a sample position by linear interpolation from a discrete signal obtained by sampling an original signal. And a filter processing means for performing a variable characteristic filter process for compensating a low-pass characteristic of the linear interpolation process in accordance with the positional deviation of the interpolation signal with respect to the interpolation signal.

【0024】なお、前記フィルタ処理手段は、前記線形
補間処理の低域通過特性の逆関数を伝達関数に持つフィ
ルタによるフィルタ処理を行う手段、あるいは微分オペ
レータの適用強度を前記標本位置と前記補間位置との位
置偏差に応じて変化させるフィルタ処理を行う手段であ
ることが好ましい。
The filter processing means may be means for performing filter processing using a filter having a transfer function that is an inverse function of the low-pass characteristic of the linear interpolation processing, or may apply an applied strength of a differential operator to the sample position and the interpolation position. It is preferable to use a means for performing a filter process of changing the position in accordance with the positional deviation from.

【0025】[0025]

【発明の効果】本発明によれば、標本位置と補間位置と
の位置偏差に応じて、線形補間処理の低域通過特性を補
償する可変フィルタ処理を補間信号に対して施すように
したため、線形補間処理を伴うデジタル信号処理で問題
となる、信号の高域成分の劣化を効果的に補正すること
ができる。また、本発明を画像処理や音声信号処理に応
用することで、動画像信号のフレームレートの微調整
や、画像の微少角度回転、拡大/縮小率の微調整などを
行う場合に発生する周期的な画像のボケや、音声ピッチ
の微調整を行う場合に発生する周期的な音のこもりを改
善することができる。
According to the present invention, the variable filter processing for compensating for the low-pass characteristic of the linear interpolation processing is performed on the interpolation signal in accordance with the positional deviation between the sample position and the interpolation position. It is possible to effectively correct deterioration of a high-frequency component of a signal, which is a problem in digital signal processing involving interpolation processing. In addition, by applying the present invention to image processing and audio signal processing, periodic adjustments that occur when fine adjustment of the frame rate of a moving image signal, fine angle rotation of an image, and fine adjustment of an enlargement / reduction ratio are performed. It is possible to improve the blurring of an image and the periodic muffled sound that occurs when the sound pitch is finely adjusted.

【0026】[0026]

【発明の実施の形態】以下図面を参照して本発明の実施
形態について説明する。
Embodiments of the present invention will be described below with reference to the drawings.

【0027】図1は本発明の実施形態による信号処理装
置を適用した、原稿の傾き補正機能付き複写装置の構成
を示す概略ブロック図である。なお、本装置の傾き補正
機能は、原稿用紙に対する印字のスキューや原稿読み取
り時に生じるスキャナと原稿用紙間の角度誤差など、数
度以内の微少な傾き角の補正を行うものである。
FIG. 1 is a schematic block diagram showing a configuration of a copying apparatus having a function of correcting the inclination of a document to which a signal processing apparatus according to an embodiment of the present invention is applied. The skew correction function of the present apparatus corrects a slight skew angle within several degrees, such as a skew of printing on a manuscript sheet and an angle error between the scanner and the manuscript sheet that occurs when reading the manuscript.

【0028】スキャナ1により読み取られ、標本化され
た画像の標本値S1(以下実標本値とする)は一旦画像
メモリ2に蓄えられ、傾き角検出部3において入力画像
の傾き角すなわち画像の傾きを補正するための回転角θ
1が検出される。なお、傾き角検出部3は傾き角をオペ
レータが直接入力する構成とすることもできる。傾き角
検出部3は、検出した回転角θ1を斜め走査座標計算部
4に出力する。
A sample value S1 (hereinafter, referred to as an actual sample value) of an image read and sampled by the scanner 1 is temporarily stored in an image memory 2, and a tilt angle of an input image, that is, a tilt of the image, is detected by a tilt angle detector 3. Rotation angle θ to correct
1 is detected. Note that the tilt angle detection unit 3 may be configured so that the operator directly inputs the tilt angle. The tilt angle detection unit 3 outputs the detected rotation angle θ1 to the oblique scanning coordinate calculation unit 4.

【0029】画像の回転は、原画像を回転角θ1に等し
い傾きにより斜めに走査し、原画像を再標本化すること
により行われる。この原理を、図2(a)のように角度
θ0の傾きを持つ文字列画像の傾き補正を例にとって説
明する。図2(a)中、水平方向をx軸、垂直方向をy
軸にとり、画像中央を座標原点とする。スキャナにより
標本化が行われる位置(以下、実標本位置とする)(x
m,yn)は、
The rotation of the image is performed by obliquely scanning the original image at an inclination equal to the rotation angle θ1 and re-sampling the original image. This principle will be described with reference to an example of inclination correction of a character string image having an inclination of an angle θ0 as shown in FIG. In FIG. 2A, the horizontal direction is the x-axis, and the vertical direction is y.
For the axis, the center of the image is the coordinate origin. A position where sampling is performed by the scanner (hereinafter referred to as an actual sample position) (x
m, yn) is

【数16】 となる。ただし、式(14)におけるTx,Tyはそれ
ぞれx方向、y方向の標本化周期であり、(m,n)
は、
(Equation 16) Becomes Here, Tx and Ty in Expression (14) are sampling periods in the x and y directions, respectively, and (m, n)
Is

【数17】 である。したがって、スキャナ1により取り込まれる画
像の大きさは式(16)に示すものとなる。
[Equation 17] It is. Therefore, the size of the image captured by the scanner 1 is as shown in Expression (16).

【0030】[0030]

【数18】 図2(a)の画像を角度−θ0回転させて傾きを補正す
るためには、図2(b)に示すように角度θ0傾斜させ
て主走査を行い、図2(b)の実線枠で示された領域内
の画像データを標本化し直せばよい。すなわち、x−y
座標系をθ0だけ回転させた新たな座標系をx′−y′
座標系として、この座標系上で画像を見ると図2(c)
のようになり、画像の傾き修正が行われる。
(Equation 18) In order to correct the tilt by rotating the image of FIG. 2A by an angle −θ0, the main scanning is performed at an angle of θ0 as shown in FIG. What is necessary is just to resample the image data in the indicated area. That is, xy
The new coordinate system obtained by rotating the coordinate system by θ0 is x'-y '
When an image is viewed on this coordinate system as a coordinate system, FIG.
The inclination of the image is corrected.

【0031】x′−y′座標系のnライン目の主走査線
上におけるm番目の標本点の座標を(x′m,y′n)
とする。このx′−y′座標上での位置(x′m,y′
n)が、x‐y座標系においては(x″m,y″n)の
位置に対応すると考えると、座標(x″m,y″n)と
座標(xm,yn)との間には式(17)に示す関係が
存在する。
The coordinates of the m-th sample point on the n-th main scanning line in the x'-y 'coordinate system are (x'm, y'n)
And The position (x'm, y ') on the x'-y' coordinates
n) corresponds to the position of (x "m, y" n) in the xy coordinate system, the coordinate between (x "m, y" n) and the coordinate (xm, yn) is The relationship shown in Expression (17) exists.

【0032】[0032]

【数19】 そして、この座標(x″m,y″n)を新たな標本点と
して原画像を再標本化することにより、画像を回転させ
ることができる。
[Equation 19] Then, by re-sampling the original image using the coordinates (x "m, y" n) as a new sample point, the image can be rotated.

【0033】しかしながら、一般に座標(x″m,y″
n)は実標本位置とは一致しない。また、図1の画像メ
モリ2内には式(14)の座標(xm,yn)を標本点
とする実標本位置S1での標本値しか保存されていない
ため、式(17)の座標(x″m,y″n)における標
本値を得るためには何らかの画素値復元処理を行う必要
がある。ここでは座標(x″m,y″n)を囲む4実標
本点の標本値から、線形予測法を用いて座標(x″m,
y″n)における画素値を近似的に復元する方法につい
て説明する。
However, in general, the coordinates (x "m, y")
n) does not match the actual sample position. Further, since only the sample values at the actual sample position S1 having the coordinates (xm, yn) of Expression (14) as the sample points are stored in the image memory 2 of FIG. 1, the coordinates (x In order to obtain the sample value at "m, y" n), it is necessary to perform some pixel value restoration processing. Here, from the sample values of the four actual sample points surrounding the coordinates (x ″ m, y ″ n), the coordinates (x ″ m,
A method of approximately restoring the pixel value at y "n) will be described.

【0034】座標(x″m,y″n)を囲む4実標本点
の座標をそれぞれ(xa,yb)、(xa+Tx,y
b)、(xa,yb+Ty)、(xa+Tx,yb+T
y)とする。図1における斜め走査座標計算部4はこれ
ら4点に相当するメモリアドレスを計算し、画像メモリ
2の読み出しアドレスとして出力する。画像メモリ2か
らは上記4実標本点の標本値S2が読み出され、読み出
された標本値S2は線形補間処理部5に送られる。
The coordinates of the four actual sample points surrounding the coordinates (x "m, y" n) are (xa, yb) and (xa + Tx, y
b), (xa, yb + Ty), (xa + Tx, yb + T
y). The oblique scanning coordinate calculator 4 in FIG. 1 calculates memory addresses corresponding to these four points, and outputs them as read addresses of the image memory 2. The sample values S2 of the four actual sample points are read from the image memory 2, and the read sample values S2 are sent to the linear interpolation processing unit 5.

【0035】線形補間処理部5においては4実標本点の
標本値S2と、補間標本位置−実標本位置間の位置偏差
を用いて、座標(x″m,y″n)における補間標本値
pi(x″m,y″n)を線形補間により求める。この
際の補間標本位置−実標本位置間の位置偏差(dx・T
x,dy・Ty)は式(18)で表される。
The linear interpolation processing unit 5 uses the sample value S2 of the four actual sample points and the positional deviation between the interpolated sample position and the actual sample position to calculate the interpolated sample value pi at the coordinates (x "m, y" n). (X "m, y" n) is obtained by linear interpolation. At this time, the positional deviation between the interpolation sample position and the actual sample position (dx · T
x, dy · Ty) is represented by equation (18).

【0036】[0036]

【数20】 式(18)より(x″m,y″n)=(xa+dx・T
x,yb+dy・Ty)であるから、式(12)におい
てx=xa、y=ybとおくことにより補間標本値pi
(x″m,y″n)を求めることができる。式(12)
において用いられる標本化周期により正規化した位置偏
差(dx,dy)は、斜め走査座標計算部4から出力さ
れる。上述したように本実施形態による装置は微少な傾
き角の補正を行うことを目的としており、傾き補正角度
が微少であるという条件の下では、近傍の補間標本点同
士に関しては正規化位置偏差(dx,dy)は略一定と
なる。これを検証するため、以下では補間標本点(x″
m,y″n)と(x″m+i,y″n+j)について、
それぞれの正規化位置偏差(dx,dy)および(d
x′,dy′)を考える。ここで(x″m+i,y″n
+j)は、x′−y′座標上での位置(x′m,y′
n)からx′軸方向にiサンプル、y′軸方向にjサン
プルだけ離れた補間標本点(x′m+i,y′n+j)
の、x−y座標系における位置を表す。この正規化位置
偏差(dx,dy)と(dx′,dy′)の間には式
(19)に示す関係がある。
(Equation 20) From equation (18), (x ″ m, y ″ n) = (xa + dx · T
x, yb + dy · Ty), the interpolation sample value pi can be obtained by setting x = xa and y = yb in equation (12).
(X "m, y" n) can be obtained. Equation (12)
The position deviation (dx, dy) normalized by the sampling period used in is output from the oblique scanning coordinate calculator 4. As described above, the apparatus according to the present embodiment aims to correct a small tilt angle, and under the condition that the tilt correction angle is small, the normalized position deviation ( dx, dy) is substantially constant. To verify this, in the following, the interpolation sample point (x ″
m, y "n) and (x" m + i, y "n + j)
The respective normalized position deviations (dx, dy) and (d
x ', dy'). Where (x "m + i, y" n
+ J) is the position (x'm, y ') on the x'-y' coordinate.
Interpolated sample points (x'm + i, y'n + j) separated by i samples in the x'-axis direction and j samples in the y'-axis direction from n)
In the xy coordinate system. The relationship shown in equation (19) exists between the normalized position deviations (dx, dy) and (dx ', dy').

【0037】[0037]

【数21】 式(19)においてθ1は傾き補正角度を表す。本実施
形態の装置は微少な傾き角の補正を行うことを目的とし
ているためθ1は非常に小さな角度である。したがっ
て、主走査および副走査方向の標本化周期に著しい差が
無ければ、式(19)のiおよびjが小さな整数の場合
には2つの補間標本点の正規化位置偏差は略等しくな
る。すなわち、近傍の補間標本点同士の正規化位置偏差
は略一定となる。逆にiまたはjが大きな整数の場合
は、2つの補間標本点の正規化位置偏差は大きく異な
る。つまり遠く離れた補間標本点同士の正規化位置偏差
は大きく異なる。
(Equation 21) In Expression (19), θ1 represents a tilt correction angle. Since the apparatus according to the present embodiment is intended to correct a slight tilt angle, θ1 is a very small angle. Therefore, if there is no significant difference between the sampling periods in the main scanning direction and the sub-scanning direction, when i and j in Expression (19) are small integers, the normalized position deviations of the two interpolation sample points become substantially equal. That is, the normalized position deviation between neighboring interpolation sample points is substantially constant. Conversely, when i or j is a large integer, the normalized position deviations of the two interpolation sample points are significantly different. In other words, the normalized position deviation between interpolation sample points that are far apart greatly differs.

【0038】一方、上記式(11)により、補間によっ
て発生する低域通過特性は(dx,dy)により決定さ
れることが分かる。このことから、微少な傾き角の補正
を線形補間処理によって行う場合、局所的には正規化位
置偏差(dx,dy)は略一定であるから、補間処理に
よって発生する低域通過特性も局所的に見れば略一定と
考えてよいことが分かる。一般にデジタル画像処理で用
いられる2次元FIRフィルタの大きさは、回路構成の
容易さから、3×3もしくは5×5程度の小さなものが
多い。上記より3×3あるいは5×5程度の局所領域で
の低域通過特性は略一定と考えてよいため、逆フィルタ
などを用いた通常の補正フィルタ処理によって、線形補
間により生じるボケの補正を行うことができる。ところ
が、局所領域内では略一定の低域通過特性も、大域的に
見るとその低域通過特性は場所によって大きく異なるた
め、単一特性の補正フィルタ処理では画像全体のボケ補
正を適切に行うことができない。そこで、可変特性の補
正フィルタ処理が必要になる。
On the other hand, it can be seen from the above equation (11) that the low-pass characteristic generated by interpolation is determined by (dx, dy). From this, when the minute inclination angle is corrected by the linear interpolation processing, the normalized position deviation (dx, dy) is locally substantially constant, so that the low-pass characteristic generated by the interpolation processing is also locally. It can be understood from the above that it can be considered substantially constant. In general, the size of a two-dimensional FIR filter used in digital image processing is often as small as about 3 × 3 or 5 × 5 because of the ease of circuit configuration. From the above, since the low-pass characteristic in a local region of about 3 × 3 or 5 × 5 may be considered to be substantially constant, blur caused by linear interpolation is corrected by ordinary correction filter processing using an inverse filter or the like. be able to. However, since the low-pass characteristics, which are almost constant within the local area, vary greatly depending on the location when viewed globally, the blur correction of the entire image must be properly performed with the correction filter processing of a single characteristic. Can not. Therefore, a correction filter process with variable characteristics is required.

【0039】図1に示す可変特性フィルタ処理部6にお
いては、線形補間処理部5から出力される補間標本値p
i(x″m,y″n)に対して、線形補間処理により生
じる画像のボケの補正処理を行う。式(11)で示した
ように、発生するボケの特性は補間位置と標本位置との
間の位置偏差により変化するため、可変特性フィルタ処
理部6では(dx,dy)の値に応じて帯域通過特性が
異なるフィルタを用いたボケ補正処理が行われる。以下
に可変特性フィルタ処理に関して2通りの実現法を示
す。
In the variable characteristic filter processing section 6 shown in FIG. 1, the interpolation sample value p output from the linear interpolation processing section 5 is used.
For i (x ″ m, y ″ n), a process of correcting blurring of an image caused by the linear interpolation process is performed. As shown in Expression (11), the characteristic of the generated blur changes due to the positional deviation between the interpolation position and the sample position. Therefore, the variable characteristic filter processing unit 6 sets the band according to the value of (dx, dy). A blur correction process using filters having different pass characteristics is performed. In the following, two ways of realizing the variable characteristic filter processing will be described.

【0040】可変特性フィルタ処理を実現する方法の一
つは、補間により発生する低域通過特性の逆関数を伝達
特性に持つ逆フィルタを補間画像に適用する方法であ
る。式(11)に示したように、補間により発生する低
域通過特性は補間位置と標本位置との間の位置偏差によ
り異なるため、逆フィルタの伝達関数も位置偏差に応じ
て可変でなければならない。とくに処理の高速性が要求
されない場合は、DSP(Digital Signal Processor)
等を用いたソフトウェアによる信号処理によって、上記
のような可変特性のデジタルフィルタを構成することが
できる。
One of the methods for implementing the variable characteristic filter processing is to apply an inverse filter having an inverse function of a low-pass characteristic generated by interpolation as a transfer characteristic to the interpolated image. As shown in equation (11), since the low-pass characteristic generated by interpolation differs depending on the position deviation between the interpolation position and the sample position, the transfer function of the inverse filter must also be variable according to the position deviation. . Especially when high-speed processing is not required, DSP (Digital Signal Processor)
The digital filter having the above-described variable characteristics can be configured by signal processing by software using the above-described method.

【0041】一方、高速性が要求される用途では、図3
に示すようなフィルタバンク方式の専用ハードウェアを
構成することにより、可変特性のフィルタを実現するこ
とができる。図3に示すフィルタバンク方式によれば、
所望の逆フィルタ特性を正確に実現できるため、高精度
のボケ補正が可能となる。しかしながら、補正の精度を
高めるためには数多くのフィルタからなるフィルタバン
クを用いなければならず、回路規模が大きくなるという
問題もある。
On the other hand, in applications requiring high speed, FIG.
By constructing dedicated hardware of the filter bank type as shown in (1), a filter with variable characteristics can be realized. According to the filter bank method shown in FIG.
Since a desired inverse filter characteristic can be accurately realized, highly accurate blur correction can be performed. However, in order to increase the accuracy of the correction, a filter bank including a large number of filters must be used, and there is a problem that the circuit scale becomes large.

【0042】可変特性フィルタ処理を実現するもう一つ
の方法は、図4に示すように微分オペレータを使用し、
その適用強度を重み付けにより変化させる方法である。
この方法ではフィルタバンク方式に比べてボケ補正の精
度は低くなるが、より簡易なハードウェアで近似的に可
変特性フィルタ処理を実現することができる。
Another way to implement variable characteristic filtering is to use a differential operator as shown in FIG.
This is a method of changing the applied strength by weighting.
In this method, the accuracy of the blur correction is lower than in the filter bank method, but the variable characteristic filter processing can be approximately realized with simpler hardware.

【0043】図4の例では微分オペレータとしてラプラ
シアンオペレータを用いている。図4における補間標本
値、およびフィルタ出力を前述のx′−y′座標系での
表記を用いてそれぞれ、pi(x′,y′)、およびp
if(x′,y′,dx,dy)とすると、フィルタ出
力は式(20)に示すものとなる。
In the example of FIG. 4, a Laplacian operator is used as a differential operator. The interpolated sample values and the filter output in FIG. 4 are represented by pi (x ', y') and p
If if (x ', y', dx, dy), the filter output is as shown in equation (20).

【0044】[0044]

【数22】 式(20)における関数k()がラプラシアンオペレー
タの適用強度を決定している。上述したように、補間処
理により発生するボケは、補間位置の標本位置からの正
規化位置偏差(dx,dy)が、(dx,dy)=(1
/2,1/2)のときに最大となり、補間位置が標本位
置に近づくほど小さくなる。補間位置と標本位置が一致
する場合にはボケは発生しない。そこで、関数k()と
して、(dx,dy)=(1/2,1/2)のときに最
大値をとり、補間位置が標本位置に近づくにつれて小さ
くなり、さらに補間位置と標本位置が一致する場合には
ゼロになるような関数を選べば、近似的に補間処理によ
る低域通過特性を補償する可変特性フィルタ処理が実現
できる。このような関数k()の一例を式(21)に示
す。
(Equation 22) The function k () in equation (20) determines the applied strength of the Laplacian operator. As described above, the blur generated by the interpolation processing is such that the normalized position deviation (dx, dy) of the interpolation position from the sample position is (dx, dy) = (1
/ 2, 1/2), and becomes smaller as the interpolation position approaches the sample position. If the interpolation position matches the sample position, no blur occurs. Therefore, the function k () takes the maximum value when (dx, dy) = (1/2, 1/2), becomes smaller as the interpolation position approaches the sample position, and furthermore, the interpolation position and the sample position match. In this case, if a function that becomes zero is selected, a variable characteristic filter process that approximately compensates for the low-pass characteristic by the interpolation process can be realized. An example of such a function k () is shown in Expression (21).

【0045】[0045]

【数23】 図4のゲイン決定回路は式(21)のような大きさを持
つゲイン調整信号を出力する。
(Equation 23) The gain determination circuit in FIG. 4 outputs a gain adjustment signal having a magnitude as shown in Expression (21).

【0046】以上のように、補間処理によって画像に発
生したボケの補正処理が行われ、補正後の画像が図1の
画像出力部7に送られて、傾き補正処理の施された印刷
物が得られる。
As described above, the process of correcting the blur generated in the image by the interpolation process is performed, and the image after the correction is sent to the image output unit 7 in FIG. 1 to obtain a printed material subjected to the tilt correction process. Can be

【図面の簡単な説明】[Brief description of the drawings]

【図1】本発明の実施形態による信号処理装置を適用し
た、原稿の傾き補正機能付き複写装置の構成を示す概略
ブロック図
FIG. 1 is a schematic block diagram showing a configuration of a copying apparatus with a document skew correction function to which a signal processing device according to an embodiment of the present invention is applied.

【図2】傾き補正の原理を説明するための図FIG. 2 is a diagram for explaining the principle of tilt correction.

【図3】フィルタバンクを用いた可変特性フィルタを示
す図
FIG. 3 is a diagram showing a variable characteristic filter using a filter bank;

【図4】微分オペレータを用いた可変特性フィルタを示
す図
FIG. 4 is a diagram showing a variable characteristic filter using a differential operator.

【図5】評価する1次元信号の周波数特性を示す図FIG. 5 is a diagram illustrating frequency characteristics of a one-dimensional signal to be evaluated;

【図6】f(t)の離散化を示す図FIG. 6 is a diagram showing discretization of f (t).

【図7】理想低域フィルタの特性を示す図FIG. 7 is a diagram showing characteristics of an ideal low-pass filter.

【図8】サンプリングタイミングに遅延τTを加えた場
合の離散信号を、線形補間により近似した状態を示す図
FIG. 8 is a diagram showing a state in which a discrete signal obtained by adding a delay τT to a sampling timing is approximated by linear interpolation.

【図9】式(8)のフィルタの特性を示す図FIG. 9 is a diagram showing characteristics of the filter of Expression (8).

【符号の説明】[Explanation of symbols]

1 スキャナ 2 画像メモリ 3 傾き角検出部 4 斜め走査座標計算部 5 線形補間処理部 6 可変特性フィルタ処理部 7 画像出力部 DESCRIPTION OF SYMBOLS 1 Scanner 2 Image memory 3 Tilt angle detection part 4 Oblique scanning coordinate calculation part 5 Linear interpolation processing part 6 Variable characteristic filter processing part 7 Image output part

Claims (6)

【特許請求の範囲】[Claims] 【請求項1】 原信号を標本化して得た離散信号から
標本位置以外の補間位置における補間信号を線形補間処
理により求める信号処理方法において、 前記標本位置と前記補間位置との位置偏差に応じて前記
線形補間処理の低域通過特性を補償する可変特性フィル
タ処理を、前記補間信号に対して施すことを特徴とする
信号処理方法。
1. A signal processing method for obtaining an interpolation signal at an interpolation position other than a sample position from a discrete signal obtained by sampling an original signal by a linear interpolation process, wherein the interpolation signal is obtained according to a positional deviation between the sample position and the interpolation position. A signal processing method, wherein a variable characteristic filter process for compensating for a low-pass characteristic of the linear interpolation process is performed on the interpolation signal.
【請求項2】 前記可変特性フィルタ処理は、前記線
形補間処理の低域通過特性の逆関数を伝達関数に持つフ
ィルタによるフィルタ処理であることを特徴とする請求
項1記載の信号処理方法。
2. The signal processing method according to claim 1, wherein the variable characteristic filter processing is filter processing using a filter having a transfer function having an inverse function of a low-pass characteristic of the linear interpolation processing.
【請求項3】 前記可変特性フィルタ処理は、微分オ
ペレータの適用強度を前記標本位置と前記補間位置との
位置偏差に応じて変化させるフィルタ処理であることを
特徴とする請求項1記載の信号処理方法。
3. The signal processing according to claim 1, wherein the variable characteristic filter processing is a filter processing that changes an applied strength of a differential operator according to a positional deviation between the sample position and the interpolation position. Method.
【請求項4】 原信号を標本化して得た離散信号から
標本位置以外の補間位置における補間信号を線形補間処
理により求める信号処理装置において、 前記標本位置と前記補間位置との位置偏差に応じて前記
線形補間処理の低域通過特性を補償する可変特性フィル
タ処理を、前記補間信号に対して施すフィルタ処理手段
を備えたことを特徴とする信号処理装置。
4. A signal processing apparatus for obtaining an interpolation signal at an interpolation position other than a sample position from a discrete signal obtained by sampling an original signal by a linear interpolation process, according to a positional deviation between the sample position and the interpolation position. A signal processing apparatus comprising: a filter processing unit that performs a variable characteristic filter process for compensating a low-pass characteristic of the linear interpolation process on the interpolation signal.
【請求項5】 前記フィルタ処理手段は、前記線形補
間処理の低域通過特性の逆関数を伝達関数に持つフィル
タによるフィルタ処理を行う手段であることを特徴とす
る請求項4記載の信号処理装置。
5. The signal processing apparatus according to claim 4, wherein said filter processing means is a means for performing a filter processing by a filter having an inverse function of a low-pass characteristic of said linear interpolation processing as a transfer function. .
【請求項6】 前記フィルタ処理手段は、微分オペレ
ータの適用強度を前記標本位置と前記補間位置との位置
偏差に応じて変化させるフィルタ処理を行う手段である
ことを特徴とする請求項4記載の信号処理装置。
6. The filter processing means according to claim 4, wherein said filter processing means is a means for performing filter processing for changing an applied strength of a differential operator according to a positional deviation between said sample position and said interpolation position. Signal processing device.
JP2000086244A 1999-03-29 2000-03-27 Signal processing method and apparatus Expired - Fee Related JP3799212B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2000086244A JP3799212B2 (en) 1999-03-29 2000-03-27 Signal processing method and apparatus

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP8627999 1999-03-29
JP11-86279 1999-03-29
JP2000086244A JP3799212B2 (en) 1999-03-29 2000-03-27 Signal processing method and apparatus

Publications (2)

Publication Number Publication Date
JP2000353241A true JP2000353241A (en) 2000-12-19
JP3799212B2 JP3799212B2 (en) 2006-07-19

Family

ID=26427434

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000086244A Expired - Fee Related JP3799212B2 (en) 1999-03-29 2000-03-27 Signal processing method and apparatus

Country Status (1)

Country Link
JP (1) JP3799212B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2005114573A1 (en) * 2004-05-19 2005-12-01 Oce Document Technologies Gmbh Method and device for interpolation and correction of an image

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2005114573A1 (en) * 2004-05-19 2005-12-01 Oce Document Technologies Gmbh Method and device for interpolation and correction of an image

Also Published As

Publication number Publication date
JP3799212B2 (en) 2006-07-19

Similar Documents

Publication Publication Date Title
US9805475B2 (en) Eulerian motion modulation
CA2020627C (en) Image processing apparatus
JP3583831B2 (en) Signal processing device
JP2007324789A (en) Image signal processing unit, method for obtaining high resolution image signal, and program for executing the same
JP4582666B2 (en) Method and apparatus for interpolating and correcting an image and scanner having the apparatus
WO2017217100A1 (en) Phase compensation device, phase compensation method and communication apparatus
CN111141267B (en) Anti-interference method for jitter control system of mechanically jittered laser gyroscope
JP3799212B2 (en) Signal processing method and apparatus
JP4500307B2 (en) Signal processing method and apparatus
EP1041510B1 (en) Method of and system for processing signal
JP6532151B2 (en) Super-resolution device and program
JPH06309452A (en) Resolution converting processor
JPWO2007102244A1 (en) Image scaling device
CN111340724B (en) Image jitter removing method and device in LED screen correction process
JP2003198878A (en) Contour correction circuit
JPH104358A (en) Signal processing method and equipment
JPH04333183A (en) Detection of distortion of digitized image
JP2807262B2 (en) Discretized density conversion method of discretized multilevel signal
JP2012226399A (en) Image processing device and image forming apparatus
JP2010271873A (en) Tilt angle detection method for image
US20220232164A1 (en) Photographing device, control method thereof, and movable platform
JP4698015B2 (en) Method and system for determining weighted average measured reflectance parameters
JPH0630245A (en) Image processing device
JPH0998292A (en) Mtf measurement method and mtf correction device
JPH04326183A (en) Enlarging and reducing method for picture

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20050905

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050913

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20051110

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060411

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060424

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090428

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100428

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110428

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120428

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130428

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130428

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140428

Year of fee payment: 8

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees