JPH11219460A - Method for processing inclined image - Google Patents

Method for processing inclined image

Info

Publication number
JPH11219460A
JPH11219460A JP10020032A JP2003298A JPH11219460A JP H11219460 A JPH11219460 A JP H11219460A JP 10020032 A JP10020032 A JP 10020032A JP 2003298 A JP2003298 A JP 2003298A JP H11219460 A JPH11219460 A JP H11219460A
Authority
JP
Japan
Prior art keywords
medium
image
pixel
length
tilt
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP10020032A
Other languages
Japanese (ja)
Other versions
JP3777775B2 (en
Inventor
Kazuhiro Tsuchiya
和広 土屋
Haruyuki Matsumoto
晴幸 松本
Toyoshi Kadosaki
東洋史 門崎
Tatsuya Furui
達也 古井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fuji Electric Co Ltd
Original Assignee
Fuji Electric Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Electric Co Ltd filed Critical Fuji Electric Co Ltd
Priority to JP02003298A priority Critical patent/JP3777775B2/en
Publication of JPH11219460A publication Critical patent/JPH11219460A/en
Application granted granted Critical
Publication of JP3777775B2 publication Critical patent/JP3777775B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Inspection Of Paper Currency And Valuable Securities (AREA)
  • Image Processing (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Image Analysis (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide an inclined image processing method capable of quickly processing an image read out in an inclined state. SOLUTION: In the case of acquiring an image while successively scanning paper moneys carried, a minor length corresponding to the arrangement of non-transmissible pixel values is obtained in each scanning line together with its distribution (S1) and the maximum frequency value of the minor lengths is obtained from the above distribution (S2). After checking where an inclination angle can be correctly detected or not (S3), the inclination angle is detected from the minor length start coordinates of scanning lines on upper and lower ends having the maximum frequency value (S5). Then, a paper money area is calculated (S6), an excess inclination angle is checked (S7), and after checking the dispersions of inclination angles (S8), an inlination is corrected based on the inclination angle thus obtained (S9). Since the most frequent minor length is acquired by the search of minor lengths and an inclination angle is detected by coordinates having the most frequency length, the processing of an image can be executed simultaneously with its image pickup and a high speed processing can be attained.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は傾斜画像処理方法に
関し、特にスキャンした画像から傾斜した矩形画像の傾
斜角度を検出し、その傾斜角度に基づいて傾斜した画像
を真っ直ぐに補正する傾斜画像処理方法に関する。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a tilt image processing method, and more particularly to a tilt image processing method for detecting a tilt angle of a tilted rectangular image from a scanned image and correcting the tilt image straight based on the tilt angle. About.

【0002】[0002]

【従来の技術】紙幣を鑑別するような装置では、紙幣を
搬送しながら搬送路の途中に配置されたイメージセンサ
により紙幣の画像を読み取り、読み取った画像を処理す
ることによって、金種判定および真贋判定を行ってい
る。紙幣は金種によって様々な寸法を有しており、特に
外国紙幣では大きさが多様である。このような紙幣を鑑
別するには、紙幣を搬送する搬送路の幅を鑑別対象の金
種の中で最も幅の大きな紙幣の幅に合わせて作られる。
このため、特に幅の狭い紙幣が搬送されると、常に真っ
直ぐな状態で搬送されることは少なく、どうしても曲が
った状態、すなわち斜行状態で搬送されることになり、
イメージセンサによる撮像においても、斜行状態で読み
取られることになる。
2. Description of the Related Art In a device for discriminating banknotes, an image sensor arranged in the middle of a transport path reads a banknote image while transporting the banknote, and processes the read image to determine a denomination and authenticity. Judgment is being performed. Banknotes have various sizes depending on denominations, and especially foreign banknotes have various sizes. In order to discriminate such a bill, the width of the transport path for carrying the bill is made to match the width of the widest bill among the denominations to be discriminated.
For this reason, especially when a narrow banknote is conveyed, it is rarely conveyed always in a straight state, and it is conveyed in a bent state, that is, a skew state,
Also in the imaging by the image sensor, the image is read in a skewed state.

【0003】紙幣を鑑別するには、読み取った紙幣の画
像の正確な座標が分からなければならない。ところが、
斜行状態で読み取られた画像は斜行状態のままであるた
め、そのまま利用することはできないので、前処理とし
て斜行状態を真っ直ぐな状態にする斜行補正が行われ
る。
In order to discriminate bills, it is necessary to know the exact coordinates of a read bill image. However,
Since the image read in the skew state remains in the skew state and cannot be used as it is, skew correction for making the skew state straight as preprocessing is performed.

【0004】たとえば特開平8−212417号公報に
記載の技術では、まず、読み取った紙幣のイメージデー
タから紙幣の輪郭、すなわち紙幣の短手および長手の4
辺の情報を求め、これにより、紙幣の斜行角度を求めて
いる。その後、斜行した画像をその画像の角を原点とし
て斜行量分回転させて、真っ直ぐな状態の画像にしてい
る。
[0004] For example, in the technique described in Japanese Patent Application Laid-Open No. 8-212417, first, the outline of a bill, that is, the short and long sides of the bill are calculated from the read image data of the bill.
The side information is obtained, and the skew angle of the banknote is thereby obtained. After that, the skewed image is rotated by the amount of skew with the corner of the image as the origin, thereby obtaining a straight image.

【0005】[0005]

【発明が解決しようとする課題】しかしながら、上記公
報に記載の技術によれば、紙幣の斜行状態を求めるのに
紙幣全体をスキャンした後、その全体画像から輪郭情報
を抽出して四つの辺を求めており、比較的処理時間およ
びメモリ資源が必要となるという問題がある。また、斜
行角度をもとに回転させるときの原点が四つの辺からな
る領域の一つの角に初めから決めているが、その角が折
れていたり欠損している部分の場合、原点が紙幣の画像
の中に入るおそれがあり、回転後に画像の一部が破棄さ
れる場合があるという問題点があった。
However, according to the technique disclosed in the above publication, after scanning the entire banknote to determine the skew state of the banknote, the contour information is extracted from the entire image and the four sides are extracted. And there is a problem that a relatively long processing time and memory resources are required. In addition, the origin when rotating based on the skew angle is determined from the beginning at one corner of the area consisting of four sides, but if the corner is broken or missing, the origin is the bill However, there is a problem that a part of the image may be discarded after rotation.

【0006】本発明はこのような点に鑑みてなされたも
のであり、傾斜して読み取った画像を高速に処理できる
傾斜画像処理方法を提供することを目的とする。
SUMMARY OF THE INVENTION The present invention has been made in view of such a point, and an object of the present invention is to provide a tilted image processing method capable of processing an image read at a tilt at a high speed.

【0007】[0007]

【課題を解決するための手段】本発明では上記問題を解
決するために、所定寸法の矩形媒体を撮像することによ
って得られた画像の傾きを補正する傾斜画像処理方法に
おいて、前記矩形媒体の相対移動に従って、移動方向に
直角な方向にスキャンすることによりスキャンラインの
画素を取得しながら、前記スキャンライン上でスキャン
方向に背景画素から媒体画素に最初に変わる開始座標値
と最後に媒体画素から背景画素に変わる終了座標値とを
取得するとともに前記開始座標と終了座標との差からス
キャンライン上の媒体長を取得することを順次行い、各
スキャンラインの前記媒体長から最頻の媒体長を求め、
前記最頻の媒体長の中で離れた位置にあるスキャンライ
ンの前記媒体長の開始座標または終了座標をもとに媒体
画像の傾斜角度を算出し、前記傾斜角度をもとに前記矩
形媒体の画像の傾きを補正する、ことを特徴とする傾斜
画像処理方法が提供される。
In order to solve the above problem, the present invention provides a tilt image processing method for correcting the tilt of an image obtained by imaging a rectangular medium having a predetermined size. Following the movement, while acquiring the pixels of the scan line by scanning in a direction perpendicular to the movement direction, the starting coordinate value that first changes from the background pixel to the media pixel in the scan direction on the scan line and finally the media pixel to the background Obtaining an end coordinate value that changes to a pixel and sequentially obtaining the medium length on a scan line from the difference between the start coordinate and the end coordinate, and obtaining the most frequent medium length from the medium length of each scan line ,
The inclination angle of the medium image is calculated based on the start coordinates or the end coordinates of the medium length of the scan line located at a position apart in the most frequent medium length, and the rectangular medium is calculated based on the inclination angle. A tilt image processing method for correcting a tilt of an image is provided.

【0008】このような傾斜画像処理方法によれば、矩
形媒体をスキャンすることによって画像を取得するとき
に、スキャンしながら、スキャンライン上で背景画素か
ら媒体画素に最初に変わる開始座標値と最後に媒体画素
から背景画素に変わる終了座標値とを調べることによっ
て、スキャンライン上にある媒体の長さを、画像取得と
同時処理で得ることができる。これは、スキャンすると
きに、媒体を透過する光を検出するタイプでは、媒体を
透過しないで得られた透光画素と媒体を透過して得られ
た非透光画素とでは画素値が大きく異なるので、スキャ
ンライン上の媒体の両端、すなわち媒体長が画像取得と
同時に求めることが可能であることによる。このように
して求められたスキャンラインごとの媒体長は、媒体の
移動方向の2辺が平行であるため、その2辺を同時に横
切るスキャンライン上ではほぼ同じ値となるので、その
最頻値を求めることで、その2辺の媒体の移動方向との
傾斜角度を求めることが可能となる。すなわち、最頻値
を持つスキャンラインの中でなるべく離れた位置のスキ
ャンラインを選択し、それらの媒体長の開始または終了
位置の座標値の差とスキャンライン間の距離とから傾斜
角度を検出することになる。これにより、傾斜角度の検
出を画像撮像と同時に行うため、高速処理がが可能にな
る。
According to such an inclined image processing method, when an image is acquired by scanning a rectangular medium, the starting coordinate value and the last coordinate value which first change from a background pixel to a medium pixel on a scan line are obtained while scanning. By examining the end coordinate value at which the pixel changes from the medium pixel to the background pixel, the length of the medium on the scan line can be obtained simultaneously with image acquisition. This is because, in a type in which light transmitted through a medium is detected when scanning, a pixel value is significantly different between a light-transmitted pixel obtained without transmitting the medium and a non-light-transmitted pixel obtained through the medium. Therefore, both ends of the medium on the scan line, that is, the medium length can be obtained simultaneously with image acquisition. The medium length for each scan line obtained in this manner has almost the same value on a scan line that simultaneously crosses the two sides in the moving direction of the medium because the two sides are parallel to each other. By calculating, the inclination angles of the two sides with respect to the moving direction of the medium can be obtained. That is, a scan line at a position as far away as possible from the scan lines having the mode is selected, and the inclination angle is detected from the difference between the coordinate values of the start or end position of the medium length and the distance between the scan lines. Will be. Thus, since the detection of the tilt angle is performed simultaneously with the image capturing, high-speed processing can be performed.

【0009】[0009]

【発明の実施の形態】以下、本発明の実施の形態を、紙
幣鑑別のための画像読み取りに適用した場合を例に図面
を参照して詳細に説明する。
DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings, taking as an example a case where the present invention is applied to image reading for bill discrimination.

【0010】図1は紙幣鑑別装置の画像読み取り装置の
概略構成を示す図である。この図1において、紙幣1の
搬送方向に直角な方向にスキャンするような画像読み取
り装置が設けられている。紙幣1は図示しない紙幣搬送
部によってたとえばその長手方向に搬送されてくるもの
とする。画像読み取り装置は、紙幣搬送路を挟んでその
下部に発光素子2が配置され、上部にセルフォックレン
ズ3を介して受光素子3が配置されている。発光素子2
はたとえば発光ダイオードを一列に配列した発光ダイオ
ードアレイから構成され、受光素子4はたとえばCCD
(charge coupled device )ラインセンサである。
FIG. 1 is a diagram showing a schematic configuration of an image reading device of a bill validating device. In FIG. 1, an image reading device that scans in a direction perpendicular to the direction in which the banknote 1 is transported is provided. It is assumed that the bill 1 is transported by a bill transport unit (not shown), for example, in the longitudinal direction thereof. In the image reading device, the light emitting element 2 is disposed below the bill conveying path, and the light receiving element 3 is disposed above the self transport lens 3. Light emitting element 2
Is composed of, for example, a light emitting diode array in which light emitting diodes are arranged in a line.
(Charge coupled device) It is a line sensor.

【0011】紙幣1の画像読み取りは、一定の速度で搬
送された紙幣1に対して所定のタイミングで発光素子2
を発光させ、照射された光を反対側にあるセルフォック
レンズ3を介して受光素子4に結像させることにより行
われる。受光素子4は、紙幣1を透過しないで直接入射
された光を画素値の大きな透光画素として検出し、紙幣
1を透過して入射された光を画素値の小さな非透光画素
として検出し、図示しない画像処理部に出力する。
The image of the bill 1 is read at a predetermined timing with respect to the bill 1 conveyed at a constant speed.
Is emitted, and the irradiated light is focused on the light receiving element 4 through the selfoc lens 3 on the opposite side. The light receiving element 4 detects light directly incident without passing through the banknote 1 as a light-transmitting pixel having a large pixel value, and detects light incident through the banknote 1 as a non-light-transmitting pixel having a small pixel value. To an image processing unit (not shown).

【0012】画像処理部では、このようにして取得した
画像から紙幣の斜行方向を検出し、その斜行画像を補正
する処理を行うが、その処理の流れについて説明する。
図2は斜行画像処理の概略の流れを示すフローチャート
である。まず、画像読み取り装置によって得られた画素
値からスキャンラインごとに非透光画素値の長さに対応
する短手長を求め、その分布を取得する(ステップS
1)。斜行角度検出精度を高めるために、その短手長分
布から短手長が最も多く分布する短手長最頻値、すなわ
ち紙幣の長手辺に折れ、欠けがある部分を除いた信頼性
の高い値を求める(ステップS2)。ここで、短手長最
頻値の頻度合計が設定値以上かどうかを判断する(ステ
ップS3)。短手長最頻値の頻度合計が小さければ、紙
幣の長手辺が異常に短いか長手長両辺が平行ではないの
で、これをもとに斜行角度を求めることはできないの
で、この紙幣は異常であるとして返却するリジェクト処
理を行う(ステップS4)。斜行角度を正しく検出でき
ることが分かれば、次に、斜行角度の検出を行う(ステ
ップS5)。斜行角度の検出は、より精度を高めるため
に、複数の角度値を求め、その平均を以て斜行角度を求
めている。次に、斜行補正の対象を定めるために、紙幣
領域の算出を行い、紙幣の四隅の座標を求める(ステッ
プS6)。次に、紙幣が大きく斜行している場合は誤鑑
別の原因になるので、その斜行角度がたとえば10゜以
内にあるかどうかを判断し(ステップS7)、10゜よ
りも大きく斜行していれば、リジェクト処理を行う。次
に、斜行角度を求めた複数の角度値の分散が設定範囲内
かどうかが判断される(ステップS8)。分散が大きけ
れば、求めた斜行角度は信頼できる値でないので、リジ
ェクト処理される。最後に、このようにして求めた斜行
角度をもとに、斜行補正を行う(ステップS9)。
The image processing unit detects the skew direction of the banknote from the image obtained in this way and performs processing for correcting the skew image. The flow of the processing will be described.
FIG. 2 is a flowchart showing a schematic flow of the skew image processing. First, a short length corresponding to the length of the non-light-transmitting pixel value is obtained for each scan line from the pixel values obtained by the image reading device, and the distribution is obtained (Step S).
1). In order to improve the skew angle detection accuracy, the shortest mode in which the shortest length is distributed most is calculated from the shortest length distribution, that is, a highly reliable value excluding a portion where the bill is bent at the long side and a chipped portion is removed. (Step S2). Here, it is determined whether or not the total frequency of the shortest mode is equal to or greater than the set value (step S3). If the total frequency of the shortest mode is small, the long side of the banknote is abnormally short or both sides are not parallel, so the skew angle cannot be determined based on this, so this banknote is abnormal. A rejection process is performed to return it as being (step S4). If it is found that the skew angle can be correctly detected, the skew angle is detected (step S5). In the detection of the skew angle, a plurality of angle values are obtained and the skew angle is obtained by averaging a plurality of angle values in order to further improve the accuracy. Next, in order to determine the target of the skew correction, the bill area is calculated, and the coordinates of the four corners of the bill are obtained (step S6). Next, if the bill is skewed greatly, it may cause mis-discrimination. Therefore, it is determined whether the skew angle is within 10 °, for example (step S7), and the bill is skewed more than 10 °. If so, reject processing is performed. Next, it is determined whether the variance of the plurality of angle values for which the skew angle has been obtained is within the set range (step S8). If the variance is large, the obtained skew angle is not a reliable value, so that rejection processing is performed. Finally, skew correction is performed based on the skew angle thus obtained (step S9).

【0013】以下、以上の処理の詳細を順次説明する。
まず、紙幣の画像データについて説明する。図3は画像
データの用語の定義を説明する図である。画像データは
xy座標系で表すものとし、紙幣搬送方向と反対方向を
y軸、紙幣搬送方向に直角な方向をx軸とする。斜行状
態で示した矩形領域が紙幣領域、スキャンラインが最初
に検出した紙幣領域の点を最上点、最後に検出した点を
最下点、スキャンラインが最初に検出する長手辺のy座
標位置を最左点、最後に検出する長手辺のy座標位置を
最右点、最上点と最下点とのy軸方向の差を長手長、最
左点と最右点とのx軸方向の差を短手長、紙幣領域の平
均の傾きを平均斜行角度θとする。また、短手長、長手
長、平均斜行角度θは、それぞれに示す矢印の方向を正
としている。
Hereinafter, the details of the above processing will be sequentially described.
First, image data of a bill will be described. FIG. 3 is a diagram illustrating the definition of terms of image data. The image data is represented by an xy coordinate system, and the direction opposite to the bill transport direction is the y-axis, and the direction perpendicular to the bill transport direction is the x-axis. The rectangular area shown in the skewed state is the bill area, the point of the bill area detected first by the scan line is the top point, the point detected last is the bottom point, and the y coordinate position of the long side where the scan line is detected first Is the leftmost point, the y coordinate position of the longitudinal side to be detected last is the rightmost point, the difference in the y-axis direction between the uppermost point and the lowermost point is the longitudinal length, the x-axis direction between the leftmost point and the rightmost point is the The difference is a short length, and the average inclination of the bill area is an average skew angle θ. Further, the short length, the long length, and the average skew angle θ are positive in the directions of the arrows shown respectively.

【0014】図4は短手長の算出を説明する図である。
紙幣1の画像データの取り込みは、搬送されてくる紙幣
の先端、図では上から順に行われ、各スキャンラインに
ついては左から右の方向にスキャンする。各スキャンラ
インでは、まず、最左点および最右点が求められる。ス
キャンすることによって得られる画素は、紙幣を透過し
ないで受光素子4に入力された場合の透光画素値と、紙
幣を透過してきた場合の非透光画素値とでは大きく異な
る。そこで、スキャンライン上で最初に非透光画素が出
現した座標値を最左点とし、最後に非透光画素の出現座
標位置を最右点とする。なお、紙幣1には、穴11が明
いているものもあり、その穴11によって一旦非透光画
素になるが、スキャンライン上で最後に出現した非透光
画素を求めるようにしているので、必ず、紙幣1の右辺
が求められる。
FIG. 4 is a diagram for explaining the calculation of the short hand length.
The image data of the banknote 1 is taken in from the top of the conveyed banknote, that is, from the top in the figure, and each scan line is scanned from left to right. In each scan line, first, the leftmost point and the rightmost point are obtained. Pixels obtained by scanning are significantly different between a translucent pixel value when input to the light receiving element 4 without passing through the bill and a non-transparent pixel value when passing through the bill. Therefore, the coordinate value where the non-light-transmitting pixel first appears on the scan line is set as the leftmost point, and the coordinate position where the non-light-transmitting pixel appears last is set as the rightmost point. It should be noted that some banknotes 1 have a clear hole 11 and become a non-translucent pixel by the hole 11, but since the last non-transparent pixel appearing on the scan line is determined, The right side of the banknote 1 is always required.

【0015】短手長は、次式によって求められる。The short length is obtained by the following equation.

【0016】[0016]

【数2】短手長=最右点−最左点+1 ・・(2) 各スキャンラインごとの最左点、最右点、および短手長
は全スキャンラインリストと呼ぶテーブルに記憶され
る。また、各スキャンラインごとの紙幣の短手長の頻度
分布を短手長頻度分布全リストと呼ばれるテーブルに記
憶する。そして、この短手長頻度分布全リストを用い
て、短手長が1画素以上のものを対象として頻度が最大
の短手長、すなわち、最頻短手長を求める。これによ
り、長手の辺に欠け12が存在するスキャンラインを除
いた、両側の長手辺を横切るスキャンライン(図に○で
示したスキャンライン)が最頻短手長となる。
## EQU2 ## Shortest length = rightmost point−leftmost point + 1 (2) The leftmost point, rightmost point, and shortest length of each scan line are stored in a table called a full scan line list. Further, the short-hand frequency distribution of the bills for each scan line is stored in a table called a short-hand frequency distribution entire list. Then, by using the entire short-span length frequency list, the short-span having the largest frequency, that is, the most frequent short-span, is calculated for short-spans having one or more pixels. As a result, the scan lines that cross the long sides on both sides (scan lines indicated by に in the figure), excluding the scan lines in which the chip 12 is present on the long sides, are the shortest hand lengths.

【0017】次に、最頻短手長±許容画素数(たとえ
ば、=2画素)の頻度の和を求める。この頻度の和が、
次の二つの条件のどちらか一方または両方を満たす場
合、斜行角度を求めることができない紙幣と判断してそ
の紙幣をリジェクトする。 第1条件:頻度の和≦斜行補正前長手長/2 第2条件:頻度の和<しきい値(たとえば、=16画
素) 次に、斜行角度を検出するが、斜行角度の検出対象は、
短手長が最頻短手長±許容画素数の範囲内にあるスキャ
ンラインとする。これは、紙幣の折れ、欠けの領域を除
くことに相当し、これによって斜行角度の算出精度を上
げることができる。
Next, the sum of the frequencies of the shortest hand length ± the number of allowable pixels (for example, = 2 pixels) is obtained. The sum of this frequency is
When either or both of the following two conditions are satisfied, the banknote is determined as a banknote for which the skew angle cannot be obtained, and the banknote is rejected. First condition: sum of frequencies ≦ longitudinal length before skew correction / 2 Second condition: sum of frequencies <threshold (for example, = 16 pixels) Next, the skew angle is detected, but the skew angle is detected. The target is
A scan line whose short side is within the range of the most frequent short side length ± the allowable number of pixels. This corresponds to removing a folded or chipped area of the bill, thereby increasing the calculation accuracy of the skew angle.

【0018】まず、全スキャンラインリストの第1スキ
ャンラインから短手長が最頻短手長±許容画素数の範囲
内にあるすべてのスキャンラインを抽出し、最左点と抽
出スキャンラインとを抽出リストと呼ぶテーブルに記憶
する。
First, from the first scan line in the entire scan line list, all the scan lines whose short lengths are within the range of the most frequent short length ± the allowable number of pixels are extracted, and the leftmost point and the extracted scan lines are extracted in the extraction list. Is stored in a table called.

【0019】次に、傾斜角度値を求めるが、ここでは抽
出リストからできるだけ離れた2個を対とするスキャン
ラインを、たとえば3組選択する。たとえば、抽出した
スキャンラインはN個であったとすると、抽出スキャン
ラインq=0番目と抽出スキャンラインr=N−1番目
とから角度値p1を求め、抽出スキャンラインq=4番
目と抽出スキャンラインr=N−10番目とから角度値
p2を求め、抽出スキャンラインq=9番目と抽出スキ
ャンラインr=N−5番目とから角度値p3を求める。
その式は以下の通り。
Next, a tilt angle value is obtained. Here, for example, three sets of two scan lines which are separated from the extraction list as far as possible are selected. For example, assuming that the number of extracted scan lines is N, the angle value p1 is obtained from the extracted scan line q = 0 and the extracted scan line r = N−1, and the extracted scan line q = 4 and the extracted scan line q The angle value p2 is obtained from r = N-10th, and the angle value p3 is obtained from the extracted scan line q = 9th and the extracted scanline r = N-5th.
The formula is as follows.

【0020】[0020]

【数3】 p=S×(rの最左点−qの最左点)/(rのスキャンライン−qのスキャンラ イン) ・・(3) ここで、Sは係数である。なお、これらの角度値pは次
式で表される。
P = S × (leftmost point of r−leftmost point of q) / (scanline of r−scanline of q) (3) where S is a coefficient. Note that these angle values p are expressed by the following equations.

【0021】[0021]

【数4】p=S×tan(θ) ・・(4) そして、斜行角度値Tは、それらの角度値pの平均によ
って求められる。すなわち、
P = S × tan (θ) (4) The skew angle value T is obtained by averaging those angle values p. That is,

【0022】[0022]

【数5】T=(p1+p2+p3)/3 ・・(5) 次に、補正対象である紙幣領域の座標を取得するため
に、全スキャンリストから、全スキャンラインにおける
次の4点、すなわち、最左点、最右点、最上点および最
下点を探索する。最左点は全スキャンラインリストの最
左点の最小値であり、最右点は全スキャンラインリスト
の最右点の最大値であり、最上点は全スキャンラインリ
ストの短手長が1以上となるスキャンラインの最小値で
あり、最下点は全スキャンラインリストの短手長が1以
上となるスキャンラインの最大値である。
T = (p1 + p2 + p3) / 3 (5) Next, in order to obtain the coordinates of the bill area to be corrected, the next four points in all scan lines, that is Search for the left, right, top, and bottom points. The leftmost point is the minimum value of the leftmost point of all scanline lists, the rightmost point is the maximum value of the rightmost point of all scanline lists, and the topmost point is that the shortest length of all scanline lists is 1 or more. Is the minimum value of the scan lines, and the lowest point is the maximum value of the scan lines in which the short length of the entire scan line list is 1 or more.

【0023】次に、斜行角度値Tが平均斜行角度θ±1
0゜の範囲内にあるかどうかがチェックされ、あまり斜
行角度値Tが大きいと、斜行角度過大としてリジェクト
される。
Next, the skew angle value T is calculated as the average skew angle θ ± 1.
It is checked whether it is within the range of 0 °, and if the skew angle value T is too large, it is rejected as an excessive skew angle.

【0024】次の斜行角度分散判断では、先に求めたす
べての角度値p1〜p3がたとえば±3.7゜の設定内
にあるかどうかが判断され、その範囲内になければ、短
手長不定としてリジェクトされる。
In the following skew angle dispersion determination, it is determined whether or not all the previously obtained angle values p1 to p3 are within the range of ± 3.7 °, for example. Rejected as undefined.

【0025】次に、斜行補正処理について説明する。斜
行補正処理は、処理画像領域の検出と、斜行原点の算出
と、座標変換処理とからなる。図5は処理画像領域の検
出を説明する図である。画像読み取り装置にて読み取ら
れた有効画像領域は四角で示してあり、その有効画像領
域の中に紙幣の画像データを含んでいる。紙幣の画像デ
ータが存在する領域は、画像データの四隅の4点(P
1,P2,P3,P4)によって定義される。P1は、
上から順にスキャンして行ったとき、最初に短手長が含
まれるスキャンラインの画素位置の座標であり、P2は
最後に短手長が含まれるスキャンラインの画素位置の座
標であり、P3は短手長のx座標値が最も小さいスキャ
ンラインの最左点の座標であり、P4は短手長のx座標
値が最も大きいスキャンラインの最右点の座標である。
このようにして、紙幣画像データが存在する領域が検出
されると、次に、その領域を斜行補正するための斜行原
点が算出される。
Next, the skew feeding correction processing will be described. The skew correction processing includes detection of a processing image area, calculation of a skew origin, and coordinate conversion processing. FIG. 5 is a diagram illustrating detection of a processed image area. The effective image area read by the image reading device is indicated by a square, and the effective image area includes image data of a bill. The area where the banknote image data is present is located at the four corners (P
1, P2, P3, P4). P1 is
When scanning is performed in order from the top, first, the coordinates of the pixel position of the scan line including the short length, P2 is the coordinates of the pixel position of the scan line including the short length last, and P3 is the short length. Are the coordinates of the leftmost point of the scan line with the smallest x-coordinate value, and P4 is the coordinate of the rightmost point of the scan line with the largest x-coordinate value of the short side.
When the area where the banknote image data is present is detected in this way, next, the skew origin for correcting the skew of the area is calculated.

【0026】図6は斜行原点の算出を説明する図であ
る。斜行原点は、紙幣の最上点を通るx軸に平行な線と
紙幣の左側長手辺の延長線との交点(x1 、y1 )と
し、この図にて太枠で囲まれた領域についてアフィン変
換する。その斜行補正の具体例を以下に示す。
FIG. 6 is a diagram for explaining the calculation of the skew origin. The skew origin is the intersection (x1, y1) of a line parallel to the x-axis passing through the uppermost point of the bill and an extension of the left long side of the bill. I do. A specific example of the skew correction will be described below.

【0027】図7は座標変換の処理を説明する図であっ
て、(A)は斜行補正前の画素領域を示し、(B)は補
正後の画素領域を示している。ここで、補正前の画像領
域は、(A)に示したように、斜行補正前座標系(x,
y)において、斜行角度θが1/3(=tan-1θ)で
あり、開始点座標が(x0 ,y0 )であるとする。これ
を、(B)に示したような斜行補正後座標系(z,w)
の座標(0,0)を原点とする領域へマッピングするこ
とによって斜行補正を行う。ここで、斜行補正は次式の
変換式に従って行われる。
FIGS. 7A and 7B are diagrams for explaining the coordinate conversion process, wherein FIG. 7A shows a pixel area before skew correction, and FIG. 7B shows a pixel area after correction. Here, the image area before correction is, as shown in (A), a coordinate system before skew correction (x,
In y), it is assumed that the skew angle θ is 1/3 (= tan −1 θ) and the starting point coordinates are (x0, y0). This is represented by the coordinate system (z, w) after skew correction as shown in FIG.
The skew correction is performed by mapping to the area having the coordinates (0, 0) as the origin. Here, the skew correction is performed according to the following conversion equation.

【0028】[0028]

【数6】 z=x−x0 −INT((y−y0 )tan θ) ・・(6) (ただし、INT()は()内を小数点以下切り捨て)す
なわち、傾斜角度θは1/3であるので、短手辺の画素
列は3個並んで、1個上にまた3個並ぶというパターン
が繰り返し続いているはずである。画素単位で見ると、
まず、原点から始まるライン(y=y0 )の場合、この
ライン上にある画素はみんなw=0の一つのライ
ン上にz方向に並べられる。この場合のw座標値は、w
=y−y0 で表される。次に、画素の次は、1行上の
ラインに移り、そのラインの先頭にある三つの画素
も同じw=0の一つのライン上で画素の次にz方向
に並べられ、この場合のw座標値は、w=y−y0 +1
で表される。同様に、次のラインにおいても、そのライ
ンの先頭にある三つの画素が補正後座標系のw=
0のライン上に続けてz方向に配置される。この場合の
w座標値は、w=y−y0 +2で表される。
Z = x−x0−INT ((y−y0) tan θ) (6) (However, INT () is rounded down to the decimal point in parentheses) That is, the inclination angle θ is 1/3. Therefore, a pattern in which three short-side pixel columns are arranged and three pixels are arranged one above another should be repeated. Looking at the pixel unit,
First, in the case of a line starting from the origin (y = y0), the pixels on this line are all arranged in one line w = 0 in the z direction. The w coordinate value in this case is w
= Y-y0. Next, the next pixel is moved to the line above one line, and the three pixels at the head of the line are also arranged in the z direction next to the pixel on the same one line of w = 0. The coordinate value is w = y−y0 + 1
It is represented by Similarly, in the next line, the three pixels at the head of the line are w =
On the 0 line, they are arranged in the z direction. The w coordinate value in this case is expressed by w = y−y0 + 2.

【0029】このようにして、座標変換後は、真っ直ぐ
になった画像を得ることができる。しかし、真っ直ぐに
した後は、原点と反対側の長手および短手辺は(B)に
示したように画素的に乱れが生じている。このため、こ
れらの乱れがなくなるよう再度画像の切り出しを行う。
Thus, a straightened image can be obtained after the coordinate transformation. However, after straightening, the long side and the short side opposite to the origin are disturbed in terms of pixels as shown in FIG. For this reason, the image is cut out again so as to eliminate these disturbances.

【0030】[0030]

【発明の効果】以上説明したように、本発明では、矩形
媒体をスキャンしながらスキャン方向の媒体長探索によ
る最頻の媒体長を取得し、その最頻の媒体長を有する座
標による角度検出を行うように構成した。これにより、
媒体画像を全部取得するまで待つことなく、取得しなが
らの角度検出の同時処理が可能になり、処理を高速にす
ることが可能であるる。
As described above, according to the present invention, while scanning a rectangular medium, the most frequent medium length is obtained by searching for the medium length in the scanning direction, and the angle detection based on the coordinates having the most frequent medium length is performed. It was configured to do so. This allows
The angle detection can be performed simultaneously with the acquisition without waiting until the entire medium image is acquired, and the processing can be performed at high speed.

【図面の簡単な説明】[Brief description of the drawings]

【図1】紙幣鑑別装置の画像読み取り装置の概略構成を
示す図である。
FIG. 1 is a diagram showing a schematic configuration of an image reading device of a bill validator.

【図2】斜行画像処理の概略の流れを示すフローチャー
トである。
FIG. 2 is a flowchart illustrating a schematic flow of skew image processing.

【図3】画像データの用語の定義を説明する図である。FIG. 3 is a diagram illustrating definitions of terms of image data.

【図4】短手長の算出を説明する図である。FIG. 4 is a diagram for explaining calculation of short length.

【図5】処理画像領域の検出を説明する図である。FIG. 5 is a diagram illustrating detection of a processed image area.

【図6】斜行原点の算出を説明する図である。FIG. 6 is a diagram illustrating calculation of a skew origin.

【図7】座標変換の処理を説明する図であって、(A)
は斜行補正前の画素領域を示し、(B)は補正後の画素
領域を示している。
FIGS. 7A and 7B are diagrams for explaining a coordinate conversion process, wherein FIG.
Shows a pixel area before skew correction, and (B) shows a pixel area after correction.

【符号の説明】[Explanation of symbols]

1 紙幣 2 発光素子 3 セルフォックレンズ 4 受光素子 DESCRIPTION OF SYMBOLS 1 Banknote 2 Light emitting element 3 Selfoc lens 4 Light receiving element

───────────────────────────────────────────────────── フロントページの続き (72)発明者 古井 達也 神奈川県川崎市川崎区田辺新田1番1号 富士電機株式会社内 ────────────────────────────────────────────────── ─── Continuing on the front page (72) Inventor Tatsuya Furui 1-1-1, Tanabe-Nitta, Kawasaki-ku, Kawasaki-shi, Kanagawa Prefecture Fuji Electric Co., Ltd.

Claims (9)

【特許請求の範囲】[Claims] 【請求項1】 所定寸法の矩形媒体を撮像することによ
って得られた画像の傾きを補正する傾斜画像処理方法に
おいて、 前記矩形媒体の相対移動に従って、移動方向に直角な方
向にスキャンすることによりスキャンラインの画素を取
得しながら、前記スキャンライン上でスキャン方向に背
景画素から媒体画素に最初に変わる開始座標値と最後に
媒体画素から背景画素に変わる終了座標値とを取得する
とともに前記開始座標と終了座標との差からスキャンラ
イン上の媒体長を取得することを順次行い、 各スキャンラインの前記媒体長から最頻の媒体長を求
め、 前記最頻の媒体長の中で離れた位置にあるスキャンライ
ンの前記媒体長の開始座標または終了座標をもとに媒体
画像の傾斜角度を算出し、 前記傾斜角度をもとに前記矩形媒体の画像の傾きを補正
する、 ことを特徴とする傾斜画像処理方法。
1. A tilt image processing method for correcting a tilt of an image obtained by imaging a rectangular medium having a predetermined size, wherein the scanning is performed by scanning in a direction perpendicular to a moving direction according to a relative movement of the rectangular medium. While obtaining the pixels of the line, the start coordinates and the end coordinates that first change from the background pixel to the medium pixel in the scan direction and the end coordinate value last change from the medium pixel to the background pixel on the scan line are obtained. The media length on the scan line is sequentially obtained from the difference from the end coordinates, and the most frequent media length is obtained from the media length of each scan line. Calculating a tilt angle of a medium image based on a start coordinate or an end coordinate of the medium length of a scan line; and calculating an image of the rectangular medium based on the tilt angle. You can correct the inclination image processing method characterized by.
【請求項2】 前記最頻の媒体長を求めるステップは、
前記スキャン方向の媒体長の値が所定の許容値の範囲内
にある媒体長を最頻の媒体長としたことを特徴とする請
求項1記載の傾斜画像処理方法。
2. The step of obtaining the most frequent medium length comprises:
2. The tilt image processing method according to claim 1, wherein a medium length in which a value of the medium length in the scanning direction is within a range of a predetermined allowable value is set as a most frequent medium length.
【請求項3】 前記傾斜角度を算出するステップは、前
記最頻の媒体長の中で最も離れた位置近傍にある複数の
スキャンラインから複数対のスキャンラインを選択し、
前記複数対のスキャンラインにおける前記媒体長の開始
座標または終了座標をもとにそれぞれ傾斜角度を求め、
複数の傾斜角度の平均を以て媒体画像の傾斜角度とする
ことを特徴とする請求項1記載の傾斜画像処理方法。
3. The step of calculating the tilt angle includes selecting a plurality of pairs of scan lines from a plurality of scan lines near the farthest position in the most frequent medium length;
Determine the tilt angle based on the start coordinates or end coordinates of the medium length in the plurality of pairs of scan lines,
2. The tilt image processing method according to claim 1, wherein an average of the plurality of tilt angles is used as the tilt angle of the medium image.
【請求項4】 前記最頻の媒体長の頻度数が所定の許容
範囲内にあることを検出して前記所定寸法の矩形媒体と
判断するステップをさらに有することを特徴とする請求
項1記載の傾斜画像処理方法。
4. The method according to claim 1, further comprising the step of detecting that the frequency of the most frequent medium length is within a predetermined allowable range and judging that the medium is the rectangular medium having the predetermined size. Slant image processing method.
【請求項5】 算出した前記傾斜角度が所定の許容範囲
内にあることを検出して前記矩形媒体が過大傾斜してい
ないこと判断するステップをさらに有することを特徴と
する請求項1記載の傾斜画像処理方法。
5. The tilt according to claim 1, further comprising a step of detecting that the calculated tilt angle is within a predetermined allowable range and determining that the rectangular medium is not excessively tilted. Image processing method.
【請求項6】 前記画像の傾きを補正するステップは、
処理画像領域を検出し、前記処理画像領域の処理原点を
算出し、前記処理原点を中心とした回転処理を行うこと
を特徴とする請求項1記載の傾斜画像処理方法。
6. The step of correcting the inclination of the image,
2. The tilt image processing method according to claim 1, wherein a processing image area is detected, a processing origin of the processing image area is calculated, and a rotation process is performed about the processing origin.
【請求項7】 前記処理画像領域を検出するステップ
は、前記媒体画素が最初に含まれる前記スキャンライン
上の前記媒体画素の座標点と、前記媒体長が含まれる前
記スキャンラインの中で前記媒体画素の開始位置が最も
左にあるスキャンライン上の媒体画素開始位置の座標点
と、前記最頻の媒体長が含まれる前記スキャンラインの
中で前記媒体画素の終了位置が最も右側にあるスキャン
ライン上の媒体画素終了位置の座標点と、前記媒体画素
が最後に含まれる前記スキャンライン上の前記媒体画素
の座標点との4点からなる補正対象矩形領域を求めるよ
うにしたことを特徴とする請求項6記載の傾斜画像処理
方法。
7. The step of detecting the processed image area includes the step of: detecting a coordinate point of the medium pixel on the scan line in which the medium pixel is first included, and the medium in a scan line including the medium length. A coordinate point of a medium pixel start position on a scan line in which a pixel start position is the leftmost, and a scan line in which an end position of the medium pixel is the rightmost in the scan lines including the most frequent medium length A correction target rectangular area including four coordinate points of an upper end of the medium pixel and a coordinate point of the medium pixel on the scan line that includes the medium pixel last is obtained. The tilt image processing method according to claim 6.
【請求項8】 前記処理画像領域の処理原点を算出する
ステップは、前記媒体画素が最初に含まれる前記スキャ
ンライン上の線と、前記媒体画像の前記傾斜角度を求め
た辺の延長線との交点を処理原点とすることを特徴とす
る請求項6記載の傾斜画像処理方法。
8. The step of calculating the processing origin of the processing image area includes the step of calculating a line on the scan line in which the medium pixel is first included and an extension line of a side on which the tilt angle of the medium image is obtained. 7. The tilt image processing method according to claim 6, wherein the intersection is a processing origin.
【請求項9】 前記回転処理を行うステップは、前記媒
体画像の傾斜角度をθ、前記処理原点を原点とする補正
前座標系(x、y)の補正対象矩形領域の開始点を(x
0 ,y0 )とするとき、前記補正対象矩形領域を補正後
座標系(z,w)の座標(0,0)を原点とする領域へ
変換式、 【数1】 z=x−x0 −INT((y−y0 )tan θ) ・・(1) (ただし、INT()は()内を小数点以下切り捨て)に
従ってマッピングすることを特徴とする請求項6記載の
傾斜画像処理方法。
9. The step of performing the rotation process includes setting a start point of a correction target rectangular area of a pre-correction coordinate system (x, y) having the inclination angle of the medium image as θ and the processing origin as an origin as (x
0, y0), a conversion formula for converting the rectangular region to be corrected into a region having the origin at the coordinates (0, 0) of the corrected coordinate system (z, w): z = x−x0 −INT 7. The tilt image processing method according to claim 6, wherein mapping is performed in accordance with ((y-y0) tan [theta]) (1) (where INT () is rounded down to the decimal point in parentheses).
JP02003298A 1998-01-30 1998-01-30 Inclined image processing method Expired - Fee Related JP3777775B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP02003298A JP3777775B2 (en) 1998-01-30 1998-01-30 Inclined image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP02003298A JP3777775B2 (en) 1998-01-30 1998-01-30 Inclined image processing method

Publications (2)

Publication Number Publication Date
JPH11219460A true JPH11219460A (en) 1999-08-10
JP3777775B2 JP3777775B2 (en) 2006-05-24

Family

ID=12015739

Family Applications (1)

Application Number Title Priority Date Filing Date
JP02003298A Expired - Fee Related JP3777775B2 (en) 1998-01-30 1998-01-30 Inclined image processing method

Country Status (1)

Country Link
JP (1) JP3777775B2 (en)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009199182A (en) * 2008-02-19 2009-09-03 Toshiba Corp Image reading device, image reading method, and paper sheet processor
JP2011123106A (en) * 2009-12-08 2011-06-23 Canon Inc Inspection apparatus, control method and program of inspection apparatus
KR101397782B1 (en) * 2007-05-29 2014-05-20 주식회사 엘지씨엔에스 Apparatus and method for extracting paper-money image
KR101397905B1 (en) * 2007-12-12 2014-05-20 주식회사 엘지씨엔에스 Apparatus and method for media image detection, and system with the same
JP2015015687A (en) * 2013-07-08 2015-01-22 富士ゼロックス株式会社 Inclination angle correction device, image reading device, and image forming apparatus, and program
CN115984170A (en) * 2022-11-28 2023-04-18 广州航海学院 Quadrilateral wafer corner vertex positioning method

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101397782B1 (en) * 2007-05-29 2014-05-20 주식회사 엘지씨엔에스 Apparatus and method for extracting paper-money image
KR101397905B1 (en) * 2007-12-12 2014-05-20 주식회사 엘지씨엔에스 Apparatus and method for media image detection, and system with the same
JP2009199182A (en) * 2008-02-19 2009-09-03 Toshiba Corp Image reading device, image reading method, and paper sheet processor
US8159728B2 (en) 2008-02-19 2012-04-17 Kabushiki Kaisha Toshiba Image reading apparatus, image reading method, and sheet processing apparatus
JP2011123106A (en) * 2009-12-08 2011-06-23 Canon Inc Inspection apparatus, control method and program of inspection apparatus
JP2015015687A (en) * 2013-07-08 2015-01-22 富士ゼロックス株式会社 Inclination angle correction device, image reading device, and image forming apparatus, and program
CN115984170A (en) * 2022-11-28 2023-04-18 广州航海学院 Quadrilateral wafer corner vertex positioning method
CN115984170B (en) * 2022-11-28 2023-07-14 广州航海学院 Quadrilateral wafer corner vertex positioning method

Also Published As

Publication number Publication date
JP3777775B2 (en) 2006-05-24

Similar Documents

Publication Publication Date Title
JP3655451B2 (en) Paper sheet identification device
US20050244046A1 (en) Sheet media identification method and sheet media identification apparatus
EP1111551A2 (en) Coin discriminating apparatus
JP2001101473A (en) Device and method for identifying paper sheets
US6880758B2 (en) System and method for identifying object information
KR20070115764A (en) Paper sheet identification device
JP5572450B2 (en) Deformed coin discrimination method and coin processing apparatus
KR101397905B1 (en) Apparatus and method for media image detection, and system with the same
JP3777775B2 (en) Inclined image processing method
JP3711737B2 (en) Method for detecting tilt angle of imaging medium
JP2002092683A (en) Device for discriminating between true and false medium
JPH08287259A (en) Fingerprint identifying method
JP2599320B2 (en) Paper sheet recognition device
JPH06318246A (en) Paper sheets recognizing device
JPH10198837A (en) Paper sheet discriminating device
JP3706170B2 (en) Paper sheet image data complement device
JP4431690B2 (en) Disc-shaped object recognition system, apparatus and method
JPH08279062A (en) Coin recognition device
JPH07311867A (en) Recognition device for paper sheet of the like
JPH08212417A (en) Correcting device for oblique run and shift data on paper sheet
JP2511508B2 (en) Paper discrimination device
JP3674301B2 (en) Image processing method for carrier medium
JPH0573753A (en) Sheet paper recognition processing method
JP2532631B2 (en) Shape determination method for paper sheets
JPH06318245A (en) Paper sheets recognizing device

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20050401

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050426

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050624

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060207

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060220

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090310

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100310

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110310

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110310

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120310

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120310

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130310

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130310

Year of fee payment: 7

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130310

Year of fee payment: 7

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130310

Year of fee payment: 7

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130310

Year of fee payment: 7

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130310

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140310

Year of fee payment: 8

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees