JP2005149395A - Character recognition device and license plate recognition system - Google Patents

Character recognition device and license plate recognition system Download PDF

Info

Publication number
JP2005149395A
JP2005149395A JP2003389550A JP2003389550A JP2005149395A JP 2005149395 A JP2005149395 A JP 2005149395A JP 2003389550 A JP2003389550 A JP 2003389550A JP 2003389550 A JP2003389550 A JP 2003389550A JP 2005149395 A JP2005149395 A JP 2005149395A
Authority
JP
Japan
Prior art keywords
character
image
recognition
dictionary image
resolution
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2003389550A
Other languages
Japanese (ja)
Other versions
JP4264332B2 (en
Inventor
Kiichi Sugimoto
喜一 杉本
Satoshi Chazono
聡 茶園
Masahiro Inoue
正博 井上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Heavy Industries Ltd
Original Assignee
Mitsubishi Heavy Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Heavy Industries Ltd filed Critical Mitsubishi Heavy Industries Ltd
Priority to JP2003389550A priority Critical patent/JP4264332B2/en
Publication of JP2005149395A publication Critical patent/JP2005149395A/en
Application granted granted Critical
Publication of JP4264332B2 publication Critical patent/JP4264332B2/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To provide a character recognition device and a license plate recognition system which can perform processing with high recognition accuracy and at high speed. <P>SOLUTION: Even information about a detailed part lost in a low resolution character image is restored and character recognition is performed with high accuracy by performing super resolution processing of the character image and performing the character recognition by using a specified high resolution dictionary image. In the case of the character recognition, direction histogram features of a contour line are calculated by using the specified high resolution dictionary image and performing binarization processing to it and luminance gradient features are used. In addition, a feature pattern used in the case of specifying a low resolution dictionary image corresponding to the character image is clustered into a plurality of groups and stored in a data base and it is effective to specify the low resolution dictionary image corresponding to the character image using a representative pattern of each group. <P>COPYRIGHT: (C)2005,JPO&NCIPI

Description

本発明は、車両のナンバープレートの記載内容を自動認識するのに用いて好適な文字認識装置、ナンバープレート認識システムに関する。   The present invention relates to a character recognition device and a license plate recognition system suitable for automatically recognizing the description of a vehicle license plate.

近年、高速道路の料金所等をはじめとして、車両のナンバープレートを自動認識する装置が多く用いられている。その用途としては、例えば、ナンバープレートの記載内容を認識することで、車両の種別等を判別するためである。
ナンバープレートの記載内容を認識するには画像処理技術を用いた文字認識手法が用いられている。
In recent years, many devices for automatically recognizing a license plate of a vehicle, such as a tollgate on a highway, have been used. This is because, for example, the type of vehicle is determined by recognizing the description of the license plate.
In order to recognize the description content of the license plate, a character recognition method using an image processing technique is used.

このような文字認識手法は、一般には、対象の文字画像を入力した後、文字と背景を分離するために文字線を強調し(2値化)を行い、文字であると判断できる領域を抽出する(文字切り出し処理)。文字切り出しされた領域において、文字の形状特徴(例えば輪郭線の方向特徴など)を抽出し、パターン認識により文字を認識する。
ところが、解像度の低いカメラで撮影された文字画像(低解像度画像)では、文字線部のかすれ(線の飛び)や文字穴部の潰れが発生しやすくなるため、正しく文字を認識出来ないという問題がある。このため通常は、十分な解像度を有するカメラにて文字画像を撮影することになるが、そのようなカメラは高価である。また解像度の高い画像を得るには、拡大して撮影を行うため、ひとつのカメラで撮影できる領域が小さく、道路上の全ての車両を撮影するには、カメラは複数台必要になる。その結果、システム全体のコストが高くなってしまうのである。
In such a character recognition method, generally, after inputting a target character image, the character line is emphasized (binarized) to separate the character and the background, and an area that can be determined to be a character is extracted. (Character cutout process). In the character cut-out area, character shape features (for example, contour direction features) are extracted, and the characters are recognized by pattern recognition.
However, in a character image (low-resolution image) taken with a low-resolution camera, the character line part is likely to be blurred (line skipping) or the character hole part is crushed, so that the character cannot be recognized correctly. There is. For this reason, a character image is usually taken with a camera having sufficient resolution, but such a camera is expensive. Further, in order to obtain an image with high resolution, since the image is taken in an enlarged manner, the area that can be taken with one camera is small, and a plurality of cameras are required to take an image of all the vehicles on the road. As a result, the cost of the entire system increases.

上記の問題を全て解決するための手段として、低解像度で撮影した文字画像を高解像度化して、文字認識をする方法がある。画像を高解像度化して文字認識する従来の手法としては、線形補間やサブピクセル処理が用いられているが、これらはいずれも元の低解像度画像をベースとした高解像度化処理である。したがって、元々失われている細部の情報は復元することは出来ないため、文字を完全に復元できるとは限らず、文字認識精度の向上にはつながりにくい。   As means for solving all of the above problems, there is a method of recognizing characters by increasing the resolution of a character image taken at a low resolution. As a conventional technique for recognizing characters by increasing the resolution of an image, linear interpolation or sub-pixel processing is used. These are all high-resolution processes based on the original low-resolution image. Therefore, since the detailed information originally lost cannot be restored, the characters cannot be completely restored, and it is difficult to improve the character recognition accuracy.

このような情報復元の問題を解決するための方法として、事例に基づくSuper Resolution法(以下、超解像処理法と称する)がある(例えば、非特許文献1参照。)。この手法では事前に集めた高解像度画像と、それに対応する低解像度画像とを対にして記憶しておき、認識すべき低解像度の入力画像と、予め記憶した低解像度画像とを比較して最も似通っているものを選び出す。そして、選び出された低解像度画像に対応する高解像度画像を特定し、この高解像度画像を用い、文字認識のための画像処理を行う。このようにして認識すべき低解像度画像を高解像度化することで、低解像度画像で失われている細部の情報まで復元することができ、文字認識精度の向上につながる。   As a method for solving such a problem of information restoration, there is a super resolution method based on an example (hereinafter referred to as a super-resolution processing method) (for example, see Non-Patent Document 1). In this method, a high-resolution image collected in advance and a corresponding low-resolution image are stored in pairs, and the low-resolution input image to be recognized is compared with the pre-stored low-resolution image. Pick out similar ones. Then, a high-resolution image corresponding to the selected low-resolution image is specified, and image processing for character recognition is performed using the high-resolution image. By increasing the resolution of the low resolution image to be recognized in this way, it is possible to restore even detailed information lost in the low resolution image, leading to improved character recognition accuracy.

S. Baker & T. Kanade, "Limits on Super-Resolution and How to Break Them" IEEE Transactions on Pattern Analysis and Machine Intelligence, Vol. 24, No. 9, September, 2002, pp. 1167 - 1183S. Baker & T. Kanade, "Limits on Super-Resolution and How to Break Them" IEEE Transactions on Pattern Analysis and Machine Intelligence, Vol. 24, No. 9, September, 2002, pp. 1167-1183

しかしながら、特許文献1の手法では、入力画像と予め記憶された低解像度画像との総当りマッチング処理を行うため、記憶すべきデータ量や処理時の演算量が膨大なものとなり、高速処理することが難しい。自動車のナンバープレートを読み取る場合、おおよそ1秒以内で処理を完了する必要があり、認識精度の高さはもちろんのこと、処理速度の高さも非常に重要である。   However, since the technique of Patent Document 1 performs brute force matching processing between an input image and a pre-stored low-resolution image, the amount of data to be stored and the amount of computation at the time of processing become enormous and high-speed processing is required. Is difficult. When reading a license plate of an automobile, it is necessary to complete the processing within approximately one second, and not only high recognition accuracy but also high processing speed is very important.

また、特許文献1の手法では、正規化相関計算により、入力画像と予め記憶された低解像度画像のマッチング処理を行っているが、この正規化相関計算は、対象となる文字の変形や歪みに弱いという問題がある。自動車のナンバープレートを読み取る場合、例えば料金所に進入してくる車両は必ずしも一定の角度ではなく、斜めに進入してくることもある。またナンバープレートの取り付け角度が路面に対して略直角ではなく、上向きあるいは下向きに傾斜していることもある。さらには、折り曲げられていたり、事故等によって変形している場合もある。すると、入力画像における文字は変形や歪みを生じることが多く、このような場合、正規化相関計算では、高い認識精度を得るのは困難である。   In the method of Patent Document 1, matching processing between an input image and a pre-stored low-resolution image is performed by normalized correlation calculation. This normalized correlation calculation is applied to deformation and distortion of a target character. There is a problem of being weak. When reading a license plate of an automobile, for example, a vehicle entering a toll gate may enter at an angle rather than a fixed angle. Also, the license plate may be attached at an angle that is not substantially perpendicular to the road surface but is inclined upward or downward. Further, it may be bent or deformed due to an accident or the like. Then, the characters in the input image are often deformed or distorted. In such a case, it is difficult to obtain high recognition accuracy by the normalized correlation calculation.

本発明は、このような技術的課題に基づいてなされたもので、高い認識精度で高速に処理を行うことのできる文字認識装置、ナンバープレート認識システムを提供することを目的とする。   The present invention has been made based on such a technical problem, and an object of the present invention is to provide a character recognition device and a license plate recognition system capable of performing high-speed processing with high recognition accuracy.

かかる目的のもと、本発明の文字認識装置は、複数の文字のそれぞれを所定の解像度で撮像したときの辞書画像と、複数の文字のそれぞれの特徴的な部分の形状を複数のグループに分けて格納したデータベースと、外部から入力された文字画像とデータベースに格納された特徴的な部分の形状とに基づき、文字画像にマッチする辞書画像を特定するマッチング処理部と、マッチング処理部で特定された辞書画像に対し文字認識処理を施すことで、文字画像の文字を認識する認識処理部と、認識された文字を認識結果として出力する結果出力部と、を備えることを特徴とする。
このようにして、入力された文字画像と辞書画像とのマッチングには、文字の特徴的な部分の形状を用いるわけであるが、データベースに、この文字の特徴的な部分の形状をグループに分けて格納することで、データ記憶量を小さくすることができる。また、特徴的な部分の形状が近いグループをまず特定すれば、そのグループに属する特徴的な部分の形状とのマッチングを行なえば良いので、従来のように総当りでのマッチングを行うことなく、マッチングの効率を向上させることが可能となる。
For this purpose, the character recognition device according to the present invention divides the dictionary image when each of the plurality of characters is imaged at a predetermined resolution and the shape of each characteristic portion of the plurality of characters into a plurality of groups. And a matching processing unit for identifying a dictionary image that matches the character image based on the character database input from the outside, the character image input from the outside, and the shape of the characteristic part stored in the database, and the matching processing unit. And a recognition processing unit that recognizes characters in the character image by performing character recognition processing on the dictionary image, and a result output unit that outputs the recognized character as a recognition result.
In this way, the shape of the characteristic part of the character is used for matching the input character image and the dictionary image. The characteristic part of the character is divided into groups in the database. Data storage amount can be reduced. Also, if you first identify a group with a similar shape of the characteristic part, you only need to match with the shape of the characteristic part belonging to that group, so without matching the round-robin like in the past, Matching efficiency can be improved.

ここで、データベースに、複数の文字のそれぞれを辞書画像の解像度より高解像度で撮像したときの高解像度辞書画像を、辞書画像に関連付けて格納し、認識処理部において、マッチング処理部で特定された辞書画像に関連付けられた高解像度辞書画像をデータベースから呼び出し、高解像度辞書画像に対し文字認識処理を施すことで、文字画像の文字を認識することもできる。つまり、いわゆる超解像度処理を組み合わせて実行することができる。   Here, in the database, a high-resolution dictionary image when each of a plurality of characters is captured at a higher resolution than the resolution of the dictionary image is stored in association with the dictionary image, and the recognition processing unit specifies the matching processing unit. It is also possible to recognize characters of a character image by calling a high resolution dictionary image associated with the dictionary image from the database and performing character recognition processing on the high resolution dictionary image. That is, so-called super-resolution processing can be executed in combination.

また、認識処理部は、辞書画像の充填率または周波数に基づき、辞書画像を対象として文字認識を行うか、高解像度辞書画像を対象として文字認識を行うかを選択することもできる。
さらに、認識処理部は、辞書画像または高解像度辞書画像を2値化処理することで、文字画像の文字を認識したり、辞書画像または高解像度辞書画像の輝度勾配ベクトルに基づき、文字画像の文字を認識することもできる。加えて、2値化処理と輝度勾配ベクトルを場合によって切り替えることもできる。すなわち、認識処理部は、文字認識の信頼度に基づき、辞書画像または高解像度辞書画像を2値化処理して文字認識を行うか、辞書画像または高解像度辞書画像の輝度勾配ベクトルに基づいて文字認識を行うかを選択するのである。
このように、高解像度辞書画像を対象として文字認識を行う超解像度処理や、文字認識の際の手法として用いる2値化処理、輝度勾配ベクトルを、必要に応じて用いることにより、負荷の高い(演算量が多い)処理を全体として削減し、必要な時のみ文字認識精度を向上させることができる。
The recognition processing unit can also select whether to perform character recognition for the dictionary image or character recognition for the high-resolution dictionary image based on the filling rate or frequency of the dictionary image.
Further, the recognition processing unit binarizes the dictionary image or the high resolution dictionary image to recognize the character of the character image, or based on the brightness gradient vector of the dictionary image or the high resolution dictionary image, Can also be recognized. In addition, the binarization process and the luminance gradient vector can be switched depending on circumstances. That is, the recognition processing unit binarizes the dictionary image or the high-resolution dictionary image based on the reliability of character recognition to perform character recognition, or character recognition based on the brightness gradient vector of the dictionary image or the high-resolution dictionary image. Choose whether to recognize.
In this way, a super-resolution process that performs character recognition for a high-resolution dictionary image, a binarization process that is used as a technique for character recognition, and a luminance gradient vector are used as necessary, thereby increasing the load ( The processing can be reduced as a whole, and the character recognition accuracy can be improved only when necessary.

このような点をポイントとして、本発明を捉えることもできる。
すなわち、本発明の文字認識装置は、複数の文字のそれぞれを所定の解像度で撮像したときの辞書画像、および複数の文字のそれぞれを辞書画像の解像度より高解像度で撮像したときの高解像度辞書画像を格納したデータベースと、データベースに格納された辞書画像から、外部から入力された文字画像にマッチする辞書画像を特定する特定処理部と、特定処理部で特定された辞書画像の条件に基づき、辞書画像または辞書画像に関連付けられた高解像度辞書画像を選択し、選択された辞書画像または高解像度辞書画像に対し文字認識処理を施すことで、文字画像の文字を認識する文字認識部と、認識された文字を認識結果として出力する結果出力部と、を備えることを特徴とすることもできる。
ここで、文字認識処理に辞書画像を用いる場合は、超解像度処理を行わないことを示している。
このように、辞書画像または高解像度辞書画像を選択するには、文字認識部において、特定処理部で特定された辞書画像の充填率または周波数に基づき選択を行うことができる。
With this point as a point, the present invention can also be understood.
That is, the character recognition device of the present invention has a dictionary image when each of a plurality of characters is captured at a predetermined resolution, and a high-resolution dictionary image when each of the plurality of characters is captured at a higher resolution than the resolution of the dictionary image. Based on the condition of the dictionary image specified by the specification processing unit for specifying the dictionary image that matches the character image input from the outside, the dictionary image stored in the database, the dictionary image stored in the database, and the specification processing unit A character recognition unit that recognizes characters in a character image by selecting a high-resolution dictionary image associated with the image or dictionary image and performing character recognition processing on the selected dictionary image or high-resolution dictionary image. And a result output unit that outputs the character as a recognition result.
Here, when a dictionary image is used for character recognition processing, it indicates that super-resolution processing is not performed.
Thus, in order to select a dictionary image or a high-resolution dictionary image, the character recognition unit can make a selection based on the filling rate or frequency of the dictionary image specified by the specifying processing unit.

上記したような文字認識装置は、文字画像の入力手段を問うものではなく、カメラで撮影した文字画像に限らず、文字認識装置に対して外部から入力できる文字画像であれば、その入力手段(取得手段)はいかなるものであってもよい。また、その文字画像も、いかなるものに記載されたものであってもよい。つまり、文字認識装置としては、文字認識対象をナンバープレートに限定する意図はないのである。   The character recognition device as described above does not ask for a character image input means, and is not limited to a character image photographed by a camera. Any acquisition means may be used. Moreover, the character image may be described in any thing. That is, the character recognition device is not intended to limit the character recognition target to the license plate.

その一方、本発明は、通過する車両のナンバープレートを撮影するカメラと、カメラで撮影したナンバープレートの画像に基づき、ナンバープレートに記載された文字を認識する認識部と、認識部で文字を認識するため、複数の文字の特徴パターンを複数にクラスタリングすることで生成されたグループの代表パターンを格納したデータベースと、を備えたナンバープレート認識システムとして捉えることもできる。この場合、このナンバープレート認識システムは、認識部において、カメラで撮影したナンバープレートの画像と、データベースに格納された代表パターンとに基づき、ナンバープレートに記載された文字を認識することを特徴とする。このようにして、データベースに、この文字の特徴パターンをグループに分けて格納することで、データ記憶量を小さくしたり、マッチングの効率を向上させることが可能となる。   On the other hand, the present invention is a camera that captures a license plate of a passing vehicle, a recognition unit that recognizes characters written on the license plate based on a license plate image captured by the camera, and a recognition unit that recognizes characters. Therefore, it can also be understood as a license plate recognition system including a database storing representative patterns of groups generated by clustering a plurality of feature patterns of a plurality of characters. In this case, in the license plate recognition system, the recognition unit recognizes characters written on the license plate based on the image of the license plate taken by the camera and the representative pattern stored in the database. . In this manner, by storing the character feature patterns in the database in groups, it is possible to reduce the data storage amount and improve the matching efficiency.

ここで、ナンバープレートに記載された文字を認識するには、代表パターンをそのまま用いることもできる。
これに対し、データベースに、各グループの代表パターンと、代表パターンが属するグループの特徴パターンとを関連付けて格納し、認識部では、カメラで撮影したナンバープレートの画像に対応する代表パターンを特定し、特定された代表パターンが属するグループの特徴パターンに基づき、ナンバープレートに記載された文字を認識することもできる。つまり、代表パターンを特定した後、特定された代表パターンが属するグループを対象とし、カメラで撮影したナンバープレートの画像に最もマッチする特徴パターンを、代表パターンが属するグループから抽出し、これを用いて文字認識を行うのである。
Here, in order to recognize the characters written on the license plate, the representative pattern can be used as it is.
On the other hand, the representative pattern of each group and the characteristic pattern of the group to which the representative pattern belongs are stored in the database in association with each other, and the recognition unit identifies the representative pattern corresponding to the license plate image captured by the camera, Based on the characteristic pattern of the group to which the identified representative pattern belongs, it is also possible to recognize the characters written on the license plate. In other words, after specifying the representative pattern, the feature pattern that best matches the image of the license plate photographed by the camera is extracted from the group to which the representative pattern belongs, and the group to which the specified representative pattern belongs is used. Character recognition is performed.

本発明によれば、車両のナンバープレートの記載内容の自動認識処理を、高い認識精度で高速に行うことが可能となる。   ADVANTAGE OF THE INVENTION According to this invention, it becomes possible to perform the automatic recognition process of the description content of the license plate of a vehicle at high speed with high recognition accuracy.

以下、添付図面に示す実施の形態に基づいてこの発明を詳細に説明する。
図1は、本実施の形態におけるナンバープレート認識システム10の構成を説明するための図である。
ナンバープレート認識システム10は、道路R上の車両のナンバープレート100を撮影すべく、道路Rの上方において、斜め下方に向けて設置されたカメラ20と、このカメラ20で撮影した画像を基に、ナンバープレート100に記載された文字の認識を行う文字認識装置30と、を備えている。
Hereinafter, the present invention will be described in detail based on embodiments shown in the accompanying drawings.
FIG. 1 is a diagram for explaining the configuration of a license plate recognition system 10 in the present embodiment.
The license plate recognition system 10 is based on a camera 20 installed obliquely downward above the road R and an image captured by the camera 20 in order to photograph the license plate 100 of the vehicle on the road R. And a character recognition device 30 for recognizing the characters written on the license plate 100.

文字認識装置30は、カメラ20で撮影した画像の入力を受ける画像入力部31と、画像入力部31に入力された画像に基づき、文字認識処理を実行する認識処理部(マッチング処理部、特定処理部、文字認識部、認識部)32と、認識処理部32で認識処理を実行するにあたり必要なデータが格納されたデータベース33と、認識処理部32での認識処理結果を外部に出力する認識結果出力部(結果出力部)34と、を備えている。   The character recognition device 30 includes an image input unit 31 that receives an input of an image captured by the camera 20, and a recognition processing unit (matching processing unit, specific process) that executes character recognition processing based on the image input to the image input unit 31. Part, character recognition unit, recognition unit) 32, a database 33 storing data necessary for executing the recognition process in the recognition processing unit 32, and a recognition result for outputting the recognition processing result in the recognition processing unit 32 to the outside An output unit (result output unit) 34.

図2に示すように、データベース33には、ナンバープレート100に使用される文字(数字、「−」、「・」等を含む)について、その文字をカメラ20と同等の解像度で撮影したときの画像(辞書画像:以下、低解像度辞書画像)Lと、同じ文字をカメラ20よりも高解像度で撮影したときの画像(以下、高解像度辞書画像)Hのデータが、互いに関連付けられて格納されている。そして、低解像度辞書画像Lについては、これを予め解析することで得られる、例えば、その低解像度辞書画像Lの各ピクセルの輝度値、輝度値の微分値(水平方向、垂直方向、斜め右下がり方向、斜め右上がり方向)等、文字画像の特徴量を示す指標(以下、特徴量)が、さらに関連付けてデータベース33に格納されている。   As shown in FIG. 2, the database 33 includes characters (including numbers, “−”, “•”, etc.) used for the license plate 100 when the characters are photographed at a resolution equivalent to that of the camera 20. Data of an image (dictionary image: hereinafter referred to as a low resolution dictionary image) L and an image (hereinafter referred to as a high resolution dictionary image) H obtained by photographing the same character at a higher resolution than the camera 20 are stored in association with each other. Yes. The low-resolution dictionary image L is obtained by analyzing this in advance. For example, the luminance value of each pixel of the low-resolution dictionary image L, the differential value of the luminance value (horizontal direction, vertical direction, diagonally lower right) An index indicating the feature amount of the character image (hereinafter referred to as a feature amount) such as a direction or a diagonally upward right direction is further stored in the database 33 in association with each other.

以下、認識処理部32における文字認識処理方法について説明する。
図3は、本実施の形態における文字認識処理の流れの一例を示すものである。なお、文字認識処理は、コンピュータ装置である文字認識装置30に予めインストールされたプログラムに基づき、CPU、メモリ等が協働することで機能的に発現する認識処理部32が、自動的に実行するものである。
この図3に示すように、画像入力部31に画像が入力されると、認識処理部32は、例えばナンバープレート100に対応した領域のみの画像を切り出す等、所定の前処理を実行する(ステップS101)。
そして、ナンバープレート100において、文字が記載されている領域の画像(以下、文字画像)Iを切り出す、文字切り出し処理を実行する(ステップS102)。このとき、切り出す文字画像Iの領域は、1文字毎に切り出すものとする。
Hereinafter, a character recognition processing method in the recognition processing unit 32 will be described.
FIG. 3 shows an example of the flow of character recognition processing in the present embodiment. The character recognition processing is automatically executed by the recognition processing unit 32 that is functionally expressed by the cooperation of the CPU, the memory, and the like based on a program installed in advance in the character recognition device 30 that is a computer device. Is.
As shown in FIG. 3, when an image is input to the image input unit 31, the recognition processing unit 32 performs predetermined preprocessing such as cutting out an image of only the area corresponding to the license plate 100 (step). S101).
Then, a character cutout process is performed to cut out an image (hereinafter referred to as a character image) I in an area where characters are written on the license plate 100 (step S102). At this time, the region of the character image I to be cut out is cut out for each character.

そして、超解像度処理を用いた文字認識処理を実行する(ステップS103)。この文字認識処理では、正規化相関計算ではなく、2値化画像での文字形状特徴抽出によるパターンマッチング処理を用いる。
詳しくは、得られた文字画像Iについて認識処理部32にて解析し、文字画像Iの特徴量を示す指標を算出する。そして、図4に示すように、算出された文字画像Iの特徴量と、データベース33に格納された低解像度辞書画像Lの特徴量とを比較してマッチングを図り、マッチング度の最も高い低解像度辞書画像Lを特定する(ステップS111)。つまり、いわゆる超解像度処理を行うのである。
続いて、特定された低解像度辞書画像Lに関連付けられている高解像度辞書画像Hをデータベース33から呼び出し、認識処理部32にて、2値化処理する(ステップS112)。さらに、2値化処理した画像において、輪郭線の方向ヒストグラム特徴を求め、統計的パターン認識により文字を認識する(ステップS113)。
そして、文字の認識結果を確定し、これを文字認識装置30のメモリに記憶する(ステップS114)。
Then, character recognition processing using super-resolution processing is executed (step S103). In this character recognition processing, pattern matching processing based on character shape feature extraction from a binarized image is used instead of normalized correlation calculation.
Specifically, the obtained character image I is analyzed by the recognition processing unit 32, and an index indicating the feature amount of the character image I is calculated. Then, as shown in FIG. 4, the calculated feature amount of the character image I is compared with the feature amount of the low resolution dictionary image L stored in the database 33 to perform matching, and the low resolution with the highest matching degree is obtained. A dictionary image L is specified (step S111). That is, so-called super-resolution processing is performed.
Subsequently, the high-resolution dictionary image H associated with the specified low-resolution dictionary image L is called from the database 33, and binarization processing is performed by the recognition processing unit 32 (step S112). Further, in the binarized image, the direction histogram feature of the outline is obtained, and the character is recognized by statistical pattern recognition (step S113).
And the recognition result of a character is decided and this is memorize | stored in the memory of the character recognition apparatus 30 (step S114).

上記の、ステップS111〜S114の処理を、ステップS102で切り出した文字画像Iの数の分(文字数分)だけループし、個々の文字画像Iの文字を認識していく。
そして、全ての文字画像Iの認識が完了した時点で、文字認識装置30のメモリに記憶された個々の文字の認識結果から、ナンバープレート100に記載されている全ての文字の認識結果を得るのである。
得られた文字の認識結果は、必要に応じ、認識結果出力部34から外部の他の処理装置、記憶装置等に出力される。
The processes in steps S111 to S114 are looped by the number of character images I cut out in step S102 (the number of characters), and the characters of the individual character images I are recognized.
When the recognition of all the character images I is completed, the recognition results of all the characters described in the license plate 100 are obtained from the recognition results of the individual characters stored in the memory of the character recognition device 30. is there.
The obtained character recognition result is output from the recognition result output unit 34 to another external processing device, storage device, or the like, if necessary.

このようにして、文字画像Iを超解像度処理し、特定された高解像度辞書画像Hを用いて文字認識することで、低解像度の文字画像Iで失われている細部の情報までを復元して、高い精度で文字認識を行うことができる。しかも、文字認識の際には、特定された高解像度辞書画像Hを用い、これを2値化処理し、輪郭線の方向ヒストグラム特徴を求めることで、変形や歪みに弱い正規化相互相関手法を用いる場合に比較し、文字の認識精度を向上させることができる。
その結果、カメラ20を従来より低解像度のものとすることも可能となり、カメラ20自体のコスとを抑えるだけでなく、カメラ20の台数自体も削減できるので、ナンバープレート認識システム10のコストを大幅に低減することが可能となる。
In this way, the character image I is subjected to super-resolution processing and character recognition is performed using the specified high-resolution dictionary image H, so that even detailed information lost in the low-resolution character image I is restored. Character recognition can be performed with high accuracy. Moreover, when character recognition is performed, the specified high-resolution dictionary image H is binarized to obtain a direction histogram characteristic of the contour line, thereby obtaining a normalized cross-correlation technique that is weak against deformation and distortion. Character recognition accuracy can be improved as compared with the case of using.
As a result, the camera 20 can be made to have a lower resolution than the conventional one, and not only the cost of the camera 20 itself can be suppressed, but also the number of cameras 20 itself can be reduced, which greatly increases the cost of the license plate recognition system 10. It becomes possible to reduce it.

さて、上記ステップS103の文字認識処理においては、2値化処理を用いたが、これに代えて輝度勾配特徴を用いることもできる。
すなわち、図5に示すように、入力画像の前処理(ステップS101)、文字切り出し処理(ステップS102)を経た後の文字認識処理(ステップS103)において、図3のステップS111と同様にして文字画像Iに対する超解像度処理を行い、高解像度辞書画像Hを得る(ステップS121)。
この後、上記のように2値化処理を行うのではなく、得られた高解像度辞書画像Hの濃淡に基づく輝度勾配方向のヒストグラム特徴を得て、統計的パターン認識により文字を認識する(ステップS122)。
In the character recognition process in step S103, the binarization process is used. However, a luminance gradient feature can be used instead.
That is, as shown in FIG. 5, in the character recognition processing (step S103) after the input image preprocessing (step S101) and the character segmentation processing (step S102), the character image is the same as in step S111 of FIG. Super-resolution processing for I is performed to obtain a high-resolution dictionary image H (step S121).
After that, instead of performing the binarization process as described above, a histogram characteristic in the luminance gradient direction based on the density of the obtained high-resolution dictionary image H is obtained, and the character is recognized by statistical pattern recognition (step S122).

そして、文字の認識結果を確定し、これを文字認識装置30のメモリに記憶する(ステップS123)。
上記の、ステップS121〜S123の処理を、ステップS102で切り出した文字画像Iの数の分(文字数分)だけループし、個々の文字画像Iの文字を認識していき、全ての文字画像Iの認識が完了した時点で、文字認識装置30のメモリに記憶された個々の文字の認識結果から、ナンバープレート100に記載されている全ての文字の認識結果を得て、これを、必要に応じ、認識結果出力部34から外部の他の処理装置、記憶装置等に出力するのである。
And the recognition result of a character is decided and this is memorize | stored in the memory of the character recognition apparatus 30 (step S123).
The processes in steps S121 to S123 are looped by the number of character images I cut out in step S102 (the number of characters), and the characters of each character image I are recognized, and all character images I are recognized. When the recognition is completed, the recognition results of all the characters described in the license plate 100 are obtained from the recognition results of the individual characters stored in the memory of the character recognition device 30. The recognition result output unit 34 outputs the result to another external processing device, storage device, or the like.

このように、2値化処理ではなく、輝度勾配を用いることでも、図3の手法と同様の効果を得ることができる。輝度勾配を用いた場合、2値化処理よりも高い精度での文字認識が期待できる。   Thus, the same effect as that of the method of FIG. 3 can be obtained by using the luminance gradient instead of the binarization processing. When the luminance gradient is used, character recognition with higher accuracy than binarization processing can be expected.

また、これら、2値化処理による文字認識と、輝度勾配を用いる文字認識とを組み合わせることもできる。
すなわち、図6に示すように、入力画像の前処理(ステップS101)、文字切り出し処理(ステップS102)を経た後の文字認識処理(ステップS103)において、図3のステップS111と同様にして文字画像Iに対する超解像度処理を行い、高解像度辞書画像Hを得る(ステップS131)。
続いて、得られた高解像度辞書画像Hをデータベース33から呼び出し、認識処理部32にて、2値化処理する(ステップS132)。さらに、2値化処理した画像において、輪郭線の方向ヒストグラム特徴を求め、統計的パターン認識により文字を認識する(ステップS133)。
In addition, character recognition by binarization processing and character recognition using a luminance gradient can be combined.
That is, as shown in FIG. 6, in the character recognition processing (step S103) after the input image preprocessing (step S101) and the character segmentation processing (step S102), the character image is the same as in step S111 of FIG. Super-resolution processing for I is performed to obtain a high-resolution dictionary image H (step S131).
Subsequently, the obtained high resolution dictionary image H is called from the database 33, and binarization processing is performed by the recognition processing unit 32 (step S132). Further, in the binarized image, the direction histogram feature of the outline is obtained, and the character is recognized by statistical pattern recognition (step S133).

そして、2値化処理による文字認識の結果、文字の類似度の信頼性が、予め設定したしきい値よりも高いか否かを判定する(ステップS134)。ここで、文字の類似度の信頼性が高いか否かを判定するには、マハラノビス距離を用いる。すなわち、2値化処理による文字認識の結果、文字の類似度の指標として、マハラノビス距離を求め、このマハラノビス距離が、予め設定したしきい値S1よりも高いか否かを判定するのである。
このとき、文字認識の結果、しきい値S1をクリアする文字の候補が複数ある場合、それぞれの文字に対するマハラノビス距離を比較する。この比較は、単にマハラノビス距離の小さい方を、最終的な文字認識結果(の文字)とするのではなく、マハラノビス距離の比に基づき、その比が予め設定したしきい値S2より大きいか否かで判定するのが好ましい。
Then, as a result of the character recognition by the binarization process, it is determined whether or not the reliability of the character similarity is higher than a preset threshold value (step S134). Here, the Mahalanobis distance is used to determine whether or not the reliability of character similarity is high. That is, as a result of character recognition by binarization processing, the Mahalanobis distance is obtained as an index of character similarity, and it is determined whether or not this Mahalanobis distance is higher than a preset threshold value S1.
At this time, when there are a plurality of character candidates that clear the threshold value S1 as a result of character recognition, the Mahalanobis distances for the respective characters are compared. In this comparison, the smaller Mahalanobis distance is not used as the final character recognition result (the character), but based on the Mahalanobis distance ratio, whether or not the ratio is greater than a preset threshold value S2. It is preferable to judge by.

具体例を挙げれば、しきい値S1が0.40であり、第一候補の文字に対するマハラノビス距離が0.25であり、第二候補の文字に対するマハラノビス距離が0.42である場合、第一候補の文字の信頼性が高いと判定するのである。第一候補の文字からして、マハラノビス距離がしきい値S1を上回っている場合、信頼性が低いと判定する。
また、第一候補の文字に対するマハラノビス距離が0.10であり、第二候補の文字に対するマハラノビス距離が0.30である場合、双方の文字がしきい値S1をクリアしているので、この場合、これらの比(0.30/0.10=3.0)がしきい値S2より大きいか否かで信頼性を判定するのである。
For example, if the threshold value S1 is 0.40, the Mahalanobis distance for the first candidate character is 0.25, and the Mahalanobis distance for the second candidate character is 0.42, It is determined that the candidate character is highly reliable. When the Mahalanobis distance exceeds the threshold value S1 from the first candidate character, it is determined that the reliability is low.
Also, if the Mahalanobis distance for the first candidate character is 0.10 and the Mahalanobis distance for the second candidate character is 0.30, both characters have cleared the threshold value S1, so in this case The reliability is determined based on whether these ratios (0.30 / 0.10 = 3.0) are larger than the threshold value S2.

その結果、認識された文字の類似度の信頼性が高いと判定された場合、その文字を認識結果として確定し、これを文字認識装置30のメモリに記憶する(ステップS135)。   As a result, when it is determined that the similarity of the recognized character is highly reliable, the character is determined as a recognition result and stored in the memory of the character recognition device 30 (step S135).

一方、ステップS134にて、文字の類似度の信頼性が低いと判定された場合、引き続き、図5の場合と同様、得られた高解像度辞書画像Hの濃淡に基づく輝度勾配方向のヒストグラム特徴を得て、統計的パターン認識により文字を認識する(ステップS136)。
そして、文字認識の結果、文字の類似度の信頼性が、予め設定したしきい値よりも高いか否かを、ステップS134と同様にして判定する(ステップS137)。
その結果、認識された文字の類似度の信頼性が高いと判定された場合、その文字を認識結果として確定し、これを文字認識装置30のメモリに記憶する(ステップS138)。これに対し、信頼性が低いと判定された場合は、認識した文字が不明、つまり文字認識をできなかったことを示す、不明判定を出す(ステップS139)。
On the other hand, if it is determined in step S134 that the reliability of the character similarity is low, the histogram feature in the luminance gradient direction based on the density of the obtained high-resolution dictionary image H is continued as in the case of FIG. The character is recognized by statistical pattern recognition (step S136).
Then, as a result of character recognition, it is determined in the same manner as in step S134 whether or not the reliability of character similarity is higher than a preset threshold value (step S137).
As a result, when it is determined that the similarity of the recognized character is highly reliable, the character is determined as a recognition result and stored in the memory of the character recognition device 30 (step S138). On the other hand, if it is determined that the reliability is low, an unknown determination is made to indicate that the recognized character is unknown, that is, the character could not be recognized (step S139).

上記のようにして、文字の認識結果が確定された場合、これを文字認識装置30のメモリに記憶した後、上記の、ステップS131〜S139の処理を、ステップS102で切り出した文字画像Iの数の分(文字数分)だけループし、個々の文字画像Iの文字を認識していき、全ての文字画像Iの認識が完了した時点で、文字認識装置30のメモリに記憶された個々の文字の認識結果から、ナンバープレート100に記載されている全ての文字の認識結果を得て、これを、必要に応じ、認識結果出力部34から外部の他の処理装置、記憶装置等に出力するのである。   When the character recognition result is determined as described above, this is stored in the memory of the character recognition device 30, and then the above-described processing in steps S131 to S139 is performed as the number of character images I cut out in step S102. (Number of characters) is looped to recognize the characters of each character image I, and when the recognition of all the character images I is completed, the characters of the individual characters stored in the memory of the character recognition device 30 are recognized. From the recognition result, the recognition result of all the characters written on the license plate 100 is obtained, and this is output from the recognition result output unit 34 to other external processing devices, storage devices, etc. as necessary. .

このようにして、2値化による文字認識では信頼性の高い結果が得られないときには、より文字認識精度の高い輝度勾配特徴による文字認識処理を行うことで、より高い精度の認識結果を得ることができる。しかも、計算負荷が高い輝度勾配特徴による文字認識処理を、必要なとき、つまり2値化による文字認識では信頼性の高い結果が得られないときのみ行うことにより、処理を高速に実行することができる。   In this way, when a highly reliable result cannot be obtained by binarized character recognition, a character recognition process using a luminance gradient feature with higher character recognition accuracy can be performed to obtain a recognition result with higher accuracy. Can do. In addition, the character recognition process using the luminance gradient feature having a high calculation load can be executed at high speed by performing the character recognition process only when necessary, that is, when the highly reliable result cannot be obtained by the character recognition by binarization. it can.

ところで、上記したような文字認識処理S103において、超解像度処理を必ずしも行わない構成とすることも可能である。
すなわち、図7に示すように、入力画像の前処理(ステップS101)、文字切り出し処理(ステップS102)を経た後の文字認識処理(ステップS103)において、まず、文字の大きさ・充填率を評価する(ステップS141)。
これには、認識処理部32において、切り出された文字画像Iにおいて、文字(と判断できる部分)の大きさを得るとともに、ナンバープレート100の背景色(日本国における場合、白、緑、黄、黒、青のいずれか)以外の部分の面積の、文字画像Iの面積に対する占積率(これを充填率とする)を計算(評価)する。
そして、文字の大きさが一定値以下であり、かつ、充填率が一定値以上であるか否かを判定する(ステップS142)。
By the way, in the character recognition process S103 as described above, it is possible to adopt a configuration in which the super-resolution process is not necessarily performed.
That is, as shown in FIG. 7, in the character recognition processing (step S103) after the input image preprocessing (step S101) and the character segmentation processing (step S102), first, the character size and filling rate are evaluated. (Step S141).
For this purpose, the recognition processing unit 32 obtains the size of the character (portion that can be determined) in the extracted character image I, and the background color of the license plate 100 (in Japan, white, green, yellow, The space factor of the area other than black or blue) with respect to the area of the character image I (this is the filling factor) is calculated (evaluated).
Then, it is determined whether or not the character size is equal to or less than a certain value and the filling rate is equal to or greater than a certain value (step S142).

その結果、文字の大きさが一定値以下であり、かつ、充填率が一定値以上であると判定された場合、図3のステップS111と同様にして文字画像Iに対する超解像度処理を行い、高解像度辞書画像Hを得る(ステップS143)。
続いて、得られた高解像度辞書画像Hをデータベース33から呼び出し、認識処理部32にて、2値化処理する(ステップS144)。さらに、2値化処理した画像において、輪郭線の方向ヒストグラム特徴を求め、統計的パターン認識により文字を認識する(ステップS145)。
As a result, when it is determined that the character size is equal to or smaller than a certain value and the filling rate is equal to or larger than the certain value, the super-resolution processing is performed on the character image I in the same manner as in step S111 in FIG. A resolution dictionary image H is obtained (step S143).
Subsequently, the obtained high-resolution dictionary image H is called from the database 33, and binarization processing is performed by the recognition processing unit 32 (step S144). Further, in the binarized image, the direction histogram feature of the outline is obtained, and the character is recognized by statistical pattern recognition (step S145).

これに対し、ステップS142にて、文字の大きさが一定値以下であり、かつ、充填率が一定値以上であるという条件を満たさないと判定された場合、つまり文字の大きさが一定値以上であるか、充填率が一定値未満であるか、文字の大きさが一定値以上で、かつ充填率が一定値未満である場合は、ステップS143の超解像度処理をスキップし、ステップS144、S145に移行し、2値化処理を行った後、ステップS145にて、2値化処理した画像における輪郭線の方向ヒストグラム特徴を求め、統計的パターン認識により文字を認識するのである。このとき、ステップS144において2値化処理する対象画像は、超解像度処理を行っていないため、文字画像Iそのもの、あるいは文字画像Iとマッチング度の高い低解像度辞書画像Lとすることができる。処理速度の面から言えば、文字画像Iそのものを対象として2値化処理するのが好ましいが、文字認識精度の面から言えば、文字画像Iとマッチング度の高い低解像度辞書画像Lを対象とするのが好ましい。   On the other hand, when it is determined in step S142 that the character size is not more than a certain value and the filling rate is not less than the certain value, that is, the character size is not less than a certain value. Or the filling rate is less than a certain value, or the character size is greater than or equal to a certain value and the filling rate is less than a certain value, the super-resolution processing in step S143 is skipped, and steps S144 and S145 are performed. In step S145, the direction histogram feature of the contour line in the binarized image is obtained, and the character is recognized by statistical pattern recognition. At this time, since the target image to be binarized in step S144 is not subjected to super-resolution processing, it can be the character image I itself or the low-resolution dictionary image L having a high matching degree with the character image I. In terms of processing speed, it is preferable to perform binarization processing on the character image I itself. However, in terms of character recognition accuracy, the low-resolution dictionary image L having a high matching degree with the character image I is targeted. It is preferable to do this.

そして、文字の認識結果を確定し、これを文字認識装置30のメモリに記憶する(ステップS146)。
上記の、ステップS141〜S146の処理を、ステップS102で切り出した文字画像Iの数の分(文字数分)だけループすることで、ナンバープレート100に記載されている全ての文字の認識結果を得て、これを、必要に応じ、認識結果出力部34から外部の他の処理装置、記憶装置等に出力するのである。
And the recognition result of a character is decided and this is memorize | stored in the memory of the character recognition apparatus 30 (step S146).
By looping the processing of steps S141 to S146 as many as the number of character images I cut out in step S102 (the number of characters), recognition results of all characters described in the license plate 100 are obtained. This is output from the recognition result output unit 34 to other external processing devices, storage devices, etc., as necessary.

このとき、ステップS144、145の文字2値化ステップ、文字認識ステップは、図5に示したような輝度勾配を用いた文字認識処理、あるいは図6に示した、必要に応じて2値化と輝度勾配を切り替える文字認識処理とすることも可能である。   At this time, the character binarization step and the character recognition step in steps S144 and 145 are character recognition processing using a luminance gradient as shown in FIG. 5, or binarization as necessary shown in FIG. It is also possible to perform character recognition processing for switching the luminance gradient.

このようにして、図7の例では、文字の大きさが一定値以下であり、かつ、充填率が一定値以上である場合のみ、超解像度処理を行うようにしたのである。これにより、文字が大きい場合や、充填率が低い場合には、超解像度処理を行わないことになる。充填率は、得られた文字の像がぼやけていなければ低く、また複雑な文字でなければ低くなる。つまり、大きな文字や、文字の像がはっきりしている場合、複雑ではない文字の場合には超解像度処理を行わず、処理を高速化することが可能となる。また小さな文字や、得られた文字の像がぼやけている場合、複雑な文字の場合には超解像度処理を行い、文字の認識精度を上げることができる。このようにして、処理を高速化しつつ、必要なときのみ高精度の文字認識を行うことで、高い文字認識精度を得ることが可能となる。   In this way, in the example of FIG. 7, the super-resolution processing is performed only when the character size is equal to or smaller than a certain value and the filling rate is equal to or larger than the certain value. As a result, when the character is large or the filling rate is low, the super-resolution processing is not performed. The filling rate is low if the obtained character image is not blurred, and is low if it is not a complicated character. That is, when a large character or a character image is clear or an uncomplicated character, the super-resolution processing is not performed, and the processing speed can be increased. In addition, when a small character or an obtained character image is blurred or a complicated character, super-resolution processing can be performed to improve character recognition accuracy. In this way, it is possible to obtain high character recognition accuracy by performing high-precision character recognition only when necessary while speeding up the processing.

上記図7の例では、充填率を用い、超解像度処理を行うか否かを判定するようにしたが、これに代えて、周波数を用いることもできる。
すなわち、ステップS142に代えて、ステップS102で得られた低解像度の文字画像Iに対し、微分処理を施し、得られた微分値が、予め定めた一定値以上大きいか否かを判定し、一定値以上であると判定されたときのみ、ステップS143に進んで超解像度処理を行うのである。微分値が大きいということは、ナンバープレート100の背景色の部分と文字の部分による周波数が高く、エッジを鮮明化したい部分が多いということである。例えば、図8に示すように、ナンバープレート100の空白部分A1〜A4の部分は、背景色のみなので、微分値は小さい(ゼロに近い)。また、ナンバープレート100の、大きな文字が記載された領域A5では、文字が大きいため、周波数が低くなる。これに対し、文字が小さな領域A6〜A8では、周波数が高くなる。
したがって、用いるカメラ20の仕様等に応じ、文字が小さな領域A6〜A8、あるいは文字が小さな領域A6〜A8の中でも周波数が高い場合に超解像度処理が行われるように、しきい値(一定値)を設定するのである。
In the example of FIG. 7, the filling rate is used to determine whether or not to perform super-resolution processing. However, instead of this, a frequency can also be used.
That is, instead of step S142, the low resolution character image I obtained in step S102 is subjected to a differentiation process, and it is determined whether the obtained differential value is greater than a predetermined value. Only when it is determined that the value is greater than or equal to the value, the process proceeds to step S143 to perform the super-resolution processing. A large differential value means that the frequency of the background color portion and the character portion of the license plate 100 is high, and there are many portions where it is desired to sharpen the edges. For example, as shown in FIG. 8, since the blank portions A1 to A4 of the license plate 100 are only the background color, the differential value is small (close to zero). Further, in the area A5 where large characters are written on the license plate 100, the frequency is low because the characters are large. On the other hand, the frequency is high in the regions A6 to A8 where the characters are small.
Therefore, according to the specification of the camera 20 to be used, a threshold value (a constant value) is set so that super-resolution processing is performed when the frequency is high even in the small character area A6 to A8 or the small character area A6 to A8. Is set.

このようにしても、上記図7の場合と同様、全体としての処理量(演算量)を大幅に低減し、処理を高速化しつつ、必要なときのみ超解像度処理による高精度の文字認識を行うことで、高い文字認識精度を得ることが可能となる。   Even in this case, as in the case of FIG. 7 described above, the overall processing amount (calculation amount) is greatly reduced, the processing speed is increased, and high-precision character recognition is performed by super-resolution processing only when necessary. As a result, high character recognition accuracy can be obtained.

さて、上記のようにして、文字認識装置30において文字認識処理を行うわけであるが、その処理をさらに高速化するには、データベース33に格納された低解像度辞書画像L、高解像度辞書画像Hのデータ量をなるべく少なくするのが好ましい。
これにはまず、データベース33に格納するために事前に集められた低解像度辞書画像Lの特徴量(特徴パターンベクトル)の各要素の値を量子化する方法がある。例えば、特徴パターンベクトルを構成する各値がそれぞれ256階調の値を持つ場合、これを32階調程度に量子化する。そして、量子化した特徴パターンベクトルを、その低解像度辞書画像Lの特徴量としてデータベース33に格納するのである。これにより、データベース33に格納するデータ量を実質的に圧縮できる。
As described above, the character recognition process is performed in the character recognition device 30. To further increase the speed of the process, the low resolution dictionary image L and the high resolution dictionary image H stored in the database 33 are used. It is preferable to reduce the amount of data as much as possible.
First, there is a method of quantizing the value of each element of the feature amount (feature pattern vector) of the low resolution dictionary image L collected in advance for storage in the database 33. For example, when each value constituting the feature pattern vector has a value of 256 gradations, it is quantized to about 32 gradations. The quantized feature pattern vector is stored in the database 33 as the feature amount of the low resolution dictionary image L. Thereby, the amount of data stored in the database 33 can be substantially compressed.

また、他の方法として、以下に示すようなものがある。
低解像度辞書画像Lにおける文字は、図9(a)に示すような特徴パターン(特徴的な部分の形状)に分解することができる。超解像度処理では、これら特徴パターンの種類、およびそれらの組み合わせを特定することで、文字画像Iと低解像度辞書画像Lのマッチングを行うことができる。
Other methods include the following.
The characters in the low-resolution dictionary image L can be decomposed into feature patterns (characteristic part shapes) as shown in FIG. In the super-resolution processing, the character image I and the low-resolution dictionary image L can be matched by specifying the types of these feature patterns and combinations thereof.

このような特徴パターンを、k−means法、ベクトル量子法等の手法によってクラスタリングし、図9(b)に示すように、複数のグループG1、G2、…にグループ化する。つまり特徴パターンが似ているものを同じグループに集めるのである。
そして、グループG1、G2、…のそれぞれにおいて、代表パターンP1、P2、…を決め、この代表パターンP1、P2、…に、そのグループG1、G2、…に属する全ての特徴パターンを関連付けてデータベース33に格納する。
Such feature patterns are clustered by a technique such as a k-means method or a vector quantum method, and are grouped into a plurality of groups G1, G2,... As shown in FIG. In other words, those with similar feature patterns are collected in the same group.
In each of the groups G1, G2,..., Representative patterns P1, P2,... Are determined, and all the feature patterns belonging to the groups G1, G2,. To store.

実際に、文字認識を行う際には、図10に示すように、文字画像Iの特徴パターンと、データベース33に格納された代表パターンP1、P2、…とのマッチングを行う。そして、マッチングする代表パターン(例えば代表パターンP3)が特定されたら、続いて、この代表パターンP3に関連付けられているグループG3を特定する。そして、このグループG3に属する特徴パターンと、文字画像Iの特徴パターンとのマッチングを行い、文字画像Iに最もマッチング度の高い特徴パターンを特定するのである。   Actually, when character recognition is performed, as shown in FIG. 10, the feature pattern of the character image I is matched with the representative patterns P1, P2,... Stored in the database 33. When a representative pattern to be matched (for example, representative pattern P3) is specified, subsequently, a group G3 associated with the representative pattern P3 is specified. Then, the feature pattern belonging to the group G3 is matched with the feature pattern of the character image I, and the feature pattern having the highest matching degree is specified for the character image I.

このように、文字画像Iと低解像度辞書画像Lのマッチングを行うに際し、代表パターンP1、P2、…を用いることで、従来のような総当りでのマッチングを行う必要が無くなり、マッチングに要する演算時間を大幅に短縮することが可能となる。   As described above, when matching between the character image I and the low resolution dictionary image L, the use of the representative patterns P1, P2,. Time can be greatly reduced.

また、以下のような方法もある。
上記図9に示した方法と同様、低解像度辞書画像Lにおける文字の特徴パターンを、k−means法、ベクトル量子法等の手法によってクラスタリングし、図11(a)に示すように、複数のグループG1、G2、…にグループ化する。そして、グループG1、G2、…のそれぞれにおいて、代表パターンP1、P2、…を決める。
図11(b)に示すように、データベース33には、この代表パターンP1、P2、…のみを、データベース33の低解像度辞書画像Lの特徴パターンとして格納する(そのグループG1、G2、…に属する他の全ての特徴パターンはデータベース33に格納しない)。
There are also the following methods.
Similar to the method shown in FIG. 9, the character feature patterns in the low-resolution dictionary image L are clustered by a technique such as the k-means method or the vector quantum method, and a plurality of groups are obtained as shown in FIG. Group into G1, G2,. Then, representative patterns P1, P2,... Are determined in each of the groups G1, G2,.
As shown in FIG. 11B, in the database 33, only the representative patterns P1, P2,... Are stored as feature patterns of the low resolution dictionary image L in the database 33 (belonging to the groups G1, G2,...). All other feature patterns are not stored in the database 33).

そして、実際に文字認識を行う際には、図12に示すように、文字画像Iの特徴パターンと、図11(b)に示した、データベース33に格納された代表パターンP1、P2、…とのマッチングを行う。そして、マッチングする代表パターン(例えば代表パターンP3)が特定されたら、この代表パターンP3を、文字画像Iに最もマッチング度の高い特徴パターンとして用いるのである。   When character recognition is actually performed, as shown in FIG. 12, the characteristic pattern of the character image I and the representative patterns P1, P2,... Stored in the database 33 shown in FIG. Perform matching. When a representative pattern to be matched (for example, representative pattern P3) is specified, this representative pattern P3 is used as a feature pattern having the highest matching degree in the character image I.

このような手法によれば、上記図9、図10に示した場合と同様、文字画像Iと低解像度辞書画像Lのマッチングを行うに際し、代表パターンP1、P2、…を用いることで、従来のような総当りでのマッチングを行う必要が無くなり、マッチングに要する演算時間を大幅に短縮することが可能となる。さらに、図9、図10に示した場合に比較し、マッチングする代表パターンを特定した後、これが属するグループを特定し、さらにそのグループに属する特徴パターンと文字画像Iの特徴パターンとのマッチングを行い、文字画像Iに最もマッチング度の高い特徴パターンを特定する必要がない。これにより、処理をさらに高速に行うことが可能となる。一方、文字認識精度の面では、代表パターンP1、P2、…をそのまま文字画像Iの特徴パターンとのマッチングに用いるので、図9、図10の手法の方が、文字認識精度が高くなる。どちらの手法を採用するかは、要求される処理速度や文字認識精度等に応じて決めればよい。
また、データベース33には、代表パターンP1、P2、…のみが格納されるため、データベース33へのデータ格納量を大幅に少なくすることも可能である。
According to such a method, as in the case shown in FIGS. 9 and 10, when matching the character image I and the low resolution dictionary image L, the representative patterns P1, P2,. It is no longer necessary to perform such round robin matching, and the calculation time required for matching can be greatly reduced. Further, in comparison with the cases shown in FIGS. 9 and 10, after specifying the representative pattern to be matched, the group to which the pattern belongs is specified, and the feature pattern belonging to the group is matched with the feature pattern of the character image I. Therefore, it is not necessary to specify the feature pattern having the highest matching degree in the character image I. Thereby, it becomes possible to perform processing at higher speed. On the other hand, in terms of character recognition accuracy, since the representative patterns P1, P2,... Are used as they are for matching with the feature pattern of the character image I, the character recognition accuracy is higher in the methods of FIGS. Which method should be adopted may be determined according to the required processing speed, character recognition accuracy, and the like.
Further, since only the representative patterns P1, P2,... Are stored in the database 33, the amount of data stored in the database 33 can be significantly reduced.

なお、上記実施の形態で示した各構成、手法は、適宜組み合わせることが可能である。
これ以外にも、本発明の主旨を逸脱しない限り、上記実施の形態で挙げた構成を取捨選択したり、他の構成に適宜変更することが可能である。
Note that the structures and methods described in the above embodiments can be combined as appropriate.
In addition to this, as long as it does not depart from the gist of the present invention, the configuration described in the above embodiment can be selected or changed to another configuration as appropriate.

本実施の形態におけるナンバープレート認識システムの構成を示す図である。It is a figure which shows the structure of the license plate recognition system in this Embodiment. データベースに低解像度辞書画像と高解像度辞書画像を格納することを示す図である。It is a figure which shows storing a low resolution dictionary image and a high resolution dictionary image in a database. 超解像度処理後、2値化処理により文字認識する場合の処理の流れを示す図である。It is a figure which shows the flow of a process in the case of character recognition by a binarization process after a super-resolution process. 超解像度処理において、入力された文字画像にマッチングする高解像度辞書画像を得ることを示す図である。It is a figure which shows obtaining the high resolution dictionary image which matches the input character image in a super resolution process. 超解像度処理後、輝度勾配を用いて文字認識する場合の処理の流れを示す図である。It is a figure which shows the flow of a process in the case of character recognition using a brightness | luminance gradient after a super-resolution process. 信頼度に応じて、2値化処理を用いた文字認識と、輝度勾配を用いた文字認識を切り替える場合の処理の流れを示す図である。It is a figure which shows the flow of a process in the case of switching the character recognition using a binarization process, and the character recognition using a brightness | luminance gradient according to reliability. 条件に応じて、所定の条件を満たした場合のみ超解像度処理を行う場合の処理の流れを示す図である。It is a figure which shows the flow of a process in the case of performing a super-resolution process only when predetermined conditions are satisfy | filled according to conditions. 画像の周波数に関して説明するための図である。It is a figure for demonstrating regarding the frequency of an image. データベースに、文字の特徴パターンをクラスタリングして格納することを示す図である。It is a figure which shows storing the feature pattern of a character in a database. クラスタリングして格納された特徴パターンを用い、文字認識を行うことを示す図である。It is a figure which shows performing character recognition using the feature pattern stored by clustering. データベースに、文字の特徴パターンをクラスタリングして格納する他の例を示す図である。It is a figure which shows the other example which clusters and stores the characteristic pattern of a character in a database. クラスタリングして格納された特徴パターンを用い、文字認識を行うことを示す図である。It is a figure which shows performing character recognition using the feature pattern stored by clustering.

符号の説明Explanation of symbols

10…ナンバープレート認識システム、20…カメラ、30…文字認識装置、32…認識処理部(マッチング処理部、特定処理部、文字認識部、認識部)、33…データベース、34…認識結果出力部(結果出力部)、100…ナンバープレート、H…高解像度辞書画像、I…文字画像、L…低解像度辞書画像(辞書画像)   DESCRIPTION OF SYMBOLS 10 ... License plate recognition system, 20 ... Camera, 30 ... Character recognition apparatus, 32 ... Recognition process part (Matching process part, Specific process part, Character recognition part, Recognition part), 33 ... Database, 34 ... Recognition result output part ( Result output unit), 100 ... license plate, H ... high resolution dictionary image, I ... character image, L ... low resolution dictionary image (dictionary image)

Claims (10)

複数の文字のそれぞれを所定の解像度で撮像したときの辞書画像と、前記複数の文字のそれぞれの特徴的な部分の形状を複数のグループに分けて格納したデータベースと、
外部から入力された文字画像と前記データベースに格納された前記特徴的な部分の形状とに基づき、前記文字画像にマッチする辞書画像を特定するマッチング処理部と、
前記マッチング処理部で特定された前記辞書画像に対し文字認識処理を施すことで、前記文字画像の文字を認識する認識処理部と、
認識された前記文字を認識結果として出力する結果出力部と、を備えることを特徴とする文字認識装置。
A dictionary image when each of the plurality of characters is imaged at a predetermined resolution, and a database storing the shape of each characteristic portion of the plurality of characters divided into a plurality of groups,
A matching processing unit that identifies a dictionary image that matches the character image based on the character image input from the outside and the shape of the characteristic portion stored in the database;
A recognition processing unit that recognizes characters in the character image by performing character recognition processing on the dictionary image specified by the matching processing unit;
And a result output unit that outputs the recognized character as a recognition result.
前記データベースは、複数の前記文字のそれぞれを前記辞書画像の解像度より高解像度で撮像したときの高解像度辞書画像を、前記辞書画像に関連付けて格納し、
前記認識処理部は、前記マッチング処理部で特定された前記辞書画像に関連付けられた前記高解像度辞書画像を前記データベースから呼び出し、当該高解像度辞書画像に対し文字認識処理を施すことで、前記文字画像の文字を認識することを特徴とする請求項1に記載の文字認識装置。
The database stores, in association with the dictionary image, a high-resolution dictionary image obtained by capturing each of the plurality of characters at a higher resolution than the resolution of the dictionary image,
The recognition processing unit calls the high-resolution dictionary image associated with the dictionary image specified by the matching processing unit from the database, and performs character recognition processing on the high-resolution dictionary image, whereby the character image The character recognition apparatus according to claim 1, wherein the character is recognized.
前記認識処理部は、前記辞書画像の充填率または周波数に基づき、前記辞書画像を対象として文字認識を行うか、前記高解像度辞書画像を対象として文字認識を行うかを選択することを特徴とする請求項2に記載の文字認識装置。   The recognition processing unit selects whether to perform character recognition for the dictionary image or character recognition for the high-resolution dictionary image based on the filling rate or frequency of the dictionary image. The character recognition device according to claim 2. 前記認識処理部は、前記辞書画像または前記高解像度辞書画像を2値化処理することで、前記文字画像の文字を認識することを特徴とする請求項1から3のいずれかに記載の文字認識装置。   The character recognition according to claim 1, wherein the recognition processing unit recognizes characters of the character image by binarizing the dictionary image or the high-resolution dictionary image. apparatus. 前記認識処理部は、前記辞書画像または前記高解像度辞書画像の輝度勾配ベクトルに基づき、前記文字画像の文字を認識することを特徴とする請求項1から3のいずれかに記載の文字認識装置。   The character recognition device according to claim 1, wherein the recognition processing unit recognizes a character of the character image based on a luminance gradient vector of the dictionary image or the high-resolution dictionary image. 前記認識処理部は、文字認識の信頼度に基づき、前記辞書画像または前記高解像度辞書画像を2値化処理して文字認識を行うか、前記辞書画像または前記高解像度辞書画像の輝度勾配ベクトルに基づいて文字認識を行うかを選択することを特徴とする請求項1から3のいずれかに記載の文字認識装置。   The recognition processing unit binarizes the dictionary image or the high-resolution dictionary image based on the reliability of character recognition to perform character recognition, or uses the brightness gradient vector of the dictionary image or the high-resolution dictionary image. 4. The character recognition device according to claim 1, wherein whether to perform character recognition is selected based on the selection. 複数の文字のそれぞれを所定の解像度で撮像したときの辞書画像、および複数の前記文字のそれぞれを前記辞書画像の解像度より高解像度で撮像したときの高解像度辞書画像を格納したデータベースと、
前記データベースに格納された前記辞書画像から、外部から入力された文字画像にマッチする前記辞書画像を特定する特定処理部と、
前記特定処理部で特定された前記辞書画像の条件に基づき、当該辞書画像または当該辞書画像に関連付けられた前記高解像度辞書画像を選択し、選択された前記辞書画像または前記高解像度辞書画像に対し文字認識処理を施すことで、前記文字画像の文字を認識する文字認識部と、
認識された前記文字を認識結果として出力する結果出力部と、
を備えることを特徴とする文字認識装置。
A database storing a dictionary image when each of a plurality of characters is captured at a predetermined resolution, and a high-resolution dictionary image when each of the plurality of characters is captured at a higher resolution than the resolution of the dictionary image;
A specific processing unit that identifies the dictionary image that matches a character image input from the outside, from the dictionary image stored in the database;
Based on the dictionary image condition specified by the specification processing unit, the dictionary image or the high-resolution dictionary image associated with the dictionary image is selected, and the selected dictionary image or the high-resolution dictionary image is selected. A character recognition unit that recognizes characters in the character image by performing character recognition processing;
A result output unit for outputting the recognized character as a recognition result;
A character recognition device comprising:
前記文字認識部は、前記特定処理部で特定された前記辞書画像の充填率または周波数に基づき、前記辞書画像または前記高解像度辞書画像を選択することを特徴とする請求項7に記載の文字認識装置。   The character recognition according to claim 7, wherein the character recognition unit selects the dictionary image or the high-resolution dictionary image based on a filling rate or a frequency of the dictionary image specified by the specification processing unit. apparatus. 通過する車両のナンバープレートを撮影するカメラと、
前記カメラで撮影した前記ナンバープレートの画像に基づき、前記ナンバープレートに記載された文字を認識する認識部と、
前記認識部で文字を認識するため、複数の文字の特徴パターンを複数にクラスタリングすることで生成されたグループの代表パターンが格納されたデータベースと、を備え、
前記認識部は、前記カメラで撮影した前記ナンバープレートの画像と、前記データベースに格納された前記代表パターンとに基づき、前記ナンバープレートに記載された文字を認識することを特徴とするナンバープレート認識システム。
A camera that shoots the license plate of the passing vehicle,
Based on the image of the license plate photographed by the camera, a recognition unit for recognizing characters written on the license plate,
A database storing representative patterns of groups generated by clustering a plurality of feature patterns of a plurality of characters in order to recognize characters by the recognition unit, and
The recognition unit recognizes characters described in the license plate based on an image of the license plate photographed by the camera and the representative pattern stored in the database. .
前記データベースは、前記各グループの代表パターンと、当該代表パターンが属するグループの特徴パターンとが関連付けて格納され、
前記認識部は、前記カメラで撮影した前記ナンバープレートの画像に対応する前記代表パターンを特定し、特定された前記代表パターンが属する前記グループの特徴パターンに基づき、前記ナンバープレートに記載された文字を認識することを特徴とする請求項9に記載のナンバープレート認識システム。
The database stores the representative pattern of each group in association with the feature pattern of the group to which the representative pattern belongs,
The recognizing unit identifies the representative pattern corresponding to the image of the license plate photographed by the camera, and based on the characteristic pattern of the group to which the identified representative pattern belongs, the character described on the license plate The license plate recognition system according to claim 9, wherein the license plate recognition system is recognized.
JP2003389550A 2003-11-19 2003-11-19 Character recognition device, license plate recognition system Expired - Lifetime JP4264332B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003389550A JP4264332B2 (en) 2003-11-19 2003-11-19 Character recognition device, license plate recognition system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003389550A JP4264332B2 (en) 2003-11-19 2003-11-19 Character recognition device, license plate recognition system

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2008125045A Division JP2008251029A (en) 2008-05-12 2008-05-12 Character recognition device and license plate recognition system

Publications (2)

Publication Number Publication Date
JP2005149395A true JP2005149395A (en) 2005-06-09
JP4264332B2 JP4264332B2 (en) 2009-05-13

Family

ID=34696261

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003389550A Expired - Lifetime JP4264332B2 (en) 2003-11-19 2003-11-19 Character recognition device, license plate recognition system

Country Status (1)

Country Link
JP (1) JP4264332B2 (en)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010108161A (en) * 2008-10-29 2010-05-13 Pioneer Electronic Corp Image processing apparatus and method, and computer program
CN104102909A (en) * 2014-07-23 2014-10-15 中科联合自动化科技无锡有限公司 Vehicle characteristic positioning and matching method based on multiple-visual information
WO2016068325A1 (en) * 2014-10-31 2016-05-06 オムロン株式会社 Character recognition device, character recognition method, and program
US9875532B2 (en) 2013-08-15 2018-01-23 Nec Corporation Information processing device that implements image processing, and image processing method
CN109447074A (en) * 2018-09-03 2019-03-08 中国平安人寿保险股份有限公司 A kind of licence plate recognition method and terminal device
JP2019168417A (en) * 2018-03-26 2019-10-03 株式会社デンソー Object recognizing device and object recognizing method

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010108161A (en) * 2008-10-29 2010-05-13 Pioneer Electronic Corp Image processing apparatus and method, and computer program
US9875532B2 (en) 2013-08-15 2018-01-23 Nec Corporation Information processing device that implements image processing, and image processing method
CN104102909A (en) * 2014-07-23 2014-10-15 中科联合自动化科技无锡有限公司 Vehicle characteristic positioning and matching method based on multiple-visual information
CN104102909B (en) * 2014-07-23 2017-03-15 中科联合自动化科技无锡有限公司 Vehicle characteristics positioning and matching process based on lenticular information
WO2016068325A1 (en) * 2014-10-31 2016-05-06 オムロン株式会社 Character recognition device, character recognition method, and program
JP2016091186A (en) * 2014-10-31 2016-05-23 オムロン株式会社 Character recognition apparatus, character recognition method, and program
US10049309B2 (en) 2014-10-31 2018-08-14 Omron Corporation Character recognition device, character recognition method and program
JP2019168417A (en) * 2018-03-26 2019-10-03 株式会社デンソー Object recognizing device and object recognizing method
JP7069927B2 (en) 2018-03-26 2022-05-18 株式会社デンソー Object recognition device and object recognition method
CN109447074A (en) * 2018-09-03 2019-03-08 中国平安人寿保险股份有限公司 A kind of licence plate recognition method and terminal device

Also Published As

Publication number Publication date
JP4264332B2 (en) 2009-05-13

Similar Documents

Publication Publication Date Title
KR102030628B1 (en) Recognizing method and system of vehicle license plate based convolutional neural network
Al-Ghaili et al. Vertical-edge-based car-license-plate detection method
CN112686812B (en) Bank card inclination correction detection method and device, readable storage medium and terminal
JP2008251029A (en) Character recognition device and license plate recognition system
Wang et al. An effective method for plate number recognition
US10275677B2 (en) Image processing apparatus, image processing method and program
JP2014232533A (en) System and method for ocr output verification
JP5706647B2 (en) Information processing apparatus and processing method thereof
AU2020211766B2 (en) Tyre sidewall imaging method
Shah et al. OCR-based chassis-number recognition using artificial neural networks
JP4264332B2 (en) Character recognition device, license plate recognition system
US6694059B1 (en) Robustness enhancement and evaluation of image information extraction
Siddique et al. Development of an automatic vehicle license plate detection and recognition system for Bangladesh
Chatbri et al. An application-independent and segmentation-free approach for spotting queries in document images
CN114972540A (en) Target positioning method and device, electronic equipment and storage medium
CN112070116B (en) Automatic artistic drawing classification system and method based on support vector machine
JP2005250786A (en) Image recognition method
WO2015178001A1 (en) Image matching system, image matching method, and recording medium storing program
JP4587698B2 (en) Character component extractor
KR101991461B1 (en) Character recognition system and method using vectorization of feature points
KR101937859B1 (en) System and Method for Searching Common Objects in 360-degree Images
JP2011018175A (en) Character recognition apparatus and character recognition method
CN111311696A (en) License plate authenticity detection method based on hyperspectral unmixing technology
JP4774200B2 (en) Character string area extractor
KR101312306B1 (en) Apparatus for recognizing signs, Method thereof, and Method for recognizing image

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060216

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080306

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080312

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080512

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080611

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080806

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080917

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081117

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090128

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090216

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120220

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4264332

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120220

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120220

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130220

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140220

Year of fee payment: 5

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

EXPY Cancellation because of completion of term