JP2017138674A - License number plate recognition device, and license number plate recognition system as well as license number plate recognition method - Google Patents

License number plate recognition device, and license number plate recognition system as well as license number plate recognition method Download PDF

Info

Publication number
JP2017138674A
JP2017138674A JP2016017385A JP2016017385A JP2017138674A JP 2017138674 A JP2017138674 A JP 2017138674A JP 2016017385 A JP2016017385 A JP 2016017385A JP 2016017385 A JP2016017385 A JP 2016017385A JP 2017138674 A JP2017138674 A JP 2017138674A
Authority
JP
Japan
Prior art keywords
license plate
character string
character
image
plate recognition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016017385A
Other languages
Japanese (ja)
Other versions
JP6709950B2 (en
Inventor
郁雄 渕上
Ikuo Fuchigami
郁雄 渕上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to JP2016017385A priority Critical patent/JP6709950B2/en
Priority to US15/742,375 priority patent/US10853680B2/en
Priority to PCT/JP2016/003183 priority patent/WO2017010058A1/en
Publication of JP2017138674A publication Critical patent/JP2017138674A/en
Application granted granted Critical
Publication of JP6709950B2 publication Critical patent/JP6709950B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Character Discrimination (AREA)

Abstract

PROBLEM TO BE SOLVED: To reduce wrong recognition of a character string in a license number plate image of a photographed vehicle and the like.SOLUTION: A character string in a license number plate image is composed a plurality of characters in which an arrangement order from 1 to x (where x is an integer equal to or more than 2) in accordance with a position in the image or a relative position among characters is set. A processor 21 of a license number plate recognition device 3 is configured to: calculate a similarity degree between the character string in the license number plate image and a plurality of reference images, respectively; about a reference character included in each of the plurality of reference images corresponding to one character or y (where y is an integer smaller than x and equal to or more than 2) characters standing in the arrangement order serving as an evaluation object in the character string, calculate an evaluation value including a sum of the similarity degree for each reference image in which the reference character is identical; and determine a candidate of at least one character capable of constituting the character string in the license number plate image on the basis of the evaluation value.SELECTED DRAWING: Figure 1

Description

本開示は、撮影された車両等のナンバープレート画像における文字列を認識するナンバープレート認識装置及びナンバープレート認識システム並びにナンバープレート認識方法に関する。   The present disclosure relates to a license plate recognition device, a license plate recognition system, and a license plate recognition method for recognizing a character string in a license plate image of a photographed vehicle or the like.

従来、セキュリティ環境の充実や、顧客管理などを目的として、道路や施設の出入口などに設置されたカメラで撮影された車両の画像からナンバープレートを読み取るための技術が普及している。例えば、幹線道路等に設置される自動車ナンバー自動読取装置では、所定方向に車道を走行する車両のナンバープレートを読み取ることが可能である。   2. Description of the Related Art Conventionally, a technique for reading a license plate from an image of a vehicle photographed by a camera installed at a road or facility entrance / exit for the purpose of enhancing the security environment and managing customers has been widespread. For example, an automobile number automatic reading device installed on a main road or the like can read a license plate of a vehicle traveling on a road in a predetermined direction.

一方、上記自動車ナンバー自動読取装置のように車両のナンバープレートの読み取りに特化した装置であっても、悪天候やカメラのレンズの汚れなどの撮影状況の変化により、明瞭な撮像画像が得られない場合がある。また、店舗や街頭などに設置された監視カメラでは、カメラの解像度や、撮影条件(撮像画像中のナンバープレートのサイズや、撮影角度等)によっては、必ずしもナンバープレートの認識に適した撮像画像が得られない場合がある。   On the other hand, even a device specialized for reading a license plate of a vehicle, such as the above-described auto number reading device, cannot obtain a clear captured image due to changes in shooting conditions such as bad weather or dirt on a camera lens. There is a case. Also, surveillance cameras installed in stores, streets, etc. may not always have a captured image suitable for license plate recognition, depending on the camera resolution and shooting conditions (number plate size, shooting angle, etc. in the captured image). It may not be obtained.

そこで、そのようなナンバープレートの認識に適さない撮像画像であっても、ナンバープレート画像における文字列の誤認識(読取ミス)を防止するための技術が開発されている。例えば、ナンバープレート画像における文字と、照合用の文字パターンとの相関値を算出し、その相関値が一定値以上となる場合にのみ文字を認識するようにした技術が知られている(特許文献1参照)。   Therefore, a technique for preventing erroneous recognition (reading mistake) of a character string in a license plate image has been developed even for such a captured image that is not suitable for license plate recognition. For example, a technique is known in which a correlation value between a character in a license plate image and a matching character pattern is calculated, and the character is recognized only when the correlation value is equal to or greater than a certain value (Patent Literature). 1).

また、カメラにより撮影した撮像パターンを、予め記憶された複数の辞書パターンと比較し、辞書パターンごとに類似度を算出し、予め記憶されている辞書パターンごとの出現頻度に基づきその類似度を補正した補正類似度を算出し、その補整類似度が最も高い辞書パターンを決定する技術が知られている(特許文献2参照)。   Also, the imaging pattern captured by the camera is compared with a plurality of dictionary patterns stored in advance, the similarity is calculated for each dictionary pattern, and the similarity is corrected based on the appearance frequency for each dictionary pattern stored in advance. A technique for calculating the corrected similarity and determining a dictionary pattern having the highest correction similarity is known (see Patent Document 2).

特開昭64−74700号公報JP-A 64-74700 特開平10−63786号公報Japanese Patent Laid-Open No. 10-63786

ところで、例えば、日本国内で車両のナンバープレートとして用いられる自動車登録番号標には、第4桁のアラビア数字および中点「・」(3桁以下の数となる場合に空白になる上位の桁を埋める記号)から構成される一連指定番号が表示されている。上記特許文献1、2に記載された従来技術により、そのような一連指定番号を撮像画像から認識する場合、予め準備された4桁の番号から構成される複数の照合用のパターンとの類似度を算出し、その類似度が最大の値をとる照合用のパターンを一連指定番号として推定することになる。   By the way, for example, in the automobile registration number mark used as a vehicle license plate in Japan, the fourth digit Arabic numeral and the middle dot “・” (the upper digit that is blank when the number is three digits or less) A series designation number consisting of symbols to be filled in is displayed. When such a series of designated numbers are recognized from a captured image according to the conventional techniques described in Patent Documents 1 and 2 above, the degree of similarity with a plurality of matching patterns made up of four-digit numbers prepared in advance And a pattern for matching having the maximum similarity is estimated as a series designated number.

しかしながら、本願発明者らは、鋭意検討した結果、ナンバープレートに表示された上述の一連指定番号のような文字列(複数桁の数字や一連の文字など)を認識する場合には、その文字列全体と照合用のパターンとの類似度を評価するだけでは、文字列を構成する個々の数字や文字と照合用のパターンに含まれる個々の数字や文字との間の類似性が適切に反映されないという問題があり、そのような個々の数字や文字に注目することにより、ナンバープレートに表示された文字列の誤認識を効果的に低減可能であることを見出した。   However, as a result of intensive studies, the inventors of the present application have recognized a character string (such as a multi-digit number or a series of characters) such as the above-described series designation number displayed on the license plate. Simply evaluating the similarity between the whole and the pattern for matching does not properly reflect the similarity between the individual numbers or characters that make up the string and the individual numbers or characters included in the pattern for matching. It has been found that the misrecognition of character strings displayed on the license plate can be effectively reduced by paying attention to such individual numbers and characters.

本開示は、このような従来技術の課題を鑑みて案出されたものであり、撮影された車両等のナンバープレート画像における文字列の誤認識を低減可能なナンバープレート認識装置及びナンバープレート認識システム並びにナンバープレート認識方法を提供することを主目的とする。   The present disclosure has been devised in view of the problems of the prior art, and a license plate recognition device and a license plate recognition system capable of reducing erroneous recognition of a character string in a license plate image of a photographed vehicle or the like. The main object is to provide a license plate recognition method.

本開示のナンバープレート認識装置は、撮影されたナンバープレート画像における文字列を認識する処理を実行するプロセッサを備えたナンバープレート認識装置であって、前記文字列は、前記ナンバープレート画像中の位置または文字間の相対位置に応じて1からx(ただし、xは2以上の整数)までの配置順位が設定された複数の文字から構成され、前記プロセッサは、前記ナンバープレート画像中の前記文字列と、予め準備された複数の基準画像との類似度をそれぞれ算出し、前記文字列において評価対象となる配置順位にある1またはy(ただし、yはxよりも小さい2以上の整数)個の文字に対応する前記複数の基準画像にそれぞれ含まれる参照用文字について、当該参照用文字が同一となる前記基準画像ごとに前記類似度の和を含む評価値を算出し、前記評価値に基づき、前記ナンバープレート画像における文字列を構成し得る少なくとも1つの文字の候補を決定することを特徴とする。   The license plate recognition device of the present disclosure is a license plate recognition device including a processor that executes processing for recognizing a character string in a captured license plate image, and the character string is a position in the license plate image or It is composed of a plurality of characters set in an arrangement order from 1 to x (where x is an integer of 2 or more) according to the relative position between characters, and the processor includes the character string in the license plate image 1 or y (where y is an integer of 2 or more smaller than x) in the arrangement order to be evaluated in the character string by calculating the similarity to each of a plurality of reference images prepared in advance For the reference characters included in each of the plurality of standard images corresponding to the same, the sum of the similarities is calculated for each standard image in which the reference characters are the same. Calculating a zero-valued value, based on said evaluation value, and determining the candidate of the license plate of the at least one may constitute a character string in an image character.

本開示によれば、撮影された車両等のナンバープレート画像における文字列の誤認識を低減することが可能となる。   According to the present disclosure, it is possible to reduce erroneous recognition of a character string in a license plate image of a photographed vehicle or the like.

第1実施形態に係るナンバープレート認識システムの概略を示す構成図The block diagram which shows the outline of the license plate recognition system which concerns on 1st Embodiment 図1に示したナンバープレート認識装置のハードウェア構成を示すブロック図The block diagram which shows the hardware constitutions of the license plate recognition apparatus shown in FIG. 図1に示したナンバープレート認識装置の機能ブロック図Functional block diagram of the license plate recognition device shown in FIG. 図2中の類似度演算部による演算結果の一例を示す図The figure which shows an example of the calculation result by the similarity calculation part in FIG. 図2中の類似評価部による相関値の上位候補の抽出例を示す図The figure which shows the example of extraction of the top candidate of the correlation value by the similarity evaluation part in FIG. 図2中の類似評価部による各桁の評価値算出結果の一例を示す図The figure which shows an example of the evaluation value calculation result of each digit by the similarity evaluation part in FIG. 図2中の類似評価部による候補番号の抽出方法の変形例を示す説明図Explanatory drawing which shows the modification of the extraction method of the candidate number by the similarity evaluation part in FIG. 図1に示したナンバープレート認識装置の処理の流れを示すフロー図Flow chart showing the flow of processing of the license plate recognition device shown in FIG. 図8中のステップST108の詳細を示すフロー図FIG. 8 is a flowchart showing details of step ST108 in FIG. 第2実施形態に係るナンバープレート認識装置の類似度演算部による演算結果の一例(上位2桁)を示す図The figure which shows an example (higher 2 digits) of the calculation result by the similarity calculation part of the license plate recognition apparatus which concerns on 2nd Embodiment. 第2実施形態に係るナンバープレート認識装置の類似度演算部による演算結果の一例(下位2桁)を示す図The figure which shows an example (lower 2 digits) of the calculation result by the similarity calculation part of the license plate recognition apparatus which concerns on 2nd Embodiment. 第2実施形態に係るナンバープレート認識装置の類似評価部による各桁の評価値算出結果の一例を示す図The figure which shows an example of the evaluation value calculation result of each digit by the similarity evaluation part of the license plate recognition apparatus concerning 2nd Embodiment

上記課題を解決するためになされた第1の発明は、撮影されたナンバープレート画像における文字列を認識する処理を実行するプロセッサを備えたナンバープレート認識装置であって、前記文字列は、前記ナンバープレート画像中の位置または文字間の相対位置に応じて1からx(ただし、xは2以上の整数)までの配置順位が設定された複数の文字から構成され、前記プロセッサは、前記ナンバープレート画像中の前記文字列と、予め準備された複数の基準画像との類似度をそれぞれ算出し、前記文字列において評価対象となる配置順位にある1またはy(ただし、yはxよりも小さい2以上の整数)個の文字に対応する前記複数の基準画像にそれぞれ含まれる参照用文字について、当該参照用文字が同一となる前記基準画像ごとに前記類似度の和を含む評価値を算出し、前記評価値に基づき、前記ナンバープレート画像における文字列を構成し得る少なくとも1つの文字の候補を決定することを特徴とする。   A first invention made to solve the above-described problem is a license plate recognition device including a processor for executing processing for recognizing a character string in a photographed license plate image, wherein the character string is the number It is composed of a plurality of characters set in an arrangement order from 1 to x (where x is an integer of 2 or more) according to the position in the plate image or the relative position between the characters, and the processor includes the license plate image The similarity between the character string in the image and a plurality of reference images prepared in advance is calculated, and 1 or y in the arrangement order to be evaluated in the character string (where y is 2 or more smaller than x) For each of the reference images having the same reference character, the reference characters respectively included in the plurality of reference images corresponding to the number of characters. Calculating an evaluation value comprising the sum of degrees, based on said evaluation value, and determining the candidate of the license plate of the at least one may constitute a character string in an image character.

この第1の発明に係るナンバープレート認識装置によれば、ナンバープレート画像中の文字列において評価対象となる配置順位にある1またはy個の文字に対応する複数の基準画像にそれぞれ含まれる参照用文字について、当該参照用文字が同一となる基準画像ごとに類似度の和を含む評価値を算出し、その評価値に基づきナンバープレート画像における文字列を構成し得る少なくとも1つの文字の候補を決定するため、撮影された車両等のナンバープレート画像における文字列の誤認識を低減可能となる。   According to the license plate recognition apparatus according to the first aspect of the present invention, the reference images respectively included in the plurality of reference images corresponding to one or y characters in the arrangement order to be evaluated in the character string in the license plate image. For a character, an evaluation value including the sum of similarities is calculated for each reference image with the same reference character, and at least one character candidate that can form a character string in the license plate image is determined based on the evaluation value Therefore, it is possible to reduce erroneous recognition of character strings in a license plate image of a photographed vehicle or the like.

また、第2の発明では、上記第1の発明において、前記プロセッサは、複数の前記類似度のうちより大きいものから所定の閾値以内の数までの類似度のみを用いて前記評価値を算出することを特徴とする。   According to a second aspect, in the first aspect, the processor calculates the evaluation value using only similarities from a larger one of the plurality of similarities to a number within a predetermined threshold. It is characterized by that.

この第2の発明に係るナンバープレート認識装置によれば、評価値の算出において、類似度が比較的低い基準画像を排除することにより、より適切な評価値を取得することが可能となる。   According to the license plate recognition apparatus according to the second aspect of the present invention, it is possible to obtain a more appropriate evaluation value by eliminating the reference image having a relatively low similarity in calculating the evaluation value.

また、第3の発明では、上記第1または第2の発明において、前記y個の文字は、互いに連続する前記配置順位にあることを特徴とする。   According to a third aspect of the present invention, in the first or second aspect of the invention, the y characters are in the arrangement order that is continuous with each other.

この第3の発明に係るナンバープレート認識装置によれば、隣接配置された複数の参照用文字が同一となる基準画像ごとに類似度の和を含む評価値を算出することにより、評価値の算出処理が容易となる。   According to the license plate recognition apparatus according to the third aspect of the present invention, the evaluation value is calculated by calculating the evaluation value including the sum of the similarities for each reference image in which a plurality of adjacent reference characters are the same. Processing becomes easy.

また、第4の発明では、上記第1から第3の発明いずれかにおいて、前記参照用文字は、1個の文字からなることを特徴とする。   According to a fourth aspect, in any one of the first to third aspects, the reference character is a single character.

この第4の発明に係るナンバープレート認識装置によれば、文字列に含まれる1個の文字に注目することにより、個々の文字の類似性が適切に評価され、より適切な評価値を取得することが可能となる。   According to the license plate recognition apparatus according to the fourth aspect of the invention, by focusing on one character included in the character string, the similarity of each character is appropriately evaluated, and a more appropriate evaluation value is acquired. It becomes possible.

また、第5の発明では、上記第1の発明において、前記プロセッサは、全ての前記配置順位に関し、前記参照用文字が同一となる前記基準画像ごとに前記類似度の和を含む評価値を算出することを特徴とする。   In a fifth aspect based on the first aspect, the processor calculates an evaluation value including the similarity sum for each reference image having the same reference character for all the arrangement orders. It is characterized by doing.

この第5の発明に係るナンバープレート認識装置によれば、全ての配置順位に関して評価値が算出されるため、ナンバープレート画像における文字列を構成し得る全ての文字の候補を適切に決定することが可能となる。   According to the license plate recognition apparatus according to the fifth aspect of the present invention, since the evaluation values are calculated for all the arrangement orders, it is possible to appropriately determine all the character candidates that can constitute the character string in the license plate image. It becomes possible.

また、第6の発明では、上記第1から第5の発明いずれかにおいて、前記類似度は、前記ナンバープレート画像中の前記文字列と、前記基準画像との相関係数であることを特徴とする。   According to a sixth invention, in any one of the first to fifth inventions, the similarity is a correlation coefficient between the character string in the license plate image and the reference image. To do.

この第6の発明に係るナンバープレート認識装置によれば、類似度として相関係数を用いることにより、簡易な処理により適切な評価値を取得することが可能となる。   According to the license plate recognition apparatus of the sixth aspect of the invention, it is possible to acquire an appropriate evaluation value by a simple process by using the correlation coefficient as the similarity.

また、第7の発明は、上記第1から第6の発明いずれかにおいて、前記プロセッサは、前記類似度に基づき、前記ナンバープレート画像中の前記文字列の候補を決定し、前記少なくとも1つの文字の候補および前記文字列の候補を表示する表示装置を更に備えたことを特徴とする。   In a seventh aspect based on any one of the first to sixth aspects, the processor determines a character string candidate in the license plate image based on the similarity, and the at least one character And a display device for displaying the character string candidates.

この第7の発明に係るナンバープレート認識装置によれば、ユーザは、評価値に基づく少なくとも1つの文字の候補および類似度に基づく文字列の候補を参照して、ナンバープレート画像における文字列を容易に推定することが可能となる。   According to the license plate recognition apparatus of the seventh aspect of the invention, the user can easily search for a character string in the license plate image by referring to at least one character candidate based on the evaluation value and a character string candidate based on the similarity. Can be estimated.

また、第8の発明は、第1から第7の発明いずれかに係るナンバープレート認識装置と、前記ナンバープレート画像を撮影する撮像装置とを備えたことを特徴とする。   According to an eighth aspect of the present invention, there is provided a license plate recognition apparatus according to any one of the first to seventh aspects of the present invention, and an imaging apparatus that captures the number plate image.

この第8の発明に係るナンバープレート認識システムによれば、撮影された車両等のナンバープレート画像における文字列の誤認識を低減可能となる。   According to the license plate recognition system of the eighth aspect of the invention, it is possible to reduce erroneous recognition of character strings in a license plate image of a photographed vehicle or the like.

また、第9の発明は、撮影された車両のナンバープレート画像における文字列を認識する処理を実行するナンバープレート認識装置によるナンバープレート認識方法であって、前記文字列は、前記ナンバープレート画像中の位置または文字間の相対位置に応じて1からx(ただし、xは2以上の整数)までの配置順位が設定された複数の文字から構成され、前記ナンバープレート画像中の前記文字列と、予め準備された基準画像との類似度を算出し、前記文字列において評価対象となる配置順位にある1またはy(ただし、yはxよりも小さい2以上の整数)個の文字に対応する前記複数の基準画像にそれぞれ含まれる参照用文字について、当該参照用文字が同一となる前記基準画像ごとに前記類似度の和を含む評価値を算出し、前記評価値に基づき、前記ナンバープレート画像における文字列を構成し得る少なくとも1つの文字の候補を決定することを特徴とする。   The ninth invention is a license plate recognition method by a license plate recognition device for executing processing for recognizing a character string in a license plate image of a photographed vehicle, wherein the character string is included in the license plate image. It is composed of a plurality of characters set in an arrangement order from 1 to x (where x is an integer of 2 or more) according to the position or relative position between characters, The degree of similarity with the prepared reference image is calculated, and the plurality of characters corresponding to one or y characters (where y is an integer of 2 or more smaller than x) in the arrangement order to be evaluated in the character string For each reference character included in each of the reference images, an evaluation value that includes the sum of the similarities is calculated for each of the reference images that have the same reference character, and the evaluation value Based, and determining the candidate of the license plate image at least one may constitute a string of characters.

この第9の発明に係るナンバープレート認識方法によれば、撮影された車両等のナンバープレート画像における文字列の誤認識を低減可能となる。   According to the license plate recognition method of the ninth aspect, it is possible to reduce erroneous recognition of a character string in a license plate image of a photographed vehicle or the like.

以下、本開示の実施の形態について図面を参照しながら説明する。   Hereinafter, embodiments of the present disclosure will be described with reference to the drawings.

(第1実施形態)
図1は、本開示の第1実施形態に係るナンバープレート認識システム1の概略を示す構成図であり、図2は、図1に示したナンバープレート認識装置3のハードウェア構成を示すブロック図である。
(First embodiment)
FIG. 1 is a configuration diagram illustrating an outline of a license plate recognition system 1 according to the first embodiment of the present disclosure, and FIG. 2 is a block diagram illustrating a hardware configuration of the license plate recognition device 3 illustrated in FIG. 1. is there.

ナンバープレート認識システム1は、車両等のナンバープレートを撮影して得られたナンバープレート画像における文字列を認識するためのシステムである。ナンバープレート認識システム1は、ナンバープレートを含む車両等を撮像する撮像装置2と、この撮像装置2によって取得されたナンバープレート画像における文字列の認識処理を実行するナンバープレート認識装置3と、ナンバープレート認識装置3の処理に関わる各種データを記憶する外部記憶装置4と、撮像装置2により撮像されたナンバープレート画像や、ナンバープレート認識装置3の処理結果等を表示する表示装置5とを備える。   The license plate recognition system 1 is a system for recognizing a character string in a license plate image obtained by photographing a license plate of a vehicle or the like. The license plate recognition system 1 includes an imaging device 2 that captures a vehicle or the like including a license plate, a license plate recognition device 3 that performs character string recognition processing on a license plate image acquired by the imaging device 2, and a license plate. An external storage device 4 that stores various data related to processing of the recognition device 3 and a display device 5 that displays a license plate image captured by the imaging device 2, a processing result of the license plate recognition device 3, and the like are provided.

ここでは、ナンバープレートとして、日本国内で使用される自動車登録番号標を例として説明する。自動車登録番号標には、ナンバープレート認識装置3による認識処理の対象となる文字列として一連指定番号が表示されている。この一連指定番号は、主として上位2桁および下位2桁の間にハイフン「-」が挿入された4桁のアラビア数字から構成される。また、一連指定番号が3桁以下の数となる場合には、その上位の桁に「0」(または空白)の代わりに中点「・」が表示される(ここでは、中点「・」は数字として扱う。)。   Here, as a license plate, an automobile registration number mark used in Japan will be described as an example. In the automobile registration number mark, a series of designated numbers is displayed as a character string to be recognized by the license plate recognition device 3. This series designation number is mainly composed of a 4-digit Arabic numeral in which a hyphen “-” is inserted between the upper 2 digits and the lower 2 digits. When the series designation number is a number of 3 digits or less, a middle point “·” is displayed in place of “0” (or a blank) in the upper digit (in this case, the middle point “·”). Is treated as a number.)

なお、ナンバープレート認識システム1で認識されるナンバープレート画像における文字列は、文字(特に、数字)から構成されることが好ましいが、厳密に文字(数字を含む)に限定されるものではなく、記号や簡易な図形を含むものであってもよい。また、そのような文字列の文字数は、4個(ここでは、4桁)に限定されるものではなく、少なくとも複数であればよい。さらに、そのような文字列における文字は、複数桁の数字のように一列に配置されるものに限定されるものではなく、少なくとも文字群を構成し、ナンバープレート画像中の位置または文字間の相対位置に応じて実質的に配置順位を設定可能なものであればよい。   The character string in the license plate image recognized by the license plate recognition system 1 is preferably composed of characters (particularly numbers), but is not strictly limited to characters (including numbers). It may include symbols and simple figures. Further, the number of characters in such a character string is not limited to four (here, four digits), and may be at least plural. Further, the characters in such a character string are not limited to those arranged in a single line such as a multi-digit number, and constitute at least a character group, relative to the position in the license plate image or between the characters. Any arrangement can be used as long as the arrangement order can be substantially set according to the position.

撮像装置2は、CCD等のイメージセンサを備えた公知のデジタルスチルカメラや、デジタルビデオカメラから構成され、ナンバープレートを備えた車両等を撮像することにより、ナンバープレート画像を取得する。ナンバープレート画像は、主要な被写体としてナンバープレートを含む撮像画像であるが、通常はナンバープレート以外の車体や、周辺の物体等が含まれる。撮像装置2としては、例えば、道路や施設の出入口などに設置された監視カメラや、車両等に搭載される車載カメラなどを用いることができる。撮像装置2で撮像されたナンバープレート画像は、ナンバープレート認識装置3に順次送られることにより、表示装置5に表示されるとともに、外部記憶装置4に記憶される。また、ナンバープレート画像は、ナンバープレート認識装置3に直接送られずに撮像装置2内のメモリに一旦記憶される構成であってもよい。   The imaging device 2 is composed of a known digital still camera equipped with an image sensor such as a CCD or a digital video camera, and acquires a license plate image by imaging a vehicle or the like equipped with a license plate. The license plate image is a captured image including a license plate as a main subject, but usually includes a vehicle body other than the license plate, surrounding objects, and the like. As the imaging device 2, for example, a monitoring camera installed at a road or an entrance of a facility, an in-vehicle camera mounted on a vehicle, or the like can be used. The license plate images picked up by the image pickup device 2 are sequentially sent to the license plate recognition device 3, thereby being displayed on the display device 5 and stored in the external storage device 4. Further, the license plate image may be temporarily stored in the memory in the imaging device 2 without being sent directly to the license plate recognition device 3.

ナンバープレート認識装置3は、公知のハードウェアを備えたPC(Personal Computer)である。図2に示すように、ナンバープレート認識装置3では、所定の制御プログラムに基づきナンバープレート画像における文字列を認識する処理を統括的に実行するプロセッサ21、このプロセッサ21のワークエリア等として機能する揮発性メモリであるRAM(Random Access Memory)22、プロセッサ21が実行する制御プログラムやデータを格納する不揮発性メモリであるROM(Read Only Memory)23が、それぞれ入出力バス25に接続されている。また、ナンバープレート認識装置3には、周辺機器として、キーボード及びマウス等の入力デバイスである入力装置24、液晶等のモニタからなる表示装置5、ならびにHDD(Hard Disk Drive)やフラッシュメモリ等のストレージである外部記憶装置4などが接続されている。なお、後述する図3の機能ブロック図において、ナンバープレート認識装置3の各部の機能は、主としてプロセッサ21が制御プログラムを実行することによって実現可能である。   The license plate recognition device 3 is a PC (Personal Computer) equipped with known hardware. As shown in FIG. 2, in the license plate recognition device 3, a processor 21 that comprehensively executes processing for recognizing a character string in a license plate image based on a predetermined control program, and a volatilization functioning as a work area of the processor 21. A random access memory (RAM) 22 and a read only memory (ROM) 23 that stores a control program executed by the processor 21 and data are connected to an input / output bus 25. In addition, the license plate recognition device 3 includes peripheral devices such as an input device 24 such as a keyboard and a mouse, a display device 5 including a monitor such as a liquid crystal, and a storage such as an HDD (Hard Disk Drive) and a flash memory. The external storage device 4 is connected. In the functional block diagram of FIG. 3 to be described later, the function of each part of the license plate recognition device 3 can be realized mainly by the processor 21 executing the control program.

ナンバープレート認識装置3と、撮像装置2、外部記憶装置4、及び表示装置5との接続形態は特に限定されるものではなく、例えば、公知の通信ケーブルによって直接接続してもよいし、LAN(Local Area Network)などの有線もしくは無線通信を介したネットワーク接続の形態でもよい。また、ナンバープレート認識装置3は、PCに限らず、同様の機能を有するサーバや、デジタルカメラ等として実現することもできる。   The connection form of the license plate recognition device 3, the imaging device 2, the external storage device 4, and the display device 5 is not particularly limited. For example, the license plate recognition device 3 may be directly connected by a known communication cable, or LAN ( A network connection form such as a local area network) via wired or wireless communication may be used. The license plate recognition device 3 is not limited to a PC, and can also be realized as a server having the same function, a digital camera, or the like.

外部記憶装置4には、撮像装置2で撮像されたナンバープレート画像とともに、認識対象となるナンバープレートの文字列を構成し得る個々の文字(以下、「参照用文字」という。)の画像データが記憶されている。本実施形態では、基準画像には、参照用文字の画像データとして、一連指定番号を構成する全てのアラビア数字(ここでは、「1」−「9」)および中点「・」の画像データが含まれる。   In the external storage device 4, together with the license plate image captured by the imaging device 2, image data of individual characters (hereinafter referred to as “reference characters”) that can form a character string of a license plate to be recognized. It is remembered. In the present embodiment, the reference image includes image data of all the Arabic numerals (here, “1” to “9”) and the midpoint “•” constituting the series designation number as the image data of the reference character. included.

図3は、図1に示したナンバープレート認識装置3の機能ブロック図であり、図4は、図2中の類似度演算部36による演算結果の一例を示す図であり、図5および図6は、それぞれ図2中の類似評価部37による相関値の上位候補の抽出例を示す図および各桁の評価値算出結果の一例を示す図であり、図7は類似評価部37による候補番号の抽出方法の変形例を示す説明図である。図7では、各桁に関し、縦軸に評価値、横軸に数字がそれぞれ示されている。   3 is a functional block diagram of the license plate recognition device 3 shown in FIG. 1, and FIG. 4 is a diagram showing an example of a calculation result by the similarity calculation unit 36 in FIG. 2, and FIG. 5 and FIG. FIG. 7 is a diagram showing an example of extraction of higher candidates for correlation values by the similarity evaluation unit 37 in FIG. 2 and a diagram showing an example of the evaluation value calculation result of each digit. FIG. It is explanatory drawing which shows the modification of an extraction method. In FIG. 7, for each digit, an evaluation value is shown on the vertical axis and a number is shown on the horizontal axis.

図3に示すナンバープレート認識装置3において、基準画像生成部31は、外部記憶装置4に記憶された参照用文字の画像を取得し、それら参照用文字の画像を適宜組み合わせることにより、認識対象となるナンバープレートに表示され得る全ての文字列の基準画像を順次生成する。図3では、基準画像として第4桁の文字列「5775」(より厳密には、上位2桁および下位2桁の間のハイフン「-」が挿入されている。以下同様。)が生成された場合を示しているが、実際には、一連指定番号(認識対象の文字列)を構成する「・・・1」〜「9999」までの9999通りの基準画像が順次生成される。   In the license plate recognition device 3 shown in FIG. 3, the standard image generation unit 31 obtains an image of reference characters stored in the external storage device 4, and appropriately combines these reference character images to obtain recognition objects. A reference image of all character strings that can be displayed on the license plate is sequentially generated. In FIG. 3, a fourth digit character string “5775” (more precisely, a hyphen “-” between the upper two digits and the lower two digits is inserted. The same applies hereinafter) is generated as the reference image. In this case, in practice, 9999 reference images from “... 1” to “9999” constituting a series designation number (a character string to be recognized) are sequentially generated.

また、射影変換行列取得部32は、外部記憶装置4に記憶された評価対象のナンバープレート画像を取得し、その画像におけるナンバープレートのコーナー部(四隅)を検出することにより、それら4点の座標から平面射影変換行列を算出する。射影変換処理部33は、その平面射影変換行列を用いて、基準画像生成部31で生成された基準画像を順次射影変換する。これにより、撮像画像のナンバープレートと同様に変形した基準画像(以下、「変換画像」という。)が得られる。画像劣化処理部34は、変換画像のダウンサンプリングや、ぼかし処理等の公知の画像処理による模擬的な劣化処理を実行することにより、変換画像を劣化させた画像(以下、「劣化画像」という。)を順次生成する。   Further, the projective transformation matrix acquisition unit 32 acquires the license plate image to be evaluated stored in the external storage device 4 and detects the corners (four corners) of the license plate in the image, whereby the coordinates of these four points are obtained. The plane projection transformation matrix is calculated from The projective conversion processing unit 33 sequentially performs projective conversion on the reference image generated by the reference image generating unit 31 using the planar projective conversion matrix. Thereby, a reference image (hereinafter referred to as “converted image”) that is deformed in the same manner as the license plate of the captured image is obtained. The image deterioration processing unit 34 performs simulated deterioration processing by known image processing such as down-sampling of the converted image and blurring processing (hereinafter referred to as “degraded image”). ) In sequence.

類似度演算部36は、外部記憶装置4に記憶された評価対象のナンバープレート画像を取得し、その画像中の文字列について、各劣化画像との類似度を順次算出する。本実施形態では、画像間の類似性の高さを示す類似度として、以下のような画像相関係数(以下、「相関値」という。)を用いる。   The similarity calculation unit 36 acquires the license plate image to be evaluated stored in the external storage device 4, and sequentially calculates the similarity between each character string in the image and each deteriorated image. In the present embodiment, the following image correlation coefficient (hereinafter referred to as “correlation value”) is used as the similarity indicating the degree of similarity between images.

Figure 2017138674
Figure 2017138674

類似度演算部36による類似度の演算処理結果として、図4に示すように、「・・・1」〜「9999」までの一連指定番号の各々に対する相関値が求められる。それらの相関値は、表示装置5に表示されるとともに、外部記憶装置4に記憶される。   As a result of the similarity calculation processing performed by the similarity calculation unit 36, as shown in FIG. 4, a correlation value for each of the series designation numbers “... 1” to “9999” is obtained. These correlation values are displayed on the display device 5 and stored in the external storage device 4.

類似評価部37は、図4に示した一連指定番号の各々に対する相関値に基づき、図5に示すように、相関値の大きさの順序が閾値(ここでは、上位80個)以内となる一連指定番号を抽出する。図5では、相関値が最大となる一連指定番号「5575」から相関値の大きさが80番目となる一連指定番号「5025」までが抽出された例が示されている。なお、類似評価部37は、上述のように所定数(ここでは、80個)の一連指定番号を抽出する代わりに、相関値の大きさが所定の閾値以上の値となる一連指定番号を抽出する構成であってもよい。   Based on the correlation value for each of the series designation numbers shown in FIG. 4, the similarity evaluation unit 37 is a series in which the order of the correlation values is within a threshold value (here, the top 80) as shown in FIG. Extract the specified number. FIG. 5 shows an example in which a series designation number “5025” in which the correlation value is 80th is extracted from a series designation number “5575” in which the correlation value is maximum. Note that, instead of extracting a predetermined number (here, 80) of serial designation numbers as described above, the similarity evaluation unit 37 extracts serial designation numbers whose correlation values are equal to or greater than a predetermined threshold value. It may be configured to.

また、類似評価部37は、抽出した一連指定番号において評価対象となる各桁(配置順位)の数字について、当該数字(ここでは、1つの数字)が同一となる基準画像における一連指定番号の類似度の和を求める。さらに、類似評価部37は、その類似度の和を一連指定番号の抽出数で除した値を評価値として求める。より詳細には、類似評価部37は、各桁(ここでは、第1桁−第4桁)に関し、各数字(「1」−「9」及び「・」を含む10個の数字)についてそれぞれ一連指定番号の類似度(すなわち、第4桁の数字の類似度)の和を求め、その和を80で除した値を評価値とする。   In addition, the similarity evaluation unit 37, for each digit (arrangement order) to be evaluated in the extracted series designation number, the similarity of the series designation number in the reference image in which the number (here, one number) is the same. Find the sum of degrees. Further, the similarity evaluation unit 37 obtains a value obtained by dividing the sum of the similarities by the number of extractions of the series designation number as an evaluation value. More specifically, the similarity evaluation unit 37 relates to each digit (here, the first digit—the fourth digit) for each number (10 numbers including “1”-“9” and “•”). The sum of the similarities of the series designation numbers (that is, the similarity of the fourth digit number) is obtained, and a value obtained by dividing the sum by 80 is set as the evaluation value.

例えば、類似評価部37は、一連指定番号における第4桁(図5中の符号40で示す)の数字「5」についての評価値を求める場合には、一連指定番号「5575」の相関値0.3993、一連指定番号「5725」の相関値0.3575、一連指定番号「5715」の相関値0.3537、一連指定番号「5375」の相関値0.3534、・・・・、一連指定番号「5175」の相関値0.3007、一連指定番号「5777」の相関値0.3009、及び一連指定番号「5025」の相関値0.2985の和を80で除した値を評価値とする。   For example, when the similarity evaluation unit 37 obtains an evaluation value for the number “5” of the fourth digit (indicated by reference numeral 40 in FIG. 5) in the series designation number, the correlation value 0.3993 of the series designation number “5575” is obtained. , Correlation value 0.3575 of series designation number “5725”, correlation value 0.3537 of series designation number “5715”, correlation value 0.3534 of series designation number “5375”,..., Correlation value 0.3007 of series designation number “5175”, A value obtained by dividing the sum of the correlation value 0.3009 of the series designation number “5777” and the correlation value 0.2985 of the series designation number “5025” by 80 is used as the evaluation value.

このようにして類似評価部37は、図6に示すように、第1桁−第4桁の各数字「0」−「9」、「・」に対する評価値をそれぞれ求めることができる。また、類似評価部37は、図6中の各桁の評価値に関して最大値をとる数字を、ナンバープレート画像における文字列を構成し得る文字の候補(第1候補)として抽出(決定)する。図6の例では、第4桁では数字「5」が最大の評価値となり、第3桁では数字「7」が最大の評価値となり、第2桁では数字「7」が最大の評価値となり、第1桁では数字「5」が最大の評価値となる。これにより、類似評価部37は、ナンバープレート画像中の文字列の第1の候補番号として一連指定番号「5775」を決定し、それを表示装置5に出力するとともに、外部記憶装置4に記憶する。   In this way, the similarity evaluation unit 37 can obtain evaluation values for the numbers “0” to “9” and “•” of the first digit to the fourth digit, respectively, as shown in FIG. Further, the similarity evaluation unit 37 extracts (determines) the number that takes the maximum value for the evaluation value of each digit in FIG. 6 as a character candidate (first candidate) that can form a character string in the license plate image. In the example of FIG. 6, the number “5” is the maximum evaluation value in the fourth digit, the number “7” is the maximum evaluation value in the third digit, and the number “7” is the maximum evaluation value in the second digit. In the first digit, the number “5” is the maximum evaluation value. Thereby, the similarity evaluation unit 37 determines the series designation number “5775” as the first candidate number of the character string in the license plate image, outputs it to the display device 5 and stores it in the external storage device 4. .

なお、本実施形態では、第1の候補番号のみを求める例を示したが、類似評価部37は、例えば、第1の候補番号の評価値と他の評価値との差を考慮して、第2の候補番号以下の複数の候補番号を決定することができる。類似評価部37は、各桁における各数字の評価値に基づき、一連指定番号「5775」の各桁の評価値との差が最も小さい1つの数字を第2の候補番号を構成する数字として決定することができる。より詳細には、図7の例では、第4桁における最も高い評価値(0.135)を有する「5」と2番目に高い評価値(0.055)を有する「9」との評価値の差(0.080)が、他の桁における同様の評価値の差(例えば、第3桁における「7」と「3」の評価値の差(0.085)、第2桁における「7」と「2」の評価値の差(0.088)、第1桁における「5」と「3」の評価値の差(0.239))よりも小さい。そこで、類似評価部37は、その第4桁の「9」を一連指定番号「5775」において対応する第4桁の「5」と入れ替えた「9775」を第2の候補番号とすることができる。類似評価部37は、上記と同様の方法により、第3の候補番号以下の更なる候補番号(図7の例では、「5375」、「5725」等)を抽出してもよい。また、本実施形態では、類似評価部37は、4桁の数字の全ての候補を決定したが、その一部のみを決定する構成としてもよい。   In the present embodiment, an example in which only the first candidate number is obtained has been shown, but the similarity evaluation unit 37 considers the difference between the evaluation value of the first candidate number and another evaluation value, for example, A plurality of candidate numbers less than or equal to the second candidate number can be determined. Based on the evaluation value of each digit in each digit, the similarity evaluation unit 37 determines one number having the smallest difference from the evaluation value of each digit of the series designation number “5775” as a number constituting the second candidate number. can do. More specifically, in the example of FIG. 7, the evaluation value of “5” having the highest evaluation value (0.135) in the fourth digit and “9” having the second highest evaluation value (0.055). Difference (0.080) between the similar evaluation values in the other digits (for example, the difference between the evaluation values of “7” and “3” (0.085) in the third digit, “7” in the second digit). The difference between the evaluation values of “2” and “2” (0.088), and the difference between the evaluation values of “5” and “3” in the first digit (0.239)). Therefore, the similarity evaluation unit 37 can set “9775” obtained by replacing the fourth digit “9” with the corresponding fourth digit “5” in the series designation number “5775” as the second candidate number. . The similarity evaluation unit 37 may extract further candidate numbers (“5375”, “5725”, etc. in the example of FIG. 7) equal to or less than the third candidate number by the same method as described above. Further, in the present embodiment, the similarity evaluation unit 37 determines all candidates for four-digit numbers, but only a part of the candidates may be determined.

また、本実施形態では、各桁(すなわち、1つの桁)についての評価値を算出する構成としたが、少なくとも認識対象となる文字列を構成する文字数よりも小さい数(例えば、2つの桁)に対して評価値を算出する構成とすることができる。   In the present embodiment, the evaluation value for each digit (that is, one digit) is calculated, but at least a number smaller than the number of characters constituting the character string to be recognized (for example, two digits). It can be set as the structure which calculates an evaluation value with respect to.

図8は、図1に示したナンバープレート認識装置3の処理の流れを示すフロー図である。 ナンバープレート認識装置3による文字列の認識処理では、まず、一連指定番号nが1(n=1)に設定され(ST101)、その一連指定番号に対応する参照用文字から構成される基準画像(すなわち、「・・・1」等)が生成される(ST102)。   FIG. 8 is a flowchart showing the flow of processing of the license plate recognition device 3 shown in FIG. In the character string recognition processing by the license plate recognition device 3, first, a series designation number n is set to 1 (n = 1) (ST101), and a reference image (STEP) composed of reference characters corresponding to the series designation number ( That is, “... 1” or the like is generated (ST102).

その後、ステップST102で生成された基準画像が射影変換されることにより、変換画像が生成され(ST103)、続いて、ステップST103で生成された変換画像に劣化処理が施されることにより、劣化画像が生成される(ST104)。さらに、ステップST104で生成された劣化画像と、認識対象のナンバープレート画像中の文字列との類似度(ここでは、相関値)が算出される(ST105)。   Thereafter, the reference image generated in step ST102 is projectively transformed to generate a converted image (ST103). Subsequently, the converted image generated in step ST103 is subjected to a degradation process, whereby a degraded image is obtained. Is generated (ST104). Further, the similarity (here, the correlation value) between the deteriorated image generated in step ST104 and the character string in the license plate image to be recognized is calculated (ST105).

そこで、一連指定番号nが9999以下(n≦9999)であるか(すなわち、類似度を算出すべき基準画像が残されているか)否かが判定され(ST106)、類似度を算出すべき基準画像が残されている場合(Yes)には、nに1を加算(n=n+1)し(ST107)、再びステップST102に戻って上述と同様の処理を実行する。最終的に一連指定番号nが9999を越えると(ST106:No)、ステップST105において各一連指定番号に対して算出された類似度に基づき、後に詳述する類似評価処理が実行され(ST108)、これにより文字列の認識処理が終了する。   Therefore, it is determined whether the series designation number n is 9999 or less (n ≦ 9999) (that is, whether there is a reference image for which the similarity is to be calculated) (ST106), and the reference for which the similarity is to be calculated. If an image remains (Yes), 1 is added to n (n = n + 1) (ST107), and the process returns to step ST102 to execute the same processing as described above. When the series designation number n finally exceeds 9999 (ST106: No), based on the similarity calculated for each series designation number in step ST105, a similarity evaluation process described in detail later is executed (ST108). This completes the character string recognition process.

図9は、図8中のステップST108の詳細を示すフロー図である。このステップST108における類似評価処理では、まず、図9中のステップST105で算出された類似度に関し、より大きいもの(最大値)から所定の閾値以内の数までの類似度を有する文字列(ここでは、一連指定番号)からなる上位候補が抽出される(ST201)。そこで、文字列における文字の配置順位dが1(d=1)に設定され(ST202)、また、文字番号sが1(s=1)に設定される(ST203)。   FIG. 9 is a flowchart showing details of step ST108 in FIG. In the similarity evaluation process in step ST108, first, with respect to the similarity calculated in step ST105 in FIG. 9, a character string having a similarity from a larger one (maximum value) to a number within a predetermined threshold (here, , A series designated number) is extracted (ST201). Therefore, the character arrangement order d in the character string is set to 1 (d = 1) (ST202), and the character number s is set to 1 (s = 1) (ST203).

ここで、ステップST202に関する文字の配置順位dは、ナンバープレート画像における文字の配置に応じて設定されるものであり、ここでは、一連指定番号の桁(第1桁から第4桁のいずれか)に相当する。認識対象である文字列に数字以外の文字等が含まれる場合でも、ナンバープレート画像における文字の位置またはそれら文字間の相対位置に応じて配置順位が定められる。例えば、ナンバープレート画像において文字列が左右方向に1列に表示されている場合、最も右側に位置する文字の配置番号を1とし、左方に向けて2、3、・・・・x(ただし、xは整数)と配置番号を設定することができる。   Here, the character arrangement order d relating to step ST202 is set according to the character arrangement in the license plate image. Here, the digit of the serial designation number (any one of the first digit to the fourth digit). It corresponds to. Even when the character string to be recognized includes characters other than numbers, the arrangement order is determined according to the position of the character in the license plate image or the relative position between the characters. For example, when a character string is displayed in one line in the left-right direction in the license plate image, the arrangement number of the character located on the rightmost side is 1, and 2, 3,. , X is an integer) and an arrangement number can be set.

また、ステップST203に関する文字番号sは、所定の文字の配置順位に位置する文字の種類であり、ここでは、各桁の数字に相当する。認識対象とする文字列に数字以外の文字等が含まれる場合には、例えば、公知の文字コードに基づき、文字番号sを設定することができる。   The character number s related to step ST203 is a character type positioned in a predetermined character arrangement order, and corresponds to a digit of each digit here. When the character string to be recognized includes characters other than numbers, the character number s can be set based on a known character code, for example.

そこで、ステップST202で設定された文字の配置順位において、ステップST203で設定された文字番号と一致する文字を含む全ての文字列(ST201で抽出されたもの)の類似度を加算する(ST204)。その加算結果は、外部記憶装置4に順次記憶される。   Therefore, in the character arrangement order set in step ST202, the similarities of all character strings (characters extracted in ST201) including characters that match the character numbers set in step ST203 are added (ST204). The addition result is sequentially stored in the external storage device 4.

その後、文字番号sがNs(全文字数)以下であるか(すなわち、所定の配置順位における全ての文字の各々に関し、類似度の加算が終了していない文字が残されているか)否かが判定され(ST206)、類似度の加算が終了していない文字が残されている場合(Yes)には、sに1を加算(s=s+1)し(ST207)、次の文字番号に関して再びステップST204を実行する。最終的に文字番号sがNsを越えると(ST206:No)、配置順位dが4以下(d≦4)であるか(すなわち、配置順位dがその最大値以下であるか)否かが判定される(ST208)。   Thereafter, it is determined whether or not the character number s is equal to or less than Ns (total number of characters) (that is, whether or not there is a character for which the addition of similarity has not been completed for each of all characters in a predetermined arrangement order). (ST206) If there is a character for which the addition of similarity is not completed (Yes), 1 is added to s (s = s + 1) (ST207), and step ST204 is performed again for the next character number. Execute. When the character number s finally exceeds Ns (ST206: No), it is determined whether or not the arrangement order d is 4 or less (d ≦ 4) (that is, the arrangement order d is less than or equal to its maximum value). (ST208).

そこで、d≦4を満たす場合(ST208:Yes)には、dに1を加算(d=n+1)し(ST209)、再びステップST203に戻って次の桁(配置順位)に関して上述と同様の処理を実行する。最終的に配置順位dが4を越えると(ST208:No)、ステップST204で算出された類似度の和の各々について正規化処理が実行され(ST210)、これにより類似評価処理が終了する。ステップST210の正規化処理としては、例えば、ステップST204で算出された類似度の和の各々を、ステップST201で抽出された上位候補の数で除する演算を実行することができる。   Therefore, when d ≦ 4 is satisfied (ST208: Yes), 1 is added to d (d = n + 1) (ST209), and the process returns to step ST203 again to perform the same processing as described above for the next digit (arrangement order). Execute. When the arrangement order d finally exceeds 4 (ST208: No), normalization processing is executed for each of the sums of similarities calculated in step ST204 (ST210), thereby completing the similarity evaluation processing. As the normalization process in step ST210, for example, an operation of dividing each of the sums of similarities calculated in step ST204 by the number of high-order candidates extracted in step ST201 can be executed.

このような類似評価処理により、図6に示したような評価値が算出され、それらは、表示装置5に出力されるとともに、外部記憶装置4に記憶される。さらに、ナンバープレート認識装置3は、上述のように、それら評価値に基づきナンバープレート画像における文字列を構成し得る少なくとも1つの文字の候補を決定することができ、それを表示装置5に出力するとともに、外部記憶装置4に記憶する。なお、ナンバープレート認識装置3は、そのような評価値に基づく文字の候補とともに、図5に示したような類似度に基づくナンバープレート画像中の文字列の上位候補を表示装置5に出力することができる。   With such similarity evaluation processing, evaluation values as shown in FIG. 6 are calculated, and are output to the display device 5 and stored in the external storage device 4. Further, as described above, the license plate recognition device 3 can determine at least one character candidate that can form a character string in the license plate image based on the evaluation values, and outputs it to the display device 5. At the same time, it is stored in the external storage device 4. In addition, the license plate recognition device 3 outputs to the display device 5 the upper candidates for the character strings in the license plate image based on the similarity as shown in FIG. 5 together with the character candidates based on the evaluation value. Can do.

(第2実施形態)
本開示の第2実施形態に係るナンバープレート認識システム1は、上述の図1−図3に示した第1実施形態に係るナンバープレート認識システム1と同様の構成を有している。ただし、上述の第1実施形態では、類似度演算部36が、文字列(一連指定番号)全体の類似度を算出するのに対し、第2実施形態では、類似度演算部36は、文字列の一部(ただし、少なくとも複数の文字からなる)について類似度を算出する。なお、第2実施形態に関し、以下で特に言及しない事項については、上述の第1実施形態と同様とする。
(Second Embodiment)
The license plate recognition system 1 according to the second embodiment of the present disclosure has the same configuration as the license plate recognition system 1 according to the first embodiment shown in FIGS. However, in the first embodiment described above, the similarity calculation unit 36 calculates the similarity of the entire character string (serial designation number), whereas in the second embodiment, the similarity calculation unit 36 calculates the character string. Similarity is calculated for a part of (but consisting of at least a plurality of characters). Regarding the second embodiment, matters not particularly mentioned below are the same as those in the first embodiment described above.

図10および図11は、それぞれ本開示の第2実施形態に係るナンバープレート認識装置3の類似度演算部36による演算結果の一例(上位2桁および下位2桁)を示す図であり、図12は、ナンバープレート認識装置の類似評価部37による各桁の評価値算出結果の一例を示す図である。   10 and 11 are diagrams each illustrating an example (upper two digits and lower two digits) of a calculation result by the similarity calculation unit 36 of the license plate recognition device 3 according to the second embodiment of the present disclosure. These are figures which show an example of the evaluation value calculation result of each digit by the similarity evaluation part 37 of a license plate recognition apparatus.

第2実施形態では、類似度演算部36は、それぞれ図10および図11に示すように、一連指定番号の上位2桁(「・・」−「99」まで)および下位2桁(「・1」−「99」および「00」−「09」まで)の各々の数についてそれぞれ相関値を算出する。   In the second embodiment, the similarity calculation unit 36, as shown in FIGS. 10 and 11, respectively, includes the upper 2 digits (up to “••” − “99”) and the lower 2 digits (“• 1”) of the serial designation number. “-99” and “00”-“09”), the correlation value is calculated.

その後、類似評価部37は、図10に示した相関値に基づき、相関値の大きさの順序が閾値以内となる一連指定番号(上位2桁)を抽出し、さらに、一連指定番号(上位2桁)において評価対象となる各桁の数字について、同一の数字を含む一連指定番号(上位2桁)についての類似度の和を求め、その和を一連指定番号の抽出数で除した値を評価値として算出する。このようにして類似評価部37は、図12に示すように、上位2桁の各数字についての評価値を取得することができる。なお、詳細な説明は省略するが、同様に、類似評価部37は、図12に示した相関値に基づき、下位2桁の各数字の評価値を求めることができる。   Thereafter, the similarity evaluation unit 37 extracts a series designation number (upper two digits) in which the order of the correlation value is within the threshold based on the correlation values shown in FIG. For each digit number to be evaluated in (digits), the sum of similarities is calculated for a series of specified numbers (the upper two digits) that contain the same number, and the value obtained by dividing the sum by the number of extracted series specified numbers is evaluated. Calculate as a value. In this way, the similarity evaluation unit 37 can obtain an evaluation value for each of the upper two digits as shown in FIG. Although the detailed description is omitted, similarly, the similarity evaluation unit 37 can obtain the evaluation value of each number of the lower two digits based on the correlation value shown in FIG.

以上、本開示を特定の実施形態に基づいて説明したが、これらの実施形態はあくまでも例示であって、本開示はこれらの実施形態によって限定されるものではない。例えば、ナンバープレート認識システムによる認識対象は、車両のナンバープレートに限らず、他の機器や装置等に付設されたナンバープレートであってもよい。なお、上記ナンバープレート認識装置及びナンバープレート認識システム並びにナンバープレート認識方法は、必ずしも全てが必須ではなく、少なくとも本開示の範囲を逸脱しない限りにおいて適宜取捨選択することが可能である。   As mentioned above, although this indication was explained based on specific embodiments, these embodiments are illustrations to the last, and this indication is not limited by these embodiments. For example, the recognition target by the license plate recognition system is not limited to the license plate of the vehicle, but may be a license plate attached to another device or device. Note that the license plate recognition device, the license plate recognition system, and the license plate recognition method are not necessarily all necessary, and can be appropriately selected as long as they do not depart from the scope of the present disclosure.

本開示に係るナンバープレート認識装置及びナンバープレート認識システム並びにナンバープレート認識方法は、撮影された車両等のナンバープレート画像における文字列の誤認識を低減可能とし、撮影された車両等のナンバープレート画像における文字列を認識するナンバープレート認識装置及びナンバープレート認識システム並びにナンバープレート認識方法などとして有用である。   A license plate recognition device, a license plate recognition system, and a license plate recognition method according to the present disclosure are capable of reducing erroneous recognition of a character string in a license plate image of a photographed vehicle or the like, and in a license plate image of a photographed vehicle or the like. It is useful as a license plate recognition device, license plate recognition system, and license plate recognition method for recognizing character strings.

1 ナンバープレート認識システム
2 撮像装置
3 ナンバープレート認識装置
4 外部記憶装置
5 表示装置
21 プロセッサ
24 入力装置
25 入出力バス
31 基準画像生成部
32 射影変換行列取得部
33 射影変換処理部
34 画像劣化処理部
36 類似度演算部
37 類似評価部
DESCRIPTION OF SYMBOLS 1 License plate recognition system 2 Imaging device 3 License plate recognition device 4 External storage device 5 Display device 21 Processor 24 Input device 25 Input / output bus 31 Reference image generation unit 32 Projection transformation matrix acquisition unit 33 Projection transformation processing unit 34 Image degradation processing unit 36 Similarity Calculation Unit 37 Similarity Evaluation Unit

Claims (9)

撮影されたナンバープレート画像における文字列を認識する処理を実行するプロセッサを備えたナンバープレート認識装置であって、
前記文字列は、前記ナンバープレート画像中の位置または文字間の相対位置に応じて1からx(ただし、xは2以上の整数)までの配置順位が設定された複数の文字から構成され、
前記プロセッサは、
前記ナンバープレート画像中の前記文字列と、予め準備された複数の基準画像との類似度をそれぞれ算出し、
前記文字列において評価対象となる配置順位にある1またはy(ただし、yはxよりも小さい2以上の整数)個の文字に対応する前記複数の基準画像にそれぞれ含まれる参照用文字について、当該参照用文字が同一となる前記基準画像ごとに前記類似度の和を含む評価値を算出し、
前記評価値に基づき、前記ナンバープレート画像における文字列を構成し得る少なくとも1つの文字の候補を決定することを特徴とするナンバープレート認識装置。
A license plate recognition device including a processor that executes processing for recognizing a character string in a photographed license plate image,
The character string is composed of a plurality of characters in which an arrangement order from 1 to x (x is an integer of 2 or more) is set according to a position in the license plate image or a relative position between characters,
The processor is
Calculating the similarity between the character string in the license plate image and a plurality of reference images prepared in advance,
For the reference characters included in each of the plurality of reference images corresponding to 1 or y (where y is an integer of 2 or more smaller than x) characters in the arrangement order to be evaluated in the character string, An evaluation value including the sum of the similarities is calculated for each of the standard images having the same reference character,
A license plate recognition apparatus that determines at least one character candidate that can constitute a character string in the license plate image based on the evaluation value.
前記プロセッサは、複数の前記類似度のうちより大きいものから所定の閾値以内の数までの類似度のみを用いて前記評価値を算出することを特徴とする請求項1に記載のナンバープレート認識装置。   2. The license plate recognition apparatus according to claim 1, wherein the processor calculates the evaluation value using only similarities from a larger one of the plurality of similarities to a number within a predetermined threshold. . 前記y個の文字は、互いに連続する前記配置順位にあることを特徴とする請求項1または請求項2に記載のナンバープレート認識装置。   3. The license plate recognition apparatus according to claim 1, wherein the y characters are in the arrangement order of being consecutive to each other. 前記参照用文字は、1個の文字からなることを特徴とする請求項1から請求項3のいずれかに記載のナンバープレート認識装置。   4. The license plate recognition apparatus according to claim 1, wherein the reference character is composed of a single character. 前記プロセッサは、全ての前記配置順位に関し、前記参照用文字が同一となる前記基準画像ごとに前記類似度の和を含む評価値を算出することを特徴とする請求項4に記載のナンバープレート認識装置。   5. The license plate recognition according to claim 4, wherein the processor calculates an evaluation value including a sum of the similarities for each of the standard images having the same reference character with respect to all the arrangement orders. apparatus. 前記類似度は、前記ナンバープレート画像中の前記文字列と、前記基準画像との相関係数であることを特徴とする請求項1から請求項5のいずれかに記載のナンバープレート認識装置。   The license plate recognition apparatus according to claim 1, wherein the similarity is a correlation coefficient between the character string in the license plate image and the reference image. 前記プロセッサは、前記類似度に基づき、前記ナンバープレート画像中の前記文字列の候補を決定し、
前記少なくとも1つの文字の候補および前記文字列の候補を表示する表示装置を更に備えたことを特徴とする請求項1から請求項6のいずれかに記載のナンバープレート認識装置。
The processor determines the character string candidates in the license plate image based on the similarity,
The license plate recognition apparatus according to claim 1, further comprising a display device that displays the at least one character candidate and the character string candidate.
請求項1から請求項7のいずれかに記載のナンバープレート認識装置と、前記ナンバープレート画像を撮影する撮像装置とを備えたことを特徴とするナンバープレート認識システム。   A license plate recognition system comprising: the license plate recognition device according to any one of claims 1 to 7; and an imaging device that captures the license plate image. 撮影された車両のナンバープレート画像における文字列を認識する処理を実行するナンバープレート認識装置によるナンバープレート認識方法であって、
前記文字列は、前記ナンバープレート画像中の位置または文字間の相対位置に応じて1からx(ただし、xは2以上の整数)までの配置順位が設定された複数の文字から構成され、
前記ナンバープレート画像中の前記文字列と、予め準備された基準画像との類似度を算出し、
前記文字列において評価対象となる配置順位にある1またはy(ただし、yはxよりも小さい2以上の整数)個の文字に対応する前記複数の基準画像にそれぞれ含まれる参照用文字について、当該参照用文字が同一となる前記基準画像ごとに前記類似度の和を含む評価値を算出し、
前記評価値に基づき、前記ナンバープレート画像における文字列を構成し得る少なくとも1つの文字の候補を決定することを特徴とするナンバープレート認識方法。
A license plate recognition method by a license plate recognition device that executes processing for recognizing a character string in a license plate image of a photographed vehicle,
The character string is composed of a plurality of characters in which an arrangement order from 1 to x (x is an integer of 2 or more) is set according to a position in the license plate image or a relative position between characters,
Calculate the similarity between the character string in the license plate image and a reference image prepared in advance,
For the reference characters included in each of the plurality of reference images corresponding to 1 or y (where y is an integer of 2 or more smaller than x) characters in the arrangement order to be evaluated in the character string, An evaluation value including the sum of the similarities is calculated for each of the standard images having the same reference character,
A license plate recognition method, wherein at least one character candidate that can constitute a character string in the license plate image is determined based on the evaluation value.
JP2016017385A 2015-07-14 2016-02-01 License plate recognition device, license plate recognition system, and license plate recognition method Active JP6709950B2 (en)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2016017385A JP6709950B2 (en) 2016-02-01 2016-02-01 License plate recognition device, license plate recognition system, and license plate recognition method
US15/742,375 US10853680B2 (en) 2015-07-14 2016-07-04 Identification medium recognition device and identification medium recognition method
PCT/JP2016/003183 WO2017010058A1 (en) 2015-07-14 2016-07-04 Identification medium recognition device and identification medium recognition method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016017385A JP6709950B2 (en) 2016-02-01 2016-02-01 License plate recognition device, license plate recognition system, and license plate recognition method

Publications (2)

Publication Number Publication Date
JP2017138674A true JP2017138674A (en) 2017-08-10
JP6709950B2 JP6709950B2 (en) 2020-06-17

Family

ID=59566757

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016017385A Active JP6709950B2 (en) 2015-07-14 2016-02-01 License plate recognition device, license plate recognition system, and license plate recognition method

Country Status (1)

Country Link
JP (1) JP6709950B2 (en)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109948608A (en) * 2019-02-28 2019-06-28 中山安信通机器人制造有限公司 A kind of license plate number knows method for distinguishing, computer installation and computer readable storage medium
CN111382722A (en) * 2020-03-23 2020-07-07 浙江大华技术股份有限公司 License plate image optimization method, image processing device and device with storage function
JPWO2021014498A1 (en) * 2019-07-19 2021-01-28
CN112329758A (en) * 2020-11-04 2021-02-05 深圳市极致科技股份有限公司 License plate-based fuzzy matching method and device, electronic equipment and storage medium
CN112800721A (en) * 2021-01-21 2021-05-14 浙江大华技术股份有限公司 License plate recognition method and device, storage medium and electronic device

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008251029A (en) * 2008-05-12 2008-10-16 Mitsubishi Heavy Ind Ltd Character recognition device and license plate recognition system
JP2014238636A (en) * 2013-06-06 2014-12-18 住友電工システムソリューション株式会社 Bus location system and central device

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008251029A (en) * 2008-05-12 2008-10-16 Mitsubishi Heavy Ind Ltd Character recognition device and license plate recognition system
JP2014238636A (en) * 2013-06-06 2014-12-18 住友電工システムソリューション株式会社 Bus location system and central device

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109948608A (en) * 2019-02-28 2019-06-28 中山安信通机器人制造有限公司 A kind of license plate number knows method for distinguishing, computer installation and computer readable storage medium
CN109948608B (en) * 2019-02-28 2023-06-16 珠海全信通科技有限公司 License plate number recognition method, computer device and computer readable storage medium
JPWO2021014498A1 (en) * 2019-07-19 2021-01-28
WO2021014498A1 (en) * 2019-07-19 2021-01-28 三菱重工機械システム株式会社 Number plate information specifying device, billing system, number plate information specifying method, and program
GB2600312A (en) * 2019-07-19 2022-04-27 Mitsubishi Heavy Ind Mach Systems Ltd Number plate information specifying device, billing system, number plate information specifying method, and program
JP7228045B2 (en) 2019-07-19 2023-02-22 三菱重工機械システム株式会社 License plate information identification device, billing system, license plate information identification method and program
GB2600312B (en) * 2019-07-19 2023-06-14 Mitsubishi Heavy Ind Mach Systems Ltd Number plate information specifying device, billing system, number plate information specifying method, and program
CN111382722A (en) * 2020-03-23 2020-07-07 浙江大华技术股份有限公司 License plate image optimization method, image processing device and device with storage function
CN111382722B (en) * 2020-03-23 2023-09-05 浙江大华技术股份有限公司 License plate image optimization method, image processing device and device with storage function
CN112329758A (en) * 2020-11-04 2021-02-05 深圳市极致科技股份有限公司 License plate-based fuzzy matching method and device, electronic equipment and storage medium
CN112800721A (en) * 2021-01-21 2021-05-14 浙江大华技术股份有限公司 License plate recognition method and device, storage medium and electronic device

Also Published As

Publication number Publication date
JP6709950B2 (en) 2020-06-17

Similar Documents

Publication Publication Date Title
JP6709950B2 (en) License plate recognition device, license plate recognition system, and license plate recognition method
JP3987264B2 (en) License plate reader and method
JP5783885B2 (en) Information presentation apparatus, method and program thereof
JP4670664B2 (en) Image recognition device
JP2020519989A (en) Target identification method, device, storage medium and electronic device
JP2014531097A (en) Text detection using multi-layer connected components with histograms
JPWO2006030519A1 (en) Face authentication apparatus and face authentication method
JP2012063869A (en) License plate reader
WO2017010058A1 (en) Identification medium recognition device and identification medium recognition method
KR100777922B1 (en) System For Personal Authentication and Electronic Signature Using Image Recognition And Method Thereof
US20180189590A1 (en) Identification medium recognition device and identification medium recognition method
CN102473306B (en) Image processing apparatus, image processing method, program and integrated circuit
JP6574920B1 (en) Image processing system, image processing method, and program
KR101324250B1 (en) optical axis error compensation method using image processing, the method of the same, and the zoom camera provided for the compensation function of the optical axis error
JP4993615B2 (en) Image recognition method and apparatus
JP6574921B1 (en) Image processing system, image processing method, and program
JP6107372B2 (en) Image processing apparatus, image processing method, and image processing program
US20180293425A1 (en) Symbol Detection for Desired Image Reconstruction
JP4517003B2 (en) Automatic road sign recognition system
JP4859061B2 (en) Image correction method, correction program, and image distortion correction apparatus
CN107958202B (en) Human body detection apparatus, control method of human body detection apparatus, and storage medium
JPWO2018011930A1 (en) Image processing apparatus, image processing method, and program
JP5708305B2 (en) Image recognition apparatus, image recognition method, and computer program for image recognition
KR101831587B1 (en) Camera-Angle Invariant Feature Extraction Method for Low Computation Number and Character Recognition
KR101907852B1 (en) Method and Apparatus for Processing Stereo Images

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190130

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191008

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191205

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200407

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200501

R151 Written notification of patent or utility model registration

Ref document number: 6709950

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151